Линн Харрелл родился в семье музыкантов: мама — скрипачка, папа — певец. В 8 лет мальчик начинает учиться игре на виолончели. Образование получит блестящее: Высшая школа Дентона, Джульярдская школа, а затем Кёртисовский институт музыки.
17-летний Линн Харрелл дебютирует в составе Нью-Йоркского филармонического оркестра в Карнеги-холле. Через год, в 1962 году, Линн участвует во Втором международном конкурсе имени Чайковского и выходит во второй тур. В этом же году начинает играть в Кливлендском оркестре под управлением Джорджа Селла и Пьера Булеза. Линн Харрелл станет концертмейстером группы виолончелей всего через два года.
В оркестре виолончелист проработает почти 10 лет. В 1971 году он впервые выступает в роли солиста. Концерт в Нью-Йорке делает его знаменитым. С этого момента Линн Харрелл играет с известнейшими музыкантами планеты, звёздными дирижёрами и лучшими оркестрами. Харрелл неоднократно выступал в Новой Зеландии, Австралии, Японии, Корее, Тайване и других странах.
Линн Харрелл исполняет как классику XVIII–XIX веков, так и современные произведения.
Линн Харрел также занимается педагогической деятельностью. Музыкант преподавал в Королевской академии музыки в Лондоне, Кливлендском институте музыки, Джульярдской школе, университете Райса.
Линн Харрелл частый гость известных фестивалей и конкурсов, а в 2001 году появился и Конкурс Линна Харрелла. Его учредил Далласский симфонический оркестр.
В 2010 году вместе со своей супругой, скрипачкой Элен Найтингейл, Линн Харрелл основал фонд HEARTbeats. С помощью благотворительных концертов и проектов фонд помогает детям, столкнувшимся с нищетой, военными конфликтами и другими проблемами.
Среди наград виолончелиста две премии Грэмми, премия Эвери Фишера, а также премия Григория Пятигорского. Музыкант играл на инструментах Страдивари и Монтаньяна, но сейчас предпочитает виолончель Кристофера Данги, изготовленную мастером в 2008 году.