Карл Нильсен родился 9 июня 1865 года на острове Фюн, в небольшой деревеньке Сортелунг в бедной крестьянской семье. Он был седьмым ребёнком из двенадцати детей. Его отец работал маляром, но также умел играть на скрипке и корнете и часто сопровождал свадьбы, крестины и другие деревенские праздники.
Нильсен так описывает свои первые музыкальные впечатления:
«Всё на Фюне отличается от остального мира, и тот, кто прислушается — поймёт это. Пчёлы жужжат по-своему, с особым фюнским акцентом, а в ржании лошадей и мычании коров всем слышится что-то особенное… Колокольчики звенят, а петухи кукарекают на фюнском диалекте, и из каждого птичьего гнезда слышится радостная симфония, когда мать кормит своих птенцов. Тишина поёт ту же мелодию, и даже деревья видят сны и разговаривают по-фюнски».
В восемь лет Карл начинает учиться играть на скрипке и сочиняет свои первые опусы: колыбельную и польку. В четырнадцать ‑ Нильсен поступает в полковой оркестр города Оденсе и четыре года служит военным горнистом.
В мае 1883 года начинается новый этап в жизни будущего композитора: благодаря помощи состоятельных соседей юноша отправляется в Копенгаген и попадает на прослушивание к скрипачу Вальдемару Тофте, а также показывает свой квартет известному композитору, органисту и дирижёру Нильсу Гаде. Оба именитых музыканта одобрительно отзываются об успехах Карла и рекомендуют ему поступить в Копенгагенскую консерваторию. Они же становятся его учителями.
После получения диплома Нильсен начинает активную композиторскую деятельность.
Он работает почти во всех музыкальных жанрах — от оперы до фортепианной миниатюры и песни, однако в центре его творческих интересов находится симфония, наиболее полно раскрывающая его эстетические позиции.
Стиль Нильсена претерпел значительную эволюцию. Геннадий Рождественский когда-то давал цикл концертов под названием «Скандинавская триада», где звучала неизвестная в России музыка датчанина. Знаменитый дирижёр утверждает: «Его стиль нельзя определить, кроме как „стиль Нильсона“, он его создал. Он ни на кого не похож».
Нильсен написал шесть симфоний. Свой первый опыт в этой области он осуществил в 1892 году в возрасте 27 лет, ещё под влиянием Брамса и Верди.
В основу его Второй симфонии легли четыре человеческих темперамента. Эта идея родилась у Нильсена в пабе, где на стене висела народная комическая картинка, изображающая четыре типа характера.
Интересно, что Нильсен, будучи автором уже двух симфоний, всё ещё работал скрипачом в Королевском придворном оркестре. Однако к тому времени, когда была написана Третья симфония, он стал дирижёром, и представил её сам в 1911 году.
Четвёртая симфония — одна из наиболее часто исполняемых — была написана в годы Первой мировой войны, под впечатлением бомбёжек, газовых атак и трагических новостей, приходящих с фронта. Эта симфония тоже имеет программный подзаголовок: «Det Uudslukkelige» («Неугасимое»). Столь необычным названием Нильсен пытается высказать центральную мысль своего мировоззрения: «Музыка — это жизнь и подобно ей она неугасима». Кстати, в музыкантских кругах её шуточно окрестили как «Невыносимая» из-за битвы барабанов. Именно с этого произведения Нильсен начинает уделять особое внимание ударной группе оркестра.
В ещё большей степени страшные события мирового противостояния нашли отражение в Пятой симфонии, которая считается вершиной творчества Нильсена. В то же время это одно из самых новаторских его произведений, открывающее путь к позднему композиторскому стилю.
В последний период творчества композитор сочиняет знаменитый Квинтет для духовых инструментов, Шестую симфонию, а также два концерта — для флейты и для кларнета, которые — несмотря на сложность солирующих партий — входят в репертуар многих исполнителей. Кроме этого Нильсен пишет две книги: сборник критических эссе и автобиографию «Моё детство на Фюне».
Основой эстетики Нильсена была простота. Выступая за ясность и отсутствие излишеств, композитор опирался на своеобразие национального художественного мышления. Простая и здоровая атмосфера детства сформировала у музыканта гармоничное и объективное восприятие мира, ему были чужды безудержность и страстность романтического чувства. В то же время, экспериментируя с тональностью, Нильсен разработал собственный почерк, отличавшийся от современных ему композиторов. Умер музыкант 3 октября 1931 года в Копенгагене.
Слава пришла к Нильсену уже после смерти. Лишь через несколько десятилетий после ухода маэстро из жизни его сочинения прочно вошли в концертный репертуар, а Дания назвала его величайшим национальным композитором.