Сын русских эмигрантов. В 5-летнем возрасте Гедда начал петь в хоре русской церкви в Лейпциге и проявил незаурядные музыкальные способности.
Сын русских эмигрантов, Николай Гедда приобрел известность певца с мировым именем. С мировым, отчасти еще и потому, что впитал в себя этническую и языковую культуру различных стран. Первым из семи языков, которые он выучил в совершенстве, был русский. Первой музыкой для него стало пение в православном храме - то время его отчим служил регентом в русской православной церкви в Лейпциге, и с юных лет начал обучать мальчика музыкальной грамоте и пению. В результате кроме церковных песнопений репертуар молодого певца составили романсы и русские народные песни. Сам артист так вспоминает свои университеты: «Помню, многие плакали оттого, как я бойко выводил старинные романсы».
В 1934 году после прихода Гитлера к власти родители Николая решили переехать в Швецию. Там юный музыкант окончательно утвердился в решении серьёзно заняться вокалом и продолжил свое обучение под руководством тенора Мартина Эмана. Позже, за океаном, его учила пению Паола Новикова, певица не русской, а итальянской школы.
В начале карьеры Николая Гедду услышал человек, который не был ни певцом, ни музыкантом. Этот англичанин Уолтер Легге - муж великой певицы Элизабет Шварцкопф, и он предсказал певцу блестящее будущее. Кстати, в то время он был продюсером на фирме грамзаписи и многое сделал для успешной карьеры Николая Гедды и Герберта фон Караяна.
Караян постоянно включал Гедду в свои проекты. Союз этих двух великих музыкантов подарил слушателям много новых прочтений Баха и Моцарта, Орфа и Стравинского. Их сотрудничество началось в 1952 и прекратилось в 1966 году. К этому времени без Гедды уже не мог обойтись ни один театр - ни миланская «Ла Скала», ни парижская "Гранд Опера", ни нью-йоркская "Метрополитен".
Великий тенор не был прирожденным актером, но терпеливо и по-ученически прилежно изучал систему Станиславского. Он также тщательно следил за своим весом и фигурой, что позволило многим критикам заявить: «Тенор, а без живота». Гедда покорял публику не солидностью своего внешнего вида, а силой и могуществом голоса. Не случайно поэтому в свое время был распространен миф о том, что лирическому тенору подвластны и драматические партии.
Певцу никогда не хотелось ограничивать себя только оперным репертуаром. Еще в молодости он ощущал тяготение к русскому романсу и французскому камерному вокалу. В своих мемуарах Гедда признается, что именно в Париже он выработал вкус и ощущение стиля.
Репертуар шведского певца огромен. Помимо роли Альфреда, значительную его часть составляют партии Гофмана в «Сказках Гофмана» Оффенбаха, Де Грие в «Манон», Хозе, Ленского, Вертера, Пинкертона, Артура в "Пуританах" Беллини, Сергея в «Катерине Измайловой» Шостаковича. С партией Сергея связаны особые воспоминания артиста о Мстиславе Ростроповиче и Галине Вишневской. Запись оперы осуществлялась тогда в Лондоне, через две недели после того, как музыкантов лишили советского гражданства. Опере Шостаковича было отказано в постановке в театре «Ла Скала». И в этой записи воплотилась вся боль русских по духу музыкантов.