Йоммелли родился в семье торговцев в городе Аверсе близ Неаполя. Отец отдал Никколо учиться музыке у Муццилло — тогдашнего директора Аверского кафедрального собора. Вскоре мальчик поступает в неапольскую консерваторию Сант-Онофрио-а-Капуана. Большое влияние на музыканта оказывает Иоганн Адольф Хассе, который в этот период проживает и преподает в Неаполе.
После окончания консерватории Йоммелли пишет свою первую оперу «L’errore amoroso». Дальше — опера-сериа «Ricimero re di Goti», которую с успехом исполняют в Риме. Еще во время обучения Йоммелли впечатляет метод работы Хассе и то, как мастер использует в своих операх речитативы. Через некоторое время этот приём усиления напряженности станет одной из визитных карточек Йоммелли.
В сороковых годах Йоммелли пишет оперы для нескольких итальянских городов: Болоньи, Венеции, Падуи, Феррары и Пармы. В Болонье Йоммелли ждет судьбоносная встреча с Падре Мартини — знаменитым в то время композитором и педагогом, учениками которого в разное время были Моцарт, Иоганн Кристиан Бах, Максим Березовский. Мартини становится не только наставником и справедливым критиком Йоммелли, но и надежным другом.
В 1745 году Хассе рекомендует Йоммелли в качестве маэстро капеллы Ospedale degli Incurabili в Венеции. Там Никколо пишет религиозную музыку для женского хора. Через год музыкант уезжает из Венеции и в Аргентинском театре Рима ставит свою первую версию «Didone abbandonata», а затем отправляется в родной Неаполь.
Но вскоре Йоммелли снова окажется в Риме — ему предложат принять участие в праздновании годовщины Римской католической церкви. Йоммелли вызывает кардинал Генрих Бенедикт и заказывает ему ораторию на текст знаменитого Пьетро Метастазио «La passione di Gesù Cristo». Позже Йоммелли напишет на либретто Метастазио несколько опер.
В последние годы жизни Йоммелли занимал пост капельмейстера у герцога Карла Ойгена в Штутгарте. Там композитор создал свои лучшие оперы. Последние годы жизни Никколо провёл в Неаполе, однако там его сочинения принимали не так тепло, как раньше: в зрелом творчестве Йоммелли окончательно утвердился в жанре оперы-сериа, тогда как в Италии большей популярностью пользовалась опера-буффа.