Родился в Будапеште. В возрасте девяти лет начал учиться играть на скрипке. Холокост прервал его занятия. После Второй мировой войны родители Кармеля переехали в Израиль, где Дов продолжил учёбу в Музыкальном институте. В середине прошлого века Дов Кармель преподавал в школах Израиля. Музыку начал сочинять, когда исполнилось тридцать лет.