Родился в Горьком в семье известного эстрадного пианиста Давида Ашкенази. Рано проявив музыкальные способности, он в 1945 году поступил в ЦМШ в класс Анаиды Сумбатян. Первый сольный концерт сыграл апреле 1955 г. в Большом зале Московской консерватории. В том же году поступил в консерваторию в класс Льва Оборина.
В 1956 г. получил вторую премию на Конкурсе им. Шопена в Варшаве и первую — на Конкурсе королевы Елизаветы в Брюсселе. В 1957 г. состоялись его первые зарубежные гастроли в Германии. В 1962 г. получил первую премию на II Международном конкурсе им. П. И. Чайковского (разделив ее с Джоном Огдоном). Вскоре переехал в Англию. С 1969 г. живет в Исландии. Здесь Ашкенази начал дирижерскую карьеру.
С 1998 по 2003 гг. — главный дирижер оркестра Чешской филармонии, в 2004–2007 гг. — музыкальный директор Токийского симфонического оркестра NHK, с января 2009 г. — главный дирижер Сиднейского симфонического оркестра. Главный приглашенный дирижер лондонского оркестра «Филармония» (ныне почетный дирижер) и Симфонического оркестра Исландии; директор Молодежного оркестра Европейского союза. Дирижировал многими крупными оркестрами мира, в числе которых Кливлендский (где он был главным приглашенным дирижером), Сан-Францисский Симфонический, Берлинский Симфонический (в 1988 — 1996 — главный дирижер и музыкальный директор). В мае 2007 г. возглавил жюри Первого международного конкурса дирижеров им. Евгения Светланова в Люксембурге.
Параллельно с дирижерской деятельностью продолжает карьеру пианиста. Дискография шестикратного обладателя премии «Грэмми» чрезвычайно обширна. В частности, им записаны все фортепианные сочинения Шопена, Брамса, Листа, Рахманинова, Скрябина, а также все пять фортепианных концертов С. Прокофьева. В 1999 г. удостоена «Грэмми» запись Прелюдий и фуг Шостаковича; недавно записал «Хорошо темперированный клавир» Баха.
В 1985 г. в Нью-Йорке вышла автобиографическая книга Ашкенази «Beyond the Frontiers».