Как у большинства гениальных музыкантов, тяга к музыке у юного Александра появилась благодаря родителям. Отец был музыкантом-любителем и дал сыну первые уроки игры на фортепиано. С восьми лет у Саши начинается настоящее обучение: Зилоти поступает в Московскую консерваторию в класс Николая Зверева. Строжайшая дисциплина, обучение не только игре, но и манерам в обществе дали Зилоти прекрасное образование и воспитание. В шестнадцать лет Александр переходит на старшее отделение консерватории к Николаю Рубинштейну, у которого учится до смерти Николая Григорьевича в 1881 году.
С учителями Зилоти крупно везло. Александра обучал «звёздный состав» преподавателей: гармонии — Чайковский, с которым Зилоти впоследствии крепко дружил и даже редактировал сочинения Петра Ильича; контрапункт преподавал Танеев, а теорию музыки Николай Губерт. После смерти Рубинштейна, когда восемнадцатилетний Зилоти успешно сдал экзамены, юного пианиста награждают золотой медалью и направляют в Германию, чтобы учиться у Ференца Листа. Зилоти не только становится учеником Листа, но и его большим другом. Зилоти многое сделает для популяризации музыки Листа: будет постоянно исполнять его произведения, напишет книгу «Мои воспоминания о Ференце Листе», организует «Листовское общество» в Лейпциге. Обучение у Листа сводит Зилоти с Григом и Бородиным. После смерти наставника Зилоти возвращается в Москву.
У Зилоти не только «звёздные учителя», но и весь круг общения. Молодой пианист находится в самом центре общественной и культурной жизни России. Его жена — Вера Третьякова, дочь основателя Третьяковской галереи и двоюродной сестры мецената Саввы Мамонтова; двоюродный брат — Рахманинов; друзья и близкие знакомые: Шаляпин, Нежданова, Собинов, Шапорин, Оссовский, Тибо, Казальс, Ауэр, Изаи, Вержбилович. Одним словом, по биографии Зилоти можно изучать музыкальную культуру конца 19-го — начала 20 века. Зилоти преподаёт в Московской консерватории. Но, пожалуй, главное дело Александра Ильича — это «заставлять публику каким бы то ни было способом ходить в концерты и слушать лишь хорошую музыку и лишь в хорошем исполнении: полюбить музыку „за самое себя“ и получить потребность слушать хорошую музыку». Этим рвением наполнены знаменитые «Концерты Александра Зилоти», где публика знакомится с редкой музыкой Генделя, Вивальди, Баха, Рамо, современными произведениями Рахманинова, Шоссона, Дебюсси, Равеля, Глазунова, Скрябина, Стравинского, Прокофьева. На этих концертах блистают самые талантливые музыканты своего времени. Зилоти и сам гастролирует в Европе, где его признают одним из лучших пианистов, популяризатором русской музыки. Около двадцати лет «Концерты Зилоти» находятся в центре столичной музыкальной жизни, но Александр Ильич хочет большего: в 1912 году создаёт «Общедоступные концерты», цена на которые в два раза меньше, чем на обычные концерты, в 1915 «Бесплатные народные концерты», в 1916 году вместе с Горьким и Рахманиновым учреждает «Русский музыкальный фонд. Общество для пособия нуждающимся музыкантам и их семьям».
Революцию Зилоти не поддерживает. Пытается организовывать концерты, продолжает учить юных музыкантов, возобновляет спектакли в Мариинском театре, после того, как театры Петрограда закрыли в 1917-м, заведует школой музыкального просвещения. Но с новой властью общий язык так и не находит. Покидает Россию: сначала уезжает в Финляндию, затем в Германию, а с 1922 обосновывается в Нью-Йорке, где порой даёт концерты и преподаёт в знаменитой Джульярдской школе. Меркантилизм Америки Зилоти переносит с большим трудом: «Вести школу с подлинно высокими идеалами, по справедливости относиться к профессорам, учителям и студентам и при этом делать деньги — невозможно. Деньги, которые вы делаете, отняты у педагога, работающего изо дня в день, для того чтобы учебное заведение могло отобрать себе половину платы за обучение». Живя вдали от Родины, Зилоти старался участвовать в судьбе русского искусства. К примеру, помогал Станиславскому организовать гастроли МХАТа и лично дирижировал на спектаклях. Во время Великой Отечественной войны Зилоти с Рахманиновым пересылали деньги на имя Генерального консула СССР. Музыкант умер в возрасте 82 лет в декабре 1945 года.