Павел Коган родился в Москве, в семье выдающихся советских музыкантов. Его родители — легендарные скрипачи Леонид Коган и Елизавета Гилельс, его дядя — великий пианист Эмиль Гилельс.
С 5 лет Павел Коган начал заниматься скрипкой под руководством Майи Глезаровой. В 7 лет он был принят в Центральную музыкальную школу при Московской консерватории. Ко времени школьной учебы относятся и первые публичные выступления юного скрипача. В 12 лет он дебютировал на сцене Большого зала Московской консерватории, а в 14 принял участие в праздновании 100-летия Московской консерватории в историческом ансамбле с Леонидом Коганом, Давидом и Игорем Ойстрахами
В 1969 году, после окончания ЦМШ, Павел Коган был зачислен в Московскую консерваторию в скрипичный класс выдающегося профессора Юрия Янкелевича.
Через год он завоевал первую премию на престижнейшем Международном конкурсе скрипачей имени Яна Сибелиуса в Хельсинки. Эта победа принесла ему мировую известность и статус одного из ведущих исполнителей своего поколения. После нее Коган активно концертировал в СССР и за рубежом с сольными выступлениями и с оркестрами. Ему довелось играть под управлением таких мастеров, как Юджин Орманди, Кирилл Кондрашин, Давид Ойстрах, Евгений Светланов, Герберт Бломштедт, Пааво Берглунд. В этот период он записал множество пластинок для фирмы «Мелодия», а также, по личной просьбе Лукино Висконти, музыку Франко Маннино к кинофильму «Людвиг».
Одновременно Коган, мечтавший о дирижировании, поступает в Ленинградскую консерваторию в дирижерский класс блистательного профессора Ильи Мусина (1970), но через некоторое время (1971) получает разрешение на параллельное обучение в двух консерваториях и начинает учиться в Московской консерватории в классе знаменитого профессора Лео Гинзбурга.
Его яркий талант был очень скоро отмечен крупнейшими советскими дирижерами и уже в 1972 году Коган встал за пульт ведущего оркестра страны — Государственного академического симфонического оркестра СССР. С этого момента началось стремительное развитие его дирижерской карьеры.
Он начал работать с лучшими коллективами СССР (затем России) и мира. Оркестр Большого театра, Заслуженный коллектив Ленинградской филармонии, Госоркестр СССР, Академический симфонический оркестр Московской филармонии, БСО Всесоюзного радио и телевидения, Филадельфийский симфонический оркестр, Симфонический оркестр Лос-Анджелеса, Оркестр баварского радио, Оркестр Мюнхенской филармонии, Национальный оркестр Франции, Национальный оркестр Бельгии, Филармонический оркестр Хельсинки, Оркестр радио и телевидения Испании, Китайский филармонический оркестр, Симфонический оркестр Торонто, Штаатскапелла Дрездена, Оркестр Тиволи в Копенгагене, Оркестр Шведского радио, Оркестр романской Швейцарии, RTL Люксембург — вот неполный перечень коллективов, с которыми Павел Коган многократно сотрудничал. В 1978 году он был приглашен дирижировать Госоркестром СССР на финале VI Международного конкурса им. П. И. Чайковского в Москве.
Евгений Мравинский, Евгений Светланов, Кирилл Кондрашин, Геннадий Рождественский благоволили одаренности Когана и регулярно приглашали выступать со своими коллективами, в том числе в зарубежных турне.
Вместе с активной концертной деятельностью Павел Коган по-прежнему уделял много времени своему образованию, завершив учебу в Московской консерватории, он поступил в ее же аспирантуру, окончив которую начал преподавать скрипку в своей alma mater, а в 1978 году получил позицию приглашенного профессора Университета штата Индиана (Блумингтон, США).
В сезонах 1980-81 и 1981-82 годов. Коган работал со знаменитым Московским камерным оркестром в качестве дирижера. В 1989 в Большом театре им была поставлена и шла с огромным успехом опера Верди «Травиата»; в том же году он возглавил Загребский филармонический оркестр — главный симфонический коллектив тогда еще единой Югославии. С 1998 по 2005 год Коган являлся главным приглашенным дирижером Симфонического оркестра штата Юта (Солт-Лейк-Сити, США).
В 1989 году маэстро был приглашен коллективом Московского государственного симфонического оркестра на должность художественного руководителя и главного дирижера. Коллектив Павел Коган возглавлял более 20 лет — до 2021 года.