Йозеф Сук окончил Пражскую консерваторию по двум специальностям: игре на скрипке учился у Антонина Бенневица, а композицию изучал в классе Антонина Дворжака. С ним Йозеф Сук потом породнится — женится на дочери композитора.
В 1891–1933 годах был вторым скрипачом в знаменитом Чешском квартете, который основали выпускники Пражской консерватории. Коллектив пропагандировал чешскую камерную музыку, играл произведения Дворжака и Яначека, сочинявших специально для Чешского квартета. Сергей Иванович Танеев посвятил музыкантам свой Четвёртый квартет.
Йозеф Сук — автор целого ряда симфонических и камерных произведений. Одно из самых масштабных — симфония № 2 «Азраил». За свой праздничный марш гимнастов «В новую жизнь» композитор удостоился серебряной медали конкурса искусств на X Олимпийских играх 1932 года в Лос-Анджелесе. Можно сказать, что Сук тогда был лучшим, поскольку золотая медаль в номинации «Музыка» никому не досталась.
Среди учеников Йозефа Сука — классик чешской музыки XX века Богуслав Мартину. Внук композитора пошёл по стопам деда — стал скрипачом, а также освоил и альт. В 1951 году основал фортепианное Трио имени Сука, а в 1974 – Камерный оркестр, который также назвал в честь деда. С 2000 года коллектив является базовым оркестром Моцартовского фестиваля в Аугсбурге.