Губенко родился 17 августа 1941 года в Одессе. В раннем возрасте осиротел. Окончил спецшколу-интернат для мальчиков, в 1958 году поступил в труппу Одесского театра юного зрителя. В Москве учился во ВГИК (мастерская Сергея Герасимова и Тамары Макаровой).

После успешно сыгранной роли Артуро Уи (Гитлер) в дипломном спектакле “Карьера Артуро Уи” по Бертольту Брехту актера заметил главный режиссер Театра на Таганке Юрий Любимов и пригласил его в свою труппу. На Таганке Губенко сыграл несколько заметных ролей: летчика (“Добрый человек из Сезуана” Брехта), Керенского (“Десять дней, которые потрясли мир” по мотивам книги Джона Рида), Пугачева (одноименный спектакль по поэме Есенина), Печорина (“Герой нашего времени” Лермонтова), Годунова (“Борис Годунов” Пушкина).

После смерти Анатолия Эфроса в 1987 году возглавил труппу Театра на Таганке. В 1989 году покинул должность — стал министром культуры СССР.

В 1993 году труппа Театра на Таганке разделилась, 36 артистов труппы во главе с Губенко основали новый театр — “Содружество актеров Таганки”.

Параллельно с работой в театре и режиссурой снимался в кино. На втором курсе вузе снялся в одной из главных ролей в фильме Марлена Хуциева “Застава Ильича“ — Коли Фокина. Эта роль открыла для Губенко путь в большой кинематограф. В разные годы сыграл порядка 20 ролей. Самые известные из них — Блюхер (“Пароль не нужен”, 1967), лейтенант Голощеков (“Они сражались за Родину”, 1975), Сергей Уваров (“Прошу слова”, 1975).