Родился 9 апреля 1938 г. в с. Черный Острог Саракташского района Оренбургской области.
Окончил Куйбышевский политехнический институт им.В.В.Куйбышева в 1966 г. с квалификацией "инженер-технолог".
С 1967 г. перешел на партийную работу: в 1967-1973 гг. работал в Орском горкоме КПСС.
Вернулся к работе в промышленности, в 1973-1978 гг. был директором Оренбургского газоперерабатывающего завода. В 1978 г. был переведен на работу в аппарат ЦК КПСС. С 1978 по 1982 г. работал инструктором Отдела тяжелой промышленности ЦК.
В 1982 г. был назначен на пост заместителя министра нефтяной и газовой промышленности СССР. Избирался депутатом Верховного Совета СССР XI созыва (1984-1989) и Верховного Совета РСФСР XI созыва (1985-1990). В правительствах Н.А.Тихонова и Н.И.Рыжкова занимал пост министра газовой промышенности СССР (12 февраля 1985 - 27 июня 1989). На XXVII съезде КПСС был избран членом ЦК (1986-1990).
С 15 августа 1989 г. занимал пост председателя правления концерна "Газпром".
30 мая 1992 г. Черномырдин был назначен заместителем Председателя Правительства РФ по топливно-энергетическому комплексу.
14 декабря 1992 был утвержден Председателем Совета Министров России.
В мае 1995 г. был избран председателем Движения "Наш дом Россия".
После победы в июле 1996 г. на президентских выборах Ельцина и вступления его в должность, Правительство в соответствии с Конституцией подало в отставку (9 августа 1996). Президент вновь внес кандидатуру Черномырдина на пост главы правительства, одобренную Думой 10 августа 1996 г. В марте 1997 г. Ельцин произвел реорганизацию правительства и ввел в него команду "молодых реформаторов" А.Б.Чубайса и Б.Е.Немцова.
После августовского (1998 г.) финансового кризиса и отставки правительства Кириенко Ельцин снова назначил Черномырдина и.о. Председателя Правительства (23 августа 1998), но Государственная Дума дважды отклонила его кандидатуру.
В мае 2001 г. Черномырдин был назначен послом России на Украине.