Em 1990, já filiado ao PSDB, conquistou seu segundo mandato na Câmara. Dois anos depois, concorreu, sem sucesso, à eleição para a Prefeitura de Belo Horizonte. Em seu terceiro mandato como deputado federal, tornou-se líder da bancada do seu partido.
Em 2001, em uma articulação que contou com a ajuda do então ministro da Saúde José Serra, apresentou-se como candidato à presidência da Câmara à revelia do PFL (atual DEM), principal aliado do governo Fernando Henrique Cardoso. Eleito, tomou medidas, como a criação do Conselho de Ética, que ajudaram a pavimentar seu nome para a disputa do governo de Minas Gerais.
Eleito duas vezes no primeiro turno e com a maior taxa de aprovação entre governadores em 2009, foi cotado para disputar a vice-presidência na chapa de Serra em 2010, mas recusou o convite. No mesmo ano, foi eleito senador.