En mars 1967, il est battu aux législatives par André Rousselet, proche collaborateur de François Mitterrand. Il retrouvera son siège en et s'apparentera au groupe des Républicains indépendants (les « Giscardiens »). Adjoint au maire de Toulouse Louis Bazerque depuis 1959, il est responsable de l'important secteur social de la ville. En , il se présente contre ce même Louis Bazerque et est élu au second tour avec 58 % des voix[3]. Il était conseiller général depuis 1961 et le resta jusqu'à son décès. Réélu député en mars 1973, il doit faire face en à une vive offensive des Socialistes conduits par Alain Savary. Il l'emporte dans deux des trois secteurs de la ville.
En mars 1978, il est battu aux législatives par le jeune socialiste Gérard Bapt. Il est député européen pour le mandat de 1979 à 1984.
En , il cède la tête de liste à son fils Dominique qui est facilement élu à sa place.
Audrey Choteau, « 1971 : Pierre Baudis et le basculement du Capitole », dans Toulouse, métropole méridionale : Vingt siècles de vie urbaine (Actes du 58e Congrès de la Fédération historique de Midi-Pyrénées), Toulouse, Presses universitaires du Midi, coll. « Méridiennes », , 1094 p. (ISBN978-2-912025-50-0, lire en ligne), p. 399-412