Od 1967 pełnił funkcje w administracji terytorialnej. Był radnym departamentu Nord i jego wiceprzewodniczącym (do 1973). W 1971 został radnym i pierwszym wiceburmistrzem Lille, w okresie 1973–2001 zajmował stanowisko mera tego miasta. Przewodniczył radzie regionu Nord-Pas-de-Calais (1974–1981), ponownie zasiadał w tej radzie w okresie 1986–1988. Od 1989 do 2008 był przewodniczącym związku komunalnego metropolii Lille.
Od 1973 do 1992 z przerwami na czas pełnienia funkcji rządowych sprawował mandat deputowanego do Zgromadzenia Narodowego z jednego z okręgów w departamencie Nord. W 1979 został posłem do Parlamentu Europejskiego, był wiceprzewodniczącym Komisji ds. Kwestii Politycznych i członkiem Grupy Socjalistów. Z PE odszedł po około 7 miesiącach[2].
Pomiędzy 21 maja 1981 a 17 lipca 1984 był premierem trzech kolejnych gabinetów. Mianowany na to stanowisko został przez François Mitterranda, nowo wybranego prezydenta. W okresie jego urzędowania we Francji zniesiono karę śmierci, państwową kontrolę środków przekazu i ograniczenia działalności lokalnych stacji radiowych. Skrócił tydzień pracy do 39 godzin, wprowadził dodatkowy piąty tydzień płatnego urlopu i refundację zabiegów przerwania ciąży. Przeprowadził nacjonalizację licznych zakładów przemysłowych[3]. Rosnąca niepopularność jego rządu spowodowała zastąpienie go na stanowisku premiera przez Laurenta Fabiusa.
W 1988 Pierre Mauroy został pierwszym sekretarzem (przewodniczącym) Partii Socjalistycznej. Stanowisko to zajmował przez trzy lata[4]. W latach 1992–1999 był przewodniczącym Międzynarodówki Socjalistycznej. W 1992 po raz pierwszy zasiadł w Senacie, mandat senatora na dziewięcioletnią kadencję odnowił też w 2001[5].
W czerwcu 1982 z rządu odeszli Jean Auroux, Nicole Questiaux i Pierre Dreyfus. Jean-Pierre Chevènement przeszedł na funkcję ministra przemysłu i badań naukowych, a ministrem solidarności narodowej i spraw społecznych został Pierre Bérégovoy[6][7].