McMahon begon zijn carrière bij Everton, de stadsrivaal van Liverpool. Na drie seizoenen verhuisde hij naar Aston Villa, waar hij twee seizoenen actief was en vrijwel altijd speelde. In de zomer van 1985 tekende McMahon bij Liverpool, waarmee hij zijn grootste successen beleefde. McMahon stond in maart 2015 op de 39ste plaats in een lijst van beste spelers van Liverpool volgens de Britse krant The Telegraph, vóór gewezen ploegmakker Alan Kennedy.[1] Na zes jaar verruilde hij Liverpool voor toenmalig laagvlieger Manchester City, waarmee hij twee jaar uitkwam in de Premier League. Hij beëindigde zijn loopbaan in 1998 bij tweedeklasser Swindon Town als speler-coach.[2]
McMahon was speler-coach van Swindon Town van 1994 tot 1998.[2] Twee jaar na zijn vertrek bij Swindon Town werd hij aangesteld als nieuwe manager van Blackpool, waarmee hij twee keer de Football League Trophy won; in 2002 en 2004.[5] Voorts promoveerde hij met Blackpool naar de Football League Second Division, de Engelse derde klasse.
McMahon was ook enkele maanden coach van het Australische Perth Glory in het voorjaar van 2005.[6]