Campbell è nato in Pontypridd, Galles, da madre italiana e padre gallese; ha iniziato a suonare la chitarra all'età di 10 anni, ispirato da musicisti come Jimi Hendrix, Black Sabbath, Jimmy Page, Michael Schenker e Todd Rundgren; all'età di 13 anni suonava in modo semi-professionale in una band cabaret nel sud del Galles. Contando, nei suoi primi anni, su chitarre poco costose, ha comprato nel 1973 la sua prima Gibson Les Paul, che, seguendo il destino di molte altre chitarre, è stata in seguito rubata.
Nel 1979, forma il gruppo heavy metal Persian Risk suonando i singoli Calling For You nel 1981 e Ridin' High nel 1983. Nei Persian Risk militò anche il cantante Carl Sentance, poi membro dei Krokus per un breve periodo.
Nel 1984 entra a far parte, dopo la dipartita di Brian Robertson, dei Motörhead; Lemmy aveva infatti svolto delle audizioni per cercare un nuovo chitarrista, e la scelta cadde alla fine su due pretendenti, anche se Kilmister aveva inizialmente deciso di prenderne uno solo, Phil Campbell e Michael Burston. Il 15 settembre dello stesso anno uscì una delle raccolte più famose del gruppo, No Remorse, e da allora, dopo un tour mondiale con la band, Phil è rimasto un membro costante dei Motörhead nonostante i numerosi cambi di formazione, fino a diventare il componente con la permanenza più lunga nella band a fianco di Lemmy, con ben 31 anni.
Dopo la morte di Lemmy nella fine del 2015 e quindi la conseguente fine dei Motörhead, Phil si è impegnato a tempo pieno col suo progetto "famigliare" Phil Campbell's All Starr Band, poi rinominati Phil Campbell and the Bastard Sons.