Seine Familie Young wanderte nach Australien aus, als John Paul Young ein Kind war, und ließ sich in Sydney nieder. Anfang der 1970er Jahre wurde er Sänger der Rockband Elm Tree. Von 1972 bis 1974 spielte er in der australischen Produktion des MusicalsJesus Christ Superstar. Zudem war er anfangs auch Radiomoderator.
Nach einigen erfolglosen Singles wurde er vom ProduzententeamHarry Vanda und George Young betreut. Das Ergebnis war eine Reihe australischer Hits, u. a. Pasadena (geschrieben von Young, Vanda und dem britischen Schauspieler David Hemmings), Yesterday’s Hero, St. Louis, The Love Game, Here We Go, Keep On Smiling, Where the Action Is, I Hate the Music und I Wanna Do It with You. Daneben gab es auch einige Hits in Europa, Asien und Südafrika. Yesterday’s Hero war auch in den USA ein Achtungserfolg. In Europa war das Lied in der Version der Bay City Rollers ein Hit.
Im Jahr 1977 hatte Young seine größten Erfolge mit Standing in the Rain und vor allem Love Is in the Air, seinem einzigen weltweiten Hit. Die nächsten Singles waren weniger erfolgreich. Youngs vorerst letzter Top-Ten-Hit in Australien war 1983 Soldier of Fortune.
Youngs Produzent George Young war der ältere Bruder der AC/DC-Mitglieder Angus Young und Malcolm Young. Die daraus resultierende häufig zu lesende Behauptung, John Paul Young sei ebenfalls ein Bruder der beiden Letzteren, beruht auf einer Verwechslung und ist daher falsch.