Né et élevé à Philadelphie, Billy Paul a baigné pendant son enfance dans une ambiance musicale en écoutant les 78 tours que sa mère collectionnait, et dont il s'entraînait à reproduire les chants. Il indiquait avoir beaucoup apprécié Nat King Cole, Johnny Mathis ou Sam Cooke dont il appréciait le velours de la voix, mais avoir surtout été influencé par les voix féminines, Dinah Washington, Sarah Vaughan, Ella Fitzgerald ou Nina Simone[1]. Il a commencé sa carrière de chanteur à l’âge de 12 ans. Jazzman de formation, il devient notoire au début des années 1970 en bifurquant vers la variété internationale.
Son plus grand succès, Me and Mrs. Jones, a été no 1 aux États-Unis pendant les trois dernières semaines de l’année 1972, avec deux millions d’exemplaires vendus[2]. La chanson lui vaut un Grammy award l'année suivante[3]. Il a participé à l'album de la chanteuse française Chimène Badi (Gospel&Soul) sorti le 20 novembre 2011, sur Ain't No Mountain High Enough, un titre repris par Marvin Gaye, qu'il chante en duo avec elle[4]. Il avait également participé à la reprise de son tube Me & Mrs. Jones par Chico & The Gypsies en chantant avec eux sur leur album de duos Chico & The Gypsies & International Friends sorti fin 2014.