Sammy Price, Eugene Coy, Ben Smith, Terrence Holder, Jesse Stone, George E. Lee, Eddie Malory, Louis Armstrong, Earl Hines, Don Redman, Cab Calloway, Benny Goodman, Quincy Jones, Count Basie, Gerald Wilson, Charlie Shavers
Figlio di un musicista dilettante (il padre Albert Johnson era un meccanico di automobili) e fratello del trombonista Keg Johnson[1], dopo iniziali esperienze come batterista e pianista, passò al sassofono tenore suonando in piccoli gruppi locali. Il suo primo importante ingaggio fu nell’orchestra di Sammy Price (1927). In seguito, dal 1927 al 1932, suonò nelle band di Eugene Coy, Ben Smith, Terrance Holder, Jesse Stone e George E. Lee.
Trasferitosi a Chicago, lavorò (1932 e 1933) con Eddie Mallory e Louis Armstrong; in seguito fu assunto nell'orchestra di Earl Hines con il quale rimase dal 1935 al 1942.
Dal 1942 al 1944 fu impegnato in gruppi guidati da Don Redman, Al Sears e Georgie Auld, per poi esibirsi con Dizzy Gillespie all'Onyx Club.
Apprezzato arrangiatore, fu richiesto dalle maggiori orchestre dell'epoca: fra le altre, Earl Hines, Billy Eckstine, Woody Herman, Boyd Raeburn e Buddy Rich.
Oltre a dirigere propri gruppi, dall'inizio degli anni cinquanta svolse la doppia attività di sassofonista e arrangiatore per J.C. Heard, Sy Oliver, Machito, Snub Mosley (1952), Cab Calloway, Benny Goodman (1956-1957), Quincy Jones (1960), Count Basie (1961-1962) e nuovamente per Earl Hines (1965-1966) con cui effettuò una storica tournée in Unione Sovietica. Nel 1969 fondò il JPJ Quartet che ebbe un ottimo successo al festival jazz di Montreux del 1971 e che si sciolse nel 1975.