John Carter joue avec Ornette Coleman et Charles Moffett à Fort Worth dans les années 1940. À partir de 1961, Carter réside sur la Côte ouest des États-Unis. où il rencontre Bobby Bradford en 1965. Il joue aussi avec Hampton Hawes et Harold Land. Dans les années 1970 il devient célèbre pour ses extraordinaires solos en concert. Au New Jazz Festival de Moers en 1979 lui et le clarinettiste allemand Theo Jörgensmann jouent pendant trois jours.
Entre 1982 et 1990 Carter compose et enregistre Racines et folklore : épisodes dans le développement de la musique populaire américaine (Roots and Folklore: Episodes in the Development of American Folk Music") en cinq albums centrés sur l'histoire des afro-américains.
Discographie sélective
John Carter & Bobby Bradford´s New ArtFlight for Four (1969)
John Carter QuintetSecrets (1972)
John CarterEchoes from Rudolph´s (1977)
Vinny GoliaSpirits in Fellowship (1977)
John CarterSuite of Early American Folk Pieces (1980)