Im Alter von 17 Jahren begann er Klarinette zu spielen, wechselte jedoch bald zum Saxophon, speziell zum Sopransaxophon. In den Bandformationen Framus Five um Michal Prokop und Pop Messengers um Karel Černoch, von 1967 bis 1968 bzw. von 1968 bis 1969 spielte er zudem Baritonsaxophon. Auf den Schallplatten aus jener Zeit wird sein Mitwirken allerdings nicht dokumentiert, wahrscheinlich aufgrund seiner Flucht in den Westen, 1969, ein Jahr nach dem Prager Frühling, aus der damals kommunistischen Tschechoslowakei.
Im Herbst 1969 ging er zunächst nach Wien, wo er u. a. mit Sammy Vomáčka musizierte. Ab 1970 nahm er ein Engagement für das in Deutschland tourende Musical Hair an, für die Aufführungen in Frankfurt am Main und in West-Berlin. In West-Berlin blieb er, bis er 1972 für vier Jahre nach England zog, wo er regelmäßig zusammen mit Jesse Ballard auftrat und mit Jackie Leven (damals noch unter dem Pseudonym John St Field) das Album Control aufnahm. Weitere musikalische Kontakte gab es zu Alexis Korner, den er im Londoner Folk-Club Troubadour kennenlernte.
1976 kehrte er zusammen mit Jesse Ballard’s Paradise Island Band nach West-Berlin zurück und wurde rasch in die dort blühende Jazz- sowie Blues- und Folkszene aufgenommen, in der er auch unter dem Titel The Sensational Saxophone Joe bekannt wurde.
Es folgte die musikalische Zusammenarbeit mit Pete Wyoming Bender, zu der eine ganze Reihe von Tourneen in ganz Deutschland und Österreich gehörten, sowie mehrere Auftritte im Fernsehen. Des Weiteren war er Mitbegründer der Musikprojekte Triangel (zusammen mit Ron Randolf und Hans Hartmann) und Balance (zusammen mit Ralph Billmann).
Nach der Wende und der Samtenen Revolution tourte er ab 1990 mit Marta Kubišová durch die Tschechoslowakei, mit weiteren Konzerten in Japan, Paris und Berlin.
Im Jahre 2010 erschien in Zusammenarbeit mit Ulf G. Stuberger die Biografie Joe Kučera: Leben in Balance.[1]