Iniziati gli studi di musica all'età di 12 anni, imparò a suonare la tromba nella banda della scuola.
L'interesse per la musica jazz ebbe origine nel 1967, anno in cui egli si recò all'università Wako di Kyōto, dove studiò ingegneria meccanica. Nel 1971, l'anziano pianista Yoshito Osawa presentò Toshinori al flautista Masahiko Kono. Fu allora che quest'ultimo decise di lasciare il flauto per intraprendere lo studio della tromba insieme a Kondo.
Nel 1972, Toshinori si trasferì a Tokyo con la motivazione di diventare musicista professionista. Fu in questo periodo che iniziò a praticare l'arte marziale del Shintaido, all'età di 24 anni. Nel 1974 incontrò il batterista Shoji Hano e lo introdusse all'arte marziale che stava praticando.
Il coinvolgimento di Kondo nello Shintaido riveste un ruolo utile alla sua musica: a causa della statura fisica dei giapponesi, questi possiedono minore forza fisica per suonare uno strumento a fiato di quanto non sia per un occidentale. La disciplina, molto esigente, seguita da Kondo gli permetteva di potenziare le sue capacità di tenuta per lunghe esecuzioni strumentali; egli la conobbe mentre stava studiando le tecniche di respirazione ed esecuzione alla tromba.
Kondo divenne in seguito insegnante di musica di Hano, lo aiutò a sviluppare il suo stile personale ed una tecnica professionale.
Kondo si esibiva regolarmente a New York e molti musicisti statunitensi ed europei si recarono in Giappone a suonare insieme a lui.
Nel 1976 nacque il gruppo EEU (Evolution Ensemble Unit), formato da Kondo, il batterista Toshiyuki Tsuchitori, il sassofonista Mototeru Takagi ed il bassista Motoharu Yoshizawa. Nello stesso anno Hano, Kondo e Osawa formarono un trio che si esibì in vari spettacoli ovunque nel Giappone occidentale durante il 1977.
Nel 1978 Kondo si trasferì a New York dove ebbe occasioni per suonare insieme a musicisti di tutto il mondo.
Fu ancora a New York che Kondō fondò l'etichetta discografica Bellows, tra le cui file figurava Eugene Chadbourne. Gli stimoli forniti dalla città, tuttavia, iniziarono a scemare e Kondo desiderava rientrare in Giappone poiché sentiva la mancanza della vitalità della sua patria. Una volta tornato a casa, l'irrefrenabile attività di Kondo lo portò a formare International Music Activities (IMA). Era in grado di creare le sonorità che rappresentassero il suo punto di vista per quanto riguarda l'innovazione in musica, in compagnia di musicisti desiderosi di prendere le distanze dai soliti schemi tonali e sonori. Chitarre distorte, percussioni elettroniche frenetiche, suoni digitali futuristici bizzarri e suoni e rumori del quotidiano erano una miscela che creava un immaginario preoccupato, sebbene danzereccio, della vita moderna nelle metropoli. In tale scenario, la tromba di Kondo prende la voce e le parti delle emozioni umane: a tratti gentile e pacata, a tratti, invece, acuta, frenetica ed aggressiva. Le melodie originate da Kondo si muovono sempre sull'entusiasmo per la musica tradizionale giapponese, tuttavia emerge la volontà di andare ben oltre le origini:
«Quando un bambino nasce, urla allo stesso modo in qualunque parte venga al mondo. È questo che intendo per origine etnica. Ed io voglio ritrovare le mie origini attraverso la mia musica»
Nel 1993 IMA si sciolse e Toshinori, trasferitosi ad Amsterdam, iniziò un progetto solista il cui nome era Blow the Earth, un'opera concettuale che lo vedeva alla tromba elettrica in un contesto di isolamento nella natura.
Nel corso dei suoi viaggi per questo progetto, Kondo si ritrovò a suonare la tromba nel deserto del Negev, sulle Ande e sull'Himalaya. L'album Israel è il risultato delle sessioni tenute in questi diversi luoghi.
Toshinori Kondo suonò al Mt. Fuji Aid Festival, tenutosi in Giappone nel 2000; si esibì al World Festival of Sacred Music nel 2001 ad Hiroshima.
Kondo fu anche un prolifico scrittore ed attore. Recitò in alcuni film giapponesi nel corso degli anni '80 ed apparve in alcuni spot pubblicitari per la televisione.
