Vanaf 1880 begon hij zich te ontplooien als dirigent en ging hij zich tevens bezighouden met het componeren van opera's en balletten. Van 1885 tot 1888 was hij kapelmeester van de orkesten aan het theater in Brno (Česka divadlo) en Pilsen. Vanwege zijn ervaring werd hij veel gevraagd als begeleider van virtuozen als František Ondřiček en L. Stropnický bij hun concertreizen van 1886 tot 1888 (onder anderen door Polen en Rusland). In 1890 werd hij docent aan een privé zangschool in Praag en aldaar in 1898 directeur. Van 1900 tot 1920 was hij dirigent aan het Nationaal Theater (Národní divadlo) in Praag. In deze functie heeft hij zich vooral voor de muziek van Bedřich Smetana en Antonín Dvořák ingezet.
Affiche over de première van het ballet Hašiš
Zijn eerste opera Ženichové ging in première in 1884 in het toen pasgeopende Nationale Theater (Tsjechisch: Národní Divadlo) van Praag. Een van de muziekrecensenten toen, die de muziekrecensies voor de kranten van Brno schreef was een zekere Leoš Janáček wiens kritiek niet erg lovend was, iets wat Janáček later zou opbreken, toen hij zijn werk de opera Jenůfa in 1904 aanbood bij de directeur van de opera-afdeling van het Nationale Theater in Praag, Karel Kovařovic. Met de beoordeling te "licht" voor het Nationale Theater ging Janáčeks Jenůfa uiteindelijk, noodgedwongen, toch op 21 januari 1904 in Brno in première.
In 1898 ging Kovařovic' vierde opera Psohlavci, ook in het Nationale Theater in Praag, in première. Dit werd een daverend succes, mede waardoor hij in 1900 aangesteld werd als directeur van de opera-afdeling van het Nationale Theater in Praag. Een positie die hij zou bekleden tot aan zijn dood in 1920. In 1916 erkende hij zijn fout Jenůfa geweigerd te hebben en ging Janáčeks werk alsnog in première in het Nationale Theater in Praag, maar niet, voordat hij het grondig "verbeterd" had en er zijn eigen productie van gemaakt had.
Wolfgang Suppan, Armin Suppan: Das Neue Lexikon des Blasmusikwesens, 4. Auflage, Freiburg-Tiengen, Blasmusikverlag Schulz GmbH, 1994, ISBN 3-923058-07-1
Paul E. Bierley, William H. Rehrig: The Heritage Encyclopedia of Band Music - Composers and Their Music, Westerville, Ohio: Integrity Press, 1991, ISBN 0-918048-08-7
Antonín Špelda: Slavní plzeňské opery, Plzni: Západočeské nakladatelství, 1986.
Ladislav Šíp: Česká opera a její tvůrci - průvodce, Praha: Editio Supraphon, 1983, 396 p.
Vilém Pospíšil: Karel Kovařovic a jeho kritikové, in: Hudební rozhledy, nr. 24, 1971, pp. 466–469
Jan Němeček: Opera Národního divadla za Karla Kovařovice (Opera in het Nationaal Theater tijdens de periode van Kovařovic), Praha, 1968.
Československý hudební slovník osob a institucí, Praha: Státní hudební vydavatelství, 1963-1965.
