Il se passionne pour la facture d'orgue, qu'il étudie à Strasbourg sans parvenir néanmoins à entrer au service du célèbre Andreas Silbermann.
Le , à Dole, il épouse Anne-Françoise Ève de Jouhe, une jeune femme fortunée, et s'installe à Dijon en 1742. Il y construit l'orgue de la cathédrale Saint-Bénigne de Dijon en s'associant à son frère Rupert (Robert) Riepp. Son talent est très apprécié par le roi Louis XV qui lui octroie le droit de citoyenneté ainsi que le titre de « facteur d'orgues du Roy ». Il acquiert également parmi les meilleures terres viticoles bourguignonnes et devient négociant de vin de Bourgogne pour le compte des abbayes de Cîteaux, de Salem et d'Ottobeuren.
Il meurt à Dijon le , laissant à son épouse un important patrimoine viticole.
Il était un représentant réputé de la facture d'orgues française ; mais il a également contribué à la définition du baroque d'Allemagne du Sud, où se retrouvent les influences française et de Souabe du Nord[1], et dont un représentant éminent était son élève Johann Nepomuk Holzhey (Riepp dirigeait la fabrication à partir de France et son élève était sur les lieux).
Importante transformation de l'orgue de Jean d'Herville de 1637, modifié au XIXe siècle, avec perte du son baroque Classé MH[6] restauré par Bartolomeo Formentelli en 1988
Pierre-Marie Guéritey, Karl Joseph Riepp et l'orgue de Dole, Bron, Impr. Ferréol, 1985, 2 vol.
(de) Hermann Meyer, Karl Joseph Riepp : Der Orgelbauer von Ottobeuren, Cassel, Bärenreiter, , 244 p., in-8
(de) Joseph Wörsching, Der Orgelbauer Karl Riepp (1710–1775), Mayence,
(de) Joseph Wörsching (auteur) et Klosterladen GmbH, Benediktinerabtei Ottobeuren (dir.), Die Orgelwerke der Abtei Ottobeuren, Mayence, Rheingold-Verlag, 1959 et 1998