Krieg war während seiner Habilitation Wissenschaftlicher Mitarbeiter im Fachbereich Kirchengeschichte der Evangelisch-Theologischen Fakultät der Universität Bonn bei Johann Friedrich Gerhard Goeters, wo er neben kirchengeschichtlichen Proseminaren Lehrveranstaltungen zum Themenfeld Kirchen, Theologie und Musik abhielt.
Einführung in die anglikanische Kirchenmusik. Verlag Dohr, Köln, 2007, ISBN 978-3-93665544-5.
Welterfindungen: ein Buch für die Liebhaber und Kritiker der trivialisierten Vernunft. Münster 2003, ISBN 3-89781-038-7.
Gefangene Gottes. Auf der Suche nach pastoraler Identität. Kohlhammer, Stuttgart 2000, ISBN 3-17-015759-0.
Die gottesdienstliche Musik als theologisches Problem. Dargestellt an der kirchenmusikalischen Erneuerung nach dem ersten Weltkrieg (= Veröffentlichungen der Evangelischen Gesellschaft für Liturgieforschung, 22). Vandenhoeck & Ruprecht, Göttingen 1990, ISBN 3-525-57183-6 (zugleich Habilitations-Schriften der Bonner Universität, 1985).
Der mystische Kreis. Wesen und Werden der Theologie Pierre Poirets (= Arbeiten zur Geschichte des Pietismus, 17). Vandenhoeck & Ruprecht, Göttingen 1979, ISBN 3-525-55800-7 (zugleich: Dissertation an der Evangelisch-Theologischen Fakultät der Universität Bonn, 1974).