Danach war Hartmann von 1990 bis 1991 Referent beim Politischen Archiv des Auswärtigen Amts in Bonn; er arbeitete dort als Mitglied der internationalen Historikerkommission zur Veröffentlichung der „Akten zur deutschen auswärtigen Politik 1918–1945“. 1992 war er für ein Jahr als Referent an das Brandenburgische Ministerium für Wissenschaft, Forschung und Kultur in Potsdam abgeordnet.
Von 1993 bis 2018 war Hartmann Wissenschaftlicher Mitarbeiter am Institut für Zeitgeschichte in München, wo er unter anderem von 1998 bis 2012 als stellvertretender Chefredakteur der Vierteljahrshefte für Zeitgeschichte fungierte und von 1999 bis 2009 das Forschungsprojekt Wehrmacht in der nationalsozialistischen Diktatur 1933–1945 leitete, in dessen Rahmen auch sein Werk Wehrmacht im Ostkrieg entstand und das 2009 mit dem Sammelband Der deutsche Krieg im Osten 1941–1944 abgeschlossen wurde. Von März 2012 bis Mai 2015 war Hartmann IfZ-Projektleiter der wissenschaftlichen Edition von Adolf Hitlers Schrift Mein Kampf.[1][2]
Halder. Generalstabschef Hitlers 1938–1942. Schöningh, Paderborn 1991, ISBN 3-506-77484-0 (Dissertation, Universität Köln, 1989); 2., erweiterte und aktualisierte Auflage 2010, ISBN 978-3-506-76762-2.
Verbrecherischer Krieg – verbrecherische Wehrmacht? Überlegungen zur Struktur des deutschen Ostheers, in: Vierteljahrshefte für Zeitgeschichte 52 (2004), S. 1–75.
Wehrmacht im Ostkrieg. Front und militärisches Hinterland 1941/42 (= Quellen und Darstellungen zur Zeitgeschichte. Bd. 75). Oldenbourg, München 2009 (zugleich Habilitationsschrift); 2. Auflage 2010, ISBN 978-3-486-70225-5.
Unternehmen Barbarossa. Der deutsche Krieg im Osten 1941–1945 (= Beck’sche Reihe Wissen. Bd. 2714). Beck, München 2011, 2., verbesserte Auflage 2012, ISBN 978-3-406-61226-8 (rumänische Übersetzung 2012, englische Übersetzung 2013, Paperback 2018, polnische Übersetzung 2014, spanische Übersetzung 2018, portugiesische Übersetzung 2020).
mit Magnus Brechtken et al.: Das Gutachten des Instituts für Zeitgeschichte zum zweiten NPD-Verbotsverfahren vor dem Bundesverfassungsgericht, in: Vierteljahrshefte für Zeitgeschichte 65 (2017), S. 619–661.
Als Herausgeber und Bearbeiter
Akten zur Deutschen Auswärtigen Politik 1918–1945. Aus dem Archiv des Auswärtigen Amts. Verschiedene Teilbände. Vandenhoeck und Ruprecht, Göttingen 1990 ff.
Hitler. Reden, Schriften, Anordnungen. Februar 1925 bis Januar 1933. Verschiedene Teilbände. Saur, München 1995 ff., ISBN 3-598-21930-X.
mit Johannes Hürter, Peter Lieb und Dieter Pohl: Der deutsche Krieg im Osten 1941–1944. Facetten einer Grenzüberschreitung (= Quellen und Darstellungen zur Zeitgeschichte. Bd. 76). Oldenbourg, München 2009, ISBN 978-3-486-59138-5.