Działał w chadeckiej młodzieżówce Junge Union, był m.in. przewodniczącym bawarskich struktur tej organizacji. Od 1978 do 1988 pełnił funkcję zastępcy burmistrza swojej rodzinnej miejscowości, a także radnego powiatu Günzburg[1]. W latach 1989–1994 sprawował mandat posła do Parlamentu Europejskiego III kadencji[5].
W 1994 po raz pierwszy uzyskał mandat deputowanego do Bundestagu. Z powodzeniem ubiegał się o reelekcję w wyborach w 1998, 2002, 2005, 2009, 2013[2] i 2017[6].
W latach 2005–2013 w dwóch pierwszych gabinetach Angeli Merkel był parlamentarnym sekretarzem stanu w resorcie rolnictwa, polityki żywnościowej i ochrony konsumentów[1]. W grudniu 2013 w trzecim rządzie dotychczasowej kanclerz objął urząd ministra ds. współpracy gospodarczej i rozwoju[2]. Pozostał na tym stanowisku również w utworzonym w marcu 2018 czwartym rządzie dotychczasowej kanclerz[7]. Nie kandydował w wyborach w 2021, a w grudniu tegoż roku zakończył pełnienie funkcji ministra.