Adhérent en 1996 au Parti républicain (PR), il est membre du bureau du Territoire de Belfort. Le parti devenu Démocratie libérale en juin 1997, il prend la présidence départementale. Il est le leader de l’opposition municipale à Valdoie, commune proche de Belfort, dès mars 2001.
Candidat en 1998 aux cantonales, il est battu. À l’automne 2000, la suppléante de Jean-Pierre Chevènement démissionne pour lui permettre de retrouver l’Assemblée. Michel Zumkeller est le candidat de droite à la législative partielle et est battu (16,82 % et 34,02 % aux deux tours).
Il est élu député le , pour la XIIe législature (2002-2007) de la 2e circonscription du Territoire de Belfort (2e). En tête au premier tour (25,6 % contre 21,6 %), il bat de 1864 voix (53,4 %) Jean-Pierre Chevènement. Il est membre du groupe UMP et de la commission des affaires culturelles, familiales et sociales de l'Assemblée nationale. Il préside du groupe d’amitié France-Danemark, est vice-président du groupe d’études pour les personnes âgées, membre du groupe d’étude sur la chasse, du groupe d’étude sur les contrefaçons et de la mission d’information sur l’amiante.
Il est sur la liste UMP de Jean-François Humbert aux régionales battue au second tour par celle (PS) de Raymond Forni. En mars 2004, candidat aux cantonales de Valdoie, il est battu (46,44 % des voix) par Yves Ackermann, maire PS, qui devient président du conseil général.
Il est réélu député le , pour la XIIIe législature (2007-2012), dans la 2e circonscription du Territoire de Belfort où de nouveau, il bat Jean-Pierre Chevènement. Il a pour suppléante Emmanuelle Trova-Lacorre.
Il est de nouveau réélu député de cette circonscription le face à Etienne Butzbach.
Le , il annonce sa participation au bureau national de l'Union des démocrates et indépendants en tant que secrétaire national au commerce, aux PME et à l’artisanat. Il quitte alors le groupe parlementaire de l'UMP pour rejoindre celui de l'UDI, qu'il avait refusé de rejoindre en juin, craignant « un petit combat des chefs à 15 »[3].
Lors des élections municipales de 2014 pour la mairie de Valdoie, Michel Zumkeller (UDI) est réélu pour un nouveau mandat en battant dès le premier tour son rival socialiste Olivier Domon (PS) avec 65,54 % des suffrages avec sa liste Valdoie Pour Vous.
Il est depuis le , le nouveau secrétaire général de l'UDI, poste qu'il partage avec la moriniste modérée Brigitte Fourré.
Il est un des principaux porte-parole des députés du groupe UDI et independants sur les textes de vigilance sanitaire.
Il est l'auteur en 2020 de la proposition de loi sur le Covid long.
Ce texte est voté par l'assemblée nationale le 26 novembre 2021, puis voté dans les memes termes par le sénat le 13 janvier 2022.
La loi Zumkeller Covid long est promulguée au journal officiel le 24 janvier 2022, par E.Macron président de la république.
En juin 2022, il est éliminé dès le premier tour aux élections législatives alors qu'il brigue un cinquième mandat de député, il ne donne pas de consigne au second tour entre le candidat de la NUPES finalement élu et celle du RN.