Politisch schloss sich Schmidhauser der Demokratischen Partei an. 1964 wurde er im ersten Wahlbezirk von Iowa in das US-Repräsentantenhaus in Washington, D.C. gewählt. Dort trat er am 3. Januar 1965 die Nachfolge des RepublikanersFred Schwengel an, den er bei den Wahlen geschlagen hatte. Da er aber bei den folgenden Wahlen im Jahr 1966 wieder gegen Schwengel verlor, konnte er bis zum 3. Januar 1967 nur eine Legislaturperiode im Kongress absolvieren.
Nach dem Ende seiner Zeit im Repräsentantenhaus war John Schmidhauser von 1967 bis 1973 wieder als Professor an der University of Iowa tätig. Im Jahr 1972 strebte er erfolglos die Nominierung seiner Partei für die Kongresswahlen an. Zwischen 1973 und 1992 war er Professor an der University of Southern California in Los Angeles. Dort wurde er zuletzt als emeritierter Professor geführt. In den 1980er Jahren hielt Schmidhauser neben seiner Tätigkeit in Los Angeles auch für kurze Zeit an verschiedenen anderen Universitäten Vorlesungen.