John Thompson wurde ungefähr drei Jahre vor dem Ausbruch des Britisch-Amerikanischen Krieges in Rhinebeck geboren. Er graduierte am Union College in Schenectady und später am Yale College. Thompson studierte Jura. Nach dem Erhalt seiner Zulassung als Anwalt begann er in Poughkeepsie zu praktizieren. Politisch gehörte er der Republikanischen Partei an. Bei den Kongresswahlen des Jahres 1856 wurde er im zwölften Wahlbezirk von New York in das US-Repräsentantenhaus in Washington, D.C. gewählt, wo er am 4. März 1857 die Nachfolge von Killian Miller antrat. Er schied nach dem 3. März 1859 aus dem Kongress aus. Danach war er wieder als Anwalt tätig. Er starb am 1. Juni 1890 in New Hamburg und wurde auf dem Poughkeepsie Rural Cemetery in Poughkeepsie beigesetzt.