Pada tahun 1930, ia berpisah dengan Peters untuk pergi ke Pittsburgh, Pennsylvania. Di sana, mereka diberi jabatan riset di Gulf Research Laboratories dan bekerja di sana sampai tahun 1933. Selama masa itu, John bekerja pada pengembangan metode untuk menafsirkan survei geologi magnetik.
Pada tahun 1938, ia diberi kedudukan sebagai asisten guru besar fisika pembantu di Universitas Minnesota. Ia bekerja di sana sampai tahun 1941, saat ia meninggalkannya untuk bekerja di Naval Ordinance Laboratory di Washington D.C. Alasan utama untuk bekerja di sana ialah untuk membantu usaha perang terhadap Jepang dan Jerman. Risetnya berfokus pada penyapuan ranjau dengan menggunakan magnetisme.
Pada tahun 1945, setelah berakhirnya PD II, ia bergabung dengan Bell Labs untuk bekerja dalam riset fisika keadaan padat.
Pada tahun 1957, ia turut serta dalam riset pada superkonduktivitas yang menghasilkan penjelasan superkonduktor pertama. Pada tahun 1972, ia dinominasikan ke Hadiah Nobel dalam Fisika lagi untuk teori superkonduktivitasnya, menjadikannya fisikawan pertama dalam sejarah yang memenangkan Penghargaan Nobel Fisika 2 kali. Nobel Fisika kedua diterimanya bersama Leon Neil Cooper dan John Schrieffer.
Pada tahun 1990, ia dinobatkan sebagai salah satu tokoh Amerika Serikat paling berpengaruh pada abad ke-20 oleh majalahLife. Ia juga menerima Medal of Science pada tahun 1965, Presidential Medal of Freedom 1976, dan 16 gelar doktor kehormatan.