Hubungan Jepang dengan Takhta Suci didirikan secara informal pada 1919, saat pemerintah Jepang menerima permintaan dari Takhta Suci untuk mengirim seorang delegasi apostolik ke negara mereka. Pada 1942, Jepang memulai hubungan diplomatik penuh antar dua negara tersebut, membuat Jepang menjadi negara Asia pertama yang melakukannya. Pada 1958, misi Jepang untuk Vatikan di Roma ditingkatkan menjadi kedutaan besar. Keputusan tersebut dibuat oleh KaisarShowa pada Perang Dunia II, berharap agar Vatikan dapat berperan sebagai mediator untuk negosiasi antara Jepang dan Sekutu.
