Jepang adalah satu-satunya negara Asia yang berkompetisi pada Paralimpiade 1964, dan juga satu-satunya negara Asia yang hadir pada Olimpiade Musim Dingin perdana, menjadikannya negara Asia pertama yang berpartisipasi dalam Olimpiade Musim Panas atau Musim Dingin. Ini juga merupakan negara Asia paling sukses kedua secara keseluruhan (di belakang Tiongkok), setelah memenangkan 395 medali Paralimpiade, terdiri dari 118 emas, 134 perak, dan 143 perunggu. Hasil ini menempatkannya di urutan ke-17 pada klasemen medali Paralimpiade sepanjang masa.[2]
Jepang hanya memenangkan satu medali emas pada Olimpiade Tokyo (pada ganda putra, kategori C, dalam tenis meja), tetapi meningkat pesat, dengan dua emas pada tahun 1968, empat pada tahun 1972, dan sepuluh pada tahun 1976, dengan puncaknya pada delapan belas pada 2004 - meskipun jumlah tersebut turun menjadi hanya lima pada tahun 2008. Dalam Olimpiade Musim Dingin, negara ini muncul sebagai kompetitor penting ketika menjadi tuan rumah Pesta Olahraga Nagano pada tahun 1998, memenangkan dua belas medali emas - dibandingkan dengan tidak ada sama sekali pada edisi sebelumnya.[2]