Pada 1952, ia diangkat menjadi perwakilan permanen Yunani untuk NATO, dan mundur dari pelayanan diplomatik setahun kemudian. Ia menjabat sebagai Menteri Perdagangan dalam kabinet Konstantinos Karamanlis 1961–1963. Usai pengunduran diri dan pengasingan diri Karamanlis, Pipinelis secara singkat menjabat sebagai Perdana Menteri Yunani sementara dari 17 Juni 1963 sampai 29 September 1963. Pada 20 November 1967, ia diangkat menjadi Menteri Urusan Luar Negeri pada masa kediktatoran.Ia memegang jabatan tersebut sampai kematiannya akibat kanker pada 19 Juli 1970 di Athena, dalam usia 71 tahun.[1]