Huang muncul kembali ke publik dan mendukung agar Tiongkok terlibat dalam Perang Dunia I dan berharap Tiongkok akan mendapatkan kembali wilayahnya yang hilang. Dia menjadi diplomat di masa Presiden Xu Shichang, ikut menulis buku-buku tentang ekonomi dan hubungan luar negeri serta sering menjadi dosen tamu di berbagai universitas. Huang menjadi anggota delegasi Tiongkok dalam Konferensi Angkatan Laut Washington 1921 yang berhasil mengamankan kemenangan diplomatik terbesar pemerintah Beiyang yaitu kembalinya Shandong.
Huang berpengaruh dalam memenangkan Feng Yuxiang dan Yan Xishan di faksi Kuomintang (KMT) pimpinan Chiang Kai-shek, yang menjadi salah satu alasan utama mengapa rezim Wang Jingwei di Wuhan runtuh. Dia kemudian memegang beberapa jabatan selama dekade Nanjing termasuk menjadi wali kota Shanghai, menteri luar negeri dan ketua Dewan Politik Tiongkok Utara. Meskipun memiliki hubungan dekat bahkan telah menjadi saudara dengan Chiang, ia tidak pernah bergabung kembali dengan KMT karena ia tidak ingin disebut sebagai politikus oportunis yang bergabung selama dan setelah Ekspedisi Utara. Pada 1933, ia menandatangani Gencatan Senjata Tanggu yang tidak populer dengan menyerahkan Chahar, Rehe dan sebagian dari provinsiHebei kepada negara boneka Manchukuo. Seperti Chiang, ia juga memandang Komunis sebagai ancaman yang lebih besar daripada Jepang.