Kampung halaman Shu berada di Yongjia, di Wenzhou, Zhejiang. Ayah Shu, Shu Shien-Siu, adalah ahli matematika dan mantan Presiden (1970–1975) dari Universitas Nasional Tsing Hua.[1] Shu menyelesaikan gelar BS dalam fisika pada tahun 1963 di Massachusetts Institute of Technology. Saat ia masih sarjana, ia mengembangkan sebuah teori yang mengatur lengan spiral di galaksi, yang dikenal sebagai teori gelombang kepadatan spiral. Dia kemudian menerima gelar PhD dalam bidang astronomi pada tahun 1968 di Universitas Harvard.