Народився в Галичині, в хасидській родині, в 1916 р. перебралися до Відня. Там Шпербер примкнув до молодіжного соціал-демократичному руху Хашомер-Хацаір.
Вчився у Альфреда Адлера, у 1932 р. вони розірвали стосунки. 1926 р. Шпербер опублікував монографічний есей про вчителя.
1927 року переїхав до Берліна, вступив у комуністичну партію. Професор психології та соціології в Берліні (1928–1933 роки).
З приходом Гітлера до влади був позбавлений кафедри, посаджений у в'язницю, але незабаром звільнений як громадянин Польщі. Виїхав за кордон — до Югославії, в 1934 — до Парижа.
1939 року опублікував у Парижі німецькою мовою антитоталітарні есеї Аналіз тиранії і Тоталітарна держава.
Після окупації німецькими військами Парижа ховався разом з родиною в містечку Кань в Приморських Альпах, у «вільній зоні». В 1942 р. перевіз сім'ю в нейтральну Швейцарію. 1945 р. повернувся до Парижу, працював у видавництві.