Da calciatore ha trascorso la sua intera carriera nel club israeliano dell'Hapoel Kfar Saba, con cui vinse il titolo nazionale nella stagione 1981-1982 e la Coppa di Israele nel 1974-1975 e nel 1979-1980.
La carriera da allenatore ha avuto inizio proprio nell'Hapoel Kfar Saba nel 2001-2002, passando poi nella stagione seguente al Maccabi Haifa, al posto di Avraham Grant, divenuto commissario tecnico della nazionale israeliana. Shum porta il Maccabi Haifa (che elimina al secondo e al terzo turno preliminare di Champions League rispettivamente i bielorussi del Belshina e gli austriaci dello Sturm Graz) alla fase a gironi della competizione, prima squadra israeliana a cogliere tale risultato. Inserito nel gruppo F contro Manchester United, Bayer Leverkusen e Olympiakos, il Maccabi Haifa giunge terzo davanti ai greci, così qualificandosi ai sedicesimi di finale di Coppa UEFA. Qui il Maccabi Haifa è, però, eliminato dall'AEK Atene (0-4 ad Atene e 1-4 ad Haifa).
In campionato il Maccabi Haifa conclude la stagione a pari punti con il Maccabi Tel Aviv, ma il titolo va a quest'ultima, grazie alla miglior differenza reti.
Nella stagione seguente, l'allenatore israeliano passa ai bulgari del Litex Loveč, che allena per la prima parte del campionato, per poi concludere la stagione sulla panchina dell'Alania Vladikavkaz, in Russia.
Nel 2006 fa ritorno in patria, all'Hapoel Tel Aviv, anche in tal caso per sostituire un allenatore chiamato sulla panchina della nazionale, Dror Kashtan: la stagione si conclude con la vittoria della Coppa di Stato.