Wychowanek szkółki piłkarskiej Zoria Ługańsk (trener Borys Fomiczow), w której rozpoczął karierę w 1977 roku. W 1980 roku odbywał dwa lata służbę wojskową w SKA Rostów nad Donem. Rok jeszcze grał w Zorii, a w 1983 roku został zawodnikiem Dynama Kijów, prowadzonego wówczas przez Walerego Łobanowskiego. Przez cały czas był kluczowym zawodnikiem drużyny z Kijowa. Z klubem tym zdobył dwa razy mistrzostwo ZSRR, dwa razy puchar ZSRR oraz Puchar Zdobywców Pucharów; w meczu finałowym Dynamo pokonało Atlético Madryt 3:0, a Zawarow strzelił pierwszego gola.
Karierę trenerską rozpoczął jako grający trener CO Saint-Dizier, którego szkoleniowcem był do 2003 roku. Po pobycie we Francji objął stanowisko trenera oraz dyrektora sportowego w szwajcarskim FC Wil (właścicielem klubu był wówczas Ihor Biełanow). Z tym klubem zdobył puchar Szwajcarii w 2004 roku. Następnie przez niecały rok (zresztą bez sukcesów) był trenerem Żenis Astana z Kazachstanu. W 2005 roku został szkoleniowcem Metalista Charków, a jeszcze w listopadzie tego samego roku objął stanowisko trenera Arsenału Kijów. W styczniu 2010 został zwolniony z tej funkcji[2]. W listopadzie 2012 został wyznaczony na pełniącego obowiązki głównego trenera reprezentacji Ukrainy[3], z którą wygrał 1:0 z Bułgarią.