Ханданович — вихованець словенського «Домжале», але за рідний клуб він майже не грав.
2004 року молодого воротаря придбав італійський «Удінезе», в якому на той час основним голкіпером був Морган Де Санктіс і де новачку була відведена роль дублера. Згодом для здобуття ігрової практики віддавався в оренду до «Тревізо», «Лаціо» і «Ріміні», проте стабільне місце на полі мав лише в останній команді. Повернувшись з останньої оренди у 2007 році до «Удінезе» став основним голкіпером і відіграв у такому статусі наступні п'ять сезонів.
Влітку 2012 року словенець за майже 20 мільйонів євро перейшов «Інтернаціонале», в якому шукали заміну багаторічному голкіперу команди бразильцю Жуліо Сезару. У міланській команді відразу ж став беззаперечною головною опцією тренерського штабу на воротарській позиції.
Протягом 2004–2006 років залучався до складу молодіжної збірної Словенії. На молодіжному рівні зіграв у 7 офіційних матчах, пропустив 5 голів.
2004 року дебютував в офіційних матчах у складі національної збірної Словенії. Швидко став основним голкіпером національної команди, вигравши конкуренцію зокрему у свого на 6 років старшого двоюрідного брата Ясміна Хандановича, який також значну частину воротарської кар'єри провів в Італії.
Був основним голкіпером словенської збірної упродовж одинадцяти років, зокрема на чемпіонаті світу 2010 року у ПАР, де словенці не подолали груповий етап.
У листопаді 2015 року, після матчів плей-оф кваліфікації на Євро-2016, за результатами яких Словенія поступилася збірній України 1:3 і не потрапила на континентальну першість, Ханданович оголосив про завершення виступів за збірну. На той момент мав в активі 81 проведений у її складі матч.