Ha giocato in prevalenza nel ruolo di difensore centrale[1], distintosi come uno dei migliori difensori della sua generazione, rendendo meglio in una difesa a 4 anziché a 5.[2] Dotato di grande carisma, era fisicamente prestante e abile nel gioco aereo.[3] Il suo temperamento lo ha spesso portato a commettere falli eccessivi, rimediando un notevole quantitativo di cartellini.[4][5]
Nel 2004 si trasferisce allo Spartak Mosca, dove resta fino al 2006.
Manchester United
Nel gennaio 2006, dopo essere stato vicino al passaggio alla Fiorentina[7], si trasferisce al Manchester United.[8] A Manchester formerà con Rio Ferdinand una delle migliori coppie di difensori centrali del campionato inglese per gli anni a venire.[9] Campione d'Inghilterra e d'Europa al termine della stagione 2007-08[10][11], vince anche il titolo mondiale: autore di un gol in semifinale contro il Gamba Osaka[12], viene espulso nella finale (con la Liga Quito) per aver colpito un avversario con una gomitata.[13] A conclusione dell'annata 2008-09 sfiora il bis continentale: nell'ultima partita del torneo (in cui il difensore serbo ha realizzato un gol, contro l'Inter nel ritorno degli ottavi[14]), la sua squadra viene battuta dal Barcellona.[15] Nominato capitano dei mancuniani nella stagione 2009-10 (in seguito al ritiro di Gary Neville[16]), disputa nel 2011 la terza finale di Champions in 4 anni: gli inglesi perdono ancora contro i blaugrana.[17]
Durante i primi mesi del 2014, il giocatore annuncia il proprio addio a fine stagione[3]; a marzo sigla infatti un accordo con l'Inter, valido dal luglio seguente.[19] In otto stagioni con i Red Devils, ha disputato esattamente 300 partite vincendo per cinque volte il campionato.[20]
Inter
Con l'apertura del mercato estivo, diviene ufficialmente un giocatore della rosa nerazzurra.[21] Il suo approccio alla Serie A è difficoltoso, con il difensore che nelle prime due presenze ufficiali rimedia un'ammonizione (nei play-off di Europa League[22]) e un'espulsione, questa al debutto in Serie A contro il Torino.[23] Autore di un rendimento al di sotto delle aspettative[24][25], realizza un solo gol in campionato[26] venendo invece ammonito per 6 volte.[27]
Il 5 agosto 2015 viene operato alla schiena per curare un'ernia[28], ma i lunghi tempi di recupero convincono la società a non includerlo nella rosa per la stagione 2015-16.[29][30] Nel gennaio 2016, ad otto mesi dall'ultima partita giocata, annuncia la rescissione del contratto con il club e il proprio ritiro dall'attività[31], a 34 anni.[32]