Madison studiò al Bakersfield College per due anni, dopodiché lavorò per un breve periodo come centralinista telefonico prima di arruolarsi nel 1942 nella Guardia Costiera degli Stati Uniti. Nel 1944, mentre stava visitando Hollywood, il suo volto fu notato da Henry Willson, un talent scout, proveniente dall'ufficio di David O. Selznick, e Madison fu immediatamente ingaggiato per un ruolo minore nel film Da quando te ne andasti (1944). Dopo l'uscita del film, molti spettatori scrissero lettere alla produzione per sapere di più su quel giovane attore.
Madison firmò un contratto con la RKO Pictures nel 1946 e iniziò ad apparire in film romantici e drammatici, come Anime ferite (1946) di Edward Dmytryk, incentrato sul tema del reinserimento dei reduci al termine della seconda guerra mondiale, in cui recitò al fianco di Dorothy McGuire e dell'allora emergente Robert Mitchum. Tuttavia, lo stile di recitazione piuttosto legnoso limitò fortemente le possibilità dell'attore di essere impiegato in altri film. A dare nuovo impulso alla sua carriera fu il piccolo schermo, poiché nel 1951 Madison diventò il protagonista della serie televisiva westernWild Bill Hickok, che andò in onda per sette anni, fino al 1958.
Dopo il successo della serie, Madison apparve in diversi altri film, principalmente di genere western, come L'indiana bianca (1953), prima di partire per l'Europa, dove riscosse un grande successo in film d'avventura e nel genere spaghetti-western.
Madison sposò le attrici Gail Russell (dal 1949 al 1954) e Sheila Connolly (dal 1954 al 1964), ma entrambi i matrimoni terminarono con un divorzio. Ebbe quattro figli, tre femmine e un maschio (l'attore Robert Madison).
Pino Locchi in Lo spietato, Rosmunda e Alboino, Viva Gringo,Il figlio di Django, Bang Bang Kid,I lunghi giorni dell'odio, 7 eroiche carogne
Renato Turi in Il boia di Venezia, Sandokan alla riscossa, Sandokan contro il leopardo di Sarawak, I misteri della giungla nera, L'avventuriero della Tortuga
Giuseppe Rinaldi in I lancieri del deserto, 5 contro il casinò, L'ultima frontiera, Rappresaglia, La frusta dell'amazzone
Emilio Cigoli in La schiava di Roma,7 Winchester per un massacro, I diavoli della guerra, Reverendo Colt
