Armstrong wuchs als Sohn eines Minenarbeiters in der Nähe von Greater Sudbury auf und war Ojibwe-irischer Abstammung. Er spielte als Junior in der OHA und wechselte dort 1948 als MVP der Liga von den Stratford Kroehlers zu den Toronto Marlboros. Frühzeitig sicherten sich die Toronto Maple Leafs die Rechte an ihm. Er blieb bei den Marlboros und spielte dort im Senioren Team. In der Saison 1949/50 holten die Maple Leafs ihn für zwei Spiele in die NHL. Mit den Marlboros gewann er in dieser Saison den Allan Cup. Bei diesem Turnier besuchte das Team ein Indianerreservat. Als man dort hörte, dass er indianischer Abstammung war, bekam er den Titel „Big Chief Shoot the Puck“.
Ab der Saison 1953/54 war er bei den Maple Leafs gesetzt. Er war kein guter Schlittschuhläufer, konnte dies aber durch sein gutes Stellungsspiel kompensieren. Er war auch im Mannschaftsgefüge ein wichtiger Spieler mit Führungsqualitäten, der das Team auch immer wieder zum Lachen brachte. Ab der Saison 1957/58 war er Mannschaftskapitän bei den Leafs und Conn Smythe nannte ihn den besten Kapitän, den das Team je hatte. Er führte sein Team in den 1960er-Jahren zu vier Stanley-Cup-Siegen.
Nach seiner aktiven Laufbahn trainierte er die Toronto Marlboros und führte sein ehemaliges Juniorenteam 1973 und 1975 zum Gewinn des Memorial Cup. In der Saison 1988/89 betreute er die Toronto Maple Leafs in 47 Spielen.