McWherter tjänstgjorde i nationalgardet1948-1969 och avancerade till kapten. Han gifte sig 1953 med Bette Jean Beck Coffee. Paret fick två barn, Michael Ray och Linda. McWherter var ledamot av Tennessee House of Representatives, underhuset i delstatens lagstiftande församling, 1969-1987, varav talman i fjorton års tid från och med 1973.