På 1910-talet arbetade han som teaterskådespelare på Broadway. Han filmdebuterade 1915 eller 1916, och från 1920-talet var han kontrakterad hos bolaget Metro-Goldwyn-Mayer. Han klarade till skillnad från många stumfilmsskådespelare övergången till ljudfilm galant, och kom under 1930-talet och 1940-talet att bli en populär karaktärsskådespelare. Han blev särskilt omtyckt i sin roll som domare James Hardy i filmserien om Andy Hardy med Mickey Rooney i titelrollen. Stone kom totalt att medverka i över 150 Hollywoodfilmer. När han avled hade han varit kontraktsanställd så länge att han tillsammans med Lionel Barrymore tilldelats en guldnyckel till sitt omklädningsrum av filmbolaget.[4]