Nato nel 1836 nello Stato di New York, divenne orfano all'età di 10 anni. A 21 anni si trasferì a Red Wing dove fu editore e redattore del Red Wing Republican, sul quale promosse le sue forti opinioni politiche.
Hubbard sollecitò con forza l'intervento del governo in materia di sanità pubblica, organizzazioni di beneficenza, ferrovie, agricoltura e commercio. Il suo secondo mandato durò tre anni, in base ad una modifica di stato costituzionale.
Nel 1887 Hubbard rilevò le attività di un'altra ferrovia. Quando l'America dichiarò guerra contro la Spagna nel 1898, il Presidente William McKinley chiamò il sessantaduenne generale di brigata dei volontari e gli chiese di controllare un posto militare in Florida. Due anni più tardi, Hubbard si trasferì a Saint Paul e poi a Minneapolis, dove morì a 77 anni.