In 1979 trouwde Carper met Diane Beverly Iscaacs, een voormalige Miss Delaware. Na een scheiding tussen hen, trouwde hij opnieuw in 1985 met Martha Ann Stacy. Samen kregen zij twee kinderen. Het gezin is lid van de Presbyteriaanse kerk.
Carper zette zich als student al in voor de verkiezingscampagne voor het presidentschap van senator Eugene McCarthy. In 1974 deed hij zelf een niet-succesvolle poging om gekozen te worden in het Huis van Afgevaardigden. In 1975 ging hij werken voor de economische afdeling van de staat Delaware. In 1976 werd hij gekozen als schatkistbewaarder van die staat.
Het kostte senator Joseph Biden, en anderen, behoorlijk wat moeite om Carper te overtuigen om zich nogmaals kandidaat te stellen voor de enige zetel van de staat Delaware in het Huis van Afgevaardigden. In 1982 deed hij het toch, en werd ditmaal wel gekozen. In het Huis van Afgevaardigden zou hij zich onder andere inzetten voor ontmoediging van het dumpen van slijk in zee.
In 1992 werd Carper gekozen als gouverneur van de staat Delaware. Als gouverneur zette Carper zich vooral in voor ontwikkeling van de economie. Hij was een warm pleitbezorger van lagere belastingen. Twee van zijn successen waren het voorkomen van de sluiting van de grote autofabriek van General Motors, en het halen van het hoofdkwartier van de farmaceutische gigant AstraZeneca naar de staat.
De meest schokkende gebeurtenissen tijdens Carpers gouverneurschap was de moord op zijn persoonlijk assistente Anne Marie Fahey, en de veroordeling van de moordenaar Thomas Capano. Capano, een welgestelde advocaat, kende bijna iedereen binnen de politieke gemeenschap van Delaware. De goedogende Fahey probeerde een romantische verhouding met hem te verbreken, maar werd vermoord door Capano. Hij dumpte haar lichaam in de Atlantische Oceaan.
Senator
In 2000 liep de tweede termijn van Carper ten einde en hij kon zich volgens de wet niet meer dan twee termijnen zitting hebben als gouverneur. Hij stelde zich verkiesbaar voor de Senaat, en in de Democratische voorverkiezingen versloeg hij zittend senator William V. Roth.
In de Senaat heeft Carper krediet opgebouwd in zowel het Republikeinse als het Democratische kamp. Hij heeft zich ingezet voor een evenwicht nationaal energiebeleid, milieubescherming, nationale onderwijsstandaarden, een gebalanceerd uitgavepatroon en welzijnshervormingen.
Carper heeft zich bij het gezelschap gevoegd dat probeerde om de belastingkortingen van president Bush te voorkomen. Daarin slaagden zij niet. Ook heeft hij zich ingezet voor bekostiging van verschillende spoorwegprojecten en de veiligheid op het spoor. Carper was een van de initiatiefnemers tot hervormingen bij de Amerikaanse post.
Samen met senator George Voinovich stelde Carper in 2010 een verhoging voor van 25 cent op de federale belasting op gas. Tien cent zou gebruikt worden om de nationale schuld af te lossen. De andere vijftien cent zou geïnvesteerd moeten worden in de nationale infrastructuur. Van het voorstel kwam niets terecht.
Carper is een van de weinige senatoren die elke dag van huis op en neer reist naar de Senaat. In zijn geval is dat ook minder moeilijk, omdat hij slechts 100 mijl met de trein hoeft om in Washington D.C. te komen. Volgens Carper heeft dat hem en zijn gezin geholpen een normaal leven te leiden.