Hij werd geboren als Carl Johan Ståhlberg, maar later nam hij de Finse voornamen Kaarlo Juho aan.
Ståhlberg volgde onderwijs aan het lyceum en studeerde daarna rechten. In 1889 verwierf hij de doctorstitel. Nadien was hij werkzaam als jurist. Hij begon zijn politieke carrière als lid van de Vooruitgangspartij en hij werd in de Senaat van het Groothertogdom Finland gekozen. Hij verzette zich tegen de russificatiepolitiek die rond 1900 werd ingevoerd. Later sprak hij zich uit vóór een grondwettelijke hervorming, algemeen en enkelvoudig kiesrecht voor mannen en vrouwen.
In november 1918 viel het Duitse Keizerrijk en prins Frederik (inmiddels bekend onder de naam koning Väinö I van Finland) trok zich als kandidaat voor de troon terug. Op 17 juli1919 werd de Republiek Finland uitgeroepen. Er werd een presidentieel systeem ingevoerd. Ståhlberg bepleitte de invoer van directe presidentsverkiezingen, maar uiteindelijk koos de Senaat voor het stelsel met de kiesmannen (indirecte verkiezing). Als belangrijkste presidentskandidaten golden Ståhlberg en Baron Carl Gustaf Mannerheim. Mannerheim werd gesteund door de centrumrechtse partijen en Ståhlberg door de liberale partijen (w.o. zijn eigen Nationale Progressieve Partij), de Agrarische Partij en de Sociaaldemocratische Partij. Ståhlberg won de verkiezingen en op 27 juli1919 werd hij de eerste president van Finland.
Als president voerde Ståhlberg een democratisch bewind. Zijn buitenlandpolitiek was gericht op Polen, Groot-Brittannië en Frankrijk. Zijn pogingen om de betrekkingen met de Entente-mogendheden (Verenigd Koninkrijk, Frankrijk) te verbeteren waren echter niet altijd succesvol. Minder toenadering zocht hij tot Duitsland en Zweden, hoewel de verstandhoudingen met die landen goed bleven. In zijn binnenlandse politiek moest hij steeds nieuwe regeringen benoemen, omdat in de jonge staat er steeds regeringswisselingen waren. Tijdens zijn presidentschap (1919-1925) waren er negen regeringen.
Ståhlberg stelde zich in 1925 niet meer herverkiesbaar voor het presidentschap. Hij werd gekozen in het Constitutionele Hof van Finland.
In 1930 werden Ståhlberg en zijn vrouw gegijzeld door leden van de rechts-radicale Lapua-beweging. Leden hiervan wilden hem naar de Sovjet-Unie sturen. (De betrekkingen tussen de USSR en Finland waren niet goed.) Uiteindelijk liet de beweging Ståhlberg vrij. Door dit incident brokkelde de aanhang van de Lapua-beweging verder af.
Ståhlberg stond bekend als een verlegen man. Hij was wel erg zorgvuldig en bereidde al zijn publieke optredens tot in de puntjes voor. Hij bestreed zowel extreemrechts als extreemlinks. Hij was actief binnen de Finse geheelonthoudersbeweging.
Ståhlberg hertrouwde toen hij weduwnaar was geworden.