Ståhlberg lahir di Suomussalmi, di wilayah Kainuu di Finlandia. Ia adalah anak kedua dari Johan (Janne) Gabriel Ståhlberg, seorang asisten pastor, dan Amanda Gustafa Castrén. Ia dibaptis dengan nama Carl Johan, namun kemudian namanya diFinlandianisasikan menjadi Kaarlo Juho