Karl lahir pada tanggal 6 Maret1823 di Stuttgart sebagai putra Raja Wilhelm I dan istri ketiganya Pauline Therese (1800–1873).[2] Sebagai putra sulung raja, ia menjadi putra mahkota Württemberg. Ia menempuh pendidikannya di Berlin dan Tübingen.
Ia meninggal tanpa keturunan di Stuttgart pada tanggal 6 Oktober1891, dan gelarnya sebagai Raja Württemberg diwariskan kepada putra saudarinya, Wilhelm II. Karl dimakamkan oleh istrinya di puri tua, Stuttgart.