Батьком Карла був ерцгерцог Карл II зі штирійської лінії Габсбургів, матір'ю — Марія Анна Баварська, дочка герцога Альбрехта V Баварського. Його братами були імператор Фердинанд II і Леопольд V, єпископ Страсбурга і Пассау. Карл народився через два місяці після смерті батька у Граці. Вже з перших років життя його стали готувати до церковної кар'єри, він здобував освіту в Пассау, Зальцбурзі, Трієнт і Бріксене. Його навчанням керував єпископ Зекау Яків I.
7 липня1608 року Карл був обраний єпископом Бреслау і 14 грудня урочисто в'їхав до міста. У 1613 році став єпископом Бріксенським. У 1619 році, після смерті імператора Максиміліана III був обраний великим магістром Тевтонського ордена[1].
У 1624 році на запрошення іспанського короля Філіпа IV Карл відправився в Мадрид, щоб прийняти там пропозицію стати віце-королем Португалії. Але після його прибуття в Мадрид він захворів і помер 28 грудня 1624 року. Його тіло було поховано в монастирі Ескоріал, його серце, згідно з його волею, відправлено в єзуїтський монастир Нейсе.