Принял постриг в рясофор; 27 сентября 1936 года хиротонисан во епископа Елгавского, викария Рижской епархии, с пребыванием в Риге. Хиротонию совершали митрополит Августин (Петерсон), митрополит Эстонии Александр (Паулус), Печерский архиепископ Николай (Лейсман) и Финляндский архиепископ Герман (Аав). Епископская хиротония Иакова совершалась на латышском языке.
Под управлением епископа Иакова находились приходы Елгавского и Лиепайского благочиний (около 30 общин), кафедральным храмом был елгавский собор праведных Симеона и Анны; в пределах Елгавского викариатства, в Кулдиге, имелась школа псаломщиков. На содержание Елгавского епископа выделялись средства из латвийской казны. Епископ Иаков жил преимущественно в Риге, в здании Рижской духовной семинарии, помогая митрополиту Августину в управлении Латвийской Церковью.
В 1941 году, когда митрополит Рижский Августин (Петерсон) принёс покаяние в расколе и был воссоединён с Русской Православной Церковью, Елгавский викарий Иаков (Карпс) был также принят в клир Московского Патриархата.
6 июля 1942 года был возведён в сан архиепископа митрополитом-экзархом Сергием (Воскресенским).