Гросс посещал протестантские гимназии в Познани и Гёттингене. С 1923 года изучал медицину в Гёттингенском, Тюбингенском и Мюнхенском университетах. По окончании обучения в 1928 году получил докторскую степень.
До 1932 года работал ассистентом в госпитале Брауншвейга. После вступил в нацистскую медицинскую ассоциацию и стал сотрудником Департамента здравоохранения.
В 1933 году Гросс основал политическое ведомство в области народонаселения и расовой гигиены, в мае 1934 года переименованное в Офис расовой политики[1]. Возглавляемое им учреждение занималось публичной пропагандой и поддержкой нацистской программы стерилизации и других схем «этнического улучшения».
С входом Красной армии в Берлин Гросс сжёг свои документы и совершил самоубийство в собственном доме, таким образом уничтожив основательные доказательства, «которые могли обличить более 3000 членов нацистской сети расовых пропагандистов»[2].