Район был образован 11 июня 1924 года из части Пришибского района как район с преимущественно немецким населением. Позже преобразован в русский национальный район.
15 сентября 1930 году Мелитопольский округ был ликвидирован, и Терпеньевский район перешёл в прямое подчинение УССР.