El districte urbà de Sumiyoshi ha estat històricament el ja desaparegut districte de Sumiyoshi (住吉郡, Sumiyoshi-gun), pertanyent fins a la fi del període Tokugawa a la província de Settsu. Abans de pertànyer a la ciutat d'Osaka, la zona va evolucionar independentment d'Osaka. L'any 1878 es creà el districte de Sumiyoshi (Sumiyoshi-gun d'acord amb la nova llei que dividia el Japó en districtes (gun), districtes urbans (ku), viles (machi o chō) i pobles (mura o son). La capital del districte va ser establerta a l'única vila d'aquest, Anryū, actual barri del districte de Suminoe. El 1896 una reforma del sistema de districtes va fer que el de Sumiyoshi sigués absorbit pel districte de Higashinari (東成郡, Nishinari-gun), actualment també desaparegut. L'actual districte de Sumiyoshi es fundà l'1 d'abril de 1925, fruit de la segona expansió territorial d'Osaka, en aquest cas sobre el territori de l'antic Sumiyoshi-gun.[3] L'1 d'abril de 1943, Sumiyoshi va patir dues escissions que donarien com a resultat els actuals districtes d'Abeno i Higashi-Sumiyoshi (Sumiyoshi oriental). El 22 de juliol de 1974, Sumiyoshi va patir la seua darrera escissió, quan se separà la part més occidental per tal de formar l'actual districte de Suminoe, perdent Sumiyoshi el seu accés a la mar.