Le cimetière a été créé vers 1680 afin d'y ensevelir les premiers travailleurs employés à la construction du môle Saint-Louis.
Le cimetière a d'abord porté le nom de Cimetière Saint-Charles et a reçu le nom de Cimetière marin le en référence au poème de l'écrivain, poète et philosophe sétois Paul Valéry, qui y avait été inhumé quelques jours auparavant. Au niveau local, il est appelé « cimetière des riches », en opposition au cimetière Le Py, surnommé « cimetière des pauvres », situé face à l'étang de Thau[1].
Ce toit tranquille, où marchent des colombes,
Entre les pins palpite, entre les tombes ;
Midi le juste y compose de feux
La mer, la mer, toujours recommencée !
Ô récompense après une pensée
Qu’un long regard sur le calme des dieux !
Georges Brassens l'évoque également (« [que] mon cimetière soit plus marin que le sien ») dans sa chanson Supplique pour être enterré à la plage de Sète (1966), il est cependant enterré dans l'autre cimetière de Sète, le cimetière Le Py, auprès des siens, comme il l’a toujours intimement désiré[2].
Henri Colpi (1921-2006), cinéaste, palme d'Or au Festival de Cannes 1961,
Honoré Euzet (1846-1931), maire de Sète pendant plus de 22 ans,
Pierre François (1935-2007), peintre spécialiste d'une figuration débridée,
Emmanuel Gambardella (1888-1953), président de la Fédération française de football, journaliste, homme de radio,
Eugène Herber (1878-1900) dit l' « Aspirant Herber », tué en Chine en défendant la légation française assiégée durant la guerre des Boxers. Un quai de Sète porte son nom ainsi qu'un ancien contre-torpilleur français (1912-1930),