Fils de Charlotte Augusta Mailloux et du médecin Lucien d'Emmerez de Charmoy, il naît sur Bourbon Street à Port-Louis[1]. Il part pour Paris effectuer ses études au collège Sainte-Barbe[2].
Il a pour professeur, la sculptrice Madeleine Jouvray, qui demandera à Auguste Rodin, d'aider son protégé à présenter une œuvre au Salon[3].
Et c'est en 1899, que José de Charmoy participe pour la première fois à Paris au Salon de la Société nationale des beaux-arts avec un buste en plâtre intitulé Demos ; il réside à cette époque au 47 de la rue Blomet[4].
En 1901, il revient à ce même salon pour y présenter la version éditée en bronze de son buste Demos, sous-titrée « Peuple, que ta puissance est grande »[5]. Son travail est remarqué par Félicien Fagus dans La Revue blanche[6].
En 1902, toujours au Salon de la Nationale, il présente un buste en plâtre figurant « Édouard Gallet » ; l'adresse de son atelier se trouve au 9 de l'impasse du Maine[7], dans la « villa Rubens », et a pour voisin Antoine Bourdelle[8]. Il fréquente le cercle autour de la revue L'Œuvre d'art international pour laquelle Louis Welden Hawkins fait son portrait dessiné[9].
Il présente au salon d'Automne d'octobre 1904, une sculpture figurant une Tête de moine, destinée à un monument funéraire privé[11]. Il devient ensuite membre de ce salon.
Spécialisé entre autres dans la statuaire funéraire et commémorative, certains de ses contemporains jugeaient son style un peu déroutant, d'autres l'admiraient : Remy de Gourmont jugeait « le si original monument de Baudelaire qui se voit au cimetière Montparnasse, où un ricanement de bronze plane comme le destin sur le néant charnel du poète des Fleurs du Mal »[12], André Gide lui rend souvent visite à partir de 1906 ; quant à Guillaume Apollinaire, il dîne avec lui le 4 janvier 1903 et en ressort consterné par, selon lui, les propos du jeune artiste qui se vantait alors « d’être le premier sculpteur au monde après Michel-Ange »[13]. Natalie Barney le décrit comme « un jeune homme d'une beauté singulière, dévoré par une flamme intérieure qui, brûlant à travers ses yeux sombres, [donnaient] l'impression qu'ils se consumait pour les géants de plâtre et de pierre qui l'entouraient »[14].