Le groupe se forme du côté de Montreuil, en Seine-Saint-Denis, en 1996[1]. Après avoir monté leur propre studio d'enregistrement, ils sortent un premier album (Rhythm and Blues jamaïcain) 1998[2]. Reprenant à leurs débuts des standards du ska, du rocksteady et du rhythm and blues, ils interprètent peu à peu leurs propres compositions. Les paroles des chansons sont essentiellement en anglais, avec quelques titres en français.
En 2003, le groupe est endeuillé par le décès du contrebassiste Fabrice Lombardo[1], juste avant la sortie de Let's Spend Some Love.
Leurs titres sont peu diffusés par les médias. Et bâiller et dormir (d'après Charles Aznavour) ou Qui que l'on soit arrivent tout de même à se frayer un chemin sur les ondes de quelques radios[3].
Au début des années 2010, le chanteur et guitariste Little Ced (Cédric Zaczek) collabore de plus en plus souvent avec le groupe, jusqu'à devenir un membre à part entière. Il décède malheureusement le , à 33 ans, des suites d'une longue maladie[9]. Après 18 ans de carrière, la chanteuse du groupe Nanou se retire, cédant sa place à sa fille Célia[10].
En 2016, le groupe fête ses 20 ans et sort à cette occasion un 9e album original, Stella Nova[10], financé grâce au crowdfunding[11], et distribué fin aux donateurs. Pour célébrer la musique live, le Jim Murple Memorial joue son nouveau spectacle à l'occasion d'une tournée anniversaire intitulée « Jim Murple Memorial fête ses 20 ans », qui passe notamment par La Maroquinerie à Paris le .
En 2020, Jim Murple Memorial sort un nouvel album, baptisé 4, parce qu'enregistré avec quatre chanteuses : Nina Dallaine, sa sœur Célia, Ellen Birath et Marie (alias Bobbie)[12].