Le groupe est formé en 1990 sous le nom de Dominion[1]. Ils enregistrent une première démo intitulée Morbid Death, suivie par Possessed By Darkness, Massacre In Blood et Nocturnal Spells dans les années 1990[2]. Leur premier album démo, Ancient Storms of War, publié en 1999, est enregistré quatre ans plus tôt par le chanteur Tyrant (bestial summonings and torments), le guitariste Funeral- a.k.a. Kevin Fye (guitars of satanic storms and conjurings), le bassiste Massacre (diabolic bass and blasphemy), et le batteur Desecrator (infernal destruction and percussion)[2].
En 2001 Gravewürm participe à un split 7" single intitulé On the Wings of Death, aux côtés du groupe brésilien Apocalyptic Raids, publié au label allemand Iron Bonehead Productions[2]. En 2003, ils participent à un split EP, Behold the Legion of Hell, au label Barbarian Wrath avec Derketa, Witchburner et Sadomaniac[2]. La même anéne, ils publient un mini-album intitulé Vermin[2]. En , Miriquidi Productions publie leur split 7" single intitulé Infernal Gates avec le groupe suédois Devil Lee Rot[2]. NunSlaughter Records publie le premier album album studio de Gravewürm intitulé Ancient Storms of War en , distribué par Hells Headbangers en Europe, avec 100 exemplaires sur vinyle orange[2],[3]. Le groupe se lance dans une tournée nord-américaine, Antichrist Vanguard, en début aux côtés de Watain, Negative Plane, Angel Corpse, et Nachtmystium[2],[4].
Le groupe publie l'album studio Funeral Empire en 2009, suivi par Black Fire et Blood of the Pentagram en 2010[1]. En 2011 sort l'album studio Netherfiend, et leur split avec Spun in Darkness[5]. En 2012 sort leur neuvième album Infernal Minions, au label Hells Headbangers[5],[6]. En , le label du groupe, Hells Headbangers, annonce la sortie de leur album Infernal Minions le à l'international[7].
À la fin de 2015, le groupe publie son onzième album studio, intitulé Doomed to Eternity[8], célébrant leur 25e années d'existence[9]. L'album fait participer pour la toute dernière fois leur batteur Jim « Sadist » Konya, décédé en à la suite d'un accident vasculaire cérébral[10].
