Bereits 1994 nahm Bobby Burg seine ersten Solotapes auf und spielte 1995 Gitarre bei seiner ersten Band Nobody’s Hero. Von 1995 bis 1996 war er Bandmitglied bei Jawa Sandcrawler, versuchte sich aber immer wieder auch als Solomusiker. Seine ersten professionellen Aufnahmen tätigte er 1997 mit Beauty Pageant, wo er mit Derek Erdman unter wechselnder Besetzung bis 1999 spielte.
1999 gründete Bobby Burg mit Love of Everything seine Emo-Band, um eigene Songideen zu entwickeln, und seine eigene Plattenfirma Record Label, um diese Ideen nach seinen Vorstellungen umsetzen zu können. Als Bandleader übernahm er auch den Gesangspart und veröffentlichte bald seinen ersten Longplayer. The Hertzsprung Gap blieb nur ein einmaliges Experiment, da Burg sich weiter auf seine Band Love of Everything konzentrieren wollte.
2003 konnte ihn Jugendfreund Tim Kinsella zu einer Beteiligung an dessen Bandprojekten Make Believe und Joan of Arc gewinnen, an denen auch Sam Zurick und Tims Cousin Nate Kinsella partizipierten. Später spielten die Bandkollegen von Make Believe auch bei einigen Aufnahmen von Love of Everything mit. 2004 war Burg auch in Europa auf Tournee.