Die Gruppe wurde 1986 gegründet. Zu diesem Zeitpunkt bestand sie neben Guru noch aus verschiedenen anderen Mitgliedern. Sie trat jedoch erst wirklich in Erscheinung, als 1989 DJ Premier dazu stieß und die beiden gemeinsam die Single Words I Manifest und das Album No More Mr Nice Guy veröffentlichten. Ihr nächstes Werk, Step In The Arena, wurde zu einem Klassiker. Nebenher steuerten sie zwei Kompositionen für Neneh Cherrys zweites Album Homebrew aus dem Jahr 1992 bei: den Eröffnungstitel Sassy und I Ain't Gone Under Yet.
Die beiden darauf folgenden Alben Daily Operation und Hard To Earn halfen dabei, ihren Status als eine der einflussreichsten Hip-Hop-Gruppen überhaupt zu festigen. Ihre fünfte LP Moment of Truth war das kommerziell erfolgreichste Studioalbum des Duos, 1998 wurde das Werk mit über 500.000 verkauften Einheiten in den USA von der RIAA mit Gold ausgezeichnet. Dies gelang anschließend auch mit dem Album Full Clip.[1] Gang Starr trugen mit dem Stück Jazz Thing aus dem Soundtrack zu Spike Lees Film Mo' Better Blues auch dazu bei, den Jazz-Rap mitzubegründen.
Nach ihrem letzten Album The Ownerz trennten sich die beiden freundschaftlich vorläufig und begannen, an ihren Soloprojekten weiterzuarbeiten. Der an Krebs erkrankte Guru verstarb jedoch am 19. April 2010 an den Folgen eines Herzinfarktes, nachdem er zuvor im Februar des Jahres ins Koma gefallen war.[2]
Im September 2019 kündigte DJ Premier überraschend ein neues Album des Duos an. Auf diesem werden bisher unveröffentlichte Aufnahmen von Guru zu hören sein. Mit Family and Loyalty (feat. J. Cole) wurde ein erstes Stück veröffentlicht.[3] Neben Künstlern aus dem Umfeld der einstigen Gang Starr Foundation wie Jeru The Damaja, M.O.P. und Group Home sind auf den 16 Songs auch Gastauftritte von Q-Tip und Talib Kweli zu hören.[4]