Begonnen hat Sheehans Karriere als Bassist mit der Band Talas aus Buffalo, die 1980 im Vorprogramm von Van Halen spielte. Zuvor spielte er in lokalen Cover-Bands. Mit der Band UFO ging er 1983 auf Europa-Tournee.[1] Ersten kommerziellen Erfolg erlangte er jedoch in der Band des ehemaligen Van-Halen-Frontmanns David Lee Roth, wo er unter anderem mit Steve Vai zusammenspielte, den er auch auf den G3-Tourneen begleitet. Aber auch mit der Combo Mr. Big, 1989 u. a. mit Paul Gilbert gegründet, spielte er sich in die Öffentlichkeit. Mr. Big feierte unter anderem mit dem Nummer-1-Hit To Be with You und dem Cat-Stevens-Cover Wild World große Erfolge. Seit 2001 veröffentlicht er auch Solo-Alben, beginnend mit seinem Werk Compression. Unter anderem wirkt er noch in der Band Niacin mit und half bei anderen Musikern wie Terry Bozzio, Greg Howe uvm. aus.
Seit dem Jahr 2013 spielt er zusammen mit Mike Portnoy und Richie Kotzen in einer Band namens The Winery Dogs, mit denen er drei Alben veröffentlichte.
Sheehan ist ein technisch höchst versierter Spieler, der unter anderem fünfmal zum „Best Rock Bass Player“ im Guitar-Player-Magazin gewählt wurde und auch in der Bassisten-Gemeinde größten Respekt genießt. Als das Tapping durch Eddie Van Halen breitere Bekanntheit erfuhr, leistete Sheehan einen wichtigen Beitrag, um diese Technik auch auf dem Bass zu etablieren. Sheehan wird deshalb unter anderem oft als „the Eddie Van Halen of the bass“ bezeichnet.
Die Firma Yamaha bietet zwei Billy-Sheehan-Signature-Modelle an. Der Attitude Limited 3 zeichnet sich vor allem aus durch die Möglichkeit, die Signale der beiden Tonabnehmer separat abzugreifen.[2]
1979 – Michael Schenker Group (MSG) – The Michael Schenker Group (Remastered Edition von 2009 – Sheehan spielt auf dieser CD lediglich in fünf Demo-Studio-Liedern den Bass)