Innerhalb des Mossad hatte Shavit verschiedene Posten inne, bevor er 1989 zum Direktor des Geheimdienstes ernannt wurde. Er war der letzte Mossad-Direktor, dessen Name während seiner Amtszeit nicht in der Öffentlichkeit genannt wurde. Er war lediglich als „S“ bekannt. Nach dem Mord an Israels Premierminister Jitzchak Rabin und verschiedenen Fehlschlägen musste er zurücktreten. Am 24. März 1996 wurde Generalmajor Dani Jatom zum neuen Generaldirektor ernannt.