Graf, der als Kind eine klassische Klavierausbildung erhielt und sich später auch für Malerei interessierte, arbeitete nach dem Abbruch der Schule in einem Musikladen. Er wurde Mitglied der Jazzrock-Gruppe Ruphus, an deren Debütalbum New Born Day (1973) er als Pianist und Komponist mitwirkte.
Nach einer Brasilientournee wurde Graf für drei Jahre Leiter des Club 7, wo er drei- bis fünfmal wöchentlich auftrat. Mit Joeri Hommerson gründete er die Gruppe Graffiti. Von 1988 bis 1989 lebte er in Brasilien. Nach ersten Reisen nach Los Angeles seit 1985 begann Anfang der 1990er Jahre seine Zusammenarbeit mit Gary Grainger und Dennis Chambers, der ihn zum Buddy Rich Memorial Scholarship Concert in Boston 1993 einlud. Im gleichen Jahr beteiligte er sich in Japan an Paul Jacksons Projekt Jazz for Kids. Graf arbeitet heute auch als Musikproduzent.