Han har tidigare varit gitarrist i den franska rockgruppen A.S. Dragon, förband till grundaren av A.S. Dragon, Bertrand Burgalat, samt medverkat på Michael Houellebecqs album Présence humaine (2000). Peter von Poehl har därefter samarbetat med andra musiker, så som Doriand (Le Grand bain), Lio (Dites au prince charmant), hustrun Marie Modiano (I'm Not a Rose) och Florian Horwath (We Are All Gold). Tillsammans med den sistnämnde grundade han skivbolaget Graeferecordings i Berlin.
Peter von Poehls första album, Going to Where the Tea-Trees Are, släpptes under skivbolaget Tôt ou tard den 9 maj 2006.
Senare samma år producerade han Vincent Delerms tredje album, Les Piqûres d'araignée (2006), i vilket han medverkar i en låt, Marine. Peter von Poehl har varit ute på en lång serie turnéer, bland annat som förband till de franska musikgrupperna Phoenix (hösten 2006) och Air (våren 2007).
Låten The Story of the Impossible på von Poehls album Going to Where the Tea-Trees Are, används i Friends reklamfilmer, vars syfte är att motverka mobbning i skolorna.
Peter von Poehls andra album, May Day, släpptes i februari 2009. Hans tredje album, Big Issues Printed Small, kom 2013.