Plomp werd geboren in Amsterdam en volgde het lyceum waar hij voor de schoolkrant schreef en Vera de Vries - later beter bekend als Xaviera Hollander - leerde kennen. Als tiener leefde hij op een zolderkamer. Toen zijn ouders ontdekten dat hij 's nachts niet altijd thuis was, werd het toezicht verscherpt en ontdekte Plomp het schrijven. Hij studeerde Nederlands en was aanvankelijk leraar, maar werd actief in de Provo-beweging en gaf zijn baan op. Hij debuteerde in 1968 met De ondertrouw[2], een sleutelroman over zijn vriendschap met Gerard Reve en Johan Polak.[3] Hij werd pas echt bekend door Het Amsterdams dodenboekje (1970). In datzelfde jaar publiceerde hij met Peter Andriesse, Heere Heeresma en George Kool een Manifest van de jaren zeventig,[4], waarin de groep zich afzette tegen gevestigde auteurs en tegen de door hen als Nieuwe wartaal afgewezen experimentele literatuur die in die tijd nogal in opgang was.[5]
Als twintiger begon Plomp te experimenteren met lsd en andere geestverruimende middelen. Later schreef hij – samen met Gerben Hellinga – de 'drugs'handleiding Uit Je Bol (1994).[6][7] Plomp en Hellinga waren tevens duo-voorzitters geweest van de Stichting Legalize!, waarbij Plomp zich met passie inzette voor de normalisatie en legalisatie van drugsgebruik en het doorbreken van taboes.[8][9]
Samen gaven ze ook leiding aan het verzet van Amsterdamse kunstenaars tegen de sloop van het dorp Ruigoord. In juli 1973 wisten ze te voorkomen dat slopers het dorp kwamen afbreken en diezelfde dag nog werd de sloopvergunning voorlopig ingetrokken. Plomp woonde jarenlang in Ruigoord in een inmiddels afgebroken huis, Mexico. Tegenwoordig is Ruigoord een bloeiende kunstenaarsgemeenschap, waar hij een atelier had.[10]
Hij reisde jarenlang door het Verre Oosten, wat resulteerde in columns in De Volkskrant en het boek India, heilig en hels. In 1991 was Plomp te gast op het Crossing Border-festival.[11] en 1993[12] Op 21 mei 2008 was hij te zien in een aflevering van Spuiten en Slikken, tijdens een samen met stichting Legalize! gevoerde actie tegen het verbod op paddo's.
Samen met beeldende kunstenaars Aat Veldhoen en Frank Lodeizen schiep hij monumentale uitgaven als De Kunst van het Sterven en NU.
Naast zijn werk als schrijver en dichter stelde Plomp bundels samen en was hij actief als vertaler van boeken van onder anderen James Purdy, George Steiner en Amos Tutuola.