V roku 1958 sa vyučil za nábytkára, neskôr od roku 1963 navštevoval umeleckopriemyselnú školu v Bazileji. Od roku 1966 študoval na Pratt Institute v New Yorku. Počas štúdia Zumthor pracoval na mnohých projektoch súvisiacich s historickou obnovou. Tu porozumel hodnotám, konštrukciám a kvalitám množstva rozličných ľudových materiálov. Časom a získanou praxou bol Zumthor schopný zakomponovať a využiť svoje znalosti do modernej architektúry.
Venoval sa ochrane pamiatok. V roku 1968 pôsobil ako technický konzultant a inšpektor pri zachovávaní historických pamiatok kantónu Grisons vo Švajčiarsku. Pracoval aj ako lektor konzervácie a dokumentácie historických pamiatok na univerzite v Zürichu.
V roku 1998 získal Zumthor Cenu Carlsberg Architecture za návrh Domu umenia v Bregenz, Rakúsko a termálnych Kúpeľov Vals, vo Švajčiarsku. Zumthor pôsobil ako profesor na California Institute of Architecture v Los Angeles, na Technickej Univerzite v Mníchove, na Academy of Architecture Mendrisio, Università della Svizzera Italiana, a tiež na Harvard Graduate School of Design.
Práce architekta Petra Zumthora sú vo väčšine nepublikované kvôli autorovej filozofii, že architektúra musí byť zažívaná „z prvej ruky“. V súčasnosti má Peter Zumthor vlastný ateliér založený v roku 1979 v meste Haldenstein vo Švajčiarsku. V roku 1994 sa stal členom Akadémie umenia v Berlíne a o dva roky neskôr čestným členom Spolku nemeckých architektov (BDA).
