Han började sin utbildning troligtvis hos en mästare i Strassburg. 1503 flyttade han till Nürnberg och fortsatte sin utbildning hos Albrecht Dürer. De bägge målarna blev goda vänner. Efter ett uppdrag i Halle an der Saale där Baldung dekorerade katedralen kom han 1509 tillbaka till Strassburg. Mellan 1512 och 1515 var Baldung sysselsatt med högaltaret till kyrkan i Freiburg im Breisgau.
Baldung inspirerades av Dürers måleri och sökte mäta sig med dennes porträttkonst. Förutom porträtt utförde Baldung en rad målningar med kristna och allegoriska motiv, till exempel Kristi födelse och De tre gracerna. Altartavlan Jungfru Marie kröning (1512-1516) anses vara hans förnämsta verk. Han formgav även målade glasfönster.
