Rosenberg naît à Königsberg dans une famille prussienneluthérienne. Il étudie de 1899 à 1902 à l’académie des arts de cette ville et devient au bout de trois ans Meisterschüler (premier assistant) de Friedrich Reusch. Il voyage en France et en Italie, puis s’installe définitivement dans sa ville natale.
Il devient rapidement un sculpteur renommé, grâce aux statues et monuments que la ville et la bourgeoisie locale lui commandent, et grâce aux commandes d’autres villes de Prusse.