Weber werd in 1946 tot vicekanselier gekozen. Hij bleef vicekanselier tot 1967. Hij gold als een expert op het gebied van rechtsvraagstukken en techniek. In 1967 was hij kandidaat voor het bondskanselierschap, maar hij werd niet gekozen. In plaats van hem werd Karl Huber gekozen.