Chef der Zentralabteilung des Reichsmarineamtes Chef des Stabes des Flottenkommandos Befehlshaber des II. Geschwaders der Flotte Chef der Hochseeflotte
Hij trad in dienst bij de Kaiserliche Marine in 1879. Hij werd Kapitän zur See (kapitein ter zee) in 1905 en Konteradmiral (schout-bij-nacht) in 1910. Scheer stond bekend om zijn discipline, in de marine was hij bekend als "De man met het IJzeren Masker", door zijn streng voorkomen.
In januari 1916 werd hij benoemd tot bevelhebber van de Hochseeflotte, waarvan hij het bevel voerde tijdens de Zeeslag bij Jutland (31 mei 1916). Alhoewel hij de Britse Royal Navy niet versloeg, kon hij de vernietiging van de Duitse vloot door de numeriek sterkere Royal Navy vermijden, en de Britten verliezen toebrengen. Hem werd een ridderschap aangeboden voor zijn prestaties bij Jutland door Wilhelm II, maar hij weigerde het aanbod (in tegenstelling tot zijn ondergeschikte Franz Ritter Von Hipper, die tot ridder geslagen werd door Lodewijk III van Beieren). Na de slag bij Jutland dacht Scheer niet langer dat de Royal Navy verslagen kon worden door de Hochseeflotte, en werd voorstander van de onderzeebootoorlog tegen het Verenigd Koninkrijk.
Hij ging met pensioen in 1918 na de revoluties in Duitsland. Later publiceerde hij zijn memoires Deutschlands Hochseeflotte im Weltkrieg – Persönliche Erinnerungen von Admiral Scheer. Net nadat hij een uitnodiging van zijn oude tegenstander in het Skagerrak John Jellicoe had aangenomen om hem in Engeland te bezoeken, stierf hij in 1928 in Marktredwitz, en is begraven in Weimar. Op zijn grafsteen staan enkel zijn geboorte- en sterfdatum, en het woord "Skagerrak", een verwijzing naar de Zeeslag bij Jutland.