Nach dem Rücktritt seines Vaters wurde Karl Maria Raimund von Arenberg ab 1740 Statthalter (Grand-Bailli) des Hennegau und von Mons. Im Jahr 1754 erhielt er das später so genannte Infanterie-Regiment Nr. 21 und blieb bis zu seinem Tod dessen Kommandeur.
Während des Siebenjährigen Krieges diente er anfangs auf dem böhmischen Kriegsschauplatz. Er nahm an der Schlacht bei Prag teil und zeichnete sich auch bei zahlreichen folgenden Schlachten aus.
Im Jahr 1758 wurde er zum Feldzeugmeister ernannt. Am 14. Oktober des Jahres spielte er in der Schlacht bei Hochkirch eine wichtige Rolle als Kommandant des rechten Ostflügels der österreichischen Armee. Dafür wurde er mit dem Großkreuz des Militär-Maria-Theresia-Ordens ausgezeichnet. Im Feldzug von 1759 befehligte er zeitweise selbstständig operierende Korps. Er wurde allerdings bei Dresden am 29. Oktober von den Truppen des preußischen Generals Johann Jakob von Wunsch geschlagen. Sein Einsatz bei der österreichischen Niederlage bei Torgau am 3. November 1760 wurde gelobt. Dabei wurde er schwer verwundet.
Dies bedeutete das Ende seines aktiven Dienstes bei einem Feldzug. Im Jahr 1776 wurde er zum Geheimrat und ein Jahr später zum Feldmarschall ernannt.