La composition et les types de grades des sous-officiers varient selon les pays et les unités (Armée de terre, Armée de l'air, Marine, sapeurs-pompiers, etc.).
Dans les Forces armées canadiennes, les sous-officiers ne forment pas un corps à part entière et constituent les grades supérieurs des militaires du rang ; ils sont aussi appelés « sous-officiers seniors ».
adjudant-chef (ou maître principal, commis greffier de 1re classe, huissier appariteur de 1re classe, agent technique en chef, sous-chef de musique de 1re classe, maître ouvrier principal) ;
adjudant (ou premier maître, commis greffier de 2e classe, huissier appariteur de 2e classe, agent technique, sous-chef de musique de 2e classe, maître ouvrier de 1re classe) ;
Le grade de gendarme, qui prend place entre les grades de sergent et de sergent-chef, n'est présent que dans le corps des sous-officiers de gendarmerie où il est le premier grade. Dans la Marine nationale, les sous-officiers sont appelés officiers mariniers.
Les sous-officiers forment un corps. Dans un régiment (ou formation assimilée), les sous-officiers élisent un représentant de leur catégorie auprès de la hiérarchie : le « président des sous-officiers ».
Les sous-officiers, comme les officiers subalternes et les « petits gradés » (caporal, brigadier ou quartier-maître de 2e classe, caporal-chef, brigadier-chef ou quartier-maître de 1re classe) font partie des cadres de contacts, c'est-à-dire qu'ils commandent directement la troupe. Ils sont souvent la cheville ouvrière d'un régiment ; ils accomplissent le rôle d'encadrement des troupes au plus près, de techniciens.
Bas-officiers
Sous l’Ancien Régimefrançais, les « bas officiers » secondaient les officiers dans l’encadrement quotidien de la troupe. Ce terme survit dans le mot d'argot « bazof »[4].
Écoles de sous-officiers en France
Pour devenir sous-officier d'active ou de réserve (ou officier marinier dans la Marine nationale), il est souhaitable de suivre les cours des écoles indiquées ci-après, selon l’armée mentionnée :
La brigade de sapeurs-pompiers de Paris et la Légion étrangère sont des exceptions: la plupart des sous-officiers de la Légion sont issus du rang légionnaire. Elle forme aussi les futurs chefs de groupe de l'infanterie puis des blindés et encadre les sous-officiers plus anciens au cours de la formation générale de 2e degré.