On raisonne par récurrence sur l'ordre du groupe. Les groupes cycliques sont résolubles. On suppose donc, pour un certain n, que l'énoncé est vrai pour tous les groupes d'ordre < n, et que G est un groupe non cyclique d'ordre n (donc n > 1) dont tous les sous-groupes propres sont nilpotents. D'après le lemme 2 ci-dessous, G n'est pas simple. Par hypothèse de récurrence et d'après le théorème de correspondance, il est donc résoluble (car la nilpotence passe aux quotients et la résolubilité aux extensions).
Supposons qu'aucun sous-groupe maximal de G n'est normal. Alors :
pour tout sous-groupe maximal H, le normalisateur de H est réduit à H donc le nombre des conjugués de H est égal à l'indice (≥ 2) de H ;
G n'est pas cyclique, donc :
l'indice de tout sous-groupe maximal est majoré par |G|/2 ;
G est la réunion de ses sous-groupes maximaux.
Les H\{e} pour H maximal (où e désigne l'élément neutre) étant de plus supposés disjoints 2 à 2, ils forment une partition de G\{e}. En notant c le nombre de leurs classes de conjugaison, hi l'indice des sous-groupes de la i-ème classe et g l'ordre de G, on en déduit une contradiction :
. Ceci contredit l'hypothèse .
Lemme 2 — Soit G un groupe fini non cyclique. Si tous les sous-groupes maximaux de G sont nilpotents, alors G n'est pas simple.
Démonstration
Parmi les intersections de deux sous-groupes maximaux distincts (s'il en existe), soit I = H ∩ K d'ordre maximum. C'est un sous-groupe propre du groupe nilpotent H donc l'inclusion de I dans le normalisateur NH(I) est stricte. Par maximalité de |I|, le seul sous-groupe maximal de G contenant NH(I) est donc H. De même, K est le seul sous-groupe maximal contenant NK(I). Le sous-groupe NG(I), qui contient à la fois NH(I) et NK(I), n'est donc inclus dans aucun sous-groupe maximal, c'est-à-dire qu'il est égal à G, ou encore, que I est normal.
Si G est simple, on déduit que |I| = 1 (ou alors, G n'a qu'un sous-groupe maximal). On peut donc appliquer le lemme 1 : l'un des sous-groupes maximaux de G est normal. Comme G est supposé non cyclique, ce sous-groupe n'est pas trivial, ce qui contredit la simplicité de G.
Précisions sur la structure du groupe
Soit G un groupe fini dont tous les sous-groupes propres sont nilpotents, alors G est nilpotent ou d'ordre pmqn avec p et q premiers distincts et m, n ≥ 1[5].
Démonstration
Tout p-groupe fini est nilpotent. Supposons que |G| a au moins trois diviseurs premiers. Puisque (d'après le théorème de Schmidt) G est résoluble, il possède un sous-groupe normal H d'indice premier p. Comme H est un sous-groupe propre de G, il est nilpotent. Ses sous-groupes de Sylow sont par conséquent (pleinement) caractéristiques dans H donc normaux dans G. Choisissons dans G, pour chaque diviseur premier q de |G|, un q-Sylow Pq. D'après ce qui précède, pour tout q ≠ p, Pq est normal dans G. Comme chaque PpPq (pour q ≠ p) est nilpotent (car propre dans G), Pp est centralisé par tous les Pq si bien qu'il est, comme eux, normal dans G. Par conséquent, G est nilpotent.
Nombres nilpotents
Un nombre nilpotent est un entier n ≥ 1 tel que tout groupe d'ordre n soit nilpotent[6]. Les nombres nilpotents sont caractérisés par le théorème suivant[7],[8] :
Soit n un entier dont la décomposition en facteurs premiers ne vérifie pas la condition de l'énoncé. Alors, n est multiple d'un entier de la forme pkq avec p et q premiers distincts, k ≥ 1 et pk ≡ 1 mod q. On construit facilement un groupe non nilpotent d'ordre pkq, comme produit semi-direct de GL(k, Fp) par ℤ/qℤ et l'on en déduit un groupe non nilpotent d'ordre n, par produit direct par un groupe arbitraire d'ordre adéquat.
Réciproquement, supposons que la décomposition en facteurs premiers de n vérifie la condition de l'énoncé et montrons que tout groupe G d'ordre n est nilpotent. On procède par récurrence bien fondée, en supposant que l'énoncé est vrai pour tous les ordres < n. D'après la section précédente, G est alors nilpotent ou n a exactement deux facteurs premiers p et q. Mais dans ce second cas, d'après l'hypothèse sur la décomposition en facteurs premiers de n et le 3ethéorème de Sylow, G a un p-Sylow et un q-Sylow uniques donc normaux, si bien que G est leur produit direct donc, là encore, G est nilpotent.
Pour tout entier c ≥ 1, on a un énoncé plus précis concernant la classe de nilpotence :
Pour tout nombre nilpotent n, les deux propriétés suivantes sont équivalentes[10] :
la classe de nilpotence de tout groupe d'ordre n est au plus c ;
n est « sans puissances (c + 2)-ièmes » (c'est-à-dire que dans la décomposition en facteurs premiers, tous les exposants sont inférieurs ou égaux à c + 1).
Démonstration
Tout groupe d'ordre n (donc nilpotent) est produit direct de ses sous-groupes de Sylow. Sa classe de nilpotence est donc le maximum des leurs.
Pour tout p premier :
tout groupe d'ordre d'ordre pk avec k ≤ c + 1 est de classe de nilpotence au plus c ;
réciproquement, pour tout k ≥ c + 2, il existe[11] des groupes d'ordre pk dont la classe de nilpotence est strictement supérieure à c.
Notes et références
↑(de) O. J. Schmidt, « Über Gruppen, deren sämtliche Teiler spezielle Gruppen sind », Recueil Mathématique [Mat. Sbornik], Moscou, vol. 31, 1924, p. 366-372. (Référence donnée par (en) John S. Rose, A Course on Group Theory, CUP, (lire en ligne), p. 264 et 298.) Original russe en ligne.
↑Pour une démonstration du théorème sous cette forme, voir G. Endimioni, « Une introduction aux groupes nilpotents : Cours de D.E.A. », Centre de Mathématiques et d'Informatique, Université de Provence (France), 1996/1997, p. 17-18.
↑(de) K. Iwasawa, « Ueber die Struktur der endlichen Gruppen, deren echte Untergruppen sämtlich nilpotent sind », Proc. Phys.-Math. Soc. Japan, vol. 23, 1941, p. 1-4. (Référence donnée par Rose 1978, p. 264 et 297.)
↑(de) Gerhard Pazderski, « Die Ordnungen, zu denen nur Gruppen mit gegebenen Eigenschaften gehören », Arch. Math., vol. 10, , p. 331-343 (DOI10.1007/BF01240807).
↑(en) Thomas W. Müller, « An arithmetic theorem related to groups of bounded nilpotency class », Journal of Algebra, vol. 300, no 1, , p. 10-15 (MR2228629, lire en ligne), prétend démontrer directement la caractérisation arithmétique complète des nombres « nilpotents de classe au plus c » et retrouver ainsi celles des nombres nilpotents (pour c = ∞) et des nombres abéliens (pour c = 1). En réalité, sa démonstration repose non seulement, comme celle ci-dessus, sur le théorème de Schmidt et la structure du groupe — dans une version d'ailleurs plus précise (Huppert 2013, p. 281) que celle utilisée ici, mais aussi sur un théorème de Hall concernant le nombre d'automorphismes d'un p-groupe, alors que le 3e théorème de Sylow nous a suffi.