Une représentation d'un groupe G dans un espace vectoriel E de dimension finie n est la donnée d'un morphisme ρ de G dans le groupe linéaire GL(E) des automorphismes de E. Cette approche initiée par Ferdinand Georg Frobenius dans un article[2] de 1896 s'avère fructueuse.
Trois ans plus tard, Heinrich Maschke démontre[3] que toute représentation est somme directe de représentations irréductibles. Une représentation (E, ρ) est dite irréductible si les sous-espacesE et {0} sont distincts et sont les deux seuls sous-espaces stables par les automorphismes ρ(g), g décrivant G. Le théorème de Maschke énonce que, si la caractéristique de K ne divise pas l'ordre de G, alors toute représentation de G est somme directe de représentations irréductibles. Connaître toutes les représentations d'un groupe fini revient donc à connaître ses représentations irréductibles, les autres s'obtiennent par somme directe.
Le lemme de Schur est un lemme technique essentiel pour la démonstration d'un résultat majeur : les représentations irréductibles s'identifient par leur caractère, et ces caractères sont orthogonaux deux à deux. Cette approche apporte des résultats importants pour la théorie des groupes finis. Elle a finalement permis la classification des groupes simples, mais aussi la démonstration de résultats comme une conjecture de William Burnside stipulant que tout groupe fini d'ordre impair est résoluble. Ce résultat est à l'origine de la médaille Fields de Thompson en 1970.
Si ce lemme est aussi utilisé dans d'autres contextes, celui de la représentation est néanmoins le plus important.
Le lemme de Schur
Soit U une partie de l'ensemble des endomorphismesL(E) d'un espace vectoriel E. On dit que U est irréductible si les deux seuls sous-espaces de E stables par tout élément de U sont E et {0}.
Le lemme de Schur s'énonce alors sous la forme suivante :
Lemme de Schur — Soient E et F deux K espaces vectoriels et ϕ une application linéaire non nulle de E dans F.
S'il existe une partie irréductible U de L(E) telle que
On en déduit par application du lemme de Schur que ϕ – λ Id est un automorphisme ou est nulle. Soit λ* une valeur propre de ϕ, alors
ϕ – λ* Id n'est pas un automorphisme, donc est l'application nulle, ce qui démontre le corollaire.
Dans le cas de la représentation d'un groupe d'exposant fini e, alors tout automorphisme de l'image possède pour polynômeannulateurXe – 1. En conséquence, si ce polynôme est scindé sur K, le corollaire s'applique encore.
Corollaire 2
Toute représentation irréductible d'un groupe abélien dans un espace de dimension finie sur un corps algébriquement clos est de degré 1.
En effet, soient (E, ρ) une telle représentation et D une droite de E. Quel que soit l'élément s du groupe, ρs commute avec tous les endomorphismes de la représentation. D'après le corollaire 1, ρs est une homothétie. Ainsi, D est invariante donc égale à E.
Cas des groupes finis
Corollaire 3
Soient (E, ρE) et (F, ρF) deux représentations de G irréductibles sur un corps K dont la caractéristique ne divise pas l'ordre g du groupe et sur lequel le polynôme Xg – 1 est scindé[4], et ψ une application linéaire de E dans F, on définit l'application linéaire φ de E dans F par :
Si les représentations ne sont pas isomorphes, alors φ est nulle.
Si les représentations sont égales, alors φ est une homothétie de rapport (1/n)Tr(ψ).
Démonstration
Vérifions dans un premier temps que φ satisfait la propriété suivante :
Remarquons tout d'abord que, si t est un élément de G, l'application de G dans G qui à s associe ts est une permutation de G, . On en déduit que :
Comme les représentations ne sont pas isomorphes, φ ne peut être à la fois injective et surjective. Le lemme de Schur montre que, comme φ n'est pas un automorphisme, φ est l'application nulle.
Si (E, ρE) = (F, ρF), les hypothèses du corollaire 1 sont vérifiées, ce qui montre que φ est une homothétie. Dans ce cas, l'expression définissant φ est la moyenne de g applications toutes semblables à ψ et donc ayant la même trace que ψ. Les traces de φ et ψ sont donc égales. En notant λ le rapport de l'homothétie φ on a donc : nλ = Tr(φ) = Tr(ψ). En appliquant tout ceci à un ψ arbitraire de trace 1, on trouve de plus que n est inversible dans K.
Remarque.
Si la caractéristique p de K est non nulle, la preuve de ce corollaire met en évidence que le nombre premier p ne divise pas n. Comme on a supposé que p ne divise pas g, ceci n'est pas surprenant quand on sait que le degré n d'une représentation irréductible divise toujours l'ordre g du groupe.[réf. souhaitée]
Corollaire 4
C'est un quatrième corollaire qui est utilisé dans la théorie des caractères. Il correspond à la traduction en termes de matrices du corollaire précédent. Utilisons les notations suivantes : soient A et B deux représentations matricielles d'un groupe fini G d'ordre g sur un même corps K dont la caractéristique ne divise pas g et sur lequel le polynômeXg – 1 soit scindé. Les dimensions respectives de E et F sont notées n et m. L'image d'un élément s de G par A (resp. B) est noté aij(s) (resp. bij(s)).
On a alors, sous les hypothèses du corollaire précédent :
Si les représentations A et B ne sont pas isomorphes, alors :
C'est la première application historique du lemme. On suppose ici que K est le corps ℂ des nombres complexes et on munit ℂG (l'espace vectoriel – de dimension g – des applications de G dans ℂ) du produit hermitien 〈 , 〉 suivant :
(Si z désigne un nombre complexe, z désigne ici son conjugué.)
Les caractères irréductibles d'un groupe fini G forment une famille orthonormale de ℂG.
Démonstration
C'est une conséquence directe du corollaire 4. L'article associé démontre que la trace de ρ(s−1) est égale au conjugué de la trace de ρ(s), pour tout élément s de G. En utilisant les notations du paragraphe précédent, on obtient :
Si les deux représentations ne sont pas isomorphes, alors le point 1 du corollaire permet de conclure à l'orthogonalité.
D'après le point 2 on obtient :
ce qui démontre la proposition.
Ce résultat est un des fondements de la théorie des caractères.
D'autres applications existent. Le lemme de Schur permet de démontrer directement que tout groupe abélien fini est un produit de cycles. La démonstration se fonde essentiellement sur l'algèbre linéaire.
Ce résultat se démontre aussi directement (cf. article détaillé), ou par l'analyse des caractères.
Notes et références
↑(de) I. Schur, « Untersuchungen über die Darstellung der endlichen Gruppen durch gebrochenen linearen Substitutionen », J. Reine. Angew. Math., vol. 132, , p. 85-137 (lire en ligne)
↑(de) H. Maschke, « Beweis des Satzes, dass diejenigen endlichen linearen Substitutionesgruppen, in welchen einige durchgehends verschwindende Coefficienten auftenen intransitiv sind », Math. Ann., vol. 52, , p. 363-368
↑C'est le cas des corps de caractéristique nulle et algébriquement clos, tel le corps des nombres complexes.