La représentation induite par une représentation θ du sous-groupe H de G est la représentation de G, notée ρ = IndG H θ, ou simplement Ind(θ) s'il n'y a pas de risque d'ambiguïté, telle que :
Si ψ désigne le caractère de θ, celui de ρ dépend uniquement de ψ. Il est donc appelé caractère induit par ψ et noté Ind(ψ) ou encore IndG H (ψ) si un risque d'ambiguïté existe.
qui peut se « déduire de la formule Hom(A,Hom(B,C))=Hom(A⊗B,C) » (Serre, p. II - 7) ou se détailler de façon plus élémentaire (Serre, p. II - 6) en vérifiant la bijectivité de l'application linéaire qui, à tout G-morphisme f de V dans E, associe le H-morphisme restriction de f à W.
Une représentation (V,ρ) de G est équivalente à IndG H θ si et seulement si :
W est un sous-K[H]-module de V ;
V = ⊕c∊G/HcW, où la notation cW signifie : ρs(W) pour n'importe quel élément s de la classe à gauche c. (Un tel ρs(W) ne dépend pas du choix de s dans c puisque si tH = c =sH alors t est de la forme sh pour un certain élément h de H, si bien que ρt(W) = ρs(ρh(W)) = ρs(W).)
Exemples
Soient G le groupe symétrique S3, engendré par un 3-cycle c et une transposition t, H le sous-groupe alterné A3 = {1, c, c2}, W = ℂe1 et θ la représentation de H sur W définie par θc(e1) = je1. Alors G/H = {H, tH} et IndG H θ est la représentation ρ de G sur V = ℂe1⊕ℂe2 définie par : ρt(e1) = e2 et ρc(e1) = je1. On montre facilement que ρ est irréductible (par exemple en vérifiant que son caractère est de norme 1). C'est donc la représentation irréductible complexe de S3 de degré 2.
Soient G le groupe des quaternionsQ = {±1, ±i, ±j, ±k}, engendré par i et j, H le sous-groupe {1, i, –1, –i}, W = ℂe1 et θ la représentation de H sur W définie par θi(e1) = ie1. Alors G/H = {H, jH} et IndG H θ est la représentation ρ de G sur V = ℂe1⊕ℂe2 définie par : ρj(e1) = e2 et ρi(e1) = ie1. On vérifie facilement, comme précédemment, que ρ est irréductible. C'est donc la représentation irréductible complexe de Q de degré 2.
Pour toute sous-représentation θ' de θ, IndG H (θ') est une sous-représentation de IndG H (θ).
Pour toutes représentations θ1 et θ2de H, on a : IndG H (θ1⊕θ2) = (IndG H θ1)⊕(IndG H θ2).
Démonstrations
Une représentation (V,ρ) de G est équivalente à IndG H θ si et seulement si W est un sous-K[H]-module de V et V = ⊕c∊G/H cW (Serre, p. II - 5).
La représentation (V, ρ) définie dans la construction vérifie bien ces propriétés : il suffit pour cela de remarquer que K[G] est un K[H]-module libre (à droite), de base une transversale à gauche de H dans G. Réciproquement, « l'unicité est immédiate », c'est-à-dire que deux représentations de G vérifiant ces propriétés sont clairement isomorphes.
Pour toute sous-représentation θ' de θ, IndG H (θ') est une sous-représentation de IndG H (θ).
Si W' est un sous-K[H]-module de W alors K[G]⊗K[H]W' est un sous-K[G]-module de K[G]⊗K[H]W.
Pour toutes représentations θ1 et θ2 de H, on a : IndG H (θ1⊕θ2) = (IndG H θ1)⊕(IndG H θ2).
Pour tous K[H]-modules W1 et W2, K[G]⊗K[H](W1⊕W2) = (K[G]⊗K[H]W1)⊕(K[G]⊗K[H]W2).
L'élément ρt définit un automorphisme de V qui permute les ρcW, donc sa trace χ(t) = Tr(ρt) est la somme des traces des restrictions de cet automorphisme aux ρcW qu'il laisse invariants, ce qui équivaut pour c à la relation c−1tc ∊ H. D'où :
Or si c−1tc ∊ H, on a :
ce qui démontre la première formule.
Pour la deuxième (qui n'a de sens que si h est inversible dans K) il suffit de remarquer que pour tout s ∊ cH, s−1ts est conjugué de c−1tc par un élément de H, et d'utiliser que ψ est centrale.
On suppose que la caractéristique de K ne divise pas l'ordre de G. La formule de réciprocité de Frobenius s'exprime alors par :
Pour tout caractère ψ d'une représentation de H et tout caractère χ d'une représentation de G, les deux scalaires suivants sont égaux :
Cette formule est une conséquence de la propriété d'adjonction qui définit la représentation induite. Elle s'étend linéairement aux fonctions centrales.
On suppose que la caractéristique de K est nulle et que le polynôme Xe – 1, où e désigne l'exposant de G, est scindé sur K. Ainsi, les caractères irréductibles de G forment une base orthonormale des fonctions centrales à valeurs dans K et toute représentation est entièrement déterminée (à équivalence près) par son caractère. On peut prendre par exemple pour K le corps des nombres complexes.
Une double application de la formule de réciprocité de Frobenius décrite ci-dessus permet, sous ces hypothèses, de démontrer le cas particulier suivant du critère d'irréductibilité de Mackey. Deux définitions sont nécessaires pour l'exprimer. Pour tout élément s de G, Hs désigne ici l'intersection de H avec son conjugué par s et θs désigne la représentation sur W de ce sous-groupe Hs = sHs−1 ∩ H définie par :
Le critère s'énonce de la manière suivante :
La représentation Ind(θ) est irréductible si et seulement si θ est irréductible et pour tout s ∉ H, la restriction de θ à Hs est disjointe de θs.
On en déduit le corollaire suivant :
Si H est normal dans G, Ind(θ) est irréductible si et seulement si θ est irréductible et n'est isomorphe à aucune des θs, pour s ∉ H.
Références
↑(en) Jean-Pierre Serre, Linear Representations of Finite Groups, Springer, coll. « GTM » (no 42), (lire en ligne), p. 29.