Théorie des groupes/Représentations complexes des groupes finis, 2

Modèle:Chapitre

Commutant d'une représentation

Rappelons que si A est un anneau et X une partie de A, on définit le commutant de X (dans A) comme l'ensemble des éléments de A qui commutent avec tout élément de X pour la multiplication dans A. Le commutant de X dans A est un sous-anneau de A.

Rappelons aussi que si V est un $ℂ$-espace vectoriel, l'ensemble End(V) des $ℂ$-endomorphismes de V, muni de l'addition point par point et de la composition des endomorphismes, est un anneau. Si V est de dimension finie d, End(V) est isomorphe à l'anneau de matrices $M_d(ℂ)$. Plus précisément, si B désigne une base numérotée de V, l'application de End(V) sur $M_d(ℂ)$ qui à tout élément u de End(V) fait correspondre la matrice de u dans la base B est un isomorphisme d'anneaux.

Remarque. Soit G un groupe fini, soit T une $ℂ$-représentation vectorielle de G, d'espace V, soit U une $ℂ$-représentation matricielle de G. On suppose que T et U se correspondent via une base numérotée B de V. Désignons par d le degré de T et de U, autrement dit la dimension de V. Si ${\sigma }_{B,V}$ désigne l'isomorphisme d'anneaux de End(V) sur $M_d(ℂ)$ qui à tout élément u de End(V) fait correspondre la matrice de u dans la base B, on montre facilement que le commutant $𝒞(U)$ de U est égal à ${\sigma }_{B,V}(𝒞(T))$.

Modèle:Théorème Démonstration. Supposons f non nul. Il s'agit donc de prouver que

(thèse 1) f est un isomorphisme d'espaces vectoriels.

Pour tout élément v de Ker(f) (noyau de f) et tout élément g de G,

f(S(g)(v)) = T(g) (f(v)) = T(g) (0) = 0,

donc S(g)(v) appartient à ker(f), ce qui montre que ker(f) est un sous-espace de V invariant par S(G). Ce sous-espace n'est pas V tout entier (puisque f est supposé non nul), donc, puisque S est supposée irréductible, ker(f) est nul, c'est-à-dire que

(2) f est injectif.

Prouvons maintenant que f est surjectif. Soit w un élément de Im(f) (image de f). Il existe donc un élément u de V tel que w = f(u). Pour tout élément g de G, nous avons

$T(g)(w)=T(g)(f(u))=T(g)\circ f(u)=f\circ S(g)(u)$,

donc $T(g)(w)$ appartient à Im(f), ce qui montre que le sous-espace Im(f) de W est invariant par T(G). Puisque la représentation T est supposée irréductible, Im(f) est donc nul ou égal à W tout entier. Mais il n'est pas nul (puisque f est supposé non nul), donc il est égal à W, ce qui signifie que f est surjectif. Joint à (2), cela prouve la thèse (1).

Pour un $ℂ$ espace vectoriel V, on définira une homothétie de V comme un $ℂ$-endomorphisme f de V possédant la propriété suivante : il existe un scalaire $\lambda \in ℂ$ tel que, pour tout v dans V, $f(v)=\lambda v$. On n'exclut pas la valeur $\lambda =0$, donc l'endomorphisme nul est une homothétie. Les homothéties de V forment un sous-anneau de End(V). Si V est non nul, ce sous-anneau est un corps isomorphe à $ℂ$.

Modèle:Théorème Démonstration (de routine). Choisissons des $ℂ$-espaces vectoriels V et W de dimensions s et t respectivement, choisissons des bases $𝒱$ et $𝒲$ de V et W respectivement.
Désignons par S la $ℂ$-représentation vectorielle de G dans V correspondant à la $ℂ$-représentation matricielle $\sigma$ via la base $𝒱$ de V. Donc S fait correspondre à l'élément g de G le $ℂ$-automorphisme de V ayant $\sigma (g)$ pour matrice dans la base $𝒱$ de V.
De même, désignons par T la $ℂ$-représentation vectorielle de G dans W correspondant à la $ℂ$-représentation matricielle $\tau$ via la base $𝒲$ de W. Donc T fait correspondre à l'élément g de G le $ℂ$-automorphisme de W ayant $\tau (g)$ pour matrice dans la base $𝒲$ de W.
Désignons par A le $ℂ$-homomorphisme de V dans W qui admet $\alpha$ pour matrice dans les bases $𝒱$ et $𝒲$ de V et W.
De l'hypothèse

$\alpha \sigma (g)=\tau (g)\alpha$,

on tire, en passant aux matrices dans les bases $𝒱$ et $𝒲$,

A S(g) = T(g) A

pour tout g dans G.
Donc, d'après le théorème 1, le $ℂ$-homomorphisme A de V dans W est nul ou est un isomorphisme. Donc la matrice $\alpha$ est nulle ou est une matrice carrée inversible; dans le second cas, la relation

$\alpha \sigma (g)=\tau (g)\alpha$,

vraie pour tout g dans G, montre que les $ℂ$-représentations matricielles $\sigma$ et $\tau$ sont équivalentes.

Modèle:Théorème Démonstration. On vérifie facilement que toute homothétie de V commute (pour la composition) avec tout élément de End(V) et en particulier avec tout élément de T(G), donc toute homothétie de V appartient au commutant de T.
Réciproquement, soit f un élément du commutant de T et prouvons que f est une homothétie.
Puisque la représentation T est supposée irréductible, V est non nul, ce qui nous dispensera de certaines précautions de langage. Puisque le corps $ℂ$ est algébriquement clos, f admet au moins une valeur propre. Choisissons-en une, soit $\lambda$. Puisque f et $\lambda I$ (où I désigne l'endomorphisme identité de V) appartiennent au commutant de T, $f-\lambda I$ appartient lui aussi au commutant de T. Mais en appliquant le théorème 1 au cas où S et T sont une même $ℂ$-représentation vectorielle irréductible de G, nous trouvons que tout élément du commutant de T est nul ou inversible, donc $f-\lambda I$ est nul ou inversible. Il n'est pas inversible, puisque $\lambda$ est une valeur propre de f, donc il est nul, ce qui revient à dire que f est égal à l'homothétie $\lambda I$.

Modèle:Théorème Considérer une représentation vectorielle correspondant à U. Les détails sont laissés au lecteur.

Modèle:Théorème Démonstration. Il suffit de le démontrer dans le cas où T est une représentation vectorielle (puisqu'une représentation matricielle et une représentation vectorielle qui se correspondent ont le même degré et sont ensemble irréductibles ou non). Soit alors V l'espace de la représentation T. Puisque G est abélien, T(G) l'est aussi, donc T(G) est contenu dans son commutant (dans End(V)), c'est-à-dire dans le commutant de T. Compte tenu du théorème 2, ce commutant est formé des homothéties, donc pour tout élément g de G, T(g) est une homothétie. Il en résulte que tout sous-espace W de V est invariant par T(G). Puisque T est irréductible, ce n'est possible que si V est de dimension 1, donc T est de degré 1.
Remarque. Nous démontrerons dans la suite du cours, à l'aide de la théorie des caractères, que le théorème 3 admet cette réciproque : si G est un groupe fini dont toute $ℂ$-représentation irréductible est de degré 1, G est abélien.

Théorèmes de Frobenius et de Schur

Les théorèmes faisant l'objet de la présente section serviront dans la théorie des caractères, qui sera exposée dans un chapitre ultérieur.

Modèle:Théorème Démonstration. Prouvons d'abord le point (i).
Posons $m=\mathrm{d}\mathrm{e}\mathrm{g}(\rho )$ et $n=\mathrm{d}\mathrm{e}\mathrm{g}(\sigma )$.
Pour toute matrice M à m lignes et n colonnes à coefficients dans $ℂ$, posons

(1) $L_M=\sum _{g\in G}\rho (g)M\sigma (g^{-1}).$

Pour tout élément h de G, nous avons

$\rho (h)L_M=\rho (h)\sum _{g\in G}\rho (g)M\sigma (g^{-1})$

$\rho (h)L_M=\sum _{g\in G}\rho (h)\rho (g)M\sigma (g^{-1})$

$\rho (h)L_M=\sum _{g\in G}\rho (hg)M\sigma ((hg{)}^{-1})\sigma (h)$

$\rho (h)L_M=(\sum _{g\in G}\rho (hg)M\sigma ((hg{)}^{-1}))\sigma (h)$.

Comme $g\mapsto hg$ définit une permutation de G, cela peut s'écrire

$\rho (h)L_M=(\sum _{g\in G}\rho (g)M\sigma ((g{)}^{-1}))\sigma (h)$

$\rho (h)L_M=L_M\sigma (h)$ pour tout h dans G.

Puisque $\rho$ et $\sigma$ sont supposées irréductibles et non équivalentes, il résulte donc du cas particulier du lemme de Schur (théorème 1 ci-dessus) que

$L_M=0$,

c'est-à-dire, d'après la définition (1) de $L_M$, que

(2) $\sum _{g\in G}\rho (g)M\sigma (g^{-1})=0$

pour toute matrice M à m lignes et n colonnes à coefficients dans $ℂ$. Appliquons cela à la matrice $M=E_{j,r}$ à m lignes et n colonnes dont le (j, r)-ième coefficient est 1 et dont tous les autres coefficients sont nuls.
Autrement dit,

$M=(m_{j^{\prime },t^{\prime }}{)}_{1\le j^{\prime }\le m,1\le t^{\prime }\le n}$

avec

$m_{j^{\prime },t^{\prime }}={\delta }_{j^{\prime },j}$

Alors (détails des calculs laissés au lecteur) $\rho (g)M\sigma (g^{-1})$ est la matrice à m lignes et n colonnes

$(b_{t,t^{″}}{)}_{1\le t\le m,1\le t^{″}\le n}$

avec $b_{t,t^{″}}={\rho }_{t,j}(g){\sigma }_{r,t^{″}}(g^{-1})$.
La relation (2) peut donc s'écrire

$\sum _{g\in G}{\rho }_{t,j}(g){\sigma }_{r,t^{″}}(g^{-1})=0$

pour tous t, t'', ce qui revient à l'assertion (i) de l'énoncé.

Prouvons maintenant le point (ii) de l'énoncé.
Pour toute matrice M à m lignes et m colonnes à coefficients dans $ℂ$, posons

$L_M=\sum _{g\in G}\rho (g)M\rho (g^{-1}).$

Comme dans la démonstration du point (ii), nous avons

$\rho (h)L_M=L_M\rho (h)$ pour tout h dans G,

ce qui revient à dire que $L_M$ appartient au commutant de la représentation matricielle $\rho$.
Puisque cette représentation est supposée irréductible, la matrice $L_M$ est donc scalaire (voir théorème 2 bis ci-dessus).
Appliquons ceci au cas où M est la matrice $E_{j,r}$ à m lignes et m colonnes dont le (j, r)-ième coefficient est 1 et dont tous les autres coefficients sont nuls.
Il existe donc un scalaire ${\lambda }_{j,r}\in ℂ$ tel que ($I_m$ désignant la matrice unité $\in M_n(ℂ)$)

$L_{E_{j,r}}={\lambda }_{j,r}{I}_m$,

c'est-à-dire, par définition de $L_M$,

(3) $\sum _{g\in G}\rho (g)E_{j,r}\rho (g^{-1})={\lambda }_{j,r}{I}_m.$

Comme dans la démonstration du point (i), $\rho (g)E_{j,r}\rho (g^{-1})$ est la matrice $m\times m$

$(b_{t,t^{″}}{)}_{1\le t,t^{″}\le m}$

avec $b_{t,t^{″}}={\rho }_{t,j}(g){\rho }_{r,t^{″}}(g^{-1}).$ La relation (3) peut donc s'écrire

$\sum _{g\in G}({\rho }_{t,j}(g){\rho }_{r,t^{″}}(g^{-1}){)}_{1\le t,t^{″}\le m}={\lambda }_{j,r}{I}_m.$

Cela revient à dire que, pour tous t, t'' dans {1, ... , m},

(4) $\sum _{g\in G}{\rho }_{t,j}(g){\rho }_{r,t^{″}}(g^{-1})={\lambda }_{j,r}{\delta }_{t,t^{″}}.$

Puisque $g\mapsto g^{-1}$ définit une permutation de G, cela peut encore s'écrire

$\sum _{g\in G}{\rho }_{t,j}(g^{-1}){\rho }_{r,t^{″}}(g)={\lambda }_{j,r}{\delta }_{t,t^{″}}$

ou encore (puisque le corps \mathbb{C} est commutatif)

(5) $\sum _{g\in G}{\rho }_{r,t^{″}}(g){\rho }_{t,j}(g^{-1})={\lambda }_{j,r}{\delta }_{t,t^{″}}.$

Par un changement de variables dans (4), on trouve que le premier membre de (5) égale

${\lambda }_{t^{″},t}{\delta }_{r,j},$

donc (5) donne

${\lambda }_{j,r}{\delta }_{t,t^{″}}={\lambda }_{t^{″},t}{\delta }_{r,j}.$

En faisant $t^{″}=t$, nous trouvons

(6) ${\lambda }_{j,r}={\lambda }_{t,t}{\delta }_{r,j}$

pour tous r, j, t.
Donc

(7) ${\lambda }_{j,r}=0$ si $j\ne r$.

D'autre part, en faisant r = j dans (6), nous trouvons

${\lambda }_{j,j}={\lambda }_{t,t}$ pour tout t.

Il existe donc un scalaire $\lambda$ tel que, pour tout t,

(8) ${\lambda }_{t,t}=\lambda$.

Les relations (7) et (8) donnent

${\lambda }_{j,r}=\lambda {\delta }_{j,r}$,

que j et r soient égaux ou distincts. La relation (4) peut donc s'écrire

(9) $\sum _{g\in G}{\rho }_{t,j}(g){\rho }_{r,t^{″}}(g^{-1})=\lambda {\delta }_{j,r}{\delta }_{t,t^{″}}.$

En faisant r = j et t'' = t, nous trouvons

$\sum _{g\in G}{\rho }_{t,j}(g){\rho }_{j,t}(g^{-1})=\lambda$,

d'où, en sommant sur j,

$\sum _{j=1}^m\sum _{g\in G}{\rho }_{t,j}(g){\rho }_{j,t}(g^{-1})=m\lambda$

(10) $\sum _{g\in G}\sum _{j=1}^m{\rho }_{t,j}(g){\rho }_{j,t}(g^{-1})=m\lambda$.

Or $\sum _{j=1}^m{\rho }_{t,j}(g){\rho }_{j,t}(g^{-1})$ est le (t,t)-ième coefficient de la matrice

$\rho (g)\rho (g^{-1})=\rho (1)=I_m$,

autrement dit

$\sum _{j=1}^m{\rho }_{t,j}(g){\rho }_{j,t}(g^{-1})=1.$

La relation (10) peut donc s'écrire

$\sum _{g\in G}1=m\lambda$,

$|G|=m\lambda$,

$\lambda =\frac{|G|}{m}.$

En tenant compte de ceci, on met (9) sous la forme

$\sum _{g\in G}{\rho }_{t,j}(g){\rho }_{r,t^{″}}(g^{-1})=\frac{|G|}{m}{\delta }_{j,r}{\delta }_{t,t^{″}},$

ce qui revient à l'assertion (ii) de l'énoncé.

Rappelons qu'on note ${ℂ}^G$ le $ℂ$-espace vectoriel libre construit sur l'ensemble G (autrement dit, puisque G est fini, le $ℂ$-espace vectoriel formé par les applications de G dans $ℂ$) et que cet espace vectoriel est de dimension $|G|$ (voir Représentations complexes des groupes finis, 1).

Modèle:Théorème Démonstration. Soit

$({\lambda }_{i,j}^{(s)}{)}_{1\le s\le k,1\le i,j\le n_s}$

une famille de scalaires telle que

(1) $\sum _{s,i,j}{\lambda }_{i,j}^{(s)}{t}_{i,j}^{(s)}=0$ dans ${ℂ}^G$.

Il s'agit de prouver que

(thèse 2) ${\lambda }_{i,j}^{(s)}=0$ pour tout s dans $\{1,...,k\}$ et tous i, j dans $\{1,...,n_s\}$.

L'hypothèse (1) signifie que, pour tout g dans G,

$\sum _{s,i,j}{\lambda }_{i,j}^{(s)}{t}_{i,j}^{(s)}(g)=0$ dans $ℂ$.

Donc, pour tout $s^{\prime }$ dans $\{1,...,k\}$, pour tous $i^{\prime },j^{\prime }$ dans $\{1,...,n_{s^{\prime }}\}$ et pour tout g dans G, nous avons

$n_{s^{\prime }}(\sum _{s,i,j}{\lambda }_{i,j}^{(s)}{t}_{i,j}^{(s)}(g))t_{i^{\prime },j^{\prime }}^{(s^{\prime })}(g^{-1})=0$,

d'où, en sommant sur $g\in G$,

(3) $\sum _{s,i,j}{\lambda }_{i,j}^{(s)}{n}_{s^{\prime }}\sum _{g\in G}{t}_{i,j}^{(s)}(g)t_{i^{\prime },j^{\prime }}^{(s^{\prime })}(g^{-1})=0.$

Si $s$ est distinct de $s^{\prime }$, alors, par hypothèse de l'énoncé, $T_s$ et $T_{s^{\prime }}$ ne sont pas équivalentes, donc, d'après le point (i) du théorème 4, nous avons dans ce cas

$\sum _{g\in G}{t}_{i,j}^{(s)}(g)t_{i^{\prime },j^{\prime }}^{(s^{\prime })}(g^{-1})=0.$

Donc, dans (3), nous pouvons limiter la sommation sur s à l'indice s'. Nous trouvons ainsi

$\sum _{i,j}{\lambda }_{i,j}^{(s^{\prime })}{n}_{s^{\prime }}\sum _{g\in G}{t}_{i,j}^{(s^{\prime })}(g)t_{i^{\prime },j^{\prime }}^{(s^{\prime })}(g^{-1})=0.$

D'après le point (ii) du théorème 4, cela peut s'écrire

$\sum _{i,j}{\lambda }_{i,j}^{(s^{\prime })}{\delta }_{i,j^{\prime }}{\delta }_{j,i^{\prime }}|G|=0$

${\lambda }_{j^{\prime },i^{\prime }}^{(s^{\prime })}|G|=0$

d'où

${\lambda }_{j^{\prime },i^{\prime }}^{(s^{\prime })}=0.$

Ceci étant vrai pour tout $s^{\prime }$ dans $\{1,...,k\}$ et pour tous $i^{\prime },j^{\prime }$ dans $\{1,...,n_{s^{\prime }}\}$, notre thèse (2) est démontrée.

Modèle:Théorème Démonstration. Soit $k^{\prime }$ un nombre naturel, soient $C_1,\dots ,C_{k^{\prime }}$ différentes classes d'équivalence de $ℂ$-représentations matricielles irréductibles de G. Pour tout s dans $\{1,...,k^{\prime }\}$, choisissons une représentation $T_s$ appartenant à la classe $C_s$.
Les applications $t_{i,j}^{(s)}$ considérées au théorème 5 (où s parcourt $\{1,...,k^{\prime }\}$ et où i, j parcourent $\{1,...,n_s\}$) sont en nombre

$n_1^2+\cdots +n_{k^{\prime }}^2$.

Puisque, d'après le théorème 5, ces applications sont linéairement indépendantes dans le $ℂ$-espace vectoriel ${ℂ}^G$ et que, comme rappelé, cet espace vectoriel est de dimension $|G|$, on a donc

$n_1^2+\cdots +n_{k^{\prime }}^2\le |G|$,

d'où (puisque les $n_s$ sont non nuls)

$k^{\prime }\le |G|$.

Ceci est prouvé pour tout nombre naturel $k^{\prime }$ tel qu'on puisse trouver $k^{\prime }$ différentes classes de $ℂ$-représentations matricielles irréductibles de G. L'énoncé en résulte.

Remarque. La théorie des caractères nous permettra de préciser que k est le nombre des classes de conjugaison d'éléments de G et que $n_1^2+\cdots +n_k^2=|G|$.

Pour obtenir un énoncé analogue au théorème précédent en termes de représentations vectorielles, on ne pourrait pas remplacer simplement le mot « matricielles » par « vectorielles », puisqu'on a évité de définir la classe d'équivalence d'une représentation vectorielle. On pourrait par exemple énoncer :

Le nombre k dont question ici est évidemment égal au nombre des classes d'équivalence de $ℂ$-représentations matricielles irréductibles de G. On désigne encore k comme « le nombre de $ℂ$-représentations irréductibles non équivalentes de G», sans qu'il soit nécessaire de préciser si on parle de représentations vectorielles ou matricielles.