Université Paris 7 – Denis Diderot Année universitaire 2000-2001 UFR de Mathématiques Groupes et Algèbres de Lie DEA de Mathématiques 26/01/2001

Un corrigé de l’examen de Janvier 2001

I. Un exercice sur l’algèbre de Lie simple de type G_{2}

Soit 𝔤 une algèbre de Lie simple complexe et 𝔥 une sous-algèbre de Cartan de 𝔤. On suppose que le système de racines associé à (𝔤, 𝔥) est le le système G_{2} ci-dessous.

1) Quels sont le rang et la dimension de 𝔤 ? Justifier.

Nous avons

𝔤 = 𝔥 ⊕ ⨁_{α∈R} 𝔤^{α}.

La dimension de 𝔥 est égale à 2 (égale au rang du système de racines) et la dimension de 𝔤^{α} vaut 1 pour toutes les racines. Comme le nombre de racines est 12, la dimension de 𝔤 est 14.

2) Soit 0 ≠ X_{α} ∈ 𝔤^{α}. Montrer que adX_{α} est nilpotent et calculer son indice de nilpotence (i.e. le plus petit entier n ≥ 0 tel que (adX_{α})^{n} = 0).

Rappelons que [𝔤^{λ}, 𝔤^{μ}] ⊂ 𝔤^{λ+μ} quels que soient λ, μ ∈ 𝔥^{∗}. Comme α ≠ 0, l’espace 𝔤^{λ+nα} s’annule sauf pour un nombre fini de n ∈ N. Donc l’opérateur adX_{α} est bien nilpotent.

Comme le montre le dessin du système, si λ = 0 ou λ ∈ R, alors 𝔤^{λ+4α} = 0. Donc X_{α} est d’indice de nilpotence ≤ 4. De l’autre côté, on sait que si λ, μ et λ + μ sont des racines, alors [𝔤^{λ}, 𝔤^{μ}] = 𝔤^{λ+μ}. Ainsi, les espaces (adX_{α})(𝔤^{β}), (adX_{α})^{2}(𝔤^{β}) et (adX_{α})^{3}(𝔤^{β}) sont non nuls et X_{α} est d’indice de nilpotence ≥ 4.

Donc adX_{α} est d’indice de nilpotence 4.

3) Soit H_{α} ∈ 𝔥 la racine inverse de α. Rappeler la définition de la racine inverse. Soit Y_{α} un élément de 𝔤^{−α} tel que (X_{α}, H_{α}, Y_{α}) est un 𝔰𝔩_{2}-triplet. Quelle liberté a-t-on dans le choix de Y_{α} ?

Soit s_{α} l’unique symétrie telle que s_{α}(α) = −α et s_{α}(R) ⊂ R. Par définition, la racine inverse α^{∗} est l’unique vecteur dans 𝔥 = 𝔥^{∗∗} tel que

s_{α}(λ) = λ − ⟨α^{∗}, λ⟩ α , ∀ λ ∈ 𝔥^{∗}.

L’élément Y_{α} est unique. En effet, on sait que 𝔤^{−α} est de dimension 1. Si l’on a un autre élément Y′_{α}, il est donc égal à x Y_{α} pour un x ∈ C. L’égalité [X_{α}, Y′_{α}] = H_{α} implique que x = 1.

4) On considère la représentation de 𝔰𝔩(2, C) donnée par le 𝔰𝔩_{2}-triplet d’endomorphismes de 𝔤

(adX_{α}, adH_{α}, adY_{α}).

Quelle est la décomposition de cette représentation en représentations irréductibles ?

L’examen du dessin de G_{2} révèle les sous-modules simples suivants :

𝔤^{2β+3α}
𝔤^{β} ⊕ 𝔤^{β+α} ⊕ 𝔤^{β+2α} ⊕ 𝔤^{β+3α}
𝔤^{−α} ⊕ CH_{α} ⊕ 𝔤^{α}
ker α
𝔤^{−β−3α} ⊕ 𝔤^{−β−2α} ⊕ 𝔤^{−β−α} ⊕ 𝔤^{−β}
𝔤^{−2β−3α}

Leur somme est égale à 𝔤. Ainsi 𝔤 est isomorphe en tant que 𝔰𝔩_{2}-module à V_{0}^{3} ⊕ V_{2} ⊕ V_{3}^{2}, où V_{i} désigne le 𝔰𝔩_{2}-module simple de dimension i + 1.

5) En déduire le rang de (adX_{α})^{2}.

On voit que l’image de (adX_{α})^{2} est

(𝔤^{β+2α} ⊕ 𝔤^{β+3α}) ⊕ 𝔤^{α} ⊕ (𝔤^{−β−α} ⊕ 𝔤^{−β}).

Donc (adX_{α})^{2} est de rang 5.

6) Calculer la dimension de l’espace E des endomorphismes linéaires f : 𝔤 → 𝔤 qui commutent à adX_{α} et adY_{α} et la dimension du sous-espace D ⊂ E formé des dérivations dans E.

Un endomorphisme qui commute avec X_{α} et Y_{α}, commute aussi avec [X_{α}, Y_{α}] = H_{α}. Donc E est l’espace des endomorphismes du 𝔰𝔩_{2}-module 𝔤. Donc

E →^{∼} End(V_{0}^{3} ⊕ V_{2} ⊕ V_{3}^{2}).

Par le lemme de Schur, nous avons Hom(V_{i}, V_{j}) = 0 si i ≠ j et Hom(V_{i}, V_{i}) = k. En outre, nous avons

Hom(U, V ⊕ W) →^{∼} Hom(U, V) ⊕ Hom(U, W)

et

Hom(U ⊕ V, W) →^{∼} Hom(U, W) ⊕ Hom(V, W)

quels que soient les modules U, V, W. Il s’ensuit que

End(V_{0}^{3} ⊕ V_{2} ⊕ V_{3}^{2}) →^{∼} M(3, C) ⊕ C ⊕ M(2, C)

et que E est de dimension 9+1+4 = 14. Comme 𝔤 est semi-simple, toutes ses dérivations sont intérieures et ad : 𝔤 → 𝔤𝔩(𝔤) est un isomorphisme sur l’algèbre des dérivations. Il s’agit donc de déterminer le centralisateur de X_{α} dans 𝔤, c’est-à-dire le noyau de adX_{α}. Chaque facteur simple de la décomposition de 𝔤 en 𝔰𝔩_{2}-modules simples contribue une dimension. Donc D est de dimension 6.

II. Le radical est l’orthogonal de l’algèbre dérivée

On note 𝔤 = 𝔱(n, C) l’algèbre de Lie des matrices triangulaires supérieures, 𝔫 = 𝔫(n, C) la sousalgèbre des matrices strictement triangulaires supérieures et K la forme de Killing de 𝔤. On pose 𝔫_{0} = 𝔤 et 𝔫_{i+1} = [𝔫, 𝔫_{i}] pour tout i ∈ N.

1) Montrer que 𝔫 est inclus dans le noyau de K. Indication : on pourra se servir du fait que 𝔫_{i} = 0 pour i ≥ n.

On voit par récurrence sur i que 𝔫_{i} est un idéal de 𝔤. Donc pour Y ∈ 𝔤, on a ad(Y)(𝔫_{i}) ⊂ 𝔫_{i}. Pour X ∈ 𝔫, on a par définition ad(X)(𝔫_{i}) ⊂ 𝔫_{i+1}. Donc pour X ∈ 𝔤 et Y ∈ 𝔫, on a

ad(X) ad(Y)(𝔫_{i}) ⊂ 𝔫_{i+1} .

Comme 𝔫_{i} s’annule pour i > n, l’opérateur ad(X)ad(Y) est nilpotent et

K(X, Y) = tr(ad(X) ad(Y)) = 0.

2) Montrer que la forme de Killing est donnée par

K(X, Y) = a tr(XY) − b tr(X) tr(Y)

pour deux entiers a et b que l’on déterminera.

Comme K est symétrique, il suffit de calculer K(X, X). D’après le point précédent, on peut supposer que X est diagonale. L’opérateur adX est alors diagonal par rapport à la base des E_{ij}, 1 ≤ i ≤ j ≤ n. Si les scalaires λ_{i}, 1 ≤ i ≤ n, sont les coefficients diagonaux de X, on a ad(X)(E_{ij}) = (λ_{i} − λ_{j}) E_{ij}. On a donc

tr(ad(X)^{2}) = ∑_{1≤i≤j≤n}(λ_{i} − λ_{j})^{2}
= n (∑_{i} λ_{i}^{2}) − (∑_{i} λ_{i})^{2}
= n tr(X^{2}) − (trX)^{2}.

Il s’ensuit que

K(X, Y) = n tr(XY) − (trX)(trY).

3) Montrer que le noyau de K est la somme directe de 𝔫 avec la sous-algèbre des matrices scalaires.

Notons 𝔰 la sous-algèbre des matrices scalaires et 𝔱 la sous-algèbre des matrices diagonales de trace nulle. Nous avons

𝔤 = 𝔫 ⊕ 𝔰 ⊕ 𝔱.

D’après le point précédent, la somme 𝔫 ⊕ 𝔰 est contenue dans le noyau de K. De l’autre côté, la restriction de K à la sous-algèbre 𝔱 est non dégénérée. D’où l’égalité.

4) Vérifier que l’orthogonal de l’algèbre de Lie dérivée [𝔤, 𝔤] est égal au radical de 𝔤 alors que l’orthogonal du radical est strictement plus grand que la sous-algèbre dérivée.

L’algèbre dérivée est égale à 𝔫. Comme elle est contenue dans le noyau de K, son orthogonal est 𝔤. Comme 𝔤 est résoluble, elle est égale à son radical. D’où l’égalité annoncée.

L’orthogonal du radical est l’orthogonal de 𝔤, c’est-à-dire le noyau de K. On a vu dans le point précédent qu’il était égal à la somme de l’algèbre dérivée avec la sous-algèbre des matrices scalaires.

Soit 𝔤 une algèbre de Lie complexe de dimension finie. Soit 𝔯 son radical et K sa forme de Killing. On se propose de montrer que 𝔯 est l’orthogonal de l’algèbre dérivée [𝔤, 𝔤] pour la forme de Killing.

5) Soit 𝔞 l’orthogonal de l’algèbre dérivée [𝔤, 𝔤] pour la forme de Killing. Montrer que 𝔞 est un idéal et qu’il est résoluble. En déduire qu’il est contenu dans le radical.

Comme l’algèbre dérivée est un idéal et que la forme de Killing est invariante, l’orthogonal de l’algèbre dérivée est encore un idéal. Montrons que ad_{𝔤}𝔞 est résoluble. En effet, ad_{𝔤}𝔞 est une algèbre de Lie linéaire et par le critère de Cartan, il suffit de vérifier que

tr(fg) = 0

pour f ∈ ad_{𝔤}𝔞 et g ∈ [ad_{𝔤}𝔞, ad_{𝔤}𝔞]. Or pour f = adX et g = [adY, adZ] = ad[Y, Z], nous avons

tr(fg) = K(X, [Y, Z]) = 0

par définition de 𝔞. Donc ad_{𝔤}𝔞 est bien résoluble. Il s’ensuit que 𝔞 est résoluble, car il est extension de ad_{𝔤}𝔞 par l’algèbre abélienne 𝔞 ∩ Z(𝔤).

6) On se propose de montrer que réciproquement, le radical 𝔯 est bien orthogonal à l’algèbre dérivée (et donc contenu dans 𝔞).

a) Soit U un élément de 𝔤. Montrer que l’espace vectoriel CU +𝔯 est une sous-algèbre résoluble de 𝔤. Montrer ensuite que ad[U, Z] est nilpotent pour tout Z ∈ 𝔯. Nous avons

[CU + 𝔯, CU + 𝔯] ⊂ 𝔯

car 𝔯 est un idéal. Tout comme son algèbre dérivée, CU + 𝔯 est donc résoluble. Considérons la représentation

ad : CU + 𝔯 → 𝔤𝔩(𝔤).

D’après le théorème de Lie, il existe un drapeau F de 𝔤 tel que ad(CU +𝔯) ⊂ 𝔟(F). Il s’ensuit que ad[U, Z] appartient à [𝔟(F), 𝔟(F)] = 𝔫(F) pour tout Z ∈ 𝔯. En particulier, l’opérateur ad[Z, U] est nilpotent.

b) Soient X, Y des éléments de 𝔤 et Z ∈ 𝔯. Montrer que 𝔤 admet un drapeau F tel que ad(X) ⊂ 𝔟(F) et ad[Y, Z] ⊂ 𝔫(F). Considérons la sous-algèbre résoluble CX+𝔯. D’après le théorème de Lie, il existe un drapeau de 𝔤 tel que ad(CX+𝔯) ⊂ 𝔟(F). En particulier, nous avons ad(X) ∈ 𝔟(F) et ad[Y, Z] ∈ 𝔟(F). Or d’après le point précédent, l’opérateur ad[Y, Z] est nilpotent. Il appartient donc à 𝔫(F).

c) Montrer que 𝔯 est orthogonal à l’algèbre dérivée [𝔤, 𝔤] et conclure. Soient X, Y ∈ 𝔤 et Z ∈ 𝔯. Nous avons

K([X, Y], Z) = K(X, [Y, Z]) = tr(ad(X)ad[Y, Z]).

D’aprés le point précédent, il existe un drapeau F de 𝔤 tel que ad(X) ∈ 𝔟(F) et ad[Y, Z] ∈ 𝔫(F). Donc ad(X)ad[Y, Z] appartient à 𝔫(F) et sa trace s’annule. Il s’ensuit que 𝔯 est bien orthogonal à [𝔤, 𝔤] et que 𝔯 ⊂ 𝔞. Au paragraphe précédent, on a montré l’inclusion inverse. Donc 𝔯 = 𝔞.

III. Une propriété des tores maximaux dans les groupes compacts

Soit T ⊂ U(n) le sous-groupe des matrices diagonales unitaires dans U(n). On se propose de calculer le normalisateur N(T) de T dans U(n).

1) Soit g ∈ N(T). Montrer que g permute les axes de coordonnées D_{1}, …, D_{n}. En déduire que g est une matrice monomiale, c’est-à-dire que chaque colonne et chaque ligne de g contient un coefficient non nul et un seul. Indication : si t ∈ T est à coefficients diagonaux distincts deux à deux, les D_{i} sont les espaces propres de t.

Soit t ∈ T une matrice diagonale à coefficients diagonaux distincts deux à deux. Alors les droites D_{i} sont les espaces propres de t. Par hypothèse, la matrice gtg^{−1} est encore diagonale et bien sûr ses valeurs propres sont celles de t. Ses espaces propres sont également les droites D_{i}. De l’autre côté, on sait que les espaces propres de gtg^{−1} sont les images par g des espaces propres de t. Donc g permute les droites D_{i}.

Soit σ la permutation telle que g(D_{i}) = D_{σ(i)}. Alors la i-ème colonne de g est multiple non nul de e_{σ(i)} ce qui entraîne que g est monomiale.

2) Pour g ∈ N(T), soit π(g) la permutation telle que gD_{i} = D_{π(g)(i)}. Montrer que l’on a une suite

exacte

1 → T → N(T) →^{π} S_{n} → 1

et que T = N(T)_{0}. En déduire que T est un sous-groupe abélien connexe maximal.

Clairement, π est surjective (la permutation σ est l’image de l’application linéaire qui envoie e_{i} sur e_{σ(i)}). Son noyau est formé des matrices g telles que g(D_{i}) = D_{i} pour tout i. Donc le noyau est égal à T. Comme T est connexe, on a T ⊂ N(T)_{0}. Comme N(T)_{0} est connexe et S_{n} discret, π est constante sur N(T)_{0} et N(T)_{0} est contenu dans le noyau de π, c’est-à-dire dans T. Si T′ ⊃ T est un sous-groupe connexe abélien, alors T′ est contenu dans N(T) (car T′ est abélien) et même dans N(T)_{0} (car T′ est connexe). Or N(T)_{0} = T et on a donc T′ = T.

Soit K un groupe de Lie réel compact. Soit T ⊂ K un sous-groupe abélien connexe et qui est maximal pour ces propriétés.

3) Montrer que T est fermé. En déduire qu’il est un groupe de Lie connexe, compact abélien. Que peut-on dire de la structure de T ?

Par continuité de la multiplication et du passage à l’inverse, l’adhérence de T est encore un sous-groupe abélien et clairement il est connexe. On conclut par la maximalité de T. On sait alors que l’exponentielle exp : Lie(T) → T induit un isomorphisme de groupes de Lie Lie(T)/Γ →^{∼} T où Γ est un sous-groupe discret du groupe abélien topologique Lie(T). Comme T est compact, Γ est en fait un réseau, c’est-à-dire un sous-groupe engendré sur Z par une base de l’espace vectoriel Lie(T).

4) Montrer que le groupe des automorphismes de groupe de Lie de T s’identifie à un sous-groupe discret Λ de GL(Lie(T)).

On considère l’homomorphisme

Aut(T) → GL(Lie(T))

donné par la différentielle. Il est injectif et son image est formée des automorphismes φ tels que φ(Γ) = Γ. Si on choisit une base de Γ, ce dernier groupe s’identifie à GL(n, Z), sous-groupe discret de GL(n, R) identifié à GL(Lie(T)).

5) Soit N(T) le normalisateur de T dans K. Montrer que N(T) est un sous-groupe de Lie fermé de K. Montrer que l’action par conjugaison de N(T)_{0} dans T est triviale.

Pour tout t ∈ T, l’ensemble N_{t} des g ∈ K tels que gtg^{−1} ∈ T est fermé car l’application g ↦ gtg^{−1} est continue et T est fermé. Le normalisateur N(T) est fermé car il est l’intersection des N_{t}, t ∈ T. Par le théorème de von Neumann, N(T) est un sous-groupe de Lie fermé.

L’image de N(T)_{0} dans le groupe discret Λ est connexe donc réduite à l’élément neutre.

6) Soit γ : R → N(T)_{0} un sous-groupe à un paramètre. Montrer que l’ensemble γ(R)T est un sous-groupe abélien connexe de K et déduire qu’il est égal à T.

D’après le point précédent, les éléments γ(x), x ∈ R, commutent à tous les éléments de T. Donc γ(R)T est bien un sous-groupe et il est bien abélien. Il est connexe car image de R × T par l’application continue évidente. Par maximalité de T, il est égal à T.

7) Montrer que N(T)_{0} est égal à T et déduire que N(T)/T est fini.

Les sous-groupes à un paramètre de N(T)_{0} couvrent un voisinage de l’élément neutre dans N(T)_{0}. Ils sont contenus dans T. Ce groupe doit ainsi contenir un voisinage de l’élément neutre dans N(T)_{0}. Comme N(T)_{0} est connexe, on a N(T)_{0} ⊂ T. L’inclusion réciproque est claire. Donc on a bien N(T)_{0} = T.

Comme N(T) est un sous-groupe fermé du groupe compact K, il est compact. Donc il n’a qu’un nombre fini de composantes connexes. Comme N(T)_{0} = T, cela signifie que N(T)/T est fini.