C. R. Acad. Sci. Paris, t. 332, Série I, p. 1–??, 2001 - PXMA????.TEX - Théorie des groupes/Group theory (Sous-rubrique/Sub-Heading)

Points fixes des automorphismes quasi-semi-simples

François Digne^{a}, Jean Michel^{b}

a LAMFA, Université de Picardie-Jules Verne, 33, rue Saint-Leu 80039 Amiens France

Courriel : digne@u-picardie.fr b LAMFA, Université de Picardie-Jules Verne, 33, rue Saint-Leu 80039 Amiens France

et : Institut de mathématiques, Université Paris VII, 175, rue du Chevaleret 75013 Paris France Courriel : jmichel@math.jussieu.fr

(Reçu le 28 03 2002, accepté après révision le jour mois année)

Résumé. Soit G un groupe algébrique réductif connexe sur un corps algébriquement clos. Un automorphisme algébrique σ de G est dit quasi-semi-simple s’il stabilise un couple formé d’un tore maximal de G et d’un sous-groupe de Borel de G le contenant ; la composante neutre (G^{σ})^{0} du groupe des points fixes G^{σ} est alors réductive. Le but de cette note est d’expliciter le système de racines de (G^{σ})^{0}. Au passage nous accomplissons avec un certain retard la promesse faite dans la preuve de [3], 1.15, complétant ainsi cette preuve. \begin{matrix}c \\ ◯ \end{matrix} 2001 Académie des sciences/Éditions scientifiques et médicales Elsevier SAS

Fixed points of quasi-semi-simple automorphisms

Abstract. Let G be a connected algebraic reductive group over an algebraically closed field. An algebraic automorphism σ of G is quasi-semi-simple if it stabilises a pair of a maximal torus of G and a Borel subgroup of G containing it; then the connected component (G^{σ})^{0} of the fixed-point group G^{σ} is a reductive group. We give an explicit description of its root system which allows us, as promised in [3], 1.15 to (belatedly) complete the proof which was left incomplete there. \begin{matrix}c \\ ◯ \end{matrix} 2001 Académie des sciences/Éditions scientifiques et médicales Elsevier SAS

Abridged English version

The proof of all the statements in this section can be found in the French version. Let G be a connected algebraic reductive group over an algebraically closed field k. Let σ be a quasi-

semi-simple automorphism of G, that is, an algebraic automorphism of G which stabilises a pair T ⊂ B consisting of a maximal torus of G and a Borel subgroup containing it. Let Σ ⊂ X(T) ⊗ ℝ be the root system of G relative to T. For each α ∈ Σ we denote by U_{α} the corresponding root subgroup and we choose an isomorphism x_{α} : k → U_{α}. For 𝒪 ∈ Σ/σ, where we have denoted by Σ/σ the set of orbits of σ on Σ, there is a unique C_{𝒪} ∈ k^{×} such that for α ∈ 𝒪 we have ^{σ^{|𝒪|}} x_{α}(λ) = x_{α}(C_{𝒪} λ). The scalar C_{𝒪} depends only on σ, not on the choice of x_{α}; we will write also C_{α} for C_{𝒪} when α ∈ 𝒪. A general reference for the above is [3], 1.8.

Note présentée par Jacques Tits

S0764-4442(00)0????-?/FLA \begin{matrix}c \\ ◯ \end{matrix} 2001 Académie des sciences/Éditions scientifiques et médicales Elsevier SAS. Tous droits réservés. 1

F. Digne, J. Michel

In the statements below, given an ℝ-vector space V, and R ⊂ V − {0} a finite subset, we say that “R is a root system” (meaning that it is a root system in the subspace <R> it generates in the sense of [1], VI, 1.1 déf.1); this makes sense since (cf. [1], VI, 1.1 lemme 1) for any α ∈ R there is at most one reflection s of <R> such that s(α) = −α and s(R) = R, so there is at most one way to make R a root system in <R>.

Proposition 0.1. – G^{σ} is reductive and the root system of (G^{σ})^{0} is isomorphic to the system {𝒪′ | 𝒪 ∈ Σ/σ, C_{𝒪} = 1}, where for 𝒪 ∈ Σ/σ we set 𝒪′ = |𝒪|^{−1} ∑_{α∈𝒪} α ∈ X(T) ⊗ ℝ, except that if char(k) = 2 one needs to exclude the orbits 𝒪 containing two roots whose sum is a root.

This describes in principle the root system Σ_{σ} of (G^{σ})^{0}, provided we can compute C_{𝒪} . One should notice that though (cf. e.g. [2], 13.2.2) Σ′ = {𝒪′ | 𝒪 ∈ Σ/σ} is a root system (not reduced in general), Σ_{σ} is not in general a closed subsystem of Σ′, and the C_{𝒪} do not in general multiply when the roots add. We shall obviate all these drawbacks by introducing another root system \overline{Σ} (which will be most of the time dual to Σ′) where none of these problems occur.

By the way, we note that when there exists an orbit 𝒪 containing two roots whose sum is again a root, and such that C_{𝒪} = 1, then 0.1 contradicts what seems to suggest [5], remark 8.3 (a), which is that the root system of (G^{σ})^{0} should be a subsystem of the system derived from Σ′ by removing short roots when Σ′ is not reduced (though that subsystem may be obtained in other cases, cf. 0.6 below).

Definition 0.2. – For 𝒪 ∈ Σ/σ let \overline{𝒪} = ∑_{α∈𝒪} α ∈ X(T) ⊗ ℝ; for α ∈ 𝒪 we also write \overline{α} for \overline{𝒪}. Finally, let \overline{Σ} = \{\overline{𝒪} | 𝒪 ∈ Σ/σ\}.

Proposition 0.3. – \overline{Σ} is a reduced root system.

If for α ∈ Σ we denote by 𝒪_{α} ∈ Σ/σ the orbit of α, we note that the fibres of the map 𝒪 ↦ \overline{𝒪} are of cardinality 1, except when there exist α, β ∈ 𝒪_{α} whose sum is a root (then \overline{α} = \overline{α + β}).

Definition 0.4. – For \overline{𝒪} ∈ \overline{Σ}, let C\overline{𝒪} = C_{α} where α is of maximal height (in absolute value) amongst \{β | \overline{β} = \overline{𝒪}\}.

Thus, when there exist α, β ∈ 𝒪_{α} whose sum is a root, we have C\overline{α} = C_{α+β} (recall (cf. [3], 1.8(v)) that in this case C_{α+β} = −C_{α}). We now state

Theorem 0.5. – If \overline{α} ∈ \overline{Σ} then C\overline{α} = C_{−\overline{α}}^{−1}, and if \overline{α}, \overline{β}, \overline{γ} ∈ \overline{Σ} statisfy \overline{α}+\overline{β}+\overline{γ} = 0, then C\overline{α}C\overline{β}C\overline{γ} = 1. This shows that the set of \overline{𝒪} for 𝒪′ ∈ Σ_{σ} is a closed subsystem of \overline{Σ}. It also shows, as was announced in

[3], 1.15:

Corollary 0.6. – If C_{α} = 1 for all simple roots (with respect to the ordering on Σ defined by B) and char(k) ≠ 2 then Σ_{σ} is the subsystem derived from Σ′ by removing long roots when Σ′ is not reduced.

([3], 1.15 uses more generally that if C_{α} = ±1 for all simple roots then the same holds for all roots but this also results obviously from 0.5.)

Soit G un groupe réductif connexe sur un corps algébriquement clos k, et soit σ un automorphisme quasi-semi-simple de G, c’est-à-dire un automorphisme algébrique de G qui stabilise un couple T ⊂ B formé d’un tore maximal et d’un sous-groupe de Borel le contenant. Le groupe G^{σ} est réductif (cf. 0.1 ci-dessous). Pour décrire son système de racines nous introduisons quelques notations.

Soit Σ le système de racines de G relatif à T. Pour α ∈ Σ, on note U_{α} le sous-groupe radiciel correspondant et on choisit un isomorphisme x_{α} : k → U_{α}. Si 𝒪 est un élément de l’ensemble Σ/σ des orbites de Σ sous σ, il existe un unique élément C_{𝒪} ∈ k^{×}, indépendant du choix des x_{α}, tel que pour α ∈ 𝒪 on ait σ^{|𝒪|} x_{α}(λ) = x_{α}(C_{𝒪} λ). Pour α ∈ 𝒪 nous notons aussi C_{α} pour C_{𝒪} , et parfois (seule notation utilisée dans [3]) nous écrirons C_{σ,α} pour préciser σ. Pour 𝒪 ∈ Σ/σ, nous posons 𝒪′ = |𝒪|^{−1} ∑_{α∈𝒪} α ∈ X(T) ⊗ ℝ.

Proposition 0.1. – Le groupe G^{σ} est réductif et le système de racines de (G^{σ})^{0} est isomorphe au système de racines que nous noterons Σ_{σ}, formé des 𝒪′ pour les 𝒪 ∈ Σ/σ tels que C_{𝒪} = 1, excepté que quand car(k) = 2 il faut exclure les orbites 𝒪 qui contiennent deux racines dont la somme est une racine.

Points fixes des automorphismes quasi-semi-simples

Démonstration. – L’énoncé est essentiellement une reformulation de [3], 1.8(v) qui montre que les sousgroupes radiciels de (G^{σ})^{0} correspondent aux orbites décrites ci-dessus. Les racines correspondantes sont les restrictions à (T^{σ})^{0} des racines de ces orbites ; or on peut identifier X((T^{σ})^{0}) à l’image du projecteur |σ|^{−1}(1 + σ + σ^{2} + … + σ^{|σ|−1}) où l’on a noté |σ| l’ordre de σ sur Σ, d’où l’identification des racines aux 𝒪′ correspondants. □

Le but de cette note est de donner une façon commode de déterminer Σ_{σ}.

Notons que, quand R est un ensemble de vecteurs non nuls d’un ℝ-espace vectoriel V, cela a un sens de dire que “R est un système de racines”, pour dire que c’est un système de racines au sens de [1], VI, 1.1 déf.1, dans le sous-espace <R> qu’il engendre : en effet (cf. [1], VI, 1.1 lemme 1) pour α ∈ R il y a au plus une réflexion s de <R> telle que s(α) = −α et s(R) = R.

Rappelons le résultat suivant :

Proposition 0.2. – (cf. e.g. [2], 13.2.2) Σ′ = {𝒪′ | 𝒪 ∈ Σ/σ} est un système de racines. Notons que Σ′ n’est pas toujours réduit. Le système Σ_{σ} est un sous-système de Σ′ qui n’est pas en général clos.

Nous allons voir, par contre, que Σ_{σ} correspond à un sous-système clos dans un autre système \overline{Σ}, qui est le plus souvent dual de Σ′.

Proposition 0.3. – Pour 𝒪 ∈ Σ/σ, soit \overline{𝒪} = ∑_{α∈𝒪} α ∈ X(T) ⊗ ℝ; alors \overline{Σ} = \{\overline{𝒪} | 𝒪 ∈ Σ/σ\} est un système de racines réduit.

Démonstration. – Nous pouvons clairement supposer que σ a une seule orbite sur l’ensemble des composantes irréductibles de Σ. Si Σ = ⋃_{i=1}^{i=k} Σ_{i}, où les composantes sont permutées transitivement par σ, le système \overline{Σ} est proportionnel au système analogue construit avec σ^{k} et Σ_{1}. Nous pouvons donc supposer Σ irréductible. Alors σ est d’ordre 1, 2 ou 3 sur Σ. S’il est d’ordre 1, le résultat est trivial. Sinon nous allons démontrer le résultat en comparant \overline{Σ} à Σ′. Si σ est d’ordre 3, alors (Σ, Σ′) est de type (D_{4}, G_{2}) et \overline{Σ} se déduit de Σ′ en multipliant les racines courtes par 3, ce qui donne un système de racines, isomorphe au dual de Σ′. Si σ est d’ordre 2, alors (Σ, Σ′) est d’un des types (D_{n}, B_{n−1}), (E_{6}, F_{4}), (A_{2n+1}, C_{n}) ou (A_{2n}, BC_{n}). Dans les 3 premiers cas, \overline{Σ} se déduit de Σ′ en multipliant les racines courtes par 2 et est encore isomorphe au dual de Σ′; dans le dernier cas \overline{Σ} se déduit de Σ′ en multipliant par 2 les racines moyennes et en oubliant les racines courtes, donc \overline{Σ} est un système de racines de type C_{n}. □

Pour α ∈ Σ nous notons 𝒪_{α} l’orbite de α sous σ et nous écrivons parfois \overline{α} pour \overline{𝒪}_{α}. Notons que les fibres de l’application 𝒪 ↦ \overline{𝒪} sont de cardinal 1, sauf quand il existe deux racines α, β ∈ 𝒪_{α} dont la somme est une racine, auquel cas \overline{α} = \overline{α + β}.

Définition 0.4. – Pour \overline{𝒪} ∈ \overline{Σ}, on pose C\overline{𝒪} = C_{α} où α est une racine de plus grande hauteur (en valeur absolue) dont l’orbite a pour somme \overline{𝒪}.

Donc, quand il existe deux racines α, β ∈ 𝒪_{α} dont la somme est une racine, on pose C\overline{α} = C_{α+β}. Notons que (cf. [3], 1.8(v)) on a alors C_{α+β} = −C_{α}.

Théorème 0.5. – Si \overline{α}, \overline{β}, \overline{γ} ∈ \overline{Σ} sont telles que \overline{α} + \overline{β} + \overline{γ} = 0, alors C\overline{α}C\overline{β}C\overline{γ} = 1.

Démonstration. – Notons que, par définition, C_{σ,α} = C_{σ^{|𝒪α|} ,α}, en particulier C_{σ,α} = C_{σ^{i},α} où σ^{i} est la plus petite puissance de σ qui laisse fixe la composante irréductible de α dans Σ. Par les mêmes arguments que dans la preuve de 0.3, nous pouvons supposer Σ irréductible, et σ d’ordre 1,2 ou 3 sur Σ.

Si σ agit trivialement sur Σ, alors par le théorème sur les isogénies (cf. [4], 9.6.2) cet automorphisme est de la forme ad s, où s ∈ T. On a \overline{α} = α, \overline{β} = β, \overline{γ} = γ et on trouve C\overline{α} = α(s), C\overline{β} = β(s), C\overline{γ} = γ(s) donc le théorème se réduit à l’égalité α(s)β(s)γ(s) = 1, immédiate par définition à partir de l’hypothèse α + β + γ = 0.

Si Σ est irréductible et σ non trivial, nous pouvons supposer Σ de type A_{n}, D_{n} ou E_{6}, et σ d’ordre 2 ou Σ de type D_{4} et σ d’ordre 3. Dans ce cas pour tout produit scalaire invariant par le groupe de Weyl toutes les racines de Σ ont même longueur et nous choisissons l’unique produit scalaire tel que les racines soient de carré scalaire égal à 2. Les produits scalaires de deux racines non colinéaires valent alors 0, 1 ou −1 et le sous-système engendré par deux telles racines est de type A_{2} ou A_{1} × A_{1} ; en particulier si α, β ∈ Σ alors α + β ∈ Σ si et seulement si ⟨ α, β ⟩ = −1.

Nous allons alors établir deux lemmes sur les coefficients C_{𝒪} . Commençons par rappeler Lemme 0.6. – Si toutes les racines ont même longueur, alors, pour un choix convenable des isomor-

phismes x_{α}, il existe des signes N_{α,β} tels que pour tous α, β ∈ Σ tels que α + β ∈ Σ on ait

[x_{α}(λ), x_{β}(μ)] = x_{α+β}(N_{α,β}λμ).  (1)

Démonstration. – Ce lemme est le contenu de [2], 5.2.3 (voir aussi [6], §2) si on tient compte que :

– vu les remarques ci-dessus sur le sous-système engendré par α et β, les seuls entiers positifs i, j tels que iα + jβ soit une racine sont i = j = 1 ;

– le coefficient N_{α,β} qui est C_{1,1,α,β} dans les notations de [2] 5.2.3 est bien le même que celui de [2], page 52 d’après la formule pour M_{r,s,i} de [2], page 61 et 5.2.2 ;

– les x_{α} peuvent être choisis tel que les N_{α,β} soient des signes d’après [2], 4.2.1 (on a p = 0 dans notre

cas).

□

On en déduit le

Lemme 0.7. – Si toutes les racines ont même longueur et α, β ∈ Σ sont tels que γ = α + β ∈ Σ, alors C_{γ}^{n/|𝒪_{γ}|} = C_{α}^{n/|𝒪_{α}|} C_{β}^{n/|𝒪_{β}|} où n = ppcm(|𝒪_{α}|, |𝒪_{β}|).

Démonstration. – Pour une racine α, définissons c_{α} par ^{σ}x_{α}(λ) = x_{^{σ}α}(c_{α}λ) ; alors C_{𝒪} = ∏_{α∈𝒪} c_{α}. En appliquant σ au membre de droite de (0.6) et comparant le membre de droite obtenu à celui donné par (0.6) pour le commutateur de x_{^{σ}α}(c_{α}λ) et x_{^{σ}β}(c_{β}μ), on obtient :

c_{α+β} = \frac{N_{^{σ}α,^{σ}β}}{N_{α,β}} c_{α}c_{β},  (2)

En faisant le produit des équations (2) pour tous les éléments de l’orbite du couple (α, β) sous σ, on obtient alors le lemme. □

Lemme 0.8. – On a C_{−𝒪} = C_{𝒪}^{−1}.

Démonstration. – Pour α ∈ 𝒪, l’automorphisme σ^{|𝒪|} stabilise le groupe réductif H = <U_{α}, U_{−α}> ainsi que son tore maximal S = T ∩ H et son système de racines. Par le même raisonnement que ci-dessus, il est donc de la forme ad s, où s ∈ S. On trouve alors C_{𝒪} = α(s), C_{−𝒪} = (−α)(s), d’où le lemme. □

Revenons maintenant à la preuve de 0.5.

Si σ est d’ordre 2, et α ≠ ^{σ}α, soit le sous-système engendré par α et ^{σ}α est de type A_{1}^{2} (alors ⟨ α,^{σ}α ⟩ = 0), soit ce sous-système est de type A_{2} ; dans ce dernier cas, comme σ préserve le sous-groupe de Borel B, il induit un automorphisme non trivial de A_{2} préservant les racines positives ; on a alors nécessairement ⟨ α,^{σ}α ⟩ = −1 et Σ est alors de type A_{2n}. Si σ est d’ordre 3 et α ≠ ^{σ}α, alors le sous-système engendré par α, ^{σ}α et ^{σ^{2}}α est nécessairement de type A_{1}^{3} et ⟨ α,^{σ}α ⟩ = 0. On en déduit que si \overline{α} ∉ Σ, alors ⟨ \overline{α}, \overline{α} ⟩ = 2|σ|.

Avec les notations de l’énoncé, de ⟨ \overline{α} + \overline{β} + \overline{γ}, \overline{α} + \overline{β} + \overline{γ} ⟩ = 0 on tire :

⟨ \overline{α}, \overline{α} ⟩ + ⟨ \overline{β}, \overline{β} ⟩ + ⟨ \overline{γ}, \overline{γ} ⟩ = −2⟨ \overline{α}, \overline{β} ⟩ − 2⟨ \overline{α}, \overline{γ} ⟩ − 2⟨ \overline{γ}, \overline{β} ⟩.  (3)

Le membre de gauche est strictement positif, donc un des termes de droite doit être strictement négatif, donc un des produits scalaires ⟨ σ^{i}x, σ^{j}y ⟩ (où x, y ∈ {α, β, γ}) doit être égal à −1. Quitte à permuter α, β, γ ou à les remplacer par un autre élément de leur orbite, on peut supposer que ⟨ α, β ⟩ = −1, c’est-à-dire que α + β ∈ Σ.

Notons que, vu la définition 0.4 de C\overline{α}, nous pouvons supposer désormais que pour chaque \overline{α} nous avons fixé α tel que C\overline{α} = C_{α}. En particulier, avec ce choix, si \overline{𝒪} = α ∈ Σ alors C\overline{𝒪} = C_{α}. Nous allons énumérer les cas suivant le nombre de racines de \{\overline{α}, \overline{β}, \overline{γ}\} qui sont dans Σ.

• cas 0 : \overline{α}, \overline{β}, \overline{γ} ∉ Σ. Alors les orbites de α et β ayant même cardinal |σ|, on a \overline{α} + \overline{β} = \overline{α + β} = \overline{−γ}. Avec le choix fait ci-dessus d’un relevé γ de \overline{γ}, quitte à remplacer γ par un autre élément de son orbite, on a α + β = −γ. Alors 0.7, combiné avec 0.8, donne C_{α}C_{β} = C_{γ}^{−1}, d’où le résultat car dans ce cas nous avons C\overline{α} = C_{α}, C\overline{β} = C_{β}, et C\overline{γ} = C_{γ}. •cas 3. \overline{α}, \overline{β}, \overline{γ} ∈ Σ. Alors 0.7 et 0.8 appliqués à la somme α + β = −γ donnent immédiatement le résultat. •cas 1. Si \overline{α} = α ∈ Σ et \overline{β}, \overline{γ} ∉ Σ, en utilisant l’invariance du produit scalaire par σ, (3) s’écrit :

2 + 4|σ| = −2|σ|⟨ α, β ⟩ − 2|σ|⟨ α, γ ⟩ − 2|σ|⟨ β, \overline{γ} ⟩.

Le membre de droite est divisible par 2|σ| et le membre de gauche ne l’est pas : ce cas est impossible. On raisonne de même si c’est \overline{β} ou \overline{γ} qui est dans σ. •cas 2. Il nous reste le cas où deux des \overline{𝒪} sont dans Σ. Ce ne peut être \overline{α} et \overline{β} car dans ce cas on aurait −\overline{γ} = \overline{α} + \overline{β} = α + β ∈ Σ. Donc on a (par exemple) \overline{α} = α ∈ Σ, \overline{β} ∉ Σ et \overline{γ} = γ ∈ Σ. Alors (3) s’écrit, en tenant compte de ⟨ α, β ⟩ = −1 :

2 + ⟨ α, γ ⟩ = −|σ|⟨ γ, β ⟩.  (4)

Supposons d’abord σ d’ordre 2 ; alors on a \overline{β} = β +^{σ}β avec β ∈ Σ, et ^{σ}(α + β) = α +^{σ}β est aussi une racine. De même, ⟨ α + β,^{σ}β ⟩ = −1 donc α + β + ^{σ}β ∈ Σ. Utilisant maintenant la formule (2), on a :

\begin{aligned}C_{−γ} = C_{α+β+^{σ}β} = c_{α+β+^{σ}β} = \frac{N_{α+^{σ}β,β}}{N_{α+β,^{σ}β}} c_{α+β}c_{^{σ}β} & = \frac{N_{α+^{σ}β,β}}{N_{α+β,^{σ}β}} .\frac{N_{α,^{σ}β}}{N_{α,β}} c_{α}c_{β}c_{^{σ}β} \\ & = \frac{N_{α+^{σ}β,β}}{N_{α+β,^{σ}β}} .\frac{N_{α,^{σ}β}}{N_{α,β}} C_{α}C_{β}. \end{aligned}

Nous sommes donc ramenés à vérifier N_{α+^{σ}β,β}N_{α,^{σ}β} = N_{α,β}N_{α+β,^{σ}β}. Nous allons utiliser les propriétés ci-dessous des signes N_{α,β} (cf. [2], 4.1.2, que nous spécialisons au cas où toutes les racines ont même longueur ; voir aussi [6], 2.6) :

(a) N_{a,b} = 0 si a + b ∉ Σ.

(b) N_{a,b} = −N_{b,a}.

(c) Si a, b, c sont trois racines telles que a + b + c = 0, alors N_{a,b} = N_{b,c} = N_{c,a}.

(d) Si a, b, c, d sont quatre racines telles qu’aucune paire d’entre elles n’ait une somme nulle et telles que a + b + c + d = 0, alors N_{a,b}N_{c,d} + N_{b,c}N_{a,d} + N_{c,a}N_{b,d} = 0.

En appliquant (d) à la somme α + β + ^{σ}β + (−α − β − ^{σ}β) (et tenant compte du fait que N_{β,^{σ}β} = 0 puisque β + ^{σ}β n’est pas une racine), on obtient :

N_{α,β}N_{^{σ}β,−(α+β+^{σ}β)} + N_{^{σ}β,α}N_{β,−(α+β+^{σ}β)} = 0  (5)

En appliquant (c) à la somme ^{σ}β + (α + β) + (−α − β − ^{σ}β), on obtient N_{^{σ}β,−(α+β+^{σ}β)} = N_{α+β,^{σ}β}, et de même on a N_{β,−(α+β+^{σ}β)} = N_{α+^{σ}β,β}. On obtient le résultat cherché en substituant ces deux égalités dans (5).

Supposons enfin σ d’ordre 3. On a alors \overline{β} = β + ^{σ}β + ^{σ^{2}}β. La seule possibilité pour que (4) ait lieu est ⟨ α, γ ⟩ = 1, ⟨ γ, β ⟩ = −1. Alors −γ − β = α + ^{σ}β + ^{σ^{2}}β est une racine, donc α + β + ^{σ}β aussi. Et ⟨ α + ^{σ}β + ^{σ^{2}}β, β ⟩ = −1, donc α +β +^{σ}β +^{σ^{2}}β ∈ Σ. En utilisant la décomposition α +β +^{σ}β +^{σ^{2}}β = ((α + β) + ^{σ}β) + ^{σ^{2}}β et en raisonnant comme dans le cas où σ est d’ordre 2, on a :

\begin{aligned}C_{−γ} = c_{α+β+^{σ}β+^{σ^{2}}β} & = \frac{N_{α+^{σ}β+^{σ^{2}}β,β}}{N_{α+β+^{σ}β,^{σ^{2}}β}} \frac{N_{α+^{σ}β,^{σ^{2}}β}}{N_{α+β,^{σ}β}} \frac{N_{α,^{σ}β}}{N_{α,β}} c_{α}c_{β}c_{^{σ}β}c_{^{σ^{2}}β} \\ & = \frac{N_{α+^{σ}β+^{σ^{2}}β,β}}{N_{α+β+^{σ}β,^{σ^{2}}β}} \frac{N_{α+^{σ}β,^{σ^{2}}β}}{N_{α+β,^{σ}β}} \frac{N_{α,^{σ}β}}{N_{α,β}} C_{α}C_{β}. \end{aligned}

En appliquant la propriété (d) à la somme (α + ^{σ^{2}}β) + ^{σ}β + β + (−α − β − ^{σ}β − ^{σ^{2}}β) = 0 on trouve :

N_{α+^{σ}β,^{σ^{2}}β}N_{β,−α−β−^{σ}β−^{σ^{2}}β} + N_{β,α+^{σ}β}N_{^{σ^{2}}β,−α−β−^{σ}β−^{σ^{2}}β} = 0;  (6)

en appliquant (c) à la somme β+(α+^{σ}β+^{σ^{2}}β)+(−α−β−^{σ}β−^{σ^{2}}β) = 0 on trouve N_{β,−α−β−^{σ}β−^{σ^{2}}β} = N_{α+^{σ}β+^{σ^{2}}β,β}, et de même on trouve N_{^{σ^{2}}β,−α−β−^{σ}β−^{σ^{2}}β} = N_{α+β+^{σ}β,^{σ^{2}}β}, donc (6) peut se réécrire :

\frac{N_{α+^{σ}β+^{σ^{2}}β,β}}{N_{α+β+^{σ}β,^{σ^{2}}β}} = \frac{N_{α+^{σ}β,β}}{N_{α+^{σ}β,^{σ^{2}}β}} .  (7)

En appliquant (d) à la somme α + β + ^{σ}β + (−α − β − ^{σ}β) = 0 on trouve

N_{α,β}N_{^{σ}β,−α−β−^{σ}β} + N_{^{σ}β,α}N_{β,−α−β−^{σ}β} = 0;  (8)

en appliquant (c) à la somme (α + β) +^{σ}β + (−α − β −^{σ}β) = 0 on trouve N_{^{σ}β,−α−β−^{σ}β} = N_{α+β,^{σ}β} et de même on trouve N_{β,−α−β−^{σ}β} = N_{α+^{σ}β,β} donc (8) peut se réécrire

\frac{N_{α+^{σ}β,β}}{N_{α+β,^{σ}β}} = \frac{N_{α,β}}{N_{α,^{σ}β}} .  (9)

En reportant (7), puis (9) dans l’expression pour C_{−γ} on trouve bien C_{−γ} = C_{α}C_{β}. □

Il résulte de 0.5 que le sous-système de \overline{Σ} formé des \overline{𝒪} où 𝒪′ ∈ Σ_{σ} est clos. On déduit aussi de 0.5 comme annoncé dans [3] :

Corollaire 0.9. – Si C_{α} = 1 pour toute racine simple, car(k) ≠ 2, alors le système de racines de (G^{σ})^{0} est le système Σ′′ déduit de Σ′ en supprimant les racines longues quand ce dernier n’est pas réduit.

Remerciements. Nous remercions Cédric Bonnafé pour des remarques utiles sur une version préliminaire de cette note.

Références bibliographiques

[1] N. Bourbaki, Groupes et algèbres de Lie, Chap. 4,5 et 6, Masson (1981).

[2] R. Carter, Simple groups of Lie type, Wiley (1972).

[3] F. Digne et J. Michel, Groupes réductifs non connexes, Annales de l’E.N.S. 27 (1994), pp. 345–406.

[4] T.A. Springer, Linear algebraic goups (2^{nd} edition), Progress in mathematics, Bikhäuser (1998).

[5] R. Steinberg, Endomorphisms of linear algebraic groups, Memoirs of A.M.S. 80 (1968).

[6] J. Tits, Constantes de structure des algèbres de Lie semi-simples, Publications mathématiques de l’IHÉS 31 (1966) pp. 21–58.