Critère d’injectivité pour l’application de Jacquet

Corinne BLONDEL

Equipe de Théorie des Groupes - Case 7012, UFR de Mathématiques, Université Paris 7, 2, place Jussieu, F-75251 PARIS Cedex 05. blondel@math.jussieu.fr

Note présentée par Hervé JACQUET.

Résumé. Soit (π, V) une représentation lisse d’un groupe réductif p-adique G et (π_{N}, V_{N}) son module de Jacquet relativement à un sous-groupe parabolique propre P de G de décomposition de Levi P = MN; soit K un sous-groupe ouvert compact de G possédant une décomposition d’Iwahori par rapport à P et τ une représentation lisse irréductible de K triviale sur les intersections de K avec N et l’opposé de N par rapport à M. Nous établissons un critère d’injectivité de la restriction de r_{N} : V → V_{N} à la composante isotypique de type τ de V sous l’action de K, puis donnons une application au groupe G_{2}.

Injectivity criterion for the Jacquet map.

Abstract. Let (π, V) be a smooth representation of a reductive p-adic group G and (π_{N}, V_{N}) be its Jacquet module relative to a proper parabolic subgroup P of G with Levi decomposition P = MN; let K be a compact open subgroup of G with an Iwahori decomposition with respect to P, and τ be a smooth irreducible representation of K trivial on the intersections of K with N and the opposite of N relative to M. We produce an injectivity criterion for the restriction of r_{N} : V → V_{N} to the τ-isotypic component of V under the action of K, and we give an application to the group G_{2}.

1. Critère d’injectivité

Soit G le groupe des points sur un corps local non archimédien F, d’un groupe algébrique réductif connexe défini sur F. Soit P un sous-groupe parabolique propre de G, de radical unipotent N, et soit P = MN une décomposition de Levi de P. On note N̄ l’opposé de N par rapport à M et P̄ = MN̄ le parabolique opposé de P. Les représentations considérées dans la suite seront toujours des représentations dans un espace vectoriel complexe.

Soit (π, V) une représentation lisse de G ; son module de Jacquet relativement à P est la représentation lisse (π_{N}, V_{N}) de M dans l’espace quotient V_{N} = V/V (N), où V (N) est formé des éléments v de V pour lesquels il existe un sous-groupe ouvert compact N_{v} de N tel que ∫_{N_{v}} π(n)vdn = 0 ; l’application canonique de V sur V_{N} est notée r_{N}.

Soit K un sous-groupe ouvert compact de G et τ une représentation lisse irréductible de K ; on note V^{τ} la composante isotypique de type τ de V sous l’action de K. On suppose que K possède une décomposition d’Iwahori par rapport à P, c’est-à-dire est produit direct K ∩N̄.K ∩M.K ∩N, et que τ est triviale sur K ∩N̄ et K ∩N ; alors la restriction de τ à K ∩M est une représentation lisse irréductible τ_{M} de K ∩ M, et l’homomorphisme de M-modules r_{N} envoie V^{τ} dans V_{N}^{τ_{M}}. On aura besoin dans la suite des précisions suivantes sur les liens entre τ_{M} et τ :

Lemme 1 : Soit J_{M} un sous-groupe ouvert compact de M et τ_{M} une représentation lisse irréductible de J_{M} de noyau H_{M}. Soit J^{+} (resp. J^{−}) un sous-groupe ouvert compact de N (resp. N̄).

(i) Le produit J = J^{−}J_{M}J^{+} est un groupe si et seulement si J_{M} normalise J^{+} et J^{−} et J^{+}J^{−} ⊂ J^{−}J_{M}J^{+}.

(ii) Si le produit J = J^{−}J_{M}J^{+} est un groupe, alors il existe une représentation τ de J triviale sur J^{+} et J^{−} et de restriction τ_{M} à J_{M} si et seulement si le produit J^{−}H_{M}J^{+} est un groupe. Dans ces conditions, pour toute représentation lisse (π, V) de G, V^{τ} est l’ensemble des vecteurs de V^{τ_{M}} fixés par J^{+} et J^{−}.

(iii) Soit H un sous-groupe de J_{M} tel que le produit J^{−}HJ^{+} soit un groupe. Alors le produit J^{−}J_{M}J^{+} est un groupe si et seulement si J_{M} normalise J^{+} et J^{−}.

Les conditions imposées plus haut à la paire (K, τ) suffisent à assurer la surjectivité de r_{N} : V^{τ} → V_{N}^{τ_{M}}, du moins si π est admissible (c’est la généralisation d’un résultat de Casselman, voir [5], théorème 3.3.3), mais non son injectivité. Or si (K, τ) est soit la paire formée d’un sous-groupe d’Iwahori et de son caractère trivial (voir [1]), soit un type simple dans GL_{n}(F) (voir [3]), cette injectivité constitue une étape clé pour démontrer que la paire (K, τ) est un type dans G, c’est-à-dire, par définition (voir [4], 4.1), que la catégorie des représentations lisses de G engendrées par leur composante isotypique de type τ sous K est stable par sous-quotients (voir [1], 4.7 puis 4.11, et [3], 7.3.2 puis 7.5.4). En général, les paires (K, τ) pour lesquelles r_{N} : V^{τ} → V_{N}^{τ_{M}} est injective devraient jouer un rôle fondamental dans la décomposition de la catégorie des représentations lisses de G selon la théorie des types (voir [4], §7) ; c’est pourquoi la construction de ”types induits” est en jeu dans ce qui suit.

Théorème 1 : Soit J_{M} un sous-groupe ouvert compact de M et τ_{M} une représentation irréductible lisse de J_{M}. Soit (J_{i}^{+})_{i⩾0} (resp. (J_{i}^{−})_{i⩾0}) une suite de sous-groupes ouverts compacts de N (resp. N̄), vérifiant les conditions suivantes :

(i) le produit J_{i} = J_{i}^{−}J_{M}J_{i}^{+} est un groupe pour tout i ⩾ 0 ;

(ii) la représentation τ_{M} se prolonge pour tout i ⩾ 0 en une représentation τ_{i} de J_{i} triviale sur J_{i}^{−} et J_{i}^{+} et égale à τ_{M} sur J_{M} ; (iii) la suite (J_{i}^{+})_{i⩾0} est croissante et ⋃_{i⩾0} J_{i}^{+} = N, la suite (J_{i}^{−})_{i⩾0} est décroissante; (iv) pour tout x ∈ J_{i+1}^{+} , x ∉ J_{i}^{+} , il existe un sous-groupe fermé H_{i,x} de J_{i}^{−} dont le conjugué x^{−1}H_{i,x}x est un sous-groupe de J_{i} n’ayant aucun vecteur fixe non nul dans la représentation τ_{i}.

Alors pour toute représentation lisse (π, V) de G, et pour tout i ⩾ 0, la restriction de r_{N} à V^{τ_{i}} est un homomorphisme injectif : V^{τ_{i}} → V_{N}^{τ_{M}}.

Démonstration : Les hypothèses restant vérifiées par translation d’indices, il suffit de montrer l’assertion pour i = 0 ; on pose τ_{0} = τ. L’injectivité recherchée, c’est-à-dire l’égalité V^{τ} ∩ V (N) = {0}, résulte d’un jeu de ”pousse-pousse” sur les J_{i} , précisément de la proposition suivante, où dy et dn sont des mesures de Haar sur N̄ et N respectivement :

Proposition 1 : Pour tout i ⩾ 0 et pour tout v ∈ V^{τ} on a l’égalité :

∫_{J_{i}^{−}} π(y)dy ∫_{J_{i+1}^{+}} π(n)vdn = vol (J_{i}^{−}) ∫_{J_{i}^{+}} π(n)vdn

Admettons un instant cette proposition (elle sera démontrée au paragraphe suivant) et achevons la démonstration du théorème. Soit v ∈ V^{τ}, v ≠ 0. Alors J_{0}^{+} contenu dans J_{0} agit trivialement sur v par (ii), d’où : ∫_{J_{0}^{+}} π(n)vdn = v ≠ 0. Par récurrence sur i la proposition implique alors : ∫_{J_{i}^{+}} π(n)vdn ≠ 0 pour tout i ⩾ 0. Vu la condition (iii) et la définition de V (N), il s’ensuit que v n’appartient pas à V (N), d’où le théorème. □

2. Décomposition d’Iwahori et lemme de Jacquet

Le but de ce paragraphe est de démontrer la proposition 1, les hypothèses et notations sont celles du théorème 1. Commençons par un lemme fondamental, qui n’est autre que la généralisation du premier lemme de Jacquet (cf Casselman, [5], 3.3.4).

Lemme 2 : On suppose les conditions (i), (ii) et (iii) du théorème 1 vérifiées. Soit v un élément de V^{τ}. Pour tout i ⩾ 0, w = ∫_{J_{i}^{+}} π(x)vdx est un élément de V^{τ_{i}}.

Démonstration : Soit m ∈ J_{M} ; on a π(m)w = ∫_{J_{i}^{+}} π(mxm^{−1})π(m)vdx. Comme J_{M} est

compact et normalise J_{i}^{+}, il vient par changement de variable π(m)w = ∫_{J_{i}^{+}} π(x)π(m)vdx. Ainsi v ↦ ∫_{J_{i}^{+}} π(x)vdx est un opérateur d’entrelacement pour l’action de J_{M} sur V. L’image par cet opérateur de V^{τ}, isotypique de type τ_{M} sous J_{M}, est donc contenue dans V^{τ_{M}}. D’autre part, comme v est fixé par J_{i}^{−} ⊂ J_{0}^{−} et par le noyau H_{M} de τ_{M}, et comme le produit J_{i}^{−}H_{M}J_{i}^{+} est un groupe d’après le lemme 1, on peut écrire :

w = C_{1} ∫_{J_{i}^{+}} π(x) ∫_{H_{M}} π(m) ∫_{J_{i}^{−}} π(y)vdydmdx = C_{2} ∫_{J_{i}^{−}H_{M} J_{i}^{+}} π(z)vdz

où C_{1} > 0, C_{2} > 0 sont des constantes dépendant du choix des mesures de Haar sur les groupes N, N̄, M, et G. Ainsi w est fixé par le groupe J_{i}^{−}H_{M}J_{i}^{+}, d’où le lemme. □

Nous pouvons maintenant démontrer la proposition 1. Soit v ∈ V^{τ} et i ⩾ 0 ; posons c_{i} = vol (J_{i}^{+})^{−1} et w = ∫_{J_{i}^{+}} π(x)vdx. Puisque J_{i}^{+} ⊂ J_{i+1}^{+} l’expression à calculer s’écrit :

\begin{aligned}I & = ∫_{J_{i}^{−}} π(y)dy ∫_{J_{i+1}^{+}} π(n)vdn = c_{i} ∫_{J_{i}^{−}} π(y)dy ∫_{J_{i+1}^{+}} π(n)wdn \\ & = c_{i} ∫_{J_{i+1}^{+}} π(n)dn ∫_{J_{i}^{−}} π(n^{−1}yn)wdy \end{aligned}

Comme w est fixé par J_{i}^{+} la fonction sur J_{i+1}^{+} : n ↦ π(n) ∫_{J_{i}^{−}} π(n^{−1}yn)wdy est invariante à

droite par J_{i}^{+} et il reste : I = ∑_{x∈J_{i+1}^{+}/J_{i}^{+}} π(x) ∫_{J_{i}^{−}} π(x^{−1}yx)wdy.

Le terme en x = 1 dans cette somme est vol (J_{i}^{−})w puisque w est fixé par J_{i}^{−} (lemme 2), c’est-à-dire le résultat voulu. Il suffit donc de montrer que les autres termes sont nuls. Or on a pour tout sous-groupe fermé H de J_{i}^{−}:

∫_{J_{i}^{−}} π(x^{−1}yx)wdy = vol (H)^{−1} ∫_{J_{i}^{−}} π(x^{−1}yx) ∫_{H} π(x^{−1}hx)wdhdy

Si x ∈ J_{i+1}^{+}, x ∉ J_{i}^{+}, prenant H = H_{i,x}, le sous-groupe fourni par la condition (iv) du théorème 1, on voit puisque w appartient à V^{τ_{i}} (lemme 2) que l’intégrale sur H est un vecteur de V^{τ_{i}} fixé par x^{−1}H_{i,x}x ; il est donc nul, d’où la proposition. □

3. Exemple de type induit dans le groupe G_{2}

Voici maintenant une application du théorème 1 dans le cadre suivant :

- Le corps F est de caractéristique résiduelle différente de 2 et 3 ; on note 𝔒 son anneau d’entiers, d’idéal maximal 𝔓.

- Le groupe G est un groupe de Chevalley de type G_{2} sur F, une base {α, β} de son système de racines Φ est fixée (α est courte, β longue), Φ^{+} est formé des racines positives. On utilise les notations de [2], 6.1.3.b : pour tout a ∈ Φ on dispose d’homomorphismes ζ_{a} de SL_{2}(F) dans G,

x_{a} et x_{−a} de F dans G, h_{a} de F^{×} dans G tels que x_{a}(u) = ζ_{a} (( \begin{matrix}1 & u \\ 0 & 1 \end{matrix} )) et x_{−a}(u) = ζ_{a} (( \begin{matrix}1 & 0 \\ u & 1 \end{matrix} )),

u ∈ F ; et h_{a}(x) = ζ_{a} (( \begin{matrix}x & 0 \\ 0 & x^{−1} \end{matrix} )) , x ∈ F^{×}.

- Le sous-groupe M est engendré par ζ_{β}(SL_{2}(F)) et le tore déployé maximal de G; il a pour centre h_{2α+β}(F^{×}) et ζ_{β} se prolonge en un isomorphisme ζ̄_{β} de GL_{2}(F) sur M. Deux sousgroupes paraboliques de G exactement ont pour facteur de Levi M: P = MN et son opposé P̄ = MN̄, avec N = ∏_{a∈Φ^{+}−{β}} x_{a}(F) et N̄ = ∏_{a∈Φ^{+}−{β}} x_{−a}(F).

On fixe des entiers m et n tels que 2 ⩽ m ⩽ n ; la fonction v sur Φ définie par :

(a) v(β) = v(−β) = n, v(2α + β) = 0, v(−2α − β) = m,

(b) v(a) = [n/2] et v(−a) = n − [n/2] pour a ∈ Φ^{+}, a ≠ β, a ≠ 2α + β, est concave. Il découle de [2] (6.4.9), que le sous-groupe K_{v} de G engendré par les x_{a}(𝔓^{v(a)}), a ∈ Φ, possède une décomposition d’Iwahori par rapport à P, avec: N ∩ K_{v} = J_{v}^{+} = ∏_{a∈Φ^{+}−{β}} x_{a}(𝔓^{v(a)}), N̄ ∩ K_{v} = J_{v}^{−} = ∏_{a∈Φ^{+}−{β}} x_{−a}(𝔓^{v(−a)}),

M ∩ K_{v} = K_{M} = h_{2α+β}(1 + 𝔓^{m})ζ̄_{β} (( \begin{matrix}1 + 𝔓^{n} & 𝔓^{n} \\ 𝔓^{n} & 1 + 𝔓^{n} \end{matrix} )) .

En outre J_{M} = ζ̄_{β}(GL_{2}(𝔒)) normalise K_{v} donc le produit J_{v} = J_{v}^{+}J_{M}J_{v}^{−} est un groupe. En insérant le sous-groupe J_{v} dans une suite de sous-groupes J_{i} vérifiant les hypothèses du théorème 1, on parvient au résultat suivant :

Théorème 2 : Soit τ_{M} une représentation de J_{M} telle que :

(i) τ_{M} est irréductible et triviale sur K_{M} ;

(ii) τ_{M} n’a pas de vecteur fixe non nul sous x_{β}(𝔓^{n−1}) ni sous x_{−β}(𝔓^{n−1}) ; (iii) le caractère central de τ_{M} est non trivial sur h_{2α+β}(1 + 𝔓^{m−1}).

La représentation τ_{M} se prolonge en une représentation τ de J_{v} triviale sur K_{v}. Pour toute représentation lisse (π, V) de G la restriction de r_{N} à V^{τ} est injective. La paire (J_{v}, τ) est un type dans G.

Références bibliographiques

[1] A. Borel, Admissible representations of a semisimple group with vectors fixed under an Iwahori subgroup. Invent. Math. 35 (1976), 233-259.

[2] F. Bruhat et J. Tits, Groupes réductifs sur un corps local I. Publ. Math. de l’IHES 41 (1972), 1-251.

[3] C.J. Bushnell and P. C. Kutzko, The admissible dual of GL(N) via compact open subgroups. Annals of Math. Studies 129, Princeton University Press 1993.

[4] C.J. Bushnell and P.C. Kutzko, Smooth representations of reductive p-adic groups : structure theory via types. Preprint, 1995.

[5] W. Casselman, Introduction to the theory of admissible representations of 𝔭-adic reductive groups. Preprint 1974.