Un cas simple de correspondance de Jacquet-Langlands modulo ℓ

J.-F. Dat

Résumé

Let G be a general linear group over a p-adic field and let D^{×} be an anisotropic inner form of G. The Jacquet-Langlands correspondence between irreducible complex representations of D^{×} and discrete series of G does not behave well with respect to reduction modulo ℓ ≠ p. However we show that the Langlands-Jacquet transfer, from the Grothendieck group of admissible \overline{ℚ}_{ℓ}-representations of G to that of D^{×} is compatible with congruences and reduces modulo ℓ to a similar transfer for \overline{𝔽}_{ℓ}-representations, which moreover can be characterized by some Brauer characters identities. Studying more carefully this transfer, we deduce a bijection between irreducible \overline{𝔽}_{ℓ}-representations of D^{×} and “super-Speh” \overline{𝔽}_{ℓ}-representations of G. Via reduction mod ℓ, this latter bijection is compatible with the classical Jacquet-Langlands correspondence composed with the Zelevinsky involution. Finally we discuss the question whether our Langlands-Jacquet transfer sends irreducibles to effective virtual representations up to a sign. This is related to a possible cohomological realization of this transfer, and presumably boils down to some unknown properties of parabolic affine Kazhdan-Lusztig polynomials.

Table des matières

1 Exposé des résultats 1 1.1 Rappels sur Jacquet-Langlands et Langlands-Jacquet classiques . . . . . . . . . . . . . . . 1 1.2 Correspondances ℓ-modulaires . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2

2 Caractères de Brauer et groupes de Grothendieck 4 2.1 Caractère de Brauer . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5 2.2 Représentations de GL_{d}(K). Classifications de Vignéras et Zelevinsky . . . . . . . . . . . 11 2.3 Représentations de D^{×} . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15

3 Correspondances ℓ-modulaires 17 3.1 Preuve des énoncés principaux . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17 3.2 Langlands-Jacquet mod ℓ et effectivité au signe près . . . . . . . . . . . . . . . . . . . . . 20

1 Exposé des résultats

Soit K un corps local non-archimédien de caractéristique résiduelle p, d un entier et D une algèbre à division de centre K et de dimension d^{2} sur K. Notons aussi W_{K} le groupe de Weil d’une clôture algébrique \overline{K} de K.

1.1 Rappels sur Jacquet-Langlands et Langlands-Jacquet classiques

(1.1.1) Le point de vue de la fonctorialité de Langlands. Les groupes D^{×} et G ont le même L-groupe GL_{d}(ℂ). Pour G, tous les paramètres de Langlands W_{K} × SL_{2}(ℂ) ⟶ GL_{d}(ℂ) sont relevants au sens de [4, 3.3], tandis que pour D^{×}, seuls ceux qui ne se factorisent pas à travers un sous-groupe parabolique propre de GL_{d}(ℂ) le sont. Le principe de fonctorialité de Langlands prédit donc dans ce cas l’existence d’une injection

JL_{ℂ} : Irr_{ℂ} (D^{×}) ↪ Irr_{ℂ} (G)

de l’ensemble Irr_{ℂ} (D^{×}) des classes de représentations complexes lisses irréductibles de D^{×} dans l’ensemble correspondant pour G. Selon le desideratum [4, 10.3(3)], l’image de cette injection doit coïncider avec l’ensemble des séries discrètes de G.

(1.1.2) Le point de vue de l’endoscopie. Le groupe G est un groupe endoscopique elliptique pour D^{×}. Cela signifie entre autres que l’on a une application des classes de conjugaison elliptiques régulières de G vers celles de D^{×}, qui dans ce cas est même une bijection puisque G est forme intérieure de D^{×}. Cette bijection est facile à expliciter puisque des deux côtés les classes de conjugaisons elliptiques régulières sont paramétrées par les polynômes unitaires irréductibles de degré d, via l’application “polynôme caractéristique”. Ce transfert des classes de conjugaison elliptiques implique un transfert des caractères virtuels que l’on peut résumer par le diagramme commutatif suivant

\xymatrix{C^{∞}(G^{ell}, ℂ)^{G} \ar[r]^{∼} & C^{∞}(D^{ell}, ℂ)^{D^{×}} \\ R(G, ℂ) ⊗ ℂ \ar[u]^{θ^{G}} \ar[r]_{_{LJ_{ℂ}}} & R(D^{×}, ℂ) ⊗ ℂ \ar[u]_{θ^{D}}^{≃}}

où R(G, ℂ) désigne le groupe de Grothendieck des représentations lisses complexes de longueur finie de G, C^{∞}(G^{ell}, ℂ)^{G} l’espace des fonctions lisses et invariantes par conjugaison sur l’ouvert elliptique de G, θ^{G} la fonction caractère de Harish Chandra restreinte aux elliptiques, et idem pour D^{×}. Le fait que θ^{D} soit un isomorphisme vient de ce que D^{×} est compact modulo son centre, et que l’ouvert elliptique D^{ell} y est dense. Notons enfin que le transfert des fonctions C^{∞}(G^{ell}, ℂ)^{G} ⟶ C^{∞}(D^{ell}, ℂ)^{D^{×}} est normalisé par un signe (−1)^{d+1}.

(1.1.3) Venons-en maintenant aux énoncés des “correspondances”.

Jacquet-Langlands. ([10],[2])– Il existe une injection JL_{ℂ} : Irr_{ℂ} (D^{×}) ↪ Irr_{ℂ} (G) caractérisée par les deux propriétés suivantes :

– Son image est l’ensemble des séries discrètes de G.

– Pour tout ρ ∈ Irr_{ℂ} (D^{×}), on a LJ_{ℂ}[JL_{ℂ}(ρ)] = [ρ].

Rappelons que la preuve de ce théorème repose sur la formule des traces “simple” et est de nature essentiellement globale. Par contre, une fois connu ce résultat, c’est par des arguments purement locaux basés sur la classification de Zelevinsky que l’on prouve la propriété suivante de LJ_{ℂ}.

Langlands-Jacquet. ([3],[8], Cor. 2.1.5)– L’application LJ_{ℂ} envoie R(G, ℂ) dans R(D^{×}, ℂ). De plus, pour toute π ∈ Irr_{ℂ} (G), on a LJ_{ℂ}([π]) = 0 ou LJ_{ℂ}([π]) = ±[ρ] pour une représentation ρ ∈ Irr_{ℂ} (D^{×}).

1.2 Correspondances ℓ-modulaires

Soit maintenant ℓ ≠ p un nombre premier. Notre but est de généraliser autant que possible les énoncés précédents aux \overline{𝔽}_{ℓ}-représentations. Il y a deux approches possibles pour cela.

(1.2.1) Caractères de Brauer. L’approche directe se heurte à deux difficultés. D’une part il n’y a pas de notion évidente de série discrète sur \overline{𝔽}_{ℓ}, ce qui laisse perplexe quant à l’image d’une éventuelle injection JL_{\overline{𝔽}_{ℓ}}. D’autre part, bien que Vignéras ait adapté la théorie des caractères de Harish-Chandra aux \overline{𝔽}_{ℓ}-représentations, ces caractères ne conduisent qu’à un transfert R(G, \overline{𝔽}_{ℓ}) ⊗ \overline{𝔽}_{ℓ} ⟶ R(D^{×}, \overline{𝔽}_{ℓ}) ⊗ \overline{𝔽}_{ℓ} et ne peuvent donc pas induire un unique transfert éventuel R(G, \overline{𝔽}_{ℓ}) ⟶ R(D^{×}, \overline{𝔽}_{ℓ}). De même une formule des traces modulo ℓ ne donne a priori que des informations “modulo ℓ”.

C’est pourquoi nous développons une notion de caractère de Brauer, calquée sur celle de Brauer pour les groupes finis. Il s’agit grosso-modo d’un homomorphisme

θ̃^{G} : R(G, \overline{𝔽}_{ℓ}) ⟶ C^{∞}(G_{ℓ′}^{ell}, \overline{ℤ}_{ℓ})^{G}

qui relève “canoniquement” le caractère ordinaire, mais que l’on ne définit que sur les éléments elliptiques “d’ordre premier à ℓ”. Nous renvoyons au théorème (2.1.4) et à la proposition (2.1.6) pour un énoncé précis de ses propriétés. Notons que M.-F. Vignéras avait déjà défini un caractère de Brauer en étendant l’approche de Harish-Chandra. Son manuscrit est resté non publié depuis 1998 et nous le reproduisons en appendice. Notre approche est différente et repose sur [17]. En l’état actuel, elle est aussi plus générale puisque nous définissons le caractère de Brauer sur tout élément semi-simple régulier compact, et pas seulement sur les elliptiques réguliers. De plus, notre construction fonctionne encore lorsque le corps local de définition est de caractéristique positive.

(1.2.2) Congruences. L’autre approche est de transporter les correspondances de ℂ à \overline{ℚ}_{ℓ}, puis d’étudier les compatibilités aux congruences et à la réduction “modulo ℓ”. Un bon point est que le transfert de ℂ à \overline{ℚ}_{ℓ} se passe bien.

Fait.– Si l’on admet l’existence d’un isomorphisme^{1} ℂ \underrightarrow{∼} \overline{ℚ}_{ℓ}, les applications LJ_{\overline{ℚ}_{ℓ}} et JL_{\overline{ℚ}_{ℓ}} que l’on en déduit ne dépendent pas du choix de cet isomorphisme, cf. [8, 2.1.1]. De plus, elles envoient représentations ℓ-entières sur représentations ℓ-entières, cf. (3.1.1).

Mais on voit rapidement que JL_{\overline{ℚ}_{ℓ}} ne peut pas être compatible, via la réduction modulo ℓ, avec une application analogue JL_{\overline{𝔽}_{ℓ}}. Par exemple, pour d = 2, q ≡ −1[ℓ], la triviale 1_{\overline{ℚ}_{ℓ}} de D^{×} correspond à la Steinberg St_{\overline{ℚ}_{ℓ}}, dont la réduction modulo ℓ est de longueur 2. C’est pourquoi, à rebours du cas complexe, on commence par étudier LJ.

(1.2.3) Langlands-Jacquet modulo ℓ. La preuve du résultat suivant est donnée au paragraphe (3.1.2). Elle utilise l’existence et les propriétés du caractère de Brauer, ainsi que la classification “à la Zelevinsky” par Vignéras des \overline{𝔽}_{ℓ}-représentations irréductibles.

Théorème.– Il existe un morphisme de groupes abéliens R(G, \overline{𝔽}_{ℓ}) ⟶^{LJ_{\overline{𝔽}_{ℓ}}} R(D^{×}, \overline{𝔽}_{ℓ}) rendant commutatifs les deux diagrammes suivants :

\xymatrix{C^{∞}(G_{ℓ′}^{ell}, \overline{ℤ}_{ℓ})^{G} \ar[r]^{∼} & C^{∞}(D_{ℓ′}^{ell}, \overline{ℤ}_{ℓ})^{D^{×}} \\ R(G, \overline{𝔽}_{ℓ}) \ar[u]^{θ̃^{G}} \ar@{.>}[r]_{LJ_{\overline{𝔽}_{ℓ}}} & R(D^{×}, \overline{𝔽}_{ℓ}) \ar[u]_{θ̃^{D^{×}}}} et \xymatrix{R^{ent}(G, \overline{ℚ}_{ℓ}) \ar[d]_{r_{ℓ}^{G}} \ar[r]^{LJ^{\overline{ℚ}^{ℓ}}} & R^{ent}(D^{×}, \overline{ℚ}_{ℓ}) \ar[d]^{r_{ℓ}^{D^{×}}} \\ R(G, \overline{𝔽}_{ℓ}) \ar@{.>}[r]_{LJ_{\overline{𝔽}_{ℓ}}} & R(D^{×}, \overline{𝔽}_{ℓ})} .

De plus, ce morphisme est uniquement déterminé par l’un ou l’autre de ces diagrammes.

Ici, l’application r_{ℓ}^{G} désigne l’application de réduction modulo ℓ, ou “décomposition”, dont l’existence est prouvée dans [31, II.5.11b]. Notons que, contrairement au cas complexe, il est facile de voir que l’image d’une irréductible par LJ_{\overline{𝔽}_{ℓ}} n’est pas nécéssairement nulle ou “irréductible au signe près”. Par contre, on peut espérer que la variante suivante est vraie.

Question.– Soit π ∈ Irr_{\overline{𝔽}_{ℓ}} (G). La représentation virtuelle LJ_{\overline{𝔽}_{ℓ}}(π) est-elle effective au signe près ?

Nous discutons quelques cas où cette propriété est non-trivialement vraie dans la section 3.2. Pour y répondre en général, en admettant l’analogue modulaire de l”’analogue p-adique des conjectures de Kazhdan-Lusztig” (fortement plausible), on est ramené à examiner certains signes dans la matrice inverse de certaine matrice de polynômes de Kazhdan-Lusztig. Mais l’auteur n’a pas su tirer parti de cette traduction “concrète”.

(1.2.4) Jacquet-Langlands modulo ℓ. Puisque nous disposons maintenant de LJ_{\overline{𝔽}_{ℓ}}, il est naturel de rechercher JL_{\overline{𝔽}_{ℓ}} sous la forme d’une section remarquable de LJ_{\overline{𝔽}_{ℓ}}. Comme on l’a déjà mentionné, la section JL_{\overline{ℚ}_{ℓ}} de LJ_{\overline{ℚ}_{ℓ}} n’est en général pas compatible à la réduction modulo ℓ, cf l’exemple (3.1.3). En fait, cet exemple montre aussi qu’il n’existe pas nécessairement de section de LJ_{\overline{𝔽}_{ℓ}} envoyant les irréductibles sur des irréductibles. Néanmoins, le théorème ci-dessous exhibe une section de LJ_{\overline{𝔽}_{ℓ}} qui envoie les irréductibles sur des irréductibles au signe près.

1. Heureusement, on n’a pas besoin de supposer l’existence de tels isomorphismes pour définir LJ_{\overline{ℚ}_{ℓ}} et JL_{\overline{ℚ}_{ℓ}}, car les séries discrètes de G, comme les irréductibles de D^{×}, sont “essentiellement” définies sur la clôture de ℚ dans ℂ.

Pour caractériser l’image de cette section, rappelons que dans la classification de Zelevinsky des représentations complexes en termes de multisegments, un rôle important est joué par les représentations “de Speh”, qui sont celles associées aux segments. Ces représentations sont échangées avec les “séries discrètes” par l’involution de Zelevinsky Z_{ℂ} sur Irr_{ℂ} (G).

De même, sur \overline{𝔽}_{ℓ}, on peut associer une représentation “de Speh” à tout segment cuspidal, et on dit que c’est une représentation “superSpeh” si le segment est supercuspidal, cf. paragraphe (2.2.3). Le résultat suivant est prouvé au paragraphe (3.1.8).

Théorème.– Il existe une injection ^{z}JL_{\overline{𝔽}_{ℓ}} : Irr_{\overline{𝔽}_{ℓ}} (D^{×}) ↪ Irr_{\overline{𝔽}_{ℓ}} (G), caractérisée par les propriétés suivantes :

– son image est l’ensemble des représentations “superSpeh”.

– pour toute ρ ∈ Irr_{\overline{𝔽}_{ℓ}} (D^{×}), on a LJ_{\overline{𝔽}_{ℓ}}[^{z}JL_{\overline{𝔽}_{ℓ}}(ρ)] = ±[ρ]. Elle est aussi uniquement déterminée par la relation suivante à JL_{\overline{ℚ}_{ℓ}}. Pour toute ρ ∈ Irr_{\overline{𝔽}_{ℓ}} (D^{×}) et tout relèvement ρ̃ ∈ Irr_{\overline{ℚ}_{ℓ}} (D^{×}), la représentation Z_{\overline{ℚ}_{ℓ}}(JL_{\overline{ℚ}_{ℓ}}(ρ̃)) est entière, de réduction irréductible, et on a

zJL_{\overline{𝔽}_{ℓ}}(ρ) = r_{ℓ}(Z_{\overline{ℚ}_{ℓ}}(JL_{\overline{ℚ}_{ℓ}}(ρ̃))).

Notons que comme D^{×} est résoluble, le théorème de Fong-Swan assure que toute \overline{𝔽}_{ℓ}-irréductible ρ se relève. Précisons aussi que la seconde partie du théorème ne signifie pas que la composée Z_{\overline{ℚ}_{ℓ}} ∘ JL_{\overline{ℚ}_{ℓ}} est compatible à la réduction modulo ℓ. Elle ne l’est généralement pas, toujours par l’exemple (3.1.3).

Néanmoins, la situation rappelle celle de la correspondance de Langlands modulo ℓ puisque, d’après [27, 1.8], seule la correspondance de Langlands composée avec l’involution de Zelevinsky a des propriétés de compatibilité partielle à la réduction modulo ℓ. Comme dans loc. cit., il est donc tentant d’utiliser l’involution de Zelevinsky-Vignéras Z_{\overline{𝔽}_{ℓ}} sur Irr_{\overline{𝔽}_{ℓ}} (G), voir [25], pour définir la correspondance de Jacquet-Langlands par la formule :

JL_{\overline{𝔽}_{ℓ}} := Z_{\overline{𝔽}_{ℓ}} ∘^{z}JL_{\overline{𝔽}_{ℓ}}.

(1.2.5) Correspondance de Langlands modulo ℓ pour D^{×}. Notons

σ_{\overline{𝔽}_{ℓ}}^{G} : Irr_{\overline{𝔽}_{ℓ}} (G) \underrightarrow{∼} Rep_{\overline{𝔽}_{ℓ}}^{d}(W D_{K})

la correspondance de Langlands-Vignéras entre \overline{𝔽}_{ℓ}-représentations irréductibles de G et \overline{𝔽}_{ℓ}-représentations de Weil-Deligne de dimension d, voir [27, 1.8]. Rappelons qu’une représentation de Weil-Deligne est un couple σ = (σ^{ss}, N) formé d’une représentation semi-simple σ^{ss} “du” groupe de Weil W_{K} de K et d’un homomorphisme nilpotent N : σ^{ss} ⟶ σ^{ss}(−1).

Corollaire.– L’application σ_{\overline{𝔽}_{ℓ}}^{D^{×}} := σ_{\overline{𝔽}_{ℓ}}^{G} ∘ JL_{\overline{𝔽}_{ℓ}} est une bijection Irr_{\overline{𝔽}_{ℓ}} (D^{×}) \underrightarrow{∼} Rep_{\overline{𝔽}_{ℓ}}^{d}(W D_{K})^{indec} entre \overline{𝔽}_{ℓ}-représentations irréductibles de D^{×} et \overline{𝔽}_{ℓ}-représentations de Weil-Deligne indécomposables de dimension d, caractérisée par la propriété suivante : si ρ ∈ Irr_{\overline{𝔽}_{ℓ}} (D^{×}) et ρ̃ est un relèvement de ρ à \overline{ℚ}_{ℓ}, alors σ_{\overline{𝔽}_{ℓ}}^{D^{×}}(ρ) = R_{ℓ}(σ_{\overline{ℚ}_{ℓ}}^{D^{×}}(ρ̃)).

Ici, σ_{\overline{ℚ}_{ℓ}}^{D^{×}} = σ_{\overline{ℚ}_{ℓ}}^{G} ∘ JL_{\overline{ℚ}_{ℓ}} est la correspondance de Langlands classique pour D^{×}, et R_{ℓ} est l’application

de réduction modulo ℓ des (classes de) \overline{ℚ}_{ℓ}-représentaitions de Weil-Deligne entières, implicite dans [27, 1.8], et expliquée dans [9, 4.1.8].

La morale de ce corollaire est qu’une certaine forme du principe de fonctorialité semble être envisageable pour les \overline{𝔽}_{ℓ}-représentations. Mais ce principe de fonctorialité, s’il existe, fera plutôt intervenir le SL_{2} d’Arthur que celui de Deligne-Langlands.

2 Caractères de Brauer et groupes de Grothendieck

Dans cette section, nous construisons le caractère de Brauer d’une \overline{𝔽}_{ℓ}-représentation lisse de longueur finie d’un groupe réductif p-adique quelconque, et nous spéculons sur les propriétés que l’on peut en attendre, par analogie avec les groupes finis. Puis nous rappelons les classifications de Zelevinsky et Vignéras des représentations irréductibles de GL_{d}(K) pour en déduire la surjectivité de la réduction modulo ℓ entre groupes de Grothendieck, qui est un point clef de la construction de LJ_{\overline{𝔽}_{ℓ}}. Enfin nous prouvons quelques propriétés des représentations de D^{×} utilisées dans la construction de ^{z}JL_{\overline{𝔽}_{ℓ}}.

2.1 Caractère de Brauer

(2.1.1) Rappels terminologiques. Dans cette section, G désigne un groupe réductif p-adique quelconque, et Z(G) désigne son centre. Un élément γ de G est dit semi-simple régulier si son centralisateur connexe Z_{G}(γ)^{∘} est un tore de G. Lorsque ce tore est anisotrope modulo Z(G), on dit que γ est elliptique. Par exemple, pour G = GL_{d}(K) ou D^{×}, l’élément γ est semi-simple régulier si et seulement si son polynôme minimal est séparable de degré d, et il est de plus elliptique si et seulement si ce polynôme minimal est de plus irréductible.

Rappelons aussi qu’un élément γ de G est compact si le sous-groupe qu’il engendre est relativement compact. Si Z est un sous-groupe fermé central de G on dira que γ est compact modulo Z si son image dans G/Z est un élément compact. De manière équivalente, γ est compact, resp. compact modulo Z(G), s’il fixe un point de l’immeuble étendu de G, resp. de l’immeuble semi-simple (i.e. non étendu) X de G. En conséquence, un élément compact modulo le centre normalise des sous-groupes ouverts compacts arbitrairement petits.

Un élément elliptique γ est compact modulo le centre et l’ensemble des points fixes X^{γ} de γ dans l’immeuble de G est compact. Réciproquement, un élément semi-simple régulier dont l’ensemble des points fixes X^{γ} est compact, est elliptique.

L’ensemble G^{rs} des éléments semi-simples réguliers de G est ouvert dans G et stable par conjugaison. Pour tout anneau Λ, on note C^{∞}(G^{rs}, Λ)^{G} le Λ-module des fonctions à valeurs dans Λ sur G^{rs} qui sont localement constantes et invariantes par conjugaison. On utilisera des notations similaires C^{∞}(G^{crs}, Λ)^{G} et C^{∞}(G^{ell}, Λ)^{G} où les notations G^{crs} et G^{ell} désignent respectivement les sous-ensembles ouverts de G formés des éléments semi-simples réguliers et compacts modulo le centre, resp. elliptiques.

Si π est une représentation admissible de G sur un corps, les opérateurs π(μ), pour μ dans l’algèbre de Hecke de G, sont à image finie. Moyennant le choix d’une mesure de Haar dg sur G, on obtient un caractère-distribution f ↦ tr(π(fdg)) sur G. Lorsque le corps de coefficients est ℂ, Harish Chandra a montré que cette distribution est donnée par intégration contre une fonction invariante lisse définie sur G^{rs}. Pour un corps de coefficients de caractéristique différente de p, Vignéras et Waldspurger ont étendu les arguments de Harish Chandra, puis récemment Meyer et Solleveld ont trouvé une approche différente de ce résultat.

Rappelons que R(G, Λ) désigne le groupe de Grothendieck des représentations Λ-admissibles de longueur finie.

(2.1.2) Théorème. (Caractère ordinaire, [16], Thms 7.2 et 7.4 et [30], Thm. E.4.4)– Supposons Λ = \overline{𝔽}_{ℓ} ou \overline{ℚ}_{ℓ}. Il existe un unique homomorphisme

R(G, Λ) ⟶^{θ} C^{∞}(G^{rs}, Λ)^{G}

appelé caractère ordinaire, tel que pour toute π ∈ Irr_{Λ} (G) et tout γ ∈ G^{rs} il existe un sous-groupe ouvert compact H_{π,γ} tel que pour tout pro-p-sous-groupe ouvert H ⊂ H_{π,γ}, on ait l’égalité

θ_{π}(γ) = tr(π(ε_{H} ∗ γ ∗ ε_{H})) (2.1.2.1)

où ε_{H} désigne la mesure de Haar normalisée de H (un idempotent de l’algèbre de Hecke de G).

M.-F. Vignéras a proposé une définition, reproduite en appendice, du caractère de Brauer d’une \overline{𝔽}_{ℓ}- représentation sur certains éléments elliptiques. Nous allons ici utiliser les techniques de Meyer et Solleveld pour définir un caractère de Brauer sur certains éléments semi-simples réguliers et compacts modulo le centre.

(2.1.3) Rappel sur la notion de caractère de Brauer. Soit μ^{ℓ′}(Λ) le groupe des racines de l’unité de l’anneau Λ qui sont d’ordre premier à ℓ. L’homomorphisme de réduction r_{ℓ} : \overline{ℤ}_{ℓ} ⟶ \overline{𝔽}_{ℓ} induit une bijection μ^{ℓ′}(\overline{ℤ}_{ℓ}) ⟶ μ^{ℓ′}(\overline{𝔽}_{ℓ}) dont on note ι la bijection réciproque. On la prolonge en 0 en posant ι(0) := 0.

Soit V un \overline{𝔽}_{ℓ}-espace vectoriel et ρ un endomorphisme de V tels que

B1) ρ satisfait l’égalité ρ^{n+1} = ρ pour un entier n premier à ℓ,

B2) l’image de ρ est de dimension finie.

Alors pour tout sous-espace W de V contenant ρ(V), l’endomorphisme ρ_{|W} de W est diagonalisable à valeurs propres dans μ^{ℓ′}(\overline{𝔽}_{ℓ})∪\{0\}. De plus, la multiplicité des valeurs propres non nulles est indépendante de W. Ainsi, notant Sp(ρ_{|W}) le multi-ensemble de ces valeurs propres comptées avec leurs multiplicités, la somme

t̃r(ρ) := ∑_{ζ∈Sp(ρ_{|W})} ι(ζ) ∈ \overline{ℤ}_{ℓ}

est indépendante du choix de W puisque ι(0) = 0. Les propriétés élémentaires de cette “trace de Brauer” sont résumées dans le lemme suivant :

Lemme.– Avec les notations ci-dessus,

i) On a l’égalité r_{ℓ}(t̃r(ρ)) = tr(ρ).

ii) Si ρ̃ est un endomorphisme d’un \overline{ℚ}_{ℓ}-espace vectoriel Ṽ satisfaisant les propriétés B1) et B2) cidessus, et dont l’image contient un \overline{ℤ}_{ℓ}-réseau ω stable sous ρ̃ de réduction isomorphe à (V, ρ), alors t̃r(ρ) = tr(ρ̃).

iii) Supposons qu’il existe une décomposition V = ⨁_{i∈I} V_{i} et une permutation σ de I sans points fixes telle que ∀i ∈ I, ρ(V_{i}) ⊂ V_{σ(i)}. Alors t̃r(ρ) = 0.

iv) Si 0 ⟶ (V_{1}, ρ_{1}) ⟶ (V_{2}, ρ_{2}) ⟶ (V_{3}, ρ_{3}) ⟶ 0 est une suite exacte courte, alors ∑_{i=1}^{3}(−1)^{i}t̃r(ρ_{i}) = 0.

Preuve. Les propriétés i) et iv) sont immédiates. La propriété ii) vient du fait que ω est somme directe de sous-\overline{ℤ}_{ℓ}-modules propres pour ρ puisque l’équation X^{n+1} − X est séparable sur \overline{𝔽}_{ℓ}. Prouvons la propriété iii). On a ρ(V) = ∑_{i∈I} ρ(V_{i}) ⊂ ∑_{i∈I}(ρ(V) ∩ V_{σ(i)}). Comme t̃r(ρ) = t̃r(ρ_{|ρ(V)}), on est ainsi ramené au cas où V = ρ(V) est de dimension finie et ρ est un automorphisme d’ordre n premier à ℓ. Dans ce cas ρ induit un isomorphisme V_{i} \underrightarrow{∼} V_{σ(i)} pour tout i. Choisissant une base de chaque V_{i} pour i dans un système de représentants des orbites de σ dans I, on se ramène au cas où les V_{i} sont de dimension 1. Enfin, puisque ρ stabilise ∑_{n∈ℕ} V_{σ^{n}(i)}, on peut supposer que σ a une seule orbite dans I. Dans ce cas, d := dim(V) divise n et ρ est la matrice de permutation circulaire d’une base de V. Ses valeurs propres sont les puissances d’une racine d-ème de l’unité et ont multiplicité 1. Leur somme est donc nulle et il s’ensuit que t̃r(ρ) = 0.

Remarque.– L’hypothèse n premier à ℓ dans B1) n’est pas nécessaire pour définir t̃r(ρ). Sans cette hypothèse les propriétés i) et iv) ci-dessus sont encore vraies mais les propriétés ii) et iii) ne le sont généralement plus.

On s’intéresse au cas où V est l’espace d’une \overline{𝔽}_{ℓ}-représentation π de G et ρ = π(γ ∗ ε_{H}) où H est un pro-p-sous-groupe ouvert normalisé par un élément γ de G. Ceci implique en particulier que γ est compact modulo le centre. La condition B2) est vérifiée si π est supposée admissible. Pour s’assurer que la condition B1) le soit on introduit les notions suivantes :

Définition.– Soit Z un sous-groupe fermé central de G. Un élément γ de G est dit d’ordre premier à ℓ modulo Z, s’il satisfait à l’une des deux conditions équivalentes suivantes :

i) il existe un pro-p-sous-groupe ouvert H et un entier n premier à ℓ tel que γ^{n} ∈ H.Z.

ii) l’adhérence du sous-groupe engendré par g dans G/Z est un groupe profini de pro-ordre premier à ℓ.

L’équivalence entre les deux conditions découle de la pro-nilpotence des pro-p-groupes. Reprenant la discussion précédente, on remarque que la condition B2) est vérifiée par ρ = π(γ ∗ ε_{H}) lorsqu’il existe un sous-groupe fermé central Z de G tel que – γ est d’ordre premier à ℓ modulo Z

– π est Z-semisimple au sens où π(\overline{𝔽}_{ℓ}[Z]) ⊂ End_{\overline{𝔽}_{ℓ}}(V) est une algèbre semi-simple. Par exemple, ces conditions sont remplies si γ est d’ordre premier à ℓ et π admissible, ou si γ est d’ordre premier à ℓ modulo le centre et π admet un caractère central. Dans chacun de ces cas on a alors l’égalité

t̃r(π(γ ∗ ε_{H})) = t̃r(π(γ)_{|V^{H}}).

Nous noterons G_{ℓ′/Z}^{crs}, resp. G_{ℓ′/Z}^{ell} l’ensemble des éléments compacts modulo Z, resp. elliptiques, de pro-ordre premier à ℓ modulo Z au sens ci-dessus. Ces ensembles sont clairement stables par conjugaison et ouverts.

(2.1.4) Théorème. (Caractère de Brauer)– Soit (π, V) une \overline{𝔽}_{ℓ}-représentation de longueur finie de G et Z un sous-groupe central fermé de G tel que π soit Z-semisimple. Il existe une fonction

θ̃_{π} ∈ C^{∞}(G_{ℓ′/Z}^{crs}, \overline{ℤ}_{ℓ})^{G},

appelée caractère de Brauer de π, et caractérisée par la propriété suivante : pour tout γ ∈ G_{ℓ′/Z}^{crs} il existe un sous-groupe ouvert compact H_{π,γ} tel que pour tout pro-p-sous-groupe ouvert H ⊂ H_{π,γ} normalisé par γ, on ait l’égalité θ̃_{π}(γ) = t̃r(π(γ)_{|V^{H}}). (2.1.4.1)

Preuve. Nous allons utiliser les résultats d’acyclicité de [17] généralisant ceux de [19]. Rappelons de quoi il s’agit. Nous avons besoin de la structure polysimpliciale de l’immeuble semi-simple X de G et noterons pour cela X_{q} l’ensemble des facettes de dimension q de X. Le stabilisateur d’une facette σ est noté P_{σ}^{†}. Nous utiliserons aussi les pro-p-sous-groupes ouverts distingués U_{σ}^{(e)} de P_{σ}^{†}, pour e ⩾ 1 entier, introduits par Schneider et Stuhler dans [19, I.2.7]. Le théorème 2.4 de [17] affirme que pour toute représentation lisse (π, V) de G sur laquelle p est inversible, et tout sous-complexe polysimplicial convexe Σ de X, le complexe cellulaire C_{∗}(Σ, σ ↦ V^{U_{σ}^{(e)}}) est une résolution du sous-espace V_{Σ} := ∑_{x∈Σ_{0}} V^{U_{x}^{(e)}}. Le cas Σ = X remonte à [19, II.3.1].

Choisissons e assez grand pour que V = ∑_{x∈X_{0}} V^{U_{x}^{(e)}}. Fixons aussi un élément γ ∈ G, semi-simple régulier et compact modulo le centre. Soit H un pro-p-sous-groupe ouvert normalisé par γ. On peut alors trouver un sous-complexe polysimplicial convexe fini Σ de X, stable par H et γ, et tel que V^{H} ⊂ V_{Σ} := ∑_{x∈Σ_{0}} V^{U_{x}^{(e)}}. Pour un tel Σ, le sous-espace V_{Σ} est de dimension finie, muni d’une action du groupe ⟨H, γ⟩ engendré par H et γ, et le complexe cellulaire C_{∗}(Σ, σ ↦ V^{U_{σ}^{(e)}}) est une résolution ⟨H, γ⟩- équivariante de V_{Σ}. Supposons de plus γ d’ordre premier à ℓ modulo Z. C’est encore le cas de tout élément de ⟨H, γ⟩, et tout tel élément agit donc par un automorphisme de degré premier à ℓ sur V_{Σ}. En utilisant successivement les propriétés iv) et iii) du lemme (2.1.3), on obtient pour tout g ∈ ⟨H, γ⟩,

(2.1.4.2)  t̃r (π(g)_{|V_{Σ}}) = ∑_{σ∈Σ^{g}}(−1)^{dimσ}ϵ_{σ}(g)t̃r (π(g)_{|V^{U{(e) \atop σ}}} ) .

Ici Σ^{g} désigne l’ensemble des facettes σ de Σ qui sont stables par g, i.e. telles que g ∈ P_{σ}^{†}. De plus, ϵ_{σ} : P_{σ}^{†} ⟶ {±1} est le caractère décrivant l’action de P_{σ}^{†} sur les orientations de σ.

Par ailleurs, soit U_{Σ}^{(e)} := ⋂_{σ∈Σ} U_{σ}^{(e)}. C’est un pro-p-sous-groupe ouvert de G qui agit trivialement sur V_{Σ} et dont l’intersection avec ⟨H, γ⟩ est distinguée dans celui-ci. D’après le lemme (2.1.5) appliqué à Γ := ⟨H, γ⟩/(⟨H, γ⟩ ∩ U_{Σ}^{(e)}), P := H/(H ∩ U_{Σ}^{(e)}) et γ, on a

t̃r (π(γ)_{|V^{H}} ) = \frac{1}{[H : (H ∩ U_{Σ}^{(e)})]} ∑_{h∈H/(H∩U_{Σ}^{(e)})} t̃r(π(hγ)_{|V_{Σ}}). (2.1.4.3)

Supposons momentanément que γ est elliptique, de sorte que X^{γ} est un complexe polysimplicial fini. Posons H_{π,γ} := ⋂_{σ∈X^{γ}} U_{σ}^{(e)}. C’est un pro-p-sous-groupe ouvert de G normalisé par γ, et qui fixe un voisinage de X^{γ} dans X (car e ⩾ 1). Par conséquent on a X^{hγ} = X^{γ} pour tout h ∈ H_{π,γ}. De plus, comme H_{π,γ} agit trivialement sur V^{U_{σ}^{(e)}} pour toute facette σ ∈ X^{γ}, la formule (2.1.4.2) montre que pour tout Σ tel que V_{Σ} ⊃ V^{H_{π,γ}}, on a

∀h ∈ H_{π,γ}, t̃r(π(hγ)_{|V_{Σ}}) = t̃r(π(γ)_{|V_{Σ}}).

Soit alors H ⊂ H_{π,γ} un sous-groupe ouvert normalisé par γ. La formule (2.1.4.3), appliquée à un Σ qui contient X^{γ} et pour lequel on a V_{Σ} ⊃ V^{H}, donne

t̃r (π(γ)_{|V^{H}} ) = θ̃_{π}(γ) := ∑_{σ∈X^{γ}}(−1)^{dimσ}ϵ_{σ}(γ)t̃r (π(γ)_{|V^{U{(e) \atop σ}}} ) ,

ce qui montre que le terme de gauche est indépendant de H, pourvu que H ⊂ H_{π,γ}. La fonction γ ↦ θ̃_{π}(γ) ainsi définie est constante sur H_{π,γ}γ et manifestement invariante par conjugaison ; elle appartient bien à C^{∞}(G_{ℓ′/Z}^{ell}, \overline{ℤ}_{ℓ})^{G}.

Revenons au cas général d’un élément γ semi-simple régulier et d’ordre premier à ℓ modulo Z. Dans ce cas, X^{γ} n’est plus nécessairement fini et l’intersection ⋂_{σ∈X^{γ}} U_{σ}^{(e)} n’est plus nécessairement ouverte dans G. Cependant, fixons σ_{0} ∈ X^{γ} : nous allons suivre les arguments de Meyer et Solleveld dans [16] pour prouver l’assertion suivante :

(*) : il existe un pro-p-sous-groupe ouvert distingué H_{π,γ} de P_{σ_{0}}^{†} tel que pour tout Σ convexe fini stable sous P_{σ_{0}}^{†} et tout h ∈ H_{π,γ}, on a t̃r(π(hγ)_{|V_{Σ}}) = t̃r(π(γ)_{|V_{Σ}}).

Admettons momentanément (*) et supposons H normalisé par γ et inclus dans H_{π,γ}. Choisissons Σ convexe fini stable sous P_{σ_{0}}^{†} tel que V_{Σ} ⊃ V^{H}. On a donc aussi V_{Σ} ⊃ V^{H_{π,γ}}. La formule (2.1.4.3) montre alors que t̃r(π(γ)_{|V^{H}}) est égal à t̃r(π(γ)_{|V^{Hπ,γ}}) et est donc indépendant de H. La fonction γ ↦ θ̃_{π}(γ) := t̃r(π(γ)_{|V^{Hπ,γ}}) est constante sur H_{π,γ}γ et donc lisse sur G_{ℓ′}^{crs}. Notons qu’on a encore des formules du type

θ̃_{π}(γ) = ∑_{σ∈X_{γ}}(−1)^{dimσ}ϵ_{σ}(γ)t̃r (π(γ)_{|V^{U{(e) \atop σ}}} ) ,

pour X_{γ} ⊂ X^{γ} convenable, par exemple X_{γ} = Σ^{γ} pour Σ comme ci-dessus. Si g ∈ G, on voit facilement que θ̃_{π}(gγg^{−1}) = ∑_{σ∈gX_{γ}g^{−1}}(−1)^{dimσ}ϵ_{σ}(gγg^{−1})t̃r (π(gγg^{−1})_{|V^{U{(e) \atop σ}}} ) , d’où l’on déduit que θ̃_{π} est invariante

par conjugaison, et appartient donc à C^{∞}(G_{ℓ′}^{crs}, \overline{ℤ}_{ℓ})^{G}.

Reste donc à prouver (*). Soit T le tore centralisateur de γ. D’après [14, 9.1] l’ensemble X^{γ} est compact modulo l’action de T. Il s’ensuit que l’intersection

T_{π,γ} := T ∩ ( ⋂_{σ∈X^{γ}} U_{σ}^{(e)})

est un sous-groupe ouvert de T. Comme plus haut dans le cas elliptique, on a X^{tγ} = X^{γ} pour tout t ∈ T_{π,γ}, et puisque T_{π,γ} agit trivialement sur chaque V^{U_{σ}^{(e)}} pour σ ∈ X^{γ}, on en tire pour tout Σ convexe l’égalité

∀t ∈ T_{π,γ}, t̃r(π(tγ)_{|V_{Σ}}) = t̃r(π(γ)_{|V_{Σ}}).

Supposons de plus Σ stable sous P_{σ_{0}}^{†}. Le sous-espace V_{Σ} est alors aussi stable sous P_{σ_{0}}^{†} et la fonction g ∈ P_{σ_{0}}^{†} ↦ t̃r(π(g)_{|V_{Σ}}) est clairement invariante par conjugaison sous P_{σ}^{†}. En d’autres termes on a

∀g ∈ P_{σ_{0}}^{†}, ∀t ∈ T_{π,γ}, t̃r(π(gtγg^{−1})_{|V_{Σ}}) = t̃r(π(γ)_{|V_{Σ}}).

Or il est bien connu que l’application

\begin{matrix}ψ_{γ} : G × T & → & G \\ (g, t) & ↦ & gtγg^{−1} \end{matrix}

est ouverte. Il suffit donc de prendre pour H_{π,γ} n’importe quel sous-groupe ouvert, normalisé par γ, et tel que H_{π,γ}.γ ⊂ ψ_{γ}(P_{σ_{0}}^{†} × T_{π,γ}). On trouvera dans [16, Lemma 6.5] un exemple de H_{π,γ} explicite.

(2.1.5) Lemme.– Soit Γ un groupe fini, P un p-sous-groupe de Γ, et γ ∈ Γ un élément d’ordre premier à ℓ qui normalise P. Alors pour toute représentation (π, V) de Γ, on a l’égalité

t̃r(γ_{|V^{P}}) = \frac{1}{|P |} ∑_{h∈P} t̃r(γh).

Preuve. Rappelons que t̃r(γ_{|V^{P}}) = t̃r(\frac{1}{|P |} ∑_{h∈P} γh). Ainsi la propriété que l’on veut montrer est une propriété de linéarité de t̃r dans un cas bien précis. Notons qu’il suffit de prouver l’énoncé lorsque Γ est engendré par P et γ, et par conséquent on peut supposer P distingué dans Γ. Soit alors P′ ⊂ P un sous-groupe distingué dans Γ. Si l’on sait prouver l’énoncé pour le triplet (Γ, P′, γ) et le triplet (Γ/P′, P/P′, γ.P′), alors on l’en déduit immédiatement pour le triplet (Γ, P, γ). Comme un p-groupe est nilpotent, on voit qu’il suffit de prouver l’énoncé lorsque P est abélien. Mais alors on a une décomposition P -équivariante V = V^{P} ⊕ ⨁_{χ≠1} V_{χ} de V selon les caractères de P. Comme il est clair que t̃r(γ_{|V^{P}}) = \frac{1}{|P |} ∑_{h∈P} t̃r(γh_{|V^{P}}), il nous suffira de prouver que ∑_{h∈P} t̃r(γh_{| ⨁_{χ≠1} V_{χ}}) = 0. Décomposons la somme

⨁_{χ∈P̂,χ≠1} V_{χ} = ⨁_{[χ]∈(P̂/γ),[χ]≠1} V_{[χ]} avec V_{[χ]} = ⨁_{χ∈[χ]} V_{χ}

selon les orbites de γ dans le dual P̂ de P. Pour une orbite [χ] de cardinal > 1, la propriété iv) du lemme (2.1.3) montre que t̃r(π(γh)_{|V_{[χ]}}) = 0 pour tout h. Pour une orbite de cardinal 1, on a

∑_{h∈P} t̃r(γh_{|V_{χ}}) = t̃r(γ_{|V_{χ}}) (∑_{h∈P} ι(χ(h)))

et la somme dans le terme de droite est nulle dès que χ est non trivial.

De l’égalité (2.1.4.1), il apparait clairement que si π′ ⊂ π, alors θ̃_{π} = θ̃_{π′} +θ̃_{π/π′}. Par contre le domaine de définition de θ_{π′} peut être plus grand que celui de θ_{π}. Par exemple, comme les irréductibles ont des caractères centraux, leurs caractères de Brauer sont définis sur tout élement d’ordre premier à ℓ modulo Z(G). Ainsi on peut définir par linéarité un homomorphisme de groupes abéliens

R(G, \overline{𝔽}_{ℓ}) ⟶^{θ̃} C^{∞}(G_{ℓ′}^{crs}, \overline{ℤ}_{ℓ})^{G}

où nous avons posé G_{ℓ′}^{crs} := G_{ℓ′/Z(G)}^{crs} pour alléger les notations.

Par ailleurs, nous noterons aussi R^{ent}(G, \overline{ℚ}_{ℓ}), resp. R_{ℓ′}^{ent}(G, \overline{ℚ}_{ℓ}), le sous-groupe de R(G, \overline{ℚ}_{ℓ}) engendré par les représentations irréductibles \overline{ℤ}_{ℓ}-entières au sens de [31, II.4], resp. \overline{ℤ}_{ℓ}-entières et à caractère central d’ordre fini et premier à ℓ. Le principe de Brauer-Nesbitt [31, II.5.11.b)], nous fournit un morphisme de réduction r_{ℓ} : R^{ent}(G, \overline{ℚ}_{ℓ}) ⟶ R(G, \overline{𝔽}_{ℓ}) (aussi appelé “application de décomposition”).

(2.1.6) Proposition.– Les diagrammes suivants commutent :

\xymatrix{R(G, \overline{𝔽}_{ℓ}) \ar[r]^{θ̃} \ar[d]_{θ} & C^{∞}(G_{ℓ′}^{crs}, \overline{ℤ}_{ℓ})^{G} \ar[d]^{r_{ℓ}} \\ C^{∞}(G^{crs}, \overline{𝔽}_{ℓ})^{G} \ar[r]_{|G{crs \atop ℓ′}} & C^{∞}(G_{ℓ′}^{crs}, \overline{𝔽}_{ℓ})^{G}} et \xymatrix{R_{ℓ′}^{ent}(G, \overline{ℚ}_{ℓ}) \ar[r]^{θ} \ar[d]_{r_{ℓ}} & C^{∞}(G^{crs}, \overline{ℤ}_{ℓ})^{G} \ar[d]^{|G{crs \atop ℓ′}} \\ R(G, \overline{𝔽}_{ℓ}) \ar[r]^{θ̃} & C^{∞}(G_{ℓ′}^{crs}, \overline{ℤ}_{ℓ})^{G}} .

Preuve. Prouvons la commutativité du premier diagramme. Par les caractérisations (2.1.4.1) de θ̃ et (2.1.2.1) de θ, il suffit de prouver que pour tout élément γ ∈ G_{ℓ′}^{crs} et tout H normalisé par γ, on a tr(π(γ ∗ ε_{H})) = r_{ℓ}(t̃r(π(γ ∗ ε_{H}))), ce qui découle de la propriété i) du lemme (2.1.3). Pour prouver la commutativité du second diagramme de l’énoncé, il suffit de partir de π̃ irréductible et entière et de prouver que pour tout γ, H comme ci-dessus on a tr(π̃(γ ∗ ε_{H})) = t̃r(r_{ℓ}π̃(γ ∗ ε_{H})). Or ceci découle de la propriété ii) du lemme (2.1.3), à condition que ρ := γ ∗ ε_{H} satisfasse une équation ρ^{n+1} = ρ avec n premier à ℓ. Ceci est toujours le cas si le caractère central de π est d’ordre fini et premier à ℓ.

(2.1.7) Éléments non compacts. On peut étendre le caractère de Brauer à certains éléments semisimples réguliers γ de la manière suivante. Soit (P_{γ}^{+}, P_{γ}^{−}) la paire de sous-groupes paraboliques opposés associée à γ, et M_{γ} = P_{γ}^{+} ∩ P_{γ}^{−} leur composante de Levi commune. Alors γ est compact modulo le centre de M_{γ}. Supposons-le d’ordre premier à ℓ modulo ce centre. On pose alors

θ̃_{π}(γ) := θ̃_{r_{Pγ} (π)}(γ)^{ss}

où r_{P_{γ}} désigne le foncteur de Jacquet associé à P_{γ} et le signe ^{ss} désigne la semisimplifiée. On obtient ainsi une fonction θ̃_{π} définie sur l’ensemble G_{ℓ′}^{rs} des semi-simples réguliers γ tels que γ ∈ M_{γ,ℓ′}^{crs}. On vérifie aisément que cet ensemble est ouvert et stable par conjugaison sous G, et que la fonction θ̃_{π} est lisse et invariante sous G. Il résulte alors de [16, Thm 7.4] que si on remplace G_{ℓ′}^{crs} par G_{ℓ′}^{rs} dans le premier diagramme de la proposition, alors le diagramme obtenu est encore commutatif. Par contre, le deuxième diagramme n’a pas de généralisation intéressante avec cette définition, car les exposants des \overline{ℚ}_{ℓ}-représentations “intéressantes” ne sont pas d’ordre fini. Penser par exemple à la représentation de Steinberg.

(2.1.8) Élements d’ordre divisible par ℓ. Le premier diagramme de la proposition (2.1.6) montre que le caractère de Brauer détermine la restriction du caractère ordinaire aux éléments d’ordre premier à ℓ. En fait, comme pour les groupes finis, le caractère de Brauer détermine entièrement le caractère ordinaire. Cela fait intervenir l’analogue suivant de la décomposition unique x = x_{ℓ}x_{ℓ′} d’un élément d’ordre fini en le produit d’un ℓ-élément et d’un ℓ′-élément commutants.

Lemme.– Soit γ un élément compact modulo un sous-groupe fermé central Z de G. Il existe un couple (γ_{ℓ}, γ_{ℓ′}) d’éléments de G satisfaisant les propriétés suivantes :

– γ = γ_{ℓ}γ_{ℓ′} = γ_{ℓ′}γ_{ℓ},

– γ_{ℓ} est d’ordre fini égal à une puissance de ℓ dans G/Z,

– γ_{ℓ′} est d’ordre premier à ℓ modulo Z Cette décomposition est unique modulo l’action évidente de Z, et l’on a γ_{ℓ}, γ_{ℓ′} ∈ Z.\overline{⟨γ⟩}.

Preuve. Cela découle de l’existence de décompositions de Jordan p-topologiques pour les éléments compacts du groupe localement p-profini G/Z, cf [21].

Soit (π, V) une \overline{𝔽}_{ℓ}-représentation de longueur finie, Z un sous-groupe central fermé de G agissant de manière semi-simple sur π et γ ∈ G un élément compact modulo Z. Choisissons une décomposition γ = γ_{ℓ}γ_{ℓ′} comme ci-dessus. Tout pro-p-sous-groupe ouvert H normalisé par γ est encore normalisé par γ_{ℓ} et γ_{ℓ′}. De plus, le produit π(γ_{ℓ})_{|V^{H}} π(γ_{ℓ′})_{|V^{H}} est la ℓ-décomposition usuelle de l’automorphisme d’ordre fini π(γ)_{|V^{H}}. On sait dans ces conditions, cf [7, Lemma (17.8)], que

tr(π(γ)_{|V^{H}}) = tr(π(γ_{ℓ′})_{|V^{H}} .

Si γ_{ℓ′} est régulier, on en déduit θ_{π}(γ) = θ_{π}(γ_{ℓ′}). Néanmoins, en général γ_{ℓ′} n’est pas nécessairement régulier. Cependant, supposons H assez petit pour que Hγ ⊂ G^{crs} et pour que θ_{π} soit constant sur Hγ. Pour tout h ∈ H ∩ Z_{G}(γ), on a (γh)_{ℓ′} = γ_{ℓ′}h. Choisissons h tel que γ_{ℓ′}h soit régulier. On a alors θ_{π}(γ) = θ_{π}(γh) = θ_{π}(γ_{ℓ′}h). Ceci montre que (θ_{π})_{|G^{crs}} est déterminé par sa restriction (θ_{π})_{|G_{ℓ′}^{crs}}. Plus précisément on a prouvé :

Proposition.– Soit x ∈ R(G, \overline{𝔽}_{ℓ}). Si la restriction de θ_{x} à G_{ℓ′}^{rs}, resp. à G_{ℓ′}^{crs}, resp. à G_{ℓ′}^{ell}, est nulle, alors il en est de même de sa restriction à G^{rs}, resp. à G^{crs}, resp. à G^{ell}.

Voici maintenant deux propriétés classiques des caractères de Brauer des groupes finis :

– Injectivité : l’application θ̃: R(G, \overline{𝔽}_{ℓ}) ⟶ C(G_{ℓ′}, \overline{ℤ}_{ℓ})^{G} est injective.

– Surjectivité : soit x ∈ R(G, \overline{𝔽}_{ℓ}), prolongeons θ̃_{x} à G en posant θ̄_{x}(g) := θ̃_{x}(g_{ℓ′}). Alors la fonction obtenue est le caractère d’un élément x̃ ∈ R(G, \overline{ℚ}_{ℓ}).

Ces propriétés s’étendent facilement à un groupe p-adique compact modulo son centre, bien que notre caractère de Brauer ne soit défini que sur les éléments réguliers. Cela découle en effet de la densité des élements réguliers, cf la preuve du théorème (1.2.3).

Pour un groupe réductif p-adique G plus général, il résulte de [30] que pour ℓ assez grand, le caractère de Brauer θ̃ étendu à tout G^{rs} comme plus haut définit une injection de R(G, \overline{𝔽}_{ℓ}) dans C^{∞}(G_{ℓ′}^{rs}, \overline{ℤ}_{ℓ}). Les seules conditions explicites données dans loc. cit. sont ℓ > n, pour G = GL_{n}(K) ou SL_{n}(K).

Néanmoins, que ce soit pour l’injectivité ou la surjectivité, il paraît plus utile d’obtenir un analogue modulaire de [13].

(2.1.9) Question.– Soit R_{I}(G, \overline{𝔽}_{ℓ}) le sous-groupe de R(G, \overline{𝔽}_{ℓ}) engendré par les induites paraboliques propres.

i) A-t-on ker (θ̃_{|G_{ℓ′}^{ell}} ⊗ ℚ) = R_{I}(G, \overline{𝔽}_{ℓ}) ⊗ ℚ?

ii) Soit π ∈ R(G, \overline{𝔽}_{ℓ}) et θ̄_{π} le prolongement à G^{ell} de θ̃_{π} défini par

θ̄_{π}(γ) := θ̃_{π}(γ_{ℓ′}h)

où h ∈ Z_{G}(γ) ∩ H_{π,γ} est tel que γ_{ℓ′}h soit régulier. Est-ce que θ̄_{π} est la restriction à G^{ell} du caractère d’un élément de R(G, \overline{ℚ}_{ℓ}) ?

Concernant le point i), on vérifie en effet facilement, et par les mêmes arguments que pour le caractère ordinaire [22], que le caractère de Brauer d’une induite parabolique propre est nul sur les éléments elliptiques.

Une réponse à ces deux questions permettrait par exemple d’en déduire la surjectivité de la réduction de Brauer-Nesbitt r_{ℓ}. Dans les paragraphes suivants, nous répondrons affirmativement à ces deux questions dans le cas de G = GL_{d}(K). Contrairement aux arguments d’analyse harmonique de Kazhdan dans [13], nous utiliserons les résultats de classification des représentations de M.-F. Vignéras.

2.2 Représentations de GL_{d}(K). Classifications de Vignéras et Zelevinsky

Dans ce paragraphe nous rappelons l’énoncé de classification des représentations lisses irréductibles de G_{d} := GL_{d}(K) dû à Zelevinsky lorsque les coefficients sont \overline{ℚ}_{ℓ} et à Vignéras lorsque les coefficients sont \overline{𝔽}_{ℓ}. Nous en déduisons facilement que l’homomorphisme de réduction r_{ℓ} : R^{ent}(G_{d}, \overline{ℚ}_{ℓ}) ⟶ R(G_{d}, \overline{𝔽}_{ℓ}) est surjectif, ce qui sera crucial pour définir LJ_{\overline{𝔽}_{ℓ}} au prochain paragraphe. Au passage, nous prouvons quelques propriétés des représentations de Speh et “superSpeh”, qui seront utilisées pour la définition de zJL_{\overline{𝔽}_{ℓ}}. Dans ce qui suit, la lettre C désignera le corps \overline{𝔽}_{ℓ} ou le corps \overline{ℚ}_{ℓ}. Les représentations irréductibles considérées sont à coefficients dans C sauf précision contraire.

(2.2.1) Modèles de Whittaker et dérivées. Fixons un caractère non trivial ψ : K ⟶ \overline{ℤ}_{ℓ}^{×}. À toute partition λ = (λ_{1} ⩾ λ_{2} ⩾ ⋯ ⩾ λ_{t}) ∈ Λ(d) de d est alors associé un \overline{ℤ}_{ℓ}-caractère ψ_{λ} du sous-groupe unipotent maximal supérieur U_{d} de G_{d}, qui induit à son tour un caractère à valeurs dans C, encore noté ψ_{λ}, cf. [26, V.5]. Pour une C-représentation π de G_{d}, on définit

Λ(π) := {λ ∈ Λ(d), m_{π,λ} := dim (Hom_{U_{d}}(π, ψ_{λ})) ≠ 0} .

Par réciprocité de Frobenius tout morphisme φ ∈ Hom_{U_{d}}(π, ψ_{λ}) induit un morphisme π ⟶ Ind_{U_{d}}^{G_{d}}(ψ_{λ}) qui, s’il est injectif, est appelé λ-modèle de Whittaker. Rappelons que lorsque π est irréductible et (d) ∈ Λ(π), on dit que π est “générique” ou encore “non dégénérée”. On sait alors [31, III.5.10.3)] que m_{π,(d)} = 1 ; c’est l’unicité du modèle de Whittaker.

Plus généralement, munissons l’ensemble Λ(d) de l’ordre partiel défini par λ ⩾ λ′ si et seulement si ∀i = 1, ⋯, t, ∑_{j=1}^{i} λ_{j} ⩾ ∑_{j=1}^{i} λ′_{j}. La théorie des dérivées de Gelfand-Kazhdan montre alors [26, V.5] que pour toute π irréductible, l’ensemble Λ(π) admet un plus grand élément, que l’on notera λ_{π}. Concrètement, la partition λ_{π} est donnée par les plus grandes dérivées successives. Plus précisément, λ_{π,1} est l’ordre de la plus grand dérivée de π, λ_{π,2} = λ_{π^{(λ_{π,1})},1} est celui de la dérivée π^{(λ_{π,1})} qui est une représentation de G_{d−λ_{π,1}}, etc.

Notons que, comme dans l’article de Zelevinsky [32] sur les représentations complexes, une fois prouvé le théorème de classification (rappelé plus bas), on en déduit [26, V.12] que le λ_{π}-modèle de Whittaker est unique, i.e. m_{π,λ_{π}} = 1.

(2.2.2) Dérivées et induites paraboliques. Pour définir les induites paraboliques normalisées, il nous faut choisir une racine carrée de q dans \overline{ℤ}_{ℓ}. Comme d’habitude, pour π_{i} une représentation de G_{d_{i}}, i = 1, ⋯, t, on note π_{1} × π_{2} × ⋯ × π_{t} l’induite normalisée de la représentation π_{1} ⊗ π_{2} ⊗ ⋯ ⊗ π_{t} du sous-groupe de Levi diagonal par blocs G_{d_{1}} × ⋯ × G_{d_{t}} de G_{d_{1}+···+d_{t}}, le long du parabolique triangulaire par blocs supérieur correspondant, noté P_{d_{1},···,d_{t}}.

La formule “de Leibniz” pour la dérivée d’une induite parabolique [31, III.1.10] montre que la partition λ_{π_{1}} + λ_{π_{2}} + ⋯ + λ_{π_{t}} ∈ Λ(d_{1} + ⋯ + d_{t}) est le plus grand élément de l’ensemble Λ(π_{1} × ⋯ × π_{t}) et que de plus, on a m_{π_{1}×···×π_{t},λ_{π_{1}} +λ_{π_{2}} +···+λ_{π_{t}}} = 1 si l’on sait que chaque m_{π_{i},λ_{π_{i}}} vaut 1.

(2.2.3) Segments (super)cuspidaux et représentations (super)Speh. Pour tout d, la lettre ν désignera le caractère g ↦ q^{−val_{K}∘det(g)} de G_{d} à valeurs dans ℤ_{ℓ}^{×}. Un C-segment (super)cuspidal est une paire Δ = (π, r) formée d’une C-représentation irréductible (super)cuspidale de G_{d} et d’un entier positif r. Comme la seule dérivée non nulle de π est π^{(d)}, la formule de Leibniz montre que l’ensemble Λ(π×πν×⋯×πν^{r−1}) est formé de d-partitions de dr, i.e. dont les entrées sont divisibles par d. L’élément minimal de cet ensemble est la partition (d^{(r)}) := (d, d, ⋯, d).

Lorsque C = \overline{ℚ}_{ℓ}, ou plus généralement lorsque les πν^{i} sont deux à deux non isomorphes, on montre facilement que l’induite π × πν × ⋯ × πν^{r−1} possède une unique sous-représentation irréductible, que nous noterons δ_{r}(π). Parmi les sous-quotients irréducibles de cette induite, elle est caractérisée par l’une ou l’autre des propriétés suivantes :

m1) Son module de Jacquet est donné par r_{P_{d,d,···,d}}(δ_{r}(π)) \underrightarrow{∼} π ⊗ πν ⊗ ⋯ ⊗ πν^{r−1}

m2) Sa partition de Whittaker est donnée par λ_{δ_{r}(π)} = (d, d, ⋯, d).

Lorsque C = \overline{𝔽}_{ℓ}, il n’y a pas de définition aussi simple de δ_{r}(π), et l’auteur n’en connait pas qui n’utilise pas la théorie des types. La définition de [26, V.9.1] n’est pas tout à fait correcte car la propriété m1) ci-dessus ne suffit pas toujours à isoler une unique représentation. Cependant, en réordonnant les arguments de loc. cit., on aboutit à la définition suivante, dont l’énoncé a été adapté à l’usage que nous ferons de ces représentations par la suite.

On rappelle auparavant [31, III.5.10.2] que toute \overline{𝔽}_{ℓ}-représentation cuspidale π admet un relèvement π̃ à \overline{ℚ}_{ℓ}, c’est-à-dire une \overline{ℚ}_{ℓ}-représentation contenant un \overline{ℤ}_{ℓ}G-sous-module de type fini ω générateur, dont la réduction ω ⊗_{\overline{ℤ}_{ℓ}} \overline{𝔽}_{ℓ} est isomorphe à π.

Proposition.– Soient π et π̃ comme ci-dessus. La représentation δ_{r}(π̃) est entière. Sa réduction r_{ℓ}(δ_{r}(π̃)) est irréductible, satisfait les propriétés m1) et m2) ci-dessus, et est indépendante, à isomorphisme près, du choix de π̃.

Preuve. La représentation δ_{r}(π̃) est entière, comme toute représentation dont le support cuspidal est formé de représentations entières, cf. [31, II.4.14]. La propriété m2) de δ_{r}(π̃) et la compatibilité des dérivées (exactes) à la réduction mod ℓ impliquent que Λ(δ_{r}(π)) = {(d, ⋯, d)}. Comme on a aussi m_{δ_{r}(π),(d,···,d)} = 1, il s’ensuit que r_{ℓ}(δ_{r}(π̃)) est irréductible (et même sa restriction au sous-groupe mirabolique est irréductible). Elle vérifie bien m2), et vérifie aussi m1) par compatibilité des foncteurs de Jacquet (exacts) avec la réduction modulo ℓ. Il reste à voir que r_{ℓ}(δ_{r}(π̃)) est indépendante des choix.

Choisissons un \overline{𝔽}_{ℓ}-type simple (J^{∘}, λ) contenu dans l’induite π × ⋯ × πν^{r−1}, cf. [31, Lemme 5.12] où la notation (J_{m}^{∘}, λ_{m}) est utilisée. On sait [31, III.4.20, 4.29] qu’il existe un relèvement λ̃ de λ à \overline{ℚ}_{ℓ} tel que le \overline{ℚ}_{ℓ}-type simple (J^{∘}, λ̃) soit contenu dans π̃ × ⋯ × π̃ν^{r−1}. Fixons un \overline{ℤ}_{ℓ}-réseau stable λ_{\overline{ℤ}_{ℓ}} dans λ̃, et notons H(G, λ_{\overline{ℤ}_{ℓ}}) son algèbre de Hecke. Dans [31, III.5.6-5.7] est construite une famille d’isomorphismes “canoniques” H_{\overline{ℤ}_{ℓ}}(𝔖̃_{r}, q′) \underrightarrow{∼} H(G, λ_{\overline{ℤ}_{ℓ}}) (2.2.3.1)

depuis l’algèbre de Hecke affine étendue de type Ã_{r−1} spécialisée en une certaine puissance q′ de q. Ces isomorphismes sont des versions entières de ceux de Bushnell-Kutzko [6, (5.6.6)]. Rappelons que l’on a une décomposition en produit tensoriel de \overline{ℤ}_{ℓ}-modules

H_{\overline{ℤ}_{ℓ}}(𝔖̃_{r}, q′) = H_{\overline{ℤ}_{ℓ}}(𝔖_{r}, q′) ⊗_{\overline{ℤ}_{ℓ}} \overline{ℤ}_{ℓ}[X_{1}^{±1}, ⋯, X_{r}^{±1}] =: H^{0} ⊗_{\overline{ℤ}_{ℓ}} A

où H^{0} est la sous-algèbre de Hecke de type A_{r−1} et A est une sous-algèbre commutative.

La théorie de Bushnell et Kutzko nous dit que M̃ := Hom_{J^{∘}}(λ̃, δ_{r}(π̃)) est un H(G, λ̃)-module simple [6, Thm. (7.5.7)], et que sa restriction à A est déterminée par r_{P_{d,···,d}}(δ_{r}(π̃)) = π̃ ⊗π̃ν ⊗⋯⊗π̃ν^{r−1} [6, Thms. (7.6.1),(7.6.20)]. En particulier, M̃ est un caractère dont la restriction à A est donnée par X_{i} ↦ q^{i−1}t où t ∈ \overline{ℤ}_{ℓ}^{×} dépend de la normalisation de l’isomorphisme (2.2.3.1). Il s’ensuit que la restriction à H^{0} doit être le caractère “trivial” e_{w} ↦ q^{l(w)} et que la restriction à H(G, λ_{\overline{ℤ}_{ℓ}}) est à valeurs entières.

Par réduction modulo ℓ, on constate que M := Hom_{J^{∘}}(λ, r_{ℓ}(δ_{r}(π̃))) ≠ 0. Il résulte alors de la propriété de “quasi-projectivité” de ind_{J^{∘}}^{G} (λ) que M est un module simple sur H(G, λ) [31, Thm IV.2.5, 3)], donc nécessairement égal à r_{ℓ}(M̃). Ainsi, la restriction de M à A est déterminée par π ⊗ πν ⊗ ⋯ ⊗ πν^{r−1} et sa restriction à H^{0} est le caractère “trivial”. Ceci détermine entièrement M, et à nouveau par [31, Thm IV.2.5, 3)], cela détermine aussi r_{ℓ}(δ_{r}(π̃)) qui est donc bien indépendante de π̃.

Définition.– Nous noterons δ_{r}(π) := r_{ℓ}(δ_{r}(π̃)) “la” représentation donnée par la proposition cidessus. Une telle représentation sera appelée une représentation de Speh ou représentation superSpeh selon que π est cuspidale ou supercuspidale.

Remarque.– Il devrait être possible d’écrire δ_{r}(π) comme image d’un opérateur d’entrelacement “explicite” πν^{r−1} × πν^{r−2} × ⋯ × π ⟶ π × ⋯ × πν^{r−1}. Mais l’auteur n’a pas été capable d’écrire un tel opérateur lorsque les πν^{i} ne sont pas deux à deux distincts. La définition ci-dessus a l’inconvénient minime de ne définir en fait qu’une classe d’isomorphisme de représentations irréductibles. Cependant, on peut aussi définir δ_{r}(π) comme “unique sous-représentation irréductible de π × πν ⋯ × πν^{r−1} vérifiant une certaine condition”. Pour exprimer la condition, on utilise un foncteur κ_{max} convenable, comme dans [20, Sec. 5] et [18]. Un tel foncteur est exact, à valeurs dans les représentations d’un GL_{d′}(k′) avec k′ fini. La condition est alors que κ_{max}(δ_{r}(π)) contient (et même est égal à) la sous-représentation définie explicitement par James comme image d’un opérateur d’entrelacement explicite, cf. [31, III.2.4] où cette représentation est notée S(σ, (m)).

Notons que la représentation δ_{r}(π) vérifie bien les propriétés m1) et m2) ci-dessus, mais n’est généralement caractérisée par aucune des deux. Cependant, une fois prouvé le théorème de classification ci-dessous, il apparaît que ces deux conditions caractérisent δ_{r}(π). Par ailleurs, on vérifie aisément que la d-ème dérivée est donnée par δ_{r}(π)^{(d)} ≃ δ_{r−1}(π) et que m_{δ_{r}(π),λ_{δr (π)}} = 1.

(2.2.4) Réduction et relèvements. Nous adoptons et extrapolons la terminologie de Vignéras. Nous dirons qu’une \overline{ℚ}_{ℓ}-représentation est

– ℓ-entière si elle admet un réseau stable comme dans [31, II.4].

– ℓ-irréductible si elle est ℓ-entière et si la réduction de tout réseau stable est irréductible.

– ℓ-supercuspidale si elle est ℓ-irréductible et de réduction supercuspidale.

– ℓ-superSpeh si elle est ℓ-irréductible de réduction superSpeh.

– congrue à une autre représentation (modulo ℓ), si les deux représentations sont ℓ-entières et leurs réductions semi-simplifiées sont isomorphes.

– strictement congrue à une autre représentation, si elle lui est congrue et si leurs caractères centraux

coïncident sur la matrice diagonale ϖ.I_{d}, où I_{d} désigne la matrice identité de taille d. Concernant les représentations supercuspidales, on sait que :

i) Une \overline{𝔽}_{ℓ}-représentation cuspidale se relève à \overline{ℚ}_{ℓ} et tout relèvement est supercuspidal, [31, III.5.10.2)].

ii) Une \overline{ℚ}_{ℓ}-représentation supercuspidale π est ℓ-entière si et seulement si son caractère central est ℓ-entier. Dans ce cas, π est ℓ-irréductible, [31, III.1.1.d)], et on a les propriétés suivantes, [28, 2.3] :

(a) le nombre m(π) de représentations strictement congrues à π est inférieur à la plus grande puissance de ℓ divisant le nombre a(π) := \frac{d}{t(π)}(q^{t(π)} − 1) dans lequel t(π) désigne le nombre de

caractères non ramifiés ψ : K^{×} ⟶ \overline{ℚ}_{ℓ}^{×} tels que π ≃ π ⊗ (ψ ∘ det).

(b) π est ℓ-supercuspidale si et seulement si l’inégalité précédente est une égalité.

Lemme.– Toutes les propriétés précédentes sont vraies en remplaçant partout (super)cuspidale par (super)Speh.

Preuve. i) Par définition, une représentation de Speh se relève, cf. proposition (2.2.3). Vérifions que ses relèvements sont tous des représentations de Speh. Soit δ̃ un relèvement de δ = δ_{r}(π). Posant d′ = d/r, on voit que r_{P_{d′,···,d′}} (δ̃) est un relèvement de π ⊗ πν ⊗ ⋯ ⊗ πν^{r−1}. Or, par exactitude des dérivées, on a Λ(δ̃) = Λ(π) = {(d′, d′, ⋯, d′)}. Le paramètre de Zelevinsky de δ̃ est donc un segment, donc σ est une représentation de Speh.

ii) Pour le préambule de la propriété ii), partons de δ = δ_{r}(π) une \overline{ℚ}_{ℓ}-représentation de Speh. On sait qu’elle est ℓ-entière si et seulement si son support cuspidal l’est donc si et seulement si π est ℓ-entière. On vérifie aisément que cela équivaut à ce que son caractère central soit ℓ-entier. Dans ce cas, d’après la proposition (2.2.3), sa réduction est irréductible, égale par définition à δ_{r}(\overline{π}) où \overline{π} est la réduction de π.

Passons aux propriétés ii)(a) et ii)(b). Gardons les notations ci-dessus, et soit δ′ une représentation ℓentière de même réduction que δ. Par le point i), il existe une \overline{ℚ}_{ℓ}-représentation π′ cuspidale entière de G_{d/r} telle que δ′ = δ_{r}(π′). Par la propriété m1) d’une représentation de Speh, π′ est uniquement déterminée par δ′ et est congrue à π. On obtient de la sorte une injection de l’ensemble des représentations congrues à δ dans celui des représentations congrues à π. D’après la proposition (2.2.3), c’est même une bijection. Par l’égalité δ(ϖI_{d}) = π(ϖI_{d′})^{r}q^{−d′r(r−1)/2}, on en déduit une bijection entre l’ensemble des représentations strictement congrues à δ et l’ensemble des représentations π′ congrues à π vérifiant π(ϖI_{d})^{r} = π′(ϖI_{d})^{r}. Notons que cette dernière condition, jointe à la congruence π(ϖI_{d}) ≡ π′(ϖI_{d})[ℓ] équivaut à la condition π(ϖI_{d})^{ℓ^{val_{ℓ}(r)}} = π′(ϖI_{d})^{ℓ^{val_{ℓ}(r)}}. Il s’ensuit que m(δ) = ℓ^{val_{ℓ}(r)}.m(π).

Par ailleurs, comme δ_{r}(π ⊗ (ψ ∘ det)) = δ_{r}(π) ⊗ (ψ ∘ det), on a t(δ) = t(π).

Notons [n]_{ℓ} := ℓ^{val_{ℓ}(n)} la plus grande puissance de ℓ divisant l’entier n. On a obtenu l’inégalité

m(δ)) = [r]_{ℓ}m(π) ⩽ [r]_{ℓ} [\frac{d′}{t(π)}(q^{t(π)} − 1)]_{ℓ} = [\frac{d}{t(δ)}(q^{t(δ)} − 1)]_{ℓ}

avec égalité si et seulement si π est ℓ-supercuspidale, donc si et seulement si δ est ℓ-superSpeh.

(2.2.5) Classification. Un multi-C-segment (super)cuspidal est un multi-ensemble de C-segments (super)cuspidaux, i.e. un ensemble de C-segments avec multiplicités, ou en termes plus rigoureux, un élément du monoïde libre de base l’ensemble des C-segments au sens ci-dessus. Soit a = {(π_{i}, r_{i}), i = 1, ⋯, t} un multi-segment supercuspidal, où π_{i} est une supercuspidale de G_{d_{i}}. Il détermine une partition λ_{a} = (d_{1}^{(r_{1})} + ⋯ + d_{t}^{(r_{t})}) de l’entier d(a) := r_{1}d_{1} + ⋯ + r_{t}d_{t}, que nous appellerons “longueur” de a .

Notons π(a) := δ_{r_{1}}(π_{1})×⋯×δ_{r_{t}}(π_{t}), qui est une représentation de G_{d(a)}, induite depuis le parabolique standard associée à la partition transposée de λ_{a}. L’ensemble Λ(π(a)) a pour plus grand élément λ_{a} et on a m_{π(a),λ_{a}} = 1. Par conséquent la représentation π(a) possède un unique sous-quotient irréductible ⟨a⟩ tel que λ_{⟨a⟩} = λ_{a}.

Le théorème de classification affirme que

l’application a ↦ ⟨a⟩ induit une bijection de l’ensemble des multi-C-segments supercuspidaux de longueur d sur l’ensemble Irr_{C} (G_{d}).

Lorsque C = \overline{ℚ}_{ℓ}, c’est[32, (6.1).d)], et lorsque C = \overline{𝔽}_{ℓ}, c’est [26, V.12] ou [18]. Notons que la définition originale de a et π(a) dans [32, Thm (6.1).a)] coincide bien avec celle ci-dessus en vertu de [32, Thm (8.1)].

(2.2.6) Proposition.– Soit G = GL_{d}(K) et C = \overline{𝔽}_{ℓ} ou \overline{ℚ}_{ℓ}. Notons R_{I}(G, C) le sous-groupe de R(G, C) engendré par les représentations induites paraboliques propres et R_{Δ}(G, C) celui engendré par les représentations superSpeh. On a une décomposition

R(G, C) = R_{I}(G, C) ⊕ R_{Δ}(G, C).

Preuve. Pour une partition λ de n, notons R(G, C)_{⩽λ} le sous-groupe de R(G, C) engendré par les classes de représentations irréductibles π telles que λ_{π} ⩽ λ. Soit π une telle représentation et a le multisegment associée par le théorème de classification rappelé ci-dessus. On a donc π = ⟨a⟩. Si π n’est pas superSpeh, alors la représentation π(a) est induite parabolique propre, et par construction on a

[π] = [⟨a⟩] ∈ [π(a)] + ∑_{λ′<λ} R(G, C)_{⩽λ′}.

On en déduit que

R(G, C)_{⩽λ} ⊂ R_{Δ}(G, C) + R_{I}(G, C) + ∑_{λ′<λ} R(G, C)_{⩽λ′}.

Puisque R(G, λ)_{⩽1^{(d)}} ⊂ R_{Δ}(G, λ), et puisque l’ensemble des partitions est fini, il vient par récurrence l’égalité R(G, C) = R_{I}(G, C) + R_{Δ}(G, C). (2.2.6.1)

Reste à voir que R_{I}(G, C)∩R_{Δ}(G, C) = {0}. Pour cela, il suffit de voir que R_{I}(G, C) est engendré par les représentations π(a) associées aux multisegments a contenant au moins deux segments. Or, par récurrence sur d, l’égalité (2.2.6.1) implique la suivante

R_{I}(G, C) = ∑_{M<G} i_{M}^{G}(R_{Δ}(M, C)).

Ici, M décrit les sous-groupes de Levi diagonaux par blocs et i_{M}^{G} désigne l’induction parabolique normalisée le long du parabolique supérieur. Mais si δ = δ_{1} ⊗ ⋯ ⊗ δ_{r} est une représentation superSpeh de M = G_{d_{1}} × ⋯ × G_{d_{r}}, avec δ_{i} = δ_{r_{i}}(π_{i}), alors [i_{M}^{G}(δ)] = [π(a)] pour a = {(π_{i}, r_{i}), i = 1, ⋯, r}.

(2.2.7) Corollaire.– Pour le groupe G = GL_{d}(K), le morphisme de réduction de Brauer-Nesbitt r_{ℓ} : R_{ℓ′}^{ent}(G, \overline{ℚ}_{ℓ}) ⟶ R(G, \overline{𝔽}_{ℓ}) est surjectif.

Preuve. Comme l’induction parabolique commute à r_{ℓ}, une récurrence sur d nous ramène à prouver que R_{Δ}(G, \overline{𝔽}_{ℓ}) est dans l’image de r_{ℓ}, ce qui découle de la définition (2.2.3) des représentations superSpeh..

2.3 Représentations de D^{×}

Ici D désigne une algèbre à division de centre K et de dimension d^{2}. Le groupe D^{×} étant compact modulo son centre, certaines propriétés des groupes finis s’y étendent facilement.

(2.3.1) Proposition.– i) L’homomorphisme θ̃: R(D^{×}, \overline{𝔽}_{ℓ}) ⟶ C^{∞}(D^{ell}, \overline{ℤ}_{ℓ})^{D^{×}} est injectif.

ii) Toute \overline{𝔽}_{ℓ}-représentation irréductible se relève à \overline{ℚ}_{ℓ}. En particulier, l’homorphisme de réduction r_{ℓ} : R(D^{×}, \overline{ℚ}_{ℓ}) ⟶ R(D^{×}, \overline{𝔽}_{ℓ}) est surjectif.

Preuve. i) Soit x ∈ ker (θ̃). Comme les \overline{𝔽}_{ℓ}-représentations lisses irréductibles de D^{×} sont d’image finie, l’élément x est l’inflation d’une représentation virtuelle y d’un quotient fini D^{×}/H de D^{×} par un pro-p-groupe. Les éléments elliptiques étant denses dans D^{×}, la projection induit une surjection de D_{ℓ′}^{ell} sur l’ensemble des éléments d’ordre premier à ℓ de D^{×}/H. Ainsi le caractère de Brauer (usuel) de y est nul, et par conséquent y = 0 (voir par exemple [7, Cor. (17.10)]). Donc x = 0 aussi.

ii) C’est le théorème de Fong-Swan appliqué aux quotients finis de D^{×}, lesquels sont tous résolubles.

Dans la proposition ci-dessous, on utilise la même terminologie que celle du paragraphe (2.2.4), sauf les notions de ℓ-supercuspidales et ℓ-superSpeh, qui n’ont guère d’intérêt ici. En particulier, on sait que ρ ∈ Irr_{\overline{ℚ}_{ℓ}} (D^{×}) est ℓ-entière si et seulement si son caractère central l’est, et dans ce cas, on note

– t(ρ) le nombre de caractères ψ : K^{×} ⟶ \overline{ℚ}_{ℓ}^{×} tels que ρ ≃ ρ ⊗ (ψ ∘ Nrd).

– m(ρ) le nombre de représentations irréductibles qui sont strictement congrues à ρ.

– a(ρ) := \frac{d}{t(ρ)}(q^{t(ρ)} − 1).

(2.3.2) Proposition.– Soit ρ ∈ Irr_{\overline{ℚ}_{ℓ}} (D^{×}) ℓ-entière. Alors m(ρ) est inférieur à la plus grande puissance de ℓ qui divise a(ρ), et lui est égal si et seulement si ρ est ℓ-irréductible.

Preuve. Nous adaptons à D^{×} les arguments de Vignéras pour les représentations du groupe de Weil de K. On peut supposer, quitte à tordre par un caractère non ramifié, que le caractère central de ρ est trivial sur l’uniformisante ϖ, i.e. que ρ est une représentation de D^{×}/ϖ^{ℤ}. Soit P_{D} le radical de O_{D}. On a une filtration

1 + P_{D} ⊂ O_{D}^{×} ⊂ D^{×}/ϖ^{ℤ}

de quotients successifs isomorphes à 𝔽_{q^{d}}^{×} et ℤ/dℤ, l’action de ce dernier sur le précédent étant donnée par le Frobenius.

Soit τ un facteur irréductible de ρ_{|1+P_{D}} et N_{τ} le normalisateur de la classe d’isomorphisme de τ dans D^{×}/ϖ^{ℤ}. Comme 1 + P_{D} est un pro-p-groupe, la dimension de τ est une puissance de p. Comme un p-Sylow de N_{τ} /(1 + P_{D}) est cyclique l’argument de [24, Lemme 1.19] montre que τ admet un prolongement τ̃ à N_{τ}. Soit alors ξ une sous-représentation irréductible de N_{τ} agissant sur Hom_{1+P_{D}}(τ̃, ρ). Comme l’ensemble d’entrelacement I_{τ̃⊗ξ} de τ̃ ⊗ ξ est égal à N_{τ}, l’homorphisme τ̃ ⊗ ξ ⟶ ρ induit par adjonction un isomorphisme ind_{N_{τ}}^{D^{×}/ϖ^{ℤ}} (τ̃ ⊗ ξ) \underrightarrow{∼} ρ. La représentation ξ est de la forme ξ ≃ ind_{J}^{N_{τ}} (χ) pour un groupe J contenant N_{τ} ∩ O_{D}^{×} et un caractère χ de J trivial sur 1 + P_{D}. On peut alors écrire

ρ = ind_{J}^{D^{×}/ϖ^{ℤ}} (τ̃_{|J} ⊗ χ) .

L’ensemble d’entrelacement de τ̃_{|J} ⊗ χ est I_{τ̃⊗χ̃} = N_{τ} ∩ N_{χ}, où N_{χ} désigne le normalisateur de χ. On a donc N_{τ} ∩ N_{χ} = J par irréductibilité de ρ.

Calculons maintenant l’entier t(ρ). Soit ψ un caractère de D^{×}/ϖ^{ℤ}O_{D}^{×}. La représentation ρψ est isomorphe à ρ si et seulement si il existe x ∈ N_{τ} tel que ψ_{|J}χ = χ^{x}. Pour un tel x, il faut alors que χ^{−1}χ^{x} soit trivial sur J ∩O_{D}^{×} = N_{τ} ∩O_{D}^{×}. En identifiant J/(1+P_{D}) au sous-groupe (N_{τ} ∩O_{D}^{×})/(1+P_{D})⋊J/(N_{τ} ∩O_{D}^{×}) du groupe N_{τ} /(1 + P_{D}) ≃ (N_{τ} ∩ O_{D}^{×})/(1 + P_{D}) ⋊ N_{τ} /(N_{τ} ∩ O_{D}^{×}), et en notant que (N_{τ} ∩ O_{D}^{×}) est abélien, on constate que χ^{x}χ^{−1} est alors trivial sur J tout entier, et donc que x ∈ J. Il s’ensuit que

t(ρ) = [D^{×}/ϖ^{ℤ} : O_{D}^{×}J].

Analysons maintenant la réduction r_{ℓ}(ρ). Elle est de la forme ind_{J}^{D^{×}/ϖ^{ℤ}} (r_{ℓ}(τ̃_{|J}) ⊗ r_{ℓ}(χ)). Commet τ est une représentation irréductible du pro-p-groupe 1 + P_{D}, la représentation r_{ℓ}(τ̃_{|J}) est irréductible, et son normalisateur est encore N_{τ}. On en déduit que la longueur de r_{ℓ}(ρ) est égale à [N_{τ} ∩ N_{r_{ℓ}(χ)} : J]. En particulier :

ρ est ℓ-irréductible si et seulement si N_{τ} ∩ N_{r_{ℓ}(χ)} = J.

Soit maintenant ρ′ une représention congrue à ρ. Comme elle contient τ, on peut la mettre sous la forme ρ′ = ind_{J′}^{D^{×}/ϖ^{ℤ}} (τ̃_{|J′} ⊗ χ̃′). Comme ρ′ a la même dimension que ρ, J′ a le même indice que J dans N_{τ}, et puisqu’il contient N_{τ} ∩ O_{D}^{×} et que le quotient N_{τ} /(N_{τ} ∩ O_{D}^{×}) est cyclique, on a J = J′. Il s’ensuit que r_{ℓ}(χ′) et r_{ℓ}(χ) sont conjugués sous N_{τ}. On en déduit une bijection entre l’ensemble des ρ′ congrues à ρ et l’ensemble des χ′ congrus à χ modulo conjugaison par N_{τ} ∩ N_{r_{ℓ}(χ)}. En particulier on a

m(ρ) ⩽ m(χ) avec égalité si et seulement si N_{τ} ∩ N_{r_{ℓ}(χ)} = J.

Reste à calculer le nombre m(χ) de caractères de JO_{D}^{×} congrus à χ. Il est clair que c’est la plus grande puissance de ℓ divisant l’ordre de l’abélianisé de J/(1+P_{D}). Pour calculer cet ordre, nous pouvons utiliser la construction explicite de Broussous : nous pouvons supposer que (J, τ̃_{|J} ⊗χ) est de la forme [5, (10.1.4)]. Par construction, il existe des entiers f′, d′ et e′ de produit égal à d tels que

J/(1 + P_{D}) = 𝔽_{q^{f′d′}}^{×} ⋊ mℤ/e′d′ℤ, (2.3.2.2)

où le générateur de ℤ/e′d′ℤ agit par le Frobenius relatif à 𝔽_{q^{f′}}. Avec les notations de loc. cit, f′ est le degré résiduel de l’extension F [β], e′ est son indice de ramification, et (d′)^{2} est la dimension sur F [β] du commutant B de F [β] dans D (une algèbre à division de centre F [β]). L’entier m est celui de la définition [5, (10.1.4)]. C’est un diviseur de d′ qui satisfait la relation

f′m = [D^{×}/ϖ^{ℤ}O_{D}^{×}J] = t(ρ).

Maintenant l’abélianisé de J/(1 + P_{D}) s’identifie à 𝔽_{q^{f′m}}^{×} × mℤ/e′d′ℤ (le morphisme quotient étant induit

par la norme). Par les égalités précédentes, son ordre est bien (q^{t(ρ)} − 1)d/t(ρ).

À partir de 2.3.2.2, la discussion de [24] pages 423 et 424 fournit l’analogue suivant de [24, 1.20].

(2.3.3) Proposition.– Soit ρ une \overline{ℚ}_{ℓ}-représentation irréductible ℓ-entière de D^{×}. Il existe une \overline{𝔽}_{ℓ}- représentation irréductible ρ̄ de D^{×} et un entier r tels que

r_{ℓ}([ρ]) = [ρ̄] + [ρ̄ν] + ⋯ + [ρ̄ν^{r−1}]

où ν désigne le caractère g ↦ q^{val∘Nrd(g)}.

3 Correspondances ℓ-modulaires

Nous reprenons les notations de l’introduction. En particulier G désigne le groupe GL_{d}(K) et D une algèbre à division de centre K et de dimension d^{2}.

3.1 Preuve des énoncés principaux

(3.1.1) Langlands-Jacquet classique et intégralité. On rappelle que LJ_{\overline{ℚ}_{ℓ}} est l’unique flèche rendant commutatif le diagramme suivant

\xymatrix{C^{∞}(G^{ell}, \overline{ℚ}_{ℓ})^{G} \ar[r]^{∼} & C^{∞}(D^{ell}, \overline{ℚ}_{ℓ})^{D^{×}} \\ R(G, \overline{ℚ}_{ℓ}) \ar[u]^{θ^{G}} \ar@{.>}[r]_{LJ_{\overline{ℚ}ℓ}} & R(D^{×}, \overline{ℚ}_{ℓ}) \ar[u]_{θ^{D×}}} (3.1.1.1)

et que cette flèche envoie une irréductible π sur 0 ou sur ±[ρ] pour une irréductible ρ de D^{×}. Identifions les deux centres Z(G) et Z(D^{×}) à K^{×}. Comme leur action à droite (ou à gauche) préserve les lieux elliptiques respectifs, on voit que π et ρ ont des caractères centraux égaux. Or, si π est ℓ-entière, en particulier son caractère central est à valeurs dans \overline{ℤ}_{ℓ}. Comme une représentation irréductible de D^{×} est entière si et seulement si son caractère central l’est, il s’ensuit que LJ_{\overline{ℚ}_{ℓ}} envoie R^{ent}(G, \overline{ℚ}_{ℓ}) dans R^{ent}(D^{×}, \overline{ℚ}_{ℓ}).

(3.1.2) Preuve du théorème (1.2.3). Montrons l’existence d’un unique morphisme LJ_{\overline{𝔽}_{ℓ}} rendant commutatif le second diagramme de l’énoncé du théorème. L’unicité résulte de la surjectivité de r_{ℓ}^{G} du corollaire (2.2.7). Pour l’existence, toujours grâce à cette surjectivité, il suffit de prouver que ker (r_{ℓ}^{G}) ⊂ ker (r_{ℓ}^{D} ∘ LJ_{\overline{ℚ}_{ℓ}}). Soit donc x ∈ ker (r_{ℓ}^{G}). D’après le second diagramme de la proposition (2.1.6), on a θ_{x}_{|G_{ℓ′}^{ell}} ≡ 0. On en déduit que θ̃_{r_{ℓ}^{D^{×}} (LJ_{\overline{ℚ}_{ℓ}} (x))} = θ_{LJ_{\overline{ℚ}_{ℓ}} (x)}_{|D_{ℓ′}^{ell}} ≡ 0. D’après le i) de la proposition (2.3.1) on a

bien r_{ℓ}^{D^{×}}(LJ_{\overline{ℚ}_{ℓ}}(x)) = 0.

La commutativité du premier diagramme de l’énoncé du théorème découle maintenant de celle du diagramme (3.1.1.1) et de celle du second diagramme de la proposition (2.1.6). Enfin, le fait que ce premier diagramme suffise à caractériser LJ_{\overline{𝔽}_{ℓ}} provient à nouveau de l’injectivité de θ̃^{D^{×}}. □

(3.1.3) Jacquet-Langlands classique et réduction mod ℓ. Les propriétés caractéristiques de l’application JL_{\overline{ℚ}_{ℓ}} : Irr_{\overline{ℚ}_{ℓ}} (D^{×}) ⟶ Irr_{\overline{ℚ}_{ℓ}} (G) rappelées au paragraphe (1.1.3) font de son prolongement par linéarité, que nous noterons encore JL_{\overline{ℚ}_{ℓ}}, une section remarquable de LJ_{\overline{ℚ}_{ℓ}}. Comme les \overline{ℚ}_{ℓ}-représentations irréductibles de la “série discrète” de G – i.e. les représentations de Steinberg généralisées – sont ℓ-entières si et seulement si leur caractère central l’est, on voit que l’application JL_{\overline{ℚ}_{ℓ}} envoie une représentation entière sur une représentation entière. Par contre, l’exemple suivant montre que la section JL_{\overline{ℚ}_{ℓ}} de LJ_{\overline{ℚ}_{ℓ}} n’est pas compatible à la réduction modulo ℓ.

Exemple.– Soit K = ℚ_{5}, ℓ = 3 et d = 2, et soit χ : 𝔽_{5^{2}}^{×} ⟶ \overline{ℚ}_{3}^{×} un caractère d’ordre 3. Il se prolonge à un caractère de O_{D}^{×}Z(D^{×}) qui par induction fournit une \overline{ℚ}_{3}-représentation irréductible ρ de dimension 2 de D^{×}. Cette représentation est évidemment congrue modulo 3 à l’induite du caractère trivial, laquelle se décompose en la somme directe du caractère trivial 1 et du caractère “signe” ε de D^{×}. Or on a

JL_{\overline{ℚ}_{ℓ}}([ρ] − [1] − [ε]) = [π] − [St] − [ε ⊗ St]

où St désigne la représentation de Steinberg et π désigne une représentation supercuspidale de réduction unipotente, cf [31, Ex. II.11.1]. La réduction modulo ℓ du terme de droite est égale à −[Ind_{B}^{G}(1)] et n’est donc pas nulle.

Dans ce même exemple, on voit qu’il n’existe pas de section de LJ_{\overline{𝔽}_{ℓ}} envoyant les irréductibles sur des irréductibles. En effet, la seule représentation π ∈ Irr_{\overline{𝔽}_{ℓ}} (G) telle que LJ_{\overline{𝔽}_{ℓ}}[π] = ±[1_{D^{×}}] est la représentation triviale π = 1_{G}. Or on a LJ_{\overline{𝔽}_{ℓ}}[1_{G}] = −[1_{D^{×}}]. Le théorème suivant permet néanmoins d’exhiber en toute généralité une section de LJ_{\overline{𝔽}_{ℓ}} envoyant les irréductibles sur des irréductibles au signe près.

(3.1.4) Théorème.– L’homomorphisme LJ_{\overline{𝔽}_{ℓ}} est surjectif, et son noyau est R_{I}(G, \overline{𝔽}_{ℓ}). Il envoie la classe d’une représentation superSpeh de G sur celle d’une irréductible de D^{×} au signe près, induisant une bijection

\{\overline{𝔽}_{ℓ}-représentations superSpeh de G\} \underrightarrow{∼} \{\overline{𝔽}_{ℓ}-représentations irréductibles de D^{×}\}.

Notons que la surjectivité de LJ_{\overline{𝔽}_{ℓ}} découle de celle de LJ_{\overline{ℚ}_{ℓ}} et du point ii) de la proposition (2.3.1). On a aussi déjà remarqué que R_{I}(G, \overline{𝔽}_{ℓ}) est inclus dans le noyau de LJ_{\overline{ℚ}_{ℓ}}. La proposition suivante est une étape importante de la preuve du théorème.

(3.1.5) Proposition.– Soit π une \overline{ℚ}_{ℓ}-représentation superSpeh ℓ-entière de G. Notons ρ := |LJ_{\overline{ℚ}_{ℓ}}(π)| sa correspondante dans Irr_{\overline{ℚ}_{ℓ}} (D^{×}). Alors π est ℓ-superSpeh si et seulement si ρ est ℓ-irréductible.

Preuve. La preuve est très clairement inspirée de celle du lemme 2.3.a) de [27]. En effet, si π′ est congrue à π, et si ρ′ désigne sa correspondante, alors le deuxième diagramme du théorème (1.2.3) montre que ρ′ est congrue à ρ. Utilisant les notations du paragraphe (2.2.4), on en déduit l’inégalité m(π) ⩽ m(ρ). Par ailleurs, la correspondance de Jacquet-Langlands étant compatible à la torsion par les caractères, on a t(π) = t(ρ) et donc a(π) = a(ρ).

Supposons alors que π est ℓ-supercuspidale. D’après le lemme (2.2.4), on a m(π) = ℓ^{val_{ℓ}(a(π))}. Grâce à la proposition (2.3.2), on en déduit que m(ρ) = ℓ^{val_{ℓ}(a(ρ))}, puis que ρ est ℓ-irréductible.

Il s’ensuit que LJ_{\overline{𝔽}_{ℓ}} envoie les superSpeh sur des irréductibles de D^{×}. Par ailleurs on sait que la restriction de LJ_{\overline{𝔽}_{ℓ}} à R_{Δ}(G, \overline{𝔽}_{ℓ}) est surjective, puisque LJ_{\overline{𝔽}_{ℓ}} est surjective et nulle sur R_{I}(G, Δ). On en déduit que l’application

(3.1.5.1) \{\overline{𝔽}_{ℓ}-repr. superSpeh de G\} ⟶^{|LJ_{\overline{𝔽}_{ℓ}} |} \{\overline{𝔽}_{ℓ}-repr. irréductibles de D^{×}\}

est surjective.

Revenons maintenant à la représentation π de l’énoncé et supposons que ρ est ℓ-irréductible. De ce qui précède, on déduit que π est congrue à une représentation ℓ-superSpeh. La caractérisation du lemme (2.2.4) montre alors que π elle-même est ℓ-superSpeh.

Fin de la preuve du théorème (3.1.4). Vue la preuve de la proposition précédente, il reste à établir l’injectivité de (3.1.5.1). Cela revient à montrer que deux \overline{ℚ}_{ℓ}-représentations ℓ-superSpeh dont les correspondantes ρ et ρ′ sont congrues, sont elle même congrues. Mais cela découle à nouveau des critères du lemme (2.2.4) et de la proposition (2.3.2).

Avant de passer à la preuve du théorème (1.2.4), signalons les deux corollaires suivants du théorème (3.1.4), qui ne concernent que le groupe G, mais que l’auteur ne sait pas prouver directement.

(3.1.6) Corollaire.– Le noyau de la restriction θ̃_{|G_{ℓ′}^{ell}} : R(G, \overline{𝔽}_{ℓ}) ⟶ C^{∞}(G_{ℓ′}^{ell}, \overline{ℤ}_{ℓ})^{G} du caractère de

Brauer θ̃ aux éléments elliptiques (d’ordre premier à ℓ) est exactement R_{I}(G, \overline{𝔽}_{ℓ}).

(3.1.7) Corollaire.– La question (2.1.9) ii) a une réponse affirmative pour G = GL_{d}(K).

(3.1.8) Preuve du théorème (1.2.4). Notons^{z}JL_{\overline{𝔽}_{ℓ}} l’inverse de la bijection du théorème (3.1.4). D’après ce théorème, ^{z}JL_{\overline{𝔽}_{ℓ}} vérifie bien les deux propriétés annoncées dans l’énoncé du théorème (1.2.4), et est uniquement déterminée par ces propriétés.

Le reste de l’énoncé du théorème (1.2.4) découle du diagramme suivant.

[figure: \{\overline{ℚ}_{ℓ}-repr. irréductibles de D^{×}\}; Z_{\overline{ℚ}ℓ} ∘JL_{\overline{ℚ}ℓ}; ∼; \{\overline{ℚ}_{ℓ}-repr. de Speh de G\}; \{\overline{ℚ}_{ℓ}-repr. ℓ-irréductibles de D^{×}\}; r_{ℓ}; Z_{\overline{ℚ}ℓ} ∘JL_{\overline{ℚ}ℓ}; ∼; \{\overline{ℚ}_{ℓ}-repr. ℓ-superSpeh de G\}; r_{ℓ}; \{\overline{𝔽}_{ℓ}-repr. irréductibles de D^{×}\}; zJL_{\overline{ℚ}ℓ}; ∼; \{\overline{𝔽}_{ℓ}-repr. superSpeh de G\}]

Dans ce diagramme, la bijection du haut vient simplement de ce que l’involution Z_{\overline{ℚ}_{ℓ}} induit une bijection entre séries discrètes et représentations de Speh. L’inverse de la bijection du haut est donnée par |LJ_{\overline{ℚ}_{ℓ}}|. Le fait que cette bijection induise la bijection du milieu découle alors de la proposition (3.1.5). La commutativité du carré du bas provient enfin de la définition de ^{z}JL_{\overline{𝔽}_{ℓ}} comme inverse de |JL_{\overline{𝔽}_{ℓ}}|, laquelle est induite par |LJ_{\overline{ℚ}_{ℓ}}| via la réduction modulo ℓ d’après le théorème (1.2.3). □

(3.1.9) Preuve du corollaire (1.2.5). Nous rappelons d’abord l’énoncé de la correspondance de Langlands modulo ℓ pour GL_{d}(K), dû à Vignéras [27, 1.8]. Comme dans le cas ℓ-adique ou complexe, la correspondance est établie en deux temps. D’abord pour les (super)cuspidales, puis pour les autres représentations à partir de la classification. Il s’avère que pour rendre à la correspondance une certaine compatibilité à la réduction modulo ℓ, il faut la composer avec l’involution de Zelevinsky. Notons donc τ_{\overline{ℚ}_{ℓ}}^{G} := σ_{\overline{ℚ}_{ℓ}}^{G} ∘ Z_{\overline{ℚ}_{ℓ}} cette composée et appelons-la “correspondance de Zelevinski sur \overline{ℚ}_{ℓ}”. Rappelons que

son image est l’ensemble Rep_{\overline{ℚ}_{ℓ}}^{d}(W D_{K}) des classes d’isomorphisme de \overline{ℚ}_{ℓ}-représentation de Weil-Deligne τ = (τ^{ss}, N) de dimension d. Une telle représentation est dite entière si sa partie semi-simple l’est. On sait alors que τ_{\overline{ℚ}_{ℓ}}^{G} et σ_{\overline{ℚ}_{ℓ}}^{G} respectent les représentations entières. On dispose d’une application de réduction modulo ℓ

R_{ℓ} : Rep_{\overline{ℚ}_{ℓ}}^{d}(W D_{K})^{ent} ⟶ Rep_{\overline{𝔽}_{ℓ}}^{d}(W D_{K})

qui sur la partie semi-simple est donnée par r_{ℓ}. Cette application est jugée évidente dans [27, 1.8], mais on pourra en trouver une construction dans [8, 4.1.8]. Parallèlement on a une application

J_{ℓ} : Irr_{\overline{ℚ}_{ℓ}} (G_{d}) ⟶ Irr_{\overline{𝔽}_{ℓ}} (G_{d})

qui envoie une représentation ℓ-entière π sur l’unique constituent \overline{π} de r_{ℓ}π qui vérifie λ_{π} = λ\overline{π}. D’après [26, Thm V.12], cette application est surjective. Le théorème principal de [27] dit alors :

Théorème.– Il existe une bijection

τ_{\overline{𝔽}_{ℓ}}^{G} : Irr_{\overline{𝔽}_{ℓ}} (GL_{d}(K)) \underrightarrow{∼} Rep_{\overline{𝔽}_{ℓ}}^{d}(W D_{K})

uniquement déterminée par la propriété τ_{\overline{𝔽}_{ℓ}}^{G} ∘ J_{ℓ} = R_{ℓ} ∘ τ_{\overline{ℚ}_{ℓ}}^{G}.

La correspondance de Langlands-Vignéras est alors définie par σ_{\overline{𝔽}_{ℓ}}^{G} := τ_{\overline{𝔽}_{ℓ}}^{G} ∘ Z_{\overline{𝔽}_{ℓ}}.

Dans l’énoncé du corollaire (1.2.5), nous avons défini σ_{\overline{𝔽}_{ℓ}}^{D} := σ_{\overline{𝔽}_{ℓ}}^{G} ∘JL_{\overline{𝔽}_{ℓ}} = τ_{\overline{𝔽}_{ℓ}}^{G} ∘^{z}JL_{\overline{𝔽}_{ℓ}}. Il s’agit bien d’une

injection Irr_{\overline{𝔽}_{ℓ}} (D^{×}) ↪ Rep_{\overline{𝔽}_{ℓ}}^{d}(W D_{K}). Remarquons que sa définition ne fait intervenir que la restriction de τ_{\overline{𝔽}_{ℓ}}^{G} aux représentations superSpeh. Pour déterminer l’image de σ_{\overline{𝔽}_{ℓ}}^{D}, nous aurons besoin du lemme suivant.

Lemme.– Soit σ = (σ^{ss}, N) une \overline{ℚ}_{ℓ}-représentation de Weil-Deligne entière. On a équivalence entre i) R_{ℓ}(σ) est indécomposable (σ est alors dite ℓ-indécomposable). ii) σ est indécomposable et long(r_{ℓ}(σ^{ss})) = long(σ^{ss}). iii) Il existe une représentation ℓ-irréductible λ de W_{K} telle que σ^{ss} = ⨁_{i=0}^{r−1} λ(−i) et N est donné par la

composée de la projection évidente σ^{ss} ↠ ⨁_{i=1}^{r−1} λ(−i) suivie de l’injection évidente ⨁_{i=1}^{r−1} λ(−i) ↪ σ^{ss}(−1).

iv) (τ_{\overline{ℚ}_{ℓ}}^{G})^{−1}(σ) est une représentation ℓ-superSpeh de G.

Preuve. L’équivalence entre les trois premiers points est laissée au lecteur. Pour y incorporer le point iv), rappelons que τ_{\overline{ℚ}_{ℓ}}^{G} induit une bijection

τ_{\overline{ℚ}_{ℓ}}^{G} : \{\overline{ℚ}_{ℓ}-repr. de Speh de G\} ⟶^{∼} \{\overline{ℚ}_{ℓ}-repr. de dim. d indécomposables de W D_{K}\}.

Compte tenu du lemme (2.2.4) et de la compatibilité de τ_{\overline{ℚ}_{ℓ}}^{G} à la torsion et aux congruences, il nous suffira de prouver le critère numérique de ℓ-indécomposabilité d’une représentation indécomposable σ suivant.

Soit t(σ) le nombre de caractères non ramifiés ψ de W_{K} tels que σψ ≃ σ. Soit m(σ) le nombre de représentations de Weil-Deligne entières σ′ telles que R_{ℓ}(σ) = R_{ℓ}(σ′) et det(σ′(φ)) = det(σ(φ)) où φ est un relèvement de Frobenius fixé. Alors m(σ) est inférieur à la plus grande puissance de ℓ divisant le nombre a(σ) := \frac{d}{t(σ)}(q^{t(σ)} − 1), et lui est égal si et seulement si σ est ℓ-indécomposable.

En effet, écrivons σ^{ss} sous la forme ⨁_{i=0}^{r−1} λ(−i) avec λ irréductible et N comme dans le point iii). On voit que σ est ℓ-indécomposable si et seulement si λ est ℓ-irréductible. D’après [28, 2.3], cela équivaut à m(λ) = ℓ^{val_{ℓ}(a(λ))}, avec des notations similaires à ci-dessus. Or, par un argument similaire à celui du lemme (2.2.4), on vérifie que m(σ) = ℓ^{val_{ℓ}(r)}m(λ) et t(σ) = t(λ), d’où l’on conclut à nouveau comme dans le lemme (2.2.4).

Le lemme justifie le carré commutatif supérieur du diagrammes suivant.

\xymatrix{\{\overline{ℚ}_{ℓ}-repr. de Speh de G\} \ar[r]_{τ_{\overline{ℚ}_{ℓ}}^{G}}^{∼} & \{\overline{ℚ}_{ℓ}-repr. de dim. d indécomposables de W D_{K}\} \\ \{\overline{ℚ}_{ℓ}-repr. ℓ-superSpeh de G\} \ar@{^{(}->}[u] \ar@{->>}[d]_{r_{ℓ}} \ar[r]_{τ_{\overline{ℚ}_{ℓ}}^{G}}^{∼} & \{\overline{ℚ}_{ℓ}-repr. de dim. d, ℓ-indécomposables de W D_{K}\} \ar@{^{(}->}[u] \ar@{->>}[d]_{R_{ℓ}} \\ \{\overline{𝔽}_{ℓ}-repr. superSpeh de G\} \ar[r]_{τ_{\overline{𝔽}_{ℓ}}^{G}}^{∼} & \{\overline{𝔽}_{ℓ}-repr. de dim. d indécomposables de W D_{K}\}}

Le carré inférieur est la traduction du théorème rappelé ci-dessus, puisque pour toute \overline{ℚ}_{ℓ}-représentation de Speh entière δ, on a simplement J_{ℓ}(δ) = r_{ℓ}(δ). Finalement on a identifié l’image de σ_{\overline{𝔽}_{ℓ}}^{D} à Rep_{\overline{𝔽}_{ℓ}}^{d}(W D_{K})^{indec}. La caractérisation en termes de relèvements découle de la caractérisation analogue dans le théorème (1.2.4).

□

3.2 Langlands-Jacquet mod ℓ et effectivité au signe près

Dans cette section, nous étudions la question (1.2.3). Remarquons qu’elle relève purement de la théorie des représentations de G. En effet, soit π ∈ Irr_{\overline{𝔽}_{ℓ}} (G), il s’agit de savoir si la projection de la classe [π] sur R_{Δ}(G, \overline{𝔽}_{ℓ}) modulo R_{I}(G, \overline{𝔽}_{ℓ}) est une combinaison linéaire positive ou négative de représentations superSpeh. En conséquence, il y a “beaucoup” de cas où la question admet presque trivialement une réponse positive. Avant d’exposer ces cas, nous avons besoin d’un raffinement de la proposition (2.2.6).

(3.2.1) Support supercuspidal. Soit π ∈ Irr_{\overline{𝔽}_{ℓ}} (G). On peut trouver un sous-groupe de Levi M = G_{d_{1}} × ⋯ × G_{d_{r}} de G et une représentation supercuspidale τ = τ_{1} ⊗ τ_{2} ⊗ ⋯ ⊗ τ_{r} de M telle que π apparaisse comme sous-quotient de l’induite τ_{1} × τ_{2} × ⋯ × τ_{r}. D’après [26, V.4], cette paire (M, τ) est unique à conjugaison près. La classe de conjugaison de (M, τ) est appelée support supercuspidal de π.

Définissons alors R(G, \overline{𝔽}_{ℓ})_{τ} comme le sous-groupe de R(G, \overline{𝔽}_{ℓ}) engendré par les irréductibles dont le support supercuspidal contient (M, τ), et posons R_{Δ}(G, \overline{𝔽}_{ℓ})_{τ} := R(G, \overline{𝔽}_{ℓ})_{τ} ∩ R_{Δ}(G, \overline{𝔽}_{ℓ}) et de même R_{I}(G, \overline{𝔽}_{ℓ})_{τ} := R(G, \overline{𝔽}_{ℓ})_{τ} ∩ R_{I}(G, \overline{𝔽}_{ℓ}).

Lemme.– On a une décomposition R(G, \overline{𝔽}_{ℓ})_{τ} = R_{Δ}(G, \overline{𝔽}_{ℓ})_{τ} ⊕ R_{I}(G, \overline{𝔽}_{ℓ})_{τ} , où le rang de R_{Δ}(G, \overline{𝔽}_{ℓ})_{τ} est le nombre de représentations supercuspidales τ_{0} de G_{d/r} telles que la paire (M, τ) soit conjuguée à la paire (G_{d/r}^{r}, τ_{0} ⊗ τ_{0}ν ⊗ ⋯ ⊗ τ_{0}ν^{r−1}). Plus précisément, ce nombre est donné comme suit.

i) Si τ est conjuguée à τ_{0}⊗τ_{0}ν ⊗⋯⊗τ_{0}ν^{r−1} pour τ_{0} supercuspidale de G_{d/r}, alors posons r_{0} le cardinal de l’orbite {τ_{0}ν^{i}, i ∈ ℤ}.

(a) Si r_{0} divise r, alors rk(R_{Δ}(G, \overline{𝔽}_{ℓ})_{τ}) = r_{0}.

(b) Si r_{0} ne divise pas r, alors rk(R_{Δ}(G, \overline{𝔽}_{ℓ})_{τ}) = 1.

ii) Sinon, rk(R_{Δ}(G, \overline{𝔽}_{ℓ})_{τ}) = 0.

Preuve. La décomposition se prouve exactement comme celle de la proposition (2.2.6), une fois qu’on a remarqué la conséquence suivante de la propriété d’“unicité” du support supercuspidal : si π apparaît comme sous-quotient d’une représentation i paraboliquement induite d’une représentation irréductible, alors tous les sous-quotients de i ont le même support supercuspidal que π.

Le rang de R_{Δ}(G, \overline{𝔽}_{ℓ})_{τ} est le nombre de représentations superSpeh de support supercuspidal contenant (M, τ). Vue la condition m1) dans la caractérisation des représentations superSpeh au paragraphe (2.2.3), ce nombre est bien celui annoncé dans le lemme. La discussion détaillée est alors élémentaire. Précisons seulement que sous l’hypothèse i)(a), les superSpeh dans R(G, \overline{𝔽}_{ℓ})_{τ} sont exactement

δ_{r}(τ_{0}), δ_{r}(τ_{0}ν) = δ_{r}(τ_{0})ν, ⋯, δ_{r}(τ_{0}ν^{r_{0}−1}) = δ_{r}(τ_{0})ν^{r_{0}−1}. (3.2.1.1)

Par commodité, nous dirons qu’une représentation π ∈ Irr_{\overline{𝔽}_{ℓ}} (G) est elliptique de type (τ_{0}, r) si τ_{0} est une représentation supercuspidale de G_{d/r} et le support supercuspidal de π contient la paire ((G_{d/r})^{r}, τ_{0} ⊗ τ_{0}ν ⊗ ⋯ ⊗ τ_{0}ν^{r−1}).

(3.2.2) Corollaire.– Soit π ∈ Irr_{\overline{𝔽}_{ℓ}} (G).

i) Si π n’est pas elliptique, on a LJ_{\overline{𝔽}_{ℓ}}(π) = 0.

ii) Si π est elliptique de type (τ_{0}, r), alors dans les cas ci-dessous, LJ_{\overline{𝔽}_{ℓ}}(π) est effective au signe près.

(a) Si π se relève à \overline{ℚ}_{ℓ} (exemple : π générique ou de Speh).

(b) Si τ_{0} n’est pas isomorphe à τ_{0}ν^{r}.

(c) Si πν ≃ π.

Preuve. Le cas i) découle du point ii) du lemme. Dans le cas ii)(a), choisissons un relèvement π̃ de π. On a alors LJ_{\overline{𝔽}_{ℓ}}(π) = r_{ℓ}(LJ_{\overline{ℚ}_{ℓ}}(π̃)). Or on sait que LJ_{\overline{ℚ}_{ℓ}}(π̃) est effective au signe près.

Le cas ii) (b) est justiciable du cas i)(b) du lemme. Enfin le dernier cas relève du cas i)(a) du lemme. On a vu dans ce cas en (3.2.1.1) que les superSpeh de même support supercuspidal que π forment une orbite (δ, δν, ⋯ δν^{r_{0}−1}) sous l’action de ν par torsion. Écrivons alors

[π] = ∑_{i=0}^{r_{0}−1} a_{i}[δν^{i}] mod R_{I}(G, \overline{𝔽}_{ℓ}).

Comme R_{I}(G, \overline{𝔽}_{ℓ}) est stable par torsion par ν, l’hypothèse [π] = [πν] implique que tous les a_{i} sont égaux. Ils ont donc a fortiori le même signe.

On peut maintenant écrémer encore un peu en utilisant le support cuspidal.

(3.2.3) Proposition.– Soit π ∈ Irr_{\overline{𝔽}_{ℓ}} (G) une représentation elliptique. Si le support cuspidal de π est différent de son support supercuspidal, alors LJ_{\overline{𝔽}_{ℓ}}(π) est effective au signe près.

Preuve. Soit λ = λ_{1} ⊗ ⋯ ⊗ λ_{s} un élément du support cuspidal de π. D’après [26, Thm V.10], il existe un multisegment cuspidal b de support {λ_{1}, ⋯, λ_{s}} tel que π ≃ ⟨b⟩.

Supposons dans un premier temps que l’ensemble {λ_{1}, ⋯, λ_{s}} n’est pas connexe, au sens de [26, V.3]. Écrivons b comme somme b = b_{1} ⊔ ⋯ ⊔ b_{k} de composantes connexes. Par construction, la représentation ⟨b⟩ apparaît avec multiplicité 1 dans l’induite ⟨b_{1}⟩ × ⟨b_{2}⟩ × ⋯ × ⟨b_{k}⟩. Or, d’après [26, Prop V.3], cette induite est irréductible. La représentation π est donc induite parabolique propre et on a LJ_{\overline{𝔽}_{ℓ}}(π) = 0.

Supposons maintenant que l’ensemble {λ_{1}, ⋯, λ_{s}} est connexe. Cela signifie en particulier que tous les λ_{i} sont de la forme λν^{j_{i}} pour un certain entier j_{i}. Par hypothèse, λ n’est pas supercuspidale. D’après [31, III.5.14], elle est donc de la forme “Steinberg généralisée”. Par construction, une telle représentation vérifie λ ≃ λν. Par conséquent π ≃ πν et on peut appliquer le point ii)(c) du corollaire précédent.

En utilisant les algèbres de Hecke de types de Bushnell-Kutzko comme dans [26, IV], la proposition précédente permet en principe^{2} de ramener la question d’effectivité de LJ_{\overline{𝔽}_{ℓ}}(π) au cas où π est elliptique superunipotente, c’est-à-dire au cas où le support cuspidal de π contient la paire (𝔾^{d}, 1 ⊗ ν ⊗ ⋯ ⊗ ν^{d−1}), à torsion par un caractère χ ⊗ χ ⊗ ⋯ ⊗ χ près. Notons alors ε l’ordre de q dans 𝔽_{ℓ}^{×}. Le corollaire (3.2.2) dit que LJ_{\overline{𝔽}_{ℓ}}(π) est effectif si ε = 1 ou si ε ne divise pas d. Le premier cas “non trivial” d”effectivité est donc donné par la proposition suivante.

(3.2.4) Proposition.– Soit π elliptique superunipotente. Si l’ordre ε de q dans 𝔽_{ℓ}^{×} est d, alors LJ_{\overline{𝔽}_{ℓ}}(π) est effective au signe près.

Preuve. Nous allons simplement expliciter la classification dans ce cas particulier, c’est-à-dire la matrice de passage entre “modules standard” et “modules simples”. En prenant χ = ν^{\frac{1−d}{2}} ci-dessus, on voit qu’il s’agit d’expliciter la classification des sous-quotients de l’induite ν^{\frac{1−d}{2}} × ⋯ × ν^{\frac{d−1}{2}} = Ind_{B}^{G}(1). On peut trouver une classification dans [24, 2.17] dans un langage différent, mais sans le calcul de la matrice de passage.

Puisque l’ordre multiplicatif de q est d, un multisegment de support ν^{\frac{1−d}{2}} ⊗ ⋯ ⊗ ν^{\frac{d−1}{2}} s’écrit a = {(i_{k}, r_{k}), k = 1, ⋯, |a|} où |a| est le nombre de segments de a, les i_{k} sont des éléments de ℤ/dℤ, les r_{k} sont des entiers positifs de somme d et on a ℤ/dℤ = ⨆_{k=1}^{|a|}[i_{k}, i_{k}+r_{k}−1] mod d. Pour chaque k = 1, ⋯, |a|, notons P (a, k) le sous-groupe parabolique standard P_{r_{k},r_{k+1},···,r_{|a|},r_{1},···,r_{k−1}}. Par définition de π(a), on a dans R(G, \overline{𝔽}_{ℓ}) l’égalité

[π(a)] = [Ind_{P (a,k)}^{G}(ν^{i_{k}})] .

Notre but est de calculer les multiplicités définies par les formules [π(a)] = ∑_{b} m(b, a)⟨b⟩. La première remarque importante est que ces multiplités sont 1 ou 0, car le caractère ν^{\frac{1−d}{2}} ⊗ ⋯ ⊗ ν^{\frac{d−1}{2}} est régulier pour l’action du groupe de Weyl, et il y a une seule représentation non-superunipotente, à savoir la nondégénérée (ou “Steinberg généralisée”), qui est cuspidale. Remarquons maintenant que les segments a comme ci-dessus sont en bijection a ↦ I_{a} := {i_{1}, ⋯, i_{|a|}} avec les sous-ensembles non vides de ℤ/dℤ. Par cette bijection, les représentations superSpeh correspondent aux singletons et la non-dégénérée à l’ensemble plein. Voici alors la formule de multiplicité

m(b, a) = 1 ⇔ I_{b} ⊆ I_{a}. (3.2.4.2)

Admettons un instant cette formule. La matrice inverse définie par ⟨a⟩ = ∑_{b} n(b, a)[π(b)] est alors facile à calculer. On vérifie en effet que

n(b, a) = \{ \begin{matrix}(−1)^{I_{a}\I_{b}} & si & I_{b} ⊆ I_{a} \\ 0 & sinon \end{matrix}

En particulier, on obtient la formule

⟨a⟩ = (−1)^{|a|−1} (∑_{k=1}^{|a|}[ν^{i_{k}}]) mod R_{I}(G, \overline{𝔽}_{ℓ}).

2. Les détails restent toutefois à écrire.

Il reste à prouver la formule (3.2.4.2). À un sous-ensemble I de ℤ/dℤ muni d’un élément i ∈ I on associe un sous-groupe parabolique standard P (I, i) de la manière suivante. Considérons la bijection π_{i} : x ∈ {1, ⋯, d − 1} ↦ x + i ∈ ℤ/dℤ \ {i}. Le sous-ensemble J := π_{i}^{−1}(I \ {i}) de {1, ⋯, d − 1} détermine une matrice de Jordan N_{J} = ∑_{j∈J} E_{j,j+1}, et on définit P (I, i) comme le plus grand sousgroupe parabolique standard dont le radical unipotent contient N_{J}. On a alors P (a, k) = P (I_{a}, i_{k}) et [π(a)] = [Ind_{P (I_{a},i_{k})}^{G}(ν^{i_{k}})].

Supposons alors que I_{b} ⊆ I_{a} et soit i un élément de I_{b}. On a une inclusion Ind_{P (I_{b},i)}^{G}(ν^{i}) ⊆ Ind_{P (I_{a},i)}^{G}(ν^{i}) d’où en particulier m(b, a) = 1.

Supposons au contraire que I_{b} n’est pas inclus dans I_{a}. Deux cas se présentent. Si l’intersection I_{b} ∩ I_{a} contient un élément i, les deux représentations Ind_{P (I_{b},i)}^{G}(ν^{i}) et Ind_{P (I_{a},i)}^{G}(ν^{i}) sont contenues dans Ind_{B}^{G}(ν^{i}) qui est de multiplicité 1. Leur intersection est Ind_{P (I_{b}∩I_{a},i)}^{G}(ν^{i}). Par hypothèse, I_{b}∩I_{a} est strictement inclus dans I_{b}, donc pour tout sous-quotient irréductible π de Ind_{P (I_{b}∩I_{a},i)}^{G}(ν^{i}), on a λ_{π} < λ_{b}. En particulier, ⟨b⟩ n’est pas sous-quotient de Ind_{P (I_{b}∩I_{a},i)}^{G}(ν^{i}), donc ne l’est pas plus de Ind_{P (I_{a},i)}^{G}(ν^{i}), et on a bien m(b, a) = 0. Il nous reste à considérer le cas I_{a} ∩ I_{b} = ∅. Fixons i ∈ I_{b}. Si I_{b} contient un autre élément j, on peut appliquer le cas précédent au multisegment a_{j} correspondant à l’ensemble I_{a} ∪ {j}. En effet, le cas précédent dit que m(b, a_{j}) = 0 donc a fortiori m(b, a) = 0 puisque π(a) ⊂ π(a_{j}). Dans le cas contraire, I_{b} = {i} est un singleton avec i ∉ I_{a}. Il s’agit de voir que le caractère ν^{i} n’intervient pas dans r_{P_{1,···,1}}(π(a)), ce qui résulte d’un calcul de foncteur de Jacquet.

(3.2.5) Corollaire.– Si l’ordre ε de q dans 𝔽_{ℓ}^{×} n’est pas un diviseur propre de d, alors LJ_{\overline{𝔽}_{ℓ}} envoie toute représentation irréductible sur une effective au signe près.

Preuve. Le cas ε = 1 et le cas où ε ne divise pas d découlent respectivement des points ii)(b) et ii)(c) du corollaire (3.2.2). Supposons donc ε = d. Fixons un diviseur r de d et une représentation supercuspidale τ_{0} de G_{d/r}. Notons r_{0} le cardinal de l’orbite de τ_{0} par torsion par les puissances de ν. C’est un diviseur de d. Supposons que ce soit un diviseur propre de r. Alors, d’après [31, III.5.14 i)], la représentation de Steinberg généralisée St(τ_{0}, r_{0}) serait une représentation cuspidale non supercuspidale de G_{dr_{0}/r}. Or ceci est impossible puisque l’hypothèse ε = d implique que le pro-ordre de G_{dr_{0}/r} est inversible dans 𝔽_{ℓ}, donc que toute cuspidale est supercuspidale (et même projective modulo le centre). On a donc deux cas. Soit r_{0} ne divise pas r, auquel cas on peut appliquer le lemme i)(b) (3.2.1). Soit r_{0} = r, auquel cas nous laisserons le lecteur se convaincre que l’argument de la proposition précédente s’adapte sans autre difficulté que celles inhérentes aux notations.

(3.2.6) Une stratégie possible dans le cas ℓ > n. Voici quelques étapes d’une stratégie possible. Chaque étape semble non triviale, et comme de toutes façons la dernière étape échappe à l’auteur, il n’y a pas grand sens à les développer ici.

i) Pour chaque bloc de Mod_{\overline{𝔽}_{ℓ}}(G), ramener la question à une question de q-algèbres de Schur. Pour le bloc unipotent, une grande partie du travail est faite dans [29].

ii) Prouver que pour ℓ > n, la matrice de décomposition de la \overline{ℚ}_{ℓ}-algèbre de Schur en une racine ε-ème

de l’unité vers la \overline{𝔽}_{ℓ}-algèbre de Schur en q est l’identité (analogue affine de la “conjecture de James”). iii) Utiliser l’interprétation géométrique par Ginzburg-Vasserot des multiplicités des modules simples

dans les modules standard d’une algèbre de Schur en une racine de l’unité. iv) “Inverser” la matrice de polynômes de Kazhdan-Lusztig à laquelle on s’est ainsi ramené.

Voici à quoi ressemble l’interprétation géométrique des multiplicités. Soit ζ une racine ε-ème de l’unité et s la matrice diagonale Diag(1, ζ, ⋯, ζ^{d−1}) ∈ M_{d}(ℂ). Considérons la variété algébrique affine complexe

N_{s} := {N ∈ M_{d}(ℂ), nilpotente et t.q. sNs^{−1} = ζN}.

Le centralisateur C(s) est connexe et agit par conjugaison sur N_{s} avec un nombre fini d’orbites, toutes simplement connexes. Considérons le groupe de Grothendieck K := K_{C(s)}(N_{s}) des faisceaux constructibles C(s)-équivariants sur N_{s}. Il admet deux bases remarquables indexées par les orbites. Soit j^{O} l’inclusion d’une orbite O dans N_{s}. La première base naturelle est données par les faisceaux [O] := j_{!}^{O}(ℂ) et la seconde par les complexes de faiceaux [IC(O)] := j_{!∗}^{O}(ℂ). Un fait remarquable est que les j_{!∗}^{O}(ℂ) n’ont de cohomologie qu’en degrés pairs, de sorte que la matrice de passage (⟨[O′], [IC(O)]⟩)_{O′,O} des [O] vers les [IC(O)] est à coefficients positifs. Notons que cette matrice est triangulaire si l’on ordonne (partiellement) les orbites selon l’inclusion des adhérences.

Les travaux de Ginzburg, Vasserot et Ariki [11] [23] [1] exhibent une bijection a ↦ O_{a} entre les multisegments de support (1, ζ, ⋯, ζ^{d−1}) et les orbites de C(s) dans N_{s}. telle que pour tous multisegments a, b on a

m(b, a) = ⟨[O_{a}], [IC(O_{b})]⟩.

Dans cette bijection, les segments {(ζ^{i}, d)} correspondent aux orbites maximales, dont les adhérences sont les composantes irréductibles de N_{s}.

Exemple.– Dans le cas ε = d, la variété N_{s} est celle des matrices de la forme ∑_{i=1}^{d} x_{i}E_{i,i+1} où au moins un x_{i} est nul, et où l’on convient que E_{d,d+1} = E_{d,1}. Ainsi, N_{s} est la réunion des hyperplans de coordonnées dans ℂ^{d}. Les orbites sont paramétrées par les sous-ensemble de {1, ⋯, d}. À I correspond O_{I} = {(x_{1}, ⋯, x_{d}) ∈ ℂ^{d}, i ∈ I ⇔ x_{i} = 0}. Dans ce cas, le calcul des complexes d’intersection est facile : on a simplement j_{!∗}^{O}(ℂ) = j\overline{O} ; ∗(ℂ) où j\overline{O} est l’inclusion de l’adhérence de l’orbite O. Comme O_{J} ⊂ \overline{O}_{I} ⇔ J ⊃ I, on retrouve ainsi la matrice de passage calculée dans la proposition (3.2.4).

Dans le cas où ε divise strictement d, la géométrie des orbites est beaucoup plus compliquée. Par exemple les inclusions O ↪ \overline{O} ne sont généralement pas affines, et les j_{!}^{O}(ℂ) ne sont pas nécessairement pervers décalés, ce qui empêche de prévoir simplement les signes dans la matrice inverse par une formule du type sgn(⟨[IC(O′)], [O]⟩) = (−1)^{codim(O′,O)}.

Cependant, d’après Lusztig [15, Sec. 11], les ⟨[O′], [IC(O)]⟩ sont les valeurs en 1 de certains polynômes de Kazhdan-Lusztig. Plus précisément, soit 𝔖̃_{d} le groupe de Weyl affine étendu de type { \atop A_{d−1}}. Notons ε[𝔖̃_{d}]_{ε} l’ensemble des représentants de longueur maximale des doubles classes modulo le sous-groupe parabolique (fini) (𝔖_{d/ε})^{ε}. Munissons-le de l’ordre de Bruhat. Alors il existe un isomorphisme O ↦ w_{O} du poset des orbites de C(s) dans N_{s} sur un idéal du poset _{ε}[𝔖̃_{d}]_{ε}, tel que

⟨[O′], [IC(O)]⟩ = P_{w_{O},w_{O′}} (1),

où P_{w,w′} désigne le polynôme de Kazhdan-Lusztig usuel associé à deux éléments de 𝔖̃_{d}, cf. [12]. Pour des petites valeurs de d, on peut donc espérer calculer par ordinateur les coefficients qui nous intéressent dans la matrice inverse.

Références

[1] S. Ariki. On the decomposition numbers of the Hecke algebra of G(m, 1, n). J. Math. Kyoto Univ., 36(4) :789–808, 1996.

[2] I. Badulescu. Orthogonalité des caractères pour GL(n) sur un corps local de caractéristique non nulle. Manuscripta Math., 101 :49–70, 2000.

[3] I. Badulescu. Jacquet-Langlands et unitarisabilité. J. Inst. Math. Jussieu, 6(3) :349–379, 2007.

[4] A. Borel. Automorphic L-functions. In Automorphic forms, representations and L-functions (Proc. Sympos. Pure Math., Oregon State Univ., Corvallis, Ore., 1977), Part 2, Proc. Sympos. Pure Math., XXXIII, pages 27–61. Amer. Math. Soc., Providence, R.I., 1979.

[5] P. Broussous. Extension du formalisme de Bushnell-Kutzko au cas d’une algèbre à division. Proc. London Math. Soc., 77(3) :292–326, 1998.

[6] C.J. Bushnell and P.C. Kutzko. The admissible dual of GL(n) via compact open subgroups. Number 129 in Annals Math. Studies. P.U.P., 1993.

[7] C. Curtis and I. Reiner. Methods of Representation theory I. Wiley Interscience, 1988.

[8] J.-F. Dat. Théorie de Lubin-Tate non-abélienne et représentations elliptiques. Invent. Math., 169 :75– 152, 2007.

[9] J.-F. Dat. Opérateur de Lefschetz sur les tours de Drinfeld et Lubin-Tate, 2009. Preprint, http ://www.math.jussieu.fr/ dat/recherche/travaux.html.

[10] P. Deligne, D. Kazhdan, and M.-F. Vignéras. Représentations des algèbres centrales simples padiques. In Representations of reductive groups over a local field, Travaux en Cours, pages 33–117. Hermann, Paris, 1984.

[11] V. Ginzburg and E. Vasserot. Langlands reciprocity for affine quantum groups of type A_{n}. Internat. Math. Res. Notices, (3) :67–85, 1993.

[12] A. Henderson. Nilpotent orbits of linear and cyclic quivers and Kazhdan-Lusztig polynomials of type A. Represent. Theory, 11 :95–121 (electronic), 2007.

[13] D. Kazhdan. Cuspidal geometry of p-adic groups. J. Analyse Math., 47 :1–36, 1986.

[14] J. Korman. A character formula for compact elements (the rank one case). preprint arXiv :math.RT/0409292v1, 2004.

[15] G. Lusztig. Canonical bases arising from quantized enveloping algebras. J. Amer. Math. Soc., 3(2) :447–498, 1990.

[16] R. Meyer and M. Solleveld. Characters and growth of admissible representations of reductive p-adic groups. preprint arXiv :math.RT/0908..., 2009.

[17] R. Meyer and M. Solleveld. Resolutions for reductive groups over p-adic fields via their buildings. preprint arXiv :math.RT/0902.4856v2, 2009.

[18] A. Minguez and V. Sécherre. Représentations ℓ-modulaires des formes intérieures de gl_{n} sur un corps p-adique, ℓ ≠ p. En préparation, 2009.

[19] P. Schneider and U. Stuhler. Representation theory and sheaves on the Bruhat-Tits building. Publ. Math. I.H.É.S, 85 :97–191, 1995.

[20] P. Schneider and E.-W. Zink. K-types for the tempered components of a p-adic general linear group. J. reine angew. Math., 517 :161–208, 1999.

[21] L. Spice. Topological Jordan decompositions. J. Algebra, 319(8) :3141–3163, 2008.

[22] G. van Dijk. Computation of certain induced characters of p-adic groups. Math. Ann., 199 :229–240, 1972.

[23] E. Vasserot. Affine quantum groups and equivariant K-theory. Transform. Groups, 3(3) :269–299, 1998.

[24] M.-F. Vignéras. À propos d’une conjecture de Langlands modulaire. In Finite reductive groups (Luminy, 1994), volume 141 of Progr. Math., pages 415–452. Birkhäuser Boston, Boston, MA, 1997.

[25] M.-F. Vignéras. Cohomology of sheaves on the building and R-representations. Invent. Math., 127 :349–373, 1997.

[26] M.-F. Vignéras. Induced R-representations of p-adic reductive groups. Selecta Math. (N.S.), 4(4) :549–623, 1998.

[27] M.-F. Vignéras. Correspondance de Langlands semi-simple pour GL(n, F) modulo ℓ ≠ p. Invent. Math., 144 :177–223, 2001.

[28] M.-F. Vignéras. La conjecture de Langlands locale pour GL(n, F) modulo l quand l ≠ p, l > n. Ann. Sci. École Norm. Sup. (4), 34(6) :789–816, 2001.

[29] M.-F. Vignéras. Schur algebras of reductive p-adic groups. I. Duke Math. J., 116(1) :35–75, 2003.

[30] M.-F. Vignéras and J.-L. Waldspurger. Premiers réguliers de l’analyse harmonique mod l d’un groupe réductif p-adique. J. Reine Angew. Math., 535 :165–205, 2001.

[31] M.F. Vignéras. Représentations l-modulaires d’un groupe p-adique avec l différent de p. Number 137 in Progress in Math. Birkhäuser, 1996.

[32] A.V. Zelevinsky. Induced representations on reductive p-adic groups II. Ann.Sci.Ec.Norm.Sup, 13 :165–210, 1980.