Représentations lisses p-tempérées des groupes p-adiques

J.-F. Dat

3 décembre 2006

Résumé We consider certain asymptotic properties of smooth p-adically valued functions and representations of a p-adic reductive group G. First, we continue the study of the socalled p-tempered and p-discrete representations, as defined in a former paper [4], and apply this to get a classification of “locally integral” representations, i.e. those representations such that for any open compact subgroup H, the H-invariant subspace admits Hecke-invariant lattices. Then we show that the space of square-integrable smooth functions, as defined in the text, is an algebra under convolution to which the action of the Hecke algebra on any p-tempered representation extends naturally. We formulate a Plancherel-like formula but prove it only for SL(2).

Table des matières

1 Définitions, rappels, et notations 2

2 Représentations p-discrètes 4

3 Représentations localement entières 6

4 Propriétés asymptotiques du produit de convolution 11

5 Une algèbre de Harish Chandra p-adique et sa formule de Plancherel 17

Introduction

Cet article fait suite à [4], où nous avons défini les notions de représentation ν-tempérée et ν-discrète d’un groupe p-adique à coefficients dans un corps muni d’une valuation ν. Dans loc. cit. nous avons surtout étudié les cas où ν(p) = 0 et simplement énoncé une propriété conjecturale [4, Conj 1.1. (ii)] dans le cas ν(p) ≠ 0, à savoir que dans ce cas les ν-discrètes sont images par l’involution de Zelevinski des séries discrètes “classiques”. Dans la section 2 du présent article, nous précisons cet énoncé et le prouvons pour les groupes classiques.

Une des applications de [4] dans le cas où ν est une valuation l-adique pour l ≠ p était la classification – au moins pour les groupes classiques – des représentations entières, i.e. possédant un réseau stable : d’après la proposition 6.3 et le corollaire 4.9 de [4], une \overline{ℚ}_{l}-représentation admet un \overline{ℤ}_{l}-réseau stable si et seulement si son support cuspidal est un point entier du spectre de Bernstein, en un sens facile à préciser. Dans le cas où ν est une valuation p-adique, la notion de représentation entière est plus mystérieuse. Dans la section 3, nous introduisons la notion moins restrictive de représentation admissible localement entière, i.e. telle que pour tout pro-p-sous-groupe ouvert H de G, le sous-espace des invariants V^{H} admette un réseau stable par l’algèbre de Hecke entière H(G, H). Dans le cas l-adique, les deux notions “entière” et “localement entière” coïncident [4, 6.3], mais dans le cas p-adique, les comparer est un problème encore largement ouvert, cf la remarque suivant 3.1. Quoiqu’il en soit nous classifions, de plusieurs manières, ces représentations localement entières dans la section 3. Le résultat le plus satisfaisant est prouvé pour les groupes classiques 3.15 et affirme qu’une irréductible est localement entière si et seulement si son support cuspidal appartient à un certain affinoïde du spectre de Bernstein. Cet affinoïde est défini via la valuation ν par l’enveloppe convexe dans l’algèbre de Lie réelle d’un tore maximal de G, de toutes les “demi-sommes des racines positives” associées aux chambres de Weyl. Notons qu’un tel affinoïde apparaît aussi dans des travaux simultanés de Vignéras [16] et des variantes, tenant compte d’un plus haut poids additionnel, sont apparues depuis dans les travaux de Schneider-Teitelbaum [13]. À ce propos, notons qu’il est possible d’étendre la définition de “localement entière” aux représentations localement algébriques et de prouver un critère analogue à 3.15 tenant compte du plus haut poids additionnel comme dans [13]. Néanmoins, nous ne le faisons pas ici, car dans le cas non lisse le lien entre “entière” et “localement entière” semble assez faible, comme le montre la remarque finale de la section 3.

À partir de la section 4, nous supposons le corps de coefficients K complet pour sa norme p-adique. Nous introduisons alors la notion de fonction intégrable et étudions les propriétés aymptotiques du produit de convolution. Le résultat principal est que l’espace L_{K}^{2}(G) des fonctions de carré intégrable est stable par produit de convolution. Il s’agit d’un analogue p-adique de l’algèbre de Harish Chandra. Dans la partie 5 nous suggérons l’existence d’une formule de Plancherel à coefficients dans K et nous la prouvons pour SL(2).

1 Définitions, rappels, et notations

La lettre G désigne un groupe réductif p-adique, qui pourra parfois être soumis à quelques restrictions. La lettre H désignera généralement un sous-groupe ouvert compact de G. La lettre K désignera un corps de caractéristique nulle muni d’une norme telle que |p| = p^{−1} (donc nonarchimédienne p-adique), qui sera parfois supposé complet, parfois algébriquement clos ou les deux. On note aussi ν : x ∈ K^{×} ↦ ν(x) := −log_{p}|x| ∈ ℝ la valuation associée.

1.1 Espaces de fonctions : Si R est un anneau commutatif, on dit qu’une fonction f : G ⟶ R est lisse si elle est localement constante et bi-uniformément lisse s’il existe un sous-groupe ouvert compact H de G tel que f soit invariante à gauche et à droite par H. L’espace des fonctions lisses sur G (resp. bi-uniformément lisses, resp. à support compact) sera noté C_{R}^{∞}(G) (resp. C_{R}(G), resp. C_{R}^{c}(G)). Ces espaces sont naturellement munis des actions λ et ρ de G par translations à gauche et à droite. Ils ont aussi des variantes ”à caractères central fixé” : soit Z le centre de G et ω : Z ⟶ R^{×} un caractère lisse de Z, on notera C_{R}^{∞}(G, ω) l’ensemble des fonctions lisses f telles que ρ(z)(f) = ω(z)f pour tout z ∈ Z.

Si H, H′ sont des sous-groupes ouverts compacts, on note C_{R}(H\G), resp. C_{R}(H\G/H′), l’ensemble des fonctions invariantes à gauche par H, resp. et invariantes à droite par H′. On a encore une action de Z sur ces espaces qui permet de définir C_{R}(H\G, ω) et C_{R}(H\G/H′, ω), qui ne sont non nuls que si ω_{|H} = ω_{|H′} = 1.

Pour certaines définitions, par exemple pour le produit de convolution, nous devons choisir une mesure de Haar dx sur G à valeurs dans K. Nous supposerons toujours que cette mesure de Haar est à valeurs dans ℚ_{+} ⊂ K. C’est par exemple le cas pour la mesure dx^{H} normalisée par un pro-p-sous-groupe ouvert. On notera vol(C) le volume d’un sous-ensemble ouvert compact pour la mesure dx et vol_{H}(C) le volume associé à dx^{H}. Ce sont des éléments de ℚ_{+} ⊂ K que nous considèrerons parfois comme éléments de K, parfois comme rationnels positifs.

Soit ϕ : G ⟶ ℝ_{+} une fonction. On dira que ϕ “tend vers 0 à l’infini” et on notera ϕ ⟶^{∞} 0 si ϕ tend vers 0 pour le filtre des complémentaires d’ensembles compacts, c’est-à-dire si pour tout ε > 0, l’ensemble ϕ^{−1}([ε, ∞[) est d’adhérence compacte. On dira aussi que ϕ ”tend essentiellement vers zero à l’infini” si elle tend vers 0 pour le filtre des ensembles dont le complémentaire est compact modulo le centre Z de G.

Lemme 1.2 Soit f une fonction lisse sur G à valeurs dans K et r ∈ ℝ_{+}^{×}. On a équivalence entre

i) Il existe 2 pro-p-sous-groupes ouverts H et H′ tels que f ∈ C_{K}(H\G/H′) et la fonction g ↦ |f(g)| vol(HgH′)^{− \frac{1}{r}} tend vers 0 à l’infini (resp. tend essentiellement vers 0 à l’infini,

resp. est bornée). ii) Pour tous pro-p-sous-groupes ouverts H et H′ tels que f ∈ C_{K}(H\G/H′), la fonction g ↦

|f(g)| vol(HgH′)^{− \frac{1}{r}} tend vers 0 à l’infini (resp. tend essentiellement vers 0 à l’infini, resp. est bornée).

Preuve : Remarquons d’abord que l’énoncé ne dépend pas du choix de la mesure de Haar rationnelle positive dx. Supposons (H, H′) comme dans l’énoncé i) et donnons-nous un second couple (K, K′) comme dans l’énoncé ii). On peut trouver (H_{0}, H′_{0}) tels que H_{0} ⊂ H ∩ K soit normal dans H et H′_{0} ⊂ H′ ∩ K′ soit normal dans H′. En écrivant HgH′ comme union disjointe de doubles classes de la forme H_{0}hgh′H′_{0}, on obtient

vol(HgH′) ⩽ [H : H_{0}][H′ : H′_{0}] vol(H_{0}gH′_{0})

Posant C = [H : H_{0}][H′ : H′_{0}] > 0, on a alors les inégalités :

vol ((H ∩ K)g(H′ ∩ K′)) ⩽ vol(HgH′) ⩽ C. vol ((H ∩ K)g(H′ ∩ K′)) .

Les inégalités analogues obtenues en renversant les rôles de (H, H′) et de (K, K′) montrent l’existence de 2 constantes C_{1}, C_{2} positives telles que

C_{1} vol(KgK′) ⩽ vol(HgH′) ⩽ C_{2} vol(KgK′),

ce qui montre l’équivalence des assertions i) et ii).

□

Notation 1.3 Soit r ∈ ℝ_{+} et ω : Z ⟶ K^{×} un caractère lisse. On notera L_{K}^{r}(G), resp. L_{K}^{r}(G, ω), resp. B_{K}^{r}(G), l’ensemble des fonctions lisses sur G satisfaisant les conditions équivalentes du lemme avec limite nulle (resp. avec limite ”essentiellement” nulle et ω-covariantes, resp. avec borne). On étend cette définition à r = +∞ en posant L_{K}^{∞}(G), resp. L_{K}^{∞}(G, ω), resp. B_{K}^{∞}(G), l’ensemble des fonctions bi-uniformément lisses sur G de limite nulle à l’infini, resp. de limite essentiellement nulle et ω-covariantes, resp. bornées.

Grâce à la caractérisation du point i), on constate que tous ces ensembles sont des sous-K-espaces vectoriels stables par translations à gauche et à droite par G de l’espace C_{K}(G) des fonctions bi-uniformément lisses sur G. On notera encore L_{K}^{r}(H\G) := L_{K}^{r}(G) ∩ C_{K}(H\G), etc... De plus, pour tout r ∈]0, ∞] et tout sous-groupe ouvert compact H, l’application f ↦ ||f||_{r} := sup_{x∈G} |f(x) vol(HxH)^{1/r}|_{K} est une norme sur B_{K}^{r}(H\G/H). Lorsque K est complet, B_{K}^{r}(H\G/H) est complet et son sous-espace L_{K}^{r}(H\G/H) est le complété du sous-espace C_{K}^{c}(H\G/H) pour cette norme.

1.4 Représentations : Nous utilisons les notations habituelles Irr_{K}(G), Adm_{K}(G) pour désigner l’ensemble des classes de représentations lisses irréductibles de G, resp. la catégorie des représentations admissibles de G, à coefficients dans K. Nous rajoutons un ω pour désigner le sous-ensemble ou la sous-catégorie des objets de caractère central ω : Z ⟶ K^{×}.

Lorsque (π, V) ∈ Adm_{K}(G), on note (π^{∨}, V^{∨}) sa contragrédiente et, pour deux vecteurs (v, v^{∨}) ∈ V × V^{∨} on note c_{v,v^{∨}} : G ⟶ K le coefficient matriciel associé, défini par c_{v,v^{∨}}(g) := ⟨gv, v^{∨}⟩. Le sous-espace de C_{K}(G) engendré par ces coefficients sera noté A(π). Si π a un caractère central ω, on a bien-entendu A(π) ⊂ C_{K}(G, ω). Nous allons considérer diverses conditions asymptotiques sur les coefficients d’une représentation, du type A(π) ⊂ B_{K}^{r}(G), L_{K}^{r}(G), etc... Lorsque K est algébriquement clos, un outil fondamental dû à Casselman permet de traduire ces conditions sur les exposants des modules de Jacquet de la représentation. Cela demande quelques notations supplémentaires.

Si M est un sous-groupe de Levi de G, on note A_{M} le groupe des points rationnels de la composante déployée du centre de M et M^{0} le sous-groupe de M engendré par les sous-groupes compacts. Si N ⊃ M est un autre Levi, on note A_{M}^{N} := A_{M} ∩ N^{0}. On sait alors que le groupe A_{N}A_{M}^{N} est d’indice fini dans A_{M}, que le groupe A_{M}^{M} est compact et que le quotient A_{M}/A_{M}^{M} est d’indice fini dans le groupe abélien libre de type fini M/M^{0}.

En tensorisant par ℝ les groupes de caractères rationnels correspondants, on obtient des espaces vectoriels réels a_{M}^{∗}, a_{N}^{∗} et a_{M}^{N∗}, ainsi qu’une décompositions canonique a_{M}^{∗} = a_{N}^{∗} ⊕ a_{M}^{N∗}. Tout parabolique Q contenant M détermine deux cônes “duaux” ^{+}a_{Q}^{∗} ⊂ a_{M}^{∗} et (a_{Q}^{∗})^{+} ⊂ a_{M} dont on convient de surligner les adhérences pour la topologie réelle. Il est parfois commode de choisir un parabolique minimal P_{0} et une composante de Levi M_{0} de P_{0} et d’appeler “standard”, resp. “semi-standard”, les paraboliques contenant P_{0}, resp. M_{0}. On peut alors choisir un produit scalaire W_{G} := N_{G}(M_{0})/M_{0}-invariant sur a_{M_{0}}^{∗} ; celui-ci en induit un sur a_{M}^{∗} et permet d’identifier a_{M} ≃ a_{M}^{∗}. Les sous-espaces a_{N}^{∗} et a_{M}^{N∗} sont alors orthogonaux, et les cônes (a_{Q}^{∗})^{+} et ^{+}a_{Q}^{∗} sont polaires. On renvoie le lecteur aux paragraphes [4, 2.1-2.2] pour plus de détails.

Suivant le début de la section 3 de [4], la valuation ν de K fournit deux morphismes, encore notés ν, du groupe des K-caractères non-ramifiés de M (resp. lisses de A_{M}) vers a_{M}^{∗}.

Pour un parabolique Q = NU, on note r_{Q}^{N} le foncteur de Jacquet normalisé et i_{Q}^{G} l’induction parabolique normalisée. Enfin, lorsque K est algébriquement clos et π ∈ Adm_{K}(G), on note E(A_{G}, π) l’ensemble fini des exposants de π, i.e. des caractères centraux restreints à A_{G} des sous-quotients irréductibles de π. Si π a elle-même un caractère central, on le notera généralement ω_{π}.

Lemme 1.5 Pour π ∈ Adm_{K}(G) et r ∈]0, +∞], on a équivalence entre :

i) A(π) ⊂ B_{K}^{r}(G), resp. A(π) ⊂ L_{K}^{r}(G, ω_{π}) ∩ B_{K}^{r}(G)

ii) ∀Q = NU, ∀χ ∈ E(A_{N}, r_{Q}^{N}(π)) ; ν(χ) ∈ \frac{2−r}{r} ρ_{Q} − \overline{^{+}a_{Q}^{∗}}, resp. ν(χ) ∈ \frac{2−r}{r} ρ_{Q} −^{+}a_{Q}^{∗}. Ici, ρ_{Q} ∈ a_{N}^{∗} désigne la demi-somme des racines de A_{N} dans Lie(Q). Dans le point ii), on peut se restreindre aux paraboliques “standard” ou même “standard maximal”.

Preuve : On suit les arguments de la proposition [4, 3.19] (qui remontent essentiellement à Casselman), notamment les inégalités (3.20) et (3.25) de loc. cit., en tenant compte du fait que, pour tout Q ⊃ P_{0} et tout λ ∈ ℝ on a λρ_{Q} − \overline{^{+}a_{Q}^{∗}} ⊂ λρ_{P_{0}} − \overline{^{+}a_{P_{0}}^{∗}}, et du fait que, avec les notations de loc. cit, on a

⟨ρ_{P_{0}}, H_{0}(m_{g})⟩ = |δ_{P_{0}}(m_{g})|K^{\frac{1}{2}} = |Ξ̃(g)|_{K}
= vol_{H}(HgH),

la dernière égalité provenant de [19, Preuve de I.1.(5)].

□

Dans [4], nous avons étudié quelques propriétés des représentations admissibles π telles que A(π) ⊂ B_{K}^{2}(G), dites ν-tempérées, ou telles que A(π) ⊂ L_{K}^{2}(G), dites ν-discrètes. Nous avons en particulier prouvé un théorème du quotient de Langlands :

Fait 1.6 [4, 3.11] Supposons K algébriquement clos. Pour toute représentation π ∈ Irr_{K}(G), il existe un unique triplet (P, σ, ψ) avec P = MU parabolique standard, σ ∈ Irr_{K}(M) ν-tempérée, et ψ un caractère non-ramifié de M vérifiant −ν(ψ) ∈ (a_{P}^{∗})^{+}, tel que π soit l’unique quotient irréductible de l’induite i_{P}^{G}(σψ).

Le triplet (P, σ, ψ) sera appelé “paramètre de Langlands” de π. Par ailleurs, nous avons énoncé une conjecture [4, Conj. 1.1.(ii)] et annoncé sa validité pour les groupes classiques. Nous commencerons cet article par honorer cette annonce (corollaire 2.4 ci-dessous).

2 Représentations p-discrètes

Dans cette section, nous considérons l’hypothèse suivante sur le groupe G, que nous appellerons en bref rationnalité des points de réductibilité :

Hypothèse 2.1 Pour tout sous-groupe de Levi L de G, tout sous-groupe parabolique maximal R = MU de L, et toute représentation cuspidale irréductible σ ∈ Irr_{ℂ}(M), si la représentation i_{R}^{L}(σ) est réductible, alors ω_{σ}(A_{M}^{L}) ⊂ p^{ℚ}.

Cette hypothèse appelle quelques commentaires. Tout d’abord la notation p^{ℚ}; plus généralement si A est un sous-ensemble non-vide d’éléments non-nuls d’un corps algébriquement clos K, on note

A^{ℚ} := {x ∈ K^{×} pour lesquels il existe n ∈ ℕ \ {0} et m ∈ ℤ tels que x^{n} ∈ A^{m}}.

C’est un sous-groupe divisible de K^{×} qui contient toujours le sous-groupe 1^{ℚ} des racines de l’unité. Ensuite, l’hypothèse 2.1 ne dépend pas du corps de coefficients (ici ℂ) pourvu que celui-ci soit algébriquement clos de caractéristique nulle. En effet, toute représentation irréductible cuspidale sur un tel corps est définie sur \overline{ℚ}, quitte à la tordre préalablement par un caractère non-ramifié convenable. Enfin, cette hypothèse doit conjecturalement être vérifiée en toute généralité. À ce jour seul le cas des groupes classiques est connu :

Théorème 2.2 (C. Moeglin) L’hypothèse 2.1 est valide si G est un groupe classique.

C’est en effet le théorème de la Section 2 de [9].

Lemme 2.3 Soit K un corps algébriquement clos muni d’une norme, et ν := −log ∘ | − |_{K}. Alors, sous l’hypothèse 2.1, tout élément (M, σ) du support cuspidal d’une représentation π ∈ Irr_{K}(G) ν-discrète (au sens de [4, 3.2]) vérifie ω_{σ}(A_{M}^{G}) ⊂ p^{ℚ}.

Preuve : On pourrait utiliser le lemme 3.12 pour montrer que l’ensemble des racines réduites α de A_{M} dans Lie(P) pour lesquelles le facteur μ_{σ}^{α} de la mesure de Plancherel a un pôle en σ engendre a_{M}^{G∗} (comme dans [15, Thm 5.4.5.7] dans le cas complexe), ce qui suffit pour conclure. Mais nous donnerons un argument différent, qui s’applique sous la seule hypothèse que π n’est pas induite parabolique propre. En effet une représentation ν-discrète vérifie cette hypothèse puisque si elle est de la forme i_{Q}^{G}(τ), on a ω_{τ} ∈ E(A_{N}, r_{Q}^{N} (π)) ∩ E(A_{N}, rN ; \overline{Q} (π)), intersection qui doit être vide, vue la définition de ν-discrète.

Première étape : Soit N le centralisateur de ω_{σ}^{−1}(p^{ℚ}) (c’est le plus grand sous-groupe de Levi de G contenant M tel que ω_{σ}(A_{M}^{N}) ⊂ p^{ℚ}). Fixons un parabolique Q de G de Levi N et un parabolique R de N de Levi M. Alors

i) la représentation i_{R}^{N} (σ) est (Q, \overline{Q})-régulière au sens de [4, 2.10] ii) l’opérateur d’entrelacement J_{\overline{Q}|Q}(i_{R}^{N} (σ)) : i_{Q}^{G}(i_{R}^{N} (σ)) ⟶ iG ; \overline{Q}(i_{R}^{N} (σ)) est inversible.

Prouvons d’abord le point i). Remarquons que le groupe \overline{ℚ}^{×}/p^{ℚ} est uniquement divisible, et par conséquent est naturellement un ℚ-espace vectoriel. Il est de dimension dénombrable et on peut donc choisir un plongement de ℚ-espaces vectoriels \overline{ℚ}^{×}/p^{ℚ} ↪ ℝ. Nous noterons μ : \overline{ℚ}^{×} ⟶ ℝ le morphisme de groupes obtenu par composition. Celui-ci n’est pas la valuation associée à une norme mais on peut lui appliquer certaines techniques de [4, Sec. 3]. En particulier, l’élément μ∘ω_{σ} de a_{M}^{∗} appartient au cône a_{Q_{μ}}^{∗} associé à un (unique) parabolique Q_{μ} contenant M. Par définition de N, la composante de Levi de Q_{μ} est N. On sait alors [4, (3.9)] que pour tout w ∈ W_{G} \ W_{N}, on a w(μ ∘ ω_{σ})_{|A_{N}} ≠ μ ∘ ω_{σ}, et par le lemme géométrique on en déduit immédiatement que i_{R}^{N} (σ) est (Q, \overline{Q})-régulière.

Passons au point ii). La même preuve que ci-dessus montre que i_{R}^{N}(σ) est aussi (\overline{Q}, Q)-régulière, et on dispose donc des deux opérateurs d’entrelacement J_{\overline{Q}|Q}(i_{R}^{N}(σ)) et J_{Q|\overline{Q}}(i_{R}^{N}(σ)). Comme dans le corollaire 7.15 de [4], il découle de [4, 7.8.(iii)] que la composée de ces deux opérateurs est la multiplication par le scalaire :

j_{i_{R}^{N} (σ)}^{G} := ∏_{α∈Σ̃(A_{M} ,G)\Σ̃(A_{M} ,N)} j_{σ}^{M_{α}}(σ)

où Σ̃(A_{M}, G) désigne l’ensemble des rayons radiciels (racines à homothétie près) de A_{M} dans Lie(G) et j_{σ}^{M_{α}} est l’inverse de la fonction de Harish Chandra sur le tore des caractères non ramifiés du Levi M_{α} contenant M associé à α, cf loc. cit. Or, par définition de N, pour α hors de Σ̃(A_{M}, N), si a_{α} est un élément de A_{M}^{M_{α}} qui engendre le quotient A_{M}^{M_{α}}/A_{M}^{M}, on a ω_{σ}(a_{α}) ∉ p^{ℚ} et par l’hypothèse 2.1, on a donc j_{σ}^{M_{α}}(σ) ≠ 0. On en déduit ainsi le point ii).

Deuxième étape : les représentations i_{R}^{N} (σ) et i_{Q}^{G} (i_{R}^{N} (σ)) sont de même longueur. Autrement dit, chaque sous-quotient irréductible de i_{R}^{N} (σ) s’induit irréductiblement par i_{Q}^{G}. En effet, un tel sous-quotient τ est nécessairement (Q, \overline{Q})-régulier et, par le même raisonnement que [4, 3.11.(i)], l’opérateur d’entrelacement J_{\overline{Q}|Q}(τ) se factorise par l’unique quotient irréductible ρ de i_{Q}^{G} (τ) dont la restriction rN ; \overline{Q} (ρ) contient τ. Or, par la propriété ii) et par fonctorialité des opérateurs

d’entrelacement, l’opérateur J_{\overline{Q}|Q}(τ) est inversible, donc ρ ≃ iG ; \overline{Q}(τ) et par là i_{Q}^{G}(τ) est irréductible.

Fin de la preuve : La deuxième étape implique en particulier que π, qui est un sous-quotient irréductible de i_{Q}^{G} (i_{R}^{N} (σ)), est de la forme i_{Q}^{G} (τ), ce qui, on l’a déja vu, contredit l’hypothèse π discrète sauf si N = G.

□

Dans le corollaire suivant, on considère des représentations à coefficients dans une clôture algébrique \overline{ℚ} de ℚ. Si ι est un plongement de \overline{ℚ} dans un corps normé K, on dira qu’une telle représentation est ι-discrète si π ⊗_{ι} K est ν-discrète au sens de [4, 3.2] et pour la “valuation” ν = −log ∘ | − |_{K} sur K. Les K qui nous intéressent sont \overline{ℚ}_{p} muni de sa norme p-adique telle que |p| = p^{−1}, et ℂ muni de la norme habituelle.

Nous noterons D_{G} l’involution de Zelevinski sur le groupe de Grothendieck des représentations de longueur finie de G. Dans les références [1] [12], le corps des coefficients est ℂ, mais chacune des définitions s’applique verbatim à tout corps de coefficients algébriquement clos de caractéristique nulle, et les involutions ainsi obtenues sont compatibles au changement de scalaires. On sait que D_{G} envoie une irréductible sur une irréductible au signe près, signe qui ne dépend que du support cuspidal de l’irréductible en question [1, Thm 1.7.(4)]. En l’absence d’ambiguïté, nous noterons encore D_{G}(π) la représentation irréductible ainsi associée à π.

Corollaire 2.4 Fixons deux plongements ι_{p} : \overline{ℚ} ⟶ \overline{ℚ}_{p} et ι_{∞} : \overline{ℚ} ⟶ ℂ. Alors, sous l’hypothèse 2.1, une \overline{ℚ}-représentation irréductible π de G est ι_{p}-discrète si et seulement si D_{G}(π) est ι_{∞}- discrète.

Preuve : Il suffit de remarquer que pour tout x ∈ p^{ℚ} ⊂ \overline{ℚ}^{×}, on a |ι_{p}(x)|_{p} = |ι_{∞}(x)|_{∞}^{−1}. Ainsi, vu la relation rM ; \overline{P} ∘ D_{G} = D_{M} ∘ r_{P}^{M} pour tout parabolique semi-standard P = MU [1, Thm 1.7.(2)], et vu la définition de “ν-discrète”, la proposition découle du lemme précédent. □

Remarque 2.5 Il s’ensuit que pour π ∈ Irr\overline{ℚ}(G), la propriété d’être ι_{p}-discrète est indépendante du plongement ι_{p} choisi. On se contentera donc d’appeler une telle représentation “p-discrète”.

En effet, on sait qu’une représentation complexe est une série discrète si et seulement si elle apparaît dans les représentations de la forme C_{ℂ}^{∞}(G/Γ) pour un sous-groupe discret cocompact Γ de G avec multiplicité aymptotiquement proportionnelle au covolume de Γ dans G [11]. Cette caractérisation montre que la notion de série discrète complexe est invariante par automorphismes du corps ℂ. Par conséquent la notion de représentation ι_{∞}-discrète sur \overline{ℚ} ne dépend pas du plongement ι_{∞} : \overline{ℚ} ↪ ℂ, et par le corollaire précédent, il en va de même de la notion de ι_{p}-discrète.

3 Représentations localement entières

Nous noterons O l’anneau de valuation de K. Nous appellerons “réseau” d’un K-espace vectoriel de dimension finie tout O-sous-module générateur ne contenant pas de K-droite. Lorsque O est noethérien (et donc principal), cela coïncide avec la notion usuelle de réseau. En général cette terminologie est peut-être un peu abusive.

Définition 3.1 Soit (π, V) un objet de Adm_{K}(G). On dit que (π, V) est

i) entière si il existe un O-sous-module G-stable et générateur ω de V tel que pour tout sousgroupe ouvert compact H, ω^{H} soit un réseau dans V^{H}.

ii) localement entière si pour tout sous-groupe ouvert compact H, il existe un réseau ω_{H} ⊂ V^{H} stable par opération de Hecke des doubles classes [HgH] sur V^{H}.

Rappelons ici que l’action de la double classe [HgH] sur V^{H} coïncide avec celle de la distribution vol_{H}(HgH)(dx^{H} ∗ g ∗ dx^{H}).

Remarque : Il est bien clair qu’une représentation admissible entière est localement entière, mais la réciproque reste mystèrieuse à ce jour. Le seul cas où l’on dispose d’un critère d’intégralité pour une irréductible est GL(2) grâce à Vignéras [17]. Néanmoins les calculs nécessaires pour rendre effectif ce critère n’ont été menés que sous des hypothèses de ramification modérée. Le critère obtenu, complétant l’étude initiée par Breuil [2], coïncide avec celui que nous obtiendrons en 3.15 pour la locale intégralité. Il est donc tentant de penser qu’en général, les deux notions coïncident, au moins pour les lisses irréductibles. Dans le cas l-adique, c’est vrai et facile à voir, cf [4, lemme 6.2].

L’essentiel de cette section concerne les représentations localement entières que l’on se propose de classifier.

Proposition 3.2 Soit (π, V) une K-représentation de longueur finie. Les assertions suivantes sont équivalentes :

i) π est localement entière.

ii) Il existe H pro-p-sous-groupe ouvert tel que σ^{H} ≠ 0 pour tout sous-quotient irréductible de

π et un réseau ω_{H} ⊂ V^{H} stable par les opérations de Hecke des doubles classes [HxH]. iii) A(π) ⊂ B_{K}^{1}(G). iv) ∀Q = NU, ∀χ ∈ E(A_{N}, r_{Q}^{N}(π)), ν(χ) ∈ ρ_{Q} − \overline{^{+}a_{Q}^{∗}}.

Preuve : L’implication i) ⇒ ii) est tautologique et l’équivalence de iii) et iv) est un cas particulier du lemme 1.5. Montrons que ii) implique iii). Avec les notations du ii), fixons v^{∨} ∈ (V^{∨})^{H} et posons

M := sup_{v∈ω_{H}} |⟨v, v^{∨}⟩|_{K} < ∞.

L’action de [HgH] sur V^{H} est la même que celle de vol_{H}(HgH).(dx^{H} ∗ g ∗ dx^{H}). Puisque v et v^{∨} sont fixes par l’idempotent dx^{H}, on a

|⟨gv, v^{∨}⟩|_{K} = | vol_{H}(HgH)^{−1}⟨[HgH]v, v^{∨}⟩|_{K}
⩽ M. vol_{H}(HgH)

donc c_{v,v^{∨}} ∈ B_{K}^{1}(G). Puisque σ^{H} ≠ 0 pour tout sous-quotient irréductible de π, les représentations π et π^{∨} sont engendrées par leurs H-invariants, et donc A(π) ⊂ B_{K}^{1}(G).

Supposons maintenant l’hypothèse iii) vérifiée. Fixons tout d’abord des générateurs v_{i}^{∨}, i = 1, ⋯, n de la contragrédiente V^{∨} de V, de sorte que si H^{∨} est un pro-p-sous-groupe ouvert de G tel que v_{i}^{∨} ∈ V^{∨}^{H^{∨}}, le morphisme G-équivariant

\begin{matrix}c : V & → & B_{K}^{1}(H^{∨}\G)^{n} \\ v & ↦ & (c_{v,v_{i}^{∨}})_{i=1,···,n} \end{matrix}

est injectif. Soit alors H un pro-p-sous-groupe ouvert. Nous allons vérifier que la boule unité de B_{K}^{1}(H^{∨}\G/H) pour la norme ||.||_{1}, c’est-à-dire

B_{K}^{1}(H^{∨}\G/H)^{∘} := {f ∈ C_{K}(H^{∨}\G/H), ∀x ∈ G, |f(x)|_{K} ⩽ vol_{H}(H^{∨}xH)}

est stable par opération de Hecke des doubles classes [HgH] pour g ∈ G. Pour cela, notons 1_{C} la fonction caractéristique d’un sous-ensemble de G. Par définition du produit de convolution, on a

1_{H^{∨}xH} ∗ [HgH] = ∑_{h^{∨}∈H^{∨}/(H^{∨}∩xHx^{−1})} 1_{h^{∨}xH} ∗ [HgH]
= ∑_{h^{∨}∈H^{∨}/(H^{∨}∩xHx^{−1})} ∑_{h∈H/(H∩gHg^{−1})} 1_{h^{∨}xhgH}

Il s’ensuit que pour z ∈ G on a

(1_{H^{∨}xH} ∗ [HgH])(z) = #{(h^{∨}, h) ∈ H^{∨}/(H^{∨} ∩ xHx^{−1}) × H/(H ∩ gHg^{−1}), h^{∨}xhgH = zH}

mais comme la fonction 1_{H^{∨}xH} ∗ [HgH] est invariante à gauche par H^{∨}, on en déduit

(1_{H^{∨}xH} ∗ [HgH])(z) = #{(h^{∨}, h), h^{∨}xhgH ⊂ H^{∨}zH}#(H^{∨}zH/H)^{−1}
= #{(h^{∨}, h), H^{∨}xhgH = H^{∨}zH} vol_{H}(H^{∨}zH)^{−1}
= #{h, H^{∨}xhgH = H^{∨}zH}#(H^{∨}/(H^{∨} ∩ xHx^{−1})) vol_{H}(H^{∨}zH)^{−1}
= #{h, H^{∨}xhgH = H^{∨}zH} vol_{H}(H^{∨}xH) vol_{H}(H^{∨}zH)^{−1}

d’où l’inégalité suivante, en se rappelant que | vol_{H}(.)|_{K} = vol_{H}(.)^{−1} puisque ces volumes (ou nombre de classes) sont des puissances de p :

|(1_{H^{∨}xH} ∗ [HgH])(z)|_{K} ⩽ vol_{H}(H^{∨}zH) vol_{H}(H^{∨}xH)^{−1}. (3.3)

La stabilité de B_{K}^{1}(H^{∨}\G/H)^{∘} sous les doubles classes [HgH] en découle.

Il ne reste plus qu’à poser ω_{H} := c^{−1}(B_{K}^{1}(H^{∨}\G/H)^{∘}^{n}) ⊂ V^{H}. C’est un réseau stable sous les opérateurs de Hecke [HgH]. □

Remarque 3.4 On déduit de la proposition qu’une représentation de longueur finie est localement entière si et seulement si ses sous-quotients irréductibles le sont.

Notons que l’analogue de cette propriété pour le caractère entier d’une représentation lisse n’est pas connu, et est même faux pour une représentation localement algébrique : en effet l’induite Ind_{B}^{GL_{2}}(δ ⊗ Sym^{k}) est entière d’après [2, Thm 3.3.2] (au moins pour k ⩽ 2p − 2), mais son quotient Sym^{k} ne l’est pas.

On peut maintenant classifier les p-entières en fonction de leur paramètre de Langlands, cf 1.6 :

Corollaire 3.5 Une représentation irréductible π sur K est localement entière si et seulement si le caractère ψ de son paramètre de Langlands (P, σ, ψ) vérifie −ν(ψ) ∈ ρ_{P} − \overline{^{+}a_{P}^{∗}}.

Preuve : Prouvons d’abord la nécessité de la condition sur ψ. Par définition du quotient de Langlands [4, 3.7], on sait que σψ est un quotient de rM ; \overline{P} (π) donc que ω_{σ}ψ_{|A_{M}} est un exposant de A_{M} dans rM ; \overline{P} (π). Comme ν(ω_{σ}) = 0, il découle du corollaire précédent appliqué à Q = \overline{P} que si π est localement entière, alors −ν(ψ) ∈ ρ_{P} − \overline{^{+}a_{P}^{∗}}.

Prouvons maintenant la suffisance de la condition sur ψ. Grâce au lemme géométrique, on sait que pour un parabolique standard Q = NV, l’ensemble des exposants de r_{Q}^{N} ∘ i_{P}^{G}(σψ) est

{w(ψ)_{|A_{N}} w(χ)_{|A_{N}} , χ ∈ E (A_{M∩w^{−1}(N)}, r_{M∩w^{−1}(Q)}^{M∩w^{−1}(N)}(σ)) , w ∈ ^{Q}W^{P} }

où ^{Q}W^{P} est l’ensemble des représentants minimaux des doubles classes W_{N}\W_{G}/W_{M} des groupes de Weyl concernés. D’après [4, (3.8)], on a −ν(w(χ)_{|A_{N}}) ∈ −\overline{^{+}a_{Q}^{∗}} pour tout χ comme ci-dessus, et d’après [4, (3.10)], on a −ν(w(ψ)) ∈ −ν(ψ) − \overline{^{+}a_{P_{0}}^{∗}} Par hypothèse, on a −ν(ψ) ∈ ρ_{P} − \overline{^{+}a_{P}^{∗}} ⊂ ρ_{P_{0}} − \overline{^{+}a_{P_{0}}^{∗}}, et par projection, on en déduit −ν(w(ψ)_{|A_{N}}) ∈ ρ_{Q} − \overline{^{+}a_{Q}^{∗}}. Le critère du corollaire précédent est donc satisfait : i_{P}^{G}(σψ) est localement entière, ainsi que π. □

Pour un sous-groupe de Levi M de G, introduisons maintenant le sous-ensemble de a_{M}^{∗} suivant :

P_{M}^{G} := ⋂_{G⊃P de Levi M}(ρ_{P} − \overline{^{+}a_{P}^{∗}}).

C’est un polyèdre convexe et compact de a_{M}^{G∗}. Comme nous le verrons dans le lemme 3.8 ci-dessous, c’est aussi l’enveloppe convexe des ρ_{P} pour P sous-groupe parabolique de Levi M. Ce qui nous conduit à l’introduire est le critère conjectural suivant (dont nous prouverons la validité pour les groupes classiques) :

Conjecture 3.6 Soit π une représentation de longueur finie de G. Si π est localement entière, alors pour tout parabolique P = MU et tout χ ∈ E(A_{M}, r_{P}^{M}π) on a ν(χ) ∈ P_{M}^{G}.

Notons que la réciproque est déja connue par 3.2 iv). Remarquons aussi qu’on obtiendrait un énoncé équivalent en imposant aux paraboliques d’être “semi-standard” ou “standard”, mais pas en ajoutant “maximal”. Au contraire, supposons π irréductible, situation à laquelle on peut se ramener en vertu de la remarque 3.4, on obtient un énoncé équivalent en remplaçant “pour tout parabolique” par “pour un parabolique minimal pour la propriété r_{P}^{M}π ≠ 0”. En d’autres termes, la conjecture 3.6 est équivalente à l’énoncé suivant :

Conjecture 3.7 (deuxième forme) Soit π ∈ Irr_{K}(G). Si π est localement entière, alors il existe un représentant (M, σ) du support cuspidal de π tel que ν(ω_{σ}) ∈ P_{M}^{G}.

En effet, d’une part l’implication 3.6 ⇒ 3.7 est tautologique, et d’autre part, comme P_{gMg^{−1}}^{G} = g(P_{M}^{G}) pour tout g ∈ G, l’énoncé de 3.7 équivaut au même où l’on remplace “il existe un” par “pour tout”, et donc, par projection (voir 3.8 i) ci-dessous), implique l’énoncé de 3.6. Encore une fois, en vertu de l’invariance de P_{M}^{G} sous N_{G}(M), la réciproque de 3.7 est donnée par 3.2 iv).

Nous allons procéder à quelques dévissages vers la conjecture 3.6-3.7, qui utiliseront le lemme combinatoire suivant :

Lemme 3.8 Soit N ⊃ M deux sous-groupes de Levi semi-standards.

i) La projection orthogonale a_{M}^{∗} ⟶ a_{N}^{∗} envoie P_{M}^{G} sur P_{N}^{G}.

ii) Le produit P_{N}^{G} × P_{M}^{N} ⊂ a_{N}^{G∗} × a_{M}^{N∗} = a_{M}^{G∗} est inclus dans P_{M}^{G}.

Preuve : Si P est un sous-groupe parabolique de Levi M tel que P N est encore un parabolique, alors la projection μ_{N} : a_{M}^{∗} ⟶ a_{N}^{∗} envoie ρ_{P} sur ρ_{P N} et \overline{^{+}a_{P}^{∗}} sur \overline{^{+}a_{P N}^{∗}}. Elle envoie donc P_{M}^{G} dans P_{N}^{G}, ce qui prouve la moitié de i). Plus précisément, soit

P_{P} := \overline{(a_{P}^{∗})^{+}} ∩ (ρ_{P} − \overline{^{+}a_{P}^{∗}}) ⊂ a_{M}^{G^{∗}}, (3.9)

alors puisque μ_{N}(\overline{(a_{P}^{∗})^{+}}) = \overline{(a_{P}^{∗})^{+}} ∩ a_{N}^{∗} = \overline{(a_{P N}^{∗})^{+}}, on a μ_{N}(P_{P}) = P_{P N}(= P_{P} ∩ a_{N}^{∗}).

On en déduit alors que P_{P} ⊂ P_{M}^{G}. En effet, par les relations P_{P} = μ_{M}(P_{P_{0}}) pour P_{0} ⊂ P minimal et μ_{M}(P_{M_{0}}^{G}) ⊂ P_{M}^{G}, il suffit de le prouver pour P_{P_{0}} ⊂ P_{M_{0}}^{G}, et dans ce cas il faut donc prouver que pour tout w ∈ W_{G} on a w(ρ_{P_{0}} − \overline{^{+}a_{P_{0}}^{∗}}) ∩ \overline{(a_{P_{0}}^{∗})^{+}}) ⊂ ρ_{P_{0}} − \overline{^{+}a_{P_{0}}^{∗}}. Mais cela découle du fait que pour x ∈ \overline{(a_{P_{0}}^{∗})^{+}}, on a wx ∈ x − \overline{^{+}a_{P_{0}}^{∗}}, cf [4, 3.10].

Par ailleurs, tout point de a_{M}^{G^{∗}} appartenant à au moins un \overline{(a_{P}^{∗})^{+}} pour P de Levi M, on a donc :

P_{M}^{G} = ⋃_{G⊃P de Levi M} P_{P} . (3.10)

On en déduit la suite de i), à savoir μ_{N}(P_{M}^{G}) = P_{N}^{G}.

Pour obtenir ii), nous allons d’abord montrer que P_{M}^{G} est l’enveloppe convexe des ρ_{P} pour P parabolique de G de Levi M. Pour cela notons C_{M}^{G} cette enveloppe convexe. Comme P_{M}^{G} est convexe et contient les ρ_{P}, il nous suffira de prouver P_{M}^{G} ⊆ C_{M}^{G}. Observons que C_{M}^{G} contient les ρ_{Q} pour Q parabolique de G contenant M ; en effet, on raisonne inductivement en remarquant que si R_{1} et R_{2} sont deux paraboliques semi-standards maximaux et opposés dans Q = NU, alors ρ_{Q}, qui est le projeté orthogonal de chaque ρ_{R_{i}} sur a_{N}^{∗}, appartient au segment [ρ_{R_{1}}, ρ_{R_{2}}]. Ainsi, il nous suffira maintenant de vérifier que P_{P} est inclus dans (en fait égal à) l’enveloppe convexe C_{P} des ρ_{Q} pour Q ⊇ P. Or P_{P}, en tant qu’intersection de deux cônes est l’enveloppe convexe de l’extrémité ρ_{P} du second et des facettes \overline{(a_{Q}^{∗})^{+}} ∩ P_{P} = P_{Q} pour Q ⊋ P. Par récurrence on en déduit la propriété voulue.

Prouvons maintenant ii). Par ce qui précède, le produit P_{N}^{G} × P_{M}^{N} est l’enveloppe convexe des ρ_{Q} + ρ_{R} pour Q = NU parabolique de G et R = MV parabolique de N. Or pour de tels paraboliques, le produit P := R.U est un parabolique de G de Levi M tel que ρ_{Q} + ρ_{R} = ρ_{P}. On en déduit la propriété annoncée.

□

Remarquons que les ν-tempérées et les ν-discrètes sont localement entières, par le critère 3.2 iii). Ainsi, vu le théorème du quotient de Langlands, il est naturel d’essayer de prouver la conjecture 3.6-3.7 récursivement sur les Levis de G.

Lemme 3.11 Supposons l’énoncé de 3.7 connu pour tout Levi propre de G à la place de G. Alors il suffit de prouver 3.7 pour π ν-discrète.

Preuve : Réduisons d’abord au cas tempéré grâce à la classification de Langlands 1.6. On présente π comme le quotient de Langlands de i_{P}^{G} (σψ) pour P de Levi M. Le critère 3.5 assure que −ν(ψ) ∈ P_{P} avec la notation (3.9), et donc que −ν(ψ) ∈ P_{M}^{G}, d’après 3.10. Soit alors (L, τ) dans le support cuspidal de σ. Ainsi (L, τ.ψ_{|L}) est dans le support cuspidal de π. L’hypothèse de récurrence nous assure que ν(ω_{τ}) ∈ P_{L}^{M}. Vu 3.8 ii), on en déduit que ν(ω_{τψ}) = ν(ω_{τ})+ν(ψ) ∈ P_{L}^{G}.

On est donc ramené, sous l’hypothèse de récurrence, à prouver 3.7 pour π ν-tempérée. Mais alors π est un sous-quotient d’une induite i_{P}^{G}(σ) avec σ ν-discrète. L’hypothèse de récurrence nous dit que le caractère central d’un élément (L, τ) du support cuspidal de σ, qui est inclus dans le support cuspidal de π, vérifie ν(ω_{τ}) ∈ P_{L}^{M}. Or, par 3.8 ii), on a P_{L}^{M} ⊂ P_{L}^{G}.

□

Lemme 3.12 Soit π ∈ Irr_{K}(G) une représentation ν-discrète. Alors il existe un sous-groupe parabolique P = MU standard maximal et une représentation essentiellement ν-discrète σ de M telle que π ↪ i_{P}^{G}(σ).

Preuve : Soit E(π) ⊂ ^{+}a_{P_{0}}^{∗} l’ensemble des −ν(χ) pour χ ∈ E(A_{N}, r_{Q}^{N}(π)) et Q = NV parabolique standard propre. Fixons x ∈ E(π) de norme minimale. Alors il existe un M standard et maximal tel que x ∈ a_{M}^{∗}. En effet dans le cas contraire on pourrait projeter x sur un a_{M}^{∗} avec M maximal et contredire ainsi la minimalité de la norme de x. De plus, si P est le parabolique standard de Levi M, on a x ∈ \overline{^{+}a_{P}^{∗}}. Soit alors σ un quotient de r_{P}^{M}(π) tel que −ν(ω_{σ}) = x, Q = NV un parabolique standard inclus dans P et y ∈ −ν(E(A_{N}, r_{Q∩M}^{N} (σ)). Nous allons montrer que y − x ∈ ^{+}a_{Q∩M}^{∗}, ce qui prouvera que σ est ν-discrète et terminera donc la preuve du lemme.

Pour cela notons Δ(Q) l’ensemble des racines simples de A_{N} dans Lie(V) et α la racine simple n’intervenant pas dans Lie(M). On a donc Δ(Q) = {α} ⊔ Δ(Q ∩ M). Notons (ω_{β})_{β∈Δ(Q)} la base duale de Δ(Q) dans a_{N}^{G∗}, et (ω_{β}^{α})_{β∈Δ(Q∩M)} celle de Δ(Q ∩ M) dans a_{N}^{M∗}. On a

∀β ∈ Δ(Q ∩ M), ω_{β}^{α} = ω_{β} − \frac{⟨ω_{β}, ω_{α}⟩}{||ω_{α}||^{2}}ω_{α}.

On veut prouver ∀β ∈ Δ(Q ∩ M) ⟨ω_{β}^{α}, y − x⟩ > 0. (3.13)

Notons que par définition, on a ⟨ω_{β}^{α}, x⟩ = 0 pour tout β ∈ Δ(Q∩M), et par conséquent ⟨ω_{β}^{α}, y−x⟩ = ⟨ω_{β}^{α}, y⟩. Comme ⟨ω_{α}, y⟩ > 0 et ⟨ω_{α}, ω_{β}⟩ < ||ω_{α}||||ω_{β}||, on a ⟨ω_{β}^{α}, y⟩ > ⟨ω_{β}, y⟩ − \frac{||ω_{β}||}{||ω_{α}||}⟨ω_{α}, y⟩ pour

β ≠ α. Notons que \frac{⟨ω_{β},y⟩}{||ω_{β}||} est la norme du projeté de y sur a_{M_{β}}^{∗} si M_{β} est le Levi maximal contenant N défini par Δ(Q ∩ M_{β}) = Δ(Q) \ {β}. Mais comme y ∈ −ν(E(A_{N}, r_{Q}^{G} (π)), ce projeté est dans −ν(E(A_{M_{β}}, r_{P_{β}}^{M_{β}} (π)) et donc dans E(π). Ainsi par définition de x, on a \frac{⟨ω_{β},y⟩}{||ω_{β}||} ⩾ \frac{⟨ω_{α},y⟩}{||ω_{α}||}, et on en déduit 3.13. □

Dans la proposition suivante, la notation D_{M} désigne l’involution de Zelevinski déja évoquée avant 2.4.

Proposition 3.14 Supposons que pour tout sous-groupe de Levi M de G et toute représentation ν-discrète σ de M, la représentation D_{M}(σ) soit localement ν-entière. Alors la conjecture 3.6-3.7 est vraie pour G.

Preuve : On raisonne par récurrence sur les Levis, l’hypothèse étant elle-même de nature inductive. Comme il n’y a rien à prouver pour les groupes de rang semi-simple nul, on suppose la proposition prouvée pour les sous-groupes de Levi propres de G à la place de G. Le lemme 3.11 nous dit qu’il suffit de prouver l’énoncé de 3.7 pour π représentation ν-discrète. Soit π ↪ i_{P}^{G}(σ) un plongement comme dans le lemme 3.12, et (L, τ) un représentant du support cuspidal de σ. Comme σ est essentiellement ν-discrète, l’hypothèse de récurrence entraine ν(τ) ∈ ν(ω_{σ}) + P_{L}^{M}.

Comme ω_{σ} ∈ E(A_{M}, r_{P}^{M} (π)), on sait que ν(ω_{σ}) ∈ −^{+}a_{P}^{∗} ⊂ ρ_{P} − \overline{^{+}a_{P}^{∗}} puisque π est ν-discrète. Par ailleurs, on a dans les groupes de Grothendieck concernés l’identité rM ; \overline{P} ∘ D_{G} = D_{M} ∘ r_{P}^{M}, [1, Thm 1.7.(2)], qui montre que ω_{σ} ∈ E(A_{M}, rM ; \overline{P} (D_{G}(π)). Comme D_{G}(π) est supposée localement entière, le critère 3.2 iv) assure que ν(ω_{σ}) ∈ ρ\overline{P} − \overline{^{+}a∗ ; \overline{P}}. Comme M est maximal, on en déduit que ν(ω_{σ}) ∈ P_{M}^{G}.

Ainsi d’après 3.8 ii), on a ν(τ) ∈ P_{L}^{G}, ce qui prouve la proposition. □

Réciproquement, remarquons que par symétrie centrale des polyèdres P_{M}^{G}, si la conjecture 3.6-3.7 est vraie, alors l’involution D_{G} respecte la propriété d’être localement entière.

Corollaire 3.15 Sous l’hypothèse 2.1, la conjecture 3.6-3.7 est vraie pour le groupe G.

Preuve : D’après le lemme 2.3, une représentation ν-discrète est “essentiellement” (i.e. après torsion par un caractère non-ramifié) définie sur la clôture \overline{ℚ}_{K} de ℚ dans K. Mais alors, d’après le corollaire 2.4 et le commentaire qui suit la remarque 2.5, D_{G}(π) se plonge dans un espace C_{K}^{∞}(G/Γ) pour Γ cocompact, et l’intersection avec C_{O}^{∞}(G/Γ) fournit un modèle entier de D_{G}(π). Celle-ci est donc entière et a fortiori localement entière. On peut donc appliquer la proposition précédente. □

Remarque : On peut étendre la notion de “localement entière” aux représentations localement algébriques π au sens de [10], en demandant que pour tout poids dominant λ, tout H et tout réseau H-stable M_{λ} dans la représentation algébrique π_{λ} de plus haut poids λ, l’espace Hom_{H} (M_{λ}, π) contienne un réseau stable sous l’algèbre de Hecke H(G, M_{λ}). Les mêmes arguments que ci-dessus montrent que sous l’hypothèse 2.1, une irréductible π^{∞} ⊗ π_{λ} est localement entière si et seulement si la valuation ν(ω_{σ}) du caractère central d’un représentant (M, σ) du support cuspidal de la partie lisse π^{∞} est dans l’enveloppe convexe des w(ρ_{P_{0}} + λ) pour w ∈ W_{G}. Nous ne donnons cependant pas les détails car la notion de localement entière a peu d’intérêt dans ce contexte : la représentation π_{λ} est en effet localement entière mais bien-sûr n’est pas entière.

4 Propriétés asymptotiques du produit de convolution

Dorénavant, nous supposons que le corps K est complet.

Lemme 4.1 Si f ∈ L_{K}^{1}(G), alors la somme

∑_{x∈H\G/H′} f(x) vol(HxH′)

est convergente et ne dépend pas du choix de H et H′ tels que f ∈ C_{K}(H\G/H′). On la notera ∫_{G} f(x)dx.

Preuve : L’énoncé ne dépend pas du choix de la mesure de Haar rationnelle positive dx. Il sera commode de la supposer normalisée par un pro-p-sous-groupe ouvert. Dans ce cas, on remarque que le volume de toute double classe HxH′ pour (H, H′) des pro-p-sous-groupes est une puissance de p, de sorte que

| vol(HxH′)|_{K} = vol(HxH′)^{−1}.

Ainsi, la somme de l’énoncé est indexée par un ensemble dénombrable et le terme général tend vers 0 pour la norme non-archimédienne de K. La série est donc convergente. Le fait que la somme ne dépende pas du choix de (H, H′) vient du théorème de sommation par paquets et de calculs élémentaires. □

On appellera “fonctions intégrables” les éléments de L_{K}^{1}(G). Donnons-en tout de suite un exemple motivant :

Exemple 4.2 Supposons K = ℚ_{p} et G déployé semi-simple. Alors la fonction 1_{G} identiquement égale à 1 sur G est intégrable. Pour calculer son intégrale, on note I un sous-groupe d’Iwahori de G, W_{G} le groupe de Weyl affine de G, et q le cardinal résiduel du corps de définition de G. On trouve :

∫_{G} dx^{I} = ∑_{x∈I\G/I} vol(IxI) = ∑_{w∈W_{G}} q^{l(w)}

C’est une “série de Poincaré affine” qui converge bien p-adiquement. Pour G = SL(2) par exemple, on trouve ∫_{G} dx^{I} = \frac{1+q}{1−q}.

Cet exemple montre que la représentation triviale est (de carré) intégrable quand on considère une norme p-adique sur les coefficients. Cela suggère que, à l’inverse des coefficients complexes habituels, elle se comporte comme un objet discret dans le spectre lisse à coefficients p-adiques. Plus généralement, le lemme 1.5 montre que les coefficients d’une représentation sont de carré intégrable si et seulement si cette représentation est ν-discrète.

Si r ∈ ℝ_{+}, resp r = ∞, on note r′ l’unique réel positif tel que \frac{1}{r} + \frac{1}{r′} = 1, resp r′ = 1. Si f ∈ L_{K}^{r}(G) et ϕ ∈ B_{K}^{r′}(G), alors pour tout g ∈ G, la fonction x ↦ f(gx)ϕ(x^{−1}) est intégrable sur G de sorte que l’on peut définir

f ∗ ϕ(g) := ∫_{G} f(gx)ϕ(x^{−1})dx

et on obtient ainsi une fonction lisse sur G. De même, si f ∈ L_{K}^{r}(G, ω) et ϕ ∈ B_{K}^{r′}(G, ω), alors la fonction x ↦ f(gx)ϕ(x^{−1}) est intégrable sur G/Z et on définit f ∗ ϕ ∈ C_{K}^{∞}(G, ω) en intégrant sur G/Z.

Ce qui est moins évident, c’est le comportement asymptotique de ce produit de convolution :

Théorème 4.3 Soit r ⩾ 2 ou r = ∞. Alors

i) L_{K}^{r}(G) ∗ B_{K}^{r′}(G) ⊆ B_{K}^{r′}(G) et L_{K}^{r}(G) ∗ L_{K}^{r′}(G) ⊆ L_{K}^{r′}(G), et de même, L_{K}^{r}(G, ω) ∗ B_{K}^{r′}(G, ω) ⊆ B_{K}^{r′}(G, ω) et L_{K}^{r}(G, ω) ∗ L_{K}^{r′}(G, ω) ⊆ L_{K}^{r′}(G, ω).

ii) Si H est un sous-groupe ouvert compact, chacun des produits de convolution (par exemple

L_{K}^{r}(H\G/H) × L_{K}^{r′}(H\G/H) ⟶^{∗} L_{K}^{r′}(H\G/H)) est séparément continu.

Pour prouver ce théorème, on commence par le réinterpréter en termes des constantes de structure des algèbres de Hecke H(G, H) pour H un sous-groupe ouvert compact de G. Rappelons brièvement que par définition H(G, H) := End_{G} (ℤ[G/H]) est un anneau dont le groupe abélien sous-jacent est libre de base les doubles classes [HxH], x ∈ H\G/H, comme on le voit par réciprocité de Frobenius par exemple (on renvoie par exemple le lecteur à [18, I.3] pour les détails). La multiplication est déterminée par les entiers positifs m_{H}(x, y; z) tels que

[HxH][HyH] = ∑_{z∈H\G/H} m_{H}(x, y; z)[HzH].

On peut plonger le groupe abélien H(G, H) dans C_{K}^{c}(H\G/H) en envoyant une double classe [HxH] sur sa fonction caractéristique. On obtient alors un morphisme d’anneaux si l’on munit C_{K}^{c}(H\G/H) du produit de convolution associé à la mesure de Haar normalisée par H.

Soient f ∈ L_{K}^{r}(G) et ϕ ∈ B_{K}^{r′}(G) bi-invariantes par H; alors f ∗ ϕ est aussi bi-invariante par H. Supposant de plus que dx est normalisée par H, alors par ce qu’on vient de rappeler, on a pour tout z ∈ G :

f ∗ ϕ(z) = ∑_{x,y∈H\G/H} m_{H}(x, y; z)f(x)ϕ(y),

la série étant convergente par nos hypothèses sur f et ϕ. Ainsi l’énoncé 4.3 sera une conséquence élémentaire du suivant :

Théorème 4.4 Supposons r ⩾ 2 ou r = ∞. Alors pour tout H, la fonction

(x, y, z) ↦ (vol(HxH)^{1/r}. vol(HyH)^{1/r′}. vol(HzH)^{−1/r′}) |m_{H}(x, y; z)|_{K}

est bornée.

Nous consacrerons le reste de cette section à la preuve du théorème ci-dessus, après deux petites remarques ; tout d’abord, le cas particulier du théorème 4.4 où H est un sous-groupe d’Iwahori et r = 2 est prouvé par Lusztig dans le théorème 7.2 de [8]. Sa preuve repose sur la présentation à la Coxeter de l’algèbre C_{K}^{c}(I\G/I) et ne se généralise donc pas aux sous-groupes de congruences. Par ailleurs, le cas r = ∞ (H quelconque) a déja été réglé au cours de la preuve de la proposition 3.2 : il suffit de faire H^{∨} = H dans l’inégalité 3.3.

Preuve de 4.4 : Si H est un pro-p-sous-groupe ouvert de G, nous noterons

f_{H}^{r}(x, y, z) := vol_{H}(HxH)^{−1/r} vol_{H}(HyH)^{−1/r′} vol_{H}(HzH)^{1/r′} ∈ ℝ_{>0}

de sorte que ce qu’on veut montrer se résume en

∃C_{H}^{r} > 0, ∀(x, y, z) ∈ G^{3}, |m_{H}(x, y; z)|_{p} ⩽ C_{H}^{r}f_{H}^{r}(x, y; z) (4.5)

où |.|_{p} désigne la norme p-adique de ℚ.

Lemme 4.6 Soit H′ un sous-groupe normal de H : si l’énoncé 4.5 est vrai pour H′ alors il l’est pour H.

Preuve : Pour g ∈ G, notons H(g) l’ensemble fini H′\HgH/H′. De l’égalité

[HgH] = ∑_{g′∈H(g)}[H′g′H′],

on tire pour tous x, y, z dans G

m_{H}(x, y; z) = [H : H′]^{−1} ( ∑_{x′,y′∈H(x)×H(y)} m_{H′}(x′, y′; z)) (4.7)

Par ailleurs, pour g ∈ G on a vol_{H}(HgH) = [H : H′]^{−1}#H(g) vol_{H′}(H′gH′). Comme #H(g) est un entier positif inférieur à [H : H′]^{2}, on en déduit l’existence de deux constantes positives C_{1} et C_{2} telles que pour tout g ∈ G

C_{1} vol_{H′}(H′gH′) ⩽ vol_{H}(HgH) ⩽ C_{2} vol_{H′}(H′gH′)

d’où l’existence d’une constante positive C telle que pour tous x, y, z dans G et tous (x′, y′) ∈ H(x) × H(y), on a

f_{H′}^{r}(x′, y′, z) ⩽ Cf_{H}^{r}(x, y, z).

On déduit donc le lemme de 4.7. □

4.8 Réduction à z = xy : On fixe dorénavant un sous-groupe H et un rationnel r ⩾ 2 et on abrège m(x, y) := m_{H}(x, y; xy) et f(x, y) := f_{H}^{r}(x, y, xy).

Soient x, y, z dans G tels que m_{H}(x, y, z) ≠ 0. Alors il existe h_{1}, h_{2}, h_{3} dans H tels que z = h_{1}xh_{2}yh_{3} = x′y′ en posant x′ = h_{1}xh_{2} et y′ = yh_{3}. Or, on a m_{H}(x, y; z) = m_{H}(x′, y′; z) et f_{H}^{r}(x, y, z) = f_{H}^{r}(x′, y′, z). Ceci montre que pour montrer 4.5, il suffit de prouver l’énoncé suivant :

∃C > 0, ∀x, y ∈ G, |m(x, y)|_{p} ⩽ C.f(x, y) (4.9)

Lemme 4.10 Soient x, x′ ∈ G tels que H = (H ∩ x^{′−1}Hx′)(H ∩ xHx^{−1}). Si pour tout y ∈ G, on a |m(x, y)|_{p} ⩽ f(x, y) et |m(x′, y)|_{p} ⩽ f(x′, y), alors pour tout y ∈ G on a aussi |m(x′x, y)|_{p} ⩽ f(x′x, y).

Preuve : Rappelons d’abord que sous l’hypothèse H = (H ∩ x^{′−1}Hx′)(H ∩ xHx^{−1}), on a les égalités Hx′HxH = Hx′xH et vol_{H}(Hx′H) vol_{H}(HxH) = vol_{H}(Hx′xH) que l’on peut résumer en l’égalité

[Hx′H] . [HxH] = [Hx′xH].

De l’égalité

[Hx′xH][HyH] = [Hx′H]([HxH][HyH])

on tire alors la formule

m(x′x, y) = ∑_{z∈H\G/H} m_{H}(x′, z; x′xy)m_{H}(x, y; z) (4.11)

Si z ∈ H\G/H fournit une contribution non nulle à cette formule, il existe u(z) ∈ Hz tel que m_{H}(x′, z; x′xy) = m(x′, u(z)) et Hx′u(z)H = Hx′xyH. Notre hypothèse montre alors que |m_{H}(x′, z; x′xy)|_{p} ⩽ f(x′, u(z)) = f_{H}^{r}(x′, z, x′xy). De la même manière on montre (toujours si z a une contribution non nulle) que notre hypothèse implique |m_{H}(x, y; z)|_{p} ⩽ f_{H}^{r}(x, y, z).

D’autre part, un simple calcul utilisant la multiplicativité du volume rappelée ci-dessus montre que pour tout z ∈ G on a

f_{H}^{r}(x′, z, x′xy)f_{H}^{r}(x, y, z) = f(x′x, y).

Ainsi, on tire de 4.11 que

|m(xx′, y)|_{p} ⩽ sup_{z∈H\G/H}(f_{H}^{r}(x′, z, x′xy)f_{H}^{r}(x, y, z)) = f(x′x, y),

d’où le lemme. □

4.12 Fixons dorénavant un sous-groupe d’Iwahori I de G qui fixe une chambre C de l’appartement associé à un tore déployé maximal dont on note le normalisateur N, le groupe de Weyl affine W et la surjection canonique entre les deux π : N ⟶ W. À I est associée une fonction “longueur” : l : W ⟶ ℕ qui coïncide avec la longueur de Coxeter sur le groupe de Coxeter engendré par les réflexions selon les murs de la chambre C fixée par I et qui vaut 0 sur les éléments qui stabilisent cette chambre. On notera par la suite Î le stabilisateur de la chambre C et S ⊂ W l’ensemble des réflexions d’hyperplan engendré par un mur de C.

Proposition 4.13 G admet une base de voisinages de l’unité formée de sous-groupes H de I normaux dans Î satisfaisant les propriétés suivantes :

i) Pour tous n, n′ ∈ N tels que l(π(nn′)) = l(π(n)) + l(π(n′)), on a

(a) H = (H ∩ n^{−1}Hn)(H ∩ n′Hn^{′−1}),

(b) n^{−1}Hn ∩ n′Hn′^{−1} ⊂ H.

ii) Pour tout s ∈ π^{−1}(S) ⊂ N, le groupe sHs^{−1} normalise H et le produit HsHs^{−1} est un sous-groupe normal du fixateur dans G du mur de C associé à la réflexion π(s) ∈ S.

Nous reportons la preuve de cette proposition au paragraphe 4.20. Grâce au lemme 4.6, il nous suffit de montrer 4.9 pour un tel groupe H. En fait, nous montrerons que pour un tel H, la constante C > 0 de 4.9 peut être prise égale à 1 (et c’est aussi la meilleure possible).

4.14 Réduction à x ∈ N tel que π(x) ∈ S : Par la décomposition de Bruhat-Tits G = INI, on peut écrire un x ∈ G quelconque sous la forme x = i_{1}ni_{2}. Comme I normalise H par hypothèse, on constate que m(x, y) = m(ni_{2}, y) = m(n, i_{2}y) et f(x, y) = f(n, i_{2}y), ce qui ramène le problème de prouver 4.9 à x ∈ N (et y quelconque). Notons alors w := π(x).

On sait que tout w ∈ W s’écrit w_{0}w′ avec l(w_{0}) = 0 et w′ dans le groupe de Coxeter engendré par S. Choisissons un relèvement de cette décomposition x = x_{0}x′ : puisque x_{0} ∈ Î normalise H, on a m(x, y) = m(x′, y) et f(x, y) = f(x′, y) pour tout y ∈ G.

Choisissons maintenant une décomposition réduite de w′ dans le groupe de Coxeter engendré par S et appliquons l(w′) fois le lemme 4.10 grâce à la propriété i)(a) du groupe H : on constate que pour montrer 4.9 avec constante C = 1, il suffit de prouver l’énoncé suivant :

∀s ∈ π^{−1}(S), ∀y ∈ G, |m(s, y)|_{p} ⩽ f(s, y) (4.12)

4.15 Calcul de m(s, y) : Nous utiliserons ici la remarque suivante : si H_{1}, H_{2} et H_{3} sont trois sous-groupes ouverts compacts et x, y ∈ G sont tels que H_{1}xH_{2}yH_{3} = H_{1}xyH_{3}, alors

(4.16) [H_{1}xH_{2}][H_{2}yH_{3}] = vol_{H_{1}}(H_{1}xH_{2}) vol_{H_{2}}(H_{2}yH_{3}) vol_{H_{1}}(H_{1}xyH_{3})^{−1}[H_{1}xyH_{3}].

(le produit est ici celui des fonctions caractéristiques des doubles classes concernées pour la convolution associée à la mesure de Haar normalisée par H_{2}). En effet, on a

[H_{1}xH_{2}][H_{2}yH_{3}] = ∑_{h_{2}∈(H_{2}∩x^{−1}H_{1}x)\H_{2}} ∑_{h_{3}∈(H_{3}∩y^{−1}H_{2}y)\H_{3}}[H_{1}xh_{2}yh_{3}]

et la valeur en xy du membre de gauche est

#{(h_{2}, h_{3}), H_{1}xh_{2}yh_{3} = H_{1}xy}
= #{(h_{2}, h_{3}), H_{1}xh_{2}yh_{3} ⊂ H_{1}xyH_{3}}/#(H_{1}\H_{1}xyH_{3})
= #((H_{3} ∩ y^{−1}H_{2}y)\H_{3})#{h_{2}, H_{1}xh_{2}y ⊂ H_{1}xyH_{3}}/#(H_{1}\H_{1}xyH_{3})
= #((H_{3} ∩ y^{−1}H_{2}y)\H_{3})#((H_{2} ∩ x^{−1}H_{1}x)\H_{2})/#(H_{1}\H_{1}xyH_{3})

Fixons maintenant s ∈ π^{−1}(S), y ∈ G et cherchons à calculer m(s, y). En écrivant y = ini′, on constate facilement que m(s, y) = m(si, n), puisque I normalise H. Notons maintenant H_{s} le groupe H.sHs^{−1} (voir propriété ii) de H) : H_{s} est normalisé par s et i donc on a encore H_{s} = (si)^{−1}H(si).H et HsiH = H_{s}si = siH_{s}. On en déduit que HsiHnH = H_{s}sinH, et grâce à 4.16 on obtient

[HsiH][HnH] = [H_{s}siH][HnH] = vol_{H}(HnH) vol_{H_{s}}(H_{s}sinH)^{−1}[H_{s}sinH].

On constate donc que m(si, n) = vol_{H}(HnH) vol_{H_{s}}(H_{s}nH)^{−1} est indépendant de i ∈ I. De plus, puisque H est normal dans H_{s}, on peut interpréter cette expression comme suit : faisant agir le groupe quotient \overline{H_{s}} := H_{s}/H à gauche sur H\G/H, on obtient

∀i ∈ I, m(si, n) = m(s, n) = # Stab\overline{H_{s}}(HnH) = #((nHn^{−1}H ∩ H_{s})/H).

On en déduit alors le calcul de m(s, n) en suivant exactement la méthode originale de Iwahori-Matsumoto pour le calcul dans le cas H = I.

Plus précisément, supposons d’abord que l(π(sn)) = l(π(n)) + 1. Alors par la propriété i)(a) de H, on a nHn^{−1}H ∩ s^{−1}HsH = (nHn^{−1} ∩ s^{−1}Hs)H et par la propriété i)(b) ceci est égal à H. Supposons au contraire que l(π(sn)) = l(π(n)) − 1, alors par la propriété i)(a), on a H ⊂ (sn)H(sn)^{−1}s^{−1}Hs donc s^{−1}Hs ⊂ nHn^{−1}H puisque H est normalisé par s^{2} ∈ ker π. On a donc

(nHn^{−1}H ∩ sHs^{−1}H) = \{ \begin{matrix}H & si & l(π(sn)) = l(π(n)) + 1 \\ sHs^{−1}H & si & l(π(sn)) = l(π(n)) − 1 \end{matrix}

et on trouve donc :

∀i ∈ I, m(si, n) = m(s, n) = \{ \begin{matrix}1 & si & l(π(sn)) = l(π(n)) + 1 \\ vol_{H}(HsH) & si & l(π(sn)) = l(π(n)) − 1 \end{matrix} (4.17)

4.18 Calcul de f(s, y) : On garde les notations ci-dessus, notamment y = ini′. On voit facilement que f(s, y) = f(si, n). Nous devons envisager plusieurs cas.

Supposons d’abord que i ∈ I ∩ sIs^{−1}. Dans ce cas, on a f(si, n) = f(sis^{−1}s, n) = f(s, n) que l’on calcule selon 2 cas en utilisant la propriété i)(a) de H et notamment la formule vol_{H}(HsnH) = vol_{H}(HnH) vol_{H}(HsH) qu’on en déduit. On trouve

f(s, n) = \{ \begin{matrix}vol_{H}(HsH)^{\frac{1}{r′} − \frac{1}{r}} & si & l(π(sn)) = l(π(n)) + 1 \\ vol_{H}(HsH)^{−1} & si & l(π(sn)) = l(π(n)) − 1 \end{matrix}

Compte tenu de la formule 4.17 donnant m(s, n) et de l’inégalité \frac{1}{r′} − \frac{1}{r} ⩾ 0 (car r ⩾ 2), on obtient bien l’inégalité |m(si, n)|_{p} ⩽ f(si, n) dans ce cas.

Supposons maintenant que i ∈ I \ sIs^{−1}. Alors on peut écrire i = i′u où i′ ∈ I ∩ sIs^{−1} et u est un élément unipotent qui fixe le demi-appartement (la racine affine) contenant la chambre C et de bord l’hyperplan engendré par le mur C ∩ s(C), mais qui ne fixe pas s(C). On a alors f(si, n) = f(su, n) car si′s^{−1} ∈ I. On peut encore distinguer deux sous-cas :

– Le cas l(π(sn)) = l(π(n)) + 1. De manière équivalente, n(C) et C sont dans le même demiappartement délimité par le mur C ∩s(C). On a alors u ∈ nIn^{−1} donc f(su, n) = f(s, un) = f(s, n.n^{−1}un) = f(s, n) et le calcul précédent avec la formule 4.17 nous montre l’inégalité souhaitée |m(si, n)|_{p} ⩽ f(si, n).

– Le cas l(π(sn)) = l(π(n)) − 1. Ici, on utilise la propriété fondamentale dans toute la théorie de Bruhat-Tits [3, (6.2.2)(3)] qui est l’existence d’une décomposition u = \overline{u}_{1}s′\overline{u}_{2} où s′ ∈ π^{−1}(π(s)) ⊂ N et \overline{u}_{i} est un unipotent fixant la racine affine opposée (le demi-appartement “complémentaire”) à celle fixée par u. En particulier, on a s\overline{u}_{1}s^{−1} ∈ I et n^{−1}\overline{u}_{2}n ∈ I, de sorte que vol_{H}(HsunH) = vol_{H}(Hss′nH). Comme par ailleurs ss′ ∈ ker π normalise H, on obtient encore vol_{H}(HsunH) = vol_{H}(HnH). On calcule donc

f(su, n) = vol_{H}(HsH)^{− \frac{1}{r}} .

Compte tenu de 4.17 et de \frac{1}{r} ⩽ 1, on obtient dans ce cas aussi l’inégalité souhaitée |m(si, n)|_{p} ⩽ f(si, n).

4.19 La preuve de 4.4 est ainsi terminée à condition de prouver maintenant la proposition 4.13. Avant de donner les arguments très techniques pour un groupe général, décrivons juste dans le cas SL(2, ℚ_{p}) des groupes H comme dans 4.13. On prend pour I le groupe des matrices à coefficients entiers de réduction triangulaire supérieure. Notons U, resp \overline{U}, le groupe des matrices unipotentes supérieures, resp. inférieures, et T le tore des matrices diagonales. On a les isomorphismes

\begin{matrix}t : ℚ_{p}^{×} & → & T \\ z & ↦ & ( \begin{matrix}z^{−1} & 0 \\ 0 & z \end{matrix} ) \end{matrix} , \begin{matrix}u : ℚ_{p} & → & U \\ x & ↦ & ( \begin{matrix}1 & x \\ 0 & 1 \end{matrix} ) \end{matrix} et \begin{matrix}\overline{u} : ℚ_{p} & → & \overline{U} \\ y & ↦ & ( \begin{matrix}1 & 0 \\ y & 1 \end{matrix} ) . \end{matrix}

Pour n ∈ ℤ, on note U_{n} := u(p^{n}ℤ_{p}) et \overline{U}_{n} := \overline{u}(p^{n}ℤ_{p}) et on note T_{0} := t(ℤ_{p}^{×}) et pour n ∈ ℕ^{×}, T_{n} := t(1 + p^{n}ℤ_{p}). On sait alors que I = \overline{U}_{1}T_{0}U_{0} et on vérifie par le calcul que pour n ∈ ℕ^{×}, l’ensemble H_{n} := \overline{U}_{n+1}T_{n}U_{n} est un sous-groupe normal de I. On a S = \{π(s_{0}), π(s_{1})\} avec

s_{0} = ( \begin{matrix}0 & −1 \\ 1 & 0 \end{matrix} ) et s_{1} = ( \begin{matrix}0 & −p^{−1} \\ p & 0 \end{matrix} ). On voit facilement que H_{n}s_{0}H_{n}s_{0}^{−1} = \overline{U_{n}}T_{n}U_{n} est un

sous-groupe normal du compact maximal SL(2, ℤ_{p}), et de même H_{n}s_{1}H_{n}s_{1}^{−1} = \overline{U}_{n+1}T_{n}U_{n−1} est

un sous-groupe normal de ωSL(2, ℤ_{p})ω^{−1} où ω = ( \begin{matrix}1 & 0 \\ 0 & p \end{matrix} ). On a donc bien la propriété ii) de

4.13. On laisse au lecteur le soin de vérifier la propriété i).

4.20 Preuve de la proposition 4.13 : Il faut utiliser les travaux les plus généraux de Bruhat et Tits complétés par Schneider et Stuhler dans [12]. Le lecteur attentif et informé aura remarqué que les groupes notés U_{C}^{(e)} dans [12, I] pour C la chambre que nous avons fixée en 4.12 ne coïncident pas avec ceux que nous avons définis ci-dessus pour SL(2, ℚ_{p}). C’est que, malheureusement, ces groupes ne vérifient pas la propriété ii) de 4.13. Nous allons expliquer les modifications à apporter aux définitions de Schneider et Stuhler en omettant les détails qui rallongeraient sensiblement le présent texte.

Soit Φ le système de racines associé à notre choix d’appartement. À toute fonction concave f : Φ ∪ {0} ⟶ ℝ̃ au sens de Bruhat-Tits , voir [3, 6.4.9] ou [12, I.2], on peut associer un certain sous-groupe U_{f} (notation de [12, I.2]). Toute facette F de l’appartement définit naturellement une fonction concave f_{F} ainsi qu’une modification f_{F}^{∗} de celle-ci, définies sur Φ et que l’on peut prolonger en 0 en posant f_{F} (0) = 0 et f_{F}^{∗} (0) = 0+. Pour tout entier e, Schneider et Stuhler définissent U_{F}^{(e)} := U_{f_{F}^{∗} +e}. Dans le cas SL(2, ℚ_{p}), e = n − 1 et F la chambre fixée par I, le groupe obtenu est U_{C}^{(e)} = \overline{U}_{n}T_{n}U_{n−1}, qui ne vérifie pas 4.13.

Pour toute facette F de l’appartement, posons simplement H_{F,n} := U_{f_{F} +(n+)}. On vérifie facilement que les conditions du lemme [12] I.2.4 sont vérifiées de sorte que U_{f_{F}} normalise H_{F,n} et on en conclut, en répétant la discussion au-dessus de [12, I.2.7] que H_{F,n} est normal dans le stabilisateur de la facette F. Notons simplement H_{n} := H_{C,n} où C est la chambre fixée par I. Soit F un mur de C et s la réflexion associée. On a l’égalité

∀α ∈ Φ, f_{F} (α) = min(f_{C}(α), f_{C}(s(α)))

De cette égalité et de la décomposition

H_{F,n} = ∏_{α∈Φ}(U_{α} ∩ H_{F,n})(N ∩ H_{F,n}) (4.21)

où U_{α} ∩ H_{F,n} = U_{α,f_{F} +(n+)(α)}U_{2α,f_{F} +(n+)(2α)} pour α réduite, on déduit que

H_{F,n} = H_{n}sH_{n}s^{−1}.

D’où la propriété ii) de 4.13.

La vérification de la propriété i) de 4.13 est plus routinière. Rappelons que lorsque w, w′ ∈ W vérifient l(w) + l(w′) = l(ww′), on a pour toute racine α :

w(U_{α} ∩ I)w^{−1} ⊂ I ou w^{′−1}(U_{α} ∩ I)w′ ⊂ I,

ce que l’on peut traduire par

w(α + f_{C}(α)) ⩽ \overline{w}(α) + f_{C}(\overline{w}(α)) ou w^{′−1}(α + f_{C}(α)) ⩽ \overline{w^{′−1}}(α) + f_{C}(\overline{w^{′−1}}(α)).

Il s’agit ici d’inégalité entre fonctions sur l’appartement, et \overline{w} désigne la partie vectorielle de w agissant sur Φ. On peut alors ajouter n+ à ces inégalités –on obtient une inégalité entre fonctions à valeurs dans ℝ̃ – et traduire à nouveau en termes de groupes, ce qui donne directement pour toute racine non multipliable (compte tenu de H_{n} ∩ U_{α} = U_{α,f_{C}(α)+(n+)}) :

w(U_{α} ∩ H_{n})w^{−1} ⊂ H_{n} ou w^{′−1}(U_{α} ∩ H_{n})w′ ⊂ H_{n},

On vérifie aussi sans peine le même énoncé pour les racines multipliables. On conclut alors grâce à la décomposition 4.21 et le fait que N normalise H_{n} ∩ N, que les groupes H_{n} vérifient bien la propriété i) de 4.13.

5 Une algèbre de Harish Chandra p-adique et sa formule de Plancherel

Si l’on fait r = 2 dans le théorème 4.3, on obtient une structure d’algèbre sur L_{K}^{2}(G). Plus précisément, Corollaire 5.1 Le produit de convolution sur C_{K}^{c}(G) s’étend à L_{K}^{2}(G) et en fait une K-algèbre qui est limite inductive d’algèbres L_{K}^{2}(H\G/H) pour H sous-groupe ouvert compact. Pour un tel H, l’application f ↦ ||f||_{2} = sup_{x∈G} |f(x) vol(HxH)^{1/2}|_{K} est une norme sur C_{K}^{c}(H\G/H) et L_{K}^{2}(H\G/H) en est la complétion. Même énoncé en rajoutant des ω un peu partout.

Il est raisonnable de voir L_{K}^{2}(G) et L_{K}^{2}(G, ω) comme des analogues à coefficients p-adiques des algèbres de Schwartz-Harish Chandra pour les coefficients complexes. Par exemple on a le résultat suivant, analogue du cas classique :

Corollaire 5.2 Soit (π, V) une représentation admissible K-tempérée de caractère central ω. Le morphisme structural π : C_{K}^{c}(G, ω^{−1}) ⟶ End_{K}(V) se prolonge en un morphisme L_{K}^{2}(G, ω^{−1}) ⟶ End_{K}(V).

Preuve : C’est une simple application de 4.3 : si v ∈ V et f ∈ L_{K}^{2}(G, ω^{−1}), on définit π(f)v comme l’unique vecteur de V tel que

∀v^{∨} ∈ V^{∨}, ⟨π(f)v, v^{∨}⟩ = ∫_{G/Z} f(g)⟨gv, v^{∨}⟩.
□

Un des intérêts majeurs de l’algèbre de Harish Chandra dans le cas des coefficients complexes, est qu’elle lui a permis de décrire la mesure de Plancherel associée à G. La notion de mesure de Plancherel est a priori indissociable des coefficients complexes, mais la formule obtenue pourrait avoir un analogue “à coefficients p-adiques”. À titre d’exemple, considérons le cas de SL_{2}.

5.3 Une formule pour G = SL(2) : Nous normalisons la mesure de Haar de G par vol(SL_{2}(O)) = 1. Nous fixons un Borel B et un tore maximal T de ce Borel.

Séries discrètes et degré formel : Notons E_{p}^{2}(G) l’ensemble des classes d’équivalence de représentations ℂ_{p}-discrètes. Il est constitué de supercuspidales et de la représentation triviale. Pour (σ, V) ∈ E_{p}^{2}(G), il y a un unique élément c(σ) ∈ ℂ_{p} vérifiant

∀(v_{i}, v_{i}^{∨}) ∈ V × V^{∨}, i = 1, 2, ∫_{G}⟨v_{1}, gv_{1}^{∨}⟩⟨v_{2}, g^{−1}v_{2}^{∨}⟩dg = c(σ)⟨v_{1}, v_{2}^{∨}⟩⟨v_{2}, v_{1}^{∨}⟩.

Pour une supercuspidale, celui-ci est non-nul et rationnel, par comparaison avec la théorie complexe. Pour la triviale aussi : d’après le calcul fait en 4.2 on a c(σ) = \frac{1}{1−q}. On pose d(σ) := c(σ)^{−1} ; c’est le degré formel de σ. Notons que si σ est la triviale, le degré formel 1 − q ainsi obtenu est l’opposé de celui de la Steinberg vue comme série discrète complexe.

Séries continues et résidus : Notons Ψ_{p}(T) := Hom (T/T^{0}, O_{ℂ_{p}}^{×}) l’ensemble des caractères nonramifiés unitaires. C’est le “cercle unité” p-adique. Le choix de B le munit naturellement d’une coordonnée : on convient de prendre le générateur τ de T/T^{0} qui contracte B. Pour une fonction holomorphe f sur Ψ_{p}(T), nous poserons

∫_{Ψ_{p}(T)} f = ∫_{Ψ_{p}(T)} f(ψ)dψ := a_{0} si f = ∑_{n∈ℤ} a_{n}τ^{n} avec lim_{|n|→∞} |a_{n}| = 0.

C’est aussi le résidu au sens de [5, I.3.2] de la forme différentielle holomorphe fdτ/τ sur la couronne Ψ_{p}(T) et cela ne dépend que de l’ “orientation” définie par τ.

Soit χ : T ⟶ O_{ℂ_{p}}^{×} un caractère unitaire. La composée des deux opérateurs d’entrelacement

i_{B}^{G}(χ ⊗ ℂ_{p}[T/T^{0}]) ⟶ iG ; \overline{B}(χ ⊗ ℂ_{p}[T/T^{0}]) ⟶ i_{B}^{G}(χ ⊗ ℂ_{p}[T/T^{0}])

est la multiplication par une fonction rationnelle μ_{χ}^{−1} ∈ ℂ_{p}(T/T^{0}). Si χ = 1, on a la formule (en rappelant que τ désigne la fonction ψ ↦ ψ(τ))

μ_{1} = q \frac{(τ − 1)(τ − 1)}{(τ − q)(τ − q^{−1})}.

Pour les autres χ, la fonction μ_{χ} est constante. Ainsi, elle est toujours régulière sur la couronne Ψ_{p}(T).

Voici alors la formule de Plancherel p-adique pour SL(2) :

Proposition 5.4 Pour toute fonction f ∈ L_{ℂ_{p}}^{2}(G), on a

f(1) = ∑_{σ∈E_{p}^{2}(G)} d(σ) Tr σ(f) + \frac{q + 1}{2q} ∑_{χ} ∫_{Ψ_{p}(T)} Tr (i_{B}^{G}(χψ)(f)) μ_{χ}(ψ)dψ,

la deuxième somme portant sur les caractères unitaires de T pris à torsion près par un caractère non-ramifié.

Preuve : Remarquons que l’évaluation en 1 et les traces de représentations ℂ_{p}-tempérées sont des fonctionnelles continues sur L_{ℂ_{p}}^{2}(G). De plus, à niveau H fixé, les sommes ci-dessus sont finies. On peut donc se contenter de vérifier l’égalité voulue pour f à support compact, et même pour f de la forme 1_{gH} où H est un sous-groupe ouvert compact et g ∈ G. Pour une telle fonction, la formule de Plancherel (la vraie) donne :

f(1) = ∑_{σ∈E_{∞}^{2}(G)} d(σ) Tr σ(f) + \frac{q + 1}{2q} ∑_{χ} ∫_{Ψ_{∞}(T)} Tr (i_{B}^{G}(χψ)(f)) μ_{χ}(ψ)dψ,

où la deuxième somme porte sur les caractères unitaires complexes de T pris à torsion près par un caractère non-ramifié et Ψ_{∞}(T) désigne le tore compact des caractères unitaires complexes nonramifiés de T muni de sa mesure de Haar normalisée dψ. On renvoie à [19, VIII] et on remarque qu’avec les notations de loc. cit on a γ(G/B) = \frac{q+1}{q} et |W_{M}| = 2.

Notons que les contributions supercuspidales dans la formule complexe et la formule p-adique sont les mêmes. Pour la partie continue, on peut indexer chacune des sommes par des χ à valeurs dans \overline{ℚ}; on a alors μ_{χ} ∈ \overline{ℚ}(T/T^{0}). Pour un tel χ non-trivial, la fonction μ_{χ} est constante et donc la fonction ψ ↦ Tr(i_{B}^{G}(χψ)(f))μ_{χ}(ψ) est polynômiale. Il s’ensuit que les contributions p-adiques et complexes sont identiques dans ce cas. Faisant la différence des formules p-adiques et complexes, on est donc amené à prouver que :

∫_{Ψ_{p}(T)} Tr (i_{B}^{G}(ψ)(f)) μ_{1}(ψ)dψ − ∫_{Ψ_{∞}(T)} Tr (i_{B}^{G}(ψ)(f)) μ_{1}(ψ)dψ = \frac{2q(q − 1)}{q + 1}(Tr St(f) + Tr 1(f))
= \frac{2q(q − 1)}{q + 1} Tr(i_{B}^{G}(δ)(f))

où δ := δB^{\frac{1}{2}} est le caractère non-ramifié donné par δ(τ) = q.

Rappelons que Tr(i_{B}^{G}(ψ)(f)) = ∫_{T} ψ(t)f^{B}(t) où f^{B}(t) = δ(t) ∫_{SL_{2}(O_{F})} ∫_{rad(B)} f(ktuk^{−1})dkdu. Comme f^{B}(t^{−1}) = f^{B}(t), il nous suffira donc de prouver que pour tout t ∈ T, on a une égalité

(∫_{Ψ_{p}(T)} − ∫_{Ψ_{∞}(T)}) ((ψ(t) + ψ(t^{−1})μ_{1}(ψ)dψ) = \frac{2q(q − 1)}{q + 1}(δ(t) + δ(t^{−1})),

autrement dit que pour tout n ∈ ℕ,

(∫_{Ψ_{p}(T)} − ∫_{Ψ_{∞}(T)}) ((τ^{n} + τ^{−n})q \frac{(τ − 1)(τ − 1)}{(τ − q)(τ − q^{−1})}) = \frac{2q(q − 1)}{q + 1}(q^{n} + q^{−n}). (5.5)

Notons maintenant Res_{a}(f) := ((τ − a)f)(a) le résidu algébrique naïf d’une fonction rationnelle f(τ) en un pôle simple a. Le théorème des résidus classique nous assure que :

∫_{Ψ_{∞}(T)} τ^{n}μ_{1} = \{ \begin{matrix}Res_{q^{−1}}(τ^{n−1}μ_{1}) = −q^{−n+1} \frac{q−1}{q+1} & si n > 0 \\ Res_{q}(τ^{n−1}μ_{1}) = q^{n+1} \frac{q−1}{q+1} & si n < 0 \\ (Res_{q^{−1}} + Res_{0})(τ^{−1}μ_{1}) = −q \frac{q−1}{q+1} + q & si n = 0 \end{matrix} ,

tandis que le théorème des résidus p-adique montre :

∫_{Ψ_{p}(T)} τ^{n}μ_{1} = \{ \begin{matrix}Res_{q}(τ^{n−1}μ_{1}) = q^{n+1} \frac{q−1}{q+1} & si n > 0 \\ Res_{q^{−1}}(τ^{n−1}μ_{1}) = −q^{−n+1} \frac{q−1}{q+1} & si n < 0 \\ (Res_{q} + Res_{0})(τ^{−1}μ_{1}) = q \frac{q−1}{q+1} + q & si n = 0 \end{matrix}

On en déduit l’égalité 5.5. □

5.6 Remarques sur le cas d’un groupe quelconque : L’exemple qui précède suggère l’existence d’une formule du type [19, VIII.1.(3)] :

f(1) = ∑_{(P,σ)/∼} c(G|P)^{−2}γ(G|P)^{−1}d(σ)|W_{σ}|^{−1}|Ψ_{p}(M)_{σ}|^{−1} ∫_{Ψ_{p}(M)} Tr(i_{P}^{G}(σψ)(f))μ_{σ}(ψ)dψ

où f ∈ L_{K}^{2}(G) et les σ sont p-discrètes. Pour d(σ) il est naturel de prendre ±d(D_{M}(σ)), le signe dépendant de la profondeur de M. Le signe ∫_{Ψ_{p}(M)} doit correspondre au terme constant du développement en série de Laurent relatif à une base quelconque de M/M^{0}. Il y a alors plusieurs manières pour essayer de prouver une telle formule. Pour GL(n) où on connait explicitement les fonctions μ, on peut essayer de calculer comme dans l’exemple précédent. Pour un groupe plus général, on peut essayer de partir de la formule de Heiermann pour l’algèbre de Hecke [6] et de la désintégrer comme dans [7] en développant une théorie des résidus p-adique en dimension supérieure. Mais il paraît plus intéressant d’essayer d’adapter l’approche de Schneider-Zink [14] aux coefficients p-adiques en définissant une catégorie p-tempérée et en prouvant l’existence d’une décomposition analogue à [14, Thm 4.1] décrite par un analogue de [14, Thm 8.9]. Ceci est évidemment un travail de longue haleine, la première difficulté étant de prouver qu’une représentation p-discrète admet un degré formel.

Références

[1] A.-M. Aubert. Dualité dans le groupe de Grothendieck de la catégorie des représentations lisses d’un groupe réductif p-adique. Trans. Amer. Math. Soc., 347(6) :2179–2189, 1995.

[2] C. Breuil. Sur quelques représentations modulaires et p-adiques II. J. Inst. Math. Jussieu, 2 :1–36, 2003.

[3] F. Bruhat and J. Tits. Groupes réductifs sur un corps local I. Données radicielles valuées., volume 41 of Publ. Math. I.H.E.S. Le Bois Marie – Bures-sur-Yvette, 1972.

[4] J.-F. Dat. ν-tempered representations of p-adic groups. I. l-adic case. Duke Math. J., 126(3) :397–469, 2005.

[5] J. Fresnel and M. Van der Put. Géométrie Analytique rigide et Applications. Number 18 in Progress in Math. Birkhuser, 1981.

[6] V. Heiermann. Une formule de Plancherel pour l’algèbre de Hecke d’un groupe réductif p-adique. Comm. Math. Helv., 76 :388–415, 2001.

[7] V. Heiermann. Décomposition spectrale et représentations spéciales d’un groupe réductif p-adique. J. Inst. Math. Jussieu, 3(3) :327–395, 2004.

[8] G. Lusztig. Cells in affine Weyl groups. In Algebraic groups and related topics, volume 6 of Adv. Studies Pure Math., pages 255–287, 1985.

[9] C. Moeglin. Sur les points de reductibilité pour les groupes classiques. J. Algebra, 268(1), 2003. http ://www.math.jussieu.fr/ moeglin/reductibilitecomparaison.ps.

[10] D. Prasad. Appendice à u(𝔤)-finite locally analytic representations. Representation Theory, 5 :111–128, 2001.

[11] J. Rogawski. Representations of GL(n) and division algebras over local fields. Duke Math. J., 50 :161–196, 1983.

[12] P. Schneider and U. Stuhler. Representation theory of sheaves on the Bruhat-Tits building. Publ. Math. Inst. Hautes Étud. Sci., 85 :97–191, 1997.

[13] P. Schneider and J. Teitelbaum. Banach-Hecke algebras and Galois representations. Preprint, 2005. http ://wwwmath1.uni-muenster.de/u/schneider/publ/pre/index.html.

[14] P. Schneider and E.-W. Zink. The algebraic theory of tempered representations II. Preprint, 2006. http ://wwwmath1.uni-muenster.de/u/schneider/publ/pre/index.html.

[15] A.J. Silberger. Introduction to harmonic analysis on reductive p-adic groups, volume 23 of Notes of P.U.P. Princeton. Univ. Press, 1979.

[16] M.-F. Vignéras. Algèbres de Hecke affines génériques. Representation Theory, 10 :1–20, 2006.

[17] M.-F. Vignéras. A criterion for existence of integral structures in locally algebraic representations of GL_{2}(F). Preprint, 2006. http ://www.math.jussieu.fr/ vigneras/intcriterium.pdf.

[18] M.F. Vignéras. Représentations l-modulaires d’un groupe p-adique avec l différent de p. Number 137 in Progress in Math. Birkhuser, 1996.

[19] J.-L. Waldspurger. La formule de Plancherel pour les groupes p-adiques (d’après Harish-Chandra). J. Inst. Math. Jussieu, 2(2) :235–333, 2003.