Un espace métrisable non topologiquement complet dont tous les sous-espaces fermés séparables sont polonais

par Jean SAINT RAYMOND

THEOREME A. Il existe un espace métrisable Y dont tous les sous-espaces fermés séparables sont polonais, mais qui n’est pas un G_{δ} de son complété.

Un tel espace ne peut être complet pour une distance compatible avec sa topologie. Alors qu’un espace métrique est complet si et seulement si ses sous-espaces fermés séparables sont complets, cet énoncé montre que la propriété d’être topologiquement complet ne peut pas se lire sur les sous-espaces séparables. Par ailleurs, en vertu d’un théorème de G. Debs, cet espace Y est héréditairement de Baire, c’est-à-dire β-défavorable pour le jeu fort de Choquet. Puisqu’il n’est pas topologiquement complet, il ne peut pas être non plus fortement α-favorable.

NOTATIONS

On désignera dans toute la suite par E le sous-espace de ω_{1}^{ω} formé des suites strictement croissantes d’ordinaux dénombrables, par L l’ensemble des ordinaux dénombrables limites, par σ l’application de E dans L qui à toute suite croissante d’ordinaux associe sa borne supérieure.

On notera encore E_{0} le sous-espace de ω_{1}^{ω} formé des suites (η_{k}) vérifiant η_{0} ∈ L et pour tout entier k ≥ 1, η_{k} < η_{k+1} < η_{0}, et G_{0} le sous-espace de E_{0} formé des suites (η_{k}) telles que η_{0} = sup_{k≥1} η_{k}. Il est clair que ω_{1}^{ω} est un espace métrisable complet pour la topologie produit, si chaque facteur ω_{1} est muni de la topologie discrète, que E_{0} est fermé dans ω_{1}^{ω} et que G_{0} est dense dans E_{0} .

LEMME 1. La trace de G_{0} sur tout fermé séparable de E_{0} est polonaise.

SI H est un fermé séparable de E_{0}, il existe un ordinal ξ tel que, pour tout suite (η_{k}) de H, on ait η_{k} ≤ ξ. Alors on a

G_{0} ∩ H = ⋂_{ζ<ξ}{(η_{k}) ∈ H : ∃p ∈ ω η_{p} > ζ ou η_{0} ≤ ζ}

qui est un G_{δ} de H puisque cette intersection est dénombrable et que les ensembles intersectés sont clairement ouverts dans H.

LEMME 2. Si G_{0} est un G_{δ} de E_{0} il existe une fonction φ de L dans E qui à tout ordinal limite ξ ∈ L associe une suite fondamentale φ(ξ), c’est-à-dire σ∘φ(ξ) = ξ.

On munit l’ensemble D des suites finies d’ordinaux dénombrables d’un bon ordre ≤ en posant s ≤ t – si s = t – ou si la longueur ℓh(s) de s est strictement inférieure à celle ℓh(t) de t – ou si ℓh(s) = ℓh(t) et s’il existe k < ℓh(s) tel que s(k) < t(k) et s(i) = t(i) pour i < k. Pour s ∈ D, on note N_{s} l’ensemble des suites (η_{k}) de E_{0} qui commencent par s.

Supposons que G_{0} soit un G_{δ} de E_{0}. Il existe alors une suite (U_{k})_{k∈ω} d’ouverts de E_{0} dont G_{0} est l’intersection.

On construit inductivement, pour tout ξ ∈ L et tout entier k, des éléments s_{k}(ξ) de D en posant :

s_{0}(ξ) = ⟨ξ⟩

s_{k+1}(ξ) = min{s ∈ D : ℓh(s) > ℓh(s_{k}(ξ)) et s_{k}(ξ) ≺ s et N_{s} ∩ E_{0} ≠ ∅ et N_{s} ⊂ U_{k}}

ce qui est possible puisque les ouverts U_{k} sont denses dans E_{0}. On voit alors aisément que, pour tout ξ de L, il existe un unique point φ(ξ) de E tel que pour tout entier k, s_{k}(ξ) ≺ ⟨ξ⟩^{⌢}φ(ξ). Et puisque

⟨ξ⟩^{⌢}φ(ξ) ∈ ⋂_{k∈ω} N_{s_{k}(ξ)} ⊂ ⋂_{k∈ω} U_{k} = G_{0}

on voit que σ∘φ(ξ) = ξ, c’est-à-dire que φ(ξ) est une suite fondamentale pour l’ordinal ξ.

Inversement, on peut remarquer que l’existence d’une telle fonction φ entraîne que G_{0} est un G_{δ} de E_{0}. Il est clair également que, sous l’axiome du choix, une telle fonction existe nécessairement

LEMME 3. S’il existe une fonction φ de L dans E qui à chaque ordinal limite ξ associe une suite fondamentale pour ξ, il existe un sous-espace de E, dont la trace sur tout fermé séparable de E est polonaise, mais qui n’est pas un G_{δ} de E.

Soient X le sous-espace φ(L) de l’espace métrisable complet E, et Y le complémentaire E \ X. Si E_{η} désigne le sous-espace fermé de E formé des suites croissantes (η_{k}) telles que, pour tout k, η_{k} < η, on voit aisément que tout sous-espace séparable de E est contenu dans l’un des E_{η} et que E_{η} ∩ X = {φ(ξ) : ξ ∈ L et ξ ≤ η}. Il en résulte que X rencontre toute partie séparable de E suivant un ensemble au plus dénombrable, et que, pour tout fermé séparable F de E, F ∩ Y est le complémentaire d’une partie dénombrable dans un polonais, donc également polonais.

Il suffit de montrer que X n’est pas un F_{σ} dans E pour achever la démonstration du lemme. Le lemme suivant est probablement bien connu.

LEMME 4. Si X est un F_{σ} dans un espace métrique complet E, ou bien X contient une copie de l’ensemble de Cantor 2^{ω}, ou bien X est réunion dénombrable de fermés discrets de E.

Il suffit, bien évidemment de démontrer le lemme quand X est fermé dans E. Si X ne contient pas de copie de 2^{ω}, il ne contient aucun fermé parfait non vide. La famille transfinie des dérivés (X^{(ξ)}) stationne donc à ∅ à partir d’un ordinal (pas nécessairement dénombrable) γ. La famille des (X^{(ξ)} \ X^{(ξ+1)})_{ξ<γ} forme donc une partition de X, et si on pose, pour k entier :

X_{k} = ⋃_{ξ<γ}{x ∈ X^{(ξ)} : d(x, X^{(ξ+1)}) ≥ 2^{−k}}

on vérifie sans peine que chacun des X_{k} est fermé discret et que X est réunion des X_{k}.

LEMME 5. Si φ est une fonction de L dans E qui à chaque ordinal limite associe une suite fondamentale et si S est une partie stationnaire de L, φ(S) n’est pas discret dans E.

Pour toute suite s de D, on désignera maintenant par N_{s} l’ensemble des (η_{k}) Supposons que S soit stationnaire et φ(S) discret. Alors, pour tout ξ dans S, il existe une suite s(ξ) dans D, de longueur minimale telle que N_{s(ξ)} ∩ φ(S) = {φ(ξ)}. Il est clair que si ξ et η sont distincts dans S, s(ξ) ≠ s(η). Si on note ℓ(ξ) la longueur de la suite s(ξ), et ψ(ξ) = φ_{ℓ(ξ)}(ξ) , où φ_{k}(ξ) ∈ ω_{1} désigne la coordonnée d’indice k de ξ. On a ∀i < ℓh(s(ξ)) s(i) = φ_{i}(ξ) < ψ(ξ) < ξ. Il en résulte que, pour tout ordinal η et tout entier k, l’ensemble des ξ ∈ S tels que ℓ(ξ) = k et ψ(ξ) = η est au plus dénombrable, puisque l’ensemble des s ∈ D de longueur k et dont les termes sont majorés par η est luimême dénombrable. Pour tout ordinal η, l’ensemble des ξ ∈ S tels que ψ(ξ) ≤ η est donc dénombrable.

On peut donc définir une fonction ψ^{∗} : ω_{1} ⟼ ω_{1} par

ψ^{∗}(ξ) = min{ζ ∈ S : ∀η ∈ S η ≥ ζ ⟹ ψ(η) > ξ}

Alors, l’ensemble C des points fixes de ψ^{∗}, c’est-à-dire

C = {η ∈ ω_{1} : ∀ζ < η ψ^{∗}(ζ) < η}

est un club de ω_{1} disjoint de S. En effet, si η ∈ S ∩ C, on doit avoir, en posant ξ = ψ(η) et ζ = ψ^{∗}(ξ) :

ξ = ψ(η) < η

donc

ζ = ψ^{∗}(ξ) < η

Par définition de ψ^{∗}, et puisque η appartient à S et est supérieur à ζ, on doit avoir ψ(η) > ξ = ψ(η). Cette contradiction montre que C ∩ S est vide, donc que S ne peut être stationnaire.

Démonstration du lemme 3. Si X était un F_{σ} dans E, il ne pourrait contenir de copie de 2^{ω} puisque sa trace sur tout fermé séparable est au plus dénombrable. Il serait donc, d’après le lemme 4, réunion d’une suite (X_{k}) de fermés discrets de E. Et, pour chacun des ensembles S_{k} = {ξ ∈ L : φ(ξ) ∈ F_{k}}, il existerait un club C_{k} disjoint de S_{k}. Alors l’intersection C = ⋂_{k∈ω} C_{k} serait un club disjoint de L. Cette contradiction achève la démonstration.

Démonstration du Théorème A. Si G_{0} n’est pas un G_{δ} de E_{0}, il est un exemple d’espace métrisable non topologiquement complet dont tous les sous-espaces séparables sont polonais. Dans le cas contraire, il résulte du lemme 2 l’existence d’une fonction φ : L → E qui associe à chaque ordinal limite une suite fondamentale. Alors l’espace Y construit à partir de φ n’est pas un G_{δ} dans E, bien que ses traces sur les fermés séparables de E soient polonaises.

En dépit de ce résultat négatif, on peut noter que les sous-espaces à la fois F_{σ} et G_{δ} d’un espace métrisable complet M sont caractérisés par leurs traces sur les compacts de M.

THEOREME B. Soient M un espace métrique complet et X une partie de M. Pour que X soit, dans M, à la fois un F_{σ} et un G_{δ}, il faut et il suffit que, pour tout compact T de M, X ∩ T soit à la fois un F_{σ} et un G_{δ} de T.

Il suffit de montrer que si X et Y sont deux parties disjointes de M qui ne sont pas séparables l’une de l’autre par un ensemble Z à la fois F_{σ} et G_{δ} de M, il existe un compact T de M tel que T ∩ X et T ∩ Y soient tous deux denses dans T. Dans ce cas, en effet, si H était une partie F_{σ} et G_{δ} de T qui sépare T ∩ X et T ∩ Y, H et T \ H seraient deux G_{δ} denses de T et devraient avoir une intersection dense.

Pour cela, on définit par récurrence transfinie, pour tout ordinal ξ des fermés F_{ξ} et H_{ξ} de M par

F_{0} = M
H_{ξ} = \overline{F_{ξ} ∩ Y}
F_{ξ+1} = \overline{X ∩ H_{ξ}}
F_{λ} = ⋂_{ξ<λ} F_{ξ}  pour tout ordinal limite λ

Les suites (F_{ξ}) et (H_{ξ}) sont décroissantes. Il existe donc nécessairement un ordinal γ tel que F_{γ+1} = F_{γ}. Alors H_{γ} = F_{γ}, c’est-à-dire que X ∩ F_{γ} et Y ∩ F_{γ} sont denses dans F_{γ}.

Si F_{γ} = ∅, on considère l’ensemble

Z = ⋃_{ξ<γ}(F_{ξ} \ H_{ξ})

On vérifie sans peine que

M \ Z = ⋃_{ξ<γ}(H_{ξ} \ F_{ξ+1})

que X ⊂ Z et que Y ⊂ M \ Z. De plus, si on pose, pour k entier

Z_{k} = ⋃_{ξ<γ}{x ∈ F_{ξ} : d(x, H_{ξ}) ≥ 2^{−k}}

Z′_{k} = ⋃_{ξ<γ}{x ∈ H_{ξ} : d(x, F_{ξ+1}) ≥ 2^{−k}}

on voit que Z_{k} est fermé dans M : en effet, si une suite (x_{i}) dans Z_{k} converge vers x, les points x_{i} appartiennent tous à partir d’un certain rang à un même {x ∈ F_{ξ} : d(x, H_{ξ}) ≥ 2^{−k}} et leur limite x aussi. On voit aussi que Z est la réunion des Z_{k}, donc que Z est un F_{σ}. On voit de même que M \ Z est un F_{σ}. L’ensemble Z est donc à la fois F_{σ} et G_{δ} et sépare X de Y.

Inversement, si F_{γ} ≠ ∅, on peut construire par récurrence sur l’entier k des points x_{s} de F_{γ} indexés par les suites s d’entiers de longueur k de sorte que

x_{s} ∈ X ∩ F_{γ} si ℓh(s) est paire
x_{s} ∈ Y ∩ F_{γ} si ℓh(s) est impaire
d(x_{s}, x_{s^{⌢}m}) < ν(s^{⌢}m)

où l’on a posé ν(s) = 2^{−(n_{0}+n_{1}+···+n_{k−1}+k)} pour s = (n_{0}, n_{1}, …, n_{k−1}). Pour cela, on choisit d’abord un point x_{∅} dans X ∩F_{γ}, puis, chaque fois que x_{s} est choisi dans F_{γ}, on peut trouver, par densité de X_{γ} = X ∩F_{γ} et de Y_{γ} = Y ∩F_{γ} dans F_{γ} des points x_{s^{⌢}m} dans X_{γ} ou Y_{γ} selon la parité de ℓh(s) à distance de x_{s} inférieure à ν(s^{⌢}m). L’ensemble D = {x_{s} : s ∈ ω^{<ω}} est précompact dans M puisque, en notant D_{k} l’ensemble fini des x_{s} pour ℓh(s) ≤ k et s(i) ≤ k (i = 0, 1, …, ℓh(s) − 1), on a pour tout s, d(x_{s}, D_{k}) < 2^{−k}.

Il en résulte que T = \overline{D} est une partie compacte de M et que T ∩ X et T ∩ Y sont denses dans T. Ceci termine la démonstration du théorème B.