LA TOPOLOGIE DANS LES FONDEMENTS DE LA GÉOMÉTRIE En

LA TOPOLOGIE DANS LES FONDEMENTS
DE LA GÉOMÉTRIE
HANS FREUDENTHAL
En 1847, dans l'oeuvre de von Staudt, la topologie frappa à la porte de la
géométrie. Après cette rencontre il s'écoulera presque un demi-siècle, avant
qu'elle ne soit vraiment admise.
Vous connaissez l'artifice de von Staudt qui définit la projectivité comme
une transformation conservant la relation d'harmonicité, artifice fort élégant
et en avance sur son temps, qui n'avait pas encore cultivé le goût des définitions
implicites.
Pour von Staudt cette définition était le moyen indispensable pour démontrer le théorème fondamental de la géométrie projective, sans traduire les
notions géométriques dans le langage algébrique. Von Staudt considère l'ensemble des points invariants de la projectivité donnée, mais il le fait avec l'oeil
du précantorien. Il ne voit que deux possibilités: un ensemble est ou continu ou
discontinu. Dans le premier cas il contient un segment, dont la fermeture harmonique donne déjà la droite entière. Dans l'autre cas l'ensemble doit posséder
deux points successifs a et b; mais s'il y avait alors un troisième point invariant
c, hors du segment ab, son conjugé harmonique serait située à l'intérieur de ab,
ce qui refute l'existence d'un troisième point invariant et prouve le théorème
fondamental.
Felix Klein a jeté le premier doute sur ce raisonnement. Ce fait étonnant
s'est passé en 1873 — étonnant parce que le critique s'appelait Klein et non
par exemple Weierstrass. L'analyse logique n'était pas le fort de Klein, et ce
qu'il a écrit sur cette question pendant les années suivantes, était aussi confus
que possible.
L'analyse d u continu arithmétique réalisée par Cantor et Dedekind (1872)
n'avait pas encore atteint les géomètres, pour lesquels le continu géométrique
restait une donnée intuitive, qu'on n'analysait pas.
En outre, les analyses de Cantor et Dedekind devaient être approfondies
pour les besoins de la géométrie. On ne s'était pas encore attaqué à la notion
d'ordre, car on était toujours parti de l'arithmétique et des nombres. Un événement important fut la redécouverte de l'axiome d'Archimede par O. Stolz
(1881 — 3), qui p a r la lecture des Eléments d'Euclide réussissait à regagner le
178
niveau d'Eudoxe. Le premier système axiomatique où l'ordre et la continuité
sont bien distingués, est celui de P. Veronese (1890).
Mais en vérité on s'était engagé dans une impasse. Par la notion d'ordre on
avait fondé la version réelle de la géométrie et on en avait bloqué la version
complexe, c'est-à-dire justement celle qu'on avait l'habitude d'explorer. En
1899 Hilbert découvrit la connexion qui existe entre les axiomes d'incidence et
les lois algébriques des corps. La géométrie projective sur un corps quelconque
était née. On apprend à traduire des axiomes géométriques par des axiomes algébriques et inversement, que Pappus-Pascal correspond à la commutativité du
corps, que les axiomes d'ordre et de continuité peuvent s'énoncer dans deux
langages parallèles.
Grâce au théorème de Pappus-Pascal on peut se passer des notions de continuité, qui dans la conception de Dedekind dépendent de l'ordre linéaire, obstacle sur la voie à la géométrie complexe. Mais la recherche des corps topologiques inaugurée par D. van Dantzig (1931) a ouvert de nouvelles perspectives.
Le postulat de la compacité locale conduit à une réduction effective des corps
possibles (van Dantzig, Pontryaguine, 1932). La notion de continuité s'introduit dans la géométrie sous un nouvel aspect: celui de la compacité. Il n'y a que
trois geometries projectives compactes et connexes à dimension positive: réelle,
complexe et quaternionienne. Dans ces geometries les droites sont des sphères
à 1, 2 et 4 dimensions, les plans et hyperplans y sont des variétés topologiques,
dont la dimension topologique est égale à la dimension géométrique multipliée
par 1, 2 ou 4.
Jusqu'ici nous avons supposé tacitement le théorème de Desargues, qui
dans la géométrie spatiale est une conséquence des axiomes triviaux d'incidence.
L'indépendance du théorème de Desargues dans le plan était déjà connue de
Klein ou même de Beltrami. Le premier exemple formel d'une géométrie nonarguésienne a été donné par Hilbert (1899). En généralisant cet exemple, on
peut dire que les rayons lumineux d'un plan assez arbitraire à indice de réfraction
variable (mais où il n'y a pas de réflexion totale) peuvent être considérés comme
les droites d'une géométrie non-arguésienne.
Donc même les postulats topologiques n'ont pas le pouvoir d'imposer au
plan projectif le carcactère arguésien. On peut aller plus loin, en passant à la
topologie différentielle et en postulant que la géométrie projective plane soit
d'une classe différentielle k — cela veut dire que ses systèmes locaux de coordonnées dépendent l'un de l'autre par des fonctions différentiables jusqu'à
l'ordre k et que la relation d'incidence est aussi differentiate de l'ordre k. Mais
cela ne suffit pas: on peut construire des geometries non-arguésiennes, qui possèdent ce degré de régularité; il est vraisemblable qu'on peut même admettre la
valeur k = oo. Au contraire on ne sait pas, s'il y a des geometries planes non179
arguésiennes, dont le degré de régularité est celui de l'analyticité réelle.
A Guy Hirsch (1946), qui a orienté les recherches dans cette direction, nous
devons une conception plus large: On peut maintenir le postulat topologique
que le plan projectif soit une variété topologique et que ses droites soient des
sous-variétés situées assez régulièrement, tout en admettant des dimensions
topologiques supérieures à 2 et 1 pour le plan et ses droites. Sans entrer dans
les détails quant aux conditions de régularité, je résume le résultat: la dimension
d'un plan projectif est toujours une puissance de 2; la droite projective est une
sphère, dont la dimension est la moitié de celle du plan. La démonstration de ce
théorème fait appel à la théorie topologique des espaces fibres.
Le désir de se libérer des conditions de régularité dans l'énoncé de ce
théorème, est assez naturel. On chercherait toutes les geometries qui satisfont
aux axiomes d'incidence triviaux du plan projectif et aux postulats topologiques qui suivent : le plan est un espace compact, les droites en sont des sousensembles fermés et connexes, la droite joignant deux points et le point d'intersection de deux droites sont fonctions continues de ces deux arguments. Tout ce
qu'on peut déduire jusqu'ici de ces données, c'est que les droites de ces geometries jouissent d'une propriété très forte de contractilité, à savoir: chaque
vrai sous-ensemble fermé de la droite est contractile en un seul point sur la
droite. Ce théorème peut être obtenu avec des méthodes bien connues de la
théorie des bouts de groupes. Il y a un système de projectivités laissant invariants deux points (0 et oo) et transformant un point donné 1 dans un point
quelconque a(^ O, ^ oo), tel que le produit ab qui donne l'image de b par la
transformation appliquant 1 en a, est continu et biunivoque. Les 0 et oo sont
alors les bouts du reste de la droite projective (qui est un ,,Schiebraum"),
d'où l'on conclut à la contractilité que je viens d'énoncer.
En outre nos droites projectives sont d'une homogénéité excessive. Est-il
trop téméraire de conjecturer que ces plans projectif s sont nécessairement des
plans de Hirsch et donc des variétés dont la dimension est une puissance de
deux? Mais dans l'état actuel de la topologie, nous ne disposons pas d'outils
pour étudier effectivement des espaces homogenes, si cette homogénéité ne se
manifeste pas dans un groupe localement compact.
Quant aux cas spéciaux on connaît des geometries planes projectives à 2, 4, 8
et 16 dimensions, les plans projectif s sur le corps réel, complexe, quaternionien
et sur le corps alternatif des octaves. La construction habituelle des trois premiers,
où l'on représente les points et les droites par des triples à un facteur à gauche ou
à droite près et la relation d'incidence par une équation ^1co1 + f2a>2 + |3co3 =
0, ne fonctionne plus pour les octaves qui n'obéissent pas à la loi associative.
Cependant on peut parvenir au plan projectif des octaves en ajoutant au plan
affin des octaves de Mlle. Moufang une droite à l'infini ou en appliquant une
180
méthode topologique élaborée par G. Hirsch. Une construction plus symétrique
qui révèle aussi le groupe projectif de ce plan, est celle où on emploie l'algèbre
exceptionnelle de P. Jordan. On considère des matrices, 3 x 3 , hermitiennes,
avec des octaves pour coefficients, et on en fait une algèbre commutative en
symétrisant le produit matriciel ordinaire. Les points et les droites du plan sont
les idempotents de cette algèbre, la relation d'incidence est X o U = 0. Le
groupe projectif de ce plan est une forme réelle du E6 exceptionnel, ses groupes
elliptique et hyperbolique sont des formes du JP 4 . Cette géométrie est nonarguésienne, mais elle obéit à la loi de l'unicité du conjugué harmonique, loi
plus faible que le théorème de Desargues. Elle est analytique et même algébrique
— il y a des raisons de conjecturer que, pour un nombre quelconque de dimensions, l'analyticité implique l'harmonicité. Reste encore à confesser que nous ne
savons rien sur l'existence possible ou l'impossibilité de geometries projectives
planes à un nombre plus élevé de dimensions. La réponse dépend de problèmes
non résolus de la théorie des espaces fibres. Une autre question est celle de la
signification géométrique des E7 et EQ; elle a trouvé une réponse partielle, mais
pas encore satislaisante.
A cette occasion il convient de signaler que quelques résultats de la géométrie des octaves que j'ai publiés au cours de ces dernières années, ont été
déjà annoncés par P. Jordan dans un article que je n'ai connu que beaucoup
plus tard.
La méthode de recherche fondamentale géométrique, où le point de départ
est la relation d'incidence, n'est pas la seule. L'autre est celle où le premier rôle
revient aux transformatiosn géométriques.
Riemann, dans son discours fameux de 1854, cherchait parmi les variétés
auxquelles on a donné son nom, celles dans lesquelles les corps rigides peuvent
mener une existence indépendante de leur place, et il trouvait les espaces à
courbure constante. Helmholtz, au début indépendemment de Riemann, précisait la notion de la mobilité des figures (1868); d'autre part il partait d'un invariant assez arbitraire d'un couple de points au lieu de la métrique riemannienne. Les définitions toujours vagues de Helmholtz ont été améliorées par
Lie (1890), qui y introduisit la notion de groupe: L'espace est une variété à
n dimensions assez régulière régi par le groupe des transformations compatibles
avec l'invariant prescrit. La libre mobilité veut dire que, k ^ n — 2 points
généraux étant fixés, un (k + l)-ème peut occuper grace au groupe toutes les
positions compatibles avec l'invariant, tandis que n — 1 points étant fixés, il
n'y a plus de mouvement. En vérité au lieu du problème proposé, Helmholtz
résolvait celui que Lie a appelé ,,libre mobilité infinitésimale"; Lie les a traités
tous les deux, le problème fini avec des méthodes qui ne sont pas à l'abri de
toute reproche du point de vue moderne. En tout cas les espaces qui résultent
181
du problème, sont de nouveau ceux à courbure constante. Helmholtz croit son
analyse supérieure à celle de Riemann, parce qu'il réussit à démontrer le caractère pythagoricien de l'invariant, introduit comme hypothèse par Riemann.
Qu'il admette l'existence des déplacements dès le début, cette limitation ne lui
semble pas sérieuse, parce que d'apès lui, sans cette notion de congruence, il
n'y a pas non plus de comparaison de longueurs, importante pour l'existence
d'une métrique. Il est clair que Helmholtz se trompe sur ce point. Pour comparer
des longueurs on doit disposer, non de corps rigides, mais seulement d'étalons,
dont la dimension longitudinale est rigide, et dont les dimensions transversales
peuvent être négligées. C'est justement l'idée de Riemann.
En 1902, Hilbert a repris ces recherches en leur donnant une tournure
purement topologique. En 1928 dans une note importante, mais dépourvue de
démonstrations, Kolmogorov a généralisé les idées de Hilbert à n dimensions.
Des recherches plutôt partielles ont été faites par Brouwer, R. L. Moore,
Lubben, Süss, Kerékjartó, Montgomery et Zippin. La solution du cinquième
problème de Hilbert, même quand elle n'était pas encore complète, a influencé
le traitement du problème de Helmholtz-Lie. En effet, ensemble avec des idées
algébriques elle peut servir à caractériser topologiquement certains groupes géométriques. Un des plus beaux résultats a été obtenu par J. Tits (1951) qui
précédé par Kérékjarto et suivi par le conférencier, a pu classifier les groupes
triplement transitifs: un tel groupe opérant dans un espace localement compact,
métrisable et non totalement discontinu est essentiellement le groupe projectif
de la droite réelle ou complexe. J. Tits a aussi classifié les groupes doublement
transitifs, qui sous ls mêmes conditions coincident avec les groupes des transformations linéaires et entières de la droite réelle, complexe ou quaternionienne.
Tout récemment A. Borei a trouvé de vastes généralisations de ces résultats,
qui se trouvent partiellement aussi dans un mémoire inédit de J. Tits.
Sous une nouvelle forme, celle de la métrique, Garret Birkhoff (1944) a
ranimé l'invariant des recherches classiques. Pour caractériser les espaces à
courbure constante, il a étudié les isométries des espaces métriques. Continuant
des travaux de Busemann, H. C. Wang (1951) a réussi à classifier les espaces
métriques compacts et connexes où chaque couple de points peut être transformé par isométrie dans chaque couple congruent. Pour les espaces localement
compacts il a fait de même sous des conditions supplémentaires, parmi lesquelles celle d'une dimensions impaire est la plus essentiele. Outre les espaces
classiques du problème de Helmholtz-Lie et leurs analogues complexes et
quaternioniens, il trouve le plan elliptique des octaves.
La plus grande clarté a été atteinte par J. Tits (1953), qui est retourné au
système de Kolmogorov, tout en embrassant en même temps les résultats de
Wang. Cependant il faut remarquer que sa liste est très incomplète.
182
D'après ces recherches, l'état de choses est le suivant. Il est assez naturel
de postuler la compacité locale, la connexité et la métrisabilité de l'epace où
le groupe opère, et la transiti vite du groupe même. Ce sont des postulats triviaux.
Puis il faut demander une espèce de rigidité de l'espace. Cela peut être
l'existence de l'invariant d'un couple de points semblable à celle postulée par
Helmholtz-Lie, ou, postulat plus fort, qui n'est pas strictement nécessaire,
l'existence d'une métrique invariante. Le même résultat s'obtient par un dispositif ingénieux de Hilbert, qu'on retrouve chez Kolmogorov sous le nom de
continuité uniforme du groupe, et auquel Zippin, sous une forme affaiblie a
donné le nom de rigidité topologique: Deux points a et b étant donnés, il y a
un ensemble ouvert, dont les transformés ne rencontrent pas en même temps
des voisinages de a et b. Il est remarquable que cette condition permet de pourvoir l'espace d'une mesure invariante.
Cette condition garantit aussi la compacité du groupe de stabilité ou d'isotropie d'un point quelconque. D'autre part on a besoin d'un postulat qui fait que
sous ce groupe l'orbite d'un point soit assez étendue. L'homogénéité métrique
à deux points de Wang veut dire que cette orbite est précisément une sphère
métrique. La condition de Kolmogorov que deux orbites quelconques sont situées comme deux sphères au sens de la séparation topologique, a les mêmes
conséquences, mais des conditions beaucoup plus faibles suffisent toujours, par
exemple celle qu'une seule orbite partage l'espace (ou le partage localement).
La condition d'homéomorphie de deux orbites quelconques conduit à des
résultats assez voisins. Dans le cas de deux dimensions Hilbert a pu se
contenter d'exiger que l'orbite soit infinie.
L'analyticité du groupe n'exige pas de nouvelles suppositions, grâce à la
solution récente du cinquième problème de Hilbert. On peut alors continuer
l'analyse avec les méthodes des groupes de Lie. Le groupe de stabilité est linéaire et compact, donc orthogonal. Il est transitif sur la sphère. La théorie de
Cartan permet de classifier les groupes orthogonaux transitifs sur la sphère.
Puis il faut chercher les groupes transitifs qui possèdent un de ces groupes comme groupe de stabilité. Ce problème devient plus clair si l'on cherche tous les
groupes qui possèdent un groupe orthogonal irréductible comme groupe de
stabilité. On démontre qu'ils sont ou semi-simples ou que leur radical est un
groupe de translations pareil à celui de l'espace euclidien. Le dernier cas est le
plus facile, le premier revient à la recherche des sous-groupes semi-simples de
groupes semi-simples, achevée par Malcev et Dynkin, mais plus élémentaire au
cas présent.
Ainsi on arrive à une classification des variétés riemanniennes, dont le
groupe d'isotropie est irréductible, et qui admettent aussi une définition pure183
ment topologique. Pour caractériser les groupes classiques du problème de
Helmholtz-Lie, on introduira des conditions supplémentaires. Les plus naturelles sont celles qui augmentent le degré de transitivité (ou de mobilité). On voit
aisément que la libre mobilité est beaucoup trop forte. La mobilité double
marque les groupes de Tits, qui sont toujours assez nombreux. La mobilité
triple engendre justement les espaces à courbure constante, car elle permet de
transformer chaque élément plan dans chaque autre et donc de constater la
constance de la courbure. C'est là le postulat qui a été étudié par Busemann et
qui dit que chaque triangle peut être transformé dans chaque triangle congruent
par une isométrie de l'espace.
184