SUR QUELQUES MÉTHODES TOPOLOGIQUES DANS LA

L. LUSTERNIK (Moskva - U. S. S. R.)
SUR QUELQUES MÉTHODES TOPOLOGIQUES
DANS LA GÉOMÉTRIE DIFFÉRENTIELLE
Mon exposé donne les résultats obtenus par moi en coUaboration avec
M. SCHNIRELMAN.
Définition de la catégorie. Soit donné un espace topologique R compact
et métrique.
L'ensemble fermé sur R est de première catégorie relativement à R si cet
ensemble peut être réduit en un point.
L'ensemble M fermé sur R est de catégorie K relativement à R si
cet ensemble peut être divisé en K parties de Ière catégorie et s'il ne peut
pas être divisé en un plus petit nombre de teUes parties. Nous écrivons :
cat 31= K.
On peut démontrer facilement les propositions suivantes :
1. Cat A + cat B^cat (A + B), d'où cat (Ä^B) > cat A — cat B.
2. Désignons par S(A, s) la sphère fermée de rayon s circonscrite à l'en-
semble A. Si e est suffisamment petit, nous avons: cat S (A, fi) = cat A.
3. Soit donné une suite d'ensembles An des catégories K et leur limite topo-
logique A ; nous avons : cat
An<eat A.
4. Classes topologiques. Nous aUons nommer classe topologique l'ensemble
des ensembles fermés possédant les propriétés suivantes :
1°) Il est invariable par rapport aux déformations topologiques dans R.
2°) Il est invariable par rapport au passage à la limite. De la définition
de la catégorie il résulte que chaque ensemble B résultant de la déformation
topologique de l'ensemble fermé A et de la même catégorie que A.
Lemme. - La classe de tous les ensembles ftbi de catégorie ^-i est une
classe topologique.
Exemple. - Soit Rn un espace projectif de n dimensions. Il est de caté-
gorie n + 1 par rapport à soi-même.
On démontre cette proposition directement pour n=l,2m, dans les cas général
on se sert de l'indice de KRONECKER.
Le principe du point essentiel. Soit Rn un espace Riemannien à n di-

292 COMUNICAZIONI
mensions. Soit donnée sur Rn une fonction arbitraire f, qui est continue de
même que ses dérivées partieUes des deux premiers ordres.
Désignons par (f=c) une hypersurface sur R définie par l'équation f=c,
par (f<c) l'ensemble des points où f<c et par (df=0) l'ensemble des points
où df=0. Soit (M) une classe topologique d'ensembles sur R. La fonction atteint
son maximum sur chacun des ensembles de la classe (M). Désignons par C
les bornes inférieures de ces maxima. Cette borne est atteinte sur un au moins
de ces ensembles. Appelons un tel ensemble « ensemble minimal ».
On ne peut transporter à l'aide de la déformation topologique quelque ensemble
de classe (M) dans le domaine (f<c).
Considérons l'hypersurface (f=c). Admettons que dans tout point de cette
hypersurface df=¥0. Alors on peut construire la normale à cette hypersurface
dans la direction où f<c et cette normale varie continueUement de point en
point. On peut transporter tous les points d'un ensemble A appartenant à (f=c)
et intérieur à R dans le domaine (f<c), tout point de A en le faisant mouvoir
sur la normale qui traverse ce point.
Soit Mo un ensemble minimal de la classe (M) et tel que l'intersection
M0x(f=c) est à l'intérieur de R. Il existe au moins un point de cette inter-
section où df=0, car dans le cas opposé on aurait sur une sphère de rayon
suffisamment petit inscrit autour de cette intersection df=¥Q. Le procédé dont
nous avons parlé nous permettra de transporter M0 dans le domaine (f<c), ce
qui est impossible. Ce principe (principe du point essentiel) est une générali-
sation du minimax-principe de MM. G. BIRKHOFF et M. MORSE.
Théorème du gradient. Admettons que Rn renferme au moins un ensemble
de catégorie K. Définissons sur Rn les classes topologiques (Itbi), (/lß2),—> (/IDfc)
où tous les ensembles de la classe (tibi) sont de la catégorie ^i. Désignons
par Ci, c2,...., Cjc les bornes inférieures des maximums de f sur les ensembles
des classes (flfoi), (ftb2),...., (fUSk) respectivement. Nous avons: Ci^c2^-Cjc.
Soit Ci=Ci+i = ....=Ci+p et quelque ensemble minimal flbp^ de la classe (ffbi+p)
situé à l'intérieur de Rn.
Supposons que l'intersection de fïb'0+px(f=c)x(df=0) soit de la catégorie
<p + l.
Désignons cette intersection par P. Avec s suffisamment petit
G8LtS(P,s) = CSLtP
ctit[flbî+P-S(P,e)]^i.
Désignons cette différence par jflB?. Nous avons cat fifo^p c'est à dire /BS?C (fllSi)
le maximum de f sur /B^^Cë, parce que flb^Kflhî+P
es*
Ie maximum de f
sur {lbth?=Oi+p=Ci.
D'autre part, le maximum de f sur {Jth°4^Ci est par définition des d. Alors
le maximum est égal à Ci et /IßJ est un ensemble minimal de la classe ((Ibi).

L. LUSTERNIK: Méthodes topologiques dans la géométrie différentielle 293
A cause du principe du point essentiel l'intersection (df=0)flb%f=Ci) contient
le point a où le gradient df=0,
acm><(f=c)x(df=0)cm+p(f=Ci)x(df==0)=P.
Mais a c flb] = -flBS+p — S(P, E) donc a c|= P. Par conséquent l'hypothèse
eatP^p + 1 est contradictoire.
Admettons que toute classe (flbi) contient au moins un ensemble minimal à
l'intérieur de Rn.
Deux cas sont possibles :
1°) tous les nombres Ci sont différents. Alors chaque hypersurface (f=d)
contient au moins un point où df=0.
2°) Ci = Ci+p l'hypersurface f=Ci contient un ensemble des points de
catégorie ^p + 1 où df=0.
Puisque tout ensemble de la catégorie m contient au moins m points diffé-
rents, notre théorème est exact.
Si R est d'un seul tenant, chaque ensemble sur R de catégorie ^-2 est de
la puissance du continu.
Exemple. - Le théorème des nombres fondamentaux. Soit F une forme
n
quadratique de N variables réelles xi} x2,...., xn. Soit E la forme 2]#1. Étudions
i=l
la fonction F sur la sphère E=l. Dans les points diamétralement opposés de
cette sphère la fonction F admet les mêmes valeurs. Désignons par Rr^-i, l'espace
projectif à (w —1) dimensions, obtenu de la sphère E=l par l'identification de
chaque paire de points diamétralement opposé. F est défini sur Rn-i- La caté-
gorie de Rn-i par rapport à lui-même est égale à n. Soit XLi X2,...., kn les nombres
définis de la même manière que les nombres Ci du paragraphe précédent. D'après
le théorème précédent il existe sur chaque hypersurface F=Xi des points où le
gradient de df sur Rn-i (ou sur la sphère E=l) s'annule:
àF 7 _n
Soit (xi, x2,...., xn) les coordonnées d'un de ces points sur la sphère E=l.
Nous avons dans ces points pour chaque A»:
0 \F-kE}=0 (i=l,2,....,n)
òx>t
c'est à dire:
2 bxi
v- -kxi=0 (i=l, 2,...., n).
Dans les cas où h^ki+p il existe un continu de catégorie ^>p + l de points
sur la sphère E=l où ce système d'équations est résoluble.

294 COMUNICAZIONI
Cette théorie subsiste pour toutes les fonctions F teUes que
F(Xi, x2,...., xn) = F(—Xi, —x2,...., —xn)
et toute fonction E teUe que
E(Xi, x2,...., xn)=E( — Xi, —x2,...., —xn)
n
et l'hypersurface E=l étant homéomorphe à la sphère ^x;=l.
i==l n
Par exemple: F est une forme arbitraire d'exposant pair, E=^] 2%k.
i=l
Pour iUustrer les applications des théories développées dans la géométrie
différentieUe, démontrons le théorème suivant.
THéORèME. - Sur chaque surface fermée de genre 0 et sans points essen-
tiels, il existe au moins:
1°) trois Ugnes géodésiques fermées de longueurs différentes.
2°) Une famiUe de géodésiques fermées de même longueur, recouvrant la
surface de telle manière que sur toute paire de points de la surface passe une
Ugne de la famiUe (comme sur la sphère).
" Soit K est une surface de genre 0 sans points essentiels et L une sphère
de rayon 1. Désignons par h un nombre positif tel que tout arc géodésique de
longueur h est une Ugne de longueur minimale passant par ces points. Faisons
la correspondance continue et univoque entre la surface K et la sphère L.
Prenons l'entier n tel qu'à toute paire de points sur la sphère de distance —
(sur la sphère) correspond une paire de point de K Uée par un are géodésique
de longueur ^h. Aux sommets du polygone réguher à n côtés sur la sphère ü
correspond sur la surface K, n sommets qui peuvent être Ués respectivement par
des arcs géodésiques de longueurs inférieures à h. Ces géodésiques forment
sur K un polygone géodésique qui correspond au polygone régulier sur la
sphère. Il est facüe de voir que cette correspondance est continue.
Trois famiUes de Ugnes sur la surface.
Construisons sur la sphère L trois famiUes de cercles suivants :
1°) La famiUe Ai des grands cercles de diamètre commun.
2°) La famiUe A2 de tous les grands cercles.
3°) La famiUe A3 de tous les cercles.
La famiUe Ai recouvre la surface. Cette propriété reste invariable par rapport
à toute déformation continue de la famiUe Ai.
En considérant chaque cercle comme élément d'un espace abstrait et en
identifiant à un seul point d'espace abstrait tous les cercles dégénérés en un
point, la famiUe A3 devient un espace projectif, A2 un plan projectif contenu
dans cet espace, Ai une droite projective contenu dans le même espace.
Toute famiUe de cercles non recouvrant la sphère L est par rapport à cet

L. LUSTERNIK: Méthodes topologiques dans la géométrie différentielle 295
espace de la catégorie 1, les famiUes Ai9 A2, A3 sont des catégories 2, 3, 4,
respectivement.
Considérons les 3 famiUes des polygones réguUers à n côtés Aï, A2, A3
inscrits respectivement dans les cercles des famiUes Ai, A2, A3. À ces trois
famiUes correspondent trois famiUes de polygones réguUers sur la sphère et
trois famiUes des polygones géodésiques sur la surface K, ayant la longueur
de ces côtés plus courts que h. Ces famiUes recouvrent K et cette propriété
reste invariable par rapport à toute déformation topologique.
Considérons l'espace R2n abstrait, dont les points sont les polygones géodé-
siques, ayant les côtés plus courts que h. Aux famiUes Ai, A2, A3 correspon-
dent les continus aif a2, a3 dans R2n. Tous ces continus sont de catégorie ^1.
Il est facile de voir qu'ils sont des catégories ^ 2, 3, 4 respectivement.
THéORèME. - À tout continu de catégorie P dans R2u correspond une teUe
famiUe de polygones que par tout P—l point de K passe aux moins un poly-
gone de la famiUe.
On démontre facilement le théorème à l'aide de l'induction complète.
Désignons par (ai), (a2), (a3) les famiUes des ensembles de catégories 2, 3, 4,
sur R2n respectivement.
Soit la fonction f qui est définie sur R2n comme la longueur du polygone
respectif.
Désignons par ci} c2, c3 les bornes inférieures de la fonction f sur les
ensembles des classes 2, 3, 4, respectivement. On a 0<c^c^c<nh.
Il existe des ensembles minimaux al, al, a\ des classes (ai), (a2), (a3)
sur lesquels les maximums de f sont égaux à cL, c2, c3 respectivement. A ces
ensembles correspondent trois famiUes de polygones (cl), (cl), (cl) ayant les
côtés ^h.
Toutes famiUes de polygones géodésiques peuvent être déformées continueUe-
ment en famiUes de polygones géodésiques aux côtés rigoureusement plus petits
que h, sans que le périmètre de quelque polygone s'agrandisse. C'est à dire il
existe des ensembles minimaux de famiUes (ai), (a2), (a3) continues à l'inté-
rieur de R2n.
Trois cas sont possibles :
1°) Ci<c2<c3: chaque ensemble (f=cL), (f=c2), (f=c3) contient au moins
un point où df=0. À ces points correspondent des Ugnes géodésiques fermées
de longueur ci9 c2, c3 respectivement.
2°) Ci<c2 = c3 (ou Ci=c2<c3).
L'hypersurface (f=c2) (ou f=Ci) contient un continu de catégorie 2 des
points où df=0. À ces points correspond une famiUe des Ugnes géodésiques
fermées recouvrant la surface K. Il existe aussi au moins une Ugne géodésique
de longueur c2.
3°) Ci=c2 = c3 = c.