unicite du probleme de cauchy et hypoellipticité pour une classe d

Actes, Congrès intern. Math., 1970. Tome 2, p. 691 à 696.
UNICITE DU PROBLEME DE CAUCHY
ET HYPOELLIPTICITÉ
POUR UNE CLASSE D'OPÉRATEURS DIFFÉRENTIELS
par Jean-Michel BONY
1. Introduction et notations
Dans la théorie générale des opérateurs différentiels à coefficients constants, un
rôle essentiel est joué par le polynôme caractéristique et l'ensemble des zéros
de celui-ci. Dans le cas où les coefficients sont variables, certaines propriétés sont
liées plus précisément à l'algèbre de Lie engendrée par l'idéal caractéristique.
Nous démontrons d'abord un résultat général d'unicité du problème de Cauchy
pour des opérateurs à coefficients analytiques. Nous établissons ensuite un théo-
rème d'hypoellipticité lié à cette algèbre de Lie, bien que des conditions supplé-
mentaires portant sur les termes d'ordre inférieur soient nécessaires en général.
Nous désignerons par P un opérateur différentiel d'ordre p, à coefficients (f,
défini dans un ouvert de R"
'('•to)".?. «-<*>(£-)"•
et par P son polynôme caractéristique
Pp(x,è)= I aaWF
\a\=p
Introduisons la variété caractéristique : ensemble des couples (x , £) tels que l'on
ait Pp(x, £) = 0 ; et Vidéal caractéristique : ensemble des polynômes Q(x, £)
homogènes en J et à coefficients C°° en x qui s'annulent sur la variété caracté-
ristique. Nous noterons 3C cet idéal.
Rappelons la définition du crochet de Poisson :
iK^i àxf bxt d£, /
[Q\ » Q2] (x > £) est Ie polynôme caractéristique de l'opérateur différentiel :
La notion suivante sera fondamentale dans cet exposé.

692 J-M. BONY D 10
DEFINITION 1. - L'algèbre de Lie engendrée par l'idéal caractéristique, notée
Lie (#C) est le plus petit idéal (gradué) contenant IK et stable par le crochet
de Poisson. Pour que R (x, £) appartienne à Lie (SfC), il faut il suffit qu'il
soit combinaison linéaire de termes du type :
[Qil , [ß,v [• • • > QìJ] • • • ]] où les Qik appartiennent à 3£.
Remarque. — Lorsque la variété caractéristique est pour chaque x de dimen-
sion n — X en g, l'idéal caractéristique est principal (au moins sous des hypo-
thèses d'analyticité ou de constance du rang). On a alors Lie (#C) — 3C. La notion
n'a donc d'intérêt que dans le cas où cette variété a une dimension strictement
inférieure à n - 1 (opérateurs "elliptiques dégénérés"). Nous verrons sur des
exemples que Lie (#C) peut être alors beaucoup plus grande que #C.
2. Unicité du problème de Cauchy
Nous supposerons dans tout ce paragraphe que les coefficients de P sont ana-
lytiques. Nous allons énoncer dans ce cas une extension du théorème classique
de Holmgren, et nous bornerons à donner une idée des démonstrations, en ren-
voyant à [2] pour une preuve plus complète.
Rappelons qu'une surface S (de classe C1) est caractéristique en un point x0
si on a Pp(x0 , v) = 0 en désignant par v la normale à S en x0.
Rappelons également le théorème de Holmgren (voir [3] chapitre 5) : Soient S
une surface non caractéristique en x0, et u une distribution vérifiant P(X , —j u =0
et nulle d'un coté de S ; alors u est nulle au voisinage de x0.
DEFINITION 2. - Une surface S de classe C1 sera dite fortement caractéristique
en x0 si on a R (x0 , v) = 0 pour chaque R appartenant à Lie (SC), en désignant
par v la normale à S en x0.
THEOREME 1. — Soit S une surface de classe C1 non fortement caractéristique
en xQ, et soit u une distribution vérifiant P(x , —j u = 0 et nulle d'un coté de S.
Alors, on a u = 0 au voisinage de xQ.
COROLLAIRE. — (Unicité du prolongement des solutions)
Supposons que pour chaque couple (x , £) tel que £ soit non nul, il existe R appar-
tenant à Lie (3Q tel que R (*,£) ¥= 0. Alors, si une solution u de P[x , — ) u — 0
v bx
est nulle au voisinage d'un point, elle est nulle dans la composante connexe de ce
point.
Le corollaire se déduit du théorème par un argument classique. Le théorème
résulte de la proposition suivante, pour laquelle nous introduisons quelques
notations.
Nous dirons qu'un vecteur v est normal à un fermé F en un de ses points x0
s'il existe une sphère ne rencontrant F qu'en xQ et de normale v en ce point. On a
alors :

UNICITE DU PROBLEME DE CAUCHY 693
PROPOSITION 1. - Soit F un fermé, et soient Qx(x, g) et Q2(x, £) deux fonc-
tions homogènes en £ et de classe C1 pour £ # 0. Supposons que pour chaque point
x de F et chaque normale v à F en x, on ait :
Q1(x0,v) = Q2(x,v) = 0.
On a alors :
[ßi ,ß2] (*>") = 0-
Si on désigne par F le support d'une solution u de
b
P(X.-)u = 0,
on voit aisément que le théorème de Homgren assure que l'on a Q (x, u) = 0
pour chaque point x de F, chaque normale v en ce point et chaque Q appartenant
à l'idéal caractéristique, tandis que la conclusion du théorème 1 équivaut à la
même assertion pour tous les Q appartenant à Lie (SC). La proposition entraîne
ainsi immédiatement le théorème.
La démonstration de la proposition est purement géométrique. Le résultat
en est bien connu lorsque F est limité par une surface de classe C2. Le résultat
essentiel à la démonstration du cas général est le suivant : sauf sur un ensemble
de mesure aussi petite qu'on le veut, la fonction distance de x à F coïncide avec
une fonction de x dont les dérivées secondes appartiennent à L°° (voir [1] et [2]).
Exemples. — Un cas typique où les résultats précédents s'appliquent est celui
d'un opérateur elliptique dégénéré du second ordre P, à coefficients analytiques
qui se décompose sous la forme suivante :
r
Pu = £ X2u + X0u + eu ,
i=\
où les Xi sont des opérateurs différentiels homogènes du premier ordre, et à
coefficients réels pour i = \, . . . , r.
Alors, si l'algèbre de Lie engendrée par Xx, . . . , Xr est de rang n en chaque
point, on a la propriété de prolongement unique des solutions.
On peut donner bien d'autres exemples, ainsi P = M (XY, . . . , Xr) où M
est un polynôme elliptique en r variables et où les Xt vérifient la condition pré-
cédente. D'autre part, on peut substituer aux Xt des opérateurs Qi d'ordre q
tels que pour chaque (x, £) avec £ =£ 0, il existe un R, appartenant à l'algèbre
de Lie engendrée par les Qi tel que l'on ait R (x , J) =£ 0.
3. Inégalités
Il n'est pas possible de donner un résultat aussi général que le précédent sur
la régularité des solutions. Nous montrerons en effet, sur une classe particu-
lière d'opérateurs, que des résultats d'hypoellipticité doivent faire intervenir non
seulement la partie principale, par l'intermédiaire de Lie (SC), mais encore les
termes d'ordre inférieur.

694 J-M. BONY DIO
Nous commençons par énoncer deux inégalités générales. La première, due
à Kohn et Radkevitch, permet de préciser la régularité de Ru, où R appartient
à Lie (SC), à partir de celle des Qu pour Q appartenant à SC. La seconde, très
insuffisante, donne une relation entre la régularité des Qu, pour Q appartenant
à SC, et celle de Pu.
PROPOSITION 2. — Soient Qx et Q2 deux opérateurs différentiels d'ordre res-
pectif qx et q^. Alors, quels que soient s réel et e tel que 0 < e < 1/2, il existe
une constante C telle que l'on ait
Hlfii
Jô2]IU1-,2+i+e
< C(llßi"IU1+2e + llßa«ll.-,a+i + Hall,)
pour chaque u de classe C°° et à support compact, en désignant par \\t la norme
de l'espace de Sobolev H*.
Pour une démonstration, voir [5] et [6].
COROLLAIRE. — Si R appartient à l'algèbre de Lie engendrée par des opérateurs
Qi> • • • > Qr> iï existe e > 0 tel que pour chaque s, on ait une majoration :
\\Ru\Lr+e<C
(t IIÔ,«IU,/+1 + II"II,)
valable pour les u de classe C° à support compact, en désignant par r et qt les
ordres respectifs de R et Qt.
COROLLAIRE. — Supposons que pour chaque (x, £), il existe R appartenant à
l'algèbre de Lie engendrée par Qx, . . . , Qr, tel que R (x, £) =£ 0. Alors il existe
e > 0 tel que, pour chaque s, on ait une majoration :
"IU<c(É IIQ,-t/||
+1
-f-
1=1
Le premier corollaire se démontre par récurrence, tandis que le second résulte
du fait que l'ensemble des opérateurs R de l'algèbre de Lie constitue un système
surdéterminé elliptique.
PROPOSITION 3. — Supposons les coefficients de P analytiques. Soit Q, d'ordre q,
appartenant à l'idéal caractéristique, à coefficients analytiques. Il existe alors un
entier k tel que l'on ait une majoration
\\Qku\\^kq<cu\m*-p + \\u\\ë_x)
valable pour les u de classe CT à support compact.
Comme on le verra sur une classe particulière d'opérateurs, c'est essentiellement
la présence de l'entier k qui ne permet pas d'utiliser cette majoration. La démons-
tration repose sur le résultat algébrique suivant :
Soient f(x, £) et g(x, £) deux polynômes en £ à coefficients germes de fonc-
tions analytiques, tels que g s'annule sur les zéros réels de /. On peut alors trouver
des polynômes a. et bj en nombre fini, tels que l'on ait
f2{Z"ì)=glk
+
%bj.

UNICITE DU PROBLEME DE CAUCHY 695
Il suffit ensuite d'appliquer ce résultat, rendu homogène, à P et Q et d'intégrer
par parties pour conclure.
4. Hypoellipticité
Nous nous limiterons aux opérateurs P du type suivant :
où les Qi sont des opérateurs différentiels à coefficients C°° réels, de même ordre q,
et où L est un opérateur différentiel d'ordre 2kq — 1.
On suppose en outre que pour chaque (x, £) avec £ # 0, il existe R appar-
tenant à l'algèbre de Lie engendrée par les Qf tel que R (x, £) ¥= 0.
(a) Si k = 1 et si L est à coefficients réels, P est hypoelliptique. C'est un cas
particulier des résultats de Radkevitch (voir [6]). Dans le cas où les Qt sont du
premier ordre, le résultat est dû à Hörmander (voir [4]). Les théorèmes démon-
trée sont d'ailleurs plus généraux, faisant intervenir en plus la partie principale
de L.
(b) Si k = 1 et si Z est à coefficients complexes, P n'est plus nécessairement
hypoelliptique comme le montre l'exemple suivant.
-El + 2 iL iL- /JL • JL\ /iL_ • ÜL>
bx2 by2 by \bx by I ^bx by/
P se décompose en produit de deux facteurs qui ne sont pas hypoelliptiques, il
n'y a pas en effet résolubilité locale pour leurs adjoints. Donc P ne peut être
hypoelliptique.
_ / a2 , a2 \2 a2
Remarquons que PP — ( T~T+ * T-~T ) + —; n est pas hypoelliptique, bien
^bx2 by2 ' by2
qu'il soit à coefficients réels et que Lie (SC) contienne tous les opérateurs diffé-
rentiels.
(c) Nous allons montrer que pour k quelconque, si les termes d'ordre inférieur
sont suffisamment dominés par la partie principale, P est hypoelliptique.
THEOREME 2. — On suppose que L est de la forme suivante :
r Ik
où les Rj; sont des opérateurs différentiels à coefficients complexes d'ordre
l(q — 1) et où R' est d'ordre 2k(q — l) + \ et à coefficients réels. Alors Pest
hypoelliptique.
Les idées de la démonstration sont voisines de celles de [4]. On déduit de la
proposition 2 la majoration suivante :
ll"IU(,-.)+e<c(Sllßf«||0 + ||u||t(,_1))