Actes, Congrès intern. Math., 1970. Tome 2, p. 731 à 736. ÉQUATIONS OPÉRATIONNELLES ABSTRAITES ET PROBLÈMES AUX LIMITES DANS DES DOMAINES NON RÉGULIERS par P. G R I S V A R D 1. Equations opérationnelles abstraites : Le but de cette première partie est d'étudier la "somme" de deux opérateurs fermés A etB (à domaines!)^ et Dg denses) dans un espace de Banach (complexe) E. Cette somme L est définie par Lu - Au + Bu pour u G DL = DA O DB. Les propriétés de L sont bien connues lorsqu'on considère B comme une perturbation de A (cf. par exemple le livre de Kato [10] où DA C D f l avec B relativement borné par rapport à A). La situation qu'on considère ici est complètement différente puisqu'on ne suppose pas qu'il y a une inclusion entre les domaines DA etZ) Ä , par contre en vue des applications aux équations aux dérivées partielles, on supposera que les deux opérateurs commutent en un certain sens qui sera précisé plus loin. En général L n'est même pas fermé, mais il admet une fermeture L sous des hypothèses assez faibles. On cherchera à préciser D% et on étudiera le spectre oj; de T : On peut espérer étendre à cette situation le "théorème spectral" en prouvant l'inclusion op C oA + oB ou ce qui revient au même de prouver que T est inversible lorsque aA f) a_B = 0 . On donnera une condition suffisante permettant d'obtenir cette propriété ; pour cela on utilisera les hypothèses suivantes qui sont commodes dans les applications : (i) L'ensemble résolvant pA de A contient le secteur {X ; |arg X| < 6A} et 1104 - Xl)-1\\<CA(6)\X\-1 pourargX = 0 , \6\<0A. (ii) L'ensemble résolvant pB de B contient le secteur {X ; |arg X| < 6B} et 11(5- \I)-1\\<CB(0)\\\-1 pour argX = 0 , \6\<dB (iii) [(A - X/)" 1 ; (B — pi)"1] = 0 pour X G pA de "commutativité" peut être affaiblie). et p G pB (cette hypothèse THEOREME 1. - Sous les hypothèses (i) (ii) (iii) avec 6A + dB > ir et oA O o_B=0 Vopérateur ZT est inversible. On démontre ce résultat en construisant explicitement L~l sous la forme d'une intégrale de Cauchy l/(2ir/) f (B + X/)"1 (A - Xl)'1 d\ où 7 est une courbe joignant °°e~l ° à °°e ° avec ir — QB < d0 < 6A, y demeurant hors de oA et de o_B. Il est évident que l'essentiel dans cette construction est de pouvoir trouver une courbe 7 "séparant" aA de a_B et sur laquelle ||(5 + Xl)'1 (A - X/)" 732 P. GRISVARD D 10 décroît comme |X|" 2 ; cette idée permet de modifier notablement les hypothèses (i) et (ii). On peut préciser D% puisque c'est l'image de l'opérateur L~l qui est explicite ; pour cela on est amené à introduire de nouveaux espaces liés à A et B et construits au moyen de la i£-théorie de l'interpolation (cf. Peetre [15] et sa bibliographie) : On munit DAm (m G N) de sa norme naturelle d'espace de Banach et on pose par définition DA(s ; p) = (DAm ; DAn)e§pig , 0 < 0 < 1 , K p < + <*>, avec s = m(l — 0) 4- «0. On montre que pour s et p donnés cet espace ne dépend pas du choix particulier de m et « et plus précisément on montre dans [4] le THEOREME IL — Sous Vhypothèse (i), x G DA(s ; p) si et seulement si Jf + o °° || PAm (A - tiym x \\P dt/t < + oo, pour n'importe quel m G N , m > s (avec la modification habituelle pourp = 4- oo). Ces espaces seront faciles à expliciter dans les cas concrets (cf. plus loin). Dans le cas hilbertien on rappelle que DA(s ; 2) = (DAm ; DAn)e2;K = [DAm \DAn]Q où les crochets désignent l'interpolation complexe de [2]. L'espace DA(s ; p) est une fonction croissante de p, décroissante de s et DA(m ; 1) C DAm C DA (m ; °°), pour m G N On peut évidemment introduire des espaces analogues relatifs à B ; et on prouve dans [5] le THEOREME III. — Sous les hypothèses du théorème I on a : DrGDA(\ ; °°)nnB(l ;oo) Cet espace est très "voisin" de DL (cf. [4]). Dans [5] on démontre aussi le THEOREME IV. — Sous les hypothèses du théorème I l'opérateur L"1 est linéaire continu de DA(s ; p) dans DA(s + 1 ; p) pour tout s > 0 et tout p > L On en déduit que L est un isomorphisme de { u G DL ; Au, Bu G X} sur X où X est l'un quelconque des espaces DA(s ;p) et DB(s ;p) ; en particulier la "restriction" de L à X est fermée. Dans le cas où E = H est un espace de Hilbert, on peut améliorer les résultats précédents (cf. [12]) : THEOREME V. — Si E est un espace de Hilbert, on fait les hypothèses (i) (ii) (iii) et on suppose de plus qu 'il existe s > 0 tel que DA(s ;2) alors L est fermé et inversible. =DA*(s\2) EQUATIONS OPERATIONNELLES ABSTRAITES 733 On verra que dans les applications la nouvelle hypothèse est facile à vérifier. La démonstration utilise le fait que d'après [14] E est interpolé entre DA(s ; 2) et son dual. Une variante du problème étudié ci-dessus consiste à déterminer l'image de L dans certains cas où aA O a_B ¥" 0 : On ne considérera que le cas plus simple où aA contient un nombre fini de valeurs propres de — B (pour d'autres situations cf. Doubinski [3]) : Plus précisément on remplacera l'hypothèse (ii) par la suivante : (ii)' Il existe \ l 9 . .. Xk tels que pB D {X ; |arg X| < 6B , X i= Xj ,j = l,2...k}, (B - Xiy1 a un pôle simple en chacun des points X; et ||(i? - X/) _ 1 || < CB(6) |X|_1 pour arg X = 0 , |0| < ÔB , |X| assez grand. On introduit les projecteurs P, = - 1/(2*/) f Ì (B - Xl)'1 dX Jy où y* est une courbe simple d'indice un par rapport à Xy et zéro par rapport à tout autre point de oB. Ceci posé on a le THEOREME VI. - Sous les hypothèses (i) (ii)' (iii) avec ÔA 4- 6B > n l'image de L est le sous-espace de E formé des f tels que Pff G (A + Xjl) (DA ) pour ] = 1, 2,. .. k. Si de plus f€DA(s \p), il existe u G DL (non unique) solution de Lu = f avec Au, Bu ^DA(s ; p). Enfin dans le cas hilbertien et si il existe s > 0 tel que DA(s ; 2) = DA*(s ; 2) l'image de L est le sous-espace de E défini par les conditions P^/G (A + Xjl) (DA) pour j = \,2, ~ . ,k. En particulier lorsque (A + Xjl) est à image fermée pour / = \, 2,. . . k, l'image de E est fermée. Pour le cas où l'hypothèse (i) n'est vérifiée que sur un sous-espace fermé F de E cf. [5] (On résoud Lu = /pour / G F seulement). IL Applications : (a) Dans les exemples on aura à déterminer les espaces DA(s ; p) lorsque DA = WkPtM(Sl) ={u G Wkp(Sl) ;MjU = 0 sur bSl J = 1 , . . . / } , 1 < p < + o o 0 ù f t est un ouvert borné et régulier de Rn, M une famille d'opérateurs Mf d'ordre <k — 1 et Wp(£l) est l'espace de Sobolev usuel d'ordre k relatif à Lp(£L) =E (On renvoie à [13] pour la définition précise de tous les espaces fonctionnels utilisés dans ce qui suit). Pour s assez petit (0 < s < i/kp) il résulte de [14] que DA(s ;p) = Wps(SÏ) sans hypothèse sur M. Dans [6] [7] on détermine DA(s ; p) pour tout s en supposant que le système M est normal (i.e. b£l est non caractéristique pour Mj pour tout / et les Mj sont tous d'ordres différents ; on notera mf l'ordre de Mj). THEOREME VIL — On suppose que le système M est normal et qu'aucun des opérateurs Mj n'est d'ordre ks — l/p ; on suppose de plus que ks n'est pas entier lorsque p iz 2, alors pour 0 < s < 1, on a DA(s ; p) = WktsM 02) = | u G Wkps(to) ; Mfu = 0 sur 3fì , my < ks - - j 734 P. GRISVARD D 10 Plus généralement on a pour 0 < s < 1 et mf ¥* ks — l/p , j = I, . . . I DA(s ; q)={uG Bp*q ( « ) ; Mfu = 0 sur 3£2 pour m$ < ks - l/p} où Bp*q désigne l'espace de Besov et on a aussi DA (s ; oo) = {u e Hks(Sl) ; Mfu = 0 sur b&l pour mj<ks - l/p} où ^(Sl) désigne l'espace de Nikolski. On renvoie à [6] [7] pour les autres cas qui nécessitent l'emploi d'espaces avec poids. Ces résultats sont encore vrais si on remplace les fonctions numériques par des fonctions à valeurs dans un espace de Banach X. Récemment Seeley [16] a étendu ces résultats au cas de l'interpolationxomplexe. (b) On va détailler l'application de la partie I à l'étude du premier problème aux limites pour l'équation de la chaleur. Les résultats ne seront pas nouveaux mais serviront à éclairer dans un cas concret la signification des théorèmes abstraits de la partie I : On pose ß = ]0J[xfl où ß est un ouvert borné régulier de Rn ; puis on pose E =Lp(Q) DB=iu ,DA={u G Wp>°(Q) ; u = 0 pour t = 0} , Au = - bu/bt 2 G Ff£ (ö) ; u = 0 sur ] 0 , T[ x b &.} , Bu = Axu , où Wpk(Q) désigne l'espace des fonctions qui ont leurs dérivées jusqu'à l'ordre / par rapport à t G ] 0 , T[ et jusqu'à l'ordre k par rapport à x G £2 dans Lp(Q). Alors l'équation Lu = f avec u G DL s'explicite comme suit : I bu — - Axu =f dans Q bt u = 0 pour t = 0 et u = 0 sur ]0 , T[ x 3ft Le théorème III signifie que pour f€Lp(Q) ce problème admet une unique solution (faible) u G H}'2 (Q) (espace de Nikolski) ; ensuite le théorème IV montre que si de p l u s / G Mn2s(Q) avec 0 < s < \\2p, le problème (1) admet une solution (forte) u G Wpli2s¥^(Q), enfin le théorème V montre que pour / G L2(Q), le problème (1) admet une solution (forte) u G W22(Q) : Dans ce dernier cas (p =? 2) on a DA =iu G W1>0(Q) ;u = 0 pour t = 0} DA. =iu G W\'°(Q) ;u = 0 pour t = T) d'où DA(s ; 2) = D^Cs ; 2) = W\°(Q) pour 5 < 1/2 ; ce qui donne un exemple typique où l'hypothèse du théorème V est vérifiée sans que DA = DA*. On a ainsi retrouvé des résultats classiques de Solonnikov [17], Lions [12]. L'application de ces techniques à la résolution des problèmes mixtes paraboliques de degré quelconque est développée dans [7]. On résoud de même les problèmes elliptiques pondérés de Agmon-Nirenberg [1] ; dans ce cas l'opérateur A est la dérivation b/bt dans Q = R x Q, donc A est autoadjoint lorsque p = 2. EQUATIONS OPERATIONNELLES ABSTRAITES 735 (c) Voici à présent un exemple moins classique : L'étude d'un problème aux limites elliptique dans un cône. Pour simplifier l'exposé, on considérera le problème le plus simple de ce type : Le problème de Dirichlet pour l'équation de Laplace dans un cône (tronqué) : 12 ={x = reo ; 0 < r < 1, œ G G) où G désigne un ouvert régulier de S"-1 (la sphère à n — 1 dimensions). On pose naturellement E = iu ; u/r2 G Lpp(12)} , Au = r2 ~ f2 + (n - 1) r J 1 br br ( ou , b2u ) pour u G D A = « ; w, r —-, r2 — 2- G E, u = 0 pour r = 1 •* ( o/br ) ita = Au (l'opérateur de Laplace-Beltrami sur Sn~~l) et pour u € DB = {u ; D^u G E , \a\ < 2 et u = 0 pour* = reo, co G 3G} . Le résultat suivant est conséquence directe du théorème VI lorsque p = 2 (et plus indirecte lorsque p # 2) : THEOREME VIII. - On suppose p > 2n/(n + 2) a/ora poi/r / G Lp(12), il existe u telle que rM~2 Dau G Lp(£l) pour | a | < 2, solution de Ì Au = f dans 12 M = 0 sur 312 «* e/ seulement si (f ; v) = 0 pow/* fowfe v feto 1 #we r^Dav de G Lp<(£l) solution ( Av = 0 dans 12 (3) ( v = 0 dans 312 à condition que soit vérifiée l'hypothèse (v.p.) qui suit : (v.p.) Les valeurs propres de A avec conditions de Dirichlet sur G sont toutes différentes de (n/p1) (- - 2\ On est ici dans la situation où oA D a_B j= 0, cet ensemble contenant un nombre fini de pôles simples de (B - X/)" 1 , l'opérateur (A + XI) étant pour chacune de ces valeurs injectif et à image fermée. Les fonctions v considérées dans l'énoncé du théorème VIII forment un espace vectoriel dont la dimension est le nombre de valeurs propres de A avec condition de Dirichlet sur G qui sont supérieures à —j ( 2 Y Cet espace est donc réduit à 0 (et la condition (v.p.) p \p / est automatiquement vérifiée) lorsque p = 2 et n > 4 ; en dimension 3, si on ne considère que des cônes circulaires (i.e. si G est une calotte sphérique) l'espace des v est réduit à 0 si 12 est convexe ; il en est de même en dimension 2 pour un secteur convexe. Dans le cas où p < n utilisant un théorème d'immersion, on voit que si n > p > 2n/(n + 2), alors le problème (2) admet p o u r / G Z,p(!2) une solution unique u G W£(Î2) si et seulement ( / ; v) = 0 pour toute v G Lp.(l~l) 736 P. GRISVARD D 10 solution du problème (3) à condition que l'hypothèse (v.p.) soit vérifiée (On peut montrer que ce résultat est encore vrai pour n — p — 2). Enfin on peut aussi montrer que ces résultats restent vrais si on remplace A par A — X (X non réel négatif) ce qui permet en ajoutant des variables supplémentaires, d'étudier le même problème dans un dièdre. Pour p — 2 les résultats ci-dessus sont proches de ceux de Kondratiev [11] et de Hanna-Smith [9] ; pour les démonstrations cf. [8]. BIBLIOGRAPHIE [1] AGMON-NIRENBERG. — C.P.A.M., Vol. 16, 1963, p. 121. [2] CALDERON. — Studia-Math., t. 24, 1964, p. 113. [3] DOUBINSKI. — Mat. Sbornik, t. 79, n° 121, 1969, p. 91. [4] [5] [6] [7] [8] [9] [10] [11] [12] [13] [14] [15] [16] [17] GRISVARD. — /. Math, pures et appliquées, t. 45, 1966, p. 143. GRISVARD. — Annali S.N.S. Pisa, t. 21, 1967, p. 307. GRISVARD. — Archive for rat. mec. and anal, t. 25, 1967, p. 40. GRISVARD. — Annales Se. de VE.N.S. Paris, t. 2, 1969, p. 311. GRISVARD. — Article à paraître sur les problèmes aux limites elliptiques dans des domaines non réguliers. HANNA-SMITH. — C.P. A.M., vol. XX, n° 3, p. 575-593. Août 1957. KATO. — Die Grundlehren der Math., 132, Springer-Verlag. KONDRATIEV. — Trudy Mockovckovo Mat. Ob., t. 16, 1967, p. 209. LIONS. — Die Grundlehren der Math., 111 (2° edit.), Springer-Verlag. LIONS-MAGENES. — Annali S.N.S., Pisa, t. 15, 1961, p. 39 et p. 311; t. 16, 1962, p. 1. LIONS-PEETRE — Publications de l'I.H.E.S., t. 19, 1964, p. 5. PEETRE. — Communication à ce Congrès. SEELEY. — Amer. J. of Math., à paraître, et communication à ce Congrès. SOLONNIKOV. — Trudy Mat. Inst. Steklov, t. 83, 1965, p. 1. Faculté des Sciences de Nice Département de Mathématique Parc Valrose, 06 - Nice France