UNIVERSITE CHEIKH ANTA DIOP DE DAKAR (DeAD) FACULTE DES SCIENCES ET TECHNIQUES DEPARTEMENT DE MATHEMATIQUES THESE DE 3ème CYCLE DE GEOMETRIE DIFFERENTIELLE ,CALCUL DE LA FO·RMULE EXPLICITE D'UN OPERA~ElJR UNITAIREM~ENT GONJUGUE A'U LAPLACIEN D'UNE NllVARIETE DE RANG QU,ELCQNQUE "POLARISEE" Présentéeet soutenue publiquement le 30 Octobre 1999 à 10 Heures à l'Amphi 7 Par MAMOUR SANKHE Sous la direction du Professeur CHERlF BADJI Devant le Jury composé de Président: Chérif BADJI Professeur Membres: Mary Teuw NIANE Professeur UGB de Saint -Louis Juma SHABANI Professeur à ['Université du BURUNDI Marnadou SANGHARE Maître de Conférences ANNEE UNIVERSITAIRE 1998 -1999 UCAD UCAD REMERCIEMENTS Je tiens à expnmer ma profonde reconnaissance au Professeur Chérif BADJI dont le style d'encadrement depuis le D.E.A jusqu'à cette présente thèse m'a procuré la joie de faire des mathématiques avec un profond sentiment de liberté et d'épanouissement dans la recherche. Qu'il trouve donc ici renouvelée toute la gratitude de l'élève au maître. Mes remerciements vont aussi à : • Mary Teuw NIANE Professeur à l'UGB de Saint - Louis. • Juma SHABANI Profeseur à l'Université du Burundi • Mamadou SANGHARE Maître de Conférences à l'UCAD qui m'ont fait l'honneur et l'amitié d'être membres du jury. Je tiens également à remercier Monsieur Magatte THlAM pour toute l'aide bibliographique qu'il m'a apportée .. Je remercie aussi les amis de l'équipe de Géométrie Différentielle ainsi que tous les membres du Département de Mathématiques pour l'atmosphère de travail et d'amitié dont je me suis toujours senti entouré. Enfin, il me sera difficile de trouver une formule originale pour remercier Madame MBAYE, , Madame NDIAYB et Mademoiselle CISSE qui ont dans une bonne humeur communicative assuré la saisie de ce travail. .. ... ~ .t'fl .,.' ,1',. ('. I#.oi(' ' DEDICACES Je dédie ce travail • A mon épouse bien aimée, • A ma fille chérie • A ma très chère mère • A mes très chers frères et soeurs • A mes collègues et amis qui se reconnaîtront. • A toutes les honnêtes personnes qui croient au travail. TABLE DES MATIERES PAGES INTR0 DUCTI0 N . 1 CHAPITRE 1 . 3 CHAPITRE II . 9 CHAPITRE III . 15 CHAPITRE IV Il Il •••••••• Il •••••••• 1 ••••••••••••••••••••••••• Il l ' Il ••••• BIBLIOGRAPHIE..... I l I l ••• I l • • • • • • • • • • • • • I l •••• I l ••• 1.1 ••• I l • • • • • • • 24 28 INTRODUCTION Dans [3], il a été calculé le spectre d'une nilvariété compacte ([\G, m) de rang deux en utilisant la théorie des orbites de Kirillov. D'une manière implicite, deux conditions ont entre autres permis d'aboutir au résultat: (i) La polarisation hA est un idéal de g, (ii) hA admet une base coexponentielle BÀ telle que B Â. (Ui, Uj) = B Â. (Vi, Vj) =-= B Â. (Ui, Vj) - 8ijdi ~, 0 où {Ui} lsisk est la base BÀ ' {Vi} lsisk est une base de h À - g À où g À B Â. est une forme bilinéaire alternée sur g telle que B À (X, Y) = = ker À([X,Y]) (X, y E B À et g). Dans ce travail, nous montrons que les résultats obtenus concernant le spectre peuvent être obtenus comme cas particulier dans le cadre d'une nilvariété compacte de rang quelconque, (c'est-à-dire une variété de type (nG, m) où G est un groupe de lie connexe, simplement connexe nilpotent d'algèbre de Lie g, [ est un sous-groupe discret co-compact de G et m une métrique qui se relève en une métrique invariante à gauche sur G) polarisée, Pour ce faire, nous avons établi la Proposition 1.2.4 et le Corollaire 1.2.5, Nous avons aussi été amené à poser la définition suivante: (avec les notations ci-dessus). Définition Une nilvariété compacte qui vérifïe les conditions (i) et (ii) ci-dessus ainsi que la condition (iii) ci-dessous. (iii) P(Ui, Uj) E [hA, hA] (où P est un polynôme en (Uj, Uj) dont le degré de tout monôme est supérieur à deux) est appelé nilvariété polarisée. Notons que l'application exponentielle est un difféomorphisme de g sur G. Dans la première partie nous rappelons la formule de Baker - Campbell - Hausdorff qui sera beaucoup utilisée par la suite ainsi que quelques propriétés importantes des algèbres et groupes de Lie résolubles exponentiels. Dans la deuxième partie nous rappelons la notion de polarisation et la théorie des orbites de Kirillov. Dans la troisième partie, nous montrons la généralisation de la formule de l'opérateur unitairement conjugué au Laplacien des nilvariétés de rang deux aux nilvariétés polarisées de rang quelconque. Enfin, dans la quatrième partie, nous l'appliquerons pour retrouver la formule du spectre trouvée dans [3]. Exemple de nilvariété polarisée Les nilvariétés compactes G de rang deux d'algèbre de Lie g décrites dans [3] constituent des exemples de nilvariété polarisée. En effet, pour de telles variétés, l'algèbre dérivée g' de l'algèbre de Lie g est dans le centre de g et par conséquent dans g IL == ker B À == {X E g, À( [X,Y]) == 0, '\1 Y E g} . 2 CHAPITRE 1 QUELQUES NOTIONS PRELIMINAIRES 1.1 - Formule de Baker - Campbell- Hausdorff Soit G un groupe de Lie analytique nilpotent. Nous avons dans ([5), p 195) le 1.1.1 - Théorème Il existe une application polynomiale P de g x g dans g telle que (i) expX expY = exp P (X : Y) (x, Y E g). Soit z le centre de g et 0 = {X : X (ii) E z, exp X = l} alors D est un sous-groupe additif discret de g, et l'application exponentielle induit un difféomorphisme analytique de la variété g/D sur G. En particulier, 0 est le groupe fondamental de G, g est une variété revêtement de G avec exp comme application de revêtement, et exp est surjective, (a) Application polynomiale Soient U et V deux espaces vectoriels sur un corps K de caractéristique nulle et cp une application de U dans V, Définition: L'application cp est dite application polynomiale s'il existe des bases <v ,} , l j !tSjsn de V, et des polynômes PI, , .. " Pn tels que On vérifie que cette définition est indépendante du choix des bases. 3 {u i f!SiSm de U et (~) On sait de manière classique que l'application polynomiale P est définie par P l = C q où Cq est définie par la formule de récurrence O~q~s (n+I)C (I.l.l.~ ) ~ >1', p_n < p_ n+ I(X:Y)=~ 2 K2 k 0 Lk 0 PI> ,... , 2p> k +.. .+k =n 2p 1 n ~ 1 X, Y E [X-y,Cn(X:Y)]+ [C k, (X: Y),[ ....[C 1<.2P (X: Y),X +- y] .... ]] g : où CI (X : Y) :::: X + y ~ On a C2CX : Y) [X, y] 1 -[[X, Y], y] 12 C3(X : Y) = C 4(X : Y) = - - - -1 [[X, Y],X] = 12 1 - 12 [X - Y, [X, Y]] 1 1 [Y;[X, [X, Y]]] - [X,[Y, [X, Y]]] 48 48 Nous avons dans ([5], p 196) le Corollaire du théorème 1.1.1 ci-dessus (y) Corollaire Si G est simplement connexe, alors exp : g ~ G est un difféomorphisme. 1.2 - Algèbres et Groupes de Lie résolubles exponentiels Le corps de base étant IR, connexe d'algèbre de Lie g et exp : g si G est un groupe de Lie connexe simplement ~ G l'application exponentielle alors on a dans ([1], p2) le 1.2.1. - Théorème Les conditions suivantes sont équivalentes: (i) exp est injective 4 (ii) exp est surjective (iii) exp est bijective (iv) exp est un difféomorphisme. Ce qui conduit à la 1.2.2. - Définition Une algèbre de Lie g et le groupe de Lie connexe et simplement connexe correspondant sont dits résolubles exponentiels s'ils satisfont aux conditions du théorème ci-dessus. Notons qu'une sous-algèbre, une algèbre quotient, d'une algèbre résoluble exponentielle sont résolubles exponentielles. On a le résultat fondamental suivant: 1.2.3. Théorème ([1], p126) Soient G un groupe de Lie résoluble exponentiel et g son algèbre de Lie. Si a, b E g, il existe c, c' E [g, g] tels que exp a exp b = exp(a + b) exp c = exp c' . exp(a + b) Démonstration Le groupe G étant exponentiel, le groupe des commutateurs [G, G] de G est égal à exp[g, g]. Soient les morphismes canoniques TC: G ~ G/[G,G]' P = dTC: g-~ g/[g,g)' Ils commutent à l'application exponèntielle et donc le groupe UI [G,G] étant commutatif. 5 n(exp (a+b» = exp (pa + pb) = exp (pa) exp (pb) == n(exp a . çxpb). Soit exp a. exp b. exp (-(a+b» E [G,G] = exp [g,g]. CQFD Du théorème 1.2.3, nous en déduisons facilement la 1.2.4 - Proposition Soient G un groupe de Lie résoluble exponentiel et g son algèbre de Lie. Soit al' a 2'· .. ·' a n E Preuve (par récurrence sur n La formule est vraie pour n = 2 g, alors il existe El, .... ,En-I E g' = [g,g] tels que ~2) (c'est le théorème 1.2.3) Supposons la vraie pour n = k (hypothèse de récurrence) Alors pour n = k+ 1 k+l (( Dexpa i 1=1 JJ :::Dexpaiexpa k k-1 (k JJ k + l = ~exPcjexp Lai J:::Î 1=1 l'1 J Il '1 il vient: Il 1=1 exp a k + 1 l'1 J k-l expcj.exp (k a. exp a k 1 = k-1 expc . exp ck exp (( k a· + a k 1 1 1= j= = k +'1 J= j 1= + 1) (k+1 J Dexpcjexp .Lai j=l 1=1 CQFD Ce qui nous permet d'en tirer la conséquence immédiate suivante: 6 [ 1.2.5 - Corollaire Soit G un groupe de Lie résoluble exponentiel. Alors ) 2k-l k ( exp (s. U .) = [1 exp e· [1 exp (t. + s· U. J J J=1 J J j=1 J j=1 J J J k k [1 exp (t .U .) D j=l où Uj E g, Ej Eg' = [g,g] et tj, Sj EIR. Preuve En effet, d'après 1.2.4 k k 2k-l [ k Ilexp(t.u·)IlexP(s.u.)= Il expe· exp I(t.+s.)u. J J '1 J J 'J= 1 JJ '1 J 'I J J= J= J= J Or toujours d'après 1..2.4 exp [f(t. +s.)u.J ~ J J J = nexpe. rlexp((t. +s.)u. j=1 J j=1 J J J d'où k k 3k-2 k ( ~ Dexp(t,u·)DexP(s.u.)= [1 expe'·Dexp (t.+s . . J=1 J J J=1 J J j=2k J J=1 J J J où Ej= E'j pour 2k-l <j:::;3k-2. C.Q.F.D Notons enfin que si G est compact, alors exp est surjective. Notons la propriété importante suivante des algèbres exponentielles. [,2.6. Proposition (1 l J l p3) Soit h une sous-algèbre d'une algèbre résoluble exponentielle g. Il existe une base {XL ... , Xk} d'un sous-espace vectoriel supplémentaire de h dans g telle que l'application (q,- ..... , tk, X) ~ exp t} Xl .. ·.. exp tk Xk exp X soit un difféomorphisme de IRP x h sur le groupe G. 7 Nota 1. Une telle base sera dite coexponentielle à h dans g. 2. Si g est nilpotente alors on peut construire une base coexponentielle à n'importe qu'elle sous-algèbre. Puisqu'on vient de voir qu'une sous-algèbre d'une algèbre résoluble exponentielle est résoluble exponentielle, nous en déduisons immédiatement la 1.2.7 - Proposition Soit G un groupe de Lie nilpotent simplement connexe d'algèbre de Lie g et h sous-algèbre de g. Il existe une base {X J, ... , Xld d'un sous-espace vectoriel supplémentaire de h dans g telleque l'application HxlR k ~ G (h,t) k Il exp(t.x.) J=l J J H h oùt=(q, ... ,tk) etH=exph soit un difféomorphisme. Nota: La base {Xl, ... , Xk} de la proposition 1.2.7 est bien une base coexponentielle à h dans g. 8 CHAPITRE II THEORIE DES ORBITES DE KIRILLOV Soit G un groupe de Lie nilpotent simplement connexe d'algèbre de Lie g. D'après la théorie de Kirillov, on peut définir une application de g* dans G, espace des classes de représentations unitaires irréductibles du groupe G. A vant d'en donner une description détaillée, précisons quelques notions préliminaires. ILl - POLARISATIONS ([2], P53). Soient Y un espace vectoriel de dimension finie, B une forme bilinéaire alternée sur Y. Pour tout sous-ensemble W de Y, on note W-.L l'orthogonal de W relativement à B. Et y-.L est appelé le noyau de B. Comme B définit par passage au quotient une forme bilinéaire alternée non dégénérée sur Y/y-.L alors le nombre dim Y - dim y-.L est pair. Pour tout sous espae vectoriel W de Y, on a dim W = dim Y - dim W-.L + dim (W n y-.L ). Un sous espace vectoriel W de Y est dit totalement isotrope si W c W-.L La plus grande dimension des sous-espaces vectoriels totalement isotropes est Y2 (dim Y + dim y-.L ). (cf [4], pIS3). On a aussi la propriété suivante: Proposition ([2], p.54) Pour un sous-espace vectoriel totalement isotrope W, les conditions suivantes sont équi vaJentes : (i) West totalement isotrope maximal 9 dim W = (ii) J.- (dim Y + dim yi-) 2 (iii) (iv) Si ces conditions sont vérifiées alors on a W:::J yi-. Par ailleurs, soit "A B"A (X,Y) = "A«(X, Y]) E g *, désignons par B"A la forme bilinéaire alternée sur g définie par (X, Y E g). Alors on a: Définition 1 Une sous-algèbre de Lie h de g est dite subordonnée à ).. si elle est totalement isotrope pour B)... (ie si)... «(h, h]) = 0 ou encore si }h est une représentation de dimension l de h. Définition 2 Soit ).. E g * . On appelle polarisation de g en ).. une sous-algébre de Lie de g subordonnée à ).. de dimension ~ (dim g + dim g A) où g A est le noyau de B).... En d'autres termes une polarisation est une sous-algèbre de Lie de g qui est un sous-espace vectoriel totalement isotrope maximal de g (muni de B)...). Notons que si g est nilpotent, alors il existe des polarisations de g en tout point de g *. Maintenant rappelons brièvement la théorie des orbites de Kirillov (cf (3].) II.2 - THEORIE DES ORBITES DE KIRILLOV La théorie des orbites de Kirillov permet de donner une description de l'ensemble des représentations unitaires irréductibles d'un groupe de Lie nilpotent simplement connexe. L'idée de base de cette théorie des orbites de Kirillov est qu'une représentation unitaire irréductible d'un tel groupe est toujours induite par une représentation de dimension un d'un sous groupe de Lie. 10 On sait que l'application exponentielle réalise un difféomorphisme de g sur G dont l'inverse sera notée log et que G est unimodulaire. (cf [3], P 435) Passons maintenant à la description des représentations unitaires irréductibles de G. Soit À E g' , le dual algébrique de g, soit hune sous-algèhre subordonnée à À. On peut construire un caractère A sur H (H A (exp X) = = exph) en posant: exp (2n:i À(X», où XE h. A est bien un caractère car h .est subordonnée à À. (cf II.2.3.2) A partir d'un tel caractère, on va construire une représentation induite. Pour ce faire, on va utiliser des résultats sur la structure des groupes de Lie nilpotents simplement connexes. Le difféomorphisme apparaissant dans la proposition 1.2.7 induit un diftëomorphisme de IR k sur H\G qUI permet d'identifier ces deux ensembles. De plus, G opère par translations à droite sur H\G et IR k , la mesure de Lebesgue est invariante par les translations à droi te de G. Pour revenir à notre problème initial, choisissons {Xi} 1~i~k (k = dim glh) comme dans la proposition 1.2.7 (ie {Xi} l~i~k est une base coexponentielle à h dans g).. o Soit *0 {fEe (G), f(hx) = l (h)f(x), h E H, XE G} où eO(G) est l'ensemble des fonctions continues sur G. k k *0 s'identifie à eO(lR ), par l'application a : *o~ eO(lR ), où a(f) est définie par f (a(f»(t) Soit *1 =f (fI exp (t.x.)J où t = (q, ... , tk) . 1 1 1 1= = {f E: *0/ fl(a(f)(t)/2 dt < + 00 } Rk et * lecomplété de * 1 pour la norme L2. 11 E k IR . H a(f) On peut maintenant définir la représentation n( H "A, H) en posant, si f E H et x, YE G, exp (h ) : = ((n( "A, H) (x))(f))(y)=f(yx). La représentation n( "A, H) s'appelle la représentation induite par ( "A, H). On a le résultat fondamental suivant Proposition II.2.1 ([3), P 436) Soit G un groupe de Lie nilpotent simplement connexe. Avec les notations précédentes: Si (i) "A est dans g* et h est une sous-algèbre subordonnée à 'A, alors n( Îc, H) est une représentation unitaire. Cette représentation est irréductible si et seulement si h est une sous algèbre subordonnée maximale par rapport à 'A. De plus n( "A, H) ne dépend que de "A, à équivalence unitaire près, pourvu que h soit subordonnée maximale. On peut donc définir nÀ = n( "A, H) sans ambiguité. Pour toute représentation unitaire irréductible (ii) (J de G, il existe "A dans g' tel que cr soit unitairement équivalente à n"A . (iii) Soient "A et ~ dans gO, alors n seulement si il existe x E G tel que (iv) Pour tout "A (fJ* et n~ sont unitairement équivalentes SI et (Ix)* . dans g* et pour tout équivalente à (v) "A = ~ 0 "A <p dans Aut (G), [1), o<p est unitairement n /\, 0 (fJ* 1 où Aut (G ) désigne le groupe des automorphismes de G désigne la différentielle de <p en l'élément neutre. Ix désigne l'automorphisme intérieur de G définie par Ix(Y) différentielle en l'élément neutre. 12 =--' Xyx·l; y E G et (Ix)* sa Introduisons sur g" la relation d'équivalence suivante: J.l ~ À si et seulement si il existe x E G tel que À = J.l 0 (Ix)* . On notera 0(1..) la classe d'équivalence de À. D'après la proposition Il.2.1, l'ensemble G des classes de représentations unitaires irréductibles de G s'identifie à g* /~. II.2.2 - Nota Rappelons quelques résultats dûs à Kirillov. D'abord une propriété citée dans ([1] (p 56» : Soit g une algèbre de Lie nilpotente, et À E g*. Désignons par M (À,g) l'ensemble des sous-algèbres h de g subordonnées à À maximales. Dès lors le sous-espace vectoriel sous jacent à h est totalement isotrope maximal pour la forme BI.. ou encore h est une sous algèbre subordonnée de À telle que dim h =~ (dim g + dim g À) Alors les résultats de Kirillov sur les représentations des groupes de Lie nilpotents prouvent en paticulier que: II.2.3 - Théorème de Kirillov II.2.3.1 - Lemme «4), p152) Soient G un groupe de Lie nilpotent, g son algèbre de Lie et À une forme linéaire sur g telle que À ([X, Y]) = 0 quels que soient X et Y dans g. Alors la formule À (exp X ) = exp (iÀ(X» (XE g) définit un homomorphisme continu de G dans le groupe des nombres complexes de module égal à 1. Réciproquement, tout homomorphisme de cette espèce s'écrit sous la forme indiquée. 13 II.2.3.2 - Corollaire ([4], p154) Soit H un sous-groupe de Lie de G, d'algèbre de Lie h subordonnée à AE h* . Il existe un caractère continu A de H tel que A (exp X) = exp (iA (X)) (XE h) Réciproquement, tout caractère de H s'obtient de cette manière en faisant un choix convenable de A dans h* et de h subordonnée à A. A présent, énonçons Je II.2.3.3 - Théorème ([4], p154) Soit G un groupe de Lie nilpotent d'algèbre de Lie g et H sous-groupe correspondant à la sous-algèbre h subordonnée à A dans g * Posons A (exp X) et n( A,H) = exp (iA (X)) (XE h) = ind X htg Alors on a : i) Pour que la représentation n( A,H) soit irréductible, il faut et il suffit que h soit de dimension maximale dans l'ensemble des sous-algèbres subordonnées à À. (ii) Deux représentations irréductibles de cette espèce sont équivalentes si et seulement si les éléments correspondants sont situés dans la même orbite de la représentation contragrédiente de la représentation adjointe de G. (iii) Toute représentation irréductible de G s'obtient en choisissant convenablement H et 14 À. CHAPITRE III CALCUL DE LA FORMULE EXPLICITE D'UN OPERATEUR UNITAIREMENT CONJUGUE AU LAPLACIEN D'UNE NILVARIETE COMPACTE DE RANG QUELCONQUE POLARISEE III.O - Considérations générales (131, p 436) Soit G un groupe nilpotent simplement connexe, r un sous-groupe uniforme de G (ie r discret et r\G compact), m une métrique invariante à gauche sur G. Alors r opérant à gauche sur G comme un groupe d'isométries de (G, m), la métrique m induit sur r\G une métrique m de sorte que la projection (G, m) ---+ (r\G, m) soit un revêtement riemannien. Par la suite on identifiera m et m et on s'intéressera uniquement aux variétés de la forme (r\G, m) où r est un sous-groupe uniforme de G et m une métrique qui se relève en une métrique invariante à gauche sur G. Pour calculer la formule explicite de l'opérateur unitairement conjugué à l'opérateur de Laplace-Beltrami de notre nilvariété polarisée on procède ainsi qu'il suit. 2 On introduit la représentation quasi-régulière (p de G dans LC (r\G ) définie par: 2 (<p(x))f(y) = f(yx) (X,YEG et fELC (r\G )). Comme tout groupe nilpotent est unimodulaire, cette représentation est bien définie et est unitaire. On définit alors la différentielle de cette représentation de la manière suivante: d ~oo (<p.(X))f = - <p (exp (tX))f /1=0 (X E g et fE l,., (r\G)). dt L'opérateur de Laplace Beltrami de la variété (r\G, m) s'écrit alors: n ~m = - L(<fJ*(X i )) 2 ;=1 où t'xi }l~i~n est une base orthonormale quelconque de g pour la métrique m et n = dim g. Comme r\G est une variété compacte, la représentation quasi-régulière de G dans 2 LC (r\G ) se décompose en une somme directe discrète de représentations unitaires irréductibles, chacune apparaissant avec une multiplicité finie. 15 D'après les résultats de II.2.1, il existe une partie O(r) de g* telle que si À et ~ sont dans O(r) alors O(À) non nul tel que cp - (l l 0 (~) = 0 et pour chaque ÀE O(f ) il existe un entier mA- mA- 7r A- . A-EO(r) Comme en restriction à chaque espace irréductible VÀ (ÀEO(f ) cp est unitairement équivalente à 7r A-' la restriction de L\m à VÀ est unitairement conjuguée à l'opérateur: n L\ 1 A,m = - "\' ((7r ~ 1 A )* (X.)) 2 1 où lxi f1:5i:5n est une base orthonormale quelconque de g pour la métrique m et où l'on a posé (i = 1, ..... , n). 111.1 - Quelques considérations préliminaires Rappelons que dans [3], il a été calculé la formule explicite d'un opérateur unitairement conjugué au Laplacien d'une nilvariété de rang deux. L'un des obstacles à la généralisation immédiate du résultat est que dans la méthode de calcul employée, la formule: l TIexp(tju)rlexp(s.u.)=nexp((t.+s.)u.)exp[t.s.[u"uRJ] J=1 J=1 J J j=l J J J l:5j<R:5k J J J ne marche pas si le degré de nilpotence est strictement supérieur à deux. (pour s'en convaincre prendre k = 2 et R = 1) Nous avons tenté de lever cette obstruction en utilisant la proposition 1.2.4 et le corollaire 1.2.5. Par ailleurs, le fait que le degré de nilpotence est égal à deux entraine que l'algèbre dérivée g' de g est dans le centre z de g. Et du coup, les calculs s'en trouvent beaucoup simplifiés, surtout du fait que g'c z c hÀ. Ainsi donc À(g') == 0 et par conséquent À(gn) == 0 . '<::/ n E ~t (où gO = g et gn+ 1 == [g,gn]. Dès que le degré de nilpotence dépasse deux, cette propriété n'est plus valable. 16 Ici aussi, nous avons tenté de contourner cet obstacle en supposant que la nilvariété est polarisée. 1II.2 - Calcul de l'opérateur ',. fj. À ' m Rappelons que si {Xi }1S;iS;" est une base orthonormale de g pour la métrique m. n Alors m est défini par fj. À fj. À , m =- L (( TI À)· (Xi)( 'i=1 Nous distinguerons deux cas : er !-Cas:À/g'=O (i.eg=gÀ) On rappelle alors que g est l'unique sous-algèbre maximale subordonnée à À et la représentation TI À est le caractère défini par : TI À (exp X) = exp(27ti À(X)) (X E g) Dès lors, l'espace VÀ de la représentation TI À est de dimension un et l'opérateur t3. À ,m appliqué à une fonction f n t3. À m (f) (x) = , E ec (f\G) donne: L (( TI À)· (Xj)/ (f) (x) (x (f\G) E j=1 d or (( TI À)· (Xj))(f)(x) = dr TI À (exp r Xj) (f)(X)/r=O d = dr exp(2ni À( r Xj)) f(x)/r=o = 2 ni À(Xj) f(x) d'où (( TI À)· (Xj)/ (f)(x) = (( TI À)· (Xj)) 0 (( TI À)· (Xj)(f)(x)) = 2 = ((TI À). (Xj))(2ni À(Xj) f(x) = _4n (À(Xj))2 f(x). D'où m = 4n fj. À , Donc l'opérateur 2 n L (À(Xj)( j~1 fj. À m correspond à la multiplication par 4n , est une Base orthonormale. quelconque pour m de g. Remarque Si N,'" 0 alors Speer Ô J,rn) ~ {4 ,,' t. (J(X;))'} 17 2 n L ~ (À(Xj))2 où {X JIS;jS;m ème ~- Cas : À/ g' ;F. 0 (ou g Il. ;F. g) Rappelons que puisque BIl. induit sur g/g Il. une forme bilinéaire alternée non dégénérée, alors la dimension de g/ g Il. est paire et donc il existe une base orthononnée de g pour la métrique m : B = {UI, ... , Uk, VI, ... , Vk, WI, ..... , We} et des réels os; dl S; ... S; dk tels que {WI, .... , Wfl.} soit une base de g Il. = Ker BIl. (fl. = dim g Il.) . Pour 1S; i, jS; k, o= B /l.1 (U" U) = B /l.1 (Vl' V) = B /l.1 (U'l, V) - Vs: IJ.. dJ J J J où ± idj sont les valeurs propres de )1 À définie par B Il. (X, Y) == m(X, )1 À (Y)) ()1 À étant une fonne linéaire antisymétrique sur g). Rappelons aussi que g Il. EB IR V IEB ... EB IR Vk est un sous-espace vectoriel subordonné à À maximal et coïncide de ce fait avec le sous-espace vectoriel sousjacent de hÀ à un isomorphisme près. Et comme notre nilvariété est polarisée, par la suite on identifiera hl-. et Reprenons les notations du chapitre II et désignons par D~ la représentation définie par D~ (x) = a 0 D Il. (x) (H Il. = exp h Il. et a : }{ -~ fl-~ 0 a-! où x E G, D Il. = D(À, H Il. ) ec (lR k) a(f) k avec (a(f))(t) = f(Tl exp(tJ.X j )) si t = (tl,'''' tk)' J=1 , Il Il. est unitairement équivalente il IlÀ(x) et son espace de représentation est L2c (IR k). Déterminons explicitement TI'Il.' k Soitx=ho nexp(Sj Uj)oùh o J=1 , Calculons Il Il. (x). Soit f (D~ (x) f)(t) = «a 0 k ? E DI-.(x) HÀ=exp(hÀ)ets=(sl, ... ,Sk) E L-c (IR ) 0 a- I ) f) (t) = 18 E IR k = [a(I1À,(x) 0 (a-1(f))](t) = [a(a- 1 f)(ex)](t) k fl exp(t. U .) . 1 J J l = (a(a- ( f)(ex»(t) = ((a·l(f)(ex»( J= k (I1 A(x) f)(t) = (a-If) ( TI exp(t. U . )x) . 1 J= = (a-If) [ . J J k exp (t .U .) Jh TI J= 1 J J o. TIk exp (s. U .) J= 1 J J or, k exp(t.U.)h = [ TI k exp(t.U.),h ] hO TI k exp(t.U.) TI O O ' 1 JJ ' 1 JJ ' 1 JJ J= J= J= et k k 3k - 2 TI exp(t. U .) TI exp(s. U .) = TI exp . 1 J= J J . 1 J= J J . 1 J= k ( TI exp (t. + s .)U . E. J. 1 J= J J ) J (E.Eg') J d'après la proposition 1.2.4 et le corollaire 1.2.5 Et d'ailleurs puisque 3k - 2 TI exp '1 J= k k = TI k ( exp(t. U .) TI exp(s. U .) TI exp - (t . + s .)U . J 'J= I J J 'J= 1 J J 'J= 1 J J J E. ) on voit bien d'après la formule de Baker-CampbeH - Hausdorff que 3\ï2exPE ' =exp(PCt.u.sl U ») J j=1 J J J (tl U I , ... , tkU k ; SIU I , ... , où (PC t . u . SIU t ») J J désigne un polynôme en SkU k) dont le degré de chaque monôme est supérieur à deux. m On peut même dire qu'en fait P est un polynôme du type P = , L C j où les Cj sont définis J=2 par la formule (I.l.l.~) et m+l est le degré de nilpotence de g. De ce fait (P(t j U j;SI' U 1») c h'f.., c hÀ, car la nilvariété est polarisée. Il en résulte que: (I1~CX)f}t)=ca-lf)l[j A expct.u.),ho]hoexPCpct.U.;SIUI)l fi eXP(Ct.+s.)u.) =1 J J J J /j = 1 J J J 19 Par ailleurs [0 ex p( t jU j), ho ] ~ [j ~ 1ex p( (t j U j),exp(log hO))] k = k TI exp(t U )exp(logh ) TI exp(-t .U . )exp(-logh ) == exp(Q(t . U ., logh )) O j=l O O j=l J J J J J J 0 0 d'après la formule de Baker-Campbell-Hausdorff. m = L où Q un polynôme de la forme Q C j est fonction de U 1, 0'0' U k, log ho et Q(tjUj, j=2 log hO)E h À car h À est un idéal de g. Dès lors lrt (x)! Xt) = X(exP(Q(t.u .,logho))exp(logh )exp(P(tJ.U .,seUe)) J J 0 J = X:exP(Q(t jU j'logho)~ exp(t +s .)U oJ j=l) ) ) 0 X ~ X~xpP(tjU j'SIUI ~f(t + s) EH À = )(a-If)( A EH,~ EH À exp (2JriÀ(Q(t.U o,logh ))exp(2JriiÀ(logh ))exp(2JriÀ(P(t.U ,;sIUI))xf(t+s) J) 0 0 J ) = (exp(2JriÀ(Q(t. )oU).,logh 0 )+logh +P(t.U .;soU o )))f(t+s) ) ) {{ O Finalement lr1~ (x)f Xl) = (exp 2Jr iÀ(Q(t jV" , log ho) + log ho ))f(l + s) 1 car P(tpj, SIU I) E h À. et À(h À.) =0 On a donc bien la formule explicite lr1~ (x)f Xl) = f(l + s) exp(2Jr iÀ(log ho + Q(t,U" log ho)) (*) k où X = ho TI exp(s)U) avec ho EHÀ et s = (s\, 0", Sk) ElR k )-\ Avant de passer au calcul la formule explicite de L)\À.m) l'opérateur conjugué de L)(À,m) rappelons (3] que r\G étant une variété compacte, la représentation quasirégulière de G dans L~ (r\G) se décompose en une somme directe discréte de représentations unitaires irréductibles, chacun avec une multiplicité finie, Et en restriction à chaque espace irréductible VII., la restriction L)m à VII. est unitairement conjuguée à l'opérateur 20 d de g pour la métrique m et où l'on a posé (TI À)*(X i ) = dt fI À, (exP(tX))lt Calculons les opérateurs Comme ô' À, m TI À, ~-~ et TI'À, (n'À)' (X i ) sont f où Ô'À, ,m = unitairement équivalentes, alors = exp, (rUj ) alors ho= 1 élément neutre de G et log ho = Dès lors TI À, (exp(rU . )f)(t) = f(t + (0, .... ,.0, r ,..... ,0)) Pour x t J jème position (log ho = 0) Dès lors exp rU . )f)(t), ° ( ((TI~) * (U.J ))(f)(t) =~((TI~ dr J r= =~(t) f(t + (0, ....,0, r,O,O, ...O) t dr Dt. J Jéme position d'où ((J1~)*(U j))2(f)) (t)~((J1~),(Uj))[~J(t) (((TI ~ )* (U j )) 2 (f)) = 1,.. , n. on a l'opérateur lxi t: i ~ n est une base orthonormalt!juelconque de g Choisissons la base orthonormale BI.. considérée plus haut. Soit fE d i unitairement conjugués des opérateurs Ô À, ,m pour la métrique m. =- ° 2 (t) = :.2 f( t) ( l ) J 2J ° -C (lR k ). OO rE IR. Ensuite pour x = exp (r Vj ), rE IR, on a x = ho et s= 0 log ho = r Vj . D'après la formule (*) on a : n~ (exp(rV. )f)(t) = f(t)exp(2niÀ(rV. + Q(t j U l' rV . )) J J J d'où (t) ( (n~)*(v.)f)(t)=~(n~(exp(rv.)f) J dr J r=O = ~(f(t)eXP(2ni(À(rV.)) + r t .d .) + À (termes de degré J dr J J en t,v,) + À (termes de degré supérieur à 2 en r) 1 en r et de degré supérieur à 2 J . r=O En désignant par Qi(tl D, ,rVj ) = r Qi(tl Dl, Vj ) la somme des termes de degré 1 en r et de degré supérieur à 2 en t,Dl (l = 1. .... , k) on a: On en déduit que ((n~)* (V j) 2 f )ct) = ((n~)* (V j)) ((n~)* (Vj)f )ct) On a donc Enfin pour x = exp (r Wj ), on a x = ho et log ho = rW j rE R 22 Dès lors et ((TI~). (W. )f)(I) = !!.-(TI~ (exprW .»f) ) dr ) r = 0 (1) Finalement (3) 1 D'après (1), (2) et (3) on a l'expression suivante de f ± fj, 1 /\.,m f f 2 fj,'À.mf(t)=02 (t)+4Jr [ (Jl(W.»2+ (d.t.+À.(V.+Q.»2 )f(t) . 1 , . 1.::J t 2j J . 1 )) J) )= U )= )= (4) CHAPITRE IV APPLICATION U== Si Qich'À , l, ... , k) (i.e À(Qi) l'opérateur 6 "1 A,m = 0) , alors 6 1 A,m est unitairement conjugué à . Et l'on retrouve les résultats obtenus par H. PESeE [3]. Rappelons-les pour le calcul du spectre. ~l ,.... , À(Yk) ~k) E Rk En effet soit a == ((À(V ) I et T l'opérateur unitaire de L~ (R k) défini par Tf (t) ) == f (t-a), t E L~ (R k) et tERk. Alors on a : 6 " 1 A,m oT=T o 6 , 1 A,m pUisque: Il Il (6 À,m =- 0 T)(f)(t) f J- . -} or tj - aj == = (6 À ,m 0 Tf)(t) f d21~ f Tf (i)+4;r2( + (/i(W.)2]Tf(l) . .::l t 2 -1 ) ) . 1 ) u . JJ- o2 J d/) -À d (Y j ) ou djtj == ditj - aj) + À(Yj) 1 24 fUI-al,···,t. l-a. I,I.-a.+r,t. I - u , " .. ,Ik-uk)-{(ll-al,.. ,tk-ak) J JJ J J+ J +1 . · 1lm r--.+O of = -Ct-a) ot r J d'où Dès lors ( ~'~, moT }f)(t) 2 --2 0 f (t-a)+47l'2 [ L k (d.Ct. -a .)+Â.(V,))2+ L ' Â.(W.)2 ] ]l(t) '-I::l t '-\ J J J J '_1 J J- U . JJJ =- L k 2 =- lk --2 0 f (t-a)+47l'2 [ lk (d.(I.-a.)+,1,(V.))2+ l' (,1,(W.))2 ] ]f(L-a) '-I::l t '-1 J J J J '-1 J J- U . JJ- J , =T o 6 1 A,m l(t) " Donc 6 1 A,m 0 T =T0 6 , 1 A,m ou 6 " 1 A,m =T o 6 , 1 A,m T- ' Dès lors il suffit de calculer les valeurs propres de l'opérateur 6 " 1 A,m Pour cela les fonctions d'Hermite définies par où II-II est la norme euclidienne usuelle sur R k et P = k 1 P 1 L P, )=1 J et l'on rappelle que (PI, ... , Pk)EN {H} k P pEN 25 k est une base orthogonale de 02 t2. H (t) - --2 H (t) ) Pot. P = (2p . + l)H (t) ) P J on a Dès lors ou encore 6'~ rn K p (t) =[ .f 12tr(2p.) + l)d). + 4tr 2 .f 1(A(W),))2J K P (t) /t" )= )= En résumé on a la version suivante de la Proposition ILl de PESeE ([3]) Théorème Soit G un groupe de Lie nilpotent connexe, simplement connexe, r un sous- groupe de Lie uniforme de G et m une métrique invariante à gauche sur G, alors le spectre Sp ( r\G,m) du Laplacien de la variété (r\G,m) polarisée de rang quelconque telle que SP(r\G,m)= Qi est dans hl" est de la forme: U Sp(A,rn) oùl'onaposé A E B(n 26 orthonormale quelconque de g pour la métrique m . • SI À.EB2 (l)etÀ.(Q)=o:sP(À.,m)={4Jr 2 f '} J= lÀ.(W,)2)+21[ J ~ '} J= (2P,+})d"PENk} J où 1. 1= dim 8h 1 k = 2. {W.} J est une base orthonormale de gÀ pour la restriction de m à gÀ 15,)5,/ 3. ± idj (1 4. S (ï) l2 (dim g . dim gh) = l2 (n • 1) 5, j 5, k) sont les valeurs propres non nul les de l'opérateur Ill. = SI(f) u S2(f) est une partition de g ÀESI(ï) si et seulement si ,7i,:; 0 ÀES2(f) si et seulement si ,7i' ::f; X- telle que (ou g = gÀ) 0 5. Qj j = l, 2, ... ,k est le polynôme apparaissant dans (4), 27 J BIBLIOGRAPHIE [1] P. Bernat, N. Conze, M. Duflo, M. Levy-Nahas, M. Rais, P. Renouard et M. Vergne, Représentations des groupes de Lie résolubles, Dunod, Paris, 1972. [2 ] J. Dixmier, Algebres Enveloppantes, Cahiers Scientifiques, Fasc. XXXVII, Gauthier-villars Editeurs, Paris, 1974. [3 ] H. Pesee, Calcul du spectre d'une nilvariété de rang deux et applications, Trans. AMS 339 (1),1993. [4 ] L. Pukanszki, Leçons sur les représentations des groupes, Dunod, Paris, 1967. [5 ] V.S. Varadarajan : Lie groups, Lie Algebras and Their representations, Springer Verlag, New- York, 1984. 28