E N S E M B L E S DE R É S O L U T I O N S P E C T R A L E Par P A U L MALLIAVIN Le problème de la synthèse spectrale de Beurling-Gel'fand est énoncé habituellement comme celui de la classification des sous-espaces fermés de L& (Z) invariants par translation. Pour la commodité des notations, nous préférerons considérer ici le problème équivalent obtenu par transformation de Fourier. On note par A l'algèbre de Banach des fonctions réelles définies sur le cercle T, ayant une série de Fourier absolument convergente. P dénotera l'espace de Banach réel dual de A ; P peut être identifié avec l'espace des distributions, au sens de Laurent Schwartz, définies sur T et ayant leurs coefficients de Fourier bornés. Si TEP on notera par s(T) le support de la distribution T. On notera enfin par (a,T), a E A, TEP là forme bilinéaire réalisant la dualité. On peut immédiatement définir sur P une structure de A -module. Si a0EA et TEP sont donnés alors le produit de a0T est l'élément de P défini par (a,a0T) = (aa0,T), où a est un élément générique de A. P sera muni de la topologie vague c'est-à-dire la topologie la moins fine rendant continues toutes les fonctions (a, T). Ceci étant le problème de synthèse spectrale peut s'éconcer comme celui de la classification des sous-modules fermés de P. Plus précisément si Tfl est un tel sous-module on lui associe son spectre a(7H) = U s(T) qui est une partie fermée de T. Une partie fermée E de T est un ensemble de synthèse spectrale s'il existe un seul sous-module fermé THE tel que o(7nE)=E. On peut trouver dans un travail récent de Carl Herz [2] une étude exhaustive de toutes les classes des ensembles qui sont actuellement connus comme étant de synthèse spectrale. La notion d'ensemble de synthèse spectrale n'est pas très maniable. On ne sait pas démontrer, par exemple, que l'union de deux ensembles de synthèse spectrale est encore de synthèse spectrale. Calderón [1] a introduit une sous-classe des ensembles de synthèse spectrale qui se conserve par l'opération de réunion. Nous procéderons de façon analogue. On dit qu'une partie fermée F de Y est un ensemble de résolution spectrale si toute partie fermée E de F est de synthèse spectrale. Si F est de résolution spectrale la structure des sous-modules fermés de TWj? est complètement connue : elle est isomorphe à l'algèbre de Boole des parties fermées de F. ENSEMBLES DE RESOLUTION SPECTRALE 369 On voit aisément que si F est fermé, F=\J?J?Î Fj9 les ensembles Fj étant tous de résolution spectrale, alors F est lui-même de résolution spectrale. Utilisant un raisonnement de dualité élémentaire bien connu on a que E est un ensemble de synthèse spectrale si et seulement si sfflcEcza-^O) entraîne (TEP,aEA) (a,T)=0. (0.1) Kahane et Salem ont construit [4] des ensembles parfaits H tels que TEP,s(T)czH entraîne que T est une mesure. Utilisant (0.1) on voit immédiatement qu'un tel ensemble H est un ensemble de résolution spectrale. Nous nous proposons ici d'établir un lien entre les ensembles de résolution spectrale et une notion de la théorie classique des séries trigonométriques : celle d'ensemble d'unicité. Rappelons qu'une partie G de V est un ensemble d'unicité si le fait pour une série trigonométrique de converger vers zéro sur le complémentaire de G entraîne que tous ses coefficients sont nuls. Si G est fermé on peut transformer cette définition de la manière suivante : PQ notera la partie de P constituée par les distributions dont le coefficient de Fourier de rang n tend vers zéro lorsque r&-> + oo. Alors G est un ensemble d'unicité si et seulement si TEP0, S(T)CZG entraîne T = 0. THéORèME 0.3. Tout ensemble de résolution spectrale est un ensemble d'unicité. Si E est une partie fermée de T, l'algèbre de restrictions des fonctions de A k E, soit AE est définie comme le quotient de A par l'idéal JE des fonctions nulles sur E. L'espace de Banach dual de AE, soit PE s'identifie avec l'espace des distributions TEP telles que s(T)aE, (a, T)=0 pour tout a E JE. En particulier toutes les mesures de support contenues dans E sont des éléments de PE. On dira que E est un ensemble de multiplicité au sens strict s'il existe TEPE dont les coefficients de Fourier tendent vers zéro. Sous des conditions générales sur E, Kahane et Katznelson [3, 6] (cf. la conférence de M. Kahane dans ces Proceedings) ont montré que les fonctions opérant sur AE sont seulement les fonctions analytiques. Le résultat que nous allons donner comme conséquence immédiate du Théorème 0.3 est moins précis, mais ne rentre pas, actuellement semble-t-il, dans le cadre de résultats cités ci-dessus. 370 p. MALLIAVIN THéORèME 0.4. Soit E un ensemble de multiplicité au sens strict, soit O une fonction opérant sur AEi alors O appartient à la classe de fonctions indéfiniment dérivables C((nlogn)n). 1. Avant de démontrer ces théorèmes nous allons introduire quelques notations. Si a E A on note par dx a(n)= \a(x)e~in r 2âi Si T E P on note par T'(n) = (einx, T). Avec ces conventions (a, T) = 2 a(n) T'(n). n a Il 111= 21 a '( n ) I On note par \\T\\„=E*V\r(n)\. Enfin remarquons que H&^H'oo<IH|iII^H^- On notera enfin par Aiog l'ensemble des fonctions aEA telles que 1 2l»'(»)|log a'(n) <oo. (1.1) On a alors le lemme LEMME 2. Supposons que Von ait trouvé TEP, T'(0)=¥0 etaEAiog tels que posant p(u) = \\J™T\\M, /• + 00 on ait p(u)(\u\ + l)du< oo. (2.1) J —oo Alors s(T) n'est pas un ensemble de résolution spectrale. (On peut remarquer que a E A implique eiuaEA et par suite p(u) est bien défini.) Preuve. On sait que [8] l'hypothèse (1.1) entraîne qu'il existe une suite Mn telle que la classe de fonctions indéfiniment différentiables définies sur la droite C(Mn) soit non quasi-analytique et que si FEC(Mn) et est à support compact on ait r + °°\\eiu%\F(u)\du<~>, où F est la transformée de Fourier de F définie par F(u)= f+0° dt F(t)e-itu — . J-oo 2n (2.2) ENSEMBLES DE RESOLUTION SPECTRALE 371 Il résulte de (2.2) que l'intégrale eiuaF(u)du j: converge comme intégrale vectorielle dans A. On appellera F(a) la valeur de cette intégrale. La convergence dans A implique que (eiuaT)F(u)du F(a)T= J -oo converge comme intégrale vectorielle dans P. En particulier on aura (éuaT)'(0)F(u)du (2.3) \\F(a)T\\'M^ f" p(.u)\F(u)\du. (2.4) (F(a),T)= f J —00 et J -oo Soit maintenant / G C(Mn), le support de / étant contenu dans ( — 1, +1) et de plus f(t)dt~l. /• Soit g la dérivée de /. Posons kr(t)~~r2g(rt). Alors on a quelque soit r \ icr(u) \ < | u |. Par suite utilisant (2.4) et (2.1) on obtient que \\kr(a) TW'OQ est uniformément bornée. En extrayant au besoin une sous-suite on peut se ramener au cas où kr(a) T-+U la convergence étant une convergence vague dans P. On a D'autre part s(U) clim sup (s(kr(a) T)) =s(T) n a~l(0). (2.5) (a, U) = lim (a, hr (a) T) = lim (akr (a), T). (2.6) r->oo r->oo Nous allons évaluer cette limite en utilisant (2.3). En combinant (2.3) et (2.4) on obtient que f+0° \(F(a),T)\< p(u)\F(u)\du. (2.7) J -oo Nous noterons par 1(F) l'expression dont la valeur absolue figure au premier membre de cette inégalité. Alors 1(F) est une forme linéaire sur 372 p. MALLIAVIN C(Mn), continue pour la norme L2 en vertu de (2.7) et de (2.1). Il existe donc une fonction h de carré intégrable, dont le support est contenu dans l'ensemble des valeurs de a, telle que '(*),*) = f- (F(a),T)= ÏF(t)h(t)dt. (2.8) Prenant en particulier F(t) = eiut on obtient \îb(u)\<p(u) ce qui avec (2.1) entraîne que h(t) est une fois continûment differentiable. Calculons (2.6) en utilisant (2.8), on obtient (a, U) = lim \tkr (t) h(t) dt = h(0). (2.9) On peut toujours se ramener au cas h(0) 4=0. En effet f« \h(t)dt = (l,T) = T' (0)4=0. Par suite il existe v0 tel que h(v0) 4=0. Il suffit d'appliquer le raisonnement précédent à a1=a—vQ pour avoir h1(0)=h(v0)^=0. Comparant (2.5) et (2.9) on voit que H = a-1(0)f]a(T) (2.10) n'est pas un ensemble de synthèse spectrale, et comme H a s(T), s(T) n'est pas un ensemble de résolution spectrale, d'où le lemme. 3. Nous allons démontrer le théorème (0.3) en montrant qu'un ensemble qui n'est pas d'unicité ne peut pas être un ensemble de résolution spectrale. Si E n'est pas un ensemble d'unicité, on peut trouver TEP0, T=$=0 avec s(T) c E. En multipliant T par eimx on peut se ramener au cas ou T'(0) 4=0. Nous associerons à T la fonction décroissante tendant vers zéro suivante g(n) = max\T'(r)\. \T\>n T étant donné nous prendrons a(x) = ^k~1~esinnkx, (3.1) k où e > 0 est fixé et où {nk} sera une suite lacunaire que nous construirons de façon convenable. D'une manière plus précise la suite {%} sera déterminée par le lemme LEMME 4. On peut trouver une suite croissante d'entiers {nk} telle que quelque soit les entiers positifs s et q on ait s 1 2 k2nk<-ns+1, fc-i 4 (4-1.) ENSEMBLES DE RESOLUTION SPECTRALE I (2g2+ir^ßWr_1)<e-eJ. 373 (4.2.) r=a+l Preuve. D'abord il est clair que si une suite {mk} satisfait l'une des inégalités (4.1s) ou (4.2a) toute suite extraite de {mk} satisfera encore la même inégalité. Cette remarque nous permet d'utiliser le procédé diagonal. On déterminera d'abord une suite {nk} qui satisfait (4.1s) quelque soit s, ce qui est évidemment possible car si les n% sont déterminés pour k<,s, on pourra toujours choisir 7is+i assez grand pour que (4.1s) soit vérifié. {n\} sera une suite extraite de {n°k} telle que (4.22) soit satisfait. {nk} sera une suite extraite de {ni'1} de telle sorte que (4.2a) soit satisfait. Enfin on prend nk = nk et le lemme sera satisfait. 5. Nous allons établir dans ce paragraphe un lemme combinatoire. Nous noterons par / une fonction définie sur les entiers positifs, prenant des valeurs entières, égale à zéro sauf en un nombre fini de points. Nous noterons par F la famille de toutes ces fonctions. Fq notera la partie de F constituée par les / vérifiant f(k)=0 si k<q, \f(k)\<q2 si k>q. A une fonction / et à la suite nk on associe l'entier n(f) défini par «(/)=2>k/(*). k Avec ces notations on a LEMME 5.1. Soit m un entier donné. A tout entier r>q associons Lr = lfEFq;\m + n(f)\<±n\. Alors Lr contient au plus l + (2g 2 +l) r ~* éléments. Preuve. Soit /0 tel que I m + n(fo) | = m m | m + n(f) I feFq et notons par d ce minimum \m + n(f)\>d (5.2) et d'autre part \m + n(f)\ = \m + n(f0) + n(f-f0)\>\n(f-f0)\-d. Soit s le plus petit entier tel que d<-. (5.3) 374 P. MALLIAVIN Si j > q, notons par C^{fEF^,f(j)^fQ(j) (4.1) entraîne que et f(k)=f0(k) | n(f — f0) \ > \UJ si si k>j}. / € Cy. Par suite d'après (5.3) \n(f) + m\>\n5 si j>s et fEC5. Si j<s nous utilisons (5.2) et nous obtenons Im 4- n(f) | > lns-! Par suite Cj[)Lr = 0 si pour tout / E Cj. j>s et j>r. (5.4) + oo D'autre part on a Fq = {/0} U ( U C,) et (5.4) entraine alors que £r^{/o}u(Ûcy. J= Q Il est facile d'énumérer le nombre d'éléments figurant dans le second membre et ceci démontre le lemme. 6. Nous allons aborder l'évaluation de p(u), nous allons montrer que pour u assez grand, p(u) < exp ( — rjUlia+E)) où rj est une constante positive. (6.1) Nous associerons d'abord à u l'entier q défini par (q-l)2 (4e)-1 < \u\ <q2 (4e)"1. (6.2) Nous allons utiliser quelques identités de la théorie des fonctions de Bessel. On a exp (iuk~1~e sin %#) = Dk + Ek, (6.3) a* où D ft = 2 «/ s (^~ 1 ~ £ )exp(^ f c a;) 3 S=-fl* Ek étant la somme des termes de rang s vérifiant \s\ >q2. On a en utilisant des estimées asymptotiques classiques de la théorie des fonctions de Bessel (cf. [7] par exemple) ||Dfc||i + | | 2 y ; < 4 ( | u | + l ) . (6-4) D'autre part on peut prouver de même qu'il existe un nombre ô < 1 tel que | Js (v) | < ô quel que soit v réel, J < | v \ < \, (6.5) Enfin en tenant compte de (6.2) on peut montrer que | Js(uk~1-e)\< (4fc 1+ T ,s| si \s\ >q2. (6.6) ENSEMBLES DE RÉSOLUTION SPECTRALE 375 w notera un ensemble fini d'entiers >q. Wq notera l'ensemble de tous les w. On notera par w° le complémentaire de w dans l'ensemble des entiers >q. Avec ces notations on a LEMME 7. On a, pour \u\ >21| T||oo 4-1, quelque soit wEW, Il m all'oc < Il r||» + i, (7-1) kew* ||î , ÏÏi> f c |ro 0 <||2 , ||;e X p(-^ 1 ' ( 1 + e '), et (7.2) k=g où rj est une constante numérique. Preuve. On a en développant le produit infini nDk=IC(f)exj>(in(f)x), k=q feF rqa + 00 =n C(/)=riJ><*>(«*-1-); où (7.3) k=Q + 00 on a (TUDkYM = 2 T'(m + «(/))C(f). k=Q feFq UtiHsant les notations du lemme (5.1) le second membre est majoré en module par \\T\\'xC(f0) + + f I\T'{m + n(f))\\C(f)\, r = fl+l feBr où Br=Lx — Lr-\. Il résulte immédiatement de (7.3) que |0(/)|< 1. Par suite en utilisant encore (5.1) 2 <(232+ir«Sr(iWr_1). feBr Utilisant (4.2ff) on a \\TnDk\\'M<\\T\\'xSuV\C(f)\ + e-w. fc=fl (7.4) feFq Tout le raisonnement précédent est valable si on remplace le produit infini, k variant de q à + oo par un produit analogue k variant dans w°, il suffit de remplacer dans (7.4) C(f) par le produit infini (7.3) pris encore sur w°. Ainsi (7.4) établit (7.1). Pour établir (7.2) il suffit de remarquer que I <?(/)!< n kW«*- 1 -)! i<\u\k-1~e<i et d'utiliser (6.5) pour obtenir |C(/)|<exp(-^1/(1+£)). 376 P. MALLIAVIN 8. Démonstration de V inégalité (6.1) J™T = bIl(Dk + Ek)T k-a où b-TUPt+Bu), fc-i d'où ^(«xiiftiiiiin^+^rir». fc = fl Utilisant (6.4) on a || 6 ||i < exp (r\u^ log u) et nous pouvons négliger ce facteur si 1/(1 + s) > \. Ainsi 6.1 sera une conséquence de la même évaluation pour ^M=n^npfc+^)iroo; or on a + fl (Dk + Ek) = "ff.Dfc+ 2 k=q k=q 11 A I I Ek, weW kew° kçw d'où utilisant (7.1) AW<||rnftlt + (||r|ra. + i)2 1111**111. fe=a u e W fee w Il est facile d'évaluer la dernière somme. En effet elle est égale à n (i+libili)-i k=q et elle a le même ordre de grandeur que Inaili. k=q somme qui est inférieur à e~,M| en vertu de (6.6) ce qui établit l'inégalité (6.1) et démontre le théorème (0.3). 9. Démonstration du Théorème 0.4. Notons par JE l'idéal constitué par les fonctions de A qui sont nulles suri?. S u r ^ est munie de la norme d'algèbre de Banach quotient ||a||î, £ = inf||6||î, oh(b-a)EJE. Si TEPE alors on a en tenant compte du fait que T est orthogonal à JE sup \(a,T)\= sup (6,T) = | | T | | ; . l|s|lîijEri l|ô|li=i (9.1) ENSEMBLES DE RÉSOLUTION SPECTRALE 377 Soit maintenant O une fonction opérant sur AE, soit h la fonction associée au couple a, T par la formule (2.8). Calculons I(u)= fo(|)e iu ^(D^. D'après (2.8) on a ou encore I(u) = (®(a) éua, T) I(u) = (<S>(a), eiua T), d'où en utilisant (9.1) et la définition de p(u) donnée dans le lemme 2, on obtient |/W|<||*(a)||i.*pW Nous pouvons nous dispenser de l'hypothèse aEAiog et prendre simplement a E A. Ceci implique, comme dans [8], que C(Mn) étant une classe non quasi-analytique donnée, on peut construire a tel que ||0(a)||î.s<oo entraîne h O E C(Mn). (9.2) Prenant en particulier O = 1 on obtient que hEC(Mn). Nous noterons par Q l'ensemble des classes C non quasi-analytiques de fonctions différentiables qui sont fermées pour la division c'est-à-dire telles que k E C, k 4=0 entraîne r € Ck Utilisant (9.2) on obtient que si O opère sur AE alors oenc C€Q Rudin a montré [10] que fìceoC est exactement la classe O((nlogn)n) ce qui démontre le théorème (0.4). 10. Remarques. Tous les ensembles de non synthèse spectrale du cercle actuellement connus ne sont pas des exemples d'unicité^1) Ce résultat est évidemment faux sur le Tore à 2 dimensions (xvx2). Il existe des ensembles de non synthèse portés par la droite x2=0. On montrerait que l'ensemble H introduit en (2.10) est de multiplicité en montrant que U'(n)->0 |n|->oo ce qui est une conséquence de la formule •4 (eiuaT)udu et due fait que TEP0. (*) Ce problème a été résolu depuis indépendamment par Filippi d'une part et Kahane Katznelson d'autre part. Ils ont montré que l'ensemble parfait de Cantor E n'est pas de résolution spectrale; ceci est d'autant plus remarquable que l'on sait d'après un théorème de C. Herz que E est un ensemble de synthèse spectrale. Enfin Filippi a étendu le théorème 0.3 à un groupe abélien non discret arbitraire, Kahane Katznelson ont montré que sous les hypothèses du théorème 0.4 seules les fonctions analytiques opèrent sur A „. 378 P. MALLIAVIN Signalons u n résultat immédiat sur les séries de Taylor lacunaires : soit E un ensemble qui n'est pas d'unicité, on peut construire une série de Taylor lacunaire absolument convergente f(z) telle que f(E) ait comme partie du plan omcplexe un intérieur non vide. La technique pour obtenir ce résultat consiste à montrer comme en (2.8) qu'il existe une fonction continue h(t,v) des 2 variables réelles, t et v telle que (F(f(eid)),T) = JF(t,v)h(t,v)dtdv. Cette formule peut être démontrée utilisant une technique analogue à celle de Rudin [9]. Comme le support de h est contenu dans f(E), on a le résultat. J . P . Kahane, G. Weiss a n d M. Weiss [5] ont obtenu des résultats analogues mais plus précis pour des ensembles spéciaux du type de Cantor. Le fait que l'ensemble E ne soit pas d'unicité ne semble pas être lié de façon intrinseèque au problème mais seulement à la technique utilisée. BIBLIOGRAPHIE [1], CALDERóN, A., Ideals in Abelian group algebras. Symposium on Harmonie Analysis and Related Integral Transforms. Cornell University, 1956. [2]. HERZ, CARL S., The spectral theory of bounded functions. Trans. Amer. Math. Soc, 94 (1960), 180-232. [3]. KAHANE, J . P . & KATZNELSON, Y., Sur la réciproque du théorème de Wiener-Levy. CR. Acad. Sci. Paris, 248 (1959), 1279-1281. [4]. KAHANE, J . P . & SALEM, R., Sur les ensembles linéaires ne portant pas de pseudo-mesures. C.R. Acad. Sci. Paris, 243 (1956), 1185-1187. [5]. KAHANE, J . P., W E I S S , G., & W E I S S , M., On gap Taylor series. (A paraître aux Math. Scand.) [6], KATZNELSON, Y., Calcul symbolique sur les algèbres de restriction. CM. Acad. Sci. Paris, 254 (1962), 2514-2515, 2700-2702. [7]. MALLIAVIN, P., Impossibilité de la synthèse spectrale sur les groupes abéliens non compacts. Pubi. Math. (I.H.E.S.), Paris, 2 (1959), 61-68. [8]. Calcul symbolique et sous-algèbres deL±(G). Bull. Soc. Math. France, 8 (1959) 180-190. [9]. RUDIN, W., Monographie sur l'Analyse Harmonique. (A paraître.) [10]. On inverse closed algebras of differentiable functions. (A paraître.)