ENSEMBLES DE RÉSOLUTION SPECTRALE

ENSEMBLES DE RÉSOLUTION SPECTRALE
Par PAUL MALLIAVIN
Le problème de la synthèse spectrale de Beurling-Gel'fand est énoncé ha-
bituellement comme celui de la classification des sous-espaces fermés de
L& (Z) invariants par translation.
Pour la commodité des notations, nous préférerons considérer ici le
problème équivalent obtenu par transformation de Fourier.
On note par A l'algèbre de Banach des fonctions réelles définies sur le
cercle T, ayant une série de Fourier absolument convergente.
P dénotera l'espace de Banach réel dual de A ; P peut être identifié avec
l'espace des distributions, au sens de Laurent Schwartz, définies sur T et
ayant leurs coefficients de Fourier bornés. Si TEP on notera par s(T) le
support de la distribution T. On notera enfin par (a,T), a E A, TEP là
forme bilinéaire réalisant la dualité.
On peut immédiatement définir sur P une structure de A -module. Si
a0EA et TEP sont donnés alors le produit de a0T est l'élément de P défini
par
(a,a0T) = (aa0,T),
où a est un élément générique de A.
P sera muni de la topologie vague c'est-à-dire la topologie la moins fine
rendant continues toutes les fonctions (a, T).
Ceci étant le problème de synthèse spectrale peut s'éconcer comme celui
de la classification des sous-modules fermés de P. Plus précisément si Tfl est
un tel sous-module on lui associe son spectre
a(7H) = U s(T)
qui est une partie fermée de T. Une partie fermée E de T est un ensemble
de synthèse spectrale s'il existe un seul sous-module fermé THE tel que
o(7nE)=E.
On peut trouver dans un travail récent de Carl Herz [2] une étude exhaus-
tive de toutes les classes des ensembles qui sont actuellement connus comme
étant de synthèse spectrale.
La notion d'ensemble de synthèse spectrale n'est pas très maniable. On
ne sait pas démontrer, par exemple, que l'union de deux ensembles de
synthèse spectrale est encore de synthèse spectrale. Calderón [1] a introduit
une sous-classe des ensembles de synthèse spectrale qui se conserve par
l'opération de réunion. Nous procéderons de façon analogue.
On dit qu'une partie fermée F de Y est un ensemble de résolution spectrale
si toute partie fermée E de F est de synthèse spectrale. Si F est de résolu-
tion spectrale la structure des sous-modules fermés de TWj? est complètement
connue : elle est isomorphe à l'algèbre de Boole des parties fermées de F.

ENSEMBLES DE RESOLUTION SPECTRALE 369
On voit aisément que si F est fermé, F=\J?J?Î Fj9 les ensembles Fj
étant tous de résolution spectrale, alors F est lui-même de résolution spec-
trale.
Utilisant un raisonnement de dualité élémentaire bien connu on a que E
est un ensemble de synthèse spectrale si et seulement si
sfflcEcza-^O) (TEP,aEA)
entraîne (a,T)=0. (0.1)
Kahane et Salem ont construit [4] des ensembles parfaits H tels que
TEP,s(T)czH entraîne que T est une mesure.
Utilisant (0.1) on voit immédiatement qu'un tel ensemble H est un en-
semble de résolution spectrale.
Nous nous proposons ici d'établir un lien entre les ensembles de résolution
spectrale et une notion de la théorie classique des séries trigonométriques :
celle d'ensemble d'unicité.
Rappelons qu'une partie G de V est un ensemble d'unicité si le fait pour
une série trigonométrique de converger vers zéro sur le complémentaire de G
entraîne que tous ses coefficients sont nuls. Si G est fermé on peut transfor-
mer cette définition de la manière suivante :
PQ notera la partie de P constituée par les distributions dont le coefficient
de Fourier de rang n tend vers zéro lorsque r&-> + oo.
Alors G est un ensemble d'unicité si et seulement si
TEP0, S(T)CZG entraîne T = 0.
THéORèME 0.3. Tout ensemble de résolution spectrale est un ensemble
d'unicité.
Si E est une partie fermée de T, l'algèbre de restrictions des fonctions de
A k E, soit AE est définie comme le quotient de A par l'idéal JE des fonc-
tions nulles sur E.
L'espace de Banach dual de AE, soit PE s'identifie avec l'espace des
distributions TEP telles que
s(T)aE,
(a, T)=0 pour tout a E JE.
En particulier toutes les mesures de support contenues dans E sont des
éléments de PE. On dira que E est un ensemble de multiplicité au sens strict
s'il existe TEPE dont les coefficients de Fourier tendent vers zéro.
Sous des conditions générales sur E, Kahane et Katznelson [3, 6] (cf. la
conférence de M. Kahane dans ces Proceedings) ont montré que les fonctions
opérant sur AE sont seulement les fonctions analytiques. Le résultat que
nous allons donner comme conséquence immédiate du Théorème 0.3 est
moins précis, mais ne rentre pas, actuellement semble-t-il, dans le cadre de
résultats cités ci-dessus.

370 p. MALLIAVIN
THéORèME 0.4. Soit E un ensemble de multiplicité au sens strict, soit O une
fonction opérant sur AEi alors O appartient à la classe de fonctions indéfini-
ment dérivables
C((nlogn)n).
1. Avant de démontrer ces théorèmes nous allons introduire quelques nota-
tions. Si a E A on note par
rdx
2âi
a(n)= \a(x)e~in
Si T E P on note par T'(n) = (einx, T).
Avec ces conventions (a, T) = 2 a(n) T'(n).
n
On note par Ila 111= 21a'(n) I
\\T\\„=E*V\r(n)\.
Enfin remarquons que H&^H'oo<IH|iII^H^-
On notera enfin par Aiog l'ensemble des fonctions aEA telles que
1
2l»'(»)|log
On a alors le lemme
a'(n)
<oo. (1.1)
LEMME 2. Supposons que Von ait trouvé TEP, T'(0)=¥0 etaEAiog tels
que posant
p(u) = \\J™T\\M,
/• + 00
on ait p(u)(\u\ + l)du< oo.
J —oo
(2.1)
Alors s(T) n'est pas un ensemble de résolution spectrale.
(On peut remarquer que a E A implique eiuaEA et par suite p(u) est bien
défini.)
Preuve. On sait que [8] l'hypothèse (1.1) entraîne qu'il existe une suite
Mn telle que la classe de fonctions indéfiniment différentiables définies sur
la droite C(Mn) soit non quasi-analytique et que si FEC(Mn) et est à sup-
port compact on ait
+°°\\eiu%\F(u)\du<~>,
(2.2)
r
où F est la transformée de Fourier de F définie par
f+0° dt
F(u)= F(t)e-itu — .
J-oo 2n

ENSEMBLES DE RESOLUTION SPECTRALE 371
Il résulte de (2.2) que l'intégrale
eiuaF(u)du
j:
converge comme intégrale vectorielle dans A. On appellera F(a) la valeur
de cette intégrale. La convergence dans A implique que
F(a)T= (eiuaT)F(u)du
J -oo
converge comme intégrale vectorielle dans P. En particulier on aura
(F(a),T)= f (éuaT)'(0)F(u)du (2.3)
J —00
et \\F(a)T\\'M^ f" p(.u)\F(u)\du. (2.4)
J -oo
Soit maintenant / G C(Mn), le support de / étant contenu dans ( — 1, +1)
et de plus
/•
f(t)dt~l.
Soit g la dérivée de /. Posons
kr(t)~~r2g(rt).
Alors on a quelque soit r \ icr(u) \ < | u |.
Par suite utilisant (2.4) et (2.1) on obtient que
\\kr(a) TW'OQ est uniformément bornée.
En extrayant au besoin une sous-suite on peut se ramener au cas où
kr(a) T-+U
la convergence étant une convergence vague dans P. On a
s(U) clim sup (s(kr(a) T)) =s(T) n a~l(0). (2.5)
D'autre part (a, U) = lim (a, hr (a) T) = lim (akr (a), T). (2.6)
r->oo r->oo
Nous allons évaluer cette limite en utilisant (2.3). En combinant (2.3)
et (2.4) on obtient que
f+0°
\(F(a),T)\< p(u)\F(u)\du. (2.7)
J -oo
Nous noterons par 1(F) l'expression dont la valeur absolue figure au
premier membre de cette inégalité. Alors 1(F) est une forme linéaire sur

372 p. MALLIAVIN
C(Mn), continue pour la norme L2 en vertu de (2.7) et de (2.1). Il existe
donc une fonction h de carré intégrable, dont le support est contenu dans
l'ensemble des valeurs de a, telle que
'(*),*) = f-
(F(a),T)= ÏF(t)h(t)dt. (2.8)
Prenant en particulier F(t) = eiut on obtient
\îb(u)\<p(u)
ce qui avec (2.1) entraîne que h(t) est une fois continûment differentiable.
Calculons (2.6) en utilisant (2.8), on obtient
(a, U) = lim \tkr (t) h(t) dt = h(0). (2.9)
On peut toujours se ramener au cas h(0) 4=0. En effet
\h(t)dt = (l,T) = T' (0)4=0.
f«
Par suite il existe v0 tel que h(v0) 4=0. Il suffit d'appliquer le raisonnement
précédent à a1=a—vQ pour avoir h1(0)=h(v0)^=0.
Comparant (2.5) et (2.9) on voit que
H = a-1(0)f]a(T) (2.10)
n'est pas un ensemble de synthèse spectrale, et comme H a s(T), s(T) n'est
pas un ensemble de résolution spectrale, d'où le lemme.
3. Nous allons démontrer le théorème (0.3) en montrant qu'un ensemble
qui n'est pas d'unicité ne peut pas être un ensemble de résolution spectrale.
Si E n'est pas un ensemble d'unicité, on peut trouver TEP0, T=$=0 avec
s(T) c E. En multipliant T par eimx on peut se ramener au cas ou T'(0) 4=0.
Nous associerons à T la fonction décroissante tendant vers zéro suivante
g(n) = max\T'(r)\.
\T\>n
T étant donné nous prendrons
a(x) = ^k~1~esinnkx, (3.1)
k
où e >0 est fixé et où {nk} sera une suite lacunaire que nous construirons de
façon convenable. D'une manière plus précise la suite {%} sera déterminée
par le lemme
LEMME 4. On peut trouver une suite croissante d'entiers {nk} telle que quelque
soit les entiers positifs s et q on ait
s
1
2 k2nk<-ns+1, (4-1.)
fc-i 4