sous-espaces invariants d`un opérateur et factorisations de sa

Actes, Congrès intern. Math., 1970. Tome 2, p. 459 à 465.
SOUS-ESPACES INVARIANTS D'UN OPÉRATEUR
ET FACTORISATIONS
DE SA FONCTION CARACTÉRISTIQUE
par Béla SZ. - N A G Y
1. - On s'est aperçu dès les commencements de l'étude des "fonctions caractéristiques" associées aux opérateurs T de certains types dans l'espace de Hilbert (*),
qu'il existe des relations entre les sous-espaces invariants pour T et les factorisations de la fonction caractéristique de T. Notamment, on a pu associer à tout
sous-espace invariant pour T une factorisation de la fonction caractéristique, et à
toute factorisation de la fonction caractéristique un sous-espace invariant, sinon
de T, mais d'un opérateur T = T® V où le terme V est un opérateur à structure
simple, par exemple unitaire ou autoadjoint, suivant le cas traité. Cf. en particulier [1], [2], [3].
Le problème de trouver les relations exactes entre les factorisations de la fonction caractéristique et les sous-espaces invariants pour T lui-même, n'a été résolu
que vers la fin de l'année 1963, par Sz.-Nagy et Foiaç, pour les contractions
complètement non-unitaires (c.n.u.)( 2 ); cf. [4] et [5], chap. VII. Ces résultats
ne sont donc pas tout récents. Mais ils semblent être peu connus, même les journaux analytiques n'en ont donné qu'une idée vague, sinon incorrecte. Il ne nous
a pas semblé donc inutile de revenir à ce sujet dans cette conférence.
Notons que le cas des opérateurs à partie imaginaire positive se réduit à celui
des contractions par une transformation de Cayley.
2. - Pour un espace de Hilbert & on désignera par I?& l'espace de Hilbert des
fonctions u(-) définies sur le cercle unité, à valeurs vecteurs dans ô, mesurables et
de norme carrée integrable pour la mesure de Lebesgue normée. Soit H2 le souso
espace formé des fonctions
u(eu) ~ u0 + eitui
+ e2itu2
+ •• -.
On pose x(eit) — e"On envisagera aussi des fonctions $ ( • ) à valeurs opérateurs ê -> ©, mesurables
et bornées par 1 : une telle fonction sera appelée contractive ; elle engendre
par (4>«)() = $ ( - ) u() un opérateur $ : L\-+ L2&, notamment une contraction ; <È> permute à la multiplication par toute fonction scalaire mesurable bornée.
(1) Tout espace de Hilbert envisagé est supposé complexe et separable ; par opérateur
on entend un opérateur linéaire et borné.
(2) Toute contraction est la somme orthogonale d'un opérateur unitaire et d'une contraction c.n.u.
460
B. SZ.-NAGY
D 3
Lorsque $ transforme le sous-espace H2 de L2& dans le sous-espace H2 de L2
nous disons que la fonction est analytique ; telle fonction est notamment la limite
radiale, p.p. sur le cercle unité, d'une fonction $(X) = 4>0 4- \$t + \ 2 <ï>2 4- • • •
analytique et contractive dans l'intérieur du cercle unité. (Ici on fait usage de ce
que les espaces envisagés sont séparables). La fonction analytique contractive
(f.a.c.) <£(•) est pure lorsque ||<ï>0 a\\ < \\a\\ pour tout a G S , a =£ 0. Toute f.a.c.
$ ( • ) est la somme orthogonale d'une f.a.c. pure <È>°(-) et d'une fonction constante
unitaire &1 ( • ) = Z :
*(•)
*°(-)
*'(•)
La f.a.c. <&(•) s'appelle intérieure si ses valeurs sont des opérateurs isométriques
S -• <| en presque tous les points du cercle unité ; une définition équivalente est
que l'opérateur $ soit isométrique. Elle s'appelle extérieure si l'image de H\ par $
est dense dans H2 .
Si <£(•) est une f.a.c, il en est de même de la fonction 4>~() définie par
*~V0 = $(<r/f)* .
La fonction 4>() s'appelle »-intérieure ou »-extérieure si son associée est intérieure
ou extérieure, selon les cas.
Pour deux fonctions à valeurs^opéfatëurs on liit qu'elles"coïncident lorsqu'elles
ne diffèrent qu'à des facteurs constants unitaires de chaque côté.
3. — Pour une contraction quelconque T dans l'espace de Hilbert #€ on définit
les opérateurs de défaut DT= (I - T*T)l/2, DT* = (I - TT*)l/2 et les espaces
de défaut (DT = DTWl, <Dr, = D^M. La fonction
®r(A) = [-T+\DT*(I-
\T*yl
DT]\(DT
est analytique dans l'intérieur du cercle unité et on peut montrer qu'elle est
même contractive pure : ses valeurs sont des opérateurs (Op -> d>T*. Cette fonction,
ou plutôt la fonction 0 r ( ) qui en dérive comme limite radiale p.p. sur le cercle
unité, s'appelle la fonction caractéristique de la contraction T.
Les cas particuliers a) TGCQ, b) T£CA,
c) TGC0 , d) T<ECt (l) correspondent aux cas où la fonction caractéristique @ r (-) est a) intérieure, b) extérieure, c) »-intérieure, d) »-extérieure.
Les opérateurs Tt=C0 admettent un modèle fonctionnel simple. On prend
une fonction intérieure, à valeurs opérateurs £-* % ; ®H\ est alors un sous-espace
de H2. On pose
(1) On écrit TeÇ0 si T*nh -* 0 pour tout /z G S£ («-* °°), et TGCA si T*n h -• 0
pour h = 0 seulement. De même, Te C0m si T" h -• 0 pour tout h, et Tècx
siTnh-+Q
pour h = 0 seulement. Enfin, Cdß = Ca HC[ß.
SOUS-ESPACES INVARIANTS D'UN OPERATEUR
461
9e(®) = Hl e®Hl ;
36(0) =£{0}sauf si 0(-) est une constante unitaire. On définit dans 36(0) l'opérateur 5(0) par
S(Q)u = Psc(&)(xu)
ou S(®)*u = x(u - u0)
(u(=8e,(®))(1).
On obtient de cette façon toutes les contractions de type C 0 , à une équivalence
unitaire près. Pour T donné il n'y a qu'à prendre pour 0 ( 0 la fonction caractéristique 0 r ( ), ou n'importe quelle autre fonction intérieure dont la partie pure
0°(O coïncide avec 0 r (ODans ce cas à toute factorisation
(1)
©l(\
/®2()
de 0(-) en produit 0 2 (O®i(O de deux fonctions intérieures il correspond
une décomposition de l'espace 36(0), notamment
36(0)=^e0
2
0 j ^ =02(#2 9 0 , ^ ) 9 ( ^ ^ 0 ^ 2 ^
= 0 2 . 3 6 ( 0 , ) e 0 6 ( 0 2 ) = 36, e ^
.
Il est facile de montrer que 36, est invariant pour 5(0). La matrice de 5(0) par
rapport à cette décomposition est donc de la forme
M
s j à 5(0j), et de plus S2 = 5(0 2 ) .
où Sj = 5(0)136! est unitairementLo
équivalent
Ainsi, les fonctions caractéristiques de 5 t et S2 coïncident avec les parties pures
de 0 , ( 0 et 0 2 ( )• H s'ensuit en particulier que si la factorisation (1) est non
banale (c'est-à-dire aucun des facteurs n'est une constante unitaire), 36, est un
sous-espace invariant propre pour 5(0).
Or on obtient de cette façon tous les sous-espaces 36! invariants pour 5(0),
ou, ce qui revient au même, tous les sous-espaces 362 invariants pour 5(0). Cela
résulte d'une manière simple du théorème bien connu de Beurling — Lax— Halmos
sur la relation entre les sous-espaces invariants d'une translation unilatérale et
les fonctions intérieures.
Ainsi, pour T€C0 il y a une correspondance complète entre les sous-espaces
invariants de T et les factorisations en fonctions intérieures de 0 r (O- Malheureusement, le problème de factoriser une fonction intérieure 0 ( 0 en produit de
deux fonctions intérieures ne s'avère maniable (à nos connaissances actuelles)
que si 0 ( 0 admet un multiple scalaire. Des cas importants où cette condition
est vérifiée sont traités dans les chapitres V et VIII de {5].
(1) P désigne la projection orthogonale sur l'espace indiqué comme indice.
462
B. SZ.-NAGY
D 3
4. - Cela impose le problème d'étudier les contractions qui n'appartiennent
pas nécessairement à la classe C0.
Une telle étude exige des moyens plus fins et a été rendue possible notamment
par l'utilisation de la;théorie générale des dilatations isométriques des contractions
c.n.u. et du modèle fonctionnel général de ces contractions qui en dérive par une
analyse de Fourier.
Ce modèle est le suivant : On considère une fonction analytique contractive
quelconque 0 ( 0 , à valeurs opérateurs ê -> % et on y associe l'espace de Hilbert
3 6 ( 0 ) = [ # * © A Z * ] e { 0 M © A w : uEH2^
où A ( 0 = [/ - 0 ( 0 * 0 ( O ] 1 / 2 ( * ) ; on a 36(0) =É (0>sauf si 0 ( 0 est une constante unitaire. Dans 36 ( 0 ) on définit l'opérateur 5 ( 0 ) par
5 ( 0 ) (u © v) = PH{ß)<xu © xv)
ou
S(S)*(u ®v) = x(u - u0) © w
(u © v E 36(0)). Ces définitions se réduisent à celles envisagées plus haut dans le
cas où 0 ( - ) est intérieure, car alors A ( 0 = 0.
L'opérateur 5 ( 0 ) est une contraction c.n.u. et sa fonction caractéristique
coincide avec la partie pure de 0 ( 0 - De plus, on obtient de cette façon, à une
équivalence unitaire près, toutes les contractions c.n.u. T. En effet, pour T donnée
il n'y a qu'à prendre pour 0 ( 0 n'importe quelle f.a.c. dont ia partie pure coïncide
avec 0 r ( O Observons alors que si 0 ( 0 = 0 2 ( ) ®i ( ) est une factorisation de 0 ( 0 en
produit de deux fonctions de même type suivant le diagramme (1), on a
(2)
A(02 = 0 , ( 0 * A2(02 0 , ( 0 + A , ( 0 2 ,
Il s'ensuit que l'application
A(eH)g-* Aa(«") e!(«")*« ax(eif)g
(gSß)
est isométrique pour presque tout point fixé eif, donc se prolonge par continuité en une isométrie
Z(eu) : A(eH) ê -> A 2 (eif) & © A, (eif) & .
De (2) il dérive aussi que l'application
A«-* A 2 0 , M © A,M
iu^L2s)
est isométrique et se prolonge donc par continuité en une isométrie
Z : AL 2 ->A 2 Z, 2 ©AjZ,2 .
S,
(1) L'ensemble linéaire '{Su® Au : ueH2&} est fermé : conséquence de ce qu'il est
l'image de //* par l'application isométrique u -> @u © Au.
SOUS-ESPACES INVARIANTS D'UN OPERATEUR
463
On montre sans difficulté que les conditions suivantes sont équivalentes :
condition locale : Z(eif) est unitaire p.p.,
condition globale : Z est unitaire.
Lorsque ces conditions (équivalentes) sont vérifiées, on appelle la factorisation
0 ( 0 = 0 2 (') 0 i ( O régulière.
Si c'est le cas, on peut identifier les éléments des espaces
AL\
et
A2L2 © A.L2
qui se correspondent par l'opérateur unitaire Z et on obtient alors pour 36(0)
la forme à trois composantes
36(0) = \H\ © A2L29® A 1 L 2 5 ]e{0 2 0, M © A 2 0,w © A,« : M G ^ } ,
Il en dérive la décomposition 36(0) = 36 j © 362 où
(3)
36j = <o 2 -36(0!)
et
362 = 36(0 2 ) ©{0},
co2 étant la restriction à 36(0j) de l'isométrie
u © v ~+ 0 2 u © A2 u © v
(uEH2 , vEL2)
.
Il s'ensuit aussi que 36j est invariant pour 5 ( 0 ) et que dans la matrice correspondante
(4)
5(0)
Lo sj
les opérateurs 5j et 52 sont unitairement équivalents à 5(0 t ) et 5(0 2 ), selon
les cas ; en particulier 36j est un sous-espace invariant propre si la factorisation
n'est pas banale.
Ces calculs sont directs et relativement simples. Le point difficile (et c'est
ici où une étude approfondie de la structure des dilatations isométriques est
utilisée) est de montrer qu'on obtient de cette façon tous les sous-espaces invariants 36î pour 5(0), et d'arriver ainsi au théorème suivant :
THEOREME. - Lorsque 0 ( ) = 0 2 ( ) ® i ( ) parcourt la totalité des factorisations régulières de 0(0» te sous-espace correspondant 361 (par (3)) parcourt la
totalité des sous-espaces invariants pour 5(0). (Cf. [4], [5]).
5. — En vertu de ce théorème il importe de trouver des critères maniables
pour qu'une factorisation
(F)
0(O = 0 2 ( O 0 ! ( O
d'une f.a.c. en facteurs de même type soit régulière. En voici quelques uns (cf. [5]
prop. VII. 3.3).
464
B. SZ.-NAGY
D 3
(a) (F) est régulière si la factorisation duale 0 ~ ( • ) = ®~( • ) 0^( • ) est régulière.
(b) Pour 0 ( 0 intérieure (^intérieure), (F) est régulière si et seulement si les
facteurs sont aussi des fonctions intérieures (^-intérieures).
(c) (F) est régulière si, en presque tous les points du cercle unité où 0 2 (e'O
n'est pas isométrique, ®x(elt) est co-isomêtrique.
Un cas particulier où le dernier critère s'applique est celui où ©(e1"') admet un
inverse (non nécessairement borné) en presque tous les points du cercle unité
(cas qui se présente par exemple si 0 ( 0 est »-extérieure). Notamment on peut
montrer (faisant usage d'un raisonnement de Lowdenslager [6]) qu'il existe alors
pour tout sous-ensemble borélien OL du cercle unité une factorisation
0(-) = 02rf(O0lrf(O
telle que
(i) 0 l t f ieif) est unitaire (S -» &ia) en presque tout point du complémentaire OL
de a. par rapport au cercle unité,
(ii) ®2ieit)
est isométrique (ïï*d -> <|) en presque tout point de CL.
Comme l'unitarité entraîne la co-isométrie, cette factorisation est régulière,
donc il y correspond par (3) un sous-espace invariant 36tf de 36(0). Pour que
36tf soit un sous-espace propre, il faut choisir a de façon que 0 l t f ( O et 0 2 r f (O
ne soient pas des constantes unitaires. Cela est certainement possible, et même
d'une infinité de manières, si la fonction n'est pas intérieure, c'est-à-dire que
si sa valeur n'est pas isométrique aux points d'un sous-ensemble e de mesure
positive du cercle unité : il n'y a qu'à choisir a. tel que OL C\ e et OL' n e soient
de mesure positive.
Si T est une contraction c.n.u. telle que TEClm et T$C0
(en particulier
si T E Cl j ), sa fonction caractéristique est »-extérieure et non-intérieure, donc
les résultats ci-dessus s'appliquent : il existe pour chaque sous-ensemble borélien
CL du cercle unité un sous-espace invariant 3 ^ pour T, et ce sous-espace est propre
pour une infinité de choix de a. Pour TEClx une analyse plus approfondie
montre que 36 tf est même ultrainvariant pour T et que de plus, si 0 r ( O admet
un multiple scalaire, le spectre de T | 36^ est compris dans ce.
Remarquons que l'existence de sous-espaces invariants propres pour une contraction c.n.u. TECX1 peut être démontrée aussi à partir du fait que T est quasisimilaire à un opérateur unitaire, mais la méthode originelle était celle utilisant
les factorisations de la fonction caractéristique. Cette méthode, complétée par
une étude approfondie de l'arithmétique des factorisations régulières, conduit à
établir une sorte de décomposition spectrale pour toutes les contractions "faibles" ;
cf. [5], chap. VIII.
6. — La construction (3) a un.sens même si la factorisation envisagée n'est
pas régulière, mais fournit alors un sous-espace invariant non pour 5(0), mais
pour une somme orthogonale de 5 ( 0 ) et d'un opérateur unitaire d'un espace
non-banal.
La question se pose s'il existe quelque autre moyen d'associer à une factorisation (F) non régulière une décomposition 36(0) = 36 j © 3 6 2 de l'espace, de sorte
SOUS-ESPACES INVARIANTS D'UN OPERATEUR
que la matrice correspondante de 5 ( 0 ) soit de la forme
S,
465
avec (i) 5,
unitairement équivalent à 5 ( 0 , ) , (ii) 5 2 unitairement équivalent à 5 ( 0 2 ) .
Lorsque 5 ( 0 ) E C0 on devra avoir aussi 5 , , S2EC0.
On en déduit que si
0 ( 0 est intérieure, les conditions (i) et (ii) entraînent que 0 , ( 0 et 0 2 ( ) soient
aussi intérieures, selon les cas. Ainsi, la réponse à la question posée est certainement négative pour les factorisations non-banales, construites dans [5] n° V.5,
d'une fonction intérieure 0 ( 0 en produit d'une fonction intérieure 0 , ( 0 et d'une
fonction extérieure 0 2 ( ) .
Dans cette conférence nous avons considéré seulement des contractions c.n.u.
et leurs modèles fonctionnels se rattachant à la théorie des dilatations isométriques.
Pour d'autres aspects de notre sujet nous citons par exemple les Notes [7] — [10],
BIBLIOGRAPHIE
[1]
[2]
[3]
[4]
[5]
[6]
[7]
[8]
[9]
[10]
Livsic M.S. — Mat. sbornik, 19 (61), 1946, p. 239-260.
BRODSKY M.S. and LIVSIC M.S. — Uspehi mat. nauk, 19 : 1 (115), 1958, p. 3-85.
SMULYAN Y U . L . — Mat. sbornik, 57 (99), 1962, p. 105-136.
SZ.-NAGY B. and C. FOIAS C. — Comptes rendus, 256, 1963, p. 3236-3239 et p.
3413-3415; 258, 1964, p. 3426-3429; Acta scient, math., 25, 1964, p. 293-316;
26, 1965, p. 193-196.
SZ.-NAGY B. and FOIA§ C. — Analyse harmonique des opérateurs de l'espace de
Hilbert (Budapest-Paris, 1967).
LOWDENSLAGER D.B. — Annals of math., 78, 1963, p. 450-454.
SZ.-NAGY B. and FOIA§ C. — Acta scient, math., 28, 1967, p. 201-212,
KUZEL' A.V. — ibidem, 30, 1969, p. 225-233.
BRODSKY V.M. — ibidem, 32, 1971, à paraître.
D E BRANGES L. — J. math, analysis and applications, 29, 1970, p. 163-200.
Bolyai Intézet,
Aradi vértanûk tere 1
Szeged
Hongrie