A NNALES DE L’ INSTITUT F OURIER C ARL S. H ERZ Fonctions opérant sur les fonctions définies-positives Annales de l’institut Fourier, tome 13, no 1 (1963), p. 161-180 <http://www.numdam.org/item?id=AIF_1963__13_1_161_0> © Annales de l’institut Fourier, 1963, tous droits réservés. L’accès aux archives de la revue « Annales de l’institut Fourier » (http://annalif.ujf-grenoble.fr/) implique l’accord avec les conditions générales d’utilisation (http://www.numdam.org/legal.php). Toute utilisation commerciale ou impression systématique est constitutive d’une infraction pénale. Toute copie ou impression de ce fichier doit contenir la présente mention de copyright. Article numérisé dans le cadre du programme Numérisation de documents anciens mathématiques http://www.numdam.org/ Ann. Inst. Fourier, Grenoble 13 (1963), 161-180. FONCTIONS OPÉRANT SUR LES FONCTIONS DÉFINIES-POSITIVES par Cari S. HERZ (r). (Ithaca, New York) 1. Introduction. Récemment on s'est beaucoup intéressé à la question des fonctions qui opèrent sur certaines familles de fonctions numériques. Pour être précis, donnons-nous une famille P d'applications d'un ensemble dans le plan complexe C. Soit A un sous-ensemble de C. On dit qu'une application f: A —> C opère sur P si la fonction composée /*(<?) appartient à P chaque fois que y e P et que les valeurs prises par ç se trouvent dans A. Supposons en outre que P soit douée d'une structure de semi-algèbre, à savoir que P soit stable pour les opérations d'addition, de multiplication, et de conjugaison complexe des fonctions et qu'elle contienne des fonctions constantes nonnégatives. Or, il est évident que les polynômes à coefficients positifs, f(z) = Sa^ .^m?1, somme finie où chaque a^n^.0, opèrent sur P. Suivant la structure topologique de P et la nature de l'ensemble A, on trouvera que les limites convenables de tels polynômes y opèrent également. Donc, une grande classe de fonctions opérant se présente plus ou moins immédiatement. On se demande si on a ainsi trouvé toutes les fonctions définies sur A qui opèrent sur P. Nous espérons la réponse positive pourvu que la famille P soit à la fois assez riche et assez structurée et que l'ensemble A soit bien adapté au problème. Cet article est consacré à l'étude du problème dans le cas où (1) Boursier de la Fondation Alfred P. Sloan. 162 CARL S. HERZ P = = P ( G ) est l'ensemble des fonctions définies-positives continues (fonctions de type positif) sur un groupe commutatif localement compact G. Pour tout G il existe un ensemble IT(G), resp. I1*(G), qui est le plus grand sous-ensemble A du disque-unité fermé, resp. ouvert, pour lequel notre problème est bien posé. On note F(G), resp. F*(G), la classe des fonctions définies sur I1(G), resp. 1I*(G), qui opèrent sur P(G). Bien entendu, pour que F(G), ou F*(G), ait la forme espérée il ne faut pas que le groupe G soit « trop petit ». Nous appelons illimité un groupe G tel que pour chaque entier n > 0 il existe un élément x^ G avec nx ^ 0. Le théorème 1 donne la détermination de F*(G) pour les groupes illimités. Les théorèmes 2 et 3 sont les analogues pour F(G) selon le cas où G est discret ou non. Il y a aussi des énoncés analogues pour d'autres choix de A. Par exemple, Rudin [3] a déjà trouvé le résultat définitif dans le cas A == ]— 1, 1[ et G == Z, le groupe additif des entiers, en utilisant des considérations essentiellement différentes des nôtres. (Son résultat s'étend sans beaucoup de peine à tous les groupes illimités). Nos théorèmes 4 et 4 bis traitent les cas A = [0, 1] et A = [— 1, 1] respectivement. Enfin, dans le théorème 5, nous donnons comme corollaire du théorème 2, un résultat analogue concernant des matrices semidéfinies positives. Le théorème 2 est notre résultat fondamental. Pour le démontrer, on commence par l'étude des rapports entre des F(G) pour des groupes G différents. Grâce au fait que les éléments de F*(G), G illimité, sont des fonctions continues (proposition 1), nous arrivons à la proposition 2 : F*(G) c F*(Z) pour tout G illimité. Donc, le théorème 1 se ramène à la considération d'un seul groupe spécial. D'ailleurs le théorème 2 se déduit du théorème 1 au moyen de la proposition 6. Or, l'essentiel se trouve dans un choix particulier de G. Malheureu-' sèment, il n'est pas commode de traiter le groupe Z directement. Nous modifions la proposition 2 en remplaçant Z par un autre groupe, Fo. Alors, la détermination de F*(ro), puis les théorèmes 1 et 2, résultent de la détermination de F(ro). C'est à ce moment que nos idées principales interviennent. F(ro) est un cône convexe saillant à base compacte. La structure de F(Fo) est évidente à partir de la connaissance de ses points extrémaux. On parvient à trouver les points extrémaux. FONCTIONS OPÉRANT SUR LES FONCTIONS DÉFINIES-POSITIVES 163 2. Notions fondamentales. Soit E un espace topologique non-vide et C le corps complexe. On note C(E) l'ensemble de toutes les applications continues de E dans C muni des opérations algébriques habituelles et de la topologie induite par la structure uniforme « compactouvert ». C(E) est donc une algèbre topologique. G désigne toujours un groupe commutatif localement compact. On note P(G) le sous-ensemble de C(G) constitué par toutes les fonctions définies-positives continues. C'est-à-dire que P(G) se compose de toutes les fonctions ç e C(G) qui satisfont à la condition suivante : quels que soient les ensembles finis \x^ ...,^ c G et |q, . . ., c^\ c C on a ^9(^1—^•)^Cy^O; ici le signe moins désigne l'opération inverse du groupe G. Evidemment P(G) est un sous-ensemble fermé de C(G). Le cône P(G) possède une base constituée par les éléments <p e P(G) tels que ç(0) == 1 où 0 désigne l'élément neutre du groupe G. Pour que cette base soit compacte il faut et il suffit que G soit discret. Toutefois, quel que soit G les points extrémaux de la base forment un ensemble G qui, en sa structure de sousensemble de l'algèbre topologique C(G), est un groupe multiplicatif localement compact et chaque y e P(G) possède une représentation et une seule de la forme ^ =f^w^w où pi est une mesure de Radon positive sur G de masse totale finie. Les éléments de G sont les caractères continues du groupe G. Le groupe G étant donné, le sous-ensemble du cercle-unité constitué par toutes les valeurs y^(x) où x e G et y^ e G est un groupe multiplicatif F(G). On note II(G). l'enveloppe convexe; de F(G) et de l'origine, et on muni F(G) et II(G) de la topologie discrète. Si 9 e P(G) et y(0) <; 1 alors ç(^) e II(G) pour chaque x e G. On note F(G) l'ensemble de toutes les fonctions f définies sur LI(G) telles que y e P(G) et o(0) < 1 entraînent f{^) e P(G). F(.(G) désigne l'ensemble des éléments de F(G) qui sont des fonctions continues sur II considéré comme sous-ensemble du plan complexe. Soit II*(G) l'ensemble des points rx où 164 CABL S* HERZ 0 < r < l et ^eII(G). On note F*(G) l'ensemble de toutes les fonctions f définies sur II* telles que y e P(G) et y(0) < 1 entraînent /*(y) e P(G). Évidemment, pour que /'<= C(I1*) appartienne à F*(G) il faut et il suffit que f, e F(G) pour chaque r, 0 < r < 1 où f, désigne la fonction f^z) = f(rz). Si chaque élément de G est d'ordre n, F(G) = I\ se compose des racines nième de l'unité et II*(G) == II* est l'intérieur d'un polygone de n côtés. D'autre part, si G contient des éléments dont les ordres sont aussi grands qu'on veut, II*(G) est le disque-unité ouvert |z: jzj < \.\. On appellera illimité un groupe G tel que pour chaque nombre naturel n il existe x^ e G tel que kx^ ^f=- 0 pour k == 1, 2, .. ., n. THÉORÈME 1. — Soit G un groupe illimité. Pour que fe F*(G) il faut et il suffit que f soit représentée par une série convergente pour [z| < 1. 00 /•(z) == S a^ ^"^ où chaque m, n==o a^ „ > 0. ' La suffisance de cette représentation est banale, mais la démonstration de la nécessité est assez longue. Il sera commode de considérer en chemin des problèmes plus fins. Spécialement, on étudiera les ensembles F(G). 3. Résultats préliminaires. Par commodité on écrira F(G) c F(H) si II(H) c II(G) et si les restrictions des fonctions appartenant à F(G) appartiennent à F(H). LEMME 1. — Soit H un groupe-quotient de G, c est-à-dire H == G/Gi où GI est un sous-groupe fermé de G. Alors F(G) c F(H). Démonstration. — Soit h : G —> H l'homomorphisme canonique. Supposons y e C(H). On voit que y e P(H) si et seulement si < p o A e P ( G ) . L'énoncé s'en déduit. LEMME 2. — Soit H un sous-groupe fermé de G. Alors F(G)cF(H). FONCTIONS OPÉRANT SUR LES FONCTIONS 1 DÉFINIES-POSITIVES 165 €s Démonstration. — On pose H == ^ y. 6 : 7^ = 1 sur H j . Selon le théorème de Bochner, si ^ e P(H) alors il existe une mesure v sur H == ô/H1 telle que ^(y) == J^yJî/M^y,). On peut montrer l'existence d'une mesure positive ;x sur G telle que v est la projection de [x par l'application canonique & -^ &/H1. Posons 9^) == Jg7,(^)^(^y,). Alors y(î/) == ^{y} pour y e H . Donc, /*(y) e P(G) entraîne f(^) e P(H) parce que la restriction d'une fonction définie-positive à un sous-groupe est définie-positive sur le sous-groupe. On va prouver maintenant : PROPOSITION 1. — 5i G est illimité, alors les éléments de F*(G) sont des fonctions continues sur le disque-unité ouvert. On note Z le groupe additif des entiers et Z^ le groupe cyclique d'ordre n. Démontrons que si G est illimité, alors F(G) cF(Z^) pour une suite [n^ de nombres naturels tels que n^ divise n^ et n^ > n^ Nous considérerons trois cas. Cas 1°. — G r^ Z. Il est évident par le lemme 1 que F(Z) c F(Z^) pour chaque n. Cas 2°. — G est compact. Alors ô est discret. Si G contient un élément y^ d'ordre oo, alors G/y1 ^ T, où T == Z est le tore. Donc F(G) c"F(T) par le lemme 1, et, ensuite, nous avons F(T) c F(ZJ pour chaque n par le lemme 2. Si ô ne contient par un élément d'ordre oo, il contient une suite [y^\ d'éléments d'ordre m^ où m^i > m^ On voit aisément qu'il existe une suite |yJ^, où chaque yj» est un produit des yj, telle que yj» est d'ordre n^ où n^\ n^ et n^i > n^ Alors G/(y^)1 ^ Z^ d'où F(G) c F(ZJ par le lemme 1. Cas 3°. — Cas général. Supposons que G contient un élément y^ d'ordre oo. Soit H le plus petit sous-groupe fermé de G contenant x. On sait que ou bien H c^. Z ou bien H est compact. Alors, F(G) c F(H) par le lemme 2 et nous sommes ramenés soit au cas 1° soit au cas 2°. Si G ne contient pas un élément d'ordre oo, il possède des sous-groupes isomorphes aux groupes Z^ où m ^ — ^ o o . Donc il contient des sous-groupes Z^ où jnJ est une suite du type souhaité. Nous pouvons y appliquer le lemme 2. 166 CARL S. HERZ Pour achever la démonstration de la proposition 1 nous avons besoin de trois lemmes. LEMME 3. — Soient y <= P(G) et x, y e= G. Alors on a lî(^) — î(y)|2 < 2ç(0) J9(0) — ^x — y}[ } Démonstration. — II y a plusieurs démonstration ; en voici une. On peut supposer que <p(0) == 1. En ce cas ^x)=E[ySx)[ - où E désigne l'espérance mathématique par rapport à la mesure de probabilité ^ dans la représentation de Bochner. Or, l y ^ - î W - E|y^)-^)p<E||y^)-y(y)|2^ ==2E{i-S{e^x^(y)} = 2|1 -^(r-y)^ LEMME 4. — On se donne n=pq^6 et à, où p > 2 , ç > 2 sont des entiers et 0 < S <; 1. 5i ^ w e (1—§)IIp et (z—w) e SII , alors il existe 9 <= P(ZJ e( .r, y e Z^ ^Z çue ^(O) == 1, y(^r) == ^? y(y) = w, ^ ç(— x + y) > 1 — 2o. Démonstration. — Écrivons e(u) = exp (27tiu) et c(u) = cos2^u. Soit r == [ç/2], c'est-à-dire r = qf2 si ç est pair et r == (g — 1)/2 sinon. Posons a == c(l/pç), 6 = — c(l/pç + r/gr). On a toujours a > 1/2, fc > 1/2. Posons maintenant u = (bz + aw}j(b + a) etp==(z—w)/(&+a). i II s'en suit que u e (1—§)IIp. Donc il existe ai, . . . , a? n où Sa^ == 1 — S et chaque a^ > 0 tels que u= ^ a^(/c/p). p /c==i De la même façon nous avons p = ^ (^(/c/p) où S^ = o et chaque ^ > 0. Pour x e Z, posons *=1 9(^) = ^ | a-k + ^{xfpq} \ e(kxlp). Évidemment y s P(Z,) et 9(0) = 1. D'autre part (p(l) == u + av = z, 9(1 + pp) == u — bv = w, et y(rp) = 1 a, + S PfcC(r/y) > 1 — 2â. k=l k==i LEMME 5. — 5i G est non-trivial et fe F(G), alors f, considérée comme fonction sur l'intervalle [0, 1] est positive et croissante. La démonstration est banale. FONCTIONS OPÉRANT SUR LES FONCTIONS DÉFINIES-POSITIVES 167 Achevons maintenant la démonstration de la proposition 1. On se donne z avec z\ <; 1 et /e F*(G). Il résulte du lemme 5 qu'il existe un r, \z <; r <; 1, tel que jfest continue à gauche en r. Comme nous l'avons vu, il résulte de l'hypothèse de la proposition 1 qu'il existe des entiers p ^ 2 et q ^ 2 tels que z est un point intérieur du polygone rtlp tandis que /*eF*(ZJ où n = pq, Étant donné £ > 0, on peut trouver S > 0 tel que f{r) —f(s) < £ si r ( i — 2 â ) < s < r et tel que z e (l—S)rIlp. Or, si z—weârllp, soit y l'élément de P(ZJ donné par le lemme 4 tel que <p(0) = 1, f{x) = r~1^, <p(î/) == r^w et ?(—^+2/)>l—2ô. Posons ^ == /'(ry). Alors, selon le lemme 3, l/^) - fW = \W - M\2 < W\W - ^ - y)\ =2f(r)f{r) -/(.)] où r(l — 2S) < 5 < r. Donc \f(z)—f{w)\2 < 2£f(r). 4. Passage au cas des groupes spéciaux. Nous allons maintenant effectuer une réduction du problème de la détermination de F*(G) pour le cas général d'un groupe illimité à la détermination de F*(G) d'abord pour le cas particulier G = Z et puis pour un autre choix spécial de G. PROPOSITION 2. — Pour chaque groupe G illimité on a F*(G)cF*(Z). Démonstration. — Considérons les éléments de P(ZJ à la fois comme des éléments périodiques, de période n, de P(Z). Donnons-nous ç e P(Z) avec ç(0) -< 1. On a ^{x) = /^(^^(^X.) où T désigne le tore de dimension 1. Soit ^ ^ mesure sur T associée à la somme de Riemann-Stieltjes pour une équipartition de T d'ordre n. La mesure ^ est portée par l'image A(Z^) où h : Z —^ Z^, h : Z^ —> T sont les homomorphismes canoniques duals. Or, si on note ^^(x) = j y^)[^n(dy), on a ç^(0) == y(0) et lim y^) == y(.r) pour chaque x e Z. Nous n->oo savons déjà que F*(G) c riF*(Z^) où ^n^ est une suite infinie de nombres naturels. Soit /'€=F*(G). En considérant <?„ 168 CARL S. HERZ comme élément de P(ZJ, nous avons /'(y^) e P(Z^) pour chaque /c. Grâce à la proposition 1, lim/*(<p^) ==/'(<p). k-><x Puisque la limite simple d'éléments appartenant à P(Z) y appartient, /'(y) e P(Z). Donc f e F*(Z). Pour établir le théorème 1, il suffit alors de considérer seulement le cas G = Z. Cependant, l'étude directe de F*(Z) n'est pas facile. Passons donc au cas plus commode G == Fo où Fo désigne le groupe discret multiplicatif des nombres complexes de module unité. Fo est ainsi un groupe discret isomorphe à T. On a PROPOSITION 2 bis. — Si G est un groupe illimité, alors r(G) = rro. Pour le passage de la proposition 2 à la proposition 2 bis nous emploierons trois lemmes dont les deux premiers s'expriment d'une manière générale. LEMME 6. — Supposons qu^il existe un homomorphisme continu h: G —> H appliquant le groupe G sur un sous-groupe partout dense du groupe H. Alors, on a F<;(G) c Fc(H). Démonstration, — Donnons-nous ® e P(H) avec ©f0) <^ 1 et /*eFç(G). Evidemment, on a pour la fonction composée, y o h e P(G) ; donc /*(y) est une fonction continue sur H, définiepositive sur le sous-groupe dense AG. Nous en déduisons que /*((?) e P(H) en remarquant que la condition d'être définiepositive s'exprime par des inégalités, dont chacune n'emploie qu'un nombre fini de points, ce qui implique que, pour les fonctions continues, il suffit de vérifier ces inégalités sur un sous-groupe dense. ^ \ \ I i \ 1 ^s. LEMME 7. — Soit Grf le groupe discret isomorphe à G. On a F,(G) == F,(G,). Démonstration. — L'inclusion F^G^) c Fç(G) est banale. D'autre part, les éléments de P(Gd) sont les limites simples des éléments de P(G) parce que chaque élément de P(Gd) appartient à l'adhérence dans C{Gd) de l'ensemble des fonctions de la forme Sa^, somme finie, où chaque a^ ^ 0 et ^ est un caractère de G^, tandis que chaque caractère de G^ est la FONCTIONS OPÉRANT SUR LES FONCTIONS DÉFINIES-POSITIVES 169 limite simple des caractères continus de G. P(G^) étant stable pour les limites simples, alors Fç(G) c Fç(Gd). LEMME 8. — F(To) c F(G) quel que soit le groupe discret G. Démonstration. — Supposons d'abord que G est engendré par un nombre fini, n, d'éléments. Alors G est un groupequotient de Z". Des lemmes 1 et 2 on a, F(Z^) c F(G) et F(Fo) c F(Zn) parce que Fo contient des sous-groupes isomorphes à Z". On voit aisément que pour un groupe discret G, ç e P(G) si et seulement si la restriction de <p à H appartient à P(H) pour chaque sous-groupe H engendré par un nombre fini d'éléments, d'où l'énoncé s'en déduit pour le cas général. Démonstration de la proposition 2 bis. — On applique le lemme 6 à un homorphisme convenable de Z sur un sous-groupe dense de T. On a F^(Z) c Fç(T). On déduit du lemme 7, pour le cas Fo=T,, le fait que F,(T) = F^Fo). Donc F,(Z) c F,(Fo), ce qui entraîne, grâce à la proposition 1, F*(Z) c F*(ro). De la proposition 2 nous déduisons ainsi F*(G)cF*(Fo) pourvu que G contienne des éléments dont les ordres sont aussi grands qu'on veut. D'autre part, les lemmes 7 et 8 montrent que F*(ro) c F*(G) pour n'importe quel groupe G. 5. Les idées-clefs. Au lieu de démontrer que F*(Fo) se constitue de toutes les fonctions f définies sur le disque-unité par une série convergente pour ]z[ <; 1 00 f(z)= S ^m.n^^ m, n==0 où chaque a^ > 0, ce qui achèverait la démonstration du théorème 1, nous prouverons un théorème plus fort. On note Mç l'ensemble de toutes les fonctions f définies sur le disque-unité fermé qui possèdent une représentation par une série, comme ci-dessus, convergente pour jz| <; 1. On montrera non seulement que F^(G) = Mç pour tout groupe illimité, ce qui équivaut au théorème 1, mais encore que F(G), au moins pour G == Fo, 170 CARL S. HERZ possède une forme bien déterminée. Pour un groupe discret G, S(G) désignera l'ensemble des AeC(II), H = II(F), telles que h(z) = 0 pour |z| < 1 et A(yJ e P(G) pour chaque y^ e ô. Nous aurons THÉORÈME 2. — 5o^ G un groupe discret illimité. Pour que fe F(G) il faut et il suffit que f = g + h où g e Mç ^ A e S(G). Notre démonstration du théorème 2 pour le cas général utilise le théorème 1. Voici la chaîne du raisonnement: on prouve le théorème 2 pour le cas G == F() ; ceci entraîne le théorème 1; et enfin on démontre le théorème 2 pour le cas général. Il s'agit ici de la nécessité de la décomposition f= g 4~ A; I81 suffisance est banale d'après le lemme suivant. LEMME 9. — Soit çeP(G). On note H l'ensemble des xeG tels que \^(x)\ = (p(0). Alors, H est un sous-groupe fermé de G, et y = y^ où y^ e G et ^ est une fonction définie-positive continue périodique par rapport à H, c'est-à-dire qu'on peut considérer A comme élément de P(G/H). Démonstration. — Corollaire évident de la représentation de Bochner. F désigne toujours un groupe de la forme F(G). Il s'en suit que F == r(r). Soit II l'enveloppe convexe de F et l'origine. Considérons Mç comme sous-ensemble de C(II). Nous allons déterminer l'adhérence, M(F), de M^ dans C(II). PROPOSITION 3. — M(F) = M,eS(F). L'énoncé se déduit des deux lemmes suivants. LEMME 1 0 . — S ( F ) c M ( F ) . Démonstration. — Soit y^ le caractère identique de F, c'està-dire yJ*Q = Ç pour Ç e F. Alors les caractères y", n e Z, séparent les points de F et donc ils constituent un sous-groupe dense de F. Il s'ensuit que l'enveloppe convexe fermée des y^ dans C(r) se compose de toutes les ç e P ( r ) telles que <p(l) == 1 où 1 désigne aussi l'élément neutre de F. Posons h^{z) = 0 pour \z\ < 1 et h^) = ^ pour Ç e F. Si n > 0, alors h^(z) == limz^?; sinon h^(z) = lim^z-^. Donc ^ e M ( F ) pour chaque y i e Z . Si h e S(F), onTA(yJ e P(F). Or, pour h e S(F) avec A(l) = 1, FONCTIONS OPÉRANT SUR LES FONCTIONS DÉFINIES-POSITIVES 171 on voit que h appartient à l'enveloppe convexe fermée des ^ dans C(II). Donc A e M ( r ) . LEMME 11. —L'ensemble de toutes les fe C(II) telles que f{i) = 1 et f = g + h où g e M, et h e S(F) est compact. Démonstration. — Pour chaque r, 0 < r<: 1, chaque suite finie Ci, . . ., Çn de points de F, et chaque suite finie c^ ..., c^ de nombres complexes, le sous-ensemble de C(II) constitué par toutes les /*e C(II) telles que S|/*(HT1) —fÇrC^^c^ > 0 est fermé. Il s'ensuit que A est fermé où A désigne l'ensemble des f e C(II) telles que f—/*,.<= P( F) pour chaque r , 0 < : r < l . Soit L l'espace vectoriel constitué par les suites ia^ ^\ °ù 00 ( 00 ' ) 11 S l^n < - O munit L de la topologie vague comme espace dual de l'espace des suites s'annulant à l'infini. On définit une application F : LeCfT) -> C(II) par F([a^ ^, ? ) = = / * où f(z)=^a^zmzn pour z\ < 1 et f^}=^Ç) pour ^^ F. On voit aisément que F est continue. Posons Ki l'ensemble des suites [a^^ telles que a^ > 0 et Sa^ < 1 et Kg = | ç e P ( r ) : 9 ( l ) = = l j . Ri est un compact de L et Kg est un compact de C(F). Alors K ^ K i C K g est un compact de LeC(r). II s'ensuit que F(K) n A est un sous-ensemble compact de C(II). Cet ensemble s'identifie avec celui de l'énoncé du lemme. Retournons maintenant au théorème 2. Pour chaque groupe discret G, F(G) est évidemment un cône convexe saillant fermé dans C(II). Notons B(G) l'ensemble des fe F(G) telles que f(l) = 1. Alors \f(z)\ < 1 pour chaque f^ B(G) et z e II. Donc B(G) est une base compacte de F(G). Le théorème de Krein-Milman s'y applique. Soit E(G) l'ensemble des points extrémaux de B(G) ; ce dernier est l'enveloppe convexe fermée de E(G). Pour achever la démonstration du théorème 2 dans le cas G == Fo il suffit donc de prouver que E(Fo) c M^ u S(Fo)Nous partageons E == E(ro) en deux ensembles disjoints E<. et E,. Ec se compose de toutes les fonctions /*e=E telles qu'il existe r, 0 < r < 1, pour lequel f{r) -=f=. 0. Nous allons démontrer m, 7i ==o PROPOSITION 4. — E^cS(To). PROPOSITION 5. — Chaque f e. Ec possède la forme f{z) == z^ où m et n sont des entiers. 12 172 CARL S. HERZ 6. Démonstration des propositions 4 et 5. On peut commencer avec des considérations plus générales de celle dont on a besoin. Étant donné 9, ^^(G), on écrit 9 ^ ^ si 9 — ^ e P ( G ) . Il nous faut deux lemmes pour faire des comparaisons convenables entre éléments de P(G). Observons d'abord que chaque élément, 9, de P(G) possède une valeur moyenne, Vy, bien-déterminée, à savoir V(ç) == ;x(l) où ^ ( x ) = /^yC^P^x) est ^a représentation de Bochner et 1 désigne le caractère trivial. LEMME 12. — On se donne O e P ( G e H ) et on pose <p(a;) == eQr, 0), W = \^{x, y). Alors on a 9, ^ e P(G) ^ 9 ^ . Démonstration. — Soit Q{x, y) =•yL^(^(yM^, dr\) la t»tt»«« représentation de Bochner. Alors 9(0;) = j^ S(a;)v(rfÇ, H) et W=f^{x)^i). LEMME 13.— On se donne 9, ^eC(G). Pour que Vêlement O e C ( G e Z ^ ) , défini par Q{x, 0) == 9^), 0(^, y) = ^{x} pour y -=f=. 0, appartienne à P(G e Z^) il faut et il suffit que -{q- 1)^9 ^ ^ 9 Démonstration. — On voit aisément que 9 e P(G © Z^) si et seulement si ^ e P(G) pour chaque ^ = 0, 1, . . ., q —-1 où 0^ désigne la fonction 0^) == ç-^y 0(.y, y)e{kylq). Dans le cas considéré, 6o(.r) == ç-1^^) + (î — l)^(^) | et 1 to-r ^)-^)! pour /c =7^ 0. Pour deux éléments /*, g e C( IIo) on notera f ^ g si /l— g e F( Fo ). Une conséquence du lemme 13 est LEMME 14. — Si f e F(Fo) et 0 < r < 1 alors f, ^ f. Démonstration. — II faut montrer que f{^) ^ f(r^) pour chaque 9eP(r). Définissons O e C ( r o e Z ^ ) (ç fixé mais arbitraire) par Q{x, 0) == 9^) et 6(rc, y) == r9(o;) pour i/=/=0. Selon FONCTIONS OPÉRANT SUR LES FONCTIONS DÉFINIES-POSITIVES 173 le lemme 13, 6 e P(F<,®Z,). D'ailleurs, /•<=F(Fo®Z,) puisque F(ro) c F(G) pour tout G discret selon le lemme 8. Donc encore d'après le lemme 13, f{^x)) = f(Q{x, 0)) ^ f^{x, y)) =fWx)) pour y -^ 0. LEMME 15. — Pour chaque f e E, /'(rz) == /'(r)/'(z) si 0 < r < 1. Démonstration. — D'après le lemme 14, /', ^ /•. D'autre part, pour un élément extrémal f, l'hypothèse g ^ f entraîne g == cf où c est une constante. Donc, fr{z) = f{r)f(z). Démonstration de la proposition 4. — On suppose f e E c'est-à-dire /" e E et /'(/•) = 0 pour chaque r, 0 < r < 1. Il s'en suit, d'après le lemme 12, que f(z) = 0 pour |z( < 1. Considérons maintenant la restriction de f à F. Soit 7 un caractère de Fo. Puisque ^ e P(Fo), f(-y) <s P(F(,), ce qui se traduit par f e S. Démonstration de la proposition 5. — Quels que soient fe F(Fo) et r, 0 < r < 1, /",. est une fonction continue sur \z: |z|< I j parce que f e F^Fo), et, d'après la proposition 1, /" est donc continue sur le disque-unité ouvert. Supposons maintenant que f e E,. Alors il existe r, 0 < r < 1, tel que /•(r) =^0. D'après le lemme 15 on a /"(z) = (/'(r))-1/',^), et donc /est continue sur le disque-unité fermé. Ceci entraîne E c F (F ) c Pour /•e F<(ro), ^ e Z , et jzj < I o n pose ,(z) = (2^)-i r /w^ ^(z) = (2Tt)-1 r f(ze^)e-^dy U —•R LEMME 16. — 5i' /'cF^Fo) alors pour chaque k e Z ore a h^^etî^f. Démonstration. — Soit /"eF^Fo). On se avec ç(0) < 1 et on pose, pour a; e Fo, y e T, donne yeP(F) ^, y) = f{fWe,(y))e,{y} où e» note, pour k e Z, le caractère e^y) == e'*^ du groupe additif des réels mod. 2it qui s'identifie avec T. Évidemment ?<•* e P(Fo C T). Puis, il résulte des lemmes 7 et 8 que Fc(F,) c F(Fo ® T). Donc /•(yc,) e P(Fo ® T), et enfin 6 e P(Fo ® T). Maintenant le lemme 9 s'applique avec G = Fo, H == T On a 0(o;, 0) = /-(ç) et V,0(a;, y) = A(î). 174 CARL S. HERZ Revenons au cas fe E,. D'après le lemme 16 et le fait que f est extrémal il résulte que pour chaque / c e Z il existe une constante ^ telle que fj, == ^/>. D'autre part, on voit facilement q^ (fk)k == A- Oonc cî = c^ et il en résulte que ^ == 0 ou 1. En effet, il existe un seul entier k tel que f = /\. D'après le lemme 15 on sait que f(r) est une fonction multiplicative de re[0, 1]. Nous sommes arrivés au résultat que pour chaque fe EC il existe / ^ 0 et un entier k tels que fÇre^) = rW^. Pour achever la démonstration de la proposition 5 il suffit de prouver que / + k == 2p où p est un entier non-négatif, à savoir, pour k > 0, i^e^ == {zzY-kzk = ^-fc, et si k < 0 on considère f au lieu de /*. Posons <f(x) == 1 + e-^{x) où y est un caractère de T et e > 0 est convenable pour la suite. Soit /•(r^) == r^ comme ci-dessus. On suppose fe F(T) ce qui entraîne f((f) e F(T). Posons 2p = j + k et donnons-nous y un entier convenable non-négatif. Alors on a où ( h ) ^^ë116 ^e coefficient binomial. On suppose £ si petit que ^ > S £' S f p Y p V En ce cas le signe du qième a==î+l b+c=a\ b /\ C / , coefficient de Fourier de f((p) est celui de [ . p ° " ). Si p n'est pas un entier non-négatif un bon choix de q donnera ( ^ } < 0 en \?/ contradiction avec l'hypothèse f(^) e P(T), c'est-à-dire que tous les coefficients de Fourier de /*(<?) sont non-négatifs. 7. La structure de F(0) pour 0 illimité. Le théorème 2 est maintenant établi pour le cas G == Fo, et donc, par conséquence de la proposition 2 bis, le théorème 1 est établi en toute généralité. Alors, si G est un groupe illimité quelconque et jfe F(G), on sait que /*= g + h où g == lim/*, «= M, et h(z) = 0 pour \z < 1. On déduit le cas général du théorème 2 de la FONCTIONS OPÉRANT SUR LES FONCTIONS DÉFINIES-POSITIVES 175 PROPOSITION 6. — Soit G un groupe discret infini. On suppose jfeF(G) et f=g-{-h où g e M , et h{z) = 0 pour z\ < 1. Alorsh€.S(G). Démonstration. — II faut prouver que 2/i[yJ^ — ^y)]^^ ^ 0 chaque fois que ^ e G, |^i, . . . , ^ j est une suite finie de points de G, et jci, . . . , cA est une suite finie de nombres complexes. Donnons-nous donc^, |^ij, et [c^. Soit À* un entier ^ 2. On peut toujours construire un sous-groupe G' de G, un sous-groupe H de G', un caractère y/ e= ô', et des éléments î/i, . . ., î^e H tels que y/(y,) = yj^) et G'/H est un groupe cyclique d'ordre au moins /c. Soit e un élément de G' qui n'appartient pas à H. Alors il existe ^ e P(G'/H) telle que ^(0) = 1, ^(e) < 1, et |1 —^{e)^{e)\ < ^ < 2^/c-1. Posons <p(rc) == /^(^)^(^) pour x e G'. Évidemment y e P(G') et ç(0) == 1. 2n Donc /*(9)eP(G'), ce qui entraîne ^ = V^ ^n+i == ^ /^[î^i—^)]a^^0où i, y=i 2/i + e,a, == c, et a^, = — c, pour i == 1. . . n. Cette inégalité équivaut à n ^e S ^ g[?(î/. — 2/y)] — ë'[?(l/i — V] + e)] | ^ i=l + aie S {Wy, — y,)] — /i[ç(i/. — ^ + e) \ c^ > 0 i==l On a |(p(0) — y(e)| <; S^. Donc, selon le lemme 3, !?(!/)-y(2/+^)|<2S,. D'autre part, g est une fonction continue sur le disque-unité fermé. Elle possède alors une module de continuité, co, et on voit que la partie de la somme constituée par g est majorisée par (o(2Sfc)S|c;|2. Pour l'autre partie on a |ç(î/ + e)\ < 1 si y e H et 9(1/1—Vj) = -^{Xi—Xj). Enfin nous avons |^[yJ^ - x^ > - œ(2S,)S|^. Puisque A- est arbitraire et lim S^ == 0 nous avons &->00 ^[y,(^ — ^)]^ > 0 CQFD. La construction utilisée dans la proposition 6 n'est pas facile à décrire. Bornons-nous au cas où G contient un élément XQ 0 ÇARL S. HEBZ d'ordre infini. On prend G' le plus petit sous-groupe de G contenant les éléments x,, x,, ..., x,. G' est alors engendré par un nombre fini d'éléments. Or, G' = Z ® G". On pose H = /cZ ® G" Pour ^ on prend un élément de G' tel que v'(kz + w) = v (z -1- w} pour z . Z, <o . G-. Si x, = z. + a, on pose-y, =îz, + (o? Pour les groupes non-discrets on a THÉORÈME 3. — Soit G un groupe non-discret illimité. Alors F(G) = Me. Démonstration. — On prouve au début que lim f{r) = f(l) pour chaque /• <= F(G). Si G ne possède pas une basTSenombrable de voisinages de l'origine il y a un groupe-quotient qui satisfait 1 hypothèse du théorème et possède une telle base. On peut donc supposer l'existence d'une suite décroissante iUJ d'ouverts et une suite |y^ de caractères telles que HU, == ( O î et Xn(a;)^l si a-6U,nCU^i. Choisissons une sui"te \a \ de nombres a, > 0 avec Sa, == 1. Posons 9 = ^2a,Y . Alors il existe un voisinage U de l'origine tel que vû(x) < 1 si x e U, x ^ 0. y e P(G) et, donc, si /• g F(G) on a /Yç) e P(G) ce qui entraîne la continuité de /-(y). Il s'en suit que fest forcément continue à gauche en 1. On démontre maintenant le théorème en considérant plusieurs cas. Cas 1°. — G ne contient pas un élément d'ordre infini On constate que F(G) c F(G<,). En effet F(G,) == DF(H) où H parcourt les sous-groupes de G engendrés par un nombre fini d'éléments. Chaque tel sous-groupe est, en ce cas-ci fini et donc fermé. Alors F(G) c F(H) résulte du lemme 2 Le théorème 2 s'applique à F(G,). Or, F(G) c M< + S(G) et 1 énonce se déduit de la continuité en 1 des éléments de F(G) parce qu'il est évident que si h «= S(G) et h(l) == 0 alors h = 0 partout. Cas 2°. — G contient un sous-groupe fermé isomorphe à Z Ici le lemme 2 implique F(G) c F(Z) et on raisonne comme dans le cas 1°). Cas 3°. — G contient alors un élément x» d'ordre infini. Le plus petit sous-groupe contenant x» est ou bien isomorphe à Z ou bien compact. Le cas 2») étant exclus, on peut supposer que G contient un sous-groupe compact avec un élément d'ordre ) FONCTIONS OPÉRANT SUR LES FONCTIONS DÉFINIES-POSITIVES 177 infini. Il en résulte que G contient une suite strictement croissante [G^ de sous-groupes finis. Soit H la limite directe de cette suite. On raisonne comme en cas 1°) en prouvant F(G) c F(H) et enfin F(G) c Me. 8. Un contre-exemple. Pour les groupes G de la forme G = F(G) on a, comme nous avons vu pendant la démonstration de la proposition 3, le fait que S(G) se compose de toutes les fonctions /ieC(Il), telles que h{z) = 0 pour |z| < 1, dont les restrictions à F appartiennent à P(F). Ainsi, par exemple, l'ensemble M = Mc©S(ro) qui est, selon la proposition 3, l'adhérence de Me dans C(Ho) où IIo note le disque-unité fermé muni de la topologie discrète, se détermine d'une façon très explicite. La situation est bien différente pour S(G) où G n'est pas de la forme F. On a toujours §(D c S(G) où F = F(G) mais l'énoncé de Herz [2], à savoir F(G) = M(r) dans le cas des groupes discrets, est inexact. Voici un contre-exemple qui montre F(Z) ^ F(Z2). Il existe, comme on verra ci-dessous, une fonction y définie sur Z2 qui n'est pas définie-positive bien que toutes ses restrictions aux sous-groupes isomorphes à Z le soient. Soient î^i et Çg deux points de Fo pour lesquels il n'existe aucune relation non-triviale de la forme W = 1 avec m et n entiers. Définissons f sur Ho par f{z) = y(m, n) si z = W et f{z) = 0 sinon. Supposons ^ e P(Z) et ^(0) == 1. Soit H l'ensemble des k e Z tels que f{^{k)) -=f=^ 0. Comme au lemme 9, H est un sous-groupe. Alors H = k^L et nous avons ^(/A-o) = ^(A-o)Soit ^(/Co) = W. Il s'en suit que f(^(/c)) = ^jm^ jn^ si /c==/7co et /^(/c))=0 si / c « H . Donc /•(^)eP(Z), et il en résulte que /^(Z). D'autre part, soit p l'élément de P(Z2) définie par p (m, n) == TO Évidemment /*(p) ^ F(Z2). Je dois à M. G. Choquet la simple construction suivante d'une <p convenable. Définissons ç sur le tore T2, considéré comme le carré — - i T < a ; < i T , — ^ < ! / < ^ avec les côtés opposés identifiés, par ç(^ y) = — 1 y(^ y) = ç(^ y) = 1 0 si o;2 + 2/2 < l/^ si 1/4 < ^2 + y2 < 3/4 ailleurs. 1/0 CARL S. HERZ On prend pour y la transformée de Fourier de y. Puisque M(r) est compact, il s'identifie à un sous-ensemble fermé de F(G) où F = F(G). De plus, on peut démontrer que les points extrémaux de M(F) restent extrêmes dans F(G). Il existe alors des points extrémaux de F(Z) qui n'appartiennent pas à M. Je ne connais pas d'exemple. 9. Quelques problèmes analogues. Si on remplace le disque-unité ouvert par l'intervalle ]— 1 ? 1[» l'énoncé du théorème 1 avec les modifications évidentes est due à Rudin [3]. On peut aller un peu plus loin suivant le chemin de Herz [1]. Voici un résultat complet. THÉORÈME 4. — Soit G un groupe infini et f une fonction définie sur l'intervalle [0, 1J. Pour que /"(y) e P(G) chaque fois que y e P(G) et 0 < y < 1 partout, il faut et il suffit que f = g + h où g est représentée par une série convergente pour ja;|< 1. g(x) == ^ a^x" n=o avec chaque a, > 0 ^^ et h{x) = 0 pour x\ < 1 tandis que h(l) > 0 si G est discret et h{l) = 0 sinon. Démonstration. — La suffisance de la condition est banale. Pour démontrer la nécessité on ramène le cas général au cas des groupes qui sont les sommes directes infinies de groupes cycliques finis. On peut appliquer le lemme 13 aux cas dernier d'où il résulte que /"(y) ^ f(^) chaque fois que y, ^ e P(G) et y ^ ^. II résulte de [1J, proposition 2, que /"possède bien la forme demandée. Le théorème 4 admet une généralisation pour certains groupes. THÉORÈME 4 bis. — Soit G ou bien un groupe illimité ou bien un groupe contenant des sous-groupes isomorphes à 7^ pour n== 1, 2, ^. ... Soit f une fonction définie sur l'intervalle [— 1, 1] si G possède un caractère continu prenant la valeur _ 1 et 'sur l'intervalle ]— 1, 1] sinon. Pour que /-(y) e P(G) chaque fois que y 6 P(G) et — 1 < y ^ 1 partout, il faut et il suffit que f = g + h, FONCTIONS OPÉRANT SUR LES FONCTIONS DÉFINIES-POSITIVES 179 comme dans le théorème 4 avec la précision supplémentaire |A(-1)|<A(1). En ce qui concerne le groupe Zy°, par exemple, il s'agit de considérer l'intervalle [—\/3/2, l] quoique le lemme 13, qui est fondamental, ne soit adapté qu'à l'intervalle [—1/2, 11. (Voir le raisonnement de [1]). On ignore actuellement la généralisation convenable du théorème 4. La situation est même pire si on considère les sous-ensembles du plan complexe, par exemple les Un, au lieu des intervalles de la droite. 10. Fonctions opérant sur les matrices semi-définies positives. Le théorème 2 pour le cas G == Fo a comme corollaire un résultat qui n'a rien à voir avec les fonctions définies-positives. THÉORÈME 5. — Soit f une fonction définie sur le disque-unité fermé. Pour que les f(Zij) soient les coefficients d'une matrice semidéfinie positive chaque fois que les Zy en sont où chaque |zJ <; 1, i,y == 1, . . ., n (n quelconque), il faut et il suffit que fe M. Démonstration. — On note F l'ensemble des fonctions possédant la propriété indiquée. Il est évident que F c F(G) quel que soit le groupe discret G. D'autre part, on sait d'après Schur [4] que M<. c F. On voit aisément, d'ailleurs, que F est fermé dans C(Ilo). Le théorème se déduit de la proposition 3, qui entraîne M c F, et du théorème 2, F c F(Fo) = M. 11. Conclusion L'étude que nous avons fait se trouve d'une façon naturelle dans le cadre de la théorie des semi-algèbres, c'est-à-dire les sous-ensembles d'une algèbre qui sont stables pour l'addition, la multiplication, et le produit par les constantes positives. Il se peut que nos résultats s'expriment mieux dans une théorie des semi-algèbres saillantes à base compacte analogue à celle des cônes. Il faut préciser une telle théorie. Les ensembles, P(G) et F(G), où G est un groupe discret, sont des exemples 180 CABL S. HERZ de semi-algèbres à base compacte. (Les fonctions qui opèrent sur une semi-algèbre de fonctions numériques constituent évidemment une semi-algèbre). On ignore s'il existe des théorèmes généraux qui pourraient alléger notre exposition. BIBLIOGRAPHIE [1] Comptes rendus Acad. Sci. Paris, t. 255, 1962, pp. 2046-2048. [2] Comptes rendus Acad. Soi. Paris., t. 255, 1962, pp. 2560-2561. [3] W. RUDIN, Positive Definite Séquences and Absolutely Monotonie Functions, Duke J.. 26, 1959, pp. 617-622. [4] J. SCHUB, Bemerkungen zur Théorie des beschrànkten Bilineanformen mit unendiichen vielen Veranderlichen, J. fur. Math., 140,1911, p. 14.