3. Paires de Gelfand Dans ce chapitre, on considère des paires (G, K) constituées d’un groupe localement compact G et d’un sous–groupe compact K. G est muni d’une mesure de Haar invariante à gauche et K de la mesure de Haar bi–invariante normalisée. Introduisons l’opérateur de moyenne Z Z f ♮ (x) = dk1 K dk2 f (k1 xk2 ) K et la notation F (G)♮ pour désigner le sous–espace des fonctions bi–K–invariantes dans un espace fonctionnel F (G) sur G. Lemme : f 7−→ f ♮ est un projecteur de C(G) sur C(G)♮ . Exercice : Montrer que f 7−→ f ♮ est un projecteur de F (G) sur F (G)♮ pour les espaces fonctionnels suivants : F (G) = Cc (G), Co (G), L1loc (G), Lp (G) (pour tout 1 ≤ p ≤ ∞). En particulier, on observera que l’opérateur de moyenne est bien défini sur L1loc (G) et on Z Z établira l’identité ♮ dx f (x) = dx f (x) G G dans le cas F (G) = L1 (G). Exercice : Vérifier que Cc (G)♮ et L1 (G)♮ sont des algèbres de convolution. Définition : (G, K) est une paire de Gelfand 1 si le produit de convolution est commutatif pour les fonctions bi–K–invariantes, plus précisément si f ∗ g = g ∗ f ∀ f, g ∈ Cc (G)♮ . Dans ce cas, la relation de commutativité f ∗g = g ∗f s’étend à des classes de fonctions plus générales, par exemple f, g ∈ L1 (G)♮ . Lemme : Si (G, K) est une paire de Gelfand, alors G est unimodulaire. Démonstration : Soit f ∈ Cc (G). Il existe g ∈ Cc (G) telle que g = 1 sur K(supp f )−1 K. Par suite g ♮ = 1 sur (supp f ♮ )−1Z. L’identité fZ♮ ∗g ♮ (e) = g ♮ ∗f ♮ (e) donne Comme on en déduit que dy f (y) = dy f (y −1 ) . G Z Z G −1 dy f (y ) = dy ∆(y)−1 f (y) , G G Z Z dy f (y) = dy ∆(y)−1 f (y) . G G Ceci étant valable pour tout f ∈ Cc (G), on a ∆ = 1. Lemme : Supposons que G possède un automorphisme involutif continu θ tel que Kθ(x)K = Kx−1 K pour tout x ∈ G. Alors (G, K) est une paire de Gelfand. Démonstration : Posons f θ (x) = f (θ(x)) pour les fonctions et µθ (A) = µ(θ(A)) pour les mesures sur G. Observons tout d’abord l’invariance par θ de la mesure de Haar λ de G. Comme λθ est une mesure de Haar invariante à gauche, il existe en effet c > 0 tel que λθ = c λ et l’identité θ 2 = 1 implique c = 1. 1 Israel Moiseevich Gelfand, mathématicien russe, né en 1913. 1 2 Montrons ensuite l’unimodularité de G. La moyenne f ♮ d’une fonction f ∈ Cc (G) vérifie par hypothèse (f ♮ )θ = (f ♮ )∨ . En intégrant cette identité sur G, on obtient Z Z dx f (x) = dx ∆(x)−1 f (x) . G G Ce résultat étant valable pour tout f ∈ Cc (G), on en déduit que ∆ = 1. Considérons finalement le produit de convolution de deux fonctions f, g ∈ Cc (G)♮ . Par hypothèse, on a f θ = f ∨ , g θ = g∨ et (f ∗g)θ = (f ∗g)∨ . Par suite, f ∗g = {(f ∗g)θ }∨ = {f θ ∗g θ }∨ = (g θ )∨ ∗(f θ )∨ = g∗f . Exemples : −1 t • G = GL(n, R), K = O(n), θ(x) = (x ) = (xt )−1 . De même pour G = SL(n, R), K = SO(n). −1 ∗ • G = GL(n, C), K = U(n), θ(x) = (x ) = (x∗ )−1 . De même pour G = SL(n, C), K = SU(n). Le critère suivant est utile dans les exemples. Lemme : Supposons que la topologie de G/K est définie par une distance d invariante par G et que l’action de G sur l’espace métrique (G/K, d) est doublement transitive. Alors (G, K) est une paire de Gelfand. Rappels : Soit G un groupe opérant sur un espace métrique (X, d). • La distance d est invariante par G si d(g.x, g.y) = d(x, y), pour tout g ∈ G et pour tout x, y ∈ X. • L’action est (simplement) transitive si, pour tout x, y ∈ X, il existe g ∈ G tel que g.x = y. ′ ′ 2 ′ ′ • l’action est doublement transitive si, pour tout (x, x ), (y, y ) ∈ X avec d(x, x ) = d(y, y ), il existe g ∈ G tel que (g.x, g.x′) = (y, y ′). Exercice : Soit G un groupe opérant transitivement sur un ensemble X, muni d’une mesure invariante d, x0 ∈ X et H le stabilisateur de x0 . Montrer que l’action de G sur X est doublement transitive si et seulement si l’action de H sur tout sphère centrée au point x0 est transitive i.e. pour tout x, x′ ∈ X avec d(x, x0 ) = d(x′, x0 ), il existe h ∈ H tel que h.x = h.x′. Démonstration du lemme : Soit x ∈ G. Comme la distance sur G/K est invariante par G, on a d(xK, eK) = d(eK, x−1K). Par hypothèse, il existe k ∈ K tel que kxK = x−1K. Ainsi KxK = Kx−1 K pour tout x ∈ G et on conclut en utilisant le lemme précédent. La paire de Gelfand la plus simple est constituée de G = R et K = {0}. Dans ce cas, les fonctions de base pour l’analyse de Fourier sont les fonctions exponentielles, qui possèdent les caractérisations équivalentes suivantes : zx • Il existe z ∈ C tel que ϕ(x) = e pour tout x ∈ R, ∗ • ϕ est un homomorphisme continu de R dans C . En d’autres termes, ϕ est une fonction non nulle continue de R dans C, qui vérifie la relation fonctionnelle ϕ(x+y) = ϕ(x) ϕ(y) pour tout x, y ∈ R . • ϕ est une fonction non nulle continue de R dans C telle que Z +∞ dx f (x) ϕ(−x) χ(f ) = −∞ est un caractère de l’algèbre de convolution Cc (R), i.e. 3 χ(f ∗g) = χ(f ) χ(g) pour tout f, g ∈ Cc (R). • ϕ est une fonction non nulle dérivable de R dans C, qui est une fonction propre pour la dérivée, i.e. il existe z ∈ C tel que ϕ′ = z ϕ . Introduisons l’analogue des fonctions exponentielles dans le cadre général des paires de Gelfand. Nous en donnerons trois caractérisations fonctionnelles. Dans les cas particuliers considérés dans les chapitres suivants, nous en donnerons une quatrième caractérisation au moyen d’une équation différentielle. Définition : Une fonction sphérique pour une paire de Gelfand (G, K) est une fonction ϕ : G → C non nulle Z continue, qui vérifie la relation fonctionnelle dk ϕ(xky) = ϕ(x) ϕ(y) pour tout x, y ∈ G (⋆) K Lemme : Soit ϕ une fonction sphérique. Alors • ϕ est bi–K–invariante, • ϕ(e) = 1. Démonstration : Soit a ∈ G tel que ϕ(a) 6= 0. On montre tout d’abord que ϕ est K–invariante à gauche, respectivement à droite, en prenant x = a, respectivement y = a, dans (⋆) et en utilisant la bi–invariance de la mesure de Haar sur K. On montre ensuite que ϕ(e) = 1 en prenant dans (⋆) une des deux variables x, y égale à a et l’autre égale à e. Théorème : Les conditions suivantes sont équivalentes, pour une fonction ϕ : G → C bi–K–invariante continue telle que ϕ(e) = 1. (a) ϕ est uneZ fonction sphérique. dx f (x) ϕ(x−1 ) est un caractère de l’algèbre de convolution Cc (G)♮ , i.e. G χϕ (f ∗g) = χϕ (f ) χϕ (g) pour tout f, g ∈ Cc (G)♮ . (c) ϕ est une fonction propre pour la convolution des fonctions bi–K–invariantes, i.e. pour tout f ∈ Cc (G)♮ , il existe χ(f ) ∈ C tel que f ∗ϕ = χ(f ) ϕ . Démonstration : • (a) ⇐⇒ (b) : Pour tout f, g ∈ Cc (G), on obtient Z Z nZ o ♮ ♮ ♮ ♮ χϕ (f ∗g ) − χϕ (f ) χϕ (g ) = dx f (x) dy g(y) dk ϕ(xky) − ϕ(x) ϕ(y) (b) χϕ (f ) = G G K en développant et en simplifiant le membre de gauche. L’équivalence entre (a) et (b) résulte immédiatement de cette identité. • (a) =⇒ (c) : Pour tout f ∈ Cc (G) et pour tout y ∈ G, on obtient de même Z nZ o ♮ ♮ (f ∗ϕ)(y) − χϕ (f ) ϕ(y) = dx f (x) dk ϕ(x−1 ky) − ϕ(x−1 ) ϕ(y) . G K D’où l’implication (a) =⇒ (c). ♮ • (c) =⇒ (b) : Il est clair que f 7−→ χ(f ) est un caractère de Cc (G) . On identifie χ = χϕ en évaluant l’identité χ(f )ϕ(x) = (f ∗ϕ)(x) en x = e. 4 L’ensemble des fonctions sphériques de la paire de Gelfand (G, K) est noté Σ. Il est muni de la topologie de la convergence uniforme sur les parties compactes de G, qui est définie par la famille de semi–normes NA (f ) = sup x∈A |f (x)| indexée par les parties compactes A de G. Définition : La transformation de Gelfand est définie par Z pour tout f ∈ Cc (G)♮ et pour tout ϕ ∈ Σ. dx f (x) ϕ(x−1 ) Gf (ϕ) = G Remarques : • G transforme le produit de convolution en produit ponctuel : G(f ∗ g) = (Gf ) (Gg) . 1 ♮ • On peut montrer que G s’étend en un homorphisme de l’algèbre de Banach L (G) (pour le produit de convolution) dans l’algèbre de Banach Cb (Σ1 ) (pour le produit ponctuel), où Σ1 ⊂ Σ désigne l’ensemble des fonctions sphériques bornées. • On a une formule de Plancherel Z Z dx |f (x)|2 = et une formule d’inversion G f (x) = dµ(ϕ) |f (ϕ)|2 Σ2 Z dµ(ϕ) (Gf )(ϕ) ϕ(x) . Σ2 La mesure de Plancherel µ est supportée par une partie de Σ1 et plus précisément du sous–ensemble Σ2 des fonctions sphériques de type positif. • Dans les exemples, le programme de base consiste à déterminer l’ensemble Σ et la mesure µ.