3. Paires de Gelfand Dans ce chapitre, on consid`ere des paires (G

3. Paires de Gelfand
Dans ce chapitre, on consid`ere des paires (G, K) constitu´ees d’un groupe localement
compact Get d’un sous–groupe compact K.Gest muni d’une mesure de Haar invariante
`a gauche et Kde la mesure de Haar bi–invariante normalis´ee.
Introduisons l’op´erateur de moyenne
f♮(x) = ZK dk1ZK dk2f(k1xk2)
et la notation F(G)♮pour d´esigner le sous–espace des fonctions bi–K–invariantes dans
un espace fonctionnel F(G) sur G.
Lemme : f7−→ f♮est un projecteur de C(G) sur C(G)♮.
Exercice : Montrer que f7−→ f♮est un projecteur de F(G) sur F(G)♮pour les espaces
fonctionnels suivants : F(G) = Cc(G), Co(G), L1
loc(G), Lp(G) (pour tout 1 ≤p≤ ∞).
En particulier, on observera que l’op´erateur de moyenne est bien d´efini sur L1
loc(G) et on
´etablira l’identit´e ZG
dx f♮(x) =ZG dx f(x)
dans le cas F(G) =L1(G).
Exercice : V´erifier que Cc(G)♮et L1(G)♮sont des alg`ebres de convolution.
D´efinition : (G, K) est une paire de Gelfand 1si le produit de convolution est commu-
tatif pour les fonctions bi–K–invariantes, plus pr´ecis´ement si
f∗g=g∗f∀f, g ∈Cc(G)♮.
Dans ce cas, la relation de commutativit´e f∗g=g∗fs’´etend `a des classes de fonctions
plus g´en´erales, par exemple f, g ∈L1(G)♮.
Lemme : Si (G, K) est une paire de Gelfand, alors Gest unimodulaire.
D´emonstration : Soit f∈Cc(G). Il existe g∈Cc(G) telle que g=1 sur K(supp f)−1K.
Par suite g♮=1 sur (supp f♮)−1. L’identit´e f♮∗g♮(e) = g♮∗f♮(e) donne
ZG
dy f(y) =ZG dy f(y−1).
Comme ZG
dy f(y−1) =ZG dy ∆(y)−1f(y),
on en d´eduit que ZG
dy f(y) =ZG dy ∆(y)−1f(y).
Ceci ´etant valable pour tout f∈Cc(G), on a ∆=1. 
Lemme : Supposons que Gposs`ede un automorphisme involutif continu θtel que
Kθ(x)K=Kx−1Kpour tout x∈G.
Alors (G, K) est une paire de Gelfand.
D´emonstration :
Posons fθ(x) = f(θ(x)) pour les fonctions et µθ(A) = µ(θ(A)) pour les mesures sur G.
Observons tout d’abord l’invariance par θde la mesure de Haar λde G. Comme λθ
est une mesure de Haar invariante `a gauche, il existe en effet c > 0 tel que λθ=c λ et
l’identit´e θ2=1 implique c=1.
1Israel Moiseevich Gelfand, math´ematicien russe, n´e en 1913.
1

2
Montrons ensuite l’unimodularit´e de G. La moyenne f♮d’une fonction f∈Cc(G) v´erifie
par hypoth`ese (f♮)θ=(f♮)∨. En int´egrant cette identit´e sur G, on obtient
ZG
dx f(x) =ZG dx ∆(x)−1f(x).
Ce r´esultat ´etant valable pour tout f∈Cc(G), on en d´eduit que ∆=1.
Consid´erons finalement le produit de convolution de deux fonctions f, g ∈Cc(G)♮. Par
hypoth`ese, on a fθ=f∨,gθ=g∨et (f∗g)θ=(f∗g)∨. Par suite,
f∗g={(f∗g)θ}∨={fθ∗gθ}∨= (gθ)∨∗(fθ)∨=g∗f . 
Exemples :
•G=GL(n, R), K=O(n), θ(x)=(x−1)t=(xt)−1.
De mˆeme pour G=SL(n, R), K=SO(n).
•G=GL(n, C), K=U(n), θ(x) =(x−1)∗= (x∗)−1.
De mˆeme pour G=SL(n, C), K=SU(n).
Le crit`ere suivant est utile dans les exemples.
Lemme : Supposons que la topologie de G/K est d´efinie par une distance dinvariante
par Get que l’action de Gsur l’espace m´etrique (G/K, d) est doublement transitive.
Alors (G, K) est une paire de Gelfand.
Rappels : Soit Gun groupe op´erant sur un espace m´etrique (X, d).
•La distance dest invariante par Gsi d(g.x, g.y) =d(x, y), pour tout g∈Get pour tout
x, y ∈X.
•L’action est (simplement)transitive si, pour tout x, y ∈X, il existe g∈Gtel que g.x=y.
•l’action est doublement transitive si, pour tout (x, x′),(y, y′ )∈X2avec d(x, x′)=d(y, y′),
il existe g∈Gtel que (g.x, g.x′ )=(y, y′).
Exercice : Soit Gun groupe op´erant transitivement sur un ensemble X, muni d’une
mesure invariante d,x0∈Xet Hle stabilisateur de x0. Montrer que l’action de Gsur
Xest doublement transitive si et seulement si l’action de Hsur tout sph`ere centr´ee au
point x0est transitive i.e.
pour tout x, x′∈Xavec d(x, x0)=d(x′, x0), il existe h∈Htel que h.x =h.x′.
D´emonstration du lemme : Soit x∈G. Comme la distance sur G/K est invariante
par G, on a d(xK, eK) = d(eK, x−1K). Par hypoth`ese, il existe k∈Ktel que kxK =
x−1K. Ainsi KxK =Kx−1Kpour tout x∈Get on conclut en utilisant le lemme
pr´ec´edent. 
La paire de Gelfand la plus simple est constitu´ee de G=Ret K={0}. Dans ce cas, les
fonctions de base pour l’analyse de Fourier sont les fonctions exponentielles, qui poss`edent
les caract´erisations ´equivalentes suivantes :
•Il existe z∈Ctel que ϕ(x) = ez x pour tout x∈R,
•ϕest un homomorphisme continu de Rdans C∗. En d’autres termes, ϕest une
fonction non nulle continue de Rdans C, qui v´erifie la relation fonctionnelle
ϕ(x+y) = ϕ(x)ϕ(y) pour tout x, y ∈R.
•ϕest une fonction non nulle continue de Rdans Ctelle que
χ(f) = Z+∞
−∞
dx f(x)ϕ(−x)
est un caract`ere de l’alg`ebre de convolution Cc(R), i.e.

3
χ(f∗g) = χ(f)χ(g) pour tout f, g ∈Cc(R).
•ϕest une fonction non nulle d´erivable de Rdans C, qui est une fonction propre pour
la d´eriv´ee, i.e. il existe z∈Ctel que ϕ′=z ϕ .
Introduisons l’analogue des fonctions exponentielles dans le cadre g´en´eral des paires de
Gelfand. Nous en donnerons trois caract´erisations fonctionnelles. Dans les cas particu-
liers consid´er´es dans les chapitres suivants, nous en donnerons une quatri`eme caract´eri-
sation au moyen d’une ´equation diff´erentielle.
D´efinition : Une fonction sph´erique pour une paire de Gelfand (G, K) est une fonction
ϕ:G→Cnon nulle continue, qui v´erifie la relation fonctionnelle
ZK
dk ϕ(xky) = ϕ(x)ϕ(y) pour tout x, y ∈G(⋆)
Lemme : Soit ϕune fonction sph´erique. Alors
•ϕest bi–K–invariante,
•ϕ(e) = 1.
D´emonstration : Soit a∈Gtel que ϕ(a)6= 0. On montre tout d’abord que ϕest
K–invariante `a gauche, respectivement `a droite, en prenant x=a, respectivement y=a,
dans (⋆) et en utilisant la bi–invariance de la mesure de Haar sur K. On montre ensuite
que ϕ(e) = 1 en prenant dans (⋆) une des deux variables x,y´egale `a aet l’autre ´egale
`a e.
Th´eor`eme : Les conditions suivantes sont ´equivalentes, pour une fonction ϕ:G→C
bi–K–invariante continue telle que ϕ(e)=1.
(a) ϕest une fonction sph´erique.
(b) χϕ(f) =ZG dx f(x)ϕ(x−1) est un caract`ere de l’alg`ebre de convolution Cc(G)♮, i.e.
χϕ(f∗g) = χϕ(f)χϕ(g) pour tout f, g ∈Cc(G)♮.
(c) ϕest une fonction propre pour la convolution des fonctions bi–K–invariantes, i.e.
pour tout f∈Cc(G)♮, il existe χ(f)∈Ctel que f∗ϕ=χ(f)ϕ.
D´emonstration :
•(a) ⇐⇒ (b) : Pour tout f, g ∈Cc(G), on obtient
χϕ(f♮∗g♮)−χϕ(f♮)χϕ(g♮) =ZG dx f(x)ZG dy g(y)nZK dk ϕ(xky)−ϕ(x)ϕ(y)o
en d´eveloppant et en simplifiant le membre de gauche. L’´equivalence entre (a) et (b)
r´esulte imm´ediatement de cette identit´e.
•(a) =⇒(c) : Pour tout f∈Cc(G) et pour tout y∈G, on obtient de mˆeme
(f♮∗ϕ)(y)−χϕ(f♮)ϕ(y) =ZG dx f(x)nZK dk ϕ(x−1ky)−ϕ(x−1)ϕ(y)o.
D’o`u l’implication (a) =⇒(c).
•(c) =⇒(b) : Il est clair que f7−→ χ(f) est un caract`ere de Cc(G)♮. On identifie
χ=χϕen ´evaluant l’identit´e χ(f)ϕ(x)=(f∗ϕ)(x) en x=e.

4
L’ensemble des fonctions sph´eriques de la paire de Gelfand (G, K) est not´e Σ. Il est
muni de la topologie de la convergence uniforme sur les parties compactes de G, qui est
d´efinie par la famille de semi–normes
NA(f) = supx∈A|f(x)|
index´ee par les parties compactes Ade G.
D´efinition : La transformation de Gelfand est d´efinie par
Gf(ϕ) =ZG dx f(x)ϕ(x−1) pour tout f∈Cc(G)♮et pour tout ϕ∈Σ.
Remarques :
•Gtransforme le produit de convolution en produit ponctuel :
G(f∗g) = (Gf) (Gg).
•On peut montrer que Gs’´etend en un homorphisme de l’alg`ebre de Banach L1(G)♮
(pour le produit de convolution) dans l’alg`ebre de Banach Cb(Σ1) (pour le produit
ponctuel), o`u Σ1⊂Σ d´esigne l’ensemble des fonctions sph´eriques born´ees.
•On a une formule de Plancherel
ZG
dx |f(x)|2=ZΣ2 dµ(ϕ)|f(ϕ)|2
et une formule d’inversion
f(x) =ZΣ2 dµ(ϕ) (Gf)(ϕ)ϕ(x).
La mesure de Plancherel µest support´ee par une partie de Σ1et plus pr´ecis´ement du
sous–ensemble Σ2des fonctions sph´eriques de type positif.
•Dans les exemples, le programme de base consiste `a d´eterminer l’ensemble Σ et la
mesure µ.