Compactification d`espaces de représentations de

manuscript No.
(will be inserted by the editor)
Compactification d’espaces de repr´ esentations
de groupes de type fini.
Anne Parreau
Abstract Let
Γ be a finitely generated group and Gbe a noncompact semisimple
connected real Lie group with finite center. We consider the space X(
Γ ,G)of con-
jugacy classes of semisimple representations of Γ into G, which is the maximal Haus-
dorff quotient of Hom( Γ ,G)/G. We define the translation vector of g∈G, with value
in a Weyl chamber, as a natural refinement of the translation length of gin the sym-
metric space associated with G. We construct a compactification of X(
Γ ,G), in-
duced by the marked translation vector spectrum, generalizing Thurston’s compacti-
fication of the Teichm¨ uller space. We show that the boundary points are projectivized
marked translation vector spectra of actions of
Γ on affine buildings with no global
fixed point. An analoguous result holds for any reductive group Gover a local field.
Keywords Moduli spaces of representations ·Higher teichm¨ uller theory ·Reductive
groups ·Symmetric spaces ·Euclidean buildings ·Asymptotic cones
1 Introduction
Espaces de repr´ esentations. Soit
Γ un groupe infini de type fini. Soit Gun groupe de
Lie semisimple r´ eel, connexe, non compact, de centre fini. On s’int´ eresse ` a l’espace
R(
Γ ,G) = Hom( Γ ,G)des repr´ esentations de Γ dans G, muni de la topologie de
la convergence simple et de l’action de Gpar conjugaison. L’espace topologique
quotient R(
Γ ,G)/Gn’´ etant pas s´ epar´ e, on le remplace par son plus gros quotient
s´ epar´ eX(
Γ ,G) = R( Γ ,G)G, que l’on peut d´ ecrire de la mani` ere suivante (voir
section 5.1, et [Par5]).
On consid` ere l’action de Gpar isom´ etries sur son espace sym´ etrique (sans facteur
compact) Xassoci´ e. On note ∂
∞Xle bord `
a l’infini de X. Une repr´ esentation
ρ : Γ −→
Gest dite compl` etement r´ eductible (cr) si pour tout α ∈ ∂
∞Xfix´
e par
ρ , il existe
β ∈ ∂
∞Xfix´
e par
ρ et oppos´ e` a α (ie. joint ` a α par une g´ eod´ esique dans X). Cette
avec le soutien de l’ANR Repsurf : ANR-06-BLAN-0311
Institut Fourier, Universit´ e Grenoble I et CNRS, BP 74, 38402 Saint-Martin-d’H` eres cedex, France.
E-mail: [email protected]

2 Anne Parreau
propri´ et´ e g´ eom´ etrique (introduite par J.P Serre [Serre]) est ´ equivalente aux notions
alg´ ebriques classiques de r´ eductivit´ e ou semisimplicit´ e.
L’espace X(
Γ ,G)s’identifie alors naturellement au sous-espace Rcr( Γ ,G)/Gde
R( Γ ,G)/Gform´ e par les classes de repr´ esentations cr. Cet espace est consid´ er´ e de
mani` ere classique dans la litt´ erature. Il est l´ eg` erement “plus gros” que le quotient
alg´ ebro-g´ eom´ etrique usuel (voir section 5.1).
On s’int´ eresse aussi plus sp´ ecialement au sous-espace Xfd(
Γ ,G)de X( Γ ,G)
form´ e des classes de repr´ esentations fid` eles et discr` etes.
Quelques exemples. Si
Γ est le groupe fondamental d’une surface Σ connexe orien-
t´ ee ferm´ ee, de genre g≥2, et G=PSL2(R), alors Xest le plan hyperbolique H2, et
l’espace de Teichm¨ uller Tdes structures hyperboliques (marqu´ ees) sur
Σ s’iden-
tifie naturellement ` a l’une des composantes connexes de X(
Γ ,G), incluse dans
Xfd( Γ ,G).
Si
Γ = π
1(
Σ )et G=PSLn(R), alors d’apr` es [Hit] et [Lab] la composante de Hit-
chin de l’espace des modules de G-fibr´ es plats sur Σ est une composante connexe de
X( Γ ,G), incluse dans Xfd( Γ ,G), et c’est une cellule de dimension (2g−2)dimG.
Pour n=3 Goldman et Cho¨ ı ont montr´ e dans [ChGo] qu’elle s’identifie ` a l’espace
des structures projectives r´ eelles convexes (marqu´ ees) sur la surface
Σ .
Par contre, si Γ est un r´ eseau irr´ eductible d’un groupe de Lie Hsemisimple r´ eel,
connexe, sans facteurs compacts, de centre fini, avec rang(H)≥2, le th´ eor` eme de
super-rigidit´ e de Margulis [Mar] entraˆ ıne que l’espace X(
Γ ,SLn(C)) est fini pour
tout n(voir aussi [Bass]).
Les r´ eseaux des groupes de Lie r´ eels semisimples (connexes, sans facteurs com-
pacts, de centre fini) Hde rang 1 non localement isomorphes ` a PSL2(R)(comme
SO0(n,1)pour n≥3) n’ont pas de d´ eformations non triviales en des r´ eseaux dans
Hpar les r´ esultats de rigidit´ e de Mostow [Mos]. Par contre ils ont dans certains cas
de riches espaces de d´ eformations fid` eles et discr` etes dans d’autres groupes G, cor-
respondant par exemple aux structures conformes (G=SO0(n+1,1)) et projectives
r´ eelles (G=PGLn+1(R)) marqu´ ees sur une vari´ et´ eMde groupe fondamental
Γ (voir
par exemple [JoMi]).
Objectif. W. Thurston a construit une compactification de l’espace de Teichm¨ uller
(voir par exemple [FLP]). Plus g´ en´ eralement, Morgan et Shalen (voir [MoSh], [Mor],
[Chi]) puis Bestvina [Bes] et Paulin [Pau1], ont g´ en´ eralis´ e la compactification de
Thurston pour Xfd( Γ ,G)avec G=SO0(n,1). Les points du bord proviennent d’ac-
tions de Γ sur des arbres r´ eels,` a “petits” (i.e. virtuellement cycliques) stabilisateurs
d’arˆ etes. L’un des outils fondamentaux est le spectre marqu´ e des longueurs.
Le but de ce travail est de g´ en´ eraliser cette compactification pour Gde rang
sup´ erieur ou ´ egal ` a 2. La possibilit´ e d’une telle compactification a ´ et´ e envisag´ ee aupa-
ravant par de nombreuses personnes (Gromov, Paulin [Pau2], Kleiner-Leeb, ...). En
rang sup´ erieur ou ´ egal ` a 2, il convient de remplacer les arbres r´ eels par une cat´ egorie
plus g´ en´ erale d’espaces m´ etriques, les immeubles affines, ou encore euclidiens. Ex-
pliquons maintenant plus en d´ etail le r´ esultat pr´ esent´ e dans cet article.
Pour compactifier X(
Γ ,G), on introduit (en section 4) un raffinement de la no-
tion de longueur de translation, le vecteur de translation. On se fixe une chambre de

Compactification d’espaces de repr´ esentations 3
Weyl ferm´ ee Cde X. On consid` ere la projection naturelle δ :X×X−→C, qui raffine
la distance usuelle. Le vecteur de translation v(g)∈Cde g∈Gest l’unique vecteur
de longueur minimale dans l’adh´ erence de {
δ (x,gx),x∈X}. Alg´ ebriquement, c’est
la “projection de Jordan” de g[Ben]. Pour G=SLn(R), cet invariant de conjugaison
est ´ egal ` a la suite d´ ecroissante des logarithmes des modules des valeurs propres de g.
On consid` ere l’application suivante
V:X(
Γ ,G)−→ C
Γ
[ ρ ]7→ v◦ ρ
.
Soit PC
Γ
le projectifi´ e de C
Γ
, c’est-` a-dire l’espace topologique quotient de C
Γ
−{0}
par multiplication dans R∗
+, et P:C
Γ
−{0} −→ PC
Γ
la projection canonique. On
d´ emontre alors le th´ eor` eme suivant (voir th´ eor` eme 5.2 pour un ´ enonc´ e plus pr´ ecis).
Th´ eor` eme 1 L’application continue
P◦V:X(
Γ ,G)−V−1(0)−→ PC
Γ
induit une compactification f X( Γ ,G)de X( Γ ,G), dont le bord ∂
∞X(
Γ ,G)⊂PC
Γ
est form´ e de points de la forme x = [v◦ ρ ], o` u ρ est une action de Γ sur un immeuble
affine (pas n´ ecessairement discret), sans point fixe global.
L’action du groupe Out(
Γ )des automorphismes ext´ erieurs de Γ sur X( Γ ,G)
s’´ etend naturellement ` af X(
Γ ,G).
Si Γ n’a pas de sous-groupe d’indice fini poss´ edant un sous-groupe ab´ elien dis-
tingu´ e infini (par exemple si Γ est un sous-groupe discret fortement irr´ eductible de
SLn(R)), alors le sous-espace Xfd( Γ ,G)des classes de repr´ esentations fid` eles et
discr` etes est un ferm´ e de X(
Γ ,G)(section 6.3). La compactification de X( Γ ,G)
construite induit donc une compactification naturelle g Xfd(
Γ ,G)de Xfd( Γ ,G). Dans
ce cas, F. Paulin a d´ emontr´ e que les actions ρ dont proviennent les points du bord
sont ` a stabilisateurs de germes d’appartements virtuellement r´ esolubles [Pau3].
En particulier, lorsque
Γ est un groupe de surface et G=PSLn(R), ceci donne une
compactification de la composante de Hitchin. On a ´ etudi´ e dans [Par1] des exemples
de d´ eg´ en´ erescences de structures projectives r´ eelles (cas o` un=3) par pliage, et
calcul´ e les spectres limites correspondants.
Sur la structure de la preuve. Les actions sur des immeubles affines sont obtenues
par passage ` a des cˆ ones asymptotiques, comme dans [Pau3] et [KaLe]. L’essentiel
de la difficult´ e consiste ici, premi` erement, ` a d´ emontrer la continuit´ e du vecteur de
translation par passage ` a un cˆ one asymptotique (Prop. 4.4), et deuxi` emement, que le
spectre limite obtenu est non nul, fait crucial pour cette compactification.
Cette derni` ere propri´ et´ e est obtenue en utilisant un mod` ele alg´ ebrique pour le
cˆ one asymptotique. On peut en effet voir l’action limite comme provenant d’une
repr´ esentation
ρ : Γ −→ SLn(K
ω
), agissant sur son immeuble de Bruhat-Tits, o` u
K
ω
est un corps valu´ e, ni localement compact, ni ` a valuation discr` ete, obtenu ` a partir
de Rpar un proc´ ed´ e de passage ` a un cˆ one asymptotique (en utilisant un ultrafiltre
ω ).

4 Anne Parreau
Cette construction est d´ etaill´ ee dans la section 3. La non nullit´ e du spectre d´ ecoule
alors de l’absence de point fixe global par [Par3].
On obtient ´ egalement les r´ esultats analogues dans le cadre des groupes r´ eductifs
sur les corps locaux non archim´ ediens.
2 Pr´ eliminaires
Cette section est consacr´ ee ` a des pr´ eliminaires g´ eom´ etriques. On introduit les no-
tations utilis´ ees et on rappelle ou on ´ etablit les propri´ et´ es dont on aura besoin, d’abord
pour les espaces m´ etriques CAT(0)(section 2.1), puis plus sp´ ecifiquement pour les
espaces sym´ etriques et les immeubles affines (section 2.2). Enfin on rappelle la notion
de cˆ one asymptotique d’un espace m´ etrique et les propri´ et´ es des cˆ ones asymptotiques
des espaces sym´ etriques et des immeubles qu’on utilisera (section 2.3).
2.1 Espaces m´ etriques CAT(0)
Dans cette section Xest un espace m´ etrique CAT(0). On renvoie ` a [BrHa] comme
r´ ef´ erence g´ en´ erale. Etant donn´ es x,y∈X, on notera [x,y]ou bien xy l’unique segment
g´ eod´ esique joignant x` ay. Etant donn´ es x,y,z∈Xavec y,z6=x, on notera e ∢x(y,z)
l’angle de comparaison en xentre yet z, et ∢x(y,z)l’angle en xentre yet z.
L’espace Xse d´ ecompose canoniquement en produit X0×X′, o` uX0est eucli-
dien et X′est un espace m´ etrique CAT(0)sans facteur euclidien. Les isom´ etries de
Xpr´ eservent cette d´ ecomposition [BrHa, Thm II.6.15]. On appellera X0le facteur
euclidien (maximal) de X.
Le groupe Is(X)des isom´ etries de Xest muni de la topologie de la convergence
uniforme sur les born´ es (qui est m´ etrisable). Lorsque Xest propre (i.e. si ses boules
ferm´ ees sont compactes) Is(X)est localement compact, et agit proprement sur X
(c’est-` a-dire que si x∈Xet M≥0, alors {g∈Is(X),d(x,gx)≤M}est un compact).
Faisceaux. Soit r:R−→ Xune g´ eod´ esique. Le faisceau Frest la r´ eunion des g´ eo-
d´ esiques parall` eles ` ar. C’est un sous-espace convexe et il se d´ ecompose [BrHa, Thm
II.2.14] canoniquement en un produit Cr×r, o` uCr⊂Xest un convexe et {x}×rest
une g´ eod´ esique parall` ele ` arpour tout x∈Cr. Si Xest complet, alors Fret Craussi.
2.1.1 D´ eplacement et longueur de translation [BrHa, II.6].
Soit g∈Is(X). On appelle fonction de d´ eplacement de gla fonction convexe
dg:X→R+
x7→ d(x,gx)
et longueur de translation de gle r´ eel positif
ℓ(g) = inf
x∈Xdg(x).

Compactification d’espaces de repr´ esentations 5
L’ensemble minimal de gest le convexe ferm´ e (´ eventuellement vide)
Min(g) = {x∈X,d(x,gx) = ℓ(g)}.
On dit que gest semi-simple si Min(g)6=/0, parabolique sinon. Dans le premier cas,
ou bien si ℓ(g) = 0 et gposs` ede un point fixe (gest alors dite elliptique) ou bien
ℓ(g)>0, et translate alors une g´ eod´ esique (gest alors dite axiale).
Si genvoie une g´ eod´ esique rsur une g´ eod´ esique parall` ele, alors le faisceau Fr=
Cr×rest stable par get gagit dessus comme (g′,t)o` ug′∈Is(Cr)et t∈Rd´ esigne la
translation r(s)7→ r(s+t)de r. On a alors Min(g) = Min(g′)×r⊂Fret
ℓ(g) = ℓ(g|Fr) = qℓ(g′)2+t2.(1)
On montre facilement que pour tout x∈Xla limite limk→+∞1
kd(x,gkx)existe et
ne d´ epend pas de x∈X(voir [BrHa, II.6.6]). Comme 1
kd(x,gkx)≤dg(x)pour tout k,
on a de plus
lim
k→+∞
1
kd(x,gkx)≤ℓ(g)(2)
avec ´ egalit´ e si gsemisimple.
On obtient ais´ ement les propri´ et´ es suivantes.
Lemme 2.1 Soit gk→g dans Is(X).
1. On a dgk→dguniform´ ement sur les born´ es de X.
2. (semicontinuit´ e) On a limsupkℓ(gk)≤ℓ(g).
3. Soit M l’ensemble des valeurs d’adh´ erence des suites (xk)kdans X telles que
xk∈Min(gk)pour tout k ∈N. Alors M ⊂Min(g).
En particulier, si X est propre et si Min(gk)est non vide et reste ` a distance born´ ee
de x0∈X fix´ e, alors quitte ` a extraire Min(gk)converge (pour la topologie de Haus-
dorff point´ ee [Gro2]) vers un sous-ensemble non vide N de Min(g). En particulier g
est semisimple et ℓ(g) = limkℓ(gk).⊓⊔
2.1.2 Bord a l’infini.
On suppose d´ esormais Xcomplet. On notera
∂
∞Xle bord (`
a l’infini) de Xet
X=X∪ ∂
∞X. Si r:R+−→Xest un rayon g´
eod´ esique, on note r(∞)le point de
∂
∞X
d´ efini par r, qu’on appellera l’extr´ emit´ ede r.
D´ efinition 2.2 (Ombre Ox(y,D)d’une boule) Soit x∈X. Pour tout y∈X, et pour
tout D≥0, on notera Ox(y,D)l’ombre vue du point x de la boule B(y,D), c’est-` a-dire
l’ensemble des r(+∞), o` urest une g´ eod´ esique issue de xtelle que d(y,r)≤D.
L’espace Xest muni de la topologie des cˆ ones [BrHa, II.8.6]. L’action de Is(X)
s’´ etend continˆ ument sur X. Soient
ξ , ξ
′∈X. Pour x∈X, on notera ∢x(
ξ , ξ
′)l’angle
en xentre
ξ et ξ
′. On notera ∢T(
ξ , ξ
′) = supx∈X∢x(
ξ , ξ
′)l’angle de Tits, qui est une
m´ etrique sur
∂
∞X(voir II 9.4 et 9.5 dans [BrHa]). Si
ξ
+et
ξ
−sont les deux extr´
emit´ es
d’une g´ eod´ esique r, on dira que
ξ
+et
ξ
−sont oppos´
es et on notera F
ξ
−
ξ
+=Fr(alors
∢T(
ξ
−,
ξ
+) =
π ).