Sur les représentations mixtes des groupes de Lie résolubles exponentiels

Publ. Ma . 46 (2002), 179–199
SUR LES REPR´
ESENTATIONS MIXTES DES GROUPES
DE LIE R´
ESOLUBLES EXPONENTIELS
A. Baklou i, A. Gho bel e H. Ham ouni
Abs ac
Le Gbe an exponen ial sol able Lie g oup, Hand A wo closed
connec ed subg oups o Gand σa uni a y and i educible ep-
esen a ion o H. We p o e he o bi al spec um o mula o he
Up-Down ep esen a ion ρ(G, H, A, σ) = IndG
Hσ|A. When Gis
nilpo en , he mul iplici ies o such ep esen a ion u ns ou o be
uni o mly infini e o fini e and bounded. A necessa y and su -
ficien condi ion o he fini eness o he mul iplici ies is gi en.
The same esul s a e ob ained when Gis exponen ial sol able Lie
g oup, Hand Aa e in a ian .
1. In oduc ion
Soi Gun g oupe de Lie ´esoluble exponen iel d’alg`eb e de Lie ge
H⊂Gun sous-g oupe e m´e connexe. Soien πe σdeux ep ´esen a ions
uni ai es e i ´educ ibles de Ge de H espec i emen . H. Fujiwa a a
d´e e min´e des o mules explici es de d´esin ´eg a ion en i ´educ ibles des
ep ´esen a ions IndG
Hσe π|Hen e mes de spec e e de mul iplici ´es
de ep ´esen a ions ( oi [8]e [9]). On se demande si on peu ob eni
des o mules analogues pou des ep ´esen a ions qui on in e eni `ala
ois des ep ´esen a ions indui es e des es ic ions de ep ´esen a ions.
C’es en ai ce qu’on appelle dans ce a ail des ep ´esen a ions mix es
ou de ype mix e. Plus p ´ecis´emen , ce son des ep ´esen a ions de
la o me ρ(G, H, A, σ)=Ind
G
Hσ|A. L’obje de ce a ail es l’´e ude
de ce ype de ep ´esen a ions. Comme mo i a ion, l’´e ude de elles
ep ´esen a ions po e un g and in ´e ˆe sachan que la d´ecomposi ion des
ep ´esen a ions mix es e leu en elacemen nous ou ni de nou elles
d´esin ´eg a ions lisses de L2(G) pou les g oupes exponen iels ( oi [1]).
2000 Ma hema ics Subjec Classifica ion. 22 E 27.
Mo s-cl´es. G oupe exponen iel, ep ´esen a ion uni ai e, o bi e, d´esin ´eg a ion, pola-
isa ion, ensemble semi-alg´eb ique.
180 A. Baklou i, A. Gho bel, H. Ham ouni
Une au e mo i a ion ien o iginalemen de la h´eo ie des ac ions e -
godiques comme l’explique R. L. Lipsman dans [12]. Ce de nie au eu
´e udie le spec e e les mul iplici ´es d’un ype pa iculie de ep ´esen a-
ions mix es pou des g oupes de Lie nilpo en s connexes e simplemen
connexes. C’es la ep ´esen a ion
ρ(G, H, A) = IndG
H1|A
(1)
qui ´e ai l’obje de l’´e ude en supposan que Hes un sous-g oupe e m´e
de Ge Aun sous-g oupe ab´elien de G. Plus p ´ecis´emen , l’au eu a
d´e e min´e un spec e conc e e une o mule de mul iplici ´es explici e
en u ilisan la m´e hode des o bi es. No e p emie objec i dans ce
a icle es d’´ec i e des o mules de d´esin ´eg a ion des ep ´esen a ions
mix es pou ous les g oupes de Lie ´esolubles exponen iels sans es ic-
ions su les sous-g oupes He Ae su la ep ´esen a ion σ∈ˆ
H.Un
au e objec i de ce a ail es de d´e e mine des condi ions n´ecessai es
e suffisan es pou lesquelles les mul iplici ´es des ep ´esen a ions in e -
enan dans les composan es iso ypiques de ρ(G, H, A, σ) son finies
p esque pa ou . Pou acqu´e i de elles condi ions, il au d´ej`a que
la ep ´esen a ion τ(σ)=Ind
G
Hσsoi `a mul iplici ´es finies e que pou
p esque ou π∈spec e(τ(σ)) la ep ´esen a ion π|Asoi enco e `a mul i-
plici ´es finies. Ces de ni`e es condi ions ne son g´en´e alemen pas
suffisan es pou assu e la fini ude des mul iplici ´es de la ep ´esen a-
ion ρ(G, H, A, σ).
Quand Ges nilpo en , nous d´emon ons que les mul iplici ´es de la
ep ´esen a ion mix e ρ(G, H, A, χ) son uni o m´emen infinies ou uni-
o m´emen finies e bo n´ees. Nous exhibons aussi dans ce cas une con-
di ion n´ecessai e e suffisan e pou la fini ude de ces mul iplici ´es. Ici, χ
d´esigne un ca ac `e e uni ai e de H. Ce e condi ion po e mani es emen
su les sous-g oupes He Ae leu s ac ions su ce ains espaces en aisan
in e eni des ensembles semi-alg´eb iques. Le ai de a aille en u il-
isan un ca ac `e e uni ai e ne ep ´esen e aucune pe e de g´en´e ali ´es dans
ce cas. En effe , ou es les ep ´esen a ions uni ai es e i ´educ ibles son
monomiales e le ´esul a es d´educ ible pou une ep ´esen a ion quel-
conque σde H. Quand le g oupe Ges exponen iel e As’a `e e une po-
la isa ion G-in a ian e pou ce ains ´el´emen s g´en´e iques, nous mon ons
que les mul iplici ´es de la ep ´esen a ion ρ(G, H, A, σ)co¨ınciden a ec
celle de τ(σ) e son uni o mes, donc ne d´ependen pas de A. Lo sque
les sous-g oupes He Ason in a ian s (e Ges exponen iel), nous mon-
ons que la ep ´esen a ion mix e ρ(G, H, A, χ) es sans mul iplici ´es ou
`a mul iplici ´es uni o m´emen ´egales `a l’infini. Nous donnons alo s des
condi ions n´ecessai es e suffisan es pou la fini ude dans ce cas.
Rep ´
esen a ions Mix es des G oupes Exponen iels 181
L’´e ude de elles ep ´esen a ions pou ai ˆe e ai e plus g´en´e alemen
su des g oupes localemen compac s. Mackey a ´e udi´elad´esin ´eg a ion
de elles ep ´esen a ions quand Ae Hson ´eguli`e emen li´es ( oi [17]).
D’au e pa J. Ludwig p ou e dans le Lemme 4.2 de [16] que si He
Ason des sous-g oupes no maux d’un g oupe localemen compac Ge
A⊂H, alo s le suppo de la ep ´esen a ion mix e ρ(G, H, A, σ) es de
la o me (σ|A)g,g∈Go`u(σ|A)g(a)=σ(g·a·g−1), a∈A.
2. G´en´e ali ´es
Soi Gun g oupe de Lie ´esoluble exponen iel d’alg`eb e de Lie g, c’es
`a di e un g oupe de Lie ´eel el que l’applica ion exponen ielle:
exp: g−→ G
soi un diff´eomo phisme. Soi gl’espace dual de g. Le g oupe Gagi
su gpa la ep ´esen a ion coadjoin e. Pou ou dans g,ond´efini
la o me bilin´eai e al e n´ee B su g×gpa B (X,Y )= ([X,Y ]). Si a
es une sous-alg`eb e de g, on no e a( )={X∈g/B (X,a)=0}e
a⊥={l∈g:l|a=0}o`ul|ad´esigne la es ic ion de l`a a.Sia⊂
a( ), on di que aes une sous-alg`eb e iso ope pou B . On no e aussi
S( ,g) l’ensemble des sous-alg`eb es iso opes pou B . E an donn´eun
´el´emen hde S( ,g), on no e χ le ca ac `e e uni ai e de H= exp(h)
d´efini pa
χ (exp(Y)) = ei (Y),Y∈h.(2)
Ce ca ac `e e indui une ep ´esen a ion uni ai e τ=τ( )=Ind
G
Hχ
de G. Soi σune ep ´esen a ion de Hassoci´ee `a l’o bi e ΩH
σ, qui agi su
un espace de Hilbe Hσe cons uisons la ep ´esen a ion τ(σ) = IndG
Hσ.
Nous allons p ´ecise dans ce qui sui la a¸con a ec laquelle on d´efini la
ep ´esen a ion τ(σ). Soien dg une mesu e de Haa `a gauche su Ge ∆G
la onc ion module de Gde so e que l’on a:
G
F(gx−1)dg =∆
G(x)G
F(g)dg (x∈G)
pou ou e onc ion Fappa enan `a l’espace K(G) des onc ions con-
inues su G`a suppo compac . Il es bien connu que
∆G(x)=|de Ad x|−1(x∈G).
On no e ∆H,G le ca ac `e e de H`a aleu s dans R+d´efini pa
∆H,G(h)=∆H(h)
∆G(h).
182 A. Baklou i, A. Gho bel, H. Ham ouni
On a, pou Xdans h,
∆H,G(exp X) = exp(T adg/hX).
Soi K(G, H) l’espace des onc ions num´e iques Fcon inues su G,`a
suppo compac modulo He qui ´e ifien :
F(gh)=∆
H,G(h)F(g)(g∈G, h ∈H).
Gagi su ce espace pa ansla ion `a gauche. On sai ([5]) que, `a
un scalai e mul iplica i p `es, il exis e une e une seule o me lin´eai e
posi i e G-in a ian e su K(G, H). On la no e νG,H e on l’´ec i sous la
o me d’une in ´eg ale:
νG,H(F)=G/H
F(g)dν(g).
Si ∆H=∆
Gsu H,νG,H (c’es pa exemple le cas quand Hes un
sous-g oupe no mal de G) es une mesu e G-in a ian e su l’espace ho-
mog`ene G/H.
On no e K(σ, h,G) l’espace des onc ions Fcon inues su G`a aleu s
dans Hσe qui ´e ifien :
F(gh)=∆
1/2
H,G(h)σ(h)−1F(g)(g∈G, h ∈H)
e don le suppo es compac modulo H.SiFappa ien `a K(σ, h,G),
la onc ion g→ ||F(g)||2
σappa ien `a K(G, H) e l’on pose:
F2=G/H
||F(g)||2
σdν(g).
La ep ´esen a ion indui e τ(σ) = IndG
Hσde Gse ´ealise pa ansla ion
`a gauche dans l’espace de Hilbe Hτ(σ) compl´e ´edeK(σ, h,G,|| · ||)
muni de la no me d´efinie ci-dessus.
Soi M( ,g) l’ensemble des ´el´emen s de S( ,g) de dimension max-
imale e I( ,g) le sous-ensemble de S( ,g) o m´e des sous-alg`eb es h
elles que τ( ) soi i ´educ ible. Alo s il es bien connu qu’un ´el´emen h
de S( ,g) es dans I( ,g) si e seulemen si h ´e ifie la condi ion de
Pukanszky, `a sa oi que H· = +h⊥,h⊥d´esignan l’o hogonal de h
dans g; on di a dans ce cas que hes une pola isa ion de Pukanszky.
Ce e de ni`e e condi ion es aie pou ou ´el´emen de M( ,g) lo sque
Ges nilpo en .
Rep ´
esen a ions Mix es des G oupes Exponen iels 183
Lo sque hne ´e ifie pas la condi ion de Pukanszky, alo s la ep ´esen a-
ion τ( ) n’es plus i ´educ ible. On la d´ecompose en une in ´eg ale
hilbe ienne de ep ´esen a ions uni ai es i ´educ ibles. C’es le sous-
espace affine Γ =Γ
τ( )= +h⊥qui po e la mesu e de d´esin ´eg a ion
de τ( ). No ons ˆ
Gle dual uni ai e de G, soi Θ: g→ˆ
Gl’applica ion de
Ki illo -Be na , le dual uni ai e de G,ˆ
Ges pa am´e ´e pa l’espace des
o bi es coadjoin es g/G au moyen de la bijec ion indui e ¯
Θ: g/G →ˆ
G
(c . [5]). Pou π∈ˆ
Gon no e ΩG
π=Θ
−1(π) l’o bi e associ´ee. Soi
q:g→he p:g→ales p ojec ions canoniques de he a. Il exis e
su la sous- a i´e ´e q−1(ΩH
σ)degune mesu e ˜µbien d´e e min´ee pa la
mesu e canonique su ΩH
σe pa la mesu e de Lebesgue su l’o hogonal
de hdans g. On p end une mesu e finie su g´equi alen e `a˜µqu’on
no e aussi ˜µ. Nous p enons l’image µde ˜µpa l’applica ion de Ki illo -
Be na .
D’ap `es H. Fujiwa a (c . [8]), la ep ´esen a ion τ(σ) sa is ai la o mule
o bi ale du spec e; `a sa oi que:
τ(σ)≃⊕
G·q−1(ΩH
σ)/G
nσ
φπφdνσ
G,H(φ),(3)
o`uνσ
G,H es l’image pa l’applica ion q−1(ΩH
σ)→G·q−1(ΩH
σ)/G de la
mesu e na u elle su q−1(ΩH
σ)⊂ge nσ
φes le nomb e des H-o bi es
con enues dans q−1(ΩH
σ)∩G·φ( oi aussi [2], [7]e [14]).
Ga dons nos hypo h`eses, G= exp(g) un g oupe de Lie ´esoluble ex-
ponen iel, H= exp(h)e A= exp(a) deux sous-g oupes de G. Con-
sid´e ons main enan une ep ´esen a ion uni ai e e i ´educ ible πassoci´ee
`a une o bi e coadjoin e Ωπ=Ω
G
π⊂gd’une o me lin´eai e . Soi π|A
la es ic ion de π`a Ae µπune mesu e finie su Ωπ´equi alen e `a
la mesu e G-in a ian e. Alo s d’ap `es H. Fujiwa a (c . [9]), la es ic-
ion π|Asa is ai la o mule o bi ale du spec e, c’es `a di e:
π|A=⊕
p(Ωπ)/A
nψ
πσψdµπ
G,A(ψ)(4)
o`unψ
π= #[(Ωπ∩p−1(A·ψ))]/A e µπ
G,A es la mesu e image de la mesu e
canonique su Ωπpa l’applica ion Ωπ−→ p(Ωπ)/A ( oi aussi [3]
e [13]).

184 A. Baklou i, A. Gho bel, H. Ham ouni
2.1. Rep ´esen a ions mix es.
D´efini ion 2.1. Soi Gun g oupe de Lie, He Adeux sous-g oupes de
Ge σune ep ´esen a ion de H. On appelle ep ´esen a ion mix e ou de
ype mix e la ep ´esen a ion
ρ(G, H, A, σ) = IndG
Hσ|A.(5)
Lo squ’on emplace la ep ´esen a ion uni ai e σde Hpa un ca ac `e e
uni ai e χ , la ep ´esen a ion se a ou simplemen no ´ee pa ρ(G,H,A, ).
Alo s, il es clai que ρ(G, H, G, σ)=τ(σ)e ρ(G, G, A, σ)=σ|A.
D’au e pa , si le p odui AH es un sous-g oupe e m´edeG, alo s
le h´eo `eme du sous-g oupe de Mackey nous pe me d’affi me que
ρ(AH,H,A,σ)≃ρ(A, A ∩H, A, σ|A∩H)≃IndA
A∩H(σ|A∩H).
Si Ges ´esoluble exponen iel e si σes une ep ´esen a ion uni ai e
i ´educ ible de H, alo s σes une ep ´esen a ion monomiale, c’es `a
di e indui e d’un ca ac `e e uni ai e. No ons σ≃IndH
Bχlo`ul∈g,
B= exp(b)e b∈I(l|h,h). Alo s il es imm´edia que
ρ(G, H, A, σ)≃ρ(G, B, A, l).(6)
Ainsi l’´e ude de la ep ´esen a ion mix e (5) quand σ∈ˆ
Hpou a ˆe e
effec u´ee su des ep ´esen a ions mix es de ype ρ(G, H, A, ). C’es
ce qu’on ou e d’ailleu s dans beaucoup de ´e ´e ences. Dans ce ex e,
ce ains de nos ´esul a s se on exp im´es pou des ep ´esen a ions de ype
mix e d’o d e g´en´e al comme dans (5). La ela ion (6) s’a `e e pa ois
´es u ile pou ans ´e e ce ains ´esul a s ´e ablis su des ep ´esen a ions
mix es de ype ρ(G, H, A, )`a des ep ´esen a ions mix es g´en´e ales.
Quand A=H, la ep ´esen a ion ρ(G, H, H, σ) se a no ´ee ou sim-
plemen ρ(G, H, σ).
3. D´esin ´eg a ion des ep ´esen a ions mix es
Dans ce e sec ion, nous allons ´ec i e la d´esin ´eg a ion de la ep ´esen-
a ion ρ(G, H, A, σ) ou en donnan une desc ip ion explici e de l’espace
de d´esin ´eg a ion, des mesu es e des mul iplici ´es des ep ´esen a ions
uni ai es i ´educ ibles qui appa aissen dans ce e d´ecomposi ion. Le
´esul a p incipal de ce e sec ion es :
Rep ´
esen a ions Mix es des G oupes Exponen iels 185
Th´eo `eme 3.1. Soi Gun g oupe de Lie ´esoluble exponen iel, He A
deux sous-g oupes e m´es connexes de Ge σune ep ´esen a ion uni ai e
e i ´educ ible de H. Alo s la ep ´esen a ion mix e ρ(G, H, A, σ)sa is ai
la o mule o bi ale du spec e `a sa oi :
ρ(G, H, A, σ)=⊕
[p(G·q−1(ΩH
σ))]/A
mσ(ψ)ρψdµσ
G,H,A(ψ),
o`uµσ
G,H,A es la mesu e image de (dg טµ)su G×q−1(ΩH
σ)au moyen
des applica ions
G×q−1(ΩH
σ)→G·q−1(ΩH
σ)→pG·q−1(ΩH
σ)→pG·q−1(ΩH
σ)/A
e
mσ(ψ)= 
Ω∈[G·q−1(ΩH
σ)∩G·p−1(ψ)]/G
nσ
Ωnψ
Ω
(7)
o`unσ
Ω= #[(Ω ∩q−1(ΩH
σ))]/H e nψ
Ω= #[(Ω ∩p−1(A·ψ))]/A.
Rema que. Quand Ges nilpo en , Aes ab´elien e σ=1
H,ila´e ´e
p ou ´e dans [12,Th´eo `eme 3.1] que la ep ´esen a ion ρ(G, H, A)d´efinie
pa la ela ion (1) sa is ai la o mule o bi ale du spec e, `a sa oi
ρ(G, H, A)=⊕
p(G·h⊥)
nψχψdψ e nψ=
Ω∈[G·h⊥∩G·p−1(ψ)]/G
nσ
Ωnψ
Ω.
P eu e du Th´eo `eme 3.1: La p eu e de ce h´eo `eme epose su les d´esin-
´eg a ions de l’indui e uni ai e τ(σ) e des es ic ions πφ|A,o`uπφes
la ep ´esen a ion lie´e`a la o me lin´eai e φ∈q−1(ΩH
σ). D’ap ´es la o -
mule (3) nous a ons
τ(σ)=⊕
G·q−1(ΩH
σ)/G
nσ
φπφdνσ
G,H(φ).
Ilen ´esul e:
ρ(G, H, A, σ)=⊕
G·q−1(ΩH
σ)/G
nσ
φπφdνσ
G,H(φ)|A
=⊕
G·q−1(ΩH
σ)/G
nσ
φπφ|Adνσ
G,H(φ).
D’au e pa nous a ons d’ap `es la o mule (4):
πφ|A=⊕
p(G·φ)/A
nψ
φγψdµπφ
G,A(ψ).
186 A. Baklou i, A. Gho bel, H. Ham ouni
Ainsi:
ρ(G, H, A, σ)=⊕
G·q−1(ΩH
σ)/G
nσ
φ⊕
p(G·φ)/A
nψ
φγψdµπφ
G,A(ψ)dνσ
G,H(φ)
=⊕
G·q−1(ΩH
σ)/G ⊕
p(G·φ)/A
nσ
φnψ
φγψdµπφ
G,A(ψ)dνσ
G,H(φ)
=⊕
S
m(ψ,φ)γψdµπφ
G,A(ψ)⊗dνσ
G,H(φ)
(8)
o`uS=
G·φ∈[G·q−1(ΩH
σ)]/G
p(G·φ)/A.
Rema quons ou d’abo d que la p ojec ion pes Ad∗(A)-´equi a ian e
c-`a-d p◦Ad∗(a)=Ad
∗(a)◦p. Comme G·q−1(ΩH
σ) es G-in a ian ,
p(G·q−1(ΩH
σ)) es A-in a ian . Ainsi
S=[p(G·q−1(ΩH
σ))]/A.(9)
No ons ˜µσ
G,H,A la mesu e su p(G·q−1(ΩH
σ)) ob enue pa image de
(dg טµ) su G×q−1(ΩH
σ) au moyen des applica ions G×q−1(ΩH
σ)→
G·q−1(ΩH
σ)→p(G·q−1(ΩH
σ)). Qui e `a anspo e la mesu e ˜µσ
G,H,A
su p(G·q−1(ΩH
σ)) pa l’applica ion p(G·q−1(ΩH
σ)) →p(G·q−1(ΩH
σ))/A,
nous ob enons la mesu e µσ
G,H,A su [p(G·q−1(ΩH
σ))]/A d´ec i e dans le
h´eo `eme. D’au e pa d’ap ´es les o mules (3), (4) la mesu e νσ
G,H es
l’image de (dg טµ) pa l’ applica ion G×q−1(ΩH
σ)→G·q−1(ΩH
σ)e
pou G·φ∈(G·q−1(ΩH
σ))/G la mesu e µπφ
G,A es l’image de la mesu e
canonique su G·φpa l’applica ion G·φ→p(G·φ)/A. Comme la
classe de la mesu e canonique su l’o bi e G·φes l’image de la mesu e
de Haa dg pa l’applica ion G→G·φ, alo s µπφ
G,A es l’image de dg pa
l’applica ion G→G·φ→p(G·φ)/A. Ainsi moyennan l’´egali ´e (9) on
peu oi que, lo sque G·φ a ie dans (G·q−1(ΩH
σ))/G, le p odui en-
so iel des mesu es µπφ
G,A e νσ
G,H nous donne ´egalemen la mesu e µσ
G,H,A
su [p(G·q−1(ΩH
σ))]/A. Tou es ces ema ques e la o mule (8) nous
pe me en d’affi me que
ρ(G, H, A, σ)=⊕
p(G·q−1(ΩH
σ))/A
m(ψ)ρψdµσ
G,H,A(ψ)
pou ce aine onc ion mul iplici ´es m(ψ) que nous allons p ou e qu’elle
coincide a ec la onc ion donn´ee dans (7). Pou ψ∈a,onpose
Mψ(σ)=φ∈G·q−1(ΩH
σ); G·φ encon e p−1{A·ψ}.
Rep ´
esen a ions Mix es des G oupes Exponen iels 187
Comme p−1{A·ψ}=A·p−1{ψ}, il es clai que Mψ(σ) es G-in a ian
e que Mψ(σ)=G·q−1(ΩH
σ)∩G·p−1(ψ). Ainsi l’ensemble Mψ(σ)ne
d´epend que de l’o bi e A·ψ.
On d´edui alo s la onc ion mul iplici ´es
m(ψ)= 
G·φ∈[Mψ(σ)]/G
nσ
G·φnψ
G·φ=
Ω∈[Mψ(σ)]/G
nσ
Ωnψ
Ω.
D’ap ´es la d´efini ion de la onc ion de mul iplici ´es nψ
Ω, on peu oi
que la onc ion mes cons an e su chaque A-o bi e. Ainsi on d´edui la
o mule de d´esin `eg a ion d´ec i e dans le h´eo `eme.
Comme ´esul a imm´edia du Th´eo `eme 3.1, nous d´eduisons la d´esin ´e-
g a ion cen ale en ep ´esen a ions uni ai es i ´educ ibles de la ep ´esen-
a ion mix e ρ(G, H, A, σ). Soi Mψ(σ), l’ou e dense de Mψ(σ) o m´e
pa les ´el´emen s don la G-o bi e es de dimension maximale. Quand
σ=χ , on no e Mψ(σ)=Mψe Mψ(σ)=Mψ.
Co ollai e 3.2. Soi Gun g oupe de Lie ´esoluble exponen iel, He A
deux sous-g oupes e m´es connexes de Ge σune ep ´esen a ion uni ai e
e i ´educ ible de H. Soi βla mesu e image de la mesu e µσ
G,H,A su
[p(G·q−1(ΩH
σ))]/A pa l’applica ion de Ki illo -Be na KA:a/A →ˆ
A.
Alo s
ρ(G, H, A, σ)≃⊕
ˆ
A
m(γ)γdβ(γ).(10)
Une ep ´esen a ion γ=γψ,ψ∈ain e ien dans la d´ecomposi ion (10)
si e seulemen si ψ∈p(G·q−1(ΩH
σ)). Les mul iplici ´es m(γψ)de
ρ(G, H, A, σ)qui son donn´ees comme dans (7) son finies β-p esque
pa ou si e seulemen si τ(σ),πφ|Ason `a mul iplici ´es finies pou
p esque ou φ∈q−1(ΩH
σ)e [Mψ(σ)]/G es `a ca dinal fini pou p esque
ou ψ∈p(G·q−1(ΩH
σ)).
4. Mul iplici ´es des ep ´esen a ions mix es
Soi Wune a i´e ´e, on di qu’une p op i´e ´e {Pw,w∈W}es aie
g´en´e iquemen su W, si elle es aie en ou poin de Wsau su un
ensemble n´egligeable ela i emen `a une classe de mesu e donn´ee su W.
Nous supposons oujou s que Ges un g oupe de Lie ´esoluble ex-
ponen iel, He Ason deux sous-g oupes e m´es connexes de G. Il es
bien connu que lo sque Ges compl`e emen ´esoluble, les mul iplici ´es
des ep ´esen a ions τ(σ) pou σ∈ˆ
He π|Ason uni o m´emen infinies
194 A. Baklou i, A. Gho bel, H. Ham ouni
D’au e pa , nous a ons:
πx|A≃⊕
R
ρx,y dy
o`uρx,y es la ep ´esen a ion dans ˆ
Aassoci´ee `a l’o bi e A·(xe
1+ye
2).
D’o`u
τ|A≃⊕
R2
π◦
x,y dx dy.
D’au e pa le sous-g oupe Aes de codimension 2 = 1
2dG, mais l’hypo-
h`ese AdG([a,a]) ⊂h∩ke du Co ollai e 4.5 n’es pas ´e ifi´ee alo s que
m(ψ) = 1 pou ou ψg´en´e ique dans p(G·Γτ).
5. Cas des sous-g oupes in a ian s
Dans ou e ce e sec ion, nous supposons que Ges un g oupe de Lie
´esoluble exponen iel; He Ason deux sous-g oupes e m´es connexes,
no maux de G. Pou ψ∈a∗, soi Bψ=Γ
∩G·p−1(ψ), alo s il es clai
que Bψes un ensemble analy ique (i.e. ensemble des z´e os communs
d’une amille finie de onc ions analy iques) e que Mψ=G·B
ψ.
Comme dans la sec ion p ´ec´eden e on pose dHla dimension maximale
des H-o bi es dans G·Γ e dAla dimension maximale des A-o bi es
dans G·Γ e soi d
Ala dimension maximale des A-o bi es dans p(G·Γ ).
Con o m´emen au cas nilpo en , g´en´e iquemen su Γ , les dimensions
des G-o bi es, H-o bi es, A-o bi es dans G·Γ son maximales ainsi que
la dimension des A-o bi es dans p(G·Γ ).
Soien φ∈Γ ,g∈Ge ψ=p(g·φ)∈p(G·Γ ). No ons
k=(a∩h)φ=(a∩h) ={X∈g: [X,a∩h]=0},
e
K= exp(k)={g∈G:g·φ|a∩h=φ|a∩h}.
Soien les sous-espaces wde g,ude ae de h elle que
g=w⊕(a+h),h= ⊕(a∩h),e a=u⊕(a∩h).
Nous allons commence pa p ou e le lemme sui an :
Lemme 5.1.
Bψ=˜
φ+p(K·φ)+(a+h)⊥,
o`u˜
φes la o me lin´eai e su gd´efinie pa ˜
φ= su e ˜
φ=0ailleu s.
En pa iculie , les ensembles Bψe Mψson connexes.

Rep ´
esen a ions Mix es des G oupes Exponen iels 195
P eu e: Soi ψ=p(g·φ)∈p(G·Γ ) pou un ce ain g∈Ge φ∈Γ .
Rema quons ou d’abo d que Bψ=(φ+h⊥)∩G·(φ+a⊥)=∅.Un
´el´emen lde g∗es dans Bψsi e seulemen si ls’´ec i sous la o me l=
φ+α=k·φ+βpou ce aines o mes lin´eai es α∈h⊥,β∈a⊥e
un ´el´emen k∈G. Comme k·φ=φsu h∩a, alo s k∈K. Ainsi
α=k·φ−φsu ae β=φ−k·φsu h. Posons Fl’applica ion:
K×(a+h)⊥→g∗d´efinie pa (k,ϕ)→ k·φ+β(k)+ϕ, a ec β(k)∈a⊥
e es d´efinie pa β(k)= −k· su e β(k) = 0 su w. alo s Bψes
con enu dans l’image de K×(a+h)⊥pa l’applica ion F. In e semen
soi lun ´el´emen de ce e image; l=k·φ+β(k)+ϕ. Alo s on peu
´ec i e lsous la o me l= +αa ec α∈h⊥d´efini pa α=k·φsu ue
α=ϕ+k·φ− su w; e donc les un ´el´emen de +h⊥.Demˆeme,
nous oyons que l=k·φ+γa ec γ∈a⊥d´efini pa γ=β(k) su e
γ=ϕsu we donc les un ´el´emen de G·φ+a⊥. Ceci nous condui
au ai que Bψes l’image de K×(a+h)⊥pa F.
Ainsi on peu oi que Bψ=˜
φ+p(K·φ)+(a+h)⊥, ou en consi-
d´e an les ´el´emen s de p(K·φ) comme des ´el´emen s de g∗pa ex ension
i iale.
Nous sommes p ˆe s main enan `a p ou e le ´esul a p incipal de ce e
sec ion.
Th´eo `eme 5.2. Soien Gun g oupe de Lie ´esoluble exponen iel; H
e Adeux sous-g oupes e m´es connexes, no maux de Ge χ un ca -
ac `e e uni ai e de H. Alo s les mul iplici ´es de la ep ´esen a ion mix e
ρ(G, H, A, )son uni o m´emen infinies ou uni o m´emen ´egales `a un.
Une condi ion n´ecessai e e suffisan e pou que ρ(G, H, A, )soi sans
mul iplici ´es es que pou p esque ou ψ∈p(G·Γ )nous ayons dim Bψ=
dH=dA−1
2d
A.
P eu e: Con o m´emen `a la o mule (7), nous oyons que m(ψ)=1ou
+∞. En effe , si m(ψ)<∞, alo s #[Mψ]/G<∞e pou ou e Ω
g´en´e ique dans G·Γ ,nΩ=nψ
Ω= 1. Posons donc Mψ=
m

i=1
G·φi,
o`u les G·φison des o bi es g´en´e iques. Ce qui donne que Bψ=
m

i=1
G·φi∩Γ =
m

i=1
H·φi=Bψca pou ou e o me lin´eai e φ∈Γ ,
dim H·φ= dim H· . Nous a ons H·φi=φi+adh·φi=φi+adh· ,
pa sui e H·φies un e m´e e ou e de Bψqui es connexe. Ainsi
m=1e Bψ=H·φpou un ce ain φdans Γ , ce qui donne que
196 A. Baklou i, A. Gho bel, H. Ham ouni
Mψ=G·φe m(ψ) = 1. P ou ons main enan que:
m(ψ)=1 ⇐⇒ dim Bψ= dim H·φ= dim A·φ−1
2dim A·ψ.(14)
En effe , supposons d’abo d que m(ψ) = 1. Dans ce cas, nous a ons
Mψ=Mψ=G·φ,nG·φ=1e nψ
G·φ= 1. Ainsi, Bψ=H·φe donc
dim Bψ= dim H·φ= dim A·φ−1
2dim A·p(φ). R´ecip oquemen , si
dim Bψ= dim H·φ, alo s H·φes un ou e de la a ie ´e Bψ, qui es
connexe. Vu que H·φes un e m´e, nous a ons Bψ=H·φ. Aussi
Mψ=G·φe Bψ=Mψ∩Γ =Γ
∩G·φ=H·φ. Ceci nous condui
au ai que nG·φ= 1, ainsi dim G·φ=2H·φe le ai que dim H·φ=
dim A·φ−1
2dim A·ψnous pe me de d´edui e que nψ
G·φ= 1. Ceci e mine
la p eu e de (14). Main enan , ema quons que dim Bψ= dim p(K·φ)+
dim(a+h)⊥= dim K·p(φ)+dim(a+h)⊥qui es g´en´e iquemen cons an
su Γ . Ainsi les mul iplici ´es de ρ(G, H, A, ) son uni o m´emen un ou
l’infinie.
Co ollai e 5.3 (Alignemen au cas nilpo en ).Les hypo h`eses son ce-
lles du h´eo `eme p ´ec´eden . Alo s la ep ´esen a ion ρ(G, H, A, )es
sans mul iplici ´es si e seulemen si pou p esque ou ψ∈p(G·Γ ),
Mψes une a i´e ´e don la dimension ´e ifie
dim Mψ=2dH=2dA−d
A.
P eu e: Supposons que Mψes une a i´e ´e don la dimension ´e ifie
dim Mψ=2dH=2dA−d
A. Posons Mψ=∪i∈IG·φi. Alo s pou ou
i∈I; dim G·φi≤dim Mψ= 2 dim H·φi≤dim G·φi. Ainsi dim Mψ=
dim G·φie donc ou e o bi e es un ou e e pa sui e un e m´edeMψ
qui es connexe, on en d´edui que Ia un seul ´el´emen e que Mψ=G·φ
e donc dim G·φ= 2 dim H·φ. Finalemen Bψ=G·φ∩Γ =H·φ, d’o`u
dim Bψ= dim H·φ. L’hypo h`ese dim H·φ=dA−1
2d
Ae le Th´eo `eme 5.2
nous pe me en de d´edui e que la ep ´esen a ion ρ(G, H, A, ) es sans
mul iplici ´es.
R´ecip oquemen si les mul iplici ´es de ρ(G, H, A, ) son uni o m´e-
men finies, alo s pou p esque ou ψ∈p(G·Γ ), m(ψ) = 1. Dans ce
cas Mψ=G·φqui es une a i´e ´ea ecφes un ´el´emen g´en´e ique dans
Γ ´e ifian ψ=p(g·φ). Aussi nψ
G·φ=nG·φ= 1 e donc dim Mψ=
dim G·φ=2dH=2dA−d
A.
Co ollai e 5.4. Soien Gun g oupe de Lie ´esoluble exponen iel; H
e Adeux sous-g oupes e m´es connexes, no maux de Ge χ un ca -
ac `e e uni ai e de H. Supposons que [a,a]⊂h∩ke e dim g/a=1
2dG.
Si τes `a mul iplici ´es finies, alo s ρ(G, H, A, )es sans mul iplici ´es.
Rep ´
esen a ions Mix es des G oupes Exponen iels 197
P eu e: Les hypo h`eses nous conduisen au ai que aes une pola i-
sa ion commune `a ous les ´el´emen s don la dimension de la G-o bi e
es maximale de Γ . Les Th´eo `emes 3.6 e 5.2, nous pe me en de
conclu e.
Nous allons main enan ´e udie le cas pa iculie o`u A=H.
P oposi ion 5.5. Soi Gun g oupe de Lie ´esoluble exponen iel, Hun
sous-g oupe e m´e connexe, no mal de Ge χ un ca ac `e e de H. Alo s:
ρ(G, H, )≃m( ,h)⊕
p(G· )
χψdµπ
G,H(ψ)≃m( ,h)π |H,
o`um( ,h)=1ou l’infini selon que h∈M( ,g)ou non.
P eu e: Soi
K=H ={g∈G:g·( |h)= |h}.
L’espace de la ep ´esen a ion ρ=ρ(G, H, ) es L2(G/H, ). Pou ξ∈
L2(G/H, ), nous a ons
ρ(h)ξ(g)=χg· (h)ξ(g)∀h∈H, ∀g∈G,
e
L2(G/H, )=L2(G/K)⊗L2(K/H, )≃⊕
Ω
L2(K/H, ϕ)dµ
G,H(ϕ),
o`uΩ=G· |h=G/K. Ainsi, si H=K, alo s Hes une pola isa ion
de Pukanszky en e ρ≃⊕
Ωχϕdµ
G,H(ϕ)≃π |H.SiH=K, alo s
ρ≃⊕
Ω∞χϕdµ
G,H(ϕ)≃∞π |H.
Exemples 5.6. Soi Gun g oupe de Lie ´esoluble exponen iel d’alg`eb e
de Lie g. On sai que (IndG
{e}1) es la ep ´esen a ion ´eguli`e e gauche λG
qui se ´ealise su L2(G) pa λG(g)ξ(x)=ξ(g−1x) pou ou g,x ∈Ge
ξ∈L2(G). Ici =0e H={e}. Donc hn’es pas une pola isa ion en
,e ρ(G, {e},0) = λG|{e}≃∞·1.
P enons main enan Hun sous-g oupe no mal de codimension 1 dans
G el que hsoi subo donn´ee `a e p:g→hla p ojec ion canonique.
No ons g=h⊕RX.Sig( )⊆h, alo s hes une pola isa ion en e
on a ρ(G, H, )≃⊕
Rχp(exp X· )d .Sig( )⊂ h, dans ce cas hn’es pas
une pola isa ion en e on a ρ(G, H, )≃∞χp( ).
Soi enfin Gle g oupe de Boidol, son alg`eb e de Lie ges engend ´ee pa
les ec eu s A,X,Y,Z els que [A, X]=X;[A, Y ]=−Y;[X, Y ]=Z.
P enons α=αZ;α=0. SiH= exp(RZ), alo s hn’es pas une
pola isa ion en α, ainsi m( ,h)=+∞e ρ(G, H, α)≃∞χαZ.
198 A. Baklou i, A. Gho bel, H. Ham ouni
Si H= exp(RZ⊕RX) alo s hn’es pas une pola isa ion en aussi
ca hn’es pas maximale e m( ,h)=+∞. On ob ien ρ(G, H, α)≃
⊕
R∞χ(αZ+βX)dβ.
Reme ciemen s. Nous eme cions i emen le P o esseu R. L. Lips-
man pou nous a oi en oye ses a icles su le suje . Nous eme cions
aussi le e e ee pou les modifica ions qu’il les a sugg´e ´ees e pou a oi
p opose des p eu es plus simples pou le Lemme 5.1 e la P oposi-
ion 5.5.
R´e ´e ences
[1] A. Baklou i, Nou elle d´esin ´eg a ion lisse de L2(G) pou les
g oupes ´esolubles exponen iels, J. Lie Theo y 8(1) (1998), 25–50.
[2] A. Baklou i e J. Ludwig,D´esin ´eg a ion des ep ´esen a ions
monomiales des g oupes de Lie nilpo en s, J. Lie Theo y 9(1)
(1999), 157–191.
[3] A. Baklou i e J. Ludwig, En elacemen des es ic ions des
ep ´esen a ions uni ai es des g oupes de Lie nilpo en s, Ann. Ins .
Fou ie (G enoble) 51(2) (2001), 395–429.
[4] R. Benede i e J.-J. Risle ,“Real algeb aic and semi-algeb aic
se s. Ac uali ´es Ma h´ema iques”, He mann, Pa is, 1990.
[5] P. Be na , N. Conze, M. Du lo, M. L´
e y-Nahas, M. Ra¨
ıs,
P. Renoua d e M. Ve gne,“Rep ´esen a ions des g oupes
de Lie ´esolubles”, Monog aphies de la Soci´e ´e Ma h´ema ique de
F ance 4, Dunod, Pa is, 1972.
[6] J. Bochnak, M. Cos e e M.-F. Roy,“G´eom´e ie alg´eb ique
´eelle”, E gebnisse de Ma hema ik und ih e G enzgebie e (3) 12,
Sp inge -Ve lag, Be lin, 1987.
[7] L. Co win, F. P. G eenlea e G. G ´
elaud, Di ec in e-
g al decomposi ions and mul iplici ies o induced ep esen a ions
o nilpo en Lie g oups, T ans. Ame . Ma h. Soc. 304(2) (1987),
549–583.
[8] H. Fujiwa a, Rep ´esen a ions monomiales des g oupes de Lie
´esolubles exponen iels, in: “The o bi me hod in ep esen a ion
heo y” (Copenhagen, 1988), P og . Ma h. 82, Bi kh¨ause Bos on,
Bos on, MA, 1990, pp. 61–84.
[9] H. Fujiwa a, Su les es ic ions des ep ´esen a ions uni ai es
des g oupes de Lie ´esolubles exponen iels, In en . Ma h. 104(3)
(1991), 647–654.
[10] H. Fujiwa a, Rep ´esen a ions monomiales des g oupes de Lie
nilpo en s, Pacific J. Ma h. 127(2) (1987), 329–352.
Rep ´
esen a ions Mix es des G oupes Exponen iels 199
[11] A. A. Ki illo , Uni a y ep esen a ions o nilpo en Lie g oups,
(Russian), Uspehi Ma . Nauk 17(4) (1962), 57–110.
[12] R. L. Lipsman, The up-down o mula o nil-homogeneous spaces,
Ann. Ma . Pu a Appl. (4) 166 (1994), 291–300.
[13] R. L. Lipsman, Res ic ing ep esen a ions o comple ely sol able
Lie g oups, Canad. J. Ma h. 42(5) (1990), 790–824.
[14] R. L. Lipsman, Induced ep esen a ions o comple ely sol able Lie
g oups, Ann. Scuola No m. Sup. Pisa Cl. Sci. (4) 17(1) (1990),
127–164.
[15] R. L. Lipsman, The mul iplici y unc ion on exponen ial and com-
ple ely sol able homogeneous spaces, Geom. Dedica a 39(2) (1991),
155–161.
[16] J. Ludwig, Dual opology o diamond g oups, J. Reine angew.
Ma h. 467 (1995), 67–87.
[17] G. W. Mackey,“The heo y o uni a y g oup ep esen a ions”,
Chicago Lec u es in Ma hema ics, Uni e si y o Chicago P ess,
Chicago, Ill.-London, 1976.
[18] A. Ta ski,“A decision me hod o elemen a y algeb a and geom-
e y”, 2nd ed., Uni e si y o Cali o nia P ess, Be keley and Los
Angeles, Cali ., 1951.
D´epa emen de Ma h´ema iques
Facul ´e des Sciences de S ax
Rou e de Souk a
3038 S ax
Tunisie
E-mail add ess:[email p o ec ed]
E-mail add ess:[email p o ec ed]
E-mail add ess:[email p o ec ed]
P ime a e si´o ebuda el 20 d’ab il de 2001,
da e a e si´o ebuda el 29 de no emb e de 2001.