Auto-applications holomorphes propres des domaines polynomiaux rigides de C2

Publicacions Matem`atiques, Vol 40 (1996), 41–66. AUTO-APPLICATIONS HOLOMORPHES PROPRES DES DOMAINES POLYNOMIAUX RIGIDES DE C2 Abdelaziz Chaouech Abstract We show that proper holomorphic self maps of pseudoconvex rigid polynomial domains in C2are automorphisms. 0. Introduction Les seuls exemples connus d’applications holomorphes propres d’un domaine born´e`a bord r´egulier de Cn(n>1) sur lui-mˆeme sont des automorphismes. Ce ph´enom`ene constraste avec la situation unidimensionnelle et l’on pr´esume son caract`ere g´en´eral. Les domaines strictement pseudoconvexes v´erifient cette conjecture: H. Alexander [1] a trait´ele cas de la boule euclidienne et S. Pinchuk [13], celui des domaines arbitraires `a bord de classe C2. De fa¸con plus g´en´erale, K. Diederich et J. E. Fornaess ont mis en ´evidence le principe suivant: le lieu de branchement d’une application holomorphe propre d’un domaine pseudoconvexe born´e sur un autre est vide d`es que l’ensemble des points de faible pseudoconvexit´e de la fronti`ere du domaine source est assez petit (cf. [10, Th´eor`eme 3]). Cependant, ce principe ne permet pas de traiter le cas des domaines faiblement pseudoconvexes dans sa g´en´eralit´e. A ce jour, seuls quelques cas ont ´et´e abord´es. Ainsi, E. Bedford et S. Bell [2]ont consid´er´e le cas des domaines pseudoconvexes born´es `a bords analytiques r´eels et Y. Pan [12] celui des domaines de Reinhardt de type fini (voir aussi [9]o`u la preuve de Y. Pan est simplifi´ee et [8]o`u F. Berteloot et S. Pinchuk classifient les applications holomorphes propres entre domaines de Reinhardt complets de C2). L’objet de cet article est d’´etendre ce type de r´esultats `a une classe de domaines faiblement pseudoconvexes non born´es. Notre principal r´esultat est le suivant: 42 A. Chaouech Th´eor`eme 1. Soit P(z,z)un polynˆome sous-harmonique sans terme harmonique. Soit Ωun domaine de C2d´efini par Ω=:{(w,z)∈C2: Re w+P(z,z)<0}. Alors toute application holomorphe propre de Ωsur lui-mˆeme est un automorphisme. Le principe de base de la d´emonstration est analogue `a celui utilis´e par Y. Pan. Nous exploitons simultan´ement la finitude du type de la fronti`ere et l’existence d’un groupe `a un param`etre d’automorphismes du domaine afindepr´eciser la structure du lieu de branchement de l’application. Cependant, comme les domaines que nous consid´erons sont non born´es et pr´esentent moins de sym´etries que les domaines de Reinhardt, de nouvelles difficult´es surgissent. En particulier, il est impossible d’´etablir directement que le lieu de branchement poss`ede au plus un nombre fini de composantes connexes. Ainsi, apr`es avoir montr´e que le lieu de branchement est contenu dans une r´eunion d´enombrable de droites complexes (partie 1), nous sommes amen´es `a analyser certains biholomorphismes locaux induits par l’application (partie 2), puis certaines applications holomorphes propres entre domaines rigides distincts (partie 3). Nous pouvons ensuite montrer que —g´en´eriquement— l’application est conjugu´ee par des automorphismes de C2`a une application de la forme (w,h(z)) o`u hest une fonction enti`ere. Nous en d´eduisons que le nombre de composantes connexes du lieu de branchement est en fait major´e par le degr´e du polynˆome P(partie 4). Pour mener `a bien cette derni`ere partie de la d´emonstration, nous ´etablisons le r´esultat suivant: Th´eor`eme 2. Soient Ω1et Ω2deux domaines de la forme Ωj= {(w,z)∈C2:Rew+Pj(z,z)<0}o`uP1et P2sont des polynˆomes sous-harmoniques sans terme harmonique. Soit f:Ω 1→Ω2une application holomorphe propre telle que: 1) f=(f1,f 2)se prolonge en un biholomorphisme local d’un voisinage de l’origine de C2sur un autre. 2) f2(w,0) ≡0et f1(0,0) = 0. L’un des trois cas suivants est alors satisfait: i) f1(w,z)=Γw;(Γ >0) et f2(w,z)=f2(z). ii) f1(w,z)=Γw;(Γ >0) et P2(z,z)=P2(|z|,|z|). iii) f1(w,z)= Γw 1+iλw ;(Γ >0,λ∈R∗)et P2(z,z)=M|z|2mavec M>0,m∈N∗. Dans la suite de cet article, Pd´esignera l’ensemble des polynˆomes sousharmoniques sans terme harmonique sur C. Auto-applications holomorphes propres 43 1. La structure du lieu de branchement L’objet de cette partie est d’´etablir la proposition suivante o`u l’on d´ecrit le lieu de branchement des applications holomorphes propres du type de celles consid´er´ees dans cet article. Proposition 1.1. Soient Ω1et Ω2deux domaines de C2de la forme: Ωj={(w,z)∈C2:Rew+Pj(z,z)<0}o`uP1et P2appartiennent `a P. Pour toute application holomorphe propre de Ω1sur Ω2, il existe une suite (zn)nde nombres complexes telle que: Vf=∪n∈N{(w,zn):Rew<−P1(zn, zn)}. La d´emonstration de cette proposition repose essentiellement sur les deux lemmes ´enonc´es ci-dessous. Le premier pr´ecise la structure locale de Vf∩bΩ1. Le second exhibe des fonctions p.s.h. n´egatives de Ω1et Ω2qui permettront de d´eduire la structure de Vfde celle que Vf∩bΩ1. Lemme 1.2. Soit f:Ω 1→Ω2une application holomorphe propre satisfaisant les hypoth`eses de la Proposition 1.1 et soit (w0,z 0)un point de bΩ1. Si l’on a (w0,z 0)∈Vf∩bΩ1et lim (w,z)→(w0,z0)[|f1(w,z)|+|f2(w,z)|]<+∞ alors l’ensemble {(w,z0)tel que Re w<−P1(z0, z0)}est contenu dans Vf. Lemme 1.3. Soit Ω=:{(w,z)∈C2:Rew+P(z,z)<0}o`u P∈P. Alors il existe une fonction p.s.h. σ:Ω→]−∞,0[, telle que lim (|w|+|z|)→+∞σ(w,z)=−∞. De plus, pour toute suite de nombres complexes (zn)n≤1, tout a/∈{zn;n>1}et tout (wa,a)∈Ω, la fonction σ peut ˆetre assujettie `a satisfaire les conditions suivantes: 1) σ(wa,a)=−∞. 2) ∀n≥1,∀(wn,z n)∈bΩ,lim (w,z)→(wn,zn)σ(w,z)=−∞. (Dans ce cas la fonction σprend ses valeurs dans [−∞,0[. Preuve de la Proposition 1.1: Supposons Vfnon vide. Soit A={(w0,z 0)∈Vf∩bΩ1: lim (w,z)→(w0,z0)[|f1(w,z)|+|f2(w,z)|]<+∞} 44 A. Chaouech et A2la projection de Asur le plan de la variable z. Le Lemme 1.2 montre que A2est localement fini. En effet, si cela n’´etait pas, l’ensemble analytique Vfcontiendrait une famille de demi-plans de la forme {(w,zp): Re w<−P1(zp, zp)},(zp)´etant convergente modulo extraction. Ces demi-plans s’accumuleraient n´ecessairement sur un demi-plan de la mˆeme forme. On en d´eduirait facilement que Vf=Ω 1ce qui est impossible. Ainsi A2est d´enombrable et nous noterons (zn)n≥1la suite ordonn´ee de ses ´el´ements. Soit Cune composante connexe de Vf. Nous ach`everons la d´emonstration en montrant que Cco¨ıncide avec un demi-plan de la forme {(w,zn): Re w<−P1(zn, zn)}o`uzn∈A2. Pour cela, proc´edons par l’absurde et supposons qu’il existe (wa,a)∈Ctel que a/∈{zn,n≥1}. Soit σ1une fonction p.s.h. et n´egative sur Ω1associ´ee par le Lemme 1.3 `a la suite (zn)n≥1et au point (wa,a). D’apr`es le mˆeme lemme, il existe ´egalement une fonction σ2, p.s.h. n´egative sur Ω2et telle que lim (|w|+|z|)→+∞σ2(w,z)=−∞. Consid´erons alors la fonction ˜σd´efinie par ˜σ=: exp(σ1+σ2◦f). Cette fonction est p.s.h. sur Ω1et prend ses valeurs dans [0,1]. De plus, elle satisfait les propri´et´es suivantes: 1) 0 ≤lim (|w|+|z|)→+∞ (w,z)∈C ˜σ(w,z)≤lim (|w|+|z|)→+∞eσ1(w,z)=0. 2) Si (wn,z n)∈C∩bΩ1et zn∈A2alors on a 0≤lim (w,z)→(wn,zn) (w,z)∈C ˜σ(w,z)≤lim (w,z)→+(wn,zn)eσ1(w,z)=0. 3) Si (w0,z 0)∈C∩bΩ1et z0/∈A2alors par d´efinition de A,ona: lim (w,z)→(w0,z0)[|f1(w,z)|+f2(w, z)] = +∞et donc 0≤lim (w,z)→(w0,z0) (w,z)∈C ˜σ(w,z)≤lim (w,z)→(w0,z0)eσ2◦f(w,z)=0. Il r´esulte des conditions 1), 2) et 3) et du principe du maximum que la restriction de ˜σ`a Cest identiquement nulle. Ceci est absurde puisque, par construction, ˜σ(wa,a)>0. La preuve de la proposition est donc achev´ee. Preuve du Lemme 1.3: Notons 2mle degr´e du polynˆome Pet posons Qzn(z,z)=:P(z+zn, z +zn)−2Re 2m  j=1 1 j! ∂jP ∂zj(zn, zn)zj−P(zn, zn). Auto-applications holomorphes propres 45 L’automorphisme de C2d´efini par Φzn(w,z)=(w,z)o`uw= w−22m j=1 ∂jP ∂zj(zn, zn)zj−P(zn,z n)etz=z+znr´ealise un biholomorphisme du domaine Ωzn=: {(w,z):Rew+Qzn(z,z)<0}sur Ω. Le polynˆome Qzn´etant sous-harmonique et sans terme harmonique, sa partie homog`ene de plus haut degr´e l’est ´egalement, nous la noterons Hzn. Pour ε>0fix´e, on v´erifie sans peine qu’il existe a>0 tel que Hzn(z,z)−Qzn(z,z)<a+ε|z|2mpour tout z∈C. Ainsi Ωznest contenu dans un domaine Dznd´efini par: Dzn=: {(w,z) : Re(w−a)+Hzn(z;z)−ε|z|2m<0}. D’apr`es E. Bedford et J. E. Fornaess ([3, Main Theorem]), il existe une fonction gznholomorphe sur Dznet continue sur Dznsatisfaisant les propri´et´es suivantes: pour (w, z)∈Dznet Nn∈Nassez grand on a i) Bn(|w−a|+|z|2m)≤|gzn(w, z)|Nn≤An(|w−a|+|z|2m)o`uAn et Bnsont des constantes strictement positives. ii) arg gzn(w, z)∈−π 4,π 4. Soit gla fonction ainsi obtenue lorsque zn=0. En posant σ= log  1 K1−αg−1 αg+1 o`uα>0 est assez petit et K>0 est assez grand, on obtient une fonction p.s.h. dans Ω prenant ses valeurs dans ] −∞,0[ et telle que lim (|w|+|z|)→+∞σ(w,z)=−∞. Nous terminons en modifiant la fonction σde fa¸con `a obtenir une fonction p.s.h. n´egative sur Ω prenant la valeur −∞ sur les droites complexes {z=zn}. Posons, `a cet effet, ˜ hzn(w,z)= Bnz2m gNn zn(w,z),ond´efinit ainsi une fonction holomorphe de module strictement inf´erieur `a 1 sur Dzn. La fonction hzn=: ˜ hzn◦Φ−1 znest alors holomorphe au voisinage de Ω et satisfait les propri´et´es suivantes: i) ∀(w,z)∈Ω, |hzn(w,z)|<1. ii) ∀(w,z)∈Ω, on a hzn(w,z) = 0 si et seulement si z=zn. Choisissons une suite λn>0 telle que +∞ n=1 λnlog |hzn(wa,a)|>−∞; alors +∞ n=1 λnlog |hzn(w,z)|d´efinit une fonction p.s.h. n´egative sur Ω et la fonction σ= log  1 K1−αg −1 αg +1 + +∞  n=1 λnlog |hzn| remplit les conditions requises. 46 A. Chaouech Preuve du Lemme 1.2: Soit ((wn,z n))n≥1une suite de points de Ω1qui converge vers un point (w0,z 0)debΩ1. Si lim[|f1(wn,z n)|+ |f2(wn,z n)|]<+∞alors, l’application f´etant propre, la suite (f(wn,z n))n≥1converge vers un point (w 0,z 0)debΩ2apr`es une ´eventuelle extraction. Le bord de Ω2´etant de type fini, un r´esultat de F. Berteloot [6] montre que l’application fse prolonge continˆument `a Ω1sur un voisinage de (w0,z 0). Nous aurons ´egalement besoin de la diff´erentiabilit´e du prolongement de f, celle-ci d´ecoule des r´esultats de [5]. Pour tout p∈bΩj,(j= 1 ou 2), on note τ(p) l’ordre d’annulation du d´eterminant de Levi de bΩjen p. Plus pr´ecis´ement, pour toute fonction ρ,d´efinissante locale de bΩjen p, on pose Λp=−det 0ρzk ρziρzizk et τ(p) est le plus petit entier mpour lequel existe un op´erateur T, tangentiel au bord d’ordre m, tel que TΛρ(p)=0. Ainsi, τsatisfait les propri´et´es suivantes (voir [12, page 291]): 1) τest ind´ependant de la fonction d´efinissante choisie. 2) τest semi-continue sup´erieurement (s.c.s.). 3) τest invariant par biholomorphisme. 4) ∀p∈bΩonaτ(p)≥τ(f(p)) et, en outre, τ(p)=τ(f(p)) si et seulement si p/∈Vf. On remarquera que lorsque Ωjest un domaine d´efini par Ωj={(w,z)∈ C2tel que Re w+Pj(zz)<0}o`uPj∈Palors, pour tout (w, z)∈bΩj, τ(w,z) n’est autre que l’ordre d’annulation du Laplacien de Pjau point z. Nous sommes maintenant en mesure de terminer la preuve du lemme. Il suffit d’´etablir que Jf(w0+it, z0) est identiquement nul au voisinage de t= 0. Si cela n’´etait pas, on trouverait une suite (tn)n∈Ntelle que lim ntn=0etJf(w0+itn,z 0)=0. Pour tout n≥1, on aurait alors τ[f(w0+itn,z 0)] = τ[(w0+itn,z 0)] = τ(w0,z 0)etτ´etant s.c.s., τ(w0,z 0)≤τ(f(w0,z 0)). Comme, par ailleurs, on a τ(f(w0,z 0)) ≤τ(w0,z 0), il en r´esulterait que τ(f(w0,z 0)) = τ(w0,z 0) et donc que Jf(w0,z 0)= 0, ce qui est contraire aux hypoth`eses. 2. ´ Etude de certains biholomorphismes locaux Nous ´etudions ici les biholomorphismes locaux ´echangeant deux germes d’hypersurfaces analytiques r´eelles, rigides et de type finis. Nous supposons en outre que ces biholomorphismes pr´eservent une droite complexe transverse aux hypersurfaces. La proposition suivante r´esume les r´esultats de cette partie. Auto-applications holomorphes propres 47 Proposition 2.1. Soit f=(f1,f 2)un biholomorphisme local d’un voisinage Vde l’origine dans C2sur un autre et tel que f1(0,0) = 0, f2(w,0) ≡0. Soient deux hypersurfaces H1et H2d´efinies par: H1={ρ1(w,z)=:Rew+ϕ(z,z)=0}. H2={ρ2(w,z)=:Rew+Ψ(z,z)=0}. o`uϕet Ψsont des fonctions analytiques r´eelles sous-harmoniques d´efinies au voisinage de l’origine, telles que: ∂kϕ ∂zk(0,0) = 0,∂kΨ ∂zk(0,0) = 0 pour tout k≥0et ∂2Ψ ∂z∂z,∂2ϕ ∂z∂zs’annulent `a un ordre fini en 0. On suppose que f(H1∩V)⊂H2. Alors: a) f1ne d´epend que de w. b) Si, de plus, f1(w)=Γw(Γ >0) alors: f∗i∂ ∂w=iΓ∂ ∂w +B(z)∂ ∂z o`uBest une fonction holomorphe en ztelle que B(0)=0et B(0) = iβ,β∈R. La fonction Best identiquement nulle, si et seulement si B(0) = 0. Preuve de a): Notons uet vles parties r´eelles et imaginaires de la variable w. Soit A(v,z)=:(−ϕ(z)+iv, z) un param´etrage de H1.Le champ de vecteurs Ld´efini par L=: −∂ϕ ∂z ∂ ∂w +1 2 ∂ ∂z est tangent `a H1 et donc L(ρ2◦f)≡0 sur H1∩V. En posant g(w, z)= ∂ ∂w(ρ2◦f)= 1 2 ∂f1 ∂w +∂ ∂w(Ψ ◦f2), on obtient: (1) −∂ϕ ∂z ·(g◦A)+1 21 2 ∂f1 ∂z ◦A+∂Ψ ∂z ◦(f2◦A)·∂f2 ∂z ◦A≡0 au voisinage de v=0,z=0. La d´emonstration consiste `ad´eriver (1) par rapport `a z`a un ordre arbitraire. Comen¸cons par quelques pr´eliminaires. En observant que, d’apr`es la d´efinition de A, l’on a ∂ ∂z(f2◦A)=−∂f2 ∂w ◦A·∂ϕ ∂z et ∂ ∂z(f2◦A)=−∂f2 ∂w ◦A·∂ϕ ∂z +∂f2 ∂z ◦A 48 A. Chaouech on obtient (2) ∂ ∂z ∂jΨ ∂zj◦(f2◦A)=∂j+1Ψ ∂zj+1 ◦(f2◦A)∂f2 ∂z ◦A −∂ϕ ∂z ∂f2 ∂w ◦A·∂j+1Ψ ∂zj+1 ◦(f2◦A)+∂f2 ∂w ◦A∂j+1Ψ ∂z∂zj◦(f2◦A). On montre maintenant par r´ecurrence que (3) ∂k ∂zk∂Ψ ∂z ◦(f2◦A)=∂k+1Ψ ∂zk+1 ◦(f2◦A)∂f2 ∂z ◦Ak + k  j=1 gj∂jΨ ∂zj◦(f2◦A)+hj ∂jϕ ∂zj. Les fonctions gjet hjsont analytiques r´eelles au voisinage de (0,0) mais nous ne cherchons pas `a les expliciter. Pour k= 1, il s’agit de la formule (2) avec j=1etg1≡0. En utilisant (2), on voit imm´ediatement que ∂ ∂z   k  j=1 gj∂jΨ ∂zj◦(f2◦A)+hj ∂jϕ ∂zj  = k+1  j=1 ˜gj∂jΨ ∂zj◦(f2◦A)+˜ hj ∂jϕ ∂zj. Il reste donc `a noter que: ∂ ∂z ∂k+1Ψ ∂zk+1 ◦(f2◦A)∂f2 ∂z ◦Ak =∂ ∂z ∂k+1Ψ ∂zk+1 ◦(f2◦A)∂f2 ∂z ◦Ak +∂k+1Ψ ∂zk+1 ◦(f2◦A)∂ ∂z ∂f2 ∂z ◦Ak. D’autre part, une r´ecurrence imm´ediate donne: (4) ∂k ∂zk∂f1 ∂z ◦A=∂k+1f1 ∂zk+1 ◦A+ k  j=1 ∂jϕ ∂zjlj. Auto-applications holomorphes propres 49 L`a encore, les ljsont des fonctions que nous n’explicitons pas. En utilisant l’hypoth`ese f2(w,0) ≡0, on tire de (3) et (4): ∂k ∂zk∂Ψ ∂z ◦(f2◦A)(iv, 0) ≡0,pour k≥0;(5) ∂k ∂zk∂f1 ∂z ◦A(iv, 0) = ∂k+1f1 ∂zk+1 (iv, 0),pour k≥0;(6) En appliquant ∂k ∂zk`al’´equation (1) et en tenant compte de (5), (6), on trouve alors ∂k+1f1 ∂zk+1 (iv, 0) ≡0 pour k≥0, ce qui ´etablit a). Passons maintenant `a la preuve de b). Preuve de b): Nous utiliserons des champs de vecteurs holomorphes tangents aux hypersurfaces Hj, ce qui d´esignera ici des champs de la forme a(w,z)∂ ∂w +b(w,z)∂ ∂z o`u les fonctions a,bsont holomorphes et dont les parties r´eelles sont des champs tangents au sens usuel. Rappelons que cette classe de champs de vecteurs est stable par image directe par un biholomorphisme ainsi que par crochet de Lie. La proposition suivante, extraite de [4], sera utile `alad´emonstration. Pour la commodit´ede lecteur, nous en donnerons la preuve `a la fin de cette partie. Proposition 2.2. Soit . X=h(w,z)∂ ∂z un champ de vecteur holomorphe tangent `a H2d´efini au voisinage de l’origine et non identiquement nul. Alors la partie homog`ene de plus bas degr´edehen zest ´egale `a iβz (β∈R∗)et celle de Ψ`a M|z|2m, avec M>0et m∈N∗. Notons f(w,z)=:(Γw,f2(w,z)) et consid´erons le champ de vecteur holomorphe tangent `a H2c’est-`a-dire f∗i∂ ∂w=:A(w, z)∂ ∂w +B(w,z)∂ ∂z . On a f∗i∂ ∂wf(w,z)=i∂f1 ∂w ∂ ∂w +i∂f2 ∂w ∂ ∂z d’o`u (7) B(Γw,f2(w,z)) = i∂f2 ∂w (w,z)etA≡iΓ. Puisque Γi∂ ∂w est tangent `a H2,B(w, z)∂ ∂z l’est ´egalement. Supposons Bnon identiquement nul. Alors en appliquant la Proposition 2.2 aux champs B(w,z)∂ ∂z et i∂ ∂w,B(w,z)∂ ∂z =i∂B ∂w ∂ ∂z , on voit que le d´eveloppement de Best de la forme suivante: (8) B(w,z)= iβz + k≥2 b0 kzk +αw  z+ k≥2 b1 kzk  + q≥2 cqwq z+ k≥2 bq kzk , 56 A. Chaouech Or, on a . X,i ∂ ∂w=2 λi Γ(Γ −λiw)∂ ∂w +i∂B ∂w ∂ ∂z et . X,i ∂ ∂w,i ∂ ∂w=2 λ2i Γ ∂ ∂w −∂2B ∂w2 ∂ ∂z. Puisque 2iλ2 Γ ∂ ∂w est tangent `a bΩ2,∂2B ∂w2 ∂ ∂z l’est ´egalement. Comme par hypoth`eses, P2∈˜ P, la Proposition 2.2 montre alors que ∂2B ∂w2≡0. On a ainsi: B(w,z)=A1(z)·w+A0(z)o`uA0et A1sont deux fonctions holomorphes au voisinage de l’origine. Le champ . X´etant holomorphe tangent `a bΩ2,ona: Re( . X(Re w+P2(z,z))) ≡0 pour tout (w,z) tel que Re w+P2(z,z)=0 c’est-`a-dire Re i 2Γ (Γ −iλw)2+(A1(z)·w+A0(z))∂P2 ∂z (z,z)≡0 pour w=−P2(z,z)+iv,(z,v) variant dans un voisinage de (0,0) dans C×R. Cela se traduit par: (1) v−λ2 ΓP2(z,z)+ReiA1(z)·∂P2 ∂z (z,z) −λP2(z,z)+Re(A0(z)−A1(z)P2(z,z))∂P2 ∂z (z,z)≡0 et l’on en d´eduit: (2) −λ2 ΓP2(z,z)+ReiA1(z)·∂P2 ∂z (z,z)≡0 et (3) −λP2(z,z)+Re(A0(z)−A1(z)P2(z,z))∂P2 ∂z (z,z)≡0. D´esignons par H2m(z,z) la partie homog`ene de plus bas degr´e dans P2(z,z). De (2), on tire: Re iA1(0)∂H2m ∂z (z,z)≡0. Ceci, d’apr`es le Lemme 2.3, entraˆıne A1(0) = 0. On peut alors appliquer le Lemme 3.2 `al’´equation (2) et en d´eduire que: (4) A1(z)=−i2λ2 Γ+ima1z·V∗(z) W(z)+mV ∗(z)o`ua1=A 1(0) (on a utilis´e le fait que Re V(0) = 0 puisque P2∈˜ P). Auto-applications holomorphes propres 57 D’autre part, B(f1(w),f 2(w,z)) = i∂f2 ∂w (w,z) donc B(0,0) = 0 puisque f2(w,0) ≡0etf1(0) = 0. On a donc A0(0) = 0. En observant que les termes de la forme |z|2mzpou |z|2mzqdu membre gauche de (3) ne peuvent provenir que de −λP2(z,z)+Re A0(z)∂P2 ∂z (z,z), on peut `a nouveau utiliser le Lemme 3.2 et obtenir (5) A0(z)=(2λ−ma0)zV∗(z) W(z)+mV ∗(z)o`ua0=A 0(0). En d´efinitive f∗i∂ ∂west donn´e par: (6) f∗i∂ ∂w=i Γ(Γ −λiw)2∂ ∂w +(aw +b)zV∗(z) W(z)+mV ∗(z) ∂ ∂z o`uaet bsont des constantes complexes. Nous pouvons donc appliquer le Lemme 3.3 et en d´eduire que zV∗(z) W(z)+mV ∗(z)est un polynˆome holomorphe. Comme V∗et Wont mˆeme degr´e, ce polynˆome est de la forme αz,α∈C. De (4) et (5), on tire alors: (7) A0(z)=a0zet A1(z)=a1z. Pour terminer, nous revenons `a l’identit´e (2). Tenant compte de (7), on a: (8) −λ2 ΓP2(z,z)+Reia1z∂P2 ∂z (z,z)≡0. Posons P2(z,z)=p,q≥1Apqzpzq; en reportant dans (8), on obtient: (9)  p,q≥1 Apq −2λ2 Γ−(p+q)Ima1+i(p−q)Rea1zpzq≡0. Comme λ= 0 par hypoth`ese, on obtient facilement de (9) que P2est homog`ene c’est-`a-dire P2=H2m. Tenant compte de (7), l’identit´e (3) devient alors (10) −λH2m(z,z)+Rez(a0−a1H2m(z,z))∂H2m ∂z (z,z)≡0. On en d´eduit que: (11) −λH2m(z,z)+Rea0z∂H2m ∂z (z,z)≡0 58 A. Chaouech et (12) H2m(z,z)Rea1z∂H2m ∂z (z,z)≡0. D’apr`es le Lemme 2.3, (12) force H2maˆetre ´equilibr´e. Ce qui est absurde. Preuve du Lemme 3.2: On pose A(z)=z(a+S(z)) o`u S(z)= +∞  k=2 akzk−1. En tenant compte des notations adopt´ees, les termes de la forme |z|2mzpou |z|2mzq(p,q≥0) dans (∗) ne peuvent provenir que de: (13) −γ(|z|2mRe V(z))+ReA(z)·∂ ∂z(|z|2mRe V(z)). Par ailleurs, on a: (14) A(z)·∂ ∂z(|z|2mRe V(z)) = |z|2m(a+S)mRe V+1 2W et (15) Re (a+S)mRe V+1 2W =Re a+S+S 2×mV∗+V∗ 2+ReV(0) +1 4(W+W) +iIm a+S−S 2W−W 4. Les termes harmoniques de (15) sont: 2ReS 4(mV ∗+2mRe V(0) + W)+a 4W +m 2(Re a)·V∗+m(Re a)ReV(0) 2=: 2 Re[K(z)]. Donc les termes de la forme |z|2mzpou |z|2mzq(p,q ≥0) dans (13) sont: |z|2mRe[−γV (z)+2K(z)]. Par hypoth`ese, ils sont identiquement nuls, d’o`u: (16) −γV (z)+2K(z)=−γV (0)+2K(0). Auto-applications holomorphes propres 59 En rempla¸cant Kpar son expression et Vpar V∗+V(0) dans (16), on obtient: (17) S 2(mV ∗+2mRe V(0) + W)+a 2W+V∗(mRe a−γ)=0 ou encore: S(z)=−2(mRe a−γ)V∗(z)+aW(z) W(z)+mV ∗(z)+2mRe V(0). Puisque A(z)=z(a+S(z)), on a donc: A(z)=z(2γ−ma)V∗(z)+2ma Re V(0) W(z)+mV ∗(z)+2mRe V(0) o`ua=A(0). Preuve du Lemme 3.3: Supposons que Bait des pˆoles. Soit Sl’ensemble des pˆoles de Bdans Ω2, c’est-`a-dire S=Ω 2∩ (B−1(∞)). Soient z1un ´el´ement de S,w1un nombre complexe tel que (w1,z 1)∈S et, en outre, aw1+b= 0. (Ce dernier choix est toujours possible quitte `a faire une translation en Im w1.) Soit (w0,z 0)unpointfix´e dans U2\f(Vf); puisque Ω\(f(Vf)∪S) est connexe et dense dans Ω2, il existe un chemin continu γ:[0,1] →Ω2tel que: γ(0) = (w0,z 0); γ(1) = (w1,z 1)et∀t∈[0,1[, γ(t)/∈f(Vf)∪S. L’application f´etant holomorphe propre, f:Ω 1\f−1[f(Vf)] → Ω2\f(Vf) est un revˆetement fini, il existe donc ˜γ:[0,1[→Ω1\Vfun rel`evement de γpar fc’est-`a-dire ∀t∈[0,1[, (f◦˜γ)(t)=γ(t). Par hypoth`ese, au voisinage de l’origine le champ de vecteurs holomorphes . X=f∗i∂ ∂west de la forme: . X(w,z)=A(w)∂ ∂w +B(z)(aw +b)∂ ∂z o`uAest une fonction enti`ere et Best une fraction rationnelle. L’existence du rel`evement ˜γpermet de prolonger holomorphiquement f∗i∂ ∂wle long de γ([0,1[) en un champ . ˜ Xtel que ∀t∈[0,1[: . ˜ Xγ(t)=f∗i∂ ∂wγ(t) =i∂f1 ∂w (˜γ(t)) ∂ ∂w +i∂f2 ∂w (˜γ(t)) ∂ ∂z. Par ailleurs, puisque γ([0,1[) ⊂Ω2\S, le champ A(w)∂ ∂w +B(z)(aw + b)∂ ∂z est ´egalement un prolongement de . Xle long de γ([0,1[). Par unicit´e du prolongement, on a donc: (18) ∀t∈[0,1[,i ∂f1 ∂w (˜γ(t)) = A(γ1(t)) et (19) ∀t∈[0,1[: i∂f2 ∂w (˜γ(t)) = B(γ2(t))(aγ1(t)+b)o`uγ=(γ1,γ 2). Comme (aw1+b)=0,ond´eduit imm´ediatement de (19) que |B(z1)|< +∞ce qui est impossible. 60 A. Chaouech 4. Preuve des Th´eor`emes1et2 Preuve du Th´eor`eme 2: On se place dans le cas iii) de la Proposition 3.1. La partie homog`ene de plus bas degr´edeP2est ´egale `a M|z|2m (M>0) et comme le montre un calcul ´el´ementaire celle de P1est aussi ´egale `a M|z|2m(M>0). Notons 2kle degr´e du polynˆome P2et H2k sa partie homog`ene de plus haut degr´e, il nous faut montrer que k=m. Nous utiliserons pour cela la m´ethode de dilatation des coordonn´ees. Consid´erons `a cet effet la suite de points de Ω1:−1 n+i λ,0, la suite de points de Ω2:f−1 n+i λ,0=−iΓ λ−nΓ λ2,0et deux suites de dilatations (Sn)n,et(∆ n)d´efinies par: Sn(w,z)=:nw, zn 1 2m. ∆n(w,z)=:λ2 Γw n,z n1 2k. Soit hl’application holomorphe propre de Ω1sur Ω2donn´ee par: h:Ω 1→Ω2 (w,z)→ fw+i λ,z+Γi λ,0. On d´efinit alors une suite d’applications holomorphes propres (Fn)n de Sn(Ω1) sur ∆n(Ω2) par Fn=∆ n◦h◦S−1 n. On v´erifie sans peine que: 1) Fn(w,z)=1 w,λ2 Γn−1 2kf2w n+i λ,zn −1 2m. 2) Pour tout n:Fn(w,0) = 1 w,0et Fn(−1,0) = (−1,0). 3) Pour tout n, la multiplicit´edeFnest ´egale `a celle de f. 4) Sn(Ω1) converge vers D1=: {(w, z)∈C2:Rew+M|z|2m<0}. 5) ∆n(Ω2) converge vers D2=:{(w,z)∈C2:Rew+Γ λ2k−1 H2k(z,z)< 0}. D’autre part, d’apr`es ([7, Lemme 2.3]) et apr`es une ´eventuelle extraction, la suite (Fn)nconverge uniform´ememnt sur tout compact de D1 vers une application holomorphe: F:D1→D2telle que: a) F(w,z)=1 w,F 2(w,z). b) F2(w,z)≡0. Admettons momentan´ement que pour w,fix´e, F2(w, ·) est surjective finie. Il en va alors de mˆeme pour F. Montrons que Fest propre. Posons: ρ1(w,z)=:Rew+M|z|2m ρ2(w,z)=:Rew+Γ λ2k−1 H2k(z,z). Auto-applications holomorphes propres 61 On a: D1={(w,z)∈C2:ρ1(w,z)<0} D2={(w,z)∈C2:ρ1(w,z)<0} sur D2,ond´efinit la fonction σ(w,z) =: sup F(u,v)=(w,z) ρ1(u, v). Puisque F est surjective et finie σest p.s.h. et strictement n´egative sur D2. Supposons qu’il existe une suite (wn,z n)nde points de D1qui converge vers un point de bD1et telle que (F(wn,z n))nconverge vers un point de D2. Deux cas sont `a distinguer. Commen¸cons par supposer que la limite de (wn,z n) est finie, soit (w0,z 0) cette limite et soit (w1,z 1) la limite de (F(wn,z n))n.Ona:σ(F(wn,z n)) ≥ρ1(wn,z n), et puisque σest (s.c.s.) σ(w1,z 1)≥ρ1(w0,z 0) = 0. Ce qui est absurde puisque σest strictement n´egative. Supposons maintenant que (|wn|+|zn|)→+∞,(wn,z n)n´etant dans D1on a |wn|→+∞et d’apr`es a) F(wn,z n)→(0,z), par hypoth`ese (0,z)∈D2donc il existe N∈N∗tel que pour n≥N:(0,z)∈∆n(Ω2). Comme Fnest propre, il existe (u, v)∈Sn(Ω1) tel que Fn(u, v)=(0,z), d’apr`es 1) ceci est impossible. Nous avons donc montr´e que Fest propre. Etablissons maintenant que m≥k. Soit (wn,0) une suite de points de D1qui converge vers un point (w0,0) de bD1o`uw0= 0. La suite (F(wn,0))nconverge vers le point 1 w0,0de bD2, le bord de D2´etant de type fini, on sait d’apr`es [6] que l’application Fse prolonge continˆument `a D1sur un voisinage de (w0,0), et d’apr`es Bell et Catlin [5]Fse prolonge diff´erentiablement `a D1sur un voisinage de (w0,0). Donc si τ1(respectivement τ2)d´esigne la fonction type de bD1(respectivement de bD2) alors: τ1(w0,0) ≥τ2(F(w0,0)) = τ21 w0 ,0, d’o`u m≥k. Ceci termine la preuve du Th´eor`eme 2. Montrons maintenant que pour wfix´e, F2(w,·) est finie. On v´erifie facilement que: Sn(Ω1)=:{(w, z)∈C2:Rew+M|z|2m+Qn(z,z)<0} et ∆n(Ω2)=:(w, z)∈C2:Rew+Γ λ2k−1 H2k(z,z)+ ˜ Qn(z,z)<0 62 A. Chaouech o`uQn(z,z)et ˜ Qn(z,z) sont des polynˆomes qui convergent uniform´ement sur tout compact de Cvers le polynˆome nul. Soit w∈C∗,unpointfix´e tel que Re w<0. On notera: Ωn,w =: {z∈C:M|z|2m+Qn(z,z)<−Re w}. Dn,w =: z∈C:Γ λ2k−1 H2k(z,z)+ ˜ Qn(z,z)<−Re w |w|2. Ω∞,w =: {z∈C:M|z|2m<−Re w}. D∞,w =: z∈C:Γ λ2k−1 H2k(z,z)<−Re w |w|2. ∆(0,R)=:{z∈C:|z|<R}. Fn=: 1 w;Fn,2la suite d’applications holomorphes propre de Sn(Ω1) sur ∆n(Ω2). Soit R>0 tel que Re w+R2m>0. Pour nassez grand, on a Ωn,w∩{|z|=R}=∅,onend´eduit que la composante connexe de l’origine de Ωn,w est contenue dans {|z|<R}. Notons Ω0 n,w cette composante, il est clair que Ω0 n,w converge vers Ω∞,w. La composante connexe, D0 n,w, de l’origine dans Dn,w con¨ıncide avec Fn(Ω0 n,w). En observant que D∞,w est connexe (´etoil´e par rapport `a l’origine) on v´erifie facilement que D0 n,w converge vers D∞,w. Ainsi la suite d’applications holomorphes propres hn:Ω 0 n,w →D0 n,w z→ Fn,2(w,z) est telle que (modulo extraction) 1) hn(0) = 0, ∀n. 2) hnest de multiplicit´e finie. 3) hnconverge vers F2(w, ·):Ω ∞,w →D∞,w uniform´ement sur tout compact, et il existe R>0 tel que Ω0 n,w ⊂{|z|<R}pour tout n. On en d´eduit par des arguments standards que F2(w,·) est surjective et finie. Preuve du Th´eor`eme 1: Nous supposons Vf=∅et montrons que cela conduit `a une contradiction, nous proc´edons en trois ´etapes. 1`ere ´etape: Il existe deux automorphismes de C2,ϕ1et ϕ2tels que l’application ˜ f=ϕ−1 1◦f◦ϕ2satisfait les hypoth`eses du Th´eor`eme 2. Pour tout z∈C, notons πzle demi-plan {(w,z):w∈C}∩Ω, et d´esignons par fnla ni`eme it´er´ee de f. Comme Vfest suppos´e non vide, Auto-applications holomorphes propres 63 la Proposition 1.1 assure l’existence d’un demi-plan πz0contenu dans Vf. En utilisant l’inclusion f−1(Vfn)⊂Vfn+1 et le fait que, toujours d’apr`es la Proposition 1.1, Vfnest une r´eunion de demi-plan, on construit par r´ecurrence une suite (zn)nde nombres complexe telle que: i) ∀n≥1:πzn⊂Vfn. ii) ∀n≥1:f(πzn+1 )⊂πzn. On observera pour cela que: si (wn+1,z n+1)∈f−1(πzn)∩πzn+1 alors f(πzn+1 )⊂πzn. En effet, dans le cas contraire, wn+1 serait un z´ero isol´e de f2(w,zn+1)−znet (wn+1,z n+1) serait un z´ero isol´edef2(w,z)−zn puisque f−1(πzn) est contenu dans une r´eunion de demi-plan πz. Notons τnla valeur de τsur le bord de πzn.Ilr´esulte de ii) et des propi´et´es de τque la suite (τn)n≥1est croissante. Comme les valeurs de τsont enti`eres et major´ees par le degr´edeP. Il existe n0∈N∗ tel que τn0+1 =τn0. Pour fixer les id´ees, nous supposons que n0=1. Alors f(πz2)⊂πz1et, puisque τ2=τ1,πz2⊂ Vf. Quitte `a composer favec des translations (w,z)→ (w+it0,z), on peut supposer que f induit un diff´eomorphisme local sur bΩ au voisinage de (−P(z2),z 2)et que f(−P(z2),z 2)=(−P(z1),z 1). D´efinissons les automorphismes de C2,ϕ1et ϕ2, par: ϕj(w,z)=(w,z) o`u     w=w−P(zj, zj)−2 2m  i=1 1 i! ∂iP ∂zi(zj, zj)zi. z=z+zj. Ils induisent des automorphismes de Ωjsur Ω o`u Ωj=: {(w,z)∈C2:Rew+Qj(z,z)<0}, Qj(z,z)=P(z+zj, z +zj)−P(zj, zj)−2Re 2m  i=1 ∂iP ∂zi(zj, zj)zi. Par construction, l’application ˜ f=ϕ−1 1◦f◦ϕ2est propre de Ω2sur Ω1, fixe la droite complexe z= 0 et l’origine (0,0). D’apr`es [11], ˜ fse prolonge en un biholomorphisme local au voisinage de (0,0). 2`eme ´etape: Vfest contenu dans une r´eunion d’au plus (2m) = deg P droites complexes. Soit ˜ fl’application fournie par la premi`ere ´etape. D’apr`es le Th´eor`eme 2, deux cas sont `a distinguer. Commen¸cons par supposer que ˜ fest de la forme (Γw, ˜ f2(z)). Alors ˜ f2est une fonction enti`ere telle 64 A. Chaouech que ˜ f2(0) = 0 et ∂˜ f2 ∂z (0) = λ= 0. L’inclusion ˜ f(bΩ2)⊂bΩ1se traduit au voisinage de l’origine par l’identit´e: (20) ΓQ2(z,z)=Q1◦˜ f2(z). D´ecomposons les polynˆomes Q1et Q2sous la forme suivante Qj(z,z)=zkj[hj(z)+zRj(z,z)] o`ukj∈N∗,hjest un polynˆome holomorphe et Rjun polynˆome en z,z. En identifiant les termes de plus bas degr´eenzdans (20), on obtient: (21) Γzk2h2(z)=λk1zk1h1(˜ f2(z)). On d´eduit alors de (21) que k1=k2=: ket (22) Γh2(z)=λkh1◦˜ f2(z). Ceci montre que le nombre de z´eros de ∂˜ f2 ∂z est major´e par le degr´edeh2 et donc par 2m. Il s’ensuit que V˜ fest constitu´e d’au plus 2mdemi-plans de la forme πz.Ilenvademˆeme pour Vf, puisque les automorphismes ϕ1et ϕ2´echangent ce type de demi-plans. Il nous reste `a envisager les cas o`u Q1ne d´epend que de |z|. Consid´erons l’application holomorphe propre de Ω1sur lui-mˆeme d´efinie par g=: ϕ−1 1◦f◦ϕ1. Si (w0,z 0)∈Vg∩bΩ1, alors d’apr`es la Proposition 1.1, on a πz0⊂Vg. Quitte `a composer gavec une translation (w,z)→(w+iy, z), on peut supposer que gse prolonge diff´erentiablement au voisinage de (w0,z 0). Alors pour ε>0 assez petit, on a: (23) {(w0,e itz0),t∈[−ε, ε]}⊂Vg∩bΩ1. En effet, sinon, on trouverait une suite (tn)n∈Ntelle que lim ntn=0et Jg(w0,e itn)=0. Pour tout n≥1: on aurait alors τ[g(w0,e itnz0)] = τ(w0,e itnz0)= τ(w0,z 0)etτ´etant s.c.s., τ(w0,z 0)≤τ(g(w0,z 0)). Comme, par ailleurs, τ(g(w0,z 0)) ≤τ(w0,z 0), il en r´esulterait que τ(g(w0,z 0)) = τ(w0,z 0)et donc que Jg(w0,z 0)= 0, ce qui est contraire aux hypoth`eses. Donc si z0= 0, (23) contredit la Proposition 1.1, donc Vg=π0ou encore Vf=πz1. Auto-applications holomorphes propres 65 3`eme ´etape: Conclusion: D’apr`es la 2`eme ´etape, les lieux de branchement Vfnont au plus 2mcomposantes connexes. Comme Vfn+1 = Vfn∪f−1(Vfn)⊃Vfn, il s’ensuit que la suite (Vfn) est stationnaire. On supposera sans perte de g´en´etalit´e que Vf=Vf2, ce qui signifie que f−1(Vf)⊂Vf. Notons π1,... ,π Nles composantes connexes de Vf. Puisque f−1(πj) est un ensemble analytique dans Ω contenu dans Vfil existe σ(j)∈{1,... ,N}tel que πσ(j)⊂f−1(πj), on voit alors facilement que fiduit une permutation sur {π1,... ,π N}. Alors fN!(π1)⊂π1et donc, d’apr`es la preuve du Lemme 1.2, π1⊂ VfN!. Ainsi Vf=∅et, Ω ´etant simplement connexe, fest un automorphisme. References 1. H. Alexander, Holomorphic mappings from the ball and polydisc, Math. Ann. 209 (1974), 249–256. 2. E. Bedford and S. Bell, Proper self-maps of weakly pseudoconvex domains, Math. Ann. 261 (1982), 47–49. 3. E. Bedford and J. E. Fornaess, A construction of peak functions on weakly pseudoconvex domains, Ann. of Math. 107 (1978), 555–568. 4. E. Bedford and S. Pinchuk, Domains in C2with non compact holomorphic automorphism groups, Math. USSR Sbornik 63 (1989), 141–151. 5. S. Bell and D. Catlin, Regularity of CR mappins, Math. Z. 199 (1988), 357–368. 6. F. Berteloot, A remark on local continuous extension of proper holomorphic mappings, Contemporary Mathematics 137 (1992), 79–83. 7. F. Berteloot, Characterization of models in C2by their automorphism groups, Int. J. Mathematics 5(5) (1994), 619–634. 8. F. Berteloot and S. Pinchuk, Proper holomorphic mappings between bounded complete Reinhardt domains in C2,Math. Z. 219 (1995), 343–356. 9. A. Chaouech, Une remarque sur un r´esultat de Y. Pan, Ann. Fac. Sci. Toulouse 5(1996), 1–4. 10. K. Diederich and J. E. Fornaess, Proper holomorphic images of strictly pseudoconvex domains, Math. Ann. 259 (1982), 279–286. 11. K. Diederich and J. Fornaess, Proper holomorphic mappings between real analytic pseudoconvex domains in Cn,Math. Ann. 382 (1988), 681–700.