Enveloppe galoisienne d'une application rationnelle de P1

Publ. Mat. 50 (2006), 191–202 ENVELOPPE GALOISIENNE D’UNE APPLICATION RATIONNELLE DE P1 Guy Casale Abstract Galoisian envelope of a rational map. In 2001, B. Malgrange defines the D-envelope or galoisian envelope of an analytical dynamical system. Roughly speaking, this is the algebraic hull of the dynamical system. In this short article, the D-envelope of a rational map R:P1→P1is computed. The rational maps characterised by a finitness property of their D-envelope appear to be the integrable ones. Introduction Dans [M1] et [M2] B. Malgrange d´efinit la D-enveloppe, ou enveloppe galoisienne, de divers syst`emes dynamiques analytiques (feuilletage, champ de vecteurs, transformation rationnelle. . .) sur une vari´et´e analytique complexe lisse. Heuristiquement, il s’agit du syst`eme maximal d’´equations aux d´eriv´ees partielles portant sur les diff´eomorphismes locaux de cette vari´et´e v´erifiant les deux conditions suivantes : – les solutions locales de ce syst`eme sont stables par inversion et composition, – le syst`eme dynamique est solution (infinit´esimale) de ce syst`eme. Dans le cas des feuilletages, cet objet est fortement li´e `a l’existence d’int´egrales premi`eres d’un type de transcendance particulier (voir [C2]). Dans le cas des ´equations diff´erentielles lin´eaires, la D-enveloppe redonne le groupe de Galois diff´erentiel d’une extension de Picard-Vessiot [M1], voir aussi [C2]. Dans cet article nous donnons la liste des transformations rationnelles de P1ayant une D-enveloppe non triviale, c’est-`a-dire d´efinie par au moins une ´equation non nulle. 2000 Mathematics Subject Classification. 37F10, 53C10. Key words. Holomorphic dynamic, Lie D-groupoid. 192 G. Casale Th´eor`eme principal. Les seules applications rationnelles de P1dans P1 ayant une D-enveloppe non triviale sont, `a conjugaison par une homographie pr`es, les monˆomes, les polynˆomes de Tch´ebitchev et les exemples de Latt`es. La construction de ces applications sera rappel´ee dans la premi`ere partie et les d´efinitions de D-groupo¨ıde de Lie et D-enveloppe, dans la deuxi`eme. Nous constatons que cette liste est celle des applications rationnelles admettant un commutant non trivial [R], [F], [J], [E]. Par analogie avec l’int´egrabilit´e des syst`emes hamiltoniens, les applications rationnelles ayant un commutant non trivial sont appel´ees “int´egrables” [V]. D’autre part, dans le contexte de cet article l’appellation “int´egrable” est justifi´ee par le fait que plus la D-enveloppe est petite moins la dynamique est “transcendante”. 1. Quelques rappels de dynamique holomorphe [B-M] Soit R:P1→P1un application rationnelle de la droite projective. Au voisinage d’un point pfixe (R(p) = p), r´epulsif (|R′(p)|>1), cette application est lin´earisable. Th´eor`eme 1 (de lin´earisation de Kœnigs).Soit f: (C,0) →(C,0) telle que |f′(0)|>1. Il existe une unique application Ψ: (C,0) →(C,0) telle que Ψ′(0) = 1 et Ψ−1◦f◦Ψ(w) = f′(0)w. On appelle Ψla lin´earisante de Kœnigs en p. L’ensemble de Julia de Rest l’ensemble JRdes points au voisinage desquels la famille {R◦n}n∈Nn’est pas normale. Les points fixes r´epulsifs des fractions R◦nappartiennent `a cet ensemble. Plus pr´ecisement, on a le th´eor`eme suivant. Th´eor`eme 2. Pour toute fraction rationnelle Rde degr´e au moins deux, les points fixes r´epulsifs des it´er´ees R◦nsont denses dans JR. Soit pun point fixe r´epulsif. La lin´earisante de Kœnigs s’´etend par les formules R◦n◦Ψ(w) = Ψ((R′(p))nw). L’image de ce prolongement est ´egal `a P1−Eo`u Eest l’ensemble exceptionnel, c’est-`a-dire, l’ensemble de points qdont les pr´eimages R−n({q}) n’accumulent pas l’ensemble de Julia de R. Lorsqu’il est non vide, cet ensemble est r´eduit `a un ou deux points. L’application Ψ d´efinie un Enveloppe d’une Application Rationnelle 193 revˆetement ramifi´e de P1−Epar Cqui “semi-conjugue” R`a sa partie lin´eaire en p: R◦Ψ = Ψ(R′(p)w). Nous allons maintenant donner des exemples d’applications rationnelles particuli`eres. La construction de ceux-ci se fait `a partir de leurs lin´earisantes. Les monˆomes. Consid´erons l’application exponentielle exp: C→P1− {0,∞} et sur Cla transformation w7→ kw, o`u kest un entier. On construit une application rationnelle Mksur P1en posant Mk(exp w) = exp(kw). Cette application est ´evidemment l’application monomiale xk mais son caract`ere rationnel peut se montrer a priori en utilisant les formules d’additions de la fonction exponentielle. L’ensemble JMkest le cercle unit´e. Le point “1” est un point fixe r´epulsif dont la lin´earisante de Kœnigs se prolonge en l’application exponentielle. Les polynˆomes de Tchebitchev. Consid´erons cette fois l’application cosinus cos: C→P1− {∞}. Des formules d’additions satisfaites par cette application, on peut d´eduire l’existence de polynˆomes Tkv´erifiant Tk(cos w) = cos(kw). L’ensemble JTkest le segment [−1,1].Le point “1” est un point fixe r´epulsif dont la lin´earisante de Kœnigs se prolonge en l’application cosinus. Les exemples de Latt`es. Soit ℘:C→P1la fonction de Weierstrass associ´ee `a un r´eseau Λ. Cette fonction satisfait aussi des formules d’additions. Celles-ci permettent de montrer qu’il existe des fractions rationnelles Lksatisfaisant Lk(℘w) = ℘(kw). Plus g´en´eralement on appelle exemple de Latt`es toute application rationnelle Ltelle qu’il existe un tore complexe C/Λ, une isog´enie de ce tore Iλet une fonction elliptique p:C/Λ→P1tels que p◦Iλ=L◦p. L’ensemble JLest P1car tous les points sont “expansifs”. Le th´eor`eme suivant dˆu `a Fatou [F], Julia [J], Ritt [R] et Er¨emenko [E] (voir aussi [D-S]) donne une caract´erisation de ces applications rationnelles. Th´eor`eme 3. Soient R1et R2deux fractions sur P1v´erifiant R1◦R2=R2◦R1 et R◦n1 16=R◦n2 2pour tout entier n1et n2. 194 G. Casale Alors on est dans un des cas suivants : –R1et R2sont des monˆomes `a multiplication par une racine de l’unit´e pr`es, –R1et R2sont des polynˆomes de Tch´ebitchev au signe pr`es, –R1et R2sont des exemples de Latt`es. 2. Quelques rappels sur la notion de D-groupo¨ıde de Lie sur P1 Pour une introduction aux notions de D-groupo¨ıde de Lie et D-alg`ebre de Lie, le lecteur pourra consulter [M2] et pour plus de d´etails [M1]. 2.1. Structure differentielle et alg´ebrique de J∗(P1). Nous noterons J∗ k(P1) l’espace des jets d’ordre kde germes d’applications inversibles de P1dans P1. Si on choisit deux cartes (U, x) et (V, y) de P1, un jet d’ordre ks’´ecrit (x, y, y1,...,yk) avec y16= 0. L’anneau O(U×V)[y1, y−1 1,...,yk] est l’anneau des ´equations diff´erentielles d’ordre ksur les jets d’applications inversibles de Udans V. On munit ainsi P1×P1d’un faisceau d’anneaux OJ∗ k(P1). Les inclusions naturelles OJ∗ k(P1)⊂ OJ∗ k+1(P1)permettent de d´efinir OJ∗(P1)= lim →OJ∗ k(P1)le faisceau d’anneaux des ´equations diff´erentielles portant sur les applications inversibles de P1dans P1. Ces anneaux sont munis d’une d´erivation D:OJ∗ k(P1)→ OJ∗ k+1(P1)d´efinie en coordonn´ees locales par : D(E) = ∂E ∂x +∂E ∂y y1+···+∂E ∂yk yk+1. Un syst`eme d’´equations diff´erentielles sur les applications inversibles de P1dans P1est un faisceau d’id´eaux Ide OJ∗(P1)coh´erent (i.e. les Ik=I ∩ OJ∗ k(P1)sont coh´erents) diff´erentiels (i.e. stable par D) et r´eduits. L’espace J∗ k(P1) est muni d’une structure de groupo¨ıde donn´ee par : – les deux projections s,t, sur P1, – une composition c:J∗ k(P1)×P1J∗ k(P1)→J∗ k(P1) d´efinie sur les couples de jets (h, g) tels que t(h) = s(g) par les formules habituelles : c((x, y, y1,...),(y, z, z1,...)) = (x, z, z1y1,...), – une identit´e e:P1→J∗ k(P1) donn´ee par e(x) = (x, x, 1,0...), – une inversion i:J∗ k(P1)→J∗ k(P1) d´efinie par i(x, y, y1...) = (y, x, y−1 1...), Enveloppe d’une Application Rationnelle 195 le tout v´erifiant certains diagrammes commutatifs que nous ne rappellerons pas [Mck]. Toutes ces fl`eches sont compatibles aux faisceaux d’anneaux construits pr´ec´edemment dans le sens o`u elles induisent des fl`eches s∗,t∗,e∗,i∗et c∗entres les anneaux OP1,OJ∗ k(P1)et OJ∗ k(P1)⊗OP1 OJ∗ k(P1)compatibles aux injections OJ∗ k(P1)⊂ OJ∗ k+1(P1). 2.2. D-groupo¨ıde de Lie. Les d´efinitions suivantes sont issues de [M1]. D´efinition 4. Un groupo¨ıde d’ordre ksur P1est donn´e par un faisceau d’id´eaux coh´erent Ikde OJ∗ k(P1)tel que : (1) Ik⊂Ker(e∗), (2) i∗Ik⊂ Ik, (3) c∗Ik⊂ Ik⊗OP11 + 1 ⊗OP1Ik(la somme ´etant prise comme somme d’id´eaux). Cette d´efinition est naturelle mais en pratique trop restrictive pour l’utilisation que nous avons en vue. Une ´equation diff´erentielle sur P1 admettant des singularit´es, l’inclusion (3) n’est pas forcement v´erifi´ee au voisinage de ces points. Il faut alors utiliser la d´efinition plus souple suivante. D´efinition 5. Un D-groupo¨ıde de Lie sur P1est donn´e par un faisceau d’id´eaux Ide OJ∗(P1)tel que –Ik=I ∩ OJ∗ k(P1)soient coh´erents, –Isoit stable par d´erivation, – il existe un entier ket un ensemble analytique ferm´e Zdans P1 tels que (i) pour tout ℓ≥k,Iℓv´erifie (1) et (2) de la D´efinition 4, (ii) sur tout voisinage de (x, y, z)∈(P1−Z)×(P1−Z)×(P1−Z), on a (3). L’exemple le plus simple est celui donn´e par l’´equation S(y) = 2y3 y1− 3y2 y12= 0. La formule classique sur la d´eriv´ee schwartzienne : S(c((x, y, . . . ),(y,z,...))) = S(y,z,...)(y1)2+S(x, y, . . . ) donne les inclusions voulues. Ici l’ensemble Zest vide. N´eanmoins le Th´eor`eme 7 ci-dessous donne des exemples o`u cet ensemble est non vide. Lorsque Ine contient pas d’´equation d’ordre z´ero, le D-groupo¨ıde de Lie est dit transitif. 196 G. Casale 2.3. D-enveloppe d’une application rationnelle. D´efinition 6. Soit R:P1→P1une application rationnelle. Sa D-enveloppe est le plus petit des D-groupo¨ıdes de Lie dont Rest solution. Lorsque l’id´eal de ce D-groupo¨ıde n’est pas (0), nous dirons que la D-enveloppe est non triviale. L’existence d’un plus petit D-groupo¨ıde de Lie parmi une famille de D-groupo¨ıdes de Lie est prouv´ee en toute g´en´eralit´e dans [M1]. 3. Les D-groupo¨ıdes de Lie sur P1 Le th´eor`eme suivant [C1] donne la forme des ´equations engendrant l’id´eal d’un D-groupo¨ıde de Lie au-dessus d’un disque ∆. Pour un id´eal I de OJ∗(P1), nous noterons encore Il’id´eal qu’il engendre dans le faisceau des ´equations diff´erentielles m´eromorphes “en xet en y” c’est-`a-dire dans MP1⊗(OP1,s∗)OJ∗(P1)⊗(OP1,t∗)MP1. Th´eor`eme 7. Soit Il’id´eal d’un D-groupo¨ıde de Lie au-dessus d’un disque ∆. Il est diff´erentiablement engendr´e par une seule ´equation m´eromorphe d’ordre inf´erieur ou ´egal `a trois d’une des quatres formes suivantes : (0) quitte `a se placer sur un disque plus petit ∆′⊂∆, h(y)−h(x)avec hholomorphe sur ∆′, (1) η(y)(y1)n−η(x) = 0 avec nentier et ηm´eromorphe sur ∆, (2) µ(y)y1+y2 y1−µ(x) = 0 avec µm´eromorphe, (3) ν(y)(y1)2+ 2y3 y1−3y2 y12−ν(x) = 0 avec νm´eromorphe, (∞) 0 = 0. Les D-groupo¨ıdes de Lie correspondants seront respectivement not´e G0(h),Gn 1(η),G2(µ),G3(ν)et G∞. Lorsqu’on effectue un changement de coordonn´ee, ces ´equations sont soumis aux transformations suivantes. Proposition 8. Soient ∆1et ∆2deux ouverts de P1et ϕ: ∆1→∆2une application non constante. Notons xiune coordonn´ee sur ∆i. L’application ϕdonne naturellement une application m´eromorphe ϕ∗:J∗ k(∆1)→ J∗ k(∆2). L’image r´eciproque par ϕd’un D-groupo¨ıde de Lie sur ∆2est Enveloppe d’une Application Rationnelle 197 un D-groupo¨ıde de Lie sur ∆2. Il est donn´e par l’une des ´equations suivantes : ϕ∗G0(h) = G0(h◦ϕ) ϕ∗Gn 1(η) = Gn 1(η◦ϕ(ϕ′)n) ϕ∗G2(µ) = G2(µ◦ϕϕ′+ϕ′′ ϕ′) ϕ∗G3(ν) = G3(ν◦ϕ(ϕ′)2+S(ϕ)) o`u S(ϕ)est la d´eriv´ee Schwartzienne de ϕpar rapport `a la coordonn´ee x1. Nous allons nous int´eresser aux ´equations d’un D-groupo¨ıde de Lie sur P1. Le r´esultat suivant est un corollaire du Th´eor`eme 7. Proposition 9. Soit Il’id´eal d’un D-groupo¨ıde de Lie transitif au dessus de P1. Il est diff´erentiablement engendr´e par une des ´equations suivantes : (1) η(y)(y1)n−η(x) = 0 avec nentier, (2) µ(y)y1+y2 y1−µ(x) = 0, (3) ν(y)(y1)2+ 2y3 y1−3y2 y12−ν(x) = 0, (∞) 0 = 0, avec η,µet νrationnelles. Preuve: Montrons cette proposition dans le cas (3), les autres cas se montre de la mˆeme mani`ere. Sur chaque “disque” U=P1− {∞} (de coordonn´ee x) et V=P1− {0}(de coordonn´ee x=1 x), l’id´eal d’un D-groupo¨ıde de Lie d’ordre trois est engendr´e par une ´equation de type (3) : G3(ν) sur Uet G3(ν) sur V. D’apr`es la Proposition 8, ces deux ´equations sont reli´ees par l’identit´e : ν(1 x)1 x4=ν(x). Ceci prouve la rationnalit´e de ν. Remarquons qu’on peut ´etablir une preuve de la Proposition 9 `a partir du fait qu’un D-groupo¨ıde de Lie transitif est le groupo¨ıde d’invariance d’une structure g´eom´etrique et que celle-ci soit compl`etement d´etermin´ee par le groupe d’isotropie d’un point. Dans le cas non-singulier, nous renvoyons le lecteur `a [K] et pour l’adaptation au cas rationnel `a [C2]. 4. Preuve du th´eor`eme principal Remarquons d’abord que la D-enveloppe d’une homographie est non triviale. En effet, dans ce cas, Rest solution de G3(0) d’´equation S(y)=0. Nous supposerons donc que Rn’est pas une homographie. Dans un premier temps, nous allons supposer que Rest solution d’une ´equation diff´erentielle G2(µ) et ´etablir le lemme suivant. 198 G. Casale Lemme 10. Une transformation rationnelle Rde P1est solution d’un D-groupo¨ıde de Lie G2(µ)si et seulement si il existe un groupe discret G de transformations affines de Cet une dilatation z7→ λz tels que, si π:C→C/G ⊂P1est le quotient, R◦π(z) = π(λz). Preuve: Quitte `a remplacer Rpar R◦n, nous pouvons trouver un point p∈P1en dehors des pˆoles de µ, fixe et r´epulsif. Les solution de G2(µ) ´etant stables par composition, R◦nest encore une solution. Le th´eor`eme de Kœnigs nous permet alors de construire une lin´earisante locale holomorphe que nous ´etendons `a C: Ψ: C→P1−Ev´erifiant Ψ(λz) = R◦Ψ et Ψ′(0) = 1. D’apr`es la Proposition 8, l’image r´eciproque par Ψ du D-groupo¨ıde de Lie G2(µ) est le D-groupo¨ıde de Lie au-dessus de C:G2(µ) o`u µ= (µ◦Ψ)Ψ′+Ψ′′ Ψ′. La fraction R´etant solution de G2(µ), l’homoth´etie z→λz est solution de G2(µ) d’o`u µ(λz)λ=µ(z). Comme |λ|>1, l’´egalit´e ci-dessus implique l’existence d’une constante c telle que µ(z) = c z. Ayant suppos´e µ(p) fini et Ψ′(0) = 1, µ(0) doit ˆetre fini ce qui force µ`a ˆetre nul. L’image r´eciproque de G2(µ) est donc le D-groupo¨ıde de Lie G2(0), d’´equation y2 y1= 0, dont les solutions sont les applications affines de C. Consid´erons deux point pet qde Cqui ne sont pas des points critiques de Ψ tels que Ψ(p) = Ψ(q). Il existe une application locale γ: (C, p)→(C, q) v´erifiant Ψ◦γ= Ψ. Par construction de µ, cette application γlaisse le D-groupo¨ıde de Lie G2(µ) invariant. La Proposition 8 nous assure que γest solution de G2(µ) donc est une application affine. Le groupe G={γ|Ψ◦γ= Ψ}est un groupe d’applications affines qui agit transitivement sur les fibres de Ψ. Ces fibres ´etant discr`etes, ce groupe est discret. Nous avons une condition n´ecessaire pour que la D-enveloppe de R soit de la forme G2(µ). Montrons que cette condition est aussi suffisante. Consid´erons Ψ: C→P1une lin´earisante de Kœnigs de Ret G2(0) le groupo¨ıde des transformations affines de C. Localement, on peut ramener par une d´etermination de Ψ−1le D-groupo¨ıde de Lie G2(0) en un D-groupo¨ıde de Lie au-dessus d’un ouvert de P1. D’apr`es la Proposition 8, ce D-groupo¨ıde de Lie est G2((Ψ−1)′′ (Ψ−1)′) et Ren est une solution (lorsque cela `a un sens). Enveloppe d’une Application Rationnelle 199 Il nous suffit de v´erifier que l’´equation de ce groupo¨ıde est en fait rationnelle, c’est-`a-dire, pour tous les groupes Gque l’on peut rencontrer, v´erifier que (Ψ−1)′′ (Ψ−1)′est rationnelle. Consid´erons le r´eseau Λ = {b|(z7→ z+b)∈G}. On obtient une factorisation de Ψ : C→C/Λ→P1. La derni`ere application induite par Ψ est une fonction m´eromorphe sur C/Λ invariante sous l’action de G/Λ. En utilisant la liste des sousgroupes discrets d’applications affines, on obtient la liste suivante d’applications : (1) Λ = {0}et Gest un groupe fini de rotation : Ψ(z) = zk,Rest une homoth´etie et µ= 0. (2) Λ = Zet G= Λ : Ψ(z) = exp(2iπz), Rest un monˆome et µ(z) = −1 z. (3) Λ = Zet G/Λ = {+1,−1}: Ψ(z) = cos(2iπz), Rest un polynˆome Tch´ebitchev et µ(z) = −z z2−4. (4) Λ = Z+Zτ(ℑτ > 0) et G/Λ = {+1,−1}: Ψ(z) = ℘(z) (℘est la fonction de Weierstrass associ´ee au r´eseau Λ et solution de (℘′)2= 4℘3+g2℘+g3pour des constantes g2et g3 d´efinies par Λ), Rest un exemple de Latt`es et µ(z) = −6z2+g2/2 4z3+g2z+g3. (5) Λ = Z+Ziet G/Λ = {+1, i, −1,−i}: dans ce cas g3= 0, Ψ(z) = ℘(z)2et µ(z) = −1 4z−6z+g2/2 8z2+2g2z. (6) Λ = Z+Zjet G/Λ = {+1, j, j2}: dans ce cas g2= 0, Ψ(z) = ℘′(z) et µ(z) = −2 3 z z2−g3). (7) Λ = Z+Zjet G/Λ = {+1, j, j2,−j, −j2,−1}: dans ce cas g2= 0, Ψ(z) = ℘(z)3et µ(z) = −2 9z−1 z+g3/2. Un it´er´e de Rest de la forme voulue. On conclut que Rest aussi de cette forme en remarquant que comme Rest solution de G2(µ), toutes les d´eterminations de Ψ ◦R◦Ψ−1sont affines. Lemme 11. Aucune transformation rationnelle de P1n’a de D-enveloppe de type (3). Preuve: Supposons que Rsoit solution d’un D-groupo¨ıde de Lie G3(ν). En proc´edant comme pr´ec´edemment, on obtient une lin´earisante locale Ψ par le th´eor`eme de Kœnigs que l’on prolonge en un revˆetement C→P1. L’homoth´etie z→λz ´etant solution de l’image r´eciproque de G3(ν) par Ψ: G3(ν). On a l’´egalit´e : ν(λz)λ2=ν(z),