Leons de gomtrie riemannienne

Frdric Paulin

Version trs prliminaire

Cours de seconde anne de mastre

Anne 2011-2012 1

Table des matires

Prambule . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1 Groupes de Lie et espaces homognes 1.1 Groupes de Lie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1.2 Algbres de Lie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1.2.1 Gnralits . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1.2.2 Algbre de Lie dun groupe de Lie . . . . . . . . . . . . . . . . . 1.2.3 Reprsentations de sl2 . . . . . . . . . . . . . . . . . . . . . . . . 1.3 Classication des algbres de Lie complexes semi-simples . . . . . . . . . 1.3.1 Systmes de racines . . . . . . . . . . . . . . . . . . . . . . . . . 1.3.2 Base dun systme de racines . . . . . . . . . . . . . . . . . . . . 1.3.3 Classication des systmes de racines . . . . . . . . . . . . . . . . 1.3.4 Idaux dalgbres de Lie . . . . . . . . . . . . . . . . . . . . . . . 1.3.5 Algbres de Lie semi-simple . . . . . . . . . . . . . . . . . . . . . 1.3.6 Sous-algbre de Cartan dune algbre de Lie semi-simple . . . . . 1.3.7 Systme de racines dune algbre de Lie complexe semi-simple . . 1.4 Correspondance entre algbres de Lie et groupes de Lie . . . . . . . . . . 1.4.1 Application exponentielle . . . . . . . . . . . . . . . . . . . . . . 1.4.2 Correspondance entre sous-algbres de Lie et sous-groupes de Lie 1.4.3 Rappels sur les revtements . . . . . . . . . . . . . . . . . . . . . 1.4.4 Revtements de groupes de Lie . . . . . . . . . . . . . . . . . . . 1.4.5 Classication des groupes de Lie par leurs algbres de Lie . . . . 1.5 Espaces homognes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1.5.1 Actions lisses de groupes de Lie . . . . . . . . . . . . . . . . . . . 1.5.2 Espaces homognes quotients . . . . . . . . . . . . . . . . . . . . 1.5.3 Actions transitives de groupes de Lie . . . . . . . . . . . . . . . . 1.5.4 Varits quotients . . . . . . . . . . . . . . . . . . . . . . . . . . 1.5.5 Exemples de varits homognes . . . . . . . . . . . . . . . . . . 1.6 Exercices supplmentaires . . . . . . . . . . . . . . . . . . . . . . . . . . 1.7 Indications pour la rsolution des exercices . . . . . . . . . . . . . . . . . 2 Fibrs et connexions 2.1 Fibrations . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2.2 Fibrs vectoriels . . . . . . . . . . . . . . . . . . . . . . . . . 2.2.1 Dnitions et exemples . . . . . . . . . . . . . . . . . 2.2.2 Sous-brs et brs quotient . . . . . . . . . . . . . . 2.2.3 Oprations sur les brs vectoriels . . . . . . . . . . Rappels dalgbre multilinaire . . . . . . . . . . . . . . Rappels dalgbre symtrique et alterne . . . . . . . . Somme directe de brs vectoriels . . . . . . . . . . . . Fibr vectoriel des applications multilinaires . . . . . . Produit tensoriel de brs vectoriels . . . . . . . . . . . Puissance symtrique et extrieure dun br vectoriel . Fibr vectoriel des formes direntielles sur une varit Formes direntielles valeurs dans un br vectoriel . 2 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5 7 7 14 14 19 24 27 27 30 32 34 36 40 46 50 50 56 60 62 65 72 72 74 77 78 80 85 86 90 90 95 95 99 100 100 102 107 109 110 112 113 115

2.3

2.4 2.5

Image rciproque dun br vectoriel . . . . . . . . . . . . . . . . . . . Produit cartsien de brs vectoriels . . . . . . . . . . . . . . . . . . . . Conjugu dun br vectoriel complexe . . . . . . . . . . . . . . . . . . Complexication dun br vectoriel rel . . . . . . . . . . . . . . . . . 2.2.4 Mtrique euclidienne et hermitienne sur un br vectoriel. . . . . . . Mtriques riemannienne induite sur le br des tenseurs . . . . . . . . . 2.2.5 Classication des brs vectoriels . . . . . . . . . . . . . . . . . . . . Connexions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2.3.1 Lemme de tensorialit et applications : produit extrieur, produit intrieur, drive de Lie, contraction . . . . . . . . . . . . . . . . . . 2.3.2 Drivations covariantes . . . . . . . . . . . . . . . . . . . . . . . . . . 2.3.3 Torsion dune connexion sur une varit . . . . . . . . . . . . . . . . 2.3.4 Courbure dune connexion . . . . . . . . . . . . . . . . . . . . . . . . 2.3.5 Drivation covariante de champs de vecteurs le long de courbes . . . Proprits des connexions images rciproques . . . . . . . . . . . . . . . Transport parallle dune connexion . . . . . . . . . . . . . . . . . . . . Groupes dholonomie dune connexion . . . . . . . . . . . . . . . . . . . Godsiques dune connexion sur une varit . . . . . . . . . . . . . . . Application exponentielle dune connexion sur une varit . . . . . . . . Champs de Jacobi dune connexion sur une varit . . . . . . . . . . . . Exercices supplmentaires . . . . . . . . . . . . . . . . . . . . . . . . . . . . Indications pour la rsolution des exercices . . . . . . . . . . . . . . . . . . .

115 118 118 119 119 120 120 123 124 133 139 141 142 142 146 147 148 148 150 152 152

3 Varits riemanniennes 154 3.1 Varits pseudo-riemanniennes . . . . . . . . . . . . . . . . . . . . . . . . . 154 3.2 Connexion de Levi-Civita . . . . . . . . . . . . . . . . . . . . . . . . . . . . 163 Transport parallle des connexions de Levi-Civita . . . . . . . . . . . . 166 Fonction angle dune varit riemannienne . . . . . . . . . . . . . . . . 167 Calcul en coordonnes locales . . . . . . . . . . . . . . . . . . . . . . . 168 Mtrique pseudo-riemannienne induite sur le br tangent . . . . . . . 170 Champs de Killing . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 170 3.3 Godsiques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 171 3.4 Distance riemannienne . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 176 3.4.1 Calcul des distances et formules trigonomtriques sphriques et hyperboliques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 185 3.5 Compltude . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 189 3.6 Courbure . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 191 3.6.1 Les avatars de la courbure . . . . . . . . . . . . . . . . . . . . . . . . 191 3.6.2 Interprtation gomtrique des champs de Jacobi . . . . . . . . . . . 200 3.6.3 Interprtation mtrique de la courbure . . . . . . . . . . . . . . . . . 203 3.6.4 Varits riemanniennes courbure sectionnelle constante . . . . . . . 204 3.6.5 Varits riemanniennes courbure sectionnelle de signe constant . . 207 3.6.6 Seconde forme fondamentale des sous-varits riemanniennes . . . . 212 Hypersurfaces riemanniennes . . . . . . . . . . . . . . . . . . . . . . . . 217 Courbure moyenne, surfaces minimales et totalement godsiques . . . 219 3.6.7 Espaces CAT() . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 224 3.7 Gomtrie linni des varits de courbure ngative ou nulle . . . . . . . . 234 3

3.8 3.9

3.7.1 Bord linni des espaces CAT(0) . . . . . . . . . 3.7.2 Fonctions de Busemann et horosphres . . . . . . . 3.7.3 Feuilletages stable et instable du ot godsique . . 3.7.4 Structure conforme au bord des espaces CAT(1) 3.7.5 Distance de Tits au bord des espaces CAT(0) . . . Exercices supplmentaires . . . . . . . . . . . . . . . . . . Indications pour la rsolution des exercices . . . . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

234 241 243 244 248 249 250

4 Espaces symtriques et rigidit 253 4.1 Espaces (globalement) symtriques . . . . . . . . . . . . . . . . . . . . . . . 253 4.1.1 Involutions de Cartan . . . . . . . . . . . . . . . . . . . . . . . . . . 255 4.1.2 Dcomposition de de Rham . . . . . . . . . . . . . . . . . . . . . . . 259 4.1.3 Courbure des espaces symtriques . . . . . . . . . . . . . . . . . . . 261 4.1.4 Espaces symtriques de type non compact . . . . . . . . . . . . . . . 263 4.1.5 Espaces localement symtriques . . . . . . . . . . . . . . . . . . . . . 266 4.2 Algbres de Lie semi-simples relles . . . . . . . . . . . . . . . . . . . . . . . 267 4.2.1 Sous-espace de Cartan et systmes de racines restreintes . . . . . . . 267 4.2.2 lments rguliers et chambres de Weyl . . . . . . . . . . . . . . . . 269 4.2.3 Conjugaison des chambres de Weyl . . . . . . . . . . . . . . . . . . . 271 4.2.4 Passage des algbres de Lie complexes aux algbres de Lie relles . . 273 4.2.5 Classication des involutions de Cartan . . . . . . . . . . . . . . . . 277 4.2.6 Classication des groupes de Lie compacts . . . . . . . . . . . . . . . 279 4.2.7 Classication des algbres de Lie relles semi-simples . . . . . . . . . 280 4.2.8 Classication des espaces symtriques de type non compact . . . . . 283 4.3 Gomtrie asymptotique des espaces symtriques de type non compact . . . 285 4.3.1 Plats maximaux et chambres de Weyl des espaces symtriques de type non compact . . . . . . . . . . . . . . . . . . . . . . . . . . . . 285 4.3.2 Flot godsique des espaces symtriques de type non compact . . . . 287 4.3.3 Chambres de Weyl linni . . . . . . . . . . . . . . . . . . . . . . . 289 4.3.4 Immeuble de Tits linni . . . . . . . . . . . . . . . . . . . . . . . . 291 4.4 Thorme de rigidit de Mostow . . . . . . . . . . . . . . . . . . . . . . . . 294 4.5 Indications pour la rsolution des exercices . . . . . . . . . . . . . . . . . . . 300 Index
1

301

Je remercie les tudiants ayant suivis ce cours en 2010-2011 pour leurs corrections, et en particulier N. de Saxc, ainsi que Stphane Benoist.

Prambule. Dans ces notes, nous ne supposerons connu que les notions de varit direntielle M de dimension n et de classe Cr pour n N et r N {, R , C }, de sous-varit, de br tangent : T M M , dapplication tangente T f : T M T N dune application f : M N de classe C1 , despace des champs de vecteurs (T M ), de crochet [X, Y ] de champs de vecteurs X, Y et de ot local (t )t dun champ de vecteurs, voir par exemple [Laf, Pau2]. Nous renvoyons [Ser3] pour les rappels sur les dnitions et les proprits utiles notre propos concernant les varits analytiques relles et complexes. Si r = R (respectivement r = C ), par varit, application, etc. de classe Cr , nous entendrons varit, application, etc. analytique relle (respectivement analytique complexe). Nous munirons lensemble N {, R , C } de lordre < tendant celui de N tel que n < < R < C pour tout n N. Nous poserons r + 1 = r si r {, R , C }. Mais un lecteur qui nest pas intress par ces ranements de rgularit pourra supposer sans grand dommage que r = + dans tout ce texte. Toute varit est suppose mtrisable et sparable, ou de manire quivalente, spare et base dnombrable douverts. Elle est en particulier paracompacte, cest--dire que de tout recouvrement ouvert, on peut extraire un sous-recouvrement localement ni. Si M est une varit Cr o r N {}, rappelons quune partition de lunit subordonne un recouvrement ouvert (Ui )iI de M est une famille (i )iI o i : M R est une application Cr , valeurs positives et support contenu dans Ui , telle que i Ii (x) pour tout x M . Une partie A dun espace topologique M est dite localement ferme si lune des conditions quivalentes suivantes est vrie : tout point de A admet un voisinage U dans M tel que A U soit ferm dans U ; A est ouverte dans son adhrence ; A est lintersection dun ouvert et dun ferm. Rappelons quune sous-varit est localement ferme.

Soient r (N {0}) {, R , C }. Rappelons aussi quune application f : M N de classe Cr entre deux varits Cr est une immersion en un point x de M si Tx f : Tx M Tf (x) N est injective, et une immersion si f est une immersion en tout point de M ; une submersion en un point x de M si Tx f : Tx M Tf (x) N est surjective, et une submersion si f est une submersion en tout point de M ; une application de rang constant2 au voisinage dun point x de M sil existe un voisinage U de x dans M et n N tel que, pour tout y U , le rang de lapplication linaire Ty f : Ty M Tf (y) N soit gal n, et une application de rang constant si f est une application de rang constant au voisinage de tout point de M (attention, contrairement au cas des immersions et des submersions, cette dnition est locale, et pas ponctuelle) ; un plongement Cr si lune des deux conditions quivalentes suivantes est vrie : (1) f est une immersion Cr et f : M f (M ) est un homomorphisme ;
2

(2) f (M ) est une sous-varit Cr de N et f : M f (M ) est un Cr -diomorphisme.

Une application de rang constant est aussi appele une subimmersion.

Lquivalence se montre aisment par le thorme de forme normale des immersions. Nous renvoyons par exemple [Laf, Pau2] et [Ser3] en analytique complexe pour les noncs et les dmonstrations des thormes de forme normale des immersions, submersions, applications de rang constant. Soient r (N {0}) {, R , C }, M et N deux varits Cr de dimension m et n respectivement, S une sous-varit Cr de N de dimension s et : M N une application Cr . Supposons que soit transverse S, cest--dire que, pour tout x dans M tel que (x) S, nous ayons Tx (Tx M ) + T(x) S = T(x) N (la somme ntant pas ncessairement directe). Par exemple, si S est un point, alors est transverse S si et seulement si est une submersion en tout point de 1 (S). Alors le thorme de transversalit dit que 1 (S) est une sous-varit Cr de M , de dimension m + s n. Pour montrer ceci, il sut dappliquer le thorme de forme normale des submersions lapplication f = p |1 (U ) o x M vrie (x) S, o U est un voisinage ouvert de (x) et p : U Rns est une submersion telle que S U = p1 (0), lapplication f tant une submersion par lhypothse. Lemme 0.1 Soit f : M N une submersion de classe Cr . Alors (i) si M est de dimension m et N est de dimension n, alors 1 (y) est de dimension m n; (ii) pour tout x dans G, lapplication Tx : Tx M Tf (x) N induit un isomorphisme linaire (Tx M )/(Tx ( 1 (y))) Tf (x) N ; (iii) si f est surjective, pour toute varit P de classe Ck o k r, une application g : N P est de classe Ck si et seulement si g f lest. Dmonstration. Par le thorme de forme normale des submersions, pour tout x M , en posant y = f (x), il existe un voisinage ouvert U de x dans M tel que f 1 (y) U soit une sous-varit de M , un voisinage ouvert V de y dans N , une section locale : V M de (cest--dire un plongement : V M de classe Cr tel que = idV ) et un Cr -diomorphisme h : U V (f 1 (y) U ) tel que f|U : U V soit la compose de h et de la premire projection sur V . Les deux premires assertions en dcoulent. Comme la proprit dtre de classe Ck est locale, puisque f est surjective, et comme g|V = g f avec V, comme ci-dessus, la troisime assertion dcoule du thorme de drivation des fonctions composes.

Groupes de Lie et espaces homognes

La nature aime la symtrie. Lintrt principal de cet aphorisme est dtre interprt (voire rfut, en particulier par les notions dachiralit et de brisure de symtrie). Nous le comprendrons au sens que les plus beaux3 objets gomtriques sont souvent ceux qui admettent de nombreuses symtries. Les espaces de phases en physique sont en gnral des varits direntielles, qui sont munis de structures gomtriques par les quations de la physique qui y prennent place. Le but de ce chapitre est dintroduire les groupes de transformations de ces varits (prservant ces structures), qui portent le nom de groupes de Lie, mme si Sophus Lie4 a surtout considr leur avatar local. Ils serviront aussi introduire une classe fondamentale dobjets gomtriques, les varits homognes, archtypes des espaces ayant de nombreuses symtries, qui seront lobjet principal dtude dans le chapitre 4. Nous revenons ainsi la conception moderne de la gomtrie : Felix Klein4 , dans son programme dErlangen (1872), dnit la gomtrie comme ltude despaces munis dactions de groupes prservant des structures, et des invariants de ces transformations. Groupes et gomtries, deux pluriels synonymes ?

1.1

Groupes de Lie

soit de classe C (respectivement analytique complexe). Il revient au mme de demander que les applications de composition (x, y) xy et dinverse x x1 soient de classe C (respectivement analytique complexes). Par groupe de Lie, nous entendrons dans ces notes groupe de Lie rel ou complexe. Nous ne parlerons pas des groupes de Lie sur un corps muni dune valeur absolue complte non archimdienne, pour lesquels nous renvoyons par exemple [Ser3, Bou2]. Nous admettrons sans dmonstration le rsultat de rgularit suivant, qui ne sera que trs peu utile. Thorme 1.1 (voir [God2, tome II, p. 6.27]) Tout groupe de Lie rel G admet une unique structure de varit analytique relle qui rende analytique relle lapplication (x, y) xy 1 . Notons quil dcoule facilement de la dnition que, pour tout lment g dun groupe de Lie G, les translations gauche Lg : G G et droite Rg : G G, dnies respectivement par x gx et x xg1 , sont des C -diomorphismes (analytiques rels pour lunique
Lire par exemple Montesquieu4 (Charles-Louis de Secondat, baron de La Brde et de Montesquieu), Essai sur le got (1757)
3

Un groupe de Lie rel (respectivement complexe) est un ensemble G muni dune structure de groupe et dune structure de varit C (respectivement analytique complexe) telles que lapplication G G G (x, y) xy 1

Montesquieu
4

(1689-1755) (1842-1899)

Lie

(1849-1925)

Klein

Un morphisme (de groupes de Lie) entre deux groupes de Lie rels (respectivement complexes) est un morphisme de groupes qui est de classe C (respectivement analytique complexe). La collection des groupes de Lie et des ensembles de morphismes entre deux groupes de Lie, munie de la composition des applications et des applications identits, est une catgorie. Notons quun morphisme de groupes entre deux groupes de Lie rels (respectivement complexes) est C (respectivement analytique complexe) si et seulement sil est C (respectivement analytique complexe) en e, car f Lg = Lf (g) f pour tout g dans G. Un isomorphisme (de groupes de Lie) est un morphisme bijectif, dinverse un morphisme. Deux groupes de Lie sont isomorphes sil existe un isomorphisme de lun sur lautre. Un automorphisme (de groupes de Lie) est un isomorphisme dun groupe de Lie dans lui-mme. Une immersion (de groupes de Lie) entre deux groupes de Lie (tous deux rels ou tous deux complexes) est un morphisme de groupes de Lie qui est une immersion de varits (C ou analytiques complexes). Un plongement (de groupes de Lie) entre deux groupes de Lie (tous deux rels ou tous deux complexes) est un morphisme de groupes de Lie qui est un plongement de varits (C ou analytiques complexes). Proposition 1.2 (a) Un morphisme de groupes de Lie est une application de rang constant. (b) Un morphisme de groupes de Lie, qui est bijectif, est un isomorphisme de groupes de Lie. Dmonstration. Soit f : G H un morphisme de groupes de Lie. (a) Pour tout x dans G, comme f Lx = Lf (x) f , le thorme de drivation des applications composes montre que Tx f Te Lx = Te Lf (x) Te f . Les translations gauche sont des C -diomorphismes, donc Te Lx et Te Lf (x) sont des isomorphismes linaires. Par consquent, Tx f et Te f ont mme rang. (b) Supposons f bijectif. Comme f Lx = Lf (x) f pour tout x dans G, il sut de vrier que f est un C -diomorphisme local en e (si G et H sont complexes, le thorme dinversion locale impliquera alors que f est un diomorphisme analytique complexe). Sinon, par le thorme de forme normale des applications de rang constant et linjectivit de f , il existerait un voisinage compact V de e dans G tel que f (V ) soit un ferm dintrieur vide dans H. Comme G est sparable, il existe une suite (gi )iN dense dans G, et en particulier G = iN gi V . Donc limage f (G) = iN f (gi )f (V ) de f serait une union dnombrable de parties fermes de H dintrieur vide. Comme H est mtrisable, le thorme de Baire contredirait alors la surjectivit de f . Soit G un groupe de Lie. Un sous-groupe de Lie plong de G (appel sous-groupe de Lie tout court dans [Bou2, Chap. III, 1, n0 3]) est une partie de G qui est un sous-groupe de G et une sous-varit de G (de classe C si G est rel, de classe analytique complexe si G est complexe). En utilisant les translations gauche, il sut de vrier que cette partie est un sous-groupe et une sous-varit de la bonne classe au voisinage de llment neutre de G. Sauf mention explicite du contraire, une telle partie sera toujours munie de ces deux structures. Comme celles-ci sont compatibles par restriction, tout sous-groupe de 8

structure prcdente si G est rel, et analytiques complexes si G est complexe). Certains ouvrages notent Rg lapplication x xg.

Lie plong est donc un groupe de Lie. Une partie de G est donc un sous-groupe de Lie plong si et seulement si cest limage dun plongement de groupes de Lie. Un sous-groupe de Lie immerg de G (appel sous-groupe intgral dans [Bou2, Chap. III, 6, n0 2]) est un sous-groupe H du groupe G, muni dune structure de groupe de Lie, telle que linclusion i : H G soit une immersion (de classe C si G est rel, de classe analytique complexe si G est complexe) injective. Notons que H est muni de deux topologies, sa topologie intrinsque (en tant que groupe de Lie) et sa topologie induite (en tant que partie de G), qui peuvent tre direntes. Exemples. (1) Un groupe dnombrable, muni de lunique atlas de cartes maximal de dimension 0, est un groupe de Lie, dit discret. (2) Si G est un groupe de Lie complexe, alors le groupe G, muni de lunique atlas maximal de cartes C contenant son atlas de cartes analytique complexe, est un groupe de Lie rel, appel sous-jacent G (et souvent not encore G, parfois GR ). Nous dirons quun groupe de Lie rel H admet une structure de groupe de Lie complexe sil existe un groupe de Lie complexe G tel que GR = H. Un morphisme de groupes de Lie complexes est un morphisme de groupes de Lie rels entre les groupes de Lie rels sous-jacents. (3) Les groupes (R, +), (R , ), (U, ) o U = {z C : |z| = 1}, (C, +), (C , ), munis de leur structure de varit usuelle, C pour les trois premiers, analytique complexe pour les deux derniers, sont des groupes de Lie. (4) Le produit de deux groupes de Lie (tous deux rels ou tous deux complexes), pour la structure de groupe produit et de varit produit, est un groupe de Lie. (5) Dans le groupe de Lie produit U U, les parties {(e2ip , e2iq ) : R} o p, q Z sont premiers entre eux, sont des sous-groupes de Lie plongs (isomorphes U), mais H = {(e2i , e2i ) : R} o R Q est un sous-groupe de Lie immerg (intrinsquement isomorphe R par (e2ip , e2iq )), qui nest pas plong. La topologie intrinsque de H et sa topologie induite dirent (car 1 appartient ladhrence de ], 0] pour la seconde, mais pas pour la premire). (6) Si G est un groupe de Lie, nous noterons G0 la composante connexe de son lment neutre, appele la composante neutre de G. Comme toute composante connexe dun espace topologique, elle est ferme. Proposition 1.3 Soit G un groupe de Lie. Sa composante neutre G0 est un sous-groupe de Lie plong distingu ouvert de G. Les composantes connexes de G sont les classes gauche (ainsi que les classes droite) de G modulo G0 . Lespace topologique quotient G/G0 est discret. Si G est connexe, alors G est engendr par tout voisinage de son lment neutre. Dmonstration. Lapplication de G0 G0 dans G dnie par (x, y) xy 1 est continue, donc son image est contenue dans G0 par connexit, donc G0 est un sous-groupe. Pour tout g dans G, lapplication de G0 dans G dnie par x gxg1 est continue, donc son image est contenue dans G0 par connexit, donc G0 est distingu. Puisque toute varit est localement connexe par arcs, G0 est ouverte, donc une sous-varit. Le sous-groupe de G engendr par un voisinage de son lment neutre est ouvert. Tout sous-groupe ouvert H de G est ferm, car son complmentaire est ouvert, comme union des classes droite de H distinctes de celle de llment neutre, qui sont ouvertes. Donc si G est connexe, alors G est engendr par tout voisinage de son lment neutre. 9

Le reste est laiss en exercice. (7) Si V est un espace vectoriel rel (respectivement complexe) de dimension nie, alors le groupe GL(V ) des automorphismes linaires de V , muni de sa structure douvert de lespace vectoriel rel (respectivement complexe) de dimension nie End(V ) des applications linaires de V dans lui-mme, est un groupe de Lie rel (respectivement complexe), appel le groupe linaire de V . En eet, montrons que la composition et linverse sont C (respectivement analytiques complexes). La composition (f, g) f g est la restriction louvert GL(V )GL(V ) dune application bilinaire de End(V ), donc est C (respectivement analytique complexe). Si g est un lment de GL(V ), alors son inverse est lunique application f vriant lquation gf id = 0. Le thorme des fonctions implicites, appliqu la fonction F (g, f ) = gf id, dont la direntielle partielle par rapport la seconde variable en un point (g, f ) est lapplication linaire inversible Y g Y de End(V ) dans lui-mme, montre que linverse g g1 est C (respectivement analytique complexe). Soit G un groupe de Lie rel (respectivement complexe). Une reprsentation (de groupes de Lie) de G est un morphisme de groupes de Lie de G dans GL(V ), o V est un espace vectoriel rel (respectivement complexe) de dimension nie. Notons quune application : G GL(V ) est C (respectivement analytique complexe) si et seulement si lapplication G V V dnie par (g, v) (g)v lest.

(8) La multiplication de deux matrices carres relles (respectivement complexes) est polynomiale en les coecients, donc C (respectivement analytique complexe). Par la 1 formule M 1 = det M t Comatrice(M ) exprimant linverse dune matrice inversible, linverse dune matrice carre inversible relle (respectivement complexe) est rationnelle (de dnominateur ne sannulant pas) en ses coecients, donc C (respectivement analytique complexe). Donc, pour K = R (respectivement K = C), le groupe GLn (K) ,

muni de sa structure de varit C (respectivement analytique complexe) en tant quouvert 2 2 de lespace vectoriel rel (respectivement complexe) Mn (R) = Rn (resp. Mn (C) = Cn ) est un groupe de Lie rel (respectivement complexe). Notons que GLn (R) est un sous-groupe de Lie plong du groupe de Lie rel sous-jacent au groupe de Lie complexe GLn (C). Si V est un espace vectoriel sur K de dimension n, si B est une base de V , alors lapplication qui un automorphisme linaire de V associe sa matrice dans la base B, est un isomorphisme de groupes de Lie de GL(V ) dans GLn (K). (9) Les applications exponentielles x ex de (R, +) dans (R , ) et de (C, +) dans (C , ), et lapplication x eix de (R, +) dans (U, ), sont des morphismes de groupes de Lie, la premire tant un isomorphisme sur (R , ). Les applications dterminants + x det x de GLn (R) dans (R , ) et de GLn (C) dans (C , ) sont des morphismes de groupes de Lie. (10) Pour tout groupe de Lie G et pour tout g dans G, la conjugaison ig : G G dnie par ig : x gxg1 10

est un automorphisme de groupes de Lie. Si Aut(G) dsigne le groupe des automorphismes de groupes de Lie de G, il est immdiat que lapplication i : G Aut(G), dnie par g ig , est un morphisme de groupes : igg = ig ig (et donc ie = id).

Rappelons que H dsigne lalgbre de quaternions de Hamilton sur R, qui est lunique algbre relle de base vectorielle (1, i, j, k), dlment neutre 1, telle que i2 = j 2 = 1 et ij = ji = k. La partie relle dun quaternion x = a + bi + cj + dk est Re x = a , son conjugu est x = a bi cj dk , sa norme est N (x) = xx = xx = a2 + b2 + c2 + d2 .

(11) Les groupes de Lie de lexercice suivant sont appels des groupes classiques (voir par exemple [Die3, Hel]). Nous tudierons les redondances dans cette liste dans la partie 1.4, et leur nombre de composantes connexes dans lexercice E.13 de la partie 1.4.5. Soient n, p, q des lments de N no nuls. Notons In la matrice identit n-n, et Ip 0 0 0 0 Iq Ip 0 0 In 0 0 . Ip,q = , Jn = , Kp,q = 0 0 Iq In 0 0 Ip 0 0 0 0 Iq

est un isomorphisme dalgbres relles sur son image, qui vrie de plus ( t X) =
t

Pour tout x = a + bi + cj + dk H, nous noterons 2 (x) = a + bi cj + dk. Les applications x x et 2 sont des anti-involutions, cest--dire des applications linaires involutives telles que xy = y x et 2 (xy) = 2 (y)2 (x) pour tous les x, y H. Pour K = C ou K = H, pour tout x = (ar,s )1r,sn dans lalgbre relle Mn (K), nous noterons t x = (as,r )1r,sn sa matrice transpose et x = (ar,s )1r,sn sa matrice conjugue, ainsi que 2 (x) = (2 (ar,s ))1r,sn si K = H. Pour tout n 1, lapplication de Mn (H) dans (lalgbre relle sous-jacente ) M2n (C) dnie par A + Bi C Di A + Bi + Cj + Dk C Di A Bi (X) et tr((X)) = 2 Re(tr X) .

Nous identierons Mn (H) avec son image dans M2n (C) par cette application. Le dterminant de Dieudonn det(x) dune matrice x dans Mn (H) est la racine carr du dterminant (dont on peut vrier quil est positif ou nul) de la matrice complexe (x) dans M2n (C). Par exemple, lapplication det : M1 (H) = H R est x N (x). Exercice E.1 a) Montrer que les parties suivantes du groupe de Lie rel (sous-jacent ) GLm (C) pour un entier m convenable, en sont des sous-groupes de Lie plongs, et calculer

11

leur dimension : SLn (R) SLn (C) SL(n, H) SU (2n) O(n) SO(n) O(p, q) SO(p, q) On (C) SOn (C) SO(n, H) SO (2n) U(n) SU(n) U(p, q) SU(p, q) Spn (R) Spn (C) Sp(p, q) Sp(n) Sp (n) = = = = = = = = = = = = = = = = = = = = = {x GLn (R) : det x = 1} {x GLn (C) : det x = 1} {x Mn (H) : det x = 1} {x SL2n (C) : Jn x = xJn } {x GLn (R) : t x x = In } O(n) SLn (R) {x GLp+q (R) : t x Ip,q x = Ip,q } O(p, q) SLp+q (R) {x GLn (C) : t x x = In } On (C) SLn (C) {x SL(n, H) : 2 (t x) x = In } {x SO2n (C) : t x Jn x = Jn } {x GLn (C) : t x x = In } U(n) SLn (C) {x GLp+q (C) : t x Ip,q x = Ip,q } U(p, q) SLp+q (C) {x GL2n (R) : t x Jn x = Jn } {x GL2n (C) : t x Jn x = Jn } {x Mn (H) : t x Ip,q x = Ip,q } {x Mn (H) : t x x = In } Spn (C) U(2n)

b) Montrer que seuls les groupes de Lie rels SLn (C), On (C), SOn (C) et Spn (C) admettent une structure de groupe de Lie complexe. c) Montrer que des isomorphismes de groupes de Lie rels suivants existent : SL(n, H) SU (2n) , SO(n, H) SO (2n) , Sp(n) Sp (n) , Sp(p, q) {x Spp+q (C) : t x Kp,q x = Kp,q } . Les groupes SLn (R) et SLn (C) sont appels les groupes linaires spciaux rel et complexe. Les groupes O(n), U(n) et Sp(n) sont appels le groupe orthogonal, le groupe unitaire et le groupe unitaire quaternionien de Rn , Cn et Hn respectivement, et les groupes SO(n) et SU(n) le groupe orthogonal spcial et le groupe unitaire spcial de Rn et Cn . Les groupes Spn (R) et Spn (C) sont appels les groupes symplectiques rel et complexe. Nous concluons cette partie en nonant sans dmonstration deux rsultats qui permettent de construire des groupes de Lie en ne vriant que des proprits topologiques et de groupes. Un groupe topologique est un groupe G muni dune topologie telle que lapplication de G G dans G dnie par (x, y) xy 1 soit continue. Les deux rsultats suivants donnent des conditions purement topologiques sur un groupe topologique pour quil admette au moins une structure de groupe de Lie rel compatible avec sa structure de groupe topologique. Une telle structure sera unique, par le corollaire 1.45. 12

Thorme 1.4 (5-me problme de Hilbert, dmontr par Gleason, voir par exemple [MZ, page 184]) Soit G un groupe topologique. Si G est une varit topologique, alors G admet une et une seule structure de groupe de Lie rel compatible avec sa structure de groupe topologique. Un groupe topologique est dit sans petit sous-groupe sil existe un voisinage de lidentit qui ne contient aucun sous-groupe non trivial. Par exemple, le groupe additif Qp muni de sa distance usuelle (voir par exemple [Ser2]) nest pas sans petit sous-groupe. Rappelons que le corps Qp est le corps complt du corps Q pour la distance d(x, x ) = ep (xx ) si x = x 0 sinon

o p : Q Z est dnie en notant p (x) llment n de Z tel que x = pn u avec u, v dans v Z premiers entre eux et non divisibles par p. En eet, si Zp est ladhrence de Z, alors pour tout N N, le sous-groupe pN Zp est un sous-groupe additif de Qp , proche de llment neutre si N est grand. Notons que le groupe topologique (Qp , +) est totalement discontinu et non discret. En particulier, sa composante neutre, qui est rduite {0}, nest pas ouverte. Thorme 1.5 (Montgomery-Zippin [MZ, pages 169,163], voir aussi les problmes (5) (9), pages 162 166, de [Die2]) Soit G un groupe topologique localement compact, mtrisable, sparable et sans petit sous-groupe. Alors G admet une et une seule structure de groupe de Lie rel compatible avec sa structure de groupe topologique. Exercice E.2 (Dcomposition polaire) (1) Soit H (respectivement H + ) le sous-ensemble de lespace vectoriel rel de dimension nie Mn (C), form des matrices hermitiennes (respectivement hermitiennes dnies positives). Montrer que H et H + sont des sousvarits C (et mme analytiques relles) de Mn (C) et que lapplication exponentielle des matrices Xn X X e = n! n=0 est un diomorphisme C (et mme analytique rel) de H sur H + . Montrer quil existe un diomorphisme C (et mme analytique rel) x x et un seul de H + dans lui mme tel que ( x )2 = x pour tout x dans H + . (2) Montrer que lapplication H + U(n) GLn (C) dnie par (x, y) xy est un diomorphisme C (et mme analytique rel) (appel la dcomposition polaire de 1 GLn (C) ), dinverse x ( x x, x x x), o x = t x est la matrice adjointe de x. Si S + est lensemble des matrices relles n n symtriques dnies positives, montrer que lapplication S + O(n) GLn (R) dnie par (x, y) xy est un diomorphisme C (et mme analytique rel) (appel la dcomposition polaire de GLn (R) ). (3) Soit G un sous-groupe de GLn (C), qui est auto-adjoint (cest--dire tel que si x G 2 alors x G), et qui est un sous-ensemble algbrique rel de R2n (cest--dire lensemble des zros communs dune famille de polynmes coecients rels en les parties relles et complexes des coecients de matrices). Soient g lalgbre de Lie de G, K = G U(n) et p = H g. Montrer que lapplication de K p dans G dnie par (k, X) k eX est un homomorphisme.5
On pourra utiliser lexercice disant que si P : Rn R est une application polynomiale, si (1 . . . , n ) R vrie que P (ek1 , . . . , ekn ) = 0 pour tout k N, alors P (et1 , . . . , etn ) = 0 pour tout t R.
5 n

13

(4) En dduire que GLn (C) est diomorphe U(n)R n , que SLn (C) est diomorphe diomorphe SO(n) R SU(n) R n
2 1

, que GLn (R) est diomorphe O(n) R

n(n+1) 1 2

n(n+1) 2

, et que SLn (R) est

1.2

Algbres de Lie

Nous renvoyons par exemple [Bou1, Bou2] pour des complments sur cette partie. 1.2.1 Gnralits

Soit K un corps (commutatif). Une algbre de Lie sur K est un espace vectoriel g sur K muni dune application bilinaire de g g dans g, note (x, y) [x, y], telle que x, y g, [y, x] = [x, y], x, y, z g, [x, [y, z]] + [y, [z, x]] + [z, [x, y]] = 0.

Lapplication (x, y) [x, y] sappelle le crochet de Lie de g. La premire proprit sappelle lanticommutativit et la seconde lidentit de Jacobi du crochet de Lie. g Soient g et g deux algbres de Lie sur K. Un morphisme (dalgbres de Lie) de g dans est une application linaire : g g qui prserve les crochets de Lie, cest--dire telle que x, y g, ([x, y]) = [(x), (y)] .

La collection des algbres de Lie et des ensembles de morphismes entre deux algbres de Lie, munie de la composition des applications et des applications identits, est une catgorie. Un isomorphisme (dalgbres de Lie) est un morphisme bijectif, dinverse un morphisme. Remarquons quun morphisme dalgbres de Lie bijectif est un isomorphisme dalgbres de Lie. Deux algbres de Lie sont isomorphes sil existe un isomorphisme de lune sur lautre. Un automorphisme (dalgbres de Lie) est un isomorphisme dune algbre de Lie dans elle-mme. Nous noterons Aut(g) le groupe des automorphismes dune algbre de Lie g.

Soit g une algbre de Lie. Une sous-algbre de Lie de g est un sous-espace vectoriel h de g qui est stable par le crochet de g (cest--dire tel que si X, Y h, alors [X, Y ] h). Muni de la restriction de ce crochet, cest une algbre de Lie. Sauf mention explicite du contraire, toute sous-algbre de Lie de g sera munie de cette structure dalgbre de Lie. Exemples. (1) Tout espace vectoriel V sur K, muni du crochet de Lie nul, est une algbre de Lie sur K, dite ablienne (ou commutative). (2) Si A est une algbre (associative) sur K, alors lespace vectoriel A, muni du crochet [x, y] = xy yx , est une algbre de Lie sur K. Cest par exemple le cas, pour tout espace vectoriel V sur K, de lalgbre End(V ) des endomorphismes de V , et nous noterons gl(V ) lalgbre de Lie obtenue. Pour tout n dans N, cest aussi le cas de lalgbre Mn (K) des matrices carres n-n coecients dans K, et nous noterons gln (K) 14

lalgbre de Lie obtenue. Si V est un espace vectoriel de dimension nie n sur K, et B une base de V , alors lapplication, qui un endomorphisme de V associe sa matrice dans la base B, est un isomorphisme dalgbres de Lie de gl(V ) dans gln (K). Une reprsentation (respectivement reprsentation de dimension nie) dune algbre de Lie g sur K est un morphisme dalgbres de Lie g gl(V ), o V est un espace vectoriel (respectivement espace vectoriel de dimension nie) sur K. (3) Soit g une algbre de Lie sur K. Pour tout sous-corps K de K, lensemble g, muni de son crochet et de sa structure despace vectoriel naturelle sur K , est aussi une algbre de Lie sur K , dite obtenue par restriction des scalaires de K K . En particulier, si g est une algbre de Lie complexe, nous noterons gR lalgbre de Lie relle obtenue de g par restriction des scalaires de C R. Si K est un sur-corps de K, alors le crochet de Lie de g stend par bilinarit de manire unique lespace vectoriel gK K sur K , et gK K , muni du crochet tendu, est une algbre de Lie sur K , dite obtenue par extension des scalaires de K K . Par exemple, les algbres de Lie complexes gln (R) R C et gln (C) sont canoniquement isomorphes. Exercice E.3 En notant su(2) la sous-algbre de Lie relle de sl2 (C)R des matrices antihermitiennes de trace nulle, montrer que linclusion de su(2) dans sl2 (C) induit un isomorphisme dalgbres de Lie complexes entre su(2) R C et sl2 (C). (4) Si (gi )iI est une famille dalgbres de Lie sur K, alors lespace vectoriel produit iI gi , muni du crochet [(xi )iI , (yi )iI ] = ([xi , yi ])iI est une algbre de Lie sur K, appele algbre de Lie produit. (5) Le noyau et limage dun morphisme dalgbres de Lie sont des sous-algbres de Lie. Toute intersection de sous-algbres de Lie est une sous-algbre de Lie. (6) Drivations. Soit g une algbre de Lie sur K. Une drivation (dalgbres de Lie) de g est une application linaire : g g telle que x, y g, ([x, y]) = [(x), y] + [x, (y)] . Remarquons que lensemble des drivations de g est une sous-algbre de Lie de lalgbre de Lie gl(g) des endomorphismes linaires de g, que lon note Der(g). En eet, si et sont des drivations, alors ([x, y]) = [ (x), y] + [(x), (y)] + [ (x), (y)] + [x, (y)] , (7) Reprsentation adjointe et forme de Killing. Soit g une algbre de Lie sur K. Pour tout X dans g, lapplication ad X : g g dnie par ad X (Y ) = [X, Y ] est une drivation dalgbres de Lie (parfois appele drivation intrieure), car pour tous les Y et Z dans g, nous avons ad X ([Y, Z]) = [ad X (Y ), Z] + [Y, ad X (Z)] , 15 donc [, ] = est encore une drivation.

ce qui est une simple rcriture de lidentit de Jacobi. Lapplication ad : g Der(g) est un morphisme dalgbres de Lie, car pour tous les X et Y dans g, nous avons ad [X, Y ] (Z) = ad X ad Y (Z) ad Y ad X (Z) = [ad X, ad Y ] , ce qui est aussi une simple rcriture de lidentit de Jacobi (le crochet de Lie droite est celui de gl(g)). La reprsentation dalgbres de Lie ad : g gl(g) sappelle la reprsentation adjointe de g. Le noyau de la reprsentation adjointe de g est appel le centre de g, et not z(g) = {X g : Y g, [X, Y ] = 0} . En particulier, toute algbre de Lie g sans centre se plonge dans gl(g). Par exemple, puisque toute matrice n-n qui commute avec toute matrice diagonale est un multiple de la matrice identit In , nous avons z(gln (K)) = K In . Si g est de dimension nie, la forme de Killing de g est lapplication B = Bg : gg K dnie par B(x, y) = tr(ad x ad y) . Par les proprits de la trace des endomorphismes despaces vectoriels de dimension nie, et par linarit de la reprsentation adjointe, la forme de Killing est bilinaire et symtrique. Elle est invariante par tout automorphisme dalgbres de Lie : si f : g g est un isomorphisme dalgbres de Lie, alors, pour tous les x et y dans g, nous avons Bg (f (x), f (y)) = Bg(x, y) , car lgalit [f (x), f (y)] = f ([x, y]) implique que ad f (x) = f (ad x) f 1 , et le rsultat dcoule des proprits de la trace. Elle est de plus ad-alterne (une terminologie frquente mais peu mnmotechnique est invariante ) cest--dire alterne pour les endomorphismes ad x : pour tous les x, y, z g, B(ad x (y), z) = B(y, ad x (z)) . En eet, en appliquant deux fois lidentit de Jacobi, B([x, y], z) = tr (ad x ad y ad y ad x) ad z

= tr(ad y ad z ad x) tr(ad y ad x ad z) = B(y, [z, x]) = B(y, [x, z]) .

Par exemple, la forme de Killing de lalgbre de Lie gln (K) est X, Y gln (K), B(X, Y ) = 2n tr(XY ) 2 tr X tr Y . 16

En eet, soit (Ei,j )1i,jn la base canonique de Mn (K) (o les coecients de Ei,j sont nuls sauf le coecient i-j qui vaut 1). Pour tout X = (xi,j )1i,jn gln (K), nous avons ad X(Ei,j ) =
1kn

xk,i Ek,j

xj,k Ei,k .
1kn

Un petit calcul montre alors le rsultat. (8) Algbres de Lie classiques. Lexercice suivant donne une liste dalgbres de Lie, dites classiques. Notons tr X la trace dune matrice carre X, et reprenons les notations de lexercice E.1. Exercice E.4 a) Montrer que les exemples suivants sont des sous-algbres de Lie de lalgbre de Lie relle glm (C)R , pour un m convenable, et que sln (C), on (C) = son (C), spn (C) sont des sous-algbres de Lie complexes de glm (C), pour un m convenable : sln (C) sln (R) sln (H) o(n) so(n) o(p, q) so(p, q) u(n) su(n) u(p, q) su(p, q) spn (R) on (C) son (C) spn (C) sp(p, q) sp(n) sp (n) su (2n) so (2n) = = = = = = = = = = = = = = = = = = = = {X gln (C) : tr X = 0} {X gln (R) : tr X = 0} {X Mn (H) : Re tr X = 0} {X gln (R) : t X = X} o(n) {X glp+q (R) : t X Ip,q + Ip,q X = 0} o(p, q) {X gln (C) : t X = X} u(n) sln (C) {X glp+q (C) : t X Ip,q + Ip,q X = 0} u(p, q) slp+q (C) {X gl2n (R) : t X Jn + Jn X = 0} {X gln (C) : t X = X} on (C) {X gl2n (C) : t X Jn + Jn X = 0} {X Mn (H) : t X Ip,q + Ip,q X = 0 {X Mn (H) : t X = X} spn (C) su(2n) {X sl2n (C) : Jn X = XJn } {X so2n (C) : t X Jn + Jn X = 0}

b) Montrer que des isomorphismes dalgbres de Lie relles suivants existent : sln (H) su (2n) , sp(n) sp (n) , sp(p, q) {X spp+q (C) : t X Kp,q + Kp,q X = 0} . c) Montrer que les inclusions de sln (R) dans sln (C), de o(n) dans on (C) et de spn (R) dans spn (C) induisent des isomorphismes dalgbres de Lie complexes sln (R) R C sln (C) , o(n) R C on (C) , 17 spn (R) R C spn (C) .

Ainsi o(n) est lalgbre de Lie des matrices relles n-n antisymtriques, et u(n) est lalgbre de Lie (relle) des matrices complexes n-n antihermitiennes. (9) Algbres de Lie libre. Soit S un ensemble. Soit M (S) le magma libre sur S, cest--dire lensemble des mots parenthss non vides sur S, construit comme la runion disjointe des ensembles Sn pour n N{0}, o par rcurrence, S1 = S et Sn est la runion disjointe des Sp Snp pour 1 p n 1, muni de la loi de composition a b = (a, b). Soit AK (S) lespace vectoriel des combinaisons linaires nies formelles dlments de M (S) coecients dans K, muni de lunique application bilinaire (a, b) a b tendant la loi de M (S). Nous appellerons algbre de Lie libre sur S, et noterons L(S), ou LK (S) lorsquil est utile de prciser K, lespace vectoriel quotient de AK (S) sur K par son plus petit sous-espace vectoriel stable par les multiplications droite et gauche et contenant les lments a a pour a AK (S) et a (b c) + b (c a) + c (a b) pour a, b, c AK (S), muni de lapplication (x, y) [x, y] induite par la multiplication de AK (S). Cest clairement une algbre de Lie, munie dune application i : S L(S) en passant au quotient linclusion de S dans AK (S). Elle vrie la proprit universelle suivante (voir [Bou2, Chap. II, 2, n0 2]) : pour toute algbre de Lie h munie dune application j : S h, il existe un unique morphisme (dit canonique) dalgbres de Lie de L(S) dans h tel que i = j.

(10) Lalgbre de Lie des champs de vecteurs dune varit. Soient M une varit C (respectivement analytique complexe), et (T M ) le module des champs de vecteurs C (respectivement analytiques complexes) sur M , qui est un module sur lanneau C (M, R) (respectivement des applications holomorphes de M dans C). Rappelons que si f : M N est un diomorphisme local, alors lapplication image rciproque des champs de vecteurs par f est lapplication f : (T N ) (T M ) dnie par Y (T N ), x M, f Y (x) = (Tx f )1 Y (f (x) . Si f : M N est un diomorphisme, alors lapplication image directe des champs de vecteurs par f est lapplication (f 1 ) : (T M ) (T N ) (que nous ne noterons pas f pour ne pas la confondre avec une autre opration sur les champs de vecteurs qui sera introduite dans la partie 2.3.5), qui vrie donc X (T M ), y N, (f 1 ) X(y) = Tf 1 (y) f X(f 1 (y) .

Nous avons (f g) = g f . Rappelons que pour tous les X, et Y dans (T M ), le crochet de Lie de X et de Y est lunique champ de vecteurs [X, Y ] de classe C (respectivement analytique complexe) sur M tel que pour toute carte locale (U, ) de M , en notant = 1 , x (U ), [X, Y ](x) = dx ( Y ) X(x) dx ( X) Y (x) ,

en considrant les champs de vecteurs sur un ouvert V de Kn o K = R ou K = C comme des applications de V dans Kn (attention lordre !). Autrement dit, si dans une carte locale X scrit i Xi xi et Y scrit i Yi xi , alors [X, Y ] scrit Xi
j i

Xj Yj Yi xi xi

. xj

Lespace vectoriel rel (respectivement complexe) (T M ) des champs de vecteurs C (respectivement analytiques complexes) sur M , muni du crochet de Lie des champs de 18

vecteurs, est une algbre de Lie relle (respectivement complexe), par la mme dmonstration que pour les algbres associatives. Si f : M N est un diomorphisme local, alors f : (T N ) (T M ) est un morphisme dalgbres de Lie, car si (U, ) est une carte locale de N de domaine assez petit, alors (f 1 (U ), f ) est une carte locale de M et (( f )1 ) = (1 ) (f )1 . En particulier, si f : M N est un diomorphisme, alors f : (T N ) (T M ) est un isomorphisme dalgbres de Lie, et en particulier X, Y (T N ), f [X, Y ] = [f X, f Y ] . Exercice E.5 Soient X, Y (T M ) et (t )t , (t )t les ots locaux de X et de Y respectivement. d (1) Montrer que [X, Y ] = dt |t=0 (t ) Y . (2) Montrer que (3) Montrer que [X, Y ](x) =
d dt |t=0

t t t t (x) = 0 pour tout x M .

d dt |t=0+

t t t t (x) pour tout x M .

(11) Lalgbre de Lie des champs de vecteurs invariants dun groupe de Lie. Soit G un groupe de Lie rel (respectivement complexe). Un champ de vecteurs X sur G est dit invariant gauche si pour tout g dans G, nous avons (Lg ) X = X , et invariant droite si pour tout g dans G, nous avons (Rg ) X = X. Notons G (T G) lensemble des champs de vecteurs C (respectivement analytiques complexes) et invariants gauche sur G, et (T G)G lensemble de ceux invariants droite. Puisque G (T G) est lintersection des noyaux des automorphismes dalgbres de Lie (Lg ) id pour g G, lensemble G (T G) est une sous-algbre de Lie de lalgbre de Lie (T G), et (T G)G aussi. Lexemple suivant lalgbre de Lie mrite une partie elle toute seule. 1.2.2 Algbre de Lie dun groupe de Lie

Soient G un groupe de Lie et Te G lespace tangent G en son lment neutre e. Notons Ad : G GL(Te G) lapplication g Ad g = Te ig : Te G Te G qui g G associe lapplication tangente en e de la conjugaison ig : h ghg1 . Cest une reprsentation de groupes de Lie, appel la reprsentation adjointe de G. Notons ad = Te Ad : Te G End(Te G) [X, Y ] = ad X (Y ) , ( 1 )

lapplication tangente en e de Ad. Pour tous les X et Y dans Te G, posons

et notons que [, ] : Te G Te G Te G est bilinaire, par la linarit des applications tangentes en un point. Exemples. (i) Si G est ablien, alors ig vaut lidentit de G pour tout g dans G, donc Ad g : Te G Te G vaut lidentit de Te G pour tout g dans G, et ad : Te G End(Te G) est lapplication nulle. 19

(ii) Soit K = R ou K = C ; explicitons les applications Ad et ad lorsque G = GLn (K). Comme G est un ouvert de lespace vectoriel Mn (K) sur K, lespace tangent G en llment neutre Id est Mn (K). Comme ig : G G est la restriction louvert G de Mn (K) de lapplication linaire X gXg1 de Mn (K) dans lui-mme, nous avons Ad g (X) = gXg1 . Donc la reprsentation adjointe Ad de GLn (K) est laction par conjugaison de GLn (K) sur Mn (K). Lapplication Ad est la compose de lapplication de G dans G G dnie par g (g, g1 ), dont lapplication tangente en e est X (X, X), et de la restriction louvert G G de lapplication bilinaire (g, h) {X gXh} de Mn (K) Mn (K) dans End(Mn (K)), dont lapplication tangente en (e, e) est (Y, Z) {X Y X + XZ}. Donc pour tous les X et Y dans Mn (K), nous avons ad X (Y ) = ((Te Ad)(X))(Y ) = XY Y X . Donc ad X (Y ) est le crochet de Lie [X, Y ] des matrices X et Y dans lalgbre de Lie gln (K), et les notations sont cohrentes. Une autre manire de calculer ad est de considrer lapplication exponentielle des matrices 1 n Y Y . Y e = n!
k=0

Soit X un lment dans Mn (K). Le chemin c : t etX est un chemin C1 dans GLn (K), tel que c(0) = In et c(0) = X. Donc, pour tous les X et Y dans Mn (K), ad X (Y ) = ((Te Ad)(X))(Y ) = d (etX Y etX ) = XY Y X . dt |t=0

(iii) De mme, si V est un espace vectoriel rel ou complexe de dimension nie, et si G est le groupe de Lie GL(V ), dont lespace tangent en llment neutre id est End(V ), alors la reprsentation adjointe de G est laction de G par conjugaison sur End(V ) : pour tous les g dans GL(V ) et h dans End(V ), Ad g (h) = g h g1 . De mme, lapplication ad est le crochet de Lie des applications linaires dans gl(V ) : pour tous les g et h dans End(V ), ad g (h) = [g, h] = g h h g . Le but du rsultat suivant est de montrer que lespace tangent G en son lment neutre, muni du crochet dni par la formule ( 1 ), est une algbre de Lie, qui sidentie avec la sous-algbre de Lie des champs de vecteurs invariants gauche sur G. Proposition 1.6 (a) Lespace vectoriel Te G, muni de lapplication (X, Y ) [X, Y ], est une algbre de Lie. (b) Lapplication de Te G dans (T G) dnie par X {X : x X(x) = Te Lx (X)} est un isomorphisme dalgbres de Lie de (Te G, [, ]) sur 20
G (T G).

Lalgbre de Lie dnie en (a) est appele lalgbre de Lie du groupe de Lie G, et est note g ou Lie(G). Par dnition de son crochet de Lie, sa reprsentation adjointe ad : g gl(g) est obtenue comme direntielle en e de la reprsentation adjointe Ad de G. Si G est un groupe de Lie rel (respectivement complexe), alors g = Lie(G) est une algbre de Lie relle (respectivement complexe). Attention, la dmonstration de lasertion (b) dans le cas rel qui passe par les drivations de C (G, R) ne stend pas au cas complexe. Dmonstration. Considrons une carte locale (U, ) de G en llment neutre e, de sorte que (e) = 0. Cette carte fournit aussi une carte locale ( 1 (U ), T ) pour le br tangent : T G G. Notons x limage dun point x de U par , ainsi que limage dun point x de 1 (U ) par T(x) . Puisque ex = xe = x et puisque le produit dans G est C (respectivement analytique complexe), nous avons, pour tous les x et y dans G proches de e, xy = x + y + B(x, y) + (x, y) ( 2 )

o B est une application bilinaire, et lapplication , ainsi que celles qui suivent, est une application C (respectivement analytique complexe) de plusieurs variables relles (respectivement complexes), dnie sur un voisinage de 0, dont chaque terme du dveloppement limit en 0 contient une puissance dordre au moins 2 dans au moins lune des variables. (a) En appliquant la formule ( 2 ) avec y = x1 , nous obtenons 0 = x + x1 + B(x, x1 ) + (x, x1 ). Donc x1 = x + (x) . Donc, pour tous les g, x dans G proches de e, gxg1 = (gx)g1 = x + B(g, x) B(x, g) + (x, g) . Do, en drivant par rapport x, pour tout g dans G proche de e et tout X dans Te G, Ad g (X) = X + B(g, X) B(X, g) + (g) . Par consquent, en drivant par rapport g, pour tous les X et Y dans Te G, nous avons ad X (Y ) = B(X, Y ) B(Y , X) . Lanticommutativit et lidentit de Jacobi de lapplication (X, Y ) ad X (Y ) se dduisent alors du cas des algbres associatives. (b) Lapplication X X est clairement linaire, injective car X = X(e), et surjective car si X est invariant gauche, alors X(x) = Te Lx X(e) . Il reste donc montrer quelle prserve les crochets de Lie. Pour x proche de e, puisque X(x) = Te Lx (X) et par la formule ( 2 ), nous avons X(x) = X + B(x, X) + (x) . et de mme Y (x) = Y + B(x, Y ) + (x). Donc, en drivant par rapport x ces galits, [X, Y ](e) = d0 Y (X) d0 X(Y ) = B(X, Y ) B(Y , X) = [X, Y ] , 21

la dernire galit ayant t montre en n de (a). Ceci montre le rsultat cherch. Daprs ce qui prcde, lalgbre de Lie de GLn (K) est gln (K), et pour tout espace vectoriel rel ou complexe V de dimension nie, lalgbre de Lie de GL(V ) est gl(V ). Notons que lalgbre de Lie dun produit de groupes de Lie sidentie avec lalgbre de Lie produit des algbres de Lie de ces groupes de Lie. Lexercice suivant dit en particulier que lalgbre de Lie du groupe spcial linaire est lalgbre de Lie des matrices de trace nulle, lalgbre de Lie du groupe spcial orthogonal est lalgbre de Lie des matrices antisymtriques, et lalgbre de Lie du groupe spcial unitaire est lalgbre de Lie des matrices antihermitiennes de trace nulle. Exercice E.6 Montrer que dans le tableau suivant, le terme de droite dune ligne est lalgbre de Lie du terme de gauche (voir les exercices E.1 et E.4). SLn (C) SLn (R) O(n) SO(n) O(p, q) SO(p, q) U(n) SU(n) U(p, q) SU(p, q) Spn (R) On (C) SOn (C) Spn (C) Sp(p, q) Sp (n) SU (2n) SO (2n) sln (C) sln (R) o(n) = so(n) so(n) = o(n) o(p, q) = so(p, q) so(p, q) = o(p, q) u(n) su(n) R su(n) u(p, q) su(p, q) spn (R) on (C) = son (C) son (C) = on (C) spn (C) sp(p, q) sp (n) su (2n) so (2n) Exemples. Si G est un groupe de Lie ablien, alors son algbre de Lie g est commutative.

Proposition 1.7 Si G et G sont des groupes de Lie, dalgbres de Lie g et g , si f : G G est un morphisme de groupes de Lie, alors Te f : g g est un morphisme dalgbres de Lie. En prenant G = G , g G et f = ig , il en dcoule que lapplication Ad g : g g est un automorphisme dalgbres de Lie : X, Y g, Ad g ([X, Y ]) = [Ad g (X), Ad g (Y )] .

Puisque la forme de Killing B = Bg de g est invariante par tout automorphisme de g, et puisque Ad g est un automorphisme de g pour tout g G, nous avons donc, pour tous les X, Y g, B(Ad g (X), Ad g (Y )) = B(X, Y ) . 22

Si f : g g est un morphisme dalgbres de Lie, nous dirons quun morphisme de groupes de Lie f : G G intgre f si Te f = f. Nous donnerons dans la partie 1.4.5 des conditions susantes pour lexistence dun morphisme de groupes de Lie intgrant un morphisme donn entre leurs algbres de Lie. Dmonstration. Pour tout g dans G, puisque f est un morphisme, nous avons f ig = if (g) f . Donc pour tout g dans G et tout X dans g, en appliquant deux fois le thorme de drivation des applications composes, Te f (Ad g) = (Ad f (g)) Te f , et Do, pour tous les X et Y dans g, nous avons Te f ([X, Y ]) = [Te f (X), Te f (Y )]. En particulier, si H est un sous-groupe de Lie immerg de G, alors lalgbre de Lie de H sidentie (par lapplication tangente en llment neutre de limmersion i de H dans G) une sous-algbre de Lie de G. Il dcoule aussi de la proposition 1.7 que si f : G G est un isomorphisme de groupes de Lie, alors Te f : g g est un isomorphisme dalgbres de Lie. Exercice E.7 Soient G un groupe de Lie rel ou complexe et : G GL(V ) une reprsentation de groupes de Lie de G. Pour tout v V , notons Gv = {g G : (g)v = v} le stabilisateur de v dans G. (1) Soit v V . Montrer que lapplication de G dans V dnie par g (g)v est de rang constant. En dduire que Gv est un sous-groupe de Lie plong de G, et dcrire son algbre de Lie. (2) Pour K = R ou K = C, notons k (Kn ) lespace vectoriel sur K des formes klinaires alternes sur Kn , Sym(Kn ) lespace vectoriel sur K des formes bilinaires symtriques sur Kn et Herm(Cn ) lespace vectoriel complexe des formes sesquilinaires hermitiennes sur Cn . Montrer que les applications suivantes sont des reprsentations de groupes de Lie sur K : GLn (K) GL(k (Kn )) g {(x1 , . . . , xk ) (g1 x1 , . . . , g1 xk )} , GLn (K) GL(Sym(Kn )) g {(x, y) (g1 x, g1 y)} . En considrant le groupe de Lie rel sous-jacent GLn (C) et les espaces vectoriels rels sous-jacents Herm(Cn ) et Mn (C), montrer que les applications suivantes sont des reprsentations de groupes de Lie rels GLn (C) GL(Herm(Cn )) g {(x, y) (g1 x, g1 y)} , GLn (C) GL(Mn (C)) g {X g Xg1 } . (3) En dduire que tous les groupes classiques dnis dans lexercice E.1 sont des groupes de Lie, et montrer que leurs algbres de Lie sont donnes par lexercice E.6. En dduire 23 Te f (ad X) = (ad Te f (X)) Te f .

que les espaces vectoriels donns dans lexercice E.4, munis du crochet de Lie des matrices, sont bien des algbres de Lie. (4) Soit g une algbre de Lie relle (respectivement complexe) de dimension nie. a) Montrer que son groupe dautomorphismes Aut(g) est un sous-groupe de Lie plong rel (respectivement complexe) de GL(g). b) Montrer que si Der(g) est une drivation, alors lexponentielle e de lendomorphisme de g est un automorphisme dalgbres de Lie de g. Montrer que lalgbre de Lie du groupe de Lie Aut(g) est Der(g). 1.2.3 Reprsentations de sl2

Soient K un corps (commutatif) de caractristique nulle et g une algbre de Lie sur K. Un g-module est un espace vectoriel V sur K muni dune reprsentation de lalgbre de Lie g dans V , cest--dire dun morphisme dalgbres de Lie de g dans gl(V ). Il est dit simple ou irrductible si ses seuls sous-espaces invariants (par limage de la reprsentation de g) sont {0} et V . Un sous-module dun g-module V est un sous-espace vectoriel W de V qui est invariant (par limage de la reprsentation de g). Muni de la restriction de la reprsentation, cest aussi un g-module. Un morphisme de g-modules dun g-module V dans un g-module V est une application linaire : V V telle que, si : g gl(V ) est la reprsentation de g dans V et : g gl(V ) celle de g dans V , alors, pour tout X g, le diagramme suivant commute : V
(X)

(X)

(cest--dire ((X)) = ( (X) ). Nous noterons Homg(V, V ) lespace vectoriel sur K des morphismes de g-modules de V dans V . Un isomorphisme de g-modules est un morphisme de g-modules bijectif. Son inverse est alors aussi un morphisme de g-modules. La collection des g-modules et des ensembles de morphismes entre deux g-modules, munie de la composition des applications et des applications identits, est une catgorie. Trouver, lorsquelle existe, une dcomposition en sous-espaces invariants irrductibles dun g-module donn est lun des buts principaux de la thorie des reprsentations des algbres de Lie. Par exemple, muni de la reprsentation adjointe ad, lespace vectoriel g est un g-module. Nous allons maintenant dcrire toutes les reprsentations en dimension nie de lalgbre de Lie sl2 (K). Considrons les lments suivants de sl2 (K) : E= 0 1 0 0 , F = 0 0 1 0 , H= 1 0 0 1 .

Ils forment une base vectorielle de sl2 (K) et vrient les relations de crochet [E, F ] = H, [H, E] = 2E, [H, F ] = 2F . Si g est une algbre de Lie sur K, nous appellerons sl2 -triplet un triplet (e, f, h) dlments de g vriant les mmes relations de crochet [e, f ] = h, [h, e] = 2e, [h, f ] = 2f que ci-dessus. 24

Limage du triplet (E, F, H) par un morphisme dalgbres de Lie de sl2 (K) dans une algbre de Lie g est un sl2 -triplet. La rciproque est vraie : par lexercice E.9 ultrieur, pour construire un morphisme dalgbres de Lie de sl2 (K) dans une algbre de Lie g, il sut de se donner un sl2 -triplet (e, f, h) de g, car alors lunique application linaire de sl2 (K) dans g envoyant E sur e, F sur f et H sur h est un morphisme dalgbres de Lie. Pour tout d N, notons Kd [x, y] lespace vectoriel sur K des polynmes homognes de degr d en deux variables x et y. Rappelons que les drivations x et y sont des oprateurs linaires de Kd [x, y] dans Kd1 [x, y] (avec K1 [x, y] = {0} par convention). Il est facile (mme sans utiliser lexercice E.9 comme mentionn ci-dessus) de vrier quil existe un et un seul morphisme dalgbres de Lie de sl2 (K) dans gl(Kd [x, y]) tel que Ex , F y , Hx y . y x x y

Muni de cette reprsentation, lespace vectoriel Kd [x, y] est un sl2 (K)-module, que nous notons Vd . Remarquons que les valeurs propres de x x y y sont d, d + 2, d + 4, . . . , d 2, d , de vecteurs propres (non nuls) associs y d , xy d1 , x2 , . . . , xd1 y, xd . Thorme 1.8 (1) Les sl2 (K)-modules simples de dimension nie sont, isomorphisme prs, les Vd pour d N. (2) Tout sl2 (K)-module de dimension nie est somme directe de sous-modules simples. Dmonstration. Nous ne ferons la dmonstration que lorsque K = C, qui est le seul dont nous nous servirons. Notons s = sl2 (C). (1) Soit V un s-module simple de dimension nie. Notons E, F , H les endomorphismes linaires de V dnis par E, F, H respectivement, qui vrient les relations de crochet E F F E = H, H E E H = 2E, H F F H = 2F . Notons V = C V la dcomposition en somme directe de V par les espaces caractristiques V de lendomorphisme H (o V = ker( H id)m si est une valeur propre complexe de multiplicit m de H, avec la convention que V = {0} si nest pas une valeur propre de H). Pour tous les C et j N {0}, par les relations de crochet prcdentes, nous avons E( H id)j = ( H ( + 2) id)j E et F ( H id)j = ( H ( 2) id)j F . Donc, pour tout C, E(V ) V+2 et F (V ) V2 . Soit v0 un vecteur propre (non nul) de H pour une valeur propre 0 de partie relle maximum. Alors H(v0 ) = 0 v0 et E(v0 ) = 0 car V0 +2 = {0}. Soit n0 N le plus grand n entier tel que F 0 (v0 ) = 0 (qui existe car V0 2N = {0} si N est assez grand). Pour tout i i Z, notons vi = F (v0 ) si 0 i n0 et vi = 0 sinon. 25

Par rcurrence, nous avons, pour tout j N, [ E, F Donc 0=EF

n0 +1 j+1

] = (j + 1)F ( H j id) .
n0 +1

( 3 )

Do 0 = n0 . Respectivement par la dnition de vi , puisque vi V0 2i et de nouveau par la formule ( 3 ), nous avons, pour tout i N, F (vi ) = vi+1 , H(vi ) = (n0 2i)vi , E(vi ) = i(n0 i + 1)vi1 . Comme le s-module V est simple, le sous-espace vectoriel engendr par v0 , . . . , vn0 , qui est invariant par s, est gal V . Comme vi Vn0 2i , les vecteurs v0 , . . . , vn0 sont linairement indpendants. Donc (v0 , . . . , vn0 ) est une base de V . Il est alors facile de vrier que lunique application linaire de V dans Cn0 [x, y] telle que vi n0 (n0 1) . . . (n0 i + 1)xn0 i y i pour 0 i n0 est un isomorphisme de s-modules entre V et Vn0 . (2) Soit V un s-module de dimension nie. Soit V un sous-espace vectoriel de V , qui est invariant par (limage de la reprsentation dans V de) s. Montrons que V admet un sous-espace vectoriel V invariant par s. Nous utilisons la mthode de lastuce unitaire de Weyl, en renvoyant par exemple [Kna, Chap. I, 9] pour une preuve plus directe mais plus longue. Rappelons que lalgbre de Lie du groupe de Lie rel SU(2) = a b b a : |a|2 + |b|2 = 1

(v0 ) F

E(v0 ) = (n0 + 1)(0 n0 )vn0 .

est la sous-algbre de Lie relle su(2) de sl2 (C)R des matrices anti-hermitiennes de trace nulle. Notons f : su(2) gl(V )R le morphisme dalgbres de Lie relles restriction su(2) de la reprsentation de sl2 (C) dans V . Par le thorme 1.51 ultrieur, comme K = SU(2), homomorphe la sphre unit S3 de R4 = C2 , est simplement connexe, il existe un unique morphisme de groupes de Lie rels f : K GL(V )R dapplication tangente f en lidentit. Notons , un produit scalaire hermitien sur V invariant par cette reprsentation de K. (Si est une mesure de Haar de K (invariante droite, nie, voir la partie 3 pour une construction), et si , 0 est un produit scalaire hermitien sur V , alors u, v =
gK

f (g)u, f (g)v

d(g)

convient.) Alors lorthogonal V de V pour ce produit scalaire est invariant par K. Donc en drivant, il est invariant par la reprsentation de su(2). Mais comme cette reprsentation est linaire sur C et puisque le sous-espace vectoriel complexe de s = sl2 (C) engendr par su(2) est gal tout s (voir aussi lexercice E.3), le sous-espace vectoriel complexe V est invariant par s. Corollaire 1.9 Pour toute reprsentation dalgbres de Lie dune algbre de Lie complexe g dans un espace vectoriel complexe V , si (e, f, h) est un sl2 -triplet de g, alors les valeurs propres de lendomorphisme (h) de V sont entires et symtriques par rapport lorigine. 26

Dmonstration. Notons : sl2 (C) gl(V ) la prcomposition de par lunique morphisme dalgbres de Lie de sl2 (C) dans g envoyant (E, F, H) sur (e, f, h). Alors V muni de est un sl2 (C)-module. En le dcomposant en sous-espaces vectoriels irrductibles, et par isomorphisme de chacun de ces sous-espaces avec un Vd pour d N, les valeurs propres de lendomorphisme (H) de V sont entires et symtriques par rapport lorigine. Comme (H) = (h), le rsultat en dcoule.

1.3

Classication des algbres de Lie complexes semi-simples

Le but de ce chapitre est dnoncer un thorme de classication dune classe dalgbres de Lie. Nous renvoyons [Bou3] pour les parties 1.3.1 1.3.3 et [Bou2] pour les parties suivantes. 1.3.1 Systmes de racines

Soit V un espace vectoriel rel euclidien de dimension nie ; notons , son produit scalaire. Pour tout x V non nul, notons x = et sx : y y y, x x la rexion orthogonale par rapport lhyperplan orthogonal x, qui appartient au groupe orthogonal de V , et vrie f sx f 1 = sf (x) sx (y) y 2x x, x

x x

pour tout x V et toute isomtrie f : V V sur un espace vectoriel rel euclidien de dimension nie V . Remarquons que, pour tous les x, y V non nuls, (x ) = x, sx = sx et sx (y ) = sx (y) Un systme de racines de V est une partie de V telle que (R1) est nie, ne contient pas 0 et engendre lespace vectoriel V ; (R3) , Z pour tous les , dans . (R2) est invariant par s pour tout ; Un systme de racines est dit rduit sil vrie de plus

( 4 )

(R4) pour tous les et t R, si t , alors t = 1.

Un systme de racines est dit rductible sil existe deux parties non vides 1 , 2 de runion telles que tout lment de 1 soit orthogonal tout lment de 2 . Dans ce cas, 1 et 2 sont disjointes, et i est un systme de racines de lespace vectoriel quil engendre, pour i = 1, 2. Un systme de racines est dit irrductible sil nest pas rductible. La dnition dun systme de racines admets quelques variantes, voir par exemple [Ser1, p. V-3] ou [Bou3, p. 143]. Notre but tant de considrer les groupes de Lie rels, la dnition ci-dessus est susante. 27

Nous appellerons rang de la dimension de V , et groupe de Weyl de le sous-groupe, not W = W , du groupe orthogonal de V engendr par les s pour . Nous dirons que est la coracine de . Si est un systme de racines dun espace euclidien de dimension nie V , alors un isomorphisme de dans est un isomorphisme linaire de V dans V envoyant sur . Un automorphisme de est un isomorphisme de dans . Deux systmes de racines sont isomorphes sil existe un isomorphisme de lun dans lautre. Remarquons que W est ni, car par (R1) et (R2), il sinjecte dans le groupe (ni) des permutations de . Par les formules ( 4 ), lensemble des coracines de est un systme de racines , dit oppos , de mme groupe de Weyl : W = W . Puisque s () = , un systme de racine est stable par lantipodie x x, daprs la condition (R2). Si , t R et t , alors 2t et 2/t Z par (R3), donc t {2, 1, 1 , 1 , 1, 2}, et au plus quatres racines sont proportionnelles une racine 2 2 donne. Une racine est dite indivisible si elle nest pas le double dune racine. Un systme de racines est donc rduit si et seulement si toutes ses racines sont indivisibles. Il existe, isomorphisme prs, un unique systme de racines rduit de rang 1, par exemple {1} dans R, dit de type A1 , et un unique systme de racines non rduit de rang 1, par exemple {1, 2} dans R, dit de type BC1 . A1 2 BC1 2

Soient et deux racines non proportionnelles et langle non orient entre et . tudions les valeurs possibles du nombre n(, ) = , = 2 cos , ( 5 )

qui est entier par (R3). Le produit de deux entiers n(, )n(, ) = 4 cos2 ne peut prendre que les valeurs 0, 1, 2, 3, 4, ce dernier cas tant exclu car et ne sont pas proportionnelles. En particulier, n(, ) ne peut prendre que les valeurs 0, 1, 2, 3. Quitte changer et , nous pouvons supposer que , 0 (ou de manire quivalente que n(, ) 0), cest--dire que langle entre et est droit ou (strictement) obtu. Quitte changer et , nous pouvons supposer que , cest--dire que la racine est plus courte que la racine . Alors n(, ) vaut 0 ou 1 par la formule ( 5 ), et quatre cas sont possibles : n(, ) = 0, n(, ) = 0, = 2 n(, ) = 1, n(, ) = 1, = 2 , 3 n(, ) = 1, n(, ) = 2, = 3 , 4 n(, ) = 1, n(, ) = 3, = 5 , 6 = = 2 = 3 .

( 6 )

Corollaire 1.10 Soient et deux racines non proportionnelles formant un angle obtu. Alors + est une racine. Puisque est une racine, nous en dduisons que si langle entre et est aigu, alors est une racine. 28

Dmonstration. Quitte permuter et , nous pouvons supposer que est plus courte que . Le tableau des possibilits ci-dessus montre que n(, ) = 1, donc que + = n(, ) = s (), qui appartient . Exercice E.8 Montrer que les systmes de racines rduits de rang 2 sont, isomorphisme prs, les suivants : type diagramme de Dynkin matrice de Cartan syst`me e de racines A1 A1 2 0 0 2 A2 2 1 1 2 2 1 2 2 2 + + 0 + 0 + 2

B2

2 + 3 + 2 + 3

G2

2 1 3 2

3 2

2 3

Montrer que les systmes de racines non rduits de rang 2 sont, isomorphisme prs,

29

les suivants : 2 A1 BC1 2 BC1 BC1 2 BC2 1.3.2 2 2 2 + 2 2 + 2 + 2 + 2 2 2 2

Base dun systme de racines

Soit un systme de racines dans un espace euclidien de dimension nie V . Une partie de est une base de si est une base vectorielle de V et si tout lment de scrit comme combinaison linaire coecients entiers de mme signe des lments de . Les lments de sont appeles les racines simples de (relativement la base ). Par exemple, dans la gure prcdente, {, } est une base du systme de racines de rang deux considr. Ainsi, pour tout , il existe une suite (m ) Z dentiers tous positifs ou nuls, ou tous ngatifs ou nuls tels que = m .

Une racine est dite positive (relativement la base ) si ses coordonnes dans la base sont positives ou nulles, ngative sinon. En notant + (respectivement ) lensemble des racines positives (respectivement ngatives), nous avons donc = + , o lunion est disjointe. Lexistence dune base dcoule du rsultat suivant (voir par exemple [Ser1, Bou3]), qui dcrit aussi les proprits du groupe de Weyl W = W de . Une chambre de Weyl C de est une composante connexe de V priv des hyperplans xes des rexions s pour . Une racine est dite positive (relativement la chambre C) si pour tout (ou, de manire quivalente, pour au moins un) lment v de C, nous avons , v > 0. Une racine positive (relativement la chambre C) est dite indcomposable si elle nest pas somme de deux racines positives (relativement la chambre C). Proposition 1.11 (i) Le groupe de Weyl W agit simplement transitivement sur lensemble des chambres de Weyl de . Ladhrence de toute chambre de Weyl est un domaine fondamental (strict) de W . 30

(ii) Lensemble C des racines positives indcomposables relativement une chambre de Weyl C de est une base de ; une racine dans est positive relativement la chambre C si et seulement si elle est positive relativement la base C ; pour toute base de , il existe une et une seule chambre de Weyl C de telle que = C . (iii) Toute racine indivisible est image dune racine simple par un lment du groupe de Weyl. En particulier, si est rduit de base , alors = W . (iv) Si est une base de , alors le groupe de Weyl W est engendr par S = S = {s : }. Le couple (W, S) est un systme de Coxeter, cest--dire que le morphisme canonique du groupe libre sur S valeurs dans W est normalement engendr par les (s s )m(,) pour , , o si = 1 m(, ) = 2 si n(, ) = 0 3, 4, 6 si n(, )n(, ) = 1, 2, 3 respectivement . En particulier, le groupe de Weyl W agit simplement transitivement sur lensemble des bases de . Donc si est une base de , si A() est le sous-groupe du groupe Aut() des automorphismes de prservant , alors Aut() est le produit semi-direct de A() et de W.

La matrice de Cartan dun systme de racines (relativement une base ) est la matrice n(, ) , . Puisque W agit transitivement sur lensemble des bases de , cette matrice de Cartan ne dpend pas (modulo permutation des coordonnes) du choix dune base : pour tout w W , nous avons n(w, w) = n(, ) par les formules ( 4 ), puisque W est engendr par les s pour . Remarquons que les termes diagonaux de la matrice de Cartan de valent 2, et que les termes non diagonaux sont ngatifs ou nuls (car si et sont des racines non proportionnelles formant un angle aigu, alors est une racine par le corollaire 1.10, que lon peut supposer positive quitte changer et , et = ( ) + , donc est une racine positive non indcomposable, donc non simple). Par ltude des valeurs de n(, ), les coefcients non diagonaux de la matrice de Cartan de appartiennent donc {0, 1, 2, 3}. Le systme de racines est irrductible si et seulement si sa matrice de Cartan nest pas, permutation des coordonnes prs, diagonale par blocs avec au moins deux blocs non triviaux. Le rsultat suivant (voir par exemple [Ser1, Bou3]) dit quun systme de racines rduit est dtermin isomorphisme prs par sa matrice de Cartan. Proposition 1.12 Soit un systme de racines dans un espace euclidien V de dimension nie, une base de , f : une bijection telle que n(f (), f ()) = n(, ) pour tous les , dans . Si et sont rduits, alors il existe un unique isomorphisme de dans prolongeant f . Dmonstration. Nous pouvons supposer que et sont irrductibles. Les formules ( 6 ) montrent que les longueurs des racines simples de sont alors dtermines homothtie prs de V par la matrice de Cartan. Nous pouvons donc supposer que f () = pour toute racine simple de . Pour toute les racines simples , de , lgalit n(f (), f ()) = n(, ) implique alors que f (), f () = , . Donc lunique application linaire, encore note f , de V dans V envoyant sur f () est une isomtrie euclidienne de V dans V . 31

Puisque f s f 1 = sf () pour tout , puisque W est engendr par les s pour (par lassertion (iv) de la proposition1.11), puisque = W et = W (par lassertion (iii) de la proposition 1.11), le rsultat en dcoule. 1.3.3 Classication des systmes de racines

Soient un systme de racines dans un espace euclidien de dimension nie V , et (n(, )), sa matrice de Cartan (relativement une base ). Le diagramme de Dynkin de (relativement ) est le graphe densemble de sommets , deux sommets s et t tant relis par une arte si n(s, t) = n(t, s) = 1, par une arte double si n(s, t) = 1 et n(t, s) = 2, une arte triple si n(s, t) = 1 et n(t, s) = 3, ces artes tant orientes de s vers t si la racine s est strictement plus longue que la racine t (cest--dire si |n(s, t)| > |n(t, s)|). Il est immdiat de voir que est irrductible si et seulement si son diagramme de Dynkin est connexe, et que le diagramme de Dynkin de dtermine de manire unique la matrice de Cartan de , donc le systme de racines isomorphisme prs lorsque celui-ci est rduit, par la proposition 1.12. Le diagramme de Dynkin du systme de racines oppos (relativement la base ) est obtenu partir de celui de en changeant le sens des ches. Pour une dmonstration du rsultat suivant, nous renvoyons par exemple [Bou3]. Thorme 1.13 Tout diagramme de Dynkin connexe non vide est isomorphe un et un seul des diagrammes suivants. An Bn Cn Dn E6 E7 E8 F4 G2 De plus, il existe un (et un seul isomorphisme prs) systme de racines rduit irrductible dont le diagramme de Dynkin est un tel diagramme. Pour tout n 1, il existe un et un seul systme de racines irrductible non rduit de rang n, not BCn . Remarques. (1) Une matrice de Cartan (abstraite) est une matrice A = (aij )1i,jN coecients dans Z telle que ai,i = 2 pour tout 1 i N , 32 (n 1 sommets) (n 2 sommets) (n 3 sommets) (n 4 sommets)

 ai,j 0 pour tout 1 i N , pour tout 1 i N , nous avons ai,j = 0 si et seulement si aj,i = 0, il existe une matrice diagonale D = (di,j )1i,jN coecient diagonaux strictement positifs telle que DAD1 soit symtrique dnie positive. Si est une base dun systme de racines , en prenant pour D la matrice diagonale de coecients diagonaux pour tout , nous avons DAD1 = 2 ,
,

qui est dnie positive, car si X est une matrice colonne (x ) , alors t XDAD 1 X = 2 . Donc la matrice de Cartan de est une matrice de Cartan. x Il est facile de vrier que si dii djj , alors ai,j et aj,i vrie lune des possibilits ( 6 ), et donc que lon peut associer un diagramme de Dynkin (abstrait) une matrice de Cartan, de la mme manire. Il est facile de vrier quen enlevant la i-me colonne et la i-me ligne une matrice de Cartan, on obtient encore une matrice de Cartan, et que lopration correspondante sur les diagrammes de Dynkin est denlever le sommet i et les artes adjacentes. La srie dexercices suivante permet, par un nouvel exercice, de montrer que tout diagramme de Dynkin (et donc tout diagramme de Dynkin de systme de racines) est lun des diagrammes de la liste donne dans le thorme 1.13 (voir aussi [Kna, Chap. 2, 7]). En crasant une arte simple en un sommet, on obtient encore un diagramme de Dynkin. Un diagramme de Dynkin contient au plus N paires de sommets {i, j} avec i = j joints par au moins une arte. Un diagramme de Dynkin ne contient pas de cycle. De chaque sommet dun diagramme de Dynkin partent au plus trois artes. (2) Voici une construction des systmes de racines de type An , Bn , Cn , Dn , BCn . Soit n 2, notons (e1 , . . . , en ) la base canonique de lespace vectoriel euclidien standard V = Rn . Un systme de racines de type An1 dans lespace vectoriel euclidien {(x1 , . . . , xn ) n Rn : i=1 xi = 0} est lensemble des vecteurs ei ej o 1 i = j n. Une base de ce systme de racines est {e1 e2 , e2 e3 , . . . , en1 en }. Son groupe de Weyl est le groupe linaire des permutations de e1 , . . . , en , isomorphe au groupe symtrique Sn , dordre n! : WAn Sn+1 . Un systme de racines de type Bn dans V est lensemble des vecteurs ei et ei ej o 1 i = j n. Une base de ce systme de racines est {e1 e2 , e2 e3 , . . . , en1 en , en }. Son groupe de Weyl est le groupe linaire des permutations avec changement de signe de e1 , . . . , en , isomorphe au produit semi-direct (Z/2Z)n Sn o Sn agit sur (Z/2Z)n par permutation des coordonnes, dordre 2n n!. Un systme de racines de type Cn dans V est lensemble des vecteurs 2ei et ei ej o 1 i = j n (cest le systme de coracines du systme de racines prcdent). Son groupe de Weyl est le mme que le prcdent. Un systme de racines de type BCn dans V est alors obtenu en prenant la runion des systmes de racines de type Bn et Cn ci-dessus : il est form des lments ei , 2ei 33

et ei ej o 1 i = j n. Son groupe de Weyl est le mme que le prcdent : WBn = WCn = WBCn (Z/2Z)n Sn . Un systme de racines de type Dn dans V est lensemble des vecteurs ei ej o 1 i = j n. Une base de ce systme de racines est {e1 e2 , e2 e3 , . . . , en1 en , en1 + en }. Son groupe de Weyl est le groupe linaire des permutations avec un nombre pair de changements de signes de e1 , . . . , en , isomorphe au produit semi-direct du groupe symtrique Sn agsant sur le sous-groupe des lments de (Z/2Z)n de somme des coordonnes nulle modulo 2 par permutation des coordonnes, dordre 2n1 n! : WDn (Z/2Z)n1 Sn . Remarque. Soient un systme de racines irrductible rduit et une base de . Par inspection de la liste ci-dessus, le groupe A() des automorphismes de prservant est donc trivial, sauf si est de type An (n 2), Dn (n 5) et E6 , o A() est dordre 2, et est de type D4 , o A() est isomorphe au groupe des permutations de trois lettres. 1.3.4 Idaux dalgbres de Lie

Une partie gnratrice de g est une partie A de g telle que la plus petite sous-algbre de g contenant A soit g. Une prsentation de g est un couple (S, R), o S est une partie gnratrice de lalgbre de Lie g et R est une partie de lalgbre de Lie libre L(S) sur S (voir la dnition dans lexemple (9) de la partie 1.2), tel que lunique morphisme de L(S) dans g valant lidentit sur S induise par passage au quotient un isomorphisme de lalgbre de Lie quotient de L(S) par lidal engendr par R valeurs dans g. Si (S, R) est une prsentation de g, nous dirons aussi que g est dnie par gnrateurs S et relations R.

Soit g une algbre de Lie sur un corps (commutatif) K. Un idal de g est un sous-espace vectoriel I de g tel que pour tous les x I et y g, nous ayons [x, y] I. Lalgbre de Lie quotient de g par un idal I est lespace vectoriel quotient g/I muni du crochet de Lie [x + I, y + I] = [x, y] + I pour tous les x, y g. Un idal est en particulier une sous-algbre de Lie. Si I est un idal de g, la projection canonique de g dans g/I est un morphisme dalgbres de Lie. Par exemple, le noyau Ker f dun morphisme f dalgbres de Lie est un idal, et lalgbre de Lie image de f est isomorphe lalgbre de Lie quotient g/Ker f . Le centre z(g) de g est donc un idal de g. Toute intersection et toute somme vectorielle didaux de g est un idal de g. En particulier, pour toute partie A de g, lintersection de tous les idaux de g contenant A est le plus petit idal contenant A, appel lidal engendr par A. Si I et J sont des idaux de g, alors linclusion de J dans I + J induit un isomorphisme dalgbres de Lie entre J/(I J) et (I + J)/I.

Exercice E.9 Si K est un corps de caractristique nulle, montrer que lalgbre de Lie sl2 (K) est dnie par les gnrateurs E= 0 1 0 0 , F = 0 0 1 0 34 , H= 1 0 0 1 ,

et les relations Calculer la forme de Killing de sl2 (K) dans cette base. [E, F ] = H, [H, E] = 2E, [H, F ] = 2F .

Il dcoule de cet exercice et de la dnition dune prsentation dalgbre de Lie que si (e, f, h) est un sl2 -triplet dans une algbre de Lie g sur K, alors il existe un et un seul morphisme dalgbres de Lie de sl2 (K) dans g qui envoie E sur e, F sur f et H sur h. Soit A une sous-algbre de Lie de g. Le commutant ou centralisateur de A dans g est zg(A) = {X g : Y A, ad Y (X) = 0} . Par la formule de Jacobi, cest une sous-algbre de Lie de g, qui contient A si A est ablienne. Le normalisateur de A dans g est n(A) = {x g : ad x (A) A} . Il contient le centralisateur de A dans g. Cest la plus grande sous-algbre de Lie de g contenant A dans laquelle A soit un idal. Si I et J sont des idaux de g, alors le sous-espace vectoriel [I, J] de g engendr par les [x, y] pour x I et y J est un idal de g. Lidal [g, g] est appele lalgbre drive de g. Cest le plus petit idal de g tel que lalgbre de Lie quotient de g par cet idal soit ablienne. Si f : g g est un morphisme dalgbres de Lie, alors f ([g, g]) [g , g ]. La suite centrale descendante de g est la suite dcroissante (Cn g)nN didaux de g dnie par C0 g = g et Cn+1 g = [g, Cn g] pour tout n N. Notons que si f : g g est un morphisme dalgbres de Lie, alors f (Cn g) Cn (g ). Lalgbre de Lie g est dite nilpotente sil existe n N tel que Cn g = {0}, et lordre de nilpotence de g est alors le plus petit tel n. Lordre de nilpotence est 1 si et seulement si g est ablienne non triviale. Remarquons que le dernier terme non nul de la suite centrale descendante dune algbre de Lie nilpotente est contenu dans son centre, en particulier celui-ci est non nul, si lalgbre de Lie est non nulle. Par exemple, la sous-algbre de Lie de gln (K) forme des matrices triangulaires suprieures strictes est nilpotente dordre de nilpotence n 1. La suite drive de g est la suite dcroissante (Dn g)nN didaux de g dnie par D0 g = g et Dn+1 g = [Dn g, Dn g] pour tout n N. Notons que si f : g g est un morphisme dalgbres de Lie, alors f (Dn g) Dn (g ). Lalgbre de Lie g est dite rsoluble sil existe n N tel que Dn g = {0}, et lordre de rsolubilit de g est alors le plus petit tel n. Notons que D1 g = C1 g, et que lordre de rsolubilit est 1 si et seulement si g est ablienne non triviale. Remarquons que le dernier terme non nul de la suite drive dune algbre de Lie rsoluble non nulle est un idal ablien non nul. Par exemple, la sous-algbre de Lie de gln (K) forme des matrices triangulaires suprieures est rsoluble, non nilpotente si n > 1. Une algbre de Lie ablienne est nilpotente, et une algbre de Lie nilpotente est rsoluble. Soit D lapplication de lensemble des sous-algbres de Lie de g dans lui-mme dnie par D : h [h, h]. Comme Dn+1 (g) = D n+1 (g) = Dn (D(g)), si lalgbre drive de g est nilpotente (donc rsoluble), alors g est rsoluble. La proprit dtre ablien, nilpotent ou rsoluble est stable par passage la sous-algbre de Lie, limage par un morphisme dalgbres de Lie (donc aux algbres de Lie quotients), aux intersections et aux produits nis. Les idaux Dn g et Cn g de g sont caractristiques, cest--dire invariants par tous les automorphismes dalgbres de Lie de g. 35

Proposition 1.14 Soit 0 a b c 0 une suite exacte courte de morphismes dalgbres de Lie (cest--dire telle que f est injective, g surjective et im f = ker g. Alors b est rsoluble si et seulement si a et c le sont. Si lextension est centrale (cest--dire si f (a) est contenue dans le centre de b) et si c est nilpotente, alors b est nilpotente. En corollaire, nous pouvons remontrer que si lalgbre drive de g est nilpotente, alors g est rsoluble (car [g, g] est alors un idal rsoluble de g de quotient ablien). Dmonstration. Si a et c sont rsolubles dordres m et n respectivement, alors Dn+1 b, dont limage par g est nulle, est contenu dans f (a), donc Dn+m+2 b, contenu dans f (Dm+1 a), est nul. Si lextension est centrale et si a est nilpotente dordre n, alors Cn+1 b, dont limage par g est nulle, est contenu dans f (a), donc dans le centre de b, donc Cn+2 b = [b, Cn+1 b] = 0. En particulier, si I et J sont deux idaux rsolubles de g, alors I + J est rsoluble, car I et (I + J)/I J/(I J) sont rsolubles. Lorsque la dimension de g est nie, il existe donc un plus grand idal rsoluble de g (la somme vectorielle de tous les idaux rsolubles de g), appel le radical rsoluble de g, et not r(g). Comme la suite 0 z(g) g ad g 0 est exacte, une algbre de Lie g est nilpotente si et seulement si ad g est une sous-algbre de Lie nilpotente de gl(g). Une algbre de Lie g est dite simple si elle na pas didal dirent de {0} et g, et si elle est non ablienne. (Cette dernire condition peut tre remplace par et si sa dimension est au moins 2 .) 1.3.5 Algbres de Lie semi-simple
ad

Soit g une algbre de Lie de dimension nie sur un corps de caractristique nulle. Nous dirons que g est semi-simple si lune des conditions quivalentes suivantes est vrie. (i) tout idal ablien de g est nul ; (ii) le radical rsoluble de g est nul ; (iii) la forme de Killing de g est non dgnre ; (iv) g est somme directe didaux simples. Lquivalence de ces assertions est appele le critre de semi-simplicit de Cartan. En ce qui concerne les groupes de Lie, la troisime dnition est sans doute la plus importante. Les trois autres sen dduisent dailleurs assez facilement. Pour dmontrer lquivalence de ces assertions, nous commenons par le lemme lmentaire suivant. Lemme 1.15 Soient g une algbre de Lie de dimension nie et B = Bg sa forme de Killing. (1) Si a est un idal de g, alors lorthogonal a de a pour la forme bilinaire B est un idal, et [a, a ] est contenu dans le noyau de B. En particulier, le noyau de B est un idal. (2) Si a est un idal de g, alors la restriction de B a a est la forme de Killing de a. (3) Tout idal ablien a de g est contenu dans le noyau de B.

36

Dmonstration. (1) Ceci dcoule du fait que B est ad-alterne : pour tous les x a, y a , z g, nous avons B([z, y], x) = B(y, [z, x]) = 0 et B([x, y], z) = B(y, [x, z]) = 0. De plus, le noyau de B est gal g . (2)-(3) Soit b un sous-espace vectoriel supplmentaire de a. Pour tous les x g et y a, puisque a est un idal, nous avons ad x ad y (b) a. Si de plus a est ablien, alors ad x ad y (a) = 0. Un calcul par blocs de la trace montre alors les rsultats. Montrons que lassertion (i) implique lassertion (ii). Le radical r de g tant rsoluble, sil est non nul, le dernier terme non nul de sa srie drive est un idal ablien caractristique de r, donc un idal ablien non nul de g, puisque r est un idal de g.

Montrons que lassertion (ii) implique lassertion (iii). Ceci dcoule du rsultat suivant en prenant pour g le noyau de B et en utilisant le lemme 1.15. Thorme 1.16 (Critre de rsolubilit de Cartan) Soit g une algbre de Lie de dimension nie sur un corps de caractristique nulle. Si sa forme de Killing B est nulle, alors g est rsoluble. Dmonstration. Soit V un espace vectoriel de dimension nie sur un corps K de caractristique nulle. Un lment X de End(V ) est dit nilpotent sil existe n N tel que X n = 0 ; il est dit semi-simple sil est diagonalisable sur une extension (nie, ou algbriquement close) de K. Rappelons le rsultat classique suivant. Thorme 1.17 (Dcomposition de Jordan) Tout lment X End(V ) scrit, de manire unique, X = Xs + Xn o Xs est semi-simple, Xn est nilpotent, et Xs et Xn commutent. De plus, il existe des polynmes P et Q coecients dans K, sans terme constant, tels que Xs = P (X) et Xn = Q(X). Notons que si X End(V ) est nilpotent, alors ad X End(End(V )) lest aussi (car (ad X)k Y est une somme de termes X i Y X j o i + j = k, donc (ad X)2n = 0 si X n = 0). Voici un critre utile de nilpotence. Thorme 1.18 (Thorme dEngel) Soit g une algbre de Lie de dimension nie. Alors g est nilpotente si et seulement si, pour tout x g, lendomorphisme ad x de g est nilpotent. Dmonstration. Si g est nilpotente dordre n, alors pour tous les x, y dans g, nous avons (ad x)n+1 (y) Cn+1 g = {0}, donc ad x est nilpotent. La rciproque repose sur le rsultat suivant. Lemme 1.19 Pour tout espace vectoriel V de dimension nie non nulle, pour toute sousalgbre de Lie g de gl(V ) dont les lments sont nilpotents, il existe un vecteur v V non nul tel que x(v) = 0 pour tout x g . Dmonstration. Raisonnons par rcurrence sur la dimension k de g . Cest immdiat si k = 0 ou k = 1, car tout endomorphisme nilpotent dun espace vectoriel non nul admet 0 pour valeur propre. Supposons k 2. Soit h une sous-algbre de Lie de g , dirente de g , de dimension maximale. Cette dimension est au moins 1, car toute droite vectorielle dans g est une sous-algbre de Lie de g . Pour tout X dans h, puisque ad X(h) h, lendomorphisme 37

Le thorme dEngel se dmontre alors par rcurrence sur la dimension de g. Le lemme prcdent appliqu V = g et g = ad g montre que le centre de g est non trivial. Lhypothse de rcurrence applique lalgbre de Lie quotient g/z(g) montre alors que g/z(g) est nilpotente, ce qui conclut par la proposition 1.14. Pour dmontrer le critre de rsolubilit de Cartan, montrons tout dabord le lemme technique suivant. Lemme 1.20 Soient a une sous-algbre de Lie de gl(V ) et b = {X gl(V ) : [X, a] a} le normalisateur de a. Si Z a, si tr(XZ) = 0 pour tout X b, alors Z est nilpotent.

ad X (nilpotent par la remarque qui prcde lnonc du thorme dEngel) induit un endomorphisme nilpotent de lespace vectoriel quotient g /h. Par rcurrence, il existe donc un lment y g h tel que pour tout x g , nous ayons ad x (y) h. Alors lespace vectoriel engendr par h et y est une sous-algbre de g , qui par maximalit est gale g . Toujours par rcurrence, le sous-espace vectoriel E = {u V : x h, x(u) = 0} est non nul, et invariant par y car pour tous les x h et u E, nous avons x(y(u)) = (ad x (y))(u) + y(x(u)) = 0. Si v E est une valeur propre de lendomorphisme nilpotent y de E (pour la valeur propre 0), alors x(v) = 0 pour tout x h {y}, donc pour tout x g , par linarit.

Dmonstration. Nous pouvons supposer V non nul. Soit Z = S + N la dcomposition de Jordan de Z, avec S semi-simple et N nilpotent ; montrons que S = 0. Par extension des scalaires, nous pouvons supposer que K est algbriquement clos. Fixons une base (ei )1in de V telle que S(ei ) = i ei o i K pour 1 i n. Notons (Ei,j )1i,jn la base vectorielle correspondante de gl(V ) et E le Q-espace vectoriel engendr par 1 , . . . , n . Il sut de montrer que E = {0}. Soit f une forme Q-linaire sur E ; montrons que f = 0, ce qui conclut. Notons T lendomorphisme de V dni par T (ei ) = f (i )ei . Soit P un polynme de terme constant nul tel que P (i j ) = f (i ) f (j ) pour 1 i, j n. Ceci est possible, car si i j = k , alors f (i ) f (j ) = f (k ) f ( ), donc il existe un polynme dinterpolation de Lagrange P tel que P (i j ) = f (i )f (j ) pour 1 i, j n. Le polynme P est bien de terme constant nul car P (0) = P (1 1 ) = f (1 ) f (1 ) = 0. Puisque ad S(Ei,j ) = (i j )Ei,j et ad T (Ei,j ) = (f (i ) f (j ))Ei,j , nous avons ad T = P (ad S). Or ad S est un polynme de terme constant nul en ad Z, car ad Z = ad S + ad N est la dcomposition de Jordan de ad Z, par unicit (ad S est semi-simple, ad N est nilpotent, et ad S et ad N commutent par la formule de Jacobi). Puisque Z a et a est une sous-algbre de Lie, nous avons ad Z(a) a, donc ad T (a) a. Donc T b et par hypothse,
n

0 = tr(T Z) =
i=1

i f (i ) . = 0, donc que f = 0, ce quil fallait

En appliquant f , nous obtenons que dmontrer.

n 2 i=1 f (i )

Dmontrons maintenant le thorme 1.16. Supposons que la forme de Killing de g soit nulle. Pour montrer que g est rsoluble, il sut de montrer que son algbre drive [g, g] est nilpotente. Par le thorme dEngel, il sut de montrer que tout lment de ad [g, g] est nilpotent. Appliquons le lemme technique 1.20 V = g et a = ad g, en vriant son 38

hypothse. Soient X, Y g et X gl(V ) tels que X appartienne au normalisateur de a, cest--dire vrie [X , a] a, et Z = ad [X, Y ]. Alors Z a et par la formule de Jacobi, Puisque [ad X, X ] ad g et par annulation de la forme de Killing de g, nous avons donc tr(X Z) = 0. Par linarit, tr(X Z) = 0 pour tout Z ad [g, g]. Le lemme 1.20 implique que tout lment de ad [g, g] est nilpotent, ce qui conclut. Montrons que lassertion (iii) implique lassertion (iv). Raisonnons par rcurrence sur la dimension de g. Si g est simple, alors le rsultat est immdiat. Sinon, soit a un idal de g non nul, dirent de g. Par le lemme 1.15 (1), son orthogonal a est un idal, dont la dimension est la codimension de a, puisque B est non dgnre. Notons que [a, a ] = 0 par le lemme 1.15 (1). En particulier, aa est un ideal ablien, donc nul par le lemme 1.15 (3). Ceci implique que g est la somme directe vectorielle a a , avec a et a de dimension strictement plus petite que celle de g. Ceci conclut par rcurrence : les formes de Killing de a et de a sont non dgnres par le lemme 1.15 (2) ; les idaux de a et de a sont des idaux de g, car [a, a ] = 0. Montrons enn que lassertion (iv) implique lassertion (i). Supposons que g soit somme directe vectorielle didaux simples g1 , . . . , gk . La forme de Killing de gi est non dgnre, car son noyau, qui est un idal de gi nest pas gal gi par le critre de rsolubilit de Cartan (une algbre de Lie simple nest pas rsoluble). Nous avons [gi , gj ] gi gj = {0} si i = j. Donc, par un calcul de trace par blocs, la forme de Killing de g est non dgnre. Le rsultat dcoule alors du lemme 1.15 (3). Remarque. Pour tout corps (commutatif) K, par le lemme 1.15 (2) et par le calcul de la forme de Killing de gln (K), puisque sln (K) est un idal de gln (K) (car la trace dun commutateur de matrices est nulle), la forme de Killing B de lalgbre de Lie sln (K) est Il est alors facile de vrier que B est non dgnre, donc sln (K) est semi-simple. Nous montrerons en fait que sln (K) est simple ultrieurement (voir lexercice E.10). Nous avons gln (K) = sln (K) z(gln (K)). Puisque le centre de gln (K) est non trivial, gln (K) nest pas semi-simple. Notons que sln (K) = [sln (K), sln (K)] = [gln (K), gln (K)], par le rsultat suivant. Corollaire 1.21 Soit g une algbre de Lie semi-simple sur un corps de caractristique nulle. Alors le centre z(g) de g est nul, et g est gale son algbre drive : g = [g, g] , et toute drivation de g est intrieure (cest--dire de la forme ad X pour un X g). Dmonstration. La premire armation dcoule de (i). La seconde est immdiate si g est simple, et le rsultat dcoule alors de la dnition (iv). Lalgbre de Lie a = ad g (semi-simple car ad est un isomorphisme sur son image) est un idal de lalgbre de Lie = Der(g), car pour toute drivation D et tout X g, nous avons [D, ad X] = ad(DX) (une simple rcriture de la proprit de drivation). Notons a lorthogonal de a dans pour la forme de Killing de . Puisque la forme de Killing de a, restriction de la forme de Killing de a par le lemme 1.15 (2), est non dgnre, nous avons g = a a . Soit D a , montrons que D = 0, ce qui conclut. Or ad(DX) = [D, ad X] a a = {0} et ad est injective. 39 X, Y sln (K), B(X, Y ) = 2n tr(XY ) . tr(X Z) = tr(X ad [X, Y ]) = tr(X [ad X, ad Y ]) = tr([ad X, X ] ad Y ]) .

1.3.6

Sous-algbre de Cartan dune algbre de Lie semi-simple

Soient K un corps de caractristique nulle et g une algbre de Lie de dimension nie sur K, qui est semi-simple. Rappelons quun endomorphisme dun espace vectoriel de dimension nie sur K est dit semi-simple sil est diagonalisable sur une clture algbrique de K. Une sous-algbre de Cartan de g est une sous-algbre de Lie h de g vriant lune des deux conditions suivantes, que nous montrerons tre quivalentes : (i) h est ablienne, ad x est semi-simple pour tout x h, et h est maximale pour ces proprits ; (ii) h est ablienne maximale, et ad x est semi-simple pour tout x h. On fera bien attention ne pas confondre la notion de sous-algbre de Cartan que nous venons de dnir et celle de sous-espace de Cartan que nous dnirons dans la partie 4.2.1. Ces dnitions sont les plus pratiques pour les algbres de Lie semi-simple. Nous renvoyons la discussion prcdant la proposition 1.28 pour une dnition des sous-algbres de Cartan valable pour tous les algbres de Lie sur un corps inni. Une sous-algbre de Cartan h est dite dploye si ad x est diagonalisable dans g pour tout x h. Si K = C, toute sous-algbre de Cartan h est bien sr dploye. Exemples. (1) Dans lalgbre de Lie semi-simple sln (K), lensemble h des matrices diagonales est une sous-algbre ablienne, maximale car tout lment de Mn (K) qui commute avec toute matrice diagonale de trace nulle est diagonale, et pour tout x h, si (ei )1in est la base canonique de K n et (Ei,j )1i,jn celle de Mn (K), si x(ei ) = i ei , alors ad x (Ei,j ) = (i j )Ei,j ,

( 7 )

donc ad x est diagonale dans la base {E1,1 Ek,k }2kn {Ei,j }1i=jn de sln (K). Donc h est une sous-algbre de Cartan dploye de sln (K). (2) Si g est le produit de deux algbres de Lie g1 et g2 sur K de dimension nie, semisimples, si hi est une sous-algbre de Cartan de gi pour i = 1, 2, alors h1 h2 est une sous-algbre de Cartan de g, qui est dploye si h1 et h2 le sont. Dmonstration de lquivalence des dnitions des sous-algbres de Cartan. Il est immdiat quune sous-algbre de Lie h de g vriant (ii) vrie aussi (i). La rciproque dcoule du rsultat suivant. Proposition 1.22 Soit h une sous-algbre de Lie ablienne de g telle que ad x soit semisimple pour tout x h, et qui est maximale pour ces proprits. Alors h est gale son normalisateur ng(h) = {X g : H h, ad H(X) h} dans g, est gale son commutant zg(h) = {X g : H h, ad H(X) = 0} dans g, et en particulier est ablienne maximale. Dmonstration. Notons B la forme de Killing de g. Puisque h est ablienne, nous avons h zg(h) ng(h) . Pour montrer la rciproque, nous commenons par quatre lemmes. 40

Lemme 1.23 Nous avons g = zg(h) [h, g]. En particulier, ng(h) = zg(h). Dmonstration. Montrons pour commencer que zg(h) [h, g] = {0}. Nous pouvons supposer que K est algbriquement clos. Puisque les endomorphismes ad X pour X h sont diagonalisables, et commutent entre eux par la formule de Jacobi, ils sont simultanment diagonalisables. Lespace propre commun pour la valeur propre 0 est le commutant de h. Nous avons donc une dcomposition en somme directe g = zg(h) g ,

o est un ensemble dapplications de h dans K non identiquement nulles et g = {x g : H h, ad H(x) = (H)x} . Puisque [h, g ] g et [h, zg(h)] = 0, nous avons donc [h, g] g , et la premire armation en dcoule. Puisque B est non dgnre, il sut alors, pour obtenir que g = zg(h) [h, g], de montrer que lorthogonal de [h, g] pour B est gal zg(h). Or, puisque B est non dgnre et ad-alterne, un lment X de g appartient zg(h) si et seulement si [X, Y ] = 0 pour tout Y h, si et seulement si B([X, Y ], Z) = 0 pour tous les Y h et Z g, si et seulement si B(X, [Y, Z]) = 0 pour tous les Y h et Z g, si et seulement si X appartient lorthogonal de [h, g] pour B. Enn, si X normalise h, alors pour tout Y h, nous avons [X, Y ] [h, g] h [h, g] zg(h) = {0} , donc X centralise h. Lemme 1.24 Soient X et Y deux endomorphismes dun espace vectoriel sur K de dimension nie tels que X soit nilpotent et [X, [X, Y ]] = 0. Alors XY est nilpotent. Dmonstration. Nous pouvons supposer K algbriquement clos. Posons Z = [X, Y ]. Puisque X et Z commutent, pour tout n 1, nous avons Z n = [X, Y Z n1 ], donc tr Z n = 0. En trigonalisant Z, ceci implique que Z est nilpotent. Lemme 1.25 Soit X un lment de g tel que ad X soit nilpotent. Alors il existe H g tel que [H, X] = X. Dmonstration. Puisque B est ad-alterne, lendomorphisme (ad X)2 est auto-adjoint : Y, Z g, B((ad X)2 Y, Z) = B(Y, (ad X)2 Z) . Notons N le noyau de (ad X)2 et N son orthogonal pour B. Puisque B est non dgnre, limage de lendomorphisme auto-adjoint (ad X)2 est gale N (car contenue dans N et de mme dimension). Pour tout Z N , le produit ad X ad Z est nilpotent par le lemme 1.24, et donc B(X, Z) = 0. Par consquent, X N et il existe Y g tel que X = (ad X)2 Y . En posant H = [X, Y ], le rsultat en dcoule. 41

Lemme 1.26 (Dcomposition de Jordan) Soit g une algbre de Lie semi-simple sur un corps de caractristique nulle K. Tout lment X de g scrit de manire unique X = Xs +Xn avec ad Xs semi-simple, ad Xn nilpotent et [Xs , Xn ] = 0. De plus, pour tout Y g, si [X, Y ] = 0, alors [Xs , Y ] = 0 et [Xn , Y ] = 0. Dmonstration. Puisque [ad Xs , ad Xn ] = ad[Xs , Xn ] = 0, lcriture ad X = ad Xs + ad Xn est la dcomposition de Jordan de lendomorphisme ad X (voir le thorme 1.17). Donc lunicit dcoule de lunicit dans la dcomposition de Jordan de ad X, et du fait que ad est injective (car le centre de g est trivial). Montrons que la partie semi-simple (ad X)s dans la dcomposition de Jordan de ad X est une drivation. Par le corollaire 1.21, ceci montrera quil existe Xs g tel que (ad X)s = ad Xs . Alors en posant Xn = X Xs , le rsultat en dcoulera facilement. Nous pouvons supposer que K est algbriquement clos. Pour tout K, notons g = n nN ker(ad X id) , qui est le sous-espace caractristique de si est une valeur propre de ad X, et qui est gal {0} sinon. Nous avons g = K g . Pour montrer que (ad X)s est une drivation, il sut donc de montrer que [(ad X)s Y, Z] + [Y, (ad X)s Z] = (ad X)s [Y, Z] pour tous les , K, Y g et Z g . Puisque la restriction de ad X g est la somme de idg et dun endomorphisme nilpotent, (ad X)s agit par multiplication par sur g . Il sut donc de montrer que [g , g ] g+ . Ceci dcoule de la formule suivante, qui se montre par rcurrence sur n N : pour tous les X, Y, Z g et , K, nous avons (ad X ( + ) id)n [Y, Z] =
0kn

n p

(ad X id)k Y, (ad X id)nk Z] .

( 8 )

La dernire assertion dcoule du fait que ad Xs = (ad X)s est un polynme de terme constant nul en ad X. Aprs ces lemmes, soit X zg(h), montrons que X h, ce qui conclut car ng(h) = zg(h) par le lemme 1.23. Considrons la dcomposition de Jordan X = Xs + Xn de X (voir le lemme 1.26). Par la dernire assertion de ce lemme, Xs commute avec tout lment de h, donc appartient h par maximalit de h. Nous pouvons par consquent supposer que X = Xn , donc que ad X est nilpotent. Montrons alors que X = 0, ce qui conclut. Par le lemme 1.25, soit H g tel que [H, X] = X. Par le lemme 1.23, crivons H = H + [Y, Z] avec H zg(h), Y h et Z g. Puisque X [H, X] = 0 et [X, Y ] = 0, nous avons par lidentit de Jacobi, X [H , X] = [[Y, Z], X] = [Y, [Z, X]] + [Z, [X, Y ]] = [Y, [Z, X]] . Le terme de gauche appartient la sous-algbre de Lie zg(h), celui de droite [h, g]. Comme zg(h) [h, g] = {0} par le lemme 1.23, nous avons X [H , X] = 0. Nous pouvons donc supposer que H zg(h). Notons H = Hs + Hn la dcomposition de Jordan de H. Puisque H zg(h), par la dernire assertion du lemme 1.26, Hs commute encore avec h, donc appartient h par maximalit de h. Par consquent (ad Hs )X = [Hs , X] = 0 et (ad Hn )X = [Hn , X] = X. Par rcurrence, (ad Hn )k (X) = X pour tout k 1, car puisque ad Hs et ad Hn commutent, nous avons (ad Hn )k+1 (X) = (ad Hn )k ((ad Hs )X + (ad Hn )X) = (ad Hs + ad Hn ) (ad Hn )k (X) = [H, X] = X . 42

Puisque ad Hn est nilpotent, nous avons donc X = 0, comme voulu. Toute algbre de Lie semi-simple admet au moins une sous-algbre de Cartan. En eet, {0} est une sous-algbre ablienne forme dlments dont les images par ad sont semi-simples, et il sut de prendre une telle sous-algbre de Lie de dimension maximale. Le rsultat suivant (voir [Bou4, Chap. VII, 2,3], [Kna, Chap. II, 3]) arme lunicit modulo automorphismes des sous-algbres de Cartan dune algbre de Lie semi-simple complexe. Un automophisme intrieur de g est un lment de End(g) de la forme ead x pour x g. Un tel lment est inversible (dinverse e ad x ) et cest un automorphisme dalgbres de Lie, par la proprit de drivation de ad x itre :
n

(ad x)n [y, z] =

p=0

n [(ad x)p y, (ad x)np z] . p

( 9 )

Thorme 1.27 Si K est algbriquement clos, le sous-groupe de Aut(g) engendr par les automorphismes intrieurs de g agit transitivement sur lensemble des sous-algbres de Cartan de g. Remarque. Puisque g est semi-simple, le sous-groupe de Aut(g) engendr par les automorphismes intrieurs de g est en fait gal la composante neutre de Aut(g) (voir [Bou4, Chap. VIII, 10, exerc. 5]). Nous montrerons dans la partie 4.2.4 (voir [Bou4, Chap. VII, 3, Tho. 2]) que mme si K nest pas algbriquement clos (mais toujours suppos de caractristique nulle), la dimension dune sous-algbre de Cartan de g est indpendante du choix de celle-ci. Cette dimension est appele le rang de g. Nous donnons ci-dessous (voir aussi [Bou4, Chap. VII, 2,3]) une dnition quivalente (celle de sous-algbre nilpotente, gale son normalisateur) des sous-algbres de Cartan lorsque K est algbriquement clos, qui sert dmontrer le rsultat dunicit ci-dessus, mais nous ne nous en servirons pas par la suite. Elle a lavantage dtre valable pour toute algbre de Lie de dimension nie sur un corps inni, avec des proprits analogues (existence et conjugaison par le sous-groupe engendr par les automorphisme intrieur si le corps de base est algbriquement clos de caractristique nulle), voir loc. cit. . Proposition 1.28 Soit g une algbre de Lie semi-simple sur un corps K algbriquement clos de caractristique nulle. Une sous-algbre de Lie h de g est une sous-algbre de Cartan si et seulement si h est nilpotente et gale son normalisateur dans g. Nous avons dj montr dans la proposition 1.22 quune sous-algbre de Cartan est nilpotente et gale son normalisateur, et donc il sagit de montrer la rciproque. Soient h une algbre de Lie nilpotente et V un h-module de dimension nie. Notons : h gl(V ) la reprsentation (dalgbres de Lie) de h dans V . Pour toute application : h K, notons V = {v V : x h, n N, ((x) (x) id)n v = 0} . Si V = {0}, le sous-espace vectoriel V est appel un espace de poids gnralis, et un poids de h dans V . 43

Proposition 1.29 (1) Un espace de poids gnralis V est invariant par (h). (2) Un poids est une forme linaire sur h, qui sannule sur [h, h]. (3) Si K est algbriquement clos, alors V = V est la somme directe de ses espaces de poids gnraliss. (4) Si K est algbriquement clos, il existe une base de V dans laquelle les (H) sont triangulaires suprieurs pour tout H h. Dmonstration. (1) Pour toute sous-algbre de Lie h de h et toute application : h K, notons V ,h = {v V : x h , n N, ((x) (x) id)n v = 0} . Montrons plus gnralement que V ,h est invariant par (h). Nous laissons en exercice au lecteur de montrer par rcurrence que pour tous les endomorphismes f et g dun espace vectoriel et tout n N, nous avons
n

fn g =

k=0

n (ad f )k (g) f nk . k

( 10 )

Soient v V ,h et y h. Montrons que pour tout x h , nous avons ((x) (x) id)n (x)v = 0 pour n assez grand, ce qui montre lassertion (1). Posons f = (x) (x) id et g = (x). Puisque h est nilpotente, lalgbre de Lie (h) est nilpotente. Par le thorme dEngel 1.18, lendomorphisme ad f = ad (x) est nilpotent, donc (ad f )k (g) = 0 pour tout k assez grand. Puisque v V ,h , pour tout k assez grand, nous avons f k (v) = 0. Le rsultat dcoule donc de la formule ( 10 ). (2) Comme (x) (x) idV est nilpotent, nous avons tr (x) = (x) dim V . Puisque dim V est non nul si est un poids, ceci montre la linarit de . Comme la trace dun commutateur dendomorphismes est nulle, sannule sur [h, h]. (3) Raisonnons par rcurrence sur la dimension de V . Si (x) na quune valeur propre pour tout x dans V , alors en la notant (x), nous avons V = V , ce qui conclut. Sinon, soit x V tel que (x) possde au moins deux valeurs propres distinctes 1 , . . . , n . Notons h la droite vectorielle de h engendre par x, et , . . . , les formes linaires sur h telles n 1 que (x) = i pour 1 i n. Remarquons que V ,h est le sous-espace caractristique de i i (x) pour la valeur propre i , donc que V = 1in V ,h . Par la version plus gnrale de i lassertion (1), les sous-espaces V ,h sont invariants par (h), et de dimension strictement i infrieure celle de V . Le rsultat en dcoule donc par rcurrence. (4) Soit un poids. Comme sannule sur [h, h], lapplication x (x) (x) idV est une reprsentation de h dans V . Par construction, limage de cette reprsentation est constitue dendomorphismes nilpotents. Par le lemme 1.19, il existe un vecteur v V non nul tel que (x)v = (x)v pour tout x h. Par rcurrence applique V /Kv, il existe une base de V dans laquelle les (x) pour x h sont triangulaires suprieurs. Comme V = V par lassertion (3), le rsultat en dcoule. Si K est algbriquement clos, pour toute sous-algbre de Lie nilpotente h de g, notons h lensemble des poids non nuls de h pour laction adjointe de h sur g, et g = g0,h g,h
h

Notons dans la suite (x) la restriction de (x) V , pour tout x h.

44

la dcomposition en espaces de poids gnraliss de g correspondante (et g,h = {0} si h ({0} h) ). Proposition 1.30 Supposons K algbriquement clos. Soit h une sous-algbre de Lie nilpotente de g, gale son normalisateur. Notons B la forme de Killing de g. (1) Nous avons g0,h = h. (2) Soient , h {0} tels que + = 0. Alors B(g,h, g,h) = 0. (3) La restriction h de B est non dgnre. (4) Lalgbre de Lie h est ablienne maximale, et ad X est semi-simple pour tout X h. Lassertion (4) dmontre la proposition 1.28. Dmonstration. (1) Puisque h est nilpotente et par le thorme dEngel 1.18, la sousalgbre de Lie h est contenue dans g0,h. Rciproquement, supposons par labsurde que g0,h = h. Notons que si X h, alors lendomorphisme ad X prserve h, car h est une algbre de Lie, et prserve g0,h par la proposition 1.29 (1), donc induit un endomorphisme de g0,h/h. Par le lemme 1.19 appliqu V = g0,h/h et g la sous-algbre de Lie de gl(V ) forme des images des ad X pour X h, il existe x g0,h h tel que [h, x] h. Donc x normalise h, donc appartient h, contradiction. (2) Pour tous les , h , par la formule ( 8 ), nous avons [g ,h, g ,h] g + ,h . Pour tous les , , h {0} et x g,h, y g,h, nous avons donc ad x ad y (g,h) g++,h. Comme + + = si + = 0, en prenant une base de g adapte la dcomposition en somme directe g = h {0} g,h, les coecients diagonaux de ad x ad y sont nuls. Donc B(x, y) = tr(ad x ad y) = 0, ce qui montre lassertion (2).

(3) Par lassertion (2), lalgbre de Lie h est orthogonale g,h pour tout h. Donc tout lment x de lintersection de h et de son orthogonal pour B est contenu dans le noyau de B. Celui-ci est nul car g est semi-simple. Do x = 0, ce qui montre le rsultat.

(4) Soient x [h, h] et y h. Les endomorphismes ad x et ad y sont simultanment trigonalisables par la proposition 1.29 (4). Les valeurs propres de ad x sont nulles par la proposition 1.29 (2). Donc B(x, y) = tr(ad x ad y) = 0, ceci pour tout y h. Do x = 0 par lassertion (3), et h est ablienne. Comme le centralisateur de h est contenu dans son normalisateur, qui est gal h, lalgbre de Lie h est ablienne maximale. Soit X h, crivons X = Xs + Xn sa dcomposition de Jordan. Alors Xn commute avec tout lment de h, par la dernire assertion du lemme 1.26, donc appartient h. Comme ad Xn est nilpotent, ses valeurs propres sont nulles. Par largument ci-dessus, nous en dduisons que Xn est orthogonale pour B tout lment de h, donc est nul. Donc ad X = ad Xs est semi-simple. Donnons une construction dune sous-algbre de Lie nilpotente gale son normalisateur, qui est valable mme lorsque g nest pas suppose semi-simple. Pour tout x g, notons g0 (x) = {y g : k N, (ad x)k y = 0} = ker (ad x)k
kN

45

le sous-espace caractristique de ad x dans g pour la valeur propre 0, appel le nilespace de ad x dans g. Par la formule ( 9 ), le sous-espace vectoriel g0 (x) est une sous-algbre de Lie de g. Un lment x de g est dit rgulier si dim g0 (x) = min dim g0 (y) .
yg

Lexistence dune sous-algbre de Lie nilpotente gale son normalisateur dcoule alors de lexistence (immdiate) dlments rguliers et de la proposition suivante. Proposition 1.31 Soit g une algbre de Lie de dimension nie sur un corps de caractristique nulle K. Pour tout lment rgulier x de g, la sous-algbre de Lie g0 (x) est nilpotente, gale son normalisateur. Lensemble des lments rguliers de g est un ouvert dense de g si K = R, et un ouvert dense connexe de g si K = C. Dmonstration. Soit x un lment rgulier de g, notons h = g0 (x) et r 1 la dimension de h. Montrons que lalgbre de Lie h est nilpotente. Par le thorme dEngel 1.18, il sut de montrer que lendomorphisme ad y de h est nilpotent pour tout y h. Fixons une base de h, et compltons-la en une base de g. Pour tout y h, notons Py = Py (t) le polynme caractristique de ad y et my r la dimension du nilespace g0 (y)), cest--dire la multiplicit de la valeur propre 0 de ad y. Alors Py (t) est de degr la dimension de g, et il est divisible par tmy donc par tr . Puisque h est stable par ad y, le polynme Py est un produit Py Py avec Py le polynme caractristique de la restriction de ad y h. Puisque (u, v) ad u (v) = [u, v] est bilinaire, les coecients de Py et Py nadmet pas 0 comme racine, le sont des polynmes en les coordonnes de y. Puisque Px terme constant de Py est un polynme non nul en les coordonnes de y. Pour tout i < r, le coecient de ti dans Py Py est le polynme nul en les coordonnes de y. Par rcurrence sur i dans P est aussi le polynme nul en les coordonnes de y. Comme P i, le coecient de t y y est unitaire et de degr r, nous avons donc Py (t) = tr . Donc lendomorphisme ad y : h h est nilpotent, ce quil fallait dmontrer. Montrons que le normalisateur de h dans g est gal h. Si y n(h), alors [x, z] h, donc (ad x)n+1 z = (ad x)n [x, z] = 0 pour n assez grand, donc z g0 (x) = h, ce qui montre le rsultat. Nous renvoyons [Bou4, Hel] pour la dmonstration des autres assertions. Si K = C, lunicit modulo automorphismes des sous-algbres de Cartan implique que toute sous-algbre de Cartan est le nilespace g0 (x) dun lment rgulier x de g. 1.3.7 Systme de racines dune algbre de Lie complexe semi-simple

Soit g une algbre de Lie de dimension nie sur K = R ou K = C, qui est semi-simple. Soient B sa forme de Killing et h une sous-algbre de Cartan de g, suppose dploye (ce qui est toujours le cas si K = C). Pour tout lment du dual h de h, posons g = {x g : H h, ad H(x) = (H)x} . En particulier, par la proposition 1.22, nous avons g0 = h . 46

Par la formule de Jacobi, nous avons [g , g ] g+ . ( 11 )

Appelons racine de h tout lment h tel que = 0 et g = {0}, et espace de racine de le sous-espace vectoriel g . Notons lensemble des racines de h. Par la formule prcdente, si , et + {0}, alors [g , g ] = 0 ; de plus [g , g ] h. / Puisque les endomorphismes ad X pour X h sont diagonalisables, et commutent entre eux par la formule de Jacobi, ils sont simultanment diagonalisables, et les valeurs propres de ad X dpendent linairement de ad X. Nous avons donc une dcomposition en somme directe g=h g ,

appele dcomposition en espaces de racine. Par exemple, il dcoule de la formule ( 7 ) que les racines de lalgbre de Lie semi-simple sln (K), relativement la sous-algbre de Cartan (dploye) h des matrices diagonales, sont les formes linaires i,j : H = (Hi,j )1i,jn Hi,i Hj,j

pour 1 i = j n, despace de racine KEi,j , o (Ei,j )1i,jq est la base canonique de Mn (K). La dcomposition en espaces de racine correspondante est donc sln (K) = h KEi,j .
1i=jn

Lemme 1.32 (1) Pour tous les , {0} tels que + = 0, les sous-espaces vectoriels g et g sont orthogonaux pour la forme de Killing. (2) Si , alors . (3) Les restrictions de B h h et g g pour tout sont non dgnres. (4) Lespace vectoriel dual h est engendr par . Dmonstration. (1) Si x g , y g et H h, alors puisque B est ad-alterne, nous avons 0 = B([H, x], y) + B(x, [H, y]) = (H)B(x, y) + (H)B(x, y) = B(x, y) ( + )(H) . (2)-(3) Puisque h est orthogonal g pour tout , si x h h , alors x est orthogonal g = h g , donc nul car B est non dgnre. Do B|hh est non dgnre. De mme, pour tout , si x g {0} est orthogonal g (par exemple si g = {0}), alors x est orthogonal g, donc nul, contradiction. Le rsultat en dcoule. (4) Sinon, il existe H h non nul tel que (H) = 0 pour tout . Mais alors H appartient au centre de g, qui est nul car g est semi-simple. Lapplication bilinaire symtrique B, tant non dgnre sur h h, induit un isomorphisme linaire de h dans h, que nous noterons h : le vecteur h est lunique lment de h tel que B(h , H) = (H) pour tout H h. 47

Lemme 1.33 Soit . (i) Pour tous les x g et y g , nous avons [x, y] = B(x, y) h , et en particulier [g , g ] est de dimension 1, engendr par h . (ii) Nous avons (h ) = B(h , h ) = 0. (iii) La dimension de g est 1 et si n Z et n , alors n = 1. Dmonstration. (i) Nous avons vu que [g , g ] est contenu dans h. Pour tout H h, nous avons B(h, [x, y]) = B([h, x], y) = (h)B(x, y). Par dnition de h , lgalit cherche en dcoule. Comme B nest pas nulle sur g g par le lemme 1.32 (3), la seconde assertion de (i) en dcoule (ii) Par (i), soient x g et y g tels que [x, y] = h . Pour toute racine , considrons le sous-espace vectoriel E = nZ g+n . Il est invariant par ad x et ad y, daprs la formule ( 11 ). La trace de ad h = [ad x, ad y] sur E, qui est nZ ( + ) dim g ) = 0, ceci impliquerait que (h ) = 0, n)(h +n , est nulle. Si nous avions (h pour toute racine . Ceci contredit lassertion (4) du lemme 1.32. (iii) Avec x et y comme ci-dessus, considrons cette fois-ci le sous-espace vectoriel = Kx Kh E n1 gn . Il est invariant par ad x et ad y, par lassertion (i). La trace de ad h sur E , qui est (h ) + n1 (n)(h ) dim gn , est nulle, car ad h = [ad x, ad y]. Puisque (h ) = 0 par (ii), nous avons donc dim g = 1 et dim gn = 0 si n 2. Le rsultat en dcoule.
2h Pour tout , notons e un vecteur non nul de g . Posons h = B(h ,h ) , qui existe par le lemme 1.33 (ii). Notons f lunique lment de g tel que [e , f ] = h , qui existe par le lemme 1.33 (i) et le fait que B(x, y) = 0 si x g {0} et y g {0}, dont lunicit dcoule de lassertion (iii) de ce lemme.

Lemme 1.34 Pour tout , le triplet (e , f , h ) de g est un sl2 -triplet. Dmonstration. Nous avons [e , f ] = h par construction de f . Puisque (h ) = 2 par le lemme 1.33 (ii) et puisque e g et f g , nous avons [h , e ] = (h )e = 2e et [h , f ] = (h )f = 2f .

Notons h le sous-espace vectoriel rel de h engendr par les racines, hR = R h R le sous-espace vectoriel de h correspondant, et , la forme bilinaire symtrique sur h R dduite de B par dualit, cest--dire dnie par , h , R , = B(h , h ) = (h ) = (h ) .

Proposition 1.35 La forme bilinaire symtrique , est dnie positive sur h , et R est un systme de racines rduit de lespace euclidien h . De plus, h = hR si K = R et R h = hR ihR si K = C. Dmonstration. Montrons tout dabord que la restriction de B hR = R h est positive, ce qui montre la premire armation par dualit et le lemme 1.32. Pour tout H hR , puisque lendomorphisme ad H de g est diagonal par bloc dans la dcomposition 48

de g en espaces de racine, valant la multiplication par (X) sur lespace de racine g (de dimension 1), et par dnition de h , nous avons B(H, H) = tr(ad H ad H) = (H)2 =

B(h , H)2 .

Il sut donc de montrer que B(h , h ) est rel pour tous les , . Ceci est immdiat si K = R, supposons donc K = C. Or par les dnitions de h et h et le lemme 1.33 (ii), nous avons 1 B(h , h ) = (h ) = (h )(h ) . 2 Puisque (e , f , h ) est un sl2 -triplet, par le corollaire 1.9 appliqu la reprsentation adjointe ad de g, les valeurs propres (h ) de ad h sont entires. Il sut donc de montrer que (h ) est rel, ce qui dcoule du calcul 1 1 (h ) = B(h , h ) = (h )2 B(h , h ) = (h )2 4 4 (h ) .

Montrons maintenant que est un systme de racines rduit de h , qui est bien un R espace euclidien pour , par ce qui prcde, engendr par par dnition. , Soient et dans , notons p = 2 , = (h ). Il sagit de vrier que p Z et p . Quitte remplacer par , nous pouvons supposer que p 0. En notant s la sous-algbre de Lie de g engendre par e , f , h , alors V = nZ g+n , muni de la restriction s de la reprsentation adjointe ad, est un s -module, car ad e (g+n ) g+(n+1) et ad f (g+n ) g+(n1) par la formule ( 11 ) et ad h (g+n ) g+n . Par le corollaire 1.9, les valeurs propres de (ad h )|V sont entires et symtriques par rapport lorigine. Donc p = (h ) est entier et p est une des valeurs propres de (ad h )|V , qui sont parmi les (h ) + n(h ) = p + 2n pour n Z. Donc gp est non nul, ce qui signie que p est bien une racine. Le systme de racine est rduit par le lemme 1.33 (iii). Le systme de racines sera appel le systme de racines de g (relativement h). Par le thorme 1.27, lorsque K = C, il ne dpend pas du choix de h, automorphisme intrieur prs de g. Si K = C, le rang de g est la dimension de lespace vectoriel rel hR . Par la dcomposition en espaces de racines, il est immdiat que g est simple si et seulement si son systme de racines est irrductible. Exercice E.10 (1) Montrer que les algbres de Lie complexes suivantes sont semi-simples, et que leur systme de racines est de type indiqu dans la colonne du milieu, donc que ces algbres de Lie sont simples sln+1 (C) so2n+1 (C) spn (C) so2n (C) 49 An Bn Cn Dn n1 n2 n3 n4

Ceci montre la premire armation. Puisque B est non dgnr sur h par le lemme 1.32 (3), nous en dduisons donc que B est dnie ngative sur ihR . Donc hR ihR = {0}, et puisque que engendre h par le lemme 1.32 (4), nous avons h = hR ihR .

(2) Montrer lexistence disomorphismes dalgbres de Lie so3 (C) sl2 (C) sp1 (C) , so4 (C) sl2 (C) sl2 (C) , so5 (C) sp2 (C) , so6 (C) sl4 (C) . Le thorme de classication des algbres de Lie complexes semi-simples par leur systme de racine est le suivant. Nous renvoyons par exemple [Ser1, Bou1] et [Kna, Chap. II, 9] pour une dmonstration de ce rsultat. Thorme 1.36 (1) Pour tout systme de racines rduit , il existe une algbre de Lie complexe semi-simple de systme de racines isomorphe , unique isomorphisme prs. (2) Soit g une algbre de Lie complexe semi-simple, de systme de racines . Soit (n, ), la matrice de Cartan de relativement une base de . Pour tout , soient e , f , h comme ci-dessus. Alors g est dnie par les gnrateurs e , f , h o et les relations, o , parcourent les lments de : [h , h ] = 0, [e , f ] = h si = , et [e , f ] = 0 sinon, [h , e ] = n, e , [h , f ] = n, f , (ad e )1n, (e ) = 0 si = , (ad f )1n, (f ) = 0 si = . Rappelons que n, 0 si et sont deux lments de la base . Les deux dernires relations, appeles relations de Serre, sont donc bien dnies. Puisque g est simple si et seulement si son systme de racines est irrductible, la classication isomorphisme prs des systmes de racines rduits irrductibles donne une classication isomorphisme prs des algbres de Lie complexes (de dimension nie) semisimples : toute telle algbre de Lie est isomorphe un produit ni dalgbres de Lie simples de type An , Bn , Cn , Dn , E6 , E7 , E8 , F4 ou G2 . En particulier, toute algbre de Lie complexe simple de dimension nie assez grande est isomorphe sln (C), son (C) ou spn (C) pour un n dans N.

1.4

Correspondance entre algbres de Lie et groupes de Lie

Le but de ce chapitre est de donner une bijection entre lensemble des classes disomorphisme dalgbres de Lie (relles ou complexes) de dimension nie et lensemble des groupes de Lie (rels ou complexes) connexes modulo revtements. 1.4.1 Application exponentielle

Soit G un groupe de Lie, dlment neutre e, et soit g son algbre de Lie. tudions tout dabord les proprits de lintgration des champs de vecteurs invariants gauche. Rappelons quun champ de vecteurs X de classe C (respectivement analytique complexe) sur une varit M de classe C (respectivement analytique complexe) est complet si son ot local est dni sur R M . Ceci implique que (t )tR est un groupe un 50

paramtre C de diomorphismes C (respectivement analytiques complexes) de M . Un critre ncessaire et susant (laiss en exercice, voir par exemple [Pau2]) pour que X soit complet est quil existe > 0 tel que pour tout x dans M , il existe un voisinage ouvert Ux de x tel que le ot local de X soit dni sur ] , [ Ux . Proposition 1.37 Soient G un groupe de Lie rel (respectivement complexe) et X un champ de vecteurs invariant gauche sur G. Alors X est de classe C (respectivement analytique complexe) et il est complet. De plus, si (t )tR est le ot de X, alors pour tous les t dans R et g, g dans G, nous avons t (gg ) = gt (g ) . Dmonstration. La rgularit de X dcoule du fait que X(x) = Te Lx ( X(e)) pour tout x dans G. Soient x, g G. Notons (t ) le ot local de X. Considrons lapplication y : t gt (x). Alors y(0) = gx et y = Tt (x) Lg d t (x) = Tt (x) Lg X(t (x)) = Tt (x) Lg Te Lt (x) ( X(e)) dt = Te Lgt (x) ( X(e)) = X(y) .

Par la proprit dunicit du ot local de X, le point t (gx) est donc dni si et seulement si t (x) lest, et sur son ensemble de dnition, nous avons t (gx) = gt (x) . Daprs le thorme dexistence du ot local, il existe > 0 et un voisinage ouvert U de e tel que t (x) soit dni pour (t, x) dans ] , [ U . Donc t (x) est dni pour (t, x) dans ] , [ gU , pour tout g dans G. Par le rappel, X est donc complet. Daprs ce qui prcde, nous avons bien t (gg ) = gt (g ) pour tous les t dans R et g, g dans G. Le ot des champs de vecteurs invariants gauche permet de dnir une application canonique cruciale sur lalgbre de Lie dun groupe de Lie et valeurs dans ce groupe de Lie. Appelons application exponentielle, et notons exp = expG : g G lapplication dnie par X exp X = 1 (e), o (t )tR est le ot du champ de vecteurs invariant gauche X associ X. Notons que comme un champ de vecteurs invariant gauche est complet, le temps 1 de son ot est bien dni. Les exemples ci-dessous expliquent lorigine de cette terminologie. Exemples. (1) Si G est le groupe de Lie rel ablien U = S1 = {ei : R}, dlment neutre 1, alors lespace tangent Tei S1 en un point ei de la sous-varit S1 est le sous-espace vectoriel iei R de C. Un lment X de lalgbre de Lie de G est donc de la forme X = ix pour x dans R. Le champ de vecteurs invariant gauche associ X est lapplication X : ei X(ei ) = ixei . Soit (t )tR le ot de ce champ de vecteurs (dni sur R S1 ). Alors lapplication t t (1) de R dans C est lunique solution de lquation direntielle d t (1) = ix t (1) dt 51

avec condition initiale 0 (1) = 1. Donc t (1) = eixt et exp X = eX . Donc lapplication exponentielle du groupe de Lie S1 , dont lalgbre de Lie est identie comme ci-dessus avec la droite des nombres complexes imaginaires purs, concide avec lexponentielle des nombres complexes. (2) Soit K = R ou K = C. Soit G le groupe de Lie GLn (K), dlment neutre Id, et g = gln (K) son algbre de Lie. Comme la multiplication gauche par un lment de G est un endomorphisme linaire de Mn (K), pour tout X dans g, le champ de vecteurs invariant gauche associ X est g X(g) = gX , o gX est la multiplication des matrices g et X. Soit (t )tR le ot de ce champ de vecteurs (dni sur R G). Alors lapplication t t (Id) de R dans G est lunique solution de lquation direntielle d t (Id) = t (Id)X dt avec condition initiale 0 (Id) = Id. Donc t (Id) = etX = exp X = eX . Donc lapplication exponentielle du groupe de Lie GLn (K), dont lalgbre de Lie est gln (K), concide avec lapplication exponentielle des matrices. (3) Si V est un espace vectoriel rel ou complexe de dimension nie, on montre de mme que lapplication exponentielle du groupe de Lie GL(V ), dnie sur lalgbre de Lie gl(V ) et valeurs dans GL(V ), concide avec lapplication exponentielle des endomorphismes. Proprits. (1) Par changement de variable sur le temps dans lquation direntielle dnissant le ot local, pour tout X dans g, si (t )tR est le ot du champ de vecteurs invariant gauche associ X, alors exp tX = t (e) . (2) Par les proprits de rgularit du ot local, lapplication exponentielle exp : g G est de classe C (et mme analytique relle si G est un groupe de Lie rel muni de sa structure de varit analytique relle canonique, voir le thorme 1.1, et analytique complexe si G est un groupe de Lie complexe). (3) La direntielle en 0 de lapplication exponentielle de G est lapplication identit de g. En eet, en identiant avec g lespace tangent en tout point de lespace vectoriel g, nous obtenous, pour tout X g, T0 exp(X) = d d exp(0 + tX) = t (e) = X(0 (e)) = X . dt |t=0 dt |t=0 52
n=0

tn n X et n!

(4) Par le thorme dinversion locale, on en dduit que lapplication exponentielle est un C -diomorphisme local en 0 (et mme analytique rel si G est muni de sa structure de varit analytique relle canonique, et analytique complexe si G est un groupe de Lie complexe). En particulier, si G est connexe, alors exp(g), qui contient un voisinage de lidentit, engendre G, par la proposition 1.3. Mais on prendra garde que lapplication exponentielle nest pas toujours surjective, comme par exemple dans le cas de G = SL2 (R). (5) Un sous-groupe un paramtre rel de G est un morphisme de groupes de Lie rels t t de R dans G (ou le groupe de Lie rel sous-jacent G lorsque G est complexe) souvent not (t )tR . Par exemple, le morphisme trivial t e est un sous-groupe un paramtre. Notons SG1 (G) lensemble des sous-groupes un paramtre de G. Alors lapplication de SG1 (G) dans g dnie par : (t )tR est une bijection, dinverse En eet, pour tout X dans g, par compltude et la proprit (1), le ot (exp tX)tR est un sous-groupe un paramtre, et il est clair que vaut lidentit de g. Rciproquement, d soient (t )tR un sous-groupe un paramtre de G, X = dt |t=0 t g et X le champ de vecteurs invariant gauche associ X. En particulier, 0 = e. De plus, d d d s = s0 +t = s t = Te Ls0 (X) = X(s0 ) . ds |s=s0 dt |t=0 dt |t=0 0 La proprit (1) et le thorme dunicit des courbes intgrales dun champ de vecteurs montrent donc que les applications t t et t exp tX concident. Lexemple du groupe de Lie quotient G = Rn /Zn , o n 1, montre quun sous-groupe un paramtre de G, mme non trivial, nest pas forcment injectif. Par ailleurs, son image nest pas forcment une sous-varit de G, il existe par exemple des sous-groupes un paramtre (non surjectifs) dimage dense dans G = Rn /Zn pour n 2. : X (exp tX)tR . d t dt |t=0

(6) Soient H un groupe de Lie et f : G H un morphisme de groupes de Lie. Alors, pour tout X dans g, nous avons f (expG (X)) = expH (Te f (X)) .

En eet, lapplication t f (expG (tX)) est un sous-groupe un paramtre de H, dont la drive en t = 0 est Te f (X), et on conclut par la proprit (5). Exemples. a) Pour tout g dans G, la conjugaison ig : G G dnie par h ghg1 est un morphisme de groupes de Lie, dapplication tangente en e gale Ad g par dnition. Donc, pour tout X dans g, exp(Ad g (X)) = g (exp X) g1 . b) Comme lapplication Ad : G GL(g) est un morphisme de groupes de Lie, dont lapplication tangente en lidentit est ad, pour tout X dans g, nous avons Ad(exp X) = ead X . 53

c) Pour K = R ou K = C, comme lapplication dterminant det : GLn (K) K est un morphisme de groupes de Lie, dont la direntielle en Id est lapplication trace tr : gln (K) K, nous avons X Mn (K), det(eX ) = etr(X) .

d) Si H est un sous-groupe de Lie immerg de G, dalgbre de Lie h (identie avec son image dans g), alors expH = expG |h . Il sut en eet dappliquer la formule de la proprit (6) limmersion injective i : H G, car Te i est alors linclusion h g. En particulier, pour K = R ou K = C, si G est un sous-groupe de Lie plong de GLn (K), alors lexponentielle de G est la restriction la sous-algbre de Lie g de gln (K) de lexponentielle des matrices de gln (K) dans GLn (K). (7) Pour tous les X et Y dans g, si [X, Y ] = 0, alors exp(X + Y ) = exp X exp Y . On fera bien attention que cette formule nest en gnral pas vraie sans lhypothse [X, Y ] = 0. Pour sen persuader, trouver un contre-exemple pour G = GL2 (R), et montrer que si la formule prcdente est vraie pour tous les X, Y dans lalgbre de Lie de G, alors la composante neutre de G est un groupe de Lie ablien. Pour dmontrer cette formule, remarquons que, pour tout s x dans R, lapplication t exp(sX) exp(tY ) exp(sX) est un sous-groupe un paramtre, dont la drive en t = 0 est Ad(exp sX)(Y ) = ead car ad X(Y ) = [X, Y ] = 0. Donc, par unicit, exp(sX) exp(tY ) exp(sX) = exp(tY ) . Donc lapplication t exp(tX) exp(tY ) est un sous-groupe un paramtre de G, dont la drive en t = 0 est X + Y . Encore une fois par unicit, nous avons exp(tX) exp(tY ) = exp(t(X + Y )) pour tout t, ce qui montre le rsultat. (8) Calculons lapplication tangente de lapplication exponentielle. Proposition 1.38 Pour tout X dans g, lapplication tangente TX exp : g Texp X G de lapplication exponentielle en X est donne par la formule suivante : TX exp = Te Lexp X ead(X) id ad(X) .
z

sX

(Y ) = Y

1 Avant de montrer cette formule, notons que lapplication : z e z si z = 0 n1 et 0 1 est analytique complexe sur C, car elle concide avec z n! . Si f est un n=1 endomorphisme dun espace vectoriel de dimension nie, nous noterons comme dhabitude

54

id (f ) (ou par abus e f ) la valeur de la srie convergente dendomorphismes obtenue par substitution de z par f . Pour tous les g, h dans G et v dans Th G, notons par abus

g v = Th Lg (v) Tgh G , et Avec ces notations, notons que par dnition Ad g (Z) = g Z g1 (labsence de parenthsage vient du fait que Lg et Rg commutent). Dmonstration. Il revient au mme de montrer que (exp X) TX exp = (ad(X)) . Soient X, Y dans g et s, t dans R. Notons fX : R End(g) lapplication dnie par fX (s) : Y s (exp(sX)) TsX exp(Y ) . En drivant par rapport X lquation exp (s + t)X = exp sX exp tX, on obtient, pour tout Y dans g, (s + t)T(s+t)X exp (Y ) = s(TsX exp (Y )) (exp tX) + t(exp sX) (TtX exp (Y )) . En se ramenant dans g par (exp (s + t)X) , on obtient fX (s + t) = Ad(exp(tX)) fX (s) + fX (t) = ead(tX) fX (s) + fX (t) .
En drivant cette quation par rapport t en t = 0, et comme fX (0) = T0 exp = id, on obtient fX (s) = Id ad X fX (s) .

v g = Th Rg1 (v) Thg G .

Il est facile de vrier que lapplication s s (s ad(X)) est aussi une solution de cette quation direntielle, dont la valeur en s = 0 est 0 = fX (0). Par unicit, nous avons donc fX (s) = s (s ad(X)). En prenant s = 1, le rsultat en dcoule.

Corollaire 1.39 Lapplication exponentielle est un diomorphisme local C (respectivement analytique complexe) en X g si et seulement si les valeurs propres de lendomorphisme ad X de g appartiennent (C 2iZ) {0}. Dmonstration. Par le thorme dinversion locale, exp est un diomorphisme local C (respectivement analytique complexe) en X si et seulement si TX exp est un isomorphisme linaire. Par la proposition prcdente, ceci quivaut au fait que ( ad X) nait pas 0 comme valeur propre. Or si est une valeur propre de ad X associe au vecteur propre Y , alors () est une valeur propre de ( ad X) associe au vecteur propre Y . Donc si 1 , . . . , k sont les valeurs propres de ad X, alors (1 ), . . . , (k ) sont celles de ( ad X). Or (z) est nul si et seulement si z appartient 2iZ {0}. Le rsultat en dcoule. Exercice E.11 Soient X, Y deux lments de lalgbre de Lie g dun groupe de Lie G, et exp : g G lapplication exponetielle de G. d (1) Montrer que dt |t=0 exp(tX) exp(tY ) exp(tX) exp(tY ) = 0. d (2) Montrer que [X, Y ] = dt |t=0+ exp( t X) exp( t Y ) exp( t X) exp( t Y ). 55

1.4.2

Correspondance entre sous-algbres de Lie et sous-groupes de Lie

Les techniques de cette partie reposent sur le thorme de Frobenius suivant, pour lequel nous renvoyons [Die1, Pau2]. Soient M une varit C (respectivement analytique complexe) de dimension n et p N tel que p n. Un champ de p-plans C (respectivement analytique complexe) sur M est la donne, pour tout point x de M , dun sous-espace vectoriel x de dimension p de Tx M , telle que, pour tout point x0 de M , il existe un voisinage ouvert U de x0 et p champs de vecteurs X1 , . . . , Xp sur U , de classe C (respectivement analytiques complexes), tels que, en tout point x de U , le p-uplet (X1 (x), . . . , Xp (x)) soit une base de x . Un atlas de cartes feuilletes C (respectivement analytique complexe) de dimension p sur M est un sous-atlas de cartes A de latlas de cartes de M , tel que, si K = R (respectivement K = C), pour chaque carte (U, ) de A , nous avons (U ) = V T o V est un ouvert de Kp et T un ouvert de Knp , pour toutes les cartes : U V T et : U V T dans A , le changement de cartes est localement de la forme (x, y) (f (x, y), g(y)) . V U T

y Knp

x Kp

Un feuilletage F de M de classe C (respectivement analytique complexe), de dimension p et de codimension n p, est un atlas de cartes feuilletes C (respectivement analytique complexe) de dimension p sur M , qui est maximal (pour linclusion). Si : U V T est une carte locale dans F , alors les sous-varits 1 (V {y}) de U sont appeles les feuilles locales de F dans cette carte. Pour tout x M , la feuille Fx du feuilletage F passant par x est lensemble des points y de M tel quil existe un chemin continu : [0, 1] M de x y tel que pour tout t [0, 1], pour toute carte feuillete de F dont le domaine contienne (t), il existe > 0 tel que ([t , t + ] [0, 1]) soit contenu dans une feuille locale de F dans cette carte. Puisque cest le cas pour chaque feuille locale, toute feuille est munie dune unique structure de varit C 56

(respectivement analytique complexe) telle que linjection i : Fx M soit une immersion C (respectivement analytique complexe) injective. Un champ de p-plans de classe C (respectivement analytique complexe) est dit intgrable sil existe un feuilletage F de classe C (respectivement analytique complexe) et de dimension p sur M tel que x = Tx Fx pour tout x dans M . Un tel feuilletage est unique, et est dit intgrer . Un champ de vecteurs X appartient en tout point si pour tout point x de M , le vecteur tangent X(x) appartient x . Thorme 1.40 (Thorme de Frobenius) Un champ de p-plans de classe C (respectivement analytique complexe) sur M est intgrable si et seulement si pour pour tout ouvert U de M , pour tous les champs de vecteurs X et Y sur U de classe C (respectivement analytiques complexes) et appartenant en tout point, le crochet de Lie [X, Y ] sur M appartienne en tout point. Par exemple, soient G un groupe de Lie rel (respectivement complexe) et h une sousalgbre de Lie de dimension p de lalgbre de Lie g de G. Soit le champ de p-plans invariant gauche sur G et valant h en e : g G, g = Te Lg (h) .

Ce champ de p-plans est clairement de classe C (respectivement analytique complexe). En eet, soit (X1 , . . . , Xp ) une base de lespace vectoriel h. Alors les champs de vecteurs invariants gauche X1 , . . . , Xp associs X1 , . . . , Xp sont C (respectivement analytiques complexes) et forment en tout point g de G une base de g . Notons que deux champs de vecteurs X et Y sur un ouvert U de M , de classe C (respectivement analytiques complexes) et appartenant en tout point, scrivent comme combinaisons linaires de X1 , . . . , Xp coecients dans lanneau des fonctions C (respectivement analytiques complexes) sur U , donc leur crochet de Lie scrit comme une telle combinaison linaire des Xi , [Xi , Xj ] pour 1 i, j p. Puisque h est une sous-algbre de Lie, par la proposition 1.6 et par le thorme de Frobenius 1.40, le champ de p-plans est intgrable. Soit G un groupe de Lie, dlment neutre e, et soit g son algbre de Lie. Thorme 1.41 Soit h une sous-algbre de Lie de g. Alors il existe un unique sous-groupe de Lie immerg connexe H dans G, tel que si i : H G est linclusion, lapplication Te i soit un isomorphisme dalgbres de Lie de lalgbre de Lie de H sur h. Nous identierons dans la suite lalgbre de Lie de H et h par Te i. Dmonstration. Comme ci-dessus, soit le champ de p-plans invariant gauche sur G et valant h en e, qui est intgrable. Soit H la feuille du feuilletage F intgrant passant par e, munie de sa structure de varit C (respectivement analytique complexe), qui est telle que linclusion i : H G soit une immersion injective C (respectivement analytique complexe) de H dans G. Montrons que H est un sous-groupe de G. Pour tout g dans G, puisque le diomorphisme Lg prserve le champ de p-plans , il prserve le feuilletage F , et donc Lg (H) est la feuille de F passant par g. En particulier, si g appartient H, alors Lg (H) = H. Nous en dduisons que H est stable par multiplication, et que si g appartient H, alors il existe h dans H tel que gh = e, ce qui implique que g1 = h, donc que g1 appartient H. 57

Enn, la restriction H de lapplication (x, y) xy 1 est encore C (respectivement analytique complexe), car cette proprit est locale, et car H est une sous-varit immerge C (respectivement analytique complexe) dans G. Lunicit dcoule de lunicit de la feuille dun feuilletage intgrant un champ de p-plans donn et passant par un point donn. Le rsultat suivant dcoule immdiatement du thorme 1.41. Corollaire 1.42 Soit G un groupe de Lie, dalgbre de Lie g. Lapplication qui un sousgroupe de Lie immerg de G associe son algbre de Lie est une bijection de lensemble des sous-groupes de Lie immergs connexes de G sur lensemble des sous-algbres de Lie de g. Le rsultat suivant apporte des prcisions sur cette correspondance. Thorme 1.43 (E. Cartan) Soit G un groupe de Lie. Un sous-groupe de Lie immerg H de G est plong si et seulement sil est ferm. Si G est rel, alors un sous-groupe H de G est un sous-groupe de Lie plong de G si et seulement sil est ferm. La seconde assertion est fausse si G est complexe : le sous-groupe ferm R de C nest pas une sous-varit complexe. Dmonstration. Montrons tout dabord quun sous-groupe de Lie plong dun groupe de Lie est ferm. Rappelons quune sous-varit est localement ferme, cest--dire ouverte dans son adhrence. Si H est un sous-groupe dun groupe topologique G, alors son adhrence H est aussi un sous-groupe de G. Donc si H est un sous-groupe de Lie plong dun groupe de Lie, alors H est un ouvert dense dans H. Or si g H, alors gH est ouvert dans H, car la multiplication par g est un homomorphisme de H dans lui-mme. Donc gH rencontre H, et g appartient H. Le fait quun sous-groupe de Lie immerg ferm (donc localement ferm) est plong dcoule du thorme 1.60 que nous verrons plus tard (et le lecteur vriera labsence de boucle logique !). Dans le cas rel, il se dduit aussi de la dernire assertion, que nous montrons maintenant. Cette dernire assertion est plus profonde. Soit H un sous-groupe ferm dun groupe de Lie rel G. Notons h = {X g : t R , exp tX H} . Cest le candidat pour tre lalgbre de Lie de H. tape 1. Montrons dabord que h est une sous-algbre de Lie relle de g. Comme T0 exp = idg, et puisque lapplication tangente en (e, e) la multiplication G G G est lapplication somme g g g, nous avons exp X exp Y = exp(X + Y + O(||X||, ||Y ||)) (pour nimporte quelle norme sur g). Donc pour tous les X, Y dans g, t dans R et , dans R, nous avons
n

lim (exp

tY n tX exp ) = exp t(X + Y ) . n n 58

Donc, comme H est un sous-groupe ferm, le sous-ensemble h est un sous-espace vectoriel de g. Montrons que h est une sous-algbre de Lie de g, cest--dire que [X, Y ] appartient h pour tous les X, Y dans h. Or ad X (Y ) = d es ad ds |s=0
X

(Y ) =

d Ad(exp sX)(Y ) . ds |s=0

Il sut donc de montrer que Ad(exp sX)(Y ) appartient h pour tout s, cest--dire que, pour tout t dans R, llment exp(t Ad(exp sX)(Y )) appartient H. Or, par les proprits de lapplication exponentielle, exp(Ad(exp sX)(tY )) = exp sX exp tY exp(sX) , ce qui conclut, car H est un sous-groupe. tape 2. Montrons que H est une sous-varit C de G au voisinage de e. Par translations gauche, ceci montrera que H est une sous-varit de G (donc un sous-groupe de Lie plong). Soit F le feuilletage C intgrant le champ de plans invariant gauche dni par h, et V un domaine de carte feuillete en e. Notons Fe,V la feuille locale de e. Il sut de montrer que si V est susamment petit, alors V H = Fe,V . Montrons tout dabord que le sous-groupe de Lie immerg Fe de G dalgbre de Lie h est contenu dans H. Muni de sa topologie intrinsque, le groupe de Lie connexe Fe est engendr par tout voisinage U de e dans Fe . Il existe un tel voisinage U qui est limage dun voisinage de 0 dans h par lapplication exponentielle. Donc par dnition de h, le voisinage U , et donc Fe , est contenu dans H. Lemme 1.44 Soit (Xn )nN une suite qui converge vers X dans g. Sil existe une suite de nombres rels strictement positifs (tn )nN , qui converge vers 0, telle que exp tn Xn appartienne H pour tout n dans N, alors X appartient h. Dmonstration. Pour tout t dans R, notons kn la partie entire de t/tn . Alors, comme tn converge vers 0, exp tX = lim exp(kn tn Xn ) = lim (exp(tn Xn ))kn .
n n

Comme H est un sous-groupe ferm, exp tX appartient H. Terminons la dmonstration de ltape 2. Nous avons dj vu que Fe , et donc Fe,V , est contenu dans H. Montrons alors, par labsurde, quil existe un voisinage U de e tel que U H Fe,V . Sinon, il existe une suite (gn )nN dans G, qui converge vers e, telle que gn H Fe,V . Soit h un supplmentaire de h dans g, muni dune norme quelconque. Rappelons que exp est un diomorphisme local en 0, dapplication tangente en 0 gale lidentit. Il existe donc, par le thorme dinversion locale, des voisinages W et W de 0 dans h et h respectivement, tels que lapplication de W W dans G dnie par (x, y) exp x exp y soit un C -diomorphisme sur un ouvert de V . crivons gn = exp xn exp yn avec xn , yn qui appartiennent h, h respectivement, et qui convergent vers 0. Puisque gn nappartient pas Fe , le vecteur yn est non nul, donc quitte extraire, Xn = yn /||yn || converge vers un vecteur X nappartenant pas h. Ceci contredit le lemme prcdent. 59

Corollaire 1.45 Soient G et H deux groupes de Lie rels. Alors tout morphisme de groupes continu f de G dans H est un morphisme de groupes de Lie. Dmonstration. Le graphe G de lapplication f est un sous-groupe ferm du groupe de Lie produit G H, donc est un sous-groupe de Lie plong par le thorme de Cartan. Il est clair que la restriction de la seconde projection pr2 G est un morphisme de groupes de Lie de G dans H. La restriction g de la premire projection pr1 G est un morphisme de groupes de Lie bijectif, donc un isomorphisme de groupes de Lie par la proposition 1.2. Donc f = pr2 g1 est un morphisme de groupes de Lie. Ce corollaire dit que tout morphisme de groupes continu entre deux groupes de Lie rels est C (il est mme analytique rel pour lunique structure du thorme 1.1). En particulier, un isomorphisme de groupes entre deux groupes de Lie rels, qui est un homomorphisme, est un isomorphisme de groupes de Lie. Notons que la conjugaison complexe z z de C dans C est un isomorphisme de groupes, continu, qui nest pas analytique complexe. Donc le corollaire 1.45 ne stend pas au cas des groupes de Lie complexes G et H. Le but de la n de la partie 1.4 est de montrer que le problme de classication des groupes de Lie connexes se ramne au problme de classication des algbres de Lie de dimension nie. Ceci se fait en deux tapes, en passant dabord des groupes de Lie connexes aux groupes de Lie simplement connexes par les revtements, puis des groupes de Lie simplement connexes aux algbres de Lie. 1.4.3 Rappels sur les revtements

Soit r N {, R , C }. Soient M et N deux varits Cr . Un revtement Cr de M dans N est une application f : M N de classe Cr telle que pour tout y N , il existe un espace discret non vide D, un voisinage ouvert V de y dans N et un diomorphisme h : V D f 1 (V ) de classe Cr tel que le diagramme suivant commute, o pr1 : V D V est la premire projection (x, d) x : V D
pr1

Nous renvoyons par exemple [God1] pour les rappels qui suivent. Rappelons quune action ( gauche) dun groupe discret sur un espace topologique localement compact M (par homomorphismes) est propre si pour tout compact K de M , lensemble {g : gK K = } est ni ; libre si pour tous les g et x M , si gx = x, alors g = 1.

f 1 (V ) f V .

Remarquons que si r 1, pour tout x dans M , lapplication Tx f : Tx M Tf (x) N est un isomorphisme linaire. Nous appellerons f 1 (y) la bre de f au-dessus de y, V un voisinage ouvert distingu de y pour f , h une trivialisation locale de f au-dessus de V . Pour tout k N {0}, un revtement est dit k feuillets si toutes les bres sont de cardinal k. Si f : M N et f : M N sont deux revtements Cr , un morphisme de revtements 60

(au-dessus de N ) de f sur f est une application : M M de classe Cr telle que le diagramme suivant commute M M f f N . La collection des revtements et des ensembles de morphismes entre deux revtements, munie de la composition des applications et des applications identits, est une catgorie. Un isomorphisme de revtements de f sur f est un morphisme de revtements bijectif, dinverse un morphisme de revtements. Un automorphisme de revtements de f est un isomorphisme de revtements de f sur f . Deux revtements f et f sont isomorphes sil existe un isomorphisme de f sur f . Un espace topologique E est simplement connexe sil est connexe par arcs et si toute application continue du cercle S1 = {z C : |z| = 1} dans E stend continuement en une application continue du disque ferm D = {z C : |z| 1} dans E. Un revtement f : M N est appel un revtement universel de N si M est simplement connexe. On montre que toute varit connexe N admet un revtement universel, unique modulo isomorphisme de revtements. On montre que deux morphismes de revtements entre revtements connexes, qui concident en un point, sont gaux. Si N est connexe, le groupe des automorphismes de revtements dun revtement universel N de N est appel un groupe fondamental de N , et not 1 N . On montre quil est bien dni modulo isomorphismes. Par exemple, si est un groupe discret agissant ( gauche) sur M proprement et librement par diomorphismes Cr , alors lensemble quotient \M admet une unique structure de varit Cr telle que la projection canonique : M \M soit un diomorphisme local Cr , et alors est un revtement Cr . Ce revtement est k feuillets si le cardinal de est k. Si M est simplement connexe, alors est un revtement universel de \M et 1 (\M ) est isomorphe . Le groupe Aut(f ) des automorphismes de revtements dun revtement f : M M agit librement et proprement sur lespace total M du revtement f . Nous dirons quun revtement est connexe si son espace total est connexe, et quun revtement connexe est galoisien si son groupe des automorphismes de revtements agit transitivement sur la bre au-dessus de chaque point. Le revtement dni par une action propre et libre dun groupe discret par diomorphismes sur une varit connexe est galoisien. Si le revtement f est galoisien, lapplication f passe au quotient par la projection canonique : M \M pour donner un isomorphisme de varits f : \M M tel que le diagramme suivant commute : M f \M
f

M.

On montre quun revtement universel M M est galoisien, donc 1 M agit librement et proprement sur M et ce revtement universel induit par passage au quotient un diomorphisme 1 M \M M . Rappelons le thorme de classication des revtements connexes de N : si N est connexe et si : N N est un revtement universel de N , alors lapplication de lensemble des classes de conjugaison de sous-groupes de 1 N dans lensemble des classes disomorphismes de revtements connexes de N , qui la classe de conjugaison de associe la classe 61

disomorphisme de lapplication de \N dans N induite par passage au quotient de est une bijection. Rappelons aussi le thorme du relvement. Soient M, N, P trois varits Cr , p : M N un revtement Cr , f : P N une application Cr , x P et y p1 (f (x)). Alors, si P est simplement connexe, il existe une et une seule application f : P M de classe Cr (appele un relvement de f ) telle que f (x) = y et telle que p f = f , cest--dire telle que le diagramme suivant commute : M e f p P N
f

1.4.4

Revtements de groupes de Lie

Par exemple, les applications de R dans S1 et dans SO(2) dnies par t eit et cos sin respectivement sont des revtements de groupes de Lie, de groupes sin cos dautomorphismes de revtements le groupe des translations par les multiples entiers de 2. En particulier, puisque R est simplement connexe, 1 (S1 ) 1 (SO(2)) Z . Si p1 : G1 G et p2 : G2 G sont deux revtements de groupes de Lie, alors lapplica2 1 tion p1 p2 : G1 G2 G G , dnie par (x, y) (p1 (x), p2 (y)), est revtement de 2 1 groupes de Lie, universel si p1 et p2 le sont. Les revtements de groupes de Lie sont dcrits dans le rsultat suivant. Proposition 1.46 Soient G un groupe de Lie et un sous-groupe distingu discret de G. Alors il existe une et une seule structure de groupe de Lie sur \G telle que la projection canonique : G \G soit un revtement de groupes de Lie. De plus, Te : Te G Te (\G) est un isomorphisme dalgbres de Lie. Rciproquement, si p : G G est un revtement de groupes de Lie, alors il existe un sous-groupe distingu discret de G, et un isomorphisme de groupes de Lie : \G G tels que, si : G \G est la projection canonique, alors le diagramme suivant est commutatif : G p \G

Considrons G et G deux groupes de Lie rels (respectivement complexes), dlments neutres e et e respectivement. Un revtement de groupes de Lie de G dans G est un morphisme de groupes de Lie de G dans G, qui est un revtement (entre les varits sous-jacentes). Un (iso)morphisme (de revtements de groupes de Lie) dun revtement de groupes de Lie p : G G dans un revtement de groupes de Lie p : G G est un (iso)morphisme de groupes de Lie : G G qui est un (iso)morphisme de revtements (cest--dire tel que p = p).

G .

Lensemble quotient \G sera, sauf mention explicite du contraire, munie de cette structure de groupe de Lie, et sera appel le groupe de Lie quotient de G par . Nous 62

identierons souvent les algbres de Lie de G et de \G par Te . Nous renvoyons au thorme 1.58 (ii) pour une gnralisation de ce rsultat. Dmonstration. Supposons G rel (respectivement complexe). Il est immdiat que agit de manire lisse, libre et propre sur la varit G par translations gauche. Donc comme rappel, lensemble quotient \G admet une unique structure de varit C (respectivement analytique complexe) telle que : G \G soit un revtement C (respectivement analytique complexe). En particulier, comme le problme de vrier quune application est lisse est local, la varit \G, munie de sa structure de groupe quotient, est un groupe de Lie, et la projection canonique : G \G est un revtement de groupes de Lie. Lunicit est immdiate. Lapplication tangente Te est bien un isomorphisme (dalgbres de Lie) de lalgbre de Lie de G sur lalgbre de Lie du groupe de Lie quotient \G, car cest un isomorphisme linaire et un morphisme dalgbres de Lie. La rciproque est immdiate, en considrant pour la bre (discrte) f 1 (e), qui est un sous-groupe distingu, et pour lapplication induite par passage au quotient de p, qui est un isomorphisme de groupes et un diomorphisme local. Par exemple, puisque {Id} est un sous-groupe distingu discret du groupe de Lie SL2n (R) pour tout entier non nul n, le quotient PSL2n (R) = SL2n (R)/{Id} est un groupe de Lie quotient. Puisque {Id} est un sous-groupe distingu discret du groupe de Lie SO(2n) pour tout entier non nul n, le quotient PSO(2n) = SO(2n)/{Id} est un groupe de Lie quotient. Rappelons que le centre Z(G) dun groupe G est lensemble des lments de G commutant avec tous les lments de G : Z(G) = {g G : h G, gh = hg} . Un sous-groupe de G est central sil est contenu dans le centre de G. Tout sous-groupe central est distingu. Exercice E.12 (1) Montrer que si G est un groupe de Lie connexe, alors le noyau de sa reprsentation adjointe Ad est gal son centre Z(G). (2) Montrer que le centre Z(G) dun groupe de Lie rel connexe G est un sous-groupe de Lie plong de G, dont lalgbre de Lie est gale au centre z(g) de lalgbre de Lie g de G. Lemme 1.47 Soit H un groupe topologique (par exemple un groupe de Lie) connexe, et un sous-groupe distingu discret. Alors est central dans H. Dmonstration. Pour tout g dans , lapplication continue h hgh1 de lespace connexe H valeurs dans lespace discret est constante, donc gale ege1 = g. Donc g commute avec tout lment de H. La proposition suivante est la proposition clef pour passer du problme de classication des groupes de Lie connexes celui des groupes de Lie simplement connexes. 63

Proposition 1.48 Soit G un groupe de Lie connexe. Il existe un revtement de groupes de Lie = G : G G, unique unique isomorphisme prs, tel que G soit simplement connexe. De plus, le sous-groupe = 1 (e) de G est distingu, discret, central, et le groupe de Lie G est isomorphe au groupe de Lie quotient \G. Si H est un groupe de Lie connexe et f : G H un morphisme de groupes de Lie, alors il existe un et un seul morphisme de groupes de Lie f : G H tel que le diagramme suivant commute G G e G
f e f

H.

H H e

Une application : G G comme ci-dessus, et par abus G, est appele un revtement universel (de groupes de Lie) de G. Dmonstration. Soit : G G un revtement universel de la varit C (respectivement analytique complexe) G. Soit e un point de 1 (e). Montrons quil existe une et une seule structure de groupe de Lie sur G, dlment neutre e, telle que soit un morphisme de groupes de Lie. Soit m : G G G la multiplication de G (dnie par m : (x, y) xy). Remarquons que G G est simplement connexe. Donc, par le thorme du relvement rappel ci-dessus, lapplication compose de : G G G G et de m : G G G se relve en une unique application m : G G G de classe C (respectivement analytique complexe) telle que m(e, e) = e. De mme, lapplication x ((x))1 de G dans G se relve en une unique application, note x x1 , de G dans G telle que e 1 = e. Lunicit des relvements dans le thorme du relvement permet de montrer que la loi m est associative, a pour lment neutre e et pour inverse dun lment x de G llment x1 . En eet, les applications (x, y, z) m(m(x, y), z) et (x, y, z) m(x, m(y, z)) de lespace simplement connexe G G G dans G sont deux relvements par de lapplication lisse (x, y, z) (x)(y)(z), qui concident en (e, e, e), donc sont gales. De plus, les trois applications x m(x, e), x m(e, x) et x x de lespace simplement connexe G dans G sont trois relvements par de lapplication x (x), qui concident en e, donc sont gales. Enn, les trois applications x m(x, x1 ), x m(x1 , x) et x e de lespace simplement connexe G dans G sont trois relvements par de lapplication x e, qui concident en e, donc sont gales. Lapplication , par construction, est un morphisme de groupes et un revtement C (respectivement analytique complexe), donc est un revtement de groupes de Lie. Lunicit dcoule de lunicit dun revtement universel et de lgalit de deux revtements connexes qui concident en un point. La seconde assertion dcoule de la xdmonstration de la proposition 1.46 et du lemme 1.47. La troisime assertion se montre laide du thorme de relvement en considrant pour f lunique relvement de f G tel que f (e) = e. Remarque 1.49 Avec les notations de cette proposition, laction de par translations gauche sur G dnit un morphisme injectif de groupes de dans le groupe des diomorphismes de G, dont limage est exactement le groupe des automorphismes de revtements de : G G. 64

Exemples. (1) Lapplication t eit du groupe de Lie rel R dans le groupe de Lie rel S1 des nombres complexes de module 1 est un revtement universel de groupes de Lie rels, car R est simplement connexe et cette application est un morphisme de groupes de Lie. (2) Par la dcomposition polaire (voir lexercice E.2), le groupe de Lie GL2 (R) est C diomorphe R3 O(2), le groupe de Lie SL2 (R) est C -diomorphe R2 SO(2), et PSL2 (R) est C -diomorphe R2 PSO(2), donc R2 S1 . Le revtement universel PSL2 (R) est donc un groupe de Lie rel C -diomorphe R3 , de centre inni cyclique. (3) Si n 3, le revtement universel de groupes de Lie de SO(n), not Spin(n) SO(n), est un revtement deux feuillets (voir lexercice E.13 ci-dessous). De plus, le revtement universel de groupes de Lie Spin(n) PSO(n) est deux feuillets si n est impair, et quatre feuillets sinon. (4) Nous renvoyons lexercice (corrig) E.16 de la partie 1.6 pour lutilisation des revtements de groupes de Lie pour la classication, isomorphismes de groupes de Lie prs, des groupes de Lie rels abliens connexes.
Notons GLie,sc lensemble des couples (G, ) o G est un groupe de Lie simplement connexe et un sous-groupe (distingu) discret central dans G, modulo la relation dquivalence (G, ) (G , ) sil existe un isomorphisme de groupes de Lie : G G tel que () = . Notons GLie lensemble des classes disomorphismes de groupes de Lie connexes. Le fait que ces ensembles soient bien des ensembles vient de lhypothse de sparabilit des groupes de Lie, qui implique que leur cardinal est au plus celui du continu. Le rsultat suivant dcoule alors immdiatement de la proposition 1.48. Corollaire 1.50 Lapplication de GLie,sc dans GLie , induite par lapplication qui un couple (G, ) associe le groupe de Lie quotient \G, est une bijection.

1.4.5

Classication des groupes de Lie par leurs algbres de Lie

Soient G et G deux groupes de Lie rels (respectivement complexes), dlments neutres e et e respectivement. Un morphisme local (de groupes de Lie) de G dans G est une application h de classe C (respectivement analytique complexe) dun voisinage ouvert U de e dans G valeurs dans un voisinage ouvert U de e dans G , telle que, pour tous les x et y dans U tels que xy appartienne U , nous ayons h(xy) = h(x)h(y) . Un isomorphisme local (de groupes de Lie) de G dans G est un morphisme local h : U U qui est un diomorphisme C (respectivement analytique complexe) de U sur U . Notons que h1 : U U est alors aussi un morphisme local de groupes de Lie de G dans G. Par exemple, tout revtement de groupes de Lie, restreint un voisinage ouvert de llment neutre susamment petit, est un isomorphisme local. Deux groupes de Lie sont localement isomorphes sil existe un isomorphisme local de lun dans lautre. La relation tre localement isomorphes est une relation dquivalence. Pour une remarque historique, notons que Sophus Lie [Lie] na pas introduit la notion de groupe de Lie, mais celle de groupe de Lie local (appel groupuscule de Lie dans [Bou2, Chap. III, 1, n0 10]), correspondant un germe en lidentit de groupe de Lie. Ce nest que plus tard que lon a montr que lon pouvait bien globaliser les choses, pas forcment de 65

manire unique, mais eectivement unique si lon rajoute lhypothse de simple connexit. La notion de groupe de Lie local est alors tombe en dsutude (et cest pour cela que nous ne la dnirons pas), par contre la notion de morphisme local est toujours utile pour le passage des algbres de Lie aux groupes de Lie en ce qui concerne leur classication. Thorme 1.51 Soient G et G deux groupes de Lie (tous deux rels ou tous deux complexes), dlments neutres e et e , et dalgbres de Lie g et g respectivement. (1) Si G est simplement connexe, alors tout morphisme local de groupes de Lie de G dans G se prolonge, de manire unique, en un morphisme de groupes de Lie de G dans G . (2) Pour tout morphisme dalgbres de Lie f : g g , il existe un morphisme local de groupes de Lie f de G dans G tel que Te f = f. De plus, tout autre tel morphisme local de groupes de Lie concide avec f au voisinage de llment neutre e de G. (3) Si G est connexe, alors lapplication f Te f de lensemble des morphismes de groupes de Lie de G dans G , valeurs dans lensemble des morphismes dalgbres de Lie de g dans g , est injectif, et bijectif si G est simplement connexe. (4) Deux groupes de Lie sont localement isomorphes si et seulement si leurs algbres de Lie sont isomorphes. (5) Si G et G sont simplement connexes, alors pour tout isomorphisme dalgbres de Lie f : g g , il existe un et un seul isomorphisme de groupes de Lie f : G G tel que Te f = f. La surjectivit dans (3) dit que si G est simplement connexe, alors tout morphisme dalgbres de Lie de g dans g sintgre en un morphisme de groupes de Lie de G dans G . Dmonstration. (1) Soit h un morphisme local de groupes de Lie de G dans G . Soit V un voisinage ouvert connexe (donc connexe par arcs) de e dans G, tel que V 1 = V (o V 1 = {x1 : x V }) et tel que V 2 = {xy : x, y V } (qui contient V ) soit contenu dans le domaine de h. Comme G est connexe, tout voisinage de e engendre G (voir la proposition 1.3). Donc, pour tout x dans G, il existe x1 , x2 , . . . , xk dans V tels que x = x1 x2 . . . xk . Si h est un morphisme de G dans G prolongeant h alors h(x) = h(x1 )h(x2 ) . . . h(xk ), do lunicit de h. Lemme 1.52 Pour tous les x1 , x2 , . . . , xk dans V tels que x1 x2 . . . xk = e, nous avons h(x1 )h(x2 ) . . . h(xk ) = e . Dmonstration. (Cest le genre de dmonstration qui se comprend mieux par un dessin que par une rdaction exhaustive, voir la gure ci-dessous). Posons y0 = e et y+1 = y x+1 pour = 0, , k 1, de sorte que yk = e. Soit : [ k , +1 ] G un chemin continu de y y+1 contenu dans y V . Soit : [0, 1] G k le chemin continu obtenu par concatnation de ces chemins. Comme (0) = (1) et par simple connexit de G, il existe une application continue f : [0, 1] [0, 1] G telle que f (t, 0) = f (0, s) = f (1, s) = e et f (t, 1) = (t), pour tous les s, t [0, 1]. Par compacit de [0, 1] [0, 1], il existe des subdivisions 0 = t0 , t1 , . . . , tn = 1 et 0 = s0 , s1 , . . . , sn = 1 de i lintervalle [0, 1], plus nes que la subdivision ( k )0ik , telles que, pour tous les i, i , j, j i| 1 et |j j| 1, nous ayons {1, . . . , n} tels que |i f ([ti , ti+1 ] [sj , sj+1 ]) f (ti , sj )V . 66

1 Posons zi,j = f (ti , sj ), de sorte en particulier que zi ,j zi,j appartienne V si |i i| 1 et |j j| 1.

y2 = x1 x2 y1 = x1 y3 = x1 x2 x3

zi,j e zi+1,j

zi,j+1 zi,n zi+1,j+1 zi+1,n

yk1 = x1 x2 xk1
Montrons par rcurrence sur j = 0, . . . , n que h(z0,j 1 z1,j )h(z1,j 1 z2,j ) . . . h(zn1,j 1 zn,j ) = e . Lassertion est immdiate pour j = 0. Le passage de j j + 1 dcoule du fait que zi,j+1 1 zi+1,j+1 = (zi,j+1 1 zi,j )(zi,j 1 zi+1,j )(zi+1,j+1 1 zi+1,j )1 , que h est un morphisme local sur V 2 et que V = V 1 . Comme i est valeurs dans yi V , et puisque h est un morphisme local sur V 2 , on a, si i < i sont tels que ti = k , ti = +1 , k
1 h(x+1 ) = h(y y+1 ) = h(zi,n 1 zi ,n )

= h (zi,n 1 zi+1,n )(zi+1,n 1 zi ,n ) = h(zi,n 1 zi+1,n )h(zi+1,n 1 zi ,n ) = h(zi,n 1 zi+1,n )h(zi+1,n 1 zi+2,n ) . . . h(zi 1,n 1 zi ,n ) . Donc la rcurrence au rang j = n conclut. Pour terminer la dmonstration de lassertion (1), si un lment x dans G scrit x = x1 x2 . . . xk et x = x x . . . x , o x1 , x2 , . . . , xk , x , x , . . . , x sont des lments de V , 1 2 1 2 k k alors x x . . . x x1 x1 . . . x1 = e , 1 2 k k 1 k1 donc par le lemme, h(x )h(x ) . . . h(x ) = h(x1 )h(x2 ) . . . h(xk ) . 1 2 k On peut donc poser h(x) = h(x1 )h(x2 ) . . . h(xk ), ce qui dnit une application h de G dans G . Cette application est clairement un morphisme de groupes, et concide avec h sur un voisinage de e. En particulier, h est C (respectivement analytique complexe) en e, donc est un morphisme de groupes de Lie. 67

(2) Considrons le groupe de Lie produit G G , dont lalgbre de Lie sidentie lalgbre de Lie produit gg . Le graphe h de f est clairement une sous-algbre de Lie de g g . Soit H le sous-groupe de Lie immerg connexe de G G dont lalgbre de Lie sidentie h (voir le thorme 1.41). La restriction, un petit voisinage de llment neutre (e, e ) dans H, de la premire projection pr1 : G G G est un morphisme local de H dans G, et mme un isomorphisme local, car son application tangente en llment neutre de H est un isomorphisme. La restriction tout voisinage de (e, e ) dans H de la seconde projection est un morphisme local de H dans G . En composant (sur des voisinages susamment petits des lments neutres) linverse du premier avec le second, nous obtenons donc un morphisme local f de G dans G . La composition des applications tangentes en les lments neutres est f. Si f est un autre tel morphisme local, alors son graphe dans G G est, au voisinage de (e, e ), une feuille du feuilletage invariant gauche dni par h, donc concide, sur un voisinage de (e, e ), avec H. Par consquent, f et f concident sur un voisinage de e. (3) Linjectivit dcoule, par lassertion (2), du fait que si G est connexe, alors G est engendr par un voisinage de e, donc deux morphismes qui concident sur un voisinage de e sont gaux. La surjectivit dcoule des assertions (1) et (2). Enn, les assertions (4) et (5) dcoulent facilement des assertions (2) et (1) (en utilisant lunicit). Nous admettrons le rsultat suivant, dont la dmonstration (purement algbrique) est trop longue pour tre incorpore ici (voir par exemple [Bou1, Chap. I, page 99]). Thorme 1.53 (Thorme dAdo) Soit g une algbre de Lie relle (respectivement complexe) de dimension nie. Alors il existe un lment n dans N et un morphisme dalgbres de Lie injectif de g dans lalgbre de Lie gln (R) (respectivement gln (C)). Corollaire 1.54 Toute algbre de Lie de dimension nie est isomorphe lalgbre de Lie dau moins un groupe de Lie. Dmonstration. Le thorme dAdo 1.53 dit que toute telle algbre de Lie relle (respectivement complexe) admet un morphisme (dalgbres de Lie) injectif dans lalgbre de Lie gln (K), pour n assez grand et K = R (respectivement K = C). Or gln (K) est lalgbre de Lie du groupe de Lie GLn (K). Le thorme 1.41 conclut. Par lassertion (4) du thorme 1.51 et le thorme 1.41, le thorme dAdo implique aussi que tout groupe de Lie rel (respectivement complexe) est localement isomorphe un sous-groupe de Lie immerg dun GLn (R) (respectivement GLn (C)). Mais nous montrerons que, par exemple, le groupe de Lie rel PSL2 (R) nest pas (globalement) isomorphe un sous-groupe de Lie immerg dun GLn (R). Corollaire 1.55 Lapplication qui un groupe de Lie rel (respectivement complexe) associe son algbre de Lie induit une bijection de lensemble des classes disomorphisme de groupes de Lie rels (respectivement complexes) simplement connexes sur lensemble des classes disomorphisme dalgbres de Lie relles (respectivement complexes) de dimension nie. 68

Dmonstration. Lapplication est bien dnie, comme consquence de la proposition 1.7. Elle est surjective par le corollaire 1.54, et le fait quun groupe de Lie et le revtement universel de sa composante neutre sont localement isomorphes, donc ont des algbres de Lie isomorphes. Linjectivit de dcoule de lassertion (5) du thorme 1.51. Ainsi, nous avons bien russi montrer que le problme de classication des groupes de Lie connexes se ramne au problme de classication des algbres de Lie de dimension nie : par le corollaire 1.50, les groupes de Lie connexes sont, isomorphisme prs, les groupes de Lie quotient dun groupe de Lie simplement connexe par un sous-groupe discret central ; et par le corollaire 1.55, les groupes de Lie simplement connexes sont, isomorphisme prs, uniquement dtermins par leurs algbres de Lie, qui peut tre nimporte quelle algbre de Lie de dimension nie. Remarque. Un groupe de Lie est dit semi-simple si son algbre de Lie lest. Soit G un groupe de Lie semi-simple rel connexe de centre ni. Alors G est isomorphe la composante neutre de lensemble des points rels dun groupe algbrique linaire dni sur R. En eet, le groupe Aut(g) des automorphismes dalgbres de Lie de lalgbre de Lie g est lensemble des points rels dun groupe algbrique linaire dni sur R, par bilinarit du crochet de Lie. Lalgbre de Lie de Aut(g) est Der(g) par lexercice E.7 (4) b), qui est isomorphe g par le corollaire 1.21. Par la classication des groupes de Lie, et puisque G et Aut(g)0 sont connexes de centre ni dalgbres de Lie isomorphes, G et Aut(g)0 ont un revtement de groupes de Lie ni commun. Le rsultat en dcoule. Nous terminons cette partie 1.4 en tudiant les groupes de Lie classiques (voir par exemple [MT2]). Notons G0 la composante neutre dun groupe de Lie G, Z(G) le centre de G (ce qui permet de construire des groupes de Lie, en prenant un sous-groupe discret de Z(G) (tout tel sous-groupe est distingu dans G), et en considrant le groupe de Lie quotient \G), 0 (G) le groupe G/G0 des composantes connexes de G, et 1 (G0 ) le groupe des automorphismes de revtements dun revtement universel G0 G0 de G0 , qui sidentie (voir la remarque 1.49), via laction par translations gauche de sur G, au sous-groupe discret distingu central de G0 tel que lapplication G0 G0 induise un isomorphisme de groupes de Lie \G0 G0 . Exercice E.13 Dans les tableaux qui suivent, n, p, q sont des lments de N {0} avec p q, Un est le groupe des racines n-mes de lunit, S1 = {z C : |z| = 1} et Tn = Rn /Zn . (1) En utilisant lexercice E.2 (3), en notant S(O(p)O(q)) le sous-groupe de Lie plong A 0 rel de SLp+q (R) des lments de la forme o A O(p) et B O(q), et de mme 0 B pour S(U(p) U(q)) dans SLp+q (C), montrer que les groupes G et K de chaque ligne du tableau suivant ont des groupes de composantes connexes et des groupes fondamentaux

69

isomorphes : G SLn (R) SLn (C) SU (2n) Spn (R) Spn (C) SO(p, q) SU(p, q) Sp(p, q) SOn (C) SO (2n) K SO(n) SU(n) Sp (n) U(n) Sp(n) S(O(p) O(q)) S(U(p) U(q)) Sp(p) Sp(q)) SO(n) U(n)

(2) Montrer que, pour tout groupe de Lie G de la colonne de gauche, les groupes Z(G), 0 (G) et 1 (G0 ) sont isomorphes ceux donns dans les trois autres colonnes.

70

G S1 Tn GLn (R)

Z(G) S1 Tn R Id { Id} {1} {1} {1} { Id} si n pair sinon

0 (G) {1} {1} Z/2Z

SLn (R)

{1} Z/2Z si n pair {1} sinon {1} Z/2Z

PGLn (R)

PSL2n (R) O(n)

SO(n)

SO(2) si n = 2 { Id} si n = 2 pair {1} sinon { Id}

{1}

O(p, q)

(Z/2Z)2

SO(p, q)

{ Id} {1} C Id {1} Un Id {1} S1 Id Un Id S1 Id Up+q Id { Id} { Id} { Id} { Id} { Id} { Id} {1}

si p + q pair sinon

Z/2Z

GLn (C) PGLn (C) SLn (C) PSLn (C) U(n) SU(n) U(p, q) SU(p, q) Sp (n) Spn (R) Spn (C) Sp(p, q) On (C)

{1} {1} {1} {1} {1} {1} {1} {1} {1} {1} {1} {1} Z/2Z si n pair sinon

SOn (C)

{1}

71

1 (G0 ) Z Zn si n = 1 {1} Z si n = 2 Z/2Z si n 3 si n = 1 {1} Z si n = 2 Z/2Z si n 3 si n = 1 {1} Z si n = 2 si n 3 impair Z/2Z (Z/2Z)2 si n 3 pair Z si n = 1 (Z/2Z)2 si n 2 si n = 1 {1} Z si n = 2 Z/2Z si n 3 si n = 1 {1} Z si n = 2 Z/2Z si n 3 si p = q = 1 {1} Z si p = 1, q = 2 Z/2Z si p = 1, q 3 si p = q = 2 Z2 Z Z/2Z si p = 2, q 3 2 si p, q 3 (Z/2Z) si p = q = 1 {1} Z si p = 1, q = 2 Z/2Z si p = 1, q 3 si p = q = 2 Z2 Z Z/2Z si p = 2, q 3 (Z/2Z)2 si p, q 3 Z Un {1} Un Z {1} ZZ Z {1} Z {1} {1} si n = 1 {1} Z si n = 2 Z/2Z si n 3 si n = 1 {1} Z si n = 2 Z/2Z si n 3

En particulier, si n, p, q N {0}, alors les groupes de Lie O(n), GLn (R), SO(p, q), On (C), O(p, q) ne sont pas connexes, et ont exactement deux, deux, deux, deux, quatre composantes connexes respectivement. Les groupes de Lie S1 = {z C : |z| = 1}, Tn = Rn /Zn , SO(n) si n = 1, U(n), U(p, q), SU(p, q), Spn (R), SLn (R) si n = 1, PSL2n (R), GLn (C), SOn (C) si n = 1 sont connexes, mais ne sont pas simplement connexes. Enn, les groupes de Lie Rn , SU(n), SLn (C), Sp(n) Sp (n), SLn (H) SU (2n), Spn (C), Sp(p, q) sont simplement connexes. En petite dimension, il existe un certain nombre disomorphismes, dit remarquables, entre ces groupes (voir par exemple [MT2] ou [Hel, page 519]). Nous en nonons quelquesun sous forme dexercices, bien que certains de ceux-ci ne soient pas du tout immdiats. Le prxe P devant un groupe signie le quotient par son centre (en gnral {Id}). Nous notons S3 = SL1 (H) = {x = a + bi + cj + dk H : N (x) = a2 + b2 + c2 + d2 = 1) le groupe de Lie des quaternions de norme 1. Exercice E.14 Montrer lexistence disomorphismes SO(3) PU(2) PSp(1) PSL2 (R) SO(1, 2)0 SU(1, 1) PSp1 (R)

PSO(4) SO(3) SO(3) PSO(6) PU(4) SO(5) PSp(2)

PSL(2, H) SO(1, 5)0 SO(2, 3)0 PSp2 (R)

PSL2 (C) SO(1, 3)0 PSp1 (C) SO3 (C)

Spin(3) SU(2) Sp(1) S3 Spin(4) SU(2) SU(2)

SO(1, 4)0 PSp(1, 1) SO(2, 2)0 PSL2 (R) PSL2 (R)

Spin(5) Sp(2)

PSO4 (C) PSL2 (C) PSL2 (C) PSO6 (C) PSL4 (C) SO5 (C) PSp2 (C)

PSLn (C) PGLn (C)

Spin(6) SU(4)

PSO(3, H) PU(3, 1)

PSO(2, H) PSL2 (R) PU(2)

SO(2, 4)0 PU(2, 2)

SO(3, 3)0 PSL4 (R)

PSO(4, H) SO0 (6, 2)

1.5
1.5.1

Espaces homognes
Actions lisses de groupes de Lie

Soient G un groupe de Lie rel (respectivement complexe), et X une varit C (respectivement analytique complexe). Sauf mention explicite du contraire, les actions sont des actions gauche, mais les dnitions pour les actions droite sont analogues. Une actionde G sur X est dite lisse si lapplication (g, x) gx de GX dans X est C (respectivement analytique complexe). Notons qualors, pour tout g dans G, lapplication 72

x gx est un diomorphisme C (respectivement analytique complexe) de X, dinverse x g1 x. Une action de G sur X est dite libre si pour tous les g G et x X, si gx = x, alors g = 1 ; transitive si pour tous les x, y X, il existe g G tel que y = gx ; propre si pour tout compact K de X, lensemble {g G : K gK = } est compact dans G. Cest toujours le cas si G est compact. Par exemple, les actions gauche dun sous-groupe de Lie immerg H de G par translations gauche (h, g) hg et par translations droite (h, g) gh1 sur G sont lisses et libres. Si H est un sous-groupe de Lie plong, ces actions sont propres, car, par exemple pour laction par translations gauche, pour tout compact K de G, la partie {h H : K hK = } est gale H (KK 1 ), qui est compact car H est ferm (par la premire assertion du thorme 1.43). Considrons une action lisse de G sur X. Soit x dans X. Le stabilisateur de x dans G est le sous-groupe Gx = {g G : gx = x} de G. Lapplication orbitale en x est lapplication x : g gx de G dans X. Lapplication canonique en x est lapplication x : G/Gx X induite par passage au quotient de x , cest--dire dnie par x (gGx ) = gx ; cest une injection, qui est une bijection si laction est transitive. Lapplication canonique x est quivariante pour les actions de G sur G/Gx et sur X : pour tous les g G et z G/Gx , nous avons x (gz) = g x (z) . Lemme 1.56 Pour tout x dans X, lapplication orbitale x est une application de rang constant, et le stabilisateur Gx est un sous-groupe de Lie plong de G, dalgbre de Lie Te Gx = Ker Te x . Remarquons que lorsque G est un groupe de Lie rel, nous pourrions dire que Gx est clairement ferm (car X est spar et laction continue), et appliquer le thorme de Cartan 1.43, pour conclure la seconde assertion, mais ce serait utiliser un marteau-pilon pour craser une mouche. Dmonstration. Pour tout g dans G, les applications Lg : G G et Mg : X X dnies respectivement par h gh et y gy sont des diomorphismes, et, par dnition dune action, nous avons x Lg = Mg x .

Donc Tg x Te Lg = Tx Mg Te x , et par consquent Tg x , Te x ont le mme rang. Comme Gx = 1 (x), le rsultat dcoule alors du fait que limage rciproque dun x point par une application f de rang constant C (respectivement analytique complexe) est une sous-varit C (respectivement analytique complexe), dont lespace tangent en un point est le noyau de lapplication tangente de f en ce point.

Nous noterons : X G\X la projection canonique et nous munissons lensemble quotient G\X de la topologie quotient (une partie U de G\X est ouverte si et seulement si 1 (U ) est ouvert dans X), de sorte que est continue et ouverte (cest--dire que limage de tout ouvert par est ouvert, ce qui dcoule du fait que pour tout ouvert U de X, nous avons 1 ((U )) = gG gU , qui est ouvert). En particulier, si G est un groupe de Lie rel (respectivement complexe), si H un sous-groupe de Lie immerg de G, 73

en notant HG (respectivement G/H) lensemble quotient pour laction par translations gauche (respectivement droite) de H, nous munissons G/H (respectivement G/H) de la topologie quotient. Lemme 1.57 Soit X une varit C (respectivement analytique complexe), munie dune action ( gauche) lisse et propre dun groupe de Lie rel (respectivement complexe) G. Alors lespace topologique quotient G\X est spar et base dnombrable douverts. Dmonstration. Montrons que G\X est spar. En eet, soient x et x deux points de X qui ne sont pas dans la mme orbite. Puisque la varit X est localement compacte et mtrisable, soient K et K deux voisinages compacts disjoints de x et de x , et (Kn )nN et (Kn )nN des systmes fondamentaux de voisinages de x et x contenus dans K et K respectivement. Montrons quil existe N N tel que KN GKN soit vide. Sinon, pour tout . Comme K K est compact (car n N, il existe xn Kn et gn G tels que gn xn KN X est spare) et laction est propre, la suite (gn )nN reste dans un compact de G, donc, quitte extraire, converge vers g G. Or (xn )nN converge vers x et (gn xn )nN vers x . Donc par continuit de laction, x = gx, contradiction. Puisque est ouverte, les images par de KN et KN sont alors des voisinages disjoints de (x) et (x ) respectivement, ce qui conclut. Lespace topologique G\X est base dnombrable, car si (Ui )iN est une base dnombrable douverts de X, alors ((Ui ))iN est une base dnombrable douverts de G\X, car est ouverte. Une varit C (respectivement analytique complexe) est dite homogne si elle admet une action lisse transitive dun groupe de Lie connexe rel (respectivement complexe). En particulier, elle est connexe. Il ny a pas forcment unicit dun tel groupe de Lie, et les proprits gomtriques dune varit homogne dpendent du groupe de Lie transitif considr. Par exemple, tout groupe de Lie G est une varit homogne, pour laction de G sur lui-mme par translations gauche. Si G est un groupe de Lie rel (respectivement complexe), un G-torseur C (respectivement analytique complexe) est une varit C (respectivement analytique complexe) munie dune action libre et transitive de G. Par exemple, pour tout espace vectoriel rel ou complexe V de dimension nie, en notant encore V le groupe de Lie additif sous-jacent, un V -torseur est un espace ane despace associ V . Une varit X de classe C (respectivement analytique complexe), munie dune action droite lisse, libre et propre dun groupe de Lie rel (respectivement complexe) G (ou par abus la projection canonique : X X/G) est appele un br principal de groupe structural G (voir la partie 2.1 pour une explication de la terminologie). 1.5.2 Espaces homognes quotients

Si H est un sous-groupe discret dun groupe de Lie G rel (respectivement complexe), alors H agit librement et proprement par translations gauche sur G par diomorphismes C (respectivement analytiques complexes). Nous avons arm dans la partie 1.4.3 que lensemble quotient H\G admet une unique structure de varit C (respectivement analytique complexe) telle que : G H\G soit une submersion C (respectivement analytique complexe). Le but du rsultat suivant est, outre de dmontrer cette armation, dtendre ceci au cas o H est seulement suppos tre un sous-groupe de Lie plong (ou 74

lorsque G est rel, de manire quivalente par le thorme de Cartan 1.43, un sous-groupe ferm) de G. Thorme 1.58 Soient G un groupe de Lie rel (respectivement complexe), H un sousgroupe de Lie plong de G, et : G G/H la projection canonique. Il existe une et une seule structure de varit direntielle de classe C (respectivement analytique complexe) sur lespace topologique quotient G/H, telle que soit une submersion C (respectivement analytique complexe). De plus, (i) laction de G par translations gauche sur G/H est lisse ; (ii) si de plus H est distingu, alors G/H, muni de ses structures de varit quotient et de groupe quotient, est un groupe de Lie, la projection canonique : G G/H est un morphisme de groupes de Lie, lalgbre de Lie h de H est un idal de lalgbre de Lie g de G, et lapplication linaire de Te G/Te H dans TeH (G/H) induite par Te est un isomorphisme de lalgbre de Lie quotient g/h dans lalgbre de Lie de G/H. Par les proprits des submersions (voir le lemme 0.1), nous avons donc (iii) dim(G/H) = dim G dim H ; (iv) pour tout g dans G, lapplication Tg : Tg G TgH (G/H) induit un isomorphisme linaire (Tg G)/(Tg (gH)) TgH (G/H) ; (v) pour toute varit N de classe Ck o k N {} (respectivement de classe analytique complexe), une application f : G/H N est de classe Ck (respectivement de classe analytique complexe) si et seulement si f lest.

La structure (de varit munie dune action lisse de G) sur G/H construite dans ce thorme 1.58 sappelle la structure despace homogne quotient sur G/H. Cest un espace homogne, car par lassertion (i), laction de G par translations gauche sur G/H est lisse et transitive. En particulier, lapplication Te induit un isomorphisme linaire de Te G/Te H sur TeH (G/H).

Dmonstration. Nous avons montr dans le lemme 1.57 que lespace topologique quotient G/H est spar et base dnombrable. [Donnons une dmonstration simplie de la sparation de lespace topologique quotient G/H. Lapplication : (x, y) x1 y est continue et H est ferm (voir la premire assertion du thorme 1.43), donc 1 (H) est un ferm de G G. Pour tous les x, y G tels que (x) = (y), il existe donc des voisinages ouverts U et V de x et y respectivement dans G tels que louvert complmentaire de 1 (H) contienne U V . Puisque est ouverte, (U ) et (V ) sont des voisinages ouverts de (x) et (y) respectivement, qui sont disjoints par construction.] Soient p la dimension de H, n celle de G et le champ de p-plans sur G, invariant gauche, tel que e = Te H. Ce champ de p-plans est intgrable (voir les lignes prcdant lnonc du thorme 1.41). Il est donc tangent un feuilletage F , dont les feuilles sont, par unicit, les translats gauche par G de la composante neutre de H. Posons K = R (respectivement K = C). Soit (U, ) une carte locale feuillete de ce feuilletage, o U est un voisinage de e et : U Kp Knp est un diomorphisme C (respectivement analytique complexe) qui envoie le feuilletage F|U sur le feuilletage dont les feuilles sont les sous-espaces horizontaux Kp {x}. Quitte rduire U , comme H est une sousvarit, pour tout g dans G, lintersection gH U est vide ou ne contient quune seule feuille locale de F dans U . Notons pr2 : Kp Knp Knp la seconde projection. Alors pr2 : U Knp induit par passage au quotient une bijection pr2 de (U ) sur 75

Knp . Comme est continue et ouverte, cette bijection est un homomorphisme. Alors la famille (Lg U ), pr2 L1 gG est un atlas de cartes C (respectivement analyg tique complexe) sur G/H, car les applications de transitions sont localement de la forme x pr2 L1 Lg 1 (0, x), donc sont de classe C (respectivement analytique g complexe). Lapplication est alors une submersion C (respectivement analytique complexe), car, lue dans les cartes locales prcdentes, cest juste la seconde projection pr2 : Lg U
L1 g

Kp Knp pr2 Knp

(Lg U )

pr2 L1 g

Montrons la proprit (i). Pour tout x G/H, puisque est une submersion, il existe un voisinage ouvert V de x dans G/H et une section locale de dnie sur V , cest--dire une application : V M de classe C (respectivement analytique complexe) telle que = id. Le fait que laction gauche : G G/H G/H soit C (respectivement analytique complexe) vient alors du fait que, en restriction G V , on peut crire (g, g H) = (g (g H)) , avec une section locale de sur V dont lexistence est donne par la proprit de submersion. Montrons la proprit (ii). Supposons que H est distingu. Si et sont des sections locales de , alors lapplication de G/H G/H dans G/H, dnie par (xH, yH) xy 1 H, concide, sur le produit des domaines de dnition de et , avec (u, v) ((u) (v)1 ), qui est de classe C (respectivement analytique complexe). Donc G/H, muni des structures de varit quotient et de groupe quotient, est un groupe de Lie. La projection canonique, tant un morphisme de groupes et de classe C (respectivement analytique complexe), est bien un morphisme de groupes de Lie. Puisque H est distingu dans G, nous avons ig (H) H pour tout g G, donc en drivant, Ad g(h) h, et en drivant encore, ad X(h) h pour tout X dans g. Donc h est un idal de g. Puisque est un morphisme de groupes de Lie qui est une submersion, lapplication tangente Te est un morphisme surjectif dalgbres de Lie, de noyau h, donc induit un isomorphisme entre lalgbre de Lie quotient g/h et celle de G/H. La remarque tautologique suivante permet de construire une structure de varit sur un ensemble, en exhibant celui-ci comme ensemble quotient dun groupe de Lie par un sous-groupe de Lie plong. Remarque 1.59 Soit G un groupe de Lie rel (respectivement complexe), agissant transitivement sur un ensemble E, tel que le stabilisateur Gx dun point x de E soit un sous-groupe de Lie plong de G (ou lorsque G est rel, de manire quivalente par le thorme de Cartan 1.43, un sous-groupe ferm). Alors il existe sur E une et une seule structure de varit C (respectivement analytique complexe) telle que laction de G sur E soit de classe C (respectivement analytique complexe), la bijection canonique G/Gx E soit un diomorphisme C (respectivement analytique complexe). 76

Dans la partie 1.5.3 suivante, nous verrons que si E admettait une structure de varit (respectivement analytique complexe) pour laquelle laction de G ft C (respectivement analytique complexe), alors cette structure et celle construite dans la remarque prcdente concideraient. C 1.5.3 Actions transitives de groupes de Lie

La partie prcdente montre quune varit quotient G/H dun groupe de Lie G par un sous-groupe de Lie plong H est une varit homogne. Le but de cette partie est de montrer que, diomorphisme prs, toute varit homogne est de cette forme. Le rsultat suivant donne en plus une condition ncessaire et susante pour quune orbite dune action lisse dun groupe de Lie soit une sous-varit, auquel cas cette orbite est un espace homogne. Thorme 1.60 Soient M une varit C (respectivement analytique complexe), munie dune action lisse dun groupe de Lie rel (respectivement complexe) G, et x M . (1) Lapplication canonique x : G/Gx M dnie par x (gGx ) = gx est une immersion C (respectivement analytique complexe) injective, dimage lorbite G x de x par G. (2) Lorbite G x est une sous-varit C (respectivement analytique complexe) si et seulement si elle est localement ferme. (3) Si G x est localement ferme, alors lapplication canonique x est un diomorphisme C (respectivement analytique complexe) de G/Gx dans la sous-varit G x. (4) Si laction est transitive, alors lapplication canonique x est un diomorphisme C (respectivement analytique complexe). En particulier, si une orbite est ferme, alors cest une sous-varit. En appliquant ceci M un groupe de Lie et G un sous-groupe de Lie immerg de M , la rciproque de la premire assertion du thorme 1.43 en dcoule : un sous-groupe de Lie immerg ferm est plong. Dmonstration. (1) Comme = x est obtenue par passage au quotient de lapplication orbitale x : g gx de classe C (respectivement analytique complexe), linjection est C (respectivement analytique complexe), voir le thorme 1.58 (v). Son image est G x par construction. Montrons que est une immersion, cest--dire que Tu est injective en tout point u de G/Gx . Par quivariance de , il sut de le vrier pour u = eGx , car pour tout g dans G, les actions de g sur G/Gx et sur M sont des diomorphismes C , rendant le diagramme suivant commutatif G/Gx g G/Gx

M g M

Nous avons vu dans le lemme 1.56 que Ker Te x = Te Gx . Notons que la projection canonique : G G/Gx est une submersion et que x = (donc Te x = TeGx Te ). Si X Ker TeGx TeGx (G/Gx ), alors en choisissant Y tel que Te (Y ) = X, nous avons Y Ker Te x = Te Gx . Or par le thorme 1.58 (iv), lapplication Te : Te G TeGx (G/Gx ) induit un isomorphisme linaire (Te G)/(Te Gx ) TeGx (G/Gx ). Donc X = 0 et TeGx est injective, ce qui montre la premire assertion. 77

(2) et (3) Nous avons rappel dans le prambule que toute sous-varit est localement ferme. Supposons que Gx soit localement ferme, donc localement compacte. Montrons que est un homomorphisme sur son image. Comme cest une application C (respectivement analytique complexe) qui est une immersion injective par (1), lapplication canonique sera donc un plongement C (respectivement analytique complexe). Donc son image sera une sous-varit C (respectivement analytique complexe), et sera un diomorphisme C (respectivement analytique complexe) sur son image. Si nous montrons que lapplication orbitale x : G G x, dnie par g gx, est ouverte, alors lapplication x : G/Gx G x sera une bijection continue et ouverte (car x (U ) = x ( 1 (U )) pour tout ouvert U de G/Gx ), donc un homomorphisme. Soit U un voisinage ouvert de e dans G, montrons que U x est un voisinage ouvert de x dans G x. Ceci concluera par changement de point base dans lorbite : pour tout g dans G, la partie U g est un voisinage ouvert de g, et nous avons x (U g) = gx (U ) et G (gx) = G x. Soit V un voisinage compact de e dans G tel que V 1 V U . Alors V x = x (V ) est compact (car x est continue et Gx spar), donc ferm dans Gx. Comme G est sparable, il existe une suite (gi )iN dans G telle que G = iN gi V . Donc G x = iN gi (V x). Si V x est dintrieur vide, alors lespace localement compact non vide G x est une union dnombrable densembles ferms dintrieur vide, ce qui contredit le thorme de Baire. Soit donc g dans V tel que gx soit un point intrieur de V x. Alors g1 V x est un voisinage de x, contenu dans U x, ce qui montre le rsultat. (4) Ceci dcoule immdiatement de (3). Corollaire 1.61 Soient M une varit C (respectivement analytique complexe), munie dune action lisse dun groupe de Lie rel (respectivement complexe) compact G, et x M . Alors lorbite G x est une sous-varit C (respectivement analytique complexe) compacte de M , et lapplication canonique x : G/Gx G x est un diomorphisme C (respectivement analytique complexe). Dmonstration. Puisque G est compact et laction continue (et M spare), toute orbite est compacte, donc ferme, et le thorme prcdent sapplique. 1.5.4 Varits quotients

Le rsultat suivant implique le thorme 1.58 en prenant pour M un groupe de Lie (mais la dmonstration que nous en donnons utilise ce thorme 1.58). Thorme 1.62 Soit M une varit C (respectivement analytique complexe), munie dune action ( gauche) lisse, libre et propre dun groupe de Lie rel (respectivement complexe) G. Alors lespace topologique quotient G\M admet une et une seule structure de varit C (respectivement analytique complexe) telle que la projection canonique : M G\M soit une submersion C (respectivement analytique complexe). De plus, (i) si M est de dimension n, alors dim(G\M ) = n dim G ; (ii) pour tout x dans M , lorbite G x est une sous-varit C (respectivement analytique complexe)lapplication Tx : Tx M TGx (G\M ) induit un isomorphisme linaire (Tx M )/(Tx (G x)) TGx (G\M ) ; 78

(iii) pour toute varit N de classe Ck o k N {} (respectivement k N {, C }), une application f : G\M N est de classe Ck si et seulement si f lest. Ce thorme peut tre renforc de la manire suivante. Notons G un groupe de Lie rel (respectivement complexe), X une varit C (respectivement analytique complexe) munie dune action lisse de G, : X G\X la projection canonique et R X X la relation dquivalence tre dans la mme orbite . Le rsultat suivant, d Godement, est dmontr dans [Die1, 16.10.3]. Nous nen donnerons pas de dmonstration, car nous ne nous en servirons pas dans ce texte. Thorme 1.63 Si R est une sous-varit ferme de classe C (respectivement analytique complexe) de X X, alors il existe une et une seule structure de varit direntielle de classe C (respectivement analytique complexe) sur lespace topologique quotient G\X, telle que soit une submersion C (respectivement analytique complexe). Lorsquelle existe, cette structure de varit sur G\X est appele la structure de varit quotient de X par laction de G. Ce rsultat implique le thorme 1.62, car si laction est libre et propre, alors lapplication G X X X dnie par (g, x) (x, gx) est une immersion C (respectivement analytique complexe) injective et propre, donc un plongement C (respectivement analytique complexe) dimage ferme, et son image est exactement R. Remarque. Lhypothse que R soit une sous-varit ferme est ncessaire pour lexistence de cette varit quotient. En eet, lapplication : (X X) (G\X G\X) est une submersion car lest. La diagonale de G\X G\X est une sous-varit C ferme de G\X G\X. Donc R = ( )1 () est une sous-varit C , ferme, de X X, par les proprits des submersions. Dmonstration du thorme 1.62. Nous avons montr dans le lemme 1.57 que lespace topologique G\M est spar et base dnombrable. Montrons que pour tout x M , lorbite G x est localement ferme. En eet, soit U un voisinage ouvert de x dadhrence compacte. Puisque laction est propre, K = {g G : gx U } est un compact de G. Donc K x est un compact de M et (G x) U = (K x) U est ferm dans U . Par le thorme 1.60, toute orbite G x est donc une sous-varit. Notons p la dimension de G et n celle de M (nous pouvons supposer que M est connexe, donc de dimension constante). Dnissons le champ de p-plans sur M par x x = Tx (G x) = Te x (Te G) , qui est C (respectivement analytique complexe). Comme le crochet de deux champs de vecteurs tangents une sous-varit est encore tangent cette sous-varit, le champ est intgrable. Par le thorme de Frobnius, il est donc tangent un feuilletage F de classe C (respectivement analytique complexe), dont les feuilles sont, par unicit, les composantes connexes des orbites de G. Posons K = R (respectivement K = C). Pour tout x M , soit (Ux , x ) une carte locale feuillete de ce feuilletage, o Ux est un voisinage dadhrence compacte de x et x : Ux Kp Knp est un diomorphisme C (respectivement analytique complexe) qui envoie le feuilletage F|Ux sur le feuilletage dont les feuilles sont les sous-espaces horizontaux Kp {}. 79

Montrons que quitte rduire Ux , lintersection de toute orbite avec Ux est vide ou ne contient quune seule feuille locale de F dans Ux . Par continuit de laction, il existe un voisinage ouvert connexe par arcs V de e dans G tel que si y Ux est susamment proche de x, alors V y est contenu dans Ux (et donc dans la feuille locale de F dans Ux passant par y). Si ce que nous voulons montrer nest pas vrai, il existe donc une suite (xn )nN dans Ux convergeant vers x et une suite (gn )nN dans G V telles que la suite (gn xn )nN converge aussi vers x. Puisque laction est propre et que ladhrence de Ux est compacte, quitte extraire, la suite (gn )nN converge donc vers g G V . Mais par continuit, nous avons gx = x. Puisque laction est libre, nous avons g = e, ce qui contredit le fait que g V . / p Knp Knp la seconde projection. Alors pr : U Knp Notons pr2 : K x x 2 induit par passage au quotient une bijection pr2 x de (Ux ) sur Knp . Comme est continue et ouverte, cette bijection est un homomorphisme. Alors la famille (Ux ), pr2 x
xM

est un atlas de cartes C (respectivement analytique complexe) sur G\M , car lapplication de transition des cartes ((Ux ), pr2 x ) et ((Uy ), pr2 y ) est localement de la forme z pr2 x 1 (0, z), donc est de classe C (respectivement analytique complexe). y Lapplication est alors une submersion C (respectivement analytique complexe), car, lue dans les cartes locales prcdentes, cest juste la seconde projection pr2 : Ux

(Ux )

pr2 x

Kp Knp Knp pr2

Pour montrer lunicit, il sut de montrer que sil existe deux structures C (respectivement analytique complexe) sur G\M telles que soit une submersion, alors lidentit de G\M est un diomorphisme C (respectivement analytique complexe) entre ces deux structures. Or, par le thorme de forme normale des submersions, pour tout x dans G\M , il existe un voisinage V de x dans G\M et une section locale de sur V , cest--dire une application : V M de classe C (respectivement analytique complexe) telle que = id. Lunicit dcoule alors du fait que localement, lidentit concide avec , et que est C (respectivement analytique complexe) pour une structure, et est C (respectivement analytique complexe) pour lautre. Mis part le fait dj vu que G x est une sous-varit, les trois dernires assertions ne sont que des proprits gnrales des submersions, voir le lemme 0.1. 1.5.5 Exemples de varits homognes

(1) Les sphres. Le groupe orthogonal O(n + 1) (respectivement spcial orthogonal SO(n + 1)) agit transitivement par rotations sur la sphre unit Sn de lespace euclidien usuel Rn+1 . En eet, tant donn deux vecteurs unitaires distincts, lapplication qui vaut lidentit sur le supplmentaire orthogonal dun plan vectoriel rel contenant ces deux vecteurs, et la rotation dangle gal langle entre ces deux vecteurs sur ce plan, envoie le premier vecteur sur le second. Lapplication de O(n) (respectivement SO(n)) dans O(n+1) (respectivement SO(n + 1)) dnie par A 1 0 0 A 80

est un isomorphisme de O(n) (respectivement SO(n)) sur le stabilisateur de (1, 0, . . . , 0), par lequel nous identions O(n) (respectivement SO(n)) avec son image. Donc les applications orbitales en (1, 0, . . . , 0) induisent des C -diomorphismes Sn O(n + 1)/O(n) SO(n + 1)/SO(n) . Le groupe unitaire U(n + 1) (respectivement spcial unitaire SU(n + 1)), agit transitivement sur la sphre unit S2n+1 de lespace hermitien usuel Cn+1 . En eet, considrons un plan vectoriel complexe P contenant deux vecteurs unitaires, muni dune base hermitienne telle que ces deux vecteurs aient respectivement pour coordonnes (1, 0) et (, ), avec ||2 + ||2 = 1. La matrice de lapplication linaire qui vaut lidentit sur le supplmentaire orthogonal de P , et admet comme matrice sur P , dans la base choisie, la matrice ,

est un lment de SU(n + 1) qui envoie le premier vecteur sur le second. Lapplication de U(n) (respectivement SU(n)) dans U(n + 1) (respectivement SU(n + 1)) dnie par A 1 0 0 A

est un isomorphisme de groupes de Lie de U(n) (respectivement SU(n)) sur le stabilisateur du point (1, 0, . . . , 0), par lequel nous identions U(n) (respectivement SU(n)) avec son image. Donc les applications orbitales en (1, 0, . . . , 0) induisent des C -diomorphismes S2n+1 U(n + 1)/U(n) SU(n + 1)/SU(n) . (2) Les espaces projectifs. Laction par rotations du groupe orthogonal O(n+1) (respectivement spcial orthogonal SO(n + 1)) sur la sphre unit Sn de Rn+1 prserve lantipodie, donc induit une action C de O(n + 1) (respectivement SO(n + 1)) sur lespace projectif Pn (R) = Sn /{1}. Le stabilisateur du point [1, 0, . . . , 0] est le sous-groupe 1 0 0 A O(n + 1) (resp.
1 det A

0 A

SO(n + 1) )

qui sidentie de manire vidente au groupe de Lie {1} O(n) (respectivement O(n)). Donc les applications orbitales en [1, 0, . . . , 0] induisent des C -diomorphismes Pn (R) O(n + 1)/({1} O(n)) SO(n + 1)/O(n) . (3) Les varits grassmanniennes. Soient n, k N tels que k n, et K = R (respectivement K = C) et V un espace vectoriel sur K de dimension n. Le groupe linaire GL(V ) agit sur la varit grassmannienne Gk (V ) des sous-espaces vectoriels sur K de dimension k de V , par lapplication qui un sous-espace vectoriel C et un automorphisme linaire g associe le sous-espace vectoriel g(C). Cette action est lisse. Pour montrer ceci, par dnition dune action, il sut de montrer que pour tout g dans GL(V ), lapplication de Gk (V ) 81

dans Gk (V ) dnie par C g(C) est C (respectivement analytique complexe), et que laction (g, C) g(C) est lisse en (e, A) pour tout A dans Gk (V ). Rappelons que latlas de cartes de Gk (V ) est latlas de cartes C (respectivement analytique complexe) maximal contenant latlas de cartes ((UB , A,B ))A,B de Gk (V ), o A parcourt Gk (V ) et B parcourt lensemble des sous-espaces vectoriels supplmentaires A, UB est louvert de Gk (V ) des sous-espaces vectoriels supplmentaires B, A,B est lapplication de UB dans L (A, B) Kk(nk) telle que 1 (f ) soit le A,B graphe de lapplication linaire f : A B dans la dcomposition V = A B. Pour tout g dans GL(V ) et toute telle carte (UB , A,B ), la restriction UB de laction de g sur Gk (V ) est C (respectivement analytique complexe), car le diagramme suivant C UB
A,B

g(C) Ug(B) g(A),g(B) L (g(A), g(B)) g f g1

L (A, B) f

est commutatif, et lapplication f g f g1 est de classe C (respectivement analytique complexe). Soient (UB , A,B ) une carte comme ci-dessus, U un voisinage de e dans G et UB un , le sous-espace voisinage de A contenu dans UB , tels que pour tous g dans U et C dans UB vectoriel g(C) soit supplmentaire B. Notons pr1 la projection de V sur A paralllement B, et pr2 la projection de V sur B paralllement A. Remarquons que si C = (id + f )(A) est le graphe dune application linaire f : A B, alors g(C) = g (id + f )(A). Pour tous les g dans U et tous les f dans louvert A,B (UB ) de L (A, B), lapplication (g, f ) = pr1 g (id + f ) est un isomorphisme linaire de A dans A, et dpend de manire C (respectivement analytique complexe) de (g, f ), donc son inverse aussi. Le diagramme suivant (g, C) g(C) U UB UB
idA,B U A,B (UB ) (g, f )

A,B

L (A, B) pr2 g (id + f ) (g, f )1

est commutatif : puisque (g, f ) = pr1 g (id + f ), nous avons (id + pr2 g (id + f ) (g, f )1 )((g, f )(x)) = g (id + f )(x)
pour tous les g U , f A,B (UB ) et x A, et la commutativit dcoule alors du fait que (g, f )(A) = A. Donc lapplication (g, C) g(C) est C (respectivement analytique complexe) en (e, A). Supposons V = Kn . Le stabilisateur du sous-espace vectoriel Kk {0} est le sous-groupe triangulaire suprieur par blocs

Pn,k =

A B 0 D

GLn (K) : A GLk (K) . 82

Lorsque K = R, le sous-groupe de Lie plong O(n) de GLn (R) agit aussi transitivement sur Gk (Rn ), de stabilisateur du sous-espace Rk {0} gal A 0 0 D O(n) : A O(k) ,

qui sidentie de manire vidente au groupe O(k)O(nk). Donc les applications orbitales induisent des C -diomorphismes (analytique complexe pour le premier si K = C) Gk (Kn ) GLn (K)/Pn,k et Gk (Rn ) O(n)/(O(k) O(n k)) . Lorsque k = 1, nous retrouvons le cas des espaces projectifs. Exercice E.15 Si K = R (respectivement K = C), notons Scal(V ) la sous-varit C de lespace vectoriel rel des formes bilinaires (respectivement sesquilinaires), symtriques (respectivement hermitiennes) et dnies positives de V V dans K. Montrer que lapplication de Scal(V ) Gk (V ) dans Gnk (V ), qui un couple ( , , F ) dun produit scalaire sur V et dun sous-espace vectoriel F de dimension k de V associe lorthogonal F = {x V : y F, x, y = 0} de F pour ce produit scalaire, est de classe C . (4) Le demi-plan de Poincar. Le groupe de Lie SL2 (R) agit de manire C sur le demi-plan suprieur H = {z C : Im z > 0} qui est un ouvert de C, donc une varit C , par les homographies az + b a b . ( , z) c d cz + d
Im z En eet, cz + d est non nul si Im z > 0 et c, d R, et Im ( az+b ) = |cz+d|2 . Donc cette cz+d application est bien dnie et SL2 (R) prserve H . Il est facile de vrier quil sagit bien dune action C . Le stabilisateur du point i est le sous-groupe

SO(2) =

cos sin sin cos

: R/2Z .

Donc lapplication orbitale en i induit un C -diomorphisme H SL2 (R)/SO(2) . (5) Les espaces hyperboliques. Il est facile de vrier que le sous-espace topologique de Rn+1 , dni par
n H+ = {(x0 , . . . , xn ) Rn+1 : x0 > 0, x2 + x2 + + x2 = 1} , 0 1 n

et appel le demi-hyperbolode suprieur, est une sous-varit C de Rn+1 . Considrons le sous-groupe de Lie plong SO0 (1, n) de GLn+1 (R), qui est la composante neutre du sous-groupe de Lie plong SO(1, n) des lments de GLn+1 (R) prservant la forme quan dratique q = x2 + x2 + + x2 sur Rn+1 . La restriction SO0 (1, n) H+ de laction n 0 1 n linaire de GLn+1 (R) sur Rn+1 est une action C de SO0 (1, n) sur H+ , car lhyperbolode n+1 : x2 + x2 + + x2 = 1}, qui est prserv par SO(1, n), possde {(x0 , . . . , xn ) R n 1 0 83

n deux composantes connexes (dont lune est H+ ), qui, par connexit, sont toutes les deux prserves par SO0 (1, n). Le stabilisateur du point (1, 0, . . . , 0) est le sous-groupe de Lie plong 1 0 : A SO(n) , 0 A

qui sidentie de manire vidente avec SO(n). x0 SO(n)

q=0 Hn (1, 0, . . . , 0)

{0}

Rn

(0, 0, . . . , 0)

x1

n qui appartient SO0 (1, n). Donc laction de SO0 (1, n) sur H+ est transitive. Par cons -diomorphisme quent, lapplication orbitale en (1, 0, . . . , 0) induit un C n H+ SO0 (1, n)/SO(n) .

n Tout point de H+ peut tre envoy, par un lment de ce stabilisateur SO(n), sur un point de lhyperbole dquations x2 = = xn = 0 et x2 + x2 = 1. Tout point de cette 1 0 hyperbole scrit (cosh t, sinh t, 0, . . . , 0) pour un t dans R. Et ce point peut tre envoy sur le point (1, 0, . . . , 0) par llment cosh t sinh t 0 sinh t cosh t , 0 Idn2

(6) Lespace des produits scalaires unimodulaires. Notons Qn lespace des formes quadratiques relles q sur Rn , dnies positives et dont le dterminant de la forme bilinaire associe 1 bq (x, y) = q(x + y) q(x) q(y) 2 vaut 1. Lapplication q bq identie Qn avec une sous-varit C de codimension 1 de lespace vectoriel de dimension nie des formes bilinaires symtriques sur Rn (car lapplication dterminant sur louvert de cet espace vectoriel form des formes dnies positives est une submersion), donc munit Qn dune structure de varit C . 84

Le groupe spcial linaire SL(Rn ) agit droite sur Qn par (g, q) q g. Cette action est videmment C , car, en passant aux matrices (dans la base canonique), il sagit tout simplement de lapplication C (Mg , Bq ) t Mg Bq Mg , o Bq est la matrice de bq , de sorte que q(x) = t XBq X si X est le vecteur colonne de x, et o Mg est la matrice de g. Le stabilisateur du produit scalaire euclidien usuel q0 est le sous-groupe de Lie plong SO(q0 ) SO(n) de SL(Rn ) SLn (R). Par le thorme de rduction des formes quadratiques dnies positives, le groupe GL(Rn ) agit transitivement sur lensemble des formes quadratiques relles, dnies positives, sur Rn , donc SL(Rn ) agit transitivement sur Qn . Par consquent, lapplication orbitale en q0 induit un C -diomorphisme Qn SO(n)\SLn (R) (laction tant droite, il sagit bien du quotient gauche par SO(n)). Nous renvoyons [MT2] pour de nombreux autres exemples despaces homognes, ainsi que [Hel, Ebe1].

1.6

Exercices supplmentaires

Exercice E.16 (Classication des groupes de Lie abliens) Soit G un groupe de Lie rel ablien connexe, dalgbre de Lie g. (1) Montrer que exp : g G est un revtement de groupes de Lie, o g est munie de sa structure de groupe de Lie additif. (2) En dduire que le groupe de Lie G est isomorphe un groupe de Lie Rn (S1 )m o n, m N. Exercice E.17 Soient g une algbre de Lie relle de dimension nie, B : (X, Y ) tr(ad X ad Y ) sa forme de Killing et Der(g) = {D gl(g) : X, Y g, D([X, Y ]) = [D(X), Y )] + [X, D(Y )]} la sous-algbre de Lie des drivations de lalgbre de Lie gl(g) des endomorphismes linaires de g. (1) Montrer que le groupe Aut(g) des automorphismes dalgbres de Lie de g est un sousgroupe ferm du groupe orthogonal O(B) = {f GL(g) : X, Y g, B(f (X), f (Y )) = B(X, Y )}. (2) Montrer que si D Der(g), alors lexponentielle eD de lendomorphisme D de g est un automorphisme de g. En dduire que Aut(g) est un sous-groupe de Lie plong de O(B), dalgbre de Lie Der(g). (3) Supposons que g soit semi-simple. (i) Soit D Der(g). a) Montrer que D (ad Y ) = ad(D(Y )) + (ad Y ) D pour tout Y g. b) Montrer quil existe un et un seul X g tel que B(X, Y ) = tr(D ad Y ) pour tout Y g. c) Montrer que B(D(Y ), Z) = B([X, Y ], Z) pour tous Y, Z g. d) En dduire que D = ad X. 85

(ii) En dduire que lapplication X ad X est un isomorphisme dalgbres de Lie entre g et Der(g). (4) Si B est dnie ngative, montrer que Aut(g) est un groupe de Lie compact, dalgbre de Lie semi-simple et isomorphe g. Exercice E.18 Soient G un groupe de Lie rel connexe, g son algbre de Lie et B la forme de Killing de g. Montrer que les conditions suivantes sont quivalentes (i) B est dnie ngative ; (ii) G est compact de centre ni ; (iii) Ad G est un sous-groupe compact de GL(g) et le centre de G est discret. Exercice E.19 Soient g une algbre de Lie de dimension nie et z(g) = {X g : Y g, [X, Y ] = 0} son centre. Montrer que les conditions suivantes sur g sont quivalentes (nous dirons alors que g est rductive), et quelle sont vries par lalgbre de Lie de GLn (R) : (i) lalgbre de Lie drive [g, g] est semi-simple et g = z(g) [g, g] ; (iii) tout idal ablien I de g est contenu dans z(g) et z(g) [g, g] = {0}. (ii) il existe un idal semi-simple h de g tel que g = z(g) h ;

1.7

Indications pour la rsolution des exercices

6

Schme

E.5

Voir [Pau2], Proposition 4.9 et Exercice E. 93.

Schme E.11 Par la proprit (1) de lapplication exponentielle, ceci dcoule de la dnition du crochet de Lie [X, Y ] = [X, Y ](e) de g et de lexercice E.5. Schme E.12 Soit g lalgbre de Lie de G. (1) Pour tout g G, nous avons g ker Ad si et seulement si Ad g X = X pour tout X g, si et seulement si exp(Ad g X) = exp X pour tout X g, si et seulement si g exp(X)g1 = exp X pour tout X g. Le rsultat dcoule alors du fait que le groupe de Lie connexe G est engendr par tout voisinage de lidentit, et que limage de lexponentielle est un voisinage de lidentit. (2) Le centre Z(G) de G est un sous-groupe de G ferm, comme intersection de ferms. Par le thorme de Cartan, cest donc un sous-groupe de Lie plong du groupe de Lie rel G. Un lment X de g appartient lalgbre de Lie de Z(G) si et seulement si exp X appartient Z(G), si et seulement si exp(tX) appartient Z(G) pour tout t R, si et seulement si exp(tX) exp Y (exp(tX))1 = exp Y pour tous les t R et Y g, car le groupe de Lie connexe G est engendr par limage de son exponentielle. Or exp(tX) exp Y (exp(tX))1 = exp(Ad(exp(tX)) Y ) = exp(ead(tX) Y ) . Donc exp X Z(G) si et seulement si ead(tX) Y = Y pour tous les t R et Y g. Cette condition est implique par le fait que ad X(Y ) = 0 pour tout Y g, et en drivant en
6

n.m. (gr. ). Structure densemble dun processus.

86

t = 0, elle implique que ad X(Y ) = 0 pour tout Y g. Donc exp X Z(G) si et seulement si X z(g) = ker ad. Schme E.16 (1) Pour tous les X, Y g, puisque le groupe de Lie G est ablien, lapplication t exp(tX) exp(tY ) est un sous-groupe un paramtre de G, de drive en 0 gale X + Y , donc exp(tX) exp(tY ) = exp(t(X + Y )) pour tout t R, donc en particulier pour t = 1. Comme (exp X)1 = exp(X), ceci montre que exp est un morphisme de groupes, qui est lisse, donc un morphisme de groupes de Lie. Par connexit, G est engendr par tout voisinage de lidentit. Limage de lexponentielle contient un voisinage de lidentit, puisque exp est un diomorphisme local en 0. Puisque exp est un morphisme de groupes, lapplication exp est donc surjective. Puisque la direntielle de exp en 0 est lidentit, et par le thorme dinversion locale, il existe un voisinage V de 0 tel que exp : V exp(V ) soit un C -diomorphisme sur un voisinage ouvert de e dans G. Soit U un voisinage de 0 dans g symtrique par rapport lorigine tel que U + U V . Alors pour tout y G, la runion exp1 (exp(U )) = xexp1 (y) (x + U ) est disjointe, et exp : (x + U ) y exp(U ) est un C -diomorphisme 1 (y). Donc exp est un revtement, qui est un morphisme de groupes de pour tout x exp Lie, donc un revtement de groupes de Lie. (2) Le noyau de exp est un sous-groupe additif discret de g RN , donc isomorphisme linaire prs, de la forme = {0}n Zm avec n + m = N . Par la proposition 1.46, le revtement de groupes de Lie exp induit un isomorphisme de groupes de Lie de g/ sur G. Le rsultat en dcoule. Schme E.17 (1) Nous avons vu dans lexemple (7) de la partie 1.2 que la forme de Killing de g est invariante par tout automorphisme f de g. [Pour tout X g, nous avons ad(f (X)) = f ad X f 1 , car pour tout Y g, ad(f (X))Y = [f (X), Y ] = f ([X, f 1 (Y )] = f ad X f 1 (Y ) . Donc ad(f (X)) ad(f (Y )) = f ad X ad Y f 1 pour tous les X, Y g, et le rsultat dcoule des proprits de la trace.] Donc Aut(g) est contenu dans le groupe orthogonal de la forme bilinaire symtrique B. De plus, Aut(g) est un sous-groupe ferm de GL(g), par continuit du crochet de Lie (qui est bilinaire en dimension nie), comme intersection des ferms {f GL(g) : f ([X, Y ]) = [f (X), f (Y )]} lorsque X et Y parcourent g.

(2) Par le thorme de Cartan et la question (1), Aut(g) est un sous-groupe de Lie plong de O(B). Le reste est un exercice de travaux dirigs. Rappelons que lapplication exponentielle de lalgbre de Lie gl(g) dans le groupe de Lie GL(g) est lexponentielle des endomorphismes. Pour tout D gl(g), si eD est un automorphisme de g, alors en drivant en t = 0 lquation [etD (X), etD (Y )] = etD ([X, Y ]), nous obtenons que D est une drivation. Rciproquement, si D est une drivation, alors eD est un automorphisme dalgbres de Lie, car pour tous X, Y g, nous avons eD [X, Y ] =
nN

1 n D ([X, Y ]) = n!

nN

1 n!

n k=0

n [D k (X), Dnk (Y )] k

=
k,N

1 [D k (X), D (Y )] = [eD X, eD Y ] . k!! 87

Le rsultat en dcoule. (3) Le noyau de la reprsentation adjointe ad : g gl(g), tant le centre de g donc un idal ablien de g, est trivial, puisque g est semi-simple. Par la formule de Jacobi (voir lexemple (7) de la partie 1.2), la reprsentation adjointe ad est un morphisme dalgbres de Lie de g valeurs dans Der(g). Il sut donc pour obtenir le rsultat nal de la partie (3) de montrer que ad : g Der(g) est surjective. Par le critre de semi-simplicit de Cartan, la forme de Killing B est non dgnre. Lapplication Y tr(D ad Y ) est une forme linaire sur g. Donc il existe X g tel que B(X, Y ) = tr(D ad Y ) pour tout Y g. Montrons que D = ad X. Puisque B est non dgnre, et (ad X)(Y ) = [X, Y ] pour tout Y g, il sut de montrer que B(D(Y ), Z) = B([X, Y ], Z) pour tout Z g. Puisque D est une drivation, D([Y, Z]) = [D(Y ), Z] + [Y, D(Z)], donc D (ad Y ) = ad(D(Y )) + (ad Y ) D . Do, en appliquant lidentit de Jacobi pour la cinquime galit et la dnition de X pour la sixime galit, B(D(Y ), Z) = tr(ad(D(Y )) ad Z) = tr(D ad Y ad Z) tr(ad Y D ad Z) = tr(D ad[Y, Z]) = B(X, [Y, Z]) = B([X, Y ], Z) , = tr(D ad Y ad Z) tr(D ad Z ad Y ) = tr(D [ad Y, ad Z])

ce quil fallait dmontrer. Rappelons que la dernire galit est vraie car la forme de Killing est ad-alterne : par lidentit de Jacobi, tr(ad X ad[Y, Z]) = tr(ad X ad Y ad Z) tr(ad X ad Z ad Y ) = tr(ad[X, Y ] ad Z) .

= tr(ad X ad Y ad Z) tr(ad Y ad X ad Z)

(4) Puisque B est dnie ngative, le groupe de Lie O(B) est compact. Par la question (2), Aut(g) est un sous-groupe de Lie plong, ferm dans un compact, donc compact. Par le critre de semi-simplicit de Cartan, puisque B est non dgnre, lalgbre de Lie g est semi-simple. Par la question (3) lapplication X ad X est un isomorphisme dalgbres de Lie entre g et Der(g). Par la question (2), la sous-algbre de Lie Der(g) de lalgbre de Lie gl(g) est lalgbre de Lie du sous-groupe de Lie plong Aut(g) du groupe de Lie GL(g), et le rsultat en dcoule. Schme E.18 Montrons que (i) implique (iii). Puisque B est dnie ngative, g est semi-simple par le critre de semi-simplicit de Cartan. En particulier son centre z(g) est nul. Donc le centre de G, qui est un sous-groupe de Lieplong dont lalgbre de Lie est z(g) par lexercice E.12 (2), est discret. Comme le noyau de Ad est gal au centre de G par connexit de G (voir lexercice E.12 (1)), Ad G est un sous-groupe de Lie immerg connexe de Aut(g). Par la question (3) de lexercice E.17, lalgbre de Lie ad g de Ad G est gale Der(g), qui est lalgbre de Lie de Aut(g) par la question (2) de lexercice E.17. Donc Ad G est la composante neutre de Aut(g), et en particulier est ferm. Par la question (4) de lexercice E.17, le groupe de Lie Ad G est donc compact. 88

Schme E.19 Il est immdiat que (i) implique (ii), car lalgbre drive est un idal. Montrons que (ii) implique (iii). Soit I un idal ablien de g. Notons J = {h h : z z(g), z + h I}. Montrons que J est un idal ablien de h. Pour tout h J, soit z z(g) tel que z + h appartienne lidal ablien I. Puisque z est central, pour tout h h , nous avons [h, h ] = [h + z, h ] = 0, ce qui montre le rsultat. Maintenant, puisque h est semi-simple, nous avons J = 0, donc I est contenu dans z(g) par dnition de J : pour tout x I, en crivant x = z + xh o z z(g) et xh h, nous avons xh J, donc xh = 0 donc x z(g). Puisque tout lment de g scrit comme somme dun lment de h et dun lment central, nous avons [g, g] [h, h] h, donc z(g) [g, g] z(g) h = {0}. Montrons enn que (iii) implique (i). Soit h un sous-espace vectoriel contenant [g, g] tel que g = z(g) h. Pour tous les g g et h h, nous avons [g, h] [g, g] h, donc h est un idal. Tout idal ablien de h est un idal de g, car tout lment de g scrit comme somme dun lment de h et dun lment qui commute avec h, donc est contenu dans z(g) h = {0}, do h est semi-simple. Enn, puisque h est semi-simple, h = [h, h] [g, g] h, donc h = [g, g].

89

Fibrs et connexions

Les espaces brs (en commenant par le br tangent) interviennent de multiples occasions en gomtrie direntielle (et en physique thorique). Aussi est-il ncessaire de leur consacrer un chapitre. Mais ils resteront pour nous un outil, et nous renvoyons par exemple [Hus, Ati, Kar] pour une tude des brs pour eux-mme. Nous reprenons les conventions sur la rgularit r N {, R , C } donnes dans le prambule.

2.1

Fibrations

Soit r N {, R , C }. Une bration (ou br localement trivial) de classe Cr est une application p : E B de classe Cr entre deux varits de classe Cr , de sorte que pour tout b dans B, il existe une varit F non vide de classe Cr , un voisinage ouvert U de b, et un Cr -diomorphisme : p1 (U ) U F , tels que pr1 = p|p1(U ) , o pr1 : U F U est la premire projection (x, y) x, cest--dire tels que le diagramme suivant commute p1 (U ) U F pr1 p U . On dit que B est la base, E lespace total, p1 (b) la bre au-dessus de b, U un ouvert distingu ou voisinage ouvert distingu de b, une trivialisation locale de p au-dessus de U . Lorsque F est x, et ne dpend pas de b, on parle de bration de bre F . Par abus, nous dsignerons souvent par son espace total E la bration p, lapplication p tant sousentendue. Par dnition, toute bration est surjective. Soient p : E B et p : E B des brations de classe Cr . Un morphisme Cr (de brations) de p dans p est un couple dapplications (f, g) de classe Cr tel que le diagramme suivant commute : f E E p p g B B .

Un isomorphisme Cr (de brations) de p dans p est un morphisme (f, g) de p dans p tel quil existe un morphisme (f , g ) de p dans p qui vrie gg = id, g g = id, f f = id, f f = id. Deux brations sont isomorphes sil existe un isomorphisme entre eux. Le couple (id, id) est un morphisme de la bration p dans elle-mme, appel le morphisme identit. Si (f, f ) et (g, g) sont deux morphismes de p dans p et de p dans p respectivement, alors le couple (g f, g f ) est un morphisme de brations de p dans p , appel composition de (f, f ) et (g, g). Ainsi, la collection des brations Cr et des morphismes de brations Cr est une catgorie. Lorsque B = B , un morphisme au-dessus de lidentit (ou morphisme sur la base B) de p dans p est une application f : E E tel que (f, id) soit un morphisme, et de mme pour les isomorphismes. Le contexte indique en gnral clairement si nous parlons de morphisme ou de morphisme au-dessus de lidentit. Une section dune bration p : E B de classe Cr est une application s de B dans E telle que p s = idB . Pour r r, nous pouvons parler de section Cr . Une telle section continue globale (cest--dire dnie sur tout B) nexiste en gnral pas. Nous noterons (p), et par abus (E), lensemble des sections Cr de p. 90

Exemples et remarques. (1) Si M et F sont deux varits Cr avec F non vide, la premire projection pr1 : M F M de la varit produit M F dans M est une bration de bre F , de base M , dite triviale. Toute bration isomorphe une bration triviale est dite trivialisable. Une bration de classe Cr trivialisable admet beaucoup de sections globales Cr : pour tout y dans F , lapplication x (x, y) est une section globale Cr de pr1 : M F M . Lapplication de Cr (M ; F ) dans (pr1 ) dnie par f {x (x, f (x))} est une bijection. Par exemple, si p : E B est une bration, et U un ouvert distingu de B, alors la restriction de p p1 (U ) est une bration trivialisable. Donc une bration (localement triviale) admet de nombreuses sections locales (cest--dire dnies sur un voisinage susamment petit de tout point). Par exemple, lapplication Rn+1 {0} ] 0, + [ dnie par (x0 , . . . , xn ) x2 + + x2 0 n est une bration analytique relle, de bre Sn , qui est trivialisable. (2) (Revtements) Les revtements sont les brations de bres discrtes. (3) (Fibrations et submersions) Il est immdiat quune bration Cr pour r 1 est une submersion surjective. En particulier, par le thorme de forme normale des submersions, toute bre est une sous-varit Cr de lespace total, de dimension n p si lespace total est de dimension n et la base de dimension p. Toute submersion est localement (au sens dau voisinage (convenable) de tout point de lensemble de dpart) une bration, par ce mme thorme. Mais il existe des submersions qui ne sont pas des brations. Par exemple, lapplication x x3 3x de R {1} dans R est une submersion surjective, qui nest pas une bration (car le cardinal des bres est ni et non localement constant). Mais nous avons le rsultat suivant. Thorme 2.1 (Thorme de bration dEhresmann) Une submersion surjective propre de classe C est une bration de classe C . Rappelons quune application entre deux espaces topologiques localement compacts est propre si limage rciproque de tout compact est compact. En particulier, une submersion surjective de classe C dune varit compacte M de classe C sur une varit N de classe C est une bration de classe C . Lhypothse de rgularit C dans le thorme prcdent peut tre aaiblie en C2 (voir [Ehr, 1]). Dmonstration. Soient M et N deux varits de classe C , de dimensions m et n respectivement, et f : M N une submersion surjective de classe C . Lemme 2.2 Pour tout champ de vecteurs Y de classe C sur N , il existe au moins un champ de vecteurs X de classe C sur M tel que x M, Tx f (X(x)) = Y (f (x)) .

Soient (X,t ) le ot local du champ de vecteurs X et (Y,t ) celui de Y . Pour tout x0 dans X, si (x, t) est susamment proche de (x0 , 0), alors f X,t (x) = Y,t f (x) . 91

Dmonstration. Remarquons que m n. Si M = Rm , N = Rn et est la submersion standard (x1 , . . . , xm ) (x1 , . . . , xn ), pour tout champ de vecteurs (y1 , . . . , yn ) n Z(y1 , . . . , yn ) = i=1 Zi (y1 , . . . , yn ) yi sur N , avec Zi C (N ; R), le champ de vecdx (Z(x)) = Z((x)), car est linaire. Montrons maintenant que pour tout x dans M , il existe un voisinage ouvert Ux de x et un champ de vecteurs Xx de classe C sur Ux tel que Ty f (Xx (y)) = Y (f (y)) pour tout y dans Ux . En eet, par le thorme de forme normale des submersions, pour tout x dans M , il existe une carte locale (Ux , ) en x avec (Ux ) = Rm et une carte locale (V, ) en f (x) avec (V ) = Rn telle que f (Ux ) V et f 1 = . Alors le champ de vecteurs teurs (x1 , . . . , xm ) Z(x1 , . . . , xm ) =
n i=1 Zi (x1 , . . . , xn ) xi

sur M est C et vrie que

Xx = ( ( 1 ) (Y|V ) ) convient. En eet, pour tout y dans Ux , comme Tf (y) est bijective, il sut de montrer que Tf (y) (Ty f (Xx (y))) = Tf (y) (Y (f (y))). Or le premier membre, par la dnition de limage rciproque par du champ de vecteurs ( 1 ) (Y|V ) et le thorme

de drivation des fonctions composes, vaut T(y) ( f 1 )( ( 1 ) (Y|V ) ((y))), donc par dnition de Z Z, ceci vaut ( 1 ) (Y|V )(((y))) = ( 1 ) (Y|V )( f (y)), et par dnition de limage directe dun champ de vecteurs, le rsultat en dcoule. Enn, soit (x )xM une partition de lunit C subordonne au recouvrement ouvert (Ux )xM . Posons X = xM x Xx , qui est un champ de vecteurs C , car cette somme est nie au voisinage de tout point. Par linarit des applications tangentes, par le fait que le support de x soit contenu dans Ux , et par le fait que la somme de la famille (x )xM vaille 1, nous avons donc, pour tout y dans M , Ty f (X(y)) =
xM

x (y) Ty f (Xx (y)) =

xM

x (y) Y (f (y)) = Y (f (y)) ,

le premier point quil fallait dmontrer. Considrons les courbes t f X,t (x) et t Y,t f (x), qui sont de classe C . Leurs valeurs en t = 0 sont gales, et elles vrient, par le thorme de drivation des fonctions composes, la dnition du ot local, et ce qui prcde : d f X,t (x) = TX,t (x) f (X(X,t (x))) = Y (f X,t (x)) , dt d Y,t f (x) = Y (Y,t f (x)) . dt Deux fonctions qui vrient la mme quation direntielle du premier ordre et concident en un point sont gales, au moins au voisinage de ce point, ce qui conclut. Soient y0 dans N , (e1 , . . . , en ) une base de Ty0 N , (U, ) une carte locale en y0 , Zi le champ de vecteurs constant gal Ty0 (ei ) sur (U ), une fonction C sur (U ), valant 1 au voisinage de (y0 ) et de support contenu dans (U ). Posons Yi = ( Zi ), prolong par 0 en dehors de U . Alors Y1 , . . . , Yn sont des champs de vecteurs de classe C sur N , tels que Yi (y0 ) = ei pour i = 1, . . . , n. Si Yi ,t est le ot local de Yi , montrons que lapplication (t1 , . . . , tn ) Y1 ,t1 Yn ,tn (y0 ) 92

est un C -diomorphisme dun voisinage ouvert de 0 dans Rn sur un voisinage ouvert de y0 dans N . Par le thorme dinversion locale, il sut de montrer que la direntielle en (0, . . . , 0) de lapplication (t1 , . . . , tn ) Y1 ,t1 Yn ,tn (y0 ), qui est de classe C , est inversible. Or, par le thorme de drivation des fonctions composes, par lquation direntielle vrie par le ot dun champ de vecteurs, et comme Yi ,0 = id, la direntielle de cette application envoie la base canonique de Rn sur (Y1 (y0 ), . . . , Yn (y0 )), cest--dire sur la base (e1 , . . . , en ) de Ty0 N , donc elle est inversible. Pour conclure, soient y0 dans N et F = f 1 (y0 ), qui est une sous-varit compacte de M car f est une submersion C propre. Par ce qui prcde, notons U un voisinage de y0 dans N , Y1 , . . . , Yn des champs de vecteurs sur N tels que : (t1 , . . . , tn ) Y1 ,t1 Yn ,tn (y0 ) soit un diomorphisme local en 0, et X1 , . . . , Xn des champs de vecteurs C sur M tels que Tx f (Xi (x)) = Yi (f (x)) pour tout x dans X. Par compacit de F , il existe > 0 tel que le ot local Xi ,t du champ de vecteurs Xi soit dni au moins sur le temps ] , [ en tout point de F , donc sur un voisinage de F quitte rduire , et pour tout i. Posons : F ] , [ n M dnie (quitte rduire ) par (x, (t1 , . . . , tn )) X1 ,t1 Xn ,tn (x), qui est C . Notons : F U M lapplication dnie, quitte rduire U , par (x, y) = (x, 1 (y)). Par le lemme 2.2, f X1 ,t1 Xn ,tn (x) = Y1 ,t1 Yn ,tn (f (x)) , donc f (x, y) = y. Pour montrer que est un C -diomorphisme sur un voisinage de F dans M quitte rduire U , il sut de montrer que lest quitte rduire . Or, quitte rduire les domaines, u (Xn , prn 1 f (u) 1 X1 , pr1 1 f (u) 1 (u), 1 f (u)) est une application C , inverse de . Nous avons donc montr lexistence de trivialisations locales au-dessus dun voisinage de chaque point de N , par surjectivit, do le rsultat. (4) (Espaces homognes) Les espaces homognes donnent des exemples importants de brations. Thorme 2.3 Soit M une varit C (respectivement analytique complexe), munie dune action ( gauche) lisse, libre et propre dun groupe de Lie rel (respectivement complexe) G. Munissons lespace topologique quotient G\M de son unique structure de varit C (respectivement analytique complexe) telle que la projection canonique : M G\M soit une submersion C (respectivement analytique complexe). Alors est une bration C (respectivement analytique complexe) de bre G. Dmonstration. Montrons que pour tout ouvert V de G\M , pour toute section : V M de classe C (respectivement analytique complexe) de , lapplication : V G 1 (V ) dnie par (x, g) g (x) est un diomorphisme de classe C (respectivement analytique complexe). Il est alors immdiat de voir que 1 rend le diagramme suivant commutatif 1 1 (V ) V G pr1 V , 93

donc est une trivialisation de au-dessus de V . Ceci conclut, par lexistence locale de sections donne implique par la proprit de submersion surjective. Lapplication est clairement C , surjective par construction, et injective car laction est libre. Puique toute submersion bijective est un diomorphisme, il sut de montrer que est une submersion en tout (x, g) V G. Puisque est quivariante (car (x, g g) = g (x, g)) et puisque les actions gauche de g sont des diomorphismes, il sut de montrer que T(x,e) est surjective. En notant pr1 et pr2 les projections sur les premier et second facteurs de T(x,e) (V G) = Tx V Te G, nous avons T(x,e) = Te (x) pr2 +Tx pr1 . Puisque est une submersion et une section de , nous avons T(x) M = T(x) ( 1 (x)) Tx (Tx V ). Le rsultat dcoule donc du fait que lapplication (x) : G G (x) = 1 (x) est une submersion, par le thorme 1.60 (3), qui sapplique car Gx = {e} puisque laction est libre, et puisque lorbite G (x) est localement ferme, comme dmontr dans la dmonstration du thorme 1.62. La dmonstration du thorme 2.3 montre aussi quun br principal est trivialisable si et seulement sil admet une section globale lisse. Proposition 2.4 Soient M une varit C (respectivement analytique complexe), munie dune action droite lisse, libre et propre dun groupe de Lie rel (respectivement complexe) G, et : M M/G la projection canonique. Alors la bration est trivialisable si et seulement si elle admet une section : M/G M de classe C (respectivement analytique complexe). En particulier, soient G un groupe de Lie rel (respectivement complexe), H un sousgroupe de Lie plong de G, et : G G/H la projection canonique. Munissons G/H de son unique structure de varit C (respectivement analytique complexe), telle que soit une submersion C (respectivement analytique complexe), voir le thorme 1.58). Le thorme prcdent, appliqu laction ( gauche) par translations droite de H sur G, qui est libre et propre, montre le rsultat suivant. Corollaire 2.5 Soit H un sous-groupe de Lie plong dun groupe de Lie rel (respectivement complexe) G. Alors la projection canonique : G G/H est une bration C (respectivement analytique complexe) de bre H. Exemples : (Fibrations de Hopf ) Pour tout entier n 1, soient M la sphre S2n+1 = {(z0 , . . . , zn ) Cn+1 : |z0 |2 + + |zn |2 = 1} de dimension 2n + 1 et G le groupe de Lie rel S1 , qui agit sur M par multiplication terme terme z (z0 , . . . , zn ) = (zz0 , . . . , zzn ) . Cette action est lisse, libre et propre car M et G sont compacts. De plus, la projection canonique de Cn+1 {0} Pn (C) induit par passage au quotient un diomorphisme C de la varit quotient S1 \S2n+1 dans lespace projectif complexe de dimension n S1 \S2n+1 Pn (C) . En particulier, la projection canonique : S2n+1 Pn (C) est une bration C de bre S1 . 94

(5) (Fibrations plates) Soient M et F deux varits Cr o M est connexe, et f : M M un revtement galoisien de M , de groupe des automorphismes de revtements (par exemple un revtement universel de M , auquel cas est un groupe fondamental de M ). Soit : Di r (F ) un morphisme quelconque du groupe dans le groupe des diomorphismes de classe Cr de F . Laction diagonale de sur M F , dnie par (x, y) = x, ()(y) , est propre et libre, car elle lest sur le premier facteur, et est une action par Cr -diomorphismes. Lapplication de M F dans M dnie par (x, y) f (x) passe au quotient en une application lisse p = pf, : \(M F ) M de la varit Cr quotient \(M F ) dans M. Proposition 2.6 Lapplication p = pf, est une bration sur M de bre F . Dmonstration. Puisque f est galoisien, pour tout b M , il existe un ouvert U dans M et un ouvert V dans M tel que f|V : V U soit un diomorphisme et f 1 (U ) = V .

La projection canonique de M F dans \(M F ) donne donc par restriction un Cr diomorphisme : V F p1 (U ). Donc (f|V idF ) 1 : p1 (U ) U F est une trivialisation locale de p au-dessus de U , et p : \(M F ) M est une bration de bre F.

Par exemple, si est le morphisme de groupes trivial, il est immdiat de voir que la bration p est trivialisable.

2.2

Fibrs vectoriels

Pour parler comme un physicien, un br vectoriel est un champ despaces vectoriels b b dpendant de manire lisse dun point b variant dans un espace lisse de paramtres. Et la plupart des oprations que lon peut faire sur les espaces vectoriels, on peut les faire sur les champs despaces vectoriels. 2.2.1 Dnitions et exemples

Soient r N{, R , C } et K = R (respectivement K = C), avec K = C si r = C . Un br vectoriel rel (respectivement complexe) de classe Cr est la donne dune bration p : E B de classe Cr entre deux varits de classe Cr et, pour tout b dans B, dune structure despace vectoriel rel (respectivement complexe) b sur p1 (b), de sorte que, pour tout b dans B, il existe un voisinage ouvert U de b, un espace vectoriel rel (respectivement complexe) F de dimension nie, et une trivialisation locale : p1 (U ) U F de au-dessus de U , telle que pr2 |p1 (y) : y F soit un isomorphisme K-linaire pour tout y dans U . Lorsque r = C , nous ne considrerons que des brs vectoriels complexes (ce qui est ncessaire pour que la dnition ait un sens). Nous dirons que p est la projection du br vectoriel , quun tel U est un ouvert distingu ou un voisinage ouvert distingu de b du br vectoriel , et quun tel est une trivialisation locale du br vectoriel au-dessus de U . Sil existe n N tel que pour tout b B la dimension de b soit n, nous dirons que est un br vectoriel de rang n. 95

Soient et des brs vectoriels rels (resp. complexes) de classe Cr , de projections p : E B et p : E B respectivement. Un morphisme Cr (de brs vectoriels) de dans est un morphisme de brations (f, g) de p dans p E E p p g B B ,
f

tel que, pour tout b dans B, lapplication f induise un morphisme despaces vectoriels rels (respectivement complexes) de b dans g(b) . Une application f : E E est un morphisme Cr (de brs vectoriels) au-dessus de lidentit de dans si B = B et si (f, id) est un morphisme Cr de brs vectoriels. Le morphisme identit (id, id) de la bration p est un morphisme du br vectoriel dans lui-mme. Si (f , g ) est un morphisme de brs vectoriels de dans un br vectoriel , alors la composition (f f, g g) des morphismes de brations (f, g) et (f , g ) est un morphisme de brs vectoriels de dans . Ainsi, la collection des brs vectoriels Cr et des morphismes de brs vectoriels Cr est une catgorie. Nous noterons (), et par abus (E), lensemble des sections Cr de p. Muni de laddition point par point + : x (x) + (x) et de la multiplication externe point par point f : x f (x)(x) par une application f Cr (B; K) de (), lensemble () est un Cr (B; K)-module. Remarque. Un br vectoriel rel Cr de rang n est une bration Cr de bre la varit Rn . Mais une bration de bre la varit Rn nadmet pas toujours de structure de br vectoriel (compatible avec celle de bration). Pour comprendre ceci (sans donner dexemple), regardons la contruction suivante. Le groupe Z agit librement et proprement par diomorphismes analytiques rels sur R2 , laction de 1 tant (x, y) (x + 1, sinh y). Soit M la varit quotient analytique relle Z\R2 . Lapplication analytique relle (x, y) x de R2 dans R induit par passage au quotient une bration analytique relle M R/Z S1 , de bre R. Si lon munit, pour tout [0, 1[, la bre au-dessus de + Z R/Z de la structure despace vectoriel dnie par {} R, cette bration nest pas un br vectoriel (car les structures despace vectoriel ne varient pas continuement). Exemples. (1) Soient n N, M une varit Cr et V un espace vectoriel de dimension n sur K = R (respectivement K = C). Supposons K = C si r = C . Pour tout x M , munissons {x} V de lunique structure despace vectoriel rendant linaire la bijection v (x, v) de V dans {x} V . Alors la premire projection pr1 : M V M de la varit produit M V dans M est un br vectoriel rel (respectivement complexe), de base M et de rang n, dit trivial. Tout br vectoriel isomorphe un br vectoriel trivial est dit trivialisable. Il est immdiat de montrer quun br vectoriel de rang n, dapplication p : E B, est trivialisable si et seulement sil admet des sections Cr globales (cest--dire dnies sur toute la base B) 1 , . . . , n telles que, pour tout b B, les lments 1 (b), . . . , n (b) de lespace vectoriel b soient linairement indpendants (ou, de manire quivalente, forment une base). En particulier, un br vectoriel de rang 1 est trivialisable si et seulement sil admet une section ne sannulant pas. Le Cr (M ; K)-module () des sections Cr dun br vectoriel trivialisable de rang n est donc un Cr (M ; K)-module libre de rang n (de base nimporte quel (1 , . . . , n ) comme ci-dessus). 96

Notons que si M est une varit Cr , si n N et si Kn est le br trivial sur M de bre Kn , alors lespace vectoriel Cr (M ; Kn ) est identi avec lespace vectoriel (Kn ) par lapplication f {x (x, f (x))} : (Kn ) = Cr (M ; Kn ) . (2) Si M est une varit relle (respectivement complexe) de classe Cr+1 de dimension n, alors son br tangent : T M M est un br vectoriel rel (respectivement complexe) de classe Cr de rang n. En eet, si K = R (respectivement K = C), si (Ui , i )iI est un atlas de cartes locales de M , alors (T Ui , T i )iI est un atlas de cartes locales de T M et lapplication de T Ui dans Ui Kn dnie, en notant pr2 la projection sur le second facteur de T i (Ui ) = i (Ui ) Kn , par v (v), pr2 T i (v) , est une trivialisation locale de au-dessus de louvert Ui de M , par la linarit sur les bres des applications tangentes. Le fait quen restriction tout domaine de carte locale de M , le br tangent soit trivialisable, est remarquable et servira plus loin. Si f : M N est une application Cr+1 , alors (T f, f ) est un morphisme de brs vectoriels de T M sur T N : le diagramme suivant commute TM M T N N
f Tf

Pour K = R (respectivement K = C), le Cr (M ; K)-module (T M ) des sections Cr du br tangent de M est le module des champs de vecteurs sur M . Une varit de classe Cr+1 est dite paralllisable si son br tangent est trivialisable. Le Cr (M ; K)-module (T M ) des champs de vecteurs Cr sur une varit paralllisable M de classe Cr+1 et de dimension n est donc un Cr (M ; K)-module libre de rang n. Toute varit est localement paralllisable : si U est un domaine de carte locale de M , alors son br tangent T U est trivialisable ; en particulier le Cr (U ; K)-module (T U ) des champs de vecteurs sur U est un Cr (U ; K)-module libre de rang n. (3) Soient V un espace vectoriel rel (respectivement complexe) de dimension nie n et k {0, . . . , n}. Notons k (V ) = {(x, v) Gk (V ) V : v x} et : k (V ) Gk (V ) la restriction k (V ) de la premire projection de Gk (V ) V dans Gk (V ). Toute bre de admet une structure vidente despace vectoriel sur K : pour tout x Gk (V ), munissons 1 (x) = {x} x de lunique structure despace vectoriel rel (respectivement complexe) rendant linaire la bijection de x dans 1 (x) dnie par v (x, v). Alors ces donnes dnissent un br vectoriel rel (respectivement complexe) de rang k sur Gk (V ), dit tautologique. Par exemple, le br tautologique sur lespace projectif rel (respectivement complexe) est un br vectoriel en droites relles (respectivement complexes). 97

(4) Tout groupe de Lie est paralllisable. En eet, si (X1 , . . . , Xn ) est une base de son algbre de Lie, alors les sections i : g Te Lg Xi (globalement dnies) de son br tangent sont linairement indpendantes en tout point. En particulier, le br tangent du cercle est trivialisable. Si n 1, le br tautologique de lespace projectif rel Pn (R) = G1 (Rn+1 ) nest pas trivial. En eet, toute section de ce br est une application de Pn (R) dans Pn (R) Rn+1 de la forme Rx (Rx, t(x)x) o t : Sn R est une application continue telle que t(x) = t(x), et par connexit par arc de Sn , lapplication t sannule. En particulier, si n = 1, le br tautologique de Pn (R) S1 est non trivial. Son espace total est le ruban de Mbius.

(5) Soient M une varit Cr connexe, F un espace vectoriel sur K de dimension nie n, f : M M un revtement galoisien de M , de groupe des automorphismes de revtements (par exemple un revtement universel de M , auquel cas est un groupe fondamental de M ), et : GL(F ) un morphisme quelconque du groupe dans le groupe des automorphismes linaires de F . Soit p = pf, : \(M F ) M la bration plate associe f, (voir lexemple (5) de la partie 2.1 prcdente). Pour tout x M , xons x M tel que f (x) = x. La projection canonique de M F dans \(M F ) induit par restriction une bijection de {x} F dans la bre p1 (x), ce qui permet de munir cette bre dune structure despace vectoriel. Proposition 2.7 La donne de lapplication pf, et de ces structures despaces vectoriels sur les bres de pf, est un br vectoriel sur M de rang n. Lorsque f : M M est un revtement universel de M , ce br vectoriel est not et appel le br plat de monodromie , pour des raisons que nous verrons plus tard. Dmonstration. Puisque agit par automorphismes linaires sur F , il est facile de vrier que cette structure vectorielle sur p1 (x) ne dpend pas du choix de la primage x de x par f . Il est alors facile de vrier que les trivialisations locales de la bration p construites dans la dmonstration de la proposition 2.6 sont des trivialisations locales de brs vectoriels. (6) Soit p : E B un br vectoriel Cr de rang n (rel ou complexe), et k un lment de {1, . . . , n}. Notons Gk E lensemble somme disjointe bB Gk (Eb ) des varits grassmanniennes de rang k des bres de p, et Gk p : Gk E B lapplication qui un lment de Gk (Eb ) associe b. Cette application admet alors une unique structure de bration Cr telle que, pour tout inverse de trivialisation locale h : U Rn p1 (U ) au dessus dun ouvert U de B, lapplication U Gk (Rn ) (Gk p)1 (U ) dnie par (x, A) h(x, A) soit 98

linverse dune trivialisation locale de Gk p : Gk E B au dessus de U . Cette bration (ou par abus la varit Gk E) sappelle la bration grassmannienne de rang k de E ou br des k-plans de E. En particulier, si k = 1, alors la bration grassmanienne de rang 1 de E est note P(p) : P(E) B, et appele la bration projective (ou br projectif) de E. Si le couple (f, f ) est un morphisme de brs vectoriels de p : E B sur p : E , et si f est injective en restriction chaque bre de E, alors le couple (G f : A B k f (A), f ) est un morphisme de brations de Gk p : Gk E B sur Gk p : Gk E B. Ainsi, par des vrications immdiates, nous venons de dnir un foncteur de la catgorie des brs vectoriels et des morphismes de brs vectoriels injectifs sur les bres dans celle des brations. Si M est une varit Cr+1 , alors nous appellerons bration grassmannienne de rang k de M , ou br des k-plans tangents de M , la bration grassmannienne de rang k du br tangent : T M M de M . Par exemple, le br des droites tangentes de M est le br projectif du br tangent de M . Par exemple, si K {R, C}, si p : E B est le br vectoriel trivial de bre Kn sur B, alors la bration grassmannienne de rang k de E est isomorphe la bration triviale pr1 : B Gk (Kn ) B. En particulier, si M est un ouvert de Kn , comme le br tangent T M de M sidentie avec M Kn , alors la bration grassmannienne de rang k de T M est isomorphe la bration triviale pr1 : M Gk (Kn ) M . 2.2.2 Sous-brs et brs quotient

Soient r N {, R , C } et K {R, C}, avec K = C si r = C . Sauf mention contraire, tous les brs vectoriels dans cette partie sont des brs vectoriels sur K de classe Cr sur une mme base B, et les morphismes de brs vectoriels sont des morphismes au-dessus de lidentit. Soit un br vectoriel, de projection p : E B. Un sous-br vectoriel de est une partie E de E telle que p1 (b) E est un sous-espace vectoriel de b pour tout b B, pour tout b B, il existe un voisinage ouvert U de b, une trivialisation locale : p1 (U ) U F de au-dessus de U et un sous-espace vectoriel F de F tel que (E p1 (U )) = U F . Il dcoule de cette dnition que E est une sous-varit ferme de E, et que la donne de lapplication p = p|E et de la structure despace vectoriel induite sur chaque bre (p )1 (b) par celle de b est un br vectoriel sur B. De plus, linclusion de E dans E est un morphisme de brs vectoriels. Soit un sous-br vectoriel de de projection p : E B, et i : E E linjection canonique (x x). Notons E la runion disjointe des espaces vectoriels quotients b /b lorsque b parcourt B, et p : E B lapplication valant b sur b /b pour tout b B. 1 (U ) U F de p au-dessus dun ouvert U et tout Pour toute trivialisation locale : p sous-espace vectoriel F de F tel que ((p )1 (U )) = U F , lapplication pr2 : b F induit par passage au quotient un isomorphisme despaces vectoriels b : b /b F/F , et )1 (U ) U (F/F ) lapplication valant x (b, (x)) sur chaque nous noterons : (p b b /b o b U . La donne de lapplication p et de la structure despace vectoriel quotient sur chaque bre de p admet une et une seule structure de br vectoriel telle que, pour toute 99

trivialisation locale : p1 (U ) U F de p au-dessus dun ouvert U et tout sousespace vectoriel F de F tel que ((p )1 (U )) = U F , lapplication de (p )1 (U ) dans U (F/F ) soit une trivialisation locale de au-dessus de U . Ce br vectoriel est appel le br vectoriel quotient de par , et not / . Soient m 2, 0 , 1 . . . , m des brs vectoriels, et fi : i1 i un morphisme de brs vectoriels pour 1 i m. Nous dirons que la suite 0 1 . . . m est une suite exacte de brs vectoriels, si pour tout b B, la suite 0,b
f1 | f1 f2 fm

0,b

1,b

f2 |

1,b

...

fm |

m1,b

m,b

est une suite exacte despaces vectoriels sur K. Exemples. (1) Le br tautologique de Gk (V ) est un sous-br du br trivial pr1 : Gk (V ) V Gk (V ). (2) Si N est une sous-varit Cr+1 dune varit M de classe Cr+1 , alors le br tangent de N est un sous-br du br tangent de M restreint N (voir lexemple (2) suivant la proposition 2.17 pour une dnition des brs restreints une sous-varit de la base). (3) Soit un br vectoriel, de projection p : E B (o nous ne supposons pas B = B). Soient k N et (, f ) un morphisme de brs vectoriels de dans , tels que pour tout x B, lapplication linaire x = |x : x f (x) soit de rang k. Nous renvoyons [Die1, 16.17.5] pour une dmonstration des armations qui suivent. La partie K = bB ker x est un sous-br vectoriel de , appel le noyau de , et not ker . De mme, I = bB im x est un sous-br vectoriel de , appel limage de , et not im . Si est de rang n, alors ker et im sont de rang n k et k. Lapplication induit un isomorphisme de brs vectoriels au-dessus de f entre le br vectoriel quotient / ker et im . 2.2.3 Oprations sur les brs vectoriels

Soient r N{, R , C } et K {R, C}, avec K = C si r = C . Sauf mention explicite du contraire, tous les brs vectoriels dans cette partie sont des brs vectoriels sur K de classe Cr sur une mme base B, et les morphismes de brs vectoriels sont des morphismes au-dessus de lidentit. Soit K un corps (commutatif). Tous les espaces vectoriels et applications linaires et multilinaires dans ces rappels sont dnis sur K. Soient m 1 un entier et E0 , E1 , . . . , Em , F0 , F1 , . . . , Fm des espaces vectoriels de dimension nie. Notons L (E1 , . . . , Em ; E0 ) lespace vectoriel des applications multilinaires de E1 Em dans E0 . Si u0 L (E0 ; F0 ) et ui L (Fi ; Ei ) pour 1 i m sont des applications linaires, alors lapplication de L (E1 , . . . , Em ; E0 ) dans L (F1 , . . . , Fm ; F0 ) 100 Rappels dalgbre multilinaire.

dnie par u {(x1 , . . . , xm ) u0 u(u1 (x1 ), . . . , um (xm ))} est linaire, et un isomorphisme linaire si les ui le sont. Si 1 s < m, nous identierons L (E1 , . . . , Em ; E0 ) et L (E1 , . . . , Es ; L (Es+1 , . . . , Em ; E0 )) par u (x1 , . . . , xs ) {(xs+1 , . . . , xm ) u(x1 , . . . , xs )} .
Nous noterons E0 = L (E0 ; K) lespace vectoriel dual des formes linaires sur E0 . Nous identions E0 avec son bidual E0 par lapplication x { (x)}. Si u : E0 F0 est une application linaire, nous notons t u : F0 E0 son application linaire duale dnie t u)1 = t (u1 ). par u, qui est inversible si u lest, avec (

Le produit tensoriel des espaces vectoriels E1 , . . . , Em , not E1 Em , est lespace vectoriel L (E1 , . . . , Em ; K) des formes multilinaires sur E1 Em . Si (x1 , . . . , xm ) E1 Em , notons x1 xm llment de E1 Em dni par
m

(1 , . . . , m )

i (xi ) .
i=1

Un tel lment de E1 Em est parfois appel un tenseur pur. Tout lment de E1 Em est une combinaison linaire (nie) de tenseurs purs. Nous appellerons puissance tensorielle m-me, et noterons E m , le produit tensoriel de m copies de E. Posons E 0 = K et remarquons que, par lidentication du bidual de E et de E, nous avons E 1 = E. Le produit tensoriel vrie les proprits suivantes. 1. (Fonctorialit) Pour tout (ui )1im m L (Ei ; Fi ), il existe une et une seule i=1 application linaire u1 um : E1 Em F1 Fm telle que, pour tout (e1 , . . . , em ) E1 Em , nous ayons u1 um (e1 em ) = u1 (e1 ) um (em ) .
Cest lapplication de L (E1 , . . . , Em ; K) dans L (F1 , . . . , Fm ; K) dnie par f t u ( ), . . . , t u ( ) . (1 , . . . m ) f 1 1 m m

2. (Proprit universelle) Pour toute application multilinaire f de E1 Em dans E0 , il existe une unique application linaire g : E1 Em E0 telle que g(e1 em ) = f (e1 , . . . , em ) pour tous les ei dans Ei . En particulier, lapplication f g est un isomorphisme linaire de L (E1 , . . . , Em ; E0 ) dans L (E1 Em ; E0 ). 3. (Commutativit) Il existe un unique isomorphisme de E1 E2 dans E2 E1 , qui envoie e1 e2 sur e2 e1 pour tous les ei dans Ei . Nous identierons par la suite ces espaces vectoriels par cet isomorphisme.

4. (Associativit) Il existe un unique isomorphisme de (E1 E2 ) E3 dans E1 E2 E3 , qui envoie (e1 e2 ) e3 sur e1 e2 e3 pour tous les ei dans Ei . Nous identierons par la suite ces espaces vectoriels par cet isomorphisme. 5. (Distributivit) Il existe un unique isomorphisme (E1 E2 ) E3 dans (E1 E3 ) (E2 E3 ), qui envoie (e1 e2 ) e3 sur (e1 e3 ) (e2 e3 ) pour tous les ei dans Ei .

6. (Bases) Si (ei,j )1jni est une base de Ei pour 1 i m, alors (e1,j1 em,jm )1j1 n1 ,...,1jm nm est une base de E1 Em . En particulier, nous avons
m

dim(E1 Em ) = 101

dim(Ei ) .
i=1

7. (Isomorphismes) Lapplication linaire de E1 dans K E1 dnie par x 1 x est un isomorphisme. En particulier, lapplication linaire de K dans K K induite par 1 1 1 est un isomorphisme. Nous avons un isomorphisme despaces vectoriels canonique du produit tensoriel L (E1 ; E3 ) L (E2 ; E4 ) dans L (E1 E2 ; E3 E4 ) qui u v associe lunique application linaire de E1 E2 dans E3 E4 associe par la proprit universelle lapplication bilinaire (x, y) u(x) v(y) de E1 E2 dans E3 E4 . En particulier, nous avons un isomorphisme canonique
E1 E2 (E1 E2 ) , qui est lunique application linaire qui 1 2 o i Ei associe lunique forme linaire qui e1 e2 o ei Ei associe 1 (e1 )2 (e2 ) ; et nous avons un isomorphisme canonique E1 E2 L (E1 ; E2 ) ,

qui est lunique application linaire qui f y, pour f E1 et y E2 , associe lapplication linaire x f (x)y.

Soit K un corps (commutatif). Tous les espaces vectoriels et applications linaires et multilinaires dans ces rappels sont dnis sur K. Pour viter des confusions visuelles, nous noterons dans cette sous-partie E lespace vectoriel dual dun espace vectoriel E. Pour tout n N {0}, notons S(n) le groupe des bijections de {1, . . . , n}.

Rappels dalgbre symtrique et alterne.

Soient E et F deux espaces vectoriels de dimension nie. Une forme m-linaire : E m K est dite symtrique si, pour tout (x1 , . . . , xm ) dans E m et pour tout S(m), nous avons (x(1) , . . . , x(m) ) = (x1 , . . . , xm ) ; antisymtrique si pour tout (x1 , . . . , xm ) dans E m et pour tout S(m) de signature , nous avons (x(1) , . . . , x(m) ) = (x1 , . . . , xm ). alterne si, pour tout (x1 , . . . , xm ) dans E m , sil existe i, j dans {1, . . . , m} tels que i = j et xi = xj , alors (x1 , . . . , xm ) = 0. Rappelons que toute forme alterne est antisymtrique, et que la rciproque est vraie si la caractristique de K nest pas 2. Notons m E (respectivement S m E), et appelons puissance extrieure (respectivement puissance symtrique) m-me de E lespace vectoriel des formes m-linaires alternes (res pectivement symtriques) sur E et, par convention, 0 E = S 0 E = K. Remarquons que 1 E = S 1 E = E, et que m E et S m E sont des sous-espaces vectoriels de L (E, . . . , E; K) (donc m E et S m E sont des sous-espaces vectoriels de E m = L (E, . . . , E; K)). Posons E = mN m E .

Si la dimension n de E est strictement infrieure m, alors m E = 0. En eet, soit m E et pour tout (x , . . . , x ) dans E m , (e1 , . . . , en ) une base de E. Pour tout dans 1 m le scalaire (x1 , . . . , xm ) est une combinaison linaire des scalaires (ei1 , . . . , eim ) avec i1 , . . . , im dans {1, . . . , n}. Or ces scalaires sont nuls, car, comme m > n, au moins deux des vecteurs ei1 , . . . , eim doivent tre gaux. Donc lespace vectoriel E est de dimension nie. 102

 Soit u : E F une application linaire. Lapplication linaire de (F )m dans (E)m dnie par u = t u t u : {(x1 , . . . , xm ) (u(x1 ), . . . , u(xm ))} envoie m F dans m E et S m F dans S m E, et nous noterons encore u les deux restrictions m F et S m F . Il existe une unique application linaire, encore note u , de F de u E dont la restriction m E est u pour tout m N. Ces applications vrient : dans id = id et (u v) = v u .

Une telle bijection est obtenue en prenant un paquet de p + q cartes, en coupant ce paquet en un premier paquet de p cartes, et un second paquet de q cartes, puis en battant une fois ces paquets de cartes, intercalant ainsi les cartes du premier paquet dans le second. Lapplication ({1, . . . , p}) est une bijection de S(p, q) dans lensemble des parties (p+q)! p lments de {1, . . . , p + q}, donc le cardinal de S(p, q) vaut (p)!(q)! . Soient dans p E et dans q E. Appelons produit extrieur de et de la forme p+q K dnie par (p + q)-linaire : E (x1 , . . . , xp+q ) = (x(1) , . . . , x(p) ) (x(p+1) , . . . , x(p+q) ) ,
S(p,q)

Munissons maintenant lespace vectoriel E dune structure dalgbre (unitaire, associative) naturelle. Pour p, q deux entiers suprieurs ou gaux 1, notons S(p, q) lensemble des dans Sp+q tels que (1) < < (p) et (p + 1) < < (p + q) .

si p, q 1, et si p = 0 ou q = 0, alors = ou = . tendons cette dnition par bilinarit E : si i , i i E pour i = 1, . . . , n, posons

i

i =
i i,j

i i .

Remarque. Lorsque la caractristique de K est nulle, nous avons (x1 , . . . , xp+q ) = 1 p! q! (x(1) , . . . , x(p) ) (x(p+1) , . . . , x(p+q) ) ;
Sp+q

il est alors immdiat de voir que est antisymtrique, donc alterne. Proposition 2.8 Si p E et q E, alors p+q E. Dmonstration. Soient (x1 , . . . , xp+q ) dans E p+q et i, j dans {1, . . . , p + q}, tels que xi = xj . Partionnons S(p, q) en quatre parties : 1. S(p, q) , lensemble des dans S(p, q) tels que i et j appartiennent ({1, . . . , p}), 2. S(p, q)++ , lensemble des dans S(p, q) tels que i et j appartiennent lensemble ({p + 1, . . . , p + q}), 103

3. S(p, q)+ , lensemble des dans S(p, q) tels que i appartienne ({1, . . . , p}), et j appartienne ({p + 1, . . . , p + q}), 4. S(p, q)+ , lensemble des dans S(p, q) tels que i appartienne ({p+1, . . . , p+q}) et j appartienne ({1, . . . , p}). Comme et sont alternes, le terme de la somme dnissant (x1 , . . . , xp+q ) qui porte sur un dans S(p, q) S(p, q)++ est nul. Soit la transposition changeant i et j. Alors la multiplication gauche par induit une bijection de S(p, q)+ sur S(p, q)+ . Donc (x1 , . . . , xp+q ) est la somme sur tous les dans S(p, q)+ de
(x(1) , . . . , x(p) ) (x(p+1) , . . . , x(p+q) ) (x (1) , . . . , x (p) ) (x (p+1) , . . . , x (p+q) )

Ce terme est nul, car comme xi = xj , nous avons (x(1) , . . . , x(p+q) ) = (x (1) , . . . , x (p+q) ) .

Thorme 2.9 Muni du produit extrieur , lespace vectoriel E = pN p E est une algbre (associative, unitaire) gradue anticommutative : 1. (Associativit) (1 2 ) 3 = 1 (2 3 ) pour tous les 1 , 2 , 3 dans E ; 2. si 1 K = 0 E, alors pour tout dans E, nous avons 1 = 1 = ; 3. (Graduation) (p E) (q E) p+q E ;

De plus, si f : E F est une application linaire, alors lapplication linaire f de F dans E est un morphisme dalgbres gradues de degr 0, cest--dire vriant 1 = 1, f ( ) = (f ) (f ) et f (p F ) p E. f Dmonstration. (1) Notons S(p, q, r) lensemble des dans Sp+q+r tels que (1) < < (p) et (p + 1) < < (p + q) et (p + q + 1) < < (p + q + r) . Notons S(p, q, r) lensemble des dans S(p, q, r) tels que vaille lidentit sur {1, . . . , p}, et de mme pour S(p, q, r). Il est facile de vrier que la composition (, ) induit des bijections S(p, q + r) S(p, q, r) S(p, q, r) et S(p + q, r) S(p, q, r) S(p, q, r). Soient 1 p E, 2 q E et 3 r E. Alors (1 (2 3 ))(x1 , . . . , xp+q+r ) =
S(p,q+r) X S(p, q + r) S(b, q, r) p

4. (Anticommutativit) si p E et q E, alors = (1)pq .

1 (x(1) , . . . , x(p) ) (2 3 )(x(p+1) , . . . , x(p+q+r) ) =

1 (x (1) , . . . , x (p) ) 2 (x (p+1) , . . . , x (p+q) ) 3 (x (p+q+1) , . . . , x (p+q+r) ) =

1 (x(1) , . . . , x(p) ) 2 (x(p+1) , . . . , x(p+q) ) 3 (x(p+q+1) , . . . , x(p+q+r) ) =

S(p,q,r)

((1 2 ) 3 )(x1 , . . . , xp+q+r ) . 104

(4) Soit llment de S(p + q) tel que (i) = i + p mod (p + q) pour tout i dans {1, . . . , p + q}. Alors = (1)pq , et la composition est une bijection de S(p, q) sur S(q, p). Donc pour tous les p E et q E, nous avons ( ) (x1 , . . . , xp+q ) = (x(1) , . . . , x(q) ) (x(q+1) , . . . , x(p+q) ) =
S(q,p)

(x (1) , . . . , x (q) ) (x (q+1) , . . . , x (p+q) ) =

S(p,q)

( ) (x1 , . . . , xp+q ) . Les autres armations sont immdiates. Proposition 2.10 Pour tous les 1 , . . . , p dans E et tous les x1 , . . . , xp dans E, nous avons (1 p )(x1 , . . . , xp ) = det i (xj ) 1i,jp . Dmonstration. Raisonnons par rcurrence sur p. La formule est immdiate pour p = 1. Nous avons
p

(1 (2 p ))(x1 , . . . , xp ) =

j=1

(1)j+1 1 (xj )(2 p )(x1 , . . . , xj , . . . , xp ) .

En utilisant lhypothse de rcurrence au rang p 1, on trouve le dveloppement du dterminant de la matrice i (xj ) 1i,jp par rapport sa premire ligne, ce qui montre le rsultat. Corollaire 2.11 Des formes linaires f1 , . . . , fk dans E sont linairement indpendantes si et seulement si leur produit extrieur f1 fk est non nul. Dmonstration. Si f1 , . . . , fk sont linairement indpendantes, alors il existe x1 , . . . , xk dans E tels que fi (xj ) = 1 si i = j et fi (xj ) = 0 sinon. Donc, par la proposition prcdente, (f1 fk )(x1 , . . . , xk ) = 1 et f1 fk = 0. La rciproque est vidente.

Remarque. Il dcoule de la proprit danticommutativit que si est une forme p-linaire alterne avec p impair, alors = 0. Mais pour E = R4 , si (1 , 2 , 3 , 4 ) est la base duale de la base canonique, et si = 1 2 + 3 4 , alors = 2 1 2 3 4 = 0. Proposition 2.12 Si (f1 , . . . , fn ) est une base de E, alors (fi1 fip )1i1 <<ip n est p E. une base de Dmonstration. Soit (e1 , . . . , en ) la base de E, dont la base duale est (f1 , . . . , fn ). Pour dans p E et x1 , . . . , xp dans E, par p-linarit de , nous avons (x1 , . . . , xp ) =
1i1 ,...,ip n

fi1 (x1 ) . . . fip (xp ) (ei1 , . . . , eip ) .

Comme est alterne, les termes (ei1 , . . . , eip ) sont nuls sauf peut-tre si les indices i1 , . . . , ip sont deux deux distincts. En utilisant une permutation pour mettre ces indices 105

dans lordre croissant, en utilisant la formule explicite dun dterminant et en utilisant que (fi1 fip )(x1 , . . . , xp ) = det fi (xj ) 1i,jk par la proposition 2.10, nous obtenons que =
1i1 <<ip n

(ei1 , . . . , eip )fi1 fip .

Cette criture est unique, car pour tous les i1 < < ip et j1 < < jp , lexpression est non nulle si et seulement si i1 = j1 , . . . , ip = jp . Ceci montre le rsultat. Remarque. Soit (f1 , . . . , fn ) une base de E. Pour toute partie I de cardinal p de {1, . . . , n}, notons fI = fi1 fip o I = {i1 , . . . , ip } avec i1 < < ip . Le rsultat ci-dessus dit que (fI )I , pour I de cardinal p, est une base de p E. La table de multiplication de cette base est la suivante : fI fJ = fIJ 0 si I J = sinon n , o n p (fi1 fip )(ej1 , . . . , ejp ) = det fi (ej )
1,p

o = (1)k pour k le nombre de couples (i, j) dans I J tels que i > j. est la dimension de E. Donc la dimension de lespace vectoriel E est

Nous en dduisons que la dimension de p E est le nombre de combinaisons

n p=0

n = 2n . En p particulier, pour n la dimension de E, lespace vectoriel n E est de dimension 1, engendr par f1 fn , qui est lapplication dterminant de n vecteurs dans la base (e1 , . . . , en ). Tout lment w de E scrit de manire unique w=
I

wI fI ,

avec wI dans K. De plus, w appartient p E si et seulement si wI = 0 pour tout I de cardinal dirent de p. Plus prcisment, si (e1 , . . . , en ) est la base de E, dont la base duale est (f1 , . . . , fn ), notons de mme eI le p-uplet (ei1 , . . . , eip ). Alors la dmonstration ci-dessus montre que pour tout dans p E, nous avons =
I

(eI )fI .

Exercice E.20 Soient f : E F une application linaire entre deux espaces vectoriels E et F de dimension nie n et m respectivement, (e1 , . . . , en ) une base de E, de base duale (1 , . . . , en ), et (f1 , . . . , fm ) une base de F , de base duale (f1 , . . . , fm ). Si A est la matrice e de f dans ces bases, calculer la matrice de lapplication linaire f de F dans E, dans les bases (f ) et ( ) . I eI I I Soient X un lment de E et p E. Appelons produit intrieur de par X, et notons iX , la forme (p 1)-linaire alterne (par convention, 1 E = {0}), dnie par iX = 0 si p = 0, et sinon, pour tous les 1 , . . . , p1 dans E, par (iX )(1 , . . . , p1 ) = (X, 1 , . . . , p1 ) . Nous tendons additivement lapplication iX E. 106

 Proposition 2.13 Lapplication iX : E E est une antidrivation de degr 1 de E, cest--dire quelle vrie lalgbre gradue (1) iX : E E est linaire et iX (p E) p1 E pour tout p dans N. (2) pour tout dans p E et tout dans E, nous avons iX ( ) = (iX ) + (1)p (iX ) . Dmonstration. Lassertion (1) est immdiate par dnition. Pour montrer la seconde assertion, raisonnons par rcurrence sur p. Le cas p = 0 est immdiat par linarit. Si p = 1, alors, en posant X0 = X, pour tous les X1 , . . . , Xq dans E, nous avons iX ( )(X1 , . . . , Xq ) = ( )(X0 , X1 , . . . , Xq )
q

=
i=0

(1)i+1 (Xi )(X0 , . . . , Xi , . . . , Xq )

q

= (X0 )(X1 , . . . , Xq )

(1)i (Xi )(iX )x (X1 , . . . , Xi , . . . , Xq )

i=1

= (iX )(X1 , . . . , Xq ) ( iX )(X1 , . . . , Xq ) , ce qui montre le cas p = 1. Supposons maintenant p 2, et supposons le rsultat vrai au rang p 1. Par linarit, nous nous ramenons au cas o = , avec de degr 1. Par lassociativit et la distributivit du produit extrieur, nous concluons alors par les cas p = 1 et p 1 : iX ( ) = iX ( ( )) = (iX ) ( ) iX ( ) = (iX ) ( ) ((iX ) + (1)p1 (iX )) = (iX ) + (1)p (iX ) .

= ((iX ) (iX )) + (1)p ( (iX ))

Soient m 1 un entier et 1 , . . . , m des brs vectoriels, de projections p1 : E1 B, . . . , pm : Em B et de bres 1,b , . . . , m,b au-dessus de b B. Notons E = E1 Em =
bB

Somme directe de brs vectoriels.

1,b m,b

la runion disjointe des espaces vectoriels sommes directes des bres 1,b , . . . , m,b pour b B. Notons p : E B lapplication valant b sur 1,b m,b pour tout b B. Nous allons munir dune structure naturelle de br vectoriel la donne 1 m de lapplication p et de la structure despace vectoriel somme directe sur la bre 1,b m,b de p au-dessus de chaque b B. Si i : p1 (U ) U Fi est une trivialisation locale de i pour tout i, au-dessus i dun mme ouvert U de B, notons i,b lisomorphisme linaire pr2 i |i,b : i,b Fi pour 107

1 i m et = (i )1im : p1 (U ) U (F1 Fm ) lapplication dnie, pour tout b U et (x1 , . . . , xm ) 1im i,b par (x1 xm ) = b, 1,b (x1 ) m,b (xm ) . Il est facile de vrier que la donne 1 m admet une et une seule structure de br vectoriel sur K de classe Cr telle que pour toutes les trivialisations locales i : p1 (U ) i U Fi de i pour tout i au-dessus dun mme ouvert U de B, lapplication dnie cidessus soit une trivialisation locale de 1 m sur U . Par exemple, un atlas de cartes de E1 Em est obtenu en prenant, lorsque (U, ) parcourt les cartes locales de B et (i )1im les m-uplets de trivialisations locales de 1 , . . . , m au-dessus de U , les cartes ( id) (i )1im : p1 (U ) (U ) (F1 Fm ). Ce br 1 m est appel le br vectoriel somme directe (ou somme de Whitney) de (i )iI . Notons que nous avons un isomorphisme canonique de Cr (B; K)-modules (1 ) (m ) (1 m ) dni par 1 m {x 1 (x) m (x)}. Exercice E.21 Montrer que, sur la donne 1 m , la structure de br vectoriel sur K de classe Cr ci-dessus est lunique telle structure telle que pour tout ouvert U de B, pour toutes les sections i : U Ei de classe Cr de i , lapplication de U dans E1 Em dnie par x 1 (x) + + m (x) soit une section de classe Cr . Soit M une varit sur K de classe Cr+1 de dimension n. Notons n T M le br vectoriel somme directe de n copies du b tangent de T M , et p : n T M M sa projection. Notons R(M ) louvert de n T M form des n-uplets (v1 , . . . , vn ) de vecteurs des espaces tangents Tx M aux points x M qui sont des bases de Tx M . Notons encore p : R(M ) M la restriction de p R(M ), qui est appele (ou par abus R(M )) le br des repres de M . Il nest pas dicile de voir que cette application est une bration Cr . Cr Proposition 2.14 Si K = R et r = , ou si K = C et r = C , la bration p : R(M ) M est un br principal de groupe structural GLn (K). Dmonstration. Le groupe de Lie G = GLn (K) agit droite sur la varit R(M ) par (g, (v1 , . . . vn ) (w1 , . . . , wn ) o, en notant g = (gij )1i,jn ,
n

j {1, . . . , n},

wj =
k=1

gkj vk .

Cette action est clairement libre et propre. Elle est simplement transitive sur chaque bre de p : R(M ) M . Notons : R(M ) R(M )/G la projection canonique sur la varit quotient, qui est une bration C par le thorme 2.3. Lapplication p : R(M ) M passe au quotient en un diomorphisme de classe C de R(M )/G dans M , et le diagramme suivant commute R(M ) p R(M )/G M

108

Soient m 1 un entier et 0 , . . . , m des brs vectoriels, de projections p0 : E0 B, . . . , pm : Em B et de bres 0,b , . . . m,b au-dessus de b B. Notons E = L (E1 , . . . , Em ; E0 ) =
bB

Fibr vectoriel des applications multilinaires.

L (1,b , . . . , m,b ; 0,b )

la runion disjointe des espaces vectoriels des applications multilinaires de 1,b m,b dans 0,b pour tous les b B. Notons p : E B lapplication vidente valant b sur L (1,b , . . . , m,b ; 0,b ) pour tout b B. Nous allons munir dune structure naturelle de br vectoriel la donne L (1 , . . . , m ; 0 ) de lapplication p et de la structure despace vectoriel vidente sur la bre L (1,b , . . . , m,b ; 0,b ) de p au-dessus de chaque b B. Pour tout i {0, . . . , m}, soit i : p1 (U ) U Fi une trivialisation locale de i aui dessus dun mme ouvert U de B. Notons i,b lisomorphisme linaire pr2 i |i,b : i,b Fi pour 0 i m. Notons = (i )0im : p1 (U ) U L (F1 , . . . , Fm ; F0 ) lapplication dnie, pour tout b U et u L (1,b , . . . , m,b ; 0,b ), par (u) = b, (x1 , . . . , xm ) 0,b u(1 (x1 ), . . . , 1 (xm )) . 1,b m,b Il est facile de vrier que la donne L (1 , . . . , m ; 0 ) admet une et une seule structure de br vectoriel sur K de classe Cr telle que pour toutes les trivialisations locales i : p1 (U ) U Fi de i , pour i {0, . . . , m}, au-dessus dun mme ouvert U de B, i lapplication dnie ci-dessus soit une trivialisation locale de L (1 , . . . , m ; 0 ) au-dessus de U . Par exemple, un atlas de cartes de L (E1 , . . . , Em ; E0 ) est obtenu en prenant, lorsque (U, ) parcourt les cartes locales de B et (i )0im les (m + 1)-uplets de trivialisations locales de 0 , . . . , m au-dessus de U , les cartes ( id) (i )0im : p1 (U ) (U ) L (F1 , . . . , Fm ; F0 ). Nous appellerons L (1 , . . . , m ; 0 ) le br vectoriel des applications multilinaires des i pour 1 i m dans 0 . Son rang est gal au produit des rangs des i pour 0 i m. Nous noterons L (; ) = End(). Remarques. (1) Une section u de lapplication p que nous venons de dnir est Cr si et seulement si pour tout ouvert U de B et pour toutes les sections i de classe Cr de i au-dessus de U , lapplication de U dans E0 dnie par x u(x)(1 (x), . . . , m (x)) est Cr . (2) Si f : B B est un Cr -diomorphisme, si u0 est un morphisme de brs vectoriels Cr au-dessus de f de 0 dans 0 et si ui pour 1 i m est un morphisme de brs vectoriels au-dessus de f 1 de i dans i , alors lapplication de lespace total de L (1 , . . . , m ; 0 ) dans celui de L (1 , . . . , m ; 0 ) dnie par u L (1,b , . . . , m,b ; 0,b ) {(x1 , . . . , xm ) 1,f (b) m,f (b) u0 u(u1 (x1 ), . . . , um (xm ))} est un morphisme de brs vectoriels au-dessus de f , et un isomorphisme de brs vectoriels si les ui le sont. 109

(3) Soient u (L (1 , . . . , m ; 0 )) et vi (i ) pour 1 i m. Nous noterons u(v1 , . . . , vm ) llment de (0 ) dnie par b u(b) v1 (b), . . . , vm (b) . Lapplication de (L (1 , . . . , m ; 0 )) m (i ) dans (0 ), dnie par (u, v1 , . . . , vm ) i=1 u(v1 , . . . , vm ), est une application Cr (B; K)-multilinaire, dite dvaluation de la section multilinaire u sur les sections v1 , . . . , vm . (4) Lespace total de L (0 ; 1 ) est lensemble des morphismes de brs vectoriels de 0 dans 1 . Si f L (0 ; 1 ) alors f induit un morphisme de Cr (B; K)-modules de (0 ) dans (1 ), dni par f , que nous noterons encore f .

(5) La trace des endomorphismes permet de dnir un morphisme de brs vectoriels du br des endomorphismes dans le br trivial. Soit un br vectoriel sur K de classe Cr , de base B, et K le br trivial de bre K sur B. Alors lapplication de lespace total de End() dans delui de K qui u End(x ) associe (x, tr u) B K = K est un morphisme de brs vectoriels, encore appel la trace, et encore note tr. Exemple. Soit un br vectoriel sur K de classe Cr , de base B. En notant K le br vectoriel trivial de bre K sur B, nous appellerons br vectoriel dual de le br vectoriel = L (; K ). Son rang est gal au rang de . La bre ( )b de au-dessus de b B est lespace vectoriel dual (b ) de la bre de au-dessus de b. Par exemple, le br vectoriel dual du br tangent dune varit M est appel le br cotangent de M , et son espace total est not T M . La classe dexemples suivants de brs dapplications multilinaires est importante, nous la traitons dans une nouvelle sous-partie. Continuons de noter m 1 un entier et 0 , . . . , m des brs vectoriels, de projections p0 : E0 B, . . . , pm : Em B et de bres 0,b , . . . m,b au-dessus de b B. Produit tensoriel de brs vectoriels.

En notant toujours K le br vectoriel trivial de bre K sur B, le br vectoriel L (1 , . . . , m ; K ) sur K de classe Cr , de base B, est appel le br vectoriel produit tensoriel de 1 , . . . , m , et not 1 m . Son rang est gal au produit des rangs des i pour 1 i m. La bre (1 m )b de 1 m au-dessus de b B est lespace vectoriel produit tensoriel 1,b m,b des bres i,b des i au-dessus de b pour i {1 . . . , m}. Nous noterons m ou m le produit tensoriel de m copies de , appel puissance tensorielle m-me de . Exercice E.22 Montrer que 1 m est lunique br vectoriel sur K de classe Cr , dont la projection est lapplication de bB 1,b mb dans B valant b sur 1,b m,b pour tout b B, et dont la structure despace vectoriel sur chaque bre est celle du produit tensoriel, tel que pour tout ouvert U de B, pour toutes les sections i : U Ei de classe Cr de i , lapplication 1 m de U dans E1 Em dnie par x 1 (x) m (x) soit une section de classe Cr . Soient s, t N et un br vectoriel sur K de classe Cr , de base B et de rang n. Le br vectoriel tensoriel (s, t) de est le br vectoriel sur K de classe Cr gal ( )s t . Son rang est ns+t . 110

Par exemple, le br vectoriel tensoriel (s, t) du br tangent dune varit M sur K de classe Cr+1 est appel le br des tenseurs (s, t) (ou des tenseurs s fois covariants et t fois contravariant) de M , et son espace total est not
t Ts M = (T M )s T M t .

Un tenseur (s, t) de M est une section du br des tenseurs (s, t) de M . 1 En particulier, le br tangent est le br des tenseurs (0, 1), despace total T M = T0 M . M = T 0 M . Le br Le br cotangent est le br des tenseurs (1, 0), despace total T 1 vectoriel des formes bilinaires du br tangent est le br des tenseurs (2, 0), despace total L (T M, T M ; M K) = 2 T M . La notion dimage rciproque des champs de vecteurs (et des formes direntielles, voir ci-dessous) stend aux tenseurs. Si : M N est un Cr+1 -diomorphisme local, alors t t il existe une unique application linaire : Ts N Ts M , appele image rciproque des tenseurs (s, t), telle que pour tous les x M , v Tx M , f Cr (N ; K), X (T N ), t t (T N ), Ts N et Ts N , nous ayons f = f , X(x) = (Tx )1 X((x)) , ( )x (v) = (x) (Tx (v)) , ( ) = ( ) ( ) . Les brs vectoriels produits tensoriels vrient les proprits suivantes. Nous donnons en particulier des isomorphismes canoniques (de brs vectoriels sur K de classe Cr , audessus de lidentit) entre certains brs vectoriels dapplications multilinaires, par lesquels nous identierons par la suite les brs vectoriels correspondants. 1. (Fonctorialit) Pour tout (ui )1im m L (i ; i ), il existe un et un seul lment i=1 u1 um L (1 m ; 1 m ) tel que, pour tout (x1 , . . . , xm ) E1 Em , nous ayons u1 um (x1 xm ) = u1 (x1 ) um (xm ) . 2. (Commutativit) Il existe un unique isomorphisme de brs vectoriels de 1 2 dans 2 1 , qui envoie x1 x2 sur x2 x1 pour tous les xi Ei (au-dessus dun mme point de B). 3. (Associativit) Il existe un unique isomorphisme de brs vectoriels de (1 2 )3 dans 1 2 3 , qui envoie (x1 x2 ) x3 sur x1 x2 x3 pour tous les xi dans Ei (au-dessus dun mme point de B). 4. (Distributivit) Il existe un unique isomorphisme de brs vectoriels de (1 2 )3 dans (1 3 ) (2 3 ), qui envoie (x1 x2 ) x3 sur (x1 x3 ) (x2 x3 ) pour tous les xi dans Ei (au-dessus dun mme point de B). 5. (Isomorphismes) Si K est le br trivial de bre K sur B, alors lapplication de 1 dans K 1 dnie par x 1 x est un isomorphisme de brs vectoriels. Lapplication de L (1 m ; 0 ) dans L (1 , . . . , m ; 0 ) dnie par u {(x1 , . . . , xm ) u(x1 xm )} est un isomorphisme de brs vectoriels. 111

Il existe un unique isomorphisme de brs vectoriels sur K de classe Cr , au-dessus de lidentit de B, de L (1 ; 3 ) L (2 ; 4 ) dans L (1 2 ; 3 4 ) qui u v associe linverse par lisomorphisme prcdent de (x, y) u(x) v(y). En particulier,
1 2 (1 2 ) o` { ()( )} , u 1 2 L (1 ; 2 ) o` { ( )} , u

(en particulier 0 0 End(0 )) et, si K est le br trivial de bre K sur B, 1 2 L (1 , 2 ; K ) ,

Soient 1 , . . . , s , 1 , . . . , t des brs vectoriels, K le br trivial sur B de bre K et i0 {1, . . . , s} et j0 {1, . . . , s}. Nous surmontons par un chapeau un terme omis dune 0 numration. Si i0 = j0 , considrons le morphisme cj0 de brs vectoriels de i
1 s 1 t = L (1 , . . . , s , 1 , . . . , t ; K )

dans
1 i0 s 1 j0 t = L (1 , . . . , i0 , . . . , s , 1 , . . . , j0 , . . . , t ; K ) ,

dni par o la trace tr a t dnie dans lexemple (4) de la sous-partie prcdente et u est llment de L (i0 , j0 ; K ) = End(i0 ) dni par (ei0 , i0 ) u(e1 , . . . , ei0 , . . . , es , 1 , . . . , j0 , . . . , t )} . Nous lappellerons, ainsi que ses composs lorsquils existent, un morphisme de contraction 0 des tenseurs. Nous noterons encore cj0 , et appellerons encore contraction des tenseurs, le i morphisme de Cr (B; K)-modules du module (1 s 1 t ) dans le module 0 (1 i0 s 1 j0 t ), dni par postcomposition par cj0 i j0 des sections : ci0 . En particulier, pour tous les i0 {1, . . . , s}, j0 {1, . . . , s} et pour tout br vectoriel 0 , nous avons un morphisme cj0 de Cr (B; K)-modules (( )s t ) dans (( )s1 i t1 0 t t1 ), et un morphisme cj0 de (Ts B) dans (Ts1 B). Pour tous les 1 , . . . , s ( ) et i 1 , . . . , t (), nous avons
0 cj0 (1 s 1 t ) i

u {(e1 , . . . , ei0 , . . . , es , 1 , . . . , j0 , . . . , t ) tr u}

= j0 (i0 ) 1 i0 s 1 j0 t . Puissance symtrique et extrieure dun br vectoriel.

Nous noterons S m , et appellerons puissance symtrique m-me de , le sous-br vectoriel du br vectoriel L (, . . . , ; K ) = m , de bre S m b au-dessus de b B lespace vectoriel des applications m-linaires symtriques sur la bre b de . En particulier, 112

Soient m N et un br vectoriel. Soit K le br vectoriel trivial sur B de bre K.

si M est une varit sur K de classe Cr+1 , alors S 2 T M est le br des formes bilinaires symtriques du br tangent de M , dont la bre au-dessus de x M est lespace vectoriel des formes bilinaires symtriques sur Tx M . Nous noterons m , et appellerons puissance extrieure m-me de , le sous-br vectoriel du br vectoriel L (, . . . , ; K ) = m de bre m b au-dessus de b B lespace vectoriel des applications m-linaires alternes sur la bre b de . Nous noterons le br vectoriel somme directe des brs vectoriels puissances extrieures de = m .
mN La bre de au-dessus de b B est b = prise sur m {0, . . . , n} o n est le rang de .

mN

m b . La sommation peut tre

Si f est un morphisme de brs vectoriels de dans , alors nous noterons f : m le morphisme de brs vectoriels dni, en se souvenant que la bre de m audessus de b B est lespace vectoriel des formes m-linaires sur b , par m u f u : (x1 , . . . , xm ) u(f (x1 ), . . . , f (xm )) . Ceci est un cas particulier de lexemple (2) de la sous-partie sur les brs vectoriels dapplications multilinaires. Remarquons que f envoie le sous-br vectoriel S m dans le sous-br vectoriel S m , et le sous-br vectoriel m dans le sous-br vectoriel m . Nous noterons encore f : (m ) (m ) le morphisme de Cr (B; K)-modules dni par f = f , qui envoie (S m ) dans (S m ) et (m ) dans (m ). Fibr vectoriel des formes direntielles sur une varit.

Soit M une varit sur K de classe Cr+1 . Le br vectoriel m T M puissance extrieure m-me du br tangent de M , est appel le br des m-formes direntielles sur M , et T M le br des formes direntielles sur M . Leurs sections sont respectivement appeles les m-formes direntielles et les formes direntielles sur M . Il est assez usuel de noter m (M ) = (m T M ) et (M ) = ( T M ) le Cr (M ; K)-module des m-formes direntielles et des formes direntielles respectivement. Comme 0 T M sidentie avec M K, notons que 0 (M ) sidentie avec Cr (M ; K). Par convention, nous posons p (M ) = {0} si p < 0. Par exemple, si f : M K est une application Cr+1 , alors lapplication df : M T M , qui au point x de M vaut la forme linaire dfx : X Tx f (X) ( 12 )

sur lespace tangent Tx M , est une 1-forme direntielle Cr , appele la direntielle de f . Il ne faut pas confondre df : M T M et T f : T M T K, mme si lun dtermine lautre. Le Cr (M ; K)-module (M ) sur K possde une structure remarquable dalgbre sur lanneau Cr (M ; K), construite de la manire suivante. 113

Appelons produit extrieur de deux lments et de (M ) la forme direntielle

: x x x .

Il est immdiat que la section est de classe Cr . Le rsultat suivant dcoule alors du thorme 2.9. Proposition 2.15 Le Cr (M ; K)-module (M ), muni de la famille (p (M ))pN et de la loi , est une algbre relle (associative, unitaire) gradue, anticommutative, cest--dire ( (M ), +, , ) est une algbre (associative, unitaire) sur Cr (M ; K), et p (M ) est un sous-module ; (M ) = pN p (M ), et si p (M ) et q (M ), alors p+q (M ) ; si p (M ) et q (M ), alors = (1)pq . Si U est un ouvert de M , alors lapplication |U est un morphisme dalgbres (unitaires), gradu de degr 0, de (M ) dans (U ). De mme que pour les champs de vecteurs, les formes direntielles vrient la proprit de localit des faisceaux : si U est un ouvert, runion douverts Ui , si i est une forme direntielle Cr sur Ui , tels que i = j sur Ui Uj , alors lunique application : U T U telle que |Ui = i est une forme direntielle Cr sur U .

Remarque. Si U est un ouvert de Rn , alors comme T U sidentie avec U Rn , la carte (U, id) de la varit U fournit une identication T U = U (Rn ) .

Une forme direntielle x (x, x ) sur U sidentie donc une application x x de U dans (Rn ) . Cette forme direntielle sur U est de classe Cr si et seulement si lapplication x x est Cr . Nous ferons cette identication dans toute la suite de ces notes. Soient (e1 , . . . , en ) la base canonique de Rn , et (e )IIn , o In est lensemble des suites I strictement croissantes dans {1, . . . , n}, la base correspondante de (Rn ) . Toute forme direntielle sur U scrit alors, de manire unique, =
IIn

fI e , I

o fI : U R est une application, de classe Cr si lest. Si U est un ouvert de Kn , et si f : U K est une application Cr+1 , alors la 1-forme direntielle df est lapplication qui x dans U associe la direntielle (ou application drive) dfx , au sens du calcul direntiel. Par exemple, si xi est lapplication i-me coordonne (x1 , . . . , xn ) xi , qui est linaire, alors la direntielle dxi est constante sur U , et vaut encore lapplication i-me coordonne. Cest--dire, en tout point x de U , la suite f (dx1 , . . . , dxn ) est la base duale de la base canonique de Kn . Donc, en notant i f = xi , nous avons
n

df =
i=1

i f dxi . 114

De plus, en posant dxI = dxi1 dxip pour tout I = {i1 , . . . , ip } avec i1 < < ip et p dans N (par convention dx = 1), alors toute forme direntielle sur U scrit, de manire unique, = I dxI
IIn

o I

Cr (U ; K).

De mme, =
i1 <<ip

i1 ,...,ip dxi1 dxip

si est une p-forme direntielle. La famille (dxI )IIn est donc une base du module (U ) sur lanneau Cr (U ; K). Attention, pour une varit gnrale M , le Cr (M ; K)-module (M ) nest pas forcment libre. Proposition 2.16 Si 1 , . . . , p sont des 1-formes direntielles sur M , et si X1 , . . . , Xp sont des champs de vecteurs sur M , alors, pour tout x dans M , nous avons (1 p )x (X1 (x), . . . , Xp (x)) = det (i )x (Xj (x)) Dmonstration. Ceci dcoule de la proposition 2.10. Formes direntielles valeurs dans un br vectoriel.
1i,jp

Soient M une varit sur K de classe Cr+1 et un br vectoriel de classe Cr sur M , le br des m-formes direntielles (sur M ) valeurs dans est le br m T M , et le br des formes direntielles (sur M ) valeurs dans est le br T M . Leurs sections sont respectivement appeles les m-formes direntielles valeurs dans et les formes direntielles valeurs dans . Il est assez usuel de noter m (M ; ) = (m T M ) et (M ; ) = ( T M ) le Cr (M ; K)-module des m-formes direntielles et des formes direntielles respectivement sur M valeurs dans . Par convention, nous posons p (M : ) = {0} si p < 0. Soit un autre br vectoriel de classe Cr sur M . Soient dans p (M ; ) et dans q (M ; ). Appelons produit extrieur de et de llment de p+q (M ; ) dni en posant, pour tous les x M et X1 , . . . , Xp+q Tx M , ( )x (X1 , . . . , Xp+q ) =
S(p,q) (X(1) , . . . , X(p) ) x (X(p+1) , . . . , X(p+q) ) .

Par bilinarit, lapplication (, ) stend en une application Cr (M ; K)-bilinaire de (M ; ) (M ; ) dans (M ; ). Soit un br vectoriel de projection p : E B. Soient M une varit Cr et f : M B une application Cr . Posons f E = f (x) ,
xM

Image rciproque dun br vectoriel.

115

p : f E M lapplication valant x sur f (x) pour tout x M , et f : f E E lapplication valant lidentit sur f (x) pour tout x M , de sorte que le diagramme suivant commute f E
p

e f

E p B .

Nous allons construire une structure de br vectoriel f , de projection lapplication p (dont les bres sont bien des espaces vectoriels), tel que (f , f ) soit un morphisme de brs vectoriels. Proposition 2.17 Lensemble E = {(x, y) M E : f (x) = p(y)} est une sousvarit Cr de M E et lapplication pr1|E est Cr . La donne de lapplication pr1|E et des structures despaces vectoriels videntes sur ses bres {x} f (x) est un br vectoriel, et le couple (pr2|E , f ) est un morphisme de brs vectoriels de ce br vectoriel dans . Munissons f E de lunique structure de varit Cr telle que la bijection de f E dans E envoyant y f (x) sur (x, y) soit un Cr -diomorphisme. Le rsultat ci-dessus montre alors que la donne f est un br vectoriel, appel le br vectoriel image rciproque de par f . La bre (f )x de f au-dessus de x M est gale la bre f (x) de au-dessus de f (x). Dmonstration. Dans cette dmonstration, nous identions f E et E par la bijection ci-dessus, ce qui identie p et pr1|E , ainsi que f et pr2|E . Lensemble f E est une sous-varit Cr de la varit produit M E, comme image rciproque de la diagonale de B B par lapplication de M E dans B B dnie par (x, y) (f (x), p(y)), qui est transverse la diagonale, car p est une submersion (voir les rappels au dbut de ces notes). Les applications p et f sont donc, par restriction, de classe Cr . Montrons que f admet des trivialisations locales au-dessus dun voisinage ouvert de chaque point de M . Si : p1 (U ) U F est une trivialisation locale du br vectoriel au-dessus de louvert U de B, il est facile en utilisant le diagramme suivant de vrier que lapplication : p1 (f 1 (U )) f 1 (U ) F dnie par (x, y) (x, pr2 (y)) est une trivialisation locale (au sens des brs vectoriels) de f au-dessus de louvert f 1 (U ) de M , ce qui conclut. f 1 (U ) F (f p)1 (U ) pr1 p f 1 (U ) 116 f f id p1 (U ) p U. pr1 U F

Par construction, f est linaire sur les bres (cest mme un isomorphisme linaire). Par la commutativit du diagramme prcdant lnonc de la proposition, (f , f ) est donc un morphisme de brs vectoriels. Le rsultat en dcoule. Remarques et exemples. (1) Si g : N M est une application Cr , alors les brs vectoriels (f g) et g (f ) sur N sont gaux.

(4) Il est facile (voir par exemple lexercice corrig E.26 (1) dans la partie 2.4) de montrer que si est trivialisable, alors f est trivialisable, et que si f est constante, alors f est trivial.

(3) Si N et M sont deux varits sur K de classe Cr+1 et si i : N M est une immersion, alors le br tangent de N sidenti un sous-br vectoriel du br vectoriel image rciproque par i du br tangent de M , par les applications Tx i : Tx N (i T M )x = Ti(x) M pour x N .

(2) Si B est une sous-varit de B et si i : B B est linclusion, alors i est un br vectoriel sur B , appel restriction de B . Il est aussi not |B . Pour tout b B, la bre de |B au-dessus de b est gale la bre de au-dessus de b.

(5) Limage rciproque commute avec les oprations prcdentes sur les brs vectoriels : si = 1 m , alors f = f 1 f m ; si est le br vectoriel dual de , alors f est le br vectoriel dual de f ; si = L (1 , . . . , m ; 0 ), alors f = L (f 1 , . . . , f m ; f 0 ) ; en particulier, si = 1 m, alors f = f 1 f m . De plus, si est un sous-br vectoriel de , alors f est un sous-br vectoriel de f . (6) Soit (p T B ) une p-forme direntielle sur B valeurs dans . Alors on dnit limage rciproque de par f comme la p-forme direntielle f (p T M f ) sur M valeurs dans le br image rciproque f en posant, pour tous les x M et X1 , . . . , Xp Tx M , (f )x (X1 , . . . , Xp ) = f (x) (Tx f (X1 ), . . . , Tx f (Xp )) , qui appartient (f )x = f (x) . Cr . (7) Soient un br vectoriel, de projection p : E B, et c : [0, 1] B une courbe Alors un champ de vecteurs Cr le long de c valeurs dans est une section Cr du br vectoriel c , cest donc une application X : [0, 1] E de classe Cr telle que X(t) c(t) , pour tout t [0, 1]. En particulier, si M est une varit sur K de classe Cr+1 et si c : [0, 1] M est une courbe Cr , alors un champ de vecteurs Cr le long de c est une section Cr du br vectoriel c T M , cest donc une application X : [0, 1] T M de classe Cr telle que X(t) Tc(t) M , pour tout t [0, 1]. (8) Le br image rciproque vrie la proprit universelle suivante, laisse en exercice. Exercice E.23 Pour tout br vectoriel de classe Cr , dapplication : E M , et pour tout morphisme (F, f ) de brs vectoriels Cr de sur , il existe un unique morphisme de brs vectoriels de sur f , qui rende le diagramme suivant commutatif :

117

F f

f E p M

E p B.

Soient (i )iI une famille nie de brs vectoriels de classe Cr , et pi : Ei Bi la projection de i pour tout i I. Le br vectoriel produit cartsien de (i )iI est le br vectoriel, not = iI i (et 1 2 si I = {1, 2}), de base la varit produit B = iI Bi , despace total la varit produit E = iI Ei , de projection lapplication produit p = iI pi : iI Ei iI Bi dnie par (xi )iI pi (xi ) iI , de structure vectorielle sur la bre au-dessus de (bi )iI la structure despace vectoriel produit sur b = iI i,b . Pour vrier que est bien un br vectoriel, il sut de remarquer que si i : p1 (Ui ) i Ui Fi est une trivialisation locale du br vectoriel i au-dessus de louvert Ui de Bi , alors lapplication de p1 ( iI Ui ) = iI p1 (Ui ) dans ( iI Ui ) ( iI Fi ) dnie par i (xi )iI pr1 i (xi )
iI

Produit cartsien de brs vectoriels.

, pr2 i (xi )

iI

est une trivialisation locale du br vectoriel au-dessus de louvert iI Ui de B. Par exemple, le br tangent dun produit iI Mi de varits de classe Cr+1 est canoniquement isomorphe au produit cartsien de leurs brs tangents, par lapplication de T ( iI Mi ) dans iI T Mi dnie par v (T pri )(v) iI , o pri est la projection sur le i-me facteur de iI Mi . Nous identierons par la suite ces brs par cette application. Remarque. Soient et deux brs vectoriels sur K de classe Cr , de mme base, de projections p : E B et p : E B. Par dnition, lespace total du br somme directe est la sous-varit E E = {(x, x ) E E : p(x) = p (x )} de la varit produit E E , et la projection de est lapplication (x, x ) p(x). Si : B B 2 est lapplication diagonale dnie par (x) = (x, x), alors il est facile de montrer que lapplication de E E dans lespace total du br vectoriel ( ) (image rciproque par du br vectoriel produit de et ), dnie par (x, x ) (p(x), (x, x )) est un isomorphisme de brs vectoriels au-dessus de lidentit. Conjugu dun br vectoriel complexe. 118

Rappelons que si V est un espace vectoriel complexe, on appelle espace vectoriel complexe conjugu lespace vectoriel V de mme ensemble sous-jacent que V et de mme addition que V , mais o la multiplication externe a t remplace par (, x) x. Si est un br vectoriel complexe, de projection p : E B, alors la donne de cette projection et, pour tout b B, de la structure despace vectoriel conjugu b sur la bre p1 (b) celle de b , est un br vectoriel complexe, appel conjugu de et not . Complexication dun br vectoriel rel.

Soit un br vectoriel rel de rang n, de projection p : E B. En considrant C comme un espace vectoriel rel de dimension 2, notons C le br vectoriel rel trivial sur B de bre C. Notons pC la projection du br vectoriel rel = C produit tensoriel de et de C . Pour tout b B, la bre b = b R C de au-dessus de b est naturellement munie dune structure despace vectoriel complexe. La donne de lapplication pC , et de ces structures despaces vectoriels complexes sur ses bres, est un br vectoriel complexe, que nous appellerons le br vectoriel complexi de . En eet, si : p1 (U ) U Rn est une trivialisation de au-dessus de U , et puisque Rn R C = Cn , nous avons vu que lapplication : p1 (U ) U Cn telle que, pour tous C les b B, z C et v b , nous avons (v z) = b, z pr2 (v) est une trivialisation de au-dessus de U . Or pour tout b B, lapplication : b R C |b Cn est linaire sur C. 2.2.4 Mtrique euclidienne et hermitienne sur un br vectoriel.

Pour parler comme les physiciens, une mtrique euclidienne sur un br vectoriel rel est un champ de produits scalaires euclidiens b , b , sur un champ b b despaces vectoriels, dpendant de manire lisse dun point b variant dans un espace lisse de paramtres. Soit un br vectoriel rel (respectivement complexe), de projection p : E B. Une mtrique pseudo-euclidienne (respectivement pseudo-hermitienne) est une section ( ) (respectivement ( )) de classe Cr telle que pour tout b B, la forme bilinaire (respectivement sesquilinaire) (b)|b b soit non dgnre, symtrique (respectivement hermitienne) de signature localement constante. Nous dirons simplement mtrique euclidienne (respectivement hermitienne) lorsque pour tout b B, cette forme bilinaire (respectivement sesquilinaire) sur b est un produit scalaire euclidien (respectivement hermitien). Nous noterons en gnral g ces mtriques, ainsi que, en labsence dambigut, gb ( , ) = ,
b

la forme bilinaire (respectivement sesquilinaire) sur b dnie par g (qui est un produit scalaire lorsque g est euclidienne (respectivement hermitienne)). Une mtrique pseudoeuclidienne est en particulier une section Cr du br tensoriel (2, 0) de , et une section du br S 2 des formes bilinaires symtriques. Proposition 2.18 Si r N{}, alors tout br vectoriel rel (respectivement complexe) de classe Cr admet une mtrique euclidienne (respectivement hermitienne). 119

Dmonstration. Le rsultat est immdiat si est trivial de bre F , car il sut de xer un produit scalaire sur F , et munir toute bre {b} F du produit scalaire vident. Par transport de structure, le rsultat est aussi clair si est trivialisable. Enn, soit (Ui )iI un recouvrement ouvert localement ni de la base B (qui est paracompacte), par des ouverts au-dessus desquels est trivialisable. Soit gi une mtrique euclidienne (respectivement hermitienne) sur |Ui . Soit (i )iI une partition de lunit Cr subordonne au recouvrement (Ui )iI (qui existe car r = R , C ). Alors il est facile de vrier que iI i gi est une mtrique euclidienne (respectivement hermitienne) sur . Exercice E.24 Soient r N {} et un br vectoriel rel (respectivement complexe) de classe Cr . (1) Montrer que est isomorphe (au-dessus de lidentit) son br vectoriel dual (respectivement dual conjugu ). (2) Si est un sous-br vectoriel de , montrer quil existe un sous-br vectoriel de tel que lapplication vidente de dans soit un isomorphisme de brs vectoriels. En particulier, toute mtrique euclidienne sur le br tangent dune varit M relle de classe Cr+1 fournit un isomorphisme entre le br tangent T M de M et le br cotangent T M de M . Mtriques riemannienne induite sur le br des tenseurs.

Soient E et F deux espaces vectoriels rels de dimension nie. Tout produit scalaire , E sur E dnit un unique produit scalaire , E , dit dual, sur lespace vectoriel dual E de E, tel que si (e1 , . . . , en ) est une base orthonorme de E, alors sa base duale (e , . . . , e ) soit orthonorme : si : E E est lisomorphisme n 1 linaire x {y x, y E }, alors pour tous les , E , nous avons ,
E

= 1 (), 1 ( )

De mme, la donne dun produit scalaire , E sur E et dun produit scalaire , F sur F dnit un unique produit scalaire , EF , dit produit tensoriel, sur lespace vectoriel produit tensoriel E F tel que si (e1 , . . . , en ) et (f1 , . . . , fm ) sont des bases orthonormes de E et F respectivement, alors (ei fj )1in, 1jm est une base orthonorme de E F . Par rcurrence, pour tous les s, t N, lespace vectoriel produit tensoriel (E )s t admet un unique produit scalaire , E (E )s E t tel que si (e1 , . . . , en ) est une base e e e ) orthonorme de E, alors (ei1 j1 jt 1ik ,j n est une base orthonorme is de (E )s E t . Soit un br vectoriel rel de classe Cr sur une varit M , muni dune mtrique euclidienne x , x . Alors pour tous les s, t N, en prenant des cartes locales, il est facile de vrier que lapplication x , ( )s x est une mtrique euclidienne sur le t x )s t . br vectoriel produit tensoriel ( 2.2.5 Classication des brs vectoriels

Commenons par des rappels dhomotopie. Soient X et Y deux espaces topologiques. Deux applications f et g de X dans Y sont homotopes sil existe une application continue h : [0, 1] X Y telle que h(0, x) = 120

f (x) et h(1, x) = g(x) pour tout x X. La relation tre homotope est une relation dquivalence. Nous noterons [X, Y ] lensemble des classes dhomotopie (cest--dire des classes dquivalence par cette relation) dapplications continues de X dans Y . Lespace topologique X est dit contractile sil est connexe par arc, et si lapplication identit de X dans X est homotope une application constante. Soient r N {} et K {R, C}. Tous les brs vectoriels dans cette partie sont des brs vectoriels sur K de classe Cr . Lemme 2.19 Soit un br vectoriel sur ] , 1 + [B, o > 0 et B est une varit Cr . Alors les brs vectoriels images rciproques de par b (0, b) et par b (1, b) sont isomorphes au-dessus de lidentit. Dmonstration. Nous ne dmontrons ce rsultat que lorsque B est compacte, voir par exemple [Spi] pour le cas gnral. Pour tout t ] , 1 + [ , notons t le br vectoriel sur B image rciproque de par lapplication b (t, b), de sorte que (t )b = (t,b) . Montrons que pour tout t0 [0, 1], si t est assez proche de t0 , alors t est isomorphe t0 , ce qui conclut par compacit et connexit de [0, 1]. Notons p la projection de . Par compacit de {t0 }B, il existe un recouvrement ouvert ni (Ui )iI de B et une suite nie (i )iI dans ]0, +[ telle que, si Vi = ]t0 i , t0 + i [ Ui , alors il existe une trivialisation i : p1 (Vi ) Vi Fi du br vectoriel au-dessus de Vi . Soit ]0, miniI i ]. Si |t t0 | et b Ui , notons i,b : t,b t0 ,b lapplication dnie par v 1 (t0 , b, vi ) o i (v) = (t, b, vi ). Soit (i )iI une partition de lunit Cr sur i B subordonne au recouvrement (Ui )iI . Considrons lapplication de t dans t0 dnie par v t,b iI i (b)i,b (v). Il nest pas dicile de vrier que si est assez petit, alors cette application est un isomorphisme de brs vectoriels de t dans t0 au-dessus de lidentit. Corollaire 2.20 Tout br vectoriel de base contractile est trivialisable. Dmonstration. Soit un br vectoriel de base B. Nous ne donnerons la dmonstration que si B est compacte, voir [Hus, Chap. 1] pour le cas gnral. Nous pouvons supposer que B est non vide, et nous xons b0 B. Par rgularisation des homotopies (voir par exemple [God1]), il existe une application h : ] , 1 + [ B B de classe Cr , telle que h(0, b) = b et h(1, b) = b0 pour tout b B. Remarquons que h est un br vectoriel sur ] , 1 + [ B. Les brs vectoriels images rciproques de h par b (0, b) et par b (1, b) sont isomorphes au-dessus de lidentit respectivement et un br trivial (de bre b0 ). Le rsultat dcoule alors du lemme 2.19. Le rsultat suivant donne une manire de comprendre tous les brs vectoriels sur une varit donne, suppose compacte pour simplier. Rappelons que n (V ) Gn (V ) est le br vectoriel tautologique au-dessus de la varit grassmannienne de rang n dun espace vectoriel V sur K. Nous identierons KN avec le sous-espace vectoriel des N premires coordonnes dans KN pour tout N N . Thorme 2.21 Soient n N et B une varit compacte Cr . (1) Pour tout br vectoriel sur B de rang n, il existe N N et une application f : B Gn (KN ) de classe Cr telle que soit isomorphe au br vectoriel image rciproque f n (KN ) au-dessus de lidentit. 121

(2) Soient f, g : B Gn (KN ) deux applications de classe Cr . Si f et g sont homotopes alors les brs vectoriels f n (KN ) et g n (KN ) sont isomorphes au-dessus de lidentit. Rciproquement, si ces brs sont isomorphes au-dessus de lidentit, alors f et g sont homotopes dans Gn (K2N ). Dmonstration. Pour simplier les notations, posons Gp,q = Gp (Kq ) et p,q = p (Kq ). (1) Par partition de lunit nie, et existence de sections gnratrices locales, il existe N N et des sections 1 , . . . , N () telles que pour tout b B, les lments 1 (b), . . . , N (b) engendrent b . Pour tout b B, notons Fb : KN b lapplication dnie par (ti )1im m ti i (b), qui est linaire, surjective, de noyau de dimension i=1 N n. Munissons KN dun produit scalaire euclidien si K = R, hermitien si K = C. Considrons lapplication f : B Gn,N qui b B associe lorthogonal de Ker(Fb ), qui est bien un sous-espace vectoriel de dimension n. Il est facile de voir que f est de classe Cr , que Fb : f (b) b est un isomorphisme linaire, et que si p : E B est la projection de , lapplication de f n,N dans E dnie par v Fp(v) (v) est un isomorphisme de brs vectoriels au-dessus de lidentit de f n,N dans . Donc et f n,N sont isomorphes au-dessus de lidentit. (2) Si f et g sont Cr et homotopes, par rgularisation des homotopies (voir par exemple [God1]), il existe une application h : ] , 1 + [ B Gn,N de classe Cr telle que h(0, b) = f (b) et h(1, b) = g(b) pour tout b B. Notons le br vectoriel image rciproque h n,N , dont les restrictions {0} B et {1} B sont isomorphes f n,N et g n,N respectivement. Ces brs vectoriels sont isomorphes au-dessus de lidentit, par le lemme 2.19. Rciproquement, soient f et g deux applications Cr telles que f n,N et g n,N soient isomorphes au-dessus de lidentit. Montrons que f et g sont homotopes dans Gn (K2N ). Lapplication de [0, 1] KN dans KN KN = K2N dnie par (s, v) ((1 s)v, sv) induit une application continue h : [0, 1] Gn,N dans Gn,2N . Lapplication g : x h(1, g(x)) est homotope g. En notant encore f : B Gn,2N lapplication compose de f et de linclusion Gn,N Gn,2N , les brs vectoriels f n,2N et g n,2N sont, par ce qui prcde, isomorphes au-dessus de lidentit. Quitte remplacer g par g , nous pouvons donc supposer que f et g sont valeurs appartenant respectivement KN {0} et {0} KN . Soit un isomorphisme de brs vectoriels de f n,2N dans g n,2N au-dessus de lidentit, de sorte que le diagramme suivant soit commutatif : f n,2N f n,2N g g n,2N

Gn,2N id

B.

Pour tout b B, la bre de f n,2N au-dessus de b est le sous-espace vectoriel f (b) de K2N , celle de g n,2N est g(b), et induit un isomorphisme linaire b : f (b) g(b). Notons t,b lapplication de f (b) dans K2N dnie par x (1t)x+tb (x), qui est linaire et injective par lhypothse sur les images de f et de g. En particulier, t,b (f (b)) est un 122

Nous renvoyons lexercice E.26 de la partie 2.4 pour une dmonstration du rsultat suivant nutilisant pas la classsication des brs vectoriels.

sous-espace vectoriel de dimension n de K2N , donc un lment de Gn,2N . Il est facile de vrier que lapplication h : (t, b) t,b (f (b)) est une homotopie entre f et g.

Corollaire 2.22 Tout br vectoriel de base compacte est isomorphe un sous-br dun br trivial. Dmonstration. Nous avons vu dans la partie 2.2.2 que le br tautologique k (Kn ) sur Gk (KN ) est un sous-br dun br trivial sur Gk (KN ). Pour toute application f de classe Cr de B dans Gk (KN ), le br vectoriel f k (Kn ) sur B est donc un sous-br du br trivial f . Remarques. (1) Soient M une varit et k N. Notons Vectk (M ) lensemble des classes disomorphisme de brs vectoriels de rang k sur M . Il est en fait possible de montrer (voir par exemple [Hus]) que si M est compacte et si n est assez grand, alors lapplication [M, Gk (Kn )] Vectk (M ) de lensemble [M, Gk (Kn )] des classes dhomotopie dapplications continues de M dans la varit grassmannienne Gk (Kn ), valeurs dans Vectk (M ), qui une application continue f associe la classe disomorphisme du br image rciproque g k (Kn ) o g : M Gk (Kn ) est lisse et homotope f , est une bijection. Identions Kn avec le sous-espace de Kn+1 des n premires coordonnes. Ceci induit une injection Gk (Kn ) dans Gk (Kn+1 ) par laquelle nous identions Gk (Kn ) avec son image. Si M nest plus suppose compacte, nous avons aussi une bijection [M, Gk (K )] Vectk (M ) o Gk (K ) est la runion des Gk (Kn ) lorsque n N, munie de la topologie limite inductive (une partie de Gk (K ) est ferme si et seulement si son intersection avec chaque Gk (Kn ) est ferme). (2) Lexercice E.26 de la partie 2.4 montre que tout br vectoriel de base compacte M est stablement trivialisable, cest--dire quil existe un br vectoriel sur M tel que soit trivialisable. Ceci est le point de dpart de la K-thorie topologique, pour laquelle nous renvoyons par exemple [Ati, Kar].

2.3

Connexions

Sauf mention explicite du contraire, dans cette partie, toutes les varits sont des varits relles de classe C , et tous les brs vectoriels sont des brs vectoriels rels de classe C . Pour toute varit M , nous noterons C (M ) = C (M ; R). Soient M une varit et (T M ) le C (M )-module des champs de vecteurs lisses sur M . Rappelons que pour tous les X (T M ) et f C (M ), nous notons X(f ) ou LX f llment de C (M ) dni par LX f = X(f ) : x dx f (X(x)) . 123

Cest une drivation de lalgbre relle C (M ), cest--dire que lapplication f X(f ) de C (M ) dans lui-mme est linaire et que X(f g) = X(f )g + f X(g) pour tous les f, g C (M ). Par la dnition du crochet de champs de vecteurs (voir lexemple (10) de la partie 1.2), il est facile de voir que pour tous les X, Y (T M ), nous avons L[X,Y ] = LX LY LY LX ( 13 ) cest--dire que pour tout f C (M ), nous avons [X, Y ](f ) = X(Y (f )) Y (X(f )) . (Certains ouvrages dnissent ainsi le crochet de Lie des champs de vecteurs, mais cette dnition nest pas adapte en rgularit dirente de la rgularit C , et en particulier en rgularit analytique complexe.) 2.3.1 Lemme de tensorialit et applications : produit extrieur, produit intrieur, drive de Lie, contraction

Nous commenons par noncer un rsultat qui, en rgularit C , permet de construire des tenseurs sur une varit, et que nous utiliserons de trs nombreuses fois par la suite (le mathmaticien polycphale A. Besse lappelle mme le lemme fondamental de la gomtrie direntielle ). Son gros inconvnient est quil est faux en rgularit analytique relle ou analytique complexe, et donc que les notions de connexion, torsion dune connexion, courbure dune connexion, etc. doivent (et peuvent) tre dnies autrement. Lemme 2.23 (Lemme de tensorialit) Soient m 1 un entier et 0 , 1 , . . . , m des brs vectoriels sur une varit M . Pour toute application R-multilinaire A : (1 ) (m ) (0 ) , les conditions suivantes sont quivalentes : (1) A est C (M )-multilinaire (cest--dire quelle vrie lgalit A(f1 1 , . . . , fm m ) = f1 . . . fm A(1 , . . . , m ) pour tous les fi C (M ) et i (i )) ; (2) il existe une et une seule section lisse du br vectoriel 1 m 0 = L (1 , . . . , m ; 0 ) telle que pour tous les x M et i (i ), nous ayons A(1 , . . . , m )(x) = (x)(1 (x), . . . , m (x)) .
Nous dirons que la section (1 m 0 ) est associe A. Nous la noterons encore A. Ceci est compatible avec la dnition donne dans la partie 2.2.3 (exemple (3) de la sous-partie sur les brs dapplications multilinaires) de lvaluation de la section multilinaire sur les sections 1 , . . . , m .

Dmonstration. Notons lapplication R-linaire de L (1 , . . . , m ; 0 ) dans lespace vectoriel LC (M ) (1 ), . . . , (m ); (0 ) des applications C (M )-multilinaires de (1 ) (m ) dans (0 ), dnie par Il est immdiat que tout lment dans limage de est bien C (M )-multilinaire. Montrons que est un isomorphisme, ce qui conclut. 124 (1 , . . . , m ) {x (x)(1 (x), . . . , m (x) } .

Lemme 2.24 Soient A : (1 ) (m ) (0 ) une application C (M )-multilinaire, x M et i une section lisse de i pour 1 i m. Alors la valeur de A(1 , . . . , m ) en x ne dpend que des valeurs des i en x.
Dmonstration. Par rcurrence, il sut de montrer que pour tout i {1, . . . , m}, si i (x) = (x), alors A( , . . . , , , . . . , )(x) = A( , . . . , )(x). (i ) vrie i i 1 i1 , i i m 1 m Supposons i = 1 pour simplier les notations. Si 1 concide avec 1 sur un voisinage ouvert U de x, soit C (M ) support compact contenu dans U valant 1 en x. Alors (1 1 ) est la section nulle, donc = (x)A(1 , 2 , . . . , m )(x) (x)A(1 , . . . , m )(x) A(1 , 2 , . . . , m )(x) A(1 , . . . , m )(x)

= A((1 1 ), 2 , . . . , m )(x) = 0 .

Si 1 (x) = 1 (x), en notant n le rang de 1 , nous armons quil existe s1 , . . . , sn (1 ) et f1 , . . . , fn C (M ) telles que f1 (x) = = fn (x) = 0 et 1 concide avec 1 + n fi si i=1 sur un voisinage de x. En eet, soit U un voisinage ouvert de x au-dessus duquel 1 est trivialisable, soit (s , . . . , s ) une base du C (U )-module (1 |U ) (qui existe par lexemple n 1 (1) de la partie 2.2.1), soient f1 , . . . , fn C (U ) tels que (1 1 )|U = n fi s , soit i i=1 C (M ) support compact contenu dans U , valant 1 sur un voisinage de x ; alors le rsultat est vrai en prenant fi = fi et si = s (prolongs par 0 en dehors de U ). i Maintenant, par ce qui prcde, n A(1 , 2 , . . . , m )(x) = A(1 + i=1 n

fi si , . . . , m )(x) fi (x)A(si , . . . , m )(x)

i=1

= A(1 , 2 , . . . , m )(x) + = A(1 , 2 , . . . , m )(x) .

Lemme 2.25 Soit un br vectoriel sur une varit M . Pour tous les x M et v x , il existe une section () telle que (x) = v. Pour tout ouvert V de M , pour tout ouvert V de M dadhrence compacte contenue dans V et pour toute section lisse de |V , il existe une section lisse de telle que |V = |V . Dmonstration. Si U est un voisinage ouvert distingu de x au-dessus duquel est trivialisable, il existe une section de |U telle que (x) = v. Maintenant si : M R est une application lisse valant 1 en x et support compact contenu dans U , alors lapplication : y (y) (y) (prolonge par 0 en dehors de U ) convient. Pour montrer la seconde assertion, soit : M R une application lisse valant 1 sur V et support compact contenu dans V , ce qui est possible localement et se globalise par partition de lunit. Alors lapplication : y (y) (y) (prolonge par 0 en dehors de V ) convient. Si A L (1 ), . . . , (m ); (0 ) est C (M )-multilinaire, pour tous les x M et (v1 , . . . , vm ) 1,x m,x , pour tout i {1, . . . , m}, soit i (i ) telle que i (x) = vi , et posons (x)(v1 , . . . , vm ) = A(1 , . . . , m )(x) . 125

Par le lemme 2.24, cette section de L (1 , . . . , m ; 0 ) est bien dnie, et dpend Rlinairement de A. Elle est lisse, en utilisant le critre par les sections locales de la partie 2.2.3 (voir lexercice E.22) et la seconde assertion du lemme prcdent. Donc est surjective. Linjectivit de dcoule de la premire assertion du lemme 2.25. Exemples. Donnons quelques exemples dutilisation de ce thorme. Soit un br vectoriel sur une varit M . Nous surmontons par un chapeau un terme omis dune numration. (1) (Direntielle extrieure des formes direntielles) La direntielle extrieure est lunique application linaire gradue de degr +1 de ( T M ) dans ( T M ), telle que pour tout p N, pour tout (p T M ), pour tous les X0 , . . . , Xp (T M ),
p

d(X0 , X1 , . . . , Xp ) =
i=0

(1)i Xi ((X0 , . . . , Xi , . . . , Xp )) + (1)i+j ([Xi , Xj ], X0 , . . . , Xi , . . . , Xj , . . . , Xp ) . ( 14 )

0i<jp

Il est facile de vrier que le membre de droite est C (M )-multilinaire, donc dnit bien, par le lemme de tensorialit, un (p + 1, 0)-tenseur d, et que celui-ci est altern, donc une (p + 1)-forme direntielle sur M . Le rsultat suivant dit que cette dnition de d (appele la formule de Cartan de la direntielle extrieure) redonne bien la dnition usuelle de la direntielle extrieure des formes direntielles. Thorme 2.26 La direntielle extrieure d est lunique application linaire gradue de degr +1 de ( T M ) dans ( T M ), telle que (1) pour tout f dans (0 T M ) = C (M ), la forme direntielle df est gale la direntielle de f dnie par la formule ( 12 ) ; (2) d est une antidrivation de lalgbre gradue ( T M ), cest--dire pour tous les (p T M ) et (q T M ), nous avons d( ) = (d) + (1)p (d) ; De plus, les applications d commutent avec les restrictions aux ouverts : pour toute forme direntielle ( T M ), pour tout ouvert U de M , (d)|U = d(|U ) . Enn, les applications d commutent avec les images rciproques : pour toutes les varits M et N de classe C , pour toute application f : M N de classe C , et pour toute forme direntielle ( T N ), nous avons f (d) = d(f ) . Par convention, notons (1 T N ) = {0} et d : (1 T N ) (0 T N ) lapplication nulle. Nous verrons dans la dmonstration quil sut dans lassertion (3) de demander la condition d d = 0 sur les applications. 126 (3) d d = 0.

Dmonstration. Notons (M ) = ( T M ). Pour obtenir lunicit, montrons que, pour tout dans (M ), les proprits de la direntielle dterminent uniquement d sur un voisinage susament petit de tout point. Cela concluera, par la proprit de localit des faisceaux des formes direntielles (voir la partie 2.2.3). Commenons par dmontrer le lemme suivant, qui dit quun oprateur linaire d : (M ) (M ) qui vrie les proprits (1) et (2) est un oprateur local . Lemme 2.27 Si V est un ouvert de M , et si , sont des formes direntielles sur M telles que |V = |V , alors (d)|V = (d)|V . Dmonstration. Pour tout x dans V , soit f : M R une fonction C , de support contenu dans V , valant 1 sur un voisinage de x. Alors f ( ) = 0 et, par linarit d(f ( )) = 0. Comme d concide avec la direntielle des fonctions sur (0 T M ) = C (M ), nous avons dfx = 0 et f (x) = 1. De plus, d(f ( )) = df ( ) + f d( ) par (2). Donc par linarit, dx = dx . Comme x est arbitraire, ceci montre le rsultat. Pour tout x dans M , soit (U, ) une carte locale de M en x valeurs dans Rn , avec 1 , . . . , n les composantes de , et f : M R une fonction C , de support contenu dans U , valant 1 sur un voisinage ouvert V de x. Pour I = {i1 , . . . , ip } o i1 < < ip , posons d(f )I = d(f i1 ) d(f ip ). Comme vu dans la partie 2.2.3, nous pouvons crire |U = I dI
I

o I C (U ). Les formes direntielles et I (f I )d(f )I concident sur V , donc, par le lemme ci-dessus, leurs direntielles concident sur V . Par linarit et par les proprits de la direntielle, nous avons, en restriction V , d = d
I

(f I )d(f )I

=
I

d(f I ) d(f )I .

Le terme de droite ne faisant plus intervenir que des direntielles de fonctions, par la proprit (1), le rsultat dunicit en dcoule. Notons d : (M ) (M ) loprateur linaire dni par la formule de Cartan ( 14 ), et montrons quil vrie les assertions (1) (3) du thorme 2.26. Lasssertion (1) est immdiate : df (X) = X(f ) pour tous les f C (M ) et X (T M ). Pour montrer les deux autres assertions, un calcul direct est possible, mais voici un argument utilisant moins de calcul.

127

Montrons que d vrie lassertion (2). Tout dabord, pour tous les f C (M ), (p T M ) et X0 , . . . , Xp (T M ), nous avons
p

d(f )(X0 , . . . , Xp ) =
i=0

(1)i Xi (f (X0 , . . . , Xi , . . . , Xp )) + (1)i+j f ([Xi , Xj ], X0 , . . . , Xi , . . . , Xj , . . . , Xp )

0i<jp p i i=0

(1) Xi (f )(X0 , . . . , Xi , . . . , Xp )) + f d(X0 , . . . , Xp )

= (df + f d)(X0 , . . . , Xp ) . En particulier, la dmonstration du lemme 2.27 montre que d est un oprateur local. Il sagit de montrer que pour tous les (p T M ), (q T M ) et pour tous les X0 , . . . , Xp+q (T M ), nous avons d( )(X0 , . . . , Xp+q ) = (d) (X0 , . . . , Xp+q ) + (1)p (d) (X0 , . . . , Xp+q ) . En restriction un voisinage ouvert U assez petit de chaque point, le C (U )-module (T U ) admet une base de champs de vecteurs ( xk )1kn qui commutent, et le C (U )-module (p T U ) admet une base (dxi1 ,...,ip )1i1 <<ip n dlments qui, valus en des p-uplets dans ( xk )1kn , sont des applications constantes (valant 1, 0 ou 1). Donc, puisque les galits dmontrer sont ponctuelles (cest--dire vrier en tout point de M ), par la proprit de localit et le cas p = 0 vus ci-dessus, nous pouvons supposer que les champs de vecteurs X0 , . . . , Xp+q sont des lments de cette base de (T U ) (et en particulier commutent) et que , , valus respectivement sur des p-uplets, q-uplets, p + quplets dlments de cette base sont des fonctions constantes. Mais alors
p+q

d( )(X0 , . . . , Xp+q ) = De mme, (d) (X0 , . . . , Xp+q ) =

i=0

(1)i Xi ( (X0 , . . . , Xi , . . . , Xp )) = 0 .

(d)(X(0) , . . . , X(p) )(X(p+1) , . . . , X(p+q) ) = 0

S(p+1,q)

et aussi (d)(X0 , . . . , Xp+q ) = 0, ce qui montre le rsultat. Montrons enn que d vrie lassertion (3), cest--dire que pour tous les (p T M ) et pour tous les X0 , . . . , Xp+1 (T M ), nous avons (d d) (X0 , . . . , Xp+1 ) = 0 . Remarquons que pour tous les f C (M ) et Y0 , Y1 (T M ), par dnition de d et par les proprits du crochet de Lie des champs de vecteurs, nous avons d d(f )(Y0 , Y1 ) = Y0 (df (Y1 ) Y1 (df (Y0 ) df ([Y0 , Y1 ])

= Y0 (Y1 (f )) Y1 (Y0 (f )) [Y0 , Y1 ](f ) = 0 . 128

Par lassertion (3), nous avons donc d d(f ) = d df + f d)

= (d df ) df + df + f d d() = f d d() .

Par le mme raisonnement que ci-dessus, nous pouvons donc supposer que d d() valu sur les champs de vecteurs X0 , . . . , Xp+1 sannule, ce qui montre lassertion (3). (2) (Produit intrieur des formes direntielles) Pour tout X (T M ), le produit intrieur iX par X est lunique application linaire gradue de degr 1 de ( T M ) dans ( T M ) (donc nulle sur (0 T M ) = C (M )) telle que pour tout p N, pour tout (p+1 T M ), pour tous les X1 , . . . , Xp (T M ), iX (X1 , . . . , Xp ) = (X, X1 , . . . , Xp ) . Il est clair que le membre de droite est C (M )-multilinaire en X1 , . . . , Xp , donc dnit bien par le lemme de tensorialit, un (p, 0)-tenseur iX , et que celui-ci est altern, donc une p-forme direntielle sur M . Proposition 2.28 Lapplication iX : ( T M ) ( T M ) vrie

1. iX est une antidrivation de lalgbre gradue ( T M ), cest--dire que pour tous les dans (p T M ) et dans (q T M ), nous avons iX ( ) = (iX ) + (1)p (iX ) ;

2. loprateur iX vrie la proprit de localit suivante : pour tout ouvert U de M et tout dans (M ), nous avons (iX )|U = i(X|U ) (|U ) ; 3. loprateur iX est C (M, R)-linaire : pour tout f dans C (M ) et tout dans (M ), nous avons iX (f ) = f iX . Dmonstration. La proprit de localit est immdiate par dnition. Le reste de la dmonstration dcoule facilement de la proposition 2.13 et de la dnition de iX . (3) (Drive de Lie des formes direntielles) Pour tout X (T M ), la drive de Lie LX par rapport X est lunique application linaire gradue de degr 0 de ( T M ) dans ( T M ), telle que pour tout p N, pour tout (p T M ), pour tous les X1 , . . . , Xp (T M ),
p

LX (X1 , . . . , Xp ) = X((X1 , . . . , Xp ))

(X1 , . . . , [X, Xi ], . . . , Xp ) .
i=1

( 15 )

Il est facile de vrier que le membre de droite est C (M )-multilinaire, donc dnit bien par le lemme de tensorialit, un (p, 0)-tenseur LX , et que celui-ci est altern, donc une p-forme direntielle sur M . Le rsultat suivant dit que cette dnition de LX redonne bien la dnition usuelle de la drive de Lie des formes direntielles. 129

Proposition 2.29 Pour tout champ de vecteurs X (T M ), il existe une et une seule application linaire ( T M ) dans ( T M ), gradue de degr 0, telle que 1. LX concide sur (0 T M ) = C (M ) avec la drivation f X(f ) ; 2. LX est une drivation de lalgbre ( T M ), cest--dire que pour tous les , dans ( T M ), nous avons LX ( ) = (LX ) + (LX ) ; 3. LX et d commutent, cest--dire LX d = d LX . De plus, loprateur LX vrie les proprits suivantes. (i) Il est local, cest--dire que pour tout ouvert U de M et tout dans ( T M ), nous avons (LX )|U = LX|U (|U ) . (ii) Pour tous les X, Y (T M ), nous avons L[X,Y ] = LX LY LY LX . (iii) Pour tout X (T M ), nous avons LX = iX d + d iX . (iv) Pour toute varit N de classe C , pour tout C -diomorphisme local : M N , pour tout champ de vecteurs X de classe C sur N , et pour toute forme direntielle de classe C sur N , nous avons (LX ) = L X ( ) . La formule LX = iX d + d iX , qui dnit la drive de Lie partir du produit intrieur et de la difrentielle extrieure, est appele la formule de Cartan. Nous verrons dans la dmonstration quil sut dans (3) de demander la condition LX d = d LX sur les fonctions (cest--dire sur les lments de (0 T M ) = C (M )). Dmonstration. Lunicit de la drive de Lie se montre exactement comme lunicit de la direntielle extrieure, en montrant comme prcdemment que tout point de x admet un voisinage sur lequel LX sexprime sous la forme LX =
I

LX (f I )(dLX (f ))I

en utilisant la commutation de d et LX sur les fonctions. Montrons que loprateur LX dni par la formule 15 vrie les assertions de cettte proposition.

130

Un calcul immdiat partir des dnitions donne que LX = iX d + d iX . [En eet, pour tous les (p T M ) et X1 , . . . , Xp (T M ), nous avons (iX d)(X1 , . . . , Xn ) = d(X, X1 , . . . , Xn ) = X((X1 , . . . , Xp ) +
i=1 p p

(1)i Xi ((X, X1 , . . . , Xi , . . . , Xp ))

+ De mme,

(1)i ([X, Xi ], X1 , . . . , Xi , . . . , Xp ))
i=1

(1)i+j ([Xi , Xj ], X, X1 , . . . , Xi , . . . , Xj , . . . , Xp ) .
1i<jp

(d iX )(X1 , . . . , Xn ) = +

(1)i Xi ((X, X1 , . . . , Xi , . . . , Xp ))
i=1

(1)i+j (X, [Xi , Xj ], X1 , . . . , Xi , . . . , Xj , . . . , Xp ) .

1i<jp

Comme iX f = 0 si f (0 T M ) = C (M ), lapplication LX concide bien avec la drivation usuelle associe X sur les fonctions. Il est immdiat, par les proprits de d et de iX , que LX est une drivation gradue de degr 0, cest--dire quelle est linaire, gradue de degr 0, et vrie (2). Comme d d = 0, nous avons bien d LX = d ix d = LX d . Vrions les proprits supplmentaires, (iii) ayant dj t vue. La proprit (i) dcoule des proprits de localit de d et de iX (ou de la proprit (iv) en considrant les applications dinclusions). Lapplication LX LY LY LX est clairement linaire, gradue de degr 0, et une drivation de lalgbre ( T M ). De plus, par dnition du crochet de champs de vecteurs, elle concide avec L[X,Y ] sur les fonctions. Elle commute clairement avec d, donc la proprit (ii) en dcoule par unicit. Enn, pour vrier la proprit (iv), par localit, le problme se ramne au cas o est un C -diomorphisme. Lapplication LX (1 ) de ( T M ) dans lui-mme commute avec d, car la drive de Lie et limage rciproque le font. Cest une drivation gradue de degr 0 de ( T M ), car LX lest sur ( T N ) et est linaire, gradue de degr 0, et vrie ( ) = ( ) ( ). Sur une application f de classe C , pour tout x dans M , nous avons, par le thorme de drivation des fonctions composes, LX (1 ) f (x) = T(x) (f 1 )(X((x))) = Tx f (Tx )1 (X((x))) = L X f (x) . Donc la proprit (iv) en dcoule, par unicit. La drive de Lie LX stend sur tous les tenseurs comme lunique application linaire t t de s,tN (Ts M ) dans s,tN (Ts M ) gradue de degrs 0 en s et en t, telle que (M ), Y (T M ), (T M ), nous avons pour tous les f C LX f = X(f ) et LX Y = [X, Y ] et (LX )Y = X((Y )) ([X, Y ]) 131

La somme de ces deux quations et la formule ( 15 ) montrent la formule de Cartan.]

q q pour tous les (Tp M ) et (Tp M ),

Il est facile de vrier que la formule ( 15 ) est satisfaite par tous les (p, 0)-tenseurs 0 (Tp M ) (et pas seulement pour les alterns).
t Proposition 2.30 Pour tout (r, s)-tenseur (Ts M ) sur M , pour tout champ de vecteurs lisse X (T M ) sur M de ot local (t )t , nous avons

LX ( ) = LX () + LX ( ) .

LX =
Dmonstration. Notons LX = q (Tp M ), puisque (t ) ( ) =

d . dt |t=0 t

Pour tout f C (M ), nous avons LX f = X(f ) car (t ) f = f t et par dnition du ot local dun champ de vecteurs. Pour tout Y (T M ), nous avons LX Y = [X, Y ] par les proprits des champs de vecteurs que nous avons supposes connues (voir par exemple [Laf, Pau2]). Enn, pour tout (T M ), par dnition des images rciproques des 1-formes direntielles (ou des tenseurs (1, 0)), nous avons

LX ( ) = LX () + LX ( ) .

d dt |t=0 t . Alors pour tous les ((t ) ) ((t ) ), nous avons

q (Tp M ) et

donc (LX )Y = X((Y )) ([X, Y ]). Par unicit, nous avons donc LX = LX .

(t ) (Y ) = ((t ) Y ) t ,

(4) Pour toute q-forme direntielle sur M valeurs dans et toute p-forme direntielle sur M valeurs dans = End(), considrons lapplication (p + q)-linaire : (T M )p+q () dnie par (X1 , . . . , Xp+q ) = s (Xs(1) , . . . , Xs(p) ) (Xs(p+1) , . . . , Xs(p+q) ) .
sS(p,q)

Cette application est C (M )-multilinaire, et alterne par le mme argument que pour les formes direntielles usuelles, donc dnit, par le lemme de tensorialit 2.23, une (p + q)forme direntielle valeurs dans , que nous appellerons produit extrieur de et de .
t (5) Soient s, t N {0}, i0 {1, . . . , s} et j0 {1, . . . , t}. Notons Ts = ( )s t t ), lapplication de ()s1 le br des tenseurs (s, t) sur . Pour tout tenseur u (Ts ( )t1 dans C (M ), dnie par (1 , . . . , i0 , . . . , s , 1 , . . . , j0 , . . . , t ) x tr v x { x

ux (1 (x), . . . , i0 1 (x), v, i0 +1 (x), . . . s (x), 1 (x), . . . , j0 +1 (x), , j0 +1 (x), . . . , t (x))}

0 tant C (M )-multilinaire, dnit (par le lemme de tensorialit 2.23) un tenseur cj0 u i s1 s1 0 t (Ts1 ), dit contraction du tenseur u en (i0 , j0 ), et cj0 : (Ts ) (Ts1 ) est un i (M )-modules. Nous retrouvons ainsi la notion introduite dans la partie morphisme de C 2.2.3. Par exemple, si s = t = 1, le morphisme c1 est le morphisme de ( ) = (End()) 1 dans C (M ) dni par u trace(u), o trace(u) : M R associe x M la trace de lendomorphisme linaire u(x) End(x ) de la bre x de au-dessus de x.

132

2.3.2

Drivations covariantes

Soit un br vectoriel, de projection p : E M . Dnition 2.31 Une connexion sur est une application R-bilinaire : (T M ) () (), note (X, ) X , telle que, pour tout champ de vecteurs X (T M ), pour toute section () et toute fonction f C (M ), nous ayons f X = f X , X (f ) = X(f ) + f X . Dautres terminologies utilises sont celles de drivation covariante, connexion au sens de Koszul, connexion ane, connexion linaire. Une connexion sur le br tangent T M de M est appele une connexion sur M . Exemples. (1) Si est le br vectoriel trivial sur M de bre un espace vectoriel F , alors il existe une et une seule connexion 0 sur , appele la connexion triviale, telle que pour tout X (T M ) et pour toute section lisse : M M F de seconde composante constante, nous ayons 0 = 0. Lunicit vient du second axiome des connexions et du X fait que si (e1 , . . . , en ) est une base de F , alors les sections x (x, ei ) forment une base du C (M )-module (). Pour lexistence, puisque () sidentie avec C (M ; F ) et puisque Ty F = F pour tout y F , lapplication (X, ) {x dx (X(x))} convient. (2) Soient et deux brs vectoriels de bases M et M , munis de connexions et respectivement. En rappelant les identications immdiates (T (M M )) = (T M ) (T M ) et ( ) = () ( ), la connexion produit sur le br vectoriel produit est dnie par, pour tous les (X, X ) (T (M M )) et (, ) ( ), Il est immdiat de vrier que est bien une connexion. ( )(X,X ) (, ) = X , . X

(3) Soient et deux brs vectoriels sur M , munis de connexions et respectivement. Alors les brs vectoriels , , sont munis de connexions , , dnies (en utilisant le lemme de tensorialit 2.23) respectivement en demandant que pour tous les (), ( ), ( ) et X (T M ), en notant ( ) llment de C (M ) dni par x (x) (x)), nous ayons ( )X ( ) = X , X ( )() = X(()) (X ) , X

Par convention, si f C (M ), nous poserons X f = X(f ). Par rcurrence, une connexion sur un br vectoriel sur M dnit donc une t connexion ( )s t , encore note , sur chaque br tensoriel Ts = ( )s t . En notant t T = (Ts )
s,tN

( )X ( ) = X + . X

lespace vectoriel de tous les tenseurs sur , les proprits de ces extensions de sont rcapitules dans la proposition lmentaire suivante. 133

Proposition 2.32 Pour toute connexion sur et tout champ de vecteurs X (T M ), il existe une et une seule application linaire X : T T , t t prservant le type des tenseurs (cest--dire X ((Ts )) (Ts ) pour tous les s, t N), 0 0 commutant avec les contractions (cest--dire X cj0 = cj0 X pour tous les i i i0 {1, . . . , s} et j0 {1, . . . , t}), 1 0 tendant f X(f ) sur (T0 ) = C (M ) et X : X sur (T0 ) = () qui vrie la proprit de drivation par rapport au produit tensoriel, cest--dire que q q pour tous les (Tp M ) et (Tp M ), X ( ) = X () + X ( ) . pour tout ( ), la formule pour la section X (que nous avions note X ci-dessus) se retrouve en appliquant, pour tout (), la proprit de drivation X ( ) = (X ) + (X ) et en contractant. Par exemple, si est une connexion sur M , alors

si est un tenseur (m, 0) sur M , comme par exemple une m-forme direntielle sur M , alors pour tous les X1 , . . . , Xm (T M ), (X )(X1 , . . . , Xm )
m

= X((X1 , . . . , Xm ))

i=1

(X1 , . . . , Xi1 , X Xi , Xi+1 , . . . , Xm ) .

( 16 )

si R est un tenseur (m, 1) sur M , alors pour tous les X1 , . . . , Xm (T M ), nous avons
m

(X R)(X1 , . . . , Xm ) = X (R(X1 , . . . , Xm ))

i=1

R(X1 , . . . , X Xi , . . . , Xm ) .

( 17 )

Il est important de ne pas omettre certaines parenthses pour ne pas commettre derreurs (tout en vitant les parenthses inutiles qui gnent la lecture, lquilibre entre rigueur et lisibilit est parfois dlicat !). Exercice E.25 Soit une connexion sur . Montrer que la connexion induite par sur le br vectoriel End() est lunique connexion telle que pour tous les u (End()), () et X (T M ), (X u) = X (u()) u(X ) , o u( ) : x u(x)( (x)) pour tout (). Lemme 2.33 Soit une connexion sur . Pour tous les (), X (T M ) et x M , la valeur de X en x ne dpend que de la valeur de X en x et des valeurs de en x et de Tx en X(x). Dmonstration. Lapplication de (T M ) dans () dnie par X X est C (M )linaire. Donc X (x) ne dpend que de X(x) par le lemme de tensorialit 2.23 (plus prcisment par son sous-lemme 2.24). 134

En notant n le rang de , montrons quil existe s1 , . . . , sn () et f1 . . . , fn C (M ) telles que f1 (x) = = fn (x) = 0, X(f1 )(x) = = X(fn )(x) = 0 et concide avec + n fi si sur un voisinage de x. i=1 Pour cela, soit U un voisinage ouvert de x au-dessus duquel est trivialisable, soit (s , . . . , s ) une base du C (U )-module (|U ) telle que Tx s = 0 pour tout x U et n 1 i 1 i n, soient f1 , . . . , fn C (U ) tels que ( )|U = n fi s , et soit C (M ) i i=1 support compact contenu dans U , valant 1 sur un voisinage de x. Posons fi = fi et si = s (prolongs par 0 en dehors de U ). Puisque (x) = (x), pour tout i {1, . . . , m}, i nous avons fi (x) = 0. Pour tout i {1, . . . , m}, nous avons X(fi )(x) = Tx fi (X(x)) = Tx fi (X(x)). De plus, Tx fi (X(x))s (x) = Tx i
1in 1in

Soit () telle que (x) = (x) et Tx (X(x)) = Tx (X(x)). Montrons, en suivant la dmonstration du lemme 2.24, que X (x) = X (x), ce qui conclut. Si et concident de plus sur un voisinage U de x, soit f C (M ) support compact contenu dans U et valant 1 sur un voisinage de x, de sorte que X(f )(x) = 0. Alors X (x) = X (f ) (x) = X (f ) (x) = X (x) .

fi s (X(x)) = Tx ( )(X(x)) = 0 . i

Comme (s (x), . . . , s (x)) est une base de x , ceci montre le rsultat voulu. n 1 Maintenant, par ce qui prcde, X (x) = X + fi si (x)
1in

= X (x) +

1in

X(fi )(x) si (x) + fi (x)X si (x) = X (x) .

Remarques. Soit une connexion sur . (1) Soient x M et v Tx M . Par le lemme 2.25, il existe un champ de vecteurs lisse X sur M tel que X(x) = v. Pour tout (), nous poserons v (x) = X (x), ce qui ne dpend pas du choix dun tel X par le lemme 2.33. (2) Sections parallles. Pour tout (), par le lemme de tensorialit 2.23, lapplication : (T M ) () dnie par X X est une section lisse du br T M , cest--dire une 1-forme direntielle valeurs dans . Une section lisse de sera dite parallle pour si = 0 , cest--dire si X = 0 pour tout X (T M ). Si (( )s t ) est un tenseur (s, t) valeurs dans , nous dirons que est parallle pour sil est parallle pour la connexion dnie par sur le br vectoriel produit tensoriel ( )s t . (3) Connexions images rciproques. Soient un br vectoriel sur M , de projection p : E M , et (, f ) un morphisme de brs vectoriels de sur tel que, pour tout

135

 x M , lapplication x = |x : x f (x) soit un isomorphisme linaire. En particulier, le diagramme suivant commute :

E p

M .

E p

Pour toute connexion sur , pour tous les X (T M ), () et x M , notons ( )X (x) = 0 si Tx f (X(x)) = 0 et sinon ( )X (x) = x 1 (f (x)) X o X (T M ) vrie X (f (x)) = Tx f (X(x)), et ( ) vrie f (x) = (x) et Tf (x) Tx f (X(x) = Tx ( )(X(x)). Lexistence de X dcoule du lemme 2.25 et celle de dune variante du lemme 2.25. Notons que si X (f (x)) = 0, le choix de na en fait aucune importance. Le lemme 2.33 montre que : (T M ) () () est bien dni, et est une connexion. Nous lappellerons la connexion image rciproque par . Si (, g) est un morphisme de brs vectoriels de sur , qui est un isomorphisme linaire en restriction chaque bre, alors nous avons ( ) = ( ) . ( 18 )

Nous appliquerons cette construction surtout dans les deux cas suivants, o la condition disomorphisme linaire sur les bres est vrie : lorsque est un isomorphisme de brs vectoriels de dans au-dessus de lidentit, auquel cas, pour tous les X (T M ) et (), ( )X = 1 ( ) ; X lorsque = f est le br vectoriel image rciproque de par une application lisse f : M M , auquel cas nous noterons f la connexion image rciproque. Par construction, celle-ci vrie, pour tous les x M , X (T M ) et ( ), en remarquant que f () et que x : (f )x f (x) est lidentit, (f )X ( f ) (x) = x f (X(x)) (f (x)) . T ( 19 )

La proprit ( 19 ) caractrise en fait la connexion image rciproque sur un br image rciproque, par le rsultat suivant.

Par le premier point ci-dessus, le groupe Aut() des automorphismes de brs vectoriels au-dessus de lidentit dun br vectoriel agit ( droite) sur lensemble des connexions sur par (, ) . Le sous-groupe de Aut() prservant une connexion est appel le groupe de jauge de .

Proposition 2.34 Soit un br vectoriel de base M , soit une connexion sur et soit f : M M une application C . La connexion image rciproque f est lunique connexion sur le br vectoriel image rciproque = f telle que, pour tous les x M , X (T M ) et ( ), nous ayons X ( f ) (x) = x f (X(x)) (f (x)). T 136

Dmonstration. Seule lunicit reste dmontrer. Elle repose sur le lemme technique suivant. Lemme 2.35 Soient un br vectoriel de base M de rang n et = f le br vectoriel image rciproque par une application lisse f : M M . Pour tout (), pour tout x M , il existe un voisinage U de f (x) dans M , des sections lisses 1 , . . . , n de |U , et (f 1 (U )) tels que, pour tout y f 1 (U ), nous ayons des applications f1 , . . . , fn C
n

(y) =
i=1

fi (y)i (f (x)) .

Par la proprit de linarit et de drivation des connexions, puisque la proprit nonce dans la proposition caractrise la connexion sur les sections lisses locales de de la forme f , o est une section lisse locale de , la proposition dcoule du lemme. (3) Connexion restreinte. Pour tous les x M et X (T M ), nous avons vu que la valeur de X (x) ne dpend que des valeurs de sur un voisinage de x. En particulier, si U est un ouvert de M , il existe une et une seule connexion |U , appele connexion restreinte U , sur le br vectoriel |U sur U (de projection p|p1 (U ) ) telle que, pour tous les () et X (T M ), (|U )X|U |U = (X )|U . En eet, pour tout x U , si f est une fonction C valant 1 sur un voisinage de x, nulle en dehors de U , il sut de poser, pour tous les (|U ) et X (T U ), (|U )X = f X (f )(x), o les sections f X et f sont tendues par 0 en dehors de U . Si i : U M est linclusion, notons que |U nest pas autre chose que la connexion image rciproque i sur le br image rciproque i = |U .

Dmonstration. Il sut de prendre pour U un voisinage distingu de f (x) pour le br vectoriel et pour (1 , . . . , n ) une base du C (U )-module ( |U ), car alors par construction du br vectoriel image rciproque, la suite nie (1 f, . . . , n f ) est une (f 1 (U ))-module ( 1 ). base du C |f (U )

(4) Crochet de connexions. Pour tous les X, Y (T M ), notons [X , Y ] lapplication de () dans () dnie par [X , Y ] = X (Y ) Y (X ) . Un petit calcul montre que [X , Y ](f ) = ([X, Y ]f ) + [X , Y ] .

( 20 )

(5) Structure despace ane sur lensemble des connexions. Lensemble des connexions sur admet une structure despace ane sur lespace vectoriel (T M ). En eet, si et sont deux connexions, alors : (T M ) () () est une application C (M )-bilinaire, donc dnit par le lemme de tensorialit 2.23 une section A de (T M ) telle que pour tous les X (T M ) et (), nous ayons X = A(X, ) . X 137

Rciproquement, il est immdiat de montrer que pour toute connexion sur et tout A (T M ), lapplication (X, ) X + A(X, ) est une connexion sur . Notons que A est une 1-forme direntielle sur M valeurs dans = End(). Par exemple, si est le br tangent de M , alors la dirence de deux connexions est une section de (T M )2 T M , donc un tenseur (2, 1) sur M , ou de manire quivalente une 1-forme direntielle valeurs dans End(T M ). (6) Expression en coordonnes locales dune connexion. Soit : p1 (U ) U Rn une trivialisation locale de au-dessus de U . Sur le br vectoriel |U , nous avons deux connexions, la connexion 0 , image rciproque par de la connexion triviale sur le br trivial de bre Rn sur U , la connexion restreinte |U . Par la remarque (5), la dirence = |U 0 de ces connexions est donc une section lisse du br vectoriel T U |U |U , appele le tenseur de Christoel de dans la trivialisation locale . Soient (U, ) une carte locale de M valeurs dans Rm , (ei )1im la base canonique de Rm et xi : x (Tx )1 (ei ) 1im la base correspondante du C (U )-module (T U ). Soient (e )1n la base canonique de Rn et : x 1 (x, e ) 1n la base correspondante du C (U )-module (|U ). Posons ( , ) = xi . i,
1n

Les applications C (U ) sont appeles les coecients (ou symboles) de Christoel i, de dans la trivialisation locale et la carte locale (U, ). En dveloppant, nous avons donc la formule suivante, quil nest pas ncessaire de retenir
n

(Pm =

i i=1 X xi )

i
=1

Xi
1im, 1n

+ xi

X i . i,
1im, 1,n

( 21 )

(7) Interprtation gomtrique des connexions. Soit un br vectoriel, de projection p : E M . Nous avons un diagramme commutatif TE
E

Tp

TM M M .

Rappelons que (T p, p) est un morphisme de brs vectoriels du br tangent E : T E E dans le br tangent M : T M M . Le br vertical V de est le sous-br vectoriel du br vectoriel E : T E E, noyau du morphisme de brs vectoriels T p : T E T M au-dessus de p. Par la partie 2.2.2, il sagit bien dun sous-br vectoriel, car T p est surjectif sur les bres (car p est une submersion), donc est de rang localement constant. Pour tout v E, en posant 138

x = p(v), la bre Vv de V au-dessus de v est le noyau de lapplication linaire surjective Tv p : Tv E Tx M , gal lespace tangent Tv x la bre de p au-dessus de x, puisque p est une submersion. Lapplication de x dans Tv x qui w associe le vecteur tangent en t = 0 la courbe t v + tw dans x est un isomorphisme despaces vectoriels, par lequel nous identierons comme dhabitude les deux espaces. Un br horizontal de est un sous-br vectoriel H E du br vectoriel E : T E E, supplmentaire de V : TE = H V . Vv = Tv x = x Hv Pour tout v E, nous avons donc Tv E = Hv Vv . De plus, puisque Vv est le noyau de Tv p, lapplication Tv p|Hv : Hv Tp(v) M est un isomorphisme linaire.

v Tv p x

Tx M M

Notons prH : T E V lapplication lisse, qui, en restriction Tv E pour tout v E, est la projection sur Vv paralllement Hv . Si () et X (T M ), pour tout x M , notons X (x) = prH Tx (X(x)) . qui est un lment de V(x) = x . Proposition 2.36 Lapplication : (T M ) () () ainsi construite est une connexion sur , et toute connexion peut tre obtenue ainsi. Dmonstration. Il est immdiat que X est R-bilinaire en (X, ), et C (M )-linaire en X. Puisque Tx (f )(X(x)) = X(f )(x) + f (x)Tx (X(x)), et puisque prH est linaire et lidentit sur V(x) = x , lapplication est bien une connexion. Rciproquement, si est une connexion sur , construisons un morphisme de brs vectoriels : T E V du br vectoriel E : T E E dans son sous-br V E audessus de lidentit. Pour tous les x M , v x et w Tv E, choisissons X (T M ) tel que X(x) = Tv p(w) et () tel que (x) = v et Tx (X(x)) = w si X(x) = 0, sinon nimporte quel () convient. Posons (w) = X (x) . Par le lemme 2.33, la valeur de (w) ne dpend pas des choix de X et de , et lapplication : Tv E x = Vv est linaire et surjective. Il nest pas dicile de montrer que : T E V est donc un morphisme de brs vectoriels au-dessus de lidentit, surjectif sur les bres. Son noyau H est donc un sous-br vectoriel de E , supplmentaire V , et par construction, la connexion associe ce sous-br horizontal H est . (8) [DERIVEE COVARIANTE ITEREE]

2.3.3

Torsion dune connexion sur une varit

Soient M une varit et une connexion sur M . 139

La torsion de est le tenseur T = T de type (2, 1) sur M tel que pour tous les champs de vecteurs X, Y (T M ) sur M , T (X, Y ) = X Y Y X [X, Y ] . Cette expression tant C (M )-bilinaire en (X, Y ), dnit bien un tenseur (2, 1) sur M par le lemme de tensorialit 2.23. Notons que ce tenseur est anti-symtrique en ses deux variables covariantes : pour tous les X, Y (T M ), nous avons T (Y, X) = T (X, Y ) . Si (U, (x1 , . . . , xn )) est une carte locale de M , si X = alors en restriction U , nous avons
n n i i=1 X xi

et Y =

n j j=1 Y xj ,

[X, Y ] =
i,j=1

Xi

X j Y j Yi , xi xi xj

et donc, par un petit calcul,

n n

T (X, Y ) =
i,j=1

(X i Y j Y i X j )

xi

xj

=
i,j,k=1

k (X i Y j Y i X j ) i,j

, xk

o les k sont les symboles de Christoel de la connexion dans la trivialisation locale i,j de T M au-dessus de U dnie par la carte locale (voir lexemple (2) de la partie 2.2.1 et lexemple (6) de la partie 2.3.2 ci-dessus). La connexion est dite sans torsion si sa torsion T est le tenseur (2, 1) nul. Par exemple, la connexion triviale est sans torsion. Les exemples principaux de connexions sans torsion sont les connexions de Levi-Civita, que nous introduirons dans la partie 3.2. Exemple. Si A est un tenseur (2, 1) sur M , alors la torsion de la connexion = + A (qui est bien une connexion sur M par la remarque (5) de la partie 2.3.2 ci-dessus) est dnie par T (X, Y ) = T (X, Y ) + A(X, Y ) A(Y, X) , pour tous les X, Y (T M ). En particulier, pour toute connexion , la connexion dnie par (X, Y ) X Y 1 T (X, Y ) est sans torsion. 2

Remarque. Si est une connexion sans torsion sur une varit M , alors le crochet de deux champs de vecteurs X et Y peut tre calcul partir de la connexion, par [X, Y ] = X Y Y X . Alors la direntielle extrieure et la drive de Lie peuvent tre exprimes partir de la connexion . Par exemple, par les formules ( 14 ) et ( 16 ), pour tout p N, pour tout (p T M ), pour tous les X0 , . . . , Xp (T M ),
p

d(X0 , X1 , . . . , Xp ) =
i=0

(1)i (Xi )(X0 , . . . , Xi , . . . , Xp )) .

140

De mme, par les formules ( 15 ) et ( 16 ) pour tout p N, pour tout ((T M )p ), pour tous les X1 , . . . , Xp (T M ),
p

LX (X1 , . . . , Xp ) = (X )(X1 , . . . , Xp ) +
i=1

(X1 , . . . , Xi X, . . . , Xp )) .

[FORMULES DE RICCI] 2.3.4 Courbure dune connexion

o X, Y (T M ) et (). Les conventions sur le signe de R dirent dans les rfrences. Nous utiliserons aussi les notations suivantes : R X,Y = R (X, Y, ) = R (X, Y ) = [X , Y ] [X,Y ] .

Soient un br vectoriel de base M et une connexion sur . Nous allons introduire un objet qui mesure le dfaut de commutativit en X, Y (T M ) de la drive covariante seconde X Y des sections lisses de . La courbure R = R de est la 2-forme direntielle valeurs dans = End() dnie par R X,Y = X (Y ) Y (X ) [X,Y ] ,

Par la formule ( 20 ), lapplication de (T M ) (T M ) () dans () dnie par (X, Y, ) RX,Y est C (M )-trilinaire. Par le lemme de tensorialit 2.23, elle dnit donc une section lisse de (T M )2 . Comme elle est clairement antisymtrique en X et Y , il en dcoule que R est bien une section de 2 T M . Par exemple, si est le br tangent de M , alors R est un tenseur (3, 1) sur M . Exemples. (1) Si le br vectoriel est trivial et si est la connexion triviale, alors la courbure de est nulle, car si F est la bre de , alors () = C (M ; F ) et si 1 , . . . , n sont les fonctions coordonnes de la fonction : M F dans une base xe de F , alors (X )i = X(i ) pour tout i {1, . . . , n}. (2) Soit un br vectoriel sur M , de projection p : E M . Soit : E E un isomorphisme de brs vectoriels de sur au-dessus de lidentit, et soit la connexion image rciproque de par . Alors la courbure R de la connexion est la 2-forme direntielle 1 R valeurs dans End( ) : pour tous les X, Y (T M ) et ( ), R = 1 RX,Y ( ) . X,Y Voici une autre formule pour la courbure. Le C (M )-module gradu des formes direntielles sur M valeurs dans est ( T M ) = pN (p T M ). Rappelons que (0 T M ) est gal (). La direntielle extrieure d associe est lapplication linaire gradue de degr +1 de ( T M ) dans ( T M ) dnie par, pour tous les p N, (p T M ) et X0 , . . . , Xp (T M ),
p

d (X0 , . . . , Xp ) =
i=0

(1)i Xi (X0 , . . . , Xi , . . . , Xp ) (1)i+j ([Xi , Xj ], X0 , . . . , Xi , . . . , Xj , . . . , Xp ) .

+
0i<jp

141

Par exemple, si est une 0-forme direntielle valeurs dans , cest--dire une section lisse de , alors d = . Si est une 1-forme direntielle valeurs dans , alors d (X, Y ) = X ((Y )) Y ((X)) ([X, Y ]) . ( 22 ) Il est facile de vrier que lapplication (X0 , . . . , Xp ) d (X0 , . . . , Xp ) est C (M )multilinaire alterne de (T M )p+1 dans (), donc dnit bien, par le lemme de tensorialit 2.23, une section lisse de (T M )(p+1) , qui est clairement alterne en tout point en les p + 1 variables dans (T M ), donc appartient (p+1 T M ). Notons que si (), la 2-forme direntielle d (d ) valeurs dans nest pas forcment nulle (voir la proposition ci-dessous). Nous noterons encore d la direntielle extrieure des formes direntielles sur M valeurs dans les brs tensoriels ( )s t de , pour la connexion produit tensoriel ( )s t que nous notons encore (voir la proposition 2.32). Explicitons dans quelques t t cas cette direntielle extrieure. Si (p T M Ts ) et (q T M Ts ), alors t+t (p+q T M Ts+s ) et d ( ) = (d ) + (1)p (d ) . Si (p T M ) et (), alors () (p T M ) et (d )() = d(()) () . En particulier, la direntielle extrieure d des formes direntielles sur M valeurs dans le br tensoriel = End() vrie, pour tous les (p T M End()) (L (T M, . . . , T M, ; )) et (), (d )() = d (()) () . Proposition 2.37 Soit une connexion sur un br vectoriel de base M . (1) Pour tous les X, Y (T M ) et (), nous avons R X,Y = d (d )(X, Y ) . (2) (Identit de Bianchi direntielle) En notant encore la connexion sur dnie par , nous avons d R = 0 . Dmonstration. (1) Ceci rsulte immdiatement du fait que d = et de la formule ( 22 ). (2) Par la formule ( 23 ), nous avons, pour tout (), (d R )() = d (R ) R (d ) = d (d d ()) d d (d ()) = 0 . 2.3.5 Drivation covariante de champs de vecteurs le long de courbes ( 23 )

Soient M et N deux varits, f : N M une application lisse et une connexion sur M . Notons = f la connexion image rciproque de , qui est une connexion sur 142

Proprits des connexions images rciproques.

Pour tout champ de vecteurs lisse X (T N ), notons X = f X (f T M ) la section du br vectoriel image rciproque f T M dnie par X(x) = Tx f (X(x)) .

le br image rciproque f T M . Dans la suite, nous aurons besoin de connatre certaines proprits de cette connexion (avec lextension immdiate au cas o N = [a, b] ou N = [a, b] [c, d] est un intervalle de R ou un produit de deux intervalles de R).

Lapplication f : (T N ) (f T M ) ainsi dnie est C (N )-linaire. (Attention ne pas la confondre avec limage rciproque des champs de vecteurs par des diomorphismes locaux.) Pour tout tenseur ((T M )s (T M )t ) de type (s, t) sur M , notons ((f T M )s (f T M )t ), et appelons image rciproque de , la section lisse du br vectoriel (f T M )s (f T M )t dnie en posant, pour tout x N et tous les v1 , . . . , vs (f T M )x = Tf (x) M , x (v1 , . . . , vs ) = f (x) (v1 , . . . , vs ) . (Attention ne pas la confondre avec limage rciproque des tenseurs par des diomorphismes locaux.) Proposition 2.38 (1) Si T (T M 2 T M ) est la torsion de , alors pour tous les X, Y (T N ), nous avons X Y Y X [X, Y ] = T (X, Y ) . En particulier, si est sans torsion, alors pour tous les X, Y (T N ), X Y Y X = [X, Y ] . (2) Si g ((T M )m ) est parallle pour , alors g est parallle pour , et en particulier, pour tous les X, X1 , . . . , Xm (T N ), nous avons
m

X g( X1 , . . . , Xm ) =
i=1

g( X1 , . . . , X Xi , . . . , Xm ) .

(3) Pour tous X, Y, Z (T N ), X Y Z Y X Z [X,Y ] Z = R (X, Y )Z . Dmonstration. Quitte prendre des cartes locales, nous pouvons supposer que N est un ouvert de Rn et que M est un ouvert de Rm . Fixons x N .

(1) Notons T = T . Pour tous les X, Y (T N ) = C (N ; Rn ), choisissons X , Y (T M ) = C (M ; Rm ) tels que X (f (x)) = Y (x) = dx f (X(x)) et Y (f (x)) = Y (x) = dx f (Y (x)) , et vriant de plus : si dx f (X(x)) = 0 alors df (x) Y dx f (X(x)) = dx Y (X(x)) = d2 f (Y (x), X(x)) + dx f dx Y (X(x)) , x 143

et si dx f (Y (x)) = 0 alors df (x) X dx f (Y (x)) = dx X(Y (x)) = d2 f (X(x), Y (x)) + dx f dx X(Y (x)) . x Par dnition de la connexion image rciproque sur un br image rciproque, nous avons X Y (x) = X Y (f (x)) = Y X (f (x)) + [X , Y ](f (x)) + T (X , Y )(f (x)) = Y X(x) + [X , Y ](f (x)) + T (X, Y )(x) . Par les dnitions du crochet de Lie et des champs de vecteurs X , Y , et puisque la forme bilinaire d2 f est symtrique, nous avons x [X , Y ](f (x)) = df (x) Y X (f (x)) df (x) X Y (f (x)) = dx f dx Y X(x) dx f dx X Y (x) = df (x) Y dx f (X(x)) df (x) X dx f (Y (x)) ( 24 )

= dx f [X, Y ](x) = [X, Y ](x) . Le premier rsultat en dcoule.

(2) Pour tous les X, X1 , . . . , Xm (T N ) = C (N ; Rn ), choisissons X , X1 , . . . , Xm (T M ) = C (M ; Rm ) tels que X (f (x)) = dx f (X(x)) et

Xi (f (x)) = Xi (x) = dx f (Xi (x)) , et vriant de plus, si dx f (X(x)) = 0, que df (x) Xi dx f (X(x)) = dx Xi (X(x)) = d2 f (Xi (x), X(x)) + dx f dx Xi (X(x)) , x pour tout i {1, . . . , m}. Notons C (N ) lapplication z g z ( X1 (z), . . . , Xm (z) ) = gf (z) dz f (X1 (z)), . . . , dz f (Xm (z)) ,
et C (M ) lapplication z gz (X1 (z), . . . , Xm (z)). Alors par la construction des , . . . , X , nous avons (x) = f (x) et champs de vecteurs X1 m

dx (X(x)) = df (x) dx f (X(x)) . Donc par dnition de la drivation dnie par un champ de vecteurs, et puisque g est parallle pour , X g( X1 , . . . , Xm ) (x) = dx (X(x)) = df (x) dx f (X(x)) = df (x) X (f (x))
= X gz (X1 , . . . , Xm ))(f (x)) m

=
i=1 m

gf (x) X1 (f (x)), . . . , X Xi (f (x)), . . . , Xm (f (x))

=
i=1 m

gf (x) X1 (x), . . . , X Xi (x), . . . , Xm (x) g( X1 , . . . , X Xi , . . . , Xm )(x) . 144

=
i=1

(3) Remarquons que puisque R ((T M )3 T M ) est un tenseur (3, 1) sur M , nous avons bien R ((f T M )3 f T M ), donc les deux termes de lquation sont bien dnis. Puisque est une connexion sur le br vectoriel f T M de base la varit N (dont le br vectoriel dual est f T M ), nous avons R ((T N )2 f T M f T M ), et le terme de gauche est juste R (X, Y )Z par la dnition de la courbure R de la connexion , et il sagit de montrer que R (X, Y )Z = R (X, Y )Z . Les deux membres tant C (N )-trilinaires en X, Y, Z et par le lemme 2.35, nous pouvons supposer, quitte nous restreindre un voisinage ouvert de tout point x N , quil existe des champs de vecteurs X , Y , Z (T M ) tels que X = X f , Y = Y f et Z = Z f . Par la dmonstration du lemme 2.35, nous pouvons en fait supposer, en travaillant en cartes locales, que X, Y, Z sont des champs de vecteurs coordonnes, donc que [X, Y ](x) = 0. Notons que par un calcul similaire celui de la formule ( 24 ), nous avons [X , Y ](f (x)) = 0. Alors, par la dnition de la connexion image rciproque sur un br image rciproque (voir la formule ( 19 )), pour tout z proche de x, nous avons Y Z(z) = Tz f (Y (z)) Z (f (z)) = Y (z) Z (f (z)) = Y (f (z)) Z (f (z)) = Y Z (f (z)) et X Y Z(x) Y X Z(x) [X,Y ] Z(x)

= R (X , Y )Z (f (x)) .

= X Y Z (f (x)) Y X Z (f (x)) [X ,Y ] Z (f (x))

= X Y Z (f (x)) Y X Z (f (x))

= X Y Z(x) Y X Z(x)

Le rsultat en dcoule, par dnition de R . Par la proprit universelle des images rciproques de brs vectoriels, nous avons un diagramme commutatif TN TM f T M N M,

o lapplication de f T M = xN Tf (x) M dans T M = yM Ty M est linclusion, et lapplication de T N dans f T M est, en restriction chaque bre Tx N , lapplication linaire Tx f : Tx N Tx f T M = Tf (x) M . Cette application est un isomorphisme de brs vectoriels au-dessus de lidentit si f est un C -diomorphisme. La remarque ci-dessous dcoule donc de la proposition 2.38.

Remarque 2.39 Si f : M N est un C -diomorphisme, si est sans torsion, alors la connexion image rciproque (T f ) est sans torsion, et si g est un tenseur (m, 0) sur M qui est parallle pour , alors le tenseur image rciproque f g est parallle pour (T f ) . 145

Soient M une varit, : T M M son br tangent, I un intervalle de R et une d connexion sur un br vectoriel de projection p : E M . Nous noterons dt le champ de d vecteurs sur I dni par dt f = f pour tout f C (I). Pour toute courbe lisse c : I M dans M , nous noterons encore la connexion image rciproque c , sur le br vectoriel c image rciproque de , de la connexion sur . Pour tout champ de vecteurs X lisse le long de c valeurs dans (cest--dire une section lisse de c , ou encore une application lisse t X(t) de I dans E telle que X(t) c(t) pour tout t I), nous dirons que X est parallle le long de c pour la connexion si d X = 0 .
dt

Transport parallle dune connexion.

Comme le C (I)-module (T I) est de rang 1, ceci quivaut dire que la section X du br vectoriel c est parallle au sens de la remarque (2) de la partie 2.3.2. Nous donnerons une interprtation gomtrique de cette notion de champ de vecteurs parallle dans la remarque (1) ci-dessous. Lquation d X = 0 scrit comme une quation direntielle linaire du premier dt ordre. En eet, le br vectoriel image rciproque c est trivialisable, car I est contractile (voir le corollaire 2.20). Fixons une trivialisation, donc un isomorphisme de c dans I Rn I. En utilisant le tenseur de Christoel de la connexion c dans cette trivialisation, lquation d X = 0 scrit
dt

X(t) + (t)X(t) = 0 o X : I Rn et : I End(Rn ) sont des applications lisses. Par les proprits des solutions des quations direntielles linaires du premier ordre, pour toute condition initiale (t0 , X0 ) o t0 I et X0 t0 , il existe donc un et un seul champ de vecteurs X = Xt0 ,X0 parallle le long de c valeurs dans tel que X(t0 ) = X0 . Lorsquil ny a pas dambiguit sur la connexion ni sur le chemin c, pour tous les t0 , t1 dans I, nous noterons t1 t0 : t0 t1

lisomorphisme linaire v Xt0 ,v (t1 ) o Xt0 ,v est lunique champ de vecteurs valeurs dans parallle le long de c, qui vaut v en t0 . Cet isomorphisme est appel le transport parallle le long de c entre les temps t0 et t1 pour la connexion . Notons que, par la proprit de ot des solutions dquations direntielles linaires du premier ordre, pour tous les t0 , t1 , t2 dans I, nous avons
t2 t1

t1 t0

t2 t0

et (

t1 1 t0 )

t0 t1

Rappelons quune courbe lisse par morceaux dans M est une application continue c : I M o I est un intervalle de R, telle quil existe une partie discrte S dans I telle que les restrictions de c aux adhrences des composantes connexes du complmentaire de S dans I soient des applications lisses. Si c : I M est une courbe lisse par morceaux, pour tous les t0 , t1 dans I, si x0 = t0 < x1 < < xn = t1 sont tels que la restriction de c [xi1 , xi ] soit lisse pour tout i = 1, . . . , n, alors nous appellerons transport parallle le long de c entre les temps t0 et t1 pour la connexion la composition
t1 t0

x1 t0

x2 x1

xn xn1

146

Ceci ne dpend pas du choix dune telle subdivision de [t0 , t1 ]. Remarques. (1) (Interprtation gomtrique du transport parallle.) Comme les connexions ont une interprtation gomtrique, la notion de champ de vecteurs parallle se comprend gomtriquement de la manire suivante. Soient un br vectoriel de projection p : E M et H un sous-br horizontal du br vectoriel E : T E E. Une courbe lisse : I T E sera dite horizontale si elle est valeurs dans H. Soient c : I M une courbe lisse et X : I E un champ de vecteurs lisse le long de c. Alors X : I T E est une courbe lisse dans T E. Par dnition de la connexion associe au br horizontal H, avec prH : T E V la projection sur le br vertical paralllement au br horizontal, nous avons d X = prH (X) .
dt

Nous dirons que X est parallle le long de c pour le br horizontal H si la courbe X : I T E est horizontale. Par ce qui prcde, ceci est quivalent demander que X soit parallle le long de c pour la connexion associe au br horizontal H. Il est immdiat de vrier que la proprit dtre parallle le long de c est invariant par prcomposition par des diomorphismes dintervalles : si : J I est un diomorphisme lisse, alors X est un champ de vecteurs le long de c valeurs dans , qui est parallle si et seulement si X lest. (2) Une connexion est dtermine par son transport parallle, de la manire explicite suivante. Pour tous les x M , X (T M ) et (), soit c : ] , +[ M une courbe lisse telle que c(0) = x et c(0) = X(x) (par exemple un germe de courbe intgrale de X). Alors t (c(t)) est un champ de vecteurs lisse le long de c valeurs dans . Notons le transport parallle le long de c pour la connexion . Alors on peut vrier que X (x) = lim
0 t t0

(c(t)) (c(0)) , t

( 25 )

o la limite est prise dans lespace vectoriel x . Groupes dholonomie dune connexion.

Soient une connexion sur un br vectoriel de base une varit M . Pour tout x M , si c : [0, 1] M est un lacet lisse par morceaux en x (cest--dire une courbe (continue) lisse par morceaux telle que c(0) = c(1) = x), alors le transport parallle le long de c, qui est un isomorphisme linaire c de x dans lui-mme, est un lment du groupe linaire GL(x ), appel lholonomie (le long) de c. Par les proprits du transport parallle, lensemble des holonomies des lacets lisses par morceaux en x est un sous-groupe de GL(x ), appel le groupe dholonomie en x de la connexion , et not Hol(x) = Hol (x). Rappelons que deux lacets (continus) c, d : [0, 1] M en x sont homotopes sil existe une application continue h : [0, 1]2 M telle que (h(t, 0) = c(t), (h(t, 1) = d(t) et h(0, s) = h(1, s) = x pour tous les s, t [0, 1]. Le sous-groupe de Hol(x) constitu des holonomies des lacets lisses par morceaux en x qui sont homotopes 0 (cest--dire homotopes au lacet constant en x) est appel le groupe dholonomie restreinte en x de la connexion , et not Hol0 (x) = Hol (x). 0 147

 isomorphisme prs, ces groupes ne dpendent pas de x. Plus prcisment, si y M , si : [0, 1] M est un chemin lisse de y x (qui existe si x et y sont dans la mme composante connexe de M ), alors la composition des chemins c c (dnie par t (2t) si 2t 1 et t c(2t 1) si t 1 ) induit un isomorphisme de groupes du groupe 2 dholonomie (respectivement groupe dholonomie restreinte) en x sur celui en y. Godsiques dune connexion sur une varit.

Soient M une varit de dimension n et une connexion sur M . Pour tout intervalle I de R et pour toute courbe lisse c : I M trace sur M , nous d d noterons dt le champ de vecteurs sur I dni par dt f = f pour tout f C (I), et nous noterons encore la connexion image rciproque c sur le br vectoriel c T M image rciproque de . Notons que c : t c(t) est un champ de vecteurs de M le long de c. Le champ de vecteurs d c le long de c est appel lacclration covariante de la courbe c. dt Nous dirons quune courbe lisse c est une godsique de si son champ de vecteurs tangents c est parallle le long de c, cest--dire si son acclration covariante est nulle, cest--dire si d c = 0 .
dt

Lorsque c(t0 ) = 0, quitte restreindre I un petit voisinage de t0 , lapplication c : I M est un plongement et il existe un champ de vecteurs lisse X sur M tel que X(c(t)) = c(t) pour tout t I. Nous avons alors, par la dnition des connexions images rciproques sur un br image rciproque (voir la gure ( 19 ), d c (t) = X X c(t) .
dt

Lcriture d c = c c est donc souvent employe, en sous-entendant que lon tend M dt (de manire lisse quelconque) le champ de vecteurs t c(t) le long de la restriction de c un voisinage de c(t0 ), o t0 I vrie c(t0 ) = 0. Soit (U, (x1 , . . . , xn )) une carte locale de M valeurs dans Rn . Supposons quitte rduire I que c(I) est contenu dans U . Notons (T U 2 T U ) = (L (T U, T U ; T U )) le tenseur (2, 1) de Christoel de dans cette carte locale. Soient ci (t) = xi (c(t)) et k (x) = i,j dxk x ( xi , xj ) les coordonnes locales de c(t) et (x) pour t I et x U dans cette
carte locale (nous avons donc c(t) = n dc (t) xi et x ( xi , xj ) = 1kn k (x) xk ). i,j i=1 dt Alors, par la formule ( 19 ), lquation d c = 0 scrit comme le systme suivant dquadt tions direntielles non linaires du second ordre, o 1 k n,
i

d2 c k (t) + dt2

1i,jn

dc j dc i (t) (t) k (c(t)) = 0 . i,j dt dt

Soient M une varit, : T M M son br tangent et une connexion sur M . Par les proprits des quations direntielles du second ordre (dont le thorme de dpendance rgulire des conditions initiales), il existe un unique couple (U, ), o U est un ouvert de R T M contenant {0} T M et : U M une application lisse, 148

Application exponentielle dune connexion sur une varit.

tel quen dnissant, pour tout v T M , une partie Iv de R par Iv {v} = U (R {v}) et une application cv : Iv M par cv (t) = (t, v), alors Iv est lintervalle ouvert maximal de R tel que cv : Iv M soit lunique godsique de telle que cv (0) = (v) et cv (0) = v. De plus, nous avons Isv = s1 Iv si s = 0 et csv (t) = cv (st). Notons que lensemble des v T M tels que 1 Iv , ou, de manire quivalente, tels que (1, v) U , est ouvert et contient les vecteurs nuls 0. Dnition 2.40 Soit une connexion sur une varit M . Lapplication de louvert {v T M : 1 Iv } de T M dans M , dnie par v cv (1) est appele lapplication exponentielle de . Nous dirons que est complte si son application exponentielle est dnie sur tout T M. Elle est note exp, ou exp quand il est utile de prciser la connexion. Pour tout x M , sa restriction Tx M U est note expx . Cette application est dnie et lisse sur un voisinage de 0 dans Tx M . Proposition 2.41 Soient une connexion sur une varit M et x M . Lapplication tangente de expx en lorigine 0 de Tx M est lidentit. De plus, lapplication v ((v), exp(v)) est un C -diomorphisme local dun voisinage ouvert de la section nulle dans T M sur un voisinage ouvert de la diagonale dans M M. Nous avons identi de manire usuelle lespace vectoriel Tx M et son espace tangent T0 Tx M en lorigine. Dmonstration. Pour tous les x M et v Tx M , nous avons T0 expx (v) = d d d expx (0 + tv) = ctv (1) = cv (t) = v . dt |t=0 dt |t=0 dt |t=0

Notons lapplication v ((v), exp(v)). Pour tout v T M , si x = (v), en notant V le sous-br vertical du br vectoriel T T M sur T M et H son sous-br horizontal dni par la connexion, lapplication linaire Tv : Tv T M = Hv Vv Tx M Tx M a une criture A 0 par blocs de la forme , car Vv = ker Tv . Par ce qui prcde, C est lidentit de B C Vv = Tv Tx M = Tx M dans Tx M . Loprateur linaire A, qui est la restriction de Tv Hv , est un isomorphisme linaire, comme vu dans la remarque (7) de la partie 2.3.2. Donc Tv est inversible, et par le thorme dinversion locale, est un C -diomorphisme local. En particulier, par le thorme dinversion locale, expx est un diomorphisme dun voisinage ouvert de 0 dans Tx M valeurs dans un voisinage ouvert de x dans M . Ceci fournit une carte locale de M au voisinage de x, appele carte exponentielle. Exemple. Par lexpression en carte locale ci-dessus des quations des godsiques, les godsiques de la connexion triviale sur M = Rn sont, par annulation du tenseur de Christoel, les segments de droites paramtrs proportionnellement la longueur darc (y compris les applications constantes), et exp : T M = Rn Rn M = Rn est lapplication (x, v) x + v. La connexion triviale sur Rn est en particulier complte. De plus, si c : I Rn est une courbe lisse et s, t I, un champ de vecteurs X : I Rn le long de c est parallle si et seulement si d X = X = 0, cest--dire si et seulement sil
dt

149

est constant. Le transport parallle le long de c entre les temps s et t, pour la connexion triviale sur Rn , est donc la translation de c(s) c(t). Les groupes dholonomie (et donc les groupes dholonomie restreinte) de la connexion triviale sur Rn sont donc rduits {id}. expx (tv) = x + tv v x v c(t0 )
t1 t0

c(tt )

c(0) = c(1)

Par linarit en J de cette quation, lensemble des champs de Jacobi le long de c est un sous-espace vectoriel de lespace vectoriel des champs de vecteurs le long de c. En trivialisant le br image rciproque c T M de base lintervalle I, cette quation donne une quation direntielle linaire du second ordre en J. Donc pour toutes les conditions initiales t0 I et Jt0 , Jt0 Tc(t0 ) M , il existe un et un seul champ de Jacobi J = Jc, t0 , Jt ,Jt 0 0 le long de c tel que J(t0 ) = Jt et ( d J)(t0 ) = Jt . En particulier, si M est de dimension
0

Soit une connexion sur une varit M , de torsion T = T et de courbure R = R . Soit c : I M une courbe lisse. Remarquons que pour tout champ de vecteurs t J(t) le long de c, les applications Rc,J c : t Rc(t),J(t) (c(t)) et Tc,J : t T (c(t), J(t)) sont encore des champs de vecteurs le long de c. Un champ de Jacobi le long de c est un champ de vecteurs J : t J(t) le long de c tel que d d J Rc,J c d Tc,J = 0 .
dt dt dt

Champs de Jacobi dune connexion sur une varit.

n, alors lespace vectoriel des champs de Jacobi le long de c est de dimension 2n. Les champs de Jacobi permettent de calculer lapplication tangente de lexponentielle en dautres points que 0, et dtudier le domaine sur lequel lexponentielle est tale (cest-dire est un C -diomorphisme local). Proposition 2.42 Pour tous les x M et v, w Tx M , si v appartient au domaine de dnition de expx , alors (Tv expx )(w) = Jcv , 0, 0,w (1) est la valeur au temps t = 1 de lunique champ de Jacobi t J(t) le long de la godsique t expx (tv) tel que J(0) = 0 et ( d J)(0) = w.
dt

dt

Dmonstration. Considrons la godsique c : t expx (tv) et le champ de vecteurs lisse J : t (Ttv expx )(tw) Texpx (tv) M = Tc(t) M le long de c, qui sont dnis au temps t = 1. w tw 0 tv v 150 x expx J(t) expx (tv) expx (v) J(1)

Par unicit, il sut de montrer que J vrie lquation des champs de Jacobi, et les conditions initiales du thorme. Nous avons J(0) = (T0 expx )(0) = 0. Notons f : (t, s) expx (tv + tsw), qui est dnie et lisse sur un voisinage ouvert N de [0, 1] {0} dans R2 . Reprenons les notations prcdant lnonc de la proposition 2.38, en particulier celle X = f X pour tout X (T N ) et la notation = f pour la connexion (sur f T M ) image rciproque par f de . Notons t et s les champs de vecteurs de coordonnes sur
louvert N de R2 . Remarquons que c(t) = f (t, 0) = t (t, 0) et J(t) = t Par la proposition 2.38 (1) et le lemme de Schwarz, nous avons f s (t, 0)

s (t, 0).

Nous avons

= + , , +T , +T = . s t s t s t s t s t s

( 26 )

( d J)(0) = w .
dt

De plus, en utilisant respectivement la formule ( 26 ), la proposition 2.38 (3) et le fait que les courbes t expx (tv + tsw) sont des godsiques, nous avons
t t

= + T , t s t t s t s = + [ , ] +R , + T , s t t t t t t s t t t s . , + T , =R t s t t t s

Do d d J(t) =
dt dt t t

(t, 0) = Rc(t) (c(t), J(t))(c(t)) + d T (c, J)(t) , s dt

ce quil fallait dmontrer. En particulier, puisque Jc, 0, 0, w est le champ de vecteurs nul le long de c si et seulement si w = 0, lapplication exponentielle expx est un C -diomorphisme local au voisinage de tout vecteur X de Tx M tel quil nexiste pas de champ de Jacobi non nul le long de la godsique t expx (tX) dnie par X qui sannule aux temps 0 et 1.

Soient c : I M une godsique et t0 , t1 deux lments distincts de I. Les deux points c(t0 ) et c(t1 ) sont dit conjugus le long de c sil existe un champ de Jacobi le long de c non nul et sannulant aux temps t = t0 et t = t1 . Le rsultat suivant est une consquence immdiate de la proposition 2.42. Corollaire 2.43 Si M na pas de paire de points conjugus, alors expx est tale (cest-dire est un C -diomorphisme local) sur son domaine de dnition. Exemple. La connexion triviale sur M = Rn tant de courbure nulle, les champs de Jacobi le long dune godsique c : I Rn (qui vrie c(t) = c0 + tv0 pour certains c0 , v0 Rn ) sont les applications J : I Rn vriant lquation direntielle J = 0. Ce sont donc les n . Remarquons que lapplication d : t c(t) + J(t) est applications t at + b o a, b R alors de nouveau une godsique, et que tout champ de Jacobi le long de c scrit sous la forme J = d c o d : I Rn est une godsique. 151

d(t) J(t) c(t)

2.4

Exercices supplmentaires

Exercice E.26 Soit un br vectoriel rel C sur une varit M relle de classe C . (1) Soient f : M RN une application C . Montrer que pour tout br vectoriel sur RN , le br vectoriel image rciproque f est trivialisable. (2) Supposons M compacte. Montrer en utilisant une partition de lunit de M quil existe un br vectoriel sur M tel que soit trivialisable..

2.5

Indications pour la rsolution des exercices

Schme E.24 (1) Si b , b est une mtrique euclidienne (respectivement hermi tienne) sur , alors lapplication de dans (respectivement ), dnie par x {y x, y } est un isomorphisme. (2) Notons p : E M la projection de . Soit g une mtrique euclidienne (respec tivement hermitienne) sur le br vectoriel . Pour tout x M , notons x lorthogo nal de x pour gx . Alors E = xM x est une sous-varit lisse de E, et lapplication M dnit un sous-br vectoriel de . Clairement, lapplication vidente p|E : E de dans (dnie par (v, w) v + w) est un isomorphisme de brs vectoriels.

Schme E.25 La formule est immdiate par la proprit (dans la proposition 2.32) de commutation avec lunique contraction sur . Mais voici une autre mthode. Rappelons que nous identions et End() par lunique isomorphisme de brs vectoriels tel que, pour tous les ( ) et (), { ( )} . Par dnition, la connexion sur End() dnie par est la connexion . Nous avons, pour tout u = , o ( ) et , , ( )X u ( ) = ( ) ( ) + (X ) ( ) X = ( )( ) + ( ) X X = X(( )) (X ) + ( ) X

= X (( )) (X ) = X (u( )) u(X ) . Schme E.26 (1) Comme RN est contractile, tout br vectoriel sur RN est trivialisable. Limage rciproque dun br trivialisable est trivialisable : si : E M F est une trivialisation dun br vectoriel de projection p : E M et si f : N M est une 152

application lisse, alors lapplication de lespace total du br image rciproque f valeurs dans N F dnie par x N, v (f )x = f (x) , (v) = (x, pr2 ( v)) est une trivialisation de f . Le rsultat en dcoule. (2) Notons p : E M la projection de , n le rang de et m la dimension de M . Par compacit, soit (Ui )iI un recouvrement ni de M tel quil existe une carte locale (Ui , i ) de M , de domaine Ui et valeurs dans Rm , et une trivialisation locale i : p1 (Ui ) Ui Rn de au-dessus de Ui . Soit (i )iI une partition de lunit de M subordonne au recouvrement (Ui )iI de M . Considrons le br vectoriel trivial sur (Rm )I de bre (Rn )I . Lapplication f : x (i (x)i (x))iI est un plongement de M dans (Rm )I , et v (f (p(v)), pr2 i (v))iI un plongement de E dans (Rm )I (Rn )I , qui est un isomorphisme linaire de la bre x sur la bre f (x) pour tout x M . Donc est isomorphe un sous-br vectoriel du br image rciproque f . La question (1) et lexercice E.24 (2) concluent.

153

Varits riemanniennes

Sauf mention explicite du contraire, dans ce chapitre, toutes les varits sont des varits relles de classe C . Pour toute varit M , nous noterons C (M ) = C (M ; R). La convention utilise pour la signature (p, q) dune forme quadratique Q non dgnre relle est que p est la dimension maximale dun sous-espace vectoriel sur lequel Q est dnie ngative.

3.1

Varits pseudo-riemanniennes

Soient M une varit de dimension n et p, q N tels que p + q = n. Une mtrique pseudo-riemannienne de signature (p, q) sur M est une section lisse g : x gx du br vectoriel S 2 T M telle que, pour tout x M , la forme bilinaire symtrique gx sur Tx M soit non dgnre et de signature (p, q). Si p = 0, cest--dire si gx est dnie positive, nous dirons que g est une mtrique riemannienne. Si p = 1 et q > 0, nous dirons que g est une mtrique lorentzienne. Une mtrique pseudo-riemannienne sur M est en particulier un tenseur (2, 0) sur M , cest--dire un lment de (2 T M ). Une mtrique riemannienne sur M est une mtrique euclidienne sur le br tangent de M , au sens de la partie 2.2.4. Ce quil est important de retenir est quune mtrique riemannienne sur M est une application qui tout point x de M associe un produit scalaire (euclidien) gx sur lespace tangent M en x, qui dpend de manire lisse de x. Cette dernire armation se vrie en carte locale, et nous naurons que rarement besoin de brs tensoriels. Une varit pseudo-riemannienne (respectivement riemannienne, lorentzienne) est une varit munie dune mtrique pseudo-riemannienne (respectivement riemannienne, lorentzienne). Nous travaillerons surtout sur les varits riemanniennes dans ces notes. La notation g des mtriques pseudo-riemanniennes est assez infortune lorsque lon travaille avec les groupes de Lie ou les surfaces de Riemann, mais elle est standard. Lorsquil ny a pas dambigut, nous noterons g = ds2 = ds2 , et pour tout x M , M gx ( , ) = ,
x

Lorsque g est riemannienne (qui est le cas qui nous intresse de manire prpondrante), nous noterons : T M [0, +[ lapplication continue, lisse en dehors de limage de la section nulle, qui est une norme (euclidienne) sur lespace tangent en chaque point x de M , dnie par, pour tout v Tx M , v = v
x

gx (v, v) =

v, v

Soient (M, g) et (M , g ) deux varits pseudo-riemanniennes. Une application lisse f : M M est une application isomtrique si f g = g, o nous rappelons que f g est la section lisse de S 2 T M dnie par
(f g )x : (v, w) gx (Tx f (v), Tx f (w)) .

Si X et Y sont des champs de vecteurs lisses sur M , nous noterons g(X, Y ) = X, Y C (M ) lvaluation de g en X et Y , dnie par x gx (X(x), Y (x)).

Puisque g est non dgnre, f est ncessairement une immersion, et nous parlerons donc dimmersion isomtrique. 154

Une isomtrie entre deux varits pseudo-riemanniennes (M, g) et (M , g ) est une bijection isomtrique, cest--dire une immersion isomtrique bijective, cest--dire un C diomorphisme f : M M tel que f g = g. Nous noterons Isom(M, g) (ou par abus Isom(M ) ) le groupe des isomtries de (M, g), qui est bien un groupe pour la composition des applications, car (f h) g = h (f g) pour toutes les applications lisses f, h de M dans M . Une varit pseudo-riemannienne (M, g) est dite homogne si son groupe des isomtries agit transitivement sur M . Si G est un groupe agissant par C -diomorphismes sur une varit M , une mtrique pseudo-riemannienne g sur M est dite invariante par laction de G si pour tout G, le C -diomorphisme x x de M est une isomtrie de g. Nous justierons plus loin cette terminologie, en construisant une distance naturelle sur chaque varit riemannienne, et en montrant que les isomtries pour les mtriques riemanniennes et les isomtries pour leurs distances associes sont les mmes. Le rsultat suivant dcoule du thorme 2.18, car une mtrique riemannienne sur M nest pas autre chose quune mtrique euclidienne sur le br tangent de M . Remarquons quil est spcique au cas riemannien, car par exemple la varit S2 = {x R3 : x 2 = 1} nadmet pas de mtrique lorentzienne (car il nexiste pas dapplication lisse qui tout point de S2 associe deux droites tangentes supplmentaires en ce point la sphre). Proposition 3.1 Toute varit admet au moins une mtrique riemannienne. Rappelons quune densit sur M est une mesure sur M qui, en restriction chaque domaine de carte locale (U, ), est absolument continue par rapport la mesure image (1 ) , o est la mesure de Lebesgue sur (U ), de drive de Radon-Nykodym lisse strictement positive. Dans tout domaine de carte locale (U, = (x1 , . . . , xn )) valeurs dans Rn , une densit scrit donc |U = fU, dx1 . . . dxn , ( 27 )

o fU, C (U, ]0, +[), qui est appele la densit locale, de la carte (U, ) : cette quation signie que pour toute application continue h : M R support dans U , nous avons h d =
M U

h fU, d(1 ) =

(U )

h 1 fU, 1 d

=
(t1 ,...,tn )(U )

h 1 (t1 , . . . , tn ) fU, 1 (t1 , . . . , tn ) dt1 . . . dtn .

Le thorme de changement de variable dit donc que si (V, ) est une autre carte locale, alors en restriction U V , nous avons fV, = fU, jac( 1 ) ,
1

( 28 )

o nous avons not jac( 1 )(x) = d( ) (x) = det dx ( 1 ) le jacobien du d diomorphisme 1 |(U V ) en un point x (U V ). Rciproquement, la donne pour toute carte locale (U, ) dun atlas de cartes A de M dune fonction fU, C (U, ]0, +[), telle que la condition de compatibilit ( 28 ) soit vrie pour toutes les paires de cartes (U, ) et (V, ) dans A , dnit une unique densit sur M vriant la formule ( 27 ). pour toute carte locale (U, ) de A . 155

Si g est une mtrique riemannienne sur M , nous appellerons volume riemannien de (M, g) lunique densit volg (note volM lorsque g est sous-entendue) sur M telle que pour tout x M , pour toute base orthonorme (X1 , . . . , Xn ) de Tx M pour gx , pour toute carte locale (U, ) en x, la densit locale fU,g de volg dans cette carte vrie fU, (x) |dx1 dxn (X1 , . . . , Xn )| = 1 . Cette formule permet, par linvariance de la mesure de Lebesgue par rotations, de dnir une unique densit sur M : pour toute carte locale (U, = (x1 , . . . , xn )) de M , et pour tout 1 x U , on pose fU, (x) = |dx1 dxn (X1 ,...,Xn )| pour une base orthonorme (X1 , . . . , Xn ) de Tx M (dont le choix na pas dimportance, donc peut tre choisie de manire lisse en x) et on vrie la condition de compatibilit ( 28 ). Exemples. (i) (Espaces pseudo-euclidiens standards) Notons
p p+q

p,q

: (x, y)

xi y i +
i=1 i=p+1

xi yi

la forme bilinaire symtrique non dgnre de signature (p, q) standard sur Rn . Lespace pseudo-euclidien standard Rp,q (dit lespace euclidien standard et not En si (p, q) = (0, n)) est la varit Rn , o Tx Rn = Rn pour tout x Rn , munie de la mtrique pseudoriemannienne constante ds2 p,q : x gx = gp,q (note ds2 si p = 0). Ntons dx1 , . . . , dxn les euc R 1-formes coordonnes et dx2 = dxi dxi . En rappelant que (2 T Rn ) = C (Rn ; 2 Rn ), i nous avons
p p+q

ds2 p,q = R

dx2 + i
i=1 i=p+1

dx2 . i

Linclusion canonique du groupe des rotations-translations Rp+q O(p, q) dans le groupe Isom(Rp,q , ds2 p,q ) des isomtries de Rp,q est un morphisme de groupes injectif que nous R montrerons dans le corollaire 3.11 tre un isomorphisme de groupes de Lie. (ii) (Sous-varits pseudo-riemanniennes) Soient (M, g) une varit pseudo-riemannienne, N une varit et i : N M une immersion. Remarquons que si la forme bilinaire symtrique (i g)x est non dgnre, alors sa signature est constante sur chaque composante connexe de N . Si (i g)x est non dgnre de signature constante pour tout x N , alors (N, i g) est une varit pseudo-riemannienne, et la mtrique pseudo-riemannienne i g est appel la premire forme fondamentale de la varit immerge N , et souvent note par le chire latin majuscule I. Si N est une sous-varit de M et si i est linclusion, nous dirons aussi que i g est la restriction de g N , nous la noterons g|N , et nous dirons que (N, g|N ) est une sous-varit pseudo-riemannienne (et sous-varit riemannienne si g est riemannienne). Remarquons que si (M, g) est une varit riemannienne, alors i g est forcment dnie positive, et donc (N, i g) est une varit riemannienne. Par exemple, si M est une sousvarit de lespace euclidien standard En , alors la restriction de la mtrique riemannienne standard de En est une mtrique riemannienne sur M . Le rsultat suivant, que nous admettons dans ces notes (voir [Nas]), dit que toute varit riemannienne est isomtrique une sous-varit riemannienne dun espace euclidien standard (si la varit est de dimension n, lespace euclidien standard de dimension N = n2 + 5n + 3 sut). 156

Thorme 3.2 (Thorme de plongement de Nash) Pour toute varit riemannienne (M, g), il existe N N et un plongement C isomtrique de M dans lespace euclidien standard EN . Sous-exemples. (a) Nous noterons (Sn , ds2 ) sph la sous-varit riemannienne de En+1 dnie par la sous-varit Sn , o Sn est la sphre Sn = {(x0 , x1 , . . . , xn ) Rn+1 : x2 + x2 + + x2 = 1} 0 1 n et ds2 la restriction de la mtrique riemannienne standard de En+1 , que nous appellerons sph la mtrique sphrique standard sur Sn . Lapplication canonique de O(n + 1) dans Isom(Sn , ds2 ), qui une rotation de Rn+1 sph associe sa restriction la sphre Sn , est un morphisme de groupes injectif que nous montrerons dans le corollaire 3.11 tre un isomorphisme de groupes de Lie. (b) Voici un exemple de restriction o la signature change. Considrons la sous-varit (dj tudie dans lexemple (5) de la partie 1.5)
n H+ = {(x0 , x1 , . . . , xn ) Rn+1 : x0 > 0 et x2 + x2 + + x2 = 1} 0 1 n n n de Rn+1 . La mtrique hyperbolique sur H+ , note ds2 , est la restriction H+ de la hyp 1,n de R1,n . Il est facile de vrier que mtrique lorentzienne g
n ds2 = (dx2 + dx2 + + dx2 )|Tx H+ hyp 0 1 n

n est une mtrique riemannienne car pour tout v = (x0 , x1 , . . . , xn ) H+ , le plan tangent n H n en v est lorthogonal de la droite Rv pour la forme bilinaire (symtrique Tv H+ + non dgnre) g1,n . Comme la restriction de g1,n Rv est dnie ngative, la restriction n de g1,n Tv H+ est dnie positive.

x0
n Nous dirons que (H+ , ds2 ) est le hyp modle du demi-hyperbolode suprieur de lespace hyperbolique rel Hn de dimenR sion n. (Mme si Gauss y avait pens, cest Bolyai [Bol] qui a donn la premire dnition du plan hyperbolique rel, bien quil nait publi son rsultat en 1932 quaprs celui de Lobatchevski paru en 1929.) n H+

g1,n < 0 g1,n = 0 g1,n > 0 0

(1, 0, , 0) Rn

Notons que lapplication qui un isomorphisme linaire de Rn+1 , prservant la forme n n quadratique g1,n et H+ , associe sa restriction H+ est un morphisme de groupes injectif canonique
n n n O+ (1, n) = {x O(1, n) : x(H+ ) H+ } Isom(H+ , ds2 ) , hyp

157

que nous montrerons dans le corollaire 3.11 tre un isomorphisme de groupes de Lie. Plus gnralement, pour tout p {0, . . . , n}, considrons les sous-varits de Rn+1 de dimension n dnies par Sn,p = {x Rn+1 : gp,np+1 (x) = +1} et Alors il est facile de vrier que (Sn,p, ds2 p,n+1p |Sn,p , ) et (Hn,p , ds2 p+1,np |Hn,p , ) sont des R R varits pseudo-riemanniennes de signature (p, n p). Nous avons Sn,0 = Sn et Hn,0 = Hn . Hn,p = {x Rn+1 : gp+1,np (x) = 1} .

E3 ,

(iii) (Surfaces dans R3 ) tudions un peu plus le cas des surfaces immerges dans munies de la mtrique riemannienne induite. Notons et , la norme et le produit scalaire usuel sur R3 . Localement, une telle surface S est limage dun plongement f : U R3 , o U est un ouvert de R2 . Nous noterons (x, y) un lment gnrique de U , fournissant 1 des coordonnes locales sur S. Notons dxdy = 2 (dx dy + dy dx) la forme quadratique sur chaque espace tangent dnie par (v1 , v2 ) v1 v2 . Puisque f est une immersion, tout vecteur tangent S en f (x, y) scrit v = a f + b f , x y o a = dx(v) et b = dy(v) sont les coordonnes locales de v dans la carte. La premire forme fondamentale IS de S est donc donne par IS = ds2 = S f x
2

dx2 + 2
2

f f , x y

dxdy +

f y

dy 2 .
2

et F = f , de sorte que Il est traditionnel de noter E = f , G = f , f x x y y ds2 = E dx2 + 2G dxdy + F dy 2 (o nous Llment de volume, dit lment daire, de S S est, en restriction cette carte, d volS = EF G2 dxdy .
E(EF G )

En eet, par lingalit de Cauchy-Schwarz, nous avons EF G2 > 0. Si par exemple 1 E = 0 en un point (x, y), alors X1 = E (1, 0) et X2 = 1 (G, E) sont deux 2 et le rsultat dcoule de la dnition du volume riemannien. vecteurs orthonorms pour ds2 , et donc |dx dy(X1 , X2 )| = | det(X1 , X2 )| = S
1 , (EF G2 )

est une base orthonorme de Tx M pour g. Donc si M est de dimension n et si g est riemannienne, alors le volume riemannien volg de (M, g) sobtient partir du volume riemannien volg de (M, g) par la formule d volg = 2 d volg . Par exemple, en notant la norme euclidienne usuelle sur Rn , soit Bn = {x Rn : 158 x < 1}
n

(iv) (Varits riemanniennes conformes) Soient (M, g) une varit pseudo-riemannienne et : M ]0, +[ une application lisse. Alors (M, g) est une varit pseudoriemannienne, de mme signature que M , dite conforme (M, g), de facteur de conformalit . X Si (X1 , . . . , Xn ) est une base orthonorme de Tx M pour g, alors ( X1 , . . . , n )
(x) (x)

la boule unit ouverte de Rn . Dnissons la mtrique hyperbolique sur Bn comme la mtrique riemannienne conforme la restriction de la mtrique euclidienne standard sur Bn , de facteur de conformalit x (1 4 2 )2 : x ds2 = hyp 4(dx2 + + dx2 ) n 1 . (1 x 2 )2 Bn 0

Nous dirons que (Bn , ds2 ) est le modle de la boule (de hyp Poincar) de lespace hyperbolique rel Hn de dimension n. R Son volume riemannien est d volhyp = Par exemple, soit 2n dx1 . . . dxn . (1 x 2 )n

le demi-espace suprieur de Rn . Dnissons la mtrique hyperbolique sur Rn comme la + mtrique riemannienne conforme la restriction de la mtrique euclidienne standard sur Rn , de facteur de conformalit (x1 , . . . , xn ) x1 : 2 +
n

Rn = {(x1 , . . . , xn ) Rn : xn > 0} . +

ds2 = hyp

dx2 + + dx2 n 1 . x2 n Rn1

xn Rn + 0

Nous dirons que (Rn , ds2 ) est le modle du + hyp demi-espace suprieur (de Lobatchevski) de lespace hyperbolique rel Hn de dimension n. R Son volume riemannien est d volhyp =
n H+

dx1 . . . dxn . xn n

n Notons S = (1, 0 . . . , 0) Rn+1 et p : H+ Bn lapplication qui au point x de associe lintersection de la droite passant par x et S avec lhyperplan de coordonnes {0} Rn (appele la projection strographique hyperbolique, voir la gure de gauche cidessous). Il est facile de vrier que

p : (x0 , x1 , . . . , xn )

xn x1 ,..., 1 + x0 1 + x0

n est un C -diomorphisme de H+ dans Bn , qui est une isomtrie pour les mtriques n et de B : nous avons p (ds2 ) = ds2 . hyperboliques de H+ n hyp hyp

x0
n H+

xn Bn x 0 p(x) S 159 2 S i(x) x Rn1

Rn

Notons S = (0 . . . , 0, 1) Rn le ple sud de Sn et i : Bn Rn la restriction Bn de + la linversion de centre S et de rayon 2, cest--dire, avec norme euclidienne usuelle xS sur Rn , lapplication qui au point x de Bn associe le point 2 xS + S (voir la gure de droite ci-dessus). Il est facile de vrier que i est un C -diomorphisme de Bn dans Rn , qui est une isomtrie pour les mtriques hyperboliques de Bn et de Rn : nous avons + + i (ds2 ) = ds2 . hyp hyp Exercice E.27 Soient n 1 et N = (0, . . . , 0, 1) le ple nord de la sphre Sn . Considrons la projection strographique f de Sn {N } dans lhyperplan Rn des n premires coordonnes de Rn+1 , qui associe un point x lunique point dintersection avec Rn de la droite passant par N et x. N 0 f (x) xn x Rn1

Montrer que f envoie la mtrique sphrique standard de Sn {N } sur la mtrique riemannienne conforme la mtrique euclidienne standard sur Rn de rapport de conformalit 4 : (1+ x 2 )2 4 4(dx2 + + dx2 ) n 1 (f 1 ) ds2 = ds2 = . sph (1 + x 2 )2 euc 1 + x2 + + x2 n 1 Montrer que le volume de la mtrique sphrique standard de Sn est 2 2 , vol(Sn ) = ( n+1 ) 2 o : x n N).
+ x1 t t e 0
n+1

dt est la fonction Gamma dEuler (qui vrie (n + 1) = n! si

(v) Soit G un groupe de Lie rel, dalgbre de Lie g. Une mtrique pseudo-riemannienne g sur G est dite invariante gauche si (Lx ) g = g pour tout x G, cest--dire si laction de G sur lui-mme par translations gauche est une action par isomtries. On dnit de mme une mtrique pseudo-riemannienne invariante droite, en remplaant les translations gauche Lx par les translations droite Rx . Par exemple, soit ge une forme bilinaire symtrique non dgnre de signature (p, q) sur g. Pour tous les x G, et v, w Tx G, notons gx (v, w) = ge ((Te Lg )1 (v), (Te Lg )1 (w)) . Alors x gx est une mtrique pseudo-riemannienne de signature (p, q) sur G, invariante gauche, et toute mtrique pseudo-riemannienne de signature (p, q) sur G, invariante gauche, est obtenue ainsi. Une mtrique pseudo-riemannienne sur G est dite bi-invariante si elle est invariante la fois par les translations droite et par les translations gauche. Par exemple, soit ge une 160

forme bilinaire symtrique non dgnre de signature (p, q) sur g, invariante par Ad(G). La mtrique pseudo-riemannienne de signature (p, q) invariante gauche sur G est alors biinvariante, et toute mtrique pseudo-riemannienne de signature (p, q) sur G, bi-invariante est obtenue ainsi. Bien sr, si G est ablien, toute mtrique riemannienne invariante gauche est bi-invariante. Par exemple, la mtrique pseudo-riemannienne standard ds2 p,q R sur le groupe de Lie Rp,q est bi-invariante. Si G est semi-simple (cest--dire si son algbre de Lie g est semi-simple), alors la forme de Killing B de G est une forme bilinaire symtrique et non dgnre sur g, invariante par Ad G, donc dnit une mtrique pseudo-riemannienne bi-invariante sur G. Tout groupe de Lie compact admet une mtrique riemannienne bi-invariante. En eet, si G est compact, notons G la mesure de Haar normalise de G, cest--dire lunique mesure (borlienne) de probabilit sur G invariante par translations gauche et droite (voir par exemple [Wei, Coh]). Soit , un produit scalaire sur g. Alors (v, w) Ad g(v), Ad g(w) dG (g)
G

est un produit scalaire invariant par Ad(G) sur g. (vi) Soient (M, g) et (M , g ) deux varits pseudo-riemanniennes, de signature (p, q) et respectivement. Sur la varit produit M M , la section g g de S 2 (T (M M )) qui (x, x ) M M associe lapplication (gg )(x,x ) : (Tx M Tx M )(Tx M Tx M ) R dnie par ((v, v ), (w, w )) g(v, w) + g (v , w ) (p , q )

est une mtrique pseudo-riemannienne, de signature (p + p , q + q ), dite produit. Le couple (M M , g g ) est appel la varit pseudo-riemannienne produit. Lorsque (M, g) et (M , g ) sont des varits riemanniennes, (M M, g g ) est une varit riemannienne, dite produit riemannien de (M, g) et de (M , g ). Notons que les deux sous-espaces vectoriels Tx M {0} et {0} Tx M de T(x,x ) (M M ) = Tx M Tx M sont orthogonaux pour (g g )(x,x ) .

(vii) Soient (M , g) et (M, g) deux varits pseudo-riemanniennes. Une application lisse f : M M est un revtement pseudo-riemannien si f est un revtement isomtrique. Nous dirons revtement riemannien si g et g sont riemanniennes. Par exemple, soit un groupe discret agissant ( gauche) librement et proprement sur (M , g) par isomtries (cest--dire tel que lapplication x x soit une isomtrie de (M , g) pour tout ). Alors il existe une et une seule mtrique pseudo-riemannienne g sur la varit quotient M = \M telle que la projection canonique : M M = \M soit isomtrique pour g et g, et est alors un revtement pseudo-riemannien. La signature de g est la mme que celle de g, et en particulier g est riemannienne si g lest. Nous dirons que (M, g) est une varit pseudo-riemannienne quotient (et varit riemannienne quotient si g est riemannienne). En eet, pour tout x M , choissisons x M tel que (x) = x. Lapplication Tx : Tx M Tx M est un isomorphisme linaire. Posons, pour tous les v, w Tx M , Puisque agit par isomtries, ceci ne dpend pas du choix de x. Par lexistence de sections locales lisses de , lapplication x gx est lisse, et la mtrique pseudo-riemannienne g ainsi dnie est lunique solution qui convient. 161 gx (v, w) = gx (Tx )1 (v), (Tx )1 (w) . e

Par exemple, si est un rseau de Rn (cest--dire un sous-groupe discret, engendrant Rn en tant quespace vectoriel), pour tous les p, q N tels que p + q = n, la varit pseudo-riemannienne quotient (qui est compacte, de signature (p, q)) T = \Rp,q est appel un tore plat. Deux tels tores plats \Rp,q et \Rp,q sont isomtriques si et seulement sil existe une isomtrie h O(p, q) de la forme quadratique standard gp,q telle que g() = . En particulier, si n 2 et p = 0, lensemble des classes disomtrie (et mme des classes dhomothtie) de tores plats est non dnombrable. Nous dcrirons plus tard cet ensemble, appel espace des modules de tores plats.

non isomtrique tore plat R2 / tore de rvolution

Par exemple, la varit riemannienne produit S1 S1 o le groupe de Lie (ablien) S1 = {z C : |z| = 1} est munie de lunique mtrique riemannienne invariante gauche xy qui, sur T1 S1 = iR, vaut (ix, iy) (2)2 , est isomtrique la varit riemannienne quotient Z2 \R2 . Par contre, un tore de rvolution dans R3 , cest--dire la sous-varit riemannienne de E3 obtenue en prenant un cercle dans un plan vertical, disjoint de laxe vertical, et en le faisant tourner autour de laxe vertical, nest isomtrique aucun tore plat, comme nous le verrons plus tard (voir lexercice E.28 et la partie 3.6). (viii) (Varits riemanniennes homognes) Soient (M, g) et (M , g ) deux varits riemanniennes. Une submersion riemannienne f : M M est une application de M dans M telle que pour tout x M , lapplication Tx f : ker(Tx f ) Tf (x) M soit une isomtrie. Comme une isomtrie est en particulier surjective, une submersion riemannienne est submersion. Proposition 3.3 Soit M une varit riemannienne, munie dune action isomtrique, lisse, libre et propre dun groupe de Lie rel G. Il existe une et une seule mtrique riemannienne sur la varit quotient G\M telle que la projection canonique : M G\M soit une submersion riemannienne. Dmonstration. Lunicit est immdiate. Par le thorme 2.3 et les proprits des submersions, pour tout x dans M , lorbite G x = 1 (x) est une sous-varit lisse de M et lapplication Tx : Tx M T(x) (G\M ) induit un isomorphisme linaire (Tx (Gx)) T(x) (G\M ), dpendant de manire lisse de x, dont nous noterons linverse (Tx )1 . Pour tout x M et tous les v, w T(x) (G\M ), notons v, w (x) = (Tx )1 v, (Tx )1 w x . Montrons que cette expression ne dpend pas de lorbite de x, et donc dnit une mtrique riemannienne sur G\M . 162

Pour tout dans G, notons f : M M lapplication z z, qui est une isomtrie telle que f = , et en particulier envoie Tx (G x) = ker Tx sur Tx (G x) = ker Tx . Si y = x, nous avons donc (Ty )1 v, (Ty )1 w
y

= (Tx ) comme voulu.

= (Ty f )1 (Tx )1 v, (Ty f )1 (Tx )1 w

1

v, (Tx )

Corollaire 3.4 Soient G un groupe de Lie rel et H un sous-groupe ferm de G. Soit g une mtrique riemannienne sur G invariante par translations gauche par G et invariante par translations droite par H. Alors il existe une et une seule mtrique riemannienne sur la varit quotient G/H invariante par laction gauche de G telle que, si : G G/H est la projection canonique, alors Te est une isomtrie de lorthogonal (dans lalgbre de Lie de G) de lalgbre de Lie de H valeurs dans TeH G/H. De plus, : G G/H est une submersion riemannienne.

Dmonstration. Comme une mtrique riemannienne invariante gauche sur G/H est dtermine par le produit scalaire quelle dnit en un point donn de G/H, lunicit est immdiate. Par la proposition ci-dessus, puisque laction par translations droite de H sur G est isomtrique, lisse, libre et propre, il existe par la proposition 3.3 ci-dessus une (unique) mtrique riemannienne sur G/H telle que : G G/H soit une submersion riemannienne. Montrons que cette mtrique riemannienne sur G/H est invariante par G, ce qui conclut. Pour tous les x, y G, notons Lyx1 : G G le diomorphisme yx1 , et Myx1 : G/H G/H le diomorphisme H yx1 H, qui vrient Lyx1 = Myx1 . ( 29 )

Puisque la mtrique riemannienne sur G est invariante gauche, lapplication Tx Lyx1 : Tx G Ty G est une isomtrie. Elle envoie ker Tx dans ker Ty , en prenant lapplication tangente en x de la formule ( 29 ) ci-dessus. Donc le diagramme suivant est commutatif : (ker Tx ) Tx Lyx1 (ker Ty )
x

Ty

TxH G/H TxH Myx1 . TyH G/H

Les ches gauche, haut et bas tant des isomtries, la che de droite lest aussi. Le rsultat en dcoule.

3.2

Connexion de Levi-Civita

Soit (M, g) une varit pseudo-riemannienne. Thorme 3.5 Il existe une et une seule connexion sans torsion sur M telle que g soit parallle.

163

Cette connexion : (T M ) (T M ) (T M ), note M,g ou g ou M lorsquil est utile de prciser, sappelle la connexion de Levi-Civita de (M, g). Sauf mention explicite du contraire, toute varit pseudo-riemannienne sera muni de sa connexion de Levi-Civita. Dire quelle est sans torsion signie que X Y Y X = [X, Y ] pour tous les X, Y (T M ). Dire que le (2, 0)-tenseur g est parallle (cest--dire que g = 0) signie que X(g(Y, Z)) = g(X Y, Z) + g(Y, X Z) pour tous les X, Y, Z (T M ). Cette condition est aussi appele la condition de compatibilit de avec g. Lapplication exponentielle exp de la connexion de Levi-Civita de (M, g) sappelle lapplication exponentielle de (M, g). Le tenseur de courbure R = R de la connexion de Levi-Civita de (M, g) sappelle le tenseur de courbure (de Riemann) de (M, g) (ou par abus la courbure de (M, g), mais ce terme peut aussi dsigner dautres objets, voir la partie 3.6). Dmonstration. Si est une connexion sans torsion sur M telle que g soit parallle, alors pour tous les X, Y, Z (T M ), X(g(Y, Z)) = g(X Y, Z) + g(Y, X Z) , Y (g(Z, X)) = g(Y Z, X) + g(Z, Y X) , Z(g(X, Y )) = g(Z X, Y ) + g(X, Z Y ) . En ajoutant les deux premires quations et en enlevant la troisime, nous avons, puisque g est symtrique et sans torsion, 2 g(X Y, Z) = X(g(Y, Z)) + Y (g(Z, X)) Z(g(X, Y )) g([X, Z], Y ) g([Y, Z], X) . ( 30 )

Comme g est non dgnre en tout point (et puisque tout vecteur tangent peut se prolonger en un champ lisse de vecteurs tangents par le lemme 2.25), ceci montre lunicit de . Pour tous les X, Y (T M ), il est facile de vrier que lapplication X,Y de (T M ) dans C (M ) qui Z (T M ) associe le membre de droite de lquation ( 30 ) prcdente est C (M )-linaire. Puisque g est non dgnre, lapplication de (T M ) dans le C (M )-module dual LC (M ) ((T M ); C (M )) dnie par X {Y g(X, Y )} est un isomorphisme de C (M )-modules. Pour tous les X, Y (T M ), notons X Y = 1 1 X,Y . 2

Il est facile de vrier que (X, Y ) X Y est une connexion sans torsion rendant g parallle. Exemples. (i) La connexion de Levi-Civita de lespace pseudo-euclidien standard Rp,q est la connexion triviale sur Rp+q . En eet, celle-ci est sans torsion et rend la mtrique 164

pseudo-riemannienne constante ds2 p,q : x gp,q parallle, par drivation des applications R bilinaires. (ii) (Connexion de Levi-Civita des sous-varits pseudo-riemanniennes) Soit i : N M une immersion lisse (par exemple linclusion si N est une sous-varit de M ). Supposons (ce qui est toujours le cas lorsque g est riemannienne) que la premire forme fondamentale g = i g de N soit non dgnre sur lespace tangent en chaque point de N . Notons = g la connexion de Levi-Civita de la varit pseudo-riemannienne (N, g), et = g celle de (M, g). Le sous-br T N est un sous-br vectoriel du br vectoriel image rciproque i T M . Pour tout x N , lespace tangent Ti(x) M est somme directe orthogonale pour gx de Tx i(Tx N ) et de son orthogonal (Tx i(Tx N )) . Notons v v la projection orthogonale (cest--dire paralllement Tx i(Tx N ) ) de Ti(x) M sur Tx i(Tx N ), ainsi que Z Z : x (Tx i)1 Z(x) lapplication C (M )-linaire de (T M ) dans (T N ) quelle induit puisque Tx i est un isomorphisme linaire sur son image. Rappelons que pour tout Y (T N ), la section i Y du br vectoriel i T M est dnie par x Tx i(Y (x), et que i est la connexion image rciproque de sur le br image rciproque i T M . Proposition 3.6 La connexion de Levi-Civita de la varit pseudo-riemannienne (N, g) immerge dans (M, g) est uniquement dtermine par la proprit que, pour tous les X, Y (T N ), nous avons X Y = (i )X (i Y ) . Une manire quivalente (et cest celle que nous utiliserons en pratique) de comprendre cette formule est la suivante. Supposons que N soit une sous-varit de M (on sy ramne localement) et que i soit linclusion. Par partition de lunit, tout champ de vecteurs lisse W (T N ) sur N stend en un champ de vecteurs lisse W (T M ) sur M . Alors, pour tout x N et tous les X, Y (T N ), par la dnition des connexions images rciproques sur les brs vectoriels images rciproques, et puisque linclusion i de N dans M induit linclusion de Tx N dans Tx M pour tout x N , nous avons X Y (x) = X Y (x) .

Dmonstration. La proprit tant locale, nous pouvons supposer que N est une sousvarit de M et que i est linclusion. Pour tous les X, Y , Z (T N ) tendus localement en X, Y, Z sur M , remarquons que la restriction N du crochet de Lie [X, Y ] concide avec [X, Y ] (puisque les ots des champs de vecteurs X et Y prservent N ). Donc par lquation ( 30 ) et la dnition de la premire forme fondamentale g = i g, nous avons g(X Y , Z) = g(X Y, Z)|N . Le rsultat en dcoule, puisque g est non-dgnre en tout point. (iii) (Connexions de Levi-Civita des varits pseudo-riemanniennes conformes) Pour tout f C (M ), notons grad f = gradg f (T M ) lunique champ de vecteurs lisse dni par g(grad f, Y ) = Y (f ) pour tout Y (T M ), appel le gradient de f . Ceci est bien dni car la mtrique pseudo-riemannienne g, tant non dgnre en tout point, induit un isomorphisme de C (M )-modules de (T M ) dans son C (M )-module dual LC (M ) ((T M ); C (M )) par X {Y g(X, Y )}. 165

Proposition 3.7 Soit g une mtrique pseudo-riemannienne sur M conforme g, de facteur de conformalit e2f . Alors la connexion de Levi-Civita de g est uniquement dtermine par la proprit que, pour tous les X, Y (T M ), g Y = g Y + X(f )Y + Y (f )X g(X, Y ) grad f . X X Dmonstration. Il est immdiat que lapplication g : (T M )2 (T M ) dnie par le membre de droite est une connexion sans torsion. En eet, g g est une application C (M )-bilinaire symtrique, donc par le lemme de tensorialit 2.23 un lment de (T M )2 T M , et le rsultat dcoule de la structure despace ane de lespace des connexions (voir la remarque (5) de la partie 2.3.2). Un petit calcul montre que g est parallle pour g : pour tous les X, Y, Z (T M ), nous avons X(g (Y, Z)) = X(e2f )g(Y, Z) + e2f X(g(Y, Z)) = 2X(f )g (Y, Z) + g (g Y, Z) + g (Y, g Z) X X = 2X(f )e2f g(Y, Z) + e2f g(g Y, Z) + g(Y, g Z) X X

g (X(f )Y + Y (f )X g(X, Y ) grad f, Z) g (Y, X(f )Z + Z(f )X g(X, Z) grad f )

= g (g Y, Z) + g (Y, g Z) . X X

Par la proprit dunicit des connexions de Levi-Civita, ceci montre que lapplication g ainsi dnie est bien la connexion de Levi-Civita de g . Transport parallle des connexions de Levi-Civita.

Le rsultat suivant dit que le transport parallle le long de courbes dni par la connexion de Levi-Civita est isomtrique. Proposition 3.8 Soient c : I M une courbe lisse et s, t I. Alors le transport parallle t: T c(s) M Tc(t) M le long de c pour la connexion de Levi-Civita est une isomtrie entre s les formes bilinaires gc(s) et gc(t) : pour tous les v, w Tc(s) M , gc(t) (
t s

v,

t s

w) = gc(s) (v, w) .

En particulier, les groupes dholonomie (et donc les groupes dholonomie restreinte) de la connexion de Levi-Civita en un point x de M sont des sous-groupes du groupe orthogonal O(gx ) O(p, q) de la forme bilinaire symtrique non dgnre gx de signature (p, q) sur Tx M . Dmonstration. Soient X, Y : I T M deux champs de vecteurs lisses le long de c. Notons la connexion image rciproque de sur le br image rciproque c T M . Notons g limage rciproque de g sur le br image rciproque c T M . Par la proposition 2.38 (2), la section g est parallle pour . Donc pour tout t I d d g (X(t), Y (t)) = g(X, Y ) (t) = g( d X, Y )(t) + g(X, d Y )(t) dt dt dt c(t) dt = gc(t) ( d X (t), Y (t)) + gc(t) (X(t), d Y (t)) .
dt dt

166

En particulier, si X et Y sont parallles pour , alors lapplication t g(X(t), Y (t)) est constante, ce qui montre le rsultat. Fonction angle dune varit riemannienne.

Supposons que (M, g) soit une varit riemannienne. Pour tout x M et tous les v, w Tx M {0}, dnissons langle entre v et w comme lunique rel x (v, w) dans [0, ] tel que v, w x cos x (v, w) = . v x w x Nous appelerons fonction angle de (M, g) lapplication lisse, dnie sur le sous-espace ouvert des v w T M T M tels que v = 0 et w = 0 valeurs dans [0, ], par v w (v) (v, w), o : T M M est le br tangent de M . Remarques. (1) Les isomtries et le transport parallle prservent les angles : pour toute isomtrie de M , pour tous les x M et v, w Tx M , nous avons x (Tx (v), Tx (w)) = x (v, w) et si c : I M est une courbe lisse, pour tous les v, w Tc(s) M et s, t I, nous avons c(t) (
t s

v,

t s

w) = c(s) (v, w) .

Ceci dcoule du fait que les isomtries prservent les normes et les produits scalaires sur les espaces tangents, et de la proposition 3.8. (2) Deux mtriques riemanniennes sur une mme varit M sont conformes si et seulement si elles ont les mmes fonctions angles T M T M [0, ]. En eet, soient x , x et x , deux mtriques riemanniennes sur M , de x , ayant mme fonction angle. Puisquun triangle fonctions normes x x et x x euclidien est dtermin homothtie prs par ses angles, pour tout x M , il existe un unique ax > 0 tel que v = ax v x pour tout v Tx M . Par dnition des angles, ceci x implique que v, w = a2 v, w x pour tous les v, w Tx M . Par trivialit locale du br x x tangent, et puisque la proprit dtre C est locale, lapplication x a2 est C . Donc x les deux mtriques riemanniennes sont conformes. La rciproque est immdiate. Par exemple, pour tout n 2, dans les modles de la boule et du demi-espace suprieur de lespace hyperbolique rel Hn , les angles euclidiens et hyperboliques concident. R (3) La fonction dangle dune sous-varit riemannienne plonge dans M est la restriction de la fonction dangle de M , et plus gnralement, si i : N M est une immersion isomtrique, alors x N, v, w Tx N, x (v, w) = i(x) (Tx i(v), Tx i(w)) . Exemples. (1) Supposons que M soit une surface (cest--dire que sa dimension soit n = 2). Soit c : I M une godsique plonge de M et s, t I. Puisque le champ de vecteurs vitesses de c est parallle le long de c, il dcoule de la remarque (1) ci-dessus que le transport parallle le long de c entre les instants s et t dun vecteur v Tc(s) M faisant un angle avec c(s) est le vecteur tangent en c(t) faisant un angle avec c(t), et situ du mme ct de c. 167

(2) Nous avons vu que le transport parallle le long dune courbe pour la connexion de Levi-Civita de lespace euclidien standard En , qui est la connexion triviale, est une translation. Soient ]0, [ un angle aigu non nul et 2 C = {(x, y, z) R3 : z < 0 et x2 + y 2 z 2 tan2 = 0} le cne point daxe vertical et dangle au sommet , muni de la mtrique riemannienne induite par celle de R3 . Soit c : [0, 2] C , dni par (r sin , r cos , r cot ) o r > 0 est x, un cercle mridien de C et soit v Tc(0) C . Lapplication dveloppante de C priv de toute demi-droite issue du sommet valeurs dans R2 tant une isomtrie riemannienne sur un ouvert du plan euclidien E2 , le transport parallle de v le long de c fait un angle 2(1 sin ) avec v (voir les gures de gauche ci-dessous).

v c

2(1 sin ) 2 sin

Exercice E.28 a) En utilisant des cnes de contact avec la sphre (voir le dessin de droite ci-dessus), calculer le transport parallle le long dun parallle (ce sont les courbes de latitute constante), par exemple le long du tropique du cancer, dans la sphre standard (S2 , ds2 ). sph En dduire que (S2 , ds2 ) et le plan euclidien E2 ne sont pas localement isomtriques. sph b) Montrer quun tore plat et quun tore de rvolution ne sont pas localement isomtriques. Calcul en coordonnes locales.

Soit (U, (x1 , . . . , xn )) une carte locale de M . Notons (dx1 , . . . , dxn ) la base correspondante du C (U )-module (T U ), forme des direntielles des fonctions coordonnes, et (1 = x1 , . . . , n = xn ) la base duale du C (U )-module (T U ) (cest--dire que i ( ) = i , o i , qui vaut 0 si i = j et 1 si i = j, est le symbole de Kronecker). Dans dx j j j la base correspondante (dxi dxj = dxi dxj )1i,jn du C (U )-module (2 T U ), nous avons g|U = gi,j dxi dxj
1i, jn

o (gi,j = g(i , j ))1i, jn est une matrice symtrique coecients dans C (U ), inversible, de signature (p, q) en tout point (donc dnie positive en tout point si g est une mtrique riemannienne), appele la matrice de g dans la carte locale considre. Si (V, (y 1 , . . . , y n )) est une autre carte locale de M , et si (gk, )1k, ln est la matrice de g dans cette carte, nous avons, en restriction U V ,
gk, = 1i, jn

gi,j 168

dxi dxj . dy k dy

Notons k C (U ) les symboles de Christoel de la connection de Levi-Civita i,j dans cette carte locale. Par dnition, ils vrient dnis par
n

i j =

k k . i,j
k=1

Puisque [i , j ] = 0, la condition que est sans torsion est quivalente ce que, pour tous les 1 i, j, k n, nous ayons k = k . i,j j,i Lquation ( 30 ) donne 2g(i j , k ) = i gj,k + j gk,i k gi,j . Do, en notant (gi,j )1i, jn linverse de la matrice (gi,j )1i, jn , nous avons k i,j 1 = 2
n =1

g,k (i gj, + j g,i gi,j ) ,

une formule qui nest que rarement utilise. Par dnition du tenseur de Christoel comme dirence de la connexion restreinte U et de limage rciproque par la trivialisation locale de la connexion triviale, elle permet de calculer localement la connexion de LeviCivita, en disant que pour tous les X, Y (T M ), si X|U = n X i i et Y|U = n Y i i , i=1 i=1 alors (X Y )|U = X i i Y j j + k X i Y i k , i,j
1i,jn 1i,j,kn

une formule quil nest pas plus utile de retenir. Si g est une mtrique riemannienne, il est facile de voir que le volume riemannien de g est la mesure sur M dnie localement dans chaque carte locale (U, (x1 , . . . , xn )) par d volg |U = det(gi,j )1i,jn dx1 . . . dxn .

Nous pouvons vrier que ceci est bien dni dune part parce que la matrice de g est dnie positive, donc de dterminant strictement positif, et par la formule de changement de carte locale de g. Si R est le tenseur de courbure de la connexion de Levi-Civita de (M, g), alors ses coordonnes dans la carte locale considre sont les applications Ri,j,k C (U ) dnies par
n

R(i , j )k =
=1

Ri,j,k ,

de sorte que pour tous lesX, Y, Z (T M ),

n

R(X, Y )Z

|U

=
i,j,k,=1

Ri,j,k X i Y j Z k .

La dnition du tenseur de courbure R(i , j )k = i j k j i k [i ,j ] k 169

(dont le dernier terme est nul puisque [i , j ] = 0) donne immdiatement

n Ri,j,k

i j,k

j i,k

+
m=1

m m i,k j,m , j,k i,m

une formule qui nest toujours pas retenir. Mtrique pseudo-riemannienne induite sur le br tangent.

Notons : T M M le br tangent de M et la connection de Levi-Civita de (M, g). Rappelons que le br tangent T T M de T M est la somme directe T T M = H V de deux sous-brs, dits vertical et horizontal, telle que Vv = Ker Tv = Tv (Tx M ) = Tx M pour tout v Tx M , si prH : T T M V est la projection sur V paralllement H, alors la restriction (T )|Hv : Hv Tx M Hv de lapplication tangente de est un isomorphisme linaire pour tout v Tx M , et pour tous les champs de vecteurs X, Y (T M ), nous avons X Y = prH T Y X . Munissons T M de lunique mtrique pseudo-riemannienne g telle que, pour tous les x M et v Tx M , les sous-espaces Hv et Vv soient orthogonaux pour gv , et les deux applications (T )|Hv : Hv Tx M et id : Vv Tx M soient des isomtries entre les deux restrictions de gv et gx . Notons que la signature de g est (2p, 2q). En particulier, si g est riemannienne, alors cette mtrique g sur T M est riemannienne. Champs de Killing.

Soit (M, g) une varit pseudo-riemannienne. Un champ de Killing de (M, g) est un champ de vecteurs X (T M ) tel que LX g = 0, o la drive de Lie des tenseurs par un champ de vecteurs a t dnie dans la partie 2.3. De manire quivalente par la premire question de lexercice ci-dessous, X (T M ) est un champ de Killing si et seulement si lendomorphisme X : Y Y X du C (M )-module (T M ) est antisymtrique pour la forme C (M )-bilinaire g : (T M ) (T M ) C (M ). Exercice E.29 Soit (M, g) une varit pseudo-riemannienne, et sa connection de LeviCivita. (1) Montrer que (LX g)(Y, Z) = g(Y X, Z) + g(Y, Z X) . (2) Montrer que lensemble des champs de Killing de (M, g) est une sous-algbre de Lie de lalgbre de Lie ((T M ), [, ]). (3) Montrer quun champ de vecteurs X est de Killing si et seulement si son ot local (t ) est form disomtries locales de (M, g).

170

3.3

Godsiques

Soient (M, g) une varit pseudo-riemannienne et sa connexion de Levi-Civita. Nous appellerons godsique de (M, g) les godsiques de . Ce sont les courbes lisses c : I M dont lacclration covariante pour est nulle, cest--dire dont le champ de vecteurs vitessse est parallle (pour la connexion de Levi-Civita), cest--dire vriant d c = 0 .
dt

d g(c, c) = 2g( d c, c) , dt dt lapplication t gc(t) (c(t), c(t)) est constante pour toute godsique c. x1 Une godsique c de (M, g) est dite de type temps, de type lumire, de type espace si cette constante est respectivement strictement ngative, nulle, strictement positive. Dans lespace pseudo-euclidien R1,n muni de la mtrique lorentzienne constante g1,n , ces godsiques non constantes passant par 0 sont respectivement les droites rencontrant lintrieur du cne de lumire (o g1,n < 0), les droites contenues dans le cne de lumire (o g1,n = 0), les droites rencontrant lextrieur du cne de lumire (o g1,n > 0). godsique temps

Notons que comme

godsique espace

godsique lumire

En particulier, si g est riemannienne, alors toute godsique non constante est de type espace, et la norme c du vecteur vitesse dune godsique c est constante. Si g est riemannienne, nous dirons quune courbe c de classe C1 par morceaux est paramtre vitesse constante si la norme c de son vecteur vitesse est constante le long de c. Il dcoule immdiatement de lquation des godsiques que tout reparamtrage vitesse constante dune godsique est encore une godsique. Nous avons dmontr dans la partie 2.3.5 que pour tout x M et tout v Tx M , il existe une unique godsique cv : Iv M de (M, g) dnie sur un intervalle ouvert maximal Iv contenant 0 tel que cv (0) = x et cv (0) = v. De plus, U = vT M Iv {v} est un voisinage ouvert de {0} T M dans R T M , et lapplication (t, v) cv (t) de U dans M est lisse. Lapplication lisse : U T M dnie par t (v) = cv (t) v (t, v) t (v) = cv (t) cv (t) x sappelle le ot godsique de (M, g). Remarques. (1) Cest un ot local, au sens que pour tout v T M , nous avons 0 (v) = v et pour tous les s, t R tels que t, s + t Iv , alors s It (v) et s (t (v)) = s+t (v) . 171

(2) Le champ de vecteurs lisse Z g (T T M ) dni par d t (v) Tv T M v Z g (v) = dt |t=0 est appel le champ de vecteurs godsique de g. Si T T M = H V est la dcomposition du br tangent de T M en sous-br vertical et sous-br horizontal dni par la connexion de Levi-Civita de (M, g), alors Z g (v) est lunique lment de Hv tel que, si : T M M est la projection canonique, alors Tv (Z g (v)) = v.

Vv Z g (v) Tv v x

Hv

Tx M M

(3) Si la connexion de Levi-Civita de (M, g) est complte (ce qui sera le cas dans la plupart des situations que nous rencontrerons), le ot godsique est dni sur tout R T M . Alors (t )tR est un groupe un paramtre lisse de C -diomorphismes de T M , cest--dire que lapplication : R T M T M est lisse, vrie 0 = idT M et t s = t+s pour tous les s, t R. En particulier, lapplication t : T M T M est un C -diomorphisme pour tout t R.

(4) Supposons g riemannienne et M de dimension n. Lapplication norme : T M R de g est homogne ( tv = t v si t > 0), donc est une submersion lisse en dehors de (limage de) la section nulle. Le sous-espace T 1 M = {v T M : v = 1} est donc une sous-varit lisse de T M , et la restriction T 1 M de la projection canonique : T M M , encore note , est une bration de bre Sn1 de dimension n 1 sur M . Cette bration : T 1 M M est appele le br unitaire tangent de (M, g). Remarquons que T 1 M est compacte si M lest, alors que T M nest jamais compacte si n 1. Les godsiques tant paramtres vitesse constante, le ot godsique t prserve le br unitaire tangent T 1 M de M . Plus gnralement, le ot godsique dune varit riemannienne prserve la norme des vecteurs tangents. Le ot godsique dune varit riemannienne (et en particulier le ot godsique sur son br tangent unitaire) est un exemple fondamental de systme dynamique (voir [KH]). Exemples. (i) Nous avons vu que les godsiques de lespace pseudo-euclidien standard Rp,q (dont la connexion de Levi-Civita est la connexion triviale) sont les segments de droites paramtrs de manire ane. Si n = p + q, son ot godsique t linstant t est lapplication de T Rn = Rn Rn dans T Rn = Rn Rn dnie par t : (x, v) (x + tv, v) . Plus gnralement, si M est une sous-varit de Rp,q , dont la premire forme fondamentale est non dgnre en tout point de M , alors les godsiques de M sont les courbes c traces sur M dont lacclration c est normale M : si c : I M est une courbe lisse, et si v v est la projection orthogonale de Rp,q sur Tx M , alors nous avons vu que d c (t) = c(t)
dt

172

En particulier, les arcs de grands cercles de la sphre Sn , paramtrs vitesse constante, dont lacclration est normale la sphre (centrifuge), sont des godsiques de (Sn , ds2 ), et sph par unicit ce sont les seules.

n Dans le modle du demi-hyperbolode suprieur (H+ , ds2 ) de lespace hyperbolique hyp n rel Hn , les arcs des intersections de H+ avec des plans vectoriels de Rn+1 paramtrs R vitesse constante (pour la mtrique lorentzienne), sont des godsiques car leur acclration n est normale (pour la mtrique lorentzienne) H+ , et par unicit ce sont les seules. En utilisant les isomtries entre modles, il en dcoule que les godsiques du modle de la boule de Poincar (Bn , ds2 ) de lespace hyperbolique rel Hn sont les arcs de demihyp R cercles et de segments de droites perpendiculaires au bord de la boule, paramtrs vitesse constante. De mme, les godsiques du modle du demi-espace suprieur de Lobatchevski (Rn , ds2 ) de lespace hyperbolique rel Hn sont les arcs de demi-cercle et demi-droites + R hyp perpendiculaires au bord du demi-espace, paramtrs vitesse constante (voir la gure ci-dessous). Pour tout x Hn , lapplication expx : Tx Hn Hn est un C -diomorphisme. R R R

xn

(ii) Si p : M M est un revtement pseudo-riemannien, alors, par unicit et le thorme de relvement des courbes (et puisque un revtement pseudo-riemannien est une isomtrie locale), les godsiques de M sont les composes par p des godsiques de M . Si la connexion de Levi-Civita de M est complte, alors celle de M lest. Dans ce cas, si (t )tR est le ot godsique de M , alors le ot godsique de M est lunique ot (t )tR sur T M tel que le diagramme suivant commute pour tout t R TM Tp TM T M Tp t T M ,
t e

et rciproquement, si (t )tR est le ot godsique de M , alors le ot godsique de M est lunique ot (t )tR sur T M tel que le diagramme ci-dessus commute. En particulier, les godsiques des tores plats En / o est un rseau de Rn sont les images des segments de droites de Rn paramtrs vitesse constante. Les godsiques des espaces projectifs rels Pn (R) sont les images, par la projection canonique Sn Pn (R) = Sn /{1}, des 173

(iii) Soit g une mtrique pseudo-riemannienne sur M conforme g, de facteur de conformalit e2f . Alors il dcoule de la proposition 3.7 que les godsiques de g sont les courbes lisses c : I M telles que, pour tout t I, gd c(t) = g(c(t), c(t)) grad f (c(t)) 2
dt

arcs de grands cercles de Sn paramtrs vitesse constante. Les godsiques des varits hyperboliques quotients \Hn , o est un sous-groupe du groupe des isomtries de Hn R R agissant librement et proprement sur Hn , sont les composes par la projection canonique R Hn \Hn des godsiques de Hn . R R R

d(f c) (t) c(t) , dt

une formule qui nest pas dusage pratique. (iv) Soient (M, g) et (M , g ) deux varits pseudo-riemanniennes. Les godsiques de la varit pseudo-riemannienne produit (M M , g g ) sont les applications lisses t (c(t), d(t)) telles que t c(t) et t d(t) sont des godsiques de (M, g) et (M , g ) respectivement. En eet, comme (T (M M )) = (T M ) (T M ), par unicit, il est facile de vrier que la connexion de Levi-Civita de (M M , g g ) est la connexion produit des connexions de Levi-Civita de (M, g) et (M , g ), dnie par ggX ) (Y, Y ) = g Y , g Y . X X (X, Remarquons que la godsique t (c(t), d(t)) est paramtre par longueur darc si et seulement si, en posant a = c(t) et b = d(t) , nous avons a2 + b2 = 1. En particulier, si t t c et d sont paramtres par longueur darc, alors t (c( 2 ), d( 2 )) lest aussi. (v) Soient G un groupe de Lie rel, dlment neutre e, dalgbre de Lie g, et g une mtrique riemannienne bi-invariante sur G. Exercice E.30 (1) Montrer que lapplication inverse i : G G, dnie par x x1 , est une isomtrie de (G, g) xant e telle que Te i = idg. En dduire que G est globalement symtrique (voir la partie 4.1), cest--dire que pour tout x G, il existe une isomtrie sx de (G, g) xant x telle que Tx sx = idTx G . (2) Pour tout v g, soit c la godsique maximale dnie sur un voisinage de 0 dans R telle que c(0) = e et c(0) = v. Montrer que c est dnie sur tout R, et que c est un sous-groupe un paramtre de G. En dduire que la connexion de Levi-Civita de (G, g) est complte, et que les godsiques de (G, g) sont les courbes intgrales des champs de vecteurs invariants gauche. (3) Montrer que lapplication exponentielle exp : g G du groupe de Lie G concide avec lapplication exponentielle expe : Te G G de la varit riemannienne (G, g). (4) Si est la connexion de Levi-Civita de (G, g), montrer que pour tous les champs de vecteurs X, Y (T G) invariants gauche, nous avons 1 X Y = [X, Y ] . 2 Nous concluons cette partie par une utilisation de lapplication exponentielle pour tudier le groupe des isomtries dune varit pseudo-riemannienne. Rappelons que si X et Y sont deux espaces mtrisables localement compacts, la topologie compacte-ouverte (ou topologie de la convergence uniforme sur les compacts) est 174

la topologie sur lensemble C (X; Y ) des applications continues de X dans Y telle pour tout f C (X; Y ), pour toute distance d induisant la topologie de Y , les ensembles {f C (X; Y ) : supxK d(f (x), f (x)) < } o K est un compact de X et > 0 forment un systme fondamental de voisinages ouverts de f . Nous renvoyons par exemple [Hel] pour une dmonstration du rsultat suivant. Thorme 3.9 (Thorme de Myers-Steenrod) Pour toute varit pseudo-riemannienne (M, g), le groupe Isom(M, g) des isomtries de (M, g), muni de la topologie compacte-ouverte, admet une unique structure de groupe de Lie rel, et laction de Isom(M, g) sur M est lisse. Remarque. Laction de G = Isom(M, g) sur M tant lisse, pour tout x M le stabilisateur Gx = { G : x = x} de x dans G, appel le sous-groupe disotropie de (M, g) en x, est un sous-groupe de Lie plong (donc ferm) de G (voir le lemme 1.56). Lapplication de Gx dans le groupe orthogonal O(gx ) O(p, q) de la forme bilinaire symtrique gx sur Tx M , dnie par Tx , est un morphisme de groupes de Lie, appel la reprsentation disotropie de (M, g) en x. Proposition 3.10 Pour toute varit pseudo-riemannienne connexe (M, g), la reprsentation disotropie Tx du stabilisateur dans Isom(M, g) dun point x de M est un isomorphisme sur un sous-groupe ferm de O(gx ). Dmonstration. Soit un lment dans le noyau de la reprsentation disotropie en x. Notons A lensemble des points y de M o (y) = y et Ty = idTy M . Il est non vide car x A. Il est clairement ferm, par continuit de et de T . Montrons quil est ouvert. Soient y A et U un voisinage ouvert de 0 dans Ty M tel que expy soit un diomorphisme de U sur un voisinage ouvert de y dans M . Pour tout v Ty M , si c : [0, 1] M est la godsique de vecteur initial v dorigine y, alors c : [0, 1] M est la godsique de vecteur initial Ty (v) dorigine y. Nous avons donc expy (v) = expy (Ty (v)) = expy (v) pour tout v U . Donc A contient le voisinage ouvert expy (U ) de y. Do A est ouvert, et par connexit de M , nous avons A = M . En particulier = idM . Le rsultat prcdent implique que si g est riemannienne, alors le stabilisateur dans Isom(M, g) dun point x de M est compact, car le groupe orthogonal dun produit scalaire lest. Il implique aussi que si M est connexe, alors deux isomtries ayant la mme image en un point, et ayant mme direntielle en ce point, sont gales ; en particulier, une isomtrie xant un point de M et dont la direntielle vaut lidentit sur lespace tangent en ce point est lidentit. Ceci peut permettre de dterminer compltement les groupes disomtries de varits riemanniennes. Corollaire 3.11 Linclusion canonique du groupe des rotations-translations Rn O(n) dans Isom(En , ds2 ) est un isomorphisme de groupes de Lie. euc Lapplication canonique de O(n + 1) dans Isom(Sn , ds2 ) est un isomorphisme de sph groupes de Lie. n Lapplication canonique de O+ (1, n) dans Isom(H+ , ds2 ) est un isomorphisme de hyp groupes de Lie. 175

Dmonstration. Il sut de montrer, par la proposition prcdente, que les sous-groupes en question agissent transitivement sur les bases orthonormes des espaces tangents aux divers points des varits riemanniennes en question. Pour montrer ceci, comme ces varits sont homognes, il sut de montrer que le stabilisateur dun point x agit transitivement sur les bases orthonormes de son espace tangent. Or les stabilisateurs des points (0, . . . , 0) En , (1, 0, . . . , 0) Sn et (1, 0 . . . , 0) n H+ sont respectivement StabRn O(n) (0, . . . , 0) = O(n) StabO(n+1) (1, 0, . . . , 0) = et StabO+ (1,n) (1, 0, . . . , 0) = 1 0 0 x 1 0 0 x : x O(n) : x O(n) .

Leurs actions sur lespace tangent en ces points sont linairement conjugues laction linaire de O(n) sur Rn . Celle-ci est clairement transitive sur les bases orthonormes, do le rsultat. Exercice E.31 (1) Pour tous les p, q N, dterminer les groupes disomtries des espaces pseudo-euclidiens standards (Rp,q , ds2 p,q ). R (2) Dterminer les groupes disomtries des varits pseudo-riemanniennes Sn,p et Hn,p dnies dans lexemple (ii) de la partie 3.1. Le but de la partie suivante est de donner, dans le cas riemannien qui nous intresse de manire prpondrante, une interprtation non direntielle aux godsiques.

3.4

Distance riemannienne

Soit (M, g) une varit riemannienne. Rappelons quune courbe c : [a, b] M est dite de classe C1 par morceaux si elle est continue et sil existe une subdivision nie t0 = a t1 tn = b de lintervalle [a, b] telle que la restriction de c chaque morceau [ti1 , ti ] soit de classe C1 pour tout i {1, . . . , n}. Un paramtrage dun intervalle I de R est une application continue, monotone, surjective : J I o J est un intervalle de R. Notons que nest pas forcment injective, mais quelle est direntiable presque partout (pour la mesure de Lebesgue). Si I = [a, b] et J = [c, d], pour toute application continue f : R, avons avons
b d

f (t) dt =
a c

f (s) | (s)| ds .

Pour toute courbe c : [a, b] M de classe C1 , appelons longueur de c pour g et nergie de c pour g les quantits respectives
b

long(c) =
a

c(t) dt et E(c) =

1 2

c(t)
a

dt .

En sommant sur chaque morceau, on dnit aussi la longueur long(c) et lnergie E(c) dune courbe c de classe C1 par morceaux. Notons que la longueur ne dpend pas du paramtrage C1 par morceaux de c, par changement de variable, mais que lnergie en 176

dpend. Bien sr, si c : [a, b] M est paramtre vitesse constante (par exemple si c est une godsique), alors long(c) = c(a) |b a| et E(c) = 1 c(a) 2
2

|b a| .

La distance riemannienne de (M, g) est lapplication d = dg : M M [0, +[, o, pour tous les x, y M , le rel d(x, y) est la borne infrieure des longueurs des courbes C1 par morceaux de x y. Une courbe c : I M de classe C1 par morceaux, o I est un intervalle de R, est dite minimisante si pour tous les s t dans I, la longueur de c|[s,t] est gale d(c(s), c(t)), cest--dire la borne infrieure des longueurs des courbes C1 par morceaux de c(s) c(t). Par additivit de la longueur, si c : [a, b] M est une courbe C1 par morceaux de longueur gale d(c(a), c(b)), alors c est minimisante, sinon nous pourrions trouver une courbe C1 par morceaux strictement plus courte entre c(a) et c(b).

c(s) c(a)

c(t)

c(b)

Une courbe c : I M de classe C1 par morceaux est dite localement minimisante si pour tout t0 I, il existe un voisinage I0 de t0 dans I tel que c|I0 soit minimisante. Le rsultat suivant dit que la distance riemannienne est bien une distance (sur chaque composante connexe de M ). Limportance de cette distance est cruciale en gomtrie riemannienne. Il est possible de retrouver presque tous les objets introduits dans ce cours pour les varits riemanniennes partir de la distance riemannienne, et nous essaierons de donner, au moins en parallle, une telle approche de manire systmatique. Ce point de vue a t popularis par Gromov, et nous conseillons fortement ltude de ses livres [Gro2, Gro1].

Proposition 3.12 Si M est connexe, la distance riemannienne est une distance sur M , induisant la topologie de M . Toute varit riemannienne sera dsormais munie de sa distance riemannienne. Dmonstration. Par connexit de M , lapplication dg est bien dnie et positive. Par rversibilit et additivit de la longueur, il est immdiat que dg est symtrique et vrie lingalit triangulaire. Soient x et y deux points distincts de M . Quitte prendre une carte locale, nous pouvons supposer quun petit voisinage ouvert U de x est contenu dans Rn , dont nous notons euc la norme usuelle. Soit > 0 tel que la boule euclidienne B de centre x et de rayon soit contenu dans U et ne contienne pas y. y x U

Par continuit de la mtrique g, il existe a > 0 tel que pour tout z B , pour tout 1 v Tz M = Rn , nous avons a2 v 2 gz (v, v) a2 v 2 . Par le thorme des valeurs euc euc intermdiaires, toute courbe c C1 par morceaux de x y devant traverser la sphre eucli1 dienne S de centre x et de rayon , sa longueur pour g est au moins a fois la longueur 177

 pour la distance euclidienne dun chemin de x S , donc au moins a > 0. Donc dg vrie laxiome de sparation des distances. Ce qui prcde montre que la longueur dune courbe contenue dans U pour g est au 1 plus a fois, et au moins a fois, sa longueur pour la distance euclidienne. Comme la distance euclidienne entre deux points est la borne infrieure des longueurs euclidiennes des chemins entre ces points, la distance dg est donc quivalente la distance euclidienne en restriction U . Comme U contient la boule pour dg de centre x et de rayon a , ceci implique que la topologie dnie par dg et la topologie originale concident.

Nous allons montrer, aprs quelques dnitions, que les courbes localement minimisantes, paramtres vitesse constante, sont les godsiques, et donner une caractrisation purement en terme de la distance riemannienne des godsiques. (Carte exponentielle et rayon dinjectivit) Nous avons vu que pour tout x M , il existe > 0 tel que lapplication exponentielle expx de (M, g) en x est un C diomorphisme sur son image de la boule ouverte B de centre 0 et de rayon dans lespace euclidien Tx M valeurs dans M , appel une carte exponentielle en x. Le rayon dinjectivit de M en x, not injM (x) ]0, +], est la borne suprieure de ces > 0. Le rayon dinjectivit de M , not inj(M ), est la borne infrieure des rayons dinjectivit de M en un point de M (il peut tre nimporte quel lment de [0, +]). Par les proprits de lapplication exp : T M M , lapplication x injM (x) est semi-continue infrieurement. Par exemple, le rayon dinjectivit en tout point de lespace euclidien standard En est +, celui en tout point de la sphre standard (Sn , ds2 ) est , et celui en tout point de sph chaque modle de lespace hyperbolique rel Hn est +. R Exercice E.32 Montrer que la carte exponentielle (maximale) au point 0 du modle de la boule (de Poincar) du plan hyperbolique rel H2 est lapplication exp0 : R2 B2 dnie R (en coordonnes polaires) par r ei log 1 + r i e . 1r

(Longueur des courbes continues et espaces de longueur) Soit (X, d) un espace mtrique. Pour tout chemin continu c : [a, b] X dans X, appelons longueur de c pour la distance d, et notons longd (c) [0, +], la borne suprieure des n d(c(ti ), c(ti+1 )) o i=0 a = t0 < t1 < < tn < tn+1 = b est une subdivision de lintervalle [a, b]. La longueur ne dpend pas du paramtrage : pour tout homomorphisme f : [a , b ] [a, b], les longueurs de c et de c f sont gales. Un chemin continu c : I X est dit paramtr par longueur darc (respectivement proportionnellement la longueur darc) si longd (c|[s,t] ) = t s pour tous les s t dans I (respectivement sil existe > 0 tel que pour tous les s t dans I, nous ayons longd (c|[s,t] ) = (t s) ). 178

(Minimisation de lnergie) Nous dirons quune courbe c : I M de classe C1 par morceaux, o I est un intervalle de R, minimise lnergie si pour tous les s t dans I, lnergie de c|[s,t] est gale la borne infrieure des nergies des courbes : [s, t] M de classe C1 par morceaux entre c(s) et c(t). Une courbe c : I M de classe C1 par morceaux minimise localement lnergie si pour tout t0 I, il existe un voisinage I0 de t0 dans I tel que c|I0 minimise lnergie.

Un chemin continu c : I X dans X est dit rectiable pour d si la longueur de c|[a,b] pour d est nie, pour tous les a b dans I. Si c : [a, b] X est un chemin continu rectiable, alors lapplication f : [a, b] R dnie par t longd (c|[a,t] ) est une application continue croissante (pas forcment injective) dimage un intervalle [0, L]. Soit g : [0, L] [a, b] lapplication continue gauche (mais pas forcment droite) dnie par g(t) = inf{s [a, b] : f (s) = t}, qui est gale f 1 si f est de plus injective. Lapplication c c g : [0, L] X est un chemin continu paramtr par longueur darc tel que c f = c, appel reparamtrage par longueur darc de c. Pour tous les x, y dans X, notons d (x, y) [0, +] la borne infrieure des longueurs pour d des chemins continus de x y. Notons que d (x, y) d(x, y), donc si X est connexe par chemins rectiables (au sens vident), alors d est une distance sur X, appele la distance de longueur induite par d. Si X est une partie dun espace mtrique Y , alors la distance de longueur induite par la distance induite sur X par celle de Y est appele la distance de longueur induite de X par la distance de Y . Nous prendrons bien garde ne pas confondre la distance induite et la distance de longueur induite. Par exemple, deux points antipodaux du cercle sont distance induite 2, mais distance de longueur induite .

Courbe de von Koch

1 4

1 2

Rappelons que la courbe de von Koch est le sous-espace ferm born K de R2 obtenu de la manire suivante (voir la gure ci-dessus). Considrons la suite (Kn )nN de lignes polygonales du plan R2 , o Kn est form de 4n segments conscutifs de longueurs 31 , qui n est dnie ainsi par rcurrence : K0 est lintervalle unit horizontal [0, 1] ; Kn+1 est obtenu partir de Kn en subdivisant en trois chacun des 4n segments de Kn , et en remplaant le tiers du milieu par les deux autres cts du triangle quilatral ayant comme base (et situ gauche en parcourant Kn , bien que ceci nait gure dimportance). Lapplication cn : [0, 1] Kn , obtenue en dcoupant lintervalle [0, 1] en 4n segments de longueurs gales, puis en prenant sur chacun de ces segments une application ane sur le segment correspondant de Kn , est uniformment de Cauchy, donc converge vers une application continue c de [0, 1] dans R2 , dont limage est K. Cette courbe c nest pas rectiable, car la longueur de c est suprieure ou gale la longeur de cn pour tout n N, et la longueur n de cn est 4 qui tend vers +. Si (X, d) est lespace mtrique K muni de la distance 3 induite de R2 , alors la distance de longueur d nest pas une distance : d (x, y) vaut 0 si x = y et + sinon. 1 Considrons le sous-espace X de R2 dni par X = [0, 1]{0} nN { n+1 }[0, 1] , muni de la distance d induite par celle de R2 (voir la gure de droite ci-dessus). Alors la topologie induite par la distance par longueur d nest pas la topologie de X : la suite de 1 points ( n+1 , 1) de X converge vers (0, 1) dans X pour la topologie induite par celle de R2 , mais pas pour la topologie induite par la distance de longueur d . Un espace mtrique (X, d) est appel un espace de longueur si la distance de longueur induite d associe d est gale d. 179

Proposition 3.13 Soit (M, g) une varit riemannienne. 1 (1) Soient x M , s [0, injM (x)[ et v Tx M . Lapplication de [0, s] dans M dnie par t expx tv est lunique godsique entre x et expx (sv). Cest lunique courbe C1 par morceaux, paramtre vitesse constante, minimisante entre ces deux points. La sphre (respectivement boule) de centre x et de rayon s pour la distance riemannienne est limage par expx de la sphre (respectivement boule) de centre 0 et de rayon s dans lespace euclidien (Tx M, gx ) : BM (x, s) = expx BTx M (0, s) . (2) Soit x0 M . Il existe un voisinage ouvert U de x0 dans M tel que pour tous les x, y dans U , il existe une et une seule godsique minimisante c : [0, d(x, y)] M entre x et y. (3) Soit c : I M une courbe C1 par morceaux. Les conditions suivantes sont quivalentes : c est une godsique (donc est lisse) ; c est paramtre vitesse constante et est localement minimisante ; c est localement minimisante pour lnergie ; (4) Si c : [a, b] M est une courbe C1 par morceaux, paramtre vitesse constante, de longueur gale d(c(a), c(b)), alors c est une godsique minimisante. (5) Si c : [a, b] M est une courbe continue dont la longueur pour la distance riemannienne est gale la distance d(c(a), c(b)) entre ses extrmits, alors c admet un unique paramtrage lisse vitesse constante (donc faisant de c une godsique minimisante). Les godsiques sont donc les courbes continues, paramtres proportionnellement la longueur darc, dont la longueur (pour la distance riemannienne) entre deux points susamment proches minimise la longueur des courbes continues entre ces deux points. (6) Si M est connexe, la distance riemannienne d est gale sa distance de longueur associe. Nous verrons dans lexercice E.41 que dans lasssertion (2), nous pouvons prendre U tel que limage de la godsique minimisante c entre deux points de U reste dans U . Il dcoule de la proprit (5) que toute limite uniforme de godsiques minimisantes cn : [0, 1] M est encore une godsique minimisante. Nous aurons besoin du lemme suivant, aussi utile par lui-mme. Lemme 3.14 (Lemme de Gauss) Soit (M, g) une varit pseudo-riemannienne. Pour tous les x M et v, w Tx M tels que expx soit dnie en v, nous avons Tv expx (v) et Tv expx (v), Tv expx (w)
expx v exp x v

= v

= v, w

1 En particulier, si (M, g) est riemannienne, en identiant ]0, injM (x)[ Tx M et la boule pointe BTx M (0, injM (x)) {0} par (r, u) ru, lexpression de la mtrique g dans une carte exponentielle en x est g(r,u) = dr 2 + hr,u , 1 o hr,u est un produit scalaire sur Tu Tx M = u .

180

Si g est riemannienne, ce lemme dit que lapplication exponentielle prserve les produits scalaires avec les vecteurs radiaux. En particulier, elle est isomtrique le long des droites vectorielles. De plus, les rayons godsiques issus de x sont perpendiculaires aux sphres pour la distance riemannienne de centre x et de rayons strictement infrieurs inf M (x). Par exemple, il est laiss en exercice de montrer que les mtriques euclidiennes, sphriques, hyperboliques de E2 , S2 , H2 sont, dans la carte exponentielle maximale en tout point R et en notant d 2 la mtrique riemannienne sphrique sur le cercle, respectivement de la forme ds2 = dr 2 + r 2 d 2 o` r > 0 , u euc ds2 = dr 2 + sin2 r d 2 o` 0 < r < , u sph u ds2 = dr 2 + sinh2 r d 2 o` r > 0 . hyp E2 S2

0 H2 R

Dmonstration. Comme cv : t expx (tv) est une godsique et Tv expx (v) = cv (1), la premire quation est une consquence du fait que la norme du vecteur vitesse dune godsique est constante, et de plus cest une consquence de la seconde quation en prenant w = v. Pour tout > 0 assez petit, notons N = ], 1+[ ], [ et f : N M lapplication (t, s) expx (tv + tsw) , qui est bien dnie et lisse si est assez petit. Reprenons les notations de la proposition 2.38 : pour X (T N ), notons X (f T M ) la section lisse du br image rciproque f T M dnie par X(x) = Tx f (X(x)) ; notons la connexion image rciproque f sur f T M ; notons g la mtrique pseudo-euclidienne sur le br vectoriel f T M dnie par g x = gf (x) . Notons t et s les champs de vecteurs coordnones de N . Rappelons que le crochet des champs de vecteurs t et s est nul, par le lemme de Schwarz. = 0. Par la proposition 2.38 (1) et (2), en utilisant que la norme des vecteurs vitesses dune En particulier, cv+sw : t f (t, s) est une godsique, et
t t (t, s)

= cv+sw (t), donc

181

godsique est constante, nous avons donc

g , t t s +g , , t s t s t , +[ , ] =g , =g s t s t t t s t 1 d 1 g = , g cv+sw (t), cv+sw (t) = t t 2 s 2 ds 1 d = g(v + sw, v + sw) = g(v, w) + sg(w, w) . 2 ds

=g

Notons h : ] , 1 + [ R lapplication lisse dnie par t Ttv expx (tv), Ttv expx (tw) Remarquons que prcde,
t (t, 0) expx (tv)

= Ttv expx (tv) et

s (t, 0)

= Ttv expx (tw). Nous avons, par ce qui

dh (t, 0) = g(v, w) . , (t) = g t t s dt Comme h(0) = 0 par linarit des applications tangentes, nous avons donc h(t) = tg(v, w) pour tout t ] , 1 + [. Donc h(1) = g(v, w), ce qui est le rsultat cherch.

Dmonstration de la proposition 3.13. 1 (1) Soient x M , v Tx M , s [0, injM (x)[ et cv : [0, s] M la godsique dnie par t expx (tv). La premire armation dcoule du fait que expx est un C -diomorphisme de B(0, s ) sur son image dans M pour tout s < injM (x), et de lunicit dune godsique de vecteur vitesse en son origine donn. Soit c : [a, b] M une courbe C1 par morceaux entre x et expx (sv), montrons que long(c) s. Ceci montrera que cv est minimisante, car long(cv ) = s par la premire afexpx (sv) rmation du lemme de Gauss. Soient s [0, s] le dernier s instant o c passe par x, et s [s , s] le premier instant x = c(s ) c aprs s o c atteint la sphre S(x, s) = expx (STx M (0, s)), qui existent par continuit et compacit et parce que c c(s ) part de x linstant t = 0 et atteint cette sphre linstant t = s. Alors c|[s ,s ] reste dans la carte exponentielle en x, et en notant la coordonne radiale r(t) = (expx )1 c(t) , il dcoule du lemme de Gauss que
s s

long(c) long(c|[s ,s ] ) =
s

c(t) dt

|r(t)| dt

r(t) dt = r(s ) r(s ) = s .

tudions maintenant le cas dgalit. Soit c : [a, b] M une courbe C1 par morceaux entre x0 et expx (sv), paramtre vitesse constante (ce quil est toujours possible de faire 182

sans changer la longueur) telle que long(c) = s. Les cas dgalit dans la suite dingalits ci-dessus montrent que s = 0 et s = s, que c(t) = 1, que c est radiale dans une carte exponentielle en c(0), donc de la forme t r(t)w o w Tc(0) M , et que r(t) est constant, donc que c(t) = tc(0). Puisque c(s) = cv (s), nous avons donc c = cv par la premire armation de (1). (2) Notons : T M M la projection canonique. Nous avons vu quil existe un voisinage U de la section nulle de T M telle que lapplication de U dans M M dnie par v ((v), exp v) est un C -diomorphisme local sur un voisinage de la diagonale. Donc pour tout x0 , il existe > 0 et un voisinage ouvert V de x0 tel que pour tous les x, y dans V , il existe une unique godsique c : [0, 1] M entre x et y telle que c(0) < . (Notons que la longueur de c est donc strictement infrieure , mais quil pourrait exister une autre godsique entre x et y dont la longueur est suprieure .) Si V est assez petit, cette godsique est contenue dans une carte exponentielle en x, donc est minimisante par (1). (3) Pour obtenir lquivalence des trois points de cette assertion, montrons tout dabord que le troisime point implique le premier. Soit c : [a, b] M une courbe C1 par morceaux. Par lingalit de Cauchy-Schwarz,
b

2 E(c) =
a

c(t)

dt

b a

c(t) dt
b a 1

dt

long(c)2 , (b a)

( 31 )

avec galit si et seulement si c(t) est constant, cest--dire si c est paramtre vitesse constante. En particulier, une courbe qui minimise localement lnergie est paramtre vitesse constante. De plus, si : [a, b] M est une courbe C1 par morceaux entre c(a) et c(b), si est son reparamtrage vitesse constante par lintervalle [a, b], et si c minimise lnergie, alors long() = long() = 2E()|b a|
1 2

2E(c)|b a|

1 2

= long(c) .

Donc c est minimisante, et en particulier localement minimisante. Par (1), c est donc (localement) godsique. Montrons maintenant que le premier point implique le second. Nous avons montr au tout dbut de la partie 3.3 quune godsique est paramtre vitesse constante. Le rsultat dcoule alors de (1). Montrons enn que le second point implique le troisime. Soit c : I M une courbe par morceaux, paramtre vitesse constante, localement minimisante. Montrons que c minimise localement lnergie. Quite restreindre I, nous pouvons supposer que c est minimisante. Pour tous les a b dans I, pour toute courbe : [a, b] M de classe C1 par morceaux entre c(a) et c(b), par la formule ( 31 ), nous avons C1 2E() long(c)2 long()2 = 2E(c) (b a) (b a)

puisque c est minimisante et paramtre vitesse constante. Donc c minimise lnergie. (4) Ceci dcoule de (3), car nous avons dj vu quune courbe C1 par morceaux dont la longueur est gale la distance entre ses extrmits est minimisante. 183

(5) Soit c : [a, b] M une courbe continue de longueur pour la distance riemannienne d gale la distance d(x, y) entre ses extrmits x = c(a) et y = c(b). En particulier, c est rectiable. Quitte changer son paramtrage, nous pouvons supposer quelle est paramtre par longueur darc, et que a = 0 et b = d(x, y). Montrons que c est une godsique. Pour tous les lments s t dans [a, b], la longueur du chemin continu c[s,t] est gale d(c(s), c(t)), car par additivit de la longueur et lingalit triangulaire, d(c(s), c(t)) longd (c[s,t] ) = longd (c) longd (c[a,s] ) longd (c[t,b] ) d(x, y) d(x, c(s)) d(c(t), y) d(c(s), c(t)) . Puisque la proprit dtre une godsique est locale, nous pouvons donc supposer que x et y appartiennent un voisinage ouvert U comme dans lassertion (2). Soit : [0, d(x, y)] M une godsique minimisante (paramtre par longueur darc) de x y. Si limage de c nest pas contenue dans celle de , il existe alors un point z U hors de limage de qui appartient limage de c. Mais alors la runion des godsiques minimisantes de x z et de z y est une courbe C1 par morceaux de longueur infrieure ou gale celle de c, donc de longueur gale d(x, y), donc est minimisante, donc est gale par unicit, ce qui nest pas possible. Comme les courbes c et ont mme image, mme domaine et sont paramtres par longueur darc, elles concident. (6) Notons d la distance riemannienne de (M, g) et d sa distance de longueur associe, qui vrie d d . Montrons que pour tous les > 0 et x, y M , nous avons d (x, y) d(x, y) + , ce qui montre lassertion (6) en faisant tendre vers 0. Par dnition de d, soit : [0, 1] un chemin C1 par morceaux tel que long() d(x, y) + . Par additivit de la longueur, quitte prendre une subdivision susamment ne 0 = t0 t1 tk = 1, nous pouvons supposer quil existe une godsique minimisante entre (ti1 ) et (ti ) pour tout 1 i k. En concatnant (mettant bout bout) ces chemins, on obtient un chemin godsique minimisant par morceaux entre x et y tel que long( ) long(). Or si est une godsique minimisante, alors sa longueur long() en tant que chemin C 1 par morceaux concide avec sa longueur longd () pour la distance riemannienne, par additivit des distances par subdivision. Comme les deux notions de longueur sont additives, on en dduit que d (x, y) longd ( ) = long( ) long() d(x, y) + , ce qui conclut. Corollaire 3.15 Si M est compacte, alors son rayon dinjectivit est strictement positif, et toute classe dhomotopie (libre) non triviale de lacet contient une godsique ferme. Dmonstration. Par un argument de compacit, il est facile de voir que le rayon dinjectivit de M est strictement positif. Soit ]0, inj(M )[. Soient C une classe dhomotopie non triviale, L la borne infrieure des lments C1 par morceaux de C (tout lacet est librement homotope un lacet C1 par morceaux), et (ci : [0, 1] M )iN une suite de courbes C1 par morceaux de C dont la longueur tend vers L. Notons que L > 0, car M est localement contractile. Nous pouvons supposer que ci est paramtr vitesse constante, et que sa longueur est comprise entre L et L + 1. Ceci implique que ci est uniformment continue, donc converge, par le thorme dAscoli, vers une application continue c : [0, 1] M . Soit 0 = t0 < t1 < < tn < tn+1 = 1 une subdivision de [0, 1] telle que ti+1 ti < L+1 . 184

Quitte remplacer c|[ti ,ti+1 ] par lunique godsique minimisante paramtre par [ti , ti+1 ] entre c(ti ) et c(ti+1 ), nous pouvons supposer que ci est une godsique minimisante entre ti et ti+1 . Par compacit, nous pouvons supposer quitte extraire que c(ti ) et les vecteurs vitesses droite et gauche en ti convergent. La limite c est donc godsique par morceaux, de longueur L. Si elle ntait pas godsique, on pourrait la raccourcir strictement en coupant un angle (voir le dessin ci-contre) : si v v w et w sont des vecteurs unitaires dun espace euclidien, dangle [0, [ , alors tv tw tv tv = 2t(sin 1) < 0. 2 Enn, la limite c est encore dans la classe dhomotopie C , car puisque M est une varit, toute classe dhomotopie est ferme pour la topologie de la convergence uniforme.

Remarque. Soient (M, g) et (M , g ) deux varits riemanniennes connexes et f : M M une application. Alors f est une isomtrie de (M, g) dans (M , g ) si et seulement si f est une isomtrie entre les distances riemanniennes dg et dg . Le sens direct est immdiat par dnition de la distance riemannienne. La rciproque dcoule de la caractrisation mtrique des godsiques, une isomtrie pour les distances riemanniennes devant envoyer godsique minimisante sur godsique minimisante (de mme longueur), donc tre de classe C1 et prserver les normes riemanniennes, donc tre de classe C en regardant en carte exponentielle. En particulier, le groupe des isomtries de la mtrique riemannienne g est gal au groupe des isomtries de la distance riemannienne dg : Isom(M, g) = Isom(M, dg ) . Il dcoule de ceci que si (M, g) est une varit riemannienne compacte, alors par le thorme dAscoli, le groupe topologique Isom(M, g) est compact (pour la topologie compacteouverte). Remarque. Si (M, g) est une varit riemannienne connexe et complte, alors lapplication exponentielle en tout point de M est surjective. Ceci implique immdiatement que deux isomtries ayant la mme image en un point, et ayant mme direntielle en ce point, sont gales (nous avions vu que ce rsultat tait vrai sans lhypothse de compltude). 3.4.1 Calcul des distances et formules trigonomtriques sphriques et hyperboliques

Soit n 2. Le but de cette partie est de donner un formulaire pour les angles et distances dans les espaces euclidien En , hyperbolique rel Hn et sphrique Sn standards. R Lemme 3.16 Si , est le produit scalaire usuel de Rn+1 , si d est la distance riemannienne de (Sn , ds2 ), alors, pour tous les x, y Sn , nous avons sph cos d(x, y) = x, y . Dmonstration. La longueur du plus court arc de grand cercle entre x et y est langle en 0 entre x et y. Nous nonons le rsultat suivant maintenant, pour souligner sa similarit avec le lemme prcdent, mais nous le dmontrerons aprs le lemme 3.21. 185

Lemme 3.17 Si , est le produit lorentzien usuel de R1,n , si d est la distance rien mannienne du modle du demi-hyperbolode suprieur (H+ , ds2 ), alors, pour tous les hyp n , nous avons x, y H+ cosh d(x, y) = x, y . Les deux rsultats suivants calculant la distance hyperbolique dans les deux autres modles sont laisss en exercice, leur utilit nest pas trs grande, et nous indiquons seulement les cas particuliers quil est utile de retenir (ou de savoir retrouver). Nous notons la n. norme euclidienne usuelle de R yn Rn + xn y x 0 y x Bn

Sachant que les demi-droites verticales sont des godsiques dans le modle du demiespace suprieur de Hn , la distance entre deux points x, y de Rn , dont la dernire coor+ R donne est xn , yn , qui sont situs sur une mme verticale, est la longueur hyperbolique du segment vertical qui les joint, cest--dire d(x, y) = log xn . yn

Sachant que les rayons de la boule Bn sont des godsiques dans le modle de la boule de Hn , la distance entre deux points x, y de Bn qui sont situs sur un mme rayon est la R longueur hyperbolique du segment de rayon qui les joint, cest--dire d(x, y) = log (1 + x )(1 y ) . (1 x )(1 + y )

Le calcul suivant de distance hyperbolique dans le modle du demi-plan suprieur R2 + du plan hyperbolique rel H2 est souvent utile. R Lemme 3.18 La distance hyperbolique dans R2 + entre les extrmits dun arc de cercle euclidien centr en un point de laxe horizontal entre les angles ]0, ] et vrie 2 2 sinh = cot . Dmonstration. Utilisons la notation complexe. Puisque les translations horizontales z z + t o t R et les homothties z z o > 0 sont des isomtries de R2 , nous + pouvons supposer que cet arcle de cercle est la courbe injective c : [, ] R2 dnie par + 2 c() = ei . Puisque la norme euclidienne du vecteur vitesse c() = iei est 1, la longueur hyperbolique de cet arc est, en faisant le changement de variable t = tan et puisque 2 2t sin = 1+t2 , 1 2 d dt = = ln tan . = 2 tan t sin
2

186

Do e = cot et sinh = cot . Puisque les arcs de cercles euclidien perpendiculaire 2 laxe horizontal sont godsiques, nous en dduisons que la distance entre c() et c( ) est 2 gale . Le rsultat en dcoule. Exercice E.33 Montrer que la distance riemannienne d du modle du demi-espace suprieur (de Lobatchevsky) Rn de lespace hyperbolique rel Hn vrie, pour tous les x, y Rn + + R de dernire coordonne xn , yn , cosh d(x, y) = 1 + xy . xn y n

Montrer que la distance riemannienne d du modle de la boule (de Poincar) de lespace hyperbolique rel Hn vrie, pour tous les x, y Bn , R sinh d(x, y) = 2 (1 x 2 )(1 y 2 ) xy .

Passons maintenant aux formulaires de trigonomtrie. Proposition 3.19 Soit un triangle euclidien de sommets A, B, C, dangles , , en ces sommets, de longueurs de cts opposs a, b, c, daire S, de rayon du cercle inscrit r et du cercle circonscrit R, et de demi-primtre p = a+b+c . 2 (i) (Formule de Gauss-Bonnet) + + = . (ii) (Loi du cosinus) c2 = a2 + b2 2 a b cos . b c a = = = 2R. (iii) (Loi du sinus) sin sin sin 1 (iv) S = p r = b c sin = p(p a)(p b)(p c). 2 abc . (v) R = (a + b + c)(a + b c)(a b + c)(a + b + c) Dmonstration. Nous renvoyons par exemple [Ber, (Vol. 2) 10.3] pour une dmonstration de ces formules. Proposition 3.20 Soit un triangle sphrique de sommets A, B, C, dangles , , en ces sommets, et de longueurs de cts opposs a, b, c, dintrieur int , de demi-primtre p = a+b+c strictement in2 frieur . Notons = 1 | det(A, B, C)| le volume du ttradre 2 2 euclidien de sommets 0, A, B, C, o 0 est le centre de Bn . (i) (Formule de Gauss-Bonnet) = tan + + = 4 tan

B a C b A c

int d volsph

0. De plus

pa pb pc p tan tan tan . 2 2 2 2

(ii) (Loi du cosinus I) cos c = cos a cos b + sin a sin b cos . (iii) (Loi du cosinus II) cos = cos cos + sin sin cos a. 187

(iv) (Loi du sinus) (v) =

sin a sin b sin c = = . sin sin sin sin p sin(p a) sin(p b) sin(p c) .

1 sin b sin c sin = 2

Le cas particulier de la formule de Gauss-Bonnet ci-dessus est en fait d Girard (1625). La seconde loi du cosinus sphrique, qui na pas danalogue en gomtrie euclidienne, dit en particulier que les angles dun triangle non aplati dterminent les longueurs de ses cts. Dmonstration. (ii) Soient u et v les vecteurs (unitaires) B vitesse en cC des cts de C A et de C B, respectivev a ment. La godsique dorigine x Sn et de vecteur vitesse c 1 w Tx Sn linstant t = 0 est b A C u c : t cos t x + sin t w , car cette courbe est paramtre par longueur darc (cest-dire c(t) = 1) et son image est un arc de grand cercle. Donc par le lemme 3.16, cos c = A, B = cos b C + sin b u, cos a C + sin a v = cos a cos b C, C + sin a sin b u, v = cos a cos b + sin a sin b cos . Nous renvoyons par exemple [Ber, (Vol. 5) 18.3.8.4, 18.6.13] pour une dmonstration des autres formules. Avant de regarder les formules trigonomtriques hyperboliques, donnons une expression n explicite des godsiques dans le modle du demi-hyperbolode suprieur H+ de lespace n. hyperbolique rel HR
n 1 n n Lemme 3.21 Pour tout x H+ , pour tout v Tx H+ , la courbe c : R H+ dnie par

c : t cosh t x + sinh t v est lunique godsique hyperbolique dnie sur R telle que c(0) = x et c(0) = v.
n n Dmonstration. Pour tout x H+ , nous avons vu que Tx H+ est lorthogonal x de la droite vectorielle passant par x pour la forme lorentzienne standard g1,n . Par dnition, le n produit scalaire sur Tx H+ dni par la mtrique hyperboliqueest la restriction de g1,n sur n = x . Nous avons vu que les godsiques du modle du demi-hyperbolode passant Tx H+ n par x sont les intersections des plans vectoriels contenant x avec H+ , paramtres vitesse 1,n (w, w) la norme dun vecteur tangent w H n pour la constante. Notons w hyp = g + mtrique hyperbolique. La courbe c dnie dans lnonc du lemme a pour image lintersection du plan vectoriel n Vect(x, v) avec H+ , car g1,n (c(t), c(t)) = cosh2 t + sinh2 t v 2 = 1. La norme hyp hyperbolique de son vecteur vitesse c(t) = sinh t x + cosh t v est gale 1, car

c(t)

2 hyp

= g1,n (c(t), c(t)) = sinh2 t + cosh2 t v

2 hyp

=1.

Donc c est lunique godsique hyperbolique telle que c(0) = x et c(0) = v. Dmonstration du lemme 3.17. Avec les notations du lemme prcdent, nous avons g1,n (c(t), x) = (cosh t)g1,n (x, x) = cosh t, ce qui est le rsultat cherch. 188

Proposition 3.22 Soit un triangle hyperbolique de sommets A, B, C, dangles , , en ces sommets, de longueurs de cts opposs a, b, c, et dintrieur int . (i) (Formule de Gauss-Bonnet) = B a c C b 0. A

int d volsph

(iii) (Loi du cosinus II) cos = cos cos + sin sin cosh c. sinh b sinh c sinh a = = . (iv) (Loi du sinus) sin sin sin (v) Si langle en C est droit (cest--dire si = ), alors 2 sin =

(ii) (Loi du cosinus I) cosh c = cosh a cosh b sinh a sinh b cos .

sinh a tanh b , cos = , cosh c = cosh a cosh b , cos = cosh a sin . sinh c tanh c

La seconde loi du cosinus hyperbolique, qui na pas danalogue en gomtrie euclidienne, dit en particulier que les angles dun triangle non aplati dterminent les longueurs de ses cts. Dmonstration. La dmonstration de (ii) est compltement analogue celle pour la sphre, en utilisant les lemmes 3.17 et 3.21. Nous renvoyons par exemple [Bea] et [Bus, 2.2] pour une dmonstration des autres formules.

3.5

Compltude

Soit (M, g) une varit riemannienne. Nous dirons que (M, g) est godsiquement complte si toute godsique de M (dnie sur un intervalle) peut se prolonger en une godsique dnie sur R. Par exemple, dans la varit riemannienne En , lespace point Rn {0} et le demi-espace suprieur Rn , munies + des mtriques riemanniennes induites par la mtrique euclidienne standard de En , ne sont pas godsiquement complets. Thorme 3.23 (Thorme de Hopf-Rinow) Si M est connexe, les conditions suivantes sont quivalentes : 1. le champ de vecteurs godsique Z g sur T M est complet ; 2. la connexion de Levi-Civita g de (M, g) est complte ; 3. la varit riemannienne (M, g) est godsiquement complte ; 5. il existe x M tel que lapplication exponentielle expx soit dnie sur tout Tx M ; 4. pour tout x M , lapplication exponentielle expx est dnie sur tout Tx M ;

6. la distance riemannienne dg de (M, g) est propre (cest--dire que tout ferm born de (M, dg ) est compact) ;

7. la distance riemannienne dg de (M, g) est complte. Si lune de ces conditions est satisfaite, alors deux points quelconques de M peuvent tre joints par au moins une godsique minimisante. 189

Par contre, il ny a pas toujours unicit dune godsique minimisante entre deux points. Par exemple, tous les demi-arcs de grands cercles entre deux points antipodaux de la sphre standard (Sn , ds2 ) sont des godsiques minimisantes. Par contre, pour tous les x, y dans sph Sn , si d(x, y) < alors il existe une et une seule godsique minimisante entre x et y. Dmonstration. Lquivalence des assertions (2) et (4) vient des dnitions de la notion de compltude dune connexion et de la dnition des applications exponentielles en chaque point. Lquivalence entre (1) et (3) vient du fait que la compltude du champ de vecteurs godsique Z g signie que le ot godsique est dni pour tous les temps, et que les godsiques de g sont les projections par T M M des orbites du ot godsique. Il est immdiat que (3) implique (4) implique (5). Montrons que lassertion (5) implique que tout point y de M peut tre joint x par au moins une godsique minimisante. Ceci montrera que lassertion (4) implique la dernire assertion du thorme. Nous pouvons supposer que y = x. Pour > 0 assez petit, puisque la sphre S = expx S(0, ) est compacte, il existe un point p S tel que d(y, p ) = d(y, S). Par le thorme des valeurs intermdiaires, tout chemin continu de x y rencontre S, et tout chemin de x S est de longueur au moins (par le lemme de Gauss). Donc d(x, y) + d(S, y) = d(x, p ) + d(p , y) d(x, y). Do d(x, y) = + d(p , y) . Notons c la godsique (paramtre vitesse 1) de (M, g) partant de x linstant t = 0 et passant par p linstant t = , qui est dnie sur R par hypothse. Notons I = {t [0, d(x, y)] : d(y, c(t)) + t = d(x, y)}. Lensemble I est non vide (il contient [0, ]), clairement ferm, et ouvert par largument prcdent, donc gal [0, d(x, y)]. La godsique c passe donc par y, et elle est minimisante entre x et y car de longueur gale d(x, y). Ceci montre le rsutat cherch. Montrons que (5) implique (6). En eet, par ce qui prcde, tout born de M est contenu dans limage par expx dune boule ferme B(0, R) o R > 0 est assez grand, et expx B(0, R) est compact, car expx est continue. Comme tout ferm dans un compact est compact, lassertion (6) en dcoule. Puisque toute suite de Cauchy est borne, lassertion (6) implique lassertion (7). Enn, montrons que (7) implique (3), ce qui conclut. Nous savons dj que le domaine maximal de dnition dune godsique c : I M est ouvert, montrons quil est ferm dans R, ce qui conclut par connexit. Nous pouvons supposer que la godsique c est paramtr vitesse 1. Si b est une extrmit nie de I, soit (ti )iN une suite dans I qui converge vers b. Comme d(c(ti ), c(tj )) = |ti tj |, la suite c(ti ) est de Cauchy pour la distance riemannienne, donc converge par lassertion (7) vers un point que nous appelons c(b). En considrant une carte exponentielle en c(b), on peut donc prolonger c sur ]b , b + [ pour assez petit, et donc lassertion (3) en dcoule. Exemples. (1) Par lassertion (6), si une varit riemannienne M est compacte, alors sa connexion de Levi-Civita est complte. Ceci nest plus vrai si M est une varit pseudoriemannienne. En particulier (Sn , ds2 ) est complte sph (2) Les varits pseudo-riemmanniennes Rp,q (et en particulier la varit riemannienne En ) et Sn,p et Hn,p (et en particulier la varit riemannienne Hn ) sont compltes. R 190

Proposition 3.24 Soient M et N des varits riemanniennes connexes et f : M N une application. (1) Si f est une isomtrie locale et si M est complte, alors f est un revtement riemannien, et N est complte. (2) Si N est complte et si f est un revtement riemannien, alors M est complte. Dmonstration. Rappelons quune application g entre deux espaces mtriques X et Y est une isomtrie locale si pour tout x X, il existe des voisinages ouverts U de x et V de g(x) tels que g : U V soit une isomtrie pour les distances induites. (1) Tout dabord, f est continue et surjective, car son image est ouverte et complte, donc ferme. Pour tout y N , soit > 0 assez petit pour que expy soit un C -diomorphisme de B(0, 2) sur son image. Pour tout x f 1 (y), notons Ux = expx (B(0, )) la boule ouverte de centre x et de rayon (pour la distance riemannienne de M ). Les ouverts Ux et Ux sont disjoints si x = x , car sinon d(x, x ) < 2 par lingalit triangulaire, et donc limage par f dune godsique minimisante de x x serait une godsique de y y contenue dans expy (B(0, 2)), ce qui nest pas possible. Le mme argument montre que la restriction de f chaque Ux est injective. Puisque la distance riemannienne est une distance de longueur, lapplication f , qui prserve la longueur des courbes, est 1-lipschitzienne. Donc f (Ux ) expy (B(0, )). Rciproquement, par le thorme de relvement des chemins et le fait que f soit localement isomtrique, f 1 (expy (B(0, ))) est contenu dans xf 1 (y) Ux . Ceci montre que f est un revtement. En utilisant des cartes exponentielles, il est immdiat que f est C et prserve les mtriques riemanniennes. Toute godsique de N se relve en une godsique de M , qui est prolongeable sur R, donc est prolongeable sur R, puisque f est une isomtrie locale. (2) Par le thorme de relvement des chemins et la localit des godsiques, tout relvement dune godsique de N est une godsique de M , qui est dnie pour tous les temps. Exercice E.34 Montrer que toute varit riemannienne connexe homogne, et en particulier tout groupe de Lie rel connexe muni dune mtrique riemannienne invariante gauche, est complte.

3.6
3.6.1

Courbure
Les avatars de la courbure

Soient (M, g) une varit pseudo-riemannienne, sa connexion de Levi-Civita et R = R son tenseur de courbure. Nous noterons R = Rg = RM lorsque nous voulons prciser. Il vrie les proprits suivantes. Tout dabord, si f : N M est un C -diomorphisme, si f g est la mtrique pseudoriemannienne image rciproque, dnie par (f g)x (v, w) = gf (x) (Tx f (v), Tx f (w)) , o x M et v, w Tx M , alors le tenseur de courbure de (N, f g) est limage rciproque f R de R par f , o (f R)(X, Y )Z = f R((f 1 ) X, (f 1 ) Y )((f 1 ) Z) 191

pour tous les X, Y, Z (T M ). En particulier, le groupe des isomtries de (M, g) prserve le tenseur de courbure (M, g) : f Isom(M, g), f R = R .

Proposition 3.25 La courbure R de (M, g) est un tenseur (3, 1) sur M , cest--dire un lment de ((T M )3 T M ) = ((T M )2 End(T M )). Il vrie les proprits suivantes. (i) Le tenseur R est anti-symtrique en les deux premires variables (donc R est une 2-forme direntielle valeurs dans End(T M )) : pour tous les v, w Tx M , les endomorphismes Rx (v, w) et Rx (w, v) de Tx M sont gaux, ou encore, pour tous les X, Y, Z (T M ), nous avons R(X, Y )Z = R(Y, X)Z . (ii) (Identit de Bianchi direntielle) Pour tous les X, Y, Z (T M ), en notant encore la connexion dnie par sur le br vectoriel (T M )3 T M , nous avons R(X, Y, Z) + R(Y, Z, X) + R(Z, X, Y ) = 0 . (iii) avons

(Identit de Bianchi algbrique) Pour tous les X, Y, Z (T M ), nous R(X, Y )Z + R(Y, Z)X + R(Z, X)Y = 0 .

(iv) Pour tous les champs de vecteurs X, Y (T M ), le champ dendomorphismes R(X, Y ) (End(T M )) est anti-symtrique pour g, cest--dire que pour tous les v, w Tx M , lendomorphisme Rx (v, w) de Tx M est anti-symtrique pour la forme bilinaire gx , ou encore que pour tous les W, X, Y, Z, T (T M ), g(R(X, Y )Z, W ) = g(Z, R(X, Y )W ) . (v) Pour tous les W, X, Y, Z (T M ), g(R(X, Y )Z, W ) = g(R(Z, W )X, Y ) . Remarques. (1) La mtrique g permet (par le lemme de tensorialit) de dnir un tenseur (4, 0) sur M , encore not R ((T M )4 ), tel que pour tous les W, X, Y, Z (T M ), R(X, Y, Z, W ) = g(R(X, Y )Z, W ) . Ce tenseur (4, 0) est anti-symtrique en les deux premires variables et en les deux dernires, par les assertions (i) et (iv), et symtrique par permutation des deux premires variables avec les deux dernires par lassertion (v) : R(X, Y, Z, W ) = R(Y, X, Z, W ) = R(X, Y, W, Z) = R(Z, W, X, Y ) = R(W, Z, Y, X) , (la dernire galit dcoulant des assertions (i) et (iv)). (2) En notant encore g la forme bilinaire symtrique dnie par g sur le br 2 T M des bivecteurs tangents, le fait que g soit non dgnre en tout point (et le lemme de tensorialit) permet de dnir un tenseur (2, 2), encore not R ((T M )2 (T M )2 ) = 192 ( 32 )

(End((T M )2 )), qui est en fait un lment de (End(2 T M )) par les assertions (i) et (iv), tel que pour tous lesW, X, Y, Z (T M ), g(R(X Y ), Z W ) = g(R(X, Y )Z, W ) . Lassertion (v) dit alors que R est un endomorphisme symtrique de 2 T M pour g. Dmonstration. Le fait que R soit un tenseur (3, 1) et lassertion (i) dcoulent des proprits gnrales des courbures. Montrons (ii). Pour tous W, X, Y, Z (T M ), par la formule ( 17 ), nous avons (W R)(X, Y )Z = W (R(X, Y )Z) R(W X, Y )Z R(X, W Y )Z R(X, Y )(W Z) . ( 33 )

Notons la connexion sur End(T M ) = T M T M associe la connexion de Levi-Civita sur T M , et d la direntielle extrieure associe . Justions la suite dgalits suivantes. Par la proposition 2.37 (2) pour la premire galit ; par la dnition de d R de la 2-forme direntielle R valeurs dans End(T M ) pour la deuxime galit ; par lexercice E.25 appliqu trois fois pour la troisime galit ; puisque est sans torsion pour la quatrime galit ; par lquation ( 33 ) pour la cinquime galit ; par lassertion (i) danti-symtrie pour la dernire galit : nous avons, pour tous les X, Y, Z, W (T M ),
0 = d R (X, Y, Z) W = X (R(Y, Z))W Y (R(X, Z))W + Z (R(X, Y ))W R([X, Y ], Z)W + R([X, Z], Y )W R([Y, Z], X)W = X (R(Y, Z)W ) R(Y, Z)(X W ) Y (R(X, Z)W ) + R(X, Z)(Y W ) + Z (R(X, Y )W ) = X (R(Y, Z)W ) R(Y, Z)(X W ) Y (R(X, Z)W ) + R(X, Z)(Y W ) + Z (R(X, Y )W ) R(X, Y )(Z W ) R(X Y, Z)W + R(Y X, Z)W + R(X Z, Y )W R(Z X, Y )W R(Y Z, X)W + R(Z Y, X)W = (X R)(Y, Z)W (Y R)(X, Z)W + (Z R)(X, Y )W = (X R)(Y, Z)W + (Y R)(Z, X)W + (Z R)(X, Y )W , R(X, Y )(Z W ) R([X, Y ], Z)W + R([X, Z], Y )W R([Y, Z], X)W

ce quil fallait dmontrer. Montrons lidentit de Bianchi algbrique (iii) (aussi appele premire identit de Bianchi). En utilisant six fois le fait que est sans torsion, nous avons R(X, Y )Z + R(Y, Z)X + R(Z, X)Y = X Y Z Y X Z [X,Y ] Z + Y Z X Z Y X [Y,Z]X = Z [X, Y ] [X,Y ] Z + X [Y, Z] [Y,Z]X + Y [Z, X] [Z,X] Y +Z X Y X Z Y [Z,X]Y

= [Z, [X, Y ]] + [X, [Y, Z]] + [Y, [Z, X] .

Le rsultat dcoule alors de lidentit de Jacobi des champs de vecteurs. [Une manire de simplier les calculs est la suivante. Le problme tant local, nous pouvons supposer que M 193

est le domaine dune carte (U, ). Soient X, Y, Z (T U ). Puisque R est C (U )-trilinaire et que le C (U )-module (T U ) admet une base forme de champs de vecteurs qui commutent, nous pouvons supposer que [X, Y ] = [Y, Z] = [X, Z] = 0. Ainsi de nombreux termes sannulent dans le calcul prcdent.] Montrons (iv). Puisque g est parallle, nous avons les deux formules suivantes : X(Y (g(Z, W ))) = g(X Y Z, W ) + g(Y Z, X W ) + g(X Z, Y W ) + g(Z, X Y W ) , et Puisque [X, Y ](f ) = X(Y (f ))Y (X(f )) pour tout f C (M ), lassertion (iv) en dcoule en enlevant la premire formule dune part la premire formule o X et Y ont t changs, et dautre part la seconde formule. La dmonstration de la dernire formule (v) est astucieuse, nous donnons ci-dessous celle de [Mil] (sans son joli dessin, qui permet pourtant de visualiser les calculs ci-dessous). Pour tous les W, X, Y, Z (T M ), posons I(X, Y, Z, W ) = R(X, Y )Z, W + R(Y, Z)X, W + R(Z, X)Y, W qui est nul par lassertion (iii). Remarquons que par les assertions (i) et (iv), nous avons I(Y, W, Z, X) = R(Y, W )Z, X + R(Z, W )X, Y + R(Y, Z)X, W , I(X, W, Y, Z) = R(X, W )Y, Z + R(Y, W )Z, X + R(X, Y )Z, W , et I(Z, W, X, Y ) = R(Z, W )X, Y + R(X, W )Y, Z + R(Z, X)Y, W . Le rsultat dcoule alors du fait que 2 R(X, Y )Z, W 2 R(Z, W )X, Y [X, Y ](g(Z, W )) = g([X,Y ] Z, W ) + g(Z, [X,Y ] W ) .

= I(X, Y, Z, W ) I(Y, W, Z, X) + I(X, W, Y, Z) I(Z, W, X, Y ) = 0 . Avec cette dnition, il existe trs peu de varits pseudo-riemanniennes dont on peut calculer directement le tenseur de courbure. Voici juste un exemple. Proposition 3.26 Soit G un groupe de Lie muni dune mtrique pseudo-riemannienne biinvariante g. Pour tous les champs de vecteurs W, X, Y, Z (T G) invariants gauche, nous avons 1 R(X, Y, Z, W ) = g([X, Y ], [Z, W ]) . 4 En particulier, si g est riemannienne, la courbure sectionnelle de G est positive ou nulle. Dmonstration. Par lexercice E.30 (4), nous avons X Y = 1 [X, Y ]. Donc, par dnition 2 du tenseur de courbure et lidentit de Jacobi du crochet de Lie, 1 1 1 1 R(X, Y )Z = [X, [Y, Z]] [Y, [X, Z]] [[X, Y ], Z] = [[X, Y ], Z] . 4 4 2 4 194

Avec exp lexponentielle du groupe de Lie G, nous avons par bi-invariance, ge Ad(exp(tZ(e)))(X(e), Ad(exp(tZ(e)))(X(e) = ge (X(e), Y (e)) . Donc en drivant en t = 0, nous avons, au point e donc en tout point par invariance, g([Z, X], Y ) + g(X, [Z, Y ]) = 0 (cest--dire que lendomorphisme ad Z de g est anti-symtrique pour la forme bilinaire ge ). Donc, puisque [W, Z] = [Z, W ] 1 1 R(X, Y, Z, W ) = g([[X, Y ], Z], W ) = g([X, Y ], [Z, W ]) . 4 4 En particulier, si g est riemannienne, alors 1 1 R(X, Y, Y, X) = g([X, Y ], [Y, X]) = [X, Y ] 4 4
2

0.

Le tenseur de courbure permet de construire divers objets, loprateur de courbure, la courbure sectionnelle, la courbure de Ricci et la courbure scalaire, que nous dnissons maintenant. Pour tous les x M et v Tx M , nous appellerons oprateur de courbure lendomorphisme linaire Rv de Tx M dni par Rv : w R(w, v)v Remarquons que puisque R(X, Y, Y, Z) = R(Z, Y, Y, X), loprateur Rv est symtrique pour la forme bilinaire gx : pour tous les w, z Tx M , nous avons gx (Rv (w), z) = gx (w, Rv (z)) . Si M est de dimension au moins 2, notons G2 (T M ) la bration grassmanienne des g 2-plans du br tangent de M , et G2 (T M ) son ouvert constitu des 2-plans non isotropes pour g (cest--dire en restriction auxquels g est non dgnre), qui est gal G2 (T M ) si g est riemannienne. Si M est de dimension au moins 2, la courbure sectionnelle de (M, g) est lapplication g lisse K = K g : G2 (T M ) R qui au 2-plan tangent non isotrope P associe K(P ) = g(R(v, w)w, v) , g(v, v)g(w, w) g(v, w)2

o (v, w) est une base du 2-plan tangent P . En notant encore g la forme bilinaire symtrique dnie par g sur 2 T M , nous avons K(P ) = g(R(v w), v w) . g(v w, v w)2

Donc cette dnition ne dpend pas du choix dune telle base, et K est lisse, car lapplication de 2 T M priv de la section nulle dans G2 (T M ) dnie par v w Vect(v, w) est lisse. 195

Lorsque g est riemannienne, si v et w sont orthogonaux, alors K(P ) = R(v, w)w, v . v 2 w 2

En particulier, si (v, w) est une base orthonorme de P , alors K(P ) = R(v, w)w, v = R(v, w, w, v) . Nous dirons quune varit pseudo-riemannienne de dimension au moins 2 est courbure sectionnelle pince sil existe des constantes a, b R telles que a K b (au sens des g applications, cest--dire que a K(P ) b pour tout P G2 (T M )), et courbure sectionnelle (strictement) ngative pince sil existe des constantes a, b > 0 telles que a2 K b2 . Remarques. (1) Si n 2, lespace euclidien standard En , dont le tenseur de courbure est nul, est courbure sectionnelle nulle.

(2) La courbure sectionnelle dtermine le tenseur de courbure. En eet, un petit calcul utilisant lidentit de Bianchi algbrique montre que, pour tous les x M et u, v, w, z Tx M , nous avons 2 R(u + sw, v + tz, v + tz, u + sw) R(u + sz, v + tw, v + tw, u + sz) st |s=t=0 = 6 R(u, v, w, z) . ( 34 ) En particulier, si la courbure sectionnelle K est nulle, alors le tenseur de courbure R est nul. La courbure de Ricci de (M, g) est le (2, 0)-tenseur Ric = Ricg ((T M )2 ) dni en demandant que, pour tous les x M et v, w Tx M , le rel Ricx (v, w) soit la trace de lendomorphisme z R(z, v)w de Tx M . Cest une contraction du tenseur de courbure (la seule vraiment intressante, par les proprits de symtries de R) : Ric(X, Y ) = tr{Z R(Z, X)Y } . Notons que Ric est symtrique, donc appartient (S 2 T M ) : pour tous les X, Y (T M ), nous avons Ric(X, Y ) = Ric(Y, X) . En eet, si (ei )1in est une base orthonorme de Tx M , alors pour tous les v, w Tx M , par les proprits de symtries ( 32 ), nous avons
n n n

Rx (v, w) =
i=1

g(R(ei , v)w, ei ) =
i=1

R(ei , v, w, ei ) =
i=1

R(ei , w, v, ei ) = Rx (w, v) .

Une varit pseudo-riemannienne (M, g) est dEinstein (on dit aussi, par abus, de courbure de Ricci constante) sil existe R tel que Ric = g, cest--dire tel que, pour tous les X, Y (T M ), nous ayons Ric(X, Y ) = g(X, Y ) . 196

Toute varit pseudo-riemannienne courbure sectionnelle constante gale est dEinstein, de constante dEinstein = (n 1) : Ric = (n 1) g . ( 35 ) En eet, pour tout vecteur unitaire v Tx M , si (ei )1in est une base orthonorme de Tx M telle que e1 = v, alors, puisque R est altern en les deux premires variables, et par dnition de la courbure sectionnelle
n n

Ricx (v, v) =
i=1

R(ei , v, v, ei ) =
i=2

R(ei , v, v, ei ) = (n 1) .

Les formes bilinaires symtriques Ricx et (n 1) gx sur Tx M , qui concident sur la diagonale, sont donc gales. Il est immdiat de voir que le produit de deux varits pseudo-riemanniennes de mme constante dEinstein est encore une varit dEinstein de mme constante dEinstein. Il nest pas dicile de voir que les varits dEinstein de dimension au plus 3 sont exactement les varits pseudo-riemanniennes courbure sectionnelle constante. Nous renvoyons pour ceci, et pour plus dinformation sur les varits dEinstein, lexcellent livre [Bes1]. La mtrique pseudo-riemannienne g (qui est non dgnre, et en utilisant le lemme de tensorialit) permet de dnir un unique tenseur (1, 1), encore not Ric (T M T M ) = (End(T M )), tel que pour tous les X, Y (T M ), nous ayons Ric(X, Y ) = g(Ric(X), Y ) . Par construction et symtrie du (2, 0)-tenseur Ric, la section Ric du br des endomorphismes de T M est symtrique pour la mtrique g : pour tous les X, Y, Z (T M ), g(Ric(X), Y ) = g(X, Ric(Y )) . En particulier, lorsque g est riemannienne, les valeurs propres en tout point de M du (1, 1)-tenseur Ric sont relles. Le dernier invariant de courbure que nous introduirons est le suivant. La courbure scalaire de (M, g) est lapplication lisse Scal = Scalg de M dans R, qui en tout point x de M associe la trace de lendomorphisme Ric : v Ric(v) de Tx M : Scal = tr Ric . Nous concluons cette partie par diverses remarques sur lhomognit et la naturalit des objets introduits prcdemment. Remarques. (1) Pour tout > 0, la connexion de Levi-Civita de (M, 2 g) est gale celle de (M, g) (par lunicit dans le thorme 3.5 et lhomognit de la condition dtre parallle) : 2 g = g .

Les godsiques de (M, 2 g) et de (M, g) sont donc les mmes (mais la norme du vecteur vitesse est multipi par ). Si g est riemannienne, la distance riemannienne de (M, 2 g) est fois la distance riemannienne de (M, g) : d2 g = dg . 197

Le tenseur de courbure (3, 1) de (M, 2 g) est, en regardant la dnition, gal au tenseur de courbure (3, 1) de (M, g) : 2 R g = Rg . Si la dimension de M est au moins 2, la courbure sectionnelle de (M, 2 g) est, en regardant 1 la dnition, 2 fois la courbure sectionnelle de (M, g) : K
2g

1 Kg . 2

Le tenseur (2, 0) de courbure de Ricci de (M, 2 g) est gal au tenseur (2, 0) de courbure de Ricci de (M, g) 2 Ric g = Ricg ,
1 mais le tenseur (1, 1) de courbure de Ricci de (M, 2 g) est 2 fois le tenseur (1, 1) de 1 courbure de Ricci de (M, g). La courbure scalaire de (M, 2 g) est donc gale 2 fois est la courbure scalaire de (M, g) :

Scal2 g =

1 Scalg . 2

Pour tout espace mtrique X, de distance d, et pour tout > 0, nous noterons X lespace mtrique densemble X et de distance d. Par exemple, si M est une varit riemannienne, de mtrique riemannienne g et de courbure sectionnelle K, alors M est la varit riemannienne de varit M et de mtrique riemannienne 2 g, donc de courbure sectionnelle 1 K. 2 (2) Le rsultat suivant dit que le groupe des isomtries dune varit pseudo-riemannienne (M, g) prserve sa connexion de Levi-Civita , ses godsiques, sa distance riemannienne d lorsque g est riemannienne, ses tenseurs R de courbures (3, 1) et (4, 0), sa courbure sectionnelle K, ses tenseurs Ric de courbure de Ricci (2, 0) et (1, 1), et sa courbure scalaire Scal. Pour tout C -diomorphisme h : N M , notons par (T h) la connection sur N image rciproque par lisomorphisme de brs vectoriels T h, par h d la distance image rciproque de d sur N par g, par g R et g Ric les tenseurs sur N images rciproques des tenseurs (3,1) R et (2,0) Ric par g, et pour toute varit N et toute application : N R, notons g = g. Pour tout X (T M ), rappelons que f X est le champs de vecteurs x (Tx f )1 (X(f (x)) et que f (X) = ( f )f X et f X() = X( f 1 ) f pour tout C (M ) Proposition 3.27 Pour tout f Isom(M, g), f c est une godsique si c lest (avec mme norme de vecteur vitesse), et nous avons (T f ) = , f d = d , f R = R , (T f ) K = K , f Ric = Ric , f Scal = Scal .

g Ceci signie que, pour tous les f Isom(M, g), x, y M , P G2 (T M ) et X, Y, Z, W (T M ), nous avons (f 1 ) f X (f Y ) = X Y

d(f (x), f (y)) = d(x, y) , 198

(f 1 ) R(f X, f Y )(f Z) = R(X, Y )Z , R(f X, f Y, f Z, f W ) = R(X, Y, Z, W ) , K(T f (P )) = K(P ) , Ric(f X, f Y ) = Ric(X, Y ) , (f 1 ) Ric(f X) = Ric(X) , Scal(f (x)) = Scal(x) . La quatrime des galits ci-dessus scrit aussi, pour tous les x M et u, v, w, z Tx M , Rf (x) Tx f (u), Tx f (v), Tx f (w), Tx f (z) = Rx (u, v, w, z) . Dmonstration. La premire formule ci-dessus se vrie en utilisant la proprit dunicit des connexions de Levi-Civita, voir la remarque 2.39. Les autres dcoulent par construction des dirents objets. Rappelons quune varit pseudo-riemannienne (M, g) est dite homogne si son groupe des isomtries agit transitivement sur M . En particulier, par la continuit de la courbure sectionnelle P K(P ) et par la compacit de la varit grasmannienne des 2-plans tangent en un point donn, la courbure sectionnelle de toute varit riemannienne homogne est courbure sectionnelle pince. De plus, si le groupe des isomtries de (M, g) agit transitivement sur lensemble des 2-plans tangents non isotropes de M , alors la courbure sectionnelle est constante. Proposition 3.28 Pour tous les n 2 et > 0, lespace euclidien standard En , les n homothtiques (Sn , 2 ds2 ) de la sphre standard, et les homothtiques (H+ , 2 ds2 ) du sph hyp modle du demi-hyperbolode suprieur de lespace hyperbolique rel Hn sont courbure R sectionnelle constante. Nous montrerons dans la partie 3.6.4 que toute varit riemannienne complte simplement connexe courbure sectionnelle constante est isomtrique lun des espaces de cette proposition, et nous calculerons prcisment la valeur de leur courbure sectionnelle. Par isomtrie, les autres modles de lespace hyperbolique rel Hn (ceux de la boule et du R demi-espace suprieur) sont aussi courbure constante. Dmonstration. Comme les groupes disomtries agissent transitivement sur les bases orthonormes des espaces tangents (voir la dmonstration du corollaire 3.11), le rsultat est immdiat. Exercice E.35 Montrer que les varits pseudo-riemanniennes Rp,q , Sn,p et Hn,p dnies dans les exemples (i) et (ii) de la partie 3.1 sont courbure sectionnelle constante. (3) Le rsultat suivant, que nous mentionnons pour la culture (voir par exemple [Bes1]), est une consquence de lidentit de Bianchi direntielle. Thorme 3.29 (Thorme de Schur) Si M est de dimension au moins 3, et si pour tout x M , la restriction de la courbure sectionnelle K de (M, g) la varit grasmannienne des 2-plans de Tx M est constante, alors K est constante. 199

(4) Alors quil y a si peu de varits riemanniennes (compltes simplement connexes) courbure sectionnelle constante, la courbure scalaire est bien plus exible, comme le montre le rsultat suivant, que nous mentionnons pour la culture (voir par exemple [Bes1]). Thorme 3.30 Toute varit admet au moins une mtrique riemannienne courbure scalaire constante. Exercice E.36 Exprimer le tenseur de courbure uniquement laide du transport parallle. 3.6.2 Interprtation gomtrique des champs de Jacobi

Le but de ce paragraphe est de dcrire de manire gomtrique les champs de Jacobi le long de godsiques, et den dduire une mthode de calcul bien pratique de la courbure lorsque lon connat susamment bien les godsiques. Soient (M, g) une varit pseudo-riemannienne, sa connexion de Levi-Civita et R son tenseur de courbure. Un champ de Jacobi J de (M, g) le long dune courbe lisse c : I M est un champ de Jacobi le long de c pour la connexion de Levi-Civita de (M, g), cest--dire, puisque est sans torsion, un champ de vecteurs lisse J : I T M le long de c tel que, pour tout t I, d d J (t) = R(c(t), J(t))(c(t)) .
dt dt

Nous avons vu que si M est de dimension n, lensemble des champs de Jacobi est un sousespace vectoriel de dimension 2n de lespace vectoriel des champs de vecteurs le long de c. En notant J = d d J (c T M ) et Rc c (End(T M )) = End(c T M ) dt dt lapplication t {J Rc(t) (J(t))} o Rc(t) est loprateur de courbure en c(t), lquation des champs de Jacobi scrit donc, en utilisant lanti-symtrie du tenseur de courbure en les deux premires variables, J + Rc J = 0 . Soient c : I M une godsique et J un champ de Jacobi de (M, g) le long de c. Nous dirons que J est orthogonal c si le vecteur tangent J(t) en c(t) est orthogonal au vecteur vitesse c(t) pour tout t I. Il en dcoule que d J (t) est aussi orthogonal c(t), puisque
dt

d J(t), c(t) = d J (t), c(t) + J (t), d c (t) = d J (t), c(t) , dt dt dt dt car g est parallle pour et t c(t) est parallle le long de c. Nous dirons que J est tangent c si J(t) est colinaire au vecteur vitesse c(t) pour tout t I. Il en dcoule que d J (t) est aussi colinaire c(t) : en eet, puisque t c(t) est dt (I), parallle le long de c et d est une drivation, donc, pour tout f C
dt

d (f c)(t) = f(t) c(t) + f (t) d c (t) = f(t) c(t) .

dt dt

Proposition 3.31 Soit t0 un point dun intervalle I et c : I M une godsique non constante. 200

(1) Un champ de Jacobi J le long de c est orthogonal si et seulement si J(t0 ) et d J(t0 ) dt sont orthogonaux c(t0 ). Lensemble des champs de Jacobi orthogonaux le long de c est donc un sous-espace vectoriel de dimension 2(n 1) si M est de dimension n. (2) Les champs de Jacobi tangents c sont les applications t (at + b)c(t) o a, b R. Si c nest pas de type lumire (cest--dire si g(c(t), c(t)) = 0, ce qui est toujours le cas si g est riemannienne et c non constante), alors tout champ de Jacobi J le long de c est somme c(t) dun champ de Jacobi orthogonal et du champ de Jacobi tangent J1 : t J(t),c(t) c(t). c(t), Dmonstration. (1) Puisque le champ de vecteurs vitesses de c est parallle le long de c, puisque g est parallle pour , et puisque le tenseur (4, 0) de courbure est anti-symtrique en ses deux dernires variables, nous avons, pour tout champ de Jacobi J le long de c, d d2 J(t), c(t) = d J(t), c(t) = d d J (t), c(t) = R(c(t), J(t), c(t), c(t)) = 0 . dt dt dt2 dt dt Supposons que J(t0 ) et d J(t0 ) soient orthogonaux c(t0 ). Alors lapplication de I dans R dt dnie par t d J(t), c(t) est constante, donc nulle, car nulle en t = t0 . Et lapplication dt de I dans R dnie par t J(t), c(t) , de drive nulle, est constante, donc nulle car nulle en t = t0 . Le rsultat en dcoule. (2) Puisque c est non constante, son vecteur vitesse ne sannule pas et tout champ de Jacobi tangent le long de c est de la forme J : t f (t)c(t) o f : I R est lisse. Par les proprits des connexions, puisque c est parallle le long de c et puisque la courbure est anti-symtrique en les deux premires variables, nous avons f (t)c(t) = d d J (t) = R(c(t), J(t))c(t) = f (t)R(c(t), c(t))c(t) = 0 .
dt dt

Donc f =0, et la premire armation en dcoule. Le champ de vecteurs J1 est bien un champ de Jacobi, car une godsique tant paramtre vitesse constante, le champ de vecteurs vitesses tant parallle, et le tenseur (4,0) de courbure tant anti-symtrique en les deux dernires variables et en les deux premires, nous avons d d J1 (t), c(t) R(c(t), J1 (t))c(t), c(t) dt dt d d J1 (t) = c(t) = c(t) = 0 , dt dt c(t), c(t) c(t), c(t) et J(t), c(t) R(c(t), c(t))c(t) = 0 . c(t), c(t) Donc J J1 est un champ de Jacobi le long de c, qui est orthogonal c comme un calcul immdiat le montre. Puisque J = (J J1 ) + J1 , le rsultat en dcoule. R(c(t), J1 (t))c(t) =

Soit c : I M une courbe lisse dans M . Une variation de c est une application lisse f : I ] , [ M o > 0 telle que, en notant cs : t f (t, s), nous ayons c0 = c. Nous dirons que f est une variation par godsiques si cs est une godsique pour tout s ] , [. J(t) Le vecteur variation de f est le champ de vecteurs J le long de c dni par c(t) c J(t) = 201 f cs (t) . (t, 0) = s s |s=0

Proposition 3.32 Soit c : I M une godsique dans (M, g). Un champ de vecteurs J le long de c est un champ de Jacobi si et seulement sil concide localement avec le vecteur variation dune variation par godsiques de c. Dmonstration. Soient N = I ] , [ et f : N M une variation par godsiques de c. Montrons que son vecteur variation est un champ de Jacobi. Reprenons les notations de la proposition 2.38 : pour X (T N ), notons X (f T M ) la section lisse du br image rciproque f T M dnie par X(x) = Tx f (X(x)) ; notons la connexion image rciproque f sur f T M ; notons R le tenseur (3, 1) sur le br vectoriel f T M dnie par Rx = Rf (x) ; notons t et s les champs de vecteurs coordonnes sur N (de coordonnes (t, s)). Puisque cs : t f (t, s) est une godsique et t (t, s) = cs (t), nous avons t t = 0. Le vecteur variation de f est J : t s (t, 0). Par la proposition 2.38 (1) et le lemme de Schwarz, nous avons
= + , . = s t s t s t s

Donc par la proposition 2.38 (3), nous avons

t

= t s t s = + [ , ] +R , s t t t s t t s t , . =R t s t (t, 0) = Rc(t) (c(t), J(t))(c(t)) , s

Do d d J(t) =
dt dt t t

et J est bien un champ de Jacobi. Rciproquement, soit J un champ de Jacobi le long de c. Quitte translater I, nous pouvons supposer que 0 I. Notons : ] , [ M la godsique telle que (0) = c(0) et (0) = J(0). Soient X et Y les champs de vecteurs parallles le long de tels que X(0) = c(0) et Y (0) = d J(0). Dnissons une application lisse f : I ] , [ M par
dt

f (t, s) = exp(s) (tX(s) + stY (s)) , qui est bien dnie si est assez petit et si I est un intervalle dadhrence compacte contenue dans I (ou si M est complte et I = I). Il est immdiat que f est une variation par godsiques de c|I . Son vecteur variation est t s |s=0 f = TtX(0) expx (tY (0)) qui, par la proposition 2.42, est le champ de Jacobi le long de c nul en t = 0 et de drive covariante Y (0) = d J(0). Par unicit, le vecteur variation de f est donc gal J.
dt

Remarque. Voici une mthode (une des plus gomtriques) pour calculer la courbure sectionnelle (donc le tenseur de courbure par la remarque (2) suivant la dnition de la courbure sectionnelle). Supposons que lon connaisse toutes les (ou susamment de) godsiques dans une varit pseudo-riemannienne. Le rsultat prcdent permet donc de calculer tous les (ou susamment de) champs de Jacobi le long des godsiques. Pour tout x M , soient v et w deux vecteurs indpendants de Tx M , et P le plan vectoriel dans Tx M quils engendrent, suppos non isotrope (ce qui est automatique si g 202

est riemannienne). Pour > 0 assez petit, soit c : ] + t0 , t0 + [ M la godsique telle que (c(t0 ) = x et) c(t0 ) = v. Soit J un champ de Jacobi le long de c tel que J(t0 ) = w (il y a plusieurs possibilits). Alors R(v, w)w, v = R(c(t0 ), J(t0 ))J(t0 ), c(t0 )) = R(c(t0 ), J(t0 ))c(t0 ), J(t0 )) = d d J(t0 ), J(t0 ) .
dt dt

Donc K(P ) = d d J (t0 ), J(t0 ) g(R(v, w)w, v) dt dt = g(v, v)g(w, w) g(v, w)2 c(t0 ), c(t0 ) J(t0 ), J(t0 ) c(t0 ), J(t0 )
2

Il sut donc de savoir calculer lacclration covariante de susamment de champs de Jacobi le long des godsiques pour en dduire la courbure sectionnelle de la varit. Si g est riemannienne, alors pour toute godsique c paramtre par longueur darc (donc de norme de vecteur vitesse gale 1) et pour tout champ de Jacobi J orthogonal le long de c non nul linstant t = t0 , nous avons K Vect(c(t0 ), J(t0 )) = d d J, J (t0 )
dt dt

J, J (t0 )

( 36 )

Si g est riemannienne, si (v, w) est une base orthonorme dun plan vectoriel tangent P , alors K(P ) = d d J, J (t0 ) ,
dt dt

pour toute godsique c de vecteur tangent v au temps t = t0 et tout champ de Jacobi J le long de c valant w linstant t = t0 . 3.6.3 Interprtation mtrique de la courbure

Soient (M, g) une varit riemannienne, x un point de M et d sa distance riemannienne. Pour tout r > 0, dans lespace euclidien Tx M , la longueur dun cercle Cr de centre 0 et de rayon r 2r, et si v et w sont deux vecteurs orthonorms, alors la distance entre est rv et rw est 2r. w Tx M x r 0 v w expx v expx (rw)

Suivant que la courbure sectionnelle de M est ngative ou positive, nous allons montrer que les longueurs riemanniennes des petits cercles expx (Cr ) et les distances riemanniennes entre expx (rv) et expx (rw) sont respectivement plus grandes ou plus petites quelles ne le sont dans lespace tangent. Le rsultat suivant permet de plus de calculer la courbure sectionnelle de M en fonction de la longueur des petits cercles, ou de la manire dont scartent les godsiques. Il montre donc que la distance riemannienne dtermine la courbure sectionelle, donc le tenseur de courbure. 203

Proposition 3.33 Soient (M, g) une varit riemannienne, R son tenseur de courbure, K sa courbure sectionnelle, x M , et cv , cw : ] , +[ M deux godsiques de vecteurs vitesses v, w Tx M respectivement au temps t = 0. Alors quand t 0, d(cv (t), cw (t))2 = t2 v w
2

R(u, w)w, v 4 t + O(t5 ) . 3

En particulier, si v, w sont orthonorms, et si P est le plan vectoriel quils engendrent, alors K(P ) 2 t + O(t4 ) . ( 37 ) d(cv (t), cw (t)) = 2 t 1 12 Pour r > 0 assez petit et v, w orthonorms, si r : [0, 2] M est la courbe ferme lisse dnie par r : s expx (r(cos s v + sin s w)), alors long(r ) = 2r 1 K(P ) 2 r + O(r 3 ) . 6

Dmonstration. Nous renvoyons par exemple [GHL]. 3.6.4 Varits riemanniennes courbure sectionnelle constante

Soit n 2. Nous avons dj vu que la courbure sectionnelle de lespace euclidien standard est nulle, ce qui se retrouve aussi en remarquant que ses champs de Jacobi sont anes (donc dacclration nulle). Proposition 3.34 La courbure sectionnelle de la sphre standard (Sn , ds2 ) (qui est conssph tante) est +1. Dmonstration. Soient x Sn et v, w dans Tx Sn deux vecteurs orthonorms. La godsique de vecteur vitesse v linstant t = 0 est c : t cos t x + sin t v , car cette courbe est paramtre par longueur darc ( c(t) = 1) et son image est un arc de grand cercle. Lapplication f : R ] 1, 1[ Sn dnie par (t, s) cos t x + sin t(cos s v + sin s w)
est une variation par godsiques de c. Son vecteur variation est J : t s |s=0 f (t, s) = sin t w, qui est orthogonal le long de c. Puisque la drive covariante sur Sn est la projection orthogonale sur Sn de la drivation dans Rn+1 , nous avons

x v

d d J (t), J(t) = J (t), J(t) = J(t), J(t) .

dt dt

Donc par la formule ( 36 ), pour tout t Z, / K Vect(c(t), J(t)) = +1 . 204

n Proposition 3.35 La courbure sectionnelle du modle du demi-hyperbolode (H+ , ds2 ) hyp dun espace hyperbolique rel Hn (qui est constante) est 1. R

Dmonstration. Notons , la forme bilinaire symtrique g1,n de signature (1, n) sur n R1,n , et rappelons que la mtrique riemannienne de H+ est la restriction de , sur chaque espace tangent.
n n Soient x H+ et v, w Tx H+ deux vecteurs orthonorms. Par le lemme 3.21, la courbe

Par isomtrie, les modles de la boule et du demi-espace suprieur sont aussi courbure sectionnelle constante 1.

c : t cosh t x + sinh t v est lunique godsique hyperbolique de conditions initiales c(0) = x et c(0) = v. x w v

n Pour tout s R, le vecteur cos s v + sin s w est encore tangent H+ en x et unitaire. n Lapplication lisse f : R ] 1, 1[ H+ dnie par

(t, s) cosh t x + sinh t(cos s v + sin s w) est donc une variation par godsiques de c. Son vecteur variation est J :t f (t, s) = sinh t w , s |s=0

n n qui est orthogonal le long de c. Puisque la drive covariante sur H+ en un point x H+ 1,n sur H n de la drivation dans Rn+1 , nous avons est la projection orthogonale dans R + d d J (t), J(t) = J(t), J(t) = J(t), J(t) . Donc par la formule ( 36 ), pour tout dt dt t = 0, K Vect(c(t), J(t)) = 1 .

Le rsultat suivant dcrit toutes les varits riemanniennes compltes courbure sectionnelle constante. Thorme 3.36 Soit (M, g) une varit riemannienne connexe complte, de dimension n 2, courbure sectionnelle constante . Alors tout revtement riemannien universel de (M, g) est isomtrique la varit riemannienne complte simplement connexe n si = 0 E 1 Sn si > 0 M,n = 1 Hn si < 0 . R Donc il existe un sous-groupe du groupe des isomtries de M,n , agissant librement et proprement sur M,n , tel que (M, g) soit isomtrique la varit riemannienne quotient \M,n .

Une varit plate est une varit riemannienne complte courbure sectionnelle constante nulle. Si elle est connexe et de dimension n, elle est donc isomtrique \En o 205

Dmonstration. Nous pouvons supposer = 0, 1, 1 par la remarque (1) de la partie 3.6.1. Fixons x M . Pour tous les u, v Tx M orthogonaux avec v unitaire, posons c : R M la godsique (dnie sur R par compltude) de (M, g) telle que (c(0) = x et) c(0) = v, qui est t expx (tv) par dnition de lexponentielle ; notons U : t U (t) le champ de vecteurs parallle le long de c tel que U (0) = u ; notons J : t J(t) le champ de Jacobi le long de c tel que J(0) = 0 et d J (0) = u, qui est t Ttv expx (tu) par la proposition dt 2.42. Supposons que = 0. Alors, par la proprit dunicit des champs de Jacobi, nous avons J(t) = tU (t) .

est un sous-groupe du groupe des translations-rotations agissant librement et proprement sur Rn . Nous dcrirons ultrieurement lespace des modules (cest--dire des classes disomtries) des tores plats de dimension 2. Une varit hyperbolique est une varit riemannienne complte courbure sectionnelle constante 1. Si elle est connexe et de dimension n, elle est donc isomtrique \Hn o R est un sous-groupe du groupe des isomtries dun espace hyperbolique rel Hn , agissant R librement et proprement sur Hn . Nous dcrirons ultrieurement lespace des modules (cestR -dire des classes disomtries) des surfaces hyperboliques (compactes connexes orientables de genre donn g 2).

En eet, J et t tU (t) ont mme valeur en 0 et mme drive covariante en 0. De plus, t tU (t) est un champ de Jacobi car d d (tU (t)) = 0 et R(c(t), tU (t))c(t) = 0 car dt dt la nullit de la courbure sectionnelle implique la nullit du tenseur de courbure (voir la remarque contenant la formule ( 34 )). Donc Tv expx : u J(1) est le transport parallle le long de c entre les temps t = 0 et t = 1, qui est une isomtrie. Donc expx : Tx M M est une isomtrie locale, donc un revtement riemannien par la compltude de lespace euclidien Tx M et la proposition 3.24 (1). Supposons que = 1. Alors, par la proprit dunicit des champs de Jacobi, nous avons J(t) = sinh t U (t) . En eet, J et t sinh t U (t) ont mme valeur en 0 et mme drive covariante en 0. De plus, t sinh t U (t) est un champ de Jacobi car d d (sinh t U (t)) = sinh t U (t) et dt dt R(X, Y )X = Y si X et Y sont orthogonaux et X est unitaire, car K = 1 et la courbure sectionnelle dtermine le tenseur (3,1) de courbure. Soient x Hn et f : Tx Hn Tx M une isomtrie linaire. Rappelons que expx : e R R Tx Hn Hn est un C -diomorphisme. Posons F = expx f (expx )1 . Puisque Hn e R R R est courbure sectionnelle constante 1, le mme raisonnement que ci-dessus montre que lapplication tangente de F est une isomtrie en tout point, donc que F est une isomtrie locale, donc un revtement riemannien par la compltude de Hn et la proposition 3.24 (1). R Supposons que = +1. Alors, par unicit, nous avons comme ci-dessus que J(t) = sin t U (t) . 206

Soient x, y Sn tels que y = x, x et f : Tx Sn Tx M une isomtrie linaire. Rappelons e que expx : BTx Sn (0, ) Sn {x} est un C -diomorphisme. Posons F = expx f e e (expx )1 : Sn {x} M et G = expF (e) Ty F (expy )1 : Sn {y} M , qui sont e e y e comme ci-dessus des isomtries locales. Elles concident de plus sur lintersection de leur domaine de dnition, donc se recollent pour donner une isomtrie locale de Sn dans M , qui est un revtement riemannien par la compltude de Sn et la proposition 3.24 (1). Une version locale du thorme 3.36 est vraie. Proposition 3.37 Soit (M, g) une varit riemannienne de dimension n 2 courbure sectionnelle constante . Pour tous les x M et x M,n , si rx = injM (x), alors la boule ouverte BM (x, rx ) est isomtrique BM,n (x , rx ). Dmonstration. La dmonstration est analogue celle du thorme 3.36, en travaillant avec les godsiques c : ] rx , +rx [ M telles que c(0) = x. Notons s : R R lunique solution maximale de lquation direntielle y + y = 0 telle que y(0) = 0 et y(0) = 1, qui est lapplication dnie par sin( r) si > 0 r si = 0 s (r) = sinh( r) si < 0 .

Fixons un point x dans M,n , et notons gM,n la mtrique riemannienne de M,n . La dmonstration du thorme 3.36 montre que les mtriques riemanniennes (expx ) g et (expx ) gM,n sont, en coordonnes radiales, toutes deux de la forme dr 2 + s (r)2 g0 o g0 est la mtrique riemannienne induite sur la sphre unit de lespace tangent aux points x et x . En prenant comme prcdemment une isomtrie linaire f : Tx M,n Tx M , lapplication expx f expx 1 : BM (x, rx ) BM,n (x , rx ) est donc une isomtrie. 3.6.5 Varits riemanniennes courbure sectionnelle de signe constant

Le rsultat suivant est un premier rsultat sur linuence de la courbure sur la topologie des varits riemanniennes. Thorme 3.38 (Thorme de Cartan-Hadamard) Soit (M, g) une varit riemannienne connexe complte courbure sectionnelle ngative ou nulle. Pour tout x M , lapplication exponentielle expx : Tx M M est un revtement. En particulier, si M est de dimension n, alors tout revtement universel de M est homomorphe Rn . En particulier, une varit riemannienne M connexe complte courbure sectionnelle ngative ou nulle est un K(, 1) : tout revtement universel de M est contractile. Le cas de la courbure constante a dj t dmontr dans le thorme 3.36. Dmonstration. La dmonstration repose sur le rsultat suivant, dont la premire assertion (appele le thorme de comparaison de Rauch), disant que la croissance de la norme des champs de Jacobi est suprieure ou gale celle dans les varits courbure sectionnelle constante majorant celle de (M, g), servira ultrieurement. 207

(b) Si la courbure sectionnelle de g est ngative ou nulle le long de c, alors c na pas de paire de points conjugus. Dmonstration. Soient I lintervalle de dnition de c et J un champ de Jacobi le long de c sannulant en t = 0. Posons a0 = d J(0) . Nous commenons la dmonstration de dt ce lemme par deux remarques prliminaires. La premire remarque est une minoration de la drive seconde de la norme de J. Lapplication f : I R dnie par f (t) = J(t) est lisse en tout t I tel que J(t) = 0. En un tel temps t, puisque g est parallle pour la connexion de Levi-Civita, f(t) = g( d J (t), J (t))
dt

Lemme 3.39 Soit c une godsique paramtre par longueur darc dune varit riemannienne (M, g). (a) Si la courbure sectionnelle de (M, g) est majore par 0 R le long de c, si 0 et t appartiennent au domaine de dnition de c, alors pour tout champ de Jacobi J orthogonal le long de c sannulant en 0, nous avons c(0) c d J(0) sinh( 0 t) si 0 < 0 0 dt J(t) c(0) d J(0) t c si 0 = 0 dt c(0) c d J(0) sin( 0 t) si 0 > 0 et |t|
dt

J(t)

En drivant de nouveau, nous avons donc, pour tout t I tel que J(t) = 0, en utilisant lingalit de Cauchy-Schwarz pour la dernire majoration f (t) = g( d d J (t), J(t)) + g( d J (t), d J (t))
dt dt dt dt

J(t)

d J (t) g(R(c(t), J(t))c(t), J(t)) dt = + J(t) R(c(t), J(t), J(t), c(t)) . J(t)

J(t) 3 J(t) 2 g( d J (t), J (t))2

dt

g( d J (t), J (t))2
dt

J(t)

( 38 )

La seconde remarque est que f (t) est quivalent a0 t quand t 0+ . En eet, soit t (Ei (t))1in un champ de bases orthonormes parallle le long de c. Nous pouvons n n crire J(t) = d i=1 xi (t)Ei (t) (par la proprit de i=1 xi (t)Ei (t), et alors dt J (t) = drivation de d , et puisque Ei est parallle le long de c). Puisque J(0) = 0, nous avons f (t) =
n 2 i=1 xi (t)
dt

=t

n 2 i=1 xi (0)

+ o(t) lorsque t 0+ . Larmation en dcoule. 208

Maintenant, pour montrer lassertion (a), supposons que J soit orthogonal le long de c. Si a0 = 0, alors J est le champ de Jacobi nul (ses deux conditions initiales en t = 0 tant nulles) et le rsultat est immdiat. Nous pouvons donc supposer que a0 > 0. Comme le vecteur vitesse de c est unitaire, par la minoration ( 38 ) et par la dnition de la courbure sectionnelle, nous avons f (t) 0 f (t). La solution maximale de lquation direntielle y + 0 y = 0 sannulant en t = 0 et dont la drive vaut a0 en t = 0 est a0 sinh( 0 t) si 0 < 0 0 a0 t si 0 = 0 y(t) = sin( 0 t) a0 0 si 0 > 0 . En tout temps t > 0 tel que t <
f yy f

. Le numrateur de cette dernire fraction a pour drive f y y f = en tout tel temps t, donc est croissant. Il sannule si t = 0, donc est positif en tout tel temps t. Donc f est croissante en ces tels temps t, et puisquelle se prolonge par y continuit en t = 0 par la valeur 1 (son numrateur et son dnominateur sont quivalents a0 t et a0 = 0), nous avons f y en tout tel temps t, ce qui montre le rsultat. Montrons lassertion (b). Soit J un champ de Jacobi le long de c, nul en des instants distincts t0 et t1 . Montrons que J est nul, ce qui montre le rsultat, par la dnition c c(t1 ) c(t0 ) des points conjugus. Quitte translater la source, nous pouvons supposer que t0 = 0 et t1 > 0. Puisque la courbure sectionnelle de g est ngative ou nulle, nous avons f 0 par la minoration ( 38 ). Donc f est convexe et nulle en t0 = 0, donc ne sannule en un temps t1 > 0 que si elle est nulle entre les temps t0 = 0 et t1 , ce qui nest possible que si J est nul. Montrons maintenant le thorme de Cartan-Hadamard 3.38. Par compltude, expx est bien dnie sur tout Tx M . Nous avons vu par le corollaire 2.43 que si (M, g) na pas de point conjugu, ce qui est le cas par lassertion (b) du lemme prcdent, alors expx est un C -diomorphisme local en tout point de Tx M . Munissons la varit Tx M du (2, 0)-tenseur symtrique (expx ) g (S 2 T (Tx M )), qui est dni positif en tout point, car Tv expx est inversible pour tout v Tx M . Alors (expx ) g est lunique mtrique riemannienne sur Tx M telle que expx soit une isomtrie locale. Elle est complte car ses godsiques passant par 0, qui sont les droites vectorielles paramtres de manire ane, sont dnies sur R. Le rsultat dcoule alors de la proposition 3.24 (1). Nous reviendrons plus longuement sur la gomtrie des varits courbure sectionnelle ngative ou nulle ultrieurement (voir les parties 3.6.7 et 3.7). Thorme 3.40 (Thorme de Myers) Soient r > 0 et (M, g) une varit riemannienne connexe complte de dimension n, dont le (2, 0)-tenseur de Ricci vrie Ric Alors le diamtre de M vrie En particulier, la varit M et tout revtement universel de M sont compacts, et tout groupe fondamental de M est ni. 209 diam(M, g) r . n1 g. r2

et f = y2 y y(f + 0 f ) 0

si 0 > 0, lapplication y est strictement positive,

Remarquons que si la courbure sectionnelle dune varit riemannienne est minore par = r12 > 0, alors lhypothse Ric n1 g de ce thorme est vrie (par le calcul eectu r2 pour tablir la formule ( 35 )). La sphre SEn+1 (0, r) dans En+1 de centre 0 et de rayon r > 0 (munie de la mtrique riemannienne induite), de courbure sectionnelle constante = r12 , est compacte, de diamtre r. En particulier, le thorme de Myers est optimal. Un thorme de S. Y. Cheng (voir par exemple [Pet, page 248]) dit quune telle majoration du diamtre nest une galit que pour les sphres : si r > 0, si (M, g) est une varit riemannienne connexe complte de dimension n, telle que Ric n1 g et diam(M, g) = r , r2

alors M est isomtrique SEn+1 (0, r). Dmonstration. Lide principale est un argument de comparaison avec les champs de Jacobi en courbure constante = r1 , en tudiant la drive seconde de lnergie. 2 Soient x et y deux points distincts de M et = d(x, y). Notons c : [0, ] M une godsique minimisante (paramtre par longueur darc) entre x et y, qui existe par compltude. Soit t (Ei (t))1in un champ de bases orthonormes parallle le long de c, tel que E1 (t) = c(t) (qui existe car le br vectoriel c T M est trivialisable). Notons Xi : t t Xi (t) = sin Ei (t), qui sannule en t = 0 et t = . Notons fi = [0, ]R M lapplication dnie par (t, s) expc(t) sXi (t), qui est une variation de c, et ci,s : t fi (t, s) pour tout s R. Puisque c minimise lnergie, nous avons
t , s

Notons N = [0, ] R et les champs de vecteurs constants de coordonnes de N . Reprenons les notations de la proposition 2.38, pour 1 i n : pour X (T N ), notons X (fi T M ) la section lisse du br image rciproque fi T M dnie par X(x) = Tx fi (X(x)) ; notons la connexion image rciproque f sur fi T M ; notons g (S 2 fi T M ) dnie par g x = gf (x) . Nous avons t (t, 0) = c(t) et s (t, 0) = Xi (t). Par la proposition 2.38 (1) et le lemme de Schwarz, nous avons
s

d2 E(ci,s ) ds2 |s=0

0.

= + , . = t s t s t s t

En utilisant la proposition 2.38 (3) pour la second galit, nous avons donc
s s

= = + [ , ] + R( , ) s t s t s s s t s t s t s + R( , ) . = t s s s t s

Do, puisque la mtrique riemannienne g est parallle pour sa connexion de Levi-Civita (en appliquant deux fois la proposition 2.38 (2) pour obtenir la premire galit), et puisque t (t, 0) = d c(t) = 0,
t dt

1 g( , ) = g( , )(t, 0) + g( , )(t, 0) 2 |s=0 t t s s t t s t s t 2 s = g

t s

+ R( , ) , , )(t, 0) (t, 0) + g( s s t s t t s t s , )(t, 0) R(Xi (t), c(t), c(t), Xi (t)) + d Xi (t) 2 . = g( s s t dt t

210

 Puisque s (0, s) = s (, s) = 0, et puisque Xi (t) = sin t Ei (t) avec Ei parallle le long de c, donc d Xi (t) = cos t Ei (t), nous en dduisons que
dt

d2 1 d2 E(ci,s ) = 2 2 |s=0 ds ds |s=0 2

g(ci,s (t), ci,s (t)) dt =

0 2

1 2

2 g( , ) dt 2 |s=0 t t s

=
0

d Xi (t)
dt

R(Xi (t), c(t), c(t), Xi (t)) dt

=
0

2 t t (cos )2 (sin )2 R(Ei (t), c(t), c(t), Ei (t)) dt . 2

2

En sommant sur 2 i n, nous avons donc, puisque c(t) la courbure de Ricci,

n

= 1, et par lhypothse sur

i=2

d2 E(ci,s ) ds2 |s=0

(n 1)

2 t t sin2 Ric(c(t), c(t)) dt cos2 2 2 1 t t 2 sin2 dt . cos2 2 r

(n 1)

Un calcul lmentaire montre que le dernier terme de cette suite dingalits est gal (n1) 2 r12 . Ceci implique que r, donc que le diamtre de (M, g) est au plus r. 2 2 Puisque la varit M est complte, elle est propre par le thorme de Hopf-Rinow 3.23. Or elle est gale la boule de rayon r et de centre nimporte lequel de ses points, par ce qui prcde, donc elle est compacte. [Largument du thorme de Hopf-Rinow, qui montre que toute varit riemannienne connexe complte de diamtre ni est compacte, est le suivant : tout point de M est joint par une godsique (minimisante) de longueur au plus diam(M ) un point donn x de M . Donc M = expx (B Tx M (0, diam(M ))) est compacte.] Le revtement riemannien universel de M est encore complet et vrie la mme proprit sur la courbure de Ricci. Il est donc compact. Son groupe de revtement, qui agit proprement sur un espace compact, est donc ni. Corollaire 3.41 Soit G un groupe de Lie rel connexe de centre discret. Si G admet une mtrique riemannienne bi-invariante, alors G est compact et ses groupes fondamentaux sont nis. Dmonstration. Toute mtrique riemannienne invariante gauche est complte (voir par exemple lexercice E.34). Ce corollaire dcoule alors de la formule de la courbure sectionnelle dune telle mtrique riemannienne donne dans la proposition 3.26, et du fait que si le centre de G est discret, alors le centre de son algbre de Lie est trivial (voir par exemple lexercice E.12), et donc la courbure sectionnelle de G est minore par une constante strictement positive. Une hypothse de minoration de la courbure de Ricci (quel que soit son signe) fournit une majoration sur le volume des boules. Nous renvoyons par exemple [Pet, 9.1.3] pour une dmonstration du rsultat suivant. Rappelons (voir le thorme 3.36) que pour tous les R et n N {0, 1}, nous notons M,n une varit riemannienne connexe complte, simplement connexe, de dimension n 2, courbure sectionnelle constante (unique isomtrie prs). 211

Thorme 3.42 (Thorme de Bishop-Cheeger-Gromov) Soient R et (M, g) une varit riemannienne complte de dimension n 2, dont le (2, 0)-tenseur de Ricci vrie Ric (n 1) g . Alors pour tous les x M et r > 0, si vn,r, est le volume dune boule de rayon r dans M,n , alors vol(BM (x, r)) vn,r, . En posant n =
2 2 ( n+1 ) 2
n+1

le volume de la sphre standard (Sn , ds2 ), et en utilisant les sph

expressions des mtriques riemanniennes en cartes exponentielles donnes aprs lnonc du lemme de Gauss 3.14, nous avons r n sinhn1 ( t) dt si < 0, n1 () 2 0 n r vn,r, = si = 0, n n r n n1 si > 0 et r . sinn1 ( t) dt 0 2 3.6.6 Seconde forme fondamentale des sous-varits riemanniennes Soient (M, g) et (N, g) deux varits pseudo-riemanniennes et i : N M une immersion isomtrique. Notons et les connexions de Levi-Civita de (M, g) et (N, g), et R et R leurs tenseurs de courbure (3, 1). Dans toute cette partie, pour viter des lourdeurs de notations, il vaudrait mieux, comme dans la majorit des ouvrages sur le sujet et comme il faut en prendre lhabitude dans les calculs pratiques (et comme nous le ferons dans les dmonstrations), travailler localement et considrer que i est linclusion, et identier T N avec son image dans T M par T i. Nous ne le ferons toutefois pas dans les noncs des rsultats, par souci de rigueur. Notons M : T M M et N : T N N les projections des brs vectoriels tangents de M et N . Notons i T M le br vectoriel sur N image rciproque par i du br tangent de M , de projection p : i T M N . Lapplication T i : v T i(v) de T N dans i T M est un morphisme injectif de brs vectoriels (au-dessus de lidentit) du br tangent de N dans le br vectoriel image rciproque i T M (il est usuel didentier T N avec le sous-br vectoriel de i T M image). TN i T M p N N
Ti

i T M p

TN N

Lapplication de i T M dans T N qui un vecteur v (i T M )x = Ti(x) M associe limage rciproque par Tx i de la projection orthogonale de v sur Tx i(Tx N ) est un morphisme surjectif de brs vectoriels (au-dessus de lidentit) du br vectoriel image rciproque i T M dans le br tangent de N . Notons N le sous-br vectoriel de i T M noyau de , dont la projection N N est la restriction de p N , encore note p. Ce br vectoriel est appel le br normal 212

de N dans M . La bre de p : N N au-dessus dun point x N est lorthogonal dans (i T M )x = Ti(x) M de limage par Tx i de lespace tangent N en x : x N = (Tx i(Tx N )) . En particulier (voir la partie 2.2.2) N = {v i T M : w Tp(v) N, g(v, T i(w)) = 0} est une sous-varit lisse de i T M , et p : N N est lisse. Il est immdiat par construction que lapplication de T N N dans i T M dnie par (v, w) T i(v) + w est un isomorphisme de brs vectoriels sur N (au-dessus de lidentit), de la somme directe des brs tangent et normal N valeurs dans le br image rciproque i T M . Dans lexemple (ii) de la partie 3.2, nous avions not v v la projection orthogonale de i T M sur T i(T N ) compose avec T i1 . Notons maintenant v v la projection orthogonale de i T M sur le br normal N . Lapplication de i T M dans T N N dnie par v v + v est donc un isomorphisme de brs vectoriels sur N , inverse de (v, w) T i(v) + w. x N v N x v v Tx N

Puisque N est un sous-br vectoriel de i T M , le C (N )-module (N ) est un sousC (N )-module de (i T M ). Rappelons que si N est une sous-varit de M , alors T N est un sous-br vectoriel de i T M , et (T N ) un sous-C (N )-module de (i T M ). Par exemple, le br normal Sn de la sphre unit Sn dans En+1 est un br en droite sur Sn (la bre au-dessus de x Sn tant la droite Rx). Ce br est par ailleurs trivialisable, car lapplication (x, ) (x, x) de (Sn R) Sn est un isomorphisme de brs vectoriels au-dessus de lidentit. Notons que comme le br tangent Rn est trivial, et puisquun br vectoriel image rciproque dun br vectoriel trivialisable est trivialisable, pour toute sous-varit riemannienne N de En , le br vectoriel somme directe T N N est trivialisable. Dnition 3.43 La seconde forme fondamentale de i (ou de N par abus) est la section II ((T N )2 N ) telle que pour tous les champs de vecteurs X, Y (T N ) lisses sur N , nous ayons II(X, Y ) = ((i )X (i Y )) . Loprateur de Weingarten de i (ou de N par abus) est la section S ((N ) End(T N )) telle que pour tous les X, Y (T N ) et V (N ), en tout point de N , nous ayons g(SV X, Y ) = i g(V, II(X, Y )) .

o i g est la mtrique pseudo-euclidienne sur le br vectoriel i T M dnie par (i g)x = gi(x) . Rappelons que i Y est la section de i T M dnie par i Y : x Tx i(Y (x)). Le fait que la seconde forme fondamentale II soit une section du bon type dcoule du lemme de tensorialit, car pour montrer la C (N )-linarit en Y de II(X, Y ), il sut de voir 213

que le terme proportionnel i Y sannule par projection sur le br normal. De mme, lapplication (V, X, Y ) i g(V, II(X, Y )) est C (N )-trilinaire sur (N ) (T N ) (T N ), et lapplication Z {Y g(Z, Y )} un isomorphisme de C (N )-modules de (T N ) dans son dual, donc loprateur de Weingarten S (appel aussi shape operator en anglais) est bien dni. Il est parfois not B au lieu de S et son signe varie suivant les rfrences (notre convention est loppose de celle de [Spi], par exemple). Remarque. Supposons que N soit une sous-varit de M et que i : x x soit linclusion de N dans M (nous pouvons toujours nous ramener localement cette situation). (1) Deux champs de vecteurs X et Y lisses tangents N stendent en des champs de vecteurs lisses encore nots X et Y sur M et en tout point de N , nous avons II(X, Y ) = (X Y ) o v v est la projection orthogonale de Tx M sur (Tx N ) pour tout x N . (2) Tout champ de vecteurs V lisse normal N stend en un champ de vecteurs lisse encore not V sur M et en tout point de N , nous montrerons (voir la dmonstration du point (iii) ci-dessous) que SV X = (X V ) , Avant de donner la liste des quations dites fondamentales de la gomtrie direntielle des sous-varits riemanniennes, introduisons deux notations utiles. Notons : (T N ) (N ) (N ) la connexion sur le br vectoriel N dnie par la formule suivante : pour tous les X (T N ) et V (N ) (i T M ), X V = ((i )X V ) . Notons R le tenseur de courbure de la connexion . Thorme 3.44 (quations fondamentales des sous-varits) Considrons deux varits pseudo-riemanniennes (M, g) et (N, g) et une immersion isomtrique i : N M . (i) La seconde forme fondamentale est symtrique : pour tous les X, Y (T N ), nous avons II(X, Y ) = II(Y, X) , et, pour tout V (N ), loprateur de Weingarten en V est symtrique pour la mtrique riemannienne de N : pour tous les X, Y (T N ), nous avons g(SV X, Y ) = g(X, SV Y ) . (ii) (Formule de Gauss) Pour tous les X, Y (T N ), nous avons (i )X (i Y ) = i (X Y ) + II(X, Y ) . (iii) (Formule de Weingarten) Pour tous les X, Y (T N ) et V (N ), nous avons (i )X V = i (SV X) + X V . o v v est la projection orthogonale de Tx M sur Tx N pour tout x N .

214

(iv) (quation de Gauss) Pour tous les X, Y (T N ), nous avons R(X, Y, Y, X) = i R(i X, i Y, i Y, i X) i g(II(X, Y ), II(X, Y )) + i g(II(X, X), II(Y, Y )) . (v) (quation de Codazzi-Mainardi) Pour tous les X, Y, Z (T N ) et V (N ), nous avons i g i R(i X, i Y )i Z), V = i g ( X II)(Y, Z), V i g ( Y II)(X, Z), V , o X II est la drive covariante en X de la 2-forme symtrique II sur le br tangent N muni de la connexion valeurs dans le br normal de N muni de la connexion . i g i R(i X, i Y )V, W = i g R (X, Y )V, W ) + g(SV X, SW Y ) g(SW X, SV Y ) . Lorsque N est une sous-varit de M et i linclusion, les formules (valables en tout point de N ) sont dispenses de i et i . Remarquons que lquation de Codazzi-Mainardi donne alors la composante normale de la courbure : pour tous les X, Y, Z (T N ), nous avons R(X, Y )Z = ( X II)(Y, Z) ( Y II)(X, Z) . Et lquation de Ricci scrit (voir la dmonstration du point (vi) ci-dessous), pour tous les X, Y (T N ) et V (N ), R(X, Y )V

(vi) (quation de Ricci) Pour tous les X, Y (T N ) et V, W (N ), nous avons

= R (X, Y )V II(SV X, Y ) + II(X, SV Y ) .

Dmonstration. Un lecteur curieux pourra comparer les dmonstrations ci-dessous avec celles par exemple de [Spi, chap. 7.C]. Ces formules tant ponctuelles, nous pouvons supposer que N est une sous-varit de M , que i : N M est linclusion, et que les champs de vecteurs X, Y, Z (T N ) et V, W (N ) sont tendus en des champs de vecteurs lisses sur M , encore nots X, Y, Z, V, W . (i) La seconde assertion de (i) dcoule de la premire, par dnition de loprateur de Weingarten. La premire assertion de (i) dcoule du fait que la connexion de Levi-Civita de M est sans torsion, et du fait que le crochet de deux champs de vecteurs tangents N est encore tangent N : en tout point de N , nous avons II(X, Y ) = (X Y ) = (Y X + [X, Y ]) = (Y X) = II(Y, X) . (ii) Par lisomorphisme T N N i T M , ceci dcoule du calcul de la connexion de Levi-Civita de la sous-varit pseudo-riemannienne N dans la proposition 3.6 : en tout point de N , nous avons X Y = (X Y ) + (X Y ) = X Y + II(X, Y ) . (iii) Pour tout Y (T N ), puisque g est parallle pour et X tangent N , et puisque V et Y sont orthogonaux pour g en tout point de N , nous avons, en tout point de N , g(X V, Y ) + g(V, X Y ) = X(g(V, Y )) = 0 . 215

Do, puisque V est normal N , par la dnition de loprateur de Weingarten et puisque i est isomtrique, nous avons, en tout point de N , g(X V, Y ) = g(V, X Y ) = g(V, II(X, Y )) = g(SV X, Y ) = g(SV X, Y ) . Ceci, tant valable pour tout Y (T N ), montre que SV X est gal en tout point de N la partie tangentielle (X V ) de X V (ce qui dmontre la remarque (2) ci-dessus). Donc, par dnition de la connexion , en tout point de N , nous avons X V = (X V ) + (X V ) = SV X + X V . (iv) Rappelons que la section i R ((i T M )4 ) est dnie par (i R)x = Ri(x) (galit en tant que formes quadrilinaires sur (i T M )x = Ti(x) M ) pour tout x N . Par multilinarit (et puisque sur un voisinage ouvert U susamment petit de chaque point, le C (U )-module (T U ) admet une base de champs de vecteurs qui commutent deux deux), nous pouvons supposer que les champs de vecteurs X et Y commutent. Nous pouvons aussi supposer que II(Y, Y ) et II(X, Y ) sont tendus en des champs de vecteurs lisses sur M , en gardant leur notation. En tout point de N , en utilisant respectivement la dnition du tenseur de courbure (4,0) de N en fonction du tenseur de courbure (3,1) pour la premire galit, la dnition du tenseur de courbure (3,1) pour la deuxime galit, les faits que i est isomtrique et que X et Y sont tangents N , la proposition 3.6 et (deux fois) la formule de Gauss (ii) pour la troisime galit, la dnition du tenseur de courbure (4,0) de M et (deux fois) la formule de Wiengarten (iii), sachant que X et Y sont tangents N , pour la quatrime galit, et la dnition de loprateur de Weingarten pour la cinquime, nous avons donc R(X, Y, Y, X) = g(R(X, Y )Y, X) = g(X Y Y Y X Y, X)

= R(X, Y, Y, X) + g(II(Y, Y ), II(X, X)) g(II(X, Y ), II(X, Y )) . (v) Rappelons que, par la dnition des connexions produit tensoriel, pour tous les X, Y, Z (T N ), nous avons ( X II)(Y, Z) = X (II(Y, Z)) II(X Y, Z) II(Y, X Z) . Nous pouvons supposer comme ci-dessus que X et Y commutent. En tout point de N , en utilisant (deux fois) cette formule pour la premire galit, en utilisant le fait que est sans torsion et que X et Y commutent, et le fait que V est normal N et la dnition de la connexion pour la deuxime galit, en utilisant (quatre fois) la formule de Gauss pour la troisime galit, en utilisant la dnition des tenseurs de courbure (3,1) pour la quatrime galit, et en utilisant le fait que R(X, Y )Z est tangent

= R(X, Y, Y, X) g(SII(Y,Y ) X, X) + g(SII(X,Y ) X, Y )

= g(X (Y Y II(Y, Y )) Y (X Y II(X, Y )), X)

216

 N alors que V est normal N pour la dernire galit, nous avons g(( X II)(Y, Z), V ) ( Y II)(X, Z), V )

= g( X (II(Y, Z)) II(X Y, Z) II(Y, X Z), V )

= g(X (II(Y, Z)) II(Y, X Z), V ) g(Y (II(X, Z)) II(X, Y Z), V ) = g(X (Y Z Y Z) Y X Z Y X Z, V ) g(Y (X Z X Z)) X Y Z X Y Z, V )

g( Y (II(X, Z)) II(Y X, Z) II(X, Y Z), V )

= g(R(X, Y )Z R(X, Y )Z, V ) = g(R(X, Y )Z, V ) .

(vi) En tout point de N , en utilisant la dnition du tenseur de courbure (3, 1) de la connexion et le fait que X et Y commutent pour la premire galit, en utilisant le fait que W est normal N et la dnition de la connexion , ainsi que (deux fois) la formule de Weingarten pour la deuxime galit, en utilisant la dnition du tenseur de courbure (3, 1) de la connexion pour la troisime galit, en utilisant le fait que g est parallle pour et le fait que SV Y est tangent N et W normal N , donc g(X (SV Y ), W )+g(SV Y, X W ) = X(g(SV Y, W )) = 0, et de mme en permutant X et Y , pour la quatrime galit, en utilisant (deux fois) la formule de Weingarten et le fait que SV Y et SV X sont tangent N pour la cinquime galit, et en utilisant la dnition de loprateur de Weingarten et le fait que i est isomtrique pour la dernire galit, nous avons g(R (X, Y )V, W ) = g( X Y V Y X V, W )

= g(X (Y V SV Y ) Y (X V SX Y ), W )

= g(R(X, Y )V, W ) g(II(SV Y, X), W ) + g(II(SV X, Y ), W ) . La dmonstration de lquation de Ricci en dcoule, ainsi que le corollaire suivant lnonc du thorme 3.44. Hypersurfaces riemanniennes. Supposons que M est riemannienne dans cette sous-partie. Lorsque N est une hypersurface immerge de M , et lorsque le br normal de N (qui est un br en droites) est trivialisable (ce qui est toujours le cas localement), il existe une section lisse n : N N de norme constante gale 1. Nous appellerons seconde forme fondamentale scalaire de N le (2, 0)-tenseur symtrique, encore not II (S 2 T N ), tel que, pour tous les x N et v, w Tx N , nous ayons IIx (v, w) = gi(x) (IIx (v, w), n(x)) . Elle ne dpend quau signe prs du choix de n. Lorsque N est une sous-varit riemannienne de M et i linclusion, en tendant X, Y (T N ) et n (N ) en X, Y, n (T M ), nous avons donc, en tout point de N , II(X, Y ) = X Y, n . 217

= g(R(X, Y )V, W ) + g(SV Y, SW X) g(SV X, SW Y )

= g(R(X, Y )V, W ) + g(SV Y, X W ) g(SV X, Y W )

= g(R(X, Y )V, W ) g(X (SV Y ), W ) + g(Y (SV X), W )

Pour tout x N , la forme bilinaire IIx sur Tx N , qui est symtrique par lassertion (i) du thorme 3.44, et loprateur de Weingarten Sn sur Tx N , qui est aussi symtrique par cette assertion, sont diagonalisables en base orthonorme de Tx N . Les valeurs propres de IIx et de Sn concident, par dnition. Elles sont appeles les courbures principales de N en x (relativement au choix de la normale n). Elles sont bien dnies modulo permutations, et modulo changement simultan de signe si n est remplac par n. La courbure de Gauss de N en x N est (x) = det IIx = det Sn , cest--dire le produit des courbures principales (qui est indpendant du choix de n si N est dex dimension paire). Exemple. Supposons que M = E3 et que N soit une surface plonge dans R3 . Pour toute courbe lisse c : ] , [ N trace sur N , paramtre par longueur darc, telle que c(0) = x et c(0) = v, le vecteur v est unitaire, et, puisque la connexion de LeviCivita de E3 est la connexion triviale, nous avons IIx (v, v) = c(0), n(x) . Donc, lorsque lacclration de c est colinaire la normale la surface, IIx (v, v) est la courbure de la courbe gauche c au temps t = 0 (relativement au choix de la normale n). La courbure de Gauss de N en x N (indpendante du choix de la normale n) est le produit = 1 2 des courbures principales de N en x, cest--dire des minimum et maximum des courbures en x des courbes lisses traces sur N passant par x et dacclrations normales N en x. Par lquation de Gauss (thorme 3.44 (iv)), est la courbure sectionnelle de N en x. n n n

n(x) x v = c(0) c(0)

K<0

K=0

K>0

Par exemple, lorsque la surface N est rgle, cest--dire si pour tout x N , il existe un segment de droite contenant x dans son intrieur et contenu dans N , alors la courbure de N est ngative ou nulle. Elle est nulle si N est localement dun seul ct de son plan tangent. La surface riemannienne N est alors dveloppable, cest-dire localement isomtrique E2 . Par exemple, les hyperbolodes une nappe {(x0 , x1 , . . . , xn ) Rn+1 : x2 + x2 + + x2 = a} n 1 0 o a > 0 sont des surfaces rgles. 218

tudions un peu plus la courbure des surfaces N immerges dans E3 , munies de la mtrique riemannienne induite. Notons et , la norme et le produit scalaire usuel sur R3 . Le problme tant local, nous pouvons supposer que N est limage dun plongement f : U R3 , o U est un ouvert de R2 , dont nous noterons (x, y) un lment gnrique, fournissant des coordonnes locales sur N . Nous reprenons les notations de lexemple (iii) de la partie 3.1. Rappelons que le produit vectoriel dans lespace vectoriel euclidien orient R3 , est dni par u v, w = det(u, v, w), pour tous les u, v, w R3 . Notons n=
f x f x

f y f y

qui est un champ de vecteurs unitaire normal N . Remarquons que le dnominateur est exactement EF G2 , qui est la densit de la forme volume de N dans cette carte. Rappelons que ( f , f ) est une base du C (N )-module (T N ). Pour tous les s, t {x, y}, x y le champ de vecteurs N f N au point considr, et
s

f t

est la projection orthogonale de

2

2f st

sur lespace tangent

f det( f , f , st ) 2f x y n, . = st EF G2 La seconde forme fondamentale scalaire associe ce choix de n est

IIS =

det

f f 2 f x , y , x2

dx2 + 2 det

f f 2 f x , y , xy EF G2

dxdy + det

f f 2 f x , y , y 2

dy 2

La courbure de Gauss (donc sectionnelle) est donc donne par (f (x, y)) = K(Tf (x,y) N ) = det
f f 2 f x , y , x2 f f 2 f f f 2 f 2 x , y , y 2 det x , y , xy 2 f 2 f 2 f , f 2 x y x y

det

une formule qui nest pas retenir ! Courbure moyenne, surfaces minimales et totalement godsiques, ombilics. Proposition 3.45 Soient (M, g) et (N, g) deux varits pseudo-riemanniennes, i : N M une immersion isomtrique, et II la seconde forme fondamentale de i. Les proprits suivantes sont quivalentes : (1) la seconde forme fondamentale de i est nulle : II = 0 ; (2) si c : I N est une godsique de N , alors i c est une godsique de M ; (3) pour tout x dans N , il existe un voisinage U de 0 dans Tx i(Tx N ) et un voisinage V de x dans N tels que expi(x) (U ) = i(V ) ; (4) pour tout x dans N , pour tout voisinage ouvert V de x dans N en restriction auquel i est un plongement, pour tous les champs de vecteurs X et Y de M tangents i(V ) en tout point de i(V ), le champ de vecteur X Y lest aussi. Nous dirons alors que limmersion pseudo-riemannienne i, ou la sous-varit immerge N , est totalement godsique. Notons quune sous-varit pseudo-riemannienne immerge 219

connexe de dimension 1 est totalement godsique si et seulement si cest limage dune godsique. Dmonstration. Ces proprits tant locales, nous pouvons supposer que N est une sousvarit de M et que i est linclusion. Les assertions (1) et (4) sont quivalentes par la dnition de II, car un vecteur tangent M en un point de N est tangent N si et seulement si sa composante normale N est nulle. Les assertions (2) et (3) sont quivalentes, par la dnition de lexponentielle. Les assertions (2) et (4) sont quivalentes, car la connexion de Levi-Civita de la sous-varit pseudo-riemannienne N est la projection sur les espaces tangents N de la connexion de Levi-Civita de M (voir la proposition 3.6). Exemples. Soit n N. (1) Tout sous-espace ane A de Rn est un sous-espace totalement godsique de lespace euclidien standard En , ainsi que de lespace pseudo-euclidien standard Rp,q si p + q = n. Sil est de codimension 1 dans En , il sera appel un hyperplan de En . (2) Pour tout sous-espace vectoriel E de Rn+1 , lintersection E Sn est une sous-varit totalement godsique dans la sphre Sn (pour la mtrique sphrique standard). Elle est isomtrique la sphre Sd1 si d est la dimension de E. Si d = n 1, elle est appele un hyperplan de Sn (voir le dessin de gauche ci-dessous). E
n H+

0 Sn

E 0

111 1 0 000 111 000 1 0 111 000 1 1 0 0 111 000 111 000 1 1 0 0 111 000 1 1 0 0 111 000 1 0
Rn +

Bn

11111111 00000000 11111111 00000000

n (3) Pour tout sous-espace vectoriel E de R1,n , lintersection E H+ est une sous-varit n totalement godsique du modle du demi-hyperbolode suprieur H+ de lespace hypern (voir le dessin ci-dessus). Si elle est non vide (cest--dire si E rencontre le bolique rel HR cne ouvert des x R1,n tels que g1,n (x) < 0), elle est isomtrique lespace hyperbolique rel Hd1 si d est la dimension de E. Si d = n, elle est alors appele un hyperplan de Hn . R R Par les isomtries entre les modles, les hyperplans du modle du demi-espace suprieur Rn de lespace hyperbolique rel Hn sont les demi-espaces anes verticaux et les demi+ R sphres euclidiennes centres en un point de lhyperplan vectoriel horizontal Rn1 (voir le dessin ci-dessus). Toujours par les isomtries entre les modles, les hyperplans du modle de la boule Bn de lespace hyperbolique rel Hn sont les intersections avec Bn des hyperplans vectoriels de R Rn et des sphres euclidiennes rencontrant orthogonalement la sphre Sn1 . Remarquons que les sphres euclidiennes de Rn , qui rencontrent Sn1 et sont orthogonales Sn1 , sont exactement les sphres euclidiennes de Rn centres en un point de lespace tangent en un point x de Sn1 et qui passent par x.

220

Un point x de N est un ombilic sil existe un vecteur n normal N en x tel que, pour tous les u, v Tx N , IIx (u, v) = g x (u, v)n . Limmersion pseudo-riemannienne i, ou la sous-varit immerge N , est totalement ombilique si tout point de N est un ombilic. Supposons dans la suite de cette sous-partie que (M, g) est riemannienne. Le vecteur courbure moyenne de i (ou par abus de N ) est le champ de vecteurs normal H (N ) N dni par
n

H : x tr(IIx ) =

IIx (vi , vi ) .
i=1

o (vi )1in est une base orthonorme de Tx N . Il ne dpend pas du choix de cette base.

Limmersion riemannienne i (ou la sousvarit immerge N ) est courbure moyenne constante si le champ de vecteurs normal H est parallle pour la connexion normale , cest-dire si H = 0 . Par exemple, une sous-varit immerge minimale (au sens ci-dessous) est courbure moyenne constante. Dautres exemples, dus B. Oberknapp et K. Polthier [OP], sont dessins cicontre.

Limmersion riemannienne i (ou la sous-varit immerge N ) est minimale si le vecteur courbure moyenne est nul, cest--dire si H=0. Exemples. (1) Cest un exercice (en calculant la seconde forme fondamentale des surfaces de rvolution) de montrer que les seules surfaces de rvolution connexes compltes de E3 qui sont minimales sont les plans vectoriels et les catnodes. Les catnodes dont laxe de rvolution est vertical sont les hypersurfaces riemanniennes de E3 dquation x2 + y 2 = c2 cosh2 z o c > 0 est un paramtre. c 221

(2) Les bulles de savon sappuyant sur des contours ferms sont des surfaces minimales, comme nous le dmontrons ci-dessous.

Le rsultat suivant implique que les sous-varits minimales sont les points critiques de la fonctionnelle de volume. Thorme 3.46 Soit (N, g) une sous-varit riemannienne dune varit riemannienne (M, g), de vecteur courbure moyenne H (N ). Soient X un champ de vecteurs lisse support dans un ouvert dadhrence compacte V de M et (t )tR le ot de X. Alors d vol(t (N ) V ) = dt |t=0 gx (H(x), X(x)) d volN (x) .
xN

Dmonstration. Notons que puisque V est dadhrence compacte, le champ de vecteurs X est complet, donc son ot (t )tR est bien dni sur R. Pour tout t R, notons gt la mtrique riemannienne lisse sur N restriction de la mtrique riemannienne g, vt son volume riemannien, v = v0 , et Jacx (t) = dvt (x) la t dv drive de Radon-Nykodim de vt par rapport v en un point x de N . Nous avons donc, par changement de variable, vol(t (N ) V ) = N V dvt = xN V Jacx (t) dv(x). Do, par drivation sous lintgrale et puisque Jacx (t) est constant gal 1 si x V , / d vol(t (N ) V ) = dt |t=0
xN

Jacx (t) dv(x) . t |t=0

Montrons que, pour tout x N , nous avons t |t=0 Jacx (t) = g(H(x), X(x)), ce qui conclut. Considrons une carte locale (U, (x1 , . . . , xn )) de N au voisinage de x. Notons (1 = x1 , . . . , n = xn ) la base du C (U )-module (T U ) correspondante. Nous pouvons supposer que cette base est orthonorme au point x, et que 1 , . . . , n stendent en des champs de vecteurs lisses sur M , nots de mme. Alors, par dnition du volume riemannien, et puisque (1 , . . . , n ) est orthonorme en x, nous avons

Jacx (t) =

det gt (i , j )

i,j

Toujours puisque (1 , . . . , n ) est orthonorme en x et puisque did det = tr, nous avons donc n 1 Jacx (t) = gt (i , i ) . t |t=0 2 t |t=0
i=1

Rappelons (voir la partie 2.3.1, et en particulier la proposition 2.30) que la drive de r r Lie LX : (Ts M ) (Ts M ) des tenseurs (s, r) est lapplication linaire dnie par LX = d dt |t=0 t

222

pour tout (s, r)-tenseur sur M , que LX f = X(f ) pour tout f C (M ), que LX Y = [X, Y ] pour tout Y (T M ), et que (LX g)(Y, Z) = LX (g(Y, Z)) g(LX Y, Z) g(Y, LX Z) = X(g(Y, Z)) g([X, Y ], Z) g(Y, [X, Z]) .

Donc, par la dnition de gt , par la proprit ci-dessus de la drive de Lie, puisque g est parallle pour , puisque est sans torsion, nous avons, en tout point de U , gt (i , i ) = (LX g)(i , i ) = X(g(i , i )) 2g([X, i ], i ) t |t=0 = 2g(X i , i ) 2g([X, i ], i ) = 2g(i X, i ) . Quitte restreindre U , nous pouvons crire le champ de vecteurs X sur U comme la somme X = X + X de deux champs de vecteurs lisses support dans U o X est tangent N en tout point de N , et o X est orthogonal N en tout point de N . Puisque H est orthogonal N et puisque le ot de X prserve N V , donc ne change pas son volume total, nous pouvons supposer que X = X est orthogonal N (donc i ) en tout point de N . Alors, toujours puisque g est parallle pour , g(i X, i ) + g(X, i i ) = i (g(X, i )) = 0 . Do g(i X, i ) = g(X, i i ) = g(X, (i i ) ) = g(X, II(i , i )) . Le rsultat en dcoule, en sommant sur i et en divisant par 2.

223

Une slection de surfaces minimales. 3.6.7 Espaces CAT()

La rfrence recommande pour cette partie est [BH]. Soient (X, d) un espace mtrique et un nombre rel. Notons M une varit riemannienne complte, simplement connexe, de dimension 2, courbure constante . Par la partie 3.6.4, nous pouvons supposer, isomtrie prs, que 1 H2 si < 0 R E2 si = 0 M = M,2 = 1 S2 si > 0 . Une godsique (respectivement godsique locale) de (X, d) (ou de X lorsque la distance d est sous-entendue) est une application isomtrique (respectivement localement 224

isomtrique) c : I X o I est un intervalle de R. Nous dirons segment godsique, rayon godsique, droite godsique de X si I est respectivement un intervalle compact, une demi-droite ferme (en gnral [0, +[) ou R tout entier. Les extrmits dun segment godsique c : [a, b] X sont les points c(a) (appel lorigine de c) et c(b). Lorsque (X, d) est une varit riemannienne munie de sa distance riemannienne, il y a un conit de terminologie : les godsiques en ce sens sont exactement les godsiques riemanniennes minimisantes paramtres par longueur darc. Nous prciserons en disant godsiques riemanniennes en cas de doute. Un triangle godsique de (X, d) (ou de X lorsque la distance d est sous-entendue) est la donne de trois points x, y, z de X, appels ses sommets, et de trois segments godsiques nots [x, y], [y, z], [z, x], appels ses cts, dextrmits respectivement x et y, y et z, z et x. Un point de est un point dun des cts de . Le primtre de est la somme des longueurs des cts de , cest--dire d(x, y) + d(y, z) + d(z, x). Lemme 3.47 Pour tout triplet (x, y, z) dans X 3 tel que d(x, y) + d(y, z) + d(z, x) <
2

si > 0, il existe un triangle godsique de sommets x, y, z dans M tel que d(x, y) = d(x, y), d(y, z) = d(y, z) et d(z, x) = d(z, x), unique isomtrie prs. Dmonstration. Notons a = d(x, y), b = d(y, z) et c = d(z, x), nous pouvons supposer que a b c. Par lingalit triangulaire, nous avons c a+b, et en particulier a, b, c < si > 0. Il existe donc une unique solution [0, ] lquation c2 = a2 + b2 2ab cos si = 0 cosh( c) = cosh( a) cosh( b) sinh( a) sinh( b) cos si < 0 si > 0 . cos( c) = cos( a) cos( b) + sin( a) sin( b) cos Soit x nimporte quel point de M . Soient y et z deux points dans M distance a et b de x respectivement, tel que langle en x entre les segments [x, y] et [x, z] soit . Alors par les lois du cosinus dans M (voir la partie 3.4.1 lorsque = 1, 0, 1 et utiliser le fait que 1 M = M1 si > 0 et 1 M = M1 si < 0), nous avons d(y, z) = c. Lunicit est immdiate, par les proprits de transitivit des isomtries sur les couples de vecteurs tangents unitaires en un point formant un angle donn. Si est un triangle godsique de sommets x, y, z, nous dirons alors que est un triangle de comparaison de . Si p est un point du ct de entre deux sommets u et v de , lunique point p du ct [u, v] de tel que d(p, u) = d(p, u) sera appel le point correspondant de p. p x (X, d) y z p z

y M

Soient c : [0, a] X et c : [0, a ] X deux godsiques non constantes de mme origine x, et t [0, ] langle dun triangle de comparaison dans E2 du triplet (x, c(t), c (t)) 225

au sommet correspondant x. Nous appellerons angle de comparaison (ou angle dAlexandrov) en x entre c et c llment de [0, ] dni par x (c, c ) = lim sup t .
t0+

Si y = c(a) et y = c (a ) sont les autres extrmits de c et c , nous noterons x (y, y ) par abus (lorsque les segments godsiques c et c sont sous-entendus) cet angle de comparaison. Par example, si (X, d) est une varit riemannienne munie de sa distance riemannienne, alors la limite suprieure ci-dessus est une limite, et langle de comparaison est exactement langle riemannien entre les vecteurs. Nous appellerons angle de comparaison (ou aussi angle dAlexandrov) en un sommet x dun triangle godsique de X (dont les autres sommets sont dirents de x) langle de comparaison entre ses cts contenant x. Nous dirons que (X, d) est godsique si pour tous les x, y dans X, il existe un segment godsique dans X dextrmits x et y. Par exemple, toute varit riemannienne complte est godsique. Tout espace mtrique godsique est connexe par arcs. La dnition suivante donne un nom aux espaces mtriques dans lesquels les triangles godsiques sont plus pincs que les ceux de lespace modle courbure sectionnelle constante , ou de manire quivalente, dont les angles aux sommets sont plus petits. Dnition 3.48 Un espace mtrique (X, d) est dit CAT() sil est godsique et sil vrie lune des conditions quivalentes suivantes : 2 (i) pour tout triangle godsique , de primtre strictement infrieur si > 0, pour tous les points p et q de , les points correspondants p et q dun triangle de comparaison dans M vrient d(p, q) d(p, q) ; z (X, d) p x y x q p y z M q

2 (ii) pour tout triangle godsique , de primtre strictement infrieur si > 0, pour tout sommet x de , pour tout point p de , le point correspondant p dun triangle de comparaison dans M vrie

d(p, x) d(p, x) ; x (X, d) z p y z 226 p y x M

(iii) pour tout triangle godsique de sommets x, y, z tels que y, z = x, de primtre 2 strictement infrieur si > 0, langle de comparaison de en x est infrieur ou gal langle dun triangle de comparaison dans M au sommet correspondant x : x (y, z) x (y, z) ; x (X, d) z y z y x M

(iv) pour tout triangle godsique de sommets x, y, z tels que y, z = x, de primtre 2 strictement infrieur si > 0, pour tout triangle godsique dans M de sommets x, y, z tels que d(x, y) = d(x, y), d(x, z) = d(x, z) et x (y, z) = x (y, z), nous avons d(y, z) d(y, z) . x (X, d) z y z y x M

Dmonstration. Il est immdiat que (iii) et (iv) sont quivalents. Montrons que (i) implique (iii). Soit un triangle godsique de sommets x, y, z tels que y, z = x, et, pour t > 0 assez petit, notons yt , zt les points des cts [x, y] et [x, z] distance t de x. Notons langle au sommet x correspondant x dun triangle de comparaison de , et t langle au sommet x correspondant x dun triangle de comparaison du triangle godsique de cts [x, yt ], [yt , zt ], [zt , x]. Par (i) et la loi du cosinus dans M , nous avons t . Comme par dnition de langle de comparaison (et le fait que la direntielle en 0 de lapplication exponentielle en un point dune varit riemannienne est lidentit), nous avons x (p, q) = limt0+ t . Le rsultat en dcoule. Montrons que (ii) implique (i). Soient , , p, q, p, q comme dans lnonc de (i). Notons x, y, z les sommets de tels que p [x, y], q [x, z], et x, y, z les sommets correspondants de . Soit [p, z] un segment godsique entre p et z. Notons un triangle de comparaison du triangle de cots [p, z], [z, x] et le sous-segment de [x, y] entre x et p, de sommets p, z x. Notons q le point de correspondant q. (X, d) q x p z y x 227 M q p x z q p z M y

Montrons enn que (iii) implique (ii), ce qui conclut. Soient , , p, p comme dans lnonc de (ii). Fixons un segment godsique [x, p] entre p et le sommet x de oppos au ct contenant p. Notons y et z les autres sommets de . Notons y et z les sommets de correspondants y et z. Notons langle de comparaison en x du triangle et langle au sommet correspondant x de . (X, d) x z p y z M p x + + y z p x M y

Alors d(p, q) d(p, q) par (ii). Notons et les angles en x et x de et respectivement. Comme d(p, z) = d(p, z) d(p, z) par (ii) et par la loi du cosinus dans M , nous avons . Mais de nouveau par la loi du cosinus applique au triangle de sommets x, p, q et au triangle de sommets x, p, q, nous avons d(p, q) d(p, q), ce qui conclut.

Soit + un triangle de comparaison du triangle de cts [x, y], [x, p] et le sous-segment de [y, z] entre y et p. Soit celui obtenu en remplaant y par z. Nous pouvons supposer que les cts de + et correspondants [x, p] concident, et que et + soient de part et dautre de [x, p]. Soient x, p, y, z les sommets de + ou correspondants x, p, y, z. Soient + , les angles en p des triangles + et respectivement, et soit langle en x entre y et z. Langle de comparaison en p du triangle aplati de sommets y, p, z est gal . Donc par (iii), nous avons + + . Il est facile de montrer que (aplatir le ct godsique par morceaux [z, p] [p, y] sans changer les quatre longueurs d(z, p), d(p, y), d(z, x), d(x, y) augmente langle oppos p, voir le dessin ci-dessus). Donc en utilisant la loi du cosinus dans M , nous avons d(p, x) d(p, x) = d(p, x). Un espace mtrique (X, d) (ou une distance d sur un ensemble X) est dit localement CAT() si tout point admet un voisinage qui, muni de la distance induite, est CAT(). Une des justications possibles de cette terminologie introduite par Gromov est que lorigine du sujet remonte aux mathmaticiens Cartan (lie), Alexandrov et Topogonov. Cest un exercice de montrer que tout espace de Hilbert, muni de sa norme hilbertienne, est un espace CAT(0). Mais lexemple principal despace CAT() est donn par le rsultat suivant. Proposition 3.49 Soit (M, g) une varit riemannienne, de dimension n 2, de courbure sectionnelle K. Alors la distance riemannienne de (M, g) est localement CAT() si et seulement si K . Dmonstration. Supposons que la courbure sectionnelle K de (M, g) soit majore par et montrons que la distance riemannienne d est localement CAT(). Soient x M et ]0, +] (avec < si > 0) tels que expx : BTx M (0, ) BM (x, ) soit un C -diomorphisme. Soit x un point dune varit riemannienne M,n complte simplement connexe de courbure sectionnelle constante et de dimension n, soit f : Tx M,n Tx M une isomtrie linaire, et soit F : BM,n (x, ) BM (x, ) lapplication 228

1 expx f expx . Cette application est bien dnie et lisse. Son application tangente Tx F en x est gale f , donc est une isomtrie pour la norme et prserve les angles. En particulier, F est isomtrique sur les godsiques partant de x. Par la proposition 2.42 (disant que la direntielle de lapplication exponentielle sexprime en fonction des champs de Jacobi) et par le thorme de comparaison de Rauch (lassertion (a) du lemme 3.39, disant que la norme des champs de Jacobi de M crot plus vite que celle dans M,n ), nous avons, pour tout y BM,n (x, ) et tout v Ty M,n ,

Ty F (v) v .

( 39 )

ce qui conclut, par la dnition (iv) des espaces mtriques CAT(). En eet, d(y, z) est infrieure d(y, x) + d(x, z) par lingalit triangulaire, donc est strictement infrieure 2 2 = . Donc d(y, z) est la borne infrieure des longueurs des 1 par morceaux joignant y z de longueur strictement infrieure . Tout tel chemins C chemin est contenue dans limage de F . Le rsultat dcoule alors du fait que f augmente la longueur des chemins C1 par morceaux, par lingalit ( 39 ).

Pour tous les y, z BM (x, 2 ), soient y, z dans M,n tels que F (y) = y et F (z) = z. Montrons que d(y, z) d(y, z) ,

Rciproquement, supposons que la distance riemannienne d soit localement CAT(), et montrons que K . Soient x M et cv , cw : ] , +[ deux godsiques de vecteurs vitesse orthonorms v, w Tx M respectivement au temps t = 0. Soient P le plan vectoriel engendr par v et w, et t > 0 assez petit. Notons dt = d(cv (t), cw (t)). Soient x M et dt la distance entre les points distance t de x sur des rayons godsiques dans M partant perpendiculairement de x. M Tx M P v 0 w expx M x cv (t) cw (t) dt dt x

Puisque la distance riemannienne de (M, g) est localement CAT(), nous avons dt dt pour t assez petit, en utilisant la dnition (iv) des espaces mtriques CAT(). En appliquant la formule ( 37 ) dans la proposition 3.33 la fois (M, g) et M , nous avons K(P ) 2 2 t ) + O(t4 ) 2 t(1 t ) + O(t4 ) . 2 t(1 12 12 Il dcoule alors immdiatement que K(P ) . Corollaire 3.50 Si (M, g) est une varit riemannienne complte simplement connexe telle que K , alors (M, g) est CAT(). Dmonstration. Ceci dcoulera aussi du thorme 3.54, mais la dmonstration du sens direct ci-dessus donne le rsultat, en prenant = + si 0 et = sinon. 229

Remarques. Soit (X, d) un espace mtrique CAT(). (1) Pour tout , puisque M est courbure sectionnelle infrieure ou gale , il dcoule du corollaire prcdent que M est CAT( ) et donc tout espace CAT() est aussi CAT( ). (2) Soit un triangle godsique de X, de cts de longueurs a, b, c, et dangle de comparaison au sommet oppos au ct de longueur c. En utilisant un triangle de comparaison de et les formules trigonomtriques dans M (voir la partie 3.4.1), nous obtenons des ingalits reliant les angles de comparaison aux sommets de et les longueurs des cts de . Si = 0, alors la somme des angles de comparaison aux sommets de est au plus , et c2 a2 + b2 2ab cos . Si < 0, alors la somme des angles de comparaison aux sommets de est strictement infrieure , et cosh( c) cosh( a) cosh( b) sinh( a) sinh( b) cos . Si > 0, et si le primtre de est strictement infrieur
2 ,

alors

cos( c) cos( a) cos( b) + sin( a) sin( b) cos . Les formules trigonomtriques de la partie 3.4.1 permettent dobtenir dautres rsultats de comparaison.
(3) Il dcoule facilement de la dnition que pour tous les x, y dans X, si d(x, y) < quand > 0, alors il existe une et une seule godsique entre x et y, et quelle dpend continuement de ses extrmits. En particulier, toute boule, de rayon strictement infrieur quand > 0, est contractile, et si 0, alors X est contractile : pour tout x X, lapplication (y, t) cy (td(x, y)), o cy : [0, d(x, y)] M est lunique godsique de x y, est une rtraction par dformation forte sur x. Si d(x, y) < et si d(x, z) + d(z, y) = d(x, y), alors z appartient lunique godsique entre x et y.

(4) Une partie A de X est dite convexe si pour tous les x, y dans A, tout segment godsique entre x et y est contenu dans A. Il dcoule aussi facilement de la dnition que toute boule de (X, d), de rayon stricte ment infrieur 2 quand > 0, est convexe. Par exemple, une sous-varit totalement godsique dune varit riemannienne complte simplement connexe courbure sectionnelle ngative ou nulle est convexe. Muni de la distance induite, tout convexe dun espace mtrique CAT() est encore un espace mtrique CAT(). (5) Si 0, alors la distance d est convexe, au sens que pour tous les segments godsiques c : I M et c : I M reparamtrs proportionnellement la longueur darc par [0, 1], lapplication de [0, 1]2 dans R dnie par (t, u) d(c(t), c(u)) est convexe. En particulier, en reparamtrant proportionnellement la longueur darc c et c par [0, 1], pour tout t [0, 1], nous avons d(c(t), c (t)) (1 t)d(c(0), c (0)) + t d(c(1), c (1)) . 230

En particulier, d(c(t), c (t)) max{d(c(0), c (0)), d(c(1), c (1))} . Le rsultat est en eet vrai dans le plan euclidien E2 , et en utilisant deux triangles de comparaison comme dans la gure ci-contre, le rsultat gnral sen dduit. c(0) c(t) c (0) c (t) c (1) c(1)

Proposition 3.51 Soient (X, d) un espace mtrique CAT(0) et C un convexe non vide, complet pour la distance induite. Il existe une unique application C : X C telle que, pour tout x X, le point C (x) soit lunique point de C tel que d(x, C (x)) = d(x, C). De plus, C est 1-lipschitzienne, constante sur [x, C (x)], et est une rtraction par dformation forte de X sur C ; pour tous les x C et y C, langle de comparaison en C (x) entre x / et y est obtu (au moins ). 2 Le point C (x) est appel la projection de x sur C. Lorsque X est un espace de Hilbert, ce rsultat est bien connu, et C (x) est la projection orthogonale de x sur C. Dmonstration. Montrons tout dabord lexistence et lunicit des projections sur C. Pour tout x X, soit D = d(x, C) (qui existe parce que C est non vide). Soit (yn )nN une suite dans C telle que limn+ d(x, yn ) = D. Montrons que (yn )nN est une suite de Cauchy dans C. Sa limite dans C (qui existe parce que C est complet) sera une projection de x sur C (car lapplication y d(x, y) est 1-lipschitzienne donc continue). De plus, si y et y taient deux projections de x sur C, en prenant y2n = y et y2n+1 = y , nous en dduirions aussi que y = y . Soit > 0. Par convexit stricte des boules dans E2 , soit R > D tel que pour tout x E2 , tout segment godsique contenu dans BE2 (x, R) BE2 (x, D) soit de longueur strictement infrieure . Soit N N tel que si n N , alors d(x, yn ) < R. Montrons que d(yp , yq ) < 2 si p, q N , ce qui conclut. Notons m le milieu de lunique segment joignant yp et yq , qui appartient C par convexit de C. Considrons un triangle de comparaison dans E2 du triangle godsique dans X de sommets x, yp , yq , et soient x, yp , yq , m les points correspondants x, yp , yq , m respectivement. Alors d(x, m) d(x, m) D, donc lune des deux moitis ouvertes du segment godsique [yp , yq ] est contenue dans BE2 (y, R) BE2 (y, D), ce qui montre le premier rsultat. Montrons maintenant les autres proprits de le projection sur C. Soit x X C. Pour tout y [x, C (x)], pour tout z C, nous avons d(y, z) d(y, C (x)), sinon par lingalit triangulaire, nous aurions d(x, z) < d(x, C). Donc lapplication C est constante sur [x, C (x)]. Soient y C {C (x)} et langle de comparaison en C (x) entre x et y. Supposons par labsurde que < . Considrons un triangle de comparaison dans E2 du triangle 2 godsique dans X de sommets x, y, z = C (x), de sommets correspondants x, y, z. Langle en z de est strictement infrieur . Donc si p est un point distinct de z et susamment 2 proche de z sur le segment godsique [z, y], alors d(x, p) d(x, p) < d(x, z) = d(x, z), ce qui contredit le fait que z soit la projection de x sur C. Soient x, x X C et p = C (x), p = C (x). Montrons que d(p, p ) d(x, x ). Nous pouvons supposer que p = p . Considrons un quadrilatre de E2 obtenu en recollant des 231

triangles de comparaison des triangles de sommets x, p, p et x, p , x le long (et de part et dautre) du ct correspondant [x, p ]. Notons x, x , p, p les points correspondants x, x , p, p . Par ce qui prcde, ses angles en p et p sont au moins . Donc d(x, x ) = 2 d(x, x ) d(p, p ) = d(p, p ). Proposition 3.52 Soient (X, d) un espace mtrique CAT() complet et A une partie borne non vide de X. Notons rA la borne infrieure des r > 0 tels quil existe x X tel que A B(x, r), et supposons que rA < 2 si > 0. Alors il existe un unique point cA X tel que A B(cA , rA ). Ce point cA sera appel lpicentre de A (la terminologie de centre (comme dans [BH]) ou de barycentre est aussi utilise). Dmonstration. Puisque A est born, rA est bien dni. Si rA = 0, alors A est rduit un point, et le rsultat est immdiat. Nous supposons donc que rA > 0. 1 Soient rn = rA + n+1 et (xn )nN une suite dans X telle que A B(xn , rn ). Montrons que (xn )nN est une suite de Cauchy. Sa limite sera un picentre, et si x et y taient deux picentres, en prenant x2n = x et x2n+1 = y, nous en dduirions aussi que x = y. Soit > 0. Par convexit stricte des boules dans M , de rayon strictement infrieur si > 0, soient r, R tels que 0 < r < rA < R < (cette dernire ingalit 2 2 lorsque > 0) et tels que pour tout x M , tout segment godsique contenu dans BM (x, R) BM (x, r) soit de longueur strictement infrieure . Soit N N tel que si n N , alors rn < R. Montrons que d(xp , xq ) < 2 si p, q N , ce qui conclut. Notons m le milieu de lunique segment joignant xp et xq . Il existe un point y dans A tel que d(y, m) r, sinon A B(m, r), ce qui contredit le fait que r < rA . Considrons un triangle de comparaison dans M du triangle godsique dans X de sommets y, xp , xq , et soient y, xp , xq , m les points correspondants y, xp , xq , m. Alors d(y, m) d(y, m) r, donc lune des deux moitis ouvertes du segment godsique [xp , xq ] est contenue dans BM (y, R) BM (y, r), ce qui montre le rsultat. Corollaire 3.53 (Thorme du point xe de Cartan) Si (X, d) est un espace mtrique CAT(0) complet, un sous-groupe du groupe des isomtries de X ayant une orbite borne admet un point xe. Ce rsultat, qui sapplique par exemple si est compact, ou si est ni, dcoule immdiatement de la proposition 3.52, car par unicit, lpicentre de toute orbite borne de est xe par . Ce rsultat est une proprit remarquable des espaces CAT(0), et avait t dmontr dans des cas particuliers par E. Cartan (lorsque X est une varit riemannienne complte simplement connexe courbure ngative ou nulle) ou par Bruhat-Tits (lorsque X est un immeuble ane). Notons que lensemble des points xes de toute isomtrie dun espace CAT(0) est convexe (il contient lunique godsique entre deux de ses points). Thorme 3.54 (Thorme de Cartan-Hadamard) Soit X un espace mtrique connexe complet localement CAT(0). Alors X admet un revtement universel localement isomtrique CAT(0) et celui-ci est complet.

232

Dmonstration. Voir par exemple [BH, Chap. II.4]. Notons que comme un espace localement CAT(0) connexe est localement contractile et connexe par arcs, il admet bien un revtement universel, et celui-ci est donc contractile, comme pour le cas des varits riemanniennes compltes courbure ngative ou nulle (voir le thorme 3.38). Corollaire 3.55 Soient (X, d) un espace CAT(0) complet, et A et B deux parties non vides compactes convexes disjointes. Alors il existe une unique godsique entre un point de A et un point de B de longueur minimale (cest--dire gale d(A, B)). Soient (X, d) un espace mtrique localement CAT(0) complet, et x et y deux points distincts de X. Alors toute classe dhomotopie relative aux extrmits de chemins entre x et y contient une et une seule godsique de longueur minimale. Soient (X, d) un espace mtrique localement CAT(0) complet et x X. Alors le groupe fondamental 1 (X, x) de X en x est sans torsion. En particulier, les groupes fondamentaux des varits riemanniennes compltes courbure ngative ou nulle sont sans torsion. Voici un corollaire des propositions 3.10 et 3.52, qui nest pas vrai en gnral pour le cas pseudo-riemannien. Corollaire 3.56 Soient (M, g) une varit riemannienne simplement connexe complte de dimension n 2 courbure sectionnelle ngative ou nulle, et un sous-groupe de Isom(M, g). Les conditions suivantes sont quivalentes : (1) agit librement et proprement sur (M, g) ; (2) est un sous-groupe discret sans torsion du groupe topologique Isom(M, g). Notons que le groupe des racines n-me de lunit agit proprement et librement sur le cercle par isomtries, mais nest pas sans torsion. Dmonstration. Muni de sa distance riemannienne, M est un espace mtrique CAT(0). Montrons que (1) implique (2). Si (i )iN est une suite dans tendant vers llment neutre du groupe Isom(M, g), alors pour tout x M , la suite (i x)iN tend vers x. En considrant un voisinage compact de x dans M et par la propret de laction de , la suite (i )iN ne prend quun nombre ni de valeurs. Donc est discret. Si est dordre ni, alors par le corollaire 3.53, llment admet un point xe, donc vaut lidentit puisque agit librement. Donc est sans torsion. Rciproquement, montrons que (2) implique (1). Si xe un point x M , alors puisque le stabilisateur de x est compact par la proposition 3.10 et puisquune partie discrte dun espace compact est nie, nous en dduisons que est dordre ni, donc gal llment neutre. Par consquent, agit librement. Pour montrer la propret de laction, supposons par labsurde quil existe un compact C de M et une suite (i )iN dlments deux deux distincts de tels que i C C = pour tout i N. Alors quitte extraire, il existe x et y dans M tels que (i x)iN converge vers y. Par le thorme dAscoli, (i )iN converge donc vers une isomtrie g de M . Donc (i+1 i 1 )iN est une suite dans dlments non triviaux, qui converge vers llment neutre, ce qui contredit le fait que est discret. 233

3.7

Gomtrie linni des varits de courbure ngative ou nulle

La rfrence recommande pour cette partie est encore [BH]. 3.7.1 Bord linni des espaces CAT(0)

Soit (X, d) un espace mtrique CAT(0) complet, par exemple une varit de Hadamard, cest--dire une varit riemannienne complte simplement connexe courbure sectionnelle ngative ou nulle, munie de sa distance riemannienne. Deux rayons godsiques c, c : [0, +[ X dans X sont dits asymptotes si lune des conditions quivalentes suivantes est vrie : leur distance de Hausdor est nie (cest--dire quil existe A > 0 tel que tout point de limage de c est distance au plus A dun point de limage de c et de mme en changeant c et c ) ; supt[0,+[ d(c(t), c (t)) < +. La seconde condition implique immdiatement la premire. Si la premire est vrie, pour tout t [0, +[ , soit pt un point de limage de c tel que d(c(t), pt ) A. Alors, par lingalit triangulaire et puisque c (0), c (t) et pt sont aligns, d(c(t), c (t)) d(c(t), pt ) + d(pt , c (t)) A + |d(pt , c (0)) t| 2A + d(c (0), c(0)) + |d(c(t), c(0)) t| = 2A + d(c (0), c(0)) .

Donc la seconde condition est vrie. Remarquons que pour montrer que c et c sont asymptotes, il sut de vrier quil existe A > 0 tel que tout point de limage de c est distance au plus A dun point de limage de c . Par lingalit triangulaire, tre asymptote est une relation dquivalence sur lensemble Ray(X) des rayons godsiques de X, invariante par laction des isomtries. Munissons Ray(X) de la topologie compacte-ouverte (cest--dire de la topologie de la convergence uniforme sur les compacts). Il est facile de vrier que cette topologie est mtrisable par la distance d : Ray(X) Ray(X) [0, +[ dnie par d(c, c ) = inf
>0

sup d(c(t), c (t)) < .

t[0, 1 ]

Laction du groupe des isomtries de X sur Ray(X) est continue (car isomtrique pour la distance ci-dessus). Lespace topologique quotient de Ray(X) par la relation dquivalence tre asymptote est appel le bord linni de X, et not X. Ses lments sont appels les points linni de X. La classe dquivalence dun rayon godsique c est appele le point linni de c, et note c(+). Laction quotient du groupe des isomtries de X sur X est continue, et appele laction au bord du groupe des isomtries de X. Lemme 3.57 Pour tout rayon godsique c : [0, +[ X et pour tout x X, il existe un et un seul rayon godsique cx asymptote c dorigine x. Si c : [0, +[ X est un rayon godsique asymptote c, alors cx = c x . Lapplication (c, x) cx de Ray(X) X dans Ray(X) est continue.

234

Si X et x X, nous noterons [x, [ limage du rayon godsique dorigine x appartenant la classe dquivalence . Dmonstration. Lapplication x cx est isomtrique, car pour tous les x, y X, par convexit de la distance et puisque cx et cy sont asymptotes, nous avons d(cx (t), cy (t)) d(cx (0), cy (0)), donc d(cx , cy ) = d(x, y). Ceci montre en particulier lunicit de cx . Pour montrer lexistence de cx , soit cn : [0, d(x, c(n))] X le segment godsique de x c(n), qui, par convexit de la distance, est contenu dans le -voisinage de limage de c pour = d(c(0), x). c(0) c(n) c(n + 1)

Par comparaison, pour tout N N, la suite (cn )nN est dnie pour n assez grand et uniformment de Cauchy sur lintervalle [0, N ]. Elle converge donc, par compltude de X, vers une application N : [0, N ] X, qui est isomtrique par passage la limite. Lexistence sen dduit en posant cx (t) = N (t) pour nimporte quel entier N t. Pour tous les c, c Ray(X) et x, x X, nous avons d(c x , cx ) d(c x , c x ) + d(c x , cx ) = d(x, x ) + d(c x , cx ) . Donc pour montrer que lapplication (c, x) cx est continue, il sut de montrer que lapplication c cx est continue. Si c est proche de c, alors d(x, c (0)) A = d(c, c(0))+1), donc le rayon godsique c x est distance au plus A de la concatnation du segment godsique [x, c (n)] et du rayon godsique [c (n), c (+)[ . Donc pour n assez grand, c x est proche de [x, c (n)], qui est proche de [x, c(n)], qui est proche de cx , ce qui montre la continuit de c cx . Pour tout x0 X, munissons lensemble Gx0 des segments et rayons godsiques dans X dorigine x0 au temps t = 0 de la topologie induite par la distance d : Gx0 Gx0 [0, +[ dnie par d(c, c ) = inf sup d(c(t), c (t)) < ,
>0 t[0, 1 ]

o un segment godsique c : [0, a] X est tendu en une application 1-lipschitzienne c : [0, +[ X par c(t) = c(a) pour t a. Sur Gx0 Ray(X), les distances induites par celle de Gx0 et celle de Ray(X) concident. geo lensemble somme disjointe X X de X et de son bord linni. Pour Notons X geo tout x0 X, notons extx0 : Gx0 X lapplication qui un segment ou rayon godsique c dorigine x0 associe son autre extrmit si c est un segment, ou son point linni si c est un rayon. telle que pour tout x0 X, Proposition 3.58 Il existe une et une seule topologie sur X geo soit un homomorphisme. lapplication extx0 de Gx0 dans X geo De plus, cette topologie est mtrisable, X est un ouvert dense de X , et les topologies geo sont les topologies originelles. induites sur X et sur X par la topologie de X Dmonstration. La restriction de extx0 au sous-espace des rayons godsiques dorigine x0 est un homomorphisme sur X. En eet, cest une application continue comme restriction de la projection canonique de Ray(X) dans X, et une bijection dinverse continu par le lemme 3.57 ci-dessus. 235
geo

La restriction de extx0 au sous-espace des segments godsiques dans Gx0 est un homomorphisme sur X. En eet, pour tout x X, il existe un unique segment godsique sx : [0, d(x0 , x)] X dorigine x0 en t = 0 et dextrmit x, et pour tous les x, y X, nous avons d(sx , sy ) = d(x, y) par convexit de la distance. Donc extx0 est une bijection. Pour tous les x, y X, lapplication ext1 extx de Gx y dans Gy , qui est lapplication qui c Gx asocie cy , est continue par le lemme 3.57 cigeo de la topologie image par la bijection extx0 , qui donc ne dpend dessus. Munissons X pas du choix de x0 . geo vient du fait que si c : [0, +[ X est un rayon godsique La densit de X dans X dans X, alors c(n) converge vers c(+), par dnition de la distance sur Gc(0) . Il est geo immdiat que Gx0 Ray(X) est ferm dans Gx0 . Donc X est ferm dans X . Le rsultat en dcoule. Cette topologie est parfois appele la topologie des cnes sur X (voir [BH] pour une geo explication). Elle est invariante par laction du groupe des isomtries de X sur X (car pour toute isomtrie de X, lapplication de Gx dans Gx dnie par c c est une isomtrie). Si X est propre (rappelons que ceci signie que toute boule ferme est compacte, comme par exemple si X est une varit de Hadamard), alors par le thorme dAscoli, lespace Gx0 geo = X X des segments et rayons godsiques dorigine xe x0 est compact, donc X est mtrisable compact, et appel la compactication gomtrique de X. Exemples. (1) Deux rayons godsiques dans En sont asymptotes si et seulement si les droites godsiques quils dnissent sont parallles. Lapplication de la boule unit ferme Bn geo qui au point x associe (arctanh x ) x si x < 1 et le point linni du rayon dans En godsique dorigine 0 passant par x si x = 1 est un homomorphisme. (2) Il est immdiat de vrier que, si X est le modle du demi-espace suprieur de lespace hyperbolique rel Hn , alors deux rayons godsiques c, c : [0, +[ X sont R asymptotes si et seulement si ou bien ce sont des rayons de droites verticales partant linni, ou bien ce sont des arcs de cercles perpendiculaires en un mme point de lhyperplan horizontal. En particulier, le bord linni de ce modle est homomorphe, de manire quivariante pour laction du groupe des isomtries de X, au compacti dAlexandrov de lhyperplan horizontal Rn1 : (Rn , ds2 ) = Rn1 {} . + hyp Comme la distance entre deux points de mme coordonne verticale h et dont les projections horizontales sont distance euclidienne au plus a est majore par la longueur a hyperbolique du chemin horizontal entre ces points, qui est h , et puisque la distance hyperbolique entre deux points de coordonnes verticales 1 et h > 1 sur une mme verticale est log h, nous en dduisons, en nous ramenant par isomtrie au cas o = , que si c et c sont deux rayons godsiques asymptotes de points linni , alors il existe a > 0 tel que d c(t), c ([0, +[) a et .
geo

236

 Rn + Sn1

De mme, par isomtrie, si X est le modle de la boule de lespace hyperbolique rel Hn , alors deux rayons godsiques c, c : [0, +[ X sont asymptotes si et seulement si R ce sont des arcs de cercles ou de droites vectorielles perpendiculaires en un mme point de la sphre Sn1 . En particulier, le bord linni de ce modle est homomorphe, de manire quivariante pour laction du groupe des isomtries de X, la sphre Sn1 bord de la boule : (Bn , ds2 ) = Sn1 . hyp Et dans le modle du demi-hyperbolode suprieur, deux rayons godsiques sont asymptotes si et seulement sils sont asymptotes une mme droite du cne de lumire. En particulier, le bord linni de ce modle est homomorphe, de manire quivariante pour laction du groupe des isomtries, lespace projectif du cne de lumire : (Hn , ds2 ) + hyp

= {x = (x0 , x1 , . . . , xn ) Rn+1 {0} : x2 + x2 + + x2 = 0}/xx, R . n 1 0 Remarque 3.59 Par comparaison, dans un espace mtrique CAT(1) X, les conditions suivantes sur deux rayons godsiques c, c : [0, +[ X sont quivalentes la distance de c(t) limage de c tend vers 0 quand t tend vers + ; c et c sont asymptotes ;

il existe a > 0 et t0 R tels que, pour tout t [max{0, t0 }, +[ , nous ayons d c(t), c (t + t0 ) a et . (3) Pour tout x dans X, nous avons vu dans la proposition 3.58 que la restriction de la projection canonique dans X lespace Ray(X) Gx des rayons godsiques dorigine x est un homomorphisme. Ainsi, si M est une varit de Hadamard, pour tout 1 v+ x M , lapplication de Tx M dans M , qui un vecteur tangent unitaire v en x associe le point linni v v+ du rayon godsique de vecteur tangent lorigine v, x est un homomorphisme : deux rayons godsiques sont 1M Tx proches si et seulement leur angle lorigine est petit. M En particulier, si M est de dimension n, alors M est homomorphe la sphre Sn1 . Lhomomorphisme expx : Tx M M se prolonge par continuit en un homomorgeo geo M . En particulier, si M est de dimension n, alors la compactiphisme de Tx M cation gomtrique de M est homomorphe la boule unit ferme euclidienne Bn . 237

il existe a > 0 tel que d c(t), c ([0, +[) a et pour tout t [0, +[ ;

(4) Un arbre rel T est un espace mtrique uniquement connexe par arc, dans lequel tout arc est isomtrique un intervalle de R. Nous renvoyons par exemple [Sha2, Sha1, Bes2, Mor, Pau1] pour des exemples et complments. Lensemble C = R2 , muni de la distance d(z, z ) = |z z | si z, z sont sur une mme verticale, et d(z, z ) = | Im z| + | Im z | + | Re z Re z | sinon, est un arbre rel. z z

Un arbre rel est CAT(0), et en fait est CAT() pour tout R, car ses triangles godsiques sont des tripodes. En particulier, un arbre rel est godsique. Par exemple, un arbre simplicial, muni de la distance maximale rendant chaque arte isomtrique [0, 1], est un arbre rel. Deux rayons godsiques sont asymptotes si et seulement si lintersection de leurs image contient limage dun rayon godsique. Par exemple, le bord linni dun arbre simplicial localement ni T est un espace totalement discontinu, qui est un espace de Cantor si la valence en chaque sommet (sauf peut-tre pour un nombre ni dentre eux) est au moins 3. (5) Nous allons donner un exemple despace mtrique CAT(1) obtenu par recollement de polygones hyperboliques, et dcrire son bord. Nous renvoyons [BH] pour plus de dtails sur les complexes polydraux, qui sont des recollements isomtriques de polydres convexes courbure constante le long de faces, et que nous dnissons ci-dessous. Nous renvoyons au thorme 3.36 pour la dnition des espaces modles M,n . Soient R et n N {0, 1}. Un hyperplan de M,n est une sous-varit totalement godsique complte de codimension 1 de M,n . Pour toute partie A de M,n , lenveloppe convexe de A est lintersection de tous les convexes de M,n contenant A. Un polydre convexe P de M,n est lenveloppe convexe dune partie nie de M,n , contenue dans une boule ouverte de rayon 2 si > 0. Une face F de P est une intersection non vide de P et dun hyperplan H de M,n tel que P soit contenu dans ladhrence dune composante connexe de M,n H. La dimension dune face F est la dimension de lintersection de tous les hyperplans de M,n contenant F , et lintrieur de F est lintrieur topologique de F dans cette intersection. Voici des exemples de polydres euclidiens de dimension 3 (de gauche droite : ttradre, cube, octadre, dodcadre, icosadre) et des analogues hyperboliques (dessins par Mathematica).

238

Un complexe polydral de courbure est un recollement isomtrique de polydres convexes de courbure le long de faces, cest--dire une famille (Ci )iI , o Ci est un polydre convexe de M,ni pour un certain ni N {0, 1}, munie dune relation dqui valence (appele recollement) sur la runion disjointe iI Ci telle que si p : iI Ci ( iI Ci )/ est la projection canonique, alors pour tout i I, la restriction de p lintrieur de Ci est injective ; pour tous les i, j I et x Ci , y Cj , si p(x) = p(y), alors il existe une isomtrie f de lunique face de Ci contenant x dans son intrieur sur lunique face de Cj contenant y dans son intrieur telle que p(z) = p(h(z)) pour tout z Ci . Nous appelerons parfois par abus complexe polydral lespace topologique quotient X = ( iI Ci )/ , o iI Ci est muni de la topologie somme disjointe. La famille (Ci )iI , le recollement et la projection canonique p sont alors sous-entendus. Si = 1, 0, +1, alors X est appel un complexe hyperbolique, euclidien, sphrique par morceaux. La dimension de X est la borne suprieure des dimensions des Ci pour i I (qui peut valoir +). Nous dirons que X est un complexe polygonal si sa dimension est 2. Un chemin godsique par morceaux dans un complexe polydral X est une application c : [a, b] X telle quil existe une subdivision a = t0 t1 tm = b et des segments godsiques ck : [tk1 , tk ] Cik tels que c(t) = p(ck (t)) pour tous les t [tk1 , tk ] et k {1, . . . , m}. Sa longueur est (c) = m long(ck ). Si X est connexe, la distance d(x, y) k=1 entre deux points x et y de X est la borne infrieure des longueurs des chemins godsiques par morceaux entre x et y. Si la famille (Ci )iI na quun nombre ni de classes disomtrie dlments, alors lapplication d : (x, y) d(x, y), appele la distance polydrale de X, est une distance complte sur X (voir [BH, Theo. 7.50]). Pour tout entier p 5, il existe un polygone hyperbolique Pp rgulier n cts et angles droits, unique isomtrie prs. Par exemple, pour tout ]0, 1], notons Pp () lenveloppe convexe dans le modle du disque (B2 , ds2 ) du plan hyperhyp bolique H2 des points zk () = e p pour k = 0, . . . , p 1. R Langle de Pn () en zk (t) est indpendant de k, car le groupe O(2) prserve le disque unit et sa mtrique hyperbolique. Il est strictement dcroissant en , par les formules de trigonomtrie hyperbolique. Il converge quand tend vers 0 vers langle en un sommet dun polygone euclidien rgulier n cts, qui est strictement suprieur , car n 5. Il converge vers 0 quand 2 tend vers 1. Par continuit, il existe donc un unique ]0, 1[ tel que = . 2
2i k

H2 R

239

L3

Pour tout entier q 2, notons Lq le graphe bipartie complet q + q sommets : cest le graphe densemble des sommets {1, . . . , 2q} et densembles des artes {(i, j) : 1 i q, q + 1 j 2q}. Sa maille (la longueur dun plus petit cycle dartes sans aller-retour) est 4.

Bourdon [Bou5] a dmontr que pour tous les entiers p 5 et q 2, il existe un unique ( isomtrie prs) complexe polygonal hyperbolique par morceaux Ip,q , dont les polygones sont des polygones hyperboliques rguliers p cts, et dont les sphres de centre tout sommet et de rayon assez petit sont homomorphes au graphe bipartie complet Lq . Pour p = 5 et q = 3, voici le recollement des 9 pentagones hyperboliques contenant un sommet x de I5,3 . Notons que Ip,q nest pas plongeable dans R3 si q 3 car Lq nest pas planaire. La ligne - - - - dans le dessin ci-contre nappartient pas lintersection de deux polygones de I5,3 . Par exemple, lorsque p = 5 et q = 2, le complexe polygonal Ip,q est le pavage par pentagones hyperboliques du plan hyperbolique donn par la gure de droite ci-dessous. (Les autres dessins sont dautres pavages par des polygones hyperboliques du plan hyperbolique, celui de gauche tant dcor par Escher.)

Muni de sa distance polydrale, ce complexe polygonal Ip,q (appel limmeuble hyperbolique de Bourdon) est un espace mtrique CAT(1) (voir par exemple [BH]). Benakli [Ben] a dmontr que son bord linni Ip,q est homomorphe la courbe de Menger.

La courbe de Menger (aussi appele lponge de Menger) est lunique ( homomorphisme prs) espace topologique mtrisable, compact, connexe, localement connexe par arcs, sans point de coupure local (cest--dire sans point qui, quand on lenlve, rend non 240

connexe tout voisinage), non plongeable dans R2 , de dimension topologique 1 (cest--dire dont tout point admet un systme fondamental de voisinages dont la frontire est totalement discontinue). Une manire de la construire est de prendre le cube unit de R3 , de le dcomposer en 27 cubes de longueur de ct 1/3, denlever les intrieurs des 7 cubes qui ne rencontre pas les artes du cube unit, ditrer, et de prendre lintersection dcroissante. Remarque. Si X est un espace mtrique CAT(0) propre, alors lensemble des bouts de X (au sens de Freudenthal, voir par exemple [Pau4, 4.5]) est lensemble des composantes connexes de X. 3.7.2 Fonctions de Busemann et horosphres

Soient (Z, d) un espace mtrique, et c : [0, +[ Z un rayon godsique dans Z. La fonction de Busemann de c est lapplication c : Z R dnie par c : x
t+

lim d(x, c(t)) t .

Remarques. (1) Cette limite existe. En eet, pour tout x Z, lapplication t d(x, c(t)) t est dcroissante (car, par lingalit triangulaire, d(x, c(t)) t d(x, c(t )) + (t t ) t si t t), minore par d(x, c(0) (par lingalit triangulaire inverse), donc converge. (2) Pour tout x Z, nous avons, par lingalit triangulaire, |c (x)| d(x, c(0)) et lapplication c est 1-lipschitzienne. Elle est convexe si Z est CAT(0). (3) Si Z est CAT(0), si c et c sont des rayons godsiques asymptotes dans X, alors c c est constante (elle vaut la limite quant t tend vers + de la distance algbrique le long de c entre c (t) et la projection orthogonale de c(t) sur (limage de) c ). Soit (X, d) un espace mtrique CAT(0) complet (par exemple une varit de Hadamard). La fonction de Busemann de X est lapplication : X X X R dnie par (, x, y) (x, y) o (x, y) = lim d(x, c(t)) d(y, c(t)) ,
t+

o c est un rayon godsique de point linni . Remarques. (1) Par ce qui prcde, cette limite existe (elle vaut c (x) c (y)). Elle est indpendante de c, et pour tous les x, y X et X, nous avons | (x, y)| d(x, y) . (2) La fonction de Busemann vrie les proprits de cocycles suivantes : pour tous les M et x, y, z M , nous avons (x, y) + (y, z) = (x, z), 241 (y, x) = (x, y) .

(3) La fonction de Busemann est invariante par isomtrie, cest--dire que pour tous les Isom(X, d), M et x, y M , nous avons (x, y) = (x, y) . Les lignes de niveau et les sous-niveaux des fonctions de Busemann des rayons godsiques jouent un rle important dans la gomtrie des espaces CAT(0). Pour tout X et tout x X, lhorosphre (Poincar disait horisphre ) de X de centre passant par x est H(, x) = {y X : (y, x) = 0} . Lhoroboule (ferme) de X de centre dont le bord contient x est HB(, x) = {y X : (y, x) 0} . Exemples. Lhoroboule ouverte de X de centre dont le bord contient x est {y X : (y, x) < 0}.

(1) Dans lespace euclidien les horosphres sont les hyperplans anes, et les horoboules les demi-espaces.

En ,

11111 00000 11111 00000 11111 00000 1111111 0000000 11111 00000 1111111 0000000 11111 00000 11111 00000
c c(0)

E2

1 c (0)

(2) Dans le demi-espace suprieur hyperbolique (Rn , ds2 ), les horosphres sont les + hyp hyperplans anes horizontaux ou les sphres euclidiennes tangentes lhyperplan de coordonnes horizontal Rn1 , prives de leur point de tangence. (3) Dans la boule de Poincar (Bn , ds2 ), les hyp horosphres (respectivement horoboules) sont les sphres (respectivement boules) euclidiennes tangentes la sphre Sn1 , prives de leur point de tangence.

H2 R

Bn 0

Remarques. (1) Les horoboules sont les limites des grandes boules (et leurs centres les limites des centres). Plus prcisment, soit c : [0, +[ X un rayon godsique de X, et B(t) la boule de centre c(t) et de rayon t. Alors (voir le dessin de gauche ci-dessous) lapplication t B(t) converge vers lhoroboule HB de centre c(+) contenant c(0) dans son bord pour la distance de Hausdor sur les borns (cest--dire que pour tout N N, si KN est la boule de centre c(0) et de rayon N , alors le ferm (B(t) KN ) c KN converge vers le ferm (HB KN ) c KN pour la distance de Hausdor sur les ferms de X). Ainsi, le centre de lhoroboule HB est la limite quand t tend vers + des centres des boules B(t), ce qui explique la terminologie. De mme, la sphre S(t) de centre c(t) et de rayon t converge pour la distance de Hausdor sur les borns vers lhorosphre de centre passant par c(0). 242

c(0)

c(+) c(t)

(2) Si (X, d) est une varit riemannienne, alors toute horosphre de centre X est une hypersurface lisse, perpendiculaire aux droites godsiques de point linni (voir le dessin de droite ci-dessus). (3) Une horoboule HB est convexe, et la projection orthogonale HB sur HxB vaut, en tout point x nappartenant pas HB, lintersection avec lhorosphre bord de HB de lunique rayon godsique dorigine x et de point linni . = X X dune horoboule HB (4) Si X est CAT(1), alors ladhrence dans X ou dune horosphre H est la runion de cette horoboule ou horosphre avec son centre (qui est un point linni). Ceci nest en gnral plus vrai si X est seulement suppos tre CAT(0). Par exemple, ladhrence dune horoboule de En est la runion de cette horoboule et dune hmisphre de En = Sn1 . Ce mme exemple montre que lnonc suivant aussi nest plus vrai en gnral dans un espace mtrique CAT(0). Exercice E.37 Soient X un espace mtrique CAT(1) et C un convexe non vide de X, complet pour la distance induite. Montrer que la projection C : X C admet une unique extension continue C : X ( X C) C, qui X C associe lunique point x de C tel que lhoroboule de centre contenant x dans son bord ne rencontre C quen {x}. 3.7.3 Feuilletages stable et instable du ot godsique
geo

Soient M une varit riemannienne complte simplement connexe, courbure sectionnelle infrieure 1, et d sa distance riemannienne (qui est CAT(1)). Pour tout vecteur tangent unitaire v T 1 M , notons cv : R M la godsique telle que c(0) = v. Notons Fss (v) = {w T 1 M :
t+

lim d(cv (t), cw (t)) = 0} ,

appel la feuille stable forte de v pour le ot godsique de M . De mme, notons Fsu (v) = {w T 1 M :
t

lim d(cv (t), cw (t)) = 0} ,

appel la feuille instable forte de v pour le ot godsique de M . Alors Fss (v) (respectivement Fsu (v)) est la sous-varit lisse de T 1 M , releve par la normale rentrante (respectivement sortante) de lhorosphre de centre cv (+) (respectivement cv (+)) passant par cv (0) (voir le dessin de gauche ci-dessous).

243

Fsu (v) Fss (v)

Fss (v) v v M T 1M Fsu (v) t (v)

Remarque. Considrons les sous-espaces suivants de T (T 1 M ) : Ess =

vT 1 M

Tv Fss (v),

Esu =
vT 1 M

Tv Fsu (v),

E0 =
vT 1 M

RZ(v)

(o nous notons Z(v) la valeur en v du champ de vecteurs godsique Z, cest--dire que d Z(v) est le vecteur tangent en t = 0 la courbe t cv (t) = dt t (v) lisse dans T 1 M , voir la remarque (1) de la partie 3.3). Ce sont des sous-brs vectoriels topologiques de T T 1 M . Le ot godsique (t )tR sur N = T 1 M est un ot dAnosov pour la norme riemannienne de N , cest--dire que le br vectoriel T N N est somme directe de trois sous-brs vectoriels topologiques T N = Esu E0 Ess
d invariants par t pour tout t R, o E0 Tv N = R dt t (v) pour tout v N , et quil existe des constantes c, > 0 telles que pour tout t > 0 et tout v N , nous ayons

Tv t |Ess c et et

Tv t |Esu c et .

Ainsi, les feuilles fortement stables sont contractes par le ot godsique, et les feuilles fortement instables sont dilates (voir le dessin de droite ci-dessus). Nous renvoyons par exemple [KH] pour plus dinformations sur les ots dAnosov. 3.7.4 Structure conforme au bord des espaces CAT(1)

Soit X un espace mtrique CAT(1). Le bord linni de X possde alors des proprits plus fortes que dans le cas CAT(0) gnral. Les rsultats de cette sous-partie ont une extension vidente aux espaces mtriques CAT() o < 0, par homothtie des distances. La proprit suivante nest pas vrie par les espaces mtriques CAT(0) gnraux (considrer par exemple E2 ). Exercice E.38 Si et sont deux points distincts de X, alors il existe une droite godsique c : R X, unique translations prs la source, telle que les rayons godsiques t c(t) et t c(t) convergent vers et quand t +. Si et sont deux point distincts de X, nous noterons ], [ limage dune droite godsique dont les points linni sont et . Nous allons munir le bord linni de X dune structure conforme naturelle, au sens suivant. 244

Deux distances d et sur un ensemble Z sont dites conformment quivalentes si elles 0) induisent la mme topologie et si pour tout x0 Z, la limite limxx0 ,x=x0 d(x,x0 ) existe et (x,x est strictement positive. La relation tre conformment quivalente est une relation dquivalence sur lensemble des distances sur Z, et une structure conforme sur Z est une classe dquivalence pour cette relation. Soient Z et Z deux ensembles munis dune structure conforme, et d et d des distances sur Z et Z les reprsentant. Une bijection : Z Z est conforme si les distances d and d : (x, y) d (x, y) sont conformment quivalentes, cest--dire si pour tout x0 Z, (x,x la limite limxx0,x=x0 d d(x,x0 )0 ) existe et est strictement positive. Ceci ne dpend pas du choix des reprsentants d et d des structures conformes de Z et Z . Une structure conforme sur un ensemble muni dune action dun groupe G sera dite naturelle sous laction de ce groupe si tout lment de G agit par transformations conformes. Pour tout x X, pour tous les , X distincts, appelons distance visuelle entre et vue de x la quantit dx (, ) = lim e 2
t+
1

d(x, c(t))+d(x, c (t))d(c(t), c (t))

( 40 )

pour tous les rayons godsiques c et c de points linni respectivement et . De manire quivalente, si t t et t sont les rayons godsiques dorigine x qui convergent vers t et , alors 1 ( 41 ) dx (, ) = lim e 2 d(t , t )t .
t+

Encore de manire quivalente, si u est nimporte quel point de la godsique entre et , alors dx (, ) = e (x, u) (x, u) . ( 42 ) Si = , posons dx (, ) = 0. Proposition 3.60 Soit X un espace mtrique CAT(1). Pour tout x X, les limites ci-dessus existent et les trois formules ci-dessus concident. La distance visuelle dx est une distance sur X, dont la topologie induite est la topologie originelle de X. Pour tous les x, y X et , X distincts, nous avons ( 43 ) ed(x, ], [) dx (, ) (1 + 2)ed(x, ], [) , dx (, ) = e (x, y) (x, y) , dy (, ) et, pour toute isomtrie de X, nous avons dx (, ) = dx (, ) . ( 45 ) ( 44 )

En particulier, il dcoule de la formule ( 44 ) que les distances visuelles dx pour x X appartiennent la mme structure conforme sur X, et des formules ( 44 ) et ( 45 ) que les extension au bord des isomtries de X sont des transformations conformes de cette structure conforme. Dmonstration. En prenant la formule ( 42 ) (qui ne dpend eectivement pas de u par la proprit de cocycle de la fonction de Busemann) pour la dnition de dx , la formule 245

( 44 ) dcoule de cette proprit de cocycle, la formule ( 41 ) dcoule de la dnition de la fonction de Busemann, et la formule ( 40 ) sen dduit par les proprits des rayons asymptotes. La proprit dquivariance ( 45 ) dcoule de celle des fonctions de Busemann.

Montrons que dx est une distance, en reprenant les arguments de [Bou6]. Seule lingalit triangulaire nest pas immdiate. Pour tous les x, y, z X tels que y = x et z = x, posons 1 cosh d(y, z) cosh(d(x, y) d(x, z)) 2 . x (y, z) = 2 sinh d(x, y) sinh d(x, z)

Par les ingalits triangulaires d(x, y) d(x, z) d(y, z) d(y, x) + d(x, z), le nombre rel x (y, z) est bien dni et appartient [0, 1]. Par la loi du cosinus hyperbolique I (voir la proposition 3.22), si x, y, z sont les sommets dun triangle de comparaison dans H2 du R triangle godsique de X de sommets x, y, z, alors x (y, z) = sin x (y, z) . 2 ( 46 )

Notons S(x, r) la sphre dans X de centre x et de rayon r. Lemme 3.61 Pour tout r > 0, lapplication x : S(x, r)S(x, r) [0, 1] est une distance. Dmonstration. Seule lingalit triangulaire nest pas immdiate. Soient y, z, w trois points de S(x, r), montrons que x (y, z) x (y, w) + x (w, z). Comme x (y, z) 1, nous pouvons supposer que x (y, w) + x (w, z) < 1. Soient x, y, z, w H2 tels que les triR angles godsiques de H2 de sommets x, y, w R et x, w, z soient des triangles de comparaison des triangles godsiques de X de sommets x, y, w et x, w, z, avec y et z de part et dautre de la godsique passant par x et w. x r y p z w

Nous avons x (y, w)+ x (w, z) < 1 car x (y, w)+ x (w, z) < 1 et par la formule ( 46 ). Donc la corde [y, z] du cercle S(x, r) rencontre le rayon [x, w] de ce cercle en un point, que nous notons p. Soit p [x, w] le point correspondant p. Alors par lingalit triangulaire et lingalit CAT(1), nous avons d(y, z) d(y, p) + d(p, z) d(y, p) + d(p, z) = d(y, z) . Donc, par dnition de x et par la formule ( 46 ) applique dans H2 , nous avons R x (y, z) = cosh d(y, z) 2 sinh2 r
1 2

cosh d(y, z) 2 sinh2 r

1 2

= x (y, z) = sin

x (y, z) . 2

Or x (y, z) = x (y, w) + x (w, z) et sin(u + v) sin u + sin v si u, v [0, . Le rsultat 2 sen dduit. Lemme 3.62 Pour tous les , X, si t t et t sont les rayons godsiques t dorigine x qui convergent vers et , alors
t+

lim x (t , ) = dx (, ) . t 246

Dmonstration. Nous pouvons supposer que = . En particulier, limt+ d(t , ) = t +. Alors quand t +, nous avons
1 cosh d(t , ) 1 2 t e 2 d(t ,t )t . 2 2 sinh t Le rsultat sen dduit par la dnition ( 41 ) de la distance visuelle.

x (t , ) = t

Par passage la limite quand r + dingalits triangulaires de x sur S(x, r), lingalit triangulaire pour dx dcoule des deux lemmes prcdents. Montrons maintenant la formule ( 43 ). Le rsultat suivant est connu dans la littrature sous lnonc de la borne suprieure des meilleures constantes dhyperbolicit des espaces mtriques CAT(1) est ln(1 + 2) . Nous renvoyons [BH] pour des explications. Lemme 3.63 Soient (X, d) un espace mtrique CAT(1) et x, y, z X. Le point p de [y, z] le plus proche de x vrie d(p, [x, y]) ln(1 + 2) et d(p, [x, z]) ln(1 + 2). La constante ln(1+ 2) est optimale. Ce lemme stend, avec les conventions videntes, lorsque x, y, z X X. Par exemple, pour tous les x X et , X distincts, la projection p de x sur la droite godsique ], [ de points linni et vrie d(p, [x, [) ln(1 + 2) et d(p, [x, [) ln(1 + 2). y x x ln(1 + 2) p ln(1 + 2) z q p y z
4

Dmonstration. Par comparaison, nous pouvons supposer que X est le modle du demiplan suprieur du plan hyperbolique rel H2 . Utilisons la notation complexe. Par les proR prits de transitivit des isomtries, nous pouvons supposer (voir le dessin du milieu cidessus) que z appartient laxe imaginaire et que le segment godsique [x, y] est contenu dans le demi-cercle unit suprieur de R2 avec x avant y pour lordre trigonomtrique. En faisant tendre x, y, z vers 1, 1, respectivement, et symtrie, il sut de montrer par que le point i est distance hyperbolique au plus ln(1 + 2) de la demi-droite dquation Re z = 1. Par orthogonalit du demi-cercle unit et de cette demi-droite, qui sont go dsiques, la projection q de i sur cette demi-droite est le point 1 + 2i intersection du cercle de centre 1 passant par i, donc de rayon 2, avec cette demi-droite (voir le dessin de droite ci-dessus). Par le lemme 3.18, la distance hyperbolique entre i et q est gale = arcsinh (cot ) = arcsinh 1 = ln(1 + 2) . 4 Le rsultat en dcoule. Pour conclure, le lemme 3.63 (et la convexit de la distance) montre que deux points et de X sont proches, cest--dire que les rayons godsiques [x, [ et [x, [ sont proches, si et seulement si la distance du point x la droite godsique ], [ est grande. La formule ( 43 ) montre alors que la distance visuelle dx induit la topologie des cnes sur X. 247

3.7.5

Distance de Tits au bord des espaces CAT(0)

Soit (X, d) un espace mtrique CAT(0) complet. Nous allons aussi construire des distances naturelles sur le bord linni de X, mais qui ninduisent en gnral pas la topologie des cnes sur X. Pour tous les x X et , X, notons et les rayons godsiques dorigine x et de points linni et respectivement, et x (, ) langle de comparaison en x entre et , cest--dire la limite suprieure quant t 0 des angles au point correspondant x dun triangle de comparison du triangle godsique de sommets x, (t), (t). Dnissons la distance angulaire entre et comme (, ) = sup x (, ) .
xX

Proposition 3.64 Soit (X, d) un espace mtrique CAT(0) complet. (i) Lapplication : X X [0, ] est une distance complte CAT(1) sur X, appele distance angulaire. Les extensions au bord des isomtries de X sont des isomtries pour la distance angulaire. (ii) Pour tous les , X, nous avons (, ) = lim (t) (, ) .
t+

(iii) Pour tous les , X, nous avons 2 sin d( (t), (t)) (, ) = lim . t+ 2 t

Lorsque lespace X muni de la distance angulaire est connexe par arcs rectiables, la distance de longueur de la distance angulaire est appele la distance de Tits sur X, et note dTits . Dmonstration. Nous renvoyons [BH, Chap. II.9] pour une dmonstration de ces assertions. Remarques. (1) Si X = En , alors la distance angulaire entre deux directions est langle entre ces deux directions : pour tous les x X et , X, nous avons (, ) = x (, ). (2) La borne suprieure supxX x (, ) dnissant la distance angulaire entre et nest pas toujours atteinte. Sil existe une droite godsique de points linni et , alors cette borne suprieure est atteinte : en prenant un point x sur cette droite, nous avons (, ) = . Mais contrairement au cas des espaces mtriques CAT(1), tant donn deux points distincts linni et , il nexiste pas toujours de droite godsique dont les deux points linni sont et . Par exemple dans X = En , si et sont deux directions non opposes (cest--dire formant un angle dirent de ), alors il nexiste pas de droite godsique dont les deux points linni sont et . (3) La topologie induite par la distance angulaire est plus ne que la topologie des cnes sur X (cest--dire que tout ouvert pour la topologie des cnes est un ouvert pour la topologie induite par la distance angulaire). Mais la rciproque nest pas toujours

248

vraie. Par exemple, si X est un espace CAT(1), alors la topologie induite par la distance angulaire est la topologie discrte : par la remarque (2), nous avons (, ) = 0 si = sinon

La distance de Tits sur X est lun des outils pour une gnralisation due Gromov du thorme de rigidit de Mostow en rang suprieur 2 (qui sera dmontr dans la partie 4.4), pour laquelle nous renvoyons [BGS].

En particulier, la distance angulaire sur le bord dun espace mtrique CAT (1) nest pas connexe par arcs, et la distance de Tits est, par convention, gale + en dehors de la diagonale de X X.

3.8

Exercices supplmentaires

(1) Rappelons que K admet une unique mesure de probabilit invariante par translations droite. Montrer quil existe une mtrique riemannienne g sur M telle que tout lment de K agisse par isomtrie pour g. (2) Soient x M et Kx = {k K : kx = x} le stabilisateur de x dans K. Pour tout k K, notons Ak : M M lapplication y ky. En utilisant lapplication exponentielle de g en x, montrer que lapplication x : Kx GL(Tx M ), dnie par x (k) = Tx Ak pour tout k K, est un morphismes de groupes de Lie injectif. (3) En dduire que la dimension de K est au plus
n(n+1) . 2

Exercice E.39 Soit K un groupe de Lie compact dlment neutre e, muni dune action lisse gauche sur une varit M connexe de dimension n 1. Supposons laction dle, cest--dire que pour tout k K, si kx = x pour tout x M , alors k = e.

(4) Montrer que le noyau de toute action lisse non triviale de SLm+1 (R) sur une varit est discret. Montrer quil nexiste pas daction lisse non triviale de SLm+1 (R) sur une varit de dimension infrieure ou gale m 1. (5) Donner un exemple daction lisse et dle de SLn+1 (R) sur une varit de dimension n. Exercice E.40 En utilisant la proposition 3.7, montrer que la courbe c : t (0, . . . , 0, et ) dnie sur R, valeurs dans le modle du demi-espace suprieur (Rn , ds2 ) de lespace + hyp hyperbolique rel, est une godsique. Exercice E.41 Soient (M, g) une varit riemannienne et x M . (1) Soient U un voisinage de 0 dans Tx M assez petit, expx : U M la carte exponentielle correspondante en x, (e1 , . . . , en ) une base orthonorme de Tx M , (x1 , . . . , xn ) les 2 applications coordonnes correspondantes sur U , (gi,j )1i,jn C (U )n la matrice de la mtrique riemannienne image rciproque h = expx (g|expx (U ) ) correspondante ces coordonnes, k C (U ) les coecients de Christoel correspondants, et y y le tenseur i,j de Christoel de h dans U (qui est lapplication lisse de U dans lespace vectoriel des apk plications bilinaires de Tx M Tx M dans Tx M dnie par y (u, v) = n i,j,k=1ij (y)ui vj ek n u e et v = n v e ). si u = i=1 i i i=1 i i 249

a) Montrer que gi,j (0) = i,j (le symbole de Kronecker) et que k (0) = 0 pour 1 i,j i, j, k n. (ATTENTION : cette proprit nest vraie quen 0 en gnral). b) En dduire quil existe 0 > 0 et [0, 1[ tels que si y appartient boule B0 de centre 0 et de rayon pour la distance riemannienne de h, alors y (u, v) 0 u 0 v 0 . c) Soit c : [0, 1] U une godsique contenue dans B0 . Supposons quil existe ]0, 0 [ et t0 ]0, a[ tels que c(t0 ) appartienne la sphre S = B , et c(t0 ) soit tangent S . Montrer quil existe > 0 tel que pour t susamment proche de t0 , nous ayons : d(0, c(t)) d(0, c(t0 )) + (t t0 )2 . (Indication : considrer la fonction F (t) = 1 c(t) 2 et montrer que F (t0 ) > 0). 2 d) En dduire que si > 0 est assez petit, alors la boule B de centre x et de rayon pour la distance riemannienne est convexe : pour tous x et y dans B, il existe une godsique (minimisante) reliant x et y dont limage est contenue dans B.

3.9

Indications pour la rsolution des exercices

Schme E.39 (1) Soit une mesure de Haar droite sur K, qui est nie puisque K est compact. Considrons une mtrique riemannienne h sur M (qui existe par un rsultat du cours). Pour tout x M et tout couple (u, v) Tx M Tx M , posons : gx (u, v) =
kK

Schme E.34 Soient (M, g) une varit riemannienne homogne, x M et ]0, injM (x)[. Montrons que toute godsique maximale est dnie sur R Pour toute godsique c : I M et tout t I, soit une isomtrie de M telle que y = x. Alors s 1 exp(s Ty (c(t)), qui est dnie sur ] , +[, et dont le vecteur vitess linstant s = 0 est c(t), est une godsique qui permet dtendre c sur ]t , t + [.

hkx (Tx k(u), Tx k(v)) d(k) .

Dans la suite, nous noterons Fx,u,v : K R lapplication dnie par Fx,u,v : k hkx (Tx k(u), Tx k(v)). Il est clair que pour tout x M , gx est une forme bilinaire symtrique sur Tx M , que gx (u, u) > 0 si u = 0, comme intgrale de la fonction Fx,u,u qui est strictement positive sur K, et que x gx est lisse (par les proprits de rgularit des intgrales paramtre, K tant compact). Nous avons donc bien dni une mtrique riemannienne g sur M . Vrions que les lments de K agissent par isomtries pour g. Si k0 K, x M et (u, v) Tx M Tx M , nous avons, en notant Rk0 : k kk0 la translation droite par k0 : (k0 g)x (u, v) = gk0 x (Tx k0 (u), Tx k0 (v)) = =
K

Fx,u,v Rk0 d

Fx,u,v d(Rk0 ) =

Fx,u,v d = gx (u, v) .
K

(2) Il est clair que x est un morphisme de groupes, et cest une application lisse de Kx dans GL(Tx M ) car nous avons suppos laction de K sur M lisse. Le morphisme x est donc un morphisme de groupes de Lie. Nous allons montrer quil est injectif. La remarque cl est quune isomtrie riemannienne envoie godsiques paramtres sur godsiques paramtres. Si exp dsigne lapplication exponentielle de la mtrique g, et si 250

U est un voisinage ouvert de 0 dans Tx M tel que expx soit un diomorphisme de U sur son image, nous avons donc, pour tout v U , et tout k Kx : k expx (v) = expx (Tx k(v)) , ( 47 ) car lapplication t k expx (tv) de ] , 1 + [ dans M , o > 0 est assez petit, est une godsique, de vecteur vitesse en t = 0 gal Tx k(v). Cette relation ( 47 ) montre en toute gnralit que pour une isomtrie riemannienne f de (M, g), lensemble des points y o f (y) = y et Ty f = id forme un ouvert. Comme cet ensemble est clairement ferm, nous obtenons par connexit de M quune isomtrie riemannienne f qui xe un point y, et telle que Ty f = id, est lapplication identique. Pour conclure, les lments de ker(x ) agissent trivialement sur M , et puisque laction de K est dle, le morphisme de groupe x est injectif. (3) Comme le morphisme x envoie injectivement Kx dans le groupe orthogonal de la forme quadratique gx , nous avons dim Kx n(n1) . Lorbite K x de x sous laction de K, 2 qui est une sous-varit de M diomorphe lespace homogne K/Kx car K est compact, a une dimension majore par n, do dim K n + dim Kx n(n+1) . 2

(4) Considrons une action lisse non triviale de SLm+1 (R) sur une varit M de dimension n, cest--dire un morphisme injectif de groupes : SLm+1 (R) Di (M ). Puisque SLm+1 (R) est connexe, nous pouvons supposer que M est connexe. Le noyau de est un sous-groupe ferm (donc un sous-groupe de Lie plong, par le thorme de Cartan), distingu dans SLm+1 (R). Son noyau est donc un idal de lalgbre de Lie slm+1 (R) de SLm+1 (R). Cet idal est dirent de slm+1 (R) car laction nest pas triviale et puisque, par connexit, SLm+1 (R) est engendr par limage de son application exponentielle. Comme slm+1 (R) est une algbre de Lie simple, nous en dduisons que ker est discret dans SLm+1 (R). Le morphisme passe au quotient en une action lisse et dle du groupe de Lie quotient SLm+1 (R)/ ker . Notons K le groupe de Lie compact image de O(m + 1) par la projection canonique dans SLm+1 (R)/ ker , qui a la mme dimension que O(m + 1) puisque ker est discret. La question prcdente donne lingalit m(m+1) n(n+1) , do il ressort que 2 2 n m. (5) Laction de SLn+1 (R) sur la sphre Sn de dimension n obtenue en faisant agir linairement SLn+1 (R) sur les demi-droites vectorielles de Rn+1 est lisse et dle.

Schme E.40 Notons x = (x1 , . . . , xn ) un point gnrique de Rn , et X = (X1 , . . . , Xn ) + un point gnrique de Tx Rn = Rn . Notons ds2 la restriction Rn de la mtrique rieman+ euc + nienne de En . Nous avons ds2 = e2f ds2 o e2f (x) = x1 , cest--dire f (x) = log xn . 2 euc hyp
n

n Donc dfx (X) = Xn et, pour la mtrique riemannienne ds2 , nous avons grad f (x) = euc x 1 (0, . . . , 0, xn ) (qui est le gradient usuel de f ). Par la question (2), nous avons

d c = d c + 2df c(c) c g(c, c)(grad f ) c .

dt dt

sur Rn ). Pour tout t R, toutes les composantes de d c(t) sont nulles sauf peut-tre la dernire, qui, puique g(c(t), c(t)) = c(t) et + 2(
2 euc

Or d c = c par le cours (la connexion de Levi-Civita de En est la connexion triviale

dt

= e2t , vaut

dt

1 et t )e e2t ( t ) = 0 . et e 251

Donc d c = 0 : le vecteur vitesse de c est parallle le long de c, et par dnition, c est dt une godsique. Schme E.41 a) La premire galit vient du fait que la base choisie (e1 , . . . , en ) = ( x1 (0), . . . , xn (0)) est orthonorme pour h, car T0 expx = idTx M . La seconde galit vient du fait que, pour tout v U , lapplication cv : [0, 1] U dnie par t tv est une godsique. Donc pour tout v U , nous avons 0 (v, v) = cu (0) + 0 (cv (0), cv (0)) = 0 par lquation des godsiques en coordonnes locales. Puisque 0 est bilinaire symtrique (ceci a t vu, comme consquence du fait que la connexion de Levi-Civita est sans torsion), nous avons donc 0 (u, v) = 0 pour tous u, v Tx M . En prenant u = ei , v = ej et en crivant les coordonnes de 0 (u, v) dans la base (e1 , . . . , en ), le rsultat en dcoule.

252

4
4.1

Espaces symtriques et rigidit

Espaces (globalement) symtriques

Un espace (globalement) symtrique (riemannien) est une varit riemannienne connexe M telle que pour tout x M , il existe une isomtrie sx de M xant x telle que Tx sx = idTx M . Notons G = Isom0 (M ) la composante neutre du groupe des isomtries de M (muni de la topologie compacte-ouverte), et K = Kx0 le stabilisateur dans G dun point x x0 de M. Exemples. (1) Les varits riemanniennes compltes simplement connexes courbure sectionnelle constante sont des espaces symtriques. Par le thorme de classication 3.36, il sut de vrier que En , Sn et Hn sont des espaces symtriques. Or ces varits riemanR niennes sont homognes, et les applications respectivement x x, (x0 , x1 . . . , xn ) (x0 , x1 , . . . , xn ) et (dans le modle du demi-hyperbolode suprieur) (x0 , x1 . . . , xn ) (x0 , x1 , . . . , xn ) sont des isomtries xant les points (0, . . . , 0) En , (1, 0, . . . , 0) Sn n et (1, 0, . . . , 0) H+ , et valant id sur lespace tangent en ce point. (2) Lexemple suivant servira de l conducteur tout ce chapitre.

Pour tout entier n 2, notons Elln lespace des ellipsodes de volume 1 de lespace euclidien En , cest--dire le sous-espace de Mn (R) des matrices symtriques dnies positives de dterminant 1, qui est une sous-varit car lapplication dterminant est une submersion du sous-espace vectoriel des matrices symtriques dans R. Notons x0 la matrice identit In de Mn (R), et p = Tx0 Elln lespace tangent en x0 Elln , qui est constitu des matrices symtriques de trace nulle. Lapplication exponentielle des matrices X eX est un C -diomorphisme de p dans Elln , dont nous noterons log linverse. En particulier, Elln est simplement connexe (et n(n+1) homomorphe R 2 1 ). Nous considrerons aussi lapplication x x = exp( 1 log x), 2 2 qui est lunique C -diomorphisme de Elln dans Elln tel que ( x) = x. Le groupe de Lie connexe SLn (R) agit gauche de manire lisse et transitive sur Elln par (g, x) g x = gx t g, et le stabilisateur de x0 = In est le sous-groupe compact SO(n). Par le thorme 1.60, lapplication orbitale g g x0 = g t g induit un C -diomorphisme de la varit homogne quotient SLn (R)/ SO(n) dans Elln . Munissons p = Tx0 Elln du produit scalaire , x0 , restriction du produit scalaire usuel (X, Y ) tr( t XY ) de Mn (R) : pour tous les X = (Xi,j )1i,jn et Y = (Yi,j )1i,jn dans p, nous avons X, Y x0 = tr(XY ) = Xij Yij .
1i,jn

253

Ce produit scalaire sur p est invariant par laction (tangente) de SO(n). En eet, notons tout dabord que pour tout g SLn (R), le C -diomorphisme mg : Elln Elln dni par x g x, tant une restriction dune application linaire, admet pour application tangente en x0 lapplication ng = Tx0 mg : X gX t g de Tx0 Elln dans Tgx0 Elln . Si g SO(n), lapplication linaire ng : Tx0 Elln Tx0 Elln est isomtrique, car pour tous les X, Y p, nous avons, puisque g1 = t g et par les proprits de la trace, ng (X), ng (Y )
x0

= tr(gX t ggY t g) = tr(XY t gg) = tr(XY ) = X, Y

x0

Par exemple par le corollaire 3.4, il existe donc une unique mtrique riemannienne sur Elln , invariante gauche par SLn (R), qui vaut , x0 sur p = Tx0 Elln . Dans ce qui suit, nous munissons Elln de cette mtrique riemannienne. Pour tout x Elln , llment x SLn (R) envoie le point x0 sur le point x. Donc la norme riemannienne de cette mtrique riemannienne vrie, pour tout x Elln et tout X Tx Elln , 1 1 x X x X x= x0 . Notons sx0 le C -diomorphisme de Elln dni par sx0 : x x1 . Puisque lapplication tangente en x Elln de sx0 est X x1 Xx1 , lapplication sx0 est une isomtrie riemannienne, qui vaut id en x = x0 . Par homognit, lespace Elln est donc un espace symtrique. Remarquons que la composante neutre du groupe des isomtries de Elln est alors le groupe G = PSLn (R) = SLn (R)/({In } SLn (R)), et le stabilisateur de x0 est limage PSO(n) de SO(n) dans G. Exercice E.42 Montrer que la distance riemannienne de Elln est d(x, y) = 1 1 1 log x y x 2
x0

Remarques. (1) Pour tout point x dune varit riemannienne N , une symtrie (godsique) locale de N en x est une application lisse sx : U U , o U est un voisinage ouvert de x dans N , tel que pour toute godsique c : ] , +[ N dorigine c(0) = x dimage contenue dans U , nous ayons sx (c(t)) = c(t) pour. Par exemple, si < injN (x), alors lapplication sx : B(x, ) B(x, ) dnie par y expx ( exp1 (y)) est une symtrie x locale en x. Celle-ci nest en gnral pas une isomtrie. sx v x cv (t) cv (t) M La condition Tx sx = idTx M dans la dnition dun espace symtrique M est donc quivalente demander quen restriction un voisinage ouvert de x, lisomtrie sx soit une symtrie locale de M en x.

(2) Tout espace symtrique M est complet, car toute godsique maximale de M est dnie sur tout R : 254

si c : ]a, b[ M est une godsique et b R, soit t0 ]a, b[ susamment proche de b pour que 2t0 a > b, alors lapplication t sc(t0 ) c(2t0 t) de ]2t0 b, 2t0 a[ est une godsique, qui concide avec c sur un voisinage de t0 , donc permet de prolonger c au del de b.

sx c x = c(t0 )

(3) Par le thorme de Myers-Steenrod 3.9, G est un groupe de Lie rel connexe agissant de manire lisse sur M , et par la proposition 3.10, K est un sous-groupe de Lie compact de G. Nous noterons g lalgbre de Lie de G. (4) Comme M est connexe, et par la proposition 3.10, une isomtrie sx comme dans la dnition dun espace symtrique est unique. En particulier, pour tout g Isom(M ), nous avons g sx g1 = sg(x) . En utilisant lapplication exponentielle riemannienne, il est facile de montrer que lapplication x sx de M dans le groupe des isomtries de M (muni de la topologie compacteouverte) est alors continue. (5) Tout espace symtrique M est homogne. En fait, le groupe G agit transitivement sur M , car pour tous les x, y dans M , si m est le milieu dun segment godsique c : [0, d(x, y)] M entre x et y (qui existe par compltude), alors lisomtrie sm sx (qui appartient bien G car t sc(t) sc(0) est un chemin (continu) disomtries de id sm sx ) envoie x sur y. Rciproquement, si M est une varit riemannienne homogne, il sut quil existe un point x de X et une isomtrie s de M tels que Tx s = idTx M pour que M soit un espace symtrique. Par le thorme 1.60 (4), lapplication orbitale x0 : g gx0 induit par passage au quotient un C -diomorphisme G/K M , et Te x0 : g Tx0 M est une application linaire surjective de noyau lalgbre de Lie K de K, par le thorme 1.58. 4.1.1 Involutions de Cartan

Soient M un espace symtrique, G = Isom0 (M ), x0 M , K = StabG (x0 ) et g lalgbre de Lie de G. Pour tout x M , si sx est la symtrie en x, lapplication x : G G dnie par g sx g sx est un automorphisme involutif du groupe de Lie G. Donc x = Te x : g g est un automorphisme involutif de lalgbre de Lie g, appele linvolution de Cartan de M (relativement x). Notons = x0 , et pour tout automorphisme de G, notons G = {g G : (g) = g} le sous-groupe xe de et G la composante neutre de G . Ce sont des sous-groupes ferms, 0 donc des sous-groupes de Lie plongs de G. Proposition 4.1 (1) Nous avons G K G . 0 (2) Pour tout groupe de Lie connexe G, pour tout automorphisme involutif de G et tout sous-groupe compact K de G tel que G K G , toute mtrique riemannienne 0 invariante gauche par G sur la varit quotient G/K est symtrique. 255

Dmonstration. (1) Pour tout k K, llment k = sx0 k sx0 xe x0 et Tx0 k = Tx0 k, donc les isomtries k et k sont gales par la connexit de M et la proposition 3.10. Donc K est contenu dans G . Si (t )tR est un sous-groupe un paramtre de G , alors sx0 t (x0 ) = sx0 t sx0 (x0 ) = t (x0 ), donc t t (x0 ) est un chemin de points xes de sx0 , qui vaut x0 en t = 0. Comme x0 est un point xe isol de sx0 , pour tout t R, ceci implique que t (x0 ) = x0 et donc t appartient K. Ceci montre que G , qui est engendr par limage 0 de son application exponentielle, est contenu dans K. (2) Notons que K est ferm, donc un sous-groupe de Lie plong, et la varit homogne quotient G/K est bien dnie. Puisque K est contenu dans le sous-groupe xe de , linvolution lisse induit par passage au quotient une involution lisse s : G/K G/K xant x0 = eK. Montrons que Tx0 s = id. Lapplication linaire Te est diagonalisable, car (Te )2 = id (et le polynme X 2 1 est scind). Le sous-espace propre K associ la valeur propre 1 est une sous-algbre de Lie de g car Te est un automorphisme dalgbres de Lie. Puisque exp = exp Te , le sous-groupe de Lie connexe immerg dalgbre de Lie K, engendr par exp(K) est donc xe par Te , donc contenu dans G , et en fait gal, car linclusion 0 inverse est immdiate. Puisque K est coinc entre G et G , lalgbre de Lie de K est donc 0 gale au sous-espace propre de Te associ la valeur propre 1. La projection canonique : G G/K induit donc un isomorphisme entre le sous-espace propre p de Te associ la valeur propre 1 et Tx0 (G/K), ce qui montre le rsultat. Un automorphisme f dun groupe de Lie H prserve une mtrique riemannienne invariante gauche sur H si et seulement si Te f prserve le produit scalaire sur Te H. En eet, pour tout h H, en rappelant que Lh est la translation gauche par h dans H, nous avons f Lh = Lf (h) f , donc Th f = Te Lf (h) Te f (Th L(h)1 est une compose dapplications prservant le produit scalaire. Munissons G dune mtrique riemannienne invariante gauche rendant K et p orthogonaux et telle que Te |p prserve les produits scalaires. Alors Te prserve le produit scalaire de Te G = K p, donc est une isomtrie. Par consquent, s, qui est obtenue par passage au quotient de , est une isomtrie xant x0 . Par homognit de la varit riemannienne G/K, ceci montre lassertion (2). Notons = x0 = Te x0 = Te , K = {X g : (X) = X} et p = {X g : (X) = X} les espaces propres de pour les valeurs propres +1 et 1. Proposition 4.2 Ces espaces propres vrient (i) (ii) [K, K] K, [K, p] p, [p, p] K ; g = K p et cette dcomposition en somme directe est Ad(K)-invariante ; 256

De plus, il existe une telle mtrique riemannienne invariante gauche : si x = eK, prendre , x un produit scalaire sur Tx (G/K) ; le rendre invariant par laction de K quitte le remplacer par (v, w) kK Tx mk (v), Tx mk (w) x dK (k) o mk : y ky est laction de k K sur G/K et K est la mesure de Haar normalise de K (qui est invariante par translations droite, voir lexemple (v) de la partie 3.1) ; enn, pour tout y G/K, poser v, w y = (Tx g)1 v, (Tx g)1 w x pour nimporte quel g G tel que y = gx.

(iii) (iv) (v)

la restriction de la forme de Killing B de g K est dnie ngative ; la restriction de B K p est nulle.

K est lalgbre de Lie de K et Te x0 : p Tx0 M est un isomorphisme ;

La dcomposition en somme directe g = Kp est appele la dcomposition de Cartan de M (relativement x0 ). Elle est orthogonale pour la forme de Killing, par la dernire assertion. Nous identierons dans la suite p et Tx0 M par lisomorphisme Te x0 : p Tx0 M . Notons que p est une sous-algbre de Lie de g si et seulement si elle est ablienne. Dmonstration. (i) La premire armation est immdiate car 2 = id (et le polynme X 2 1 est scind). Pour tout k K, puisque k sx0 k1 = skx0 = sx0 (donc ik = ik en notant ik la conjugaison par k) et en direntiant en e, nous avons (Ad k) = (Ad k), ce qui montre linvariance de K et p par Ad K. (ii) Cest immdiat car est un automorphisme dalgbres de Lie. (iii) Par les proprits de lapplication exponentielle de G, nous avons (exp tX) = exp(t(X)) pour tout X g. Ceci entrane que lalgbre de Lie de K, qui est contenue dans celle de G , est contenue dans K. Ceci entrane aussi que K est contenu dans lalgbre de Lie de G , qui est contenue dans celle de K. 0 Puisque K est le noyau de Te x0 , la restriction de cette application linaire surjective tout supplmentaire de K est un isomorphisme. (iv) Puisque K est compact, considrons un produit scalaire , sur g qui est Ad Kinvariant, donc ad K altern puisque K est lalgbre de Lie de K. Pour tout X dans K, loprateur ad X ad X tant symtrique pour ce produit scalaire est diagonalisable dans une base orthonorme (ei )1in de g. Donc
n n

B(X, X) = tr(ad X ad X) =

i=1

ad X ad X(ei ), ei

[X, ei ], [X, ei ]
i=1

En particulier, B(X, X) est ngatif ou nul, et nul si et seulement si [X, ei ] = 0 pour tout i, donc si et seulement si X appartient au centre de g. Comme K agit dlement sur M , ceci implique que X = 0. En eet, llment exp tX de K xe x0 . Puisque X est central, llment exp tX commute avec les lements exp(tY ) pour Y g, qui engendrent G par connexit. Comme G agit transitivement sur M , ceci implique que (exp tX)x = x pour tout x M , donc que lisomtrie exp tX de M est gale llment neutre pour tout t R. (v) La dernire assertion dcoule dun calcul par bloc dans la dcomposition de Cartan g = K p de la trace de ad X ad Y si X K et Y p, en utilisant lassertion (ii).

Une transvection dune varit riemannienne complte N est une isomtrie de N qui translate une godsique et induit le transport parallle le long delle : 257

t+t0 v t

c v c(t) c(t + t0 )

il existe une godsique (riemannienne) c : R N et t0 R tels que, pour tout t R et tout v Tc(t) N , en notant le transport parallle le long de c, (c(t)) = c(t + t0 ) et Tc(t) (v) =
t+t0 t

v.

Cette godsique nest pas forcment unique. Par exemple, les translations dans Rn sont les transvections de En . Proposition 4.3 Les sous-groupes lisses un paramtre de transvections de M sont les t g(exp tv)g1 o v p et g G. Les godsiques de M issues de x0 sont des applications de R dans M de la forme t (exp tv)x0 o v p. Dmonstration. Soit c : R M une godsique telle que c(0) = x0 , considrons lapplication t t = sc( t ) sc(0) . Puisque M est complet et connexe, pour tout t R, il existe 2 au plus une isomtrie translatant le long de c dune distance t et induisant le transport parallle le long de c. s Lapplication s = sc( 2 ) sc(0) translate de s le long de c, et induit le transport parallle. En eet, soit t X(t) un champ de vecteurs parallle le long de c. Pour tout s R, puisque sc(s) est une isomtrie, lapplication t Y (t) = Tc(t) sc(s) (X(t)) est un champ de vecteurs parallle le long de t sc(s) (c(t)) = c(2s t), valant X(s) en t = s, donc Y (t) = X(2st) par unicit. En appliquant deux fois ce raisonnement, nous obtenons que Tc(t) s (X(t)) = X(t + s), ce qui montre le rsultat cherch. Puisque le transport parallle le long de c vrie t s = t , nous en dduisons que t t est un sous-groupe lisse u u s un paramtre de transvections le long de c. Par lunicit nonce en prambule, tout sousgroupe lisse un paramtre de transvections de M le long dune godsique passant par x0 est de cette forme. Par homognit de M par G, les sous-groupes lisses un paramtre de transvections de M sont donc les conjugus de ceux-ci. Par dnition de lexponentielle, le sous-groupe lisse un paramtre t t est de la forme t exp tv o v g. Donc pour tout t R, (exp tv) = sx0 sc( t ) sc(0) s1 = sc(0) sc( t ) = (exp tv)1 = exp(tv) . x0
2 2

En drivant en t = 0, nous avons donc (v) = v, donc v p. En particulier, c(t) = sc( t ) (x0 ) = sc( t ) sc(0) (x0 ) = (exp tv)x0 pour tout t R. 2 2 Rciproquement, soit v p, notons c : t c(t) la godsique de M telle que c(0) = Tx0 x0 (v). Par ce qui prcde, il existe w p tel que c(t) = (exp tw)x0 . En drivant en t = 0, nous avons Tx0 x0 (w) = c(0) = Tx0 x0 (v). Par la dernire armation de la proposition 4.2, nous en dduisons que v = w. Ceci montre que t (exp tv)x0 est une godsique. Exemple. Reprenons lexemple standard Elln . Lalgbre de Lie g de la composante neutre G = PSLn (R) du groupe des isomtries de Elln est g = sln (R) = {X gln (R) : tr X = 0} . 258

Nous avons vu que la symtrie locale de Elln en x0 = In est sx0 : x x1 . Pour tout g G, sx0 gsx0 agit sur Elln par x t g1 xg1 . Donc linvolution : g sx0 gsx0 de G est : g t g1 . Donc linvolution de Cartan est = Te : X t X. Lespace propre K de pour la valeur propre +1 et celui p pour la valeur propre 1 sont K = so(n) = {X sl(R) :
t

X = X} et p = {X sl(R) :

X = X} .

1 La dcomposition de Cartan g = Kp est la dcomposition X = 1 (X t X) + 2 (X + t X) 2 dune matrice en sa partie anti-symtrique et sa partie symtrique. Lapplication exponentielle exp : g G du groupe de Lie G est X eX . Les godsiques passant par x0 = In sont donc les courbes de la forme suivante, o X p est une matrice symtrique de trace nulle, s exp(sX) x0 = esX x0 = (esX ) t (esX ) = e2sX .

4.1.2

Dcomposition de de Rham

Soient (M, g) une varit riemannienne et x0 M . Rappelons (voir la partie 2.3.5) que le groupe dholonomie Hol(x0 ) = Holg (x0 ) de g est le sous-groupe du groupe orthogonal O(gx0 ) du produit scalaire gx0 sur lespace tangent Tx0 M constitu des applications de transport parallle le long des lacets en x0 de classe C 1 par morceaux. Si M est un produit riemannien M1 M et x0 = (x1 , . . . , x ), alors Hol(x0 ) = Hol(x1 ) Hol(x ). Proposition 4.4 Soient (M, g) une varit riemannienne connexe de dimension n et k N tel que 1 k n. Les conditions suivantes sont quivalentes : (i) M admet un champ lisse de k-plans invariant par transport parallle ; (ii) Hol(x0 ) prserve un sous-espace vectoriel de dimension k de Tx0 M . De plus, (iii) tout champ lisse parallle de k-plans est intgrable, et toute feuille du feuilletage quil dnit est totalement godsique ; (iv) si M est complte, simplement connexe et admet un champ lisse parallle de kplans, alors M est isomtrique un produit riemannien M1 M2 o M1 est de dimension k. Dmonstration. Lquivalence entre (i) et (ii) est immdiate. Montrons lassertion (iii). Si est un champ lisse de k-plans invariant par transport parallle, si X et Y sont deux champs de vecteurs lisses sur M qui appartiennent en tout point (cest--dire tels que X(x), Y (x) (x) pour tout x M ), alors X Y appartient aussi en tout point, car si est le transport parallle le long dune courbe intgrale t c(t) de X passant par c(0) = x M , alors, par la formule ( 25 ) de la partie 2.3.5, 0 Y (c(t)) Y (x) (x) . X Y (x) = lim t t0 t Donc puisquune connexion de Levi-Civita est sans torsion, le champ de vecteurs [X, Y ] = X Y Y X appartient en tout point. Par le thorme de Frobnius 1.40, est donc intgrable. 259

Soit c : I M une godsique telle que 0 I et c(0) (c(0)). Puisque le champ de vecteurs vitesses de c est parallle le long de c et puisque est invariante par transport parallle, la godsique c est tangente en tout point , donc reste dans la feuille du feuilletage intgrant passant par c(0). Montrons lassertion (iv). Puisque Hol(x0 ) est contenu dans le groupe orthogonal de Tx0 M , sil prserve un sous-espace E de dimension k de Tx0 M , il prserve aussi son supplmentaire orthogonal E . Soient et les champs lisses parallles de k-plans sur M valant E et E en x0 , les feuilletages F et F quils dnissent sont feuilles totalement godsiques, compltes et perpendiculaires en tout point, donc chacun deux est invariant par le transport parallle le long de lautre. Dans une carte locale feuillete en tout point x M , la varit riemannienne M est donc isomtrique au produit riemannien Fx,loc Fx,loc des feuilles locales de F et F en x. Soient Fx0 = expx0 E et Fx0 = expx0 E les feuilles de ces feuilletages passant par x0 . Notons E la projection orthogonale de Tx0 M dans E, et p : M Fx0 lapplication qui un point x de M associe exp(E (v)) o v Tx0 M est tel que expx0 v = x. Dnissons de mme p : M Fx0 . En utilisant la structure de produit riemannien local, il est possible de montrer que cette application ne dpend pas des choix des vecteurs v, et que lapplication (p, p ) de M dans le produit riemannien Fx0 Fx0 est une isomtrie locale. Daprs la proposition 3.24 (1), cette isomtrie locale est un revtement riemannien, par compltude de M . Puisque M est simplement connexe, ce revtement riemannien se relve en une isomtrie de M dans le produit de deux revtements riemanniens universels M1 de Fx0 et M2 de Fx0 . Une varit riemannienne est dite irrductible si elle est non vide et non rduite un point, et nest pas isomtrique un produit riemannien de deux varits riemanniennnes non rduites un point. Thorme 4.5 (Thorme de dcomposition de de Rham) Soit (M, g) une varit riemannienne complte simplement connexe non vide. Alors il existe k, N et M1 , . . . , M des varits riemanniennes compltes, simplement connexes, irrductibles, non isomtriques R telles que M soit isomtrique au produit riemannien Rk M1 M . De plus, le couple (k, ) est unique, et les M1 , . . . , M sont uniques isomtries et permutations prs. En particulier, il existe un groupe ni F et une suite exacte de groupes 1 Isom(Rk ) Isom(M1 ) Isom(M ) Isom(M ) F 1 . Les varits riemanniennes Rk , M1 , . . . , M sont appels les facteurs de de Rham de M , et sont bien dnies isomtries et permutations prs. Le facteur Rk est appel le facteur euclidien de M . De plus, nous avons par restriction un isomorphisme de groupes Isom0 (Rk ) Isom0 (M1 ) Isom0 (M ) Isom0 (M ) . Dmonstration. Raisonnons par rcurrence sur la dimension de M . Si M est irrductible, le rsultat est immdiat, avec (k, l) = (1, 0) si M est isomtrique R et (k, l) = (0, 1) sinon. Si M nest pas irrductible, cest--dire si M est isomtrique un produit riemannien non trivial M M , alors une dcomposition de de Rham de M est obtenue en prenant une dcomposition de de Rham de M et de M et en regroupant leurs facteurs euclidiens. 260

Lunicit, qui est la partie dlicate de ce rsultat, vient du fait que le groupe dholonomie dun produit riemannien est le produit des groupes dholonomie des facteurs, et que ce facteur est irrductible si et seulement si son groupe dholonomie ne prserve pas de sousespace vectoriel de dimension et de codimension non nulle, par la proposition 4.4 (et le fait quun produit despaces topologiques non vides est simplement connexe si et seulement si chacun dentre eux lest). 4.1.3 Courbure des espaces symtriques

Soient M un espace symtrique, G = Isom0 (M ), x0 M , g lalgbre de Lie de G, et g = K p la dcomposition de Cartan de M relativement x0 . Identions p avec Tx0 M par Te x0 o x0 : g gx0 est lapplication orbitale en x0 . Pour calculer la courbure, par homognit, il sut de calculer les valeurs du tenseur de courbure sur les vecteurs tangents en x0 . Proposition 4.6 Pour tous les u, v, w p, nous avons R(u, v)w = [[u, v], w] . Notons que [[u, v], w] p si u, v, w p, par la proposition 4.2 (ii), et donc la formule ci-dessus a un sens par lidentication entre Te x0 et p. Dmonstration. Soient X, Y, Z les champs de vecteurs sur M , dont les ots sont les sousgroupes un paramtre de transvections t exp(tu), exp(tv), exp(tw) respectivement, cest--dire tels que d exp(tu)x X(x) = dt |t=0 et de mme pour Y et Z, de sorte que X(x0 ) = u, Y (x0 ) = v et Z(x0 ) = w. Nous avons par dnition R(X, Y )Z = X Y Z Y X Z [X,Y ] Z . Rappelons que le crochet de Lie [X, Y ] de deux champs de vecteurs X et Y de ots locaux (t )t et (t )t se calcule par [X, Y ](x) = d t t t (x) , dt |t=0+ t

(voir lexercice E.5 de la partie 1.2.1) et donc (voir lexercice E.11 de la partie 1.4.1) que le crochet de Lie [u, v] de deux vecteurs de lalgbre de Lie dun groupe de Lie se calcule par [u, v] = d exp( t u) exp( t v) exp( t u) exp( t v) . dt |t=0+

Donc [X, Y ](x0 ) = Te x0 ([u, v]) est nul, car [u, v] K et K est le noyau de Te x0 . Comme [X,Y ] Z ne dpend que de la valeur de [X, Y ] en x0 , nous avons donc [X,Y ] Z(x0 ) = 0. Si X est un champ de vecteurs sur une varit riemannienne, dont le ot (t )iR est un sous-groupe un paramtre disomtries, alors par les proprits de la connexion de Levi-Civita, nous avons (Y Z) = Y ( Z) . t t t 261

d Do en notant LX : Y [X, Y ] = dt |t=0 Y la drive de Lie le long de X, qui vrie t L[X,Y ] = LX LY LY LX (voir la formule ( 13 ) au dbut de la partie 2.3), et en drivant en t = 0 lquation prcdente, nous avons par bilinarit

Par la formule ( 25 ) de la partie 2.3.5 et comme le ot de X induit le transport parallle le long de t t (x0 ) = exp(tu)x0 , nous avons X Y (x0 ) = lim
0 t t0

LX (Y Z) = LX Y Z + Y (LX Z) .

En particulier, comme la connexion de Levi-Civita est sans torsion, nous avons LX Y (x0 ) LY X(x0 ) = X Y (x0 ) Y X(x0 ) = [X, Y ](x0 ] = 0 .

d Y (t (x0 )) Y (x0 ) Y = LX Y (x0 ) . = t dt |t=0+ t

Do

R(X, Y )Z(x0 ) = LX (Y Z)(x0 ) LY (X Z)(x0 )

Ceci dmontre la proposition 4.6.

= LY LX Z(x0 ) LX LY Z(x0 ) = L[Y,X] Z(x0 ) = [[X, Y ], Z](x0 ) .

= (LX Y Z)(x0 ) + Y (LX Z)(x0 )) (LY X Z)(x0 ) + X (LY Z)(x0 ))

Corollaire 4.7 Pour tous les u, v, w p, si [u, v] = 0, alors R(u, v)w = 0 . Corollaire 4.8 Les images des sous-varits totalement godsiques immerges connexes compltes de M sont les g expx0 E o g G et E est un sous-espace vectoriel de p tel que, pour tous les u, v, w E, [[u, v], w] E . Dmonstration. Par homognit, il sut de considrer les telles sous-varits passant par x0 . Soit E un tel sous-espace vectoriel de p. Notons h = [E, E] E, qui est une sousalgbre de Lie de g = K p par la condition demande E. Notons H le sous-groupe de Lie immerg connexe de G dalgbre de Lie h. La restriction H de lapplication orbitale x0 : g gx0 passe au quotient en une immersion injective iE de SE = H/(H K) dans M . Par la description des godsiques de M passant par x0 , la sous-varit immerge SE , sur laquelle H agit transitivement par isomtries, contient toutes les godsiques de M dont le vecteur tangent lorigine appartient E, donc est totalement godsique, connexe et complte, dimage expx0 E. Rciproquement, soit i : S M une sous-varit totalement godsique immerge connexe complte de M telle quil existe s S tel que x0 = i(s). Soit E le sous-espace vectoriel de p correspondant Ts i(Ts S) Tx0 M . Le crochet de Lie des champs de vecteurs et la connexion de Levi-Civita prservent les champs de vecteurs tangents N (voir la proposition 3.45 (4)). Donc, avec les notations de la dmonstration prcdente, R(u, v)w = X Y Z(x0 ) Y X Z(x0 ) [X,Y ] Z(x0 ) appartient E pour tous les u, v, w E. Par la proposition 4.6, nous avons donc [[u, v], w] E. Soit SE la sous-varit totalement godsique immerge connexe complte construite ci-dessus. En regardant lapplication exponentielle en x0 , il est immdiat que S et SE ont mme image. En particulier i(S) = expx0 E. 262

4.1.4

Espaces symtriques de type non compact

Soient M un espace symtrique, G = Isom0 (M ), x0 M , K = StabG (x0 ), g lalgbre de Lie de G, g = K p la dcomposition de Cartan de g relativement x0 , et B = Bg la forme de Killing de g. Identions toujours p avec Tx0 M par Te x0 o x0 : g gx0 est lapplication orbitale en x0 . Rappelons quun sous-groupe G du groupe linaire GL(V ) dun espace vectoriel V est irrductible (ou agit irrductiblement sur V ) si les seuls sous-espaces vectoriels de V prservs par G sont {0} et V . Proposition 4.9 Supposons que M soit simplement connexe et irrductible. (1) Le groupe Ad(K) agit irrductiblement sur p. (2) Il existe une unique constante R telle que, pour tous lesu, v p, nous ayons B(u, v) = u, v
x0

En particulier, B est nulle, dnie positive ou dnie ngative en restriction p. (3) Pour tous les u, v p orthonorms, engendrant un plan vectoriel not P , nous avons K(P ) = 0 si = 0, et sinon K(P ) = 1 B([u, v], [u, v]) .

En particulier, la courbure sectionnelle de M est de signe constant. (4) Supposons que M ne soit pas isomtrique R. Si M est courbure sectionnelle ngative ou nulle, alors le centre Z(G) de G est trivial. Si M est courbure sectionnelle positive ou nulle, alors M et G sont compacts, et le centre Z(G) de G est ni. Dmonstration. (1) Dans un espace symtrique, le transport parallle le long de godsiques est induit par des isomtries. Comme le transport parallle le long de courbes C1 par morceaux peut tre approch par des transports parallles le long de godsiques par morceaux, le groupe dholonomie Hol(x0 ) est contenu dans K = StabG (x0 ). Si M est irrductible, alors le groupe dholonomie Hol(x0 ) agit irrductiblement sur Tx0 M par la proposition 4.4. Pour tout k K , considrons les diagrammes suivants : G ik G
0

x 0

M k

Ad k

p p

Te x0

Te x0

Tx0 M Tx0 k Tx0 M .

Le diagramme de gauche commute, donc celui de droite, obtenu en prenant lapplication tangente en e et en restreignant p, aussi. Lirrductibilit de Ad(K) sur p dcoule donc de celle de Hol(x0 ) K sur Tx0 M , puisque Te x0 : p Tx0 M est un isomorphisme linaire.

(2) Une action irrductible dun sous-groupe dun groupe linaire GL(V ) dun espace vectoriel rel de dimension nie V prserve au plus une forme bilinaire symtrique non nulle homothtie prs (et celle-ci est non dgnre, sinon son noyau serait un sous-espace vectoriel invariant non nul). Comme Ad(K) prserve la restriction de la forme de Killing p et limage dans p du produit scalaire de Tx0 M , le rsultat en dcoule. 263

(3) En utilisant respectivement la dnition de la courbure sectionnelle, lassertion (2), la proposition 4.6, la formule de Jacobi ad[u, v] = ad u ad v ad v ad u et le fait que la forme de Killing est ad-alterne, nous avons K(P ) = R(u, v)v, u
x0

= B(ad v ad u(v), u) B(ad u ad v(v), u) = B(ad u(v), ad v(u)) = B([u, v], [u, v]) . Si = 0, ceci montre le rsultat. Rappelons que [p, p] K et que la restriction de B K est dnie ngative daprs la proposition 4.2. Si = 0, ce calcul implique alors que [u, v] = 0, donc que R(u, v)v = 0 par le corollaire 4.6, do K(P ) = 0 (et donc M est isomtrique Ek , o k est la dimension de M , par la classication des varits riemanniennes simplement connexes courbure sectionnelle nulle, donc est isomtrique R par irrductibiblit). (4) Si la courbure sectionnelle de M est ngative ou nulle, alors x est lunique point xe de sx (si y = x est un autre point xe de sx , alors lunique segment godsique entre x et y est xe par sx , ce qui contredit le fait que x est un point xe isol de sx ). Si g Z(G), alors pour tout x M , nous avons g(x) = g(sx (x)) = sx (g(x)), donc g xe x, et g vaut lidentit. Si la courbure sectionnelle de M est positive ou nulle et si M nest pas isomtrique R, il dcoule de ce qui prcde que < 0. Pour tout v p unitaire, soit (ei )1in une base orthonorme de p telle que e1 = v. Par le calcul de la courbure sectionnelle, la courbure de Ricci vrie
n n

= B(R(u, v)v, u) = B((ad[u, v])(v), u)

Ric(v, v) =
i=2

R(ei , v)v, ei

x0

=
i=2

B([ei , v], [ei , v]) .

En particulier, en tant que somme de termes positifs ou nuls (puisque la restriction de B K est dnie ngative), nous avons Ric(v, v) 0. Montrons par labsurde que lgalit est impossible. Si Ric(v, v) = 0, puisque (ei )1in est une base de p, llment v commuterait avec tout lment de p. Le centralisateur zg(p) = {X g : Y p, [X, Y ] = 0} de p dans g serait donc non nul. Comme il est invariant par Ad K et par irrductibilit, nous aurions donc zg(p) = p. En particulier, la courbure sectionnelle serait nulle, ce qui contredirait le fait que M nest pas isomtrique En . Lapplication v Ric(v, v), qui est continue et strictement positive sur la sphre unit (compacte) de Tx0 M admet donc une borne infrieure strictement positive. Par le thorme de Myers 3.40, la varit riemannienne connexe complte M est donc compacte. Par le thorme dAscoli, son groupe des isomtries est compact, donc G est compact. Enn, B est dnie ngative sur g (car elle lest sur les sous-espaces K et p orthogonaux pour B), donc non dgnre. En particulier le centre z(g) de g est trivial. Donc le centre Z(G) de G, dont lalgbre de Lie est z(g) (voir lexercice E.12 de la partie 1.4.4), est discret. Il est par consquent ni, car contenu dans le compact G. Corollaire 4.10 Si M est un espace symtrique simplement connexe sans facteur euclidien, alors lalgbre de Lie g de G est semi-simple. 264

Dmonstration. Par le thorme de dcomposition de de Rham et comme un groupe de Lie et sa composante neutre ont la mme algbre de Lie, lalgbre de Lie de G est isomorphe lalgbre de Lie produit des algbres de Lie des composantes neutres G1 , . . . , G des groupes disomtries des facteurs M1 , . . . , M de de Rham de M . Chacun de ces facteurs est un espace symtrique simplement connexe irrductible, et la forme de Killing de B est la somme des formes de Killing de chaque Gi . Par absence de facteur euclidien et par les propositions 4.9 (2) et 4.2 (iv) et (v), nous en dduisons que B est non dgnre. Donc g est semi-simple, par le critre de Cartan (voir la partie 1.3.5). Corollaire 4.11 Soit M un espace symtrique simplement connexe. Les conditions suivantes sont quivalentes : (i) la courbure sectionnelle de M est ngative ou nulle et M nest pas isomtrique une varit riemannienne produit M R ; (ii) les facteurs de la dcomposition de Rham de M sont non compacts et non euclidiens ; (iii) la forme de Killing de g restreinte p p est dnie positive. Un espace symtrique vriant ces conditions sera appel de type non compact. Il est en particulier CAT(0). Notons que la composante neutre G de son groupe des isomtries est alors sans centre, et en particulier Ad : G Aut(g) est injective, o g est lalgbre de Lie de G. Dmonstration. Il sut dappliquer la proposition 4.9 chaque facteur de de Rham de M.
n Exemples. (1) Pour tout entier n 2, considrons le modle (H+ , ds2 ) du demihyp n . La composante neutre du groupe hyperbolode suprieur de lespace hyperbolique rel HR des isomtries O+ (1, n) de ce modle, qui est la composante neutre SO0 (1, n) du groupe de Lie SO(1, n), a pour algbre de Lie (rappelons quune matrice antisymtrique est de trace nulle)

g = so(1, n) =

a u v A

gl1+n (R) : v = t u, A = t A, a = tr A = 0 .

Nous avons vu que la symtrie godsique en x0 = (1, 0, . . . , 0) est sx0 = 1 0 0 In O+ (1, n) .

Linvolution de Cartan de g = so(1, n) correspondante, qui est lapplication tangente en llment neutre de la conjugaison par sx0 , est donc : a u v A a u v A .

En particulier, la dcomposition de Cartan g = K p est dnie par K= p= 0 0 0 A 0 u tu 0 : A so(n) , : u Rn .

265

Puisque Hn est simplement connexe et courbure sectionnelle strictement ngative, cest R donc, par la dnition 4.11 (i), un espace symtrique de type non compact, irrductible. (2) Reprenons lexemple standard Elln . Nous avions vu que lalgbre de Lie g de la composante neutre G = PSLn (R) du groupe des isomtries de Elln est g = sln (R). Nous avions dj calcul la forme de Killing de g dans la partie 1.3.5, qui est B(X, Y ) = 2n tr(XY ) . En notant X, Y = tr( t XY ) le produit scalaire usuel sur sln (R), nous avons B|pp = 2n , est dnie positive, B|KK = 2n , est dnie ngative et B|pK = 0. Nous avions dj vu que Elln est simplement connexe. En particulier, Elln est un espace symtrique de type non compact, par la dnition 4.11 (iii). Comme lalgbre de Lie sln (R) est simple, Elln est un espace symtrique irrductible (il na quun seul facteur de de Rham, sinon son algbre de Lie serait un produit non trivial, et ce facteur est non euclidien). Par le corollaire 4.11 (i), la courbure sectionnelle de Elln est ngative ou nulle. En particulier, Elln est CAT(0). 4.1.5 Espaces localement symtriques

Un espace localement symtrique est une varit riemannienne M telle que pour tout x M , il existe une symtrie locale en x qui est une isomtrie. Thorme 4.12 Soit M une varit riemannienne. Les conditions suivantes sont quivalentes : (i) M est localement symtrique ; (ii) le tenseur de courbure R est parallle : R = 0 , ou de manire quivalente, pour tout chemin c : [0, 1] M de classe C1 , pour tous les u, v, w Tc(0) M , 1 1 1 1 0 R(u, v)w = R( 0 u, 0 v) 0 w ; (iii) pour tout v T M , loprateur de courbure Rv est parallle le long de la godsique maximale t cv (t) telle que cv (0) = v : Rcv (t) =
t 0

Rv ( t )1 ; 0

(iv) la courbure sectionnelle est parallle : pour tout chemin c : [0, 1] M de classe C1 , pour tout 2-plan vectoriel P de Tc(0) M , nous avons K(P ) = K(
1 0

P) .

Thorme 4.13 Une varit riemannienne complte simplement connexe localement symtrique est globalement symtrique. En particulier, un revtement riemannien universel de varit riemannienne complte connexe localement symtrique est globalement symtrique. 266

4.2

Algbres de Lie semi-simples relles

Toutes les algbres de Lie de cette partie sont supposes de dimension nie. Il dcoule de la partie 4.1.1 et du corollaire 4.10 que si M est un espace symtrique de type non compact, alors lalgbre de Lie g de G = Isom0 (M ) est semi-simple relle, et admet un automorphisme involutif tel que la forme bilinaire B : (X, Y ) B(X, Y ) soit dnie positive. La classication des espaces symtriques de type non compact ( homothtie prs sur chaque facteur de de Rham) se ramnera la classication des tels couples (g, ). Soient g une algbre de Lie semi-simple relle et B sa forme de Killing. Une involution de Cartan de g est un automorphisme involutif tel que la forme bilinaire B : (X, Y ) B(X, Y ) soit dnie positive. Si K = {X g : X = X} et p = {X g : X = X}, alors la dcomposition en somme directe g = K p est appele la dcomposition de Cartan de g (relativement ). Notons que B = B sur p p, B = B sur K K, et B = 0 sur p K. Les sous-espaces vectoriels K et p sont orthogonaux pour la forme de Killing, qui est dnie ngative sur K K et dnie positive sur p p. De plus, [K, K] K, [K, p] p, [p, p] K. Par exemple, si B est dnie ngative, alors = id est une involution de Cartan, et alors K = g et p = {0}. 4.2.1 Sous-espace de Cartan et systmes de racines restreintes

Soient g une algbre de Lie semi-simple relle, B sa forme de Killing, une involution de Cartan de g et g = K p la dcomposition de Cartan associe.

Un sous-espace de Cartan de p est une sous-algbre commutative de g contenue dans p, maximale pour ces proprits.

On prendra bien garde ne pas confondre sous-espace de Cartan et sous-algbre de Cartan (voir la partie 1.3.6). Dans la suite de la partie 4.2.1, nous xons un sous-espace de Cartan a. Nous appellerons rang rel de g la dimension de a. Par exemple, si B est dnie ngative, alors le rang rel de g est nul. Nous verrons dans les propositions 4.17 et 4.23 (ou plus simplement par la remarque suivant celle-ci) que le rang rel ne dpend que de la classe disomorphisme de g. Nous appellerons rang dun espace symtrique de type non compact le rang rel de lalgbre de Lie de son groupe disomtries (voir la proposition 4.30 (iii) pour des dnitions quivalentes, plus gomtriques). Remarquons que pour tout X p, lendomorphisme ad X de g est symtrique pour le produit scalaire B , et que par lidentit de Jacobi ad X ad Y ad Y ad X = ad [X, Y ], les endomorphismes ad X pour X a commutent, donc sont simultanment diagonalisables en base orthonorme pour B , et nous pouvons raisonner comme dans la partie 1.3.7. Pour tout lment du dual a de a, posons g = {Y g : X a, ad X(Y ) = (X)Y } . En particulier, g0 = zg(a) est le centralisateur de a dans g. Appelons racine restreinte de a tout lment a tel que = 0 et g = {0}, et espace de racine restreinte de le 267

sous-espace vectoriel g . Notons lensemble des racines restreintes de a. Nous avons une dcomposition en somme directe orthogonale pour B g = g0 g ,

appele dcomposition en espaces de racine restreinte de g (relativement au choix du sousespace de Cartan a). Le produit scalaire de a (restriction a du produit scalaire B sur g, donc de la forme de Killing B) induit un isomorphisme de a dans son espace vectoriel dual a , ce qui permet en particulier de munir a dun produit scalaire euclidien. Proposition 4.14 La dcomposition en espaces de racine restreinte vrie les proprits suivantes : (i) (g0 ) = g0 , g0 p = a, g0 K = zK(a) et g0 = (g0 K) (g0 p) ; (ii) [g , g ] g+ pour tous les , a ; (ii) si alors , et : g g est un isomorphisme ; (iv) si , et + {0}, alors [g , g ] = 0, et de plus g et g sont / orthogonaux pour la forme de Killing ; (v) [g , g ] a ; (vi) est un systme de racines de lespace vectoriel euclidien a . La dmonstration est assez proche de celle dans le cas des algbres de Lie semi-simples complexes. Remarquons que les dirences principales avec le cas complexe sont que pour le systme de racines restreintes, le centralisateur g0 de a dans g nest pas forcment gal a, les espaces de racine restreinte ne sont pas forcment de dimension 1, et le systme de racines nest pas toujours rduit. Il dcoulera des propositions 4.17 et 4.23 qu isomorphisme prs, le systme de racines restreintes ne dpend que de la classe disomorphisme de lalgbre de Lie semi-simple relle g. Exemples. (1) Pour tout entier n 2, considrons lalgbre de Lie relle simple g = so(1, n) = 0 u tu A : u Rn , A so(n) ,

munie de linvolution de Cartan : X t X. Les sous-espaces abliens maximaux de p= 0 u tu 0 : u Rn .

En particulier, lespace hyperbolique rel est un espace symtrique de type non compact de rang 1. 268

sont de dimension 1, comme par exemple 0 t 0 a = t 0 0 : t R . 0 0 0

Le systme de racines restreintes de a est de type A1 , form de deux racines opposes 0 t 0 : t 0 0 t. La dcomposition en espaces de racine restreinte est g = 0 0 0 g0 g g o 0 t 0 g0 = t 0 0 : t R, A so(n 1) 0 0 A 0 0 u g = 0 0 0 : u Rn1 0 0 0 0 0 0 g = 0 0 0 : u Rn1 . tu 0 0

Si n 3, ceci est un exemple o les espaces de racine restreinte ne sont pas de dimension 1, et o le sous-espace de Cartan a est strictement contenu dans son centralisateur g0 . (2) Pour tout entier n 2, considrons lalgbre de Lie relle simple g = sln (R) munie de linvolution de Cartan : X t X. Les sous-espaces abliens maximaux du sousespace vectoriel p des matrices symtriques de trace nulle sont de dimension n 1, comme par exemple le sous-espace a des matrices diagonales de trace nulle (toute matrice de g commutant avec toute matrice de a appartenant a). En particulier, lespace Elln des ellipsodes de volume 1 est un espace symtrique de type non compact de rang n 1. Remarquons que dans ce cas particulier, le sous-espace de Cartan a est aussi une sousalgbre de Cartan de g. Les racines restreintes concident donc avec les racines, et la dcomposition en espaces de racine restreinte concide avec celle en espaces de racine. En particulier, le systme de racine restreinte est de type An1 . Rappelons que les racines restreintes sont les formes linaires sur a dnies par i,j : (i,j )1i,jn i,i j,j pour 1 i = j n, despace de racine REi,j , o (Ei,j )1i,jq est la base canonique de Mn (R). La dcomposition en espaces de racine restreinte correspondante est donc sln (R) = a 4.2.2 REi,j .
1i=jn

lments rguliers et chambres de Weyl

Soient g une algbre de Lie semi-simple relle, une involution de Cartan de g, g = Kp la dcomposition de Cartan associe, a un sous-espace de Cartan de p et son systme de racines restreintes. Rappelons que zg(X) = {Y g : [Y, X] = 0} est le centralisateur de X dans g. Proposition 4.15 Pour tout X p, les conditions suivantes sont quivalentes : a) le sous-espace zg(X) p est ablien ; 269

b) llment X appartient un unique sous-espace ablien maximal de p ; c) pour tout sous-espace de Cartan a de p contenant X, nous avons (X) = 0 pour toute racine restreinte de a ; d) il existe un sous-espace de Cartan a de p contenant X tel que (X) = 0 pour toute racine restreinte de a . Un lment X p vriant lune de ces conditions est dit rgulier.

Dmonstration. Lquivalence entre les assertions a) et b) est immdiate. Montrons que a) implique c). Supposons que zg(X) p soit ablien. Pour toute racine restreinte despace de racine g relativement un sous-espace de Cartan a de p, soit Y g {0}. crivons Y = YK + Yp o YK K et Yp p. Pour tout X dans a , nous avons (X )YK + (X )Yp = (X )Y = [X , Y ] = [X , YK] + [X , Yp] . Par unicit de lcriture dun vecteur dans la dcomposition de Cartan et puisque [p, K] p et [p, p] K, nous avons donc les deux galits (X )YK = [X , Yp] et (X )Yp = [X , YK] . ( 48 )

Supposons par labsurde que (X) = 0. En utilisant la premire galit, nous avons Yp zg(X) p = a , donc pour tout X a , nous avons (X )YK = 0. Puisque nest pas la forme linaire nulle, ceci implique que YK = 0. Par la seconde galit, ceci implique que Yp = 0. Do Y = YK + Yp = 0, ce qui est une contradiction. Rciproquement, montrons que d) implique a). Soit X a nappartenant pas au noyau dune racine restreinte relativement a . Pour tout Y zg(X) p, dans la dcomposition en espaces de racine restreinte relativement a , crivons Y = Y0 + Y . Puisque 0 = [X, Y ] = (X)Y , ceci implique que Y = 0 pour tout a. Donc Y g0 p = a par la proposition 4.14 (i), et zg(X) p est ablien. Une chambre de Weyl (ouverte) de a est une composante connexe de a ker , cest--dire une composante connexe du sous-espace des lments rguliers de a, ou encore une classe dquivalence pour la relation dquivalence sur a dnie par X X si et seulement si (X)(X ) > 0 pour toute racine restreinte . Cest un cne convexe ouvert. Le groupe de Weyl W = Wa de a est le groupe de Weyl du systme de racines restreintes de g relativement a, cest--dire le sous-groupe du groupe orthogonal de a (pour la restriction de la forme de Killing) engendr par les symtries orthogonales par rapport aux hyperplans xes des racines restreintes de a. Il agit simplement transitivement sur lensemble des chambres de Weyl de a, par la proposition 1.11 (i). Exemples. (1) Pour tout entier n 2, puisque lalgbre de Lie relle simple g = so(1, n) 0 u est de rang rel 1, les lments rguliers de p = : u Rn sont ses vecteurs tu 0 0 t 0 non nuls. Les chambres de Weyl de la droite vectorielle a = t 0 0 : t R 0 0 0 sont ses deux demi-droites vectorielles. Le groupe de Weyl de so(1, n) est isomorphe Z/2Z. 270

(2) Pour tout entier n 2, considrons lalgbre de Lie relle simple g = sln (R), munie de linvolution de Cartan : X t X. Notons toujours p le sous-espace vectoriel de g des matrices symtriques de trace nulle, et a le sous-espace de Cartan des matrices diagonales de trace nulle, de systme de racines restreintes = (i,j : (i,j )1i,jn i,i j,j )1i=jn . Alors un lment de a est rgulier si et seulement si ses coecients diagonaux sont deux deux distincts. Donc un lment de p est rgulier si et seulement ses valeurs propres sont simples. Le groupe de Weyl de sln (R) est isomorphe au groupe Sn des permutations des coordonnes. Pour 1 i < j n, notons Gij le sous-groupe de Lie plong de SLn (R) image a b de SL2 (R) par lapplication qui associe (ak,l)1kn o ak,k = 1 et ak, = 0 c d si k = sauf ai,i = a, ai,j = b, aj,i = c, aj,j = d. Alors la famille {Ad g(a)}gGi,j est une famille non dnombrable de sous-espaces de Cartan deux deux distincts de p contenant lhyperplan noyau de la racine ij . (3) Les chambres de Weyl des algbres de Lie relles semi-simples sl2 (R)sl2 (R), sl3 (R), sp4 (R) sont dessines ci-dessous, et leurs groupes de Weyl sont isomorphes aux groupes didraux dordre 4,6,8 respectivement.

1111 0000 1111 0000 1111 0000 1111 0000 1111 0000

ker 13

11111 00000 11111 00000 11111 00000 11111 00000 11111 00000
ker 2,3

ker 12

1111 0000 1111 0000 1111 0000 1111 0000 1111 0000

sl2 (R) sl2 (R)

sl3 (R)

sp4 (R)

Dans la partie suivante, nous montrons en particulier que le groupe des automorphismes de lalgbre de Lie g agit transitivement sur les sous-espaces de Cartan de p et sur les chambres de Weyl des sous-espaces de Cartan de p. 4.2.3 Conjugaison des chambres de Weyl

Soient g une algbre de Lie semi-simple relle de dimension nie et une involution de Cartan de g, de dcomposition de Cartan g = K p. Rappelons (voir les exercices E.7 (4) et (5) et E.17 (3)) que le groupe Aut(g) des automorphismes de lalgbre de Lie g est un sous-groupe de Lie plong du groupe de Lie rel GL(g) des automorphismes linaires de g, son algbre de Lie est la sous-algbre de Lie Der(g) de gl(g) des drivations de lalgbre de Lie g, lapplication exponentielle exp : Der(g) Aut(g) est lexponentielle des endomorphismes, et lapplication ad : g Der(g) est un isomorphisme dalgbres de Lie.
Notons K = {g Aut(g) : g = g } et K0 sa composante neutre.

Lemme 4.16 Lensemble K est un sous-groupe de Lie plong de Aut(g), compact. La restriction K de la reprsentation adjointe ad est un isomorphisme de K sur lalgbre de Lie de K . 271

Dmonstration. Il est immdiat que K est un sous-groupe ferm de Aut(g), donc un sous-groupe de Lie plong, par le thorme de Cartan 1.43. Le groupe K est compact, car il est ferm et contenu dans le groupe orthogonal du produit scalaire B : pour tout k K et tous les X, Y g, par invariance de la forme de Killing par les automorphismes dalgbres de Lie, nous avons B (kX, kY ) = B(kX, kY ) = B(kX, kY ) = B(X, Y ) = B (X, Y ) . Pour tout X K, nous avons ad X = ad X (car ([X, Y ]) = [X, Y ] = [X, Y ] pour tout Y g). Donc ead X = ead X et et ad X appartient K , pour tout t R, donc ad X appartient lalgbre de Lie de K . Rciproquement, soit X g tel que ad X appartienne lalgbre de Lie de K . Alors t ad X appartient K pour tout t R, donc et ad X = et ad X . En drivant en t = 0, e nous avons ad X = ad X . Donc [(X) X, Y ] = ([X, Y ]) [X, Y ] = 0 pour tout Y g. Puisque le centre z(g) de g est trivial par semi-simplicit, nous avons donc X = X, do X K. Proposition 4.17 Soient a1 et a2 deux sous-espaces de Cartan de p et Ci une chambre de Weyl de ai pour i = 1, 2. Alors il existe un lment k de K0 tel que k(a1 ) = a2 et k(C1 ) = C2 .
Puisque laction de K0 prserve la forme de Killing, les groupes de Weyl de a1 et de a2 sont en particulier isomorphes.

Dmonstration. Pour i = 1, 2, soit Xi un lment de Ci . En particulier, tout lment de p commutant avec Xi appartient zg(Xi ) p = ai et ai est lunique sous-algbre ablienne contenue dans p, maximale, contenant Xi , par la proposition 4.15. Considrons lapplication f de K0 dans R dnie par k B(k(X1 ), X2 ). Pour tout Z K, puisque ad Z appartient lalgbre de Lie de K0 par le lemme 4.16, et puisque 2 et ad Z = id +t ad Z + t2 (ad Z)2 + o(t2 ), nous avons f (et ad Z ) = f (e) + tB([Z, X1 ], X2 ) + t2 B([Z, [Z, X1 ]], X2 ) + o(t2 ) . 2

Par compacit de K0 , nous pouvons supposer, quitte remplacer a1 par son image par un , que f atteint son maximum en g = e. lment de K0 Pour tout Z K, nous avons donc B([Z, X1 ], X2 ) = 0, do puisque B est ad-alterne, B(Z, [X1 , X2 ]) = 0. Puisque [X1 , X2 ] K et B est dnie ngative sur K, nous en dduisons que [X1 , X2 ] = 0, donc que a2 = a1 par la proprit dunicit rappelex ci-dessus. De plus, pour tout Z K, nous avons B([Z, [Z, X1 ]], X2 ) 0, donc

B(ad X1 ad X2 (Z), Z) 0

( 49 )

toujours puisque B est ad-alterne. Or pour toute racine restreinte (relativement a1 = a2 ), le rel (X1 )(X2 ) est une valeur propre de ad X1 ad X2 sur K. En eet, xons Y un vecteur non nul de lespace de racine g . crivons Y = YK + Yp o YK K et 272

Yp p. Nous avons vu dans la dmonstration de la proposition 4.15 que YK = 0 et que (X )YK = [X , Yp] et (X )Yp = [X , YK] pour tout X dans a1 . Donc ad X1 ad X2 (YK) = (X1 )(X2 )YK . Puisque la restriction de B K K est dnie ngative et par lingalit ( 49 ), nous avons donc (X1 )(X2 ) 0. Puisque X1 et X2 sont rguliers, nous avons (X1 )(X2 ) > 0. Donc X1 et X2 appartiennent la mme chambre de Weyl et C1 = C2 . Remarque. Lorsque g est lalgbre de Lie du groupe des isomtries dun espace symtrique de type non compact M , si est lautomorphisme involutif de g associe un choix de point base x0 M , et si K = StabG (x0 ), nous avons K0 Ad K K . En eet, pour tout k K, puisque sx0 k = k sx0 et = isx0 est la conjugaison par sx0 , nous avons ik = ik , do en prenant lapplication tangente en llment neutre, (Ad k) = (Ad k) . Donc Ad K K . Rciproquement, comme ead X = Ad(exp X), et puisque ad K est lalgbre de Lie de K0 par le lemme 4.16, nous avons K0 Ad K. La proposition 4.17 implique donc que Ad K agit transitivement sur les chambres de Weyl des sous-espaces de Cartan de lespace p de la dcomposition de Cartan de g. 4.2.4 Passage des algbres de Lie complexes aux algbres de Lie relles

Rappelons (voir lexemple (3) de la partie 1.2) que si g est une algbre de Lie complexe, nous notons gR lalgbre de Lie obtenue de g par restriction des scalaires de C R, et que si g0 est une algbre de Lie relle, nous notons g0 R C lalgbre de Lie obtenue de g0 par extension des scalaires de R C. Soit g une algbre de Lie complexe. Une forme relle de g est une sous-algbre de Lie relle g0 de lalgbre de Lie relle gR telle que le morphisme canonique de g0 R C dans g soit un isomorphisme dalgbres de Lie complexes (ou, de manire quivalente, que nous ayons une dcomposition en somme directe despaces vectoriels rels gR = g0 ig0 ). Une forme relle g0 de g est dite compacte si la forme de Killing de g0 est dnie ngative. Exemple. Les algbres de Lie relles su(2) et sl2 (R) sont deux formes relles de lalgbre de Lie complexe sl2 (C), et su(2) est une forme compacte. En eet, nous avons vu dans lexercice E.9 que lalgbre de Lie complexe sl2 (C) et lalgbre de Lie relle sl2 (R) admettent pour base vectorielle (respectivement sur C et sur R) le triplet (E, H, F ) o E= 0 1 0 0 , F = 0 0 1 0 , H= 1 0 0 1 .

Donc sl2 (R) est une forme relle de sl2 (C). Posons E = E F , F = i(E + F ) et H = iH. Il est immdiat que (E , H , F ) est une base sur R de lespace vectoriel rel su(2) = {x sl2 (C) : t x = x}, que ce triplet est une base sur C de lespace vectoriel complexe sl2 (C), et que le crochet de Lie de su(2) est la restriction su(2) du crochet de Lie de sl2 (C). Donc su(2) est une forme relle de sl2 (C). De plus, [E , F ] = 2H , [H , E ] = 2F , [H , F ] = 2E . 273

La matrice de la forme de Killing de su(2) dans cette base est donc 8 0 0 0 8 0 , 0 0 8

Donc ad E ad H , ad F ad H et ad E ad F sont de trace nulle, et dans la base (E , H , F ), les matrices de ad E ad E , ad F ad F et ad H ad H sont respectivement 0 0 0 4 0 0 4 0 0 0 4 0 , 0 4 0 , 0 0 0 . 0 0 4 0 0 0 0 0 4

qui est dnie ngative. Donc su(2) est une forme compacte de sl2 (C).

Nous allons gnraliser lexemple ci-dessus en utilisant la dcomposition en espaces de racines dune algbre de Lie complexe semi-simple g quelconque, pour construire une base vectorielle de g (appele une base de Chevalley de g), partir de laquelle nous construirons une forme compacte de g, pour montrer le rsultat suivant. Proposition 4.18 Toute algbre de Lie complexe semi-simple g admet une forme compacte. Nous montrerons dans la partie 4.2.5 que le groupe des automorphismes de lalgbre de Lie complexe g agit transitivement sur les formes relles compactes de g. Par exemple, la dmonstration ci-dessous montre que les algbres de Lie relles su(n), so(n), sp(n) sont des formes relles compactes des algbres de Lie complexes sln (C), son (C), spn (C) respectivement. Dmonstration. Reprenons les notations de la partie 1.3.7 : B est la forme de Killing de g ; h est une sous-algbre de Cartan de g ; est le systme de racines de g ; enn, pour tout , le vecteur h est lunique lment de h tel que B(h , H) = (H) pour tout H h. Notons hR lespace vectoriel rel Rh , qui par la dualit entre h et h dnie par B correspond lespace vectoriel rel h = R. Par le lemme 1.33 (i), choisissons un R vecteur X dans g pour tout de sorte que B(X , X ) = 1, donc que [X , X ] = h . Pour tous les , tels que + = 0, notons N, le nombre complexe tel que N, = 0 si + , et sinon / [X , X ] = N, X+ , qui existe puisque les espaces de racine de g sont de dimension 1 (voir le lemme 1.33 (iii) ). Lemme 4.19 Soient , , , . (i) Nous avons N, = N, . (ii) Si + , alors N, N < 0. (iii) Si + + = 0, alors N, = N, = N, . (iv) Si + , + + , alors N, N+, + N,+ N, + N+, N, = 0 . 274

Dmonstration. (i) Cest immdiat (par antisymtrie du crochet de Lie si + = 0). (ii) Voir par exemple [Kna, Lem. 6.4]. (iii) Nous avons [[X , X ], X ] + [[X , X ], X ] + [[X , X ], X ] = 0 par lidentit de Jacobi, donc N, [X , X ] + N, [X , X ] + N, [X , X ] = 0, do N, h + N, h + N, h = 0 . Comme + + = 0 et par dualit, nous avons h + h + h = 0 . Puisque le systme de racines est rduit et + + = 0, nous avons = , donc h et h sont non colinaires par dualit. Le rsultat dcoule donc des deux galits centres ci-dessus. (iv) Il sut dappliquer lidentit de Jacobi au triplet (X , X , X ). Lemme 4.20 Il est possible de choisir les X pour de sorte que N, = N et N, soit rel. Dmonstration. La seconde armation dcoule de la premire et de lassertion (ii) du lemme 4.19 prcdent. Nous renvoyons [Kna, Lem. 6.4] pour une dmonstration de la premire assertion. Maintenant, considrons le sous-espace vectoriel rel u de gR dni par u = ihR + ++ R (X X ) + ++ R i(X + X ) . Nous avons vu dans la proposition 1.35 que la restriction de B hR est dnie positive, donc sa restriction ihR est dnie ngative. Pour tous les , , {0} et tous les x g , y g , nous avons ad x ad y(g ) g++ par la formule ( 11 ) de la partie 1.3.7. Donc par une dcomposition en blocs dans les espaces de racine, si , {0} et + = 0 alors B(X , X ) = tr(ad X ad X ) = 0. Rappelons que B(X , X ) = 1 pour tout . Donc, pour tous les , et pour tout X ihR , nous avons B(X X , X X ) = B(i(X + X ), i(X + X )) = 2 , et B(X, X X ) = B(X, i(X + X )) = 0 . Enn, si , vrient = , alors B(X + X , i(X + X )) = B(X X , X X ) = B(i(X + X ), i(X + X )) = 0 .

La dcomposition ci-dessus en somme vectorielle de u est donc orthogonale (et en particulier directe) pour B, et B, tant dnie ngative sur chaque facteur de u, est dnie ngative sur u. Pour tout H hR et tout + , nous avons [X X , iH] = (H)i(X + X ) et [i(X + X ), iH] = (H)(X X ) . 275

De plus, (H) = B(h , H) R car B est relle (et mme dnie positive) sur hR . Le lemme 4.20 montre que pour tous les , + , nous avons [X X , X X ] = N, (X+ X ) + N, (X X+ ) . Avec les autres formules analogues, ceci montre que le sous-espace vectoriel rel u est stable par crochets, donc est une sous-algbre de Lie relle de gR . Par la dcomposition en espaces de racine de g et la dnition de u, le sous-espace vectoriel complexe engendr par u est gal tout g. Donc u est une forme compacte de g. Nous allons maintenant tudier la stabilit de certaines proprits dalgbres de Lie par rduction ou extension des scalaires. Si g est une algbre de Lie complexe, puisque le crochet de Lie de gR est celui de g, lalgbre de Lie complexe g est rsoluble ou nilpotente si et seulement si lalgbre de Lie relle gR lest. Si g est une algbre de Lie relle, puisque le crochet de Lie de g R C est lextension C-bilinaire du crochet de Lie de g, lalgbre de Lie complexe g R C est rsoluble ou nilpotente si et seulement si lalgbre de Lie relle g lest. Le rsultat suivant tudie la stabilit de la proprit de semi-simplicit. Lemme 4.21 (1) Si g est une algbre de Lie relle, si BC est la forme de Killing de gC = g R C, alors la forme de Killing B de g est la restriction g g de BC . (2) Une algbre de Lie relle g est semi-simple si et seulement si lalgbre de Lie complexe gC est semi-simple. (3) Si g est une algbre de Lie complexe de forme de Killing B, alors la forme de Killing R de lalgbre de Lie relle gR est B B R = 2 Re B . (4) Une algbre de Lie complexe g est semi-simple si et seulement si lalgbre de Lie relle gR est semi-simple. Dmonstration. Montrons les assertions (1) et (2). Fixons une base de g sur R. Elle est aussi une base de gC sur C. La matrice M de la forme bilinaire relle B dans cette base est aussi la matrice de la forme bilinaire complexe BC dans cette base. Lassertion (1) en dcoule. De plus, une forme bilinaire tant non dgnre si et seulement si sa matrice est inversible, B est non dgnre si et seulement si BC lest. Lassertion (2) dcoule alors du critre de semi-simplicit de Cartan. Montrons les assertions (3) et (4). Soit B = (e1 , . . . , en ) une base de g sur C. Alors B R = (e1 , . . . , en , ie1 , . . . , ien ) est une base de gR sur R. Pour tous les x, y g, notons A = A + iA la matrice de ad x ad y dans la base B, o A , A sont coecients rels. Alors la matrice de ad x ad y dans la base B R est, par A A . Un calcul de trace montre alors lassertion (3). Le noyau blocs n-n, gale A A de la forme bilinaire complexe B est donc contenu dans le noyau de la forme bilinaire relle B R . Rciproquement, si x appartient au noyau de B R , alors pour tout y gR , nous avons Re B(x, y) = 0 et Im B(x, y) = Re B(x, iy) = 0, donc B(x, y) = 0, et x appartient alors au noyau de B. 276

En particulier, B est non dgnre si et seulement si B R lest, et comme ci-dessus, lassertion (4) dcoule du critre de semi-simplicit de Cartan. gR Notons quune forme relle g0 de g dnit une involution de lalgbre de Lie relle = g0 ig0 , appele la conjugaison dnie par cette forme relle, par x + iy x iy pour tous les x, y g0 . Cette involution est un anti-morphisme de lalgbre de Lie complexe g. Remarque. Soient g une algbre de Lie complexe semi-simple et h une sous-algbre de Cartan de g. Alors lalgbre de Lie relle hR sous-jacente h est encore une sous-algbre de Cartan de lalgbre de Lie relle gR sous-jacente g. Mais si h est dploye dans g, alors hR ne lest pas forcment dans gR , comme dans le cas de g = sl2 (C). 4.2.5 Classication des involutions de Cartan

La premire tape de la classication des algbres de Lie semi-simples relles g est le rsultat 4.23 dexistence et dunicit des involutions de Cartan de g. Bien sr, si g est lalgbre de Lie du groupe des isomtries dun espace symtrique de type non compact, lexistence est immdiate, voir la partie 4.1.1. Nous commenons par montrer lexistence dans un autre cas particulier. Lemme 4.22 Soient g une algbre de Lie semi-simple complexe et u une forme compacte de g. Alors la conjugaison de gR dnie par la forme relle u de g est une involution de Cartan de lalgbre de Lie semi-simple relle gR . En particulier, gR admet une involution de Cartan densemble des points xes u et de dcomposition de Cartan associe gR = K p o K = u et p = iu.

Dmonstration. Par construction, est un automorphisme involutif de lalgbre de Lie relle gR . Soient B R la forme de Killing de gR et B celle de g, de sorte que B R = 2 Re B par le lemme 4.21 (3). Notons que pour tous les X, X , Y, Y u, nous avons (B R ) (X + iY, X + iY ) = B R (X iY, X + iY ) = 2 Re B(X, X ) + 2 Re B(Y, Y ) . Or B|uu est la forme de Killing de u par le lemme 4.21 (1), puisque g = u R C. Donc (B R ) est dnie positive, puisque u est compacte. Ceci montre le rsultat.

Proposition 4.23 (1) Toute algbre de Lie semi-simple relle g admet une involution de Cartan. (2) Deux involutions de Cartan de g sont conjugues par un lment de Aut(g)0 . Ainsi, classer les algbres de Lie relles semi-simples, isomorphisme dalgbres de Lie prs, et les couples (g, ) des telles algbres de Lie munies dune involution de Cartan, isomorphisme prs, est quivalent. Dmonstration. (1) Soit u une forme compacte de lalgbre de Lie complexe semi-simple gC = g R C (voir la proposition 4.18). Notons respectivement et les conjugaisons dnies par les formes relles u et g de gC , et N = , qui est un automorphisme de lalgbre de Lie relle (gC )R . Notons B la forme de Killing de (gC )R et BC celle de g. 277

Alors pour tous les X, Y (gC )R , puisque est un automorphisme involutif de lalgbre de Lie relle (gC )R , nous avons B (N X, Y ) = B( X, Y ) = B(X, Y ) = B (X, N Y ) . Or B est dnie positive, par le lemme 4.22 prcdent. Donc lendomorphisme autoadjoint N est diagonalisable sur R. Il existe donc un sous-groupe un paramtre (t )tR dendomorphismes linaires de (gC )R diagonalisables valeurs propres positives tel que 1 = N 2 . Notons que t Aut((gC )R ), que t commute avec N et que t 1 = t . En eet, ces conditions sexpriment en des annulations de polynmes en t, qui sannulent sur les entiers positifs. Notons = 1 1 . Alors
4 4

= 1 1 = 1 = 1 N 1 N 2 = N 1 1 = 1 = 1 1 = .
4 4 2 2 2 2 4 4

Puisque g est le sous-espace propre de valeur propre 1 de , nous en dduisons que prserve g. Donc = |g est un automorphisme involutif de g. Notons B la forme de Killing de g, qui vrie par le lemme 4.21, pour tous les X, Y g, 1 B (X, Y ) = BC (X, Y ) = Re BC (X, Y ) = B(X, Y ) . 2 Puisque B est dnie positive, puisque est conjugu , nous en dduisons donc que (B ) est dnie positive. Donc est une involution de Cartan de g. (2) Soient et deux involutions de Cartan de g, et B la forme de Killing de g. Comme ci-dessus, on montre que est auto-adjoint pour le produit scalaire B , donc que son carr appartient un sous-groupe un paramtre (t )tR dautomorphismes de g tel que si = 1 1 , alors les involutions de Cartan et commutent. En notant 4 4 g = K p et g = K p les dcompositions de Cartan associes, nous avons, par diagonalisation simultane, g = (K K ) (K p ) (p K ) (p p ) . Puisque la forme de Killing de g est dnie ngative sur K et K , et dnie positive sur p et p , nous avons donc K p = p K = {0} et K = K , p = p , do = . Donc et sont conjugues par llment 1 de Aut(g)0 .
4

Remarque. Lorsque g est lalgbre de Lie du groupe des isomtries dun espace symtrique de type non compact M , la proposition 4.23 (2) implique que toute involution de Cartan de g est conjugue celle associe un choix de point base x0 dans M , lhomognit de M entranant bien sr que ces telles involutions de Cartan sont conjugues. Corollaire 4.24 Deux formes compactes dune algbre de Lie semi-simple complexe g sont conjugues par un lment de Aut(g)0 . Dmonstration. Par le lemme 4.22, une forme compacte de g est le sous-espace propre pour la valeur propre +1 dune involution de Cartan. Le rsultat dcoule donc de la proposition 4.23 (2). 278

4.2.6

Classication des groupes de Lie compacts

Le but de cette partie est de classer isomorphisme prs les groupes de Lie compacts. Si u est une algbre de Lie relle, nous noterons uC = u R C lalgbre de Lie complexe obtenue par extension des scalaires. Thorme 4.25 Lapplication de lensemble des classes disomorphisme de groupes de Lie rels compacts connexes de centre trivial, dans lensemble des classes disomorphisme des algbres de Lie complexes semi-simples, induite par lapplication qui un groupe de Lie U associe lalgbre de Lie complexe uC , o u est lalgbre de Lie de U , est une bijection. Dmonstration. Nous avons vu dans lexercice E.18 que la forme de Killing B de lalgbre de Lie u dun groupe de Lie compact sans centre U est dnie ngative. [Puisque Ad(U ) est compact, considrons un produit scalaire sur u qui est Ad(U )-invariant (en moyennant un produit scalaire sur u par une mesure de Haar de Ad(U )). Alors pour tout X u, en drivant, ad X est antisymtrique pour ce produit scalaire, donc admet une matrice antisymtrique (aij )1i,jn dans une base orthonorme de u. Donc B(X, X) = tr(ad X ad X) = aij aji = a2 0 , ij

i,j

i,j

avec galit si et seulement si ad X = 0, donc si X = 0 car le centre de u est nul, puisque celui de U lest.] En particulier, lalgbre de Lie relle u est semi-simple, par le critre de Cartan. Par le lemme 4.21 (2), lalgbre de Lie complexe uC est aussi semi-simple. Puisquune algbre de Lie complexe semi-simple admet conjugaison prs une unique forme compacte (voir le corollaire 4.24), puisquun groupe de Lie rel simplement connexe est dtermin, isomorphisme prs, par son algbre de Lie, et puisque quil existe isomorphisme prs un unique groupe de Lie connexe sans centre de revtement universel donn (voir la partie 1.4.4), linjectivit en dcoule. La surjectivit dcoule du fait que si g est une algbre de Lie complexe semi-simple, alors elle admet une forme compacte u par la proposition 4.18, dont la forme de Killing, tant par le lemme 4.21 (1) la restriction de celle de g u u, est dnie ngative. Par lexercice corrig E.17, le groupe des automorphismes Aut(u) de u est un groupe de Lie compact dalgbre de Lie isomorphe u. Remarque. La classication dans la partie 1.3.7 isomorphisme prs des algbres de Lie complexes semi-simples founit donc une classication isomorphisme prs des groupes de Lie rels compacts connexes de centre trivial : les groupes de Lie compacts connexes sans centre sont, isomorphisme prs, les produits en nombre ni des groupes de la liste suivante, o nous notons P G le quotient dun groupe G par son centre. Table des groupes de Lie rels compacts simples

279

U PSUn+1 PSO2n+1 PSpn PSO2n E6 E7 E8 F4 G2

type de valeurs des dimension u R C param`tres e An n1 n(n + 2) Bn n2 n(2n + 1) Cn n3 n(2n + 1) Dn n4 n(2n 1) E6 78 E7 133 E8 248 F4 52 G2 14

Il est traditionnel de donner le mme nom lunique (modulo isomorphisme de groupes de Lie) groupe de Lie compact connexe sans centre dalgbre de Lie complexie de type E6 , E7 , E8 , F4 , G2 . Exercice E.43 Montrer que le revtement universel dun groupe de Lie rel compact connexe de centre discret est compact. 4.2.7 Classication des algbres de Lie relles semi-simples

Thorme 4.26 Soit g une algbre de Lie relle simple. Alors ou bien g est une forme relle dune algbre de Lie complexe simple ; ou bien g = gR o g est une algbre de Lie complexe simple, unique isomorphisme prs. Nous dirons que g est absolument simple dans le premier cas, et admet une structure complexe dans le second cas. Dmonstration. Le fait que ces deux cas soient exclusifs dcoule du lemme suivant. Lemme 4.27 Soit g une algbre de Lie complexe simple. Alors gR est simple, et gR R C est isomorphe g g, donc nest pas simple. Dmonstration. Soient a un idal non nul de lalgbre de Lie relle semi-simple (par le lemme 4.21 (4)) gR . Alors ia = i[a, a] = [ia, a] [gR , a] a . Donc a est un sous-espace vectoriel complexe, donc un idal de lalgbre de Lie complexe simple g, donc gal g. Soit g une forme relle de g (par exemple une forme compacte, voir la proposition 4.18). Alors gR R C (g R C) R C g R (C R C) g R (C C) (g R C) (g R C) g g . Reprenons la dmonstration du thorme 4.26. Supposons que g = g R C ne soit pas simple, sinon le premier terme de lalternative est vri. Soit la conjugaison de lalgbre de Lie complexe g dnie par sa forme relle g, et soit a un idal simple de lalgbre de 280

Lie complexe g, qui est semi-simple (par le lemme 4.21 (2)). Puisque (x) = (x) pour tous les C et x a, nous en dduisons que (a) est un idal simple de g. En particulier (a) a est nul ou gal a. Le second cas implique que a est contenu dans g, ce qui nest pas possible car g nest pas stable par multiplication par i dans g. Donc (a) a = {0}. Si b = a (a), alors b g est un idal non nul de g, donc gal g par simplicit et g = b. Donc lapplication de aR dans g dnie par X X + (X) est un isomorphisme dalgbres de Lie relles. Lunicit dcoule de lunicit de la dcomposition en somme didaux simples de g. La classication ( isomorphisme dalgbres de Lie prs) des algbres de Lie relles simples non absolument simples dcoule de celle (donne en partie 1.3.7) des algbres de Lie complexes simples. Table des algbres de Lie relles simples non absolument simples g type valeurs complexe des param`tres e An Bn Cn Dn En F4 G2 n1 n2 n3 n4 6n8

sln+1 (C)R so2n+1 (C)R spn (C)R so2n (C)R eR n fR 4 gR 2

La classication ( isomorphisme dalgbres de Lie prs) des algbres de Lie relles absolument simples est plus dlicate, et nous renvoyons pour cela [Hel, Chap. X]. Le caractre dune algbre de Lie relle semi-simple g est = (g) = dim p dim K, o g = K p est une dcomposition de Cartan de g (le caractre ne dpend pas de celle-ci, par la proposition 4.23). Pour les algbres de Lie exceptionnelles, le caractre de g et le type de lalgbre de Lie complexe simple g de forme relle g dterminent la classe disomorphisme de g, et nous lindiquons en exposant : par exemple f20 est lunique ( isomorphisme prs) algbre de 4 Lie relle absolument simple g telle que g R C soit isomorphe lalgbre de Lie complexe simple de type F4 et dont le caractre est 20. Les (uniques automorphisme prs) formes compactes des algbres de Lie complexes simples de type E6 , E7 , E8 , F4 , G2 sont respectivement
52 e78 , e133 , e248 , f4 , g14 . 6 7 8 2

Table des algbres de Lie relles absolument simples

281

g R C An1 Ap+q A2n D p+q si p + q pair 2 B p+q1 sinon

2

valeurs des param`tres e n2 q p 0, p+q 2 (p, q) = (1, 1) n2 q p 0, p+q =5 ou 7 n3 q p 0, p+q 3 n5

rang rel e n1 p n1 p n p [n] 2 0 2 2 4 6 0 3 4 7 0 4 8 0 1 4 0 2

dimension

sln (R) su(p, q) sln (H) = su (2n) so(p, q) spn (R) sp(p, q) son (H) = so (2n) e78 6 e26 6 e14 6 e2 6 e6 6 e133 7 e25 7 e5 7 e7 7 e248 8 e24 8 e8 8 f52 4 f20 4 f4 4 14 g2 g2 2

n2 1

Cn Cp+q Dn E6 E6 E6 E6 E6 E6 E7 E7 E6 E8 E8 E8 F4 F4 F4 G2 G2

78

133

248

52

14

Exercice E.44 Montrer les isomorphismes dalgbres de Lie relles suivants. so(3) sp(1) su(2) so(1, 2) sp1 (R) su(1, 1) sl2 (R) so(4) so(3) so(3) so(1, 3) sl2 (C)R so(6) su(4) 282 so(2, 2) sl2 (R) sl2 (R)

so(1, 5) su (4) = sl2 (H) so(2, 4) su(2, 2) so(3, 3) sl4 (R) sp(2) so(5) so (4) = so2 (H) su(2) sl2 (R) so (6) = so3 (H) su(1, 3) so (8) = so4 (H) so(2, 6) sp(1, 1) so(1, 4)

4.2.8

Classication des espaces symtriques de type non compact

Soient X et Y deux varits riemanniennes simplement connexes. Une multi-homothtie de X dans Y est une application f : X Y telle quil existe des dcompositions de Cartan X = X0 X1 X et Y = Y0 Y1 Y , de facteurs euclidiens X0 et Y0 , et des homothties fi : Xi Yi (cest--dire des isomtries de Xi sur i Yi o i > 0) telles que f = f0 f . Une algbre de Lie relle simple est compacte si sa forme de Killing est dnie ngative. Thorme 4.28 Lapplication qui un espace symtrique X associe lalgbre de Lie de la composante neutre G de son groupe des isomtries induit une bijection de lensemble des classes de multi-homothtie despaces symtriques de type non compact, dans lensemble des classes disomorphisme dalgbres de Lie relles semisimples sans facteur compact. Dmonstration. Voir [Hel, Chap. X]. Un espace symtrique de type non compact irrductible est de type III si son algbre de Lie est absolument simple, et de type IV sinon. Tout espace symtrique X de type non compact est donc, multi-homothtie prs, un produit riemannien de lun des espaces G/K o G est le groupe de Lie rel connexe de lune des deux tables ci-dessous, K un sous-groupe compact maximal de G dont lalgbre de Lie K est isomorphe celle donne par la seconde colonne, muni dune mtrique riemannienne invariante gauche par G. Attention, la composante neutre du groupe des isomtries de X est gal G/Z(G). Table des espaces symtriques de type non compact irrductibles de type III

283

SLn (R) SU(p, q) SLn (H) SO0 (p, q) Spn (R) Sp(p, q) SOn (H)
26 E6 14 E6 2 E6 6 E6 25 E7 5 E7 7 E7 24 E8 8 E8 20 F4 4 F4 G2 2

so(n) su(p) su(q) R sp(n) so(p) so(q) su(n) R sp(p) sp(q) su(n) R f52 4 so(10) R su(6) su(2) sp(4) 78 e6 R so(12) su(2) su(8) e133 su(2) 7 so(16) so(9) sp(3) su(2) su(2) su(2)

type du syst`me de e racines restreintes An1 BCp si p < q, Cp sinon An1 Bp si p < q, Dp sinon Cn BCp si p < q, Cp sinon C n si n pair, 2 BC n1 sinon 2 A2 BC2 F4 E6 C3 F4 E7 F4 E8 BC1 F4 G2

valeurs des param`tres e

rang

dimension de G/K

n2 q p 1, p + q 2, (p, q) = (1, 1) n2 q p 1, p+q =5 ou 7 n3 q p 1, p+q 3 n5

n1 p n1 p n p [n] 2 2 2 4 6 3 4 7 4 8 1 4 2

(n1)(n+2) 2

2pq
(n 1)(2n + 1)

2pq n(n 1) 4pq n(n 1) 26 32 40 42 54 64 70 112 128 16 28 8

Table des espaces symtriques de type non compact irrductibles de type IV type du valeurs des rang dimension syst`me de param`tres e e de G/K racines (restreintes) An n1 n n(n + 2) Bn n2 n n(2n + 1) Cn n3 n n(2n + 1) Dn n4 n n(2n 1) E6 6 78 E7 7 133 E8 8 248 F4 4 52 G2 2 14 284

SLn+1 (C) SU(n + 1) SO2n+1 (C) SO(2n + 1) Spn (C) Sp(n) SO2n (C) SO(2n) E6 E6 E7 E7 E8 E8 F4 F4 G2 G2

Remarque. Les espaces symtriques de type non compact de rang un sont, isomtrie prs, les espaces hyperboliques rels Hn , complexes Hn , quaternioniens Hn , et le plan C C R hyperbolique sur les octaves de Cayley H2 , dont la composante neutre du groupe des Q isomtries est respectivement SO0 (1, n), SU(1, n), Sp(1, n), et le groupe de Lie rel connexe 20 simple de type F4 . Nous renvoyons par exemple [Gol] pour une tude approfondie des espaces hyperboliques complexes Hn , et [Par] pour une introduction aux espaces C hyperboliques quaternioniens Hn et au plan hyperbolique sur les octaves de Cayley H2 . C Q Proposition 4.29 Si X est un espace symtrique de type non compact, G la composante neutre de son groupe des isomtries, g lalgbre de Lie de G, alors lapplication Ad : G GL(g) induit par passage au quotient un plongement isomtrique totalement godsique de X dans lespace symtrique de SL(g). Dmonstration. Voir par exemple [Ebe1].

4.3

Gomtrie asymptotique des espaces symtriques de type non compact

Soient M un espace symtrique de type non compact, G la composante neutre de son groupe des isomtries, g lalgbre de Lie de G, B = Bg la forme de Killing de g, x0 M , K = StabG (x0 ), g = K p la dcomposition de Cartan de g relativement x0 , a un sousespace de Cartan de p, A = exp(a), le systme de racines restreintes de g relativement a et g = g0 g la dcomposition en espaces de racine restreinte relativement a. Identions toujours p avec Tx0 M par Te x0 o x0 : g gx0 est lapplication orbitale en x0 . 4.3.1 Plats maximaux et chambres de Weyl des espaces symtriques de type non compact

Un plat de M est une sous-varit totalement godsique, isomtrique un espace euclidien Rk . Un plat de M est maximal sil est maximal pour linclusion. Par exemple, une droite godsique est un plat de dimension 1, et donc tout vecteur tangent M est tangent un plat maximal de M . Un vecteur tangent M est dit rgulier sil est tangent un unique plat maximal, et singulier sinon. Une chambre de Weyl (ouverte) de M est une composante connexe de lensemble des vecteurs rguliers dun plat maximal de M . Le groupe de Weyl de M est le groupe de Weyl de a, qui ne dpend pas, isomorphisme prs, du choix du point base x0 ni du choix du sous-espace de Cartan a. Proposition 4.30 (i) Les plats maximaux de M sont les sous-espaces g exp(a) x0 = g expx0 (a) o g G. Les vecteurs tangents rguliers de M sont les images par G des lments rguliers de a. Les chambres de Weyl de M sont les sous-espaces g exp(C) x0 = g expx0 (C) o g G et C est une chambre de Weyl de a. (ii) Le groupe G agit transitivement sur les plats maximaux points de M , et sur les chambres de Weyl de M . (iii) Le rang de M est gal la dimension dun plat maximal de M , donc la dimension maximale dun plat de M . 285

Nous appellerons sommet dune chambre de Weyl C de M le point gx0 o g G, C est une chambre de Weyl de a, et C = g expx0 (C). Dmonstration. (i) Ceci dcoule du corollaire 4.8. (ii) Ceci dcoule de la proposition 4.17 et du corollaire qui la suit. (iii) Ceci dcoule de la dnition du rang (voir le dbut de la partie 4.2.1). Proposition 4.31 Soient F = expx0 (a), NK (a) = {g G : gF = F, gx0 = x0 } = {x K : Ad x(a) = a} et ZK (a) = {g G : g|F = idF } = {x K : Ad x|a = ida} . Alors les groupes W et NK (a)/ZK (a) sont isomorphes. Donc le groupe de Weyl de M est le quotient du stabilisateur dun plat maximal point de M par son xateur. Avec A = exp a, nous avons aussi W NK (A)/ZK (A) NG (A)/ZG (A) . Dmonstration. Il est immdiat que NK (a) = {x K : Ad x(a) = a} et ZK (a) = {x K : Ad x|a = ida} sont des sous-groupes ferms de K, donc des groupes de Lie compacts, et que ZK (a) est distingu dans NK (a). Lalgbre de Lie de NK (a) est {X K : ad X(a) a}, celle de ZK (a) est {X K : ad X(a) = 0} = zK(a) = g0 K . Pour tous les X K et Y a tels que ad X(Y ) a, nous avons [Y, ad X(Y )] = 0 par commutativit de a, donc B(ad X(Y ), ad X(Y )) = B(ad Y (X), ad Y (X)) = B(ad Y ad Y (X), X) = 0 . Puisque la restriction de B a a est dnie positive, nous avons ad X(Y ) = 0. Donc lalgbre de Lie de NK (a) est gale celle de ZK (a), et le groupe quotient NK (a)/ZK (a), tant discret et compact, est ni. Rappelons que la restriction de B a a est le produit scalaire euclidien pour lequel est un systme de racines de a, et que B est Ad-invariante. Le morphisme de groupes de NK (a) dans Isom(a), dni par g ad g|a induit par passage au quotient une application injective de NK (a)/ZK (a) dans Isom(a). Montrons que cette application est un isomorphisme de groupes sur W . Pour tout , soit X a lunique vecteur orthogonal au noyau H de tel que B(X, X ) = (X) pour tout X a. Soit Y g un vecteur non nul, et Y = YK + Yp son criture dans la dcomposition de Cartan g = K p. Nous avons YK K, Yp p, et, par unicit dune telle criture, [X, YK] = (X)Yp et [X, Yp] = (X)YK pour tout X a. En particulier, YK est non nul, et par lidentit de Jacobi, pour tout X a, nous avons [X, [YK, Yp]] = [YK, [Yp, X]] [Yp, [X, YK]] = 0 , donc [YK, Yp] a par maximalit de a. Puisque B est dnie ngative sur K K, nous pouvons supposer que B(YK, YK) = 1, quitte remplacer Y par un multiple non nul. 286

Alors B(X, [YK, Yp]) = (X) pour tout X a, puisque B est ad-alterne. Donc [YK, Yp] = X par dnition de X et (ad YK)2 (X ) = ad YK((X )Yp) = (X)X . Par consquent, Ad(exp tYK)X = et ad YK X 1 2n n t (X ) X + = (2n)!
nN

nN

1 t2n+1 (X ) (2n + 1)!

n+1

Yp .

X et la restriction de Ad(exp t0 YK) H est lidentit, car [YK, X] = 0 si X H . Ainsi, la symtrie orthogonale s par rapport lhyperplan noyau de est dans limage de , et celle-ci contient le groupe W . Pour montrer que limage est exactement W , puisque W agit transitivement sur les chambres de Weyl de a, il sut de montrer que NK (a)/ZK (a) agit librement sur lensemble des chambres de Weyl : si appartient limage de , si C est une chambre de Weyl de a, quitte composer par un lment de W , qui est dans limage de par ce qui prcde, lisomtrie prserve C, donc vaut lidentit. En eet, soit C une chambre de Weyl de a et g K tel que Ad g(C) = C. Soient X C, 1 n lordre de limage de g dans le groupe ni NK (a)/ZK (a) et X = n X + Ad g(X) + + Ad g)n1 (X) . Alors Ad g(X ) = X et X C par convexit et invariance par Ad g de C. Puisque Ad g est un automorphisme de g xant X , nous avons Ad g ad X = ad X Ad g. Or X est rgulier, donc Ad g prserve la dcomposition en espaces de racine restreinte de g (relativement a). En particulier, pour tout Y a, puisque la restriction de ad Y g est (Y ) idg , nous avons Ad g ad Y = ad Y Ad g (en utilisant lcriture dun lment de g dans la dcomposition en espaces de racine restreinte). Do, pour tout Z g, 0 = Ad g[Y, Z] [Y, Ad g(Z)] = [Ad g(Y ) Y, Ad g(Z)] . donc Ad g(Y ) Y appartient au centre z(g) de g, qui est trivial car g est semi-simple. Exemple. Si M = Elln et a est le sous-espace vectoriel de g = sln (R) des matrices diagonales de trace nulle, alors ZK (a) = ZK (A) est le sous-groupe de K = PSO(n) des matrices diagonales de coecients diagonaux 1 et de dterminant 1 (modulo homothties), et NK (a) = NK (A) est le sous-groupes des matrices monomiales de coecients non nuls 1 (modulo homothties). 4.3.2 Flot godsique des espaces symtriques de type non compact

Posons t0 =

(X )

(qui existe car (X ) = B(X , X ) > 0). Alors Ad(exp t0 YK)X =

Pour simplier les notations, pour tous les g G et v Tx M , notons g v = Tx mg (v) o mg : y g y est laction de g sur M . Par la proposition 4.30 (ii), pour tout v T M , il existe g G tel que g v a p0 Tx0 M . La classe de g v dans a/W est indpendante du choix de g, par la proposition 4.31. Ainsi, pour toute chambre de Weyl xe C de a, en identiant C avec son image dans a/W par la projection canonique, nous avons une application C : T M C appele application direction, qui un vecteur tangent v associe la classe de g v modulo W . Elle est surjective, invariante par laction du groupe disomtrie et par le ot godsique de M . 287

En particulier, le groupe G agit transitivement sur le br tangent unitaire T 1 M de M si et seulement si M est de rang un. Pour tout X C Tx0 M de norme riemannienne 1, notons T 1,X M = 1 (X) le C sous-espace de T 1 M des vecteurs de direction X. Laction (g, v) g v de G sur T 1 M est transitive sur T 1,X M . Si X est un vecteur rgulier, le stabilisateur du vecteur X est exactement le sous-groupe compact ZK (a) = ZK (A). Par le thorme 1.60, le sous-espace T 1,X M est donc une sousvarit lisse de T 1 M , et laction lisse de G sur T 1 M induit un C -diomorphisme de la varit homogne quotient G/ZK (A) dans T 1,X M . Ce diomorphisme X est quivariant pour les actions droite de G : pour tous les g G et y G/ZK (a), nous avons Pour tout t R, posons gt = exp(tX). Alors gt A, donc gt commute avec ZK (A). Donc la multiplication droite par gt dans G induit une application de G/ZK (A) dans lui-mme, note x xgt . Il est immdiat de vrier que si (t : T 1 M T 1 M )tR est le ot godsique de M , alors, pour tous les t R et x G/ZK (A), nous avons X (ygt ) = t (X (y)) . Comme vu dans le thorme 1.58, lespace tangent en la classe e = eZK (A) de llment neutre dans G/ZK (A) sidentie au quotient de g = g0 g par lalgbre de Lie de ZK (A), qui est zK(a) = g0 K. Donc par la proposition 4.14 (i), nous avons o gX, = , (X)>0 g . Cette dcomposition est invariante par Ad(ZK (A)). En eet, si g ZK (A) = ZK (a), Y a et Z g , alors, puisque la restriction de Ad g a vaut lidentit de a et par la dnition du systme de racines restreintes, nous avons [X, Ad g(Z)] = Ad g([Ad g1 (X), Z] = Ad g([X, Z]) = Ad g((X)Z) = (X) Ad g(Z) . Notons que, pour tout X a, nous avons Ad(exp(tX))|g = et(X) idg . ( 50 ) Te G/ZK (A) = a g = gX, a gX,+ , X (gy) = g X (y) . X : G/ZK (a) T 1,X M .

Ainsi, si X C est un vecteur rgulier, le br vectoriel T (T 1,X M ) T 1,X M se dcompose de manire unique en somme directe de sous-brs vectoriels lisses invariants par le ot godsique et par laction de G, tels que Lorsque M est de rang un, nous retrouvons la dcomposition de la partie 3.7.3. Notons que si = max , (X)>0 |(X)| > 0, alors par la formule ( 50 ), il existe une constante c > 0 telle que pour tout t > 0 et tout v T 1,X M , nous ayons Tv t |Ess c e t et Tv t |Esu c e+ t . Ces proprits de contraction et dilatation sont cruciales pour ltude de nombreux problmes de dynamique dans les espaces localement symtriques (voir par exemple [MT1, ELMV]). 288 Esu TX (T 1,X M ) = gX,+ , E0 TX (T 1,X M ) = a, Ess TX (T 1,X M ) = gX, . T (T 1,X M ) = Esu E0 Ess ,

4.3.3

Chambres de Weyl linni

Deux parties A et B de M seront dites asymptotes si elles sont distance de Hausdor nie, cest--dire sil existe k N tel que A est contenue dans le k-voisinage de B et rciproquement. Soient X a et M le point linni de la godsique t exp(tX) x0 . Notons aX = z(X) p (qui nest une sous-algbre de Lie de g que lorsquelle est ablienne, cest-dire lorsque X est rgulier), uX = , (X)>0 ga, A = exp(aX ), U = exp(uX ) et Z = ZG (X) = {g G : Ad g(X) = X}. Lorsque X est un lment rgulier, nous avons aX = a. Thorme 4.32 (Dcomposition dIwasawa) (i) Les parties A , U et Z de G sont fermes, A est stable par passage linverse et normalise U , et U et Z sont des sousgroupes. Le stabilisateur de dans G est G = K A U , o K = K Z . Le groupe K , et donc G , a un nombre ni de composantes connexes. (ii) La multiplication de K A U dans G (qui (k, a, u) associe kau) est un homomorphisme. (iii) La partie A U agit simplement transitivement sur M . (iv) Si X a et F est la face de chambre de Weyl contenant X, alors pour tous les a A et u U , les parties au exp(F) x0 et exp(F) x0 sont asymptotes, et la distance d(u exp(tY ) x0 , exp(tY ) x0 ) tend vers 0 quand t tend vers +. Nous rsumons lassertion (ii) en disant que G = KA U . Par exemple, soient G = SLn (R) et a le sous-espace de Cartan des matrices diagonales de sln (R). Alors K = SO(n). Si A est le sous-groupe de G des matrices diagonales coecients diagonaux positifs, si U est le sous-groupe des matrices triangulaires suprieures unipotentes, alors la dcomposition dIwasawa G = KAU dcoule immdiatement du procd dorthogonalisation de Gram-Schmidt. Dmonstration. (i) Il est immdiat que Z est un sous-groupe ferm. Lapplication Y exp Y x0 tant un C -diomorphisme de p sur M , il est immdiat que A est ferm. Puisque aX est stable par passage loppos, A lest par passage linverse. Notons que si Y z(X)p, alors ad Y commute avec ad X et donc ad Y prserve la somme uX des espaces propres de valeurs propres strictement positives de ad X. Puisque si Y z(X) p, alors exp Y exp uX exp(Y ) = exp Ad(exp Y )uX = exp ead Y )uX exp uX , il en dcoule donc que la partie AX = exp aX normalise le sous-groupe U = exp uX . (ii) Montrons que lon a une dcomposition en somme directe despaces vectoriels g = K aX uX .
, (X)=0 ga.

Posons u = , (X)<0 ga et u0 = X X racine restreinte scrit donc

La dcomposition en espaces de ( 51 )

g = g0 u u0 uX . X X

Rappelons que g0 = (g0 K) (g0 p). Par dnition, aX = (g0 u0 ) p. Puisque X (g ) = g , linvolution de Cartan prserve g0 et u0 , donc X u0 = (u0 K) (u0 p) et aX = (g0 p) (u0 p) . X X X X 289

(iii) Puisque G = U A K par passage aux inverses et puisque lapplication orbitale en x0 permet didentier G/K et M de manire G quivariante, le rsultat est immdiat. (iv) Notons = { : (X) < 0}, 0 = { : (X) = 0}, + = { : (X) > 0} . X X X Alors F = {Y a : , (Y ) < 0, 0 , (Y ) = 0, + , (Y ) > 0}. X X X Soient Y F, Xa aX et Xu = + Xu, uX = + g . Puisque Xa aX = aY , X X nous avons [Y, Xa] = 0 et donc exp(tY ) et exp Xa commutent. Donc d(exp Xa exp Xu exp tY x0 , exp tY x0 )

Si Y u , alors Y = Y + (Y ) (Y ), avec Y + (Y ) K et (Y ) uX . Donc X g = K + aX + uX . Pour montrer que cette somme est directe, si Y K, Y aX , Y uX vrient + Y + Y = 0, alors en appliquant , nous avons Y + (Y ) + (Y ) = 0, donc (Y Y (Y )) + Y (Y ) = 0 o Y uX , (Y ) u et Y (Y ) g0 u0 puisque aX est X X contenu dans le sous-espace -invariant g0 u0 . Puisque la somme dans lquation ( 51 ) X est directe, nous avons donc Y = 0 et Y = (Y ), do Y K aX = {0} et Y = 0, et Y = Y Y = 0.

= d(exp et ad Y Xu x0 , exp(Xa) x0 ) = d(exp

+ X

= d(exp Ad(exp(tY ))Xu x0 , exp(Xa) x0 )

= d(exp(tY ) exp Xu exp(tY ) x0 , exp(Xa) x0 )

et(Y ) Xu, x0 , exp(Xa) x0 ) .

Puisque (Y ) > 0 si + , le rsultat en dcoule. X Proposition 4.33 (i) Pour toute chambre de Weyl C de M , pour tout x M , il existe une unique chambre de Weyl de M de sommet x asymptote C. (ii) Deux chambres de Weyl contenant des rayons godsiques asymptotes sont asymptotes. (iii) Pour toutes les chambres de Weyl C et C de M , il existe un plat maximal F de M tel que C et C soient asymptotes des chambres de Weyl de M contenues dans F . (iv) Le groupe G agit dlement et transitivement sur les chambres de Weyl Une chambre de Weyl linni de M est lensemble des points linni des rayons godsiques contenus dans une chambre de Weyl de M . Si C est une chambre de Weyl de sommet x et C est la partie de Tx M telle que C = expx C , alors lapplication du simplexe 1 sphrique ouvert Tx M C dans M , qui un vecteur unitaire associe le point linni du rayon godsique quil dnit, est un homomorphisme sur son image, note C, qui est lintersection avec M de la frontire de C dans la compactication gomtrique de M . Notons que si C est une chambre de Weyl de sommet x asymptote C, alors les distances 1 1 sur C = C induites par les distances sphriques sur Tx M et Tx M concident, car il existe une isomtrie de M envoyant x sur x et xant C = C . 290

4.3.4

Immeuble de Tits linni

Nous renvoyons la partie 3.6.7 et [BH] pour plus de dtails sur les complexes polydraux sphriques (par morceaux), en nous restreignant ci-dessous aux dnitions minimales pour notre besoin. Une partie C de la sphre Sn est convexe si pour tous les x, y C, tout segment godsique entre x et y est contenu dans C. Lenveloppe convexe dune partie de Sn est lintersection de tous les convexes la contenant. Un simplexe sphrique C de dimension n est lenveloppe convexe de n+1 points (appels sommets de C) de la sphre Sn qui ne sont pas contenus dans un quateur et qui sont contenus dans une hmisphre ouverte. Cest en particulier un convexe ferm. Une face de C est lenveloppe convexe dune partie non vide T de lensemble S de ses sommets. Elle est propre si T = S. Cest encore un simplexe sphrique, de dimension le cardinal de la partie T moins un. Par exemple, les sommets de C sont ses faces de dimension 0 et C est une face de C. Si C est un simplexe sphrique de dimension n dans Sn densemble de sommets S et C un simplexe sphrique de dimension n dans Sn densemble de sommets S , alors le joint sphrique C C de C et de C est lenveloppe convexe dans la sphre unit de Rn+1 Rn +1 des points (x, 0) et (0, x ) avec x S et x S . Cest donc un simplexe sphrique de dimension n + n + 1. Par exemple, si C est une chambre de Weyl dun sous-espace de Cartan a dun espace symtrique de type non compact M , alors lintersection de C avec la sphre unit de a est un simplexe sphrique, de dimension r 1 si r = dim a est le rang de M . Il ne dpend pas, isomtrie prs, des choix. Si M est le produit riemannien de deux espaces symtriques de type non compact M1 et M2 , alors le simplexe sphrique de M est isomtrique au joint des simplexes sphriques de M1 et M2 . Un complexe simplicial sphrique est un recollement de simplexes sphriques le long de faces, plus prcisment une famille (Ci )iI de simplexes sphriques, muni dune relation dquivalence sur sa runion disjointe iI Ci telle que si : iI Ci iI Ci / est la projection canonique, alors la restriction de chaque Ci est injective, pour tout i I, si F est une face de Ci , alors il existe j I tel que Cj = F , si (Ci ) (Cj ) = o i, j I, alors il existe une face Fi de Ci , une face Fj de Cj et une isomtrie h : Fi Fj telle que pour tous x Ci et y Cj , alors x y si et seulement si x Fi , y Fj et h(x) = y. Par abus, nous appellerons parfois complexe simplicial sphrique le quotient X = iI Ci / , et appellerons simplexes de X les images (Ci ) pour i I. Si (Ci )iI ne contient quun nombre ni de classes disomtrie dlments, on montre (voir par exemple [BH]) que si
k

d(x, y) =

(x0 ,x1 ...,xk )

inf

dCi (xi1 , xi )
i=1

o la borne infrieure est prise sur les suites nies x0 , x1 . . . , xk dlments de X tels que x0 = x, xk = y et, pour tout 1 j k, un existe un simplexe Cj tels que xi1 , xi (Ci ) et dCi (xi1 , xi ) est la distance dans Ci entre les (uniques) primages de xi1 et xi par |Ci . Une isomtrie simpliciale entre deux complexes simpliciaux sphriques X et X est une isomtrie de X dans X qui envoie simplexe sur simplexe. 291

Par exemple, la sphre unit dun sous-espace de Cartan a dun espace symtrique de type non compact M admet une (unique) structure de complexe simplicial sphrique M dont les simplexes maximaux sont les intersections des chambres de Weyl de a avec cette sphre unit, au nombre gal au cardinal du groupe de Weyl de M . Notons que si le rang de M est 1, alors M est la runion disjointe de deux points. Si le systme de racines restreintes de M est de type A1 A1 , A2 , B2 , G2 , alors M est un cercle subdivis en respectivement 4, 6, 8, 12 segments dgales longueurs.

A1 A2

A2

B2

G2

Si le systme de racines restreintes de M est de type A3 , alors M est la sphre S2 pave par le triangle sphrique dangles , , , qui est la projection radiale sur la sphre 2 2 3 S2 de la subdivision barycentrique dun ttradre rgulier inscrit dans la sphre S2 .

A3

Si P est un simplexe sphrique de dimension n, dangles didres sous-multiples de (cest--dire si pour toute face F de codimension 2 de P , il existe k N {0, 1} tel que langle didre en F soit ), alors un thorme de Poincar (voir par exemple [dlH]) dit k quil existe une et une seul structure de complexe simplicial sphrique sur Sn , telle que P soit lun des simplexes, et qui soit invariante par laction du groupe W (P ) engendr par les rexions orthogonales sur les hyperplans de Sn contenant les faces de codimension 1 de P . Un tel pavage est appel un pavage de Coxeter, voir par exemple [Hum, Bou3] pour plus de renseignements sur les groupes de rexions. Par exemple, si r est le rang dun espace symtrique de type non compact M , alors M est un pavage de Coxeter de la sphre unit Sr1 dun sous-espace de Cartan a de M . Un immeuble (de Tits) sphrique de dimension n est un complexe simplicial sphrique X muni dune collection A de sous-complexes sphriques, appels appartements, simplicialement isomtriques un pavage de Coxeter x de la sphre Sn , tels que (I1 ) deux simplexes de X appartiennent un appartement, (I2 ) si A et A sont deux appartement, il existe une isomtrie simpliciale de A dans A qui xe A A point par point. 292

Les simplexes sphriques de dimension n de X sont appels les chambres de X. Nous ne nous intresserons quau cas o A est maximal. Voir par exemple [Ron, Bro] pour plus dinformation sur les immeubles. Par exemple, le graphe dincidence dun plan projectif sur un corps commutatif k, cest-dire le graphe bipartie X de sommets les points projectifs P et les droites projectives D du plan projectif P2 (k) et dartes les couples (P, D) o D est une droite projective dans P2 (k) et P un point projectif dans P2 (k), tels que P D, chaque arte tant identie un intervalle de longueur du cercle S1 , est un immeuble sphrique. 3

Proposition 4.34 Soit M un espace symtrique de type non compact, de rang r. Lensemble M , dont les simplexes sont les faces de chambres de Weyl linni de M et dont les appartements sont les bords linni des plats maximaux de M , est un immeuble sphrique de dimension r 1, de systme dappartements maximal. Nous noterons Tits M cet immeuble. Toute isomtrie g de M , envoyant face de chambre de Weyl de M sur face de chambre de Weyl de M induit une isomtrie simpliciale de Tits M , que nous noterons encore g. Par exemple, si M est un espace symtrique de type non compact de rang 1, alors Tits M est lensemble M muni de la topologie discrte, de systme dappartements lensemble des paires de points distincts. Dmonstration. Voir par exemple [Ebe1]. Remarque. La distance du complexe simplicial sphrique Tits M peut se comprendre de manire gomtrique lintrieur de M de la manire suivante (voir par exemple [BGS] et la partie 3.7.5 pour plus de dtails). Pour tous , M , notons (, ) = sup x (v , v )
xM

o vx , vy sont les vecteurs tangents unitaires en x, dont les rayons godsiques associs convergent vers et respectivement. Alors est une distance M et la distance de Tits dTits sur M est la distance de longueur associe (avec la convention que la distance entre deux points qui ne sont pas dans la mme composante connexe est ). La distance de Tits est de diamtre , mais sa topologie induite est beaucoup plus ne que la topologie de M . En fait, dTits concide avec la distance du complexe simplicial sphrique Tits M . 293

4.4

Thorme de rigidit de Mostow

Le rsultat suivant dit en particulier que deux quotients compacts despaces symtriques de type non compact irrductibles de dimension au moins 3, dont les groupes fondamentaux sont isomorphes, sont homothtiques. Soient M une varit riemannienne connexe complte courbure sectionnelle ngative ou nulle et un sous-groupe discret sans torsion disomtries de M . Nous avons vu (dans le corollaire 3.56) que agit librement et proprement sur M , et que la projection canonique de M sur la varit quotient \M est un revtement riemannien, pour une unique mtrique riemannienne sur \M . Nous dirons que est un rseau disomtries si le volume riemannien de \M est ni, et quil est cocompact (ou un rseau uniforme) si \M est compact. Si M est simplement connexe, est dit irrductible si lorsque M est isomtrique un produit riemannien non trivial M1 M2 , en notant G, G1 , G2 les composantes neutres des groupes disomtries de M, M1 , M2 et pri : G = G1 G2 Gi la i-me projection pour i = 1, 2, la projection i () est un sous-groupe dense de Gi pour i = 1, 2. Par exemple, lorsque M est un espace symtrique de type non compact irrductible, alors cette condition est vide, donc tout rseau est irrductible. Thorme 4.35 (Thorme de rigidit de Mostow) Soient M et M deux espaces symtriques de type non compact non homothtiques au plan hyperbolique rel, et et deux rseaux irrductibles disomtries de M et M respectivement. Si : est un isomorphisme de groupes, alors il existe une multi-homothtie h de M dans M telle que () = hh1 pour tout . Le rsultat est d Mostow [Mos1, Mos2] dans le cas cocompact et son extension au cas non uniforme est d Margulis, Raghunathan et G. Prasad [Pra]. Nous nen donnerons une dmonstration que lorsque M et M sont irrductibles de rang au moins 2 et lorsque et sont cocompacts. La dmonstration dans le cas o M et M sont irrductibles de rang 1 (cest--dire sont des espaces hyperboliques rels, complexes, quaternioniens ou le plan hyperbolique sur les octaves de Cayley) est trs dirente du cas o M ou M ne lest pas. Outre larticle original [Mos1] utilisant les proprits de rgularit des applications quasiconformes sur M et la dynamique de sur M , et la dmonstration de Gromov (voir par exemple [BP]), nous renvoyons dans ce cas de rang 1 larticle [BCG], qui donne sans doute actuellement la dmonstration la plus lgante et rapide. Lexclusion du cas du plan hyperbolique rel est alors ncessaire, car lensemble des classes de conjugaison de sous-groupes discrets cocompacts disomtries du plan hyperbolique rel isomorphes en tant que groupes au groupe fondamental dune surface compacte connexe orientable de genre g 2 est non dnombrable (voir par exemple [FLP]). Plus prcisment, si est le groupe fondamental dune surface S compacte connexe orientable de genre g 2 (muni de la topologie discrte), si G est le groupe de Lie rel PSL2 (R) (isomorphe au groupe des isomtries prservant lorientation du plan hyperbolique rel), notons Homf d (, G) lespace des morphismes de groupes de dans G injectifs dimage discrte, muni de la topologie compacte-ouverte (deux morphismes sont proches si les images des lments dune partie gnratrice nie xe de sont proches). Cet espace est muni dune action de G droite par conjugaisons (de G Homf d (, G) dans Homf d (, G) dnie par (g, ) { g1 ()g}) et dune action gauche de Aut() par prcomposition 294

(de Aut() Homf d (, G) dans Homf d (, G) dnie par (, ) 1 ). Nous avons le rsultat suivant (voir par exemple [FLP, FM]). Proposition 4.36 Lespace topologique quotient T (S) = Homf d (, G)/G est homomorphe la runion disjointe de deux copies de R6g6 . En particulier lespace topologique quotient M (S) = Aut()\T () (appel lespace modulaire de lespace T (S) (appel lespace de Teichmller de S) par le groupe dnombrable Aut() est encore non dnombrable. Notons H2 le modle du demi-plan suprieur R du plan hyperbolique rel. Notons M (S) lespace topologique des classes disomtries de mtriques hyperboliques (cest--dire des mtriques riemanniennes de courbure sectionnelle constante 1) sur S, muni de la topologie quotient par laction du groupe des isomtries de la topologie induite sur le sous-espace des mtriques riemanniennes par la topologie C2 sur lespace (2 T S) des sections lisses du br des formes bilinaires sur S. Considrons lapplication de M (S) dans M (S), qui la double classe [] associe la classe disomtrie de la varit riemannienne quotient ()\H2 (qui est homomorphe S, par la classiR cation des surfaces compactes connexes orientables, celles-ci tant dtermines par leur groupes fondamentaux). Il nest pas trs dicile de montrer que cette application est un homomorphisme. Lorsque S est le tore T2 = S1 S1 , un rsultat analogue qui reste vrai est le suivant. Notons M (S) lespace des classes dhomothtie des mtriques plates (cest--dire des mtriques riemanniennes de courbure sectionnelle constante 0) sur S, toutjours muni de la topologie quotient de la topologie induite par la topologie C2 sur lespace (2 T S). Notons quil est ici plus commode de travailler modulo homothtie que modulo isomtrie (ce que lon peut faire par exemple en normalisant laire pour quelle vaille 1), le groupe R agissant par multiplication de la mtrique riemannienne sur lensemble des classes + disomtrie des mtriques plates sur S. Proposition 4.37 Lapplication de H2 dans M (S) qui associe la classe disomtrie R de R2 /(Z + Z) induit un homomorphisme de PSL2 (Z)\H2 dans M (S). R z z+1 PSL2 (Z)\H2 R Espace des modules des tores plats de dimension 2

1 z z Domaine fondamental de PSL2 (Z) dans H2 R

Notons que R2 /(Z+ Z) est bien homomorphe S, et lon peut transporter la structure plate quotient de R2 /(Z+ Z) sur S par nimporte quel homomorphisme : isomtrie prs, le choix dun tel homomorphisme na pas dimportance. Attention, PSL2 (Z) contient des 1 lments de torsion (dordre 2 ou 3, conjugus respectivement z 1 et z 1z ), et z nagit pas librement sur H2 . Nanmoins, il nest pas dicile de montrer (voir par exemple R [Ser2, CDP]), en utilisant le domaine fondamental usuel, que lespace topologique quotient 295

PSL2 (Z)\H2 est homomorphe au disque D = {z C : |z| < 1}. Il est en particulier non R dnombrable. Le thorme de rigidit de Mostow a eu de nombreuses variantes, dont celle de Gromov expose dans [BGS]. Pour motiver son nonc, donnons tout dabord un thorme de caractrisation des espaces symtriques de type non compact, irrductibles et de rang au moins 2. Soit M une varit riemannienne complte simplement connexe irrductible courbure sectionnelle ngative ou nulle, de dimension n 2. Appelons rang de M le minimum sur tous les vecteurs tangents non nuls v de M de la dimension de lespace vectoriel Ev des champs de Jacobi parallles le long de la godsique cv : R M telle que cv (0) = v. Cette dimension est au moins 1, car t cv (t) est un champ de Jacobi parallle, et au plus n, car lapplication qui un champ de vecteurs Y parallle le long de cv associe Y (0) est un isomorphisme linaire sur lespace tangent Tx M en lorigine x de v. Si u Tx M est orthogonal v, et si lunique champ de vecteurs parallle le long de cv valant u en t = 0 est un champ de Jacobi, alors il dcoule de lexpression de la courbure sectionnelle en fonction des champs de Jacobi que si P est le 2-plan tangent engendr par u et v, alors K(P ) = 0 . Ainsi le rang de v peut-tre pens comme la dimension maximale dun germe de plat innitsimal le long de chaque godsique de M . Par exemple, supposons que M soit un espace symtrique de type non compact, et notons x0 un point de M et g = K p la dcomposition de Cartan associe x0 de lalgbre de Lie du groupe des isomtries de M . Par la formule de la courbure sectionnelle, si v Tx0 M et si X est le vecteur de p correspondant, alors lespace vectoriel Ev des champs de Jacobi parallles le long de la godsique cv est isomorphe lespace vectoriel z(X) p. La dimension de z(X) p est minimale lorsque X est rgulier, et gale au rang de M . Donc le rang de la varit riemannienne M est gal son rang en tant quespace symtrique. La caractrisation voque ci-dessus est la suivante. Thorme 4.38 [Bal, BS] Soit M une varit riemannienne complte simplement connexe irrductible courbure sectionnelle ngative ou nulle, de dimension n 2. Supposons que le rang de M soit au moins 2 et que M admette un rseau disomtries. Alors M est un espace symtrique de type non compact. Lextension par Gromov du thorme de rigidit de Mostow est la suivante. Thorme 4.39 [BGS] Soit M un espace symtrique de type non compact, sans facteur de de Rham homothtique au plan hyperbolique rel. Soit M une varit riemannienne complte simplement connexe courbure sectionnelle ngative ou nulle. Soient et des rseaux disomtries de M et M respectivement. Si : est une isomtrie, alors M est un espace symtrique de type non compact et il existe une multi-homothtie g de M dans M telle que () = gg1 pour tout . Le passage du cas non irrductible au cas irrductible dans cet nonc est d Eberlein [Ebe2]. 296

Nous renvoyons par exemple [Pan, GP, BI] pour des dveloppements sur le thorme de rigidit de Mostow. Dmonstration du thorme 4.35. Soient M et M deux espaces symtriques de type non compact irrductibles de rang au moins 2, et et deux sous-groupes discrets cocompacts disomtries de M et M respectivement. Soit : un isomorphisme de groupes. Montrons que quitte multiplier la mtrique riemannienne de M par une constante strictement positive, il existe une isomtrie g de M dans M telle que () = gg1 pour tout . tape 1 Une quasi-isomtrie entre deux espaces mtriques X et X est une application f : X X telle quil existe 1 et c, c 0 tels que, pour tous les x, y X, nous ayons c + 1 d(x, y) d(f (x), f (y)) d(x, y) + c ,

et tels que pour tout x X , il existe x X tel que d(x , f (x)) c . Il est immdiat que si f : X X et g : X X sont des quasi-isomtries, alors g f est une quasi-isomtrie et que si f : X X est une quasi-isomtrie, alors il existe une quasi-isomtrie g : X X (appele un quasi-inverse de f ) telle que g f et f g soient distance borne de lidentit. Pour montrer cette dernire armation, il sut de prendre, pour tout x dans X , comme point g(x ) un choix quelconque de point x tel que d(f (x), x ) c . Proposition 4.40 Il existe une quasi-isomtrie f : M M qui est -quivariante. Dmonstration. Soient G un groupe et S une partie gnratrice nie de G. Pour tout g G, notons |g| = |g|S le minimum des longueurs des mots forms dlments de S et de lensemble S 1 de leurs inverses reprsentant g (en particulier |e| = 0). Alors lapplication d = dS : GG G[0, +[ dnie par d(g, h) = |g1 h| est une distance sur G invariante gauche, appele la distance des mots dnie par la partie gnratrice S. Si S est une autre partie gnratrice nie, il est immdiat de vrier que lidentit de G est une quasi-isomtrie (de constantes c = c = 0 et = max{maxsSS 1 |s|S , maxs S S 1 |s |S }), entre les distances des mots associes S et S . Bien sr, si : G G est un isomorphisme de groupes, alors (S) est une partie gnratrice nie de G et est une isomtrie quivariante pour les distances des mots associes S et (S) sur G et G respectivement. Lemme 4.41 Soient X un espace mtrique godsique propre, x X et G un groupe agissant proprement par isomtries, avec quotient compact, sur X. Alors G est de type ni et lapplication g gx de G dans X, qui est quivariante pour les actions gauche du groupe G sur G et sur X, est une quasi-isomtrie de G muni dune distance des mots dans X. Remarque. Lorsque X est une varit simplement connexe et G agit librement, le fait que G soit de type ni dcoule darguments gnraux de topologie algbrique. Plus prcisment (voir par exemple un cours de base [God1, Spa, Pau3] de topologie algbrique), le groupe fondamental (pour un choix de point base indirent) dune varit compacte connexe est 297 Cette dernire armation signie que f (x) = ()f (x) pour tous les et x M .

de type ni, et le groupe fondamental (pour un choix de point base indirent) du quotient dun espace topologique localement compact simplement connexe par un groupe agissant librement et proprement est isomorphe ce groupe. Dmonstration. Soient R > 0 et B la boule ferme de rayon R et de centre x. Supposons R susamment grand pour que les images de B par les lments de G recouvrent X. Soit S lensemble (stable par passage linverse et contenant lidentit) des lments s de G tels que B sB soit non vide. Puisque la distance de X est propre, B est compacte, et S est ni, car laction de G est propre. Soient = maxsS d(x, sx) et r = inf gGS d(B, gB), qui est strictement positif par compacit de B et propret de laction. Montrons que S est une partie gnratrice de G. Pour tout g G, soit k N le plus petit entier tel que d(x, gx) < kr. Puisque X est godsique, choisissons des points x0 = x, x1 , . . . , xk = gx sur un segment godsique entre x et gx tels que d(xi , xi+1 ) r pour 0 i k 1. Pour 0 i k, soit gi G tel que xi gi B, avec g0 = id, gk = g. Pour 1 0 i k 1, posons si = gi gi+1 , de sorte que g = s0 s1 . . . sk1 . Pour 0 i k 1, nous 1 1 1 1 1 avons gi xi Bi et gi xi+1 = si gi+1 xi+1 si B, et d(gi xi , gi xi+1 ) = d(xi , xi+1 ) < r. Donc par dnition de r, nous avons si S. Ceci montre que S engendre G. De plus, d(x, gx) (k 1)r r|g| r par minimalit de k. Rciproquement, si g G et g = s1 . . . sk o si S et |g| = k, alors par lingalit k1 triangulaire et linvariance, d(x, gx) i=1 d(si x, si+1 x) |g|. Donc r d(g, h) r d(gx, hx) d(g, h) pour tous les g, h G. Enn, tout point de X est distance au plus R dun point de lorbite G x. En prenant un quasi-inverse quivariant et en composant, la proposition 4.40 dcoule du lemme 4.41 impliquera le rsultat. tape 2 Fixons une quasi-isomtrie -quivariante f : M M , comme construit dans la proposition 4.40. Proposition 4.42 Pour tout plat maximal F de M , il existe un et un seul plat maximal F de M tel que les parties f (F ) et F soient asymptotes. Pour toute chambre de Weyl C de M , il existe une chambre de Weyl C de M telle que les parties f (C) et C soient asymptotes. Il existe une isomtrie simpliciale -quivariante f : Tit M Tit M qui la chambre de Weyl linni dune chambre de Weyl C de M associe la chambre de Weyl linni dune chambre de Weyl asymptote f (C). De plus, lapplication f : Fur M Fur M qui la chambre de Weyl linni dune chambre de Weyl C de M associe la chambre de Weyl linni dune chambre de Weyl asymptote f (C) est un homomorphisme -quivariant. Lide est que la courbure sectionnelle transversalement au plat maximal contenant une godsique rgulire est strictement ngative. Dmonstration. Voir [BGS]. tape 3 Nous allons appliquer lisomtrie simpliciale -quivariante f de Tit M dans Tit M le rsultat suivant de Tits.

298

Thorme 4.43 (Thorme de Tits) Si M et M sont deux espaces symtriques irrductibles de type non compact de rang au moins 2, de composante neutre du groupe des isomtries G et G respectivement, si f est une isomtrie simpliciale de Tit M dans Tit M , alors il existe un isomorphisme de groupes de G dans G tel que g G, f g = (g) f .

Si lapplication de Fur M dans Fur M dnie par f est continue, alors est continu. Si de plus f est -quivariant, alors lest. Remarques. (1) Ce rsultat est incorrect en rang 1, car alors toute bijection de Tit M prserve sa structure simpliciale dimmeuble de Tits. (2) Si M = M est lespace symtrique des ellipsodes de volume 1, alors ce rsultat est juste une consquence du thorme fondamental de la gomtrie projective. (3) Un automorphisme de groupes de G nest pas forcment continu. Par exemple, si n 2 et si : R R est un automorphisme de corps non continu (qui existe), alors lapplication de SLn (R) dans lui-mme, qui une matrice (ai,j )1i,jn associe ((ai,j ))1i,jn , induit un automorphisme de groupes non continu de G = PSLn (R) dans lui-mme. En fait, les automorphismes des groupes de G sont connus, et part les automorphismes intrieurs et un petit groupe provenant de symtries de son diagramme de Dynkin, il ny a pas autre chose que les automorphismes provenant des automorphismes de corps du corps qui sert le construire. et ce corps peut se rcuprer sur la combinatoire des chambres de Weyl contenant une cloison de Weyl xe, ce qui explique la dernire assertion du thorme prcdent. Proposition 4.44 Soient M et M deux espaces symtriques de type non compact de rang au moins 2, de composante neutre du groupe des isomtries G et G respectivement, et : G G un isomorphisme de groupes continu. Alors il existe une unique multihomothtie h : M M telle que h g = (g) h pour tout g G. Si est -quivariant, alors par unicit, h est -quivariante. Dmonstration. Pour tout x M , notons Kx le stabilisateur de x dans G, qui est un sous-groupe compact maximal de G. Alors (Kx ) est un sous-groupe compact maximal de G , donc xe un unique point h(x) de M . Puisque Kgx = gKx g1 , il est immdiat que h g = (g) h pour tout g G. Lunicit en dcoule aussi facilement. Notons x = h(x0 ) et remarquons que g = Te (K) Te (p) est la dcomposition de 0 Cartan de g associe x , car K est lalgbre de Lie de K = Kx0 , donc Te (K) est celle 0 de (Kx0 ), et la forme de Killing B de G , vriant B(X, Y ) = B (Te (X), Te (Y )) pour tous les X, Y g, est dnie positive sur Te (p). Montrons que lapplication h : M M ainsi dnie est une isomtrie, lorsque M et sont munies des mtriques riemanniennes invariantes gauche qui valent sur T M et M x0 Tx M la restriction des formes de Killing B et B p et p . Celles-ci sont, multiplication 0 prs par un scalaire strictement positif de la mtrique de chaque facteur de de Rham de M et M , les mtriques riemanniennes originales, et le rsultat sen dduit. Soient x, y M et montrons que d(h(x), h(y)) = d(x, y). Puisque h g = (g) h pour tout g G, nous pouvons supposer que x = x0 . Par les proprits des godsiques dans les espaces symtriques, il existe X p tel que exp X x0 = y et d(x0 , y) = B(X, X). De plus, h(exp X x0 ) = (exp X) x = exp(Te (X)) x . 0 0 299

Mzalor d(h(x0 ), h(y)) = en dcoule.

B (Te (X), Te (X)) =

B(X, X) = d(x0 , y), et le rsultat

4.5

Indications pour la rsolution des exercices

Schme E.43 Ceci dcoule de la seconde conclusion du corollaire 3.41 et du fait quun groupe de Lie compact admet une mtrique riemannienne bi-invariante (voir lexemple (v) de la partie 3.1.

300

Index
acclration covariante, 148 action au bord, 234 irrductible, 263 libre, 60, 73 lisse, 72 propre, 60, 73 transitive, 73 ad-alterne, 16 algbre de Lie, 14 ablienne, 14 absolument simple, 280 classique, 17 commutative, 14 compacte, 283 dun groupe de Lie, 21 dnie par gnrateurs et relations, 34 drive, 35 libre, 18 nilpotente, 35 obtenue par extension des scalaires, 15 obtenue par restriction des scalaires, 15 produit, 15 quotient, 34 rductive, 86 rsoluble, 35 semi-simple, 36 simple, 36 de quaternions de Hamilton, 11 alterne, 102 angle, 167 dAlexandrov, 226 de comparaison, 226 antidrivation, 126 appartement, 292 application canonique, 73 conforme, 245 naturelle, 245 dvaluation, 110 de rang constant, 5 direction, 287 exponentielle, 51, 149, 164 homotope, 120 isomtrique, 154 orbitale, 73 ouverte, 73 propre, 91 transverse, 6 astuce unitaire de Weyl, 26 asymptote, 234, 289 atlas de cartes feuilletes, 56 automorphisme dalgbres de Lie, 14 intrieur, 43 dun systme de racines, 28 de revtements, 61 de groupes de Lie, 8 base, 90 dun systme de racines, 30 de Chevalley, 274 bord linni, 234 carte exponentielle, 149, 178 CAT(), 226 catgorie des algbres de Lie, 14 des brs vectoriels, 96 des brations, 90 des g-modules, 24 des groupes de Lie, 8 des revtements, 61 centralisateur, 35 centre, 63 dune algbre de Lie, 16 dune horoboule, 242 dune horosphre, 242 chambre dun immeuble, 293 de Weyl, 270 linni, 290 dun espace symtrique, 285 vectorielle, 30 champ de p-plans, 56 de Jacobi, 150, 200 orthogonal, 200 tangent, 200 de Killing, 170 de vecteurs godsique, 172 invariant droite, 19 invariant gauche, 19 le long dune courbe, 117 parallle, 146, 147 chemin godsique par morceaux, 239 cocycle de Busemann, 241 coecient de Christoel, 138 commutant, 35

301

compactication gomtrique, 236 complet, 50 complexe euclidien par morceaux, 239 hyperbolique par morceaux, 239 polydral, 239 polygonal, 239 simplicial sphrique, 291 sphrique par morceaux, 239 composante neutre, 9 composition, 90 conjugaison, 10, 277 conjugu, 11 connexe, 61 connexion, 133 ane, 133 compatible, 164 complte, 149 de Levi-Civita, 164 image rciproque, 136 linaire, 133 produit, 133 restreinte, 137 sans torsion, 140 triviale, 133 contractile, 121 contraction des tenseurs, 112, 132 convexe, 230, 291 coracine, 28 ct, 225 courbe C1 par morceaux, 176 de Menger, 240 de von Koch, 179 horizontale, 147 lisse par morceaux, 146 minimisant lnergie, 178 localement, 178 minimisante, 177 localement, 177 courbure, 164 dune connexion, 141 de Gauss, 218 de Ricci, 196 moyenne, 221 constante, 221 principale, 218 scalaire, 197 sectionnelle, 195 ngative pince, 196 pince, 196 critre de semi-simplicit de Cartan, 36

de rsolubilit de Cartan, 37 crochet de Lie, 14 de champs de vecteurs, 18 drivation covariante, 133 dcomposition dIwasawa, 289 de Jordan, 37, 42 de Cartan, 257, 267 en espaces de racine restreinte, 268 en espaces de racine, 47 polaire, 13 demi-hyperbolode suprieur, 83 densit, 155 locale, 155 drivation, 124 dalgbres de Lie, 15 intrieure, 15 drive, 35 de Lie, 129 dterminant de Dieudonn, 11 dveloppable, 218 diagramme de Dynkin, 32 abstrait, 33 direntielle, 113 extrieure, 126 associ une connexion, 141 distance angulaire, 248 conformment quivalente, 245 de Tits, 248 de longueur, 179 induite, 179 de Tits, 293 des mots, 297 polydrale, 239 propre, 189 riemannienne, 177 visuelle, 245 lment daire, 158 endomorphisme nilpotent, 37 semi-simple, 37 nergie, 176 enveloppe convexe, 238, 291 picentre, 232 quation de Codazzi-Mainardi, 215 de Gauss, 215 de Ricci, 215 fondamentales des sous-varits, 214

302

espace CAT(), 226 de longueur, 179 de modules de tores plats, 162 de poids gnralis, 43 de racine, 47 restreinte, 267 de Teichmller, 295 homogne quotient, 75 localement CAT(), 228 symtrique, 266 modulaire, 295 symtrique, 253 de type non compact, 265 topologique contractile, 121 paracompact, 5 total, 90 face, 238, 291 propre, 291 facteur de conformalit, 158 de de Rham, 260 euclidien, 260 feuille, 56 instable forte, 243 locale, 56 stable forte, 243 feuilletage, 56 intgrant, 57 bration, 90 grassmannienne, 99 projective, 99 triviale, 91 trivialisable, 91 bre, 60, 90 br cotangent, 110 des repres, 108 des k-plans, 99 horizontal, 139 localement trivial, 90 normal, 212 principal, 74 unitaire tangent, 172 vectoriel, 95 complexe, 95 complexi, 119 de rang n, 95 des applications multilinaires, 109

des formes bilinaires, 111 des tenseurs, 111 des m-formes direntielles, 113 des formes direntielles, 113 dual, 110 image rciproque, 116 plat, 98 produit cartsien, 118 produit tensoriel, 110 projecti, 99 puissance extrieure, 113 puissance symtrique, 112 puissance tensorielle, 110 quotient, 100 rel, 95 restriction, 117 somme directe, 108 somme de Whitney, 108 stablement trivialisable, 123 tautologique, 97 tensoriel (s, t), 110 trivial, 96 trivialisable, 96 vertical, 138 ot dAnosov, 244 godsique, 171 fonction angle, 167 de Busemann, 241 forme compacte, 273 daire, 158 de Killing, 16 direntielle, 113 valeurs dans un br vectoriel, 115 fondamentale premire, 156 seconde, 213 multilinaire alterne, 102 antisymtrique, 102 symtrique, 102 relle, 273 formule de Cartan, 126, 130 de Gauss, 214 de Weingarten, 214 galoisien, 61 godsique, 148, 171, 224 asymptotes, 234 de type

303

espace, 171 lumire, 171 temps, 171 droite, 225 locale, 224 rayon, 225 segment, 225 godsiquement complte, 189 gradient, 165 graphe dincidence, 293 groupe classique, 11 dholonomie, 147 restreinte, 147 de jauge, 136 de Lie, 7 ablien, 85 complexe, 7 discret, 9 local, 65 quotient, 62 rel, 7 de Weyl, 28, 270 dun espace symtrique, 285 des automorphismes dun revtement, 61 des isomtries, 155 fondamental, 61 linaire, 10 spcial, 12 orthogonal, 12 spcial, 12 structural, 74 symplectique, 12 topologique, 12 sans petit sous-groupe, 13 unitaire, 12 spcial, 12 unitaire quaternionien, 12 groupuscule de Lie, 65 holonomie, 147 horoboule, 242 ouverte, 242 horosphre, 242 hyperplan, 220, 238 idal, 34 engendr par une partie, 34 identit de Bianchi direntielle, 142 premire, 193 de Jacobi, 14

image directe des champs de vecteurs, 18 rciproque dun br vectoriel, 116 dun tenseur, 111, 143 dune connexion, 136 dune forme direntielle, 117 des champs de vecteurs, 18 immersion, 5 de groupes de Lie, 8 isomtrique, 154 immeuble hyperbolique de Bourdon, 240 sphrique, 292 intgrable, 57 intgrer, 23 intrieur, 238 inversion, 160 involution de Cartan, 255, 267 irrductible, 263 isomtrie, 155 locale, 191 isomorphe, 8, 14, 28, 61, 90 isomorphisme dalgbres de Lie, 14 de g-modules, 24 de revtements, 61 de groupes de Lie, 62 de brations, 90 de groupes de Lie, 8 de systmes de racines, 28 local de groupes de Lie, 65 remarquable, 72 joint sphrique, 291 L(S), 18 lemme de Gauss, 180 localement ferme, 5 isomorphes, 65 longueur, 176, 239 dun chemin continu, 178 magma libre, 18 matrice dune mtrique pseudo-riemannienne, 168 de Cartan, 31 abstraite, 32 mesure de Haar, 161 riemannienne, 156 mtrique pseudo-hermitienne, 119

304

pseudo-euclidienne, 119 euclidienne, 119 hermitienne, 119 hyperbolique sur Bn , 159 n sur H+ , 157 n sur R+ , 159 lorentzienne, 154 pseudo-riemannienne, 154 bi-invariante, 160 invariante, 155 invariante gauche, 160 produit, 161 restriction, 156 riemannienne, 154 sphrique standard, 157 minimale, 221 modle de la boule, 159 du demi-hyperbolode suprieur, 157 du demi-espace suprieur, 159 module, 24 irrductible, 24 simple, 24 morphisme au-dessus de lidentit, 90 canonique, 18 dalgbres de Lie, 14 de g-modules, 24 de bration, 90 de revtements, 61 de brs vectoriels, 96 au-dessus de lidentit, 96 de groupes de Lie, 8 identit, 90 local de groupes de Lie, 65 sur la base, 90 nilespace, 46 nilpotent, 37 normalisateur, 35 norme, 11 noyau, 100 ombilic, 221 oprateur de Weingarten, 213 de courbure, 195 ordre de nilpotence, 35 de rsolubilit, 35 ouvert distingu, 90, 95 paracompact, 5

paramtrage, 176 paramtr vitesse constante, 171 par longueur darc, 178 proportionnellement la longueur darc, 178 partie gnratrice, 34 partition de lunit, 5 pavage de Coxeter, 292 primtre, 225 plat, 285 maximal, 285 plongement, 5 de groupes de Lie, 8 poids, 43 point, 225 linni, 234 conjugu, 151 correspondant, 225 polydre convexe, 238 prsentation dalgbre de Lie, 34 produit extrieur, 103, 114, 115, 132 intrieur, 106, 129 tensoriel, 101 produit scalaire dual, 120 produit tensoriel, 120 projection, 231 dun br vectoriel, 95 strographique, 160 hyperbolique, 159 puissance extrieure, 102 symtrique, 102 tensorielle, 101 quasi-inverse, 297 quasi-isomtrie, 297 racine dune algbre de Lie, 47 indcomposable, 30 indivisible, 28 ngative, 30 positive, 30 restreinte, 267 simple, 30 radical rsoluble, 36 rang, 43, 267, 296 dun br vectoriel, 95 dun systme de racines, 28 rel, 267

305

rayon dinjectivit, 178 local, 178 rectiable, 179 rgle, 218 rgulier, 46, 270 relations de Serre, 50 relvement, 62 reparamtrage, 179 reprsentation adjointe, 16, 19 dalgbre de Lie, 15 disotropie, 175 de groupe de Lie, 10 rseau, 162, 294 cocompact, 294 irrductible, 294 uniforme, 294 revtement, 60 k feuillets, 60 de groupes de Lie, 62 galoisien, 61 pseudo-riemannien, 161 riemannien, 161 universel, 61 de groupes de Lie, 64 S(n), 102 section, 90 locale, 6 parallle, 135 semi-simple, 37 simplement connexe, 61 simplexe, 291 sphrique, 291 sl2 -triplet, 24 sommet, 225, 286, 291 sous-algbre de Cartan, 40 dploye, 40 de Lie, 14 sous-ensemble algbrique rel, 13 sous-espace de Cartan, 267 sous-br vectoriel, 99 sous-groupe un paramtre, 53 auto-adjoint, 13 central, 63 disotropie, 175 de Lie, 9 immerg, 9 plong, 8 sous-module, 24

sous-varit minimale, 221 pseudo-riemannienne, 156 riemannienne, 156 totalement godsique, 219 stabilisateur, 73 structure conforme, 245 subimmersion, 5 submersion, 5 riemannienne, 162 suite centrale descendante, 35 drive, 35 exacte de brs vectoriels, 100 surface dveloppable, 218 rgle, 218 symbole de Christoel, 138 de Kronecker, 168 systme de Coxeter, 31 de racines, 27 irrductible, 27 oppos, 28 rductible, 27 rduit, 27 tenseur, 111 de Christoel, 138 de courbure de Riemann, 164 pur, 101 thorme dAdo, 68 dEhresmann, 91 dEngel, 37 de Bishop-Cheeger-Gromov, 212 de Cartan, 58 de Cartan-Hadamard, 207, 232 de comparaison de Rauch, 207 de dcomposition de de Rham, 260 de Frobenius, 57 de Gleason, 13 de Hopf-Rinow, 189 de Montgomery-Zippin, 13 de Myers, 175, 209 de plongement de Nash, 157 de rigidit de Mostow, 294 de Schur, 199 de Tits, 299 de transversalit, 6 du point xe de Cartan, 232

306

du relvement, 62 topologie compacte-ouverte, 174 des cnes, 236 induite, 9 intrinsque, 9 quotient, 73 tore de rvolution, 162 plat, 162 torseur, 74 torsion, 140 totalement godsique, 219 ombilique, 221 trace, 110 transport parallle, 146 transvection, 257 transverse, 6 triangle de comparaison, 225 godsique, 225 trivialisation locale, 60, 90, 95 variation, 201 par des godsiques, 201 varit dEinstein, 196 de courbure de Ricci constante, 196 de Hadamard, 234 homogne, 74 lorentzienne, 154 paralllisable, 97 pseudo-riemannienne, 154 conforme, 158 homogne, 155 produit, 161 quotient, 161 quotient, 79 riemannienne, 154 hyperbolique, 206 irrductible, 260 plate, 205 produit, 161 quotient, 161 vecteur courbure moyenne, 221 rgulier, 285 singulier, 285 variation, 201 voisinage distingu, 60, 90, 95 volume riemannien, 156

307

Rfrences
[Ati] [Bal] [BCG] [Bea] [Ben] [Ber] [Bes1] [Bes2] [BGS] [BH] [BI] [Bol] [Bou1] [Bou2] [Bou3] [Bou4] [Bou5] [Bou6] [BP] [Bro] [BS] [Bus] [CDP] M. Atiyah. K-theory. Adv. Book Classic, Westview Press, 1994. W. Ballmann. Nonpositively curved manifolds of higher rank. Ann. of Math. 122 (1985) 597609. G. Besson, G. Courtois, and S. Gallot. Minimal entropy and Mostows rigidity theorems. Erg. Theo. Dyn. Syst. 16 (1996) 623649. A. F. Beardon. The geometry of discrete groups. Grad. Texts Math. 91, Springer-Verlag, 1983. N. Benakli. Polydres hyperboliques, passage du local au global. Thse, Universit ParisSud 11, 1992. M. Berger. Gomtrie. Cedic/Fernand Nathan, 1977. A. Besse. Einstein manifolds. Springer Verlag, (ed. 2008 Classics in Math.), 1987. M. Bestvina. R-trees in topology, geometry, and group theory. Handbook of Geometric Topology, 5591, North-Holland, 2002. W. Ballmann, M. Gromov, and V. Schroeder. Manifolds of nonpositive curvature. Progress in Math. 61, Birkhuser 1985. M. R. Bridson and A. Haeiger. Metric spaces of non-positive curvature. Grund. math. Wiss. 319, Springer Verlag, 1999. M. Burger and A. Iozzi. Rigidity in dynamics and geometry. eds. (Cambridge, 2000), Springer Verlag, 2002. J. Bolyai. Scientiam spatii absolute veram exhibens. Appendix, 1832. N. Bourbaki. Groupes et algbres de Lie : chap. 1. Hermann, 1972. N. Bourbaki. Groupes et algbres de Lie : chap. 2 et 3. Hermann, 1972. N. Bourbaki. Groupes et algbres de Lie : chap. 4, 5 et 6. Masson, 1981. N. Bourbaki. Groupes et algbres de Lie : chap. 7 et 8. Hermann, 1975. M. Bourdon. Immeubles hyperboliques, dimension conforme et rigidit de Mostow. Geom. Func. anal. 7 (1997) 245268. M. Bourdon. Structure conforme au bord et ot godsique dun CAT(1) espace. LEns. Math. 41 (1995) 63102. R. Benedetti and C. Petronio. Lectures on hyperblic geometry. Springer-Verlag, 1992. K. Brown. Buildings. Springer Verlag, 1989. K. Burns and R. Spatzier. Manifolds of nonpositive curvature and their buildings. Publ. Math. IHS 65 (1987) 3559. P. Buser. Geometry and spectra of compact Riemann surfaces. Prog. Math. 106, Birkhuser, 1992. G. Courtois, F. DalBo, and F. Paulin. Sur la dynamique des groupes de matrices et applications arithmtiques. Journes X-UPS 2007, N. Berline, A. Plagne, C. Sabbagh eds., Ed. Ecole Polytechnique, 2007. D. Cohn. Measure theory. Birkhuser, 1980. J. Dieudonn. lments danalyse t. 3 : chap. XVI et XVII. Gauthier-Villars, 2nd ed, 1974. J. Dieudonn. lments danalyse t. 4 : chap. XVIII XX. Gauthier-Villars, 1971. J. Dieudonn. La gomtrie des groupes classiques. Erg. Math. Grenz., Springer Verlag, 1971. P. de la Harpe. An invitation to Coxeter groups. in Group theory from a geometrical viewpoint (E. Ghys, A. Haeiger, A. Verjovsky eds.), 193253, World Scientic, 1991.

[Coh] [Die1] [Die2] [Die3] [dlH]

308

[Ebe1] [Ebe2] [Ehr]

P. Eberlein. Geometry of nonpositively curved manifolds. Chicago Lect. in Math., Chicago Univ. Press, 1996. P. Eberlein. Rigidity of lattices of nonpositive curvature. Erg. Theo. Dyn. Syst. 3 (1983) 47-85. C. Ehresmann. Les connexions innitsimales dans un espace br direntiable. Sminaire N. Bourbaki. 1948-1951, Exp. 24, 153156.

[ELMV] M. Einsiedler, E. Lindenstrauss, P. Michel, and A. Venkatesh. Distribution of periodic torus orbits on homogeneous spaces. Duke Math. J. 148 (2009) 119174. [FLP] [FM] [GHL] [God1] [God2] [Gol] [GP] A. Fathi, F. Laudenbach, and V. Poenaru. Travaux de Thurston sur les surfaces. Astrisque 66-67, Soc. Math. France 1979. B. Farb and D. Margalit. A primer on mapping class groups. Princeton Math. Ser., Princeton Univ. Press, 2012. S. Gallot, D. Hulin, and J. Lafontaine. Riemannian geometry. Springer Verlag, 1990. C. Godbillon. lments de topologie algbrique. Hermann, 1971. R. Godement. Introduction la thorie des groupes de Lie, I et II. Pub. Math. Universit Paris VII 011, 1982. W. M. Goldman. Complex hyperbolic geometry. Oxford Univ. Press, 1999. M. Gromov and P. Pansu. Rigidity of lattices : an introduction. in Geometric topology : recent developments, Montecatini Terme, 1990, eds. de Bartolomeis, F. Tricerri, Lect. Notes 1504, Springer Verlag, 1987. M. Gromov. Metric structures for Riemannian and non-Riemannian spaces. Prog. Math. 152, Birkhuser, 1999. M. Gromov. Structures mtriques pour les varits riemanniennes. crit avec J. Lafontaine et P. Pansu, Cedic/Fernand Nathan, Paris, 1981. S. Helgason. Dierential geometry, Lie groups and symmetric spaces. Academic Press, 1978. J. E. Humphreys. Reection groups and Coxeter groups. Cambridge Univ. Press, 1990. D. Husemoller. Fiber bundles. 2nd ed., Springer Verlag, 1975. M. Karoubi. K-theory : an introduction. Classics in Math., Springer Verlag, 2008. A. Katok and B. Hasselblatt. Introduction to the modern theory of dynamical systems. Ency. Math. App. 54, Camb. Univ. Press, 1995. A. W. Knapp. Lie groups beyond an introduction. Prog. Math. 140, 2nd ed., Birkhaser, 2005. J. Lafontaine. Introduction aux varits direntielles. Press. Univ. Grenoble, 1996. S. Lie. Gesammelte Abhandlungen 5-6. F. Engel, P. Heegard eds, Teubner, 1924-1927. J. Milnor. Morse theory. Ann. Math. Stud. 51, Princeton Univ. Press, 5th ed., 1973. J. Morgan. -trees and their applications. Bull. A.M.S. 26 (1992) 87112. G. D. Mostow. Quasi-conformal mappings in n-space and the rigidity of hyperbolic space forms. Pub. Math. IHS 34 (1968) 53104. G. D. Mostow. Strong rigidity of locally symetric spaces. Ann. Math. Studies 78, Princeton Univ. Press, 1973. G. Margulis and G. Tomanov. Invariant measures for actions of unipotent groups over local elds on homogeneous spaces. Invent. Math. 116 (1994) 347392. N. Mneimn and F. Testard. Introduction la thorie des groupes de Lie classiques. Hermann, 1986.

[Gro1] [Gro2] [Hel] [Hum] [Hus] [Kar] [KH] [Kna] [Laf] [Lie] [Mil] [Mor] [Mos1] [Mos2] [MT1] [MT2]

309

[MZ] [Nas] [OP]

D. Montgomery and L. Zippin. Topological transformation groups. Huntington NY Robert E. Krieger, 1974. J. Nash. The imbedding problem for Riemannian manifolds. Ann. of Mat. 63 (1956) 2063. B. Oberknapp and K. Polthier. An algorithm for discrete constant mean curvature surfaces. dans Visualization and mathematics (Berlin-Dahlem, 1995), 141161, Springer, 1997. P. Pansu. Sous-groupes discrets des groupes de Lie : rigidit, arithmticit. Sm. Bourbaki 1993/94 n 778, Astrisque 227, Soc. Math. France (1995), 69105. J. Parker. Hyperbolic spaces : The 2007 Jyvskyl notes. http ://maths.dur.ac.uk/ dma0jrp/img/HSjyvaskyla.pdf . F. Paulin. Action de groupes sur les arbres. Sminaire Bourbaki, Vol. 1995-96, expos 808, Astrisque 241, Soc. Math. France 1997. F. Paulin. Gomtrie direntielle lmentaire. Notes de cours de premire anne de mastre, Ecole Normale Suprieure, 2007, voir http ://www.math.u-psud.fr/paulin/ notescours/cours_geodi.pdf . F. Paulin. Topologie algbrique lmentaire. Notes de cours de premire anne de mastre, Ecole Normale Suprieure, 2010, voir http ://www.math.u-psud.fr/paulin/notescours/ cours_topoalg.pdf . F. Paulin. Topologie, analyse, calcul direntiel. Notes de cours de troisime anne de licence, Ecole Normale Suprieure, 2009, voir http ://www.math.u-psud.fr/paulin/ notescours/cours_analyseI.pdf . P. Petersen. Riemannian geometry. Grad. Texts Math. bf 171, Springer Verlag, 1998. G. Prasad. Strong rigidity of Q-rank 1 lattices. Invent. Math. 21 (1973) 255286. M. Ronan. Lectures on buildings. Persp. Math. 7, Academic Press, 1989. J.-P. Serre. Algbres de Lie semi-simples complexes. W.A. Benjamin, 1966. J.-P. Serre. Cours darithmetique. Press. Univ. France, Paris, 1970. J.-P. Serre. Lie algebras and Lie groups. Lect. Notes Math. 1500, Springer-Verlag 1992. P. Shalen. Dendrology and its applications. in "Group theory from a geometrical viewpoint" (Trieste, 1990), 543616, World Sci. Publ. 1991. P. Shalen. Dendrology of groups : an introduction. in "Essays in group theory", 265319, Math. Sci. Res. Inst. Publ. 8, Springer Verlag, 1987. E. Spanier. Algebraic topology. Tata McGraw-Hill, 1981. M. Spivak. A comprehensive introduction to dierential geometry. 2nd ed., Publish or Perish, 1979. A. Weil. Lintgration dans les groupes topologiques et ses applications. Hermann, 1965.

[Pan] [Par] [Pau1] [Pau2]

[Pau3]

[Pau4]

[Pet] [Pra] [Ron] [Ser1] [Ser2] [Ser3] [Sha1] [Sha2] [Spa] [Spi] [Wei]

Dpartement de mathmatique, UMR 8628 CNRS, Bt. 425 Universit Paris-Sud 11, 91405 ORSAY Cedex, FRANCE e-mail : frederic.paulin@math.u-psud.fr

310