ltt O Constantes de Kazhdan et rayons spectraux de marches aléatoires Thèse présentée à la faculté des sciences pour l'obtention du grade de docteur es sciences, par Pierre-Alain Cherix UNIVERSITE DE NEUCHATEL Institut de mathématiques Rue E. Argand 13 2007 NEUCHATEL (Suisse) IMPRIMATUR POUR LA THÈSE Constantes de Kazhdan et rayons spectraux de marches aléatoires de M. Pierre-Alain Chérix UNIVERSITÉ DE NEUCHÂTEL FACULTÉ DES SCIENCES La Faculté des sciences de l'Université de Neuchâtel sur le rapport des membres du jury, Messieurs A. Valette, F. Sigrist, P. Jolissaint, P. de la Harpe (Genève) et M. B. Bekka (Metz) autorise l'impression de la présente thèse. Neuchâtel, le 13 juin 1996 Le doyen: 72. 12)^.l«M'i n^ R. Dändliker Remerciements Je suis heureux de savoir qu'avant d'être mon directeur de thèse, Alain Valette est mon ami et je le remercie de la confiance qu'il m'a accordée. La disponibilité, la patience et la gentillesse qu'il manifestait chaque fois que je m'adressais à lui, les conseils, les indications et la clarté des explications qu'il me prodiguait; tout cela est pour beaucoup dans l'aboutissement de ce travail. Je tiens à l'en remercier du fond du coeur. Ma gratitude s'adresse aussi àMohammed Bekka, Pierre de la Harpe, Paul Jolissaint et François Sigrist. Chacun d'eux m'a prodigué des conseils judicieux et des suggestions avisées et a accepté de faire partie de mon jury; ce qui implique un travail non négligeable. Merci à chacun d'eux d'avoir fait cet effort. Je remercie également Christophe Champetier avec lequel j'ai pu colla- borer efficacement. Je veux remercier ici les membres de l'institut de mathématiques de l'Université de Neuchâtel pour l'harmonie qui y règne. Pendant mes années passées dans cet endroit, j'y ai été heureux. La disponibilité et la gentillesse de chacun m'ont permis d'avoir des discussions mathématiques (et autres) très enrichissantes. Je remercie aussi mes parents pour leur amour et leur soutien durant mes études, ainsi que ma fiancée qui m'a soutenu dans les périodes difficiles de la rédaction. Mais avant tout, je me dois de louer celui qui m'a donné la vie en abon- dance, Jésus-Christ. Grâce à lui, j'ai une espérance et une foi qui me per- mettent de vivre heureux. Table des matières Introduction 3 1 Préliminaires 7 1.1 La propriété (T) de Kazhdan .................. 7 1.2 Les groupes de Lie........................ 9 1.3 Cohomologie et représentations................. 11 1.4 Un peu de théorie des graphes.................. 13 1.5 Lès groupes Animent engendrés................. 15 1.5.1 Les groupes à un relateur ................ 18 1.6 Les diagrammes et la petite simplification ........... 19 1.7 Les propriétés génériques..................... 21 2 Propriété (T) et constantes de Kazhdan 23 2.1 L'intérêt des constantes de Kazhdan................ 23 2.2 Calculs de constantes de Kazhdan................ 24 2.2.1 Premiers exemples...........'.......... 24 2.2.2 Les produits semi-directs................. 25 2.2.3 Les groupes diédraux................... 29 2.2.4 Le groupe 0(2)...................... 32 2.3 Les constantes /2......................... 34 2.3.1 Définition et premières propriétés............ 34 2.3.2 Le groupe multiplicatif des quaternions......... 38 3 Constantes L7 45 3.1 Définitions............................... 45 3.2 Caractérisation spectrale....................... 49 3.3 Comparaison avec les constantes classiques........... 55 4 Cohomologie des groupes et propriété (T) 57 4.1 Le problème de Gromov..................... 57 4.2 Quelques propriétés de Hx(T,it)................. 60 1 2 TABLE DES MATIÈRES 5 Les opérateurs d'adjacence... 67 5.1 Estimations de rayons spectraux................. 67 5.2 Estimations de normes opérateurs ....._........... 74 5.3 Les groupes de surfaces...................... 77 6 Les résultats génériques 79 6.1 Le cas des groupes à un relateur........ ....... 79 6.2 Le cas des groupes de présentation finie............. 81 Perspectives 91 Introduction La notion de groupe est omniprésente dans les mathématiques contempo- raines. Depuis F. Klein, on s'est rendu compte que la structure de certains objets était en partie contenue dans leur groupe d'automorphismes. L'étude du groupe des automorphismes d'un objet s'est ainsi substituée à l'étude de l'objet lui-même. L'étude des groupes dans divers contextes a donc été un sujet crucial depuis le milieu du 19e siècle. Dans le cas des groupes Animent engendrés, on sait depuis Cayley et Dehn qu'on peut "visualiser" de tels groupes en leurs associant des graphes, les graphes de Cayley. Un graphe de Cayley dépend de la donnée d'un système fini de générateurs du groupe. Comme des groupes non isomorphes peuvent avoir des graphes de Cayley isomorphes, il est naturel de se demander quelle information sur le groupe on peut récupérer à partir de la donnée d'un graphe de Cayley. Kesten ([35], [34]) a attaqué ce problème à la fin des années cinquante par des techniques probabilistes. Il a montré que le comportement des marches aléatoires simples sur le graphe de Cayley permet de détecter la moyenna- bilité du groupe, ou bien le fait que le groupe est librement engendré par le système de générateurs choisi. D'autre part, la présence d'une structure de groupe sous-jacente au graphe de Cayley a permis de résoudre des problèmes en théorie des graphes. Ainsi, Margulis [40] a été le premier à décrire explicitement une famille d'expanseurs en employant des groupes ayant la propriété (T) de Kazhdan. Il se fait que les propriétés groupales mentionnées ci-dessus (moyennabi- lité, liberté, propriété (T)) sont liées au spectre d'un opérateur, ou parfois à la présence d'un trou dans ce spectre. Cet opérateur est soit l'opérateur de transition h associé à une marche aléatoire symétrique sur le graphe de Cayley, soit le laplacien combinatoire A sur ce même graphe. Ainsi, le ré- sultat de Kesten auquel il est fait allusion ci-dessus affirme qu'un groupe T de type fini est infini et moyennable si et seulement si 1 n'est pas isolé dans le spectre de h dans la représentation régulière gauche de T. ', De même, le groupe r n'a pas la propriété (T) si et seulement si 1 n'est pas isolé dans la représentation universelle de V (voir [17]). C'est autour de ce !'trou spectral" 3 4 TABLE DES MATIÈRES que cette thèse s'est développée. Ce travail contient essentiellement deux directions de recherche. La pre- mière concerne la propriété (T). La seconde, le calcul de spectres d'opérateurs de transition sur les groupes à un relateur ainsi que des résultats génériques sur les rayons spectraux de certains opérateurs de transition sur les groupes de présentation finie. Les deuxième, troisième et quatrième chapitres sont consacrés à plusieurs aspects de la propriété (T). Dans le chapitre deux, l'intérêt est porté sur les constantes de Kazhdan qui mesurent la "distance" entre la représentation triviale et le reste du dual d'un groupe, ou encore l'amplitude du trou spectral à la gauche de 1 dans le spectre de h dans la représentation universelle de T. Il est en général difficile de calculer ces constantes de Kazhdan pour un groupe donné (même fini) et un système de générateurs fixé. On montre comment, dans le cas de certains produits semi-directs, on peut calculer là constante de Kazhdan du produit semi-direct H » N en fonction des constantes de H et de N (proposition 2.2.4) et on donne des exemples de constantes de Kazhdan (en particulier pour les groupes diédraux). Ces calculs ont fait l'objet de la publication [14]. Dans ce même chapitre, on introduit une autre constante, la constante l2, qui permet, pour les groupes finiment engendrés, de donner des bornes inférieures et supérieures à la constante de Kazhdan et qui est calculable à l'aide des représentations irréductibles uniquement. Dans le chapitre 3, le même type d'idées amène à une définition spectrale de la propriété (T) pour les groupes de Lie connexes. Ce chapitre est essen- tiellement consacré à la preuve du résultat suivant : soit G un groupe de Lie connexe, et soit {X(} une base de son algèbre de Lie; le groupe a la pro- priété (T) si et seulement s'il existe t > 0 tel que, pour toute représentation unitaire ¦k de G, le trou spectral à droite de 0 de l'opérateur infinitésimal h* est d'amplitude au moins e; ici /î„ correspond à la fermeture du lapla- cien dn(— £V X?). Ce résultat, qui répond positivement à une question de Y. Colin de Verdière, permet la définition des constantes de Kazhdan-L2 pour un groupe de Lie connexe. Le chapitre 4 a été motivé par la définition cohomologique de la propriété (T), en termes de l'annulation de la 1-cohomologie à valeurs dans n'importe quelle représentation unitaire. (L'annulation de cohomologie est une pro- priété de trou spectral puisqu'elle peut se traduire par l'inversibilité d'un laplacien, cf. la théorie de Hodge). On s'intéresse donc à l'annulation du H1 pour certains groupes et certaines représentations. Le résultat le plus mar- quant répond à une question de M. Gromov dans [29] : un groupe moyennable possède toujours un 1-cocycle propre par rapport à une représentation con- venable ("propre" signifie que l'image inverse d'une partie bornée de l'espace de Hilbert de la représentation est une partie finie du groupe). Ce résultat, TABLE DES MATIÈRES 5 obtenu en commun avec M.E,B. Bekka et A. Valette, a été publié dans [6]; selon M. Gromov, il pourrait servir à démontrer la conjecture'de Novikov sur l'invariance homotopique des hautes signatures pour les variétés à groupe fondamental moyennable. Dans le chapitre 5, on aborde la deuxième direction de recherche : le calcul du spectre dé certains opérateurs d'adjacence sur les groupes à un relateur. ì Au départ, il s'agissait de répondre à la question de P. Sarnak : pour les groupes de surface T9 avec leur présentation standard , 9 = , ' t=i quel est le spectre de l'opérateur de transition hs sur le graphe de Cayley de rs par rapport à S = {afl,bf\- ¦ ¦ ,0*1,¾=1}? Cette question a été à l'origine du chapitre 5. . Si r est un groupe engendré par une partie finie X, on peut considérer l'opérateur hx de transition sur le graphe de Cayley orienté de T par rapport à X, ainsi que l'opérateur hs de transition sur le graphe deCayley usuel de r par rapport à S = X U X'1. L'opérateur hs est auto-adjoint, l'opérateur hx ne l'est en général pas. Si on note r(hx) lé rayon spectral de /ix,ona les inégalités : , , r(M 2, on a les fc-*oo inégalités : < *(X) < r(hx) VWX avec j\„ = c{X) si et seulement si X engendre un semi-groupe libre, et . Nous partons d'une remarque : le fait que X engendre un semi-groupe libre dans < X, r > implique une condition d'alternance de signes sur la relation r; nous disons alors que r alterne suffisamment. Nous donnons la réciproque suivante : si le groupe à un relateur est à petite simplification C(A) avec A < 1/6 et si r alterne suffisamment alors X engendre un semi-groupe libre dans < X, r >. Dans ce cas, r(hx) = -4y. 6 TABLE DES MATIÈRES De plus, si r est dans les sous-groupes Hr et Hi du groupe libre JF^ engendrés par les éléments de la forme xy~l (resp. x~ly) avec x,y dans X, alors r{hx) = -/Sx= (vo'r proposition 5.1.9). Dans le cas où r n'appartient pas à Hr U ff/, on obtient || hx ||= fy""1- Ceci permet de donner une réponse partielle mais pas optimale à la question de P. Sarnak : pour le groupe de surface T5 comme ci-dessus, le spectre de hs est un intervalle symétrique [—rg,rg] avec rg < y/2g — 1 /g. En dernier lieu, le chapitre 6 est consacré aux propriétés génériques des groupes de présentation finie. Il s'agit de résultats statistiques permettant de dire si une propriété de groupe est fréquente ou non. Plus précisément, on dit qu'une propriété est générique si le rapport entre le nombre de présentations à k générateurs et n relations ayant cette propriété et le nombre total de présentations à fc générateurs et n relations tend vers 1 quand on fait tendre la longueur de toutes les relations vers l'infini (voir la définition 1.7.1). Dans [15], nous démontrons que pour les groupes à un relateur, le fait que X engendre un semi-groupe libre dans < X, r > est une propriété générique pour les groupes à un relateur (voir la proposition 6.1.2). Ce qui permet de dire que le rayon spectral r(hx) vaut génériquement Av- Il suffit pour cela de voir que les conditions suffisantes données plus haut pour l'existence d'un semi-groupe libre engendré par X dans Y sont génériques. Finalement, nous avons pu montrer un résultat inattendu : "X engendre un semi-groupe libre dans < X, r >" reste une propriété générique dans le cas des groupes de présentations finies (proposition 6.2.2). Ce résultat a été publié dans [13]. Chapitre 1 Préliminaires Ce chapitre est conçu comme un recueil de résultats connus, cités sans preuve, qui vont être employés dans les chapitres suivants. Une lecture linéaire de ce chapitre n'est donc pas recommandée. Bien que la plupart des remarques faites dans cette section soient évidentes, elles permettent de fixer un certain nombre de notations et de conventions. 1.1 La propriété (T) de Kazhdan Soient G un groupe localement compact, que l'on suppose de plus à base dénombrable (i.e. métrisable, dénombrable à l'infini) et K une partie com- pacte engendrant G. Toutes les représentations n considérées sont des représen- tations unitaires fortement continues de G sur un espace de Hilbert complexe separable H1,. On note H] l'ensemble des vecteurs de longueur 1 dans H1,. Définition 1.1.1 1) Soient tv : G —> U(H*) une représentation et e > 0; un vecteur Ç 6 H\ est (e, /•Q-invariant si max{|| ir(g)( — ( || \g € K) < t. 2) n a presque des vecteurs invariants si, pour tout e > 0 et tout compact K de G, il existe un vecteur {t,K)-invariant. Définition 1.1.2 Un groupe localement compact G a la propriété (T) si toute représentation ayant presque des vecteurs invariants a un vecteur fixe non nul, Remarquons que si une représentation n de G a presque des vecteurs invariants, alors il existe une suite de vecteurs (£n)n>i dans H], telle que pour tout compact K Ae. G, max ||ir(s){„.-f„|| ^ 0. 7 8 CHAPITRE 1. PRÉLIMINAIRES En effet, il existe une suite emboîtée de parties compactes K de G telle que [JKi = G. Pour tout Ki il existe un vecteur f,- qui est (1/t, A",)-invariant. Pour un t fixé, comme les Ki sont emboités, on a max 11*^)6,-6.11 ^ 0. Comme la réunion des Ki recouvre tout G, pour tout K compact de G, il existe un N tel que K C Kn; on en déduit max \\*(g)tn-(n\\ ^ 0. On note • G, l'ensemble des classes d'équivalence de représentations unitaires de G sur des espaces de Hilbert séparables, • G', le sous-ensemble de G formé des représentations n'ayant pas de vecteur fixe non nul. • G, l'ensemble des classes d'équivalence de représentations unitaires ir- réductibles de G, • G", le complément dans G (de la classe) de la représentation triviale de dimension 1. Définition 1.1.3 Soit (n,Hr) une représentation de G et soit K une partie génératrice compacte de G. On définit la constante de Kazhdan k.(G,K,tt) associée à K et n comme suit : k(G, K, tt) = inf max Il n(s)Ç - H\ . Les constantes de Kazhdan de G associées à K sont définies par : k(G,K) = inf k(G, K, tt) et k(G,K) = inf k{G,K,it). Comme G' est contenu dans G', on a k(G, K) > k(G, K). Remarquons qu'il est toujours possible de trouver une représentation (ir,H,) sans point fixe non nul telle que k(G,K, w) — k(G,K). La défi- nition de k.(G, K) permet de choisir une suite de représentations (^n, Hn) telles que la suite k(G, K, 7Tn) tend vers k(G,K). Il est facile de voir que (©*«.© H") realise K(G, K). n>0 n>0 1.2. LESGROUPESDELIE 9 Proposition 1.1.4 Pour G un groupe localement compact et K une partie génératrice compacte de G, les énoncés suivants sont équivalents : 1. G ala propriété (T) 2. k(G, K) > 0 3. k(G, K) > 0 Une preuve de ce résultat est donnée dans [19]. 1.2 Les groupes de Lie Soient G un groupe de Lie connexe, g son algèbre de Lie et U(g) l'algèbre enveloppante de g (voir [25]), c.à.d. l'algèbre associative sur C ayant la propriété universelle suivante : Soient A une algèbre associative sur C (munie du crochet [X, Y] = XY — YX) et a une application linéaire de g dans A telle que a([X, Y]) = a(X)a(Y) - a(Y)a(X) pour tout X et Y dans g; alors il existe un unique homomorphisme d'algèbre a' de {/(g) dans A satisfaisant a' o a = a, où a est l'injection canonique de g dans (7(g). Définition 1.2.1 Soient (n,Hr) une représentation unitaire de G et deux vecteurs Ç et t] dans Hw, le coefficient de n relativement à Ç et r) est la fonction (p(tfl : G -¥ C donnée par j i->< fl"(ff)£17Z >• Définition 1.2.2 Soit (ir,Hr) une représentation unitaire de G. On définit l'espace des vecteurs C°° relativement à n comme l'ensemble des vecteurs £ tels que l'application g —? w(g)( est lisse de G dans E„. On note cet ensemble C-(H,). Un intérêt des vecteurs C°° est que l'on peut définir à partir de n une représen- tation de l'algèbre de Lie dn de g dans l'espace des opérateurs linéaires sur C°°(HT). Cette représentation se prolonge à i/(g) par propriété universelle. Les vecteurs C°° peuvent se caractériser comme suit : Lemme 1.2.3 Soit £ dans H„. Ç est un vecteur C°° si et seulement si pour tout r) dans Hn le coefficient ip(:V est C°°. Ce lemme découle du lemme suivant dû à Poulsen (lemme 1.2 dans [44]). Lemme 1.2.4 Soit I C Run intervalle ouvert et f une application de I dans le dual B' d'un espace de Banach B telle que la fonction t —>< x,f(t) > est de classe C2 pour tout x dans B, alors f est de classe C1 pour la topologie normique de B*. 10 CHAPITREl. PRÉLIMINAIRES Définition 1.2.5 Soit (tt,H,) une représentation unitaire de G. On définit l'espace de Gàrding de n comme le sous-espace de H1, engendré par l'ensemble {n{)i\^e Cf[G), i € H„} où 7r(<£)£ = fGt(g)Tc{g)tdg. L'intégration se fait relativement à la mesure de Haar invariante à gauche sur G. Dixmier et Malliavin ont montré (voir [26]) que l'espace de Gàrding de n et l'espace des vecteurs C°° coïncident. Notons h„ la fermeture de dir(h). Dans [32], Jorgensen montre le résultat suivant : Théorème 1.2.6 Soit n une représentation unitaire du groupe de Lie G, soient y], • • • ,yn des éléments arbitraires de g et z une combinaison linéaire des y,. Alors l'opérateur Ar(J^jLj Vi + z) cs' un opérateur essentiellement autoadjoint sur C°°(H„) (i.e. sa fermeture est autoadjointe). Citons pour terminer un théorème dû à Hille et Yosida. Théorème 1.2.7 Soient X un espace de Banach et A un opérateur linéaire non borné sur X. A est le générateur infinitésimal d'un semi-groupe forte- ment continu d'opérateurs bornés T(t) avec ||T(f)||< 1 pour tout t > 0, si et seulement si : a) A est fermé et D(A) est dense dans X. b) L'ensemble résolvant p(A) de A contient R+, et pour tout A > 0, l'in- verse R(X) de (A - Al) satisfait || A(A) ||< t- . A Pour une preuve de ce théorème ainsi que pour les définitions de semi- groupe fortement continu et de générateur infinitésimal d'un semi-groupe , nous renvoyons le lecteur à [43]. Lemme 1.2.8 Soit.A un opérateur linéaire sur un Hilbert H, auto-adjoint de domaine D(A) et défini-négatif; alors A est le générateur infinitésimal d'un semi-groupe fortement continu T(t) d'opérateurs bornés avec ||jT(/)||< 1. Preuve II s'agit d'appliquer le théorème de Hille-Yosida, donc de con- trôler les conditions a) et 6) décrites dans le théorème 1.2.7. Comme A est auto-adjoint, la condition a) est claire. De plus le fait que A soit défini- négatif implique que Sp(A) est contenu dans R-. Il s'agit donc de montrer pour tout A > 0 que R(X) = (Al- A)'1 satisfait Il A(A)* H< - Il x II pour tout x e H. 1.3. COHOMOLOGIE ET REPRÉSENTATIONS 11 Remarquons tout d'abord que pour tout y dans D(A), on a : If(I-£)vll> HvII- Pour cela, il suffit de remarquer que comme < Ay\y > < 0 et que A > 0, on a : - < jy\y > > o. On obtient donc la suite d'inégalités : ||y||2<<(I-j)y|y><||(I-j)y||||l/||. En simplifiant par ||y ||, on obtient l'inégalité voulue. Il suffit maintenant de conclure en remarquant que pour tout x dans H, on a : H Ä(A)x ||<|| (I- J)R(X)x \\= Ì II x ||. D 1.3 Cohomologie et représentations Nous rappelons ici la définition ainsi que quelques résultats concernant la cohomologie des groupes. Pour plus de détails, voir [30] ou [19]. Définition 1.3.1 Soit G un groupe topologique et (tt, Hk) une représentation unitaire de G. 1. Z'(G, 7r), l'ensemble des cocycles de G relativement à 7r, est l'ensemble des applications continues b : G —» H1, satisfaisant la relation b(gh) = b(g) + n(g)b(h)Vg,h £ G. S. B1(G,w), l'ensemble des cobords de G relativement à ir, est l'ensemble des applications f définies par f(g) = n(g)Ç — f pour tout £ fixé dans H«. Définition 1.3.2 Pour G un groupe et H un espace de Hilbert, une action isométrique affine a de G sur H est un homomorphisme de G dans le groupe Isom(H) des isométries affines de H. Une isométrie affine est la composée d'une isométrie (unitaire ou ortho- gonale) et d'une translation. 12 CHAPITREl. PRÉLIMINAIRES Si a est une action isométrique affine de G, on peut écrire a(g)Ç = n(g)Ç+ b(g) où n est une représentation unitaire (ou orthogonale) de G sur H et 6 un cocycle de G relativement à n. On appelle ir la partie linéaire de a et 6 la partie translation de a. Il est clair que b(g) = a(g)(0) pour tout g € G et que 6(e) = 0 pour tout beZ\G,ir). Remarquons aussi que, comme dans [19], G est un groupe localement compact qui est supposé à base dénombrable. Ceci permet de montrer que Z1(G,n) est un espace de Fréchet relativement à la famille de semi-normes vk définies par Vk(O) = max || b(g) || et indicées par les parties compactes K de G. Pour une preuve de ce fait, voir [19]. Remarquons aussi que BX(G, w) est contenu dans Zl(G, n). En effet, pour f dans HT, *W(-t = t(s)t(/iK-*(sK+ "(i une suite de représentations unitaires de G telles que Hl(G,Ttn) — 0 pour tout n > 1, alors B'(G, ©nMi'n) est dense dans Zl(G, ©n>i'rn) • 1.4. UN PEU DE THÉORIE DES GRAPHES t 13 ¦ i 1.4 Un peu de théorie des graphes Dans tout ce travail, un graphe sera toujours supposé sans boucle, ni arêtes multiples, de degré borné et non orienté. Chaque fois que l'on introduit une orientation, on parle de graphe orienté. '¦'' Pour un graphe G, on note G0 l'ensemble des sommets de G et G1 l'ensemble des arêtes de G (une arête étant donnée par une paire de sommets {ffiiffî})- On dit que deux sommets sont adjacents s'il existe une arête les reliant. Pour un sommet x dans G°, on note d[x) le nombre de sommets adjacents à x, et on appelle d(x) le degré de x . Si tous les sommets ont le même degré, on dit que le graphe est régulier. On définit aussi : • T[G0) = {/ : T0 -> Q, l'ensemble des fonctions allant de 1' espace des sommets du graphe dans C. On appelle souvent les fonctions sur les sommets d'un graphe "fonctions sur le graphe" et on note parfois par abus de langage T[G) pour T[G0). * • To[G0) = {/ (E T[G0) I / à support fini}. Cet ensemble est parfois noté T0[G). • l2[G°) = {/ € T[G0) I £l6Go |/(i)|2 < co}, l'ensemble des fonctions de carré sommable sur le graphe. P[G0) est aussi noté P[G). P[G) est un espace de Hilbert relativement au produit scalaire donné par < f,g >= ^2xeGo f[x)g[x). On identifie l'espace des sommets G0 à la base hilbertienne canonique S9 6 P[G0) définie par :. Sa[x) = < . . pour tout g dans G°. sv ' ^ 0 sinon Il est clair que T0[G0) C P[G0) C T[G0). Définition 1.4.1 Sur l'espace P[G), on définit un opérateur linéaire A ap- pelé opérateur d'adjàcence par sa valeur sur la base hilbertienne [S9)- On pose (AS9)[X) = { J si g est adjacent à x 0 sinon [Af)[X) = £ f[g) 9 adjacent à x Dans le cas des graphes finis, il s'agit de la matrice d'adjàcence, bien connue en théories des graphes. Il est clair que l'opérateur d'adjàcence caractérise le 14 CHAPITRE 1. PRÉLIMINAIRES graphe. Par contre, la connaissance unique dii spectre de A (souvent appelé spectre du graphe) ne suffit pas pour définir le graphe univoquement. Définition 1.4.2 Une orientation d'un graphe G est le choix pour chaque arête d'une direction, en d'autre termes le choix d'un sommet de l'arête comme origine et de l'autre comme extrémité de l'arête. Cela revient à don- ner deux applications allant de G1 dans G0, notée + (resp. _) de telle sorte que pour une arête e, e+ (resp. e-) soit l'extrémité de l'arête (resp. l'origine). Exemple 1.4.3 Pour le graphe G, dont on a numéroté les sommets de 1 à 3 et les arêtes de I à III, on choisit une orientation (graphe de droite). •2CS. £>.. i i i Dans cet exemple, on a (I)+ = 2, (/)_ = 1, (//)+ = 2, (//)- = 3, (///)+ = 3 et (III). = 1. Définition 1.4.4 Le laplacien sur G est l'application A : T(G0) -¥ T(G0) définie par : A£(x) = S(x)((x) — AÇ(x) pour tout Ç dans l2(G), avec 6(x), le degré en x. Pour un graphe régulier, on obtient donc A = Sf — A où S est le degré du graphe. Quand on a choisi une orientation, on peut définir d : T(G0) -> T(G1) par (df)(e) = /(e+) — /(e_) pour toute fonction / g T(G0) et pour toute arête orientée de G1. Remarquons qu'il y a une relation entre le Laplacien combinatoire et l'application d liée au choix d'une orientation, qui est la suivante : A = d'd. Définition 1.4.5 Un connecteur uniforme est un graphe G fini, orienté, bi- parti à In sommets répartis en n récepteurs et n émetteurs (un émetteur étant un sommet qui est seulement origine de certaines arêtes et un récep- teur n'étant lui qu'extrémité). On note E(G) (resp. R(G)) l'ensemble des émetteurs de G (resp. l'ensemble des récepteurs). Définition 1.4.6 Soient n,k des entiers positifs et d un réel positif; un (n, k, l + d(l - —), avec N(X), le bord de X. A n 1.5. LES GROUPES FINIMENT ENGENDRÉS 15 La meilleure constante d est appelée la constante d'expansion rf(G) de G. i Définition 1.4.7 Le revêtement double d'un graphe fini orienté G, noté Bi(G), est un connecteur uniforme défini comme suit : E(Bi(G)) = {x[,...,x'n}, R(Bi(G)) = {x", ...,x"} sont deux copies de G0 = {xi,...,xn} et les arêtes sont définies par : (Bi(G))1 = {(*',*") IVx 6 G0} U {(x',y")|V(x,y) € G1}. Dessinons un exemple d'un revêtement double. 1.5 Les groupes Animent engendrés Donnons tout d'abord un premier exemple de groupe Animent engendré. Exemple 1.5.1 Le groupe libre Wx librement engendré par X = {xi, • • • ,xn}. On peut décrire le groupe libre IFx comme l'ensemble des mots finis écrits sur l'alphabet X U X~x, la loi de groupe étant la concaténation et les seules simplifications permises étant de la forme xx_1 = e ou x_1 x = e pour tout x 6 X. Cet exemple a une importance capitale puisque tout groupe finiment engen- dré est quotient d'un groupe libre. Il s'agit d'ailleurs d'une des propriétés universelles des groupes libres (pour plus de détails voir [38]). Cela nous permet de définir la notion de présentation d'un groupe finiment engendré. 16 CHAPITRE 1. PRÉLIMINAIRES Définition 1.5.2 Soit T un groupe finiment engendré; une présentation du groupe T est la donnée d'un ensemble fini X appelé système de générateurs et d'un ensemble R de mots sur l'alphabet X U X-1 (appelé ensemble des relations) tels que T soit isomorphe à Wx/N où N est la clôture normale de R dans Wx- On note une présentation < X,R>. On dit qu'un groupe est de présentation finie, s'il admet une présentation avec un nombre fini de générateurs et de relations. La donnée d'un système de générateurs nous permet d'associer au groupe r deux graphes. Définition 1.5.3 Soit T un groupe de génération finie et X un système fini de générateurs non nécessairement symétrique, mais ne contenant pas le neu- tre. Posons S = X U X'1 ; le graphe de Cayley de T relativement à S, noté G(T, S), est défini comme suit • L'ensemble des sommets du graphe, noté G(T,S)0, est T. • L'ensemble des arêtes du graphe, noté G(TyS)1, est défini par la re- lation {^1,52} € G(T,S)1 si et seulement s'il existe s € S tel que g\ = g*s. G(T, S) est non orienté, car S = S'1. Il n'a pas de boucle, car 1 £ S, et il est connexe car 5 engendre T. On peut de même définir le graphe de Cayley orienté G(T, X) relative- ment à X, comme le graphe dont les sommets sont les éléments du groupe r et l'ensemble des arêtes G(T, S)1 est défini par (51,52) € G(T1S)1 si et seulement s'il existe x G X tel que 51 = g2i. (51,52) est un couple, l'ordre y est important, on dit que 51 est l'origine de l'arête (51,52) et 52 en est l'extrémité. Un lien classique entre un objet algébrique comme T ou géométrique comme G(T, S) et l'analyse est donné par la représentation régulière de T sur l'espace de Hilbert l2(T). Sur cet espace de Hilbert, on va considérer deux opérateurs. Définition 1.5.4 Sur I2(T), on définit les deux opérateurs hs et hx par . (hx(,)(x) = -^t£«^) et (AsO(X) = Jc E^xs) «€/'(r),*€r). #X*x #S*s (#S)hs est exactement l'opérateur d'adjacence du graphe G(T,S) défini en 1-4-4- On appelle h$ (resp. hx) l'opérateur de transition sur G(T, S) (resp. G(T,X)). 1.5. LES GROUPES FINIMENT ENGENDRÉS 17 Ce sont des opérateurs de normes plus petites ou égales à 1. Remarquons que l'on peut décrire hs et hx à l'aide de la représentation régulière droite de r, que l'on note p. ' i ' D'un point de vue probabiliste, hs (resp. hx) correspond à l'opérateur de transition associé à la marche aléatoire équiprobable sur G[T; S) (resp. sur le graphe orienté G[T, X)). Ces deux opérateurs permettent d'investiguer certaines propriétés des graphes de Cayley G[T,S) et G[T^X) et donc de définir analytiquement des propriétés du groupe T. On note Sp[hx) et r[hx) (resp. Sp[hs) et r[hs)) le spectre et le rayon spectral de l'opérateur hx (resp. le spectre et le rayon spectral de l'opérateur hs). Citons quelques résultats de ce type : ' ¦ 1. Théorème 1.5.5 (Kesten [35], [34J, Day [16J). a) Les énoncés suivants sont équivalents : ijr[hx) = l; i() 1 6 Sp[hx); Ui) T est moyennable. 6; Supposons que #X > 2; alors ^(*^> 1 < r[hs): L'égalité est réalisée si et seulement si T est isomorphe au groupe libre Fx sur X. Dans ce cas Wl , , y/Wn-1 y/2[#X)-\ Sp[hs) = [------p:----,----J5n-]. 2. Théorème 1.5.6 (de la Harpe, Robertson et Valette [17]). a) SoitT le cercle (i.e. le groupe des nombres complexes de modu- le Ij/ fixons z € T. S'il existe un caractère x '¦ T —? T tel que x[x) = z pour tout x g X, alors Sp[hx) est invariant par multi- plication par z. La réciproque est vraie si une des conditions sui- vantes est vérifiée : soit T est moyennable, soit X est symétrique (i.e. X=X-1). b) Supposons #X > 2. Posons a[X) = limsup \\ hkx ||2 , où hx est vu comme la fonction caractéristique normalisée de X et hx dénote la ktéme puissance de convolution de hx ; alors 2, soit un groupe de surface V1, (i.e. T5 =< O11Oi,-•• ,ag,b3 : XIf=J0"'''] > avec X = {ai, bi, • • • , ag, bg} et g > 1); alors Sp(hx) - {2 € C : |,| < -L^}. 1.5.1 Les groupes à un relateur Définition 1.5.7 Un groupe T est un groupe à un relateur s'il existe une présentation de T =< X7R > avec R ne contenant qu'un seul élément (R = {r}). Pour r un groupe à un relateur, on notera < X, r > de préférence à < X, {r} >. De plus, pour éviter des cas triviaux ou des dégénérescences, on supposera toujours que le nombre d'éléments de X est plus grand ou égal à 2 (#-^ > 2) et que la longueur de r est plus grande ou égale à 3 (|r| > 2). Le cas #X = 1 est le cas des groupes cycliques. D'autre part, supposer |r| > 2 n'est pas une grande restriction puisque |r| = 1 revient à dire que l'on a pris le neutre dans le système de générateurs de T et |r| = 2 signifié que deux éléments x, y (non nécessairement distincts) du système de générateurs sont soit égaux, soit inverses l'un de l'autre. Théorème 1.5.8 (Le Freiheitssatz de Magnus) Soient r =< X, r > un groupe à un relateur avec r cycliquement réduit (i.e. de longueur minimale dans sa classe de conjugaison) et avec le système de générateurs X = {xi,--- ,£„}. Supposons que Xi apparaisse dans r; alors X — {ii} engendre un groupe libre dans T. Pour une preuve de ce résultat, voir [38], Proposition 5.1 du chapitre II. Il est bien connu que l'existence d'homomorphismes dans le cas des groupes de présentation finie est une chose facile à vérifier. Il suffit en effet d'affecter des valeurs aux générateurs et de contrôler que lés relations sont compatibles avec ces valeurs. Essayons de voir quelles sont les conditions pour avoir un homomorphisme d'un groupe à un relateur T =< X : r > dans T, le cercle de rayon 1 dans C. Notons E la somme de tous les exposants dans r et fixons 2 € T; alors : 1.6. LES DIAGRAMMES ET LA PETITE SIMPLIFICATION 19 - pour z une racine primitive de 1 d'ordre d, il existe un caractère X '¦ r —> T tel que \(x) — * pour tout x 6 X si et seulement si E = 0( mod d); - pour 2 n'étant pas une racine de 1, il existe un caractère x '• F -> T tel que x(z) = z pour tout x € X si et seulement si S = O. De cette remarque et du théorème 1.5.6 , on déduit directement : Proposition 1.5.9 a) Si E = 0(modd), alors Sp(hx) est invariant par multiplication par exp(2iri/d); b) Si E = O, alors Sp(hx) est une réunion de cercles concentriques centrés en 0/ c) Sp(hs) est symétrique par rapport à 0 si et seulement si E est pair. 1.6 Les diagrammes et la petite simplification Soit < X, R > une présentation d'un groupe I\ Notons R* l'ensemble des conjugués cycliques d'éléments de R ou de leurs inverses : ¦ R* — {ai 6 Wx I w soit le conjugué cyclique d'un r,- € R soit de son inverse}. Définition 1.6.1 Soit T —< X, R > un groupe finiment présenté. Une pièce est un préfixe u qui est commun à deux éléments au moins de R' (par préfixe, on entend toute partie initiale non vide d'un mot; en particulier un mot est préfixe de lui-même). Fixons A 6)0,-1 [. On dit que la présentation < X, R > satisfait la condi- tion de petite simplification C(A) si on a l'inégalité : \u\ < A|r| pour tout r 6 R' et pour tout préfixe u de r qui est une pièce. Définition 1.6.2 Un groupe T =< X,R> satisfait un algorithme de Dehn 52, pour tout mot réduit u 6 W(X) représentant 1 dans T, ü'existe un préfixe u d'un certain mot de r 6 R" tel que u est un sous-mot de ui et \u\ > \\r\. Proposition 1.6.3 Un groupe T à petite simplification C(A) avec A < 1/6 possède un algorithme de Dehn. Pour une preuve de ce résultat voir [38], Théorème 4.4 du chapitre V ou le Théorème 25 de [50]. Proposition 1.6.4 (Gromov) Un groupe possédant un algorithme de Dehn est hyperbolique. ^ 20 CHAPITRE 1. PRÉLIMINAIRES Ce résultat est dû à Gromov ([28], Théorème 2.3.D ou théorème 36 dans [50]). L'intérêt de [50] étant qu'on y trouve une preuve directe montrant que la condition C"(l/6) implique l'hyperbolicité. Définition 1.6.5 Soit < X, R > une présentation d'un groupe V et ui un mot dans IPx représentant le neutre dans T. Un diagramme de Van Kampen du mot u> est un 2-complexe cellulaire A ayant les propriétés suivantes : 1. le 1-squelette de ce 2-complexe cellulaire est un graphe planaire 2. chaque arête de ce graphe est étiquetée par un élément de X ou X~l 3. l'étiquetage du bord de chaque 2-cellule représente un élément de R' et l'étiquetage du bord de A est le mot u>. On note de plus /(A) (resp. E(A) et #(A)) le nombre d'arêtes intérieures de A (resp. le nombre d'arêtes extérieures de A et le nombre d'arêtes total de A). Donnons l'exemple suivant : Exemple 1.6.6 Soit la présentation < a,6,aèa-16"2 > (il s'agit du premier groupe de Baumslag-Solitar). Les deux dessins suivants représentent des diagrammes associés aux mots a6a-1a6-1a-1 = aba~lb~2b2ab~1a~l = rr~l et 62OO-2O-1O2 = 62OO-1O-1Oe-1O-1O2 = T-1OO-1O-V-1OOo-1. —r>— I—^—I b b [ b —S— --------?«------ La lecture des bords de chaque 2-cellule d'un diagramme A avec un retour sur un point base fixé entre chaque parcours du bord d'une 2-cellule revient exactement à considérer le"mot u> qui est le bord de A comme un produit'de conjugés cycliques des relations et de leurs inverses (i.e. u> = UJL1Di1TiTnJ"1 avec m,- dans IFx et r,- dans R"). Définition 1.6.7 On appelle diagramme réduit, tout diagramme ne possé- dant pas la configuration suivante : deux faces intérieures (éventuellement confondues) partageant au moins un sommet en commun et tel qu'en lisant les bords des deux faces à partir de ce sommet dans le sens positif, on ob- tienne un mot (conjugué cyclique d'un relateur r ou de r~l) et son inverse (voir la figure ci-après). 1.7. LES PROPRIÉTÉS GÉNÉRIQUES 21 Cette définition est donnée par Champetier dans [9]. Définition 1.6.8 On appelle aire combinatoire d'un diagramme, le nombre de ses faces intérieures. Lemme 1.6.9 Un diagramme d'aire minimale parmi les diagrammes représen- tant un mot u) dans Wx est réduit. Il s'agit du lemme 2.1. du chapitre V de [38]. Définition 1.6.10 On dit qu'une présentation finie < X, R > satisfait une condition 6, si pour un 0 < 6 < 1 fixé et pour tout diagramme réduit A on a la relation suivante entre le nombre d'arêtes intérieures /(A) et le nombre d'arêtes totales #A, /(A) < 0(#A). 1.7 Les propriétés génériques Définition 1.7.1 Pour P une propriété d'un mot r dans IFx, on dit que P est asymptotiquement presque sûre (ou générique) si, #{r 6 Wx \r cycliquement réduit, \r\ = n,r ayant P} "~"° #{r € IF^ I r cycliquement réduit, \r\ = n} Fixons #X = k et #Ä = n et notons Pr(k,mj,--- ,mn) l'ensemble défini comme suit {< X, R > I #X = k,R= {ri,- ¦ ¦ ,rn}, |r,| = m,-,r,- cycliquement réduit }. On dit qu 'une propriété P des groupes de présentation finie est asymptotique- ment presque sûre (ou générique) si y #{<.y.fl>6/V(*,mi,-,m,,)|<,Y,fl> ayant P) _ , min{m,)-.«> #Pr{k,mt ,• ¦• ,m„) 22 CHAPITREl. PRÉLIMINAIRES Il est à remarquer que l'on compte toutes les présentations et non pas seulement les classes d'isomorphismes de représentations (< a,b\aba > et < b,a\bab > ne sont pas identifiées). Citons quelques exemples de propriétés génériques : Lemme 1.7.2 Pour les groupes à un relateur, et pour A 6]0,1[ fixé, la con- dition C(A) est asymptotiquement presque sûre. Preuve : Voir le lemme 4.4. dans [10]. Remarquons que la preuve révèle que la convergence du rapport entre les présentations à un relateur avec C(A) et toutes les présentations à un relateur est exponentiellement rapide quand N —>• oo. Ol'shanskii a démontré [42] le théorème suivant : Théorème 1.7.3 Pour tout B > 0 fixé, la condition 9 est asymptotiquement presque sûre pour les groupes de présentations finies. La condition 0 a été employée indépendamment par Ol'shanskii dans [42] et par Champetier dans [10] pour montrer : Théorème 1.7.4 Les groupes de présentation finie sont asymptotiquement presque sûrement hyperboliques. Chapitre 2 Propriété (T) et constantes de Kazhdan 2.1 L'intérêt des constantes de Kazhdan pour des groupes finiraient engendrés constantes de Kazhdan...] En théorie des graphes, un thème récurrent est la recherche de graphes ayant une cônnexité forte malgré un nombre limité d'arêtes; ce type de graphes est en effet intéressant, par exemple dans la théorie de l'information [8]. Une bonne notion pour quantifier le taux de cônnexité est la notion d'expanseurs (voir 1.4.6). Or si l'existence de familles d'expanseurs a été démontrée par des méthodes probabilistes, les premiers exemples explicites ont été donnés par Margulis [40] en employant la propriété (T) de Kazhdan (pour une description détaillée voir [36]). C'est ce lien intéressant entre (T) et les constantes d'expansions que je vais décrire en guise de motivation aux calculs explicites des constantes de Kazhdan. Soient r un groupe fini, S un système de générateurs de T et G(T, S) le graphe de Cayley de T relativement à S. En employant les notations et les définitions introduites en 1.4, on a le résultat suivant (voir [19]): Proposition 2.1.1 Bi(G(V, S)) est un (\T\; \S\ + l;/c(r, S)2/2)-expanseur. Preuve Pour tout sous-ensemble X non vide de E(Bi(G(T, S))), on doit prouver que si d = k(T, S)2/2 > 0, alors : Par définition de N(X) = X U \JsX, il suit que \N(X)\ > \X U sX\ pour «es tout s € S. 23 24 CHAPITRE 2. PROPRIÉTÉ (T) ET CONSTANTES DE KAZHDAN Il suffit donc de trouver s g 5 tel que \XUsX\>\X\(l+d(l-]-^)). C'est équivalent, par passage au complémentaire, à trouver un s satisfaisant \xn,x\<\x\(i-d + d^). Soit A la représentation régulière gauche de T sur /2(T) et H l'orthogonal des constantes dans P(T). On voit facilement que A restreint à H n'a pas de vecteur fixe non nul. On sait que les groupes finis ont la propriété T, donc on déduit que pour f dans H1, il existe s € S tel que ||A(s)£ — f ||> K(T1S), et donc Re < Ç|A(a)f >< (1 - /c(r,5)2/2). On définit M*) = { % m SÎSeX v ' { —\X\ sinon Ainsi il existe s Ç. S avec : < fr|A(«)fr > = Re < tx\H')(x > < (1 - d) Hx ||2 • En comptant on voit que || Cx ||2 = |r||X|(|r| - \X\), et pour tout u 6 T, = |r|(|r||jfn«jf|-)jfp). On a finalement irKirUXfiuXI-IA-I2) <(l-/c(r,5)2/2)|r||A-|(|r|-1X|), donc \xr\sX\<\x\(i-d + d$). a 2.2 Calculs de constantes de Kazhdan On peut donc essayer de calculer dans des cas particuliers k(T,S). 2.2.1 Premiers exemples. Exemple 2.2.1 1. Pour le groupe cyclique Cn engendré par un seul générateur g, on a (voir [21])/c(C7„, {x}) = 2 sin7r/n. 2. Le groupe Sym(n) des permutations de n objets avec n > 2 et S, l'ensemble des transpositions de voisins. On a K(Sym(n),S) = ^j—-. Ce résultat est dû à R. Bacher et P. de la Harpe (voir [3]). 2.2. CALCULS DE CONSTANTES DE KAZHDAN 25 3. Le groupe diédral Dn avec un système de générateurs S = {oi,a2} formé de deux symétries. On a K(Dn,S) = 2 sin j- (voir [3], [21] ou [19]). 4. Le cas des groupes compacts avec K = G (voir [23]). Si G est un groupe compact infini, en prenant G comme son propre système de générateurs, on a /C(G, G) = v/2. Si G est fini d'ordre n, k(G, G) = J^. 2.2.2 Les produits semi-directs Commençons par redémontrer un résultat d'A. Valette [52] concernant les suites exactes courtes. Proposition 2.2.2 Soient G un groupe localement compact et une suite ex- acte courte {1} -> N -? G 4 GfN -? {1}, et soit K1 (resp. Ki ) un compact engendrant N (resp. G/N). Si le compact K engendrant G est tel que K D N D K\ et p(K) D Ki, alors > k(N, K1)K(G7'N, Ki) y/ et : pour ki 6 /V11On obtient ll»(*.)î-îll = ll»(*i)fi-6l=llfill«»(*i)|i||-ii|iill Donc tnaxktK \\*(k)i - i\\ > maxkeK, \\n(k)(, - £|| K(N, R\)k(G/N, K2) > CHt(N1K1) = ,/k(N, K1Y + K(GfN, KiY 26 CHAPITRE 2. PROPRIÉTÉ (T) ET CONSTANTES DE KAZHDAN Si 116 ||< a, alors ||f0||= ^1-116112 > vT^. Si k2 Cp^(K2)ClK, alors I T(Me-ell = Vl|T(fc2)£o-£o||2 + IW*2)6-6ll2 * «^»iïfrïfï»^ Comme la restriction de ix à i/° se factorise via G/N, on déduit max^K\\r{k)i-i\\ > maxleK, ll*(0jj|| " ^¾ Il vT > VY^k(GIN,K2) k(N,K1)K(G11N, K2) Jk(NiK1)* + k(G/N, K2f On obtient donc k(G,tt,K) > W>MW') pour toutes les représen- tations unitaires de G sans vecteur fixe non nul. Ainsi K(G, K) > WWW*) , D Dans certains cas cette borne est optimale. Proposition 2.2.4 Soit G un produit semi-direct de G\ par G2, où G2 s'en- voie dans Aut(Gi) et soit K\ (resp. K2)un système de générateurs compacts de Gi (resp. G2). S'il existe n € G*, et (f„)„>o C H\ tel que 1. les Cn sont T^(G2)-invariants. 2. Hm max H *•(/:)£„- £n||= K(GuK1). alors k(G, K) = (92)(hi),92 h2), où V est l'homomorphisme de G2 dans Aut(G\). On remarque qu'une représentation r de G2 peut être étendue à une représentation t de G de la façon suivante : H7 = H7 et T(gi,g2) = r(g2). 2.2. CALCULS DE CONSTANTES DE KAZHDAN 27 On choisit T sans vecteur fixe non nul et telle que k(G2, K2, r) = k(G2, K2). Donc, il existe une suite i/„ € H\ telle que max II r(k)vn - u„ \ k£Ki *(G„ K2) On définit alors la représentation suivante de G : n (B t : G —¥ U(H„ (B 77^).Pour tout a €]0,1[ fixé, on note /Jn = '(a£„,\/l — a2 i/n) et on obtient max y 7r©r[(fc, I)]^n -/x„ | = max[a2 ||,r[(fc, l)]fB-f,. H* *€Ai + (1-a2) Il f[(fc,l)K -^n IH = maxa2||^[(fc,l)Kn-en||2 _> CL2K(GuK1)2. De la même manière, ™« II* ©1(1, *)]/*»-A«» If = m«[oJ||ir[(l,fc)]fn-{B||2 kg Aj (IgA2 +(1-a2) HrI(I^)K-". Il2] = mwc(l-a2)||r(fcK-^f (car les fn sont Tt(G2) — invariants). —? (l-a2)/c(G2,/T2)2. Avec un choix convenable de a (i.e. a2/c(Gi, A"i)2 = (1 — cc2)k(G2, K2)2), on obtient Um max || » © f(%„ - P. 11= /(G" ^^^li^-. On a donc trouvé une représentation de G sans vecteur fixe non nul telle que k(G, K, hx © J) < K(GuK1)K(G^K2) Jk(G1, K1)2 + K(G2, K2) D Il serait intéressant de savoir si l'inégalité de la proposition 2.2.2 est en fait toujours une égalité. Nous verrons dans l'exemple 2.3.2 que ce n'est pas le cas. Rappelons maintenant un autre résultat de Valette [52]. Corollaire 2.2.5 Soient G1, G2 deux groupes localement compacts et K1 (resp. K2) des systèmes de générateurs compacts de G1 (resp. G2). Si G = G1XG2 et K = K1X {1} U {1} x K2 alors K(GuK1)K(G21K2) k(G, K) = Jk(G1, K1)^k(G2, K2)*' 28 CHAPITRE 2. PROPRIÉTÉ (T) ET CONSTANTES DE KAZHDAN Preuve Par la proposition 2.2.2, on obtient la première inégalité : «(G., AQk(G2, A2) k(G, K) > ^k(G1, K1)^k(G2, K2) Soit (ni, Hj) une représentation de G1 satisfaisant /c(G;, Ai1Jr1-) = Zt(G11A1) pour i = 1,2. On définit Jr(^1,^2)) = T1(Pi) ® n2(g2) et on choisit (£n)„>0 contenue dans Hl1 tels que Um max ||ir(*)f„ - & ||= ic(G,, A,). Les £n sont 7r((j2)-invariants, donc, en appliquant la proposition 2.2.4, on a : *(G,, A-Qk(G2, A-2) ^k(GuKiY+ K(G2, K2Y' D k(G,A) = Corollaire 2.2.6 Pour G = 0^L1 G1- une somme directe finie de groupes G1- localement compacts, avec Ki des systèmes de générateurs compacts de G1 et K = U-I1Ai, alors on a : _ i "" "1/2 k(G,A")= ~ 1 ^ 0 pour tout t = 1 • • • m. Notons e,- = (O1-- , 0,1,0, ••• ,0) où 1 est en ième position. Par un abus de langage, on peut dire que e, est le générateur de Z/n,Z et donc S = {e,-1 i = 1, • • • , m} est un système de générateurs de T. 2.2. CALCULS DE CONSTANTES DE KAZHDAN 29 Proposition 2.2.7 Pour T un groupe abélien fini, avec les notations précé- dentes, on a K(T, S): Ite)' -21-1/2 Preuve Par le corollaire précédent, et en se rappelant (voir 2.2.1) que /c(Z/nZ,{l}) = 2 s'n n > on 00^i611' 'e résultat voulu. D 2.2.3 Les groupes diédraux Il est intéressant de considérer à nouveau le cas des groupes diédraux pour voir combien le choix du système de générateurs est important. On a déjà vu en 2.2.1 que la constante de Kazhdan K(Dn, (Cr11(T2J) avec -(Cr11Cr2J formé de deux symétries vaut K(Dn, {cri,cr2}) = 2sin £.. Mais si on veut considérer Dn comme le produit semi-direct de Cn avec Z/2Z il est plus naturel de considérer le système de générateurs 5 = {s,r} où r est une rotation d'angle 27r/n et s est une symétrie. On va donc essayer de calculer K(Dn,{s,r}); pour cela, voici un corollaire de 2.2.4. Corollaire 2.2.8 Si G est le produit semi-direct d'un groupe abélien N par Z/22Z où 2Z/22Z s'injecte dans Aut(N) par j>(-\)(n) = n"1 Vn € N, alors pour tout compact K engendrant N, on a : k(N x ZZ/2ZZ, (K x {!}) U ({1} x {-!})) - 2^"K) Preuve Soit (tt, Hn), une représentation de N sans vecteur fixe non nul telle que k(N, K, tt)=k(N, K). Si p = Indurr est la représentation induite par tt de N à G, alors p est sans vecteur fixe non nul; si (£„)n>o C Hl est tel que Um mtx\\r(k)(n-(n\\=K{N,K), alors la suite (f„)„>o dans H} définie par vn = '((l/\/2)cj„, (1/V^)cj„) est telle que lira max || p(k)vn — vn N= k(N, K). et les un sont p(Z/2ZZ)-invariants. Comme /c(2Z/22Z, {—1}) = 2, on conclut par la proposition 2.2.4. D Ceci permet d'obtenir le résultat : 30 CHAPITRE 2. PROPRIÉTÉ (T) ET CONSTANTES DE KAZHDAN Corollaire 2.2.9 Pour Dn le groupe diédral, avec n > 2, et S = {r, s} où r est une rotation d'angle 2n/n et r est une symétrie, on a n(Dn, S) 2sin: / 1 + sin2 Preuve découle du corollaire 2.2.8 et le fait que pour n > 2, It(Cn, {x}) = 2 siri7r/n. D Bien que l'on ait calculé k(D„, {r, s}), il est intéressant de calculer aussi k(Dn, {r, s}). On connaît la liste des représentations irréductibles de Dn (voir [47]). Comme Dn a un sous-groupe abélien d'indice 2, les représentations irréductibles de Dn sont de degré 1 ou 2. Pour n pair, la liste des représentations de degré 1 de Dn est donnée par : rk srk V-I 1 1 V>2 1 -1 V'3 (-1)* (-1)* V-4 (-1)' (_ir. Si (tt, H) est une représentation complexe de degré 1, alors ||7r(;7)f — £|| est indépendant de £ pour tout ( dans H1. Donc pour toute représentation irréductible n de degré 1, k(D„,S,ff) = max||ff(s)cf — (\\ pour un £ quelconque dans S1. • t/>2 «es \\Mr)(-(W \\M*)(-(W Us(r)(-(W \\M*)(-(W \\Mr)(-(W \\M»)t -(W = 0 i-2£ir = 4|ieii2 I2 = 4HcTIP |-2f||2 = 4|lfll I =*¦ It(Dn, S, } n2) = 2 2£ll2 = 4HcTIP , 2 _ ^ 11^112 f ^- It(Un, 0,TT3) - Z -2£||2 = 4|I£IP -2(W = Mi(W I =^ It(Dn, S, TT4) = 2 De même, on connaît les représentations irréductibles de degré 2 de Dn, elles sont données par les formules suivantes pour 0 < h < j fixé et u> — e2"ln (voir [47]) : • pV)=(w; • P"(srk) = ( ( >hk o \ h. , {u>h o \ 0 u>- ,/life r 2.2. CALCULS DE CONSTANTES DE KAZHDAN 31 Pour f=f|j)eC! fixé, calculons || p*(r)£ - {|| et || /(s)£ - £ || ||P"(rK-fir = l(^-i)6l2 + l(«-*-i)6l2 = IfclV^-ip + lfclV^-H' = (|6|2 + I6|2)[2-2cos(^)] n = 2[l-côs(—)] car ||f||=l n Donc, comme cos 2a = 1 — 2 sin2 a, on obtient (r)£ — £ H= \/2(l — cos-----) = 2sin — qui est indépendant de £. V n n V2I6-6I D'autre part H ,*(*)£-fil= (fr_fc) On doit donc calculer pour h fixé, K(Dn,S,ph(r))= inf max(||/(r)£-£||;||/(S)£-£||) InI = 1 Posons /(O = max(||Ar)f-f||;||A-)f-fll) = max(2sin—,N/2|e,-6l)(avec ||f||=l). n Comme /(f) > 2 sin 2J^ et que l'égalité peut être atteinte (par exemple si (1 = 6)1 on obtient : k(D„,S,ph) = 2sin— avec O < h < — Dn. Pour n impair, on connaît aussi (voir [47]) toutes les représentations de D'une part, les représentations de degré 1 sont les suivantes : rk srk ! 1 1 ¢2 1 -1 On a donc \\^(a)( - (\\ = || - 2f || = 2, d'où K(Dn, S, V2) = 2. D'autre part, les représentations de degré 2 sont données par les mêmes formules que dans le cas pair, c'est-à-dire que pour O < h < |, on a : 32 CHAPITRE 2. PROPRIÉTÉ (T) ET CONSTANTES DE KAZHDAN "W-(J.-7) On traite donc de manière similaire les cas impairs et pairs et on obtient It(Dn, S, ph) = 2 sin—. n En conclusion, on peut donc calculer k(Dn, S) = inf{n(Dn, S,tt); n irréductibles sans point fixe non nul} = inf {2;2sin—} 0. 1 1 Ip2 1 -1 Il est clair que /¢(0(2),5, t/>2) = 2. Pour les représentations irréductibles de degré 2, on a (V/i = 1,2,...) « '^) = ( e7 e- ) 2.2. CALCULS DE CONSTANTES DE KAZHDAN 33 Pour f = ( I) 6 O fixé, calculons \\ph(s)( - f|| et ||/(r)f - {||. Il est clair que \\ph(s)Ç - £||< 2. De plus, IA^ "fil = (rt) = Ä-6I- Or, en prenant C1 = -f2 = l/\/2, on obtient \\ph(s)£ - £||= 2. Concernant ||//(r0)f - f ||, on a l/(r.)f-f| / (e-"°-l)6 = (|6|2 + l6|2)[2-2cos(Aa)] = 2[1 - cos(Aa)] car ||f||=l = 4sin'(—) on obtient donc \\p (r0)f — f || = 2|sin(^)|, et comme pour a0, f et A fixé, . . . .Aa max [2|sin(—) <*€[0,aol £ 2 si l < O0 2sin^ si r > «o 2 "' h Comme ||^>*(s)£ — f ||< 2, si A est tel j < a0 on a que : maxs6s \\ph(g)Ç — f||= 2 et donc «(0(2), S;/) =2. Si f > a0 alors max ||/(<,)£ -<-{ 2|sin i si V5|f,-61 < 2sin^ v/2|6-6l si Vf 16-61 > 2sin On en déduit que «(0(2), S;/) M_ j 2|sin^ si J > a0 2 si l < aQ Comme c'est une fonction croissante de A le minimum est atteint en A = 1, on obtient donc : *(o(2),s) = (2|si0n^ s: 7^00 v v ' ' (^ 2 si rr < O0 On peut aussi regarder 0(2) comme le produit semi-direct SO(2)»7L/27L. Et comme la conjugaison d'une rotation ra par la symétrie 5 est la rotation 34 CHAPITRE 2. PROPRIÉTÉ (T) ET CONSTANTES DE KAZHDAN r_a, par le corollaire 2.2.8, en posant Si = {ra\a € [0,a0]} le système de générateurs de 50(2), on a 74 + K(SO^)1S1)2 La fonction .2z , est croissante sur M+, puisque 4i2 4v2 x < y =*• 4i2(4 + y2) < 4y2(4 + x2) =>• —— < * 4 + x2 - 4 + y2 A. Deutsch [22] a démontré que pour a0 < ir, k(S0(2),S) < 2sin^, donc K(0(2Ï S) < 4sin(ao/2> < 2si"(a°/2) h V4 + 4sin2(a0/2) ~ ^l + sin2(a„/2)' 2.3 Les constantes /2 2.3.1 Définition et premières propriétés Commençons par une définition. Définition 2.3.1 Soient G un groupe localement compact, X une partie finie de G et n une représentation unitaire de G : Posons mm-)= a (^gn^-ai2) Dans [20], Y. Colin de Verdière définit, comme ci-dessus, la constante de Kazhdan de G associée à n. Il est clair que pour toute représentation n £ G*, on a la relation : K2(G, X, TT) < K(G, X, Jf) < y/#X K2(G, X, TT) . Il est donc possible de définir une constante de Kazhdan l2 : K2(G, X):= inf K2(G, X, n). On a clairement : K2(G, X) < k(G,X) < yf#X K2(G, X). L'utilité de cette définition est donnée par la relation : Lemme 2.3.2 K2(G1X1Tr1 ©îr2) = min(/c2(G,X,Wi),K2(G,X,Tr2)) 2.3. LESCONSTANTESL2 35 Preuve Pour prouver cela il suffit d'observer qu'il y a bijection entre [UH1QHiI HfH= 1} et {(A6, vT^6) IO < A < l.fc e ff,1}. On a £«(*'©**)(')£-fil2 = A2£lMsK'-U2 »6X »SX + (1- A2) J2 II *,(*)&-6 II2- »ex Donc K^(G1 X1 TTi © TT2) = #*Ä E h (*.**)<*-e ir IHI=I *e* = ST /¾. (A2 E II ^We.-6 II2+(1-A2) E IIt*(')6 -6 IN * 0i I A; e C1 EN2 = 1 et Ci € Hj, Vi > 1} inf VlA1I2K2(G1X1Tr,)2 r(s)f|f>) = 2 inf inf < 7r(l-A)Ç|f > 2 inf inf < tt(1 - (h - p))f | f > car n(p) = 0 -6r > 2e On a donc k2(Y,S)2>K2(Y,S)2>2c. 2.3. LES CONSTANTES L2 37 On veut montrer que K2(T, S) = K2(F1 S). Supposons par l'absurde qu'on ait l'inégalité stricte /C2(T1S)2 > 2e. On a comme ci-dessus : K2(T,S)2= inf inf . On peut donc trouver un S > e avec : S < inf inf < inf, inf < *(1-(A-p))f |f > On a donc pour tout n dans T que 7r(l-(fc-p)) ><5. Comme la représentation triviale xo satisfait aussi Xo(I ""C1-P)) ^ ^ et 0. Comme J > e, on a 1 — e > 1 — S > h — p. Par calcul spectral, 1 — e ¢ Sp(Zi — p), donc 1 — e $. Sp(h). Ce qui contredit le fait que 1 — e est une valeur spectrale de h. D L'intérêt de ce corollaire est que l'on peut donc majorer et minorer les constantes de Kazhdan classiques par les constantes /2 et que celles-ci ne dépendent que des représentations irréductibles de T. Lemme 2.3.6 Pour T fini, si ir n'a pas de vecteur fixe non nul, alors : K2{w, T, T) = v/2. Preuve Si ir est sans point fixe non nul, on a /_V(<7)£ = 0 Pour tout ( dans Hn. Donc Re(^T < ir(g)Ç\Ç >) = JZ < w(p)Ç|Ç >= 0 pour tout f ser ser dans //„ et comme >ex »ex = 5Z(1l«-(*)flfa + llflla -2Ae < «-(a)e|Ç >) »ex = 2E(1-Ae<»(*)ftë>) = 2\X\(l--r±-Y,Re}> °na ^S' 38 CHAPITRE 2. PROPRIÉTÉ (T) ET CONSTANTES DE KAZHDAN Yl il *(s)t - £ n2= 2iri p°ur tout fdans H"- D gei- Ce résultat est à mettre en relation avec le résultat de Deutsch et Valette ([23]) qui dit que pour un groupe compact infini, /c(G, G) = s/î. 2.3.2 Le groupe multiplicatif des quaternions On va considérer le sous-groupe des quaternions H = {±1, ±i, ±j, ±k}. Ce cas est intéressant pour plusieurs raisons : premièrement, il nous permet de calculer un exemple de constantes de Kazhdan K2 et deuxièmement, il permet de voir que l'inégalité donnée à la proposition 2.2.2 est stricte dans certains cas. H n'est pas un produit semi-direct, mais on a la suite exacte courte : {1} -> Af -> H -> H/N -> {1} avec JV 9? {1,-1} =* 7L/27L et G/N = {ï,ï,J,fc} = K/2ZZ ® ZZ/22Z. Pour cela, nous allons calculer les constantes de Kazhdan H(H, S) et k.2(H,S) pour S = { — l,i,j}. On choisit ce système de générateurs plutôt que {i,j} ou {i,j,k} car il satisfait aux conditions exigées sur le système de générateurs S dans les propositions 2.2.2 et 2.2.4. Décrivons tout d'abord toutes les représentations irréductibles de H. Comme il y a 5 classes de conjugaisons, il y a 5 représentations irréductibles, et comme 53irg# deg[ir)2 = #H, on voit qu'il y a 4 représentations de degré 1 et une de degré 2. Décrivons la table des caractères : 1 -1 ±i ±j ±k Xo 1 1 1 1 1 Xi 1 1 1 -1 -1 X2 1 1 -1 1 -1 X3 1 1 -1 -1 1 X4 2 -2 0 0 0 On peut décrire explicitement n la représentation irréductible de degré 2 associée à \i- EWe est définie par les matrices suivantes : -(-)-(-.1 -.)- { —1, t, j}, 7r) = 2 et 1 o /9 Ki(H, {-1, t, j}, TT) = —V^TT+2 = -J=-. On en déduit donc t ri f --i\ ? f 2 2v2.. 2 .,(/^-1,^}) = ^--} = -. et aussi k(H,{-l,z,j}) = 2. Comparons ces valeurs avec celle donnée par la proposition 2.2.2 concer- nant les suites exactes courtes. Comme /c(Z/2Z, { — 1}) = 2, en utilisant le corollaire 2.2.5, on trouve *((Z/2Z)M(-1,1),(1,-1)}) = y/ï. 40 CHAPITRE 2. PROPRIÉTÉ (T) ET CONSTANTES DE KAZHDAN En employant 2.2.2 on obtient K(H,{-l,i,j})>^=. Comme cette valeur est exactement celle de K2(H, {—L,t, j}), on n'obtient aucune information supplémentaire. Essayons de calculer directement k(H, { — l,t, j}). Soit T une représentation unitaire sans point fixe non nul. Par complète réductibilité, r se décompose en somme directe hilbertienne de représenta- tions irréductibles différentes de la représentation triviale (puisque r n'a pas de point fixe non nul). En regroupant les représentations irréductibles par classe d'équivalence, on peut écrire r sous la forme : r = xT © X? © X33 © *"' avec les n< e Nu {00} non tous nuls. On peut donc décomposer £ € H7 comme f = (fii£2>6)ifir) Calculons \\t(s)Ç - £|| pour 5 € {—1, t,i} et £ 6 H\. \\r{-i)i-a2 = llxï'(-i)6-6ll2 + llxr(-i)6-6ll2 + Ilx3"3(-i)6 - 6II2 + Il*-(-iK„ - {, II2= 4 II£„II2 De même, || r(0£ - {||2= 4(|| & ||2 + || 61|2) + 2 || ¢, ||2 et¦ Il r{j)Ì - i ||2= 4(|| fc ||2 + Il 61|2)+ Il T-U)C- - t* II2- Comme ît est de degré 2, on peut écrire f* comme (6,1.6,2)6,1,^2,2,6,1,0,2,-"" ,6.,1,6,..2)- Ainsi IK"(j)6-6ll2 = £(16.2 - 6,ila +1 - 6.1 - 6.2I2) 1=1 = 2^(16,,12 + fei2) = 2 ||6 II2 1=1 L'avant dernière égalité étant l'identité du parallélogramme. On a donc ||t(j)£-£||a= 4(||f, ||a + II6II2) + 2 ||6U2- Posons : M(O = max{4 || £. ||2,4(|| 6 ||2 + || 6 ||2) + 2 || ¢, ||2,4(|| 6 II2 + Il 6 ||2) + 2 || 6 H- Pour alléger la notation, posons x =|| {1 ||2, y =\\ 6 ||2, 2 =|| 6 ||2 et t =11 Ml2- M(() = max{4*,4(y + z) + 2*,4(2 + z) + 2*} = 2max{2«,2(y + z) + t,2(x + z) + t} Considérons les trois conditions suivantes : 2.3. LES CONSTANTES P 41 I) 2(x + z) + t>2(y + z) + t qui est équivalent à x > y. II) 2(y + *) > < III) 2(x + z)>t Distinguons les 8 cas suivants : 1) *>!/, 2(y + z)>t, 2(x + z) > t 2) x>y, 2(y + 2)>i, 2(x + z) < t 3) x > y, 2(y + 2) < t, 2(x + z) > t 4) x>y, 2(y + 2)<<, 2(x + z) t, 2(i + z) > t 6) x<, 2(i + z) < t 7) x t 8) x a et 2(y + 2) > t 2(x + 2) + t si y < 1 et 2(i + 2) > t 2t sinon On a donc une fonction à quatre variables qu'il faut minimiser sur la région x + y -\- z -\-1 = 1 et 0 < x,y,z,t < l. On peut donc considérer M(C) comme une fonction de trois variables x, y et 2, avec t remplacé par 1 — x — y — 2. On obtient ( 2(y + 2) + 1- X — y — 2 SÌ y>z et 2(y+z)>l-z-y-z M(C) =2 l 2(x + 2) + 1 — x — y — 2 si vi-x-y-2 En sim- plifiant, on obtient M(x, y, 2) = 2^ 2(1 z) 1-x + y + 2 1 + x — y + 2 2(1-x-y-2) si si sinon y > x et x + 3y + 32 > 1 y < x et 3x + y + 32 > 1 Le domaine de M est donné par 0 N1 -> H -> H/N1 -> {1} avec Ni ^ {1,-1,i,-t} = ZZ/42Z et GfN1 = {!,]} = 2Z/22Z. On aurait obtenu, en remarquant que /c(2Z/4Z, {1,2)) = k(ZZ/42Z, {1,2,3}) = i/| (voir [23]) et en employant 2.2.2 que : Chapitre 3 Constantes de Kazhdan L2 pour les groupes de Lie Soit G un groupe de Lie connexe de dimension finie, g son algèbre de Lie et U(g) l'algèbre enveloppante de 0. On choisit {X;},-=it...-n une base de 0 et on note A = - y. Xf Ie laplacien associé, qui est un élément de U(g). l ir(x)Ç est C°°. Cette dernière représentation se prolonge à une représentation de U(g) sur le même espace. Décrivons quelques propriétés de la représentation in- finitésimale dw. Pour £ et rj dans Hn, on note ip^ la fonction de G définie par : V«.n(p) = • 45 46 CHAPITRE 3. CONSTANTES L? Lemme 3.1.1 Conservons les notations ci-dessus. Si Ç appartient àC°°(Hn), si r/ appartient à Hn et si X est un élément de g, alors le coefficient J*{A)"(, 1. Preuve : Par définition, on a pour tout g dans G : (XlP(,v){9) = l™ ---------------j---------------- = lîS? 7 [< *(«tp(**)K I nig'1 )t, > - < frig'1)] >] ,. Tr(exp(tX))Ç — f . = V-S? < f I *(* )»7 > = 1Pd^x)(Ag) L'avant-dernière égalité étant valable car Ç est un vecteur C°° relativement à w. Cela démontre la première assertion. Remarquons que si f est un vecteur C°° relativement a ît, alors il en est de même de dir(X)^. Cela permet de démontrer que pour tout i 6 {1,... , n} et pour tout g dans G, (X?tpçiTI)(g) = (Xil>)(g)dg = - f < At(XKKj-1)!, > xp(g)dg. Jg Jg Preuve Soit e > 0 fixé; pour f et r) non nuls, il existe un compact K de G tel que / (Ws)I + \W)(g)\)dg ¦ Jg-k 2(imi + n«M*)fii)iM 3.1. DÉFINITIONS... 47 Soit x € C™(G) tel que : 0 < x 5: 1, x{d) — 1 pour tout g dans un voisinage de K, et sup \(XX)(g)\ < 2. Alors : \ f < ^(g-l)r] > (X^(g)dg + [ < d*(X)t\n(g-l)T) > 4>{g)dg\ Ja Jg < I / {< £W W)( Ws)}xfo)7>(XV)(5)x(5) + < d*(X)(\*(g-l)t} > Mg)x(9)}dg\. Or, J < t\*(g-l)t, > (X*)te)X(g)dg = Jva9)(m(9)x(g)dg = - J[X{Vt„x)Mi>(9)dg = - j {xv<„){g)M){s)d9 - J {g)dg. Preuve En vertu des lemmes 3.1.1 et 3.1.2, l'égalité est vraie pour tout i 6 C°°(#„). Si f e D{h„), il existe une suite (£*)*>i dans C°°{Hr) telle que M*-a + \\hM-h«(\\ —>0. 48 CHAPITRE 3. CONSTANTES L2 < +1 Alors : | / I\>Lv(g)(W)(g)dg - J < KÌHg~l)v > ^g)dg\ \ J < S - ÇkWg-'h > (W)(9)dg\ IJ < 6K-T1V? > {W){g)dg - J < Kik\*(g-l)v > 1>{s) i>(g)dg\ < (H-6Il + IlKh - Ki\\) IlnII J(\(^)(g)\ + Wg)\)dg ^ o. D Proposition 3.1.4 Pour une représentation unitaire de G, (n,Hn), les con- ditions suivantes sont équivalentes : 1. ir a un vecteur fixe non nul; 2. 0 est valeur propre de dn(A); 3. 0 est valeur propre de K- Preuve : 1) => 2) Supposons que la représentation tt ait un vecteur fixe non nul f. Cela implique que £ est un vecteur C°° et que n(exp(tX))Ç = £ pour tout t réel et tout X dans g. Donc drr(X)Ç = 0. Pour les éléments de la base {X,-}k,-<„, Ç est dans le noyau de dn(Xi). Donc par définition de h, on a dir(A)( = — 53i<; 1) Soit £ dans D(K) n Ker(K) non nul. Si t; 6 HT et ip 6 Cf(G), on a au sens des distributions sur G : (Av«.„.tfO = (¥>{,„ AVO = () = 0. Ainsi, A(^,,, = 0, et puisque A est hypo-elliptique (voir [32]), tp^n est une fonction C°° sur G. Comme r) est quelconque, cela revient à dire que g H- n(g)Ç est faiblement C°° et donc, par le lemme 1.2.3 dû à Poulsen, g t-+ Tr(g)£ est fortement C°°. Ainsi, on a hKÇ = dw(A)Ç. Mais de plus dn(A)Ç = 0, donc £||=o. 3.2. CARACTÉRISATION SPECTRALE... 49 Puisque {X;},=i ...„ est une base de g, on a dir{X)^ = 0 pour tout élément de g. L'exponentielle étant un difféomorphisme d'un voisinage de 0 dans g sur un voisinage V de e dans G, on a n(g)Ç — f pour tout g dans V. Comme G est connexe, V engendre G et ainsi £ est fixe sous l'action de G par it. D 3.2 Caractérisation spectrale de la présence de vecteurs presqu'invariants Le but de la section est de montrer : Théorème 3.2.1 Pour une représentation unitaire (w,H„) de G, les condi- tions suivantes sont équivalentes : 1. n a presque des vecteurs invariants; 2. 0 est valeur propre approchée de dw(A); 3. 0 est valeur spectrale de hn. Preuve 2) => 3) découle du fait qu'une valeur propre approchée de dn(A) est aussi une valeur propre approchée de hw. 3)=>2) On suppose que 0 est une valeur propre approchée de h„, cela signifie qu'il existe une suite {£n}n>o dans D(hr), de norme 1 telle que || hwÇn || tend vers 0 quand n tend vers l'infini. De plus, comme h, est la fermeture de dw(A), il existe pour tout n un vecteur ;;„ dans C°° et de norme 1 tel que Il hT(n — dTr(A)ri„ || + || £„ — X]n ||< 1/n. On en déduit que 0 est une valeur propre approchée de dn(A). 2)=*1) Si 0 est une valeur propre approchée de ^Tr(A), il existe une suite {£m}m>o de vecteurs de norme 1 dans C°°(H*) telle que lim ||d7r(A)£m ||= 0. Ainsi, lim \\dn(Xi)Çm H= 0 pour tout i = 1,... ,n. Posons V = { n expltfXi) I - K U < 1}. V est un voisinage compact de e dans le groupe de Lie G (voir la proposition 4.1 du chapitre VIl de [31]). De plus, on a pour tout X dans g et tout t : n(exp(tX))Çm - £m = / n(exp(sX))dn(X)Çmds . Jo 50 CHAPITRE 3. CONSTANTES L2 Si e > 0 et si 0 < t < 1, on en déduit que : Il 7r(exp( 0, il existe des vecteurs (e, V)- invariants. Comme V est un voisinage de e dans G qui est connexe, V engendre G. Pour K un compact de G, il existe un recouvrement fini de K par des translatés de V, c.à d. un nombre fini d'éléments g, de G tels que A" C U gtV. De plus chaque 0 le semi- groupe sur L2(G) de générateur infinitésimal —h (voir 1.2.8). Par [41], pour tout t > 0 il existe une fonction pt appartenant àC°° fi L1 (G), à valeurs positives, d'intégrale 1 telle que T(t) = p(pt) où p désigne la représentation régulière droite sur L2(G). Comme T(t) = T(t)*, on a pt = p*, et pt est solution de l'équation de la chaleur : opt . Lemme 3.2.2 Ap( appartient à Ll{G) et lim II ^+" ~ P' + Ap, H1= 0, pour tout t > 0. Preuve Notons p\ la représentation régulière droite de G sur Ll(G). Suivant le théoème 4, p. 599 de [41], notons pour tout t> 0 et /€ L\G) : P'f = J P,(y)Pi(y)fdy. D'après le lemme 7.1 et le théorème 4 de [41], P'f est un vecteur analytique au sens suivant : il existe s > 0 tel que E^7 E \\dpl(X,l)...dp1(X,m)P. m=0 l 0 : S(t) = ir(pt), si O 0 et 5(0) = W (S(tf))i>o est un semi-groupe fortement continu sur H1, de générateur in- finitésimal A. De plus, S(t)' — S(t) pour tout t car pt = p". Par le corollaire 1.,6, p.41 de [43], A est autoadjoint. En fait : Lemme 3.2.3 Avec les notations ci-dessus, on a : A = — h„. Preuve Soit £ e D(h„). Montrons : (*) Pour tout t > 0, S(t)( appartient à D(A) et AS(t)Ç = -S(t)h„(. Pour cela fixons r\ dans H1,. On a pour 0 < s < 1 : s(5)S(0f-S( dg ' vt+>(g) - Pt(g) P -•Pi,v(g)dg- s En vertu du lemme 3.2.2 et du corollaire 3.1.3, on obtient : < s(s)sm-smiri > = f{_Apt)ig)vUg)dg —" s J = - < S(t)hnÇ\r, > . Par le théorème 1.3, p.43 de [43], S(t)Ç appartient à D(A) et A( = -S(t)h„Ç. Cela démontre (*). Or, || S(t)Ç - £ || -^ 0 et Il AS(t)Ç -(-A.0 H = H -S(*)M + A„£ Il 7^0. Puisque /1 est un opérateur fermé, Ç appartient à D(A) et AÇ = —h,Ç. Ainsi, —h„ C A, et comme ils sont autoadjoints, on a : — H1, = A. D Lemme 3.2.4 Si (n, H1,) est une représentation unitaire de G admettant presque des vecteurs invariants et si ß est une mesure de probabilité sur G, le spectre de l'opérateur 7r(/j) = J n(g)dft(g) contient 1. Preuve Soit (^t)fc>i une suite de vecteurs unités de H1, telle que 0; il existe un compact K dans G tel que ß(G — K) < t. On a donc Il T(AOf* -Ct II < / l|T(flK*-fc||d/i(ff)+2£<3£ JK 52 CHAPITRE 3. CONSTANTES L2 dès que k est assez grand. D On est alors en mesure de terminer la preuve du théorème 3.2.1 : 1) => 3) : Par le lemme 3.2.4 7r(p() admet 1 dans son spectre, pour tout t > 0. Puisque, par le lemme 3.2.3, — hK est le générateur infinitésimal du semi- groupe (7r(p())t>o, 0 est dans le spectre de /î„ par calcul fonctionel. D Il peut paraître étonnant d'avoir dû passer par le noyau de l'équation de la chaleur, pour démontrer 1) ==> 3). On aurait pu penser que si pour un voisinage V compact de e dans G, il existait une famille £„ de vecteurs (1/n, V)-invariants et C°°, alors les £„ étaient des vecteurs propres approchés de dn(A) associés à la valeur propre approchée 0. En d'autres termes, que si les £„ étaient des vecteurs (1/n, V)-invariants, alors ||<Ì7r(A)£„|| —> 0. L'exemple suivant montre que ce n'est pas toujours le cas. Exemple 3.2.5 Soit G = M. Définissons tout d'abord, la famille de représentations unitaires de degré 2 suivantes : w -¥ ffi Trn(s). Définissons f„ = (0,... ,0, W2^-, ^A1O,... ) où les composantes non nulles de £„ sont en 2n et (2n + l)leme positions. Par construction les („ sont de norme 1. Si on se fixe / un compact de K, pour tout s dans /, on a : Il "Win-f-||2 = |(exp(w/n)- 1)\/^|2 + Kexpfan)- 1)^112 n — 1 1 = \(exp(is/n) — 1)|2---------1- \exp(isn) - 1|2 -. n n Comme |exp(is/n) — 1|2 —? 0 uniformément pour 5 dans / et que |exp(rsn) — 1|2 < 4, les fn forment bien une famille de vecteurs de plus en plus fixes sous l'action de / par tt. Pourtant cette famille de („ ne satisfait pas || dn(A)Çn || —? 0. En effet, on remarque que : . ΀D<«)' Preuve Comme h est auto-adjoint, son spectre résiduel est vide. Ce qui permet de dire que toute valeur spectrale est une valeur propre approchée. Pour toute valeur spectrale A, il existe donc une suite {£„}„>o de vecteurs dans Z)(Zi) et de norme 1 tels que < h(n\(n >—> A. Ceci implique que : inf < A. Notons Ao le minimum du spectre de h (qui existe puisque le spectre de h est réel, fermé et borné inférieurement). L'inégalité précédente appliquée à A0 donne : inf < A0. «€D(/i)' Prouvons l'autre inégalité. Soit h = J XdE(X) la décomposition spectrale de h; on obtient < h(\( >= J X < dE(X)(\Ç > et < (\( >= / < dE(X)Ç\Ç > pour tout £ fixé dans D(K). Par conséquent, pour £ dans D(h)1 : = I X < dE(X)(,\i >> X0 f < dE(X)i\i >= X0 . */spec(/i) Jspec(h) Ceci termine la preuve. ? Définition 3.2.7 Pourir une représentation unitaire de G et {X,-},-=i...n une base de g, on définit la constante k(hn,G) par k(h„,G) = inf - Corollaire 3.2.8 n fc(A„G) = min Sp(M= inf , Y1WMXiHW 54 CHAPITRE 3. CONSTANTES L2 Preuve La première égalité découle du lemme précédent. D'autre part, il est clair que n k(hn,G)< inf = inf Y H Ar(X1-K H2. Pour obtenir l'autre inégalité, il suffit de montrer l'existence, pour tout e positif, d'un vecteur C00 n de norme 1 satisfaisant \k(h„,G)-\-*(/»*,G) <*/3. Comme hn est la clôture de I < \k(h,, G)- < I + I < A,f |f > - < A,f I17 > I + I < h*t\rf > - < ^Tr(A)T7Ir? > | Comme le premier terme est arbitrairement petit et que les deux autres termes peuvent être arbitrairement proches de 0 (en choisissant 17 conven- ablement), on conclut. D Proposition 3.2.9 G a la propriété T si et seulement s'il existe t > 0 tel que k{h„,G) > c pour toute représentation unitaire -n de G sans point fixe non nul. Preuve -¢= : Si tt a presque des vecteurs invariants, par le théorème 3.2.1, k(hn,G) = min Sp(Ii^) = 0. Comme k{ha,G) > t pour toute représentation unitaire a sans point fixe non nul, iraun vecteur fixe non nul. =>• : Si G a T, alors pour toute représentation unitaire sans point fixe non nul, k{K,G) >0. Supposons par l'absurde qu'il existe une suite de représentations unitaires {tt„}„>o sans point fixe non nul telle que k(h„n,G) —? 0. La représentation a = © Trn est telle que k(ha,G) = 0. En effet, par l'absurde, il existe, pour chaque n, un vecteur f„ dans C°°(Hnn), de norme 1 tel que < dnn(h)Çn | f„ > < 1/n. Le vecteur r/„ défini par 7/„ = (0, • • • , 0, f„ , 0 ¦ • • ) est un vecteur C°° „< 'pò. dans H] et < /i„nn |r?„ >=< /i„„f„ |f„ X 1/n. 3.3. COMPARAISON AVEC LES CONSTANTES CLASSIQUES 55 On en déduit que k(h„,G) = 0 et donc queO est dans le spectre de h„. Par la proposition 3.2.1, cela implique que a a presque des vecteurs invariants. Comme G a T, a a un vecteur fixe non nul. Une composante non nulle de ce vecteur est donc fixe dans un certain //*„, ce qui est contradictoire avec le fait que les représentations nn sont sans point fixe non nul. D On peut définir K(h,G) = inf k(h^,G) la constante de Kazhdan L2. Corollaire 3.2.10 G a la propriété T si et seulement si K(h,G) > 0. Ce corollaire est une conséquence directe de la proposition précédente. 3.3 Comparaison avec les constantes classiques Proposition 3.3.1 Soient G un groupe de Lie connexe, {X;},=i...„ une base de g et t > 0. Pour S défini par {etXi \ t € [0, t], i 6 {1... n}}, on a : k(G,S) J0 II *(«•*)<**(*.¦)* Il «k < £|maxn) lldirPWII Donc < e Y, \\**(Xi)(\ n(G, S,it) = inf sup Il 7r(s)^ — ^ I < in f SUD ||7T(a)f-f| Hw)' '«S < « inf , < ty/k{hw,G) X)II^(X1-Ki 56 CHAPITRE 3. CONSTANTES L2 Ceci permet de conclure en prenant l'infimum sur les représentations unitaires sans point fixe non nul. D Notons que 3.3.1 donne une autre preuve de l'implication (=>) de 3.2.9. Chapitre 4 Cohomologie des groupes et propriété (T) 4.1 Le problème de Gromov Commençons par donner les deux définitions suivantes : Définition 4.1.1 Un groupe dénombrable T a la propriété d'approximation de Haagerup si la C-algèbre abélienne Co(T) a une unité approchée consti- tuée de fonctions définies positives sur T. Définition 4.1.2 Un groupe T est a-jT-menable s'il admet une action affine a sur un espace de Hilbert H telle que pour tous sous-ensembles B, C bornés de H, l'ensemble des éléments g dans T pour lesquels a(g)B rencontre C est fini (i.e. #{g 6 Y \ a{g)B n C + 0} < oo). Gromov appelle une telle action, une action propre, car il s'agit de la généralisation naturelle d'une action propre sur un espace métrique locale- ment compact. Définition 4.1.3 Soient X un espace topologique, et f : X —? M. continue. On dit que f est propre, si pour tout M > 0, il existe un compact K C X tel que \f{x)\ > M pour tout x G X — K. Ce qui permet de dire que {i £ X | |/(i)| < M} est compact. Dans le cas où X est discret, cela revient à dire que cet ensemble est fini. Au cours de la conférence d'Oberwolfach du 5 au 11 septembre 1993, Gromov posa la question suivante : Est-ce que tout groupe dénombrable moyennable est a-T-menable ? Cette question est reprise au paragraphe 7.E de [29]. 57 58 CHAPITRE 4. COHOMOLOGIE DES GROUPES... Nous allons montrer que la réponse à cette question est affirmative. Ce résultat est un travail commun entre Mohamed Bekka, Alain Valette et moi- même (voir [6]). Pour cela nous allons tout d'abord démontrer le lemme suivant Lemme 4.1.4 Pour un groupe dénombrable V, les énoncés suivants sont équivalents : 1. Y a la propriété d'approximation de Haagerup. 2. r admet une Jonction propre et conditionnellement de type négatif. 3. r est a-T-menable. Preuve de 4.L.4 1) ¦<=> 2) est démontrée par Akemann et Walter (théorème 10 dans [2]). 2) ^ 3). Soit ij> une fonction propre et conditionnellement de type négatif sur T. Par la proposition 14 du chapitre 5 de [19], il existe une action isométrique affine o de T sur un espace de Hilbert H telle que pour tout g dans r,V(s)= ||a(ff)(0) ||2. Montrons que a est une action propre. Pour cela, vérifions que pour tout r > 0, l'ensemble Fr = {g 6 T | a(g)Br D Br ^ 0} est fini (Br est la boule fermée de rayon r). Si g est dans Fr, on trouve £ 6 Br tel que ||a(ö)£||< r- Comme a(g)Ç = t(s)É + Kg), on a || b(g) || = || a(g)(0) \\<\\ o(S){ || + || *(g)(. ||< Ir. Ce qui revient à dire que ip(g) < Ar2. Donc Fr est contenu dans {g 6 T | tp(g) < Ar2}. Cet ensemble est fini, car on a supposé que xp est une fonction propre. 3) => 2). Si a est une action affine isométrique propre de T sur H, alors la fonction ip : F —> R définie par ip(g) =\\ a(g)(0) \\2 est conditionnellement de type négatif (voir paragraphe 13 du chapitre 5 de [19]). De plus comme l'action a est propre, on en déduit que ip est propre. D Fixons les notations suivantes : si (n,H^) une représentation de T sur /2(T), notons oo7T la somme directe d'un nombre dénombrable de copies de 7T, agissant sur ooHn := Hn ffi H„ © • ¦ ¦ la somme directe hilbertienne d'un nombre dénombrable de copies de Hn. Proposition 4.1.5 Un groupe T dénombrable infini moyennable admet une action isométrique affine a propre sur oo/2(r) telle que la partie linéaire de a est ooAp. Preuve Soit (F/t)jt>i une famille croissante de sous-ensembles finis de T telle que OO U^ = T. k=\ 4.1. LE PROBLEME DE GROMOV 59 Par la propriété de F0lner, on trouve pour tout k > 1, un sous-ensemble Uk de r tel que, pour tout g € Fk, on a : #{gl4At4} t Soit ft la fonction caractéristique normalisée de Uk, -{ ^x, - * (#^)"I/2 Si X € ^ "W ~ l 0 sinon Alors y Ar(5)ft ~ (k ||2= -*¾^ pour tout jCT. Posons, pour g € T fixé, Ko) = ©/tioM^r^K* — &)• P°ur 9 fixé, cette série converge dans oo/2(T); en effet, pour j € Fn, on a OO OO Il ®T=nk (Ar(fl)fc - fo y2= £ fc2 il (Ar(S)6 - a) n2< Efc2 2~* < oo. Jc=n fc=n Comme %fc) = ®t=0k{\T{gh)Ìk-XT{g)Ìk + ^9)Ìk-Ìk) = ®T=o{k[Xr(g)(Xr(h)(k - 6)] + k{Xr(g)(k - 6)} = oo\r(g) ©f=0 fc(Ar(/i)a - ft) + ©r=o^r(s)6 - f*) = ooXr(g)b(h) + b(g), b(.) est un cocycle relativement à ooAp. Donc en définissant a(g)£ par : a(g)Ç = oo Ap(g)£ + 6(ff), on obtient une action isométrique affine sur oo/2(r) dont la partie linéaire est ooAp. Il suffit de définir ip par xj>(g) =IIMs)l|2 Pour obtenir une fonction condi- tionnellement de type négatif. Cette fonction est propre puisque pour tout r > O, l'ensemble Cr = {g € T | ||6(s)||< r} est fini. En effet, pour r fixé, prenons /V naturel > r; alors pour g £ CV, on a W2||Ar(5)6v-6v||2<||%)||2 est une fonction propre et conditionnellement de type négatif, on déduit, comme dans la preuve de l'implication 2) => 3) du lemme 4.1.4 que a est une action propre. D Remarque 4.1.6 II est connu (voir le chapitre 4 de [19]) qu'un groupe dénombrable n'a pas la propriété T si et seulement si T admet une action 60 CHAPITRE 4. COHOMOLOGIE DES GROUPES... affine isométrique avec des orbites non bornées sur un certain espace de Hilbert. Pour un groupe dénombrable moyennable, l'action a décrite dans la preuve de la proposition 4.1.5 a des orbites non bornées, on en déduit donc que Hl(T,oo\r) £ {0}. Guichardet (dans [30] corollaire 2.4 du chapitre III) a aussi prouvé que de tels groupes admettent une action isométrique affine possédant des orbites non bornées sur l2(T) et dont la partie linéaire est Ar. La preuve étant non constructive, on ne sait pas si une telle action est propre ou non. 4.2 Quelques propriétés de H1CT,^) On a vu (1.3.4) que la propriété (T) se caractérise pour un groupe G par l'annulation du premier groupe de cohomologie relativement à toutes les représentations unitaires (ou orthogonales) de G. Comme la représentation de G la plus naturelle est la représentation régulière gauche Ag, il est in- téressant de voir ce qu'implique l'annulation de //'(G1Ag). Dans un arti- cle commun [7], Bekka et Valette ont étudiés pour T un groupe infini, Ani- ment engendré, le premier groupe de cohomologie //'(T1Ap) relativement à la représentation régulière sur l2(T). Plus précisément, ils ont montré le résultat suivant : Proposition 4.2.1 (Bekka-Valette) Pour un groupe infini T, finiment en- gendré et non moyennable, il existe des isomorphismes naturels entre //'(r,AG), HD[G(T1X))ZQ et H1 E L2(G(T, X)). Précisons ce que sont les espaces HD(G(T, X))/C et H1 EL2(G(T, X)). Si X est un système de générateurs de T, non nécessairement symétrique, on définit comme en 1.5.3, le graphe de Cayley G(T, X) de T, ainsi que G(T, Xf et G(T, X)1. Pour alléger la notation, on identifie G(T, X)0 à T et on note E l'ensemble des arêtes de G(T, X). Avec les notations employées en 1.4.4 pour définir le Laplacien combinatoire A, HD(G(T, X)) est défini ainsi : HD(G(T, X)) = {/ 6 F(T) I A/ = 0 et df € l2(E)}. Il est clair que les constantes sont contenues dans HD(G(T, X)). D'où le fait que HD(G(T, X))/Cest bien défini. On définit aussi H1EL2(G(T^)) = {(£ l2(E)\a"t = 0 et f G d(T(T)}. H1EL2(G(T, X)) est appelé le premier groupe de cohomologie L? de G(T, X). Il est clair que d induit un isomorphisme entre HD(G(T, X))/C et 4.2. QUELQUES PROPRIÉTÉS DE H\T, n) 61 H1 EL2[G[T, X)). H1 EL2[G[T,X)) est un module sur l'algèbre de von Neu- mann W"[T) de T; sa dimension de von Neumann se note 6J2)(T) et s'appelle le premier nombre de Betti L2 de T; notons que 6J2)(T) = 0 si et seulement si H1 EL2[G[T, X)) = {0}. Lemme 4.2.2 Hl[G,it) s'injecte dans HX[G, oo7r). Preuve Notons i : H1, —? ooHn l'injection qui envoie identiquement Hn sur la première composante de ooHn [ i[Ç) = (£, 0,... )). Soit 6 un cocycle de G relativement à n; i o b est un cocycle de G par rapport à oo7r, car i entrelace tt et oo7r. De plus l'image par i du cobord relativement à tt définie par l'élément £ est le cobord relativement à oott défini par l'élément i[£). Il est clair que i : Zl[G,n) —¥ 2'(G1OOTr) est une application linéaire. L'application i passe donc au quotient (i.e. i : HX[G,T!) —? Hl[G,oon)) en posant i[b) = i ob. Montrons que cette application est injective. Supposons que i[b) = Ö. Cela revient à dire que : o 6 appartient à Bl[G, oon). Donc il existe £ = (^1,^2,---) dans 00H1, tel que pour tout g € G, i o b[g) = oorr[g)Ç - (. Comme i o b[g) = [b[g), 0,... ) on a n(g)Çj = & pour tout i > 2 et 7T(^1 - 6 = b[g) pour tout g e G. Donc 6 € B1 [G, n). O Lemme 4.2.3 Si n est une représentation de G qui ne possède pas presque des vecteurs invariants, alors l'application linéaire a : Hn —> B1 [G, tt) définie par f >-> [g i-> n[g)£ — Ç) est un isomorphisme topologique où la topologie sur B^[G,tt) est la topologie induite par celle définie sur Z'(G,7r) au paragraphe 1.3. Preuve : a est clairement surjective. Montrons que a est injective. Supposons que a[() = 0. Ceci veut dire que II a[Ç)[g) \\ = \\ n[g)Ç - £ ||= 0 pour tout g € G et donc n[g)£ = £ pour tout g 6 G. Comme n est sans point fixe non nul, on a £ = 0. Montrons que a est continue. Comme 7r est unitaire, pour tout g g G, IKsX-£ll<2|m|. Donc, en particulier, 1/Jf(O(O) < 2 « f||. Il reste encore à montrer que a'1 l'est aussi. Comme tt n'a pas de vecteurs presque invariants, il existe e > 0 et un compact Kq dans G tels que pour tout Ç € Hl, max Il Tr(SK -f|l>< = ^11=^11"-1° Ot(O II - fffc«o Mais max \\*(g)Ì-i\\= max \\ a[(,)[g) \\= uKo[a[i)). Comme a est surjective, en posant 6 = ot[Ç), on a que sup [vfc[b)) > i//c0(6) > e || o;_1(6) || pour tout 6 dans Bi[G, rr). Donc a~x est continue. D 62 CHAPITRE 4. COHOMOLOGIE DES GROUPES... Lemme 4.2.4 Soient G un groupe et tt une représentation unitaire de G sans point fixe non nul. Sont équivalents : 1. tî ne possède pas presque des vecteurs invariants. 2. Bl(G,it) est fermé dans Z1(G,tt). 3. Hi(G,n) est séparé. Ce résultat se trouve sous une forme un peu différente dans [19], p.48. Preuve : L'équivalence entre 2) et 3) est claire. Démontrons 1) => 2). Cette implication vient du lemme 4.2.3. En effet 5'(G1Tr) est une partie complète, donc fermée, de Zl(G, tt). Démontrons 2) =^ I) : Supposons que Bl(G,n) soit fermé dans Z1(G, tt). Comme Zx(G,tt) est un espace de Fréchet, B1(G,tt) en est un également. L'applicatin a : H1, -> B1(G,tt) est une bijection continue (l'injectivité vient de l'hypothèse : 7r sans point fixe non nul). Par le théorème de Banach (cf 12.16.8 de [24]), a-1 est continu. On trouve donc une partie compacte K de G et une constante C > 0 telle que H\\< CUk(O(O) = Ct^x II*(g)t -£|| pour tout £ 6 H1,. En particulier, pour tout £ € H\ : i< max H TT(S)E-£|| • Donc tt ne possède pas presque des vecteurs invariants. D Proposition 4.2.5 Soit tt une représentation unitaire de G sans vecteur fixe non nul. Sont équivalentes : 1. H>(G,n) = {0}. 2. HHG1OOTT) = {0}. Preuve : 2. =» 1. découle immédiatement du lemme 4.2.2. Pour 1. =>¦ 2., Démontrons tout d'abord les deux assertions suivantes : 1. ir a un vecteur fixe non nul <=> oott a un vecteur fixe non nul. 2. TT a presque des vecteurs invariants «• oott a presque des vecteurs in- variants 4.2. QUELQUES PROPRIÉTÉS DE //'(I\ w) 63 Si £ 6 H, est fixe sous l'action de G par 7r, alors (£, 0, • • • ) € oo7/„ est fixe sous l'action de G par oo7r. Réciproquement, si (6i6i ' " ' ) £ °°#jt est fixe sous l'action de G par oo7r et non nul alors toute composante £, non nulle est fixe sous l'action de G par n. Ceci démontre la première assertion. Pour la seconde, démontrons l'équivalence suivante : pour t > 0 et pour K compact de G, n a un vecteur (e, A'J-invariant si et seulement si oott a un vecteur (t, A")-invariant. Si TT a un vecteur (e, Ä")-invariant, alors il existe £ 6 Hl satisfaisant Il n{g)Ç — £ ll< e Pour tout 9 € ^- Donc le vecteur 7 = (f, 0, • • • ) appartient à ooHn, est de norme 1 et est (e, /-^-invariant, puisque Il °°*(g)tl - r,||2= E IIx(g)m - Vi \\2 = \\n(g)t - £ ||2< £2. Donc v est un vecteur (t, /(" )-invariant de oott. Pour £€//£, posons f((g) = < ir(g)(\( > le coefficient de ir associé à (. Soit A = {i C (ooH^Y telle que < oo7r(<7)r?„|r/„ > —ï 1 uniformément sur tout compact de G. Posons rç„ = (r/nil,r;ni2,... ). Alors OO < 007r(5)J?>.|'?n > = E < "{ailn*\r}n,k > Jt=I = E II Tn1* 1I2VJ2A1 (5) Notons A la fermeture de A pour la topologie de la convergence uniforme OO sur les compacts. Comme E II 7Zn1ItII2= 1, on voit que 1 est dans l'enveloppe it=i______ convexe fermée de A, notée conv/1. D'autre part, 1 est clairement un point extremal de convA Par le théorème de Krein-Milman, les points extrêmaux de convA sont dans A, et donc 1 appartient à A. Cela veut dire que 7r possède presque des vecteurs invariants (cette preuve est inspirée de la page 144 de [45]). De cette équivalence, on déduit directement la deuxième assertion. Il reste donc à montrer 1) => 2) proprement dit. //'(G1Tr) étant nul, il est séparé; et comme n est sans point fixe non nul, par le lemme 4.2.4, n ne possède pas presque des vecteurs invariants. Par les deux assertions, cela implique que oott ne possède pas presque des vecteurs invariants et est sans vecteur fixe non nul. Ce qui permet de dire que ./3'(G1OOTr) est fermé dans 2'(G1OOTr). 64 CHAPITRE 4. COHOMOLOGIE DES GROUPES... Par le lemme 1.3.5, £'(G, oott) est dense dans Z1 (G, oo7r). Ce qui montre que 5'(G1OOTr) = 2'(G1OOTr) et donc #'(G,ooTr) = {0}. D Corollaire 4.2.6 7/'(G1A) = {0} •» #'(G,ooA) = {0}. Preuve : Si G est non compact, ce corollaire est une conséquence évidente de la proposition 4.2.5. D'autre part, si G est compact, alors G a la propriété (T) et, par 1.3.4, H1(G, tt) = {0} pour toute représentation unitaire de G. D Ce corollaire répond à une question que pose A. Valette dans "Some open problems around Kazhdan's property (T)", appendice non publié de [52]. Proposition 4.2.7 Soit V un réseau dans G. Si tt est une représentation de G, #'(G,tt) s'injecte dans i/1 (T,ttjr). Preuve Comme T C G, l'application T de Z1(G,tt) dans ZX(T,Tr|p) qui consiste à restreindre un cocycle de G à T (i.e. T(b) = 6|p pour tout 6 dans Z'(G,tt)) est une application linéaire continue de Z'(G,tt) dans Z'(r,Tr|r). De plus, pour tout £ £ Hn, la restriction du cobord de G associé à £ relativement à tt est le cobord de T associé à £ relativement à tt|p. Ceci nous permet de dire que l'application T passe au quotient; on a donc T : Hl(G,7r)^Hl(T,7r\r). Montrons encore que l'application T est injective. Comme T est un réseau, il existe une mesure de probabilité /j sur l'espace homogène G/F invariante à gauche sous l'action de G. Supposons que b G Hl(G,ir) est tel qu'il existe f G Hn avec 6(7) = Tr(~f)Ç — f pour tout 7 6 T. Montrons qu'il existe C, G Hn tel que b(g) = n(g)Ç — Ç pour tout g € G. Définissons l'action isométrique affine a : G —> Isom(Hn) par a(g)v = n(g)ii — b(g) pour tout v G H1, et pour tout g G G. On remarque que pour 7 G T : 0(7)^ = ^(7)^ — 6(7) = (. Ceci permet de définir l'application continue ß : G/T —> Hn par ß(g) = a(g)^ pour tout g € G/T. Comme a(gy)Ç = a(g)a(~f)Ç = a(g)(, ß est bien définie. Posons C = /g/p ß(g)dp(g). Par l'invariance à gauche de la mesure /j, C est invariant par G sous l'action de a : °(s)C = *"(sK - %) = C Pour tout g G G. Ce qui est équivalent à b(g) = tt(pK — C pour tout g G G. D 4.2. QUELQUES PROPRIÉTÉS DE H'(r,n) 65 Corollaire 4.2.8 (Wang, [53]) Si V a la propriété (T), G l'a aussi. Preuve Soit tt une représentation unitaire (ou orthogonale) de G. Il est clair que 7r|p une représentation unitaire (ou orthogonale) de T. Mais comme r a (T), Hl(r,n\r-) = {0} (1.3.4). Par la proposition 4.2.7, cela implique que H1(G,n) = {0}. On conclut en employant encore une fois 1.3.4. D Corollaire 4.2.9 (Cheeger-Gromov-Paschke, [12]) Si T est un réseau dans G = PSLi(R), alors b\2)(T) > 0. Preuve On se souvient que Ac|p = ooAp. D'autre part, on a /7'(G1Ag) ^ {0} par la proposition 4 du chapitre 8 de [30]; par 4.2.7 et 4.2.6, on a succes- sivement //'(!",ooAp) ^ {0} et i/'(r,Ar) yt {0}. Comme d'autre part T est non moyennable, on a i/'(r, Ap) = H1EL2(G(T^)) par 4.2.1, et donc 6}a)(r) > 0. D Corollaire 4.2.10 (Guichardet [30]) Soit G un groupe de Lie simple non localement isomorphe 0"PSL2(M). Alors H1(G,Xq) = {0}. Preuve Soit T un réseau dans G. On a //'(T, A) = {0} par le théorème D de [7], donc //'(r.ooAp) = {0} par 4.2.6, donc Hl(G,\a) = {0} par 4.2.7 (en se rappelant que AG|p = ooAp). D Chapitre 5 Les opérateurs d'adjacence sur des graphes de Cayley pour des groupes à un relateur. Dans un article en commun avec Alain Valette [L5], nous nous sommes in- téressés à certaines propriétés des groupes à un relateur. Nous avons donné des estimations du rayon spectral et de la norme des opérateurs d'adjacence hs et hx et nous avons démontré un résultat générique concernant le rayon spectral de hx- Soit T =< X, r > un groupe à un relateur. Rappelons que l'on suppose toujours #X > 2 et |r| > 2 (voir 1.5.1). 5.1 Estimations de rayons spectraux Commençons par quelques définitions personnelles. Définition 5.1.1 Un mot ui 6 IFx est positif s'il est non vide et s'il ne contient que des générateurs (c.à.d. des éléments de X) avec l'exposant -\-\. De plus tout mot u> dans Wx peut s'écrire de manière unique comme produit alterné de mots positifs, (i.e. u> — ui^wf1 ¦ ¦ -w*' où w,- sont des mots positifs). On dit que u> alterne suffisamment si n > 4, i.e. il y a au moins trois changements de signes dans w. Définissons aussi Définition 5.1.2 Pour t > 0 fixé, on dit que w 6 F^ est e-équilibré si la décomposition de u> en produit alterné de mots positifs, ui = cj^'u;^1 • ¦ • wj1, est telle que |\ pour tout i allant del àn. 67 68 CHAPITRE 5. LES OPÉRATEURS D'ADJACENCE... Il est clair que si u> est «-équilibré, le nombre de changements de signes est supérieur ou égal à 1/e. Donc si u est t-équilibré avec e < 1/4, alors U! alterne suffisamment. Avec ces deux notions, on peut donner un premier résultat concernant le rayon spectral de hx- Proposition 5.1.3 Soit Y un groupe à un relateur; supposons que la présen- tation r =< X, r > soit 1/4-équilibrée et satisfasse un algorithme de Dehn (cette dernière hypothèse étant vérifiée si la présentation satisfait une condi- tion de petite simplification C'(l/6)). Alors X engendre un semi-groupe libre dans r et donc r(hx) = Ay ¦ Preuve : Soit N le sous-groupe normal engendré par r dans Wx- Fixons un mot réduit ui S N. Grâce à l'algorithme de Dehn, on trouve un sous-mot u de u> qui est aussi un préfixe d'un certain r' € {r}* (r' est un conjugué cyclique de r ou de r-1) avec \u\ > ^. Comme la présentation est 1/4- équilibrée, on voit que u, et à fortiori ui contient au moins deux changements de signes dans sa décomposition en produit alterné de mots positifs. Main- tenant soient Vi, Vi deux mots positifs distincts dans Wx- Comme v\v^ a exactement un changement de signe dans ses exposants,cela implique que U]U^1 n'appartient pas à TV, et donc i>i est distinct de V2 dans T. Ceci démon- tre que le semi-groupe engendré par X dans T est libre. Comme la condition C"(l/6) implique que T est hyperbolique (1.6.4), par le théorème 1.5.6 on a r(hx) = jfr. Ü Remarque 5.1.4 1. L'intérêt de la proposition 5.1.3 réside dans la facilité d'en vérifier les hypothèses. Il est donc facile de déterminer si X engendre un semi- groupe libre dans T. Ce résultat est à mettre en parallèle avec le très célèbre Freiheitssatz de Magnus 1.5.8, qui donne des conditions pour l'existence de sous-groupes libres de T engendrés par des parties de X. 2. A la page 100 de [18], les auteurs affirment sans preuve que, dans le groupe de surface T5 de genre g > 2 avec sa présentation standard n < au 6i, ••• , ag, bg : J^[a,,6,] >, ;=i X = {ai,6i, • • • ,as,bg] engendre un semi-groupe libre. La proposition 5.1.3 donne une preuve de cette affirmation. On a vu dans la proposition une condition suffisante pour avoir r(hx) = A.,; réciproquement, voyons ce que l'on peut déduire de cette égalité. 5.1. ESTIMATIONS DE RAYONS SPECTRA UX 69 Lemme 5.1.5 Chacun des énoncés implique le suivant : ii) X engendre un semi-groupe libre; Hi) la relation r alterne suffisamment. Preuve : i) => ii) découle immédiatement du point b) du théorème 1.5.6. Pour montrer l'implication tt) => Hi), on suppose, par contraposée, que r n' alterne pas assez et l'on montre que X n'engendre pas un semi-groupe libre. Il y a trois cas à considérer : a) r n'a pas de changement de signe dans ses exposants, i.e. r ou r-1 est un mot positif; on a donc un mot positif qui représente le neutre dans T; b) r a exactement un changement de signe; supposons donc que r s'écrive r = U)IIjJj1, avec Wi, 0¾ des mots positifs distincts; alors o>i et 0¾ représentent le même élément dans le semi-groupe engendré par X dans T; c) r a exactement deux changements de signe, i.e. r ou r-1 est de la forme WiOiJ1Oi3, où o>i, u^, w3 sont des mots positifs; alors en permutant cycliquement on obtient OJ3Oi1OiJ1 et on est ramené au cas précédent. D Les implications de 5.1.5 ne sont pas des équivalences : pour cela, regar- dons deux exemples. Exemple 5.1.6 : Le premier de ces exemples montre que l'implication ii) => i) n'a pas lieu en général (il semble que cet exemple ait été connu de Y. Guivarc'h). Con- sidérons le groupe à un relateur T =< y, z : yzy~1z~lyz~1 >. On affirme que, pour X = {y,z}, on a r(hx) = 1 et que X engendre un semi-groupe libre. Pour voir cela, choisissons un autre système de générateurs. Posons i = zy~l; avec les générateurs x, y, le groupe T a la présentation célèbre r =< x,y : yxy~lx~2 > (r est le premier groupe de Baumslag-Solitar). T est résoluble, et donc moyennable, d'où r{hx) = 1. Soit H le sous-groupe de T engendré par x. La relation (*) yxy'1 = x2 permet de voir T comme une extension HNN de H relativement au monomor- phisme 0 : H -y H définit par xk -+ x2k. T agit donc sur un arbre T, dont 70 CHAPITRE 5. LES OPÉRATEURS D'ADJACENCE... nous rappelons la définition ici (voir [48], 1.1.4, 1.5.1). L'espace homogène T/H est l'ensemble des sommets et l'ensemble des arêtes de T : on définit l'extrémité d'une arête ~jH comme le sommet -yH, et l'origine de -yH comme le sommet ^y-1H; il suit de la relation (*) que ceci est bien défini. L'arbre T qui en résulte est l'arbre homogène de degré 3 avec, à chaque sommet, une arête qui y arrive et deux qui en partent. On appelle descen- dants d'ordre n du sommet H les 2" sommets qui sont à distance n de H et atteints en suivant des arêtes orientées. Pour prouver que y et z engendrent un semi-groupe libre dans T, il suffit de prouver l'affirmation suivante : tout descendant d'ordre n de H peut être écrit comme u>H, où ui est un mot positif de longueur n en y et z. Remarquons que cette écriture est nécessairement unique, puisqu'il y a 2n mots positifs de longueur n dans y et z. On prouve l'affirmation par induction sur n, le cas n = 0 étant évident. Ainsi, posons ~/H un descendant d'ordre n + 1 de H; alors ~fy~xH est un descendant d'ordre n de H, ainsi par hypothèse d'induction, on a Jy-1H = loH pour un certain mot positifs de longueur n en y et z. Donc co = fy~1xk pour un certain k G ZZ. Si fc est pair, onau = 71*/2!/"1, i.e. ^H = u;yH; si k est impair, on au = 71'*"*"1'/¾-1!-1, i.e. 7 H = LuzH. Autant uy que uz sont des mots positifs de longueur n + 1 en y et z. Exemple 5.1.7 : Dans le lemme 5.1.5, l'implication iii) =>¦ U) n'est pas vraie non plus en général. Pour voir cela, soit n > 1 un entier fixé, et considérons le groupe r =< a,b : a(aò_1)"+1 >. La relation r alterne suffisamment. Posons r' = (aft_1)na26-1, qui est une permutation cyclique de r; alors r-1ar'a_1 = 6ab-1a-1, ce qui montre bien que X n'engendre pas un semi-groupe libre, puisque ab = ba. On peut même déduire plus de cette information. Par la propriété uni- verselle de ZZ2, on sait que T est un quotient de ZZ2; comme le vecteur (n + 2, — n — 1) est primitif dans ZZ2, on vérifie facilement que T est iso- morphe à ZZ. Cet exemple montre typiquement l'absence de petite simplification (1.6.1). Voyons d'autres groupes à un relateur où l'on peut montrer que X en- gendre un semi-groupe libre. Commençons par définir deux sous-groupes particuliers de Wx- Definition 5.1.8 Soit Wx le groupe libre sur X. On note Hr (resp. Hi) le sous-groupe de Wx engendré par tous les éléments xy~' avec x, y 6 X (resp. le sous-groupe de Wx engendré par y~lx). 5.1. ESTIMATIONS DERA YONS SPECTRA UX 71 Proposition 5.1.9 Soit F =< X : r > un groupe à un relateur, avec r 6 Hr. Alors X engendre un semi-groupe libre dans T et r(hx) = Ay ¦ De plus Sp(hx) est une réunion de cercles concentriques centrés en 0. Pour prouver cette proposition ainsi qu'un autre résultat (5.2.1 dans la section 5.2) nous allons avoir besoin de deux lemmes, ainsi que de la définition de certaines transformations de Nielsen. Commençons par fixer les notations. Pour r =< X : r > un groupe à un relateur; fixons y € À'. On définit un nouveau système de générateurs Xy comme -Xy = {xy'1 ¦ x e X, x ¦£ y} U {y}; on a clairement #Xy — #X. Posons de plus ry comme étant le mot r écrit dans l'alphabet Xy; plus précisément, si on définit x' = xy'1 pour x € X, x ^ y, le mot ry est obtenu de r par le changement de variable (ou transformation de Nielsen) Tv : < y l y -+ y- Dans le cas des groupes libres IFx, les transformations de Nielsen (donc en particulier Ty) changent un système libre de générateurs X en un autre système libre de générateurs. Pour plus de détails concernant les transfor- mations de Nielsen, voir [39]. On peut encore définir r'y comme la réduction cyclique de ry. Avec ces notations, on a : Lemme 5.1.10 Si r est un mot cycliquement réduit dans Wx, alors y est le seul élément qui peut disparaître dans r quand Ty est appliqué. Plus précisément, si on note (ai,-- ,ai) l'ensemble ordonné des éléments dans Xl)X'1 — {y,y'1} apparaissant dans r (i.e. r = y^aiy^a^y"3 • ¦ -y^aiy"'*' où Ui S 7L), alors l'ensemble ordonné dans ry et donc dans r'y est (a[, • • ¦ , oj). Preuve : Ty est un isomorphisme de F^ sur F^v. Remarquons que T'1 est défini sur les générateurs de IFxj, par T~l(x') = xy'1 pour x' € Xy — {y} et T~1(y) = y. Alors pour r = y"'o^y^o^y"3 • • • y"'aiy"'+', on a : r, = W^T^a^a^'-y-'aty'"") = Tv(y»)Ty{ai)Ty{y»)Ty{ai)- ¦ ¦ W)T^a1)Uy"") = y^a\y"a'iy^---y>"a\y'"" Supposons que a'{ et aj+1 se simplifient dans ry. Alors en appliquant T'1, on voit que r ne peut pas contenir a, et a,+i, ce qui est contradictoire. Ainsi l'ensemble ordonné de ry est exactement (a[, ¦ ¦ ¦ ,a[). 72 CHAPITRE 5. LES OPÉRATEURS D'ADJACENCE... Comme r est cycliquement réduit, par un argument similaire, on conclut que l'on ne peut pas simplifier a\ et a\ par une permutation cyclique de r„. Ainsi (oc\,- ¦ ¦ , a{) est aussi l'ensemble ordonné de r'. Ce qui conclut la preuve de 5.1.10. G Lemme 5.1.11 Pour r cycliquement réduit dans TFx, les énoncés suivants sont équivalents : (i) r € tfr U H1; (U) Pour tout y £ X, la lettre y n'apparaît pas dans r'y ; (Hi) Il existe y 6 X tel que y n'apparaît pas dans r'. Preuve : (i) =? (ii) Supposons que r soit dans Hr\ on peut donc écrire r = nr=i a'A_I avec a>! &¦' 6 X. Il existe trois type de facteurs O1-O1"1: 1. a, b 6 X - {y} : alors ^(aô"1) = a'yy"'^')"1 = a'(6')_1 2. Uay-1) = a'yy-1 = a' 3. Tyiya-1) = y(«'y)-' = (a')"1. Donc ry ne contient pas y ce qui implique que r' ne le contient pas non plus. Si r est dans Hi alors l'élément s = yry'1 appartient à Hi. Ainsi y n'ap- paraît pas dans sv et sy est cycliquement réduit (en effet r est cycliquement réduit, d'où, en employant le lemme 5.1.10,sv = r'y). (ii) =* (iii) est évident. (iii) =*¦ (i) On suppose que y n'apparaît pas dans r^ et on analyse r en plusieurs pas. On sait que r = ai ¦ ¦ ¦ a„ est un mot dans l'alphabet X U X~x. Regardons l'ensemble ordonné (a;,,--- ,a,,) de toutes les lettres dans r dif- férentes de {y,y~1}- Par le lemme 5.1.10, l'ensemble ordonné correspondant dans r'y est (a'it, • • • , aj,). On va employer systématiquement l'argument suiv- ant : supposons qu'après avoir appliqué Ty à chaque lettre de r, on trouve un mot rv dans lequel y apparaît et qu'il n'y ait pas de simplification évidente pour l'enlever, alors il est réellement impossible d'enlever y, parce qu'on de- vrait tout d'abord enlever un a[ , ce qui contredirait le lemme 5.1.10. Premier pas : r n'a pas de sous-mot de la forme ab ou a_I6_1, avec a, b G X — {y}. En effet, si c'était le cas, en appliquant Ty, on devrait obtenir soit a'yb' soit (a')~iy~l(b')~1 et y apparaîtrait dans r'y. Deuxième pas : r ne contient pas y2 ou y-2. Pour montrer cela, on suppose par l'absurde que r contient un tel sous-mot et on montre que r'y contient y ou y-1. Il y a trois cas à considérer. 5.J. ESTIMATIONSDERAYONSSPECTRAUX 73 1. r contient a±1y"6±1 avec n > 2, (a ^ y ^ 6). Si les exposants de a et de b sont positifs, alors aynb devient a'yn+*b' après T1,. Si les exposants de a et de 6 sont différents, ayn6-1 devient a'yyny~1(b')~1 = a'y"(6')_I et a-1y"6 devient (a')~lynb'. Finalement, si les exposants de a and 6 sont négatifs, a~iy"b~1 devient (a')~1y"~l(b')~i. Le même raisonnement fonctionne pour n négatif avec \n\ > 2. 2. r commence par ynb±l (b € X — {y}). Supposons tout d'abord n > 2. Comme r est cycliquement réduit, r se termine par une certaine lettre a € XuX'1 — {y-1}. Alors ry = Ty(r) ne peut pas se terminer par y-1, ainsi, il n'y aura pas de simplification possible en réduisant cyclique- ment ry pour obtenir r'. D'autre part, si r commence par y"b, alors r„ commence par y"b', et si r commence par ynb~l, ry commence par yn_1(6')-1. Puisque n > 2, y apparaît dans r'. Le même raisonnement peut être fait pour n < —2. 3. Par des arguments similaires, on résoud le cas où r se termine par 6^y" (be X-{y}, H>2). Remarquons que les cas 2. et 3. montrent aussi que r ne peut pas commencer par yb ou y_16_1, ni se terminer par by ou b~ly~l (b € X — {y}. Troisième pas : Tous les exposants dans r sont égaux à ±1, et ils alternent en signe, i.e. r = af1 aja^1 ¦ • • a*1 ou r = OJaJ1O3 ••-a*1. En fait, nous devons montrer que r ne contient aucun sous-mot de la forme ab ou a-I6-1, pour a, b € X. Nous savons déjà que c'est le cas si a, b € X — {y} (premier pas) ou si a = b = y (deuxième pas). Il reste à montrer que r ne contient aucun sous-mot de la forme ay ou yb (a, b € X — {y}), ou un inverse d'un tel sous-mot. La remarque se trouvant à la fin du deuxième pas montre déjà que r ne peut pas commencer ou se terminer par un tel sous-mot. Si ayb±x apparaît alors on voit qu'après avoir appliqué T„, ay6±! devient soit a'yyb'y soit a'yyy_I(6')_1 = a'y(b')~l. On conclut les cas yb, a-1y_1, y_16_1 par des arguments similaires. Finalement, pour voir que r est dans Hr U Hi, Il suffit de voir que l'- exposant de an est l'opposé de l'exposant de O1. Si on suppose que ai et a„ ont le même exposant +1 (resp. —1), r = aiaj'a3-an devient, après avoir appliqué Ty, a'^a')^1 a'3 ¦ ¦ • a'ny ainsi y apparaît dans r' (car ai ^ y'1)- L'argument pour r = a~[la2ajl ¦ ¦ ¦ a'1 est identique. Ceci termine la preuve. D Remarque 5.1.12 Pour tout y dans X, un groupe T =< X : r > admet la présentation T =< Xy : r'y >. Si r 6 Hr U Hi, le lemme 5.1.11 révèle que Y est le produit 74 CHAPITRE 5. LES OPÉRATEURS D'AD JACEN CE... libre de 2Z =< y > avec le groupe à un relateur Tv =< Xy — {y} : r'y >. Shenitzer [49] a caractérisé parmi les présentations F =< X : r > celles qui sont isomorphes à un produit libre de TL avec un autre groupe; le critère est le suivant : au moins un générateur de X doit disparaître de r en appliquant des transformations de Nielsen. Le lemme 5.1.11 ne semble pourtant pas être une conséquence de ce résultat [49] car nous ne considérons que des transformations de Nielsen très spéciales, les Ty. On peut maintenant prouver la proposition 5.1.9. Preuve : Fixons y 6 X; comme mentionné dans la remarque 5.1.12, T est le produit libre de TL =< y >avec le groupe à un relateur Ty =< Xy—y : ry >. Prouvons que X engendre un semi-groupe libre. Soient U1, u>2 deux mots positifs distincts dans IFx; en employant le changement de variables Ty ainsi que la forme normale pour les éléments dans un produit libre, on voit que Ui1 et u>2 définissent des éléments distincts de T. Il suit par le théorème 1.5.6 que 0 telle que, pour tout entier k > 0: Il hx ||< C(I+ fc)3 II Z1xII2. En reprenant la définition de un groupe à un relateur, avec #X > 2, |r| > 2, r cycliquement réduit et r £ HrU Hi. Alors : max{r(hx),r(hs)} <\\hx\\= U**x *¦ La preuve de 5.2.1 sera donnée plus loin. Alors que jusqu'à présent on avait une valeur exacte de r(hx) en exhibant des semi-groupes libres et en 5.2. ESTIMATIONS DE NORMES OPÉRATEURS 75 employant le théorème 1.5.6, on va maintenant calculer plutôt la norme || hx H- Pour ce faire, on rappelle (L.5.4) que hx = f¥/sy' w° ,es où p est la représentation régulière droite de T. On aura besoin du résultat suivant d'Akemann-Ostrand [1] (voir aussi [54]). Lemme 5.2.2 Soient I11I2,-¦• ,In des éléments de T qui engendrent un sous-groupe libre sur n générateurs dans T. Alors n H £>(*•¦) Il = 2v^T; t"=l n ||1+ £>(*¦¦) Il = lyß. Ceci nous permettra d'estimer la norme de hx- Proposition 5.2.3 Soit T =< X : r > un groupe à un relateur, avec #X > 4, |r| > 2 et r cycliquement réduit. Alors max{r(hx),r(hs)} <\\hx\\< V#*2+1 < 1. #*¦ Preuve : L'inéqualité r{hx) <||/«x II est satisfaite pour tout opérateur borné. Puisque |r| > 2 et r est cycliquement réduit, l'intersection X D X-1 est vide et on peut ainsi écrire /15 = * x ce qui implique que r(hs)=\\hs\H\^±hk\\<\\hx\\. Il nous reste à prouver que || Ajf ||< ^*ZX2+1- < 1- Soit X = {ii,- ¦ • , xjj. Sans perte de généralité, on peut supposer que ijt apparaît dans la relation r. Alors IIMte)ll+1)- i=l 76 CHAPITRE 5. LES OPÉRATEURS D'ADJACENCE... Maintenant, par le Freiheitssatz de Magnus (voir 1.5.8), le sous-groupe de r engendré par Xi,- ¦ ¦ ,i/t-i est libre sur k — 1 générateurs, ainsi le lemme 5.2.2 s'applique et on obtient bien l'expression \/k(2\/k — 2 + 1) qui est plus petite que 1 grâce à l'hypothèse k > 4. D Passons à la preuve de 5.2.1. Preuve : L'inégalité est prouvée comme dans la Proposition 5.2.3. Fixons y 6 X; alors HM = Jx^1+ E /»(«iT'MtOII V *€*-. En factorisant p(c) à droite,on obtient : Il hx W= l II P(ac-1) + p(bc-1) + 1 II . Mais ac~l et bc~x commutent : ils engendrent un sous-groupe H isomor- phe à 1?. Par transformée de Fourier, la C-algèbre réduite C'(H) est isométriquement isomorphe à C(T2), l'algèbre des fonctions continues sur le tore T = {(zi,z2) G C2 : |zi| = \z7\ = 1}, la norme sur C(T) étant la norme sup. Donc Il ^(ac-1) + P(Oc-1) + 1 H= suPl,lit>)eV,\zi + Z2 + 1| = 3. Remarque 5.2.5 : P. de la Harpe nous a fait remarquer que, si on s'in- téresse uniquement à || hs \\= r(hs), on peut raisonner comme suit; pour 5.3. LES GROUPES DE SURFACES 77 r =< X,T > un groupe à un relateur cycliquement réduit avec \r\ > 2, et y £ X apparaissant dans r, on a : HMI = ^x Wp(V)^p(V-1)+ E (pW+ />(*"') Il x£X-{y) ÇjfU+W E P(x) + P(x-l)\\) - 2#X Mais par le Freiheitssatz, X — {y} engendre librement un sous-groupe libre. On peut donc calculer la dernière norme grâce au résultat de Kesten (voir 1.5.5) : _____________ Il E (P(*) +P(a_1) 11=2V2(#X-I)-I. Ce qui donne finalement ||M<^(\/2#*-3+l) et qui permet de gagner essentiellement un facteur a/2 par rapport à la proposition 5.2.3. Ce gain est intéressant : en effet, Kesten démontre dans [35] l'inégalité suivante : ^f^ 2. Ces groupes ont une présentation standard < ai,bi,--- ,ag,bg : \Yi=i\a'i^<\ > 2; alors Sp(h$) = [—r, r] avec r < * s~ . 78 CHAPITRE 5. LES OPÉRATEURS D'ADJACENCE... Pour démontrer ce résultat, nous aurons besoin de la C*-aIgèbre réduite d'un groupe T. Rappelons que la C*-algèbre réduite d'un groupe T, que l'on note C"(r), est la C*-algèbre engendrée par p(T). Si T est sans torsion, la conjecture des idempotents (due à Kaplansky et Kadison) affirme que C*(T) n'a pas d'idempotent différent de 0 et 1 (voir [51] pour un survol). Pour un groupe à un relateur sans torsion, cette conjecture vient d'être démontrée par C. Béguin, H. Bettaieb et A. Valette (voir [5]). On en tire la proposition : Proposition 5.3.2 Soit T —< X : r > un groupe à un relateur sans torsion. Notons E la somme de tous les exposants dans r. Alors : i) Si S = O, alors Sp(hx) est soit un disque soit un anneau centré en 0; U) Si S est pair, alors Sp(hs) est un intervalle symétrique relativement à 0. Preuve : Tout élément dans C"(r) a un spectre connexe (sinon, par calcul fonctionnel holomorphe, on pourrait construire des idempotents non triviaux dans C'(T))'- Si S = 0, la proposition 1.5.9 nous dit que Sp(kx) est une réunion de cercles concentriques centrés en 0; par connexité, c'est soit un disque soit un anneau. De même, par connexité Sp(hs) doit être un intervalle, symétrique par rapport à 0 si S est pair. D Preuve de 5.3.1: le fait que Ts satisfasse la conjecture de Kaplansky- Kadison a été prouvé originellement par Kasparov [33]. Le résultat découle alors directement en combinant la proposition 5.3.2 avec le théorème 5.2.1.D Remarque 5.3.3 1. En tenant compte de 5.2.5, la borne supérieure du corollaire 5.3.1 s'améliore en ^-(1 + \/Ag — 3). 2. Une preuve complètement différente de la borne supérieure en 5.3.1 a été donnée récemment par L. Bartholdi, S. Cantat, T. Ceccherini Silberstein et P. de la Harpe (voir [4]). Cet article donne aussi une amélioration très intéressante de la borne supérieure pour le genre 2. 3. Lors d'une conversation à Zürich en juillet 1995, P. Sarnak a supputé que, pour un groupe de surface de genre g > 2, le nombre r(h$) était transcendant... Chapitre 6 Les résultats génériques On va montrer que dans le cas des présentations finies, le fait que X engendre un semi-groupe libre est générique au sens de Gromov (voir la définition en 1.7.1). 6.1 Le cas des groupes à un relateur Il est tout de même intéressant de présenter la preuve pour des groupes à un relateur car elle permet de dire facilement si une présentation donnée a cette propriété, ce qui n'est pas le cas dans la preuve générale. Lemme 6.1.1 Pour tout e. > 0 fixé, la propriété d'être e-équilibrée est asymp- totiquement presque sûre. Preuve : Soit #X = k pour simplifier. Notons C(Af) le nombre de mots cycliquement réduits de longueur /V dans IFx• Remarquons tout d'abord que C(N) est plus grand ou égal au nombre de mots réduits de longueur N dans Wx dont la dernière lettre n'est pas l'inverse de la première, i.e. (1) C(N)>2k(2k-l)N~2(2k-2). Estimons maintenant le nombre B(N) de "mauvaises" présentations, i.e de présentations < X : r > telles qu'il existe r' 6 R* un conjugué cyclique de r ou r-1, commençant par un mot positif dont la longueur est plus grande que eN. Comme il y a au plus 2./V éléments dans R' = {conjugués cycliques de r*1}, on a N B(N) <2N Yl °(N>1) 79 80 CHAPITRE 6. LES RÉSULTATS GÉNÉRIQUES où C(N, l) est le nombre de mots cycliquement réduits de longueur N com- mençant par un mot positif de longueur / exactement. On a donc i N (2) B(N) <2N J2 k'(2k - l)N~'- l=UN|+l En divisant (2) par (1), on estime le nombre de présentations non e-équilibrées : B(N) N(2k-1Y » fcw_ir, N(2k - L)2 fc'tJV'+1(2fc -I)-UWl-I _ fcW+i(2Jb - l)-^-1 2k(k - 1) 1 - k(2k - l)-1 Comme k > 2, cette expression tend exponentiellement vite vers 0 quand N-* oo. G On déduit donc : Théorème 6.1.2 Soit #X > 2 fixé. Une présentation T =< X : r > a asymptotiquement presque sûrement r(hx) = Ay ¦ Preuve : Remarquons que la conjonction de deux propriétés génériques est encore générique. Donc, par les lemmes 1.7.2 (avec A = 1/6) et 6.1.1, il est asymptotiquement presque sûr qu'une présentation à un relateur soit e-équilibrée et satisfasse C"(l/6), donc que r(hx) = Ax par 5.1.3. Remarque 6.1.3 Fixons un entier k > 1. Soit Tn =< Xn : rn > une suite de groupes à un relateur sur k générateurs, avec |rn| tendant vers l'infini pour n —> oo. Posons Sn = Xn U X'1. Il a été prouvé par Grigorchuk [27] (et redémontré récemment par Champetier [H]) que, si tous les Tn satisfont la condition de petite simplification C(X), avec A < 1/6, alors Itm r(hs„) = -----;-----• »-•oo "' fc Ceci correspond à l'idée intuitive que quand |r„| devient de plus en plus grand, le graphe de Cayley de Tn ressemble "localement" de plus en plus à un arbre. 6.2. LE CAS DES GROUPES DE PRÉSENTATION FINIE 81 6.2 Le cas des groupes de présentation finie Dans le cas des groupes à un relateur, c'est l'existence générique d'un algo- rithme de Dehn qui permet d'obtenir le résultat, malheureusement la con- dition C(A) avec A > 1/6 n'est pas générique dans le cas des groupes de présentation finie. D'autre part, il n'est pas clair que le fait d'avoir un algo- rithme de Dehn soit une condition générique, même s'il est connu que tout groupe hyperbolique possède une présentation satisfaisant un algorithme de Dehn. Pour obtenir un résultat analogue à 6.1.2, il faut donc trouver une condition générique remplaçant l'algorithme de Dehn. Introduisons encore la notation suivante. Pour r dans Wx on notera n+(r) (resp. n-(r)) le nombre d'apparitions dans r de générateurs à exposants +1. (resp. nombre d'apparitions dans r de générateurs à exposants —1). Supposons pour simplifier que r = uj^'w^"1 • • • w*1 avec u>,- des mots posi- tifs. On a donc les relations suivantes : • n+(r) = Y^ m ; impairs • "-(r) = Y, lw,'l i pairs • n+(r) + n-(r) = |r| Définition 6.2.1 On dit que r € IFx <* 'a propriété Es pour S > 0, si pour tout sous-mot u de r de longueur \u\ > |r|/4 on a, Enonçons le résultat principal de cette section. Théorème 6.2.2 Pour les présentations finies < X, R >, la propriété P(J1X) = /Iy est asymptotiquement presque sûre. Pour le démontrer nous aurons besoin des lemmes suivants : Lemme 6.2.3 Pour m0 dans IN fixé, m0 > 3, notons •w-?e(:) ;=o v ' alors il existe une constantes A > 0 dépendant de % telle que a(n) < AC" avec C =----------^---- < L v ' - 2(mo-l)(mo-1'''m|' 82 CHAPITRE 6. LES RÉSULTATS GÉNÉRIQUES Preuve Démontrons tout d'abord l'assertion : C = , _i)Tm0-i)/m0 < 1 Pour tout mo > 3. Pour /(x) = Z1-1W1X-O/, i on a /(3) < 1. Il suffit donc de voir que la fonction f(x) est décroissante en x. Ce qui est le cas puisque f'(x) = T(~x-ï)(-~- L Définissons la suite auxiliaire : «¦>-s=£(T)- On va montrer que les points suivants : 1) pour tout n0 = 0(mod m0) et pour tout t = 0, • ¦ • , m0 - 2, ß(n0/m0) = a(n0) et a(n0 + i) > a(n0 + t + 1); 2) /3(n) < A Cm°n pour tout n dans IN; Le fait que ß(n0/m0) = a(n0) est clair par définition. Estimons pour i compris entre 0 et m0 — 2 fixé, a(«o + 0 - a(no + i + 1) 1("0+0/"1Ol d/mo , • \ i f"o/">o / , . \ no/mo .. . l_( n0 + i\ > 0 +•+' ^ n0/m0 J 2"o 2"o+' Ceci prouve le point 1). Pour démontrer 2), estimons ß(n + 1) — ß(n) nN ., . £î _1 /(n + l)m„\ A 1 fm0n\ ,=0 V / *~0 E(T)^£g(r-°")(™ 1 Omon 6.2. LE CAS DES GROUPES DE PRÉSENTATION FINIE 83 Comme 1=0 J=O V J / \ J / m0 • \ n+l s s - g(?)g(r-") = E ( T ) E ( T )en p°sant ' = »-i j=0 ^ J ' 1=0 ^ ' _ f m°\\^ f m°n \ i { m° \sr f m°n \ ~ \°)k\ ' ) \1^èv < ) m0 / \ «+I-i / \ +E(T)E(T) >=2 V J ' I=O V ' _ f m0n \ [Y m0 \ / m0 \] yV / m0n \ - U+w + iv o j + v i JJèv ' ; +E(T){Ê(T)-E(rO} = ^è(T)+(;ri)-E(?)E(rO 9m0 V^ ( mo" \ f m0n \ *y~> f mQn \ y^ / m0 \ On a donc 0(n+l)-/?(n) 1 2"(mo+i) (m0rc)! 2n(m0 + l) m0-2 )mo-2 / \ mo / _ y^ / m0n \ yV / m0 I^ \ n~l I 2^ \ j I=O V 7 b='+2 V 1 (n + l)![(m0-l)n-l]! 1 r m° E Lj=l+2 E („-/)![(mo-I)71 + /]! m0 i 84 CHAPITRE 6. LES RÉSULTATS GÉNÉRIQUES = 2»<».-m>(„ + i)!(ÎX- i)„ + mo - 2)! i n (H> - D" + /*)- mo-2 m0-2 E /=0 \ U"='+2 E(T) (m0n)! ( mo-2 ri("-^+i) n ((^o-i)n+^) ¢,=0 K|=/+l ("mo-2 2»<™.+'>n!((TO0 -Wv- \ n ((m° -i)n+"}- m0-2 E J=O \ b'='+2 ^=O 1,(T) mo-2 11("-^ + 1) Il ((mo-lin + u,))}/ «1=0 V1=I-H mo-2 (n + 1) [] [(m0-l)n + a] Les termes dominants de la fraction sont de même degré égal à mo — 1. Cette fraction tend pour n —> co vers une constante négative. Cela peut s'observer en regardant le coefficient du terme dominant du numérateur (le dénominateur étant positif) pour m0 > 2. Il ne nous reste qu'à évaluer ,»(^,tl) 'J'' _.. ,,. Pour cela, employons la formule de Stirling : nne~n\/2nn < n! < nne~ny/2nne1/nn. On obtient donc que _______(m0n)!_______ 2«(*"o+i)„!((mo _ I)n)! monm<'"e-monv'27rmone1/12mo" < 2"(m»+1)n"e-"v/27rn[n(m0 - l)]n(mo-i)e-n(m0-i)^27Tn(Tn0 + 1) mo"°"\/™oV/12m°n 2"(">o+i)(mo _ i)(m„-i)ny27r(m0+ l)n mo s/môe l/12mon - V2(m0 - l)Ano-i)/mo D'autre part, on peut voir, par le théorème central limite, que /3(n) tend vers 0 quand n tend vers l'infini. Ceci permet de dire qu'il existe A > 0 tel que |j0(tï)| < ACm°n. Les points 1) et 2) permettent de conclure. D 6.2. LE CAS DES GROUPES DE PRÉSENTATION FINIE 85 Lemme 6.2.4 Pour \X\ > 2 et pour S > 8 fixés, la propriété Es est asymp- totiquement presque sûre. Preuve du lemme 6.2.4 Notons B(n) = #{r Ç IFx IIH = n,r réduit, cycliquement réduit}, A(n) = #{r € B(n) | |r| = n, r ayant Es} et C(n) = B(n) - A{n). C(n) se décrit donc comme #{r 6 B(n) I 3u sous-mot de r, |u| > |r|/4, ^T £ IrTx-1 + *1> 1) Estimons le nombre de mots u de longueur / tels que Jj+r: > 1 + o" Si /ï = n+(u), alors n_(u) = / — h et avec ces notations, on obtient que pj > 1 + o" est équivalent à /i > j±|/. On peut former exactement I , J khkl~h mots non réduits de longueur égale à / avec l'alphabet X U X~l ayant exactement /i lettres avec un exposant positif. Donc #{u 6 Fa- I |u| < /, u réduit, ^4 > * + 5} n_(u) .¦—m ^ ' l l %f J sinon Ou7(OH ;w; *:^6IN On estime de la même manière le nombre de mots u de longueur / tels que ==£4 > 1 + S. Notons /3(/) = #{u e Wx I u réduit, |u| = J, ^T > ! + °" ou N^ >!+<*}• n-(u; n+(ul on a : E(J)" ;=-r(<> V ' -•so * P(O < 2 J=T-(O '-7(I) 2) Estimons le nombre de mots r de longueur n dans B(n) tels que r contienne un sous-mot de longueur / ne satisfaisant pas "*l"i < 1 + 6 86 CHAPITRE 6. LES RÉSULTATS GÉNÉRIQUES ou rc~r; < 1 + <$. Il y a (n — / + 1) places dans r où le sous-mot u peut commencer. Donc r s'écrit r = rjur2 et comme r est réduit, T1 et r2 le sont aussi. On a de plus que |ri| + \r2\ = n — /. Ce qui implique #{r,} < 2k(2k — l)'r,'_1. Ceci nous permet de dire que C(n) < Y, ß{l)(n-l+l){2k)2{2k-l)"-'-2 /=ln/4J < J]) (Jt-l/2)"-'-2/c22"-'(n-/+l)2 Yl ( ¦ )k' I=In/41 J=O X ' < £ (fc - l/2)-'-2fc2+'2"-'(n - i + 1)2 £ ( J J /=ln/4| J=O X J ' Estimons C(n)/B(n), n) £?=,./«(* - l/2)"-'-2fc2+'2-'(n -/ + 1)2 E^O ( j ) ") - 2fc B(n) - 2"fc(fc- l/2)"-2(fc- 1) / '-7(0 l=ln/4) X ' ' J=O v ' ' Comme 7(/) est environ égal à I ^j^ J, / - y(l) =[ j+ï ^ Par 'e lemme 6.2.3 en prenant rriQ — 2 + 8, on a '-t(') /,X1 l'/m"' / , \ 1 £(})*-SU)^ 0ÙC= (2(m„-l)T"0-»/m„)- On en déduit que C(n) ^ 2kA ^ ( Ck V, , . V ' (=[n/4| X 7 2fcA / ru \ ln/41 JL / ri- \'-l"/"l 4 / Ck Y'"' J^ ( Ck Y 1 U-1/2 J ^ U -1/2 J x ' ' l=\n/4\ X ' ' A ( Ck V"/41 ^ V ' ' 1= n/41 , , , (n-/ + l) fc-1 U-1/2 7 ^ ' ' "" ' l ; = 1>>/4J 2fcA / ck y/41 ^u , , ,. . ck + 1> Sik^TT2 2, C < 3/4, il faut donc choisir mo tel que [h%) TTl0 < 0, 75. 2(m0 - l)(mo-0/mo Par calcul, on voit que pour 6 = 8, [ ^-j J= — et que 2,91.°/l0 = 0,69. D Lemme 6.2.5 Soit < X, R > une présentation finie satisfaisant une condi- tion 6 ( avec B < 1/199^ alors pour tout diagramme A, il existe au moins un r,- dans R' bordant une cellule et ayant au moins yj§; de ses éléments sur le bord du diagramme A. Par conséquent pour tout un mot non trivial ui de Wx représentant le neutre dans T =< X, R >, il existe au moins un r dans R' qui a au moins yHj de ses éléments sur u. Preuve La condition 6 implique A, /(A) < 6#A pour tout diagramme réduit. Par définition, #A = E(A) + /(A); on en déduit /(A) < jzêE(A). On peut se restreindre aux diagrammes dont l'intérieur est connexe, puisque chacune des parties d'un diagramme quelconque permet de définir un autre diagramme et que les arêtes les reliant ne font qu'augmenter le nombre d'arêtes extérieures. Définissons la notation suivante : pour une face du diagramme /,-, on note Int(fi) (resp. Ext(fi)) le nombre d'arêtes de /,- qui sont à l'intérieur du diagramme (resp. qui sont sur le bord du diagramme). On notera aussi #(/,) le nombre total d'arêtes de la face /,. Supposons par l'absurde que toutes les faces d'un diagramme A aient plus de 1% de leurs arêtes à l'intérieur ( pour toute face /, du diagramme, on a 100/n<(/i) > #(/,)). Il est clair que E(A) = X),- Ext(fi) et que /(A) = 2 YIi ^n*(/>)- En effet chaque arête intérieure appartient à deux faces du diagramme, alors que les arêtes extérieures n'appartiennent qu'à une face. On obtient donc la relation : #(A) = \ £ inu) + E Extw = E #(/•) - \ EInt^)- 88 CHAPITRES. LES RÉSULTATS GÉNÉRIQUES Si pour tout /,, on a £#(/.) = #(a) +^Em/.) i t #(A) #(A). Pour ce diagramme, /(A) > ^#(A). Ce qui contredit la condition 9 pour S = 1/199. D Lemme 6.2.6 Soit r = s,-, ---Sin avec s^ € S = X U X~x. Si r a la propriété Es avec S = 8, alors toute sous-suite ordonnée (jZi,--- ,yt) de la suite ordonnée (s;,,--- ,s,..) telle que l > rjljH alterne au moins 3 fois. Preuve Notons \r\ = n, n+(r) = /, donc n_(r) = n — / et supposons que I > il - I, on a que / > n/2. Comme r a la propriété Es, on a que n 1 + 6 — < l <-------n. 2 - - 2 + 5 Ceci nous permet de dire qu'il y a au moins j+jTi termes négatifs dans r. Regardons r comme produit de 3 mots r = rir2r3 avec |r,| > |r|/4. Comme r a la propriété Es, tout sous-mot u de longueur plus grande que |r|/4 est tel que soit 1 < =^| < 1 + 6, soit 1 < =^j < 1 + S. Ceci nous permet de supposer que pour chaque t = 1,2,3, on a soit 1 < =±lïil < i + S ,soit 1 < =44 < 1 + <*• — n_(r,) — ' — n+(r;) — Comme 6 = 8, on peut donc supposer que rt est tel que f < »+(r,) < f| Ï5 < "-(n) < f Ceci permet de dire que n+(ri) > ^ et 1.(T1) > ^. Par un raisonnement analogue on a n+(r,-)'> ^ et n_(r,) > ^j pour i = 2,3. Notons (t/i, • • ¦ , t/m, ) la sous-suite de (j/i, • • • , yi) qui correspond aux élé- ments de ri, (JZm1-H,"- ,JZm2) la sous-suite de (jzi,--- ,y/) qui correspond aux éléments de r2, (jzmj+i,--- ,yi) la sous-suite de (j/i,--- , jzi) qui cor- respond aux éléments de r3. Comme au pire 1% des éléments de r dis- paraissent dans (t/i, - - - ,JZi), on a que (jzi,-- ,JZm1) (resp. (ym,+i,--- ,JZm2); (jZm2+i,-- ,JZ/) ) a au plus 4% d'éléments de moins que dans T1 (resp. r2; r3). Et comme chaque r, contient au moins 10% de termes de chaque signe, 100/n<(/,) > alors 100^2 Int(fi) > yE^W > t 199/(A) > 6.2. LE CAS DES GROUPES DE PRÉSENTATION FINIE 89 on a que n_((t/i,--- ,ymi)) > 0 et n+((y,,--- ,ym,)) > 0. Et de même pour (ymi+ii"- ,Vmi) et (ymj+i,-" îÎ/i)- Ceci permet de dire que les trois sous-suites ordonnées (yi,--- ,ymi), (ym,+i,--- ,Vm2) et (ymj+1,-- ,y,) de (i/i, • • ¦ ,yi) contiennent chacune au moins un changement de signe. Ce qui permet de dire que (yi, • ¦ • ,yi) en contient au moins trois. D Proposition 6.2.7 Soit T =< X, R > une présentation finie telle que T satisfasse une condition O1 avec 6 < 1/199 fixé, et que pour tout r £ R ait la propriété Eg avec S > 8/ alors X engendre dans F un semi-groupe libre. Preuve : Notons N le sous-groupe normal engendré par R dans IFx et soit w un élément non trivial de /V. Notons A un diagramme réduit de bord dA = u>. Comme la présentation < X, R > satisfait une condition 9 avec 6 petit, par le lemme 6.2.5, le diagramme A contient une cellule dont le bord est un r 6 Ä*-et tel que r ait 99% de ses générateurs sur le bord de A. Comme r a la propriété Es, par le lemme 6.2.6, la suite ordonnée (yi,¦¦¦ , y/) définie comme r Pl ui contient au moins 3 changements de signe. Donc ui en contient au moins 3 aussi. Pour deux mots positifs W1, ui^ dans IF*, u^u^"1 est un mot ayant un seul changement de signe, donc il n'appartient pas à Af. Ceci implique que l'image de UJ1UJf1 dans T n'est pas triviale, et donc uii est différent de Ui2 dans T. Ceci implique que le semi-groupe engendré par X dans r est libre. D Preuve du théorème 6.2.2 : Il suffit, pour prouver le théorème, de re- marquer que l'intersection d'un nombre fini de propriétés asymptotiquement presque sûres est encore asymptotiquement presque sûre et d'invoquer les lemmes 6.2.4, 6.1.1 ainsi que le résultat d'Ol'shanskii qui dit que pour tout 6 > 0 fixé, la condition 6 est asymptotiquement presque sûre. On conclut en invoquant la proposition 6.2.7 et Ie théorème 1.5.6, puisque l'hyperbolicité, est aussi une propriété asymptotiquement presque sûre : en effet,Ol'shanskii [42] et Champetier [11] ont montré indépendamment que l'hyperbolicité dé- coule de la condition 6. D Perspectives Un tel travail laisse un goût d'inachevé, car plusieurs questions qui ont été à la base de certains développements n'ont pas obtenus de réponses complètement satisfaisantes. C'est le cas, par exemple, de la valeur exacte de || h$ \\ pour les groupes de surfaces Y9. D'autre part, le fait que des questions restent en suspens, permet d'en- trevoir des ouvertures possibles pour l'avenir. Voilà quelques points sur lesquels je désire prolonger cette réflexion. Je vais les citer par ordre d'apparitions dans les chapitres. Concernant le chapitre 2, il me semblerait intéressant de considérer la famille de groupes 5L2(FP). On pourrait essayer de donner des bornes in- férieures et supérieures aux constantes de Kazhdan de ces groupes et d'un système de générateurs fixé en employant les constantes l2 puisque celles-ci ne dépendent que des représentations irréductibles de SLi(Fp) et que ces représentations sont toutes connues. Ceci pourrait permettre de répondre aux questions que pose A. Lubotzky dans [37] : a) "Peut-on trouver des systèmes de générateurs 5P de SL^(Fp) pour lesquels les graphes G(SL2(Fp),Sp) ne seraient pas expanseurs?" b) "Existe-t-il des systèmes de générateurs Sp bornés de SLn(Fp) pour lesquels les graphes G(SL„(FP),SP) seraient expanseurs?" c) Même question que b) pour les groupes symétrique Sn. Dans la même direction, il pourrait être intéressant de calculer les con- stantes de Kazhdan k(SU(2), 5(/(2), -Kn) où nn est la seule représentation ir- réductible de degré n de SU(2), ainsi que la constante de Kazhdan de 50(2) relativement à un système de générateurs [O, e] associée à Ia représentation régulière gauche sur l'orthogonal des constantes dans L2(SO(2)). Concernant la définition spectrale de la propriété (T), Alain Connes a posé la question : pour G un groupe de Lie semi-simple, a-t-on l'équivalence suivante? G a la propriété (T) si et seulement s'il existe un élément auto-adjoint H dans Z(U(g)), le centre de l'algèbre enveloppante, et c > 0 tels que pour 91 92 CHAPITRE 6. LES RÉSULTATS GÉNÉRIQUES toute représentation 7r dans G* : e < 7r(fi) (si G est compact, il suffit de prendre pour fi l'opérateur de Casimir de G). Une autre direction concernant le chapitre 3 serait de faire pour des groupes de Lie, un raisonnement analogue à celui-ci : Soient r un groupe de type fini et tt une représentation unitaire de P sur un espace de Hilbert Hn. On va définir un modèle non standard de n comme suit. Soit U un ultrafiltre sur Ncontenant le filtre des parties cofinies, on définit H comme /°°(N, Hn)/N, où N = {(£„)„eN e HIH Hn) I lim II £„ H= 0}. "H est un espace de Hilbert relativement au produit scalaire induit par le produit scalaire semi-défini positif : < (W I (*?n) >= lim < {„ I ij. > sur /°°(N, Hn). La représentation isométrique de G sur /°°(N, Hn) par action diagonale passe au quotient et induit la représentation unitaire 5? de G sur H : 5r est le modèle non standard de 1H. Proposition 6.2.8 7r a presque des vecteurs invariants si et seulement si 5? o des vecteurs fixes non nuls. Preuve =>) Si (fn)n>i est une suite de vecteurs de norme 1 dans Hn telle que II 7r(s)£n - £„ || —> 0 pour tout s € S, on voit que (n(s)£n - £„)„>i € N et donc n(s)Ç = £ où £ est l'image de (f„)„>i dans 1H. -¢=) Si f est un vecteur de norme 1 dans Ti qui est fixe par îr, on a 5r(s)£ = Ç pour tout s dans S. Donc Hm || n(s)£n — £„ ||-> 0 et lim || (£„) \\-y 1 (où (fn) représente £). Cela veut dire que pour tout k > 1, pour tout s 6 5 : F,* = {«e N| \\*(s)tn-tn\\<±}eu. Posons Fk := Ç) FS:k : Fk C U (car U est un ultrafiltre). «es On prend alors n^ dans Fk : on a alors pour tout s E S : M*)U-U\\<1* llf-JI>i-£- La suite (r]k)k>i définie par rjk = "* . est donc presque invariante pour Il Sn4 H n{S). O On peut alors redémontrer le résultat de [17]. 6.2. LE CAS DES GROUPES DE PRÉSENTATION FINIE 93 Corollaire 6.2.9 Soit h$ = ïtsYsuçs8! 'a représentation n a presque des vecteurs invariants si et seulement si 1 6 Sp(n(hs))- Preuve : n a presque des vecteurs invariants non nuls, <=> 5r a des vecteurs fixes non nuls, <=> n(hs) a 1 comme valeur propre, <=> Tr(hs) a 1 comme valeur propre, approchée. La dernière équivalence résulte du théorème 1.4.(tt) de [46]. D Il serait intéressant de voir si on peut faire marcher le même genre d'idées pour les groupes de Lie. Cela nécessite de définir un modèle non standard pour les groupes de Lie. En dernier lieu, concernant les propriétés génériques, il est certainement possible d'employer le même genre d'arguments qu'au chapitre 6 pour démon- trer l'existence asymptotique de sous-groupes libres à #X — 1 générateurs dans le cas des groupes de présentations finies < X, R > ("Freiheitssatz asymptotique"). Une autre direction intéressante serait d'essayer de lire sur la présentation, l'existence d'une condition 0. Cela permettrait d'obtenir non plus seulement des résultats asymptotiques, mais des résultats sur des présentations précises. Bibliographie [1] C. AKEMANN AND P. OSTRAND, Computing norms in group C- algebras, Amer. J. Math., 98 (1976), pp. 1015-1047. [2] C. AKEMANN AND M. WALTER, Unbounded negative definite functions, Canadian Journal of Math., 33 (1981), pp. 862-871. [3] R. BACHER AND P. LA HARPE, Exact values of Kazhdan constants for some finite groups, Journal of Algebra, 413 (1994), pp. 495-515. [4] L. Bartholdi, S. Cantat, T. Ceccherini-Silberstein, and P. DE LA HARPE, Estimates for simple sandom walks on surface groups. preprint 1995. [5] C. BÉGUIN, H. BETTAIEB, AND A. VALETTE, K-theory for C-algebras of one-relator groups, preprint 1995. [6] M. BEKKA, P.-A. CherIX, AND A. VALETTE, Proper affine isometric action of amenable groups, in Novikov Conjecture, Index Theorems and Rigidity, no. 227 in London Mathematical Society Lecture Notes Series, Cambridge University Press, 1995. [7] M. BEKKA AND A. VALETTE, Group cohomology, harmonic functions and the first L2-Betti numbers, à paraître dans Potential Analysis. [8] F. BlEN, Construction of telephone networks by group representation, Notices of AMS, 36 (1989), pp. 5-22. [9] C. ChamPETIER, Introduction à la petite simplification., à paraître dans proceedings of congres 'Cayley graphs', Ecole Normale Supérieure de Lyon, France, 13-15 décembre 1993. [10] ------, Propriétés statistiques des groupes de présentation finie, à paraître dans Adv. in Maths. 95 96 BIBLIOGRAPHIE [11] ------, Cocroissance des groupes à petite simplification, Bull. London Math. Soc, 25 (1993), pp. 438-444. [12] CHEEGER AND M. GROMOV, L2-cohomology and group cohomology, Topology, 25 (1986), pp. 189-215. [13] P.-A. CHERIX, Generic result for the existence of free semi-group, in Séminaire de Théorie Spectrale et géométrie, H. Pesce, ed., no. 13, Uni- versité de Grenoble I, INSTITUT FOURIER, 1994-1995. [14] ------, Property (T) and expanding constants for semidirect products, Lin- ear and Multilinear Algebra, 39 (1995), pp. 153-160. [15] P.-A. ChERIX AND A. VALETTE, On spectra of simple random walks on one-relator groups, à paraître dans Pacific J. of math, with an appendix of P. Jolissaint. [16] M. DAY, Convolutions, means and spectra, Illinois J. Math., 8 (1964), pp. 100-111. [17] P. de la Harpe, A. Robertson, and A. Valette, On the spectrum of the sum of generators for a finitely generated group, Israel J. of Maths., 81 (1993), pp. 65-96. [18] ------, On the spectrum of the sum of generators for a finitely generated group ii, Colloquium Math., LXV (1993), pp. 87-102. [19] P. DE LA HARPE AND A. VALETTE, La propriété (T) pour les groupes localement compacts., no. 175 in Astérisque, Société mathématique de France, 1989. [20] Y. C. DE VERDIÈRE, Le trou spectral des graphes et leurs propriétés d'- expansion, Séminaire de théorie spectrale et géométrie, Grenoble, (1993- 1994), pp. 51-68. [21] A. DEUTSCH, Some calculations of Kazhdan constants and properties related to property (T), PhD thesis, Univ. of Edinburgh, 1992. [22] ------, Kazhdan constants for the circle, Bull. London Math. Soc, 26 (1994), pp. 459-464. [23] A. DEUTSCH AND A. VALETTE, On diameters of orbits of compact groups in unitary representations, à paraître dans J. Austrial Math. Soc. (Serie A). BIBLIOGRAPHIE 97 [24] J. DlEUDONNÉ, Éléments d'analyse, vol. 2, Gauthier-Villard, 1968. [25] J. DlXMIER, Algèbres enveloppantes, no. 37 in Cahiers scientifiques, Gauthier-Villars, 1974. [26] J. DlXMIER AND P. MaLIAVIN, Factorisations de functions et de vecteurs inféfiniment différentiables, Bull. Sei. Math., 2e série 102 (1978), pp. 305-330. [27] R. GrIGORCHUK, Symmetrical random walks on discrete groups, MuI- ticomponent random systems, Nauk, Moscow, 1978. [28] M. GrOMOV, Hyperbolic groups, Essays in Group Theory, éd. S.M. Ger- sten, M.S.R.I. Pubi., 8 (1987), pp. 75-263. [29] ------, Asymptotique invariants of infinite groups, no. 182 in London Math. Soc. Lect. Notes Ser., London Math. Society, 1993. [30] A. GUICHARDET, Cohomologie des groupes topologiques et des algèbres de Lie., Nathan, 1980. [31] G. HOCHSCHILD, La structure des groupes de Lie, vol. 27 of Monogra- phies universitaires de mathématiques, Dunod, 1968. [32] P. JORGENSEN, Operators and Representation Theory, no. 147 in Math- ematics Studies, North-Holland, 1988. [33] G. KASPAROV, Lorentz groups: K-theory of unitary representations and crossed products, Dokl. Akad. Nauk SSSR, 275 (1984), pp. 541-545. in Russian. [34] H. RESTEN, Full banach mean values on countable groups, Math. Scand., 7 (1959), pp. 146-156. [35] ------, Symmetric random walks on groups, Trans. Amer. Math. Soc, 92 (1959), pp. 336-354. [36] A. LUBOTZKY, Discrete groups, Expanding graphs and Invariant mea- sures, no. 125 in Progress in mathematics, Birkaiiser, 1994. [37] ------, Cayley graphs, eigenvalues, expanders and random walks, in Sur- veys in Combinatorics, P. Rowlinson, ed., no. 218 in London Mathe- matical Society Lecture Note Series, Cambridge University Press, 1995, pp. 155-189. 98 BIBLIOGRAPHIE [38] R. LYNDON AND P. SCHUPP, Combinatorial group theory, no. 89 in Ergebnisse der Math., Springer, 1977. [39] W. Magnus, A. Karras, and D. Solitar, Combinatorial group theory, John Wiley and Sons, 1965. [40] G. MARGULIS, Explicit constructions of concentrator, Problems Inform. Transmission, 9-4 (1973), pp. 325-332. [41] E. NELSON, Analytic vectors, Annals of Mathematics, 70 (1959), pp. 572-615. [42] A. Ol'SHANSKII, Alomost every group is hyperbolic, International j. of Algebra and Computation, 2 (1992), pp. 1-17. [43] A. PaZY, Semigroups of Linear Operators and Applications to Par- tial Differential Equations, no. 44 in Applied Mathematical Sciences, Springer, 1983. [44] N. POULSEN, On C°°-vectors and intertwining bilinear forms for repre- sentations of lie groups, J. of Functional Analysis, 9 (1972), pp. 87-120. [45] R. J.ZlMMER, Ergodic Theory and Semisimple Groups, no. 81 in Mono- graphs in Mathematics, Birkhäuser, 1984. [46] H. SCHAEFER, Banach Lattices and Positive Operators, no. 215 in Die Grundlehren der mathematischen Wissenschaften, Springer, 1974. [47] J.-P. SERRE, Représentations de groupes finis, Méthodes, Hermann, 1967. [48] ------, Arbres, amalgames, SL2, no. 46 in Astérisque, Soc. Math. France, 1977. [49] A. ShENITZER, Decomposition of a group with a single defining relation into a free product, Proc. Amer. Math. Soc, 6 (1955), pp. 273-279. [50] R. STREBEL, Small cancellation groups, no. 83 in Progress in Maths., Birkaüser, 1990, pp. 227-273. [51] A. VALETTE, The conjecture of idempotents: a survey of the C- algebraic approach, ull. Soc. Math. Belgique, XLI (1989), pp. 485-521. [52] ------, Old and new about property (T), in Representations of Lie groups and quantum groups, M. P. V. Baldoni, ed., no. 311 in Pitman Research Notes in Math. Ser., Longman, 1994, pp. 271-333. BIBLIOGRAPHIE 99 [53] L. WANG, On isolated points in the dual spaces of locally compact groups, Math. Ann., 218 (1975), pp. 19-34. [54] W. WOESS, A short computation of the norms of free convolution oper- ators, Proc. Amer. Math. Soc, 96 (1986), pp. 167-170. Index Es, see mot ayant Es e-équilibré, see mot e-équilibré a-T-menable, see groupe a-T-menable action isométrique affine, 11 propre, 57 aire combinatoire, 21 algèbre de Lie, 9 enveloppante, 9 arête, 13 asymptotiquement presque sûre, 21 Cayley (graphe de), 16 cobord, 11 cocycle, 11 coefficient de n, 9 condition 6, 21 connecteur uniforme, 14 constante d'expansion, 15 de Kazhdan, 8 de Kazhdan l2, 34 de Kazhdan L2, 54 degré d'un sommet, 13 Dehn (algorithme de), 19 diagramme, 20 réduit, 20 espace de Gàrding, 10 expanseur, 14 fonction propre, 57 Freiheitssatz, 18 graphe, 13 régulier, 13 spectre, 14 groupe à petite simplification, 19 à un relateur, 18 a-T-menable, 57 de cohomologie, 12 de Lie, 9 de surface, 77 finiment engendré, 16 libre, 15 générateur infinitésimal, 10 générique, see propriété générique Haagerup (propriété d'approxima- tion de), 57 isométrie affine, 11 laplacien sur un graphe, 14 libre, see groupe libre mot e-équilibré, 67 a la propriété Es, 81 alterne suffisamment, 67 cycliquement réduit, 18 positif, 67 nombre de Betti L2, 61 100 INDEX opérateur d'adjacence, 13 orientation, 14 pièce, 19 propriété générique, 21 propriété (T), 7 présentation d'un groupe, 16 finie, 16 représentation, 7 unitaire, 7 revêtement double, 15 semi-groupe, 10 sommet, 13 adjacent, 13 système de générateurs, 16 vecteur (e, A^-invariant, 7 C°°,9 presque invariants, 7 Glossaire B1{G,k)......................11 H(G, K)........................8 Bi(G).........................15 G..............................8 C(A)..........................19 G*.............................8 E(A)..........................20 6J2J(T).........................61 Es............................81 hs...:.........................16 G(r, S)........................16 hx............................16 G0............................13 k(h„, G).......................53 G1............................13 I2P)..........................16 H D(G(T, X)).................60 HG)..........................13 ff>(G.»)......................12 l2(G°).........................13 H1EL2(G(T, X))..............60 r(hx).........................17 Hl.............................7 /(A)..........................20 K(h,G).......................54 R' ............................19 Sp(hx)........................17 2'(G1Tr).......................11 #(A)..........................20 IFa-..........................:.15 Ts.............................77 k(G, K,n)......................8 k(G, K)........................8 /C2(G, X, TT)....................34 /C2(Tr1G).......................34 (X,R).........................16 C-[H11)........................9 T(G)..........................13 T(G").........................13 T0[G).........................13 To(G0)........................13 V>i.v............................9 G..............................8 G".............................8 102