Théorie des fonctions holomorphes de plusieurs variables

Théorie des fonctions holomorphes de plusieurs variables CHEZ LE MÊME ÉDITEUR Dans la même collection Opérateurs ps...

127 downloads 984 Views 11MB Size Report

This content was uploaded by our users and we assume good faith they have the permission to share this book. If you own the copyright to this book and it is wrongfully on our website, we offer a simple DMCA procedure to remove your content from our site. Start by pressing the button below!

Report copyright / DMCA form

DOWNLOAD PDF

Théorie des fonctions holomorphes de plusieurs variables

CHEZ LE MÊME ÉDITEUR

Dans la même collection

Opérateurs pseudo-différentiels et théorème de Nash-Moser, par G. Alinhac. 1991, 192 pages. Géométrie algébrique, par D. Perrin. 1995,316 pages. Groupes quantiques. Introduction au point de vue formel, par A. Guichardet. 1995, 164 pages. Photons et atomes. Introduction à l'électrodynamique quantique, par C. Cohen-Tannoudji, J. Dupont-Roc, G. Grynberg. 1987,422 pages. Processus d'interactions entre photons et atomes, par C. Cohen-Tannoudji, J. DupontRoc, G. Grynberg. nouveau tirage, 1988,648 pages. Hydrodynamique physique, par E. Guyon, J. P. Hulin, L. Petit. 1991,520 pages. Éléments de chimie quantique à l'usage des chimistes, par J. L. Rivail. 1994, 2e édition, 456 pages. Astrophysique 528 pages.

:

méthodes physiques de l'observation, par P. Léna. 1996, 2e édition,

Théorie des fonctions holomorphes de plusieurs variables

Christine Laurent-Thiébaut Professeur à l'université Joseph Fourier (Grenoble 1)

S A V O I R S

A C T U E L S

InterÉditions / CNRS Éditions

f DANGER I

Ce logo a pour objet d'alerter le lecteur sur la menace que représente pour l'avenir de l'écrit, tout particulièrement dans le domaine universitaire, le développement massif d u photocopillage >). Cette pratique qui s'est généralisée, notamment dans les établissements d'enseignement, provoque une baisse brutale des achats de livres, au point que la possibilité même pour les auteurs de créer des œuvres nouvelles et de les faire éditer correctement est aujourd'hui menacée. Nous rappelons donc que la reproduction et la vente sans autorisation, ainsi que le recel, sont passibles de poursuites. Les demandes d'autorisation de photocopier doivent être adressées à l'éditeur ou au Centre français d'exploitation du droit de copie : 20, rue des Grands-Augustins,75006 Paris. Tél. : O1 44 07 47 70. (t

PHOTOCOPILLAGE . TUELELIVRE

O 1997, InterÉditions, 5, rue Laromiguière, 75241 Paris Cedex 05

et CNRS Éditions, 20/22, rue Saint-Armand, 75015 Paris. Tous droits d e traduction, d'adaptation et d e reproduction par tous procédés, réservés pour tous pays. Toute reproduction ou représentation intégrale ou partielle, par quelque procédé que ce soit des pages publiées dans le présent ouvrage, faite sans l'autorisation de l'éditeur, est illicite et constitue u n e contrefaçon. Seules sont autorisées, d ' u n e part, les reproductions strictement réservées à l'usage privé d u copiste et non destinées à une utilisation collective, et d'autre part, les courtes citations justifiées par le caractère scientifique ou d'information de l'œuvre dans laquelle elles sont incorporées (art. L. 122-4. L. 122-5 et L. 335-2 du Code d e la propriété intellectuelle). Des photocopies payantes peuvent être réalisées avec l'accord de l'éditeur. S'adresser au : Centre français d'exploitation d u droit d e copie, 3, rue Hautefeuille, 75006 Paris. Tél. : O 1 43 26 95 35.

ISBN : 2-7296-0660-2 ISSN : 2-271-05501-6

Table des matières

......................... Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . Avant-propos

I

xi

Propriétés élémentaires locales des fonctions holomorphes de plusieurs variables complexes . . . . . . . . . . . . . 1 Notations et définitions . . . . . . . . . Formule de Cauchy dans les polydisques . . 3 Théorème de l'application ouverte . . . . 4 Suites de fonctions holomorphes . . . . . 5 Applications holomorphes . . . . . . . 6 Quelques théorèmes d'extension holomorphe 2

II

ix

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . 1 . . . 4 . . . 8 . . 10 . . . . . . . . . 11 . . . . . . . . . 13

Courants. structures complexes . . . . . . . . . . . . . . 1 2

3 4

5

6 7

8

Courants . . . . . . . . . . . . . . . . . Régularisation . . . . . . . . . . . . . . . Indice de Kronecker . . . . . . . . . . . . Variétés analytiques complexes . . . . . . . . Structures complexes . . . . . . . . . . . . Formes différentielles de type ( p .q ) . . . . . . Opérateur cohomologie de Dolbeault . . . . Espace tangent complexe au bord d u n domaine .

a.

1

21

. . . . . .

21

. . . . . .

28 38 43 46 47 49

. . . . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

51

III Noyau et formule de Bochner-Martinelli . Applications . . . 55 1 NoyauetformuledeBochner-Martinelli-Koppelman . Résolubilité du 8 pour une donnée à support compact . 3 Régularité du 8 . . . . . . . . . . . . . . . . . 4 Phénomène de Hartogs . . . . . . . . . . . . . 2

. . . . . . . . . .

. . . . . . . . .

55

61 66 69

Table des matières

vi

IV Transformée de Bochner-Martinelli et extension de fonctions CR . . . . . . . . . . . . . . . . . . . . . 73 1 Transformée de Bochner-Martineili . . . . . . . . . . . . . 73 2 Fonctions C R sur une hypersurface réelle . . . . . . . . . . 77 3 Théorème de Bochner . . . . . . . . . . . . . . . . . . 79 4

Formule de Stokes pour les fonctions C R . . . . . . . . . . .

83

5 Primitives du noyau de Bochner-Martinelli . . . . . . . . . . 85 6 Un théorème d'extension de fonctions CR . . . . . . . . . . 87

V

Extension de fonctions holomorphes et de fonctions CR dans les variétés . . . . . . . . . . . . . . . . . . . . .

91

1 Cohomologie à support compact et phénomène de Hartogs . . . 91 Extension de fonctions C R de classe C" . . . . . . . . . . . 94 3 FormuledeCauchy-Fantappié-LemmedeDolbeault . . . . . . 96 4 Isomorphisme de Dolbeault . . . . . . . . . . . . . . . . 101 5 Théorème de Bochner et extension de fonctions C R dans les variétés . . . . . . . . . . . . . . . . . . . . . 105 2

VI Domainesd'holomorphieetpseudoconvexité

. . . . . . . 109

1 Domainesdholomorphieetconvexitéholomorphe . . . . . . . 109 2 Fonctions plurisousharmoniques . . . . . . . . . . . . . . 117 3 Pseudoconvexité . . . . . . . . . . . . . . . . . . . . 129

a

VI1 Problème de Levi et résolution du dans les domaines strictement pseudoconvexes . . . . . . . . . . . . . . . 143 1 Résolution du d avec estimations holdériennes dans les ouverts strictement convexes . . . . . . . . . . . . . . . . . . . 2 Approximation uniforme locale des formes d-fermées dans les domaines strictement pseudoconvexes . . . . . . . . . . . 3 Finitude de la cohomologie de Dolbeault dans les domaines strictement pseudoconvexes . . . . . . . . . . . . . . . . 4 Invariance de la cohomologie de Dolbeault par les extensions strictement pseudoconvexes . . . . . . . . . . . . . . . . 5 Théorème d'annulation pour la cohomologie de Dolbeault dans les domaines strictement pseudoconvexes . . . . . . . . . . . 6 Formule intégrale pour résoudre le avec estimation holdérienne

a

144 153 155 157 161

danslesdomainesstrictementpseudoconvexes . . . . . . . . 163 7 Problème de Levi dans cc" . . . . . . . . . . . . . . . . . 170 8 Problème de Levi dans les variétés analytiques complexes

. . . .

174

Table des matières

vii

VI11 Caractérisation des singularités illusoires pour les fonctions CR sur un bord strictement pseudoconvexe . . . . . . . . 189 Réduction au cas des fonctions continues . . . . . 2 Cas de la dimension 2 . . . . . . . . . . . . 3 Caractérisationcohomologiqueendimensionn 2 2 4 Caractérisationdessingularitésillusoiresfaibles . . 1

Annexe A

. . . . . . 189 . . . . . . 190 . . . . . . 192 . . . . . . 194

..........................

203

1 Variétés différentiables . . . . . . . . . . . . . . . . . . 203 2 Partitions de l’unité . . . . . . . . . . . . . . . . . . . 205 3 Espace cotangent en un point - Formes différentielles de degré 1 . 207 4 Espacetangentenunpoint-Champsdevecteurs . . . . . . . 208 5 Algèbre des formes différentielles . . . . . . . . . . . . . . 211 6 Intégration des formes différentielles . . . . . . . . . . . . 216 7 Formule de Stokes . . . . . . . . . . . . . . . . . . . . 220

.......................... Annexe C . . . . . . . . . . . . . . . . . . . . . . . . . . Bibliographie . . . . . . . . . . . . . . . . . . . . . . . . Index des notations . . . . . . . . . . . . . . . . . . . . . Index terminologique . . . . . . . . . . . . . . . . . . . . Annexe B

223 231 235 239 243

Avant-propos

L‘origine de cet ouvrage est un cours fondamental de 3e cycle donné à l’Institut Fourier en 1994-95. Son objet est d’initier à la théorie des fonctions holomorphes de plusieurs variables complexes dans C” et dans les variétés analytiques complexes. I1 s’adresse en priorité à des étudiants en DEA ou débutant une thèse. I1 suppose connus les fondements de la théorie des fonctions holomorphes d’une variable complexe. Par contre, les bases de géométrie différentielle et de théorie des courants nécessaires à l’étude de l’analyse pluricomplexe sont rappelées dans l’annexeA et le chapitre II de ce volume. Nous utilisons la méthode des représentations intégrales couplée avec la technique des bosses de Grauert. Ce point de vue a l’avantage de proposer un prolongement naturel en plusieurs variables des techniques d’une variable complexe et de conduire rapidement à d‘importants résultats globaux tout en évitant l’introduction de trop nombreux outils nouveaux. Ayant acquis ces méthodes, présentées ici dans le cadre de la pseudoconvexité, le lecteur pourra aborder sans trop de difficultés la théorie d’Andreotti-Grauert, tant dans les variétés analytiques complexes que dans les variétés C R (cf. [He/Le2] et [L-T/Lel). Pour les applications, l’accent est mis sur les problèmes globaux d’extension de fonctions C R : phénomène de Hartogs-Bochner, étude des singularités illusoires pour les fonctions

CR. La plupart des thèmes traités étant classiques, puisqu’ils font partie des fondements de l’Analyse Complexe, il est difficile d‘être original. Ce travail s’est donc largement inspiré d’ouvragesexistants. Les sources utilisées ainsi que quelques repères historiques sont précisés à la fin de chaque chapitre. La bibliographie ne se propose pas d‘être exhaustive, c’est pourquoi de nombreux travaux fondamentaux en relation avec le sujet traité n’y sont pas inclus. Le lecteur intéressé par des notes historiques précises et une bibliographie beaucoup plus complète pourra consulter les notes de fin de chapitre et la bibliographie du livre de R.M. Range [Ra]. Une partie de ce livre (les paragraphes 5 et 6 du chapitre IV, le paragraphe 5 du chapitre Vet le chapitre VIII) doit beaucoup aux travaux de Guido Lupacciolu, disparu prématurément en décembre 1996.

X

Avant-propos

Pour finir je voudrais remercier tous ceux qui m’ont aidée dans la rédaction de ce livre et plus particulièrement Alain Dufresnoy et Jürgen Leiterer. C’est grâce à leurs remarques, tant sur la forme que sur le fond, que ce livre a pu atteindre sa forme finale. Un grand merci égaiement à Myriam Charles pour la saisie d’un texte particulièrement riche en formules mathématiques et à Arlette Guttin-Lombard pour ses conseils Tg-niques.

Introduction

Au début du siècle E Hartogs a mis en évidence les propriétes particulières d‘extension des fonctions hoiomorphes de plusieurs variables complexes en exhibant un domaine de C2 qui n’est pas le domaine d‘existence d u n e fonction holomorphe (de tels ouverts n’existent pas dans C). La compréhension de ce phénomène est alors devenue un des principaux problèmes d‘analyse pluricomplexe. I1 fallait trouver de bonnes caractérisations des domaines d’existence des fonctions holomorphes, appelés domaines dholomorphie. Les premiers travaux sur ce sujet, dus à E Hartogs [Har] en 1906 et E.E. Levi [Lev] en 1910, montrent que les domaines d’holomorphie satisfont certaines propriétés de convexité, que nous appellerons génériquement pseudoconvexité. L‘équivalence entre les différentes notions de pseudoconvexité, qui sont apparues au ! I du temps, a été prouvée par K. Oka [Okl dans les années 40. Les outils adaptés à l’étude de la pseudoconvexité sont les fonctions plurisousharmoniques introduites indépendamment par i? Lelong [Lell] et K. Oka [Ok]. Dans les années 30, H. Cartan et P. Thuilen [Ca/Th] ont trouvé une caractérisation intrinsèque globale des domaines dholomorphie en termes de convexité par rapport à l’algèbre des fonctions holomorphes sur le domaine. Cette “convexité holomorphe” est un des concepts fondamentaux de l’Analyse Complexe. La caractérisation des domaines dholomorphie en termes de pseudoconvexité, encore appelée solution du problème de Levi, a été donnée indépendamment par K. Oka [Ok],H. Bremmermann [Brl] et E Norguet [No] au début des années 50 pour les domaines de Cn et par H. Grauert [Gr] en 1958 pour les variétés analytiques complexes. Elle a nécessité la mise en œuvre de la théorie des faisceaux analytiques cohérents, qui s’est avérée être un outil puissant pour l’étude des espaces analytiques. La solution du problème de Levi, que nous présentons ici, suit les idées de Grauert mais s’appuie sur la théorie des représentations integrales pour résoudre les problèmes techniques. La théorie des représentations intégrales en Analyse Complexe trouve son origine dans les travauxde H. Grauert, G.M. Henkin, I. Lieb et E. Ramirez [GrlLi,He1,2, Ram] au début des années 70. Depuis, cette théorie n’a cessé de se développer. Elle a permis de résoudre des problèmes inaccessibles par les méthodes antérieures et de retrouver, en les précisant, les principaux résultats de la théorie des fonctions

xii

Introduction

holomorphes de plusieurs variables obtenus par d‘autres méthodes. I1 s’agit principalement de construire de bons opérateurs intégraux pour résoudre l’équation de Cauchy-Riemann. La résolution de cette équation est au cœur de la plupart des problèmes d’Analyse Complexe. Dans le cas de la résolution du problème de Levi, elle est à la base de la construction de la fonction holomorphe qui ne se prolonge pas. Le résultat de Hartogs pose également le problème de l’extension des fonctions holomorphes définies au voisinage de tout le bord ou d’une partie du bord d’un domaine et plus généralement des fonctions C R (c’est-à-diredes traces de fonctions holomorphes) définies sur tout ou partie du bord d’un domaine d’une variété analytique complexe. Une démonstration rigoureuse du résultat de Hartogs a été donnée indépendamment par S. Bochner [Bo]et E. Martinelli [Ma21vers 1940 à l’aide d‘une formule intégrale, appelée aujourd’hui “formule de Bochner-Martinelli”. Depuis cette époque, cette formule joue un rôle fondamental dans l’étude de l’extension des fonctions C R dans Cn , mais ne permet malheureusement pas de résoudre les problèmes globaux d‘extension dans les variétés analytiques complexes. Le lien entre le phénomène d‘extension de Hartogs-Bochner et la résolution de l’équation de Cauchy-Riemann avec condition de support a été remarqué par L. Ehrenpreis [Eh]en 1961. C’est un point clé de l’étude de l’extension des fonctions C R dans les variétés. Au milieu des années 80, G. Lupacciolu et G. Tomassini [Lu/To]ont étudié dans un cas particulier le problème de l’extension d’une fonction C R définie sur une partie du bord d u n domaine. De nombreux mathématiciens ont contribué à la résolution de ce problème d’extension au cours des dix dernières années. Les résultats que nous présentons ici sont principalement dus à G. Lupacciolu [Lu1,2]. Ces problèmes d‘extension globale sont bien sûr liés à la rcchcrche d’enveloppe d’holomorphie, mais également à un problème plus géométrique. I1 s’agit de la construction de chaînes holomorphes de bord donné. En effet si on considère le phénomène de Hartogs en termes de graphe, le graphe de l’extension holomorphe est une chaîne holomorphe dont le bord est la variété C R maximalement complexe définie par le graphe de la fonction C R donnée initialement. Le livre est organisé comme suit : Le chapitre I développe les propriétés élémentaires locales des fonctions holomorphes de plusieurs variables complexes qui se déduisent de la théorie des fonctions holomorphes d u n e variable. Dans une première partie, le chapitre II introduit les courants. La notion d‘indice de Kronecker de deux courants permet d’obtenir une formule de Stokes dans un cadre assez général. La seconde partie est consacrée aux variétés analytiques complexes et à la définition des différentes notions liées aux structures complexes : formes différentielles de type ( p , q ) , opérateur et cohomologie de Dolbeault.

a

Dans le chapitre III, nous démontrons la première formule de représentation intégrale : la formule de Bochner-Martinelli-Koppelman. La démonstration donnée

Introduction

...

XII1

ici s’appuie sur la formule de Stokes pour l’indice de Kronecker. À l’aide de la formule de Bochner-Martineili-Koppelman nous commençons l’étude de l’équation de Cauchy-Riemann. Le chapitre IV étudie le problème de l’extension des fonctions C R définies sur le bord d u n domaine borné de C”. Le théorème d’extension de Bochner est démontré et un cas particulier d’extension lorsque la fonction n’est définie que sur une partie du bord du domaine est également considéré. Le chapitre V traite du problème de l’extension des fonctions CR définies sur tout ou sur une partie du bord d’un domaine relativement compact d u n e variété analytique complexe. Nous étudions la relation entre ces phénomènes d’extension et l’annulation de certains groupes de cohomologie de Dolbeault. Dans le chapitre Vi nous définissons les notions de domaine dholomorphie, convexité holomorphe et pseudoconvexité pour les ouverts de Cn. Nous prouvons l’équivalence entre domaine dholomorphie et domaine holomorphiquement convexe et nous montrons que tout domaine dholomorphie est pseudoconvexe. La réciproque, appelée problème de Levi, est étudiée au chapitre ViI. Le chapitre VI1 est consacré à la résolution du problème de Levi. La méthode s’appuie sur la résolution locale du avec estimations holdériennes et sur l’étude de l’invariance de la cohomologie de Dolbeault par la technique des bosses de Grauert. L‘originalité de la démonstration donnée ici est l’utilisation d’un résultat dû à Laufer [Lau] qui permet de déduire l’annulation des groupes de cohomologie de Dolbeault des théorèmes de finitudes obtenus par la résolution locale du Le chapitre se termine par la résolution du problème de Levi dans les variétés analytiques complexes et l’énoncé de plusieurs théorèmes d’annulation pour la cohomologie de Dolbeault qui permettent de donner des conditions géométriques suffisantes pour les phénomènes d’extension de fonctions C R étudiés dans le chapitre V.

a

a.

Le chapitre VI11 donne des conditions nécessaires et suffisantes pour l’extension des fonctions CR définies sur une partie du bord d u n domaine strictement pseudoconvexe. Pour faciliter le travail du lecteur notons les faits suivants : - Le chapitre III, les paragraphes 3 et 4 du chapitre Vet les chapitres VI et VI1 élaborent l’ensemble de la théorie qui permet la résolution du problème de Levi, c’està-dire l’identité entre domaine dholomorphie et ouvert pseudoconvexe dans C” et l’identité entre variété de Stein et variété possédant une fonction dexhaustion strictement plurisousharmonique dans le cas des variétés. - Le chapitre IV, les paragraphes 1, 2 et 5 du chapitre V, le paragraphe 8.3 du chapitre Vi1 et le chapitre VI11 sont consacrés à l’étude des phénomènes globaux d’extension des fonctions CR.

Chapitre I

Propriétés élémentaires locales des fonctions holomorphes de plusieurs variables complexes

Ce chapitre est consacré à l'étude des propriétés locales des fonctions holomorphes de plusieurs variables complexes qui se déduisent directement de la théorie classique des fonctions holomorphes d'une variable complexe. L'élément de base de cette étude est une formule de Cauchy dans les polydisques qui généralise la formule de Cauchy classique. La plupart des théorèmes prouvés dans ce chapitre étendent au cas de plusieurs variables des résultats bien connus pour les fonctions holomorphes en dimension un (Théorème de l'application ouverte, Principe du maximum, Théorème de Montel, Théorème d'inversion locale). Néanmoins, dans le cadre de l'étude de quelques problèmes d'extension holomorphe apparaît un phénomène spécifique à la dimension n, n 2 2, c'est le phénomène de Hartogs dont un cas particulier est exposé à la fin de ce chapitre. Ce phénomène sera étudié en détail dans le chapitre III.

1. NOTATIONS ET DÉFINITIONS

On note N l'ensemble des entiers naturels, IR le corps des nombres réels et C le corps des nombres complexes. Si n E N est un entier strictement positif, l'ensemble Cn est muni de la structure d'espace vectoriel habituelle et si z = (z1, . . . ,z,) E cc",la norme de z est Iz( = (1.~11~ -+ . . . + On définit un isomorphisme de R-espace vectoriel entre Cn et R2" en posant, pour z = ( ~ 1 , .. . , z,,) E Cn, zj = xj iyj s i j = 1,.. . ,n.

+

I. Propriétés élémentaires locales

2

Les opérateurs de dérivation holomorphe et antiholomorphe sont définis par

Si a = ( a l , .. . ,an)E PP et ,8 = (pl,. . . ,&) E si 2 = ( 5 1 , . . . ,xn)est un point de R",on pose

lV sont des multi-indices et

JaJ = a ~ + ' ~ ~ + a n , ( Y " ~ ! " . a , ! , x= a x "1l . . ' x : " ,

On écrira D" à la place de Dao et Dp à la place de 0'0 lorsqu'il n'y aura pas de risque de confusion. Si D est un ouvert de R",l'espace vectoriel des fonctions continues sur D à valeurs complexes est noté c'(O) ouC(D),celui des fonctions k fois continûment différentiables (IC E N,k > O) est noté Ck(D).La réunion des espaces Ck(D), IC E N,est l'espace C"(D) des fonctions indéfiniment différentiables sur D. On vérifie aisément que f E c ' C ( D ) si et seulement si ~ a p Ef C ( D )pour tout couple (a,/?)E lV x i V tel que I C I ] 101 5 k. Si k E N,l'espace vectoriel des fonctions f contenues dans C k ( D )et dont les dérivées Da f ,lal
+

(n)

Si D CC

R" et si f

E

C k( D ) ,k

E

N,on définit la norme C k de f sur D par

Définition 1.1. Soit D un ouvert de cc" . Unefonction f définie sur D à valeurs dans C est dite holomorphe sur D si f E C1 ( D )et si f vérifie

(1.3)

8.f -(z)

azj

=O

pourtout

z E D ettoutj = 1 , . . . ,n.

Le système d'équations aux dérivées partielles (1.3) s'appelle le système de CauchyRiemann homogène.

Remarque:il est clair que si f est holomorphe, alors f est holomorphe séparément par rapport à chaque variable. Plus précisément, si t = (z1) . . . ,zn) E D est fixé, posons Di = { t E C 1 (21,. . . , ~ j - l , t , ~ j + l. ,.,.z,) . E D},

I. Notations et définitions alors la fonction fj : Dj holomorphe.

+ @ définie part

++f (XI,. . . , z j - l , t , z j + l , .

3

. . ,zn) est

On note O ( D )l'ensemble des fonctions holomorphes sur l'ouvert D de Cn. Le résultat suivant est une conséquence directe de la Définition 1.1. Théorème 1.2. Soit D un ouvert de cc",O(D ) est une algèbre sur C et si f E O(D ) satisfait f ( z ) # O pour toutz E D alors f E O(D). Si D est un ouvert de Cn = R2" et f une fonction de classe C' dans D , notons df ( a ) sa différentielle en a E D ; c'est l'unique application R-linéaire IR2" + R2 telle que f ( z + a ) = f ( a )+ df (a)(.) + O( 1x1) lorsque z tendvers O dans Cn.

Par un calcul simple on obtient

Une fonction f E C ' ( I l ) est donc holomorphe sur D si et seulement si

pour tout a E D. Théorème 1.3. Une fonction f E C' ( D ) satisfait le système de Cauchy-Riemann homogène en un point a E D si et seulement si sa différentielle df ( u ) au point a est C-linéaire. En particulier f E O ( D )si et seulement si sa différentielle en chaque point de D est C-linéaire. Démonstration. Soient f E C 1 ( D )et a E D. D'après (1.4), on peut décomposer l'application IW-linéaire df ( a )de @" dans C en

df ( a ) = Sa

+Ta

L'application Sa est clairement @-linéaire et Ta est la conjuguée de l'application n

-

$$(u)dzj(a). Comme toute application R-

C-linéaire Ta définie par Ta = j=l

linéaire de @* dans C posséde une décomposition unique de ce type, d f ( u ) est @-linéairesi et seulement si Ta O, c'est-à-dire si f satisfait le système de CauchyRiemann homogène. O

=

I. Propriétés élémentaires locales

4

2. FORMULE DE CAUCHY DANS LES POLYDISQUES

Un sous-ensemble P de Cn est un polydisque ouvert, (respectivement :fermé), s'il existe des disques ouverts, (respectivement: fermés), Pl, . . . ,P, de C tels que P = Pi x . . . x P,. Si < j est le centre de Pj, le point [ = (CI,. . . ,Cn) est appelé centre de P et si rj est le rayon de Pj alors T = ( T I , . . . ,T,) est appelé muftirayon de P. L'ensemble d0P = aPl x . . . x aP, est le bord distinguéde P. Remarquons que doP n'est pas égal à la frontière de P dès que n > 1.On note P = P(<,T) le polydisque de centre et de multirayon T . Soit P = P ( < , T un ) polydisque de Cn et g E C(d0P)une fonction continue sur le bord distingué de P. L'intégrale de g sur ûoP = aP1 x . . . x aP, est définie Par

lop

g(C)dCl. . . dCn = inr1 . . . T ,

g(C(û))eisl . . . eiendûl ... dû,

[0,2Kl"

o ù ~ ( û= ) (Cl(e),...,<,(e)) etCj(û) = Si T et T' E R" on dira que T 1,.. .,n.

s+

<

T'

sj

rjeieJ p o u r j = 1 , . . .,n.

si et seulement si, rj

<

T;

pour tout j =

Le théorème suivant donne une formule de Cauchy pour les fonctions holomorphes de plusieurs variables complexes qui généralise la formule de Cauchy classique. C'est un outil fondamental qui permet de généraliser au cas de plusieurs variables les propriétés élémentaires locales des fonctions holomorphes d u n e variable complexe. Théorème 2.1. Soient P = P(u,r) un polydisque de C" et f E C(P)une fonction holomorphe séparément par rapport à chaque variable dans P , alors

Démonstration. Montrons tout d'abord par récurrencesur le nombre de variables que la formule (2.1) est vraie pour tout polydisque P = P(u,T),O < T < T , contenu dans P. Considérons l'assertion

(Cn) soit P un polydisque de Cn et f une fonction continue et séparément holomorphe au voisinage de P , alors la formule (2.1) est valide. Pour n = 1, (CI)est la formule de Cauchy classique que l'on suppose connue. Supposons que, si n > 1, (Cn-l) est satisfaite. Fixons z = (21,. . . ,z,) E P et appliquons (C,- 1) relativement aux ( n- 1) dernières variables pour le polydisque P' = P2 x . . . x Pnde CY-'. On obtient alors

2. Formule de Cauchy dans les polydisques

5

Pour (Cz,.. . ,Cn)fixédansdoP',lafonctiong définieparg(<)=f (<&, . . . ,<,) est holomorphe au voisinage de Pl, on peut donc lui appliquer la formule de Cauchy. On a alors

L'assertion (C,) se démontre en substituant (2.3) dans (2.2) et en appliquant le Théorème de Fubini après avoir paramétré aP1 et &PI.

-

Si f satisfait aux hypothèses du Théorème 2.1 pour le polydisque P = P(u,T), elle vérifie les hypothèses de l'assertion (C,) pour tout polydisque P = P(a,T), O < T < T et la formule (2.1) est valide pour soit

P,

-

f (C) LafonctionC (cl-zi)...(c n - z n ) étant continue sur P\ { z ) on peut appliquer le Théorème de Lebesgue après avoir paramétré &P et faire tendre T vers T pour obtenir (2.1). O

Corollaire 2.2. Soit D un ouuert de C" et f E C ( D ) une fonction holomorphe séparément par rapport à chaque variable, alors f est de classec" dans -D et par conséquentf E O ( D ) .Depluspourtouta E W , D"'f E O ( D )etDaflf Odèsque lBl # 0. Démonstration. Pour tout a E D,soit Pa un polydisque tel que Pa CC D. On peut alors appliquer le Théorème 2.1 à f et au polydisque Pa.La fonction ( ( , z ) M f (O étant continue sur doPa x Pa et de classe C" par rapport à z , (Ci-zi)...(Cn-Zn)

il suffit de dériver sous le signe dans la formule (2.1) (ce qui est possible) aussi souvent que nécessaire pour obtenir le corollaire. O Théorème 2.3. Inégalités de Cauchy. Soient P = P(u,T)un polydisque de C" et f E O ( P ( a , r ) )une fonction holomorphe sur P. Alors pour touta E W , on a

où 2 désigne le multi-indice (2,2, . . . ,2) E W Démonstration. Fixons p tel que O < p < T et appliquons la formule de Cauchy (2.1) à f et au polydisque P(a,p).Après dérivation sous le signe on obtient

I. Propriétés élémentaires locales

6

où 1 désigne le multi-indice (1,1,. . . ,1) E IV. On a alors la majoration

et on en déduit la formule (2.4)en faisant tendre p vers T .

En multipliant les deux membres de (2.6)par pa+n et en intégrant par rapport à p, on obtient

P a f ().I

/

pafndpi . . . d pn -<

[O,l-i]

x . . . x [O,rnl

&io ,.il

dpi.. 'dpn

x ... x [ O I T n ]

d où

/

-/

T"+2

lD"f

(.)I

(ai

+ 2)

If(c(o))lpi.. 'pndei . * * d e n

[OJTI"

. . ( a n + 2) < - (2~)"

If(<)ldV p(a,.)

en utilisant le Théorème de Fubini et un passage en coordonnées polaires.

O

Corollaire 2.4. Pour tout (Y E W , p tel que 1 5 p 5 cc et tout ouvert R CC D , il existe uneconstantec = C(cw,p,R,D)telleque Ilo"fllf2 5

cllfIILP(D) p0urtout.f E o ( D )

Lp(D).

Démonstrarion. Fixons 6 tel que O < 6 < dist(0,bD) et soit T = 6alors pour Jn tout a E Cl,P(a,r) CC D et on aïestimation (2.5).Comme de plus

i

llfllL1(P(a,r)) 5 C p l l f l I ~ P ( ~ ( a , r ) )C p l l f l I ~ P ( ~ )

o

le corollaire est démontré.

Une des applications principales de la formule de Cauchy (2.1) est l'analyticité des fonctions holomorphes de plusieurs variables. Pour prouver ce résultat nous avons besoin de la notion de convergence pour une série indexée par IV. Soit ( u , ) , ~ w "une famille de nombres complexes, on dira que la série ,EN("

a,

est absolument convergente si

laal = sup ,EN"

{

laal : F ffEF

1

c w finie < +cc.

Sous cette condition il existe un élément unique A de C tel que

On écrit alors A =

a, et A est appelée somme de la série

(T

a,. De plus, si aEW

,EN"

est une permutation de IV, la série

an(,) est convergente et sa somme est ,EN"

7

2. Formule de Cauchy dans les polydisques

indépendante de la permutation

(T.

On a également

a, = OEM"

c(c

kEM

a,).

Icrl=k

Si ( f,),Epqn est une famille de fonctions continues sur un ouvert D de Cnet K un compact de D. On dira que la série f a converge normalement sur K si la série sup If a (2) I est convergente. ,EN"

aENn

zEK

Considérons plus particulièrement le cas où f a ( 2 ) est un monôme, c'est-à-dire = a,za = a,zyl . . . 2:". Comme dans le cas d u n e variable on a le Lemme d'Abel :

f,

(2)

<

Lemme 2.5. Supposons que pour E Cn, avec & # O pour tout j , la série a,<, soit absolument convergente. Alors la série aaza converge nor,EN"

malementsurlepolydisque{z 6 Cn

1 lzjl 5 I&/}.

aEW

Théorème 2.6. Soient D c Cn un ouvert et f E Q ( D ) une fonction holomorphe sur D , alors f est développable en série entière au voisinage de chaque point de D , Le. si< E D , il existe un voisinage V de< dansCn tel que, pour toutz E V ,on a

De plus la série du second membre converge normalement vers la fonction f sur tout polydisque f e r m é p C D centré en<.

<

Démonstration. Soit E D et P CC D un polydisque centré en <. Pour tout z E P e t < E doP

<

Le second membre converge normalement par rapport à sur doP. On peut alors intégrer terme à terme dans la formule de Cauchy (2.1) appliquée à f et au polydisque P. Si z E P , on a donc

De plus en dérivant sous le signe

dans la formule (2.1), on obtient

La deuxième assertion du théorème est une conséquence du Lemme 2.5.

O

Corollaire 2.7. Principe du prolongement analytique. Soit D C @" un ouvert connexe. Si f E O ( D )et s'il existe a E D tel que D a f ( a ) = O pour tout Q E W , alors f ( z ) = O pour tout z E D. En particulier, s'il existe un ouvert non vide U C D tel que f (2)= O pour toutz E U alors f _= O sur D.

8

I. Propriétés élémentaires locales

Démonstration. D’après le Théorème 2.6, l’ensemble

R = { z E D I D ” f ( z ) = Opourtouta E W } est ouvert. Par continuité des fonctions D” f , 0 est aussi fermé. L‘ouvert D étant connexe et R # 0,on a R = D. O On déduit aisément de la Définition 1.1 et des Théorèmes 2.1 et 2.6 la caractérisation suivante des fonctions holomorphes de plusieurs variables : Corollaire 2.8. Soient D un ouvert de Cn et f une fonction de D dans @. Les asser-

tions suivantes sont équivalentes. uf E O(D), 2) f E C( D ) et f est séparément holomorphe en z1, . . . ,zn, 3) pour tout polydisque P cc D, f vérifie la formule de Cauchy (2.i), 4) pour tout z E D, f est développable en série entière au voisinage de z. En fait l’hypothèse f E C ( D )peut être supprimée dans 2). L‘équivalence entre 1) et 2) ne nécessite aucune régularité par rapport à l’ensemble des variables, c’est le théorème de Hartogs [Har]. Théorème 2.9. Soit D un ouvert de

a?,

f E O ( D )si et seulement si f est holo-

morphe séparément par rapport à chaque variable. Un tel résultat est faux pour les fonctions de plusieurs variables réelles comme le prouve le contre-exemple suivant : Soit f : R2 + R définie par

La fonction f est analytique réelle séparément par rapport à chaque variable mais eiie est non bornée au voisinage de O.

3. THÉORÈME DE L‘APPLICATION OUVERTE

Le théorème de l’application ouverte et le principe du maximum qui s’en déduit s’étendent sans difficulté aux fonctions holomorphes de plusieurs variables. Théorème 3.1. Soit D un ouvert connexe de Cn et f unefonction holomorphe sur D.

Si f n’est pas constante alors l’application f : D ouvert de D est un ouvert de Cl.

-+ @ est ouverte (i.e. l’image d u n

Démonstration. Soient a E D et U un voisinage convexe de a, contenu dans D . D’après le principe du prolongement analytique flu $ f ( a ) car f n’est

3. Théorème de l’applicationouverte

9

pas constante et D est connexe. Soit b E U tel que f ( b ) # f ( a ) , considérons R = {z E C I a z(b - a ) E V }etposonsg(z) = f ( u z(b - a ) )pourz E R. L‘ouvert R est convexe et contient O et 1, de plus g(0) = !(a) # f(b) = g(1). D’après le théorème classique en dimension 1, g(R) est un voisinage de f(u). Comme f (U ) 3 g(R) le théorème est démontré. O

+

+

Corollaire 3.2. Principe du maximum. Soient D un ouvert connexe borné de Cn et f une fonction holomorphe dans D et continue dans D. Si f n’est pas constante, on a pour tout z E D

Démonstration. La continuité de f sur D et le théorème de l’application ouverte impliquent que f ( D ) = U est un ouvert borné. Soit w E dU, alors w = lim f (z,,) où ( Z , , ) , , ~ N est une suite de points de D dont on peut extraire ,,-io0

une sous-suite qui converge vers un point de d D , car f est ouverte. Par consé-

Corollaire 3.3. Soit f une fonction holomorphe sur un ouvert connexe D de C” . Si If 1 possède un maximum relatifen zo E D alors f est constante sur D. Démonstration. Soit V un voisinage ouvert connexe de zo dans D tel que pour tout z E V , If (.)I 5 I f (.O)[. Supposons que f ne soit pas constante sur V , alors d’après le Théorème 3.1, f ( V )est un ouvert contenu dans le disque fermé de centre O et de rayon If (zo) 1, il est donc nécessairement contenu dans le disque ouvert, ce qui est absurde. Par conséquent f est constante sur V et D étant connexe f est constante sur D par le principe du prolongement analytique. O Terminons ce paragraphe par une version du Lemme de Schwarz pour les fonctions holomorphes de plusieurs variables. Théorème3.4. Soitf unefonctionholomorphesurB(0,R)= { z E C” I IzI < R}. On suppose que f admet l’origine comme zéro d’ordre IC, i.e. le développement de Taylor de f en O ne comporte pas de termes d’ordre strictement inférieur à IC, et que If I estbornépar uneconstanteM s u r B ( 0 , R ) .Alors

Démonstration. Pour z # O fixé dans B(0,R)et u E C tel que lu1 < R on pose cp(u) = f ( u 6 ) . La fonction cp ainsi définie est holomorphe sur le disque D(0,R) de C et IqI est borné par M sur ce disque. De plus cp s’annule à l’ordre k en O. On peut dors considérer la fonction 9 ( u ) = elle est holomorphe sur D(0,R) et

9,

I. Propriétés élémentaires locales

10

9,

si O < T < R, on a 1Q(u)1 5 si lu1 = T . D'après le principe du maximum appliqué à q ,on a encore IQ(u)I 5 $, si lu1 5 T . En particulier si on choisit T

2 1x1 e t u

=

IzI onobtient lQ(lzl)l 5

inégalité étant valable pour tout k obtientdonclf(z)l 5 M I % [ .

T

$ ouencore If(.)[

tel que IzI

5

T

5 Ml:l

k

. Cette

< R, en passant à la limite on O

4. SUITES DE FONCTIONS HOLOMORPHES

Soit D un ouvert de C". On dit qu'une suite ( f J ) 3 Ec~ C ( D )converge uniformément sur tout compact de D s'il existe une fonction f E C ( D ) telle que, pour tout compact K de D, la suite (f j ) j G N converge uniformément sur K vers f . Nous allons définir une structure d'espace vectoriel topologique métrisable sur

C( D ) pour laquelle la convergence des suites est équivalente à la convergence uniforme sur tout compact. Un système fondamental de voisinages de O pour cette topologieest donnéparles ensembles V K ,=~{f E C ( D ) 1 supzEKl f ( z ) I < E } , où K décrit la famille des compacts de D et E varie dans Et;. Comme D est réunion dénombrable de compacts, la topologie ainsi définie est métrisable. Plus préciséw

ment, soit

( K j ) j Eune ~

suite exhaustive de compacts de D , i.e. D =

u Kj et

j=i O

Kj CKj+i (avecparexempleKj

=

{z E D

1

d(z,dD)

2 +,Iz/ 5

j } ) . Pour

la topologie ci-dessus. L'espace C ( D )muni de cette topologie est complet, c'est un espace de Fréchet. On munit le sous-espace vectoriel O ( D )de C ( D )de la topologie induite par celle deC(D). Théorème4.1. O ( D ) est un sous-espacefermédeC(D)etpour touta E I V lesopé-

rateurs Da sont continus de O ( D ) dans lui-même. Plus précisément si ( f j ) j E N C O(D) converge uniformément sur tout compact de D vers une fonction f E C( D ) , alors f E O ( D ) et pour toutcu E W , la suite ( D af j ) j E N converge uniformément sur tout compact de D vers D a f . Démonstration. Elle est analogue à la démonstration dans le cas de la dimension 1. I1 suffit de remplacer la formule de Cauchy classique par la formule de Cauchy dans les polydisques. O Définition 4.2. Un sous-ensemble S de O ( D ) est borné si et seulement si pour tout compact K c D on a

5. Applications holomorphes

11

Nous donnons maintenant une caractérisation des parties compactes de O ( D ) qui s'apparente à ceile des compacts des espaces vectoriels topologiques de dimension finie.

Théorème 4.3. Théorème de Montel. Un sous-ensemble S de O ( D )est compact si et seulement s'il est fermé borné. Dérnonstra tion 1) Condition sufisante: supposons que S est fermé borné, O ( D )étant métrisable il suffit de montrer que de toute suite d'éléments de S on peut extraire une sous-suite convergente. Soit (fv)vEN une suite d'éléments de S. Puisque pour tout v E N,f v E O ( D ) ,on déduit des inégalités de Cauchy que les dérivées premières des fv sont uniformément bornées sur tout compact de D. Le Théorème d'Ascoli permet alors de conclure.

2) Condition nécessaire: soit K un compact de D , alors l'application II . I I K de C ( D )dans B, qui à f fait correspondre supzEKIf (.)I est continue. Puisque S est compact, l'ensemble {II f l l ~f , E S } est un compact de B et par conséquent sup{ II f l l ~f , E S } < +mû,ce qui prouve que S est borné. De plus S étant compact, il est naturellement fermé. O

5. APPLICATIONS HOLOMORPHES

L'étude des applications holomorphes va nous conduire à la définition des sous variétés analytiques complexe de C" . Nous verrons au chapitre II qu'une sous variétés analytiques complexe de C" est une variété analytique complexe au sens abstrait. Définition 5.1. Soit D un ouvert de
est appeléematrice jacobienne de f au pointa. Proposition 5.2. SoientD c C? un ouvertet f = tout a E D

(5.1)

f ( a + ).

lorsque t tend vers O dans C"

.

=

(fi,.

. . ,fm)E O(D,Cm),pour

f ( a )+ Jf (a). + 4 4 )

12

I. Propriétés élémentaires locales

Démonstration. D'aprèsleThéorème 1.3,si f E O ( D , P ) ladifférentielie , de f en a, df ( a )est une application C-linéaire de C" dans Cm dont la matrice relativement aux bases canoniques de C" et Cm est donnée par J f ( a ) .Par définition de @ ( a ) on a donc la formule (5.1). O Théorème 5.3. Soient f : D C C" + R c Cm et g : R c Cm Ce deux applications holomorphes. Alorsg O f : D -+ Ce est une application holomorphe et pour tout a E D on a

(54

JsofW

=

J d f(.))JI(.).

Démonstration. D'après les résultats classiques du calcul différentiel, la différentielle de g O f au point a vérifie

(5.3) d(g O f)(a) = & ( f ( a ) ) O df ( a ) . Mais puisque f et g sont des applications holomorphes leurs différentielles d f ( a ) et dg( f ( a ) )sont des applications C-linéaires dont les matrices relativement aux bases canoniques sont respectivement J f ( a ) et Jg(f ( a ) ) .Par conséquent d(g O f)( a ) est C-linéaire pour tout a E D , ce qui signifie que g O f est une application holomorphe, et la formule (5.2) résulte de (5.3). O Définition 5.4. Soient D un ouvert de Cn, f une application holomorphe de D dans C" et a un point de D. On dira que f est biholomorphe au voisinage de a s'il existe un voisinage U de a tel que f soit une bijection de U surf ( U )et que (f u) soit une application holomorphe de f ( U )sur U .

I -'

I

Théorème 5.5. Inversion locale. Soient U un voisinage de a E Cn et f E O(U , P ). Alors f est biholomorphe au voisinage de a si et seulement si det ( J f ( a ) )# O. Démonstration. L'hypothèse det(Jf(a)) # O implique que df ( a ) est inversible. D'après le théorème d'inversion locale classique f est un C1-difféomorphismelocal au voisinage de a et df -'( f (y)) = (df(y))-l pour tout y assez voisin de a. Comme df (y) est C-linéaire car f est holomorphe son inverse (df (y))-' est également C-linéaire ce qui implique que f est holomorphe au voisinage de f ( a )car df -Yf (Y)) = (df(d)-'.

-'

Corollaire 5.6. Si X est un sous-ensemble de Cn et si kE{ 1,2, . . . ,n- 1}, les conditions suivantes sont équivalentes : i) Pour tout point E X , il existe une application biholomorphe f = (f1, . . . ,fn) définie sur un voisinage U de 5 telle que

t

XnU={zE

fk+l(~)="'=fn(~)=O}.

ii) Pour tout point t E X , il existe un voisinage V de E dans Cn et une application holomorpheg V -+ telleque rgJ,(J) = n - k

et X

nV = { z E V I g ( z ) = O}.

6. Quelques théorèmes d'extension holomorphe

13

iii) Pour tout point ( E X , il existe un voisinage W de 5 dans C", un ouvert R dans Ck et une application h : R -+ C" holomorphe telle que rgJh(E) = k et X n W = h(R). Dérnonstrarion. il + ii) et iiil est immédiat. Prouvons maintenant iil + i). Soient V et g satisfaisant iil, notons G l'applicationlinéaire cc" + définie par Jg(E).Puisque r g J g ( [ )= n- IC, l'application G est surjective et il existe A : C" -+ Cktelle que A @I G : Cn -+ C" définie par A @ G ( z ) = (A(z),G(z)) soit bijective (on peut définir A comme la projection de C" sur ker G après identification de ker G et Ck par le choix d'une base). Posons f ( z ) = (A(z),g(z))pourz E V.Alorsdet J f ( E )= det(A@G) # 0,doncdaprès le Théorème 5.5, f est biholomorphe sur un voisinage U de ( contenu dans V. De plus par définition de f on a

x n U = {Z E U I fk+l(~) = . . . = fn(z) = O } . Montrons pour terminer que iii) + ii]. Soient W et h satisfaisant iii), notons H l'application linéaire Ck -+ C" définie par J h ( ( ) . Puisque r g J h ( ( ) = k , l'application H est injective. Si z E C" = ck x Cnpkon pose z = (z'"''), alors l'application Q> définie par @ ( z ) = H ( z ' ) + ( 0 , ~ " )est une bijection de C" dans C".~osonscp(z)= h ( d ) + ( ~ , z " ) p o u r zE R x C n - k . ~ o r s ~ ~ ( h - l ( ( = ) , Q> ~) est inversible, donc d'après le Théorème 5.5, cp et biholomorphe au voisinage de (h-'(c),O).Posons f = cp-', f est définie et biholomorphe sur un voisinage V de ( contenu dans W et vérifie f ( h ( z ' ) )= (z',O).I1 suffit alors de poser g = p O f où O p est la projection de C" sur qui envoie z sur z". Définition 5.7. Soit D un ouvert de C". Un sous-ensemble X de D est une sousvariété analytique complexe de Cn si les conditions équivalentes i), ii) etiii) du Corollaire 5.6 sont remplies. Si de plus X est fermée dans D , alors X est une sous-variété fermée de D.

6. QUELQUES THÉORÈMES D'EXTENSION HOLOMORPHE

A. Théorème d'extension de Riemann

Nous voulons généraliser au cas de plusieurs variables le résultat d'extension holomorphe des fonctions holomorphes bornées d'une variable complexe dans un disque pointé. Dans C un point peut être considéré comme l'ensemble des zéros d u n e fonction holomorphe. Nous allons nous intéresser ici à l'extension des fonctions holomorphes bornées sur un ouvert de C" privé de l'ensemble des zéros d u n nombre fini de fonctions holomorphes. Définition 6.1.Soient D un ouvert de C" et A c D. On dit que A est un ensemble analytique si pour tout a E D, il existe un voisinage U de a et un nombre fini de

I . Propriétés élémentaires locales

14

fonctions holomorphes . . . = f&) = O}.

fi,

. . . ,f p sur U telles que A n U

= {z E U

I

fl(z) =

Proposition 6.2. Soient D un ouvert connexe de û? et A C D un ensemble analytique alors i) A est fermé dans D , ii) si A # D, D \ A est dense dans D, iii) D \ A est connexe.

Démonstration i) Par définition tout point a E D possède un voisinage U tel que A n U soit fermé car les fonctions fj j = 1, . . . ,p, sont continues. Par conséquent A est fermé dans D. O

ii) Raisonnons par l’absurde. Supposons que B = A est non vide. On va prouver que B est fermé dans D et comme B est ouvert, non vide et D connexe on aura A = D. Soient a E B,U un voisinage ouvert connexe de a dans D et fi, . . . ,fp des élémentsdeO(U)telsqueAnU= { Z E U I fl(z)=...= f,(z) =O}.Chaque fonction fj ,j = 1, . . . ,p s’annule sur l’ouvert B n U ; U étant connexe, d’après le principe du prolongement analytique, chaque fj j = 1, . . . ,p, est identiquement O

nulle sur U et donc U c A . De plus U étant ouvert, U CA= B et puisque a E U , onaaE BetdoncB=B.

\ A # 0 et montrons tout d’abord : (*) tout point a E D a un voisinage connexe U tel que U \ A est connexe. iii) Supposons que D

Fixons a E D. Soit U un voisinage convexe de a sur lequel il existe des fonctions holomorphes f i , . . . ,f p telles que U n A = { z E U I f l ( z ) = . .. = f,(z) = O}. Soient ~ 0 ~ xE 1U \ A et V = {A E C I AZO (1 - A)x1 E U } ; V est une partie convexe de C car U est convexe et il existe j E (1, . . . ,p} tel que la fonction gj(A) = fj(Ax0 (1 - A)zl)ne soit pas identiquement nulle sur V et qu’en particulier g j ( 0 ) # O. La fonction g j étant holomorphe, l’ensemble de ses zéros A’ est discret dans V .Donc V \ A’ est connexe. Mais A’ contient l’ensemble {A E C I (Ax0 (1 - A)x1) E A n U } .Supposons que fj(x1) # O, alors O et 1 sont dans V \ A’, qui est connexe, et par conséquent il existe un arc yx : [0,1]I+ C joignant O à 1 dans V \ A’. Si fj ( X I )= O, alors 1 E A’, mais puisque A’ est discret il existe E > O tel que le segment [illE] n A’ = { 1). On construit alors un chemin y joignant O à 1 contenu dans (V \ A’) U { 1) en joignant O à 1 E par un arc y1 : [O,;] + V \ A’ puis 1 E à 1 par72 : [;,il -+ (V \ A’) ü {1} avec y 2 ( t ) = - 2 ~ t 1 2 ~L‘application . y : t I+ y(t)zo (1- y(t))xl est alors un arc joignant xo à x1 dans U \ A et donc U \ A est connexe.

+

+

+

+

+ +

+

+

+

Montrons maintenant que (*) implique iii). Raisonnons par l’absurde. Supposons que D \ A = Ui ü Uz où les U j ,j = 1,2,sont des ouverts non vides disjoints.

6. Quelques théorèmes d'extension holomorphe

15

D'après ii) D = D \ A = Ü, ü Ü2. Comme D est connexe Ü1 n Ü2 # 0. Soit a E Ü1 n u2 et U un voisinage de a tel que U \ A soit connexe (il en existe d'après (*)).Alors U \ A = (U n U1) U ( ( U n U2).L'ensemble U \ A étant connexe et A fermé, l'un des (U n U j ) ,j = 1,2 est vide, par exemple (U n U1) = 0, ce qui est O impossible puisque U est un voisinage de a E u1. Corollaire 6.3. SoientD un ouvert connexedep et f etg desfonctions holomorphes sur D. Si f et g coïncident sur une partie S de D pour laquelle il existe un ouvert connexe V de D tel que V \ S ne soit pas connexe, alors f etg coïncident sur D.

Démonstration. Soit A l'ensemble des zéros de f - g dans D . Supposons que A soit distinct de D . D'après la Proposition 6.2, V \ A est connexe et V \ A est dense dans V donc dans V \ S . Par conséquent V \ S doit être connexe ce qui contredit O l'hypothèse. On a donc A = D. Exemple: si S est une hypersurface réelle de D , c'est-à-dire S = f - l ( O ) avec V f # O sur S et f E C'(D,R), par exemple, S satisfait la condition du Corollaire 6.3. En effet D \ S = {x E D I f (x)> O} ü {x E D I f (x)< O}. Théorème 6.4. Théorème de Riemann. Soient D un ouvert de Cn et A un ensemble analytique distinct de D . Soit f une fonction holomorphe sur D \ A. Supposons que tout pointa E A possède un voisinage U dans D tel que f (U\A soit bornée. Alors il existe une unique fonction F sur D tellequeFID\A = f .

Démonstration. L'unicité est une conséquence immédiate du principe du prolongement analytique. Etudions tout d'abord le cas n = 1. I1 suffit de prouver que si f est bornée et holomorphe dans le disque pointé { z E C I O < IzI < R } , alors f se prolonge holomorphiquement au disque { z E @. I 1x1 < R } , car en dimension 1 les ensembles analytiques sont discrets. Considérons le développement de Laurent de f sur le disque pointé { z E C I O < (21 < R }

< O, aw -+ O quand T + O car f est borné et puisque a, est indépendant d e r , a,z". a , = O. On a donc le résultat en posant F ( z ) = Si v

,>O

Passons au cas général. Pour a E A, soit V un voisinage connexe de a tel que f IV\ A soit borné et sur lequel il existe des fonctions holomorphes f i , . . . ,f p telles que A n V = { z E V I fi(.) = . . . = f p ( z ) = O}. On peut supposer que h = f i $ O et après un éventuel changement de coordonnées affine de Cn que a = O et h(0, . . . ,O,z,) $ O dans un voisinage de z, = O. I1 existe alors 6 > O tel

16

I. Propriétés élémentaires locales

que h ( 0 , . . . ,O,z,) # O pour O < Iznl I 6. Posons z' = ( ~ 1 , .. . ,zn-l). Soit E tel que h(z',z,) # O si lz'l 5 E et Iz, I = 6. On considère la fonction

>0

Remarquons que pour Iz'I I E et It1 = 6, le point (z',t) E V \ A et que g est holomorphe pour Iz'( < E et Iz, I < 6. De plus pour z' fixé avec Iz'I < E , la fonction t +-+ f ( z ' , t ) possède une extension holomorphe au disque { t E C I It1 < 6). En effet, puisque h(z',z,) # O si Iz,I = 6, la fonction z, H h(z',z,) n'a qu'un nombre fini de zéros sur { z , E C I Iz,I < S} et f étant bornée au voisinage de ces zéros, il suffit d'appliquer le cas n = 1.Grâce à la formule de Cauchy en une variableonag(z) = f ( z ) s i z E V\A,lz'l < E, I z , I < 6.Lafonctionfadmetdonc une extension holomorphe au voisinage de chaque point de A et grâce à l'unicité le théorème est démontré. O

B. Théorème de Rad0 Théorème 6.5.Théorème de Rado. Soit f une fonction continue sur un ouvert D de C" . Si f est holomorphe sur { z E D I f ( z ) # O } alors f est holomorphe sur D. Démonstration. La fonction f étant continue, il suffit, d'après le Corollaire 2.8, de prouver que f est séparément holomorphe. De plus la notion d'holomorphie étant locale, il suffit de montrer le théorème pour une fonction d u n e variable sur le disque unité A de @.

a

Supposons que f est une fonction continue sur et que f est holomorphe sur U = { z E A I f ( z ) # O}. Nous allons prouver que U est dense dans A et que f est de classe C" dans A, ce qui nous donne aisément le résultat cherché. En effet, est alors une fonction continue sur A qui est nulle sur une partie dense de A (l'ouvert U ) et donc identiquement nulle sur A, ce qui signifie que f est holomorphe dans A tout entier. Lemme 6.6. Si g est une fonction continue sur Ü et holomorphe sur U , pour tout z E uj 19(z)I I SupCEaanau b(C) I. Démonstration. Considérons pour n E M*,fixé, la fonction g n ( z ) f ( z ) . C'est une fonction holomorphe sur U ,donc d'après le principe du maximum

pour tout z E U , car f s'annule sur A n dU. En prenant la racine nièmedes deux membres de la dernière inégalité et en faisant tendre n vers l'infini on obtient le résultat. O

6. Quelques théorèmes d'extension holomorphe

17

Lemme 6.7. L'ouvert U est dense dans A. Démonstration. Raisonnons par l'absurde. Supposons que U n'est pas dense dans A. I1 existe dors a E A n ûU et une suite ( a u ) v Ede~ points de A \ qui converge vers a. Considérons la suite de fonctions ( & ) v E ~ . Ces fonctions sont holomorphes sur U et continues dans Ü.De plus, grâce au Lemme 6.6, si z E U et si v est assez grand

u

1

'

1 2 < CEaAnau IC - avl - d ( a , d A ) sup

Mais comme a E Ü,la suite (=),,!gq1 U , d'où la contradiction.

~

~

ne peut pas être uniformément bornée sur O

Lemme 6.8. Les fonctions Re f et Im f sont harmoniques sur A et par conséquent f est de classec" sur A. Démonstration. D'après le Théorème de Stone-WeierstraR, toute fonction continue f sur d A est limite uniforme sur d A de polynômes trigonométriques : Pn

f

=

Qn =

lim Q n ( 0 ) où

n+m

k=- P n

Pn

Alors Re Q n ( 0 ) =

ak,n

ck,neiks

cos k0

+ bk,,

sin k0 avec ak,n,bk,n E R et si on pose

k=O

Pn

Pn(z)= Re( f

-

(ak,n - ibk,,)zk, on obtient Re(Pn(z)) = ReQn(0) pourz = eis et k=O

P,) converge uniformément vers û sur ûA.

Soit E

> O, fixé,alors il existe IC0 tel que si IC 2 ko lepk-fl 5 eE

et

lef-"k

I -< eE

sur dA. Les fonctions ef-Pk et ePk-f étant continues sur V et holomorphe sur U , on peut leur appliquer le Lemme 6.6 et on obtient pour k 2 ko lePk-fl

u.

5 eE et

lef-PkI

u

< eE

u

sur Par conséquent 1 Re(Pk - f ) l 5 E sur et puisque est dense dans A, I Re(Pk - f )I est majoré par E sur A car f et les P k sont continues sur A. On a donc prouvé que Re f est limite uniforme sur A des fonctions Re Pk qui sont harmoniques. Le Théorème de Harnack implique alors que Re f est harmonique sur A. En remplaçant f par if on montrerait de même que Im f est harmonique sur A. La fonction f est donc harmonique sur A et en particulier de classe

C".

O

I. Propriétés élémentaires locales

18

C. Phénomène de Hartogs

Dans ce paragraphe nous donnons un cas particulier du phénomène de Hartogs dans @" ,n 2 2. Le cas général du phénomène de Hartogs dans un ouvert de @" , n 2 2, sera étudié en détail au chapitre IV Théorème6.9.SoientD unouvertconnexede@", et& = {w E @ I T < lwl < R } , O 5 T < R . Soit f une fonction holomorphe sur D x Q. On suppose qu'il existe un point a E D tel que f se prolonge holomorphiquement à un voisinage de { u } x A, A = { w E @ I /wI < R } .Alors f se prolonge holomorphiquement à D x A . Démonstration. Notons (z,w) les points de D x Q . Remarquons que sil'extension F de f à D x A existe, pour z E D et p E]T,R[

par la formule de Cauchy en une variable. Pour tout p , tel que T

< p < R, considérons la fonction

Elle est continue sur D x { w E @ I 1wI < p } et séparément holomorphe donc holomorphe sur ce domaine d'après le Corollaire 2.8. Puisque f se prolonge holomorphiquement au voisinage de { a } x A, si r O tel que f ( z , w ) s'étend en une fonction holomorphe, que nous noterons encore f ( z , w ) , < T O } . Choisissons p tel que T < p < T O alors à l'ouvert {Iz - al < E , I w I f (z,w) = f f ( z , w ) si Iz - al < E et IwI < p , d'après la formule de Cauchy en une variable. L'ouvert D x {w E @ 1 T < IwI < p } étant connexe, on peut appliquer le principe du prolongement analytique à f et ff et donc f et f p coïncident sur D x {w E @ I T < IwI < p } . Par conséquent F définie par F ( z , w ) = f (z,w) sur D x Q et par F ( Z , W ) = f p ( z , w ) sur D x {w E c I I W / < p } est l'extension cherchée. O Exemples 1) Soient D un ouvert de @" ,n 2 2, et u un point de D , toute fonction holomorphe sur D \ { u } s'étend en une fonction holomorphe sur D . 2 ) Soient K un compact de @",n 2 2, et f une fonction holomorphe dans @" \ K alors f admet une extension holomorphe à C" tout entier. 3) Soient P le polydisque {(zi,. . . ,zn) E @" I lzil < r,l 5 i 5 n } et Q = {(XI,. . . ,zn) E P I 1zil < f , l 5 z 5 n - 1 ou Iz,I 2 f } , n 2 2. Toute fonction holomorphe sur Q s'étend en une fonction holomorphe sur P. Ces résultats sont faux si n = 1,il suffit, par exemple, de considérer la fonction

6. Quelques théorèmes d'extension holomorphe

19

Corollaire 6.10. a) Soit f une fonction holomorphe sur un ouvert D de @" , n 2 2. L'ensemble des zéros de f ne contient pas de points isolés. b) Si f est une fonction holomorphe dans @" , n 2 2, l'ensemble des zéros de f n'est pas borné. Démonstration. On raisonne par l'absurde et on applique à la fonction tions décrites dans les exemples 1) et 2).

$ les situaO

Commentaires.L'origine de la théorie locale des fonctions holomorphes de plusieurs variables se trouve dans les travaux de K. Weierstrass,H. Poincaré et E! Cousin, qui ont étudié les fonctions dans les domaines produits de C" à la fin du siècle dernier. En 1906, Hartogs [Harl a découvert des domaines de C2 pour lesquels toute fonction holomorphe s'étend holomorphiquementà un domaine plus grand, ce qui ne se produit jamais en une variable.

Les résultats que nous venons d'exposer sont très classiques. Ils sont donnés dans la plupart des volumes relatifs à lu théorie des fonctions de plusieurs variables complexes. Le lecteur intéressé pourra consulter les livres suivants : [HO2], [Krl, [Nall, [Ra]. Le Théorème de Hartogs sur l'analyticité séparée est démontré dans [HO21 (Th. 2.2.8).

Chapitre II

Courants, structures complexes

Ce chapitre introduit deux notions : l’une de nature différentiable, la notion de courant, et l’autre de nature analytique, la notion de variété analytique complexe et les structures complexes associées, que nous utiliserons abondamment dans la suite de ce volume. Nous définissons tout d’abord les courants, qui sont l’équivalent pour les formes différentielles des distributions pour les fonctions, puis nous nous intéressons au problème de la régularisation des courants définis sur une variété différentiable de classe Ce problème, qui a une solution simple dans le cas de IR” grâce à la convolution, nécessite I’introduction de noyaux ayant des propriétés voisines de celles des noyaux de convolution. Nous étudions égaiement l’indice de Kronecker de deux courants qui est la généralisation de l’accouplement d’un courant et d’une forme différentielle, ce qui nous permet de prouver une formule de Stokes assez générale qui sera utilisée dans les chapitres III et IV. Ensuite nous introduisons la notion de variété analytique complexe et nous décrivons les structures complexes naturelles qui apparaissent sur l’espace tangent de telles variétés, ce qui nous conduit à définir la notion de forme différentielle de type (p, 4 ) . l’opérateur ainsi que le complexe de Dolbeault et les groupes de cohomologie associés. Les phénomènes d’extension holomorphe que nous étudierons au chapitre V sont liés à l’annulation de certains de ces groupes de cohomologie. Des théorèmes d’annulation seront donnés au chapitre VIL Nous terminons par la définition de l’espace tangent complexe au bord d’un domaine d’une variété analytique complexe qui interviendra dans la définition des fonctions C R (chap. IV) et dans la définition de la pseudoconvexité (chap. VII).

c”.

a

1. COURANTS

On désigne par X une variété différentiable de classe Cm, de dimension n, orientable et orientée et on note V ( X )l’espace vectoriel des formes différentielles de classe C”, de degrép, O 5 p 5 n, à support compact dans X. Nous aiions définir une topologie localement convexe sur D P ( X ) ,puis nous étudierons son dual.

II. Courants,structure complexe

22

A. Topologie de D p ( x )

Supposons tout dabord que X est un ouvert de R" et notons &(X)l'espace vectoriel des fonctions de classe C" sur X . Si K est un compact de X et a E W , on pose, pour f E &(X)

Les p ~ , sont , des semi-normes sur E ( X ) .Considérons la topologie de € ( X ) définie par ces semi-normes. Un système fondamental de voisinages de zéro pour cette topologie est donné par les ensembles VK,m,E=

{f E E(X) I va,lal I m , ~ ~ , a<( Ef) .)

Puisque X est un ouvert de R",il possède une suite exhaustive de compacts ( K p ) p et E la ~ famille (VK,,,,~,,)~,~~N,~~N. forme une base dénombrable de voisinage de O. La topologie que nous avons définie est donc métrisable. On vérifie aisément qu'une suite d'éléments de E(X) converge vers O pour cette topologie si elle converge uniformément vers O sur tout compact de X ainsi que toutes ses dérivées. Muni de cette topologie & ( X )est un espace de Fréchet (espace vectoriel topologique localement convexe, métrisable et complet). Si cp est une forme différentielle de classe C", de degrép dans X, cp s'écrit cprdxi

cp=

IIl=p

il
o ù c p ~E E ( X ) e t s i I = ( i l , . . . ,ip) E (1,...,n } P , d x ~= d z i , A . . . A d x i p . O n pose alors pour K compact de X et a E W PK,,(cp) = sup{pK,,(cpI),I = ( i l , . . . ,iP) E

(1,. . . , n } P , i 1

< 22 < . ' . < ip}.

Les semi-normes fi,,a, K compact de X , a E W , définissent une topologie d'espace de Fréchet sur l'espace vectoriel &p(X)des formes différentielles de classe C" et de degré p sur X. Si Y est un autre ouvert de R" et f un difféomorphisme de classe C" de X sur Y ,l'application f* : E P ( Y ) -4P ( X ) cp

est un homéomorphisme linéaire.

-

f*cp

Considérons maintenant le cas où X est une variété. Soit A un atlas de X. On définit la topologie de EP(X) par les semi-normesju,K,, définies pour U domaine de la carte (U,h) E A, K compact de U et a E W par au,K,a(cp>= P K , a ( ( h - l ) * c p l u ) pourcp E

E(X).

Cette topologie est indépendante du choix de l'atlas A, c'est la moins fine qui rende continueles applications ( k - l ) * : E ( X ) -+ E ( k ( V ) )pourtoutecarte (V,k) de X. Puisque X est dénombrable à l'infini, on peut supposer que l'atias A est formé d u n

I . Courants

23

nombre dénombrable de cartes et donc la topologie que nous venons de définir est métrisable. De plus on vérifie aisément que EP(X)muni de cette topologie est un espace de Fréchet. Si K est un compact de X, on note Vg(X)le sous-espace vectoriel de E p ( X ) formé des formes différentielles de classe Cw, de degrép, à support dans K . C’est un fermé de EP (X) et donc si on le munit de la topologie induite par ceiie de P ( X ) on obtient un espace de Fréchet. On met alors sur VP(X) = U 2 ) : (X)la topologie K

d’espace vectoriel localement convexe la plus fine qui rende continues toutes les inclusions Vg(X)’+ V p ( X ) , K compact de X .

Remarques: Une suite de formes différentielles ( c p j ) j G w c DP(X) converge vers cp E vp(x) pour la topologie que nous venons de définir si et seulement si 1) les supports des formes cpj sont tous contenus dans un même compact K de X. 2) ( c p j ) j G w convergevers cp d a n s V g ( X ) . B. Courants

Définition 1.1. On appelle courant de dimensionp sur X touteforme linéaire contin u e s u r V P ( X ) On . noteDL(X) l’ensembledes courantsdedimensionp s u r X , c’est un @-espace vectoriel, le dual topologique de VP(X).

Soit T E Vp(X ) , T est une forme linéaire sur VP (X) donc pour toutes formes pi. p2 E VP(X) on a

T(cpl+ 9 2 ) = T(cp1)+ T(cp2) et pour tous X E @ et cp E VP(X)

T(Xcp)= XT(cp).

T est continue sur DP (X), ce qui signifie que pour tout compact K de X, TI ( D o K ) ( x ) est continue. C’est également équivalent à l’assertion suivante : Pour toute suite ( c p 3 ) 3 E ~d‘éléments de P ( X ) qui converge vers O, la suite T(cpj)converge vers O dans @. Dans toute la suite on écrira ( T ,cp) à la place de T (cp).

Exemples de courants 1) La masse de Dirac 6,, IC E X, définie par &,(y) = cp(x) si cp E v o ( X ) ,est un courant de dimension O. 2) Si w est une forme différentielle localement sommable de degré q sur X, elle définit un courant T, de dimension n - q par

(Tu, y)=

/

X

w A p s i cp E

DnPq(X).

Il. Courants, structure complexe

24

Dans cette identification, on utilise de façon essentielle que X est orientée. 3) Si Y est une sous-variété fermée orientée de classe C” de X de dimensionp, elle définit un courant [ Y ]de dimensionp sur X par

où i est l’injection Y

L)

X . Le courant [ Y ]s’appelle courant d’intégration sur Y .

Si K est un compact de X et k E N un entier, on note ( C k ) P ( X )l’espace des formes différentielles de classe C k , de degré p , à support dans K . On le munit de la topologie définie par les semi-normes I ~ K , ~ , I < Y I5 k. On définit (Cc)P(X) comme la réunion, pour K compact de X , des (C&).( X ) , c’est l’espace des formes différentielles de classe Ck,de degré p , à support compact dans X . On le munit de la topologie d‘espace vectoriel localement convexe la plus fine qui rende continues toutes les inclusions

-

(CK)”(X) (cc)p(x). Considérons l’inclusion D p ( x ) ~ ) ( C c ) p ( Xc’est ) , une application continue d‘image dense. On note (Cc)L(X)le dual topologique de (C,k)P(X), c’est un sous-espace vectoriel de D L ( X ) .Ses éléments sont appelés courants d’ordre k, de dimensionp surX. Exemple: Si Y est une sous-variété fermée orientée de classe C 1 de X , le courant d‘intégration sur Y est un courant d‘ordre nul. C. Support d’un courant

Nous allons voir que de la connaissance locale d u n courant, on peut déduire une connaissance globale de ce courant par recollement.

Si R est un ouvert de X et si T E D ; ( X ) , on peut définir TI, (on devrait dire TIDp(,)) par (Tl,,cp) = (T,?) pour toute cp E Dp(R),où (p E D p ( X )est définie par? = cpsurRetG = OsurX\R.

Proposition 1.2. Soient(R,),EI un recouurementouuertdeX etpour touti E I , des courantsT, E VP(R,) telsqueT,I,,nR, = TJl,,n,, p our tout (i,j). Alors il existe ununiquecourantT E V k ( X )telqueTl,? = T, pourtouti E I . Démonstration. Considérons une partition de l’unité, ( c y i ) i € localement ~ finie subordonnée au recouvrement ( R i ) i E ~Si. cp E DP(X),cp = aicp et la somme

c

iEI

du second membre n’a qu’un nombre fini de termes non nuls. Si T existe, il doit vérifier pour cp E P ( X ) iEI

car le support de ai est contenu dans Ri.

1 . Courants

25

Réciproquement cette formule définit une forme linéaire sur V p ( X )et elle est continue. En effet, soit ( ( P , ) , ~ N une suite d'éléments de V * ( X ) ,qui converge vers O, il existe alors un compact K tel que supp 'p, c K pour tout J E Di et pour tout z E I , la suite (cY,(P,),~N convergevers O dans (C&suppa,)p(X). Donc T,(cr,cp,) converge vers O et comme sur K seul un nombre fini de az'p,sont non nulles pour chaque J , T('p,) = T,(a,'p,) tend vers zero quand J tend vers l'infini. La formule (1.1) définit donc bien un courant T de dimension p sur X . Vérifions que TIot = T,. Pour cela soit 'p E V(R,),

(Tz,~ =)c(Tz>ak(P) k€I

Corollaire 1.3. Si T est un courant de dimension p sur X , il existe un plus grand ouvert R contenu dans X tel que T = O.

I

Définition 1.4. SiT Ç 'D;(X),on appellesupport d e T le complémentaire du plus grand ouvert sur lequel T est identiquement nul.

Exemple :Si Y est une sous-variété fermée orientée de classe C" de X , le support du courant [ Y ]est Y . Remarque: Notons que si T E Vb(X)est un courant à support compact on peut donner un sens à (T,$)pour toute forme différentielle 1c, de classe C" sur X et de degré p . En effet il suffit de considérer une fonction x de classe C" sur X à support compact telle que x soit égale à 1 sur un voisinage du support de T et de poser (T,$)= (T,XQ). Écriture locale d'un courant Soient (U,h)une carte de X et Considérons l'expression

(XI,

. . . ,xn) les coordonnées locales associées.

IIl=p

où TI est un courant de dimension n sur U et, si I = (il, . . . ,ip) E { 1, . . . , n } P , on a posé d x I = dxi, A . . . A dxip.Elle définit un courant de dimension ( n - p ) sur U , de la manière suivante: si 'p dans VD"-p(U) s'écrit 'p = 'pJdzJ,on IJI=n-p

pose

E(I,CI)(Tr,'pC&i A . . . A dx,)

(T,P)= IIl=p

II. Courants, structure complexe

26

si I = ( i l , .. . , i p ) ,CI = ( j 1 , . . . ,jnPp) sont tels que { i l , . . . , z p , j l , . . . , j n - p } = { 1,. . . ,n} et &(I,CI)est la signature de la permutation qui envoie (1, . . . ,n) sur ( i l ,’ . . , i p , j l , ’ . ‘ , j n - p ) . <

.

Réciproquement si T est un courant sur X , le courant TI peut-être représenté par une expression de la forme (1.2). En effet si on pose, pour I = (il, . . . ,ip),

(T~,cpdzlA . . . A d z n ) = &(I,CI)(T,cpdqI) où cp est une fonction C” à support compact dans U , on définit des courants de dimension n,TI,à l’aide desquels T est représenté par l’expression (1.2). Définition 1.5. Si T est un courant de dimension p sur une variété différentiable de dimension n, le nombre ( n - p ) est appelé degré du courant T . On note D’q(X) l’ensemble des courants de degré q sur X . Nous venons de prouver qu’un courant de degré q sur X s’écrit localement comme une forme différentielle de degré q dont les coefficients sont des courants de degré O. Exemple ; Dans IR”,les distributions sont les courants de degré n, ils s’identifient naturellement aux courants de degré O. D. Opérations sur les courants

Nous allons étendre aux courants les opérations classiques existant sur les formes différentielles et définir de nouvelles opérations. Produit extérieur par une forme différentielle de classe C” Soient T E D’P(X) et a E &Q(X),O5 p+q 5 n, on définit le produit extérieur T A Qpar

(T A (Y,(P)= (T,a A cp), pour toute cp E D n - p - q ( X ) ,

+

c’est un courant de degré p q sur X . Si T = T, est le courant défini par une forme différentielle de classe C“ de degré p alors

Tu A

Q

= T U A a = (-l)pqTaAu.

OnposealorssiT E D ’ p ( X ) e t a E D q ( X ) , (Y

AT = (-l)pqTA

(Y.

Si T est un courant d‘ordre IC, on définit de manière analogue le produit extérieur par une forme différentielle de classe Ck. Bord et différentielle d’un courant Soit T E D’p(X),on définit le bord bT du courant T par

(bT,cp)= (T,dp), pourtoute cp

E

DDn-p-l(X),

I. Courants

27

+

c’est un courant de degrép 1 sur X. La différentielle d T du courant T E D’P(X) est alors définie par la relation

d T = (-l)”-’bT. Exemples I) Soit D CC X un ouvert relativement compact dans X à bord de classe C1. On note [Dl le courant de degré O &fini par

alors d’après la formule de Stokes on a b[D]= [bD]. 2) Soit w E EP(X),calculons dTw.Pour ‘p E Dn-P-’(X) on a

(dTw,‘p) = (-l)”-’(bT“,

’p)

= (-1)”-’(Tw,d’p)

or

d(w A 9) = dw A donc

(a,, ‘p) =

/

‘p

w A d‘p

+ ( - 1 ) ” ~A d’p

d u A ‘p -

X

L

= (-l)p-l

s,

d(w A

‘pl.

Mais puisque w A ‘p est une forme à support compact, d‘après la formule de Stokes, on a d(w A ‘p) = O et donc dTw = Tdw.

sx

Remarque:SiT E D’P(X), d ( d T ) = O. Image directe d’un courant par un morphisme propre Soient X et Y deux variétés différentiables de classe C” orientées et f une application C” de X dans Y . On dit que f est propre si et seulement si pour tout compact K de Y ,f -‘(IT) est un compact de X . Si T E D p ( X ) ,on appelle image directe de T par l’application propre f le courant f+Tdéfini par

(T,f’cp), pourtoute ‘p E D’”(Y) (cette définition a un sens car supp f *’p c f (supp ‘p) est compact lorsque f est propre). Le courant f +Test un courant de dimension p sur Y .On déduit de la définition de l’opérateur f+ et de la Proposition 5.4 ii) de l’annexe A que si Tappartient (f,T,

‘p) =

-’

à q x )

f,dT = df+T. Image réciproque d’un courant par une projection

c”

Soient Y et 2 deux variétés différentiables de classe orientées et f la projection de X = Y x 2 sur 2.Si ‘p E D’(Y x Z ) ,on définit l’intégrale ‘p comme la forme différentielle sur 2 vérifiant pour toute 1c, E P ( 2 )

sy

28

II. Courants, structure complexe

Si T = T, est le courant défini par une forme différentielle cp de classe C“ à support compact dans X , le courant f,T, est le courant défini par la forme différentielle $ ( z ) = cp, qui est de classe C” à support compact dans Z . (Cela résulte de la définition de f+ et du Théorème de Fubini). Soit T E D’P(Z),on définit l’image réciproque du courant T par la projection f par

sy

( f * ~ , c p= ) (T,~,T,),pour toute cp E ~ ~( m l ~ ~ c’est un courant de degré p sur X . I1 est clair que si T = T, est le courant défini par une forme différentielle de classe C” sur Y ,f*Tw= Tf.,, où f * w est l’image réciproque de la forme différentielle w .

2. RÉGULARISATION

Soit X une variété différentiable de classe C”, de dimension n, orientée. On n

note D ” ( X ) = @ D’p(X), l’espace vectoriel des courants sur X , c’est le dual p=o

topologique de l’espace vectoriel D * ( X )des formes différentielles de classe C” à support compact dans X . On munit traditionnellement D ’ * ( X )de deux topologies : 1) la topologie faible, c’est-à-dire la topologie de la convergence simple sur P ( X ); plus précisément une famille ( T E ) E Ec~D’*(X) + converge faiblement vers T E D” ( X ) ,quand E tend vers O, si pour toute cp E D o( X )

2) la topologie forte, c’est-à-dire la topologie de la convergence uniforme sur les parties bornées de D ‘ ( X ) . Rappelons qu’une partie B de D * ( X )est bornée si les éléments cp de B sont tous à support dans un même compact K et si pour tout Q E i Tet tout domaine de carte U d u n atlas A, sup { I j u , ~ , ~ ( c

I j u , ~sont , ~ les semi-normes définies au l.A. On remarque facilement que la topologie forte est plus fine que la topologie faible. n

L‘objet de cette section est de prouver que & ‘ ( X ) = @ & P ( X )est dense dans p=o

V ’ * ( X )muni des topologies faibles et fortes et de donner un moyen de construction de familles de formes différentielles de classe C“ qui approchent un courant donné pour ces topologies. On appelle distribution sur X un courant de degré O sur X . A. Régularisation des distributionsdans R”

On considère une fonction 8 positive de classe C” à support compact au voisinage de O dans IRn et vérifiant 8(z)dz = 1.On peut prendre par exemple la

h,,

~

-

2. Régularisation

29

fonction définie par -1

û(z) = ce1-IIzI12

e(x) = O

pour 11x11 5 1 pourllzll

s,

21

la constante c étant choisie de telle sorte que û ( z ) d z = 1.Pour E > O, fixé,on pose e&) = &e( :) et ~ , ( x , y )= - y) pour tout x , y E R". Si u est une fonction continue sur Rn, on définit les régularisées u, de u par

e&

r

La proposition et le corollaire suivants qui sont classiques seront démontrés dans un cadre plus générai au paragraphe B. Proposition 2.1. Si u E Vo(Rn) est une fonction de classe C" à support compact dans R", la famille (u,),~,+ des régularisées de u converge vers u dans Vo(R") lorsque E tend vers O. De plus il y a équiconvergence sur les bornés de V o(R" ) . Définition 2.2. Soit T E V"(Rn) une distribution sur R", on définit la famille (TE)EE des ~+ régularisées de T de la manière suivante: pour toute cp E Vo(Rn) on pose (T,,cpdxl A ' . . A dx,) = (T,cp,dxl A . . . A dx,) oùcpE(z) =

J,"

KE(X,Y)(P(Y)dY.

Corollaire 2.3. La famille des régularisées (TE),€,+de la distribution T est une famille de fonctions de classe C" sur R" qui convergefortement et faiblement vers T quand E tend vers O. Pour des compléments sur la régularisation dans IR" le lecteur pourra consulter [Sc,chap. 61. Exhibons les principales propriétés de la fonction K , définie sur R" x Rn : 1)K , est une fonction de classe C", 2) K , est à support dans une bande d'ordre E contenant la diagonale de R" x IR"

9

3) ./R* K,(z,?l)dy = JRn K , ( z , y ) d z = 19

4) JR,

(E+ (-l)lal+lE 1K , ( z , y ) d y

= Opourtouta E W .

Ce sont ces propriétés qui sont les clés de la Proposition 2.1. et du Corollaire 2.3. B. Régularisation des distributions dans une variété

Soit X une variété différentiable de classe C", orientée de dimension n. Une variété n'étant pas, en général, munie d u n e loi de groupe, nous ne pouvons plus utiliser la convolution pour régulariser, contrairement à ce que nous avons fait au paragraphe A. L'idée est d'utiliser des noyaux ( K E ) E E R qui +seront des fonctions

II. Courants, structure complexe

30

définies sur X x X et qui vérifieront des propriétés analogues aux quatre propriétés citées au paragraphe A. Définition 2.4. Soient 7r1 et 7 r p les deux projections de X x X sur X . On dira qu'un sous-ensemble A de X x X est propre si pour tout compact K de X les ensembles 7r1(7rT1(K)n A ) et7rp(n;'(K) n A ) sontrelativementcompactsdansX. On considère sur X x X une famille de voisinages emboîtés de la diagonale A de X x X que l'on note (UE),EW+ et que l'on construit de la manière suivante : considérons un recouvrement U localement fini de A par des ouverts Ü = (U x U ) tels que U soit le domaine d u n e carte (U,h)de X ; on définit alors par

u,

U€ =

u { (w)6 I IF(.) E

-

h(!l)ll

< E}.

G,,

On note w une forme différentielle de classe C", de degré n, ne s'annulant pas sur X , qui définit l'orientation de X .

x,

Définition 2.5. On appelle famille de noyaux régularisants sur X x toutefamille (K,(x,y)),,W+ de fonctionsc", positivessurx x X , tellesquepour tout& > O, le support de K , soit propre, contenu dans U, et contienne la diagonale A de X x X , que la famille de fonctions (x ++ K , ( x , y ) ~ ( y ) ) , ~converge ~+ uniformément sur tout compact de X vers la fonction constante égale à 1 quand E tend vers O dans R+ .

sx

Définition 2.6. Soit f une fonction continue sur X . On appelle famille des régularisées de f la famille des fonctions (f,)EER+ définies par

Définition 2.7. Soit T E V " ( X ) une distribution sur la variété X , on définit la famille ( T E ) E E des ~ régularisées + de T de la manière suivante: pour toute cp dans Do ( V )on pose

La Définition 2.7 a un sens car K , étant de classe C" sur X x X , cp, est de classe C" sur X et de plus le support de cp, est contenu dans l'ensemble 7r1 (KY' (supp cp) n supp K,) qui est compact puisque K , est supposé à support propre. Proposition 2.8. Soit T E V ' O ( X )une distribution sur X , les régularisées T, de T sont des fonctions de classeCm surX et de plus pour tout y E X

T€(Y)= ( T > K , ( ~ , Y ) 4 X ) ) .

2. Régularisation

31

La fonction z K,(z,y) est une fonction C" à support compact dans X pour chaque y fixé et dépend de y de manière Coo,de plus w est une forme différentielle de classe C" sur X et donc (T,KE(z,y)w(z)) est bien définie et c'est une fonction de classe C" sur X . En utilisant la densité de l'espace vectoriel engendré par les fonctions du type u(z)v(y),u,v E C " ( X ) dans D o ( X x X ) on obtient

etdoncparladéfinitiondeT, onaT,(y) = (T,KE(z1y)w(z)).

O

Nous allons maintenant étudier la convergence de la famille TE)€€^+ pour les topologies faibles et fortes de D ' ( X ) . Soit II, E Dn(X) une forme différentielle de classe C" à support compact de degré n sur X . Puisque par hypothèse w ne s'annule pas sur X , il existe cp E D O ( X )telle que II,= 'pw. On a alors

(T - T E , $ ) = (T - T,,cpw)= (T,(cp- c p € b ) . Pour obtenir la convergence faible de la famille TE)€€^+ vers T quand E tend vers O, il suffit donc d'étudier la convergence de la famille ( ( P ~ ) ~ ~vers W + cp dans D o ( X ) .Pour prouver la convergence forte de la famille TE)€€^+ vers T quand E tend vers O, il suffira de montrer l'équiconvergence de la famille ( q E ) € €vers ~ +cp lorsque 'p décrit un sous-ensemble borné de D o ( X ) . Définition 2.9. On appelle opérateur différentiel (linéaire) à coeficients C", d'ordre fini une application linéaire P : C " ( X ) 4 C " ( X ) telle que, pour toute carte (U,h) de X , il existe un opérateur différentiel P(u,h)à coeficients C" sur l'ouvert h(U ) de R" vérifiant pour toute fonction f E Cm ( X )

( P f )O h-' = P(u,h)(fO h - l ) dansh(U). On notera P*1'adjointformeldeP pour leproduitscalairesurD'(X) défini par (fig) = J, f(Y)g(Y)w(Y).

Dans la suite le terme opérateur différentiel désignera toujours un opérateur différentiel à coefficients C" d'ordre fini.

Remarque 2.10: Soient et f des fonctions de D o ( X )à support dans un même compact de X . La famille ( f E ) E E l i g + converge vers f dans D o ( X )quand E tend vers O si et seulement si pour tout opérateur différentiel P = P(z,D)on a lim SUP IP(z,Dz)f(z)- P(z,Dx)f,(s)I = o.

€+OXEX

Proposition 2. I 1. Soit f E Do( X ) ,on pose

II. Courants, structure complexe

32

1 ) Pour que la famille (f E ) E E R + converge vers f dans D o ( X )quand E tend vers O ; il faut et il suffit que pour tout opérateur différentiel P sur X

2) Pour qu'il y ait équiconvergence de la famille (f E ) € € R +vers f lorsque f décrit un sous-ensemble borné d e D o ( X )il faut et il suffit que

Pour tout opérateur différentiel P sur X

I

SUPZEX Jx ( ( P ( Z 7 OZ)- P*(Y, ~ , ) ) K € ( ZYc),) f ( Y M Y ) l + 0 quand E tend vers O uniformément par rapport à f dans tout borné de Do ( X ).

Démonstration a) Conditions nécessaires: on suppose que ( f E ) E E R + converge vers f dans Do (V) quand E tend vers O ou bien qu'il y a équiconvergence lorsque f décrit un sous-ensemble borné de Do ( X ) .

Grâce à la convergence de (f E ) E E R +vers f dans D o ( X )et à la continuité de P sur D o ( X ) ,on a

Si de plus il y a équiconvergence des (f E ) € € R + vers f lorsque f décrit un sousensemble borné de Do(X),la limite ci-dessus est uniforme par rapport à f sur tout borné de Do ( X ) . Pour conclure il suffit alors de prouver le lemme suivant que l'on appliquera à la fonction P ( x ,DZ) f.

Lemme 2.12. Soit f une fonction continue à support compact dans X . On pose f E ( x ) = Jx K E ( zy) , f (y)w(y), alors ia famille ( f E ) E E R + converge uniformément vers f sur X quand E tend vers O. Si de plus B est une partie équicontinue de C ( X ) formée de fonctions à support dans un même compact et telle que sup{ I l f l l m , f E B} soitfini, on a équiconuergence des familles (f E ) € € R + lorsque f décrit B.

2. Régularisation

33

Démonstration. Par définition de f E nous avons

La fonction f étant continue à support compact, elle est uniformément continue et donc

(va > 0)(3&0> o ) ( v E < EO)((.,

Y) E UE=$ If(.)

- f(Y)l

< a).

Notons que EO est indépendant de f pour f E B, car les éléments de B sont uniformément équicontinus. Donc si E < EO on a r

( sX

~ ) 2w ( ,Y ) ) ,L étant uncompact contenant supp f u n1(7r21(supp f)).Par hypothèse sur K,, mL,Eest borné indépendamment de E et si L' est un compact de X contenant le support de f, il existe €0 > O tel que si où rnL,€= supXEL

E

~

< EO on ait

II

s,

~

(

~ E ( . 7 Y ) w ( Y )- 1ll00,L~< Q.

Observons que si f E 8,les compacts L et L' peuvent être choisi indépendamment de f . On aura par conséquent, pour E < min(e0, €0)

Ilf - fEllm I M Q + IlfllmQ. Ce qui prouve la convergence de ( f E ) E E W + vers f quand convergence sur B car sup{ Ilflloo, f E B } est fini.

E

tend vers O et l'équi-

n

Fin de la démonstration de la Proposition 2.11 b) Condition suffisante :pour obtenir la convergence de la famille (f,)EEllg+ vers f dans D o ( X )quand E tend vers O il suffit de démontrer que, pour tout opérateur différentiel P sur X, on a

II. Courants,structure complexe

34

or d'après le Lemme 2.12 supzEx IP(z,D,) f (x)- (P(y,Dy)f (y))€(x) I tend vers O quand E tend vers O et

tend vers O quand E tend vers O par hypothèse, d'où le résultat. Si (**) est satisfaite on obtient aisément l'équiconvergence sur tout fermé en reprenant les étapes cidessus. O

<

Considérons une carte (U,h)de X et = ( < I , . . . ,&) les coordonnées locales associées. Soit P un opérateur différentiel sur X alors il existe un opérateur P(u,h) sur h ( U )tel que pour tout f E D o ( V )

P(f 1

O

h-l = +, I L)

(f

O

h-

= Ca,(<)o;(f

O

h-7

a

où a E lai", les a , sont des fonctions C" sur h ( U ) ,nulles sauf un nombre fini diQI d'entres elles et DE" = ,,.at;,, . Proposition 2.13. Soit ( K ,(z,I/)),~w+ une famille de noyaux régularisants surX x X , alors les conditions suivantes sont équivalentes

( Pour toute fonction f E V o ( X )à support dans un domaine

Démonstration. La condition (*) implique trivialement la condition (*'). Réciproquement, soit (Ui)iEr un recouvrement localement fini de X par des domaines de carte et ( x i ) i c ~une partition de l'unité subordonnée à ce recouvrement. Soit f E D o ( X )et P un opérateur différentiel sur V ; puisque le support de f ne rencontre qu'un nombre fini d'ouverts Ui : ( U i k ) k = ~ , . .,.on ,t a

I1 suffit donc puisque xikf est à support dans le domaine de carte Ui, de prouver (*) pour toute fonction g E D o ( X )à support dans un domaine de carte de X . De plus par linéarité, il suffit de montrer que (*) est vérifiée pour toute carte (U,h)de

2. Régularisation

35

X, toute fonction g E V o ( X )à support dans U et tout opérateur différentiel P sur X tel que P(u,h) = u([)D$.Pour ailéger l’écriture dans la suite des calculs nous identifierons U et l’ouvert h ( U )de IRn, P s’écrit alors P(z,D,) = u ( z ) D z et

Sx((P(.,D.)

-

P*(Y,Dy))K,(z:,Y))g(Y)d?/

est la somme de trois termes

(ri = a(.) J,[(D,Q

+ ( - i ) l a l +yl )~Ka( w ) l g ( Y ) d Y

(W = ( -1) lai a Jx (0,”K , .( ,Y))LI (Y)dY (Hi)= - Jx KE(x,g)(P(y,Dy)g(y))dy (par définitionde P * ) . D’après (*’), (I)converge uniformément vers O quand E tend vers O car la fonction a étant continue elle est bornée sur le support de l’intégrale de (I)(ce dernier est compact puisque le support de K , est propre). En intégrant par partie on obtient (II)=a(z)(D,”g(y)),(z) et daprès le Lemme 2.12, cette quantité converge uniformément sur X vers u(z)Dgg(z). Finalement (III)= -(a(y)D,”g(y)),(z) et cela converge uniformément vers

-a(z)D,”g(x)grâce au Lemme 9.2.9, ce qui termine la démonstration.

O

Proposition 2.14. Soit (K,(IC,Y)),~R+ unefamille de noyaux régularisantssurx x X , alors les conditions suivantes sont équivalentes:

( Pour tout opérateur différentiel P sur X

sur toutbornédeVo(X). (

Pour tout domaine de carte et pour tout multi-indice CY

((DZ + (-l)lal+lDay )KE(z,Y))f( Y ) W ( Y ) l

(**’I

+0

quand E tend vers O uniformément par rapport à f sur tout borné d e V o( X )dont les fonctions sont à support dans un domaine de carte.

I

Démonstration. I1 suffit de reprendre la démonstration de la Proposition 2.13 en remarquant que l’on peut encore utiliser une partition de l’unité car les fonctions d u n borné sont toutes à support dans un même compact et en utilisant la concluO sion du Lemme 2.12 sur l’équiconvergence. On a donc prouvé le résultat suivant : Théorème 2.15. Soit (K,(X,~)),~~+ une famille de noyaux régularisants sur X x

X.

II. Courants, structure complexe

36

Si les conditions équivalentes (*) et (*') sont satisfaites, la famille ( T E ) E Edes ~+ régularisées de T convergefaiblement vers T dans V'O ( X ) . Si les conditions équivalentes (**) et (**') sont satisfaites, la famille (TE)EER+ des régularisées de T convergefortement uersT dans VIo( X ) .

Pour terminer ce paragraphe nous allons construire des opérateurs régularisants dont les noyaux sont des noyaux régularisants au sens de la Définition 2.5 qui vérifient les conditions (*) et (**). Cette construction est due à de Rham ([Rh], 3 15). Considérons un recouvrement localement fini dénombrable de X par des domaines de carte (Ui)iEnhoméomorphes à R". Notons hi l'homéomorphisme de Vi sur R". On peut alors trouver un recouvrement de X par des ouverts V , CC Ui et des fonctions fi de classe C" à support compact dans Vi et telles que fi 1 sur ( c f Annexe A, Lemmes 2.1 et 2.2). Si T est une distribution sur X on pose Ri,€T= &,fiT ( 1 - f i ) T où Ri,, = hrr,hi* et T , est la convolution sur R" par la fonction flEdu paragraphe 2.A. Au voisinage de tout compact de X la suite des opérateurs R i ( € )= Ri,cO . . . O R I , €est stationnaire et on pose RE = lim Ri(&).

vi

=

+

a d o z

Nous appellerons opérateurs régularisants de de Rham, des opérateurs régularisants construits par cette méthode. Regardons par exemple le cas d u n e variété munie d'un atlas à deux cartes :

RET = Ri,ER2,ET = Ri,,fiR2,Ef~T+ Ri,,fi(l - f2)T + ( I - fl)RZ,€f2T+ ( 1 - f l ) ( 1 - f2)T où le dernier terme de la somme est nul.

Le noyau associé à l'opérateur R, s'écrit

+Kl,E(Z,Z)fl(Z)(l - fi(.))+ ( 1 - fl(~))KZ,E(Z,Z)f2(Z). avec Ki,E,le noyau associé à l'image par hi de la convolution par Oc,. Le théorème suivant a été prouvé par de Rham (Théorème 12, [Rh],5 15).

Théorème 2.16. Soient (R,)€>oune famille d'opérateur régularisant de de Rham et T E D'O ( X ) une distribution sur X . 1) RETest une fonction de classeCm sur X . 2) Le support de R,T est contenu dans un voisinage arbitraire du support de T si E est assez petit. 2) RETconvergefaiblement et fortement vers T quand E tend vers O. Le lecteur pourra vérifier que les noyaux K , ,E E R+ , associés aux opérateurs R, forment une famille de noyaux régularisant satisfaisant les conditions (*) et (**).

2. Régularisation

37

C. Régularisation des courants

Pour régulariser les courants sur X , il suffit de remplacer les noyaux du paragraphe B par des formes différentielles doubles sur X x X,Cw à support dans un système fondamental d’entourages (U,),>O de la diagonale A de X x X . Soit une telle famille. Si cp E D P ( X )est une forme différentielle de classe C” à support compact dans X et si 7r1 et 7r2 désignent les deux projections X x X + X , on pose Si de plus le support de ‘p est contenu dans un domaine de carte U et si E est choisi assez petit pour que 7rT1( U )nu, soit contenu dans un domaine de carte de X x X ,

alors ,

.

.

IUJ={l,

...,n }

où O(.) est la signature de la permutation ( I J ) ct ( 1 , . . . ,n) et dy la forme différentielle dyl A . . . A dy,.

On peut faire une étude analogue à celle du paragraphe B et l’on obtient Théorème 2.17. Soit ( $ E ) E > ~ une famille de formes différentielles sur X x X de classe c”, à support propre contenu dans un système fondamental de la diagonale A de X x X telle que dans toute carte de X x X on ait

&(GY)

=

~,,I,J(x,y)dxI A~ Y J I U J={ l,...,n}

1n~=0

où lesfonctions K E , l , vérifient j la condition (**‘) de la Proposition 2.13 etsont telles que lesfonctions (x C) K,,I,J(x,y)dy) convergent uniformément sur tout compact du domaine de carte où elles sont définies vers la fonction constante égale à 1 quand E tend vers O dans R+. Si T E W ( X )est un courant de degrép sur la variété X , la famille ( T E ) E E des ~ régularisées + de T , définies par (T,,cp) = (T,cp,) pour toute cp E Dn-P(X), où cpE est la régularisée de cp par $, converge vers T pour les topologiesfaibles et fortes de D’P(X) quand E tend uers O dans R+ .

sx

Démonstration. Par définition de la topologie forte de D’P(X),il sufiit de prouver l’équiconvergencede la famille des régularisées de (O vers cp lorsque cp décrit un borné de Dn-p(X). Soit (Vi)iE1 un recouvrement de X par des domaines de cartes de X et (xi)iE1une partition de l’unité subordonnée à ce recouvrement. Si B est un borné de Dn-p(X) et si cp E B,posons cpi = xicp. Puisque les fonctions

II. Courants, structure complexe

38

'p sont toutes à support dans un

même conipact dans X , on peut écrire 'p =

E,'pi i€I

où I' est un sous-ensemble fini de I indépendant de 'p E t?. Par linéarité, on obtient le résultat cherché en appliquant la Proposition 2.1 1 à chacune des 'pi. O Définition 2.18. Si (~+/I',),~R+ est une famille de formes différentielles doubles satisfaisant aux hypothèses du Théorème 2.1 7, on appelle opérateur régularisant, les

opérateurs RE de V ' * ( X )dans lui-même définis par (RET, 'p) = (T,' p E ) pour T E V " ( X ) et 'p E P ( X ) où les 'pE sont les régularisées de 'p obtenues à l'aide des noyaux

3. INDICE DE KRONECKER DE DEUX COURANTS

On désigne par X une variété différentiable de classe C"

et de dimension n.

Définition 3.1. Si T et S sont deux courants sur X tels que d"T

+

d"S=n, nous dirons que l'indice de Kronecker de T et s,K ( T , est défini au sens de de Rham si quelles que soient les familles d'opérateurs régularisants ( R E ) E > et~(R:,).,>o qui commutent avec l'opérateurd, la quantité (RETA R:,S, 1 ) possède une limite indépendante des familles d'opérateurs choisies, lorsque E etEl tendent vers O, on note K(T,S ) cette limite.

s)

Si X =
Remarques 1) L'application ( T ,S ) H K ( T , S ) est bilinéaire. 2) Si l'un des deux courants T ou S est une forme différentielle de classe C" et si le support de T ou le support de S est compact alors l'indice de Kronecker K ( T ,S ) de T et S existe et vaut (T A S , 1).(Cela résulte des propriétés de convergence des régularisées dans D o(X) et dans V" ( X )pour la topologie forte des courants). 3) Si les supports de T et S ne se rencontrent pas et si T ou S est à support compact, K ( T , S ) a un sens et est nul. En effet pour E et E' assez petit RETet R:,S seront à supports disjoints et donc RETA RÉ,S = O. Nous allons donner maintenant des conditions suffisantes d'existence pour l'indice de Kronecker de deux courants. Définition 3.2. On appellesupport singulier d'un courant le complémentairede l'en-

semble des points au voisinage desquels il est défini par une forme différentielle de classeC". On notera S S ( T )lesupportsingulierdu courantT. Si T E 73'' ( X )est un courant sur X et U un voisinage du support singulier de T , on peut écrire T = T' + T" où T' est un courant dont le support est contenu

3. Indice de Kronecker de deux courants

39

dans U et T” une forme différentielle de classe C” sur X . I1 suffit de poser 7’’= pT et T” = (1- p)T où p est une fonction de classe C “ , positive, à support dans U et égaie à 1 au voisinage du support singulier de T .

+

Proposition 3.3. Si T et S sont deux courants sur X tels que doT d”S = n dont l’un est à support compact et dont les supports singuliers ne se rencontrent pas, alors l’indice de Kronecker K ( T , S ) de T et S a u n sens.

Démonstration. Sous les hypothèses de la proposition il existe des décompositions T = T’ T” et S = SI S” où T” et S” sont des formes différentielles de classe C” et où les supports de TI et SI ne se rencontrent pas. On peut alors appliquer I), 2) et3) delaremarqueet K ( T , S ) = K(T’,S”) K(T”,S’) K(T”,S”). O

+

+

+

+

+

Proposition 3.4. Soient T et S deux courants sur X tels que d”T d”S = n - 1 et dont l’un est à support compact. Si K (bT,S)ou K ( T , d S )existe l’autre existe aussi et ils sont égaux, i.e. K(bT,S) = K(T,dS).

Démonstration. Puisque les opérateurs régularisants R, et Ri, commutent avec d et donc également avec b o n a

(R,bT,R:,S) = (bR,T,R:,S) = (R,T,dR:,S) = (R,T,R:dS) d’où le résultat.

O

Application :La Proposition 3.4 permet détendre la formule de Stokes au cas d u n domaine D CC X à bord de classe C1 et d u n e forme différentielle w E C,-1 (D) telle que dw, calculée au sens des courants, soit continue sur B.En effet, posons T = [ D ] e t S = w,alorsK(bT,S)existeetvautSbDwetonadoncSbDw= SDdw.

+

Théorème 3.5. Soient T et S deux courants sur X tels que d”T d”S = n et dont l’un est à support compact. Pour que l’indice de Kronecker K(T,S) des courantsT et S existe il sufit que

S S ( T )n SS(bS) = 0 e t S S ( b T )n S S ( S ) = 0. Remarque :On déduit du Théorème 3.5 que l’indice de Kronecker de T et S existe dès que T est fermé à support compact et S est fermé. Pour prouver le Théorème 3.5, nous avons besoin d u n e parametrix pour l’opérateur d qui n’augmente pas le support singulier. Celle que nous présentons ici est due à J.B. Poly. Proposition 3.6. Si T est un courant sur X , il existe des opérateurs A et R tels que l ) T - RT = d A T f A d T

II. Courants, structure complexe

40

2) A n'augmente pas le support singulier et R est régularisant.

Démonstration. Commençons par le cas où X = R".Notons 6 l'opérateur sur D'(Rn)défini de la manière suivante: si T E D'(Etn),considéré comme forme différentielle à coefficients distributions, s'écrit T = 'TIdxI, où ' signifie I

I

,onpose I = ( i i ,...,ik) il<...
Remarquons que db

+ Sd = -A

où A est le laplacien usuel A =

la solution élémentaire du Laplacien A, E = s i n = 2 e t E = :sin= de Rn.

"

2

%. Soit E ax,

(n-2)t,,r>L-2 si n 2 3, E = & log

T

l o ù r = (xf+...+x~)1/2etsnl'airedelasphèreunité

Pour tout courant S à support compact dans R", on pose GS = -E * S , puis K S = 6GS. Si S , considéré comme forme différentielle à coefficients distributions, a pour expression S = ' SIdxI le produit de convolution GS = E * S I

' E * SIdxI d'où l'expression de K S

s'écrit GS = I

L'opérateur K : €'(IRn) -+ D'(Etn) ainsi défini a les propriétés suivantes : a) S = dKS KdS, car S = -AGS = d6GS GdGS = dGGS GGdS. b) K n'augmente pas le support singulier. En effet A est elliptique et par suite GS est C" en dehors du support singulier de S.

+

+

+

Revenons au cas où X est une variété. Puisque X est réunion dénombrable de compact, il existe un recouvrement dénombrable et localement fini de X par des domaines de carte Wi CC X. D'après les Lemmes 2.3 et 2.1 de l'annexe A, on peut alors trouver un recouvrement de X par des ouverts V, tels que V , CC Wi et des fonctions vi de classe C" à support compact dans Wi telles que vi = 1 au voisinage de V,. Pour tout courant T sur X , on pose

AiT = qiK(qiT) (où par abus de notation on considère Wi comme un ouvert de R"),et

RIT = T - dAiT - AidT

+

= T - ( T , I ~ ) ~viK(d7i T A T ) - dvi A K(viT).

(Pour être parfaitement rigoureux il faudrait considérer la carte (Wi,hi) de X et définir l'opérateur Ai par AIT = qi (h;') * ( K(hi)* (viT)).Le lecteur pourra vérifier facilement que le fait d'avoir identifié Wi et son image par hi dans IRn ne modifie pas les propriétés de Ai mais permet seulement d'avoir des écritures plus simples.)

3. Indice de Kronecker de deux courants

41

Les opérateurs Ai et Ri ont les propriétés suivantes : a) T = dAiT AidT RiT par construction, d'où résulte dRiT = RidT. b) Ai et Ri n'augmentent pas le support singulier. De plus, RIT est C" sur V, ; en effet RIT et K(dqi A T ) coïncident sur E, et puisque K n'augmente pas le support singulier, K(dqi A T ) est C" sur V, car dvi A T est nul sur V,.

+

+

On pose Ak = AkRkPl... Ri et Rk = RkRk-1.. . R I . Le recouvrement (Wi)étant localement fini, on montre facilement que

RT = lim RkT et AT = lim AkT k+m

k+m

existent, car au-dessus d u n ouvert U CC X,RkT devient stationnaire et AkT s'annule dès que k est assez grand. Les opérateurs A et R ont les propriétés souhaitées : a) On a R"'T - RkT = ( 1 - Rk)Rk-iT

+ Akd)Rk-lT = dAkT + AkdT =

(dAk

car Ri et d commutent, d'où par sommation

T

-

RT = dAT

+ AdT.

b) A n'augmente pas le support singulier car il en est ainsi de Ak.L'opérateur R est régularisant car RkT est C" sur V , dès que IC 2 a. O Démonstration du Théorème 3.5. D'après la Proposition 3.6, T et S admettent les décompositions suivantes :

T = RT S = RS

+ dAT + AdT + dAS + AdS.

Posons

Ti = RT, T2 = dAT, T3 = AdT Si = RS, S2 = dAS, S3 = AdS. Par linéarité K(T,S)sera défini si chacun des K(Ti,sk),z,k = 1,2,3, existe. Remarquons que Ti,i = 1,2,3,est un courant à support compact. Le courant Ti est une forme de classe c" car R est régularisant. Par conséquent K(T1,sk)est défini pour tout k = 1,2,3.Le courant S1 étant une forme de classe C", K(Ti,S,)existe pour tout i = 1,2,3.Pour i=k=2, on peut appliquer la Proposition 3.4 et on obtient K(T2,S2)=0.Les cas i = 2 et k = 3,i = 3 et k = 2,i = IC = 3, se déduisent de la Proposition 3.3 car les opérateurs d et A n'augmentent pas le support singulier. ü

s

Corollaire 3.7. Formule de Stokes pour l'indice de Kronecker. Soient T et deux courants sur X tels que doT + dos= n - 1 et dont l'un est à support compact. Si

SS(bT)n SS(bS) = 0

II. Courants, structure complexe

42

les indicesde KroneckerK(bT,S) etK(T,bS) existenteton a

K(bT,S) = (-l)doS-lK(T,bS). Démonstration. C'est une conséquence immédiate du Théorème 3.5 et de la Proposition 3.4. u Exemple d'application :Formule de Cauchy-Green dans @. Soit D un ouvert borné de C à bordCl contenant l'origine. Si $ est une fonction de classe C" dans @. Après identification de Cc avec IR2 on définit les formes différentielles de degré 1, d z et dZ par d z = dx idy et dZ = dx - idy.

+

Si $ est une fonction de classe C" dans @. on pose T=$[D] où [DI désigne le courant d'intégration sur D. Alors S S ( T ) = bD.

&

Si S = $ alors dS = [O],où[O] est le courant d'intégration sur la variété réduite au point O. En effet, si cp E Do(@), par définition de d on a

car S est défini par la forme différentielle localement intégrable notons BE= { z E Qi I IzI < E } , alors

& e.Pour E > O,

En appliquant le Théorème de Stokes, on obtient

car cp est à support compact. De plus -dz

L B ,

)."

=

Comme la fonction cp est de classe C" donc en particulier de classe C1 la première intégrale du second membre tend vers O quand E tend vers O. D'autre part, par la formule de Cauchy on a, pour tout E > O, $ = 1.Par conséquent

& saBc

( G c p ) = 4 0 ) = ([OI>cp).

+

Par ailleurs bT = -d$ A [O] $ A [bD]et donc SS(bT) = S S ( T ) = bD, de plus SS(bS)= {O}, par conséquent SS(bT)n SS(bS)= 0 puisque O E D. On peut donc appliquer le Corollaire 3.7 :

K(bT,S) = K (

-

d$ A [DI

+ 11, A [ b D ]22lT,1y -dz-z)

4. Variétés analytiques complexes

43

Interprétation géométrique de l'indice de Kronecker Nous donnons les résultats suivants sans démonstration ; le lecteur intéressé pourra consulter [Rh, 201 et IL-Tl] pour plus de précisions et de meilleures conditions suffisantes d'existence de l'indice de Kronecker de deux courants. Si Y et Z sont deux sous-variétés fermées orientées de dimension p et n - p de X qui se coupent transversalement et telles que Y ou 2 soit une sous-variété compacte de X, alors les courants d'intégration [Y]et [Z] sur Y et Z sont fermés, ils satisfont donc aux hypothèses du Théorème 3.5 et on a

~ ( [ Y I , [ Z l=) ([Y Z1,l). Ici Y n2 est constitué d u n nombre fini de points et ( [ YnZ],l)est égal au nombre de points de Y n Z en lesquels les orientations de Y et Z coïncident diminuée du nombre de points en lesquels elles diffèrent. Plus généralement, si Y est Z sont deux sous-variétés fermées orientées de X de dimension respective p et q qui se coupent transversalement et telles que Y n Z soit une sous-variété de X et si cp est une forme différentielle de classe C", de degré p q - 76, à support compact dans Xona ~ ( [ Z I l [ YAl cp) = ([Z n Yllcp).

+

4. VARIÉTÉ ANALYTIQUE COMPLEXE

Dans le cadre de l'étude des fonctions holomorphes, il est naturel d'introduire des objets ayant, pour le calcul holomorphe, des proporiétés analogues à celles des variétés différentielles pour le calcul différentiel, c'est-à-dire qui ont hérité localement des propriétés analytiques des ouverts de @". Définition 4.1. SoitX un espace topologique, on appelle atlas complexe un ensemble de cartes (U,cp)tel que les domaines U forment un recouvrement ouvert de X et les applications cp soient des homéomorphismes de U sur un ouvert de cc",qui vérifient la condition de compatibilité holomorphe: si U n U' # 0,l'application cp'

O

9-l :

cp(un u')cp'(u i n u')

est une application biholomorphe entre ouverts de Cn.On dira que deux atlas complexes sont compatibles si leur réunion est un atlas complexe. On définit ainsi une relation d'équivalence.

II. Courants, structure complexe

44

Définition 4.2. On appelle variété analytique complexe un espace topologique sé-

paré, réunion dénombrable de compacts, muni d’une classe dëquivalence d’atlas complexes. Si X est une variété analytique complexe, x un point de X et (U,cp)une carte au voisinage de x , cp est un homéomorphisme de U sur un ouvert de @” et n est appelé la dimension complexe de X en x (comme dans le cas des variétés différentiables n est bien sûr indépendant de la carte (U,cp)au voisinage de 2).On dira que X est une variété analytique complexe de dimension n si pour tout x E X la dimension complexe de X en x est égale à n. Si X et Y sont deux variétés analytiques complexes, une application f : X -+ Y est dite holomorphe si elle est continue et si pour tout couple de cartes (U,cp)et ( V , 9 )de X et Y tel que f ( U ) c V ,l’application 1c, O O cp-’ : p ( U ) -+ $ ( V )est holomorphe. Lorsque Y = C on parlera de fonction holomorphe. Comme dans le cas des applications de classe C Q ,il suffit bien sûr de le vérifier pour toutes les cartes d u n atlas. On notera O ( X ) l’espace vectoriel des fonctions holomorphes sur X à valeurs dans @.

(fi,)

Définition 4.3. Soit (U,cp) une carte d’une variété analytique complexe, alors cp est uneapplication holomorphedeU dansCn, etsicp(x) = (zl(x),. . . ,z,(z)), où les z j : U + C,j = 1, . . . ,n,sont des fonctions holomorphes sur U , les fonctions ( z 1 ,. . . ,zn) s’appellent les coordonnées holomorphes de X sur U définies par la

carte (U,cp). Remarque: I1 est clair qu’une variété analytique complexe X de dimension n est naturellement munie d’une structure de variété différentiable de classe C” de dimension 2n. Les espaces tangent T,X et cotangent T,X à X en x sont donc bien définis. Considérons en particulier l’espace @T: X des 1-formes différentielles en x E X à valeurs complexes qui est le dual du complexifié CTz X de T,X (cf.Annexe A, $ 4). Explicitons ce qui se passe dans une carte (U,cp) au voisinage de x où les coordonnées locales sont (z1,. . . ,zn) avec z j = xj i y j , j = 1, . . . ,n. La famille {(d~l)~,(dy1),, . . . ,(d~,)~(dy,)~} est une base de CT,X et la base duale I1 est soucorrespondante dans @TzX est {(K)z,(&),,. a . . ,(,)z,(&),a}. vent plus intéressant de considérer pour CT: X la base

+

{ (dzï)z,(dzï)i1. . . ,(dzn)zl(dzn)z} et pour CTz X la base duale associée que l’on note

On a par définition

45

4. Variétés analytiques complexes

Si f est une fonction à valeurs complexes de classe C1 sur un voisinage de z dans X , sa différentielle dfz définit un élément de T,X qui s’écrit

n Ou

bien ( d f ) z =

%(z)(dz,), i=l

+ ~ ( ~ ) ( C t z suivant , ) , la base choisie, par

définition des bases dudes. Un calcul simple montre que

ce qui correspond à la définition donnée au chapitre I. Remarquons encore une fois que le fait d’associer à T,’X et à T,X leurs complexifiés, c’est-à-dire de considérer des formes à valeurs complexes, ne fait pas intervenir la structure de variété analytique complexe de X mais que cela peut être fait pour n’importe quelle variété différentiable. Nous n’avons utilisé la structure de variété analytique complexe de X que lors de l’écriture en coordonnées locales. Terminons ce paragraphe en prouvant qu’une variété analytique complexe est orientable. Soit X une variété analytique complexe de dimension n. D’aprèsla Proposition 6.2 de l’AnnexeA, X est orientable si elle possède un atlas c”, (Vi, hi)iEl, tel que pour tout i, j E I

d i j ( z ) = det [ J ( h iO hjl)(hj(z))] > Osiz E Vi f l U j .

+

Considérons un atlas complexe (Vj,‘ p j ) j Ede ~ X . Si ‘ p j = hj i k j , l’ensemble ( U j ,( h j ,k j ) ) j E est ~ un atlas C” de X quivérifie pour z E Vi fl Vj

Une variété analytique complexe X est donc orientable et dans la suite de ce volume nous la munirons de l’orientation définie de la manière suivante lorsqu’un atlas complexe (Vi,‘pi)iElde X est fixé : si ( z l ,. . . , 2,) sont des coordonnées holomorphes associées à la carte (Vi,‘pi)nous choisirons l’orientation associée à la 2n-forme différentielle dZ1

A . . . AdZn A d 2 1 A ’ . . A d Z n

ce qui correspond à l’orientation défini par

d x l A . ‘ . A d z n A d y i A . . . A dy,

II. Courants,structure complexe

46

5. STRUCTURE COMPLEXE

Soit X une variété analytique complexe de dimension n. On va montrer que pour tout point x E X , l'espace vectoriel réel T,'X possède une structure naturelle d'espace vectoriel sur C. Examinons tout d'abord le cas où X = Cn. Comme variété Coo, C? s'identifie à R21n de manière naturelle, donc T,Cn = TXR2ln= R21n = C2" en reprenant l'identification naturelle de C" avec IR2". En identifiant ainsi T,Cn avec
o n a J ( ( L ) , ) = ("1,

= -("),, 1 5 j 5 n.Aiors aY, ax, ( a + ib)v = av b J ( v ) . pour tout v E T,C" et tout nombre complexe a + ib E C ax,

aY3

etJ(("),)

+

Les équations de Cauchy-Riemann homogènes, qui traduisent la @-linéarité de

(df), si f est un germe de fonction holomorphe en x,s'écrivent ( d f ) , ( J v ) = i(df),(v) pourtoutv E T,C". Remarque :Cette relation entre la structure complexe sur T,Cn et les fonctions holomorphes, montre que J est indépendante du choix des coordonnées sur Cn . On peut donc définir J pour des variétés analytiques complexes.

x une variété analytique complexe. Pour tout x E x , il existe une uniqueapplicationR-linéaire J = J , : T , X + T , X telleque pour toutgerme de fonction holomorphe en x,on ait ( d f ) , ( J v ) = i ( d f ) , ( v ) pourtoutv E T , X .

Théorème 5.1. Soit

DepIus,J2 = - I d e t ( a + i b ) v = a v + b J ( v ) p o u r a + i b E une structure d'espace vectoriel complexe sur T, X .

C e t v ET,Xdélfinit

Démonstration. Prouvons tout d'abord l'unicité de l'application J . Soient (21,. . . ,zn) un système de coordonnées holomorphes au voisinage de z € X et (21,y1,zz,y2,.. . ,xn,yn)les coordonnées réelles sous-jacentes, pour tout j = 1,.. . ,n o n a ( d z j ) , = ( d x j ) , i(dyj), soit ( d z j ) , = Re(dzj), et ( d y j ) , = Im(dzj ), .

+

Calculons J ( &),pour k = 1, . . . ,n

6. Formes différentielles de type ( p , q )

41

Puisque z j est holomorphe et dzj ( &),= b j k , on a

Par conséquent J(&), = ( %), a cité.

et de même J ( ")% aYk

=

-( =),, a d'où l'uni-

Définissons J par les relations ci-dessus pour des coordonnées holomorphes (21

, . . . ,z,) fixées. D'après l'étude du cas de CY, J a les propriétés voulues et l'uni-

cité de J assure l'indépendance du choix des coordonnées.

O

Étudions maintenant la relation entre les structures complexes de T,X et CT,X. L'application J : T,X + T,X est IR-linéaire et satisfait J2= - Id, elle ne possède donc pas de valeurs propres réelles et pour la diagonaliser on est amené à considérer l'extension naturelle de J en une application @-linéaire,notée encore J, de CT,X dans lui-même. Cette extension possède alors deux valeurs propres i et -2. On notera T,ioX, le sous-espace propre associé à +i et T:l1X le sous-espace propre associé à -2. On a

@T,X = T,>OX@ T,O>'X Si ( z l ,. . . ,z,) est un système de coordonnées holomorphes au voisinage de x,les vecteurs (( -)z, a . . . ,( &),) forment une base de T,ioX et (( &),, . . . ,( =),a) 821 une base de T;i1X. Remarquons que T,X muni de la structure de @-espacevectoriel définie par J et X sont naturellement isomorphes par l'application qui à v fait correspondre f (v - i J (v)). Cette application envoie la famille (( &),, . . . ,( &),) qui est une base de T,X en tant que @-espace vectoriel sur la base ((&)z,. . . ,(=),) a de T i , o X ; c'est donc un isomorphisme. On définit T ' > O ( Xcomme ) la réunion disjointe pour x E X des T,)O(X) et on note p la projection naturelle de T'>O(X)sur X . Définition 5.2. Soient X une variété analytique complexe et A un ouvert de X . Un champ de vecteurs holomorphe sur A est une application V : A -+ T ' i o ( X ) telle quep O V = Id.

6. FORMES DIFFÉRENTIELLES DE TYPE ( p , q )

Soient X une variété analytique complexe de dimension n, et x un point de X . L'existence d'une structure d'espace vectoriel complexe sur T,X nous invite à considérer plus particulièrement les éléments de @T,X qui sont @-linéairespour cette structure.

II. Courants, structure complexe

48

On définit l’espace des 1-formes différentielles de type (1,O) en z par

A1lO(T,*X)= { W E CT,*X I w ( J v ) = i w ( v ) , V v E CT,X}.

Exempie: Par définition de J , les différentielles (df), de germes de fonctions holomorphes en z sont de type (1,O). Si (21,. . . ,zn) sont des coordonnées locales holomorphes au voisinage de z, la famille ( ( d z l ) , , . . . , ( d z n ) z ) forme une base de A1yo(T:X). L‘espace conjugué AoilT:X = A1>oT,X,dont une base dans les mêmes coordonnées est donnée par ( (&I),, . . . ,(&Yn),), est l’espace des formes de type (0,l) en z. On ala décomposition en somme directe

CT,*X = A1’OT,*XCBAol’T,*X.

(6.1)

Considérons maintenant les formes de degré supérieur. Si w est une forme différentielle de degré T à valeurs complexes, c’est une combinaison linéaire d’éléments de la forme w1 A . . . A wr où w j E CTZX. D’après (3.1),chaque w j , l 5 j 5 T , s’écrit w; wy avec w; E A1ioT,X et wy E AoilT,*X.Donc w est une combinaison linéaire d‘éléments qui s’écrivent q1 A . . . A qr où qj est soit de type ( O , l ) , soit de type (1,O).

+

On dira que w est une forme différentielle de type ( p , q )ou de bidegré ( p , q )en z, si w est combinaison linéaire d‘éléments de la forme w i i A . . .A wi, A G j , A . . .A G j q où les w, sont des 1-formes de type (1,O) en z.

+

On note C:,,(X) le sous-espace de C:+q(X) formé des ( p q)-formes différentielles qui sont de type ( p , q ) en chaque point. On a alors la décomposition en somme directe

@ cp,q(x).

C3X) =

p+q=r

Notons queC;,,(X) = {O} s i p o u q

> n = dimê X.

Si (z1, . . . ,zn) sont des coordonnées holomorphes sur un domaine de carte U de X, alors dzj E CTo(U)pour j = 1 , .. . ,n et toute (p,q)-forme w E C:,,(U) s’écrit de manière unique w =

aIJdzI A

&J

I4=P IJI=q

où les U IJ sont des fonctions de classe C k sur U et où la sommation est faite sur les multi-indices I = ( i l , . . . ,ip) et J = (j1, . . . , j q )strictement croissants.

7. Opérateurd et cohomologie de Dolbeault

49

7. OPÉRATEUR d ET COHOMOLOGIE DE DOLBEAULT

La décomposition des 1-formes différentielles sur une variété analytique complexe en formes de type (0,l) et de type ( 1 , O ) va induire naturellement une décomposition de l’opérateur d de différentiation extérieure en un opérateur de différentiation holomorphe et un opérateur de différentiation antiholomorphe. Soit X une variété analytique complexe de dimension n. Si f est une fonction de classe C1 sur X, pour tout z E X on a

+

On peut donc écrire df = d f 8f où d f est une forme différentielle de type (1,O) s u r X e t d f uneformedetype ( 0 , l ) s u r X . Remarquons que la condition f E O ( X )est alors équivalente à 8f = O.

+

La décomposition d = d 8 s’étend aux formes de degré quelconque de la manière suivante : si w E Cp’,q(X)est donnée, dans un système de coordonnées holomorphes (21 , . . . ,zn) au voisinage de z E X, par w =

a I J d z I A d Z J , on lIl=p IJI=q

a, par définition de d ,

dw =

d ( a I j ) A dzI A d z j = III=p IJI=q

(da1J

+ ~ C L I JA) dzr A d z J

IIl=p IJI=q

On pose alors dw =

“ --aIJdz, a

d ( a 1 J ) d z I A dZJ =

IIl=p k=l

IIl=p

82,

A d z l A dZJ

IJI=q

lJI=q

et

IJI=q

On a ainsi défini des opérateurs d et 8 sur Ci,q(X)tels que d(Ci,q(X)) soit contenu dans Cp+l,q(X)et d(Cp’,q(X)) soit contenu dans Cp,q+l(X). Proposition 7.1. Les opérateurs d et 8 ont les propriétés suivantes

+

a)d = d dsurC,’(X), b) d O d = Old O d = 0,d O 8 O d = O surCS,,(X), c) d e t d commutent avec l’image réciproque.

+a

II. Courants, structure complexe

50

Démonstration. La propriété al est une conséquence immédiate de la définition des opérateurs d et

a.

Soitw E C i , , ( X ) ,puisque d

O = ( 8 +d) O

O

d

=O

et d = d

+aon a

+ (aod+doa)w + ( a 0 a ) w 8 + 8 û ) w est de type ( p + 1,q + 1) et

= ( d oa ) w

(a+a)W

+

Or ( 8 O S ) w est de type ( p 2 , q ) , ( 3O O (8 0 3)w de type ( p , q 2), par conséquent chacun de ces termes est nul puisque leur somme est nulle.

+

(cl,. cJ

Soit F : X t Y une application holomorphe. Observons que si . . ,&) sont des coordonnées holomorphes au voisinage d’un point y E Y ,F*CJ = O F est une fonction holomorphe au voisinage de z = F-’(y) et donc P*(d(,) = rl(
d ( F * w )+ d ( F * w )= d(F*w) = F * ( d w ) = F*(dw)+ F * ( E L ) la dernière égalité provenant de la linéarité de F * . En comparant les bidegrés, on obtient d ( F * w ) = F * ( û w )e t d ( F * w ) = F * ( d w ) . O L‘opérateur Riemann.

a que nous venons de définir s’appelle l’opérateur de Cauchy-

On note EP,q(X)l’espace des (p.q)-formes de classe C” sur X pour O 5 p 5 O 5 q 5 n. Ces espaces sont munis d’une topologie d‘espace de Fréchet qui peut être caractérisée de la manière suivante : une suite ( w J ) J cd‘éléments ~ de EP)q(X)converge vers O si et seulement si pour tout domaine de carte U de X dans lequel wgs’écrit wg = w : J d z ~A ~ Z les J suites ( w ; J ) 3 E ~ convergent lIl=p 7~ et

IJI=q

vers zéro uniformément sur tout compact de U ainsi que toutes leurs dérivées. L’opérateur 3 : E ~ , Q t (ExP)> ~ + ’ (est X ) aiors un opérateur linéaire continu ) donc fermé. et son noyau que l’on note Z p i Q ( Xest Définition 7.2. On appelle groupes de cohomologie de Dolbeault les espaces

HP>P(X)= z”~“x)/a€P~q-’(X). Ces espaces sont naturellement munis de la topologie quotient qui n’est en générai pas séparée car d ~ q - ’ ( n’est ~ ) pas toujours fermé. si ~ E P > ~ - ’ ( est X) fermé, H p > q ( Xest ) alors un espace de Fréchet. Ces groupes caractérisent le défaut de résolubilité de l’équation de CauchyRiemanndu = f pour f € z p > q ( X ) . Terminons par la définition des groupes de cohomologie de Dolbeault avec condition de support. On notera c la famille des compacts de X et si K est un

8. Espace tangent complexe au bord d'un domaine

51

compact d u n e variété M , @ désignera la famille des fermés de X = M \ K dont l'adhérence dans M est compacte et Q la famille des fermés de M qui ne rencontrent pas K . Pour simplifier notons O l'une de ces trois familles. E O q ( X ) est alors l'espace des (p,q)-formes de classe C" dans X dont le support appartient à la famille O. Si 8 E O, on note E;,'(X) le sous-espace de Epiq(X) formé des (p,q)-formes à support dans 8, on a alors E g 4 ( X ) = U &;>'(X).Remarquons @€O

que si O est l'une des trois famiiles e,

ou Q, X possède une suite exhaustive

(8i)iEw composée d'éléments de O (ie. X =

U 8i,& c

O

8i+l). Les espaces

i€W

E;"(X) sont fermés dans & P ) q ( X )ce , sont donc des espaces de Fréchet et la topologie de E;'(X) est la topologie la plus fine rendant continues les injections E;;'(X) LJ E g q ( X ) .L'opérateur est un opérateur linéaire continu de E g q ( X ) dans E g q + l ( X ) On . pose Z g q ( X )= ZPiq(X) n E e q ( X ) .

a

Définition 7.3. On appelle groupes de cohomologie de Dolbeauit à support dans O les espaces H g q X ) = zgy x)/aEgq- ( X ). On munit ces groupes de la topologie quotient qui n'est pas séparée en général. Ils caractérisent le défaut de résolubilité de l'équation de Cauchy-Riemann dans la classe des formes à support dans la famille O.

8. ESPACE TANGENT COMPLEXEAU BORD D'UN DOMAINE

Pour introduire la notion de fonction CR (Chap. IV) et celle de domaine pseudoconvexe (Chap. Vi), nous aurons besoin des propriétés de l'espace tangent au bord d'un domaine à bord lisse d u n e variété analytique complexe. L'objet de ce paragraphe est l'étude analytique de cet espace. Nous considérons en particulier l'influence de la structure complexe de la variété ambiante. Dans un premier temps nous allons supposer seulement que différentiable de classe C".

x est une variété

Définition8.1. SoitD u n o u v e r t d e x , onditqueD a un borddeclasseCk,l 5 IC 5 oû,au voisinage de p E d D s'il existe un voisinage ouvert U de p dans X et une fonction r E C k ( U )de clmseCk, à valeurs réelles telle que

U n D = {z E U I r ( z ) < O } d r ( z ) # O, z E u. OndiraquedD estdeclasseCk, s'ilestdeclasseCk au voisinagedechacundeses points. Unefonction r E C k ( U )qui satisfait (8.1) est appelée fonction définissante pour D en p. Si U est un voisinage de d D , T est une fonction définissante globale.

Il. Courants, structure complexe

52

Lemme 8.2. Soient r1 et 7-2 deux fonctions défnissantes pour D , de classe C‘ sur un voisinage U de p E dD. Alors il existe une fonction strictement positive h E C“l ( U ) telle que hr2 surU drl(z)= h(z)dr2(z) pourz E U n BD. r1 =

(8.2)

Démonstration. Remarquons que h est unique puisqu’elle est continue sur U et qu’eile coïncide avec sur U \ dD.

2

On peut supposer, sans perte de généralité, que U est contenu dans un domaine de carte de X . Soit q E U n dD fixé.Choisissons des coordonnées sur U pour que q = O et U n d D = {z E Rn I z, = O} et supposons que r2(x) = IC,. Pour z’ = (xi ,...,z,-l)voisindeO,onarl(x’,O) = Oetdonc

1:

Posons h ( z ) = $(x’,tz,)dt, satisfait 7-1 = hr2 sur U .

c’est une fonction de classe Ck-l sur U qui

Si IC 2 2, on a drl(z) = r2(z)dh(z)+ h(z)drZ(z)= h(z)dr~(x)si z u n dD.

E

+

Si IC = 1,q ( x ) = h(z)r~(z) = (h(z)- h(x1,0))r2(z)h(z1,0)r2(z) et donc r1(z) = h(z’,O)drz(z’,O)o(x,) lorsque x, tend vers O, car h est continu sur U et r2(z’,0) = O. On en déduit donc que drl(z) = h(z)drz(z)si z E U n dD.

+

2

il reste à prouver que h est strictement positive sur U . Comme h = sur U\ D , h est strictement positive sur U \ D car 7-1 et r-2 sont des fonctions définissantes. Puisque drl(z) # O sur U et drl(z) = h(z)dr2(x)sur U n dD, h ne s’annule pas sur U n dD. La fonction h étant continue sur U , elle est donc strictement positive sur U . O

Si D est un domaine à bord Ck au voisinage de p E dD, d D est alors une variété différentiable de classe Ck au voisinage de p . On peut donc considérer l’espace tangentTp(dD) e n p à d D . Proposition8.3. Si T est une fonction défnissante pour D enp, on a

(8.3)

Tp(dD) = {I E T u ( X ) I d T ( P ) ( I )= 0).

Si ( 2 1 , . . . ,xn) sont des coordonnées locales de X au voisinage de p , alors Tp( d o ) si et seulement si

Démonstration. Soit U un voisinage de p tel que

d D n U = {z E U

I . ( E ) < O} et dr(z)# O s i z E U.

<E

8. Espace tangent complexe au bord d’un domaine

53

Notons i l’inclusion de d D n U dans X , elle induit une application injective d i : T p ( d D ) T p ( X )telle que si a est une courbe dans d D passant par p représentant le vecteur v E Tp(dD),E= di(v)est la classe de i 0 a. Puisque l’image de a est contenue dans d D , on a r O i O a O et donc d

d r ( p ) ( < )=

-(T

dt

O

i O a)(O)= O

ce qui prouve que après identification de T p ( d D )avec di(Tp(ûD))

(8.4) T P ( W c { E E T P ( X ) I d r ( p ) ( E ) = 0). Comme de plus les deux membres de la relation (8.4) sont des espaces vectoriels de dimension n - 1,l’inclusion dans (8.4) est une égalité. O Remarque :La relation (8.3) montre que l’on peut identifier T p ( d D )avec les dérivées directionnelles en p qui sont nulles sur r. Supposons maintenant que X est une variété analytique complexe de dimension n et D un ouvert de X à bord C k au voisinage de p E dD. La structure complexe de X induit une structure supplémentaire sur Tp( d o ) . Comme nous venons de le voir on peut identifier T p ( d D )à un sous-espace vectoriel réel de dimension réelle 2n - 1 de T p ( X ) Si . J est la structure complexe sur Tp( X ) ,on peut considérer JT, ( d o ) ,c’est également un sous-espace vectoriel réel de dimension réelle 2n - 1de Tp( X )et donc

T;(~D= ) T , ( ~ D )n J T , ( ~ D ) est un sous-espace vectoriel réel de dimension réelle 2n - 2 de T p ( X )stable par J ; c’est donc un sous-espace vectoriel complexe de T p ( X )de dimension complexe n - 1. Remarquons que T:(dD) # {O) si et seulement si n 2 2. L‘espace T F ( d D )est appelé espace tangent complexe en p à dD. Si l’on identifie Tp(X) muni de la structure complexe J avec T,’,o(X),T:(ûD) est un sous-espace vectoriel de T’>O(X). Proposition 8.4. Sir est une fonction déjînissante pour D enp E d D , on a

T ! ( d D )= {t E T,”O(X) I dr(p)(t) = O). ( z 1 , . . . ,zn) sont des coordonnées holomorphes locales de X au voisinage de p alors t E T: ( d o )si et seulement si

Si

Démonstration. Puisque la fonction r est à valeurs réelles on a

dr(p)= dr(p)

+ dr(p) = 2 Re dr(p).

Par définition de T F ( d D )= T p ( d D )n J T p ( d D )et d‘après (8.3)

T Z ( d D )= {t E T,”O(X) I dr(p)(t) = dr(p)(Jt) = O).

II. Courants, structure complexe

54

Mais d r ( p ) étant une (1,O) -forme différentielle en p on a dr ( p )( J t ) = idr ( p )( t ) et donc Re (dr(p)(Jt))= - I m d r ( p ) ( t ) . On en déduit que

T:(dD) = { t E T,’l0(X) I R e d r ( p ) ( t )= Imdr(p)(t) = O} = {t E

T,’>O(X)I d r ( p ) ( t )= O}.

O

Soit CTP( d o ) le complexifié de T,(dD),Tf(dD) est un sous-espace vectoriel de dimension n - 1 de CTp( d o ) . Définition 8.5. L‘espace vectoriel Til1( d o ) = T F ( d D ) ,le sous-espace conjugué de Tf ( d o ) dans CTp( d o ) ,est appelé espace des opérateurs de Cauchy-Riemann tangentiels e n p E dD. Remarquons que, si T est une fonction définissante pour d D en p et si on note (z1,. . . ,zn) des coordonnées locales holomorphes sur X au voisinage de p , un vecteur T E Tp”>’ ( d o ) si et seulement si

Exemple: Si n = 2, T i > ’ ( d D est ) un C-espace vectoriel de dimension 1 engendré

Commentaires. La théorie des courants est développée dans les livres de Schwartz [SC]et de de Rham [Rh].La régularisation dans les variétés et la théorie de l’indice de Kronecker sont traitées également dans le livre de de Rham [Rh].Des précisions sur l’indice de Kronecker peuvent être trouvées dans IL-TU. Pour écrire les paragraphes 4 à 8 de ce chapitre j’ai utilisé l’exposé des notions correspondantes du paragraphe 2 du chapitre III et d u paragraphe 2 du chapitre II du livre de M. Range [Ra].Pour u n exposé plus complet, le lecteur intéressé pourra consulter le livre de R. Narasimhan iNd1.

Chapitre III

Noyau et formule de Bochner-Martinelli-Koppelman Applications

Nous définissons dans ce chapitre un des outils fondamentaux de la théorie des représentations intégrales en analyse complexe : le noyau de Bochner-Martinelli-Koppelman. Ce noyau est une généralisation du noyau de Cauchy à II nous permet de démontrer une formule de représentation intégrale, la formule de Bochner-Martinelli-Koppelinan, qui étend la formule de Cauchy aux formes différentielles de type ( p , q ) dans Cette formule joue un rôle important dans l’étude de l’opérateur 8. Elle nous pennet d’obtenir en nos premiers résultats sur la résolubilité de l’équation de Cauchy-Riemann dans considérant le cas où le second membre est à support compact. Le phénomène de Hartogs, dont nous avons prouvé un cas particulier au chapitre I, est une conséquence de l’existence d’une solution à support compact de l’équation de Cauchy-Riemann si ??, 2 2 et si le second membre est de bidegré ( 0 , l ) et à support compact. Les relations entre l’annulation des groupes de cohomologie de Dolbeault à support compact en bidegré (0,I) et le phénomène de Hartogs seront précisées au chapitre V. Nous utilisons également la formule de Bochner-Martinelli-Koppelman pour étudier la régularité de l’opérateur 8 en prouvant un théorème d’hypoellipticité holdérienne.

en.

en.

e”

1. NOYAU ET FORMULE DE BOCHNER-MARTINELLI-KOPPELMAN n

en x en,on pose (<,q)= & q J .On considère l’ensemble E j=1 = ( ( 6 , ~ ) E en x en I # O}, et sur l’ouvert E on définit la

Pour (<,q)E

défini par E (<,77) forme différentielle ,LL par p(<,q) = ( < , ~ ) - ~ w ’ (
( 7 1 avec )

n

w ( q ) =d711A...Adqn

et

w’(<) = C ( - l ) S - ’ E , d < l A . . . A d ~ j ~ . . .~~~, ~d j=1

56

Ill. Noyau et formule de Bochner-Martinelli-Koppelman h

où d& signifie que l'on a supprimé le terme d t j . Lemme 1.1. Laformedifférentiellep vér@edp = O s u r E . Démonstration. Calculons d p .

dP = n K , v ) - " w ( E ) A

477)- n(t>v)-"-1d((t,77))A 4) A 477).

Comme d( (<,q))A w'(<)A w ( q ) = (<,q)w(E)A w ( ~ )on , a bien d p = O. On note A la diagonale de @" x Cn. L'application d de @" x C" \ A dans Cn x @" définie par S(<,z) = ( c - Z , < - z ) a donc son image dans E. On considère alors la forme différentielle S*p, eile est de classe C" sur @" x û? \ A et fermée puisque p est fermée.

Définition 1.2. On appelle noyau de Bochner-Martinelli-Koppelman la forme diffé(n-i)! rentielle sur Cn x en \ A définie par B = m d * p . On a

B i , où BC est de type ( p , q ) en z et ( n - p , n - q - 1) en <.

On pose B = OlPln Olqin-1

On pose également BPI = O.

C" \ A, on a

Lemme 1.3. Pour tout(z,<) E C" x -

dB(z,<)= O

et

-

û,BQ(z,<)= -d
En particulierd
<

On peut donner une autre écriture de B en utilisant la notion de déterminant sur une algèbre. Si d est une algèbre quelconque (par exemple l'algèbre des formes différentielles) et si A = ( a i j ) l l i l n est une matrice d'ordre n à coefficients dans lljin

d,on pose det A =

W a o ( l ) , l . .'a
I. Noyau et formule de Bochner-Martinelli-Koppefrnan

57

où G, est le groupe des permutations de { 1, . . . ,n} et € ( a )la signature de la permutation o. Ce déterminant a les propriétés suivantes :

(il det A dépend linéairement des colonnes de A pour des combinaisons linéaires à coefficients dans le centre de d . (ii) Si pour des entiers IC et C, 1 5 k < C 5 n, = bkci et aie = beci pour tout z E { 1, . . . ,n},où b k et be sont des éléments quelconques de A et où les ci sont dans le centre de A, alors det A = O. On peut alors écrire

-

ti w'(<) =

1 ~

det

( n - l)!

ce que l'on notera encore 1 w'(<) =

~

dti ...dti

det(6,

( n - l)!

4 1.

v n-1

On en déduit l'écriture suivante du noyau de Bochner-Martinelli-Koppelman n-1

1

det(T - Z, dC - &) A u ( < - z )

IC - zIZn Remarque :Observons que pour n = 1,on a BOO(z,C)= Cauchy usuel.

& &.C'est le noyau de

Proposition 1.4. Le noyau de Bochner-Martinelli-KoppelmanB est une forme différentielle localement intégrable sur Cn x Cn qui définit un courant que l'on note encore B satisfaisant

dB = dB = [A] (1.2) où [A] est le courant d'intégration sur la diagonale A de Cn x 67'.

--+
j=l

c - z et ~

B la M

J T "

Les coefficients de ICBM sont localement intégrables dans Cn car ce sont des et par conséquent ICBM définit un courant sur C".Remarquons que

O( I x I - ~ ~ + ' )

58

III. Noyau et formule de Bochner-Martinelli-Koppelman

et donc

On reconnaît alors la solution fondamentale du Laplacien E ( z ) = z E C", d'où

(n-Z)!

1

1213n-2,

-

dkBM = d k = [O] ~ ~ (1.3) où [O] est le courant d'intégration en O, c'est-à-dire la masse de Dirac en O. Observons que B = T*ICBM et B est donc localement sommable sur Cn x Cn et définit un courant que l'on note encore B. En considérant les images réciproques des courants ~ B M et [O] par la projection 7 ,on déduit de (1.3) le résultat suivant dB = dB = d ( ~ * k g=~~ ) * ( a k g ~ ) = T * [ O ] = [ T - ' ( O ) ] = [A]. O

Nous allons prouver maintenant que si K est un courant sur C" x C" défini par une forme différentielle localement intégrable et de classe C" sur Cn x C" \ A qui satisfait dK = [A], on peut lui associer une formule de représentation intégrale. En choisissant K = B,nous obtiendrons la formule de Bochner-MartinelliKoppelman. Théorème 1.5. Soit K un courant sur C" x C" dé.fini par une forme différentielle localement intégrableetdeclassec" sur@" x @" \ A , qui vérifiedK = [A]. Soient D un domaine borné de C" à ffontière de classe C 1 et f une forme différentielle de degrér, de classeCm sur). Alors

où d , est calculé au sens des courants.

Démonstration. Nous allons appliquer la formule de Stokes pour l'indice de Kronecker de deux courants (Chap. II, Cor. 3.7) aux deux courants T = [ D x D ] et S = f(<) A K(z,C)A g(z) où g est une (271 - r)-forme différentielle à support compact dans D. Remarquons que SS(bT) = ( d D x D ) U ( D x a D ) et que SS(dS) est contenu dansSS(S) = AnT;l(suppg), o ù ~ estlapremièreprojectionde@" c xCn dans C". Par conséquent, puisque g est à support compact dans D , SS(bT)et S S ( d S ) ne se rencontrent pas et nous avons K(bT,S) = K(T,dS).Calculons chacun des membres de cette égalité :

K(bT,S) = q [ a D x Dl r

+ [ D x a D ] , f ( c A) K(z,C)A g ( 4 )

1. Noyau et formule de Bochner-Martinelli-Koppelrnan

59

car g est à support compact dans D. D'autre part

d S = d c f ( C ) A K ( z ,C) A g(z)+(-l)'f(C) A [Al A d z ) +(-q'+lf(C) A K ( z ,C) A d C d 4 on a donc

U T ,dS) =

LXD

d c f ( C ) A K ( z ,C) A 9 ( z )

/

+(-1)'K([D x DI, f ( C > ~ [ A l ~ 9 ( z ) ) + ( - l ) r + 1

f(CNK(z7 C)Adzg(z)

DxD

car K est localement intégrable sur D x D et (A n nF1(supp 9 ) )ne rencontre pas

S S ( [ Dx O]). De plus, par définition de [A] et puisque le support de f(<) A [A] A g ( z ) est relativement compact dans D x D ,

Finalement

d'où l'égalité au sens des courants sur D

Si z $! D, la forme différentielle f(<) A K ( z ,C) est de classe C"" sur et on a d K ( z ,C) = d z K ( z ,C) + d c K ( z ,C) = O. Onobtient alorsle résultat en appliquant O la formule de Stokes classique (cf Annexe A, Th. 7.1).

Remarques 1.6 1) Observons que grâce au Théorème de Fubini la formule (1.5) s'écrit encore

(1.6)

pour toute forme différentielle g de degré (2n-r), de classe C" à support compact dans D.

1II. Noyau et formule de Bochner-Martinelli-Koppelman

60

2) Le Théorème 1.5 reste vrai si D est un domaine à bord de classe C1 par mor-

ceaux comme dans la Remarque 7.2 2) de l'annexe A. On pose alors

[all]=

e

i=l

<

[S:].

3) Puisque pour tout E Cn, la forme différentielle z ct K(z,<)est localement intégrable et continue sur Cn \ {<} les formes différentielles

sont continues sur Cn. La formule (1.6) a donc encore un sens dans le cas où f est - une forme différentielle continue sur D telle que df soit encore continue sur D. Nous allons la prouver dans ce cadre. Si f est une forme différentielle continue sur D telle que df soit encore continue sur D, nous allons construire une famille (fE)~<E<EO de formes différentielles continues à support compact dans Cn telles que les formes dfE soient aussi continues à support compact dans C" et les familles ( f E ) O < E < E O et (dfE)O<E<Eoconvergent uniformément sur D vers f et df respectivement.

<

Pour tout i E d D , on note B ( J , r )la boule de centre et de rayon T et uc la normale extérieure en E à dD. Choisissons T et EO assez petits pour que ( d D n B ( < , T )-) tvc soit contenu dans D pour tout t E]O,E]. Notons U 1 , . . . ,Upun sous recouvrement fini de d D par de telles boules et UOun ouvert relativement compact dans D tel que (Uo,Ul,.. . ,Up)forme un recouvrement de D. Soit (xj)osjspune famille de fonctions de classe C", à support compact dans Cn, à valeurs positives, telles que supp xj

P

c Uj et

xj = 1sur D. On définit

fE

par

j=O P fE(2)

+

= xo(z)f(-z)

xj(z)f(z - EVj). j=i

Si E € ] O , E O [ , f E est une forme continue à support compact dans un voisinage de sur D, la famille ( f E ) ~ < E < E O converge

D et grâce à la continuité uniforme de f uniformément vers f sur D. De plus P

d f E ( 4 = xo(z)df(z) +

Xj(4df(Z - E V j )

+ dxo(z) A f ( z )

j-1 P

j=l

Les formes différentielles dfE sont continues à support compact au voisinage de -

E ~ ] O , E Oet [ grâce à la continuité uniforme de f et df sur D, la famille (dfE)o<E<Eoconverge uniformément vers df sur D.

D pour

En régularisant les formes différentielles f E par convolution, on obtient une famille ( f E ) ~ < E < E o de formes différentielles de classe C" dans C* telles que (fE)O<E<EO converge uniformément vers f sur D et (dfE)O<E<EO converge uniformément vers df sur D quand E tend vers O. Les courants ( [ d o ]A f E ) O < E < E o t

2. Résolubilité du 3 pour une donnée à support compact

61

([DI A dfE)O<E<EO et ([DI A f E ) ~ < E < E O convergent dors respectivement vers [aD]A f , [ D ]A df et [Dl A f pour la topologie faible des courants d’ordre nul. Par conséquent la formule (1.6) et donc la formule (1.4) s’étend au cas où f et df sont seulement continues sur 0. Théorème 1.7. Formule de Bochner-Martinelli-Koppelman. Soient D un domaine borné de Cn à bord de classel‘, f une ( p , q )-forme différentielle continue surD telle

quedf soitaussicontinuesurn ( O 5 p 5 n,O 5 q 5 n ) .Alors r

r

où 8, est calculé au sens des courants. Démonstration. C’est une conséquence immédiate du Théorème 1.5 et de la Remarque 1.6, où l’on a remplacé K par le noyau B de Bochner-MartinelliKoppelman. Des considérations de bidegré permettent de remplacer l’opérateur d par 8 et le noyau B par les BC. O

2. R~SOLUBILITÉ D U 3 POUR UNE DONNÉE À SUPPORT COMPACT

Soit D un ouvert de IRn. Pour tout réel a,O < a < 1, et pour toute fonction f:D+C on définit la norme holdérienne d’ordre a de f sur D par

xfx’

L‘ensemble A a ( D )= {f : D + C I if la,^ < +a} est l’espace vectoriel des fonctions holdérienne d’ordre a sur D. C’est un espace de Banach. Toute fonction f de A a ( D )est bornée et uniformément continue sur D. On note C a ( D ) ,l’espace des fonctions continues dans D telles que if la,^ < +oo pour tout compact K de D et si k est un entier, Ck+a(D)désigne l’espace des fonctions de classe C k dans D dont toutes les dérivées partielles d’ordre k sont dans Ca ( D ) .

( D )l’espace des formes différentielles Si D est un ouvert de û? , on notera de type ( p , q ) dont les coefficients sont dans Ck+Q(D).Si f E CF,,(D) s’écrit fIjdZI A d Z j où I = ( i l , .. . ,ip), 21 < . . . < i,, et J = ( j l , .. . ,jq), f = I,J

j, < . . . < jp, on définit la norme holdérienne d‘ordre a de f sur D par if la,^ =

I~I,J~~,D.

S~PI,J

Soit B le noyau de Bochner-Martinelli-Koppelman défini au paragraphe 1 et D un domaine borné à bord de classe C’. Si f est une forme différentielle bornée

62

Ill. Noyau et formule de Bochner-Martinelli-Koppelrnan

définie sur ôD, on pose, pour z E D ,

La forme différentielle E a D f est de classeCm dans D. Notons que pour des raisons de bidegré, si f est de type ( p , q ) avec O 5 p 5 n et 1 5 q 5 n - 1,aiors

-

B a D f = O si q = n.

et

Si f est une forme différentielle bornée définie sur D , on pose, pour z E D ,

-

Puisque B a une singularité intégrable en C = z , la forme différentielle BDf est bien définie sur D. Remarquons égaiement que si f est de type ( p , q ) ,on a

-

et en particulier Bof = O si q = O.

Proposition 2.1. Soit D un ouvert borné de CG" . Alors 1) pour touteforme différentielle f bornée sur D , la forme différentielle B D f est de classeCa dans D pour touta,O < (Y < 1. De plus, pour tout Q ,O < Q < 1, il existe une constante Ca telle que pour toute forme différentielle f bornée sur D , on ait I

l B D f la,D

5

calfI0,D

2) si f est une forme dflérentielle bornée de classe c k ,alors E D f est de classe Ck+a dans D pour toutcu, O < Q < 1.

Démonstration. Par définition du noyau B (cf formule (1.1))il existe une constante C telle que

où ozn désigne la mesure de Lebesgue sur R2".

Lemme 2.2. Soient n 2 1, un entier et R un réel strictement positif Il existe une constante C telle que pour tous s et t E IRn tels que Is1 5 R et It1 5 R

2. Résolubilité du

a pour une donnée a support compact

Démonstration du lemme. Pour s et t E considérons les ensembles suivants :

R" fixés tels que

(SI

63

5 R et It1 5 R,

I C'lt - SI en intégrant en coordonnées sphériques. De manière analogue on a

Par conséquent, puisque It/ I R et Is1 5 R, on a

Fin de la démonstration de la proposition. Grâce au lemme on a donc

I&f(z)

Iclfl0,Dlz - Cl1 b l z - I l l . E ] o , ~ [on , a sup,,EED Iz - I I ' - ~ ( log Iz II < - &f(I)I

Comme pour tout (Y résultat de i) est démontré.

-

+qle

III. Noyau et formule de Bochner-Martinelli-Koppelman

64

Supposons que f est bornée dans D et de classe C k , fixons z E D et prouvons que BDf est de classe Ck+a au voisinage de z. Soit x E D ( D ) telle que x 1 sur un voisinage U, de z. Alors 5 , (1-x )f est de classe C" dans U, car B est de classe C" sur Cn x Cn\ A. I1 suffit donc de prouver que -B Df est ~ de classe C k + a dans U,. Supposons que f soit une (p,q)-forme, alors B D X f = JCED f (C) A

=

(e)

B;-l(
fIJ(C)dCI A

x(<)

d'TJ

lIl=p IJI=q

B;-~(<,<) =

BKLMNKK A

CM

A &L A d < N .

lKl=n-q-2 IL 1=q- 1 IMI=n-p INI=P

On a alors B

Df ( ~E ) = C L , N h L , N d f L A d
Puisque x est à support compact dans D

A d c K A dCM.

+

<

Comme B = r * k B M les fonctions B K L M N ( < , <<) sont indépendantes de et localement intégrable en C. On peut alors dériver k fois sous le signe puisque f est de classe C k , ce qui prouve que Box f est de classe C k et on a pour =k

s,

[VI

D ' h ~ (E)= , ~

On déduit alors de la définition de B K L M N qu'il existe une constante C telle que pour tout t 1 w E D ID'hLN(<) -D"hLN(W)I

< CSuP I c D U ( x f I J ) ( C ) I CED I , J

et on conclut comme dans la preuve de 1).

O

Théorème 2.3. Soit D un domaine borné de C?' à bord de classe C' et f une (plq)formedifférentiellecontinuesurD tellequedf soitaussicontinuesurD,û 5 p 5 n,

2. Résolubilité du 8 pour une donnée à support compact

65

- -

O 5 q 5 n. Alors les formes d@érentielles Ba0 f , Bod f , E D f et a i i D f sont continues dans D et on a (-l)p+'f

(2.5)

= EaDf - E D 8 f

+aBDf dansD. - -

Démonstration. La régularité des formes différentielles E a D f , Bod f et E D f résuite de la Proposition 2.1. D'après le Théorème 1.7 l'égalité (2.5) est vraie au sens des courants, mais puisque les formes différentielles i i a f~,BDdf et f sont Continues, aiors dBD f est continue. O I

-

Corollaire 2.4. Formule de Bochner-Martinelli. Soient D un domaine borné à bord C' dans U? et f une fonction de classeCl s u r D alors

lEaD (0 m.,o f

A

8~f (0 A B;(z,[)= f (2) S -L

~ E Z

D.

D

Si f est holomorphe dans D et continue dans D

/.

f (<) A BE(z,<) = f ( z ) siz E D. J,,aD

Observons que si n = 1,le Corollaire 2.4 n'est autre que la formule de CauchyGreen et la formule de Cauchy dans C. Corollaire 2.5. 1) Soient q un entier tel que 1 5 q 5 n - 1 et f E Ci,q(C?) une (p,q)-forme différentielle de classe C k ,k 2 O, a-fermée, à support compact dans C? . Alors il existe une ( p , q - 1)-formedifférentielleu de classeCk++a,pour t o u t a ~ ] 0 , 1 [telle , que au = f dans C". 2) Si D est un domaine borné à bord C1 de C" , pour toute ( p , n )-forme f dans Ci,"@), il existe une ( p , n - 1)-forme différentielle u de classe sur D, pour touta E]O,l[,tellequedu = f dansD. Démonstration. Prouvons l'assertion 1). Soit D un domaine borné à bord C' de C" tel que D contienne le support de f.Appliquons le Théorème 2.3, on a alors

( - i ) p + q j ( z ) = diiD f (z)si z E D car Bao f = BDd f = O puisque f est d-fermée a support compact dans D . Posons u ( z ) = BD f ( z ) = JCEcnf (<) A B:-l(zl<), u est une forme de classe , ia Proposition 2.1 et satisfait au = f sur P . pour tout a E ] o , ~ [cïaprès

Prouvons l'assertion 2). Observons que BE = O pour tout p E {O, . . . ,n} et par conséquent il résulte de la formule de Bochner-Martinelli-Koppelman que

(-l)p+"f(z)

-

=ô, L

f ( < ) ~ B n - , ( z , < ) s i zD~ D

III. Noyau et formule de Bochner-Martinelli-Koppelrnan

66

cette égalité étant prise au sens des courants si f est seulement continue. Posons u ( z )= f (C) A B ~ _ , ( z , C u ) ,est la solution cherchée et u E pour tout Q ~ ] 0 , 1 [d'après , la Proposition2.1. O

scED

Exemple :Supposons que n = q = 1. Si D est un domaine borné à bord C1 de C et f une fonction de classe C k,k 2 O, sur D, l'équation aux dérivées partielles

a

-u= f

az

possède une solution uo de classe

pour tout

Q

E]0,1[,donnée par

Pour obtenir ce résultat, il suffit d'appliquer l'assertion 21 du Corollaire 2.5 à la (0,l)-forme différentielle f(z)&. La solution générale de l'équation (*) est alors donnée paru = u~ h où h est holomorphe dans D.

+

3. RÉGULARITÉ DU 8

Nous allons étendre la formule de Bochner-Martinelli-Koppelman aux courants à support compact et nous en déduirons un résultat d'hypoellipticité holdérienne

pour l'opérateur

a.

On note toujours B(z,C)le noyau de Bochner-Martinelli-Koppelman dans C" . Si f est une forme différentielle continue à support compact dans C" on pose pour z E C"

(a?)

Lemme 3.1. L'application &n est linéaire continue de V. dans C F (C"). De plus si f est une ( p , q )-forme différentielle, Ecn f est de bidegré ( p , q - 1).

Bp

Démonstration. On déduit aisément de la Proposition 2.1 que f est une forme différentielle de classe C", si f est de classe C". Remarquons que si f est de type (p,q), f ( z ) = ScEcnf ( C ) A Bq_,(z,C)et donc &n f est de bidegré ( P A - 1). Soit f E Ds(Cn), nous noterons D"Pf la forme différentielle obtenue en remplaçant les coefficients f I J de f par leur dérivée Dao f I J . En reprenant la démonstration de la Proposition 2.1 on montre facilement que D a p ( E pf ) = B C n ( D a p f ) .Comme de plus (Bcnf lo,@ 5 C(supp f ) l f l o , p cela prouve la continuité de & , car une suite de formes différentielles à support compact converge vers O dans VD,(Cn)si tous les termes de la suite sont à support dans

3. Régularité du

a

67

un même compact et si elle converge uniformément vers O ainsi que les suites de ses dérivées. o Si T est un courant à support compact dans C* on peut définir S'T en posant

(3.1)

(B'T,cp) = (T,&

'p)

1

= (T,

cp(C) A

CEP

pour toute 'p E D , ( C ) ; c'est un courant sur bidegré ( p , q ) ,B'T est de bidegré ( p , q - 1).

B(.,<))

Cn.Remarquons que si T

est de

Proposition 3.2. Soit f une ( p , q )-forme différentielle continue à support compact dans e", notons T f le courant défini par f . Alors

-

B'Tf = (-l)P+"-'Bp f .

Proposition 3.3. Pour tout courant T à support compact dans C" , le courant B'T est de classeCm sur C" \ supp T . Plus précisément il existe une forme différentielle f à coeficients de classeCm dans C" \ supp T telle que "TIC"

\supp T

=Tf.

Démonstration. I1 suffit de trouver une telle forme f pour tout ouvert U relativement compact dans C* \ supp T . Fixons un tel U . Soit x une fonction de classe C" dans Cn telle que = 1 dans un voisinage de supp T et x = O dans un voisinage de Ü. Si cp E De( V ) par , définition de B'T on a

x

68

Ill. Noyau et formule de Bochner-Martinelli-Koppelman

carx(z)(l-x(C))B(z,Ç) est uneformedifférelitielle declassec” surunvoisinage de supp T x Cn . Par conséquent Ê?T coïncide sur U avec la forme différentielle ( ct ( T , X ( z ) ( l - x ( C ) ) B ( z , < )qui ) est de classe C”. O A l’aide de l’opérateur B I , nous pouvons prouver une formule de BochnerMartinelli-Koppelmanpour les courants à support compact.

Théorème 3.4. Pour tout courant T à support compact dans Cn, on a la formule de représentation suivante :

T = - (B‘dT

(3.2)

+ dB‘T).

Démonstration. Supposons que T est de bidegré ( p , q ) et considérons une forme cp E 2>n-,,n-,(Cn). D’après la formule (2.5) on ala représentation (-1)p+qp = dEp p - Bcndp

(3.3)

car cp est à support compact. Appliquons T aux deux membres de (3.3), on obtient

d’où le théorème.

O

On peut alors déduire de cette formule un résultat de régularité pour l’opérateur de Cauchy-Riemann. Théorème 3.5. Soient X une variété analytique complexe et T u n courant de degré O sur X . Si dT = T f ,où f est une (O,l)-formediflérentielle de classe C k sur X , IC = O , 1 , . . . ,CO, alors

T = T,, o ù g E

n P+*(x).

O
En particulier sidT = O alors T = Th où h est une fonction holomorphe sur X . Démonstration. Puisque l’assertion est locale on peut supposer que X est un ouvert de C“ . II suffit alors de prouver que pour tout ouvert U CC X , il existe une fonction g E Ck+Q(U) telle que T = Tg sur U . Soit x une fonction C” à support

n

O
compact dans X telle que x = 1 sur un voisinage de Ü. Appliquons la formule (3.2) à x T , on obtient

-xT = B ’ ( d ( x T ) ) = B’(Tdx) + B’(xTf) I

(3.4)

_

car T est de degré O. Puisque supp(Tdx) CC U , il résulte de la Proposition 3.3 que g’(Tdx) = T,, oùg1 E C””(U).De plus g ’ ( x T f )coïncide avec 6, ( x f ) d’après la Proposition 3.2, par conséquent B’(xTf) E Ck+”(C?) d‘après

0

O
4. Phénomène de Hartogs

la Proposition 2.1. Posons g =

g1

69

+ B'(xTf)IU ' On déduit alors de (3.4) que

TIu = Tg.

O

Remarques 3.6 1) Le Théorème 3.5 est encore vrai lorsque T est un courant de bidegré ( p ,O), car une ( p , 0)-forme différentielle d-fermée est à coefficients holomorphes donc de classe C". 2) Si on remplace le courant T de degré O du Théorème 3.5 par un courant de bidegré ( p , q ) , q 2 1, on montrera au chapitre V, 3 5, le résultat suivant : il existe g E C,",z*(X) telle que dT = dTg,c'est-à-dire que si l'équation du =

n

O
f ,f

E

CP,,+,(X), possède une solution au sens des courants elle possède une

solution de classe

pour tout (Y ~ ] 0 , 1 [ .

4. PH~NOMÈNE DE HARTOGS

Le but de ce paragraphe est de prouver que si D est un ouvert de @" , n 2 2, et K un compact de D tel que D \ K soit connexe, toute fonction holomorphe dans D \ K se prolonge holomorphiquement à D tout entier. Au chapitre I nous avons prouvé ce résultat dans le cas où D est un polydisque de @" , n 2 2. Commençons par préciser le Corollaire 2.5 lorsque f est une (O, 1)-forme. Théorème 4.1. Soit f E Cg,l(ccZ) une (O, 1)-formedifférentiellede classeCk, k 2 O, d-fermée, à support compact dans Cn, n 2 2 . Alors il existe une fonction u de classeCk+", pour t o u t a E]O,l[, à supportcompact telle que& = f sur(Cn. De plus u est donnée par la représentation intégrale

Démonstration. Nous avons déjà prouvé dans le Corollaire 2.5 que la fonction u donnée par (4.1) est une solution de classe Ck+a de l'équation du = f sur @ ., I1 reste donc à montrer que u est à support compact dans P.Remarquons que u est holomorphe en dehors du support de f car du = f. De plus si u est donnée par la relation (4. I)

ce qui implique que u(z ) 4 O quand IzI tend vers l'infini. Pour z E P,n 2 2, posons z = (2,z,) où z' E @"-l et z, E @. Puisque le support de f est compact il existe R > O tel que si Jz'J> R, l'ensemble ( 2 ) x C ne rencontre pas le support de f . Fixons un tel z', alors la fonction z, C ) u(z', z,)

III. Noyau et formule de Bochner-Martinelli-Koppelman

70

est holomorphe et tend vers O quand 12, I tend vers l'infini. D'après le Théorème de Liouville elle est donc identiquement nulle. Nous avons donc montré que u est nulie sur l'ouvert { z' E Cn I 12'1 > R}x C du complémentaire de supp f. Puisque u est holomorphe sur C" \ supp f ,elle est donc identiquement nulle sur la composante connexe non bornée de Cn \ supp f,ce qui prouve que IL est à support compact. O Remarque :Le Théorème 4.1 est faux pour n = 1. Cela résulte du fait plus général suivant : si f est une (0,n)-formedifférentielle continue, d-fermée, à support compact dans Cn ,l'équation du = f n'a en général pas de solution à support compact. En effet si uo est une solution de l'équation du = f à support compact dans Cn et si D est un ouvert de C" contenant le support de uo et à bord de classe C1, on a

Mais en appliquant la formule de Stokes, on obtient 1 ~ 0A d z l

k D

A . . .Adzn =

s,

d(Uo A d z l A . . .Adz,) =

f A dzl A . .

.Adzn

et ce dernier terme n'est pas nul en général. Théorème 4.2. Soit D un ouvert borné deCn tel queCn \ D soit connexe. Supposons n > 1,alors pour toute fonction f holomorphe sur un voisinage d e d D , il existe une fonction F holomorphe au voisinage de D qui coïncide avec f sur d D .

Démonstration. Notons U a D le voisinage de a D sur lequel f est définie et holomorphe et choisissons x une fonction C" à support dans U a D et égale à 1 au voisinage de d D . Alors la fonction f = x f est définie dans Cn et coïncide avec f au voisinage de dD. Posons

On a ainsi défini une (0,l)-forme différentielle de classe C" sur Cn à support dans D , car df = df = O au voisinage de d D . De plus g est d-fermée dans C", on peut donc considérer l'équation d u = g. D'après le Théorème 4.1, cette équation possède une solution uo à support compact donc nulle sur un ouvert de C" \ D car D est borné. Puisque duo = g,uO est holomorphe sur cc" \ D et comme C" \ D est connexe par hypothèse, uo est identiquement nulle sur cc" \ D . Par conséquent F = f - uo est la fonction cherchée. O ~

Corollaire 4.3. Soient D un domaine de cc" et K un compact de D tel que D \ K soit connexe. Alors toute fonction holomorphe sur D \ K s'étend en une fonction holomorphe sur D . Démonstration. Sans perte de généralité on peut supposer que K est connexe. Soit D' un domaine borné de cc" tel que C" \ D' soit connexe contenu dans D et

4. Phénomène de Hartogs

71

contenant K . Un tel ouvert existe car D \ K est connexe, il suffit de prendre D' = { z E D I dist(z, K ) < E } , E assez petit, si D # @" et D' = B(0,R ) , R assez grand, si D = C" . Si f est holomorphe dans D \ K , eiie est holomorphe au voisinage de ûD' et par le Théorème 4.2 il existe F holomorphe au voisinage de -I D telle que f = FI ao,. Puisque dD' est une hypersurface réelle de @" et que f et F sont holomorphes au voisinage dD' et coïncident sur dD', elles coïncident sur la composante connexe de leur domaine de définition commun qui contient F sur D' do'. La fonction = est l'extension cherchée. O fsurD\K

laD,

F

Commentaires. La formule dite de Bochner-Martinelli, qui étend laformule de Cauchy à un domaine borné à bord lisse de @" , a été découverte indépendamment par E. Martinelli [Ma 11 en 1938 et S. Bochner [Bo]en 1940. Ces deux auteurs l'ont utilisée pour donner une démonstration rigoureuse du phénomène de Hartogs ([Ma21 et [Bo]).La généralisation au cas des formes différentielles a été obtenue par W Koppelman [KO]en 1967. Des démonstrations de la formule de Bochner-Martinelli-Koppelman, différentes de celle presentée ici, peuvent être trouvées dans [HelLel] et [Ra]. Les propriétés de régularité données au paragraphe 2 sont également exposées dans ces deux volumes. Le théorème de régularité pour le 5 est démontré dans le paragraphe 1 du premier chapitre du livre de Henkin et Leiterer IHelLe21 et une démonstration du phénomène de Hartogs, d'un esprit un peu différent, est donnée par Range dans le paragraphe 2 du chapitre N d e [Ra]. Dans [HO2],Hormander donne une autre démonstration du Théorème 4.1, basée sur laformule de Cauchy-Green en dimension I, pour en déduire le phénomène de Hartogs.

Chapitre IV

Extension de fonctions C R

En étudiant le phénomène de Hartogs au chapitre III, nous avons prouvé que si D est un domaine borné simplement connexe de (??, n 2 2, toute fonction holomorphe au voisinage du bord de D s'étend en une fonction holomorphe sur D. Par conséquent, la trace sur d D d'une fonction holomorphe au voisinage de d D est la valeur au bord d'une fonction holomorphe sur D et continue sur D. Nous nous intéressons ici à la caractérisation des valeurs au bord des fonctions holomorphes définies sur un domaine borné D de et continues sur D. Le résultat principal de ce chapitre est le théorème d'extension de Bochner pour les fonctions C R définies sur le bord du domaine. Sa démonstration utilise la transformée de Bochner-Martinelli que nous étudions au paragraphe 1. Nous prouvons également une première généralisation du théorème de Bochner au cas des fonctions CR définies seulement sur une partie du bord d'un domaine. Cette généralisation s'appuie elle aussi sur les propriétés de la transformée de Bochner-Martinelli mais nécessite l'utilisation d'une formule de Stokes pour les fonctions CR et la connaissance de primitives du noyau de B ochner-Martinelli.

cn

1. TRANSFORMÉE DE BOCHNER-MARTINELLI

Soient U un ouvert de Cc" et V une hypersurface réelle lisse de classe C1 dans U (i.e. V est une sous-variété réelle de classe C1 de dimension réelle 2 n - 1 contenue dans l'ouvert U de CC" Y telle que U \ V ait exactement deux composantes connexes U+ et U - . On suppose que V est orientée et que son orientation coïncide avec celle de du+. Définition 1.1. Soit f une fonction continue à support compact définie sur V . On

définit la transformée de Bochner-Martinelli de f par

IV Extension de fonctions C R

74

Remarquons que F est une fonction de classe C" et même analytique réelle sur U \ siipp f car @(a,<) est une forme différentielle à coefficients analytiques réels sur CT' x @" \ A. L'objet de ce paragraphe est l'étude de F au voisinage des points de supp f . Remarque 1.2 :Soit D CC U un domaine à bord C1 par morceaux tel que D C U+ e t d D n V 3 supp f.Alorssiz E U\ ( V r i d D )

I1 est facile de construire un tel domaine D. On peut toujours supposer que V est définie par V = {z E U I ~ ( z=) O}, où T est une fonction de classe C1 sur U telle que d r ( z ) # O pour tout z E V. Soit D' un domaine à bordCl de V contenant le support de f . I1 existe alors une fonction C',p, définie sur un voisinage de D' telle que D' = { z E V n I p ( z ) < O } , i3D' = {z E U D ~I p ( z ) = ~ ( z=) O}etdp(z)Adr(z) # Osiz E d D ' . P o u r ~> OonposeV, = { z E U I ~ ( z= )E } , si U+ = { z E U I ~ ( z >) O} et V, = {z E U I ~ ( z = ) - E } , si U+ = { z E U I r ( z ) < O } . Pour E suffisamment petit d r ( z ) # O, si z E V, n { p 5 O}, et d p ( z ) A & ( z ) # O, si t E V, n { p = O}. Supposons que l'on a choisi T tel que U+ = { z E U I T ( Z ) < O} et dors si

D

=

{z E U

I -E < ~

( z<) O} n {z E U D I~p ( z ) < O } .

D est un domaine à bord C1 par morceaux satisfaisant les conditions de la Remarque 1.2.

< a 5 1,àsupportcompactdans V . Alors les fonctions FI u+ et F ci- ont des prolongements continus F + et F - à U+ ü V et U - ü V et sur V, ces extensions satisfont la formule de Plemelj

Théorème 1.3.Soit f une fonction de classeC",O

I

F+I,

-

F-1.

=f

.

Démonstration. Soit D un domaine à bord C1 par morceaux vérifiant les hypothèses delaRemarque 1.2, alors F ( z ) = J c E a D f ((')Bt(z,C).

f

Notons f une extension de classe C" de f à U . On peut construire de la manière suivante. Soit ( U 2 ) , Eun ~ recouvrement de V par des ouverts tels que pour C'

chaque z E I , il existe h, : U, + IR2" satisfaisant h,(V) = {x E IR2" I x1 = O} et si U, n s u p p f # 0 alors U, n (i3D \ V ) = 0. On définit par f a ( z ) = f ohL'(O,(h,)z(z),. . . , ( h z ) 2 n ( z ) ) p o u r zE U,;f,estdeclasseCasurU, et satisfait = f. Posons UO = C" \ et soit ( x ~ ) ~ ~ I une ~ ( O partitionCm )

f,

f,l u , n v

de l'unité relative au recouvrement

v

f

( I ! Y , ) , ~ I ~Alors ~~}.

xzfzest l'extension

= zEI

cherchée.

I. Transformée de Bochner-Martinelli

75

Posons F o ( z ) = F ( z ) - f ( z ) ,si z E D et F o ( z ) = F ( z ) ,si z # D. D’après la formule de Bochner-Martinelli (Chap. III, Corollaire 2.4 et Remarque 1.6 2))

Fo(z) = Puisque

f est de classe C a

JItoD (0 (f

et que

, if

- f(z))B,O(z,C).

= f on a

(f (0- f ( z ) ) B i ( z , < )=

La forme différentielle ( f ( 0 - f ( z ) ) B g ( z , < )est donc à coefficients localement intégrables sur d D . Par conséquent FOest continue sur U et l’existence de F+ et F - vérifiant F+Iv-F-Iv=f se déduit aisément de la définition de Fo. O

O ( ,c-z,~n-l-y).

Remarque :Sous les hypothèses du Théorème 1.3, on peut en fait prouver que F+ et F - sont de classe Co respectivement sur U+ U V et U - U V (cf [Cil). Théorème 1.4. Soit zo E V fixé. On pose A, = V B(z0,r)pour T > O et on note n, le vecteur unitaire normal à V en z dirigé vers U+. Pour r assez petit, si f une fonction continue à support compact dans V ,alors F ( z tn,) - F ( z - tn,) converge uniformément par rapport à z sur A, vers f ( z ) lorsque t tend vers O par valeurs positives.

+

Démonstration. Choisissons r > O tel que B(zo,2r) C U et décomposons f en f = f O fi, où supp f i c B(zo,2r)et f o E O sur B ( z 0 , r )n V . La transformée de Bochner-Martinelli Fo de fo est évidemment continue sur B(z0,r) et il suffit donc d’étudier la transformée de Bochner-MartinelliFi de f i .

+

Sans perte de généralité on peut supposer que zo = O et que r est suffisamment petit pour que 1) ûB(0,2r)soit transverse à V . On notera dors D un domaine à bord C’ contenu dans B(0,2r)n U+ et tel que d D n V contienne le support de f i . 2) Si n, est la normale unitaire en z à V dirigée vers U+,il existe C < 1 tel que I(< - z,n,)1 5 CIc - z Jpourtout z,( E B(0,2r)n V . D’après la formule de Bochner-Martinelli, si z E A,.

f ( z ) pour t > O assez petit Donc si It1

5 t o assez petit on a

G ( z , t )= F l ( z

+ t n z )- F I ( Z- tn,)

Lemme 1.5. Il existe une constante

IBO(z A D

-

f(z)

c telle que

+ tn,,<) - B,O(z - tn,,C)lda(C) 5 C,pourz E A,,O

< t 5 to.

IV Extension de fonctions C R

76

Démonstration du Lemme 1.5. Posons

A ( t , < , )= IB,Ob+ tn,,(') - B,O(z - tn2,OI. Par des calculs analogues à ceux de la démonstration du Lemme 2.2 du chapitre III, on obtient l'estimation

A(t,<)i

( max ( I<

1 ( z - t n z )12n

1

1.

I(' - ( z + tn,) p I< - ( 2 - tn,) 12n Maispourz,< E B(0,2r) n V ,o n a I(' - z f tn,I2 2 (1 - c)[l( - 21' + t 2 ]carr a été choisi tel que I(< - z I n,)l 5 cl< - zI. Par conséquent CIItl

-

Pourz E A,etyteiqueO

s,,

A(t,C)da(<)=

+

< y < r,ona

J

A(t,(')WC)+

aD\B(z,r)

J

A(t,C)WC).

aDnB(z,r)

La première intégrale du second membre est clairement bornée uniformément par rapport à z dans A,. Après paramétrisation de V n B(z,y),la seconde intégrale est majorée par

I ( t )=

J

xEWZn-' (1x12 MIR

t

+ t 2 ) n dV(x).

En faisant le changement de variable y = t z , on obtient

ce qui termine la démonstration du lemme.

O

Fin de la démonstration du Théorème 1.4. Fixons E > O et choisissons q > O tel que - f ( z ) l < 3 pour I< - zI < q. Découpons alors d D en deux parties d D n B ( z , q )e t d D \ B ( z , q ) . Ondéduitalorsde (1.1) etduLemme 1.5l'estimation

If(<)

I

I

Sur ûD \ B(z,q),A(t,<) = BE(z +tn,,<)- BE(z - tn,,<) dépend continûment de (t,<)et d'après (1.2) on a

Par conséquent l'intégrale du second membre de (1.3) tend vers O lorsque t tend vers O de plus cette convergence est uniforme par rapport à z dans A, car Bg(z,<) ne dépend que de z - <. I1 existe donc th tel que si O < t < th, pour z E A,, alors IG(z,t)I < 2 ~ . O

2. Fonctions C R sur une hypersurface réelle

77

Corollaire 1.6. Si f est continue à support compact sur V et si FI u- admet une extension continue F - à U - U V alors FI,, admet une extension continue F+ à U+ ü V e t o n a

F+I,

-

F-1, = f .

Démonstration. Soit zo E V fixé et w E U+ assez proche de ZO. On note z la projection orthogonale de w sur V , on a alors w = z tn, où n, est la normale unitaireenz àV. NousallonsmontrerqueF(w) tendvers F-(zo)+ f (zo),lorsque w tend vers 20, ce qui prouvera le corollaire

+

(1.4)

IF(w) - F - ( z o ) - f (z0)l 5 IF(z + tn,) - F ( z - t n z ) - f (.)I +If (2) - f (.O)[ + I F ( z + in,) - F-(zo)l.

Fixons E > O. Si w est assez proche de zo, on déduit du Théorème 1.4 que le premier terme du second membre de (1.4) est majoré par De plus si w est assez proche de zo, z est proche de zo et par continuité de f , le second terme est égaiement majoré par :. Finalement si w tend vers zo, z - tn, tend aussi vers zo et la continuité de F - sur U - ü V implique que le troisième terme est majoré par ü

5.

5.

Exemple : Soit D un domaine borné à bord C1 et f E C(aD). Supposons que JaD f(<)Bg(z,<) = Opourz # D, alors F ( z ) = f (<)Bg(z,C), quiest définie sur D , s'étend continûment à D et on a F ( z ) = f ( z ) si z E 30.

saD

2. FONCTIONS C R SUR UNE HYPERSURFACERÉELLE

On désigne par V une hypersurface réelle orientée de classe C1 dans Cn. L'objet de ce paragraphe est de définir une classe de fonctions sur V qui contient les traces des fonctions holomorphes au voisinage de V et qui coïncide, lorsque V est le bord d'un domaine D , avec les valeurs au bord des fonctions holomorphes dans D. Définition 2.1. Une fonction f continue sur V est dite Cauchy-Riemann ( C R ) si

pour toute formedifférentielleX de bidegré (n,n- 2), de classeCm sur un voisinage de V et telle que supp X n V soit compact, on a

Jv fax

= O.

Remarque :En terme de courant f C R sur V signifie que f [VIo>', où [VIo>' est la partie de bidegré (0,l) du courant d'intégration sur V ,est d-fermé. Exemple : Si F est une fonction holomorphe au voisinage de V , alors f = FI, est C R sur V . En effet, soit X une (n,n - 2)-forme différentielle de classe C" au

IV Extension de fonctions C R

78

voisinage de V telle que supp X n V soit compact et soit D un domaine borné à bord C1 par morceaux contenu dans les domaines de définition de F et A, tel que d D n V 3 s u p p X n V et que l'orientation sur V coïncide avec celle de dD. Alors

Jv

fax

FaX = saD d(FX) = SODd ( F X ) = O = JaD

par définition de D et car f = FI car F est holomorphe d'après la formule de Stokes puisque X est de type (n,n - 2).

Définition 2.2. Une fonction f E C1 ( V ) est dite Cauchy-Riemann ( C R )sur V si pour toutp E V etpour toutu E T i i l ( V )on a v ( f j = O

Remarque :Si V est définie par { z E U I ~ ( z =) O}, où U est un ouvert de Cn et T une fonction C1 de U dans R telle que d r ( z ) # O si z E U , la fonction f E C'(V) est CR si et seulement si pour tout p E V , on a

pour t E

cntel que

n j=l

e

( p ) t j = O.

Nous allons prouver que, si f est une fonction de classe C' sur V ,les deux définitions que nous venons de donner coïncident. Lemme 2.3. Supposons que V est de classe C k , l 5 IC 5 00. Si f E C k ( V )est une fonction C R au sens de la DéBnition 2.2, il existe un voisinage U de V et une extension E Ck-l( U )de f telle que (il = f. (il) Toutes les dérivées d'ordre k - 1 de sont dérivables en tout point z E V et Dafest continue sur V pour [al= k . (iii) df(z) = O pour toutz E V .

f

JIv

f

Démonstration. Pour pEV, soient L l ( p ) ,. . . , L n - l ( p ) une base de T k i o ( V )et L n ( p ) # O un vecteur tel que T;>O(
f de f qui vérifie -$( p ) = O, pour tout p

E

V , et

donc z n ( p ) f = O, pour tout p E V . Vérifions q i e cette condition détermine le développement de Taylor de jusqu'à l'ordre 1 en tout point de V . Si V est définie par { z E U 1 T ( Z ) = O } , où U est un ouvert de cc" et T une fonction de classe C k de U dans R telle que d î ( z ) # O , si t E U , on peut choisir

f

3. Théorème de Bochner

79

-

On a alors ( L , - L,) ( r ) = O et donc L, (2) - En(2) est un élément de CTz (V) pour tout z E V. Par conséquent si z,(z)f = O, pour z E V ; on obtient

LMf

flv

= [ L n ( z )-

L ( 4 l f = [ L ( z ) Ldf)If, -

si 2 E V, car = f . De plus L j ( z ) f = L j ( z ) f et Ej(z)f = O si z E V,l 5 j 5 ri - 1. CommeCT2Cn estengendrépar ( L i ( z ) , E i ( ~ )-) ~ < i l , , s E i z V, vfest donc entièrement déterminé pour tout v E CT2C" ,z E V. On peut supposer que E,T(z) = 1, si z E V, et que f est la restriction d'une fonction encore notée f de classe Ck sur U . On pose alors f ( z ) = f ( z ) r ( z ) ( E n f ) ( zpour ) z E U. I1 est clair que est de classe C"' et que = f . Puisque T a. O et T est de classe C" on montre facilement (iil.

f

1

SIv

Par définition df(z) = O, si z E V, si et seulement si Zj(z)f = O pour tout z- E V et tout j = 1, . . . ,n. Or zj (z)f = zj ( z ) f = O, si z E V, car f est C R et O ~ , ( z ) f= Z,(z)f - (En(z)r)(En(z)f) = O, carE,(z)r = 1,siz E V . Nous pouvons maintenant montrer que les deux définitions coïncident lorsque

f est de classe C1 sur V. Supposons que f E C1(V) est C R au sens de la Définition 2.2 et soit f une extension de f à un voisinage de V satisfaisant aux conclusions du Lemme 2.3. Si X est une (n,n- 2)-forme différentielle de classe C" au voisinage de V telle que supp X n V soit compact, on a Jv f a x = Jv carfi" = f = Jv à(f~) caràf = O sur v = Jv d ( f X ) = O car X est de type (n,n - 2) d'après la formule de Stokes.

fax

Réciproquement, si f E C'(V) est C R au sens de la Définition 2.1 et si f est une extension de classe C1 de f à un voisinage de V on a 8(f[V]'l1) = O ce qui implique (df) A [VI'>' = O car [VI est un courant fermé. si T est une fonction définissante de V on a alors = 6% et donc df A [VIoi1= O équivaut à = Opour1 5 j < k. 5 n. Lesvecteurs(&(p)(q)P a (--azk ar ûf - --) ûr ûf ûzJ a?, azk aF, ar ( p )( & ) p ) , 1 5 j < k 5 n, forment une famille génératrice de T:"( V), pour toutp E aD, et donc v(f) = O, pour tout v E T j > l ( V ) , pE V .

3. THÉORÈME DE BOCHNER

Soit D un domaine à bord C', borné dans C" . On s'intéresse au problème suivant : étant donné une fonction f continue sur a D , à quelles conditions sur f et sur D peut-on étendre f en une fonction F continue sur D et holomorphe sur D. On sait par le Théorème d'extension de Hartogs (chap. III, th. 4.2) que le problème a une solution pour n >. 2 si le bord de D est connexe et si f est la restriction d u n e fonction holomorphe au voisinage de dD.

I V . Extension de fonctions C R

80

Déterminons tout d'abord des conditions nécessaires pour que le problème ait une solution : 1) il faut que f soit CR.

En effet soit cy une forme différentielle de classe C" de bidegré (n,n- 2) définie au voisinage de dD. Supposons que f s'étende en une fonction F continue s u r D et holomorphe sur D. Notons x une fonction C" à support compact dans le domaine de définition de cy et égale à 1 sur un voisinage de dD. On a dors

faCY=

Fd(Xcy)

= JD

d(Fa(xa)) '(

cy)) sDd FF d ( Xd(xa)

= JD =

A

=O

par définition de F et x par la formule de Stokes car cy est de bidegré (n,n- 2) car F est holomorphe dans D.

2) I1 faut que d D soit connexe ou bien que

sa, f (<)BD(z,<)= O si z $! D. r2.

Supposons que d D possède deux composantes connexes riet Notons ri la composante qui borde la composante connexe non bornée de C" \ D et f i la restriction de f à ri,i = 1,2. Si le problème a une solution, ii existe F continue sur D, holomorphe sur D et telle que FI r, = fi,i = 1,2. Si K est la composante connexe bornée de C" \ D , d'après le Théorème de Hartogs F s'étend en une fonction holomorphe F sur D ü K . D'après la formule de Bochner-Martinelli on a

O

si z E K et donc

f(<)~g(z,= < )O

si

z $! D

car cette intégrale est clairement nulle si z est dans la composante connexe non bornée de C" \ D dans ce cas. Théorème 3.1. Théorème de Bochner. Soient D un domaine relativementcompact à bord C1 de @" ,n 2 2, tel que C" \ D soit connexe. Si f est une fonction C R continue sur d D , il existe une fonction F continue sur D, holomorphe sur D , telle q u e F l a D = f . D e p l u s F ( z ) = J c t a D f ( < ) B g ( z , < ) s i zE D .

Démonstration. Prouvons tout d'abord l'unicité de F . Si Fi et Fz sont deux extensions holomorphes de f à D , Fi - F2 est une fonction holomorphe sur D ,continue sur D et telle que F I - F2 = O. D'après le principe du maximum FI - F2 = O sur D.

laD

D'autre part si F existe, d'après la formule de Bochner-Martinelli

J

F(C)B,O(Z,<)= f (<Mxz,<) si F ( z ) = J(EZiD CEaD car F = f . (On a ainsi prouvé de nouveau i'unicité de FI.

laD

E

D,

3. Théorème de Bochner

81

Montrons maintenant l'existence de F . Considérons la fonction

Elle est de classe C" sur cc" \ dD. D'après l'étude de la transformée de BochnerMartinelli ( c f .Cor. 1.6) il suffit de prouver que F est holomorphe sur @" \ d D et identiquement nulle sur C" \ D. Calculons 3 F sur C" \ D. On a a F ( z ) = f (C)d,Bg(z,C) maisd,Bg(z, <) = - d ~ B y ( z (), sur @" x @" \ A et donc

SrEaD

SrCao

pour z E C" \ d D fixé, d F ( z ) = f ( C ) a ~ B y (C) z , = O car f est une fonction CR sur le compact dD. La fonction F est donc holomorphe sur C" \ dD. Remarquons que F ( z ) tend vers O quand IzI tend vers l'infini car IF(.)[ 5 <list(:,aD) . Puisque F est holomorphe sur @" \ D, n 2 2 et Qin \ D est connexe, F est alors identiquement nulle sur @" le chapitre IV).

\ D ( c f .démonstration du Théorème 4.1 dans o

Théorème 3.2. Soient D un domaine relativement compact à bord C1 de @" et f est une fonction continue sur d D . Pour qu'il existe une fonction F holomorphe dans D continue surD telle que F ao= f il faut et il sufit que pour toute ( n ,n - 1)-forme différentiellea! de classec", ô-fermée définie sur un voisinage de D on ait

I

f a ! = o.

Démonstration 1) Condition nécessaire : supposons qu'il existe F continue sur D et holomorphe sur D telle que F = f et considérons une ( n ,n - 1)forme a! de classe Cw, d-fermée au voisinage de D. Alors

lao

.hDfa

=SaDFa

= SD d ( F a ) =

SDd F A a + F3ja = O

par définition de F par la formule de Stokes car F et a! sont 3-fermées.

2) Condition suffisante : montrons tout d'abord que f est CR. Soient A une forme différentielle C", de bidegré ( n ,n - 2) définie sur un voisinage de d D et x une fonction C" à support compact dans le domaine de définition de X et égale à 1 au voisinage de d D alors

car ~ ( x X )est une (n,n au voisinage de D.

-

-

1)-forme différentielle de classe C", d-fermée, définie

Considérons la fonction F ( z ) =

ScEaDf (<)Bg(z,C). Elle est holomorphe sur

@" \dD d'après la démonstration du théorème précédent. Si z E @"

\ D, B g ( z , .)

IV Extension de fonctions C R

82

-

est une (n,n- 1)-forme différentielle de classe Cm,d-fermée sur Cn un voisinage de D. L'hypothèse faite sur f implique que

F(z)=

f ( C ) B g ( z , ( )= O

si

z

E

Cn

\ { z } qui est

\o.

On déduit alors du Corollaire 1.6 que f est l'extension cherchée.

O

Terminons ce paragraphe en étudiant la régularité de l'extension F lorsque f est de classe C'". Théorème 3.3. Soient D un domaine borné de C n , à bord de classe C" et f une fonctionCR, declasseCk,l 5 k 5 m, surdD. Supposonsque: soit Cn \ D est connexe et n 2 2, soit f a = O, pour toute (n,n - 1)-forme dflérentielle a de classe C" ,dfermée au voisinage de D. Il existe alors une fonction F de classec'" s u r n , holomorphe dans D , telle que

saD

=f'

Démonstration. L'existence et l'unicité de l'extension F résultent des Théorèmes 3.1 et 3.2. I1 ne reste plus qu'à étudier la régularité de F . Rappelons que

Montrons tout d'abord que F est de classe C1 sur 0. En dérivant sous l'intégrale, on obtient

Comme B: est de type (n,n - 1) en ( et 8c-fermée, on peut écrire, pour J (1,.. . ,n}fixé, BO = dc3 A B,

E

où B3 est une forme différentielle de type ( n - l , n - 1) telle q u e dcB3 = O. De plus les coefficientsde B, sont des fonctions de - z . Par conséquent

<

Notons f" une extension de f satisfaisant aux conclusions du Lemme 2.3. On a alors pour z E Cn \ d D

4. Formule de Stokes pour les fonctions CR

Puisque F

= O sur C" \ D, il en est de même de

laire 1.6 que

EID

s'étend continûment à D.

a23

83

et on déduit donc du Corol-

Le cas générai se démontre par récurrence sur IC. Supposons que le résultat est vrai pour k 2 1. Soient f E ( d o )une fonction CR sur d D et June extension de f satisfaisant aux conclusions du Lemme 2.3. Nous venons de prouver que si F ( z ) = J c E a D f (Ç)Bg(z,<) pour z E C" \ d D alors pour t o u t j = 1,.. . ,n

Puisque

aZ3

est holomorphe dans D et continue sur D et FI,,

-ai.

E l a D - ac, laD E

que

E E C'((D),j

=f ,

laD

est C'(do). On déduit alors de l'hypothèse de récurrence

= 1,.. . ,n, c'est-à-dire

F E

Ck+'(D).

O

4. FORMULE DE STOKES POUR LES FONCTIONS CR

On désigne par V une hypersurface réelle de classe C' de C" ,n 2 2.

Soit D un domaine à bord C' relativement compact dans V. Si f est une fonction C R de classe C' sur V ,il résulte de la formule de Stokes que pour toute (n,n2)-forme différentielle a de classe C1 au voisinage de V on a

Le but de ce paragraphe est détendre la formule (4.1) au cas où f est seulement continue.

Lemme 4.1. S i D est un domaine à bord C' relativement compact dans V , il existe un domaine D borné dans C" , dont le bord est de classe C1 au voisinage de V , tel que 6 n V = D et V coupe d D transversalement.

Démonstration. Puisque d D est une sous-variété de classe C', de codimension 2 de C" , il existe des fonctions T et p à valeurs réelles telles que a) T est définie et de classe C' sur un voisinage UV de V dans C" ,V = {t E UV I ~ ( z=) O} et d r ( z ) # O pourtout t E UV. b) p est définie et de classe C' sur un voisinage UaD de d D dans C", d D = { z E V n UaD 1 p ( z ) = O}, d p ( z ) # O, pour tout z E UaD et D n U a ~ = { zE

v n ut30 I p ( z ) < o } .

c) d r ( z ) A d p ( z ) # O, pour tout z E

UV fl U ~ D .

5

On définit aiors 6 de la manière suivante : c { z E UV I - E < T ( Z ) < E } , 6 n V = D et 6 f i 1730 = { z E U ~ IDp ( z ) < O}, E étant choisi assezpetit pour O q u e U a D n { z E UV I - E < ~ ( z< )E } # 0.

IV Extension de fonctions C R

84

Lemme 4.2. Soient D un domaine à bord C’ relativement compact dans V et 5 un domaine associé à D par le Lemme 4.1. Si cp est une (2n - 1)-forme différentielle continue sur V et (e une extension continue de cp à Cn on a

où K (. ,.) désigne l’indice de Kronecker.

-

Démonstration. NOUS aiions prouver que K([D],[v]O~’ A (e) existe et qu’il est égal à (e ce qui coïncide avec cp par définition de D et (e. En utilisant une partition de l’unité on peut supposer que le support de (e est suffisamment petit pour que l’on soit dans la situation suivante : quitte à faire unchangement de coordonnées de classe C’, V est définie par l’équation x1 = O et D par 2 2 < O au voisinage du support de (e.

s~,,~

Soient (e,),,,

so

et CY,^)^,,^ deux familles de fonctions régularisantes. On a alors

5. Primitive du noyau de Bochner-Martinelli

85

La fonction cp étant continue à support compact, elle est donc uniformément continue et donc cp(0,u- x2 7 ~ 2 , ~ ”tend ) vers cp(O,u,z”)uniformément par rapport à (u,z”),lorsque E et E” tendent vers O, si x E supp 0, et y E supp a,!. On en déduit que

+

O

Théorème 4.3. Soit D un domaine relativement compact à bord C i de V. Pour toute fonction f continueCR sur V et toute (n,n- 2)-forme différentiellea de classeCl au voisinage de V on a

Démonstration. Soient 5 un ouvert de Cn associé à D par le Lemme 4.1, f une extension continue de f à C? et 6 une (n,n - 2)-forme différentielle de classe C1 dans C” qui coïncide avec CY au voisinage de V. I1 résulte du Lemme 4.2 que

car a est de bidegré (n,n- 2). Mais la fonction f est C R et le courant [VIoi1A f& de bidegré (n,n- l),par conséquent d([VIo>’A

f&)= d([V]o>lA f&)= [VI”’

A

faa.

On obtient donc finalement

f&)).

faa= K([D],d([V]O”A ID

et par la formule de Stokes pour l’indice de Kronecker (Chap. II, Corollaire 3.7)

L

fda

= IC(b[D],[V]OJ A

fa) =

/

aDnv

fa.

=

/

fa.

aD

5. PRIMITIVE DU NOYAU BOCHNER-MARTINELLI

Rappelons que le noyau de Bochner-Martinelli

est une forme différentielle de classe C” dans C” x z E Cn fixé,dcB!(z,<) = o s i < E \ {z}.

Cn \ A qui satisfait pour tout

Dans ce paragraphe nous allons déterminer explicitement des formes différentielles solutions de l’équation au = B;(z,.) sur certains ouverts de C” \ { z } .

iV Extension de fonctions C R

86

Soit z E C" fixé, on pose pour k = 1, . . . ,n

Démonstration. La fonction on a

&étant holomorphe sur C" \ { C E C"

I
= Zk},

Un calcul direct donne alors acfik(z,<)

= BO(z,<).

La forme f l k ( z , . ) est de bidegré (nln - 2), donc d R k ( z , . ) = dRk(z,.).

O

Pour toute fonction cp holomorphe dans e" et pour tout z E Cn fixé, on pose 1 cp(C) = cp(z)}. Nous allons déterminer des primitives du noyau de Bochner-Martinelli sur les ouverts de la forme = @" \ N,. Ces primitives nous seront utiles pour prouver le théorème d'extension du paragraphe 6.Le Lemme 5.1 résoud ce problème pour l'application coordonnée cp(z) = z k .

N , = {< E C"

u,

Lemme 5.2. Si cp est une fonction holomorphe dans Cn , il existe n fonctions holomorphes(hl, . . . JL") sur(Cn x @" tellesquepourtout(z,C) E Cn x cc" n

(5.2)

q(C) - v ( z ) =

h k ( z , < ) ( C k - Zk). k=l

Démonstration. Posons, pour k = 1,. . . ,n,

6. Un théorème d'extension pour les fonctions C R

87

la fonction hk est holomorphe sur @" x @" \ { (z,<) I z k = < k } elle se prolonge par continuité à @" x @" car la fonction cp est holomorphe par rapport à la variable z k . Le Théorème de Riemann (Chap. I, Th. 6.4) implique que h k est holomorphe sur @" x @" . La relation (5.2) est une conséquence immédiate de la définition des fonctions h k . O Remarque :Le Lemme 5.2 n'est plus vrai si cp est seulement définie sur un ouvert fl de @" . Nous verrons au chapitre VI11 des conditions sur fl pour que le Lemme 5.2 soit encore valide. Nous pouvons définir maintenant

La forme différentielle @(xi.) est de classe C" sur Cn \ N,. Proposition 5.3. La forme différentielle @ ( z , . )vérifie

d @ ( z , . ) = 34>(z,.) = B:(Z,.)

sur @"

\ N,.

Démonstration. La forme différentielle @ ( z , . )est de type (n,n - 2) et par conséquent d@(z,.) = d@(z?.). D'autre part puisque les fonctions cp,hk,k = 1 , .. . ,n sont holomorphes et ( < k - zk)flk(z,<) est définie sur C" \ { z }

<

pour tout E @" \ N,. On déduit alors du Lemme 5.1 et de (5.2) que dç@(z,.)= O BO(z,.)sur @" \ N , en prolongeant par continuité.

6. UN THÉORÈMED'FXTENSION POUR LES FONCTIONS C R

Considérons la situation géométrique suivante : soient V une hypersurface réelle, fermée, orientée de classe C' de @" ,n 2 2, et I? un domaine à bord C' dans V . On suppose que : (i) d r est contenu dans M = { z E @" I Re cp(z) = O}, où cp est une fonction holomorphe dans @" . (ii) r c { z E @" I Recp(z) > O}. (iii) d r est le bord d u n domaine borné A de M . On notera D l'ouvert borné de @" dont le bord est ü 2.On suppose que l'orientation sur V coïncide avec celle de dD. Dans ce paragraphe nous allons prouver que si f est une fonction C R continue sur il existe une unique fonction F continue sur DU et holomorphe sur D telle que FI,= f .

r,

r

IV Extension de fonctions C R

88

Ce résultat est un cas particulier du problème d'extension des fonctions C R à partir d u n e partie du bord d u n domaine que nous pouvons formuler ainsi. Soient D un domaine borné de C" , K un compact de dD tel que dD \ K soit une hypersurface réelle connexe de classe C' de @" \ K . A quelles conditions sur K toute fonction C R continue sur dD \ K s'étend-elle en une fonction holomorphe sur D continue sur D \ K ? Si K = 0, le problème est résolu par le Théorème de Bochner. Ici nous résolvons le cas où K est contenu dans l'ensemble des zéros de la partie réelle d u n e fonction holomorphe dans C" . Nous donnerons de nouvelles conditions cohomologiques et géométriques sur K à la fin des chapitres V, VI1 et dans le chapitre VIII.

r,

Théorème 6.1. Soit f une fonction C R continue sur il existe une unique fonction F holomorphe dans D , continue sur D ü I' telle que F = f.

I

Démonstration. Commençons par montrer l'unicité de F . Pour tout zo E D fixé, on choisit E > O assez petit pour que zo E D, = D n {< E C" I Re cp(() > E } et onnoter,=rn{(EC" I R ~ ~ ( C ) > E } ~ ~ A , = D ~ {I(REe cCp"( ( ) = ~ } , alors dD, = ü A,. Supposons que F existe, elle est alors holomorphe sur D, et continue sur DE,on peut donc lui appliquer la formule de Bochner-Martinelli :

CE

Posons N , = {<

C" I y(<) = cp(z)}pour tout z E @" et remarquons que Re cp(C) = E } = 0 car zo E DE.I1 existe donc un voisinage de E

N,, n {( E QIn I A , qui ne rencontre pas N,, et si @ est la forme différentielle associée à cp définie par la formule ( 5 . 3 ) on adC@(zo,() = B:(zo, () sur ce voisinage. Comme F est holomorphe et @@O, .) de bidegré ( n ,n - 2) sur D, en appliquant la formule de Stokes on obtient

car FI, = f et d r ,

c r,ce qui prouve l'unicité de F .

Prouvons maintenant l'existence de F . Dans un premier temps nous supposons que la donnée f est continue sur F. En faisant tendre E vers O dans (6.1) on montre que si F existe alors

(6.2)

F(z)=

s,

f(<)BO(z, Cl -

s,,

f ( O @ ( z ,C)

pour tout z E D. Considérons la fonction F définie par la formule (6.2). C'est une fonction de classe C" sur @" \ ( M ü r) car B:(z, .) est défini et C" sur C" \ { z } et @ ( z ,.) est de classe C" sur C" \ N,, où N , = {C E C" I ' p ( z )= cp(C)}. Nous ailons montrer que F est l'extension cherchée et pour cela nous avons besoin du résultat suivant qui sera prouvé au chapitre VI1 : si 'p est une fonction holomorphe

6. Un théorème d'extension pour les fonctions C R

89

dans C" ,n > 2, on définit U, = { z E C" I - E < Re cp(z) < E } , & > O. C'est un domaine dholomorphie (cf Chap. VI, Prop. 1.16) et toute (n,n- 2)-forme différentielle C" sur U, est a-exacte sur U,, c'est-à-dire H " J - 2 ( U E )= O (cf Chap. VII, Th. 7.4). ireétape :F est holomorphe s u r C" \ ( M U r)

En dérivant sous le signe J dans la formule (6.2), on a pour z E C? -

dF(z) =

s,,

f(<)dzB,O(z1<) -

a, BO = -de BY sur C" -

et puisque

s, s,

-

W z )= -

x

\ (rU M )

f(oaz@(zl<)

C" \ A,on obtient donc

f (<)dcB?(z,<) -

/

ar

f(<)az@(zl<).

Si n = 2, un calcul direct donne d F ( z ) = O pour tout z E D car BY(z;) est de classe C" au voisinage d e r si z E D. Si n > 2, la proposition 5.3 implique -

- -

ac(d,@ + BY) = a,(ac@)+ dcB? = aZB,O+ acB1 = O

<

pour tout (z,<) E C" x C" tel que $! N , . Fixons z E D et choisissons E > O assez petit pour que z $! U, = {< E û? I -E < R e v ( < ) < E } . La forme différentielle d,@(z;) B Y ( z ; ) est une (n,n- 2)-formed-fermée de classe C" sur U, car N , n U, = 0. Comme Hn,n-2(U,) = O, il-existe une (n,n - 3) forme différentielle 6 , de classe C" sur U, telle que 36, = a,@(z,.) BY(z;) sur U,. Soit 8, une (n,n- 3)-forme de classe C" dans C" qui coïncide avec 6, au voisinage de aï.On a alors

+

+

En appliquant le Théorème 4.3, on obtient encore a F ( z ) = O.

\ (Dü I?) C" I Re cp(z) $!

Ze étape: F estidentiquementnulie sure"

Considérons l'ouvert U = { z E [O, supDRe 9 1). Pour z E U,N, ne rencontre pas D et par conséquent @(z,.)est de classe C" au voisinage de F. ComrneaC@(z,.) = BO(z,.)sur C" \ N,, la formule (6.2) et le Théorème 4.3 impliquent que F(z)=O si z E U . De plus l'ouvert U rencontre toutes les composantes connexes de C" \ (Dü M ) et F est holomorphe sur C" \ ( D UM ) , donc par le principe du prolongement analytique F est identiquement nulle sur C" \ ( D U M ) .

se étape: FI,

=f

PosonsFl(z) = Jr f(<)B;(z,<) etFz(z) = Jar f(<)@(z,<).Pardéfinitionde F on a F = Fi - F 2 . La fonction F 2 est de classe C" sur C" \ M car l'ensemble N , des singularités de a(.,.) ne rencontre pas d î si z $! M . La fonction Fi est la transformée de Bochner-Martinellide f sur r,elle est de classe c" sur a? \

r.

IV Extension de fonctions C R

90

On pose FT = Fj

ID

et FJT = Fjlc,,\(EuM), j = 1,2. Remarquons que

-

FC se prolonge continûment en FC à (Cn \ (Dü M ) ) ü r. En effet FT = F \(DUM) + F; et, d‘après la Ze étape, F est nulle sur Cn\ (Dü M ) . La continuité de Fz sur Cn\ M permet alors - de conclure. Le Corollaire 1.6nous dit qu’alors F’, se prolonge continûment en FT à D U r et F,’ - & = f , donc F se prolonge continûment à D u r en F et FIr = f car F2 est continue sur Cn \ M .

IC,

Ir

1

1

La démonstration du théorème dans le cas où f est continue sur est alors terminée. Si f est seulement continue sur r, f est continue sur FEpour tout E > O et l’on peut appliquer ce que nous venons de démontrer à D,. On obtient ainsi une famille (F,),>O de fonctions holomorphes qui vérifient FE = F,, si E’ > E à cause de l’unicité. La fonction F définie par F D,ur, = F, est l’extension cherchée. O

I

ID,ur,

Remarque :Quitte à utiliser un résultat qui ne sera démontré qu‘au chapitre VII, nous avons préféré inclure le Théorème 6.1 dans ce chapitre plutôt que dans le chapitre VI11 où il aurait pu également se trouver car la méthode de démonstration que nous utilisons est du même type que celle du Théorème de Bochner. Commentaires. Une lecture précise de la démonstration du Théorème d’extension de Hartogs dans l’article de Bochner [Bo] montre que pour obtenir l’extension il sufit que la donnée soit une fonction C R sur le bord du domaine. La démonstration du Théorème d’extension de Bochner que nous donnons ici est celle de Harvey et Lawson [HalLa]et de Cirka [Ci].Le cas où le bord du domaine n’est pas supposé connexe est dû à Weinstock [We].Le théorème d’extension du paragraphe 6 a été prouvé par Lupacciolu et Tomassini [LulTo]pour une donnée localement lipschitzienne. La démonstration de la formule de Stokes pour lesfonctions C R continues qui permetd’étendre le résultat de Lupacciolu et Tomassini aux fonctions C R continues se trouve dans [L-T2].La plupart de ces résultats sont rassemblés dans le livre de Kytmanov [Ky].

Chapitre V

Extension de fonctions holomorphes et de fonctions C R dans les variétés

L‘objet de ce chapitre est l’étude du phénomène de Hartogs-Bochner dans les variétés analytiques complexes. Nous commençons par étudier la relation entre le phénomène de Hartogs et l’annulation du groupe de cohomologie de Dolbeault à support compact de bidegré (O, 1).Nous donnons ensuite des conditions cohomologiques qui permettent d’étendre une fonction C R de classe définie sur une partie du bord d’un domaine en une fonction holomorphe sur ce domaine tout entier. Cela généralise la situation géométrique étudiée à la fin du chapitre IV. Pour obtenir des résultats analogues pour les fonctions C R de classe nous avons besoin d’une part d’un résultat sur la résolution locale du 8 et d’autre part d’un théorème d’isomorphisme entre les différents groupes de cohomologie Ha9q( X )qui résulte de la résolution locale et d’éléments de théorie des faisceaux qui seront donnés dans l’annexe B. Le résultat local est prouvé en résolvant le dans les domaines convexes à bord de classe c2 à l’aide d’une nouvelle formule intégrale, la formule de Cauchy-Fantappié.

c”

ck

a

1. COHOMOLOGIE À SUPPORT COMPACT ET PHÊNOMÈNE DE HARTOGS

Dans ce paragraphe nous allons étudier le lien entre le phénomène d‘extension de Hartogs dans une variété analytique complexe et l’annulation de certains groupes de cohomologie de Dolbeault de cette variété. Soit X une variété analytique complexe de dimension n. Nous dirons que le phénomène de Hartogs se produit dans X si pour tout domaine D relativement compact dans X tel que X \ D soit connexe et pour toute fonction f holomorphe sur un voisinage Uao du bord de D , il existe une fonction F holomorphe dans un voisinage de D qui coïncide avec f sur un voisinage de dD.

Nous avons prouvé au chapitre III, Théorème 4.2, que le phénomène de Hartogs se produit dans
92

V. Extension de fonctions holomorphes et de fonctions C R

Théorème 1.1. Soit X une variété analytique complexe non compacte. Supposons que pour toute (0,l) -forme différentielle u de classe Coo, à support compact dans X et 8-exacte au voisinage de son support, il existe une fonction u de classe C" à support compact dans X telle que 8u = u dans X , alors le phénomène de Hartogs se produit dans X . Démonstration. Soient D un domaine relativement compact de X tel que X \ D soit connexe et f une fonction holomorphe sur un voisinage U ~ du D bord de D. Considérons une fonction x E D ( X ) telle que supp x CC Va0 et x = 1 sur un voisinage Va0 c U ~ de D d D et posons f = xf. La fonction f est de classe C" dans X et holomorphe sur V ~ D Posons . u = df sur D U Va0 et u = O sur X \ D. Grâce à l'holomorphie de f sur V ~ D u est , de classe C" dans X et son support est contenu dans D. De plus, u = df sur D U V ~ D elle, est donc 8-exacte au voisinage de son support. Par hypothèse il existe une fonction u de classe C", à support compact dans X telle que du = u dans X . La fonction u est donc holomorphe dans X\supp u,en particulier dans un voisinage de X\ D. D'autre part u étant à support compact, elle est nulle sur un ouvert de X \ D et par prolongement analytique sur un voisinage de X \ D car X \ D est connexe. I1 suffit alors de poser F = f - u. En effet, F = f = f auvoisinagede d D e t 8 F = d f - du = O sur D U Vao. O Définition 1.2. SoitX une variétédifférentiabledeclasseCk,O 5 k 5 m. Ondéj?nit le nombre e ( X ) de bouts de X comme la borne supérieure du nombre de compo-

santes connexes non relativement compactes de X des compacts de X .

\K

lorsque K décrit l'ensemble

Nous allons considérer des variétés à un bout, c'est-à-dire telles que e ( X ) = 1. I1 résulte de la définition que, dans ce cas, pour tout compact K de X on peut trouver un compact L de X contenant K tel que X \ L soit connexe.

Exemples 1) Un ouvert U de Cc a un bout si et seulement s'il est simplement connexe. 2) X est une variété compacte si et seulement si e ( X ) = O. 3) Si X possède une fonction dexhaustion, c'est-à-dire une fonction cp : X + R telle que {x E X I cp(x) 5 c } CC X pour tout c E R, qui vérifie de plus la condition suivante : il existe CO tel que {x E X I cp(x) = c } est connexe dès que c 2 CO, alors X possède un seul bout.

Théorème 1.3. Soit X une variété analytique complexe possédant un seul bout. Supposons que le phénomène de Hartogs se produit dans X , alors pour toute ( O , 1)-forme différentielle u de classeC", à support compact dans X etd-exacte au voisinage de son support, il existe une fonction u de classe C" à support compact dans X telle quedu = u dansX. Démonstration. Soit u une (0,l)-forme différentielle de classe C" à support compact dans X , telle que u = aw sur un voisinage U du support de u. La fonc-

1. Cohomologie à support compact et phénomène de Hartogs

93

tion w est holomorphe sur U \ supp v. En vertu du phénomène de Hartogs, w se prolonge holomorphiquement à chacune des composantes connexes relativement compactes de U \ supp v en une fonction que nous noterons encore w. Puisque X possède un seul bout, il existe un domaine D relativement compact contenu dans la réunion de U et des composantes connexes relativement compactes de X \ supp v et contenant supp v tel que X \ D soit connexe. La fonction w est alors définie au voisinage de D et holomorphe au voisinage de d D et par le phénomène de Hartogs sa restriction à un voisinage de d D se prolonge en une fonction w holomorphe au voisinage de D. Posons u = w - w au voisinage de D et u = O sur X \ D. La fonction u est de classe C" sur X , car w - W = O, au voisinage de dD, de plus d u = dw = v au voisinage de D, car 6 est holomorphe, et d u = O = v sur X \ D , car supp v c D. Remarque : L'hypothèse sur le nombre de bouts de X dans le Théorème 1.3 est indispensable. En effet, considérons le cas où X = C" \ { O } , n 2 2. Le phénomène de Hartogs se produit dans X , car X est un ouvert de e", n 2 2. Soit x E D ( X ) telle que x ( z ) = 1 si < Izl < x ( z ) = 2 si < Iz( < et le support dex ne rencontre pas { z E Cn I IzI < $ } u { z E Cn I $ < IzI < u{z E posons v = dx si < IzI < :, et v = O sinon. C'est une C" I lzl > (0,l)-forme différentielle de classe C" dans X , à support compact et d-exacte au voisinage de son support, mais il n'existe pas de fonction u à support compact telle que d u = v. Si u existait, u serait holomorphe sur X \ { z E C" I < IzI < :}, nulle si IzI < T , pour T assez petit, et si IzI > R, pour R assez grand, donc nulle sur x \ { z E C" I f < IzI < $ } par prolongement anaiytique et x - u serait holomorphe sur { z E @" 1 < 1x1 < constante égaie à 1 au voisinage de IzI = 1 et constante égale à 2 au voisinage de 1x1 = 2, ce qui est impossible.

i

a

i,

9

i}

g},

i

2

i},

Comme conséquence immédiate du Théorème 1.1, on obtient le résultat suivant reliant la cohomologie de Dolbeault à support compact dans X et le phénomène de Hartogs. Corollaire 1.4. Soit X une variété analytique complexe non compacte. Si

H,OJ(X)= O, alors le phénomène de Hartogs se produit dans X . Énonçons pour terminer une réciproque partielle du Corollaire 1.4, qui résulte du Théorème 1.3. Corollaire 1.5. Soit X une variété analytique complexe non compacte. Supposons que X possède un seul bout et que toute (0,l)-formedifférentielle de classeCm, afermée, à support compact dans X est a-exacte dans Alors, si le phénomène de Hartogs se produit dans X ,on a

x.

i! Extension de fonctions holomorphes et de fonctions C R

94

Remarques 1) Si X = cc" , les conditions du Corollaire 1.5 sont satisfaites, il y a donc équivalence entre le phénomène de Hartogs et l'annulation du groupe de cohomologie de Dolbeault Hz>'(cc").

2) Si X est un ouvert connexe de C" dont le complémentaire n'a pas de composante connexe bornée et pour lequel Ho>'(X ) = O, alors H:i' ( X ) = O car le phénomène de Hartogs se produit dans tous les ouverts de Cn.

2. EXTENSION DE FONCTIONS C R DE CLASSE

c"

Dans tout ce paragraphe X désignera une variété analytique complexe non compacte. Définition 2.1. Soit V une sous-variété de classeCm de X , une fonction f de classe C" sur V est dite C R de classe C" si f admet une extension f de classe C" à un voisinage de V telle q u e d f s'annule à l'ordre infini sur V . Définition 2.2. Soient X une variété analytique complexe non compacte et K un

compact de X . Nous dirons que le couple ( X , K )possède la propriété de HartogsBochner C" si pour tout domaine D relativement compact dans X tel que 1) d D \ K soit une sous-variété de classeCm de X \ K , 2) D \ K = Int(D \ K ) , 3) X \ ( Dü K ) soit connexe et toute fonction f C R de classe C" sur d D \ K , il existe une fonction F de classe C" s u r D \ K , holomorphedansD \ K tellequeF/aD\K = f . Comme dans le chapitre III, nous noterons @ la famille des fermés de X dont l'adhérence dans X est compacte.

\K

Théorème 2.3. Soient X une variété analytique complexe non compacte et K un compact de X . On suppose que

H:l(X

\ K)=O

alors ( X ,K ) possède la propriété de Hartogs-Bochner C". Démonstration. On considère un domaine D relativement compact dans X satisfaisant les conditions 1),2) et 3) de la Définition 2.2 et f une fonction C R de classe C" sur d D \ K . Par définition des fonctions C R de classe C", f se prolonge en une fonction de classe C" sur X \ K telle que df s'annule à l'ordre infini sur ûD \ K . Posons g = )(df), où xD\K est la fonction caractéristique de

f

-

(x-D\K

D \ K , g est une (0,l)-forme différentielle de classe C" sur X \ K dont le support est contenu dans D \ K . Puisque D \ K est un élément de @, on déduit de

2. Extension de fonctions CR de classe

c"

95

l'hypothèse H:l(M \ K ) = O qu'il existe une fonction h de classe C" sur X \ K dont le support appartient à et qui vérifie a h = g. La fonction h est holomorphe dans X \ (DUK) et nulle sur un ouvert de X \ (DUK ) car X n'est pas compacte. Comme X \ K ) est connexe, par le principe du prolongement analytique h est n u l l e s u r X \ ( D U K ) etparcontinuitésurX\(DUK). LafonctionF = f- hest alors l'extension cherchée. En effet dF = df - 8 h = O sur D \ K et FlaD,K = f car h est nulle sur X \ (D U K ) . O

(ou

Corollaire 2.4. Soit X une variété analytique complexe non compacte telle que H:>l ( X ) = O, alors (X,@) possède la propriété de Hartogs-Bochner C", c'est-àdire pour tout domaine D relativement compact dans X à bord C" tel que X \ D soit connexe et toute fonction f C R de classeCm sur d D il existe une fonction F de classe C" dans D et holomorphe dans D telle que FI a D = f . Terminons ce paragraphe en donnant des conditions sur K et X assurant l'annulation du groupe de cohomologie H:l(X \ K). Théorème 2.5. Soient X une variété analytique complexe de dimension n, n 2 2, et K un compact de X tel que X \ K n'ait pas de composante connexe relativement compacte. On suppose que i) H Z i l ( X ) = O, ii) le compact K possède une suite décroissante de voisinages ( U n ) n telle E~ que U, = K et, pour t o u t n E N, l'application HZ,2(Un) --+H $ 2 ( X ) in-

n

nEN

duite par inclusion est injective, alorsH:l(X \ K ) = O. Ce théorème est une conséquence du lemme suivant : Lemme 2.6. Soient X une variété analytique complexe, K un compact de X et U un voisinage relativement compact de K. On suppose que i) H ; ? l ( X )= O, ii) l'application H Z ) 2 ( U )+ H ; i 2 ( X ) induite par inclusion est injective. Alors pour toute forme différentielle f E COS; ( X \ K ) ,8-fermée, nulle en dehors d'un compact de X , il existe g E C" ( X \ Ü),nulle en dehors d'un compact de X telle queay = f dans X \ Ü.

=

x

Démonstration. Soit une fonction de classe C" sur X telle que x O au voisinage de K et - 1 au voisinage de X \ U . La forme différentielle d(xf ) est alors de classe C", d-fermée à support compact dans U , donc d'après iil il existe une forme différentielle h E C r 1 ( X ) ,à support compact dans U telie que dh = d(xf ) dans X . Considérons la forme différentielle f - h. Elle est de classe C" à support compact dans X et 8-fermée. L'hypothèse j) implique qu'il existe g E D ( X ) telle que x f - h = 8.4.La fonction g convient car f - h = f sur X \ Ü. O

x

x

Ix,v

x

96

V Extension de fonctions holomorphes et de fonctions C'R

Démonstration du Théorème 2.5. Soit f E COS; ( X \ K ) une forme différentielle d-fermée, nulie en dehors d u n compact de X . Notons gn la solution de l'équation dg = f dans X \ ÜnJonnée par le Lemme 2.6. La fonction gn+l - gn est alors ho-

lomorphe dans X \ U n et nulle en dehors d u n compact de X. Par prolongement analytique, elle est donc nulle sur toutes les composantes non relativement compactes de X \ Un. La fonction g définie par g = gn sur les composantes connexes non relativement compactes de X \ Un convient car la réunion des composantes connexes non relativement compactes des X \ Un est X \ K . O

Théorème 2.7. Soient X une variété analytique complexe et K un compact de X . On suppose que H,P>q(X)= O pour un entier p 2 O et un entier q 2 1 alors l'application naturellei : H g q ( X \ K ) + HP>q(X\ K ) est injective. En particuliersi Hp>Q(X \ K ) = O, alors H g q ( X \ K ) = O. Démonstration. Il faut prouver que si f E C,S(X \ K ) est une forme différentielle d-fermée, nulle en dehors d u n compact de X telle que f = 8 g dans X \ K où g E C,q),-,(X\K) alorsonpeuttrouvergo E CEq-,(X\K) nulleendehorsd'un compact de X telle que f = ago dans X \ K . Soit x E D ( X ) telle que x 1sur un voisinage de K Usupp f . Posons 9 = xg alors a9 = ax Ag x a g = Ag f et la forme différentielle ax Ag se prolonge par O à X en une (p,q)-forme d-fermée à support compact. Puisque H,Piq(X) = O, il existe h E DP>q-'(X)telle que d h = ax A g sur X et par conséquent = ah f. La forme différentielle go = ij - h convient alors car h est à support compact dans X. O -

+

ax +

+

3. FORMULE DE CAUCHY-FANTAPPIÉ. LEMME DE DOLBEAULT

L'objet de ce paragraphe est de construire de nouvelles formules intégrales qui permettront de résoudre le sur des domaines de Cn lorsque la donnée n'est plus à support compact.

a

D un domaine borné de Cn. Une application w(z,<) = ( q ( z , < ) ,. . . ,w,(z,C)) de classe C' pour z E D et dans un voisinage Va0 de d D à valeurs dans Cn est une section de Leray pour D si

Définition 3.1. Soit

<

(w(z,<),< - z ) # O pourtout

(z,<) E D x dD.

Exemple :L'application w(z,<) = 3 - Z est une section de Leray pour tout domaine borné D de cc". En effet -

(w(z,<),< - z ) = (< - Z,C - z ) = I<

-

zI2 # O si z # <.

3. Formule de Cauchy-Fantappié.Lemme de Doibeault

97

Dans toute la suite D désignera un domaine borné à bord de classe C1 de U? w(z,c) une section de Leray pour D. On pose alors pour A E [O,l]

et

pour z E D et K V " ' ( ~ , ~ , A= ) ~ ~ ~ , z , c , x ( ~ ~A ( w(< z , c ,z )~, si ) z E D, C E U ~ satisfont D (w(z,<),<- z ) # O. Onnoteégaiement n

et pour z E D et

E UaD tels que (w(z,c),<- z )

#

O.

-

Remarquons que Kc-' est le noyau de Bochner-Martinelli B défini au chapitre III. Le noyau Kqw(z,<,A) est une forme différentielle continue de degré 2n - 1 sur {(.,<,A) E D x Uao x [O,i] 1 ( w ( z , c ) , <- z ) # O} . Le noyau K"(z,<) est une forme différentielle continue de bidegré (n,n - 1) sur { ( z , c ) E D x I ( " ( z > O , c- 4 # 0 ) .

(e

Démonstration. Puisque la fonction - z ) est holomorphe en (z,<)et indépendante de A, d x ) w ( c - z ) = O et par conséquent

(aZ,<+

+ & ) K q z , < J )= + dx)$Yz,C,A) +a.,< (227r)n

(at,<

A ' ..A

+ dx)V:(.,c,N

A

(at,<

w(<- 2). n

Mais sur D x UaD x [0,1]on a (v"(z,C,A),< - z ) = 1,ce qui implique

zj)(d,,ç A E [OJI

+ d x ) ~ ; ( z , C , X ) = O. On en déduit que pour z E D ,< E U + dx)#(z,<,A)

(at,<

A

...A

+ dx)$'(z,<,A)

(at,<

=0

(<j -

j=l

~ \D{ z } et

V. Extension de fonctions holomorphes et de fonctions C R

98

ce qui prouve que

(aZ,{ + d x ) ~ (~z ," c , ~=) O.

L'assertion ii) se déduit des définitions des formes différentielles KqW, K Wet -

B = KC-? et du résultat général suivant

qui s'obtient par un calcul direct (cf chapitre III,

1 pour la définition de p).

0

Théorème3.3. SoientD un domaine bornédeCn à bordde classeCl e t w ( z , c ) une section de Leray pour D . On suppose que w est de classeC2 par rapport à z et que les dérivées partielles de w d'ordre inférieur ou égal à 2 par rapport à z sont continues sur D x U ~ DAlors . pour toute forme différentielle f continue sur D, on définit l'opérateur T par

Tfk) =

(J(CJ)€aDx[O,lIf (0 K q W ( z , c , +4 /

f (0 A B ( 4 )

A

CED

i) Si f E Cp",,(D) n CP,¶(D), s i w estdec1asseCk+' parrapportàz etsiles dérivées partielles de w d'ordre inférieur ou égal à k +1 par rapportà z sont continues sur D x U ~ Dalors , T f E Ci,¶- ( D ) . ii) Si f est une ( p , q )-forme différentielle continue surD telle quedf soitaussi continuesur D, O I. p,q 5 n, alors (-l)p+qf

(3.1)

=

1

f(c) A K W ( . , C )

-

Tdf+dTf sur D.

CEaD

Démonstration. Si w satisfait l'hypothèse de il, le noyau KqW(z,c,X) est de classe C k par rapport à z. I1 résulte alors du théorème de dérivation sous le signe que f (C)AKqW(z,C,X)estdeclasseCk s u r D dèsque f estcontinuesur ûD. Par ailleurs d'après la Proposition 2.1 du chapitre III, si f E Cp",q(0) nC,,,(D), la forme différentielle 5,f = f A B(.,c)est de classe Ck+a dans D pour

s

s(C,x)EaDx[o,il

sCED (e)

t o u t a ~ ] 0 , 1 [ParconséquentTf . estdeclasseCk. S u r D x û D x [O,l] seulelapartie de bidegré (p,q - 1) en z de K Q w(z,<,X) donne une contribution non nulle dans le produit extérieur A Kqw(.zz,<,X) et comme EDf est de bidegré ( p , q - 1),la forme Tf est elle aussi de bidegré (p,q - 1).

f(c)

Grâce à la formule de Bochner-Martinelli-Koppelman(chap. III, th. 2.31, pour obtenir la formule (3.1) il suffit de prouver que

(3.2)

3,

J

(C,A)€aDx [0,11

f(<)A K

it,,(0

~ ~ ( ~= L J )

f

A

-

B(zt,C)-

a f ( 0A K"w(zlCIX).

3. Formule de Cauchy-Fantappié. Lemme de Dolbeault

Fixons z E D et appliquons la formule de Stokes à la forme différentielle f KqW(z,C,X)sur d D x [0,1]:

99

(C)A

Corollaire 3.4. Soient D un domaine borné de C", à bord de classe C' et w(z,C) une section de Leray pour D qui dépend holomorphiquementde z et telle que toutes ses dérivées partielles par rapport a z soient continues sur D x UaD. Alors pour toute ( p , q )-forme différentielle continue sur D telle que soit aussi continue sur D,O 5 p 5 n , l 5 q 5 n , o n a

af

f = aT: f

(34

+ T;+,df

dans D

où TpP = (- l ) P + q T et T est l'opérateur défini dans le Théorème 3.3. Si = O, alors u = Tqf est une solution continue de l'équation au = f dans D. De plus cette solution u est de classe Ca dans D pour tout a E]0,1[et si f est de classe Ck dans D , 1 5 IC 5 +CO,alors u est de classe dans D pour tout a €]0,1[.

af

VI Extension de fonctions holomorphes et de fonctions C R

1O0

Démonstrarion. D'après la formule (3.1), il suffit de prouver que, sous les hypothèses du corollaire, JcEaD f (() A K"(z,<) = O si z E D pour obtenir la relation

K"(z,c)

'

(3'6). Mais si E D , &ao f (<) A = &aD f (() A (K")g(z>(), Où (K"): est la partie de bidegré ( p , q ) en z de K", car dim d D = n - 2. Puisque q 2 1,par définition de K", (K"): = O, car w est holomorphe en z , i.e. d,w = O , d'où le résultat. Si df = O, (3.6) implique f = dT: f dans D , donc u = Tf: est solution de du = f sur D. La régularité de u résulte de la Proposition 2.1 du chapitreIIIetdufaitquewétantdeclasseC" enz, ~ ~ C , x ~ E a D x ,fo (, (l )l A K q U ' ( z , ( , X ) est de classe C" sur D. O Lorsque le domaine D est convexe à bord C2, il est facile de construire une section de Leray pour D , holomorphe en la variable z . Soit T une fonction définissante de classe C2 pour D , on pose, pour au voisinage de d D , w ( z , ( ) = (<), . . . (0).L'application w est de classe C1 sur @" x U ~ etD indépendante de z donc en particulier holomorphe en z. Si ( E d D , la condition (w(z,<),(- z ) = O caractérise l'espace tangent complexe T t d D à d D en qui ne rencontre pas D car D est convexe. Par conséquent (w(z,<),<- z ) # O si z E D , E d D et w est donc une section de Leraypour D.

<

&

(&

<

<

On déduit alors immédiatement de cette construction et du Corollaire 3.4 que l'on peut résoudre l'équation au = f,sur un ouvert convexe, borné D à bord C2, lorsque f est une (p,q)-forme différentielle, O 5 p 5 n,l q 5 n, a-fermée de ciasse C1 sur D. On a plus précisément le résultat suivant : Théorème 3.5. Soient D un ouvert convexe borné de @" à bord de classeC2 etr une fonction définisante de classeC2 pour D. Alors pour toute (p,q)-forme différentielle f continue suri7 telle que df soit aussi continue sur D, O 5 p 5 n, i 5 q 5 n, on a f = dT:f T,+,df sur D

+

OÙT:f

)(.

f (I')AK',w(z,C,X)+&D

= (-l)'+'( J ( C , x ) ~ a D x [ o , i ]

etw(z1C) =

f

(()AB(z,())

(&(O,.. .,$
En particulier, si df = O, on a f = dT: f . De plus si f est de classe C k dans D alorsu = T: f estdeclasseCk+a dansD pourtoutrr E]O,I[. Ce théorème prouve en particulier que l'on peut toujours résoudre localement le d avec amélioration de la régularité (il suffit de considérer des petites boules par exemple). Ce résultat s'appelle un Lemme de Poincaré pour le d ou Lemme de Doibeauit. Terminons ce paragraphe en prouvant le Lemme de Dolbeault pour les courants. Théorème 3.6.Soient D un ouvert conuexe borné de Cn et T un courant de bidegré ( p , q ) ,O 5 p 5 n, 1 5 q 5 n, d-fermé sur D. Alors pour tout ouuertU cc D, il

4. Isomorphisme de Dolbeault

101

existe un courant S sur U tel que dS = T sur U

Démonstration. Soient x une fonction c” à support compact dans Cn telle que x 1 au voisinage de Ü et s u p p x CC D. Alors d’après le Théorème 4.4 du chapitre III, on a la représentation XT = - (B’d(xT) dB’(xT)) = - (B’(dxA T) dB’(xT))

+

+ -c a r d T = O. Il suffit, pour conclure, de résoudrel’équationdu = ~?’(&AT) sur U . - -

D’après la Proposition 4.3 du chapitre III, l?’($y A T) est de classe C“ au voisinage de Ü. Sans perte - -de généralité on peut supposer que U est convexe à bord C2 et on résout du = l?’(dx A T) sur U en appliquant le Théorème 3.5. O

4. ISOMORPHISME DE DOLBEAULT

Soit X une variété analytique complexe de dimension n. On note RP le faisceau des germes de p-formes holomorphes sur X et Hq(X,Rp)les groupes de cohomologie de Cech de Rf’ sur X . (Les éléments de théorie des faisceaux utilisés dans ce chapitre sont rappelés dans l’annexe B.)

On désigne par ZF,,cX), O 5 Q 5 00,le sous-espace des formes différentielles f E CF,,(X) telles que df = O et par E;,,(X) le sous-espace des formes différentielles f E Z;,,(X) telles que f = dg où g E C:,,-,(X). On pose HQiq(X) = Z & ( X ) / E F , , ( X ) . Avec ces notations HG,(X) n’est autre que le groupe HP>q((X) de cohomologie de Dolbeault défini au chapitre II. Pour déterminer si Z i r ( X )désigne le sous-espace de DLG ( X )des courants d-fermés et ( X )le sous-espace de Z ; r ( X ) des courants 6’-exacts, onpose H ! ’ & ( X )= Z ; r ( X ) / E i r ( X ) . On note @ l’application Z & ( X ) le courant Tf défini par f .

+ Z&F ( X )qui a une forme différentielle f associe

Théorème 4.1. Soit X une variété analytique complexe de dimension n. Alors (4.1) H q ( X , R p )= O si p,q 2 n 1 et pour tout couple (p,q), O I :p,q 5 n, il existe des isomorphismes (4.2) : H E > q ( X+ ) H q ( X , R p ) , O 5 Q 5 CO 6 P , q . HP’q (4.3) - a 3 ( X ) +H q ( X , R p )

+

tels que, pour touta E [O,

+ 001,lediagramme

(4.4) J

i! Extension de fonctions holomorphes et de fonctions C R

102

soit cornmutatg En particulier, pour0 5 phisme

induit par

oû

et0

5

p,q 5 n, l'homomor-

-+ H ? Z ( X )

cp* : HZ'"X)

(4.5)

5

(Y

est un isomorphisme.

Démonstration. On considère les faisceaux ZpS, des formes différentielles 8fermées de classe C a sur X, DL,qdes courants sur X , Zp77 des courants d-fermés sur X et

(ie.si u

cr>.4 des formes différentielles de classe C a dont le d est aussi de classe C a c x est un ouvert, C;,,(U)

= {f E

c;,,(u)I df E C;,q+l(u)}.).

Remarquons que ces faisceaux sont des faisceaux de €-module, où € désigne le faisceau des germes de fonction C" sur X . Par conséquent, d'après la Proposition 3 de l'annexe B,

H'(x,?&)

(4.6)

si

T

2i

H'(X,Dh,q) = 0 si

T

2 1.

=O

et

(4.7)

I1 résulte de la régularité du d (chap. III, Th. 3.5 et Remarque 3.6) que l'application cp : W ( X ) + Z i F ( X )

est un isomorphisme et, si O 5 vrai pour q = O.

- -

(Y

5

CO,

W ( X )= Z;,,(X). Le théorème est donc

Supposons q 2 1. Grâce au Lemme de Dolbeault pour les formes différentielles, pour tout s = 1,. . . ,n la suite

O

-

Zpss-1

-

a

-+ c;,,-i + z;,, 4 0

est exacte. Considérons la suite exacte longue de cohomologie associée à cette suite ( c f annexe B , Théorème 5)

0

Z,q,-l(X)

C,q,-l(X)

-

3 Z,q,(X) 6:4

( P s)

...........................................................

-

I1 résulte de (4.6) que les morphismes de connexion

(4.8)

%,(p,s) :H'(X,Z&)

sont des isomorphismes si T un isomorphisme

(4.9)

HP+l(X,Z;,s-l)

2 1et que le morphisme de connexion ~5&,,~

: H g S ( x )+ H1(X,Zpqs-l), 1 I sIn.

induit

4. Isomorphisme de Dolbeault

Si q

103

2 n + 1,les isomorphismes (4.8) pour T 2 1,impliquent que HQ(X,Z,q,) HQ-"(X,Zpqn).

-

Puisque Z;,,= C;,, et Z;,, = RP on a donc

H ~ ( X , R PY) Hq-"(X,ëF,,)

si q

2n+1

et d'après (4.6) cela prouve (4.1). Supposons 1 5 q 5 n et posons

p J , P = 69-1 a

1

a,(p,i) O

...O 4 4 P . q - l )

O

ba,(Pd

Puisque les applications (4.9) et (4.8) sont des isomorphismes pour Z;,, = OP, on obtient un isomorphisme dg19

I

T

2

1 et

HPz4 a ( X ) --+ H q ( X , R p ) .

Le Lemme de Dolbeault pour les courants (Théorème 3.6) nous donne les suites exactes -

O

a

+ z,,,Oo_,+vp,s-l4 z,,; +O

15 s 5 n

a,

Grâce à la régularité du c'est-à-dire l'isomorphisme entre @ ( X ) et Z ; F ( X ) , et a la relation (4.7) on peut itérer la démonstration ci-dessus et on obtient un isomorphisme f5?& : H y J X ) + H q ( X , R P ) . De plus on a le diagramme commutatif de suites exactes courtes

0

O

+ Z&-i

@I

-$

+

cp,s-l

-

a

4

Z&

4

I. I.

O

-

zizi

5

+ V&

Z,lJ

+ o.

D'après la seconde assertion du Lemme du serpent (cf.annexe B, Lemme 7) chacun des diagrammes

H'(X,Z,q,)

1

@* H'(X,Z;,")

6:

( P .)

' i

hL-3s)

HT+l(X,Zpqs-l)

I

T

2 0,1< s s n

@*

H'+l(X,Z-"P,S-l

1

est commutatif et par conséquent par définition de @)q et b?': est commutatif.

le diagramme (4.4)

O

Les isomorphismes du diagramme (4.4) sont appelés isomorphismes de Dolbeauit.

V Extension de fonctions holomorphes et de fonctions C R

104

Remarques :On déduit du Théorème 4.1, les résultats suivants : i) Si f est une forme différentielle de classe C a , O 5 Q 5 00,et s'il existe un courant T tel que dT = T f alors il existe une forme différentielle g de classe C a telle que dg = f (c'est l'injectivité de (4.5)). ii) Pour tout courant T , 8-fermé il existe un courant S tel que T - dS soit une forme différentielle de classe Cw (c'est la surjectivité de (4.5) pour (Y = 00). On a plus précisément le corollaire : Corollaire 4.2. Soit X une variété analytique complexe. i) Pour tout courant T , d-fermé sur X et tout voisinage U du support de T , il existe un courant S sur X telle que T - dS soit une formed-fermée de classe C" etsupp S c U . ii) S i f estuneformedeclasseCk s u r X , k = û,1, ...,m e t T uncourantsur X tels quedT = T f, alors pour tout voisinageU du support d e T , il existe une forme différentielleg E C k + + * ( X , Etellequedg ) = f surX etsuppg c U .

0

O
Démonstration. Prouvons 0. Choisissons un voisinage V du support de T tel que V C U et soient x o et X I des fonctions de classe C" sur X telles que xo = 1 sur un voisinage de X \ V et x o = O au voisinage du support de T ,x i = 1au voisinage de X \ U et x i = O sur un voisinage de -

v.

Puisque T est d-fermé et que le morphisme (4.5) est surjectif, il existe un courant SOsur X et une forme différentielle fo de classe C", 8-fermée sur X tels que T - dSo = T f osur X . Alors T f o= -aSo sur X \ supp T et comme le morphisme (4.5) est injectif, il existe une forme C", g o , sur x \ supp T telle que fo = dg0 sur X \ supp T . Sur X \ v o n a alors d(S0 T x o s o = ) T- fo+a,O= O . La surjectivité du morphisme (4.5) implique alors l'existence d'un courant R sur X-\ et d u n e forme différentielleg1 de classe C", 8-fermée -tels que SO Txogo - 8 R = T,, sur X \ V. Le courant S = SO Txo,o-xisi- û(x1R)satisfaitl'assertion i). Maintenant montrons id. Notons F le faisceau sur X défini de la manière suivante : Si V est un ouvert de X, F ( V ) est l'espace vectoriel des formes différentielles g E Cf+a(V) telles que dg E Cf+O(V). C'est un faisceau de

+

+

+

n

O
v

0

O
€-modules et par conséquent d'après la Proposition 3 de l'annexe B (4.10)

H l ( X , F )= o.

Soient V = (V,)iEl et W = (Wi)iEldes recouvrements ouverts de X tels que, pour tout a, V, CC Wi,V, et Wi sont biholomorphes à la boule unité de C" . Soit f E Cf( X ) ,d-fermée, daprès le Lemme de Dolbeault pour les formes (Théorème 3.51, on peut trouver une famille de formes gi E Cffa(Wi)telles que

n

Oa
-

5. Théorème de Bochner et extension de fonctions C R dans les variétés

105

X telle que au = f sur X . Posons h, = g, - u sur V, alors h, E .Zk(W,)et en appliquant à nouveau le Lemme de Dolbeault on obtient une famille de formes IC, E Cf+"(V,) telles que dk, = h, sur V,. I1 en résulte que IC, - IC, E O
F(K n V,) et grâce à (4.10) il existe une famille de formes u, E F(K)telles que IC, - IC, = u,- u, sur V ,n V,.En posant u = 9%- du, sur V,,on obtient une forme 2i E n Ck+a( x )telle que au = f sur X . O
Nous venons de construire une solution ayant la régularité cherchée, il reste à satisfaire la condition de support. Puisque a u = f sur X, le courant T - Tu est d-fermé sur X et la surjectivité du morphisme (4.5) pour (Y = CO implique qu'il existe un courant S sur X et une forme différentielle goo de classe CO3, d-fermé sur X tels que T - T, = Tgm. On a alors = Tu+s, sur X \ supp T . Grâce à la lrepartie de la démonstration il existe donc une forme différentielle h E ( X \ supp T )telle que ah = u +goo sur X \ supp T . Choisissons une

+ as

as

n

O
fonction x de classe C" dans X telle que x = O au voisinage du support de - T et = 1 dans un voisinage de X \ U . Alors la forme différentielle g = 2i +gm - a(Xh) satisfait l'assertion ii). O

x

Une conséquence immédiate de l'assertion il du Corollaire 4.2 est le résultat suivant qui nous sera utile au paragraphe 5 de ce chapitre. Corollaire 4.3. Soient X une variété analytique complexe de dimension n, O une des familles de supports définies dans le chapitre II, 7. On suppose que pour un couple d'entiers ( p , q ) ,O 5 p 5 n, 1 5 q 5 n, H g q ( X ) = O, alors si T est un ( p , q )-courant, d-fermé dans X dont lesupportappartientà lafamillee, il existe un

courant S dont le support est un élément de O tel q u e d S = T sur X ,

5. THÉORÈMEDE BOCHNER ET EXTENSION DE FONCTIONS C R

DANS LES VARIÉTÉS

Nous allons étendre au cas des fonctions CR de classe C k les résultats obtenus au paragraphe 2. Théorème 5.1. Soient X une variété analytique complexe non compacte et K un compact de X . On suppose que H$'(X \ K ) = O. Alors pour tout domaine D

relativement compact dans X tel que i)dD\Ksoitunesous-uariétédeclmseCk,k 2 l , d e X \ K . 2) D \ K = I n t ( D \ K ) . 3) \ ( Du K ) est connexe et toutefonction f CR de classeCs,O 5 s 5 IC, surdD \ K , il existe une fonction F de clmseCS s u r D \ K , holomorphedans D \ K telleque Flao,K = f .

x

V Extension de fonctions holomorphes et de fonctions C R

106

Démonstration. Considérons le courant T = f [ d D \ C'est un courant de bidegré (0,l) dans X \ K dont le support est contenu dans d D \ K qui est un élément de la famille @. La fonction f étant CR,le courant T est d-fermé (en effet si cp est une (n,n - 2) forme différentielle de classe C" à support compact dans X\K,ona(dT,cp) = (T,dcp)= S<7D\KfA&î = O). L'hypothèseH;'(X\K) = O et l'isomorphisme de Dolbeault prouvent alors l'existence d'un courant S,dont le support appartient à la famille @, qui vérifie dS = T (cf Corollaire 4.3). Puisque le support de T est contenu dans aD\K, dS est nul sur X\(dDüK);S est donc une fonction holomorphe sur ( D \ K ) U (X \ (DUK ) ) (cf.chap. III, th. 4.5). Comme le support de S est un élément de a, S est nulle sur un ouvert de X \ (Dü K ) car X n'est pas compacte et DUK est compact. La connexité de X \ (DUK ) et principe du prolongement analytique impliquent alors que S est nulle sur X \ (DU K ) . I1 reste à déterminer le comportement de S près de aD\K. Cela résultera d u n e étude locale, en effet si [ est un point fixé de d D \ K , V, un voisinage de dans X \ K sur lequel on peut résoudre l'équation d R = f[aD\ K]"l1et SCun courant de degré O tel que dSc = f [ a D \ sur V, on aura d(S - S C )= O sur V, et S - SCsera une fonction holomorphe donc de classe C" sur Vc. Les courants S et SCauront donc, modulo une fonction C", le même comportement sur Vc.

<

<

<

Soit E d D \ K , choisissons un voisinage Uc de dans X \ K tel que a) Uc est contenu dans un domaine de carte U de X . b) I1 existe des coordonnées locales sur U telles que l'image de Uc par cette carte soit un ouvert convexe borné de @". c) Uc \ ( a l l ü K ) possède exactement deux composantes connexes. Sans perte de généralité, nous pouvons identifier Uc et son image dans C". D'après le Théorème 3.6 pour tout ouvert convexe Vc CC Uc il existe un courant SE tel que dS, = T sur Vc. De plus SC = IL< B'(xT) où x est une fonction C" à support compact dans Uc égale à 1 au voisinage de et uc une fonction de - classe C" solution de duc = B'(ax A T ) sur Vc. Sur Vc,le comportement de Se est donc, modulo une fonction de classe C", le même que celui de

+

vc

c'est-à-dire que celui de la transformée de Bochner-Martinelli de x f , que nous avons étudiée au chapitre IV, 1. Le courant S étant nul sur Vc n (X \ (Dü K ) ) , sc IV,n(X\(DUK) se prolonge continûment en S c à V, n (X \ ( DuK ) )ainsi que la

I

transformée de Bochner-Martinelli de x f . Comme f est continue, SC Vcn(D\K) se prolonge continûment en SE' à V, n ( D\ K ) et on a S l - S; = f sur ( d D \ K )nV,. Par conséquent SI D\K se prolonge en une fonction F continue sur O\ K teiie que

~

l = f,car~

Pour obtenir la régularité

~

\

= O.

~

Ck de S jusqu'au bord il suffit d'étudier Fc(z)

=

5. Théorème de Bochner et extension de fonctions C R dans les variétés

107

est de classe C" sur V,. Supposons que V, n a D soit un ouvert à bord C1. En reprenant la démonstration du Théorème 3.3 du chapitre W, on obtient pour z E

où J est une extension de f satisfaisant aux conclusions du Lemme 2.3 du chapitre IV. En appliquant la formule de Stokes, on a

où la dernière intégrale du membre de droite est une fonction C" sur Vc car Bj est diffère de S I, - - O par des de classe C" sur C" x Cn\ A . Comme Fc

,%I

\(DUW -

v, \D se prolonge continûment à V, nD. Une récurrence fonctions C" sur V, sur k termine la démonstration comme dans le cas du Théorème 3.3 du chapitre IV. O Corollaire 5.2. Théorème de Bochner. Soit X une variété analytique complexe non compacte telle que H:>l( X ) = O. Pour tout domaine D relativement compact à bord de classe C k de X tel que X \ D soit connexe et toute fonction f CR de classe Cs suraD, O 5 s 5 k, il existe une fonction F de classeCs sur D, holomorphe dans D et telle que F a. = f .

I

Démonstration. I1 suffit d'appliquer le Théorème 5.1 avec K = coïncidant dans ce cas.

0,les familles c et O

Remarque :Les Théorèmes 2.5 et 2.7 donnent des conditions cohomologiques sous lesquelles la conclusion du Théorème 5.1 est valable. Commentaires. L'étude de l'extension des fonctions GR déJnies sur une partie d u bord d'un domaine est principalement due à G. Lupacciolu [Lu1,2]. On peut en trouver un excellent exposé dans [CilSt].Le Lemme de Poincaré pour l e a est dû à €? Dolbeault et A. Grothendieck, c'est le point clé de la représentation des groupes de cohomologie desfaisceaux analytiques en termes de complexe pour lea (cf: [Do1,2]).Nous prouvons le Lemme de Dolbeault en utilisant la résolution du dans les domaines convexes à l'aide de la formule de Cauchy-Fantappié. Une autre démonstration du Lemme de Dolheault utilisant la résolution d u d dans les polydisques est donnée dans [HOZ]. La démonstration de l'isomorphisme de Dolbeault présentée ici se trouve dans IHelLe21.

a

Chapitre VI

Domaines d’holomorphie et pseudoconvexité

Nous avons rencontré à la fin du chapitre I et dans le chapitre III des ouverts de cc“ pour lesquels toute fonction holomorphe peut être prolongée à un ouvert plus grand. Les ouverts qui n’ont pas cette propriété sont appelés domaines d’holomorphie. Ce chapitre est consacré à l’étude des domaines d’holomorphie. Nous donnons, pour commencer, une caractérisation des domaines d’holomorphie en termes de convexité holomorphe (Théorème de Cartan-Thullen). Pour obtenir une caractérisation plus analytique nous introduisons la notion de pseudoconvexité. Pour cela nous définissons les fonctions plurisousharmoniques. Nous prouvons que tout domaine d’holomorphie est pseudoconvexe. La réciproque, appelée problème de Levi, sera étudiée au chapitre VII.

1. DOMAINES D’HOLOMORPHIE ET CONVEXITÉHOLOMORPHE

En étudiant le phénomène de Hartogs au chapitre III nous avons vu qu’il existe des ouverts 0 de C” tels que toute fonction holomorphe sur R s’étende holomorphiquement à un ouvert plus grand. Cela nous conduit à introduire la notion suivante : Définition 1.1. Un ouvert R de Cn est appelé domaine d’holomorphie s’il n’existe pas d’ouverts 01 et 0 2 de Cn ayant les propriétés suivantes :

4 0 # a 1c R 2 n 0 ; b) 522 est connexe et n’est pas contenu dans R ; c) Pour toute f E C3(0), il existe une fonction f2 E

C3(02)

telle que f = fi sur

521.

La notion de domaine dholomorphie n’est vraiment intéressante que dans Cn , n 2 2, car dans @, tout ouvert 0 est un domaine dholomorphie (pour zo E dR, il suffit de considérer la fonction f ( z ) = &I.

VI. Domaines d 'holomorphieet pseudoconvexité

I10

Exemples 1) I1 résulte du Théorème de Hartogs (chapitre III, Corollaire 4.3)que, si R est un domaine de Cn, n 2 2, et K un compact de R, R \ K n'est pas un domaine dholomorphie. 2) La boule euclidienne B(O,R),de centre O et de rayon R de @" est un domaine dholomorphie (pour zo E d B , il suffit de considérer la fonction f ( z ) = n

i/R2 -

Z ~ Z ;sizo

=

( z y , . . . ,z:)).

j=l

3) La marmite de Hartogs Q =

1 ou 5 Iz, I 5 chapitre I, Th. 6.9).

ri -

dans C", n

T

{

(21,.

. . ,zn) E C"

I

< f,1 5 i 5

2 2, n'est pas un domaine dholomorphie (cf.

Lemme 1.2. Tout ouvert convexe de C" est un domaine dholomorphie. Démonstration. Si zo est un point fixé de dR, la convexité de R implique qu'il existe une application IR-linéaire C de @" dans IR telle que C(z) < C(z0) pour tout z E R. n

On peut écrire t ( z ) =

crjzj

+ 0j.j

et puisque C est à valeurs réelles on a ,Bj=

j=l 6 j ,j

= 1,.. . ,n. Par conséquent C ( z ) = Re(h(z)), où h ( z ) = 2

n

ajzj

pour

j=l

tout z E Cn. La fonction f ( z ) = h ( z ) -1h ( z o ) , qui est holomorphe sur R n'admet pas de prolongement holomorphe au voisinage de zo ce qui prouve le lemme. 0 Nous allons essayer de caractériser les domaines d'holomorphie en terme de convexité par rapport aux fonctions holomorphes. Définition 1.3. Soient R un ouvert de Cn et K un compact de R, on définit l'enveloppe holomorphiquement convexe k , de K par

k n = {z E

I

If(z)l

I sup Ifl,V'f

E

OP)}.

K

Lemme 1.4. Soient R un ouvert de Cn et K un compact de R, alors k o est contenu dans l'enveloppe convexe de K . Démonstration. Rappelons que l'enveloppe convexe de K est l'intersection des demi-espaces contenant K . De plus un hyperplan réel de Cn est défini par l'équation Re(z,() = (Y, où ( E
I . Domaines d'holomorphie et convexité holomorphe

111

Corollaire 1.5. Si R est un ouuert de Cn et K un compact de R alors k n est borné dans Cn . Démonstration. C'est une conséquence immédiate du Lemme 1.4 car l'enveloppe convexe d'un ensemble borné est bornée. O Proposition 1.6. Soient R un ouuert de Cn et K un compact de R, alors h

i) ii) iii) iv) sup

If1

c kne t k n = En. SiK' c K , k h c k ~ .

K

Si D est un ouvertdeCn tel q u e R

c D , alorska c k,.

i?n estfermé dans R.

u) Étantdonné111 > O etc

> O, siz

ER

< E e t f ( z ) > 111.

\

KO,ilexistef

E

O(R) telleque

K

Démonstration. Les assertions il, ii) et iii) sont des conséquences immédiates de la Définition 1.3. h

sup [fi}.

n

[).(fI

A f où A f = { z E R I 5 f€o(n) Les fonctions de O(R) étant continues sur R, les ensembles A f sont fer-

Montrons ivj : remarquons que Kn = K

més dans R et k n est donc fermé dans R. Considérons l'assertion vj : si z E R \En, il existe une fonction h E O(R) telle que sup (hl < lh(z)I. Après multiplication par une constante, on peut supposer K

que supK Ihl

< 1 < Ih(z)I. I1 suffit alors de poser f

= he pour

assez grand.

h

Remarque :Nous avons vu que Ka est toujours borné et fermé dans 0, mais en général ce n'est pas un compact de R.

Théorème 1.7. Soit R un domaine d'holomorphie de @" , alors pour tout compact K de R d i s t ( k n , û R ) = dist(K,dR) où dist(K,dR) = inf { 1w - zI

I w E K, z E an} est la distance euclidienne de K

à an.

Si P(0,r)est le polydisque de centre O et de multirayon point de R, on pose

(TI,.

. . ,rn) et a un

s;(a) = sup { A > O 1 a + AP(0,T) c O}. ûnaalorsdist(a,dQ) = inf { & ( a )

I T > O, CT; = l}.

Lemme 1.8. Soient 0 u n ouvert de C", K u n compact de 0 et T un mucirayon. Si Q > O est tel que 6 h ( z ) 2 7 pour tout t E K , alors, pour tout a E KO et toute f E O(R), lasériede Taylorde f e n a conuergesurP(a,vr).

VI. Domaines d'holomorphieet pseudoconvexité

112

Démonstration du lemme. Fixons f E O(R) et 7' tel que O < 7' < 7. Alors Q = U P ( a , ~ ' rest ) un compact de R, il existe donc M E R tel que sup 5 aEK Q M . D'après les inégalités de Cauchy, on a supK loaf[ 5 ~ ! M ( V ' T )pour - " , tout a E W . Comme D"f E Q(R), par définition de k ~ ,

If/

h

D " f ( a ) 5 a ! M ( q ' ~ ) - "pour , tout a E KQ et donc daprès le Lemme d'Abel, la série de Taylor de f en a E l ? ~converge sur P(alq'r).Ceci étant vrai pour tout 7' < q ,il y a convergence sur P ( a , ~ r ) . O Démonstration du théorème. Notons tout dabord que l'inclusion K plique l'inégalité

c KQim-

dist(kn,dR) 5 dist(K,dR). Supposons que 7 = dist(K,aR) > dist(kQ,ûR),nous allons prouver qu'alors R n'est pas un domaine dholomorphie. Considérons un point a E KQ tel que h

dist(a,dR)

<

n

7. I1 existe un multirayon

T

ri

tel que

= 1 et S&(a) < 7

5

j=l

Sh ( z ) ,pour tout z E K. I1 résulte alors du Lemme 1.8 que la restriction à la composante connexe de R n P ( a , ~ rcontenant ) a de toute fonction holomorphe sur R se prolonge holomorphiquement à P ( a , ~ r )Comme . S&(a) < 7 , P ( a , ~ rn'est ) pas contenu dans R ; l'ouvert R ne peut donc pas être un domaine dholomorphie. Par conséquent si R est un domaine dholomorphie, l'inégalité dist(K0,ûR) 2 dist (K,dR)est satisfaite. O I1 est alors naturel d'introduire la notion suivante :

Définition 1.9. Soit R un ouvert de Cn . On dira que 0 est holomorphiquement convexe si pour tout compact K de R,k~est relativement compact dans R, Si K est un compact de 0,K est O(R)-convexe si et seulement si K = KQ. Exemples :Considérons l'ouvert R = { z E en I < IzI < 2} et le compact K = { z E C n 11z1=1}deR. 1)Sin = 1,en utilisant les fonctions holomorphes sur 0,f ( z ) = et f (z)= z , on voit que ka = K, ce qui signifie que K est O(R)-convexe. 2) Sin 2 2, le phénomène de Hartogs implique que toute fonction holomorphe f sur R s'étend en une fonction holomorphe f à la boule B(0,2).Si on applique le principe du maximum à f , on obtient, lf(z)l = 5 supK pour z tel que < 121 < i et par conséquent B ( o , ~n)R c E-, ce qui prouve que KO n'est pas relativement compact dans R. L'ouvert R n'est donc pas holomorphiquement convexe.

5

[).(fI

If/,

h

Avec cette terminologie, le Théorème 1.7 signifie qu'un domaine dholomorphie est holomorphiquement convexe. La suite de ce paragraphe va être consacrée à prouver que les notions de domaine dholomorphie et d'ouvert holomorphiquement convexe sont en fait équivalentes.

1. Domaines d’holomorphie et convexité holomorphe

113

Lemme 1.10. Soit R un ouvert holomorphiquement convexe de @” . Alors R possède une suite exhaustive ( K j ) j €de ~ compacts O(R)-convexes. Démonstration. Nous ailons construire la suite ( K j ) j Epar ~ récurrence à partir d u n e suite exhaustive (Qe)e€w de compacts quelconques de R. On pose K 1 = Q I , c’est un compact de R car R est holomorphiquement convexe. Supposons n

construits K I , . . . ,Kj et considérons

l j

2 j tel que Kj

O

C Q e J il ,

suffit alors de

h

o

poser Kj+1 = &e,.

Lemme 1.11. Soient0 un ouvert holomorphiquementconvexe de C”, (K j ) j c une ~ suite exhaustive de compacts O(52) -convexes de R et ( p j ) j E nune suite de points tels quepj E Kj+i \ K j . Alors il existe unefonction f E O(R) telleque lim ( f ( p j I) = 3-00

+m.

00

Démonstration. La fonction f sera déterminée comme la somme d u n e série

fu u=l

où

fu E

o(o),sup ljUl <

2-” et 1f3(pj)l

>

K”

j

+ 1 + 5lfU(pj)l,s i j 2

2.

u=l

00

Remarquons que si une telle suite

( ~ V ) , ~ M existe .

f u converge

alors la série u=l

uniformément sur tout compact K de O et donc sa somme f est holomorphe sur

R et s i j 2 2. v#j

Cela implique If(pj)l > j car

V>j

Ifu(pj)I U>j

<

00

2-” 5 1. On construit la u=l

suite ( f v ) u E ~par récurrence. On pose f i O et si fi,. . . ,fe-l sont construites, il résulte de l’assertion v) de la Proposition 1.6 qu’il existe fe E O(R) telle que SUP

Kt

Ifel <

et ~fe(pe)~ >

+1

e- 1

~ . î ~ ( p ecarpe )l, u= 1

e Et.

Proposition 1.12. Un ouvert R de @” est holomorphiquement convexe si et seulement si pour toute suite ( P , , ) ” ~ N C R sans point d’accumulation dans R,il existe unefonction f E O(R) telle quesup If(p,) I = +m. UEW

Démonstration. Supposons que R est holomorphiquement convexe et considérons une suite exhaustive ( K j ) j €de ~ compacts O(R)-convexes de R (il en existe daprès le Lemme 1.10). Si ( p u ) u e est ~ une suite de points de R sans point d’accumulation dans (1, il existe des suites (vk)kEn et ( j k ) k e ~telles que pu, E Kjk+l\ Kjk. L‘existence de la fonction f est alors une conséquence du Lemme 1.11.

114

VI. Domaines d'holomorphie et pseudoconvexité

Réciproquement soit K un compact de R. Par définition de la co_nvexité holomorphe, il suffit de prouver que toute suite (p,,),,€~d'éléments de KO possède un point d'accumulation dans KO. Soit (P,,),,~N une suite de points de KR.Alors pour toute f E O(R), on a sup lf(p,,)l 5 sup If I < +CO. Puisque, par hypoA

h

K

U€N

thèse, pour toute suite sans point d'accumulation dans R, il existe une fonction holomorphe dans R non bornée sur cette suite, la suite (p,,),,€~précédente possède un point d'accumulation dans R. Comme de plus I?, est fermé dans R, ce point d'accumulation appartient à KR. o. h

e".

Application :Soit R un ouvert de Pour que R soit holomorphiquement convexe, il suffit que, pour tout point p E dR, il existe une fonction fp E O(R) telle que lim I fp(z)l = +CO. En effet, si ( P , , ) , , ~ West une suite d'éléments de R sans point Z+P =ER

d'accumulation dans R, soit cette suite n'est pas bornée et alors la fonction f ( z ) = z n'est pas bornée sur ( P , , ) , , ~ wsoit , cette suite possède un point d'accumulation p E dR et alors fp n'est pas bornée sur (P,,),,~w.D'après la Proposition 1.12, R est alors holomorphiquement convexe. On prouve ainsi que tout ouvert de @. est holomorphiquement convexe ainsi que tout ouvert convexe de @" .

Nous pouvons maintenant énoncer et démontrer le théorème de caractérisation des domaines d'holomorphie en terme de convexité holomorphe obtenu par H. Cartan et I? Thullen. Théorème 1.13. SoitR un ouvert de C" . Les conditions suivantes sont équivalentes: i) R est y domaine d'holornorphie. ii) dist(Kn,dR)= dist(K,dR),pour toutcompactK d e o . iii) R est holornorphiquernent convexe. iv) Il existe f E O(R) telle que pour tout couple d'ouverts R I et R2 de @" satisfaisant les conditions a) et bj de la Définition 1.1 on ne peut pas trouver de fonctionf E o ( R ~ )tellequef = f surR1. Démonstration. Les implications iij iiij et ivj ==+ i] sont respectivement des conséquences immédiates des Définitions 1.9 et 1.1. L'implication ij ==+ iij est donnée par le Théorème 1.7. I1 ne reste à prouver que iii] ==+ iv). Lemme 1.14. Soient R un ouvert de @", p un point de dR,U un voisinage connexe d e p et D une Composante connexe de U n R. Alors d D n (U n 8 0 ) # 0. Démonstration. Puisque D est une composante connexe de U n R, D est ouvert dans C" et fermé dans U n R. L'ouvert U étant connexe et Détant strictement inclus dans U , D ne peut pas être fermé dans U . Considérons un point q de la frontière (dans U ) de D.Comme D est fermé dans U n 0,le point q ne peut être que sur dR. O

I . Domaines d’holornorphie et convexité holomorphe

115

Lemme 1.15. SoientR un ouvertdeû? et(K,),€N unesuite exhaustive decompacts de R.Alors il existe une suite ( u j ) j c n d’entiers naturels et une suite ( p j ) j c de ~ points de R telles que les conditions suivantes soient satisfaites : U p j E K,,,, \ K,,,.i E 2) pour toutp E dR et tout voisinage connexe U de p, toute composante connexe D de U n R contient une infinité de points de la suite (pj)jEn.

Démonstration. On note (u,),€~ la suite des points de R ayant des coordonnées rationnelles, T , la distance de a, à dR et B , la boule B(u,,r,) C R.On désigne par (Qj)j€n une suite dont les éléments sont les B , et qui contient chaque B , une infinité de fois. Par exemple, la suite B I ,B I ,&, B I ,Bz,B3,B I ,Ba, B3,Bq, . . .. Posons K,=Ko et supposons que nous ayons construit des points p l , . . . ,pe-l et des compacts K,, , . . . ,K,, vérifiant 1) pour j = 1, . . . ,C - 1. Comme Qj n’est contenu dans aucun compact de R puisque c’est l’un des B,, il existe pe E Qe \ K,, . On choisit alors V e + i tel que pe E K,,,, et 1) est vérifiée pour j = C. Montrons que 2) est égaiement satisfaite pour les suites que nous venons de construire de proche en proche. Soient p E do, U un voisinage connexe de p et D une composante connexe de U n R. D’après le Lemme 1.14, il existe q E d D f’ U n dR. La suite ( u , ) , ~ Nétant dense dans (Cn, il existe a, E D suffisamment proche de q pour que B , c D . Mais puisque B , apparaît une infinité de fois dans la suite (Qj)jcn et pj E Qj, U n D contient une infinité de pointspj. O Fin de la démonstration du Théorème 1.13. Supposons que R est holomorphiquement convexe.D’aprèsle Lemme 1.10, il possède une suite exhaustive (K,),€N de compacts (?(R)-convexes. Nous pouvons alors appliquer le Lemme 1.11 aux suites ( p j ) j Eet~ (Kv,)jEnassociées à la suite ( K Y ) Vpar E ~le Lemme 1.15 et construire une fonction f E O(R) telle que lim (f(pj)l = m. Soient p E d a , U un voisi3-00

nage connexe de p et D une composante connexe de U n R. Supposons qu’il existe h E O ( U )telle que h = f sur D. Soit U’ cc U un voisinage de p et D’ la composante connexe de U’ n R qui rencontre D , alors sup Ihl 5 sup Ihl < +cû et f D’

U’

doit donc être bornée sur D’. Mais cela est impossible car, par construction de la suite ( p j ) j E w ,D’contient une infinité de p j et lim (f(pj)1 = +m. La fonction f 3+m

satisfait donc iv).

O

Terminons ce paragraphe en donnant de nouveaux exemples de domaines d’holomorphie et quelques propriétés de stabilité par les opérations ensemblistes

Proposition 1.16. Soient c3 (O). Alors

n,

R

un domaine d’holomorphie dans U?

={z E

est un domaine dholomorphie.

R I Ifj(Z)l < 1, j

= 1 , .. . , N }

et f i , .

. . ,fN

E

VI. Domaines d’holomorphieet pseudoconvexité

116

Démonstration. Soit K un compact de R f . Choisissons r < 1tel que I f j I 5 r dans K pour tout j = 1, . . . ,N. Cette inégalité est bien sûr encore valable dans Ka et Ka est donc contenu dans R f . Mais KQ est compact puisque 0 est un domaine dholomorphie et contient KQ, ce qui implique que Ka, est compact et prouve le résultat. O h

n

h

h

h

Remarque :Si Rf CC R, alors Rf est un domaine dholomorphie même si R n’en est pas un car Ka, est fermé dans R,puisque k ~c,{ z E R I I f j ( z ) l 5 T } C h

Rf. Exemples i) Si cp E R = { z E C” I - A < Recp(z) < A } est un domaine d’holomorphie. 2) Un ouvert R CC C” est un polyèdre analytique s’il existe un voisinage U de R e t f l , . . . ,f N ~ ~ ? ( ~ ) t e i i e s q u{ Z eE U~I = l f j ( z ) I < 1 , j = i ,...,N } . u ~ polyèdre analytique est un domaine dholomorphie.

C’(en),

Proposition 1.17. L‘intérieurd’une intersection quelconque de domaines d’holomorphie est un domaine d’holomorphie. Démonstration. Soit ( R z ~ )une ~ ~famille J de domaines d’holomorphie, notons R l’intérieur de Ri et supposons que R # Si K est un compact de R, on a

n

O < d

a.

ZEJ

dist(K,âR) 5 dist(K,ûO,), pour tout i E I. Les ouverts Ri étant des domaines dholomorphie, il résulte du Théorème 1.7 que d 5 dist(ka dRi), pour tout z E I . Comme KQ est contenu dans tous les KQ,, la distance de Ka au bord des Ri est supérieure ou égale à d ainsi que la distance de KR au bord de R. L‘ouvert R est donc holomorphiquement convexe et d’après le Théorème 1.13, c’est un domaine d’holomorphie. O =

2

h

5

h

A

Proposition 1.18. Soient RI c Cm et R2 c @” deux domaines d’holomorphie. Alors le produit cartésien R1 x 0 2 est un domaine d’holomorphie. Démonstration. I1 suffit de prouver que pour tout compact K = K1 x K2 de R1 x 0 2 où Ki est un compact de Ri,i = 1,2, Knl x ~ est z relativement compact dans R1 x 0 2 . Si f E c3(02;), i = 1 ou 2, alors f définit une fonction holomorphe sur 01 x R2 et par conséquent

A

h

h

Donc Ka, xazest contenu dans KI)^, x ( K ~ ) qui Q~ est relativement compact dans 521 x 0 2 car les Ri, i = 1,2 sont holomorphiquement convexes. O Si un ouvert R de C” n’est pas un domaine d’holomorphie, il est alors naturel de se demander s’il existe un plus grand élément E ( R ) dans l’ensemble des ouverts

2. Fonctions plurisoushannoniques

1 I7

D contenant R tels que toute fonction holomorphe sur R s'étende en une fonction holomorphe sur D. Exemples 1) Soient O un domaine d'holomorphie de C",n 2 2, et K un compact de O tels que O \ K soit connexe. Posons R = O \ K . I1 résulte du phénomène de Hartogs et de la définition des domaines dholomorphie que E ( R ) existe et que

E ( R ) = O. 2) Soit p une fonction holomorphe dans C",n 2 2, on note O le domaine d'holomorphie O = { z E C" I Re p(z) < O}. Si K est un fermé de O tel que K CC C" et O \ K soit connexe, on pose R : O \ K . On déduit du théorème d'extension donné dans le paragraphe 6 du chapitre Vet du phénomène de Hartogs que E ( R ) existe et que E ( R ) = O.

Comme nous aiions le voir sur un exemple, en générai E ( R ) n'existe pas si on se limite à la classe des ouverts de C" . Lorsqu'il existe, E ( R ) est appelé enveloppe d'holomorphie de R. Considérons le sous-ensemble y de C défini par y = { z E IR I 1 5 z 5 2} U = 2eie I O 5 O 5 7r} U { z E IR I -2 5 z 5 O}. On note r le sous-ensemble de C2 défini p a r r = y x {O}. Posons Wl = { z E C2 I O 5 Izl/< 1/2, O < -

{z

1.~21< I} u { z E C2 1 O 2 lzll < 1, i / 2 < 1221 < I}. W I est unemarmite de Hartogs et d'après le Théorème 6.9 du chapitre I, toute fonction holomorphe sur W1 s'étend en une fonction holomorphe sur le bidisque D(0,l) x D ( 0 , l ) . Notons W2 = D ( l , l / 4 ) x 0 ( 0 , 1 / 4 ) , W 3 = { z E C2 I dist(z,r) < 1/4} e t R = Wl U W , U Ws. L'ouvert R de C2 est connexe car chacun des Wi,i = 1,2,3 est connexe et CC: x {O} n 0 est connexe. Considérons la fonction f E O(R) qui coïncide avec une détermination de d F sur W1 (f existe et est unique car R est connexe, on la construit par prolongement analytique). Si l'enveloppe d'holomorphie E (R) de R existait, en tant qu'ouvert de C2, nécessairement E ( R ) contiendrait l'ouvert 6 = D ( 0 , l ) x D ( 0 , l ) UW2 U W, ce qui est impossible. En effet, soit Fl'extension de f à E ( R ) , la fonction z1 i-j Fln(zl,O)serait une fonction holomorphe sur (Cx {O}) n 6, qui est un anneau autour du point (z,O), et elle coïnciderait avec f sur (C x {O}) n R.Cela prouverait que da une détermination définie sur un anneau autour de i, mais une telle détermination n'existe pas.

2. FONCTIONS PLURISOUSHARMONIQUES

Dans ce paragraphe, nous généralisons au cas de plusieurs variables complexes la notion de fonction sous-harmonique. Ces nouvelles fonctions nous serviront à définir la pseudoconvexité au paragraphe 3.

VI. Domaines d’holomorphie et pseudoconvexité

118

A. Fonctions harmoniques et fonctions sous-harmoniques

Nous rappelons pour commencer la définition et les principales propriétés des fonctions harmoniques. Pour plus de détails le lecteur pourra se référer au paragraphe 14 de [Hel et au chapitre I de [Krl. Dans C, l’opérateur de Laplace A est défini par

A = - +d2 -=4ax2

a2 ay2

a2 azai

Définition 2.1. Unefonction u de classeC2 dans un domaine D de@ est dite harmonique si et seulement si Au = O dans D.

Proprié tés 1) Une fonction u à valeurs réeiles définie sur un ouvert D de @ est harmonique si et seulement si u est localement la partie réelle d’une fonction holomorphe. En particulier, une fonction harmonique est C” et même analytique réelle. 2 ) Propriété de la moyenne. Si u est une fonction harmonique sur D

si { z I Iz - al

c C, alors

5 T } c D.

3) Principe d u maximum. Soit u une fonction harmonique à valeurs réelles sur un ouvert D de C, alors : i) Si u a un maximum local en a E D, u est constante au voisinage de a, donc constante sur la composante connexe de D qui contient a. ii) Si D est relativement compact dans C et si u E C(D),u ( z ) 5 max u,pour aD

z E D.

R un domaine à bord C1 de C. Si f est une fonction continue sur le bord de a, il existe une unique fonction F E C(G)telle que Flan = f et F soit harmonique dans R. 4) Problème de Dirichlet. Notons

+

Définition 2.2. Unefonction u définie sur un ouvert D de @ à valeurs dans [ -00, 00) est dite sous-harmonique si et seulement si i) u estsemi-continuesupérieurement (s.c.s.),i.e. { z E D I u ( z ) < s} estouvert pourtouts E R o u b i e n K u ( z ) 5 .(a) sia E D. z-ia

ii) Pour tout compact K

c

D et toute fonction h continue sur K , harmonique

O

sur K , telle que h 2 u s u r d K , alors h 2 u sur K . Remarques -Si u

-00,

u est sous-harmonique.

2. Fonctions plurisousharmoniques

119

&,

- Dans IR,A = les fonctions harmoniques correspondent aux fonctions linéaires et par conséquent les fonctions sous-harmoniques sont les fonctions convexes.

Proposition 2.3.Soit D un ouvert C. i) Si u est sous-harmonique dans D , alors Xu est sous-harmonique dans D pour toutX > O. ii) Si (U , ) , ~ A est unefamille defonctionssous-harmoniquessur D telles que u = sup u, soitfinie et semi-continue supérieurement alors u est sous-harmonique ,EA

sur D . iii) Soit ( u n ) n E est~une suite décroissante defonctions sous-harmoniquessur D , alors u = lim unest sous-harmonique, n+m

Démonstration. La lère et la 2ème assertion se déduisent immédiatement de la Définition 2.2. Prouvons iiil. Observons que si u = lim u n , alors { z E D

I u(z) < s}

=

71-00

u { z E D I un(z ) < s } pour tout s E R,c’est donc un ouvert et par conséquent nEN

u est semi-continue supérieurement. Soient K un compact de D et h une fonction O

continue sur K , harmonique sur K , telle que h 2 u sur d K . Étant donné E > O, on pose E., = { z E dK I u3( 2 ) 2 h ( z ) E } , pour tout j E N. Les ensembles E., sont fermés dans dK, car les fonctions u.,sont s.c.s., ce sont donc des compacts. De plus, la suite (E.,).,EN est décroissante et d’intersection vide. I1 existe donc un entier C E N tel que El = 0, ce qui implique que ue 5 h E sur 3 K . Mais comme la fonction u p est sous-harmonique on a ue 5 h E sur K , d’où u 5 h E sur K car la suite ( u n ) n Eest~ décroissante. Cela étant valable pour tout E > O, on a u 5 hsurK. O

+

+

+

+

Corollaire 2.4. Pour tout ouvert D C @, la fonction

u ( z )=

-

log(dist(z,dD))

est sous-harmonique dans D . Démonstration. Si D = @, u G -00 et donc u est sous-harmonique. Si D # @, alors u est continue et u ( z ) = sup (- log Iz - Cl). Mais - log Iz -
fonction harmonique, car c’est localement la partie réelle d u n e détermination de - log( z - C), il résulte donc de l’assertion ii) de la Proposition 2.3 que u est sousharmonique. O Nous allons donner plusieurs caractérisations de la sous-harmonicité. Rappelons que si p est une mesure borélienne positive sur un compact K et u : K + R ü {-CO} une fonction semi-continue supérieurement l’intégrale udp

,s

VI. Domaines d’holomorphieet pseudoconvexité

120

a un sens, eiie est définie par L U d P = inf {

L

cpdp I cp E C(K),(PL u}

et u E L1( K , p )si et seulement si JK udp

> -CO.

Théorème 2.5. Soient D un ouvert de C et u une fonction semi-continuesupérieurement de D dans JI% ü { -CO}. Les assertions suivantes sont équivalentes: i) u est sous-harmonique. ii) Pour tout disque A CC D et tout polynôme holomorphe f tel que u 5 R e f s u r d A , o n a u 5 Ref sura. iii) Poura 6 D , ilexister,, O < r , < dist(u,ûD), telque

Remarque :La propriété iii) est une propriété locale et additive, on en déduit donc que : 1) Si u1 et u2 sont des fonctions sous-harmoniques dans D, u1 u2 est sousharmonique dans D . 2) Une fonction u définie sur un ouvert D de C est sous-harmonique si et seulement si tout point de D possède un voisinage sur lequel u est sous-harmonique.

+

Lemme 2.6. Si u est une fonction semi-continue supérieurement sur un ouvert D de C! qui satisfait la propriété iii) du Théorème 2.5 (Propriété de la sous-moyenne) alors u satisfait le principe du maximum.

Démonstration. Raisonnons par l’absurde. Supposons que u vérifie la propriété de la sous-moyenne et qu’elle possède un maximum local en un point a E D, c’est-àdire qu’il existe p > O tel que u ( z ) 5 .(a) pour tout z E D tel que Iz - al < p. Si u n’est pas constante au voisinage de a, il existe zo E D tel que 1x0 - al = r < min(p,r,) et u(z0) < .(a). Considérons l’ensemble { 0 E [0,27~]I u(u reio) < u ( u ) } ,c’est un ouvert de [0,27r]car u est S.C.S. et il est non vide car Izo - al = r. On en déduit que

+

JT

21T

u(u

+ reie)dû <

Ju”

u ( a ) d û = 27ru(a)

ce qui est en contradiction avec le fait que u satisfait iii) du Théorème 2.5.

O

Démonstration d u Théorème 2.5 L‘implication i) + ii) est une conséquence immédiate de la définition des fonctions sous-harmoniques. iii). Soient a E D et r > O tels que A = { z E C I al < r } CC D. Considérons une fonction cp E C(ûA)telle que cp 2 u

Prouvons que iil

Iz

-

2. Fonctions plurisousharmoniques

121

sur dA. Grâce à la solution du problème de Dirichlet, on peut supposer que cp est en fait continue sur et harmonique dans A. Pour T < 1, on pose cpT(z) = cp(a ~ ( z a ) ) . Les fonctions ainsi définies sont harmoniques au voisinage de A et la famille converge uniformément vers cp sur lorsque T tend vers 1. De plus, il existe des fonctions fT holomorphes au voisinage de telles que cpT = Re f T car est simplement connexe. Pour tout E > O, il existe alors un polynôme holomorphe f tel que

a

+

a

a

a

u5cpIRef
.(a)

Le réel E

5 Re f ( a ) =

&

27r

Re f ( a

+ reie)dû

> O étant arbitraire, on obtient

pour toute 'p E C(dA) teile que u l'intégrale d'une fonction S.C.S.

5

cp sur dA, d'où le résultat par définition de

Terminons la démonstration du théorème en prouvant que iii) implique i). Soit O

K C D un compact et h E C (K ) une fonction harmonique dans K telle que u 5 11 sur d K . Nous allons montrer que si iii) est satisfaite, u 5 h sur K . Considérons la fonction u - h, il résulte de iiil et de la propriété de la moyenne pour h que ( u - h ) O

vérifie iii) dans K et d'après le Lemme 2.6, u - h satisfait au principe du maximum. Par conséquent, pour tout z E K , ( u - h ) ( z ) 5 sup(u - h ) 5 0, soit u 5 11 sur i3K

K.

O

Proposition 2.7. Soit D un ouvert de @. Si f E O(D)alors log harmonique dans D .

If1

est sous-

).(/fI

Démonstration. Soit a E D. Si f ( a ) = O, log = -cc et iii) du Théorème 2.5 est satisfaite, si f ( a ) # O, il existe un voisinage simplement connexe de a sur lequel f ne s'annule pas et log est harmonique sur ce voisinage, iii) est donc encore satisfaite. De plus log

If1

If1

est clairement S.C.S.

O

Proposition 2.8. Soit cp une fonction convexe croissante sur R. On pose y( -00) = lim cp(x).Si u est une fonction sous-harmonique sur un ouvert D de C, cp O u est 2+-m

sous-harmonique sur D.

122

VI. Domaines d'holomorphie et pseudoconvexité

Démonstration. Puisque la fonction 'p est convexe croissante, pour tout 20 E existe un nombre réel k tel que p(z) 2 'p(z0) k ( z - 2 0 ) .Cela implique

+

IR,il

& s,"'

pour tout z E D et T > O tel que D ( z , T )cc D. Choisissons z o = u(z + re")dO. On déduit de la sous-harmonicité de u et de la croissance de p que

ce qui prouve la proposition car cp O u est clairement S.C.S. Exemples : Si f harmoniques.

E L?(A), I f / et plus généralement

If/",

O CU

> O,

sont sous-

Proposition 2.9. Soit u une fonction sous-harmonique sur un ouvert D de C. On suppose que sur aucune composante connexe de D , u est identiquement égale à -CO. Alors u est intégrable sur tout compact de D et en particulier u > -03 presque partout (pour la mesure de Lebesgue). Démonstration. Soit z E D tel que u ( z ) > -CO et A un disque fermé de centre z contenu dans D. La fonction u étant s.c.s., elle est bornée supérieurement sur donc

a

udX

< +m.

Si 6 désigne le rayon du disque A, la propriété de la sous-moyenne implique udX =

L'((I'"

u(z

+ re")dû )

T

dr

2 n b 2 u ( z ) > -03.

Par conséquent u est intégrable sur A. Notons E l'ensemble des z tels que u est intégrable au voisinage de z , c'est un ouvert. I1 résulte de ce qui précède que ' ~ 1= -00 au voisinage de tout point de D \ E et puisque u est S.C.S. D \ E est aussi ouvert. Par conséquent D \ E est une réunion de composante connexes de D , qui O doit être vide par hypothèse car u = -03 sur D \ E. Terminons ce paragraphe en donnant une nouvelle caractérisation des fonctions sous-harmoniques.

Théorème 2.10. Soit u une fonction sous-harmonique sur un ouvert D de @, non identiqueà -03, sur chaque composante connexede D. Alors, pour toutev E V(D ) à valeurs positives on a

(2.2)

SuAvdX

où X est la mesure de Lebesgue sur @.

20

2. Fonctions plurisousharmoniques

Démonstration. Soit r E R tel que O supp v on a

dist(suppu,CD). Pour tout z E

i2"+

2.rru(z) I:

123

reie)dO

u(z

car u est sous-harmonique. Multiplions cette relation paru et intégrons par rapport à A, ce qui est permis d'après la Proposition 2.9, on obtient alors

/ (I

2"

u ( z - rei0)dû - 2 s v ( z ) ) d ~ ( z2) O.

u(z)

(2.3)

Effectuons un développement de Taylor de u à l'ordre 2 all du U(Z h i k ) = U(Z) h - ( z ) k-(z)

+ +

+

+

dX

1 d2u -2( h 2 -ax2 (z)

dY

d2U

a2U

+ +2hk-(z) dxdy + k Z 78Y ( z ) ) +O(lh+ikI3). En remplaçant h + i k par -(r cos O + ir sin O ) et en intégrant par rapport à O on obtient

I'"

rr2 u ( z - reie)dû - 2 ~ 4 =~ -AU(.) ) 2

Si on multiplie (2.3) par

+ O(r3).

5et si on fait tendre r vers O on obtient (2.2).

O

Remarquons que si u est une fonction sous-harmonique de classe C2, le Théorème 2.10 signifie que A u 2 O. Nous allons prouver la réciproque pour les fonctions de classe C2. Elle est encore vraie pour les fonctions localement intégrables sous la forme suivante, mais nous ne le démontrerons pas ici (cf [Ho2],th. 1.6.11) : Soit u E L:,,(D) une fonction vérifiant uAudA 2 O, pour toute u E D ( D )à valeurs positives, il existe une et une seule fonction U. sous-harmonique sur D , qui est égale à u presque partout. Théorème 2. i l . Soitu unefonction de classeC2 sur un ouvert D de C telle que A u O sur D, alors u est sous-harmonique dans D.

2

Démonstration. Soit K un compact de D et h une fonction continue sur K et harO

monique sur K telle que u = u - h 5 O sur a K . Supposons dans un premier temps que A u

> O et raisonnons par l'absurde. O

S'il existe z E K tel que u ( z ) > O, u aura un maximum en un point zo EK et par conséquent A v ( z 0 ) sera négatif ou nul. En effet si g ( t ) = u(xo it), où xo = v Re zo, g possède un maximum en t = yo = Im zo et par conséquent a2 aY (20) =

+

9

2

(yo) 5 O. On montrerait de même que (20) 5 O et donc Au(20) cela contredit le fait que A u = A u - A h > O car A h = O.

+

5 O. Mais

1+1* .Alors Auj = Revenons au cas où A u 2 O et posons u j ( z ) = u ( z ) 7 Au > O pour tout j E N* et uj est donc sous-harmonique d'après ce qui précède. La suite ( u j ) j Eest ~ une suite décroissante de fonctions sous-harmoniques

+4

124

VI. Domaines d'holomorphie et pseudoconvexité

qui converge vers harmonique.

IL,

il résulte alors de la Proposition 2.3, iii) que

IL

est sous-

O

Terminons ce paragraphe par un lemme sur les valeurs moyennes des fonctions sous-harmoniques qui nous sera très utile par la suite. Lemme 2.12. Soitu une fonction sous-harmoniquesur ledisque { z E @ I Iz - al p } . Alors

<

est une fonction croissante d e r sur]O,r[.

Démonstration. Notons A ( r ) = { z E I Iz - al < r } et considérons deux réels r1 et r2 tels que O < 7-1 < 7-2 < p. Soit cp E C(dA(r2)) telle que cp 2 u sur dA(r2). Grâce à la solution du problème de Dirichlet, on peut supposer que cp est en fait continue sur A(r2) et harmonique sur A(r2). La propriété de la moyenne pour les fonctions harmoniques nous donne alors A(cp,r) = cp(a) pour r 5 r2. Puisque u est sous-harmonique sur A(p), on a u 5 cp sur A(r2) et donc

A ( u , n ) I A(cp,r1) = A(cp,rz). Finalement

A(u,r1) I inf {A(cp,r2),cp E

C ( W 7 - 2 ) ) , cp

2 u} L A(W-2).

O

B. Fonctions plurisousharmoniques

On désigne par D un ouvert de @"

.

Définition 2.13. Unefonction u de D dans WU { -m} est dite plurisousharmonique (psh) sur D si u est semi-continue supérieurement et si pour tout a E D et w E @" , la fonction X C) u ( a Xw) est sous-harmonique dans l'ouvert { X E Cc I a Xw E

+

+

01. On note PSH(D ) l'ensemble des fonctions plurisousharmoniques sur D. Un certain nombre de propriétés des fonctions plurisousharmoniques sont des conséquences directes des propriétés correspondantes des fonctions sous-harmoniques : 1) Soit ( u Z L , ) ,une € ~ famille de fonctions plurisousharmoniques sur D. Si u = sup u, est fini et semi-continu supérieurement dans D , alors u est plurisoushara€A

monique sur D. 2) Si ( U , ) , ~ W est une suite décroissante de fonctions plurisousharmoniques sur D , alors u = lim un est plurisousharmonique. n+co

3) L'ensemble PSH(D) est stable par addition et par multiplication par une

constante réelle positive.

125

2. Fonctions plurisousharmoniques

4) Une fonction u E PSH(D) si et seulement si u est plurisousharmonique au voisinage de chaque point a E D . 5) Si f E O ( D ) ,alors log et cy > O, sont plurisousharmoniques dans

If/

Ifla,

D. Remarque : Si D est un ouvert de C", la fonction u ( z ) = - log(dist(z,aD)) n'est pas nécessairement plurisousharmonique. En effet, considérons l'ouvert D = C2 \ {O}.Soientu = (1,O) E D e t w = (0,1).Alors u(u

+ Xw) =

-

log(dist(a + Xw,dD) = -log

d m .

Cette fonction possède un maximum strict au point X = O, elle ne peut donc pas être sous-harmonique, ce qui prouve que u n'est pas plurisousharmonique. Théorème 2.14. Soient D un ouvert de @" et u une fonction de classe C2 dans D à valeurs réelles. Alors u E PSH(D) si et seulement si pour tout z E D le Hessien complexe de u au point z

est une forme hermitienne semi-déjinie positive sur @" Démonstration. Un calcul direct donne

a2 axai

-u(u

+ Xw) =

La+XwU(W).

Le résultat se déduit alors des Théorèmes 2.10 et 2.1 1 qui caractérisent les fonctions O sous-harmoniques de classe C2 par la positivité du laplacien. Corollaire2.15. Soient D un ouvert de @", D' un ouvert de@'" et F une application holomorphedeD dans D'. Siu E PSH(D') n C'(DI), u O F E PSH(D).

Démonstration. Soit u E D et w E @", on a La(uO F ) ( w )= L F ( a ) u ( F ' ( a ) w )I1. O suffit alors d'appliquer le Théorème 2.14. Définition 2.16. Si D est un ouvert de C" et u une fonction de classe C2 sur D. On appelle forme de Levi de u en z E D le Hessien complexe L,u de u en t , c'est-àdire la forme hermitienne

Définition 2.17. Unefonction u E P S H ( D ) n C2( D )est dite strictement plurisousharmonique dans D si et seulement si pour tout z E D la forme de Levi L,u de u au point z est une forme hermitienne définie positive.

VI. Domaines d'holomorphie et pseudoconvexité

126

Nous voulons étendre le Corollaire 2.15 aux fonctions plurisousharmoniques quelconques. Pour cela nous allons tout d'abord démontrer un théorème de régularisation pour les fonctions plurisousharmoniques. Lemme 2.18. Soit u une fonction plurisousharmonique sur un ouvert D de C" . On suppose que sur aucune composante connexe de D, u est identiquement égale à -03. Alors u est intégrable sur tout compact de D et en particulier u > -03 presque partout. Démonstration. I1 suffit de reprendre la démonstration de la Proposition 2.9 en remplaçant le disque A par un polydisque. 17 Théorème 2.19. Soit D un ouvertde C", on pose Dj = { z E D I IzI < j et d i s t ( z , û D ) > f }. Soit u une fonction plurisousharmonique sur D qui n'est pas identiquement égale à -00 sur une composante connexe de D. Il existe alors une suite ( u j ) j E nd'éléments deC"(D) telleque 1) u j est strictement plurisousharmoniquesur D j . ii) u j ( z ) 2 u j + i ( z ) pourtoutz E Dj. iii) lim u j ( z ) = u ( z ) pourtoutz E D. "3'

iv) Si u est continue, la suite (u j ) j E w converge vers u uniformément sur tout compact de D. Démonstration. Soit 8 E D(R) une fonctionC", àvaleurs positives, àsupport dans [-l,l]ettelleque û ( l z l ) d X ( z ) = 1.Puisque Dj est relativement compactdans D , la fonction u est intégrable sur Dj et on peut considérer la fonction wj définie Par

scn

c'est une fonction de classe C" dans C" . Montrons que wj satisfait la propriété de la sous-moyenne sur chaque morceau de droite complexe contenu dans Dj ce qui prouvera que vj est plurisousharmonique sur Dj . Remarquons que wj ( z ) = Jcn u ( z - $)û((
car u est plurisousharmonique. Grâce au Lemme 2.12 appliqué à la fonction sous harmonique X c) u ( z - Ac), l'intégrale

I

u ( z - eit-)dt

j

DUOP

ia

3 2 inoi mod

LZ I

128

VI. Domaines d'holomorphie et pseudoconvexité

Définition 2.21. Soient D un ouvert de Cn et u une fonction de classe C2 à valeurs réelles dans D. On pose pour z,< E D

La fonction

Fu(z,<)est appelée polynôme de Levi de u.

Le lemme suivant relie la forme de Levi de u et le polynôme de Levi de u avec le développement de Taylor de u à l'ordre 2. Lemme 2.22. Soient D un ouvert de Qin et u une fonction à valeurs réelles de classe C2 dans D. Pour tout< E D e t z voisin de< on a :

u ( z ) = u ( < )- Repu(*,() Démonstration. Soient ( Cj

= xj(C)

+ Lcu(z

-

<) + o(lC - ~

~ j ( < ) ) ~ 5 j les 5 2coordonnées ~ réelles de (

+ i ~ ~ + ~Un( calcul < ) . direct donne

1 ~ ) . E Cn telles que

et

Le lemme résulte alors du développement de Taylor de u en ( à l'ordre 2 et des définitions de Fu et Lcu. O Théorème 2.23. Soit u une fonction strictement plurisousharmonique de classe C2 au voisinage de O 6 P. Si du(0) # O, il existe une application biholomorphe h d'un voisinage U de O dans P sur un voisinage W de O dans Cn telle que u O h-' est 2n

strictement convexe sur W ,c'est-à-dire

e

(<)tjtk

j,k=l

> O pour tout < E

et t E IR2" \ {O}, où xj = xj(C) sont les coordonnées réelles de (C) + ixj+n (C).

< telles que

<j

w =

xj

Démonstration. Puisque du(0) # O et u est à valeurs réelles, on a &(O) # O. Supposons que %(O) # O. L'application h ( z ) := ( F ~ ( Z , O ) , Z. .~.,,zn) est alors un biholomorphisme de U sur un voisinage V de O = h(0).Posons A

f(<) = ( f i ( < ) ,. . . , f n ( C ) )= h-'(O

3. Pseudoconvexité

pour C E V . D'après le Lemme 2.22, pour 'u, O

f ( 0= 4 0 )

-

129

< assez proche de O,

ReRA(f(C),O)

+ L o u ( f ( 0 ) + o(lf(Ol2).

Mais par définition de f = h-',FU(f(<),0)= tend vers O

ce qui implique que lorsque

<

1 ' L O f ( C ) = 4 0 ) - ReC1 + LOW(<))+ o ( l f ( 0 l 2 ) . Soit F = ( F i ,. . . ,Fn) la différentielle de f à l'origine, c'est-à-dire l'application linéaire F : Cn + Cn telle que f ( < ) = F ( < ) û(l(12) lorsque tend vers O. On a alors 1 ' L O f ( 0= 4 0 ) - ReC1 + L o u ( F ( 0 )+ O(1Cl2>

<

+

lorsque C tend vers O, ce qui implique par unicité du développement de Taylor de u en O que

Comme F ( < )# O si # O car f est biholomorphe en O et u est strictement plurisousharmonique au voisinage de O on obtient

La fonction u étant de classe C 2 cette relation reste vraie si on remplace O par un point ( variant dans un voisinage W de O. O Terminons cette section par un lemme qui prouve que la stricte plurisousharmonicité est stable par petite perturbation. Lemme 2.24. Soit p une fonction strictement plurisousharmonique de classec' définie au voisinage d'un compact K de P.Alors il existe E > O tel que, pour toute fonction cp de classe C 2 au voisinage de K vérifiant < E , pour tout z E K et 1 5 j , k 5 n, la fonction p 'p soit encore strictement plurisousharmonique au voisinage de K .

+

I

I

Démonstration. Par définition des fonctions strictement plurisousharmoniques, il suffit de poser

3. PSEUDOCONVEXITÉ

Nous avons vu au paragraphe précédent que, si R est un ouvert quelconque de

Cn,la fonction - log(dist(z,dR)) n'est pas nécessairement plurisousharmonique.

130

VI. Domaines d'holomorphie et pseudoconvexité

Dans ce paragraphe nous allons étudier une nouvelle classe d'ouverts de C" ,les ouverts pseudoconvexes, qui sont caractérisés par le fait que la fonction -logarithme de la distance au bord est plurisousharmonique. Nous allons prouver que cette classe contient la classe des domaines dholomorphie( en fait nous verrons au chapitre Vi1 qu'il y a identité entre ces deux classes). Théorème 3.1. Si R est un domaine d'holomorphie dans C", alors - log (dist (2,d e ) )

est une fonction plurisousharmonique continue. Démonstration. La fonction u ( z ) = - log(dist(z,dR)est continue sur 0. Pour prouver la plurisousharmonicité de u nous avons besoin du lemme suivant. Lemme 3.2. Si R est un domaine d'holomorphie dans C" et K un compact de R, pour toutefonction f E O(R) telleque lf(z)I 5 dist(z,dR), pour toutz E K , on a l f ( z ) I 5 dist(z,dR),pourtoutz E k,.

/).(fI

Démonstration. Si 5 dist(z,dR),pour tout multirayonr > O telque Er; = 1 on a 5 & ( z ) (cf section 1 pour la définition de S&(z)). Si t E]0,1[, l'ensemble

[).(fI

D = { w E C"

1

1w.j

- Z j J 5 t ? - j J f ( Z ) J , j = 1 , .. . ,n,z E K}

est un compact de R. Si u E O(R), il existe alors une constante A4 telle que lu(w)I 5 M , si w E D , et daprès les inégalités de Cauchy on a

Puisque la fonction f1"lDau est holomorphe sur R, l'inégalité (3.1) est encore vraiesi z E k a . On a donc prouvé que le développement de Taylor de u en ( E K n converge sur le polydisque If(()lP(O,r).Comme R est un domaine dholomorphie ce polydisque doit être contenu dans R, ce qui implique If(<)l 5 O d i s t ( ( , û R ) ,pour tout (' E k,.

<+

Fin de la démonstration du Théorème 3.1

D T

Fixons toE R et w E Cn {O} et choisissons r > O, assez petit pour que rw I T E C , [ T ~ 5 T } soit contenu dans R. Notons bD = {zo rw I E C,171 = r } . Soit f un polynôme holomorphe tel que = (20

(34

+

+

- log (dist(z0

+ ~ w , d R ) 5) Re f(r)

pour

171 =

Considérons un polynôme holomorphe F dans cc" tel que F(z0 l'hypothèse (3.2) s'écrit alors lëF(')I 5 dist(z,dR) si

z E bD.

r.

+ T W ) = f ( ~ ;)

3. Pseudoconvexité

131

D’après le principe du maximum, l’enveloppe holomorphiquement convexe de bD relativement à 0 contient D. On déduit alors du Lemme 3.2 que -

log (dist(z0

+ T W , ~ R )5) R e f ( 7 )

pour

171

5 T.

Le Théorème 2.5 nous permet ensuite d’affirmerque la fonction T ++- log(dist(z0

+T W J , ~ ~ ) )

est sous harmonique sur l’ouvert de C où elle est définie. Par conséquent la fonction - log(dist(z,dR)) est plurisousharmonique dans R. O

Nous allons donner maintenant d‘autres conditions équivalentes à la condition du Théorème 3.1. Définition 3.3. Si R est un ouvert de Cn . Si K est un sous ensemble compact de R, on définit l’enveloppepsh-convexe de K relativement à R par

kR = { z E R I ~

( z5) supu,Vu E PSH(R)}.

Remarque :Puisque f E O(R) implique

K

If\

E PSH(R), il est clair que

gg c k ~ .

On appellera disque analytique dans cc“ , une application holomorphe non constante ‘p : A -+ C” où A est le disque unité de C. Si ‘p s’étend continûment à on dira que est un disque analytique fermé et que ’p(ûA) est le bord du disque.

a

‘p(a)

Théorème 3.4. Soit R un ouvert de Cn . Alors les conditions suivantes sont équivalentes : i) - log(dist(z,dR)) est plurisousharmonique continue dans R. ii) Il existe une fonction u plurisousharmonique continue dans R telle que, pour toutc E IR,

R, = { z E R I u ( z ) < c }

u ,EA

cc R.

iii) Si K est un compact de R,k; cc R. iv) Soit (6,),,~ une famille de disques analytiques contenus dans R. Si 66, Cc 0 alors 6, CC R (cette assertion s’appelle la “Kontinuitatssatz’3.

u

,EA

Démonstration. Prouvons tout d‘abord que i) implique ii). Posons u ( z ) = 121’ log(dist(z,ûR)). La fonction u est plurisousharmonique continue sur R, d’après il, et il est clair qu’elle satisfait ii). Supposons la condition ii) satisfaite. Soient K un compact de D et u la fonction donnée par ii). Posons c = maxK u,alors u 5 c sur Kg par définition de l’enveloppe psh-convexe donc

k; c { z E R I u ( z ) 5 c } cc R.

VI. Domaines d'holomorphie et pseudoconvexité

132

Prouvons maintenant que iii) implique iv). Soient 6 un disque analytique fermé de R et u E PSH(R) une-fonction plurisousharmonique dans 0. Considérons une paramétrisation cp : A + R de 6. Alors u O cp est sousharmonique et par conséquent pour tout z E K Iuocp(z)I

ISUP

I ~ O c p ( 0 l .

CEaA

On en déduit que pour tout p E 6,

b^6:. U 6,

ce qui implique 6 c

Donc si ( 6 a ) a E est ~ une famille de disques analytiques

fermés de R, alors

C

LEzz=-P

,EA

(

U

b6,)

, ce qui prouve que iii) implique iv).

,EA

Pour terminer montrons que iv) implique la plurisousharmonicité de la fonction - log(dist(z,dR)). Comme dans la démonstration du Théorème 3.1, fixons zo E R et w E Cn \ {O} et choisissons r > O, assez petit pour que D = { zo TW 1 T E @,IT[ 5 r } soit contenu dans R. Soit f un polynôme holomorphe tel que

+

- log (dist(z0

+ ~ ~ , d f l5) )ref(^),

IT(

pour

= r,

c'est-à-dire l e ë f ( T ) ) 5 dist(z0

(3.3)

+ T W , ~ R ) ,si

171 =

r.

Nous voulons prouver que cette inégalité reste vraie si 171 I r , ce qui démontrera la sous harmonicité de T ++ - log(dist(z0 T W , ~ R )et) donc O. Soit a E @" tel que la1 < 1. On considère l'application T ++ zo TW Xaeëf(') définie pour I T ( <_ r. Notons Da son image. Les D , sont des disques andytiques fermés de C" . De plus bD, cc R donc Da cc R pour tout a tel que la( < 1d'après iv) appliqué à la famille réduite au disque D,. On a donc

+

zo

+ rw + ue-f(.)

E

+

+

R, si la1 < i et

(TI

5 r.

En faisant tendre (al vers 1,on obtient

5 dist(z0 + T W , ~ R ) ,si i.e. - log(dist(z0 + T W , ~ R )5) Ref(T), si 171 5 T . le-f(T)l

171

5 r, O

Définition 3.5. Un ouuertR de@" est ditpseudoconvexe si l'une des conditions équivalentes du Théorème 3.4 est vérifiée. Définition 3.6. Une fonction cp continue définie sur un ouvert D de C", à valeurs réelles est une fonction dexhaustion pour D si, pour tout c E R, l'ensemble D, = { z E D I cp( z ) < c} est relativementcompact dans D. Remarques 1) Une fonction dexhaustion cp vérifie p(z) + cc quand z s'approche du bord de D.

3. Pseudoconvexid

133

2) Un domaine D est donc pseudoconvexe si et seulement s'il admet une fonction d'exhaustion plurisousharmonique continue.

Corollaire 3.7. Si R est un domaine d'holomorphie dans C" alors R est pseudoconvexe. Démonstration. C'est une conséquence immédiate du Théorème 3.1 et de la définition de la pseudoconvexité. O Remarques 1) La réciproque du Corollaire 3.7 est vraie, elle sera démontrée au chapitre VII. 2) Si R est un ouvert holomorphiquemect convexe de @" ,il est clairement pseudoconvexe car pour K compact dans R, Kg c KO. On peut alors retrouver le Corollaire 3.7 en utilisant le Théorème 1.13 à la place du Théorème 3.1. Théorème 3.8. Soit (n,),,~ une famille d'ouverts pseudoconvexes de @", alors l'intérieur R de l'intersection des R, est aussi pseudoconuexe. Démonstration. Cela résulte de l'assertion i) du Théorème 3.4 et du fait que la borne supérieure d u n e famille de fonctions plurisousharmoniques est plurisousharmonique si elle est continue. Ici -

log(dist(z,dR))= sup - log(dist(z,dR,)) aEA

est bien continue.

O

Nous allons prouver maintenant que la pseudoconvexité est en fait une propriété locale du bord. Théorème 3.9. Un ouvert R de Cn est pseudoconuexe si et seulement si tout point [ E 0 possède un voisinage U, tel que U, n R soit pseudoconuexe. Démonstration

<

Condition nécessaire : il suffit de prendre pour Uc un voisinage convexe de car U, n R est alors l'intersection de deux domaines pseudoconvexes, il est donc pseudoconvexe.

Condition suffisante : supposons dans un premier temps que R est borné. Soit E dR et Ut un voisinage de [ tel que Uc n R soit pseudoconvexe, alors la fonction -log(dist(z,d(U[ n a))) est plurisousharmonique sur Uc n R. Comme dist(z,d(UC n R)) = dist(z,dR) pour z assez proche de [, il existe un voisinage U de dR tel que la fonction - log(dist(z,dR)) soit plurisousharmonique sur U n R. L'ouvert R étant borné, R \ U est compact et le nombre m = SUP^,^(- log(dist(z,dR)) est fini. Par conséquent

<

cp(z) = max(- log(dist(z,dR)),lz12

+ m + 1)

134

VI. Domaines d'holornorphie et pseudoconvexité

est une fonction plurisousharmonique d'exhaustion pour R ce qui implique que R est pseudoconvexe. Si R n'est pas borné, on applique l'argument précédent à l'ouvert R, = R n B(0,v)qui satisfait encore l'hypothèse du théorème et qui est borné et donc pseudoconvexe. Puisque 52 est la réunion croissante des a,,, la suite de fonctions

(- log(dist(z,dR,))) est une suite décroissante de fonctions plurisousharmoniques qui converge vers la fonction - log(dist(z,dR)) qui est donc plurisousharmonique. Par conséquent R est pseudoconvexe. O Théorème 3.10. Soient R un ouvert pseudoconvexe de cc" et K un compact de R. Alors pour tout voisinage U de kg dans R, il existe une fonction p telle que i) p est strictement plurisousharmonique de classeCm dans R. ii) p < O sur K et p > O sur R \ U . iii) Pourtoutc E R,{z E R I p ( z ) < c } CC R. Démonstration. Le point clé de la démonstration est de trouver une fonction cp plurisousharmonique continue satisfaisant ii) et iii). L'ouvert R étant pseudoconvexe, il possède une fonction dexhaustion $, plurisousharmonique continue. Quitte à ajouter une constante à $, on peut supposer que $ < O sur K . Soit K' = { z E R I $ ( z ) 5 O}, K' est un compact de R car $ est une fonction d'exhaustion. Puisque U est un voisinage de E:, pour tout z E K' n (R \ U ) ,il existe une fonction cpz E PSH(R) telle que cpZ(z) > O et cpz < O sur K . De plus, grâce au Théorème 2.19 de régularisation, on peut supposer que pz est continue. La fonction cpz étant continue, elle est donc strictement positive sur un voisinage de z. Grâce à la compacité de K' on peut donc trouver un nombre fini de fonctions ( p l , . . . , c p ~ strictement plurisousharmoniques continues sur R telles que et

max(cp1,. . . , c p ~ )> O max(cp1,. . . , c p ~ )< O

K' n (R sur K . sur

\

U)

La fonction cp = max($,ql,. . . , c p ~ )est plurisousharmonique continue sur R et satisfait ii) et iii]. Pour obtenir une fonction p plurisousharmonique de classe C" et iii), il suffit d'appliquer le lemme suivant.

satisfaisant ii)

Lemme 3.1 1. Soit u une fonction plurisousharmonique continue d'exhaustion pour un domaine R c CY. Étant donné un compact K de R et un réel E > O , il existe une fonction d'exhaustion strictement plurisousharmonique de classeCm ,p, pour R telle que u 5 psurR et Ip(z) -.()I < ~ p o u r zE K . Démonstration. Pour j E Pi,on pose R j = { z E R I u ( z ) < j } . Alors R j c c R et, quitte à ajouter une constante à u, on peut supposer que K c 00.Fixons E > O. D'après le Théorème 2.19, il existe une suite ( u j ) j Ede ~ fonctions de classe

135

3. Pseudoconvexité

C" dans R telles que uj soit strictement plurisousharmonique sur Rj+2,u(z) < u o ( z ) < u ( z ) + E pourz E si1 e t u ( z ) < u j ( z ) < U ( Z ) + i pourz E ~ j , 2j 1.

+

+

On en déduit que uj - j 1 < O sur Rj-2 et uj - j 1 > O sur \ Rj-1 si, j 2 2. Soit x une fonction de classe C" sur IR telle que X ( t ) = O pour t 5 O et x(t),x'(t) etx"(t) soientstrictementpositifspourt > O. A l o r s x o ( u j - j + i ) G O sur 0 , - 2 et x 0 ( u j - j 1) 2 O sur R \ Rj-2. En calculant la forme de Levi on voit que x 0 ( u j - j 1) est plurisousharmonique sur Rj+2 et strictement plurisousharmonique positive sur 2.j\ R.i-1. On choisit alors par récurrence des

+ +

entiers

mj

tels que si e

2

2,pe = uo

+

e

mjx

O

(uj- j

+ 1) soit strictement

i=2

plurisousharmonique sur Re.On a ainsi construit une suite de fonctions ( p e ) e > -2 qui vérifient pe = uo sur Ro, pe 2 u et pe = pe-1 sur Re-2. La fonction p = pe a les propriétés demandées. O Remarque :I1 résulte du Lemme 3.11 et de la définition des ouverts pseudoconvexes qu'un ouvert R de C" est pseudoconvexe si et seulement s'il possède une fonction d'exhaustion strictement plurisousharmonique de classe C2. Grâce au Lemme de Morse suivant, en fait tout ouvert pseudoconvexe R de C" possède une fonction strictement plurisousharmonique dexhaustion p de classe C2 telle que l'ensemble de ses points critiques, i.e. { z E R I d p ( z ) = O}, soit discret dans R. Lemme 3.12. Lemme de Morse. Soient R un ouvert de C" et p une fonction strictement plurisousharmonique de classe C2 dans R. Alors, pour tout E > O, il existe une forme IR-linéaire L : C" + IR telle que max IL(z)I 5 E , l'ensemble

+

+

L€C* ,Izl=l

Crit(p L ) = { Z E R I d ( p L ) ( z ) = O} soit discret dans R et p strictement plurisousharmonique dans R.

+ L soit

Démonstration. Puisque p est de classe c2,daprès un Lemme de Morse (cf [Mi], 5 2, Lemme A ou [RI, Appendice A ou encore, [He/Le2],Appendice B), pour presque toute forme IR-linéaire L : @" -+IR,les points critiques de p L sont isolés. Pour tout E > O, on peut donc trouver une forme IR-linéaire L : Cn -+ IR telle que max IL(z)I 5 E et que Crit(p+ L ) soit discret. I1 résulte de 1aDéfinition2.17

+

LEC" ,121=1

que p + L est strictement plurisousharmonique car les dérivées secondes de L sont nulles. O Corollaire 3.13. Sous les hypothèses du Théorème 3.10, il existe une fonction p satisfaisant les conditions i), ii) et iii) du Théorème 3.10 et telle que de plus Crit(p) := { z E R I d p ( z ) = O} soit discret dans 52. Corollaire 3.14. Si R est un ouvert pseudoconvexe de Cn et K un compact de R, alors = gP"cm . En particulier k; est fermé donc compact dans R.

g;

136

VI. Domaines d'holomorphie et pseudoconvexité

Démonstration. Puisque kEncm = { z E R I u ( z ) < supK u,Vu E PSH(R) on a évidemment kn c kgnCm.Soit z E (1 \ kg, en appliquant le Théorème 3.10 au compact K et au voisinage U = R \ { z } de k:, il existe cp E PSH(R) n C"(R) teiie que cp(z) > O et 'p < O sur k; donc sur K . Par conséquent z # O

C-(R)},

Proposition 3.15. Soit R un ouvert de Cn . S'il existe une fonction plurisousharmonique continue p définie sur un voisinage Uan du bord de R telle que

n Uan = { z E Uan I P ( Z ) < O} alors R est pseudoconvexe. Démonstration. Soient E da et E > O assez petit pour que B(<,E) soit relativement compacte dans Uan. D'après le Théorème 3.9, il suffit de prouver que R n B ( J , Eest ) pseudoconvexe. Considérons la fonction plurisousharmonique définie au voisinage de RnB(<,E) par cp(Z)

= max(lz

Alors cp = O sur d(R n B(<,E)) et cp R n B ( ~ , Ealors ) , sup cp = a < O et

-

i l - E,P(Z)).

< O sur R n B(<,E). Soit K

un compact de

K A

KgnB(F,-) c { z E

n B(i,€)I ~

<

( 2 ) a } CC

nB(<,E),

ce qui prouve que R n B ( J , Eest ) pseudoconvexe.

O

Nous allons maintenant donner une caractérisation des domaines pseudoconvexes à bord de classe C2. Théorème 3.16. Soient R un ouvert de C" à bord de classe C2 et p une fonction de classe C2 à valeurs réelles définie sur un voisinage Uan du bord de R telle que Uan n R = { z E Uan 1 p ( z ) < O } e t d p ( z ) # O pour toutz E 8R. AlorsR est pseudoconvexe si et seulement si

(3.4)

L , ~ ( w )2 O pour tout z E

etw E T:(~R)

n

oùL,p(w) =

estlaformedeLevidepaupointz etT:(dR)

&$-(z)wjWk j,lC=l

I'espacetangentcompiexe{w E CY

I

n

j=l

% ( z ) w j = O}.

Démonstration. Soit pl une autre fonction définissante de classe C 2 pour 0. Nous avons vu, au chapitre II, Lemme 8.2, qu'il existe une fonction strictement positive h de classe C1 sur dR teiie que pl = hp. Un calcul direct donne dors pour z E dR et

w E TF(dR) J L P l ( W )=

h(z)Lzp(w)

3. Pseudoconvexité

137

ce qui prouve que la condition (3.4) ne dépend pas du choix de la fonction définissante pour R. Condition nécessaire : soit p(z)= - dist(z,dfl), si zef2 et p(z)= dist(t,dfl), si z E Cn \ R. Puisque dR est de classe C2, la fonction p est de classe C2 dans un voisinage Uan du bord de R.Comme R est pseudoconvexe, la fonction - log( - p ) est plurisousharmonique de classe C2 sur R et donc

pour tout z E

an n R et tout w E cn.si z

n

E Uan n R e t si

z(z)wj =O; j=l

on a donc

ce qui est encore vrai si z E dR par passage à la limite, mais alors la condition

signifie que w E T," ( d o ) . Condition suffisante : raisonnons par l'absurde. Supposons que R n'est pas pseudoconvexe. Soit Uan un voisinage du bord de R sur lequel la fonction p définie par p ( z ) = - dist(z,dR) s i z E R s i z E @" \ R p ( z ) = dist(z,dR) est de classe C2. Comme R n'est pas pseudoconvexe, il existe un point [ E R n Uan telle que la fonction - log( - p ) n'est pas plurisousharmonique en (cf Théorème 3.9). Cela signifie qu'il existe w E cc" \ {O} tel que

<

Lorsque tend vers O, on a, d'après la formule de Taylor,

+

+

+

+

log(-p(l+ xw)) = log Ip(<)I R e ( d ,Ox2) yIAI2 o(1XI2) (3.5) où cy et ,O sont des constantes (cf Lemme 2.22). Choisissons 77 E Cn tel que = ( p ( ( ) / e t [ + v E dR.Posons&(A) = < + ~ w + ~ ~ e " ~ + < ~ s~ 5~ 1.D'après , s i O ( 3 . 5 ) ,il existe& > O tel que si 1x1 < E et 0 < s 5 i dist(<s(x),afl) 2 -P(<

+

-

slvl leaX+BXZ I

lX*l

(3.6)

2 ~ p ( < ) l ( e ~- zs)leaX+PXzl

et par conséquent

dist(<,(X),dR) > O, si0 < s < 1et 1x1 5

E.

138

VI. Domaines d'holomorphie et pseudoconvexité

+

CommeÇ,(O) = 5 sq E 0 , s i 0 < s < 1, on endéduit que cs(X) E R, si O < s < 1 et 1x1 5 E. En passant à la limite quand s tend vers 1, on obtient que < l ( X ) E 2 pour 1x1 5 E. Puisque E Uan, quitte à diminuer E , on peut supposer que
<

(3.7) - p ( < l ( ~ ) )2 p ( < ) ( e ~ + - i)/eax+ox21,pour 1x15 E . Le membre de droite de (3.7) est une fonction strictement convexe positive de X au voisinage de O. Puisque p ( ( I ( 0 ) ) = O, la fonction - p 0
On en déduit, puisque

ce qui contredit (3.4) car

est une fonction holomorphe de X que

< + 7 E dR.

O

Définition 3.17. Soient 0 un ouvert relativement compact de Cn à bord de classeC2 et p une fonction de classe C2 à valeurs réelles définie sur un voisinage Uan du bord d e R tellequeUan n R = { z E Uan I p ( z ) < O } e t d p ( z ) # O pour toutz E dR. On dira que R est strictement pseudoconvexe si et seulement si

(3.8)

~ , p ( w )> O

pour tout z E

e t w E T$(BR)\ {O}.

Remarque :La condition (3.8)est bien sûr indépendante de la fonction définissante p choisie pour R. Théorème 3.18. Un ouvert R relativement compact dans @" à bord de classe C2 est strictement pseudoconvexe si et seulement s'il possède unefonction définissante stric-

tement plurisousharmonique de classe C2. Si R est strictement pseudoconvexe et si p est une fonction définissante de classe C2 pour R,pour X assez grand, la fonction fi = exP - 1 est une fonction définissante strictement plurisousharmonique de classe C2.

Démonstration. Supposons que 0 possède une fonction définissante p strictement plurisousharmonique de classe C2, alors pour tout z contenu dans un voisinage de ûR et tout w E Cn \ {O}, L,p(w) > O, donc (3.8)est vérifiée. Réciproquement supposons que R est strictement pseudoconvexe. I1 suffit de prouver que pour X assez grand la fonction = exP - 1 est strictement plurisousharmonique sur un voisinage Uan de dR car R n Uan = { z E Uan I fi(.) < O} etdp(z) = XePdp(z) # Osiz E dR.O n a

3. Pseudoconvexité

139

Par conséquent pour z E ôR et w E Cn

(3.9) Soit K = {(z,w) E û~ x

I

lull

= i et

5

a

w

j

~

IkO}.PuisqueK est

j,k=l

compact et que d'après (3.8),

I i5 g ( z ) w j I > O, si (z,w) E K , on peut choisir =l

X assez grand pour que

I1 résulte alors de (3.9) et de la Définition 2.17 que 6 est strictement plurisousharmonique au voisinage de dR. O Théorème 3.19. Soit R CC Cn un ouvert à bord de classe C2, strictement pseudoconvexe. Alors il existe un voisinage U,defi et unefonction p : U, + R strictement plurisousharmonique de classec' telle que dp( z ) # O si z E dR

R ={z E dR = { z E

et

u, I p ( z ) < O} u, I p ( z ) = O}.

Démonstration. D'après le Théorème 3.18, l'ouvert R possède une fonction définissante po strictement plurisousharmonique de classe C2, c'est-à-dire que po est définie sur un voisinage Van du bord de R, d p o ( z ) # O si z E dR et R n Uan = { z E Van I p o ( z ) < O}. Soit 6 > O, assez petit pour que Kb = { z E Uan I -6 5 po(z) 5 O} soit un compact de Usa. Choisissons une fonction x à valeurs réelles de classe C" sur W, vérifiant ~ ( t=) -6, s i t 5 -6, x(0) = O, % ( t ) 2 O, pour tout t E R, et g ( t ) > O, si -6 < t < +CO, et définissons p l par p l = -6 sur Ks et pl = x 0 po sur Van. I1 résulte immédiatement des propriétés de x que p l est une fonction plurisousharmonique de classe C2 sur R ü Uan, strictement plurisousharmonique sur { z E Uan I po(z) > - 6 } , d p l ( z ) # O si z E dR et

52 = { z E R u Uan I pi(.) < O}. On déduit du Théorème 3.10 qu'il existe une fonction p2 strictement plurisousharmonique de classe C" dans R telle que R, = { z E R I p 2 ( z ) < a } CC R pour tout a E W. Choisissons ,f3 E R, assez grand pour que p l > - f sur R \ 520 et I)E C" (C" ) à valeurs réelles telle que II, = 1 dans un voisinage de na et I)= O dans un voisinage de C" \ 0. Définissons alors 6 2 par 6 2 = I)pz dans R et p 2 = O dans \ R. La fonction 3 2 est strictement plurisousharmonique sur un voisinage de et donc pour tout c > O, pl cp2 est strictement plurisousharmonique au voisinage de Comme de plus p l est strictement plurisousharmonique sur Uan \ Ra et 6 2 = O sur Van \ 0, la fonction P = p l c62 est strictement plurisousharmonique de classe C2 sur U z = Uan ü R et R = { z E U z I $(.) < O},

a?

na

as.

+

+

VI. Domaines d'holomorphie et pseudoconvexité

I40

si c est choisi assez petit. Choisissons une fonction cp positive de classe C" dans C" telle que 2 = { z E cc" I cp(z) = O} (cf Lemme 1.4.13 de [Na2],par exemple). Quitte à restreindre U s , la fonction p = ,6 E(P est la fonction cherchée si E est assez petit. O

+

Corollaire 3.20. SoitR CC C" un ouvertstrictementpseudoconvexe à borde2. Alors pour tout compact K c ûO et tout voisinage UK de K dans Cn , il existe un ouvert 6 strictement pseudoconvexe à bord C2 tel que

OUK

C ~ C O U U K .

Démonstration. Soient UE et p satisfaisant la conclusion du Théorème 3.19. Choisissons une fonction x de classe C" à support compact dans UK f' Us2 à valeurs strictement positives sur K . Pour E assezpetit, R = { z E U s 1 p ( z ) - E X ( Z ) < O} convient. O

Nous allons étudier maintenant le lien entre la stricte convexité et la stricte pseudoconvexité. Proposition 3.21. Tout domaine R CC Cn strictement convexe à bord C2 est strictement pseudocon vexe.

Démonstration. C'est une conséquence du fait qu'une fonction strictement conO vexe de classe C2 est strictement plurisousharmonique. Nous allons prouver que la réciproque est vraie localement modulo un changement de coordonnées holomorphes.

Lemme 3.22. Soient V un ouvert de Cn et p une fonction strictement convexe de classe C2 sur V . On pose D = { z E V I p ( z ) < O } , alors pour tout compact convexe K C ri V et tout voisinage UK de K , il existe un ouvert strictement convexe0 à bordC2 tel que K c c UK n D. Démonstration. Puisque K est convexe, il existe un ouvert strictement convexe à bord C", tel que K CC Q: CC UK n V.Soit p l une fonction strictement convexe de classe C" sur un voisinage Ul CC UK f' V de O: et telle que R : = { z E U1 I p l ( z ) < O } . Puisque aucun point du bord de est un minimum local de pi et puisque pi est strictement convexe, @I(<) # O pour tout E 801. Par conséquent on peut trouver E > O assez petit pour que O: = { z E U1 I p l (2) < E } CC U1. Choisissons des fonctions de classe C", f et y, de W dans IR ayant les propriétés suivantes : > O, g ( t )2 O 2 O et ( t ) 2 O pour tout t E IR,-1 < f ( t ) < û , s i t < û,f(û)= O , f ( t ) > 0 , s i t > û , g ( t ) = & s i t 5 O, g ( t ) > O,sit > Oetg(t) = i , s i t > E . Posonscp(z,y) = f ( z ) + g ( y ) s i ( s , y ) E IR2. Alors cp est une fonction convexe de classe 6"' sur IR2 qui vérifie ( 5 , ~>) O et @(z,y) 2 O sur IR^, cp(z,y) > O, si max(z,y - E ) > O et cp(z,y) < O, si z < O

01,

01

g(t)

g(t)

<

3

2

aY

3. Pseudoconvexité

141

et y 5 O. Alors $ ( z ) = cp(p(z),pl(z))est une fonction strictement convexe de classe C2 et si R = { z E Ul I $ ( z ) < O}, alors 0: n D c R c Qf n D et donc K c c UK n D. Puisque $ est strictement convexe et qu’aucun point du bord de R est un minimum local de $ , d $ ( z ) # O si z E dR et par conséquent R est un ouvert strictement convexe à bord C2.

n

Théorème 3.23. Soient V un ouvert de Cn et p une fonction strictement plurisousharmonique de classe C 2 sur V telle que d p ( z ) # O pour tout z E î = { z E V I p ( z ) = O } . SoitD = { z E V 1 p ( z ) < O } . Alorspourtoutpointl E r ilexisteun voisinage Uc de et un ouvert strictement pseudoconvexe à bord C2, CC Cn, tel que i) U c n D c R c D . ii) Il existe une application biholomorphe h défnie sur un voisinage convexe d e n telle que h(R) soit strictement convexe.

Démonstration. D’après le Théorème 2.23, il existe une application biholomorphe h d u n voisinage convexe V, de dans Cn sur un ouvert W de Cn telle que p O h-’ soit strictement convexe sur l’ouvert W . Soit U’ CC W une boule centrée en h ( l ) . D’après le Lemme 3.22, il existe un ouvert 0’ strictement convexe à bord C2 tel que -I U n h(V, n D)C 2’ c h(Vc f? D). En posant Ut = h-’(U’) et R = h-’(Q’) on obtient le théorème. O Corollaire3.24. Un ouvert R relativement compact dans C“ à bordC2 est strictement pseudoconvexe si et seulement si, pour tout point E d o , il existe un voisinage Uc de dans CTzet une application biholomorphe h, défnie sur un voisinage convexe de Üc telle que he (Uc n R) soit un ouvert strictement convexe à bord C2.

Démonstration. La condition est nécessaire d’après le Théorème 3.23. Elle est suffisante par définition des ouverts strictement pseudoconvexes car la condition (3.8) O est invariante par changement de coordonnées holomorphes.

Remarque : Nous venons de prouver que la pseudoconvexité stricte est la formulation localement biholomorphiquement invariante de la convexité stricte. Un contre-exemple dû à J.J. Kohn et L. Nirenberg montre qu’il n’y a pas de relation analogue entre la convexité et la pseudoconvexité même lorsque le bord du domaine est de classe C 2 (cf [KolNil). Commentaires. L‘histoire de la caractérisation des domaines d’existence des fonctions holomorphes débute avec les travaux de E Hartogs et E.E. Levi dans les premières années du siècle. La caractérisation en termes de convexité holomorphe est due à H. Cartan et I! Thullen [CalTh]. Les fonctions plurisousharmoniques ont été introduites par K. Oka et P Lelong, qui en ont décrit les principales propriétés [Lelll. La plurisousharmonicitéde lafonction -log&, dont l’idée remonteà Hartogs [Harl, a été prouvée par K. Oka [Okl, P Lelong [Le121et H. Bremermann [Br2].La condition

142

VI. Domaines d'holomorphie et pseudoconvexité

de Levi pour un domaine dholomorphie a été découverte en 1910 par E.E. Levi [Lev] dans le cas de deux variables L'ensemble des notions introduites et des théorèmes exposés dans ce chapitre se trouvent dans la plupart des livres consacrés à la théorie des fonctions de plusieurs variables complexes, [HelLell, [HoZl, [Kr], [Nall, [Ra],par exemple. Nous avons tout particulièrement suivi l'exposé de Range [Ra] pour le Théorème de Cartan-Thullen et la convexité holomorphe, celui de Hormander [HO21 pour les fonctions plurisousharmoniques et la pseudoconvexité et celui de Henkin et Leiterer [HelLell pour les domaines strictement pseudoconvexes à bord C2.

Chapitre VI1

Problème de Levi et résolution du d dans les domaines strictement pseudoconvexes

Ce chapitre est consacré à la résolution du problème de Levi, c’est-à-dire à la démonsest un domaine d’holomorphie. La tration du fait que tout ouvert pseudoconvexe de méthode utilisée est l’étude du d dans les ouverts pseudoconvexes à l’aide de formules de représentation intégrale locales pour les domaines strictement pseudoconvexes et de la technique des bosses due à Grauert. Nous commençons par étudier la résolution de l’équation de Cauchy-Riemann dans les domaines strictement convexes bornés à bord c2 de A l’aide de la formule de Cauchy-Fantappié introduite au chapitre V, nous prouvons que la solution est holdérienne d’ordre 1 / 2 lorsque la donnée est continue sur l’adhérence du domaine. Ce résultat associé à l’identité locale entre les domaines strictement pseudoconvexes à bord et les domaines strictement convexes nous permet d’obtenir, par des techniques d’analyse fonctionnelle, un théorème de finitude pour certains groupes de d-cohomologie. Nous développons la méthode des bosses de Grauert au paragraphe 4 pour prouver que ces groupes de 3-cohomologie sont isomorphes aux groupes de cohomologie de Dolbeault définis au chapitre II. Un résultat dû à Laufer, que nous présentons au paragraphe 5 , donne finalement l’annulation des groupes de cohomologie de Dolbeault sur les ouverts strictement pseudoLe paragraphe 6 est consacré à la construction d’une convexes bornés à bord c2 de formule intégrale globale pour résoudre le d dans les ouverts strictement pseudoconvexes Nous résolvons enfin le problème de Levi au paragraphe 7. Le derbornés à bord c2de nier paragraphe généralise les résultats des paragraphes précédents aux variétés analytiques complexes. Nous obtenons la caractérisation des variétés de Stein en termes de pseudoconvexité. Nous prouvons également des théorèmes d’annulation pour la cohomologie de Dolbeault à support compact ce qui nous permet, en les associant aux résultats cohomologiques du chapitre V, de donner des conditions géométriques suffisantes pour l’extension des fonctions CR.

en

en.

c2

en.

en.

VU. Problème de Levi

144

1. RÉSOLUTIONDU

a AVEC ESTIMATIONSHOLDÉRIENNES

DANS LES OUVERTS STRICTEMENT CONVEXES

Soit D un ouvert borné strictement convexe à bord C2 de Cn . Alors il existe une fonction p à valeurs réelles de classe C2 dans Cn telle que D = { z E Cn I p ( z ) <

t

E IR2", où CY est un réel strictement positif et xj = xj ( z ) sont les coordonnées réelles du point z E Cn teiles que zj = xj ( z ) ixj+, ( z ) .Comme nous l'avons vu au chapitre V, paragraphe 3,

+

est une section de Leraypour l'ouvert D . Puisque D est strictement convexe, nous avons l'estimation plus précise suivante : Lemme 1.1. Il existe un voisinage UaD du bord de D et des nombres réels strictement positifs E etP tels que, pour tout C E UaD et z E Cn tels que IC - z I 5 E , on ait 2 Re(w,(C),C - 2 )

(1.1)

Démonstration. Soient xj = = xj(C) + zj+n(C).Alors

2 P(C) - P ( Z ) + PIC - zI2.

xj(C) les

coordonnées réelles de C E Cn telles que

Cj

2 Re(w,(C),C

- 2)

En écrivant la formule de Taylor-Young on obtient

+ O(IC

-

zI2),

ce qui implique, puisque p est strictement convexe, que pour E assez petit et C dans un voisinage UaD de d D 2Re(w,(C),C - 4

CY

2 P(C) - P ( Z ) + CI,

- ZIZI si IC

-

zI

IE.

O

Dans le chapitre V, nous avons prouvé le théorème suivant : Théorème 1.2. SoientD un ouvert convexe bornédeCn à bord de classeC2, e t p une fonction dépnissante de classeC2 pour D . Alors pour toute ( p , q )-forme différentielle

-

1. Résolution du d avec estimations holdériennes

f continue sur D et telle que 3f soit aussi continue sur D, O

145

Ip 5

n,O

Iq 5

n,

on a

f = L f +Tfaf

surD, siq = O

f =dT,Pf +T,f,df

surD,sil 5 q 5 n

O ù L f = ScEaDf (0 A KWP(.,<) et

T:f = (-l)p+q(

1

f (0 A

(C?A)€aox[o,11

(.,C,X)

+

LED

f (Cl A

w.0)

En particuliersid f = O etq 2 1, u = T[ f est solution de l'équation& = f sur D . De plus si f est de classeCk dans D , alors u = T t f est de classeCk++adans D pour toutcu E]0,1[. L'estimation donnée dans le Lemme 1.1 va nous permettre d'obtenir une estimation en norme holdérienne d'ordre 1 / 2 pour la solution du dans le cas des domaines strictement convexes à bord de classe C2.

a

Nous avons déjà prouvé au chapitre III, Proposition 2.1, que, si D est un ouvert borné de @" et f une forme différentielle bornée sur D ,

Lemme 1.3. Soient D un ouvert borné de Cn à bord de classe C', et Va0 et U s des voisinagesdedD e t D . Soitw(z,<) = (wl(z,<),. . . ,wn(z,C))uneapplicationde classe C' de lJEx U ~ dans D C" ayant les propriétés suivantes : i) w(z,C)dépend holomorphiquement de z sur UE et (donc) dCw(z,<)dépend aussi holomorphiquementde z sur UD. ii) w(z,<)est unesection de LeraypourD. iii) Pour tout point [ E d D , il existe un voisinage Uc de et des fonctions de classe C' à valeurs réelles t l ( z , < ) ,. . . ,t2n-l(z,C) définies pour z et C dans un voisinage Uc de [ telles que (a) pour tout z E Uc,tl(z,.), . . . ,tan-1(z,.) sont des coordonnées réelles sur d D n Uc (bl il existe 6 > O tel que pour tout z E D n Ut et< E d D n Ut on ait

(1.2)

l ( w ( ~ , o l C- .)I

2 6(ltl(.,<)l

+ It(.,C)12 + d i s t ( z , d D ) )

2n- 1

où It(z,<)12=

j=l

Itj(,z,<)12etdist(z,dD) = inf{Iz

-

zI,z E d o } .

VU. Problème de Levi

146

Alors il existe une constante C telle que pour toute forme différentielle f continue

sur D lR&fll/2,D

5 C1.f 10,D.

Démonstration. Notons que si n = 1,RzD = O. On suppose désormais que n 2 2 et on pose @(.,I) = (w(z,C),<- z ) . L'écriture sous forme de déterminant nous donne

(2i7r)TLR;Df(z) = ( 1 3)

f (
~C.*)taD~Io.ll

~ d e t 1 , n - i( v ~ ( ~ , C , A ) >+(~~A~ ),vC~ ( ~ ' c , AA W ) )( C

--

avec VW(.,CJ) = (1 - 4-w ( z ' c ) det(al,. . . , a l , . . . , u r n , .. . ,urn).

- 2)

+ A IC-zl c-- 4 et où dets,...Sm(ul,. . .,urn) = -

s*

s1

Pour simplifier nous supposerons que f est de bidegré (0,q) ; nous pouvons donc remplacer w (( - z ) par w (C) dans (1.3).Grâce à l'hypothèse il, 8, w = O et aZ@= O, d'où

En développant le déterminant dans (1.3),on obtient alors

où les p , sont des polynômes en A. et une intégration par rapport à X donne

Les coefficients de la forme différentielle RawDf sont donc des combinaisons linéaires d'intégrales du type suivant

où O 5 s 5 n - 2 , l 5 m 5 n, f l est un des coefficients de f et 11, le produit de fonctions du type wj <. - Z j et -"L,j , k = 1, . . . ,n. Comme 11, contient au moins

cj

' 3

un facteur du type

-

aCk

ZJ,il existe une constante Cl telle que 111,I 5 C1 IC - zl.

Pour estimer les intégrales (1.4) nous utiliserons un lemme dû à Hardy et Littlewood.

-

1. Résolution du

a avec estimations holdériennes

147

Lemme 1.4. On considère D un domaine borné de R", à bord de classe C1 et g E C1 (D) une fonction vérifiant Idg(z)I 5 C,[dist(z,ûD)]"-'

où C, est une constante positive et Q ~ ] 0 , 1 [Alors . g E A" (D). De plus il existe un compact K de D et une constante C > O ne dépendant que de D et de Q tels que lSIa,D

w, +

I

191Kl.

Démonstration. Démontrons, pour commencer, le résultat suivant :

( I1 existe E E]0,1[ tel que, si g est une fonction de classe C1 dans D qui vérifie

I dg(x)I 5 C, [dist(z,dD)]"-', alors 1g(z) - g(y)1 5 CC,Iz

-

y[", siz,y E D avec 1z - y1

<E

Puisque dD est de classe C1, il existe E > O assez petit et C' > O tels que si z , y E D vérifient dist(z,dD) < E , dist(y,dD) < E et 111: - y1 < E , il existe une fonction y,,, : [0,31z - y11 + D de classe C1 vérifiant Y,,~(O) = ~,y,,~(31z- y [ ) = Y , / & % , ~ ( X ) ~ I C'si E [0,31z- 1/11, dist(y,,,(X),dD) 2 X si X E [O,lx- YI], dist(y,,,(X),dD) 2 12 - y1 si X E [Ix - y1,21z - y11 et dist(y,,,(X),dD) 2 On obtient alors 312 - 1/I - si X E [21z - y1,31z -

YI].

2

5 (-

(Y

+ l)C'C,lz

-

YIa.

Posons K = {z E D 1 dist(z,dD) 2 ~ / 2 } Puisque . D est borné, K est compact. De plus, puisque g est de classe C1 si z,y E K et Iz - y1 < E ,

1g(x) - g ( y ) I 5 C"1x - y1 5 C"Iz

-

yla

si

E

cequiprouvel'assertion (1.5).Ilrésultealorsde (1.5)que 1910 5 IglK+CCgEa +m. Donc si Iz - y1 > E ,

<

VU. Problème de Levi

148

Suite de la démonstration du Lemme 1.3. Grâce au Lemme 1.4, il suffit donc de prouver que pour tout j = 1, . . . ,TI et z E D

où C est une constante indépendante de z E D et de f. On a

a

11,

azj @n-s-ilç

$,%

-

Comme et existe une constante

212s+2

-

a+/azj I< - 2 p + 2

- ( n - s - l)(a@/azj)7/5

an-s-1

sont bornés pour ( z , ( ) E

@7L+SI<

is x

-

a D et /?,hl

42s+2

L CI/<- 21, il

C2 telle que

On peut donc trouver une constante C3 telle que Par

az,

( z ) et

(2)

soient majorés

où dg2n-1 est la forme volume sur dD. Montrons que, pour tout { E d D , il existe un voisinage U, de { et une constante E D n U, on ait

C, tels que pour z

et

-

I. Résolution du d avec estimations holdériennes

149

<

Etudions tout d'abord (1.9). Fixons J E d D et considérons un voisinage U , de et des coordonnées tl(z,<), . . . ,t2n-1(z,<) vérifiant l'hypothèse iii) du Lemme 1.3. Notons p(z,<) la fonction définie pour z E U, ,C E d D nUc,teiie que pour z E Ut fixé dg2n-i = ~ ( z , < ) d < t i ( z , A < ). . . A d Otelquepourz E U<,<E d D n U [ o n a i t I < - z l 2 ylt(z,<)letdonc pour z E D n Uc dg2n-1 kDnU<

I@ln-sl<

'

-

~ ( z , < ) d ~ t i ( z A, <. ). . A d
+

+

(Itl(z,<)I It(z,<)12 dist(z,dD))n-Slt(z,<)12s+1. Quitte à restreindre Uc , on peut trouver des constantes r et R telles que Ip(z,<)15r si z E Ut et E d D n U , et pour tout z E U, la surface d D n U, soit envoyée par le difféomorphisme e ( t l ( z , < )., . . ,t2n-1(z,<)) sur un ouvert de la boule de centre O et de rayon R de R2n-1, on a alors dg2n- 1 <

<

kDnUc

1@1"-"1<

<

-

z12s + 1

-

6n-sy2s+l

1

,GRZn-l

dxl A . . . A dx2n-l

(1x11

+ 1xI2+ dist(z,dD))n-s1x12S+1

mais (1x11 /z/' dist(z,dD))n-slz12S+12 (1x11 et par conséquent

+

+

+ 1x12+ d i ~ t ( z , d D ) ) ~ ~ x ~ ~ " - ~

De manière analogue pour prouver (1.10) on obtient

dxl A . . . A dXzn-l bn-s-ly2s+2 I1 reste donc à estimer les membres de droite de (1.11)et (1.12) pour terminer la démonstration de (1.9) et (1.10).

Lemme 1.5. Soientn 2 1 e t R E > O, on ait

> O. Ilexisteuneconstantec > O tellequepourtout

VIL Problème de Levi

150

Démonstration. Prouvons 2). Pour n = 1,on a

Pour n

2 2, si x’ = ( 2 2 , . . . ,x,),

une intégration par rapport àlavariable x1 donne

Montrons i i )

O Fin de la démonstration du Lemme 1.3. Pour [ E d D , soit Ut un voisinage de [ tel que (1.9) et (1.10) soient satisfaites pour z E Ut n D. Si V, CC Ut est un voisinage de 6 , les I < P . J n -duzn-l s-lIC-ZIZs+Z JaD\u, I < P l nde2n-i - s l C - ~ I Z s + l et JaD\C; sont clairement bornées sur V, n D , par conséquent pour z E Vc ri D (1.13) et (1.14) Grâce àla compacité de d D , on peut donc trouver un voisinage V de aD tel que les premiers membres de (1.13) et (1.14) soient bornés par C [ d i ~ t ( z , d D ) ] - ~pour /’ tout z E V n D. Comme sur D \ V ces deux intégrales sont bornées cela termine la preuve du lemme. O

Théorème 1.6. Soit D un domaine borné strictement convexe à bord C2 de C”. II existe une constantec > O telle que pour toute forme différentiellef continue s u r D (1.15)

I R”f

+ G;Dflll/2,D 5 clfIû,D.

En particulier si f est une ( p , q )-forme différentielle continue s u r n , O 5 p 5 n, (-l)p+q(R” f +EDf ) del’équation

1 5 q 5 n, tellequedf = O, lasolutionu = d u = f sur D satisfait l’estimation

(1.16)

1’41/2,D 5 Clf10,D.

1. Résolution du d avec estimations holdénennes

151

Démonstration. Grâce au Théorème 1.2 et au Lemme 1.3, il suffit de prouver que la section de Leray w passociée au domaine D vérifie les hypothèses du Lemme 1.3 pour obtenir l’estimation (1.15). Soit p une fonction définissante strictement convexe de D sur UT,alors

est une section de Leray pour D donc ii) est vérifiée. La section w pest indépendante de z , elle satisfait donc également i). I1 reste à montrer iii). Notons xj = zj(() les coordonnées réelles de C E @” telles que (3 = zj(<) i ~ j + ~ ( ( )Posons . t1(z,O = I m ( w p ( 0 , ~ 2). Alors

+

# O, pour tout z E d D , car le coefficient de dz, ( z ) A dans la forme différentielle d g t l ( z , ( ) l C = e A d p ( z ) est -f (%(z))’ +

Mais d~tl(z,c) dz,+,(z)

A &(a)

(

(e

( z ) ) ~ )ce , qui ne peut être nul pour tout j = 1, . . . ,n,car d p ( z ) # O. Fixons

E aD,onpeutalorstrouverunvoisinageUc d e t e t desfonctionstz, . . . , t ~ , ~ - de 1 classe C1 sur Uc telles que pour tout z E Uc fixé, (tl ( z ; ) , t 2 , .. . .tznp1) soient des coordonnéeslocalessurdDnUC. PosonstJ(z.() = t , ( ( ) - t , ( z ) pourz,Ç E Uc et = 2 , . . .,2n-1. Pourtoutz E Uc, ( t l ( z > , ) , t z ( z , . ). ,. ,tan-l(z,.))sontalorsdes coordonnées locales sur d D n Uc. Prouvons maintenant l’inégalité (1.2). Puisque t , ( z , z ) = O, quitte à restreindre Uc, il résulte de la formule de Taylor qu’il existe 61 > Otelque I(-- zI 2 61/t(z,()l siz,( E Uc.Aprèsunenouvellerestrictionde Uc, le Lemme 1.1 implique qu’il existe 6 2 tel que pour z,<E Uc

2I(wpKM - .)I 2 62(ltl(Z,C)I + P ( 0 - d.1 + It(< - z)I2), ce qui prouve (1.2) car p = O sur d D et, après restriction de Uc, il existe 63 que - p ( z ) 2 d3 dist(z,dD) si z E D n Uc.

> O tel O

Terminons cette étude en prouvant à l’aide d’un contre-exemple dû à E.M. Stein que l’estimation holdérienne d’ordre 1/2 que nous venons d‘obtenir ne peut pas être améliorée.

+

Soit D = ((z1,zz) E Cn I 1z1I2 1zZI2 < l} la boule unité de C2. Notons log la détermination du logarithme définie sur @ \ R+ et pour laquelle l’argument varie entre O et 27r. On pose

(z1,zZ)= (1,O). C’est une (0,l)-forme différentielle de classe C” sur D \ { (1,O)) car log(z1 - 1) si

ne s’annule pas si z1 !$ (1,

+

CO).

De plus, f est continue sur 0, car 1 log(z1

-

VIL Problème de Levi

152

1)I tend vers

03

quand z1

+

let l'holomorphie de la fonction z e --I.-.log(z1-1)

af

sur D implique que = O dans D. Nous allons prouver que, si 1/2, il n'existe pas de fonction u définie sur D telle que au = f sur D et Iul,,~ < +m. Supposons que u soit solution de l'équation au = f et vérifie Iul,,~< +m.

"(e) -

-

Puisque = f,la fonction u - A log(z1-1) est holomorphe dans D. Soit E tel q u e 0 < 2~ < 1, dorsles cercles { ( z I , t z ) E C2 1 21 = 1 - E , J z Z J = &} et { (z1,za) E C2 I z1 = 1 - 2~,Iz21= fi}sont contenus-dans D. Appliquons le Théorème de Cauchy à la fonction z2 ct u(zlrz2) - i o g ( ~ ~ - l sur ) chacun des cercles. On obtient alors

-

Puisque 1 ~ 1 , < ~ +CO, il existe donc une constante C vérifiant O < 2~ < 1,on ait

1I E ~ +

1 log(-E) ~-

lOg(-2E)

1

2i7r~ lOg(-2E)

'

> O telle que, pour tout E

< CEa-1/2.

+

+

Or log( - E ) = Log z7r et log( - 2 ~ ) = Log 2 Log I E ~ ZT, par conséquent Log 2 5 log(-€) l o g ( - 2 ~ ) / ce , qui est impossible.

CE^-^/^^

En utilisant le Corollaire 3.22 du chapitre Vi, on déduit du Théorème 1.6 un résultat de résolubilité locale dans les domaines strictement pseudoconvexes bornés à bord de classe C2. un ouvert borné strictement pseudoconvexe à bord C2 de C" 5 p 5 n , l 5 q 5 n, continue sura et d-fermée sur R. Alors pour tout< E d a , il existe un voisinage Uc de dans Cn, une ( p , q - 1)-forme dflérentielle uc E (U, n R) et une constante Cc > O telle queduc = f suru< etIu
et f une formediflérentiellede type ( p , q ) ,O

<

Démonstration. Si 5 E d o , il résulte du Corollaire 3.22 du chapitre Vi, qu'il existe un voisinage Ut de dans Cn et une application biholomorphe hc définie auvoisinage de Üc telle que hc (Ucrio)soit un domaine borné strictement convexe à bordC2. Si onposeuc = hiTh<= f,oùT = R:[(ucno) Bh(U,no),uc satisfait les conditions O demandées grâce au Théorème 1.6.

<

+

I

2. Approximation uniforme locale des formes d-fermées

153

2. APPROXIMATION UNIFORMELOCALE DES FORMES ~ - F E R M É E S DANS LES DOMAINES STRICTEMENT PSEUDOCONVEXES

Prouvons pour commencer que toute fonction holomorphe définie au voisinage d u n convexe compact de C" peut être approchée uniformément sur cet ensemble par des fonctions holomorphes dans C" . Proposition 2.1. Soient K un convexe compact de C" et V un voisinage de K . Alors

toute (p,O) -forme holomorphe sur V,O 5 p 5 n peut être approchée uniformément sur K par des (p,O)-formes holomorphes dans C" . Démonstration. Puisque K est un convexe compact de C" et V un voisinage de K , il existe un ouvert convexe D , à bord de classe C2 tel que K c D cc V et D = ( 2 E C" I p ( z ) < O}, où p est une fonction convexe de classe C2 dans Cn telle que d p ( z ) # O si z E C" \ D. Soit h une (p,O)-formeholomorphe sur V. Posons D , = ( 2 E C" I p ( z ) < cy} et notons a0 la borne supérieure des cy E R pour lesquels h peut être approchée uniformément sur K par des (p,O)formes holomorphes sur Da. Puisque K c D CC V ,on a a0 > O. Nous allons prouver dans un premier temps que (YO = +m. Raisonnons par l'absurde et supposons que (YO < +m. Pour tout cy > O, considérons la section de Leray w,(<)= .. pour Da alors @(z,<) = ( ~ p ( C ) , <- 4 est une fonction holomorphe par rapport à z dans C" . Soit 6 > O, assez petit. Par définition de ao, la (p,O)-forme h peut être approchée uniformément sur K par des (p,O)-formes holomorphes dans un voisinage de Dao-6. Pour obtenir la contradiction, il suffit de prouver que toute @,O)-forme holomorphe dans un voisinage de Dao-6 peut être approchée uniformément sur K par des @,O)-formes holomorphes sur Dan+&. D'après la formule de Leray, si f est une (p,O)-forme holo" .

(+y<),. ,$y<))

f(c)

w'

morphe au voisinage de Dao-&, on a f ( z ) = Qn(z,c) , si z E Dao-6. Puisque dD,,-6 est compact, pour obtenir l'approximation cherchée, il suffit de montrer que pour tout [O E dD,,-6 fixé la fonction peut être approchée uniformément sur K x V&,où Vc, est un voisinage de €0 dans aD,,-6, par des fonctions holomorphes en z sur Dao+6.Fixons €0 E dD,,-a et choisissons un nombre fini de points E l , . . . ,& tels que cy0 - 6 = p(Ji) < . . . < (WP(C))AW(C)

&

p ( ~ =) cy0 + S e t sup

wl

ZEK

1

-

@b

-1)

,&I

I < 1pour j

= 1, . . . ,k.Remarquons que

@(z,€3)

siIl < i p o u r t o u t z E ~ , o n a z.s-~~ FuK p I i ?k& @.(ZLl) un voisinage V,, de €0. On a alors, pour E Vc,, 1

<

où la convergence est uniforme sur K x V,, et

I<

T

< 1pour < dans

VII. Problème de Levi

154

où la convergence est uniforme par rapport à z dans K . Par conséquent la fonction a ( ~ , cpeut l être approchée uniformément sur K x V,, par des polynômes en ~

@ ( z , < ) , @ ( z > <. l. )>@(z,. et qui sont des fonctions holomorphes sur Dao+b.Après intégration sur BD,,-d, en utilisant une partition de l'unité finie subordonnée à un recouvrement fini de 8D,,-b par des ouverts du type Vco,on obtient une approximation uniforme de f sur K par des (p,O)-formes holomorphes sur Dao+6.Par conséquent cy0 = fm. Pour terminer la démonstration, il reste à montrer que pour tout E > O, il existe une suite de (p,O)-formes holomorphes g j définies sur Dj+i, j = 0,1,. . . telle que go = h ( D = Do c V )et

En effet, alors ( g j ) j G N converge uniformément sur tout compact de Cn vers une (p,O)-forme g holomorphe dans C" et sup Ih - g1 < E . Pour construire cette suite, K

supposons g o , . . . ,gk déjà connus (pour k = 0,go = h) et puisque DI, est convexe compact, la méthode que nous venons d'utiliser donne l'existence de (p,O)-formes holomorphes g k + i définie sur Dk+2 telles que 1gk ( z )- g k + 1 ( z )I < & pour tout z E Dk. O Théorème 2.2. Soit D un ouvert strictement convexe borné à bord C2 de C". Si K est un compact de D, toute forme différentielleû-ferméesur D et continue sur D est limite uniforme sur K de formes différentiellesd-fermées continues dans

e".

Démonstration. Quitte à faire une translation, on peut supposer que O E D. Soit X > 1 un réel, notons D A = { z E C" I E D } , D A est un ouvert strictement convexe borné à bord C2 de C" contenant D. Si f est une (p,q)-forme différentielle 8-fermée sur D et continue sur D, O 5 p , q 5 n, on pose f x = pif où cpx est l'homothétie de rapport ; fx est alors une (p,g)-formedifférentielle 8-fermée sur D A .Fixons E > O et choisissons X > 1 tel que

Supposons dans un premier temps que q = O. La (p,O)-forme holomorphe f x est définie sur le voisinage D A du convexe compact D. Par la Proposition 2.1, il existe une (p,O)-forme g holomorphe dans Cn teile que

On déduit alors de (2.1) et (2.2) que supD Siq

If

-

gI

< E.

2 1,ilexisteux E C : , ~ - ~ ( teiiequedux D ~ )

= fxsurDx+i,carDx+i

est un ouvert borné strictement convexe à bord C2 contenu dans D A (cf th. 1.2). Puisque Dx+i contient D, on peut trouver une fonction xx de classe C" à support

3. Finitude de la cohomologie de Dolbeault

155

compact dans Dx+l et égale à 1 sur D. On pose alors g = dxxux et grâce à (2.1) supDIf - g1 <

5 < E.

O

Corollaire 2.3. Soit R un ouvert borné strictement pseudoconvexe à bord C2 de C” .

<

<

Pour tout E 8 0 , il existe u n voisinage Uc de dans C” tel que toute forme dif~férentielle continue sur Uc n 0, ô-fermée dans Uc ri R est limite uniforme sur tout compact d e n n Uc de formes différentielles continues, d-fermées dans Cn . Démonstration. C’est une conséquence immédiate du Théorème 2.2 et du Corollaire 3.24 du chapitre Vi. O

3. FINITUDE DE LA COHOMOLOGIEDE DOLBEAULT

DANS LES DOMAiNES STRICTEMENT PSEUDOCONVEXES

Le but de ce paragraphe est de déduire de la résolution locale du 8 avec estimations holdériennes des théorèmes de finitude pour certains groupes de 8-cohomologie. Pour cela nous aurons besoin de quelques notions et résultats d’analyse fonctionnelle qui sont rappelés dans l’annexe C. Soit D un ouvert borné de C”, nous considèrerons les espaces de Banach des (p,q)-formes différentielles continues sur et Ap{i(D) des ( p , q ) formes différentielles holdériennes d’ordre 1/2 sur D ( c f .chapitre I I I , 5 2). On pose I ~ i / 2~ , - ~ = ( DO )et si q 2 1 on note F pi / ,2q - l ( D )le domaine de définition

e:,@)

de l’opérateur 8 en tant qu’opérateur de AP(i-l(D) dans Ci,,@),

c’est-à-dire le

af,

sous-espace des formes différentielles f E AP(:-l(D) telles que pris au sens des distributions, soit continue dans D et admette une extension continue à D. On pose E i ( q ( D ) = 8(F’-l(D)). On note le sous-espace des formes différentielles f E Ci,,(D) telles que 8f = O dans D , c’est un sous-espace fermé de l’espace de Banach C&(D). Enfin, nous noterons H:,’l,,(D) le quotient

Zi,,(o)

q,, (D)/G(Q (D). Proposition 3.1. Soient D un ouvert strictement pseudoconvexe borné à bord C2 de C” ,p et q des entiers tels que O 5 p 5 n,O 5 q 5 n. Alors

il il existe des opérateurs linéaires continus TpP de l’espace C,”,,(D)dans E ’ e s p a c e A ~ ~ ~ - l telsque, (D) si f E C,”,,(D)vérifieaf E e,”,,@), o n a

(3.1)

f

= dT,Pf

+ T;+,df + KQ f

où KQest un opérateur compact deC,”,,(D) dans lui-même. ii) Si q 2 1,aT; définit un opérateur linéaire continu de ZP,,(D) dans luimême dont l’image est de codimensionfinie.

156

VU. Problème de Levi

iii) E&?(D) est un sous-espace uectoriel fermé de codimension finie de

(D).

zp,q

Démonstration. D’après le Corollaire 3.24 du chapitre VI, il existe un recouvrement fini de D par des ouverts U1, . . . ,Um de Cn tels que, pour tout j = 1, . . . ,m, il existe une application biholomorphe hj définie sur un voisinage de vj telle que hj (Uj n D ) soit un ouvert borné strictement convexe à bord de classe C2. I1 résulte alors des Théorèmes 1.2 et 1.6 que l’on peut trouver des opérateurs linéaires continus (T:)j,j = 1 , .. . ,m,deCi,,(D) dans AP(:-l(Uj n D ) tels que, si f E Cp,,(D) etaf E

Cp,q+l(D),

+

f = d(T,P)jf (T,+l)jdf sur Uj n D. Choisissons des fonctions ( ~ j ) j = l , , ,de . , classe ~ C” à support compact dans Cn telles que D n supp ‘ p j

c Uj et

m

= 1 sur D et posons T: f =

‘pj j=l

pour

f

E

Cp”,,(D).

CE,, (D)dans-:!iA

m j=l

f,

‘ p j (T,P)j

Nous avons ainsi défini un opérateur linéaire continu de

( D )qui vérifie m

f = aT,Pf + T,+,af-

acpj A

(T,P)jf

sur

D.

j=l

Posons Kif = -

m -

dpjA(T,P)jf,pour f E Ci,,(D).L‘opérateur K i ainsidéfini

j=l

est un opérateur linéaire continu de ( D )dans Ai(: (D). Grâce au Théorème d’Ascoli c’est donc un opérateur compact de Cp”,,(D)dans lui-même, d‘où il. De plus KQenvoie Zp,q(o) dans lui-même. En effet, si f E Zi,q(D), on a -

dKtf =

m

m

j=l

j=l

-a ( Cà‘pjA (T,P)jf) = C a V j A a(T,p)jf m

Af

=

d‘après (3.21, car

f

E

ZP,,(o)

j=l

m

=O

puisque

C’pi= i

sur

-

D.

j=l

D’après (3.1),aT: = I - K QP sur Zp,,(n), pour q 2 1 et, K i étant compact, l’image de I - KQest de codimension finie dans Zp,,(D), ce qui prouve ii). L‘assertion iii) résulte de la proposition 4 de l’annexe C car EP(:(D), qui est l’image par de ( D ) ,est de codimension finie puisqu’il contient l’image de

-

dT$

a

O

Corollaire 3.2. Si D est un ouvert strictement pseudoconuexe borné à bord C2 de Cn alors dimHi,’f,2(D) < +CO, si O 5 p 5 n et 1 5 q 5 n.

4. Invariance de la cohomologie de Dolbeault

157

4. INVARIANCE DE LA COHOMOLOGIE DE DOLBEAULT

PAR LES EXTENSIONS STRICTEMENTPSEUDOCONVEXES A l’aide de la Beulenmethode de Grauert, nous allons prouver que pour un domaine strictement pseudoconvexe borné R de @” le groupe de d-cohomologie HP” (E)est isomorphe au groupe de cohomologie de Dolbeault H p > q ( R )défini %1/2 au chapitre II. Le Corollaire 3.2 impliquera alors que les groupes de cohomologie de Dolbeault d’un domaine strictement pseudoconvexe borné de @” sont de dimension finie.

Définition 4.1. On appelle extension strictement pseudoconvexe élémentaire un couple ordonné [ e 1 , & ] d’ouverts de @” à bord de classe C 2 tel que û1 c 8 2 , satisfaisant la condition suivante : il existe un ouvert V contenant 02 \ 61, des domaines Dl et D Z strictement pseudoconvexes tels que Dl c D2, 02 = 01 U D2, 81 n D2 = D1,(81 \ D z ) n (O2 \ 8 1 ) = 0 et uneapplication biholomorphedéj7nie sur un voisinage de telle que h ( D j ) , j = 1,2, soit un domaine borné strictement convexe à bord C z de C” .

v

Lemme 4.2. Soit [81,02]une extension strictement pseudoconvexe élémentaire. Alors pour tout ( p , q ) ,O 5 p 5 n et0 5 q 5 n

i) l’application restriction H:,’:/z(8z)

+ H i ; : / i ( ë l ) estsurjective, siq 2 1, + H:;:/2(81) est injective, siq 2 2

ii) l’application restriction H:;:/,(&) 1 et 81 strictement pseudoconvexe borné, iii) l’application restriction 2,”,,(82) + 2:,,(81) est d’image dense, si 81 est strictement pseudoconvexe borné. et si q

=

_

_

_

~

Demonstration. Puisque (01 \ OZ) n ( 8 2 \ 81) = 0,on peut trouver des voisinages V‘ et V” de e 2 \ 81 tels que V’ Cc V” Cc V et V” n ( 0 , \ D i ) = 0.Choisissons une fonction x de classe C” dans C” telle que x = 1 sur V’ et supp x c V”.

Montrons il. Soit f i E 2,”,,(81),1

5 q 5 n, on cherche des formes différen-

tielles u1 E AP{:-l(el> et f 2 E ZP,,(~Z) telles que fz = f i - 3u1 sur 01. Comme est l’image par une application biholomorphe, définie au voisinage de Di, d’un domaine strictement convexe borné à bord C 2 , il existe u E A‘/’(D1) telle que f i = au sur D1 ( c f Théorème 1.6). Posons

Les formes différentielles u1 et fz satisfont les conditions demandées. 1/z Prouvons iil. Soient f2 E 2;,,(82) et u1 E A P , q - l ( û l )telles que du1 = fi 1/2 sur 01, nous cherchons uz E A,,,-,(&) telle que du2 = f i sur 82. Comme D i est l’image par une application biholomorphe, définie au voisinage de 0 2 , d’un

VII. Problème de Levi

158

1/2 domaine strictement convexe borné à bord C 2 , il existe u E Ap,q-l (Dz)telle que f2 = au sur 02 et par conséquent u - u1 E (01).

z:,~-~

1/2 Si q 2 2, il existe 2i E Ap,q-.2(D1) telle que 8 v = u û(x2i)= u sur V’ n ûl. Posons

-

-

u1 sur DI. Alors u1

-

aiorsu E AP,,-,(û2) 112 etau2 = fi sur&. Supposons que q = 1 et 01 est strictement pseudoconvexe borné. I1 résulte alors de la définition des extensions strictement pseudoconvexe élémentaires que 82 est aussi strictement pseudoconvexe borné et par conséquent E ~ f ? ( & est) un sous-espace fermé de Z:”,,(&) d’après la Proposition 3.1, iii). I1 suffit donc de construire une suite ( W k ) & N de (p,O)-formes différentielles holdériennes d‘ordre 1 / 2 dans telles que 8wk soient continues sur $2 et lim If2 - &k l0,E, = O. La

e2

k+oo

(p;O)-forme différentielle u - u1 est continue sur Di, 8-fermée sur D I . I1 résulte alors du Théorème 2.2 qu’il existe une suite (?&)&N de (p,O)-formesholomorphes dans V telles que lim

k-tw

Ivk -

-

u l ) l g , E , n ~ u p p x=

o.

+

On définit aiors la suite ( W k ) k E N en posant W k = (1 - x)ul x ( u - U k ) . Mors dWk = f i (dx)(u- u1 - ‘uk) et la suite (Wk)&rÿ satisfait bien les conditions demandées.

+

-

Terminons en prouvant iii). Soit f E 2 : , , ( $ 1 ) . D’après le Théorème 2.2, il existe une suite ( z & ) & N de (p,q)-formes 8-fermées continues dans telles que ‘im If - v k l o , ë l n s u p p x = O. On a alors

v

k-ioo

fiE

+

Posons = (1 - x ) f X v k , c’est une suite de formes différentielles continues sur $2 qui converge uniformément vers f sur $1 et telles que dfk = A (f - v k ) converge uniformément vers O sur $ 2 . Grâce à la proposition 5 de l’annexe C et puisque 0 2 est strictement pseudoconvexe car 81 l’est, il résulte de la Proposition 3.1 qu’il existe un opérateur linéaire continu T de Z,,,($2) dans C:,,-,($2) tel que aT = I sur E,,,(&). Posons U k = T ( & A (f - W k ) ) , alors lim IUklo,g, = O et -

_-

ax

-

k-tm

Par conséquent, si f k = fk - U k , la suite ( f k ) & N est contenue dans o et converge uniformément vers f sur $1.

auk = dfk.

z:,,(&)

Lemme 4.3. Soit R un domaine strictement pseudoconvexe borné à bord C2 de @” et p une fonction déjinissante strictement plurisousharmonique pour fl,i.e. fl = { z E Uan I p ( z ) < O}. PosonsR, = { z E Van I p ( z ) < E } u 0. Pour1E.I assezpetit,R, est un domaine strictement pseudoconvexe à bord C 2 . Il existe alors E O > O tel que,

4. Invariance de la cohomologie de Dolbeault

159

si -EO 5 cy < O 5 p 5 E O , on peut trouver un nombrefini de domaines 191,. . . ,ON telsqueR, = 81 C 02 C . . . C ON = Rp et, pourj = 1 , . . . ,N - 1, [ û j , û j + l ] soit une extension strictement pseudoconvexe élémentaire. Démonstration. D'après le Théorème 3.23 du chapitrem, pour tout ( E da,il existe un voisinage Uc de E dans @" et h, une fonction holomorphe au voisinage de Üc telle que h(Uc n 0) soit strictement convexe à bord C2. Comme dR est compact, on peut extraire un sous recouvrement fini ( U i ) l i i i , du recouvrement (Uc)cEan. I1 existe alors EO

> O tel que nE,\ RpEo C

N

u U,. Choisissons des fonctions

i=l ( x j ) j = l , , , ,de , ~classe

j = 1 , .. . , N , et

N xj

C"

à support compact dans @" telles que supp x j

= 1s u r a c o \

c Uj,

R + ~ .Pour a et p fixés tels que -EO 5

cy

<

j=l

O < /3 5

EO,

on pose k O k = (2

E

CY I P ( Z ) - < (P - a ) CXj(4). j=l

Alors R, = I90 c . . . c 8N = Rp et siE0 est assez petit [Oj+l,8j]est une extension strictement pseudoconvexe élémentaire. O Définition 4.4. Soient D CC R CC Cn des ouverts de @". On dira que R est une extension strictement pseudoconvexe de D , s'il existe un voisinage U de \ D et

une fonction p strictement plurisousharmonique de classeC2 sur U telle que

D n U = { z E U I p ( z ) < O } et R n U = { z E U I p ( z ) < l } . On dira que l'extension estnon critique si la fonction p est sans point critique.

Les résultats qui suivent restent valables sans l'hypothèse non critique. Ils seront démontrés dans le cas général dans le paragraphe 8.

cc R cc @" tels que R soit une extension strictement pseudoconvexe non critique de D . Alors i) pour tout ( p , q ) , O 5 p 5 n, O 5 q 5 n, l'application restriction Hi,':/2(G)+ est un isomorphisme, ii) pour tout ( p , q ) , O 5 p 5 n, O 5 q 5 n, l'application restriction Zp,q(o)-+ Zi,q(D)estd'image dense pour la topologie définie par la norme I lo,o. Proposition 4.5. Soient D , R des ouverts de C",D

Démonstration. Par définition d u n e extension strictement pseudoconvexe non critique, il existe un voisinage U de 2 \ D et une fonction p strictement plurisousharmonique de classe C2 sur U sans point critique telle que D n U = { z E U I p ( z ) < O } e t R n U = { z E U I p ( z ) < l}.PosonsRt = D U { z E U I p ( z ) < t } , O 5 t 5 1.Soit T la borne supérieure de l'ensemble E des t E [0,1]pour lesquels il existe une suite finie 81, . . . ,8k d'ouverts de cc" tels que D = 00 c . . . c ûk = Rt et [0jp1,8j],j = 1,. . . ,k,soit une extension strictement pseudoconvexe élémentaire. Prouvons que T = 1. En effet si T < 1,d'après le Lemme 4.3, il existe EO > O

160

VIL Problème de Levi

tel que l'on puisse passer de àRT+~ par une suite finie d'extensions strictement pseudoconvexes élémentaires pour tout E < E O . Choisissons E < EO tel que T - E E E alors T E est aussi dans E ce qui contredit le fait que T est la borne supérieure de E . Par conséquent T = 1. En appliquant alors le Lemme 4.3 à R = R1 avec ,6' = O et a E E , on obtient de plus que 1 E E .

+

Nous avons donc prouvé qu'il existe une suite finie 00, . . . ,ON d'ouverts de Cn tels que D = 00 c c ON = R " '

et que [Oj-1,0j], j = 1,.. . , N , soit une extension strictement pseudoconvexe élémentaire. Alors chacun des û j , j = O , . . . , N , est un ouvert strictement pseudoconvexe borné et d'après le Lemme 4.2, d u n e part toutes les applications restriction (ej) 3 H o,l/2(ëj-1) P,~ sont des isomorphismes, si O p 71. et 1 q n, et donc la restriction cp = c p O~ . . . O (pl : Hi;:/2(fi) +

< <

Hi,'l/2(o)

< <

11,

est un isomorphisme, d'autre part toutes les applications restriction Zj,q(??j)4 Z,",($j-l) sont d'image dense, si O p 5 n et O q n, et donc la restriction $ = $N O . . . O $1 : Zj,,(D) + Z j > , ( o )est d'image dense. O

<

< <

Théorème 4.6.Soit R un domaine strictement pseudoconvexe borné à bord c2 de Cn . Alors, pour tout couple ( p , q ) ,O p n, 1 q 5 n, l'application restriction

< <

H&-p)

<

+ Hplq(R)

est un isomorphisme.

Démonstration. Soit U un voisinage de 80. Choisissons D CC R tel que R \ U C c D et R soit une extension strictement pseudoconvexe non critique de D. On a alors les applications restriction

H&yD) Lp,H"lq(n) 3 HP>, O ,1/2

(m.

En effet, par l'isomorphisme de Dolbeault HP>Q(R) s'identifie à Z~,,(R)/Z;,,(fl) n 1/2 aCj,,-,(R) et cp est donc bien définie car EP,, (R) c Z;,,(R) n aC~,,-,(R). L'application restriction $ est elle aussi bien définie grâce à la régularité du ( c f chap. III, Remarque 3.6). D'après la Proposition 4.5, $ O cp est un isomorphisme, donc cp est injective et $ est surjective. Pour obtenir le théorème il suffit de prouver que $ est injective ce qui résultera du lemme suivant : -

a

Lemme 4.7. Soient D et R deux ouverts de Cn tels que D CC 0. On suppose qu'il existe un voisinage U de R \ D et une fonction strictement plurisousharmonique p de classe C2 sans point critique telle que D n U = { z E U I p ( z ) < O} et D U { z E U I p ( z ) 5 C } CC R, pour toutC > O. Alors l'application restriction HP?,((R)

+ H;;:/2(D)

estinjectivepourtout(p,q)telsqueO 5 p 5 n , i 5 q 5 n.

5. Théorème d'annulation pour la cohomologie de Dolbeault

161

Démonstration. On peut construire une suite

D = Do c D1 c ... c Di, c . . d'ouverts bornés de

C" tels que R

=

u DI, et

Dk+l

est une extension stricte-

k>O

ment pseudoconvexe sans point critique de Di,, si IC E N. Soit f E Zi,q(R)telle que f = a w o sur D, wo 6 Ap,q112 ( D ) . D'après la Proposition 4.5, i), il existe une suite wk E ~ 112 l ~ , , - ~ ( Dtelle i , )que f = dwi, sur Di,, car chaque Di, est une extension strictement pseudoconvexe non critique de DO. Nous allons construire une suite (ui,)lcENde formes différentielles teiies que uk E C:,q-l(~k), duk = f sur ~ iet ,Iui,+l - ui,lo,B, 5 La suite (uk)kEW, ainsi construite, converge uniformément sur tout compact de R vers une forme différentielle u E Ci,,-,(O) telle que au = f sur D. Posons uo = wo et supposons construites u l l . . . , u k . La forme différentielle wk+l - u k est un élément de Zi,,-,(o,) et, d'après la Proposition 4.5 ii), il existe (lti,+l E ~,",,-,(Oi,+l) telle que

3.

Iwk+l

-

uk - Q l c + l l o , ~ , < 1 / 2 k .

On pose alors ui,+l = wk+l - a k + l et on a bien dui,+l = d ( l t k + l = O sur Dlc+l, et I u k + l - u k l o , p , < 1/P.

Corollaire 4.8. Si alors

f sur

car O

est un ouvert strictement pseudoconvexe borné à bord C2 de Cn,

dimHp,q(R)<+CO, si O < p < n

et

1L q < n .

Démonstration. C'est une conséquence immédiate du Corollaire 3.2 et du Théorème 4.6. O

5. THÉORÈME D'ANNULATION POUR LA COHOMOLOGIE DE DOLBEAULT

DANS LES DOMAINES STRICTEMENT PSEUDOCONVEXES DE Cn

Nous présentons ici un résultat dû à Laufer [Lau]qui va nous permettre de déduire du théorème de finitude du paragraphe 4 un théorème d'annulation pour les groupes de cohomologie de Dolbeault. Ce résultat dit que si O est un ouvert de C", les groupes de cohomologie de Dolbeault Hpiq(O), O 5 p 5 n, 1 5 q 5 n, sont soit réduits à O, soit de dimension infinie. Théorème 5.1. SoientO un ouvert de C, p et q des entiers tels que O 5 p 5 n,l I: q 5 n - 1. Si EEq(O) = aCpsQ- (O) est un sous-espace vectoriel de codimension finie dans ZEq(a),alors

E;q(w = z,qqw.

VIL Problème de Levi

162

Démonstration. Soit f E ZEq(0)\ (a).Puisque (O) est de codimension finie dans 2pq(0), il existe un entier N E N* tel que le sous-espace vectoriel de ZEq(0)engendré par f,zlf,. . . , z y f rencontre EEq(R).On peut donc trouver des nombres complexes QO, . . . , O N , non tous nuls et une forme différentielle u E CEq- (O) tels que

aof

+ alzlf + . ' . + a N z f J f = au

sur

R.

+

+

Ce qui s'écrit encore P(z1)fE EFq-,(R) avec P(z1) le polynôme a0 a1z1 . . . Q N Z ~ Notons . Nfle minimum des degrés des polynômes P non nuls de la variable z1 tels que P(z1)fE EEq(R)et Pfun polynôme de degré N f tel que Pf(z1)f E E,OP,(R). Soient {fi,. . . , f k } C ZEQ(R)une base d u n supplémentaire algébrique de EEq(R)dans ZEq(R).Posons P = Pfi . . . P f k .Le polynôme P vérifie alors

+

P(z1)fE EEq(R) pourtoute f

E

ZFq(R).

Notons NOle minimum de l'ensemble des entiers N tels qu'il existe un polynôme P non nul de la variable z1, de degré N vérifiant P(z,)f E EEq(R)pour toute f E ZEq(O). Supposons que NO 2 1 . Soit POun polynôme de degré NOen la variable z1 tel que, pour toute f E ZEQ(0), Po(z1)f E E: (O). Fixons une forme différentielle f E ZEq(R),quelconque, il existe alors u (R) telle que

~~
(5.1)

~o(z1)f

= d u sur R.

Dérivons l'égalité ( 5 . 1 )par rapport à z1,on obtient

où

et

e

sont les formes différentielles obtenues en dérivant les coefficients

des formes différentielles f et u par rapport à z1. La forme différentielle est encore dans Zrq(0) et donc Po(z1)SE E,OP,(R).Par conséquent le polynôme

PO

2

= vérifie FO(z1)f E E ~ ~ ( pour R ) toute f E ZE~(R).Comme dOFp0 = NO - 1, cela contredit la minimalité de NOet donc NO = O. Nous avons ainsi prouvé que (R) = Zpq(CI).

Corollaire 5.2. Si R est un ouvert strictement pseudoconvexe borné à bord C2 de @" ,

alors

H:,':,2(n) = Hplq(R) = O,

si O 5 p 5 n et1 5 q

5 n.

Démonstration. Puisque Hp,q(R) = Z,qP(O)/E&(R), il résulte du Corollaire 4.8 et du Théorème 5.1 que Hp,q(R) = O. Le résultat complet est alors une conséquence du Théorème 4.6. O Théorème 5.3. Soient R un ouvert strictement pseudoconvexe borné à bord C2 de C" ,p et q des entiers tels que O 5 p 5 n et 1 5 q 5 n. Alors il existe un opérateur

-

6. Formule intégrale pour résoudre le d avec estimation holdérienne

163

1inéairecontinuT d e Z i , , ( a ) dansAk{:-l(R) t e l q u e T ( Z i , , ( n ) ) c F,',p-l(R) et d O T=I.

-

Démonstration. Le Corollaire 5.2 nous dit que Zi,,(a) = Ej(:(R). I1 suffit alors d'appliquer la proposition 5 de l'annexe C pour obtenir l'opérateur T . Terminons ce paragraphe par un lemme qui nous servira dans le paragraphe 6. Lemme 5.4. Soient R un domaine strictement pseudoconvexe borné à bord C2

de Cn et U, un voisinage de 52. Alors il existe un opérateur linéaire continu T ; Zcl(Us) + C"(R) telque8Tf = f dans0 pourtoute f E 204;(Us). Démonstration. Nous allons prouver que l'opérateur T : Z:,,(D) + R112(R) donné par le Théorème 5.3 a les propriétés cherchées. Soit f E Zel(Us),alors T f est définie et dTf = f sur R, car Z,.P;(V,) C Zfo,ll(D).Grâce au Théo-

a,

rème 3.5 du chapitre III sur la régularité du on a T f E C"(R). Copérateur T définit donc un opérateur linéaire de ZC, ( U s ) dans C" (R). La continuité de T comme opérateur linéaire entre les espaces de Fréchet Z?, (U,) et C" (O) résulte alors du théorème du graphe fermé. En effet, soit (f n ) n E N une suite d'éléments de Z r l ( U s )telle que la suite (f n , T f n )converge vers (f,g) dans Zel ( Us) x C" (CI). La continuité de T sur Z & ( G ) implique que T f n converge uniformément vers Tf sur et comme 8T f = f sur R, la régularité du 8 nous dit que T f E C" L'unicité de la limite implique alors que ( f , T f ) = (f,g),( f , g ) est donc dans le graphe de T . O

a

(a).

Remarque :Une autre démonstration de ce lemme n'utilisant pas l'opérateur T du Théorème 5.3 est donnée dans [HILl] ( c f Lemme 2.4.1).

6. FORMULE INTÉGRALEPOUR RÉSOUDRE LE

8AVEC ESTIMATIONS

HOLDÉRIENNESDANS LES DOMAINES STRICTEMENT PSEUDOCONVEXES

Soit R un domaine strictement pseudoconvexe borné à bordC2 de Cn. Nous allons construire une fonction d'appui globale @(.,<) pour R, c'est-à-dire une fonction de classe C1 définie sur U s x Uan, où Uan est un voisinage de dR et U s = U R, telle que @ dépende holomorphiquement de z dans U s et @(z,<)# O si z E 2, E Van et z # <. Cette fonction jouerale rôle de (w(z,<),< - z ) dans les formules intégrales, w étant une section de Leray associée à R.

<

Lemme 6.1. Soit 19un ouvert borné de C7'etp une fonction strictementplurisoushar-

164

VU. Problème de Levi

monique définie dans un voisinage de B. Posons

Soient a j k des fonctions de classeC' dans un voisinage d e 3 telles que

et E

> O, choisi assez petit pour que

a2P

I-(<)--(

d2P

(6.3) C , dniax ,IC-zl I .

I

z) <

B ~

2n2

pour j , k

=

1,. . .,2n

où xj = xj(<) sont les coordonnées réelles de J E C" telles que < j = Z X ~ + ~ ( < ) . Pourz,Ç E 3, ondéfinit

Alors pour tout z,C E

e tels que IC

(6.5)

ReF(z1C)

-

xj(<) +

zI 5 E , on a l'estimation

2 P ( C ) - P ( Z ) + PIC - zI2.

Remarque :Puisque p est de classe C2 et P > O (car p strictement plurisousharmonique) il existe des fonctions a j k et un réel E tels que (6.2) et (6.3) soient satisfaites.

<

e

Démonstration. Soient et z dans tels que I< - zl 5 E . I1 résulte du Lemme 2.22 du chapitre Vi et de la formule de Taylor que si Fpest le polynôme de Levi de p

où lR(z,<)l5

BI< - zI2 d'après (6.3). Grâce à (6.1), on obtient ReF,(t,O 2 P ( C ) - P ( Z )

mais on a lFp(.z,()- F(z,C)( 5 P ( 0 - P ( 2 ) + P l i - zI2.

PIC

+ 2BIC - zI2,

- zI2,d'après

(6.2) et donc Re F(z,C) 2 O

Théorème 6.2.SoitR un domaine strictement pseudoconvexe borné à bord de classe

C 2 de Cn, 6 un voisinage de dR et p une fonction strictement plurisousharmonique de classeC2 définie dans u n voisinage de 3 telle que

R n 0 = { z E e 1 p(z) < O). Soient&,P, F(z,<)choisis comme dans le Lemme 6.1 avec&assez petit pour que

{ z E C*

I I(

- zI

5 2&} c 6 pourtout ( E da.

6. Formule intégrale pour résoudre le d avec estimation holdérienne

165

Alors il existe une fonction @(z,<)de classeCl définie sur Usi x Uan, où Uan est un voisinage de dR contenu dans 0 et U, = Uan ü R,telle que 0 @( z,C) dépend holomorphiquement de z dans U* ii) Q ( t , C ) # O pourtoutz E Uc,C E Van tekqueII - zI 2 E , iii) il existe une fonction de classeCl, M ( z , ( ) définie et non nulle pour t E UE, E Uan tels que I(' - zI 5 E , vérifiant

@kO = F ( 4 ) M ( z , C ) pourz E Ug,( E U ~ telsque D I( - zI 5

E.

Démonstration. I1 résulte del'estimation (6.5) que Re F ( z , < ) 2 p(<) - p ( z ) +,h2 pour z,( E 6' et E 5 IC - zI 5 2 ~ Comme . p = O sur 8 R et grâce au choix de E , on peut trouver un voisinage Vafi de dR contenu dans 6' assez petit pour que IpI 5 ,6$ sur Van et pour tout ( E Van la boule de centre C et de rayon 2~ est contenue dans 6'. Posons Vsi = s2 U Van,alors pour (z,C) E Vz x Vafi vérifiant

IC - zI < ZE, z et ( appartiennent à 6' et Re F(z,C) 2 p$ pour z E VB,( E Van tels que E 5 IC - zI 5 2 ~ Par . conséquent on peut définir lnF(z,C),où In est la détermination principale du logarithme, pour z E VE,( E Van vérifiant E 5 IC - zI 5 2 ~Choisissons . une fonction x de classe C" dans Cn telle que x(() = 1 si 5 etx(E) = Opour 2 Pourz E V ~ e,Ct E Van ondéfinit

2.

y

Alors l'application C f(.,<)est de classe C' sur Van à valeurs dans Zpl(VG). Choisissons un voisinage Uan CC Van tel que U, = R ü Uan soit strictement pseudoconvexe borné à bord C2. I1 résulte du Lemme 5.4 qu'il existe un opérateur linéaire continu T : ZOg;(V,) -+ C"(U,) tel que a T y = cp sur U, pour toute 'p E Z c l (Vs).Pour t E UB et ( E Uan, on pose

.(.,O et

@kC)

=

=

( T ( f ( . , C ) ) ( z ) ,M ( 4 ) = exp(-u(z,C))

{ F(z,C)M(t,C) z)lnF(z,C) exp(x(C -

si IC - zl

- u(z,C) si IC

I1 est clair que @ satisfait les conditions i] à iii] du théorème.

5E

- zI 2 E . O

Remarques 1) Notons que nous n'avons pas utilisé le fait que dR est de classe C2. Le Théorème 6.2 est encore vrai si d p s'annule sur as2 (cf [HelLel]). 2) Pour obtenir le Théorème 6.2 nous n'avons pas besoin de toute la force du Théorème 5.3. Nous avons seulement besoin de savoir que si une (0.1)-forme différentielle est d-fermée au voisinage d u n domaine strictement pseudoconvexe, elie est exacte sur ce domaine et la solution de l'équation de Cauchy-Riemann est donnée par un opérateur linéaire.

166

Vil. Problème de Levi

Le Théorème 6.2, nous donne la solution du problème de Levi, pour les domaines strictement pseudoconvexes bornés à bord C2 (le cas général sera étudié a u § 7). Corollaire 6.3. Soit R un ouvert strictement pseudoconuexe borné à bord C2 de @". Alors R est un domaine d'holomorphie. Démonstration. Considérons la fonction @ associée au domaine R par le Théorème 6.2 et fixons un point 50 E do. Alors la fonction f (2) = est holomorphe dans R et f (2) tend vers l'infini quand z tend vers (0 dans D , elle ne peut donc se prolonger holomorphiquement au voisinage (O.

&

Pour pouvoir appliquer la formule de Cauchy-Leray-Koppelman sur un domaine R strictement pseudoconvexe, nous devons maintenant construire une section de Leray pour ce domaine qui sera associée à la fonction d'appui @ du Théorème 6.2. I1 s'agit donc de trouver une application w de classe C1 sur U s x Uan, holomorphe en z sur U s e t telle que (w(z,<),<- z ) = a(.,<). Lemme 6.4. Soit R un ouvert strictement pseudoconuexe borné à bord C2 de C", M1 = { z E Cn I z1 = O} et U, un voisinage de Alors pour toute fonction holomorphe f sur M1 n U z il existe une fonction f holomorphe dans R telle que f = f suriî41 n R.

a.

Démonstration. Si U1 est un voisinage assez petit de M1 n 2,alors en posant F ( z ) = f ( O , z 2 , . . . ,zn)on obtient un prolongement holomorphe de f à U1. Choisissons des voisinages UilUr de M I ri tels que Ui CC U; CC U1. Soit x une fonction C" dans Cn telle que x = 1 sur Ui et supp x C U r , on pose

Alors cp est une (0,l)-formedifférentielle, &fermée de classe C" dans un voisinage U de 0.D'après le Corollaire 5.2 appliqué à un domaine strictement pseudoconvexe à bord C2 contenant (;2 et contenu dans U , il existe une fonction u continue dans telle que au = cp dans R, ce qui implique ~ ( F -x z l u ) = O dans R. Par conséquent = F X - z1u est holomorphe dans R et puisque x 1 sur R n M l f = F = f dansRnM1. o

=

f

Lemme 6.5. Soient R un ouvert strictement pseudoconvexe borné à bord C2 de C", h f k = ( 2 E CC" I 21 = . . . = zk = O}, i 5 k 5 n,etUE un voisinage d e n . Alors si f est une fonction holomorphe dans UE telle que f = O sur M k f l UE il existe des fonctions

fi,

. . . ,fk holomorphes dans fl telles que f ( 2 )

k

zjfj ( z ) pour tout

= j=l

z E 0.

-

6. Formule intégrale pour résoudre le

a avec estimation holdérienne

167

Démonstration. Si k = 1, on peut poser f i ( z ) = f ( z ) / z 1 .Raisonnons par récurrence et supposons que le lemme est démontré pour Mk-1 dans @" , k - 1 5 c. Soit f une fonction holomorphe dans U, telle que f ( z ) = O si z E Mk f' U z Choisissons un ouvert strictement pseudoconvexe 6 tel que R CC 6 CC U s l'ensemble 6 n M1 est un ouvert strictement pseudoconvexe borné de M1 = CY-'. D'après l'hypothèse de récurrence il existe des fonctions fj(z2, . . . , z n ) ,j = 2, . . . ,k,holok

morphes dans 6 n M 1 telles que f (2) =

-

zj fj(z2,.

. . ,zn) pour z

E

6 nM I .

j=2

Le Lemme 6.4, nous donne alors l'existence de fonctions f j , j = 2 , . . . ,k, holomorphes dans R telles que f j ( z ) = f j ( z 2 , . . . ,zn) pour z = (O,z2, . . . ,zn) E E

R n M1. Pour terminer, il suffit alors de poser f 1 ( z ) =

(f (2)

-

=2

z j f j (2))

pourz E R.

O

Théorème 6.6. Soient O un ouvert strictement pseudoconvexe borné à bord C2 de @" et Us2 un voisinage d e n . Si f est une fonction holomorphe sur U s il existe des fonctions hj holomorphes s u r a x R telles que, pour (z,<) E R x R,on ait n

j=i

-

Démonstration. Choisissons un ouvert strictement pseudoconvexe borné R contenu dans CZn tel que R x R CC 6 CC Us2 x Us2 et définissons de nouvelles coordonnées dans C2" en posant uj = <j - zj et uj+, = z j pour j = 1, . . . ,n. Alors si on définit F par F ( z , < )= f(() - f ( z ) ,F est holomorphe sur U, x Us2 et F = O sur UG x U, n {u E @2n I u1 = . . . = un = O}. On peut donc appliquer le Lemme 6.5 à F ce qui donne le résultat en revenant aux coordonnées ( z , < ) . O Pour construire la section de Leray w associée à nous avons besoin d u n e version du Théorème 6.6 où f dépend de manière C1 d u n paramètre et où les f j dépendent aussi de manière C 1 de ce paramètre. Théorème 6.7. Soient X une variété de classe C k , k 2 1, 0 un ouvert strictement pseudoconvexe borné à bord C2 de et Us2 un voisinage d e 2 . Si f est une fonction de classe C k sur X à valeurs dans C" ( UE) telle que f (.,x) soit holomorphe sur UE pourx E X , il existe des fonctions hj de classeCm sur (0 x O ) x X,1 5 j 5 n, telles que hj (.,x) soit holomorphe sur R x R pour x E X et qui vérifient pour tout x E X et(z,Ç) E R x R

en

71

h j ( < , ~ , 4 ( C-j 4 .

f (<J) - f(z,z) = j=l

La démonstration du Théorème 6.7 suit pas à pas celle du Théorème 6.6. Nous détaillerons seulement la version du Lemme 6.4 avec paramètre.

168

VU. Problème de Levi

Lemme 6.8. Soient X une variété de classeCk ,IC 2 1, R un ouvert strictement pseudoconvexe bornéà borde2 deCn, M1 = { z E Cn I z1 = O } , U z un voisinagede R. Si f est une fonction de classe C k sur X à valeurs dans C" (U, n M I ) telle que f (.,x)soit holomorphe sur Uz n M1 pour x E X , il existe une fonction de classe C k sur X à valeurs dans C" ( R ) telle que j (.,x) soit holomorphe sur R pour x E X et vérifie pourx E X et (O,zz,. . . ,z,) E R

f

J((oA, . . . , z n ) , x ) = f((O>z2>...,zn),x). Démonstration. Elle est analogue à celie du Lemme 6.4 dont nous reprenons les notations. Posons

sizEXetzECn\U1, cp est une forme différentielle de classe C k sur X x V i , 8,-fermée. Choisissons un ouvert fi strictement pseudoconvexe à bord C2 tel que R c fi CC U1. L'application x H cp(.,x)est de classe C k sur X à valeur dans Zrl( V I )D'après . le Lemme 5.4, il existe un opérateur linéaire continu T de Z,qi(Ul) dans C" (6)tel q u e d o T = Id. Posonsu(.,x) = T(cp(.,x)).AlorsuestdeclasseCksurxàvaleurs dans C"(6) et f(z,x) = x ( z ) F ( z , x ) - zlu(z,x) est la fonction cherchée. O

Corollaire 6.9. SoientR un domaine strictement pseudoconvexe borné de Cn, et@ la fonction d'appui associée au domaine R par le Théorème 6.2 défnie sur U, x Uan. Il existe un voisinage Van de 130,Van CC Uan et une application w de classeCl sur Va x Van,où V z = Van U R, holomorphe en z sur V z telle que n

@(.,C)

= C W j ( r , C ) ( C j - " j ) = (w,C - 2 ) j=l pour z E Vo,<E Vao. De plus w est une section de Leray pour R.

Démonstration. En appliquant le Théorème 6.7 à @ on obtient n

@((,CI

-

w.4

=

hj(C,Z,C)(<j - " j ) j=l

et, puisque @(<,<) = 0,en prenant ( = C on a n

@(Z,C) = C W j ( Z , C ) ( < j

-

"j)

j=1

où wj(z,<)= -hj (C,z,<)a les propriétés cherchées.

O

Remarque :La section de Leray w ainsi obtenue convient également pour tous les domaines strictement pseudoconvexes de la forme

a \ Van u {.

E

Van I P(.z) < -6)

-

6. Formule intégrale pour résoudre le d avec estimation holdénenne

pour 6

169

> O assez petit.

En utilisant la section de Leray globale que nous venons de construire, nous obtenons un opérateur intégral qui permet de résoudre le avec estimation holdérienne d'ordre 1/2.

a

Théorème 6.10.Soient un domaine borné strictement pseudoconuexe ù borde2 de Cn et w la section de Leray associée ù R par le Corollaire 6.9. Il existe une constante C telle que i) pour touteforme différentielle f continue s u r n , l'intégrale

R$nf

=/

f (C) A K q U ' ( . , C , 4

(C>x)€anx[0,11

satisfait l'estimation

I%nf

I1/2,n

I ClflO,r, _ -

ii) pour toute (p,q)-formedifférentielle f continue sur R, ô-fermée dans R, 0 5 P 5 n,1 5 4 5 n ,

u = (-1)"+"R;nf

+ Bn f)

est solution de l'équation& = f dans R et vérifie lul1/2,n

Deplus, u E C&,(R) 1 , 2 , . . .,co,alorsu E

5 Clf I0,n.

pourtoutcr E]0,1[ etsi f estdeclasseCk dansR,k pourtoutcr E ] o , ~ [ .

=

Démonstration. D'après le Théorème 3.3 du chapitre Vi il ne reste à prouver que 0. Pour cela il suffit de montrer que la section de Leray w satisfait les hypothèses du Lemme 1.3. Les conditions i) et ii) résultent du Corollaire 6.9, il faut prouver iii). Fixons E R. Par définition de w et

4

= F(Z1C)A4(Z,C)

où F et A4 ont les propriétés données dans le Lemme 6.1 et le Théorème 6.2. On peut alors choisir un voisinage U, de [ assez petit pour qu'il existe 61 > O tel que

(6.6)

I (44),< - 4 I L 61 (+,O I

si z,< E Uc. Posons tl(z,C) = ImF(z,<) et soit xj = xj(<) les coordonnées réelles de C E Cn teiles que ( j = x j (C) Zxj+, (C). Alors

+

170

VII. Problème de Levi

et par conséquent

Donc n//dCtl(z,<)lC=tA d p ( z ) / / 2 / / d p ( z ) / /pour 2 tout z E dR car le coefficient de dx, (2) A dx,+,(z) dans la forme différentielle du membre de gauche est -[($(z))z (&(z))’]. Puisquedp(z) # Opourz E d R c a r R e s t à b o r d

+

C 2 ,quitte à restreindre Uc, on peut trouver-des fonctions de classe C 1 ,&?,. . . , t ~ , , - ~ sur U , ,telles que pour tout z E Uc t 1 $ 2 , . . . ,t2n- 1 soient des coordonnées sur ~ c n û R . û n p o s e t , ( z , < )= i , ( ~ ) - t , ( z ) p o u r z , < ~U < , ~ =, .Z. . ,2 n - - l . ~ l o r s pour tout z E Uc fixé les fonctions t l ( z , . ) ,. . . , t 2 n - l ( z , . ) sont aussi des coordonnées sur ûfl n Uc. Pour terminer il faut prouver l’estimation (I.2) pour ces coordonnées. Puisque t, ( z , z ) = O, quitte à restreindre encore Uc, la formule de Taylor implique l’existence de 6 2 > O tel que IC - z / 2 <(z,C)I pour tout z,CE Uc. I1 résulte alors de l’estimation (6.5) du Lemme 6.1 que, après une nouvelle restriction de U . ,on peut trouver 63 > O tel que pour z,C E Uc

(z;)

IF(z,C)l 2 63(/ti(Z1<)I+ P ( < ) - P ( z ) + k(z,C)l2). Comme p(C) = O, si E 8R, et comme il existe 64 > O tel que - p ( z ) 64dist(z,dR), si z E D n Uc, onaura

<

2

/ F ( z , < )2/ &i64((ti(Z,<)/+ /t(z,c)/2 + dist(z,dfi)) E d D n Uc. D’où le résultat en tenant compte de (6.6). O

pour z E D n U, et

<

Remarque :L‘intérêt du Théorème 6.10 par rapport aux résultats du paragraphe 5 est que l’opérateur intégral est beaucoup plus explicite, ce qui peut permettre de montrer par exemple que la constante C dépend, en un certain sens, continûment du domaine R.

7. PROBLÈME DE LEVI DANS Cn

Commençons ce paragraphe en prouvant le Théorème d‘approximation d’OkaWeil. I1 nous servira à résoudre le problème de Levi et à prouver l’annulation des groupes de cohomologie de Dolbeault pour les ouverts pseudoconvexes de @” en bidegré ( p , q ) ,O 5 p 5 n, 1 5 q 5 n. Théorème 7.1.Soient0 C Cn un ouvertpseudoconvexeetK CC R un compact tel que K = K i . Alors, si0 5 p 5 n, toute (p,O)-forme holomorphe dans un voisinage de K peut être approchée uniformément sur K par des fonctions holomorphes dans h

R. Démonstration. Soit h une (p,O)-forme holomorphe dans un voisinage UK de K . D’après le Corollaire 3.13 du chapitre VI, il existe une fonction strictement plurisousharmonique de classe C” p : R -+ IR telle que

7. Problème de Levi dans Cn

171

i) R, = { z E R I p ( z ) < Q} CC R, pour tout Q E R, ii) l’ensemble Crit(p) = { z E R 1 d p ( z ) = O} est discret dans R, iii) p < O s u r K e t p > O s u r R \ U K . Soit QO la borne supérieure des (Y E IR tels que h puisse être approché uniformément sur K par des (p,O)-formes holomorphes dans O,. Puisque h E C,,O(UK) et a h = O sur U K ,(YO > O c a r p > O sur R \ U K . Pour prouver que a0 = +CQ, puis démontrer le théorème il suffit de suivre pas à pas la démonstration du Théorème 2.1 où la fonction (a et la section de Leray associées w sont définies de la manière suivante : Grâce au Théorème 6.2 au Corollaire 6.9 et à l’estimation (6.5) il existe un réel 6 > O, une fonction C1, (a(.,<) et une application C1 à valeurs dans en,w(z,<)définies pour z dans un voisinage de Dao+6et dans un voisinage de Dao+g\ Dno-6 telles que a) (a(z,<)et w(z,<)sont holomorphes en z , b) = (d.,O,< - 4, c) # 0 si a 0 - 6 5 p(<) 5 Qo 6et p ( z ) < P ( < ) ? d) w ( z , < )est une section de Leraypour Dao-6 et d’après la propriété iil de p, on peut supposer que d p ( z ) # O si z E dD,,-6 et appliquer la formule de Leray au domaine Dao-6. O

<

@(.,O @(.,O

+

Remarque :Le Théorème 7.1 peut être prouvé sans utiliser le 3 6 mais à l’aide de la Proposition 4.5 comme cela sera fait pour l’assertion iil du Théorème 8.11. Théoreme 7.2. Soit R C d e R , Kg = Ka. A

en un ouvert pseudoconvexe. Alors pour tout compact K h

A

Démonstration. On sait déjà que Kg C K R (cf.la remarque qui suit la Définition 3.3 du chapitre VI). Pour prouver la réciproque, choisissons un point E E R \ et construisons une fonction h holomorphe dans R telle que

y;

(7.1) Ih(0l > lh(z)l. I1 résulte du Corollaire 3.13 et du Lemme 2.24 du chapitre VI, qu’il existe un ouvert 5

-

strictement pseudoconvexe G cc R tel que K CC G, E E dG et G, = G, car G est défini par { z E R I p ( z ) < O} où p est plurisousharmonique de classe C” sur R. D’après le Théorème 6.2 et l’estimation (6.5),il existe une fonction de classe C1, (z,<)définie pour dans un voisinage UaG de dG et z dans un voisinage UG de G telle que (a(.,<) soit holomorphe en z dans U s (a(<,<) = O et (a(.,<) #O pour tout E u ~ G\ G e t z E G. Alors pour tout ( 0 E U a G \ G fixé, est

<

&

<

holomorphe en z dans un voisinage de E. Puisque K CC G, E E dG et (a(<,<) = O, on peut choisir (0 E Uac \ G assez proche de pour que

5

Puisque G = G,, il résulte du Théorème 7.1 qu’il existe une fonction h holomorphe dans R telle que Ih(z) < f pour tout z E G. Grâce à (7.2), O la condition (7.1) est alors satisfaite.

&I

172

VU. Problème de Levi

Corollaire 7.3. Un ouvert de Cn est un domaine d'holomorphie si et seulement s'il est pseudoconvexe. Démonstration. On a vu au chapitre Vi, Corollaire 3.7 que tout domaine d'holomorphie est pseudoconvexe. La réciproque est une conséquence immédiate du Théorème 7.2, de la définition des ouverts pseudoconvexes (cf.chap. Vi, déf. 3.5) et du Théorème de Cartan-Thullen (cf. chap. Vi, th. 1.13). O Théorème 7.4. Soient D C Cn un ouvert pseudoconvexe, p et y des entiers tels que 0 5 p 5 n et 1 5 y 5 n et k E U {+CO}. Alors pour toute (p,y)-forme différentielle f de classel'" dans D telle que8 f = O dans D , il existe une solution u delëquation8u = f surD tellequeu E Ci:U,(D) pourtoutcu ~ ] 0 , 1 [ . Démonstration. D'après le Corollaire 3.13 du chapitre Vi, il existe une fonction strictement plurisousharmonique p de classe C" dans D telle que i) D , = { z E D I p ( z ) < a } CC D p o u r t o u t a E R, ii) l'ensemble Crit(p) = { z E D I d p ( z ) = O} est discret dans D . Grâce à la propriété ii), on peut trouver une suite ( a u ) , , Ede~ réels tendant vers l'infini telle que d p ( z ) # O si z E BD,,, D,, est un domaine strictement pseudoconvexe à bord C" et Da,. Grâce au Théorème 6.10, pour tout v E N,il existe

u

V€N

des formes différentielles u , E ( D a , ) ,O < a < 1,telles que au,, = f dans D a , . Nous obtiendrons une solution u de au = f sur D à l'aide des formes u,. Supposons dans un premier temps que q 3 2 . Nous allons construire une suite (vv),,>3 de formes différentielles solutions de 8v, = f sur Da, et telles que v, E k+a-(D,,), O < a < 1, et v, = v,+l dans Da,-Î et u = lim v, sera la CP/-l ,+CC solution cherchée. Posons 03 = u3 et supposons construites v3, . . . ,ve pour C 2 3. Alors ve-ue+l est &fermée dans Da, et le Théorème 6.10 nous donne une solution 'p E Cp,:?l(Da,_,), O < a < 1,d e & = we - ue+1 dans Da,-, . Choisissons une fonction x de classe C" à support compact dans Da,-, et constante égale à 1 sur Da,-, et posons ve+1 = u t t l d(x'p). La forme différentielle ve+1 satisfait les conditions demandées.

+

Considérons maintenant le cas y = 1. Nous allons construire une suite ( v , ) , L ~ de solutions de du,, = f dans D a , telles que vu E C ~ , ~ " ( D aet, ) lvv(z) v,+l(z)I < 2 - , pour z E Da,-l. Une telle suite converge uniformément sur tout compact de D vers une (p,O)-forme u qui a les propriétés requises car les différences u - vu sont holomorphes sur Du. Posons v2 = u2 et supposons v2,. . . ,ve construites pour 2 2. Alors la différence ve - u(+1 est holomorphe dans D,, et grâce auThéorème 7.1 il existe v E cP,o(D),8-fermée telle que Ive(z) - uc+1 ( z ) 17 .(.)I < 2-e pour z E Da,-, . I1 suffit alors de poser ve+1 = ue+1 - v. Corollaire 7.5. Soit D un ouvert pseudoconvexede C" ,alors HP,q(D ) = O pour tout (p,y) telque0 < p < n et1 5 y 5 n.

7. Problème de Levi dans

Théorème 7.6. Un ouvert D de

cn

173

enest un domaine d'holomorphie si et seulement si

H ' > ~ ( D=) O

pour

i

5 q 5 n - 1.

Démonstration. La condition nécessaire est une conséquence des Corollaires 7.3 et 7.5.

Nous allons prouver la condition suffisante par récurrence sur la dimension complexe n. Si n = 1, l'hypothèse est vide, mais le théorème est vrai car tout ouvert de C est un domaine d'holomorphie. Supposons que le théorème est vrai pour les ouverts de Cn-',n 2 2 et considérons un ouvert D de C" pour lequel H o ) q ( D )= O si 1 5 q 5 n - 1.

Montrons pour commencer que si L est une sous-variété linéaire affine de Cn de dimension complexe n - 1, toute composante connexe de D n L considérée comme un ouvert de L 2 CnP1 est un domaine dholomorphie. D'après l'hypothèse de récurrence, il suffit de prouver que Ho>q(D n L ) = O pour 1 5 q 5 n - 2. Sans perte de généralité, on peut supposer que L = { z E @" I z, = O}. Soit cp une (0,q)-formedifférentielle de classe c", d-fermée sur D n L , 1 5 q 5 n - 2, alors cp s'étend à un voisinage U de D n L dans D en une forme différentielle de classe C", d-fermée, de type (0,q) (il suffit de considérer cp comme une forme ne dépendant pas de zn). Soit x une fonction de classe C" dans D , égale à 1 sur un voisinage de D n L dans D et à support dans U . On pose

+

-

On définit ainsi une (0,q 1)-forme différentielle de classe C", d-fermée dans D tout entier. Puisque par hypothèse Ho>q+l(D)=- O, il existe une (0,q)-forme différentielle de classe C" dans D telle que da = a. On a alors sur D et comme Hotq(D) = O, il existe une (0,q - 1)-forme différentielle Q de classe C" dans D telle que x@- zn% = 8s.En restreignant cette identité à L et en posant 6' = on a obtenu une (0,q - 1)-forme différentielle 6' sur D n L telle que 88 = cp ce qui prouve que H0+7(Dn L ) = O.

QIL,

Supposons maintenant que D n'est pas un domaine d'holomorphie, il existe alors deux ouverts D1 et 0 2 tels que 0 # D1 c D2 n D , 0 2 non contenu dans D et pour toute fonction holomorphe dans D , il existe une fonction g2 E O ( & ) telle que g = g2 sur D1. Soient E Dl et L une sous-variété linéaire affine de @" de dimension complexe n - 1 passant par et telle qu'il existe un point ( E a ( D n L ) n f 1 2 . Puisque toutes les composantes connexes de D n L sont des domaines dholomorphie dans L 2 enpi ainsi que nous venons de le prouver, il existe une fonction f holomorphe dans D n L qui ne peut être étendue en une fonction holomorphe au voisinage de (. Comme H 0 ) l ( D ) = O, il résulte du Lemme 6.4 que f est la restriction à D n L d u n e fonction g holomorphe

VIL Problème de Levi

174

sur D (le Lemme 6.4 est donné sous l'hypothèse d u n ouvert 0 strictement pseudoconvexe, mais on remarque que la démonstration utilise seulement le fait que Ho>'(R)= O). Mais cette fonction g s'étend en une fonction holomorphe au voisinage de ce qui contredit l'hypothèse faite surf. Par conséquent D est un domaine dholomorphie. O Terminons ce paragraphe en regroupant dans un seul énoncé les résultats du Corollaire 7.3, du Théorème 7.6 et du Théorème 1.13 du chapitre VI. Corollaire 7.7. Soit D un ouvert de @" . Les conditions suivantes sont équivalentes : i) D est un domaine d'holomorphie. ii) D est holomorphiquement convexe. iii) D est pseudoconvexe. iv) Ho>'J(D) = O s i l 5 q 5 n - 1.

8. PROBLCME DE LEVI DANS LES VARIÉTÉS ANALnIQUES COMPLEXES

L'objet de ce paragraphe est de relier dans une variété analytique complexe la notion de convexité holomorphe et l'existence d u n e fonction dexhaustion plurisousharmonique de classe C2.

a

A. Résolution du dans les variétés analytiques complexes Dans tout le paragraphe X désignera une variété analytique complexe de dimension n. Définition 8.1. Un ouvert D relativement compact dans X est dit strictement pseudoconvexe s'il existe une fonction p strictement plurisousharmonique de classe C2 définie dans un voisinage du bord de D et telle que D n U ~ = D { z E U ~ ID p ( z ) < O} e t d p ( z ) # Opourtoutz E dD.

Remarque : La notion de fonction plurisousharmonique et strictement plurisousharmonique a bien un sens dans une variété analytique complexe car elle est invariante par changement de coordonnées holomorphes. La définition d u n ouvert strictement pseudoconvexe donnée ici coïncide avec celle du chapitre Vi lorsque X = C". On peut également remarquer qu'un tel domaine est à bord C2. Contrairement à ce qui se passe dans C" , on ne peut pas toujours résoudre le d dans un ouvert strictement pseudoconvexe d u n e variété analytique complexe

-

quelconque. Néanmoins la Proposition 3.1 ainsi que sa démonstration restent encore valables dans ce cadre plus général.

8. Problème de Levi dans les variétés analytiques complexes

175

Théorème 8.2. Soient D un ouvert strictement pseudoconuexe à bord C2 relativement compact dans X , p etq des entiers tels que O 5 p 5 n, O 5 q 5 n. Alors i) il existe des opérateurs linéaires continus T: de dans Ai(:(D) telsque,sif E C:,,(D) vérifiedf E c;,,(D), o n a

Cp,,(o)

où KQest un opérateur compactdeC;,q(D) dans lui-même, ii) si q 2 1, dT,P définit un opérateur linéaire continu de Z,”,,(D)dans luimême dont l’image est de codimension finie, iii) Ej(:(D) est un sous-espace vectoriel fermé de codimension finie de

(D).

zp,q

Nous allons prouver maintenant que, si un ouvert D de X admet une fonction définissante strictement plurisousharmonique de classe C2 définie au voisinage de D et pas seulement sur un voisinage de d D , alors on peut résoudre le dans D. Notons qu’un domaine strictement pseudoconvexe de cc“ possède cette propriété (cf chapitre Vi, Théorème 3.19), mais ce n’est pas le cas d’un domaine strictement pseudoconvexe d u n e variété analytique complexe quelconque.

a

Définition 8.3. Unefonction continue sur X à valeurs réelles est dite d’exhaustion si pour touta E R,l’ensemble{z E X I p ( z ) < O } est relatiuementcompactdansX. Nous nous intéressons aux variétés analytiques complexes qui possèdent une fonction dexhaustion strictement plurisousharmonique de classe C2. Proposition8.4. Si X admet unefonction d’exhaustion strictement plurisousharmonique de classec’, alors elle possède unefonction d’exhaustion strictement plurisousharmonique de classe C2 dont l’ensemble des points critiques est discret. Cette proposition est une conséquence immédiate du Lemme de Morse suivant :

x

Lemme 8.5. Soient une variété analytique complexe et p une fonction strictement plurisousharmonique de classe C2 dans X . Si K est un compact de X tel que d p ( z ) # O pour tout z E K , alors pour tout E > O, il existe une fonction pE strictement plurisousharmonique de classeC2 dans X telle que i) p - p, ainsi que ses dérivées premières et secondes sont majorées par€ sur

X, ii) l’ensembleCrit (p,) = { z E X iii) pE = p s u r K .

I dp, (2) = O } est discret dans X ,

Démonstration. Soit UK un voisinage de K tel que dp # O dans U K . I1 existe alors deux suites d’ouverts (Uj)jEw. et (Vj)jEw. relativement compacts dans X tels que

u uj, oc>

dX\UKC

j=l

VU. Problème de Levi

176

b) pour t o u t j , V, est un domaine de carte et Uj CC Vj,

c) V, n K = 0 pour tout j, d) pour tout compact L de X il n'existe qu'un nombre fini d'indices j tels que

LnV,#0. Grâce aux Lemmes 2.24 et 3.12 du chapitre VI, on peut construire une suite ( x j ) j E ~ de fonctions de classe C" dans X telles que pour tout j on ait 1) xj = O dans un voisinage de X \ V, et par conséquent xj = O sur K , 2) la fonction p . . . x j est strictement plurisousharmonique dans X et n'a qu'un nombre fini de points critiques sur K ü Ü1 ü . . . ü Ü j , 3) la fonction x j ainsi que ses dérivées premières et secondes sont majorées par ~ / 2 sur j X.

+ + +

Alors pE = p

+

03

xj convient.

O

j=l

Dans les variétés analytiques complexes nous devons remplacer la notion d'extension strictement pseudoconvexe élémentaire par celle un peu plus générale d'élément d'extension strictement pseudoconvexe pour pouvoir traverser les points critiques. Définition 8.6. On appelle élément d'extension strictement pseudoconvexe u n couple ordonné [O1,821 d'ouverts de X à bord de classe C2 tel que 81 c 8 2 satisfaisant la condition suivante: il existe un ouvert pseudoconvexeV contenu dans un domaine de carte de X contenant 8 2 \ 81 et des domaines Dl et 0 2 strictement pseudo~convexestelsqueD1 c D 2 , 0 2= û 1 U D 2 , B i n D 2 = D1,(ûl \ D 2 ) n ( & \Ol) = 0 et une application biholomorphe définie sur un voisinage de 7à valeurs dans Cn telle que h ( D j ) ,j = 1,2, soit un domaine borné strictement pseudoconvexe à bord C2 de C" . Le Lemme 4.2 reste valable pour cette notion si on remplace dans sa démonstration le Théorème 1.6 par le Théorème 5.3, le Théorème 2.2 par le Théorème 7.1 et la Proposition 3.1 par la Proposition 8.2. Nous allons étendre le Lemme 4.3 au cas où la fonction p possède des points critiques isolés.

Lemme 8.7. Soit p : X + IR une fonction strictement plurisousharmonique de classe C2 telle que Crit(p) soit discret. On pose D, = { z E X I p ( z ) < a } pour a E IR et on suppose que dDo est compact. Il existe E > O tel que pour tout a,,û vérifiant - E 5 a < O < p 5 E il existe u n nombre fini de domaines 81, . . . ,ON telsque D, = 81 c . . . c ON c Dp e t p o u r j = 1 , . , , , N - 1, [Oj,Oj+l] soit un élément d'extension strictement pseudoconvexe. Démonstration. Puisque Crit p est discret il existe EO > O tel que Crit(p) (DEO \ D v E 0 soit ) fini et contenu dans dDo. Notons < I , . . . ,<M les points critiques de p contenus dans DO et choisissons Vi,. . . ,VM des ouverts de X deux à deux disjoints tels que ,$ € % et Vj soit contenu dans un domaine de carte de X pour tout j = 1,. . . ,M. Comme dDo est compact il existe des ouverts V M + .~. .,,V, conte-

8. Problème de Levi dans les variétés analytiques complexes

nus chacun dans un domaine de carte de X tels que Crit(p) f?(

dDo \ Crit(p) C

j

N

U 5 )= 0 et j=M+1

N

U V,. SoitE1 telque0 < ~1 < &oetDE1\ D-E, j=M+1

Choisissons des fonctions ( x j ) . j = l , , . . ,de ~ classe C" telles que supp x

177

C

= 1,. . . ,N et

U Vj.

j=l

à support compact dans Cn

-

N

V,, j

N

C

= 1 sur D E ,\ DPEl. Soit E tel que

x j

=1

O<E<E1.Pouraetbfixésteisque-E-
E

I p ( z ) - a < (P - C Y ) C X j ( Z ) } j=l

alors D, = 01 C . . . C lomorphes sur

V,

ON C

Do. Notons ( z l , , . . . ,zn,) des coordonnées hoN

et posons C =

J=1

sup

Z€V,

J 1

strictement plurisousharmonique, il existe y

.

. La fonction p étant E Cn et

.

N

36

I

> O tel que pour tout < J

( d x j ( z ) Ipour z E

DE1 \ D-E1,alors si E < min(ii,&,) pour tout j

=

j=l

I , . . . ,N

-

1,[ O j , O j + l ] est un élément d'extension strictement pseudoconvexe. O

Remarque :Si dDo nCrit ( p ) = 0 on peut autoriser CY = O ou ,O = O dans le Lemme 8.7.

Comme dans le cas de Cn, on peut définir la notion d'extension strictement pseudoconvexe dans les variétés analytiques complexes. Définition 8.8. Soient D CC 0 CC X des ouverts de X . On dira que est une extension strictement pseudoconvexe de D s'il existe un voisinage U de (;2 \ D et une fonction p strictement plurisousharmonique de ciasseC2 sur U telle que

D fl U = { z E U I p ( z ) < O} et d p ( z ) # O si z E a D R n U = { z E U I p ( z ) < 1) et d p ( z ) # O si z E d o . Remarque :Grâce au Lemme 8.5 la fonction p peut être choisie telie que Crit(p) soit discret. En utilisant le Lemme 8.7 à la place du Lemme 4.3, la démonstration de la Proposition 4.5 s'étend aux extensions strictement pseudoconvexes dans les variétés andytiques complexes. On obtient donc : Proposition 8.9. Soient D e t a des ouverts de X , D CC extension strictement pseudoconvexe de D. Alors

R CC X

tels que

soit une

178

VII. Problème de Levi

i) l’application restriction est un isomorphisme, ii) pour tout (p,q),O Ip 5 n,O 5 y 5 n, l’application restriction Zp,q(2)-+Zp,q(D)estd’imagedense. De même le Lemme 4.7 est encore vrai sous la forme suivante : Proposition 8.10. Soient D et R deux ouverts de X tels que D cc 0. On suppose qu’il existe un voisinage U de R\D et unefonction strictement plurisousharmonique p de classec’ telle que D n U = { z E U I p ( z ) < O},dp(z) # O siz E i)D, D U { z E U I p(z) I C } CC 0, pour toutC > O. Alors l’application restriction

H p i q ( R )-+ HP,‘ 0,1,2 (D) est injective pour tout ( p , q ) tel que O 5 p 5 n , l 5 q 5 n. Nous pouvons maintenant prouver le résultat principal de ce paragraphe. Théorème 8.11. Soient X une variété analytique complexe possédant une fonction d’exhaustion p strictement plurisousharmonique de classe C 2 et D un ouvert de X délfiniparD = { z E X I p ( z ) < (Y}telquedp(z) # Osiz E i)D. i) Pourtoutcouple(p,q),O5 p I n,i I q 5n HP>q O , 1 / 2 ( 0 ) = 0. Plus précisément il existe un opérateur linéaire continu T de l’espace de Banach Z i , q( D )duns l’espacede Banach hP!t-l ( D ) tel que -

dTf

=

f sur D pour toute f E Z;,,(D).

ii) Toute (p,O)-forme différentielle continue sur D et holomorphe dans D peut être approchée uniformément s u r ) par des (p,O)-formes holomorphes sur X . iii) Pour toutcouple (p,q),O 5 p 5 n,l 5 q 5 n

H P > * ( X= ) o. Démonstration. Grâce au Lemme 8.5 appliqué avec K = û D , on peut supposer que Crit(p) est discret. Notons (YO = minp(z). Si z E X vérifie p ( z ) = (YO, alors ZEX

E Crit(p). Cet ensemble étant discret, il n’existe qu’un nombre fini de tels points z dans X . Par conséquent, pour E > O assezpetit Dao+E= ( z E X p ( z ) < (YO E } est biholomorphe à une réunion finie de domaines strictement pseudoconvexes bornés à bord C 2 de CCZ et donc d‘après le Corollaire 5.2, si O 5 p < n et 1 5 q 5 n 2

I

HP>q -

+

0,1/2(Dao+4 = 0. Mais D est une extension strictement pseudoconvexe de Dao+E,la Proposition 8.9 implique donc que, si O 5 p 5 n et 1 5 q 5 n,

(8.2)

H:,’i/2(D) = O.

8. Problème de Levi dans les variétés analytiques complexes

179

L‘existence de l’opérateur T est alors une conséquence du Théorème 8.2 et de la proposition 5 de l’annexe C. Nous avons ainsi prouvé il. Puisque le couple ( D a o + E , Xvérifie ) les hypothèses de la Proposition 8.10, l’assertion iii) résulte de (8.2). Prouvons iil pour terminer. Puisque Crit p est discret, on peut construire une suite (pj)jew de réels tels que PO = O, si f E Z ~ , o ( ~ ) , on peut construire une suite (fJ)jEfüde formes différentielles telles que fj E z,O,o(Dp,),fo= f et Ifj+i - fj(O,Da, < +ï. La suite ( f j ) j e w converge uniformément sur tout compact vers une (p,O)-forme holomorphe sur X telle que

If-

f

fl0,D

< E.

O

B. Problème de Levi

Dans tout le paragraphe X désignera une variété analytique complexe de dimension n. Définition 8.12. Pour tout compact K d e X , on définit

ii-x = ( 2 E x

I

If(z)l

I: SUP If(<)l,VfE Q ( X ) } . CEK

L‘ensemble k x est appelé l’enveloppe holomorphiquement convexe de K dans X . Si K = K x , alors K est dit O(X ) -convexe. Définition 8.13. Une variété analytgue complexe X est holomorphiquement convexe si pour tout compact K de X , K x est compact. Définition 8.14. Une variété analytique complexe X de dimension n est une variété de Stein si i) X est holomorphiquement convexe, ii) pour tout point z E X , il existe n fonctions f i , . . . ,f n E Q ( X ) qui forment un système de coordonnées locales au voisinage de X (c’est-à-direil existe un voisinage U de z tel que l’application F : H (f1 (<) , . . . ,fn (<)) soit biholomorphe de U sur l’ouvert F ( U )de Pl.

<

Exemple :D’après le Théorème 1.13du chapitre VI tout domaine dholomorphie de en est une variété de Stein. Définition 8.15. Un sous-ensemble V d’une variété analytique complexe X de dimension n est une sous-variété analytique de dimension m < n si i) V est fermé,

VU. Problème de Levi

180

ii) pour tout z E V il existe un voisinage w de z et des coordonnées locales (z1, . . . ,z,) d e X tellesque w

nV

=

{< E w

I ~ m + i ( <=) . . . = zn(<) = O}.

Remarquons que si ( f i , . . . ,f,) est un système de coordonnées locales de X au voisinage de z E V , il existe m de ces fonctions qui forment un système de coordonnées locales de V au voisinage de z . On en déduit aisément le résultat suivant : Proposition 8.16. Toute sous-variété analytique complexe d'une variété de Stein est une variété de Stein. En particulier toute sous-variété analytique complexe de Cn est une variété de Stein.

Remarque :On peut prouver, mais nous ne le ferons pas dans ce volume, que toute variété de Stein est biholomorphiquement équivalente à une sous-variété analytique complexe d u n certain O s u r X \ U , ii) { z E X I cp(z) < c } CC X pourtoutc E R. h

Démonstration. Puisque i? est O(X)-convexe et X holomorphiquement convexe, on peut trouver une suite (Kj)jEw. de compacts O(X)-convexes tels que K1 = h

K , ~j c

cc

Kj+, et x = u K

~Posons . u1 = u et vj =

Kj,,

pourj

2 2. Pour

j=l

chaquej,choisissonsdesfonctionsfjkE O ( X ) , k = I , . . . k.teilesqueIfjkl < 1 ' 3,. sur K j et max I f j k ( z )I > 1,si z E Kj+2 \ U (il en existe car K j = K j ) .De plus, l
grâce à la condition ii) de la Définition 8.14, on peut, quitte à ajouter des fonctions, supposer que le rang de la matrice

est égal à n pour tout z E Kj. En prenant des puissances des f j k on peut même s'arranger pour que k,

(8.3)

1 fjk(z)I2 < 2+,

si z E K~

k=l

si k=l

E Kj+2

\ Uj.

8. Problème de Levi dans les variétés analytiques complexes

Grâce à (8.3),la série

f j k ( z )f j k ( Ç )

181

converge uniformément sur tout com-

j,k

pact de X x X et définit une fonction qui est holomorphe en z et antiholomorphe en <, par conséquent la fonction cp(z) = -1

k.l

+ i=l

( k=l I

fjk(t)12)

est de classe

Cm dans X . I1 est clair que cp(z) > j - 1,si z E X \ U j ,d'après (8.4), donc cp > O sur X \ U et cp < O sur k donc sur K d'après (8.3). De plus iil est vérifiée grâce à (8.4). Par ailleurs cp est plurisousharmonique car c'est la borne supérieure d'une famille de fonctions plurisousharmoniques. Il reste à prouver que cp est strictement plurisousharmonique. Soit E X fixé et (21, . . . ,zn) des coordonnées locales holomorphes au voisinage de <. Supposons que pour tout E Qin

<

<

alors pour tout j

ce qui implique 5 = O car la matrice

(2

estderangnsit E K3.0

(2)) k = l , [=I,

.n

Pour prouver la réciproque du Théorème 8.17 nous aurons besoin du lemme suivant : Lemme 8.18. Soit X une variété analytique complexe possédant une fonction dexhaustion p strictement plurisousharmonique de classe C2. il Soit[ E X , a = p([) e t D , = {t E X I p ( t ) < a } . Supposons que d p ( z ) # O pour tout z E dD,. Alors il existe une suite (f k ) k E N J . de fonctions

holomorphes dans X et une constante C telles que a) fk(<) = 1 pourtoutk E N', b) If k l o , D , L C pour toutk E N', c)pourtoutcompactK c Da \ {I}, lim If k l o , K = O. k+m

ii) Pour tout< E X et toute fonction f holomorphe dans un voisinagede[, il existe unesuite (f k ) k E N defonctions holomorphesdansX tellesque lini d fk([) =

af ( E ) .

k+m

Démonstration i) Soit X = (XI, . . . ,An) des coordonnées holomorphes dans un voisinage Vc de t .Posons

VII. Problème de Levi

182

Alors IL est holomorphe dans Vc,u(<) = O et, d'après le Lemme 2.22 du chapitre

VI, Re+)

= P(Z)

-

P(<)

Puisque p est strictement plurisousharmonique, après avoir restreint Vc, on peut trouver p > O tel que

(8.5)

Reu(z) < p ( z )

-

p(C) - ,8lA(z)

- X(<)I2

pourtout

z E V,.

Alors e"(<) = 1 et le"(")l < 1 si z E Dan Vc \ { E } . Choisissons un voisinage We CC Vc de et une fonction x de classe C" sur X telle que x = 1 sur We et suppx CC Alors (ek"&),,,. est une suite de (0,l)-formes différentielles C", à-fermées dans X telles que

<

y.

Puisque dp( z ) # O si z E dD,, on peut appliquer le Théorème 8.11 i) et on obtient une suite ( V k ) k N * de fonctions continues sur D, teiies que a u k = e'"& sur D, et lim 12/klo,D, = O. Enposantfi, = Xeku-vk+uk(~),onobtientdesfonctionsJk

k+cc

holomorphes dans D, telles que j k ( < ) = 1pour tout k E W , sup&,* IfklO,l), < +m et pour tout compact K c D, \ {
O(x) cherchées en utilisant le Théorème d'approximation 8.11 ii). ii) Supposons que f (I =) O. Posons = p ( < ) et considérons Vc,Wc,uet

fonctions f k E

(Y

x

comme dans la démonstration de i). Quitte à restreindre V,, on peut supposer que f est holomorphe sur k = 1,2, . . . on définit -En posant p k = f e'"&, une suite de (O, 1)-forme c" , 6'-fermées dans telles que supp p k CC \ I1 résulte de (8.5) qu'il existe 6 > 0 tel que iimk+, I p k l O , p , + a = o. D'après le Lemme 8.5, on peut supposer que Crit(p) est discret dans X et donc choisir O < E < S assez petit pour que d p ( z ) # O si z E dD,+,. On peut alors appliquer ie Théorème 8.11 i) et trouver des fonctions u k continues sur Da+€teiies que 6'Vk = p k sur Da+€ et lim I?JklO,p,+, = O. Comme = O sur We,les fonctions

h.

x

vc we.

k+m

uk

sont holomorphes dans

et grâce aux inégalités de Cauchy lim k+w

6'vk

(<) = o.

Les fonctions j k , définies par i k = x f e k u - v k , sont continues sur Da+€,holomorphes sur Da+Eet vérifient 6'fk (<) = 6' f (<) - 6 ' u k ( C ) . En utilisant le Théorème 8.11 ii), on peut trouver des fonctions f k E O ( X )telles que I f k - .fk lo,D,+, < l / l ~ et par conséquent iim lûf,(<) - 6 ' j k ( < ) I = O, grâce aux inégalités de Cauchy. Les k+ca

fonctions fk ainsi construites conviennent.

O

Théorème 8.19. Une variété analytique complexe X est de Stein si et seulement si X admet une fonction dexhaustion p strictement plurisousharmonique de classe C2. Pour tout a E R,les ensembles { z E X I p ( z ) 5 (Y}sont alors O(X) -convexes.

8. Problème de Levi dans les variétés analytiques complexes

183

Démonstration. La condition nécessaire est donnée par le Théorème 8.17. Supposons que X possède une fonction d’exhaustion p strictement plurisousharmonique de classe C2. La condition iil de la Définition 8.14 est une conséquence immédiate du Lemme 8.18 ii) car pour toute famille finie de fonctions holomorphes au voisinage d’un point ( de X, on peut trouver des fonctions holomorphes dans X dont le jacobien en 6 est arbitrairement proche du jacobien en ( de la famille initiale. Posons D , = {z E X I p ( z ) < (Y},(YE R I1 suffit de prouver que, pour tout (Y E W,les ensembles D,sont O(X)-convexes. Soit ( E X \ D,.D’après le Lemme 8.5, il existe une fonction d’exhaustion cp strictement plurisousharmonique de classe C2 dans X telle que Crit ( c p ) soit discret et suffisamment proche de p pour que D, CC O,(<), pour OB = {z E X I cp(z) < p } , s i p E W. Quitte à ajouter une petite constante à cp, on peut supposer de plus que dcp(z) # O si z E XI,(<). En appliquant le Lemme 8.18 i) à on peut alors trouver une fonction f E O(X) teiie que f(6) = i et < i sur D,. O

a,(<)

If1

Corollaire8.20. SoientX une variété de Stein, 2 et< deux points distincts de X . Alors ilexisteunefonctionf E O(X) t e l l e q u e f ( z ) # f([). Démonstration. D’après le Théorème 8.19, X possède une fonction dexhaustion p strictement plurisousharmonique de classe C2. Le Lemme 8.5 implique qu’il existe une fonction d’exhaustion cp strictement plurisousharmonique de classe C2 dans X telle que Crit(cp) soit discret. Sans perte de généralité on peut supposer que p ( z ) 5 c p ( ( ) . Posons D,(<) = {< E X I p(<) < y(()}. Quitte à ajouterune petite constante à cp, on peut supposer de plus que dcp(<) # O si E dR,(<). En appliquant le Lemme 8.18 il à et K = {z}, on peut trouver une fonction o f E O(X)telle que f(() = 1et donc If(z)l < 1 et f ( z ) # f(().

<

Corollaire8.21. Si X est une variété de Stein de dimension n, alors

Démonstration. C’est une conséquence immédiate du Théorème 8.11 iii) et du Théorème 8.19. O Remarque :Contrairement au cas des ouverts de @” (cf Corollaire 7.7) l’annulation des groupes de cohomologie Ho>Q(X), 1 5 q 5 n - 1,ne caractérise pas les variétés de Stein parmi les variétés analytiques complexes ; ces groupes sont également tous nuls lorsque X est un espace projectif, par exemple. I1 existe néanmoins une caractérisation cohomologique des variétés de Stein (cf [Gu],vol III). Proposition 8.22. SoitX une variété de Stein. Tout ouvertstrictementpseudoconvexe D cc X est une variété de Stein.

VU. Problème de Levi

184

Démonstration. Puisque D est strictement pseudoconvexe il existe un voisinage U ~ du D bord de D et une fonction p strictement plurisousharmonique de classe C2 sur U ~ tels D que D n U ~ = D { z E UaD I p ( z ) < O}. Grâce au Théorème 8.19, X possède une fonction dexhaustion p l strictement plurisousharmonique de classe C2. Fixons& > Oassezpetitpourque { z E U ~ D 1 -E < p ( z ) < O} CC U ~ D et choisissons une fonction x de classe C" sur [-m,O[ telle que ~ ( t =) O pour t < - E , ~ ( t+) +m si t + 0 et x soit strictement convexe sur ] - &,O[. Alors daprès la Proposition 2.8 du chapitre VI, x o p est strictement plurisousharmonique sur { z E UaD I - E < p ( z ) < O} et p l x O p est une fonction dexhaustion strictement plurisousharmonique de classe C2 pour D.Le Théorème 8.19 implique alors que D est de Stein. O

+

C. Théorème d'annulation pour la cohomologie à support compact. Applications

I1 résulte des paragraphes 8.1 et 8.2 que si X est une variété de Stein de dimension n, pour tout couple (p,q),O 5 p 5 n , l 5 q 5 n H " ' 4 ( X ) = o. Nous allons nous intéresser ici à l'annulation des groupes de cohomologie à support compact H,Piq(X)sur une variété analytique complexe X . Proposition 8.23. Soient X une variété analytique complexe de dimension n, p etq des entiers tels que O 5 p 5 n, 1 5 q 5 n. On suppose que O

E:-p,n-q+i(X) = {u E c n - p , n - q + i ( X ) I

=

E c:-p,n-q(x)I

est fermé dans C~-,,,-,+,(X) pour la topologie de la convergence unqorme sur tout compact de X . Si f E C:,,(X) est une forme différentielle continue à support compact 3-fermée dans X , alors l'équation 3 g = f a une solution g E C,",,-,(X) à support compact dans X si et seulement si f A cp = O pour toutecp E C F - p , n - q ( X )d-ferméedansx. ,

sx

Démonstration. Commençons par la condition nécessaire. Supposons qu'il existe g E Ci,,-,(X) à support compact telle que a g = f dans X . Alors si cp E ( X )est une forme 8-fermée dans X

Cr-p,n-q

grâce au Théorème de Stokes car g est à support compact.

sx

f A cp = O Prouvons maintenant la condition suffisante. Supposons que pour toute forme 8-fermée cp E Cr-p,n-q(X).Nous allons définir une forme linéaire sur EE-,,,-,+,(X) de la manière suivante : si u E En-p,n-q+l(X), O on choisit E CE-p,n-q(X)telie que a u = u et on pose

F(u)=

L

f Au.

8. Problème de Levi dans les variétés analytiques complexes

185

L'application F est bien définie. En effet, d'après l'isomorphisme de Dolbeault, si w,w E C:-,,,-,(X)vérifientdw = aw = h, ilexistecp E CE,,,-,(X),d-fermée teiie que w - w - cp = d e pour E C:-p,n-q-l (X). I1 résulte alors de la formule de Stokes que

e

jxf 0

sx

A

(w - w - cp)

=0

sx

et grâce à l'hypothèse f Aw = f A w.Comme l'espace EE-,,,-,+,(X) est supposé fermé, le théorème de l'application ouverte implique qu'il existe une application linéaire continue 6 de E:-p,n-q+l (X) dans CE-p,n-q(X) telle que 86 = I. L'application F vaut alors

O cn-p,n-q(x) -+ c

sx

est la forme linéaire continue w i-+ f A W. Par conséquent F est une forme linéaire continue sur E:-p,n-q+l (X).En appliquant le Théorème de Hahn-Banach on peut étendre F en une forme linéaire continue F surC:-p,n-q+l (X). La forme

-

F définit donc un courant à support compact qui vérifie

(-l)"+"-'dF(h)

= F(dh) = F ( d h )=

L

f A h = (Tf,h),

pour toute forme h E Vn,n-q(X) c'est-à-dire (-l)P+q-ldF = Tfoù Tfest le courant défini par f . La régularité du d (cf. chap. V, Cor. 4.2) implique alors qu'il existe g E Cp,q-l (X)à support compact telie que

(-i)P+q--'dg= f

X.

dans

O

Théorème 8.24. SoitX une variété de Stein de dimension n, alors

H,Plq(X)=O si O s p i n

et O < q s n - l .

Demonstration. I1 résulte du principe du prolongement analytique que = ûpourtoutp,

<

O p 5 n, car une variété de Stein ne possède pas de composante connexe compacte. H,P>O(X)

Supposons que 1 5 q 5 n. Puisque X est Stein d'après l'isomorphisme de Dolbeault

H,P'q(x)zz HP>"(X) = o. Par conséquent Z:-p,n-q+l (X) = E:-,,,-,+,(X) est fermé dans l'espace O Cn-p,n-q+l (X) pour O 5 p 5 n et 1 5 q 5 n. Nous pouvons donc appliquer la Proposition 8.23. Si f E Ci,q(X)est une forme différentielle d-fermée à support compact dans X nous allons évaluer f A cp pour cp E CF-p,n-q(X),8-fermée. Si 1 5 q 5 n - l,H"-P>"-Q(X)= O et donc cp = 39 pour Q E Cr-p,n-q-l(X). On en déduit en appliquant le Théorème de Stokes que

sx

186

VII. Problème de Levi

car f est à support compact. I1 existe donc g E C:,q-l ( X )à support compact telle que àg = f et par l'isomorphisme de Dolbeault cela implique H,P>q(X)= O (cf chap. VI, cor. 4.3). O Ce théorème d'annulation nous permet de donner des conditions géométriques suffisantes pour le phénomène de Hartogs-Bochner et l'extension des fonctions CR en utilisant les résultats du chapitre V On déduit alors des Corollaires 1.4 et 5.2 du chapitre Vle Théorème de HartogsBochner dans les variétés de Stein. Théorème 8.25. Soit X une variété de Stein de dimension n,n 2 2. Alors le phénomène de Hartogs se produit dans X . Plus précisément pour tout domaine D relativement compact à bord de classec'",k >_ 1,dans X tel que X \ D soit connexe et toute fonction CRf de classeCs, O 5 s 5 k, surdD, il existe une fonction F de classeCs sur D, holomorphe dans D telle que F a D = f .

I

Théorème 8.26. Soient X un variété de Stein de dimension n,n 2 2, et K un compact de X,O(X)-convexe. Alors pour tout domaine D relativement compact dans X tel que 1) ûD \ K soit unesous-variétéde classeC',k 2 1, de X \ K , 2)D\ K = I n t o \ K ) , 3) X \ (EU K ) est connexe et toutefonction C R f de classec', O 5 s 5 k,surdD \ K , il existe une fonction F de classeCs s u r D \ K , holomorphedans D \ K telleque F / a D , K = f. Démonstration. D'après le Théorème 5.1 du chapitre V, il suffit de prouver que H $ l ( X \ K ) = O. Si X est de Stein de dimension n 2 2 alors par le Théorème 8.24, H;>l( X ) = O. Si K est O(X)-convexe, daprès le Théorème 8.17, K possède une suite décroissante (Up),,, de voisinages de Stein telle que Up = K . De plus pour n 2

n

PEN

3,H,0>2(Vp) = O et les hypothèses du Théorème 2.5 du chapitre V sont satisfaites, par conséquent H : ~ ( x \ K ) = O. Considérons maintenant le cas n = 2. Prouvons que l'hypothèse ii) du Théorème 2.5 du chapitre Vest encore satisfaite pour les voisinages (Up),,, de K donnés par le Théorème 8.17. Ces voisinages sont de la forme { p p < c } où p p est une fonction strictement plurisousharmonique dexhaustion de X . Donc, grâce au Théorème 8.11 ii), toute (r,O)-forme holomorphe sur Up est limite uniforme sur tout compact de Up de (r,O)-formes holomorphes sur X. Soit f E c c 2 ( U p )une forme 8-fermée à support compact dans Up qui s'écrit f = 8 g où g E Ccl( X ) est à support compact dans X . Par la formule de Stokes une telle forme vérifie

8. Problème de Levi dans les variétés analytiques complexes

187

pour toute (2,O)-forme holomorphe cp dans X . D’après la Proposition 8.23, pour prouver que f = ago où go E U p )est à support compact dans U p ,il suffit de vérifier d u n e part que E&(U,) est fermé, ce qui est le cas car Up est de Stein (et donc H i > l ( U p= ) O) et d‘autre part que

pour toute (2,O)-forme holomorphe $J sur U p . Mais par définition des U p ,$J = lim (Pnr où les (Pn sont des (2,O)-formes holomorphes sur X et donc f A II, = n-tm UP

Remarque :Pour n 2 3, nous n’avons pas utilisé pleinement l’hypothèse que K est O(X)-convexe, nous avons seulement utilisé le fait que K possède une suite w

décroissante (Up),,, de voisinages de Stein telle que K =

n Up. Un compact p=o

d’une variété analytique complexe qui possède cette propriété s’appelle un compact de Stein. Cette notion sera utilisée au chapitre ViII. En particulier, il résulte de la Proposition 8.22 que, si D est un domaine strictement pseudoconvexe, relativement compact d u n e variété analytique complexe, D est un compact de Stein.

Commentaires. Le problème de Levi dans les domaines de Cn a été résolu par Oka [Ok], en 1942, pour n = 2, puis, au début des années 50, pour n quelconque par Oka [Okl,H. Bremermann [Brll et E Norguet [Nol. En 1958, H. Grauert [Grl a donné la solution d u problème de Levi dans les variétés de Stein à l’aide de la théorie des faisceaux cohérents. La première démonstration de la résolubilité du dans les domaines pseudoconvexes n’utilisant pas la solution du problème de Levi est due à L. Hormander [HOU.Cette démonstration parue en 1965 s’appuie sur des estimations L2 pour le problème a-Neumann. Les premiers opérateurs intégraux pour résoudre lea dans les domaines strictementpseudoconvexes de C” ont été construits au début des années 70 par H. Grauert et I. Lieb [GrfLi]et G.M. Henkin [He2].Leur construction utilise une formule intégrale prouvée indépendamment par G.M. Henkin [Hel]et E. Ramirez [Ram].

a

Les méthodes que nous avons utilisées dans les paragraphes 1 à 4 s’étendent à l’étude du dans les domaines q-convexes au sens de Andreotti-Grauert. Le lecteur intéressé pourra consulter [HelLe2]. La démonstration du Théorème 5.1 est due à Laufer [La]. La résolution du problème de Levi par la méthode des représentations intégrales est exposée dans [HelLell et [Ra]. Une alternative à cette méthode est la théorie L2 de Hormander qui est développée dans [Ho2]. La caractérisation cohomologique des domaines d’holomorphie se trouve dans [Gu]. Le Théorème 8.26 est prouvé dans [LIT21 en utilisant une généralisation du noyau de Bochner-Martinelli aux variétés de Stein.

a

Chapitre VI11

Caractérisation des singularités illusoires pour les fonctions C R sur un bord strictement pseudoconvexe

Dans une première partie nous donnons différentes caractérisations des compacts K du bord d'un domaine D strictement pseudoconvexe d'une variété de Stein de dimension n qui ont la propriété suivante : toute fonction C R continue sur d D \ K s'étend holomorphiquement à D tout entier. Lorsque n = 2, nous obtenons une caractérisation géométrique et si n 2 3, des caractérisations cohomologiques. Nous prouvons entre autres que la condition cohomologique suffisante donnée dans le Théorème 5.1 du chapitre V devient nécessaire si la variété ambiante est de Stein et si on se resrtreint aux domaines strictement pseudoconvexes. Nous terminons par une caractérisation géométrique des compacts K solutions du problème précédent lorsque la fonction à étendre est orthogonale aux (n,n - 1)-formes d-fermées dont le support ne rencontre pas K . Cette condition correspond, lorsque K est vide, à celle du Théorème 3.2 du chapitre IV.

1. RÉDUCTION AU CAS DES FONCTIONS CONTINUES

Soient X une variété analytique complexe de dimension n, D un domaine relativement compact de X et K un sous-ensemble compact de d D tel que d D \ K soit une sous-variété de classe Ck,k 1, de X \ K . Le compact K est une singularité illusoire pour les fonctions C R de classe Cs,O s k, sur d D si toute fonction C R de classe C" définie sur d D \ K s'étend en une fonction holomorphe dans D et de classe Ck dans D \ K .

>

< <

Dans les chapitres précédents nous avons donné des conditions cohomologiques (cf chap. V, th. 5.1 associé aux th. 2.5 et 2.6) et des conditions géométriques (cf chap. ViI,th. 8.26) suffisantes pour qu'un compact K de d D soit une singularité illusoire pour les fonctions C R de classe C" sur dD. Dans ce chapitre nous alions

190

VIII. Caractérisation des singularités illusoires pour les fonctionsC R

nous intéresser au cas particulier où D est un domaine strictement pseudoconvexe à bord Ck,k 2 2 et donner dans ce cas différentes caractérisations des singularités illusoires pour les fonctions CR. Remarquons tout d‘abord que si D est un domaine strictement pseudoconvexe à bord Ck,k 2 2, de X et K un compact de d D , il existe un ouvert R de D tel que ( d D \ K ) U R soit un voisinage de all \ K dans D \ K et toute fonction C R de classe C ” , O 5 s 5 k, sur d D \ K s’étend en une fonction holomorphe sur R et de classe C” sur ( d D \ K ) ü R. C’est une conséquence immédiate de la proposition suivante : Proposition 1.1. SoitD un domainestrictementpseudoconvexeà bordek, k 2 2 , de X e t x un point de dD. Il existe un voisinage V, de x dans X tel que toute fonction C R de classeCs sur V, n d D s’étende en unefonction holomorphe sur V, n D et de classe C” sur V, n D. Démonstration. D’après le Théorème 3.23 du chapitre Vi, il existe un voisinage U, de x et des coordonnées holomorphes sur ce voisinage relativement auxquelles d D est convexe. Supposons ces coordonnées choisies telles que x = O et que l’hyperplan tangent en z à d D ait pour équation Re z, = O. I1 existe alors E # O assez petit pour que z E { z E U, I Rez, > E } n D c U,. Posons rx = d D n { z E U, I Re z, > E } . Grâce à l’étude faite dans le paragraphe 6 du chapitre IV, toute fonction C R de classe Cs sur rx s’étend en une fonction holomorphe sur D n { z E U, I Rez, > ~ } e t d e c l a s s e C ~ s u r D n {Ez U, I Rez, > E } . Par conséquent V, = { z E U, I Re z, > E } convient. O Grâce à cette remarque, nous voyons que pour l’étude des singularités illusoires pour les fonctions C R sur un bord strictement pseudoconvexe on peut se limiter au cas des fonctions C R continues.

2. CAS DE LA DIMENSION 2

Soient X une variété analytique complexe et D un domaine relativement compact de X. On note O ( D )l’espace vectoriel des fonctions holomorphes définies sur un voisinage de D. Définition2.1. Un sous-ensembleE d e n estO(D)-convexe sietseulementsi h

E = E O(D) - - -{ z

E

I

If(z)l

L SUP If(z)l,f E O ( D ) ) . zEE

Remarque :Si D est strictement pseudoconvexe la condition pour un sous-ensemble E de D d‘être O@)-convexe est équivalente à E est O(U)-convexe pour un voisinage U de D, ce voisinage pouvant être choisi de Stein si X est de Stein. C’est

2. Cas de la dimension 2

191

une conséquence du ii) du Théorème 8.11 du chapitre VII, qui implique, dans ce cas, la densité des fonctions holomorphes sur un voisinage U de D dans O@), ce voisinage pouvant être choisi de Stein et tel que est O(U)-convexe, si X est de Stein. I1 suffit si D admet une fonction définissante strictement plurisousharmonique p sur un voisinage Va0 de d D , i.e. D n Va0 = { z E Va0 I p ( z ) < O} de prendre U = D U { z E Va0 I p ( z ) < E } pour E assez petit (cf chap. VII, Th. 8.19 et Prop. 8.22). Théorème 2.2. Soit D un domaine relativement compact, strictement pseudoconvexe à bord Ck,IC 2 2, d’une variété de Stein X de dimension 2. Alors pour tout compact K contenu dans d D , les conditions suivantes sont équivalentes : i) K est une singularité illusoire pour les fonctions C R sur d D , ii) K est O@) -convexe. Démonstration. Prouvons ii) implique i). Soit U un voisinage de Stein de D tel que K soit O(U)-convexe, il en existe d’après la remarque car D est strictement pseudoconvexe et X de Stein. Le Théorème 8.26 du chapitre Vi1 appliqué au triplet ( U , D , K ) dont , les hypothèses sont clairement vérifiées, implique alors que K est une singularité illusoire pour les fonctions C R sur dD. Étudions maintenant la réciproque. Puisque D est strictement pseudoconvexe, le Lemme 8.18 du chapitre Vi1 implique que k , ( ~n , d D = K . Soit Dl un domaine strictement pseudoconvexe de X tel que D c D’, n dD’ = K et i?O (-D ’ ) = K Q(D)‘ - Pour obtenir un tel domaine D’ il suffit de faire une petite perturbation C2 de d D laissant fixe K point par point, on peut alors passer de D à D’ par une suite dénombrable d’éléments d’extension strictement pseudoconvexes ce qui donne la densité de O@’) dans O@). Grâce à un résultat /.dû à Slod. kowski, que nous détaillerons ci-dessous dans le cas où X =
Dl \ i?o(B~). La fonction f est holomorphe au voisinage de d D \ K et puisque K est une singularité illusoire pour les fonctions C R sur d D , elle s’étend holomorO phiquement à D. On a donc D c Dl \ K,(E,, d’où k,(o, = K . Corollaire2.3. Soient X une variété de Stein de dimension 2 et D CC X un domaine strictement pseudoconvexe à bord Ck,k 2 2, tel q u e n soit O(X)-convexe.Alors pour tout compact K contenu dans d D les conditions suivantes sont équivalentes: i) K est une singularité illusoire pour les fonctions C R sur d D , ii) K est O(X) -convexe. Exemple :Si X = C2 et D = B la boule unité de C2, un compact K de la sphère unité est une singularité illusoire pour les fonctions C R si et seulement si K est polynômialement convexe.

192

Viil. Caractérisationdes singularités illusoires pour les fonctions C R

Explicitons maintenant le résultat de 2. Slodkowski [Sl]utilisé dans la démonstration du Théorème 2.2. Lemme 2.4. Si K est une partie compacte de C2 et fl un domaine pseudoconvexe de C2 tel que K n fl = 0, alors fl \ r? est pseudoconvexe. Plus généralement si D est un domaine strictement pseudoconvexe et K un compact de d D , D \ K,(B) est pseudoconvexe. Ce lemme est une conséquence de la “Kontinuitatsatz” (cf.chap. Vi, Théorème 3.4) et du principe du maximum local de Rossi. Principe du maximum local. Soient X un compact d’un ouuert U de Cn, et S une partie de X U , alors S c (8sU ( S n X ) ) U ,où dS est le bord de S relativement à h

Xu. Nous ne prouverons pas ce résultat ici, le lecteur intéressé pourra consulter [ROSI, [Stol ou [Stl. Démonstration d u Lemme 2.4. Raisonnons par l’absurde. Supposons que fl \ k n’est pas pseudoconvexe. Notons A le disque unité de C. D’après la “Kontinuitatsatz”, après un changement de coordonnées dans C2,le bidisque A2 ne rencontre pas K et il existe une suite ( q j ) j E de ~ fonctions holomorphes sur un voisinage de A dans C telles que Iqjl < f sur A et si on pose @ j ( s ) = ( s , q j ( s ) ) , l’application 6 > O, pour tout 8 E IW et @ j ( O ) tend vers un point po E K quand j tend vers l’infini. Posons fj ( 2 1 ,z2) = Z Z - - < plJ ( Z i ) ’ La fonction f j ainsi définie est holomorphe au voi-

a

h

a2.

sinage de r? n D’après le Théorème 7.1 du chapitre VII, on peut approcher fj uniformément sur r? f? par des fonctions holomorphes dans C2. Comme

a2

a2

Ifj I 5 max(

,2) sur r? n dA2 et puisque la borne supérieure de Ifj I sur k n tend vers l’infini avec j , on peut donc construire une fonction f holomorphe dans C2 dont la borne supérieure sur K n est strictement supérieure à la borne supérieure sur K n dA2 ce qui contredit le principe du maximum local. h

a2

Pour obtenir la seconde assertion il suffit de remplacer C2 par un ouvert pseudoconvexe U de C2 tel que les fonctions holomorphes sur U soient denses dans Q(D) et D soit O(U)-convexe et de répéter la démonstration précédente. O

3. CARACTÉRISATION COHOMOLOGIQUE EN DIMENSION n

23

Lorsque la dimension de la variété ambiante est plus grande que 3, nous n’obtenons plus de caractérisation géométrique pour les singularités illusoires, mais seulement une caractérisation cohomologique.

3. Caractérisation cohomologique en dimension n

23

193

Théorème 3.1. Soit D un domaine relativement compact, strictement pseudoconvexe à bordek, Ic 2 2 , d’une variétéde Stein X de dimension n 2 3. Alors pour tout compact K contenu dans d D , les conditions suivantes sont équivalentes : i) K est une singularité illusoire pour les fonctions C R s u r d D , ii) H o l l ( X \ K ) = O, iii) H ~ ~ \ (K )x = O. Démonstration. L‘implication iii) =+ il est une conséquence du Théorème 5.1 du chapitre Vcar D étant strictement pseudoconvexe et K c d D les hypothèses 2) et 3) de ce théorème sont évidemment satisfaites. Le fait que ii) implique iii) résulte du Théorème 2.7 du chapitre V, car X étant une variété de Stein on a H:)’ ( X ) = O ( c f chap. VII, th. 8.24). I1 reste à prouver que i) implique ii). Nous utiliserons le lemme suivant :

Lemme 3.2. Soient X une variété de Stein de dimension n, n 2 3, et K un compact de Stein. Alors H o ) l ( X\ K ) = O. Démonstration. Puisque K est un compact de Stein il possède par définition, une suite décroissante (Up),,, de voisinages de Stein tels que l’adhérence de Up+,soit contenue dans U, et K = Up. Soit f une (0,l)-forme différentielle CO3, d-

n

PEN

fermée sur X \ K . Choisissons une suite ( X , ) , ~ N d‘éléments de D ( X ) tels que x, = 1 au voisinage de Ü,+l et x, = O au voisinage de X \ Up. Prolongeons (1 - x p ) f par O dans Ü,+1. Alors a(1 - x,)f = &yp A f estune (0,2)-forme d-fermée à support compact dans Up.Puisque 17, est un ouvert de Stein et ri 2 3, il existe une (0,l)-forme différentielle g, de classe C“ à support compact dans Up telle que a(i - x , ) f = 3 g p , d‘où a ( g p (1 - xp)f)= O sur x et comme x est de Stein, il existe 7, E C” ( X )telle que g, (1 - x,)f = 87, sur X . Remarquons que yp+l - 7, est holomorphe dans X \ Ü, et que X \ Ü p est connexe car Up est pseudoconvexe. I1 résulte alors du phénomène de Hartogs dans les variétés de Stein ( c f .chap. VII, th. 8.25) qu’il existe une fonction h, holomorphe dans X telle

+

+

00

quehplX,Up = y,+l-y,.Posonsh localement finie sur X De plus on a

\K

= y1+ C(yj+1-yj-hj).Cettesommeest j=l

et définit donc une fonction h de classe C” sur X

\ K.

Fin de la démonstration du Théorème 3.1.Puisque D est strictement pseudoconvexe, il existe des domaines strictement pseudoconvexes D’ et D” tels que D” c D C D’et 0” n d D = K = D n do’. Nous allons prouver qu’étant donné une (0,l)-forme différentielle f de classe C”, d-fermée dans X \ K , il existe une

194

Vlll. Caractérisation des singularités illusoires pour les fonctions C R

fonction g de classe C" sur X \ K telle que d g = f . Puisque D' est un ouvert de Stein, il existe u1 E C" (D') telle que au1 = f sur D' ( c f chap. VI1 Corollaire 8.21 et Proposition 8.22). Comme 8'est un compact de Stein car D" est strictement pseudoconvexe, il résulte du Lemme 3.2 que l'on peut trouver une fonction u2 E C"(X \ 8') telle que au2 = f sur x \ La fonction v = u1 - u2 est définie et holomorphe sur D' \ 8'qui est un voisinage de d D \ K . Puisque K est une singularité illusoire pour les fonctions C R sur d D il existe une fonction V E O ( D )qui étend 'u à D. Posons

3'.

g = 7L1 = u2

-

V

sur sur

D'

x \ D".

On définit ainsi une fonction de classe C" sur X\ K qui vérifie dg = f sur X \ K . 0 Remarque :I1 résulte du Théorème 3.1 que le fait que K soit une singularité illusoire pour les fonctions C R sur le bord d u n domaine strictement pseudoconvexe ne dépend pas du domaine strictement pseudoconvexe contenant K lorsque n 2 3 mais seulement de K lui-même et de ses propriétés en tant que sous-ensemble de la variété X .

4. CARACTÉRISATIONDES SINGULARITÉSILLUSOIRES FAIBLES

Soient X une variété analytique complexe de dimension n, D un domaine relativement compact de X et K un sous-ensemble compact de ûD tel que r = d D \ K soit une sous-variété de classe C k , IC 2 1 , de X \ K . Le compact K est une singularité illusoire faible pour les fonctions C R sur d D si pour toute fonction f E C(r)orthogonale aux formes cp, de classe C" sur X , d-fermées, de bidegré (n,n - 1), définies au voisinage de D et à support disjoint de K , i.e. fP = O, il existe une fonction F holomorphe dans D continue dans D \ K telle que FI = f . Notons que les fonctions considérées sont C R , puisque les formes d exactes sont d-fermées. Nous avons démontré au paragraphe 3 du chapitre IV que si X = û? , K = 0 est une singularité illusoire faible pour les fonctions C R sur d D et nous avons remarqué que les fonctions C R ne sont pas toujours orthogonales aux (n,n- 1)-formesd-fermées en particulier lorsque r n'est pas connexe.

sr

Commençons par des caractérisations cohomologiques.

Théorème 4.1. Soit D un domaine relativement compact, strictement pseudoconvexe à bord C2 d'une variété de Stein de dimension n 2 2 . Alors pour tout compact K contenu dans d D , les conditions suivantes sont équivalentes : i) K est une singularité illusoirefaible pour les fonctions C R sur d D , ii) Hoi'(X \ K ) estséparé, iii) H:' ( X \ K ) est séparé.

4. Caractérisation des singularités illusoires faibles

195

Démonstration. Commençons en prouvant que ii) implique iii). Soit f une $,O,l)forme différentielle de classe C" sur X \ K appartenant à l'adhérence de 3,5:>( X \ K ) dont le support est contenu dans un compact L de X . Puisque H 0 > l ( X\ K ) est séparé, il existe g E c" ( X \ K ) telle que f = 39. La fonctiong est holomorphe sur X \ ( Lü K ) .Puisque X est une variété de Stein, de dimension n 2 2, il résulte du phénomène de Hartogs qu'il existe une fonction 9 E O ( X )qui coïncide avec g en dehors d'un compact de X . Si on pose go = g - j , alors f = ago et le support de go est relativement compact dans X . Par conséquent H 2 l ( X \ K ) est séparé. Montrons maintenant que iiil implique il. Soit f une fonction C R continue sur ï qui est orthogonale aux (n,n- 1)-formes différentielles C", d-fermées dont le support est disjoint de K . D'après la Proposition 1.1, f possède une extension holomorphe f à un voisinage U de ï dans D. Soit x une fonction C" sur X \ K égale à 1 sur un voisinage de X \ ( D U K ) et nulle sur D \ U . Le support de est alors relativement compact dans D. Notons E l'adhérence des (0,l)-formes différentielles 8-exactes dans ( X \ K ) ) + .Nous allons prouver que f3x E E. Raisonnons par l'absurde. Si $ E , il existe une forme linéaire continue T sur (Ccl(X \ K ) ) +telle que TI, = O et (T,f3x) # O. On peut considérer T comme un (n,n - 1)-courant sur X \ K à support fermé dans X et on a (T,dg) = O pour toute fonction g E C" ( X \ K ) dont le support est relativement compact dans X , ce qui signifie que T est d-fermé. D'après le Corollaire 4.2 i) du chapitre V, il existe une forme différentielle 'p de classe C", d-fermée dans X \ K et un courant S sur X \ K , tous deux à support fermé dans X , tels que T = 3s cp. Comme f a x est d-fermée dans X \ K , on a alors

ax

(CTl

fax

+

d'après la formule de Stokes et l'hypothèse sur f , ce qui contredit le choix de T donc fdx E E . Mais par hypothèse H(P'l(X \ K ) est séparé, donc = 89, où g est une fonction C" sur X \ K à support relativement compact dans X . La fonction g est alors holomorphe sur un voisinage de X \ (D ü K ) et puisque X est de Stein de dimension n 2 2, il résulte du phénomène de Hartogs qu'il existe une fonction 9 E O ( X )telle que g = g sur un voisinage de X \ ( D U K ) . En posant F - = x f - g j on obtient une fonction holomorphe dans X \ K continue dans D \ K qui coïncide avec f au voisinage de ï dans D donc avec f sur î.

fax

+

Terminons en prouvant que i) implique ii). Puisque D est strictement pseudoconvexe, il existe des domaines strictement pseudoconvexes D' et D" tels que D" c D c -D' et D" n d D = K = D n dD'. Soit f une (0,l)-forme différentielle C", d-fermée sur X \ K telle que f soit la limite dans Cri ( X \ K ) de la suite (8gj)jEw,où g j E C"(X \ K ) . Puisque D' est un ouvert de Stein,.il existe u1 E ~ " ( 0 tel ' ) que f = au1 sur D'. Supposons dans un premier temps que n 2 3. Comme 8'est un compact de Stein, il résulte du Lemme 3.2 que Hoil(X \ = O. I1 existe alors u2 E C"(X\D") telle que f = au, sur X\D". La fonction w = u1 -u2 est holomorphe

8')

VIII. Caractérisation des singularités illusoires pour les fonctions C R

196

-

surlevoisinageD'\D''der etsicpestune (n,n-1)-formec", compact dans X \ K , on a

8-ferméeàsupport

en appliquant à deux reprises le Théorème de Stokes. -

Soit maintenant cp une (n,n- 1)-forme différentielle C", 8-fermée quelconque dont le support ne rencontre pas K . Puisque D est strictement pseudoconvexe, D possède une base de voisinages de Stein et il existe donc une (n,n- 2)-forme $ de classe Coo,sur un voisinage relativement compact V de D telle que cp = sur V . Soit une fonction C" sur X , identiquement nulle au voisinage de D et égale à 1 sur X \ V . Posons cpo = cp = (1 - x)cp - ax A $. La forme cpo s'étend par O à X \ K en une forme d-fermée à support compact dans X \ K . On a alors

a$

x

a(x$)

car x est nulle au voisinage de D. Puisque K est une singularité illusoire faible il existe une fonction V holomorphe sur D' telle que V = v sur D' \ 8'. Si on pose g = u1 - V = 212

sur sur

on obtient une fonction g de classe C" sur X que H 0 > l ( X\ K ) est séparé.

Dl

x\D", \ K telle que dg = f ,ce qui prouve

Pour traiter le cas n = 2, la démonstration est analogue, mais on utilise que

H O ~ ~\ (8') X est seulement séparé (aiors qu'il était nui pour n 2 31, ce que nous allons démontrer.

O

Proposition 4.2. Soient X une variété de Stein de dimension 2, et K un compact de Stein. Alors H p i ' ( X \ K ) ,p 2 O, est un espace vectoriel topologique séparé.

Démonstration. Prouvons tout d'abord que, pour tout compact L de X \ K , DF2(X \ K ) f i dDP>l(X\ K ) est un sous espace fermé de DF2(X \ K).I1 suffit de montrer que si f E DPi2(X \ K ) , à support dans un compact L , est la limite d u n e suite (f j ) j E N d'éléments de P 2 ( X \ K ) , à support dans L, tels que fj = d g j , o ù g j E2?Pi1(X\K),alors f = d g , o ù g ~ D p ~ ' ( X \ K ) . O n p r o l o n g e f à X par zéro, aiors, si cp E est une forme d-fermée, on a grâce à la formule de Stokes dgj A cp = O. f A cp = Jim

c~-~,~(x)

sx

3'00

Sx

La variété X étant de Stein, H,"-pl'(X) = O et par conséquent E;-,,,(X) est fermé dans C;-,,,(X). La Proposition 8.23 du chapitre VI1 et la régularité du 8,

4. Caractérisation des singularités illusoires faibles

197

impliquent alors que f = dh, où h E DP>'(X).Puisque K est un compact de Stein, il existe un ouvert de Stein U dans X tel que K C U C X \ L. La forme h est d-fermée sur U et on a h = du sur U , où u E CEo.Soit x E D ( X ) une fonction identiquement égale à 1 au voisinage de K et à support dans U . On pose g = h - ~ ( x u g) est , une (p,l)-forme différentielle C" sur X, à support compact dans X \ K telle que 8 g = f . La proposition résultera alors du lemme général suivant.

O

Lemme 4.3. Soient M une variété analytique complexe de dimension n, p etq, p 2 O, 1 1 q < n , des entiers. Si pour tout compact L de M , V p q ( M )n dVplq-l(M) est un sous espace fermé de V p q ( M ) alors , Hn-Pln-q+'(M) est séparé. En particulier H,P,q(M)est séparé si et seulement si Hn-p>"-q+' ( M )est séparé. Nous allons prouver que sous les hypothèses du lemme l'espace

Er-p,n-q+l(M) = {. E

03

cn-p,n-q+l(M)

I

= dV,V E

cr-p,n-q(M)}

I

est égal au sous-espace fermé Zr-p,n-q+l(M)de Zr-p,n-q+l(M)des formes différentielles f vérifiant f A cp = O pour toute cp E Dp)q-'(M) telle que dcp = O dans M . Le Théorème de Stokes implique que EF-p,n-q+l(M)est contenu

,s

-

-

(M), dans Z z p , n - q + l( M ) . Étudions l'inclusion inverse. Soit f E ZEp,n-q+l on définit une forme linéaire continue F sur DPiq-l(M) en posant F(cp) = (-i)p+qlS,j A 'p pour 'p E D P ? ~ - ~ ( M Puisque ). f E il existe une forme linéaire H sur dDP>q-l(M)telle que F = H O 3. Pour prouver la continuité de la forme linéaire H , il suffit, par définition de la topologie de D P ) q ( M )de , montrer que pour tout compact L de M la restriction H L de H à D p q ( M ) n dDp,q-'(M) est continue. Fixons L et considérons une suite exhaustive ( K j ) j c .de ~ compacts de M . Pour chaque j, notons dj la restriction de l'opérateur 3 à l'espace de Fréchet ZEq-,(Kj,L,M) = {f E Dg,"(M)I =

af

O sur Kj \ L } . L'espace D p q ( M ) n dDP+-'(M) est la réunion des images des opérateurs 8j, mais comme il est fermé par hypothèse , c'est un espace de Fréchet et le théorème de Bake implique alors qu'il existe j o tel que Imdj,ne soit pas maigre. Par le théorème de l'application ouverte, l'application djo est surjective et ouverte, ce qui prouve la continuité de H L et celle de H . Par Hahn-Banach l'appliction H s'étend en un ( n - p,n - q)-courant T qui vérifie

1

(dT,cp)= (-l)pfq(T,8cp)= (-l)p+qF(cp) =

f A cp = (Tf,cp)

X

pourtoutecp E DP>Q-l(M). O n a d o n c d T = Tf et commef E C,"Lp,n-q+l ( M ) , par l'isomorphisme de Dolbeault, f E Er-p,n-q+l( M ) . Prouvons la seconde assertion. La condition suffisante résulte de la Proposition 8.23 du chapitre Vi1 et de l'isomorphisme de Dolbeault. Si le groupe de COhomologie H,P,Q(M) est séparé, alors pour tout compact L de M , le sous espace D p q( M ) n dDP,q-l ( M ) est fermé dans D p q (M ) , d'où la condition nécessaire d'après la première assertion. O

198

VIII. Caractérisation des singularités illusoires pour les fonctions C R

Terminons par une caractérisation cohomologique intrinsèque et une caractérisation géométrique des singularités illusoires faibles. Si F est un fermé de X , on note CEq(F)l'espace des germes de (p,q)-formes différentielles sur F , c'est-à-dire la limite inductive sur les ouverts U de X contenant F de la famille CEq(U),les applications Z U V : CEq(U) + Crq(V)pour V c U étant simplement les applications restriction. L'opérateur 8 : c"(F) + CEq+, ( F ) est bien défini et c'est une application continue, qui vérifie d O 8 = O. On peut donc parler du groupe de cohomologie

où Z E q ( F ) =

{u E C,qP(F) I 8 u = O}, HP)q(F)est muni naturellement de la

topologie quotient. Théorème 4.4. Soit D un domaine relativement compact strictement pseudoconvexe à bord C2 d'une variété de Stein de dimension n 2 2 . Alors pour tout compact K contenu dans d D , les conditions suivantes sont équivalentes : i) K est une singularité illusoirefaible pour les fonctions C R sur d D , ii) D c ïO(D)oùro(D) = u { E - E c I? compact}. h

h

iii) Pour tout compact L

L

O(D) I c D \ K , il existe un compact ï

L

c

ï tel que

c (h)O(D). iv) H*J-' ( K ) = O.

Démonstration. Prouvons tout d'abord que ivl implique il. D'après l'équivalence entre les assertions il et iiil du Théorème 4.1, il suffit de montrer que si le groupe Hn,n-l ( K )est nul, alors H:'(X \ K ) est séparé. Notons Q la famille de supports constituée par l'ensemble des fermés de X qui ne rencontrent pas K et considérons le groupe ( X \ K ) de cohomologie de Dolbeault à support dans la famille Q. Nous allons prouver que ce groupe est nul si l'assertion iv) est satisfaite. Soit f E Zg'"(X \ K ) une (n,n)-forme différentielle 8-fermée de classe C" sur X \ K à support dans Q. Comme la variété X est de Stein, il résulte du Corollaire 8.21 du chapitre VI1 qu'il existe une (n,n - 1)- forme différentielle g de classe C" sur X telle que 8f = g. Puisque le support de f est contenu dans q ,la forme g est 8-fermée au voisinage de K . La condition ivl implique alors qu'il existe un voisinage U de K et une forme différentielle h de classe C" sur U telle que dh = g sur U . Si x est une fonction de classe C" à support dans U et indentiquement égale à 1au voisinage de K , la forme 9 = g - d x h est à support dans 9 et vérifie 89 = f , donc H$'*(X \ K ) = O. Remarquons que le Lemme 4.3 reste valable si on remplace la famiiie c par la famille Q et la famille des fermés de X \ K par la famille @. 11 en résulte H : ~ (\xK ) est séparé. Montrons que il implique iil. Supposons que K soit une singularité iiiusoire faible pour les fonctions CR sur dD. Notons d(D U ï) l'algèbre des fonctions continues sur I' ü D et holomorphes dans D. Comme K est une singularité illusoire faible, d(DU I?) n C ( r ) est une sous-algèbre fermée de C ( ï ) (en effet c'est

4. Caractérisation des singularités illusoires faibles

199

l’intersection des sous-espaces fermés Fv = {f E C(r) I r f y- = O}, où y décrit l’ensemble des (n,n - 1)-formes différentielles de classe C30, d-fermées au voisinage de D, dont le support ne rencontre pas K ) .Par conséquent l’application restriction p de d ( D u r) sur d ( D u r) n C(r)est un isomorphisme topologique. Notons x son inverse. Si z est un point de D , le théorème de Hahn-Banach implique l’existence d u n e forme linéaire continue : C(r) -+ C qui coïncide sur d ( D U I’) n C(r)avec l’application f I r e x(f Ir)(.) = f ( z ) . Grâce au théorème de représentation de Riesz il existe donc une mesure pz de masse finie à support compact sur r telle que $J

f(z) =

L L

fksi f

E

d ( D u r).

Puisque d ( D n r)est une algèbre, pour tout k E N,on a

fk(z)=

f‘dp,,

si

f E d ( D u r).

On en déduit que, pour tout k E N,

En faisant tendre k vers l’infini. on obtient

lf(.)I I: SUP{lf(Ol I

c E SUPPP2)l

-

si

f E d ( D u r)? h

ce qui prouve que z E ( s ~ p p p , ) ~et( donc, ~ ) par définition de ro(B), D

c

r O (-D ) ’ h

Étudions maintenant l’implication iij lemmes.

+ iiij.

Nous aurons besoin de deux

Lemme 4.5. Soient D un domaine relativement compact strictement pseudoconvexe à bord C2 d’une variété de Stein X de dimension n 2 2 et K un compact contenu dans d D . Pour tout compact E c d D \ K , il existe un domaine D’ relativement compact strictement pseudoconvexe à bord C2 contenant D tel que ôD’ nD = K et O@‘) I ~ s o i t d e n s e d a n s O ( DetuncompactE’ ) c ôDl\K telqueE C

EC>(~~).

Démonstration. On obtient D‘ en effectuant une petite perturbation C2 de dD laissant fixe K point par point. On peut alors passer de D à D’ par une suite d’éléments d‘extension pseudoconvexe ce qui implique la densité de O ( 8 )I D dans O@). Pour chaque IC E E , considérons le voisinage V, de IC dans X construit dans la Proposition 1.1. On peut supposer que ne rencontre pas K . L‘ensemble E étant compact, E est recouvert par un nombre fini V I ,. . . ,Vp de tels V,. Notons

vz

E’ =

u (Vi naDl).Si D’ est assez proche de D , vi nD’, i = 1, . . . ,p, est un doP

-

i=l

maine du type étudié dans le paragraphe 6 du chapitre Vet donc E

c

h

O

200

Viii. Caractérisation des singularités illusoires pour les fonctions C R

Lemme 4.6. Soient Y un ouvert de Stein d'une variété de Stein de dimension n 2 2,

etE uncompactdeY. OnnoteE, = { z E X I dist(z,E)5 E } etonchoisits assez petit pour que E, soit encore un compact de Y .Alors

>O

A

Démonstration. Posons K = (E,)y, c'est un compact O(Y)-convexe, il possède donc une base U de voisinages de Stein telle que pour tout U E U , O ( Y ) lu soit dense dans O ( U )(cela résulte immédiatement du Théorème 8.17 et de la Proposition 8.9 du chapitre VII). On a alors

dist(Êy,dK)= inf dist(Êy,dU)= inf dist(Êu,dU) UEU

U€U

car ÊY = Êu puisque O ( Y ) lu est dense dans O ( U ) .Comme tout élément U de U est un domaine dholomorphie car il est de Stein, il résulte du Théorème 1.13 du chapitre Vi que

dist(Êy,dK)= inf dist(E,dU). UEU

Maissi U E U , U contient E,, par conséquent dist(Êy,dK)2 E et donc ( Ê y ) , C

K. A

Suite de la démonstration du Théorème 4.4. Supposons que D C ï o ( D ) , alors si h

a E D \ K il existe un compact E, de î tel que a E (E,),(D). D'après le Lemme 4.5, on peut trouver un domaine DI strictement pseudoconvexe contenant D tel que dD' n D = K et O ( 8 ) ID soit dense dans O ( D )et un compact EL C r' = DI \ K tel que E, c (Ga)o(El). On a aiors h

h

h

a E (Ea)o(D)= (E&(EJ) c ( W q E y Ainsi que nous l'avons déjà remarqué dans le paragraphe 1 de ce chapitre, on peut trouve; un voisinage de Stein U de 8 tel que pour tout compact C de 8, C - = Cu. Avec les notations du Lemme 4.6 choisissons E assez petit pour que A

O(D')

(Ea)€flD= 0 et (

nK

= 0, ce qui est possible car E&est un compact de

cc" \D et les points de K sont des points pics pour O@'). Le Lemme 4.6 implique alors que

B(a,E) c

((E)u), c

et en vertu du principe du maximum local

((ELMU

D n B(u,E) c

h

(ïa)U,

où ï a =

n d D est un compact de I?. Si L est un compact de d D \ K , L est recouvert par un nombre fini d'ouverts Va de D de la forme D n B(u,E)et par conséquent il existe un compact ï L c ï tel que L c ( ï r , ) o ( D ) . h

Terminons en prouvant que iii) implique iv). Considérons une (n,n- 1)-forme différentielle 'p d-fermée de classe C" sur un voisinage U de K et X une fonction de classe Coo à support compact dans U et égale à 1 sur un voisinage V de

4. Caractérisation des singularités illusoires faibles

201

sDfax

K . L‘applicationf +-+ A ‘p est une forme linéaire continue sur O@). Posons L = D n supp c’est un compact disjoint de K et d‘après iii), il existe un compact J?L c I’ tel que

ax,

I1 résulte du Théorème de Hahn-Banach et du Théorème de représentation de Riesz qu’il existe une mesure p L sur rLtelle que (pL,f)= JD A ‘p si f E O@). Si X D désigne la fonction caractéristique de D , a = X D ~ XA ‘p - p~ est une mesure sur D u r qui vérifie (a,!) = O pour toute f E O ( D ) .L‘ouvert D étant strictement pseudoconvexe, il existe un domaine G‘ strictement pseudoconvexe tel que supp a c GI,K n G’ = 0 et O ( D )soit dense dans o(G’) IG’n(D”r). (Pour obtenir GI,il suffit de pousser légèrement le bord de D à l’intérieur de D au voisinage de K et de le pousser vers l’extérieur près du support de a ) .La mesure a définit alors un (n,n)-courant Tuà support compact dans G’ qui vérifie (T,,f) = O pour toute f E O(G’). Comme G’ est de Stein, il existe un (n,n - 1)-courant S à support compact dans G’ tel que Tu = dS. Mais Toest une forme différentielle de classe C” sur D n G’, il résulte alors de la régularité du 8, ( c f chap. Vi, Corollaire 4.2 ii)), qu’il existe une forme différentielle ‘po de classe C” sur D n G’ nulle au voisinage de K telle que acpo = To sur D n GI. Considérons à présent un domaine G” strictement pseudoconvexe tel que K c G” c D U V . En restreignant à G”, la relation a’po = Tuon obtient A ‘p = 890 soit a(Xp - ‘po) = O sur GI’ (on a implicitement prolongé X‘p par zéro pour la définir sur GI’ tout entier). Puisque G” est de Stein, Hnln-’(G”) = O et il existe donc une (n,n - 2)-forme différentielle II, de classe C” sur G” telle que X‘p - ‘po = aII, sur G”. Comme X = 1 et ‘po = O au voisinage de K , on aura aII, = ‘p au voisinage de K , ce qui prouve que H n , n - l ( K ) = O. O

fax

aA

Commentaire.L’étudedes singularités illusoires pour les fonctions C R définies sur le bord d’un domaine a débuté avec le travail de G. Lupacciolu et G. Tomassini [LulTo] en 1984 et s’est développée rapidement dans les années qui ont suivi. Les résultats les plus significatifs ont été prouvés par G. Lupacciolu [Lu1,2]. Un panorama de l’ensemble des résultats obtenus sur ce sujet est exposé dans [CifStl.

Annexe A

Variétés différentiables, formes différentielles

Le lecteur trouvera ici un certain nombre d'outils élémentaires de géométrie différentielle qui sont utilisés dans ce volume. Après avoir introduit la notion de variété différentiable, nous définissons l'algèbre des formes différentielles et nous prouvons le Théorème de Stokes qui est le résultat fondamental de cette annexe.

1. VARIÉTÉS DIFFÉRENTIABLES

Définition 1.1. Sur un espace topologique X , une carte h de X est un homéomorphisme d'un ouvert U de X sur un ouvert de R" pour un certain entiern. L'ouvert U est le domaine de la carte h ;on dit que c'est un ouvert de carte. On désigne parfois la carte h par le couple (U,h ).

Si V est un ouvert de X , V

c U , alors hl

est une carte de domaine V .

Définition 1.2. a) Deux cartes h et h' de X , de même domaine U sont dites q-compatiblessi les deux homéomorphismes réciproques h' O h-l : h ( U ) -4 h'(U)

h O h'-l : h'(U) -+h ( U ) sont de classe C'J, q E N* ü { m}, au sens des applications d'un ouvert de RP dans un ouvert de RP'. b) Deux cartes (U,h ) et (U',h') sont dites q-compatibles si: U f l U' = 0 ou bien hl U n U , et h' UnU, sont q-compatiblesau sens de a).

I

Remarque: Si n et n' sont des entiers associés aux cartes h et h', ils sont égaux lorsque h et h' sont compatibles. En effet, si q 2 1, la différentielled(h' O h-')(z) pour 2 E h(U ) est une bijection linéaire de R* dans R"'et donc n = n'.

204

A. Vm'étés différentiables, formes différentielles

Définition 1.3. Un atlas de X de classe CQ est un ensemble de cartes deux à deux q compatibles dont les domaines constituent un recouvrement ouvert de X . Deux atlas de classeCQsont dits compatibles si leur réunion est un atlas de classeCQ. Remarque :La compatibilité est une relation d'équivalence dans l'ensemble des atlas de classe CQde X . Définition 1.4. On appelle variété différentiable de classe CQ un espace topologique séparé, réunion dénombrable de compacts, muni dune classe d'équivalence d'atlas de classe CQ. Exemples 1)Un ouvert non vide D de Rn a une structure naturelle de variété Cm. Un atlas est donné par { (D, IdD)}. 2) La sphère de R3 est une variété C" munie d u n atlas à deux cartes. 3) Si D est un ouvert relativement compact de Rn tel que pour tout P E d D il existe un voisinage W, de P vérifiant d D f l W, = { x E W, I r p ( x ) = O} où r p est une fonction de classe Ck,1 5 IC 5 00, sur W, et dr, # O sur d D n W,. Alors d D est une variété de classe C k (c'est une conséquence du théorème des fonctions implicites). Si X est une variété différentiable, pour tout x E X , il existe une carte (U,h) teile que x E U et h soit une application de U dans R" . L'entier n ne dépend que de 5 , c'est la dimension de X en x.I1 est clair que n est fixe sur chaque composante connexe de X . Définition 1.5. Une variété différentiable dont toutes les composantes connexes sont de dimension n sera dite de dimension n. Définition 1.6. Soient X et Y deux variétés différentiables de classeCQ.Une application f : X t Y est dite de classeCP,p 5 q, si elle est continue et vérifie la condition suivante :pour tout couple de cartes (U,h ) , (V,k)de X et de Y tel que f ( U ) c V , 1'application

IC

O

IV)

(f

O

h-' : h ( U ) -+

k(V)

est de classe C P en tant qu'application d'un ouvert de R" dans un ouvert de R" . Notons qu'il suffitde vérifier ces propriétés pour l'ensemble des cartes d'un atlas. Si Y = R ou C, une application de classe C P de X dans Y est appelée fonction de classe C P sur X . Définition 1.7. Soit (U,h ) une carte d u n e variété différentiablex de classeCQ,alors h est une application de classeCQde U dans R" U -+ h ( U ) c R" 5

h ( z ) = (xi(x),. . . ,xn(x))

2. Partitions de 1 'unité

205

-+R,j

où lesxi : U X I ,. . . ,x, sont

= 1, . . . ,n,sont desfonctions de classesCQsur U . Les fonctions appelées les coordonnées locales de X sur U définies par la carte

(U,h).

2. PARTITIONS DE L'UNITÉ

Dans ce paragraphe, nous construisons un outil qui permet de localiser les problèmes donnés sur une variété, en particulier de se ramener dans un domaine de carte. Lemme 2.1. Soit A un compact de IRn et U un ouvert contenant A. Il existe une fonction réelle de classe Cm à support compact dans U , comprise entre O et 1 et égale à 1 sur A. Démonstration. Considérons la fonction définie sur R par

{

<1 si It1 2 1 si It1

e ( t )= ce-*

e ( t )= O où C est une constante telle que B(t)d t = 1. Elle est de classe C" sur R et son , support est l'intervalle [- 1,il.Pour E > O fixé, la fonction x e eE(x)= e

+

s,

(T)

+

où 1x1 = (xf . . . x:)~/~, est de classe C" dans Rn,son support est la boule fermée de centre O et de rayon E et elle prend ses valeurs dans [0,1]. Soit B un ouvert relativement compact de Rn tel que A

*

= XB

*

cc B cc U . Posons

QE

où X B est la fonction caractéristique de B. La fonction $ est C" sur R et à valeurs dans [0,1]et si E < f min (dist(B,CU), dist(A,CB)) le support de 11, est un comO pact contenu dans U et $J est constante égale à 1 sur A .

Lemme 2.2. Soit U un recouvrement ouvert localement fini d'une variété différentiable X . Pour chaque U E U , il existe un ouvert U' tel que Ü' C U et l'ensemble des U' forme encore un recouvrement ouvert de X . Démonstration. On suppose, sans perte de généralité que X est connexe et, quitte à extraire, que le recouvrement U est dénombrable puisque X est réunion dénombrable de compacts (on prendra U' = 0 pour les U que l'on aura supprimés). Alors

u = (Ul,U2,U3,. . .}. Posons C1 =

U1 \ ( U Uk),Cl est un fermé contenu dans U1 et X k22

~2

u ~3 u . .. Soit

un ouvert tel que CI

c U; c üi c ~

1 .

= Cl

u

A. Variétés différentiables, formes différentielles

206

Posons C2 = U2 \ (Ui U (

u Uk)),

C2

est un fermé contenu dans U2 et X =

k >-3

U: u Cz u Us u . . .. Soit Us un ouvert tel que C2 c U:

c 7 7 2 c uZ.

En itérant cette construction on obtient une famille ( U k ) k Ed'ouverts ~ de X tels que ü kc 11 reste à prouver que cette famille constitue un recouvrement ouvert de X.

u,.

Pour tout z E X, il existe un plus grand entier n tel que z E Un, car U est localement fini. Par construction des Uk on a zEU;U-.U:,U

et donc z E

(

u

k>n+l

u Uk car le fait de remplacer Ur,par Uk pour k 2 n + 1ne peut pas k>l

faire disparaître z puisque, par définition de n, z $! (

u

Uk).

O

k>n+l

Théorème 2.3. Soit X une variété différentiable. Pour tout recouvrement ouvert ( R i ) i € d~ e X on peut trouverdes fonctions ( a i ) i Etellesque ~ 1 ) cri est de classeCm à support compact dans Ri, 2) sur tout compact de X un nombre fini seulement des ai ne sont pas identiquement nulles, 3)pourtoutz E X , a i ( z ) 2 û e t Ccri(z)= 1. i€I

Définition 2.4. Unefamille de fonctions ( c r i ) i E ~satisfaisant aux conditions du Théorème 2.3 s'appelle une partition de l'unité localement finie subordonnée au recouvrement (Ri)iEI.

Démonstration du Théorème 2.3. Supposons tout d'abord que le recouvrement (Ri)i€~ est localement fini, i.e. tout compact ne rencontre qu'un nombre fini de ces ouverts, que tous les Ri sont relativement compacts dans X et que leur adhérence est contenue dans un domaine de carte. En appliquant le Lemme 2.2, on peut alors trouver un nouveau recouvrement (R;)~€Idépendant du même ensemble d'indices et tel que C Ri. Grâce au Lemme 2.1, il existe des fonctions ('pi)i€~ de classe C", comprises entre O et 1 telles que le support de cpi est contenu dans Ri et cpi est égale à 1 sur R:. La somme cp = pi est définie sur X car pour iEI

tout z E X seul un nombre fini de cpi(z)est non nul et elle est partout supérieure ou égale à 1. Les fonctions ai = !$vérifient les conditions du théorème. Supposons maintenant que le recouvrement ( R i ) i € est ~ arbitraire. Comme X est réunion dénombrable de compacts, on peut trouver un recouvrement plus fin, localement fini, ( G j ) j €dépendant ~ d u n autre ensemble d'indice J et une application de J dans I,j e i(j) tels que tout Gj est relativement compact dans X , cj est contenu dans un domaine de carte et pour tout j E J,Gj c Ri(j). D'après la lrepartiede la démonstration il existe une partition de l'unité (-yj)j€~ subordonnée

3. Espace cotangent en un point - Formesdifférentiellesde degré I

207

yj, pour tout i E I . La famille

au recouvrement ( G j ) j E ~Posons . alors cri = i(j)=i ( a i ) i Esatisfait l aux conditions

du théorème.

O

3. ESPACE COTANGENT EN UN POINT

FORMES DIFFÉRENTIELLESDE DEGRÉ 1

Soient X une variété différentiable de classe CQ, de dimension n et x E X. On considère l’ensemble des couples (U,f) où U est un ouvert de X contenant x et f E CP(U), p 5 q. On définit une relation d‘équivalence sur cet ensemble par (U,f) (U’,f’) si et seulement s’il existe W c U n U’ tel que x E W et On appelle germe de fonction CP en x une classe d‘équivalence pour f = w,. la relation précédente ; s’il n’y a pas de risque de confusion on identifie souvent un germe avec un de ses représentants.

I

f’l

N

Définition 3.1. Une fonction f de classe CP,p 2 1, définie sur un voisinage W d’un point x E X est dite stationnaire en x,s’il existe une carte (U,h) telle que x E U c W et que toutes les dérivées partielles d’ordre 1 de f O h-‘ soient nulles en h(x). Un germe de fonction CP,p 2 1, en x est stationnaire si et seulement si un de ses représentants est stationnaire en x. (Notons qu’alors ils sont tous stationnaires). Notons Cg(X) l’ensemble des germes de fonctions C P en x et Sg(X) le sousensemble de Cg(X) constitué par les germes stationnaires. Cg(X) est un W-espace vectoriel et S g ( X )est un sous-espace vectoriel de Cg(X).On peut remarquer que Cg(X)/Sg(X)C:(X)/S:(X) pourtoutp 2 1. Définition 3.2. Soit X une variété de classe Cq,q 2 1. L’espace vectoriel T,*(X) = C;(X)/S:(X) estappeléespacecotangentàXenx.S i f E C:(X) onnotera(df), son image dans T,*(X).Les éléments de T,*( X )sont les différentielles en x. Soit (U,h)une carte telle que x E U , considérons l’application

eh,=: T;(x) (dfL

-

tL ( w ~ , w )

4.f h-l)(+)). O

L‘application est linéaire, injective. Si ( X I ,. . . ,xn)désignent les coordonnées locales en x définies par la carte (U,h), la famille des d(xj O h-’)(h(x)) est une base de L(Rn,IR) donc Oh,, est aussi surjective, c’est un isomorphisme. L‘espace vectorielT,*(X) est donc de dimensionn et (dxl),,. . . ,(dx,), forment une base de T,*(X). Nous ailons exprimer les coordonnées d‘un élément (df)zde T,*(X)dans cette base

ôf oh-’ j=l

(h(X))d(%

O

h-l)(h(x))

A. Variétés différentiables, formes différentielles

208

j=l

Définition 3.3. On définit T * ( X ) comme la réunion disjointe pour x E X des T: ( X ) ,c'estl'espace cotangent à X et on notep la projection naturelle de T * ( X )

surX. Définition 3.4. SoientX une uariétédifférentiable de classeCq,q 2 1,e t A un ouuert de X . Une forme différentielle de degré 1sur A est une application w : A -+ T*( X )

telle quep O A = Id. Soient (U,h)une carte de X et ( X I , . . . ,xn) les coordonnées locales associées. Si w est une forme différentielle de degré 1 sur A , on a, pour tout x E A n U , n

wlA"u(x) = C.j(X)(dXj)Z. j=l

On notera d z j la forme différentielle de degré 1 définie sur U par x ct (dxj),. On peut alors écrire n

j=l

où les aj sont des fonctions définies sur A

nU.

La forme w sera dite de classe Ce,[ < q, si les fonctions a j sont de classe C e sur A n U . Un calcul direct prouve que cette notion est indépendante du choix des coordonnées. Exemple 3.5 :Si f est une fonction de classe C1 sur l'ouvert A de X , l'application I-+ (df), définit une forme différentielle de degré 1, continue sur A , on l'appelle la différentielle de la fonction f.Si A est un ouvert de Rn,df ainsi définie coïncide avec la différentielle de la fonction f au sens classique après identification de TZX avec L(Rn,R) pour tout z E A .

z

4. ESPACE TANGENT EN UN POINT - CHAMPS DE VECTEURS

Soit X une variété différentiable de classe Cq,q 2 1,et de dimension n et II: un point de X. Une courbe dans X passant par 2 E X est une application a de classe C1 d u n intervalle ouvert I de R dans X telle que O E I et a(0) = z. On définit une relation d'équivalence sur l'ensemble des courbes de X passant par x par (Y p si et seulement si pour toute fonction f de classe C1 définie au voisinage de z on a N

4. Espace tangent en un point - Champs de vecteurs

Le lecteur pourra vérifier que si X est un ouvert de IRn , Q cy’(0) = P’(0).

N

209

,ûsi et seulement si

Définition 4.1. L‘ensemble des classes d’équivalence de courbes de X passant par x pour la relation ci-dessus est appelé espace tangent en x à X . On le note T, ( X ) .

Si v E T, ( X )et si f est une fonction de classe C 1 au voisinage de x,on pose

où Q est un représentant de v. Cela s’interprète comme une dérivée directionnelle. Pour X = R”, on vérifie facilement que

Remarquons que v(f) = v ( g ) si f et g E C ; ( X ) et f - g E S ; ( X ) . Si v E T, ( X ) ,on peut donc définir une application que l’on notera encore v de T,’ ( X ) dans IR

v : (df)x

-

d

,(f

O

a)(O)

où f est un représentant de l’élément (df), de T,’(X) et cy un représentant de v. Vérifions que si v1 et v2 coïncident en tant qu’applications de T,’ ( X ) dans IR, ils coïncident en tant qu’éléments de T, ( X ) .Soit ai un représentant de vi,z = 1,2. Si vl et v2 coïncident comme application de T,‘ ( X )dans IR, pour toute fonction f de classe C1 définie au voisinage de x , on a

mais cela signifie que a1 et a2 sont dans la même classe et donc que v1 = v2 dans

T,X. Un vecteur tangent en x à X peut donc être considéré comme une forme linéaire sur T,’ ( X ) . Proposition 4.2. Soient v E T, ( X ) et f et g des fonctions de classeCl au voisinage d e x . Onapoura,b E IR

4a.f

+ b9) = 4 f ) + b v ( g ) 4 f 9 >= v(f)g(x) + f(x)v(g).

(Une application ayant ces propriétés s’appelle une dérivation en 2).

Démonstration. I1 suffit d’appliquer les définitions.

O

Exemple: Soit (U,h) une carte en x E X telle que h(x) = O et ( X I , .. . ,xn)les coordonnées locales définies par cette carte. On note ( &),la classe de la courbe

t

H

h - l ( O , . . . ,O, t ,O,. . . ,O) pour tout j = 1,.. . ,n. Si f est une fonction de TKi

classe C1 au voisinage de x on a pour j = 1,. . .,n

A. Variétés différentiables, formes différentielles

210

Proposition 4.3. Les vecteurs (&,, dual de 7:' ( X ) .

. . . ,( &),forment une base de (2': ( X ) ) ' le

Démonstration. I1 suffit de vérifier que les vecteurs ( &),, basedualedelabase

((~IC~),)+I,...,~

. . . ,( G), a forment la

deT:(X).Pourcelacalculons

(&),(zIc).

O

ce qui prouve le résultat.

Théorème 4.4.L'espace tangent en x à X s'identifie avec le dual de l'espace cotangent

enxàX,i.e.T,X = (T,(X))*. Démonstration. D'après la remarque qui suit la Définition 4.1 et le premier point de la Proposition 4.2, T , ( X ) s'injecte dans (7'; ( X ) ) * I1 . reste à prouver l'inclusion inverse. Soit (U,h)une carte de X telle que IC E U , h ( z )= O et h ( U )coïncide avec l'ouvert {ICE IR" I sup lxjl < I}. Si L E ( T ; ( X ) ) * ,alors grâce à la Propoj=l,...,n

sition 4.3 il existe des réels a l , . . . ,an tels que L =

n

aj (&),. Considérons des j=l

fonctions yj,j= 1,.. . ,n, définies sur un intervalle ouvert I de IR contenant O et telles que Iyj(t)I < 1 pour tout t E I et yj(t) = a j t au voisinage de O. Notons r la courbe de X passant par IC définie par h-' O y où y(t) = (yl(t),. . . ,yn@)). Alors O L coïncide avec la classe de I? et par conséquent (T,*( X ) ) "c T, ( X ) . Remarque: T,'(X) est donc le dual de T , ( X ) et les bases a ( ( K ) x ) j = l .,. . psont duales.

((d1~j),)j=1,...,~ et

Onadoncsi(df), E T,*(X)

Si nous considérons des fonctions à valeurs dans @, nous pouvons définir l'espace vectoriel sur @ des 1-formes différentielles au point IC E X , à valeurs complexes. On le note CT: X, il s'identifie à l'espace des applications IR-linéaires de T,X dans @. L'espace vectoriel @TzX est en fait le complexifié @@E T,*X de l'espace vectoriel réel T,*X, c'est un espace vectoriel de dimension complexe n. On peut considérer également le complexifié @T,X de l'espace vectoriel réel T,X. Tout élément v E C T x X s'écrit de manière unique Y = v1 iva où Y I,va E T,X. Une 1-forme différentielle w à valeurs complexes s'étend naturellement en une application @-linéaireW' : CT, -+ c en posant w' (v1 iva) = w (vi) iw (va). On montre facilement que CT; X et CT,X sont naturellement duaux en tant que @-espaces vectoriels.

+

x

+

+

5. Algèbre des formes différentielles

21 1

Définition4.5. On d é f i n i t T ( X )comme la réunion disjointepourx 6 X d e s T x ( X ) ,

c'estl'espace tangent à X et on notep la projection naturelle d e T ( X )sur X . Définition 4.6. SoientX une variétédifférentiable de classeC4,q 2 1,e t A un ouvert

de X . Un champ de vecteurs sur A est une application V : A p O V = Id.

+ T ( X ) telle que

Soit (U,h)une carte de X et (ICI,. . . ,IC") les coordonnées locales associées. Si V est un champ de vecteurs de A et si IC E A n U on a

On notera a le champ de vecteurs défini sur U par IC ax, écrire

( 8x1

On peut alors

où les aj sont des fonctions définies sur A n U .

< q , si les fonctions aj sont de

Le champ de vecteurs V sera dit de classe C e $ classe Ce sur A n U .

5. ALGÈBRE DES FORMES DIFFÉRENTIELLES

Soient X une variété différentiable de classe Cq:q 2 1,et z un point de X . On considère la puissance extérieure rièmesur R,A'T: ( X ) ,de l'espace cotangent TZ ( X ) à X en z. Pour la définition et les principales propriétés de la puissance extérieure rièmed u n espace vectoriel le lecteur pourra consulter [Lan].Dans le cadre qui nous intéresse nous allons utiliser l'interprétation plus concrète suivante de la puissance extérieure dème. Par définition A o T Z ( X ) = R et si T 2 1,comme T , * ( X )est le dual de T x ( X ) , on identifie h'T,* ( X ) avec le R-espace vectoriel des formes r-linéaires alternées sur T, ( X ) ,c'est-à-dire les applications r-linéaires

w : T X ( X )x . . . x T 2 ( X ) +R \

"

/

r-fois telles que si v1, . . . ,v, 6 T, ( X ) et a est une permutation de { 1, . . . , T } w(vu(l),. . . , v u ( r )= ) sign(g)w(v1,. . .,vr) où sign(a) désigne la signature de la permutation a. En particulier w ( v 1 , . . . , v T ) = O si vi = vj pour i # j. Remarque: On a A I T , ( X ) = T , * ( X ) et si T A r T Z ( X ) = {O}.

> dimT,(X)

= d i m X , alors

A. Variétés différentiables,formes différentielles

212

On appelle algèbre extérieure de T; ( X )la somme A'T; ( X ) = @ ArT; ( X ) . r>O

A. Produit extérieur

Le produit extérieur d u n e r-forme w de A r T Z ( X ) et d'une s-forme q de A s T ; ( X ) est une ( r s)-forme, notée w A q, définie par

+

+

où l'on somme sur toutes les permutations a de l'ensemble (1, . . . ,r s}. Si r ou s est nul, par exemple T = O, w est un nombre réel et on pose w A 7) = wq.

Les relations précédentes et la distributivité par rapport à l'addition permettent de définir le produit extérieur de deux éléments quelconques de A'T; ( X ) .On obtient ainsi une loi de composition interne sur A'T; ( X ) que l'on note A. On vérifie aisément que A est associative mais pas commutative. On a néanmoins wAq= (-l)TSqAwsiw~ArTj(X)et~~AST,*(X).

Soient (U,h)une carte de X au voisinage de z et ( 2 1 , locales associées. Pour r E { 1, . . . ,n}ia famille { ( d z j , ) z A . . . A (dxj,.)x,l5 ji

. . . ,z,) les coordonnées

< ... < j r 5 n}

est une base de A r T ; ( X ) , en particulier d i m A ' T , ( X ) = de ArTZ ( X ) s'écrit

cn et toute r-forme w

où la sommation se fait sur les r-uplets strictement croissants (jl,. . . , j r ) de (1,.. . ,n}'et (dz~)= , (dzj,), A

. . . A (dzj,), si J

= (jl,. . . , j r ) .

Remarquons que les coordonnées a J de w dans cette base sont données par aJ=w((-),a

8%

,..., ( - )a, ) s i J =

(jl,...,j r ) .

8%

Définition 5.1. SoientX une variétédifférentiablede classeCq,q 2 1,e t A un ouvert de X . Une r-forme différentielle ou forme différentielle de degré T sur A est une applicationw : A + A ' T * ( X ) = U A ' T ; ( X ) tellequep O w = Id s i p est ZQ XEX

projection naturelledeA'T*(X) s u r X . Soient (U,h)une carte de X et ( X I ,. . . ,zn) les coordonnées locales associées. Si w est une r-forme différentielle sur A et si z E A n U on a

5. Algèbre des formes différentielles

213

On notera d z la ~ forme différentielle de degré r définie par z Ç-) ( d z ~ ) , .On a donc w = a J d z J où les U J sont des fonctions définies sur A n U .

I

J = ( j , 1 . . .,&I j , <...<j,

La forme différentielle w sera dite de classe Ce,! < q, si et seulement si les fonctions U J sont de classe Ce sur A n U . On noteraC:(A) l'espace vectoriel des formes différentielles de degré r de classe Ce sur A. Si w E CT(A)et q E C':(A),la forme différentielle w A q définie par w A q ( z )= ~ ( zA )q ( z )pour tout z E A est un élément de C:+,(A).La forme différentielle d z ~J, = ( j l , . . . ,jr) est donc le produit extérieur dxj, A . . . A d z j r . Considérons l'espace vectoriel @ C:(A),le produit extérieur A que nous ver20

nons de définir est une loi de composition interne sur @ C:(A) ; @ C:(A) est r20

r>O

alors une algèbre appelée algèbre des formes différentielles de classe Ce sur A et notée Cf(A). B. Différentielle extérieure

Comme on l'a vu dans l'exemple 3.5, la différentielle df d'une fonction f de classe C'sur un ouvert A de X , définit une 1-formecontinue sur A ;on a donc une application d : C 1( A )+ C:(A) qui de plus satisfait la règle de Leibnitz d u g ) = gdf + f d g (cela se vérifie aisément à partir de la définition).

On veut étendre d à toute l'algèbre C!(A),l 2 1. Théorème 5.2. Soient X une variété différentiable de classe CQ,q 2 2, et 1 un entier tel que O 5 e < q. Il existe une unique application linéaired : Ci ( X ) -+ C: ( X )qui vérifie 1) df est la différentielle de f si f E C' ( X ) , 2 ) s i l 5 < q e t r 2 O alorsdw E Cf,:(X) siw E C:(X), 3)si f E C e ( X ) , 25 l 5 q, alorsd(df)= O, 4)siwl E C,'(X) etw2 E C s ( X ) alors

e

d(w1 A ~

2

=) dwl A wz

+ ( - l ) r ~Al dW2.

L'application d ainsi déflnie est appelée différentielle extérieure sur X . Démonstration. Remarquons tout d'abord que, si d existe, d est un opérateur local, c'est-à-dire que si w1 et wz sont deux formes différentielles de degré T sur X qui coïncident sur un ouvert U de X alors dwl et dw2 coïncident sur U . Pour cela, montrons que si w E C,?(X)est nulle sur U dors dw = O sur U. Soit x E U et f E C ' ( X ) telle que f (z) = O et f 1 auvoisinagede X \ U ,alors si w E C f ( X ) est nulie sur U , on a w = f w . D'après la propriété 4) de d,

=

dw = d( f w ) = df A w

+fdw

A. Variétés différentiables, formes différentielles

214

et puisque f ( x ) = O et W ( X ) = O, on obtient d w ( z ) = O. Pour prouver l'unicité d'un opérateur d satisfaisant ij, 2j, 3j et 4) il suffit donc de considérer le cas où X est un domaine de carte U de X . Si (U,h)est une carte de X et ( 2 1 , . . . ,xn)les coordonnées locales associées, w E C: ( U )s'écrit J

où J = ( j l , . . . , j r ) E W , j ,

< . .. < j r , d x j

= dxj, A

. . . A d x j ? et U J

E C'(U).

Puisque d est linéaire et d ( d x j ) = O, en appliquant 41, on obtient

et d est donc entièrement déterminé par sa valeur sur les fonctions. L'opérateur d , s'il existe, étant local et unique il suffit de prouver son existence dans un domaine de carte U . De plus par linéarité il suffit de définir d sur C:(U). Soient (U,h)une carte de X et ( X I , . . . ,xn) les coordonnées locales associées. Si

w E CP(U), aJdxJsurU

W =

on a

dw =

daJ A d x J = J = ( j 1 , . . . j vj=i ) jl <...<j,

J = ( j ï ,...j,) j 1 <...<j,

aaJ -dxj dXj

On vérifie facilement que d satisfait i), Z),3) et 4 ) .

A

d x J sur U.

O

Coroiiaire5.3. Si2 5 C 5 q, d ( d w ) = O, pour toutw E C f ( X ) ;

Démonstration. I1 suffit de prouver le résultat dans un domaine de carte. Soient (U,h) un domaine de carte et ( X I , . . . ,xn) les coordonnées locales associées. Si w E C ; ( X ) ona

et J = ( j i ,...fr) Ji<...<jr

Alors d(dw1,) =

( d ( d a J )A d x J - d a J A d ( d z J ) )enutilisantlaproJ = ( j i , ...,j v ) j1 <...<j,.

priété 4) et la linéarité de d. Grâce à la propriété 31 de d , d ( d a J ) = O et comme d ( d x J ) = d ( d x j , A . . . A d x j , ) on déduit des propriétés 4) et 3) de d que d ( d z j ) = O. Finalement on a bien d ( d w = O. O

IV)

5. Algèbre des formes différentielles

215

C. Image réciproque

Soient X et Y deux variétés différentiables et p : X + Y une application de classe C1. Pour tout z E X , l'application p induit une application d p x de T x X dans T p ( x ) Y définie , de la manière suivante : d p x (v)est la classe de la courbe po Q où Q est un représentant de v E T, X . Par transposition on obtient une application pz : h'T;(zlY -+ A'TZX. Elle est définie par

p;W(vl,...,vT)

=W(d~z(vl),...,dllx(~r)),Si~l, . . ' , v rE

T,X.

Si w est une forme différentielle sur un ouvert W de Y ,on définit une forme différentielle p * w sur p - l ( W ) en posant ( p * w ) ( z ) = & ( w ( p ( z ) ) ) pour tout z dans p - ' ( W ) . C'est i'image réciproque de w par p. On vérifie que pour les fonctions f E C 1 ( Y ) , p * f = f O p et puisque l'opérateur d coïncide dans ce cas avec la différentielle usuelle

d h * f ) ( z ) = d ( f O p)(z) = d f ( P ( Z ) )O d P ( Z ) = P * ( d f ) ( S ) . Soient (U,h)et (V,k)deux cartes de X et Y respectivement définissant les coordonnées locales ( 5 1 , . . . J,) et ( Y I , . . . ,ym). On suppose que p(U) c V .Soit w une forme différentielle sur un ouvert W de Y dont la restriction à V n W s'écrit

Wlvnw =

bJdyj1 A . . ' A d y j , , J=(j,,...,j,)

jl<...<j,

alors

p*w =

bJ

pd(Yj1

A ' ' .A

d(yj,

CL).

J = ( j i,...,j T ) ji<...<j, Proposition 5.4. Soient X et Y deux variétés différentiables de classe C Q et p une application de classe C q de X dans Y . i) L'image réciproque p* est un homomorphisme d'algèbre de Co ( Y )dans C,O( X )qui vérifie

~ * ( c ; ( Yc)c;(x) ) si0 5

e < q etr 2 O .

ii) p* commute avec les différentielles extérieures d x et d y sur X et Y . Plus précisément si w est une forme différentielle de classeCe,î 5 e < q, sur Y alors

d x ( p * w )= P*(dYW). iii) Si Z est une variété différentiable de classe C q et X : Y tion de classeCq alors (A o p ) * = p* O A*.

Démonstration. i) résulte de l'écriture en coordonnées locales.

+ Z une applica-

216

A. Variétés différentiables,formes différentielles

On obtient iil en se plaçant dans un domaine de carte V de Y . Si w E C:(Y) s'écrit

alors

J = ( j i .. , j r ) jl<,,,<jT

= p*

(

dbJ A d y J ) J = ( j i ,...,jr)

il<...<&

= P*(dYW)

car p* est un homomorphisme d'algèbre et iil est vrai pour les fonctions. Pour obtenir iii) il suffit d'appliquer la définition de l'image réciproque.

0

6. INTÉGRATION DES FORMES DIFFÊRENTIELLES

Dans cette section on s'intéresse à l'intégration des n-formes différentielles sur une variété différentiable orientée de dimension n.

A. Variétés orientables

Définition 6.1. Une variété X de classe C Q de dimension n est dite orientable s'il existe une forme différentielle0 dedegrén continuesurx qui nes'annule passurX. Deux formes différentielles01 et 0 2 définissent la même orientation sur X s'il existe une fonction f continue, positive sur X telle que 01 = f 0 2 . Une variété orientable sur laquelle on a choisi une orientation est dite orientée.

Remarque :Pour tout II: E X , l'espace vectoriel AnTZ ( X ) est de dimension 1 donc deux n-formes 01 et 0 2 continues qui ne s'annulent pas sur X diffèrent d u n e fonction continue sur X qui ne s'annule pas, cette fonction garde donc un signe constant sur chaque composante connexe de X . Si X est orientable et connexe il y a donc exactement deux orientations possibles sur X .

6. Intégration des formes différentielles

217

Si X est orientée par R, le système de coordonnées locales (21,. . . ,x,) associé à la carte (U,h)est dit positivement orienté si la forme différentielle dzl A .

. .Adz,

définit la même orientation que R, Soit p : (X1,Rl) -+ (X2,Râ) unC' difféomorphisme entre deuxvariétés différentiables orientées X1 et X2, on dit que p conserve l'orientation si p*R2 = f R 1 où f est une fonction positive sur XI. Exemples 1) Si (ti, . . . ,t,) sont les coordonnées usuelles de IRn, la n-forme différentielle d t 1 A . . . A d t , définit une orientation sur R,. 2) Un ouvert non vide D de R" est une variété orientée si on le munit de l'orientation induite par celle de R" . 3) Si D C IRn est un ouvert à bord Ck,k 2 1,l'orientation usuelle de D induit une orientation sur bD de la manière suivante : soient x E bD et T une fonction définissante de classe Ck pour D sur un voisinage U de x,i.e. U n D = { y E u l T ( y ) <û}etdr(y)#ûsiyE U n b D . Quitte à restreindre U ,on peut supposer qu'il existe un système de coordonnées positivement orienté défini par une carte (U,h)avec h = ( T , x ~.,. . J,), les ( n 1) dernières coordonnées formant un système de coordonnées locales sur bD n U . On oriente alors bD fi U par la ( n - 1)-forme Z*(dz2 A . . . A dz,) où z est l'injection de bD n U dans U . Cette orientation est indépendante du choix de la fonction définissant T de D et s'étend à bD tout entier en utilisant une partition de l'unité (cf chap. II, 8). Si X est une variété de classe C*,q deux cartes de X, alors

hi O h;'

2

1, de dimension n et (Ui,hi)et (Uj,hj)

: hj(ui n

uj)+ R"

est une application de classe C*,q 2 1et on pose

dij(x) = det[J(hi O h;')(hj(z))] pourx E Ui n Uj où J désigne la matrice jacobienne. Proposition 6.2. La variété X est orientable si et seulement si X possède un atlas {(Ui,hi)}i,~ telque, pourtouti,j E I , d i j ( x ) > û six E Ui n Uj.

Démonstration. On peut supposer que X est connexe. Soit R une forme différentielle continue de degré n sur X qui ne s'annule pas sur X. Si (Ua,ha)est une carte dont les coordonnées locales associées sont ( X I , . . . ,x,), on pose Ra = d z l A . . . A dz,, c'est une n-forme continue, sans zéros sur U,. Pour tout a E X il existe une carte (U,,h,) telle que a E Va et R = gaRa où ga est une fonction continue, strictement positive sur U, (il suffit de remplacer h a ( z ) = ( 2 1 , . . . J , ) par (21,. . . ,zn-l, - 2), si nécessaire). De plus sur Ua n ub,on a Ra = da&,, et par conséquent dab = > O sur V a n ub.

2

A. Variétés différentiables, formes différentielles

218

Réciproquement, supposons que {(Uz,h,)},E~ est un atlas de X tel que pour tout a , j E I,d,, > O sur U, n U,. Posons comme ci-dessus R, = dxl A . . . A dx, si ( X I ,. . . ,xn)sont les coordonnées locales associées à la carte (U,,h,). Soit (X,),~I une partition de classe Cq de l'unité subordonnée au recouvrement ( U Z ) a E ~ et posons R = xzR,. La forme différentielle R est de classe C"' et de degré n %€I

sur X. De plus si a E a E supp x,,on a

X et si I, désigne l'ensemble des indices z

E

I tels que

on a R ( a ) # O.

O

B. Intégration des formes différentielles

Nous allons considérer successivement le cas d u n ouvert de d u n e variété différentiable. 1) Cas d'un

Rn puis celui

ouvert de R"

Soient U un ouvert de Rn et 77 E C: ( U ) une forme différentielle continue de degré n à support compact dans U . I1 existe alors une unique fonction continue f à support compact dans U telle que 77 = f dxl A . . . A dx,.

On Dose alors

où le membre de droite représente l'intégrale de f sur U par rapport à la mesure de Lebesgue dans Rn .

Si W est un ouvert de R" et F : W + F ( W ) = U un difféomorphisme de classe C1,la formule de changement de variable pour l'intégrale de Lebesgue dans Rn donne

f(x)dxi...dx, L,W,

-

lw

f(F(t))ldet(dF(t))Idtl...dt.,

Si F préserve l'orientation on a

det(dF(t)) > Opourtoutt et alors

E

W

6. Intégration des formes différentielles

219

2) Cas d'une variété

Soient X une variété différentiable de classe Cq de dimension n orientée et (U,h)une carte de X dont le système de coordonnées locales ( 2 1 , . . . ,zn) est positivement orienté. Si w E CE ( U )est une forme différentielle continue de degré n à support compact dans U , on pose

où le membre de droite est l'intégrale de la forme (h-l)*w sur l'ouvert h ( U )de IW" au sens du 1). Vérifions que cette définition est indépendante du choix de la carte (U,h).Soit

(U,k) une autre carte dont le système de coordonnées locales est positivement orienté, alors l'application F = h O k-' : k ( U ) -+ h ( U )est un difféomorphisme de classe C' qui préserve l'orientation et d'après le cas étudié en 1) (h-')*w= L U )

JL,,

F*(h-l)*w =

ce qui prouve l'indépendance cherchée.

.I,,,,

(h-1O

F)*w= JL(u)(k-l)*w

Considérons maintenant le problème de l'intégration des formes différentielles dont le support n'est plus contenu dans un domaine de carte. Soit X une variété différentiable de classe Cq, de dimension n, orientable, il existe alors un atlas U de X dont les domaines de carte sont connexes et tel que pour deux cartes (U,k)et (U',h') de U on ait det J(h' O h - l ) ( y ) > O pour tout y = h ( z ) , z E U ri U', où J désigne la matrice jacobienne, d'après la Proposition 6.2. Supposons X connexe, orientée et considérons un atlas U = ( U i , h i ) i Ecor~ respondant à l'orientation de X . Soit ( x i ) i Eune ~ partition de l'unité subordonnée au recouvrement ( U i ) i E Si ~ .w est une forme différentielle continue de degré n, à support compact dans X , on pose

On montre facilement que cette définition est indépendante du choix de la partition de l'unité et de l'atlas correspondant à l'orientation. Si X n'est pas connexe, on pose w où les Xi sont les composantes connexes de X . w=

sx

iEi

sx

'

sx

L'expression w définie ci-dessus s'appelle l'intégrale de la n-forme différentielle w sur la variété orientée X. On remarque que si l'on change l'orientation de X , l'intégrale est multipliée par -1. Remarque :On n'a défini l'intégrale que pour les formes différentielles continues à support compact, il est clair que comme dans le cas de Rn on peut étendre cette notion à d'autres classes de formes, par exemple les formes à coefficients L1.

A. Variétés différentiables, formes différentielles

220

7. THÉORÈME DE STOKES

Nous ne prouverons pas dans ce paragraphe le Théorème de Stokes sous ses hypothèses les plus générales mais seulement le cas particulier qui est utilisé dans ce livre. Théorème 7.1. Soit X une variété différentiable orientée de classe CQ,q 2 2, de dimension n et soit D CC X un ouvert relativement compact dans X à bord de classe c1.S i w E c:-,(D) aiors

Remarques 1) L'hypothèse de régularité sur w signifie que w est définie et continue sur et que les coefficients de w dans un système de coordonnées locales associées à une carte (U,h ) sont de classe C1 dans U nD, c'est-à-dire que les dérivées partielles de ces coefficients définies sur U n D s'étendent continûment à U n D.

2) L'orientation de bD est supposée être l'orientation induite par celle de D et on a posé

où i est l'injection de bD dans X . Démonstration du Théorème 7.1. L'ensembleD étant compact, on peut trouver un

e

nombre fini de cartes (U,,h,)l<,ie de X telles que DC

u U, et si U, f l bD#0

i=1

pour un certain 2, aiors h, = (r,hl)où hl : Vi + IRn-' est défini par restriction à U, n bD des coordonnées locales sur bD et D n U, = {x E U, I -1 < r ( z ) < O}. Soit (x,) une partition de l'unité de classe CQ subordonnée au recouvrement Par linéarité il suffit de prouver que

(uz)l
J

bDnU,

xzw=

L,,

d ( x , w ) pour 1 F 5

e.

ConsidéronstoutdabordlecasoùbDnU, # 0,alors (U,nbD,i, = h:lbDnu,) est une carte positivement orientée de bD. Pour simplifier les écritures nous noterons U à la place de U,, h à la place de h, et x à la place de xz. n

g j ( t ) d t l A . . . A dtj-1 A dtj+' A . . A d t , où les

On pose ( h - ' ) * ( x w ) =

+

j=l

g j E C1( u n O)sont à support compact. Alors ( k - ' ) * i * ( x w ) = gl(O,tz,. . . ,tn)dtz A . . . A d t , et

7. Théorème de Stokes

22 1

n

(h-')*d(Xw) = d ( ( h - l ) * x w ) = x ( - l ) + l % d t l dtj j=l Puisque h ( D n U ) c { t E IRn

A dt,.

A

I -1 < tl < O } , ona ... dt,.

Les fonctions gj étant à support compact, on obtient

%dtj

=O

j = 2, ...,n et

=/

(k-l)*i*(xw) =

h(bDnU)

Supposons maintenant que Ui n bD = 0. On peut supposer que Vi c D et puisque JbDnU, x z w = O, il suffit de prouver que d ( x i w ) = O. En reprenant les calculs du cas précédent, on remarque que l'on doit intégrer sur IRn des dérivées de fonctions C' à support compact et que l'indice j = 1 se comporte cette fois comme les autres et par conséquent d ( x i w ) = O. O

su,

su,

Remarques 7.2 1) Si X est une variété compacte et X = D alors bD = toute forme w E ~ ? : - ~ ( x ) .

0 et

sx dw

= O pour

2) On peut étendre facilement le Théorème de Stokes aux domaines à bord de classe C' par morceaux définis de la manière suivante : il existe un recouvrement fini { U I , .. . ,Ut} de bD par des ouverts de X et des fonctions ri E C'(!Yi) telles que

et pour tout sous-ensemble {il, . . . ,iv} de { 1, . . . ,e} on a dri, A . . . A driY # O sur Ui, A . . . A Viy. On note Ci = {x E Vi I ri(.) = O } & = Ci n bD alors C

les ensembles s i sont des variétés et bD =

U Si. Si on pose i=l

formule de Stokes est encore valable.

sbD

C

w= ;=I

sosa w la

Annexe B

Théorie des faisceaux

Cette annexe réunit les éléments de théorie des faisceaux nécessaires à la compréhension de la démonstration de l’isomorphisme de Dolbeault donnée au chapitre V.

Définition 1. SoitX un espace topologique. Un préfaisceau 3 sur X est la donnée il pour chaque ouvert U de X d’un ensemble non vide 3(U ) , ii) pour chaque couple (U,V)d’ouverts de X tel que U c V d’une application de restriction PUV :

3 ( V )+ 3(W

telle que 1) pour tout ouvert U de X , puu = I , 2) si U c V c W alors puw = puv pour simplifiers à la place de p u v s .

I

O

p v ~ Si. s E 3(V )on écrira souvent

Si les ensembles 3 ( U )sont des groupes abéliens (resp. des anneaux) et les applications puv des homomorphismes de groupe (resp. d’anneau), le préfaisceau F est un préfaisceau de groupes abéliens (resp. d’anneaux). Dans ce cas 3 ( 0 ) = {O}. Si 3 et Ç sont des préfaisceaux de groupes abéliens (ou d’anneaux), un morphisme de préfaisceau ‘p : 3 + Ç est une collection d’homomorphismes ‘pu : <(U) + Ç ( U ) qui commutent avec les applications de restriction, i.e. telle que 3 Puv O cpv = vu O Puv. Définition 2. Un préfaisceau 3 est un faisceau si et seulement s’il satisfait aux axiomes de recollement. ( R I )Sis1,s2 E 3 ( U ) oùU = U Vi etsipu,usl = P U , U S Z pourtouti E I %€I

alorssi = s2. (Rz)Si U =

u Ui et si pour chaque i %€I

conditions de compatibilité

E

I il existe si E 3 ( U i ) vérifiant les

B. Théorie des faisceaux

224

alorsilexistes E 3 ( U ) telle que pu,^^ = si. Exemples :Si X est une variété analytique complexe O, C&, O sont des faisceaux sur X .

5a 5

CO,

VL,q

A. Cohomologie de Cech à valeurs dans un faisceau 3

Soient X un espace topologique, 3 un faisceau de groupes abéliens sur X et U = (Ui)iE~ un recouvrement ouvert de X . Sip E N,on note a = ( ( Y O , . . . ,ap) tout élément de IP+' et on pose U, = U,, n. . TWO,.Unep-cochaînec du recouvrement U à valeurs dans 3 est une application qui à tout élément a E IP+' associe un élément c, de 3 ( U a )et qui est alternée comme fonction de a. L'ensemble CP(U,3) des p-cochaînes de U à valeurs dans 3 est muni d'une structure de groupe abélien déduite de celle de 3. On définit l'opération cobordhp : CP(U,3) + CP+l(U,F)par

P+ 1 (SPC),

(-

=

l ) j C a o . . .&, ...aP + l

lu,

j=O

où la notation & j signifie que l'indice aj a été supprimé. On pose CP(U,F)= O et S P = O pourp < O. En degré O et 1 on obtient par exemple

p = 1,c =

1

(C,,),(S

c)ap. = (cp. -

Le lecteur vérifiera aisément que S P + l

O

+ CaB)IU,o,.

S p = O.

On note ZP(U,.F) = { c E CP(U,.F) I 6Pc = O } le groupe desp-cocycies à valeurs dans 3 et

EP(U,F) = {Sp-lc I c E C p - y U , F ) } le groupe des p cobords à valeurs dans 3,E p ( U , 3 ) est alors un sous-groupe de Z.(U,F). On peut dors introduire le groupe quotient

H P ( U , 3 )= Z P ( U , 3 ) / E P ( U , 3 ) on l'appelle le p-ième groupe de cohomologie de Cech de 3 relativement à U . Remarquons que si c est un O-cocycle alors c, - CO = O dans U, n Up pour tout a et p. Les ( C , ) , ~ I définissent alors un élément s E 3(X)tel que slue = c,. Donc

H 0 ( U , 3 )= F ( X ) . Maintenant, soit V = ( V , ) ~ , Jun autre recouvrement de X qui est plus fin que + I telle que V, c U p ( j )pour tout j E J . On peut alors définir une application p. : C ' ( U , 3 ) + C'(VIF) en posant

U ,c'est-à-dire tel qu'il existe une application p : J

(flC)~O-%

- Cp(
Cohomologie de tech à valeurs dans un faisceau 3

225

I1 est clair que cette application commute avec 6 et définit donc une application p* : HP(U,F) -+ HP(V,F). Notons que l'application p* est indépendante du choix de p . En effet, si p' est une autre application ayant les mêmes propriétés que p , les applications p' et p'* sont homotopes. Définissons l'application hP : C p ( U , F )+ Cp-'(V,F) par

Un calcul direct donne la formule dhomotopie

6P-l

hP + hP+'SP =

-

Pp.

Par conséquent si c est un cocycle, on obtient p"c - p'c = Sh'c est un cobord et p* coïncide donc avec p i * . Considérons qu'un recouvrement de X est un sous-ensemble de P ( X ) ,la famille de tous les recouvrements de X est alors un ensemble et nous allons pouvoir considérer la limite inductive des groupes H P ( U , 3 )par rapport à l'application p * . Le p-ième groupe de cohomoiogie de cech de 3 sur X , H P ( X , 3 ) ,est la limite inductive

H P ( X , F )= 9 H P ( U , 3 ) U

quandU décrit l'ensemble des recouvrements ouverts de X. Plus précisément, cela signifie que les éléments de H P ( X , 3 )sont les classes d'équivalence dans l'union disjointes des groupes HP(U,F) où un élément de H P ( U , 3 ) et un élément de HP(V,.F)sont identifiés si leurs images coïncident dans H P ( W , T ) pour un recouvrement W de X plus fin que U et V . Proposition 3. Soient X une variété différentiable de classe C" et E le faisceau des germes de fonction de classe CM sur X . Si 3 est un faisceau de €-modules sur X , alors H P ( U , 3 ) = O pour toutp > O et tout recouvrementU de X . En particulier H P ( X , 3 ) = O pourp > O.

Démonstration. Soient c E Z P ( U , 3 )et ( ( p i ) i € ~une partition C" donnée au recouvrement U . Si a E IP, on pose

c; =

de l'unité subor-

(pica,. i€I

I1 est clair que c' E CP-' ( U , 3 ) ,car 8est un faisceau de &-moduleset si Q E P+' P

(Sp-lc'), = ~ ( P i ~ ( - l ) ~ C i a o . . . â , . . . , = p &7i(Ca iEI

=

j=o

(pic,

iEI

= c,

iEI

car c est un cocycle. Ce qui termine la démonstration.

-

(6PC)iao...a,)

B. Théorie des faisceaux

226

B. Suite exacte longue de cohomologie Soient F$,% trois faisceaux de groupes abéliens sur X , cp et $des morphismes de faisceau tels que la suite

O + F + Ç 4 % 4 0 soit exacte, c’est-à-dire cp est injectif, $ est surjectif et l’image de cp est égale au noyau de $. Cette suite exacte définit une suite exacte

O

4

C P ( U , F ) + C”(U,Ç) 4 C”(U,E)

mais en général la dernière application n’est pas surjective. On note C,$(U,%) l’image de CP(U,Ç) dans CP(U,%). On voit facilement que 6 envoie C,$(U,E) dans C;” (U,%).On a ainsi défini le complexe des cochaînes relevables et on note H ; ( U , E ) les groupes de cohomologie associés. On obtient alors la suite exacte

O

+C P ( U , F ) + C”(U,Ç) 4 C,$(U,%)+ o.

Le théorème suivant résulte alors directement du Lemme du serpent, que nous exposerons à la fin de cette annexe. Théorème 4. Il existe un morphisme de connexion

6’ : H;(U,%) --+ H P + l ( U , F ) et une suite exacte longue

5 HO(U,Ç) -%H i ( U , % ) d; H ’ ( U , F ) -5Hl(U,Ç) 5H i ( U , % ) it H 2 ( U , F ) 4. . .

O --+ HO(U,F)

où cp* et $* sont les applications naturellement induites par cp et $, Si V = (V,)jEj est un recouvrement plus fin que U et p : J -+ I une application telle que V, C U,,j) pour tout j E J , on peut définir comme précédemment une application p* : H,$(U,%)--+ H,$(V,%)

qui est indépendante du choix de p. Théorème 5. Si X est paracompact (c’est-à-diresi X est séparé et si tout recouurement de X admet un recouvrement plus fin localementfini) et si

O+F+Ç+E+O est une suite exacte defaisceaux, il existe une suite exacte longue

O

+HO(X,F) --+ HO(X,Ç) +HO(X,R) +H ’ ( X , F ) --+

+H 1 ( X , Ç )4 H l ( X , X ) +H 2 ( X , F ) --+ . . . qui est la limite inductive sur les recouvrementsU de X des suites exactes du Théorème 4.

Lemme du serpent

227

Démonstration. I1 suffit de prouver que l'application naturelie

9 H $ ( U , X ) +lq,HP(U,3t) U

U

est un isomorphisme. Pour cela nous aiions montrer que toute cochaîne de 3t devient relevable dans Ç après avoir pris un recouvrement plus fin. Lemme 6. Sic E C P ( U , X ) ,il existe un recouvrementv = ( V j ) j E plusfin ~ queU et uneapplicationp : J + I t e l s q u e p c E C ; ( V l î i ) . Démonstration. Puisque X est paracompact, on peut supposer que U est localement fini. On peut choisir un recouvrement (Wi)i,l tel que c Vi pour tout i. Pour chaque x E X, choisissons un voisinage ouvert V, de x tel que i) si x E Wi, alors V, c Wi, ii) si x E Vi ou si V, n Wi # 0, aiors V, c Vi, iii) si x E V,, Q E Ip+',alors c, E C p ( U , , X ) se relève dans Ç(V,). Un tel voisinage V, existe car par définition des morphismes de faisceaux toute section de 3t se relève localement en une section de G et comme x n'appartient qu'à un nombre fini d'ensembles Wi (resp. Vi)on n'a besoin de relever qu'un nombre fini de section et il n'y a qu'un nombre fini de condition pour satisfaire i) et ii).

wi

Choisissons p : X -+ I telle que 5 E W f ( , )pour tout x. La condition i) implique alors V, C IVf(,) donc le recouvrement V = ( V z ) z ,est ~ plus fin que U.Si Vzo...,p# 0, on a

v,,

n Wf(,,) 3 KOn K, # 0 pour 0 5 j 5 P

et donc V z o c U f ( z o ~ . . .daprès f ( z p ) ii). La condition iii) implique que la section c ~ ( ~ ~ ) . .se. relève ~ ( , ~dans ) Ç(V,,) et en particulier dans Ç(V,o . . . , p ) . Par conséO quent pPc est relevable dans G. C. Lemme du serpent

Un complexe de groupes abéliens ( K ' , d ) est une suite

où les K Qsont des groupes abéliens et les dQdes homomorphismes de groupe tels que dQ+' O dQ = O . Les groupes de cohomologie associés au complexe ( K ' , d ) sont les H Q ( K ' )= ker dq/ I m d Q - l . Un morphisme cp du complexe ( K ' , d ) dans le complexe (L',b) est une suite ( V ~ ) ~ , dhomomorphismes N de groupes cpQ : K Q -+ LQsatisfaisant les relations de commutation cpQ'l

O

dQ = 69 O cpQ.

I1 en résulte que cpQ(kerd Q ) c ker 6 9 et cpq(1rndQ-') c IrnbQ-'. Par conséquent cp induit, pour chaque q, un homomorphisme CpQ : H Q ( K * + ) HQ(L*).

B . Théorie des faisceaux

228

Lemme 7. Soit

--+

O

K'

-f+

-% M'

L'

-+O

une suite exacte courte de complexes de groupes abéliens. Il existe alors un homomorphisme de connexion 799

: H Q ( M ' )-+ H Q + l ( K * )

telle que la suite longue de cohomologie

+HO(K') --+ HO(L') + HO(M') 3 H l ( K ' ) -+ -+ H l ( L ' ) -+ H l ( M ' ) -5H 2 ( K * )+ . . .

O

soit exacte. De plus pour tout diagramme commutatifde suites exactes courtes de complexes de groupes abéliens.

O

K'

--+

--+ L'

+

--+ M'

O

Le diagramme de suites exactes longues de cohomologie associe

est cornmutat$ Démonstration. Commençons par construire l'homomorphisme de connexion 6. Considérons le diagramme commutatif suivant où les lignes sont exactes

1 O - + O 0

KQ

1 1

3

dq

1 LQ

1

3

Mq

1

1-Yq $5MQ+1 1 1-P+' 6q

@+I

-+ KQ+1 + LQ+1 --$

dq+'

Kq+2

1

+ O --+

0

6q+'

9 2

~ 9 + 2

1

$2

~ q f 2

+

1.

Si m E keryq représente l'élément { m } de H q ( M ' ) dors 6{m} = {k} E H q + l ( K )est la classe obtenue par la construction suivante

Lemme du serpent

k E Kq+1

's bQ[ I E

229

1

-Yq

Pl

Lq+1

*q+1

c-)

0E

Mq+1

L'élément e est choisi tel que $ q ( e ) = m, ce qui est possible car $Q est surjective. Comme $ q + 1 ( 6 q e ) = yq(m) = O, il existe un unique élément k E KQ+ltel que (pq+'(k) = bq.! à cause de l'exactitude de la ligne q 1. L'élément k est en fait contenu dans ker dq+' car ( p Q f 2 est injective. En effet

+

@+2

( dq + l IC) = P + ' ( ( p q + l k ) = P + ' ( S Q C ) = O

=+ dQ+'k = o.

L'application 29q sera bien définie si on prouve que la classe de cohomologie { k } ne dépend que de { m }et non du représentant m choisi. Soit 6 un autre représentant de m, alors m = m yq-lp. Grâce à la surjectivité de $"', il existe X E LQ-' telle que $-'(A) = p. Soit ë E Lq tel que $ q ( ë ) = m dp = $ q ( l + W I X ) . Puisque la ligne q est exacte on a ë = 1 6 q - l ~ ( p q ( t c ) où IC. E ~q alors S q ë = bq! b q ' p q ( ~=) ( p Q + ' ( k - ) où = k d 4 1 ~a .la même classe de cohomologie que

+

+

+

+

+

+

IC. Montrons l'exactitude de la suite longue de cohomologie. Prouvons tout d'abord que ker 194 = Im $ 4 . Si { m } E I r n $ q , on peut choisir m tel que m = $?(e) avec bqC = O, il résulte alors de la définition de 294 que 29q{m} = O. Réciproquement si d q { m } = { k } = O, cela signifie que k = @IC. donc @e = (pq+'(k) = ( p q + l ( d q ~ ~= . ) bq((p'J(i;)) s i n = $"(a). Alors e - @ ( I C . ) E ker6q et m = $ q ( [ - @ ( I C . ) ) donc { m } E Im$Q. Montrons maintenant que Im 29q= ker +q+'. Soit { k } un élément de ker $q+' alors cpq+l(k) E Irnbq, il existe donc C tel que cpqfl(k) = 691. Si m = $ q ( [ ) on a, par définition de 294, {k} = 29q{m}. L'inclusion inverse est immédiate par définition de 29Q. La démonstration de l'égalité Im = ker $ q ainsi que la commutativité du dernier diagramme sont laissées au lecteur, O +Q

Annexe C

Analyse fonctionnelle

Nous désignerons par E et F des espaces de Banach sur @. Définition 1. Une application 1inéaireT de E dans F estcompacte sipour toutsousensemble borné U de E , T (U ) est relativement compact dans F .

Remarque :I1 résulte immédiatement de la définition qu’une application linéaire compacte est continue. Rappelons les propriétés classiques des opérateurs compacts

Théorème 2. Soient E un espace de Banach, T une application linéaire compacte de E dans lui-même. 1) dim ker(1 T ) < +m. ii) Im(I + T ) est un sous-espacefermé de E . iii) dim ker(1 T ) = dim(E/ Im(1 T ) ) .

+ +

+

Le lecteur intéressé par la démonstration de ces résultats pourra consulter [Ru]. Définition 3. On appelle opérateur de E dans F une application linéaire T définie sur un sous-espace vectoriel D ( T ) de E à valeurs dans F . L‘espace D ( T ) est le domaine de définition de T . Le graphe Ç( T ) de l’opérateurT est le sous-espace vectoriel de E x F formé des couples ( z , T ( z )oùz ) décritD(T). Un opérateur T de E dans F est dit fermé si le graphe Ç ( T ) de T est un sousespace vectorielfermé de E x F .

Remarque :D’après le théorème du graphe fermé un opérateur T de E dans F est une application linéaire continue de E dans F si et seulement si D ( T ) = E et T est fermé. Les propositions suivantes sont prouvées dans l’appendice 2 de [HelLe 11. Pour la commodité du lecteur nous les redémontrons ici.

C. Analyse fonctionnelle

232

Proposition 4. Soit T un opérateur fermé de E dans F de domaine de définition D ( T ) . Supposons que T ( D ( T ) )soit de codimensionfinie dans F , alors T ( V ( T ) ) est un sous-espace vectoriel fermé de F .

Démonstration. Notons n la codimension du sous-espace T ( V ( T )dans ) F . Choisissons une application linéaire S : C” + F telle que Im S T ( D ( T ) )= F . Soit T’ l’opérateur de E @ C” dans F dont le domaine de définition est D ( T ’ ) = D ( T ) @ C” et qui est défini par T ’ ( z )= T ( z )pour z E D ( T ) {O} et T’(z)= S(z) pour z E {O} @ C”. L‘opérateur T’ est fermé et T ’ ( D ( T ’ ) = ) F.

+

+

Munissons D ( T ’ ) de la norme graphe associée à l’opérateur T’, i.e. si z E = IIzlI llT’(z)ll,D ( T ’ ) est alors un espace de Banach. En effet soit (Z”)”CN une suite de Cauchy dans (D(T’),ll /IrT,)alors ( X , ) , ~ N et (T’(z,)),~N sont des suites de Cauchy dans les espaces de Banach E @ C* et F . I1 existe donc z E E @ C” et y E F tels que lim z, = x et lim T’(z,) = y.

D ( T ’ ) , IIzIlr,,

+

71-03

n-03

L‘opérateur T’ étant fermé x E D ( T ’ )et y = T ( z )par conséquent z, tend vers z dans (D(T’),llIr,,). Posons ker T’ = {x E D(T’) I T ’ ( z ) = O } , c’est un sous-espace fermé de (D(T’),ll[IrT,)car T’ est un opérateur fermé. L‘espace vectoriel D ( T ’ ) / ker T’ est donc un espace de Banach. Notons !?’ l’opérateur de D ( T ’ ) /ker T’ dans F induit par T ’ , c’est une bijection de D ( T ’ ) / ker T’ sur F qui est continue car T’ est h

un o p é r h u r fermé. Le théorème de l’application ouverte implique alors que son inverse (TI)-’ est un opérateur linéaire continu de F sur D ’ ( T ’ ) /ker T ’ . On a

T ( D ( T ) )= ( ( ? ) - ‘ ) - ‘ ( D ( T )

+ {O}/

ker T’)

+

et D ( T ) {O}/ ker T’ est un sous-espace fermé de D ( T ’ ) / ker T’ ; la continuité de (TI)-’ implique donc que T ( D ( T ) )est un sous-espace vectoriel fermé de F . O Proposition 5. Soit T un opérateur fermé de E dans F de domaine de déBnition V ( T ) .Supposons que i) T ( D ( T ) )= F . ii) Il existe une application linéaire continue S de F dans E tel que Im S c D ( T ) et I - T S est une application linéaire compacte de F dans lui-même. Alors il existe une application linéaire continue? de F dans E telle que Im ? c D ( T )etTF = I .

Démonstration. Posons K = T S - I,par hypothèse c’est une application linéaire compacte de F dans F et T S = I K . D’après le Théorème 2 , il, ker T S est de dimension finie il possède donc un supplémentaire topologique G dans F , i.e. G est un sous-espace vectoriel fermé de F et F = G e k e r TS. D’aprèsle Théorème 2 iil et iiil,Im T S est un sous-espace vectoriel fermé de codimension finie dans F , il admet donc lui aussi un supplémentaire topologique H dans F , i.e. H est un sousespace vectoriel fermé de F et F = H @ Im T S , de plus dim H = dim ker T S .

+

Analyse fonctionnelle

233

Puisque T ( D ( T ) ) = F , on peut construire une application linéaire R : kerTS -+ D ( T ) telie que TR(kerTS) = H et T R ( z ) # O pour tout IC # O dans kerTS (si ( e l , . . . , e k ) est une base de kerTS, ( h l , .. . , h k ) une base H et &,i = 1 , . . . ,IC des éléments de D ( T ) tels que T ( & ) = hi, il suffit de poser R(ei) = t i ) .On définit alors une application linéaire continue de F dans E en posant $(x) = S(z) si z E G

$(IC) = R ( z ) si x E kerTS. Alors T S est inversible et

5= S(TS)-l convient.

O

Bibliographie

[Bo]

BOCHNERs. - Analytique and meromorphic continuation by means of Green’s formula, Ann. of Math. 44 (ig43),652-673.

[Brl]

BREMERMANNH.J. - über die Aquivalenzder pseudokonvexen Gebiete und der Holomorphegebiete im Raum von n komplexen Veranderlichen, Math. Ann. 128 (ig54),63-91.

[Br2]

BREMERMANN H.J. - Complex convexity, Trans. of the A.M.S. 82 (19561, 17-51.

P. - Zur Theorie der Singularitaten der Funk[Ca/Thl CARTAN H. ET THULLEN tionen mehrerer komplexen Veranderlichen, Math. Ann. 106 (ig32), 617-647.

[ci]

CIRKAE.M. - Analytic representation of CR functions, Math. USSR Sbornik 27 (ig75), 526-553.

[Ci/St]

CIRKA E.M.ET STOUTE.L. - Removable singularitiesin the boundary, Aspects of Math., Vieweg E26 (i994), 43-104.

J. ET SCHWARTZ L. - La dualité dansles espaces (F) et (vF), [Di/Sc] DIEUDONNÉ Ann. Inst. Fourier (Grenoble) 1 (ig4g), 61-101.

[Dol]

DOLBEAULT P. - Formes différentielles et cohomologie sur une variété analytique complexe 1, Ann, of Math. 64 (1956),83-130.

[Do21

DOLBEAULT P. - Formes différentielles et cohomologie sur une variété analytique complexe Il, Ann. of Math. 65 (ig57),282-330.

[Eh]

EHRENPREIS L. - A new proof and an extension of Hartogs’theorem, Bull. Amer. Math. Soc. 67 (1961),507-509.

[Gr]

GFIAUERT H. - On Levi’s problem and the embedding of real analytic manifolds, Ann. of Math. 68 (1958),460-472.

H. ET LIEB I.. - Das Ramirezsche Integral und die Losung der [GrlLi] GRAUERT Gleichungd f = LY im Bereich der beschrankten Formen, Proc. Conf. Complex Analysis, Rice Universityl969, Rice Univ. Studies 56 (1970),

236

Bibliographie

29-50. [Gu]

GUNNING R.C. - introduction to holomorphic functions ofseveral complex variables,Wadsworth and Brooks Kole, Belmont, 1990.

[Harl

HARTOGS F. - Einige Folgerung aus der Cauchyschen integralformel bei Funktionen mehrerer Veranderlichen,Münch. Ber. 36 (1906),223-242.

[HalLaI HARVEY R. ET LAWSON B. - On boundaries o f complex analytic varieties i, Ann. of Math. 102 (ig75),233-290. [Hel]

HENKING.M. - integral representations o f functions holomorphic in strictly pseudoconvex domains and some applications, Math. USSR Sb. 7 (1969),597-616.

[He21

HENKIN G.M. - integral representations o f functions in strictlypseudoconvex domains and applications to the d-problem, Math. USSR Sb. 11 (1970),273-281.

[He/Lel] HENKIN G.M. ET LEITERERJ. - Theory o f functions on complex manifolds, Akademie-Verlag Berlin and Birkhaüser-Verlag Basel, Boston, Berlin, 1984. [He/Le2] HENKIN G.M. ET LEITERERJ. - Andreotti-Grauert theory by integral formulas, Akademie-Verlag Berlin and Progress in Math. 74 BirkhaüserVerlag Basel, Boston, Berlin, 1988. [Hol]

HORMANDER L. - L2 estimates and existence theorems for thed operator, Acta. Math. 113 (1965),89-152.

[Ho21

HORMANDER L. - An introduction to complex analysis in several variables, 2nd ed., North Holland Publishing CO.,Amsterdam, 1973.

[KolNi] KOHN J.J. ET NIRENBERGL. - A pseudoconvex domain not admitting a holomorphic support function, Math. Ann. 201 (ig73),265-268. KOPPELMANw. - The Cauchyintegral for differentialforms, Bull. Amer. Math. Soc. 73 (1967),554-556. KRANTZS.G. - Function theory ofseveral complex variables,John Waiey and Sons, New York, 1982.

KYTMANOV A.M. - The Bochner-Martinelli integral and its applications, Birkhaüser-Verlag Basel, Boston, Berlin, 1995. LANG s. - Algebra, Addison-Wesley Publishing CO., 1972.

LAUFERH.B. - On the infinite dimensionalityof the Dolbeault cohomologiegroups, Proc. Amer. Math. Soc. 52 (i975),293-296. LAURENT-THIÉBAUT c. - Produits de courants et formule des résidus, Bull. Soc. Math. France, 2e série 105 (i981),113-158. LAURENT-THIÉBAUT c. - Sur l’extension des fonctions C R dans une variété de Stein, Ann. Math. Pura ed. Appl. 150 (1988),141-152.

Bibliographie

237

[L-TiLe] LAURENT-THIÉBAUT c. ET LEITERERJ. - Andreotti-Grauert theory on real hypersurfaces, Quaderni della Scuola Normale Superiore di Pisa, 1995. LELONGP. - Les fonctions plurisousharmoniques, Ann. Ec. Norm. Sup. 62 (1945),301-338. LELONGP. - La convexité et les fonctions analytiques de plusieurs variables complexes, J. Math. Pures Appl. 31 (ig5z), 191-219. LEVIE.E. - Studii siu punti singolari essenziali delle funzioni analitiche di due O più variabili complesse, Ann. Math. Pura ed. Appl. 17 (igio), 61-87. LUPACCIOLU G. - Someglobal result on extension ofCR objects in complex manifolds, Trans. of the A.M.S. 321 (19901,761-774. LUPACCIOLU G. - Characterisation ofremovable sets in stronglypseudoconvex boundaries, Ark. Mat. 32 (igg4),455-473. LUPACCIOLUG. ET TOMASSINI G. - Un teorema di estensione per le CRfunzioni, Ann. Math. Pura ed. Appl. 137 (19841,257-263.

MARTINELLI E. - Alcuni teoremi integrali per le funzioni analitiche di più variabili complesse, Mem. della R. Acad. d’Italia 9 (19381,269-283. MARTINELLI E. - Sopra una dimostrazione de R. Fueterper un teorema di Hartogs, Comm. Math. Helv. 15 (ig4z/43), 340-349. NARASIMHANR. - Several complex variables, Univ. of Chicago Press, Chicago, 1971.

NARASIMHANR. - Analysis on real and complex manifolds, 2nd ed., Masson et Cie, Paris, 1973. NORGUET E. - Surles domaines d’holomorphie des fonctions uniformes

de plusieurs variables complexes (passage du local au global), Bull. Soc. Math. France 82 (19541, 137-159. OKAK. - Collected Papers, Transl. by R.Narasimhan with comments by H. Cartan, R. Remmert ed., Springer-Verlag, New-York, 1984. RAMIREZ E. - Ein Divisionsproblem und Randintegraldarstellungen in der komplexen Analysis, Math. Ann. 184 (1970),172-187.

RANGER.M. - Holomorphic functions and integral representations in several complex variables, Graduate text in Math 108, Springer-Verlag, New York, Berlin, Heidelberg,Tokyo, 1986. DE RHAM G. -

Variétés différentiables, Hermann, Paris, 1960.

- The local maximum modulus principle, Ann. of Math. 72 (196O), 1-11.

ROSSI H.

ROSAYJ.P. ET STOUT E.L. - Rado’s theorem forCR functions, Proc. Amer. Math. Soc. 106 (19891, 1017-1026.

238

Bibliographie

RUDIN w. - Functional Analysis, 2nd ed., Mc Graw-Hill International Editions, 1991.

SCHWARTZ L. - Théorie des distributions, Hermann, Paris, 1966. SLODKOWSKI z. - Analytic set-valued functions and spectra, Math. Ann. 256 (i981),363-386. [SPI

SPIVAK M. - A comprehensive introduction to differential geometry, Publish or Perish, Inc., Houston, 1970-1979. STOLZENBERG G. - Uniform approximation on smooth curves, Acta Math. 115 (19661, 185-198. STOUT E.L. - The theory of uniform algebras, Bogden and Quigley, Tarrytown on Hudson, 1971. B.M. - Continuous boundary values ofanalytic functions of WEINSTOCK several complex variables, Proc. Amer. Math. Soc. 21 (1969), 463-466.

Index des notations

Espaces de fonctions, de formes différentielles espace des fonctions continues sur D

1.1

espace.desfonctions IC fois continûment différentiables surD

1.1

espace des fonctions indéfiniment différentiables sur D

1.1

espace des fonctions continues localement holdériennes d'ordre (Y dans D

111.2

espace des fonctions de classe C k dans D

111.2

espace des formes différentielles de type (p,y) à coefficients dans (D)

111.2

espace des formes différentielles de degré p de classe C" support compact dans X

à

11.1

espace des courants de dimension p sur X

11.1

espace des courants de degré y sur X

11.1

espace des courants sur X

11.2

espace des formes différentielles de classe C" pact de X

à support com-

11.2

espace des formes différentielles de type (p,y), d-exactes à coefficients dans C" ( X )

v.4

espace des courants d-exacts sur X

v.4

espace des fonctions de classe C"

11.1

sur X

c"

espace des formes différentielles de degré p de classe sur X espace des formes différentielles de bidegré ( p , q ) de classe C" sur X espace des formes différentielles de classe C" dans X

II. 1 11.7 11.2

240

Ep(X)

Index des notations

espace des formes différentielles de classe Coo, de bidegré ( p , q )à support dans la famille O

11.7

-

d-cohomologie des formes C"

v.4

-

d-cohomologie des courants

v.4

groupe de cohomologie de Dolbeault de bidegré ( p , q ) de X

11.7

groupe de cohomologie de Dolbeault à support dans la famille O

11.7

groupe de cohomologie de Dolbeault Z,",,(D)/Ep!,2(D) groupe de cohomologie de Cech du faisceau F espace des fonctions holdériennes d'ordre (Y dans D

v11.3

v.4 111.2

espace des fonctions holomorphes sur D

1.1

espace des applications holomorphes de D dans Cm

1.5

faisceau des germes de p-formes holomorphes

v.4

espace des fonctions plurisousharmoniques sur D

v1.2

espace des formes différentielles de type ( p , q ) ,d-fermée à coefficients dans C" (A)

v.4

espace des courants 8-fermés sur X

v.4

espace des formes différentielles de type ( p , q ) ,de classe Coo, -

11.7

espace des formes différentielles d-fermées de classe Coo, de bidegré ( p , q ) à support dans la famille O

11.7

8-fermées sur X

ZgyX)

<

boule de centre et de rayon r de CY

111.1

enveloppe holomorphiquement convexe de K relativement

VI.1

àR enveloppe psh-convexe de K relativement à R

<

v1.3

polydisque de centre et de rayon T

1.2

bord distingué du polydisque P

1.2

support singulier du courant T

11.3

espace tangent en x à X

A.4

espace cotangent en z à X

A.3

espace tangent holomorphe en x à X

11.5

espace tangent antiholomorphe en x à X

11.5

Index des notations

24 1

Normes

Ilf Ilk,D

norme Ck sur D

1.1

1l.f

[ID

norme uniforme sur D

I. 1

If

la,D

norme holdérienne d'ordre a sur D

I4

norme sur @"

111.2 I.1

Autres symboles

K(T,S)

indice de Kronecker des courants T et S

11.3

[YI

courant d'intégration sur Y

II.1

Bh1454M-PressProofs.QX5

17/1/08

1:51 PM

Page 275

Bookhouse

This page intentionally left blank

Index terminologique

analytique ensemble analytique 13 sous-variété analytique complexe 13, 179 variété analytique complexe 43 atlas 204 atlas complexe 43 biholomorphe 12 Bochner formule de Bochner-Martinelli 65 formule de Bochner-MartinelliKoppelman 61 noyau de Bochner-MartinelliKoppelman 56 Théorème de Bochner 80 transformée de Bochner-Martinelli 73 bord distingué 4 bout 92 carte carte 203 ouvert de carte 203 Cauchy fonction Cauchy-Riemann (CR)77 fonction C R de classe Cm 94 formule de Cauchy 4 inégalités de Cauchy 5 opérateurs d e Cauchy-Riemann tangentiels 54 système de Cauchy-Riemann homogène 2 champ champ devecteurs 211 champ de vecteurs holomorphe 47 cochaine 224 cocycles 224 cohomologie groupe de cohomologie d e Cech 224 groupes de cohomologie de Dolbeault 50 groupes de cohomologie de Dolbeault àsupport 51 convexe holomorphiquement convexe 112, 179 O(R)-convexe 112 O@)-convexe 190

coordonnées coordonnées holomorphes 44 coordonnées locales 205 cotangent espace cotangent 208 espace cotangent en un point 207 courant courant de degré q 26 courant de dimension p 23 courant d’intégration 24 courants d’ordre 6 24 différentielle différentielle 207 différentielle extérieure 213 dimension dimension 204 dimension complexe 43 disque analytique 131 distribution 28 domaine d’holomorphie 109 enveloppe enveloppe d’holomorphie 117 enveloppe holomorphiquement convexe 110, 179 enveloppe psh-convexe 131 exhaustion 132, 175 extension élément d‘extension strictement pseudo. convexe 176 extension strictement pseudoconvexe 159, 177 extension strictement pseudoconvexe élémentaire 157 faisceau 223 fonction définissante 51 forme forme différentielle 208 forme différentielle de degré T 212 germe 207

Hartogs phénomène de Hartogs 17, 91 propriété de Hartogs-Bochner Cm 94

244

Index terminologique

Hessien complexe 125 holomorphe 2 image image directe 27 image réciproque 27, 215 indice de Kronecker 38 inversion locale 12 isomorphisme de Dolbeault 103 Kontinuitatssatz 131 Lemme de Morse 135 Lemme de Schwarz 9 Levi forme de Levi 125 polynôme de Levi 128 noyaux régularisants 30 opérateur domaine de définition d u n opérateur 231 opérateur 23 1 opérateur compact 231 opérateur de Cauchy-Riemann 50 opérateur fermé 231 opérateurs régularisants de de Rham 36 partition de l’unité 206 plurisousharmonique plurisousharmonique 124 strictement plurisousharmonique 125 polydisque 4 préfaisceau morphisme de préfaisceau 223 préfaisceau 223 principe du maximum 9 produit extérieur 212

propriété de la sous-moyenne 120 pseudoconvexe pseudoconvexe 132 strictement pseudoconvexe 138, 174 régularisées 30 section de Leray 96 singularité illusoire 189 singularité illusoire faible 194 sous-harmonique 118 Stokes formule de Stokes pour l’indice de Kronecker 41 Théorème de Stokes 220 support support d’un courant 25 support singulier 38 tangent espace tangent 21 1 espace tangent complexe 53 espace tangent en un point 209 théorème Théorème de Bochner 80 Théorème de l’application ouverte 8 Théorème de Montel 11 Théorème de Rad0 16 Théorème de Riemann 15 variété variété analytique complexe 43 variété différentiable 204 sous-variété analytique complexe 13, 179 variété de Stein 179

Theorie des Fonctions Holomorphes de Plusieurs Variables, Une Introduction

Read more

Théorie des fonctions holomorphes de plusieurs variables. Une introduction

Read more

Fonctions de Plusieurs Variables Complexes

Read more

Theorie elementaire des fonctions analytiques d'une ou plusieurs variables complexes

Read more

Fonctions de Plusieurs Variables Complexes II

Read more

Fonctions de Plusieurs Variables Complexes III

Read more

Fonctions de Plusieurs Variables Complexes IV

Read more

Fonctions De Plusieurs Variables Complexes II

Read more

Fonctions de Plusieurs Variables Complexes V

Read more

Elements de la theorie des fonctions et de l'analyse fonctionnelle

Read more

Lecons sur la theorie des fonctions

Read more

Encyclopedie des sciences mathematiques. II 1. Fonctions de variables reelles

Read more

Éléments de Mathématique: Fonctions d'une variable reelle. Theorie elementaire

Read more

Theorie de Galois et theorie algebrique des nombres

Read more

Espaces de Fonctions Continues

Read more

Encyclopedie des sciences mathematiques. II 1. Fonctions de variables reelles French

Read more

Elements de la Theorie des Matroides

Read more

Elements de Mathematique - Theorie des Ensembles

Read more

Un cours de theorie analytique des nombres

Read more

Theorie des ensembles

Read more

Theorie axiomatique des ensembles

Read more

Theorie des distributions

Read more

Potentiel d'equilibre et capacite des ensembles avec quelques applications a la theorie des fonctions

Read more

Theorie des kommunikativen Handelns

Read more

Theorie des Partisanen

Read more

Theorie des corps

Read more

La theorie des jeux

Read more

Theorie des Matroides

Read more

Theorie des Hyperfonctions

Read more

Theorie des distributions

Read more

Recommend Documents

Theorie des Fonctions Holomorphes de Plusieurs Variables, Une Introduction

Théorie des fonctions holomorphes de plusieurs variables. Une introduction

Théorie des fonctions holomorphes de plusieurs variables CHEZ LE MÊME ÉDITEUR Dans la même collection Opérateurs ps...

Fonctions de Plusieurs Variables Complexes

Theorie elementaire des fonctions analytiques d'une ou plusieurs variables complexes

Tfu~®rn1@ êJ]~]]l@J])~ @1@§ iÎ®œ@1tft®ffi~ m~~1!l~ œ'lID'B !)'!1 :P1Ml1i~ ~ft1)11i;j !m1ll:p1~'B~ Henri Cartan ùb11...

Fonctions de Plusieurs Variables Complexes II

Fonctions de Plusieurs Variables Complexes III

Fonctions de Plusieurs Variables Complexes IV

Fonctions De Plusieurs Variables Complexes II

Fonctions de Plusieurs Variables Complexes V

Elements de la theorie des fonctions et de l'analyse fonctionnelle