Proceedings of the Tunisian Mathematical Society (Volume 11)

PROCEEDINGS OF THE TUNISIAN MATHEMATICAL SOCIETY, VOLUME 11

PROCEEDINGS OF THE TUNISIAN MATHEMATICAL SOCIETY, VOLUME 11

K. TRIMÉCHE AND S. ZARATI EDITORS

Nova Science Publishers, Inc. New York

Copyright © 2007 by Nova Science Publishers, Inc.

All rights reserved. No part of this book may be reproduced, stored in a retrieval system or transmitted in any form or by any means: electronic, electrostatic, magnetic, tape, mechanical photocopying, recording or otherwise without the written permission of the Publisher. For permission to use material from this book please contact us: Telephone 631-231-7269; Fax 631-231-8175 Web Site: http://www.novapublishers.com NOTICE TO THE READER The Publisher has taken reasonable care in the preparation of this book, but makes no expressed or implied warranty of any kind and assumes no responsibility for any errors or omissions. No liability is assumed for incidental or consequential damages in connection with or arising out of information contained in this book. The Publisher shall not be liable for any special, consequential, or exemplary damages resulting, in whole or in part, from the readers’ use of, or reliance upon, this material. Any parts of this book based on government reports are so indicated and copyright is claimed for those parts to the extent applicable to compilations of such works. Independent verification should be sought for any data, advice or recommendations contained in this book. In addition, no responsibility is assumed by the publisher for any injury and/or damage to persons or property arising from any methods, products, instructions, ideas or otherwise contained in this publication. This publication is designed to provide accurate and authoritative information with regard to the subject matter covered herein. It is sold with the clear understanding that the Publisher is not engaged in rendering legal or any other professional services. If legal or any other expert assistance is required, the services of a competent person should be sought. FROM A DECLARATION OF PARTICIPANTS JOINTLY ADOPTED BY A COMMITTEE OF THE AMERICAN BAR ASSOCIATION AND A COMMITTEE OF PUBLISHERS. LIBRARY OF CONGRESS CATALOGING-IN-PUBLICATION DATA

ISBN 13: 978-1-60692-530-0

Published by Nova Science Publishers, Inc.

New York

CONTENTS Preface

vii

Chapter 1

Coerciveness Estimate for Ventcel Boundary Value Problem for a Differential Equation Aissa Aibeche and Angelo Favini

1

Chapter 2

Two Classes of Models for Overdispersed Count Data C.C. Kokonendji, C.G.B. Demétrio and S. Dossou-Gbéte

9

Chapter 3

On the Definition of the Current ddcvΛT when T Is a Positive P.S.H Current and v Is A P.S.H Function M.L. Ben Yattou

23

Chapter 4

Certaines Remarques sur L’algèbre des Opérateurs Différentiels Invariants pour la Représentation Monomiale d’un Groupe de lie Nilpotent Hidenori Fujiwara

37

Chapter 5

Prolongement et Contrôle d’un Courant Négatif Psh par Ses Tranches Moncef Toujani and Hèdi Ben Messaoud

51

Chapter 6

An (Lp, Lq) Version of Morgan’s Theorem on for Chébli-Trimèche Hypergroups Latifa Bou Attour

63

Chapter 7

Distributional Jacobi-Dunkl Transform and Applications Hassen Ben Mohamed and Hatem Mejjaoli

71

Chapter 8

Transcendance de Périodes: État des Connaissances Michel Waldschmidt

89

Chapter 9

Quelques Aspects du Théorème Limite Central sur les Groupes de Lie et les Hypergroupes Léonard Gallardo

117

vi Chapter 10

Index

Contents New Proof of Cowling-Price Lemma and Application Slaim Ben Farah

149

159

PREFACE These proceedings consist of ten carefully refereed and selected papers which were presented at the 12th symposium of Tunisian Mathematical Society held on March 18-23, 2004 in Mahdia (Tunisia). This symposium was one of the largest international meeting on Mathematics in Tunisia. A total of 200 participants from several countries attended to the meeting. In addition to the plenary, invited and contributed talks, there was a dpanel discussion on future research directions and problems in various areas of mathematics. In Chapter 1, the authors give some simple algebraic conditions on the coefficients of a boundary value problem for a differential equations of Ventcel type, depending on a spectral parameter, which guarantee the existence, uniqueness of a solution and coerciveness estimate, for a spectral parameter lying in some sector. Chapter 2 investigates two classes of exponential dispersion models for overdispersed count data with respect to the Poisson distribution. The first is a class of Poisson mixture with positive Tweedie mixing distributions. As an approximation of the first in terms of their unit variance functions, the second is a new class of exponential dispersion models characterized by their unit variance functions of the form μ + μp, where p is a real index related to a precise model. These two classes provide some alternatives to the negative binomial distribution (p = 2) which is classically used in the framework of regression models for count data when overdispersion results in a lack of fit of the Poisson regression model. Some properties are then studied and the pratical usefulness is also discussed. Chapter 3 presents the definition of a current ddcvΛT by means of a closed positive current T and a locally bounded p.s.h function v, following the idendity: ddcvΛT= ddc(vT) leads to the MongeAmpere current .The recent literrature has considered the extension of this definition to non necessarly locally bounded functions v and to non necessarly closed currents. The authors are considering the definition of the current ddcvΛT when T is a positive p.s.h current and v is a p.s.h function having a nonempty polar set. En Chapitre 4, soient G un groupe de Lie réel nilpotent connexe et simplement connexe, H un sous-groupe fermé connexe de G et χ un caractère unitaire de H. Soit D τ (G/H) l’algèbre des opérateurs différentiels G-invariants sur le fibré de base G/H associé aux données (H, χ ). Nous donnons dans D τ (G/H) un système d’éléments de Corwin- Greenleaf

viii

K. Triméche and S. Zarati G

et montrons que la représentation monomiale ind H

χ est à multiplicités finies si et seulement

si D τ (G/H) est algébrique sur ce système. In Chapter 5, the authors show the principal theorem, on the extension of a negative (or positive) plurisubharmonic (ie ddcT ≥ 0) current T with condition on the slice. First, We prove the Chern-Levine-Nirenberg inequality for a positive (or négative) psh current. The result generalized a result of Sibony and the results of Bedford-Taylor and Demailly for a positive d-closed current. Also they show a inequality of Oka type for a positive psh current. In Chapter 6, the authors give an (Lp, Lq) Version of Morgan’s theorem for ChébliTrimèche Hypergroups ( R +, *(A)). In Chapter 7, the authors study the Jacobi-Dunkl transform on new spaces of distributions. Boundedness, uniqueness, smoothness, and inversion theorems are established for this transform. Finally we give some applications. Comme expliqué en chapitre 8, les nombres réels ou complexes forment un ensemble ayant la puissance du continu. Parmi eux, ceux qui sont « intéressants », qui apparaissent « naturellement », qui méritent notre attention, forment un ensemble dénombrable. Dans cet état d’esprit nous nous intéressons aux périodes au sens de Kontsevich et Zagier. Nous faisons le point sur l’état de nos connaissances concernant la nature arithmétique de ces nombres : décider si une période est un nombre rationnel, algébrique irrationnel ou au contraire transcendant est l’objet de quelques théorèmes et de beaucoup de conjectures. Nous précisons aussi ce qui est connu sur l’approximation diophantienne de tels nombres, par des nombres rationnels ou algébriques. Chapitre 9 est la rédaction d’une conférence faite à Mahdia au colloque 2004 de la Société Mathématique de Tunisie. Il est constitué d’une sélection de résultats sur le théorème limite central sur les groupes de Lie et les hypergroupes. Les chercheurs qui s’intéressent à cette problématique, y trouveront un accès rapide aux aspects les plus significatifs de la théorie. A crucial result to establish the Lp-Lq versions of Hardy’s theorem is the following Cowling-Price lemma. Let σ > 0 , M > 0 and 1 ≤ p < 1. If g is an entire function on C σ x2

satisfying the conditions ||g| R ||p ≤ M and |g(x+iy)| ≤ Me

, for all x > 0, y > 0, then

g=0. In Chapter 10, the authors establish a version of Phragm´en-Lindel¨of theorem and we deduce a simplified proof of the above lemma. As application, we establish a Lp-Lq version of Hardy’s theorem for the Heisenberg group, by using its natural gauge.

In: Proceedings of the Tunisian Mathematical Society... ISBN 1-60021-014-7 c 2007 Nova Science Publishers, Inc. Editor: K. Trim´eche and S. Zarati, pp. 1-8

Chapter 1

C OERCIVENESS E STIMATE FOR V ENTCEL B OUNDARY VALUE P ROBLEM FOR A D IFFERENTIAL E QUATION 1

Aissa Aibeche1∗and Angelo Favini2† Department of Mathematics, University Ferhat Abbas, Route de Scipion, 19000 Setif, Algeria 2 Dipartimento di Matematica, Universit di Bologna, Piazza di Porta S.Donato 5, 40126 Bologna, Italy

Abstract We give some simple algebraic conditions on the coefficients of a boundary value problem for a differential equations of Ventcel type, depending on a spectral parameter, which guarantee the existence, uniqueness of a solution and coerciveness estimate, for a spectral parameter lying in some sector.

Keywords: coerciveness estimate, Ventcel boundary conditions, differential equations AMS Subject Classifications: 34L10, 35J05, 35P20, 47E05

1.

Introduction

Consider, in Lq (0, 1) the following problem L(λ, D)u : = λu(x) − u00 (x) = f (x),

x ∈ (0, 1)

(2)

0

(3)

L1 (λ, D)u : = (λ + γ)u(0) + βu (0) = f1 L2 (λ, D)u : = (λ + γ)u(1) + βu (1) = f2 where λ, γ, β ∈ C and f1 , f2 ∈ C. ∗ †

E-mail address: [email protected] E-mail address: [email protected]

(1)

0

2

A. Aibeche and A. Favini

This kind of problems are considered by several authors ([1, 2, 3]), mainly in the scope of establishing generation theorems for strongly continuous semigroups, the method they used is different from the one we propose in this paper. We would like to prove existence, uniqueness and coerciveness estimate for the solution of the above problem for λ in some sectors in C. We would like to prove existence, uniqueness and coerciveness estimate for the solution of the above problem for λ in some sectors in C. To achieve this goal, we rewrite the problem (1), (2), (3) as a problem for a linear unbounded operator P with a dense domain in L2 (0, 1) ⊕ C2 . The problem (1), (2), (3) can be written in the following abstract manner, L(λ)u :=

λu − Au =

f

Lν (λ)u := λCν u − Bν u = fν , ν = 1, 2.

(4) (5)

2

d 2 0 With A = dx 2 , D(A) = Wq (0, 1), C1 u = u(0), C2 u = u(1), B1 u = −γu (0) − 0 βu(0), and B2 u = −γu (1) − βu(1).

2.

Preliminaries

Consider, in the space L2 (0, 1) ⊕ C2 , the operator P which is defined by the equalities  D(P ) = (u, v) : u ∈ Wq2 (0, 1); v = (C1 u, C2 u) P =



A 0 Bt 0



P is a 2 × 2 operator block matrix on the diagonal of which the one-dimensional operator A and 2-dimensional 0 operators are situated   A 0 0  B1 0 0  B2 0 0 it is clear that problem (1, 2, 3) is reduced to the standard problem for the operator P       u u f λ  C1 u  − P  C1 u  =  f1  C2 u C2 u f2

(6)

Condition (a): Assume that the conditions of the Theorem (4) are satisfied and the operator A : u 7→ Au := (Au, C1 u, C2 u) is invertible as an operator from Wq2 (0, 1) into Lq (0, 1) ⊕ C2 . Consider, in Lq (0, 1), the operator Ac which is defined by the equalities D(Ac ) = Wq2 ((0, 1), C1 u = 0, C2 u = 0)

Coerciveness Estimate

3

and Ac u = Au for u ∈ D(Ac ). By virtue of Condition (a), the operator Ac has an inverse A−1 c which acts boundedly from Lq (0, 1) into Wq2 (0, 1). More precisely, u = A−1 f means that Au = f, C1 u = c 0, C2 u = 0. Let Λν , ν = 1, 2, be such that u = Λν gν means that Au = 0, Cν u = gν and Ck u = 0 for k 6= ν. The operator Λν exists and, in view of Condition (a), is bounded from C into Wq2 (0, 1). Consider the operator Λ := (Λ1 , Λ2 ). It is clear that u = Λg t = Λ1 g1 + Λ2 g2 means that Au = 0, C1 u = g1 and C2 u = g2 , where g t = (g1 , g2 ). Consider, in L2 (0, 1) ⊕ C2 , the operator L which is defined by the equalities D(L) := L2 (0, 1) ⊕ C2 , and   I Λ + A−1 c Λ L= . 0 I Lemma 1 The operator L in the space L2 (0, 1)⊕C2 is bounded and has a bounded inverse −1

L

=



I −Λ − A−1 c Λ 0 I



.

Proof: Since the operators Λν from C into Wq2 (0, 1) is bounded then the proof is obvious. We consider, in the space L2 (0, 1) ⊕ C2 , a linear manifold D = {(u, v) : u ∈ Wq2 ((0, 1); C1 u = 0, C2 u = 0), v ∈ C2 }. Lemma 2 The operator L is an algebraic isomorphism between D and D(P ). Proof: Let (u, v) ∈ D. First, show that [L(u, v)t ] ∈ D(P ), where (u, v)t = (u, v1 , v2 )t . We have       t   u u + Λ1 v1 + Λ2 v2 + A−1 u c Λv −1 I Λ + Ac Λ   v1  =  v1 L  v1  = 0 I v2 v2 v1 From (u, v) ∈ D it follows that u ∈ Wq2 (0, 1), Cν u = 0, ν = 1, 2 and v ∈ C2 . t 4 t By virtue of lemma (1), Λv t ∈ Wq2 (0, 1), A−1 c Λv ∈ Wq (0, 1) and, therefore u + Λv + −1 t 2 Ac Λv ∈ Wq (0, 1). it follows that t Cν (u + Λv t + A−1 c Λv ) = vν

ν = 1, 2.

This means that [L(u, v)t ] ∈ D(P ). Conversely, let (u, v) ∈ D(P ). We show that [L−1 (u, v)t ]t ∈ D. We have −1

L



u vt



=



I −Λ − A−1 c Λ 0 I



u vt



=



t u − Λv t − A−1 c Λv t v



.

4

A. Aibeche and A. Favini

From (u, v) ∈ D(P ) it follows that u ∈ Wq2 (0, 1), v = (C1 u, C2 u). Since Λv t ∈ t 4 t −1 t 2 Wq2 (0, 1), then A−1 c Λv ∈ Wq (0, 1) and therefore, u − Λv − Ac Λv ∈ Wq (0, 1). It follows that t Cν (u − Λv t − A−1 ν = 1, 2. c Λv ) = vν − vν = 0 Finally [L−1 (u, v)t ]t ∈ D. The set D(P ) is equipped with the norm

k(u, C1 u, C2 u)kD(P ) =

kuk2Wq2 (0,1)

+

2 X

|Cν u|

ν=1

2

! 21

and the set D is equipped with the norm

k(u, v)kD =

kuk2Wq2 (0,1) +

2 X

|vν |2

ν=1

! 12

.

Lemma 3 The operator L is a topological isomorphism between D and D(P ). Proof: For (u, v) ∈ D we have

 

L u ≤ t

v D(P ) ≤

t ku + Λv t + A−1 c Λv kWq2 (0,1) +

2 X

|vν |

ν=1

and for (u, v) ∈ D(P ) we have

≤

t

ku − Λv −

kukWq2 (0,1) +

!

t A−1 c Λv kWq2 (0,1)

2 X

|vν |

!

!

≤ k(u, v)kD ,

+

2 X ν=1

ν=1

3.

|vν |

ν=1

kukWq2 (0,1) +

 

−1

u

L

≤ t

v D

2 X

|vν |

!

≤ k(u, v)kD(P ) .

Main Result

Theorem 4 Assume that 1. Cν are p−regular with respect to ω1 = −i and ω2 = i in the sense of Yakubov. 2. Bν is continuous on Wq2− (0, 1) and f ∈ Lq (0, 1). Then for any  > 0 there exists R such that for all complex numbers λ which satisfy |λ| > R lying inside the angle π +  < | arg λ| < π − 

Coerciveness Estimate

5

the operator L : u → Lu = (L(λ)u, L1 (λ)u, L2 (λ)u) from Wq2 (0, 1) onto L2 (0, 1) ⊕ C2 is an isomorphism and for these λ, for a solution of our problem the estimate

||u||Wq2 (0,1) + |λ| ||u||Lq (0,1) + |u(0)| + |u(1)| ≤ C() ||f ||Lq (0,1) + |f1 | + |f2 | (7) is valid.

Proof: By applying Theorem ([6, Thm 4.2.2/1, p.207] or [4, pp. 100]) to the problem  (λI − A)u = f, (8) Cν u = 0 ν = 1, 2, where the functional conditions Cν are 1-regular with respect to the numbers ω1 = i and ω2 = −i. We obtain that for all complex numbers λ lying inside the angle ` = {λ :

π +  < | arg λ| < π − }

(9)

and with sufficiently large moduli, problem (8) for f ∈ Lq (0, 1) has a unique solution u ∈ Wq2 (0, 1) and the estimate ||u||Wq2 (0,1) + |λ|||u||Lq (0,1) ≤ C()||f ||Lq (0,1) is true. Hence, all complex numbers inside the angle (9) with sufficiently large moduli, belong to ρ(Ac ) and the operator L from Wq2 (0, 1) onto L2 (0, 1) ⊕ C2 is an isomorphism. It remains to prove the estimate (7). Consider, in the space L2 (0, 1) ⊕ C2 , an operator S which is defined by the equalities  D(S) := D := (u, v) : u ∈ Wq2 ((0, 1); Cν = 0, ν = 1, 2) , v ∈ C2 , S := L−1 P L.

Since AΛ = 0, then by lemma (1), we obtain     I −Λ − A−1 A 0 I Λ + A−1 c Λ c Λ S= = 0 I Bt 0 0 I 

S11 S12 S21 S22



where operators A, B, Λ, A−1 c are defined as above and t S11 = A − ΛB t − A−1 c ΛB , t t −1 t t −1 −1 t −1 S12 = Λ − ΛB t Λ − A−1 c ΛB Λ − ΛB Ac ΛB Λ − ΛB Ac Λ − Ac ΛB Ac Λ,

S21 = B t and S22 = B t Λ + B t A−1 c Λ.

6

A. Aibeche and A. Favini Write the operator S in the form S = S0 + S1 where   A 0 S0 = Bt BtΛ

and S1 = 

1 1 S11 S12 1 1 S21 S22



where 1 t S11 = −ΛB t − A−1 c ΛB , 1 t t −1 t t −1 −1 t −1 S12 = Λ − ΛB t Λ − A−1 c ΛB Λ − ΛB Ac ΛB Λ − ΛB Ac Λ − Ac ΛB Ac Λ, 1 1 S21 = 0 and S22 = B t A−1 c Λ.

D(S0 ) := D(S1 ) := D(S) := D. To find the resolvent of the operator S0 , we consider the equation (λI − S0 )(u, v)t = (f, g)t ,

(10)

where (f, g) ∈ Lq (0, 1) ⊕ C2 . From (10) we have the system (λI − A)u = f t

t

(11) t

(12)

C1 u = C2 u = 0.

(13)

B u + (λI − B Λ)v

t

= g

From Theorem [6, Thm 4.2.2/1, p.207], the problem (11, 13)  (λI − A)u = f C1 u = C2 u = 0. has a unique solution for λ ∈ ` and |λ| → ∞, from coerciveness estimate 1

||u||Wq2 (0,1) + |λ| 2 ||u||Lq (0,1) + |λ|||u||Lq (0,1) ≤ C()||f ||Lq (0,1)

(14)

for the solution the estimates ||u||Lq (0,1) ≤ C()|λ|−1 ||f ||Lq (0,1) for λ ∈ `, |λ| → ∞.

(15)

||u||Wq2 (0,1) ≤ C()||f ||Lq (0,1) for λ ∈ `, |λ| → ∞.

(16)

hold. Now, before solving the equation (12), let us look to the equation (λI − B t Λ)ht = g t .

(17)

Coerciveness Estimate

7

The function w := Λht = Λ1 ht1 + Λ2 ht2 , by definition of the operator Λ, is a solution to the problem  Aw = 0  λC1 w − B1 w = g1  λC2 w − B2 w = g2 . By direct calculation we obtain   1 λ+γ+β β w(x) = (g2 − g1 )x + g1 − g2 . γ+λ λ+γ λ+γ

From (17), we obtain that ht = λ1 (g t + B t w), and by the way, we have the estimate C kht k ≤ |λ| kg t k for λ ∈ `, |λ| sufficiently large. Then ht = R(λ, B t Λ)g t for λ ∈ `, |λ| → ∞, this implies that for these λ the equation B t u + (λI − B t Λ)v t = g t has a unique solution given by v t = R(λ, B t Λ)g t − R(λ, B t Λ)B t u which can be written in the form v t = R(λ, B t Λ)g t − R(λ, B t Λ)B t R(λ, Ac )f.

(18)

Then, we have kR(λ, S0 )(f, g t )kLq (G)⊕C2 ≤ C kukLq (G) + kvkC2




(19)


≤ C kR(λ, Ac )f kLq (G) + kR(λ, B t Λ)g t kC2 +kR(λ, B t Λ)B t R(λ, Ac )f kC2 .

Substituting (15), (18) into (19), we obtain

kR(λ, S0 )(f, g t )kLq (G)⊕C2 ≤ C |λ|−1 kf kLq (G) + |λ|−1 kgkC2

Consequently

(20)

+kR(λ, B t Λ)kB(Wq2 (0,1),C2 ) × kB t kB(Wq2 (0,1),C2 )
×kR(λ, Ac )kB(Lq (0,1),Wq2 (0,1) × kf kLq (0,1)
≤ C|λ|−1 kf kLq (0,1) + kgkC2 . kR(λ, S0 )k ≤ C|λ|−1 ,

λ ∈ `,

|λ| → ∞.

(21)

The operator Λ from C2 into Wq2 (0, 1) is bounded. Then the operator S1 from Wq2 (0, 1) ⊕ C2 into Lq (0, 1) ⊕ C2 is compact. Consequently, by virtue of Lemma [6, 1.7.4/3, p.44] and Lemma [6, 1.2.9/1, p.12], it follows from (21) that kR(λ, S)k ≤ C|λ|−1 ,

λ ∈ `,

|λ| → ∞.

(22)

8

A. Aibeche and A. Favini Since (λI − S)R(λ, S) = I, then from (22), we have kR(λ, S)k ≤ |λ|kR(λ, S)k + 1 ≤ C,

λ ∈ `,

A solution of the equation (6) has the form     u f = R(λ, P ) t C tu g

|λ| → ∞.

(23)

(24)

where u ∈ Wq2 (0, 1) is a solution of (1), (2), (3). Since P = LSL−1 , then R(λ, P ) = LR(λ, S)L−1 . Consequently, (24) implies that a solution of (6) has the form     u −1 f = LR(λ, S)L . (25) Ct gt From (25, 24), by virtue of Lemma (1) and (23), for a solution of problem (1), (2), (3) we have the desired coerciveness estimates.

References [1] A. Favini, G. Ruiz Goldstein, J.A. Goldstein, E. Obrecht and S. Romanelli, The Laplacian with generalized Wentzell boundary conditions, Evolution equations: applications to physics, industry, life sciences and economics (Levico Terme, 2000), 169–180, Progr. Nonlinear Differential Equations Appl., 55, Birkhuser, Basel, 2003. [2] A. Favini, G. Ruiz Goldstein, J.A. Goldstein, E. Obrecht and S. Romanelli, General Wentzell boundary conditions and analytic semigroups on W 1,p (0, 1), Appl. Anal. 82 (2003), no. 9, 927–935. [3] A. Favini, G. Ruiz Goldstein, J.A. Goldstein, E. Obrecht and S. Romanelli, General Wentzell boundary conditions, differential operators and analytic semigroups in C[0, 1].,Bol. Soc. Parana. Mat. (3) 20 (2002), no. 1-2, 93–103 (2003). [4] S. Y. Yakubov, Completeness of Root Functions of Regular Differential Operators, Longman Scientific and Technical, New York, 1994. [5] S. Y. Yakubov, Abel Basis of Root Functions of Regular Boundary Value Problems, Math. Nachr. 197, 1999, pp. 157–187. [6] S. Y. Yakubov and Y. Y. Yakubov, Differential-Operator Equations. Ordinary and Partial Differential Equations, CRC Press, New York, 1999.

In: Proceedings of the Tunisian Mathematical Society... ISBN 1-60021-014-7 c 2007 Nova Science Publishers, Inc. Editor: K. Trim´eche and S. Zarati, pp. 9-21

Chapter 2

T WO C LASSES OF M ODELS FOR OVERDISPERSED C OUNT D ATA∗ C.C. Kokonendji1†, C.G.B. Dem´etrio2 and S. Dossou-Gb´et´e3 1 Universit´e de Pau et des Pays de l’Adour, Laboratoire de Math´ematiques Appliqu´ees - CNRS, D´epartement STID, Avenue de l’Universit´e, 64000 Pau, France 2 University of S˜ao Paulo - ESALQ, Caixa Postal 9, 13418-900 Piracicaba - SP, Brazil 3 University of Pau - LMA, Avenue de l’Universit´e, 64000 Pau, France

Abstract We investigate two classes of exponential dispersion models for overdispersed count data with respect to the Poisson distribution. The first is a class of Poisson mixture with positive Tweedie mixing distributions. As an approximation of the first in terms of their unit variance functions, the second is a new class of exponential dispersion models characterized by their unit variance functions of the form µ + µp , where p is a real index related to a precise model. These two classes provide some alternatives to the negative binomial distribution ( p = 2) which is classically used in the framework of regression models for count data when overdispersion results in a lack of fit of the Poisson regression model. Some properties are then studied and the pratical usefulness is also discussed.

Keywords: Exponential dispersion model, negative binomial distribution, Poisson mixture, Tweedie family, unit variance function. AMS Subject Classifications: 62E15, 62E17, 60E07 ∗

This work was partially supported by grants from CNPq and FAPESP, S˜ao Paulo, Brazil. E-mail address: [email protected]. Phone: +33 559 407 145. Fax:+33 559 407 140; Address for correspondence: C´elestin C. Kokonenji, Universit´e de Pau et des Pays de l’Adour, Laboratoire de Math´ematiques Appliqu´ees - CNRS, D´epartement STID, Avenue de l’Universit´e, 64000 Pau, France. †

10

1.

C.C. Kokonendji, C.G.B. Dem´etrio and S. Dossou-Gb´ete

Introduction and Motivation

The Poisson distribution is well-known to be the classical distribution for count data, but it has only one parameter and its variance is equal to the mean. Since the index of dispersion (i.e. the variance divided by the mean) of Poisson is one, this makes it inadequate for fitting overdispersed count data (e.g. [1]), and raises the question of whether an appropriate twoparameter distribution such as the negative binomial should be used routinely for analysing overdispersed count data. The same problem occurs in the framework of regression models for count data [14], when Poisson distribution does not fit and the observed dispersion is greater than that the predicted by the standard distribution (called overdispersion). It is well known that negative binomial can be understood as a Poisson mixture with gamma mixing distribution, taking into account the heterogeneity in the population. Hougaard et al [4] have considered a large family of mixture distributions, including the Poisson-inverse Gaussian distribution, to improve significantly the fitness to certain data. We will call the Poisson-Tweedie class a completed set of these distributions that we must point out the exact form of its associated “unit variance function” (a term to be made precise). Otherwise, Hinde and Dem´etrio [3, page 14] propose for overdispersed count data the use of the unit variance function VpHD (µ) = µ + µp , µ ∈ MpHD ⊆ R,

(1)

where p ∈ R fixed, which is also an alternative to negative binomial unit variance function obtained with p = 2 and includes the strict arcsine distribution with p = 3 [9]. We here call the Hinde-Dem´etrio class the set of all distributions associated to (1). The aim of this work is to provide a complete identification of both the Poisson-Tweedie and the HindeDem´etrio classes from their unit variance functions. These classes are sets of two-parameter distributions with an additional index parameter p allowing to identify an appropriate family of these distributions. The following kind of homogeneous data are frequent in marketing, insurance, biometry, financial problems [16]. Recently, Kokonendji and Khoudar [9] consider the data set of Table 1, giving the number Y (k) of policyholders having reported k claims to the company during one year, which are overdispersed (i.e. the sample variance s2 is greater than the sample mean y [1]) and must be fitted by some overdispersed distributions compared to the Poisson P(λ), namely the negative binomial N B(q; λ), strict arcsine SA(q; λ), Poissoninverse Gaussian PIG(q; λ) and generalized Poisson GP(q; λ) distributions. As observed many authors, no single probability law seems to emerge as providing “the” best fit. Thus it is interesting to use a general class of overdispersed laws to fit. In Section 2, we review some basic properties of the general model, called “exponential dispersion models” and, in particular, we present the Tweedie class with unit variance function µp . In Section 3, we describe the possible Poisson mixture distributions with a Tweedie for obtaining the Poisson-Tweedie class. In Section 4, we first classify the Hinde-Dem´etrio class (1) and we then compare it to the Poisson-Tweedie class. We here precise that there is no relation between the Hinde-Dem´etrio class (µ + µp ) and the Tweedie class (µp ), except for p = 2. The last section is devoted to concluding remarks and the problem of statistical inference for p to select the adequate model in these classes.

Two Classes of Overdispersed Models

11

Table 1. Fit of automobile claim frequency data in the Central African Republic over 1984 with y = 0.37 and s2 = 0.42 [9, Table 5.2].

k 0 1 2 3 4 ≥5 n b b (q ; λ) df χ2

2.

Y (k) 6984 2452 433 100 26 5 10000

P(λ) 6874.81 2576.05 482.42 60.22 6.07 0.43 10000 (0.37) 3 131.39

Expected N B(q; λ) 7025.87 2337.24 519.56 96.18 18.69 2.46 10000 (0.05;6.9) 2 25.04

frequency SA(q; λ) 7012.25 2461.02 431.77 76.24 16.16 2.56 10000 (0.32;1.1) 2 15.61

PIG(q; λ) 6958.87 2443.26 502.87 80.72 12.48 1.80 10000 (0.77;0.91) 2 34.01

GP(q; λ) 6983.55 2403.39 510.22 86.43 14.70 1.71 10000 (.03;12) 2 27.77

Exponential Dispersion Models

Exponential dispersion models [6] are important in statistical modelling. They have a number of important mathematical properties, which are relevant in pratice. They include several well-known families of distributions as special cases, giving a convenient general framework. Generalized linear models [14] are based on these families of distributions. Let ν be a σ-finite positive measure on the real line R (not necessarily a probability) and define the cumulant function K by K(θ) = ln

Z

exp(θx)ν(dx) R

on its (canonical parameter) domain Θ = {θ ∈ R : K(θ) < ∞}. Assume that both ν and Θ are not degenerate (i.e., ν is not concentrated at one point and the interior of Θ is not empty), then the set of the probability measures P (θ; ν)(dx) = exp{θx − K(θ)}ν(dx) defined for all θ in Θ = Θ(ν) represents a natural exponential family (NEF) generated by ν and denoted F = F (ν) = {P (θ; ν); θ ∈ Θ(ν)}; see [11, Chapter 54]. Given a NEF, we define the set Λ of reals λ > 0 such that λK(θ) is also the cumulant function for some measure νλ . For fixed λ ∈ Λ, the NEF Fλ = F (νλ ) generated by νλ is then exp{θx − λK(θ)}νλ(dx), for θ ∈ Θ. This family of distributions, denoted ED(θ, λ) for (θ, λ) ∈ Θ × Λ, is called the exponential dispersion model (EDM) generated by ν (or νλ for improper notation); and λ can be called the dispersion parameter. Its density or mass function with respect to some measure η can be written as C(x; λ) exp{θx − λK(θ)}, x ∈ S ⊆ R,

(2)

where νλ (dx) = C(x; λ)η(dx). Note that ED(θ, λ) defined by (2) is the additive version of EDM. The reproductive version of X ∼ ED(θ, λ) is given by Z = X/λ. However, additive EDMs turn out to be important for discrete data because many usefull families of discrete

12

C.C. Kokonendji, C.G.B. Dem´etrio and S. Dossou-Gb´ete

distributions have this form. Any EDM satisfies ED(θ, λ1) ∗ ED(θ, λ2) = ED(θ, λ1 + λ2), so the family is closed under convolution and {1, 2, · · ·} ⊆ Λ. Also the model is infinitely divisible if and only if Λ = (0, ∞). In the interior of Θ, denoted intΘ, the cumulant function θ 7→ K(θ) is strictly convex. Then the expectation and variance of X ∼ ED(θ, λ) are E(X) = λK 0(θ)

and Var(X) = λK 00(θ),

(3)

where K 0(θ) and K 00(θ) are, respectively, the first and second derivatives of K at the point θ. From (3) with λ = 1, the characterizing function V defined on the domain M = K 0(intΘ) such that K 00(θ) = V {K 0(θ)} is called unit variance function. We also have V (µ) = 1/ψ 0(µ), for µ ∈ M , where ψ = (K 0)−1 is the inverse function of K 0 . Note that M depends only on the family F = { ED(θ, 1) : θ ∈ Θ}, and not on the choice of the generating measure ν of F . If M = Ω, where Ω denotes the interior of the convex hull of the support S of F , the family F is said to be steep. The role of the unit variance function in data fitting should be to identify an appropriate EDM of distributions, if any. The reparametrization by unit mean µ = K 0 (θ) = µ(θ) allows us to write the EDM as follows: {ED(µ(θ), λ); µ(θ) ∈ M, λ ∈ Λ} ≡ EDM (µ, λ). It is sometimes considered the reparametrization of the EDM by the mean m = E(X) = λ K 0(θ) = m(λ, θ) instead of the unit mean µ = µ(θ). From (3), the unit variance function V leads to the variance Vλ = Var(X) of X ∼ ED(θ, λ) in terms of m, called variance function and expressed as follows: Vλ(m) = λV (m/λ), for all m ∈ λM . We conclude by the fact that discrete overdispersed EDM compared to the Poisson distribution must satisfy V (µ) > µ, µ > 0,

(4)

where V (µ) = µ is the unit variance function of the Poisson model [7].

2.1. Tweedie EDMs A complete description of the EDMs with power unit variance functions VpT (µ) = µp , p ∈ (−∞, 0] ∪ [1, ∞),

(5)

is given by Jørgensen [6] where, for p → ∞ the corresponding unit variance function takes T (µ) = exp(βµ) , β 6= 0. This class called the Tweedie class the exponential form V∞ is introduced by Tweedie [15]. Instead of p, it is also convenient to introduce the index parameter α of stable distribution: (p − 1)(1 − α) = 1.

(6)

According to the above notations, we can denote by Tp(θ, λ) any distribution of this class where p and α are connected by (6), λ ∈ (0, ∞) = Λ for all p of (5), µ ∈ Mp =

Two Classes of Overdispersed Models

13

Table 2. Summary of Tweedie EDMs [6]. Distribution Extreme stable Normal [ Do not exist ] Poisson Compound Poisson Gamma Positive stable Extreme stable

p p<0 p=0 02 p→∞

α 1<α<2 α=2 2<α<∞ α → −∞ α<0 α=0 0<α<1 α=1

M (0, ∞) R

S R R

(0, ∞) (0, ∞) (0, ∞) (0, ∞) R

N (0, ∞) (0, ∞) [0, ∞) R

K 0 (intΘp ) and θ ∈ Θp with   R   

for p = 0, 1 [0, ∞) for p < 0 or 0 < p < 1 Θp =  (−∞, 0) for 1 < p ≤ 2 or p → ∞    (−∞, 0] for 2 < p < ∞.

(7)

Thus, for s ∈ Θp − θ and X ∼ Tp (θ, λ), the Laplace transform E(esX ) is

Gp (s; θ, λ) =

 λ[(1−p)θ]α α   exp{ (2−p) [(1 + s/θ) − 1]} for p 6= 1, 2

(1 + s/θ)−λ   θ s

exp{λe (e − 1)}

for p = 2 for p = 1.

(8)

As shown in Table 2, the Tweedie class T = {T Mp (µ, λ); p ∈ R} includes several well-known families of distributions amongst which one may be the inverse-Gaussian model T M3 (µ, λ) and the noncentral gamma model T M3/2(µ, λ) of zero shape (respectively, a special case of positive stable and compound Poisson families). The compound Poisson (1 < p < 2) is also called Poisson-gamma because it can be represented as the Poisson random sum of independent gamma random variables. Observe however that the extreme stable distributions (p < 0) are not steep and only the Poisson distribution ( p = 1) is discrete. ¿From here to the end, an EDM is always assumed to be steep.

3.

Poisson-Tweedie EDMs

Let X be a non-negative random variable following Tp (θ, λ). If a discrete random variable Y is such that the conditional distribution of Y given X is Poisson with mean X, then the EDM generated by the distribution of Y is of the Poisson-Tweedie class. We can also use the following notations PT p (θ, λ) to denote the distribution of Y and P T Mp (µ, λ) for the corresponding EDM. Hence for p ≥ 1, the individual probabilities of Y ∼ PT p (θ, λ) are Pr(Y = y) =

Z ∞ −x y e x 0

y!

Tp (θ, λ)(dx),

y = 0, 1, · · ·.

(9)

14

C.C. Kokonendji, C.G.B. Dem´etrio and S. Dossou-Gb´ete

Theorem 1 ([4]) Let Y ∼ PT p (θ, λ) defined by (9), where the parameter set is λ > 0, θ ∈ Θp given by (7), and p ≥ 1 or α ∈ [−∞, 1) from (6). (i) If Y1 , · · · , Yn are independent, with Yi ∼ PT p (θ, λi), then Y1 + · · · + Yn follows PT p (θ, λ1 + · · · + λn ). The distribution PT p (θ, λ) is infinitely divisible. (ii) The distribution PT p (θ, λ) is unimodal for p ≥ 2. (iii) The Laplace transform of Y ∼ PT p (θ, λ) is E(eωY ) =

 λ ω α α   exp{ 2−p [{(1 − p)(e − 1 + θ)} − {(1 − p)θ} ]} for p 6= 1, 2  

[(eω − 1 + θ)/θ]−λ exp{λ[exp(eω − 1 + θ) − eθ ]}

for p = 2 for p = 1,

(10)

for ω ∈ Θp − θ. For p = 1, it is a Neyman type A distribution; for p = 2, it is a negative binomial distribution; and, for p = 3, it is the Sichel or Poisson-inverse Gaussian distribution (e.g. [17]). Theorem 2 With the asumptions of Theorem 1 , the unit variance function of the model P T Mp (µ, λ) generated by Y ∼ PT p (θ, 1) is exactly VpP T (µ) = µ + µp exp{(2 − p)Φp(µ)}, µ > 0,

(11)

where Φp (µ), generally implicit, denotes the inverse of the increasing function ω 7→ d{ln E(eωY )}/dω. Proof. Let K(ω) = ln E(eωY ) for Y ∼ PT p (θ, 1). From Theorem 1 (iii) with λ = 1 and using (6) to simplify, the first derivative of K(ω) is 0

µ = K (ω) =

 ω ω α−1   e [(1 − p)(e − 1 + θ)] ω

ω

−1

−e (e − 1 + θ)

  eω exp{eω − 1 + θ}

for p 6= 1, 2 for p = 2 for p = 1,

and the second derivative of K(ω) may be expressed as follows: VpP T (µ)

00

= K (ω) =

 0 2ω ω α−2   K (ω) + e [(1 − p)(e − 1 + θ)]

K 0 (ω) +

[K 0(ω)]2

  K 0 (ω) + eω K 0 (ω)

for p 6= 1, 2 for p = 2 for p = 1.

For p 6= 1, 2, we can also write K 00(ω) = K 0 (ω) + e2ω [K 0(ω)/eω ]p and the expression given in (11) is easily obtained. The Poisson-Tweedie EDMs are summarized in Table 3, that we can divide in three parts with respect to p: 1 < p < 2, 2 < p < ∞ and p ∈ {1, 2, ∞}. For p = 1 or α → −∞ which is not studied by Hougaard et al [4], we can refer to [5, pages 368-] for obtaining some properties on the Neyman type A distribution, which is therefore both a Poisson mixture of Poisson distributions, and also a Poisson-stopped sum of Poisson distributions. Note: We consider in this paper only the strictly mixed Poisson distributions ( p ≥ 1). In fact, it is not possible to mix a Poisson with a Tweedie distribution Tp(θ, λ) for p ≤ 0 because it can be negative but (9) can be seen as a purely formal operation. For p = 0 we refer to Kemp and Kemp [8] who show that, if X follows a normal distribution T0(θ, λ)

Two Classes of Overdispersed Models

15

Table 3. Summary of Poisson-Tweedie EDMs. Distribution [ Do not define ] Neyman type A Poisson-compound Poisson Negative binomial Poisson-positive stable Poisson

p p<1 p=1 12 p→∞

α 1<α<∞ α → −∞ α<0 α=0 0<α<1 α=1

M

S

(0, ∞) (0, ∞) (0, ∞) (0, ∞) (0, ∞)

N N N N N

with mean µ = µ(θ) and standard deviation σ = σ(λ) such that µ ≥ σ 2, the corresponding mixed Poisson distribution is the Hermite distribution [5, pp. 357-364]. The key difficulties to apply this family of models can be found in their probability mass functions (see below) and Φp in (11) (see the next section). To conclude this section, we explicit the probability mass functions (2) of all the Poisson-Tweedie EDMs generated by any distribution of Y ∼ PT p (θ0 , λ) for fixed p ∈ [1, ∞) and θ0 ∈ Θ¯p the closure of Θp given in (7). Indeed, we have Cp,θ0 (y; λ) exp{ωy − λKp,θ0 (ω)}, y = 0, 1, 2, · · · ,

(12)

where λ > 0 is the dispersion parameter and ω ∈ Θp − θ0 is the canonical parameter such that, respectively by (9) and (10), Cp,θ0 (y; λ) =

1 1 ∂ y Gp(s; θ0, λ) E(e−X X y ) = |s=−1 for X ∼ Tp (θ0 , λ) y! y! ∂sy

(13)

and Kp,θ0 (ω) = λ−1 ln E(eωY ) for Y ∼ PT p (θ0 , λ). Note that, in pratice, we can use θ0 = 0 which is here defined for all p ∈ [1, ∞) with the convenience: 0λ = 1, for any λ > 0 (only for p = 2). To clarify completely (12), we must point out Cp,θ0 (y; λ) by the following proposition. Proposition 3 Let p ∈ [1, ∞) be fixed and let θ0 ∈ Θ¯p given by (7). Then, for all λ > 0 and y ∈ N, the expression of Cp,θ0 (y; λ) in (12) is, - for p = 1 or α → −∞,   exp{λeθ0 −1 (1 − e)} y P C1,θ0 (y; λ) = 1  y! C1,θ0 (0; λ) ay,k (λeθ0 −1 )k

for y = 0 for y = 1, 2, · · ·,

k=1

with ay,y = ay,1 = 1 and ay,k = ay−1,k−1 + kay−1,k ; 

λ

Γ(y+λ) 0 - for p = 2 or α = 0, C2,θ0 (y; λ) = θ0θ−1 y!Γ(λ) - for p ∈ (1, 2) ∪ (2, ∞) or α ∈ (−∞, 0) ∪ (0, 1),



1 1−θ0

 λ(α−1) −θ0 α 0 α   exp{ α [( 1−θ 1−α ) − ( 1−α ) ]} y P Cp,θ0 (y; λ) = 1 0 kα−y  ay,k (α)λk ( 1−θ  y! Cp,θ0 (0; λ) 1−α ) k=1

y

;

for y = 0 for y = 1, 2, · · · ,

16

C.C. Kokonendji, C.G.B. Dem´etrio and S. Dossou-Gb´ete

with ay,y (α) = 1, ay,1 (α) = Γ(y −α)/[(1−α)y−2 Γ(2−α)] and ay,k (α) = ay−1,k−1 (α)+ [(y − 1 − kα)/(1 − α)]ay−1,k (α). Proof. Following [4] we show only for p = 1. From (13), it suffices to check the recursive formula of derivatives of Laplace transform (8), which is ∂ y G1(s; θ0, λ)/∂sy = G1(s; θ0 , λ)

y P

ay,k (λeθ0 +s )k .

k=1

4.

Hinde-Dem´etrio EDMs

We now characterize the Hinde-Dem´etrio class which is the set of EDMs with unit variance function of the “simple” form (1) and, then, we compare it to the Poisson-Tweedie class (11). Theorem 4 Let p > 1. Then there exists a NEF Fp,1 such that MFp,1 = (0, ∞) and VFp,1 (µ) = µ + µp . Furthermore, the NEF Fp,1 is infinitely divisible (with bounded L´evy measure). More precisely, denote a = 1/(p − 1) similarly to the interchangeable relation (6) and consider the positive measure νp =

∞ X a(a + 1) · · ·(a + k − 1)

k!

k=0

Then, for all λ > 0, νp,λ = exp{λνp} =

1 δ . 1 + k(p − 1) 1+k(p−1) ∞ P λn ∗n n! νp generates a NEF Fp,λ with

n=0

variance function VFp,λ (m) = m + λ1−p mp

(14)

and Fp,λ is concentrated on the additive semigroup N + pN. Proof. It is standard by checking that we have exactly Kν0 p,1 (θ) =

∞ X eθ a(a + 1) · · · (a + k − 1) θ[1+k(p−1)] e = . θ(p−1) a k! [1 − e ] k=0

For p > 1, we also denote by HD p (θ, λ) any distribution of the EDM HDMp (µ, λ) corresponding to (1) or (14) with λ > 0 and θ ∈ Θ∗p ⊆ R. As an probabilistic interpretation of Y ∼ HD p (θ, λ), let X be a random variable associated to νp ≡ νp,θ of Theorem 4 (up to normalizing constant) and, let Nt be a standard Poisson process on the interval (0, t] (N0 = 0) with rate λ (i.e. Nt ∼ P(λt)) and supposed to be independent of X. From the Laplace transform of Yt =

Nt X

Xi = X1 + · · · + XNt ,

i=1

where the Xi are independent and identically distributed as X, it is easy to see that Y = Y1 by fixing the time to t = 1 (as one year in Table 1).

Two Classes of Overdispersed Models

17

Theorem 5 Let p ∈ R. The function (1): µ 7→ VpHD (µ) = µ + µp , defined on a suitable domain MpHD corresponds to a unit variance function of discrete (steep) EDM when p ∈ {0} ∪ [1, ∞), with M0HD = (−1, ∞) and MpHD = (0, ∞) for p ≥ 1; and the domain Θp of the canonical parameter is given by (7). Moreover, if p = 0 the model HDM0(µ, λ) is a positivetranslated Poisson; if p = 1 the model HDM1(µ, λ) is a scaled Poisson; if p = 2 the model HDM2(µ, λ) is negative binomial; if p = 3 the model HDM3(µ, λ) is strict arcsine [9]; and, if p 6= 0, 1, 2, 3 the model HDMp (µ, λ) is deduced from Theorem 4. Before giving the proof, let us observe that, from (4), the Hinde-Dem´etrio class (1) is the set of overdispersed EDMs compared with the Poisson distribution, as well as the PoissonTweedie class (11). The next (and so trivial) proposition provides comparable behaviours of these two classes. Indeed, only negative binomial model HDM2 (µ, λ) is interpreted as P T M2 (µ, λ); and, for fixed p ≥ 1 and λ > 0, each HDMp(µ, λ) can be “approximated” by P T Mp (µ, λ) when µ goes to ∞. This approximation must be understand in terms of their unit variance functions. The pratical meaning of the following result is given in the last section. Note however that any model HDMp(µ, λ), for p ∈ {3, 4, · · ·}, can be also interpreted as a Poisson mixture but with a positive continuous EDM having a polynomial unit variance function of degree p; see [9] for HDM3(µ, λ), not always unimodal and for which the Ressel-Kendall mixing model has µ2 (1 + µ) as unit variance function. Proposition 6 Let HD = {HDMp(µ, λ); p ∈ R} be the Hinde-Dem´etrio class (1) and P T = {P T Mp (µ, λ); p ∈ R} the Poisson-Tweedie class (11). Then: (i) HD ∩ P T = {HDM2(µ, λ) = P T M2 (µ, λ)}; (ii) For fixed p ≥ 1, VpP T (µ) ∼ VpHD (µ) as µ → ∞. For the proof of Theorem 5 we need the two following lemmas. The first is an “impossibility criterion” to exclude case 0 < p < 1, and the second is related to the steepness. Lemma 7 There are no EDM with M = (0, ∞) and unit variance function V (µ) ∼ µγ as µ → 0 for γ ∈ (0, 1). R

Proof. If V (µ) ∼ µγ as µ → 0, then θ = ψ(µ) = θ0 + 0µ (V (t))−1dt is left-bounded. Now, V (µ) → 0 as µ → 0 implies that the generator ν is concentrated on [0, ∞) [12, Theorem 2.3 (2)]. Hence, the domain Θ(ν) is not left-bounded, which yields a contradiction. Lemma 8 ([6, page 58]) Let F = {ED(θ, 1) ; θ ∈ Θ } be a NEF with variance function V on M and support S. If inf S = 0, then: (i) inf M = 0; (ii) lim V (µ) = 0; (iii) µ→0

lim V (µ)/µ = c, where c = inf{S \ {0}}.

µ→0

Note that c = 0 for continuous distributions and c = 1 for discrete integer valued distributions. of Theorem 5. Since VpHD must be an analytic positive function on the domain MpHD = (a, ∞), we have that both VpHD has no zero in (a, ∞) and VpHD (a) = 0 [12, Theorem 2.3]. Thus, we have ( (0, ∞) for p 6= 0 HD (15) Mp = (−1, ∞) for p = 0,

18

C.C. Kokonendji, C.G.B. Dem´etrio and S. Dossou-Gb´ete

and, in solving ψ 0(µ) = 1/VpHD (µ) = 1/(µ + µp ) that we ignore the arbitrary constants in the solutions, ψ(µ) =

 −1 p−1  ) for p 6= 0, 1  ln(µ) − (p − 1) ln(1 + µ

ln

√

µ

  ln(1 + µ)

for p = 1 for p = 0.

(16)

We now examine the different situations of p ∈ R in (1) from (15). - Consider case p ∈ {0} ∪ [1, ∞). Let θ = ψ(µ) be the canonical link function given by (16), then we find first µ = K 0 (θ) and, hence,         

eθ − θ e2θ /2 − ln(1 − eθ ) K(θ) =  arcsin eθ  

 ∞  P Γ[k+1/(p−1)] exp{θ[1+k(p−1)]}    k!Γ[1/(p−1)] 1+k(p−1)

for for for for

p=0 p=1 p=2 p=3

for p 6= 0, 1, 2, 3,

k=0

for θ ∈ Θ, where the interior of Θ is obtained by using (15) and (16):

intΘ =

   R

for p = 0, 1 (0, ∞) for p < 0 or 0 < p < 1   (−∞, 0) for 1 < p < ∞.

(17)

Since K(θ) is analytic, the domain Θ defined from its interior (17) coincides to Θp given by (7). Thus, for each p ∈ {0} ∪ [1, ∞), we define a discrete generator of the corresponding (steep) EDM with unit variance function (1). - Case 0 < p < 1 is excluded by Lemma 7. - Finally, let us exclude case p < 0 by Lemma 8. Indeed, it suffices to observe that MpHD = (0, ∞) from (15) and limµ→0 VpHD (µ)/µ = limµ→0 (1 + µp−1 ) = ∞. The proof of Theorem 5 is now complete.

5.

Concluding Remarks

Here we have two classes of two parameters distributions which could be used as models for analysing overdispersed count data. It was showed that both are EDMs with general unit variance functions indexed by a third parameter p. A common member of both families is the negative binomial family when p = 2. However, the probability mass functions (2) of HDMp(µ, λ) are generally not easy to calculate (except for p ∈ {0, 1, 2, 3}) whereas for P T Mp (µ, λ) are given explicitly by (12). Proposition 6 (ii) could be interesting in the following context of the Poisson-Tweedie regression model. Let Y be a count response variable and let x be an associated d × 1 vector of covariates with a vector β of unknown regression coefficients. We write Y ∼ PT p (µ(x; β); λ) to denote the Poisson-Tweedie regression model, which is also characterized by their two first moments: E(Y ) = µ(x; β) = µ and V arµ (Y ) = λVpP T (µ/λ) ' λVpHD (µ/λ),

(18)

Two Classes of Overdispersed Models

19

Table 4. Estimation of p in the Hinde-Dem´etrio class for two data sets [9].

[9, Table 5.1] [9, Table 5.2]

y 0.14 0.37

s2 0.16 0.42

s2 /y 1.14 1.14

p∗ 1.99 3.01

best model P T M3 HDM3

where µ(x; β) is a positive-valued function related to x and to β by a link function [14]. The maximum likelihood method can be used to estimate β and λ; however, when it is necessary, the last approximation in (18) must be considered only for large µ. Similarly, the Hinde-Dem´etrio regression model is defined of the same manner; see [10] for p = 3 with illustrations on data (simulation and real). Note that the mixed Poisson-inverse Gaussian regression model of Dean et al. [2] is not a particular case of this Poisson-Tweedie regression model. When the Poisson-Tweedie models P T Mp (µ, λ) or the Hinde-Dem´etrio models HDMp(µ, λ) are used (for homogeneous or regression data set), one of problems of statistical inference is the index parameter p of the adequate model. A profile estimate of p is recommended in general situation; see [4] for Poisson-Tweedie models. In HindeDem´etrio models, we can start by the moment estimate of p. Indeed, if y = (y1 , · · ·, yn ) is an n-independent identically distributed observation from HD p(µ, λ) such that the overdispersion condition s2 /y > 1 is satisfied, where y and s2 are, respectively, the sample mean and the sample variance from y. From (14) and when λ is fixed or known, we easily have by the moment method p∗ = ln[(s2 − y)/λ]/ ln[y/λ] = p∗(λ).

(19)

With respect to the unit variance function (1), we can take λ = 1 in (19) because one stays in the same EDM. In order to illustrate (19), we analyze two data sets given by [9]; one of which [9, Table 5.1] is revisited by many authors (e.g. [17]). The data of [9, Table 5.1] (resp. [9, Table 5.2] which is presented here in Table 1) correspond to the number of automobile insurance claims per policy in Germany over 1960 among n = 23589 (resp. in Central African Republic over 1984 among n = 10000). All these data show overdipersion as given in Table 4 with s2 /y = 1.14. These data was fitted by some overdispersed models compared to the Poisson (see Table 1), among others the negative binomial HDM2 = P T M2 , strict arcsine HDM3 and Poisson-inverse Gaussian P T M3 models. Table 4 presents this result for the Hinde-Dem´etrio class by using simply the estimation of p by (19) with λ = 1. For the data of [9, Table 5.2], we find here p∗ = 3.01 ' 3 and the best model was also HDM3 (see Table 1), which is the adequate model in the Hinde-Dem´etrio class. As for [9, Table 5.1], we obtain p∗ = 1.99 ' 2 and this corresponds to the negative binomial model HDM2 = P T M2 belonging both to the Hinde-Dem´etrio and the Poisson-Tweedie classes (see Proposition 6 (i)). So, we can rejet the fact that the best model to fit data of [9, Table 5.1] is in the Hinde-Dem´etrio class. As shown [9] or [17], the best model to fit data of [9, Table 5.1] is P T M3 of the Poisson-Tweedie class. Finally, inferential techniques are not yet as well developed routinely for these two

20

C.C. Kokonendji, C.G.B. Dem´etrio and S. Dossou-Gb´ete

classes of EDMs. But it is always interesting to handle simultaneous or separately these two classes, instead to use particular distributions.

Acknowledgments The first author is very gratefull to A. Guessab, to A. Hassairi and to the Mathematical Society of Tunisia.

References [1] D. B¨ohning, A note on a test for Poisson overdispersion, Biometrika, 81 (1994), pp. 418-419. [2] C. Dean, J. F. Lawless and G. E. Willmot, A mixed Poisson-inverse Gaussian regression model, Canadian J. Statist., 17 (1989), pp. 171-181. [3] J. Hinde and C. G. B. Dem´etrio, Overdispersion: Models and Estimation , ABE, S˜ao Paulo, 1998. [4] P. Hougaard, M-L. T. Lee and G. A. Whitmore, Analysis of overdispersed count data by mixtures of Poisson variables and Poisson processes, Biometrics, 53 (1997), pp. 1225-1238. [5] N. L. Johnson, S. Kotz and A. W. Kemp, Univariate Discrete Distributions, Second ed., John Wiley & Sons, New York, 1992. [6] B. Jørgensen, The Theory of Dispersion Models, Chapman & Hall, London, 1997. [7] A. Jourdan and C. C. Kokonendji, Surdispersion et mod`ele binomial n´egatif g´en´eralis´e, Rev. Statistique Appliqu´ee, L.3 (2002), pp. 73-86. [8] A. W. Kemp and C. D. Kemp, An alternative derivation of the Hermite distribution, Biometrika, 53 (1966), pp. 627-628. [9] C. C. Kokonendji and M. Khoudar, On strict arcsine distribution, Commun. Statist.Theory Meth., 33 (2004), pp. 993-1006. [10] C. C. Kokonendji and S. Marque, A strict arcsine regression model , (2004), Submitted for publication. [11] S. Kotz, N. Balakrishnan and N. L. Johnson, Continuous Multivariate Distributions, Vol.1: Models and Applications, Second ed., Wiley, New York, 2000. [12] G. Letac and M. Mora, Sur les fonctions-variance des familles exponentielles naturelles sur R, C.R. Acad. Sci. Paris, S´erie I, t. 302 (1986), pp. 551-554. [13]

, Natural real exponential families with cubic variance functions , Ann. Statist., 18 (1990), pp. 1-37.

Two Classes of Overdispersed Models

21

[14] P. McCullagh and J. A. Nelder, Generalized Linear Models, Second ed., Chapman & Hall, London, 1989. [15] M. C. K. Tweedie, An index which distinguishes between some important exponential families, In Statistics: Applications and new directions. Proceedings of the Indian Statistical Institute Golden Jubilee International Conference (eds. J.K. Ghosh and J. Roy), Indian Statistical Institute, Calcutta, 1984, pp. 579-604. [16] J. F. Walhin and J. Paris, A general family of overdispersed probability laws, Belgian Actuarial Bull., 2 (1) (2002), pp.1-8. [17] G. E. Willmot, The Poisson-inverse Gaussian distribution as an alternative to the negative binomial, Scandinavian Actuarial J., 2 (1987), pp. 113-127.

In: Proceedings of the Tunisian Mathematical Society... ISBN 1-60021-014-7 c 2007 Nova Science Publishers, Inc. Editor: K. Trim´eche and S. Zarati, pp. 23-35

Chapter 3

O N THE D EFINITION OF THE C URRENT ddcvΛT WHEN T IS A P OSITIVE P. S . H C URRENT AND v IS A P. S . H F UNCTION M.L. Ben Yattou∗ D´epartement de Math´ematiques Facult´e des Sciences de Bizerte, Universit´e 7 Novembre a` Carthage, 7021-Zarzouna, Bizerte, Tunisia

Abstract The definition of a current dd vΛT by means of a closed positive current T and a locally bounded p.s.h function v, following the idendity: ddc vΛT = ddc (vT ) leads to the MongeAmpere current [1] .The recent literrature [2] , [3] , [4] has considered the extension of this definition to non necessarly locally bounded functions v and to non necessarly closed currents. We are considering the definition of the current ddc vΛT when T is a positive p.s.h current and v is a p.s.h function having a nonempty polar set c

Keywords: sign-nonsingular matrix, LU-factorization, indicator polynomial AMS Subject Classification: 15A15, 15A09, 15A23

1.

Introduction

Our work develops from the polar subset S = [v = −∞] associated to the p.s.h function v defined on an open subset G of CN . The following situations are considered 1. S is relatively compact in G. 2. S is contained in a ρ\strongly convex obstacle in G. 3. S is contained in a closed submanifold of G. The most significant (but not the more general) statements are presented next. ∗

E-mail address: [email protected]

24

M.L. Ben Yattou

Proposition 1 Let S be a compact pluripolar subset which is the polar set of a p.s.h function v defined on a pseudo convex subset G of CN , and assume that the following conditions hold (a) v is of class C 1 on G\S. (b) the Hausdorff measure Λ2(q−1) (S) is zero, for some integer q ≥ 1. Then for any positive p.s.h current T of bidimension (q, q) defined on G, the current ddc vΛT is a well-defined p.s.h current on G. Proposition 2 Let v be a p.s.h function and ϕ be a non negative ρ\strongly admissible convex function defined on an open subset G of CN such that (a) S ⊂ [ϕ = 0] . (b) v is of class C 1 on G\S . (c) Λ2(q−1) (S) = 0 for some integer q ≥ 1 + ρ. Then for any positive p.s.h current T of bidimension (q, q) defined on G, the current ddc vΛT is a well-defined positive p.s.h current on G. Proposition 3 Let v be a p.s.h function and E be a closed submanifold of an open subset G of CN such that (a) S ⊂ E. (b) dimC E = q − 1; q ≥ 1. (c) v is of class C 1 on G\S . Then for any positive p.s.h current T of bidimension (q, q) defined on G, the current ddc vΛT is a well-defined positive p.s.h current on G.

2.

The Case of a Relatively Compact Polar Set

Let T be a positive p.s.h current of bidimension (q, q) and v be a p.s.h function defined on an open subset G of CN . Let {Tj }j≥0 be the usual smooth approximation of T on any relatively compact open subset of G. Definition 4 If the sequence {ddc vΛTj }j≥0 converges weakly to a given current, the limit is denoted by ddc vΛT . Clearly, the existence of such a current is a local problem. Also, it is easy to see that ddc vΛT ≥ 0 and ddc (ddc vΛT ) = ddc vΛddc T The right hand side current in the equality above, which is defined by the left hand side current, is positive.

On the Definition of the Current ddc vΛT

25

Definition 5 A locally normal current T such that ddc T is measurable is called a pluri\measurable current. Example 6 Any closed measurable current is pluri\measurable. Example 7 If P is a closed positive current defined on an open subset G, we can associate to P its potential U (see [4]). It is a negative current of bidimension (q + 1, q + 1) satisfying the equation ddc U = P + R where R is a smooth current on G. The smooth approximation {Uj }j≥0 of U is a decreasing sequence of negative currents. The current U is pluri\measurable on G. Proposition 8 For any pluri\measurable current U of bidimension (q + 1, q + 1) and for any p.s.h function v defined on an open subset G of CN such that v is L∞ loc on G, the current c dd vΛU is well-defined. Proof. Choose an element ϕ in Λq,q c (G). Then hddc vΛUj , ϕi = hv, ddc Uj Λϕi + 2 hv, dUj Λdc ϕi + hv, Uj Λddc ϕi . Then vddc Uj −→ vddc U, vΛdUj −→ vΛdU, vUj −→ vU. Indeed, these limits result from the fact that if T 0 is any measurable current and v is a p.s.h and locally bounded function in G , then vTj0 −→ vT 0 . Actually, with δ
0/support (ϕ) + B(0, δ) ⊂ G,  Z Z

0  1 1 v(z − ξ)ϕ(z − ξ)λ(ξ)dξ dT 0 (z) = (1)j + (2)j , vTj , ϕ = j j

where

(1)j = and

Z Z

 1 1 v(z − ξ)(ϕ(z − ξ) − ϕ(z))λ(ξ)dξ dT 0 (z) j j

(2)j =

Z Z

 1 v(z − ξ)ϕ(z)λ(ξ)dξ dT 0 (z). j

Notice that if z ∈ / support(ϕ) + 12 B(0, δ) then (1)j = 0 whenever j ≥ j0 . Since v is 0 p.s.h (2)j = hT , vj ϕi and vj (z) converges to v(z) for any z (j −→ ∞). Using the uniform continuity of ϕ, we derive 0 

0  vTj , ϕ − vj T 0 , ϕ ≤ η kvk

(L) ∞,L T for any fixed η
0 if j ≥ j1 ≥ j0 and L = support(ϕ) + B(0, δ). So that,



 lim vTj0 , ϕ − vj T 0 , ϕ = 0. But vj ϕ converges punctually to vϕ and

|(vj ϕ)(z)| ≤ kϕk∞ kvk∞,L 1support(ϕ) (z)

26

M.L. Ben Yattou

if j ≥ j0 . Since the last function is integrable with respect to d kT 0 k, we get,Dby the DomiE nated Convergence Theorem, that hvj T 0 , ϕi converges to hvT 0 , ϕi . Finally, vTj0 , ϕ −→ hvT 0 , ϕi . This yields that

hvddc U, ϕi + 2 hdc (vdU ), ϕi + hddc (vU ), ϕi exists and gives a sense to limj hddc vΛUj , ϕi . From now on, P stands for the current ddc T and U stands for the potential associated to P. Assume that S is relatively compact in G and v ∈ L∞ loc (G\S). Under such conditions v is called admissible. First, we consider the following reduction step: there exists a smooth p.s.h exhaustion function χ : G → [−1 0[ on G. Secondly, choose two real numbers C1 , C20 ∈ [−1, 0[ such that C20
C1
C = supω χ, where ω is an open subset of G satisfying S ⊂ ω ⊂⊂ G. Let us fix a positive number ε
3 and define C2 by putting C20 = 4εC2 . Observe that C2 ∈ [−1 0[ and C C1 4εC2 C2 . Define the open subsets ωj of G by putting ωj = [χ Cj ] . Then ω ⊂⊂ ω1 ⊂⊂ ω2 ⊂⊂ G. Since v is locally bounded on G\S, we can find two real numbers a
0 and b such that −3 av + b −1 on a neighborhood V of ∂ω1 ∪ ∂ω2 . Also, Sav+b = Sv = S, where the dependence of a p.s.h function and its polar set is put in evidence. Let v1 denote the function av + b. Lemma 9 There are two real numbers α
0 and β such that αχ + β ≤ v on a neighborhood V1 of ∂ω1 and αχ + β ≥ v on a neighborhood V2 of ∂ω2 .These neighborhoods are chosen to be relatively compact in G. A similar statement can be found in [5, p. 582] with some additional continuity condition on ev . Proof. For every z2 ∈ ∂ω2 , there exists α(z2 )
0 such that v1 (z2 ) = α(z2 )χ(z2 ). By the semicontinuity of v1 there exists a neighbohood G(z2 ) of z2 , included in V , in which v1 (z) α(z2 )χ(z) + ε. A covering argument implies the existence of a scalar α2
0 such thatv1 (z) α2 χ(z)+ε for all z ∈ V2 , where V2 is a neighbohood of ∂ω2 contained in V. On ∂ω1 , we have χ = C1 . Choose a0 0 so that a0 C1 = 4ε. Then there exists a neighbohood V1 of ∂ω1 , V1 ⊂⊂ V such that a0 χ(z)
2ε for all z ∈ V1 . Consider α1 = α2 + a0 . If α1 is not positive we should have a0 ≤ −α2 ⇒: a0 C1 = 4ε ≥ −α2 C1 ⇒ α2 ≤

4ε . −C1

Since v1 (z2 ) = α(z2 )χ(z2 )

−1, ∀z2 ∈ ∂ω2 ⇔ α(z2 )C2

we get 1 −C2

α2 ≤

4ε ⇒ C1
4εC2 −C1

which is a contradiction with the initial inequality : C1

4εC2 = C20 .

−1

On the Definition of the Current ddc vΛT Thus α1
0. But v1
α1 χ − ε on V1 since α1 χ On V1 , we can write :

27

0 and v1
−3
−ε on V ⊃ V1 .

v1
α1 χ − ε = (α2 + a0 )χ − ε = α2 χ + a0 χ − ε ≥ α2 χ + 2 −  = α2 χ + . In summary, v≥

ε−b α2 χ+ a a

on V1

and

α2 ε−b χ+ on V2 . a a α2 ε−b We choose α = and β = . a a Now, fix a smooth function Ψ : 0 ≤ Ψ ≤ 1, with a compact support in G, such that Ψ = 1 on a neighborhood of ω2 and v≤

ω 2 ∩ {supportdΨ ∪ supportdc Ψ ∪ supportddc Ψ} = ∅. Hence there exists an open subset ω3 ⊂⊂ G such that ω2 ∩ ω3 = ∅ and supportdΨ ∪ supportdc Ψ ∪ supportddc Ψ ⊂ ω3 . Define the function ve on G by v − β on ω1 , by max(v − β, αχ) on ω2 \ω1 , and by αχ on G\ω2 . Then ve is p.s.h on G and is smooth outside ω2 (in particular in ω3 ). If {Uj }j≥0 is a smooth approximation of the potential U, associated to a positive closed current P of bidimension (q, q), on a neighborhood of ω2 ∪ ω3 , then Z

c  q−1 dd veΛUj Λβ , Ψ = veΛddc Uj Λβ q−1 ΛΨ Z Z q−1 c + 2 veΛdUj Λβ Λd Ψ + veUj Λβ q−1 Λddc Ψ = (1) + (2) + (3).

The integrals (2) and (3) are uniformly bounded below since, on the supports of dc Ψ and ddc Ψ, ve = αχ is smooth. The integral Z (1) = veddc Uj Λβ q−1 ΛΨ Z Z q−1 = vePj Λβ ΛΨ + veRj ΛΨΛβ q−1 = (4) + (5). Observe that (5) is uniformly bounded below in j, since Rj −→ R and R is smooth. Now, it follows from Z    0 = d dc veΛTj Λβ q−1 ΛΨ Z Z Z c q−1 c q−1 = dd (e v Ψ)ΛTj Λβ − 2 d (e v Ψ)ΛdTj Λβ + veΨΛddc Tj Λβ q−1 = (6) + (7) + (8)

28

M.L. Ben Yattou

that 0 = (6) + (8) + 2

Z

  d dc (e v Ψ)ΛTj Λβ q−1 − 2

Z

ddc (e v Ψ)ΛTj Λβ q−1

Z = (6) + (8) − 2 ddc (e v Ψ)ΛTj Λβ q−1 Z Z Z = − ddc veΛΨΛTj Λβ q−1 − veddc ΨΛTj Λβ q−1 − 2 de v Λdc ΨΛTj Λβ q−1 + (8).

So that, if P = ddc T, where T is a positive p.s.h current then Z (4) = (8) = veΨddc Tj Λβ q−1 Z Z Z c q−1 c q−1 = vedd ΨΛTj Λβ + 2 de v Λd ΨΛTj Λβ + ddc veΛΨΛTj Λβ q−1 = (9) + (10) + (11).

The integrals (9)and (10) are uniformly bounded below R in j because of the conditions on the supports.R Since Tj ≥ 0 and ve is p.s.h, the integral ddc veΛΨΛTj Λβ q−1 is positive. Consequently, ve ddc Uj Λβ q−1 ΛΨ is uniformly bounded below in j, so that there exists  M
0 such that −ddc veΛUj Λβ q−1 , Ψ ≤ M for all j. Z Z Z c q−1 c q−1 −dd veΛUj Λβ ≤ −ddc veΛUj Λβ q−1 ΛΨ, −dd vΛUj Λβ = ω

ω

it follows that ω −ddc vΛUj Λβ q−1 ≤ M for all j, equivalently, kddc vΛUj k (ω) ≤ M for all j. Therefore, the decreasing sequence of currents {ddc vΛUj } on ω, is bounded in mass: it converges in the mass topology to the current ddc vΛU/ω . Thus, we showed (see also [6]) R

Proposition 10 On an open subset G of CN on which a smooth p.s.h exhaustion function χ : G → [−1 0[ exists, we consider a p.s.h admissible function v. If U is the potential associated to the current ddc T, where T is a positive p.s.h current of bidimension (q, q) defined on G, then the current ddc vΛU is well-defined on G. Next, our purpose is to extend the result of the proposition above to the very p.s.h current T. A positive p.s.h current T of bidimension (q, q) and an admissible p.s.h function v are defined on an open subset G of CN on which a smooth, p.s.h and exhaustion function χ : G −→ [−1 0[ exists. The function ve was defined previously. We have Z

c  dd veΛTj Λβ q−1 , Ψ = veddc Tj Λβ q−1 ΛΨ Z Z + 2 vedTj Λdc ΨΛβ q−1 + veTj Λddc ΨΛβ q−1 = (11) + (12) + (13)

Notice that (12) and (13) stay bounded as j → +∞ . If we substract to ve a positive constant depending of ω2 only we can suppose ve 0 on G. The identity ddc v = ddc ve is valid on

On the Definition of the Current ddc vΛT

29

ω, yet. Then (11) is non positive. We deduce the existence of a constant M
0 such that kddc vΛTj k (ω) ≤ M for all j. If θ1 and θ2 are two eventual accumulation points of the sequence {ddc vΛTj }j≥0 , in the mass topology restricted to ω, then ,since ddc θk ≥ 0 (k = 0, 1), θ1 and θ2 are C\flat currents in ω [7] . We consider one of the following conditions. (C1 ) T is plurimeasurable in G\Sv . (C2 ) v is of class C 1 on G\Sv . Condition (C1 ) together with Proposition 4 implies that θ1 = θ2 on G\Sv . Also, Condition (C2 ) implies that θ1 = θ2 on G\Sv . Actually, following the proof of Proposition 4, the only difficulty is the definition of the current vdc T. But vdc T = −T Λdc v + dc (vT ); so things are clear. With one of these conditions, the current µ = θ1 −θ2 of bidimension (q −1, q −1) is C\flat and has its support is in Sv . If the Hausdorff measure Λ2(q−1) (Sv ) = 0, by the Theorem of the Measure of the Support (see[7]), we conclude that θ1 = θ2 on ω; so that (ddc vΛTj )j≥0 has ddc vΛT as a limit in the mass topology. Proposition 11 We consider an admissible p.s.h function v on a pseudoconvex domain G of CN such that Sv is compact and Λ2(q−1) (Sv ) = 0 for an integer q ≥ 1. We assume that it is given a positive p.s.h current T of bidimension (q, q) in G and that one of the following conditions is satisfied. (C1 ) T is plurimeasurable in G\Sv . (C2 ) v is of class C 1 on G\Sv . Then the current ddc vΛT is a well-defined positive p.s.h current in G. Proof. We can exhaust G by a sequence of smooth, strictly pseudo convex domains. Each one of these domains has a smooth p.s.h and exhaustion function with values in [−1, 0[ (see [8]). Finally, one of these domains contains Sv .

3.

The Case of a non Relatively Compact Polar Set

Definition 12 A continuous real-valued and non negative function ϕ defined on an open subset G of CN is said to be ρ\strongly convex if, on a neighborhood ofPany z ∈ G, one can find a real continuous differential form of bidegree (1, 1): ω = i j,k ωjk dzj Λdzk (i2 = −1) such that the hermitian matrix (ωjk ) has at least N − ρ + 1 positive eigenvalues and such that the current i∂∂ϕ − ω is positive. In [9], we proved the following proposition. Proposition 13 Let ϕ be a ρ\strongly convex function defined on an open subset G and a p.s.h current T of bidimension (q, q) defined on G\ [ϕ = 0] . Then the following statements hold. (1) If T is negative and q ≥ ρ then T has a locally finite mass along [ϕ = 0] .

30

M.L. Ben Yattou

(2) If T is positive and q ≥ ρ + 1 then T and ddc T have locally finite masses along [ϕ = 0]. (3) If T is positive and if ddc T has an a priori locally finite mass along [ϕ = 0] then T has a locally finite mass along [ϕ = 0] if q ≥ ρ. The later remains true if, in particular, T ≥ 0 and T is pluriharmonic on G\ [ϕ = 0] . For technical reasons we only consider ρ\strongly convex functions of the following type. Definition 14 Let us consider a basis u1 , ..., uN of the complex vector space of continuous differential forms of bidegree (1, 0) defined on an open subset G of CN . A real and non negative continuous p.s.h function ϕ on G such that there exists a real number η
0 satisfying to N X uj Λuj ddc ϕ ≥ i ϕη j=ρ

on G is called an admissible ρ\strongly convex function on G. Remark 15 On a neighborhood G0 of [ϕ = 0] the current ddc ϕ will satisfy the inequality ddc ϕ ≥

N X

iuj Λuj = ω,

j=ρ

so that ϕ is ρ\strongly convex on G0 . C.R manifolds can be considered as locally defined by admissible ρ\strongly convex functions (see [10] , [11]). A particular interesting property is the following: Proposition 16 (see [11]) Let ϕ be an admissible ρ\strongly convex function defined on an open subset G of CN and T 0 be a closed positive current of bidimension (q, q) defined on G such that q ≥ ρ. Then T 0 has no mass on [ϕ = 0] . Proof. If ζ ∈ Λq−1,q−1 (G) is strongly positive on G then for any positive integer n we have c   N X
1[ϕ=0] ddc ϕΛT 0 , ζ ≥ 1[ϕ=0] niuj Λuj ΛT 0 , ζ  , j=ρ

because there is a neighborhood of [ϕ = 0], where ddc ϕ ≥ n

N X

iuj Λuj .

j=ρ

Therefore 

0 ≤ 1[ϕ=0]

N X j=ρ



iuj Λuj ΛT 0 , ζ  ≤


1 1[ϕ=0] ddc ϕΛT 0 , ζ . n

On the Definition of the Current ddc vΛT

31

Since q ≥ ρ, we get 1[ϕ=0] T 0 = 0. Consider now a positive p.s.h current T of bidimension (q, q) and a p.s.h function v defined on an open subset G of CN . Also, consider an admissible ρ\strongly convex function ϕ on G such that Sv ⊂ [ϕ = 0] and suppose that v ∈ L∞ loc (G\S v ). As usual, by U we mean the potential associated to the current P = ddc T .If z0 ∈ [ϕ = 0] we can choose a small neighborhood G0 of z0 in G and we can find a positive constant M
0 satisfying kddc vΛUj k (G0 \ [ϕ = 0]) ≤ M,

for all j ≥ j0 .

(∗)

The inequality (∗) is a straight consequence of an inequality obtained in the proof of Proposition 3.2. Actually, we can control the mass kddc vΛUj k (G0 \ [ϕ = 0]) by the mass of the current ddc vΛUj on a relatively compact neighborhood V of the support of a function g ∈ Cc∞ (G\ [ϕ = 0]), which does not depends on j ≥ j0 . Since V as well as its closure are contained in G\ [ϕ = 0] , if we take a function Ψ ∈ Cc∞ (G\ [ϕ = 0]) such that 0 ≤ Ψ ≤ 1, Ψ = 1 on V, it follows that : Z
c q−1 dd vΛUj Λβ , Ψ = vddc Uj ΛΨΛβ q−1 Z Z + +2 vdUj Λdc ΨΛβ q−1 + vUj Λddc ΨΛβ q−1 = (1) + (2) + (3).

Since support(Ψ) ∪ support(dc Ψ) ∪ support(ddc Ψ) ⊂ G\S v , taking into consideration of the facts that U is plurimeasurable and v ∈ L∞ loc (G\Sv ), we obtain that (1), (2) and (3) stay bounded in j ≥ j0 ;so that (∗) holds. Also, T 0 = ddc v is a positive closed current of bidimension (N − 1, N − 1) on G, with N − 1 ≥ q − 1 ≥ ρ. According to Proposition 5, ddc v has no mass on ϕ = 0, that is, 1[ϕ=0] ddc v = 0. So that (∗) becomes kddc vΛUj k (G0 ) ≤ M, for all j ≥ j0 (∗∗) and {ddc vΛUj }j is a decreasing sequence of currents bounded in mass on G0 . It converges in the mass topology to the current ddc vΛU\G0 . We derive the next proposition. Proposition 17 Let ϕ be an admissible ρ\strongly convex function, v be a p.s.h function, and T be a positive p.s.h current T of bidimension (q, q) defined on an open subset G of CN , such that Sv ⊂ [ϕ = 0], v ∈ L∞ loc (G\Sv ), and q ≥ ρ + 1. Then the potential U, associated to the current ddc T, defines a negative p.s.h current ddc vΛU. Now, T is assumed to be a positive p.r.h current of bidimension (q, q). Let v be a p.s.h function and ϕ be an admissible ρ\strongly convex function defined on an open subset 0 G of CN such that Sv ⊂ [ϕ = 0], v ∈ L∞ loc (G\Sv ) and q ≥ ρ + 1. The current T = −T is negative, p.r.h, and of bidimension (q, q). By Proposition 3.2 we can find a small neighborhood G0 of z0 ∈ [ϕ = 0] and a positive constant M such that

c

dd vΛTj0 (G0 \ [ϕ = 0]) ≤ M for all j ≥ j0 .

32

M.L. Ben Yattou But ϕ is admissible. Therefore

c

dd vΛTj0 (G0 ) ≤ M

for all j ≥ j0 .

By a previous argument, if θ1 and θ2 are two eventual accumulation points of the sequence{ ddc vΛTj0 }j≥j0 on G0 , then µ = θ1 − θ2 is C\flat of bidimension (q − 1, q − 1). Put (C1 ) T is plurimeasurable on G\S v . (C2 ) v is of class C1 on G\Sv . If one of the conditions above is satisfied, then support(µ) ⊂ Sv and we have the next proposition. Proposition 18 Let ϕ be an admissible ρ\strongly convex function , v be a p.s.h function, T be a positive p.r.h current of bidimension (q, q) defined on an open subset of CN such c that Sv ⊂ [ϕ = 0], v ∈ L∞ loc (G\S v ), q ≥ ρ + 1, and Λ2(q−1) (Sv ) = 0. Then dd vΛT is a well-defined p.r.h current on G if one of the conditions (C1 ) or (C2 ) is satisfied. Finally, let T be a positive p.s.h current of bidimension (q, q), v be a p.s.h function, and ϕ be an admissible ρ\ strongly convex function defined on an open subset G of CN such that Sv ⊂ [ϕ = 0], v ∈ L∞ loc (G\S v ), q ≥ ρ + 1, Λ2(q−1) (Sv ) = 0, and condition (C1 ) (or (C2 )) holds. If we choose a likely ball neighborhood G0 of z0 ∈ [ϕ = 0] , then the potential U associated to ddc T satisfies in G0 the equality ddc U = ddc T + R, where R is smooth. Since ∂R = 0, ∂R = 0, there exists a smooth current Q of bidimension (q, q)/ R = ddc Q on G0 .By reducing eventually G0 we may assume that Q ≥ 0 on G0 . Then Te = T − U + Q is a positive p.r.h current of bidimension (q, q) on G0 . So ddc vΛTe is well-defined. But then ddc vΛT = ddc vΛTe + ddc vΛU − ddc vΛQ

exists. Finally, we get the next proposition.

Proposition 19 Let ϕ be an admissible ρ\strongly convex function , T be a positive p.s.h current of bidimension (q, q), and v be a p.s.h function such that Sv ⊂ [ϕ = 0], v ∈ L∞ loc (G\S v ), q ≥ ρ + 1, Λ2(q−1) (S v ) = 0, and condition (C1 ) (or (C2 )) holds. Then the current ddc vΛT is a well-defined positive p.s.h current on G.

4.

The Case of a Polar Set Contained in a Closed Submanifold

As usual T and v are a p.s.h positive current of bidimension (q, q) and a p.s.h function defined on an open subset G of CN , respectively. We consider the following hypothesis on the polar set Sv : Sv is contained in a complex submanifold E of G of dimC E = k. If z 0 ∈ Sv then there exists a complex coordinates system (z1 , ...., zN ) centered at z 0 and defined in a polydisc V such that E ∩ V = {(z1 , ....., zN ) ∈ V : zk+1 = · · · = zN = 0}.

On the Definition of the Current ddc vΛT

33

If ϕ : V → R is the function ϕ(z1 , ..., zN ) = |zk+1 |2 + ... + |zN |2 , then ϕ is a smooth, p.s.h, (k + 1)\strongly convex function on V. If q − 1 ≥ k + 1, then Λ2(q−1) (Sv ) = 0. On the other hand, 1V \[ϕ=0] ddc v has a closed continuation to a current defined on V (where we use a theorem in [11]). This current is ddc v, by the Theorem of the Measure of the Support (we notice that N − 1 ≥ q − 1
k). As a consequence, ddc v has no mass on [ϕ = 0]; so results of the section above apply : ddc vΛT is well-defined if v ∈ L∞ loc (V \Sv ) and one of the conditions (C1 ) and (C2 ) is satisfied. Our objective is to prove the existence of ddc vΛT if only q − 1 = k. From now on, we assume that q − 1 = k. If q = N, T is defined by a p.s.h positive function u then u is locally bounded on G and the current ddc vΛu is clearly defined. If q N then N − 1
q − 1 = k ⇒ Λ2(N −1) ([ϕ = 0]) = 0. Once more ddc v will not charge [ϕ = 0] . We suppose v ∈ L∞ loc (G\Sv ) and we introduce the potential U associated to ddc T. We refer to the coordinates system (z1,..., zN ) in V as (z 0 , z 00 ) with z0 = (z1 , ...., zk ) and z 00 = (zk+1 , ...., zN ). We can associate [12] to this system another one, (namely, (w1 , ...., wN )) defined in V and centered at z 0 such that for any set I of k increasing indices 1 ≤ i1

i2

...

ik ≤ N, (wi1 , ..., wik , z 00 )

is a coordinates system in V centered at z 0 . To each set I we associate the smooth form i WI = ∂∂ k(wi1 , ..., wik )k2 . 2 We choose positive numbers r, r0 δ, δ 0 such that 0

r

V 0 = {(wi1 , ..., wik , z 00 ) : k(wi1 , ..., wik )k

r0 ; 0

δ 0 , z 00

δ

δ 0 and

r0 } ⊂⊂ V.

Then we select two functions, that is, h(wi1 , ..., wik ) ≥ 0, smooth with support in {(wi1 , ..., wik )/ kwi1 , ..., wik k

δ 0 }.

and ϕ(z e 00 ) ≥ 0, smooth, with support in {z 00 / kz 00 k r0 }, equal to 1 in {z 00 / kz 00 k With the usual notations we have Z Z Z ddc vΛϕhW e Ik ΛUj = vddc Uj ΛϕhW e Ik + +2 vdϕΛd e c Uj ΛhWIk Z + vddc ϕΛU e j ΛhWIk = (1) + (2) + (3).

r}.

Here, U is plurimeasurable and hdϕ e with hddc ϕ e have their supports in V 0 \ [ϕ = 0], where v is locally bounded. It results that (2) and (3) stay bounded as j → ∞. Observe that Z Z (1) =

vddc Tj ΛϕhW e Ik +

k vRj ΛϕΛhW e I = (4) + (5)

34

M.L. Ben Yattou

and that (5) stays bounded when j → ∞. Also, Z Z Z c k c k (4) = Tj dd vΛϕhW e I + vTj Λdd ϕΛhW e Tj ΛdϕΛd e c vΛhWIk I +2 = (6) + (7) + (8)

Notice that (4) ≥ (7) + (8) because Tj ≥ 0. If one of the conditions (C1 ) or (C2 ) is satisfied then (7) and (8) stay bounded in j so that the sequence {ddc vΛUj ΛhϕW e Ik } is decreasing and bounded in the mass topology. It then converges, in the mass topology, to a current ddc vΛU ΛhϕW e Ik . By the arbitrary choice of h, ϕ e and the set I, we deduce the c existence of the current dd vΛU. This leads to the following proposition.

Proposition 20 Let T be a p.s.h, positive, of bidimension (q, q) current and v be a p.s.h function and assume that both of them are defined on an open subset G of CN . Assume that Sv ⊂ E, a closed complex submanifold of G of dimC E = q − 1, v ∈ L∞ loc (G\Sv ), and one of the conditions (C1 ) or (C2 ) is satisfied. Then, if U is the potential associated to ddc T, the current ddc vΛU is well-defined. Now, let T be a p.r.h current. We have Z Z c k k dd vΛTj ΛϕhW e I = vddc Tj ΛϕhΛW e I Z Z c k + 2 vdϕΛd e Tj ΛhWI + vddc ϕΛT e j ΛhWIk

(∗ ∗ ∗)

The first right hand side integral is equal to 0 and the two others converge as j → ∞, if one of the conditions (C1 ) or (C2 ) is satisfied. In this situation, the sequence {ddc vΛTj }j is bounded in the mass topology. Set θ1 and θ2 two eventual accumulation points of this sequence. µ = θ1 − θ2 is a C\flat current of bidimension (q − 1, q − 1), with support in [ϕ = 0] = E ∩ V 0 which is a closed submanifold of dimC = q − 1. It exists (see [7]) a C\flat current K of bidimension (q − 1, q − 1) such that i∗ K = µ if i : V 0 ∩ E → V 0 is the natural inclusion. By (∗ ∗ ∗), we get Z Z 0 = µΛϕhW e Ik = K.hWIk . E∩V 0

Hence K = 0 and so is µ. Thus {ddc vΛTj }j has a limit ddc vΛT. Consequently, we established the next result.

Proposition 21 If T is a positive p.r.h current of bidimension (q, q) and v is a p.s.h function defined on an open subset G of CN such that Sv ⊂ E, a closed complex submanifold of c dimC = q − 1, v ∈ L∞ loc (G\Sv ), and (C1 ) or (C2 ) is satisfied. Then dd vΛT is a welldefined current on G. Finally, let T be a positive p.s.h current of bidimension (q, q) and v be a p.s.h function defined on an open subset G of CN such that Sv ⊂ E, a closed complex submanifold of G of dimC = q − 1, v ∈ L∞ loc (G\S v ), and (C1 ) or (C2 ) is satisfied. U being always the c potential associated to dd T, locally :ddc U = ddc T + R and R = ddc Q with Q a smooth

On the Definition of the Current ddc vΛT

35

current of bidimension (q, q) which is assumed to be positive. Te = T − U + Q is a current satisfying the hypothesis of the previous developpement, so that ddc vΛTeexists. But then ddc vΛT = ddc vΛTe + ddc vΛU − ddc vΛQ

exists too. We end with the following theorem/

Theorem 22 Let T be a positive p.s.h current of bidimension (q, q) and v be a p.s.h function v defined on an open subset G of CN such that (1) Sv ⊂ E, a closed complex submanifold of G of dimC E = q − 1, (2) v ∈ L∞ loc (G\Sv ) (3) (C1 ) or (C2 ) is satisfied. Then the current ddc vΛT is a well-defined positive p.s.h current on G. Remark 23 Actually, we may reduce conditions (2) and (3) to (2)0 v ∈ L∞ loc (G\E) (3)0 (C10 ) or (C20 ) is satisfied, where (C10 ) means T is plurimeasurable on G\E and (C20 ) means v is of class C1 on G\E.

References [1] E.Bedford and B.A.Taylor: The Dirichlet problem for a complex Monge Ampere equation. Invent.Math.1976.N0 37 p:1/44. [2] J.P.Demailly: Monge Ampere operator, Lelong numbers and intersection theory.Complex analysis and geometry. V.Ancona, A.Silva. CIRM. Univ.de Trento (1991). [3] J.E.Fornaess, N.Sibony: Oka’s Math.Ann.(1995).p:399/419.

inequality

for

currents

and

applications.

[4] H.B.Messaoud: Operateur de Monge Amp`ere,tranchage et extension des courants positifs f´erm´es. Th´ese.(1996).Facult´e des Sciences de Tunis. [5] A.Zeriahi: Pluricomplex Green functions and the Dirichlet problem. Universit´e Paul Sabatier. Novembre 1996. [6] I.Feki: Operateur de Monge Amp`ere;prolongement et controle de masse d’un courant positif ferm´e par ses tranches. Th´ese. Facult´e des Sciences de Tunis. (1998). [7] G.Bassanelli: A cut off theorem for p.s.h currents. Forum Math. 1(1993). [8] N.Sibony: Some aspects of weakly pseudoconvex domains. Universit´e de Paris sud. pp. 90-32. [9] M.L.Ben Yattou: Prolongement de courants p.s.h a` travers des obstacles non n´ecessairement analytiques compl´exes. Revue de la Facult´e des Sciences de Bizerte. N0 2.(2003).

In: Proceedings of the Tunisian Mathematical Society... ISBN 1-60021-014-7 c 2007 Nova Science Publishers, Inc. Editor: K. Triméche and S. Zarati, pp. 37-49

Chapter 4

C ERTAINES R EMARQUES SUR L’A LGÈBRE DES O PÉRATEURS D IFFÉRENTIELS I NVARIANTS POUR LA R EPRÉSENTATION M ONOMIALE D ’ UN G ROUPE DE L IE N ILPOTENT Hidenori Fujiwara ∗ Faculté de Science et Technologie pour l’Humanité, Université de Kinki, Iizuka 820-8555, Japon

Résumé Soient G un groupe de Lie réel nilpotent connexe et simplement connexe, H un sous-groupe fermé connexe de G et χ un caractère unitaire de H. Soit Dτ (G/H) l’algèbre des opérateurs différentiels G-invariants sur le fibré de base G/H associé aux données (H,χ). Nous donnons dans Dτ (G/H) un système d’éléments de CorwinGreenleaf et montrons que la représentation monomiale ind G H χ est à multiplicités finies si et seulement si Dτ (G/H) est algébrique sur ce système.

Keywords: Methode des orbites, Représentation monomiale, Opérateurs différentiels. AMS Subject Classifications: 22E27, 43A85.

1.

Introduction et Notations

Il y a bien des années que la méthode des orbites a été lancée par Kirillov [22] (cf. aussi [6], [28]). Cette méthode s’est révélée primordiale pour la théorie des représentations unitaires d’un groupe de Lie résoluble. On s’intéressait d’abord aux polarisations, aux représentations monomiales correspondantes et y entassait des résultats fascinants. Ensuite, c’était des travaux de Benoist, de Corwin-Greenleaf et de Grélaud qui faisaient une bonne base de départ pour étudier des représentations monomiales plus générales. Soit toujours G = exp g un groupe de Lie réel nilpotent connexe et simplement connexe d’algèbre de Lie g. Etant donnés un sous-groupe fermé connexe H = exp h d’algèbre ∗ E-mail address: [email protected]

38

Hidenori Fujiwara

de Lie h et son caractère unitaire χ, on considère la représentation monomiale τ = indG Hχ de G. Précisons notre façon de l’induction. Soit K(G,χ) l’espace des fonctions (aux valeurs complexes) sur G continues à support compact modulo H, et vérifiant la condition de covariance (1) ψ(gh) = χ−1 (h)ψ(g) (g ∈ G,h ∈ H). La norme kψk sur K(G,χ) définie par kψk =

Z

2

|ψ(g)| dg˙

!1/2

,

G/H

dg˙ désignant une mesure invariante fixée sur l’espace homogène G/H, est G-invariante et ainsi G agit dans K(G,χ) de façon isométrique par translation à gauche. Nous obtenons la représentation unitaire τ = indG H χ dans le complété Hτ de K(G,χ). En premier lieu on sait la désintégration centrale canonique de τ : Z ⊕ m(π)πdµ(π), τ' ˆ G

ˆ indiquant le dual unitaire de G, i.e. l’ensemble des classes d’équivalence des représentaG tions unitaires irréductibles de G. On décrit cette formule en termes de la méthode des orbites (cf. [5], [21], [23]). Soit g∗ l’espace vectoriel dual de g. Pour ` ∈ g∗ on définit la forme bilinéaire B` sur g × g par B` (X,Y ) = `([X,Y ]) dont le radical sera noté g(`). On √ voit if (X) (∀ X ∈ h,i = −1) d’abord que le caractère χ s’écrit sous la forme χ(exp X) = e pour une certaine forme linéaire f ∈ g∗ telle que f ([h,h]) = {0}. Introduisons l’espace affine Γτ = f + h⊥ de g∗, où h⊥ = {` ∈ g∗ ; `(h) = {0}}. ˆ d’une mesure finie Alors la mesure µ est l’image par l’application de Kirillov g∗ → G équivalente à la mesure de Lebesgue sur Γτ , et la multiplicité m(π) est égale au nombre des H-orbites contenues dans Ω(π) ∩ Γτ , Ω(π) désignant l’orbite coadjointe de G associée à ˆ (cf. [6], [22], [28]); on identifie parfois la classe d’équivalence avec sa représentante. π∈G On se trouve dans l’alternative suivante: soit il existe une borne uniforme des multiplicités m(π) pour µ-presque toutes π soit m(π) = ∞ pour µ-presque toutes π. Conformément à ces deux éventualités, nous disons que τ est à multiplicités soit finies soit infinies. En second lieu soit Dτ (G/H) l’algèbre des opérateurs différentiels G-invariants sur le fibré de base G/H associé aux données (H,χ). Plus en détail, notons C ∞ (G,τ ) l’espace des fonctions C ∞ sur G qui vérifient la relation de covariance (1). Soit Diff(G,τ ) l’algèbre des opérateurs différentiels qui sont C ∞ et qui laissent C ∞ (G,τ ) stable. Notre objet à étudier Dτ (G/H) se constitue des restrictions D|C ∞ (G,τ ) de D ∈ Diff(G,τ ) commutant avec translation à gauche de G dans C ∞ (G,τ ). Décrivant d’abord Dτ (G/H) en termes de l’algèbre enveloppante U (g) de gC (cf. [7]). Pour A ∈ U (g), on note R(A) son action à droite. On définit le sous-espace vectoriel aτ de U (g) engendré par Y + if (Y ) (Y ∈ h), l’idéal à gauche U (g)aτ de U (g) engendré par aτ et U (g,τ ) l’ensemble des A ∈ U (g) tels que R(A) laisse C ∞ (G,τ ) stable. Alors il se trouve que U (g,τ ) = {A ∈ U (g); [Y,A] ∈ U (g)aτ ,∀ Y ∈ h}

Opérateurs Différentiels

39

et que l’application A 7→ R(A)|C ∞ (G,τ ) nous fournit un homomorphisme d’algèbres de U (g,τ ) sur Dτ (G/H) avec le noyau U (g)aτ . En somme, Dτ (G/H) ∼ = U (g,τ )/U (g)aτ . Corwin et Greenleaf se sont proposé une question suivante (voir aussi [9], [11], [12], [13], [29] dans un contexte général): quand est-ce que Dτ (G/H) est commutative? La commutativité de Dτ (G/H) est-elle équivalente à la finitude des multiplicités m(π) dans la désintégration centrale canonique de τ ? Leur premier résultat dit: Théorème 1 ([7]). Si τ est à multiplicités finies, Dτ (G/H) est commutative. En examinant de près la démonstration du théorème 1 et bien des exemples, ils ont posé la conjecture, connue sous le nom de la conjecture polynomiale: lorsque τ est à multiplicités finies, l’algèbre Dτ (G/H) est isomorphe à l’algèbre C[Γτ ]H des fonctions polynomiales H-invariantes sur l’espace affine Γτ . Peu après ils y ont affirmativement apporté une réponse partielle. Supposons (i) τ est à multiplicités finies; (ii) il existe une polarisation b commune pour µ-presque toutes ` ∈ Γτ telle que h normalise b. Sous ces conditions, dont la deuxième est assez gênante, ils ont montré le: Théorème 2 ([8]) . Sous les hypothèses (i) et (ii), l’algèbre Dτ (G/H) est isomorphe à C[Γτ ]H . Baklouti [1] a redémontré le théorème 2 comme une application de ses résultats sur des opérateurs d’entrelacement concrets entre τ et sa désintégration. Nous nous sommes proposé dans [15] d’étudier les deux théorèmes, la question et la conjecture dus à CorwinGreenleaf par une méthode toute différente de la leur. Nos raisonnements se basent sur la formule de Plancherel pour τ , et suivent ceux de la seconde moitié [3] de la thèse de Benoist. Ces arguments nous ont permis d’établir le: Théorème 3 ([18]). L’algèbre Dτ (G/H) est commutative si et seulement si τ est à multiplicités finies. Quant à la conjecture polynomiale, nous l’avons établie dans trois cas particuliers ([17]): (1) il existe une polarisation b commune pour µ-presque toutes ` ∈ Γτ ; (2) dim G · ` ≤ 2 pour ` ∈ Γτ générique; (3) dim g + dim g(`) − 2 ≤ 2 dim h pour ` ∈ Γτ générique. Le cas (1), qui se tient en particulier lorsque h est un idéal de g, est aussi établi par Baklouti et Ludwig [2]. Dans cette note nous allons expliquer une methode vers la conjecture polynomiale, en donner quelques exemples et prouver une propriété qui sera peut-être utile pour frayer un chemin dans notre ligne de recherches pour attaquer la conjecture polynomiale. −∞ respectivement l’esPour une représentation unitaire ρ de G, on note Hρ ,H∞ ρ et Hρ ∞ ±∞ pace de Hilbert de ρ, l’espace des vecteurs C de ρ et l’antidual de H∞ ρ . Pour a ∈ Hρ et b ∈ H∓∞ ρ , on note ha,bi l’image de b par a, de sorte que ha,bi = hb,ai (cf. [3], [4], [27]). L’auteur remercie JSPS (Japan Society for the Promotion of Science) qui a partiellement financé ce travail en lui attribuant les subventions n o 11640189 et n o 14540194.

40

2.

Hidenori Fujiwara

Une Méthode

Rappelons brièvement ce qu’on a fait dans [15]. Nous revenons à la désintégration Z ⊕ G m(π)πdµ(π), τ = indH χ ' ˆ G

et supposons désormais que τ est à multiplicités finies. Nous avons besoin de la formule de Plancherel pour τ ([14]). Soit D(G) l’espace des fonctions C ∞ à support compact sur G. Pour ϕ ∈ D(G), nous fabriquons un élément ϕχ de H∞ τ : Z ϕ(gh)χ(h)dh (∀ g ∈ G), ϕχ (g) = H

dh désignant une mesure de Haar fixée sur H. Alors la formule de Plancherel due à Penney [26] se décrit pour τ : χ

ϕ (g) =

Z m(π) X ˆ G k=1

hπ(ϕg)akπ ,akπ idµ(π) (∀ g ∈ G),

(2)

où ϕg (x) = ϕ(gx) pour tout x ∈ G. Les distributions tempérées akπ intervenant à cette formule appartiennent à H−∞ π


H,χ

= {a ∈ H−∞ π ; π(h)a = χ(h)a,∀ h ∈ H},

et sont obtenues comme suit. Là µ-presque partout, l’orbite coadjointe Ω(π) de G associée à ˆ rencontre Γτ en nombre m(π) de H-orbites, soient ω 1 , . . . ,ωπm(π). On prend ` ∈ ω k π∈G π π et une polarisation b` en ` afin de réaliser π ' π` = indG χ , où B = exp b et où ` ` ` B` χ` (exp X) = ei`(X) (∀ X ∈ b` ), ce qui nous permet de décrire akπ explicitement: il existe une mesure invariante dh˙ sur l’espace homogène H/H ∩ B` telle qu’on ait Z ψ(h)χ(h)dh˙ (3) hakπ ,ψi = H/H∩B`

quelque soit ψ ∈ H∞ π . Maintenant si nous appliquons R(X) (X ∈ g) à la formule (2), un simple calcul nous amène (cf. [15]) à χ

(R(X)ϕ )(g) =

Z m(π) X ˆ G k=1

hπ(ϕg )akπ ,π(X)akπidµ(π).

D’où, pour X ∈ U (g,τ ) on a (R(X)ϕχ)(g) =

Z m(π) X ˆ G k=1

pour tout g ∈ G.

¯ k idµ(π) hπ(ϕg )akπ ,π(X)a π

(4)

Opérateurs Différentiels

41

¯ k est un Afin de suivre le chemin de Benoist, on espère bien que, si X ∈ U (g,τ ),π(X)a π multiple de akπ . En effet, soit Λ l’ensemble des ` ∈ Γτ telles que dim G · ` soit maximale et que h + g(`) soit un sous-espace lagrangien pour B` . Il se voit que Λ est un ouvert de Zariski de Γτ .
H,χ` , Lemme 1 ([15]). Pour ` ∈ Λ, on fabrique le vecteur de Frobenius a` ∈ H−∞ π` G ˆ est construite comme plus haut, par la formule (3). Alors pour où π` = indB` χ` ∈ G ¯ ` est un multiple de a` , c’est-à-dire qu’il existe un caractère tout X ∈ U (g,τ ), π` (X)a λ` : U (g,τ ) → C tel qu’on ait ¯ ` = λ` (X)a` π` (X)a pour n’importe quel X ∈ U (g,τ ). A chaque X ∈ U (g,τ ) on associe ainsi une fonction PX sur Λ définie par PX (`) = λ` (X). Au moyen des éléments e-centraux de Corwin-Greenleaf, qu’on expliquera plus loin, il est facile de constater que la fonction PX s’étend en une fonction rationnelle sur Γτ . Par ailleurs, en utilisant un opérateur d’entrelacement, on voit facilement que la fonction PX est H-invariante. En fait, PX ne dépend pas du choix de la polarisation qui réalise la représentation unitaire irréductible π associée à l’orbite G · ` (cf. [14]). De plus, il résulte de la formule de Plancherel pour τ que l’homomorphisme Dτ (G/H) ∼ = U (g,τ )/U (g)aτ 3 [X] 7→ PX est injectif, ici [X] désigne l’image canonique de X. Pour atteindre la conjecture polynomiale, il nous reste encore deux questions suivantes. 1) La fonction PX s’étend-elle en une fonction polynomiale sur Γτ ? 2) Pourvu que 1) soit le cas, l’homomorphisme U (g,τ )/U (g)aτ 3 [X] 7→ PX ∈ C[Γτ ]H est-il surjectif? On désigne par S(g) l’algèbre symétrique de gC et en considère les éléments comme √ fonctions polynomiales sur ig∗,i = −1. Alors, C[Γτ ]H s’identifie à (S(g)/S(g)aτ )H , l’ensemble des vecteurs H-invariants sous l’action adjointe. Nous avons donc d’un côté U (g,τ )/U (g)aτ = (U (g)/U (g)aτ )H et d’autre côté (S(g)/S(g)aτ )H , et les questions 1), 2) mentionnées ci-dessus reviennent à dire qu’on y cherche un isomorphisme par Ξ : (U (g)/U (g)aτ )H 3 [X] 7→ PX ∈ (S(g)/S(g)aτ )H . L’algèbre g étant nilpotente, la symétrisation β : S(g) → U (g) nous sera peut-être utile comme dans le cas des espaces symétriques. C’est ce qui est aussi suggéré par le résultat de Kirillov concernant les éléments centraux de U (g). Soit X un tel élément, alors ♦(X) l’est aussi, où ♦ désigne l’anti-automorphisme principal de U (g). Soit θ : S(g) → S(g) l’application linéaire vérifiant θ(W ) = (−1)m W lorsque W est homogène de degré m. On a pour ` ∈ Γτ générique ¯ ` ,φi = ha` ,π` (♦(X))φi = ha` ,β −1 (♦(X))(i`)φi = ha` ,θ(β −1 (X))(i`)φi ¯ hπ` (X)a

42

Hidenori Fujiwara ¯ ¯ = ha` ,β −1 (X)(−i`)φi = ha` ,β −1 (X)(i`)φi = hβ −1 (X)(i`)a `,φi

avec φ ∈ H∞ π` quelconque. D’où, ¯ PX (`) = λ` (X) = β −1 (X)(i`). ¯ = 0 pour ` ∈ Γτ si X ∈ U (g)aτ . En particulier, β −1 (X)(i`) Dans un cadre un peu plus général, nous disons que W ∈ U (g) est un élément Γτ central si π` (W ) est un scalaire pour ` ∈ Γτ générique. Pour un tel W , on montre [19] que la fonction P♦(W )(`) est polynomiale de ` ∈ Γτ . En général, si l’on examine de près le mécanisme au moyen duquel X ∈ U (g,τ ) nous fournit le scalaire PX (`), il consiste en répétitions de manipulations suivantes: 1) passage au quotient par h ∩ z ∩ ker f , z désignant le centre de g; 2) passage de h à h + z, ce qui revient au même du remplacement de Z ∈ z \ (h ∩ z) par la valeur −i`(Z); 3) élimination de la partie appartenant au noyau U (g)aτ . Evidemment les deux premières manipulations sont compatibles avec la symétrisation β, mais la dernière est problématique. En réalité, c’est l’existence du noyau U (g)aτ qui nous oblige à abandonner l’idée de l’utilisation de β. Avant de l’application de β, nous devons au moins convenablement choisir un représentant modulo le noyau U (g)aτ . C’est ce qui est difficile à effectuer. Si nous essayons d’établir la conjecture par récurrence sur dim g + dim(g/h), les deux manipulations 1), 3) passent sans aucun problème. Pourtant la seconde fait disparaître la valeur `(Z) parmi les coefficients et nous perdrions tout de suite le repère. C’est justement la difficulté principale à surmonter. Exemple 1. g = hT,X,Y,ZiR ; [T,X] = Y,[X,Y ] = Z. Soient h = RX,H = exp h et f ∈ g∗ tel que f (X) = λ. Considérons ` = αT ∗ + λX ∗ + βY ∗ + γZ ∗ ∈ Γτ = f + h⊥ vérifiant γ 6= 0. Alors il est immédiat que p = hT,Y,ZiR est une polarisation commune pour tels ` ∈ Γτ . On voit que T + βγ Y ∈ g(`) et que W = 2ZT + Y 2 ∈ U (b) appartient au centre de U (g). Comme h + g(`) est un sous-espace lagrangien pour la forme bilinéaire B` , τ = indG H χf est à multiplicités finies. Soit a` le vecteur de Frobenius au point `. On a pour tout φ ∈ H∞ π` , hπ` (W )a` ,φi =

Z

π` (♦(W )) φ(exp(xX))eiλxdx R

= {2(iγ)(iα) + (iβ)2}

Z

φ(exp(xX))eiλxdx = h{2(iγ)(iα) + (iβ)2}a` ,φi.

R

En somme, π` (W )a` = {2(iγ)(iα) + (iβ)2}a` . Exemple 2. g = hX1,X2,U,V,Y,Z1,Z2 ,Z3iR ; [X1,Y ] = Z1 ,[X2,Y ] = Z2 ,[U,V ] = Z3 ,[X1,U ] = V . Posons h = RU + RY,H = exp h,f ∈ g∗ tel que f (U ) = δ,f (Y ) = κ. Considérons ` ∈ Γτ générique, à savoir ` = α1 X1∗ + α2 X2∗ + δU ∗ + βV ∗ + κY ∗ + γ1Z1 ∗ + γ2Z2 ∗ + γ3 Z3∗ ∈ Γτ

Opérateurs Différentiels

43

vérifiant γ3 6= 0. On voit que γ2 X1 − γ1X2 +

βγ2 V ∈ g(`) γ3

et que p` = z + hY,V,γ2X1 − γ1X2 iR est une polarisation au point `, z = hZ1,Z2 ,Z3iR étant le centre de g. Par ailleurs, W = 2Z2 Z3X1 − 2Z1 Z3 X2 + Z2V 2 appartient au centre de U (g). Comme h + g(`) est un sous-espace lagrangien pour B` , τ = indG H χf est à multiplicités finies. Soit a` le vecteur de Frobenius au point `. On a pour tout φ ∈ H∞ π` : Z Z π` (♦(W )) φ(exp(uU ))eiδu du = R(W )φ(exp(uU ))eiδudu hπ` (W )a` ,φi = R

R

= {2(iγ2)(iγ3)(iα1) − 2(iγ1)(iγ3)(iα2) + (iγ2)(iβ)2}

Z

φ(exp(uU ))eiδudu

R

= h{2(iγ2)(iγ3)(iα1) − 2(iγ1)(iγ3)(iα2) + (iγ2)(iβ)2}a` ,φi. D’où, nous arrivons à la formule π` (W )a` = {2(iγ2)(iγ3)(iα1) − 2(iγ1)(iγ3)(iα2) + (iγ2)(iβ)2}a` . Exemple 3. g = hX1,X2,U,V,Y,Z1,Z2 ,Z3iR ; [X1,Y ] = Z1 ,[X2,Y ] = Z2 ,[U,V ] = Z3 ,[X1,U ] = V,[X2,V ] = Z1 ,[X2,U ] = Y . Prenons f ∈ g∗ tel que f (U ) = δ,f (Y ) = κ avec h = RU + RY . Considérons ` = α1 X1∗ + α2 X2∗ + δU ∗ + βV ∗ + κY ∗ + γ1Z1 ∗ + γ2Z2 ∗ + γ3 Z3∗ ∈ Γτ vérifiant γ3 6= 0. Il vient que γ2X1 − γ1X2 +

γ12 γ1 κ − γ2 β γ1β U− V − Y ∈ g(`) γ3 γ3 γ3

et cette fois que b` = z + hY,V,γ2X1 − γ1X2 +

γ12 U iR γ3

est une polarisation en `, z = hZ1 ,Z2,Z3iR étant comme dans l’exemple précédent le centre de g. Ici aussi, h + g(`) est un sous-espace lagrangien pour B` et la représentation monomiale τ = indG H χf avec H = exp h est à multiplicités finies. D’ailleurs, W = 2Z2 Z3X1 − 2Z1 Z3X2 + Z2 V 2 − 2Z1V Y + 2Z12 U appartient au centre de U (g). Cela entraîne que A = 2Z2 Z3 X1 − 2Z1Z3 X2 + Z2V 2 + 2iκZ1 V ∈ U (g,τ ).

44

Hidenori Fujiwara

Avec les notations utilisées dans ce qui précède, nous avons Z Z iδu ¯ π` (♦(A)) φ(exp(uU ))e du = R(A)φ(exp(uU ))eiδudu hπ` (A)a` ,φi = R

R 2

= {2(iγ2)(iγ3)(iα1)−2(iγ1)(iγ3)(iα2)+(iγ2)(iδ) −2iκ(iγ1)(iδ)}

Z

φ(exp(uU ))eiδu du

R 2

= h{2(iγ2)(iγ3)(iα1) − 2(iγ1)(iγ3)(iα2) + (iγ2)(iδ) − 2iκ(iγ1)(iδ)}a` ,φi. ¯ = PA (`)a` avec D’où, π` (A) PA (`) = −2(iγ2)(iγ3)(iα1) + 2(iγ1)(iγ3)(iα2) − (iγ2)(iδ)2 + 2iκ(iγ1)(iδ). Exemple 4. Dans l’algèbre de l’exemple 3, posons maintenant h = RV + RY . Alors, nous observons que A = Z2 Z3 X1 − Z1 Z3X2 + Z12 U ∈ U (g,τ ). Avec les notations convenues et e désignant l’élément neutre de G, hπ` (A)a` ,φi = π` (♦(A)) φ(e) = R(A)φ(e) = {(iγ2)(iγ3)(iα1) − (iγ1)(iγ3)(iα2) + (iγ1)2 (iδ)}φ(e) = h{(iγ2)(iγ3)(iα1) − (iγ1)(iγ3)(iα2) + (iγ1)2(iδ)}a` ,φi. A savoir, π` (A)a` = {(iγ2)(iγ3)(iα1) − (iγ1)(iγ3)(iα2) + (iγ1)2(iδ)}a` .

3.

Éléments e-centraux

On se donne une suite de Jordan-Hölder S de g: {0} = g0 ⊂ g1 ⊂ · · · ⊂ gn−1 ⊂ gn = g, dim gj = j (0 ≤ j ≤ n).

(5)

Soit I = {i1 < i2 < · · · < id } l’ensemble d’indices i (1 ≤ i ≤ n) tels que h ∩ gi 6= h ∩ gi−1 , et posons J = {j1 < j2 < · · · < jp} = {1,2, . . .,n} \ I (p = dim(g/h). En posant k0 = h et kr = h + gjr pour 1 ≤ r ≤ p, on obtient une suite de sous-algèbres de g: h = k0 ⊂ k1 ⊂ · · · ⊂ kp−1 ⊂ kp = g, dim(kr /kr−1) = 1. D’autre part, en considérant hs = h ∩ gis (1 ≤ s ≤ d), nous procurons un drapeau d’idéaux de h: {0} = h0 ⊂ h1 ⊂ · · · ⊂ hd−1 ⊂ hd = h, dim hs = s.

Opérateurs Différentiels

45

En extrayant Ys ∈ hs \ hs−1 pour 1 ≤ s ≤ d et Xr ∈ gjr \ gjr −1 pour 1 ≤ r ≤ p, on forme une base de Malcev de g relative à h. On pose Kr = exp kr (0 ≤ r ≤ p) et considère la suite de sous-groupes analytiques: H = K0 ⊂ K1 ⊂ · · · ⊂ Kp−1 ⊂ Kp = G.

(6)

A la suite de Jordan-Hölder (5), gj étant un idéal de g, G agit sur gj et son dual linéaire gj ∗ . Soit pj : g∗ → gj ∗ l’application restriction. Pour ` ∈ g∗ , les G-orbites de pj (`) dans gj ∗ (1 ≤ j ≤ n) nous fournissent un n-uplet d’entiers non-négatifs e(`) = (e1 (`), . . .,en (`)) , ej (`) = dim (G·pj (`)) , de leur dimension. D’où e1 (`) = 0. Inversement, pour un n-uplet d’entiers non-négatifs e = (e1, . . . ,en ) quelconque, on définit la couche Ue = {` ∈ g∗ ; e(`) = e} dans g∗. Alors il existe une et une seule couche Ue jouissant de la propriété que Γτ ∩ Ue est un ouvert de Zariski de Γτ . On note S(e) (resp. T (e)) l’ensemble d’indices de saut (resp. non-saut) de e, ce qui veut dire que S(e) = {1 ≤ k ≤ n; ek 6= ek−1 } (resp. T (e) = {1 ≤ k ≤ n; ek = ek−1 }). Au passage de Kr−1 à Kr dans la suite (6), notre algèbre Dτ (G/H) s’agrandit si et seulement si les H-orbites dans kr ∗ sont génériquement non-saturées dans la direction (kr−1)⊥ (cf. [18]). Pour ` ∈ g∗, posons h` = {X ∈ g; `([X,h]) = {0}}. Alors, cette condition équivaut à ce qu’on a h` ∩ kr 6= h` ∩ kr−1 génériquement pour ` ∈ Ue . Comme τ est à multiplicités finies, le sous-espace h` coïncide avec h + g(`) génériquement dans Γτ . Soit R = {r1 < r2 < · · · < ru } l’ensemble des indices 1 ≤ r ≤ p où s’agrandit Dτ (G/H). Pour r = ri ∈ R, il se produit deux possibilités: soit jr ∈ T (e) soit jr ∈ S(e). Lorsque jr ∈ T (e), il existe ([7]) un élément e-central de U (g), qui s’écrit σi = ai Xr + bi avec ai ,bi ∈ U (gjr −1 ). Il en vient que ai est aussi e-central dans U (g). En passant à une sous-couche si besoin est, on voit que cet élément σi se qualifie pour membre d’un système de générateurs rationnels de Dτ (G/H), ou en d’autres termes que P♦(ai) (`) n’est pas identiquement nul pour ` ∈ Γτ , où ♦ désigne comme avant l’anti-automorphisme principal de U (g). Lorsque jr ∈ S(e), soit s (1 ≤ s ≤ d) l’indice minimal tel que (hs + g(`)) ∩ kr 6⊂ kr−1 génériquement dans Γτ . Dans ce cas, jr < is et il existe un élément e-central σi = ai Ys + bi de U (g) avec ai ,bi ∈ U (hs−1 + gjr ). Puisque ai est aussi e-central dans U (g), qui est en effet un polynôme des σk ainsi construits aux étapes en dessous, ai appartient à U (hs−1 + gjr −1 ). Ainsi, is ∈ T (e). Ici aussi, en passant à une sous-couche si besoin est, on peut supposer que P♦(ai) (`) n’est pas identiquement nul pour ` ∈ Γτ . Plus précisément, il existe un ouvert de Zariski Z de g∗ et un tel élément σi jouissant des propriétés suivantes. Les opérateurs π` (ai ),π` (σi ) sont scalaires G-invariants sur Z ∩ Ue . Soit π` (σi ) = φi (`)I. qi sur Alors, φi (`) = p˜i(`)`(Ys ) + q˜i (`) avec deux fonctions rationnelles régulières p˜i ,˜ Z ∩ Ue , qui ne dépendent que de la restriction ` 0 de ` à gis−1 . De plus, p˜i (`)I = π` (ai ) = P♦(ai) (`)I est non-nul pour tout ` ∈ Z ∩ Ue .
qi sont des fonctions polynomiales sur Z ∩ Ue ∩ f + (hs−1 )⊥ . On sait ([19]) que p˜i ,˜ Compte tenu de la G-invariance de φi (`), on observe que q˜i (`) restreinte à Z ∩ Ue ∩ Γτ

46

Hidenori Fujiwara

dépend effectivement de `(Xri ), c.-à-d. que q˜i (`) ne dépend pas que de ` restreinte à kri−1 . / U (kri −1 ) + U (g)aτ . Cela signifie que bi ∈ Considérons maintenant le système {σi ; 1 ≤ i ≤ u} des éléments e-centraux ainsi construits. Remarquons que u = dim (g(`)/h(`)) pour ` ∈ Γτ générique, h(`) désignant g(`) ∩ h. D’après [19], les fonctions φi (`) = P♦(σi )(`) ∈ C[Γτ ]H (1 ≤ i ≤ u) forment une base de transcendance de l’algèbre des fonctions ξ sur G · Γτ telles qu’il existe un élément σ de U (g) qui vérifient π` (σ) = ξ(`)I. Théorème 4. La représentation monomiale τ est à multiplicités finies si et seulement si Dτ (G/H) est algébrique sur le système {♦(σi ); 1 ≤ i ≤ u}. Démonstration. Supposons d’abord que τ est à multiplicités finies. Pour chaque 1 ≤ i ≤ u, ˜i Xri +˜bi en remplaçant on obtient d’après Corwin-Greenleaf [7] un élément e˜-central σ ˜i = a G par Kri . Là, e˜ est un certain muti-indice des dimensions de Kri -orbites sur un drapeau σi); 1 ≤ i ≤ u} nous fournit un système de générade kri ∗ . On sait [7] que le système {♦(˜ teurs rationels de Dτ (G/H). A savoir, étant donné W ∈ U (g,τ ) arbitraire, il existe deux σi ); 1 ≤ i ≤ u} tels qu’on ait polynômes Q1 ,Q2 des {♦(˜ σ1 ), . . .,♦(˜ σu )) W ≡ Q2 (♦(˜ σ1 ), . . .,♦(˜ σu )) mod U (g)aτ . Q1 (♦(˜ En posant φ˜i (`) = P♦(˜σi ) (`) (1 ≤ i ≤ u), nous avons     Q1 φ˜1 (`), . . .,φ˜u (`) P♦(W )(`) = Q2 φ˜1 (`), . . . ,φ˜u (`) . Comme l’image de l’application Ξ engendre rationnellement le corps C(Γτ )H des fonctions rationnelles H-invariantes sur Γτ (cf. [7]), et que les polynômes φ˜i (`), 1 ≤ i ≤ u, sont algébriquement libres, le degré de transcendance de C(Γτ )H est égal à u. Puisque les polynômes φi (`), 1 ≤ i ≤ u, sont algébriquement indépendants, ils forment une base de transcendance de C(Γτ )H . Autrement dit, il existe un polynôme R des P♦(W )(`),φ1(`), . . .,φu (`) vérifiant
R P♦(W ) (`),φ1(`), . . . ,φu (`) = 0, où P♦(W )(`) apparaît effectivement. Cela veut dire que R (W,♦(σ1), . . . ,♦(σu )) ≡ 0 mod U (g)aτ , où W apparaît effectivement. Cette dernière mention signifie qu’on se procure d’une relation polynomiale m X

Rk (♦(σ1 ), . . .,♦(σu )) W k ≡ 0 mod U (g)aτ ,

k=0

où Rm (♦(σ1 ), . . .,♦(σu )), avec m ≥ 1, n’appartient pas à U (g)aτ . Kj −1 Lorsque τ est à multiplicités infinies, soit j0 (1 ≤ j0 ≤ p) l’indice tel que ind H 0 χf Kj

soit à multiplicités finies mais que ind H 0 χf soit à multiplicités infinies. Alors, les Horbites génériques dans Γj0 = {` ∈ kj0 ∗ ; `|h = f |h } sont non-saturées par rapport à kj0 −1

Opérateurs Différentiels

47

mais les Kj0 -orbites génériques y sont saturées. D’où, il existe ([18]) σ = Xj0 a + b dans / U (g)aτ tandis que tous les éléments e˜-centraux U (g,τ ) avec a,b ∈ U (kj0 −1 ) vérifiant a ∈ au niveau de Kj0 sont contenus dans U (kj0 −1 ). Ceci étant, σ n’est pas algébrique modulo U (g)aτ sur les éléments {♦(σi); 1 ≤ i ≤ u}. c.q.f.d. Exemple 5. Soit g = hX,Y,V,ZiR ; [X,Y ] = V,[X,V ] = Z. Soient h = RY,H = exp h et f = cY ∗ ∈ g∗ (c ∈ R). Alors, τ = indG H χf est à multiplicités finies, qui sont uniformé˜1 = Z,˜ σ2 = V,σ2 = 2ZY − V 2 qui est central dans U (g). On ment égales à 2. Ici, σ1 = σ constate aussitôt que √ σ2))2 − 2 −1c♦(σ1) ≡ 0 ♦(σ2 ) + (♦(˜ modulo U (g)aτ . Exemple 6. Soit g = hX1, . . . ,X5iR ; [X5,Xk ] = Xk−1 (2 ≤ k ≤ 4). En posant gj = hX1, . . . ,Xj iR pour 1 ≤ j ≤ 5, on obtient une suite de Jordan-Hölder de g: {0} = g0 ⊂ g1 ⊂ · · · ⊂ g4 ⊂ g5 = g, dim gj = j (0 ≤ j ≤ 5). Soient h = RX4 et f = cX4∗ ∈ g∗ (c ∈ R). D’où, nous avons k1 = h + RX1,k2 = h+RX1 +RX2,k3 = h+RX1 +RX2 +RX3 ,k4 = g et la couche Ue ,e = (0,1,1,1,2), est un ouvert de Zariski dans g∗ qui rencontre Γτ Ici, T (e) = {1,3,4} et S(e) = {2,5}. D’une part, X3 σ2 = X2,˜ σ3 = X3 et d’autre part σ1 = σ ˜1 ,σ2 = X12X4 − X1X2 X3 + 32 ,σ3 = σ ˜1 = X1,˜ 2X1X3 − X22, où σ2,σ3 sont centraux dans U (g). On a 2♦(σ2) = −2 (♦(σ1 ))2 X4 +X2 ♦(σ3)+

√ X23 (♦(˜ σ2 ))3 ≡ 2 −1c (♦(σ1 ))2 −♦(˜ σ2 )♦(σ3)− 3 3

modulo U (g)aτ .

Références [1] A. Baklouti, Harmonic analysis on differential operators on nilpotent homogeneous spaces, Russian J. Math. Physics 6 (1999), 125-136. [2] A. Baklouti and J. Ludwig, Invariant differential operators on certain nilpotent homogeneous spaces, Monatsh. Math., 134 (2001), 19-37 [3] Y. Benoist., Analyse harmonique sur les espaces symétriques nilpotents, J. Func. Anal., 59 (1984), 211-253. [4] P. Cartier, Vecteurs différentiables dans les représentations unitaires des groupes de Lie, Lect. Notes. Math. Springer 514 (1975), 20-34. [5] L. Corwin, F. P. Greenleaf and G. Grélaud, Direct integral decompositions and multiplicities for induced representations of nilpotent Lie groups, Trans. Amer. Math. Soc., 304 (1987), 549-583. [6] L. Corwin and F. Greenleaf, Representations of nilpotent Lie groups and their applications, Part I: Basic theory and examples , Cambridge University Press, 1990.

48

Hidenori Fujiwara

[7] L. Corwin and F. P. Greenleaf, Commutativity of invariant differential operators on nilpotent homogeneous spaces with finite multiplicity, Comm. Pure Appl. Math., 45 (1992), 681-748. [8] L. Corwin and F. P. Greenleaf, Spectral decomposition of invariant differential operators on certain nilpotent homogeneous spaces, J. Func. Anal., 108 (1992), 374-426. [9] J. Dixmier, Algèbres enveloppantes, Gauthier-Villars, Paris, 1974. [10] J. Dixmier et P. Malliavin, Factorisation de fonctions et de vecteurs indéfiniment différentiables, Bull. Sci. Math., 102 (1978), 305-330. [11] M. Duflo, Opérateurs différentiels invariants sur un espace symétrique, C. R. Acad. Sci. Paris, Série A 289 (1979), 135-137. [12] M. Duflo, Opérateurs différentiels invariants et homologie des algèbres de Lie , (l’appendice du cours à Tunis), 1983. [13] M. Duflo, Open problems in representation theory of Lie groups , edited by T. Oshima, Katata in Japan 1986, 1-5. [14] H. Fujiwara, Représentations monomiales des groupes de Lie nilpotents, Pacific J. Math., 127 (1987), 329-351. [15] H. Fujiwara, Analyse harmonique pour certaines représentations induites d’un groupe de Lie nilpotent, J. Math. Soc. Japan, 50 (1998), 753-766. [16] H. Fujiwara, Correction à "Analyse harmonique pour certaines représentations induites d’un groupe de Lie nilpotent" J. Math. Soc. Japan 52 (2000). [17] H. Fujiwara, Sur la conjecture de Corwin-Greenleaf J. Lie Theory, 7 (1997), 121-146. [18] H. Fujiwara, G. Lion, B. Magneron and S.Mehdi, Commutativity criterion for certain algebras of invariant differential operators on nilpotent homogeneous spaces, Math. Ann., 327 (2003), 513-544. [19] H. Fujiwara, G. Lion et B. Magneron Algèbres de fonctions associées aux représentations monomiales des groupes de Lie nilpotents , Prépub. Math. Univ. Paris 13, 20022, 2002. [20] F. P. Greenleaf, Harmonic analysis on nilpotent homogeneous spaces, Contemporary Math., 177 (1994), 1-26. [21] G. Grélaud, Sur les représentations des groupes de Lie résolubles , Thèse, Univ. Poitiers, 1984. [22] A. A. Kirillov, Représentations unitaires des groupes de Lie nilpotents, Uspekhi Math. Nauk., 17 (1962), 57-110. [23] R. Lipsman, Orbital parameters for induced and restricted representations, Trans. Amer. Math. Soc., 313 (1989), 433-473. [24] R. Lipsman, Attributes and applications of the Corwin-Greenleaf multiplicity function, Contemporary Math., 177 (1994), 27-46. [25] R. Lipsman, The Penney-Fujiwara Plancherel formula for homogeneous spaces, The Proceedings of Fuji-Kawaguchiko Conference on Representation Theory of Lie Groups and Lie Algebras, World Scientific, 1992, 120-139.

Opérateurs Différentiels

49

[26] R. Penney, Abstract Plancherel theorem and a Frobenius reciprocity theorem, J. Func. Anal., 18 (1975), 177-190. [27] N. S. Poulsen, On C ∞ -vectors and intertwining bilinear forms for representations of Lie groups, J. Func. Anal., 9 (1972), 87-120. [28] L. Pukanszky, Leçon sur les représentations des groupes, Dunod, Paris 1967. [29] C. Torossian, Opérateurs différential invariants sur les espaces symétriques I. Méthodes des orbites, J. Func. Anal., 117 (1993), 118-173.

In: Proceedings of the Tunisian Mathematical Society... ISBN 1-60021-014-7 c 2007 Nova Science Publishers, Inc. Editor: K. Triméche and S. Zarati, pp. 51-62

Chapter 5

P ROLONGEMENT ET C ONTRÔLE D ’ UN C OURANT N ÉGATIF P SH PAR S ES T RANCHES∗ Moncef Toujani1†and Hèdi Ben Messaoud2‡ 1 Faculté des Sciences de Monastir Département de mathématiques, 5019 Monastir (Tunisie) 2 Faculté des Sciences de Sfax , Département de mathématiques, Route Soukra, 3018 Sfax (Tunisie)

Abstract In this paper, we show the principal theorem, on the extension of a negative (or positive) plurisubharmonic (ie ddc T ≥ 0) current T with condition on the slice. First, We prove the Chern-Levine-Nirenberg inequality for a positive (or négative) psh current. The result generalized a result of Sibony and the results of Bedford-Taylor and Demailly for a positive d-closed current. Also we show a inequality of Oka type for a positive psh current.

Keywords: Courant positif ou négatif, tranche, potentiel d’un courant positif fermé. AMS Subject Classifications: 32C30

1.

Introduction and Motivation

En 1995 H.Ben Messaoud et H.EL Mir ont démontré le théorème (0-1) suivant. Théorème (0-1). Soit A un sous ensemble fermé pluripolaire complet, du polydisque unité ∆n de Cn . Soit T un courant positif fermé de bidimension (p, p) dans ∆n \ A tel que:1 ≤ p ≤ n et soit k ∈ N tel que:1 ≤ k ≤ p. Supposons que: a) Il existe 0 ≤ r < 1 tel que T soit de masse localement finie au voisinage des points de {z ∈ ∆n tel que r < |z 00 |}, z = (z 0 , z 00 ) ∈ ∆k × ∆n−k . b) Il existe un ensemble non pluripolaire F ⊂ ∆k , tel que pour tout a ∈ F la tranche ∗

This work was partially supported by grants from CNPq and FAPESP, São Paulo, Brazil. E-mail address: [email protected] ‡ E-mail address: Hedi [email protected] †

52

Moncef Toujani and Hèdi Ben Messaoud

< T, π, a > existe sur ∆n \ A et soit de masse finie. Alors l’extension triviale Te de T par zéro au dessus de A existe, et c’est un courant positif fermé. Ce théorème répondait à une conjecture de [Si] sur le prolongement des courants positifs fermés avec condition sur les tranches. Le but de ce travail est de démontrer le théorème principal, sur le prolongement d’un courant négatif Psh avec condition sur les tranches

Théorème principal (III-1). Soit A un sous ensemble fermé pluripolaire complet, du polydisque unité ∆n de Cn . Soit T un courant négatif P sh (ddc T ≥ 0) de bidimension (p, p) dans ∆n \ A tel que : 1 ≤ p ≤ n et soit k ∈ N tel que : 1 ≤ k ≤ p. Supposons que : a) Il existe 0 ≤ r < 1 tel que T soit de masse localement finie au voisinage des points de {z ∈ ∆n tel que r < |z 00 |} , z = (z 0 , z 00 ) ∈ ∆k × ∆n−k . b) Il existe un ensemble non pluripolaire F ⊂ ∆k tel que pour tout a ∈ F , la tranche < T, π, a > existe sur ∆n \ A et soit de masse finie. Alors l’extension triviale Te de T par zéro au dessus de A existe, et c’est un courant négatif P sh. c T = ddc T e + S où S est un courant négatif fermé porté par A. ] De plus on a : dd Ce théorème généralise le théorème (0-1) de [B.M-EL3].

Dans la première partie du paragraphe II de ce travail nous démontrons une inégalité de type [C.L.N] pour un courant positif (ou négatif) psh, qui généralise l’inégalité obtenue par [S]. Théorème (I-2 partie1). Soit T un courant positif ou négatif Psh (ie ddc T ≥ 0) de bidimension (p, p), dans un ouvert Ω1 ⊂ Cn tel que : 1 ≤ p ≤ n. Et soient v1 , ..., vq des fonctions P sh de classe C 2 dans Ω, avec 1 ≤ q ≤ p, et soient K, L deux compacts de Ω1 o

tel que : K ⊂ L , alors il existe une constante CK,L telle que : ||T ∧ddc v1 ∧...∧ddc vq ||K ≤ q Y CK,L (||T ||L ) ||vj ||∞ (L). j=1

Ce théorème généralise l’inégalité de [C-L-N] pour un courant positif fermé. Dans la partie 2 du paragraphe II, nous montrons une inégalité de type Oka [Ok] pour un courant positif psh généralisant l’inégalité obtenue par [BM-El3] pour un courant positif de ddc -négatif. De plus l’inégalité obtenue réste valable en omettant un sous-ensemble pluripolaire complet généralisant aussi celle de [BM-El3]. Proposition (II-1 partie 2). Soit T un courant positif Psh (ie ddc T ≥ 0) de bidimension (p, p) dans un ouvert O ⊂ Cn tel que : 1 ≤ p ≤ n , et soit v une fonction P sh de classe C 2 , v ≥ −1 dans O tel que : O0 = {z ∈ O tel que v(z) < 0} soit relativement compact dans O. Soit K ⊂ O0 , un compact et soit CK = − sup v(z); alors pour tout entier z∈K

1 ≤ s ≤ p et toute fonction u P sh C 2 quelconque dans O0 , vérifiant −1 ≤ u ≤ 0 on a : Z

c

K

p

T ∧ (dd u) ≤

−s CK

Z

O0

T ∧ (ddc v)s ∧ (ddc u)p−s + CK,O0 ||ddc T ||O0 ||v||s∞ (O0 )

avec CK,O0 une constante positive ne dépendant que de K et de O0 .

Prolongement et Contrôle d’un Courant Négatif Psh par Ses Tranches

53

[B.M-EL3] ont démontré l’inégalité suivante: Z Z −s c p T ∧ (ddc v)s ∧ (ddc u)p−s T ∧ (dd u) ≤ CK K

O0

Pour T courant positif de ddc -négatif.

Le paragraphe III) de ce travail est consacré pour le théorème principal, énoncé cidessus, et le théorème III-4 suivant. Théorème III-4. Soit A un ensemble fermé pluripolaire complet de ∆n , et T un courant positif psh de bidimension (p, p) dans ∆n \ A tel que: k + 1 ≤ p ≤ n. Supposons que: a) Il existe 0 ≤ r < 1 tel que T et ddc T soient de masse localement finie, au voisinage des points de {z ∈ ∆n , r < |z 00 |}. b) Il existe un ensemble non pluripolaire F ⊂ ∆k , tel que pour tout a ∈ F les tranches < T, π, a > et < ddc T, π, a > existent sur ∆n \ A, et soient de masse finie au voisinage des points de A. Alors:l’extension triviale Te de T par zéro au dessus de A existe et c’est un courant positif, c T = ddc T e + S, ] de plus on a: dd où S est un courant positif fermé porté par A. Et comme application on retrouve des résultats sur le prolongement des fonctions psh, démontrés par [El-A] et des résultats sur les fonctions holomorphes.

L’ingrédient essentiel, dans la démonstration du théorème principal est la formule de Tranchage généralisée de [B.M-EL2] que nous rappelons ci-dessous. Théorème 0-2. Soit T un courant positif fermé de bidimension (p, p) dans un voisinage de ∆n , alors il existe un ensemble E pluripolaire dans ∆k indépendant de α1 , tel que: a) ∀a ∈ ∆k \ E , < T, π, a >α1 existe, et ne dépend pas de α1 . b) Soient ϕ ∈ DZp−k,p−k (∆n ) , v P sh localement bornée dans ∆k et ve = voπ, Z on a : (0.1) :

∆n

T ∧ (ddc ve)k ∧ ϕ =

< T, π, a > (ϕ)(ddc v)k .

a∈∆k

La formule (0.1) généralise la formule de Tranchage de [Fe].

n Définition 0-3. XSoit Ω un ouvert de C , un courant T de bidimension (p, q) s’écrit sous la forme: T = TIJ dzI ∧ dzJ où les TIJ sont des distributions. |I|=n−p |J|=n−q

0 T ∈ Dp,p(Ω) est dit faiblement positif si T ∧ iϕ1 ∧ ϕ1 ∧ ... ∧ iϕp ∧ ϕp est une mesure de Radon positive pour tout ϕ1 , ...., ϕp ∈ D(0,1) (Ω). T est dit négatif si −T est positif. T est dit fermé si dT = 0.

Remarque 0-4. Si T est positif alors les distributions TI,J sont des mesures de Radon complexes et les TII sont des mesures de Radon positives. Définition 0-5. On appelle masse de T , la mesure de Radon positive ||T || = X |TIJ | où |TIJ | est la variation totale de la mesure TIJ .

|I|=|J|=n−p

54

Moncef Toujani and Hèdi Ben Messaoud

On appelle mesure trace de T , la mesure de Radon positive σT =

1 4p p!

T ∧ (ddc |z|2 )p .

Remarque 0-6. Il existe une constante c = c(n,p) > 0 telle que: σT ≤ ||T || ≤ c.σT . Pour la suite, nous aurons besoin des notations suivantes: Soient k ∈ N∗ , n ∈ N tels que : 1 ≤ k ≤ n , ∆n = ∆k × ∆n−k , le polydisque unité de Cn = Ck × Cn−k , donc si z = (z1 , ..., zn ) ∈ ∆n nous écrivons z = (z 0 , z 00 ) avec z 0 = (z1 , ..., zk ) ∈ ∆k ; z 00 = (zk+1 , ..., zn ) ∈ ∆n−k , on note : π : Cn → Ck z → z0 la projection de Cn sur Ck .

Définition 0-7. Nous définissons la tranche par π au dessus d’un point a ∈ ∆k , d’un 0 courant T ∈ D(p,p) (∆n ) de bidimension (p, p) , k ≤ p ≤ n et défini dans ∆n comme suit. Soit αZ1 ≥ 0 une fonction mesurable, bornée, à support compact dans Ck , avec

Ck

α1 dλk = 1, d’où la tranche de T en a qu’on note < T, π, a >α1 ,

0 est la limite faible dans D(p−k,p−k) (∆n ) quand elle existe de:  0  z −a 1 1 0k 0 ∗ 0 et β 0 = ddc (|z 0 |2 ), T ∧ π (α1,ε (z − a) k β ) avec α1,ε (z − a) = 2k α1 4 k! ε ε

avec d = ∂ + ∂ et dc = i(∂ − ∂). Donc on a: < T, π, a >α1 = lim T ∧ π ∗ (α1,ε (z 0 − a)β 0k ). ε→0

Remarques 0-8. Le courant < T, π, a >α1 est porté par {a} × ∆n−k . Si < T, π, a >α1 existe, alors < dT, π, a >α1 existe et égale à d < T, π, a >α1 , de même : < ddc T, π, a >α1 existe et égale à ddc < T, π, a >α1 . Si T est à coefficients continues dans ∆n , alors < T, π, a > existe ∀a ∈ ∆k . I Partie 1. Proposition I-1. Soient T un courant positif ou négatif psh de bidimention (p, p) dans un ouvert Ω1 ⊂ Cn tel que 1 ≤ p ≤ n et v1 , ...vq des fonctions psh, de classe C 2 dans Ω1 , o

avec 1 ≤ q ≤ p. Soient K et L deux compacts de Ω1 tels que K ⊂L . Alors il existe une constante positive CK,L qui dépend de K et L seulement telle que: q Y ||T ∧ ddc v1 ∧ ... ∧ ddc vq ||K ≤ CK,L (||T ||L ) ||vj ||∞(L) . (1-1) j=1

RemarqueI-2. Le cas ou les fonctions vi sont psh, localement bornées, reste un problème ouvert. L’inégalité (1-1) pour un courant positif fermé, a été démontrée par [B-T] et [De1]. Cette inégalité améliore aussi une inégalité de [S], où ||dT ||L supposée finie, intervient dans le second membre. [BM − EL4] ont démontré l’inégalité (1-1), pour U potentiel d’un courant positif fermé. Preuve de la proposition I-1. On suppose T positif, on se place dans un ouvert strictement pseudo-convexe (Ω ⊂⊂ Ω1 ), Ω = {z ∈ Ω1 , ρ(z) < 0} tel que ρ est une fonction psh,

Prolongement et Contrôle d’un Courant Négatif Psh par Ses Tranches

55

◦

de classe C ∞ , dans un voisinage de Ω et soit K ⊂ L ⊂⊂ Ω un compact, quitte à faire une récurrence sur q, on peut choisir q = 1. Première étape p>1. On peut supposer que: −M ≤ v ≤ −1 avec M ≥ 1, on pose β = ddc ρ, soit s > 0 petit tel que: L ⊂ Ωs = {ρ < −s}. Soit N2 (|.|) un noyau régularisant sur R2 , et max : (x1 , x2 ) → max(x1 , x2 ), soit maxε = max ∗ N2,ε , avec N2,ε = ε12 N2 ( ε. ), elle est convexe et séparément croissante, posons: ∞ dans un voisinage de Ω, ε petit, w = v dans Ω et wε = maxε ( M ε s s ρ, v), wε est psh C M wε = s ρ dans Ω \ Ω Ms , donc on a: Z Z Z T ∧ ddc v ∧ β p−1 ≤ T ∧ ddc wε ∧ β p−1 ≤ T ∧ ddc wε ∧ β p−1 . Ωs

K

Ω

s 2M

on a: Soit f ∈ D(Ω ), f ≤ 0 et f = ρ sur Ω Z Z T ∧ ddc wε ∧ β p−1 = T ∧ ddc wε ∧ β p−2 ∧ ddc f Ω s Ω s 2M Z2M Z M c p−2 c = T ∧ dd wε ∧ β ∧ dd f − T ∧ β p−1 ∧ ddc f s Ω s Ω s \Ω s 3M 2M Z 3M Z M c p−2 c = f dd T ∧ β ∧ dd wε − T ∧ β p−1 ∧ ddc f s Ω s Ω s \Ω s Z 3M Z 3M 2M M wε ddc f ∧ ddc T ∧ β p−2 − T ∧ β p−1 ∧ ddc f = s Ω s \Ω s Ω s s 3M

3M

s 2M

3M

2M

≤ C||wε ||∞(Ω s ) ||ddc T ||Ω s + M s , s C.||T ||Ω 3M 3M 3M donc on aura: Z C T ∧ ddc wε ∧ β p−1 ≤ M (||T ||Ω s + ||ddc T ||Ω s ), or ||ddc T ||Ω s ≤ c3 ||T ||Ω , 3M 3M 3M s Ω s 2M avec Z c3 > 0, et donc: K

T ∧ ddc v ∧ β p−1 ≤ cK,Ω M (||T ||Ω ),

ie: ||T ∧ ddc v||K ≤ CK,Ω M (||T ||Ω ).

(1-2)

o

o

Soient K et L deux compacts ⊂ Ω1 , tels que K ⊂L et soit Bj0 ⊂⊂ Bj ⊂L un recouvrement fini de K par des boules, donc il suffit de travailler sur deux boules concentriques, on remplace v par v 0 = ||v||v − 2 qui est à valeurs dans [-3,-1] et donc M = 3 d’où (1-2) ∞(L) devient: ||T ∧ ddc v||K ≤ CK,L (||T ||L )||v||∞ (L). Deuxième étape p=1. On se place dans Ω1 × C, soit π1 , la projection de Ω1 × C sur Ω1 , alors le courant π1∗ (T ) est un courant de dimension 2, donc ce courant vérifie les hypothèses du résultat précédent (1-1). On considère la fonction ve = voπ1 (e v est psh, de classe C 2 car π1 est holomorphe et v psh C 2 ), on remplace le compact K par K × {|t| ≤ 1} et Ω par un ouvert strictement pseudoconvexe, à bord lisse ⊂ Ω × {|t| ≤ r0 } contenant K × {|t| ≤ 1} avec r0 > 1 fixé, on aura donc: ||π1∗ (T ) ∧ ddc ve||K×{|t|≤1} ≤ CK,Ω (||π1∗ (T )||Ω×{|t|≤1} ). En général si T est un courant positif de bidimension (p, p) sur Ω1 ⊂ Cn et p ≤ n, il existe C = C(n, p) > 0 tel que:

56 Z

Moncef Toujani and Hèdi Ben Messaoud Z i i T ∧β p (z)∧ dt∧dt. T ∧β p (z)∧ dt∧dt ≤ ||π1∗ (T )||Ω×{|t|≤1} ≤ C. 2 2 Ω×{|t|≤1} Z Ω×{|t|≤1}

D’aprés le théorème de Fubini, il existe C1 > 0 tel que C1

Ω

||π1∗ (T )||ZΩ×{|t|≤1} ≤ CC1

Ω

T ∧ β p (z) ≤

T ∧ β p (z) ≤ C 0 ||T ||Ω ,

on reprend les techniques du cas: p > 1 on trouve le résultat. II Partie 2. Proposition II-1. Soit T un courant positif, psh ie (ddc T ≥ 0) de bidimension (p, p) dans un ouvert O ⊂ Cn , tel que 1 ≤ p ≤ n et soit v une fonction psh de classe C 2 , v ≥ −1 dans O, tel que O0 = {z ∈ O, v(z) < 0} soit relativement compact dans O. Soit K ⊂ O0 , un compact et soit CK = − sup v(z); alors pour tout entier 1 ≤ s ≤ p et z∈K

toute fonction u P sh C 2 quelconque dans O0 , vérifiant −1 ≤ u ≤ 0 on a : Z

c

K

p

T ∧ (dd u) ≤

−s CK

Z

O0

T ∧ (ddc v)s ∧ (ddc u)p−s + CK,O0 ||ddc T ||O0 ||v||s∞ (O0 )

avec CK,O0 une constante positive ne dépendant que de K et de O0 . o

0 Preuve. Soit Ω un ouvert et L un compact Z tels que O ⊂⊂ Ω ⊂⊂L . On désigne par

η(x)ddc T (x) ∧ h(z − x)β n−1 (z − x),

U le potentiel associé à ddc T, U (z) = −Cn

x∈Cn c dd |z|2 , η ∈

o

1 avec Cn > 0 et h(z) = |z|2n−2 , β(z) = D(L), 0 ≤ η ≤ 1 et η ≡ 1 dans Ω, le courant U est négatif de bidimension (p, p) et on a: ddc U = ηddc T + R avec R une forme C ∞ de bidegré (n − p + 1, n − p + 1). Quitte à choisir A > 0 tel que R + Aβ n−p+1 > 0, on peut supposer que la forme R est positive, et donc le courant T − U est positif de ddc négatif dans Ω. Posons CK = − sup v(z), soit s ∈ N tel que 1 ≤ s ≤ p et u une fonction psh, de classe z∈K

C 2 quelconque dansZO0 vérifiant: −1 ≤ u ≤ 0, d’aprés [BM-EL4] on a: Z Z −s c p c p T ∧ (dd u) ≤ (T − U ) ∧ (dd u) < CK (T − U ) ∧ (ddc v)s ∧ (ddc u)p−s . K

O0

K

D’aprés [BM-EL4], ∃C > 0 tel que: Z −U ∧ (ddc v)s ∧ (ddc u)p−s ≤ C||U ∧ (ddc v)s ||O0 ≤ C 0 ||U ||Ω ||v||s∞(Ω) , O0

avec C 0 > 0, d’où on a: Z Z −s T ∧ (ddc u)p ≤ CK K

O0

T ∧ (ddc v)s ∧ (ddc u)p−s + CK,L ||ddc T ||L ||v||s∞ (L).

Proposition II-2. Soit A un ensemble fermé pluripolaire complet d’un ouvert O ⊂ Cn , et T un courant positif, psh ie (ddc T ≥ 0) de bidimension (p, p) dans O \ A, tel que 1 ≤ p ≤ n et soit v une fonction psh de classe C 2 , v ≥ −1 dans O, tel que O0 = {z ∈ O, v(z) < 0} soit relativement compact dans O. Soit K ⊂ O0 un compact, et soit CK = − sup v(z); alors pour tout entier 1 ≤ s ≤ p et z∈K

Prolongement et Contrôle d’un Courant Négatif Psh par Ses Tranches

57

toute fonction u P sh C 2 quelconque dans O0 , vérifiant −1 ≤ u ≤ 0 on a : Z Z −s T ∧ (ddc u)p ≤ CK T ∧ (ddc v)s ∧ (ddc u)p−s + CK,O0 ||ddc T ||O0 \A ||v||s∞ (O0 ) O0 \A

K\A

avec CK,O0 une constante positive ne dépendant que de K et de O0 .

Preuve. Si ddc T est de masse infinie au voisinage de A, alors le résultat est vraie. c T existe et c’est un courant ] Si ddc T est de masse finie au voisinage de A, d’après [El] dd positif fermé. On suit les techniques de la proposition II-1, Soit Ω un ouvert et L un compact tels que: o c ] O0 ⊂⊂ Ω ⊂⊂ L Z . On désigne par U le potentiel associé à dd T , −1 c T (x) ∧ h(z − x)β n−1 (z − x), avec C > 0 et h(z) = ] U (z) = Cn η(x)dd , n |z|2n−2 x∈Cn ddc |z|2 , η ∈

o

β(z) = D(L), 0 ≤ η ≤ 1 et η ≡ 1 dans Ω, le courant T − U est positif de ddc -négatif dans Ω \ A. Z Z Z d’aprés [BM-EL3] on a: −s T ∧(ddc u)p ≤ (T −U )∧(ddc u)p ≤ CK (T −U )∧(ddc v)s ∧(ddc u)p−s . K\A

O0 \A

K\A

D’aprés [BM-EL4], ∃C > 0 tel que: Z Z −U ∧ (ddc v)s ∧ (ddc u)p−s ≤ O0 \A

O0

−U ∧ (ddc v)s ∧ (ddc u)p−s

≤ C||U ∧ (ddc v)s ||O0 ≤ C 0 ||U ||Ω ||v||s∞(Ω) , avec C 0 > 0, d’où on a: Z Z −s c T || ||v||s (L). ] T ∧ (ddc u)p ≤ CK T ∧ (ddc v)s ∧ (ddc u)p−s + CK,L ||dd L ∞ K\A

O0 \A

On Z aura donc: Z −s T ∧ (ddc u)p ≤ CK K\A

O0 \A

T ∧ (ddc v)s ∧ (ddc u)p−s + CK,L ||ddc T ||L\A ||v||s∞ (L).

Pour la suite, nous aurons besoin des notations suivantes: Soit αR1 ≥ 0 une fonction borélienne, à support compact dans la boule unitée de Ck , telle que: Ck α1 dλk = 1, pour 0 1 ε > 0 on pose α1,ε (z 0 ) = ε2k α1 ( zε ), et αε (z) = α1,ε (z 0 ).α2,ε (z 00 ), avec z = (z 0 , z 00 ) ∈ ∆k × ∆n−k , α2 ∈ D(∆n−k ) positive telle R 00 1 que: Cn−k α2 dλn−k = 1, et α2,ε (z 00 ) = ε2(n−k) α2 ( zε ). On note Tε = T ∗ αε . III Partie 3.

On est maintenant en mesure de prouver le théorème principal. Théorème principal III-1. soit A un ensemble fermé pluripolaire complet de ∆n , et T un courant négatif, psh, de bidimension (p,p) dans ∆n \ A supposons que : a) Il existe 0 ≤ r < 1 telle que T soit de masse localement finie au voisinage des points de {z ∈ ∆n /r < |z 00 |}. b) Il existe un ensemble non pluripolaire F ⊂ ∆k tel que pour tout a ∈ F la tranche < T, π, a > existe sur ∆n \ A, et soit de masse finie. Alors: L’extension triviale Te de T par zéro au dessus de A existe, et c’est un courant négatif psh. c T = ddc T e + S où S est un courant négatif fermé porté par A. ] De plus on a: dd Ce théorème généralise un théorème pour un courant positif fermé démontré dans [B.MEL4].

58

Moncef Toujani and Hèdi Ben Messaoud Le lemme suivant est dû à [BM-El4] (prop 3.3).

0 (∆n ) positif avec p ≥ k et soit a ∈ ∆k , alors: Lemme III-2. Soit T ∈ Dp,p si < T, π, a > existe =⇒ lim < Tε , π, a >=< T, π, a > faiblement. ε→o

Preuve du théorème III-1. On adapte les techniques de [B.M-EL4], en s’appuyant sur le lemme d’Égoroff pour palier à l’absence de Monge-Ampère, pour un courant positif ou négatif psh. Soit B = {a ∈ ∆k , < T, π, a > existe}, on a F ⊂ B, pour x ∈]r, 1[, soit Fx = F ∩x∆k , comme une réunion dénombrable d’ensembles pluripolaires est pluripolaire, il existe donc t ∈]r, 1[ tel que Ft soit non pluripolaire. Soit 1 > r0 > r1 > t d’après [Ze], il existe une fonction f psh négative dans r1 ∆n , C ∞ sur r1 ∆n \ A tel que: r1 ∆n ∩ A = {z ∈ r1 ∆n \f (z) = −∞}. Pour j ∈ N∗ , soit ψj ∈ D((r0 ∆n ) \ A) positive, et ψj ≡ 1 au voisinage de r1 ∆n ∩ {f > −2j}, et telle que (ψj )j croit vers la fonction caractéristique de (r0 ∆n ) \ A, soient fj (z) =< T, π, z > (ψj β p−k ), (β = ddc |z|2 ), fε,j (z) =< Tε , π, z > (ψj β p−k ), soit (ε(m))m∈N une suite de ]0, 1]2 et lim ε(m) = m→+∞

(0, 0), telle que: Tε(m) est bien définie au voisinage de Supp(ψj ) pour m ≥ j, d’après le lemme III-1 on a: lim < Tε , π, a >=< T, π, a > faiblement pour tout a ∈ B, et ε→o

on a: || < T, π, a > ||(r0 ∆n )\A = lim

lim fε(m),j (z).

j→+∞ m→+∞

Lemme III- 3. Avec les hypothèses du théorème précédent, il existe un compact K ⊂ r0 ∆k non pluripolaire et M ∈ N tels que: 1) Pour tout z 0 ∈ K, |fj (z 0 )| < M, || < T, π, z 0 > || < M 2) Pour tout j ∈ N∗ la suite fε(m),j converge uniformément sur K vers fj . Preuve. On utilise les techniques de [BM-EL1], Comme || < T, π, a > ||(r0 ∆n )\A = lim lim < Tε(m) , π, a > (ψj .β p−k ) j→+∞ m→+∞

pour tout a ∈ B, alors la fonction a → || < T, π, a > ||(r0 ∆n )\A est une fonction borélienne sur B, donc l’ensemble : H = {a ∈ B ∩ t∆k , || < T, π, a > ||(r0 ∆n )\A < +∞} [ = {a ∈ B ∩ t∆k , || < T, π, a > ||(r0 ∆n )\A < M } M ∈N

est un borélien non pluripolaire, car Ft ⊂ H, il existe M ∈ N tel que: L = {a ∈ B ∩ t∆k , || < T, π, a > ||(r0 ∆n )\A < M } est un borélien non pluripolaire, d’après [B-T] il existe un compact K0 non pluripolaire, (K0 ⊂ L ⊂ r0 ∆k ) tel que ∀a ∈ K0 , < T, π, a > existe sur ∆n \ A, et || < T, π, a > ||(r0 ∆n )\A ≤ M. \ Soit Ej = {z 0 ∈ t∆k ; lim fε(m),j (z 0 ); existe}, et E 0 = Ej , E 0 est un borélien. m→+∞

Soit EM =

\

0

0

j∈N

0

{z ∈ E , fj (z ) < M }, EM est un borélien non pluripolaire, et E = {z 0 ∈

j∈N

EM , lim fε(m),j = fj } est un borélien contenant L, il est donc non pluripolaire et on a m→+∞

K0 ⊂ E. Considérons la fonction définie sur ∆k par: uK0 (z) = sup{u(z), u psh négative sur ∆k et

Prolongement et Contrôle d’un Courant Négatif Psh par Ses Tranches u ≤ −1

sur

59

K0 }, et sa régularisée u∗K0 (z) = lim sup(uK0 (ξ)). ξ→z

u∗K0

u∗K0

D’après [B-T]: est psh sur −1 ≤ ≤ 0 et µK0 = (ddc u∗K0 )k est une mesure non nulle portée par K0 . La fonction z → fε(m),j (z) est continue pour chaque m ∈ N et on a: lim fε(m),j = fj , ∆k ,

m→+∞

d’après le théorème d’Égoroff, pour tout ε > 0 il existe une suite de compacts (Kj )j∈N de K0 tel que Kj ⊂ Kj−1 et 0 < µk0 (Kj−1 ) − µK0 (Kj ) < ε, choisissons cette suite (Kj ) (pour ε fixé) de la maniére suivante: µk0 (Kj ) > µk0 (Kj−1 )(1 − 41j ), \ de telle sorte que fε(m),j converge uniformément sur Kj . On a K = Kj est un compact j

non pluripolaire, et fε(m),j converge uniformément sur K vers fj .

Suite de la démonstration du théorème III-1. Par la formule de tranchage de [B.M-EL2] ou de Federer [Fe] on a:

uε(m),j

=

Z

(r0 ∆n )∩{f >−3j}

Z

Tε(m) ∧ (ddc u∗K )k ∧ ψj β p−k

< Tε(m) , π, z > (ψj β p−k )dµK ZK Z = fε(m),j (z)dµK → fj (z)dµK ≤ M µK (K). =

K

K

car fε(m),j converge uniformément sur K vers fj . Donc il existe mj > 0 tel que ∀m ≥ mj , on a: Z Z |uε(m),j | − | fj (z)dµK | ≤ |uε(m),j − fj (z)dµK | ≤ M. K

K

D’où : Z

r0 ∆n ∩{f >−3j}

−Tε(mj ) ∧ (ddc u∗K )k ∧ ψj β p−k ≤ M + M µK (K) = M1 .

Avec M1 indépendante de j, et donc

Z

r0

∆n ∩{f >−3j}

−Tε(mj ) ∧ (ddc u∗K )k ∧ β p−k ≤ M1 .

Quitte à considérer Tε(mj ) ∧ β p−k , on peut supposer p = k, d’autre part pour a < b deux réels dans ]r, r0 [, on considère la fonction v définie par: 1 00 2 2 n ∗ v(z) = max(u∗K (z), b2 −a 2 (|z | − b )) on a: −1 ≤ v < 0 dans b∆ , v = uK sur 00 {|z | ≤ a}, d’où on a: Z Z b∆n ∩{f >−3j}

+

Z |

−Tε(mj ) ∧ (ddc v)k =

|

−Tε(mj ) ∧ (ddc v)k . {z }

b∆k ×{a≤|z 00 |−3j} J

−Tε (mj ) ∧ (ddc u∗K )k {z }

b∆k ×{|z 00 |−3j}

I

l’intégrale I vérifie I ≤ M1 . Pour l’intégrale J on a T est de masse localement finie,

60

Moncef Toujani and Hèdi Ben Messaoud

au voisinage des points de C = {z ∈ ∆n \ r < |z 00 |}, donc Tε(mj ) est aussi de masse localement finie, au voisinage d’un ouvert Ωε(mj ) ⊂ C, et on a J ≤ c0 ||T ||C ||v||kC = M 0 , avec c0 une constante strictement positive d’où J ≤ M 0 , et donc on aura: Z b∆n ∩{f >−3j}

−Tε(mj ) ∧ (ddc v)k ≤ M1 + M 0 = M0 . Soit ε(mj ) tel que

{f > −4j} ∩ ∆n ⊂ ∆n \ A, et soit Kj = b∆n ∩ {f > −3j}, d’après la proposition (2-2) de [BM-EL4]Zon a: Z b∆n ∩{f >−3j}

−Tε(mj ) ∧ (ddc u)k ≤ c−s Kj

{f >−4j}∩b∆n

−Tε(mj ) ∧ (ddc v)k ≤ Mo0 , oú Mo0

ne dépend pas de j car cKj = − sup v ≤ 1, et où 1 ≤ s ≤ p, et u une fonction psh de Kj

classe

C2

dans Ωj =

b∆n

∩ {f > −4j} vérifiant −1 ≤ u < 0.

Pour terminer la démonstration du théorème, on utilise le lemme voir [De2]. Lemme III-3. Soit (hm ) une suite de fonctions semicontinues supérieurement sur un ouvert Ω ⊂ Cn , qui décroissent vers une fonction h. Et soit (µm )m une suite de mesures positives qui convergent faiblement vers une mesure µ sur Ω, alors: toute limite faible ν de la suite (hm µm ) vérifie:ν ≤ hµ. preuve. Soit K un compact, pour m0 fixé, il existe (gp )p une suite de fonctions continues, décroissantes tel que ∀x ∈ K, gp (x) & hm0 (x), donc pour m ≥ m0 et p ≥ m0 on a: hm µm ≤ hm0 µm ≤ gp µm , donc ν ≤ gp µ, en utilisant le théorème de convergence monotone, on aura: ν ≤ hm0 µ lorsque p → +∞, et donc ν ≤ hµ lorsque m0 → +∞.

Suite de la démonstration du théorème III-1. On a (µj = −Tε(mj ) ∧ (ddc u)k )j est une suite de mesures positives, qui convergent faiblement vers la mesure positive µ = −T ∧ (ddc u)k , et on a (hj = 1b∆n ∩{f >−3j} )j est une suite de fonctions semicontinues inférieurement, tel que hj % h = 1b∆Zn \A , donc d’après le lemme III-3 on a: Z b∆n \A

−T ∧ (ddc u)k ≤ lim inf j→+∞ avec r0 > r

∆n , quitte à travailler u(z) = |z|2 − 1 on aura: Z G\A

0,

b∆n ∩{f >−3j}

−Tε(mj ) ∧ (ddc u)k ≤ Mo0 . Soit G ⊂⊂

on peut supposer que G ⊂ r0 ∆n , appliquée, avec

−T ∧ β p < +∞, comme T est négatif on aura:

Z

G\A

T ∧ β p < +∞,

c T existe aussi, et ] (β = = k, ) et par conséquent Te existe. D’après [El-D-K] dd c c T = dd T e + S, avec S un courant négatif fermé porté par A. Comme ddc T est ] on a: dd c T est un courant positif, fermé, et donc ddc T e= ] un courant positif fermé d’après [EL], dd c T − S est positif, d’où T e est négatif psh. ] dd

ddc |z|2 , p

Théorème III-4. Soit A un ensemble fermé pluripolaire complet de ∆n et T un courant positif, psh, de bidimension (p, p), avec n ≥ p ≥ k + 1, dans ∆n \ A, supposons que: a) Il existe 0 ≤ r < 1 tel que T et ddc T soient de masse localement finie au voisinage des points de {z ∈ ∆n , r < |z 00 |}. b) Il existe un ensemble non pluripolaire F ⊂ ∆k tel que pour tout a ∈ F les tranches < T, π, a > et < ddc T, πa > existent sur ∆n \ A et soient de masse finie au voisinage des points de A. Alors: l’extension triviale Te de T par zéro au dessus de A, existe et c’est un courant positif,

Prolongement et Contrôle d’un Courant Négatif Psh par Ses Tranches

61

c T = ddc T e + S, ] de plus on a: dd où S est un courant positif fermé porté par A.

Remarque III 5. La condition p ≥ k + 1 est nécessaire. En effet on prend, dans C2 , le +∞ X 1 courant T = max[log(2|z1 |), 0] ddc log|z2 − |, et A = z2 = 0. k k=1

Preuve du théorème III-4. Le courant ddc T est positif, fermé, sur ∆n \A, et vérifie les c T existe, et c’est un courant positif, fermé. Soit ] conditions a) et b), d’après [B.M-EL4] dd c T , posons: Z = U − T, alors Z est un courant ] U le potentiel local associé au courant dd négatif psh en dehors de A et on a: < Z, π, a >=< U, π, a > − < T, π, a > . Comme < T, π, a > existe pour tout a ∈ F, avec F non pluripolaire dans ∆k , d’après [BM-EL4] < U, π, a > existe sauf sur un pluripolaire F1 , donc elle existe pour tout a ∈ F 0 = F \ F1 , avec F 0 non pluripolaire dans ∆k . Comme T est de masse localement finie, au voisinage des points de H1 = {z ∈ ∆n , r < |z 00 |}, Z = U − T aussi, Puisque on a: ||Z||H1 ≤ ||U ||H1 + ||T ||H1 , on sait d’après [BM-EL4] que : ||U ||H1 ≤ C||ddc T ||H2 , avec C une constante positive et H2 un voisinage de H1 dans ∆n . D’où ||Z||H1 ≤ C||ddc T ||H2 + ||T ||H1 . Puisque ||T ||H1 et ||ddc T ||H2 sont finies, on aura: ||Z||H1 finie, d’où Z vérifie les conditions du théorème principal, donc Ze existe et par conséquent Te existe et il est positif, de plus c T = ddc T e+S. ] d’après [El-D-K] il existe un courant S positif fermé, porté par A tel que: dd

Théorème III 6. Soient 0 < r < 1, A un ensemble fermé pluripolaire complet de ∆n et v une fonction psh dans (∆n \ A) ∪ {z ∈ ∆n ; |z 00 | > r}, telle qu’il existe un ensemble non pluripolaire F ⊂ ∆k tel que pour tout a ∈ F , la fonction v(a, .) se prolonge en une fonction psh sur ∆n−k . Alors v se prolonge en une fonction psh dans ∆n .

Preuve. Quitte à travailler avec la fonction ev , on peut supposer v ≥ 0. On considère ^ alors le courant défini par la fonction v. Soit v(a, .) le prolongement psh de v(a, .) alors c c ^ dd v(a, .) est le prolongement du courant dd v(a, .) et donc le courant positif fermé ddc v se prolonge à travers A. Le théorème 3 implique que ve définit un courant positif dans ∆n c v − ddc v g tel que S = dd e ≥ 0 est nul sur {|z 00 | > r} et ses tranches sont nulles au dessus d’un non pluripolaire; S est donc nul et ve est positif psh, donc v se prolonge en une fonction psh dans ∆n . Corollaire III 7. Soient 0 < r < 1, A un ensemble fermé pluripolaire complet de ∆n et f une fonction holomorphe dans (∆n \ A) ∪ {z ∈ ∆n ; |z 00 | > r}, telle qu’il existe un ensemble non pluripolaire F ⊂ ∆k tel que pour tout a ∈ F , la fonction f (a, .) se prolonge en une fonction holomorphe sur ∆n−k . Alors f se prolonge en une fonction holomorphe dans ∆n .

Preuve. On considère les fonctions pluriharmoniques définies sur \ A) ∪ {z ∈ ∆n ; |z 00 | > r} par v1 = Ref , et v2 = Imf . Quitte à travailler avec les fonctions ev1 et ev2 , on peut supposer v1 et v2 positives, alors d’après le théorème (III 6) v1 et v2 ont des prolongements pluriharmoniques ve1 et ve2 sur ∆n . Il en résulte que f admet un prolongement fe = ve1 + ive2 , C ∞ sur ∆n . Comme ∆n \ A est dense dans ∆n , on aura

(∆n

62

Moncef Toujani and Hèdi Ben Messaoud

∂ fe = 0. Et par conséquent f se prolonge en une fonction holomorphe dans ∆n .

Références

[BM-EL1] H Ben Messaoud, H El Mir: Tranches et prolongement des courants positifs fermés. CRAS Paris 1993, t 316, série I,pp.1173-1176. [BM-EL2] H Ben Messaoud, H El Mir: Opérateur de Monge-Ampère et formule de Tranchage pour un courant positif fermé. CRAS Paris 1995, t 321, série I, no. 3. [BM-EL3] H Ben Messaoud, H El Mir: Tranchage et Prolongement des courants positifs fermés, Maths, Ann. 307 (1997) 473-487. [BM-EL4] H Ben Messaoud, H El Mir: Opérateur de Monge-Ampère et Tranchage des courants Positifs Fermés, The Journal of Geometrie Analysis Volume 10, Number 1, 2000. [B-T] E.Bedford,B.A.Taylor:A new capacity for plurisubharmonic functions Acta Math. 149 1-41, (1982). [C-L-N] Chern-Levine-Nirenberg: Intrinstic norms on a complex manifolds. Global Analysis, Univ. of Tokyo Press 1969, pp 119-139. [De1] J-P Demailly: Potentiel theory in sevral complex variables, cours École d’été C.I.M.P.A, Nice, juillet 89. [De2] J-P Demailly: Monge-Ampère operator, Lelong numbers and intersection theory, Complex Analysis and Geometry V.Ancona A.Silva, CIRM, univ. de Trento (1991). [EL] H El Mir: Sur le prolongement des courants positifs fermés. Acta Math. 153 (1984) 1-45. [El-A] H El Mir, M Amamou: Sur le prolongement des courants positifs fermés avec conditions sur les tranches, Cras Paris 315, série I(1992),p. 777-780. [El-D-K] H El Mir, K Dabbec, F Elkhadhra: Extension of plurisubharmonic currents. Math. Z. 245, 455-481 (2003). [Fe] H.Federer: Geometric Measure Theory. Berlin, New-York, Springer, (1969). [Ok] O.Oka: Sur les fonctions analytiques de plusieurs variables, IX...Jap. J. Math., 32(1962). [S] N Sibony: Quelques problèmes de prolongements de courants en analyse complexe, Duke Math. J., 52, 157-197, (1985). [Si] Y.T.SIU: Extension of meromorphic maps into K¨ ahler manifolds, Ann. of math., 102, 1975. [Ze] A Zeriahi: Ensembles pluripolaires exceptionnels pour la croissance partielle des fonctions holomorphes. Ann. Polon. Math., 50(1989), 81-91.

In: Proceedings of the Tunisian Mathematical Society... ISBN 1-60021-014-7 c 2007 Nova Science Publishers, Inc. Editor: K. Trim´eche and S. Zarati, pp. 63-70

Chapter 6

A N (Lp, Lq ) V ERSION OF M ORGAN ’ S T HEOREM ´ BLI -T RIM E` CHE H YPERGROUPS ∗ ON C H E Latifa Bou Attour† Faculty of Sciences of Tunis, Department of Mathematics Campus, 1060 Tunis, Tunisia

Abstract We give in this paper an (Lp , Lq ) Version of Morgan’s theorem for Ch´ebliTrim`eche Hypergroups (R+ , ∗(A)).

Keywords: Ch´ebli-Trim`eche hypergroups - Morgan’s theorem AMS Subject Classifications: 43A62-44A15

1.

Introduction

A famous theorem obtained by Morgan [4] starts that for α > 2 and β = measurable function on R such that for some constants a > 0 and b > 0:

α α−1 ,

if f is a

α β ea|x| f ∈ L∞ (R) and eb|y| fˆ ∈ L∞ (R),

where fˆ is the classical Fourier transform on R of f and L∞ (R) the Lebesgue space, then 1 1 1 f = 0 a.e. if and only if (aα) α (bβ) β > (sin π2 (β − 1)) β . This question has been studied in many situations. S.C.Bagchi and S.K.Ray have proved this theorem, for the Heisenberg group with only a sufficient condition on a and b (see [1]). J.Sengupta has obtained a similar result by using the Radon transform on Riemannian symmetric spaces of non compact type 1 1 with only the sufficient condition (aα) α (bβ) β > 1 (see[5]). In the frame of this work, we establish an (Lp , Lq ) version of Morgan’s theorem for the generalized Fourier transform F on (R+ , ∗(A)). More precisely, we prove that for ∗ †

This work was partially supported by the ”Unit´e de recherche /./.. E-mail address: [email protected]

64

Latifa Bou Attour

α p, q ∈ [1, +∞], α > 2 and β = α−1 , if f is a measurable function on R+ satisfying the conditions α β eax f ∈ Lp (A(x)dx) and eby F(f ) ∈ Lq (|c(λ)|−2 dλ),

where Lp (A(x)dx) and Lq (|c(λ)|−2 dλ) are Lebesgue spaces on R+ with respectively the 1 1 1 measures A(x)dx and |c(λ)|−2 dλ, then, f = 0 a.e. if (aα) α (bβ) β > (sin π2 (β − 1)) β . The sharpness of this condition is proved for the the Bessel-Kingman and Jacobi hypergroups which are particular cases of Ch´ebli-Trim`eche hypergroups (R+ , ∗(A)) of polynomial and exponential growths. Recently, S.Ben Farah and K.Mokni have given an (Lp , Lq ) version of Morgan’s theorem for the real line R and they extend this result to Euclidian space Rn , to the Heisenberg group and to the non compact real Symmetric spaces (see [2]). This work is organized as follows In section 2 we outline some basic definitions and results on Ch´ebli-Trim`eche hypergroups (R+ , ∗(A)). In particular we give the main properties of the generalized Fourier transform on (R+ , ∗(A)) which we shall use in the sequel. In the last section, we establish an (Lp , Lq ) version of Morgan’s theorem on Ch´ebliTrim`eche hypergroups of exponential and polynomial growths.

2.

Preliminaries on Ch´ebli-Trim`eche Hypergroups

2.1.

Ch´ebli-Trim`eche Hypergroups (R+ , ∗(A))

Let A be the Ch´ebli-Trim`eche function defined on R+ and satisfying the following conditions (see [6] chap.6): i) A(x) = x2α+1 B(x), with α > − 12 , and B an even C ∞ -function on R such that B(x) ≥ 1 for all x ∈ R+ . ii) A is increasing and unbounded. iii)

A0 A

is decreasing on R∗+ =]0, ∞[ and limx→+∞

A0 (x) A(x)

= 2ρ ≥ 0.

iv) There exists a constant γ > 0 such that for all x ∈ [x0 , +∞[, x0 > 0, we have  A0 (x) 2ρ + e−γx F (x) if ρ > 0, = 2α+1 −γx F (x) if ρ = 0, A(x) x +e where F is a C ∞ -function bounded together with its derivatives. We consider the Ch´ebli-Trim`eche hypergroup (R+ , ∗(A)), associated with the function A. We note that it is commutative with neutral element 0 and the identity mapping is the involution . The Haar measure m on (R+ , ∗(A)) is absolutely continuous with respect to the Lebesgue measure and can be chosen to have the Lebesgue density A. Remark If the function A is of the form A(x) = x2α+1 with α > − 21 and ρ = 0, (R+ , ∗(A)) is called the Bessel-Kingman hypergroup and if A(x) = 22ρ (shx)2α+1 (chx)2β+1 , with

An (Lp , Lq ) Version of Morgan’s Theorem on Ch´ebli-Trim`eche Hypergroups

65

α ≥ β ≥ − 12 , α 6= − 21 and ρ = α + β + 1, (R+ , ∗(A)) is called the Jacobi hypergroup. Let ∆ = ∆A be the differential operator on R∗+ given by ∆=

d2 A0 d , + dx2 A dx

the solutions ϕλ , λ ∈ C, of the differential equation  ∆ϕλ (x) = −(λ2 + ρ2 )ϕλ (x), d ϕλ (0) = 1, dx ϕλ (0) = 0. are mutliplicative on (R+ , ∗(A)) in the sense that Z ∀ x, y ∈ R∗+ , ϕλ (t)d(εx ∗ εy )(t) = ϕλ (x)ϕλ (y), R+

where εx is the point mass at x and εx ∗ εy is a probability measure which is absolutely continuous with respect to the measure m and satisfies supp εx ∗ εy ⊂ [|x − y|, x + y]. ˆ + = {ϕλ , λ ∈ R+ ∪ i[0, ρ]}. It is convenient to The dual of (R+ , ∗(A)) is given by R ˆ + with the set of parameters R+ ∪ i[0, ρ]. identify R We recall now some properties of the characters ϕλ of (R+ , ∗(A)) (see[6] chap.6). i) For each λ ∈ C, ϕλ is an even C ∞ -function on R and λ 7→ ϕλ (x) is entire on C.(2.1) ii) For all x ∈ R+ and λ ∈ C such that |Imλ| ≤ ρ we have |ϕλ (x)| ≤ 1.

(2.2)

iii) For all x ∈ R+ and λ ∈ C we have |ϕλ (x)| ≤ ϕiImλ (x) ≤ e|Imλ|x ϕ0 (x).

(2.3)

iv) For all x ∈ R+ we have - If ρ = 0, ϕ0 (x) = 1.

(2.4)

e−ρx

- If ρ > 0, ≤ ϕ0 (x) ≤ C0 (1 + where C0 is a positive constant.

2.2.

x)e−ρx ,

The Generalized Fourier Transform on (R+ , ∗(A))

Notations. We denote by - Lp (A(x)dx), p ∈ [1, +∞], the space of measurable functions f on R+ such that Z 1/p kf kp,A = |f (x)|p A(x)dx < ∞, if p ∈ [1, ∞[, R+

kf k∞,A = ess sup |f (x)| < +∞. x∈R+

(2.5)

66

Latifa Bou Attour

- Lp (|c(λ)|−2 dλ), p ∈ [1, +∞], the space of measurable functions f on R+ satisfying Z 1/p kf kp,c = |f (λ)|p |c(λ)|−2 dλ < ∞, if p ∈ [1, ∞[, R+

kf k∞,c = ess sup |f (λ)| < +∞, λ∈R+

where |c(λ)|−2 is a continuous function on [0, +∞[. The generalized Fourier transform of f in L1 (A(x)dx) is defined by Z ∀ λ ∈ R+ , F(f )(λ) = f (x)ϕλ (x)A(x)dx. R+

Theorem 2.1. Let f be in L1 (A(x)dx) such that F(f ) belongs to L1 (|c(λ)|−2 dλ). Then we have the following inversion formula for the transform F: Z +∞ f (x) = F(f )(λ)ϕλ (x)|c(λ)|−2 dλ a.e. 0

3.

Morgan’s Theorem on (R+ , ∗(A))

In this section we establish an (Lp , Lq ) version of Morgan’s theorem on (R+ , ∗(A)). More precisely we have the following result. α Theorem 3.1. We suppose ρ ≥ 0. Let 1 ≤ p, q ≤ ∞, a > 0, b > 0, α > 2 and β = α−1 such that (aα)1/α (bβ)1/β > (sin π2 (β − 1))1/β , then for all measurable function f on R+ satisfying the conditions α

β

keax f kp,A < +∞ and keby F(f )kq,c < +∞,

(3.1)

we have f = 0. a.e. We need the following lemmas for the proof of this theorem. The first lemma proved in [2] is an Lp -version of the Phragmen-Lindel¨off lemma [3]. Lemma 3.1. Let 1 ≤ p ≤ ∞. Suppose that s ∈]1, 2[, σ > 0 and B > σ sin π2 (s − 1). We consider g an even entire function on C such that s

∀ z ∈ C, |g(z)| ≤ cste eσ|(Imz)| , and

s

keB|Rez| g/R+ kp,c < ∞, then g ≡ 0 on C.

(3.2)

(3.3)

An (Lp , Lq ) Version of Morgan’s Theorem on Ch´ebli-Trim`eche Hypergroups −1

1

67 1

Lemma 3.2. We suppose ρ ≥ 0. Let 1 ≤ p ≤ ∞, C ∈ ](bβ) β (sin π2 (β − 1)) β , (aα) α [ α and f be a measurable function on R+ such that keax f kp,A is finite, for some a > 0. Then the function F(f ) defined on C by Z F(f )(λ) = f (x)ϕλ (x)A(x)dx, R+

is well defined, even, entire on C and satisfies β /βC β

∀ ξ, η ∈ R, |F(f )(ξ + iη)| ≤ cste e|η|

.

(3.4)

Proof The first assertion follows from H¨older’s inequality by using (2.1) and the derivation theorem under the integral sign. We prove now the inequality (3.4) for ρ ≥ 0. -1st case: ρ > 0. • If p = 1, We deduce from (2.2) and (2.3) that for all ξ, η ∈ R : Z α α |F(f )(ξ + iη)| ≤ eax |f (x)|e−ax e|η|x A(x)dx. R+

By applying the convex inequality |Λθ| ≤ Λ = Cx and θ = |η|/C we obtain |η|x ≤

1 α α |Λ|

+ β1 |θ|β to the positive numbers

Cα α 1 x + |η|β . α βC β

(3.5)

So, for all ξ, η ∈ R: |η|β /βC β

|F(f )(ξ + iη)| ≤ e

Z

α

eax |f (x)|e−(a−C

α /α)xα

A(x)dx,

R+

β /βC β

≤ e|η|

α

keax f k1,A .

• If 1 < p ≤ ∞, α Since eax f ∈ Lp (A(x)dx), we deduce from (2.5) and H¨older’s inequality that for all ξ, η ∈ R : Z 0 α 0 0 0 α |F(f )(ξ + iη)| ≤ C0 ( e−ap x (1 + x)p ep (|η|−ρ)x A(x)dx)1/p keax f kp,A , R+

where p0 is the conjugate exponent of p and C0 > 0. By using the properties of the function A , we have Z 0 0 α 0 (1 + x)p e−ap x ep (|η|−ρ)x A(x)dx ≤ I1 + I2 , R+

(3.6)

68

Latifa Bou Attour where for k > 0: 0

I1 = (1 + k)p A(k) and I2 = M

Z

∞

Z

k

0 α

0

e−ap x ep |η|x A(x)dx,

0

0

0 α

0

ρ) p0 x(|η|+ 2−p p0

(1 + x)p e−ap x e

dx,

k

with M a positive constant. By using (3.5) we obtain Z k 0 0 β β 0 α α I1 ≤ (1 + k)p A(k)ep |η| /βC e−p x (a−C /α) dx, 0

≤

p0 |η|β /βC β

cste e

.

(3.7)

and p0 |η|β /βC β

I2 ≤ M e

p0 |η|β /βC β

≤ Me

∞

Z

Zk ∞

0

0

Cα )xα α

e(2−p )ρx dx,

0

0

Cα )xα α

e(2−p )ρx dx.

(1 + x)p e−p (a− (1 + x)p e−p (a−

0

0

0

Since α > 2 and a −

C α /α

> 0, the right integral is finite. Thus 0

β /βC β

I2 ≤ cste ep |η|

.

(3.8)

We deduce from (3.7) and (3.8) that for all ξ, η ∈ R : β /βC β

|F(f )(ξ + iη)| ≤ cste e|η|

.

We deduce (3.4) from this inequality and (3.6). -2nd case: ρ = 0. From (2.3), (2.4) and H¨older’s inequality, for all ξ, η ∈ R, we have Z ∞ Cα α 0 α 0 |η|β /βC β |F(f )(ξ + iη)| ≤ e ( e−p (a− α )x A(x)dx)1/p keax f kp,A , 0

p0

where is the conjugate exponent of p. By using the properties of the function A and the fact that a − C α /α > 0, the right integral α is finite, and since keax f kp,A < ∞, then we obtain (3.4). ♦ Proof of Theorem 3.1. Let f be a measurable function on R+ which verifies the conditions (3.1). From Lemma 3.2, the function F(f ) is entire on C , even and satisfies the hypothesis (3.2) and (3.3) of lemma 3.1, with s = β, σ = 1/βC β and B = b. As C ∈ ](bβ)−1/β (sin π2 (β − 1))1/β , (aα)1/α [, b verifies the inequality b > βC1 β sin π2 (β − 1). Then from Lemma 3.1, we have F(f )(λ) = 0 on C. Thus ∀ λ ∈ R+ , F(f )(λ) = 0.

An (Lp , Lq ) Version of Morgan’s Theorem on Ch´ebli-Trim`eche Hypergroups Using Theorem 2.1, we deduce that f = 0 a.e. This completes the proof.

69 ♦

Now, we show that when (aα)1/α (bβ)1/β < (sin π2 (β − 1))1/β , there are non-zero functions f verifying the conditions (3.1). More precisely we have the following Theorem. Theorem 3.2. i) For the Jacobi hypergroup (R+ , ∗(A)) associated with the function A(x) = sinh2 x and ρ = 1, there exists a non-zero C ∞ -function f on ]0, ∞[ satisfying (3.1). ii) For the Bessel-Kingmann hypergroup (R+ , ∗(A)) associated with the function A(x) = x2 and ρ = 0 there exists a non-zero C ∞ -function f on ]0, ∞[ satisfying (3.1). For the proof of this Theorem, we shall use the same arguments given in the proof of Proposition 5.1, p.15 of [2]. We also need the following lemma proved in ([2], p.7). α Lemma 3.3. Let 1 ≤ p, q ≤ ∞, a > 0, b > 0, α > 2 and β = α−1 . If (aα)1/α (bβ)1/β ≤ (sin π2 (β − 1))1/β , then there are infinitely many measurable even functions on R such that α β ea|x| f ∈ Lp (R) and eb|λ| fˆ ∈ Lq (R),

where ∧ is the classical Fourier transform on R and Lp (R) the Lebesgue space with norm k.kp . Proof of Theorem 3.2. i) In this case we have ∀ x > 0, λ ∈ C∗ , ϕλ (x) =

sin(λx) , λshx

and ∀ λ ≥ 0, |c(λ)|−2 = λ2 . Then, the generalized Fourier transform on this Jacobi hypergroup, is given for f in L1 (A(x)dx) by: Z 4 ∞ ∗ ∀ λ ∈ R+ , F(f )(λ) = f (x)shx sin(λx)dx. (3.9) λ 0 Let a0 , a00 , b0 such that a0 > a00 > a, b0 > b and (a0 α)1/α (b0 β)1/β < (sin π2 (β − 1))1/β . From Lemma 3.3, there exists a non-zero, even measurable function h on R satisfying 0 α 0 β ˆ q < ∞. kea |x| hkp < ∞ and keb |λ| hk (3.10) Let g = h∗k, the classical convolution product of h and an odd, compactly supported C ∞ -function k on R. It’s easy to see, by using the first condition of (3.10), that

70

Latifa Bou Attour ∞ kea |x| gkp < +∞. Then, the function f (x) = g(x) shx is an even C -function on R such that α keax f kp,A < +∞. 00

α

Furthermore, from (3.9) we have F(f )(λ) = λ4 g(λ), where g is an odd, C ∞ -function on R, thus by using the second condition of (3.10) we obtain β

kebλ F(f )kq,c < +∞. ii) In this case we have ∀ x ≥ 0, λ ∈ C∗ , ϕλ (x) = and −2

∀ λ > 0, |c(λ)| then ∀ λ∈

R∗+ ,

1 F(f )(λ) = λ

Z

=

r

sin(λx) , λx 2 2 λ , π

∞

f (x)x sin(λx)dx.

0

By using the same arguments as above with the function g of the i) and the function f (x) = g(x) ♦ x , we show that the conditions (3.1) are satisfied.

References [1] S.C.Bagchi and S.K.Ray. Uncertainty principles like Hardy’s theorem on some Lie groups. J. Austral. Math. Soc. Series A, 65, (1999), 289-302. [2] S.Ben Farah and K.Mokni. Uncertainty principle and (Lp , Lq ) Version of Morgan’s theorem on some Groups. Russian Journal of Mathematical Physics, Vol.10, N3, (2003), 245-260. [3] V.Havin and B.J¨oricke. The Uncertainty principle in Harmonic Analysis.A Series of Modern Surveys in Mathematics, (1994),Vol.28.Springer-Verlag Berlin Heidelberg. [4] G.W.Morgan. A note on Fourier transforms. J.London. Math. Soc, (1934),Vol.9, 178-192. [5] J.Sengupta. The Uncertainty principle on Riemannian Symmetric Spaces of the non compact type. Proc.Amer. Math. Soc,(2002),Vol.130, N4, 1009-1017. [6] K.Trim`eche.Generalized Wavelets on Hypergroups. Gordon and Breach Science Publishers (1997).

In: Proceedings of the Tunisian Mathematical Society... ISBN 1-60021-014-7 c 2007 Nova Science Publishers, Inc. Editor: K. Triméche and S. Zarati, pp. 71-87

Chapter 7

D ISTRIBUTIONAL JACOBI -D UNKL T RANSFORM AND A PPLICATIONS Hassen Ben Mohamed and Hatem Mejjaoli Faculty of Sciences of Tunis, Department of Mathematics Campus, 1060 Tunis, Tunisia Abstract In this paper, we study the Jacobi-Dunkl transform on new spaces of distributions. Boundedness, uniqueness, smoothness, and inversion theorems are established for this transform. Finally we give some applications.

Keywords: Jacobi-Dunkl operator, Jacobi-Dunkl transform. AMS Subject Classifications: 46F12.

1.

Introduction

F.Chouchane, M.Mili and K.Trimèche [4] introduced the Jacobi-Dunkl transform Fα,β given by Z Fα,β (f )(λ) = ψλα,β (x)f (x)Aα,β (x)dx, λ ∈ R, R

ψλα,β

where for every λ ∈ C, I (

represent the unique solution of the system

Λα,β ψλα,β (x) = −iλψλα,β (x), λ ∈ C, I α,β = 1, ψλ (0)

(1)

and Λα,β denotes the differential-difference operator on R, given by Λα,β f (x) =

d f (x) − f (−x) f (x) + [(2α + 1) coth x + (2β + 1) tanh x] , dx 2

−1 with α ≥ β ≥ −1 2 , α 6= 2 . This operator is called the Jacobi-Dunkl operator (see [4]). It can also be written in the form

Λα,β f (x) =

A0α,β (x) f (x) − f (−x) d f (x) + ( ), dx Aα,β (x) 2

(2)

72

Hassen Ben Mohamed and Hatem Mejjaoli

where Aα,β (x) = 22ρ (sinh |x|)2α+1 (cosh |x|)2β+1 , ρ = α + β + 1.(See [4]). We mention that the transform Fα,β has been studied in [4] [5]. Motivated by the studies of J.J.Betancor, J.D.Betancor and J.M.R.Mendez [2], we define in this paper new distribution spaces and we investigate the Jacobi-Dunkl transform on these spaces. As applications, we study an operational calculus for the Jacobi-Dunkl transform and we solve a distributional differential-difference equation. The contents of the paper is as follow In section two we recall some basic facts about Jacobi-Dunkl’s theory. We describe Jacobi-Dunkl operator, Jacobi-Dunkl kernel and we give the main results for the JacobiDunkl transform. We introduce in the third section the new distribution spaces and we give their properties. In the fourth section, we establish boundedness, uniqueness, smoothness, and inversion theorems for the Jacobi-Dunkl transform Fα,β on the new distribution spaces. The fifth section is devoted to study the existence of solutions of an abstract differentialdifference equation. Throughout this paper by C we always represent a positive constant not necessarily the same in each occurrence.

2.

Harmonic Analysis Associated with the Jacobi-Dunkl Operator

In this section we collect some notations and results about the Jacobi-Dunkl operator, the Jacobi-Dunkl kernel and the Jacobi-Dunkl transform (see [4] ).

2.1.

The Jacobi-Dunkl Kernel

Theorem 1 The differential-difference equation  Λα,β u(x) = −iλu(x), λ ∈ C, I u(0) = 1, admits a unique C ∞ - solution ψλα,β on R given by ( (α,β) d (α,β) ϕµ (x), ϕµ (x) + λi dx α,β ψλ (x) = 1, (α,β)

with λ2 = µ2 + ρ2 and ϕµ

if if

(3)

λ ∈ C\{0}, I λ = 0,

(4)

the Jacobi function given by

ϕ(α,β) (x) = 2 F1 ( µ

% + iµ % − iµ , ; α + 1; −(sinh x)2 ), 2 2

where 2 F1 is the Gauss hypergeometric function (see [4],[9]).

(5)

Distributional Jacobi-Dunkl Transform and Applications

73

Remark. The function ψλα,β is called Jacobi-Dunkl kernel. Using the relation (α,β)

∀ x ∈ R,

dϕµ (x) µ2 + %2 =− sinh x cosh xϕ(α+1,β+1) (x), µ dx 2(α + 1)

(6)

the function ψλα,β can be written in the form ∀ x ∈ R, ψλα,β (x) = ϕ(α,β) (x) + 4i(α + 1)λ sinh(2x)ϕ(α+1,β+1) (x). µ µ

(7)

Theorem 2 For all x ∈ R\{0} and λ ∈ C, I the function ψλα,β has the Laplace integral representation Z |x| α,β ψλ (x) = K(x, y)e−iλy dy, (8) −|x|

where K(x, .) is a positive function on R, continuous on ]−|x|, |x|[, supported in [−|x|, |x|] and for |y| < |x|, we have ! Z |x| sgn(x) ∂ 1 K(t, y)Aα,β (t)dt , (9) K(x, y) = K(|x|, y) − 2 2Aα,β (x) ∂y |y| where K is given by the relation ∀ x > 0,

ϕ(α,β) (x) µ

=

Z

x

K(x, y) cos(µy)dy.

0

The next proposition give some properties of the Jacobi-Dunkl kernel. Proposition 3 i) We have ∀ x ∈ R\{0},

Z

K(x, y)dy = 1.

(10)

R

ii) For all n ∈ IN , x ∈ R and λ ∈ C, I we have |

dn α,β ψ (x)| ≤ |x|n e|Imλ||x| . dλn λ

(11)

iii) For all n ∈ IN , there exists a constant Cn > 0 such that ∀ x ∈ R, λ ∈ R\{0}, |

dn α,β (1 + ρ + |λ|)n+2 −%|x| ψ (x)| ≤ C (1 + |x|) e . n dxn λ |λ|

(12)

iν) Let G = {(λ, µ) ∈ C I 2 /λ2 = µ2 + ρ2 , (Reλ)2 + 2ρ|Imλ| > (Reµ)2 }. There there exists a constant M > 0 such that for all x ∈ R and (λ, µ) ∈ G, we have |Imµ| − ρ < |Imλ|.

(13)

|ψλα,β (x)| ≤ M (1 + ρ)(1 + |λ|−1 )(1 + |x|)e(|Imµ|−ρ)|x| .

(14)

74

Hassen Ben Mohamed and Hatem Mejjaoli

2.2.

The Jacobi-Dunkl Transform

Notations. We denote by • Lpα,β (R), the space of measurable functions on R such that Z 1 ||f ||p,α,β = ( |f (x)|p Aα,β (x)dx) p < +∞, if 1 ≤ p < +∞, R

||f ||∞,α,β = ess supx∈R |f (x)| < +∞. • Lpcα,β ([0, +∞[), the space of measurable functions on [0, +∞[ such that Z 1 dx ||f ||p,cα,β = ( |f (x)|p ) p < +∞, if 1 ≤ p < +∞, 2 2π|cα,β (x)| [0,+∞[ ||f ||∞,cα,β

= ess supx∈[0,+∞[ |f (x)| < +∞,

where cα,β (µ) =

2ρ−iµ Γ(α + 1)Γ(iµ) , µ ∈ C\{iI I N }. Γ( 12 (ρ + iµ))Γ( 12 (α − β + 1 + iµ))

(15)

• Lpσ (R), p ≥ 1 the space of measurable functions f on R such that Z 1 ||f ||p,σ = ( |f (x)|p dσ(x)) p < +∞, R

where dσ is the measure given by dσ(λ) =

|λ|dλ p p 1R\]−ρ,ρ[ (λ)dλ. 2 2 8π λ − ρ |cα,β ( λ2 − ρ2 )|

(16)

Here 1R\]−ρ,ρ[ is the characteristic function of R\] − ρ, ρ[. • D(R), the space of C ∞ -functions on R with compact support. • D0 (R), the space of distributions on R. It is the topological dual of D(R). • H(I C), the space of entire functions on C, I rapidly decreasing of exponential type. • S r (R), 0 < r ≤ 1, the generalized Schwartz space defined by S r (R) = (cosh x)

−2% r

S(R),

with S(R) designate the classical Schwartz space. r , (m, n) ∈ IN 2 , where The topology of the space S r (R) is given by the seminorms Pm,n r Pm,n (f ) =

sup x∈R 0≤k≤n

2%

(cosh x) r (1 + x2 )m |

dk f (x)| < +∞. dxk

• Ωε(r) = {z ∈ C/|Imz| I ≤ ε(r)}, ε(r) = 2( 1r − 1)%, 0 < r ≤ 1. • S(Ωε(r) ), 0 < r ≤ 1, the extended Schwartz space of functions h that are analytic in

Distributional Jacobi-Dunkl Transform and Applications

75

the interior of Ωε(r) and such that h together with all its derivatives extended continuously to Ωε(r) and satisfy ε ∀ (m, n) ∈ IN 2 , τm,n (h) = sup [(1 + |λ|m )|h(n) (λ)|] < +∞. λ∈Ωε(r)

• S(ε(r)), 0 < r ≤ 1, the space of C ∞ -functions f on R such that ∀ m, n ∈ IN, Qrm,n (f ) =

[eε(r)|x| (1 + x2 )m |

sup x∈R 0≤k≤n

dk f (x)|] < +∞. dxk

The topology of this space is given by the seminorms Qrm,n , (m, n) ∈ IN 2 . Definition 4 The Jacobi-Dunkl transform of a function f in D(R) is defined by Z ∀λ ∈ C, I Fα,β (f )(λ) = f (x)ψλα,β (x)Aα,β (x)dx.

(17)

R

Theorem 5 i) (Plancherel formula) Z Z ∀ f ∈ D(R), |f (x)|2 Aα,β (x)dx = |Fα,β f (λ)|2 dσ(λ). R

(18)

R

ii) (Plancherel Theorem) The Jacobi-Dunkl transform Fα,β extends uniquely to an unitary isomorphism from L2α,β (R) onto L2σ (R). Theorem 6 Let f be in L1α,β (R) such that Fα,β (f ) belongs to L1σ (R), then we have the following inversion formula Z α,β f (x) = Fα,β f (λ)ψ−λ (x)dσ(λ), a.e. x ∈ R. (19) R

Proposition 7 Let f be in E(R). Then i)For all n ∈ IN ∗ and K > 0, there exists kn ∈ IN and C > 0 satisfying the following: For all x ∈ [−K, K] there exists ξj = ξj (x, n), j = 0, 1, ..., kn such that |Λnα,β f (x)|

kn n n−1 n X X X X (i) (i) ≤ C( |f (x)| + |f (−x)| + |f (i) (ξj )|). i=0

i=0

(20)

i=0 j=0

ii) For all n ∈ IN ∗ and K > 0, there exists a positive constant C > 0 such that for all x ∈ K with |x| > R: |Λnα,β f (x)|

n n−1 X X (i) ≤ C( |f (x)| + |f (i) (−x)|). i=0

iii)Let g be in D(R) and n ∈ IN , we have Z Z n n Λα,β f (x)g(x)Aα,β (x)dx = (−1) f (x)Λnα,β g(x)Aα,β (x)dx. R

(21)

i=0

R

(22)

76

Hassen Ben Mohamed and Hatem Mejjaoli

Theorem 8 The Jacobi-Dunkl transform Fα,β on R is a topological isomorphism i) From D(R) onto H(I C) ii) From S r (R) onto S(Ωε(r) ), 0 < r ≤ 1. The inverse transform is given by Z α,β −1 ∀ x ∈ R, Fα,β (f )(x) = h(λ)ψ−λ (x)dσ(λ).

(23)

R

Definition 9 Let T be in (S(Ωε(r) ))0 , the topological dual space of S r (R). The JacobiDunkl transform Fα,β T of T is defined by hFα,β T, Fα,β φi = hT, φi, φ ∈ S r (R).

3.

(24)

The Spaces Hχ of Functions and Their Dual Let χ be a continuous differentiable function on R which is zero free on R and satisfies  χ(x) = o(x−3 ), as |x| → ∞ χ0 (x) = o(x−3 ), as |x| → ∞.

Notation We denote by Hχ the space of functions φ in E(R), such that ∀ m ∈ IN, pm (φ) = sup |χ(x) x∈R

dm φ(x)| < ∞. dxm

The topology of this space is given by the seminorms {pm }m∈IN . Standard arguments allow us to see that Hχ is a Fréchet space. We now give an alternative description of the space Hχ that will be useful in the sequel. Proposition 10 Let φ be in E(R). Then φ ∈ Hχ if and only if, for every m ∈ IN , qm (φ) = sup |χ(x)Λm α,β φ(x)| < ∞. x∈R

Moreover, the system of seminorms {qm }m∈IN generates the topology of Hχ . Proof. Suppose first that φ ∈ Hχ . Then, according to Proposition 2.7, it is easy to see that for all m ∈ IN, there exists a positive constant Cm such that qm (φ) ≤ Cm pm (φ).

(25)

∀m ∈ IN, qm (φ) < +∞.

(26)

Then This implies that {qm }m∈IN defines on Hχ a topology weaker than the one associated with {pm }m∈IN . Reciprocally, we consider φ in E(R) satisfying the condition (26). From (2) we obtain ∀ x ∈ R , |x| ≥ 1, |χ(x)||Λα,β φ(x) − φ0 (x)| ≤ Cq0 (φ).

Distributional Jacobi-Dunkl Transform and Applications

77

d On the other hand since q1 (φ) < +∞ and as the function x 7−→ χ(x) dx φ(x) is bounded d on [−1, 1] , we deduce that the function x 7−→ χ(x) dx φ(x) is bounded on R and then p1 (φ) < +∞. The relation (2) and a proof by induction show that for all n ∈ IN ∗ and x ∈ R∗ , we have

Λnα,β φ(x) = φn (x) +

n−1 X

Pn−i (coth x, tanh x)φ(i) (x)

i=0

Qn−i (tanh x, coth x)φ(i) (−x)),

+

(27)

where Pn−i (., .), and Qn−i (., .) are polynomials of degree n − i with respect each variable. We suppose now that for all j ∈ {0, 1, ..., k − 1} , k ≥ 2, pj (φ) < +∞. Then according (27), we show that for all k ∈ IN, k ≥ 2, there exists a positive constant Ck such that ∀ x ∈ R, |x| ≥ 1,

|χ(x)||Λkα,β φ(x)

k−1 X dk − k φ(x)| ≤ Ck pj (φ). dx j=1

k

d On the other hand for all k ∈ IN, the function x 7−→ χ(x) dx k φ(x) is bounded on k

d [−1, 1] . Then for all k ∈ IN, the function x 7−→ χ(x) dx k φ(x) is bounded on R. Thus ∀k ∈ IN, pk (φ) < +∞.

Moreover, by arguing in a standard way (see [2]) we can see that the families {qk }k∈IN define Fréchet topology on Hχ , then from (25) and the open mapping theorem, {pk }k∈IN and {qk }k∈IN generate the same topology on Hχ . Notation. We denote by Hχ , the closure of D(R) in Hχ . Proposition 11 The space Hχ , does not coincide with Hχ . Proof. We consider the function φ defined by ∀ x ∈ R, φ(x) = 1 + x3 . It is easy to see that ∀k ∈ IN, pk (φ) < +∞. Thus φ belongs to Hχ . On the other hand, if φ is in Hχ , then there exists a sequence (φn )n∈IN in D(R) such that sup [|χ(x)||φn (x) − φ(x)|] → 0, as n → +∞. x∈R

Hence there exists N ∈ IN , such that 1 sup |φN (x) − φ(x)| < . 4 x∈R

78

Hassen Ben Mohamed and Hatem Mejjaoli

Since φN is in D(R), there exists C > 0, such that for all x ∈ R satisfying |x| ≥ C we have 1 |φN (x)| < . 4 Then for every x ∈ R such that |x| ≥ C, we obtain 1 |χ(x)| ≤ |χ(x)φ(x)| ≤ |χ(x)| |φ(x) − φN (x)| + |χ(x)| |φN (x)| ≤ |χ(x)|, 2 which is a contradiction.Therefore φ does not belong to Hχ . In the following we give a characterization of Hχ . Proposition 12 Let φ ∈ E(R). Then the following assertions are equivalent i) φ ∈ Hχ . ii)For every m ∈ IN : dm lim χ(x) m φ(x) = 0. dx |x|→+∞

(28)

Proof. i) =⇒ ii) Let φ be in Hχ , then there exists a sequence {φJ }J∈IN in D(R) such that φJ → φ, as J → +∞, in Hχ . Let ε > 0 and m ∈ IN . There exists J ∈ IN , such that for all x ∈ R we have m

dm dm (φ(t) − φJ (t))|] + |χ(x) m φJ (x)| m dx dx t∈R dm ≤ ε + |χ(x) dxm φJ (x)|.

d |χ(x) dx ≤ sup[|χ(x)|| m φ(x)|

Since φJ is in D(R), then ∀ m ∈ IN, lim χ(x) |x|→∞

dm φJ (x) = 0. dxm

Hence, we obtain ∀ m ∈ IN, lim χ(x) |x|→∞

dm φ(x) = 0. dxm

Now we prove that ii) =⇒ i). Let ζ ∈ D(R), such that ζ(x) = 1, |x| ≤ 1 and ζ(x) = 0, |x| ≥ 2. For every n ∈ IN ∗ , we put x2 x ∀ x ∈ R, ζn (x) = ζ( )e− n . n

It is clear that ∀ n ∈ IN ∗ , φζn ∈ D(R). On the other hand, for all j ∈ IN , there exists a positive constant Mj , such that ∀ x ∈ R, |

dj ζn (x) | ≤ Mj . dxj

(29)

Let m ∈ IN ∗ . Leibniz’s rule leads to m

∀ x ∈ R,

m−j φ(x) dj ζ (x) dm φ(x) X dm n j d [(φζ −φ)(x)] = ( ) + (ζn (x)−1) (30) n m dxm dxm−j dxj dxm j=1

Distributional Jacobi-Dunkl Transform and Applications

79

Then using (29), we deduce that there exists a positive constant Cm , such that m

X dj φ(x) dm ∀ x ∈ R, | m (φζn − φ)(x)| ≤ Cm | | dx dxj j=0

Thus, from this relation and (28), we deduce that for all ε > 0 there exits k > 0, such that for |x| ≥ k we have dm |χ(x) m (φζn − φ)(x)| ≤ ε. dx Moreover, if n > k, we have x2

∀x ∈ [−k, k], ζn (x) = e− n . 0 and C ” , such that Then from (30), there exist two positive constants Cm m

∀ x ∈ R, |χ(x)

0 x2 dm Cm ” (φζ − φ)(x)| ≤ + Cm (1 − e− n ). n m dx n

Hence, there exists p ∈ IN, p > k, such that for all x ∈ R, we have ∀ n ≥ p, |χ(x)

dm (φζn − φ)(x)| ≤ ε. dxm

Thus, we conclude that φζn → φ, as n → +∞ in Hχ . Then the proof is finished. Remark. For 0 < r ≤ 1, the space S r (R) is continuously contained in Hχ . Notations. We put G0 = {(λ, µ) ∈ G ∪ {(0, 0)} and |Imµ| ≤ %} ◦

G0 = {(λ, µ) ∈ G and |Imµ| < %}, where G is the set defined in Proposition 2.3 iν). ◦

We denote by G1 and G1 the following sets defined by ◦

◦

G1 = Π(G0 ) and G1 = Π(G0 ), where Π :C I ×C I →C I (λ, µ) 7→ λ It is clear that R ⊂ G1 ⊂ {λ ∈ C, I |Imλ| ≤ % and|Imλ| ≤ |Reλ|}. ◦

R∗ ⊂ G1 ⊂ {λ ∈ C, I |Imλ| < % and|Imλ| < |Reλ|}. Next we specify conditions in order that for all m ∈ IN , the function belongs to Hχ .

∂ m α,β ∂λm ψλ ,

80

Hassen Ben Mohamed and Hatem Mejjaoli

Proposition 13 For all λ ∈ G1 , the function ψλα,β belongs to Hχ . Moreover for every ◦

m ∈ IN ∗ and λ ∈G1 , the function

∂ m α,β ∂λm ψλ

is in Hχ .

Proof. According to Proposition 2.3 and the relation (2), for every m ∈ IN , we can write α,β qm (ψλα,β ) = sup |χ(x)Λm α,β ψλ (x)|, x∈R

≤ |λ|m supx∈R |χ(x)ψλα,β (x)|, ≤ C|λ|m supx∈R |χ(x)|(1 + |x|)e(|Imµ|−%)|x| . Then, from properties of χ and the fact that |Imµ| ≤ % for λ ∈ G1 , we deduce that qm (ψλα,β ) < ∞. Hence ψλα,β ∈ Hχ . We now consider a function ϕ ∈ D(R) such that ϕ(x) = 1, |x| ≤ 1, and ϕ(x) = 0, |x| ≥ 2, and we define, for every n ∈ IN ∗ , ϕn (x) = ϕ( nx ), x ∈ R. We want to prove that ψλα,β ϕn → ψλα,β , as n → ∞, in Hχ . From Proposition 2.3 and Proposition 2.7 there exist δ, C > 0 such that, for every n, m ∈ IN and |x| ≥ δ: α,β α,β (|Imµ|−%)|x| |χ(x)Λm , |x| ≥ δ. α,β (ψλ (x)ϕn (x) − ψλ (x))| ≤ C|χ(x)|(1 + |x|)e

Then, from properties of χ and the fact that |Imµ| ≤ % for λ ∈ G1 , we deduce that for all ε > 0 there exists a > 0 such that for |x| > a: α,β α,β |χ(x)Λm α,β (ψλ (x)ϕn (x) − ψλ (x))| ≤ ε.

Moreover, it is clear that for n ≥ a, we have for |x| ≤ a : α,β α,β χ(x)Λm α,β (ψλ (x)ϕn (x) − ψλ (x)) = 0, .

Thus, we conclude that qm (ψλα,β ϕn − ψλα,β ) → 0, as n → ∞, for every m ∈ IN . This implies that for λ ∈ G1 the function ψλα,β belongs to Hχ . ◦

Now we want to prove that for every m ∈ IN ∗ and λ ∈G1 , the function Hχ . By an easy calculation, we find that there exist j ∈ IN and C > 0 such that |

∂ m α,β ∂λm ψλ

is in

∂ k ∂ m α,β ψ (x)| ≤ C(1 + |x|)|λ|j (% − |Imµ|)−m e(|Imµ|−%)|x| ∂xk ∂λm λ ◦

k

m

α,β ∂ ∂ Then for all λ ∈G1 we have lim|x|→∞ χ(x) ∂x k ∂λm ψλ (x) = 0.

◦

Hence from Proposition 3.3, we deduce that for every m ∈ IN ∗ and λ ∈G1 the function ∂ m α,β ∂λm ψλ belongs to Hχ . Notation. The dual space of Hχ is denoted, by Hχ0 . Remark.

Distributional Jacobi-Dunkl Transform and Applications 81 R Let µ be a complex regular Borel measure on R such that R d|µ|(x) < +∞, where |µ| is the total variation of µ. Let m ∈ IN , the functional T defined on Hχ by Z hT, φi = χ(x)Λm α,β φ(x)dµ(x), φ ∈ Hχ , R

is in Hχ0 . In particular, if f is a measurable function on R such that Z |f (x)| Aα,β (x)dx < ∞, |χ(x)| R then, the functional Lf defined on Hχ through Z hLf , φi = f (x)φ(x)Aα,β (x)dx, φ ∈ Hχ ,

(31)

R

is in Hχ0 . Next, we give a structure formula for the restriction to D(R) of an element T in Hχ0 . Proposition 14 Let T be in Hχ0 . There exist an integer k and a bounded measurable functions g0 , ..., gk on R such that hT, φi =

k Z X p=0

where D =

R

D(χ(x)Λpα,β φ(x))gp (x)dx, φ ∈ D(R),

(32)

d dx .

Proof.From well known results of functional analysis, we can deduce that there exist an integer k and a positive constant C such that |hT, φi| ≤ C max qp (φ) = C max sup |χ(x)Λpα,β φ(x)|, 0≤p≤k Z x 0≤p≤k x∈R ≤ C max sup |D(χ(x)Λpα,β φ(x))|dx, |hT, φi| ≤ C

0≤p≤k x∈R −∞ k Z X p=0

R

|D(χ(x)Λpα,β φ(x))|dx.

Then by applying the Hahn-Banach theorem and the Riesz representation theorem, we deduce that there exist a bounded measurable functions g0 , ..., gk on R such that hT, φi =

k Z X p=0

4.

R

D(χ(x)Λpα,β φ(x))gp (x)dx, φ ∈ D(R).

Distributional Jacobi-Dunkl Transforms

Let T ∈ Hχ0 the topological dual of Hχ . According to Proposition 13, we define the JacobiDunkl transform Fα,β (T ) of T through ∀ λ ∈ G1 , Fα,β (T )(λ) = hT, ψλα,β i.

(33)

82

Hassen Ben Mohamed and Hatem Mejjaoli

By Proposition 3.5, there exist k ∈ IN and a bounded measurable functions g0 , ..., gk on R such that k Z X hT, φi = D(χ(x)Λpα,β φ(x))gp (x)dx, φ ∈ D(R). (34) p=0

R

Since the two sides of (34) define elements of Hχ0 then, for every φ in the closure of D(R) in Hχ i.e in Hχ , the relation (34) is also true for φ ∈ Hχ Hence, by (1) and Proposition 13, we can write ∀λ ∈ G1 , Fα,β (T )(λ) = hT, ψλα,β i, k Z X = D(χ(x)Λpα,β ψλα,β (x))gp (x)dx. p=0

R

Then Z k X p ∀λ ∈ G1 , Fα,β (T )(λ) = (iλ) D(χ(x)ψλα,β (x))gp (x)dx. p=0

(35)

R

We now establish the main properties of the Jacobi-Dunkl transform on Hχ0 . Proposition 15 (Boundedness) Let T ∈ Hχ0 . There exist k ∈ IN and C > 0 such that ∀ λ ∈ G1 , |Fα,β (T )(λ)| ≤ C(1 + |λ|)k . Proof.By invoking (35), Proposition 2.3 and properties of χ, for all λ ∈ G1 we get Z k X p [|χ0 (x)| + |χ(x)|(1 + |x|)]e|Imµ|−%)|x| |gp (x)|dx. |Fα,β (T )(λ)| ≤ |λ| R

p=0

Thus there exist k ∈ IN and a positive constant C > 0 such that ∀ λ ∈ G1 , |Fα,β (T )(λ)| ≤ C(1 + |λ|)k . Proposition 16 (Smoothness) Let T ∈ Hχ0 . Then the function Fα,β (T ) is holomorphic in ◦

the open set G1 . Proof. Let T ∈ Hχ0 , from (35) we have ∀ λ ∈ G1 , Fα,β (T ) =

k X p=0

(iλ)p

Z

R

[χ0 (x)ψλα,β (x) + χ(x) ◦

d α,β ψ (x)]gp (x)dx. dx λ

By Propositions 2.3, 3.4 and properties of χ, for all λ ∈ G0 we can differentiate under the integral sign and we obtain Z k X p−1 d [ip(iλ) D(χ(x)ψλα,β (x))gp (x)dx dλ Fα,β (T )(λ) = R p=0 Z d d α,β + D(χ(x) ψ (x))gp (x)dx]. dλ dx λ R

Distributional Jacobi-Dunkl Transform and Applications

83

◦

Hence Fα,β (T ) is holomorphic in open set G1 . The dual space of S(Ωε(r) ) is denoted by S 0 (Ωε(r) ). Note that is F is a measurable function on R such that |F (x)| ≤ C(1 + |x|)l , x ∈ R, for some C > 0 and l ∈ IN , then F defines an element LF of S 0 (Ωε(r) ) by Z hLF , φi = F (x)φ(x)dσ(x), φ ∈ S(Ωε(r) ). (36) R

The Jacobi-Dunkl transform can be defined on the dual spaces (S r (R))0 and S 0 (Ωε(r) ) by transposition, that is, if T ∈ (S r (R))0 then the Jacobi-Dunkl transform Fα,β (T ) of T is the element of S 0 (Ωε(r) ) defined by −1 hFα,β (T ), φi = hT, Fα,β (φ)i, φ ∈ S(Ωε(r) ).

(37)

Since, for every 0 < r ≤ 1, S r (R) is contained in Hχ , the space Hχ0 is contained in Hence, if T ∈ Hχ0 we can define the Jacobi-Dunkl transform Fα,β (T ) of T in two apparently different ways, namely, by (24) and by (33). In the following proposition we prove that both definitions coincide. (S r (R))0 .

Proposition 17 Let T ∈ Hχ0 . Then Fα,β (T ) defines an element of S 0 (Ωε(r) ). Moreover, for every φ ∈ S(Ωε(r) ), −1 hLFα,β (T ) , φi = hT, Fα,β (φ)i. Proof. Let T ∈ Hχ0 . According to Proposition 4.1, Fα,β (T ) defines an element of S 0 (Ωε(r) ). By (36), we have to prove that Z Fα,β (T )(x)φ(x)dσ(x), φ ∈ S(Ωε(r) ). hLFα,β (T ) , φi = R

We have to prove that Z Z φ(λ)ψλα,β (x)dσ(λ)i, φ ∈ S(Ωε(r) ). Fα,β (T )(λ)φ(λ)dσ(λ) = hTx , R

(38)

R

From Propositions 3.4, 3.5 and Theorem 2.8 we can write Z

Fα,β (T )(λ)φ(λ)dσ(λ) = R

=

k Z Z X

p=0 R k XZ p=0

=

R

R

D(χ(x)Λpα,β ψλα,β (x))φ(λ)gp (x)dxdσ(λ),

Z D(χ(x)(Λpα,β )x ( ψλα,β (x)φ(λ)dσ(λ)))gp (x)dx, R

−1 hT, Fα,β (φ)i.

Thus the proof is completed. As consequence of Proposition 17 we obtain a uniqueness theorem for the Jacobi-Dunkl transform.

84

Hassen Ben Mohamed and Hatem Mejjaoli

Proposition 18 (Uniqueness) Let T be in Hχ0 . If for all y ∈ R, Fα,β (T )(y) = 0, then T = 0. Proof. It is sufficient to take into account Proposition 17 and the fact that D(R) is a dense subspace of Hχ . Next we establish an inversion formula for the generalized Jacobi-Dunkl transform. Proposition 19 (Inversion) Let T be in Hχ0 . Then for all s > 0 and δ > 0 the distribution given by the function Z s Ts,−δ (x) = Fα,β (T )(y)ψ−y (x)dσ(y) −δ

belongs to

(S r (R))0

and we have T =

Z

lim s → +∞ δ → +∞

s

Fα,β (T )(y)ψ−y (x)dσ(y),

(39)

−δ

weakly in (S r (R))0 . Proof. Let T ∈ Hχ0 . From Proposition 3.5 we have k Z X hT, φi = D(χ(x)Λpα,β φ(x))gp (x)dx, φ ∈ D(R), R

p=0

where gp , p = 0, ..., k, are bounded measurable functions on R. Then Z k X p ∀λ ∈ G1 Fα,β (T )(λ) = (iλ) D(χ(x)ψλα,β (x))gp (x)dx. p=0

R

Note that according to Proposition 4.1 and Proposition 2.3, for every s > 0 and δ > 0, the function Ts,−δ is a bounded function on R and this function defines a distribution on R. Let s > 0, δ > 0 and φ be in D(R), by interchange of the order of integration, we get Z Ts,−δ (x)φ(x)Aα,β (x)dx, hLTs,−δ , φi = R Z sX Z Z k p φ(x){ (iλ) [ D(χ(y)ψλα,β (y))gp (y)dy]ψλα,β (x)dσ(λ)}× = R

=

Z

R

−δ p=0

Dy (χ(y)

Z

s

R

Aα,β (x)dx, Z k X p [ (iλ) ψλα,β (x)φ(x)Aα,β (x)dx]ψλα,β (y))gp (y)×

−δ p=0

R

dσ(λ)dy, Z Z s Z k X Dy (χ(y) ( ψλα,β (x) Λpα,β φ(x)Aα,β (x)dx)ψλα,β (y))× = R

−δ

R

p=0

dσ(λ)gp (y)dy, Z Z s k X α,β = Dy (χ(y)( ψλ (y) Fα,β (Λpα,β φ)(λ)× R

−δ

p=0

dσ(λ))gp (y)dy.

Distributional Jacobi-Dunkl Transform and Applications

85

On the other hand since for every φ ∈ D(R), Fα,β (Λpα,β φ) ∈ S(Ωε(r) ), then we have Z s lim Fα,β (Λpα,β φ)(λ)ψλα,β (y)dσ(λ) = Λpα,β φ(y), s → +∞ −δ δ → +∞ uniformly in y ∈ R. Then we conclude that Z s T = lim Fα,β (T )(y)ψ−y dσ(y), s → +∞ −δ δ → +∞ weakly in (S r (R))0 .

5.

Application

We now study an operational calculus for the generalized Jacobi-Dunkl transform and a distributional differential-difference equation is solved in Hχ0 . We will denote by Λ∗α,β the formal adjoint of the operator Λα,β . That is, for every T ∈ Hχ0 , Λ∗α,β T is the element of Hχ0 given by hΛ∗α,β T, φi = hT, Λα,β φi, φ ∈ Hχ . Since Λα,β is a continuous linear mapping from Hχ into itself, from well-known results of analysis it is deduced that Λ∗α,β defines a continuous linear mapping from Hχ0 into itself, when we consider on Hχ0 either the weak or the strong topology. Proposition 20 Let T be in Hχ0 . Then ∀ λ ∈ G1 , Fα,β (Λ∗α,β T )(λ) = iλFα,β (T )(λ). Proof. It is sufficient to note that Λα,β ψλα,β (x) = iλψλα,β (x), x ∈ R and λ ∈ C. I Proposition 21 The following differential-difference equation P (Λ∗α,β )T = S,

(40)

where S ∈ Hχ0 is prescribed and P is a polynomial such that P (iy) 6= 0, y ∈ R, has a solution in (S r (R))0 for 0 < r ≤ 1. Proof. We apply the Jacobi-Dunkl transform to (40). By Proposition 20 we deduce that ∀ λ ∈ G1 , P (iλ)F (λ) = G(λ), where F and G being the Jacobi-Dunkl transform of T and S, respectively. From Proposition 19 and (41), we can write Z s G(y) hT, φi = lim h ψy (.)dσ(y), φi, φ ∈ S r (R). P (iy) s → +∞ −δ δ → +∞

(41)

86

Hassen Ben Mohamed and Hatem Mejjaoli

We will see that the last limit exists. Let m, n ∈ IN , m < n. For every polynomial Q such that Q(iy) 6= 0, for all y ∈ R, we have Z −m Z −m G(y) G(y) ψy (x)dσ(y) = ψy (x)dσ(y), x ∈ R. (42) Q(Λα,β ) −n P (iy) −n P (iy)Q(iy) >From Proposition 4.1 we can choose Q such that |

G(y) | = O(|y|−t ), as |y| → ∞, P (iy)Q(iy)

(43)

with t > 2α + 4. >From Proposition 2.7, we see that for φ ∈ S r (R), we have Z Z −m G(y) ψy (x)dσ(y))φ(x)Aα,β (x)dx = (Λα,β )x ( −n P (iy)Q(iy) ZR Z −m G(y) ψyα,β (x)dσ(y)Λα,β φ(x)Aα,β (x)dx. P (iy)Q(iy) R −n

Hence, from (42) one infers Z −m Z −m G(y) α,β G(y) h ψy (.)dσ(y), φi = h ψyα,β (.)dσ(y), Λα,β φi. P (iy) P (iy)Q(iy) −n −n

According again to (43), there exist a positive constant C such that Z −m Z −m G(y) G(y) α,β ψy (.)dσ(y), φ(x)i| ≤ C | |dσ(y). |h P (iy)Q(iy) −n −n P (iy) Thus we conclude that for s > 0, the sequence Z s G(y) α,β { ψy (.)dσ(y)}n∈IN −n P (iy)

is a Cauchy sequence in the weak topology of (S r (R))0 . In the same way we prove that for δ > 0, the sequence Z n G(y) α,β { ψy (.)dσ(y)}n∈IN −δ P (iy) is also a Cauchy sequence in the weak topology of (S r (R))0 . Then there exists T ∈ (S r (R))0 such that Z n G(y) α,β hT, φi = lim h ψy (.)dσ(y), φi, φ ∈ S r (R). P (iy) n → +∞ −m m → +∞ Moreover, Proposition 4.5 leads to hP (Λ∗α,β )T, φi = hT, P (Λα,β )φi Z n G(y) α,β = lim h ψ (.)dσ(y), P (Λα,β )φi, m,n→+∞ −m P (iy) y Z n G(y) α,β ψ (.)dσ(y), φi, = lim hP (Λα,β ) m,n→+∞ P (iy) y −m Z n = lim h G(y)ψyα,β (.)dσ(y), φi m,n→+∞

−m

= hS, φi, φ ∈ S r (R).

Distributional Jacobi-Dunkl Transform and Applications

87

Hence T ∈ (S r (R))0 is a solution of (5.1).

Acknowledgments We thanks the Professor Khalifa Trimèche for stimulating discussions and useful suggestions.

References [1] H.B.Mohamed and K.Trimèche. Dunkl transform on R and convolution product on new spaces of distributions. Integ. Trans. and Special Func. Vol.14, N.5 (2003), p. 437-458. [2] J. J. Betancor, J. D. Betancor and J. M. R. Mendez. Distributional Chébli-Trimèche transforms, Preprint 2004. [3] W. R. Bloom and Z. Xu. Fourier transforms of Schwartz functions on ChébliTrimèche hypergroups, Mh. Math. 125 (1998), 89-109. [4] F. Chouchane, M. Mili and K. Trimèche. Positivity of the intertwining operator and harmonic analysis associated with the Jacobi-Dunkl operator on R. Analysis and Applications. [5] F. Chouchane, M. Mili and K. Trimèche. An analogue of Hardy’s theorem and its Lp version for the Jacobi-Dunkl transform. To appear in Integ. transf. and special funct. [6] L. S. Dube and J. N. Pandey On the Hankel transform of distibutions, Tohoku Math.J.27, (1975), 337-354. [7] A. Fridman. Generalized functions and partial differential equations, Prentice Hall,New York, 1968. [8] T. H. Koornwinder. A new proof of a Paley-Wiener type theorems for the Jacobi transform. Ark. Math. 13,(1975),145-159. [9] M. A. Mourou and K. Trimèche. Transmutation operators and Paley-Wiener theorem associated with a singular differential-difference operator on the real line, Anal. and Appl. Vol.1, N.1 (2003), 43-70. [10] K. Trimèche. Transformation intégrale de Weyl et théorème de Paley-Wiener associés à un opérateur differentiel singulier sur (0, ∞), J.Math.Pures App., (9), 60, (1981), 51-98. [11] K. Trimèche. Inversion of the Lions transmutation operators using generalized wavelets, Appl.Comput.Harmon.Anal., 4, (1), (1997), 97-112.

In : Proceedings of the Tunisian Mathematical Society... ISBN 1-60021-014-7 c 2007 Nova Science Publishers, Inc. Editor : K. Trim´eche and S. Zarati, pp. 89-116

Chapter 8

T RANSCENDANCE DE P E´ RIODES : E´ TAT DES C ONNAISSANCES Michel Waldschmidt∗ Institut de Math´ematiques de Jussieu – UMR 7586 du CNRS, Universit´e P. et M. Curie (Paris VI), 175 rue du Chevaleret

R´esum´e Les nombres r´eels ou complexes forment un ensemble ayant la puissance du continu. Parmi eux, ceux qui sont « int´eressants », qui apparaissent « naturellement », qui m´eritent notre attention, forment un ensemble d´enombrable. Dans cet e´ tat d’esprit nous nous int´eressons aux p´eriodes au sens de Kontsevich et Zagier. Nous faisons le point sur l’´etat de nos connaissances concernant la nature arithm´etique de ces nombres : d´ecider si une p´eriode est un nombre rationnel, alg´ebrique irrationnel ou au contraire transcendant est l’objet de quelques th´eor`emes et de beaucoup de conjectures. Nous pr´ecisons aussi ce qui est connu sur l’approximation diophantienne de tels nombres, par des nombres rationnels ou alg´ebriques.

Keywords : P´eriodes, nombres transcendants, irrationalit´e, int´egrales, s´eries, approximation diophantienne, mesures d’irrationalit´e, mesures de transcendance, mesures d’ind´ependance lin´eaire, fonctions Gamma, Bˆeta, zˆeta, valeurs zˆeta multiples (MZV). AMS Subject Classification : 11J81 11J86 11J89

1.

Introduction

Dans leur article [37] intitul´e « Periods », M. Kontsevich et D. Zagier introduisent la notion de p´eriodes en en donnant deux d´efinitions dont ils disent qu’elles sont e´ quivalentes ; il proposent une conjecture, deux principes et cinq probl`emes. Le premier principe est le suivant : « chaque fois que vous rencontrez un nouveau nombre et que vous voulez savoir s’il est transcendant, commencez par essayer de savoir si c’est une p´eriode ». ∗

E-mail address : [email protected] ; http ://www.math.jussieu.fr/∼miw

90

Michel Waldschmidt

Si la r´eponse est n´egative, alors le nombre est transcendant ; en effet les p´eriodes forment une sous alg`ebre de C sur le corps Q des nombres alg´ebriques, donc tout nombre alg´ebrique est une p´eriode. Le but de cet expos´e est d’examiner ce qui se passe si la r´eponse est positive : que sait-on sur la transcendance de p´eriodes ? Nous consid´erons aussi l’aspect quantitatif de cette question, en liaison avec la question suivante de [37], § 1.2 qui pr´ec`ede leur conjecture 1 : quand on veut v´erifier une e´ galit´e entre deux nombres alg´ebriques, il suffit de calculer ces deux nombres avec une pr´ecision suffisante, puis d’utiliser l’in´egalit´e de Liouville qui e´ tablit que deux nombres alg´ebriques distincts de degr´e et hauteur born´ee ne peuvent eˆ tre trop proches l’un de l’autre. Dans l’exemple qu’ils donnent, dˆu a` D. Shanks [52] : q

√ 11 + 2 29 +

r

q q √ √ √ √ 16 − 2 29 + 2 55 − 10 29 = 5 + 22 + 2 5,

(1)

la diff´ √ erence √ γ entre les deux membres de (1) est un nombre alg´ebrique de degr´e ≤ 16 sur Q( 5, 29), donc de degr´e ≤ 64 sur Q. Pour chacun des 64 e´ l´ements  = (1 , . . . , 6 ) ∈ {0, 1}6 , posons √

r

√ γ = 3 11 + 22 29 + 4 16 − 22 29 + 25 55 − 102 29 q √ √ + 1 5 + 6 22 + 21 5. q

√

q

Le nombre

N=

Y

γ



est un entier rationnel. Il suffit de le calculer avec une pr´ecision d’un chiffre apr`es la virgule pour v´erifier qu’il satisfait −1 < N < 1, donc qu’il est nul (c’est le cas le plus simple de l’in´egalit´e de Liouville [57] § 3.5). Il s’ensuit qu’un (au moins) des 64 facteurs γ du produit est nul, et l’´egalit´e (1) s’en d´eduit ais´ement. La question pos´ee par Kontsevich et Zagier dans [37] § 1.2 consiste a` savoir si on peut faire de mˆeme avec les p´eriodes. Il s’agirait de d´efinir une notion de complexit´e d’une p´eriode analogue a` celle de hauteur pour un nombre alg´ebrique, puis de minorer cette complexit´e pour une p´eriode non nulle afin de remplacer l’in´egalit´e de Liouville. Une des suggestions qu’ils font est de compter le nombre de touches n´ecessaires pour taper en TEX une int´egrale dont la valeur est la p´eriode en question. Dans cet e´ tat d’esprit il serait int´eressant de savoir s’il existe des nombres qui sont a` la fois une p´eriode et un nombre de Liouville. Une r´eponse n´egative signifierait que pour toute p´eriode r´eelle θ, il existe une constante c(θ) > 0 telle que, pour tout nombre rationnel p/q distinct de θ avec q ≥ 2, on ait θ − p > 1 · q q c(θ) Plus ambitieusement on peut demander si les p´eriodes (complexes) se comportent, pour l’approximation par des nombres alg´ebriques, comme presque tous les nombres (complexes) [16, 57] : e´ tant donn´ee une p´eriode transcendante θ ∈ C, existe-t-il une constante κ(θ) telle que, pour tout polynˆome non nul P ∈ Z[X], on ait |P (θ)| ≥ H −κ(θ)d ,

Transcendance de P´eriodes

91

o`u H ≥ 2 est un majorant de la hauteur (usuelle) de P (maximum des valeurs absolues des coefficients) et d son degr´e ?

2.

Int´egrales Ab´eliennes

La nature arithm´etique de la valeur de l’int´egrale d’une fonction alg´ebrique d’une variable entre des bornes alg´ebriques (ou infinies) est maintenant bien connue, aussi bien sous l’aspect qualitatif que quantitatif.

2.1.

Genre 0 : Logarithmes de Nombres Alg´ebriques

L’outil principal est le th´eor`eme de Baker sur l’ind´ependance lin´eaire, sur le corps Q des nombres alg´ebriques, de logarithmes de nombres alg´ebriques. Nous n’utilisons ici que le cas particulier suivant : Th´eor`eme 2 Soient α1 , . . . , αn des nombres alg´ebriques non nuls, β1 , . . . , βn des nombres alg´ebriques, et, pour 1 ≤ i ≤ n, log αi un logarithme complexe de αi . Alors le nombre β1 log α1 + · · · + βn log αn est soit nul, soit transcendant. On en d´eduit : Corollaire 3 Soient P et Q des polynˆomes a` coefficients alg´ebriques v´erifiant deg P < deg Q et soit γ un chemin ferm´e, ou bien un chemin dont les extr´emit´es sont alg´ebriques ou infinies. Si l’int´egrale Z P (z) dz (4) Q(z) γ existe, alors elle est soit nulle, soit transcendante. Un exemple c´el`ebre [53] p. 97 est Z

0

1

1 π dt = log 2 + √ · 3 1+t 3 3 



Le corollaire 3 se d´eduit du th´eor`eme 2 en d´ecomposant la fraction rationnelle P (z)/Q(z) en e´ l´ements simples (voir par exemple [46]). En fait le corollaire 3 est e´ quivalent au th´eor`eme 2 : il suffit d’´ecrire le logarithme d’un nombre alg´ebrique comme une p´eriode ; pour la d´etermination principale, quand α n’est pas r´eel n´egatif, on a par exemple Z ∞ (α − 1)dt log α = (t + 1)(αt + 1) 0 tandis que iπ = 2i

Z

0

∞

dt · 1 + t2

92

Michel Waldschmidt

Les mesures d’ind´ependance lin´eaire de logarithmes de nombres alg´ebriques (minorations de combinaisons lin´eaires, a` coefficients alg´ebriques, de logarithmes de nombres alg´ebriques - voir par exemple [57]) contiennent le fait qu’une int´egrale non nulle de la forme (4) a une valeur absolue minor´ee explicitement en termes des hauteurs de P et Q et de leurs degr´es, ainsi que des hauteurs et degr´es des nombres alg´ebriques extr´emit´es de γ.

2.2.

Genre 1 : Int´egrales Elliptiques

La nature arithm´etique des valeurs d’int´egrales elliptiques de premi`ere ou deuxi`eme esp`ece a e´ t´e e´ tudi´ee d`es 1934 [48] puis 1937 [49] par Th. Schneider. Voici le th´eor`eme 15 version III de [51]. Th´eor`eme 5 Toute int´egrale elliptique de premi`ere ou deuxi`eme esp`ece a` coefficients alg´ebriques et calcul´ee entre des bornes alg´ebriques distinctes a pour valeur un nombre nul ou transcendant. En particulier toute p´eriode non nulle d’une int´egrale elliptique de premi`ere ou deuxi`eme esp`ece a` coefficients alg´ebriques est transcendante. Le th´eor`eme 16 de [51] concerne la transcendance du quotient de deux int´egrales elliptiques de premi`ere esp`ece. Une cons´equence que cite Schneider de son th´eor`eme 17 dans [51] s’´enonce : la valeur prise par une int´egrale elliptique de premi`ere ou de deuxi`eme esp`ece a` coefficients alg´ebriques entre des bornes alg´ebriques est quotient d’une p´eriode par un facteur rationnel ou transcendant. Du th´eor`eme 5 on d´eduit le r´esultat cit´e dans [37] § 1.1 : si a et b sont deux nombres alg´ebriques r´eels positifs, l’ellipse dont les longueurs d’axes sont a et b a un p´erim`etre 2

Z

b

s

1+

−b

a2 x2 dx b4 − b2 x2

(6)

qui est un nombre transcendant. Plus g´en´eralement la longueur de tout arc dont les extr´emit´es sont des points de coordonn´ees alg´ebriques est un nombre transcendant ou nul. Il en est de mˆeme pour une lemniscate (x2 + y 2 )2 = 2a2 (x2 − y 2 ) quand a est alg´ebrique. Ces e´ nonc´es sont d´emontr´es par Schneider comme cons´equences de r´esultats sur les fonctions elliptiques. Voici par exemple la version I du th´eor`eme 15 de [51]. Soit ℘ une fonction elliptique de Weierstrass d’invariants g2 et g3 alg´ebriques : 2

℘0 = 4℘3 − g2 ℘ − g3 . Soient ζ la fonction zˆeta de Weierstrass associ´ee a` ℘, a et b deux nombres alg´ebriques non tous deux nuls et u un nombre complexe non pˆole de ℘. Alors l’un au moins des deux nombres ℘(u), au + bζ(u) est transcendant.

Transcendance de P´eriodes

93

Ainsi en consid´erant les deux courbes elliptiques y 2 = x3 − x

y 2 = x3 − x

et

on en d´eduit que chacun des deux nombres Z

1

Z

1

0

et 0

dx 1 Γ(1/4)2 = B(1/4, 1/2) = 3/2 1/2 2 2 π x − x3

(7)

dx 1 Γ(1/3)3 = B(1/3, 1/2) = 4/3 1/2 3 2 3 π 1 − x3

(8)

√ √

est transcendant. Ces deux formules (comparer avec [40] p.21) sont des cas particuliers de la formule de Chowla-Selberg (cf [33] et [37] § 2.3) qui exprime les p´eriodes de courbes elliptiques de type CM comme des produits de valeurs de la fonction Gamma d’Euler dont une des d´efinitions est :  ∞  Y z −1 z/n −γz −1 Γ(z) = e z 1+ e . (9) n n=1 L’extension par G. Shimura aux vari´et´es ab´eliennes de type CM de la formule de Chowla-Selberg donne lieu aux relations de Deligne-Koblitz-Ogus sur la fonction Gamma (voir [14]).

2.3.

Genre ≥ 1 : Int´egrales Ab´eliennes

Dans [50], Th. Schneider e´ tend ses r´esultats aux int´egrales ab´eliennes. La d´emonstration est une extension en plusieurs variables de ses r´esultats ant´erieurs ; dans la partie analytique de la d´emonstration de transcendance, l’outil essentiel, un lemme de Schwarz, est e´ tendu en plusieurs variables grˆace a` une formule d’interpolation pour les produits cart´esiens. Cela permet a` Schneider d’obtenir des e´ nonc´es sur les fonctions ab´eliennes. L’exemple le plus important des r´esultats qu’il obtient est le suivant : Th´eor`eme 10 Soient a et b des nombres rationnels non entiers tels que a + b ne soit pas non plus un entier. Alors le nombre Γ(a)Γ(b) B(a, b) = = Γ(a + b)

Z

0

1

xa−1 (1 − x)b−1 dx

(11)

est transcendant. Les travaux sur la nature arithm´etique des valeurs d’int´egrales ab´eliennes sont nombreux : ceux de Th. Schneider en 1940 ont e´ t´e poursuivis par S. Lang dans les ann´ees 1960, puis notamment par D.W. Masser grˆace a` la m´ethode de Baker dans les ann´ees 1980, pour arriver a` une solution essentiellement compl`ete de la question en 1989 par G. W¨ustholz [63] qui a obtenu une extension satisfaisante du th´eor`eme 2 de Baker aux groupes alg´ebriques commutatifs. On connaˆıt donc essentiellement ce que l’on souhaite sur la transcendance et l’ind´ependance lin´eaire (sur le corps des nombres alg´ebriques) d’int´egrales ab´eliennes

94

Michel Waldschmidt

de premi`ere, seconde ou troisi`eme esp`ece. Par exemple J. Wolfart et G. W¨ustholz [62] ont montr´e que les seules relations lin´eaires a` coefficients alg´ebriques entre les valeurs B(a, b) de la fonction Bˆeta en des points (a, b) ∈ Q2 sont celles qui r´esultent des relations de Deligne-Koblitz-Ogus. De plus on dispose e´ galement maintenant de r´esultats quantitatifs qui permettent de minorer la valeur d’une int´egrale ab´elienne quand elle est non nulle – les estimations les plus r´ecentes et les plus pr´ecises sur ce sujet, dans le cadre g´en´eral des groupes alg´ebriques, ´ Gaudron [27, 28]. sont dues a` E. Si les relations lin´eaires a` coefficients alg´ebriques entre les valeurs d’int´egrales ab´eliennes sont maintenant bien connues, il n’en est pas de mˆeme des relations alg´ebriques. Dans une note de bas de page [34], A. Grothendieck propose un e´ nonc´e conjectural sur la transcendance de p´eriodes de vari´et´es ab´eliennes d´efinies sur le corps des nombres alg´ebriques. La premi`ere formulation pr´ecise de cette conjecture est donn´ee par S. Lang dans son livre [38], o`u l’on trouve aussi la premi`ere formulation de la conjecture de Schanuel sur l’ind´ependance alg´ebrique des valeurs de la fonction exponentielle (voir aussi [23]). Ces e´ nonc´es ont e´ t´e d´evelopp´es par Y. Andr´e (voir notamment [7]) qui propose une g´en´eralisation commune des conjectures de Grothendieck et Schanuel. Pour des 1-motifs attach´es aux produits de courbes elliptiques, C. Bertolin [9] a explicit´e la situation conjecturale en formulant sa conjecture elliptico-torique qui fait intervenir la fonction exponentielle, les fonctions ℘ et ζ de Weierstrass, les int´egrales elliptiques et l’invariant modulaire j (voir aussi [59] et [58]).

3.

Valeurs de la Fonction Gamma d’Euler

La d´efinition (11) de la fonction Bˆeta sous forme d’une int´egrale montre que ses valeurs aux points de Q2 o`u elle est d´efinie sont des p´eriodes. De la relation (11) entre les fonctions Gamma et Bˆeta on d´eduit Γ(a1 ) · · · Γ(an ) = Γ(a + · · · + an )

n−1 Y i=1

B(a1 + · · · + ai−1 , ai ).

Il en r´esulte que pour tout p/q ∈ Q avec p > 0 et q > 0, le nombre Γ(p/q)q est une p´eriode. Par exemple 2

π = Γ(1/2) =

Z

1

0

x−1/2 (1 − x)−1/2 dx.

De (7) et (8) on d´eduit aussi des expressions de Γ(1/3)3 et Γ(1/4)4 comme p´eriodes. On connaˆıt bien mieux la nature arithm´etique des valeurs de la fonction Bˆeta d’Euler (grˆace au th´eor`eme 10 de Schneider) que celles de la fonction Gamma. On sait que le √ nombre Γ(1/2) = π est transcendant, grˆace a` Lindemann. La transcendance de Γ(1/4) 0 ki˘ı [21]. ˇ et Γ(1/3) a e´ t´e e´ tablie par G.V. Cudnovs Th´eor`eme 12 Les deux nombres Γ(1/4)

et π

Transcendance de P´eriodes

95

sont alg´ebriquement ind´ependants, et il en est de mˆeme des deux nombres Γ(1/3)

et π.

Comme l’a remarqu´e D.W. Masser on peut aussi e´ noncer ces r´esultats en disant que les deux nombres Γ(1/4) et Γ(1/2) sont alg´ebriquement ind´ependants et qu’il en est de mˆeme des deux nombres Γ(1/3) et Γ(2/3). Les seules autres valeurs de la fonction Γ en des points rationnels dont on sache d´emontrer la transcendance sont celles que l’on d´eduit de la transcendance en 1/2, 1/3 et 1/4 en utilisant les relations standard satisfaites par la fonction Gamma (voir ci-dessous). Par exemple Γ(1/6) est aussi un nombre transcendant. 0 ki˘ı de son th´ ˇ La d´emonstration par G.V. Cudnovs eor`eme 12 repose sur le r´esultat suivant [21] concernant les p´eriodes et quasi p´eriodes de fonctions de Weierstrass, que l’on applique aux courbes elliptiques y 2 = x3 − x et y 2 = x3 − 1 grˆace a` (7) et (8) Soit ℘ une fonction elliptique de Weierstrass d’invariants g2 et g3 . Soit ω une p´eriode non nulle de ℘ et soit η la quasi-p´eriode associ´ee de la fonction zˆeta de Weierstrass ζ : 2

℘0 = 4℘3 − g2 ℘ − g3 ,

ζ 0 = −℘,

ζ(z + ω) = ζ(z) + η.

Alors deux au moins des nombres g2 , g3 , ω/π, η/π sont alg´ebriquement ind´ependants. De cet e´ nonc´e on d´eduit aussi le fait que le nombre (6) est non seulement transcendant, mais mˆeme alg´ebriquement ind´ependant de π (cf. [37] § 1.1). Pour l’instant on ne sait pas obtenir la transcendance (sur Q) de Γ(1/4) ni de Γ(1/3) sans e´ tablir le r´esultat plus fort qui est la transcendance de chacun de ces nombres sur le corps Q(π). D’un point de vue quantitatif de bonnes mesures de transcendance de ces nombres ont e´ t´e e´ tablies par P. Philippon puis S. Bruiltet [15] : Th´eor`eme 13 Pour un polynˆome non constant P ∈ Z[X, Y ] de degr´e d et de hauteur H, on a log |P (π, Γ(1/4)| > −10326 ((log H + d log(d + 1))d2 (log(d + 1))2 et log |P (π, Γ(1/3)| > −10330 ((log H + d log(d + 1))d2 (log(d + 1))2 . Ainsi Γ(1/4) et Γ(1/3) ne sont pas des nombres de Liouville. La prochaine e´ tape pourrait eˆ tre la transcendance du nombre Γ(1/5) (cf. [40], p. 2 et p. 35). Du th´eor`eme 10 de Schneider sur la transcendance du nombres B(1/5, 1/5) on d´eduit que l’un au moins des deux nombres Γ(1/5), Γ(2/5) est transcendant. Un r´esultat plus pr´ecis se d´eduit des travaux de P. Grinspan [32] (voir aussi [56]) : Th´eor`eme 14 Un au moins des deux nombres Γ(1/5), Γ(2/5) est transcendant sur le corps Q(π).

96

Michel Waldschmidt

Autrement dit, deux au moins des trois nombres Γ(1/5), Γ(2/5) et π sont alg´ebriquement ind´ependants. La d´emonstration de [32] fournit de plus un r´esultat quantitatif. Comme la courbe de Fermat x5 + y 5 = z 5 d’exposant 5 est de genre 2, sa jacobienne 0 ki˘ı ˇ est une surface ab´elienne ; il faut donc remplacer dans la d´emonstration de Cudnovs les fonctions elliptiques par des fonctions ab´eliennes, et c’est pourquoi il est difficile de s´eparer les deux nombres Γ(1/5) et Γ(2/5) quand on veut obtenir la transcendance de chacun d’eux. Avant de poursuivre avec le d´enominateur 5, revenons aux d´enominateurs 3 et 4. Le th´eor`eme 12 a e´ t´e e´ tendu par Yu.V. Nesterenko [41, 42], qui obtient l’ind´ependance alg´ebrique de trois nombres : Th´eor`eme 15 Les trois nombres Γ(1/4),

π

et

eπ

sont alg´ebriquement ind´ependants, et il en est de mˆeme de Γ(1/3),

π

et eπ

√

3

.

La d´emonstration par Yu.V. Nesterenko de son th´eor`eme 15 utilise les s´eries d’Eisenstein E2 , E4 et E6 (nous utilisons les notations P , Q, R de Ramanujan) :  ∞ X  nq n ,   P (q) = E (q) = 1 − 24  2   1 − qn  n=1   ∞  X n3 q n

Q(q) = E4 (q) = 1 + 240

,

 1 − qn  n=1   ∞  X n5 q n    · = 1 − 504 R(q) = E (q)  6  1 − qn

(16)

n=1

Les premiers r´esultats de transcendance sur les valeurs de ces fonctions sont dus a` D. Bertrand dans les ann´ees 70. Une avanc´ee remarquable a e´ t´e faite en 1996 par K. Barr´eSirieix, G. Diaz, F. Gramain et G. Philibert [8], qui ont r´esolu le probl`eme suivant de Manin (et de Mahler dans le cas p-adique) concernant la fonction modulaire J = Q3 /∆, o`u ∆ = 12−3 (Q3 − R2 ) : pour tout q ∈ C avec 0 < |q| < 1, l’un au moins des deux nombres q, J(q) est transcendant. C’est cette perc´ee qui a permis a` Yu.V. Nesterenko [41] de d´emontrer le r´esultat suivant, cit´e dans le § 2.4 de [37] : Soit q ∈ C un nombre complexe satisfaisant 0 < |q| < 1. Alors trois au moins des quatre nombres q, P (q), Q(q), R(q) sont alg´ebriquement ind´ependants. √ Le th´eor`eme 15 en r´esulte en sp´ecialisant q = e−2π et q = −e−π 3 car J(e−2π ) = 1728,  4 3, ω −2π −2π P (e )= Q(e )=3 , R(e−2π ) = 0 π π

Transcendance de P´eriodes avec (cf. (7))

Γ(1/4)2 √ = 2.6220575542 . . . 8π

ω= tandis que J(−e−π

√

97

3)

= 0, √ √ 2 3, −π 3 )= P (−e π

Q(−e−π

√

3

) = 0,

R(−e−π

√

3

)=

27 2



ω0 π

6

avec (cf. (8))

Γ(1/3)3 = 2.428650648 . . . 24/3 π On trouve dans [37] § 2.3 des commentaires sur les liens entre les p´eriodes et les s´eries d’Eisenstein (et aussi les fonctions thˆeta, qui interviennent e´ galement dans le travail [41] de Nesterenko — voir [42]). Le th´eor`eme 15 de Nesterenko et celui 14 de Grinspan sugg`erent le probl`eme ouvert suivant : ω0 =

Conjecture 17 Trois au moins des quatre nombres Γ(1/5),

Γ(2/5),

π

et eπ

√

5

sont alg´ebriquement ind´ependants. Ce probl`eme fait l’objet de travaux r´ecents de F. Pellarin (voir en particulier [45]). Plus ambitieusement on peut demander quelles sont toutes les relations alg´ebriques liant les valeurs de la fonction Gamma en des points rationnels. La question des relations multiplicatives a e´ t´e consid´er´ee par D. Rohrlich. On rappelle d´ej`a ce que sont les relations standard : pour a ∈ C (en dehors des pˆoles de Γ(x), Γ(x + 1), Γ(1 − x) ou Γ(nx) pour que les formules aient un sens), on a Γ(a + 1) = aΓ(a),

(Translation) (Reflexion)

Γ(a)Γ(1 − a) =

π sin(πa)

et, pour tout n entier positif, (Multiplication)

n−1 Y k=0



Γ a+

k n



= (2π)(n−1)/2 n−na+(1/2) Γ(na).

Voici la conjecture de Rohrlich : Conjecture 18 Toute relation multiplicative de la forme π b/2

Y

a∈Q

Γ(a)ma ∈ Q

avec b et ma dans Z se d´eduit des relations standard.

98

Michel Waldschmidt

Une formalisation de cette conjecture utilisant la notion de « distribution universelle » est donn´ee par S. Lang dans [39]. Une conjecture plus ambitieuse que 18 est celle de Rohrlich-Lang qui concerne non seulement les relations monomiales, mais plus g´en´eralement les relations polynomiales : elle√pr´etend que l’id´eal sur Q de toutes les relations alg´ebriques entre les valeurs de (1/ 2π)Γ(a) pour a ∈ Q est engendr´e par les relations de distributions, l’´equation fonctionnelle et l’imparit´e.

4.

S´eries de Fractions Rationnelles

Soient P et Q deux fractions rationnelles a` coefficients rationnels avec deg Q ≥ deg P + 2. Quelle est la nature arithm´etique de la somme de la s´erie X P (n)

n≥0 Q(n)6=0

Q(n)

?

(19)

Cette question a e´ t´e e´ tudi´ee notamment dans [3]. La somme de la s´erie (19) peut eˆ tre rationnelle : c’est le cas des s´eries t´el´escopiques dont voici des exemples. Lemme 20 Soient a et b deux e´ l´ements de C× tels que b/a 6∈ Z≤0 et soit k un entier ≥ 2. Alors k−2 ∞ k−1 Y X Y 1 1 1 = · (21) (an + b + ja) (k − 1)a i=0 ia + b n=0 j=0 En particulier, sous les hypoth`eses du lemme 20, si a et b sont des nombres rationnels alors la s´erie a pour valeur un nombre rationnel. Ainsi ∞ X ∞ X 1

n=2 m=2

nm

=

∞ X

1 = 1. n(n − 1) n=2

Un autre exemple est la somme de la s´erie (19) avec P (X) = 1 et Q(X) = (X + 1) · · · (X + k) pour k ≥ 2, a` savoir ∞ X

n! 1 1 = · · (n + k)! k − 1 (k − 1)! n=0 D´emonstration du lemme 20. On utilise la d´ecomposition en e´ l´ements simples de la fraction rationnelle h h Y 1 1 X (−1)i 1 = h · (22) X + ja a i!(h − i)! X + ia i=0 j=0 d’abord avec h = k − 1 : la somme S=

∞ k−1 X Y

n=0 j=0

1 (an + b + ja)

Transcendance de P´eriodes

99

de la s´erie du membre de gauche de (21) s’´ecrit S=

∞ k−1 X X

n=0 i=0

avec ci = Comme

ci an + b + ia

(−1)i ak−1 i!(k − 1 − i)! k−1 X

(0 ≤ i ≤ k − 1).

ci = 0,

i=0

on en d´eduit S= avec dm =

1 ak−1 m X i=0

k−2 X

dm am +b m=0

(−1)i · i!(k − 1 − i)!

On v´erifie par r´ecurrence sur m, pour 0 ≤ m ≤ k − 2, dm =

1 (−1)m · · k − 1 m!(k − 2 − m)!

Il ne reste plus qu’`a appliquer de nouveau (22), mais cette fois-ci avec h = k − 2. La somme d’une s´erie (19) peut aussi eˆ tre transcendante : des exemples [3] sont ∞ X

1 = log 2, (2n + 1)(2n + 2) n=0 ∞ X

π 1 = , (n + 1)(2n + 1)(4n + 1) 3 n=0 et

√ 1 π 3 1 = − log 3. (3n + 1)(3n + 2)(3n + 3) 12 4 n=0 ∞ X

De fac¸on g´en´erale, quand la fraction rationnelle Q au d´enominateur a uniquement des pˆoles simples et rationnels, la somme de la s´erie est une combinaison lin´eaire de logarithmes de nombres alg´ebriques. En effet, d’apr`es [3] lemme 5, si kj et rj sont des entiers positifs avec rj ≤ kj et si cj sont des nombres complexes, si la s´erie S=

∞ X m X

cj k n + rj n=0 j=1 j

converge, alors sa somme est S=

kj −1 m X cj X

k j=1 j

t=1

−rj t

(1 − ζj

) log(1 − ζjt ),

100

Michel Waldschmidt

ζj d´esignant une racine primitive kj -i`eme de l’unit´e. Ainsi quand les nombres cj sont alg´ebriques et que ce nombre S est non nul, alors non seulement il est transcendant (d’apr`es le th´eor`eme 2), mais en plus on en connaˆıt de bonnes mesures de transcendance (voir par exemple [57] et [3]). En particulier il n’est pas un nombre de Liouville. D’autres exemples de s´eries de la forme (19) prenant une valeur transcendante sont ∞ X 1

n=1

et [17]

∞ X

n=0

n2

n2

=

π2 6

1 π eπ + e−π 1 = + · π · +1 2 2 e − e−π

(23)

La transcendance de ce dernier nombre provient du th´eor`eme 15 de Nesterenko. Ces exemples soul`event plusieurs questions. Voici la premi`ere Question 24 Quelles sont les p´eriodes parmi les nombres (19) ? Il y a beaucoup de p´eriodes parmi ces nombres (19) (voir par exemple le lemme 26 ci-dessous), mais on s’attend plutˆot a` ce qu’un nombre tel que (23) n’en soit pas une. Sur la nature arithm´etique des s´eries (19), on peut esp´erer l’´enonc´e suivant : Conjecture 25 Un nombre de la forme X P (n)

n≥0 Q(n)6=0

Q(n)

est soit rationnel, soit transcendant. Ce n’est jamais un nombre de Liouville. De plus, s’il est rationnel, alors la s´erie est « t´elescopique ». Par « s´erie t´elescopique » nous entendons une s´erie dont la somme est rationnelle, la d´emonstration de ce fait reposant sur l’argument du lemme 20. Le cas particulier des fractions rationnelles de la forme P (X)/Q(X) = X −s m´erite une section sp´eciale.

5.

Valeurs de la Fonction zˆeta de Riemann

Commenc¸ons par un r´esultat e´ l´ementaire concernant les valeurs de la fonction zˆeta de Riemann aux entiers positifs. Lemme 26 Pour s ≥ 2

ζ(s) =

X 1

n≥1

est une p´eriode.

ns

Transcendance de P´eriodes

101

D´emonstration : on v´erifie facilement l’´egalit´e ζ(s) =

Z

1>t1 >···>ts >0

dt1 dts−1 dts ··· · · t1 ts−1 1 − ts

(27)

Il sera commode d’utiliser la notation des int´egrales it´er´ees de Chen ([18] § 2.6) et d’´ecrire la relation (27) sous la forme ζ(s) =

Z

0

1

ω0s−1 ω1

avec ω0 =

dt t

et

ω1 =

dt · 1−t

(28)

La nature arithm´etique des valeurs de la fonction zˆeta de Riemann en des entiers positifs pairs est connue depuis Euler : π −2k ζ(2k) ∈ Q pour

k ≥ 1.

Ces nombres rationnels s’expriment en termes des nombres de Bernoulli [18], formule ´ (38). Etablir un r´esultat de rationalit´e (ou d’alg´ebricit´e) de certains nombres est en g´en´eral plus f´econd que d’´etablir des e´ nonc´es d’irrationalit´e ou de transcendance – cependant notre propos est de faire le point sur les r´esultats de transcendance : ce sont eux qui assurent que toute la richesse potentielle que rec`elent des relations alg´ebriques entre les nombres consid´er´es a bien e´ t´e exploit´ee. La principale question diophantienne que posent les nombres d’Euler est de savoir quelles relations alg´ebriques existent entre les nombres ζ(2),

ζ(3),

ζ(5),

ζ(7) . . . ?

On conjecture qu’il n’y en a pas ([18] et [26] Conjecture 0.1). Autrement dit Conjecture 29 Les nombres ζ(2),

ζ(3),

ζ(5),

ζ(7) . . .

sont alg´ebriquement ind´ependants. On sait tr`es peu de choses dans cette direction : le th´eor`eme de Lindemann : affirme que le nombre π est transcendant, donc aussi ζ(2k) pour tout entier k ≥ 1. En 1978 R. Ap´ery a d´emontr´e que le nombre ζ(3) est irrationnel. La d´emonstration d’Ap´ery permet de montrer que le nombre ζ(3) n’est pas un nombre de Liouville, la meilleure mesure d’irrationalit´e e´ tant celle de Rhin et Viola [47] : ζ(3) − p > q −µ q

pour q suffisamment grand, avec µ = 5, 513 . . . Les travaux r´ecents de T. Rivoal, puis de K. Ball et W. Zudilin notamment, apportent les premi`eres informations sur la nature arithm´etique des valeurs de la fonction zˆeta aux entiers impairs : par exemple l’espace vectoriel sur le corps des nombres rationnels engendr´e par les nombres ζ(2k + 1), k ≥ 1 a une dimension infinie (cf. [26]).

102

Michel Waldschmidt

Une e´ tape pr´eliminaire en vue d’une d´emonstration de la conjecture 29 consiste a` lin´eariser le probl`eme : les m´ethodes diophantiennes sont en effet plus performantes pour e´ tablir des e´ nonc´es d’ind´ependance lin´eaire (comme le th´eor`eme 2 de Baker, ou mˆeme le th´eor`eme de Lindemann-Weiserstrass, qui peut s’´enoncer de mani`ere e´ quivalente comme un r´esultat d’ind´ependance alg´ebrique ([25] Th. 2.3’) ou lin´eaire ([25] Th. 2.3) que pour e´ tablir des r´esultats d’ind´ependance alg´ebrique. Euler avait d´ej`a remarqu´e que le produit de deux valeurs de la fonction zˆeta (de Riemann comme on l’appelle maintenant !) e´ tait encore la somme d’une s´erie. En effet, de la relation X

n1 ≥1

1 n−s 1

X

n2 ≥1

n2 −s2 =

−s2 1 n−s + 1 n2

X

n1 >n2 ≥1

X

−s1 2 n−s + 2 n1

n2 >n1 ≥1

X

n−s1 −s2

n≥1

on d´eduit, pour s1 ≥ 2 et s2 ≥ 2, ζ(s1 )ζ(s2 ) = ζ(s1 , s2 ) + ζ(s2 , s1 ) + ζ(s1 + s2 ) avec ζ(s1 , s2 ) =

X

n1−s1 n2 −s2 .

n1 >n2 ≥1

Pour k, s1 , . . . , sk entiers positifs avec s1 ≥ 2, on pose s = (s1 , . . . , sk ) et ζ(s) =

X

n s1 n1 >n2 >···>nk ≥1 1

1 · · · · nskk

(30)

Ces nombres sont appel´es « valeurs zˆeta multiples », ou encore « MZV »(Multiple Zeta Values). Pour k = 1 on retrouve bien entendu les nombres d’Euler ζ(s). Remarque 31 Chacun des nombres ζ(s) est une p´eriode : en effet, avec la notation (28) des int´egrales it´er´ees de Chen, on a (cf. [18] § 2.6) : ζ(s) =

Z

0

1

ω0s1 −1 ω1 · · · ω0sk −1 ω1 .

(32)

Le produit de s´eries (30) est une combinaison lin´eaire de telles s´eries. Par cons´equent l’espace vectoriel (sur Q ou sur Q) engendr´e par les ζ(s) est aussi une alg`ebre sur ce corps. De plus le produit de deux int´egrales (32) est aussi une combinaison lin´eaire de telles int´egrales. Par diff´erence on obtient des relations lin´eaires non triviales a` coefficients rationnels entre les MZV. On en obtient de nouvelles — comme celle d’Euler ζ(2, 1) = ζ(3) — en y ajoutant les relations que l’on obtient en r´egularisant les s´eries et les int´egrales divergentes [18]. Une description exhaustive des relations lin´eaires entre les MZV devrait th´eoriquement permettre de d´ecrire du mˆeme coup toutes les relations alg´ebriques entre ces nombres, et en particulier de r´esoudre le probl`eme 29 de l’ind´ependance alg´ebrique sur le corps Q(π) des valeurs de la fonction zˆeta aux entiers impairs. Le but est donc de d´ecrire toutes les relations lin´eaires a` coefficients rationnels entre les MZV. Soit Zp le Q-sous-espace vectoriel de R engendr´e par les nombres ζ(s) pour s de « poids »s1 + · · · + sk = p, avec Z0 = Q et Z1 = {0}. Voici la conjecture de Zagier (conjecture (108) de [18]) sur la dimension dp de Zp .

Transcendance de P´eriodes

103

Conjecture 33 Pour p ≥ 3 on a dp = dp−2 + dp−3 : (d0 , d1 , d2 , . . .) = (1, 0, 1, 1, 1, 2, 2, . . .). Cette conjecture s’´ecrit aussi X

dp X p =

p≥0

1 · 1 − X2 − X3

Un candidat pour eˆ tre une base de l’espace Zp est propos´e par M. Hoffman ([35], Conjecture C) : Conjecture 34 Une base de Zp sur Q est donn´ee par les nombres ζ(s1 , . . . , sk ), s1 + · · · + sk = p, o`u chacun des si est soit 2, soit 3. Cette conjecture est compatible avec ce qui est connu pour p ≤ 16 (travaux de Hoang Ngoc Minh notamment). Par exemple, en notant {a}b la suite form´ee de b occurences de a, les 7 valeurs suivantes devraient eˆ tre une base de l’espace vectoriel Z10 : ζ({2}5 ), ζ({2}2 , {3}2 ), ζ({2, 3}2 ), ζ((2, {3}2 , 2), ζ(3, {2}2 , 3), ζ({3, 2}2 ), ζ({3}2 , {2}2 ).

Exemple 35 Voici les petites valeurs de dp : • d0 = 1 car par convention ζ(s1 , . . . , sk ) = 1 pour k = 0. • d1 = 0 car {(s1 , . . . , sk ) ; s1 + · · · + sk = 1, s1 ≥ 2} = ∅. • d2 = 1 car ζ(2) 6= 0 • d3 = 1 car ζ(2, 1) = ζ(3) 6= 0 • d4 = 1 car ζ(4) 6= 0 et

1 3 2 ζ(3, 1) = ζ(4), ζ(2, 2) = ζ(4), ζ(2, 1, 1) = ζ(4) = ζ(2)2 . 4 4 5 La premi`ere valeur de dp qui ne soit pas connue est d5 . La conjecture 33 donne d5 = 2, et on sait d5 ∈ {1, 2} car ζ(2, 1, 1, 1) = ζ(5), ζ(3, 1, 1) = ζ(4, 1) = 2ζ(5) − ζ(2)ζ(3), 9 ζ(2, 1, 2) = ζ(2, 3) = ζ(5) − 2ζ(2)ζ(3), 2 11 ζ(2, 2, 1) = ζ(3, 2) = 3ζ(2)ζ(3) − ζ(5). 2 Donc d5 = 2 si et seulement si le nombre ζ(2)ζ(3)/ζ(5) est irrationnel. La conjecture 33 pr´edit une valeur exacte pour la dimension dp de Zp . La question diophantienne est d’´etablir la minoration. La majoration a e´ t´e e´ tablie r´ecemment grˆace aux travaux de A.B. Goncharov [29] et T. Terasoma [55] (voir aussi le th´eor`eme 6.4 de [35]) : Les entiers δp d´efinis par la relation de r´ecurrence de la conjecture de Zagier δp = δp−2 + δp−3 avec les conditions initiales δ0 = 1, δ1 = 0 fournissent une majoration pour la dimension dp de Zp .

104

Michel Waldschmidt

6.

Fonctions Hyperg´eom´etriques

Pour a, b, c et z nombres complexes avec c 6∈ Z≤0 et |z| < 1, on d´efinit la fonction hyperg´eom´etrique de Gauss (voir par exemple [25], Chap. 1 § 3.6, Chap. 2 § 3.2) 2 F1 (a, b ; c | z) =

∞ X (a)n (b)n

n=0

(c)n

·

zn n!

o`u (a)n = a(a + 1) · · · (a + n − 1). Exemple 36 Si on note K(z) l’int´egrale elliptique de Jacobi de premi`ere esp`ece K(z) =

Z

1

0

dx , (1 − x2 )(1 − z 2 x2 )

p

Pn le n-i`eme polynˆome de Legendre et Tn le n-i`eme polynˆome de Chebyshev : 1 Pn (z) = n!



d dz

n

(1 − z 2 )n ,

Tn (cos z) = cos(nz)

on a                      

2 F1 (a,

1 ; 1 | z)

=

2 F1 (1,

1 ; 2 | z)

=

2 F1

1/2, 1 ; 3/2 | z 2




=


 2   2 F1 1/2, 1/2 ; 3/2 | z     
  2  2 F1 1/2, 1/2 ; 1 | z         2 F1 (−n, n + 1 ; 1 | (1 + z)/2)   2 F1 (−n,

n ; 1/2 | (1 + z)/2)

= = = =

1 , (1 − z)a

1 log(1 + z), z 1 1 + z, log 2z 1−z 1 arcsin z, z 2 K(z), π 2−n Pn (z), (−1)n Tn (z).

(37)

Pour c > b > 0 nombres rationnels, on a (Euler, 1748) Γ(c) 2 F1 (a, b ; c | z) = Γ(b)Γ(c − b)

Z

0

1

tb−1 (1 − t)c−b−1 (1 − tz)−a dt;

de la formule de r´eflexion de la fonction Gamma, jointe a` la relation (11) liant les fonctions Bˆeta et Gamma, on d´eduit Γ(c) 1 ∈ P. Γ(b)Γ(c − b) π

Il en r´esulte [37] § 2.2 que pour a, b, c rationnels avec c 6∈ Z≤0 et z ∈ Q avec |z| < 1, 2 F1 (a,

b ; c | z) ∈

1 P. π

(38)

Rappelons que P ⊂ (1/π)P. Il est sugg´er´e dans [37] § 2.2 que sous les mˆemes conditions, 2 F1 (a, b ; c|z) n’appartient pas a` P.

Transcendance de P´eriodes

105

Remarque 39 Pour a, b, c r´eels avec c > a + b et c 6∈ Z≤0 , on a (Gauss) 2 F1 (a,

b ; c | 1) =

Γ(c − a)Γ(c − b) · Γ(c)Γ(c − a − b)

Remarque 40 Une relation remarquable faisant intervenir l’invariant modulaire j(z) = J(e2iπz ) et la s´erie d’Eisenstein E4 = Q (cf (16)) est la suivante [37] § 2.3, due a` Fricke et Klein :   1728 1, 5 1/4 F ; 1 2 1 j(z) = Q(z) . 12 12

La transcendance des valeurs 2 F1 (a, b; c|z) des fonctions hyperg´eom´etriques quand a, b, c et z sont rationnels a e´ t´e e´ tudi´ee d`es 1929 par C.L. Siegel [53]. On doit a` A.B. Shidlovskii et a` son e´ cole de nombreux r´esultats sur la question (voir [25]). En 1988, J. Wolfart [60] a e´ tudi´e l’ensemble E des nombres alg´ebriques ξ tels que F (ξ) soit aussi alg´ebrique. Quand 2 F1 est une fonction alg´ebrique, E = Q est l’en2 1 semble de tous les nombres alg´ebriques. Supposons maintenant que 2 F1 est une fonction transcendante. Wolfart [60] montre que l’ensemble E est en bijection avec un ensemble de vari´et´es ab´eliennes de type CM – il s’agit donc d’une extension en dimension sup´erieure du th´eor`eme de Th. Schneider sur la transcendance de l’invariant modulaire j ([49], [51] Th. 17). La d´emonstration de Wolfart utilise le fait que les nombres 2 F1 (a, b, c; z) sont reli´es aux p´eriodes de formes diff´erentielles sur la courbe y N = xA (1 − x)B (1 − zx)C avec A = (1−b)N , B = (b+1−c)N , C = aN , tandis que N est le plus petit d´enominateur commun de a, b, c (voir a` ce sujet [36]). L’outil transcendant est le th´eor`eme du sous-groupe ` l’occasion de ces recherches, F. Beukers et J. Wolfart [10] analytique de W¨ustholz [63]. A ont e´ tabli de nouvelles relations qui n’avaient pas e´ t´e observ´ees avant, comme 2 F1

et



1 , 5 1 1323 ; 12 12 2 1331



=

3√ 4 11 4

 1 , 7 2 64000 2√ 6 ; = 253. 2 F1 12 12 3 64009 3 Quand le groupe de monodromie de l’´equation diff´erentielle hyperg´eom´etrique satisfaite par 2 F1 est un groupe triangulaire arithm´etique, l’ensemble E est infini. Wolfart [60] conjectura que r´eciproquement, l’ensemble E est fini si le groupe de monodromie n’est pas arithm´etique. Les travaux de P. Cohen et J. Wolfart [19], puis de P. Cohen et J. W¨ustholz [20] ont e´ tabli un lien entre cette question et la conjecture d’Andr´e-Oort [6, 44], selon laquelle les sous-vari´et´es sp´eciales de vari´et´es de Shimura sont pr´ecis´ement les sous-vari´et´es qui contiennent un sous-ensemble Zariski dense de points sp´eciaux. P. Cohen a remarqu´e qu’un cas particulier de la conjecture d’Andr´e-Oort en dimension 1 suffit ; le r´esultat crucial a e´ t´e e´ tabli par B. Edixhoven et A. Yafaev [24] : dans une vari´et´e de Shimura, une courbe contient une infinit´e de points appartenant a` la mˆeme orbite de Hecke d’un point sp´ecial si et seulement si elle est de type Hodge. Cela permet de r´epondre a` la question initiale de 

106

Michel Waldschmidt

C.L. Siegel ; de mani`ere pr´ecise, en regroupant les r´esultats de [19, 20, 24, 60], on d´eduit : l’ensemble exceptionnel E est en bijection avec un ensemble de points dans la mˆeme orbite de Hecke d’un point sp´ecial (CM) sur une courbe dans une vari´et´e de Shimura d´efinie sur Q. L’ensemble E est infini si le groupe de monodromie est arithm´etique, il est fini si le groupe de monodromie n’est pas arithm´etique. ` la fonction hyperg´eom´etrique de Gauss on associe la fraction continue de Gauss A G(z) = G(a, b, c; z) = 2 F1 (a, b + 1 ; c + 1 | z) /2 F1 (a, b ; c | z) 



= 1/ 1 − g1 z/(1 − g2 z/(· · ·))

a` coefficients g2n−1 = (a + n − 1)(c − b + n − 1)/((c + 2n − 2)(c + 2n − 1)), g2n = (b + n)(c − a + n)/((c + 2n − 1)(c + 2n)).

J. Wolfart [61] a montr´e que si les param`etres a, b, c sont rationnels, c 6= 0, −1, −2, · · ·, et si G(z) n’est pas une fonction alg´ebrique, alors pour presque toutes les valeurs alg´ebriques de l’argument z la valeur de G(z) est transcendante. Il utilise le th´eor`eme de G. W¨ustholz [63] ainsi que des r´esultats de G. Shimura et Y. Taniyama sur les vari´et´es ab´eliennes. Pour les nombres dont nous venons de parler, li´es aux fonctions hyperg´eom´etriques, dont on sait e´ tablir la transcendance, on connaˆıt e´ galement des mesures d’approximation par des nombres alg´ebriques (voir [25] et [27, 28] notamment). Les fonctions hyperg´eom´etriques de Gauss sont des cas particuliers d’une famille plus vaste, form´ee des fonctions hyperg´eom´etriques g´en´eralis´ees (voir par exemple [25] Chap. 2, § 6). Pour p entier ≥ 2 et a1 , . . . , ap , b1 , . . . , bp−1 et z nombres complexes avec bi 6∈ Z≤0 et |z| < 1, on d´efinit p Fp−1

a1 , . . . , ap z b1 , . . . , bp−1

!

=

∞ X (a1 )n · · · (ap )n

n=0

(b1 )n · · · (bp−1 )n

Exemple 41 Les fonctions

1 F0

et 3 F2



1/n

z

n



=

1/4, 1/2, 3/4 28 z 3 1/3, 2/3 3

√ n

!

1 − zn

=

∞ X

k=0

!

4k k z k

sont alg´ebriques. La fonction de Bessel J0 (z) = 0 F1 est transcendante.

1

−z 2

4

!

=

X

n≥0

(−1)n

z 2n 22n (n!)2

·

zn · n!

Transcendance de P´eriodes

107

Par r´ecurrence sur p a` partir de (38) on d´emontre : Proposition 42 Pour a1 , . . . , ap , b1 , . . . , bp−1 nombres rationnels avec p ≥ 2, bi 6∈ Z≤0 et pour z ∈ Q avec |z| < 1, on a a1 , . . . , ap z b1 , . . . , bp−1

p Fp−1

!

∈

1 π p−1

P.

On peut consulter [25] pour connaˆıtre l’´etat de la question de la nature arithm´etique des valeurs de fonctions hyperg´eom´etriques g´en´eralis´ees, aussi bien sous l’aspect qualitatif (irrationalit´e, transcendance, ind´ependance alg´ebrique) que quantitatif (mesures d’approximation, de transcendance ou d’ind´ependance alg´ebrique).

7.

Mesure de Mahler de polynˆomes en Plusieurs Variables

Soit P ∈ C[z1 , . . . , zn , z1−1 , . . . , zn−1 ] un polynˆome de Laurent non nul en n variables. On d´efinit la mesure de Mahler M(P ) et la mesure de Mahler logarithmique µ(P ) par µ(P ) = log M(P ) =

Z

1

0

···

Z

0

1



Dans le cas le plus simple n = 1 on e´ crit P (z) =

d X



log P (e2iπt1 , . . . , e2iπtn ) dt1 · · · dtn . i

ad−i z = a0

i=0

et on a M(P ) = |a0 |

d Y

i=1 d Y

i=1

(z − αi )

max{1, |αi |}.

On en d´eduit notamment µ(P ) ∈ P. Plus g´en´eralement, pour P ∈ Q[z1 , . . . , zn , z1−1 , . . . , zn−1 ] on a µ(P ) ∈

1 P. πn

D. Boyd et C.J. Smyth (voir les r´ef´erences dans [12]) ont calcul´e un certain nombre d’exemples de valeurs de la fonction µ qu’ils ont exprim´ees en termes de valeurs sp´eciales de fonctions L attach´ees a` des caract`eres de Dirichlet. D. Boyd et F. Rodriguez Villegas ont obtenu des r´esultats du mˆeme genre faisant intervenir des fonctions L attach´ees a` des courbes elliptiques. Ensuite D. Boyd, F. Rodriguez Villegas, V. Maillot et S. Vandervelde ont exprim´e certaines mesures de Mahler logarithmiques a` l’aide de combinaisons de valeurs de la fonction dilogarithme. Mis a` part le c´el`ebre exemple µ(1 + z1 + z2 + z3 ) =

7 ζ(3). 2π 2

dˆu a` C.J. Smyth, les r´esultats connus concernent principalement le cas de deux variables ; cependant les travaux de C. Deninger donnent des espoirs pour le cas g´en´eral.

108

8. 8.1.

Michel Waldschmidt

Exponentielles de P´eriodes et P´eriodes Exponentielles Exponentielles de P´eriodes

Parmi les suggestions de Kontsevich et Zagier dans [37], on rel`eve dans le § 1.2 celle qui pr´edit que les nombres 1/π et e ne sont pas des p´eriodes. Parmi les candidats a` ne pas eˆ tre 2 des p´eriodes on peut ajouter eπ et eπ . On connaˆıt la transcendance de eπ (A.O. Gel’fond, 1929 – c’est une cons´equence du 2 th´eor`eme 2), mais pas celle de eπ . Conjecture 43 Soient α1 , α2 , α3 des nombres alg´ebriques non nuls. Pour j = 1, 2, 3 soit log αj ∈ C \ {0} un logarithme non nul de αj , c’est-`a-dire un nombre complexe non nul tel que elog αj = αj . Alors (log α1 ) log α2 ) 6= log α3 . 2

Exemple 44 Avec log α1 = log α2 = iπ on d´eduit la transcendance du nombre eπ . Un autre exemple est la transcendance du nombre 2log 2 . D’autres conjectures sont propos´ees dans [58], a` la fois pour la fonction exponentielle (conjectures des trois, quatre, cinq exponentielles) et pour les fonctions elliptiques. Des cas tr`es particuliers de ces conjectures sont e´ tablis. L’appendice de [58] par H. Shiga e´ tablit un lien avec des p´eriodes de surfaces de Kummer. Les r´esultats partiels que l’on connaˆıt sur la conjecture 43 et les questions autour de la conjecture des quatre exponentielles [38, 57, 58] reposent sur la m´ethode de transcendance qui a permis a` Th. Schneider de r´esoudre le septi`eme probl`eme de Hilbert en 1934. On peut noter que cette m´ethode fait jouer un rˆole essentiel au th´eor`eme d’addition alg´ebrique de la fonction exponentielle, a` savoir ex+y = ex ey , et n’utilise pas l’´equation diff´erentielle de cette fonction, contrairement a` ce qui est sugg´er´e a` la fin du § 2.4 de [37]. Une autre m´ethode de transcendance qui ne fait pas intervenir de d´erivations est celle de Mahler qui fait l’objet du livre de K. Nishioka [43]. Notons a` ce propos que la conjecture 5.4 de [59] sur la transcendance de nombres dont le d´eveloppement dans une base est donn´e par une suite « automatique », qui faisait l’objet de travaux de J.H. Loxton et A.J. van der Poorten utilisant la m´ethode de Mahler, vient d’ˆetre r´esolue par B. Adamczewski, Y. Bugeaud et F. Lucas [2, 1], grˆace a` une m´ethode enti`erement diff´erente de celle de Mahler, bas´ee sur le th´eor`eme du sous-espace de W.M. Schmidt. La conjecture 43 est un cas tr`es particulier de la conjecture selon laquelle des logarithmes Q-lin´eairement ind´ependants de nombres alg´ebriques sont alg´ebriquement ind´ependants. Un des exemples les plus importants de nombres qui s’expriment comme valeur d’un polynˆome en des logarithmes de nombres alg´ebriques est celui de d´eterminants de matrices dont les coefficients sont de tels logarithmes. Certains r´egulateurs sont de cette forme, et d´ecider s’ils sont nuls ou non peut eˆ tre consid´er´e comme un probl`eme de transcendance. Quand ils ne sont pas nuls on conjecture que ces d´eterminants sont transcendants, et que ce ne sont pas de nombres de Liouville.

Transcendance de P´eriodes

8.2.

109

P´eriodes Exponentielles

La d´efinition suivante est donn´ee dans [37] § 4.3. Il est pr´ecis´e dans l’introduction de [37] que la derni`ere partie de ce texte est l’œuvre uniquement du premier auteur. D´efinition Une p´eriode exponentielle est une int´egrale absolument convergente du produit d’une fonction alg´ebrique avec l’exponentielle d’une fonction alg´ebrique, sur un ensemble semialg´ebrique, o`u tous les polynˆomes intervenant dans la d´efinition ont des coefficients alg´ebriques. Exemple 45 Dans l’alg`ebre des p´eriodes exponentielles, on trouve e´ videmment les p´eriodes, mais aussi les nombres Z β

eβ =

ex dx

−∞

quand β alg´ebrique, le nombre √

π=

∞

Z

2

−∞

e−x dx,

les valeurs de la fonction Gamma aux points rationnels : Γ(s) =

Z

∞

0

e−t ts ·

dt , t

ainsi que les valeurs des fonctions de Bessel aux points alg´ebriques Jn (z) =

Z

exp

|u|=1

  z

2

u−

1  du · u un+1 

Ces exemples sont interpr´et´es par S. Bloch et H. Esnault [11] comme des p´eriodes issues d’une dualit´e entre cycles homologiques et formes diff´erentielles pour des connections ayant des points singuliers irr´eguliers sur des surfaces de Riemann.

8.3.

Constante d’Euler

On ne sait pas d´emontrer que le nombre γ = lim

n→∞

1 1 1 1 + + + · · · + − log n = 0.5772157 . . . 2 3 n





est irrationnel [54], mais on attend mieux : Conjecture 46 Le nombre γ est transcendant. Un r´esultat encore plus fort est sugg´er´e par Kontsevich et Zagier [37] § 1.1 et § 4.3 : Conjecture 47 Le nombre γ n’est pas une p´eriode, ni mˆeme une p´eriode exponentielle.

110

Michel Waldschmidt

8.4.

Un Analogue en Dimension 2 de la Constante d’Euler

Pour chaque k ≥ 2, d´esignons par Ak l’aire minimale d’un disque ferm´e de R2 contenant au moins k points de Z2 . Pour n ≥ 2, posons [31] δn = − log n +

n X 1

k=2

Ak

et δ = lim δn . n→∞

F. Gramain conjecture : Conjecture 48 δ =1+

4 (γL0 (1) + L(1)), π

o`u γ est la constante d’Euler et L(s) =

X

(−1)n (2n + 1)−s .

n≥0

est la fonction L du corps quadratique Q(i) (fonction Bˆeta de Dirichlet). Comme L(1) = π/4 et L0 (1) =

X

n≥0

=

(−1)n+1 ·

log(2n + 1) 2n + 1

π (3 log π + 2 log 2 + γ − 4 log Γ(1/4)), 4

la conjecture 48 s’´ecrit aussi δ = 1 + 3 log π + 2 log 2 + 2γ − 4 log Γ(1/4) = 1.82282524 . . . Le meilleur encadrement connu pour δ est [31] 1.811 . . . < δ < 1.897 . . . Il semble vraisemblable que ce nombre δ n’est pas une p´eriode (et par cons´equent est transcendant), mais, e´ tant donn´e le peu d’information que nous avons sur lui, ce n’est probablement pas le meilleur candidat pour r´esoudre la question de [37] (§ 1.2 problem 3) qui consiste a` exhiber un nombre qui n’est pas une p´eriode !

9.

Caract´eristique Finie

Les questions diophantiennes concernant les nombres complexes ont des analogues dans les corps de fonctions en caract´eristique finie qui ont fait l’objet de nombreux travaux [30]. Les premiers outils d´evelopp´es par L. Carlitz (1935) ont e´ t´e utilis´es par I.I. Wade (1941) qui a obtenu les premiers e´ nonc´es de transcendance. Apr`es divers travaux, notamment de J.M. Geijsel et P. Bundschuh en 1978, la th´eorie a e´ t´e d´evelopp´ee de mani`ere approfondie par Jing Yu a` partir des ann´ees 1980, d’abord dans le cadre des modules elliptiques qui

Transcendance de P´eriodes

111

avaient e´ t´e introduits par V.G. Drinfel’d en 1974, ensuite dans le cadre des t-motifs de G. Anderson a` partir de 1986. Pendant longtemps les r´esultats en caract´eristique finie e´ taient des analogues des r´esultats classiques relatifs aux nombres complexes, jusqu’`a ce que Jing Yu obtiennent des e´ nonc´es qui vont plus loin que leurs analogues complexes [64]. L’utilisation, introduite dans ce contexte par L. Denis en 1990, de la d´erivation par rapport a` la variable du corps de fonctions, produit des e´ nonc´es qui n’ont pas d’´equivalents dans le cas classique des nombres complexes. Une autre particularit´e de la caract´eristique finie est la possibilit´e de consid´erer des produits tensoriels, permettant parfois de ramener des questions d’ind´ependance alg´ebrique a` des probl`emes d’ind´ependance lin´eaire (un bel exemple est donn´e par S. David et L. Denis dans [22]). Deux expos´es de synth`ese sur ce th`eme sont donn´es, l’un en 1992 par Jing Yu dans [64], l’autre en 1998 par W.D. Brownawell [13].

9.1.

Un Analogue en Caract´eristique Finie de la Constante d’Euler

Un r´esultat remarquable en caract´eristique finie est la transcendance de l’analogue de la constante d’Euler. Le nombre complexe γ peut eˆ tre d´efini par 1 γ = lim ζ(s) − s→1 s−1 



quand ζ d´esigne la fonction zˆeta de Riemann : ζ(s) =

(1 − p−s )−1 .

Y p

Dans ce produit p d´ecrit l’ensemble de nombres premiers. En caract´eristique finie le produit correspondant porte sur les polynˆomes irr´eductibles unitaires a` coefficients dans un corps fini Fq a` q e´ l´ements. Dans ce cas le produit converge au point s = 1, et la valeur en ce point est donc un analogue de la constante d’Euler (dans un compl´et´e C d’une clˆoture alg´ebrique de Fq ((1/T ))). Cet e´ l´ement de C est transcendant sur Fq (T ) : cela a e´ t´e d´emontr´e par G.W. Anderson et D. Thakur en 1990 [5], mais ils remarquent que les outils dont disposait I.I. Wade auraient suffit pour e´ tablir le r´esultat d`es 1940.

9.2.

La Fonction Gamma de Thakur

Par analogie avec le produit infini (9) d´efinissant la fonction Gamma d’Euler, D. Thakur d´efinit (cf. [13])  ∞  Y z −1 −1 Γ(z) = z 1+ n n∈A +

o`u A = Fq [T ] d´esigne l’anneau des polynˆomes a` coefficients dans Fq et A+ l’ensemble des polynˆomes unitaires. Cette fonction Gamma est m´eromorphe sur C. Elle satisfait des relations analogues aux relations standard satisfaites par la fonction Gamma d’Euler. De mˆeme, le pendant en caract´eristique finie des relations de Deligne-Koblitz-Ogus a e´ t´e e´ tabli par Deligne, Anderson et Thakur (voir [14]). En 1992 G. Anderson a introduit une notion de fonction soliton, qui, selon [14], est un analogue en dimension sup´erieure de la fonction shtuka pour les modules de Drinfeld

112

Michel Waldschmidt

de rang 1. Les fonctions m´eromorphes que R. Coleman avait utilis´ees pour e´ tudier les endomorphismes de Frobenius sur les courbes de Fermat et d’Artin-Schreier avaient e´ t´e interpr´et´ees par Thakur en termes de sa fonction Gamma. C’est en d´eveloppant le parall`ele avec certains e´ l´ements de la th´eorie des e´ quations aux d´eriv´ees partielles que G. Anderson a e´ t´e amen´e a` introduire ses solitons. Cette th´eorie a e´ t´e utilis´ee en 1997 par S.K. Sinha, qui a construit des t-modules ayant des p´eriodes dont les coordonn´ees sont des multiples par un nombre alg´ebrique de valeurs de la fonction Gamma de Thakur en des points rationnels a/f , avec a et f dans A+ . Grˆace aux r´esultats de transcendance de Jing Yu, S.K. Sinha a pu ainsi obtenir la transcendance de certaines valeurs de la fonction Gamma de Thakur en des points rationnels. Ces travaux ont e´ t´e poursuivis par W.D. Brownawell et M.A. Papanikolas qui montrent dans [14] que les relations lin´eaires a` coefficients alg´ebriques entre les valeurs de la fonction Gamma de Thakur sont celles qui r´esultent de Deligne-Anderson-Thakur. On peut consid´erer qu’il s’agit de l’analogue pour les corps de fonctions sur un corps fini du th´eor`eme de Wolfart et W¨ustholz [62] sur l’ind´ependance lin´eaire des valeurs de la fonction Bˆeta. Ce qui est sp´ecialement remarquable est qu’il est possible d’aller plus loin : dans [4], G.W. Anderson, W.D. Brownawell et M.A. Papanikolas montrent que toutes les relations de d´ependance alg´ebrique entre les valeurs de la fonction Gamma de Thakur r´esultent des relations de Deligne-Anderson-Thakur. Pour les valeurs de la fonction Gamma la situation en caract´eristique finie est donc bien plus en avance que dans le cas classique o`u la conjecture de Rohrlich-Lang semble hors d’atteinte. Tout r´ecemment M. Papanikolas a e´ tabli l’analogue pour les modules de Drinfeld de la conjecture sur l’ind´ependance alg´ebrique de logarithmes de nombres alg´ebriques (cf. § 8.1).

Remerciements Ce texte r´esume des expos´es donn´es en 2003 et 2004 a` Sharhood (Iran), Taipei (Taiwan), Bangalore (Inde), Oulu (Finlande), S´eoul (Cor´ee), Mahdia (Tunisie) et Besanc¸on (France). Merci en particulier a` Khalifa Trim`eche pour son invitation au congr`es annuel de la Soci´et´e Math´ematique de Tunisie en mars 2004 qui donne lieu a` cette r´edaction.

R´ef´erences [1] B. Adamczewski & Y. Bugeaud – « On the complexity of algebraic numbers », Submitted to Annals of Maths. [2] B. Adamczewski, Y. Bugeaud & F. Lucas – « Sur la complexit´e des nombres alg´ebriques », C. R. Acad. Sci. Paris 339 (2004), 11–14. [3] S. D. Adhikari, N. Saradha, T. N. Shorey & R. Tijdeman – « Transcendental infinite sums », Indag. Math. (N.S.) 12 (2001), no. 1, p. 1–14. [4] G. W. Anderson, W. D. Brownawell & M. A. Papanikolas – « Determination of the algebraic relations among special gamma-values in positive characteristic », math.NT/0207168 — to appear in Annals of Maths. 159, 2004.

Transcendance de P´eriodes

113

[5] G. W. Anderson & D. S. Thakur – « Tensor powers of the Carlitz module and zeta values », Ann. of Math. (2) 132 (1990), no. 1, p. 159–191. [6] Y. Andr´e – G-functions and geometry, Aspects of Mathematics, E13, Friedr. Vieweg & Sohn, Braunschweig, 1989. [7] — , « Quelques conjectures de transcendance issues de la g´eom´etrie alg´ebrique », Pr´epublication de l’institut de Math´ematiques de Jussieu, 121, 1997. [8] K. Barr´e-Sirieix, G. Diaz, F. Gramain & G. Philibert – « Une preuve de la conjecture de Mahler-Manin », Invent. Math. 124 (1996), no. 1-3, p. 1–9. [9] C. Bertolin – « P´eriodes de 1-motifs et transcendance », J. Number Theory 97 (2002), no. 2, p. 204–221. [10] F. Beukers & J. Wolfart – « Algebraic values of hypergeometric functions », in New advances in transcendence theory (Durham, 1986), Cambridge Univ. Press, 1988, p. 68–81. [11] S. Bloch & H. Esnault – « Gauss-Manin determinants for rank 1 irregular connections on curves », Math. Ann. 321 (2001), no. 1, p. 15–87. [12] D. W. Boyd – « Mahler’s measure and special values of L-functions—some conjectures », in Number theory in progress, Vol. 1 (Zakopane-Ko´scielisko, 1997), de Gruyter, Berlin, 1999, p. 27–34. [13] W. D. Brownawell – « Transcendence in positive characteristic », in Number theory (Tiruchirapalli, 1996), Contemp. Math., vol. 210, Amer. Math. Soc., Providence, RI, 1998, p. 317–332. [14] W. D. Brownawell & M. A. Papanikolas – « Linear independence of gamma values in positive characteristic », J. Reine Angew. Math. 549 (2002), p. 91–148. [15] S. Bruiltet – « D’une mesure d’approximation simultan´ee a` une mesure d’irrationalit´e : le cas de Γ(1/4) et Γ(1/3) », Acta Arith. 104 (2002), no. 3, p. 243–281. [16] Y. Bugeaud – Approximation by algebraic numbers, Cambridge Tracts in Math., Cambridge University Press, 2004, a` paraˆıtre. [17] P. Bundschuh – « Zwei Bemerkungen u¨ ber transzendente Zahlen », Monatsh. Math. 88 (1979), no. 4, p. 293–304. [18] P. Cartier – « Fonctions polylogarithmes, nombres polyzˆetas et groupes prounipotents », Ast´erisque (2002), no. 282, p. Exp. No. 885, viii, 137–173, S´eminaire Bourbaki, Vol. 2000/2001. [19] P. Cohen & J. Wolfart – « Modular embeddings for some nonarithmetic Fuchsian groups », Acta Arith. 56 (1990), no. 2, p. 93–110. [20] P. B. Cohen & G. W¨ustholz – « Application of the Andr´e-Oort conjecture to some questions in transcendence », in A panorama of number theory or the view from Baker’s garden (Z¨urich, 1999), Cambridge Univ. Press, Cambridge, 2002, p. 89–106. 0 ki˘ı – « Algebraic independence of constants connected with the exˇ [21] G. V. Cudnovs ponential and the elliptic functions », Dokl. Akad. Nauk Ukrain. SSR Ser. A (1976), no. 8, p. 698–701, 767.

114

Michel Waldschmidt

[22] S. David & L. Denis – « P´eriodes de modules de Drinfel’d — “ind´ependance quadratique en rang II” », J. Ramanujan Math. Soc. 17 (2002), no. 1, p. 65–83. [23] P. Deligne – « Cycles de Hodge absolus et p´eriodes des int´egrales des vari´et´es ab´eliennes », M´em. Soc. Math. France (N.S.) (1980/81), no. 2, p. 23–33. [24] B. Edixhoven & A. Yafaev – « Subvarieties of Shimura varieties », Ann. of Math. (2) 157 (2003), no. 2, p. 621–645. [25] N. I. Fel0 dman & Y. V. Nesterenko – « Transcendental numbers », in Number theory, IV, Encyclopaedia Math. Sci., vol. 44, Springer, Berlin, 1998, p. 1–345. [26] S. Fischler – « Irrationalit´e de valeurs de zˆeta (d’apr`es Ap´ery, Rivoal, ...) », S´eminaire Bourbaki 2002/03, exp. no. 910 ; a` paraˆıtre dans Ast´erisque ; preprint math.NT/0303066. ´ Gaudron – « Mesure d’ind´ependance lin´eaire de logarithmes dans un groupe [27] E. alg´ebrique commutatif », C. R. Acad. Sci. Paris S´er. I Math. 333 (2001), no. 12, p. 1059–1064. ´ Gaudron – « Formes lin´eaires de logarithmes effectives sur les vari´et´es [28] E. ab´eliennes », manuscrit non publi´e, 2004. [29] A. B. Goncharov – « Multiple ζ-values, Galois groups, and geometry of modular varieties », in European Congress of Mathematics, Vol. I (Barcelona, 2000), Progr. Math., vol. 201, Birkh¨auser, Basel, 2001, p. 361–392. [30] D. Goss, D. R. Hayes & M. I. Rosen (´eds.) – The arithmetic of function fields, Ohio State University Mathematical Research Institute Publications, 2, Berlin, Walter de Gruyter & Co., 1992. [31] F. Gramain & M. Weber – « Computing an arithmetic constant related to the ring of gaussian integers », Math. Comp. 44 (1985), no. 169, p. 241–250 and S13–S16, Corrigendum, id. 48 (1987) no. 178 p. 854. [32] P. Grinspan – « Measures of simultaneous approximation for quasi-periods of abelian varieties », J. Number Theory 94 (2002), no. 1, p. 136–176. [33] B. H. Gross – « On the periods of abelian integrals and a formula of Chowla and Selberg », Invent. Math. 45 (1978), no. 2, p. 193–211. [34] A. Grothendieck – « On the de Rham cohomology of algebraic varieties », Inst. ´ Hautes Etudes Sci. Publ. Math. (1966), no. 29, p. 95–103. [35] M. E. Hoffman – « The algebra of multiple harmonic series », J. Algebra 194 (1997), no. 2, p. 477–495. [36] N. Koblitz & D. Rohrlich – « Simple factors in the Jacobian of a Fermat curve », Canad. J. Math. 30 (1978), no. 6, p. 1183–1205. [37] M. Kontsevich & D. Zagier – « Periods », in Mathematics unlimited—2001 and beyond, Springer, Berlin, 2001, p. 771–808. [38] S. Lang – Introduction to transcendental numbers, Addison-Wesley Publishing Co., Reading, Mass.-London-Don Mills, Ont., 1966. [39] — , « Relations de distributions et exemples classiques », in S´eminaire DelangePisot-Poitou, 19e ann´ee : 1977/78, Th´eorie des nombres, Fasc. 2, Secr´etariat Math., Paris, 1978, p. Exp. No. 40, 6.

Transcendance de P´eriodes

115

[40] D. Masser – « Interpolation on group varieties », in Approximations diophantiennes et nombres transcendants (Luminy, 1982) (D. Bertrand & M. Waldschmidt, e´ ds.), Progress in Math., no. 31, Birkh¨auser, 1983, p. 151–171. [41] Y. V. Nesterenko – « Modular functions and transcendence questions », Mat. Sb. [Sb. Math] 187 (1996), no. 9, p. 65–96 [1319–1348]. [42] Y. V. Nesterenko & P. Philippon (´eds.) – Introduction to algebraic independence theory, Lecture Notes in Math., no. 1752, Springer, 2001. [43] K. Nishioka – Mahler functions and transcendence, Lecture Notes in Mathematics, vol. 1631, Springer-Verlag, Berlin, 1996. [44] F. Oort – « Canonical liftings and dense sets of CM-points », in Arithmetic geometry (Cortona, 1994), Sympos. Math., XXXVII, Cambridge Univ. Press, Cambridge, 1997, p. 228–234. [45] F. Pellarin – « Id´eaux stables dans certains anneaux diff´erentiels de formes quasimodulaires de hilbert », math.NT/0407381, 2004. [46] A. J. Van der Poorten – « On the arithmetic nature of definite integrals of rational functions. », Proc. Amer. Math. Soc. 29 (1971), p. 451–456. [47] G. Rhin & C. Viola – « The group structure for ζ(3) », Acta Arith. 97 (2001), no. 3, p. 269–293. [48] T. Schneider – « Transzendenzuntersuchungen periodischer Funktionen », J. reine angew. Math. 14 (1934), p. 65–74. [49] — , « Arithmetische Untersuchungen elliptischer Integrale », Math. Ann. 113 (1937), p. 1–13. [50] — , « Zur Theorie des Abelschen Funktionen und Integrale », J. reine angew. Math. 183 (1941), p. 110–128. [51] T. Schneider – Introduction aux nombres transcendants, Traduit de l’allemand par P. Eymard, Gauthier-Villars, Paris, 1959. [52] D. Shanks – « Incredible identities », Fibonacci Quart. 12 (1974), p. 271, 280. [53] C. L. Siegel – Transcendental Numbers, Annals of Mathematics Studies, no. 16, Princeton University Press, Princeton, N. J., 1949. [54] J. Sondow – « Criteria for irrationality of Euler’s constant », Proc. Amer. Math. Soc. 131 (2003), no. 11, p. 3335–3344 (electronic). [55] T. Terasoma – « Mixed Tate motives and multiple zeta values », Invent. Math. 149 (2002), no. 2, p. 339–369. [56] K. G. Vasil0 ev – « On the algebraic independence of the periods of Abelian integrals », Mat. Zametki 60 (1996), no. 5, p. 681–691, 799. [57] M. Waldschmidt – Diophantine approximation on linear algebraic groups, Grundlehren der Mathematischen Wissenschaften [Fundamental Principles of Mathematical Sciences], vol. 326, Springer-Verlag, Berlin, 2000. [58] — , « Transcendence results related to the six exponentials theorem », Appendix by H. Shiga : Periods of a Kummer surface, Hyderabad, 2003.

116

Michel Waldschmidt

[59] — , « Open diophantine problems », Moscow Mathematical Journal 4 (2004), p. 245–305. [60] J. Wolfart – « Werte hypergeometrischer Funktionen », Invent. Math. 92 (1988), no. 1, p. 187–216. [61] — , « Values of Gauss’ continued fractions », in Number theory, Vol. II (Budapest, 1987), Colloq. Math. Soc. J´anos Bolyai, vol. 51, North-Holland, Amsterdam, 1990, p. 1051–1063. ¨ [62] J. Wolfart & G. W¨ustholz – « Der Uberlagerungsradius gewisser algebraischer Kurven und die Werte der Betafunktion an rationalen Stellen », Math. Ann. 273 (1985), no. 1, p. 1–15. [63] G. W¨ustholz – « Algebraische Punkte auf analytischen Untergruppen algebraischer Gruppen », Ann. of Math. (2) 129 (1989), no. 3, p. 501–517. [64] J. Yu – « Transcendence in finite characteristic », in The arithmetic of function fields (Columbus, OH, 1991), Ohio State Univ. Math. Res. Inst. Publ., vol. 2, de Gruyter, Berlin, 1992, p. 253–264.

In : Proceedings of the Tunisian Mathematical Society... ISBN 1-60021-014-7 c 2007 Nova Science Publishers, Inc. Editor : K. Triméche and S. Zarati, pp. 117-148

Chapter 9

Q UELQUES A SPECTS DU T HÉORÈME L IMITE C ENTRAL SUR LES G ROUPES DE L IE ET LES H YPERGROUPES Léonard Gallardo∗ Université de Tours, Laboratoire de Mathématiques et Physique Théorique-UMR 6083, Parc de Grandmont, 37200 TOURS, FRANCE

Résumé Cet article est la rédaction d’une conférence faite à Mahdia au colloque 2004 de la Société Mathématique de Tunisie. Il est constitué d’une sélection de résultats sur le théorème limite central sur les groupes de Lie et les hypergroupes. Les chercheurs qui s’intéressent à cette problématique, y trouveront un accès rapide aux aspects les plus significatifs de la théorie.

Keywords : Théorème limite central, systèmes triangulaires infinitésimaux de probabilités, semi-groupes de convolution, semi-groupes d’opérateurs, marches aléatoires, théorème de continuité de Paul Lévy, groupes de Lie, hypergroupes. AMS Subject Classifications : 20P05, 22E99, 43A62, 47D07, 60B10, 60B15, 60B99, 60F05, 60G50, 60J10.

1.

Introduction

Le théorème limite central est considéré comme le résultat central de la théorie des probabilités, d’où son nom. C’est la question qui a été la plus étudiée depuis que les mathématiciens ont commencé à modéliser le hasard vers le milieu du 17 ième siècle. On a d’abord remarqué empiriquement qu’étant donnée une répétition d’aléas de même nature (on dit aujourd’hui une suite (Xn )n>0 de variables aléatoires indépendantes et identiquement distribuées), la moyenne arithmétique de ces aléas tend vers une limite m ∗

E-mail address : [email protected]

118

Léonard Gallardo Pn

(c’est à dire n1 i=1 Xi → m presque-sûrement si n → ∞) et que cette limite m est une caractéristique de l’aléa (on dit que c’est l’espérance des Xi ) : ce résultat est la loi des grands nombres. Il convient de faire remarquer que si les variables aléatoires sont bornées , m existe toujours, ce qui est le cas dans les exemples élémentaires comme le lancer d’une Pn pièce, d’un dé etc. . . . Par commodité écrivons Sn = X . Le problème qui s’est i i=1 immédiatement posé est le suivant : comment se comportent les différences Rn = Snn − m lorsque n → ∞ ? Il semble que la solution à cette question (du moins dans le cas particulier où les aléas sont de Bernoulli) a été rapidement perçue : Pour "briser" la convergence de la quantité Rn vers zéro, il suffit de la multiplier √ √ par n. Alors, nRn qui s’écrit √

nRn =

Sn − nm √ , n

(1)

ne tend plus vers zéro mais en restant toutefois aléatoire, ne varie plus beaucoup et se distribue suivant une courbe en forme de "cloche", la distribution normale. En termes actuels, , converge en distribution (ou en loi1 ) vers la loi normale2 N (0, σ 2 ), où σ 2 la suite Sn√−nm n est une autre caractéristique de l’aléa considéré : la variance. Néanmoins en normalisant la quantité (1) par σ, on obtient : Sn − nm √ −→ N (0, 1), σ n

(2)

(en loi), ce qui fait apparaître la loi normale N (0, 1), comme une sorte "d’invariant" vers quoi tendent toutes les sommes normalisées du type (2) et ceci quelque soit la nature de l’aléa considéré (évidemment, si on se restreint à des aléas ayant une variance finie). C’est le début de l’histoire qu’on peut trouver dans tous les manuels qui traitent des probabilités (voir par exemple [25] pour une introduction particulièrement intéressante au calcul des probabilités). C’est dans le deuxième quart du vingtième siècle, en même temps que Kolmogorov éclairçissait les fondements des probabilités, en les basant sur la théorie de la mesure, qu’on voit apparaître les premières démonstrations rigoureuses du théorème limite central. On peut citer celles de Liapounov, Lindeberg, Cramer, Feller et Lévy . Dans la plupart des cas les énoncés obtenus sont plus généraux qu’ en (2), par exemple les variables aléatoires Xi ne sont pas forcément de même loi et par la suite, dans d’autres travaux, l’hypothèse d’indépendance est remplacée par d’autres conditions (dépendance markovienne, stationnarité, etc. . . ). Puis sont apparus les résultats fonctionnels (principe d’invariance de Donsker. . . ) qui donnent la première place au mouvement brownien et qui élargissent la problématique du théorème limite central à l’étude de la convergence en loi des processus. En même temps, les aléas Xi sont considérés à valeurs dans des espaces plus généraux (espaces de Banach, groupes topologiques). Les travaux des 50 dernières années sur ce sujet sont si nombreux qu’il n’est pas possible 1 2

cette notion de convergence va être définie dans le deuxième paragraphe voir le paragraphe 2 pour l’expression précise de la loi normale.

Le Théorème Limite Central

119

d’en rendre compte d’une manière satisfaisante si ne on ne se restreint pas à un petit nombre d’aspects. L’auteur a donc décidé de privilégier certains thèmes parmi ceux qui lui sont les plus familiers, en particulier ceux sur lesquels il a travaillé : les groupes de Lie et les hypergroupes. Il espère obtenir l’indulgence du lecteur en lui faisant cet aveu d’emblée. L’exposé comporte cinq parties. La première est l’introduction. La deuxième est constituée de rappels sur la convergence en loi et la notion de processus gaussien sur un groupe de Lie. Dans la troisième partie qu’on peut considérer comme didactique, nous rappelons trois démonstrations classiques du théorème limite central. La plus connue est celle de Paul Lévy qui utilise la transformation de Fourier. Une autre preuve assez différente et plus dans l’esprit des statisticiens est celle de Lindeberg. Enfin la démonstration la plus analytique qui utilise de manière élémentaire la théorie des opérateurs de convolution, est due à Trotter ([48] ). Ces trois preuves ont en commun un point extrêmement important et qui permet de bien démystifier la question : Le théorème limite central est fortement lié à la formule de Taylor donc à la structure différentiable de l’espace euclidien Rn . Les exemples présentés sur d’autres structures dans les parties 2 et 3 confirmeront largement cette impression. La quatrième partie concerne le théorème limite central sur les groupes de Lie. Les résultats que nous rapportons datent des années 1970-80 mais beaucoup de questions restaient en suspens et on assiste actuellement à un regain d’intérêt pour ces problèmes. Le cas d’un groupe de Lie G nilpotent simplement connexe est assez caractéristique des difficultés qu’on rencontre en général dans le problème de la normalisation des "sommes" Sn = X1 .X2 . . . Xn (qui sont en fait ici des produits). On obtient néanmoins comme limite la loi au temps 1 d’un mouvement brownien (βt )t>0 du groupe G. Une façon d’éviter les problèmes de normalisation est de considérer des systèmes triangulaires infinitésimaux qui sous des conditions assez naturelles convergent aussi en loi vers β1 . Cette idée est reprise dans la cinquième partie dans le cas des hypergroupes. La cinquième partie est consacrée au théorème limite central sur les hypergroupes commutatifs et plus précisément aux trois exemples les plus étudiés : les hypergroupes polynomiaux, les hypergroupes de Chébli-Trimèche et les hypergroupes avec drift, ces derniers constituant une classe assez générale incluant en grande partie les deux précédentes. Les résultats présentés montrent que la question du théorème limite central sur ces structures est assez complexe car on peut obtenir des lois limites très différentes suivant les méthodes de normalisation adoptées : ainsi on peut dans certains cas obtenir une convergence vers la loi au temps 1 d’un mouvement brownien spécifique à l’hypergroupe ou vers une loi normale usuelle.

2. 2.1.

Rappels et Notations Notions de Convergence en Loi

Soit (Ω, F, P ), un espace probabilisé sur lequel sont supposées définies toutes les variables aléatoires considérées dans la suite de cet article et dont nous ne ferons plus référence, sauf indication contraire (par exemple dans la dernière partie). Soit (E, B) un espace topologique localement compact muni de sa tribu borélienne. L’en-

120

Léonard Gallardo

semble des mesures de probabilités définies sur B 3 (resp. des mesures positives bornées, i.e. de masse finie) sera désigné par M1 (E) (resp. Mb (E)). L’ensemble des fonctions réelles définies sur E qui sont continues bornées (resp. continues à support compact, resp. tendant vers zéro à l’infini, resp. de classe C k ) est noté Cb (E) (resp. Cc (E), resp. C0 (E)), resp. C k (E)). Si X est une variable aléatoire à valeurs dans E, sa loi est la mesure µ ∈ M1 (E) telle que pour tout B ∈ B, µ(B) = P (X ∈ B). Pour abréger, on écrira parfois, µ = L(X), pour signifier que µ est la loi de la variable aléatoire X. Comme il est de tradition chez les probabilistes, on utilisera souvent dans la suite la locution "loi de probabilité" au lieu de "mesure de probabilité" même lorsqu’on ne précise pas la variable aléatoire dont cette mesure est la loi. Ainsi, par exemple, la loi normale N (0, σ 2 ) est la mesure de probabilité sur R donnée par µ(dx) = √

1 x2 exp(− 2 )dx 2σ 2πσ

et la loi normale N (0, 1) correspond au cas σ 2 = 1. On dit que des variables aléatoires X1 , . . . , Xn , de lois respectives µ1 , . . . , µn , sont indépendantes si le vecteur aléatoire (X1 , . . . , Xn ) à valeurs dans l’espace topologique produit E n a pour loi de probabilité la mesure µ1 ⊗ · · · ⊗ µn (produit tensoriel des mesures µ1 , . . . , µn ). Plus généralement, quand on parle d’une suite (Xn )n∈N de variables aléatoires indépendantes, cela signifie que pour tout entier N , les variables aléatoires X1 , . . . , XN sont indépendantes. Si X1 , . . . , Xn sont des variables aléatoires indépendantes à valeurs dans un groupe topologique localement compact G, de lois respectives µ1 , . . . , µn , la loi de la variable aléatoire S = X1 ◦ X2 ◦ · · · ◦ Xn , où ◦ désigne l’opération produit dans G, est le produit de convolution µ1 ? · · · ? µn (dans cet ordre si le groupe n’est pas commutatif), où pour µ, ν ∈ M1 (G), on a : Z Z < µ ? ν, f >= f (x ◦ y)µ(dx)ν(dy), (f ∈ Cc (G)), G

G

avec bien entendu + à la place de ◦ dans la formule précédente lorsque G = R. Nous rappelons maintenant ce qu’est la convergence en loi : On dit qu’une suite (µn )n>0 ⊂ Mb (E) converge vers µ ∈ Mb (E) étroitement (resp. faiblement) si pour toute f ∈ Cb (E) (resp. f ∈ C0 (E)), on a lim < µn , f >=< µ, f > .

n→∞

Si on a convergence faible de (µn )n>0 vers µ et s’il y a conservation de la masse (i.e. limn→∞ µn (E) = µ(E)), alors (µn )n>0 converge étroitement vers µ. On sait également (théorème de Helly-Bray) que de toute suite (µn )n>0 ⊂ M1 (E), on peut extraire une sous suite (µnk )nk qui converge faiblement vers une limite µ ∈ Mb (E) et si toutes les limites de sous suites faiblement convergentes sont égales à µ, la suite (µn )n>0 converge faiblement vers µ. Une suite de variables aléatoires (Xn )n>0 de lois (µn )n>0 ⊂ M1 (E), converge en loi si la 3

souvent dans la suite de l’article nous dirons, par abus de langage, que les mesures sont définies sur E.

Le Théorème Limite Central

121

suite (µn )n>0 converge étroitement donc vers une mesure µ ∈ M1 (E). Si alors X est une variable aléatoire de loi µ, on dit que la suite (Xn ) converge en loi vers X et on écrit : L

Xn → X. Lorsque E = R, la fonction de répartition de la variable aléatoire X (ou de la loi µ de X) est la fonction F : R −→ [0, 1], définie par F (x) = P (X ≤ x)(= µ(] − ∞, x]). Si Fn (resp. F ) est la fonction de répartition de Xn (resp. de X), la convergence en loi de Xn vers X équivaut à la convergence simple de Fn (x) vers F (x) en tout point x de continuité de F . Plus généralement la convergence étroite de la suite (µn )n>0 vers µ, équivaut à la convergence de µn (A) vers µ(A) pour tout borélien A tel que µ(∂A) = 0 (∂A désignant le bord de A).

2.2.

Processus Gaussiens sur un Groupe de Lie

Nous allons dans cette partie introduire de manière succinte la notion de processus gaussien sur un groupe de Lie. Certaines de ces notions peuvent être présentées dans un cadre plus général (voir [26], [27] et [31] pour le travail initial sur ce sujet). Soit G un groupe de Lie connexe, d’algèbre de Lie Λ(G). On fixe une base d1 , . . . , dn de Λ(G) et soit x1 , . . . , xn le système de coordonnées canoniques de G correspondant. Plus précisément, si exp est l’application exponentielle de Λ(G) dans G, on identifie les vecteurs di aux opérateurs différentiels Di du premier ordre sur G (invariants à gauche), définis par : Di f (g) =

d f (g. exp tdi )|t=0 , dt

et les coordonnées canoniques sont les fonctions xi définies sur l’ouvert U0 = exp Λ(G) (voisinage de l’élément neutre e de G et domaine de "la carte exponentielle"), telles que xi (g) est la composante sur di du vecteur exp−1 (g) (g ∈ U0 ). Lorsque G est un groupe exponentiel (i.e. exp Λ(G) = G), les coordonnées canoniques sont définies sur G tout entier. On appelle semi-groupe de convolution sur G, toute famille (µt )t≥0 ⊂ M1 (G) de mesures de probabilité sur G, vérifiant les propriétés suivantes : i)µ0 = 0

(la mesure de Dirac en 0)

ii)∀s, t ≥ 0, iii)∀t0 ≥ 0,

µt ? µs = µs+t µt → µt0 ,

faiblement si t → t0 .

(on notera que dans la condition iii), la convergence est en fait étroite car la limite est une probabilité donc il y a conservation de la masse par hypothèse). Une famille (Xt )t≥0 de variables aléatoires à valeurs dans G est un processus de Lévy (ou processus à accroissements indépendants) associé au semi-groupe (µt )t≥0 , si pour tout entier n > 0 et tous réels 0 ≤ t0 < t1 < . . . < tn , les accroissements Xti Xt−1 (1 ≤ i ≤ n) i−1 sont des variables aléatoires indépendantes et de lois respectives µti −ti−1 (autrement dit pour tout s ≥ 0 et t > 0, Xs+t Xs−1 est de loi µt ).

122

Léonard Gallardo

(Xt )t≥0 est alors un processus de Markov (homogène), dont le semi-groupe (Pt )t≥0 des opérateurs de transition est de la forme : Z Pt f (g) = f (gh)µt (dh) =< g ? µt , f >, G

(f ∈ Cb (G), g ∈ G). En d’autres termes, la probabilité pour le processus partant de g ∈ G de "tomber" dans le borélien A ⊂ G au bout d’un temps t > 0 est égale à P (Xs+t ∈ A|Xs = g) = g ? µt (A) (pour tout s ≥ 0). Le générateur infinitésimal du processus de Lévy (Xt )t≥0 , est l’opérateur L défini sur l’ensemble D(L) des fonctions f ∈ C0 (G) telles que 1 Lf = lim (Pt f − f ), t→0 t

existe,

au sens de la norme uniforme sur C0 (G). Supposons maintenant pour simplifier les énoncés que les coordonnées canoniques sont globales. On montre ([27], [30]), qu’il existe des réels (ai )1≤i≤n , une matrice (ai,j )1≤i,j≤n symétrique de type positif et une mesure positive η à support dans G \ {e} (la mesure de Lévy) tels que pour toute fonction f ∈ Cc2 (G), on ait : Lf (g) =

X

ai Di f (g) +

1≤i≤n

+

Z

G\{e}



X

ai,j Di Dj f (g)

1≤i,j≤n

f (gh) − f (g) −

X

1≤i≤n

 xi (h)Di f (g) η(dh).

On dit alors que le processus (Xt )t≥0 est un processus gaussien de G si sa mesure de Lévy η est nulle ou, ce qui est équivalent, que le semi-groupe (µt )t≥0 vérifie la condition de Dynkin, i.e. : lim µt (G \ U ) = 0, t→0

pour tout voisinage U de l’élément neutre. Ainsi pour un processus gaussien, son générateur infinitésimal est l’opérateur différentiel Lf (g) =

X

1≤i≤n

ai Di f (g) +

X

ai,j Di Dj f (g).

1≤i,j≤n

∂ (1 ≤ i ≤ d), le mouvement brownien est le Par exemple si G = Rd et Di = ∂x i processus gaussien tel que ai ≡ 0, et ai,j = δij .

3.

Le Théorème Limite Central Classique

Dans cette partie, nous allons rappeler trois des démonstrations les plus connues du théorème limite central que nous avons énoncé en (2).

Le Théorème Limite Central

3.1.

123

La Démonstration de Paul Lévy

Rappelons qu’on appelle fonction caractéristique (ou transformée de Fourier) de la variable aléatoire réelle X (ou de sa loi µ), la fonction complexe définie pour tout t ∈ R, par : Z itX ϕX (t) = E(e ) = µ b(t) = eitx µ(dx). R

Le résultat suivant (de P. Lévy) dont nous donnerons une démonstration plus loin dans un cadre plus général, lie la convergence en loi et la convergence des fonctions caractéristiques : Théorème de continuité : Soit (µn )n>0 une suite de lois de probabilité de fonctions caractéristiques respectives (ϕn )n>0 . Alors : i) Si la suite (µn )n>0 converge étroitement vers une loi µ de fonction caractéristique ϕ, alors ϕn (t) → ϕ(t) pour tout t ∈ R. ii) si limn→∞ ϕn (t) = ϕ(t) existe pour tout réel t et si la fonction limite ϕ est continue en t = 0, alors ϕ est la fonction caractéristique d’une loi de probabilité µ et µn → µ étroitement.

Première démonstration du théorème limite central : Considérons la suite des variables aléatoires centrées et réduites (i.e. d’espérance nulle et de variance égale à un), ei = Xi −m , i = 1, 2, . . . Si ϕ est leur fonction caractéristique commune, on a ϕ(0) = 1, X σ e1 + . . . + X en ), sa ϕ0 (0) = 0, ϕ00 (0) = −1. La somme normalisée (2) étant égale à √1 (X n

fonction caractéristique ϕn , en tout t ∈ R, est égale à : t ϕn (t) = (ϕ( √ ))n n t2 1 = (1 − + t2 o( ))n . 2n n Donc limn→∞ ϕn (t) = exp(− 12 t2 ). Comme t −→ exp(− 21 t2 ) est la fonction caractéristique de la loi de probabilité ν(dx) = √12π exp(− 12 x2 )dx (i.e. de la loi normale), le résultat découle aussitôt du théorème de continuité. 

Remarque : En supposant que les variables aléatoires Xi ont un moment d’ordre 3 (i.e. E(|Xi |3 ) = m3 < +∞) , on peut préciser, par la méthode des fonctions caractéristiques, la vitesse de convergence dans le théorème limite central. Précisement Berry et Essen (voir par exemple [9]) ont montré que si Fn (resp. F ) est la fonction de répartition des sommes normalisées (2) (resp. de la loi normale N (0, 1)), pour tout x ∈ R, on a : |Fn (x) − F (x)| ≤

3.2.

3m3 √ . σ3 n

La Démonstration de Lindeberg

On considère (Xn )n≥1 une suite de variables aléatoires i.i.d.4 ayant un moment d’ordre 3 et (Yn )n≥1 une suite de variables aléatoires gaussiennes i.i.d.. On suppose que les deux suites 4

dans toute la suite de l’article l’abréviation "i.i.d." signifie "indépendantes et identiquement distribuées".

124

Léonard Gallardo

sont indépendantes et que l’on a : E(Xn ) = E(Yn ) = 0 Soit Un =

√1 n

Pn

i=1 Xi ,

et

σ 2 (Xn ) = σ 2 (Yn ) = σ 2 .

(3)

µn = L(Un ), ν = L(Y1 ). On veut estimer

Z |µn (A) − ν(A)| = 1A (x)(µn − ν)(dx) , R

pour A =] − ∞, x]. Remplaçons 1A par une fonction g de classe C 3 , de dérivée d’ordre 3 bornée sur R et qui coïncide avec 1A sauf sur un petit voisinage du point x. On va donc estimer l’intégrale : Z I=

R

g(x)(µn − ν)(dx).

(4)

Pour cela considérons les variables aléatoires Un,k

1 =√ n

k−1 X i=1

Xi +

n X

Yi

i=k+1

!

.

En remarquant que : √ √ √ √ n L(Un,k + Xk / n) = Fk−1 i=1 L(Xi / n)Fi=k+1 L(Yi / n) ? L(Xk / n),

√ et de même pour L(Un,k + Yk / n), on voit que la somme

 n  X Yk Xk L(Un,k + √ ) − L(Un,k + √ ) n n

(5)

k=1

est télescopique et qu’elle est égale à : n

n

1 X 1 X µn − ν = L( √ Xi ) − L( √ Yi ). n n i=1

(6)

i=1

Ceci montre que l’intégrale (4) peut s’écrire sous la forme  n  X Xk Yk I= E(g(Un,k + √ )) − E(g(Un,k + √ )) . n n

(7)

k=1

Xk On applique alors la formule de Taylor pour développer chacun des termes g(Un,k + √ ) n

et g(Un,k +

Yk √ ) n

autour de Un,k . Ainsi :

X2 Xk Xk 1 g(Un,k + √ ) = g(Un,k ) + g 0 (Un,k ) √ + g 00 (Un,k ) k n n n 2 1 Xk Xk3 + g (3) (Un,k + θ √ ) 3/2 , 6 n n

(8)

Le Théorème Limite Central

125

Yk Xk à la place de √ . En prenant alors les (où 0 < θ < 1) et la même formule avec √ n n espérances des deux quantités du type (8), en tenant compte de (3) et des simplifications qui en résultent dans (7), on obtient immediatement :

α3 |I| ≤ C √ n R où α3 = R |x3 ||L(X) − L(Y )|(dx) ≤ E(|X1 |3 ) + E(|Y1 |3 ) et C > 0 une constante. En fait si l’on tient compte précisément des effets dus au bord de A dans l’approximation de 1A par g, on trouve C |µn (A) − ν(A)| ≤ 1/8 n (voir [37] pour les détails techniques), ce qui donne le théorème limite central avec en même temps une vitesse de convergence, certes moins bonne qu’avec les méthodes de BerryEssen, mais avec une démonstration bien plus directe et qui peut se généraliser aux espaces de Banach ([38]).

3.3.

La Démonstration de Trotter

Si µ ∈ M1 (R) (resp. si X est une variable aléatoire réelle de loi µ), on note Tµ (resp TX ) l’opérateur de convolution5 par µ, agissant sur l’espace de Banach B des fonctions f : R −→ R bornées et uniformément continues, muni de la norme ||f || = supt∈R |f (t)| : Z TX f (t) =< t ? µ, f >= f (u + t)µ(du). R

L’opérateur TX est une contraction (i.e. kTX f k ≤ kf k) et si X1 et X2 sont des variables aléatoires indépendantes, on a TX1 +X2 = TX1 TX2 = TX2 TX1 .

(9)

Lemme 3..1 : Soient Xn , (n ≥ 1) et X des variables aléatoires. Une condition suffisante L

pour que Xn → X est que l’on ait :

lim kTXn f − TX f k = 0,

n→∞

(10)

pour toute fonction f ∈ B ayant des dérivées premières et secondes également dans B. Démonstration : La condition du lemme implique que pour toute f ∈ B, avec f 0 , f 00 ∈ B, on a TXn f (0) − TX f (0) → 0 (n → ∞), i.e. limn < µn , f >=< µ, f > (si µn et µ sont les lois respectives de Xn et X). Comme les µn conservent la masse (car µ est une probabilité), il suffit de voir que limn < µn , f >=< µ, f > pour toute fonction f ∈ Cc (R) pour obtenir la convergence en loi. Mais un argument classique utilisant une approximation de l’identité de classe C ∞ et à support compact, donne immédiatement le résultat.  5

en fait Tµ f = µ ? f , d’où le nom d’opérateur de convolution par µ.

126

Léonard Gallardo

Lemme 3..2 : Si T1 et T2 sont deux contractions qui commutent, alors pour tout f ∈ B, kT1n f − T2n f k ≤ n kT1 f − T2 f k

(11)

Démonstration : On utilise T1n (f ) − T2n (f ) = =

n−1 X

i=1 n−1 X i=1

T1n−i−1 (T1 − T2 )T2i f T1n−i−1 T2i (T1 − T2 )f,

et il suffit de prendre les normes et d’utiliser l’inégalité triangulaire pour avoir le résultat.  Démonstration du théorème limite central ([48]) : Soit (Xn ) une suite de variables aléatoires i.i.d. centrées et réduites et soit N une variable aléatoire de loi N (0, 1). On pose Un = √1n (X1 + . . . + Xn ). Observons qu’on a : n TU n = T √ X1 , n

n TN = T √ N .

(12)

n

Soit f ∈ B telle que f 0 , f 00 ∈ B. La formule de Taylor donne :

u2 00 u2 f (t) + (f 00 (η) − f 00 (t)), (13) 2 2 où η est un nombre compris entre t et t + u. Alors en faisant agir l’opérateur T √ X1 sur f (t + u) = f (t) + uf 0 (t) +

n

l’équation (13) et en tenant compte du fait que la loi µ1 de X1 est centrée et réduite, on obtient : Z 1 00 1 T√ (f 00 (e η ) − f 00 (t))u2 µ1 (du), (14) f (t) = f (t) + f (t) + X1 2n 2n R n où ηe est cette fois un nombre compris entre t et t + √un . On a aussi la même expression pour T √N f (t) en remplaçant dans le membre de droite de (14) la mesure µ1 par la loi de N . n

Soit maintenant  > 0 et δ > 0 tels que |f 00 (e η ) − f 00 (t)| ≤ , dès que |e η − t| ≤ δ. En décomposant l’intégrale du membre de droite de (14) en deux intégrales, l’une sur l’ensemble √ √ sur {|u| ≥ δ n}, la première est inférieure à /2n, et la seconde {|u| < δ n} et l’autre R est inférieure à C {|u|≥δ√n} u2 µ1 (du),où C est une constante, donc tend vers zéro car µ1 a un moment d’ordre deux. On obtient donc uniformément pour t ∈ R : 1  00 T X1 f (t) − f (t) − f (t) ≤ , (15) √n 2n n pour tout entier n assez grand. On obtient aussi la même inégalité avec N au lieu de X1 . En additionnant les deux inégalités (15) ainsi obtenues, on voit que pour tout t ∈ R, T X1 f (t) − T N f (t) ≤ 2 , (16) √ √n n n pour tout n assez grand. Compte tenu de (12) et du Lemme 3.2, on déduit de (16) : kTUn f − TN f k ≤ 2,

pour tout n assez grand, ce qui démontre le théorème, compte tenu du Lemme 3.1.



Le Théorème Limite Central

4.

127

Le Cas des Groupes de Lie

4.1.

Remarques Générales

Si µ ∈ M1 (R) désigne la loi commune des variables aléatoires i.i.d. Xi , 1 ≤ i ≤ n, la loi de la somme normalisée donnée en (2), est la mesure6 µn = τn (µn ? −mn ),

(17)

où µn = µ ? . . . ? µ est la n-ième puissance de convolution de µ, −mn est la mesure de 1 Dirac au point −mn (elle correspond au centrage des variables), et τn : x 7−→ σ√ x la n

1 dilatation de rapport σ√ qui est un automorphisme du groupe (additif) R. Donc τn préserve n la convolution. La mesure µn peut donc encore s’écrire :

µn = τn (µ ? −m )n = (τn (µ ? −m ))n = (τn (µ))n ? −√nm/σ

(18)

Considérons maintenant (Xn ) une suite de variables aléatoires i.i.d. à valeurs dans un groupe topologique G localement compact et séparable. On supposera dans la suite que G est un groupe de Lie dont nous noterons l’opération simplement par un point ; ainsi x.y désignera le produit des éléments x, y ∈ G. Soit µ ∈ M1 (G), la loi commune des Xi . Alors la variable aléatoire "somme"7 : Sn = X1 .X2 . . . .Xn ,

(19)

a pour loi la probabilité µn = µ ? · · · ? µ (n fois), n-ième puissance de convolution de µ pour la convolution du groupe G. La suite (Sn )n>0 sera appelée marche aléatoire (droite) de loi µ sur G. Les problèmes qui se posent sont alors les suivants : i) Comment définir une notion d’espérance pour centrer les variables aléatoires Xi ? ii) Si les variables Xi sont centrées en un certain sens, peut-on normaliser les mesures µn par exemple par des applications τn : G −→ G, de telle sorte que τn (µn ) → ν ∈ M1 (G),

étroitement, si n → ∞?

(20)

iii) Pourra-t-on choisir les applications τn de (20) dans Aut(G) (le groupe des automorphismes de G) de manière à conserver les propriétés (18) qui se sont révélées si utiles pour le théorème limite central sur R et Rd ? Une remarque s’impose concernant la question ii) ci-dessus. Si le groupe G n’est pas compact (ce que nous supposerons dans toute la suite), la mesure µn à tendance à "s’étaler" quand n → ∞. Il conviendra que les τn contractent en un certain sens. Dans le cas d’un groupe compact le théorème limite central se réduit simplement à l’étude des puissances de convolution µn de la mesure µ. C’est le problème de l’équirépartition et la mesure limite ν est une mesure idempotente (i.e. ν 2 = ν). Nous renvoyons le lecteur intéressé par ce sujet à l’ouvrage de H. Heyer [27]. 6 7

Pour τ : G −→ G et ν ∈ M1 (G), τ ν désigne la mesure image de ν par τ . c’est en fait un produit, mais par analogie avec le cas de R, nous continuerons à l’appeler somme.

128

Léonard Gallardo

Concernant la question iii), la réponse est décevante, car négative dans la plupart des cas (sauf pour les groupes nilpotents simplement connexes gradués que nous examineront au paragraphe suivant), comme par exemple de manière évidente si G est semi-simple. Même la question i) du centrage est très délicate, nous le verrons dans le cas des groupes nilpotents. C’est la raison pour laquelle on s’est tourné très tôt vers un autre type de théorème limite central concernant les systèmes triangulaires infinitésimaux de probabilités. Nous présentons de tels exemples au paragraphe 4.4 .

4.2.

La Méthode des Semi-groupes de Trotter

Une méthode d’approximation par des semi-groupes d’opérateurs introduite par Trotter [47] et perfectionnée par Kurtz [32] s’est révélée être un outil très puissant pour démontrer des résultats de convergence en loi sur les groupes. Voici l’énoncé du résultat obtenu par Trotter : (n)

Théorème 4..1 : Soit (B, ||.||) un espace de Banach et {(Tt )t≥0 ; n > 0} une suite de semi-groupes de contractions fortement continues sur B, de générateurs infinitésimaux respectivement égaux à (D(An ), An ). Soit F un sous espace dense de B tel que : i)∀n > 0, F ⊂ D(An ).

ii)∀f ∈ F, lim An f = Af existe. n

iii) il existe λ0 > 0 tel que, (λ0 I − A)(F) = B. Alors A est le générateur infinitésimal d’un semi-groupe de contractions (Tt )t≥0 fortement continu sur B et tel que : (n)

∀t > 0, ∀f ∈ B, lim ||Tt f − Tt f || = 0. n

Voici comment peut s’appliquer ce théorème dans notre contexte. Si ν est une mesure de probabilité sur le groupe G et si B est l’espace de Banach C0 (G) des fonctions continues sur G qui tendent vers 0 à l’infini, muni de la norme de la convergence uniforme, notons Tν l’opérateur de convolution8 par ν défini par : Z Tν f (x) = f (xh)ν(dh), f ∈ B. G

Supposons que pour tout entier n, les opérateurs An ainsi que l’opérateur limite A, (n) soient les générateurs infinitésimaux d’un processus de Lévy9 sur G. Les opérateurs Tt (n) et Tt sont alors des opérateurs de convolution respectivement par les probabilités µt et (n) µt où (µt )t≥0 et (µt )t≥0 sont les semi-groupes de probabilités associés. Le résultat du Théorème 4.1 implique que pour tout t > 0 (fixé) et toute fonction f ∈ F, on a Tµ(n) f (e) − Tµt f (e) → 0, quand n → ∞. t

8

On prendra garde au fait que nous utilisons la lettre T tantôt pour désigner l’opérateur Tt (appartenant à un semi-groupe (Tt )t≥0 et dans ce cas l’indice est un nombre t), tantôt pour désigner un opérateur de convolution Tν et alors l’indice est une mesure. 9 voir le paragraphe 2.2

Le Théorème Limite Central (n)

129 (n)

i.e. limn→∞ < µt , f >=< µt , f >. Comme F est dense dans C0 (G), on a µt → µt faiblement donc étroitement puisque µt est une probabilité. Ainsi, pour montrer la convergence en loi d’une suite de probabilités µn vers une probabilité µ, il suffit en principe de pouvoir les plonger chacune comme la loi au temps t = 1 d’un processus de Lévy et de montrer la convergence des générateurs infinitésimaux de ces processus. Cette opération qui peut paraître (au premier abord) compliquée, doit être convenablement adaptée pour devenir un outil d’une remarquable efficacité. Nous allons essayer d’expliquer succintement comment on procède : Soit µ une probabilité sur le groupe de Lie G et soit τn une suite d’automorphismes de G. On veut montrer que la suite des mesures normalisées τn µn = (τn µ)n converge en loi. Considérons l’opérateur de convolution Bn = Tτn µ , ainsi sa puissance n-ième vaut Bnn = Tτn µn . On définit alors pour tout entier n, les opérateurs An = n(Bn − I) (n)

et les semi-groupes poissonniens T (n) = (Tt )t>0 de générateurs An : (n)

Tt

= exp(tAn ).

Supposons que ces semi-groupes vérifient les hypothèses du Théorème 4.1 et soient (Tt )t≥0 le semi-groupe limite et A son générateur infinitésimal. AlorsTun résultat de [32] (Lemma (2.19) p. 363) nous assure que pour toute fonction f ∈ n>0 D(An ), on a (n)

[nt]

limn→∞ ||Tt f − Bn f || = 0 (où [nt] désigne la partie entière de nt). Ainsi, on a aussi : lim ||Bn[nt] f − Tt f || = 0.

n→∞

(21)

Supposons maintenant que A soit le générateur infinitésimal d’un processus de Lévy sur G. Ainsi Tt est l’opérateur de convolution Tµt associé à une probabilité µt ∈ M1 (G). Il suffit alors, compte tenu de la définition de Bnn , de faire t = 1 dans (21) pour voir que Tτn µn f (e) → Tµ1 f (e)

(n → ∞),

ce qui montre que τn µn converge en loi vers µ1 .

4.3.

Le Théorème Limite Central sur un Groupe Nilpotent

Les résultats de cette sous-section datent des années 1975-80 et sont typiques des questions dont nous avons discuté dans l’introduction précédente. Le premier travail est un papier de Tutubalin [49] sur le théorème limite central pour le groupe d’Heisenberg de dimension trois. L’étude du cas général des groupes de Lie nilpotents a été ensuite effectuée en grande partie par A. Raugi qui a également traité le cas des groupes résolubles et montré comment le cas des groupes de Lie plus généraux pouvait s’y ramener ([8], [40], [39], [41]). Soit N un groupe de Lie nilpotent simplement connexe. C’est un groupe de Lie exponentiel qu’on identifie à son algèbre de Lie. Le produit du groupe est alors donné pour tous x, y ∈ N par la formule de Campbell-Hausdorff : 1 x.y = x + y + [x, y] + · · · 2

130

Léonard Gallardo

Soit N = N 1 ⊃ N 2 ⊃ . . . ⊃ N r ⊃ N r+1 = {0}, la suite centrale descendante de N . Soit mi un sous espace supplémentaire de N i+1 dans N i (1 ≤ i ≤ r). L’entier r est le rang du groupe nilpotent N et on a la décomposition en somme directe : N = m1 ⊕ . . . ⊕ mr .

(22)

Choisissons une base (e1 , . . . , ep1 ), (ep1 +1 , . . . , eP p2 ), . . . , (epr−1 +1 , . . . , epr ) adaptée à r la décomposition (22). Ainsi tout x ∈ N s’écrit x = pi=1 xj ej , avec xj ∈ R. Ceci permet de définir sur N des fonctions polynômes à l’aide des coordonnées (xj ) mais avec une notion de degré différente : on convient que le degré de xj , degxj = l si pl−1 + 1 ≤ j ≤ pl . Ainsi pour A(x) = xα1 1 . . . xαprr , on convient de poser :     p1 p2 pr X X X αj  . degA = αj + 2  αj  + · · · + r  j=1

j=p1 +1

j=pr−1 +1

Le degré d’un polynôme est alors la somme des degrés de ses monômes. Cette notion de degré ne dépend pas de la base adaptée choisie. On sait qu’il existe sur N , une distance d (invariante à gauche) telle qu’il existe un compact V , pour lequel {x ∈ N ; d(0, x) ≤ n} ⊂ V n . On dira alors qu’une probabilité µ ∈ M1 (N ) admet un moment d’ordre p si Z (d(x))p µ(dx) < ∞, N

ce qui équivaut en fait à dire que les polynômes de degré p sont intégrables pour la mesure µ. On dira ainsi que la mesure µ est centrée si µ a un moment d’ordre 1 et si pour tout monôme A(x) de degré 1, on a Z A(x)µ(dx) = 0. N

On dira que la mesure de probabilité µ est apériodique si elle n’est pas portée par une classe d’un sous groupe distingué propre de N . On a alors le résultat suivant de Crépel et Raugi [8] : Théorème 4..2 : Soit (Xn )n≥1 une suite de variables aléatoires i.i.d. sur N , de loi commune µ centrée, apériodique et possédant un moment d’ordre 2r. On pose Sn = X1 . . . Xn P (i) et on considère Sn = 1≤i≤r Sn sa décomposition sur la somme directe (22). Alors la suite de variables aléatoires définies par : X Sn(i) τn (Sn ) = , ni/2 1≤i≤r

(23)

converge en loi vers une probabilité ν ∈ M1 (N ) qui ne dépend que des moments d’ordre 2 de µ. Cette mesure ν est absolument continue par rapport à la mesure de Haar10 de N et 10

en fait c’est la mesure de Lebesgue.

Le Théorème Limite Central

131

c’est la loi au temps t = 1 d’un processus gaussien sur N de générateur infinitésimal X X L= ai Di + ai,j Di Dj , p1 +1≤i≤p2

1≤i,j≤p1

où R Di est l’opérateur de dérivation associé au vecteur ei , ai = N xi xj µ(dx).

R

N

xi µ(dx) et ai,j =

Idée de la démonstration : Soit Bn l’opérateur sur C0 (N ) défini par Z Bn f (x) = f (x.τn y)µ(dy). N

C’est l’opérateur de convolution par la mesure τn µ. Lorsque le groupe N est gradué (i.e. pour tous 1 ≤ i, j ≤ r, [mi , mj ] ⊂ mi+j 11 ), alors τn est un automorphisme de N , et on a Z Z n Bn f (x) = ... f (x.τn y1 . . . . .τn yn )µ(dy1 ) . . . µ(dyn ) N ZN = f (x.τn y)µn (dy) N

= E[f (x.τn (Sn )].

On peut alors montrer, en utilisant convenablement la formule de Taylor que pour toute fonction f suffisamment régulière, on a n(Bn − I)f → Lf , quand (n → ∞). Le résultat s’en déduit en utilisant la méthode des semi-groupes de Kurtz-Trotter présentée au paragraphe précédent. Lorsque N n’est pas gradué, on peut définir sur N un nouveau produit x.0 y (donc un nou0 veau crochet de Lie [x, y]0 ) tel qu’on ait [mi , mj ]0 ⊂ mi+j . Si Sn est le nouveau produit des variables aléatoires X1 , . . . , Xn , on peut montrer que les variables aléatoires τn (Sn ) et 0 τn (Sn ) sont proches en un certain sens, ce qui permet de conclure.  On notera que seuls les opérateurs Di correspondants à la base (e1 , . . . , ep1 ) du sous espace m1 apparaissent dans la partie d’ordre 2 de l’opérateur différentiel L. Ceci suffit à assurer que L n’est pas dégénéré car m1 engendre N en tant qu’algèbre de Lie ([29]). Quand la mesure µ n’est pas centrée, le problème ne se ramène pas au théorème précédent car contrairement au cas de Rd il ne revient pas au même de centrer successivement les Xn ou de centrer directement Sn , comme on peut s’en rendre compte dans [8] mais surtout dans [40]. La technique particulièrement élaborée mise au point par Raugi dans [40] pour résoudre le cas non-centré consiste à construire une décomposition de l’algèbre N adaptée à la mesure µ. De plus, en utilisant une technique de troncature, il parvient à ramener l’hypothèse de moment d’ordre 2r du théorème précédent, à l’hypothèse minimale, i.e. moment d’ordre 2. Nous nous contenterons seulement de résumer sa démarche : Soit m un supplémentaire de N 2 dans N . Notons x l’application projection de N sur m. Ce qui va jouer le rôle d’espérance ou plutôt de "constante " de centrage est l’élément X ∈ m, défini par Z X=

x(g)µ(dg).

N

11

on convient que mi+j = {0} si i + j > r.

132

Léonard Gallardo

On définit alors une suite d’idéaux de N associés à µ de la manière suivante. On pose : = N , I 1,1 (µ) = N 2 + RX, et si (l, k) ∈ N × N, avec 0 ≤ k < l, on désigne l,k par I (µ), l’idéal de N l engendré par N l+1 et par les crochets de l éléments de m parmi lesquels figurent au moins k fois le vecteur "espérance" X. Ordonnons ensuite l’ensemble E = {(l, k) ∈ N2 ; 0 ≤ k < l} ∪ {(1, 1)} à l’aide de la relation d’ordre total  définie par : ( l > l0 ou 0 0 (l, k)  (l , k ) ⇔ l = l0 et k > k 0 . I 1,0 (µ)

On a ainsi construit une suite décroissante (pour l’ordre ) d’idéaux I l,k (µ), indépendante du choix du supplémentaire m de N 2 dans N et vérifiant I l,k (µ) = 0 si l > r et I l,0 (µ) = N l si l ≥ 1 Pour tout (l, k) ∈ (E, ), désignons par ml,k un supplémentaire de I l0 ,k0 (µ) dans I l,k (µ), où (l0 , k0 ) désigne le plus petit élément de (E, ) supérieur à (l, k). Pour x ∈ N et (l, k) ∈ (E, ), soit x(l,k) la composante de x sur ml,k . On a ainsi X x= x(k,l) . {(k,l)∈E;l≤r}

Pour tout entier n > 0 et x ∈ N , on pose maintenant τn (x) =

X

{(l,k)∈E;2≤l≤r}

x(l,k) x(1,0) + x(1,1) √ + n n(l+k)/2

(24)

Le théorème limite central peut alors s’énoncer comme suit :

Théorème 4..3 : Soit µ ∈ M1 (N ) apériodique et ayant un moment d’ordre 2. Alors la suite des mesures de probabilités τn (µn ? (−nX) ) converge en loi vers une mesure de probabilité ν absolument continue par rapport à la mesure de Haar de N . De plus ν est la loi au temps t = 1 d’un processus gaussien sur N qu’on peut décrire explicitement. La description explicite du processus gaussien du théorème apparaît dans la démonstration très technique que nous omettons. Contentons nous de faire remarquer que les normalisations (24) dépendent de la mesure µ (comme la suite des idéaux I (k,l) (µ)) et que l’auteur utilise encore la technique de Kurtz-Trotter comme dans le théorème 4.2 mais appliquée cette fois à une chaîne espace-temps (voir [40] pour tous les détails).

4.4.

Systèmes Triangulaires de Probabilités sur un Groupe de Lie

Pour éviter le problème délicat de la normalisation des "sommes" Sn de (19), on considère plutôt des produits de variables aléatoires infiniment petites (ce qui revient à supposer qu’elles sont données normalisées !). Ces résultats sont plus élémentaires que ceux

Le Théorème Limite Central

133

de la section précédente et sont antérieurs dans l’ordre historique puisqu’ils datent des années 1960-70. Considérons donc un système triangulaire12 (µn,k )1≤k≤kn de mesures de probabilités sur un groupe de Lie connexe G. Pour tout entier n > 0, on notera µn = µn,1 ? µn,2 ? · · · ? µn,kn le produit de convolution des mesures de la ligne n. On dit alors que le système (µn,k )1≤k≤kn est : i) infinitésimal, si lim max µn,k (G \ U ) = 0, (25) n→∞ 1≤k≤kn

pour tout voisinage compact U de l’élément neutre e de G. ii) commutatif, si µn,k ? µn,l = µn,l ? µn,k ,

(26)

pour tout n > 0 et 1 ≤ l, k ≤ kn . iii) convergent (vers µ ∈ M1 (G)), si lim µn = µ,

n→∞

(27)

faiblement (donc étroitement puisqu’on suppose µ ∈ M1 (G)). L’exemple le plus simple de système triangulaire possèdant les trois propriétés précédentes est fourni par G = R, µ une probabilité centrée de variance égale à 1, et µn,k = (τn µ)k , 1 ≤ k ≤ n, où τn est l’homothétie de rapport √1n . D’après le théorème limite central (2), ce système converge vers la loi normale N (0, 1). Il est intéressant de rappeler comment la condition d’infinitésimalité peut s’exprimer aussi en utilisant la transformation de Fourier. Pour cela on a besoin des prérequis suivants (voir [28]) : Une représentation D du groupe de Lie G est un homomorphisme D : G −→ L(H) de G dans le groupe L(H) des opérateurs unitaires d’un espace de Hilbert complexe H = H(D) (l’espace de la représentation D), tel que pour tout u ∈ H, l’application x 7−→ D(x)u de G dans H soit continue. On notera Rep(G) l’ensemble de toutes les représentations de G, et par Irr(G) l’ensemble de celles qui sont irréductibles. Pour une mesure bornée µ ∈ Mb (G) sur G, sa transformée de Fourier µ b est l’application définie sur Rep(G) telle que pour tout D ∈ Rep(G), µ b(D) est l’opérateur sur H(D) tel que : Z ∀u, v ∈ H(D), < µ b(D)u, v >= < D(x)u, v > µ(dx), G

où < ., . > désigne le produit scalaire de H(D). Les principales propriétés de la transformation de Fourier sont les suivantes : i) ||b µ(D)|| ≤ ||µ|| = µ(G). ii) L’application µ 7−→ µ b est injective sur Irr(G). iii)Pour tous a, b ∈ R, tous µ1 , µ2 ∈ Mb (G), (aµ1 + bµ2 )∧ = ac µ1 + bc µ2 . iv) Pour toute D ∈ Rep(G) et µ1 , µ2 ∈ Mb (G), (µ1 ? µ2 )∧ (D) = µ c1 (D)c µ2 (D). Lorsque G est abélien, toute représentation D est de dimension 1 (i.e. H(D) = C), pour tout x ∈ G, Dx est une homothétie : λ 7−→ χ(x)λ qu’on identifie à son coefficient χ(x). b (le La représentation D est donc identifiée au caractère χ : x 7−→ χ(x) et Rep(G) = G 12

en fait la dénomination "triangulaire" n’est vraiment bien adapté que lorsque kn = n.

134

Léonard Gallardo

dual de G) à l’ensemble des caractères de G. La transformée de Fourier µ b d’une mesure b µ ∈ Mb (G) est alors une application de G dans C. On peut maintenant présenter le résultat suivant de Siebert (obtenu dans [43] dans le cadre plus général des groupes topologiques localement compacts) : Théorème 4..4 : Le système triangulaire (µn,k ) de probabilités sur le groupe de Lie G, est infinitésimal si et seulement si pour toute représentation D ∈ IrrG et tout vecteur u ∈ H(D), on a : lim max ||µd n,k (D)u − u|| = 0.

n→∞ 1≤k≤kn

(28)

Considérons maintenant {D1 , . . . , Dd } une base de l’algèbre de Lie Λ(G) de G et x1 , . . . , xd un système de coordonnées dans G, adapté à cette base et valable dans un voisinage U0 de l’élément neutre e ∈ G. Soit ϕ une fonction de Hunt sur G, i.e. une fonction mesurable positive, bornée sur le complémentaire de tout voisinage de e et telle que

ϕ(g) =

d X

x2i (g),

i=1

au voisinage de e. Le théorème suivant est de Wehn [54]. On pourra trouver sa démonstration complète dans [23] : Théorème 4..5 : Soit (µn,k ) un système triangulaire sur le groupe de Lie G, qu’on suppose infinitésimal et commutatif. On suppose de plus que pour tout voisinage U de l’élément neutre e et tout 1 ≤ i, j ≤ d, il vérifie les conditions suivantes : i) limn→∞ ii) la suite

Pk n R

k=1 U

Pn

iii) limn→∞ iv) limn→∞

k=1

xi (g)µn,k (dg) = ai existe.

R xi (g)µn,k (dg) est uniformément bornée. U

Pk n R

k=1 U

Pk n R

xi (g)xj (g)µn,k (dg) = ai,j existe.

k=1 G\U

ϕ(g)µn,k (dg) = 0.

Alors le système triangulaire converge vers la loi au temps t = 1 d’un processus gaussien sur G de générateur infinitésimal :

A=

d X i=1

ai Di +

X

ai,j Di Dj .

1≤i,j≤d

Noter que la loi limite peut être dégénérée car on n’a rien supposé sur les coefficients de A.

Le Théorème Limite Central

5.

135

Le Cas des Hypergroupes

5.1.

Notations

Nous renvoyons au livre de Bloom et Heyer [4] pour les définitions précises et les résultats résumés ci-dessous. Soit (H, ?) un hypergroupe commutatif ; c’est à dire l’espace topologique H est supposé localement compact et à base dénombrable et la convolution (notée ?) sur l’espace Mb (H) des mesures bornées sur H, est une opération commutative. De plus, on notera e l’élément unité et x 7→ x− désignera l’involution de H. Comme d’habitude, C(H), Cc (H), Cb (H) désigneront respectivement les espaces des fonctions continues, continues et à support compact, continues et bornées définies sur H et à valeurs réelles ou complexes. Lorsque H a une structure différentiable, les mêmes espaces avec un indice supérieur k ou ∞, indiqueront qu’il s’agit en plus de fonctions de classe C k ou C ∞ . La translatée par x ∈ H d’une fonction f ∈ C(H) est la fonction fx ∈ C(H) donnée par Z ∀y ∈ H, fx (y) = f (u)(x ? y )(du) =< x ? y , f > . H

La mesure de Haar (unique à une constante multiplicative près) est notée σ. b est l’ensemble des caractères de H i.e. l’ensemble des χ ∈ Cb (H) Le dual de H, noté H vérifiant ∀x, y ∈ H, χx (y) = χ(x)χ(y) et χ(x− ) = χ(x). b de la topologie de la convergence uniforme sur les compacts. Ainsi, H b est On munit H un espace de Hausdorff localement compact mais ce n’est pas un hypergroupe en général. La transformée de Fourier d’une mesure µ ∈ Mb (H), resp. d’une fonction f ∈ L1 (H, σ) b par : est définie pour tout χ ∈ H Z Z b f (x)χ(x)σ(dx). µ b(χ) = χ(x)µ(dx), resp. f (χ) = H

H

ν∨

b on définit sa transformée de Fourier réciproque comme la fonction Pour ν ∈ Mb (H), définie pour tout x ∈ H par : Z d ν ∨ (x) = χ(x)ν(dχ). H

µ−

Si on note la mesure image de la mesure µ ∈ Mb (H) par l’involution de l’hyperb on a la formule de réciprocité de Fourier groupe, alors pour tout µ ∈ Mb (H) et ν ∈ Mb (H), qui s’écrit sous la forme : Z Z ∨ − ν (x)µ (dx) = µ b(χ)ν(dχ). (29) H

H

b appelée mesure de Plancherel telle que pour Il existe une mesure (positive) σ b sur H 1 2 b toute fonction f ∈ L (H, σ) ∩ L (H, σ b), on ait : Z Z 2 |f (x)| σ(dx) = |fb(χ)|2 σ b(dχ). (30) H

H

Il résulte de ce qui précède, que la transformation de Fourier se prolonge en une isoméb σ trie de L2 (H, σ) sur L2 (H, b).

136

Léonard Gallardo

5.2.

Le Théorème de Continuité de Paul Lévy

Comme annoncé dans le paragraphe 3.1 nous donnons ci-dessous une preuve du théorème de continuité dans le cadre des hypergroupes. En fait nous donnons deux résultats car il y a deux types d’hypergroupes : ceux qui sont "proches" des groupes, précisément lorsque le support de la mesure de Plancherel contient le caractère 1 et les autres qui ne vérifient pas cette propriété. Dans ce deuxième cas nous sommes amenés à faire une hypothèse, sur les caractères de l’hypergroupe, qui se trouve vérifiée dans tous les exemples connus. Les deux théorèmes qui suivent sont de Gallardo et Gebuhrer [18]. Théorème 5..1 : Soit H un hypergroupe commutatif vérifiant la condition suivante : Le support de la mesure de Plancherel σ b contient le caractère 1.

Alors pour toute suite (µn )n>0 de probabilités sur H, on a les équivalences : i) La suite (µn )n>0 converge étroitement vers une probabilité µ sur H. b vers une fonction φ continue au ii) La suite (c µn )n>0 converge σ b-presque partout sur H b point 1 ∈ H.

Démonstration : i) implique ii) est clair. Supposons l’hypothèse ii) vérifiée et extrayons de la suite (µn )n>0 une sous suite (µnk )nk faiblement convergente vers une mesure positive µ b Par (29), on a (de masse ≤ 1)). Soit ψ ∈ Cc (H). Z Z µ d ψdb σ = ψ ∨ dµ− nk nk . H

Or

ψ∨

H

∈ C0 (H) de sorte que par limite faible Z Z ∨ − lim ψ dµnk = ψ ∨ dµ− . k→∞ H H Z = µ bψdb σ. H

D’autre part le théorème de convergence dominée assure qu’on a Z Z lim µ d σ= φψdb σ. nk ψdb k→∞ H

b on a donc Pour toute ψ ∈ Cc (H) Z H

µ bψdb σ=

H

Z

φψdb σ,

H

ce qui prouve que φ = µ b, σ b-presque partout. Or φ est continue en 1 et tout voisinage de 1 est chargé par σ b donc µ b(1) = φ(1) = 1, ce qui prouve que µ ∈ M1 (H). Mais toute autre suite extraite de (µn )n>0 qui converge, converge vers une mesure dont la transformée de Fourier est égale à φ i.e. (µn )n>0 n’a qu’une seule valeur d’adhérence faible donc elle converge (vers µ). 

Le Théorème Limite Central

137

Théorème 5..2 : On suppose que l’hypergroupe commutatif H vérifie la condition suivante : b et il existe un voisinage V de 1 tel que pour Le caractère 1 n’est pas isolé dans H tout χ ∈ V \ {1}, on ait limx→∞ χ(x) = 0. Alors pour toute suite (µn )n>0 de probabilités sur H, on a les équivalences : i) La suite (µn )n>0 converge étroitement vers une probabilité µ sur H. b vers une fonction φ continue au ii) La suite (c µn )n>0 converge simplement sur H b point 1 ∈ H.

Démonstration : i) implique ii) de manière évidente. Supposons vérifiée l’hypothèse ii) et extrayons de (µn )n>0 une sous suite (µnk )nk faiblement convergente vers une mesure positive µ. Pour tout χ ∈ V \ {1}, on a χ ∈ C0 (H) donc par convergence faible, on obtient µ d b(χ), si k → ∞. D’où µ b(χ) = φ(χ), ce qui compte tenu de la continuité de nk (χ) → µ φ en 1 implique µ b(1) = 1. Donc µ est une probabilité et comme c’est la seule valeur d’adhérence faible de (µn )n>0 , l’assertion i) en découle. 

5.3.

Moments Généralisés et Pseudo-sommes de Variables Aléatoires sur un Hypergroupe

Comme on l’a vu dans le cas d’un groupe G, le théorème limite central est lié essentiellement à la structure différentiable de G. On ne peut donc pas espérer obtenir un théorème limite central sur un hypergroupe commutatif général. Pour l’instant, de nombreux résultats ont déjà été obtenus sur des exemples particuliers. Nous allons en présenter quelques uns dans les paragraphes qui suivent. Auparavant nous allons définir la notion de moments d’une loi de probabilité qui est suffisamment générale pour tout hypergroupe ainsi que la notion de pseudo-somme de variables aléatoires très pratique pour pouvoir énoncer nos résultats sous une forme agréable, proche de la situation classique. On appelle couple (m1 , m2 ) de fonctions moments (respectivement d’ordre un et deux) d’un hypergroupe H des fonctions réelles définies sur H telles que ([14], [15], [55]) : i) m21 ≤ m2 , ii) < x ? y , m1 >= m1 (x) + m1 (y), iii) < x ? y , m2 >= m2 (x) + m2 (y) + 2m1 (x)m1 (y).

(31)

On dit alors qu’une probabilité µ sur H admet un moment (généralisé) d’ordre i = 1, 2 si la fonction mi est µ-intégrable et on pose dans ce cas mi (µ) =< µ, mi > pour désigner la valeur du moment (généralisé) d’ordre i de la mesure µ. Noter que grâce à la propriété (31) i) et à l’inégalité de Cauchy-Schwarz, l’existence du moment d’ordre 2 implique celle du moment d’ordre 1. On désigne aussi parfois par le nom d’espérance et de

138

Léonard Gallardo

variance généralisées de µ les nombres : E? (µ) = m1 (µ). V? (µ) = m2 (µ) − (m1 (µ))2 . Noter que si µ, ν ∈ M1 (H) ont un moment (généralisé) d’ordre deux, on déduit immédiatement de (31) ii) et iii) que l’on a E? (µ ? ν) = E? (µ) + E? (ν), V? (µ ? ν) = V? (µ) + V? (ν).

(32)

Si X est une variable aléatoire à valeurs dans l’hypergroupe H et de loi µ, on définit ainsi l’espérance et la variance généralisées de X (si elles existent) par E? (µ) = E(m1 (X)) V? (µ) = E(m2 (X)) − [E(m1 (X))]2 . Soit maintenant (Xn )n>0 une suite de variables aléatoires i.i.d. à valeurs dans H. Comment définir le processus des "sommes" Sn des variables aléatoires Xn ? Sur R ou sur un groupe, le processus (Sn )n>0 est un processus de Markov (homogène) de noyau (de transition) markovien défini, pour x ∈ H et A borélien de H, par P (x, A) = x ? µ(A).

(33)

Sur un hypergroupe, l’expression (33) définit aussi un noyau de transition. La chaîne de Markov (Sn )n>0 avec Ω = H N comme espace des trajectoires est P comme noyau de transition est alors appelée marche aléatoire de loi µ sur H. Comment faire le lien avec les sommes classiques ? Supposons, pour simplifier la présentation, que H est un sous ensemble de R et partons de l’observation suivante bien connue des statisticiens : Soit (Ω, F, P ) un espace probabilisé, µ une probabilité sur R et F (t) = µ(] − ∞, t]) sa fonction de répartition. Soit Z : Ω −→ [0, 1] une variable aléatoire de loi uniforme sur [0, 1]. Alors, la variable aléatoire S définie sur Ω par : S(ω) = inf{t ∈ R; F (t) ≥ Z(ω)}, est une variable aléatoire réelle de loi µ. On peut alors construire sur H une variable aléatoire de loi µ ? ν à partir de 2 variables aléatoires indépendantes X1 et X2 de lois respectives µ et ν et d’une variable aléatoire auxiliaire Z, uniforme sur [0, 1] et indépendante de (X1 , X2 ), en posant, pour tout ω ∈ Ω : S(ω) = inf{t ∈ R; X1 (ω) ? X2 (ω) (] − ∞, t]) ≥ Z(ω)}. Z

On écrira alors S = X1 + X2 et on dira que S est la pseudo-somme de X1 et X2 relativement à la variable auxiliaire Z. Soit alors (Xn )n>0 une suite de variables aléatoires

Le Théorème Limite Central

139

i.i.d. de loi µ sur H et (Zn )n>0 une suite auxiliaire indépendante de variables i.i.d. et de loi uniforme sur [0, 1]. Si on pose Z1

S1 = X1 + X2 ,

Z1

Z2

S2 = (X1 + X2 ) + X3 , . . . , Zn−1

Sn = Sn−1 + Xn On écrira alors Z1

Z2

Zn−1

Sn = X1 + X2 + . . . + Xn . Il est intéressant de noter que si µ a un moment d’ordre 2, les propriétés (32) de l’espérance et la variance généralisées impliquent immédiatement que : E? (Sn ) = nE? (X1 ) = nE? (µ), V? (Sn ) = nV? (X1 ) = nV? (µ).

(34)

L’utilité probabiliste des fonctions moment dans l’étude du comportement des sommes Sn réside en grande partie dans le résultat suivant [55] : Théorème 5..3 : Si (Sn )n>0 est une marche aléatoire sur H de loi µ ayant un moment (généralisé) d’ordre 2, alors les processus i) (m1 (Sn ) − nE? (µ))n>0 ,


ii) m2 (Sn ) − 2nE? (µ)m1 (Sn ) + n2 E?2 (µ) − nV? (µ) n>0 ,

sont des martingales.

Démonstration : i) Par le caractère markovien, la forme de la loi de Sn et la propriété (32), on a E(m1 (Sn )|Sn−1 ) =< Sn−1 ? µ, m1 >= m1 (Sn−1 ) + m1 (µ) p.s., ce qui implique immédiatement le résultat. La démonstration de ii) est analogue.



Pour terminer, nous voulons faire remarquer que la description de Sn comme une pseudo-somme n’est pas toujours indispensable pour démontrer les résultats des parties suivantes (qui concernent la convergence en loi), mais elle facilite grandement la présentation. Par contre on ne peut pas s’en passer pour démontrer des résultats de convergence presque sure du type "lois des grands nombres" etc. . . ([11], [12], [55]). Elle s’est révélée également cruciale lorsqu’on veut remplacer les conditions de moments généralisées d’ordre 2 vérifiées par une mesure par des conditions de moments usuelles (voir [17] pour un exemple typique).

5.4.

Le Théorème Limite Central sur les Hypergroupes Polynomiaux

Etant donnée une suite (Qn (x))n≥0 de polynômes orthogonaux sur [−1, 1] relativement à une mesure π(dx), normalisés par la condition Qn (1) = 1, avec Q1 (x) = x et dont les coefficients de linéarisation c(i, j, r) définis par : Qi (x)Qj (x) =

i+j X

r=|i−j|

c(i, j, r)Qr (x),

140

Léonard Gallardo

sont tous ≥ 0, on peut définir une convolution sur Mb (N), par : ∀m, n ∈ N,

n ? m =

i+j X

c(i, j, r)r .

(35)

r=|i−j|

On obtient ainsi une structure d’hypergroupe dite hypergroupe polynomial sur N d’élément unité e = 0 et d’involution l’identité. Les exemples les plus connus sont les hypergroupes polynomiaux de Jacobi et de Cartier-Dunau ([10], [11], [14], [15], [50]). Les trois suites de nombres réels (pn ), (qn ), (rn ) telles que pn > 0, rn ≥ 0, qn+1 > 0, q0 = 0 et pn + qn + rn = 1 et qui satisfont, pour n ≥ 1 : xQn (x) = qn Qn−1 (x) + rn Qn (x) + pn Qn+1 (x), sont appelées les paramètres de l’hypergroupe. Lorsque l’hypergroupe a des paramètres convergents i.e. limn→∞ pn = p et limn→∞ qn = q, on a montré dans [14] et [15] qu’il a un couple de fonctions moments données par : 0

m1 (n) = (p − q)Qn (1) 0

(36) 00

m2 (n) = (p + q)Qn (1) + (p − q)2 Qn (1).

(37)

Pour ne pas surcharger l’exposé, nous n’allons donner qu’un seul exemple de théorème limite central, celui correspondant au cas des polynômes de Jacobi d’indices (α, β) donnés par : Qn (x) =

(−1)n dn (1 − x)−α (1 + x)−β n [(1 − x)n+α (1 + x)n+β ], + 1)n dx

2n (α

avec α ≥ β > −1 et13 (α+β +1)(α+β +4)2 (α+β +6) ≥ (α−β)2 [(α+β +1)2 −7(α+ β + 1) − 24]. Le résultat qui suit est de Gallardo et Voit (plus précisement [10] considère le cas des polynômes de Gegenbauer puis [50] l’étend, avec la même méthode, à tous les polynômes de Jacobi). Théorème 5..4 : Si (Sn )n>0 est une marche aléatoire de loi µ sur l’hypergroupe polynomial de Jacobi (N, ?), et si µ a un moment généralisé d’ordre 2 tel que 0 < m2 (µ) = σ 2 < ∞, alors σS√nn converge en loi vers la mesure de probabilité14 ρα (dx) = 1R+ (x)

x2α+1 1 exp(− x2 )dx. 2α Γ(α + 1) 2

Idée de la démonstration : On utilise la transformée de Fourier de l’hypergroupe de Jacobi pour écrire (b µ(θ))n = E(QSn (cos θ)) puis un développement de Taylor de µ b en θ = 0 pour obtenir θ 1 lim (b µ( √ ))n = exp(− θ2 ). n→∞ 2 σ n 13 14

cette deuxième condition assure que les coefficients de linéarisation sont positifs. appelée loi de Rayleigh d’indice α.

Le Théorème Limite Central

141

Mais les polynômes vérifient une formule de Mehler-Heine : θ lim Qn (cos ) = Λα (θ) = 2α Γ(α + 1)θ−α Jα (θ), n→∞ n

(38)

et on peut, après quelques calculs montrer que θ S n lim E(QSn (cos √ )) − E(Λα ( √ θ)) = 0. n→∞ σ n σ n

Donc limn→∞ E(Λα ( σS√nn θ)) = exp(− 21 θ2 ). Mais le théorème de continuité est vrai R pour la transformation de Hankel : θ → R+ Λα (θx)µ(dx). On en déduit que σS√nn converge vers la distribution de Rayleigh d’indice α.  On notera qu’on a utilisé le théorème de continuité de Paul Lévy sur l’hypergroupe de Bessel-Kingman 15 d’indice α, ce qui va de soi puisqu’en normalisant, on sort de N. D’autres résultats peuvent être trouvés dans [51]. Pour le cas des hypergroupes associés à des polynômes orthogonaux à plusieurs variables, le lecteur intéréssé peut consulter [5], [6] et [34].

5.5.

Théorème Limite Central sur les Hypergroupes de Chébli-Trimèche

Considérons un opérateur différentiel sur R+ de la forme L=

d2 A0 d + , dx2 A dx

où la fonction A : R+ → R+ est telle que A(0) = 0,

A0 A

(39) décroissante sur R∗+ et

α A0 (x) = + B(x) A x

(40)

au voisinage de x = 0, avec α > 0 et B une fonction impaire dans C ∞ (R). Soit 2ρ = 0 limx→∞ AA (x). Pour tout λ ∈ C, l’équation aux valeurs propres  Lu = −(λ2 + ρ2 )u u(0) = 1, u0 (0) = 0, a une unique solution u = ϕλ (qu’on appelera fonction propre de paramètre λ) et il existe une unique convolution ? sur Mb (R+ ) telle que < x ? y , ϕλ >= ϕλ (x)ϕλ (y). Alors (R+ , ?) avec l’unité e = 0 et l’involution identité, est l’hypergroupe de Chébli-Trimèche associé à l’opérateur L. La transformée de Fourier généralisée est alors donnée par : Z ∞ µ b(λ) = ϕλ (x)µ(dx), 0

pour µ ∈ M1 (R+ ) et λ ∈ R+ ∪ i[0, ρ]. On trouvera des détails sur cette structure dans [4]. Sur cet hypergroupe, on a des fonctions moment (voir [14] ou [55]) de la forme : mn (x) = ( 15

d n ) ϕi(ρ+t) (x)|t=0 , dt

cet hypergroupe est pr´cisáu paragraphe suivant.

n = 1, 2.

(41)

142

Léonard Gallardo

Un exemple classique d’hypergroupe de Chébli-Trimèche est obtenu avec la fonction A(x) = x2α+1 (α > −1/2). On l’appelle alors hypergroupe de Bessel-Kingman d’indice α ([4]) et ses fonctions propres sont de la forme ϕλ (x) = Λα (λx), où Λα est la fonction considérée16 en (38). Il convient de mentionner que la classe des hypergroupes de Chébli-Trimèche est particulièrement importante puisque, sous des hypothèses raisonnables, toute structure d’hypergroupe différentiable sur R+ est associée à un opérateur différentiel du type (39) (voir [20] et [21]). Le théorème limite central suivant sur l’hypergroupe de Chébli-Trimèche est de Zeuner [56]. Théorème 5..5 : On considère un hypergroupe de Chébli-Trimèche (R+ , ?). 0

i) Si ρ = 0, on suppose que β = limx→∞ x AA (x) existe. Soit (Sn )n>0 une marche aléatoire sur (R+ , ?) de loi µ telle que σ 2 = V? (µ) < ∞. Alors σS√nn converge en loi vers une distribution de Rayleigh d’indice

β−1 2 .

ii) Si ρ > 0, soit (Sn )n>0 une marche aléatoire de loi µ sur (R+ , ?) telle que σ 2 = V? (µ) < ∞. Alors : Sn − m−1 1√ (nE? (µ)) L → N (0, σ 2 ). n On se reportera à [56] pour la démonstration qui est dans l’esprit du Théorème 5.3 ci-dessus pour le résultat du cas ρ = 0. Si ρ > 0, la méthode est différente et utilise des propriétés analytiques des fonctions moments. Cependant, étant donné le résultat i) du Théorème 5.3, on peut utiliser un théorème limite central pour les martingales, c’est ce qui explique que la loi limite est une loi normale usuelle. On notera que la fonction m1 est strictement croissante ( voir [15] ou [56] pour son expression explicite), d’où l’existence de m−1 1 . Z1

Z2

Dans le résultat précédent et avec les notations du paragraphe 5.3, on a Sn = X1 + X2 + Zn−1

. . . + Xn et ensuite on normalise comme dans R. Mais on peut normaliser d’abord chacune des variables aléatoires Xi et ensuite faire la pseudo-somme. On obtient alors un autre théorème limite central obtenu par Trimèche [45]. Nous donnons ci-dessous l’énoncé repris par Zeuner [56] avec le langage des pseudo-sommes : Théorème 5..6 : Soit (Xn )n>0 une suite de variables aléatoires i.i.d. ayant un moment E(X 2 ) usuel d’ordre deux sur (R+ , ?). On pose σ e2 = 1+α1 où α est la constante de (40) et pour tout entier n, on considère la pseudo-somme :

16

Zn−1 Xn X1 Z1 X2 Z2 √ . Sen = √ + √ + · · · + σ e n σ e n σ e n

attention, le paramètre α de la formule (40) doit être remplacé par 2α + 1 dans le cas de l’hypergroupe de Bessel-Kingman considéré ici.

Le Théorème Limite Central

143

Alors Sen converge en loi vers la distribution gaussienne généralisée sur R+ de tranformée de Fourier généralisée égale à α b1 (λ) = exp[− 12 (λ2 + ρ2 )].

Idée de la démonstration : En écrivant ϕλ ( σ
X√1n ) à l’aide du développement de Taylor de la fonction propre ϕλ (x) en x = 0 et en prenant l’espérance, on obtient   1 00 E(X 2 ) X1 1 E ϕλ ( √ ) = 1 + ϕλ (0) 2 1 + o( ). 2 σ e n n σ e n

fn )) qui tend vers La puissance n de l’expression précédente est précisément E(ϕλ (S 00 λ2 +ρ2 1 2 2 exp[− 2 (λ + ρ )] quand n → ∞ puisque ϕλ (0) = − α+1 . Le théorème de continuité de Paul Lévy donne alors le résultat.  On notera que la mesure de probabilité α1 est la loi au temps t = 1 du semi-groupe de Gauss (αt )t≥0 sur (R+ , ?) dont les transformées de Fourier généralisées sont données par α bt (λ) = exp[− 2t (λ2 + ρ2 )] (λ ∈ R+ ). Ce résultat est en fait un théorème limite central pour des systèmes triangulaires de probabilités sur (R+ , ?). C’est sous cette forme qu’il a été énoncé dans [45]. D’autres résultats de ce type ont été obtenus par l’école tunisienne sur d’autres hypergroupes et des stuctures de convolution voisines ([1], [2], [3], [36], [44], [46]). Pour terminer cette partie nous allons montrer qu’on peut envisager d’autres constructions qui permettent d’obtenir des théorèmes limites pour systèmes triangulaires d’un type particulier dont les premiers exemples ont été produits par Mabrouki ([33]) et Voit ([52]). Les résultats qui suivent sont tirés de [52]. Considérons sur R+ la structure d’hypergroupe de Jacobi de paramètres (α, β), c’est à dire l’hypergroupe de Chébli-Trimèche associé à la fonction A(x) = 22ρ (sinh x)2α+1 (cosh x)2β+1 , avec α ≥ β > − 12 et ρ = α + β + 1. Soit µR une mesure de probabilité sur R+ ayant un moment d’ordre deux usuel : ∞ M2 = 0 x2 µ(dx) et soit r > 0 une constante fixée. Pour tout entier k > 0, on considère (k)

νk = τk−r (µ) la mesure image de µ par la dilatation x → k −r x et soit (Sn )n>0 une (k) marche aléatoire de loi νk . On peut considérer Sn comme formant une matrice de variables aléatoires à une infinité de lignes et de colonnes, la ligne numéro k étant constituée des variables de la marche de loi νk . On procède maintenant à un "choix diagonal", en (n) extrayant de la matrice précédente les variables Sn , puis on normalise ces variables et on obtient le résultat suivant : Théorème 5..7 : Avec les hypothèses et les notations précédentes, on suppose de plus r > 1 2 , alors la suite des variables aléatoires s

2(α + 1) r−1/2 (n) n Sn , M2

converge en loi quand n → ∞, vers la loi de Rayleigh17 d’indice α. 17

voir le Théorème 5.4 pour l’expression de sa densité

(42)

144

Léonard Gallardo

La démonstration de ce résultat consiste à utiliser une formule de Hilb pour estimer la différence |ϕλ (t) − Λα (λt)|, où ϕλ est la fonction propre d’indice λ de l’hypergroupe de Jacobi et Λα la fonction de Bessel modifiée donnée en (38), de manière à pouvoir ramener la transformée de Fourier-Jacobi des variables (42) à une transformée de Hankel comme dans la preuve du Théorème 5.4 puis à conclure de manière analogue. Pour d’autres résultats de ce type voir [53] et [35].

5.6.

Théorème Limite Central sur les Hypergroupes avec Dérive

On considère maintenant une classe d’hypergroupes dont la convolution présente une dérive18 asymptotique. Cette classe a été introduite dans [14]. Considérons un hypergroupe (H, ?) où H est un sous ensemble borélien non borné de R muni de la topologie usuelle et satisfaisant les conditions suivantes : i) Il existe une constante C > 0 telle que pour tout x, y ∈ H, et tout u ∈ supp(x ? y ), on ait |u − y| ≤ C|x|. ii) lim|x|→∞

R

iii) lim|x|→∞

H (u

R

− x)x ? y (du) = m1 (y), existe.

H (u

− x)2 x ? y (du) = m2 (y), existe.

La condition i) est une condition sur le support de la mesure x ? y qui est en général vérifiée par tout hypergroupe de dimension 1 (voir [57]). Nous l’avons laissée ici car elle est indispensable dans la situation plus générale que nous avons considérée dans [14]. Les conditions ii) et iii) signifient que les moments conditionnels d’ordre 1 et 2 de la mesure x ? y , ont une limite quand x → ∞. D’où le terme utilisé de dérive asymptotique de la convolution. Les hypergroupes polynomiaux à paramètres convergents et les hypergroupes de Chébli-Trimèche sont les principaux exemples d’hypergroupes unidimensionnels avec dérive. Mais l’intérêt essentiel réside dans le fait que les fonctions m1 et m2 qui apparaissent en i) et ii) constituent toujours un couple de fonctions moment canoniquement associées à la structure d’hypergroupe. Le deuxième intérêt est probabiliste : considérons une marche aléatoire de loi µ ∈ M1 (H) possédant un moment généralisé d’ordre 2. Les fonctions suivantes définies sur H par les espérances conditionnelles suivantes : d(t) = E(Sn − Sn−1 |Sn−1 = t), c(t) = E((Sn − Sn−1 )2 |Sn−1 = t),

(43)

sont respectivement la dérive en t et le moment conditionnel d’ordre 2 de l’accroissement au point t. On a montré dans [12]( voir aussi [16], [17]) que l’on a lim|t|→∞ d(t) = m1 (µ), lim|t|→∞ c(t) = m2 (µ). Avec les notations de (43), on a alors le résultat ([16], [13]) : 18

drift en anglais.

(44)

Le Théorème Limite Central

145

Théorème 5..8 : Pour une marche aléatoire (Sn )n>0 telle que 0 < σ 2 = V? (µ) < ∞, on a ! n X 1 L √ Sn − d(Sk−1 ) → N (0, σ 2 ) (n → ∞) n k=1

On a aussi le résultat suivant ([16], [13]) : Théorème 5..9 : Avec les hypothèses du théorème 5.8, si on suppose de plus : i) m1 (µ) 6= 0 ii) Il existe un réel γ > Alors, on a

√1 n

1 2

tel que d(t) − m1 (µ) = 0(|t|−α ), quand |t| → ∞. L

(Sn − nm1 (µ))) → N (0, σ 2 )

(n → ∞).

P Démonstration abrégée du théorème 5.8 : Le processus Mn = Sn − nk=1 d(Sk−1 ) est une martingale par rapport à la filtration Fn de la suite (Sn ). Si Zk = Mk − Mk−1 désigne l’accroissement de Mn , on a E(Zk2 |Fk−1 ) = c(Sk−1 ) − d2 (Sk−1 ) p.s.19 Alors , Pn 2 2 si Vn = k=1 E(Zk |Fk−1 ) et s2n = E(Vn2 ), on peut grâce à l’expression explicite de Vn2 , aux propriétés (44) et au fait que Sn → ∞ p.s., montrer que Vn2 = 1 p.s. n→∞ s2 n lim

(45)

En utilisant ensuite l’inégalité Zj2 ≤ 2(Sj − Sj−1 )2 + 2d2 (Sj−1 ) et l’hypothèse de moment d’ordre 2, on peut montrer que la martingale (Mn )n>0 , vérifie pour tout  > 0, la condition dite de Lindeberg : n  1 X  2 |F E Z 1 j {|Zj |>sn } j−1 = 0, n→∞ s2 n

lim

(46)

j=1

en probabilité. Les conditions (45) et (46), permettent de conclure à l’aide du théorème limite central pour martingales de Brown [7].  Démonstration du Théorème 5.9 : Si (t) = d(t) − m1 (µ), on montre grâce au fait que Sk /k → m1 (µ) p.s. (si k → ∞) (voir [12]), que l’on a n 1 X √ (Sk−1 ) = 0 n→∞ σ n

lim

p.s.

k=1

et ceci donne le résultat grâce au Théorème 5.8.  On peut trouver dans [17] une généralisation de ces deux résultats à une situation multidimensionnelle. 19

l’abréviation "p.s." signifie "presque-sûrement".

146

Léonard Gallardo

Références [1] N. Ben Salem : Convolution semigroups and central limit theorem associated with a dual convolution structure. J. Theoret. Probab. 7 (2), (1994), 417-436. [2] N. Ben Salem, M. N. Lazhari : Limit theorems for some hypergroup structures on Rn × [0, ∞[. Contemporary Math. 183, (1995), 1-13.

[3] N. Ben Salem, M. N. Lazhari : Convolution semigroups and limit theorems on a product of hypergroups. Preprint. Faculty of Sciences of Tunis. (1996). [4] W. Bloom, H. Heyer : Harmonic Analysis of Probability Measures on Hypergroups. De Gruyter ed.(1995). [5] M. Bouhaik, L. Gallardo : A Mehler-Heine formula for disk polynomials. Indag. Math., N.S.,2(1), (1991), 9-18. [6] M. Bouhaik, L. Gallardo : Un théorème limite central dans un hypergroupe bidimensionnel. Ann. Inst. H. Poincaré 28(1), (1992), 47-61. [7] B. M. Brown : Martingale Central Limit Theorems. Ann. Math. Stat. 42, (1971), 59-66. [8] P. Crépel, A. Raugi : Théorème limite central sur les groupes nilpotents. Ann. Inst. Henri Poincaré, Vol. XIV, (1978), 145-164. [9] W. Feller : An Introduction to Probability Theory and its Applications. Vol. 2. Second Edition. John Wiley & Sons, Inc.(1971). [10] L. Gallardo : Comportement asymptotique des marches aléatoires associées aux polynômes de Gegenbauer et applications. Adv. in Applied Probab. 16, (1984), 293-324. [11] L. Gallardo : Asymptotic behaviour of the path of random walks on some commutative hypergroups. Contemporary Math. 183, (1995), 135-169. [12] L. Gallardo : Chaînes de Markov à dérive stable et loi des grands nombres sur les hypergroupes. Ann. Inst. H. Poincaré 32, (1996), 701-723. [13] L. Gallardo : Dérive des marches aléatoires et théorèmes limites. Ann. Math. Blaise Pascal 3, (1996),77-87. [14] L. Gallardo : Asymptotic drift of the convolution and moment functions on Hypergroups. Math. Zeit. 224, (1997), 427-444. [15] L. Gallardo : Some methods to find moment functions on hypergroups. Harmonic Analysis and Hypergroups. Birkhäuser, (1998), 13-31. [16] L. Gallardo : A Central Limt Theorem for Markov Chains and Applications to Hypergroups. Proc. of Amer. Math. Soc. 127, (1999), 1837-1845. [17] L. Gallardo : A Multidimensional Central Limit Theorem for Random Walks on Hypergroups. Stoch. and Stochastics Reports 73, (2002), 1-23. [18] L. Gallardo, O.Gebuhrer : Lois de probabilité divisibles sur les hypergroupes commutatifs, discrets,dénombrables. Lecture Notes in Math. 1064, Springer, (1984), 116-130. [19] L. Gallardo, O.Gebuhrer : Marches aléatoires et hypergroupes. Expositiones Math. 5,51987), 41-73.

Le Théorème Limite Central

147

[20] L. Gallardo, K. Trimèche : Lie Theorems for One Dimensional Hypergroups. Int. Transf. and Special Functions 13, (2002), 71-92. [21] L. Gallardo, K. Trimèche : One Dimensional Diffusive Hypergroups with Asymptotic Drift. Int. Transf. and Special Functions 13, (2002), 101-108. [22] L. Gallardo, K. Trimèche : Renewal Theorems for Singular Differential Operators. J. Theor. Probab. 15, (2002), 161-205. [23] U. Grenander : Probabilities on Algebraic Structures. John Wiley & Sons Inc., (1963). [24] Y. Guivarc’h, M. Kean, B. Roynette : Marches aléatoires sur les groupes de Lie. Lect. Notes in Math. 624, (1977). [25] J. Harthong : Probabilités & Statistiques. De l’intuition aux applications. Diderot éditeur,(1996). [26] W. Hazod : Stetige Halbgruppen von Wahrscheinlichkeitsmassen und erzeugende Distributionen. Lecture Notes in Math. 595. Springer-Verlag, (1977). [27] H. Heyer : Probability Measures on Locally Compact Groups. Springer,(1977). [28] E. Hewitt, K.A. Ross : Abstract Harmonic Analysis I, II. Springer, (1970). [29] L. Hörmander : Hypoelliptic second order differential equations. Acta Math. 119, (1967), 147-171. [30] G. A. Hunt : Semi-groups of measures on Lie groups. Trans. Amer. Math. Soc. 81, (1956),264-293. [31] K.Itô : Brownian Motions in a Lie Group. Proc. Jap. Acad. 26, (1950), 4-10. [32] T. G. Kurtz : Extension of Trotter’s Operator Semigroup Approximation Theorems. J.of Func. Anal. 3,(1969), 354-375. [33] M. Mabrouki : Limit theorems for the spin process. Contemporary Math. 183, (1995), 245-259. [34] M. Mili : Asymptotic behaviour of the half disk polynomials and random walks on a discrete cone. C. R. Math. Rep. Acad. Sc. Canada 18(2-3), (1996), 75-79. [35] M. Mili : Selective limit theorems for random walks on parabolic biangle and triangle hypergroups. J. Theoret. Probab. 13, (2000), 717-731. [36] M. M. Nessibi : Central limit theorem on the Laguerre Hypergroup. Thèse de Doctorat d’Etat es-Sciences Mathématiques. Faculté des Sciences de Tunis. (1996). [37] V. Paulauskas : J. W. Lindeberg and the Central Limit Theorem, in Statistics, Registries, and Research-Experiences from Finland (ed. Juha Alho) Statistics Finland, Helsinki, (1999). [38] V. Paulauskas, A. Rackauskas : Approximation theory in the Central limit Theorem. Exact Results in Banach Spaces. Kluwer, (1989). [39] A. Raugi : Théorème de la limite centrale pour un produit semi-direct d’un groupe de Lie résoluble simplement connexe de type rigide par un groupe compact. Probability measures on groups (Oberwolfach, 1978). Lecture Notes in Math. 706, (1979), 257-324.

148

Léonard Gallardo

[40] A. Raugi : Théorème de la limite centrale sur les groupes nilpotents. Zeit. fur Wahr.43, (1978), 149-172. [41] A. Raugi : Quelques remrques sur le théorème de la limite centrale sur un groupe de lie. C. R. Acad. Sci. Paris, Sér. A-B 290, (1980), 103-106. [42] E. Siebert : A new proof of the generalized continuity theorem of Paul Lévy. Math. Ann. 233, (1978), 257-259. [43] E. Siebert : Fourier Analysis and Limit theorems for convolution Semigroups on a locally compact Group. Adv. in Math. 39, (1981), 111-154. [44] M. Sifi : Central limit theorem and infinitely divisible probabilities associated with partial differential operators. J. Theoret. Probab. 8(3), (1996), 475-499. [45] K. Trimèche : Probabilités indéfiniment divisibles et théorème de la limite centrale pour une convolution généralisée sur la demi-droite. C.R.Acad.Sci.Paris, Sér.A-B 286, (1978), 63-66. [46] K. Trimèche : Permutation operators and central limit theorem associated with partial differential operators. Oberwolfach,1990, Probability measures on groups. Plenum, (1991), 395-424. [47] H. F. Trotter : Approximation of semigroups of operators. Pac. J. Math. 8, (1958), 887-919. [48] H. F. Trotter : An elementary proof of the central limit theorem. Archiv der Math,10, (1959), 226-234. [49] V. N. Tutubalin : Composition of measures on the simplest nilpotent group. Theor. Probab. Appl. 19, (1964), 479-487. [50] M. Voit : Central limit theorems for a class of polynomial hypergroups. Adv. in Applied Probab. 22, (1990), 68-87. [51] M. Voit : Central limit theorems for random walks on N0 that are associated with orthogonal polynomials. J. Multivariate Anal. 34, (1990), 290-322. [52] M. Voit : Central Limit Theorems for Jacobi Hypergroups. Contemporary Math. 183, (1995), 395-411. [53] M. Voit : Limit theorems for compact two homogeneous spaces of large dimensions. J. Theoret. Probab. 9, (1996), 353-370. [54] D. Wehn : Probabilities on Lie groups. Proc. Nat. Acad. Sci. USA 48, (1962), 791795. [55] H. Zeuner : Laws of large numbers on hypergroups on R+ . Math. Ann. 283, (1989), 657-678. [56] H. Zeuner : The central limit theorem for Chébli-Trimèche hypergroups. J. Theor. Probab. 2, (1989), 51-63. [57] H. Zeuner : One-dimensional hypergroups. Adv. in Math. 76, (1989), 1-18.

In: Proceedings of the Tunisian Mathematical Society... ISBN 1-60021-014-7 c 2007 Nova Science Publishers, Inc. Editor: K. Trim´eche and S. Zarati, pp. 149-157

Chapter 10

N EW P ROOF OF C OWLING -P RICE L EMMA AND A PPLICATION Slaim Ben Farah∗ Facult´e des Sciences de Monastir, D´epartement de Math´ematiques. 5019 Monastir, Tunisie

Abstract A crucial result to establish the Lp -Lq versions of Hardy’s theorem is the following Cowling-Price lemma [3]. Let σ > 0 , M > 0 and 1 ≤ p < ∞. If g is an entire 2 function on C satisfying the conditions ||g|R ||p ≤ M and |g(x+iy)| ≤ M eσx , for all x > 0, y > 0, then g = 0. In this paper, we establish a version of Phragm´en-Lindel¨of theorem and we deduce a simplified proof of the above lemma. As application, we establish a Lp -Lq version of Hardy’s theorem for the Heisenberg group, by using its natural gauge.

Keywords: Uncertainty principle, Hardy’s theorm, Cowling-Price lemma, Heisenberg group AMS Subject Classifications: 42A99, 30C80, 43A15

1.

Introduction

The classical Hardy’s theorem [7] for the Fourier transform on R asserts that a function f and its Fourier transform cannot both be very small. More precisely, let f be a measurable function on R and let Z ˆ f (λ) = f (x)e−iλx dx, R

be its Fourier transform. Hardy’s theorem says that for a measurable function f such that 2 2 ||eax f ||∞ < ∞ and ||ebλ fˆ||∞ < ∞, if ab > 1/4, then f = 0, if ab = 1/4, then 2 f = const. e−ax and there are infinitely many functions satisfying the above conditions when ab < 1/4. Cowling and Price in [3] proved, for 1 ≤ p, q ≤ ∞, a Lp -Lq version of ∗

E-mail address: [email protected]

150

S. Ben Farah

2 2 Hardy’s theorem in the following sense. Suppose that ||eax f ||p < ∞ and ||ebλ fˆ||q < ∞. If ab ≥ 1/4 and p or q finite, then f = 0 and there are infinitely many functions satisfying these inequalities when ab < 1/4. Recently, considerable attention has been paid for proving analogous of Cowling-Price theorem in the context of Lie groups and functional transforms (see [2], [5], [6], [9], [11], [12], [13]). In all these contexts, we remark that the following Cowling-Price lemma is crucial. Let σ > 0 , M > 0 and 1 ≤ p < ∞. If g is an entire function on C satisfying the conditions 2 i) |g(x + iy)| ≤ M eσx , for all x > 0 and y > 0, ii) ||g|R ||p ≤ M , then g = 0. The original proof of this lemma in [3] is very technical and it is based on the maximum principle. In this paper, we establish a version of Phragm´en-Lindel¨of theorem and then we deduce a simplified proof of the above lemma. In section 3, we apply this lemma to establish a Lp -Lq version of Hardy’s theorem for the Heisenberg group, by using its natural gauge as a ”norm”. We obtain the same condition on a and b, and this condition is again optimal. Note that Bagchi and Ray in [1] proved another Lp -Lq version of Hardy’s theorem for the Heisenberg group with condition depending on p and q.

2.

Cowling-Price Lemma

The aim of this section is to give a simplified proof of Cowling-Price lemma in [3]. We need the following definitions and notations. For 1 ≤ p ≤ ∞, denote by Lp the standard Lebesgue space and by ||.||p the corresponding norm. Choose some θ1 , θ2 ∈ R such that 0 ≤ θ1 < θ2 ≤ 2π. Let Ω be the open angle in C defined by Ω = {reiθ , r > 0 , θ1 < θ < θ2 }, let Ω be the closure of Ω, ∂(Ω) = Ω \ Ω be the boundary of Ω and Ω0 = {reiθ , 0 , 0 < θ < π/2}. Let g : Ω −→ C be a continuous function holomorphic on Ω. By definition, the order of g on Ω is

r >

λ

ρ(g) = inf {λ > 0 , g(z) = O(e|z| ) ; |z| → +∞, z ∈ Ω}. The following result D of [8] is a Phragm´en-Lindel¨of lemma which generalizes the maximum principle. Lemma 1 Suppose that ρ ∈ [1/2, +∞[, θ2 − θ1 = π/ρ. If ρ(g) < ρ and sup |g(z)| < z∈∂(Ω)

+∞, then sup |g(z)| = sup |g(z)|.

z∈∂(Ω)

z∈Ω

New Proof of Cowling-Price Lemma and Application

151

2

Remark: The function g(z) = e−iz is bounded on the half axis R+ and iR+ and satisfies 2

g(x + ix) = e2x ,

for all x > 0.

This example proves that the above lemma is not valid, if we omit the condition ρ(g) < ρ. When ρ(g) = ρ = 2, we have the following result Lemma 2 Let σ > 0 and M > 0. If g is an entire function on Ω0 continuous on Ω0 , satisfying the conditions 2

|g(x + iy)| ≤ M eσx , |g(x)| ≤ M ,

for all x > 0, y > 0 for all x > 0

(1) (2)

then |g(x + iy)| ≤ M ,

for all x > 0, y > 0.

Proof. Let ψ ∈]0, π/2[, we are going to prove that |g(ρ eiψ )| ≤ M ,

for any ρ > 0.

For θ ∈]ψ, π/2[, let hθ be the function on Ω0 , defined by hθ (z) = g(z)ei(σ cot θ)z

2 /2

.

The function hθ satisfies the following inequalities |hθ (x)| ≤ M

and

|hθ (ρ eiθ )| ≤ M,

for any x > 0 and ρ > 0. Since ρ(hθ ) ≤ 2 and θ < π/2, Lemma 1 applied to hθ for θ1 = 0 and θ2 = θ gives |hθ (ρ eiψ )| ≤ M

for any ρ > 0.

Thus we deduce that |g(ρ eiψ )| ≤ M e1/2(σρ

2

sin 2ψ) cot θ

for any ρ > 0.

Now we let θ tends to π/2, which gives the result. Corollary 1 Let σ > 0 and M > 0. If g is an entire function on C satisfying the conditions 2

i) |g(x + iy)| ≤ M eσx , for all x > 0 and y > 0, ii) |g(x)| ≤ M , for all x ∈ R, then g = const on C. Proof. Lemma 2 applied to the functions g, z 7−→ g(−z), z 7−→ g(z) and z 7−→ g(−z), implies that g is bounded on C. Thus g is constant by Liouville theorem. Now we deduce a new proof of Cowling-Price Lemma

152

S. Ben Farah

Lemma 3 Let σ > 0 , M > 0 and 1 ≤ p < ∞. If g is an entire function on C satisfying the conditions 2

i) |g(x + iy)| ≤ M eσ|x| , for all x > 0 and y > 0, ii) ||g|R ||p ≤ M , then g = 0. Proof. Let R > 0, and consider the entire function on C defined by Z R+1 F (z) = g(tz)dt. R

The derivatives of F satisfy the condition 
 F (n) (0) = (R + 1)n+1 − Rn /(n + 1) g (n) (0)

for any n ∈ N.

Thus, g = const, if and only if F = const. By assumption i) we have |F (x + iy)| ≤ M e(R+1)

2 σx2

,

for all x, y ∈ R.

(3)

Let x ∈ R \ {0}, the change of variable u = xt gives 1 x

Z

1 |F (x)| ≤ x

Z

F (x) =

(R+1)x

g(u) du, Rx

so

(R+1)x Rx

|g(u)| du.

By the H¨older’s inequality we obtain |F (x)| ≤

1 ||g||p . |x|1/p

Using the fact that F is continuous on R and assumption ii), we obtain F|R ∈ L∞ (R).

(4)

By using the inequalities 3 and 4 and by applying Corollary 1 to F , we see that F is constant, thus g is constant too. Since ||g|R ||p ≤ M , then g = 0.

3.

Lp -Lq -Version of Hardy’s Theorem for the Heisenberg Group

Let Hn be the Heisenberg group, which is a simply connected nilpotent Lie group. The underlying topological space of Hn is Hn = Rn × Rn × R. The group multiplication is given by the rule
1 (x1 , y1 , t1 )(x2 , y2 , t2 ) = x1 + x2 , y1 + y2 , t1 + t2 + [hx1 , y2 i − hx2 , y1 i] 2

New Proof of Cowling-Price Lemma and Application

153

for (x1 , y1 , t1 ), (x2 , y2 , t2 ) in Hn and x, y ∈ Rn . Here h., .i stands for the usual scalar product in Rn . We denote by ||.|| the associated norm. It is well known that the Heisenberg group has a natural gauge defined by |(x, y, t)| = (t2 + (||x||2 + ||y||2 )2 )1/2 , and this gauge is homogeneous of degree one with respect to the dilatation (x, y, t) 7−→ √ √ ( rx, ry, rt) well defined for a positive real r (see [4] and [10]). The Lebesgue measure dxdydt on Rn × Rn × R is the Haar measure of Hn . Concerning the dual of the group Hn , there are two classes of irreducible unitary representations of Hn . - Unitary characters. The representations of this class are trivial on the center {0} × {0} × R of Hn . - Infinite-dimensional representations. This class gives the necessary components for the Plancherel formula for Hn , and it is parametrized by λ ∈ R \ {0}. Let Πλ be a representation of this kind. Then Πλ can be realized on L2 (Rn ). This realisation is defined for ϕ ∈ L2 (Rn ), by the rule Πλ (x, y, t)ϕ(ζ) = eiλ[t+hx,yi/2−hζ,yi] ϕ(ζ − x) . The Fourier transform of f ∈ L1 (Hn ) ∩ L2 (Hn ), is given in the weak sense by the formula Z ˆ f (λ) = f (x, y, t)Πλ (−x, −y, −t)dxdydt for any λ ∈ R \ {0}. (5) Hn

In fact fˆ(λ) is a Hilbert-Schmidt operator on the Hilbert space L2 (Rn ) and we have the Plancherel formula Z ||fˆ(λ)||2HS |λ|n dλ = (2π)n ||f ||2L2 (Hn ) . R

The objective of this section is to give a Lp -Lq -version of Hardy’s theorem for the Heisenberg group. Note that Bagchi and Ray in [1] proved the following Lp -Lq version of Hardy’s theorem for the Heisenberg. Let f be a measurable function on Hn . Suppose that for a, b > 0 and p or q finite 2 2 2 i) ea(t +||x|| +||y)|| ) f ∈ Lp (Hn ), 2 ii) ebλ ||fˆ(λ)||HS ∈ Lq (R, |λ|n dλ). (a) If q ≥ 2, then f = 0 if ab > 1/4. (b) If 1 ≤ q < 2, then for p = ∞, f = 0 if ab ≥ 1/2 and for p < ∞, f = 0 if ab > 1/2. Here we use the gauge to estimate the decay of functions on Hn . We believe that this gives a good choice to obtain the analogs of Cowling-Price’s theorem, with the same condition. More precisely, the following theorem holds Theorem 4 Let p ∈ [1, +∞], 1 ≤ q < ∞ and a, b ∈]0, +∞[. Suppose that f is a measurable function on Hn such that 2

i) ea|(x,y,t)| f ∈ Lp (Hn )

154

S. Ben Farah 2 ii) ebλ fˆ(λ)ϕ|ψ




∈ Lq (R, |λ|n dλ) ;

L2 (Rn )

for all ϕ, ψ ∈ D(Rn ).

If ab > 1/4, then f is null almost everywhere. Proof. Let ϕ, ψ ∈ D(Rn ) be supported by the ball {u ∈ Rn ; ||u|| ≤ R}, for some real R > 0. Consider the function h defined on R by
h(λ) = fˆ(λ)ϕ|ψ L2 (Rn ) . By assumption i), the function h can be extended to a holomorphic function on C and satisfies the condition 2 ebλ h ∈ Lq (R, dλ). Choose some

1 √ c ∈] √ , 2a[. 2b

We clain that |h(λ + iη)| ≤ M e(1/2c

2 )η 2

for any

λ , η ∈ R.

(6)

Using the expression (5), we obtain Z Z f (x, y, t)ei(λ+iη)[−t+hx,yi/2+hζ,yi] ϕ(ζ + x)ψ(ζ)dxdydtdζ , h(λ + iη) = Rn

Hn

the change of variable ξ = ζ + x/2 gives Z Z x x h(λ + iη) = f (x, y, t)ei(λ+iη)[−t+hξ,yi] ϕ(ξ + )ψ(ξ − )dxdydtdξ, 2 2 Rn Hn and thus |h(λ + iη)| ≤

Z

Rn

Z

Hn

|f (x, y, t)ϕ(ξ +

x x )ψ(ξ − )|e|η|(|t|+||ξ||.||y||) dxdydtdξ. 2 2

Suppose that 1 < p ≤ ∞ and let p0 be such that 1/p + 1/p0 = 1. Using the assumption i) and H¨older’s inequality, we see that Z Z
1/p0 0 2 0 |h(λ + iη)| ≤ M g(ξ, x)e−p a|(x,y,t)| ep |η|(|t|+||ξ||.||y||) dxdydt dξ, Rn

Hn

where

x x 0 )ψ(ξ − )|p . 2 2 The condition on the supports of ϕ and ψ, implies that the norms of ξ +x/2 and ξ −x/2 must be less than R, and therefore ||ξ|| ≤ R and ||x|| ≤ 2R. On the other hand, ϕ and ψ are bounded on Rn , and hence Z
1/p0 0 2 4 0 |h(λ + iη)| ≤ M 0 e−p a(t +||y|| ) ep |η|(|t|+R||y||) dydt , g(ξ, x) = |ϕ(ξ +

Rn ×R

New Proof of Cowling-Price Lemma and Application

155

By the inequality |η|(|t| + R||y||) ≤ c2 /2(|t| + R||y||)2 + (1/2c2 )η 2 , and using the spherical coordinates we can write Z ∞Z ∞
1/p0 2 2 0 2 4 0 2 2 |h(λ + iη)| ≤ M 00 e(1/2c )η e−p a(t +s ) ep c /2(t+Rs) sn−1 dsdt . 0

0

To obtain inequality (6), we must prove that the integral Z 0 2 4 0 2 2 I= e−p a(t +s ) ep c /2(t+Rs) sn−1 dsdt , ]0,∞[×]0,∞[

is finite. To prove √ this fact, we devide the set ]0, ∞[×]0, ∞[ in two parts: {(t, s); s ≤ and {(t, s); s ≥ t}. Then I = I1 + I2 where I1 =

0

∞Z

Z

0

∞ Z s2

and I2 =

√

Z

t

0

e−p a(t

2 +s4 )

0 2 /2(t+Rs)2

ep c

√

t}

sn−1 dsdt

0

We have

2 +s4 )

0 2 /2(t+Rs)2

ep c

sn−1 dtds.

0

I1 ≤

Z

I2 ≤

Z

and

0

e−p a(t

∞√

n

√

0

2

0 2 t2 /2(1+R/

0

4

0 2 s4 /2(1+R/s)2

t e−p at ep c

t)2

dt

0 ∞

sn+1 e−p as ep c

ds ,

0

and il follows from the condition c2 /2 < a that I1 and I2 are finite. The same proof gives the inequality (6) when p = ∞. In conclusion, h satisfies the following conditions: 2 2 i) |h(λ + iη)| ≤ M e(1/2c )η , for all λ, η ∈ R, 2 ii) ebλ h(λ) ∈ Lq (R, dλ). The entire function g on C defined by g(z) = ez

2 /2c2

h(z) ,

for all z ∈ C,

satisfies the conditions: 2 2 i) |g(x + iy)| ≤ M e(1/2c )x , for all x, y ∈ R, 2 2 ii) e(b−1/2c )x g(x) ∈ Lq (R, dx). Since b − 1/2c2 > 0
then Lemma 3 implies that g = 0 and then h = 0. Then the mapping λ 7−→ fˆ(λ)ϕ|ψ L2 (Rn ) is zero for any ϕ, ψ ∈ D(Rn ). Since D(Rn ) in dense in L2 (Rn ), il follows that the operator fˆ(λ) vanishes. By the above Plancherel formula, we conclude that f is zero almost everywhere. Let us now prove the condition ab > 1/4 in the above Theorem is sharp.

156

S. Ben Farah

Proposition 5 Let p, q ∈ [1, +∞] and a, b ∈]0, +∞[. If ab < 1/4, then there exists a nonzero measurable function F on Hn such that 2 i) ea|(x,y,t)| F ∈ L
p (Hn ) 2 ii) ebλ Fˆ (λ)ϕ|ψ L2 (Rn ) ∈ Lq (R, |λ|n dλ) ; for all ϕ, ψ ∈ D(Rn ).

Proof. Let a0 > a such that a0 b < 1/4. Let f, g ∈ D(Rn ) be nonzero functions supported by the unit ball of Rn . Consider the measurable function F on Hn defined by F (x, y, t) = 0 2 f (x)g(y)e−a t . Since f and g are supported by the unit ball, we have 2

0

2

ea|(x,y,t)| |F (x, y, t)| ≤ const.e(a−a )t |f (x)|.|g(y)|, 2

and thus ea|(x,y,t)| F belongs to Lp (Hn ).
On the other hand, for ϕ, ψ ∈ D(Rn ), Fˆ (λ)ϕ|ψ L2 (Rn ) is equal to Z

Rn

Z

0 2

f (x)g(y)e−a t eiλ[−t+hx,yi/2+hζ,yi] ϕ(ζ + x)ψ(ζ)dxdydtdζ. Hn

By Fubini’s theorem, this is equal to Z 0 2 e−(1/4a )λ f (x)g(y)eiλ[hx,yi/2+hζ,yi] ϕ(ζ + x)ψ(ζ)dxdydζ, Rn ×Rn ×Rn

and thus | Fˆ (λ)ϕ|ψ




L2 (Rn )

−(1/4a0 )λ2

|≤e

Z

Rn ×Rn ×Rn

|f (x)g(y)ϕ(ζ + x)ψ(ζ)|dxdydζ,

where f, g, ϕ, ψ are in D(Rn ). Therefore,
2 0 2 ebλ | Fˆ (λ)ϕ|ψ L2 (Rn ) | ≤ const.e(b−(1/4a ))λ . This gives the result.

References [1] S. C. Bagchi and S. K. Ray, Uncertainty principles like Hardy’s theorem on some Lie groups, J. Austral. Math. Soc. Series A, 65, 1999, pp. 289–302. [2] S. Ben Farah, K. Mokni and K. Trim`eche, An Lp -Lq version of Hardy’s theorem for spherical Fourier transform on semi-simple Lie groups, to appear in International J. of Math and Mathematical Sciences. [3] M. G. Cowling and J. F. Price, Generalizations of Heisenberg’s inequality, Lecture Notes in Math. 992, Springer, Berlin, 1983 pp. 443–449. [4] J. Cygan, Subadditivity of homogeneous norms on certain nilpotent Lie groups, Proc. Amer. Math. Soc. Vol. 83, 1981, pp. 69-70. [5] M. Eguchi, S. Koizumi and K. Kumahara, An Lp version of the Hardy theorem for motion groups, J. Austral. Math. Soc. Series A, 68, 2000, pp 55-67.

New Proof of Cowling-Price Lemma and Application

157

[6] L. Gallardo and K. Trim`eche, Un analogue d’un th´eor`eme de Hardy pour la transformation de Dunkl , C. R. Acad. Sci. Paris, S´erie I, 334, 2002, pp 849-854. [7] G. H. Hardy, A theorem concerning Fourier transforms, J. London Math. Soc. 8, 1933, pp. 227–231. [8] V. Havin and B. J¨oricke, The uncertainty principle in harmonic analysis, A Series of Modern Surveys in Mathematics 28. Springer-Verlag Berlin Heidelberg, 1994. [9] E. Kaniuth and K. Kumar, Hardy’stheorem for simply connected nilpotent Lie groups, Proc. Cambridge Philo. Soc., 131, 2001, pp. 487-494. [10] A. Koranyi, Geometric properties of Heisenberg type groups, Adv. Math 56 (1985), pp. 28-38. [11] E. K. Narayanan and S. K. Ray, Lp version of Hardy’s theorem on semi-simple Lie groups Proc. Amer. Math. Soc. Vol. 130 6, 2002, pp. 1859-1866. [12] J. Sengupta, The uncertainty principle on reimannian symmetric spaces of the noncompact type, Proc. Amer. Math. Soc., Vol. 130, 4, 2002, pp. 1009-1017. [13] A. Sitaram and M. Sundari, An analogue of Hardy’s theorem for very rapidly decreasing functions on semi-simple Lie groups, Pacific J. Math., 177, 1997, pp. 187-200.

INDEX

A Algeria, 1 alternative(s), vii, 9, 10, 20, 21, 76 AN, 63 argument, 26, 32, 125 arithmetic, 114, 115, 116 attention, viii, 89, 150 aura, 55, 57, 60, 61

B biometry, 10 boundary value problem, vii Brazil, 9, 51

C calculus, 72, 85 Canada, 147 Chern-Levine-Nirenberg inequality, viii, 51 classes, vii, 9, 10, 17, 18, 19, 20, 38, 153 closure, 15, 31, 77, 82, 150 complex numbers, 4, 5 complexity, 112 components, 153 Congress, 114 conjecture, 39, 41, 42, 48, 52, 89, 90, 94, 97, 98, 101, 102, 103, 105, 108, 110, 112, 113 conservation, 120, 121 continuity, 25, 26, 148 control, 31 convergence, 60, 118, 119, 120, 121, 123, 125, 128, 129, 135, 136, 137, 139 covering, 26 cycles, 109

D data set, 10, 19 decay, 153 decomposition, 48 definition, vii, 7, 23, 29, 150 degenerate, 11 density, 11, 64 derivatives, 12, 16, 64, 75, 152 deviation, 15 differential equations, vii, 1, 87, 147 discrete data, 11 discrete random variable, 13 dispersion, vii, 9, 10, 11, 15 distribution, vii, 9, 10, 12, 13, 14, 15, 16, 17, 20, 21, 72, 84, 98, 118, 141, 142, 143

E economics, 8 equality, 24, 32 evidence, 26 exponential dispersion, vii, 9, 11 exponential dispersion models, vii, 9

F family, 9, 10, 11, 12, 15, 18, 21 filtration, 145 Finland, 147 fitness, 10 Fourier, 63, 64, 65, 66, 69, 70, 87, 119, 123, 133, 134, 135, 136, 140, 141, 143, 144, 148, 149, 153, 156, 157 France, 9, 112, 114 functional analysis, 81

160

Index

G Gaussian, 10, 13, 14, 19, 20, 21 generation, 2 genre, 96, 107 Germany, 19 grants, 9, 51 groups, 47, 48, 49, 64, 70, 113, 114, 115, 146, 147, 148, 150, 156, 157

H Hardy’s theorem, viii, 70, 87, 149, 150, 153, 156, 157 HD, 10, 17, 18 heterogeneity, 10 Hilbert space, 153 hypothesis, 32, 35, 68

I identification, 10 identity, 28, 64 inclusion, 34 independence, 113, 115 indication, 119 indices, 33, 45 induction, 77 industry, 8 inequality, viii, 26, 30, 31, 35, 51, 67, 68, 152, 154, 155, 156 infinite, 105, 112 insurance, 10, 19 integration, 84 interpretation, 16 interval, 16 invariants, vii, 37, 38, 41, 45, 48, 49, 121 inversion, viii, 66, 71, 72, 75, 84 involution, 64 Iran, 112 Italy, 1

J Jacobi-Dunkl transform, viii, 71, 72, 75, 76, 82, 83, 84, 85, 87 Japan, 39, 48 Jordan, 44, 45, 47

K kernel, 72, 73

L laws, 10, 21 Lie group, 47, 48, 49, 147, 148, 150, 152, 156, 157 life sciences, 8 likelihood, 19 linear model, 11 lying, vii, 1, 4, 5

M manifolds, 30, 62 mapping, 64, 77, 85, 155 marches, 117, 146 marketing, 10 mathematics, vii matrix, 2, 23, 29 measures, 11, 64, 147, 148 mixing, vii, 9, 10, 17 models, vii, 9, 10, 11, 15, 18, 19 modules, 110, 111, 112, 114 MongeAmpere current, vii, 23 Moscow, 116 motion, 156 motives, 115 multiples, 89, 102, 112 multiplication, 152 multiplicity, 48 multiplier, 118

N New York, 8, 20, 87 normal distribution, 14

O operator(s), 2, 3, 4, 5, 6, 7, 8, 35, 62, 65, 71, 72, 85, 87, 147, 153, 155

P Pacific, 48, 157 parameter, vii, 1, 10, 11, 12, 14, 15, 17, 18, 19 Paris, 20, 21, 35, 48, 49, 62, 89, 112, 114, 115, 148, 157 partial differential equations, 87

Index physics, 8 Poincaré, 146 Poisson distribution, vii, 9, 10, 12, 13, 14, 15, 17 polynomials, 77, 146, 147, 148 population, 10 power, 12 probability, 10, 11, 15, 18, 21, 65 proposition, 15, 17, 28, 29, 31, 32, 34, 54, 57, 60, 73, 83

R random walk, 146, 147, 148 real numbers, 26 recall, 65, 72 reciprocity, 49 reduction, 26 regression, vii, 9, 10, 18, 19, 20

S SA, 10, 11 sample, 10, 19 sample mean, 10, 19 sample variance, 10, 19 semigroup, 16 series, 114 SES, 51 shape, 13 sign, 23, 67, 82 simulation, 19 smoothness, viii, 71, 72 solitons, 112 spin, 147 standard deviation, 15

161

statistical inference, 19

T Taiwan, 112 theory, 35, 47, 48, 62, 72, 113, 114, 115, 116, 147 time, 16 Tokyo, 62 topology, 28, 29, 31, 34, 74, 75, 76, 77, 85, 86 tradition, 120 tranches, 35, 52, 53, 60, 61, 62 transcendence, 113, 115 transformation, 119, 133, 135, 141, 157 transition, 122, 138 translation, 38

U uncertainty, 157 uniform, 25

V values, 29, 112, 113, 114, 115 variable(s), 13, 16, 18, 20, 62, 77, 91, 93, 107, 111, 117, 118, 119, 120, 121, 123, 124, 125, 126, 127, 130, 131, 132, 137, 138, 139, 141, 142, 143, 144, 152, 154 variance, vii, 9, 10, 12, 14, 16, 17, 18, 19, 20, 118, 123, 133, 138, 139 variation, 53, 81 vector, 18, 30 Ventcel type, vii, 1