Klenke Wahrscheinlichkeitstheorie
Achim Klenke
Wahrscheinlichkeitstheorie Mit 34 Abbildungen
123
Prof. Dr. Achim Klenke Institut für Mathematik Johannes Gutenberg-Universität Mainz Staudingerweg 9 55099 Mainz, Deutschland e-mail:
[email protected]
Bibliografische Information der Deutschen Bibliothek Die Deutsche Bibliothek verzeichnet diese Publikation in der Deutschen Nationalbibliografie; detaillierte bibliografische Daten sind im Internet über http://dnb.ddb.de abrufbar.
Mathematics Subject Classification (2000): 60-01, 28-01, 60G05, 60J10, 60H05
ISBN-10 3-540-25545-1 Springer Berlin Heidelberg New York ISBN-13 978-3-540-25545-1 Springer Berlin Heidelberg New York Dieses Werk ist urheberrechtlich geschützt. Die dadurch begründeten Rechte, insbesondere die der Übersetzung, des Nachdrucks, des Vortrags, der Entnahme von Abbildungen und Tabellen, der Funksendung, der Mikroverfilmung oder der Vervielfältigung auf anderen Wegen und der Speicherung in Datenverarbeitungsanlagen, bleiben, auch bei nur auszugsweiser Verwertung, vorbehalten. Eine Vervielfältigung dieses Werkes oder von Teilen dieses Werkes ist auch im Einzelfall nur in den Grenzen der gesetzlichen Bestimmungen des Urheberrechtsgesetzes der Bundesrepublik Deutschland vom 9. September 1965 in der jeweils geltenden Fassung zulässig. Sie ist grundsätzlich vergütungspflichtig. Zuwiderhandlungen unterliegen den Strafbestimmungen des Urheberrechtsgesetzes. Springer ist ein Unternehmen von Springer Science+Business Media springer.de © Springer-Verlag Berlin Heidelberg 2006 Printed in Germany Die Wiedergabe von Gebrauchsnamen, Handelsnamen, Warenbezeichnungen usw. in diesem Werk berechtigt auch ohne besondere Kennzeichnung nicht zu der Annahme, daß solche Namen im Sinne der Warenzeichen- und Markenschutz-Gesetzgebung als frei zu betrachten wären und daher von jedermann benutzt werden dürften. Text und Abbildungen wurden mit größter Sorgfalt erarbeitet. Verlag und Autor können jedoch für eventuell verbliebene fehlerhafte Angaben und deren Folgen weder eine juristische Verantwortung noch irgendeine Haftung übernehmen. Umschlaggestaltung: design & production GmbH, Heidelberg Herstellung: LE-TEX Jelonek, Schmidt & Vöckler GbR, Leipzig Satz: Datenerstellung durch den Autor unter Verwendung eines Springer TEX-Makropakets Gedruckt auf säurefreiem Papier 44/3100YL - 5 4 3 2 1 0
Vorwort
Das vorliegende Buch basiert auf den vierst¨undigen Vorlesungen Stochastik I und Stochastik II, die ich in den vergangenen Jahren an der Universit¨at zu K¨oln und an der Johannes Gutenberg-Universit¨at in Mainz gehalten habe, und die an eine Vorlesung u¨ ber elementare Stochastik anschließen. Eine gewisse Vertrautheit mit den Ideen der elementaren Stochastik wird zwar nicht formal vorausgesetzt, dem Leser jedoch empfohlen. Ziel dieses Buches ist es, die zentralen Objekte und Konzepte der Wahrscheinlichkeitstheorie vorzustellen: Zufallsvariablen, Unabh¨angigkeit, Gesetze der großen Zahl und zentrale Grenzwerts¨atze, Martingale, Austauschbarkeit und unbegrenzte Teilbarkeit, Markovketten und -prozesse sowie den Zusammenhang mit der diskreten Potentialtheorie, Kopplung, Ergodentheorie, die Brown’sche Bewegung und das Itˆo-Integral (nebst stochastischen Differentialgleichungen), den Poisson’schen Punktprozess, Perkolation und die Theorie der großen Abweichungen, sowie stochastische Differentialgleichungen. Die Maß- und Integrationstheorie wird entwickelt, soweit sie f¨ur das Verst¨andnis und die Formulierung der Wahrscheinlichkeitstheorie notwendig ist: Konstruktion von Maßen und Integralen, Satz von Radon-Nikodym und regul¨are bedingte Verteilungen, Konvergenzs¨atze f¨ur Funktionen (Lebesgue) und Maße (Prohorov) und Konstruktion von Maßen in Produktr¨aumen. Die einzelnen maßtheoretischen Kapitel kommen nicht als Block am Anfang des Buches, obwohl sie so geschrieben sind, dass das m¨oglich w¨are, n¨amlich unabh¨angig von den wahrscheinlichkeitstheoretischen Kapiteln, sondern abwechselnd mit wahrscheinlichkeitstheoretischen Kapiteln, die so gebaut sind, dass sie mit den gerade zur Verf¨ugung stehenden Begriffen auskommen (beispielsweise kann man Perkolation studieren, ohne einen Integralbegriff an der Hand zu haben). Als einzige Ausnahme wird die systematische Konstruktion von unabh¨angigen Zufallsvariablen erst im 14ten Kapitel nachgeliefert. Ich verspreche mir von diesem Vorgehen eine Auflockerung des maßtheoretischen Stoffes, der von manchen als etwas trocken empfunden wird. Letztlich ist dieses genauso eine Geschmacksfrage wie diejenige, welches der beiden Themen als linke und welches als rechte Hand anzusehen ist. Wer eine maßtheoretische Grundbildung hat, kann insbesondere das erste Kapitel beim ersten Lesen zun¨achst u¨ berspringen und braucht eventuell nur Einzelnes darin nachzuschlagen. Das Gleiche gilt f¨ur das vierte Kapitel (Integrationstheorie).
VI
Vorwort
In den ersten acht Kapiteln wird das Fundament gelegt, das in allen weiteren Kapiteln ben¨otigt wird. Danach k¨onnen die sieben inhaltlichen Einheiten von Kapitel 9–12, 13, 14, 15–16, 17–19, 20, und 23 einigermaßen unabh¨angig voneinander gelesen werden. Das Kapitel zur Brown’schen Bewegung (21) greift auf die Kapitel 9–15 zur¨uck. Danach sind unabh¨angig voneinander die Bl¨ocke 22, 24 und 25–26 lesbar. Ich danke all denjenigen, die das Manuskript gelesen und zahlreiche Verbesserungsvorschl¨age und Korrekturen angebracht haben: Den Mitarbeitern und Studenten Roland Alkemper, Dirk Br¨uggemann, Anne Eisenb¨urger, Ortwin Lorenz, Mario Oeler, Marcus Sch¨olpen, den Kollegen Wolfgang B¨uhler und Wolfgang K¨onig sowie besonders dem M¨unchener Kollegen Hans-Otto Georgii. F¨ur weitere Hinweise auf Fehler unter
[email protected] w¨are ich dankbar. Außerdem m¨ochte ich mich beim Springer-Verlag f¨ur die gute Zusammenarbeit bedanken.
Mainz, November 2005
Achim Klenke
Inhaltsverzeichnis
1
Grundlagen der Maßtheorie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
1
1.1
Mengensysteme . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
1
1.2
Mengenfunktionen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11
1.3 Fortsetzung von Maßen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17
2
3
1.4
Messbare Abbildungen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 33
1.5
Zufallsvariablen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 42
Unabh¨angigkeit . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 47 2.1
Unabh¨angigkeit von Ereignissen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 47
2.2
Unabh¨angigkeit von Zufallsvariablen . . . . . . . . . . . . . . . . . . . . . . . . . . 54
2.3
Kolmogorov’sches 0-1 Gesetz . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 61
2.4
Beispiel: Perkolation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 64
Erzeugendenfunktion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 75 3.1 Definition und Beispiele . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 75
4
3.2
Poisson-Approximation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 78
3.3
Verzweigungsprozesse . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 80
Das Integral . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 83 4.1 Konstruktion und einfache Eigenschaften . . . . . . . . . . . . . . . . . . . . . . 83
5
4.2
Monotone Konvergenz und Lemma von Fatou . . . . . . . . . . . . . . . . . . 91
4.3
Lebesgue-Integral versus Riemann-Integral . . . . . . . . . . . . . . . . . . . . . 93
Momente und Gesetze der Großen Zahl . . . . . . . . . . . . . . . . . . . . . . . . . 97 5.1 Momente . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 97 5.2
Schwaches Gesetz der Großen Zahl . . . . . . . . . . . . . . . . . . . . . . . . . . . 104
VIII
Inhaltsverzeichnis
5.3 Starkes Gesetz der Großen Zahl . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 107 5.4 Konvergenzrate im starken GGZ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 115 5.5 6
7
Der Poissonprozess . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 118
Konvergenzs¨atze . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 125 6.1
Fast-¨uberall- und stochastische Konvergenz . . . . . . . . . . . . . . . . . . . . . 125
6.2
Gleichgradige Integrierbarkeit . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 130
6.3
Vertauschung von Integral und Ableitung . . . . . . . . . . . . . . . . . . . . . . . 136
Lp -R¨aume und Satz von Radon-Nikodym . . . . . . . . . . . . . . . . . . . . . . . 139 7.1 Definitionen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 139
8
9
7.2
Ungleichungen und Satz von Fischer-Riesz . . . . . . . . . . . . . . . . . . . . . 141
7.3
Hilbertr¨aume . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 147
7.4
Lebesgue’scher Zerlegungssatz . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 150
7.5
Erg¨anzung: Signierte Maße . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 154
7.6
Erg¨anzung: Dualr¨aume . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 160
Bedingte Erwartungen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 165 8.1
Elementare bedingte Wahrscheinlichkeiten . . . . . . . . . . . . . . . . . . . . . 165
8.2
Bedingte Erwartungen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 168
8.3
Regul¨are Version der bedingten Verteilung . . . . . . . . . . . . . . . . . . . . . 175
Martingale . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 183 9.1
Prozesse, Filtrationen, Stoppzeiten . . . . . . . . . . . . . . . . . . . . . . . . . . . . 183
9.2 Martingale . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 188
10
9.3
Diskretes stochastisches Integral . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 192
9.4
Diskreter Martingaldarstellungssatz und CRR Modell . . . . . . . . . . . . 194
Optional Sampling S¨atze . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 199 10.1 Doob-Zerlegung und quadratische Variation . . . . . . . . . . . . . . . . . . . . 199 10.2 Optional Sampling und Optional Stopping . . . . . . . . . . . . . . . . . . . . . . 203 10.3 Gleichgradige Integrierbarkeit und Optional Sampling . . . . . . . . . . . . 207
11
Martingalkonvergenzs¨atze und Anwendungen . . . . . . . . . . . . . . . . . . . 209
Inhaltsverzeichnis
IX
11.1 Die Doob’sche Ungleichung . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 209 11.2 Martingalkonvergenzs¨atze . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 211 11.3 Beispiel: Verzweigungsprozess . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 219 12
¨ Ruckw¨ artsmartingale und Austauschbarkeit . . . . . . . . . . . . . . . . . . . . . 221 12.1 Austauschbare Familien von Zufallsvariablen . . . . . . . . . . . . . . . . . . . 221 12.2 R¨uckw¨artsmartingale . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 226 12.3 Satz von de Finetti . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 228
13
Konvergenz von Maßen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 233 13.1 Wiederholung Topologie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 233 13.2 Schwache und vage Konvergenz . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 240 13.3 Der Satz von Prohorov . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 248 13.4 Anwendung: Satz von de Finetti – anders angeschaut . . . . . . . . . . . . . 257
14
W-Maße auf Produktr¨aumen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 259 14.1 Produktr¨aume . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 260 ¨ 14.2 Endliche Produkte und Ubergangskerne . . . . . . . . . . . . . . . . . . . . . . . . 263 14.3 Satz von Ionescu-Tulcea und Projektive Familien . . . . . . . . . . . . . . . . 272 14.4 Markov’sche Halbgruppen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 276
15
Charakteristische Funktion und Zentraler Grenzwertsatz . . . . . . . . . 281 15.1 Trennende Funktionenklassen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 281 15.2 Charakteristische Funktionen: Beispiele . . . . . . . . . . . . . . . . . . . . . . . . 288 15.3 Der L´evy’sche Stetigkeitssatz . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 294 15.4 Charakteristische Funktion und Momente . . . . . . . . . . . . . . . . . . . . . . 299 15.5 Der Zentrale Grenzwertsatz . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 304 15.6 Mehrdimensionaler Zentraler Grenzwertsatz . . . . . . . . . . . . . . . . . . . . 312
16
Unbegrenzt teilbare Verteilungen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 315 16.1 Die L´evy-Khinchin Formel . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 315 16.2 Stabile Verteilungen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 327
17
Markovketten . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 333
X
Inhaltsverzeichnis
17.1 Begriffsbildung und Konstruktion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 333 17.2 Diskrete Markovketten, Beispiele . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 340 17.3 Diskrete Markovprozesse in stetiger Zeit . . . . . . . . . . . . . . . . . . . . . . . 344 17.4 Diskrete Markovketten, Rekurrenz und Transienz . . . . . . . . . . . . . . . . 349 17.5 Anwendung: Rekurrenz und Transienz von Irrfahrten . . . . . . . . . . . . 353 17.6 Invariante Verteilungen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 360 18
Konvergenz von Markovketten . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 365 18.1 Periodizit¨at von Markovketten . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 365 18.2 Kopplung und Konvergenzsatz . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 369 18.3 Markovketten Monte Carlo Methode . . . . . . . . . . . . . . . . . . . . . . . . . . 376 18.4 Konvergenzgeschwindigkeit . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 383
19
Markovketten und elektrische Netzwerke . . . . . . . . . . . . . . . . . . . . . . . 389 19.1 Harmonische Funktionen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 389 19.2 Reversible Markovketten . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 392 19.3 Elektrische Netzwerke . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 393 19.4 Rekurrenz und Transienz . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 399 19.5 Netzwerkreduktion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 405 19.6 Irrfahrt in zuf¨alliger Umgebung . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 412
20
Ergodentheorie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 415 20.1 Begriffsbildung . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 415 20.2 Ergodens¨atze . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 418 20.3 Beispiele . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 421 20.4 Anwendung: Rekurrenz von Irrfahrten . . . . . . . . . . . . . . . . . . . . . . . . . 423 20.5 Mischung . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 426
21
Die Brown’sche Bewegung . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 429 21.1 Stetige Modifikationen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 429 21.2 Konstruktion und Pfadeigenschaften . . . . . . . . . . . . . . . . . . . . . . . . . . . 436 21.3 Starke Markoveigenschaft . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 441 21.4 Erg¨anzung: Feller Prozesse . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 444
Inhaltsverzeichnis
XI
21.5 Konstruktion durch L2 -Approximation . . . . . . . . . . . . . . . . . . . . . . . . 447 21.6 Der Raum C([0, ∞)) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 451
21.7 Konvergenz von W-Maßen auf C([0, ∞)) . . . . . . . . . . . . . . . . . . . . . . 453
21.8 Satz von Donsker . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 456
21.9 Pfadweise Konvergenz von Verzweigungsprozessen∗ . . . . . . . . . . . . . 460 21.10Quadratische Variation und lokale Martingale . . . . . . . . . . . . . . . . . . . 465 22
Gesetz vom iterierten Logarithmus . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 477 22.1 Iterierter Logarithmus f¨ur die Brown’sche Bewegung . . . . . . . . . . . . . 477 22.2 Skorohod’scher Einbettungssatz . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 480 22.3 Satz von Hartman-Wintner . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 486
23
Große Abweichungen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 489 23.1 Satz von Cram´er . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 490 23.2 Prinzip der großen Abweichungen . . . . . . . . . . . . . . . . . . . . . . . . . . . . 494 23.3 Satz von Sanov . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 498 23.4 Varadhan’sches Lemma und Freie Energie . . . . . . . . . . . . . . . . . . . . . . 502
24
Der Poisson’sche Punktprozess . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 509 24.1 Zuf¨allige Maße . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 509 24.2 Eigenschaften des Poisson’schen Punktprozesses . . . . . . . . . . . . . . . . 513 24.3 Die Poisson-Dirichlet-Verteilung∗ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 519
25
Das Itˆo-Integral . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 527 25.1 Das Itˆo-Integral bez¨uglich der Brown’schen Bewegung . . . . . . . . . . . 527 25.2 Itˆo-Integral bez¨uglich Diffusionen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 535 25.3 Die Itˆo-Formel . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 538 25.4 Dirichlet-Problem und Brown’sche Bewegung . . . . . . . . . . . . . . . . . . 546 25.5 Rekurrenz und Transienz der Brown’schen Bewegung . . . . . . . . . . . . 548
26
Stochastische Differentialgleichungen . . . . . . . . . . . . . . . . . . . . . . . . . . 551 26.1 Starke L¨osungen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 551 26.2 Schwache L¨osungen und Martingalproblem . . . . . . . . . . . . . . . . . . . . 560 26.3 Eindeutigkeit schwacher L¨osungen via Dualit¨at . . . . . . . . . . . . . . . . . 567
XII
Inhaltsverzeichnis
Literatur . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 575 Notation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 583 ¨ Glossar englischer Ausdrucke . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 587 Namensregister . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 589 Sachregister . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 593
1 Grundlagen der Maßtheorie
In diesem Kapitel f¨uhren wir die Mengensysteme ein, die eine systematische Betrachtung von Ereignissen und zuf¨alligen Beobachtungen in der Wahrscheinlichkeitstheorie erlauben. Ferner sollen Maße, insbesondere Wahrscheinlichkeitsmaße, auf solchen Mengensystemen konstruiert werden. Schließlich werden wir Zufallsvariablen als messbare Abbildungen definieren.
1.1 Mengensysteme Im Folgenden ist stets Ω = ∅ eine Menge und A ⊂ 2Ω (Potenzmenge von Ω) eine Familie von Teilmengen. Sp¨ater wird die Menge Ω als Raum von Elementarereignissen interpretiert werden und A als ein System von beobachtbaren Ereignissen. Wir wollen in diesem Abschnitt Mengensysteme, die abgeschlossen sind unter einfachen mengentheoretischen Verkn¨upfungen, mit Namen versehen und einfache Beziehungen zwischen solchen Systemen herstellen. Definition 1.1. Das Mengensystem A heißt – ∩-stabil (sprich: schnittstabil) oder ein π-System, falls f¨ur je zwei Mengen A, B ∈ A gilt, dass auch A ∩ B ∈ A,
– σ-∩-stabil (sigma-schnittstabil), falls f¨ur je abz¨ahlbar unendlich viele Mengen ∞ An ∈ A, A1 , A2 , . . . ∈ A gilt, dass auch n=1
– ∪-stabil (vereinigungsstabil), falls f¨ur je zwei Mengen A, B ∈ A gilt, dass auch A ∪ B ∈ A,
– σ-∪-stabil (sigma-vereinigungsstabil), falls f¨ur je abz¨ahlbar unendlich viele Men∞ An ∈ A, gen A1 , A2 , . . . ∈ A gilt, dass auch n=1
– \-stabil (differenzmengenstabil), falls f¨ur je zwei Mengen A, B ∈ A gilt, dass auch A \ B ∈ A,
– komplementstabil, falls mit jeder Menge A ∈ A auch Ac := Ω \ A ∈ A gilt.
2
1 Grundlagen der Maßtheorie
Definition 1.2 (σ-Algebra). Ein Mengensystem A ⊂ 2Ω heißt σ-Algebra, falls die folgenden drei Bedingungen erf¨ullt sind. (i) Ω ∈ A,
(ii) A ist komplementstabil,
(iii) A ist σ-∪-stabil.
σ-Algebren sind die nat¨urlichen Mengensysteme f¨ur zuf¨allige Ereignisse, denn wie wir sehen werden, k¨onnen wir diesen Ereignissen in konsistenter Weise Wahrscheinlichkeiten zuordnen. ¨ Satz 1.3. Ist A komplementstabil, so gelten die beiden folgenden Aquivalenzen. A ist ∩ -stabil
⇐⇒
A ist ∪ -stabil,
A ist σ- ∩ -stabil
⇐⇒
A ist σ- ∪ -stabil.
Beweis. Dies folgt direkt aus den de Morgan’schen Regeln (Erinnerung: ( Ai )c = c Ai ). Ist beispielsweise A σ-∩-stabil und sind A1 , A2 , . . . ∈ A, so ist auch ∞ c ∞ c An = An ∈ A. n=1
n=1
Also ist A auch σ-∪-stabil. Die anderen F¨alle folgen analog.
2
Satz 1.4. Ist A \-stabil, so gelten die folgenden Aussagen. (i) A ist ∩-stabil.
(ii) Falls A σ-∪-stabil ist, dann ist A auch σ-∩-stabil.
(iii) Jede abz¨ahlbare (beziehungsweise endliche) Vereinigung von Mengen aus A l¨asst sich als abz¨ahlbare (beziehungsweise endliche), disjunkte Vereinigung von Mengen in A schreiben. Beweis. (i) Seien A, B ∈ A. Dann ist auch A ∩ B = A \ (A \ B) ∈ A. (ii) Seien A1 , A2 , . . . ∈ A. Dann ist ∞
n=1
An =
∞
(A1 ∩ An ) =
n=2
∞
n=2
A1 \ (A1 \ An ) = A1 \
(iii) Seien A1 , A2 , . . . ∈ A. Dann ist gung in A darstellbar durch
∞
n=1
∞
(A1 \ An ) ∈ A.
n=2
An als abz¨ahlbare, disjunkte Vereini-
1.1 Mengensysteme ∞
n=1
3
An = A1 ⊎ (A2 \ A1 ) ⊎ ((A3 \ A1 ) \ A2 ) ⊎ (((A4 \ A1 ) \ A2 ) \ A3 ) ⊎ . . . 2
Bemerkung 1.5. Manchmal bezeichnen wir, wie imobigen Beweis, die Vereinigung paarweise disjunkter Mengen mit dem Symbol . Dies soll lediglich der optischen Verdeutlichung dienen und ist keine neue Verkn¨upfung. 3 Definition 1.6. Ein Mengensystem A ⊂ 2Ω heißt Algebra, falls gilt: (i) Ω ∈ A,
(ii) A ist \-stabil,
(iii) A ist ∪-stabil. Offenbar ist in einer Algebra stets ∅ = Ω \ Ω enthalten. Diese Eigenschaft ist im Allgemeinen jedoch schw¨acher als (i) in Definition 1.6. Satz 1.7. Ein Mengensystem A ⊂ 2Ω ist genau dann eine Algebra, wenn es folgende drei Eigenschaften hat: (i) Ω ∈ A,
(ii) A ist komplementstabil,
(iii) A ist ∩-stabil. ¨ Beweis. Ubung!
2
Definition 1.8. Ein Mengensystem A ⊂ 2Ω heißt Ring, falls gilt: (i) ∅ ∈ A,
(ii) A ist \-stabil,
(iii) A ist ∪-stabil. Ein Ring heißt σ-Ring, falls er σ-∪-stabil ist. Definition 1.9. Ein Mengensystem A ⊂ 2Ω heißt Semiring (oder Halbring), falls gilt: (i) ∅ ∈ A,
(ii) f¨ur je zwei Mengen A, B ∈ A ist B \ A endliche Vereinigung von paarweise disjunkten Mengen aus A,
(iii) A ist ∩-stabil.
4
1 Grundlagen der Maßtheorie
Definition 1.10. Ein Mengensystem A ⊂ 2Ω heißt Dynkin-System (oder λ-System), falls gilt: (i) Ω ∈ A,
(ii) f¨ur je zwei Mengen A, B ∈ A mit A ⊂ B ist B \ A ∈ A,
(iii) f¨ ur je abz¨ahlbar viele, paarweise disjunkte Mengen A1 , A2 , . . . ∈ A gilt ∞ n=1 An ∈ A.
Beispiele 1.11. (i) Ist Ω eine beliebige nichtleere Menge, so sind A = {∅, Ω} und A = 2Ω die trivialen Beispiele f¨ur Algebren, σ-Algebren und Dynkin-Systeme. Hingegen sind A = {∅} und A = 2Ω die trivialen Beispiele f¨ur Semiringe, Ringe und σ-Ringe. (ii) Sei Ω = R. Dann ist A = {A ⊂ R : A ist abz¨ahlbar} ein σ-Ring. (iii) A = {(a, b] : a, b ∈ R, a ≤ b} ist ein Semiring u¨ ber Ω = R (aber kein Ring). (iv) Die Menge endlicher Vereinigungen von beschr¨ankten Intervallen ist ein Ring u¨ ber Ω = R (aber keine Algebra). (v) Die Menge endlicher Vereinigungen beliebiger (auch unbeschr¨ankter) Intervalle ist eine Algebra u¨ ber Ω = R (aber keine σ-Algebra). (vi) Sei E eine endliche, nichtleere Menge und Ω := E N die Menge aller Folgen ω = (ωn )n∈N mit Werten in E. F¨ur ω1 , . . . , ωn ∈ E sei [ω1 , . . . , ωn ] := {ω ′ ∈ Ω : ωi′ = ωi f¨ur jedes i = 1, . . . , n}
die Menge aller Folgen, die mit den Werten ω1 , . . . , ωn beginnen. Sei A0 = {∅}. F¨ur n ∈ N setze Dann ist A :=
∞
An := {[ω1 , . . . , ωn ] : ω1 , . . . , ωn ∈ E}.
n=0
(1.1)
An ein Semiring, aber kein Ring (falls #E > 1).
(vii) Sei Ω eine beliebige nichtleere Menge. Dann ist A := {A ⊂ Ω : A oder Ac ist endlich} eine Algebra. Ist #Ω = ∞, so ist A jedoch keine σ-Algebra. (viii) Sei Ω eine beliebige nichtleere Menge. Dann ist A := {A ⊂ Ω : A oder Ac ist abz¨ahlbar} eine σ-Algebra. (ix) Jede σ-Algebra ist auch ein Dynkin-System.
(x) Sei Ω = {1, 2, 3, 4} und A = ∅, {1, 2}, {1, 4}, {2, 3}, {3, 4}, {1, 2, 3, 4} . Dann ist A ein Dynkin-System, aber keine Algebra. 3
1.1 Mengensysteme
5
Satz 1.12 (Inklusionen zwischen Mengensystemen). (i) Jede σ-Algebra ist ein Dynkin-System, eine Algebra und ein σ-Ring. (ii) Jeder σ-Ring ist ein Ring, jeder Ring ein Semiring. (iii) Jede Algebra ist auch ein Ring. Eine Algebra auf einer endlichen Menge Ω ist auch eine σ-Algebra. Beweis. (i) Das ist klar. (ii) Sei A ein Ring. Nach Satz 1.4 ist A schnittstabil und damit ein Semiring. (iii) Sei A eine Algebra, und seien A, B ∈ A. Dann ist A \ B = (Ac ∪ B)c ∈ A, also ist A ein Ring. Ist zudem Ω endlich, so ist A endlich und damit jede abz¨ahlbare Vereinigung in A schon eine endliche Vereinigung. 2 Definition 1.13 (liminf und limsup). Es seien A1 , A2 , . . . Teilmengen von Ω. Dann heißen ∞ ∞ ∞ ∞ Am und lim sup An := Am lim inf An := n→∞
n→∞
n=1 m=n
n=1 m=n
Limes inferior beziehungsweise Limes superior der Folge (An )n∈N . Bemerkung 1.14. (i) Es gilt
lim inf An = ω ∈ Ω : #{n ∈ N : ω ∈ An } < ∞ , n→∞
lim sup An = ω ∈ Ω : #{n ∈ N : ω ∈ An } = ∞ . n→∞
Der Limes inferior ist also das Ereignis, dass schließlich alle der An eintreten, der Limes superior hingegen das Ereignis, dass unendlich viele der An eintreten. Insbesondere ist A∗ := lim inf n→∞ An ⊂ A∗ := lim supn→∞ An .
(ii) Bezeichnen wir mit A (x)
:=
1, 0,
falls x ∈ A, falls x ∈ A,
(1.2)
die Indikatorfunktion auf der Menge A, so gilt A∗
= lim inf n→∞
An ,
A∗
= lim sup n→∞
An .
(iii) Ist A ⊂ 2Ω eine σ-Algebra und An ∈ A f¨ur jedes n ∈ N, so ist A∗ ∈ A und 3 A∗ ∈ A. ¨ Beweis. Ubung!
2
6
1 Grundlagen der Maßtheorie
Satz 1.15 (Schnitt von Mengensystemen). Ist I eine beliebige Indexmenge und Ai eine σ-Algebra f¨ur jedes i ∈ I, so ist
AI := A ⊂ Ω : A ∈ Ai f¨ur jedes i ∈ I = Ai i∈I
eine σ-Algebra. Dies gilt analog f¨ur: Ringe, σ-Ringe, Algebren und Dynkin-Systeme; nicht aber f¨ur Semiringe. Beweis. Wir f¨uhren den Beweis hier nur f¨ur σ-Algebren durch. Wir pr¨ufen f¨ur A die Punkte (i)-(iii) aus Definition 1.2. (i) F¨ur jedes i ∈ I ist Ω ∈ Ai . Also ist Ω ∈ A.
(ii) Sei A ∈ A. Dann ist A ∈ Ai f¨ur jedes i ∈ I. Also ist auch Ac ∈ Ai f¨ur jedes i ∈ I. Mithin ist Ac ∈ A.
(iii) Seien A1 , A2 , . . . ∈ A. Dann ist An ∈ Ai f¨ur jedes n ∈ N und jedes i ∈ I. Also ∞ ist auch A := n=1 An ∈ Ai f¨ur jedes i ∈ I und damit A ∈ A. Gegenbeispiel f¨ur Semiringe: Seien Ω = {1, 2, 3, 4}, A1 = {∅, Ω, {1}, {2, 3}, {4}} und A2 = {∅, Ω, {1}, {2}, {3, 4}}. Dann sind A1 und A2 Semiringe, aber A1 ∩ A2 = {∅, Ω, {1}} ist keiner. 2
Satz 1.16 (Erzeugte σ-Algebra). Sei E ⊂ 2Ω . Dann existiert eine kleinste σAlgebra σ(E) mit E ⊂ σ(E): A. σ(E) := A⊂2Ω ist σ-Algebra A⊃E
σ(E) heißt die von E erzeugte σ-Algebra. E heißt Erzeuger von σ(E). Analog wird das von E erzeugte Dynkin-System δ(E) definiert. Beweis. A = 2Ω ist eine σ-Algebra mit E ⊂ A. Also ist der Schnitt nicht leer. Nach Satz 1.15 ist σ(E) eine σ-Algebra, und dies ist offenbar die kleinste σ-Algebra, die E enth¨alt. F¨ur Dynkin-Systeme geht der Beweis genauso. 2 Bemerkung 1.17. Es gelten die folgenden einfachen Aussagen. (i) E ⊂ σ(E).
(ii) Gilt E1 ⊂ E2 , so ist σ(E1 ) ⊂ σ(E2 ).
(iii) A ist genau dann σ-Algebra, wenn σ(A) = A. Die analogen Aussagen gelten f¨ur Dynkin-Systeme. Ferner ist stets δ(E) ⊂ σ(E).3
1.1 Mengensysteme
7
Satz 1.18 (Schnittstabiles Dynkin-System). Ist D ⊂ 2Ω ein Dynkin-System, so gilt D ist ∩-stabil Beweis. ”
=⇒ “
”
⇐= “
⇐⇒
D ist eine σ-Algebra.
Dies ist klar.
Wir pr¨ufen die Eigenschaften (i)-(iii) aus Definition 1.2.
(i) Offensichtlich ist Ω ∈ D.
(ii) (Komplementstabilit¨at) Sei A ∈ D. Da Ω ∈ D gilt, und nach Eigenschaft (ii) des Dynkin-Systems, ist Ac = Ω \ A ∈ D.
(iii) (σ-∪-Stabilit¨at) Seien A, B ∈ D. Nach Voraussetzung ist A ∩ B ∈ D, und es gilt trivialerweise A ∩ B ⊂ A. Also ist A \ B = A \ (A ∩ B) ∈ D. Mithin ist D \-stabil. Seien nun A1 , A2 , . . . ∈ D. Nach Satz 1.4(iii) existieren paarweise ∞ ∞ disjunkte Mengen B1 , B2 , . . . ∈ D mit An = Bn ∈ D. 2 n=1
n=1
Satz 1.19 (Dynkin’scher π–λ–Satz). Sei E ⊂ 2Ω ein ∩-stabiles Mengensystem. Dann gilt σ(E) = δ(E). Beweis. ⊃“ Dies ist klar nach Bemerkung 1.17. ” ⊂“ Zu zeigen ist: δ(E) ist eine σ-Algebra. Nach Satz 1.18 reicht es zu zeigen, ” dass δ(E) ∩-stabil ist. F¨ur B ∈ δ(E) sei DB := {A ∈ δ(E) : A ∩ B ∈ δ(E)}. F¨ur die Schnittstabilit¨at von δ(E) reicht es zu zeigen, dass δ(E) ⊂ DB
f¨ur jedes B ∈ δ(E).
(1.3)
Wir zeigen, dass DE f¨ur jedes E ∈ δ(E) ein Dynkin-System ist, indem wir (i)-(iii) aus Definition 1.10) pr¨ufen: (i) Offenbar ist Ω ∩ E = E ∈ δ(E), also ist Ω ∈ DE .
(ii) F¨ur A, B ∈ DE mit A ⊂ B ist (B \ A) ∩ E = (B ∩ E) \ (A ∩ E) ∈ δ(E).
(iii) Seien A1 , A2 , . . . ∈ DE paarweise disjunkt. Dann ist ∞ ∞ An ∩ E = (An ∩ E) ∈ δ(E). n=1
n=1
8
1 Grundlagen der Maßtheorie
Nach Voraussetzung ist f¨ur A ∈ E auch A ∩ E ∈ E, also ist E ⊂ DE , falls E ∈ E gilt. Nach Bemerkung 1.17(ii) ist daher auch δ(E) ⊂ DE f¨ur E ∈ E. F¨ur B ∈ δ(E) und E ∈ E ist also B ∩ E ∈ δ(E). Mithin gilt E ∈ DB f¨ur jedes B ∈ δ(E), also E ⊂ DB f¨ur jedes B ∈ δ(E), und damit gilt (1.3). 2 Von besonderer Bedeutung sind σ-Algebren, die von Topologien erzeugt werden. Hier wiederum spielt nat¨urlich der euklidische Raum Rn die prominenteste Rolle, aber wir wollen auch den (unendlichdimensionalen) Raum C([0, 1]) der stetigen Funktionen [0, 1] → R im Blick haben. Auf diesem Raum wird durch die Norm f ∞ = supx∈[0,1] |f (x)| eine Topologie erzeugt. Zur Erinnerung bringen wir hier das Axiomensystem der Topologie. Definition 1.20 (Topologie). Sei Ω = ∅ eine beliebige Menge. Ein Mengensystem τ ⊂ Ω heißt Topologie auf Ω, falls folgende drei Eigenschaften gelten. (i) ∅, Ω ∈ τ .
(ii) Sind A, B ∈ τ , so ist auch A ∩ B ∈ τ .
(iii) Ist F ⊂ τ eine beliebige Familie, so ist auch
A∈F
A ∈ τ.
Das Paar (Ω, τ ) heißt dann topologischer Raum. Die Mengen A ∈ τ heißen offen, die Mengen A ⊂ Ω mit Ac ∈ τ heißen abgeschlossen. Anders als bei σ-Algebren sind bei Topologien nur endliche Schnitte, jedoch auch u¨ berabz¨ahlbare Vereinigungen erlaubt. Ist d eine Metrik auf Ω, und bezeichnet Br (x) = {y ∈ Ω : d(x, y) < r} die offene Kugel um x ∈ Ω mit Radius r > 0, so wird eine Topologie erzeugt durch τ= Br (x) : F ⊂ Ω × (0, ∞) . (x,r)∈F
Dies ist das gew¨ohnliche System offener Mengen, das man in den meisten Analysisb¨uchern findet. Definition 1.21 (Borel’sche σ-Algebra). Sei (Ω, τ ) ein topologischer Raum. Die von den offenen Mengen erzeugte σ-Algebra B(Ω) := B(Ω, τ ) := σ(τ ) heißt Borel’sche σ-Algebra auf Ω. Die Elemente A ∈ B(Ω, τ ) heißen Borel’sche Mengen oder Borel-messbare Mengen.
Bemerkung 1.22. Wir sind meistens an B(Rn ) interessiert, wobei wir auf Rn den euklidischen Abstand annehmen:
1.1 Mengensysteme
9
n d(x, y) = x − y2 = (xi − yi )2 . i=1
n
(i) Es gibt Teilmengen von R , die keine Borel’schen Mengen sind. Diese sind kompliziert herzustellen, wie beispielsweise die Vitali-Mengen, die man in Analysisb¨uchern findet (siehe etwa [7]). Wir wollen hier auf diesen Aspekt nicht n¨aher eingehen, sondern lediglich die - mathematisch unpr¨azise - Feststellung treffen, dass jede Menge, die man sich konstruktiv herstellen kann, auch Borel’sch ist. (ii) Jede abgeschlossene Menge C ⊂ Rn ist in B(Rn ), denn es ist C c ∈ τ , also ist C = (C c )c ∈ σ(τ ). Speziell ist {x} ∈ B(Rn ) f¨ur jedes x ∈ Rn . (iii) B(Rn ) ist keine Topologie. Sei n¨amlich V ⊂ Rn , V ∈ B(Rn ). W¨are B(Rn ) eine Topologie, so w¨aren beliebige Vereinigungen Borel’scher Mengen wieder Borel’sch, also auch V = x∈V {x} ∈ B(Rn ). 3
Das Mengensystem der offenen Mengen, das die Borel’sche σ-Algebra erzeugt, ist in vielen F¨allen unhandlich groß. Wir wollen daher andere Mengensysteme als Erzeuger von B(Rn ) identifizieren, mit denen wir in der Praxis besser arbeiten k¨onnen. Hierzu wollen wir einerseits Mengen von einfacher Struktur, Quader etwa, betrachten, andererseits aber auch die Gr¨oße des Systems einschr¨anken, indem wir abz¨ahlbare Mengensysteme betrachten. Wir f¨uhren folgende Notationen ein. Mit Q bezeichnen wir die Menge der rationalen Zahlen, mit Q+ die Menge der strikt positiven rationalen Zahlen. F¨ur a, b ∈ Rn schreiben wir a < b,
falls ai < bi
f¨ur jedes i = 1, . . . , n.
(1.4)
Wir definieren f¨ur a < b den offenen Quader als das kartesische Produkt n
(a, b) :=
×(a , b ) := (a , b ) × (a , b ) × · · · × (a , b ) i
i
1
1
2
2
n
n
(1.5)
i=1
n
und analog [a, b], (a, b] und [a, b). Ferner schreiben wir (−∞, b) := ×i=1 (−∞, bi ) und definieren analog (−∞, b] und so fort. Wir f¨uhren die folgenden Mengensysteme ein: E1 := {A ⊂ Rn : A ist offen},
E3 := {A ⊂ Rn : A ist kompakt}, E5 := {(a, b) : a, b ∈ Qn , a < b}, E7 := {(a, b] : a, b ∈ Qn , a < b}, E9 := {(−∞, b) : b ∈ Qn },
E11 := {(a, ∞) : a ∈ Qn },
E2 := {A ⊂ Rn : A ist abgeschlossen}, E4 := {Br (x) : x ∈ Qn , r ∈ Q+ }, E6 := {[a, b) : a, b ∈ Qn , a < b},
E8 := {[a, b] : a, b ∈ Qn , a < b}, E10 := {(−∞, b] : b ∈ Qn }, E12 := {[a, ∞) : a ∈ Qn }.
Satz 1.23. Die Borel’sche σ-Algebra B(Rn ) wird von jedem der Mengensysteme E1 , . . . , E12 erzeugt: B(Rn ) = σ(Ei ) f¨ur jedes i = 1, . . . , 12.
10
1 Grundlagen der Maßtheorie
Beweis. Wir zeigen nur exemplarisch ein paar der Identit¨aten. (1)
B(Rn ) = σ(E1 ) gilt per Definition.
(2) Sei A ∈ E1 . Dann ist Ac ∈ E2 , also A = (Ac )c ∈ σ(E2 ). Daher gilt E1 ⊂ σ(E2 ) und dann (wegen Bemerkung 1.17) auch σ(E1 ) ⊂ σ(E2 ). Analog folgt aber σ(E2 ) ⊂ σ(E1 ) und damit die Gleichheit. (3) Jede kompakte Menge ist abgeschlossen. Also gilt σ(E3 ) ⊂ σ(E2 ). Sei nun A ∈ E2 . Dann sind die Mengen AK := A ∩ [−K, K]n , K ∈ N, kompakt, also ist ∞ die abz¨ahlbare Vereinigung A = K=1 AK in σ(E3 ). Es gilt also E2 ⊂ σ(E3 ) und damit σ(E2 ) = σ(E3 ). (4) Offenbar ist E4 ⊂ E1 , also σ(E4 ) ⊂ σ(E1 ). Sei nun A ⊂ Rn offen. F¨ur x ∈ A sei R(x) = min(1, sup{r > 0 : Br (x) ⊂ A}). Da A offen ist, folgt R(x) > 0. Sei r(x) ∈ (R(x)/2, R(x)) ∩ Q. F¨ur jedes y ∈ A und x ∈ BR(y)/3 ∩ Qn ist nun 2 1 R(x) ≥ R(y) − x − y2 > 3 R(y), also r(x) > 3 R(y), also y ∈ Br(x) (x). Also ist A = x∈A∩Qn Br(x) (x) eine abz¨ahlbare Vereinigung von Mengen aus E4 und damit in σ(E3 ). Es gilt also auch σ(E1 ) ⊂ σ(E4 ).
¨ (5-12) Ahnliche Aussch¨opfungsargumente wie in (4) funktionieren auch f¨ur die Quader. In (4) k¨onnen statt der offenen Kugeln Br (x) offene Quader genommen werden. So folgt die Gleichheit mit σ(E5 ). Man bemerke beispielsweise, dass n
×
[ai , bi ) =
i=1
∞
n
×
k=1 i=1
ai −
1 , bi ∈ σ(E5 ). k
Die anderen Inklusionen Ei ⊂ σ(Ej ) zeigt man analog.
2
Bemerkung 1.24. Jedes der Mengensystem E1 , E2 , E3 , E5 , . . . , E12 (nicht aber E4 ) ist schnittstabil, mithin ist die Borel’sche σ-Algebra jeweils gleich dem erzeugten Dynkin-System: B(Rn ) = δ(Ei ) f¨ur i = 1, . . . , 12. Die Mengensysteme E4 , . . . , E12 sind zudem abz¨ahlbar. Dies ist eine Eigenschaft, die wir an sp¨aterer Stelle wieder ben¨otigen werden. 3 Definition 1.25 (Spur eines Mengensystems). Es sei A ⊂ 2Ω ein beliebiges System von Teilmengen von Ω und A ∈ 2Ω \ {∅}. Das Mengensystem A := {A ∩ B : B ∈ A} ⊂ 2A (1.6) A
heißt Spur von A auf A, oder Einschr¨ankung von A auf A.
Satz 1.26. Ist A eine σ-Algebra, oder eines der Mengensysteme aus den Definitio nen 1.6 – 1.10 auf Ω, so ist A ein Mengensystem vom selben Typ, allerdings auf A A statt Ω. ¨ Beweis. Ubung!
2
1.2 Mengenfunktionen
11
¨ Ubung 1.1.1. Sei A ein Semiring. Man zeige: Jede abz¨ahlbare (beziehungsweise endliche) Vereinigung von Mengen aus A l¨asst sich als abz¨ahlbare (beziehungsweise endliche), disjunkte Vereinigung von Mengen in A schreiben. ♣ ¨ Ubung 1.1.2. Man zeige durch ein Gegenbeispiel, dass im die Allgemeinen die Vereinigung A ∪ A′ zweier σ-Algebren keine σ-Algebra ist. ♣ ¨ Ubung 1.1.3. Seien (Ω1 , d1 ) und (Ω2 , d2 ) metrische R¨aume, f : Ω1 → Ω2 eine beliebige Abbildung und Uf = x ∈ Ω1 : f ist unstetig in x die Menge der Unstetigkeitsstellen. Man zeige: Uf ∈ B(Ω1 ). Hinweis: Man zeige zun¨achst, dass f¨ur ε > 0 und δ > 0 die Menge
Ufδ,ε := x ∈ Ω1 : es gibt y, z ∈ Bε (x) mit d2 (f (y), f (z)) > δ
(wobei Bε (x) = {y ∈ Ω1 : d1 (x, y) < ε}) offen ist und konstruiere dann Uf aus solchen Mengen. ♣ ¨ Ubung 1.1.4. Sei Ω eine u¨ berabz¨ahlbare Menge und A = σ({ω} : ω ∈ Ω). Zeige:
A = A ⊂ Ω : A ist abz¨ahlbar oder Ac ist abz¨ahlbar . ♣
¨ Ubung 1.1.5. Sei A ein Ring auf der Menge Ω. Man zeige: A erf¨ullt die Axiome eines kommutativen Rings (im Sinne der Algebra) mit ∩“ als Multiplikation und ” △“ als Addition. ♣ ”
1.2 Mengenfunktionen Definition 1.27. Sei A ⊂ 2Ω und μ : A → [0, ∞] eine Mengenfunktion. μ heißt (i) monoton, falls f¨ur je zwei Mengen A, B ∈ A mit A ⊂ B gilt, dass μ(A) ≤ μ(B), (ii) additiv, falls f¨ur je endlich viele disjunkte Mengen A1 , . . . , An ∈ A n paarweise n n Ai = Ai ∈ A gilt, dass μ μ(Ai ), mit i=1
i=1
i=1
(iii) σ-additiv, falls f¨ur je abz¨ahlbar viele disjunkte Mengen A1 , A2 , . . . ∞paarweise ∞ ∞ μ(Ai ), Ai = Ai ∈ A gilt, dass μ aus A mit i=1
i=1
i=1
(iv) subadditiv, falls f¨ur je endlich viele Mengen A, A1 , A2 , . . . , An ∈ A mit A ⊂ n n Ai gilt, dass μ(A) ≤ μ(Ai ), i=1
i=1
12
1 Grundlagen der Maßtheorie
(v) σ-subadditiv, falls f¨ur je abz¨ahlbar viele A, A1 , A2 , . . . ∈ A mit A ⊂ gilt, dass μ(A) ≤
∞
μ(Ai ).
∞
Ai
i=1
i=1
Definition 1.28. Sei A ein Semiring und μ : A → [0, ∞] eine Mengenfunktion mit μ(∅) = 0. μ heißt – Inhalt, falls μ additiv ist, – Pr¨amaß, falls μ σ-additiv ist, – Maß, falls μ ein Pr¨amaß ist und A eine σ-Algebra,
– Wahrscheinlichkeitsmaß (kurz W-Maß), falls μ ein Maß ist und μ(Ω) = 1. Definition 1.29. Sei A ein Semiring. Ein Inhalt μ auf A heißt (i) endlich, falls μ(A) < ∞ f¨ur jedes A ∈ A, (ii) σ-endlich, falls es Mengen Ω1 , Ω2 , . . . ∈ A gibt mit Ω = μ(Ωn ) < ∞ f¨ur jedes n ∈ N.
∞
Ωn und
n=1
Beispiel 1.30 (Inhalte, Maße). (i) Sei ω ∈ Ω und δω (A) = A (ω) (siehe (1.2)). Dann ist δω ein Wahrscheinlichkeitsmaß auf jeder σ-Algebra A ⊂ 2Ω und heißt Dirac-Maß im Punkt ω, oder Einheitsmasse. (ii) Sei Ω eine endliche, nichtleere Menge. Durch μ(A) :=
#A #Ω
f¨ur A ⊂ Ω,
wird ein Wahrscheinlichkeitsmaß auf A = 2Ω definiert. μ heißt Gleichverteilung oder uniforme Verteilung auf Ω. Wir f¨uhren hierf¨ur das Symbol UΩ := μ ein. Der so definierte Wahrscheinlichkeitsraum (Ω, A, UΩ ) wird auch Laplace-Raum genannt. (iii) Sei Ω abz¨ahlbar unendlich und A := {A ⊂ Ω : #A < ∞ oder #Ac < ∞}. Dann ist A eine Algebra. Die durch μ(A) =
0, ∞,
falls A endlich, falls Ac endlich,
auf Mengenfunktion ist
A definierte ein Inhalt, aber kein Pr¨amaß, denn es gilt μ ω∈Ω {ω} = μ(Ω) = ∞, aber ω∈Ω μ ({ω}) = 0.
1.2 Mengenfunktionen
13
(iv) Sei (μn )n∈N eine Folge von Maßen (Pr¨amaßen, Inhalten) ∞ und (αn )n∈N eine Folge von nichtnegativen Zahlen. Dann ist auch μ := n=1 αn μn ein Maß (Pr¨amaß, Inhalt). Ω (v) Sei Ω eine (h¨ochstens) abz¨ahlbare, nichtleere Menge und A = 2 . Ferner seien (pω )ω∈Ω nichtnegative Zahlen. Dann wird durch μ(A) := ω∈A pω f¨ur jedes A ⊂ Ω, ein σ-endliches Maß auf 2Ω definiert. Wir nennen p = (pω )ω∈Ω die Gewichtsfunktion von μ. (vi) Ist in (v) speziell ω∈Ω pω = 1, so ist μ ein Wahrscheinlichkeitsmaß. Wir interpretieren dann pω als Wahrscheinlichkeit des Elementarereignisses ω und nennen p = (pω )ω∈Ω auch einen Wahrscheinlichkeitsvektor.
(vii) Ist in (v) speziell pω = 1 f¨ur jedes ω ∈ Ω, so heißt μ das Z¨ahlmaß auf Ω. Ist Ω endlich, so ist auch μ endlich. (viii) Sei A der Ring endlicher Vereinigungen von Intervallen (a, b] ⊂ R. F¨ur n (ai , bi ] setzen wir a1 < b1 < a2 < b2 < . . . < bn und A = i=1
μ(A) =
n
|bi − ai |.
i=1
μ ist ein σ-endlicher Inhalt auf A (sogar ein Pr¨amaß), denn es ist und μ((−n, n]) = 2n < ∞ f¨ur jedes n ∈ N.
∞
n=1 (−n, n]
=R
(ix) Sei f : R → [0, ∞) stetig. Analog zu (viii) setze μf (A) =
n i=1
bi
f (x) dx.
ai
μf ist ein σ-endlicher Inhalt auf A (sogar ein Pr¨amaß). Die Funktion f heißt Dichte und spielt hier eine a¨ hnliche Rolle wie die Gewichtsfunktion p in (v). 3 Lemma 1.31 (Eigenschaften von Inhalten). Sei A ein Semiring und μ ein Inhalt auf A. Dann gelten die folgenden Aussagen. (i) Ist A ein Ring, so ist μ(A∪B)+μ(A∩B) = μ(A)+μ(B) f¨ur je zwei Mengen A, B ∈ A.
(ii) μ ist monoton. Ist A ein Ring, so gilt genauer μ(B) = μ(A) + μ(B \ A) f¨ur je zwei Mengen A, B ∈ A mit A ⊂ B.
(iii) μ ist subadditiv. Ist μ sogar σ-additiv, so ist μ auch σ-subadditiv.
(iv) Ist A ein Ring, so gilt f¨ur je abz¨ahlbar viele, paarweise disjunkte Mengen ∞ ∞ ∞ An ∈ A stets μ(An ) ≤ μ An . A1 , A2 , . . . ∈ A mit n=1
n=1
n=1
14
1 Grundlagen der Maßtheorie
Beweis. (i) Es ist A ∪ B = A ⊎ (B \ A) und B = (A ∩ B) ⊎ (B \ A). Da μ additiv ist, folgt μ(A ∪ B) = μ(A) + μ(B \ A)
und
μ(B) = μ(A ∩ B) + μ(B \ A).
Hieraus folgt sofort (i). (ii) Sei A ⊂ B. Wegen A ∩ B = A folgt μ(B) = μ(A ⊎ (B \ A)) = μ(A) + μ(B \ A), falls B \ A ∈ A ist,insbesondere also, falls A ein Ring ist. Ist nun A nur n ein Semiring, so ist B \ A = i=1 Ci f¨ur gewisses n ∈ N und disjunkte paarweise n Mengen C1 , . . . , Cn ∈ A. In diesem Fall ist μ(B) = μ(A) + i=1 μ(Ci ) ≥ μ(A), also ist μ monoton. n (iii) Seien n ∈ N und A, A1 , . . . , An ∈ A mit A ⊂ i=1 Ai . Setze B1 = A1 und Bk = Ak \
k−1
k−1
Ai =
i=1
i=1
(Ak \ (Ak ∩ Ai ))
f¨ur k = 2, . . . , n.
Per Definition des Semirings ist jedes Ak \ (Ak ∩ Ai ) disjunkte Vereinigung endlich vieler ck Mengen in A, also existiert ein ck ∈ N und Mengen Ck,1 , . . . , Ck,ck ∈ A mit B ⊂ Ak . Analog existieren dk ∈ N und Dk,1 , . . . , Dk,dk ∈ A mit i=1 Ck,i = dkk Ak \ Bk = i=1 Dk,i . Da μ additiv ist, gilt μ(Ak ) =
ck
μ(Ck,i ) +
dk i=1
i=1
μ(Dk,i ) ≥
ck
μ(Ck,i ).
i=1
Wiederum aufgrund von Additivit¨at und Monotonie gilt n c ck n k μ(A) = μ μ(Ck,i ∩ A) (Ck,i ∩ A) = k=1 i=1
k=1 i=1
≤
ck n
k=1 i=1
μ(Ck,i ) ≤
n
μ(Ak ).
k=1
Also ist μ subadditiv. Die σ-Subadditivit¨at folgt aus der σ-Additivit¨at in analoger Weise. (iv)
∞
Sei A ein Ring und A =
n=1
gilt nach (ii) m
μ(An ) = μ
n=1
Also ist
∞
n=1
μ(An ) ≤ μ(A).
m
n=1
An ∈ A. Da μ additiv (und damit monoton) ist,
An
≤ μ(A)
f¨ur jedes m ∈ N. 2
1.2 Mengenfunktionen
15
Bemerkung 1.32. In (iv) kann strikte Ungleichheit herrschen (siehe etwa Beispiel 1.30(iii)). Mit anderen Worten: Es gibt Inhalte, die keine Pr¨amaße sind. 3 Satz 1.33 (Einschluss- Ausschlussformel). Sei A ein Ring und μ ein Inhalt. Dann gelten f¨ur n ∈ N und A1 , . . . , An ∈ A die Einschluss- Ausschlussformeln μ(A1 ∪ . . . ∪ An ) = μ(A1 ∩ . . . ∩ An ) =
n
k=1 n
(−1)k−1
{i1 ,...,ik }⊂{1,...,n}
(−1)k−1
k=1
{i1 ,...,ik }⊂{1,...,n}
μ(Ai1 ∩ . . . ∩ Aik ), μ(Ai1 ∪ . . . ∪ Aik ),
wobei sich die Summen u¨ ber alle k-elementigen Teilmengen von {1, . . . , n} erstrecken. ¨ Beweis. Ubung! Hinweis: Man verwende vollst¨andige Induktion u¨ ber n.
2
Wir wollen die σ-Subadditivit¨at durch eine Stetigkeitseigenschaft charakterisieren (Satz 1.36). Hierzu verabreden wir die folgende Sprechweise und Notation. Definition 1.34. Sind A, A1 , A2 , . . . Mengen, so schreiben wir – An ↑ A, falls A1 ⊂ A2 ⊂ . . . und
∞
An = A, ∞ – An ↓ A, falls A1 ⊃ A2 ⊃ A3 ⊃ . . . und n=1 An = A. n=1
Wir sagen dann, dass (An )n∈N gegen A aufsteigt beziehungsweise absteigt. Definition 1.35 (Stetigkeit von Inhalten). Sei μ ein Inhalt auf dem Ring A. (i) μ heißt stetig von unten, falls f¨ur jedes A ∈ A und jede Folge (An )n∈N in A n→∞ mit An ↑ A gilt: μ(An ) −→ μ(A).
(ii) μ heißt stetig von oben, falls f¨ur jedes A ∈ A und jede Folge (An )n∈N in A n→∞ mit An ↓ A sowie μ(An ) < ∞ f¨ur jedes n ∈ N gilt: μ(An ) −→ μ(A).
(iii) μ heißt ∅-stetig, falls (ii) f¨ur A = ∅ gilt.
Bei der Stetigkeit von oben wurde die Endlichkeitsbedingung eingef¨uhrt, weil sogar f¨ur das Z¨ahlmaß μ auf (N, 2N ) und An := {n, n+1, . . .} ↓ ∅ sonst keine Gleichheit gelten kann.
16
1 Grundlagen der Maßtheorie
Satz 1.36 (Stetigkeit und Pr¨amaß). Sei μ ein Inhalt auf einem Ring A. Betrachte die folgenden f¨unf Eigenschaften. (i) μ ist σ-additiv (also ein Pr¨amaß). (ii) μ ist σ-subadditiv. (iii) μ ist stetig von unten. (iv) μ ist ∅-stetig.
(v) μ ist stetig von oben.
Dann gelten die Implikationen (i) ⇐⇒ (ii) ⇐⇒ (iii) =⇒ (iv) ⇐⇒ (v). Ist μ endlich, so gilt auch (iv) =⇒ (iii).
∞ Beweis. (i) =⇒ (ii)“ Seien A, A1 , A2 , . . . ∈ A mit A ⊂ i=1 Ai . Setze B1 = ” n−1 ∞ A1 und Bn = An \ i=1 Ai ∈ A f¨ur n = 2, 3, . . . Dann ist A = n=1 (A ∩ Bn ), also wegen der Monotonie von μ und der σ-Additivit¨at von μ μ(A) =
∞
n=1
μ(A ∩ Bn ) ≤
∞
μ(An ).
n=1
Damit ist μ als σ-subadditiv erkannt. (ii) =⇒ (i)“ Dies folgt aus Lemma 1.31(iv). ” (i) =⇒ (iii)“ Sei μ ein Pr¨amaß und A ∈ A sowie (An )n∈N eine Folge in A mit ” An ↑ A sowie A0 = ∅. Dann gilt μ(A) =
∞ i=1
μ(Ai \ Ai−1 ) = lim
n→∞
n i=1
μ(Ai \ Ai−1 ) = lim μ(An ). n→∞
(iii) =⇒ (i)“ Gelte nun (iii). Seien B1 , B2 , . . . ∈ A paarweise disjunkt, und ” ∞ n Bi f¨ur jedes n ∈ N. Dann folgt aus (iii) gelte B = Bn ∈ A. Setze An = n=1
i=1
μ(B) = lim μ(An ) = n→∞
∞
μ(Bi ).
i=1
Also ist μ σ-additiv und damit ein Pr¨amaß. (iv) =⇒ (v)“ Seien A, A1 , A2 , . . . ∈ A mit An ↓ A und μ(A1 ) < ∞. Setze ” Bn = An \ A ∈ A f¨ur jedes n ∈ N. Dann gilt Bn ↓ ∅. Es gilt also μ(An ) − μ(A) = n→∞ μ(Bn ) −→ 0. (v) =⇒ (iv)“ ”
Dies ist trivial.
1.3 Fortsetzung von Maßen
17
(iii) =⇒ (iv)“ Seien A1 , A2 , . . . ∈ A mit An ↓ ∅ und μ(A1 ) < ∞. Dann gilt ” A1 \ An ∈ A f¨ur jedes n ∈ N und A1 \ An ↑ A1 , also μ(A1 ) = lim μ(A1 \ An ) = μ(A1 ) − lim μ(An ). n→∞
n→∞
Wegen μ(A1 ) < ∞ ist lim μ(An ) = 0. n→∞
(iv) =⇒ (iii)“ (f¨ur den Fall μ endlich) Es gelte nun μ(A) < ∞ f¨ur jedes A ∈ A, ” und μ sei ∅-stetig. Seien A, A1 , A2 , . . . ∈ A mit An ↑ A. Dann gilt A \ An ↓ ∅ und n→∞
μ(A) − μ(An ) = μ(A \ An ) −→ 0. Also gilt (iii).
2
Beispiel 1.37. (Vergleiche Beispiel 1.30(iii).) Sei Ω abz¨ahlbar und A = {A ⊂ Ω : #A < ∞ oder #Ac < ∞}, 0, falls A endlich, μ(A) = ∞, falls A unendlich. Dann ist μ ein ∅-stetiger Inhalt, aber kein Pr¨amaß.
3
Definition 1.38. (i) Ein Paar (Ω, A), bestehend aus einer nichtleeren Menge Ω und einer σ-Algebra A ⊂ 2Ω , heißt Messraum. Die Mengen A ∈ A heißen messbare Mengen. Ist Ω h¨ochstens abz¨ahlbar und A = 2Ω , so heißt der Messraum (Ω, 2Ω ) diskret. (ii) Ein Tripel (Ω, A, μ) heißt Maßraum, wenn (Ω, A) ein Messraum ist und μ ein Maß auf A.
(iii) Ist zudem μ(Ω) = 1, so heißt (Ω, A, μ) ein Wahrscheinlichkeitsraum. In diesem Fall heißen die Mengen A ∈ A auch Ereignisse.
(iv) Den Raum aller endlichen Maße auf (Ω, A) bezeichnen wir mit Mf (Ω) := Mf (Ω, A), den der W-Maße mit M1 (Ω) := M1 (Ω, A), schließlich den der σ-endlichen Maße mit Mσ (Ω, A).
1.3 Fortsetzung von Maßen In diesem Abschnitt wollen wir Maße konstruieren, indem wir zun¨achst auf einem einfachen Mengensystem, n¨amlich einem Semiring, plausible Werte f¨ur einen Inhalt angeben und dann, nach M¨oglichkeit, diesen Inhalt zu einem Maß auf der erzeugten σ-Algebra fortsetzen. Bevor wir zu den konkreten Bedingungen kommen, unter denen das machbar ist, bringen wir zwei Beispiele.
18
1 Grundlagen der Maßtheorie
Beispiel 1.39 (Lebesgue-Maß). Sei n ∈ N und A = {(a, b] : a, b ∈ Rn , a < b} der Semiring der halboffenen Quader (a, b] ⊂ Rn (vergleiche (1.5)). Das n-dimensionale Volumen des Quaders ist μ((a, b]) =
n
(bi − ai ).
i=1
K¨onnen wir μ zu einem (eindeutig bestimmten) Maß auf der Borel’schen σ-Algebra B(Rn ) = σ(A) fortsetzen? Wir werden sehen, dass dies m¨oglich ist. Das resultierende Maß heißt Lebesgue-Maß (manchmal auch Lebesgue-Borel-Maß) λ auf (R, B(R)). 3 Beispiel 1.40 (Produktmaß, Bernoulli-Maß). Wir wollen ein Wahrscheinlichkeitsmaß konstruieren f¨ur die unendliche, unabh¨angige Wiederholung eines Zufallsexperiments mit endlich vielen m¨oglichen Ausg¨angen. Die Menge der Ausg¨ ange sei E. F¨ur e ∈ E sei pe die Wahrscheinlichkeit, dass e eintritt. Es gilt also e∈E pe = 1. Die Ergebnisse dieser Experimente seien ω1 , ω2 , . . . ∈ E. Der Raum des gesamten Experiments ist daher Ω = E N . Wie in Beispiel 1.11(vi) definieren wir [ω1 , . . . , ωn ] := {ω ′ ∈ Ω : ωi′ = ωi f¨ur jedes i = 1, . . . , n}
(1.7)
als die Menge aller Folgen, die mit den Werten ω1 , . . . , ωn beginnen. Sei A0 = {∅}. F¨ur n ∈ N definieren wir das Mengensystem der Zylindermengen, die nur von den ersten n Koordinaten abh¨angen, An := {[ω1 , . . . , ωn ] : ω1 , . . . , ωn ∈ E}, ∞ und setzen A := n=0 An .
(1.8)
Wir interpretieren [ω1 , . . . , ωn ] als das Ereignis, dass im ersten Experiment der Wert ω1 herauskommt, im zweiten ω2 und schließlich im n-ten Experiment der Wert ωn . Die Ergebnisse der weiteren Experimente spielen f¨ur das Eintreten des Ereignisses keine Rolle. F¨ur ω1 , . . . , ωn ∈ E soll die Wahrscheinlichkeit f¨ur [ω1 , . . . , ωn ] das Produkt der einzelnen Wahrscheinlichkeiten sein (das verstehen wir intuitiv unter Unabh¨angigkeit“) ” n p ωi . μ([ω1 , . . . , ωn ]) = i=1
Hierdurch wird ein Inhalt auf A definiert, und unser Ziel ist es, μ in eindeutiger Weise zu einem Wahrscheinlichkeitsmaß auf σ(A) fortzusetzen.
Bevor wir dies tun, treffen wir noch die folgenden Definition. Wir definieren eine (Ultra-)Metrik auf Ω durch
1.3 Fortsetzung von Maßen ′
d(ω, ω ) =
′
ωn } 2− inf{n∈N: ωn = ,
0,
falls ω = ω ′ ,
falls ω = ω ′ .
19
(1.9)
Dann ist (Ω, d) ein kompakter, metrischer Raum. Offenbar ist [ω1 , . . . , ωn ] = B2−n (ω) = {ω ′ ∈ Ω : d(ω, ω ′ ) < 2−n }. Das Komplement von [ω1 , . . . , ωn ] ist die Vereinigung von (#E)n − 1 offenen Kugeln [ω1 , . . . , ωn ]c = [ω1′ , . . . , ωn′ ], ′ ) =(ω ,...,ω ) (ω1′ ,...,ωn 1 n
also offen. Damit ist [ω1 , . . . , ωn ] abgeschlossen und kompakt, weil Ω kompakt ist. ¨ Ahnlich wie in Satz 1.23 kann man zeigen, dass σ(A) = B(Ω, d). ¨ Ubung: Man zeige die obigen Aussagen. 3 Das Hauptergebnis dieses Kapitels ist der Fortsetzungssatz f¨ur Maße, den wir hier in der Form von Carath´eodory formulieren. Satz 1.41 (Carath´eodory). Sei A ⊂ 2Ω ein Ring und μ ein σ-endliches Pr¨amaß auf A. Dann kann μ auf genau eine Weise zu einem Maß μ auf σ(A) fortgesetzt werden, und μ ˜ ist σ-endlich.
Den Beweis dieses Satzes m¨ussen wir mit einigen Lemmata vorbereiten. Wir zeigen dann in Satz 1.53 eine etwas st¨arkere Aussage. Dort wird auch die griffige Formulierung kann fortgesetzt werden“ pr¨azisiert. ” Lemma 1.42 (Eindeutigkeit durch schnittstabilen Erzeuger). Sei (Ω, A, μ) ein σ-endlicher Maßraum und E ⊂ A ein schnittstabiler Erzeuger von A. Es gebe E1 , E2 , . . . ∈ E mit En ↑ Ω und μ(En ) < ∞ f¨ur jedes n ∈ N. Dann ist μ durch die Werte μ(E), E ∈ E, eindeutig festgelegt.
Ist μ ein W-Maß, so gilt die Folgerung auch ohne die Existenz der Folge (En )n∈N . Beweis. Sei ν ein weiteres σ-endliches Maß auf (Ω, A) mit der Eigenschaft μ(E) = ν(E)
f¨ur jedes E ∈ E.
Sei E ∈ E mit μ(E) < ∞. Betrachte das Mengensystem DE = {A ∈ A : μ(A ∩ E) = ν(A ∩ E)}. Um zu zeigen, dass DE ein Dynkin-System ist, pr¨ufen wir die Eigenschaften aus Definition 1.10: (i) Offensichtlich ist Ω ∈ DE .
20
1 Grundlagen der Maßtheorie
(ii) Seien A, B ∈ DE mit A ⊃ B. Dann ist μ ((A \ B) ∩ E) = μ(A ∩ E) − μ(B ∩ E) = ν(A ∩ E) − ν(B ∩ E) = ν ((A \ B) ∩ E) . Also ist A \ B ∈ DE . (iii) Seien A1 , A2 , . . . ∈ DE paarweise disjunkt sowie A = μ(A ∩ E) =
∞
n=1
μ(An ∩ E) =
∞
n=1
∞
An . Dann ist
n=1
ν(An ∩ E) = ν(A ∩ E),
also A ∈ DE . Offenbar ist E ⊂ DE , also δ(E) ⊂ DE . Da E schnittstabil ist, ist nach Satz 1.19 A ⊃ DE ⊃ δ(E) = σ(E) = A. Also ist DE = A.
F¨ur jedes A ∈ A und E ∈ E mit μ(E) < ∞ gilt also μ(A ∩ E) = ν(A ∩ E). Seien nun E1 , E2 , . . . ∈ E mit En ↑ Ω und μ(En ) < ∞ f¨ur jedes n ∈ N. Da μ und ν von unten stetig sind, gilt f¨ur A ∈ A μ(A) = lim μ(A ∩ En ) = lim ν(A ∩ En ) = ν(A). n→∞
n→∞
Der Zusatz ist trivial, denn E˜ := E ∪ {Ω} ist ebenfalls ein schnittstabiler Erzeuger von A, und der Wert μ(Ω) = 1 ist bekannt. Es kann also die konstante Folge En = Ω, n ∈ N, gew¨ahlt werden. Man beachte jedoch, dass es nicht reicht zu fordern, dass μ endlich ist, weil dann im Allgemeinen die Gesamtmasse μ(Ω) nicht eindeutig festgelegt ist (siehe Beispiel 1.45(ii)). 2
Beispiel 1.43. Sei Ω = Z und E = En : n ∈ Z , wobei En = (−∞, n] ∩ Z. E ist schnittstabil und σ(E) = 2Ω . Also ist ein endliches Maß μ auf (Ω, 2Ω ) eindeutig festgelegt durch die Werte μ(En ), n ∈ N.
Ein σ-endliches Maß auf Z ist jedoch durch die Werte auf E noch nicht eindeutig bestimmt: Sei μ das Z¨ahlmaß auf Z und ν = 2μ. Dann ist μ(E) = ∞ = ν(E) f¨ur jedes E ∈ E. Um μ und ν zu unterscheiden, brauchen wir also einen Erzeuger, der Mengen endlichen Maßes (f¨ur μ) enth¨alt. Tun es die Mengen F˜n = [−n, n] ∩ Z, n ∈ N? In der Tat ist f¨ur jedes σ-endliche Maß μ jetzt μ(F˜n ) < ∞ f¨ur jedes n ∈ N. Allerdings erzeugen die F˜n nicht 2Ω (sondern welche σ-Algebra?). Wir k¨onnen aber die Definition so modifizieren: Fn = [−n/2, (n + 1)/2] ∩ Z. Dann ist σ({Fn , n ∈ N}) = 2Ω , also E = {Fn , n ∈ N} ein schnittstabiler Erzeuger von 2Ω und μ(Fn ) < ∞ f¨ur jedes n ∈ N. Wegen Fn ↑ Ω sind die Bedingungen des Satzes erf¨ullt. 3
1.3 Fortsetzung von Maßen
21
Beispiel 1.44 (Verteilungsfunktion). Ein W-Maß μ auf dem Raum (Rn , B(Rn )) ist n durch Angabe der Werte μ((−∞, b]) auf den Mengen (−∞, b] = ×i=1 (−∞, bi ], b ∈ Rn , eindeutig festgelegt, da diese Mengen einen schnittstabilen Erzeuger bilden (Satz 1.23). Speziell ist ein W-Maß μ auf R durch Angabe der Verteilungsfunktion F : R → [0, 1], x → μ((−∞, x]) eindeutig bestimmt. 3
Beispiel 1.45. (i) Sei Ω = {1, 2, 3, 4} und E = { 1, 2}, {2, 3} . Offenbar gilt σ(E) = 2Ω , jedoch ist E nicht schnittstabil. Tats¨achlich ist hier ein W-Maß μ durch Angabe der Werte μ({1, 2}) = μ({2, 3}) = 21 nicht eindeutig festgelegt. Es gibt beispielsweise die M¨oglichkeiten μ = 12 δ1 + 12 δ3 oder μ′ = 21 δ2 + 21 δ4 . (ii) Sei Ω = {1, 2} und E = {{1}}. Dann ist E ein schnittstabiler Erzeuger von 2Ω , und ein W-Maß μ ist durch Angabe von μ({1}) eindeutig festgelegt. Allerdings gilt dies nicht f¨ur endliche Maße im Allgemeinen, denn μ = 0 und ν = δ2 sind zwei endliche Maße, die auf E u¨ bereinstimmen. 3 ¨ Definition 1.46 (Außeres Maß). Eine Mengenfunktion μ∗ : 2Ω → [0, ∞] heißt a¨ ußeres Maß, falls gilt: (i) μ∗ (∅) = 0, (ii) μ∗ ist monoton, (iii) μ∗ ist σ-subadditiv. Lemma 1.47. Sei A ⊂ 2Ω ein beliebiges Mengensystem mit ∅ ∈ A und μ eine monotone Mengenfunktion auf A mit μ(∅) = 0. F¨ur A ⊂ Ω sei U(A) = F ⊂ A : F ist h¨ochstens abz¨ahlbar und A ⊂ F F ∈F
¨ die Menge der abz¨ahlbaren Uberdeckungen F von A mit Mengen F aus A. Setze ∗ μ (A) := inf μ(F ) : F ∈ U(A) , F ∈F
wobei inf ∅ = ∞. Dann ist μ∗ (A) = μ(A) f¨ur jedes A ∈ A, und μ∗ ist ein a¨ ußeres Maß. Beweis. Wir weisen die Eigenschaften (i)-(iii) des a¨ ußeren Maßes nach. (i) Wegen ∅ ∈ A ist {∅} ∈ U(∅), also ist μ∗ (∅) = 0.
(ii) Ist A ⊂ B, so ist U(A) ⊃ U(B), also ist μ∗ (A) ≤ μ∗ (B). ∞ (iii) Sei An ⊂ Ω f¨ur jedes n ∈ N und A ⊂ n=1 An . Wir m¨ussen zeigen, dass ∞ ∗ ankung sei μ∗ (An ) < ∞ und damit μ∗ (A) ≤ n=1 μ (An ). Ohne Einschr¨
22
1 Grundlagen der Maßtheorie
U(An ) = ∅ f¨ur jedes n ∈ N. W¨ahle ε > 0 und zu jedem n ∈ N eine ¨ Uberdeckung Fn ∈ U(An ) mit μ(F ) ≤ μ∗ (An ) + ε 2−n . Dann ist F :=
∞
F ∈Fn
n=1
μ∗ (A) ≤
Fn ∈ U(A) und
F ∈F
μ(F ) ≤
∞
n=1 F ∈Fn
μ(F ) ≤
∞
μ∗ (An ) + ε.
2
n=1
Definition 1.48 (μ∗ -messbare Mengen). Sei μ∗ ein a¨ ußeres Maß. Eine Menge A ∈ 2Ω heißt μ∗ -messbar, falls μ∗ (A ∩ E) + μ∗ (Ac ∩ E) = μ∗ (E)
f¨ur jedes E ∈ 2Ω .
(1.10)
Wir schreiben M(μ∗ ) = {A ∈ 2Ω : A ist μ∗ -messbar}. Lemma 1.49. Es ist A ∈ M(μ∗ ) genau dann, wenn μ∗ (A ∩ E) + μ∗ (Ac ∩ E) ≤ μ∗ (E)
f¨ur jedes E ∈ 2Ω .
Beweis. Da μ∗ subadditiv ist, gilt stets die andere Ungleichung.
2
Lemma 1.50. M(μ∗ ) ist eine Algebra. Beweis. Wir pr¨ufen die Eigenschaften (i)-(iii) der Algebra aus Satz 1.7. (i) Ω ∈ M(μ∗ ) ist klar.
(ii) (Komplementstabilit¨at) (iii) (Schnittstabilit¨at)
Per Definition ist A ∈ M(μ∗ ) ⇐⇒ Ac ∈ M(μ∗ ).
Seien A, B ∈ M(μ∗ ) und E ∈ 2Ω . Dann ist
μ∗ ((A ∩ B) ∩ E) + μ∗ ((A ∩ B)c ∩ E)
= μ∗ (A ∩ B ∩ E) + μ∗ (Ac ∩ B ∩ E) ∪ (Ac ∩ B c ∩ E) ∪ (A ∩ B c ∩ E) ≤ μ∗ (A ∩ B ∩ E) + μ∗ (Ac ∩ B ∩ E) + μ∗ (Ac ∩ B c ∩ E) + μ∗ (A ∩ B c ∩ E)
= μ∗ (B ∩ E) + μ∗ (B c ∩ E) = μ∗ (E).
Dabei haben wir in der vorletzten Gleichung A ∈ M(μ∗ ) benutzt und in der letzten B ∈ M(μ∗ ). 2 Lemma 1.51. Ein a¨ ußeres Maß μ∗ ist σ-additiv auf M(μ∗ ).
1.3 Fortsetzung von Maßen
23
Beweis. Seien A, B ∈ M(μ∗ ) mit A ∩ B = ∅. Dann ist μ∗ (A ∪ B) = μ∗ (A ∩ (A ∪ B)) + μ∗ (Ac ∩ (A ∪ B)) = μ∗ (A) + μ∗ (B). Induktiv folgt die (endliche) Additivit¨at. Da μ∗ per Definition σ-subadditiv ist, folgt nach Satz 1.36, dass μ∗ auch σ-additiv ist. 2 Lemma 1.52. Ist μ∗ ein a¨ ußeres Maß, so ist M(μ∗ ) eine σ-Algebra. Speziell ist μ∗ ein Maß auf M(μ∗ ). Beweis. Nach Lemma 1.50 ist M(μ∗ ) eine Algebra, also insbesondere schnittstabil. Nach Satz 1.18 reicht es zu zeigen, dass M(μ∗ ) ein Dynkin-System ist. ∞ Seien also A1 , A2 , . . . ∈ M(μ∗ ) paarweise disjunkt und A := An . Zu zeigen n=1
ist A ∈ M(μ∗ ), also
μ∗ (A ∩ E) + μ∗ (Ac ∩ E) ≤ μ∗ (E) Setze Bn =
n
i=1
f¨ur jedes E ∈ 2Ω .
(1.11)
Ai f¨ur jedes n ∈ N. Es gilt f¨ur jedes n ∈ N
μ∗ (E ∩ Bn+1 ) = μ∗ (E ∩ Bn+1 ) ∩ Bn + μ∗ (E ∩ Bn+1 ) ∩ Bnc
= μ∗ (E ∩ Bn ) + μ∗ (E ∩ An+1 ), n und induktiv μ∗ (E ∩ Bn ) = i=1 μ∗ (E ∩ Ai ). Wegen der Monotonie von μ∗ folgt μ∗ (E) = μ∗ (E ∩ Bn ) + μ∗ (E ∩ Bnc ) ≥ μ∗ (E ∩ Bn ) + μ∗ (E ∩ Ac ) =
n i=1
μ∗ (E ∩ Ai ) + μ∗ (E ∩ Ac ).
Indem wir n → ∞ gehen lassen, folgt mit der σ-Subadditivit¨at von μ∗ μ∗ (E) ≥
∞ i=1
μ∗ (E ∩ Ai ) + μ∗ (E ∩ Ac ) ≥ μ∗ (E ∩ A) + μ∗ (E ∩ Ac ).
Also gilt (1.11), und der Beweis ist komplett.
2
Wir zeigen nun einen Satz, der mit schw¨acheren Voraussetzungen auskommt als der Satz von Carath´eodory (Satz 1.41) und diesen impliziert. ¨ Maße). Sei A ein Semiring und μ : A → [0, ∞] Satz 1.53 (Fortsetzungssatz fur eine additive, σ-subadditive, σ-endliche Mengenfunktion mit μ(∅) = 0. Dann existiert ein eindeutig bestimmtes, σ-endliches Maß μ : σ(A) → [0, ∞] mit μ (A) = μ(A) f¨ur jedes A ∈ A.
24
1 Grundlagen der Maßtheorie
Beweis. Da A schnittstabil ist, folgt die Eindeutigkeit aus Lemma 1.42.
Um die Existenz zu zeigen, definieren wir wie in Lemma 1.47 ∗ μ (A) := inf μ(F ) : F ∈ U(A) f¨ur jedes A ∈ 2Ω . F ∈F
Nach Lemma 1.31(ii) ist μ monoton, also ist μ∗ nach Lemma 1.47 ein a¨ ußeres Maß und μ∗ (A) = μ(A) f¨ur jedes A ∈ A. Wir m¨ussen zeigen, dass M(μ∗ ) ⊃ σ(A) gilt. Da M(μ∗ ) eine σ-Algebra ist (Lemma 1.52), reicht es, A ⊂ M(μ∗ ) zu zeigen.
Seien also A ∈ A und E ∈ 2Ω mit μ∗ (E) < ∞. Sei ε > 0. Dann gibt es E1 , E2 , . . . ∈ A mit E⊂
∞
En
∞
und
n=1
n=1
μ(En ) ≤ μ∗ (E) + ε.
Setze Bn := En ∩ A ∈ A . Da A ein Semiring ist, gibt es zu jedem n ∈ N ein m n k mn ∈ N sowie Cn1 , . . . , Cnmn ∈ A mit En \ A = En \ Bn = Cn . Also ist k=1
E∩A⊂
∞
n=1
Bn ,
E ∩ Ac ⊂
∞
n=1
m n
Cnk
und
En = Bn ⊎
k=1
m n
Cnk .
k=1
μ∗ ist σ-subadditiv, und nach Voraussetzung ist μ additiv. Wegen μ∗ ≤ μ (es gilt A sogar Gleichheit, wie wir gleich sehen) folgt μ∗ (E ∩ A) + μ∗ (E ∩ Ac ) ≤ ≤ =
∞
n=1 ∞
∞
∞
n=1
∞
μ∗
n=1
μ(Bn ) +
n=1
n=1
=
μ∗ (Bn ) +
m n
k=1
mn ∞
μ(Cnk )
μ(Cnk )
n=1 k=1
μ(Bn ) +
mn
μ(Cnk )
k=1
μ(En ) ≤ μ∗ (E) + ε.
Daher ist μ∗ (E ∩ A) + μ∗ (E ∩ Ac ) ≤ μ∗ (E) und damit A ∈ M(μ∗ ), also ist A ⊂ M(μ∗ ). Setze nun μ : σ(A) → [0, ∞], A → μ∗ (A). Nach Lemma 1.51 ist μ ein Maß und μ ist σ-endlich, weil μ σ-endlich ist. 2
Beispiel 1.54 (Lebesgue-Maß, Fortsetzung von Beispiel 1.39). Wir wollen das auf den Quadern A = {(a, b] : a, b ∈ Rn , a < b} eingef¨uhrte Volumen μ((a, b]) =
1.3 Fortsetzung von Maßen
25
n
− ai ) zu einem Maß auf der Borel’schen σ-Algebra B(Rn ) fortsetzen. Um die Voraussetzungen von Satz 1.53 zu pr¨ufen, m¨ussen wir nur noch zeigen, dass μ σ-subadditiv ist. Seien also (a, b], (a(1), b(1)], (a(2), b(2)], . . . ∈ A mit i=1 (bi
(a, b] ⊂
∞
(a(k), b(k)].
k=1
Wir m¨ussen zeigen, dass μ((a, b]) ≤
∞
(1.12)
μ((a(k), b(k)]).
k=1
Hierzu benutzen wir ein Kompaktheitsargument, um (1.12) auf die endliche Additivit¨at zur¨uck zu f¨uhren. Sei also ε > 0, und sei f¨ur jedes k ∈ N ein bε (k) > b(k) so gew¨ahlt, dass μ((a(k), bε (k)]) ≤ μ((a(k), b(k)]) + ε 2−k−1 . Ferner sei aε ∈ (a, b) so gew¨ahlt, dass μ((aε , b]) ≥ μ((a, b]) − 2ε . Nun ist [aε , b] kompakt und ∞
(a(k), bε (k)) ⊃
k=1
∞
(a(k), b(k)] ⊃ (a, b] ⊃ [aε , b].
k=1
K0 (a(k), bε (k)) ⊃ (aε , b]. Da μ (endlich) subadditiv Also existiert ein K0 mit k=1 ist (Lemma 1.31(iii)), folgt K
μ((a, b]) ≤
0 ε ε + μ((aε , b]) ≤ + μ((a(k), bε (k)]) 2 2
k=1
K0 ∞
−k−1 ε ≤ + ε2 + μ((a(k), b(k)]) ≤ ε + μ((a(k), b(k)]). 2 k=1
k=1
Da ε > 0 beliebig war, folgt (1.12) und damit die σ-Subadditivit¨at von μ.
3
Zusammen mit Satz 1.53 haben wir den folgenden Satz gezeigt. Satz 1.55 (Lebesgue-Maß). Es existiert ein eindeutig bestimmtes Maß λn auf (Rn , B(Rn )) mit der Eigenschaft λn ((a, b]) =
n
(bi − ai )
i=1
f¨ur alle a, b ∈ Rn mit a < b.
λn heißt Lebesgue-Maß auf (Rn , B(Rn )), oder Lebesgue-Borel-Maß.
26
1 Grundlagen der Maßtheorie
Beispiel 1.56 (Lebesgue-Stieltjes-Maß). Sei Ω = R und A = {(a, b] : a, b ∈ R, a ≤ b}. A ist ein Semiring und σ(A) = B(R), wo B(R) die Borel’sche σAlgebra auf R ist. Ferner sei F : R → R monoton wachsend und rechtsseitig stetig. Wir definieren eine Mengenfunktion μ ˜F : A → [0, ∞),
(a, b] → F (b) − F (a).
˜F ist additiv. Offensichtlich ist μ ˜F (∅) = 0, und μ
∞ Seien (a, b], (a(1), b(1)], (a(2), b(2)], . . . ∈ A mit (a, b] ⊂ n=1 (a(n), b(n)]. Sei ε > 0, und sei aε ∈ (a, b) so gew¨ahlt, dass F (aε ) − F (a) < ε/2. Dies geht, weil F als rechtsstetig angenommen wurde. Ferner sei f¨ur jedes k ∈ N ein bε (k) > b(k) so gew¨ahlt, dass F (bε (k)) − F (b(k))< ε 2−k−1 . Wie in Beispiel 1.54 kann man ∞ ˜F ((a(k), b(k)]). Es folgt, dass μ ˜F σjetzt zeigen, dass μ ˜F ((a, b]) ≤ ε + k=1 μ subadditiv ist. Nach Satz 1.53 k¨onnen wir μ ˜F auf eindeutige Weise zu einem σ3 endlichen Maß μF auf B(R) fortsetzen. Definition 1.57 (Lebesgue-Stieltjes-Maß). Das Maß μF auf (R, B(R)) mit μF ((a, b]) = F (b) − F (a)
f¨ur alle a, b ∈ R mit a < b
heißt Lebesgue-Stieltjes-Maß zur Funktion F . Beispiel 1.58. Wichtige Spezialf¨alle f¨ur das Lebesgue-Stieltjes-Maß sind: (i) Ist F (x) = x, so ist μF = λ1 das Lebesgue-Maß auf R. x f (t) dt f¨ur x ∈ R. Dann ist μF (ii) Sei f : R → [0, ∞) stetig und F (x) = 0
die Fortsetzung des in Beispiel 1.30(ix) definierten Pr¨amaßes mit Dichte f . ∞ (iii) Sind x1 , x2 , . . . ∈ R und αn ≥ 0 f¨ur n ∈ N mit n=1 αn < ∞, so geh¨ort zu ∞ ∞ F = n=1 αn [xn ,∞) das endliche Maß μF = n=1 αn δxn . ∞ (iv) Sind x1 , x2 , . . . ∈ R, so ist μ = n=1 δxn ein σ-endliches Maß. μ ist genau dann ein Lebesgue-Stieltjes-Maß, wenn die Folge (xn )n∈N keinen H¨aufungspunkt hat. Hat n¨amlich (xn )n∈N keinen H¨aufungspunkt, so ist nach dem Satz von BolzanoWeierstraß #{n ∈ N : xn ∈ [−K, K]} < ∞ f¨ur jedes K > 0. Setzen wir F (x) = #{n ∈ N : xn ∈ [0, x]} f¨ur x ≥ 0 und F (x) = −#{n ∈ N : xn ∈ [x, 0)}, so ist μ = μF . Ist nun andererseits μ ein Lebesgue-Stieltjes-Maß, also μ = μF f¨ur ein F , dann ist #{n ∈ N : xn ∈ (−K, K]} = F (K) − F (−K) < ∞ f¨ur jedes K > 0, also hat (xn )n∈N keinen H¨aufungspunkt. (v)
Gilt lim F (x) − F (−x) = 1, so ist μF ein W-Maß. x→∞
Den Fall, wo μF ein W-Maß ist, wollen wir noch weiter untersuchen.
3
1.3 Fortsetzung von Maßen
27
Definition 1.59 (Verteilungsfunktion). Eine rechtsseitig stetige, monoton wachsende Funktion F : R → [0, 1] mit F (−∞) := lim F (x) = 0 und F (∞) := x→−∞
lim F (x) = 1 heißt Verteilungsfunktion. Gilt statt F (∞) = 1 lediglich F (∞) ≤ x→∞ 1, so heißt F uneigentliche Verteilungsfunktion. Ist μ ein (Sub-)W-Maß auf (R, B(R)), so heißt Fμ : x → μ((−∞, x]) die Verteilungsfunktion von μ.
Offenbar ist Fμ rechtsseitig stetig und F (−∞) = 0, weil μ stetig von oben und endlich ist (Satz 1.36). Auf Grund der Stetigkeit von unten ist F (∞) = μ(R), also ist Fμ tats¨achlich eine (uneigentliche) Verteilungsfunktion, wenn μ ein (Sub-)WMaß ist. Die Argumentation aus Beispiel 1.56 liefert nun den folgenden Satz. Satz 1.60. Die Abbildung μ → Fμ ist eine Bijektion von der Menge der W-Maße auf (R, B(R)) auf die Menge der Verteilungsfunktionen, beziehungsweise von der Menge der Sub-W-Maße auf die der uneigentlichen Verteilungsfunktionen. Wir sehen also, dass jedes endliche Maß auf (R, B(R)) ein Lebesgue-Stieltjes-Maß f¨ur eine gewisse Funktion F ist. F¨ur σ-endliche Maße ist dies im Allgemeinen falsch, wie wir in Beispiel 1.58(iv) gesehen haben. Wir kommen nun zu einem Satz, der Satz 1.55 mit dem Lebesgue-Stieltjes-Maß kombiniert. Sp¨ater werden wir sehen, dass dieser Satz in gr¨oßerer Allgemeinheit g¨ultig ist. Speziell kann man auf die Bedingung verzichten, dass die einzelnen Faktoren vom Lebesgue-Stieltjes-Typ sind. Satz 1.61 (Endliche Produkte von Maßen). Sei n ∈ N, und seien μ1 , . . . , μn endliche Maße oder, allgemeiner, Lebesgue-Stieltjes-Maße auf (R, B(R)). Dann existiert ein eindeutig bestimmtes, σ-endliches Maß μ auf (Rn , B(Rn )) mit μ((a, b]) =
n
i=1
μi ((ai , bi ])
f¨ur alle a, b ∈ Rn mit a < b.
n
Wir nennen μ =:
μi das Produktmaß zu den Maßen μ1 , . . . , μn . i=1
Beweis. Dies geht v¨ollig analog zum Beweis von Satz 1.55. Man muss sich vergewissern, dass die Intervalle (a, bε ] und so weiter, so gew¨ahlt werden k¨onnen, dass μ((a, bε ]) < μ((a, b]) + ε. Hierzu wird die Rechtsstetigkeit der zu den μi geh¨origen ¨ wachsenden Funktion Fi verwendet. Wir u¨ berlassen die Details zur Ubung. 2 Bemerkung 1.62. Wir werden sp¨ater in Satz 14.14 sehen, dass die Aussage auch f¨ur beliebige σ-endliche Maße μ1 , . . . , μn auf beliebigen (auch unterschiedlichen)
28
1 Grundlagen der Maßtheorie
Messr¨aumen gilt. Wir k¨onnen auch unendliche (sogar u¨ berabz¨ahlbare) Produkte betrachten, wenn wir voraussetzen, dass alle Faktoren Wahrscheinlichkeitsr¨aume sind (Satz 14.36). 3 Beispiel 1.63 (Unendliches Produktmaß, Fortsetzung von Beispiel 1.40). Sei E eine endliche Menge und Ω = E N der Raum der Folgen mit Werten in E. Ferner sei (pe )e∈E ein Wahrscheinlichkeitsvektor. Der auf A = {[ω1 , . . . , ωn ] : ω1 , . . . , ωn ∈ E, n ∈ N} definierte Inhalt μ([ω1 , . . . , ωn ]) =
n
p ωi
i=1
soll nun zu einem Maß auf σ(A) fortgesetzt werden. Um die Voraussetzungen von Satz 1.53 zu pr¨ufen, m¨ussen wir zeigen, dass μ σ-subadditiv ist. Wie im vorangehenden Beispiel geht dies mit Hilfe eines Kompaktheitsarguments. ∞ Seien also A, A1 , A2 , . . . ∈ A und A ⊂ n=1 An . Es reicht zu zeigen, dass es ein N ∈ N gibt mit der Eigenschaft A⊂
N
An .
(1.13)
n=1
Dann ist n¨amlich aufgrund der endlichen Subadditivit¨at von μ (Lemma 1.31(iii)) N ∞ schon μ(A) ≤ μ(An ) ≤ μ(An ), also ist μ σ-subadditiv. n=1
n=1
Wir geben nun zwei Beweise f¨ur (1.13) an.
1. Beweis Wie in Beispiel 1.40 angemerkt, ist Ω mit der von der Metrik d in (1.9) erzeugten Produkttopologie kompakt, und jedes A ∈ A ist abgeschlossen und damit auch kompakt. Da jedes der An zugleich offen ist, gibt es eine endliche Teil¨uberdeckung von A, mithin gilt (1.13). 2. Beweis Wir zeigen nun auf elementare Weise die G¨ultigkeit von (1.13). Das Vorgehen imitiert den Beweis daf¨ur, dass Ω kompakt ist. Wir setzen Bn := n A \ i=1 Ai , nehmen an, dass Bn = ∅ f¨ur jedes n ∈ N und f¨uhren dies zum Widerspruch. Nach dem Dirichlet’schen Schubfachprinzip (E ist endlich) k¨onnen wir ein ω1 ∈ E ausw¨ahlen, sodass [ω1 ] ∩ Bn = ∅ f¨ur unendlich viele n ∈ N. Wegen B1 ⊃ B2 ⊃ . . . folgt [ω1 ] ∩ Bn = ∅
f¨ur jedes n ∈ N.
W¨ahle nun sukzessive ω2 , ω3 , . . . ∈ E so aus, dass [ω1 , . . . , ωk ] ∩ Bn = ∅
f¨ur alle k, n ∈ N.
Bn ist disjunkte Vereinigung von gewissen Mengen Cn,1 , . . . , Cn,mn ∈ A. Daher existiert zu jedem n ∈ N ein in ∈ {1, . . . , mn } mit [ω1 , . . . , ωk ] ∩ Cn,in = ∅ f¨ur unendlich viele k ∈ N. Wegen [ω1 ] ⊃ [ω1 , ω2 ] ⊃ . . . folgt
1.3 Fortsetzung von Maßen
[ω1 , . . . , ωk ] ∩ Cn,in = ∅
29
f¨ur alle k, n ∈ N.
F¨ur festes n ∈ N und großes k ist [ω1 , . . . , ωk ] ⊂ Cn,in , also ist ω = (ω1 , ω2 , . . .) ∈ ∞ Cn,in ⊂ Bn . Es folgt im Widerspruch zur Annahme, dass n=1 Bn = ∅. 3 Zusammen mit Satz 1.53 haben wir den folgenden Satz gezeigt.
Satz 1.64 (Produktmaß, Bernoulli-Maß). Sei E eine endliche, nichtleere Menge und Ω = E N sowie (pe )e∈E ein Wahrscheinlichkeitsvektor. Dann gibt es ein eindeutig bestimmtes W-Maß μ auf σ(A) = B(Ω) mit μ([ω1 , . . . , ωn ]) =
n
p ωi
i=1
f¨ur alle ω1 , . . . , ωn ∈ E und n ∈ N.
Wir nennen μ das Produktmaß oder Bernoulli-Maß auf Ω mit Gewichten (pe )e∈E . ⊗N
Wir schreiben auch := μ. e∈E pe δe E ⊗N Ferner nennen wir (2 ) := σ(A) die Produkt-σ-Algebra auf Ω. Auf Produktmaße gehen wir systematisch noch einmal in Kapitel 14 ein. Der Fortsetzungssatz liefert uns einen abstrakten Existenz- und Eindeutigkeitssatz f¨ur Maße, die wir zuvor nur auf einem Semiring A definiert hatten. Der folgende Satz zeigt, wie gut wir das Maß von σ(A)-messbaren Mengen durch endliche, beziehungsweise abz¨ahlbare Operationen mit Mengen aus A ann¨ahern k¨onnen. Wir schreiben
A △ B := (A \ B) ∪ (B \ A),
f¨ur A, B ⊂ Ω,
(1.14)
f¨ur die symmetrische Differenz zweier Mengen A und B. ¨ Maße). Sei A ⊂ 2Ω ein Semiring und μ ein Satz 1.65 (Approximationssatz fur Maß auf σ(A), das σ-endlich auf A ist. (i) Zu A ∈ σ(A) und ε > 0gibt es paarweise disjunkte Mengen A1 , A2 , . . . ∈ A ∞ ∞ mit A ⊂ An und μ An \ A < ε. n=1
n=1
(ii) Zu A ∈ σ(A) mit μ(A) < ∞ und ε > 0 gibt es n ∈ N und paarweise n disjunkte Mengen A1 , . . . , An ∈ A mit μ A △ Ak < ε. k=1
∗
(iii) Zu jedem A ∈ M(μ ) gibt es A− , A+ ∈ σ(A) mit A− ⊂ A ⊂ A+ und μ(A+ \ A− ) = 0.
Bemerkung 1.66. Nach (iii) gelten (i) und (ii) auch f¨ur A ∈ M(μ∗ ) (mit μ∗ statt μ). Ist A eine Algebra, so gilt in (ii) f¨ur jedes A ∈ A sogar inf μ(A △ B) = 0. 3 B∈A
30
1 Grundlagen der Maßtheorie
Beweis. (ii) Da μ auf σ(A) mit dem a¨ ußeren Maß μ∗ u¨ bereinstimmt und μ(A) ¨ endlich ist, gibt es nach Definition von μ∗ (siehe Lemma 1.47) eine Uberdeckung B1 , B2 , . . . ∈ A von A mit ∞
μ(A) ≥ Sei n ∈ N mit
∞
μ(Bi ) <
i=n+1
ε 2
i=1
μ(Bi ) − ε/2.
(dies existiert, weil μ(A) < ∞). F¨ur je drei
Mengen C, D, E gilt
C △ D = (D \ C) ∪ (C \ D) ⊂ (D \ C) ∪ (C \ (D ∪ E)) ∪ E ⊂ (C △ (D ∪ E)) ∪ E. ∞ n Mit C = A, D = i=1 Bi und E = i=n+1 Bi erhalten wir ∞ ∞ n μ A△ Bi ≤ μ A △ Bi + μ Bi i=1
i=1
≤μ Schreibe nun
n
i=1
Bi = B1 ⊎
∞
Bi
i=1
n i−1
i=2 j=1
i=n+1
− μ(A) +
(Bi \ Bj ) =:
ε ≤ ε. 2
k
Ai
i=1
f¨ur ein gewisses k ∈ N und gewisse A1 , . . . , Ak ∈ A (Semiring-Eigenschaft). (i) Sei A ∈ σ(A) und En ↑ Ω, En ∈ σ(A) mit μ(En ) < ∞ f¨ur jedes n ∈ N. ¨ W¨ahle zu n ∈ N eine Uberdeckung (Bn,m )m∈N von A ∩ En mit μ(A ∩ En ) ≥
∞
m=1
μ(Bn,m ) − 2−n ε.
(Dies ist m¨oglich nach Definition des a¨ ußeren Maßes μ∗ , das auf A mit μ u¨ ber∞ ∞ einstimmt.) Schreibe Bn,m = An f¨ur gewisse An ∈ A, n ∈ N m,n=1
n=1
¨ (Ubung 1.1.1). Dann ist ∞ ∞ ∞ μ An \ A = μ Bn,m \ A n=1
n=1 m=1
≤μ ≤
∞
n=1
∞ ∞
Bn,m \ (A ∩ En )
n=1 m=1
∞
m=1
μ(Bn,m )
− μ(A ∩ En )
≤ ε.
1.3 Fortsetzung von Maßen
31
(iii) Sei A ∈ M(μ∗ ) und (En )n∈N wie oben. W¨ahle zu m, n ∈ N ein An,m ∈ −n σ(A) mit An,m ⊃ A ∩ En und μ∗ (An,m ) ≤ μ∗ (A ∩ En ) + 2m . ∞ 1 An,m ∈ σ(A). Dann ist Am ⊃ A und μ∗ (Am \ A) ≤ m . Setze Setze Am := A+ :=
∞
m=1
n=1
Am . Dann ist σ(A) ∋ A+ ⊃ A und μ∗ (A+ \ A) = 0. W¨ahle analog
(A− )c ∈ σ(A) mit (A− )c ⊃ Ac und μ∗ ((A− )c \ Ac ) = 0. Dann ist A+ ⊃ A ⊃ A− und μ(A+ \ A− ) = μ∗ (A+ \ A− ) = μ∗ (A+ \ A) + μ∗ (A \ A− ) = 0. 2
Bemerkung 1.67. (Regularit¨at von Maßen) (Vergleiche auch Satz 13.6 auf Seite 236.) Sei λn das Lebesgue-Maß auf (Rn , B(Rn )). Sei A der Semiring der Quader der Form [a, b) ⊂ Rn . Nach Satz 1.23 ist B(Rn ) = σ(A). Nach dem Approximationssatz gibt es zu A ∈ B(Rn ) und ε > 0 abz¨ahlbar viele A1 , A2 , . . . ∈ A mit ∞ λn Ai \ A < ε/2. i=1
Zu jedem Ai existiert ein offener Quader Bi ⊃ Ai mit λn (Bi \ Ai ) < ε 2−i−1 ∞ n (Stetigkeit von oben von λ ). Daher ist U = i=1 Bi eine offene Menge U ⊃ A mit λn (U \ A) < ε. Diese Eigenschaft von λn heißt Regularit¨at von außen.
Ist λn (A) endlich, so gibt es zu ε > 0 eine kompakte Menge K ⊂ Rn mit λn (A \ K) < ε. Diese Eigenschaft von λn heißt Regularit¨at von innen. In der Tat: Sei N > 0 mit λn (A)−λn (A∩[−N, N ]n ) < ε/2. W¨ahle eine offene Menge U ⊃ (A∩[−N, N ]n )c mit λn (U \ (A ∩ [−N, N ]n )c ) < ε/2 und setze K := [−N, N ]n \ U ⊂ A. 3 Definition 1.68 (Nullmenge). Sei (Ω, A, μ) ein Maßraum.
(i) Eine Menge A ∈ A heißt μ-Nullmenge, oder kurz Nullmenge, falls μ(A) = 0. Mit Nμ bezeichnen wir das System aller Teilmengen von μ-Nullmengen. (ii) Sei E(ω) eine Eigenschaft, die dem Punkt ω ∈ Ω zukommen kann. Wir sagen, dass E μ-fast uberall (f.¨u.) gilt oder f¨ur fast alle ω, falls es eine Nullmenge N gibt, ¨ sodass E(ω) f¨ur jedes ω ∈ Ω \ N gilt. Ist A ∈ A, so sagen wir, dass E fast u¨ berall auf A gilt, falls es eine Nullmenge N gibt, sodass E(ω) f¨ur jedes ω ∈ A \ N gilt. Ist μ = P ein W-Maß, so sagen wir dann auch, dass E P -fast sicher (f.s.) gilt, beziehungsweise fast sicher auf A.
(iii) Sind A, B ∈ A, so schreiben wir A = B N gibt mit A △ B ⊂ N .
(mod μ), falls es eine Nullmenge
32
1 Grundlagen der Maßtheorie
Definition 1.69. Ein Maßraum (Ω, A, μ) heißt vollst¨andig, falls Nμ ⊂ A. Bemerkung 1.70 (Vervollst¨andigung eines Maßraums). Sei (Ω, A, μ) ein Maßraum. Es gibt genau eine kleinste σ-Algebra A∗ ⊃ A und eine Fortsetzung μ∗ von μ auf A∗ , sodass (Ω, A∗ , μ∗ ) vollst¨andig ist. (Ω, A∗ , μ∗ ) heißt die Vervollst¨andigung von (Ω, A, μ). In der Notation des Beweises von Satz 1.53 ist Ω, M(μ∗ ), μ∗ M(μ∗ )
diese Vervollst¨andigung.
Ferner ist M(μ∗ ) = σ(A ∪ Nμ ) = {A ∪ N : A ∈ A, N ∈ Nμ } und μ∗ (A ∪ N ) = μ(A) f¨ur jedes A ∈ A und N ∈ Nμ .
Da wir diese Aussagen im Folgenden nicht ben¨otigen werden, verzichten wir auf den Beweis und verweisen auf die g¨angigen Maßtheorieb¨ucher, etwa [43]. Beispiel 1.71. Ist λ das Lebesgue-Maß (genauer: das Lebesgue-Borel-Maß) auf (Rn , B(Rn )), so l¨asst sich λ eindeutig fortsetzen zu einem Maß λ∗ auf B ∗ (Rn ) = σ(B(Rn ) ∪ N ),
wo N die Menge der Teilmengen der Lebesgue-Borel’schen Nullmengen bezeichnet. B ∗ (Rn ) heißt σ-Algebra der Lebesgue-messbaren Mengen. Zur Unterscheidung wird manchmal λ das Lebesgue-Borel-Maß genannt und λ∗ das LebesgueMaß. Wir werden diese Unterscheidung im Folgenden aber nicht ben¨otigen. 3 Beispiel 1.72. Sei μ = δω auf einem Messraum (Ω, A). Ist {ω} ∈ A, so ist die Vervollst¨andigung A∗ = 2Ω , μ∗ = δω . Im Extremfall der trivialen σ-Algebra A = {∅, Ω} hingegen ist Nμ = {∅}, also die Vervollst¨andigung A∗ = {∅, Ω}, μ∗ = δω . Man beachte, dass man auf dieser trivialen σ-Algebra die Dirac-Maße zu verschiedenen Punkten aus Ω nicht unterscheiden kann. 3 Definition 1.73. Sei (Ω, A, μ) ein Messraum und Ω ′ ∈ A. Dann wird durch μ ′ (A) := μ(A) f¨ur A ∈ A mit A ⊂ Ω ′ Ω
ein Maß auf der Spur-σ-Algebra A ′
schr¨ankung von μ auf Ω .
Ω′
definiert. Dieses Maß nennen wir die Ein-
Beispiel 1.74. Die Einschr¨ankung des Lebesgue-Borel-Maßes λ von (R, B(R)) auf ). Allgemeiner nennen wir f¨ur messbares [0, 1] ist ein W-Maß auf ([0, 1], B(R) [0,1] A ∈ B(R) die Einschr¨ankung λ das Lebesgue-Maß auf A. Oftmals wird als SymA bol wieder λ verwendet, weil wir nicht zu viele kleinliche Unterscheidungen treffen wollen. Wir sehen sp¨ater (Korollar 1.84), dass B(R) = B(A), wobei B(A) die Borel’sche A σ-Algebra auf A ist, die von den in A (relativ) offenen Mengen erzeugt wird. 3
1.4 Messbare Abbildungen
33
Beispiel 1.75 (Gleichverteilung). Ist A ∈ B(Rn ) mit n-dimensionalem LebesgueMaß λn (A) ∈ (0, ∞), so wird durch μ(B) :=
λn (B) λn (A)
f¨ur B ∈ B(Rn ), B ⊂ A,
ein W-Maß auf B(Rn ) definiert. Wir nennen μ die uniforme Verteilung oder A Gleichverteilung auf A und schreiben UA := μ. 3
¨ Ubung Man zeige die folgende Verallgemeinerung von Beispiel 1.58(iv): Ein 1.3.1. ∞ Maß n=1 αn δxn ist genau dann ein Lebesgue-Stieltjes Maß zu einer geeigneten Funktion F , wenn n: |xn |≤K αn < ∞ f¨ur jedes K > 0 gilt. ♣
¨ Ubung 1.3.2. Sei Ω eine u¨ berabz¨ahlbare Menge und ω0 ∈ Ω ein beliebiges Element. Sei A = σ({ω} : ω ∈ {ω0 }). ¨ (i) Charakterisiere A a¨ hnlich wie in Ubung 1.1.4 (Seite 11).
(ii) Zeige, dass (Ω, A, δω0 ) vollst¨andig ist.
♣
¨ Ubung 1.3.3. Sei (μn )n∈N eine Folge von endlichen Maßen auf dem Messraum (Ω, A). F¨ur jedes A ∈ A existiere der Grenzwert μ(A) := lim μn (A). n→∞
Man zeige: μ ist ein Maß auf (Ω, A).
Hinweis: Zu zeigen ist insbesondere die ∅-Stetigkeit von μ.
♣
1.4 Messbare Abbildungen Eine Zwangshandlung in der Mathematik ist es, Homomorphismen zwischen Objekten anzugeben, also strukturerhaltende Abbildungen. F¨ur topologische R¨aume sind dies die stetigen Abbildungen, f¨ur Messr¨aume die messbaren Abbildungen. Seien im Folgenden stets (Ω, A) und (Ω ′ , A′ ) Messr¨aume. Definition 1.76 (Messbare Abbildungen). (i) Eine Abbildung X : Ω → Ω ′ heißt A – A′ -messbar (oder kurz: messbar), falls X −1 (A′ ) := {X −1 (A′ ) : A′ ∈ A′ } ⊂ A ist, falls also X −1 (A′ ) ∈ A
f¨ur jedes A′ ∈ A′ .
Ist X messbar, so schreiben wir auch X : (Ω, A) → (Ω ′ , A′ ).
(ii) Ist Ω ′ = R und A′ = B(R) die Borel’sche σ-Algebra auf R, so heißt X : (Ω, A) → (R, B(R)) kurz eine reelle A-messbare Abbildung.
34
1 Grundlagen der Maßtheorie
Beispiel 1.77. (i) Die Identit¨at id : Ω → Ω ist A – A-messbar.
(ii) Ist A = 2Ω oder A′ = {∅, Ω ′ }, so ist jede Abbildung X : Ω → Ω ′ schon A – A′ -messbar. (iii) Sei A ⊂ Ω. Die Indikatorfunktion 2{0,1} -messbar, wenn A ∈ A.
A
: Ω → {0, 1} ist genau dann A – 3
Satz 1.78 (Erzeugte σ-Algebra). Sei (Ω ′ , A′ ) ein Messraum und Ω eine nichtleere Menge sowie X : Ω → Ω ′ eine Abbildung. Das Urbild X −1 (A′ ) := {X −1 (A′ ) : A′ ∈ A′ }
(1.15)
ist die kleinste σ-Algebra, bez¨uglich der X messbar ist. Wir nennen σ(X) := X −1 (A′ ) die von X erzeugte σ-Algebra auf Ω. ¨ Beweis. Ubung!
2
Wir wollen nun σ-Algebren betrachten, die von mehreren Abbildungen erzeugt werden. Definition 1.79 (Erzeugte σ-Algebra). Sei Ω eine nichtleere Menge. Sei I eine beliebige Indexmenge, und f¨ur jedes i ∈ I sei (Ωi , Ai ) ein Messraum sowie Xi : Ω → Ωi eine beliebige Abbildung. Dann heißt −1 Xi (Ai ) σ(Xi ) = σ σ(Xi , i ∈ I) := σ i∈I
i∈I
die von (Xi , i ∈ I) erzeugte σ-Algebra auf Ω. Dies ist die kleinste σ-Algebra, bez¨uglich der jedes Xi messbar ist. Wie bei stetigen oder linearen Abbildungen gibt es eine Verkn¨upfungseigenschaft. ¨ Satz 1.80 (Verknupfung von Abbildungen). Sind (Ω, A), (Ω ′ , A′ ) und (Ω ′′ , A′′ ) Messr¨aume sowie X : Ω → Ω ′ messbar und X ′ : Ω ′ → Ω ′′ messbar, so ist die Abbildung Y := X ′ ◦ X : Ω → Ω ′′ , ω → X ′ (X(ω)) messbar bez¨uglich A – A′′ . Beweis. Es ist Y −1 (A′′ ) = X −1 ((X ′ )−1 (A′′ )) ⊂ X −1 (A′ ) ⊂ A.
2
Praktisch kann man die Messbarkeit einer Abbildung X kaum pr¨ufen, indem man s¨amtliche Urbilder X −1 (A′ ), A′ ∈ A′ auf Messbarkeit hin untersucht. Daf¨ur sind die meisten σ-Algebren A′ einfach zu groß. Gl¨ucklicherweise reicht hier die Betrachtung eines Erzeugers von A′ aus:
1.4 Messbare Abbildungen
35
Satz 1.81 (Messbarkeit auf einem Erzeuger). F¨ur jedes System E ′ ⊂ A′ von A′ -messbaren Mengen gilt σ(X −1 (E ′ )) = X −1 (σ(E ′ )) und damit X ist A – σ(E ′ )-messbar ⇐⇒ X −1 (E ′ ) ∈ A
f¨ur jedes E ′ ∈ E ′ .
Ist speziell σ(E ′ ) = A′ , dann gilt X ist A – A′ -messbar ⇐⇒ X −1 (E ′ ) ⊂ A. Beweis. Offenbar ist X −1 (E ′ ) ⊂ X −1 (σ(E ′ )) = σ(X −1 (σ(E ′ ))). Also ist auch σ(X −1 (E ′ )) ⊂ X −1 (σ(E ′ )).
F¨ur die andere Inklusion betrachten wir das Mengensystem
A′0 := A′ ∈ σ(E ′ ) : X −1 (A′ ) ∈ σ(X −1 (E ′ ))
und zeigen zun¨achst, dass A′0 eine σ-Algebra ist, indem wir die Punkte (i)-(iii) aus Definition 1.2 pr¨ufen: (i) Offensichtlich ist Ω ′ ∈ A′0 .
(ii) (Komplementstabilit¨at)
Ist A′ ∈ A′0 , so ist
X −1 ((A′ )c ) = (X −1 (A′ ))c ∈ σ(X −1 (E ′ )),
also (A′ )c ∈ A′0 .
(iii) (σ-∪-Stabilit¨at) Seien A′1 , A′2 , . . . ∈ A′0 . Dann ist ∞ ∞ −1 ′ X An = X −1 (A′n ) ∈ σ(X −1 (E ′ )), also ist
∞
′ n=1 An
n=1
∈
n=1
A′0 .
Wegen E ′ ⊂ A′0 ist A′0 = σ(E ′ ), also X −1 (A′ ) ∈ σ(X −1 (E ′ )) f¨ur jedes A′ ∈ σ(E ′ ) und damit X −1 (σ(E ′ )) ⊂ σ(X −1 (E ′ )). 2 ¨ Korollar 1.82 (Messbarkeit von verknupften Abbildungen). Sei I eine nichtleere Indexmenge sowie (Ω, A), (Ω ′ , A′ ) und (Ωi , Ai ) Messr¨aume, i ∈ I. Sei ferner (Xi : i ∈ I) eine Familie messbarer Abbildungen Xi : Ω ′ → Ωi mit der Eigenschaft A′ = σ(Xi : i ∈ I). Dann gilt: Eine Abbildung Y : Ω → Ω ′ ist genau dann A-A′ messbar, wenn Xi ◦ Y messbar ist bez¨uglich A-Ai f¨ur jedes i ∈ I. Beweis. Ist Y messbar, so ist nach Satz 1.80 jedes Xi ◦ Y messbar. Sei nun jede der zusammengesetzten Abbildungen Xi ◦ Y messbar bez¨uglich A-Ai . Die Menge E ′ := {Xi−1 (A′′ ) : A′′ ∈ Ai , i ∈ I} ist nach Voraussetzung ein Erzeuger von A′ , und es gilt Y −1 (A′ ) ∈ A f¨ur jedes A′ ∈ E ′ wegen der Messbarkeit aller Xi ◦ Y . Nach Satz 1.81 ist also Y messbar. 2
36
1 Grundlagen der Maßtheorie
Wir erinnern an den Begriff der Spur eines Mengensystems aus Definition 1.25. Korollar 1.83 (Spur der erzeugten σ-Algebra). Ist E ⊂ 2Ω und A ⊂ Ω nichtleer, so gilt σ E = σ(E) A
A
Beweis. Sei X : A ֒→ Ω, ω → ω die Inklusionsabbildung. Dann ist X −1 (B) = A ∩ B f¨ur jedes B ∈ Ω. Nach Satz 1.81 ist
σ E = σ({E ∩ A : E ∈ E}) A
= σ({X −1 (E) : E ∈ E}) = σ(X −1 (E))
= X −1 (σ(E)) = {A ∩ B : B ∈ σ(E)} = σ(E) .
2
A
Zur Erinnerung: F¨ur eine Teilmenge A ⊂ Ω eines topologischen Raums (Ω, τ ) ist τ die Topologie der in A relativ offenen Mengen. Mit B(Ω, τ ) = σ(τ ) bezeichnen A wir die Borel’sche σ-Algebra auf (Ω, τ ). Korollar 1.84 (Spur der Borel’schen σ-Algebra). Sei (Ω, τ ) ein topologischer Raum und A ⊂ Ω eine beliebige Teilmenge von Ω. Dann gilt
B(Ω, τ ) = B A, τ . A
A
′
Beispiel 1.85. (i) Ist Ω ′ abz¨ahlbar, so ist X : Ω → Ω ′ genau dann A – 2Ω messbar, wenn X −1 ({ω ′ }) ∈ A f¨ur jedes ω ′ ∈ Ω ′ . F¨ur u¨ berabz¨ahlbare Ω ′ ist dies im Allgemeinen falsch. (Man betrachte etwa Ω = Ω ′ = R, A = B(R), X(ω) = ω f¨ur jedes ω ∈ Ω. Offenbar ist X −1 (ω) = {ω} ∈ B(R). Ist andererseits A ⊂ R nicht in B(R), so ist A ∈ 2R , jedoch X −1 (A) ∈ B(R).)
(ii) F¨ur x ∈ R verabreden wir folgende Schreibweisen f¨ur das Ab- und Aufrunden ⌊x⌋ := max{k ∈ Z : k ≤ x}
und
⌈x⌉ :== min{k ∈ Z : k ≥ x}.
(1.16)
Die Abbildungen R → Z, x → ⌊x⌋ und x → ⌈x⌉ sind messbar bez¨uglich B(R) – 2Z , denn f¨ur jedes k ∈ Z sind die Urbilder {x ∈ R : ⌊x⌋ = k} = [k, k + 1) und {x ∈ R : ⌈x⌉ = k} = (k − 1, k] in B(R). Nach dem Verkn¨upfungssatz (Satz 1.80) sind dann f¨ur jede messbare Abbildung f : (Ω, A) → (R, B(R)) auch die Abbildungen ⌊f ⌋ und ⌈f ⌉ messbar bez¨uglich A – 2Z . (iii) Eine Abbildung X : Ω → Rd ist genau dann A – B(Rd )-messbar, wenn X −1 ((−∞, a]) ∈ A
f¨ur jedes a ∈ Rd ,
denn σ((−∞, a], a ∈ Rd ) = B(Rd ) nach Satz 1.23. Analog gilt dies auch f¨ur die anderen Mengensysteme E1 , . . . , E12 aus Satz 1.23. 3
1.4 Messbare Abbildungen
37
Beispiel 1.86. Sei d(x, y) = x − y2 der gew¨ohnliche euklidische Abstand auf Rn und B(Rn , d) = B(Rn ) die Borel’sche σ-Algebra zu der von d erzeugten Topologie. 3 F¨ur jede Teilmenge A von Rn ist dann B(A, d) = B(Rn , d) . A
Wir wollen die reellen Zahlen um die Punkte −∞ und +∞ erweitern und definieren R := R ∪ {−∞, +∞}.
Topologisch wollen wir R als die so genannte Zweipunktkompaktifizierung ansehen, indem wir R als topologisch isomorph zu [−1, 1] betrachten, beispielsweise verm¨oge der Abbildung ⎧ ⎪ ⎨ tan(πx/2), falls x ∈ (−1, 1), −∞, falls x = −1, x → ϕ : [−1, 1] → R, ⎪ ⎩ ∞, falls x = +1. ¯ y) = ϕ−1 (x)−ϕ−1 (y) f¨ur x, y ∈ R eine Metrik auf R In der Tat wird durch d(x, definiert, sodass ϕ und ϕ−1 stetig sind (also ist ϕ ein topologischer Isomorphismus). Mit τ¯ bezeichnen wir die induzierte Topologie auf R, mit τ die gew¨ohnliche Topologie auf R. Korollar 1.87. Es gilt τ¯ = τ , und daher gilt B(R) = B(R). R
R
Ist speziell X : (Ω, A) → (R, B(R)) messbar, so ist X in kanonischer Weise auch eine R-wertige messbare Abbildung. Mit R haben wir also eine echte Erweiterung der reellen Zahlen geschaffen, und die Inklusion R ֒→ R ist messbar. Satz 1.88 (Messbarkeit stetiger Abbildungen). Sind (Ω, τ ) und (Ω ′ , τ ′ ) topologische R¨aume und f : Ω → Ω ′ stetig, dann ist f auch B(Ω) – B(Ω ′ )-messbar. Beweis. Wegen B(Ω ′ ) = σ(τ ′ ) reicht es nach Satz 1.81 zu zeigen, dass f −1 (A′ ) ∈ σ(τ ) f¨ur jedes A′ ∈ τ ′ . Da f stetig ist, gilt aber sogar f −1 (A′ ) ∈ τ f¨ur jedes 2 A′ ∈ τ ′ . F¨ur x, y ∈ R verabreden wir folgende Notationen x ∨ y = max(x, y) x ∧ y = min(x, y) x+ = max(x, 0) x− = max(−x, 0) |x| = max(x, −x) = x− + x+ sign(x) = {x>0} − {x<0}
(Maximum), (Minimum), (Positivteil), (Negativteil), (Absolutbetrag), (Vorzeichenfunktion).
38
1 Grundlagen der Maßtheorie
Analog bezeichnen wir f¨ur reelle messbare Abbildungen beispielsweise X + = max(X, 0). Die Abbildungen x → x+ , x → x− und x → |x| sind stetig (und damit nach dem vorangehenden Satz messbar), die Abbildung x → sign(x) ist offenbar auch stetig. Wir erhalten also (zusammen mit Korollar 1.82): Korollar 1.89. Ist X eine reelle oder R-wertige messbare Abbildung, so sind auch die Abbildungen X − , X + , |X| und sign(X) messbar. Satz 1.90 (Koordinatenabbildungen sind messbar). Sei (Ω, A) ein Messraum und f1 , . . . , fn : Ω → R Abbildungen, sowie f := (f1 , . . . , fn ) : Ω → Rn . Dann gilt f ist A – B(Rn )-messbar
⇐⇒
jedes fi ist A – B(R)-messbar.
Die Aussage gilt analog f¨ur fi : Ω → R := R ∪ {±∞}. Beweis. F¨ur b ∈ Rn ist f −1 ((−∞, b)) =
n
i=1
fi−1 ((−∞, bi )). Ist jedes fi messbar,
so ist also f −1 ((−∞, b)) ∈ A. Die Quader (−∞, b), b ∈ Rn , erzeugen aber B(Rn ), und daher ist dann f messbar. Sei nun f messbar. F¨ur i = 1, . . . , n sei πi : Rn → R, x → xi die i-te Projektion. Offenbar ist πi stetig also B(Rn ) – B(R)-messbar. Nach Satz 1.80 ist auch fi = πi ◦ f messbar. 2 F¨ur den folgenden Satz vereinbaren wir die Konvention
x 0
:= 0 f¨ur jedes x ∈ R.
Satz 1.91. Sei (Ω, A) ein Messraum und f, g : (Ω, A) → (Rn , B(Rn )) sowie h : (Ω, A) → (R, B(R)) messbar. Dann sind auch die Abbildungen f + g, f − g, f · h und f /h messbar. Beweis. Die Abbildung π : Rn × R → Rn , (x, α) → α · x ist stetig, also messbar. Nach Satz 1.90 ist (f, h) : Ω → Rn × R messbar, also auch die zusammengesetzte Abbildung f · h = π ◦ (f, h). Analog folgt die Messbarkeit von f + g und f − g. Um die Messbarkeit von f /h zu zeigen, definieren wir H : R → R, x → 1/x. Nach unserer Konvention ist H(0) = 0. Dann ist f /h = f · H ◦ h. Es reicht also zu zeigen, dass H messbar ist. Offenbar ist H stetig. F¨ur offenes U ⊂ R ist R\{0}
auch U \ {0} offen und damit H −1 (U \ {0}) ∈ B(R). Ferner ist H −1 ({0}) = {0}. Also ist schließlich H −1 (U ) = H −1 (U \ {0}) ∪ (U ∩ {0}) ∈ B(R). 2 Satz 1.92. Sind X1 , X2 , . . . messbare Abbildungen (Ω, A) → (R, B(Rq)), dann sind auch die folgenden Abbildungen messbar: inf Xn ,
n∈N
sup Xn ,
n∈N
lim inf Xn , n→∞
lim sup Xn . n→∞
1.4 Messbare Abbildungen
39
Beweis. F¨ur jedes a ∈ R gilt
inf Xn
n∈N
−1
([−∞, a)) =
∞
n=1
Xn−1 ([−∞, a)) ∈ A.
Nach Satz 1.81 folgt hieraus die Messbarkeit von inf Xn . Analog geht der Beweis n∈N
f¨ur sup Xn . n∈N
F¨ur n ∈ N setzen wir Yn := inf Xm . Dann ist Yn messbar, und damit auch m≥n
lim inf Xn := sup Yn . Analog folgt der Beweis f¨ur den Limes superior. n→∞
2
n∈N
Ein wichtiges Beispiel f¨ur messbare Abbildungen (Ω, A) → (R, B(R)) sind Elementarfunktionen. Definition 1.93 (Elementarfunktion). Sei (Ω, A) ein Messraum. Eine Abbildung f : Ω → R heißt Elementarfunktion, wenn es ein n ∈ N und paarweise disjunkte, messbare Mengen A1 , . . . , An ∈ A, sowie Zahlen α1 , . . . , αn ∈ R gibt mit f=
n
αi
Ai .
i=1
Bemerkung 1.94. Eine messbare Abbildung, die nur endlich viele Werte annimmt ¨ ist eine Elementarfunktion. (Ubung!) 3 Definition 1.95. Sind f, f1 , f2 , . . . Abbildungen Ω → R mit f1 (ω) ≤ f2 (ω) ≤ . . . und
lim fn (ω) = f (ω)
n→∞
f¨ur jedes ω ∈ Ω,
so schreiben wir fn ↑ f und sagen, dass (fn )n∈N punktweise monoton aufsteigend gegen f konvergiert. Analog schreiben wir fn ↓ f , falls (−fn ) ↑ (−f ). Satz 1.96. Sei (Ω, A) ein Messraum und f : Ω → [0, ∞] messbar. Dann gelten die folgenden Aussagen. (i) Es gibt eine Folge nichtnegativer Elementarfunktionen (fn )n∈N mit fn ↑ f . (ii) Es gibt A1 , A2 , . . . ∈ A und α1 , α2 , . . . ≥ 0 mit f =
∞
αn
An .
n=1
Beweis. (i) F¨ur n ∈ N0 definiere fn = (2−n ⌊2n f ⌋) ∧ n. Dann ist fn messbar (nach Satz 1.92 und Beispiel 1.85(ii)) und nimmt h¨ochstens n2n + 1 Werte an, ist also eine Elementarfunktion. Offenbar gilt fn ↑ f .
40
1 Grundlagen der Maßtheorie
(ii) Seien fn wie oben, Bn,i := {ω : fn (ω)−fn−1 (ω) = i 2−n } und βn,i = i 2−n 2n f¨ur n ∈ N und i = 1, . . . , 2n . Man u¨ berlege sich, dass i=1 Bn,i = Ω. Dann ist 2n βn,i Bn,i . Nach Umnummerierung (n, i) → m erhalten wir fn − fn−1 = i=1
(αm )m∈N und (Am )m∈N , sodass f = f0 +
∞
(fn − fn−1 ) =
n=1
∞
αm
Am .
2
m=1
Als Korollar zu dieser Strukturaussage f¨ur messbare [0, ∞]-wertige Abbildungen zeigen wir das Faktorisierungslemma. Korollar 1.97 (Faktorisierungslemma). Seien (Ω ′ , A′ ) ein Messraum und Ω eine nichtleere Menge. Sei f : Ω → Ω ′ eine Abbildung. Eine Abbildung g : Ω → R ist genau dann messbar bez¨uglich σ(f ) – B(R), wenn es eine messbare Abbildung ϕ : (Ω ′ , A′ ) → (R, B(R)) gibt mit g = ϕ ◦ f . Beweis.
”
⇐= “
Ist ϕ messbar und g = ϕ ◦ f , so ist g messbar nach Satz 1.80.
=⇒ “ Sei nun g messbar bez¨uglich σ(f ) – B(R). Wir betrachten zun¨achst den ” Fall, wo g nichtnegativ ist. Dann existieren messbare ∞ Mengen A1 , A2 . . . ∈ σ(f ) sowie Zahlen α1 , α2 , . . . , ∈ [0, ∞) mit g = n=1 αn An . Nach der Definition von σ(f ) gibt es f¨ur jedes n ∈ N eine Menge Bn ∈ A′ mit f −1 (Bn ) = An , also mit An = Bn ◦ f . Wir definieren nun ϕ : Ω ′ → R durch ϕ=
∞
αn
Bn .
n=1
Offenbar ist ϕ messbar bez¨uglich A′ – B(R), und es gilt g = ϕ ◦ f .
Sei nun der allgemeine Fall betrachtet, wo g auch negative Werte annehmen kann. Dann existieren messbare Abbildungen ϕ− und ϕ+ mit g − = ϕ− ◦ f und g + = 2 ϕ+ ◦ f . Daher leistet ϕ := ϕ+ − ϕ− das Gew¨unschte. Mit einer messbaren Abbildung wird auch ein Maß von einem Raum auf einen anderen transportiert. Definition 1.98 (Bildmaß). Seien (Ω, A) und (Ω ′ , A′ ) Messr¨aume und μ ein Maß auf (Ω, A). Ferner sei X : (Ω, A) → (Ω ′ , A′ ) messbar. Das durch μ ◦ X −1 : A′ → [0, ∞],
A′ → μ(X −1 (A′ ))
definierte Maß auf (Ω ′ , A′ ) heißt Bildmaß von μ unter X.
1.4 Messbare Abbildungen
41
Beispiel 1.99. Sei μ ein Maß auf Z2 und X : Z2 → Z, (x, y) → x + y. Dann ist μ ◦ X −1 ({x}) = μ({x − y, y}). 3 y∈Z
Beispiel 1.100. Ist L : Rn → Rn eine bijektive lineare Abbildung und λ das Lebesgue-Maß auf (Rn , B(Rn )), so ist λ ◦ L−1 = | det(L)|−1 λ. Dies ist klar, weil n f¨ur a, b ∈ R mit a < b das Spat (oder Parallelepiped) L−1 ([a, b)) das Volumen n −1 | det(L )| i=1 (bi − ai ) hat. 3
Als Verallgemeinerung des letzten Beispiels geben wir hier ohne Beweis den Transformationssatz f¨ur Maße mit stetigen Dichten unter differenzierbaren Abbildungen an. Den Beweis findet man in Lehrb¨uchern zur Analysis II unter dem Stichwort Transformationssatz“ oder Substitutionsregel“ (siehe etwa [7] oder [43]). ” ” Satz 1.101 (Dichtetransformationsformel im Rn ). Es sei μ ein Maß auf Rn mit stetiger (oder st¨uckweise stetiger) Dichte f : Rn → [0, ∞), das heißt x1 xn μ((−∞, x]) = dt1 · · · dtn f (t1 , . . . , tn ) f¨ur jedes x ∈ Rn . n
−∞
−∞
Sei A ⊂ R eine offene (oder abgeschlossene) Menge mit μ(Rn \ A) = 0. Ferner sei B ⊂ Rn offen oder abgeschlossen, sowie ϕ : A → B bijektiv und stetig differenzierbar mit Ableitung ϕ′ . Dann hat das Bildmaß μ ◦ ϕ−1 die Dichte ⎧ f (ϕ−1 (x)) ⎪ ⎨ , falls x ∈ B, ′ −1 fϕ (x) = | det(ϕ (ϕ (x)))| ⎪ ⎩ 0, falls x ∈ Rn \ B.
¨ Ubung 1.4.1. Sei f : R → R, x → |x|. Zeige: Eine Borel-messbare Abbildung g : R → R ist genau dann messbar bez¨uglich σ(f ) = f −1 (B(R)), wenn g gerade ist. ♣ ¨ Ubung 1.4.2. Man zeige: Ist (Ω, A, μ) ein Maßraum, f : Ω → R messbar und g = f μ-fast u¨ berall, so braucht g nicht messbar zu sein. ♣ ¨ Ubung 1.4.3. Sei f : R → R differenzierbar mit Ableitung f ′ . Zeige: f ′ ist B(R)– B(R) messbar. ♣
¨ Ubung 1.4.4. (Vergleich Beispiele 1.40 und 1.63.) Sei Ω = {0, 1}N und A = {0,1} ⊗N (2 ) die σ-Algebra,
die von den Zylindermengen [ω11 , . . . , ω1n ] :⊗Nn ∈ N, ω1 , . . . , ωn ∈ {0, 1} erzeugt wird. Ferner sei μ = ( 2 δ0 + 2 δ1 ) das Bernoulli-Maß auf Ω mit gleichen Gewichten auf 0 und 1. F¨ur n ∈ N sei Xn : Ω → {0, 1}, ω → ωn die n-te Koordinatenabbildung, und sei U (ω) =
∞
n=1
Xn (ω) 2−n ,
f¨ur ω ∈ Ω.
42
1 Grundlagen der Maßtheorie
(i) Zeige: A = σ(Xn : n ∈ N).
(ii) Zeige: U ist A–B([0, 1]) messbar.
(iii) Bestimme das Bildmaß μ ◦ U −1 auf ([0, 1], B([0, 1])). ˜ := U bijektiv ist. (iv) Man gebe ein Ω0 ∈ A an, sodass U Ω0
˜ −1
(v) Man zeige, dass U
messbar ist bez¨uglich B([0, 1])–A
Ω0
.
˜ −1 ? (vi) Welche Interpretation hat die Abbildung Xn ◦ U
♣
1.5 Zufallsvariablen In diesem Abschnitt werden wir messbare Abbildungen als Zufallsvariablen auffassen, die zuf¨allige Beobachtungen beschreiben. Wir definieren den Begriff der Verteilung von Zufallsvariablen. Im Folgenden sei stets (Ω, A, P) ein Wahrscheinlichkeitsraum. Die Mengen A ∈ A heißen Ereignisse. P[A] wird als die Wahrscheinlichkeit interpretiert, dass A eintritt. Oft ist allerdings nicht der Wahrscheinlichkeitsraum selbst betrachtbar, sondern nur gewisse Beobachtungsgr¨oßen. Wir wollen also Wahrscheinlichkeiten daf¨ur definieren, dass Zufallsgr¨oßen bestimmte Werte annehmen und einen Kalk¨ul f¨ur, zum Beispiel, Summen von Zufallsgr¨oßen entwickeln. Definition 1.102 (Zufallsvariablen). Sei (Ω ′ , A′ ) ein Messraum und X : Ω → Ω ′ messbar. (i) X heißt Zufallsvariable mit Werten in (Ω ′ , A′ ). Ist (Ω ′ , A′ ) = (R, B(R)), so nennen wir X eine reelle Zufallsvariable oder schlicht Zufallsvariable. (ii) Ist A′ ∈ A′ , so schreiben wir {X ∈ A′ } := X −1 (A′ ) und P[X ∈ A′ ] := P[X −1 (A′ )]. Speziell schreiben wir {X ≥ 0} := X −1 ([0, ∞)) und analog {X ≤ b} und so weiter. Definition 1.103 (Verteilungen). Sei X eine Zufallsvariable. (i) Das W-Maß PX := P ◦ X −1 heißt Verteilung von X.
(ii) Ist X eine reelle Zufallsvariable, so heißt die Abbildung FX : x → P[X ≤ x] die Verteilungsfunktion von X (eigentlich von PX ). Ist μ = PX , so schreiben wir auch X ∼ μ und sagen, dass X nach μ verteilt ist.
(iii) Eine Familie (Xi )i∈I heißt identisch verteilt, falls PXi = PXj D
i, j ∈ I. Wir schreiben X = Y , falls PX = PY (D f¨ur distribution).
f¨ur alle
1.5 Zufallsvariablen
43
Satz 1.104. Zu jeder Verteilungsfunktion F existiert eine reelle Zufallsvariable X mit FX = F . Beweis. Wir m¨ussen explizit einen Wahrscheinlichkeitsraum (Ω, A, P) und eine Zufallsvariable X : Ω → R angeben mit FX = F .
Die einfachste M¨oglichkeit ist, (Ω, A) = (R, B(R)) zu w¨ahlen, X : R → R die identische Abbildung und P das Lebesgue-Stieltjes Maß mit Verteilungsfunktion F (siehe Beispiel 1.56).
Eine andere M¨oglichkeit, die zudem etwas lehrreicher ist, beruht darauf, zun¨achst unabh¨angig vom konkreten F eine Art Standard-Wahrscheinlichkeitsraum zu definieren, auf dem eine uniform auf (0, 1) verteilte Zufallsvariable definiert ist, die dann verm¨oge der Umkehrabbildung F −1 zu einer Zufallsvariablen X mit Vertei lungsfunktion F transformiert wird: Wir w¨ahlen Ω := (0, 1), A := B(R) und Ω
P das Lebesgue-Maß auf (Ω, A) (siehe Beispiel 1.74). Definiere die (linkssstetige) Inverse von F F −1 (t) := inf{x ∈ R : F (x) ≥ t}
f¨ur t ∈ (0, 1).
Dann ist F −1 (t) ≤ x ⇐⇒ t ≤ F (x).
Speziell ist {t : F −1 (t) ≤ x} = (0, F (x)] ∩ (0, 1), also ist F −1 : (Ω, A) → (R, B(R)) messbar und P[{t : F −1 (t) ≤ x}] = F (x). Mithin ist X := F −1 die gew¨unschte Zufallsvariable.
2
Beispiel 1.105. Wir geben zu verschiedenen Wahrscheinlichkeitsverteilungen auf R reelle Zufallsvariablen X mit ebendieser Verteilung an. (Der konkrete Ort in diesem Buch dient lediglich als Vorwand, um ein paar der wichtigsten Verteilungen einzuf¨uhren, auf die wir bei sp¨ateren Gelegenheiten immer wieder zur¨uckkommen.) (i) Ist p ∈ [0, 1] und P[X = 1] = p, P[X = 0] = 1 − p, so heißt PX =: Berp die Bernoulli-Verteilung mit Parameter p. Formal ist Berp = (1 − p) δ0 + p δ1 , und die Verteilungsfunktion ist FX (x) =
⎧ ⎨
0, 1 − p, ⎩ 1
falls x < 0, falls x ∈ [0, 1), falls x ≥ 1.
(ii) Ist p ∈ [0, 1] und n ∈ N sowie X : Ω → {0, . . . , n} mit n k p (1 − p)n−k , P[X = k] = k
44
1 Grundlagen der Maßtheorie
so heißt PX =: bn,p die Binomialverteilung mit Parametern n und p. Formal ist bn,p =
n n
k
k=0
pk (1 − p)n−k δk .
(iii) Ist p ∈ (0, 1] und X : Ω → N0 mit P[X = n] = p (1 − p)n
f¨ur jedes n ∈ N0 ,
1 so heißt γp := b− 1,p := PX die geometrische Verteilung mit Parameter p. Formal k¨onnen wir schreiben: ∞ γp = p (1 − p)n δn . n=0
Die Verteilungsfunktion ist
F (x) = 1 − (1 − p)⌊x⌋∨0
f¨ur x ∈ R.
Wir k¨onnen X + 1 als die Wartezeit auf den ersten Erfolg bei unabh¨angigen“ ” Zufallsexperimenten auffassen, die jeweils mit Wahrscheinlichkeit p zum Erfolg
⊗N f¨uhren. In der Tat: Sei Ω = {0, 1}N und P das Produktmaß (1 − p)δ0 + p δ1 (Satz 1.64), sowie A = σ([ω1 , . . . , ωn ] : ω1 , . . . , ωn ∈ {0, 1}, n ∈ N). Wir setzen X(ω) := inf{n ∈ N : ωn = 1} − 1, mit der Konvention inf ∅ = ∞. Offenbar ist jede der Abbildungen n − 1, falls ωn = 1, Xn : Ω → R, ω → ∞, falls ωn = 0, A – B(R)-messbar und X = inf n∈N Xn . Also ist X auch A – B(R)-messbar, also eine Zufallsvariable. Sei ω 0 := (0, 0, . . .) ∈ Ω. Dann ist P[X ≥ n] = P[[ω10 , . . . , ωn0 ]] = (1 − p)n . Also ist P[X = n] = P[X ≥ n] − P[X ≥ n + 1] = (1 − p)n − (1 − p)n+1 = p (1 − p)n . (iv)
Seien r > 0 (nicht notwendigerweise ganzzahlig) und p ∈ (0, 1]. Mit b− r,p
:=
∞ −r
k=0
k
(−1)k pr (1 − p)k δk
(1.17)
bezeichnen wir die negative Binomialverteilung oder Pascal-Verteilung mit Pa rametern r und p. (Hierbei ist xk = x(x−1)···(x−k+1) f¨ur x ∈ R und k ∈ N der k! 1
Obacht: Manche Autoren nennen die um Eins verschobene Verteilung auf N die geometrische Verteilung.
1.5 Zufallsvariablen
45
¨ hnlich wie im vorangeverallgemeinerte Binomialkoeffizient.) F¨ur r ∈ N ist b− r,p , a henden Beispiel, die Verteilung der Wartezeit auf den r-ten Erfolg bei unabh¨angigen Versuchen. Wir werden hierauf in Beispiel 3.4(iv) zur¨uckkommen. (v)
Ist λ ∈ [0, ∞) und X : Ω → N0 mit P[X = n] = e−λ
λn n!
f¨ur jedes n ∈ N0 ,
so heißt PX =: Poiλ die Poisson-Verteilung mit Parameter λ. (vi)
Die hypergeometrische Verteilung mit Parametern S, W, n ∈ N
S W n−s HypS,W,n ({s}) = sS+W , n
s ∈ {0, . . . , n},
(1.18)
gibt die Wahrscheinlichkeit an, aus einer Urne mit S schwarzen und W weißen Kugeln bei n-maligen Ziehen ohne Zur¨ucklegen genau s schwarze Kugeln zu ziehen. (vii) Seien μ ∈ R, σ 2 > 0 und X reell mit x (t−µ)2 1 √ P[X ≤ x] = e− 2σ2 dt 2πσ 2 −∞
f¨ur x ∈ R,
Dann heißt PX =: Nμ,σ2 Gauß’sche Normalverteilung mit Parametern μ und σ 2 . (viii) Ist X ≥ 0 reell und θ > 0, sowie P[X ≤ x] = P[X ∈ [0, x]] =
x 0
θe−θt dt
f¨ur x ≥ 0,
so heißt PX Exponentialverteilung mit Parameter θ (kurz: expθ ). (ix) Ist X Rd -wertig, μ ∈ Rd , Σ eine positiv definite d × d Matrix und 1% & t − μ, Σ −1 (t − μ) λd (dt) P[X ≤ x] = det(2π Σ)−1/2 exp − 2 (−∞,x] f¨ur x ∈ Rd (wobei · , · ! das Skalarprodukt im Rd bezeichnet), so heißt PX =: Nμ,Σ die d-dimensionale Normalverteilung mit Parametern μ und Σ. 3 Definition 1.106. Hat die Verteilungsfunktion F : Rn → [0, 1] die Gestalt x1 xn F (x) = dt1 · · · dtn f (t1 , . . . , tn ) f¨ur x = (x1 , . . . , xn ) ∈ Rn , −∞
−∞
f¨ur eine integrierbare Funktion f : Rn → [0, ∞), so heißt f die Dichte der Verteilung.
46
1 Grundlagen der Maßtheorie
Beispiel 1.107.
(i) F¨ur θ, r > 0 heißt die Verteilung Γθ,r auf [0, ∞) mit Dichte x →
θr xr−1 e−θx Γ (r)
(wo Γ die Gamma-Funktion bezeichnet) Gamma-Verteilung mit Gr¨oßenparameter θ und Formparameter r. (ii) F¨ur r, s > 0 heißt die Verteilung βr,s auf [0, 1] mit Dichte x →
Γ (r + s) r−1 x (1 − x)s−1 Γ (r)Γ (s)
Beta-Verteilung mit Parametern r und s. (iii) F¨ur a > 0 heißt die Verteilung Caua auf R mit Dichte x →
1 1 aπ 1 + (x/a)2
Cauchy-Verteilung mit Parameter a.
3
¨ Ubung 1.5.1. Man leite (1.17) nach als Wartezeit kombinatorisch
der Interpretation
n+k−1 k her unter Benutzung der Identit¨at −n . ♣ k (−1) = k ¨ Ubung 1.5.2. Man gebe ein Beispiel an f¨ur zwei normalverteilte X und Y , sodass (X, Y ) nicht (zweidimensional) normalverteilt ist. ♣ ¨ Ubung 1.5.3. Man zeige mit Hilfe von Satz 1.101 (Transformationsformel f¨ur Dichten): (i) Ist X ∼ Nμ,σ2 und sind a ∈ R\{0} und b ∈ R, so ist (aX +b) ∼ Naμ+b,a2 σ2 .
(ii) Ist X ∼ expθ und a > 0, so ist aX ∼ expθ/a .
♣
2 Unabh¨angigkeit
Die Maßtheorie aus dem vorigen Kapitel ist eine lineare Theorie, die keine Abh¨angigkeitsstrukturen zwischen Ereignissen oder Zufallsvariablen kennt. Wir betreten das Gebiet der Wahrscheinlichkeitstheorie genau an dieser Stelle mit der Definition der Unabh¨angigkeit von Ereignissen und schließlich von Zufallsvariablen. Die Unabh¨angigkeit ist ein zentraler Begriff der Wahrscheinlichkeitstheorie, die Quantifizierung von Abh¨angigkeiten eines ihrer wichtigen Anliegen. Fortan ist stets (Ω, A, P) ein Wahrscheinlichkeitsraum, und die Mengen A ∈ A sind die Ereignisse. Sobald wir die Phase hinter uns gelassen haben, in der wir WR¨aume explizit konstruieren, wird der konkrete W-Raum in den Hintergrund treten, und die beobachtbaren Gr¨oßen, also Zufallsvariablen, werden an Bedeutung gewinnen. Das fett gedruckte P steht dann f¨ur das universelle Objekt des W-Maßes, und Wahrscheinlichkeiten P[ · ] bez¨uglich P werden stets mit eckigen Klammern geschrieben.
2.1 Unabh¨angigkeit von Ereignissen Wir wollen zwei Ereignisse A und B als (stochastisch) unabh¨angig betrachten, wenn das Eintreten von A nicht die Wahrscheinlichkeit beeinflusst, dass zudem B eintritt. Etwas formaler k¨onnen wir diesen intuitiven Begriff fassen, indem wir A und B als unabh¨angig betrachten, wenn P[A ∩ B] = P[A] · P[B].
(2.1)
¨ Beispiel 2.1 (Zweifacher Wurfelwurf). Wir betrachten das Zufallsexperiment des zweifachen W¨urfelwurfes. Es ist also Ω = {1, . . . , 6}2 mit der σ-Algebra A = 2Ω und der Gleichverteilung P = UΩ (siehe Beispiel 1.30(ii)).
(i) Zwei Ereignisse A und B sollten unabh¨angig sein, wenn A nur vom Ergebnis des ersten Wurfes abh¨angt, B hingegen nur vom Ergebnis des zweiten Wurfes. Formal beschreiben wir diese Situation, indem wir annehmen, dass es Mengen ˜ B ˜ ⊂ {1, . . . , 6} gibt mit A, A = A˜ × {1, . . . , 6}
und
˜ B = {1, . . . , 6} × B.
48
2 Unabh¨angigkeit
Wir pr¨ufen jetzt, dass A und B tats¨achlich (2.1) erf¨ullen. Dazu berechnen wir ˜ ˜ #A #B #B P[A] = #A 36 = 6 und P[B] = 36 = 6 . Ferner ist P[A ∩ B] =
˜ ˜ #A˜ #B #(A˜ × B) = · = P[A] · P[B]. 36 6 6
(ii) Stochastische Unabh¨angigkeit kann auch in weniger augenf¨alligen Situationen auftreten. Sei hierzu A das Ereignis, dass die Augensumme ungerade ist, A = (ω1 , ω2 ) ∈ Ω : ω1 + ω2 ∈ {3, 5, 7, 9, 11} , und B das Ereignis, dass
der erste Wurf h¨ochstens eine Drei bringt, B = {(ω1 , ω2 ) ∈ Ω : ω1 ∈ {1, 2, 3} . Obwohl beide Ereignisse anscheinend etwas miteinander zu tun haben, sind sie stochastisch unabh¨angig, denn es gilt, wie man leicht pr¨uft, P[A] = P[B] = 21 und P[A ∩ B] = 41 . 3 Wann sind nun drei Ereignisse A1 , A2 , A3 unabh¨angig? Hierzu muss nat¨urlich jedes der Paare (A1 , A2 ), (A1 , A3 ) und (A2 , A3 ) unabh¨angig sein. Jedoch wollen wir auch sicherstellen, dass beispielsweise das Eintreten von A1 und A2 nicht die Wahrscheinlichkeit f¨ur das zus¨atzliche Eintreten von A3 beeinflusst. Wir m¨ussen also mehr als nur Paare betrachten. Formal nennen wir daher drei Ereignisse A1 , A2 und A3 (stochastisch) unabh¨angig, falls P[Ai ∩ Aj ] = P[Ai ] · P[Aj ] f¨ur alle i, j ∈ {1, 2, 3}, i = j, (2.2) und
(2.3)
P[A1 ∩ A2 ∩ A3 ] = P[A1 ] · P[A2 ] · P[A3 ].
Man beachte, dass (2.3) nicht aus (2.2) folgt (und (2.2) nicht aus (2.3)). ¨ Beispiel 2.2 (Dreifacher Wurfelwurf). Wir betrachten den dreifachen Wurf eines W¨urfels. Sei also Ω = {1, . . . , 6}3 ausgestattet mit der diskreten σ-Algebra A = 2Ω und der Gleichverteilung P = UΩ (siehe Beispiel 1.30(ii)). (i) H¨angt f¨ur i = 1, 2, 3 das Ereignis Ai nur vom i-ten Wurf ab, so sind die Ereignisse A1 , A2 und A3 unabh¨angig. In der Tat k¨onnen wir sie wie im vorangehenden Beispiel f¨ur gewisse Mengen A˜1 , A˜2 , A˜3 ⊂ {1, . . . 6} schreiben als A1 = A˜1 × {1, . . . , 6}2 , A2 = {1, . . . , 6} × A˜2 × {1, . . . , 6}, A3 = {1, . . . , 6}2 × A˜3 .
Die G¨ultigkeit von (2.2) folgt wie in Beispiel 2.1(i). Um (2.3) zu zeigen, berechnen wir 3
P[A1 ∩ A2 ∩ A3 ] =
3
#(A˜1 × A˜2 × A˜3 ) #A˜i = = P[Ai ]. 216 6 i=1 i=1
(ii) Wir betrachten nun die folgenden drei Ereignisse
2.1 Unabh¨angigkeit von Ereignissen
49
A1 := {ω ∈ Ω : ω1 = ω2 },
A2 := {ω ∈ Ω : ω2 = ω3 }, A3 := {ω ∈ Ω : ω1 = ω3 }.
Dann ist #A1 = #A2 = #A3 = 36, also P[A1 ] = P[A2 ] = P[A3 ] = 61 . Ferner 1 . Daher gilt (2.2). Jedoch ist ist #(Ai ∩ Aj ) = 6, falls i = j, also P[Ai ∩ Aj ] = 36 1 #(A1 ∩ A2 ∩ A3 ) = 6, also P[A1 ∩ A2 ∩ A3 ] = 36 = 16 · 16 · 61 , mithin ist (2.3) verletzt, und die Ereignisse A1 , A2 , A3 sind nicht unabh¨angig. 3 Um f¨ur gr¨oßere Familien von Ereignissen Unabh¨angigkeit zu definieren, m¨ussen wir die G¨ultigkeit von Produktformeln wie (2.2) und (2.3) nunmehr nicht nur f¨ur Paare und Tripel fordern, sondern f¨ur alle endlichen Teilfamilien. Wir treffen daher die folgende Definition. Definition 2.3 (Unabh¨angigkeit von Ereignissen). Sei I eine beliebige Indexmenge, und sei (Ai )i∈I eine beliebige Familie von Ereignissen. Die Familie (Ai )i∈I heißt unabh¨angig, falls f¨ur jede endliche Teilmenge J ⊂ I gilt, dass ' ( P Aj = P[Aj ]. j∈J
j∈J
Das wichtigste Beispiel f¨ur eine unendlich große, unabh¨angige Familie von Ereignissen wird durch die unendliche (unabh¨angige) Wiederholung eines Zufallsexperiments gegeben. Beispiel 2.4. Sei E eine endliche Menge (die m¨oglichen Ausg¨ange des einzelnen Experiments) und (pe )e∈E ein Wahrscheinlichkeitsvektor auf E. Sei (wie in Satz 1.64) der Wahrscheinlichkeitsraum Ω = E N ausgestattet mit der σ-Algebra
⊗N A = σ({[ω1 , . . . , ωn ] : ω1 , . . . , ωn ∈ E, n ∈ N}) und P = das e∈E pe δe n * ) Produktmaß (oder Bernoulli-Maß) auf (Ω, A), also P [ω1 , . . . , ωn ] = pωi . Sei i=1
A˜i ⊂ E f¨ur jedes i ∈ N, und Ai das Ereignis, dass A˜i im i-ten Durchgang des Experiments auftritt, also
Ai = ω ∈ Ω : ωi ∈ A˜i = [ω1 , . . . , ωi ]. ˜i (ω1 ,...,ωi )∈E i−1 ×A
Nach unserer Intuition sollte die Familie (Ai )i∈N unabh¨angig sein, wenn die Definition der Unabh¨angigkeit sinnvoll sein soll. Wir weisen jetzt nach, dass dies in der Tat richtig ist. Sei J ⊂ N endlich mit k := #J und n := max J. Wir setzen formal ˜j = A˜j f¨ur j ∈ J und Bj = Ω und B ˜j = E f¨ur j ∈ {1, . . . , n} \ J. Bj = Aj und B Dann ist
50
2 Unabh¨angigkeit
P
+
j∈J
, + , + , n Aj = P Bj = P Bj j=1
j∈J
=
˜1 e1 ∈ B
···
n
p ej =
˜ n j=1 en ∈ B
n
j=1
pe
˜j e∈B
Dies gilt speziell nat¨urlich f¨ur #J = 1, also ist P[Ai ] = Es folgt + , P[Aj ]. Aj = P
=
˜i e∈A
j∈J
˜j e∈A
pe .
pe f¨ur jedes i ∈ N. (2.4)
j∈J
j∈J
Da dies f¨ur alle endlichen J ⊂ N gilt, ist die Familie (Ai )i∈N unabh¨angig.
3
Sind A und B unabh¨angig, so sind auch Ac und B unabh¨angig, denn P[Ac ∩ B] = P[B] − P[A ∩ B] = P[B] − P[A]P[B] = (1 − P[A])P[B] = P[Ac ]P[B]. Wir wollen diese Beobachtung etwas verallgemeinern und als Satz festhalten. Satz 2.5. Sei I eine beliebige Indexmenge, und sei (Ai )i∈I eine Familie von Ereignissen. Setze Bi0 = Ai und Bi1 = Aci f¨ur i ∈ I. Dann sind folgende drei Aussagen a¨ quivalent. (i) Die Familie (Ai )i∈I ist unabh¨angig. (ii) Es gibt ein α ∈ {0, 1}I , sodass die Familie (Biαi )i∈I unabh¨angig ist.
(iii) F¨ur jedes α ∈ {0, 1}I ist die Familie (Biαi )i∈I unabh¨angig. ¨ Beweis Ubung!
Beispiel 2.6 (Euler’sche Primzahlformel). Die Riemann’sche Zetafunktion ist definiert durch die Dirichlet-Reihe ζ(s) :=
∞
n−s
n=1
f¨ur s ∈ (1, ∞).
Die Euler’sche Primzahlformel ist die Produktdarstellung −1 ζ(s) = 1 − p−s ,
(2.5)
p∈P
wobei P := {p ∈ N : p ist Primzahl} ist.
Wir beweisen die Produktdarstellung probabilistisch. Sei Ω = N und (f¨ur festes s) P definiert durch P[{n}] = ζ(s)−1 n−s f¨ur n ∈ N.
Sei pN = {pn : n ∈ N} und Pn = {p ∈ P : p ≤ n}. Wir fassen pN ⊂ Ω als Ereignis auf und bemerken, dass (pN, p ∈ P) unabh¨angig ist. In der Tat: F¨ur k ∈ N k und unterschiedliche p1 , . . . , pk ∈ P ist i=1 pi N = (p1 · · · pk )N, also
2.1 Unabh¨angigkeit von Ereignissen
P
-
k
.
(pi N) =
i=1
∞ ) * P {p1 · · · pk n}
51
n=1
= ζ(s)−1 (p1 · · · pk )−s = (p1 · · · pk )−s =
k
∞
n−s
n=1
P[ pi N ].
i=1
Nach Satz 2.5 ist nun auch ((pN)c , p ∈ P) unabh¨angig. Deshalb gilt , + c −1 ζ(s) = P[{1}] = P (pN) = lim P n→∞
'
p∈P
(pN)c
p∈Pn
(
= lim 1 − P[ pN ] = 1 − p−s . n→∞
p∈Pn
p∈P
Damit ist (2.5) gezeigt.
3
Wenn wir einen W¨urfel unendlich oft werfen, wie groß ist die Wahrscheinlichkeit, dass unendlich oft (also: immer wieder mal) eine Sechs geworfen wird? Diese Wahrscheinlichkeit sollte Eins sein, denn sonst g¨abe es einen letzten Zeitpunkt, zu dem eine Sechs f¨allt und danach nicht wieder. Dies w¨are zumindest nicht sehr plausibel. Man erinnere sich daran, wie wir mit Hilfe des Limes superior (Definition 1.13) formalisiert hatten, dass unendlich viele Ereignisse aus einer Familie von Ereignissen eintreten. Der folgende Satz best¨atigt nun unsere oben ge¨außerte Vermutung und gibt zudem Auskunft dar¨uber, unter welchen Bedingungen wir nicht erwarten k¨onnen, dass unendlich viele der Ereignisse eintreten. Satz 2.7 (Lemma von Borel-Cantelli). Seien A1 , A2 , . . . Ereignisse, und sei A∗ = lim sup An . n→∞
(i) Ist
∞
n=1
P[An ] < ∞, so ist P[A∗ ] = 0. (Hier kann P ein beliebiges Maß
auf (Ω, A) sein.)
(ii) Ist (An )n∈N unabh¨angig und
∞
n=1
P[An ] = ∞, so ist P[A∗ ] = 1.
Beweis. (i) Da P stetig von oben und σ-subadditiv ist, ist nach Voraussetzung - ∞ . ∞ ∗ P[A ] = lim P P[Am ] = 0. Am ≤ lim n→∞
m=n
n→∞
m=n
52
2 Unabh¨angigkeit
(ii) Offensichtlich ist log(1 − x) ≤ −x f¨ur x ∈ [0, 1]. Nach den de Morgan’schen Regeln und der Stetigkeit von P von unten gilt daher - ∞ ∞ . - ∞ . ) ∗ c* c c P (A ) = P An = lim P An . m→∞
m=1 n=m
n=m
Nun ist aber f¨ur jedes m ∈ N
+ , ∞ ∞
P Acn = 1 − P[An ] n=m
n=m
= exp
∞
n=m
log 1 − P[An ]
≤ exp
−
∞
n=m
P[An ] = 0.
2
Beispiel 2.8. Wir betrachten den unendlich oft wiederholten W¨urfelwurf und fragen nach der Wahrscheinlichkeit, dass unendlich oft die Sechs auftritt. Es ist also Ω = {1, . . . , 6}N , A = (2{1,...,6} )⊗N die Produkt-σ-Algebra und P = ⊗N
1 das Bernoulli-Maß (vergleiche Satz 1.64). Ferner sei An = 6 δe e∈{1,...,6}
{ω ∈ Ω : ωn = 6} das Ereignis, dass beim n-ten Wurf eine Sechs auftritt. Dann ist A∗ = lim sup An das Ereignis, dass unendlich oft eine Sechs auftritt (sien→∞
he Beispiel 1.14). Ferner ist (An )n∈N eine unabh¨angige Familie mit ∞
n=1
∞
P[An ] =
n=1 1 6
= ∞ und deshalb nach dem Lemma von Borel-Cantelli P[A∗ ] = 1.
3
Beispiel 2.9. Wir werfen einen W¨urfel nur einmal und definieren An f¨ur jedes n ∈ N als das Ereignis, dass bei diesem (einen) Wurf eine Sechs geworfen wurde. Man bemerke, dass A1 = A2 = A3 = . . . Dann ist n∈N P[An ] = ∞, jedoch P[A∗ ] = P[A1 ] = 16 . Dies zeigt, dass in Teil (ii) des Lemmas von Borel-Cantelli nicht ohne weiteres auf die Unabh¨angigkeit verzichtet werden kann. 3 Beispiel 2.10. Sei Λ ∈ (0, ∞) und 0 ≤ λn ≤ Λ f¨ur n ∈ N. Ferner seien Xn , n ∈ N, Poisson-verteilte Zufallsvariablen mit Parametern λn . Dann gilt ) * P Xn ≥ n f¨ur unendlich viele n = 0. Es ist n¨amlich ∞
n=1
P[Xn ≥ n] = =
∞ ∞
n=1 m=n ∞ m m=1 n=1
P[Xn = m] = e−λn
λm n ≤ m!
∞ m
m=1 n=1 ∞ m
m
m=1
P[Xn = m]
Λ = Λ eΛ < ∞. m!
3
2.1 Unabh¨angigkeit von Ereignissen
53
Da im obigen Satz, zumindest im Falle unabh¨angiger Ereignisse, nur die Wahrscheinlichkeiten P[A∗ ] = 0 und P[A∗ ] = 1 auftreten k¨onnen, z¨ahlt das Lemma von Borel-Cantelli zu den so genannten 0-1 Gesetzen. Wir werden sp¨ater weitere 0-1 Gesetze kennen lernen (siehe beispielsweise Satz 2.37). Wir wollen jetzt den Begriff der Unabh¨angigkeit von Familien von Ereignissen auf Familien von Ereignissystemen ausdehnen. Definition 2.11 (Unabh¨angigkeit von Mengensystemen). Sei I eine beliebige Indexmenge und Ei ⊂ A f¨ur jedes i ∈ I. Die Familie (Ei )i∈I heißt unabh¨angig, falls f¨ur jede endliche Teilmenge J ⊂ I und f¨ur jede Wahl von Ej ∈ Ej , j ∈ J, gilt, dass + , Ej = P[Ej ]. (2.6) P j∈J
j∈J
Beispiel 2.12. Sei (Ω, A, P) wie in Beispiel 2.4 der Produktraum der unendlichen Wiederholung des Experiments mit Ausg¨angen in der endlichen Menge E mit Wahrscheinlichkeitsvektor p = (pe )e∈E . Setze f¨ur i ∈ N
Ei = {ω ∈ Ω : ωi ∈ A} : A ⊂ E . Dann ist f¨ur jede Wahl von Ai ∈ Ei , i ∈ N, die Familie (Ai )i∈N unabh¨angig, also ist (Ei )i∈N unabh¨angig. 3
Satz 2.13. gilt
(ii) (Ei )i∈I
(i) Sei I endlich, und f¨ur jedes i ∈ I sei Ei ⊂ A mit Ω ∈ Ei . Dann (Ei )i∈I ist unabh¨angig ⇐⇒ (2.6) gilt f¨ur J = I.
ist unabh. ⇐⇒ (Ej )j∈J ist unabh. f¨ur alle endlichen J ⊂ I .
(iii) Ist (Ei ∪ {∅}) ∩-stabil, dann gilt (Ei )i∈I ist unabh¨angig
⇐⇒ (σ(Ei ))i∈I ist unabh¨angig.
(iv) Sei K eine beliebige Menge und (Ik )k∈K paarweise
disjunkte Teilmengen von I. Ist (Ei )i∈I unabh¨angig, dann ist auch E angig. i∈Ik i k∈K unabh¨ Beweis. (i) =⇒ “ Dies ist trivial. ” (i) ⇐= “ F¨ur J ⊂ I und j ∈ I \ J w¨ahle Ej = Ω. ” (ii) Dies ist trivial. (iii) ⇐= “ ”
Dies ist trivial.
54
2 Unabh¨angigkeit
(iii) =⇒ “ Sei J ⊂ I endlich. Wir zeigen: F¨ur je zwei endliche Mengen J und ” J ′ mit J ⊂ J ′ ⊂ I gilt + , Ei ∈ σ(Ei ), falls i ∈ J, (2.7) P Ei = P[Ei ] f¨ur jede Wahl Ei ∈ Ei , falls i ∈ J ′ \ J. i∈J ′ i∈J ′ Mit J ′ = J ist dies genau die zu zeigende Aussage. Wir f¨uhren den Beweis von (2.7) durch vollst¨andige Induktion nach #J. F¨ur #J = 0 gilt (2.7) nach Voraussetzung des Satzes. Es gelte nun (2.7) f¨ur jedes J mit #J = n und jedes endliche J ′ ⊃ J. Sei solch ein J gew¨ahlt und j ∈ I \ J. Sei J ′ ⊃ J˜ := J ∪ {j}. Wir zeigen nun die G¨ultigkeit von (2.7) mit J˜ statt mit J. Wegen #J˜ = n + 1 ist damit der Induktionsschritt gezeigt. Sei Ei ∈ σ(Ei ) f¨ur jedes i ∈ J und Ei ∈ Ei f¨ur jedes i ∈ J ′ \ (J ∪ {j}). Wir definieren Maße μ und ν auf (Ω, A) durch + , μ : Ej → P Ei und ν : Ej → P[Ei ]. i∈J ′
i∈J ′
Nach Induktionsvoraussetzung (2.7) gilt μ(Ej ) = ν(Ej ) f¨ur jedes Ej ∈ Ej ∪{∅, Ω}. Da Ej ∪ {∅} schnittstabil ist, gilt nach Lemma 1.42 auch μ(Ej ) = ν(Ej ) f¨ur jedes Ej ∈ σ(Ej ), das heißt, es gilt (2.7) mit J ∪ {j} statt J. (iv)
Dies ist trivial, weil (2.6) nur f¨ur J ⊂ I mit #(J ∩ Ik ) ≤ 1
f¨ur jedes k ∈ K,
nachgewiesen werden muss.
2
2.2 Unabh¨angigkeit von Zufallsvariablen Nachdem wir Unabh¨angigkeit von Ereignissen behandelt haben, wollen wir auch Unabh¨angigkeit von Zufallsvariablen betrachten. Auch hier l¨auft die Definition auf eine Produktformel hinaus. Formal k¨onnen wir jedoch die Unabh¨angigkeit der von Zufallsvariablen erzeugten σ-Algebren als Definition heranziehen. Wir k¨onnen dann Verteilungen von Summen unabh¨angiger Zufallsvariablen vermittels Faltung ausrechnen. Da wir an dieser Stelle noch keinen allgemeinen Integralbegriff zur Verf¨ugung haben, bringen wir die Faltung zun¨achst nur f¨ur Zufallsvariablen mit ganzzahligen Werten. Sei I eine beliebige Indexmenge, und f¨ur jedes i ∈ I sei (Ωi , Ai ) ein Messraum sowie Xi : (Ω, A) → (Ωi , Ai ) eine Zufallsvariable mit erzeugter σ-Algebra σ(Xi ) = Xi−1 (Ai ).
2.2 Unabh¨angigkeit von Zufallsvariablen
55
Definition 2.14 (Unabh¨angigkeit von Zufallsvariablen). Die Familie (Xi )i∈I von Zufallsvariablen heißt unabh¨angig, falls die Familie (σ(Xi ))i∈I von σAlgebren unabh¨angig ist. Wir schreiben, dass (Xi )i∈I u.i.v.“ ist, f¨ur unabh¨angig und identisch verteilt“ ” ” (englisch: i.i.d.“ f¨ur independent and identically distributed“), falls (Xi )i∈I un” ” abh¨angig ist und PXi = PXj f¨ur alle i, j ∈ I gilt. Bemerkung 2.15. (i) Ist (A˜i )i∈I eine unabh¨angige Familie von σ-Algebren und ist jedes Xi messbar bez¨uglich A˜i – Ai , so ist (Xi )i∈I unabh¨angig. Dies ist klar, weil σ(Xi ) ⊂ A˜i , also die Bedingung an die Unabh¨angigkeit von (Xi )i∈I schw¨acher ist als die Bedingung an die Unabh¨angigkeit von (A˜i )i∈I . (ii) F¨ur jedes i ∈ I sei (Ωi′ , A′i ) ein weiterer Messraum, sowie fi : (Ωi , Ai ) → (Ωi′ , A′i ) eine messbare Abbildung. Ist (Xi )i∈I unabh¨angig, so ist (fi ◦ Xi )i∈I unabh¨angig. Diese Aussage ist ein Spezialfall von (i), weil fi ◦Xi messbar ist bez¨uglich σ(Xi ) – A′i (siehe Satz 1.80). 3 Satz 2.16 (Unabh¨angigkeit von Erzeugern). F¨ur jedes i ∈ I sei Ei ⊂ Ai ein schnittstabiler Erzeuger von Ai . Ist (Xi−1 (Ei ))i∈I unabh¨angig, so ist (Xi )i∈I unabh¨angig. Beweis. Nach Satz 1.81(iii) ist Xi−1 (Ei ) ist ein schnittstabiler Erzeuger der σAlgebra Xi−1 (Ai ) = σ(Xi ). Mit Satz 2.13 folgt die Aussage. 2 Beispiel 2.17. Sei E eine h¨ochstens abz¨ahlbare Menge, und seien (Xi )i∈I Zufallsvariablen mit Werten in (E, 2E ). In diesem Falle ist (Xi )i∈I genau dann unabh¨angig, wenn f¨ur jede endliche Teilmenge J ⊂ I und jede Wahl von xj ∈ E, j ∈ J, gilt, dass ) * P Xj = xj f¨ur jedes j ∈ J = P[Xj = xj ]. j∈J
Dies ist klar, weil {x} : x ∈ E ∪ {∅} ein schnittstabiler Erzeuger von 2E ist,
also Xi−1 ({xi }) : xi ∈ E ∪ {∅} ein schnittstabiler Erzeuger von σ(Xi ) ist (Satz 1.81). 3 Beispiel 2.18. Sei E eine endliche Menge und p = (pe )e∈E ein Wahrscheinlichkeitsvektor. Wir wollen das zu E und p geh¨orige Zufallsexperiment unendlich oft unabh¨angig wiederholen (siehe Beispiel 1.40 und Satz 1.64). Sei Ω = E N der unendliche Produktraum und A die von den endlichen Zylindermengen (siehe (1.8))
⊗N erzeugte σ-Algebra, sowie P = das Bernoulli-Maß. Ferner sei f¨ur e∈E pe δe jedes n ∈ N
56
2 Unabh¨angigkeit
Xn : Ω → E,
(ωm )m∈N → ωn ,
die Projektion auf die n-te Koordinate. Mit anderen Worten: Zu jedem Elementarereignis ω ∈ Ω liefert Xn (ω) das Ergebnis des n-ten Experiments. Dann gilt nach (2.4) (in Beispiel 2.4) f¨ur n ∈ N und x ∈ E n + , n ) * ) * −1 P Xj = xj f¨ur jedes j = 1, . . . , n = P [x1 , . . . , xn ] = P Xj ({xj }) j=1
=
n
j=1
n ) * P Xj−1 ({xj }) = P[Xj = xj ], j=1
sowie P[Xj = xj ] = pxj . Nach Satz 2.13(i) sind also (X1 , . . . , Xn ) unabh¨angig und nach Satz 2.13(ii) auch (Xn )n∈N . 3 Speziell haben wir den folgenden Satz gezeigt. Satz 2.19. Sei E eine endliche Menge und (pe )e∈E ein Wahrscheinlichkeitsvektor auf E. Dann existiert ein Wahrscheinlichkeitsraum (Ω, A, P) und eine unabh¨angige Familie (Xn )n∈N von E-wertigen Zufallsvariablen auf (Ω, A, P) mit P[Xn = e] = pe f¨ur jedes e ∈ E. Wir werden sp¨ater sehen, dass wir auf die Endlichkeit von E verzichten k¨onnen und auch unterschiedliche Verteilungen zulassen k¨onnen. F¨ur den Moment gibt uns dieser Satz aber gen¨ugend Beispiele f¨ur abz¨ahlbare Familien von unabh¨angigen Zufallsvariablen an die Hand. Wir wollen nun einfache Kriterien zur Pr¨ufung der Unabh¨angigkeit von Zufallsvariablen herleiten, die sich mit Hilfe von Verteilungsfunktionen beziehungsweise Dichten ausdr¨ucken lassen. Definition 2.20. F¨ur jedes i ∈ I sei Xi eine reelle Zufallsvariable. F¨ur jede endliche Teilmenge J ⊂ I sei FJ := F(Xj )j∈J : RJ → [0, 1],
, +
* ) −1 Xj (−∞, xj ] . x → P Xj ≤ xj f¨ur jedes j ∈ J = P j∈J
Dann heißt FJ die gemeinsame Verteilungsfunktion von (Xj )j∈J . Das W-Maß P(Xj )j∈J auf RJ heißt gemeinsame Verteilung von (Xj )j∈J . Satz 2.21. Eine Familie (Xi )i∈I reeller Zufallsvariablen ist genau dann unabh¨angig, wenn f¨ur jedes endliche J ⊂ I und jedes x = (xj )j∈J ∈ RJ gilt, dass FJ (x) = F{j} (xj ). (2.8) j∈J
2.2 Unabh¨angigkeit von Zufallsvariablen
57
Beweis. Das Mengensystem {(−∞, b], b ∈ R} ist ein schnittstabiler Erzeuger der Borel’schen σ-Algebra B(R) (siehe Satz 1.23). Die Gleichung (2.8) besagt nun aber, dass f¨ur jede Wahl von reellen Zahlen (xi )i∈I die Ereignisse (X −1 ((−∞, xi ]))i∈I unabh¨angig sind. Nach Satz 2.16 folgt daher die Aussage dieses Satzes. 2 Korollar 2.22. Zus¨atzlich zur Situation von Satz 2.21 nehmen wir an, dass jedes FJ eine stetige Dichte fJ = f(Xj )j∈J hat, das heißt, es gibt eine stetige Abbildung fJ : RJ → [0, ∞) mit xj1 xjn FJ (x) = dt1 · · · dtn fJ (t1 , . . . , tn ) f¨ur jedes x ∈ RJ , −∞
−∞
(wobei J = {j1 , . . . , jn }). Dann ist die Familie (Xi )i∈I genau dann unabh¨angig, wenn f¨ur jedes endliche J ⊂ I gilt fj (xj ) f¨ur jedes x ∈ RJ . (2.9) fJ (x) = j∈J
Korollar 2.23. Seien n ∈ N und μ1 , . . . , μn W-Maße auf (R, B(R)). Dann existiert ein W-Raum (Ω, A, P) und eine unabh¨angige Familie von Zufallsvariablen (Xi )i=1,...,n auf (Ω, A, P) mit PXi = μi f¨ur jedes i = 1, . . . , n. /n Beweis. Sei Ω = Rn und A = B(Rn ) sowie P = i=1 μi das Produktmaß der μi (siehe Satz 1.61). Ferner sei Xi : Rn → R, (x1 , . . . , xn ) → xi die Projektion auf die i-te Koordinate f¨ur jedes i = 1, . . . , n. Dann ist f¨ur jedes i = 1, . . . , n ) * F{i} (x) = P[Xi ≤ x] = P Ri−1 × (−∞, x] × Rn−i−1
= μi (−∞, x] · μj (R) = μi (−∞, x] . j =i
Also gilt tats¨achlich PXi = μi . Ferner ist f¨ur x1 , . . . , xn ∈ R F{1,...,n} (x1 , . . . , xn ) = P
+
n
, n n
F{i} (xi ). (−∞, xi ] = μi (−∞, xi ] =
× i=1
i=1
i=1
Nach Satz 2.21 (und Satz 2.13(i)) folgt die Unabh¨angigkeit von (Xi )i=1,...,n .
2
Beispiel 2.24. Seien X1 , . . . , Xn unabh¨angige, exponentialverteilte Zufallsvariab0x len mit Parametern θ1 , . . . , θn ∈ (0, ∞). Dann ist F{i} (x) = 0 θi exp(−θi t) dt = 1 − exp(−θi x) f¨ur x ≥ 0 und daher F{1,...,n}
n
(x1 , . . . , xn ) = 1 − e−θi xi . i=1
Betrachte nun die Zufallsvariable Y = max(X1 , . . . , Xn ). Dann ist
58
2 Unabh¨angigkeit
) * FY (x) = P Xi ≤ x f¨ur jedes i = 1, . . . , n n
1 − e−θi x . = F{1,...,n} (x, . . . , x) = i=1
F¨ur die Zufallsvariable Z := min(X1 , . . . , Xn ) hat die Verteilungsfunktion eine sch¨one geschlossene Form FZ (x) = 1 − P[Z > x] ) * = 1 − P Xi > x f¨ur jedes i = 1, . . . , n n
=1− e−θi x = 1 − exp − (θ1 + . . . + θn ) x . i=1
Mit anderen Worten: Z ist exponentialverteilt mit Parameter θ1 + . . . + θn .
3
Beispiel 2.25. Seien μi ∈ R und σi2 > 0, i ∈ I, sowie (Xi )i∈I reell mit gemeinsamen Dichtefunktionen (f¨ur endliches J ⊂ I) 1 (xj − μj )2 2 −2 exp − fJ (x) = 2πσj f¨ur x ∈ RJ . 2σj2 j∈J
j∈J
Dann sind die (Xi )i∈I unabh¨angig und normalverteilt mit Parametern (μi , σi2 ). F¨ur jedes endliche I = {i1 , . . . , in } (mit paarweise unterschiedlichen i1 , . . . , in ) ist der Vektor Y = (Xi1 , . . . , Xin ) n-dimensional normalverteilt mit μ = μI := (μi1 , . . . , μin ) und Σ = Σ I die Diagonalmatrix mit Eintr¨agen σi21 , . . . , σi2n (vergleiche Beispiel 1.105(ix)). 3
Satz 2.26. Sei K eine beliebige Menge und Ik , k ∈ K, beliebige paarweise disjunkte Indexmengen sowie I = Ik . k∈K
Ist die Familie (Xi )i∈I unabh¨angig, dann sind auch die σ-Algebren (σ(Xj , j ∈ Ik ))k∈K unabh¨angig.
Beweis. Sei f¨ur k ∈ K 2 1 Zk = Aj : Aj ∈ σ(Xj ), #{j ∈ Ik : Aj = Ω} < ∞ j∈Ik
der Ring der endlichdimensionalen Zylinder. Offenbar ist Zk schnittstabil und σ(Zk ) = σ(Xj , j ∈ Ik ). Also reicht es nach Satz 2.13(iii) zu zeigen, dass (Zk )k∈K unabh¨angig ist. Nach Satz 2.13(ii) k¨onnen wir sogar annehmen, dass K endlich ist. F¨ur k ∈ K seien nun Bk ∈ Zkund Jk ⊂ Ik endlich mit Bk = j∈Jk Aj f¨ur gewisse Aj ∈ σ(Xj ). Setze J = k∈K Jk . Dann ist
2.2 Unabh¨angigkeit von Zufallsvariablen
+ , + , P[Aj ] = P[Aj ] = P[Bk ]. P Aj = Bk = P j∈J
k∈K
j∈J
k∈K j∈Jk
59
2
k∈K
Beispiel 2.27. Sind (Xn )n∈N unabh¨angige, reelle Zufallsvariablen, dann sind auch (Yn )n∈N = (X2n − X2n−1 )n∈N unabh¨angig. In der Tat ist f¨ur jedes n ∈ N die Zufallsvariable Yn schon messbar bez¨uglich σ(X2n , X2n−1 ) nach Satz 1.91, und (σ(X2n , X2n−1 ))n∈N ist unabh¨angig nach Satz 2.26. 3 Beispiel 2.28. Seien (Xm,n )(m,n)∈N2 unabh¨angige Bernoulli-Zufallsvariablen mit Parameter p ∈ (0, 1). Sei
Ym := inf n ∈ N : Xm,n = 1 − 1
die Wartezeit auf den ersten Erfolg“ in der m-ten Zeile der Matrix (Xm,n )m,n . ” Dann sind (Ym )m∈N unabh¨angige, geometrisch verteilte Zufallsvariablen mit Parameter p (siehe Beispiel 1.105(iii)). Denn: {Ym ≤ k} =
k+1 l=1
{Xm,l = 1} ∈ σ(Xm,l , l = 1, . . . , k + 1) ⊂ σ(Xm,l , l ∈ N).
Also ist Ym messbar bez¨uglich σ(Xm,l , l ∈ N), und damit ist (Ym )m∈N unabh¨angig. Ferner ist P[Ym > k] = P[Xm,l = 0, l = 1, . . . , k + 1] =
k+1 l=1
P[Xm,l = 0] = (1 − p)k+1 .
Es folgt P[Ym = k] = P[Ym > k − 1] − P[Ym > k] = p(1 − p)k .
3
Definition 2.29 (Faltung). Seien μ und ν W-Maße auf (Z, 2Z ). Wir definieren die Faltung μ ∗ ν als das W-Maß auf (Z, 2Z ) mit (μ ∗ ν)({n}) =
∞
m=−∞
μ({m}) ν({n − m}).
Wir definieren die n-te Faltungspotenz rekursiv durch μ∗1 = μ und μ∗(n+1) = μ∗n ∗ μ. Bemerkung 2.30. Es gilt μ ∗ ν = ν ∗ μ Satz 2.31. Sind X und Y unabh¨angige Z-wertige Zufallsvariablen, so gilt PX+Y = PX ∗ PY .
3
60
2 Unabh¨angigkeit
Beweis. F¨ur jedes n ∈ Z gilt PX+Y ({n}) = P[X + Y = n] + , =P {X = m} ∩ {Y = n − m} m∈Z
=
m∈Z
=
m∈Z
) * P {X = m} ∩ {Y = n − m}
PX [{m}] PY [{n − m}] = (PX ∗ PY )[{n}].
2
Auf Grund dieses Satzes liegt es nahe, die Faltung von zwei Wahrscheinlichkeitsmaßen auf Rn (oder allgemeiner: auf abelschen Gruppen) als die Verteilung der Summe zweier unabh¨angiger Zufallsvariablen mit den entsprechenden Verteilungen zu definieren. Wir werden sp¨ater eine andere Definition kennen lernen, die nat¨urlich zu dieser a¨ quivalent ist, jedoch auf den Integralbegriff zur¨uckgreift, der hier noch nicht verf¨ugbar ist (siehe Definition 14.17). Definition 2.32 (Faltung von Maßen). Seien μ und ν W-Maße auf Rn , und seien X und Y unabh¨angige Zufallsvariablen mit PX = μ und PY = ν. Dann definieren wir die Faltung von μ und ν durch μ ∗ ν = PX+Y . Iterativ definieren wir die Faltungspotenzen μ∗k f¨ur k ∈ N, sowie μ∗0 = δ0 .
Beispiel 2.33. Seien X und Y unabh¨angig und Poisson-verteilt mit Parametern μ, λ ≥ 0. Dann gilt P[X + Y = n] = e−μ e−λ
−(μ+λ)
=e
n μm λn−m m! (n − m)! m=0
n (μ + λ)n 1 n m n−m μ λ = e−(μ+λ) . n! m=0 m n!
Also ist Poiμ ∗ Poiλ = Poiμ+λ .
3
¨ Ubung 2.2.1. Seien X und Y unabh¨angige Zufallsvariablen mit X ∼ expθ und Y ∼ expρ f¨ur gewisse θ, ρ > 0. Man zeige: P[X < Y ] =
θ . θ+ρ
♣
¨ Ubung 2.2.2 (Box-Muller Methode). Seien U und V unabh¨angige, uniform auf [0, 1] verteilte Zufallsvariablen. Setze
2.3 Kolmogorov’sches 0-1 Gesetz
X :=
3
−2 log(U ) cos(2πV )
und
Y :=
61
3
−2 log(U ) sin(2πV ).
Man zeige: X und Y sind unabh¨angig und N0,1 -verteilt. 3 Hinweis: Man berechne zun¨achst die Verteilung von −2 log(U ) und benutze die Transformationsformel f¨ur Dichten (Satz 1.101) sowie Polarkoordinatentransformation. ♣
2.3 Kolmogorov’sches 0-1 Gesetz Mit dem Lemma von Borel-Cantelli haben wir bereits ein 0-1 Gesetz f¨ur unabh¨angige Ereignisse kennen gelernt. Wir kommen jetzt zu einem weiteren 0-1 Gesetz f¨ur unabh¨angige Ereignisse, beziehungsweise σ-Algebren. Um dies zu formulieren, m¨ussen wir zun¨achst den Begriff der terminalen σ-Algebra einf¨uhren. Definition 2.34 (Terminale σ-Algebra). Sei I eine abz¨ahlbar unendliche Indexmenge und (Ai )i∈I eine Familie von σ-Algebren. Dann heißt
Aj σ T (Ai )i∈I := J⊂I #J<∞
j∈I\J
die terminale σ-Algebra (oder das tail σ-field) von (Ai )i∈I . Sind (Ai )i∈I Ereignisse, so setzen wir
T (Ai )i∈I := T ({∅, Ai , Aci , Ω})i∈I .
Ist (Xi )i∈I eine Familie von Zufallsvariablen, so setzen wir T (X ) := i i∈I T (σ(Xi ))i∈I .
In der terminalen σ-Algebra sind alle diejenigen Ereignisse A enthalten, deren Eintreten von jeder festen endlichen Teilfamilie der Xi nicht abh¨angt. Anders gesagt: f¨ur jede endliche Teilfamilie der Xi k¨onnen wir die Werte dieser Xi willk¨urlich a¨ ndern, ohne dass sich dadurch am Eintreten von A etwas a¨ nderte.
Satz 2.35.
Seien J1 , J2 ,. . . endliche Mengen mit Jn ↑ I. Dann ist T (Ai )i∈I = ∞ n=1 σ m∈I\Jn Am . ∞ ∞
Ist speziell I = N, so ist T (An )n∈N = σ Am . n=1
m=n
Von dem Fall I = N, wo I als Menge von Zeitpunkten interpretiert wird, r¨uhrt der Begriff terminale σ-Algebra her. Wie aus dem Satz hervorgeht, liegen in T nur die Ereignisse, die nicht von den ersten endlich vielen Zeitpunkten abh¨angen, u¨ ber deren Eintreten man also erst terminal eine Aussage machen kann.
62
2 Unabh¨angigkeit
Beweis. ⊂“ Dies ist klar. ” ⊃“ Sei Jn ↑ I mit endlichen Mengen Jn ⊂ I, n ∈ N, und sei J ⊂ I endlich. ” Dann existiert ein N ∈ N mit J ⊂ JN , und es ist ∞ σ
n=1
m∈I\Jn
Am
N ⊂ σ
m∈I\Jn
n=1
=σ
m∈I\JN
Am
Am
⊂ σ
m∈I\J
Am .
Die linke Seite h¨angt nicht von J ab, also k¨onnen wir den Schnitt u¨ ber alle endlichen J bilden und erhalten ∞
2 σ Am ⊂ T (Ai )i∈I . m∈I\Jn
n=1
Es ist vielleicht nicht so ohne weiteres klar, dass es u¨ berhaupt noch interessante Ereignisse in der terminalen σ-Algebra gibt. Vielleicht ist nicht einmal a priori klar, dass nicht etwa T = {∅, Ω} gilt. Daher geben wir jetzt erst einmal einfache Beispiele f¨ur terminale Ereignisse beziehungsweise terminal messbare Zufallsvariablen an. In Abschnitt 2.4 werden wir ein weiteres Beispiel kennen lernen. Beispiel 2.36. (i) Seien A1 , A2 , . . . Ereignisse. Dann sind die Ereignisse A∗ := lim inf An und A∗ := lim sup An in T ((An )n∈N ). Setzen wir n¨amlich Bn := n→∞ ∞
m=n
n→∞
Am f¨ur n ∈ N, dann gilt Bn ↑ A∗ und Bn ∈ σ((Am )m≥N ) f¨ur jedes n ≥ N .
Also ist A∗ ∈ σ((Am )m≥N ) f¨ur jedes N ∈ N und damit A∗ ∈ T ((An )n∈N ). F¨ur A∗ geht dies analog.
(ii) Ist (Xn )n∈N eine Familie R-wertiger Zufallsvariablen, so sind auch die Abbildungen X∗ := lim inf n→∞ Xn und X ∗ := lim supn→∞ Xn messbar bez¨uglich T ((Xn )n∈N ). In der Tat: Setzen wir Yn := supm≥n Xm , so ist f¨ur jedes N ∈ N die Zufallsvariable X ∗ = inf n≥1 Yn = inf n≥N Ynmessbar bez¨uglich TN := ∞ σ(Xn , n ≥ N ), also auch bez¨uglich T ((Xn )n∈N ) = n=1 Tn . F¨ur X∗ geht dies analog.
(iii) Seien (Xn )n∈N reellwertige Zufallsvariablen. Dann sind die Ces`aro-Limiten n
lim inf n→∞
1 Xi n i=1
n
und
lim sup n→∞
1 Xi n i=1
messbar bez¨uglich T ((Xn )n∈N ). Um dies zu zeigen, w¨ahlen wir ein N ∈ N und beachten, dass X∗ := lim inf n→∞
n n 1 1 Xi = lim inf Xi n→∞ n n i=1 i=N
2.3 Kolmogorov’sches 0-1 Gesetz
63
σ((Xn )n≥N )-messbar ist. Da dies f¨ur jedes N gilt, ist X∗ auch T ((Xn )n∈N )messbar. F¨ur den Limes superior geht das analog. 3
Satz 2.37 (Kolmogorov’sches 0-1 Gesetz). Sei I eine abz¨ahlbar unendliche Indexmenge, und sei (Ai )i∈I eine unabh¨angige Familie von σ-Algebren. Dann ist die terminale σ-Algebra P-trivial, das heißt, es gilt P[A] ∈ {0, 1}
f¨ur jedes A ∈ T ((Ai )i∈I ).
Beweis. Es reicht, den Fall I = N zu betrachten. Sei A ∈ T := T (An )n∈N . F¨ur n ∈ N sei 1 2 n Fn := Ak : A1 ∈ A1 , . . . , An ∈ An . k=1
= σ( n∈N An ). In der Tat ist f¨ur Dann ist F := n=1 Fn ein Semiring und σ(F) jedes n ∈ N und An ∈ An auch An ∈ F, also σ( n∈N An ) ⊂ σ(F). Andererseits m ist Fm ⊂ σ( n=1 An ) ⊂ σ( n∈N An ) f¨ur jedes m ∈ N, also F ⊂ σ( n∈N An ). ∞
Sei A ∈ T ((An )n∈N ), und sei ε > 0. Nach dem Approximationssatz f¨ur Maße (Satz 1.65) existiert ein n ∈ N und ein Fn = F˜1 ⊎ . . . ⊎ F˜N mit F˜1 , . . . , F˜N ∈ Fn ∞ und mit P[A △ Fn ] < ε. Offenbar ist A ∈ σ( m=n+1 Am ), also ist A unabh¨angig von Fn . Daher ist ε > P[A \ Fn ] = P[A ∩ (Ω \ Fn )] = P[A](1 − P[Fn ]) ≥ P[A](1 − P[A] − ε). Da ε > 0 beliebig war, folgt 0 = P[A](1 − P[A]).
2
Korollar 2.38. Sei (An )n∈N eine Folge unabh¨angiger Ereignisse. Dann gilt ' ( ' ( P lim sup An ∈ {0, 1} und P lim inf An ∈ {0, 1}. n→∞
n→∞
Beweis. Dies ist im Grunde eine Schlussfolgerung aus dem Lemma von BorelCantelli. Allerdings folgt es auch direkt aus dem Kolmogorov’schen 0-1 Gesetz, da Limes superior und Limes inferior in der terminalen σ-Algebra liegen. 2 Korollar 2.39. Sei (Xn )n∈N eine unabh¨angige Familie von R-wertigen Zufallsvariablen. Dann sind X∗ := lim inf n→∞ Xn und X ∗ := lim supn→∞ Xn fast sicher konstant, das heißt, es gibt x∗ , x∗ ∈ R mit P[X∗ = x∗ ] = 1 und P[X ∗ = x∗ ] = 1.
Falls alle Xi sogar reellwertig sind, so sind auch die Ces`aro-Limiten n
lim inf n→∞
fast sicher konstant.
1 Xi n i=1
n
und
lim sup n→∞
1 Xi n i=1
64
2 Unabh¨angigkeit
Beweis. Sei X∗ := lim inf Xn . F¨ur jedes x ∈ R ist {X∗ ≤ x} ∈ T ((Xn )n∈N ), n→∞
also P[X∗ ≤ x] ∈ {0, 1}. Setze
x∗ := inf{x ∈ R : P[X∗ ≤ x] = 1} ∈ R. Ist x∗ = ∞, so ist offenbar P[X∗ < ∞] = lim P[X∗ ≤ n] = 0. n→∞
Ist x∗ ∈ R, so ist
und
' 1( P[X∗ ≤ x∗ ] = lim P X∗ ≤ x∗ + =1 n→∞ n
' 1( P[X∗ < x∗ ] = lim P X∗ ≤ x − = 0. n→∞ n Ist x∗ = −∞, so ist P[X∗ > −∞] = lim P[X∗ > −n] = 0. n→∞
F¨ur den Limes superior sowie f¨ur die Ces`aro-Limiten geht dies analog.
2
¨ Ubung 2.3.1. Man zeige: Ist (Xn )n∈N eine unabh¨angige Familie von Zufallsvariablen mit P[Xn = −1] = P[Xn = +1] = 12 , und ist Sn = X1 + . . . + Xn f¨ur jedes n ∈ N, so ist lim supn→∞ Sn = ∞ fast sicher. ♣
2.4 Beispiel: Perkolation Wir betrachten das d-dimensionale Gitter Zd , wobei jeder Punkt durch je eine Kante mit seinen 2d n¨achsten Nachbarpunkten verbunden ist. Sind x, y ∈ Zd n¨achste Nachbarn, das heißt x − y2 = 1, so schreiben wir k = x, y! = y, x! f¨ur die Kante, die x und y verbindet. Formal ist die Kantenmenge eine Teilmenge der zweielementigen Teilmengen von Zd :
K = {x, y} : x, y ∈ Zd mitx − y2 = 1 .
Etwas allgemeiner ist ein (ungerichteter) Graph G ein Paar G = (V, K), wobei V eine Menge ist (die Menge der Knoten oder Punkte des Graphen) und K ⊂ {{x, y} : x, y ∈ V, x = y} eine Teilmenge aller zweielementigen Teilmengen von V (die Menge der Kanten). Da wir unter einer Kante intuitiv eine Verbindung zwischen zwei Punkten x und y verstehen (und nicht das ungeordnete Paar {x, y}), verwenden wir ein anderes Symbol als die Mengenklammern und schreiben x, y! statt {x, y}.
2.4 Beispiel: Perkolation
65
Dieses Gitter ist f¨ur uns der Ausgangspunkt f¨ur ein stochastisches Modell eines por¨osen Mediums. Wir stellen uns die Kanten als R¨ohren vor, entlang derer Wasser fließen kann. Nun soll das Medium allerdings nicht v¨ollig homogen wasserdurchl¨assig sein, sondern eine amorphe Struktur besitzen, etwa wie Bimsstein. Zu diesem Zweck wollen wir zuf¨allig einen gewissen Anteil 1 − p (wobei p ∈ [0, 1] ein Parameter ist) der Kanten zerst¨oren, sodass das Wasser nur durch die verbliebenen Kanten fließen kann. Die Frage, die sich stellt, ist, bei welchen Werten von p die intakten R¨ohren unendlich große verbundene Systeme bilden und bei welchen Werten alle verbundenen Systeme nur endliche Gr¨oße haben. Wir kommen jetzt zur formalen Beschreibung des Modells. Wir w¨ahlen einen Parameter p ∈ [0, 1] und eine unabh¨angige Familie identisch verteilter Zufallsvariablen (Xkp )k∈K mit Xkp = Berp , also P[Xkp = 1] = 1 − P[Xkp = 0] = p f¨ur jedes k ∈ K. Dann definieren wir (2.10) K p := {k ∈ K : Xkp = 1}
als die Menge der intakten (oder offenen) Kanten. Entsprechend nennen wir die Kanten K \ K p defekt (oder geschlossen). Auf diese Weise haben wir einen (zuf¨alligen) Teilgraphen (Zd , K p ) von (Zd , K) hergestellt. Wir nennen (Zd , K) auch ein Perkolationsmodell (genauer: ein Modell f¨ur Kantenperkolation, im Gegensatz zu Punktperkolation, wo die einzelnen Punkte geschlossen oder offen sind). Ein (offener) Pfad (der L¨ange n) in diesem Teilgraphen ist eine Folge π = (x0 , x1 , . . . , xn ) von Punkten in Zd mit xi−1 , xi ! ∈ K p f¨ur jedes i = 1, . . . , n. Wir sagen, dass zwei Punkte x, y ∈ Zd durch einen offenen Pfad verbunden werden k¨onnen, wenn es ein n ∈ N und einen offenen Pfad (x0 , x1 , . . . , xn ) mit x0 = x und xn = y gibt. In die¨ jesem Fall schreiben wir x ←→p y. Offenbar ist ←→p“ eine Aquivalenzrelation, ” doch eine zuf¨allige, weil sie von den Werten der Zufallsvariablen (Xkp )k∈K abh¨angt. F¨ur x ∈ Zd nennen wir C p (x) := {y ∈ Zd : x ←→p y}
(2.11)
den (zuf¨alligen) offenen Cluster von x, also die Zusammenhangskomponente von x in dem Graphen (Zd , K p ). Lemma 2.40. F¨ur je zwei Punkte x, y ∈ Zd ist {x←→p y} eine Zufallsvariable. Insbesondere ist #C p (x) eine Zufallsvariable f¨ur jedes x ∈ Zd . Beweis. Ohne Einschr¨ankung k¨onnen wir annehmen, dass x = 0 ist. Wir setzen fn (y) = 1, falls es einen offenen Pfad von 0 nach y der L¨ange h¨ochstens n gibt, und fn (y) = 0 sonst. Offenbar ist fn (y) ↑ {0←→p y} , also reicht es, die Messbarkeit von fn zu zeigen. Sei Bn := {−n, −n + 1, . . . , n − 1, n}d und Kn := {k ∈ K : k ∩ Bn = ∅}. Dann ist Yn := (Xkp : k ∈ Kn ) : Ω → {0, 1}Kn messbar Kn (bez¨uglich 2({0,1} ) ) nach Satz 1.90. Nun ist aber fn eine Funktion von Yn , sagen wir fn = gn ◦Yn f¨ur gewisses gn : {0, 1}Kn → {0, 1}. Nach dem Verkn¨upfungssatz (Satz 1.80) ist daher fn messbar. 2 Der Zusatz folgt, weil #C p (x) = y∈Zd {x←→p y} .
66
2 Unabh¨angigkeit
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
Abb. 2.1. Perkolation auf einem 15 × 15 Gitter, p = 0.42
Definition 2.41. Wir sagen, dass Perkolation eintritt, falls es (wenigstens) einen unendlich großen, offenen Cluster gibt und nennen ψ(p) := P[es gibt einen unendlich großen, offenen Cluster] ( ' =P {#C p (x) = ∞} x∈Zd
die Perkolationswahrscheinlichkeit. Wir definieren weiterhin die Funktion θ(p) := P[#C p (0) = ∞] als die Wahrscheinlichkeit, dass der Ursprung in einem unendlich großen, offenen Cluster liegt. Auf Grund der Translationsinvarianz des Gitters ist θ(p) = P[#C p (y) = ∞]
f¨ur jedes y ∈ Zd .
(2.12)
2.4 Beispiel: Perkolation
67
Die Grundfrage lautet: Wie groß sind θ(p) und ψ(p) in Abh¨angigkeit von p? Wir machen die folgende, intuitiv leicht einsehbare Beobachtung. Satz 2.42. Die Abbildung [0, 1] → [0, 1], p → θ(p) ist monoton wachsend. Beweis. Obwohl die Aussage offensichtlich erscheint, wollen wir einen formalen Beweis geben, weil er ein wichtiges Beweisprinzip, das der Kopplung, verwendet. Seien p, p′ ∈ [0, 1] mit p < p′ . Es sei (Yk )k∈K eine unabh¨angige Familie von Zufallsvariablen mit P[Yk ≤ q] = q f¨ur jedes k ∈ K und q ∈ {p, p′ , 1}. Wir k¨onnten an dieser Stelle zum Beispiel annehmen, dass jedes Yk ∼ U[0,1] uniform auf [0, 1] verteilt ist. Da der Existenzbeweis f¨ur unabh¨angige Familien mit solcher Verteilung noch aussteht, und da wir die reichhaltigere Struktur der uniformen Verteilung hier nicht ben¨otigen, begn¨ugen wir uns damit, dass jedes Yk nur Werte in {p, p′ , 1} annimmt, dass also gilt ⎧ p, falls q = p, ⎨ P[Yk = q] = p′ − p, falls q = p′ , ⎩ 1 − p′ , falls q = 1.
Eine solche Familie (Yk )k∈K existiert nach Satz 2.19. Wir setzen dann f¨ur q ∈ {p, p′ } und k ∈ K 1 1, falls Yk ≤ q, Xkq := 0, sonst.
Offenbar ist f¨ur q ∈ {p, p′ } die Familie (Xkq )k∈K unabh¨angig (Bemerkung 2.15(ii)) ′ und Xkq ∼ Berq . Ferner ist Xkp ≤ Xkp f¨ur jedes k ∈ K. Wir nennen dieses Verfahren, zwei Familien von Zufallsvariablen auf einem Wahrscheinlichkeitsraum herzustellen eine Kopplung. ′
Offenbar gilt nun C p (x) ⊂ C p (x) f¨ur jedes x ∈ Zd , also auch θ(p) ≤ θ(p′ ).
2
Mit Hilfe des Kolmogorov’schen 0-1 Gesetzes k¨onnen wir folgenden Satz zeigen. 0, falls θ(p) = 0, Satz 2.43. F¨ur jedes p ∈ [0, 1] gilt ψ(p) = 1, falls θ(p) > 0. Beweis. Ist θ(p) = 0, so ist nach (2.12) ψ(p) ≤ P[#C p (y) = ∞] = θ(p) = 0. y∈Zd
y∈Zd
p ¨ ndert es nichts am EintreSei nun A = y∈Zd {#C (y) = ∞}. Offenbar a ten von A, wenn endlich viele Kanten ihren Zustand ver¨andern. Das heißt A ∈ σ((Xkp )k∈K\Kn ) f¨ur jedes n ∈ N. Nach Satz 2.35 ist A also in der terminalen σAlgebra T ((Xkp )k∈K ). Nach dem Kolmogorov’schen 0-1 Gesetz (Satz 2.37) gilt also ψ(p) = P[A] ∈ {0, 1}. Ist nun θ(p) > 0, so folgt wegen ψ(p) ≥ θ(p) schon ψ(p) = 1. 2
68
2 Unabh¨angigkeit
Aufgrund der Monotonie k¨onnen wir nun die folgende Definition treffen. Definition 2.44. Der kritische Wert pc f¨ur das Auftreten von Perkolation wird definiert als pc = inf{p ∈ [0, 1] : θ(p) > 0} = sup{p ∈ [0, 1] : θ(p) = 0}
= inf{p ∈ [0, 1] : ψ(p) = 1} = sup{p ∈ [0, 1] : ψ(p) = 0}.
Wir kommen zu einem Hauptsatz dieses Abschnitts. Satz 2.45. F¨ur d = 1 ist pc = 1. F¨ur d ≥ 2 ist pc (d) ∈
)
2 1 2d−1 , 3
* .
p = 0 f¨ur ein n < 0} Beweis. Sei zun¨achst d = 1 und p < 1. Sei A− := {Xn,n+1 p und A+ := {Xn,n+1 = 0 f¨ur ein n > 0} sowie A = A− ∩ A+ . Nach dem Lemma von Borel-Cantelli gilt P[A− ] = P[A+ ] = 1. Also ist θ(p) = P[Ac ] = 0.
Wir betrachten nun den Fall d ≥ 2.
1 Wir zeigen zun¨achst pc ≥ 2d−1 . Offenbar gilt f¨ur jedes n ∈ N ) * P[#C p (0) = ∞] ≤ P es gibt ein x ∈ C p (0) mit x∞ = n .
Untere Schranke
Wir wollen nun die Wahrscheinlichkeit, dass ein Punkt x ∈ C p (0) im Abstand n vom Ursprung existiert, absch¨atzen. Jeder solche Punkt wird durch einen selbstu¨ berschneidungsfreien Pfad π, der im Ursprung beginnt und eine L¨ange m ≥ n hat, an den Ursprung angebunden. Sei Π0,m die Menge solcher Pfade. Offenbar ist #Π0,m ≤ 2d · (2d − 1)m−1 , denn im ersten Schritt gibt es 2d M¨oglichkeiten f¨ur den Pfad, in jedem weiteren Schritt h¨ochstens 2d − 1, da der Schritt zur¨uck zu einer Selbst¨uberschneidung f¨uhrt. Weiter ist f¨ur jedes π ∈ Π0,m die Wahrscheinlichkeit, dass π nur offene Kanten benutzt P[π ist offen] = pm . Also ist f¨ur p <
1 2d−1
θ(p) ≤ ≤ = Mithin gilt pc ≥
∞
P[π ist offen]
m=n π∈Π0,m ∞ m 2d (2d − 1)p 2d − 1 m=n
n n→∞ 2d (2d − 1)p −→ 0. (2d − 1)(1 − (2d − 1)p)
1 2d−1 .
Obere Schranke Wir k¨onnen Zd als Teilmenge Zd × {0} ⊂ Zd+1 auffassen. Tritt daher f¨ur ein p Perkolation in Zd auf, so auch in Zd+1 . Daher gilt f¨ur die entsprechenden kritischen Werte pc (d + 1) ≤ pc (d).
2.4 Beispiel: Perkolation
69
Es reicht also, den Fall d = 2 zu betrachten. Hier zeigen wir pc ≤ 23 . Wir geben ein Konturargument an, das von Peierls f¨ur ein Magnetismusmodell (das Ising Modell, siehe Beispiel 18.21 und speziell (18.13)) entwickelt wurde (siehe [119]). F¨ur N ∈ N schreiben wir (vergleiche (2.11) mit x = (i, 0)) CN :=
N
i=0
C p (i, 0)
f¨ur die Menge der Punkte, die eine offene Verbindung in die Menge {0, . . . , N } × {0} haben.
Dann ist wegen der Subadditivit¨at der Wahrscheinlichkeit (und wegen P[#C p (i, 0) = ∞] = θ(p) f¨ur jedes i ∈ Z) θ(p) =
N
* ) * 1 ) 1 P #C p (i, 0) = ∞ ≥ P #CN = ∞ . N + 1 i=0 N +1
˜ 2 , K), ˜ die CN umschließen, Wir betrachten nun Konturen im dualen Graphen (Z falls #CN < ∞. Der duale Graph ist dabei definiert durch ˜ 2 = 1 , 1 + Z2 , Z 2 2 ˜ 2 , x − y2 = 1 . ˜ K = {x, y} : x, y ∈ Z ˜ 2 , K) ˜ kreuzt also genau eine Kante k in Eine Kante k˜ im dualen Graphen (Z 2 (Z , K). Wir nennen k˜ offen, falls k offen ist, und sonst geschlossen. Ein Kreis ˜ 2 , K), ˜ bei dem Anfangs- und Endγ ist ein selbst¨uberschneidungsfreier Pfad in (Z punkt u¨ bereinstimmen. Eine Kontur der Menge CN ist ein minimaler Kreis, der CN umschließt. Minimal heißt dabei, dass die umschlossene Fl¨ache minimal ist (siehe Abb. 2.2). F¨ur n ≥ 2N sei Γn = γ : γ ist ein Kreis der L¨ange n und umschließt {0, . . . , N } × {0} .
Wir wollen eine obere Absch¨atzung f¨ur #Γn angeben. Daf¨ur w¨ahlen wir f¨ur γ ∈ Γ Punkt aus γ willk¨urlich als Startpunkt aus, n¨amlich den oberen Punkt
n einen m + 12 , 12 des rechtesten x-Achsendurchgangs von γ (in Abb. 2.2 ist dies der Punkt 5 + 21 , 12 ). Offenbar ist m ≥ N und m ≤ n weil der Ursprung von Γn umschlossen wird. Ausgehend von m + 12 , 12 gibt es f¨ur jede weitere Kante von γ jeweils h¨ochstens drei M¨oglichkeiten. Also ist #Γn ≤ n · 3n . ˜ geschlossene Kanten benutzt. Der Kreis γ heißt geschlossen, wenn er nur (in K) Eine Kontur von CN muss automatisch geschlossen sein und eine L¨ange gr¨oßer als 2N haben. Daher gilt f¨ur p > 32
70
2 Unabh¨angigkeit
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
1 r
r
r
r
r
r
r
r
r
r
r
0 r
r
r
r
r
r
r
r
r
r
r
−1 r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r −1
r r r r r r bppp p p p p p p p bp p p p p p p p bp p p p p p p p bp p p p p p p p bppp r ppp r r r r pppp r r bppp p p p p p p p pbpp bpp p p p p p p p pb ppp r r r r r r ppppp r pbpp p p p p p p p bp p p p p p p p bp p p p p p p p bp p p p p p p p bppp bpppp r r r r pppp r r ppppp r bppp bppp r r r r ppppp r r ppppp r bppp bpp p p p p p p p pbp r r r r ppppp r r r ppppp bppp bpp p p p p p p p pbp bppp r r r r ppppp r ppppp r ppppp r ppppp bpp p p p p p p p pbp bppp bppp r r r r r r ppppp r ppppp ppbp p p p p p p pbp r r r r r r r 0
1
5
Abb. 2.2. Kontur des Clusters C5
P[#CN < ∞] = ≤ Es folgt pc ≤ 32 .
∞
n=2N ∞
n=2N
) * P es gibt einen geschlossenen Kreis γ ∈ Γn
n n · 3(1 − p)
N →∞
−→
0. 2
Im Allgemeinen ist der Wert von pc nicht bekannt und extrem schwer zu bestimmen. Im Fall der Kantenperkolation in Z2 ist allerdings ein genaues Ergebnis bekannt, da man hier das starke Hilfsmittel der Selbstdualit¨at des Graphen (Z2 , K) zur Verf¨ugung hat. (Ist G = (V, K) ein planarer Graph, also einer, den man mit u¨ berschneidungsfreien Kanten in den R2 einbetten kann, so hat der duale Graph als Punktmenge die Menge der Fl¨achen von G und als Kante zwischen zwei solchen Punkten, diejenige Kante aus K, die die beiden Fl¨achenst¨ucke trennt. Offenbar ist das zweidimensionale Gitter als Graph isomorph zu seinem dualen Graphen. Man beachte, dass man die Kontur in Abb. 2.2 als geschlossenen Pfad im dualen Graphen auffassen kann.) Wir zitieren hier den Satz von Kesten [93]. Satz 2.46 (Kesten (1980)). F¨ur Kantenperkolation in Z2 ist die kritische Wahrscheinlichkeit pc = 12 , und es gilt θ(pc ) = 0. Beweis. Siehe etwa das Buch von Grimmett [62, Seite 287ff].
2
2.4 Beispiel: Perkolation
71
Es wird vermutet, dass θ(pc ) = 0 in jeder Dimension d ≥ 2 gilt. Rigoros bewiesen ist dies allerdings nur f¨ur d = 2 und d ≥ 19 (siehe [66]). Eindeutigkeit des unendlichen Clusters∗ Es sei p so gew¨ahlt, dass θ(p) > 0 ist. Wir haben gesehen, dass es mit Wahrscheinlichkeit 1 mindestens einen unendlich großen, offenen Cluster gibt. Wir wollen nun zeigen, dass es genau einen gibt. Sei also N ∈ {0, 1, . . . , ∞} die (zuf¨allige) Anzahl von unendlich großen Clustern. Satz 2.47 (Eindeutigkeit des unendlichen großen Clusters). F¨ur jedes p ∈ [0, 1] gilt Pp [N ≤ 1] = 1. Beweis. Diese Aussage wurde erstmals von Aizenman, Kesten und Newman gezeigt [1, 2]. Wir folgen der einfacheren Beweisidee von Burton und Keane [25], wie sie etwa in [62, Abschnitt 8.2] beschrieben wird. In den F¨allen p = 1 und θ(p) = 0 (speziell also im Fall p = 0) ist die Aussage trivial. Seien nun also p ∈ (0, 1) und θ(p) > 0. 1. Schritt
Wir zeigen zun¨achst:
Pp [N = m] = 1
f¨ur ein m = 0, 1, . . . , ∞.
(2.13)
Wir ben¨otigen ein 0-1 Gesetz, a¨ hnlich dem Kolmogorov’schen. Allerdings ist N nicht messbar bez¨uglich der terminalen σ-Algebra, wir m¨ussen also etwas subtiler vorgehen. Sei e1 = (1, 0, . . . , 0) der erste Einheitsvektor in Zd . Auf der Kantenmenge K definieren wir die Translation τ : K → K durch τ ( x, y!) = x + e1 , y + e1 !. Sei
K0 := (x1 , . . . , xd ), (y1 , . . . , yd )! ∈ K : x1 = 0, y1 ≥ 0
die Menge aller Kanten in Zd , die zwei Punkte in {0} × Zd−1 verbinden oder einen d−1 Punkt aus {0}×Zd−1 mit einem aus {1}×Z verbinden. Offenbar sind die Men gen (τ n (K0 ), n ∈ Z) disjunkt und K = n∈Z τ n (K0 ). Daher sind die Zufallsvariablen Yn := (Xτpn (k) )k∈K0 , n ∈ Z, unabh¨angig und identisch verteilt (mit Werten in {0, 1}K0 ). Setze Y = (Yn )n∈Z und τ (Y ) = (Yn+1 )n∈Z . Sei Am ∈ {0, 1}K definiert durch {Y ∈ Am } = {N = m}. Offenbar a¨ ndert sich der Wert von N nicht, wenn wir alle Kanten gleichzeitig verschieben. Es gilt also {Y ∈ Am } = {τ (Y ) ∈ Am }. Ein Ereignis mit dieser Eigenschaft nennen wir invariant. Mit einem Argument a¨ hnlich dem f¨ur das Kolmogorov’sche 0-1 Gesetz kann man zeigen, dass invariante Ereignisse (die durch u.i.v. Zufallsvariablen definiert werden) nur die Wahrscheinlichkeiten 0 oder 1 haben k¨onnen (f¨ur einen formalen Beweis siehe Beispiel 20.26).
72
2 Unabh¨angigkeit
2. Schritt
Wir zeigen: Pp [N = m] = 0
f¨ur jedes m ∈ N \ {1}.
(2.14)
Sei also m = 2, 3, . . . Wir nehmen an, dass P[N = m] = 1 gilt und f¨uhren dies zum Widerspruch. F¨ur L ∈ N setzen wir BL := {−L, . . . , L}d und bezeichnen mit KL = {k = x, y! ∈ K : x, y ∈ BL } die Menge der Kanten, deren beide Endpunkte in BL i liegen. F¨ur i = 0, 1 sei DL := {Xkp = i f¨ur alle k ∈ KL }. Sei NL1 die Anzahl der unendlichen Cluster, wenn wir (unabh¨angig vom Wert von Xkp ) jede Kante k in KL als offen betrachten. Analog definieren wir NL0 , wobei wir hier die Kanten in KL i als geschlossen betrachten. Wegen Pp [DL ] > 0, und wegen N = m fast sicher, gilt i NL = m fast sicher f¨ur i = 0, 1. Sei A2L:=
x1 ,x2 ∈BL \BL−1
C p (x1 ) ∩ C p (x2 ) = ∅ ∩ #C p (x1 ) = #Cp (x2 ) = ∞
das Ereignis, dass es zwei Punkte auf dem Rand von BL gibt, die in unterschiedlichen, unendlich großen, offenen Clustern sitzen. Offenbar gilt A2L ↑ {N ≥ 2} f¨ur L → ∞.
Sei A2L,0 a¨ hnlich wie A2L definiert, jedoch wollen wir alle Kanten k ∈ KL als geschlossen betrachten, egal ob Xkp = 1 oder Xkp = 0 ist. Tritt A2L ein, so gibt es zwei Punkte x1 , x2 auf dem Rand von BL und zu jedem i = 1, 2 einen unendlich langen selbst¨uberschneidungsfreien, offenen Pfad πxi , der in xi startet und x3−i vermeidet. Es gilt also A2L ⊂ A2L,0 . W¨ahle nun L so groß, dass P[A2L,0 ] > 0 ist.
Tritt A2L,0 ein und werden alle Kanten in BL ge¨offnet, so werden mindestens zwei der unendlich großen, offenen Cluster durch Kanten in BL verbunden, die Gesamtzahl der unendlich großen, offenen Cluster also um mindestens Eins verringert. Es folgt Pp [NL1 ≤ NL0 − 1] ≥ Pp [A2L,0 ] > 0, was einen Widerspruch bedeutet. 3. Schritt Da wir im zweiten Schritt bereits gezeigt haben, dass N fast sicher keinen endlichen Wert gr¨oßer als 1 annimmt, brauchen wir nun nur noch zu zeigen, dass N fast sicher nicht den Wert ∞ annimmt. Wir zeigen hier, dass in der Tat gilt: Pp [N ≥ 3] = 0.
(2.15)
Dieses ist der schwierigste Teil. Wir nehmen an, dass Pp [N ≥ 3] > 0 gilt und f¨uhren dies zum Widerspruch. Wir nennen einen Punkt x ∈ Zd einen Trifurkationspunkt, falls x in einem unendlich großen, offenen Cluster C p (x) liegt, genau drei offene Kanten zu x f¨uhren und die Wegnahme dieser drei Kanten C p (x) in drei unendlich große, disjunkte Cluster zerteilt. Mit T bezeichnen wir die Menge der Trifurkationspunkte und schreiben TL := T ∩ BL . Sei r := Pp [0 ∈ T ]. Aufgrund der Translationsinvarianz gilt (#BL )−1 Ep [#TL ] = r f¨ur jedes L.
2.4 Beispiel: Perkolation
73
Sei A3L:=
x1 ,x2 ,x3 ∈BL \BL−1
i=
j
3 p i {C (x ) ∩ C (x ) = ∅} ∩ {#C (x ) = ∞} p
i
p
j
i=1
das Ereignis, dass es drei Punkte auf dem Rand von BL gibt, die in unterschiedlichen, unendlich großen, offenen Clustern sitzen. Offenbar gilt A3L ↑ {N ≥ 3} f¨ur L → ∞.
Analog zu A2L,0 definieren wir A3L,0 als das Ereignis, dass es drei Punkte auf dem Rand von BL gibt, die in unterschiedlichen unendlich großen, offenen Clustern sitzen, wenn wir alle Kanten in KL als geschlossen ansehen. Wie oben ist A3L ⊂ A3L,0 . F¨ur drei unterschiedliche Punkte x1 , x2 , x3 ∈ BL \BL−1 sei Fx1 ,x2 ,x3 das Ereignis, dass es zu jedem i = 1, 2, 3 einen unendlich langen selbst¨uberschneidungsfreien, offenen Pfad πxi gibt, der in xi startet, nur Kanten aus K p \ KL benutzt und die anderen xj , j = i, vermeidet. Dann gilt A3L,0 ⊂ Fx1 ,x2 ,x3 . x1 ,x2 ,x3 ∈BL \BL−1
paarweise unterschiedlich
Sei L so groß, dass Pp [A3L,0 ] ≥ Pp [N ≥ 3]/2 > 0 gilt. W¨ahle drei unterschiedliche Punkte x1 , x2 , x3 ∈ BL \ BL−1 mit Pp [Fx1 ,x2 ,x3 ] > 0.
Tritt Fx1 ,x2 ,x3 ein, so k¨onnen wir einen Punkt y ∈ BL finden, von dem aus drei disjunkte (nicht notwendigerweise offene) Pfade π1 , π2 und π3 zu den Punkten x1 , x2 und x3 f¨uhren. Sei Gy,x1 ,x2 ,x3 das Ereignis, dass in KL genau diejenigen Kanten offen sind, die zu diesen Pfaden geh¨oren, und alle anderen geschlossen. Die Ereignisse Fx1 ,x2 ,x3 und Gy,x1 ,x2 ,x3 sind unabh¨angig, und y ist ein Trifurkationspunkt, falls beide eintreten. Daher ist
#KL r = Pp [y ∈ T ] ≥ Pp [Fx1 ,x2 ,x3 ] · p ∧ (1 − p) > 0. Wir zeigen nun, dass r = 0 sein muss, was die Annahme Pp [N ≥ 3] > 0 ad absurdum f¨uhrt. Wir machen die Menge TL zu einem Graphen, indem wir zwei Punkte x, y ∈ TL als benachbart betrachten, falls es einen offenen Pfad von x nach y gibt, der keinen anderen Punkt in T trifft. Wir schreiben dann x ∼ y. Eine Schleife ist ein selbst¨uberschneidungsfreier, endlicher Pfad, der zu seinem Startpunkt zur¨uckkehrt. Der Graph (TL , ∼) ist schleifenfrei. In der Tat: g¨abe es einen in x ∈ TL startenden selbst¨uberschneidungsfreien Pfad, der, sagen wir, die beiden Punkte y, z ∈ TL trifft, so entst¨unden durch die Wegnahme der drei Kanten k ∈ K p , die an x angrenzen, h¨ochstens zwei Cluster - wobei einer y und z enth¨alt.
(x) f¨ur die Anzahl der Nachbarn von x in TL . Da TL schleifenWir schreiben degT L frei ist, ist #TL − 21 x∈TL degTL (x) die Anzahl der Zusammenhangskomponenten von TL , also insbesondere nichtnegativ. Andererseits ist 3 − degTL (x) die Anzahl
74
2 Unabh¨angigkeit
von Kanten k ∈ K p , die an x angrenzen und deren Wegnahme einen unendlich großen, offenen Cluster erzeugt, in dem kein weiterer Punkt von TL liegt. Sei ML die Anzahl der unendlich großen, offenen Cluster, die entstehen, wenn wir von allen Punkten in TL die drei benachbarten offenen Kanten wegnehmen. Es ist dann ML = (3 − degTL (x)) ≥ #TL . x∈TL
Zu jedem dieser Cluster geh¨ort aber (mindestens) ein Punkt auf BL \BL−1 . Es folgt #(BL \ BL−1 ) d L→∞ #TL −→ 0. ≤ ≤ #BL #BL L Wegen r = (#BL )−1 E[#TL ] ≤ d/L folgt r = 0. (Man beachte, dass wir hier im Vorgriff auf Kapitel 5 den Erwartungswert E[#TL ] benutzt haben.) 2
3 Erzeugendenfunktion
Ein wichtiges Prinzip in der Mathematik ist es, eine Klasse von Objekten, die man betrachten m¨ochte, in eine andere Klasse von Objekten, mit denen man besser rechnen kann, hinein abzubilden. Diese Abbildung kann eineindeutig sein, etwa bei der Zuordnung von Matrizen zu linearen Abbildungen, oder auch nur manche Eigenschaften eindeutig abbilden, etwa bei Determinanten. Zu der zweiten Kategorie geh¨oren in der Wahrscheinlichkeitstheorie die Kenngr¨oßen wie Median, Erwartungswert und Varianz von Zufallsvariablen. Zur ersten Kategorie hingegen charakteristische Funktionen, Laplace-Transformierte und Erzeugendenfunktionen, die enge Verwandte sind und ihre N¨utzlichkeit daraus ziehen, dass Addition von unabh¨angigen Zufallsvariablen in Multiplikation u¨ bergeht. Bevor wir in sp¨ateren Kapiteln insbesondere die charakteristischen Funktionen ausgiebig behandeln, wollen wir wichtige Grundideen in der einfacheren Situation der Erzeugendenfunktionen, deren Anwendung auf N0 -wertige Zufallsvariablen beschr¨ankt ist, kennen lernen.
3.1 Definition und Beispiele Definition 3.1 (Erzeugendenfunktion). Sei X eine N0 -wertige Zufallsvariable. Die Abbildung ψPX = ψX , die erkl¨art wird durch ψX : [0, 1] → [0, 1],
z →
∞
P[X = n] z n ,
(3.1)
n=0
heißt Erzeugendenfunktion von PX (oder etwas lax: von X). Satz 3.2. (i) ψX ist stetig und in (0, 1) unendlich oft stetig differenzierbar. Es (n) gilt f¨ur n ∈ N und die n-te Ableitung ψX (n)
lim ψX (z) = z↑1
∞
k=n
P[X = k] · k(k − 1) · · · (k − n + 1),
wobei beide Seiten = +∞ sein k¨onnen.
(3.2)
76
3 Erzeugendenfunktion
(ii) Die Verteilung PX von X ist durch ψX eindeutig charakterisiert. (iii) ψX ist durch die Angabe von abz¨ahlbar vielen Werten ψX (xi ), xi ∈ [0, 1], i ∈ N, eindeutig festgelegt. Konvergiert die Reihe in (3.1) auch f¨ur ein z > 1, so gilt (n) (n) lim ψX (z) = ψX (1) < ∞ f¨ur n ∈ N, z↑1
(n)
und ψX ist durch Angabe von ψX (1), n ∈ N, eindeutig charakterisiert. Beweis. Das folgt aus der elementaren Theorie der Potenzreihen.
2
Satz 3.3 (Multiplikativit¨at der Erzeugendenfunktion). Sind X1 , . . . , Xn unabh¨angig und N0 -wertig, so ist n ψX1 +...+Xn = ψXi . i=1
Beweis. F¨ur z ∈ [0, 1) k¨onnen wir ψX1 (z) ψX2 (z) als Cauchy-Produkt schreiben ∞ ∞ n n ψX1 (z) ψX2 (z) = P[X1 = n] z P[X2 = n] z n=0
=
∞
z
n
n=0
=
∞
n=0
=
∞
zn
n=0
n
m=0
n
m=0
P[X1 = m] P[X2 = n − m]
P[X1 = m, X2 = n − m]
P[X1 + X2 = n] z n = ψX1 +X2 (z).
n=0
Induktiv folgt die Aussage f¨ur jedes n ≥ 2.
2
Beispiel 3.4. (i) Sei X bn,p -verteilt f¨ur gewisse n ∈ N und p ∈ [0, 1]. Dann ist n
n n m ψX (z) = p (1 − p)n−m z m = pz + (1 − p) . (3.3) m m=0
(ii) Sind X, Y unabh¨angig und bm,p beziehungsweise bn,p -verteilt, so ist nach Satz 3.3
m n
m+n ψX+Y (z) = pz + (1 − p) pz + (1 − p) = pz + (1 − p) . Also ist nach Satz 3.2(ii) X + Y bm+n,p -verteilt und damit (nach Satz 2.31)
3.1 Definition und Beispiele
77
bm,p ∗ bn,p = bm+n,p . (iii) Seien X und Y unabh¨angig und Poisson-verteilt mit Parametern λ ≥ 0 und μ ≥ 0, also P[X = n] = e−λ λn /n! f¨ur n ∈ N0 . Dann ist ∞
ψPoiλ (z) =
e−λ
n=0
(λz)n = eλ(z−1) . n!
(3.4)
Also hat X + Y die Erzeugendenfunktion ψPoiλ (z) · ψPoiµ (z) = eλ(z−1) eμ(z−1) = ψPoiλ+µ (z), und daher ist X + Y ∼ Poiλ+μ . Es folgt Poiλ ∗ Poiμ = Poiλ+μ .
(3.5)
(iv) Seien X1 , . . . , Xn ∼ γp unabh¨angig und geometrisch verteilt mit Parameter p ∈ (0, 1). Wir setzen Y = X1 + . . . + Xn . Es ist f¨ur z ∈ [0, 1] ψX1 (z) =
∞
k=0
p(1 − p)k z k =
p . 1 − (1 − p)z
(3.6)
Nach der verallgemeinerten binomischen Formel (siehe Lemma 3.5 mit α = −n), Satz 3.3 und (3.6) ist pn (1 − (1 − p)z)n ∞ −n (−1)k (1 − p)k z k = pn k
ψY (z) = ψX1 (z)n =
k=0
=
∞
k b− n,p ({k}) z ,
k=0
wobei f¨ur beliebiges r ∈ (0, ∞) und p ∈ (0, 1] b− r,p
=
∞ −r
k=0
k
(−1)k pr (1 − p)k δk
(3.7)
die negative Binomialverteilung mit Parametern r und p ist. Nach dem Eindeutigkeitssatz f¨ur Erzeugendenfunktionen ist damit Y ∼ b− n,p , also (siehe Definition 2.29 ∗n . 3 f¨ur die n-te Faltungspotenz) b− = γ n,p p Lemma 3.5 (Verallgemeinerter binomischer Lehrsatz). F¨ur α ∈ R und k ∈ N0 definieren wir den Binomialkoeffizienten
78
3 Erzeugendenfunktion
α α · (α − 1) · · · (α − k + 1) := . k k!
(3.8)
Es gilt die erweiterte binomische Formel: ∞ α
xk
f¨ur jedes x ∈ C mit |x| < 1.
(3.9)
∞ 1 2n −n n = 4 x 1 − x n=0 n
f¨ur jedes x ∈ C mit |x| < 1.
(3.10)
(1 + x)α =
k=0
k
Speziell gilt √
Beweis. Die Abbildung f : x → (1 + x)α ist holomorph bis auf eventuell eine Singularit¨at bei x = −1, ist also um 0 in eine Potenzreihe entwickelbar mit Radius mindestens 1: ∞ f (k) (0) k x f¨ur |x| < 1. f (x) = k! k=0
F¨ur k ∈ N0 ist die k-te Ableitung f (k) (0) = α(α − 1) · · · (α − k + 1), also folgt (3.9). 2n
= n (−4)−n . 2 Der Zusatz folgt, weil f¨ur α = −1/2 gilt, dass −1/2 n − − ¨ Ubung 3.1.1. Man zeige b− ur r, s ∈ (0, ∞) und p ∈ (0, 1]. r,p ∗ bs,p = br+s,p f¨
♣
3.2 Poisson-Approximation Lemma 3.6. Seien μ und (μn )n∈N W-Maße auf (N0 , 2N0 ) mit Erzeugendenfunktionen ψμ und ψμn , n ∈ N. Dann sind a¨ quivalent (i) (ii) (iii) (iv)
n→∞
μn ({k}) −→ μ({k}) f¨ur jedes k ∈ N0 , n→∞
μn (A) −→ μ(A)
f¨ur jedes A ⊂ N0 ,
ψn (z) −→ ψ(z)
f¨ur jedes z ∈ [0, 1],
ψn (z) −→ ψ(z)
f¨ur jedes z ∈ [0, η) f¨ur ein η > 0.
n→∞
n→∞
n→∞
Gilt eine der vier Bedingungen, so schreiben wir μn −→ μ und sagen (μn )n∈N konvergiere schwach gegen μ. Beweis. (i) =⇒ (ii) Sei ε > 0 und N ∈ N so gew¨ahlt, dass μ({N + 1, N + 2, . . .}) < 4ε . F¨ur hinreichend großes n0 ∈ N ist ferner
3.2 Poisson-Approximation N μn ({k}) − μ({k}) < ε 4
79
f¨ur jedes n ≥ n0 .
k=0
Speziell ist f¨ur n ≥ n0 auch μn ({N + 1, N + 2, . . .}) < 2ε . Also ist f¨ur n ≥ n0 μn (A) − μ(A) ≤ μn ({N + 1, N + 2, . . .}) + μ({N + 1, N + 2, . . .}) μn ({k}) − μ({k}) + k∈A∩{0,...,N }
< ε.
(ii) =⇒ (i)
Dies ist trivial. Dies folgt aus elementarer Theorie der Potenzreihen. 2
(i) ⇐⇒ (iii) ⇐⇒ (iv)
Seien (pn,k )n,k∈N Zahlen mit pn,k ∈ [0, 1], sodass der Grenzwert λ := lim
n→∞
existiert und so, dass lim
n→∞
∞
k=1
∞
k=1
(3.11)
pn,k ∈ (0, ∞)
p2n,k = 0 ist (beispielsweise pn,k = λ/n f¨ur
k ≤ n und pn,k = 0 f¨ur k > n). F¨ur jedes n ∈ N sei (Xn,k )k∈N eine unabh¨angige Familie von Zufallsvariablen mit Xn,k ∼ Berpn,k . Setze S n :=
∞ l=1
Xn,l
und
Skn :=
k l=1
Xn,l
f¨ur k ∈ N.
Satz 3.7 (Poisson-Approximation). Unter den obigen Annahmen konvergieren die Verteilungen (PS n )n∈N schwach gegen die Poisson-Verteilung Poiλ . Beweis. Die Poisson-Verteilung hat die Erzeugendenfunktion ψ(z) = eλ(z−1) (siehe (3.4)). Andererseits sind S n − Skn und Skn unabh¨angig f¨ur jedes k ∈ N, also ψS n = ψSkn · ψS n −Skn . Nun ist f¨ur jedes z ∈ [0, 1] 1≥
∞ ψS n (z) k→∞ = ψS n −Skn (z) ≥ 1 − P[S n − Skn ≥ 1] ≥ 1 − pn,l −→ 1, ψSkn (z) l=k+1
80
3 Erzeugendenfunktion
also ψS n (z) = lim ψSkn (z) = k→∞
∞ (pn,l z + (1 − pn,l )) l=1
= exp F¨ur |x| <
1 2
∞ l=1
log 1 + pn,l (z − 1) .
ist | log(1 + x) − x| ≤ x2 . Nach Voraussetzung gilt max pn,l → 0 f¨ur
n → ∞, also ist f¨ur hinreichend großes n ∞ ∞
log 1 + p (z − 1) p − (z − 1) n,l n,l l=1
l=1
≤
∞ l=1
p2n,l ≤
∞
pn,l
l=1
l∈N
n→∞
max pn,l −→ 0. l∈N
Zusammen mit (3.11) folgt
lim ψS n (z) = lim exp (z − 1)
n→∞
n→∞
∞ l=1
pn,l
= eλ(z−1) .
2
3.3 Verzweigungsprozesse Seien T, X1 , X2 , . . . unabh¨angige, N0 -wertige Zufallsvariablen. Wie sieht die VerT teilung von S := n=1 Xn aus? Zun¨achst bemerken wir, dass S messbar ist, denn {S = k} =
∞
{T = n} ∩ {X1 + . . . + Xn = k}.
n=0
Satz 3.8. Sind die X1 , X2 , . . . zus¨atzlich identisch verteilt, so ist die Erzeugendenfunktion von S gegeben durch ψS (z) = ψT (ψX1 (z)). Beweis. ψS (z) =
∞
P[S = k] z k
k=0
=
∞ ∞
P[T = n] P[X1 + . . . + Xn = k] z k
k=0 n=0
=
∞
n=0
P[T = n] ψX1 (z)n = ψT ψX1 (z) .
2
3.3 Verzweigungsprozesse
81
∞ Wir nehmen jetzt an, dass p0 , p1 , p2 , . . . ∈ [0, 1] sind mit k=0 pk = 1. Sei (Xn,i )n,i∈N0 eine unabh¨angige Familie von Zufallsvariablen mit P[Xn,i = k] = pk f¨ur jedes k ∈ N0 und jedes i ∈ N.
Setze Z0 = 1 und
Zn−1
Zn =
Xn−1,i
i=1
f¨ur n ∈ N.
Wir geben die folgende Interpretation an: Zn ist die Anzahl von Individuen in der n-ten Generation einer sich zuf¨allig entwickelnden Population. Das i-te Individuum aus der n-ten Generation hat Xn,i Nachkommen (in der (n + 1)-ten Generation). Definition 3.9. (Zn )n∈N0 heißt Galton-Watson-Prozess oder Verzweigungsprozess mit Nachkommenverteilung (pk )k∈N0 . Ein wichtiges Hilfsmittel bei der Untersuchung von Verzweigungsprozessen sind Erzeugendenfunktionen. Sei also ψ(z) =
∞
pk z k
k=0
die Erzeugendenfunktion der Nachkommenverteilung und ψ′ deren Ableitung. Wir definieren die n-te Iterierte von ψ durch ψ1 := ψ,
ψn := ψ ◦ ψn−1
f¨ur n = 2, 3, . . .
Sei schließlich ψZn die Erzeugendenfunktion von Zn . Lemma 3.10. Es gilt ψn = ψZn f¨ur jedes n ∈ N. Beweis. F¨ur n = 1 ist dies per Definition richtig. F¨ur n ∈ N folgt mit Satz 3.8 induktiv ψZn+1 = ψ ◦ ψZn = ψ ◦ ψn = ψn+1 . 2 Offenbar ist die Wahrscheinlichkeit qn := P[Zn = 0], dass Z zur Zeit n schon ausgestorben ist, wachsend in n. Wir bezeichnen mit q := lim P[Zn = 0] n→∞
die Aussterbewahrscheinlichkeit. Unter welchen Bedingungen ist q = 0, q = 1, oder q ∈ (0, 1)? Offenbar ist q ≥ p0 . Ist andererseits p0 = 0, so ist Zn wachsend in n, also q = 0.
82
3 Erzeugendenfunktion
Satz 3.11 (Aussterbewahrscheinlichkeit des Galton-Watson-Prozesses). Sei p1 = 1. (i) Es gilt {r ∈ [0, 1] : ψ(r) = r} = {q, 1}. ¨ (ii) Es gelten die Aquivalenzen q < 1 ⇐⇒ lim ψ ′ (z) > 1 ⇐⇒ z↑1
∞
kpk > 1.
k=1
Beweis. ψ ist strikt konvex und monoton wachsend und ψ(1) = 1. Ist lim ψ ′ (z) ≤ z↑1
1, so ist ψ(z) > z f¨ur jedes z ∈ [0, 1). Ist lim ψ ′ (z) > 1, so gibt es genau ein z↑1
r ∈ [0, 1) mit ψ(r) = r. Offenbar ist
q = 0 ⇐⇒ p0 = 0 ⇐⇒ ψ(0) = 0 ⇐⇒ ψ(z) < z
f¨ur jedes z ∈ (0, 1).
Sei nun also p0 > 0 angenommen. Offenbar gilt qn = ψn (0) = ψ(qn−1 ). Wir wissen, dass qn ↑ q. Da ψ stetig ist, gilt ψ(q) = ψ( lim qn ) = lim ψ(qn ) = lim qn+1 = q. n→∞
n→∞
n→∞
Also ist q ein Fixpunkt von ψ, und wir m¨ussen im Fall ψ ′ (1) > 1 noch ausschließen, dass q = 1 ist. Ist r = ψ(r), so ist r ≥ ψ(0) = q0 , also r = ψ(r) ≥ ψ(q0 ) = q1 und induktiv r ≥ qn f¨ur jedes n ∈ N0 , also r ≥ q. Mithin ist q die kleinste L¨osung in [0, 1] von ψ(r) = r. ¨ Die zweite Aquivalenz in (ii) folgt aus (3.2). 2
4 Das Integral
Nach dem Begriff des Maßraums und der messbaren Abbildung ist das Integral messbarer reeller Abbildungen bez¨uglich allgemeiner Maße, nicht nur des Lebesgue-Maßes, wie es in den meisten Analysis-Vorlesungen behandelt wird, ein Eckstein der systematischen Wahrscheinlichkeitstheorie, der es uns beispielsweise erlaubt, Erwartungswerte und h¨ohere Momente zu definieren. In diesem Kapitel definieren wir das Integral durch Approximation mit Elementarfunktionen und leiten einfache Eigenschaften her wie das Lemma von Fatou. Die anderen Konvergenzs¨atze f¨ur Integrale folgen in den Kapiteln 6 und 7.
4.1 Konstruktion und einfache Eigenschaften Sei im Folgenden stets (Ω, A, μ) ein Maßraum. Wir bezeichnen mit E den Vektorraum der Elementarfunktionen (siehe Definition 1.93) auf (Ω, A) und mit E+ := {f ∈ E : f ≥ 0} den Kegel (woher der Name?) der nichtnegativen Elementarfunktionen. Gilt m (4.1) αi Ai f= i=1
f¨ur gewisses m ∈ N und f¨ur α1 , . . . , αm ∈ (0, ∞) sowie paarweise disjunkte Mengen A1 , . . . , Am ∈ A, so sagen wir, dass (4.1) eine Normaldarstellung der Elementarfunktion f ist.
m Lemma 4.1. Sind f = i=1 αi lungen von f ∈ E+ , so gilt m i=1
Ai
und f =
αi μ(Ai ) =
n
n
j=1
βj
Bj
zwei Normaldarstel-
βj μ(Bj ).
j=1
Beweis. Ist μ(Ai ∩ Bj ) > 0 f¨ur gewisse i und j, so ist Ai ∩ Bj = ∅,und f¨ur jedes n ω ∈ Ai ∩ Bj ist f (ω) = αi = βj . Außerdem ist offenbar Ai ⊂ j=1 Bj , falls m αi = 0 und Bj ⊂ i=1 Ai , falls βj = 0. Es folgt
84
4 Das Integral m
αi μ(Ai ) =
i=1
m n
αi μ(Ai ∩ Bj )
m n
βj μ(Ai ∩ Bj ) =
i=1 j=1
=
i=1 j=1
n
βj μ(Bj ).
2
j=1
Dieses Lemma erlaubt uns, die folgende Definition zu treffen (weil der definierte Wert I(f ) von der gew¨ahlten Normaldarstellung nicht abh¨angt). Definition 4.2. Wir definieren eine Abbildung I : E+ → [0, ∞] durch I(f ) =
m
αi μ(Ai ),
i=1
falls f die Normaldarstellung f =
m
i=1
αi
Ai
hat.
Lemma 4.3. Die Abbildung I ist positiv linear und monoton: Seien f, g ∈ E+ und α ≥ 0. Dann gelten die folgenden Aussagen. (i) I(αf ) = α I(f ). (ii) I(f + g) = I(f ) + I(g). (iii) Ist f ≤ g, so ist I(f ) ≤ I(g). ¨ Beweis. Ubung.
2
Definition 4.4 (Integral). Ist f : Ω → [0, ∞] messbar, so definieren wir das Integral von f bez¨uglich μ durch
f dμ := sup I(g) : g ∈ E+ , g ≤ f .
0 Bemerkung 4.5. Nach Lemma 4.3(iii) ist I(f ) = f dμ f¨ur jedes f ∈ E+ . Also ist das Integral eine Fortsetzung der Abbildung I von E+ auf die Menge der nichtnegativen messbaren Funktionen. 3 Sind f, g : Ω → R Abbildungen, so schreiben wir f ≤ g, falls f (ω) ≤ g(ω) f¨ur jedes ω ∈ Ω gilt. Analog verwenden wir die Schreibweise f ≥ 0 und so fort. Hingegen schreiben wir f ≤ g fast u¨ berall“, falls die schw¨achere Bedingung gilt, ” dass eine μ-Nullmenge N existiert mit f (ω) ≤ g(ω) f¨ur jedes ω ∈ N c .
4.1 Konstruktion und einfache Eigenschaften
85
Lemma 4.6. Seien f, g, f1 , f2 , . . . messbare Abbildungen Ω → [0, ∞]. Dann gilt 0 0 (i) (Monotonie) Ist f ≤ g, dann ist f dμ ≤ g dμ.
(ii) (Monotone 0 Konvergenz) Gilt fn ↑ f , dann konvergieren auch die Integrale 0 fn dμ ↑ f dμ.
(iii) (Linearit¨at) Sind α, β ∈ [0, ∞], so gilt (αf + βg) dμ = α f dμ + β g dμ, wobei wir die Konvention ∞ · 0 := 0 benutzen. Beweis. (i) Dies folgt direkt aus der Definition des Integrals. (ii) Nach (i) gilt lim
n→∞
Wir m¨ussen also nur noch
0
fn dμ = sup
n∈N
f dμ ≤ sup
n∈N
0
fn dμ ≤
f dμ.
fn dμ zeigen.
Sei g ∈ E+ mit g ≤ f . Es reicht zu zeigen, dass sup fn dμ ≥ g dμ.
(4.2)
n∈N
N Die Elementarfunktion g habe die Normaldarstellung g = i=1 αi Ai , wobei α1 , . . . , αN ∈ (0, ∞) sind und A1 , . . . , AN ∈ A paarweise disjunkt sind. F¨ur jedes ε > 0 und n ∈ N definieren wir die Menge Bnε = {fn ≥ (1 − ε) g}. Wegen fn ↑ f ≥ g gilt Bnε ↑ Ω f¨ur jedes ε > 0. Also gilt nach (i) f¨ur ε > 0
fn dμ ≥ (1 − ε) g Bnε dμ =
N i=1
n→∞
−→
(1 − ε) αi μ(Ai ∩ Bnε ) N i=1
(1 − ε) αi μ(Ai ) = (1 − ε)
g dμ.
Da ε > 0 beliebig war, folgt (4.2) und damit die Aussage (ii). (iii) Nach Satz 1.96 ist jede nichtnegative messbare Abbildung monotoner Limes von Elementarfunktionen. Es gibt also Folgen (fn )n∈N und (gn )n∈N in E+ mit
86
4 Das Integral
fn ↑ f und gn ↑ g. Es gilt dann aber auch (αfn + βgn ) ↑ αf + βg. Nach (ii) und Lemma 4.3 gilt daher (αf + βg) dμ = lim (αfn + βgn ) dμ n→∞
= α lim
n→∞
fn dμ + β lim
n→∞
gn dμ = α
f dμ + β
g dμ.
2
0 ± + − 0 + f dμ ≤ 0F¨ur messbares f : Ω0→ R ist f ≤ |f | und f 0 ≤−|f |, also gilt auch |f | dμ. Ist speziell |f | dμ < ∞, so ist auch f dμ < ∞ und f dμ < ∞. Daher k¨onnen wir die folgende Definition treffen, die abschließend das Integral f¨ur messbare Funktionen erkl¨art. ¨ messbare Definition 4.7 (Integral fur 0 Funktionen). Eine messbare Funktion f : Ω → R heißt μ-integrierbar, falls |f | dμ < ∞. Wir schreiben 0 |f | dμ < ∞ . L1 (μ) := L1 (Ω, A, μ) := f : Ω → R : f ist messbar und F¨ur f ∈ L1 (μ) definieren wir das Integral von f bez¨uglich μ durch + f (ω) μ(dω) := f dμ := f dμ − f − dμ.
(4.3)
0 0 0 Ist lediglich f − dμ < ∞ oder f + dμ < ∞, so definieren wir ebenfalls f dμ durch (4.3), wobei wir dann die Werte +∞ beziehungsweise −∞ zulassen. f dμ := (f A ) dμ. Ist A ∈ A, so schreiben wir A
Satz 4.8. Sei f : Ω → [0, ∞] messbar.
0 (i) Es ist f = 0 fast u¨ berall genau dann, wenn f dμ = 0 gilt. 0 (ii) Ist f dμ < ∞, so gilt f < ∞ fast u¨ berall.
Beweis. (i) =⇒ “ Es gelte f = 0 fast u¨ berall. Sei N = {ω : f (ω) > 0}. Dann ” ist f ≤ ∞ · N und n N ↑ ∞ · N . Es folgt nach Lemma 4.6(i) und (ii) n N dμ = 0. 0 ≤ f dμ ≤ (∞ · N ) dμ = lim n→∞
”
⇐= “
Sei Nn = {f ≥ n1 }, n ∈ N. Dann ist Nn ↑ N und μ(Nn ) 1 . 0 = f dμ ≥ Nn dμ = n n
Also gilt μ(Nn ) = 0 f¨ur jedes n ∈ N und damit μ(N ) = 0.
4.1 Konstruktion und einfache Eigenschaften
87
(ii) Sei A = {ω : f (ω) = ∞}. F¨ur n ∈ N ist n1 f {f ≥n} ≥ {f ≥n} , also nach Lemma 4.6(i) 1 1 n→∞ f {f ≥n} dμ ≤ f dμ −→ 0. 2 μ(A) = A dμ ≤ {f ≥n} dμ ≤ n n Satz 4.9 (Eigenschaften des Integrals). Seien f, g ∈ L1 (μ). 0 0 (i) (Monotonie) Ist f ≤ g fast u¨ berall, so ist f dμ ≤ g dμ. 0 0 Ist speziell f = g fast u¨ berall, so ist f dμ = g dμ. 0 0 (ii) (Dreiecksungleichung) Es gilt stets f dμ ≤ |f | dμ. Sind α, β ∈ R, dann ist αf + βg ∈ L1 (μ) und (αf + βg) dμ = α f dμ + β g dμ.
(iii) (Linearit¨at)
Diese Gleichung gilt auch, wenn h¨ochstens eines der Integrale 0 g dμ einen der Werte ±∞ annimmt.
0
f dμ und
Beweis. (i) Es gilt f + ≤ g + und f − ≥ g − f.¨u., also ist nach Lemma 4.6(i) f + dμ ≤ g + dμ und f − dμ ≥ g − dμ. Es folgt
f dμ =
f + dμ −
f − dμ ≤
g + dμ −
g − dμ =
(ii) Wegen f + + f − = |f | ist nach Lemma 4.6(iii) f dμ = f + dμ − f − dμ ≤ f + dμ + f − dμ =
+ f + f − dμ =
g dμ.
|f | dμ.
(iii) Wegen |αf + βg| ≤ |α| · |f | + |β| · |g| ist nach Lemma 4.6(i) und (iii) auch αf + βg ∈ L1 (μ). Um die Linearit¨at zu zeigen, reicht es die drei folgenden Eigenschaften zu pr¨ufen. 0 0 0 (a) (f + g) dμ = f dμ + g dμ. 0 0 (b) F¨ur α ≥ 0 ist αf dμ = α f dμ. 0 0 (c) (−f ) dμ = − f dμ.
88
4 Das Integral
Zu (a): Es ist (f + g)+ − (f + g)− = f + g = f + − f − + g + − g − , also ist (f + g)+ + f − + g − = (f + g)− + f + + g + . Nach Lemma 4.6(iii) gilt + − − − + (f + g) dμ + f dμ + g dμ = (f + g) dμ + f dμ + g + dμ, also ist
(f + g) dμ − (f + g)− dμ = f + dμ − f − dμ + g + dμ − g − dμ = f dμ + g dμ.
(f + g) dμ =
+
Zu (b): F¨ur α ≥ 0 ist αf dμ = αf + dμ − αf − dμ = α f + dμ − α f − dμ = α f dμ. Zu (c):
Es ist
(−f ) dμ − (−f )− dμ = f − dμ − f + dμ = − f dμ.
(−f ) dμ =
+
¨ Der Zusatz ist simpel und verbleibt zur Ubung.
2
Satz 4.10 (Bildmaß). Seien (Ω, A) und (Ω ′ , A′ ) Messr¨aume, μ ein Maß auf (Ω, A) und X : Ω → Ω ′ messbar. Sei μ′ = μ ◦ X −1 das Bildmaß von μ unter X und f : Ω ′ → R integrierbar bez¨uglich μ′ . Dann ist f ◦ X ∈ L1 (μ) und (f ◦ X) dμ = f d(μ ◦ X −1 ).
Ist speziell X eine Zufallsvariable auf (Ω, A, P), so ist f (x) P[X ∈ dx] := f (x) PX [dx] = f dPX = f (X(ω)) P[dω]. ¨ Beweis. Ubung!
2
Beispiel 4.11 (Diskreter Maßraum). Sei (Ω, A) ein diskreter Messraum und μ = αω δω f¨ur gewisse Zahlen αω ≥ 0, ω ∈ Ω. Eine Abbildung f : Ω → R ist ω∈Ω genau dann integrierbar, wenn |f (ω)| αω < ∞ ist. In diesem Fall gilt
ω∈Ω
f dμ =
ω∈Ω
f (ω) αω .
3
4.1 Konstruktion und einfache Eigenschaften
89
Definition 4.12 (Lebesgue-Integral). Sei λ das Lebesgue-Maß auf Rn und f : Rn → R messbar bez¨uglich B∗ (Rn ) – B(R) (wobei B∗ (Rn ) die Lebesgue’sche σ-Algebra ist, siehe Beispiel 1.71) und λ-integrierbar. Dann nennen wir f dλ das Lebesgue-Integral von f . Ist A ∈ B(Rn ) und f : Rn → R messbar (oder f : A → R messbar bez¨uglich B∗ (Rn ) – B(R) und damit f A messbar bez¨uglich A
B∗ (Rn ) – B(R)), so schreiben wir f dλ := f
A
dλ.
A
Definition 4.13. Sei μ ein Maß auf (Ω, A) und f : Ω → [0, ∞) messbar. Wir sagen, dass das durch ν(A) := ( A f ) dμ f¨ur A ∈ A definierte Maß f μ := ν die Dichte f bez¨uglich μ hat.
Bemerkung 4.14. Wir m¨ussen noch zeigen, dass ν ein Maß ist und pr¨ufen hierzu die Bedingung von Satz 1.36 nach. Offenbar ist ν(∅) = 0. Endliche Additivit¨at folgt aus der Additivit¨at des Integrals (Lemma 4.6(iii)) und Stetigkeit von unten aus dem Satz von der monotonen Konvergenz (Satz 4.20). 3 Satz 4.15. Es ist g ∈ L1 (f μ) genau dann, wenn (gf ) ∈ L1 (μ). In diesem Fall gilt g d(f μ) = (gf ) dμ. Beweis. Die Aussage gilt zun¨achst f¨ur Indikatorfunktionen und wird dann mit den u¨ blichen Argumenten auf Elementarfunktionen, nichtnegative Funktionen sowie schließlich auf messbare Funktionen fortgesetzt. 2 Definition 4.16. F¨ur messbares f : Ω → R definieren wir f p := und
|f |p dμ
1/p
,
falls p ∈ [1, ∞),
f ∞ := inf K ≥ 0 : μ({|f | > K}) = 0 .
Ferner definieren wir f¨ur jedes p ∈ [1, ∞] den Vektorraum Lp (μ) := f : Ω → R ist messbar und f p < ∞ .
90
4 Das Integral
Satz 4.17. Die Abbildung · 1 ist eine Pseudonorm auf L1 (μ), das heißt, es gilt f¨ur f, g ∈ L1 (μ) und α ∈ R αf 1 = |α| · f 1 (4.4)
f + g1 ≤ f 1 + g1 f 1 ≥ 0 f¨ur alle f und f 1 = 0,
falls f = 0 f.¨u.
Beweis. Die erste und dritte Aussage folgen aus Satz 4.9(iii) und Satz 4.8(i). Die zweite folgt aus Satz 4.9(i), denn es ist |f + g| ≤ |f | + |g|, also f + g1 = |f + g| dμ ≤ |f | dμ + |g| dμ = f 1 + g1 . 2 Bemerkung 4.18. Tats¨achlich ist · p f¨ur jedes p ∈ [1, ∞] eine Pseudonorm auf Lp (μ). Linearit¨at und Positivit¨at sind klar, und die Dreiecksungleichung ist die Minkowski’sche Ungleichung, die wir in Satz 7.17 zeigen werden. 3 ′
Satz 4.19. Seien μ(Ω) < ∞ und 1 ≤ p′ ≤ p ≤ ∞. Dann ist Lp (μ) ⊂ Lp (μ), und ′ die kanonische Inklusion i : Lp (μ) ֒→ Lp (μ), f → f ist stetig. ′
′
Beweis. Sei f ∈ L∞ (μ) und p′ ∈ [1, ∞). Dann ist |f |p ≤ f p∞ fast u¨ berall, also ′ ′ ′ |f |p dμ ≤ f p∞ dμ = f p∞ · μ(Ω) < ∞. ′
F¨ur f, g ∈ L∞ (μ) ist also f − gp′ ≤ μ(Ω)1/p f − g∞ und damit ist i stetig. ′
Seien nun p, p′ ∈ [1, ∞) mit p′ < p sowie f ∈ Lp (μ). Dann ist |f |p ≤ 1 + |f |p , also gilt ′ |f |p dμ ≤ μ(Ω) + |f |p dμ < ∞. Seien schließlich f, g ∈ Lp (μ). F¨ur jedes c > 0 ist ′
′
′
|f − g|p = |f − g|p
{|f −g|≤c}
+ |f − g|p
{|f −g|>c}
′
′
≤ cp + cp −p |f − g|p .
Speziell erhalten wir mit c = f − gp 1/p′ ′ ′ ′ f − gp′ ≤ cp μ(Ω) + cp −p f − gpp = (1 + μ(Ω))1/p f − gp . Also ist i auch in diesem Falle stetig.
2
¨ Ubung 4.1.1 (Folgenr¨aume). Wir nehmen jetzt nicht mehr an, dass μ(Ω) < ∞ ist. Man zeige: Gibt es ein a > 0, sodass f¨ur jedes A ∈ A entweder μ(A) = 0 oder μ(A) ≥ a gilt, so gilt die zu Satz 4.19 umgekehrte Inklusion ′
Lp (μ) ⊂ Lp (μ),
falls 1 ≤ p′ ≤ p ≤ ∞.
(4.5) ♣
4.2 Monotone Konvergenz und Lemma von Fatou
91
¨ Ubung 4.1.2. Sei 1 ≤ p′ < p ≤ ∞ und μ σ-endlich, aber nicht endlich. Man zeige, ′ p ♣ dass L (μ) \ Lp (μ) = ∅.
4.2 Monotone Konvergenz und Lemma von Fatou Unter welchen Bedingungen ist die Vertauschbarkeit von Limes und Integral zul¨assig? Wir geben hier zwei einfache Kriterien f¨ur die Vertauschbarkeit an, die uns wichtige Anwendungen wie Gesetze der großen Zahl (Kapitel 5) erm¨oglichen. Allgemeinere Kriterien werden in Kapitel 6 hergeleitet. Satz 4.20 (Monotone Konvergenz, Satz von Beppo Levi). Seien f1 , f2 , . . . ∈ L1 (μ) und f : Ω → R messbar. Es gelte fn ↑ f f.¨u. f¨ur n → ∞. Dann gilt fn dμ = f dμ, lim n→∞
wobei beide Seiten den Wert +∞ annehmen k¨onnen. Beweis. Sei N ⊂ Ω eine Nullmenge, sodass fn (ω) ↑ f (ω) f¨ur alle ω ∈ N c . Die Funktionen fn′ := (fn − f1 ) N c und f ′ := (f − f1 ) N c sind nichtnegativ und 0 n→∞ 0 ′ f dμ. Wegen fn = erf¨ullen fn′ ↑ f ′ . Nach Lemma 4.6(ii) gilt fn′ dμ −→ fn′ + f1 f.¨u. und f = f ′ + f1 f.¨u. folgt nach Satz 4.9(iii) n→∞ f1 dμ + f ′ dμ = f dμ. 2 fn dμ = f1 dμ + fn′ dμ −→ Satz 4.21 (Lemma von Fatou). Seien f ∈ L1 (μ) und f1 , f2 , . . . messbar mit fn ≥ f f.¨u. f¨ur jedes n ∈ N. Dann gilt lim inf fn dμ ≤ lim inf fn dμ. n→∞
n→∞
Beweis. Indem wir (fn − f )n∈N betrachten, k¨onnen wir annehmen, dass fn ≥ 0 f.¨u. f¨ur jedes n ∈ N. Setze gn := inf fm . m≥n
Dann gilt gn ↑ lim inf fm , also nach dem Satz von der monotonen Konvergenz m→∞ 0 0 (Lemma 4.6(ii)) sowie der Monotonie gn ≤ fn (also gn dμ ≤ fn dμ) lim inf fn dμ = lim gn dμ ≤ lim inf fn dμ. 2 n→∞
n→∞
n→∞
92
4 Das Integral
Beispiel 4.22 (Petersburger Spiel). Wir wollen durch ein Beispiel zeigen, dass auf die Voraussetzung der Existenz einer integrierbaren Minorante im Lemma von Fatou nicht verzichtet werden kann. Wir betrachten ein Gl¨ucksspiel in einem Casino, bei dem in jeder Runde ein vom Spieler gew¨ahlter Einsatz entweder verdoppelt zur¨uckgezahlt wird oder verloren geht. Dies ist etwa beim Roulette der Fall, wo der Spieler zum Beispiel auf Rot“ setzen kann. Kommt eine rote Zahl, so gewinnt der ” Spieler seinen Einsatz verdoppelt zur¨uck, ansonsten verliert er ihn. Es gibt 37 Felder, von denen 18 rot sind und 18 schwarz, sowie die Null, die gr¨un ist. Die Gewinn18 < 12 betragen. Dieses Gl¨ucksspiel werde unendlich oft unchance sollte also p = 37 abh¨angig hintereinander ausgef¨uhrt. Wir k¨onnen es also auf einem Wahrscheinlichkeitsraum (Ω, A, P) realisieren, wobei (Ω = {−1, 1}N , A = (2{−1,1} )⊗N die von ⊗N den Zylindern [ω1 , . . . , ωn ] erzeugte σ-Algebra ist und P = ((1 − p)δ−1 + pδ1 ) das Produktmaß. Wir bezeichnen mit Dn : Ω → {−1, 1}, ω → ωn das Ergebnis der n-ten Runde f¨ur jedes n ∈ N. Macht der Spieler in der n-ten Runde den (zuf¨alligen) Einsatz Hn , so betr¨agt die Summe der Gewinne nach der n-ten Runde Sn =
n
Hn Dn .
i=1
Wir nehmen nun an, dass der Spieler die folgende Strategie verfolgt: In der ersten Runde ist der Einsatz H1 = 1. Gewinnt er, so setzt er in den folgenden Spielen gar nicht mehr, also ist Hn = 0 f¨ur jedes n ≥ 2, falls D1 = 1. Verliert er hingegen, so setzt er in der zweiten Runde den doppelten Einsatz, also ist H2 = 2, falls D1 = −1. Gibt die zweite Runde einen Gewinn, so setzt er ab der dritten Runde gar nicht mehr, andernfalls verdoppelt er wiederum seinen Einsatz in der dritten Runde und so weiter. Wir erhalten also als Strategie 0, falls es ein i ∈ {1, . . . , n − 1} gibt mit Di = 1, Hn = n−1 2 , sonst. Man beachte, dass Hn nur von D1 , . . . , Dn−1 abh¨angt, also messbar ist bez¨uglich σ(D1 , . . . , Dn−1 ). Dies ist offenbar ein wichtige Forderung an jede Spielstrategie, da man die Entscheidung u¨ ber den Einsatz aufgrund der vorhandenen Kenntnis zum jeweiligen Zeitpunkt treffen muss und nicht in die Zukunft blicken kann. Die Wahrscheinlichkeit, dass bis zum Zeitpunkt n kein Spiel gewonnen wurde ist (1 − p)n , also ist P[Sn = 1 − 2n ] = (1 − p)n und P[Sn = 1] = 1 − (1 − p)n . Man erwartet also im Mittel einen Gewinn von
n Sn dP = (1 − p)n (1 − 2n ) + (1 − (1 − p)n ) = 1 − 2 (1 − p) ≤ 0, da p ≤
1 2
ist (in den profitablen Spielbanken). Wir setzen nun −∞, falls − 1 = D1 = D2 = . . . , S= 1, sonst.
4.3 Lebesgue-Integral versus Riemann-Integral
93
0 0 n→∞ Dann gilt Sn −→ S f.s., jedoch ist limn→∞ Sn dP < S dP = 1, weil S = 1 fast sicher gilt. Nach dem Lemma von Fatou ist dies nur m¨oglich, wenn es keine integrierbare Minorante zur Folge (Sn )n∈N gibt. Setzen wir S˜ := inf{Sn : n ∈ N}, n−1 so gilt in der Tat P[0S˜ = 1 − 2 ] = P[D1 = . . . = Dn−1 = −1 undDn = 1}] = ∞ n−1 ˜ p(1 − p) , also S dP = n=1 (1 − 2n−1 ) p(1 − p)n−1 = −∞, weil p ≤ 12 .3
1 ¨ Ubung 4.2.1. Sei (Ω, A, μ) ein Maßraum und zeige: Zu jedem 0 f ∈ L (μ). 0 Man ♣ ε > 0 gibt es ein A ∈ A mit μ(A) < ∞ und A f dμ − f dμ < ε.
0 ¨ Ubung 4.2.2. Seien f1 , f2 , . . . ∈ L1 (μ) nichtnegativ und so, dass limn→∞ fn dμ n→∞ existiert. Es gebe ein messbares f mit fn −→ f μ-fast u¨ berall. Man zeige: Es gilt 1 f ∈ L (μ) und fn − f dμ = lim fn dμ − f dμ. ♣ n→∞
4.3 Lebesgue-Integral versus Riemann-Integral Wir zeigen, dass f¨ur Riemann-integrierbare Funktionen das Lebesgue-Integral und das Riemann-Integral u¨ bereinstimmen. Sei I = [a, b] ⊂ R ein Intervall und λ das Lebesgue-Maß auf I. Ferner betrachten wir Folgen t = (tn )n∈N von Partitionen tn = (tni )i=0,...,n von I, also a = tn0 < tn1 < . . . < tnn = b, die immer feiner werden, das heißt, mit max{tni − tni−1 : i = n→∞ n+1 1, . . . , n} −→ 0. Wir nehmen an, dass N die Partition eine
t n f¨ur jedes
n ∈n+1 n+1 n n Verfeinerung von t ist, dass also gilt t0 , . . . , tn ⊂ t0 , . . . , tn+1 .
F¨ur jede Funktion f : I → R und jedes n ∈ N definieren wir die n-te Untersumme beziehungsweise Obersumme durch Unt (f ) :=
n i=1
Ont (f ) :=
n i=1
(tni − tni−1 ) inf f [tni−1 , tni ) ,
(tni − tni−1 ) sup f [tni−1 , tni ) .
Bekanntlich heißt eine Funktion f : I → R Riemann-integrierbar, wenn es ein t gibt, sodass die Limiten von Obersummen und Untersummen u¨ bereinstimmen und endlich sind. Der Grenzwert h¨angt dann nicht vom gew¨ahlten t ab, und man definiert b f (x) dx := lim Unt (f ) = lim Ont (f ) (4.6) a
n→∞
als das Riemann-Integral von f (siehe etwa [141]).
n→∞
94
4 Das Integral
Satz 4.23 (Riemann-Integral und Lebesgue-Integral). Sei f : I → R Riemannintegrierbar auf I = [a, b]. Dann ist f Lebesgue-integrierbar auf I mit Integral
f dλ =
b
f (x) dx.
a
I
Beweis. Sei t so gew¨ahlt, dass (4.6) gilt. Nach Voraussetzung gibt es ein n ∈ N mit |Unt (f )| < ∞ und |Ont (f )| < ∞. Also ist f beschr¨ankt. Indem wir f durch f + f ∞ ersetzen, k¨onnen wir annehmen, dass f ≥ 0 gilt. Setze gn := f (b)
hn := f (b)
{b} +
n
{b} +
n
(inf f ([tni−1 , tni )))
n , [tn i−1 ,ti )
i=1
(sup f ([tni−1 , tni )))
n . [tn i−1 ,ti )
i1
Da tn+1 eine Verfeinerung von tn ist, gilt gn ≤ gn+1 ≤ hn+1 ≤ hn . Also existieren g und h mit gn ↑ g und hn ↓ h. Nach Konstruktion gilt g ≤ h und g dλ = lim gn dλ = lim Unt (f ) I
n→∞
I
n→∞
= lim Ont (f ) = lim n→∞
n→∞
hn dλ =
I
h dλ.
I
Also ist λ-fast u¨ berall h = g. Nach Konstruktion ist g ≤ f ≤ h, und g und h sind als Limiten von Elementarfunktionen messbar bez¨uglich B(I) – B(R). Es folgt, dass f¨ur jedes α ∈ R
{f ≤ α} = {g ≤ α} ∩ {g = h} ⊎ {f ≤ α} ∩ {g = h}
die Vereinigung einer B(I)-Menge mit einer Teilmenge einer Nullmenge ist, also in B(I)∗ (der Lebesgue’schen Vervollst¨andigung von B(I)) liegt. Mithin ist f messbar bez¨uglich B(I)∗ . Nach dem Satz u¨ ber monotone Konvergenz (Satz 4.20) ist
I
f dλ = lim
n→∞
I
gn dλ =
b
f (x) dx.
2
a
Beispiel 4.24. Sei f : [0, 1] → R, x → Q . Dann ist f offenbar nicht Riemannintegrierbar, weil Un (f ) = 0 und 0On (f ) = 1 f¨ur jedes n ∈ N. Andererseits ist f Lebesgue-integrierbar mit Integral [0,1] f dλ = 0, denn Q ∩ [0, 1] ist eine Nullmenge. 3
4.3 Lebesgue-Integral versus Riemann-Integral
95
Bemerkung 4.25. Eine uneigentlich Riemann-integrierbare Funktion f auf einem halboffenen Intervall I = (a, b] oder I = [0, ∞) ist nicht notwendigerweise auch 0∞ Lebesgue-integrierbar. Hier wird n¨amlich das uneigentliche Integral 0 f (x) dx := 0n limn→∞ 0 f (x) dx durch eine Grenzwertprozedur definiert, die R¨ucksicht auf die Geometrie von R nimmt. Dies tut das Lebesgue-Integral nicht. So ist die Funktion 1 sin(x) (uneigentlich) Riemann-integrierbar, jedoch nicht f : [0, ∞) → R, x → 1+x 0 Lebesgue-integrierbar, weil [0,∞) |f | dλ = ∞ ist. 3
Wir haben schon gesehen, dass uneigentlich Riemann-integrierbare Funktionen nicht notwendigerweise auch Lebesgue-integrierbar sind. Andererseits gibt es Lebesgue-integrierbare Funktionen, die nicht Riemann-integrierbar sind (wie etwa asst sich dies so interpretieren, dass das Riemann-Integral die Q ). Geometrisch l¨ Geometrie des Integrationsbereiches respektiert, indem es als Grenzwert von Fl¨achen schmaler senkrechter Streifen entsteht, w¨ahrend das Lebesgue-Integral als Grenzwert mit flachen waagerechten Streifen gedacht werden kann. Insbesondere macht dieses Integral gar keine Annahmen an den Definitionsbereich des Integranden, weshalb es eben universeller einsetzbar ist. Um dies zu unterstreichen, bringen wir einen Satz, der uns auch ansonsten noch n¨utzlich sein wird. Satz 4.26. Sei f : Ω → R messbar und f ≥ 0 fast u¨ berall. Dann gelten ∞
n=1
μ({f ≥ n}) ≤
und
f dμ =
0
∞
f dμ ≤ ∞
(4.7)
μ({f > n})
n=0
(4.8)
μ({f ≥ t}) dt.
′ ′′ ′ ′′ Beweis. Setze 0 f =0 ⌊f′′⌋ und f = ⌈f ⌉. Dann ist f ≤ f ≤ f und deshalb 0 ′ f dμ ≤ f dμ ≤ f dμ. Nun ist
f ′ dμ =
∞
k=1
μ({f ′ = k}) · k = = =
k ∞
μ({f ′ = k})
k=1 n=1 ∞ ∞
μ({f ′ = k})
n=1 k=n ∞ n=1
μ({f ′ ≥ n}) =
∞
n=1
μ({f ≥ n}).
Analog ist
f ′′ dμ =
∞
n=1
μ({f ′′ ≥ n}) =
∞
n=1
μ({f > n − 1}).
96
4 Das Integral
Hieraus folgt (4.7). Gilt g(t) := μ({f ≥ t}) = ∞ f¨ur ein t > 0, so sind beide Seiten in (4.8) gleich ∞. Sei im Folgenden also g(t) < ∞ f¨ur alle t > 0. F¨ur ε > 0 und k ∈ N setze f ε := f
{f ≥ε}
αkε := 2−k
∞
n=1 k→∞
Dann gilt αkε −→ αkε = 2−k
∞
n=1
≤ 2−k
∞
n=0
0∞ ε
sowie fkε = 2k f ε und
μ({f ε ≥ n2−k }).
g(t) dt. Ferner gilt nach (4.7) (mit fkε statt f )
μ({fkε ≥ n}) ≤
f ε dμ
μ({fkε > n}) = 2−k
∞
n=0
μ({f ε > n2−k }) ≤ αkε + 2−k g(ε).
0∞ 0 k→∞ Wegen 2−k g(ε) −→ 0 folgt ε g(t) dt = f ε dμ. Wegen f ε ↑ f f¨ur ε ↓ 0 folgt (4.8) aus dem Satz u¨ ber monotone Konvergenz. 2 ¨ Ubung 4.3.1. Sei f : [0, 1] → R beschr¨ankt. Zeige: f ist genau dann (eigentlich) Riemann-integrierbar, wenn f λ-f.¨u. stetig ist. ♣ ¨ Ubung 4.3.2. Ist f : [0, 1] → R Riemann-integrierbar, so ist f Lebesgue-messbar. Man zeige durch ein Beispiel, dass f nicht Borel-messbar sein muss. (Hinweis: Man verwende ohne Beweis die Existenz einer Teilmenge von [0, 1], die nicht Borelmessbar ist und konstruiere hieraus eine nicht-Borel’sche Menge, deren Abschluss eine Nullmenge ist.) ♣
5 Momente und Gesetze der Großen Zahl
Die wichtigsten Kenngr¨oßen f¨ur Zufallsvariablen sind Median, Erwartungswert und Varianz. Der Erwartungswert beschreibt f¨ur großes n den typischen ungef¨ahren Wert des arithmetischen Mittels (X1 + . . . + Xn )/n von u.i.v. Zufallsvariablen (Gesetz der Großen Zahl). In Kapitel 15 werden wir sehen, wie die Varianz hingegen die typischen Abweichungen des arithmetischen Mittels vom Erwartungswert determiniert.
5.1 Momente Im Folgenden sei (Ω, A, P) ein Wahrscheinlichkeitsraum. Definition 5.1. Sei X eine Zufallsvariable. (i) Ist X ∈ L1 (P), so heißt X integrierbar, und wir nennen E[X] := X dP den Erwartungswert von X. Ist E[X] 0 = 0, so heißt X zentriert. Etwas allgemeiner schreiben wir auch E[X] = X dP, falls nur X − oder X + integrierbar ist.
(ii) Ist n ∈ N und X ∈ Ln (P), so heißen die Gr¨oßen ) * ) * mk := E X k , Mk := E |X|k f¨ur jedes k = 1, . . . , n, die k-ten Momente beziehungsweise absoluten Momente von X.
(iii) Ist X ∈ L2 (P), so heißt X quadratintegrierbar, und wir nennen ) * Var[X] := E X 2 − E[X]2 √ die Varianz von X. Die Zahl σ := Var[X] heißt die Streuung oder Standardabweichung von X. Formal setzen wir manchmal Var[X] = ∞, falls E[X 2 ] = ∞ ist.
98
5 Momente und Gesetze der Großen Zahl
(iv) Sind X, Y ∈ L2 (P), so definieren wir die Kovarianz von X und Y durch ) * Cov[X, Y ] := E X − E[X] Y − E[Y ] . X und Y heißen unkorreliert, falls Cov[X, Y ] = 0 ist.
Bemerkung 5.2. (i) Die Definition in (ii) ist sinnvoll, denn f¨ur X ∈ Ln (P) ist nach Satz 4.19 Mk < ∞ f¨ur jedes k = 1, . . . , n. (ii) Sind X, Y ∈ L2 (P), so ist wegen |XY | ≤ X 2 + Y 2 auch XY ∈ L1 (P). Deshalb ist die Definition in (iv) sinnvoll, und es gilt Cov[X, Y ] = E[XY ] − E[X] E[Y ]. Speziell ist Var[X] = Cov[X, X].
3
Wir fassen die wichtigsten Rechenregeln f¨ur Erwartungswerte als Satz zusammen. Alle aufgef¨uhrten Eigenschaften folgen direkt aus den Eigenschaften des Integrals. ¨ den Erwartungswert). Seien X, Y, Xn , Yn , n ∈ N, Satz 5.3 (Rechenregeln fur reelle integrierbare Zufallsvariablen auf (Ω, A, P). Dann gilt (i) Ist PX = PY , so ist E[X] = E[Y ]. (ii) (Linearit¨at) Sei c ∈ R. Dann gelten cX ∈ L1 (P) und X + Y ∈ L1 (P) sowie E[cX] = cE[X]
und
E[X + Y ] = E[X] + E[Y ].
(iii) Ist X ≥ 0 fast sicher, so gilt E[X] = 0
⇐⇒
X = 0 fast sicher.
(iv) (Monotonie) Gilt X ≤ Y fast sicher, so gilt E[X] ≤ E[Y ] mit Gleichheit genau dann, wenn X = Y fast sicher. ) * (v) (Dreiecksungleichung) Es ist E[X] ≤ E |X| . ' ( ∞ ∞ (vi) Ist Xn ≥ 0 fast sicher f¨ur jedes n ∈ N, so ist E Xn = E[Xn ]. n=1
n=1
(vii) Gilt Yn ↑ Y , so gilt E[Y ] = limn→∞ E[Yn ].
Die Wahrscheinlichkeitstheorie beginnt wieder an der Stelle, wo die Unabh¨angigkeit ins Spiel kommt, wir also den Bereich der linearen Integrationstheorie verlassen. Satz 5.4 (Unabh¨angige Zufallsvariablen sind unkorreliert). Seien X, Y ∈ L1 (P) unabh¨angig. Dann ist (X Y ) ∈ L1 (P) und E[XY ] = E[X] E[Y ]. Speziell sind unabh¨angige Zufallsvariablen unkorreliert.
5.1 Momente
99
Beweis. Wir nehmen zun¨achst an, dass X und Y nur endlich viele Werte annehmen. Dann nimmt auch XY nur endlich viele Werte an, speziell ist offenbar XY ∈ L1 (P). Es folgt E[XY ] = z P[XY = z] z∈R\{0}
=
x
z∈R\{0} x∈R\{0}
=
z P[X = x, Y = z/x] x
xy P[X = x] P[Y = y]
y∈R\{0} x∈R\{0}
=
x∈R
x P[X = x] y P[Y = y] y∈R
= E[X] E[Y ].
4
5 F¨ r N4∈ N sind auch die Zufallsvariablen XN := 2−N 2N |X| ∧ N und YN :=
u−N 5 2N |Y | ∧ N , die nur endlich viele Werte annehmen, unabh¨angig, und es 2 gilt XN ↑ |X| sowie YN ↑ |Y |. Nach dem Satz von der monotonen Konvergenz (Satz 4.20) ist daher E[|XY |] = lim E[XN YN ] = lim E[XN ] E[YN ] N →∞ N →∞ lim E[YN ] = E[|X|] E[|Y |] < ∞. = lim E[XN ] N →∞
N →∞
Also ist XY ∈ L1 (P). Außerdem haben wir damit den Satz gezeigt f¨ur den Fall, wo X und Y nichtnegativ sind. Daher (und weil jede der Familien {X + , Y + }, {X − , Y + }, {X + , Y − } und {X − , Y − } unabh¨angig ist) gilt E[XY ] = E[(X + − X − )(Y + − Y − )]
= E[X + Y + ] − E[X − Y + ] − E[X + Y − ] + E[X − Y − ]
= E[X + ] E[Y + ] − E[X − ] E[Y + ] − E[X + ] E[Y − ] + E[X − ] E[Y − ]
= E[X + − X − ] E[Y + − Y − ] = E[X] E[Y ].
2
Satz 5.5 (Wald’sche Identit¨at). Seien T, X1 , X2 , . . . unabh¨angige, reelle Zufallsvariablen in L1 (P). Es sei P[T ∈ N0 ] = 1, und es seien X1 , X2 , . . . identisch verteilt. Wir setzen T Xi . ST := i=1
1
Dann ist ST ∈ L (P) und E[ST ] = E[T ] E[X1 ].
n ∞ Beweis. Setze Sn = ur n ∈ N0 . Dann ist ST = i=1 Xi f¨ n=1 Sn {T =n} . Nach Bemerkung 2.15 sind Sn und {T =n} unabh¨angig f¨ur jedes n ∈ N und damit unkorreliert. Es folgt (mit Hilfe der Dreiecksungleichung, siehe Satz 5.3(v))
100
5 Momente und Gesetze der Großen Zahl ∞ ) * ) E |ST | = E |Sn |
≤
n=1 ∞
n=1
{T =n}
*
=
∞ ) * ) E |Sn | E
n=1
{T =n}
) * E |X1 | n P[T = n] = E[|X1 |] E[T ].
*
Die selbe Rechnung ohne Betragstriche liefert den Rest der Behauptung.
2
Wir stellen hier ein paar einfache Eigenschaften der Varianz zusammen. Satz 5.6. Sei X ∈ L2 (P). Dann gilt: * ) (i) Var[X] = E (X − E[X])2 ≥ 0,
(ii) Var[X] = 0 ⇐⇒ X = E[X] fast sicher, ) * (iii) Die Abbildung f : R → R, x → E (X −x)2 ist minimal genau in x0 = E[X] mit f (E[X]) = Var[X].
Beweis. (i) Klar nach Bemerkung 5.2(ii). * ) (ii) Nach Satz 5.3(iii) ist E (X − E[X])2 = 0 ⇐⇒ (X − E[X])2 = 0 f.s. (iii) Es ist f (x) = E[X 2 ] − 2x E[X] + x2 = Var[X] + (x − E[X])2 .
2
Satz 5.7. Die Abbildung Cov : L2 (P) × L2 (P) → R ist eine positiv semidefinite symmetrische Bilinearform, und es gilt Cov[X, Y ] = 0, falls Y fast sicher konstant ist. Ausgeschrieben heißt dies: F¨ur X1 , . . ., Xm , Y1 , . . ., Yn ∈ L2 (P) und α1 , . . . , αm , β1 , . . . , βn ∈ R, sowie d, e ∈ R gilt ⎤ ⎡ m n βj Yj ⎦ = αi βj Cov[Xi , Yj ]. (5.1) αi Xi , e + Cov ⎣d + i=1
j=1
i,j
Speziell gilt die Bienaym´e-Gleichung -m . m m Var Cov[Xi , Xj ]. Xi = Var[Xi ] + i=1
i=1
F¨ur unkorrelierte X1 , . . . , Xm gilt Var [
m
i=1
i,j=1 i=
j
Xi ] =
m
i=1
Var[Xi ].
(5.2)
5.1 Momente
101
Beweis. + , m n Cov d + αi Xi , e + βj Yj i=1
j=1
, + n m =E βj (Yj − E[Yj ]) αi (Xi − E[Xi ]) i=1
=
n m
) * αi βj E (Xi − E[Xi ])(Yj − E[Yj ])
m n
αi βj Cov[Xi , Yj ].
i=1 j=1
=
j=1
2
i=1 j=1
Satz 5.8 (Cauchy-Schwarz’sche Ungleichung). Sind X, Y ∈ L2 (P), so gilt
2 Cov[X, Y ] ≤ Var[X] Var[Y ].
Es gilt genau dann Gleichheit, wenn es a, b, c ∈ R gibt aX + bY + c = 0 f.s. Beweis. Die Cauchy-Schwarz’sche Ungleichung gilt f¨ur jede positiv semidefinite Bilinearform · , · ! auf einem Vektorraum V . Es gilt jeweils genau dann Gleichheit x, y!2 = x, x! y, y!, wenn es Zahlen a, b ∈ R gibt mit ax − by, ax − by! = 0. Wenden wir dies auf die positiv semidefinite Bilinearform Cov[ · , · ] auf L2 (P) an, so erhalten wir die Cauchy-Schwarz’sche Ungleichung f¨ur X, Y ∈ L2 (P) mit Gleichheit genau dann, wenn Var[aX + bY ] = 0, also genau dann, wenn (vergleiche Satz 5.6(ii)) aX + bY = c := E[aX + bY ] fast sicher. Zeigen wir nun also die Aussage f¨ur die allgemeine positiv semidefinite Bilinearform auf R. Ohne Einschr¨ankung gilt y, y! > 0 (sonst ist die Aussage trivial). Es gilt dann mit θ = − x,y y,y : ; 0 ≤ x + θy, x + θy y, y! = x, x! + 2θ x, y! + θ2 y, y! y, y! = x, x! y, y! − x, y!2 .
2
Beispiel 5.9. (i) Es sei p ∈ [0, 1] und X ∼ Berp . Dann ist E[X 2 ] = E[X] = P[X = 1] = p und damit Var[X] = p(1 − p). (ii) Seien n ∈ N und p ∈ [0, 1] sowie X binomialverteilt X ∼ bn,p . Dann ist
102
5 Momente und Gesetze der Großen Zahl
E[X] =
n
kP[X = k] =
k=0
n n k k p (1 − p)n−k k
k=0
= np ·
n n−1
k=1
k−1
pk−1 (1 − p)(n−1)−(k−1) = np.
Ferner ist E[X(X − 1)] = =
n
k=0 n
k=0
= np ·
k(k − 1) P[X = k] n k k(k − 1) p (1 − p)n−k k n
n − 1 k−1 (k − 1) p (1 − p)(n−1)−(k−1) k−1
k=1
2
= n(n − 1)p ·
n n−2
k=2
k−2
pk−2 (1 − p)(n−2)−(k−2)
= n(n − 1)p2 . Also ist E[X 2 ] = E[X(X − 1)] + E[X] = n2 p2 + np(1 − p) und damit Var[X] = np(1 − p).
Etwas einfacher als durch die direkte Berechnung sehen wir dies ein, indem wir bemerken (siehe nach Beispiel 3.4(ii)), dass bn,p = b∗n 1,p . Das heißt, es gilt (siehe Satz 2.31) PX = PY1 +...+Yn , wo Y1 , . . . , Yn unabh¨angig sind und Yi ∼ Berp f¨ur jedes i = 1, . . . , n. Es folgt E[X] = nE[Y1 ] = np
(5.3)
Var[X] = nVar[Y1 ] = np(1 − p). (iii) Seien μ ∈ R und σ 2 > 0 sowie X normalverteilt X ∼ Nμ,σ2 . Dann ist ∞ 2 2 1 x e−(x−μ) /(2σ ) dx E[X] = √ 2 2πσ −∞ ∞ 2 2 1 = √ (x + μ) e−x /(2σ ) dx (5.4) 2 2πσ −∞ ∞ 2 2 1 = μ+ √ x e−x /(2σ ) dx = μ 2 2πσ −∞ ¨ Ahnlich folgt Var[X] = E[X 2 ] − μ2 = . . . = σ 2 .
5.1 Momente
103
(iv)
Sei θ > 0 und X exponentialverteilt X ∼ expθ . Dann ist ∞ 1 E[X] = θ x e−θx dx = , θ 0 ∞ ∞ 2 −x 2 −θx −2 −2 −1 + Var[X] = −θ + θ x e dx = θ−2 . 3 x e dx = θ 0
0
Satz 5.10 (Blackwell-Girshick). Seien T, X1 , X2 , . . . unabh¨angige, reelle Zufallsvariablen in L2 (P). Es sei P[T ∈ N0 ] = 1, und es seien X1 , X2 , . . . identisch verteilt. Wir setzen T Xi . ST := i=1
Dann ist ST ∈ L2 (P) und
Var[ST ] = E[X1 ]2 Var[T ] + E[T ] Var[X1 ]. n Beweis. Wir setzen Sn = i=1 Xi f¨ur n ∈ N. Dann sind (wie beim Beweis der Wald’schen Identit¨at) Sn und {T =n} unabh¨angig, also Sn2 und {T =n} unkorreliert und damit ∞ ) ) * E E ST2 =
= = =
n=0 ∞
n=0 ∞
n=0 ∞
n=0
E[
{T =n}
Sn2
{T =n} ] E
*
) 2* Sn
P[T = n] Var[Sn ] + E[Sn ]2
P[T = n] n Var[X1 ] + n2 E[X1 ]2
) * = E[T ] Var[X1 ] + E T 2 E[X1 ]2 .
Nach der Wald’schen Identit¨at (Satz 5.5) ist E[ST ] = E[T ] E[X1 ], also ist ) *
) * Var[ST ] = E ST2 − E[ST ]2 = E[T ] Var[X1 ] + E T 2 − E[T ]2 E[X1 ]2 .
Dies ist aber die Behauptung.
2
¨ Ubung 5.1.1. Man zeige (mit Satz 4.15): Ist X eine integrierbare reelle Zufallsvariable, deren Verteilung PX die Dichte f (bez¨uglich des Lebesgue-Maßes λ) besitzt, so gilt xf (x) λ(dx).
E[X] =
R
♣
104
5 Momente und Gesetze der Großen Zahl
¨ Ubung 5.1.2. Sei X ∼ βr,s eine Beta-verteilte Zufallsvariable mit Parametern r, s > 0 (vergleiche Beispiel 1.107(ii)). Man zeige n
E[X ] =
n−1 k=0
r+k r+s+k
f¨ur jedes n ∈ N.
♣
¨ Ubung 5.1.3. Es seien X1 , X2 , . . . u.i.v. nichtnegative Zufallsvariablen. Man zeige mit Hilfe des Lemmas von Borel-Cantelli: 0 f.s., falls E[X1 ] < ∞, 1 ♣ lim sup Xn = n→∞ n ∞ f.s., falls E[X1 ] = ∞. ¨ Ubung 5.1.4. Es seien X1 , X2 , . . . u.i.v. nichtnegative Zufallsvariablen Man zeige mit Hilfe des Lemmas von Borel-Cantelli: F¨ur jedes c ∈ (0, 1) gilt ∞ < ∞ f.s., falls E[X1 ] < ∞, ♣ eXn cn lim sup n→∞ = ∞ f.s., falls E[X1 ] = ∞. n=1
5.2 Schwaches Gesetz der Großen Zahl Satz 5.11 (Markov’sche Ungleichung, Chebyshev’sche Ungleichung). Sei X eine Zufallsvariable und f : [0, ∞) → [0, ∞) monoton wachsend. Dann gilt f¨ur jedes ε > 0 mit f (ε) > 0 die Markov’sche Ungleichung ) * E[f (|X|)] . P |X| ≥ ε ≤ f (ε) ) * ) * Im Spezialfall f (x) = x2 erhalten wir P |X| ≥ ε ≤ ε−2 E X 2 und, falls X ∈ L2 (P), insbesondere die Chebyshev’sche Ungleichung ) * P |X − E[X]| ≥ ε ≤ ε−2 Var[X]. Beweis. Es gilt * ) E[f (|X|)] ≥ E f (|X|) {f (|X|)≥f (ε)} ) * ≥ E f (ε) {f (|X|)≥f (ε)} ) * ≥ f (ε) P |X| ≥ ε .
2
5.2 Schwaches Gesetz der Großen Zahl
105
Definition 5.12. Sei (Xn )n∈N eine Folge reeller Zufallsvariablen in L1 (P) und n Sn = i=1 (Xi − E[Xi ]). (i) Wir sagen, (Xn )n∈N gen¨uge dem schwachen Gesetz der großen Zahl, falls , + 1 lim P Sn > ε = 0 f¨ur jedes ε > 0. n→∞ n
(ii) Wir sagen, (Xn )n∈N gen¨uge dem starken Gesetz der großen Zahl, falls , + 1 P lim sup Sn = 0 = 1. n n→∞
Bemerkung 5.13. impliziert das schwache. Ist Das starke Gesetz dergroßen Zahl 1 1 ε n¨amlich An := n Sn > ε und A = lim sup n Sn > 0 , so gilt offenbar A=
n→∞
lim sup A1/m , n
m∈N
n→∞
( ' also P lim sup Aεn = 0 f¨ur ε > 0. Nach dem Lemma von Fatou (Satz 4.21) ist n→∞
)
(Aεn )c
≤ 1 − E lim inf
(Aεn )c
lim sup P [Aεn ] = 1 − lim inf E n→∞
n→∞
'
n→∞
*
(
+
= E lim sup n→∞
Aεn
,
= 0.
2
Satz 5.14. Seien X1 , X2 , . . . unkorrelierte Zufallsvariablen in L2 (P) mit V := supn∈N Var[Xn ] < ∞. Dann gen¨ugt (Xn )n∈N dem schwachen Gesetz der großen Zahl. Es gilt sogar f¨ur jedes ε > 0 , + 1 V f¨ur jedes n ∈ N. (5.5) P Sn ≥ ε ≤ 2 n ε n
Beweis. Ohne Einschr¨ankung sei E[Xi ] = 0 f¨ur jedes i ∈ N und damit Sn = X1 + · · · + Xn . Nach der Formel von Bienaym´e (Satz 5.7) ist , + n V 1 Sn = n−2 Var [Xi ] ≤ . Var n n i=1 Nach der Chebyshev’schen Ungleichung (Satz 5.11) gilt f¨ur ε > 0 ) * V n→∞ P |Sn /n| > ε ≤ 2 −→ 0. ε n
2
106
5 Momente und Gesetze der Großen Zahl
Beispiel 5.15 (Weierstraß’scher Approximationssatz). Sei f : [0, 1] → R eine stetige Abbildung. Nach dem Weierstraß’schen Approximationssatz existieren Polynome fn vom Grad h¨ochstens n, sodass n→∞
fn − f ∞ −→ 0, wobei f ∞ := sup{|f (x)| : x ∈ [0, 1]} die Supremumsnorm von f ∈ C([0, 1]) bezeichnet. Wir f¨uhren hier einen probabilistischen Beweis dieser Aussage vor. F¨ur n ∈ N sei das Polynom fn definiert durch fn (x) :=
n
f (k/n)
k=0
n k x (1 − x)n−k k
f¨ur x ∈ [0, 1].
Dieses Polynom heißt Bernstein-Polynom der Ordnung n. Sei ε > 0 fest gew¨ahlt. Da f auf [0, 1] stetig ist, ist f sogar gleichm¨aßig stetig. Es existiert also ein δ > 0, sodass |f (x) − f (y)| < ε
f¨ur alle x, y ∈ [0, 1] mit |x − y| < δ.
Sei nun p ∈ [0, 1] fest gew¨ahlt, und seien X1 , X2 , . . . unabh¨angige Zufallsvariablen mit Xi ∼ Berp , i ∈ N. Dann ist Sn := X1 + . . . + Xn ∼ bn,p und deshalb E[f (Sn /n)] =
n
f (k/n) P[Sn = k] = fn (p).
k=0
Wir erhalten |f (Sn /n) − f (p)| ≤ ε + 2f ∞
{|(Sn /n)−p|≥δ}
und daher (nach Satz 5.14 mit V = p(1 − p) ≤ 14 ) |fn (p) − f (p)| ≤ E[|f (Sn /n) − f (p)|] , + Sn − p ≥ δ ≤ ε + 2f ∞ P n ≤ε+
f ∞ , 2 δ2 n
n→∞
f¨ur jedes p ∈ [0, 1]. Also gilt fn − f ∞ −→ 0.
3
¨ Ubung 5.2.1 (Bernstein-Chernov Absch¨atzung). Seien n ∈ N und p1 , . . . , pn ∈ [0, 1] sowie X1 , . . . , Xn unabh¨angige Zufallsvariablen mit Xi = Berpi f¨ur jedes i = 1, . . . , n. Setze Sn = X1 + . . . + Xn und m := E[Sn ]. Man zeige, dass f¨ur jedes δ > 0 die beiden folgenden Absch¨atzungen gelten
5.3 Starkes Gesetz der Großen Zahl
und
) * P Sn ≥ (1 + δ)m ≤
eδ (1 + δ)1+δ
107
m
2 ) * δ m P Sn ≤ (1 − δ)m ≤ exp − . 2
Hinweis: Verwende f¨ur Sn die Markov’sche Ungleichung mit f (x) = eλx f¨ur gewisses λ > 0 und finde dasjenige λ, das die Absch¨atzung optimiert. ♣
5.3 Starkes Gesetz der Großen Zahl Wir kommen nun zu einem starken Gesetz der großen Zahl, n¨amlich dem in der Form von Etemadi f¨ur identisch verteilte, paarweise unabh¨angige Zufallsvariablen. Es gibt viele verschiedene Formen von starken Gesetzen der großen Zahl, die unterschiedliche Voraussetzungen machen. So kann man darauf verzichten, dass die Zufallsvariablen identisch verteilt sind, wenn man st¨arkere Annahmen, etwa beschr¨ankte Varianzen, macht und so weiter. Wir werden hier nicht bis in alle Tiefen gehen, sondern nur exemplarisch ein paar Aussagen vorstellen. Um die Methode f¨ur den Beweis des Satzes von Etemadi zu illustrieren, stellen wir zun¨achst ein Starkes Gesetz der großen Zahl unter st¨arkeren Annahmen vor. Satz 5.16. Sind X1 , X2 , . . . ∈ L2 (P) paarweise unabh¨angig (das heißt, Xi und Xj sind unabh¨angig f¨ur alle i, j ∈ N mit i = j) und identisch verteilt, so gen¨ugt (Xn )n∈N dem starken Gesetz der großen Zahl. Beweis. Es sind (Xn+ )n∈N und (Xn− )n∈N wieder paarweise unabh¨angige Familien quadratintegrierbarer Zufallsvariablen (vergleiche Bemerkung 2.15(ii)). Es reicht daher, (Xn+ )n∈N zu betrachten. Wir nehmen also im Folgenden an, dass Xn ≥ 0 ist fast sicher f¨ur jedes n ∈ N.
Sei Sn = X1 + . . . + Xn f¨ur n ∈ N. W¨ahle ε > 0. F¨ur jedes n ∈ N setzen wir kn = ⌊(1 + ε)n ⌋ ≥ 12 (1 + ε)n . Dann ist nach der Chebyshev’schen Ungleichung (Satz 5.11) + , ∞ ∞ Sk n ) * −n/4 P − E[X1 ] ≥ (1 + ε) ≤ (1 + ε)n/2 Var kn−1 Skn kn n=1 n=1 =
∞
(1 + ε)n/2 kn−1 Var[X1 ]
n=1
≤ 2 Var[X1 ]
∞
n=1
(1 + ε)−n/2 < ∞.
(5.6)
108
5 Momente und Gesetze der Großen Zahl
Nach dem Lemma von Borel-Cantelli gibt es daher f¨ur P-f.a. ω ein n0 = n0 (ω) mit Skn −n/4 f¨ur jedes n ≥ n0 . kn − E[X1 ] < (1 + ε) Also gilt
lim sup kn−1 Skn − E[X1 ] = 0
fast sicher.
n→∞
F¨ur hinreichend großes n ∈ N ist kn+1 ≤ (1 + 2ε)kn . F¨ur l ∈ {kn , . . . , kn+1 } ist dann 1 −1 −1 k −1 Skn ≤ kn+1 Skn+1 . Skn ≤ l−1 Sl ≤ kn−1 Skn+1 ≤ (1 + 2ε) kn+1 1 + 2ε n Wegen 1 − (1 + 2ε)−1 ≤ 2ε folgt lim sup l−1 Sl − E[X1 ] ≤ lim sup kn−1 Skn − E[X1 ] + 2ε lim sup kn−1 Skn n→∞
n→∞
l→∞
≤ 2ε E[X1 ] fast sicher,
und damit gilt das starke Gesetz der großen Zahl.
2
¨ Die Ahnlichkeit der Varianzabsch¨atzungen im schwachen Gesetz der großen Zahl und in (5.6) legen nahe, dass im vorangehenden Satz auf die Bedingung verzichtet werden kann, dass die Zufallsvariablen X1 , X2 , . . . identisch verteilt sind, wenn ¨ man nur fordert, dass die Varianzen beschr¨ankt sind (siehe Ubung 5.3.1). Wir k¨onnen die Bedingung in Satz 5.16 in anderer Weise abschw¨achen, indem wir nur Integrierbarkeit statt Quadratintegrierbarkeit der Zufallsvariablen fordern. Satz 5.17 (Starkes Gesetz der großen Zahl von Etemadi (1981)). Es seien X1 , X2 , . . . ∈ L1 (P) paarweise unabh¨angig und identisch verteilt. Dann gen¨ugt (Xn )n∈N dem starken Gesetz der großen Zahl. Wir folgen dem Beweis in [38]. Setze im Folgenden μ = E[X1 ]. Zur Vorbereitung des Beweises stellen wir ein paar Lemmata bereit. Lemma 5.18. F¨ur n ∈ N seien Yn := Xn {|Xn |≤n} und Tn = Y1 + · · · + Yn . Die n→∞ Folge (Xn )n∈N erf¨ullt das starke Gesetz der großen Zahl, falls Tn /n −→ μ f.s. Beweis. Nach Satz 4.26 ist
∞
n=1
) * ) * P |Xn | > n ≤ E |X1 | < ∞. Nach dem Lemma
von Borel-Cantelli ist daher * ) P Xn = Yn f¨ur unendlich viele n = 0.
Es gibt also ein n0 = n0 (ω) mit Xn = Yn f¨ur jedes n ≥ n0 . Daher gilt f¨ur n ≥ n0 Tn0 − Sn0 Tn − Sn = n n
n→∞
−→ 0.
2
5.3 Starkes Gesetz der Großen Zahl
Lemma 5.19. F¨ur jedes x ≥ 0 ist 2x
n>x
109
n−2 ≤ 4.
Beweis. F¨ur m ∈ N ist nach dem Integralvergleichskriterium ∞
n=m
n−2 ≤ m−2 +
∞
m
t−2 dt = m−2 + m−1 ≤
2 . m
2
) * ∞ E Yn2 Lemma 5.20. Es gilt ≤ 4 E[|X1 |]. n2 n=1 ) * * 0∞ ) Beweis. Nach Satz 4.26 ist E Yn2 = 0 P Yn2 > t dt. Mit der Substitution √ x = t erhalten wir ∞ n ) * E Yn2 = 2x P[|Yn | > x] dx ≤ 2x P[|X1 | > x] dx. 0
0
Nach dem Satz u¨ ber monotone Konvergenz und Lemma 5.19 gilt f¨ur m → ∞ m n−2 {x
x] ↑ f (x) ≤ 4 P[|X1 | > x]. fm (x) = n=1
Wir k¨onnen also Summation und Integral vertauschen und erhalten ) * ∞ ∞ ∞ E Yn2 −2 ≤ n {x x] dx n2 0 n=1 n=1 =
∞
0
≤ 4
∞
n=1
0
∞
−2
n
{x
2x P[|X1 | > x] dx
P[|X1 | > x] dx = 4 E[|X1 |].
2
Beweis von Satz 5.17 Wie im Beweis von Satz 5.16 reicht es, Xn ≥ 0 zu betrachten. W¨ahle ε > 0 und setze α = 1 + ε. F¨ur n ∈ N setzen wir kn = ⌊αn ⌋ und haben speziell kn ≥ αn /2. Es ist also (mit n0 = ⌈log m/ log α⌉)
n: kn ≥m
kn−2 ≤ 4
∞
n=n0
α−2n = 4 α−2n0 (1 − α−2 )−1 ≤ 4(1 − α−2 )−1 m−2 . (5.7)
Unser Ziel ist es, mit Hilfe von Lemma 5.20 die Absch¨atzung (5.6) f¨ur (Yn )n∈N und (Tn )n∈N zu verfeinern. Die Chebyshev’sche Ungleichung liefert (zusammen mit (5.7)) wiederum f¨ur δ > 0
110
5 Momente und Gesetze der Großen Zahl
∞ ∞ * * ) ) Var [Tkn ] P Tkn − E Tkn > δ kn ≤ δ −2 kn2 n=1 n=1
=δ
−2
∞
kn−2
n=1
kn
Var[Ym ] = δ
∞
Var[Ym ]
m=1
m=1
≤ 4(1 − α−2 )−1 δ −2
−2
∞
m=1
kn−2
n: kn ≥m
) * m−2 E Ym2 < ∞ nach Lemma 5.20.
(Im dritten Schritt durften wir die Summationsreihenfolge vertauschen, weil alle Summanden nichtnegativ sind.) Da δ > 0 beliebig war, folgt (mit dem Lemma von Borel-Cantelli) Tkn − E [Tkn ] (5.8) = 0 fast sicher. lim n→∞ kn Nach dem Satz u¨ ber monotone Konvergenz (Satz 4.20) gilt * n→∞ ) E[Yn ] = E X1 {|X1 |≤n} −→ E[X1 ]. n→∞
n→∞
Also gilt E[Tkn ]/kn −→ E[X1 ] und wegen (5.8) auch Tkn /kn −→ E[X1 ] f.s. Wie im Beweis von Satz 5.16 gilt jetzt auch (weil Yn ≥ 0) lim
l→∞
Tl = E[X1 ] fast sicher. l
Nach Lemma 5.18 folgt hieraus die Behauptung von Satz 5.17.
2
Beispiel 5.21 (Monte Carlo Integration). Betrachte eine Funktion f : [0, 1] → R, 01 deren Integral I := 0 f (x) dx numerisch bestimmt werden soll. Wir nehmen an, dass uns der Computer Zahlen X1 , X2 , . . . generiert, die wir als unabh¨angige Zufallszahlen auffassen k¨onnen, die auf [0, 1] gleichverteilt sind. F¨ur n ∈ N definieren wir den Sch¨atzwert n 1 f (Xi ). I
Allerdings haben wir im letzten Satz keine Aussage zur Geschwindigkeit der Konvergenz, also zur Gr¨oße P[|I ε] bekommen. Um genauere Sch¨atzungen f¨ur das Integral zu bekommen, ben¨otigen wir zus¨atzliche Information, etwa den Wert 0 V1 := f 2 (x) dx − I 2 , falls f ∈ L2 ([0, 1]) ist. (F¨ur beschr¨anktes f etwa l¨asst sich V1 leicht nach oben absch¨atzen.) Dann ist n¨amlich Var[I ε n−1/2 ≤ V1 /ε2 .
5.3 Starkes Gesetz der Großen Zahl
111
Der Fehler ist mithin maximal von der Gr¨oßenordnung n−1/2 . Der Zentrale Grenzwertsatz wird uns zeigen, dass der Fehler exakt von dieser Ordnung ist. Wenn u¨ ber f minimale Glattheitseigenschaften bekannt sind, so liefern die g¨angigen numerischen Verfahren sehr viel bessere Konvergenzordnungen. Die hier beschriebene Monte Carlo Simulation sollte also nur angewandt werden, wenn alle anderen Verfahren ungeeignet sind. Speziell ist dies der Fall, wenn statt [0, 1] ein Gebiet 3 G ⊂ Rd f¨ur sehr großes d betrachtet wird. Definition 5.22 (Empirische Verteilungsfunktion). Seien X1 , X2 , . . . reelle Zun fallsvariablen. Dann heißt die Abbildung F : R → [0, 1], x → n1 (−∞,x] (Xi ) die empirische Verteilungsfunktion von X1 , . . . , Xn .
i=1
Satz 5.23 (Glivenko-Cantelli). Seien X1 , X2 , . . . u.i.v. reelle Zufallsvariablen mit Verteilungsfunktion F , und seien Fn , n ∈ N, die empirischen Verteilungsfunktionen. Dann gilt lim sup sup Fn (x) − F (x) = 0 fast sicher. n→∞
x∈R
Beweis. W¨ahle ein x ∈ R und setze Yn (x) = (−∞,x] (Xn ) und Zn (x) = ur n ∈ N. Wir definieren außerdem die linksseitigen Limiten (−∞,x) (Xn ) f¨ F (x−) = limy↑x F (y) und analog f¨ur Fn . Dann sind (Yn (x))n∈N und (Zn (x))n∈N jeweils unabh¨angige Familien und E[Yn (x)] = P[Xn ≤ x] = F (x) sowie E[Zn (x)] = P[Xn < x] = F (x−). Nach dem starken Gesetz der großen Zahl gilt also n 1 n→∞ Yi −→ F (x) fast sicher Fn (x) = n i=1 und
n
Fn (x−) =
1 n→∞ Zi −→ F (x−) fast sicher. n i=1
Wir setzen formal F (−∞) = 0 und F (∞) = 1. Wir w¨ahlen ein beliebiges N ∈ N und setzen
xj := inf x ∈ R : F (x) ≥ j/N , j = 0, . . . , N, und
Rn :=
max
j=1,...,N −1
Fn (xj ) − F (xj ) + Fn (xj −) − F (xj −) . n→∞
Nach dem Gezeigten gilt Rn −→ 0 fast sicher. F¨ur x ∈ (xj−1 , xj ) ist (nach Definition von xj ) Fn (x) ≤ Fn (xj −) ≤ F (xj −) + Rn ≤ F (x) + Rn +
1 N
112
5 Momente und Gesetze der Großen Zahl
und Fn (x) ≥ Fn (xj−1 ) ≥ F (xj−1 ) − Rn ≥ F (x) − Rn −
1 . N
Also gilt 1 1 lim sup sup Fn (x) − F (x) ≤ + lim sup Rn = . N N n→∞ x∈R n→∞
Indem wir N → ∞ gehen lassen, folgt die Behauptung.
2
Beispiel 5.24 (Satz von Shannon). Wir betrachten eine Informationsquelle, die zuf¨allig (und unabh¨angig) hintereinander Zeichen X1 , X2 , . . . eines endlichen Alphabets E (also einer beliebigen endlichen Menge) ausgibt. Dabei soll pe die Wahrscheinlichkeit f¨ur das Auftreten des Zeichens e ∈ E sein. Formal sind also X1 , X2 , . . . u.i.v. E-wertige Zufallsvariablen mit P[Xi = e] = pe f¨ur e ∈ E. Sei f¨ur jedes ω ∈ Ω und n ∈ N
πn (ω) :=
n
pXi (ω)
i=1
die Wahrscheinlichkeit, dass die beobachtete Sequenz X1 (ω), . . . , Xn (ω) auftritt. Wir setzen Yn := − log(pXn (ω) ). Dann ist (Yn )n∈N u.i.v. und E[Yn ] = H(p), wobei H(p) := − pe log(pe ) e∈E
die Entropie der Verteilung p = (pe )e∈E ist. Aus dem starken Gesetz der großen Zahl folgt der Satz von Shannon: n
−
1 1 n→∞ log πn = Yi −→ H(p) n n i=1
fast sicher.
3
Entropie und Quellenkodierungssatz∗ Wir wollen kurz auf die Bedeutung von πn und der Entropie eingehen. Wie groß ist die Information“, die in einer Nachricht X1 (ω), . . . , Xn (ω) steckt? Diese Informa” tion kann man messen durch die L¨ange der k¨urzesten Folge von Nullen und Einsen, mit der man die Nachricht kodieren kann. Wir wollen jetzt nat¨urlich nicht f¨ur jede Nachricht eine eigene Kodierung erfinden, und auch nicht f¨ur jede m¨ogliche Nachrichtenl¨ange. Stattdessen ordnen wir jedem einzelnen Zeichen e ∈ E eine Folge von Nullen und Einsen zu, die dann aneinander gereiht die Nachricht ergeben. Die L¨ange l(e) der Folge, die das Zeichen e kodiert, darf dabei von e abh¨angen. So geben wir Zeichen, die h¨aufiger auftreten, einen k¨urzeren Code als den selteneren Zeichen, um einen m¨oglichst effizienten Code zu bekommen. Beim Morse-Alphabet ist dies
5.3 Starkes Gesetz der Großen Zahl
113
so a¨ hnlich eingerichtet ( e“ und t“, die im Englischen h¨aufig vorkommen, haben ” ” die Codes kurz“ und lang“, der seltenere Buchstabe q“ hat den Code lang-lang” ” ” ” kurz-lang“), allerdings besteht der Morse-Code nicht nur aus kurzen und langen Signalen, sondern auch noch aus Pausenzeichen, die das Ende eines Buchstabens signalisieren. Wenn wir nur Nullen und Einsen verwenden d¨urfen, haben wir keine solchen Pausenzeichen und m¨ussen den Code so anlegen, dass der Code eines Zeichens nicht gleichzeitig der Anfang eines Codes eines anderen Zeichens ist. Wir d¨urfen also nicht etwa ein Zeichen mit 0110 kodieren und ein anderes mit 011011. Ein Code, der diese Bedingung erf¨ullt, heißt ein bin¨arer Pr¨afixcode. Wir bezeichnen mit c(e) ∈ {0, 1}l(e) den Code von e, wobei l(e) die L¨ange ist. Wir k¨onnen die Codes aller Zeichen in einem Baum darstellen. Wir wollen nun einen Code C = (c(e), e ∈ E) herstellen, der effizient ist in dem Sinne, dass die erwartete L¨ange des Codes (f¨ur ein zuf¨alliges Zeichen) Lp (C) := pe l(e) e∈E
m¨oglichst klein ist. Wir konstruieren zun¨achst einen Code und zeigen dann, dass dieser fast optimal ist. Als ersten Schritt nummerieren wir E = {e1 , . . . , eN } so, dass pe1 ≥ pe2 ≥ . . . ≥ peN gilt. Wir definieren ℓ(e) ∈ N f¨ur jedes e ∈ E durch
Setze p˜e = 2−ℓ(e)
2−ℓ(e) ≤ pe < 2−ℓ(e)+1 . f¨ur jedes e ∈ E und q˜k = l
Nach Konstruktion gilt ℓ(el ) ≤ ℓ(ek ) f¨ur alle l ≤ k, also hat die Bin¨ardarstellung von q˜k maximal ℓ(ek ) Stellen: q˜k =
ℓ(k)
ci (ek ) 2−i ,
i=1
wobei die Zahlen c1 (ek ), . . . , cℓ(k) (ek ) ∈ {0, 1} eindeutig festgelegt sind. Offenbar ist q˜l ≥ q˜k + 2−ℓ(k) f¨ur jedes l > k, also ist
c1 (ek ), . . . , cℓ(ek ) (ek ) = c1 (el ), . . . , cℓ(ek ) (el ) Daher ist C = (c(e) : e ∈ E) ein Pr¨afixcode.
f¨ur alle l ≥ k.
Wir schreiben f¨ur jedes b > 0 und x > 0 logb (x) := log(x) ur den Logarithmus log(b) f¨ von x zur Basis b. Nach Konstruktion ist − log2 (pe ) ≤ l(e) ≤ 1 − log2 (pe ). Also ist die erwartete L¨ange − pe log2 (pe ) ≤ Lp (C) ≤ 1 − pe log2 (pe ). e∈E
e∈E
114
5 Momente und Gesetze der Großen Zahl
Die L¨ange dieses n Codes f¨ur die ersten n Zeichen unserer zuf¨alligen Quelle ist also ungef¨ahr k=1 log2 (pXk (ω) ) = log2 πn (ω), womit wir den Ankn¨upfungspunkt zum Satz von Shannon haben. Dieser trifft also eine Aussage u¨ ber die L¨ange eines ¨ Bin¨arcodes, der zur Ubertragung einer langen Nachricht gebraucht wird. Ist nun der oben angegebene Code optimal, oder gibt es Codes mit geringerer erwarteter L¨ange? Antwort gibt der Quellenkodierungssatz, den wir hier mit einer Definition und einem Lemma vorbereiten. Definition 5.25 (Entropie). Sei p = (pe )e∈E eine Wahrscheinlichkeitsverteilung auf einer h¨ochstens abz¨ahlbaren Menge E. F¨ur b > 0 definieren wir Hb (p) := − pe logb (pe ), e∈E
wobei wir 0 logb (0) := 0 festlegen. Wir nennen H(p) := He (p) (e die Euler’sche Zahl) die Entropie und H2 (p) die bin¨are Entropie von p. Man beachte, dass nur f¨ur endliches E die Entropie stets endlich ist. Lemma 5.26 (Entropie-Ungleichung). Seien b und p wie oben. Ferner sei q eine Sub-Wahrscheinlichkeitsverteilung, also qe ≥ 0 f¨ur jedes e ∈ E und e∈E qe ≤ 1. Dann gilt pe logb (qe ) (5.9) Hb (p) ≤ − e∈E
mit Gleichheit genau dann, wenn Hb (p) = ∞ oder q = p.
Beweis. Ohne Einschr¨ankung k¨onnen wir mit b = e, also mit dem nat¨urlichen Logarithmus rechnen. Es gilt log(1 + x) ≤ x f¨ur x > −1 mit Gleichheit genau dann, wenn x = 0 ist. Ist in (5.9) die linke oder die rechte Seite endlich, so k¨onnen wir die rechte von der linken Seite abziehen und erhalten pe log(qe ) = pe log(qe /pe ) H(p) + e∈E
e: pe >0
qe − p e pe log 1 + = pe e: pe >0
qe − pe ≤ pe = qe − pe ≤ 0. p e e: p >0 e
e∈E
Ist q = p, so ist qe = pe f¨ur ein e ∈ E mit pe > 0. Ist dies nun der Fall, so gilt strikte Ungleichheit, falls H(p) < ∞. 2 Satz 5.27 (Quellenkodierungssatz). Sei p = (pe )e∈E eine Wahrscheinlichkeitsverteilung auf dem endlichen Alphabet E. F¨ur jeden bin¨aren Pr¨afixcode C = (c(e), e ∈ E) gilt Lp (C) ≥ H2 (p), und es gibt einen solchen Code C mit Lp (C) ≤ H2 (p) + 1.
5.4 Konvergenzrate im starken GGZ
115
Beweis. Der zweite Teil des Satzes wurde durch die obige Konstruktion schon gezeigt. Sei nun also ein Pr¨afixcode gegeben. Sei L = maxe∈E l(e). F¨ur e ∈ E sei CL (e) = {c ∈ {0, 1}L : ck = ck (e) f¨ur k ≤ l(e)} die Menge aller Bin¨arfolgen der L¨ange L, die wie c(e) beginnen. Da wireinen Pr¨afixcode vorliegen haben, sind die CL (e), e ∈ E, paarweise disjunkt und e∈E CL (e) ⊂ {0, 1}L . Setzen wir also qe := 2−l(e) , so ist (beachte: #CL (e) = 2L−l(e) ) qe = 2−L #CL (e) ≤ 1. e∈E
Nach Lemma 5.26 gilt Lp (C) =
e∈E
e∈E
pe l(e) = −
e∈E
pe log2 (qe ) ≥ H2 (p).
2
¨ Ubung 5.3.1. Man zeige die folgende Verbesserung von Satz 5.16: Sind X1 , X2 , . . . ∈ L2 (P) paarweise unabh¨angig mit beschr¨ankten Varianzen, so gen¨ugt (Xn )n∈N dem starken Gesetz der großen Zahl. ♣ ¨ Ubung 5.3.2. Man zeige: Ist (Xn )n∈N eine unabh¨angige Folge identisch verteilter n→∞ Zufallsvariablen mit n1 (X1 + . . . + Xn ) −→ Y fast sicher f¨ur eine Zufallsvariable Y , so ist X1 ∈ L1 (P) und Y = E[X1 ] fast sicher. Hinweis: Man zeige zun¨achst * ) P |Xn | > n f¨ur unendlich viele n = 0
⇐⇒
X1 ∈ L1 (P).
♣
¨ Ubung 5.3.3. Sei E endlich und p ein Wahrscheinlichkeitsvektor auf E. Man zeige, dass die Entropie H(p) minimal ist (n¨amlich Null), falls p = δe f¨ur ein e ∈ E und maximal (n¨amlich log(#E)), falls p die Gleichverteilung auf E ist. ♣ ¨ Ubung 5.3.4. Sei b ∈ {2, 3, 4, . . .}. Ein b-adischer Pr¨afixcode ist a¨ hnlich definiert wie ein bin¨arer Pr¨afixcode, jedoch sind jetzt als Zeichen die Zahlen 0, 1, . . . , b − 1 zugelassen. Man zeige, dass die Aussage des Quellenkodierungssatzes sinngem¨aß ♣ f¨ur b-adische Pr¨afixcodes gilt, mit Hb (p) statt H2 (p).
5.4 Konvergenzrate im starken GGZ Im schwachen Gesetz der großen Zahl hatten wir auch eine Aussage u¨ ber die Konvergenzgeschwindigkeit gemacht (Satz 5.14), im starken Gesetz der großen Zahl hingegen nicht. Da wir hier nur erste Momente der Zufallsvariablen gefordert hatten, k¨onnen wir auch keine brauchbaren allgemein g¨ultigen Aussagen erwarten. Nehmen wir hingegen h¨ohere Momente an, so bekommen wir n¨utzliche Aussagen zur Konvergenzgeschwindigkeit. Das Herzst¨uck des schwachen Gesetzes der großen Zahl ist die Chebyshev’sche Ungleichung. Hier geben wir eine sch¨arfere Ungleichung an, die mit der gleichen
116
5 Momente und Gesetze der Großen Zahl
oberen Schranke nun das Maximum u¨ ber alle Partialsummen bis zu einer bestimmten Grenze absch¨atzt. Satz 5.28 (Kolmogorov’sche Ungleichung). Seien n ∈ N und X1 , X2 , . . . , Xn unabh¨angige Zufallsvariablen mit E[Xi ] = 0 und Var[Xi ] < ∞ f¨ur i = 1, . . . , n. Ferner sei Sk = X1 + . . . + Xk f¨ur k = 1, . . . , n. Dann gilt f¨ur jedes t > 0 * ) P max{Sk : k = 1, . . . , n} ≥ t ≤
Var[Sn ] + Var[Sn ]
(5.10)
sowie die Kolmogorov’sche Ungleichung ) * P max{|Sk | : k = 1, . . . , n} ≥ t ≤ t−2 Var[Sn ].
(5.11)
t2
In Satz 11.2 werden wir mit der Doob’schen Ungleichung eine Verallgemeinerung der Kolmogorov’schen Ungleichung kennen lernen. Beweis. Wir f¨uhren eine Zerlegung durch nach dem ersten Zeitpunkt τ , zu dem die Partialsummen t u¨ berschreiten. Sei also
τ := min k ∈ {1, . . . , n} : Sk ≥ t
und Ak = {τ = k} f¨ur k = 1, . . . , n sowie A=
n
Ak =
k=1
max{Sk : k = 1, . . . , n} ≥ t .
Sei c ≥ 0. Die Zufallsvariable (Sk + c) Ak ist messbar bez¨uglich σ(X1 , . . . , Xk ), und Sn − Sk ist messbar bez¨uglich σ(Xk+1 , . . . , Xn ). Nach Satz 2.26 sind die beiden Zufallsvariablen unabh¨angig, und es gilt * ) * * ) ) E (Sk + c) Ak (Sn − Sk ) = E (Sk + c) Ak E Sn − Sk = 0. n Offenbar sind die Ereignisse A1 , . . . , An paarweise disjunkt, also k=1 Ak = A ≤ 1. Wir erhalten so * ) Var[Sn ] + c2 = E (Sn + c)2 . - n n * ) 2 (Sn + c) Ak = E (Sn + c)2 Ak ≥E k=1
= = ≥
n
k=1 n
k=1 n
k=1
k=1
) E (Sk + c)2 + 2(Sk + c)(Sn − Sk ) + (Sn − Sk )2 ) E (Sk + c)2
) E (Sk + c)2
Ak
Ak
* *
+
n
k=1
.
) E (Sn − Sk )2
Ak
*
Ak
*
(5.12)
5.4 Konvergenzrate im starken GGZ
Wegen c ≥ 0 ist (Sk + c)2 durch n ) ≥ E (t + c)2 k=1
Ak
Ak
*
≥ (t + c)2
Ak ,
117
also k¨onnen wir (5.12) fortsetzen
= (t + c)2 P[A].
F¨ur c = Var[Sn ]/t ≥ 0 erhalten wir Var[Sn ] Var[Sn ] + c2 c(t + c) tc = 2 . = = 2 2 2 (t + c) (t + c) t + tc t + Var[Sn ] Damit ist (5.10) gezeigt. Um (5.11) zu zeigen, w¨ahle τ¯ := min k ∈ {1, . . . , n} : |Sk | ≥ t und A¯k = {¯ τ = k} sowie A¯ = {¯ τ ≤ n}. Die obige Fortsetzung von (5.12) mit c > 0 ist jetzt nicht zul¨assig. Wenn wir aber c = 0 w¨ahlen, gilt Sk2 ≥ ¯ ≤ t−2 Var[Sn ].2 t2 A¯k . Mit der selben Rechnung wie in (5.12) erhalten wir P[A] P[A] ≤
Wir folgern aus der Kolmogorov’schen Ungleichung eine erste Versch¨arfung des starken Gesetzes der großen Zahl. Satz 5.29. Seien X1 , X2 , . . . unabh¨angige Zufallsvariablen mit E[Xn ] = 0 f¨ur jedes n ∈ N und V := sup{Var[Xn ] : n ∈ N} < ∞. Dann gilt f¨ur jedes ε > 0 lim sup n→∞
|Sn | 1/2 n (log(n))(1/2)+ε
=0
fast sicher.
Beweis. Setze kn = 2n und l(n) = n1/2 (log(n))(1/2)+ε f¨ur n ∈ N. F¨ur k ∈ N mit kn ≤ k ≤ kn+1 ist |Sk |/k ≤ 2|Sk |/kn+1 . Also reicht es, f¨ur δ > 0 zu zeigen, dass lim sup l(kn )−1 max{|Sk | : k ≤ kn } ≤ δ
fast sicher.
(5.13)
n→∞
F¨ur δ > 0 und n ∈ N setze Aδn := Kolmogorov’sche Ungleichung liefert ∞
max{|Sk | : k ≤ kn } > δ l(kn ) . Die
∞ ) * P Aδn ≤ δ −2 (l(kn ))−2 V kn =
∞
V n−1−2ε < ∞. 2 1+2ε δ (log 2) n=1 n=1 n=1 * ) 2 Das Borel Cantelli Lemma liefert nun P lim supn→∞ Aδn = 0, also (5.13).
Wir werden in Kapitel 22 sehen, dass f¨ur unabh¨angige, identisch verteilte, quadratintegrierbare, zentrierte Zufallsvariablen X1 , X2 , . . . die folgende Versch¨arfung gilt lim sup 3 n→∞
|Sn |
2n Var[X1 ] log(log(n))
= 1 fast sicher.
Die Konvergenzrate ist also in diesem Fall genau bekannt. Sind die X1 , X2 , . . . nicht unabh¨angig, sondern nur paarweise unabh¨angig, so verschlechtert sich die Konvergenzrate, wenngleich nicht drastisch: Wir geben hier ohne Beweis einen Satz an, den Rademacher 1922 [134] und Menshov 1923 [111] unabh¨angig voneinander gefunden haben.
118
5 Momente und Gesetze der Großen Zahl
Satz 5.30 (Rademacher–Menshov). Seien X1 , X2 , . . . unkorrelierte quadratintegrierbare zentrierte Zufallsvariablen und (an )n∈N eine wachsende Folge nichtnegativer Zahlen mit ∞ (log n)2 a−2 (5.14) n Var[Xn ] < ∞. n=1
n −1 Xk = 0 fast sicher. Dann gilt lim sup an n→∞ k=1
Beweis. Siehe etwa [120].
2
Bemerkung 5.31. Die Bedingung (5.14) ∞ ist scharf in2 dem Sinne, dass es f¨ur jede wachsende Folge (an )n∈N mit n=1 a−2 n (log n) = ∞ eine Folge paarweise unabh¨angiger, quadratintegrierbarer, zentrierter Zufallsvariablen X1 , X2 , . . . mit Var[Xn ] = 1 f¨ur jedes n ∈ N gibt, sodass n −1 Xk = ∞ fast sicher. lim sup an n→∞ k=1
Siehe [24]. Dort wird ein Beispiel von Tandori [151] f¨ur so genannte orthogonale Reihen weiter entwickelt. Siehe auch [114]. 3 F¨ur Zufallsvariablen mit unendlicher Varianz werden Aussagen u¨ ber die Konvergenzgeschwindigkeit naturgem¨aß schw¨acher. Es gilt beispielsweise (siehe [11]):
Satz 5.32 (Baum und Katz (1965)). Sei γ > 1, und seien X1 , X2 , . . . u.i.v. sowie Sn = X1 + . . . + Xn f¨ur n ∈ N. Dann gilt ∞
n=1
nγ−2 P[|Sn |/n > ε] < ∞ f¨ur jedes ε > 0 ⇐⇒ E[|X1 |γ ] < ∞ und E[X1 = 0].
¨ Ubung 5.4.1. Seien X1 , . . . , Xn unabh¨angige, reelle Zufallsvariablen und Sk = X1 + . . . + Xk f¨ur jedes k = 1, . . . , n. Man zeige, dass f¨ur jedes t > 0 die Ungleichung von Etemadi gilt: ' ( ) * P max |Sk | ≥ t ≤ 3 max P |Sk | ≥ t/3 . ♣ k=1,...,n
k=1,...,n
5.5 Der Poissonprozess Wir wollen ein Modell f¨ur die Anzahl der Klicks entwickeln, die ein Geigerz¨ahler in einem (Zeit-)Intervall I = (a, b] macht. Die Anzahl der Klicks soll dabei
5.5 Der Poissonprozess
119
– zuf¨allig sein und unabh¨angig f¨ur disjunkte Intervalle, – zeitlich homogen in dem Sinne, dass die Anzahl der Klicks in I = (a, b] die selbe Verteilung hat, wie die Anzahl der Klicks in c + I = (a + c, b + c], – einen Erwartungswert besitzen, – keine Doppelpunkte aufweisen: der Z¨ahler macht zu jedem Zeitpunkt nur einen Klick. Wir formalisieren diese Forderungen, indem wir die Notation einf¨uhren: I := {(a, b] : a, b ∈ [0, ∞), a ≤ b}. ℓ((a, b]) := b − a
(die L¨ange des Intervalls I = (a, b]).
F¨ur I ∈ I sei NI die Anzahl der Klicks nach Zeitpunkt a und nicht sp¨ater als b. Speziell setzen wir Nt := N(0,t] f¨ur die Gesamtzahl aller Klicks bis zur Zeit t. Die obigen Forderungen lassen sich nun u¨ bersetzen zu: (NI , I ∈ I) ist eine Familie von Zufallsvariablen mit Werten in N0 mit den Eigenschaften (P1) NI∪J = NI + NJ , falls I ∩ J = ∅ und I ∪ J ∈ I ist.
(P2) Die Verteilung von NI h¨angt nur von der L¨ange von I ab: PNI = PNJ f¨ur alle I, J ∈ I mit ℓ(I) = ℓ(J).
(P3) Ist J ⊂ I mit I ∩ J = ∅ f¨ur alle I, J ∈ J mit I = J, so ist (NJ , J ∈ J ) eine unabh¨angige Familie. (P4) F¨ur jedes I ∈ I gilt E[NI ] < ∞.
(P5) Es gilt lim supε↓0 ε−1 P[Nε ≥ 2] = 0. Die Bedeutung von (P5) erkl¨art sich durch die folgende Rechnung: Setzen wir λ := k→∞ k→∞ lim supε↓0 ε−1 P[Nε ≥ 2], so ist (wegen (1 − ak /k)k −→ e−a , falls ak −→ a) + 2n , −1
N(k 2−n ,(k+1)2−n ] ≥ 2 P es gibt einen Doppelklick in (0, 1] = lim P )
*
n→∞
k=0
+ 2n , −1
N(k 2−n ,(k+1)2−n ] ≤ 1 = 1 − lim P n→∞
= 1 − lim
n→∞
k=0
n 2 −1
k=0
) * P N(k 2−n ,(k+1)2−n ] ≤ 1
2n = 1 − lim 1 − P[N2−n ≥ 2] n→∞ −λ
=1−e
.
Wir m¨ussen also λ = 0 fordern; dies ist aber gerade (P5).
120
5 Momente und Gesetze der Großen Zahl
Der n¨achste Satz zeigt, dass die Bedingungen (P1) – (P5) die Zufallsvariablen (NI , I ∈ I) eindeutig charakterisieren und zwar als Poissonprozess. Definition 5.33 (Poissonprozess). Eine Familie (Nt , t ≥ 0) von N0 –wertigen Zufallsvariablen heißt Poissonprozess mit Intensit¨at α ≥ 0, falls N0 = 0 und: (i) F¨ur jedes n ∈ N und je n + 1 Zahlen 0 = t0 < t1 < . . . < tn ist die Familie (Nti − Nti−1 , i = 1, . . . , n) unabh¨angig.
(ii) F¨ur t > s ≥ 0 ist Nt − Ns Poisson-verteilt mit Parameter α(t − s), also P[Nt − Ns = k] = e−α(t−s)
(α(t − s))k k!
f¨ur jedes k ∈ N0 .
Die Existenz eines Poissonprozesses ist an dieser Stelle noch nicht gesichert. Darauf kommen wir in Satz 5.35 zur¨uck. Satz 5.34. Erf¨ullt (NI , I ∈ I) die Bedingungen (P1) – (P5), so ist (N(0,t] , t ≥ 0) ein Poissonprozess mit Intensit¨at α := E[N(0,1] ]. Ist umgekehrt (Nt , t ≥ 0) ein Poissonprozess, so erf¨ullt (Nt − Ns , (s, t] ∈ I) die Bedingungen (P1)–(P5). Beweis. Sei zun¨achst (Nt , t ≥ 0) ein Poissonprozess mit Intensit¨at α ≥ 0. Dann ist f¨ur I = (a, b] offenbar PNI = Poiα(b−a) = Poiαℓ(I) . Also gilt (P2). Wegen (i) gilt (P3). Offenbar ist E[NI ] = α ℓ(I) < ∞, also gilt (P4). Schließlich ist P[Nε ≥ 2] = 1 − e−αε − α ε e−αε = f (0) − f (αε), wobei f (x) := e−x + xe−x . Wir bilden die Ableitung f ′ (x) = −xe−x . Dann ist offenbar lim ε−1 P[Nε ≥ 2] = −αf ′ (0) = 0. ε↓0
Also gilt auch (P5). Erf¨ulle nun (NI , I ∈ I) die Bedingungen (P1) – (P5). Setze α(t) := E[Nt ]. Dann ist (wegen (P2)) * ) * ) * ) α(s + t) = E N(0,s] + N(s,s+t] = E N(0,s] + E N(0,t] = α(s) + α(t).
Da t → α(t) monoton wachsend ist, folgt hieraus sogar α(t) = t α(1) f¨ur jedes t ≥ 0. Wir setzen α := α(1) und erhalten E[NI ] = α ℓ(I). Wir m¨ussen nur noch zeigen, dass PNt = Poiαt gilt. Um den Satz u¨ ber die Poissonapproximation (Satz 3.7) zu verwenden, zerlegen wir f¨ur festes n ∈ N, das Intervall (0, t] in 2n disjunkte gleich lange Intervalle
* I n (k) := (k − 1)2−n t, k2−n t , k = 1, . . . , 2n , und setzen X n (k) := NI n (k) sowie 1 1, X n (k) := 0,
falls X n (k) ≥ 1, sonst.
5.5 Der Poissonprozess
121
Nach den Annahmen (P2) und (P3) sind (X n (k), k = 1, . . . , 2n ) unabh¨angig und identisch verteilt. Daher ist auch (X n (k), k = 1, . . . , 2n ) unabh¨angig und identisch verteilt, n¨amlich X n (k) ∼ Berpn , wobei pn = P[N2−n t ≥ 1]. 2n Schließlich setzen wir Ntn := k=1 X n (k). Dann ist Ntn ∼ b2n ,pn . Offenbar ist Ntn+1 − Ntn ≥ 0. Nun gilt nach (P5) n
P [Nt = Ntn ] ≤
2
k=1
n→∞
P [X n (k) ≥ 2] = 2n P [N2−n t ≥ 2] −→ 0.
(5.15)
' ( Also ist P Nt = lim Ntn = 1. Nach dem Satz u¨ ber monotone Konvergenz gilt n→∞
α t = E [Nt ] = lim E [Ntn ] = lim pn 2n . n→∞
n→∞
Nach dem Satz u¨ ber Poisson-Approximation (Satz 3.7) gilt daher f¨ur jedes l ∈ N0 P[Nt = l] = lim P [Ntn = l] = Poiαt ({l}). n→∞
Also ist PNt = Poiα t .
2
Bislang steht noch der Nachweis aus, dass es u¨ berhaupt Poissonprozesse gibt. In Kapitel 24 werden wir ein allgemeines Konstruktionsprinzip kennen lernen, das auch ¨ f¨ur allgemeinere R¨aume als [0, ∞) funktioniert (siehe auch Ubung 5.5.1). Eine weitere, instruktive Konstruktion basiert auf den Wartezeiten zwischen den Klicks, oder formal zwischen den Unstetigkeitsstellen der Abbildung t → Nt (ω). Wie groß ist die Wahrscheinlichkeit, dass wir zur Zeit s auf den n¨achsten Klick des Z¨ahlers l¨anger als t Zeiteinheiten warten m¨ussen? Wenn wir die Klicks als Poissonprozess mit Intensit¨at α modellieren, ist diese Wahrscheinlichkeit * ) P N(s,s+t] = 0 = e−αt .
Mithin ist die Wartezeit auf den n¨achsten Klick exponentialverteilt mit Parameter α. Außerdem sollten die Wartezeiten unabh¨angig voneinander sein. Wir nehmen nun die Wartezeiten als Startpunkt der Betrachtung und konstruieren hieraus den Poissonprozess. Sei W1 , W2 , . . . eine unabh¨angige Familie von exponentialverteilten Zufallsvariablen mit Parameter α > 0, also P[Wn > x] = e−αx . Wir setzen Tn :=
n
Wk
k=1
und interpretieren Wn als die Wartezeit zwischen dem (n − 1)-ten und dem nten Klick. Tn ist der Zeitpunkt des n-ten Klicks. In Anlehnung an diese Intuition definieren wir
122
5 Momente und Gesetze der Großen Zahl
Nt := #{n ∈ N0 : Tn ≤ t} als die Anzahl der Klicks bis zur Zeit t. Es ist dann {Nt = k} = {Tk ≤ t < Tk+1 }. Speziell ist also Nt eine Zufallsvariable. Satz 5.35. Die Familie (Nt , t ≥ 0) ist ein Poissonprozess mit Intensit¨at α. Beweis. (Wir folgen dem Beweis in [58].) Wir m¨ussen zeigen, dass f¨ur jedes n ∈ N und jede Folge 0 = t0 < t1 < . . . < tn gilt: (Nti − Nti−1 , i = 1, . . . , n) ist unabh¨angig und Nti − Nti−1 = Poiα(ti −ti−1 ) . Wir wissen zwar, dass es nicht ausreicht, dies nur f¨ur n = 2 zu zeigen. Allerdings wird der Schreibaufwand f¨ur n ≥ 3 extrem groß, und das Prinzip, wie man den Beweis f¨ur allgemeines n ∈ N f¨uhrt, wird klar, wenn man n = 2 untersucht hat. Daher beschr¨anken wir uns hier auf den Fall n = 2. Wir zeigen also, f¨ur 0 < s < t und l, k ∈ N0 (α(t − s))l (αs)k e−α(t−s) . P[Ns = k, Nt − Ns = l] = e−αs k! l!
(5.16)
Hieraus folgt, dass Ns und (Nt − Ns ) unabh¨angig sind. Außerdem folgt, indem wir u¨ ber k ∈ N0 summieren, dass Nt − Ns ∼ Poiα(t−s) . Nach Korollar 2.22 hat die Verteilung P(W1 ,...,Wk+l+1 ) die Dichte x → αk+l+1 e−αSk+l+1 (x) , wobei Sn (x) := x1 + . . . + xn . Es reicht nun, l ≥ 1 zu betrachten, da wir den (l = 0)-Term durch die Normierung des W-Maßes erhalten. Sei also l ≥ 1. Wir erhalten P[Ns = k, Nt − Ns = l] = P[Tk ≤ s < Tk+1 , Tk+l ≤ t < Tk+l+1 ] ∞ ∞ = ··· dx1 · · · dxk+l+1 0
α
0 k+l+1 −αSk+l+1 (x)
e
{Sk (x)≤s<Sk+1 (x)}
{Sk+l (x)≤t<Sk+l+1 (x)} ,
Wir integrieren nun sukzessive, mit xk+l+1 beginnend. Im ersten Schritt substituieren wir z = Sk+l+1 (x) und erhalten ∞ ∞ dxk+l+1 α e−αSk+l+1 (x) {Sk+l+1 (x)>t} = dz α e−αz = e−αt . 0
t
Nun halten wir x1 , . . . , xk fest und erhalten f¨ur die restlichen Variablen durch die Substitution y1 = Sk+1 (x) − s, y2 = xk+2 , . . . , yl = xk+l
5.5 Der Poissonprozess
0
∞
···
123
∞
dxk+1 · · · dxk+l {s<Sk+1 (x)≤Sk+l ≤t} ∞ ∞ (t − s)l . = ··· dy1 · · · dyl {y1 +...+yl ≤t−s} = l! 0 0 0
(Dies erh¨alt man zum Beispiel per Induktion u¨ ber l.) Wir integrieren nun u¨ ber die verbleibenden Variablen x1 , . . . , xk und erhalten ∞ ∞ sk ··· dx1 · · · dxk {Sk (x)≤s} = . k! 0 0 Insgesamt erhalten wir P[Ns = k, Nt − Ns = l] = e−αt αk+l
sk (t − s)l , k! l!
also (5.16).
2
¨ Ubung 5.5.1. Seien Rn , Ykn , k, n ∈ N unabh¨angige Zufallsvariablen mit Rn ∼ Poiα und Ykn ∼ U(n−1,n] (Gleichverteilung auf (n − 1, n]) f¨ur alle k, n ∈ N. Setze
Nt := # (k, n) ∈ N2 : k ≤ Rn und Ykn ≤ t .
Man zeige, dass (Nt )t≥0 ein Poissonprozess mit Intensit¨at α ist.
♣
6 Konvergenzs¨atze
Im starken und schwachen Gesetz der großen Zahl hatten wir implizit schon die Begriffe von fast sicherer und stochastischer Konvergenz von Folgen von Zufallsvariablen kennen gelernt und gesehen, dass die fast sichere die stochastische Konvergenz impliziert. In diesem Kapitel definieren wir die Begriffe von fast sicherer und stochastischer Konvergenz sowie Konvergenz im Mittel von Folgen messbarer Abbildungen und setzen sie in Beziehung zueinander. Eine Schl¨usselrolle kommt dabei dem Konzept der gleichgradigen Integrierbarkeit zu.
¨ 6.1 Fast-uberallund stochastische Konvergenz Im Folgenden ist (Ω, A, μ) stets ein σ-endlicher Maßraum. Wir definieren zun¨achst Fast-¨uberall-Konvergenz und stochastische Konvergenz in metrischen R¨aumen und vergleichen dann beide Konzepte miteinander. Hierf¨ur ben¨otigen wir zun¨achst zwei Lemmata, die sicher stellen, dass die Abstandsfunktion zweier messbarer Abbildungen wieder messbar ist. Sei im Folgenden (E, d) ein separabler, metrischer Raum mit Borel’scher σ-Algebra B(E). Separabel“ heißt dabei bekanntlich, dass es ei” ne abz¨ahlbare, dichte Teilmenge gibt. F¨ur x ∈ E und r > 0 bezeichnen wir mit Br (x) = {y ∈ E : d(x, y) < r} die offene Kugel um x mit Radius r. Lemma 6.1. Seien f, g : Ω → E messbar bez¨uglich A – B(E). Dann ist die Abbildung H : Ω → [0, ∞), ω → d(f (ω), g(ω)) messbar bez¨uglich A – B([0, ∞)). Beweis. Sei F ⊂ E abz¨ahlbar und dicht. Nach der Dreiecksungleichung ist d(x, z) + d(z, y) ≥ d(x, y) f¨ur alle x, y ∈ E und f¨ur z ∈ F . Sei (zn )n∈N eine n→∞ n→∞ Folge in F mit zn −→ x. Da d stetig ist, gilt d(x, zn ) + d(zn , y) −→ d(x, y). Insgesamt haben wir inf z∈F (d(x, z) + d(z, y)) = d(x, y). Da x → d(x, z) stetig ist, also messbar, sind auch fz , gz : Ω → [0, ∞) mit fz (ω) = d(f (ω), z) und gz (ω) = d(g(ω), z) messbar, also auch fz + gz sowie H = inf z∈F (fz + gz ). (Etwas systematischer l¨asst sich der Satz zeigen, wenn wir benutzen, dass (f, g) messbar ist bez¨uglich A – B(E × E) (dies folgt aus Satz 14.8) und d : E × E → [0, ∞) stetig also messbar bez¨uglich B(E ×E) – B([0, ∞)). Als Verkn¨upfung messbarer Abbildungen ist dann auch ω → d(f (ω), g(ω)) messbar.) 2
126
6 Konvergenzs¨atze
Seien f, f1 , f2 , . . . : Ω → E messbar bez¨uglich A – B(E). Definition 6.2. Wir sagen: (fn )n∈N konvergiert gegen f stoch
(i) μ-stochastisch (oder dem Maße nach), in Formeln fn −→ f , wenn f¨ur jedes A ∈ A mit μ(A) < ∞ und f¨ur jedes ε > 0 gilt, dass n→∞
μ({d(f, fn ) > ε} ∩ A) −→ 0. f.¨u.
(ii) μ-fast uberall, in Formeln fn −→ f , wenn es eine μ-Nullmenge N ∈ A gibt, ¨ sodass f¨ur jedes ω ∈ Ω \ N gilt, dass n→∞
d(f (ω), fn (ω)) −→ 0. Ist μ ein W-Maß, so sagen wir in diesem Fall auch, dass (fn )n∈N fast sicher f.s. konvergiert und schreiben fn −→ f . Gelegentlich werden die Hinweise fast ” u¨ berall“ und fast sicher“ auch weglassen. ” Bemerkung 6.3. Fast-¨uberall-Konvergenz ist a¨ quivalent zur Fast-¨uberall-Konvergenz auf allen Mengen endlichen Maßes. 3 Bemerkung 6.4. Fast-¨uberall-Konvergenz impliziert die stochastische: Sei zu ε > 0 Dn (ε) = {d(f, fm ) > ε f¨ur ein m ≥ n}. ∞ Dann gilt D(ε) := n=1 Dn (ε) ⊂ N , wobei N die Nullmenge aus der Definition der F.¨u.-Konvergenz ist. Die σ-Stetigkeit von oben von μ impliziert μ(Dn (ε) ∩ n→∞ A) −→ μ(D(ε) ∩ A) = 0 f¨ur jedes A ∈ A mit μ(A) < ∞. 3 Bemerkung 6.5. Stochastische oder Fast-¨uberall-Konvergenz legen den Grenzwert stoch stoch eindeutig fest bis auf Gleichheit fast u¨ berall. In der Tat: Sei fn −→ f und fn −→ g. Seien A1 , A2 , . . . ∈ A mit An ↑ Ω und μ(An ) < ∞ f¨ur jedes n ∈ N. Dann ist (wegen d(f, g) ≤ d(f, fn ) + d(g, fn )) f¨ur jedes m ∈ N und ε > 0
μ Am ∩ {d(f, g) > ε}
n→∞
≤ μ Am ∩ {d(f, fn ) > ε/2} + μ Am ∩ {d(g, fn ) > ε/2} −→ 0.
Also ist μ {d(f, g) > 0} = 0. 3
Bemerkung 6.6. Im Allgemeinen impliziert stochastische Konvergenz nicht F.¨u.Konvergenz. In der Tat: Sei (Xn )n∈N eine unabh¨angige Familie von Zufallsvaristoch ablen mit Xn ∼ Ber1/n . Dann gilt Xn −→ 0, jedoch ist nach dem Lemma von Borel-Cantelli lim supn→∞ Xn = 1 fast sicher. 3
6.1 Fast-¨uberall- und stochastische Konvergenz
127
Satz 6.7. Seien A1 , A2 , . . . ∈ A mit AN ↑ Ω und μ(AN ) < ∞ f¨ur jedes N ∈ N. F¨ur messbare f, g : Ω → E setze ˜ g) := d(f,
∞
2−N 1 + μ(AN )
N =1
AN
1 ∧ d(f (ω), g(ω)) μ(dω).
(6.1)
Dann ist d˜ eine Metrik, die die stochastische Konvergenz erzeugt: Sind f, f1 , f2 , . . . messbar, so gilt stoch ˜ fn ) n→∞ fn −→ f ⇐⇒ d(f, −→ 0. Beweis. F¨ur N ∈ N setze d˜N (f, g) :=
AN
n→∞
1 ∧ d(f (ω), g(ω)) μ(dω). n→∞
˜ fn ) −→ 0, wenn d˜N (f, fn ) −→ 0 f¨ur jedes N ∈ N. Genau dann gilt d(f, ”
=⇒ “
stoch
Es gelte fn −→ f . Dann ist f¨ur jedes ε ∈ (0, 1)
n→∞ d˜N (f, fn ) ≤ μ AN ∩ {d(f, fn ) > ε} + ε μ(AN ) −→ ε μ(AN ).
n→∞ Da ε ∈ (0, 1) beliebig war, gilt d˜N (f, fn ) −→ 0.
˜ fn ) n→∞ ⇐= “ Es gelte d(f, −→ 0. Sei B ∈ A mit μ(B) < ∞. W¨ahle δ > 0 und ” N ∈ N so groß, dass μ(B \ AN ) < δ. Dann ist f¨ur ε ∈ (0, 1)
μ B ∩ {d(f, fn ) > ε} ≤ δ + μ AN ∩ {d(f, fn ) > ε} n→∞ ≤ δ + ε−1 d˜N (f, fn ) −→ δ.
n→∞ stoch Da δ > 0 beliebig war, folgt μ B ∩ {d(f, fn ) > ε} −→ 0, also fn −→ f .
2
Wir betrachten nun den wichtigen Fall E = R mit der euklidischen Metrik. Hier haben wir durch das Integral einen weiteren Konvergenzbegriff zur Verf¨ugung. Definition 6.8 (Konvergenz im Mittel). Seien f, f1 , f2 , . . . ∈ L1 (μ). Wir sagen (fn )n∈N konvergiere im Mittel gegen f , in Formeln L1
fn −→ f, n→∞
falls fn − f 1 −→ 0. L1
Bemerkung 6.9. Gilt fn −→ f , so gilt insbesondere
0
n→∞
fn dμ −→
0
f dμ.
3
128
6 Konvergenzs¨atze L1
L1
Bemerkung 6.10. Gilt fn −→ f und fn −→ g, so ist f = g fast u¨ berall. In der Tat n→∞ ist nach der Dreiecksungleichung f − g1 ≤ fn − f 1 + fn − g1 −→ 0. 3 Bemerkung 6.11. L1 -Konvergenz und F.¨u.-Konvergenz implizieren jeweils stochastische Konvergenz. Alle anderen Implikationen sind im Allgemeinen falsch. 3 Satz 6.12 (Schnelle Konvergenz). Sei (E, d) ein separabler, metrischer Raum. Damit die Folge (fn )n∈N messbarer Abbildungen Ω → E fast u¨ berall konvergiert, ist hinreichend, dass eine der folgenden Bedingungen gilt. (i) Es gilt E = R, es gibt ein p ∈ [1, ∞) mit fn ∈ Lp (μ) f¨ur jedes n ∈ N, und ∞ es gibt ein f ∈ Lp (μ) mit fn − f p < ∞. n=1
(ii) Es gibt ein messbares f mit
∞
n=1
μ(A ∩ {d(f, fn ) > ε}) < ∞ f¨ur jedes ε > 0
und f¨ur jedes A ∈ A mit μ(A) < ∞. n→∞
In beiden F¨allen gilt fn −→ f fast u¨ berall. (iii) E ist vollst¨andig, und es gibt eine summierbare Folge (εn )n∈N , sodass ∞
n=1
μ(A ∩ {d(fn , fn+1 ) > εn }) < ∞
f¨ur jedes A ∈ A mit μ(A) < ∞.
Beweis. Offenbar impliziert (i) schon (ii), denn nach der Markov’schen Ungleichung ist μ({|f − fn | > ε}) ≤ ε−p f − fn pp . Nach Bemerkung 6.3 reicht es, den Fall μ(Ω) < ∞ zu betrachten.
Gelte nun (ii). Sei Bn (ε) = {d(f, fn ) > ε} und B(ε) = lim sup Bn (ε). Das ∞ n→∞ Lemma von Borel-Cantelli liefert μ(B(ε)) = 0. Sei N = n=1 B (1/n). Dann gilt n→∞ μ(N ) = 0 und fn (ω) −→ f (ω) f¨ur jedes ω ∈ Ω \ N. Gelte (iii). Sei Bn = {d(fn+1 , fn ) > εn } und B = lim sup Bn . Dann ist μ(B) = n→∞
0, und f¨ur jedes ω ∈ Ω\B ist (fn (ω))n∈N eine Cauchy-Folge in E. Da E vollst¨andig ist, existiert der Limes f (ω) := limn→∞ fn (ω). F¨ur ω ∈ B setze f (ω) = 0. 2 Korollar 6.13. Sei (E, d) vollst¨andig und separabel. Seien f, f1 , f2 , . . . messbare Abbildungen Ω → E. Dann sind die beiden folgenden Aussagen a¨ quivalent. n→∞
(i) fn −→ f stochastisch,
(ii) Zu jeder Teilfolge von (fn )n∈N existiert eine gegen f fast u¨ berall konvergente Teilfolge.
6.1 Fast-¨uberall- und stochastische Konvergenz
129
Beweis. (ii) =⇒ (i)“ Wir nehmen an, dass (i) nicht gilt. Dann gibt es ein ε > 0 ” ˜ n,k , f ) > ε f¨ur jedes k ∈ N. Offenbar konverund eine Teilfolge (fnk )k∈N mit d(f giert keine Teilfolge von (fnk )k∈N stochastisch gegen f , also auch nicht f.¨u. (i) =⇒ (ii)“ Gelte nun (i). Nach Bemerkung 6.3 k¨onnen wir ohne Einschr¨an” stoch kung annehmen, dass μ(Ω) < ∞ gilt. Sei nk ↑ ∞ beliebig. Wegen fnk −→ f f¨ur k → ∞, k¨onnen wir eine Teilfolge (fnkl )l∈N w¨ahlen, sodass ∞ 1 μ |f − fnkl | > < ∞. l l=1
Nach Satz 6.12(ii) konvergiert (fnkl )l∈N fast u¨ berall gegen f .
2
Korollar 6.14. Ist (Ω, A, μ) ein Maßraum, bei dem stochastische und F.¨u.-Konvergenz nicht zusammenfallen, so gibt es keine Topologie auf der Menge der messbaren Abbildungen Ω → E, die die F.¨u.-Konvergenz erzeugt. Beweis. Wir nehmen an, dass es eine Topologie gibt, die die F.¨u.-Konvergenz erstoch zeugt. Seien f, f1 , f2 , . . . messbare Abbildungen mit der Eigenschaft, dass fn −→ n→∞ f , jedoch nicht fn −→ f fast u¨ berall. Sei nun U eine offene Menge, die f enth¨alt, f¨ur die jedoch fn ∈ U f¨ur unendlich viele n ∈ N gilt. Sei also (fnk )k∈N eine Teilk→∞
folge mit fnk ∈ U f¨ur jedes k ∈ N. Wegen fnk −→ f stochastisch, gibt es nach l→∞
Korollar 6.13 wiederum eine Teilfolge (fnkl )l∈N von (fnk )k∈N mit fnkl −→ f fast u¨ berall. Es ist dann aber fnkl ∈ U f¨ur alle bis auf endlich viele l, was einen Widerspruch darstellt. 2
Korollar 6.15. Sei (E, d) ein separabler, vollst¨andiger metrischer Raum. Es sei (fn )n∈N eine stochastische Cauchy-Folge in E, das heißt, f¨ur jedes A ∈ A mit μ(A) < ∞ und jedes ε > 0 gilt
μ A ∩ {d(fn , fm ) > ε} −→ 0 f¨ur m, n → ∞.
Dann konvergiert (fn )n∈N stochastisch.
Beweis. Ohne Einschr¨ankung kann μ(Ω) < ∞ angenommen werden. W¨ahle eine Teilfolge (fnk )k∈N , sodass
μ d(fn , fnk ) > 2−k < 2−k f¨ur jedes n ≥ nk . k→∞
Nach Satz 6.12(iii) gibt es ein f mit fnk −→ f fast u¨ berall, also insbesondere k→∞
μ({d(fnk , f ) > ε/2}) −→ 0 f¨ur jedes ε > 0. Nun ist aber
μ({d(fn , f ) > ε}) ≤ μ({d(fnk , fn ) > ε/2}) + μ({d(fnk , f ) > ε/2}). Ist k so groß, dass 2−k < ε/2 ist und n ≥ nk , so ist der erste Summand kleiner als n→∞ stoch 2−k , also gilt μ({d(fn , f ) > ε}) −→ 0, das heißt, es gilt fn −→ f . 2
130
6 Konvergenzs¨atze
¨ Ubung 6.1.1. Man zeige: Ist Ω h¨ochstens abz¨ahlbar, so folgt aus stochastischer Konvergenz schon F.¨u.-Konvergenz. ♣ ¨ Ubung 6.1.2. Man gebe jeweils ein Beispiel an f¨ur eine Folge, die (i) in L1 konvergiert, aber nicht fast u¨ berall, (ii) fast u¨ berall konvergiert, aber nicht in L1 .
♣
¨ Ubung 6.1.3. (Satz von Egorov (1911)) Sei (Ω, A, μ) ein endlicher Maßraum, und seien f1 , f2 , . . . messbare Funktionen, die fast u¨ berall gegen ein f konvergieren. Man zeige: Zu jedem ε > 0 gibt es eine Menge A ∈ A mit μ(Ω \ A) < ε und n→∞ supω∈A |fn (ω) − f (ω)| −→ 0. ♣ ¨ Ubung 6.1.4. Man zeige: Sind X1 , X2 , . . . unabh¨angige, ∞quadratintegrierbare Zufallsvariablen mit E[Xi ] = 0 f¨ur jedes i ∈ N und i=1 Var[Xi ] < ∞, dann n existiert ein quadratintegrierbares X mit X = limn→∞ i=1 Xi fast sicher. ♣
6.2 Gleichgradige Integrierbarkeit Wie bekommt man nun die Konvergenz im Mittel aus der F.¨u.-Konvergenz? Das notwendige Additiv ist die gleichgradige Integrierbarkeit. Definition 6.16. Eine Familie F ⊂ L1 (μ) heißt gleichgradig integrierbar, falls
+ inf1 sup |f | − g dμ = 0. (6.2) 0≤g∈L (μ) f ∈F
Satz 6.17. Die Familie F ⊂ L1 (μ) ist genau dann gleichgradig integrierbar, wenn inf 1 sup |f | dμ = 0. (6.3) 0≤ g ∈L (μ) f ∈F
{|f |> g}
Ist μ(Ω) < ∞, so ist die gleichgradige Integrierbarkeit a¨ quivalent zu jeder der beiden folgenden Bedingungen (i) inf sup (|f | − a)+ dμ = 0, a∈[0,∞) f ∈F
(ii)
inf
sup
a∈[0,∞) f ∈F
{|f |>a}
|f | dμ = 0.
6.2 Gleichgradige Integrierbarkeit
Beweis. Offenbar gilt (|f | − g)+ ≤ |f | · gradige Integrierbarkeit.
{|f |>g} ,
131
also impliziert (6.3) die gleich-
Gelte nun (6.2). F¨ur jedes ε > 0 sei gε ∈ L1 (μ) so gew¨ahlt, dass sup (|f | − gε )+ dμ ≤ ε.
(6.4)
f ∈F
Setze gε = 2gε/2 . Dann ist f¨ur f ∈ F |f | dμ ≤ (|f | − gε/2 )+ dμ + {|f |>gε }
0
{|f |>gε }
gε/2 dμ.
{|f |>gε }
Per Konstruktion ist {|f |>gε } (|f | − gε/2 )+ dμ ≤ ε/2 und gε/2 {|f |>gε } ≤ (|f | − 0 0 gε/2 )+ {|f |>gε } , also auch {|f |>gε } gε/2 dμ ≤ |f |>gε (|f | − gε/2 )+ dμ ≤ ε/2. Insgesamt haben wir also |f | dμ ≤ ε. (6.5) sup f ∈F
{|f |>gε }
Offenbar impliziert (ii) schon (i), und (i) impliziert die gleichgradige Integrierbarkeit von F, denn das Infimum wird hier ja u¨ ber die kleinere Menge der konstanten Funktionen gebildet. Wir m¨ussen noch zeigen, dass gleichgradige Integrierbarkeit (ii) impliziert. Sei also F gleichgradig integrierbar und μ(Ω) 0 < ∞. Zu gegebenem ε > 0 (und gε und g˜ε wie oben) w¨ahlen wir aε so, dass {gε/2 >aε } gε/2 dμ < 2ε . Dann ist |f | dμ ≤ |f | dμ + gε/2 dμ < ε. 2 {|f |>aε }
{|f |> gε/2 }
{ gε/2 >aε }
Satz 6.18. (i) Ist F ⊂ L1 (μ) eine endliche Menge, so ist F gleichgradig integrierbar. (ii) Sind F, G ⊂ L1 (μ) gleichgradig integrierbar, dann sind auch (f + g : f ∈ F, g ∈ G) und (f − g : f ∈ F, g ∈ G) sowie {|f | : f ∈ F } gleichgradig integrierbar. (iii) Ist F gleichgradig integrierbar und existiert zu jedem g ∈ G ein f ∈ F mit |g| ≤ |f |, so ist auch G gleichgradig integrierbar. ¨ Beweis. Der einfache Beweis verbleibt zur Ubung.
2
Der folgende Satz beschreibt ein sehr gut anwendbares Kriterium f¨ur gleichgradige Integrierbarkeit. Wir werden diesen Satz an vielen Stellen einsetzen.
132
6 Konvergenzs¨atze
Satz 6.19. F¨ur endliches μ ist F ⊂ L1 (μ) genau dann gleichgradig integrierbar, wenn es eine Funktion H : [0, ∞) → [0, ∞) gibt mit limx→∞ H(x)/x = ∞ und sup H(|f |) dμ < ∞. f ∈F
H kann sogar monoton wachsend und konvex gew¨ahlt werden. Beweis. ⇐= “ Es existiere H mit den angegebenen Eigenschaften. Dann gilt ” ↑ ∞, wenn a ↑ ∞. Also ist f¨ur a > 0 Ka := inf x≥a H(x) x 1 H(|f |) dμ sup |f | dμ ≤ sup Ka f ∈F {|f |≥a} f ∈F {|f |≥a} 1 a→∞ ≤ sup H (|f |) dμ −→ 0. Ka f ∈F =⇒ “ Sei F gleichgradig integrierbar. Da μ(Ω) < ∞ gilt, gibt es (nach ” Satz 6.17) eine Folge an ↑ ∞ mit sup (|f | − an )+ dμ < 2−n . f ∈F
Wir setzen H(x) =
∞
(x − an )+
n=1
f¨ur jedes x ≥ 0.
Dann ist H als Summe konvexer nFunktionen konvex. Ferner gilt f¨ur jedes n ∈ N und x ≥ 2an , dass H(x)/x ≥ k=1 (1 − ak /x)+ ≥ n/2, also gilt H(x)/x ↑ ∞. Schließlich ist nach dem Satz u¨ ber monotone Konvergenz f¨ur jedes f ∈ F
H(|f (ω)|) μ(dω) =
∞
n=1
+
(|f | − an ) dμ ≤
∞
2−n = 1.
3
n=1
Zur Notation · p erinnere man sich an Definition 4.16. Definition 6.20. Sei p ∈ [1, ∞]. Eine Familie F ⊂ Lp (μ) heißt beschr¨ankt in Lp (μ), falls sup{f p : f ∈ F} < ∞ gilt. Korollar 6.21. Ist μ(Ω) < ∞ und p > 1 sowie F beschr¨ankt in Lp (μ), dann ist F gleichgradig integrierbar. Beweis. Wende Satz 6.19 an mit der konvexen Abbildung H(x) = xp .
2
6.2 Gleichgradige Integrierbarkeit
133
Korollar 6.22. Ist (Xi )i∈I eine Familie von Zufallsvariablen mit sup{|E[Xi ]| : i ∈ I} < ∞ und sup{Var[Xi ] : i ∈ I} < ∞, dann ist (Xi )i∈I gleichgradig integrierbar. Beweis. Dies folgt aus Korollar 6.21 mit p = 2, denn E[Xi2 ] = E[Xi ]2 + Var[Xi ] ist in i ∈ I beschr¨ankt. 2 Lemma 6.23. Es existiert eine Abbildung h ∈ L1 (μ) mit h > 0 fast u¨ berall. Beweis. Seien A1 , A2 , . . . , ∈ A mit An ↑ Ω und μ(An ) < ∞ f¨ur n ∈ N. Setze h=
∞
n=1
Dann ist h > 0 fast u¨ berall und
0
2−n 1 + μ(An ))−1 h dμ ≤
∞
n=1
An .
μ(An ) 2−n 1+μ(A ≤ 1. n)
2
Satz 6.24. Eine Familie F ⊂ L1 (μ) ist genau dann gleichgradig integrierbar, wenn die beiden folgenden Bedingungen erf¨ullt sind. (i) C := sup |f | dμ < ∞. f ∈F
(ii) Es gibt eine Funktion 0 ≤ h ∈ L1 (μ), sodass f¨ur jedes ε > 0 ein δ(ε) > 0 existiert mit |f | dμ ≤ ε f¨ur jedes A ∈ A mit h dμ < δ(ε). sup f ∈F
A
A
Ist μ(Ω) < ∞, so ist (ii) gleichwertig mit (iii): (iii) F¨ur jedes ε > 0 gibt es ein δ(ε) > 0, sodass |f | dμ ≤ ε f¨ur jedes A ∈ A mit μ(A) < δ(ε). sup f ∈F
A
Beweis. =⇒ “ Sei F gleichgradig integrierbar. Sei h ∈ L1 (μ) mit h > 0 ” fast u¨ berall. Sei ε > 0 und gε/3 eine ε/3–Schranke f¨ur F (wie in (6.5)). Wegen gε/3 ≥ αh ↓ ∅ f¨ur α → ∞, gilt f¨ur hinreichend großes α = α(ε) ε gε/3 dμ < . 3 g ε/3 ≥αh Mit δ(ε) :=
ε 3α(ε)
gilt dann f¨ur jedes A ∈ A mit
0
A
h dμ < δ(ε) und jedes f ∈ F
134
6 Konvergenzs¨atze
|f | dμ ≤
A
|f | dμ +
A
{|f |> gε/3 }
≤
ε + α 3
h dμ +
A
gε/3 dμ
g ε/3 ≥αh
gε/3 dμ ≤ ε.
Damit ist (ii) gezeigt. Setzen wir in die Rechnung A = Ω ein, so erhalten wir 2ε + α h dμ < ∞. |f | dμ ≤ 3 Damit ist auch (i) gezeigt. ⇐= “ Es gelten (i) und (ii). Sei ε > 0. W¨ahle h und δ(ε) > 0 wie in (ii) und C ” C wie in (i). Setze h = δ(ε) h. Dann ist
δ(ε) h dμ = C
{|f |> h}
also nach Voraussetzung
h} {|f |>
δ(ε) h dμ ≤ C
|f | dμ ≤ δ(ε),
|f | dμ < ε.
{|f |> h}
(ii) =⇒ (iii)“ Es gelte (ii).0 Sei ε > 0 und δ = δ(ε) wie in (ii) gew¨ahlt. Sei ” K < ∞ so groß gew¨ahlt, dass {h≥K} h dμ < δ/2. F¨ur A ∈ A mit μ(A) < δ/(2K) ist dann h dμ ≤ Kμ(A) + h dμ < δ, also
0
{h≥K}
A
A
|f | dμ ≤ ε f¨ur jedes f ∈ F.
(iii) =⇒ (ii)“ ”
Gelten (iii) und μ(Ω) < ∞, so leistet h ≡ 1 das Gew¨unschte. 2
Wir kommen zum Hauptsatz dieses Abschnittes. Satz 6.25. Sei {fn : n ∈ N} ⊂ L1 (μ). Die folgenden Aussagen sind a¨ quivalent. n→∞
(i) Es gibt ein f ∈ L1 (μ) mit fn −→ f in L1 .
(ii) (fn )n∈N ist L1 (μ)-Cauchy-Folge, also fn − fm 1 −→ 0 f¨ur m, n → ∞.
(iii) (fn )n∈N ist gleichgradig integrierbar, und es gibt eine messbare Abbildung f stoch mit fn −→ f . Die Limiten in (i) und (iii) stimmen u¨ berein.
6.2 Gleichgradige Integrierbarkeit
135
Beweis. (i) =⇒ (ii)“ Dies ist klar. ” (ii) =⇒ (iii)“ F¨ur jedes ε > 0 gibt es ein nε ∈ N, sodass fn − fnε 1 < ε f¨ur ” jedes n ≥ nε gilt. Also ist f¨ur jedes n ≥ nε auch (|fn | − |fnε |)+ 1 < ε. Mithin ist gε = max{|f1 |, . . . , |fnε |} eine ε-Schranke f¨ur (fn )n∈N (wie in (6.4)). F¨ur ε > 0 ist μ({|fm − fn | > ε}) ≤ ε−1 fm − fn 1 −→ 0 f¨ur m, n → ∞.
Deshalb ist (fn )n∈N auch eine stochastische Cauchy-Folge, also stochastisch konvergent nach Korollar 6.15. (iii) =⇒ (i)“ Sei f der stochastische Grenzwert der Folge (fn )n∈N . Wir nehmen ” an, dass (fn )n∈N nicht in L1 gegen f konvergiert. Dann gibt es ein ε > 0 und eine Teilfolge (fnk )k∈N mit f − fnk 1 > 2ε
f¨ur jedes k ∈ N,
(6.6)
1
wobei wir f − fnk 1 = ∞ setzen, falls f ∈ L (μ) ist. Nach Korollar 6.13 gibt k→∞
es eine Teilfolge (fn′k )k∈N von (fnk )k∈N mit fn′k −→ f fast u¨ berall. Nach dem Lemma von Fatou (Satz 4.21) mit 0 als Minorante gilt daher |f | dμ ≤ lim inf |fn′k | dμ < ∞. k→∞
1
Also ist f ∈ L (μ). Nach Satz 6.18(ii) (mit G = {f }) ist (f −fn′k )n∈N gleichgradig 0 integrierbar, also gibt es ein 0 ≤ g ∈ L1 (μ), sodass (|f − fn′k | − g)+ dμ < ε. Setze gk = |fn′k − f | ∧ g f¨ur jedes k ∈ N. k→∞
Dann gilt gk −→ 0 fast u¨ berall und g − gk ≥ 0. Nach dem Lemma von Fatou ist lim sup gk dμ = g dμ − lim inf (g − gk ) dμ k→∞ k→∞ ≤ g dμ − lim (g − gk ) dμ = 0. k→∞
Wegen {|f − fn′k | > gk } = {|f − fn′k | > g} ist also lim sup f − fn′k 1 ≤ lim sup |f − fn′k | dμ + lim sup gk dμ ≤ ε, k→∞
k→∞
{|f −fn′ |>g}
k→∞
k
im Widerspruch zu (6.6).
2
Korollar 6.26 (Lebesgue’scher Konvergenzsatz, majorisierte Konvergenz). Sei n→∞ f messbar und (fn )n∈N eine Folge in L1 (μ) mit fn −→ f stochastisch. Es existiere eine integrierbare Majorante 0 ≤ g ∈ L1 (μ) mit |fn | ≤ g fast u¨ berall f¨ur n→∞ jedes n ∈ N. Dann gilt f ∈ L1 (μ) und fn −→ f in L1 , also insbesondere 0 n→∞ 0 fn dμ −→ f dμ.
136
6 Konvergenzs¨atze
Beweis. Das folgt aus Satz 6.25, weil die Majorante die gleichgradige Integrierbarkeit der Folge (fn )n∈N sichert. 2 ¨ Ubung 6.2.1. Sei H ∈ L1 (μ) mit H > 0 μ-f.¨u. (siehe Lemma 6.23) und (E, d) ein separabler metrischer Raum. Man zeige: (i) Durch dH (f, g) :=
1 ∧ d(f (ω), g(ω)) H(ω) μ(dω)
wird eine Metrik definiert, die die stochastische Konvergenz erzeugt. (ii) Ist (E, d) vollst¨andig, so ist dH vollst¨andig.
♣
6.3 Vertauschung von Integral und Ableitung Wir wollen untersuchen, wie sich Eigenschaften wie Stetigkeit und Differenzierbarkeit von Zweiparameterfunktionen unter Integration nach einer Variablen erhalten. Satz 6.27 (Stetigkeitslemma). Sei (E, d) ein metrischer Raum, x0 ∈ E und f : Ω × E → R eine Abbildung mit den Eigenschaften (i) f¨ur jedes x ∈ E ist die Abbildung ω → f (ω, x) in L1 (μ),
(ii) f¨ur fast alle ω ∈ Ω ist die Abbildung x → f (ω, x) stetig im Punkte x0 ,
(iii) die Abbildung h : ω → supx∈E |f (ω, x)| ist in L1 (μ). Dann ist die Abbildung F : E → R, x → f (ω, x) μ(dω) stetig in x0 .
Beweis. Sei (xn )n∈N eine Folge in E mit lim xn = x0 . Setze fn = f ( · , xn ). n→∞ n→∞
Nach Voraussetzung ist |fn | ≤ h und fn −→ f ( · , x0 ) fast u¨ berall. Nach dem Satz von der majorisierten Konvergenz (Korollar 6.26) ist n→∞ F (xn ) = fn dμ −→ f ( · , x0 ) dμ = F (x0 ). Also ist F stetig in x0 .
2
6.3 Vertauschung von Integral und Ableitung
137
Satz 6.28 (Differentiationslemma). Sei I ⊂ R ein nichttriviales, offenes Intervall und f : Ω × I eine Abbildung mit den Eigenschaften (i) f¨ur jedes x ∈ I ist (ω → f (ω, x)) ∈ L1 (μ),
(ii) f¨ur fast alle ω ∈ Ω ist I → R, x → f (ω, x) differenzierbar, wobei wir die Ableitung mit f ′ bezeichnen, (iii) h := supx∈I |f ′ ( · , x)| ∈ L1 (μ). Dann gilt: F¨ur jedes x ∈ I ist f ′ ( · , x) ∈ L1 (μ). Die Funktion F : x → 0 f (ω, x) μ(dω) ist differenzierbar mit Ableitung F ′ (x) = f ′ (ω, x) μ(dω). Beweis. Sei x0 ∈ I und (xn )n∈N eine Folge in I mit xn = x0 f¨ur jedes n ∈ N, sowie lim xn = x0 . Wir zeigen, dass entlang der Folge (xn )n∈N die Differenzenn→∞ quotienten konvergieren. Setze gn (ω) =
f (ω, xn ) − f (ω, x0 ) xn − x0
f¨ur jedes ω ∈ Ω.
Nach Voraussetzung (ii) gilt n→∞
gn −→ f ′ ( · , x0 )
μ − fast u¨ berall.
Nach dem Zwischenwertsatz der Differentialrechnung existiert zu jedem n ∈ N und fast jedem ω ∈ Ω ein yn (ω) ∈ I mit gn (ω) = f ′ (ω, yn (ω)). Speziell ist |gn | ≤ h f¨ur jedes n ∈ N. Nach dem Satz von der majorisierten Konvergenz (Korollar 6.26) ist also die Grenzfunktion f ′ ( · , x0 ) in L1 (μ) und F (xn ) − F (x0 ) lim = lim gn (ω) μ(dω) = f ′ (ω, x0 ) μ(dω). 2 n→∞ n→∞ xn − x0 Beispiel 6.29. (Laplace-Transformation) Sei X eine nichtnegative Zufallsvariable auf (Ω, A, P), I = [0, ∞) und f (x, λ) = e−λx f¨ur λ ∈ I. Dann ist * ) F (λ) = E e−λX
in (0, ∞) unendlich oft differenzierbar. Die ersten Ableitungen sind F ′ (λ) = −E[Xe−λX ] und F ′′ (λ) = E[(X 2 )e−λX ]. Sukzessive erhalten wir die n-te Ableitung F (n) (λ) = E[(−X)n e−λX ]. Es gilt (monotone Konvergenz) E[X] = − lim F ′ (λ) λ↓0
(6.7)
138
6 Konvergenzs¨atze
und E[X n ] = (−1)n lim F (n) (λ) λ↓0
In der Tat: F¨ur ε > 0 und I = (ε, ∞) ist
sup x≥0, λ∈I
f¨ur jedes n ∈ N.
d dλ f (x, λ)
=
(6.8) sup
x e−λx =
x≥0, λ∈I
ε−1 e−1 < ∞. Damit gelten die Voraussetzungen f¨ur F . Iterativ erhalten des Satzes dn n −n < ∞ f¨ur x ≥ 0 und wir die Aussage f¨ur F (n) , denn dλ n f (x, λ) ≤ (n/ε) e λ ≥ ε. 3 ¨ Ubung 6.3.1. Sei X eine Zufallsvariable auf (Ω, A, P) und
) * Λ(t) := log E etX f¨ur jedes t ∈ R.
Man zeige, dass D := {t ∈ R : Λ(t) < ∞} ein nichtleeres Intervall ist, und dass Λ im Inneren von D unendlich oft differenzierbar ist. ♣
7 Lp -R¨aume und Satz von Radon-Nikodym
In diesem Kapitel wollen wir die R¨aume der Funktionen untersuchen, deren p-te Potenz integrierbar ist. Wir leiten in Abschnitt 7.2 zun¨achst wichtige Ungleichungen her (H¨older, Minkowski, Jensen) und untersuchen dann in Abschnitt 7.3 den Fall p = 2, wo wir Hilbertr¨aume vorliegen haben, im Detail. Neben den genannten Ungleichungen sind die wichtigsten Ergebnisse f¨ur die Stochastik der Zerlegungssatz von Lebesgue sowie der Satz von Radon-Nikodym in Abschnitt 7.4. Der Leser mag beim ersten Lesen die anderen, eher analytisch als stochastisch ausgerichteten, Teile dieses Kapitels u¨ berschlagen.
7.1 Definitionen In Definition 4.16 hatten wir f¨ur messbares f : Ω → R definiert 1/p p f p := |f | dμ f¨ur p ∈ [1, ∞), und
f ∞ := inf K ≥ 0 : μ(|f | > K) = 0 .
Ferner hatten wir die R¨aume definiert, wo diese Ausdr¨ucke endlich sind Lp (Ω, A, μ) = Lp (A, μ) = Lp (μ) = {f : Ω → R ist messbar und f p < ∞}. Wir hatten gesehen, dass · 1 eine Pseudonorm auf L1 (μ) ist. Unser erstes Ziel ist es hier, · p zu einer echten Norm zu machen, und zwar f¨ur jedes p ∈ [1, ∞]. Abgesehen davon, dass die Dreiecksungleichung noch zu zeigen ist, m¨ussen wir zu diesem Zwecke auch den Raum ver¨andern, denn es gilt nur f − gp = 0
⇐⇒
f =g
μ-f.¨u.
Bei einer echten (also nicht nur Pseudo-)Norm muss aus der linken Seite schon Gleichheit (nicht nur f.¨u.) von f und g gelten. Wir sehen daher f und g als a¨ quivalent an, falls f = g fast u¨ berall. Sei also N = {f ist messbar und f = 0 μ-f.¨u.}.
7 Lp -R¨aume und Satz von Radon-Nikodym
140
F¨ur jedes p ∈ [1, ∞] ist N ein Untervektorraum von Lp (μ). Wir k¨onnen also formal den Quotientenraum bilden. Dies ist das Standardverfahren, um aus einer Pseudonorm, eine Norm zu machen. Definition 7.1 (Quotientenraum). F¨ur jedes p ∈ [1, ∞] definieren wir Lp (Ω, A, μ) := Lp (Ω, A, μ)/N = {f¯ := f + N : f ∈ Lp (μ)}. = = 0 0 F¨ur f¯ ∈ Lp (μ) setzen wir =f¯=p = f p f¨ur ein f ∈ f¯ und f¯ dμ = f dμ, falls dieser Ausdruck f¨ur f definiert ist. = = Man beachte, dass =f¯=p nicht von der Wahl des Repr¨asentanten f ∈ f¯ abh¨angt.
Wir wollen jetzt zun¨achst die Konvergenz bez¨uglich · p untersuchen und erweitern dazu den entsprechenden Satz (Satz 6.25) u¨ ber die Konvergenz bez¨uglich · 1 . n→∞
Definition 7.2. Seien p ∈ [1, ∞] und f, f1 , f2 , . . . ∈ Lp (μ). Falls fn − f p −→ 0 gilt, so sagen wir, dass (fn )n∈N im p-ten Mittel gegen f konvergiere und schreiben Lp
fn −→ f. Satz 7.3. Seien p ∈ [1, ∞] und f1 , f2 , . . . ∈ Lp (μ). Dann sind a¨ quivalent: Lp
(i) Es gibt ein f ∈ Lp (μ) mit fn −→ f .
(ii) (fn )n∈N ist eine Cauchy-Folge in Lp (μ). Ist p < ∞ so sind (i) und (ii) zudem a¨ quivalent zu (iii) (|fn |p )n∈N ist gleichgradig integrierbar, und es gibt ein messbares f mit stoch fn −→ f . Die Limiten in (i) und (iii) stimmen u¨ berein. ¨ Beweis. F¨ur p = ∞ ist die Aquivalenz von (i) und (ii) eine einfache Schlussfolgerung aus der Dreiecksungleichung. Sei nun p ∈ [1, ∞). Der Beweis verl¨auft a¨ hnlich wie der Beweis von Satz 6.25. F¨ur x, y ∈ R ist |x + y|p ≤ 2p (|x|p + |y|p ). Also ist
n→∞ fm − fn pp ≤ 2p fm − f pp + fn − f pp −→ 0 f¨ur m, n → ∞.
(i) =⇒ (ii)“ ”
(ii) =⇒ (iii)“ Das geht genauso wie im Beweis von Satz 6.25 ” n→∞ (iii) =⇒ (i)“ Wegen |fn |p −→ |f |p stoch., gilt |f |p ∈ L1 (μ) nach Satz 6.25, ” n→∞ p und damit f ∈ L (μ). Setze gn = |fn − f |p f¨ur n ∈ N. Dann ist gn −→ 0
7.2 Ungleichungen und Satz von Fischer-Riesz
141
stochastisch, und (gn )n∈N ist gleichgradig integrierbar, da gn ≤ 2p (|fn |p + |f |p ). n→∞ Also gilt (nach Satz 6.25) fn − f pp = gn 1 −→ 0. 2 ¨ Ubung 7.1.1. Seien (Xi )i∈N unabh¨angige, quadratintegrierbare Zufallsvariablen mit E[Xi ] = 0 f¨ur jedes i ∈ N. ∞ (i) Man zeige: Gilt i=1 Var[Xi ] < ∞, so existiert eine reelle Zufallsvariable n n→∞ X mit i=1 Xi −→ X fast sicher.
(ii) Gilt in (i) auch die Umkehrung?
♣
¨ Ubung 7.1.2. Sei f : Ω → R messbar. Zeige: (i) Gilt
0
p→∞
|f |p dμ < ∞ f¨ur ein p ∈ (0, ∞), so gilt f p −→ f ∞ .
(ii) Auf die Integrierbarkeitsbedingung in (i) kann nicht verzichtet werden.
♣
¨ Ubung 7.1.3. Sei p ∈ (1, ∞), f ∈ Lp (λ), wobei λ das Lebesgue-Maß auf R ist, und T : R → R, x → x + 1. Man zeige: n−1 1 n→∞ f ◦ T k −→ 0 n
in Lp (λ).
k=0
♣
7.2 Ungleichungen und Satz von Fischer-Riesz Wir wollen eine der wichtigsten Ungleichungen der Wahrscheinlichkeitstheorie, die Jensen’sche Ungleichung f¨ur konvexe Funktionen, herleiten. Aus dieser kann man die H¨older’sche Ungleichung und die Minkowski’sche Ungleichung folgern, die uns die Dreiecksungleichung f¨ur · p liefern sowie den Dualraum zu bestimmen helfen. Allerdings geben wir hier direkte (und einfachere) Beweise f¨ur die beiden letztgenannten Ungleichungen. Bevor wir zur Jensen’schen Ungleichung kommen, wiederholen wir kurz Grunds¨atzliches zur Konvexit¨at von Mengen und Funktionen. Definition 7.4. Eine Teilmenge G eines Vektorraums (beziehungsweise eines affinlinearen Raums) heißt konvex, falls f¨ur je zwei Punkte x, y ∈ G und jedes λ ∈ [0, 1] auch λx + (1 − λ)y ∈ G ist. Beispiele 7.5.
(i) Die konvexen Teilmengen von R sind die Intervalle.
(ii) Ein linearer Unterraum eines Vektorraums ist konvex. (iii) Die Menge aller W-Maße auf einem Messraum ist eine konvexe Menge
3
142
7 Lp -R¨aume und Satz von Radon-Nikodym
Definition 7.6. Sei G eine konvexe Menge. Eine Abbildung ϕ : G → R heißt konvex, falls f¨ur je zwei Punkte x, y ∈ G und jedes λ ∈ [0, 1] gilt ϕ(λx + (1 − λ)y) ≤ λϕ(x) + (1 − λ)ϕ(y). f heißt konkav, falls −f konvex ist. Ist I ⊂ R ein Intervall und ϕ : I → R stetig und im Inneren I ◦ zweimal stetig differenzierbar mit zweiter Ableitung ϕ′′ , so ist ϕ genau dann konvex, wenn ϕ′′ (x) ≥ 0 ist f¨ur alle x ∈ I ◦ . Anders ausgedr¨uckt: Die erste Ableitung ϕ′ einer konvexen Funktion ist eine monoton wachsende Funktion. Wir werden im n¨achsten Satz sehen, dass dies auch dann noch gilt, wenn ϕ nicht zweimal stetig differenzierbar ist, wenn wir zur rechtsseitigen Ableitung D+ ϕ u¨ bergehen (oder zur linksseitigen), von der wir zeigen, dass sie immer existiert. Satz 7.7. Sei I ⊂ R ein Intervall mit Innerem I ◦ , sowie ϕ : I → R eine konvexe Abbildung. Dann gilt: (i) ϕ ist stetig in I ◦ und insbesondere messbar bez¨uglich B(I).
(ii) F¨ur x ∈ I ◦ definiere die Funktion der Differenzenquotienten gx (y) :=
ϕ(y) − ϕ(x) y−x
f¨ur y ∈ I \ {x}.
Dann ist gx monoton wachsend, und es existieren die links- und rechtsseitigen Ableitungen D− ϕ(x) := lim gx (y) = sup{gx (y) : y < x} y↑x
und D+ ϕ(x) := lim gx (y) = inf{gx (y) : y > x}. y↓x
(iii) F¨ur x ∈ I ◦ gilt D− ϕ(x) ≤ D+ ϕ(x) und ϕ(x) + (y − x)t ≤ ϕ(y) f¨ur jedes y ∈ I
⇐⇒
t ∈ [D− ϕ(x), D+ ϕ(x)].
D− ϕ(x) und D+ ϕ(x) sind also die minimale und die maximale Tangentensteigung in x. (iv) Die Abbildungen x → D− ϕ(x) und x → D+ ϕ(x) sind monoton wachsend. x → D− ϕ(x) ist linksstetig und x → D+ ϕ(x) ist rechtsstetig. Es gilt D− ϕ(x) = D+ ϕ(x) in allen Stetigkeitspunkten von D− ϕ und D+ ϕ. (v) ϕ ist genau dann in x differenzierbar, wenn D− ϕ(x) = D+ ϕ(x) ist. In diesem Fall ist die Ableitung ϕ′ (x) = D+ ϕ(x). 0b (vi) ϕ ist fast u¨ berall differenzierbar, und es gilt ϕ(b) − ϕ(a) = a D+ ϕ(x) dx f¨ur a, b ∈ I ◦ .
7.2 Ungleichungen und Satz von Fischer-Riesz
143
Beweis. (i) Sei x ∈ I ◦ . Wir nehmen an, dass lim inf n→∞ ϕ(x−1/n) ≤ ϕ(x)−ε f¨ur ein ε > 0 gilt. Da ϕ konvex ist, gilt ϕ(y) ≥ ϕ(x) + n(y − x)(ϕ(x) − ϕ(x − 1/n))
f¨ur jedes y > x und n ∈ N.
Zusammen mit der obigen Annahme folgt ϕ(y) = ∞ f¨ur jedes y > x. Mithin ¨ war die Annahme falsch. Die analoge Uberlegung f¨ur die rechte Seite liefert die Stetigkeit von ϕ in x. (ii)
Die Monotonie folgt aus der Konvexit¨at. Die anderen Aussagen sind klar.
(iii) Aufgrund der Monotonie von gx gilt D− ϕ(x) ≤ D+ ϕ(x). Per Konstruktion ist ϕ(x) + (y − x)t ≤ ϕ(y) f¨ur alle y < x genau dann, wenn t ≥ D− ϕ(x) ist und f¨ur alle y > x genau dann, wenn t ≤ D+ ϕ(x) ist.
(iv) F¨ur ε > 0 ist aufgrund der Konvexit¨at x → gx (x + ε) monoton wachsend und nach (i) stetig. Als Infimum monotoner, stetiger Funktionen ist x → D+ ϕ(x) monoton wachsend und rechtsstetig. Analog folgt die Aussage f¨ur D− ϕ. Da x → gx (y) monoton ist, folgt D+ ϕ(x′ ) ≥ D− ϕ(x′ ) ≥ D+ ϕ(x) f¨ur x′ > x. Ist D+ ϕ stetig in x, so ist D− ϕ(x) = D+ ϕ(x). (v) Dies ist klar, da D− ϕ und D+ ϕ die Limiten der linksseitigen und rechtsseitigen Sekantensteigungsfolgen sind. (vi) F¨ur ε > 0 sei Aε = {x ∈ I : D+ ϕ(x) ≥ ε + limy↑x D+ ϕ(y)} die Menge der Unstetigkeitsstellen der H¨ohe mindestens ε. F¨ur je zwei Punkte a, b ∈ I mit a < b ist #(Aε ∩ (a, b)) ≤ ε−1 (D+ ϕ(b) − D+ ϕ(a)), also Aε∩ (a, b) eine endliche ∞ Menge. Daher ist Aε h¨ochstens abz¨ahlbar. Also ist auch A = n=1 A1/n h¨ochstens abz¨ahlbar und damit eine Nullmenge. Nach (iv) und (v) ist ϕ differenzierbar in I ◦ \A mit Ableitung D+ ϕ. 2 Ist I ein Intervall, so heißt eine Abbildung g : I → R affin linear, falls es Zahlen a, b ∈ R gibt mit g(x) = ax + b f¨ur alle x ∈ I. Ist ϕ : I → R eine Abbildung, so schreiben wir L(ϕ) := {g : I → R ist affin linear und g ≤ ϕ}. Wir schreiben kurz sup L(ϕ) f¨ur die Abbildung x → sup{f (x) : f ∈ L(ϕ)}. Korollar 7.8. Sei I ⊂ R ein offenes Intervall und ϕ : I → R eine Abbildung. Dann sind a¨ quivalent (i) ϕ ist konvex. (ii) Zu jedem x0 ∈ I existiert ein g ∈ L(ϕ) mit g(x0 ) = ϕ(x0 ).
(iii) L(ϕ) ist nichtleer und ϕ = sup L(ϕ).
(iv) Es existiert eine Folge (gn )n∈N in L(ϕ) mit ϕ = limn→∞ max{g1 , . . . , gn }.
144
7 Lp -R¨aume und Satz von Radon-Nikodym
Beweis. (ii) =⇒ (iii) ⇐⇒ (iv)“ Dies ist klar. ” (iii) =⇒ (i)“ Das Supremum konvexer Funktionen ist konvex, und jede affin ” lineare Funktion ist konvex. Also ist sup L(ϕ) konvex, falls L(ϕ) = ∅. (i) =⇒ (ii)“ Nach Satz 7.7(iii) ist f¨ur jedes x0 ∈ I die Abbildung x → ϕ(x0 ) + ” (x − x0 )D+ ϕ(x0 ) in L(ϕ). 2 Satz 7.9 (Jensen’sche Ungleichung). Sei I ⊂ R ein Intervall und X eine Zufallsvariable mit Werten in I und E[|X|] < ∞. Ist ϕ konvex, dann gilt E[ϕ(X)− ] < ∞ und E[ϕ(X)] ≥ ϕ(E[X]). Beweis. Da nach Korollar 7.8(iii) L(ϕ) = ∅ ist, k¨onnen wir a, b ∈ R so w¨ahlen, dass ax + b ≤ ϕ(x) gilt f¨ur alle x ∈ I. Es ist dann E[ϕ(X)− ] ≤ E[(aX + b)− ] ≤ |b| + |a| · E[|X|] < ∞. Wir unterscheiden die F¨alle, wo E[X] im Inneren I ◦ oder am Rand ∂I liegt. 1. Fall Ist E[X] ∈ I ◦ , so sei t+ := D+ ϕ(E[X]) die maximale Tangentensteigung von ϕ in E[X]. Dann ist ϕ(x) ≥ t+ · (x − E[X]) + ϕ(E[X]) f¨ur jedes x ∈ I, also E[ϕ(X)] ≥ t+ E[X − E[X]] + E[ϕ(E[X])] = ϕ(E[X]). 2. Fall Ist E[X] ∈ ∂I, so ist X = E[X] f.s., also E[ϕ(X)] = E[ϕ(E[X])] = ϕ(E[X]). 2 Die Jensen’sche Ungleichung l¨asst sich auf den Rn ausweiten. Hierf¨ur ben¨otigen wir eine Darstellung konvexer Funktionen mehrerer Ver¨anderlicher als Supremum von affin linearen Funktionen. Dabei heißt eine Funktion g : Rn → R affin linear, wenn es ein a ∈ Rn und ein b ∈ R gibt mit g(x) = a, x! + b f¨ur jedes x. Hierbei bezeichnet · , · ! das gew¨ohnliche Skalarprodukt auf Rn . Satz 7.10. Sei G ⊂ Rn offen und konvex und ϕ : G → R eine Abbildung. Dann gilt Korollar 7.8 sinngem¨aß mit I = G. Ist ϕ konvex, so ist ϕ stetig und insbesondere messbar. Ist ϕ zweimal stetig differenzierbar, so ist ϕ genau dann konvex, wenn die Hesse-Matrix positiv semidefinit ist. Beweis. Da wir die Aussagen nur f¨ur den Beweis der mehrdimensionalen Jensen’schen Ungleichung ben¨otigen, die aber im weiteren Verlaufe keine tragende Bedeutung hat, geben wir nur die Literatur an: Im Buch von Rockafellar [138] folgt die Stetigkeit aus Theorem 10.1, die Aussage von 7.8 aus Theorem 12.1 beziehungsweise Theorem 18.8. Die Aussage u¨ ber die Hesse-Matrix steht in Theorem 4.5. 2
7.2 Ungleichungen und Satz von Fischer-Riesz
145
Satz 7.11 (Jensen’sche Ungleichung im Rn ). Sei G ⊂ Rn konvex, und seien X1 , . . . , Xn integrierbare reelle Zufallsvariablen mit P[(X1 , . . . , Xn ) ∈ G] = 1. Sei ferner ϕ : G → R konvex. Dann ist E[ϕ(X1 , . . . , Xn )− ] < ∞ und ) * E ϕ(X1 , . . . , Xn ) ≥ ϕ(E[X1 ], . . . , E[Xn ]).
Beweis. Wir betrachten zun¨achst den Fall, wo G offen ist. Die Argumentation l¨auft hier a¨ hnlich wie beim Beweis von Satz 7.9. Sei g ∈ L(ϕ) mit g(E[X1 ], . . . , E[Xn ]) = ϕ(E[X1 ], . . . , E[Xn ]). Da g ≤ ϕ linear ist, folgt * ) E ϕ(X1 , . . . , Xn ) ≥ E[g(X1 , . . . , Xn )] = g(E[X1 ], . . . , E[Xn ]).
Die Integrierbarkeit von ϕ(X1 , . . . , Xn )− folgt v¨ollig analog wie im eindimensionalen Fall. Sei jetzt der allgemeine Fall betrachtet, das heißt derjenige, wo G nicht notwendigerweise offen ist. Hier ist das Problem, wenn (E[X1 ], . . . , E[Xn ]) ∈ ∂G liegt, etwas kniffliger als im eindimensionalen Fall, weil ∂G flache St¨ucke haben kann, die aber selbst notwendigerweise wieder konvex sind. Man kann also nicht schließen, dass (X1 , . . . , Xn ) fast sicher gleich dem Erwartungswert ist. Wir skizzieren nur das Argument: Zun¨achst kann man nur folgern, dass (X1 , . . . , Xn ) fast sicher in einem solchen flachen St¨uck liegt. Dieses ist dann notwendigerweise von Dimension kleiner als n ist (oder Null, falls das St¨uck schon ein Punkt ist). Jetzt muss man ϕ auf das flache St¨uck einschr¨anken und sich iterativ in der Dimension herunter arbeiten. Die Details finden sich beispielsweise in [37, Theorem 10.2.6].2
Beispiel 7.12. Sei X eine reelle Zufallsvariable mit E[X 2 ] < ∞, I = R und ϕ(x) = x2 . Aus der Jensen’schen Ungleichung folgt Var[X] = E[X 2 ] − (E[X])2 ≥ 0.
3
Beispiel 7.13. G = [0, ∞) × [0, ∞), und α ∈ (0, 1), sowie ϕ(x, y) = xα y 1−α . ¨ ϕ ist konkav (Ubung!), daher gilt f¨ur nichtnegative Zufallsvariablen X und Y mit endlicher Erwartung (nach Satz 7.11) * ) E X α Y 1−α ≤ (E[X])α (E[Y ])1−α . 3
Beispiel 7.14. und Y wie in Beispiel 7.13. Sei p ∈ (1, ∞). Dann ist
Seien G, X p ψ(x, y) = x1/p + y 1/p konkav. Daher gilt (nach Satz 7.11) p p ( ' E[X]1/p + E[Y ]1/p . 3 ≥ E X 1/p + Y 1/p Wir kommen nun zu den beiden weiteren wichtigen Ungleichungen, der H¨older’schen Ungleichung und der Minkowski’schen Ungleichung. Zur Vorbereitung bringen wir ein Lemma.
146
7 Lp -R¨aume und Satz von Radon-Nikodym
Lemma 7.15 (Young’sche Ungleichung). F¨ur p, q ∈ (1, ∞) mit x, y ∈ [0, ∞) gilt yq xp + . xy ≤ p q
1 p
+ 1q = 1 und f¨ur (7.1)
xp yq + − xy f¨ur p q x ∈ [0, ∞). f ist zweimal stetig differenzierbar in (0, ∞) mit Ableitungen f ′ (x) = xp−1 − y und f ′′ (x) = (p − 1)xp−2 . Speziell ist f strikt konvex und besitzt daher p eine eindeutige Minimalstelle bei x0 = y 1/(p−1) . Nach Voraussetzung ist q = p−1 , p q also x0 = y und daher 1 1 f (x0 ) = + 2 y q − y 1/(p−1) y = 0. p q Beweis. Wir halten y ∈ [0, ∞) fest und definieren f (x) :=
Satz 7.16 (H¨older’sche Ungleichung). Seien p, q ∈ [1, ∞] mit f ∈ Lp (μ), g ∈ Lq (μ). Dann gilt (f g) ∈ L1 (μ) und
1 p
+
1 q
= 1 und
f g1 ≤ f p · gq . Beweis. Die F¨alle p = 1 und p = ∞ sind trivial. Sei also nun p ∈ (1, ∞) und f ∈ Lp (μ) und g ∈ Lq (μ) nicht fast u¨ berall Null. Indem wir zu f /f p und g/gq u¨ bergehen, k¨onnen wir f p = gq = 1 annehmen. Nach Lemma 7.15 ist 1 1 |f |p dμ + |g|q dμ f g1 = |f | · |g| dμ ≤ p q 1 1 = + = 1 = f p · gq . 2 p q Satz 7.17 (Minkowski’sche Ungleichung). F¨ur p ∈ [1, ∞] und f, g ∈ Lp (μ) gilt f + gp ≤ f p + gp .
(7.2)
Beweis. Der Fall p = ∞ ist wiederum trivial. Sei also p ∈ [1, ∞). Die linke Seite in (7.2) wird nicht kleiner, wenn wir f und g durch |f | und |g| ersetzen. Wir k¨onnen also ohne Einschr¨ankung annehmen, dass f ≥ 0 und g ≥ 0 gelten. Nun ist (f + g)p ≤ 2p (f p ∨ g p ) ≤ 2p (f p + g p ), also ist f + g ∈ Lp (μ). Mit Hilfe der H¨older’schen Ungleichung, angewandt auf f · (f + g)p−1 und auf g · (f + g)p−1 , erhalten wir f + gpp = (f + g)p dμ = f (f + g)p−1 dμ + g(f + g)p−1 dμ ≤ f p · (f + g)p−1 q + gp · (f + g)p−1 q
= (f p + gp ) · f + gp−1 , p
7.3 Hilbertr¨aume
147
wobei wir im letzten Schritt ausgenutzt haben, dass p − p/q = 1 ist. Teilen wir nun beide Seiten durch f + gp−1 , so folgt (7.2). 2 p Wir haben in Satz 7.17 die Dreiecksungleichung gezeigt und damit, dass · p eine Norm ist. In Satz 7.3 wurde hingegen gezeigt, dass diese Norm vollst¨andig ist (jede Cauchy-Folge konvergiert). Ein vollst¨andiger normierter Vektorraum heißt Banachraum. Wir haben also den folgenden Satz gezeigt: Satz 7.18 (Fischer-Riesz). F¨ur p ∈ [1, ∞] ist (Lp (μ), · p ) ein Banachraum. ¨ Ubung 7.2.1. Zeige die H¨older’sche Ungleichung mit Hilfe der Jensen’schen Ungleichung mit der Funktion aus Beispiel 7.13. ♣ ¨ Ubung 7.2.2. Zeige die Minkowski’sche Ungleichung mit Hilfe der Jensen’schen Ungleichung mit der Funktion aus Beispiel 7.14. ♣ ¨ Ubung 7.2.3. Sei X eine reelle Zufallsvariable und p, q ∈ (1, ∞) mit p1 + 1q = 1. Zeige: X ist genau dann in Lp (P), wenn es ein C < ∞ gibt, sodass |E[XY ]| ≤ C Y q f¨ur jede beschr¨ankte Zufallsvariable Y . ♣
7.3 Hilbertr¨aume In diesem Abschnitt betrachten wir nur den Fall p = 2. Ziel ist der Darstellungssatz von Riesz-Fr´echet f¨ur stetige lineare Funktionale auf Hilbertr¨aumen. Dieser Satz stellt einen Baustein f¨ur einen funktionalanalytischen Beweis des Satzes von RadonNikodym dar. Definition 7.19. Sei V ein reeller Vektorraum. Eine Abbildung · , · ! : V ×V → R heißt Skalarprodukt, falls (i) (Linearit¨at) (ii) (Symmetrie)
x, α y + z! = α x, y! + x, z! f¨ur alle x, y, z ∈ V und α ∈ R. x, y! = y, x! f¨ur alle x, y ∈ V .
(iii) (Positive Definitheit)
x, x! > 0 f¨ur jedes x ∈ V \ {0}.
Gelten lediglich (i), (ii) und x, x! ≥ 0 f¨ur jedes x, so heißt · , · ! eine positiv semidefinite symmetrische Bilinearform. Ist · , · ! ein Skalarprodukt, so heißt (V, · , · !) ein (reeller) Hilbertraum, falls die durch x := x, x!1/2 definierte Norm vollst¨andig ist, falls also (V, · ) ein Banachraum ist.
148
7 Lp -R¨aume und Satz von Radon-Nikodym
Definition 7.20. F¨ur f, g ∈ L2 (μ) definieren wir f, g! := f g dμ. F¨ur f¯, g¯ ∈ L2 (μ) definieren wir f¯, g¯! := f, g!, wobei f ∈ f¯ und g ∈ g¯. Man beachte, dass diese Definition unabh¨angig von der Wahl der Repr¨asentanten f und g ist. Satz 7.21. · , · ! ist ein Skalarprodukt auf L2 (μ) und eine positiv semidefinite symmetrische Bilinearform auf L2 (μ). Es gilt f 2 = f, f !1/2 . ¨ Beweis. Ubung!
2
Als Korollar zu Satz 7.18 erhalten wir: Korollar 7.22. (L2 (μ), · , · !) ist ein reeller Hilbertraum. Lemma 7.23. Ist · , · ! eine positiv semidefinite Bilinearform auf dem reellen Vektorraum V , so ist · , · ! : V × V → R stetig (bez¨uglich der Produkttopologie der Topologie auf V , die von der Pseudometrik d(x, y) = x − y, x − y!1/2 erzeugt wird). Beweis. Klar.
2
Definition 7.24 (Orthogonales Komplement). Sei V ein reeller Vektorraum mit Skalarprodukt · , · !. Ist W ⊂ V , so bezeichnen wir den Untervektorraum
W ⊥ := v ∈ V : v, w! = 0 f¨ur alle w ∈ W als das orthogonale Komplement von W .
Satz 7.25 (Orthogonale Zerlegung). Sei (V, · , · !) ein Hilbertraum und W ⊂ V ein abgeschlossener linearer Unterraum. F¨ur jedes x ∈ V existiert eine eindeutige Darstellung x = y + z, wobei y ∈ W und z ∈ W ⊥ ist. Beweis. Sei x ∈ V und c := inf{x − w : w ∈ W }. Sei ferner (wn )n∈N eine n→∞ Folge in W mit x − wn −→ c. Die Parallelogrammgleichung ergibt = =2 =1 = = . wm − wn 2 = 2 wm − x2 + 2 wn − x2 − 4 = (w + w ) − x n =2 m =
Da W linear ist, ist (wm + wn )/2 ∈ W , also 12 (wm + wn ) − x ≥ c. Also ist (wn )n∈N eine Cauchy-Folge: wm − wn −→ 0, falls m, n → ∞.
7.3 Hilbertr¨aume
149
Da V vollst¨andig ist und W abgeschlossen, ist auch W vollst¨andig, also gibt es ein n→∞ y ∈ W mit wn −→ y. Setze nun z := x−y. Dann ist z = limn→∞ wn −x = c aufgrund der Stetigkeit der Norm (Lemma 7.23). Betrachte ein beliebiges w ∈ W \ {0}. Wir setzen ̺ := − z, w!/w2 und erhalten y + ̺w ∈ W , also c2 ≤ x − (y + ̺ w)2 = z2 + ̺2 w2 + 2̺ z, w! = c2 − ̺2 w2 . Folglich ist z, w! = 0 f¨ur alle w ∈ W und damit z ∈ W ⊥ .
Die Eindeutigkeit der Darstellung klar: Ist x = y ′ + z ′ eine weitere orthogonale Zerlegung, so ist y − y ′ ∈ W und z − z ′ ∈ W ⊥ sowie y − y ′ + z − z ′ = 0, also ist 0 = y − y ′ + z − z ′ 2 = y − y ′ 2 + z − z ′ 2 + 2 y − y ′ , z − z ′ ! = y − y ′ 2 + z − z ′ 2 .
Es folgt y = y ′ und z = z ′ .
2
Satz 7.26 (Darstellungssatz von Riesz-Fr´echet). Sei (V, · , · !) ein Hilbertraum und F : V → R eine Abbildung. Dann sind a¨ quivalent: (i) F ist stetig und linear. (ii) Es gibt ein f ∈ V mit F (x) = x, f ! f¨ur alle x ∈ V . Das Element f ∈ V in (ii) ist eindeutig bestimmt. Beweis. (ii) =⇒ (i)“ F¨ur jedes f ∈ V ist per Definition des Skalarprodukts die ” Abbildung x → x, f ! linear. Nach Lemma 7.23 ist diese Abbildung auch stetig. (i) =⇒ (ii)“ Ist F ≡ 0, so w¨ahle f = 0. Sei nun F nicht identisch Null. Da F ” stetig ist, ist der Kern W := F −1 ({0}) ein abgeschlossener echter linearer Unterraum von V . Sei v ∈ V \ W und v = y + z f¨ur y ∈ W und z ∈ W ⊥ die orthogonale Zerlegung von v. Dann ist z = 0, und F (z) = F (v) − F (y) = F (v) = 0, und wir k¨onnen u := z/F (z) ∈ W ⊥ definieren. Offenbar ist F (u) = 1, und f¨ur jedes x ∈ V ist F (x − F (x)u) = F (x) − F (x)F (u) = 0, also x − F (x)u ∈ W und damit x − F (x)u, u! = 0. Folglich ist F (x) = x, u!/u2 . Setzen wir nun f := u/u2 , so ist F (x) = x, f ! f¨ur alle x ∈ V . Eindeutigkeit“ Sei x, f ! = x, g! f¨ur alle x ∈ V . Setzen wir x = f − g, so ” erhalten wir 0 = f − g, f − g!, also f = g. 2 Wir werden den Darstellungssatz im folgenden Abschnitt f¨ur den Raum L2 (μ) brauchen statt f¨ur den Hilbertraum L2 (μ). Mit ein bisschen abstract nonsense l¨asst sich aber der vorangehende Satz auf diese Situation anwenden. Wir erinnern daran, dass N = {f ∈ L2 (μ) : f, f ! = 0} der Unterraum der Funktionen ist, die fast sicher Null sind, und L2 (μ) = L2 (μ)/N der Quotientenraum. Dies ist ein Spezialfall der
150
7 Lp -R¨aume und Satz von Radon-Nikodym
Situation, wo (V, · , · !) ein linearer Raum mit vollst¨andiger positiv semidefiniter symmetrischer Bilinearform ist. In diesem Fall ist N := {v ∈ V : v, v! = 0} und V0 = V /N := {f + N : f ∈ V }. Wir schreiben v + N , w + N !0 := v, w! und erhalten so einen Hilbertraum (V0 , · , · !0 ). Korollar 7.27. Sei (V, · , · !) ein linearer Vektorraum mit vollst¨andiger positiv semidefiniter symmetrischer Bilinearform. Die Abbildung F : V → R ist genau dann stetig und linear, wenn es ein f ∈ V gibt mit F (x) = x, f ! f¨ur alle x ∈ V . Beweis. Die eine Implikation ist trivial. Sei also F stetig und linear. Dann ist F (0) = 0, weil F linear ist, und f¨ur jedes v ∈ N ist F (v) = F (0) = 0, weil F stetig ist (klar: v liegt in jeder offenen Umgebung von 0, also muss F in v denselben Wert annehmen wie in 0). Also induziert F eine stetige lineare Abbildung F0 : V0 → R durch F0 (x + N ) = F (x). Nach Satz 7.26 existiert ein f + N ∈ V0 mit F0 (x + N ) = x + N , f + N !0 f¨ur jedes x + N ∈ V0 . Nach Definition von F0 und · , · !0 ist nun aber F (x) = x, f ! f¨ur jedes x ∈ V . 2 Korollar 7.28. Die Abbildung F : L2 (μ) 0 → R ist genau dann stetig und linear, wenn es ein f ∈ L2 (μ) gibt mit F (g) = gf dμ f¨ur alle g ∈ L2 (μ). Beweis. Der Raum L2 (μ) erf¨ullt die Bedingungen des vorangehenden Korollars.2
7.4 Lebesgue’scher Zerlegungssatz In diesem Abschnitt benutzen wir die eben gewonnen Aussagen u¨ ber Hilbertr¨aume, um ein Maß zu zerlegen in einen singul¨aren und einen absolutstetigen Anteil bez¨uglich eines zweiten Maßes. F¨ur den absolutstetigen Anteil zeigen wir, dass er eine Dichte besitzt. Seien μ und ν Maße auf (Ω, A). Nach Definition 4.13 heißt eine messbare Funktion f : Ω → [0, ∞) eine Dichte von ν bez¨uglich μ, falls (7.3) ν(A) := f A dμ f¨ur jedes A ∈ A. Andererseits definiert f¨ur jedes messbare f : Ω → [0, ∞) Gleichung (7.3) ein Maß ν auf (Ω, A). Wir schreiben in diesem Fall auch ν = fμ
und
f=
dν . dμ
Beispielsweise hat die Normalverteilung ν = N0,1 die Dichte f (x) = bez¨uglich des Lebesgue-Maßes μ = λ auf R. Ist g : Ω → [0, ∞] messbar, so gilt (nach Satz 4.15)
(7.4) 2 √1 e−x /2 2π
7.4 Lebesgue’scher Zerlegungssatz
g dν =
gf dμ.
151
(7.5)
Wir erhalten so, dass genau dann g ∈ L1 (ν) ist, wenn gf ∈ L1 (μ) gilt, und in diesem Fall ist (7.5) erf¨ullt. Gilt ν = f μ, so ist offenbar ν(A) = 0 f¨ur jedes A ∈ A mit μ(A) = 0. In gewissem Sinne komplement¨ar ist die Situation beispielsweise bei der Poissonverteilung μ = Poi̺ mit Parameter ̺ > 0 und ν = N0,1 . Hier ist N0 ⊂ R eine ν-Nullmenge mit μ(R \ N0 ) = 0. Wir sagen, dass ν singul¨ar zu μ ist.
Das Ziel dieses Kapitels ist es, im allgemeinen Fall zu zeigen, dass ein beliebiges σ-endliches Maß ν auf einem Messraum (Ω, A) zerlegt werden kann in einen Teil, der singul¨ar zum σ-endlichen Maß μ ist, und einen Teil, der eine Dichte bez¨uglich μ hat (Lebesgue’scher Zerlegungssatz, Satz 7.33). Satz 7.29 (Eindeutigkeit der Dichte). Sei ν σ-endlich. Sind f1 und f2 Dichten von dν ν bez¨uglich μ, so gilt f1 = f2 μ-fast u¨ berall. Speziell ist die Dichtefunktion dμ eindeutig bis auf Gleichheit μ-fast u¨ berall. Beweis. Sei En ↑ Ω mit ν(En ) < ∞, n ∈ N. Sei An = En ∩ {f1 > f2 } f¨ur n ∈ N. Dann ist ν(An ) < ∞, also f1 − f2 dμ. 0 = ν(An ) − ν(An ) = An
Nach Satz 4.8(i) gilt f2 An = f1 An μ–f.¨u., also μ(An ) = 0 und μ({f1 > f2 }) = 2 μ( n∈N An ) = 0. Analog folgt μ({f1 < f2 }) = 0, also f1 = f2 μ–f.¨u. Definition 7.30. Seien μ und ν zwei Maße auf (Ω, A). (i) ν heißt absolutstetig bez¨uglich μ (kurz ν ≪ μ), falls ν(A) = 0
f¨ur jedes A ∈ A mit μ(A) = 0.
(7.6)
Die Maße μ und ν heißen a¨ quivalent (kurz μ ≈ ν), falls ν ≪ μ und μ ≪ ν.
(ii) μ heißt singul¨ar zu ν (kurz μ ⊥ ν), falls es ein A ∈ A gibt mit μ(A) = 0 und ν(Ω \ A) = 0. Bemerkung 7.31. Offenbar gilt μ ⊥ ν ⇐⇒ ν ⊥ μ.
3
Beispiel 7.32. (i) Sei μ ein Maß auf (R, B(R)) mit Dichte f bez¨uglich des Le0 besgue-Maßes λ. Dann ist f¨ur A ∈ A mit λ(A) = 0 0schon μ(A) = A f dλ = 0, also μ ≪ λ. Ist λ-fast u¨ berall f > 0, so ist μ(A) = A f dλ > 0 falls λ(A) > 0, also μ ≈ λ. Ist λ({f = 0}) > 0, so ist (wegen μ({f = 0}) = 0) λ ≪ μ.
152
7 Lp -R¨aume und Satz von Radon-Nikodym
(ii) Betrachte die Bernoulli-Verteilungen Berp und Berq f¨ur p, q ∈ [0, 1]. Ist p ∈ (0, 1), so gilt Berq ≪ Berp . Ist p ∈ {0, 1}, so ist Berq ≪ Berp genau dann, wenn p = q, und Berq ⊥ Berp genau dann, wenn q = 1 − p.
(iii) Betrachte die Poisson-Verteilungen Poiα und Poiβ f¨ur α, β ≥ 0. Es ist genau dann Poiα ≪ Poiβ , wenn β > 0 oder α = 0.
(iv) Betrachte die unendlichen Produktmaße (siehe Satz 1.64) Ber⊗N und Ber⊗N p q ⊗N , falls p = q. In der Tat: Sei ⊥ Ber auf Ω = {0, 1}N . Dann ist Ber⊗N q p Xn ((ω1 , ω2 , . . .)) = ωn f¨ur jedes n ∈ N die Projektion von Ω auf die n-te Koordinate. Dann ist (Xn )n∈N unabh¨angig und Bernoulli-verteilt (siehe Beispiel 2.18) mit Parameter r unter Ber⊗N r . Nach dem starken Gesetz der großen Zahl gibt es also f¨ur r ∈ {p, q} eine messbare Menge Ar ⊂ Ω mit Ber⊗N r (Ω \ Ar ) = 0 und n
1 Xi (ω) = r n→∞ n i=1 lim
f¨ur jedes ω ∈ Ar .
⊗N Speziell ist also Ap ∩ Aq = ∅, falls p = q, und damit Ber⊗N p ⊥ Berq .
3
Satz 7.33 (Zerlegungssatz von Lebesgue). Seien μ und ν σ-endliche Maße auf (Ω, A). Dann l¨asst sich ν auf eindeutige Weise zerlegen in den (bez¨uglich μ) absolutstetigen Anteil νa und den singul¨aren Anteil νs : ν = νa + νs , wobei νa ≪ μ und νs ⊥ μ. νa hat eine Dichte bez¨uglich μ, und
dνa ist A-messbar und μ–f.¨u. endlich. dμ
Korollar 7.34 (Satz von Radon-Nikodym). Seien μ und ν σ-endliche Maße auf (Ω, A). Dann gilt ν hat eine Dichte bez¨uglich μ
⇐⇒
dν In diesem Fall ist dμ A-messbar und μ–f.¨u. endlich. Ableitung von ν nach μ.
dν dμ
ν ≪ μ. heißt Radon-Nikodym-
Beweis. Die eine Richtung ist trivial. Sei also ν ≪ μ. Mit Satz 7.33 bekommen wir, dass ν = νa eine Dichte bez¨uglich μ hat. 2 Beweis (Satz 7.33). Die Idee geht auf v. Neumann zur¨uck, wir folgen der Darstellung in [37]. Wir k¨onnen uns durch die u¨ blichen Aussch¨opfungsargumente auf den Fall beschr¨anken wo μ und ν endlich sind. Nach Satz 4.19 ist die kanonische Inklusion
7.4 Lebesgue’scher Zerlegungssatz
153
i : L2 (Ω, A, μ + ν) ֒→ L1 (Ω, A, μ + ν) stetig. 0 Wegen ν ≤ μ + ν ist also auch die Linearform L2 (Ω, A, μ + ν) → R, h → h dν stetig. Nach dem Satz von Riesz-Fr´echet (hier: Korollar 7.28) existiert daher ein g ∈ L2 (Ω, A, μ + ν) mit h dν = hg d(μ + ν) f¨ur jedes h ∈ L2 (Ω, A, μ + ν), (7.7) oder a¨ quivalent dazu f (1 − g) d(μ + ν) = f dμ
f¨ur jedes f ∈ L2 (Ω, A, μ + ν).
(7.8)
W¨ahlen wir in (7.7) speziell h = {g<0} , so folgt, dass (μ + ν)-fast u¨ berall g ≥ 0 gilt. Analog folgt mit f = {g>1} , in (7.8) dass (μ + ν)-fast u¨ berall g ≤ 1 gilt, also ist 0 ≤ g ≤ 1. Sei nun f ∈ L1 (Ω, A, μ + ν), und seien (fn )n∈N nichtnegative Funktionen in L2 (Ω, A, μ + ν) mit fn ↑ f . Nach dem Satz von der monotonen Konvergenz (angewandt auf das Maß (1 − g)(μ + ν), dem Maß mit Dichte (1 − g) bez¨uglich μ + ν) erhalten wir, dass (7.8) f¨ur alle messbaren f ≥ 0 gilt. Analog folgt die G¨ultigkeit von (7.7) f¨ur alle messbaren h ≥ 0. Sei E := g −1 ({1}). Setzen wir f = E in (7.8) ein, so erhalten wir μ(E) = 0. Wir definieren jetzt zwei Maße νa und νs f¨ur A ∈ A durch νa (A) := ν(A \ E)
und
νs (A) := ν(A ∩ E).
Offenbar gilt ν = νa 0+ νs und νs (Ω \ E) = 0, also νs 0⊥ μ. Ist nun A ∩ E = ∅ und μ(A) = 0, so ist A dμ = 0, also nach (7.8) auch A (1 − g) d(μ + ν) = 0. Andererseits ist 1−g > 0 auf A, also μ(A)+ν(A) = 0 und damit νa (A) = ν(A) = 0. Ist allgemeiner B messbar mit μ(B) = 0, so ist μ(B \ E) = 0, also nach dem Gezeigten νa (B) = νa (B \ E) = 0. Folglich ist νa ≪ μ und ν = νa + νs die gew¨unschte Zerlegung. g ur Um die Dichte von νa bez¨uglich μ zu erhalten, setzen wir f := Ω\E . F¨ 1−g jedes A ∈ A ist nun nach (7.8) und (7.7) mit h = A\E
f dμ =
A
Also ist f =
dνa dμ .
A∩E c
g d(μ + ν) = ν(A \ E) = νa (A). 2
¨ Ubung 7.4.1. Wir definieren eine Abbildung F : (0, 1] → (0, 1] an der Stelle x ∈ (0, 1] mit nicht abbrechender Bin¨ardarstellung x = (0, x1 x2 x3 . . .) := ∞ −n durch n=1 xn 2 F (x) = (0, x1 x1 x2 x2 x3 x3 . . .) =
∞
3 xn 4−n .
n=1
Man zeige, dass F die stetige Verteilungsfunktion eines W-Maßes μ auf B((0, 1]) ist. ♣ ist, und dass μ singul¨ar zum Lebesgue-Maß λ (0,1]
154
7 Lp -R¨aume und Satz von Radon-Nikodym
¨ Ubung 7.4.2. Sei n ∈ N und p, q ∈ [0, 1]. Unter welchen Bedingungen gilt f¨ur die Binomialverteilungen bn,p ≪ bn,q ? Man bestimme die Radon-Nikodym Ableitung dbn,p ♣ dbn,q .
7.5 Erg¨anzung: Signierte Maße In diesem Abschnitt bringen wir die Zerlegungss¨atze f¨ur signierte Maße (Hahn, Jordan) und liefern einen alternativen Beweis f¨ur den Lebesgue’schen Zerlegungssatz. Definition 7.35. Seien μ und ν zwei Maße auf (Ω, A). ν heißt totalstetig bez¨uglich μ, falls es f¨ur jedes ε > 0 ein δ > 0 gibt, sodass f¨ur jedes A ∈ A gilt μ(A) < δ
(7.9)
impliziert ν(A) < ε.
Bemerkung 7.36. Die Definition der Totalstetigkeit ist sehr a¨ hnlich der der gleichgradigen Integrierbarkeit (siehe Satz 6.24(iii)), jedenfalls f¨ur endliches μ. Auf diesen Zusammenhang kommen wir im Rahmen des Martingalkonvergenzsatzes zur¨uck, der einen alternativen Beweis f¨ur den Satz von Radon-Nikodym (Korollar 7.34) liefert. 3 Satz 7.37. Seien μ und ν Maße auf (Ω, A). Ist ν totalstetig bez¨uglich μ, dann ist ν ≪ μ. Ist ν(Ω) < ∞, so gilt auch die umgekehrte Implikation. Beweis. =⇒ “ Sei ν totalstetig bez¨uglich μ. Sei A ∈ A mit μ(A) = 0. F¨ur ” jedes ε > 0 ist nach Voraussetzung ν(A) < ε, also ν(A) = 0 und damit ν ≪ μ. ⇐= “ Sei ν endlich, aber nicht totalstetig bez¨uglich μ. Dann existiert ein ε > 0 ” und Mengen An ∈ A mit μ(An ) < 2−n , aber ν(An ) ≥ ε f¨ur jedes n ∈ N. Setze ∞ ∞ A := lim sup An = Ak . Dann ist n→∞
n=1 k=n
μ(A) ≤ lim μ n→∞
∞
Ak
k=n
= lim
n→∞
∞
k=n
μ(Ak ) ≤ lim
n→∞
∞
2−k = 0.
k=n
Da ν endlich ist, ist ν stetig von oben (Satz 1.36), also ∞ ν(A) = lim ν Ak ≥ inf ν(An ) ≥ ε > 0. n→∞
Also ist ν ≪ μ.
k=n
n∈N
2
7.5 Erg¨anzung: Signierte Maße
155
Beispiel 7.38. Die Endlichkeitsannahme ist f¨ur die Umkehrung im vorigen Satz essenziell. Sei beispielsweise μ = N0,1 die Standardnormalverteilung auf R und ν √ 2 das Lebesgue-Maß auf R. Dann hat ν bez¨uglich μ die Dichte f (x) = 2π ex /2 . n→∞ Speziell gilt ν ≪ μ. Andererseits gilt μ([n, ∞)) −→ 0 und ν([n, ∞)) = ∞ f¨ur jedes n ∈ N. Mithin ist ν nicht totalstetig bez¨uglich μ. 3 Beispiel 7.39. Sei (Ω, A) ein Messraum, und seien μ und ν endliche Maße auf (Ω, A). Mit Z bezeichnen wir die Menge der endlichen Zerlegungen von Ω in disjunkte, messbare Mengen. Das heißt, Z ∈ Z ist eine endliche Teilmenge von A so, dass die Mengen C ∈ Z paarweise disjunkt sind und C∈Z C = Ω f¨ur jedes Z. F¨ur Z ∈ Z definieren wir eine Funktion fZ : Ω → R durch fZ (ω) =
C∈Z: μ(C)>0
ν(C) μ(C)
C (ω).
Wir zeigen, dass die folgenden drei Aussagen a¨ quivalent sind: (i) 0Die Familie (fZ : Z ∈ Z) ist gleichgradig integrierbar in L1 (μ) und fZ dμ = ν(Ω) f¨ur jedes Z ∈ Z.
(ii) Es gilt ν ≪ μ.
(iii) ν ist totalstetig bez¨uglich μ. ¨ Die Aquivalenz von (ii) und (iii) wurde im vorigen Satz bewiesen. Gilt (ii), so ist f¨ur jedes Z ∈ Z fZ dμ = ν(C) = ν(Ω), C∈Z: μ(C)>0
weil ν(C) = 0 ist f¨ur diejenigen C, die in der Summe nicht auftauchen. Sei nun ε > 0 gegeben. Da aus (iii) aus (ii) folgt, gibt es ein δ ′ > 0, sodass ν(A) < ε/2 ist f¨ur jedes A ∈ A mit μ(A) ≤ δ ′ . Sei K := ν(Ω)/δ ′ und δ < ε/(2K). Dann ist ⎛ ⎞ 1 μ⎝ ν(Ω) = δ ′ , C⎠ = μ(C) ≤ K C∈Z: Kμ(C)≤ν(C)
also
C∈Z: Kμ(C)≤ν(C)
C∈Z: Kμ(C)≤ν(C)
⎛
ν(C) = ν ⎝
C∈Z: Kμ(C)≤ν(C)
⎞
C⎠ <
ε . 2
156
7 Lp -R¨aume und Satz von Radon-Nikodym
Es folgt schließlich f¨ur A ∈ A mit μ(A) < δ ν(C) fZ dμ = μ(A ∩ C) μ(C) A C∈Z: μ(C)>0
=
0
≤
ε + 2
μ(A ∩ C)
Kμ(C)>ν(C)
ν(C) + μ(C)
K μ(A ∩ C) ≤
Kμ(C)>ν(C)
μ(A ∩ C)
ν(C) μ(C)
ε + K μ(A) < ε. 2
Also ist (fZ , Z ∈ Z) gleichgradig integrierbar nach Satz 6.24(iii). 0 Gelte nun (i). Ist μ = 0, so ist f dμ = 0 f¨ur jedes f , also ν(Ω) = 0 und damit ν ≪ μ. Sei also μ = 0. Sei A ∈ A mit μ(A) = 0. Dann ist Z0 = {A, Ac } ∈ Z und fZ = Ac ν(Ac )/μ(Ac ). Nach Voraussetzung ist ν(Ω) = f dμ = ν(Ac ), also ν(A) = 0 und damit ν ≪ μ. 3 Definition 7.40 (Ladungsverteilung, signiertes Maß). Eine Mengenfunktion ϕ : A → R heißt signiertes Maß oder Ladungsverteilung auf (Ω, A), falls sie σ– additiv ist, falls also f¨ur jede Folge paarweise disjunkter Mengen A1 , A2 , . . . ∈ A gilt, dass ∞ ∞ An = ϕ(An ). (7.10) ϕ n=1
n=1
Die Menge aller Ladungsverteilungen bezeichnen wir mit LV = LV(Ω, A). Bemerkung 7.41. (i) Ist ϕ ein signiertes Maß, so liegt in (7.10) automatisch schon absolute Konvergenz vor. Tats¨achlich a¨ ndert sich ja der Wert der linken Seite nicht, wenn wir die Mengen A1 , A2 , . . . umnummerieren. Damit dies f¨ur die rechte Seite auch gilt, muss nach dem Weierstraß’schen Umordnungssatz die Reihe absolut konvergieren. Speziell gilt f¨ur jede Folge (An )n∈N paarweise disjunkter Mengen ∞ |ϕ(Ak )| = 0. lim k=n n→∞ (ii) Ist ϕ ∈ LV, so ist ϕ(∅) = 0, da R ∋ ν(∅) = n∈N ν(∅). (iii) ϕ ∈ LV ist im Allgemeinen nicht σ-subadditiv.
3
Beispiel 7.42. Sind μ+ , μ− endliche Maße, so ist ϕ := μ+ −μ− ∈ LV. Wir werden sehen, dass jedes signierte Maß eine solche Darstellung besitzt. 3 Satz 7.43 (Zerlegungssatz von Hahn). Sei ϕ ein signiertes Maß. Dann gibt es eine Menge Ω + ∈ A mit ϕ(A) ≥ 0 f¨ur jedes A ∈ A, A ⊂ Ω + und ϕ(A) ≤ 0 f¨ur jedes A ∈ A, A ⊂ Ω − := Ω \ Ω + . Eine solche Darstellung Ω = Ω − ⊎ Ω + wird auch Hahn-Zerlegung von Ω (bez¨uglich ϕ) genannt.
7.5 Erg¨anzung: Signierte Maße
157
Beweis. Sei α := sup ϕ(A) : A ∈ A . Wir m¨ussen zeigen, dass ϕ das Maximum α tats¨achlich annimmt, dass es also ein Ω + ∈ A gibt mit ϕ(Ω + ) = α. Dann ist n¨amlich α ∈ R, und f¨ur A ⊂ Ω + , A ∈ A gilt α ≥ ϕ(Ω + \ A) = ϕ(Ω + ) − ϕ(A) = α − ϕ(A),
also ϕ(A) ≥ 0. F¨ur A ⊂ Ω − , A ∈ A ist ϕ(A) ≤ 0, denn
α ≥ ϕ(Ω + ∪ A) = ϕ(Ω + ) + ϕ(A) = α + ϕ(A).
+ Wir konstruieren nun Ω + mit ϕ(Ω ∞ ) = α. Sei (An )n∈N eine Folge in A mit α = lim ϕ(An ). Setze A := n=1 An . Da jedes An noch Anteile mit negati” n→∞ ver Masse“ enthalten kann, k¨onnen wir nicht einfach Ω + = A w¨ahlen. Vielmehr m¨ussen wir Schicht f¨ur Schicht die negativen Anteile abfischen.
Setze A0n := An und A1n := A \ An sowie n s(i) n Pn := Ai : s ∈ {0, 1} i=1
die Partition von A, die von A1 , . . . , An erzeugt wird. Offensichtlich gilt f¨ur B, C ∈ Pn entweder B = C oder B ∩ C = ∅. Außerdem gilt An = B. Setze B∈Pn B⊂An
Pn− := {B ∈ Pn : ϕ(B) < 0}, und Cn :=
Pn+ := Pn \ Pn− ,
B.
+ B∈Pn
Wegen der endlichen Additivit¨at von ϕ ist ϕ(B) = ϕ(Cn ). ϕ(An ) = ϕ(B) ≤ ϕ(B) ≤ B∈Pn B⊂An
+ B∈Pn
+ B∈Pn B⊂An
n n n−1 F¨ur m ≤ n setze Em = Cm ∪ . . . ∪ Cn . F¨ur m < n ist Em \ Em ⊂ Cn , also n n−1 Em \ Em = B. + B∈Pn n \E n−1 B⊂Em m
n n−1 Speziell ist ϕ(Em \ Em ) ≥ 0. F¨ur Em := (n → ∞) und
n≥m
m m ϕ(Am ) ≤ ϕ(Cm ) = ϕ(Em ) ≤ ϕ(Em )+
= ϕ
m Em
∪
∞
n (Em n=m+1
\
n−1 Em )
n Cn gilt außerdem Em ↑ Em
∞
n=m+1
= ϕ
n n−1 ϕ(Em \ Em )
∞
n=m
n Em
= ϕ(Em ).
158
7 Lp -R¨aume und Satz von Radon-Nikodym
Wir setzen jetzt Ω + =
∞
Em , also Em ↓ Ω + . Dann ist ⎞ ⎛ (En \ En+1 )⎠ ϕ(Em ) = ϕ ⎝Ω + ⊎ m=1
n≥m
= ϕ(Ω + ) +
∞
n=m
m→∞
ϕ(En \ En+1 ) −→ ϕ(Ω + ),
wobei wir im letzten Schritt Bemerkung 7.41(i) ausgenutzt haben. Insgesamt ist α = lim ϕ(Am ) ≤ lim ϕ(Em ) = ϕ(Ω + ). m→∞
m→∞
Per Definition ist aber α ≥ ϕ(Ω + ), also α = ϕ(Ω + ), was zu zeigen war.
2
Korollar 7.44 (Zerlegungssatz von Jordan). Sei ϕ ∈ LV(Ω, A) ein signiertes Maß. Dann gibt es eindeutig bestimmte endliche Maße ϕ+ , ϕ− mit ϕ = ϕ+ − ϕ− und ϕ+ ⊥ ϕ− . Beweis. Sei Ω = Ω + ⊎ Ω − die Hahn-Zerlegung. Setze ϕ+ (A) := ϕ(A ∩ Ω + ) und ϕ− (A) := −ϕ(A ∩ Ω − ). Die Eindeutigkeit der Zerlegung ist trivial.
2
Korollar 7.45. Sei ϕ ∈ LV(Ω, A) und ϕ = ϕ+ − ϕ− die Jordan-Zerlegung von ϕ, sowie Ω = Ω + ⊎ Ω − die Hahn-Zerlegung von Ω. Dann definiert
ϕT V := sup ϕ(A) − ϕ(Ω \ A) : A ∈ A = ϕ(Ω + ) − ϕ(Ω − ) = ϕ+ (Ω) + ϕ− (Ω)
eine Norm auf LV(Ω, A), die so genannte Totalvariationsnorm. Beweis. Zu zeigen ist nur die Dreiecksungleichung. Seien ϕ1 , ϕ2 ∈ LV. Sei Ω = Ω + ⊎ Ω − die Hahn-Zerlegung bez¨uglich ϕ := ϕ1 + ϕ2 und Ω = Ωi+ ⊎ Ωi− die bez¨uglich ϕi , i = 1, 2. Dann gilt ϕ1 + ϕ2 T V = ϕ1 (Ω + ) − ϕ1 (Ω − ) + ϕ2 (Ω + ) − ϕ2 (Ω − )
≤ ϕ1 (Ω1+ ) − ϕ1 (Ω1− ) + ϕ2 (Ω2+ ) − ϕ2 (Ω2− ) = ϕ1 T V + ϕ2 T V .
2
Wir wollen jetzt einen alternativen Beweis des Zerlegungssatzes von Lebesgue (Satz 7.33) angeben und bereiten dies mit einem Lemma vor.
7.5 Erg¨anzung: Signierte Maße
159
Lemma 7.46. Seien μ, ν endliche Maße auf (Ω, A), die nicht singul¨ar zueinander sind, kurz: μ ⊥ ν. Dann gibt es ein A ∈ A mit μ(A) > 0 und ein ε > 0 mit εμ(E) ≤ ν(E)
f¨ur jedes E ∈ A mit E ⊂ A.
Beweis. F¨ sei Ω = Ωn+ ⊎Ωn− eine Hahn-Zerlegung zu (ν− n1 μ) ∈ LV. Setur n ∈ N − ze M := n∈N Ωn . Offenbar ist (ν − n1 μ)(M ) ≤ 0, also ν(M ) ≤ n1 μ(M ) f¨urjedes n ∈ N und deshalb ν(M ) = 0. Wegen μ ⊥ ν folgt μ Ω \ M ) = μ( n∈N Ωn+ > 0, also μ(Ωn+0 ) > 0 f¨ur ein n0 ∈ N. Setze A := Ωn+0 und ε := n10 . Damit ist dann μ(A) > 0 und (ν − εμ)(E) ≥ 0 f¨ur jedes E ⊂ A, E ∈ A. 2 Alternativer Beweis von Satz 7.33 Wir zeigen hier nur die Existenz der Zerlegung. Indem wir eine geeignete Folge Ωn ↑ Ω betrachten, k¨onnen wir annehmen, dass ν schon endlich ist. Betrachte die Menge der Funktionen 1 2 G := g : Ω → [0, ∞] : g ist messbar und g dμ ≤ ν(A) f¨ur alle A ∈ A A
und setze γ := sup
g dμ : g ∈ G .
Unser Ziel ist es, ein maximales Element f in G zu konstruieren (also eines mit 0 f dμ = γ), das dann die gesuchte Dichte von νa ist.
Offenbar ist 0 ∈ G, also G = ∅. Weiter gilt
impliziert
f, g ∈ G
f ∨ g ∈ G.
(7.11)
Mit E := {f ≥ g} ist n¨amlich f¨ur A ∈ A f ∨ g dμ = f dμ + g dμ ≤ ν(A ∩ E) + ν(A \ E) = ν(A). A
A∩E
A\E
0 n→∞ W¨ahle eine Folge (gn )n∈N in G mit gn dμ −→ γ und setze fn = g1 ∨ . . . ∨ gn . Wegen (7.11) ist fn ∈ G. Der Satz von der monotonen Konvergenz liefert f¨ur f := sup{fn : n ∈ N} f dμ = sup fn dμ ≤ ν(A) f¨ur jedes A ∈ A, A
n∈N
A
(das heißt f ∈ G) und weiter f dμ = sup fn dμ ≥ sup gn dμ = γ, n∈N
also
0
n∈N
f dμ = γ ≤ ν(Ω). Wir definieren nun f¨ur jedes A ∈ A
7 Lp -R¨aume und Satz von Radon-Nikodym
160
νa (A) :=
f dμ,
A
νs (A) := ν(A) − νa (A).
Nach Konstruktion ist nun νa ≪ μ0ein endliches Maß mit Dichte f bez¨uglich μ. Wegen f ∈ G ist νs (A) = ν(A) − A f dμ ≥ 0 f¨ur jedes A ∈ A, also ist auch νs ein endliches Maß. Es bleibt zu zeigen, dass νs ⊥ μ.
An dieser Stelle benutzen wir Lemma 7.46. Wir nehmen an, dass νs ⊥ μ g¨alte. Dann g¨abe es ein ε > 0 und ein A ∈ A mit μ(A) > 0 so, dass εμ(E) ≤ νs (E) f¨ur jedes E ⊂ A, E ∈ A. F¨ur B ∈ A w¨are dann (f + ε A ) dμ = f dμ + εμ(A ∩ B) B
B
≤ νa (B) + νs (A ∩ B) ≤ νa (B) + νs (B) = ν(B). 0 Mit anderen Worten: (f + ε A ) ∈ G und damit (f + ε A ) dμ = γ + εμ(A) > γ, 2 was im Widerspruch zur Definition von γ steht. Also ist tats¨achlich νs ⊥ μ.
¨ Ubung 7.5.1. Sei μ ein σ-endliches Maß auf (Ω, A) und ϕ ein signiertes Maß auf (Ω, A). Man zeige, dass, analog zum Satz von Radon-Nikodym, die beiden folgenden Aussagen a¨ quivalent sind: (i) F¨ur jedes A ∈ A mit μ(A) = 0 ist ϕ(A) = 0. 0 (ii) Es gibt ein f ∈ L1 (μ) mit ϕ = f μ, also A f dμ = ϕ(A) f¨ur jedes A ∈ A. ♣
¨ Ubung 7.5.2. Seien μ, ν, α endliche Maße auf (Ω, A) mit ν ≪ μ ≪ α.
(i) Zeige, dass die Kettenregel f¨ur die Radon-Nikodym-Ableitung gilt: dν dμ dν = dα dμ dα (ii) Zeige, dass f :=
dν d(μ+ν)
α-f.¨u.
existiert und dass μ-f.¨u.
dν dμ
=
f 1−f
gilt.
♣
7.6 Erg¨anzung: Dualr¨aume Nach dem Darstellungssatz von Riesz-Fr´echet (Satz 7.26) hat jede stetige Linearform F : L2 (μ) → R eine Darstellung F (g) = f, g! f¨ur ein f ∈ L2 (μ). Andererseits ist f¨ur jedes f ∈ L2 (μ) die Abbildung L2 (μ) → R, g → f, g! stetig und linear. Daher ist L2 (μ) in kanonischer Weise isomorph zu seinem topologischen Dualraum (L2 (μ))′ . Dieser ist allgemein wie folgt definiert. Definition 7.47 (Dualraum). Sei (V, · ) ein Banachraum. Der Dualraum V ′ von V ist definiert durch
7.6 Erg¨anzung: Dualr¨aume
161
V ′ := {F : V → R ist stetig und linear}. F¨ur F ∈ V ′ setzen wir F ′ := sup{|F (f )| : f = 1}. Bemerkung 7.48. Da F stetig ist, existiert f¨ur jedes δ > 0 ein ε > 0, sodass 3 |F (f )| < δ gilt f¨ur jedes f ∈ V mit f < ε. Also ist F ′ ≤ δ/ε < ∞. Wir sind nun an dem Fall V = Lp (μ) f¨ur p ∈ [1, ∞] interessiert. Betrachten wir speziell V = L2 (μ), so ist also F ′2 = f 2 . Dies l¨asst sich verallgemeinern: Lemma 7.49. Seien p, q ∈ [1, ∞] mit p1 + 1q = 1. Dann ist die kanonische Abbildung κ : Lq (μ) → (Lp (μ))′ κ(f )(g) = f g dμ
f¨ur f ∈ Lq (μ), g ∈ Lp (μ)
eine Isometrie, das heißt κ(f )′p = f q . Beweis. Wir zeigen die Gleichheit, indem wir beide Ungleichungen zeigen. ≤“ Dies folgt direkt aus der H¨older’schen Ungleichung. ” q p ≥“ F¨ur jedes zul¨assige Paar p, q und 0 f ∈ L (μ), g ∈ L (μ) gilt per Definition ” der Operatornorm κ(f )′p gp ≥ f g dμ. Wir definieren die Vorzeichenfunktion sign(x) = (0,∞) (x)− (−∞,0) (x). Indem wir g durch g˜ := |g| sign(f ) ersetzen (beachte ˜ g p = gp ), erhalten wir κ(f )′p gp ≥ f g˜ dμ = f g1 . (7.12) Sei zun¨achst q = 1 und f ∈ L1 (μ). Mit g ≡ 1 ∈ L∞ (μ) in (7.12) folgt κ(f )′∞ ≥ f 1 . Sei nun q ∈ (1, ∞). W¨ahle g = |f |q−1 . Wegen
q−1 q
=
1 p
ist dann
= f q · gp . κ(f )′p · gp ≥ f g1 = |f |q ||1 = f qq = f q · f q−1 q Sei schließlich q = ∞. Ohne Einschr¨ankung sei f ∞ ∈ (0, ∞). Sei ε > 0. Dann existiert ein Aε ∈ A mit 0 < μ(Aε ) < ∞, sodass
Aε ⊂ |f | > (1 − ε)f ∞ . Setzen wir g =
1 μ(Aε )
Aε ,
so ist g1 = 1 und κ(f )′1 ≥ f g1 ≥ (1 − ε)f ∞ . 2
Satz 7.50. F¨ur p ∈ [1, ∞) und p1 + 1q = 1 ist Lq (μ) isomorph zu (Lp (μ))′ verm¨oge der Isometrie κ.
162
7 Lp -R¨aume und Satz von Radon-Nikodym
Beweis. F¨ur den Beweis greifen wir zur¨uck auf den Satz von Radon-Nikodym (Korollar 7.34). Allerdings skizzieren wir den Beweis nur, weil wir die Theorie der signierten Maße und Inhalte nicht vertiefen wollen. Ein signierter Inhalt ν ist eine additive Mengenfunktion, die sich als Differenz ν = ν + − ν − zweier endlicher Inhalte darstellen l¨asst, also auch negative Werte annehmen kann. (Diese Begriffsbildung ist analog zu der des signierten Maßes, das sich ja als Differenz zweier Maße darstellen l¨asst.) Da κ eine Isometrie ist, ist κ insbesondere injektiv. Wir m¨ussen also nur noch zeigen, dass κ surjektiv ist. Sei F ∈ (Lp (μ))′ . Dann ist ν(A) = F ( A ) ein signierter Inhalt auf A, und es gilt |ν(A)| ≤ F ′p (μ(A))1/p . Da μ ∅-stetig ist, ist also auch ν ∅-stetig und daher ein signiertes Maß auf A. Es gilt sogar ν ≪ μ. Nach dem Satz von Radon-Nikodym (Korollar 7.34) (angewandt auf ¨ 7.5.1) besitzt ν eine Dichte bez¨uglich μ, die Maße ν − und ν + , vergleiche Ubung also eine messbare Funktion f mit ν = f μ. Sei Ee := {g : g ist Elementarfunktion mit μ(g = 0) < ∞} und E+ e := {g ∈ Ee : g ≥ 0}. Dann ist f¨ur g ∈ Ee F (g) = gf dμ. (7.13) Um zu zeigen, dass (7.13) f¨ur alle g ∈ Lp (μ) gilt, m¨ussen wir zun¨achst zeigen, dass f ∈ Lq (μ) liegt. Wir unterscheiden zwei F¨alle. Fall 1: p = 1.
F¨ur jedes α > 0 ist
1 ν({|f | > α}) α 1 1 = F ( {|f |>α} ) ≤ F ′1 · α α
μ({|f | > α}) ≤
{|f |>α} 1
=
1 F ′1 · μ({|f | > α}). α
Es folgt μ({|f | > α}) = 0, falls α > F ′1 , also f ∞ ≤ F ′1 < ∞. Fall 2: p ∈ (0, ∞). Nach Satz 1.96 existieren g1 , g2 , . . . ∈ E+ e so, dass gn ↑ |f | μ–f.¨u. Setzen wir hn = sign(f )(gn )q−1 ∈ Ee , so gilt gn qq ≤ hn f dμ = F (hn ) ≤ F ′p · hn p = F ′p · (gn q )q−1 ,
also ist gn q ≤ F ′p . Monotone Konvergenz (Satz 4.20) liefert nun f q ≤ F ′p < ∞ also f ∈ Lq (μ). 0 Daher ist die Abbildung F : g → gf dμ in (Lp (μ))′ und F(g) = F (g) f¨ur jedes g ∈ Ee . Da F stetig ist und Ee ⊂ Lp (μ) dicht liegt, gilt schon F = F . 2
7.6 Erg¨anzung: Dualr¨aume
163
Bemerkung 7.51. Die Aussage von Satz 7.50 ist f¨ur p = ∞ im Allgemeinen falsch. (F¨ur endliches A ist die Aussage trivialerweise auch f¨ur p = ∞ richtig.) Sei beispielsweise Ω = N, A = 2Ω und μ das Z¨ahlmaß. Wir betrachten also Folgenr¨aume ℓp = Lp (N, 2N , μ). F¨ur den Unterraum ℓK ⊂ ℓ∞ der konvergenten Folgen ist F : ℓK → R, (an )n∈N → lim an ein stetiges lineares Funktional. Nach den n→∞ Hahn-Banach S¨atzen der Funktionalanalysis (siehe etwa [73] oder [156]) kann F zu einem stetigen linearen Funktional auf ℓ∞ fortgesetzt werden. Offenbar gibt es ∞ jedoch kein (bn )n∈N ∈ ℓ1 mit F ((an )n∈N ) = am bm . 3 m=1
¨ Ubung 7.6.1. Man zeige, dass Ee ⊂ Lp (μ) dicht liegt, falls p ∈ [1, ∞).
♣
8 Bedingte Erwartungen
Wenn u¨ ber den Ausgang eines Zufallsexperimentes eine Teilinformation vorhanden ist, a¨ ndern sich die Wahrscheinlichkeiten f¨ur die m¨oglichen Ereignisse. Das Konzept der bedingten Wahrscheinlichkeiten und bedingten Erwartungen formalisiert den zugeh¨origen Kalk¨ul.
8.1 Elementare bedingte Wahrscheinlichkeiten Beispiel 8.1. Wir werfen einen fairen sechsseitigen W¨urfel und betrachten die Ereignisse A := {Augenzahl drei oder kleiner}, B := {Augenzahl ungerade}. Offenbar ist P[A] = 12 und P[B] = 12 . Wie groß ist aber die Wahrscheinlichkeit, dass B eintritt, wenn wir schon wissen, dass A eintritt? Wir modellieren das Experiment auf einem Wahrscheinlichkeitsraum (Ω, A, P), wobei Ω = {1, . . . , 6}, A = 2Ω und P die Gleichverteilung auf Ω ist. Dann ist A = {1, 2, 3}
und
B = {1, 3, 5}.
Wenn wir nur wissen, dass A eingetreten ist, liegt es nahe, auf {1, 2, 3} die Gleichverteilung zu vermuten. Wir definieren also auf (A, 2A ) ein neues W-Maß PA durch PA [C] =
#C #A
f¨ur C ⊂ A.
Indem wir Punkten in Ω \ A die Wahrscheinlichkeit Null geben (die k¨onnen ja nicht eingetreten sein, wenn A eingetreten ist), k¨onnen wir PA auf Ω fortsetzen durch P[C |A] := PA [C ∩ A] = So erhalten wir P[B |A] =
#(C ∩ A) #A
#{1, 3} 2 = . #{1, 2, 3} 3
f¨ur C ⊂ Ω. 3
166
8 Bedingte Erwartungen
Durch das Beispiel motiviert treffen wir die folgende Definition. Definition 8.2 (Bedingte Wahrscheinlichkeit). Sei (Ω, A, P) ein Wahrscheinlichkeitsraum und A ∈ A. Dann definieren wir die bedingte Wahrscheinlichkeit gegeben A f¨ur jedes B ∈ A durch ⎧ ⎨ P[A ∩ B] , falls P[A] > 0, P[A] P[B |A] = (8.1) ⎩ 0, sonst. Bemerkung 8.3. Die genaue Festsetzung in (8.1) f¨ur den Fall P[A] = 0 ist willk¨urlich und unerheblich. 3 Satz 8.4. Ist P[A] > 0, so ist P[ · |A] ein W-Maß auf (Ω, A). Beweis. Trivial!
2
Satz 8.5. Seien A, B ∈ A mit P[A], P[B] > 0. Dann gilt A, B sind unabh¨angig
⇐⇒ P[B |A] = P[B] ⇐⇒ P[A|B] = P[A].
Beweis. Trivial!
2
Satz 8.6 (Formel von der totalen Wahrscheinlichkeit). Sei I eine abz¨ahlbare Menge und (Bi )i∈I paarweise disjunkte Mengen * ) h¨ochstens mit P i∈I Bi = 1. Dann gilt f¨ur jedes A ∈ A P[A] =
P[A|Bi ] P[Bi ].
(8.2)
i∈I
Beweis. Wegen der σ-Additivit¨at von P ist . P[A] = P (A ∩ Bi ) = P[A ∩ Bi ] = P[A|Bi ]P[Bi ]. i∈I
i∈I
2
i∈I
Satz 8.7 (Bayes’sche Formel). Sei I eine h¨ ochstens* abz¨ahlbare Menge sowie ) (Bi )i∈I paarweise disjunkte Mengen mit P i∈I Bi = 1. Dann gilt f¨ur jedes A ∈ A mit P[A] > 0 und jedes k ∈ I P[A|Bk ] P[Bk ] i∈I P[A|Bi ] P[Bi ]
P[Bk |A] =
(8.3)
8.1 Elementare bedingte Wahrscheinlichkeiten
167
Beweis. Es gilt P[Bk |A] =
P[A|Bk ] P[Bk ] P[Bk ∩ A] = . P[A] P[A]
Setze jetzt (8.2) f¨ur P[A] ein.
2
Beispiel 8.8. Bei der Produktion gewisser elektronischer Bauteile sind 2% der Ware defekt. Ein schnelles Testverfahren erkennt ein defektes Bauteil mit Wahrscheinlichkeit 95%, meldet aber bei 10% der intakten Bauteile falschen Alarm. Mit welcher Wahrscheinlichkeit ist ein als defekt erkanntes Bauteil wirklich defekt? Wir formalisieren die obige Beschreibung. Seien A := {Bauteil wird als defekt deklariert}, B := {Bauteil ist defekt}, sowie
P[B c ] = 0.98,
P[B] = 0.02, P[A|B] = 0.95,
P[A|B c ] = 0.1.
Die Bayes’sche Formel liefert nun P[B |A] = =
P[A|B] P[B] P[A|B] P[B] + P[A|B c ] P[B c ] 19 0.95 · 0.02 = ≈ 0.162. 0.95 · 0.02 + 0.1 · 0.98 117
Andererseits ist die Wahrscheinlichkeit, dass ein nicht als defekt erkanntes Bauteil dennoch defekt ist P[B |Ac ] =
1 0.05 · 0.02 = ≈ 0.00113. 0.05 · 0.02 + 0.9 · 0.98 883
Sei nun X ∈ L1 (P). Ist A ∈ A, so ist offenbar auch E[X; A] := E[
A
AX
3
∈ L1 (P), und wir setzen
X].
(8.4)
Ist P[A] > 0, so ist P[ · |A] ein W-Maß. Wegen A X ∈ L1 (P) ist auch X ∈ L1 (P[ · |A]). Also k¨onnen wir den Erwartungswert von X bez¨uglich P[ · |A] definieren. Definition 8.9. Sei X ∈ L1 (P) und A ∈ A. Dann setzen wir ⎧ ⎨ E[ A X] , falls P[A] > 0, P[A] E[X |A] := X(ω) P[dω |A] = ⎩ 0, sonst.
(8.5)
168
8 Bedingte Erwartungen
Offenbar ist P[B |A] = E[
B |A]
f¨ur jedes B ∈ A.
Wir betrachten nun die Situation, die wir bei der Formel von der totalen Wahrscheinlichkeit untersucht hatten. Sei also I eine h¨ ochstens abz¨ahlbare Menge, und Bi = Ω. Wir definieren F := seien (Bi )i∈I paarweise disjunkte Ereignisse mit i∈I
σ(Bi , i ∈ I). F¨ur X ∈ L1 (P) definieren wir eine Abbildung E[X |F] : Ω → R durch ⇐⇒ Bi ∋ ω. (8.6) E[X |F](ω) = E[X |Bi ] Lemma 8.10. Die Abbildung E[X |F] hat die folgenden Eigenschaften: (i) E[X |F] ist F-messbar, 1
(ii) E[X |F] ∈ L (P), und f¨ur jedes A ∈ F gilt
A
E[X |F] dP =
X dP.
A
Beweis. (i) Sei f die Abbildung f : Ω → I, mit f (ω) = i
⇐⇒
Bi ∋ ω.
Ferner sei g : I → R, i → E[X |Bi ]. Da I diskret ist, ist g messbar. Da f messbar ist bez¨uglich F, ist auch E[X |F] = g ◦ f messbar bez¨uglich F. (ii) Sei A ∈ F und J ⊂ I mit A = j∈J Bj . Sei J ′ := {i ∈ J : P[Bi ] > 0}. Dann ist X dP. 2 E[X |F] dP = P[Bi ] E[X |Bi ] = E[ Bi X] = A
i∈J ′
i∈J ′
A
¨ Ubung 8.1.1 (Ged¨achtnislosigkeit der Exponentialverteilung). Sei X eine nichtnegative Zufallsvariable und θ > 0. Man zeige: Genau dann ist X exponentialverteilt, wenn P[X > t + s|X > s] = P[X > t]
f¨ur alle s, t ≥ 0.
Insbesondere gilt f¨ur θ > 0: Genau dann ist X ∼ expθ , wenn P[X > t + s|X > ♣ s] = e−θt f¨ur alle s, t ≥ 0 gilt.
8.2 Bedingte Erwartungen Wir nehmen an, dass X eine uniform auf [0, 1] verteilte Zufallsvariable ist, und dass bei Kenntnis des Wertes X = x die Zufallsvariablen Y1 , . . . , Yn unabh¨angig und Berx -verteilt sind. Mit unserem Apparat k¨onnen wir bisher bedingte Wahrscheinlichkeiten vom Typ P[ · |X ∈ [a, b]], a < b, ausrechnen. Wie sieht es aber aus
8.2 Bedingte Erwartungen
169
mit P[Y1 = . . . = Yn = 1 X = x]? Intuitiv sollte dies xn sein. Wir brauchen einen Begriff der bedingten Wahrscheinlichkeit, der auch f¨ur Ereignisse mit Wahrscheinlichkeit Null in konsistenter Weise unserer Intuition entspricht. Wir werden (im n¨achsten Abschnitt) sehen, dass dies im vorliegenden Beispiel mit Hilfe von ¨ Ubergangskernen m¨oglich ist. Zun¨achst aber betrachten wir die allgemeine Situation. Sei im Folgenden stets F ⊂ A eine Unter-σ-Algebra und X ∈ L1 (Ω, A, P). In Anlehnung an Lemma 8.10 treffen wir die folgende Definition. Definition 8.11 (Bedingte Erwartung). Eine Zufallsvariable Y heißt bedingte Erwartung von X gegeben F, symbolisch E[X |F] := Y , falls gilt: (i) Y ist F-messbar.
(ii) F¨ur jedes A ∈ F gilt E[X
A]
F¨ur B ∈ A heißt P[B |F] := E[ gegeben F.
= E[Y
B |F]
A ].
die bedingte Wahrscheinlichkeit von B
Satz 8.12. E[X |F] existiert und ist eindeutig (bis auf Gleichheit fast sicher). Da bedingte Erwartungen nur bis auf Gleichheit f.s. definiert sind, sind alle Gleichheiten mit bedingten Erwartungen immer nur als Gleichheiten f.s. zu verstehen, auch wenn nicht explizit darauf hingewiesen wird. Beweis. Eindeutigkeit. Seien Y und Y ′ Zufallsvariablen, die (i) und (ii) erf¨ullen. Setze A = {Y > Y ′ } ∈ F. Dann ist nach Bedingung (ii) 0 = E[Y
A]
− E[Y ′
A]
= E[(Y − Y ′ )
A ].
Wegen (Y − Y ′ ) A ≥ 0, ist dann P[A] = 0, also Y ≤ Y ′ fast sicher. Analog folgt Y ≥ Y ′ fast sicher. Existenz.
Seien X + = X ∨ 0 und X − = X + − X. Durch Q± (A) := E[X ±
A]
f¨ur jedes A ∈ F,
werden zwei endliche Maße auf (Ω, F) definiert. Offenbar ist Q± ≪ P, also liefert der Satz von Radon-Nikodym (Korollar 7.34) die Existenz von Dichten Y ± , sodass Y ± dP = E[Y ± A ]. Q± (A) = A
Setze nun Y = Y + − Y − .
2
Definition 8.13. Ist Y eine Zufallsvariable und X ∈ L1 (P), so definieren wir E[X |Y ] := E[X |σ(Y )].
170
8 Bedingte Erwartungen
Satz 8.14 (Eigenschaften der bedingten Erwartung). Seien (Ω, A, P) und X wie oben sowie G ⊂ F ⊂ A σ-Algebren. Ferner sei Y ∈ L1 (Ω, A, P). Dann gilt: (i) (Linearit¨at) E[λX + Y |F] = λE[X |F] + E[ Y |F].
(ii) (Monotonie)
Ist X ≥ Y f.s., so ist E[X |F] ≥ E[ Y |F].
(iii) Ist E[|XY |] < ∞ und Y messbar bez¨uglich F, dann ist E[XY |F] = Y E[X |F]
E[ Y |F] = E[ Y |Y ] = Y.
und
E[E[X |F]|G] = E[E[X |G]|F] = E[X |G]. (v) (Dreiecksungleichung) E[|X| F] ≥ E[X |F].
(iv) (Turmeigenschaft) (vi) (Unabh¨angigkeit)
Sind σ(X) und F unabh¨angig, so ist E[X |F] = E[X].
(vii) Gilt P[A] ∈ {0, 1} f¨ur jedes A ∈ F, so ist E[X |F] = E[X].
(viii) (Majorisierte Konvergenz) Ist Y ≥ 0 und ist (Xn )n∈N eine Folge von Zun→∞ fallsvariablen mit |Xn | ≤ Y f¨ur n ∈ N sowie Xn −→ X f.s., so gilt lim E[Xn |F] = E[X |F] f.s. und in L1 (P).
(8.7)
n→∞
Beweis. (i) Die rechte Seite ist F-messbar, und f¨ur A ∈ F ist ) * ) * ) E A λE[X |F] + E[Y |F] = λE A E[X |F] + E = λE[ A X] + E[ A Y ] * ) = E A (λX + Y ) .
(ii) Sei A = {E[X |F] < E[Y |F]} ∈ F. Wegen X ≥ Y ist E[ also P[A] = 0.
A
* E[Y |F]
A
(X − Y )] ≥ 0,
(iii) Sei zun¨achst X ≥ 0 und Y ≥ 0. F¨ur n ∈ N setze Yn = 2−n ⌊2n Y ⌋. Dann ist Yn ↑ Y sowie Yn E[X |F] ↑ Y E[X |F] (da E[X |F] ≥ 0 nach (ii)). Es gilt nach dem Satz von der monotonen Konvergenz (Lemma 4.6(ii)) * n→∞ ) * ) E A Yn E[X |F] −→ E A Y E[X |F] . Andererseits ist ) E
∞ * ) E A Yn E[X |F] =
=
k=1 ∞
k=1
) = E
) E A
A
{Yn =k 2−n }
A
{Yn =k 2−n }
Yn X
*
* k 2−n E[X |F] k 2−n X
n→∞
−→ E[
A
Y X].
*
8.2 Bedingte Erwartungen
171
Also gilt E[ A Y E[X |F]] = E[ A Y X]. Im allgemeinen Fall schreiben wir X = X + − X − und Y = Y + − Y − und nutzen die Linearit¨at der bedingten Erwartung aus. (iv) Die zweite Gleichung folgt aus (iii) mit Y = E[X |G] und X = 1. Sei nun A ∈ G. Dann ist insbesondere auch A ∈ F, also * ) * ) * ) E A E[E[X |F]|G] = E A E[X |F] = E[ A X] = E A E[X |G] . (v) Das folgt aus (i) und (ii) mit X = X + − X − .
(vi) Trivialerweise ist E[X] messbar bez¨uglich F. Sei A ∈ F. Dann sind X und angig, also ist E[E[X |F] A ] = E[X A ] = E[X] E[ A ]. A unabh¨ (vii) F¨ur jedes A ∈ F und B ∈ A gilt P[A ∩ B] = 0, falls P[A] = 0 ist, und P[A ∩ B] = P[B], falls P[A] = 1 ist. Also ist F von A unabh¨angig und damit auch von jeder Teil-σ-Algebra von A. Speziell ist F von σ(X) unabh¨angig. Die Aussage folgt also aus (vi). n→∞
(viii) Sei |Xn | ≤ Y f¨ur jedes n ∈ N und Xn −→ X fast sicher. Setze Zn := f.s. supk≥n |Xk − X|. Dann ist 0 ≤ Zn ≤ 2Y und Zn −→ 0. Nach Korollar 6.26 n→∞ (majorisierte Konvergenz) gilt E[Zn ] −→ 0, also nach der Dreiecksungleichung * ) n→∞ E E[Xn |F]−E[X |F] ≤ E[E[|Xn −X| F]] = E[|Xn −X|] ≤ E[Zn ] −→ 0. Dies ist aber die L1 (P)-Konvergenz in (8.7). Sei Z := lim supn→∞ E[Zn F]. Nach dem Lemma von Fatou ist E[Z] ≤ lim E[Zn ] = 0, n→∞
n→∞ also Z = 0 und damit E[Zn F] −→ 0 fast sicher. Nach (v) ist aber E[Xn F] − E[X F] ≤ E[Zn ].
2
Bemerkung 8.15. Intuitiv ist E[X |F] die beste Vorhersage, die wir f¨ur den Wert von X machen k¨onnen, wenn uns die Information aus der σ-Algebra F zur Verf¨ugung steht. Ist beispielsweise σ(X) ⊂ F, kennen wir also X schon, dann ist E[X |F] = X, wie in (iii) gezeigt. Am anderen Ende der Skala ist der Fall, wo X und F unabh¨angig sind, wir also durch Kenntnis von F keine Information u¨ ber X gewinnen. Hier ist die beste Vorhersage f¨ur X der Erwartungswert selber, also E[X] = E[X |F] wie in (vii) gezeigt.
Was heißt dabei aber eigentlich genau beste Vorhersage“? Wir wollen dies f¨ur qua” dratintegrierbare Zufallsvariablen X als diejenige F-messbare Zufallsvariable ver2 stehen, die den L –Abstand zu X minimiert. Dass dies die bedingte Erwartung tats¨achlich tut, ist der Inhalt des folgenden Korollars. 3
172
8 Bedingte Erwartungen
Korollar 8.16 (Bedingte Erwartung als Projektion). Sei F ⊂ A eine σ-Algebra und X eine Zufallsvariable mit E[X 2 ] < ∞. Dann ist E[X |F] die orthogonale Projektion von X auf L2 (Ω, F, P). Es gilt also f¨ur jedes F-messbare Y mit E[Y 2 ] < ∞ * ) * ) E (X − Y )2 ≥ E (X − E[X |F])2 mit Gleichheit genau dann, wenn Y = E[X |F].
Beweis. Sei Y messbar E[XY ]= * ) * ) bez¨uglich* F. Dann ) ist (mit der Turmeigenschaft) E[E[X |F]Y ] und E XE[X |F] = E E[XE[X |F] F] = E E[X |F]2 , also ' ) *2 ( * E (X − Y )2 − E X − E[X |F ( ' = E X 2 − 2XY + Y 2 − X 2 + 2XE[X |F] − E[X |F]2 ( ' = E Y 2 − 2Y E[X |F] + E[X |F]2 ' 2 ( = E Y − E[X |F] ≥ 0. 2 Beispiel 8.17. Seien X, Y ∈ L1 (P) unabh¨angig. Dann ist
E[X + Y |Y ] = E[X |Y ] + E[Y |Y ] = E[X] + Y.
3
Beispiel 8.18. Seien X1 , . . . , XN unabh¨angig mit E[Xi ] = 0, i = 1, . . . , N . Setze Fn := σ(X1 , . . . , Xn ) und Sn := X1 + . . . + Xn f¨ur n = 1, . . . , N . Dann ist f¨ur n≥m E[Sn Fm ] = E[X1 Fm ] + . . . + E[Xn Fm ] = X1 + . . . + Xm + E[Xm+1 ] + . . . + E[Xn ] = Sm
Nach Satz 8.14(iv) ist wegen σ(Sm ) ⊂ Fm auch * ) E[Sn |Sm ] = E E[Sn |Fm ] Sm = E[Sm |Sm ] = Sm .
3
Wir kommen nun zur Jensen’schen Ungleichung f¨ur bedingte Erwartungen. Satz 8.19 (Jensen’sche Ungleichung). Sei I ⊂ R ein Intervall, und sei ϕ : I → R konvex und X eine Zufallsvariable auf (Ω, A, P) mit Werten in I. Ferner sei E[|X|] < ∞ und F ⊂ A eine σ-Algebra. Dann gilt ∞ ≥ E[ϕ(X)|F] ≥ ϕ(E[X |F]).
Beweis. (Man erinnere sich der Definition 1.68 zur Sprechweise fast sicher auf ” A“.) Auf dem Ereignis {E[X |F] ist ein Randpunkt von I} ist X = E[X |F] fast
8.2 Bedingte Erwartungen
173
sicher, und die Aussage ist trivial. In der Tat: Ohne Einschr¨ankung sei 0 der linke Randpunkt von I und A := {E[X |F] = 0}. Da X Werte in I ⊂ [0, ∞) annimmt, ist 0 ≤ E[X A ] = E[E[X |F] A ] = 0, also ist X A = 0. Der Fall eines rechten Randpunktes geht analog. Sei also nun das Ereignis B := {E[X |F] ist innerer Punkt von I} betrachtet.
F¨ur jeden inneren Punkt x ∈ I sei D+ ϕ(x) die maximale Tangentensteigung von ϕ in x, also der maximale Wert t mit ϕ(y) ≥ (y − x)t + ϕ(x) f¨ur alle y ∈ I (siehe Satz 7.7). Die Abbildung x → D+ ϕ(x) ist monoton wachsend, also messbar, und daher ist D+ ϕ(E[X |F]) eine F-messbare Zufallsvariable. Es folgt '
( ) * E ϕ(X)|F ≥ E X − E[X |F] D+ ϕ(E[X |F]) + ϕ E[X |F] F
2 = ϕ E[X |F] f.s auf B.
Korollar 8.20. Sei p ∈ [1, ∞] und F ⊂ A eine Teil-σ-Algebra. Dann ist die Abbildung Lp (Ω, A, P) → Lp (Ω, F, P), X → E[X |F] eine Kontraktion (das heißt: E[X |F]p ≤ Xp ) und damit insbesondere stetig. Es gilt also f¨ur n→∞ X, X1 , X2 , . . . ∈ Lp (Ω, A, P) mit Xn − Xp −→ 0 auch = = =E[Xn |F] − E[X |F]= n→∞ −→ 0. p
p Beweis. F¨ur p ∈ [1, ∞) benutze die Jensen’sche Ungleichung mit ϕ(x) = |x| . F¨ur 2 p = ∞ beachte, dass |E[X |F]| ≤ E[|X||F] ≤ E[X∞ F] = X∞ .
Korollar 8.21. Ist (Xi , i ∈ I) gleichgradig integrierbar und (Fj , j ∈ J) eine Familie von Teil-σ-Algebren von A, sowie Xi,j := E[Xi Fj ], dann ist (Xi,j , (i, j) ∈ I × J) gleichgradig integrierbar. Insbesondere ist f¨ur X ∈ L1 (P) die Familie (E[X |Fj ], j ∈ J) gleichgradig integrierbar. Beweis. Nach Satz 6.19 existiert eine wachsende, konvexe Funktion f mit der Eigenschaft f (x)/x → ∞, x → ∞ und L := supi∈I E[f (|Xi |)] < ∞. Dann ist x → f (|x|) konvex, also nach der Jensen’schen Ungleichung * * ) ) E f (|Xi,j |) = E f E[Xi |Fj ] ≤ L < ∞. Nach Satz 6.19 ist daher (Xi,j , (i, j) ∈ I × J) gleichgradig integrierbar.
2
Beispiel 8.22. Seien μ und ν endliche Maße mit ν ≪ μ. Sei f = dν/dμ die RadonNikodym-Ableitung, und sei I = {F ⊂ A : F ist eine σ-Algebra}. Betrachte die auf F eingeschr¨ankten Maße μ und ν . Dann ist ν ≪ μ (klar, denn in F F F F F gibt es ja weniger μ–Nullmengen), also existiert die Radon-Nikodym-Ableitung fF := dν /dμ . Dann ist (fF : F ∈ I) gleichgradig integrierbar (bez¨uglich F F μ). (F¨ur endliche σ-Algebren F wurde dies schon in Beispiel 7.39 gezeigt.) In der
174
8 Bedingte Erwartungen
Tat: Sei P = μ/μ(Ω) und Q = ν/μ(Ω). Dann ist fF = dQ /dP . F¨ur jedes F F 0 0 F ∈ F ist also E[fF F ] = F fF dP = Q(F ) = F f dP = E[f F ], also fF = E[f |F]. Nach dem vorangehenden Korollar ist (fF : F ∈ I) gleichgradig integrierbar bez¨uglich P und damit auch bez¨uglich μ. 3 ¨ Ubung 8.2.1. (Bayes’sche Formel) Seien A ∈ A und B ∈ F. Man zeige 0 P[A|F] dP . P[B |A] = 0B P[A|F] dP
Wird F von paarweise disjunkten Mengen B1 , B2 , . . . erzeugt, so ist dies gerade die Bayes’sche Formel aus Satz 8.7. ♣ ¨ Ubung 8.2.2. Man zeige durch ein Beispiel, dass E[E[X |F]|G] = E[E[X |G]|F] gelten kann. ♣ ¨ Ubung 8.2.3. Man zeige die bedingte Markov’sche Ungleichung: F¨ur monoton wachsendes f : [0, ∞) → [0, ∞) und ε > 0 mit f (ε) > 0 ist * ) ) * E f (|X|) F . ♣ P |X| ≥ ε|F ≤ f (ε)
¨ Ubung 8.2.4. Man zeige die bedingte Cauchy-Schwarz’sche Ungleichung: F¨ur quadratintegrierbare Zufallsvariablen X, Y gilt E[XY |F]2 ≤ E[X 2 |F] E[Y 2 |F].
♣
¨ Ubung 8.2.5. Seien X1 , . . . , Xn integrierbar, unabh¨angig und identisch verteilt. Sei Sn = X1 + . . . + Xn . Zeige: E[Xi |Sn ] =
1 Sn n
f¨ur jedes i = 1, . . . , n.
♣
¨ Ubung 8.2.6. Seien X1 und X2 unabh¨angig und exponentialverteilt mit Parameter ♣ θ > 0. Man bestimme E[X1 ∧ X2 |X1 ]. ¨ Ubung 8.2.7. Seien X und Y reelle Zufallsvariablen mit gemeinsamer Dichte f , und sei h : R → R messbar mit E[|h(X)|] < ∞. Es bezeiche λ das Lebesgue-Maß auf R. (i) Zeige, dass fast sicher gilt: E[h(X)|Y ] =
0
h(x)f (x, Y ) λ(dx) 0 . f (x, Y ) λ(dx)
(ii) Seien speziell X und Y unabh¨angig und expθ -verteilt f¨ur ein θ > 0. Bestimme E[X |X + Y ] und P[X ≤ x|X + Y ] f¨ur x ≥ 0. ♣
8.3 Regul¨are Version der bedingten Verteilung
175
8.3 Regul¨are Version der bedingten Verteilung Ist X eine Zufallsvariable mit Werten in einem Messraum (E, E), so k¨onnen wir mit unserem Apparat bisher f¨ur festes A ∈ A die bedingte Wahrscheinlichkeit P[A|X] angeben. K¨onnen wir die Situation aber auch so einrichten, dass wir f¨ur jedes x ∈ E ein W-Maß P[ · |X = x] angeben k¨onnen, sodass f¨ur jedes A ∈ A gilt P[A|X] = P[A|X = x] auf {X = x}?
Wir sind beispielsweise an einem zweistufigen Zufallsexperiment interessiert: Im ersten Schritt wird eine M¨unze in zuf¨alliger Weise so gef¨alscht, dass sie die Erfolgswahrscheinlichkeit X hat. Danach werden unabh¨angige W¨urfe Y1 , . . . , Yn mit dieser M¨unze durchgef¨uhrt. Die bedingte Verteilung von (Y1 , . . . , Yn ) gegeben ” {X = x}“ sollte also (Berx )⊗n sein.
Sei X wie oben und Z eine σ(X)-messbare, reelle Zufallsvariable. Nach dem Faktorisierungslemma (Korollar 1.97) existiert eine E – B(R)-messbare Abbildung ϕ : E → R mit ϕ(X) = Z. Ist X surjektiv, so ist ϕ eindeutig festgelegt. Wir schreiben dann Z ◦ X −1 := ϕ (auch wenn die Umkehrabbildung X −1 selber nicht existiert). Definition 8.23. Sei Y ∈ L1 (P) und X : (Ω, A) → (E, E). Dann definieren wir die bedingte Erwartung von Y gegeben X = x, kurz E[Y |X = x], als die Funktion ϕ aus dem Faktorisierungslemma mit Z = E[Y |X]. Wir setzen analog P[A|X = x] = E[ A X = x] f¨ur A ∈ A.
F¨ur eine Menge B ∈ A mit P[B] > 0 ist die bedingte Wahrscheinlichkeit P[ · |B] ein W-Maß. Gilt das Gleiche f¨ur P[ · |X = x]? Der Fall liegt hier komplizierter, da wir f¨ur jedes A ∈ A den Ausdruck P[A|X = x] f¨ur x nur bis auf eine Ausnahmemenge, die allerdings von A abh¨angt, definiert haben. Wenn wir die σ-Algebra A nun durch abz¨ahlbar viele A gen¨ugend gut approximieren k¨onnen, besteht Hoffnung, dass die Ausnahmemengen sich zu einer Nullmenge vereinigen. Wir fassen zun¨achst die Begriffe genauer und zeigen dann das angedeutete Ergebnis. ¨ Definition 8.24 (Ubergangskern, Markovkern). Sind (Ω1 , A1 ), (Ω2 , A2 ) Mess¨ (von Ω1 r¨aume, so heißt κ : Ω1 × A2 → [0, ∞] ein (σ–)endlicher Ubergangskern nach Ω2 ), falls (i) ω1 → κ(ω1 , A2 ) ist A1 -messbar f¨ur jedes A2 ∈ A2 .
(ii) A2 → κ(ω1 , A2 ) ist ein (σ–)endliches Maß auf (Ω2 , A2 ) f¨ur jedes ω1 ∈ Ω1 . Ist das Maß in (ii) ein W-Maß f¨ur jedes ω1 ∈ Ω1 , so heißt κ stochastischer Kern oder Markovkern. Wird in (ii) zus¨atzlich κ(ω1 , Ω2 ) ≤ 1 f¨ur jedes ω1 ∈ Ω1 gefordert, so heißt κ sub-Markov’sch oder substochastisch.
176
8 Bedingte Erwartungen
Bemerkung 8.25. Es reicht, in Definition 8.24 die Eigenschaft (i) nur f¨ur Mengen A2 aus einem schnittstabilen Erzeuger E von A2 , der Ω2 oder eine Folge En ↑ Ω2 enth¨alt, zu fordern. Es ist n¨amlich stets
D := A2 ∈ A2 : ω1 → κ(ω1 , A2 ) ist A1 -messbar
¨ ein Dynkin-System (Ubung!). Wegen E ⊂ D ist (Satz 1.19) D = σ(E) = A2 .
3
Beispiel 8.26. (i) Sind (Ω1 , A1 ) und (Ω2 , A2 ) diskrete Messr¨aume, so liefert jede Matrix (Kij ) i∈Ω1 mit nichtnegativen Eintr¨agen und endlichen Zeilensummen j∈Ω2
Ki :=
j∈Ω2
Kij < ∞
f¨ur i ∈ Ω1 ,
¨ einen endlichen Ubergangskern von Ω1 nach Ω2 verm¨oge κ(i, A) =
Kij . Der
j∈A
Kern ist stochastisch, falls Ki = 1 f¨ur jedes i ∈ N und substochastisch, falls Ki ≤ 1 f¨ur jedes i ∈ Ω1 . ¨ (ii) Ist μ2 ein endliches Maß auf Ω2 , dann ist κ(ω1 , · ) ≡ μ2 ein endlicher Ubergangskern. (iii) κ(x, · ) = Poix ist ein stochastischer Kern von [0, ∞) nach N0 (beachte: f¨ur jedes A ⊂ N0 ist x → Poix (A) stetig, also insbesondere messbar). (iv) Sei μ eine Verteilung auf Rn und X eine Zufallsvariable mit PX = μ. Dann definiert κ(x, · ) = P[X + x ∈ · ] = δx ∗ μ einen stochastischen Kern von Rn nach Rn . In der Tat: Die Mengen (−∞, y], y ∈ Rn , bilden einen schnittstabilen Erzeuger von B(Rn ) und x → κ(x, (−∞, y]) = μ((−∞, y − x]) ist linksstetig, also messbar. Nach Bemerkung 8.25 ist daher x → κ(x, A) messbar f¨ur jedes A ∈ B(Rn ). 3 Definition 8.27. Sei Y eine Zufallsvariable mit Werten in einem Messraum (E, E) und F ⊂ A eine Unter-σ-Algebra. Ein stochastischer Kern κY,F von (Ω, F) nach (E, E) heißt regul¨are Version der bedingten Verteilung von Y gegeben F, falls κY,F (ω, B) = P[{Y ∈ B}|F](ω) f¨ur P-fast alle ω ∈ Ω und f¨ur jedes B ∈ E.
Sei speziell F = σ(X) f¨ur eine Zufallsvariable X (in einem beliebigen Messraum (E ′ , E ′ )). Dann heißt der stochastische Kern (x, A) → κY,X (x, A) = P[{Y ∈ A}|X = x] = κY,σ(X) (X −1 (x), A) (die Funktion aus dem Faktorisierungslemma mit beliebiger Festsetzung f¨ur x ∈ X(Ω)) eine regul¨are Version der bedingten Verteilung von Y gegeben X.
Satz 8.28 (Regul¨are bedingte Verteilungen in R). Ist Y : (Ω, A) → (R, B(R)) reellwertig, dann existiert eine regul¨are Version κY,F der bedingten Verteilungen P[{Y ∈ · }|F].
8.3 Regul¨are Version der bedingten Verteilung
177
Beweis. Die Strategie besteht darin, eine messbare Version der Verteilungsfunktion der bedingten Verteilung von Y zu konstruieren, indem diese zun¨achst f¨ur rationale Werte festgelegt wird (bis auf eine Nullmenge) und dann auf die reellen Zahlen fortgesetzt wird. F¨ur r ∈ Q sei F (r, · ) eine Version der bedingten Wahrscheinlichkeit P[Y ∈ (−∞, r]|F]. F¨ur r ≤ s ist offenbar {Y ∈(−∞,r]} ≤ {Y ∈(−∞,s]} , also gibt es nach Satz 8.14(ii) (Monotonie der bedingten Erwartung) eine Nullmenge Ar,s ∈ F mit F (r, ω) ≤ F (s, ω) f¨ur jedes ω ∈ Ω \ Ar,s . Nach Satz 8.14(viii) (majorisierte Konvergenz) gibt es Nullmengen (Br )r∈Q ∈ F und C ∈ F, sodass 1 lim F r + , ω = F (r, ω) f¨ur jedes ω ∈ Ω \ Br und n→∞ n lim F (−n, ω) = 0,
lim F (n, ω) = 1
n→∞
Setze N :=
r,s∈Q
Ar,s ∪
n→∞
r∈Q
f¨ur jedes ω ∈ Ω \ C.
Br ∪ C. F¨ur ω ∈ Ω \ N definieren wir
F˜ (z, ω) := inf F (r, ω) : r ∈ Q, r ≥ z
f¨ur alle z ∈ R.
Da F ( · , ω) monoton wachsend ist, ist F˜ ( · , ω) monoton wachsend und rechtsstetig in jedem z ∈ R \ Q. Da F ( · , ω) zudem rechtsstetig ist, ist F˜ ( · , ω) rechtsstetig in jedem z ∈ Q. Also ist F˜ ( · , ω) eine Verteilungsfunktion f¨ur jedes ω ∈ Ω \ N . F¨ur ω ∈ N setze F˜ ( · , ω) = F0 , wobei F0 eine beliebige fest gew¨ahlte Verteilungsfunktion ist. F¨ur jedes ω ∈ Ω definieren wir κ(ω, · ) als das durch die Verteilungsfunktion F˜ ( · , ω) definierte W-Maß auf (Ω, A). F¨ur r ∈ Q und B = (−∞, r] ist dann ω → κ(ω, B) = P[Y ∈ B |F](ω)
N c (ω)
+ F0 (r)
N (ω)
(8.8)
F-messbar. Nun ist {(−∞, r], r ∈ Q} ein schnittstabiler Erzeuger von B(R). Nach Bemerkung 8.25 gilt die Messbarkeit also f¨ur jedes B ∈ B(R), und damit ist κ als stochastischer Kern erkannt. Wir m¨ussen noch zeigen, dass κ eine Version der bedingten Verteilungen ist. F¨ur A ∈ F, r ∈ Q und B = (−∞, r] ist nach (8.8) ) * ) * κ(ω, B) P[dω] = P Y ∈ B |F dP = P A ∩ {Y ∈ B} . A
A
Als Funktion von B sind beide Seiten
endliche Maße auf B(R), die auf dem schnittstabilen Erzeuger (−∞, r], r ∈ Q u¨ bereinstimmen. Nach dem Eindeutigkeitssatz (Lemma 1.42) gilt daher f¨ur jedes B ∈ B(R) Gleichheit und damit P-fast sicher 2 κ( · , B) = P[Y ∈ B |F], also κ = κY,F .
178
8 Bedingte Erwartungen
Beispiel 8.29. Seien Z1 , Z2 unabh¨angig und Poisson-verteilt mit den Parametern ¨ λ1 , λ2 ≥ 0. Dann kann man zeigen (Ubung!), dass (mit Y = Z1 und X = Z1 + Z2 ) P[Z1 = k Z1 + Z2 = n] = bn,p (k) f¨ur k = 0, . . . , n, wobei p =
λ1 λ1 +λ2
ist.
3
Dieses Beispiel ließ sich aber im Grunde genommen auch noch mit elementaren Mitteln bearbeiten. Die volle St¨arke des Ergebnisses nutzen wir in den folgenden Beispielen aus. Beispiel 8.30. Seien X und Y reelle Zufallsvariablen mit gemeinsamer Dichtefunktion f (bez¨uglich des Lebesgue-Maßes λ2 auf R2 ). F¨ur x ∈ R setzen wir fX (x) = f (x, y) λ(dy). R
−1 Offenbar ist fX (x) > 0 f¨ur PX -f.a. x ∈ R und fX ist die Dichte des absolutstetigen Anteils des Lebesgue-Maßes λ bez¨uglich PX . Die regul¨are Version der bedingten Verteilung von Y gegeben X hat die Dichte
P[Y ∈ dy |X = x] f (x, y) = fY |X (x, y) := f¨ur PX [dx]-f.a. x ∈ R. (8.9) dy fX (x) In 0 der Tat ist nach dem Satz von Fubini (siehe Satz 14.16) die Abbildung x → f (x, y) λ(dy) messbar f¨ur jedes B ∈ B(R), und f¨ur A, B ∈ B(R) gilt B Y |X P[X ∈ dx] fY |X (x, y) λ(dy) A B −1 = P[X ∈ dx] fX (x) f (x, y) λ(dy) B A = λ(dx) f (x, y) λ(dy) A B = f dλ2 = P[X ∈ A, Y ∈ B]. 3 A×B
.
Beispiel 8.31. Seien μ1 , μ2 ∈ R, σ1 , σ2 > 0 und Z1 , Z2 unabh¨angig und Nμi ,σi2 verteilt (i = 1, 2). Dann existiert eine regul¨are Version der bedingten Verteilung P[Z1 ∈ · |Z1 + Z2 = x]
f¨ur x ∈ R.
Setzen wir X = Z1 +Z2 und Y2 = Z12 , so2ist (X, Y ) ∼ Nμ,Σ bivariatnormalverteilt σ1 + σ 2 σ 1 μ1 + μ2 und mit μ := mit Kovarianzmatrix Σ := . Wegen σ12 σ12 μ1
8.3 Regul¨are Version der bedingten Verteilung
Σ −1 = wo B =
σ1 −σ1 0 σ2
2 2 −1 σ1 σ2
σ12 −σ12 2 2 −σ1 σ1 + σ22
179
= (σ12 σ22 )−1 B T B,
ist, hat (X, Y ) die Dichte (siehe Beispiel 1.105(ix))
= =2 1 = x − (μ1 + μ2 ) = = = f (x, y) = det(2π Σ) exp − 2 2 =B = y − μ1 2σ1 σ2
2 2 2 −1/2 σ12 (y − (x − μ1 ))2 + σ22 (y − μ2 )2 = 4π σ1 σ2 exp − 2σ12 σ22
2 2 = Cx exp − (y − μx ) /2σx , −1/2
wobei Cx eine Normalisierungskonstante ist und μx = μ1 +
σ12 (x − μ1 − μ2 ) σ12 + σ22
und
σx2 =
σ12 σ22 . σ12 + σ22
Nach (8.9) hat P[Z1 ∈ · |Z1 + Z2 = x] die Dichte Cx (y − μx )2 y → fY |X (x, y) = exp − , fX (x) 2σx2 also ist P[Z1 ∈ · |Z1 + Z2 = x] = Nμx ,σx2 f¨ur fast alle x ∈ R.
3
Beispiel 8.32. Sind X und Y unabh¨angige, reelle Zufallsvariablen, so ist f¨ur PX fast alle x ∈ R P[X + Y ∈ · |X = x] = δx ∗ PY . 3 Die Situation ist noch nicht vollends zufriedenstellend, da wir die sehr starke Annahme gemacht haben, dass Y reellwertig ist. Urspr¨unglich waren wir aber auch an einer Situation interessiert, wo Y Werte in Rn annimmt, oder sogar in allgemeineren R¨aumen. Wir dehnen nun das Ergebnis auf eine gr¨oßere Klasse von Wertebereichen von Y aus. Definition 8.33. Zwei Messr¨aume (E, E) und (E ′ , E ′ ) heißen isomorph, falls es eine bijektive Abbildung ϕ : E → E ′ gibt, sodass ϕ messbar ist bez¨uglich E–E ′ und die Umkehrabbildung ϕ−1 messbar ist bez¨uglich E ′ –E. Wir nennen dann ϕ einen Messraum-Isomorphismus. Sind zudem μ und μ′ Maße auf (E, E) und (E ′ , E ′ ) und gilt μ′ = μ ◦ ϕ−1 , so ist ϕ ein Maßraum-Isomorphismus, und die Maßr¨aume (E, E, μ) und (E ′ , E ′ , μ′ ) heißen isomorph. Definition 8.34. Ein Messraum (E, E) heißt Borel’scher Raum, falls es eine Borel’sche Menge B ∈ B(R) gibt, sodass (E, E) und (B, B(B)) isomorph sind.
180
8 Bedingte Erwartungen
Ein separabler topologischer Raum, dessen Topologie durch eine vollst¨andige Metrik erzeugt wird, heißt polnischer Raum. Speziell sind Rd , Zd , RN , (C([0, 1]), · ∞ ) und so fort polnisch. Abgeschlossene Teilmengen von polnischen R¨aumen sind ebenfalls polnisch. Wir kommen auf polnische R¨aume im Zusammenhang mit der Konvergenz von Maßen in Kapitel 13 zur¨uck. Ohne Beweis bringen wir das folgende topologische Ergebnis (siehe etwa [37, Theorem 13.1.1]). Satz 8.35. Ist E ein polnischer Raum mit Borel’scher σ-Algebra E, dann ist (E, E) ein Borel’scher Raum. Satz 8.36 (Regul¨are bedingte Verteilungen). Sei F ⊂ A eine Unter-σ-Algebra. Sei Y eine Zufallsvariable mit Werten in einem Borel’schen Raum (E, E) (also zum Beispiel E polnisch, E = Rd , E = R∞ , E = C([0, 1]) usw.). Dann existiert eine regul¨are Version κY,F der bedingten Verteilungen P[{Y ∈ · }|F]. Beweis. Sei B ∈ B(R) und ϕ : E → B ein Messraum-Isomorphismus. Mit Satz 8.28 erhalten wir die regul¨aren bedingten Verteilungen κY ′ ,F der reellen Zufallsvariablen Y ′ = ϕ ◦ Y . Wir setzen nun κY,F (ω, A) = κY ′ ,F (ω, ϕ(A)) f¨ur A ∈ E. 2 Abschließend greifen wir das eingangs betrachtete Beispiel wieder auf und k¨onnen nun die dort in Anf¨uhrungszeichen gemachte Aussage formal hinschreiben. Sei also X uniform auf [0, 1] verteilt, und gegeben den Wert X = x seien (Y1 , . . . , Yn ) unabh¨angig Berx –verteilt. Wir setzen Y = (Y1 , . . . , Yn ). Nach Satz 8.36 (mit E = {0, 1}n ⊂ Rn ) existieren die regul¨aren bedingten Verteilungen κY,X (x, · ) = P[Y ∈ · |X = x]
f¨ur x ∈ [0, 1].
In der Tat ist f¨ur fast alle x ∈ [0, 1] P[Y ∈ · |X = x] = (Berx )⊗n . Satz 8.37. Sei X ein Zufallsvariable auf (Ω, A, P) mit Werten in einem Borel’schen Raum (E, E). Sei F ⊂ A eine σ-Algebra und κX,F eine Version der regul¨aren bedingten Verteilungen von X gegeben F. Sei ferner f : E → R messbar und E[|f (X)|] < ∞. Dann ist E[f (X)|F](ω) = f (x) κY,F (ω, dx) f¨ur P-fast alle ω. (8.10) Beweis. Wir rechnen nach, dass die rechte Seite in (8.10) die Eigenschaften des bedingten Erwartungswertes hat. Es reicht, den Fall f ≥ 0 zu betrachten. Indem wir f durch Elementarfunktionen approximieren, sehen wir, dass die rechte Seite in (8.10) messbar bez¨uglich F ist
8.3 Regul¨are Version der bedingten Verteilung
181
(siehe Lemma 14.20 f¨ur ein formales Argument). Nach Satz 1.96 existieren dann Mengen A1 , A2 , . . . ∈ E und Zahlen α1 , α2 , . . . ≥ 0 mit gn :=
n
αi
i=1
n→∞ Ai
−→ f.
F¨ur jedes n ∈ N und B ∈ F ist nun E[gn (X)
B]
= = =
n
i=1 n
i=1 n
αi P[{X ∈ Ai } ∩ B] αi
B
αi
i=1
=
n B i=1
=
B
P[{X ∈ Ai }|F] P[dω] κX,F (ω, Ai ) P[dω]
B
αi κX,F (ω, Ai ) P[dω] gn (x) κX,F (ω, dx) P[dω].
Nach dem Satz von der 0 monotonen Konvergenz konvergiert f¨ur fast jedes ω das innere Integral gegen f (x)κX,F (ω, dx). Erneute Anwendung des Satzes von der monotonen Konvergenz liefert f (x) κX,F (ω, dx) P[dω]. 2 E[f (X) B ] = lim E[gn (X) B ] = n→∞
B
¨ Ubung 8.3.1. Sei (E, E) ein Borel’scher Raum und μ ein atomloses Maß (das heißt, μ({x}) = 0 f¨ur jedes x ∈ E). Man zeige: F¨ur jedes A ∈ Eund jedes n ∈ N n existieren paarweise disjunkte Mengen A1 , . . . , An ∈ E mit k=1 Ak = A und ♣ μ(Ak ) = μ(A)/n f¨ur jedes k = 1, . . . , n. ¨ Ubung 8.3.2. Seien p, q ∈ (1, ∞) mit p1 + 1q = 1, und seien X ∈ Lp (P) und Y ∈ Lq (μ). Sei F ⊂ A eine σ-Algebra. Man zeige mit Hilfe des vorangehenden Satzes die bedingte Version der H¨older’schen Ungleichung: *1/p ) q *1/q * ) ) E |Y | F fast sicher. ♣ E |XY | F ≤ E |X|p F
¨ Ubung 8.3.3. Sei (X, Y ) uniform verteilt auf B := {(x, y) ∈ R2 : x2 + y 2 ≤ 1} beziehungsweise auf [−1, 1]2 .
(i) Man bestimme jeweils die bedingte Verteilung von Y gegeben X = x. √ (ii) Sei R := X 2 + Y 2 und Θ = arctan(Y /X). Man bestimme jeweils die bedingte Verteilung von Θ gegeben R = r. ♣
182
8 Bedingte Erwartungen
¨ Ubung 8.3.4. Sei (X, Y ) uniform verteilt auf G := {(x, y) ∈ R2 : x2 + y 2 ≤ 1}. Man bestimme die bedingte Verteilung von Y gegeben X = x. ♣ ¨ Ubung 8.3.5. Sei A ⊂ Rn eine Borel-messbare Menge mit endlichem LebesgueMaß λ(A) ∈ (0, ∞), und sei B ⊂ A messbar mit λ(B) > 0. Zeige: Ist X uniform verteilt (siehe Beispiel 1.75) auf A, so ist die bedingte Verteilung von X gegeben {X ∈ B} die uniforme Verteilung auf B. ♣ ¨ Ubung 8.3.6. (Borel’sches Paradoxon) Wir wollen die Erde als Kugel ansehen und betrachten einen zuf¨alligen uniform auf der Erdoberfl¨ache verteilten Punkt X. Wir wollen die Koordinaten von X durch die geografische L¨ange Θ und Breite Φ angeben. Allerdings soll, entgegen der u¨ blichen Konvention, Θ die Werte in [0, π) annehmen und Φ in [−π, π). Damit wird f¨ur festes Θ ein kompletter Großkreis beschrieben, wenn Φ seinen Wertebereich durchl¨auft. Ist nun Φ gegeben Θ uniform verteilt auf [−π, π)? Man sollte annehmen, dass jeder Punkt auf dem Großkreis gleich wahrscheinlich ist. Dies ist jedoch nicht der Fall! Der etwas aufgedickte“ ¨” dicker Großkreis, mit L¨angen zwischen Θ und Θ + ε (f¨ur kleines ε) ist am Aquator als an den Polen. Lassen wir ε → 0 gehen, so sollten wir, zumindest intuitiv, die bedingten Wahrscheinlichkeiten erhalten. (i) Man zeige: P[{Φ ∈ · }|Θ = θ] hat f¨ur fast alle θ die Dichte 41 | cos(φ)| f¨ur φ ∈ [−π, π).
(ii) Man zeige: P[{Θ ∈ · }|Φ = φ] = U[0,π) f¨ur fast alle φ.
Hinweis: Man zeige, dass Θ und Φ unabh¨angig sind und bestimme die Verteilungen von Θ und Φ. ♣ ¨ Ubung 8.3.7 (Verwerfungmethode zur Erzeugung von Zufallsvariablen). Sei E h¨ochstens abz¨ahlbar und P und Q Wahrscheinlichkeitsmaße auf E. Es gebe ur jedes e ∈ E mit P ({e}) > 0. Seien ein c > 0 mit f (e) := Q({e}) P ({e}) ≤ c f¨ X1 , X2 , . . . unabh¨angige Zufallsvariablen mit Verteilung P und U1 , U2 , . . . davon unabh¨angige u.i.v. Zufallsvariablen, die uniform auf [0, 1] verteilt sind. W¨ahle N als die (zuf¨allige) kleinste nat¨urliche Zahl n, sodass Un ≤ f (Xn )/c, und setze Y := XN . Man zeige: Y hat die Verteilung Q. Anmerkung: Dieses Verfahren zur Erzeugung einer Zufallsvariable mit einer gew¨unschten Verteilung Q wird auch Verwerfungsmethode (rejection sampling) genannt, denn man kann es so interpretieren: Die Zufallsvariable X1 ist ein Vorschlag f¨ur den m¨oglichen Wert von Y . Dieser Vorschlag wird mit Wahrscheinlichkeit f (X1 )/c angenommen, ansonsten wird X2 betrachtet und so weiter. ♣ ¨ Ubung 8.3.8. Sei E ein polnischer Raum und P, Q ∈ M1 (R), sowie c > 0 mit ¨ f := dQ ♣ dP ≤ c P -fast sicher. Zeige die analoge Aussage zu Ubung 8.3.7.
9 Martingale
Einer der wichtigsten Begriffe der modernen Wahrscheinlichkeitstheorie ist das Martingal, das die Idee eines fairen Spiels (Xn )n∈N0 formalisiert. In diesem Kapitel wird der Begriffsapparat f¨ur die Beschreibung allgemeiner stochastischer Prozesse aufgebaut. Danach werden Martingale und das diskrete stochastische Integral eingef¨uhrt und auf ein Modell der Finanzmathematik angewandt.
9.1 Prozesse, Filtrationen, Stoppzeiten Wir f¨uhren die grundlegenden technischen Begriffe f¨ur die Behandlung stochastischer Prozesse, darunter Martingale, ein. Um die Begriffe sp¨ater in einem anderen Kontext weiter verwenden zu k¨onnen, streben wir eine gr¨oßere Allgemeinheit an als f¨ur die Behandlung von Martingalen notwendig w¨are. Im Folgenden sei stets (E, τ ) ein polnischer Raum mit Borel’scher σ-Algebra E. Weiter sei (Ω, F, P) ein W-Raum und I ⊂ R beliebig. Meistens interessieren uns die F¨alle I = N0 , I = Z, I = [0, ∞) und I ein Intervall. Definition 9.1 (Stochastischer Prozess). Sei I ⊂ R. Eine Familie von Zufallsvariablen X = (Xt , t ∈ I) (auf (Ω, F, P)) mit Werten in (E, E) heißt stochastischer Prozess mit Zeitbereich I und Zustandsraum E. Bemerkung 9.2. Etwas allgemeiner werden manchmal auch beliebig indizierte Familien von Zufallsvariablen stochastischer Prozess genannt. Beispielsweise ist dies beim Poisson’schen Punktprozess aus Kapitel 24 der Fall. 3 Bemerkung 9.3. Oftmals werden wir (gewissen Traditionen folgend) einen stochastischen Prozess auch als X = (Xt )t∈I schreiben, wenn wir weniger den Aspekt betonen wollen, dass X eine Familie von Zufallsvariablen ist, sondern den zeitlichen Verlauf der Beobachtungen st¨arker gewichten. Formal sollen beide Objekte identisch sein. 3 Beispiel 9.4. Sei I = N0 und (Yn , n ∈ N) eine Familie von u.i.v. Zufallsvariablen auf einem W-Raum (Ω, F, P), mit P[Yn = 1] = 1 − P[Yn = −1] = 21 . Setze
184
9 Martingale
E = Z (mit der diskreten Topologie) und Xt =
t
n=1
Yn
f¨ur jedes t ∈ N0 .
(Xt , t ∈ N0 ) heißt symmetrische einfache Irrfahrt auf Z.
3
Beispiel 9.5. Der Poissonprozess X = (Xt )t≥0 mit Intensit¨at α > 0 (siehe Kapitel 5.5) ist ein stochastischer Prozess mit Wertebereich N0 . 3 Wir f¨uhren weitere Begriffe ein: Definition 9.6. Ist X eine Zufallsvariable (oder ein stochastischer Prozess), so schreiben wir auch L[X] = PX f¨ur die Verteilung von X. Ist G ⊂ F eine σAlgebra, so schreiben wir L[X |G] f¨ur eine regul¨are Version der bedingten Verteilung von X gegeben G. Definition 9.7. Ein stochastischer Prozess X = (Xt )t∈I mit Werten in E heißt (i) reellwertig, falls E = R, (ii) Prozess mit unabh¨angigen Zuw¨achsen, falls X reellwertig ist und f¨ur jedes n ∈ N und alle t0 , . . . , tn ∈ I mit t0 < t1 < . . . < tn gilt (Xti − Xti−1 )i=1,...,n ist unabh¨angig, (iii) Gauß’scher Prozess, falls X reellwertig ist und f¨ur n ∈ N und t1 , . . . , tn ∈ I gilt (Xt1 , . . . , Xtn ) ist n-dimensional normalverteilt, (iv) integrierbar (beziehungsweise quadratintegrierbar), falls X reellwertig ist und E[|Xt |] < ∞ (beziehungsweise E[(Xt )2 ] < ∞) f¨ur jedes t ∈ I gilt. Sei nun zus¨atzlich I ⊂ R abgeschlossen unter Addition. Dann heißt X ) * ) * (v) station¨ar, falls L (Xs+t )t∈I = L (Xt )t∈I f¨ur jedes s ∈ I,
) (vi) Prozess mit station¨ a ren Zuw¨ a chsen, falls X reellwertig ist und L Xs+t+r − * ) * Xt+r = L Xs+r − Xr f¨ur alle r, s, t ∈ I. (Ist 0 ∈ I, so reicht es, r = 0 zu betrachten.)
Beispiel 9.8. (i) Der Poissonprozess mit Intensit¨at θ, sowie die Irrfahrt auf Z sind Prozesse mit station¨aren, unabh¨angigen Zuw¨achsen. (ii) Sind Xt , t ∈ I, u.i.v. Zufallsvariablen, so ist (Xt )t∈I station¨ar.
9.1 Prozesse, Filtrationen, Stoppzeiten
185
(iii) Sei (Xn )n∈Z reellwertig und station¨ar, und seien k ∈ N und c1 , . . . , ck ∈ R. Dann definiert k ci Xn−i Yn := i=1
einen station¨aren Prozess Y = (Yn )n∈Z . Gilt c1 , . . . , ck ≥ 0 und c1 + . . . + ck = 1, 3 so wird Y das gleitende Mittel von X (mit Gewichten c1 , . . . , ck ) genannt. Die beiden folgenden Definitionen sind auch f¨ur allgemeinere halbgeordnete Mengen I sinnvoll, wir beschr¨anken uns jedoch weiterhin auf den Fall I ⊂ R. Definition 9.9 (Filtration). Eine Familie F = (Ft , t ∈ I) von σ-Algebren mit Ft ⊂ F f¨ur jedes t ∈ I, heißt Filtration, falls Fs ⊂ Ft f¨ur alle s, t ∈ I mit s ≤ t. Definition 9.10 (adaptiert). Ein stochastischer Prozess X = (Xt , t ∈ I) heißt adaptiert an die Filtration F, falls Xt bez¨uglich Ft messbar ist f¨ur jedes t ∈ I. Gilt Ft = σ(Xs , s ≤ t) f¨ur jedes t ∈ I, so schreiben wir F = σ(X) und nennen F die von X erzeugte Filtration.
Bemerkung 9.11. Offenbar ist ein stochastischer Prozess stets an seine erzeugte Filtration adaptiert. Die erzeugte Filtration ist die kleinste“ Filtration, an die ein ” Prozess adaptiert ist. 3
Definition 9.12 (vorhersagbar / previsibel). Ein stochastischer Prozess X = (Xn , n ∈ N0 ) heißt vorhersagbar (oder previsibel) bez¨uglich der Filtration F = (Fn , n ∈ N0 ), falls X0 konstant ist und f¨ur jedes n ∈ N gilt: Xn ist Fn−1 -messbar. Beispiel9.13. Seien I = N0 , und seien Y1 , Y2 , . . . reelle Zufallsvariablen sowie n Xn := m=1 Ym . Setze F0 = {∅, Ω}
und
Fn = σ(Y1 , . . . , Yn )
f¨ur n ∈ N.
Dann ist F = (Fn , n ∈ N0 ) = σ(Y ) die von Y = (Yn )n∈N erzeugte Filtration, und X ist an F adaptiert, also ist σ(X) ⊂ F. Offenbar ist (Y1 , . . . , Yn ) messbar bez¨uglich σ(X1 , . . . , Xn ), also σ(Y ) ⊂ σ(X), und daher gilt auch F = σ(X). n := n Sei nun X m=1 [0,∞) (Ym ). Dann ist auch X an F adaptiert, jedoch ist im Allgemeinen F σ(X). 3
Beispiel 9.14. Sei I = N0 , und seien D1 , D2 , . . . unabh¨angig und identisch verteilt mit P[Di = −1] = P[Di = 1] = 21 f¨ur jedes i ∈ N. Setze D = (Di )i∈N und
186
9 Martingale
F = σ(D). Wir interpretieren Di als das Ergebnis einer Wette, die uns pro Spielschein einen Gewinn oder Verlust von einer Geldeinheit bringt. Vor jedem Spiel entscheiden wir, wie viele Spielscheine wir einsetzen wollen. Die Anzahl Hn der in der n-ten Runde eingesetzten Spielscheine darf nur von den Ergebnissen der bisherigen Spiele abh¨angen, nicht aber von Dn und auch nicht von einem Dm f¨ur m > n. Mit anderen Worten: Es muss eine Funktion Fn : {−1, 1}n−1 → N geben mit Hn = Fn (D1 , . . . , Dn−1 ). (F¨ur das Petersburger Spiel (Beispiel 4.22) galt beispielsweise Fn (x1 , . . . , xn−1 ) = 2n−1 {x1 =x2 =...=xn−1 =0} .) Damit ist H dann vorhersagbar. Andererseits besitzt jedes vorhersagbare H die Gestalt Hn = Fn (D1 , . . . , Dn−1 ), n ∈ N, f¨ur gewisse Funktionen Fn : {−1, 1}n−1 → N, kommt also als Spielstrategie in Betracht. 3
Definition 9.15 (Stoppzeit). Eine Zufallsvariable τ mit Werten in I ∪ {∞} heißt Stoppzeit (bez¨uglich F), falls f¨ur jedes t ∈ I gilt, dass {τ ≤ t} ∈ Ft . Die Idee hinter dieser Definition ist, dass Ft den Kenntnisstand eines Beobachters zur Zeit t wiedergibt. Der Wahrheitsgehalt der Aussage {τ ≤ t} kann also aufgrund der Beobachtungen bis zur Zeit t bestimmt werden. Satz 9.16. Ist I abz¨ahlbar, so ist τ genau dann eine Stoppzeit, wenn {τ = t} ∈ Ft f¨ur jedes t ∈ I gilt. ¨ Beweis. Ubung!
2
Beispiel 9.17. Seien I ⊂ [0, ∞) abz¨ahlbar und K ⊂ R messbar, sowie X ein reeller, adaptierter stochastischer Prozess. Wir betrachten den Zeitpunkt, zu dem X erstmals in K ist: τK := inf{t ≥ 0 : Xt ∈ K}. Intuitiv ist klar, dass τK eine Stoppzeit ist, denn ob {τ ≤ t} eintritt oder nicht, k¨onnen wir aufgrund der Beobachtungen von X bis zur Zeit t entscheiden. Formal k¨onnen wir argumentieren, indem wir bemerken, dass {Xs ∈ K} ∈ Fs ⊂ Ft f¨ur s ≤ t gilt. Also ist auch die abz¨ahlbare Vereinigung dieser Mengen wieder in Ft : {Xs ∈ K} ∈ Ft . {τK ≤ t} = s∈I∩[0,t]
Betrachte nun den zuf¨alligen Zeitpunkt τ := sup{t ≥ 0 : Xt ∈ K} des letzten Aufenthalts von X in K. Zu fester Zeit t k¨onnen wir aufgrund der bisherigen Beobachtungen nicht entscheiden, ob X bereits das letzte Mal in K war. Hierzu bed¨urfte es der Prophetie. Also ist τ im Allgemeinen keine Stoppzeit. 3
9.1 Prozesse, Filtrationen, Stoppzeiten
187
Lemma 9.18. Seien σ und τ Stoppzeiten. Dann gilt: (i) σ ∨ τ und σ ∧ τ sind Stoppzeiten.
(ii) Gilt σ, τ ≥ 0, dann ist auch σ + τ eine Stoppzeit.
(iii) Ist s ≥ 0, dann ist τ + s eine Stoppzeit, jedoch im Allgemeinen nicht τ − s. Bevor wir zum einfachen formalen Beweis kommen, wollen wir festhalten, dass insbesondere (i) und (iii) Eigenschaften sind, die wir von Stoppzeiten erwarten konnten: Bei (i) ist die Interpretation klar. F¨ur (iii) beachte man, dass τ − s um s in die Zukunft blickt (denn {τ −s ≤ t} ∈ Ft+s ), w¨ahrend τ +s um s in die Vergangenheit schaut. Stoppzeiten ist aber nur der Blick in die Vergangenheit erlaubt. Beweis. (i) F¨ur t ∈ I ist {σ ∨ τ ≤ t} = {σ ≤ t} ∩ {τ ≤ t} ∈ Ft und {σ ∧ τ ≤ t} = {σ ≤ t} ∪ {τ ≤ t} ∈ Ft . (ii) Sei t ∈ I. Nach (i) sind τ ∧ t und σ ∧ t Stoppzeiten f¨ur jedes t ∈ I. Speziell ist f¨ur jedes s ≤ t dann {τ ∧ t ≤ s} ∈ Fs ⊂ Ft . Andererseits ist f¨ur s > t stets τ ∧ t ≤ s. Also sind τ ′ := (τ ∧ t) + {τ >t} und σ ′ := (σ ∧ t) + {σ>t} messbar bez¨uglich Ft und damit auch τ ′ + σ ′ . Es folgt {τ + σ ≤ t} = {τ ′ + σ ′ ≤ t} ∈ Ft . (iii) F¨ur τ + s folgt dies aus (ii) (mit der Stoppzeit σ ≡ s). F¨ur τ − s beachte man, dass in der Definition der Stoppzeit f¨ur jedes t ∈ I lediglich gefordert wird, dass {τ − s ≤ t} = {τ ≤ t + s} ∈ Ft+s . Im Allgemeinen ist aber Ft+s eine echte 2 Obermenge von Ft , also τ − s keine Stoppzeit. Definition 9.19. Ist τ eine Stoppzeit, so heißt
Fτ := A ∈ F : A ∩ {τ ≤ t} ∈ Ft f¨ur jedes t ∈ I die σ-Algebra der τ -Vergangenheit.
Beispiel 9.20. Sei I h¨ochstens abz¨ahlbar, X ein adaptierter, reellwertiger stochastischer Prozess, K ∈ R und τ = inf{t : Xt ≥ K} die Stoppzeit des ersten Eintretens in [K, ∞). Betrachte die Ereignisse A = {sup{Xt : t ∈ I} > K − 5} und B = {sup{Xt : t ∈ I} > K + 5}.
F¨ur jedes t ∈ I ist {τ ≤ t} ⊂ A, also ist A ∩ {τ ≤ t} = {τ ≤ t} ∈ Ft . Es folgt / Fτ , denn wir k¨onnen bis zur Zeit τ eben A ∈ Fτ . Jedoch ist im Allgemeinen B ∈ nicht entscheiden, ob X auch die H¨urde K + 5 noch nehmen wird oder nicht. 3 Lemma 9.21. Sind σ und τ Stoppzeiten mit σ ≤ τ , so gilt Fσ ⊂ Fτ . Beweis. Sei A ∈ Fσ und t ∈ I. Dann ist A ∩ {σ ≤ t} ∈ Ft . Da τ eine Stoppzeit ist, ist auch {τ ≤ t} ∈ Ft . Wegen σ ≤ τ ist also
A ∩ {τ ≤ t} = A ∩ {σ ≤ t} ∩ {τ ≤ t} ∈ Ft . 2
188
9 Martingale
Definition 9.22. Ist τ < ∞ Stoppzeit, dann setzen wir Xτ (ω) := Xτ (ω) (ω). Lemma 9.23. Ist I h¨ochstens abz¨ahlbar und X adaptiert, sowie τ < ∞ eine Stoppzeit, dann ist Xτ messbar bez¨uglich Fτ . Beweis. Sei A messbar und t ∈ I. F¨ur jedes s ≤ t ist dann {τ = s} ∩ Xs−1 (A) ∈ Fs ⊂ Ft . Also ist Xτ−1 (A) ∩ {τ ≤ t} = {τ = s} ∩ Xs−1 (A) ∈ Ft . 2 s∈I s≤t
F¨ur u¨ berabz¨ahlbares I ist die Abbildung I → E, t → Xt im Allgemeinen nicht messbar, also ist auch die Zusammensetzung Xτ nicht immer messbar. Hier brauchen wir Zusatzannahmen an die Regularit¨at der Pfade t → Xt (ω), zum Beispiel Rechtsstetigkeit. Auf diesen Punkt kommen wir in Kapitel 21 zur¨uck und belassen es hier einstweilen bei der Warnung.
9.2 Martingale Als ein faires Spiel mit mehreren Runden w¨urden wir sicherlich ohne Z¨ogern die sukzessive Auszahlung von Gewinnen Y1 , Y2 , . . . bezeichnen, falls Y1 , Y2 , . . . u.i.v. mit E[Y1 ] = 0 sind. In diesem Fall ist der Prozess X der Partialsummen Xn = Y1 + . . . + Yn integrierbar und E[Xn Fm ] = Xm , wenn m < n ist (wobei F = σ(X)). Wir wollen diese Gleichung als Definitionsgleichung f¨ur ein faires Spiel, das wir im Folgenden ein Martingal nennen, heranziehen und so die Bedingungen der Unabh¨angigkeit und der identisch verteilten Zuw¨achse erheblich abschw¨achen. Die Tragweite der folgenden Begriffsbildung wird sich erst nach und nach herausstellen. Definition 9.24. Sei (Ω, F, P) ein Wahrscheinlichkeitsraum, I ⊂ R, und F eine Filtration. Sei X = (Xt )t∈I ein reellwertiger, adaptierter stochastischer Prozess mit E[|Xt |] < ∞ f¨ur jedes t ∈ I. X heißt (bez¨uglich F) ein Martingal, falls E[Xt Fs ] = Xs f¨ur alle s, t ∈ I mit t > s, Submartingal, falls E[Xt Fs ] ≥ Xs f¨ur alle s, t ∈ I mit t > s, Supermartingal, falls E[Xt Fs ] ≤ Xs f¨ur alle s, t ∈ I mit t > s.
Bemerkung 9.25. Offenbar ist f¨ur Martingale t → E[Xt ] konstant, f¨ur Submartingale monoton wachsend und f¨ur Supermartingale monoton fallend. 3 Bemerkung 9.26. Die Etymologie des Begriffs Martingal ist nicht v¨ollig gekl¨art. Das franz¨osische la martingale (urspr¨unglich provenzalisch martegalo nach der
9.2 Martingale
189
Stadt Martiques) bedeutet im Reitsport einen beim Spring- und Gel¨andereiten ver” wendeten Hilfsz¨ugel“ als Teil des Zaumzeugs ([22]). Manchmal wird die verzweigte Form, insbesondere des Jagdmartingals (franz¨osisch: la martingale a` anneaux, englisch: running martingale), als sinnbildlich f¨ur die Verdoppelungsstrategie im Petersburger Spiel angesehen. Eben diese Verdoppelungsstrategie ist die zweite Bedeutung von la martingale. Von hier aus scheint eine Bedeutungsverschiebung hin zum mathematischen Begriff durchaus m¨oglich. Eine andere Herleitung geht, statt vom Aussehen, von der Funktion des Zaumzeugs aus und nennt das Bestreben einer Spielstrategie, den Zufall im Zaume zu halten. So wird der Begriff des Martingals zun¨achst auf Spielstrategien im Allgemeinen, dann auf die Verdoppelungsstrategie im Speziellen u¨ bertragen. 3 Bemerkung 9.27. Ist I = N, I = N0 oder I = Z, so reicht es, jeweils nur t = s + 1 zu betrachten, denn nach der Turmeigenschaft der bedingten Erwartung (Satz 8.14(iv)) ist * ) E[Xs+2 Fs ] = E E[Xs+2 Fs+1 ] Fs ,
und wenn die definierende Gleichung (beziehungsweise Ungleichung) in einem Zeitschritt gilt, dann zieht sie sich durch in den zweiten Zeitschritt und so fort. 3 Bemerkung 9.28. Geben wir die Filtration F nicht explizit an, so nehmen wir stillschweigend an, dass F die von X erzeugte Filtration Ft = σ(Xs , s ≤ t) ist. 3 Bemerkung 9.29. Sind F und F′ Filtrationen mit Ft ⊂ Ft′ f¨ur jedes t, und ist X an F adaptiert und ein F′ -(Sub-, Super-)Martingal, dann ist X auch ein (Sub-, Super-) Martingal bez¨uglich der kleineren Filtration F. Es gilt n¨amlich f¨ur s < t und den Fall, wo X ein Submartingal ist, E[Xt Fs ] = E[E[Xt Fs′ ] Fs ] ≤ E[Xs Fs ] = Xs . Speziell ist ein F-(Sub-, Super-)Martingal X also auch stets ein (Sub-, Super-)Martingal bez¨uglich der von X erzeugten Filtration σ(X). 3 Beispiel 9.30. Seien Y1 , . . . , YN unabh¨angige Zufallsvariablen mit E[Yt ] = 0 f¨ur t Ys . Dann ist X jedes t = 1, . . . , N . Setze Ft := σ(Y1 , . . . , Yt ) und Xt := s=1 adaptiert und integrierbar, und f¨ur r > s ist E[Yr Fs ] = 0. Also ist f¨ur t > s t E[Yr Fs ] = Xs . E[Xt Fs ] = E[Xs Fs ] + E[Xt − Xs Fs ] = Xs + r=s+1
Es folgt, dass X ein F-Martingal ist.
Analog ist X ein Submartingal, falls E[Yt ] ≥ 0 f¨ur jedes t gilt beziehungsweise ein Supermartingal, falls E[Yt ] ≤ 0 f¨ur jedes t gilt. 3
190
9 Martingale
Beispiel 9.31. Wir betrachten die Situation des vorangehenden Beispiels, jedoch mit t E[Yt ] = 1 und Xt = s=1 Ys f¨ur t ∈ N0 . Nach Satz 5.4 ist Y1 · Y2 integrierbar. Iterativ erhalten wir E[|Xt |] < ∞ f¨ur jedes t ∈ N0 . Offenbar ist X an F adaptiert, und f¨ur s ∈ N0 gilt E[Xs+1 Fs ] = E[Xs Ys+1 Fs ] = Xs E[Ys+1 Fs ] = Xs . Also ist X ein F-Martingal.
3
Satz 9.32. (i) X ist genau dann ein Supermartingal, wenn (−X) ein Submartingal ist. (ii) Seien X und Y Martingale und a, b ∈ R. Dann ist (aX + bY ) ein Martingal.
(iii) Seien X und Y Supermartingale und a, b ≥ 0. Dann ist (aX + bY ) ein Supermartingal. (iv) Seien X und Y Supermartingale. Dann ist Z := X ∧ Y = (min(Xt , Yt ))t∈I ein Supermartingal. (v) Ist (Xt )t∈N0 ein Supermartingal und E[XT ] ≥ E[X0 ] f¨ur ein T ∈ N0 , dann ist (Xt )t∈{0,...,T } ein Martingal. Gibt es eine Folge TN → ∞ mit E[XTN ] ≥ E[X0 ], dann ist X ein Martingal. Beweis. (i), (ii) und (iii)
Dies ist klar.
(iv) Wegen |Zt | ≤ |Xt | + |Yt | ist E[|Zt |] < ∞ f¨ur jedes t ∈ I. Wegen der Fs ] ≤ E[Xt Fs ] ≤ Monotonie der bedingten Erwartung (Satz 8.14(ii)) ist E[Z t Xs f¨ur t > s und E[Zt Fs ] ≤ E[Yt Fs ] ≤ Ys , also E[Zt Fs ] ≤ Xs ∧ Ys = Zs . (v) F¨ur t ≤ T setze Yt := E[XT Ft ]. Dann ist Y ein Martingal und Yt ≤ Xt . Daher ist E[X0 ] ≤ E[XT ] = E[YT ] = E[Yt ] ≤ E[Xt ] ≤ E[X0 ].
(Die erste Ungleichung gilt hierbei nach Voraussetzung.) Es folgt Yt = Xt fast sicher f¨ur jedes t, und daher ist (Xt )t∈{0,...,T } ein Martingal. Sei TN → ∞ mit E[XTN ] ≥ E[X0 ] f¨ur jedes N ∈ N. Dann gibt es f¨ur t > s ≥ 0 2 ein N ∈ N mit TN > t. Daher ist E[Xt Fs ] = E[Xs ], also X ein Martingal.
Bemerkung 9.33. Viele Aussagen u¨ ber Supermartingale gelten mutatis mutandis auch f¨ur Submartingale. So gilt im vorangehenden Satz Aussage (i) mit vertauschten Rollen, Aussage (iv) gilt f¨ur Submartingale, wenn das Minimum durch ein Maximum ersetzt wird, und so fort. Wir geben die Aussagen nicht stets sowohl f¨ur Submartingale wie f¨ur Supermartingale an, sondern w¨ahlen pars pro toto einen Fall aus. Man beachte aber, dass die Aussagen, die explizit u¨ ber Martingale gemacht werden, nicht ohne weiteres auf Sub- oder Supermartingale u¨ bertragen werden k¨onnen (vergleiche etwa (ii) im vorangehenden Satz). 3
9.2 Martingale
191
Korollar 9.34. Sei X ein Submartingal und a ∈ R. Dann ist (X − a)+ ein Submartingal. Beweis. Offenbar sind 0 und Y = X − a Submartingale. Nach (iv) ist daher auch (X − a)+ = Y ∨ 0 ein Submartingal. 2 Satz 9.35. Sei X ein Martingal und ϕ : R → R eine konvexe Funktion. (i) Ist E[ϕ(Xt )+ ] < ∞
f¨ur jedes t ∈ I,
(9.1)
dann ist (ϕ(Xt ))t∈I ein Submartingal. (ii) Ist t∗ := sup(I) ∈ I, so impliziert E[ϕ(Xt∗ )+ ] < ∞ schon (9.1).
(iii) Ist speziell p ≥ 1 und E[|Xt |p ] < ∞ f¨ur jedes t ∈ I, dann ist (|Xt |p )t∈I ein Submartingal. Beweis. (i) Es ist stets E[ϕ(Xt )− ] < ∞ (Satz 8.19), also nach Voraussetzung E[|ϕ(Xt )|] < ∞ f¨ur jedes t ∈ I. Die Jensen’sche Ungleichung (Satz 8.19) liefert f¨ur t > s E[ϕ(Xt ) Fs ] ≥ ϕ(E[Xt Fs ]) = ϕ(Xs ). (ii) Da ϕ konvex ist, ist auch x → ϕ(x)+ konvex. Weiter ist nach Voraussetzung E[ϕ(Xt∗ )+ ] < ∞, also gilt nach der Jensen’schen Ungleichung f¨ur jedes t ∈ I: * + * ) ) * ) E[ϕ(Xt )+ ] = E ϕ E[Xt∗ Ft ] ≤ E E[ϕ(Xt∗ )+ Ft ] = E ϕ(Xt∗ )+ < ∞. (iii) Dies ist klar, weil x → |x|p konvex ist.
2
Beispiel 9.36. (Siehe Beispiel 9.4.) Die symmetrische einfache Irrfahrt X auf Z ist ein quadratintegrierbares Martingal. Also ist (Xn2 )n∈N0 ein Submartingal. 3 ¨ Ubung 9.2.1. Sei Y eine Zufallsvariable mit E[|Y |] < ∞ und F eine Filtration sowie Xt := E[Y Ft ] f¨ur jedes t ∈ I. Man zeige, dass X ein F-Martingal ist.
♣
¨ Ubung 9.2.2. Sei (Xn )n∈N0 ein vorhersagbares F-Martingal. Man zeige, dass dann f¨ur jedes n ∈ N0 fast sicher Xn = X0 gilt. ♣ ¨ Ubung 9.2.3. Man zeige, dass die Aussage von Satz 9.35 auch gilt, wenn X nur ein Submartingal, ϕ jedoch zus¨atzlich monoton wachsend ist. Man zeige durch ein Beispiel, dass hier auf die Monotonie im Allgemeinen nicht verzichtet werden kann. (Vergleiche Korollar 9.34.) ♣
192
9 Martingale
¨ Ubung 9.2.4 (Ungleichung von Azuma). Man zeige: (i) Ist X eine Zufallsvariable mit |X| ≤ 1 f.s., so gibt es eine Zufallsvariable Y mit Werten in {−1, +1} und mit E[Y |X] = X.
(ii) F¨ur X wie in (i) mit E[X] = 0 folgere man (mit Hilfe der Jensen’schen Ungleichung) ) * 2 E eλX ≤ cosh(λ) ≤ eλ /2 f¨ur alle λ ∈ R.
(iii) Ist (Mn )n∈N0 ein Martingal mit M0 = 0, und gibt es eine Folge (ck )k∈N nichtnegativer Zahlen mit |Mn − Mn−1 | ≤ cn f.s. f¨ur jedes n ∈ N, so gilt n ) λMn * 1 2 2 λ ck . E e ≤ exp 2 k=1
(iv) Unter den Bedingungen von (iii) gilt die Azuma’sche Ungleichung ) * λ2 P |Mn | ≥ λ ≤ 2 exp − n f¨ur alle λ ≥ 0. 2 k=1 c2k
Hinweis: Verwende die Markov’sche Ungleichung f¨ur f (x) = eγx und w¨ahle γ optimal. ♣
9.3 Diskretes stochastisches Integral Bisher haben wir das Martingal als Partialsummenprozess eines fairen Spiels kennen gelernt. Dies kann beispielsweise auch der Kurs einer Aktie sein, die zu diskreten Zeitpunkten an einer B¨orse gehandelt wird. Bei dieser Interpretation ist es besonders evident, dass es nat¨urlich ist, neue stochastische Prozesse zu generieren, indem man Anlagestrategien f¨ur die entsprechende Aktie betrachtet. Die Wertentwicklung des neuen Prozesses ist dann die mit der jeweilig im Portefeuille befindlichen Anzahl von Aktien zu multiplizierende Wertentwicklung des Aktienkurses. Dies f¨uhrt zu der folgenden Begriffsbildung. Definition 9.37 (Diskretes Stochastisches Integral). Sei (Xn )n∈N0 ein reeller, Fadaptierter Prozess und (Hn )n∈N reellwertig und F-vorhersagbar. Wir definieren den stochastischen Prozess H ·X durch (H ·X)n :=
n
m=1
Hm (Xm − Xm−1 )
f¨ur n ∈ N0 ,
(9.2)
und nennen H·X das diskrete stochastische Integral von H bez¨uglich X. Ist X ein Martingal, so nennen wir H ·X auch die Martingaltransformierte von X.
9.3 Diskretes stochastisches Integral
193
Bemerkung 9.38. Offenbar ist H ·X adaptiert an F.
3
Sei X ein (m¨oglicherweise unfaires) Spiel, wobei Xn − Xn−1 den Spielgewinn pro Spielschein in der n-ten Runde bezeichnet. Wir interpretieren Hn als die Anzahl der Spielscheine, die f¨ur das n-te Spiel eingesetzt werden, und verstehen H als Spielstrategie. Offenbar muss die Entscheidung, wie groß Hn sein soll, zur Zeit n − 1, also vor der Bekanntgabe des Ergebnisses Xn fallen. Das heißt, H muss vorhersagbar sein. Ist nun X ein faires Spiel, also ein Martingal, und ist H lokal beschr¨ankt (das heißt, jedes Hn ist beschr¨ankt), dann ist (wegen E[Xn+1 − Xn Fn ] = 0) E[(H ·X)n+1 Fn ] = E[(H ·X)n + Hn+1 (Xn+1 − Xn ) Fn ] = (H ·X)n + Hn+1 E[Xn+1 − Xn Fn ] = (H ·X)n .
Also ist H · X ein Martingal. Im folgenden Satz zeigen wir, dass auch die Umkehrung gilt, also X ein Martingal ist, wenn f¨ur hinreichend viele vorhersagbare Prozesse das stochastische Integral ein Martingal ist. ¨ Stochastische Integrale). Satz 9.39 (Stabilit¨atssatz fur Sei (Xn )n∈N0 ein adaptierter, reeller stochastischer Prozess mit E[|X0 |] < ∞. (i) X ist genau dann ein Martingal, wenn f¨ur jeden lokal beschr¨ankten, vorhersagbaren Prozess H das stochastische Integral H ·X ein Martingal ist. (ii) X ist genau dann ein Submartingal (Supermartingal), wenn H ·X ein Submartingal (Supermartingal) ist f¨ur jedes beschr¨ankte, vorhersagbare H ≥ 0. Beweis. (i) =⇒ “ Dies hat die obige Diskussion schon gezeigt. ” ⇐= “ W¨ahle n0 ∈ N. Setze Hn = {n=n0 } . Dann ist (H ·X)n0 −1 = 0, also ” * * ) ) 0 = E (H ·X)n0 Fn0 −1 = E Xn0 Fn0 −1 − Xn0 −1 . (ii)
Dies geht analog wie in (i).
2
Der vorangehende Satz sagt uns insbesondere, dass wir keine (beschr¨ankte) Spielstrategie finden k¨onnen, die aus einem Martingal (oder schlimmer: einem Supermartingal) ein Submartingal machte. Genau dies wird einem aber nat¨urlich durch ¨ diverse Aufforderungen zum so genannten Systemlotto“ und Ahnlichem nahe ge” legt. Beispiel 9.40 (Petersburger Spiel). Wir f¨uhren Beispiel 9.14 fort (siehe auch Beispiel 4.22). Setzen wir Xn := D1 + . . . + Dn f¨ur n ∈ N0 , so ist X ein Martingal. Die Spielstrategie Hn := 2n−1 {D1 =D2 =...=Dn−1 =−1} f¨ur n ∈ N und H0 = 1 ist
194
9 Martingale
n vorhersagbar und lokal beschr¨ankt. Sei Sn = i=1 Hi Di = (H·X)n der Zugewinn nach n Runden. Dann ist S nach dem vorangehenden Satz ein Martingal. Speziell erhalten wir das bereits in Beispiel 4.22 gezeigte Ergebnis, dass E[Sn ] = 0 ist f¨ur jedes n ∈ N. Dass dies, wie dort gezeigt, in zumindest vordergr¨undigem Kontrast zu n→∞ der Aussage Sn −→ 1 f.s. steht, wird uns sp¨ater noch einmal besch¨aftigen (siehe Beispiel 11.6). F¨ur den Moment sei angemerkt, dass das Martingal S ′ = (1 − Sn )n∈N0 wie in Beispiel 9.31 die Struktur eines Produkts nunabh¨angiger Zufallsvariablen mit Erwartungswert 1 hat. Es gilt n¨amlich Sn′ = i=1 (1 − Di ). 3
9.4 Diskreter Martingaldarstellungssatz und CRR Modell Wir haben nun gesehen, dass wir vermittels des stochastischen Integrals aus einem Martingal X durch eine Spielstrategie H ein neues Martingal H ·X herstellen k¨onnen. Welche Martingale Y (mit Y0 = 0) sind nun durch eine geeignete Spielstrategie H = H(Y ) aus X zu gewinnen? Wom¨oglich alle? Dies ist sicher nicht der Fall, wie das folgende Beispiel zeigt. Allerdings sind alle Martingale darstellbar, wenn f¨ur die Zuw¨achse Xn+1 − Xn immer nur zwei Werte in Frage kommen (gegeben X1 , . . . , Xn ). Wir geben f¨ur diesen Fall einen Darstellungssatz an und diskutieren in der Folge den fairen Preis der europ¨aischen Kaufoption (europ¨aischer Call) in dem Aktienkursmodell von Cox-Ross-Rubinstein. Wir wollen dabei einen naiven Standpunkt einnehmen und einen in vielerlei Hinsicht idealisierten Markt voraussetzen (keine Handelskosten, gebrochene Anzahlen handelbar, und so fort). F¨ur eine umfassendere Lekt¨ure zum Thema Finanzmathematik eignen sich etwa die Lehrb¨ucher [41], [79], [98], [56], [12] oder [47]. Beispiel 9.41. Wir betrachten ein ganz einfaches Martingal X = (Xn )n=0,1 mit nur zwei Zeitpunkten. Es sei X0 = 0 fast sicher und P[X1 = −1] = P[X1 = 0] = P[X1 = 1] = 13 . Sei Y0 = 0 sowie Y1 = 2, falls X1 = 1 und Y1 = −1 sonst. Dann ist Y offenbar ein σ(X)-Martingal. Allerdings k¨onnen wir keine Zahl H1 angeben, sodass H1 X1 = Y1 w¨are. 3 Sei T ∈ N ein fester Zeitpunkt. Ist (Yn )n=0,1,...,T ein F-Martingal, dann ist Yn = E[YT Fn ] f¨ur jedes n ≤ T . Durch die Angabe von YT ist ein F-Martingal Y also eindeutig festgelegt (und umgekehrt). Da (H ·X) ein Martingal ist, falls X ein Martingal ist, reduziert sich das Darstellungsproblem f¨ur Martingale auf das Problem, eine integrierbare Zufallsvariable V := YT darzustellen als v0 + (H · X)T , wobei v0 = E[YT ] ist, falls X ein Martingal ist. Wir haben eben schon gesehen, dass dies im Allgemeinen nicht m¨oglich ist, wenn die Differenzen Xn+1 − Xn drei (oder mehr) unterschiedliche Werte annehmen k¨onnen. Wir betrachten nun also den Fall, wo nur zwei Werte m¨oglich sind. Hier muss in jedem Schritt ein lineares Gleichungssystem mit zwei Gleichungen und
9.4 Diskreter Martingaldarstellungssatz und CRR Modell
195
zwei Unbekannten gel¨ost werden. Im Falle von drei m¨oglichen Werten von Xn+1 − Xn w¨aren dies drei Gleichungen f¨ur zwei Unbekannte, und im Allgemeinen ist dieses Gleichungssystem dann nicht l¨osbar. Definition 9.42 (Bin¨ares Modell). Ein stochastischer Prozess X0 , . . . , XT heißt bin¨ares Modell, falls es Zufallsvariablen D1 , . . . , DT mit Werten in {−1, +1} gibt und Funktionen fn : Rn−1 × {−1, +1} → R f¨ur n = 1, . . . , T , sowie x0 ∈ R, sodass X0 = x0 und Xn = fn (X1 , . . . , Xn−1 , Dn )
f¨ur jedes n = 1, . . . , T.
Mit F = σ(X) bezeichnen wir dann die von X erzeugte Filtration. Man beachte, dass Xn nur von X1 , . . . , Xn−1 und Dn abh¨angt und nicht von der vollen Information der Werte D1 , . . . , Dn . Man mache sich klar, dass im letzteren Fall eine mehr als bin¨are Aufspaltung der Werte in einem Zeitschritt m¨oglich w¨are. Satz 9.43 (Darstellungssatz). Sei X ein bin¨ares Modell und VT eine FT -messbare Zufallsvariable. Dann existiert ein beschr¨ankter, vorhersagbarer Prozess H und ein v0 ∈ R mit VT = v0 + (H ·X)T . Man beachte, dass F die von X erzeugte Filtration ist, nicht die im Allgemeinen gr¨oßere, von D1 , . . . , DT erzeugte. F¨ur diese ist die Aussage des Satzes im Allgemeinen nicht zutreffend, weil wir eben mit H nicht auf die Di sondern nur auf X wetten k¨onnen. Beweis. Wir zeigen, dass es FT −1 -messbare Zufallsvariablen VT −1 und HT gibt, sodass VT = VT −1 + HT (XT − XT −1 ). Dies liefert per R¨uckw¨artsinduktion die gew¨unschte Aussage. Da VT messbar ist bez¨uglich FT , existiert nach dem Faktorisierungslemma (Korollar 1.97) eine Funktion gT : RT → R mit VT = gT (X1 , . . . , XT ). Wir setzen XT± = fT (X1 , . . . , XT −1 , ±1)
und
VT±
= gT (X1 , . . . , XT −1 , XT± ).
Jede dieser vier Zufallsvariablen ist offenbar FT −1 -messbar. Wir suchen nun also VT −1 und HT , die das folgende lineare Gleichungssystem l¨osen VT −1 + HT (XT− − XT −1 ) = VT− , VT −1 + HT (XT+ − XT −1 ) = VT+ .
(9.3)
Per Konstruktion ist XT+ − XT− = 0, falls VT+ − VT− = 0. Also k¨onnen wir (9.3) aufl¨osen und erhalten ⎧ + − ⎨ VT −VT , falls X + = X − , + − T T HT := XT −XT ⎩ 0, sonst, und VT −1 = VT+ − HT (XT+ − XT −1 ) = VT− − HT (XT− − XT −1 ).
2
196
9 Martingale
Wir wollen nun X als Kurs einer Aktie auffassen und VT als Auszahlungsfunktion eines Finanzderivats auf X, eines so genannten Claims. Beispielsweise kann VT eine europ¨aische Kaufoption (Call) mit F¨alligkeitszeitpunkt (maturity) T und Aus¨ubungspreis (strike price) K ≥ 0 sein. In diesem Fall w¨are VT = (XT − K)+ . ¨ Okonomisch ausgedr¨uckt gibt diese Option dem K¨aufer das Recht (aber nicht die Pflicht) vom Herausgeber der Option zum Zeitpunkt T die Eingehung eines Kaufvertrages u¨ ber eine Aktie zum Preis K einzufordern. Von diesem Recht macht man sinnvollerweise nur dann Gebrauch, wenn XT ≥ K ist. In diesem Fall kann man die erworbene Aktie zum Preis XT wieder an der B¨orse verkaufen und hat einen Gewinn von VT gemacht. An den B¨orsen werden nun aber nicht nur Aktien, sondern auch Derivate auf Aktien gehandelt. Welches ist also der faire Preis π(VT ) f¨ur den eine B¨orsenh¨andlerin den Claim VT anbieten kann? Gibt es eine Strategie H und ein v0 , sodass VT = v0 + (H ·X)T ist, dann kann die H¨andlerin gegen Bezahlung von v0 risikolos VT nachbilden, indem sie H als Handelsstrategie an der B¨orse benutzt. Wir nennen den Claim VT dann replizierbar und die Strategie H einen Hedge. Ein Markt, in dem jeder Claim replizierbar ist, heißt vollst¨andig. In diesem Sinne ist das Bin¨armodell also ein vollst¨andiger Markt. G¨abe es nun eine zweite Strategie H ′ und ein zweites v0′ mit v0′ + (H ′ ·X)T = VT , so w¨are insbesondere v0 − v0′ = ((H ′ − H) · X)T . W¨are v0 > v0′ , so k¨onnte die H¨andlerin risikolos durch Verfolgen der Strategie H ′ − H einen Gewinn v0 − v0′ machen, im Falle v0 < v0′ hingegen durch die Strategie H − H ′ einen Gewinn v0′ − v0 . Wenn man solche Arbitragem¨oglichkeiten ausschließt, also einen so genannten arbitragefreien Markt annimmt, so ist der faire Preis π(VT ) eindeutig festgelegt, sobald man eine Strategie H und ein v0 mit VT = v0 + (H ·X)T hat. Wir haben bislang noch nirgends angenommen, dass X ein Martingal sei. Ist nun aber X ein Martingal, so ist (H ·X) ein Martingal mit (H ·X)0 = 0, also offenbar E[(H ·X)T ] = 0. Damit ist dann π(VT ) = v0 = E[VT ].
(9.4)
Da in diesem Fall v0 nicht mehr von der Handelsstrategie abh¨angt, also eindeutig ist, ist der Markt automatisch arbitragefrei. In endlichen M¨arkten ist Arbitragefreiheit a¨ quivalent zur Existenz eines a¨ quivalenten Martingals, und in diesem Fall ist die Vollst¨andigkeit a¨ quivalent zur Eindeutigkeit des Martingals (Satz von Harrison¨ Pliska (1981), [67]). In gr¨oßeren Marktmodellen gilt Aquivalenz nur f¨ur einen etwas flexibleren Arbitrage-Begriff (siehe [31]). Ist nun X kein Martingal, so k¨onnen wir in manchen F¨allen X durch einen anderen Prozess X ′ ersetzen, der ein Martingal ist, und so, dass die Verteilungen PX und PX ′ die selben Nullmengen haben, also a¨ quivalent sind. Ein Hedge, der VT bez¨uglich X nachbildet, bildet VT auch bez¨uglich X ′ nach. Insbesondere a¨ ndert sich der faire Preis π(VT ) nicht, wenn wir zum Martingal X ′ u¨ bergehen. Wir k¨onnen π(VT ) also berechnen, indem wir (9.4) auf das a¨ quivalente Martingal anwenden.
9.4 Diskreter Martingaldarstellungssatz und CRR Modell
197
Das Maß PX ′ wird auch a¨ quivalentes Martingalmaß genannt. W¨ahrend es hier f¨ur uns nur von rechnerischem Interesse ist, hat es eine o¨ konomische Interpretation als Maß f¨ur die Preisbildung, falls alle H¨andler sich risikoneutral verhalten, also den Wert einer k¨unftigen Auszahlung allein nach deren Erwartungswert bemessen (was typischerweise nicht der Fall ist; die meisten Anleger sind risikoavers, lassen sich also Unsicherheiten durch einen Aufschlag bezahlen). Nun wollen wir aber ein Modell im Detail betrachten. Definition 9.44. Seien T ∈ N, a ∈ (−1, 0) und b > 0 sowie p ∈ (0, 1). Ferner seien D1 , . . . , DT u.i.v. mit P[D1 = 1] = 1 − P[D1 = −1] = p. Wir definieren X0 = x0 > 0 und f¨ur n = 1, . . . , T (1 + b) Xn−1 , falls Dn = +1, Xn = (1 + a) Xn−1 , falls Dn = −1. X heißt mehrstufiges Binomialmodell oder Cox-Ross-Rubinstein’sches Modell (ohne Verzinsung). Nach dem bisher Gezeigten ist das CRR Modell vollst¨andig. Ferner k¨onnen wir a durch die Wahl p∗ = a−b den Prozess X zu einem Martingal machen. Mithin ist das Modell auch arbitragefrei (f¨ur jedes p ∈ (0, 1)). Wir wollen nun den Preis des europ¨aischen Calls VT := (XT − K)+ explizit ausrechnen. Hierzu k¨onnen wir wieder p = p∗ annehmen. Wir erhalten dann mit A := min{i ∈ N0 : (1 + b)i (1 + a)T −i x0 > K}, π(VT ) = Ep∗ [VT ] =
T i=0
) *+ bT,p∗ ({i}) (1 + b)i (1 + a)T −i x0 − K
T T ) * T = x0 (p∗ )i (1 − p∗ )T −i (1 + b)i (1 + a)T −i − K bT,p∗ ({i}). i i=A
i=A
Setzen wir p′ = (1 + b)p∗ , dann ist p′ ∈ (0, 1) und 1 − p′ = (1 − p∗ )(1 + a). Wir erhalten so die Cox-Ross-Rubinstein’sche Formel π(VT ) = x0 bT,p′ ({A, . . . , T }) − K bT,p∗ ({A, . . . , T }).
(9.5)
Dies ist das diskrete Analogon zur ber¨uhmten Black–Scholes Formel f¨ur die Optionsbewertung in gewissen zeitkontinuierlichen M¨arkten.
10 Optional Sampling S¨atze
Wir haben im vorigen Kapitel gesehen, dass aus Martingalen wieder Martingale werden, wenn man gewisse Spielstrategien anwendet. Wir wollen in diesem Kapitel a¨ hnliche Stabilit¨atseigenschaften f¨ur zuf¨allig gestoppte Martingale zeigen. Um die Aussagen auch f¨ur Submartingale und Supermartingale zu bekommen, geben wir im ersten Abschnitt einen Zerlegungssatz f¨ur adaptierte Prozesse an. Im zweiten Abschnitt kommen dann die Optional Sampling und Optional Stopping S¨atze.
10.1 Doob-Zerlegung und quadratische Variation Sei X = (Xn )n∈N0 ein adaptierter Prozess mit E[|Xn |] < ∞ f¨ur jedes n ∈ N0 . Wir wollen X zerlegen in eine Summe aus einem Martingal und einem vorhersagbaren Prozess. Dazu definieren wir f¨ur n ∈ N0 Mn := X0 +
n
k=1
und An :=
Xk − E[Xk Fk−1 ]
(10.1)
n
E[Xk Fk−1 ] − Xk−1 .
k=1
Offenbar ist Xn = Mn + An . Per Konstruktion ist A vorhersagbar mit A0 = 0, und M ist ein Martingal, denn ) * E[Mn − Mn−1 Fn−1 ] = E Xn − E[Xn Fn−1 ] Fn−1 = 0. Satz 10.1 (Doob-Zerlegung). Sei X = (Xn )n∈N0 ein adaptierter, integrierbarer Prozess. Dann existiert eine eindeutige Zerlegung X = M + A, wobei A vorhersagbar ist mit A0 = 0 und M ein Martingal. Diese Darstellung von X heißt Doob–Zerlegung. X ist genau dann ein Submartingal, wenn A monoton wachsend ist. Beweis. Nur die Eindeutigkeit ist zu zeigen. Seien also X = M + A = M ′ + A′ zwei Zerlegungen mit den genannten Eigenschaften. Dann ist M −M ′ = A′ −A ein
200
10 Optional Sampling S¨atze
¨ vorhersagbares Martingal, also ist (siehe Ubung 9.2.2) Mn − Mn′ = M0 − M0′ = 0 f¨ur jedes n ∈ N0 . 2 Beispiel 10.2. Sei I = N0 oder I = {0, . . . , N }. Sei (Xn )n∈I ein quadratisch integrierbares F–Martingal (das heißt E[Xn2 ] < ∞ f¨ur jedes n ∈ I). Nach Satz 9.32 ist Y := (Xn2 )n∈I ein Submartingal. Sei Y = M + A die Doob-Zerlegung von Y . Es ist dann (Xn2 − An )n∈I ein Martingal. Ferner ist E[Xi−1 Xi Fi−1 ] = 2 Xi−1 E[Xi Fi−1 ] = Xi−1 , also (wie in (10.1)) An =
n i=1
=
n i=1
2 E[Xi2 Fi−1 ] − Xi−1
2 E[(Xi − Xi−1 )2 Fi−1 ] − 2Xi−1 + 2 E[Xi−1 Xi Fi−1 ]
n ) * E (Xi − Xi−1 )2 Fi−1 . =
3
i=1
Definition 10.3. Sei (Xn )n∈I ein quadratisch integrierbares F-Martingal. Der eindeutig bestimmte vorhersagbare Prozess A, mit dem (Xn2 − An )n∈I ein Martingal wird, heißt quadratischer Variationsprozess von X und wird in Formeln mit ( X!n )n∈I := A bezeichnet. Aus dem vorangehenden Beispiel ergibt sich sofort der folgende Satz. Satz 10.4. Sei X wie in Definition 10.3. Dann ist f¨ur n ∈ N0 X!n =
n * ) E (Xi − Xi−1 )2 Fi−1
(10.2)
i=1
und
E[ X!n ] = Var[Xn − X0 ].
(10.3)
Bemerkung 10.5. Sind Y und A wie in Beispiel 10.2, dann ist A monoton wachsend, weil (Xn2 )n∈I ein Submartingal ist (vergleiche Satz 10.1). Deshalb wird A manchmal auch der wachsende Prozess von Y genannt. 3 Beispiel 10.6. Seien Y1 , Y2 , . . . unabh¨angige, quadratisch integrierbare, zentrierte Zufallsvariablen. Dann wird durch Xn := Y1 + . . . + Yn ein quadratisch inn 2 tegrierbares Martingal definiert mit X! = n i=1 E[Yi ], denn es ist An = n n 2 2 i=1 E[Yi Y1 , . . . , Yi−1 ] = i=1 E[Yi ] (wie in Beispiel 10.2). Man beachte, dass es f¨ur diese einfache Darstellung von X! nicht ausreicht, dass die Y1 , Y2 , . . . unkorreliert sind. 3
10.1 Doob-Zerlegung und quadratische Variation
201
Beispiel 10.7. Seien Y1 , Y2 , . . . unabh¨angige, quadratisch n integrierbare Zufallsvariablen mit E[Yn ] = 1 f¨ur n ∈ N. Setze Xn := ur n ∈ N0 . Dann i=1 Yi f¨ ist X = (Xn )n∈N0 ein quadratisch integrierbares Martingal (warum?) bez¨uglich F = σ(X) und ) * ) * 2 2 Fn−1 = Var[Yn ] Xn−1 E (Xn − Xn−1 )2 Fn−1 = E (Yn − 1)2 Xn−1 . n 2 Also ist X!n = i=1 Var[Yi ] Xi−1 . Wir sehen, dass der quadratische Variationsprozess also durchaus ein echt zuf¨alliger Prozess sein kann. 3 Beispiel 10.8. Sei (Xn )n∈N0 die eindimensionale symmetrische einfache Irrfahrt: Xn =
n
Ri
i=1
f¨ur jedes n ∈ N0 ,
wobei R1 , R2 , R3 , . . . u.i.v. sind mit P[Ri = 1] = 1 − P[Ri = −1] = 12 .
Offenbar ist X ein Martingal, also |X| ein Submartingal. Sei |X| = M + A die Doob-Zerlegung von |X|. Dann ist n
E[|Xi | Fi−1 ] − |Xi−1 | . An = i=1
Nun ist
Also gilt
Mithin ist
⎧ |X | + Ri , ⎪ ⎪ ⎨ i−1 |Xi | = |Xi−1 | − Ri , ⎪ ⎪ ⎩ 1,
E[|Xi | Fi−1 ] =
falls Xi−1 > 0, falls Xi−1 < 0, falls Xi−1 = 0.
|Xi−1 |,
falls |Xi−1 | = 0,
1,
falls |Xi−1 | = 0.
An = # i ≤ n − 1 : |Xi | = 0
die Lokalzeit von X in 0. Es folgt (wegen P[X2j = 0] = 0] = 0): ) * E[|Xn |] = E #{i ≤ n − 1 : Xi = 0} =
n−1 i=0
P[Xi = 0] =
2j j
4−j und P[X2j+1 =
⌊(n−1)/2⌋
j=0
2j −j 4 . j
3
Beispiel 10.9. Wir wollen das vorangehende Beispiel jetzt noch etwas verallgemeinern. Offenbar brauchten wir (außer in der letzten Formel) nicht, dass X eine Irrfahrt ist, sondern lediglich, dass die Differenzen (ΔX)n := Xn − Xn−1 nur die Werte
202
10 Optional Sampling S¨atze
−1 und +1 annehmen k¨onnen. Sei also jetzt X ein Martingal mit |Xn − Xn−1 | = 1 fast sicher f¨ur jedes n ∈ N und mit X0 = x0 ∈ Z fast sicher. Sei f : Z → R eine beliebige Abbildung. Dann ist Y := (f (Xn ))n∈N0 ein integrierbarer, adaptierter Prozess (weil |f (Xn )| ≤ maxx∈{x0 −n,...,x0 +n} |f (x)|). Um die Doob-Zerlegung von Y zu bestimmen, definieren wir die erste und zweite (diskrete) Ableitung von f f ′ (x) :=
f (x + 1) − f (x − 1) 2
und f ′′ (x) := f (x − 1) + f (x + 1) − 2f (x).
Wir setzen noch Fn′ := f ′ (Xn−1 ) und Fn′′ := f ′′ (Xn−1 ). Durch Unterscheidung der F¨alle Xn = Xn−1 − 1 und Xn = Xn−1 + 1 sehen wir, dass f¨ur jedes n ∈ N f (Xn−1 + 1) − f (Xn−1 − 1) (Xn − Xn−1 ) 2 1 1 + f (Xn−1 − 1) + f (Xn−1 + 1) − f (Xn−1 ) 2 2 1 ′ = f (Xn−1 )(Xn − Xn−1 ) + f ′′ (Xn−1 ) 2 1 ′′ ′ = Fn · (Xn − Xn−1 ) + Fn . 2
f (Xn ) − f (Xn−1 ) =
Insgesamt erhalten wir also die diskrete Itˆo-Formel f (Xn ) = f (x0 ) +
n i=1
′
f ′ (Xi−1 )(Xi − Xi−1 ) +
= f (x0 ) + (F ·X)n +
n 1 i=1
2
n 1 i=1
2
f ′′ (Xi−1 ) (10.4)
Fi′′ .
Hierbei ist F ′ ·X das diskrete stochastische Integral (siehe Definition 9.37). Nun ist F ′ vorhersagbar ist (und M := f (x0 ) + F ′ ·X ein Martingal nach Satz 9.39,
weil n 1 ′′ ′ ′ |Fn | ≤ maxx∈{x0 −n,...,x0 +n} |F (x)|), und A := i=1 2 Fi n∈N0 ist vorhersagbar. Also ist f (X) := (f (Xn ))n∈N0 = M + A die Doob-Zerlegung von f (X). Speziell ist nat¨urlich f (X) ein Submartingal, wenn f ′′ (x) ≥ 0 f¨ur alle x ∈ Z, wenn also f konvex ist. Dies wussten wir zwar schon aus Satz 9.35, allerdings haben wir hier auch noch quantifiziert, wie weit f (X) von einem Martingal abweicht. In den Spezialf¨allen f (x) = x2 und f (x) = |x| ist f ′′ (x) = 2 beziehungsweise f ′′ (x) = 2 · {0} (x), und wir erhalten aus (10.4) die Aussagen von Satz 10.4 und Beispiel 10.8. Sp¨ater werden wir eine zu (10.4) vergleichbare Formel auch f¨ur stochastische Prozesse in stetiger Zeit herleiten (siehe Kapitel 25.3). 3
10.2 Optional Sampling und Optional Stopping
203
10.2 Optional Sampling und Optional Stopping Lemma 10.10. Sei I ⊂ R h¨ochstens abz¨ahlbar, (X t )t∈I ein Martingal, T ∈ I und τ eine Stoppzeit mit τ ≤ T . Dann gilt Xτ = E[XT Fτ ] und speziell E[Xτ ] = E[X0 ].
Beweis. Es reicht zu zeigen, dass E[XT A ] = E[Xτ A ] f¨ur jedes A ∈ Fτ gilt. Nach der Definition von Fτ ist {τ = t} ∩ A ∈ Ft f¨ur jedes t ∈ I, also ) * E[Xt {τ =t}∩A ] = E E[XT Ft ] {τ =t}∩A E[Xτ A ] = t≤T
=
t≤T
E[XT
A
t≤T
{τ =t} ]
= E[XT
A ].
2
Satz 10.11 (Optional Sampling Theorem). Sei X = (Xn )n∈N0 ein Supermartingal, und seien σ ≤ τ Stoppzeiten. (i) Gibt es ein T ∈ N mit τ ≤ T , dann ist
Xσ ≥ E[Xτ Fσ ]
und speziell E[Xσ ] ≥ E[Xτ ]. Ist X ein Martingal, so gilt jeweils Gleichheit.
(ii) Ist X nichtnegativ und τ < ∞ f.s., so gelten E[Xτ ] ≤ E[X0 ] < ∞, E[Xσ ] ≤ E[X0 ] < ∞ und Xσ ≥ E[Xτ Fσ ].
(iii) Ist allgemeiner X lediglich adaptiert und integrierbar, so ist X genau dann ein Martingal, wenn E[Xτ ] = E[X0 ] f¨ur jede beschr¨ankte Stoppzeit τ gilt. Beweis. (i) Sei X = M + A die Doob-Zerlegung von X, also A vorhersagbar und monoton fallend, A0 = 0, und M ein Martingal. Dann ist nach Lemma 10.10, angewandt auf M , Xσ = Aσ + Mσ = E[Aσ + MT Fσ ] ≥ E[Aτ + MT Fσ ] = E[Aτ + E[MT Fτ ] Fσ ] = E[Aτ + Mτ Fσ ] = E[Xτ Fσ ].
Wir haben dabei Fτ ⊃ Fσ , die Turmeigenschaft und die Monotonie der bedingten Erwartung (Satz 8.14) ausgenutzt. n→∞
(ii) Es gilt Xτ ∧n −→ Xτ fast sicher. Nach (i) gilt E[Xτ ∧n ] ≤ E[X0 ] f¨ur jedes n ∈ N. Nach dem Lemma von Fatou ist also E[Xτ ] ≤ lim inf E[Xτ ∧n ] ≤ E[X0 ] < ∞. n→∞
Analog zeigt man E[Xσ ] ≤ E[X0 ].
204
10 Optional Sampling S¨atze
Seien nun m, n ∈ N mit m ≥ n. Teil (i) mit den beschr¨ankten Stoppzeiten τ ∧ m ≥ σ ∧ n liefert Xσ∧n ≥ E[Xτ ∧m Fσ∧n ]. F¨ur A ∈ Fσ ist {σ < n} ∩ A ∈ Fσ∧n , also ist * ) * ) ) E Xσ {σ
{σ
Das Lemma von Fatou liefert E[Xτ
{σ
) ≤ lim inf E Xτ ∧m m→∞
{σ
*
Monotone Konvergenz (f¨ur n → ∞) ergibt daher E[Xτ
) ≤ E Xσ A]
* .
{σ
≤ E[Xσ
A ].
* .
(iii) Ist X ein Martingal, so folgt die Aussage aus Lemma 10.10. Gelte nun E[Xτ ] = E[X0 ] f¨ur jede beschr¨ankte Stoppzeit τ . Sei t > s und A ∈ Fs . Es reicht zu zeigen, dass E[Xt A ] = E[Xs A ]. Setze τ = s A + t Ac . Dann ist τ eine beschr¨ankte Stoppzeit. Nach Voraussetzung gilt aber E[Xt
A]
= E[Xt ] − E[Xt
Ac ]
= E[X0 ] − E[Xτ ] + E[Xs
A]
= E[Xs
A ].
2
Korollar 10.12. Sei X ein Martingal (beziehungsweise Submartingal), und sei (τN )N ∈N eine monoton wachsende Folge beschr¨ankter Stoppzeiten (also τN ≤ TN , N ∈ N f¨ur gewisse TN ∈ N). Dann ist (XτN )N ∈N ein Martingal (beziehungsweise Submartingal) bez¨uglich der Filtration (FτN )N ∈N . Definition 10.13. Sei I ⊂ R h¨ochstens abz¨ahlbar und (Xt )t∈I adaptiert sowie τ eine Stoppzeit. Wir definieren den gestoppten Prozess X τ durch Xtτ = Xτ ∧t
f¨ur jedes t ∈ I.
Ferner sei Fτ die Filtration Fτ = (Ftτ )t∈I = (Fτ ∧t )t∈I . Bemerkung 10.14. X τ ist an F und an Fτ adaptiert.
3
Satz 10.15 (Optional Stopping). Sei (Xn )n∈N0 ein (Sub-, Super-)Martingal bez¨uglich F und τ eine Stoppzeit. Dann ist X τ ein (Sub-, Super-)Martingal sowohl bez¨uglich F als auch bez¨uglich Fτ . Beweis. Wir f¨uhren den Beweis nur f¨ur den Fall, dass X ein Submartingal ist. Die anderen F¨alle ergeben sich, weil dann (−X) ein Submartingal ist. Sei also X ein Submartingal. Wegen {τ > n − 1} ∈ Fn−1 ist τ Fn−1 ] = E[Xτ ∧n − Xτ ∧(n−1) Fn−1 ] E[Xnτ − Xn−1 = E[(Xn − Xn−1 ) {τ >n−1} Fn−1 ] = {τ >n−1} E[Xn − Xn−1 Fn−1 ] ≥ 0, da X ein F–Submartingal ist.
10.2 Optional Sampling und Optional Stopping
205
Also ist X τ ein F-Submartingal. Da X τ an Fτ adaptiert und Fτ die kleinere Filtration ist, ist X auch ein Fτ –Submartingal (siehe Bemerkung 9.29). 2 Beispiel 10.16. Sei X die symmetrische einfache Irrfahrt aus Beispiel 10.8. Seien a, b ∈ Z, a < 0, b > 0 sowie τa = inf{t ≥ 0 : Xt = a},
τb = inf{t ≥ 0 : Xt = b} und τa,b = τa ∧ τb .
τa,b ist eine Stoppzeit nach Lemma 9.18. Sei A = {τa,b = τa } das Ereignis, dass ¨ X in a ist bevor es in b ist. Wir wollen P[A] bestimmen. Nach Ubung 2.3.1 ist fast sicher lim supn→∞ Xn = ∞ und lim inf n→∞ Xn = −∞. Also ist fast sicher τa < ∞ und τb < ∞. Nach dem Optional Stopping Theorem X τa,b ein Martingal. n→∞ n→∞ τ τ Wegen τa,b ∧ n −→ τa,b fast sicher, gilt Xna,b −→ Xτa,b fast sicher. Da |Xna,b | n→∞ τ durch b − a beschr¨ankt ist, gilt Xna,b −→ Xτa,b auch in L1 . Also ist ) * ) τ * 0 = lim E Xna,b = E Xτa,b = a · P [τa,b = τa ] + b · P [τa,b = τb ] n→∞
= b + (a − b) P[τa,b = τa ].
Es folgt P [τa,b = τa ] =
b . b−a
3
Beispiel 10.17. Schließlich wollen wir unsere Maschinerie benutzen, um E[τa,b ] und E[τa ] zu berechnen. Der quadratische Variationsprozess X! (vergleiche Definition 10.3) ist gegeben durch X!n =
n i=1
) * E (Xi − Xi−1 )2 Fi−1 = n,
also ist Xn2 − n n∈N ein Martingal. Nach dem Optional Stopping Theorem ist 0 * ) 0 = E Xτ2a,b ∧n − (τa,b ∧ n) f¨ur jedes n ∈ N0 . Monotone Konvergenz liefert ) * E [τa,b ] = E Xτ2a,b = a2 P [τa,b = τa ] + b2 P [τa,b = τb ] = |a| · b.
Um E[τa ] zu berechnen, bemerken wir, dass τa,b ↑ τa fast sicher gilt, falls b → ∞. Der Satz von der monotonen Konvergenz liefert also E[τa ] = lim E[τa,b ] = ∞. 3 b→∞
* ) Bemerkung 10.18. Offenbar ist Xτb = b > 0, also X0 < E Xτb F0 = b. Die Aussage des Optional Sampling Theorems gilt also im Allgemeinen nicht, falls die Stoppzeit unbeschr¨ankt ist. 3 Beispiel 10.19 (Gambler’s Ruin Problem). Wir betrachten ein Spiel zwischen zwei Personen A und B. In jeder Runde wird eine M¨unze geworfen. Je nach Ergebnis erh¨alt A von B eine Geldeinheit oder B von A. Gespielt wird so lange, bis
206
10 Optional Sampling S¨atze
einer der beiden Spieler ruiniert ist. Wir nehmen der Einfachheit halber an, dass A zum Spielbeginn kA ∈ N Geldeinheiten hat, B hingegen kB = N − kA , wobei N ∈ N, N ≥ kA . Gesucht ist die Ruinwahrscheinlichkeit von B. In Beispiel 10.16 haben wir f¨ur den Fall einer fairen M¨unze bereits ausgerechnet, dass die Ruinwahrscheinlichkeit kA /N ist. Nun wollen wir den Fall einer unfairen M¨unze betrachten. Seien also Y1 , Y2 , . . . unabh¨angig und P[Yi = 1] = 1 − P[Yi = −1] = p f¨ur alle n i ∈ N und f¨ur gewisses p ∈ (0, 1) \ { 21 }. Mit Xn := kB + i=1 Yi bezeichnen wir den Kontostand von B nach n Runden, wobei wir formal annehmen, dass die Spiele weiter gehen, auch wenn ein Spieler bereits ruiniert ist. Wir definieren noch wie oben τ0 , τN und τ0,N als die ersten Eintreffzeiten von X in 0, N beziehungsweise {0, N }. Die Ruinwahrscheinlichkeit von B ist nun pN B := P[τ0,N = τ0 ]. Da X kein Martingal ist (außer im Falle p = 12 , den wir hier ausschließen wollen), behelfen wir uns nmit einem Trick: Wir definieren einen neuen Prozess Z durch Zn := rXn = rkB i=1 rYi , wobei wir r > 0 noch geeignet w¨ahlen m¨ussen, sodass Z ein Martingal wird. Nach Beispiel 9.31 ist dies genau dann der Fall, wenn E[rY1 ] = pr + (1 − p)r−1 = 1 ist, also wenn r = 1 oder r = 1−p p ist. Offen1−p bar ist die Wahl r = 1 nutzlos, also nehmen wir r = p an. Wir erhalten so τ0 = inf{n ∈ N0 : Zn = 1} und τN = inf{n ∈ N0 : Zn = rN }. (Man beachte, dass wir hier nicht wie oben argumentieren k¨onnen, um zu zeigen, dass τ0 < ∞ und τN < ∞ fast sicher gilt. In der Tat ist f¨ur p = 21 auch stets nur genau eine der beiden Aussagen richtig. Allerdings erh¨alt man, beispielsweise durch das starke Gesetz der großen Zahl, dass lim inf n→∞ Xn = ∞ (und damit τN < ∞) fast sicher, falls p > 12 . Analog ist τ0 < ∞ fast sicher, falls p < 12 .) Wie in Beispiel 10.16 liefert der Optional Stopping Satz rkB = Z0 = E[Zτ0,N ] = N N pN B + (1 − pB )r , also ist die Ruinwahrscheinlichkeit von B
pN B =
r kB − r N . 1 − rN
(10.5)
Ist das Spiel vorteilhaft f¨ur B, also p > 21 , so ist r < 1, und wir erhalten im Limes N → ∞ (bei konstantem kB ) N kB p∞ . B := lim pB = r N →∞
(10.6) 3
¨ Ubung 10.2.1. Sei X ein quadratisch integrierbares Martingal mit quadratischem Variationsprozess X!. Sei τ eine endliche Stoppzeit. Man zeige: (i) Ist E[ X!] < ∞, so gilt * ) * ) E (Xτ − X0 )2 = E X!τ
und
) * ) * E X τ = E X0 .
(10.7)
(ii) Ist E[ X!τ ] = ∞, so braucht keine der Gleichungen in (10.7) zu gelten.
♣
10.3 Gleichgradige Integrierbarkeit und Optional Sampling
207
¨ Ubung 10.2.2. Wir betrachten hier eine allgemeinere Situation als im vorangehenden Beispiel, indem wir nur noch annehmen, dass Y1 , Y2 , . . . u.i.v. integrierbare Zufallsvariablen sind, die nicht fast sicher konstant sind (und Xn = Y1 + . . . + Yn ). Weiter nehmen wir an, dass es ein δ > 0 gibt mit E[exp(θY1 )] < ∞ f¨ur jedes θ ∈ (−δ, δ).Wir definieren eine Abbildung ψ : (−δ, δ) → R durch θ → log E[exp(θY1 )] und setzen Znθ := exp(θXn − nψ(θ)) f¨ur n ∈ N0 . Man zeige: (i) F¨ur jedes θ ∈ (−δ, δ) ist Z θ ist ein Martingal.
(ii) ψ ist strikt konvex. )3 * n→∞ (iii) E Znθ −→ 0 f¨ur θ = 0. n→∞
(iv) Znθ −→ 0 fast sicher.
Interpretieren wir Yn als die Differenz zwischen Pr¨amieneinnahmen und Schadensauszahlungen einer Versicherungsgesellschaft zur Zeit n, so gibt k0 +Xn den Kontostand der Versicherung zur Zeit n wieder, wenn das Anfangskapital k0 > 0 betr¨agt. Wir interessieren uns f¨ur die Ruinwahrscheinlichkeit ) * p(k0 ) = P inf{Xn + k0 : n ∈ N0 } < 0 in Abh¨angigkeit vom Startkapital.
Man kann davon ausgehen, dass die Pr¨amien so kalkuliert sind, dass E[Y1 ] > 0. Man zeige: Falls die Gleichung ψ(θ) = 0 eine L¨osung θ∗ = 0 hat, so ist θ∗ < 0. Man zeige, dass in diesem Fall die Cram´er-Lundberg’sche Ungleichung gilt: p(k0 ) ≤ exp(θ∗ k0 ).
(10.8)
In dem Fall, wo Yi nur die Werte −1 und 1 annimmt und k0 ∈ N ist, gilt Gleichheit, und wir erhalten Gleichung (10.6) mit r = exp(θ∗ ). ♣
10.3 Gleichgradige Integrierbarkeit und Optional Sampling Wir wollen jetzt das Optional Sampling Theorem auf unbeschr¨ankte Stoppzeiten ausweiten. Dies geht, falls das zugrunde liegende Martingal gleichgradig integrierbar ist (vergleiche Definition 6.16). Lemma 10.20. Sei X ein gleichgradig integrierbares Martingal. Dann ist die Familie (Xτ : τ ist endliche Stoppzeit) gleichgradig integrierbar. Beweis. Nach Satz 6.19) eine monoton wachsende, konvexe Funktion f : [0, ∞) → [0, ∞) mit lim inf x→∞ f (x)/x = ∞ und L := supn∈N0 E[f (|Xn |)] < ∞. Ist τ < ∞ eine endliche Stoppzeit, dann ist nach dem Optional Sampling Theorem f¨ur beschr¨ankte Stoppzeiten (Satz 10.11 mit τ = n und σ = τ ∧ n) E[Xn Fτ ∧n ] = Xτ ∧n . Wegen {τ ≤ n} ∈ Fτ ∧n liefert die Jensen’sche Ungleichung
208
10 Optional Sampling S¨atze
) E f (|Xτ |)
{τ ≤n}
*
) * = E f (|Xτ ∧n |) {τ ≤n} ) ) * * ≤ E E f (|Xn |) Fτ ∧n {τ ≤n} ) * = E f (|Xn |) {τ ≤n} ≤ L.
Also ist E[f (|Xτ |)] ≤ L. Nach Satz 6.19 ist (Xτ , τ ist endliche Stoppzeit) gleichgradig integrierbar. 2
Satz 10.21 (Optional Sampling und gleichgradige Integrierbarkeit). Ist (Xn , n ∈ N0 ) ein gleichgradig integrierbares Martingal (beziehungsweise Supermartingal), und sind σ ≤ τ Stoppzeiten, dann gilt E[|Xτ |] < ∞ und Xσ = E[Xτ Fσ ] (beziehungsweise Xσ ≥ E[Xτ Fσ ]).
Beweis. Sei zun¨achst X ein Martingal. F¨ur A ∈ Fσ ist {σ ≤ n} ∩ A ∈ Fσ∧n , also nach dem Optional Sampling Theorem (Satz 10.11) * ) * ) E Xτ ∧n {σ≤n}∩A = E Xσ∧n {σ≤n}∩A .
Nach Lemma 10.20 ist (Xσ∧n , n ∈ N0 ) und damit (Xσ∧n {σ≤n}∩A , n ∈ N0 ) gleichgradig integrierbar. Analog gilt dies f¨ur Xτ . Nach Satz 6.25 gilt daher * * ) ) E[Xτ A ] = lim E Xτ ∧n {σ≤n}∩A = lim E Xσ∧n {σ≤n}∩A = E[Xσ A ]. n→∞
n→∞
Es folgt E[Xτ Fσ ] = Xσ .
Sei nun X ein Supermartingal. Dann hat X die Doob-Zerlegung X = M + A, wobei M ein Martingal ist und A ≤ 0 vorhersagbar und fallend. Wegen E[|An |] = E[−An ] ≤ E[|Xn − X0 |] ≤ E[|X0 |] + sup E[|Xm |] < ∞, m∈N0
gilt An ↓ A∞ f¨ur ein A∞ ≤ 0 mit E[−A∞ ] < ∞. Also ist A damit auch M = X − A gleichgradig integrierbar (Satz 6.19). Es folgt E[|Xτ |] ≤ E[−Aτ ] + E[|Mτ |] ≤ E[−A∞ ] + E[|Mτ |] < ∞. Ferner ist E[Xτ Fσ ] = E[Mτ Fσ ] + E[Aτ Fσ ]
= Mσ + Aσ + E[(Aτ − Aσ ) Fσ ] ≤ Mσ + Aσ = Xσ .
2
Korollar 10.22. Ist X ein gleichgradig integrierbares Martingal (beziehungsweise Supermartingal), und sind τ1 ≤ τ2 ≤ . . . endliche Stoppzeiten, so ist (Xτn )n∈N ein Martingal (beziehungsweise Supermartingal).
11 Martingalkonvergenzs¨atze und Anwendungen
Wir haben Martingale X = (Xn )n∈N0 als faire Spiele kennen gelernt und festgestellt, dass sie unter gewissen Transformationen (Optionales Stoppen, diskretes stochastisches Integral) wieder zu Martingalen werden. In diesem Kapitel werden wir sehen, dass unter schwachen Bedingungen (Nichtnegativit¨at oder gleichgradige Integrierbarkeit) Martingale fast sicher konvergieren. Zudem impliziert die Martingalstruktur die Lp -Konvergenz schon unter formal schw¨acheren Annahmen als denen, die wir in Kapitel 7 gesehen haben. Die grundlegenden Ideen dieses Kapitels liegen in der Doob’schen Ungleichung (Satz 11.2) und in der Aufkreuzungsungleichung (Lemma 11.3).
11.1 Die Doob’sche Ungleichung Wir haben mit der Kolmogorov’schen Ungleichung (Satz 5.28) eine Ungleichung kennen gelernt, die analog zur Chebyshev’schen Ungleichung die Wahrscheinlichkeit f¨ur große Werte des Maximums eines quadratisch integrierbaren Prozesses mit unabh¨angigen, zentrierten Zuw¨achsen nach oben absch¨atzt. An dieser Stelle wollen wir die Ungleichung in mehrere Richtungen verbessern. Einerseits wollen wir Martingale betrachten. Andererseits wollen wir mit weniger als zweiten Momenten auskommen, beziehungsweise bei Anwesenheit h¨oherer Momente die Ungleichung versch¨arfen. Sei I ⊂ N0 und X = (Xn )n∈I ein stochastischer Prozess. Wir schreiben f¨ur n ∈ N Xn∗ = sup{Xk : k ≤ n}
und
|X|∗n = sup{|Xk | : k ≤ n}.
Lemma 11.1. Ist X ein Submartingal, dann gilt f¨ur jedes λ > 0 * ) * ) * ) λ P Xn∗ ≥ λ ≤ E Xn {Xn∗ ≥λ} ≤ E |Xn | {Xn∗ ≥λ} .
Beweis. Die zweite Ungleichung ist trivial. F¨ur die erste betrachte
τ := inf k ∈ I : Xk ≥ λ ∧ n. Nach Satz 10.11 (Optional Sampling Theorem) ist
210
11 Martingalkonvergenzs¨atze und Anwendungen
* ) * ) E[Xn ] ≥ E[Xτ ] = E Xτ {Xn∗ ≥λ} + E Xτ {Xn∗ <λ} * ) * ) ≥ λ P Xn∗ ≥ λ + E Xn {Xn∗ <λ} . * ) (Merke: τ = n, falls Xn∗ < λ.) Jetzt subtrahiere E Xn {Xn∗ <λ} .
2
Satz 11.2 (Doob’sche Lp -Ungleichung). Sei X ein Martingal oder ein positives Submartingal. (i) F¨ur jedes p ≥ 1 und λ > 0 gilt * ) * ) λp P |X|∗n ≥ λ ≤ E |Xn |p .
(ii) F¨ur jedes p > 1 gilt
) * ) * E |Xn |p ≤ E (|X|∗n )p ≤
p p−1
p
* ) E |Xn |p .
Beweis. Der Beweis folgt [137]. (i) Nach Satz 9.35 ist (|Xn |p )n∈I ein Submartingal, und die Behauptung folgt aus Lemma 11.1. (ii) Die erste Ungleichung ist trivial. F¨ur die zweite Ungleichung beachte man, dass nach Lemma 11.1 gilt * * ) ) λP |X|∗n ≥ λ ≤ E |Xn | {|X|∗n ≥λ} .
Also ist f¨ur jedes K > 0
) * E (|X|∗n ∧ K)p = E =E
-
|X|∗ n ∧K
-
K
pλ
p−1
0
=
K
0
≤
0
{|X|∗ n ≥λ}
dλ
.
p λp−1 P[|X|∗n ≥ λ] dλ
K
) p λp−2 E |Xn | ∗
= p E |Xn | =
p λp−1 dλ
0
.
|X|n ∧K
0
{|X|∗ n ≥λ}
λ
p−2
dλ
*
.
dλ
) * p E |Xn | · (|X|∗n ∧ K)p−1 . p−1
Die H¨older’sche Ungleichung liefert nun
11.2 Martingalkonvergenzs¨atze
211
) * E (|X|∗n ∧ K)p ≤
) ) *1/p *(p−1)/p p E (|X|∗n ∧ K)p · E |Xn |p . p−1 ) *p−1 Indem wir beide Seiten zur p-ten Potenz erheben und durch E (|X|∗n ∧ K)p teilen (hier wird das Abschneiden bei K gebraucht, damit wir sicher durch eine endliche Zahl teilen), erhalten wir p ) * ) * p ∗ p E (|X|n ∧ K) ≤ E |Xn |p . p−1 Jetzt lassen wir K nach ∞ gehen.
2
¨ Ubung 11.1.1. Sei (Xn )n∈N0 ein Submartingal oder Supermartingal. Man zeige mit Hilfe von Satz 11.2 und der Doob-Zerlegung, dass f¨ur jedes n ∈ N und λ > 0 * ) λ P |X|∗n ≥ λ ≤ 12 E[|X0 |] + 9 E[|Xn |]. ♣
11.2 Martingalkonvergenzs¨atze In diesem Abschnitt zeigen wir die g¨angigen Martingalkonvergenzs¨atze und geben ein paar kleinere Beispiele an. Wir beginnen mit dem Herzst¨uck der Martingalkonvergenzs¨atze, der Aufkreuzungsungleichung.
Sei F = (Fn )n∈N0 eine Filtration und F∞ = σ n∈N0 Fn . Sei (Xn )n∈N0 reellwertig und an F adaptiert. Seien a, b ∈ R mit a < b. Stellen wir uns X als Aktienkurs vor, so w¨are es eine sinnvolle Handelsstratgie, immer dann die Aktie zu kaufen, wenn ihr Kurs unter a gefallen ist, und zu verkaufen, sobald der Kurs wieder u¨ ber b gestiegen ist – jedenfalls dann, wenn wir sicher wissen, dass der Kurs immer wieder u¨ ber b steigt. Jedes Mal, wenn der Kurs der Aktie eine solche Aufkreuzung von a nach b macht, erhalten wir einen Gewinn von mindestens b − a. Indem wir den maximal m¨oglichen Gewinn nach oben absch¨atzen, erhalten wir eine obere Absch¨atzung f¨ur die Zahl der Aufkreuzungen. Ist diese aber endlich f¨ur je zwei Werte a < b, so muss der Prozess fast sicher konvergieren. Wir kommen zu den technischen Details. Wir definieren Stoppzeiten σ0 ≡ 0 und τk := inf{n ≥ σk−1 : Xn ≤ a} σk := inf{n ≥ τk : Xn ≥ b}
f¨ur k ∈ N, f¨ur k ∈ N.
Man beachte, dass τk = ∞ gilt, falls σk−1 = ∞ ist, und σk = ∞, falls τk = ∞. Wir sagen, dass X zwischen τk und σk die k-te Aufkreuzung u¨ ber [a, b] hat, falls σk < ∞. F¨ur n ∈ N definieren wir Una,b := sup{k ∈ N0 : σk ≤ n} als Anzahl der Aufkreuzungen bis zur Zeit n.
212
11 Martingalkonvergenzs¨atze und Anwendungen
Lemma 11.3 (Aufkreuzungsungleichung). Es sei (Xn )n∈N0 ein Submartingal. Dann ist ) * E[(Xn − a)+ ] − E[(X0 − a)+ ] E Una,b ≤ . b−a
Beweis. Wir erinnern an das diskrete stochastische Integral (Definition 9.37) H ·X und beschreiben formal die oben angedeutete Handelsstrategie H durch m ∈ N0 1, falls m ∈ {τk + 1, . . . , σk } f¨ur ein k ∈ N, Hm := 0, sonst. H ist nichtnegativ und vorhersagbar, denn f¨ur m ∈ N ist {Hm = 1} =
∞
{τk ≤ m − 1} ∩ {σk > m − 1} ,
k=1
und jedes der Ereignisse liegt in Fm−1 . Setze Y = max(X, a). Ist k ∈ N und σk < ∞, so ist offenbar Yσi − Yτi = Yσi − a ≥ b − a f¨ur jedes i ≤ k , also ist (H ·Y )σk =
σi k
i=1 j=τi +1
(Yj − Yj−1 ) =
k i=1
(Yσi − Yτi ) ≥ k(b − a).
F¨ur j ∈ {σk , . . . , τk+1 } ist (H ·Y )j = (H ·Y )σk , und f¨ur j ∈ {τk + 1, . . . , σk } ist (H ·Y )j ≥ (H ·Y )τk = (H ·Y )σk−1 . F¨ur n ∈ N ist daher (H ·Y )n ≥ (b − a)Una,b . Nach Korollar 9.34 ist Y ein Submartingal, und damit (nach Satz 9.39) auch H ·Y und (1 − H)·Y . Nun ist Yn − Y0 = (1·Y )n = (H ·Y )n + ((1 − H)·Y )n , also ) * ) * E[Yn − Y0 ] ≥ E (H ·Y )n ≥ (b − a)E Una,b . 2 Satz 11.4 (Martingalkonvergenzsatz). Sei (Xn )n∈N0 ein Submartingal mit sup{E[Xn+ ] : n ≥ 0} < ∞. Dann existiert n→∞ eine F∞ -messbare Zufallsvariable X∞ mit E[|X∞ |] < ∞ und Xn −→ X∞ fast sicher. Beweis. F¨ur a < b ist (wegen E[(Xn − a)+ ] ≤ |a| + E[Xn+ ]) nach Lemma 11.3 E[Una,b ] ≤
|a| + E[Xn+ ] . b−a
Offensichtlich existiert U a,b := limn→∞ U) na,b . Es gilt* nach ) a,b * der monotone Limes a,b Voraussetzung E U = limn→∞ E[Un ] < ∞. Speziell ist P U a,b < ∞ = 1. Definiere die F∞ -messbaren Ereignisse 2 1
C a,b = lim inf Xn < a ∩ lim sup Xn > b ⊂ U a,b = ∞ n→∞
n→∞
11.2 Martingalkonvergenzs¨atze
und C=
213
C a,b
a,b∈Q a
) * Dann gilt P C a,b = 0 und damit auch P[C] = 0. Per Konstruktion ist (Xn )n∈N jedoch auf C c konvergent. Also existiert der fast sichere Limes X∞ = limn→∞ Xn . Jedes der Xn ist F∞ -messbar, also ist X∞ auch F∞ -messbar. Nach dem Lemma von Fatou ist
+ E[X∞ ] ≤ sup E[Xn+ ] : n ≥ 0 < ∞.
Andererseits ist (weil X Submartingal ist), wieder mit Fatous Lemma
− E[X∞ ] ≤ lim inf E[Xn− ] = lim inf E[Xn+ ] − E[Xn ] n→∞
n→∞
≤ sup E[Xn+ ] : n ∈ N0 − E[X0 ] < ∞.
2
Korollar 11.5. Ist X ein nichtnegatives Supermartingal, so gibt es eine F∞ -messn→∞ bare Zufallsvariable X∞ ≥ 0 mit E[X∞ ] ≤ E[X0 ] und Xn −→ X∞ f.s. Beweis. Der vorige Satz mit (−X) liefert X∞ als fast sicheren Limes. Das Lemma von Fatou liefert E[X∞ ] ≤ lim inf E[Xn ] ≤ E[X0 ]. 2 n→∞
Beispiel 11.6. Sei Sn der Kontostand beim Petersburger Spiel nach der n-ten Runde (siehe Beispiel 9.40). Dann ist S ein Martingal und Sn ≤ 1 fast sicher f¨ur jedes n. Also sind die Voraussetzungen von Satz 11.4 erf¨ullt und (Sn )n∈N0 konvergiert fast sicher f¨ur n → ∞. Da sich der Kontostand noch a¨ ndert, so lange Geld eingesetzt wird, also so lange Sn < 1 ist, gilt lim Sn = 1 fast sicher. n→∞
Da E[Sn ] = 0 ist f¨ur jedes n ∈ N, kann die Konvergenz nicht in L1 gelten. Dies geht einher mit der Beobachtung, dass S nicht gleichgradig integrierbar ist. 3 F¨ur gleichgradig integrierbare Martingale gilt ein st¨arkerer Konvergenzsatz. ¨ gleichgradig integrierbare Martingale). Satz 11.7 (Konvergenzsatz fur Ist (Xn )n∈N0 ein gleichgradig integrierbares F- (Sub-, Super-) Martingal, dann n→∞ existiert eine F∞ -messbare Zufallsvariable X∞ mit Xn −→ X∞ f.s. und in L1 . Weiter gilt, dass – Xn = E[X∞ Fn ] f¨ur jedes n ∈ N, falls X ein Martingal ist, – Xn ≤ E[X∞ Fn ] f¨ur jedes n ∈ N, falls X ein Submartingal ist, – Xn ≥ E[X∞ Fn ] f¨ur jedes n ∈ N, falls X ein Supermartingal ist.
214
11 Martingalkonvergenzs¨atze und Anwendungen
Bemerkung 11.8. Die Aussage von Satz 11.7 l¨asst sich so ausdr¨ucken: Der Prozess (Xn )n∈N0 ∪{∞} ist ein (Sub-, Super-) Martingal bez¨uglich (Fn )n∈N0 ∪{∞} . 3 Beweis. Wir f¨uhren den Beweis f¨ur den Fall, wo X ein Submartingal ist. Gleichgradige Integrierbarkeit impliziert sup{E[Xn+ ] : n ≥ 0} < ∞. Nach Satz 11.4 exisn→∞ tiert der fast sichere Limes X∞ . Nach Satz 6.25 gilt dann E[|Xn − X∞ |] −→ 0. 1 Nach Korollar 8.20 impliziert die L1 -Konvergenz der L -Konvergenz schon * n→∞ ) diese −→ 0. Da X ein Subbedingten Erwartungen E E[Xn Fm ] − E[X∞ Fm ] −
= 0 f¨ur n ≥ m. Die Dreiecksungleichung martingal ist, ist E[Xn Fm ] − Xm liefert also ' ' − ( − ( E E[X∞ Fm ] − Xm = lim E E[Xn Fm ] − Xm = 0. n→∞ 2 Es folgt, dass E[X∞ Fm ] − Xm ≥ 0 fast sicher. Korollar 11.9. Sei X ≥ 0 ein Martingal und X∞ = lim Xn . Genau dann ist n→∞
E[X∞ ] = E[X0 ], wenn X gleichgradig integrierbar ist.
Beweis. Das folgt direkt aus Satz 6.25.
2
Sei p ∈ [1, ∞). Ein reellwertiger stochastischer Prozess (Xi )i∈I heißt Lp –beschr¨ankt, falls supi∈I E[|Xi |p ] < ∞ (Definition 6.20). Im Allgemeinen folgt aus der Lp –Beschr¨anktheit eines Prozesses (Xi )i∈I nicht, dass (|Xi |p )i∈I gleichgradig integrierbar w¨are. Ist X ein Martingal und p > 1, so folgt dies jedoch aus der Doob’schen Ungleichung. Insbesondere folgt dann aus fast sicherer Konvergenz schon die Konvergenz in Lp . ¨ Martingale). Satz 11.10 (Lp -Konvergenzsatz fur Sei p > 1 und (Xn )n∈N0 ein Lp -beschr¨anktes Martingal. Dann existiert eine F∞ n→∞ messbare Zufallsvariable X∞ mit E[|X∞ |p ] < ∞, sowie Xn −→ X∞ fast sicher und in Lp . Speziell ist (|Xn |p )n∈N0 gleichgradig integrierbar. Beweis. Nach Korollar 6.21 ist X gleichgradig integrierbar. Also existiert der fast sichere Limes X∞ . Nach der Doob’schen Ungleichung (Satz 11.2) ist f¨ur n ∈ N p ) * )
* p p E sup |Xk | : k ≤ n ≤ E |Xn |p . p−1 Also ist p ' ) *
( p E sup |Xk |p : k ∈ N0 sup E |Xn |p : n ∈ N0 < ∞. ≤ p−1
Insbesondere ist (|Xn |p )n∈N0 also gleichgradig integrierbar.
Majorisierte Konvergenz liefert (wegen |Xn − X∞ |p ≤ 2p sup{|Xn |p : n ∈ N0 }) ) * ) * n→∞ E |X∞ |p < ∞ und E |Xn − X∞ |p −→ 0. 2
11.2 Martingalkonvergenzs¨atze
215
F¨ur den Fall quadratintegrierbarer Martingale gibt es ein handliches Kriterium f¨ur die L2 -Beschr¨anktheit, das wir hier als Korollar festhalten (siehe Definition 10.3). Korollar 11.11. Sei X ein quadratintegrierbares Martingal X mit quadratischem Variationsprozess X!. Dann sind folgende vier Aussagen a¨ quivalent: (i) supn∈N E[Xn2 ] < ∞,
(ii) limn→∞ E[ X!n ] < ∞,
(iii) X konvergiert in L2 ,
(iv) X konvergiert fast sicher und in L2 . Beweis. (i) ⇐⇒ (ii)“ Wegen Var[Xn − X0 ] = E[ X!n ] (siehe Satz 10.4) ist ” X genau dann in L2 beschr¨ankt, wenn (ii) gilt. (iv) =⇒ (iii) =⇒ (i)“ Dies ist trivial. ” (i) =⇒ (iv)“ Dies ist die Aussage von Satz 11.10. ”
2
Bemerkung 11.12. Die Aussage von Satz 11.10 ist f¨ur p = 1 im Allgemeinen ¨ falsch. Siehe Ubung 11.2.1. 3 Lemma 11.13. Sei X ein quadratintegrierbares Martingal mit quadratischem Variationsprozess X!, und sei τ eine Stoppzeit. Dann hat der gestoppte Prozess X τ den quadratischen Variationsprozess X τ ! = X!τ := ( X!τ ∧n )n∈N0 . ¨ Beweis. Ubung!
2
Nehmen wir statt wie in Korollar 11.11 nicht die Beschr¨anktheit der Erwartungswerte der quadratischen Variation an, sondern lediglich die fast sichere Beschr¨anktheit, so erhalten wir immerhin noch fast sichere Konvergenz von X, im Allgemeinen nicht jedoch L2 -Konvergenz. Satz 11.14. Sei X ein quadratintegrierbares Martingal mit supn∈N X!n < ∞ fast sicher. Dann konvergiert X fast sicher. Beweis. Ohne Einschr¨ankung k¨onnen wir annehmen, dass X0 = 0 ist, sonst betrachten wir das Martingal (Xn − X0 )n∈N0 , das den selben quadratischen Variationsprozess hat. Betrachte f¨ur K > 0 τK := inf{n ∈ N : X!n+1 ≥ K}. Dies ist eine Stoppzeit, da X! vorhersagbar ist. Offenbar ist supn∈N X!τK ∧n ≤ K fast sicher. Nach Korollar 11.11 konvergiert der gestoppte Prozess X τK fast sicher τK (und in L2 ) gegen eine Zufallsvariable, die wir X∞ nennen wollen. Nach Voraussetzung gilt P[τK = ∞] → 1 f¨ur K → ∞, also konvergiert X fast sicher. 2
216
11 Martingalkonvergenzs¨atze und Anwendungen
Beispiel 11.15. Sei X die symmetrische einfache Irrfahrt auf Z, das heißt Xn = n R , wobei R1 , R2 , . . . u.i.v. sind mit P[R1 = 1] = 1 − P[R1 = −1] = 21 . k k=1 Dann ist X ein Martingal, jedoch ist lim supn→∞ Xn = ∞ und lim inf n→∞ Xn = −∞, also X nicht einmal uneigentlich konvergent. Dies geht nach dem Martingalkonvergenzsatz einher damit, dass X nicht gleichgradig integrierbar ist. 3 Beispiel 11.16 (W¨ahlermodell). Wir betrachten ein einfaches Modell zum Verhalten von opportunistischen W¨ahlern, die nur einer von zwei Meinungen (zu einem politischen Thema) f¨ahig sind, sagen wir 0 und 1. Wir betrachten eine Menge Λ ⊂ Zd , die wir als die Menge der Orte auffassen, an denen je ein Individuum sitzt. Zur Einfachheit nehmen wir an, dass Λ = {0, . . . , L − 1}d f¨ur ein L ∈ N. Mit x ∈ {0, 1}Λ bezeichnen wir einen generischen Zustand des gesamten Wahlvolkes, wobei x(i) ∈ {0, 1} die Meinung des Individuums i ∈ Λ ist. Wir stellen uns nun vor, dass sich die Meinungen in diskreten Zeitschritten a¨ ndern. Zu jedem Zeitpunkt n vergisst ein zuf¨allig gew¨ahltes Individuum In seine Meinung und u¨ bernimmt stattdessen die Meinung eines zuf¨allig gew¨ahlten Nachbarn In + Nn , wobei wir die Addition als komponentenweise modulo L verstehen (manchmal wird dies auch periodische Randbedingungen genannt, weil wir Λ als diskreten Torus auffassen). So erhalten wir eine zuf¨allige Folge (Xn )n∈N0 von Zust¨anden in {0, 1}Λ , die die zuf¨allige Entwicklung der Meinungen darstellt. Um noch einmal formal zu fassen, was wir gerade beschrieben haben: Wir betrachten unabh¨angige Zufallsvariablen (In )n∈N und (Nn )n∈N . F¨ur jedes n ∈ N sei In uniform verteilt auf Λ und Nn uniform verteilt auf den 2d direkten Nachbarn des Ursprungs N := {i ∈ Zd : i2 = 1}. Zudem ist x = X0 ∈ {0, 1}Λ der urspr¨ungliche Zustand. Die weiteren Zust¨ande definieren wir induktiv durch Xn−1 (i), falls In = i, Xn (i) = Xn−1 (In + Nn ), falls In = i. Wir interessieren uns jetzt f¨ur das Langzeitverhalten von (Xn )n∈N0 . Wird es auf lange Sicht einen Konsens unter allen Individuen geben, oder k¨onnen zwei konkurrierende Meinungen koexistieren? Wir betrachten dazu die Gesamtzahl aller Individuen mit Meinung 1 zur Zeit n, n¨amlich Mn := i∈Λ Xn (i). Sei F die Filtration F = (Fn )n∈N0 , wobei Fn = σ(Ik , Nk : k ≤ n) ist f¨ur jedes n ∈ N0 . Dann ist M an F adaptiert und E[Mn Fn−1 ] = Mn−1 − E[Xn−1 (In ) Fn−1 ] + E[Xn−1 (In + Nn ) Fn−1 ] = Mn−1 + P[In = i] Xn−1 (i) − P[In + Nn = i] Xn−1 (i) i∈Λ
i∈Λ
= Mn−1 ,
weil P[In = i] = P[In + Nn = i] = L−d f¨ur jedes i ∈ Λ. Also ist M ein beschr¨anktes F-Martingal und damit fast sicher und in L1 konvergent gegen eine Zufallsvariable M∞ . Da M nur ganzzahlige Werte annimmt, gibt es ein (zuf¨alliges)
11.2 Martingalkonvergenzs¨atze
217
n0 , sodass Mn = Mn0 f¨ur jedes n ≥ n0 . Damit ist aber auch Xn = Xn0 f¨ur jedes n ≥ n0 . Offenbar ist jedoch kein Zustand x mit x ≡ 0 und x ≡ 1 stabil, denn hier gilt, falls i und j in Λ benachbart sind und x(i) = x(j), P[Xn = Xn−1 Xn−1 = x] ≥ P[In−1 = i, Nn−1 = j − i] = L−d (2d)−1 . Es muss also M∞ ∈ {0, Ld } gelten. Nun ist aber E[M∞ ] = M0 , also gilt * M0 ) P M∞ = Ld = d L
und
* ) M0 P M∞ = 0 = 1 − d . L
Etwas formaler sehen wir den Sachverhalt, dass nur die beiden extremen Zust¨ande stabil sind, so ein: Wir betrachten den quadratischen Variationsprozess M ! von M . Dann ist M !n =
n
k=1
{Mk =
Mk−1 }
=
n
k=1
{Xk−1 (Ik ) =Xk−1 (Ik +Nk )} .
Also ist L2d ≥ Var[Mn ] = E[ M !n ] n = P[Xk−1 (Ik ) = Xk−1 (Ik + Nk )] k=1
≥ (2d)−1 L−d ∞
n
k=1
P[Mk−1 ∈ {0, Ld }].
Es folgt, dass k=1 P[Mk−1 ∈ {0, Ld }] ≤ 2dL3d < ∞, also ist nach dem Lemma 3 von Borel-Cantelli M∞ ∈ {0, Ld }. Beispiel 11.17 (Satz von Radon-Nikodym). Wir wollen mit Hilfe des Martingalkonvergenzsatzes einen alternativen Beweis des Satzes von Radon-Nikodym (Korollar 7.34) angeben. Sei (Ω, F, P) ein W-Raum und Q ein weiteres W-Maß auf (Ω, A). Wir nehmen zudem an, dass F abz¨ahlbar erzeugt ist, dass es also (h¨ochstens) abz¨ahlbar viele Mengen A1 , A2 , . . . ∈ F gibt, sodass F = σ({A1 , A2 , . . .}). Dies ist beispielsweise dann richtig, wenn F die Borel’sche σ-Algebra auf einem polnischen Raum ist. Speziell k¨onnen wir f¨ur den Fall Ω = Rd offene Kugeln mit rationalen Radien und rationalen Zentren nehmen. Wir bilden nun eine Filtration F = (Fn )n∈N , indem wir Fn := σ({A1 , . . . , An }) es eine endliche setzen. Offenbar ist #Fn < ∞ f¨ur jedes n ∈ N. Genauer gilt, dass C f¨ur jedes (eindeutig bestimmte) Teilmenge Zn ⊂ Fn \ {∅} gibt mit B = C∈Zn C⊂B
B ∈ Fn . Zn ist die Zerlegung von Fn in Atome“. Schließlich definieren wir einen ” stochastischen Prozess (Xn )n∈N durch
218
11 Martingalkonvergenzs¨atze und Anwendungen
Xn :=
C∈Zn : P[C]>0
Q(C) P[C]
C.
Offenbar ist X an F adaptiert. Sei B ∈ Fn und m ≥ n. F¨ur jedes C ∈ Zm gilt entweder C ∩ B = ∅ oder C ⊂ B. Also ist Q(C) P[C ∩B] = Q(C) = Q(B). (11.1) E[Xm B ] = P[C] C∈Zm : P[C]>0
C∈Zm : C⊂B
Insbesondere ist X also ein F-Martingal. Wir nehmen nun an, dass Q absolutstetig bez¨uglich P ist. Nach Beispiel 7.39 ist X dann gleichgradig integrierbar. Nach dem Martingalkonvergenzsatz konvergiert X fast sicher und in L1 gegen eine Zufallsvariable X∞ . Nach (11.1) ist E[X∞ B ] = Q(B) f¨ur jedes B ∈ n∈N Fn , also auch f¨ur jedes B ∈ F. Mithin ist X∞ die Radon-Nikodym-Dichte von Q bez¨uglich P.
Man beachte, dass wir f¨ur diesen Beweis des Satzes von Radon-Nikodym nirgends die Existenz bedingter Erwartungen vorausgesetzt haben, also nicht in versteckter Weise auf den Satz selber zur¨uckgegriffen haben. Man k¨onnte einwenden, dass wir hier nur den Spezialfall von W-Maßen behandeln konnten. Dieser Mangel kann jedoch sehr leicht behoben werden: Sind μ und ν beliebige (jedoch von Null verschiedene) σ-endliche Maße, dann gibt es messbare 0 0 Funktionen g, h : Ω → (0, ∞) mit g dμ = 1 und h dν = 1. Wir setzen nun P = gμ und Q = hν. Offenbar gilt genau dann Q ≪ P, wenn ν ≪ μ. In diesem dν . Fall ist hg X∞ eine Version der Radon-Nikodym-Ableitung dμ
Auf die Einschr¨ankung, dass F abz¨ahlbar erzeugt werden kann, kann man ebenfalls verzichten. Mit Hilfe der Approximationss¨atze f¨ur Maße kann man zeigen, dass es stets eine abz¨ahlbar erzeugte σ-Algebra G ⊂ F gibt, sodass f¨ur jedes A ∈ F ein B ∈ G existiert mit P[A △ B] = 0. Hiermit l¨asst sich der allgemeine Fall beweisen. Wir f¨uhren dies hier nicht aus, sondern verweisen auf [157, Kapitel 14.13]. 3 ¨ Ubung 11.2.1. Die Aussage von Satz 11.10 ist f¨ur p = 1 im Allgemeinen falsch. Man gebe ein Beispiel an f¨ur ein nichtnegatives Martingal X mit E[Xn ] = 1 f¨ur n→∞ jedes n ∈ N, aber Xn −→ 0 fast sicher. ♣ ¨ Ubung 11.2.2. Seien X1 , X2 , . . . unabh¨angige, quadratisch integrierbare Zufallsva∞ riablen mit n=1 n12 Var[Xn ] < ∞. Man zeige mit Hilfe des Martingalkonver♣ genzsatzes das starke Gesetz der großen Zahl f¨ur (Xn )n∈N . ¨ Ubung 11.2.3. Man gebe ein Beispiel an f¨ur ein quadratisch integrierbares Martin♣ gal, das fast sicher konvergiert, aber nicht in L2 . ¨ Ubung 11.2.4. Man zeige: In Satz 11.14 gilt im Allgemeinen nicht die Umkehrung. Das heißt, es gibt ein quadratintegrierbares Martingal X, das fast sicher konvergiert, ♣ f¨ur das aber nicht gilt, dass lim X!n < ∞ fast sicher. n→∞
11.3 Beispiel: Verzweigungsprozess
219
¨ Ubung 11.2.5. Man zeige: In Satz 11.14 gilt die Umkehrung unter der zus¨atzlichen Annahme, dass es ein K > 0 gibt mit |Xn − Xn−1 | ≤ K f.s. f¨ur jedes n ∈ N. ♣ ∗ ¨ Ubung 11.2.6. Sei (Fn )n∈N0 eine
Ereignisse. Setze A = ∞Filtration und (An )n∈N lim supn→∞ An und A∞ = n=1 P[An |Fn−1 ] = ∞ . Man zeige die bedingte ∗ ] = 0. Version des Borel-Cantelli Lemmas: P[A∞ △ A ∞ ¨ ♣ Hinweis: Wende Ubung 11.2.5 an auf Xn = n=1 ( An − P[An |Fn−1 ]).
¨ Ubung 11.2.7. Sei p ∈ [0, 1] und X = (Xn )n∈N0 ein stochastischer Prozess mit Werten in [0, 1]. F¨ur jedes n ∈ N0 gelte: Gegeben X0 , . . . , Xn ist 1 1 − p + pXn mit Wahrscheinlichkeit Xn , Xn+1 = pXn mit Wahrscheinlichkeit 1 − Xn .
Man zeige, dass X ein Martingal ist und fast sicher konvergiert. Man bestimme die Verteilung des fast sicheren Grenzwerts limn→∞ Xn . ♣
¨ Ubung 11.2.8. Sei f ∈ L1 (λ), wobei λ die Einschr¨ankung des Lebesgue-Maßes auf [0, 1] bezeichnet. Sei In,k = [k 2−n , (k + 1) 2−n ) f¨ur n ∈ N und k = 0, . . . , 2n − 1. Definiere fn : [0, 1] → R durch n f dλ, falls k so gew¨ahlt ist, dass x ∈ Ik,n . fn (x) = 2 Ik,n
n→∞
Zeige: F¨ur λ-fast alle x ∈ [0, 1] gilt fn (x) −→ f (x).
♣
¨ Ubung 11.2.9. Sei (Ω, A, P) ein Wahrscheinlichkeitsraum mit einer Filtration F = (Fn )n∈N . Sei F∞ := σ(Fn : n ∈ N), und sei M der Vektorraum der gleichgradig integrierbaren F-Martingale. Man zeige: die Abbildung Φ : L1 (F∞ ) → M, X∞ → ♣ (E[X∞ |Fn ])n∈N ist ein Vektorraumisomorphismus.
11.3 Beispiel: Verzweigungsprozess Sei p = (pk )k∈N0 ein Wahrscheinlichkeitsvektor auf N0 und (Zn )n∈N0 der GaltonWatson-Prozess mit einem Urahn und Nachkommenverteilung p (siehe Definition 3.9). Zur Erinnerung geben wir die Konstruktion von Z an. Seien (Xn,i )n∈N0 , i∈N u.i.v. Zufallsvariablen P[X1,1 = k] = pk f¨ur k ∈ N0 . Setze Z0 = 1 und induktiv Zn+1 =
Zn i=1
Xn,i
f¨ur n ∈ N0 .
Wir interpretieren Zn als Gr¨oße einer Population zur Zeit n und Xn,i als Anzahl der Nachkommen des i-ten Individuums aus der n-ten Generation. Seien m := E[X1,1 ] < ∞ die erwartete Kinderanzahl pro Individuum und σ 2 := Var[X1,1 ] ∈ (0, ∞) die Varianz der Kinderzahl. Setze Fn := σ(Xk,i : k < n, i ∈ N). Dann ist Z an F adaptiert. Definiere Wn = m−n Zn .
220
11 Martingalkonvergenzs¨atze und Anwendungen
Lemma 11.18. W ist ein Martingal. Speziell ist E[Z n ] = mn f¨ur jedes n ∈ N. Beweis. Wir berechnen die bedingte Erwartung f¨ur n ∈ N0 : E[Wn+1 Fn ] = m−(n+1) E[Zn+1 Fn ] -Z . n −(n+1) =m E Xn,i Fn i=1
= m−(n+1)
∞
E
k=1
= m−n
∞
k=1
) E k·
)
{Zn =k} k
{Zn =k}
= m−n Zn = Wn .
* · Xn,i Fn
* Fn
2
Satz 11.19. Sei Var[X1,1 ] ∈ (0, ∞). Es existiert der fast sichere Limes W∞ = lim Wn , und es gilt
n→∞
m>1
⇐⇒
E[W∞ ] = 1
⇐⇒
E[W∞ ] > 0.
Beweis. W∞ existiert, weil W ≥ 0 ein Martingal ist. Ist m ≤ 1, so folgt, dass (Zn )n∈N f.s. gegen ein Z∞ konvergiert. Wegen σ 2 > 0 kommt nur Z∞ = 0 in Frage. Sei nun m > 1. Es gilt nach dem Satz von Blackwell-Girshick (Satz 5.10) wegen E[Zn−1 ] = mn−1 (Lemma 11.18)
Var[Wn ] = m−2n σ 2 E[Zn−1 ] + m2 Var[Zn−1 ] = σ 2 m−(n+1) + Var[Wn−1 ].
Induktiv folgt Var[Wn ] = σ 2
n+1 k=2
m−k ≤
σ2 m < ∞. Also ist W in L2 bem−1
schr¨ankt, und Satz 11.10 liefert, dass Wn → W∞ in L2 und damit auch in L1 . 2 Speziell ist E[W∞ ] = E[W0 ] = 1.
Unter der Annahme der endlichen Varianz waren die Aussagen von Satz 11.19 nicht schwer zu zeigen. Es gilt aber eine viel st¨arkere Aussage, die wir hier nur zitieren (siehe [94], beziehungsweise [108] f¨ur einen modernen Beweis). Satz 11.20 (Kesten-Stigum (1966)). Sei m > 1. Dann sind a¨ quivalent (i) E[W∞ ] = 1, (ii) E[W∞ ] > 0,
(iii) E[X1,1 log(X1,1 )+ ] < ∞.
¨ 12 Ruckw¨ artsmartingale und Austauschbarkeit
Bei vielen Datenerhebungen, etwa Telefonumfragen, ist die Reihenfolge, in der die Daten kommen, unerheblich. Mathematisch sprechen wir von austauschbaren Zufallsvariablen, wenn sich die gemeinsame Verteilung unter endlichen Vertauschungen nicht a¨ ndert. Der Struktursatz f¨ur austauschbare Zufallsvariablen von de Finetti besagt, dass sich eine unendlich große austauschbare Familie von Zufallsvariablen mit Werten im Raum E als Zweistufenexperiment beschreiben l¨asst: In der ersten Stufe wird eine zuf¨allige Wahrscheinlichkeitsverteilung Ξ auf E ausgew¨urfelt. In der zweiten Stufe werden die Zufallsvariablen u.i.v. mit Verteilung Ξ realisiert. Wir definieren zun¨achst den Begriff der Austauschbarkeit. Danach betrachten wir R¨uckw¨artsmartingale und zeigen den Konvergenzsatz f¨ur R¨uckw¨artsmartingale. Dieser ist der Eckstein f¨ur den Beweis des Satzes von de Finetti.
12.1 Austauschbare Familien von Zufallsvariablen Definition 12.1. Sei I eine beliebige Indexmenge und E ein polnischer Raum. Eine Familie (Xi )i∈I von Zufallsvariablen mit Werten in E heißt austauschbar, falls f¨ur jede endliche Permutation ̺ : I → I gilt, dass ' ( ) * L X̺(i) i∈I = L (Xi )i∈I .
Als endliche Permutation bezeichnen wir dabei eine Bijektion ̺ : I → I, die alle bis auf endlich viele Koordinaten unver¨andert l¨asst. Bemerkung 12.2. Offenbar sind a¨ quivalent: (i) (Xi )i∈I ist austauschbar. (ii) F¨ur n ∈ N und paarweise unterschiedliche i1 , . . . , in ∈ I sowie paarweise unterschiedliche j1 , . . . , jn ∈ I gilt L[(Xi1 , . . . , Xin )] = L[(Xj1 , . . . , Xjn )]. Insbesondere sind austauschbare Zufallsvariablen stets identisch verteilt (dies ist (ii) mit n = 1). 3
222
12 R¨uckw¨artsmartingale und Austauschbarkeit
Beispiel 12.3. (i) Ist (Xi )i∈I u.i.v., so ist (Xi )i∈I austauschbar. (ii) In einer Urne seien N Kugeln, davon M schwarz. Wir ziehen sukzessive ohne Zur¨ucklegen alle Kugeln und setzen 1, falls die n-te Kugel schwarz ist, Xn := 0, sonst. Dann ist (Xn )n=1,...,N austauschbar. Dies folgt aus elementarer Kombinatorik, denn f¨ur jede Wahl von x1 , . . . , xN ∈ {0, 1} mit x1 + . . . + xN = M ist offenbar * ) 1 P X1 = x1 , . . . , XN = xN = N . M
Diese Formel k¨onnen wir aber auch formal durch eine kleine Rechnung mit bedingten Wahrscheinlichkeiten herleiten, die wir in a¨ hnlicher Form f¨ur das P´olya’sche Urnenmodell in Beispiel 12.29 noch einmal durchf¨uhren werden. Setze dazu sk = x1 + . . . + xk f¨ur k = 0, . . . , N und 1 M − sk , falls x = 1, gk (x) = N − M + sk − k, falls x = 0. Dann ist P[X1 = x1 ] = g0 (x1 )/N und P[Xk+1 = xk+1 |X1 = x1 , . . . , Xk = xk ] =
gk (xk+1 ) N −k
f¨ur k = 1, . . . , N − 1.
Ferner ist offenbar gk (0) = N − M − l, wobei l = #{i < k : xi = 0}. Es folgt P[X1 = x1 , . . . , XN = xN ] = P[X1 = x1 ]
N −1 k=1
=
P[Xk+1 = xk+1 |X1 = x1 , . . . , Xk = xk ]
N −1 1 1 gk (xk+1 ) = N! N! k=0
=
k: xk =1
gk (1)
gk (0)
k: xk =0
M −1 N −1 1 M ! (N − M )! (M − l) (N − M − l) = . N! N! l=0
l=0
(iii) Sei Y eine Zufallsvariable mit Werten in [0, 1], und gegeben Y seien (Xi )i∈I unabh¨angig und BerY –verteilt. Das heißt, f¨ur jedes endliche J ⊂ I ist P[Xj = 1 f¨ur jedes j ∈ J Y ] = Y #J . Dann ist (Xi )i∈I austauschbar.
3
12.1 Austauschbare Familien von Zufallsvariablen
223
Sei X = (Xn )n∈N ein stochastischer Prozess mit Werten in einem polnischen Raum E. Sei S(n) die Menge der Permutationen ̺ : {1, . . . , n} → {1, . . . , n}. Wir fassen ̺ ebenfalls als Abbildung N → N auf durch ̺(k) = k f¨ur k > n. F¨ur ̺ ∈ S(n) und x = (x1 , . . . , xn ) ∈ E n schreiben wir x̺ = (x̺(1) , . . . , x̺(n) ). F¨ur x ∈ E N schreiben wir analog x̺ = (x̺(1) , x̺(2) , . . .) ∈ E N . Ist E ′ ein weiterer polnischer Raum, so definieren wir f¨ur messbare Abbildungen f : E n → E ′ und F : E N → E ′ die Abbildungen f ̺ und F ̺ durch f ̺ (x) = f (x̺ ) und F ̺ (x) = F (x̺ ). Ferner schreiben wir f (x) = f (x1 , . . . , xn ) auch, falls x ∈ E N . Definition 12.4. (i) Eine Abbildung f : E n → E ′ heißt symmetrisch, falls f ̺ = f ist f¨ur jedes ̺ ∈ S(n). (ii) Eine Abbildung F : E N → E ′ heißt n-symmetrisch, falls F ̺ = F f¨ur jedes ̺ ∈ S(n). F heißt symmetrisch, falls F n-symmetrisch ist f¨ur jedes n ∈ N.
Beispiel 12.5. F¨ur x ∈ RN definieren wir das n-te arithmetische Mittel durch (i) n 1 an (x) = n i=1 xi . Offenbar ist an eine n-symmetrische Abbildung (aber nicht m-symmetrisch f¨ur ein m > n). Weiter definiert a ¯(x) := lim sup an (x) eine symn→∞
metrische Abbildung RN → R ∪ {−∞, +∞}. ∞ (ii) Die Abbildung s : RN → [0, ∞], x → i=1 |xi | ist symmetrisch. Anders als a ¯ h¨angt der Wert von s von jeder einzelnen Koordinate ab, falls er endlich ist.
N (iii) n F¨ur x ∈ E definieren wir die n-te empirische Verteilung durch ξn (x) = 1 i=1 δxi . Offenbar ist ξn eine n-symmetrische Abbildung. n
(iv)
Sei k ∈ N und ϕ : E k → R eine Abbildung. Das n-te symmetrisierte Mittel 1 An (ϕ) : E N → R, x → ϕ(x̺ ) (12.1) n! ̺∈S(n)
ist eine n-symmetrische Abbildung.
3
Definition 12.6. Sei X = (Xn )n∈N ein stochastischer Prozess mit Werten in E. F¨ur n ∈ N sei En := σ(F ◦ X : F : E N → R ist messbar und n-symmetrisch) die σ-Algebra der unter allen Permutation ̺ ∈ S(n) invarianten Ereignisse. Ferner sei E :=
∞
n=1
En = σ F ◦ X : F : E N → R ist messbar und symmetrisch
die σ-Algebra der austauschbaren Ereignisse f¨ur X, oder kurz die austauschbare σ-Algebra. Bemerkung 12.7. Ist A ∈ σ(Xn , n ∈ N) ein Ereignis, so gibt es ein messbares B ⊂ E N mit A = {X ∈ B}. Schreiben wir A̺ = {X ̺ ∈ B} f¨ur ̺ ∈ S(n), so ist En = {A : A̺ = A f¨ur alle ̺ ∈ S(n)}. Dies rechtfertigt den Namen austauschba” res Ereignis“. 3
224
12 R¨uckw¨artsmartingale und Austauschbarkeit
n Bemerkung 12.8. Schreiben wir Ξn (ω) := ξn (X(ω)) = n1 i=1 δXi (ω) f¨ur die ¨ 3 n-te empirische Verteilung, so ist nach Ubung 12.1.1 En = σ(Ξn ).
Bemerkung 12.9. Bezeichnen wir mit T = n∈N σ(Xn+1 , Xn+2 , . . .) die terminale σ-Algebra, so ist T ⊂ E, wobei im Falle #E ≥ 2 strikte Inklusion gilt.
In der Tat: Offenbar ist σ(Xn+1 , Xn+2 , . . .) ⊂ En f¨ur n ∈ N, also T ⊂ E. Sei nun #E ≥2. W¨ahle ein messbares B ⊂ E mit B = ∅ und B c = ∅. Die Zufallsvariable ∞ 3 S := n=1 B (Xn ) ist messbar bez¨uglich E, nicht aber bez¨uglich T . Satz 12.10. Sei X = (Xn )n∈N austauschbar. Ist ϕ : E k → R messbar und E[|ϕ(X)|] < ∞, dann gilt f¨ur jedes n ≥ k und jedes ̺ ∈ S(n) E[ϕ(X)|En ] = E[ϕ(X ̺ )|En ]. Speziell ist
(12.2)
1 ϕ(X ̺ ). E[ϕ(X) En ] = An (ϕ) := n!
(12.3)
̺∈S(n)
Beweis. Sei A ∈ En und F = X(A) . Dann ist F ◦ X = A . Nach der Definition von En ist also F : E N → R messbar, n-symmetrisch und beschr¨ankt. Daher ist ) * ) * ) * E ϕ(X)F (X) = E ϕ(X ̺ )F (X ̺ ) = E ϕ(X ̺ )F (X) ,
wobei wir in der ersten Gleichung die Austauschbarkeit von X benutzt haben, in der zweiten hingegen die Symmetrie von F . Hieraus folgt (12.2). Nun ist aber An (ϕ) schon En -messbar, also ist ⎡ ⎤ * ) 1 1 E ϕ(X) En = E ⎣ ϕ(X ̺ )En ⎦ = ϕ(X ̺ ). 2 n! n! ̺∈S(n)
̺∈S(n)
Heuristik zur Struktur austauschbarer Familien Wir betrachten eine endliche, austauschbare Familie X1 , . . . , XN von E-wertigen Zufallsvariablen. Wie sieht f¨ur n ≤ N die bedingte Verteilung von (X1 , . . . , Xn ) gegeben ΞN aus? F¨ur jedes messbare A ⊂ E kommt {Xi ∈ A} f¨ur genau N ΞN (A) viele i ∈ {1, . . . , N } vor, wobei die Reihenfolge des Auftretens keinen Einfluss auf die Wahrscheinlichkeit hat. Wir sind also in der Situation des Ziehens von gef¨arbten Kugeln ohne Zur¨ucklegen. Genauer gesagt k¨onnen wir annehmen, dass die paarweise unterschiedlichen e1 , . . . , ek ∈ E die Atome von ΞN mit H¨aufigkeiten k N1 , . . . , Nk sind, dass also ΞN = i=1 = (Ni /N )δei gilt. Wir haben es also mit Kugeln in k Farben zu tun, wobei von der i-ten Farbe genau Ni Kugeln vorhanden sind. Wir ziehen n dieser Kugeln ohne Zur¨ucklegen, aber mit Beachtung der Reihenfolge. Bis auf die Beachtung der Reihenfolge ist die resultierende Verteilung also
12.1 Austauschbare Familien von Zufallsvariablen
225
die allgemeine hypergeometrische Verteilung (siehe etwa [58, Abschnitt 2.3.2]). Es k gilt also f¨ur paarweise disjunkte, messbare Mengen A1 , . . . , Ak mit l=1 Al = E, f¨ur i1 , . . . , in ∈ {1, . . . , k}, paarweise unterschiedliche j1 , . . . , jn ∈ {1, . . . , N } und mit der Festlegung ml := #{r ∈ {1, . . . , n} : ir = l} f¨ur l ∈ {1, . . . , k} * ) P Xjr ∈ Air f¨ur jedes r = 1, . . . , n ΞN =
k m 1 N ΞN (Al ) l , (12.4) (N )n l=1
wobei wir (n)l := n(n − 1) · · · (n − l + 1) definieren.
Was passiert nun, wenn wir N → ∞ gehen lassen? Wir nehmen hier der Einfachheit halber an, dass der Limes Ξ∞ (Al ) = limN →∞ ΞN (Al ) f¨ur jedes l = 1, . . . , k in einem geeigneten Sinne existiert. Dann wird aus (12.4) formal n * ) Ξ∞ (Al )ml . P Xjr ∈ Air f¨ur jedes r = 1, . . . , n Ξ∞ =
(12.5)
l=1
Aus dem Ziehen der Kugeln ohne Zur¨ucklegen wird nun also asymptotisch f¨ur große Kugelanzahl das Ziehen mit Zur¨ucklegen. Damit sind die Zufallsvariablen X1 , X2 , . . . unabh¨angig mit Verteilung Ξ∞ gegeben Ξ∞ . Einen formalen Beweis, der entlang der von dieser Heuristik vorgezeichneten Linie verl¨auft, bringen wir in Kapitel 13.4. Um diese Aussage, den so genannten Satz von de Finetti, in Abschnitt 12.3 rigoros zu formulieren und zu beweisen, brauchen wir noch etwas Begriffsbildung (etwa bedingte Unabh¨angigkeit). Als technisches Hilfsmittel verwenden wir in diesem Kapitel den Konvergenzsatz f¨ur R¨uckw¨artsmartingale, den wir in Abschnitt 12.2 formulieren. ¨ Ubung 12.1.1. Sei n ∈ N. Man zeige, dass sich jede symmetrische Funktion f :
n E n → R schreiben l¨asst als f (x) = g n1 i=1 δxi , wobei g (abh¨angig von f ) geeignet zu w¨ahlen ist. ♣ ¨ Ubung 12.1.2. Man leite (12.4) formal her.
♣
¨ Ubung 12.1.3. Seien X1 , . . . , Xn austauschbare quadratintegrierbare Zufallsvariablen. Man zeige 1 Cov[X1 , X2 ] ≥ − Var[X1 ]. (12.6) n−1 Man gebe f¨ur n ≥ 2 ein (nichttriviales) Beispiel f¨ur Gleichheit in (12.6) an. ♣ ¨ Ubung 12.1.4. Seien X1 , X2 , X3 . . . austauschbare, quadratintegrierbare Zufallsvariablen. Man zeige, dass Cov[X1 , X2 ] ≥ 0 gilt. ♣ ¨ Ubung 12.1.5. Man zeige: F¨ur jedes n ∈ N \ {1} gibt es eine austauschbare Familie von Zufallsvariablen X1 , . . . , Xn , die nicht zu einer unendlichen, austauschbaren Familie X1 , X2 , . . . fortgesetzt werden kann. ♣
226
12 R¨uckw¨artsmartingale und Austauschbarkeit
¨ 12.2 Ruckw¨ artsmartingale Die Begriffe der Filtration und des Martingals haben nirgends vorausgesetzt, dass die Zeitmenge I ⊂ [0, ∞) w¨are. Wir wollen jetzt den Fall I = −N0 betrachten. ¨ Definition 12.11 (Ruckw¨ artsmartingal). Sei F = (Fn )n∈−N0 eine Filtration und X = (Xn )n∈−N0 ein F-Martingal. Dann nennen wir X = (X−n )n∈N0 ein Ruckw¨ artsmartingal. ¨ Bemerkung 12.12. Ein R¨uckw¨artsmartingal ist stets gleichgradig integrierbar. Dies folgt aus Korollar 8.21 und der Tatsache, dass X−n = E[X0 F−n ] f¨ur jedes n ∈ N0 . 3 Beispiel 12.13. Seien X1 , X2 , . . . austauschbare, reelle Zufallsvariablen. F¨ur n ∈ N setze F−n = En und n 1 Y−n = Xi . n i=1
Die folgende Rechnung zeigt, dass (Y−n )n∈N ein F-R¨uckw¨artsmartingal ist: Adaptiertheit ist klar. Außerdem ist nach Satz 12.10 (mit k = n und ϕ(X1 , . . . , Xn ) = 1 n−1 (X1 + . . . + Xn−1 )) * ) 1 1 E Y−n+1 F−n = X̺(1) + . . . + X̺(n−1) = Y−n . n! n−1 ̺∈S(n)
Betrachten wir statt F die kleinere Filtration G = (Gn )n∈−N , die f¨ur n ∈ N durch G−n = σ(Y−n , Xn+1 , Xn+2 , . . .) = σ(Y−n , Y−n−1 , Y−n−2 , . . .) definiert wird, also die von Y erzeugte Filtration, so ist Y nat¨urlich auch bez¨uglich G ein R¨uckw¨artsmartingal (siehe Bemerkung 9.29). 3 a,b Seien a < b und n ∈ N. Sei U−n die Anzahl der Aufkreuzungen von X u¨ ber [a, b] a,b zwischen Zeit −n und 0, sowie U a,b = lim U−n . Nach der Aufkreuzungsunglein→∞ ) * ) * ) a,b * 1 E (X0 − a)+ , also P U a,b < ∞ = 1. chung (Lemma 11.3) ist E U−n ≤ b−a Wie im Beweis des Martingalkonvergenzsatzes (Satz 11.4) folgt:
¨ Ruckw¨ ¨ Satz 12.14 (Konvergenzsatz fur artsmartingale). Sei (Xn )n∈−N0 ein Martingal bez¨uglich F = (Fn )n∈−N0 . Dann existiert X−∞ = lim X−n fast n→∞ ∞ 1 sicher und in L . Es gilt X−∞ = E[X0 F−∞ ], wobei F−∞ = F−n . n=1
Beispiel 12.15. ∞Seien X1 , X2 , . . . austauschbare integrierbare Zufallsvariablen. Ferner sei T = n=1 σ(Xm , m ≥ n) die terminale σ-Algebra der X1 , X2 , . . . und E die austauschbare σ-Algebra. Dann gilt E[X1 T ] = E[X1 E] f.s. und
12.2 R¨uckw¨artsmartingale
227
n
1 n→∞ Xi −→ E[X1 E] n i=1 In der Tat: Setzen wir Y−n :=
1 n
n
i=1
f.s. und in L1 .
Xi , so ist (nach Beispiel 12.13) (Y−n )n∈N ein
R¨uckw¨artsmartingal bez¨uglich (Fn )n∈−N = (E−n )n∈−N , und daher gilt n→∞ Y−n −→ Y−∞ = E[X1 E] f.s. und in L1 .
Nun ist nach Beispiel 2.36(ii) Y−∞ schon T -messbar, also (wegen T ⊂ E und der 3 Turmeigenschaft der bedingten Erwartung) Y−∞ = E[X1 T ]. Beispiel 12.16 (Starkes Gesetz der großen Zahl). Sind Z1 , Z2 , . . . reell und u.i.v. mit E[|Z1 |] < ∞, dann gilt n
1 n→∞ Zi −→ E[Z1 ] fast sicher. n i=1 Nach dem Kolmogorov’schen 0-1 Gesetz (Satz 2.37) ist die terminale σ-Algebra T n¨amlich trivial, also gilt E[Z1 T ] = E[Z1 ] fast sicher.
In Korollar 12.19 werden wir sehen, dass im Falle unabh¨angiger Zufallsvariablen auch E schon P-trivial ist, woraus E[Z1 E] = E[Z1 ] folgt. 3
Wir schließen diesen Abschnitt, indem wir Beispiel 12.15 auf Mittelwerte von Funktionen von k ∈ N Variablen verallgemeinern. Diese Schlussfolgerung aus dem Konvergenzsatz f¨ur R¨uckw¨artsmartingale wird im folgenden Abschnitt in essenzieller Weise ben¨otigt. Satz 12.17. Sei X = (Xn )n∈N eine austauschbare Familie von Zufallsvariablen mit Werten in E, sei k ∈ N und ϕ : E k → R messbar mit E[|ϕ(X1 , . . . , Xk )|] < ∞. 1 ̺ Wir schreiben ϕ(X) = ϕ(X1 , . . . , Xk ) und setzen An (ϕ) := n! ̺∈S(n) ϕ(X ). Dann gilt E[ϕ(X) E] = E[ϕ(X) T ] = lim An (ϕ) f.s. und in L1 . (12.7) n→∞
Beweis. Nach Satz 12.10 ist An (ϕ) = E[ϕ(X) En ]. Also ist (A−n (ϕ))n≥k ein R¨uckw¨artsmartingal bez¨uglich (E−n )n∈−N . Nach Satz 12.14 ist also * ) n→∞ An (ϕ) −→ E ϕ(X) E
f.s. und in L1 .
(12.8)
Wir k¨onnen wie f¨ur das arithmetische Mittel (Beispiel 12.16) argumentieren, dass limn→∞ An (ϕ) schon T -messbar ist. In der Tat ist
228
12 R¨uckw¨artsmartingale und Austauschbarkeit
# ̺ ∈ S(n) : ̺−1 (i) ≤ l f¨ur ein i ∈ {1, . . . , k} =0 lim sup n! n→∞
f¨ur jedes l ∈ N.
Der Wert von An (ϕ) h¨angt f¨ur große n also in zu vernachl¨assigender Weise von den ersten l Koordinaten ab. Zusammen mit (12.8) folgt (12.7). 2 Korollar 12.18. Sei X = (Xn )n∈N austauschbar. Dann gibt es f¨ur jedes A ∈ E ein B ∈ T mit P[A △ B] = 0. Man beachte, dass T ⊂ E ist, dass also die Aussage trivialerweise gilt, wenn wir die Rollen von E und T vertauschen. Beweis. Wegen E ⊂ σ(X1 , X2 , . . .) existiert nach dem Approximationssatz f¨ur Maße eine Folge von messbaren Mengen (Ak )k∈N mit Ak ∈ σ(X1 , . . . , Xk ) und k→∞
P[A △ Ak ] −→ 0. Sei Ck ∈ E k messbar mit Ak = {(X1 , . . . , Xk ) ∈ Ck } f¨ur jedes k ∈ N. Mit ϕk := Ck folgt aus Satz 12.17 ( ' A = E[ A |E] = E lim ϕk (X) E = lim E[ϕk (X)|E] k→∞
k→∞
= lim E[ϕk (X)|T ] =: ψ k→∞
fast sicher.
Es gibt also eine T -messbare Funktion ψ mit ψ = annehmen, dass ψ = B f¨ur ein B ∈ T .
A
fast sicher. Wir k¨onnen nun 2
Als weitere Anwendung erhalten wir das 0-1 Gesetz von Hewitt und Savage [71]. Korollar 12.19 (0-1 Gesetz von Hewitt-Savage). Seien X1 , X2 , . . . u.i.v. Zufallsvariablen. Dann ist die austauschbare σ-Algebra P-trivial, also P[A] ∈ {0, 1} f¨ur jedes A ∈ E. Beweis. Nach dem Kolmogorov’schen 0-1 Gesetz (Satz 2.37) ist T trivial. Die Aussage folgt also ohne weiteres aus Korollar 12.18. 2
12.3 Satz von de Finetti Wir zeigen in diesem Abschnitt den Struktursatz f¨ur (abz¨ahlbar) unendliche, austauschbare Familien, den wir heuristisch schon am Ende von Abschnitt 12.1 motiviert hatten. Es soll also gezeigt werden, dass eine unendliche, austauschbare Familie von Zufallsvariablen eine unabh¨angige, identisch verteilte Familie ist gegeben die austauschbare σ-Algebra E. Ferner berechnen wir die bedingte Verteilung der einzelnen Zufallsvariablen. Als ersten Schritt geben wir eine Definition der bedingten Unabh¨angigkeit an.
12.3 Satz von de Finetti
229
Definition 12.20 (Bedingte Unabh¨angigkeit). Seien (Ω, F, P) ein W-Raum, A ⊂ F eine Teil-σ-Algebra sowie (Ai )i∈I eine beliebige Familie von Teil-σ-Algebren von F. Die Familie (Ai )i∈I heißt unabh¨angig gegeben A, falls f¨ur jedes endliche J ⊂ I und jede Wahl von Aj ∈ Aj f¨ur j ∈ J gilt ' ( ) * fast sicher. (12.9) P Aj A Aj A = P j∈J
j∈J
Eine Familie (Xi )i∈I von Zufallsvariablen auf (Ω, F, P) heißt unabh¨angig (und identisch verteilt) gegeben A, falls die erzeugten σ-Algebren (σ(Xi ))i∈I unabh¨angig gegeben A sind (und die bedingten Verteilungen P[Xi ∈ · |A] alle gleich sind). Beispiel 12.21. Jede beliebige Familie (Ai )i∈I von σ-Algebren von F ist unabh¨angig gegeben F. In der Tat ist in diesem Fall n¨amlich (mit A = j∈J Aj ) P[A|F] =
A
=
Aj
j∈J
=
j∈J
) * P Aj F
fast sicher.
3
Beispiel 12.22. Ist (Ai )i∈I eine unabh¨angige Familie von σ-Algebren, und ist A 3 trivial, dann ist (Ai )i∈I unabh¨angig gegeben A. Beispiel 12.23. Es gibt keine Monotonie“ bei der bedingten Unabh¨angigkeit in fol” gendem Sinne: Sind F1 , F2 und F3 σ-Algebren mit F1 ⊂ F2 ⊂ F3 , und ist (Ai )i∈I unabh¨angig sowohl gegeben F1 wie auch gegeben F3 , so folgt noch nicht die Unabh¨angigkeit gegeben F2 . Um dies zu illustrieren, nehmen wir an, dass X und Y nichttriviale, unabh¨angige, reelle Zufallsvariablen sind. Wir w¨ahlen F1 = {∅, Ω}, F2 = σ(X + Y ) und F3 = σ(X, Y ). Dann sind σ(X) und σ(Y ) unabh¨angig gegeben F1 und gegeben F3 , nicht 3 jedoch gegeben F2 .
Sei X = (Xn )n∈N ein stochastischer Prozess auf einem Wahrscheinlichkeitsraum (Ω, F, P) mit Werten in einem polnischen Raum E. Sei E die austauschbare σAlgebra und T die terminale σ-Algebra. Satz 12.24 (de Finetti). Die Familie X = (Xn )n∈N ist genau dann austauschbar, wenn es eine σ-Algebra A ⊂ F gibt, sodass (Xn )n∈N u.i.v. gegeben A ist. In diesem Fall kann A = E oder A = T gew¨ahlt werden. Beweis. =⇒ “ Sei X austauschbar, und sei A = E oder A = T . F¨ur jedes ” n ∈ N sei fn : E → R eine messbare und beschr¨ankte Abbildung. Setze ϕk (x1 , . . . , xk ) =
k
i=1
fi (xi )
f¨ur jedes k ∈ N.
230
12 R¨uckw¨artsmartingale und Austauschbarkeit
Dann ist (wobei An (ϕ) das symmetrisierte Mittel aus Satz 12.17 ist) An (ϕk−1 )An (fk ) =
n 1 1 fk (Xi ) ϕk−1 (X ̺ ) n! n i=1 ̺∈S(n)
=
1 ϕk (X ̺ ) + Rn,k = An (ϕk ) + Rn,k , n! ̺∈S(n)
wobei n = = = = Rn,k ≤ 2 =ϕk−1 = · =fk = · 1 1 ∞ ∞ n! n i=1 ̺∈S(n)
{i∈{̺(1),...,̺(k−1)}}
= = = = k − 1 n→∞ = 2 =ϕk−1 =∞ · =fk =∞ · −→ 0. n
Es folgt zusammen mit Satz 12.17
* ) n→∞ An (ϕk−1 ) An (fk ) −→ E ϕk (X1 , . . . , Xk ) A f.s. und in L1 .
Andererseits gilt nach Satz 12.17
* ) n→∞ An (ϕk−1 ) −→ E ϕk−1 (X1 , . . . , Xk−1 ) A
und
* ) n→∞ An (fk ) −→ E fk (X1 ) A ,
also
* * ) * ) ) E ϕk (X1 , . . . , Xk ) A = E ϕk−1 (X1 , . . . , Xk−1 ) A E fk (X1 ) A
und induktiv
E
-
k
i=1
. k * ) E fi (X1 ) A . fi (Xi ) A = i=1
Mithin ist X u.i.v. gegeben A.
⇐= “ Sei nun X u.i.v. gegeben A f¨ur eine geeignete σ-Algebra A ⊂ F . F¨ur ” n jede beschr¨ Funktion ϕ : E → R und f¨ur jedes ̺ ∈ S(n) ist dann ankte, messbare ̺ E[ϕ(X) A] = E[ϕ(X ) A], also * * ) ) E[ϕ(X)] = E E[ϕ(X) A] = E E[ϕ(X ̺ ) A] = E[ϕ(X ̺ )].
Mithin ist X austauschbar.
2
Mit M1 (E) bezeichnen wir die Menge der W-Maße auf E, ausgestattet mit der Topologie der schwachen Konvergenz (siehe Definition 13.12 und Bemerkung 13.14),
12.3 Satz von de Finetti
231
das heißt: Eine Folge (μn )n∈N in M1 (E) konvergiert genau dann schwach gegen 0 n→∞ 0 ein μ ∈ M1 (E), wenn f dμn −→ f dμ f¨ur jede stetige und beschr¨ankte Funktion f : E → R. Wir werden die schwache Konvergenz in Kapitel 13 genauer untersuchen. An dieser Stelle wollen wir die Topologie lediglich verwenden, um M1 (E) zu einem Messraum zu machen, n¨amlich mit der Borel’schen σ-Algebra B(M1 (E)). Wir k¨onnen jetzt Zufallsvariablen mit Werten in M1 (E) betrachten, so genannte zuf¨allige Maße (vergleiche Kapitel 24.1). F¨ur x ∈ E N sei n 1 ξn (x) = n i=1 δxi ∈ M1 (E). n
Definition 12.25. Das zuf¨allige Maß Ξn := ξn (X) := Verteilung von X1 , . . . , Xn .
1 δX heißt empirische n i=1 i
Wir betrachten die selben Voraussetzung wie in Satz 12.24. Satz 12.26 (de Finetti Darstellungssatz). Die Familie X = (Xn )n∈N ist genau dann austauschbar, wenn es eine σ-Algebra A ⊂ F gibt und eine A-messbare Zufallsvariable Ξ∞ : Ω → M1 (E) mit der Eigenschaft: gegeben Ξ∞ ist (Xn )n∈N u.i.v. mit L[X1 |Ξ∞ ] = Ξ∞ . In diesem Fall kann A = E oder A = T gew¨ahlt werden. Beweis.
”
⇐= “
Dies ist klar wie im Beweis von Satz 12.24.
=⇒ “ Sei X austauschbar. Dann existiert nach Satz 12.24 eine σ-Algebra A ⊂ ” eine regul¨are F, sodass (Xn )n∈N u.i.v. gegeben A ist. Da E polnisch ist, existiert Version der bedingten Verteilung (siehe Satz 8.36) Ξ∞ := L[X1 A]. F¨ur messbare A1 , . . . , An ⊂ E ist P[Xi ∈ Ai |A] = Ξ∞ (Ai ) f¨ur jedes i = 1, . . . , n, also , , + , + + n n P {Xi ∈ Ai } A Ξ∞ {Xi ∈ Ai } Ξ∞ = E P i=1
i=1
+ , n n =E Ξ∞ (Ai ) Ξ∞ = Ξ∞ (Ai ). i=1
⊗N Mithin ist L[X |Ξ∞ ] = Ξ∞ .
i=1
2
Bemerkung 12.27. In dem beschriebenen Fall ist nach dem starken Gesetz der großen Zahl f¨ur jede stetige und beschr¨ankte Funktion f : E → R n→∞ f dΞn −→ f dΞ∞ fast sicher. Ist E zudem lokalkompakt (zum Beispiel E = Rd ), so kann man sogar zeigen, dass n→∞
Ξn −→ Ξ∞
fast sicher.
3
232
12 R¨uckw¨artsmartingale und Austauschbarkeit
Beispiel 12.28. Seien (Xn )n∈N austauschbar und Xn ∈ {0, 1}. Dann existiert eine Zufallsvariable Y : Ω → [0, 1], sodass f¨ur endliches J ⊂ N * ) P Xj = 1 f¨ur jedes j ∈ J Y = Y #J . Mit anderen Worten: Gegeben Y ist (Xn )n∈N unabh¨angig und BerY -verteilt. Vergleiche Beispiel 12.3(iii). 3
Beispiel 12.29. (P´olya’sches Urnenmodell) (Siehe Beispiel 14.38 und [127].) In einer Urne seien anfangs N Kugeln, davon M schwarz und N − M weiß. In jedem Schritt wird eine Kugel gezogen und zusammen mit einer weiteren Kugel der selben Farbe wieder zur¨uckgelegt. Sei 1, falls die n-te Kugel schwarz ist, Xn := 0, sonst, n und Sn = i=1 Xi . Dann ist ) * Sn−1 + M . P Xn = 1 X1 , X2 , . . . , Xn−1 = N +n−1 k Sukzessive erh¨alt man f¨ur x1 , . . . , xn ∈ {0, 1} und sk = i=1 xi ) * P Xi = xi f¨ur jedes i = 1, . . . , n N + i − 1 − M − si−1 M + si−1 = N +i−1 N +i−1 i≤n: xi =1
i≤n: xi =0
(M + sn − 1)! N − M − 1 + (n − sn ) ! (N − 1)! · . = (N − 1 + n)! (M − 1)! (N − M − 1)!
Die rechte Seite h¨angt nur von sn und nicht von der Reihenfolge der x1 , . . . , xn ab. Also ist (Xn )n∈N austauschbar. Sei Z = lim n1 Sn . Dann ist (Xn )n∈N unabh¨angig n→∞ und identisch BerZ -verteilt gegeben Z. Also ist (siehe Beispiel 12.28) ** ) ) E [Z n ] = E P X1 = · · · = Xn = 1 Z = P [Sn = n] =
(N − 1)! (M + n − 1)! (M − 1)! (N + n − 1)!
f¨ur jedes n ∈ N.
¨ Nach Ubung 5.1.2 sind dies sind aber gerade die Momente der Beta-Verteilung βM,N −M auf [0, 1] mit Parametern (M, N − M ) (siehe Beispiel 1.107(ii)). Durch Angabe der Momente ist eine Verteilung auf [0, 1] eindeutig bestimmt (Satz 15.4). Also gilt Z ∼ βM,N −M . 3
13 Konvergenz von Maßen
In der Wahrscheinlichkeitstheorie interessiert man sich f¨ur Verteilungen, die durch das Zusammenwirken vieler zuf¨alliger Einfl¨usse zustandekommen. Oftmals l¨asst sich eine brauchbare Idealisierung erreichen, indem man Grenzwerte solcher Verteilungen anschaut, zum Beispiel, wenn die Anzahl der Einfl¨usse nach Unendlich geht. Ein Beispiel ist die Konvergenz der Anzahl eingetretener Ereignisse bei vielen seltenen Ereignissen gegen die Poisson-Verteilung (siehe Satz 3.7). Vielfach sind aber auch Skalierungen der urspr¨unglichen Verteilung notwendig, um das wesentliche Fluktuationsverhalten zu erfassen, etwa im Zentralen Grenzwertsatz. W¨ahrend diese S¨atze mit reellen Zufallsvariablen auskommen, werden wir auch Grenzwerts¨atze kennen lernen, bei denen die Zufallsvariablen Werte in allgemeineren R¨aumen annehmen, beispielsweise im Raum aller stetigen Funktionen, wenn wir die zuf¨allige zeitliche Bewegung eines Teilchens modellieren. In diesem Kapitel wird der Begriff der schwachen Konvergenz von W-Maßen auf allgemeinen (meist polnischen) R¨aumen eingef¨uhrt und untersucht. Hierzu ist eine solide Kenntnis von mengentheoretischer Topologie notwendig. Wir beginnen da¨ her mit einem kurzen Uberblick u¨ ber die verwendeten topologischen Begriffe und S¨atze. Dieses Kapitel soll nur eine knappe Einf¨uhrung in die f¨ur die Wahrscheinlichkeitstheorie wichtigsten S¨atze liefern. Als ausf¨uhrlichere Darstellungen seien [17] und [83] empfohlen. Beim ersten Lesen mag der Leser dieses eher analytisch gepr¨agte Kapitel vielleicht u¨ berspringen. In diesem Fall gen¨ugt es f¨urs Erste, sich mit den Definitionen von schwacher Konvergenz und Straffheit (Definition 13.12 und 13.26) vertraut zu machen, sowie mit den Aussagen des Portemanteau Theorems (Satz 13.16) und des Satzes von Prohorov (Satz 13.29).
13.1 Wiederholung Topologie Wir geben kursorisch einige Definitionen und Aussagen der mengentheoretischen Topologie an. Zum Nachlesen eignen sich etwa [90] oder [133].
234
13 Konvergenz von Maßen
Im Folgenden sei stets (E, τ ) ein topologischer Raum mit der Borel’schen σAlgebra E = B(E) (vergleiche Definition 1.20 und 1.21). (E, τ ) heißt Hausdorffraum, falls zu je zwei Punkten x, y ∈ E mit x = y offene Mengen U, V existieren mit x ∈ U , y ∈ V und U ∩ V = ∅. Ist A ⊂ E, so bezeichnen wir mit A den Abschluss von A, mit A◦ das Innere und mit ∂A den Rand von A. Eine Menge A ⊂ E heißt dicht, falls A = E.
(E, τ ) heißt metrisierbar, falls es eine Metrik d auf E gibt, sodass τ durch die offenen Kugeln Bε (x) := {y ∈ E : d(x, y) < ε} erzeugt wird. Eine Metrik d auf E heißt vollst¨andig, falls jede Cauchy-Folge bez¨uglich d einen Grenzwert in E besitzt. (E, τ ) heißt vollst¨andig metrisierbar, falls es eine vollst¨andige Metrik auf E gibt, die τ erzeugt. Ist (E, d) ein metrischer Raum und A, B ⊂ E, so schreiben wir d(A, B) = inf{d(x, y) : x ∈ A, y ∈ B}, sowie d(x, B) := d({x}, B) f¨ur x ∈ E.
Ein metrisierbarer Raum (E, τ ) heißt separabel, falls es eine abz¨ahlbare, dichte Teilmenge von E gibt. Separabilit¨at in metrisierbaren R¨aumen ist a¨ quivalent dazu, dass es eine abz¨ ahlbare Basis der Topologie gibt, also eine abz¨ahlbare Menge U ⊂ τ mit A = U ∈U: U ⊂A U f¨ur jedes A ∈ τ . (Man w¨ahle etwa ε-Kugeln um die Punkte aus einer abz¨ahlbaren, dichten Teilmenge und lasse ε die positiven rationalen Zahlen durchlaufen.) Ein kompakter, metrischer Raum ist stets separabel (man ¨ w¨ahle einfach zu jedem n ∈ N eine endliche Uberdeckung Un ⊂ τ mit Kugeln vom Radius n1 und nehme dann U := n∈N Un ). ¨ Eine Menge A ⊂ E heißt kompakt, falls zu jeder offenen Uberdeckung U ⊂ τ von A (das heißt, A ⊂ U ∈U U ) eine endliche Teil¨uberdeckung existiert, also eine endliche Menge U ′ ⊂ U mit A ⊂ U ∈U ′ U . Kompakte Mengen sind stets abgeschlossen. Nach dem Satz von Heine-Borel ist eine Teilmenge von Rd genau dann dann kompakt, wenn sie beschr¨ankt und abgeschlossen ist. A ⊂ E heißt relativ kompakt, falls A kompakt ist. Hingegen heißt A folgenkompakt (beziehungsweise relativ folgenkompakt), falls jede Folge (xn )n∈N mit Werten in A eine Teilfolge (xnk )k∈N hat, die gegen einen Grenzwert x ∈ A (beziehungsweise x ∈ A) konvergiert. In metrisierbaren R¨aumen fallen die Begriffe kompakt und folgenkompakt zusammen. Eine Menge A ⊂ E heißt σ-kompakt, falls A abz¨ahlbare Vereinigung von kompakten Mengen ist. E heißt lokalkompakt, falls jeder Punkt x ∈ E eine offene Umgebung besitzt, deren Abschluss kompakt ist. Ein lokalkompakter, separabler, metrischer Raum ist offenbar stets σ-kompakt. Ist E lokalkompakt und metrisch und U ⊂ E offen, sowie K ⊂ U kompakt, so existiert eine kompakte Menge L mit K ⊂ L◦ ⊂ L ⊂ U . (Man bilde etwa zu jedem Punkt x ∈ K eine offene Kugel Bεx (x) vom Radius εx > 0, die ganz in U liegt und relativ kompakt ist. Indem man εx eventuell nochmal halbiert, kann man annehmen, dass sogar der Abschluss dieser Kugel in U liegt. Da K kompakt ist, gibt es endlich viele x1 , . . . , xn ∈ K n mit K ⊂ V := i=1 Bεxi (xi ). Nach Konstruktion ist L = V ⊂ U kompakt.) Einen in der Wahrscheinlichkeitstheorie wichtigen Typ von topologischen R¨aumen stellen wir in einer separaten Definition vor.
13.1 Wiederholung Topologie
235
Definition 13.1. Ein topologischer Raum (E, τ ) heißt polnischer Raum, falls er vollst¨andig metrisierbar und separabel ist. Polnische R¨aume sind beispielsweise abz¨ahlbare, diskrete R¨aume (nicht jedoch Q mit der u¨ blichen Topologie), die euklidischen R¨aume Rn , aber auch der Raum C([0, 1]) der stetigen Funktionen [0, 1] → R, ausgestattet mit der Supremumsnorm · ∞ . Praktisch sind alle R¨aume, die in der Wahrscheinlichkeitstheorie bedeutsam sind, polnische R¨aume. Sei (E, d) ein metrischer Raum. Eine Menge A ⊂ E heißt total beschr¨ankt, falls n Bε (xi ). es zu jedem ε > 0 endlich viele Punkte x1 , . . . , xn ∈ A gibt mit A ⊂ i=1
Kompakte Mengen sind offenbar total beschr¨ankt. In polnischen R¨aumen gilt sogar:
Lemma 13.2. Sei (E, τ ) polnisch mit vollst¨andiger Metrik d. Eine Teilmenge A ⊂ E ist genau dann total beschr¨ankt bez¨uglich d, wenn A relativ kompakt ist. ¨ Beweis. Ubung!
2
Im Folgenden sei stets (E, τ ) ein topologischer Raum mit Borel’scher σ-Algebra E = B(E) := σ(τ ) und vollst¨andiger Metrik d. F¨ur Maße auf (E, E) f¨uhren wir die folgenden Regularit¨atsbegriffe ein. Definition 13.3. Ein σ-endliches Maß μ auf (E, E) heißt (i) lokal endlich oder Borel-Maß, falls es zu jedem Punkt x ∈ E eine offene Menge U ∋ x gibt mit μ(U ) < ∞, (ii) regul¨ar von innen, falls
μ(A) = sup μ(K) : K ⊂ A ist kompakt
(iii) regul¨ar von außen, falls
μ(A) = inf μ(U ) : U ⊃ A ist offen
f¨ur jedes A ∈ E,
f¨ur jedes A ∈ E,
(iv) regul¨ar, falls μ von innen und von außen regul¨ar ist, (v) Radon-Maß, falls μ ein von innen regul¨ares Borel-Maß ist.
Definition 13.4. Wir f¨uhren die folgenden Mengen von Maßen auf E ein.
M(E) := Radon-Maße auf (E, E) ,
Mf (E) := endliche Maße auf (E, E) ,
M1 (E) := μ ∈ Mf (E) : μ(E) = 1 ,
M≤1 (E) := μ ∈ Mf (E) : μ(E) ≤ 1 .
(13.1)
(13.2)
236
13 Konvergenz von Maßen
Die Elemente von M≤1 (E) nennen wir Sub-Wahrscheinlichkeitsmaße auf E. Ferner vereinbaren wir die folgende Notation f¨ur Mengen von stetigen Funktionen
C(E) := f : E → R ist stetig ,
Cb (E) := f ∈ C(E) ist beschr¨ankt ,
Cc (E) := f ∈ C(E) hat kompakten Tr¨ager ⊂ Cb (E).
Der Tr¨ager einer reellen Funktion f ist dabei f −1 (R \ {0}).
Ist nichts anderes vereinbart, so sind die Vektorr¨aume C(E), Cb (E) und Cc (E) mit der Supremumsnorm ausgestattet.
Lemma 13.5. Ist E polnisch und μ ∈ Mf (E), so existiert zu jedem ε > 0 eine kompakte Menge K ⊂ E mit μ(E \ K) < ε. Beweis. Sei ε > 0. Zu jedem n ∈ N existieren xn1 , xn2 , . . . ∈ E mit E = N ∞ n ε B1/n (xni ). W¨ahle Nn ∈ N so, dass μ E \ B1/n (xni ) < n . Setze 2 i=1 i=1 A :=
∞ N n
B1/n (xni ) .
n=1 i=1
Nach Konstruktion ist A total beschr¨ankt. Da E polnisch ist, ist also A kompakt. ∞
Außerdem folgt μ E \ A ≤ μ E \ A < ε 2−n = ε. 2 n=1
Satz 13.6. Ist E polnisch und μ ∈ Mf (E), so ist μ regul¨ar. Speziell ist dann Mf (E) ⊂ M(E). Beweis. Sei B ∈ E und ε > 0. Nach dem Approximationssatz (Satz 1.65 mit A = τ ) gibt es eine offene Menge U ⊃ B mit μ(U \ B) < ε. Also ist μ regul¨ar von außen. Das selbe Argument mit B c statt B liefert die Existenz einer abgeschlossenen Menge D ⊂ B mit μ(B \ D) < ε/2. Nach Lemma 13.5 existiert ein Kompaktum K mit μ(K c ) < ε/2. Setze C = D ∩ K. Dann ist C ⊂ B kompakt und μ(B \ C) < ε. Also ist μ auch regul¨ar von innen. 2 Korollar 13.7. Das Lebesgue-Maß λ auf Rd ist ein regul¨ares Radon-Maß. Jedoch ist nicht jedes σ-endliche Maß auf Rd regul¨ar. Beweis. Offenbar ist Rd polnisch und λ lokal endlich. Sei A ∈ B(Rd ) und ε > 0. Es existiert eine aufsteigende Folge (Kn )n∈N von kompakten Mengen mit Kn ↑ Rd .
13.1 Wiederholung Topologie
237
Da jedes Kn beschr¨ankt ist, ist λ(Kn ) < ∞. Es existiert also nach dem vorangehenn den Satz zu jedem n ∈ N eine offene Menge Un ⊃ A ∩ Kn mit λ(Un \ A) < ε/2 . F¨ur die offene Menge U := n∈N Un gilt daher λ(U \ A) < ε.
Ist λ(A) < ∞, so existiert ein n ∈ N mit λ(A \ Kn ) < ε/2. Nach dem vorangehenden Satz existiert eine kompakte Menge C ⊂ A ∩ Kn mit λ((A ∩ Kn ) \ C) < ε/2. Es folgt λ(A \ C) < ε.
Ist andererseits λ(A) = ∞, so m¨ussen wir zu jedem L > 0 ein Kompaktum C ⊂ A n→∞ finden mit λ(C) > L. Nun gilt aber λ(A ∩ Kn ) −→ ∞, also existiert ein n ∈ N mit λ(A ∩ Kn ) > L + 1. Nach dem schon Gezeigten existiert ein Kompaktum C ⊂ A ∩ Kn mit λ((A ∩ Kn ) \ C) < 1, also λ(C) > L. Schließlich sei das Maß μ = q∈Q δq betrachtet. Dieses Maß ist offenbar σendlich, jedoch nicht lokal endlich und auch nicht regul¨ar von außen. 2 Definition 13.8. Seien (E, dE ) und (F, dF ) metrische R¨aume. Eine Funktion f : E → F heißt Lipschitz-stetig, falls es eine Zahl K < ∞ gibt, die so genannte Lipschitz-Konstante, mit dF (f (x), f (y)) ≤ K · dE (x, y) f¨ur alle x, y ∈ E. Mit LipK (E; F ) bezeichnen wir den Raum der Lipschitz-stetigen Funktionen zur Konstanten K, und mit Lip(E; F ) = K>0 LipK (E; F ) den Raum der Lipschitzstetigen Funktionen auf E. Wir schreiben kurz LipK (E) := LipK (E; R) und Lip(E) := Lip(E; R).
Definition 13.9. Sei F ⊂ M(E) eine Familie von Radon-Maßen. Eine Familie C messbarer Abbildungen E → R heißt trennende Familie f¨ur F, falls f¨ur je zwei Maße μ, ν ∈ F gilt: 1 1 f dμ = f dν f¨ur jedes f ∈ C ∩ L (μ) ∩ L (ν) =⇒ μ = ν. Lemma 13.10. Sei (E, d) ein metrischer Raum. Zu jeder abgeschlossenen Menge A ⊂ E und jedem ε > 0 gibt es eine Lipschitz-stetige Abbildung ρA,ε : E → [0, 1] mit 1, falls x ∈ A, ρA,ε (x) = 0, falls d(x, A) ≥ ε. Beweis.
Sei ϕ : R → [0, 1], t → (t ∨ 0) ∧ 1. F¨ur x ∈ E setze ρA,ε (x) = 1 − ϕ ε−1 d(x, A) . 2 Satz 13.11. Sei (E, d) ein metrischer Raum. (i) Lip1 (E; [0, 1]) ist trennend f¨ur M(E).
(ii) Ist E zudem lokalkompakt, so ist Cc (E) ∩ Lip1 (E; [0, 1]) trennend f¨ur M(E).
238
13 Konvergenz von Maßen
0 0 Beweis. (i) Seien μ1 , μ2 ∈ M(E) mit f dμ1 = f dμ2 f¨ur jedes f ∈ Lip1 (E; [0, 1]). Ist A ∈ E, so ist μi (A) = sup{μi (K) : K ⊂ A ist kompakt}, da das Radon-Maß μi von innen regul¨ar ist (i = 1, 2). Es reicht also zu zeigen, dass μ1 (K) = μ2 (K) f¨ur jede kompakte Menge K. Sei nun K ⊂ E kompakt. Da μ1 und μ2 lokal endlich sind, existiert zu jedem x ∈ K eine offene Menge Ux ∋ x mit μ1 (Ux ) < ∞ und μ2 (Ux ) < ∞. Da K kompakt ist, k¨onnen wir endlich viele Punkte x1 , . . . , xn ∈ K finden, sodass n K ⊂ U := j=1 Uxj . Nach Konstruktion ist μi (U ) < ∞, also U ∈ L1 (μi ) f¨ur i = 1, 2. Da U c abgeschlossen ist, und U c ∩ K = ∅, ist δ := d(U c , K) > 0. F¨ur die Abbildung ρK,ε aus Lemma 13.10 ist also K ≤ ρK,ε ≤ U ∈ L1 (μi ), falls ε→0 ε ∈ (0, δ). Wegen ρK,ε −→ K 0folgt aus dem Satz u¨ ber majorisierte Konvergenz (Korollar 6.26) μi (K) = limε→0 ρK,ε dμi . Nun ist aber ερK,ε ∈ Lip1 (E; [0, 1]) f¨ur jedes ε > 0, also nach Voraussetzung ρK,ε dμ1 = ε−1 (ερK,ε ) dμ1 = ε−1 (ερK,ε ) dμ2 = ρK,ε dμ2 . Es folgt μ1 (K) = μ2 (K), also μ1 = μ2 . (ii) Ist E lokalkompakt, so k¨onnen wir in (i) die Umgebungen Ux zus¨atzlich relativ kompakt w¨ahlen. Es ist dann U relativ kompakt, also hat ρK,ε f¨ur ε ∈ (0, δ) einen 2 kompakten Tr¨ager, ist also in Cc (E). ¨ Ubung 13.1.1. besitzt.
(i) Man zeige, dass C([0, 1]) eine abz¨ahlbare, dichte Teilmenge
(ii) Man zeige, dass der Raum (Cb ([0, ∞)), · ∞ ) der stetigen, beschr¨ankten Funktionen mit der Supremumsnorm nicht separabel ist. (iii) Man zeige, dass der Raum Cc ([0, ∞)) der stetigen Funktionen mit kompaktem Tr¨ager, ausgestattet mit der Supremumsnorm, separabel ist. ♣ ¨ Ubung 13.1.2. Man zeige: Ist μ ein lokal endliches Maß, so ist μ(K) < ∞ f¨ur jede kompakte Menge K. ♣ ¨ Ubung 13.1.3 (Satz von Lusin). Sei Ω ein polnischer Raum, μ ein σ-endliches Maß auf (Ω, B(Ω)) und f : Ω → R eine Abbildung. Man zeige, dass die beiden folgenden Aussagen a¨ quivalent sind: (i) Es gibt eine Borel-messbare Abbildung g : Ω → R mit f = g μ-fast u¨ berall.
(ii) Zu jedem ε > 0 gibt es eine kompakte Menge Kε mit μ(Ω \ Kε ) < ε, sodass ♣ die eingeschr¨ankte Funktion f stetig ist. Kε
13.1 Wiederholung Topologie
239
¨ Ubung 13.1.4. Sei U eine Familie offener Intervalle in R so, dass W := U ∈U U endliches Lebesgue-Maß λ(W ) hat. Man zeige: F¨ur jedes ε > 0 gibt es endlich viele, paarweise disjunkte Mengen U1 , . . . , Un ∈ U mit n
λ(Ui ) >
i=1
1−ε λ(W ). 3
Hinweis: Man w¨ahle eine endliche Familie U ′ ⊂ U, sodass U ∈U ′ U das Maß mindestens (1 − ε)λ(W ) hat. Hieraus w¨ahle man eine nach absteigender L¨ange sortierte maximale Folge U ′′ disjunkter Intervalle aus und zeige, dass jedes U ∈ U ′ in (x − 3a, x + 3a) liegt f¨ur ein (x − a, x + a) ∈ U ′′ . ♣ ¨ Menge und Ubung 13.1.5. Sei C ⊂ Rd eine offene, beschr¨ankte und konvexe U ⊂ {x + rC : x ∈ Rd , r > 0} so gew¨ahlt, dass W := U ∈U U endliches Lebesgue-Maß λd (W ) hat. Man zeige: F¨ur jedes ε > 0 gibt es endlich viele, paarweise disjunkte Mengen U1 , . . . , Un ∈ U mit n
λd (Ui ) >
i=1
1−ε λ(W ). 3d
Man u¨ berlege sich ein Gegenbeispiel, das zeigt, dass man auf die Bedingung der ¨ Ahnlichkeit der offenen Mengen aus U nicht ohne Weiteres verzichten kann. ♣ ¨ Ubung 13.1.6. Sei μ ein Radon-Maß auf Rd und A ∈ B(Rd ) eine μ-Nullmenge. ¨ Man zeige mit Hilfe von Ubung 13.1.5, dass f¨ur jede beschr¨ankte, konvexe und d offene Menge C ⊂ R mit 0 ∈ C gilt: lim r↓0
μ(x + rC) =0 rd
f¨ur λd – fast alle x ∈ A.
Man folgere: Ist F die Verteilungsfunktion eines Stieltjes-Maßes μ auf R und A ∈ d F (x) = 0 f¨ur λ – fast alle x ∈ A. ♣ B(R) eine μ-Nullmenge, so gilt dx ¨ Ubung 13.1.7 (Hauptsatz der Differential- und Integralrechnung). Sei f ∈ L1 (Rd ), μ = f λd und C ⊂ Rd offen, konvex und beschr¨ankt mit 0 ∈ C. Man zeige: μ(x + rC) = f (x) f¨ur λd – fast alle x ∈ Rd . lim d d r↓0 r λ (C)