Wahrscheinlichkeitstheorie
Achim Klenke
Wahrscheinlichkeitstheorie Zweite, korrigierte Auflage
123
Prof. Dr. Achim Klenke Institut für Mathematik Johannes Gutenberg-Universität Mainz Staudingerweg 9 55099 Mainz
[email protected]
ISBN 978-3-540-76317-8
e-ISBN 978-3-540-77571-3
DOI 10.1007/978-3-540-77571-3 Bibliografische Information der Deutschen Nationalbibliothek Die Deutsche Nationalbibliothek verzeichnet diese Publikation in der Deutschen Nationalbibliografie; detaillierte bibliografische Daten sind im Internet über http://dnb.d-nb.de abrufbar. Mathematics Subject Classification (2000): 60-01, 28-01, 60G05, 60J10, 60H05 © 2008, 2006 Springer-Verlag Berlin Heidelberg Dieses Werk ist urheberrechtlich geschützt. Die dadurch begründeten Rechte, insbesondere die der Übersetzung, des Nachdrucks, des Vortrags, der Entnahme von Abbildungen und Tabellen, der Funksendung, der Mikroverfilmung oder der Vervielfältigung auf anderen Wegen und der Speicherung in Datenverarbeitungsanlagen, bleiben, auch bei nur auszugsweiser Verwertung, vorbehalten. Eine Vervielfältigung dieses Werkes oder von Teilen dieses Werkes ist auch im Einzelfall nur in den Grenzen der gesetzlichen Bestimmungen des Urheberrechtsgesetzes der Bundesrepublik Deutschland vom 9. September 1965 in der jeweils geltenden Fassung zulässig. Sie ist grundsätzlich vergütungspflichtig. Zuwiderhandlungen unterliegen den Strafbestimmungen des Urheberrechtsgesetzes. Die Wiedergabe von Gebrauchsnamen, Handelsnamen, Warenbezeichnungen usw. in diesem Werk berechtigt auch ohne besondere Kennzeichnung nicht zu der Annahme, dass solche Namen im Sinne der Warenzeichen- und Markenschutz-Gesetzgebung als frei zu betrachten wären und daher von jedermann benutzt werden dürften. Satz: Datenerstellung durch den Autor unter Verwendung eines Springer TEX-Makropakets Herstellung: LE-TEX Jelonek, Schmidt & Vöckler GbR, Leipzig Umschlaggestaltung: WMX Design GmbH, Heidelberg Gedruckt auf säurefreiem Papier 987654321 springer.de
Vorwort zur zweiten Auflage
¨ Gegen¨uber der ersten Auflage sind Ubungsaufgaben hinzugekommen und manche Beweise sind etwas effizienter geworden (insbesondere der von Bemerkung 22.6). Vor allem aber konnte ich durch die R¨uckmeldungen aufmerksamer Leser einige Fehler der ersten Auflage korrigieren. Ich m¨ochte an dieser Stelle allen danken, die bei der Verbesserung der ersten Auflage geholfen haben, speziell Ren´e Billing, Anne Eisenb¨urger, Katrin HofmannCredner, Patric Karl Gl¨ode, Patrick Jahn, Arnulf Jentzen, L. Mayer, Felix Schneider, Henning Sulzbach, Sebastian Thiemann und Oliver Wesche sowie den Kollegen Ehrhard Behrends, Nina Gantert, Rudolf Gr¨ubel, Peter M¨orters, Ralph Neininger und Martin Zerner.
Mainz, Januar 2008
Achim Klenke
Vorwort zur ersten Auflage Das vorliegende Buch basiert auf den vierst¨undigen Vorlesungen Stochastik I und Stochastik II, die ich in den vergangenen Jahren an der Universit¨at zu K¨oln und an der Johannes Gutenberg-Universit¨at in Mainz gehalten habe, und die an eine Vorlesung u¨ ber elementare Stochastik anschließen. Eine gewisse Vertrautheit mit den Ideen der elementaren Stochastik wird zwar nicht formal vorausgesetzt, dem Leser jedoch empfohlen. Ziel dieses Buches ist es, die zentralen Objekte und Konzepte der Wahrscheinlichkeitstheorie vorzustellen: Zufallsvariablen, Unabh¨angigkeit, Gesetze der großen Zahl und zentrale Grenzwerts¨atze, Martingale, Austauschbarkeit und unbegrenzte Teilbarkeit, Markovketten und -prozesse sowie den Zusammenhang mit der diskreten Potentialtheorie, Kopplung, Ergodentheorie, die Brown’sche Bewegung und
VI
Vorwort zur zweiten Auflage
das Itˆo-Integral, den Poisson’schen Punktprozess, Perkolation und die Theorie der großen Abweichungen sowie stochastische Differentialgleichungen. Die Maß- und Integrationstheorie wird entwickelt, soweit sie f¨ur das Verst¨andnis und die Formulierung der Wahrscheinlichkeitstheorie notwendig ist: Konstruktion von Maßen und Integralen, Satz von Radon-Nikodym und regul¨are bedingte Verteilungen, Konvergenzs¨atze f¨ur Funktionen (Lebesgue) und Maße (Prohorov) und Konstruktion von Maßen in Produktr¨aumen. Die einzelnen maßtheoretischen Kapitel kommen nicht als Block am Anfang des Buches, obwohl sie so geschrieben sind, dass das m¨oglich w¨are, n¨amlich unabh¨angig von den wahrscheinlichkeitstheoretischen Kapiteln, sondern abwechselnd mit wahrscheinlichkeitstheoretischen Kapiteln, die so gebaut sind, dass sie mit den gerade zur Verf¨ugung stehenden Begriffen auskommen (beispielsweise kann man Perkolation studieren, ohne einen Integralbegriff an der Hand zu haben). Als einzige Ausnahme wird die systematische Konstruktion von unabh¨angigen Zufallsvariablen erst im 14ten Kapitel nachgeliefert. Ich verspreche mir von diesem Vorgehen eine Auflockerung des maßtheoretischen Stoffes, der von manchen als etwas trocken empfunden wird. Letztlich ist dieses genauso eine Geschmacksfrage wie diejenige, welches der beiden Themen als linke und welches als rechte Hand anzusehen ist. Wer eine maßtheoretische Grundbildung hat, kann insbesondere das erste Kapitel beim ersten Lesen zun¨achst u¨ berspringen und braucht eventuell nur Einzelnes darin nachzuschlagen. Das Gleiche gilt f¨ur das vierte Kapitel (Integrationstheorie). In den ersten acht Kapiteln wird das Fundament gelegt, das in allen weiteren Kapiteln ben¨otigt wird. Danach k¨onnen die sieben inhaltlichen Einheiten von Kapitel 9–12, 13, 14, 15–16, 17–19, 20 und 23 einigermaßen unabh¨angig voneinander gelesen werden. Das Kapitel zur Brown’schen Bewegung (21) greift auf die Kapitel 9–15 zur¨uck. Danach sind unabh¨angig voneinander die Bl¨ocke 22, 24 und 25–26 lesbar. Ich danke all denjenigen, die das Manuskript gelesen und zahlreiche Verbesserungsvorschl¨age und Korrekturen angebracht haben: Den Mitarbeitern und Studenten Roland Alkemper, Dirk Br¨uggemann, Anne Eisenb¨urger, Ortwin Lorenz, Mario Oeler, Marcus Sch¨olpen, den Kollegen Wolfgang B¨uhler und Wolfgang K¨onig sowie besonders dem M¨unchener Kollegen Hans-Otto Georgii. F¨ur weitere Hinweise auf Fehler unter
[email protected] w¨are ich dankbar. Außerdem m¨ochte ich mich beim Springer-Verlag f¨ur die gute Zusammenarbeit bedanken.
Mainz, November 2005
Achim Klenke
Inhaltsverzeichnis
1
Grundlagen der Maßtheorie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
1
1.1 Mengensysteme . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
1
1.2 Mengenfunktionen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12 1.3 Fortsetzung von Maßen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18 1.4 Messbare Abbildungen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 34 1.5 Zufallsvariablen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 43 2
Unabh¨angigkeit . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 49 2.1 Unabh¨angigkeit von Ereignissen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 49 2.2 Unabh¨angigkeit von Zufallsvariablen . . . . . . . . . . . . . . . . . . . . . . . . . . 56 2.3 Kolmogorov’sches 0-1 Gesetz . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 63 2.4 Beispiel: Perkolation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 66
3
Erzeugendenfunktion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 79 3.1 Definition und Beispiele . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 79 3.2 Poisson-Approximation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 82 3.3 Verzweigungsprozesse . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 84
4
Das Integral . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 87 4.1 Konstruktion und einfache Eigenschaften . . . . . . . . . . . . . . . . . . . . . . 87 4.2 Monotone Konvergenz und Lemma von Fatou . . . . . . . . . . . . . . . . . . 95 4.3 Lebesgue-Integral versus Riemann-Integral . . . . . . . . . . . . . . . . . . . . . 98
5
Momente und Gesetze der Großen Zahl . . . . . . . . . . . . . . . . . . . . . . . . . 103 5.1 Momente . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 103 5.2 Schwaches Gesetz der Großen Zahl . . . . . . . . . . . . . . . . . . . . . . . . . . . 110
VIII
Inhaltsverzeichnis
5.3 Starkes Gesetz der Großen Zahl . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 113 5.4 Konvergenzrate im starken GGZ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 121 5.5 Der Poissonprozess . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 124 6
Konvergenzs¨atze . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 131 6.1 Fast-¨uberall- und stochastische Konvergenz . . . . . . . . . . . . . . . . . . . . . 131 6.2 Gleichgradige Integrierbarkeit . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 136 6.3 Vertauschung von Integral und Ableitung . . . . . . . . . . . . . . . . . . . . . . . 143
7
Lp -R¨aume und Satz von Radon-Nikodym . . . . . . . . . . . . . . . . . . . . . . . 145 7.1 Definitionen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 145 7.2 Ungleichungen und Satz von Fischer-Riesz . . . . . . . . . . . . . . . . . . . . . 147 7.3 Hilbertr¨aume . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 153 7.4 Lebesgue’scher Zerlegungssatz . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 156 7.5 Erg¨anzung: Signierte Maße . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 160 7.6 Erg¨anzung: Dualr¨aume . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 167
8
Bedingte Erwartungen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 171 8.1 Elementare bedingte Wahrscheinlichkeiten . . . . . . . . . . . . . . . . . . . . . 171 8.2 Bedingte Erwartungen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 175 8.3 Regul¨are Version der bedingten Verteilung . . . . . . . . . . . . . . . . . . . . . 182
9
Martingale . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 191 9.1 Prozesse, Filtrationen, Stoppzeiten . . . . . . . . . . . . . . . . . . . . . . . . . . . . 191 9.2 Martingale . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 196 9.3 Diskretes stochastisches Integral . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 200 9.4 Diskreter Martingaldarstellungssatz und CRR Modell . . . . . . . . . . . . 202
10
Optional Sampling S¨atze . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 207 10.1 Doob-Zerlegung und quadratische Variation . . . . . . . . . . . . . . . . . . . . 207 10.2 Optional Sampling und Optional Stopping . . . . . . . . . . . . . . . . . . . . . . 211 10.3 Gleichgradige Integrierbarkeit und Optional Sampling . . . . . . . . . . . . 215
11
Martingalkonvergenzs¨atze und Anwendungen . . . . . . . . . . . . . . . . . . . 219
Inhaltsverzeichnis
IX
11.1 Die Doob’sche Ungleichung . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 219 11.2 Martingalkonvergenzs¨atze . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 221 11.3 Beispiel: Verzweigungsprozess . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 230 12
¨ Ruckw¨ artsmartingale und Austauschbarkeit . . . . . . . . . . . . . . . . . . . . . 233 12.1 Austauschbare Familien von Zufallsvariablen . . . . . . . . . . . . . . . . . . . 233 12.2 R¨uckw¨artsmartingale . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 238 12.3 Satz von de Finetti . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 240
13
Konvergenz von Maßen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 245 13.1 Wiederholung Topologie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 245 13.2 Schwache und vage Konvergenz . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 252 13.3 Der Satz von Prohorov . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 260 13.4 Anwendung: Satz von de Finetti – anders angeschaut . . . . . . . . . . . . . 269
14
W-Maße auf Produktr¨aumen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 273 14.1 Produktr¨aume . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 274 ¨ 14.2 Endliche Produkte und Ubergangskerne . . . . . . . . . . . . . . . . . . . . . . . . 277 14.3 Satz von Ionescu-Tulcea und Projektive Familien . . . . . . . . . . . . . . . . 286 14.4 Markov’sche Halbgruppen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 291
15
Charakteristische Funktion und Zentraler Grenzwertsatz . . . . . . . . . 297 15.1 Trennende Funktionenklassen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 297 15.2 Charakteristische Funktionen: Beispiele . . . . . . . . . . . . . . . . . . . . . . . . 304 15.3 Der L´evy’sche Stetigkeitssatz . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 310 15.4 Charakteristische Funktion und Momente . . . . . . . . . . . . . . . . . . . . . . 315 15.5 Der Zentrale Grenzwertsatz . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 321 15.6 Mehrdimensionaler Zentraler Grenzwertsatz . . . . . . . . . . . . . . . . . . . . 329
16
Unbegrenzt teilbare Verteilungen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 331 16.1 Die L´evy-Khinchin Formel . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 331 16.2 Stabile Verteilungen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 343
17
Markovketten . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 349
X
Inhaltsverzeichnis
17.1 Begriffsbildung und Konstruktion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 349 17.2 Diskrete Markovketten, Beispiele . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 356 17.3 Diskrete Markovprozesse in stetiger Zeit . . . . . . . . . . . . . . . . . . . . . . . 360 17.4 Diskrete Markovketten, Rekurrenz und Transienz . . . . . . . . . . . . . . . . 365 17.5 Anwendung: Rekurrenz und Transienz von Irrfahrten . . . . . . . . . . . . 369 17.6 Invariante Verteilungen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 376 18
Konvergenz von Markovketten . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 383 18.1 Periodizit¨at von Markovketten . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 383 18.2 Kopplung und Konvergenzsatz . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 387 18.3 Markovketten Monte Carlo Methode . . . . . . . . . . . . . . . . . . . . . . . . . . 394 18.4 Konvergenzgeschwindigkeit . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 401
19
Markovketten und elektrische Netzwerke . . . . . . . . . . . . . . . . . . . . . . . 407 19.1 Harmonische Funktionen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 407 19.2 Reversible Markovketten . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 411 19.3 Endliche Elektrische Netzwerke . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 412 19.4 Rekurrenz und Transienz . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 418 19.5 Netzwerkreduktion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 424 19.6 Irrfahrt in zuf¨alliger Umgebung . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 431
20
Ergodentheorie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 435 20.1 Begriffsbildung . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 435 20.2 Ergodens¨atze . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 439 20.3 Beispiele . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 441 20.4 Anwendung: Rekurrenz von Irrfahrten . . . . . . . . . . . . . . . . . . . . . . . . . 443 20.5 Mischung . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 446
21
Die Brown’sche Bewegung . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 451 21.1 Stetige Modifikationen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 451 21.2 Konstruktion und Pfadeigenschaften . . . . . . . . . . . . . . . . . . . . . . . . . . . 458 21.3 Starke Markoveigenschaft . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 463 21.4 Erg¨anzung: Feller Prozesse . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 466
Inhaltsverzeichnis
XI
21.5 Konstruktion durch L2 -Approximation . . . . . . . . . . . . . . . . . . . . . . . . 469 21.6 Der Raum C([0, ∞)) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 473 21.7 Konvergenz von W-Maßen auf C([0, ∞)) . . . . . . . . . . . . . . . . . . . . . . 475 21.8 Satz von Donsker . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 478 21.9 Pfadweise Konvergenz von Verzweigungsprozessen∗ . . . . . . . . . . . . . 482 21.10Quadratische Variation und lokale Martingale . . . . . . . . . . . . . . . . . . . 488 22
Gesetz vom iterierten Logarithmus . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 499 22.1 Iterierter Logarithmus f¨ur die Brown’sche Bewegung . . . . . . . . . . . . . 499 22.2 Skorohod’scher Einbettungssatz . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 502 22.3 Satz von Hartman-Wintner . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 507
23
Große Abweichungen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 509 23.1 Satz von Cram´er . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 510 23.2 Prinzip der großen Abweichungen . . . . . . . . . . . . . . . . . . . . . . . . . . . . 514 23.3 Satz von Sanov . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 518 23.4 Varadhan’sches Lemma und Freie Energie . . . . . . . . . . . . . . . . . . . . . . 522
24
Der Poisson’sche Punktprozess . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 529 24.1 Zuf¨allige Maße . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 529 24.2 Eigenschaften des Poisson’schen Punktprozesses . . . . . . . . . . . . . . . . 533 24.3 Die Poisson-Dirichlet-Verteilung∗ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 539
25
Das Itˆo-Integral . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 547 25.1 Das Itˆo-Integral bez¨uglich der Brown’schen Bewegung . . . . . . . . . . . 547 25.2 Itˆo-Integral bez¨uglich Diffusionen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 555 25.3 Die Itˆo-Formel . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 558 25.4 Dirichlet-Problem und Brown’sche Bewegung . . . . . . . . . . . . . . . . . . 566 25.5 Rekurrenz und Transienz der Brown’schen Bewegung . . . . . . . . . . . . 568
26
Stochastische Differentialgleichungen . . . . . . . . . . . . . . . . . . . . . . . . . . 573 26.1 Starke L¨osungen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 573 26.2 Schwache L¨osungen und Martingalproblem . . . . . . . . . . . . . . . . . . . . 582 26.3 Eindeutigkeit schwacher L¨osungen via Dualit¨at . . . . . . . . . . . . . . . . . 589
XII
Inhaltsverzeichnis
Literatur . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 597 Notation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 607 ¨ Glossar englischer Ausdrucke . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 611 Namensregister . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 613 Sachregister . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 617
1 Grundlagen der Maßtheorie
In diesem Kapitel f¨uhren wir die Mengensysteme ein, die eine systematische Betrachtung von Ereignissen und zuf¨alligen Beobachtungen in der Wahrscheinlichkeitstheorie erlauben. Ferner sollen Maße, insbesondere Wahrscheinlichkeitsmaße, auf solchen Mengensystemen konstruiert werden. Schließlich werden wir Zufallsvariablen als messbare Abbildungen definieren.
1.1 Mengensysteme Im Folgenden ist stets Ω = ∅ eine Menge und A ⊂ 2Ω (Potenzmenge von Ω) eine Familie von Teilmengen. Sp¨ater wird die Menge Ω als Raum von Elementarereignissen interpretiert werden und A als ein System von beobachtbaren Ereignissen. Wir wollen in diesem Abschnitt Mengensysteme, die abgeschlossen sind unter einfachen mengentheoretischen Verkn¨upfungen, mit Namen versehen und einfache Beziehungen zwischen solchen Systemen herstellen. Definition 1.1. Das Mengensystem A heißt – ∩-stabil (sprich: schnittstabil) oder ein π-System, falls f¨ur je zwei Mengen A, B ∈ A gilt, dass auch A ∩ B ∈ A, – σ-∩-stabil (sigma-schnittstabil), falls f¨ur je abz¨ahlbar unendlich viele Mengen ∞ An ∈ A, A1 , A2 , . . . ∈ A gilt, dass auch n=1
– ∪-stabil (vereinigungsstabil), falls f¨ur je zwei Mengen A, B ∈ A gilt, dass auch A ∪ B ∈ A, – σ-∪-stabil (sigma-vereinigungsstabil), falls f¨ur je abz¨ahlbar unendlich viele Men∞ gen A1 , A2 , . . . ∈ A gilt, dass auch An ∈ A, n=1
– \-stabil (differenzmengenstabil), falls f¨ur je zwei Mengen A, B ∈ A gilt, dass auch A \ B ∈ A, – komplementstabil, falls mit jeder Menge A ∈ A auch Ac := Ω \ A ∈ A gilt.
2
1 Grundlagen der Maßtheorie
Definition 1.2 (σ-Algebra). Ein Mengensystem A ⊂ 2Ω heißt σ-Algebra, falls die folgenden drei Bedingungen erf¨ullt sind. (i) Ω ∈ A, (ii) A ist komplementstabil, (iii) A ist σ-∪-stabil. σ-Algebren sind die nat¨urlichen Mengensysteme f¨ur zuf¨allige Ereignisse, denn wie wir sehen werden, k¨onnen wir diesen Ereignissen in konsistenter Weise Wahrscheinlichkeiten zuordnen. ¨ Satz 1.3. Ist A komplementstabil, so gelten die beiden folgenden Aquivalenzen. A ist ∩ -stabil
⇐⇒
A ist ∪ -stabil,
A ist σ- ∩ -stabil
⇐⇒
A ist σ- ∪ -stabil.
Beweis. Dies folgt direkt aus den de Morgan’schen Regeln (Erinnerung: ( Ai )c = c Ai ). Ist beispielsweise A σ-∩-stabil und sind A1 , A2 , . . . ∈ A, so ist auch ∞ c ∞ An = Acn ∈ A. n=1
n=1
Also ist A auch σ-∪-stabil. Die anderen F¨alle folgen analog.
2
Satz 1.4. Ist A \-stabil, so gelten die folgenden Aussagen. (i) A ist ∩-stabil. (ii) Falls A σ-∪-stabil ist, dann ist A auch σ-∩-stabil. (iii) Jede abz¨ahlbare (beziehungsweise endliche) Vereinigung von Mengen aus A l¨asst sich als abz¨ahlbare (beziehungsweise endliche), disjunkte Vereinigung von Mengen in A schreiben. Beweis. (i) Seien A, B ∈ A. Dann ist auch A ∩ B = A \ (A \ B) ∈ A. (ii) Seien A1 , A2 , . . . ∈ A. Dann ist ∞ n=1
An =
∞
(A1 ∩ An ) =
n=2
∞
A1 \ (A1 \ An ) = A1 \
n=2
(iii) Seien A1 , A2 , . . . ∈ A. Dann ist gung in A darstellbar durch
∞
(A1 \ An ) ∈ A.
n=2 ∞ n=1
An als abz¨ahlbare, disjunkte Vereini-
1.1 Mengensysteme ∞
3
An = A1 (A2 \ A1 ) ((A3 \ A1 ) \ A2 ) (((A4 \ A1 ) \ A2 ) \ A3 ) . . . 2
n=1
Bemerkung 1.5. Manchmal bezeichnen wir, wie imobigen Beweis, die Vereinigung paarweise disjunkter Mengen mit dem Symbol . Dies soll lediglich der optischen Verdeutlichung dienen und ist keine neue Verkn¨upfung. 3 Definition 1.6. Ein Mengensystem A ⊂ 2Ω heißt Algebra, falls gilt: (i) Ω ∈ A, (ii) A ist \-stabil, (iii) A ist ∪-stabil. Offenbar ist in einer Algebra stets ∅ = Ω \ Ω enthalten. Diese Eigenschaft ist im Allgemeinen jedoch schw¨acher als (i) in Definition 1.6. Satz 1.7. Ein Mengensystem A ⊂ 2Ω ist genau dann eine Algebra, wenn es folgende drei Eigenschaften hat: (i) Ω ∈ A, (ii) A ist komplementstabil, (iii) A ist ∩-stabil. ¨ Beweis. Ubung!
2
Definition 1.8. Ein Mengensystem A ⊂ 2Ω heißt Ring, falls gilt: (i) ∅ ∈ A, (ii) A ist \-stabil, (iii) A ist ∪-stabil. Ein Ring heißt σ-Ring, falls er σ-∪-stabil ist. Definition 1.9. Ein Mengensystem A ⊂ 2Ω heißt Semiring (oder Halbring), falls gilt: (i) ∅ ∈ A, (ii) f¨ur je zwei Mengen A, B ∈ A ist B \ A endliche Vereinigung von paarweise disjunkten Mengen aus A, (iii) A ist ∩-stabil.
4
1 Grundlagen der Maßtheorie
Definition 1.10. Ein Mengensystem A ⊂ 2Ω heißt Dynkin-System (oder λ-System), falls gilt: (i) Ω ∈ A, (ii) f¨ur je zwei Mengen A, B ∈ A mit A ⊂ B ist B \ A ∈ A, (iii) f¨ur je abz¨ahlbar viele, paarweise disjunkte Mengen A1 , A2 , . . . ∈ A gilt ∞ n=1 An ∈ A. Beispiele 1.11. (i) Ist Ω eine beliebige nichtleere Menge, so sind A = {∅, Ω} und A = 2Ω die trivialen Beispiele f¨ur Algebren, σ-Algebren und Dynkin-Systeme. Hingegen sind A = {∅} und A = 2Ω die trivialen Beispiele f¨ur Semiringe, Ringe und σ-Ringe. (ii) Sei Ω = R. Dann ist A = {A ⊂ R : A ist abz¨ahlbar} ein σ-Ring. (iii) A = {(a, b] : a, b ∈ R, a ≤ b} ist ein Semiring u¨ ber Ω = R (aber kein Ring). (iv) Die Menge endlicher Vereinigungen von beschr¨ankten Intervallen ist ein Ring u¨ ber Ω = R (aber keine Algebra). (v) Die Menge endlicher Vereinigungen beliebiger (auch unbeschr¨ankter) Intervalle ist eine Algebra u¨ ber Ω = R (aber keine σ-Algebra). (vi) Sei E eine endliche, nichtleere Menge und Ω := E N die Menge aller Folgen ω = (ωn )n∈N mit Werten in E. F¨ur ω1 , . . . , ωn ∈ E sei [ω1 , . . . , ωn ] := {ω ∈ Ω : ωi = ωi f¨ur jedes i = 1, . . . , n} die Menge aller Folgen, die mit den Werten ω1 , . . . , ωn beginnen. Sei A0 = {∅}. F¨ur n ∈ N setze Dann ist A :=
∞
An := {[ω1 , . . . , ωn ] : ω1 , . . . , ωn ∈ E}.
n=0
(1.1)
An ein Semiring, aber kein Ring (falls #E > 1).
(vii) Sei Ω eine beliebige nichtleere Menge. Dann ist A := {A ⊂ Ω : A oder Ac ist endlich} eine Algebra. Ist #Ω = ∞, so ist A jedoch keine σ-Algebra. (viii) Sei Ω eine beliebige nichtleere Menge. Dann ist A := {A ⊂ Ω : A oder Ac ist abz¨ahlbar} eine σ-Algebra. (ix) Jede σ-Algebra ist auch ein Dynkin-System.
(x) Sei Ω = {1, 2, 3, 4} und A = ∅, {1, 2}, {1, 4}, {2, 3}, {3, 4}, {1, 2, 3, 4} . Dann ist A ein Dynkin-System, aber keine Algebra. 3
1.1 Mengensysteme
5
Satz 1.12 (Inklusionen zwischen Mengensystemen). (i) Jede σ-Algebra ist ein Dynkin-System, eine Algebra und ein σ-Ring. (ii) Jeder σ-Ring ist ein Ring, jeder Ring ein Semiring. (iii) Jede Algebra ist auch ein Ring. Eine Algebra auf einer endlichen Menge Ω ist auch eine σ-Algebra. Beweis. (i) Das ist klar. (ii) Sei A ein Ring. Nach Satz 1.4 ist A schnittstabil und damit ein Semiring. (iii) Sei A eine Algebra. Dann ist ∅ = Ω \ Ω ∈ A, also ist A ein Ring. Ist zudem Ω endlich, so ist A endlich und damit jede abz¨ahlbare Vereinigung in A schon eine endliche Vereinigung. 2 Definition 1.13 (liminf und limsup). Es seien A1 , A2 , . . . Teilmengen von Ω. Dann heißen ∞ ∞ ∞ ∞ Am und lim sup An := Am lim inf An := n→∞
n→∞
n=1 m=n
n=1 m=n
Limes inferior beziehungsweise Limes superior der Folge (An )n∈N . Bemerkung 1.14. (i) Es gilt
lim inf An = ω ∈ Ω : #{n ∈ N : ω ∈ An } < ∞ , n→∞
lim sup An = ω ∈ Ω : #{n ∈ N : ω ∈ An } = ∞ . n→∞
Der Limes inferior ist also das Ereignis, dass schließlich alle der An eintreten, der Limes superior hingegen das Ereignis, dass unendlich viele der An eintreten. Insbesondere ist A∗ := lim inf n→∞ An ⊂ A∗ := lim supn→∞ An . (ii) Bezeichnen wir mit
½A (x) :=
1, 0,
falls x ∈ A, falls x ∈ A,
(1.2)
die Indikatorfunktion auf der Menge A, so gilt
½A∗ = lim inf ½An , n→∞
½A∗ = lim sup ½An . n→∞
(iii) Ist A ⊂ 2Ω eine σ-Algebra und An ∈ A f¨ur jedes n ∈ N, so ist A∗ ∈ A und A∗ ∈ A. 3 ¨ Beweis. Ubung!
2
6
1 Grundlagen der Maßtheorie
Satz 1.15 (Schnitt von Mengensystemen). Ist I eine beliebige Indexmenge und Ai eine σ-Algebra f¨ur jedes i ∈ I, so ist
AI := A ⊂ Ω : A ∈ Ai f¨ur jedes i ∈ I = Ai i∈I
eine σ-Algebra. Dies gilt analog f¨ur: Ringe, σ-Ringe, Algebren und Dynkin-Systeme; nicht aber f¨ur Semiringe. Beweis. Wir f¨uhren den Beweis hier nur f¨ur σ-Algebren durch. Wir pr¨ufen f¨ur A die Punkte (i)–(iii) aus Definition 1.2. (i) F¨ur jedes i ∈ I ist Ω ∈ Ai . Also ist Ω ∈ A. (ii) Sei A ∈ A. Dann ist A ∈ Ai f¨ur jedes i ∈ I. Also ist auch Ac ∈ Ai f¨ur jedes i ∈ I. Mithin ist Ac ∈ A. (iii) Seien A1 , A2 , . . . ∈A. Dann ist An ∈ Ai f¨ur jedes n ∈ N und jedes i ∈ I. Also ist auch A := ∞ ur jedes i ∈ I und damit A ∈ A. n=1 An ∈ Ai f¨ Gegenbeispiel f¨ur Semiringe: Seien Ω = {1, 2, 3, 4}, A1 = {∅, Ω, {1}, {2, 3}, {4}} und A2 = {∅, Ω, {1}, {2}, {3, 4}}. Dann sind A1 und A2 Semiringe, aber A1 ∩ A2 = {∅, Ω, {1}} ist keiner. 2 Satz 1.16 (Erzeugte σ-Algebra). Sei E ⊂ 2Ω . Dann existiert eine kleinste σAlgebra σ(E) mit E ⊂ σ(E): σ(E) := A. A⊂2Ω ist σ-Algebra A⊃E
σ(E) heißt die von E erzeugte σ-Algebra. E heißt Erzeuger von σ(E). Analog wird das von E erzeugte Dynkin-System δ(E) definiert. Beweis. A = 2Ω ist eine σ-Algebra mit E ⊂ A. Also ist der Schnitt nicht leer. Nach Satz 1.15 ist σ(E) eine σ-Algebra, und dies ist offenbar die kleinste σ-Algebra, die E enth¨alt. F¨ur Dynkin-Systeme geht der Beweis genauso. 2 Bemerkung 1.17. Es gelten die folgenden einfachen Aussagen. (i) E ⊂ σ(E). (ii) Gilt E1 ⊂ E2 , so ist σ(E1 ) ⊂ σ(E2 ). (iii) A ist genau dann σ-Algebra, wenn σ(A) = A. Die analogen Aussagen gelten f¨ur Dynkin-Systeme. Ferner ist stets δ(E) ⊂ σ(E).3
1.1 Mengensysteme
7
Satz 1.18 (Schnittstabiles Dynkin-System). Ist D ⊂ 2Ω ein Dynkin-System, so gilt D ist ∩-stabil Beweis. ”
=⇒ “
”
⇐= “
⇐⇒
D ist eine σ-Algebra.
Dies ist klar.
Wir pr¨ufen die Eigenschaften (i)–(iii) aus Definition 1.2.
(i) Offensichtlich ist Ω ∈ D. (ii) (Komplementstabilit¨at) Sei A ∈ D. Da Ω ∈ D gilt, und nach Eigenschaft (ii) des Dynkin-Systems, ist Ac = Ω \ A ∈ D. (iii) (σ-∪-Stabilit¨at) Seien A, B ∈ D. Nach Voraussetzung ist A ∩ B ∈ D, und es gilt trivialerweise A ∩ B ⊂ A. Also ist A \ B = A \ (A ∩ B) ∈ D. Mithin ist D \-stabil. Seien nun A1 , A2 , . . . ∈ D. Nach Satz 1.4(iii) existieren paarweise ∞ ∞ disjunkte Mengen B1 , B2 , . . . ∈ D mit An = Bn ∈ D. 2 n=1
* σ-∪-stabil
σ-Algebra
Algebra
@ I Ω ∈ A@
6
HH Y H
Ω∈A
σ-Ring
n=1
HH ∩-stabil H HH
Dynkin-System
@
σ-∪-stabil
@
Ring
6 ∪-stabil Semiring Abb. 1.1. Zusammenhang zwischen den Mengensystemen A ⊂ 2Ω .
Satz 1.19 (Dynkin’scher π–λ–Satz). Sei E ⊂ 2Ω ein ∩-stabiles Mengensystem. Dann gilt σ(E) = δ(E). Beweis. ⊃“ Dies ist klar nach Bemerkung 1.17. ” ⊂“ Zu zeigen ist: δ(E) ist eine σ-Algebra. Nach Satz 1.18 reicht es zu zeigen, ” dass δ(E) ∩-stabil ist. F¨ur B ∈ δ(E) sei
8
1 Grundlagen der Maßtheorie
DB := {A ∈ δ(E) : A ∩ B ∈ δ(E)}. F¨ur die Schnittstabilit¨at von δ(E) reicht es zu zeigen, dass δ(E) ⊂ DB
f¨ur jedes B ∈ δ(E).
(1.3)
Wir zeigen, dass DE f¨ur jedes E ∈ δ(E) ein Dynkin-System ist, indem wir (i)–(iii) aus Definition 1.10) pr¨ufen: (i) Offenbar ist Ω ∩ E = E ∈ δ(E), also ist Ω ∈ DE . (ii) F¨ur A, B ∈ DE mit A ⊂ B ist (B \ A) ∩ E = (B ∩ E) \ (A ∩ E) ∈ δ(E). (iii) Seien A1 , A2 , . . . ∈ DE paarweise disjunkt. Dann ist ∞ ∞ An ∩ E = (An ∩ E) ∈ δ(E). n=1
n=1
Nach Voraussetzung ist f¨ur A ∈ E auch A ∩ E ∈ E, also ist E ⊂ DE , falls E ∈ E gilt. Nach Bemerkung 1.17(ii) ist daher auch δ(E) ⊂ DE f¨ur E ∈ E. F¨ur B ∈ δ(E) und E ∈ E ist also B ∩ E ∈ δ(E). Mithin gilt E ∈ DB f¨ur jedes B ∈ δ(E), also 2 E ⊂ DB f¨ur jedes B ∈ δ(E), und damit gilt (1.3). Von besonderer Bedeutung sind σ-Algebren, die von Topologien erzeugt werden. Hier wiederum spielt nat¨urlich der euklidische Raum Rn die prominenteste Rolle, aber wir wollen auch den (unendlichdimensionalen) Raum C([0, 1]) der stetigen Funktionen [0, 1] → R im Blick haben. Auf diesem Raum wird durch die Norm f ∞ = supx∈[0,1] |f (x)| eine Topologie erzeugt. Zur Erinnerung bringen wir hier das Axiomensystem der Topologie. Definition 1.20 (Topologie). Sei Ω = ∅ eine beliebige Menge. Ein Mengensystem τ ⊂ Ω heißt Topologie auf Ω, falls folgende drei Eigenschaften gelten. (i) ∅, Ω ∈ τ . (ii) Sind A, B ∈ τ , so ist auch A ∩ B ∈ τ . (iii) Ist F ⊂ τ eine beliebige Familie, so ist auch
A∈F
A ∈ τ.
Das Paar (Ω, τ ) heißt dann topologischer Raum. Die Mengen A ∈ τ heißen offen, die Mengen A ⊂ Ω mit Ac ∈ τ heißen abgeschlossen. Anders als bei σ-Algebren sind bei Topologien nur endliche Schnitte, jedoch auch u¨ berabz¨ahlbare Vereinigungen erlaubt. Ist d eine Metrik auf Ω, und bezeichnet Br (x) = {y ∈ Ω : d(x, y) < r} die offene Kugel um x ∈ Ω mit Radius r > 0, so wird eine Topologie erzeugt durch
1.1 Mengensysteme
τ=
(x,r)∈F
9
Br (x) : F ⊂ Ω × (0, ∞) .
Dies ist das gew¨ohnliche System offener Mengen, das man in den meisten Analysisb¨uchern findet. Definition 1.21 (Borel’sche σ-Algebra). Sei (Ω, τ ) ein topologischer Raum. Die von den offenen Mengen erzeugte σ-Algebra B(Ω) := B(Ω, τ ) := σ(τ ) heißt Borel’sche σ-Algebra auf Ω. Die Elemente A ∈ B(Ω, τ ) heißen Borel’sche Mengen oder Borel-messbare Mengen. Bemerkung 1.22. Wir sind meistens an B(Rn ) interessiert, wobei wir auf Rn den euklidischen Abstand annehmen: n d(x, y) = x − y2 = (xi − yi )2 . i=1
(i) Es gibt Teilmengen von Rn , die keine Borel’schen Mengen sind. Diese sind kompliziert herzustellen, wie beispielsweise die Vitali-Mengen, die man in Analysisb¨uchern findet (siehe etwa [7]). Wir wollen hier auf diesen Aspekt nicht n¨aher eingehen, sondern lediglich die - mathematisch unpr¨azise - Feststellung treffen, dass jede Menge, die man sich konstruktiv herstellen kann, auch Borel’sch ist. (ii) Jede abgeschlossene Menge C ⊂ Rn ist in B(Rn ), denn es ist C c ∈ τ , also ist C = (C c )c ∈ σ(τ ). Speziell ist {x} ∈ B(Rn ) f¨ur jedes x ∈ Rn . (iii) B(Rn ) ist keine Topologie. Sei n¨amlich V ⊂ Rn , V ∈ B(Rn ). W¨are B(Rn ) eine Topologie, so w¨aren beliebige Vereinigungen Borel’scher Mengen wieder Bo3 rel’sch, also auch V = x∈V {x} ∈ B(Rn ). Das Mengensystem der offenen Mengen, das die Borel’sche σ-Algebra erzeugt, ist in vielen F¨allen unhandlich groß. Wir wollen daher andere Mengensysteme als Erzeuger von B(Rn ) identifizieren, mit denen wir in der Praxis besser arbeiten k¨onnen. Hierzu wollen wir einerseits Mengen von einfacher Struktur, Quader etwa, betrachten, andererseits aber auch die Gr¨oße des Systems einschr¨anken, indem wir abz¨ahlbare Mengensysteme betrachten. Wir f¨uhren folgende Notationen ein. Mit Q bezeichnen wir die Menge der rationalen Zahlen, mit Q+ die Menge der strikt positiven rationalen Zahlen. F¨ur a, b ∈ Rn schreiben wir a < b,
falls ai < bi
f¨ur jedes i = 1, . . . , n.
(1.4)
Wir definieren f¨ur a < b den offenen Quader als das kartesische Produkt
×(a , b ) := (a , b ) × (a , b ) × · · · × (a , b ) n
(a, b) :=
i
i=1
i
1
1
2
2
n
n
(1.5)
10
1 Grundlagen der Maßtheorie
und analog [a, b], (a, b] und [a, b). Ferner schreiben wir (−∞, b) := ×i=1 (−∞, bi ) und definieren analog (−∞, b] und so fort. Wir f¨uhren die folgenden Mengensysteme ein: n
E1 := {A ⊂ Rn : A ist offen},
E2 := {A ⊂ Rn : A ist abgeschlossen},
E3 := {A ⊂ Rn : A ist kompakt}, E4 E5 := {(a, b) : a, b ∈ Qn , a < b}, E6 E8 E7 := {(a, b] : a, b ∈ Qn , a < b}, n E9 := {(−∞, b) : b ∈ Q }, E10 E12 E11 := {(a, ∞) : a ∈ Qn },
:= {Br (x) : x ∈ Qn , r ∈ Q+ }, := {[a, b) : a, b ∈ Qn , a < b}, := {[a, b] : a, b ∈ Qn , a < b}, := {(−∞, b] : b ∈ Qn }, := {[a, ∞) : a ∈ Qn }.
Satz 1.23. Die Borel’sche σ-Algebra B(Rn ) wird von jedem der Mengensysteme E1 , . . . , E12 erzeugt: B(Rn ) = σ(Ei ) f¨ur jedes i = 1, . . . , 12. Beweis. Wir zeigen nur exemplarisch ein paar der Identit¨aten. (1)
B(Rn ) = σ(E1 ) gilt per Definition.
(2) Sei A ∈ E1 . Dann ist Ac ∈ E2 , also A = (Ac )c ∈ σ(E2 ). Daher gilt E1 ⊂ σ(E2 ) und dann (wegen Bemerkung 1.17) auch σ(E1 ) ⊂ σ(E2 ). Analog folgt aber σ(E2 ) ⊂ σ(E1 ) und damit die Gleichheit. (3) Jede kompakte Menge ist abgeschlossen. Also gilt σ(E3 ) ⊂ σ(E2 ). Sei nun A ∈ E2 . Dann sind die Mengen AK := A ∩ [−K, K]n , K ∈ N, kompakt, also ist ∞ die abz¨ahlbare Vereinigung A = K=1 AK in σ(E3 ). Es gilt also E2 ⊂ σ(E3 ) und damit σ(E2 ) = σ(E3 ). (4) Offenbar ist E4 ⊂ E1 , also σ(E4 ) ⊂ σ(E1 ). Sei nun A ⊂ Rn offen. F¨ur x ∈ A sei R(x) = min(1, sup{r > 0 : Br (x) ⊂ A}). Da A offen ist, folgt R(x) > 0. Sei r(x) ∈ (R(x)/2, R(x)) ∩ Q. F¨ur jedes y ∈ A und x ∈ (BR(y)/3 (y)) ∩ Qn ist nun 2 1 R(x) ≥ R(y) − x − y2 > 3 R(y), also r(x) > 3 R(y), also y ∈ Br(x) (x). Also ist A = x∈A∩Qn Br(x) (x) eine abz¨ahlbare Vereinigung von Mengen aus E4 und damit in σ(E4 ). Es gilt also auch σ(E1 ) ⊂ σ(E4 ). ¨ (5–12) Ahnliche Aussch¨opfungsargumente wie in (4) funktionieren auch f¨ur die Quader. In (4) k¨onnen statt der offenen Kugeln Br (x) offene Quader genommen werden. So folgt die Gleichheit mit σ(E5 ). Man bemerke beispielsweise, dass
× n
i=1
[ai , bi ) =
∞
× n
k=1 i=1
ai −
1 , bi ∈ σ(E5 ). k
Die anderen Inklusionen Ei ⊂ σ(Ej ) zeigt man analog.
2
Bemerkung 1.24. Jedes der Mengensysteme E1 , E2 , E3 , E5 , . . . , E12 (nicht aber E4 ) ist schnittstabil, mithin ist die Borel’sche σ-Algebra jeweils gleich dem erzeugten
1.1 Mengensysteme
11
Dynkin-System: B(Rn ) = δ(Ei ) f¨ur i = 1, 2, 3, 5, . . . , 12. Die Mengensysteme E4 , . . . , E12 sind zudem abz¨ahlbar. Dies ist eine Eigenschaft, die wir an sp¨aterer Stelle wieder ben¨otigen werden. 3 Definition 1.25 (Spur eines Mengensystems). Es sei A ⊂ 2Ω ein beliebiges System von Teilmengen von Ω und A ∈ 2Ω \ {∅}. Das Mengensystem A := {A ∩ B : B ∈ A} ⊂ 2A A
(1.6)
heißt Spur von A auf A, oder Einschr¨ankung von A auf A. Satz 1.26. Ist A eine σ-Algebra, oder eines der Mengensysteme aus den Definitio nen 1.6 – 1.10 auf Ω, so ist A ein Mengensystem vom selben Typ, allerdings auf A A statt Ω. ¨ Beweis. Ubung!
2
¨ Ubung 1.1.1. Sei A ein Semiring. Man zeige: Jede abz¨ahlbare (beziehungsweise endliche) Vereinigung von Mengen aus A l¨asst sich als abz¨ahlbare (beziehungsweise endliche), disjunkte Vereinigung von Mengen in A schreiben. ♣ ¨ Ubung 1.1.2. Man zeige durch ein Gegenbeispiel, dass im Allgemeinen die Vereinigung A ∪ A zweier σ-Algebren keine σ-Algebra ist. ♣ ¨ Ubung 1.1.3. Seien (Ω1 , d1 ) und (Ω2 , d2 ) metrische R¨aume, f : Ω1 → Ω2 eine beliebige Abbildung und Uf = x ∈ Ω1 : f ist unstetig in x die Menge der Unstetigkeitsstellen. Man zeige: Uf ∈ B(Ω1 ). Hinweis: Man zeige zun¨achst, dass f¨ur ε > 0 und δ > 0 die Menge
Ufδ,ε := x ∈ Ω1 : es gibt y, z ∈ Bε (x) mit d2 (f (y), f (z)) > δ (wobei Bε (x) = {y ∈ Ω1 : d1 (x, y) < ε}) offen ist und konstruiere dann Uf aus solchen Mengen. ♣ ¨ Ubung 1.1.4. Sei Ω eine u¨ berabz¨ahlbare Menge und A = σ({ω} : ω ∈ Ω). Zeige:
A = A ⊂ Ω : A ist abz¨ahlbar oder Ac ist abz¨ahlbar . ♣ ¨ Ubung 1.1.5. Sei A ein Ring auf der Menge Ω. Man zeige: A erf¨ullt die Axiome eines kommutativen Rings (im Sinne der Algebra) mit ∩“ als Multiplikation und ” “ als Addition. ♣ ”
12
1 Grundlagen der Maßtheorie
1.2 Mengenfunktionen Definition 1.27. Sei A ⊂ 2Ω und μ : A → [0, ∞] eine Mengenfunktion. μ heißt (i) monoton, falls f¨ur je zwei Mengen A, B ∈ A mit A ⊂ B gilt, dass μ(A) ≤ μ(B), (ii) additiv, falls f¨ur je endlich viele disjunkte Mengen A1 , . . . , An ∈ A n paarweise n n Ai ∈ A gilt, dass μ Ai = μ(Ai ), mit i=1
i=1
i=1
(iii) σ-additiv, falls f¨ur je abz¨ahlbar viele disjunkte Mengen A1 , A2 , . . . ∞paarweise ∞ ∞ Ai ∈ A gilt, dass μ Ai = μ(Ai ), aus A mit i=1
i=1
i=1
(iv) subadditiv, falls f¨ur je endlich viele Mengen A, A1 , A2 , . . . , An ∈ A mit A ⊂ n n Ai gilt, dass μ(A) ≤ μ(Ai ), i=1
i=1
(v) σ-subadditiv, falls f¨ur je abz¨ahlbar viele A, A1 , A2 , . . . ∈ A mit A ⊂ gilt, dass μ(A) ≤
∞
∞
Ai
i=1
μ(Ai ).
i=1
Definition 1.28. Sei A ein Semiring und μ : A → [0, ∞] eine Mengenfunktion mit μ(∅) = 0. μ heißt – Inhalt, falls μ additiv ist, – Pr¨amaß, falls μ σ-additiv ist, – Maß, falls μ ein Pr¨amaß ist und A eine σ-Algebra, – Wahrscheinlichkeitsmaß (kurz W-Maß), falls μ ein Maß ist und μ(Ω) = 1. Definition 1.29. Sei A ein Semiring. Ein Inhalt μ auf A heißt (i) endlich, falls μ(A) < ∞ f¨ur jedes A ∈ A, (ii) σ-endlich, falls es Mengen Ω1 , Ω2 , . . . ∈ A gibt mit Ω =
∞
Ωn und
n=1
μ(Ωn ) < ∞ f¨ur jedes n ∈ N.
Beispiel 1.30 (Inhalte, Maße). (i) Sei ω ∈ Ω und δω (A) = ½A (ω) (siehe (1.2)). Dann ist δω ein Wahrscheinlichkeitsmaß auf jeder σ-Algebra A ⊂ 2Ω und heißt Dirac-Maß im Punkt ω, oder Einheitsmasse. (ii) Sei Ω eine endliche, nichtleere Menge. Durch μ(A) :=
#A #Ω
f¨ur A ⊂ Ω,
1.2 Mengenfunktionen
13
wird ein Wahrscheinlichkeitsmaß auf A = 2Ω definiert. μ heißt Gleichverteilung oder uniforme Verteilung auf Ω. Wir f¨uhren hierf¨ur das Symbol UΩ := μ ein. Das so definierte Tripel (Ω, A, UΩ ) wird auch Laplace-Raum genannt. (iii) Sei Ω abz¨ahlbar unendlich und A := {A ⊂ Ω : #A < ∞ oder #Ac < ∞}. Dann ist A eine Algebra. Die durch μ(A) =
falls A endlich, falls Ac endlich,
0, ∞,
auf
A definierte Mengenfunktion ist ein Inhalt, aber kein Pr¨amaß, denn es gilt μ ω∈Ω {ω} = μ(Ω) = ∞, aber ω∈Ω μ ({ω}) = 0. (iv) Sei (μn )n∈N eine Folge von Maßen (Pr¨amaßen, Inhalten) ∞ und (αn )n∈N eine Folge von nichtnegativen Zahlen. Dann ist auch μ := n=1 αn μn ein Maß (Pr¨amaß, Inhalt). Ω (v) Sei Ω eine (h¨ochstens) abz¨ahlbare, nichtleere Menge und A = 2 . Ferner seien (pω )ω∈Ω nichtnegative Zahlen. Dann wird durch μ(A) := ω∈A pω f¨ur jedes A ⊂ Ω, ein σ-endliches Maß auf 2Ω definiert. Wir nennen p = (pω )ω∈Ω die Gewichtsfunktion von μ. (vi) Ist in (v) speziell ω∈Ω pω = 1, so ist μ ein Wahrscheinlichkeitsmaß. Wir interpretieren dann pω als Wahrscheinlichkeit des Elementarereignisses ω und nennen p = (pω )ω∈Ω auch einen Wahrscheinlichkeitsvektor.
(vii) Ist in (v) speziell pω = 1 f¨ur jedes ω ∈ Ω, so heißt μ das Z¨ahlmaß auf Ω. Ist Ω endlich, so ist auch μ endlich. (viii) Sei A der Ring endlicher Vereinigungen von Intervallen (a, b] ⊂ R. F¨ur n (ai , bi ] setzen wir a1 < b1 < a2 < b2 < . . . < bn und A = i=1
μ(A) =
n
(bi − ai ).
i=1
μ ist ein σ-endlicher Inhalt auf A (sogar ein Pr¨amaß), denn es ist und μ((−n, n]) = 2n < ∞ f¨ur jedes n ∈ N.
∞
n=1 (−n, n]
=R
(ix) Sei f : R → [0, ∞) stetig. Analog zu (viii) setze n bi μf (A) = f (x) dx. i=1
ai
μf ist ein σ-endlicher Inhalt auf A (sogar ein Pr¨amaß). Die Funktion f heißt Dichte und spielt hier eine a¨ hnliche Rolle wie die Gewichtsfunktion p in (v). 3
14
1 Grundlagen der Maßtheorie
Lemma 1.31 (Eigenschaften von Inhalten). Sei A ein Semiring und μ ein Inhalt auf A. Dann gelten die folgenden Aussagen. (i) Ist A ein Ring, so ist μ(A∪B)+μ(A∩B) = μ(A)+μ(B) f¨ur je zwei Mengen A, B ∈ A. (ii) μ ist monoton. Ist A ein Ring, so gilt genauer μ(B) = μ(A) + μ(B \ A) f¨ur je zwei Mengen A, B ∈ A mit A ⊂ B. (iii) μ ist subadditiv. Ist μ sogar σ-additiv, so ist μ auch σ-subadditiv. (iv) Ist A ein Ring, so gilt f¨ur je abz¨ahlbar viele, paarweise disjunkte Mengen ∞ ∞ ∞ A1 , A2 , . . . ∈ A mit An ∈ A stets μ(An ) ≤ μ An . n=1
n=1
n=1
Beweis. (i) Es ist A ∪ B = A (B \ A) und B = (A ∩ B) (B \ A). Da μ additiv ist, folgt μ(A ∪ B) = μ(A) + μ(B \ A)
μ(B) = μ(A ∩ B) + μ(B \ A).
und
Hieraus folgt sofort (i). (ii) Sei A ⊂ B. Wegen A ∩ B = A folgt μ(B) = μ(A (B \ A)) = μ(A) + μ(B \ A), falls B \ A ∈ A ist,insbesondere also, falls A ein Ring ist. Ist nun A nur ein Semiring, so ist B \ A = ni=1 Ci f¨ur gewisses n ∈ N und disjunkte paarweise n Mengen C1 , . . . , Cn ∈ A. In diesem Fall ist μ(B) = μ(A) + i=1 μ(Ci ) ≥ μ(A), also ist μ monoton. n (iii) Seien n ∈ N und A, A1 , . . . , An ∈ A mit A ⊂ i=1 Ai . Setze B1 = A1 und Bk = A k \
k−1
Ai =
i=1
k−1
(Ak \ (Ak ∩ Ai ))
f¨ur k = 2, . . . , n.
i=1
Per Definition des Semirings ist jedes Ak \ (Ak ∩ Ai ) disjunkte Vereinigung endlich vieler ck Mengen in A, also existiert ein ck ∈ N und Mengen Ck,1 , . . . , Ck,ck ∈ A mit B ⊂ Ak . Analog existieren dk ∈ N und Dk,1 , . . . , Dk,dk ∈ A mit i=1 Ck,i = kk Ak \ Bk = di=1 Dk,i . Da μ additiv ist, gilt μ(Ak ) =
ck
μ(Ck,i ) +
i=1
dk
μ(Dk,i ) ≥
i=1
ck
μ(Ck,i ).
i=1
Wiederum aufgrund von Additivit¨at und Monotonie gilt n c ck n k (Ck,i ∩ A) = μ(Ck,i ∩ A) μ(A) = μ k=1 i=1
≤
ck n k=1 i=1
μ(Ck,i ) ≤
k=1 i=1 n k=1
μ(Ak ).
1.2 Mengenfunktionen
15
Also ist μ subadditiv. Die σ-Subadditivit¨at folgt aus der σ-Additivit¨at in analoger Weise. (iv)
∞
Sei A ein Ring und A =
gilt nach (ii) m
μ(An ) = μ
n=1
Also ist
∞
An ∈ A. Da μ additiv (und damit monoton) ist,
n=1
m
An
≤ μ(A)
f¨ur jedes m ∈ N.
n=1
μ(An ) ≤ μ(A).
2
n=1
Bemerkung 1.32. In (iv) kann strikte Ungleichheit herrschen (siehe etwa Beispiel 1.30(iii)). Mit anderen Worten: Es gibt Inhalte, die keine Pr¨amaße sind. 3 Satz 1.33 (Einschluss- Ausschlussformel). Sei A ein Ring und μ ein Inhalt. Dann gelten f¨ur n ∈ N und A1 , . . . , An ∈ A die Einschluss- Ausschlussformeln μ(A1 ∪ . . . ∪ An ) =
n
μ(A1 ∩ . . . ∩ An ) =
μ(Ai1 ∩ . . . ∩ Aik ),
{i1 ,...,ik }⊂{1,...,n}
k=1 n
(−1)k−1
(−1)k−1
k=1
μ(Ai1 ∪ . . . ∪ Aik ),
{i1 ,...,ik }⊂{1,...,n}
wobei sich die Summen u¨ ber alle k-elementigen Teilmengen von {1, . . . , n} erstrecken. ¨ Beweis. Ubung! Hinweis: Man verwende vollst¨andige Induktion u¨ ber n.
2
Wir wollen die σ-Subadditivit¨at durch eine Stetigkeitseigenschaft charakterisieren (Satz 1.36). Hierzu verabreden wir die folgende Sprechweise und Notation. Definition 1.34. Sind A, A1 , A2 , . . . Mengen, so schreiben wir – An ↑ A, falls A1 ⊂ A2 ⊂ . . . und
∞
An = A, ∞ – An ↓ A, falls A1 ⊃ A2 ⊃ A3 ⊃ . . . und n=1 An = A. n=1
Wir sagen dann, dass (An )n∈N gegen A aufsteigt beziehungsweise absteigt.
16
1 Grundlagen der Maßtheorie
Definition 1.35 (Stetigkeit von Inhalten). Sei μ ein Inhalt auf dem Ring A. (i) μ heißt stetig von unten, falls f¨ur jedes A ∈ A und jede Folge (An )n∈N in A n→∞ mit An ↑ A gilt: μ(An ) −→ μ(A). (ii) μ heißt stetig von oben, falls f¨ur jedes A ∈ A und jede Folge (An )n∈N in A n→∞ mit An ↓ A sowie μ(An ) < ∞ f¨ur jedes n ∈ N gilt: μ(An ) −→ μ(A). (iii) μ heißt ∅-stetig, falls (ii) f¨ur A = ∅ gilt. Bei der Stetigkeit von oben wurde die Endlichkeitsbedingung eingef¨uhrt, weil sogar f¨ur das Z¨ahlmaß μ auf (N, 2N ) und An := {n, n+1, . . .} ↓ ∅ sonst keine Gleichheit gelten kann. Satz 1.36 (Stetigkeit und Pr¨amaß). Sei μ ein Inhalt auf einem Ring A. Betrachte die folgenden f¨unf Eigenschaften. (i) μ ist σ-additiv (also ein Pr¨amaß). (ii) μ ist σ-subadditiv. (iii) μ ist stetig von unten. (iv) μ ist ∅-stetig. (v) μ ist stetig von oben. Dann gelten die Implikationen (i) ⇐⇒ (ii) ⇐⇒ (iii) =⇒ (iv) ⇐⇒ (v). Ist μ endlich, so gilt auch (iv) =⇒ (iii). ∞ Beweis. (i) =⇒ (ii)“ Seien A, A1 , A2 , . . . ∈ A mit A ⊂ i=1 Ai . Setze B1 = ” n−1 ∞ A1 und Bn = An \ i=1 Ai ∈ A f¨ur n = 2, 3, . . . Dann ist A = n=1 (A ∩ Bn ), also wegen der Monotonie von μ und der σ-Additivit¨at von μ μ(A) =
∞
μ(A ∩ Bn ) ≤
n=1
∞
μ(An ).
n=1
Damit ist μ als σ-subadditiv erkannt. (ii) =⇒ (i)“ Dies folgt aus Lemma 1.31(iv). ” (i) =⇒ (iii)“ Sei μ ein Pr¨amaß und A ∈ A sowie (An )n∈N eine Folge in A mit ” An ↑ A sowie A0 = ∅. Dann gilt μ(A) =
∞ i=1
μ(Ai \ Ai−1 ) = lim
n→∞
n i=1
μ(Ai \ Ai−1 ) = lim μ(An ). n→∞
(iii) =⇒ (i)“ Gelte nun (iii). Seien B1 , B2 , . . . ∈ A paarweise disjunkt, und ” ∞ n Bn ∈ A. Setze An = Bi f¨ur jedes n ∈ N. Dann folgt aus (iii) gelte B = n=1
i=1
1.2 Mengenfunktionen
μ(B) = lim μ(An ) = n→∞
∞
17
μ(Bi ).
i=1
Also ist μ σ-additiv und damit ein Pr¨amaß. (iv) =⇒ (v)“ Seien A, A1 , A2 , . . . ∈ A mit An ↓ A und μ(A1 ) < ∞. Setze ” Bn = An \ A ∈ A f¨ur jedes n ∈ N. Dann gilt Bn ↓ ∅. Es gilt also μ(An ) − μ(A) = n→∞ μ(Bn ) −→ 0. (v) =⇒ (iv)“ Dies ist trivial. ” (iii) =⇒ (iv)“ Seien A1 , A2 , . . . ∈ A mit An ↓ ∅ und μ(A1 ) < ∞. Dann gilt ” A1 \ An ∈ A f¨ur jedes n ∈ N und A1 \ An ↑ A1 , also μ(A1 ) = lim μ(A1 \ An ) = μ(A1 ) − lim μ(An ). n→∞
n→∞
Wegen μ(A1 ) < ∞ ist lim μ(An ) = 0. n→∞
(iv) =⇒ (iii)“ (f¨ur den Fall μ endlich) Es gelte nun μ(A) < ∞ f¨ur jedes A ∈ A, ” und μ sei ∅-stetig. Seien A, A1 , A2 , . . . ∈ A mit An ↑ A. Dann gilt A \ An ↓ ∅ und n→∞
μ(A) − μ(An ) = μ(A \ An ) −→ 0. 2
Also gilt (iii). Beispiel 1.37. (Vergleiche Beispiel 1.30(iii).) Sei Ω abz¨ahlbar unendlich und A = {A ⊂ Ω : #A < ∞ oder #Ac < ∞}, 0, falls A endlich, μ(A) = ∞, falls A unendlich. Dann ist μ ein ∅-stetiger Inhalt, aber kein Pr¨amaß.
3
Definition 1.38. (i) Ein Paar (Ω, A), bestehend aus einer nichtleeren Menge Ω und einer σ-Algebra A ⊂ 2Ω , heißt Messraum. Die Mengen A ∈ A heißen messbare Mengen. Ist Ω h¨ochstens abz¨ahlbar und A = 2Ω , so heißt der Messraum (Ω, 2Ω ) diskret. (ii) Ein Tripel (Ω, A, μ) heißt Maßraum, wenn (Ω, A) ein Messraum ist und μ ein Maß auf A. (iii) Ist zudem μ(Ω) = 1, so heißt (Ω, A, μ) ein Wahrscheinlichkeitsraum. In diesem Fall heißen die Mengen A ∈ A auch Ereignisse. (iv) Den Raum aller endlichen Maße auf (Ω, A) bezeichnen wir mit Mf (Ω) := Mf (Ω, A), den der W-Maße mit M1 (Ω) := M1 (Ω, A), schließlich den der σ-endlichen Maße mit Mσ (Ω, A).
18
1 Grundlagen der Maßtheorie
¨ Ubung
1.2.1. Sei A = {(a, b] ∩ Q : a, b ∈ R, a ≤ b}. Definiere μ : A → [0, ∞) durch μ (a, b] ∩ Q = b − a. Man zeige, dass A ein Semiring ist und μ ein unterhalb und oberhalb stetiger Inhalt auf A, der jedoch nicht σ-additiv ist. ♣
1.3 Fortsetzung von Maßen In diesem Abschnitt wollen wir Maße konstruieren, indem wir zun¨achst auf einem einfachen Mengensystem, n¨amlich einem Semiring, plausible Werte f¨ur einen Inhalt angeben und dann, nach M¨oglichkeit, diesen Inhalt zu einem Maß auf der erzeugten σ-Algebra fortsetzen. Bevor wir zu den konkreten Bedingungen kommen, unter denen das machbar ist, bringen wir zwei Beispiele. Beispiel 1.39 (Lebesgue-Maß). Sei n ∈ N und A = {(a, b] : a, b ∈ Rn , a < b} der Semiring der halboffenen Quader (a, b] ⊂ Rn (vergleiche (1.5)). Das n-dimensionale Volumen des Quaders ist μ((a, b]) =
n
(bi − ai ).
i=1
K¨onnen wir μ zu einem (eindeutig bestimmten) Maß auf der Borel’schen σ-Algebra B(Rn ) = σ(A) fortsetzen? Wir werden sehen, dass dies m¨oglich ist. Das resultierende Maß heißt Lebesgue-Maß (manchmal auch Lebesgue-Borel-Maß) λ auf 3 (Rn , B(Rn )). Beispiel 1.40 (Produktmaß, Bernoulli-Maß). Wir wollen ein Wahrscheinlichkeitsmaß konstruieren f¨ur die unendliche, unabh¨angige Wiederholung eines Zufallsexperiments mit endlich vielen m¨oglichen Ausg¨angen. Die Menge der Ausg¨ ange sei E. F¨ur e ∈ E sei pe die Wahrscheinlichkeit, dass e eintritt. Es gilt also e∈E pe = 1. Die Ergebnisse dieser Experimente seien ω1 , ω2 , . . . ∈ E. Der Raum des gesamten Experiments ist daher Ω = E N . Wie in Beispiel 1.11(vi) definieren wir [ω1 , . . . , ωn ] := {ω ∈ Ω : ωi = ωi f¨ur jedes i = 1, . . . , n}
(1.7)
als die Menge aller Folgen, die mit den Werten ω1 , . . . , ωn beginnen. Sei A0 = {∅}. F¨ur n ∈ N definieren wir das Mengensystem der Zylindermengen, die nur von den ersten n Koordinaten abh¨angen, An := {[ω1 , . . . , ωn ] : ω1 , . . . , ωn ∈ E}, und setzen A :=
∞ n=0
An .
(1.8)
1.3 Fortsetzung von Maßen
19
Wir interpretieren [ω1 , . . . , ωn ] als das Ereignis, dass im ersten Experiment der Wert ω1 herauskommt, im zweiten ω2 und schließlich im n-ten Experiment der Wert ωn . Die Ergebnisse der weiteren Experimente spielen f¨ur das Eintreten des Ereignisses keine Rolle. F¨ur ω1 , . . . , ωn ∈ E soll die Wahrscheinlichkeit f¨ur [ω1 , . . . , ωn ] das Produkt der einzelnen Wahrscheinlichkeiten sein (das verstehen wir intuitiv unter Unabh¨angigkeit“) ” n pωi . μ([ω1 , . . . , ωn ]) = i=1
Hierdurch wird ein Inhalt auf A definiert, und unser Ziel ist es, μ in eindeutiger Weise zu einem Wahrscheinlichkeitsmaß auf σ(A) fortzusetzen. Bevor wir dies tun, treffen wir noch die folgenden Definition. Wir definieren eine (Ultra-)Metrik auf Ω durch 2− inf{n∈N: ωn =ωn } , falls ω = ω , (1.9) d(ω, ω ) = 0, falls ω = ω . Dann ist (Ω, d) ein kompakter, metrischer Raum. Offenbar ist [ω1 , . . . , ωn ] = B2−n (ω) = {ω ∈ Ω : d(ω, ω ) < 2−n }. Das Komplement von [ω1 , . . . , ωn ] ist die Vereinigung von (#E)n − 1 offenen Kugeln [ω1 , . . . , ωn ], [ω1 , . . . , ωn ]c = ) =(ω ,...,ω ) (ω1 ,...,ωn 1 n
also offen. Damit ist [ω1 , . . . , ωn ] abgeschlossen und kompakt, weil Ω kompakt ist. ¨ Ahnlich wie in Satz 1.23 kann man zeigen, dass σ(A) = B(Ω, d). ¨ Ubung: Man zeige die obigen Aussagen. 3 Das Hauptergebnis dieses Kapitels ist der Fortsetzungssatz f¨ur Maße, den wir hier in der Form von Carath´eodory formulieren. Satz 1.41 (Carath´eodory). Sei A ⊂ 2Ω ein Ring und μ ein σ-endliches Pr¨amaß auf A. Dann kann μ auf genau eine Weise zu einem Maß μ auf σ(A) fortgesetzt werden, und μ ˜ ist σ-endlich. Den Beweis dieses Satzes m¨ussen wir mit einigen Lemmata vorbereiten. Wir zeigen dann in Satz 1.53 eine etwas st¨arkere Aussage. Dort wird auch die griffige Formulierung kann fortgesetzt werden“ pr¨azisiert. ” Lemma 1.42 (Eindeutigkeit durch schnittstabilen Erzeuger). Sei (Ω, A, μ) ein σ-endlicher Maßraum und E ⊂ A ein schnittstabiler Erzeuger von A. Es gebe E1 , E2 , . . . ∈ E mit En ↑ Ω und μ(En ) < ∞ f¨ur jedes n ∈ N. Dann ist μ durch die Werte μ(E), E ∈ E, eindeutig festgelegt. Ist μ ein W-Maß, so gilt die Folgerung auch ohne die Existenz der Folge (En )n∈N .
20
1 Grundlagen der Maßtheorie
Beweis. Sei ν ein weiteres σ-endliches Maß auf (Ω, A) mit der Eigenschaft μ(E) = ν(E)
f¨ur jedes E ∈ E.
Sei E ∈ E mit μ(E) < ∞. Betrachte das Mengensystem DE = {A ∈ A : μ(A ∩ E) = ν(A ∩ E)}. Um zu zeigen, dass DE ein Dynkin-System ist, pr¨ufen wir die Eigenschaften aus Definition 1.10: (i) Offensichtlich ist Ω ∈ DE . (ii) Seien A, B ∈ DE mit A ⊃ B. Dann ist μ ((A \ B) ∩ E) = μ(A ∩ E) − μ(B ∩ E) = ν(A ∩ E) − ν(B ∩ E) = ν ((A \ B) ∩ E) . Also ist A \ B ∈ DE . (iii) Seien A1 , A2 , . . . ∈ DE paarweise disjunkt sowie A =
∞
An . Dann ist
n=1
μ(A ∩ E) =
∞ n=1
μ(An ∩ E) =
∞
ν(An ∩ E) = ν(A ∩ E),
n=1
also A ∈ DE . Offenbar ist E ⊂ DE , also δ(E) ⊂ DE . Da E schnittstabil ist, ist nach Satz 1.19 A ⊃ DE ⊃ δ(E) = σ(E) = A. Also ist DE = A. F¨ur jedes A ∈ A und E ∈ E mit μ(E) < ∞ gilt also μ(A ∩ E) = ν(A ∩ E). Seien nun E1 , E2 , . . . ∈ E mit En ↑ Ω und μ(En ) < ∞ f¨ur jedes n ∈ N. Da μ und ν von unten stetig sind, gilt f¨ur A ∈ A μ(A) = lim μ(A ∩ En ) = lim ν(A ∩ En ) = ν(A). n→∞
n→∞
Der Zusatz ist trivial, denn E˜ := E ∪ {Ω} ist ebenfalls ein schnittstabiler Erzeuger von A, und der Wert μ(Ω) = 1 ist bekannt. Es kann also die konstante Folge En = Ω, n ∈ N, gew¨ahlt werden. Man beachte jedoch, dass es nicht reicht zu fordern, dass μ endlich ist, weil dann im Allgemeinen die Gesamtmasse μ(Ω) nicht eindeutig festgelegt ist (siehe Beispiel 1.45(ii)). 2
1.3 Fortsetzung von Maßen
21
Beispiel 1.43. Sei Ω = Z und E = En : n ∈ Z , wobei En = (−∞, n] ∩ Z. E ist schnittstabil und σ(E) = 2Ω . Also ist ein endliches Maß μ auf (Ω, 2Ω ) eindeutig festgelegt durch die Werte μ(En ), n ∈ Z. Ein σ-endliches Maß auf Z ist jedoch durch die Werte auf E noch nicht eindeutig bestimmt: Sei μ das Z¨ahlmaß auf Z und ν = 2μ. Dann ist μ(E) = ∞ = ν(E) f¨ur jedes E ∈ E. Um μ und ν zu unterscheiden, brauchen wir also einen Erzeuger, der Mengen endlichen Maßes (f¨ur μ) enth¨alt. Tun es die Mengen F˜n = [−n, n] ∩ Z, n ∈ N? In der Tat ist f¨ur jedes σ-endliche Maß μ jetzt μ(F˜n ) < ∞ f¨ur jedes n ∈ N. Allerdings erzeugen die F˜n nicht 2Ω (sondern welche σ-Algebra?). Wir k¨onnen aber die Definition so modifizieren: Fn = [−n/2, (n + 1)/2] ∩ Z. Dann ist σ({Fn , n ∈ N}) = 2Ω , also E = {Fn , n ∈ N} ein schnittstabiler Erzeuger von 2Ω und μ(Fn ) < ∞ f¨ur jedes n ∈ N. Wegen Fn ↑ Ω sind die Bedingungen des Satzes erf¨ullt. 3 Beispiel 1.44 (Verteilungsfunktion). Ein W-Maß μ auf dem Raum (Rn , B(Rn )) ist n durch Angabe der Werte μ((−∞, b]) auf den Mengen (−∞, b] = ×i=1 (−∞, bi ], b ∈ Rn , eindeutig festgelegt, da diese Mengen einen schnittstabilen Erzeuger bilden (Satz 1.23). Speziell ist ein W-Maß μ auf R durch Angabe der Verteilungsfunktion F : R → [0, 1], x → μ((−∞, x]) eindeutig bestimmt. 3
Beispiel 1.45. (i) Sei Ω = {1, 2, 3, 4} und E = { 1, 2}, {2, 3} . Offenbar gilt σ(E) = 2Ω , jedoch ist E nicht schnittstabil. Tats¨achlich ist hier ein W-Maß μ durch Angabe der Werte μ({1, 2}) = μ({2, 3}) = 12 nicht eindeutig festgelegt. Es gibt beispielsweise die M¨oglichkeiten μ = 12 δ1 + 12 δ3 oder μ = 12 δ2 + 12 δ4 . (ii) Sei Ω = {1, 2} und E = {{1}}. Dann ist E ein schnittstabiler Erzeuger von 2Ω , und ein W-Maß μ ist durch Angabe von μ({1}) eindeutig festgelegt. Allerdings gilt dies nicht f¨ur endliche Maße im Allgemeinen, denn μ = 0 und ν = δ2 sind zwei endliche Maße, die auf E u¨ bereinstimmen. 3 ¨ Definition 1.46 (Außeres Maß). Eine Mengenfunktion μ∗ : 2Ω → [0, ∞] heißt a¨ ußeres Maß, falls gilt: (i) μ∗ (∅) = 0, (ii) μ∗ ist monoton, (iii) μ∗ ist σ-subadditiv. Lemma 1.47. Sei A ⊂ 2Ω ein beliebiges Mengensystem mit ∅ ∈ A und μ eine monotone Mengenfunktion auf A mit μ(∅) = 0. F¨ur A ⊂ Ω sei F U(A) = F ⊂ A : F ist h¨ochstens abz¨ahlbar und A ⊂ F ∈F
¨ die Menge der abz¨ahlbaren Uberdeckungen F von A mit Mengen F aus A. Setze
22
1 Grundlagen der Maßtheorie
∗
μ (A) := inf
μ(F ) : F ∈ U(A) ,
F ∈F
wobei inf ∅ = ∞. Dann ist μ∗ ein a¨ ußeres Maß. Ist μ zudem σ-subadditiv, so gilt μ∗ (A) = μ(A) f¨ur jedes A ∈ A. Beweis. Wir weisen die Eigenschaften (i)–(iii) des a¨ ußeren Maßes nach. (i) Wegen ∅ ∈ A ist {∅} ∈ U(∅), also ist μ∗ (∅) = 0. (ii) Ist A ⊂ B, so ist U(A) ⊃ U(B), also ist μ∗ (A) ≤ μ∗ (B). ∞ f¨ur jedes n ∈ N und A ⊂ n=1 An . Wir m¨ussen zeigen, dass (iii) Sei An ⊂ Ω ∞ ∗ μ∗ (A) ≤ ankung sei μ∗ (An ) < ∞ und dan=1 μ (An ). Ohne Einschr¨ mit U(An ) = ∅ f¨ur jedes n ∈ N. W¨ahle ε > 0 und zu jedem n ∈ N eine ¨ Uberdeckung Fn ∈ U(An ) mit μ(F ) ≤ μ∗ (An ) + ε 2−n . F ∈Fn
Dann ist F :=
∞
μ∗ (A) ≤
n=1
Fn ∈ U(A) und
F ∈F
μ(F ) ≤
∞
μ(F ) ≤
n=1 F ∈Fn
∞
μ∗ (An ) + ε.
n=1
∗ Sei A ∈ A. Wegen {A} so gilt f¨ur ∈ U(A) ist μ (A) ≤ μ(A). Ist μ σ-subadditiv, 2 jedes F ∈ U(A), dass F ∈F μ(F ) ≥ μ(A) ist, also auch μ∗ (A) ≥ μ(A).
Definition 1.48 (μ∗ -messbare Mengen). Sei μ∗ ein a¨ ußeres Maß. Eine Menge A ∈ 2Ω heißt μ∗ -messbar, falls μ∗ (A ∩ E) + μ∗ (Ac ∩ E) = μ∗ (E)
f¨ur jedes E ∈ 2Ω .
(1.10)
Wir schreiben M(μ∗ ) = {A ∈ 2Ω : A ist μ∗ -messbar}. Lemma 1.49. Es ist A ∈ M(μ∗ ) genau dann, wenn μ∗ (A ∩ E) + μ∗ (Ac ∩ E) ≤ μ∗ (E)
f¨ur jedes E ∈ 2Ω .
Beweis. Da μ∗ subadditiv ist, gilt stets die andere Ungleichung. Lemma 1.50. M(μ∗ ) ist eine Algebra. Beweis. Wir pr¨ufen die Eigenschaften (i)–(iii) der Algebra aus Satz 1.7. (i) Ω ∈ M(μ∗ ) ist klar.
2
1.3 Fortsetzung von Maßen
(ii) (Komplementstabilit¨at)
23
Per Definition ist A ∈ M(μ∗ ) ⇐⇒ Ac ∈ M(μ∗ ).
(iii) (Schnittstabilit¨at) Seien A, B ∈ M(μ∗ ) und E ∈ 2Ω . Dann ist μ∗ ((A ∩ B) ∩ E) + μ∗ ((A ∩ B)c ∩ E)
= μ∗ (A ∩ B ∩ E) + μ∗ (Ac ∩ B ∩ E) ∪ (Ac ∩ B c ∩ E) ∪ (A ∩ B c ∩ E) ≤ μ∗ (A ∩ B ∩ E) + μ∗ (Ac ∩ B ∩ E) + μ∗ (Ac ∩ B c ∩ E) + μ∗ (A ∩ B c ∩ E) = μ∗ (B ∩ E) + μ∗ (B c ∩ E) = μ∗ (E). Dabei haben wir in der vorletzten Gleichung A ∈ M(μ∗ ) benutzt und in der letzten 2 B ∈ M(μ∗ ). Lemma 1.51. Ein a¨ ußeres Maß μ∗ ist σ-additiv auf M(μ∗ ). Beweis. Seien A, B ∈ M(μ∗ ) mit A ∩ B = ∅. Dann ist μ∗ (A ∪ B) = μ∗ (A ∩ (A ∪ B)) + μ∗ (Ac ∩ (A ∪ B)) = μ∗ (A) + μ∗ (B). Induktiv folgt die (endliche) Additivit¨at. Da μ∗ per Definition σ-subadditiv ist, folgt nach Satz 1.36, dass μ∗ auch σ-additiv ist. 2 Lemma 1.52. Ist μ∗ ein a¨ ußeres Maß, so ist M(μ∗ ) eine σ-Algebra. Speziell ist μ∗ ein Maß auf M(μ∗ ). Beweis. Nach Lemma 1.50 ist M(μ∗ ) eine Algebra, also insbesondere schnittstabil. Nach Satz 1.18 reicht es zu zeigen, dass M(μ∗ ) ein Dynkin-System ist. ∞ An . Zu zeigen Seien also A1 , A2 , . . . ∈ M(μ∗ ) paarweise disjunkt und A := n=1
ist A ∈ M(μ∗ ), also μ∗ (A ∩ E) + μ∗ (Ac ∩ E) ≤ μ∗ (E) Setze Bn =
n
f¨ur jedes E ∈ 2Ω .
(1.11)
Ai f¨ur jedes n ∈ N. Es gilt f¨ur jedes n ∈ N
i=1
μ∗ (E ∩ Bn+1 ) = μ∗ (E ∩ Bn+1 ) ∩ Bn + μ∗ (E ∩ Bn+1 ) ∩ Bnc = μ∗ (E ∩ Bn ) + μ∗ (E ∩ An+1 ), und induktiv μ∗ (E ∩ Bn ) = ni=1 μ∗ (E ∩ Ai ). Wegen der Monotonie von μ∗ folgt μ∗ (E) = μ∗ (E ∩ Bn ) + μ∗ (E ∩ Bnc ) ≥ μ∗ (E ∩ Bn ) + μ∗ (E ∩ Ac ) =
n i=1
μ∗ (E ∩ Ai ) + μ∗ (E ∩ Ac ).
24
1 Grundlagen der Maßtheorie
Indem wir n → ∞ gehen lassen, folgt mit der σ-Subadditivit¨at von μ∗ μ∗ (E) ≥
∞
μ∗ (E ∩ Ai ) + μ∗ (E ∩ Ac ) ≥ μ∗ (E ∩ A) + μ∗ (E ∩ Ac ).
i=1
2
Also gilt (1.11), und der Beweis ist komplett.
Wir zeigen nun einen Satz, der mit schw¨acheren Voraussetzungen auskommt als der Satz von Carath´eodory (Satz 1.41) und diesen impliziert. ¨ Maße). Sei A ein Semiring und μ : A → [0, ∞] Satz 1.53 (Fortsetzungssatz fur eine additive, σ-subadditive, σ-endliche Mengenfunktion mit μ(∅) = 0. Dann existiert ein eindeutig bestimmtes, σ-endliches Maß μ : σ(A) → [0, ∞] mit μ (A) = μ(A) f¨ur jedes A ∈ A. Beweis. Da A schnittstabil ist, folgt die Eindeutigkeit aus Lemma 1.42. Um die Existenz zu zeigen, definieren wir wie in Lemma 1.47 ∗ μ (A) := inf μ(F ) : F ∈ U(A) f¨ur jedes A ∈ 2Ω . F ∈F
Nach Lemma 1.31(ii) ist μ monoton, also ist μ∗ nach Lemma 1.47 ein a¨ ußeres Maß und μ∗ (A) = μ(A) f¨ur jedes A ∈ A. Wir m¨ussen zeigen, dass M(μ∗ ) ⊃ σ(A) gilt. Da M(μ∗ ) eine σ-Algebra ist (Lemma 1.52), reicht es, A ⊂ M(μ∗ ) zu zeigen. Seien also A ∈ A und E ∈ 2Ω mit μ∗ (E) < ∞. Sei ε > 0. Dann gibt es E1 , E2 , . . . ∈ A mit E⊂
∞
En
und
n=1
∞
μ(En ) ≤ μ∗ (E) + ε.
n=1
Setze Bn := En ∩ A ∈ A . Da A ein Semiring ist, gibt es zu jedem n ∈ N ein m n k Cn . Also ist mn ∈ N sowie Cn1 , . . . , Cnmn ∈ A mit En \ A = En \ Bn = k=1
E∩A⊂
∞ n=1
Bn ,
E ∩ Ac ⊂
∞ m n n=1 k=1
Cnk
und
E n = Bn
m n
Cnk .
k=1
μ∗ ist σ-subadditiv, und nach Voraussetzung ist μ additiv. Wegen μ∗ ≤ μ (es gilt A sogar Gleichheit, wie wir gleich sehen) folgt
1.3 Fortsetzung von Maßen ∗
∗
∞
μ (E ∩ A) + μ (E ∩ A ) ≤ c
∗
μ (Bn ) +
n=1 ∞
≤
=
μ(Bn ) +
∞
25
μ(Cnk )
k=1
mn ∞
μ(Cnk )
n=1 k=1
μ(Bn ) +
n=1
=
μ∗
n=1
n=1 ∞
∞
m n
mn
μ(Cnk )
k=1
μ(En ) ≤ μ∗ (E) + ε.
n=1
Daher ist μ∗ (E ∩ A) + μ∗ (E ∩ Ac ) ≤ μ∗ (E) und damit A ∈ M(μ∗ ), also ist A ⊂ M(μ∗ ). Setze nun μ : σ(A) → [0, ∞], A → μ∗ (A). Nach Lemma 1.51 ist μ ein Maß und μ ist σ-endlich, weil μ σ-endlich ist. 2 Beispiel 1.54 (Lebesgue-Maß, Fortsetzung von Beispiel 1.39). Wir wollen das auf n μ((a, b]) = den n Quadern A = {(a, b] : a, b ∈ R , a < b} eingef¨uhrte Volumen n (b − a ) zu einem Maß auf der Borel’schen σ-Algebra B(R ) fortsetzen. Um i i i=1 die Voraussetzungen von Satz 1.53 zu pr¨ufen, m¨ussen wir nur noch zeigen, dass μ σ-subadditiv ist. Seien also (a, b], (a(1), b(1)], (a(2), b(2)], . . . ∈ A mit ∞
(a, b] ⊂
(a(k), b(k)].
k=1
Wir m¨ussen zeigen, dass μ((a, b]) ≤
∞
μ((a(k), b(k)]).
(1.12)
k=1
Hierzu benutzen wir ein Kompaktheitsargument, um (1.12) auf die endliche Additivit¨at zur¨uck zu f¨uhren. Sei also ε > 0, und sei f¨ur jedes k ∈ N ein bε (k) > b(k) so gew¨ahlt, dass μ((a(k), bε (k)]) ≤ μ((a(k), b(k)]) + ε 2−k−1 . Ferner sei aε ∈ (a, b) so gew¨ahlt, dass μ((aε , b]) ≥ μ((a, b]) − 2ε . Nun ist [aε , b] kompakt und ∞ k=1
(a(k), bε (k)) ⊃
∞
(a(k), b(k)] ⊃ (a, b] ⊃ [aε , b].
k=1
0 Also existiert ein K0 mit K k=1 (a(k), bε (k)) ⊃ (aε , b]. Da μ (endlich) subadditiv ist (Lemma 1.31(iii)), folgt
26
1 Grundlagen der Maßtheorie 0 ε ε + μ((aε , b]) ≤ + μ((a(k), bε (k)]) 2 2
K
μ((a, b]) ≤
k=1
K0 ∞
−k−1 ε ε2 ≤ + + μ((a(k), b(k)]) ≤ ε + μ((a(k), b(k)]). 2 k=1
k=1
Da ε > 0 beliebig war, folgt (1.12) und damit die σ-Subadditivit¨at von μ.
3
Zusammen mit Satz 1.53 haben wir den folgenden Satz gezeigt. Satz 1.55 (Lebesgue-Maß). Es existiert ein eindeutig bestimmtes Maß λn auf (Rn , B(Rn )) mit der Eigenschaft λn ((a, b]) =
n
(bi − ai )
f¨ur alle a, b ∈ Rn mit a < b.
i=1
λn heißt Lebesgue-Maß auf (Rn , B(Rn )), oder Lebesgue-Borel-Maß. Beispiel 1.56 (Lebesgue-Stieltjes-Maß). Sei Ω = R und A = {(a, b] : a, b ∈ R, a ≤ b}. A ist ein Semiring und σ(A) = B(R), wo B(R) die Borel’sche σAlgebra auf R ist. Ferner sei F : R → R monoton wachsend und rechtsseitig stetig. Wir definieren eine Mengenfunktion μ ˜F : A → [0, ∞),
(a, b] → F (b) − F (a).
˜ F ist additiv. Offensichtlich ist μ ˜F (∅) = 0, und μ
Seien (a, b], (a(1), b(1)], (a(2), b(2)], . . . ∈ A mit (a, b] ⊂ ∞ n=1 (a(n), b(n)]. Sei ε > 0, und sei aε ∈ (a, b) so gew¨ahlt, dass F (aε ) − F (a) < ε/2. Dies geht, weil F als rechtsstetig angenommen wurde. Ferner sei f¨ur jedes k ∈ N ein bε (k) > b(k) so gew¨ahlt, dass F (bε (k)) − F (b(k))< ε 2−k−1 . Wie in Beispiel 1.54 kann man jetzt zeigen, dass μ ˜F ((a, b]) ≤ ε + ∞ ˜F ((a(k), b(k)]). Es folgt, dass μ ˜F σk=1 μ subadditiv ist. Nach Satz 1.53 k¨onnen wir μ ˜F auf eindeutige Weise zu einem σ3 endlichen Maß μF auf B(R) fortsetzen. Definition 1.57 (Lebesgue-Stieltjes-Maß). Das Maß μF auf (R, B(R)) mit μF ((a, b]) = F (b) − F (a)
f¨ur alle a, b ∈ R mit a < b
heißt Lebesgue-Stieltjes-Maß zur Funktion F . Beispiel 1.58. Wichtige Spezialf¨alle f¨ur das Lebesgue-Stieltjes-Maß sind: (i) Ist F (x) = x, so ist μF = λ1 das Lebesgue-Maß auf R. x (ii) Sei f : R → [0, ∞) stetig und F (x) = f (t) dt f¨ur x ∈ R. Dann ist μF 0
die Fortsetzung des in Beispiel 1.30(ix) definierten Pr¨amaßes mit Dichte f .
1.3 Fortsetzung von Maßen
27
∞ (iii) Sind x1 , x2 , . . . ∈ R und αn ≥ 0 f¨ur n ∈ N mit n=1 αn < ∞, so geh¨ort zu ∞ F = n=1 αn ½[xn ,∞) das endliche Maß μF = ∞ n=1 αn δxn . ∞ (iv) Sind x1 , x2 , . . . ∈ R, so ist μ = n=1 δxn ein σ-endliches Maß. μ ist genau dann ein Lebesgue-Stieltjes-Maß, wenn die Folge (xn )n∈N keinen H¨aufungspunkt hat. Hat n¨amlich (xn )n∈N keinen H¨aufungspunkt, so ist nach dem Satz von BolzanoWeierstraß #{n ∈ N : xn ∈ [−K, K]} < ∞ f¨ur jedes K > 0. Setzen wir F (x) = #{n ∈ N : xn ∈ [0, x]} f¨ur x ≥ 0 und F (x) = −#{n ∈ N : xn ∈ [x, 0)}, so ist μ = μF . Ist nun andererseits μ ein Lebesgue-Stieltjes-Maß, also μ = μF f¨ur ein F , dann ist #{n ∈ N : xn ∈ (−K, K]} = F (K) − F (−K) < ∞ f¨ur jedes K > 0, also hat (xn )n∈N keinen H¨aufungspunkt.
3 (v) Gilt lim F (x) − F (−x) = 1, so ist μF ein W-Maß. x→∞
Den Fall, wo μF ein W-Maß ist, wollen wir noch weiter untersuchen. Definition 1.59 (Verteilungsfunktion). Eine rechtsseitig stetige, monoton wachsende Funktion F : R → [0, 1] mit F (−∞) := lim F (x) = 0 und F (∞) := x→−∞
lim F (x) = 1 heißt Verteilungsfunktion. Gilt statt F (∞) = 1 lediglich F (∞) ≤ x→∞ 1, so heißt F uneigentliche Verteilungsfunktion. Ist μ ein (Sub-)W-Maß auf (R, B(R)), so heißt Fμ : x → μ((−∞, x]) die Verteilungsfunktion von μ. Offenbar ist Fμ rechtsseitig stetig und F (−∞) = 0, weil μ stetig von oben und endlich ist (Satz 1.36). Auf Grund der Stetigkeit von unten ist F (∞) = μ(R), also ist Fμ tats¨achlich eine (uneigentliche) Verteilungsfunktion, wenn μ ein (Sub-)WMaß ist. Die Argumentation aus Beispiel 1.56 liefert nun den folgenden Satz. Satz 1.60. Die Abbildung μ → Fμ ist eine Bijektion von der Menge der W-Maße auf (R, B(R)) auf die Menge der Verteilungsfunktionen, beziehungsweise von der Menge der Sub-W-Maße auf die der uneigentlichen Verteilungsfunktionen. Wir sehen also, dass jedes endliche Maß auf (R, B(R)) ein Lebesgue-Stieltjes-Maß f¨ur eine gewisse Funktion F ist. F¨ur σ-endliche Maße ist dies im Allgemeinen falsch, wie wir in Beispiel 1.58(iv) gesehen haben. Wir kommen nun zu einem Satz, der Satz 1.55 mit dem Lebesgue-Stieltjes-Maß kombiniert. Sp¨ater werden wir sehen, dass dieser Satz in gr¨oßerer Allgemeinheit g¨ultig ist. Speziell kann man auf die Bedingung verzichten, dass die einzelnen Faktoren vom Lebesgue-Stieltjes-Typ sind.
28
1 Grundlagen der Maßtheorie
Satz 1.61 (Endliche Produkte von Maßen). Sei n ∈ N, und seien μ1 , . . . , μn endliche Maße oder, allgemeiner, Lebesgue-Stieltjes-Maße auf (R, B(R)). Dann existiert ein eindeutig bestimmtes, σ-endliches Maß μ auf (Rn , B(Rn )) mit μ((a, b]) =
n
μi ((ai , bi ])
f¨ur alle a, b ∈ Rn mit a < b.
i=1 n
Wir nennen μ =:
μi das Produktmaß zu den Maßen μ1 , . . . , μn . i=1
Beweis. Dies geht v¨ollig analog zum Beweis von Satz 1.55. Man muss sich vergewissern, dass die Intervalle (a, bε ] und so weiter, so gew¨ahlt werden k¨onnen, dass μ((a, bε ]) < μ((a, b]) + ε. Hierzu wird die Rechtsstetigkeit der zu den μi geh¨origen ¨ 2 wachsenden Funktion Fi verwendet. Wir u¨ berlassen die Details zur Ubung. Bemerkung 1.62. Wir werden sp¨ater in Satz 14.14 sehen, dass die Aussage auch f¨ur beliebige σ-endliche Maße μ1 , . . . , μn auf beliebigen (auch unterschiedlichen) Messr¨aumen gilt. Wir k¨onnen auch unendliche (sogar u¨ berabz¨ahlbare) Produkte betrachten, wenn wir voraussetzen, dass alle Faktoren Wahrscheinlichkeitsr¨aume sind (Satz 14.36). 3 Beispiel 1.63 (Unendliches Produktmaß, Fortsetzung von Beispiel 1.40). Sei E eine endliche Menge und Ω = E N der Raum der Folgen mit Werten in E. Ferner sei (pe )e∈E ein Wahrscheinlichkeitsvektor. Der auf A = {[ω1 , . . . , ωn ] : ω1 , . . . , ωn ∈ E, n ∈ N} definierte Inhalt μ([ω1 , . . . , ωn ]) =
n
pωi
i=1
soll nun zu einem Maß auf σ(A) fortgesetzt werden. Um die Voraussetzungen von Satz 1.53 zu pr¨ufen, m¨ussen wir zeigen, dass μ σ-subadditiv ist. Wie im vorangehenden Beispiel geht dies mit Hilfe eines Kompaktheitsarguments. ∞ Seien also A, A1 , A2 , . . . ∈ A und A ⊂ n=1 An . Es reicht zu zeigen, dass es ein N ∈ N gibt mit der Eigenschaft A⊂
N
An .
(1.13)
n=1
Dann ist n¨amlich aufgrund der endlichen Subadditivit¨at von μ (Lemma 1.31(iii)) N ∞ μ(An ) ≤ μ(An ), also ist μ σ-subadditiv. schon μ(A) ≤ n=1
n=1
Wir geben nun zwei Beweise f¨ur (1.13) an.
1.3 Fortsetzung von Maßen
29
1. Beweis. Wie in Beispiel 1.40 angemerkt, ist Ω mit der von der Metrik d in (1.9) erzeugten Produkttopologie kompakt, und jedes A ∈ A ist abgeschlossen und damit auch kompakt. Da jedes der An zugleich offen ist, gibt es eine endliche Teil¨uberdeckung von A, mithin gilt (1.13). 2. Beweis. Wir zeigen nun auf elementare Weise die G¨ultigkeit von (1.13). Das Vorgehen imitiert den Beweis daf¨ur, dass Ω kompakt ist. Wir setzen Bn := A \ ni=1 Ai , nehmen an, dass Bn = ∅ f¨ur jedes n ∈ N und f¨uhren dies zum Widerspruch. Nach dem Dirichlet’schen Schubfachprinzip (E ist endlich) k¨onnen wir ein ω1 ∈ E ausw¨ahlen, sodass [ω1 ] ∩ Bn = ∅ f¨ur unendlich viele n ∈ N. Wegen B1 ⊃ B2 ⊃ . . . folgt [ω1 ] ∩ Bn = ∅
f¨ur jedes n ∈ N.
W¨ahle nun sukzessive ω2 , ω3 , . . . ∈ E so aus, dass [ω1 , . . . , ωk ] ∩ Bn = ∅
f¨ur alle k, n ∈ N.
Bn ist disjunkte Vereinigung von gewissen Mengen Cn,1 , . . . , Cn,mn ∈ A. Daher existiert zu jedem n ∈ N ein in ∈ {1, . . . , mn } mit [ω1 , . . . , ωk ] ∩ Cn,in = ∅ f¨ur unendlich viele k ∈ N. Wegen [ω1 ] ⊃ [ω1 , ω2 ] ⊃ . . . folgt [ω1 , . . . , ωk ] ∩ Cn,in = ∅
f¨ur alle k, n ∈ N.
F¨ur festes n ∈ N und großes k ist [ω1 , . . . , ωk ] ⊂ Cn,in , also ist ω = (ω1 , ω2 , . . .) ∈ ∞ Cn,in ⊂ Bn . Es folgt im Widerspruch zur Annahme, dass n=1 Bn = ∅. 3 Zusammen mit Satz 1.53 haben wir den folgenden Satz gezeigt. Satz 1.64 (Produktmaß, Bernoulli-Maß). Sei E eine endliche, nichtleere Menge und Ω = E N sowie (pe )e∈E ein Wahrscheinlichkeitsvektor. Dann gibt es ein eindeutig bestimmtes W-Maß μ auf σ(A) = B(Ω) mit μ([ω1 , . . . , ωn ]) =
n
pωi
f¨ur alle ω1 , . . . , ωn ∈ E und n ∈ N.
i=1
Wir nennen μ das Produktmaß oder Bernoulli-Maß auf Ω mit Gewichten (pe )e∈E . ⊗N
Wir schreiben auch := μ. e∈E pe δe E ⊗N Ferner nennen wir (2 ) := σ(A) die Produkt-σ-Algebra auf Ω. Auf Produktmaße gehen wir systematisch noch einmal in Kapitel 14 ein. Der Fortsetzungssatz liefert uns einen abstrakten Existenz- und Eindeutigkeitssatz f¨ur Maße, die wir zuvor nur auf einem Semiring A definiert hatten. Der folgende Satz zeigt, wie gut wir das Maß von σ(A)-messbaren Mengen durch endliche, beziehungsweise abz¨ahlbare Operationen mit Mengen aus A ann¨ahern k¨onnen.
30
1 Grundlagen der Maßtheorie
Wir schreiben A B := (A \ B) ∪ (B \ A),
f¨ur A, B ⊂ Ω,
(1.14)
f¨ur die symmetrische Differenz zweier Mengen A und B. ¨ Maße). Sei A ⊂ 2Ω ein Semiring und μ ein Satz 1.65 (Approximationssatz fur Maß auf σ(A), das σ-endlich auf A ist. (i) Zu A ∈ σ(A) und ε > 0gibt es paarweise disjunkte Mengen A1 , A2 , . . . ∈ A ∞ ∞ An und μ An \ A < ε. mit A ⊂ n=1
n=1
(ii) Zu A ∈ σ(A) mit μ(A) < ∞ und ε > 0 gibt es n ∈ N und paarweise n Ak < ε. disjunkte Mengen A1 , . . . , An ∈ A mit μ A k=1 ∗
(iii) Zu jedem A ∈ M(μ ) gibt es A− , A+ ∈ σ(A) mit A− ⊂ A ⊂ A+ und μ(A+ \ A− ) = 0. Bemerkung 1.66. Nach (iii) gelten (i) und (ii) auch f¨ur A ∈ M(μ∗ ) (mit μ∗ statt μ). Ist A eine Algebra, so gilt in (ii) f¨ur jedes A ∈ σ(A) sogar inf μ(A B) = 0. B∈A 3 Beweis. (ii) Da μ auf σ(A) mit dem a¨ ußeren Maß μ∗ u¨ bereinstimmt und μ(A) ¨ endlich ist, gibt es nach Definition von μ∗ (siehe Lemma 1.47) eine Uberdeckung B1 , B2 , . . . ∈ A von A mit μ(A) ≥
∞
μ(Bi ) − ε/2.
i=1
Sei n ∈ N mit
∞
μ(Bi ) <
i=n+1
ε 2
(dies existiert, weil μ(A) < ∞). F¨ur je drei
Mengen C, D, E gilt
C D = (D \ C) ∪ (C \ D) ⊂ (D \ C) ∪ (C \ (D ∪ E)) ∪ E ⊂ (C (D ∪ E)) ∪ E. n ∞ Mit C = A, D = i=1 Bi und E = i=n+1 Bi erhalten wir ∞ n ∞ Bi ≤ μ A Bi + μ Bi μ A i=1
i=1
≤μ
∞ i=1
i=n+1
Bi
− μ(A) +
ε ≤ ε. 2
1.3 Fortsetzung von Maßen
Schreibe nun
n
B i = B1
i=1
n i−1
(Bi \ Bj ) =:
i=2 j=1
k
31
Ai
i=1
f¨ur ein gewisses k ∈ N und gewisse A1 , . . . , Ak ∈ A (Semiring-Eigenschaft). (i) Sei A ∈ σ(A) und En ↑ Ω, En ∈ σ(A) mit μ(En ) < ∞ f¨ur jedes n ∈ N. ¨ W¨ahle zu n ∈ N eine Uberdeckung (Bn,m )m∈N von A ∩ En mit ∞
μ(A ∩ En ) ≥
μ(Bn,m ) − 2−n ε.
m=1
(Dies ist m¨oglich nach Definition des a¨ ußeren Maßes μ∗ , das auf A mit μ u¨ ber∞ ∞ Bn,m = An f¨ur gewisse An ∈ A, n ∈ N einstimmt.) Schreibe m,n=1
n=1
¨ (Ubung 1.1.1). Dann ist ∞ ∞ ∞ μ An \ A = μ Bn,m \ A n=1
n=1 m=1
≤μ
∞ ∞
Bn,m \ (A ∩ En )
n=1 m=1
≤
∞
n=1
∞
μ(Bn,m )
− μ(A ∩ En )
≤ ε.
m=1
(iii) Sei A ∈ M(μ∗ ) und (En )n∈N wie oben. W¨ahle zu m, n ∈ N ein An,m ∈ −n σ(A) mit An,m ⊃ A ∩ En und μ∗ (An,m ) ≤ μ∗ (A ∩ En ) + 2m . ∞ 1 An,m ∈ σ(A). Dann ist Am ⊃ A und μ∗ (Am \ A) ≤ m . Setze Setze Am := A+ :=
∞
n=1
Am . Dann ist σ(A) A+ ⊃ A und μ∗ (A+ \ A) = 0. W¨ahle analog
m=1
(A− )c ∈ σ(A) mit (A− )c ⊃ Ac und μ∗ ((A− )c \ Ac ) = 0. Dann ist A+ ⊃ A ⊃ A− und μ(A+ \ A− ) = μ∗ (A+ \ A− ) = μ∗ (A+ \ A) + μ∗ (A \ A− ) = 0. 2 Bemerkung 1.67 (Regularit¨at von Maßen). (Vergleiche auch Satz 13.6 auf Seite 248.) Sei λn das Lebesgue-Maß auf (Rn , B(Rn )). Sei A der Semiring der Quader der Form (a, b]) ⊂ Rn . Nach Satz 1.23 ist B(Rn ) = σ(A). Nach dem Approximationssatz gibt es zu A ∈ B(Rn ) und ε > 0 abz¨ahlbar viele A1 , A2 , . . . ∈ A mit ∞ n Ai \ A < ε/2. λ i=1
32
1 Grundlagen der Maßtheorie
Zu jedem Ai existiert ein offener Quader Bi ⊃ Ai mit λn (Bi \ Ai ) < ε 2−i−1 ∞ n (Stetigkeit von oben von λ ). Daher ist U = i=1 Bi eine offene Menge U ⊃ A mit λn (U \ A) < ε. Diese Eigenschaft von λn heißt Regularit¨at von außen. Ist λn (A) endlich, so gibt es zu ε > 0 eine kompakte Menge K ⊂ A mit λn (A \ K) < ε. Diese Eigenschaft von λn heißt Regularit¨at von innen. In der Tat: Sei N > 0 mit λn (A)−λn (A∩[−N, N ]n ) < ε/2. W¨ahle eine offene Menge U ⊃ (A∩[−N, N ]n )c mit λn (U \ (A ∩ [−N, N ]n )c ) < ε/2 und setze K := [−N, N ]n \ U ⊂ A. 3 Definition 1.68 (Nullmenge). Sei (Ω, A, μ) ein Maßraum. (i) Eine Menge A ∈ A heißt μ-Nullmenge, oder kurz Nullmenge, falls μ(A) = 0. Mit Nμ bezeichnen wir das System aller Teilmengen von μ-Nullmengen. (ii) Sei E(ω) eine Eigenschaft, die dem Punkt ω ∈ Ω zukommen kann. Wir sagen, dass E μ-fast uberall (f.¨u.) gilt oder f¨ur fast alle (f.a.) ω, falls es eine Nullmenge N ¨ gibt, sodass E(ω) f¨ur jedes ω ∈ Ω \ N gilt. Ist A ∈ A, so sagen wir, dass E fast u¨ berall auf A gilt, falls es eine Nullmenge N gibt, sodass E(ω) f¨ur jedes ω ∈ A \ N gilt. Ist μ = P ein W-Maß, so sagen wir dann auch, dass E P -fast sicher (f.s.) gilt, beziehungsweise fast sicher auf A. (iii) Sind A, B ∈ A, so schreiben wir A = B N gibt mit A B ⊂ N .
(mod μ), falls es eine Nullmenge
Definition 1.69. Ein Maßraum (Ω, A, μ) heißt vollst¨andig, falls Nμ ⊂ A. Bemerkung 1.70 (Vervollst¨andigung eines Maßraums). Sei (Ω, A, μ) ein Maßraum. Es gibt genau eine kleinste σ-Algebra A∗ ⊃ A und eine Fortsetzung μ∗ von μ auf A∗ , sodass (Ω, A∗ , μ∗ ) vollst¨andig ist. (Ω, A∗ , μ∗ ) heißt die Vervollst¨andigung von (Ω, A, μ). In der Notation des Beweises von Satz 1.53 ist ∗ ∗ Ω, M(μ ), μ M(μ∗ )
diese Vervollst¨andigung. Ferner ist M(μ∗ ) = σ(A ∪ Nμ ) = {A ∪ N : A ∈ A, N ∈ Nμ } und μ∗ (A ∪ N ) = μ(A) f¨ur jedes A ∈ A und N ∈ Nμ . Da wir diese Aussagen im Folgenden nicht ben¨otigen werden, verzichten wir auf den Beweis und verweisen auf die g¨angigen Maßtheorieb¨ucher, etwa [46].
1.3 Fortsetzung von Maßen
33
Beispiel 1.71. Ist λ das Lebesgue-Maß (genauer: das Lebesgue-Borel-Maß) auf (Rn , B(Rn )), so l¨asst sich λ eindeutig fortsetzen zu einem Maß λ∗ auf B∗ (Rn ) = σ(B(Rn ) ∪ N ), wo N die Menge der Teilmengen der Lebesgue-Borel’schen Nullmengen bezeichnet. B∗ (Rn ) heißt σ-Algebra der Lebesgue-messbaren Mengen. Zur Unterscheidung wird manchmal λ das Lebesgue-Borel-Maß genannt und λ∗ das LebesgueMaß. Wir werden diese Unterscheidung im Folgenden aber nicht ben¨otigen. 3 Beispiel 1.72. Sei μ = δω auf einem Messraum (Ω, A). Ist {ω} ∈ A, so ist die Vervollst¨andigung A∗ = 2Ω , μ∗ = δω . Im Extremfall der trivialen σ-Algebra A = {∅, Ω} hingegen ist Nμ = {∅}, also die Vervollst¨andigung A∗ = {∅, Ω}, μ∗ = δω . Man beachte, dass man auf dieser trivialen σ-Algebra die Dirac-Maße zu verschiedenen Punkten aus Ω nicht unterscheiden kann. 3 Definition 1.73. Sei (Ω, A, μ) ein Maßraum und Ω ∈ A. Dann wird durch μ (A) := μ(A)
f¨ur A ∈ A mit A ⊂ Ω
Ω
ein Maß auf der Spur-σ-Algebra A
Ω
schr¨ankung von μ auf Ω .
definiert. Dieses Maß nennen wir die Ein-
Beispiel 1.74. Die Einschr¨ankung des Lebesgue-Borel-Maßes λ von (R, B(R)) auf ). Allgemeiner nennen wir f¨ur messbares [0, 1] ist ein W-Maß auf ([0, 1], B(R) [0,1] A ∈ B(R) die Einschr¨ankung λ das Lebesgue-Maß auf A. Oftmals wird als SymA bol wieder λ verwendet, weil wir nicht zu viele kleinliche Unterscheidungen treffen wollen. Wir sehen sp¨ater (Korollar 1.84), dass B(R) = B(A), wobei B(A) die Borel’sche A σ-Algebra auf A ist, die von den in A (relativ) offenen Mengen erzeugt wird. 3 Beispiel 1.75 (Gleichverteilung). Ist A ∈ B(Rn ) mit n-dimensionalem LebesgueMaß λn (A) ∈ (0, ∞), so wird durch μ(B) :=
λn (B) λn (A)
f¨ur B ∈ B(Rn ), B ⊂ A,
ein W-Maß auf B(Rn ) definiert. Wir nennen μ die uniforme Verteilung oder A 3 Gleichverteilung auf A und schreiben UA := μ. ¨ Ubung Man zeige die folgende Verallgemeinerung von Beispiel 1.58(iv): Ein 1.3.1. ∞ ist genau dann ein Lebesgue-Stieltjes Maß zu einer geeigneten Maß n=1 αn δxn Funktion F , wenn n: |xn |≤K αn < ∞ f¨ur jedes K > 0 gilt. ♣
34
1 Grundlagen der Maßtheorie
¨ Ubung 1.3.2. Sei Ω eine u¨ berabz¨ahlbare Menge und ω0 ∈ Ω ein beliebiges Element. Sei A = σ({ω} : ω ∈ Ω \ {ω0 }). ¨ (i) Charakterisiere A a¨ hnlich wie in Ubung 1.1.4 (Seite 11). (ii) Zeige, dass (Ω, A, δω0 ) vollst¨andig ist.
♣
¨ Ubung 1.3.3. Sei (μn )n∈N eine Folge von endlichen Maßen auf dem Messraum (Ω, A). F¨ur jedes A ∈ A existiere der Grenzwert μ(A) := lim μn (A). n→∞
Man zeige: μ ist ein Maß auf (Ω, A). Hinweis: Zu zeigen ist insbesondere die ∅-Stetigkeit von μ.
♣
1.4 Messbare Abbildungen Eine Zwangshandlung in der Mathematik ist es, Homomorphismen zwischen Objekten anzugeben, also strukturerhaltende Abbildungen. F¨ur topologische R¨aume sind dies die stetigen Abbildungen, f¨ur Messr¨aume die messbaren Abbildungen. Seien im Folgenden stets (Ω, A) und (Ω , A ) Messr¨aume. Definition 1.76 (Messbare Abbildungen). (i) Eine Abbildung X : Ω → Ω heißt A – A -messbar (oder kurz: messbar), falls X −1 (A ) := {X −1 (A ) : A ∈ A } ⊂ A ist, falls also X −1 (A ) ∈ A
f¨ur jedes A ∈ A .
Ist X messbar, so schreiben wir auch X : (Ω, A) → (Ω , A ). (ii) Ist Ω = R und A = B(R) die Borel’sche σ-Algebra auf R, so heißt X : (Ω, A) → (R, B(R)) kurz eine reelle A-messbare Abbildung. Beispiel 1.77. (i) Die Identit¨at id : Ω → Ω ist A – A-messbar. (ii) Sei A = 2Ω oder A = {∅, Ω }. Jedes X : Ω → Ω ist dann A – A -messbar. (iii) Sei A ⊂ Ω. Die Indikatorfunktion ½A : Ω → {0, 1} ist genau dann A – 2{0,1} -messbar, wenn A ∈ A. 3 Satz 1.78 (Erzeugte σ-Algebra). Sei (Ω , A ) ein Messraum und Ω eine nichtleere Menge sowie X : Ω → Ω eine Abbildung. Das Urbild X −1 (A ) := {X −1 (A ) : A ∈ A }
(1.15)
ist die kleinste σ-Algebra, bez¨uglich der X messbar ist. Wir nennen σ(X) := X −1 (A ) die von X erzeugte σ-Algebra auf Ω.
1.4 Messbare Abbildungen
¨ Beweis. Ubung!
35
2
Wir wollen nun σ-Algebren betrachten, die von mehreren Abbildungen erzeugt werden. Definition 1.79 (Erzeugte σ-Algebra). Sei Ω eine nichtleere Menge. Sei I eine beliebige Indexmenge, und f¨ur jedes i ∈ I sei (Ωi , Ai ) ein Messraum sowie Xi : Ω → Ωi eine beliebige Abbildung. Dann heißt −1 σ(Xi , i ∈ I) := σ σ(Xi ) = σ Xi (Ai ) i∈I
i∈I
die von (Xi , i ∈ I) erzeugte σ-Algebra auf Ω. Dies ist die kleinste σ-Algebra, bez¨uglich der jedes Xi messbar ist. Wie bei stetigen oder linearen Abbildungen gibt es eine Verkn¨upfungseigenschaft. ¨ Satz 1.80 (Verknupfung von Abbildungen). Sind (Ω, A), (Ω , A ) und (Ω , A ) Messr¨aume sowie X : Ω → Ω messbar und X : Ω → Ω messbar, so ist die Abbildung Y := X ◦ X : Ω → Ω , ω → X (X(ω)) messbar bez¨uglich A – A . Beweis. Es ist Y −1 (A ) = X −1 ((X )−1 (A )) ⊂ X −1 (A ) ⊂ A.
2
Praktisch kann man die Messbarkeit einer Abbildung X kaum pr¨ufen, indem man s¨amtliche Urbilder X −1 (A ), A ∈ A auf Messbarkeit hin untersucht. Daf¨ur sind die meisten σ-Algebren A einfach zu groß. Gl¨ucklicherweise reicht hier die Betrachtung eines Erzeugers von A aus: Satz 1.81 (Messbarkeit auf einem Erzeuger). F¨ur jedes System E ⊂ A von A -messbaren Mengen gilt σ(X −1 (E )) = X −1 (σ(E )) und damit X ist A – σ(E )-messbar ⇐⇒ X −1 (E ) ∈ A
f¨ur jedes E ∈ E .
Ist speziell σ(E ) = A , dann gilt X ist A – A -messbar ⇐⇒ X −1 (E ) ⊂ A. Beweis. Offenbar ist X −1 (E ) ⊂ X −1 (σ(E )) = σ(X −1 (σ(E ))). Also ist auch σ(X −1 (E )) ⊂ X −1 (σ(E )). F¨ur die andere Inklusion betrachten wir das Mengensystem
A0 := A ∈ σ(E ) : X −1 (A ) ∈ σ(X −1 (E )) und zeigen zun¨achst, dass A0 eine σ-Algebra ist, indem wir die Punkte (i)–(iii) aus Definition 1.2 pr¨ufen:
36
1 Grundlagen der Maßtheorie
(i) Offensichtlich ist Ω ∈ A0 . (ii) (Komplementstabilit¨at)
Ist A ∈ A0 , so ist
X −1 ((A )c ) = (X −1 (A ))c ∈ σ(X −1 (E )), also (A )c ∈ A0 . (iii) (σ-∪-Stabilit¨at) Seien A1 , A2 , . . . ∈ A0 . Dann ist ∞ ∞ −1 An = X −1 (An ) ∈ σ(X −1 (E )), X n=1
also ist
∞
n=1 An
∈
n=1
A0 .
Wegen E ⊂ A0 ist A0 = σ(E ), also X −1 (A ) ∈ σ(X −1 (E )) f¨ur jedes A ∈ σ(E ) und damit X −1 (σ(E )) ⊂ σ(X −1 (E )). 2 ¨ Korollar 1.82 (Messbarkeit von verknupften Abbildungen). Sei I eine nichtleere Indexmenge sowie (Ω, A), (Ω , A ) und (Ωi , Ai ) Messr¨aume, i ∈ I. Sei ferner (Xi : i ∈ I) eine Familie messbarer Abbildungen Xi : Ω → Ωi mit der Eigenschaft A = σ(Xi : i ∈ I). Dann gilt: Eine Abbildung Y : Ω → Ω ist genau dann A-A messbar, wenn Xi ◦ Y messbar ist bez¨uglich A-Ai f¨ur jedes i ∈ I. Beweis. Ist Y messbar, so ist nach Satz 1.80 jedes Xi ◦ Y messbar. Sei nun jede der zusammengesetzten Abbildungen Xi ◦ Y messbar bez¨uglich A-Ai . Die Menge E := {Xi−1 (A ) : A ∈ Ai , i ∈ I} ist nach Voraussetzung ein Erzeuger von A , und es gilt Y −1 (A ) ∈ A f¨ur jedes A ∈ E wegen der Messbarkeit aller Xi ◦ Y . Nach Satz 1.81 ist also Y messbar. 2 Wir erinnern an den Begriff der Spur eines Mengensystems aus Definition 1.25. Korollar 1.83 (Spur der erzeugten σ-Algebra). Ist E ⊂ 2Ω und A ⊂ Ω nichtleer, so gilt σ E = σ(E) . A
A
Beweis. Sei X : A → Ω, ω → ω die Inklusionsabbildung. Dann ist X −1 (B) = A ∩ B f¨ur jedes B ⊂ Ω. Nach Satz 1.81 ist
σ E = σ({E ∩ A : E ∈ E}) A
= σ({X −1 (E) : E ∈ E}) = σ(X −1 (E))
= X −1 (σ(E)) = {A ∩ B : B ∈ σ(E)} = σ(E) . A
2
Zur Erinnerung: F¨ur eine Teilmenge A ⊂ Ω eines topologischen Raums (Ω, τ ) ist τ die Topologie der in A relativ offenen Mengen. Mit B(Ω, τ ) = σ(τ ) bezeichnen A
wir die Borel’sche σ-Algebra auf (Ω, τ ).
1.4 Messbare Abbildungen
37
Korollar 1.84 (Spur der Borel’schen σ-Algebra). Sei (Ω, τ ) ein topologischer Raum und A ⊂ Ω eine beliebige Teilmenge von Ω. Dann gilt
B(Ω, τ ) = B A, τ . A
A
Beispiel 1.85. (i) Ist Ω abz¨ahlbar, so ist X : Ω → Ω genau dann A – 2Ω messbar, wenn X −1 ({ω }) ∈ A f¨ur jedes ω ∈ Ω . F¨ur u¨ berabz¨ahlbare Ω ist dies im Allgemeinen falsch. (Man betrachte etwa Ω = Ω = R, A = B(R), X(ω) = ω f¨ur jedes ω ∈ Ω. Offenbar ist X −1 ({ω}) = {ω} ∈ B(R). Ist andererseits A ⊂ R nicht in B(R), so ist A ∈ 2R , jedoch X −1 (A) ∈ B(R).) (ii) F¨ur x ∈ R verabreden wir folgende Schreibweisen f¨ur das Ab- und Aufrunden x := max{k ∈ Z : k ≤ x}
und
x := min{k ∈ Z : k ≥ x}.
(1.16)
Die Abbildungen R → Z, x → x und x → x sind messbar bez¨uglich B(R) – 2Z , denn f¨ur jedes k ∈ Z sind die Urbilder {x ∈ R : x = k} = [k, k + 1) und {x ∈ R : x = k} = (k − 1, k] in B(R). Nach dem Verkn¨upfungssatz (Satz 1.80) sind dann f¨ur jede messbare Abbildung f : (Ω, A) → (R, B(R)) auch die Abbildungen f und f messbar bez¨uglich A – 2Z . (iii) Eine Abbildung X : Ω → Rd ist genau dann A – B(Rd )-messbar, wenn X −1 ((−∞, a]) ∈ A
f¨ur jedes a ∈ Rd ,
denn σ((−∞, a], a ∈ Rd ) = B(Rd ) nach Satz 1.23. Analog gilt dies auch f¨ur die anderen Mengensysteme E1 , . . . , E12 aus Satz 1.23. 3 Beispiel 1.86. Sei d(x, y) = x − y2 der gew¨ohnliche euklidische Abstand auf Rn und B(Rn , d) = B(Rn ) die Borel’sche σ-Algebra zu der von d erzeugten Topologie. F¨ur jede Teilmenge A von Rn ist dann B(A, d) = B(Rn , d) . 3 A
Wir wollen die reellen Zahlen um die Punkte −∞ und +∞ erweitern und definieren R := R ∪ {−∞, +∞}. Topologisch wollen wir R als die so genannte Zweipunktkompaktifizierung ansehen, indem wir R als topologisch isomorph zu [−1, 1] betrachten, beispielsweise verm¨oge der Abbildung ⎧ ⎪ ⎨ tan(πx/2), falls x ∈ (−1, 1), −∞, falls x = −1, x → ϕ : [−1, 1] → R, ⎪ ⎩ ∞, falls x = +1. −1 ¯ y) = ϕ (x)−ϕ−1 (y) f¨ur x, y ∈ R eine Metrik auf R In der Tat wird durch d(x, definiert, sodass ϕ und ϕ−1 stetig sind (also ist ϕ ein topologischer Isomorphismus). Mit τ¯ bezeichnen wir die induzierte Topologie auf R, mit τ die gew¨ohnliche Topologie auf R.
38
1 Grundlagen der Maßtheorie
Korollar 1.87. Es gilt τ¯ = τ , und daher gilt B(R) = B(R). R
R
Ist speziell X : (Ω, A) → (R, B(R)) messbar, so ist X in kanonischer Weise auch eine R-wertige messbare Abbildung. Mit R haben wir also eine echte Erweiterung der reellen Zahlen geschaffen, und die Inklusion R → R ist messbar. Satz 1.88 (Messbarkeit stetiger Abbildungen). Sind (Ω, τ ) und (Ω , τ ) topologische R¨aume und f : Ω → Ω stetig, dann ist f auch B(Ω) – B(Ω )-messbar. Beweis. Wegen B(Ω ) = σ(τ ) reicht es nach Satz 1.81 zu zeigen, dass f −1 (A ) ∈ σ(τ ) f¨ur jedes A ∈ τ . Da f stetig ist, gilt aber sogar f −1 (A ) ∈ τ f¨ur jedes A ∈ τ . 2 F¨ur x, y ∈ R verabreden wir folgende Notationen x ∨ y = max(x, y) x ∧ y = min(x, y) x+ = max(x, 0) x− = max(−x, 0) |x| = max(x, −x) = x− + x+ sign(x) = ½{x>0} − ½{x<0}
(Maximum), (Minimum), (Positivteil), (Negativteil), (Absolutbetrag), (Vorzeichenfunktion).
Analog bezeichnen wir f¨ur reelle messbare Abbildungen beispielsweise X + = max(X, 0). Die Abbildungen x → x+ , x → x− und x → |x| sind stetig (und damit nach dem vorangehenden Satz messbar), die Abbildung x → sign(x) ist offenbar auch messbar. Wir erhalten also (zusammen mit Korollar 1.82): Korollar 1.89. Ist X eine reelle oder R-wertige messbare Abbildung, so sind auch die Abbildungen X − , X + , |X| und sign(X) messbar. Satz 1.90 (Koordinatenabbildungen sind messbar). Sei (Ω, A) ein Messraum und f1 , . . . , fn : Ω → R Abbildungen sowie f := (f1 , . . . , fn ) : Ω → Rn . Dann gilt f ist A – B(Rn )-messbar
⇐⇒
jedes fi ist A – B(R)-messbar.
Die Aussage gilt analog f¨ur fi : Ω → R := R ∪ {±∞}. Beweis. F¨ur b ∈ Rn ist f −1 ((−∞, b)) =
n i=1
fi−1 ((−∞, bi )). Ist jedes fi messbar,
so ist also f −1 ((−∞, b)) ∈ A. Die Quader (−∞, b), b ∈ Rn , erzeugen aber B(Rn ), und daher ist dann f messbar. Sei nun f messbar. F¨ur i = 1, . . . , n sei πi : Rn → R, x → xi die i-te Projektion. Offenbar ist πi stetig also B(Rn ) – B(R)-messbar. Nach 2 Satz 1.80 ist auch fi = πi ◦ f messbar.
1.4 Messbare Abbildungen
F¨ur den folgenden Satz vereinbaren wir die Konvention
x 0
39
:= 0 f¨ur jedes x ∈ R.
Satz 1.91. Sei (Ω, A) ein Messraum und f, g : (Ω, A) → (Rn , B(Rn )) sowie h : (Ω, A) → (R, B(R)) messbar. Dann sind auch die Abbildungen f + g, f − g, f · h und f /h messbar. Beweis. Die Abbildung π : Rn × R → Rn , (x, α) → α · x ist stetig, also messbar. Nach Satz 1.90 ist (f, h) : Ω → Rn × R messbar, also auch die zusammengesetzte Abbildung f · h = π ◦ (f, h). Analog folgt die Messbarkeit von f + g und f − g. Um die Messbarkeit von f /h zu zeigen, definieren wir H : R → R, x → 1/x. Nach unserer Konvention ist H(0) = 0. Dann ist f /h = f · H ◦ h. Es reicht also stetig. F¨ur offenes U ⊂ R ist zu zeigen, dass H messbar ist. Offenbar ist H R\{0}
auch U \ {0} offen und damit H −1 (U \ {0}) ∈ B(R). Ferner ist H −1 ({0}) = {0}. 2 Also ist schließlich H −1 (U ) = H −1 (U \ {0}) ∪ (U ∩ {0}) ∈ B(R). Satz 1.92. Sind X1 , X2 , . . . messbare Abbildungen (Ω, A) → (R, B(R)), dann sind auch die folgenden Abbildungen messbar: inf Xn ,
n∈N
sup Xn , n∈N
lim inf Xn , n→∞
lim sup Xn . n→∞
Beweis. F¨ur jedes a ∈ R gilt −1 ∞ ([−∞, a)) = Xn−1 ([−∞, a)) ∈ A. inf Xn n∈N
n=1
Nach Satz 1.81 folgt hieraus die Messbarkeit von inf Xn . Analog geht der Beweis n∈N
f¨ur sup Xn . n∈N
F¨ur n ∈ N setzen wir Yn := inf Xm . Dann ist Yn messbar, und damit auch m≥n
lim inf Xn := sup Yn . Analog folgt der Beweis f¨ur den Limes superior. n→∞
n∈N
2
Ein wichtiges Beispiel f¨ur messbare Abbildungen (Ω, A) → (R, B(R)) sind Elementarfunktionen. Definition 1.93 (Elementarfunktion). Sei (Ω, A) ein Messraum. Eine Abbildung f : Ω → R heißt Elementarfunktion, wenn es ein n ∈ N und paarweise disjunkte, messbare Mengen A1 , . . . , An ∈ A sowie Zahlen α1 , . . . , αn ∈ R gibt mit f=
n i=1
αi ½Ai .
40
1 Grundlagen der Maßtheorie
Bemerkung 1.94. Eine messbare Abbildung, die nur endlich viele Werte annimmt, ¨ ist eine Elementarfunktion. (Ubung!) 3 Definition 1.95. Sind f, f1 , f2 , . . . Abbildungen Ω → R mit f1 (ω) ≤ f2 (ω) ≤ . . . und
lim fn (ω) = f (ω)
n→∞
f¨ur jedes ω ∈ Ω,
so schreiben wir fn ↑ f und sagen, dass (fn )n∈N punktweise monoton aufsteigend gegen f konvergiert. Analog schreiben wir fn ↓ f , falls (−fn ) ↑ (−f ). Satz 1.96. Sei (Ω, A) ein Messraum und f : Ω → [0, ∞] messbar. Dann gelten die folgenden Aussagen. (i) Es gibt eine Folge nichtnegativer Elementarfunktionen (fn )n∈N mit fn ↑ f . (ii) Es gibt A1 , A2 , . . . ∈ A und α1 , α2 , . . . ≥ 0 mit f =
∞
αn ½An .
n=1
Beweis. (i) F¨ur n ∈ N0 definiere fn = (2−n 2n f ) ∧ n. Dann ist fn messbar (nach Satz 1.92 und Beispiel 1.85(ii)) und nimmt h¨ochstens n2n + 1 Werte an, ist also eine Elementarfunktion. Offenbar gilt fn ↑ f . (ii) Seien fn wie oben, Bn,i := {ω : fn (ω)−fn−1 (ω) = i 2−n } und βn,i = i 2−n 2n f¨ur n ∈ N und i = 1, . . . , 2n . Man u¨ berlege sich, dass i=1 Bn,i = Ω. Dann ist 2n βn,i ½Bn,i . Nach Umnummerierung (n, i) → m erhalten wir fn − fn−1 = i=1
(αm )m∈N und (Am )m∈N , sodass f = f0 +
∞
(fn − fn−1 ) =
n=1
∞
αm ½Am .
2
m=1
Als Korollar zu dieser Strukturaussage f¨ur messbare [0, ∞]-wertige Abbildungen zeigen wir das Faktorisierungslemma. Korollar 1.97 (Faktorisierungslemma). Seien (Ω , A ) ein Messraum und Ω eine nichtleere Menge. Sei f : Ω → Ω eine Abbildung. Eine Abbildung g : Ω → R ist genau dann messbar bez¨uglich σ(f ) – B(R), wenn es eine messbare Abbildung ϕ : (Ω , A ) → (R, B(R)) gibt mit g = ϕ ◦ f . Beweis.
”
⇐= “
Ist ϕ messbar und g = ϕ ◦ f , so ist g messbar nach Satz 1.80.
=⇒ “ Sei nun g messbar bez¨uglich σ(f ) – B(R). Wir betrachten zun¨achst den ” Fall, wo g nichtnegativ ist. Dann existieren messbare Mengen A1 , A2 . . . ∈ σ(f )
1.4 Messbare Abbildungen
41
∞ sowie Zahlen α1 , α2 , . . . , ∈ [0, ∞) mit g = n=1 αn ½An . Nach der Definition von σ(f ) gibt es f¨ur jedes n ∈ N eine Menge Bn ∈ A mit f −1 (Bn ) = An , also mit ½An = ½Bn ◦ f . Wir definieren nun ϕ : Ω → R durch ϕ=
∞
αn ½Bn .
n=1
Offenbar ist ϕ messbar bez¨uglich A – B(R), und es gilt g = ϕ ◦ f . Sei nun der allgemeine Fall betrachtet, wo g auch negative Werte annehmen kann. Dann existieren messbare Abbildungen ϕ− und ϕ+ mit g − = ϕ− ◦ f und g + = 2 ϕ+ ◦ f . Daher leistet ϕ := ϕ+ − ϕ− das Gew¨unschte. Mit einer messbaren Abbildung wird auch ein Maß von einem Raum auf einen anderen transportiert. Definition 1.98 (Bildmaß). Seien (Ω, A) und (Ω , A ) Messr¨aume und μ ein Maß auf (Ω, A). Ferner sei X : (Ω, A) → (Ω , A ) messbar. Das durch μ ◦ X −1 : A → [0, ∞],
A → μ(X −1 (A ))
definierte Maß auf (Ω , A ) heißt Bildmaß von μ unter X. Beispiel 1.99. Sei μ ein Maß auf Z2 und X : Z2 → Z, (x, y) → x + y. Dann ist μ ◦ X −1 ({x}) = μ({(x − y, y)}). 3 y∈Z
Beispiel 1.100. Ist L : Rn → Rn eine bijektive lineare Abbildung und λ das Lebesgue-Maß auf (Rn , B(Rn )), so ist λ ◦ L−1 = | det(L)|−1 λ. Dies ist klar, weil n f¨ur a, b ∈ R mit a < b das Spat (oder Parallelepiped) L−1 ((a, b]) das Volumen n −1 3 | det(L )| i=1 (bi − ai ) hat. Als Verallgemeinerung des letzten Beispiels geben wir hier ohne Beweis den Transformationssatz f¨ur Maße mit stetigen Dichten unter differenzierbaren Abbildungen an. Den Beweis findet man in Lehrb¨uchern zur Analysis II unter dem Stichwort Transformationssatz“ oder Substitutionsregel“ (siehe etwa [7] oder [46]). ” ” Satz 1.101 (Dichtetransformationsformel im Rn ). Es sei μ ein Maß auf Rn mit stetiger (oder st¨uckweise stetiger) Dichte f : Rn → [0, ∞), das heißt xn x1 dt1 · · · dtn f (t1 , . . . , tn ) f¨ur jedes x ∈ Rn . μ((−∞, x]) = −∞
−∞
Sei A ⊂ R eine offene (oder abgeschlossene) Menge mit μ(Rn \ A) = 0. Ferner sei B ⊂ Rn offen oder abgeschlossen sowie ϕ : A → B bijektiv und stetig differenzierbar mit Ableitung ϕ . Dann hat das Bildmaß μ ◦ ϕ−1 die Dichte n
42
1 Grundlagen der Maßtheorie
⎧ ⎪ ⎨ fϕ (x) =
⎪ ⎩
f (ϕ−1 (x)) , | det(ϕ (ϕ−1 (x)))| 0,
falls x ∈ B, falls x ∈ Rn \ B.
¨ Ubung 1.4.1. Sei f : R → R, x → |x|. Zeige: Eine Borel-messbare Abbildung g : R → R ist genau dann messbar bez¨uglich σ(f ) = f −1 (B(R)), wenn g gerade ist. ♣ ¨ Ubung 1.4.2. Man zeige: Ist (Ω, A, μ) ein Maßraum, f : Ω → R messbar und g = f μ-fast u¨ berall, so braucht g nicht messbar zu sein. ♣ ¨ Ubung 1.4.3. Sei f : R → R differenzierbar mit Ableitung f . Zeige: f ist B(R)– B(R) messbar. ♣ ¨ Ubung 1.4.4. (Vergleiche Beispiele 1.40 und 1.63.) Sei Ω = {0, 1}N und A = {0,1} ⊗N (2 ) die σ-Algebra,
die von den Zylindermengen [ω1 , . . . , ωn ] : n ∈ N, ω1 , . . . , ωn ∈ {0, 1} erzeugt wird. Ferner sei μ = ( 12 δ0 + 12 δ1 )⊗N das Bernoulli-Maß auf Ω mit gleichen Gewichten auf 0 und 1. F¨ur n ∈ N sei Xn : Ω → {0, 1}, ω → ωn die n-te Koordinatenabbildung, und sei U (ω) =
∞
Xn (ω) 2−n
f¨ur ω ∈ Ω.
n=1
(i) Zeige: A = σ(Xn : n ∈ N). (ii) Zeige: U ist A–B([0, 1]) messbar. (iii) Bestimme das Bildmaß μ ◦ U −1 auf ([0, 1], B([0, 1])). ˜ := U bijektiv ist. (iv) Man gebe ein Ω0 ∈ A an, sodass U Ω0
˜ −1 messbar ist bez¨uglich B([0, 1])–A (v) Man zeige, dass U
Ω0
˜ −1 ? (vi) Welche Interpretation hat die Abbildung Xn ◦ U
. ♣
¨ Ubung 1.4.5 (Satz von Lusin). Sei f : R → R Borel-messbar. Man zeige: F¨ur jedes ε > 0 existiert eine abgeschlossene Menge C ⊂ R mit λ(R \ C) < ε, sodass die Einschr¨ankung f von f auf C stetig ist. (Merke: Dies heißt nat¨urlich nicht, C dass f in jedem Punkte x ∈ C stetig w¨are.) Anleitung: Man zeige die Aussage zun¨achst mit Hilfe der inneren Regularit¨at des Lebesgue-Maßes λ (Bemerkung 1.67) f¨ur Indikatorfunktionen messbarer Mengen und approximiere mit solchen die Abbildung f auf einer geeigneten Menge C gleichm¨aßig. ♣
1.5 Zufallsvariablen
43
1.5 Zufallsvariablen In diesem Abschnitt werden wir messbare Abbildungen als Zufallsvariablen auffassen, die zuf¨allige Beobachtungen beschreiben. Wir definieren den Begriff der Verteilung von Zufallsvariablen. Im Folgenden sei stets (Ω, A, P) ein Wahrscheinlichkeitsraum. Die Mengen A ∈ A heißen Ereignisse. P[A] wird als die Wahrscheinlichkeit interpretiert, dass A eintritt. Oft ist allerdings nicht der Wahrscheinlichkeitsraum selbst betrachtbar, sondern nur gewisse Beobachtungsgr¨oßen. Wir wollen also Wahrscheinlichkeiten daf¨ur definieren, dass Zufallsgr¨oßen bestimmte Werte annehmen und einen Kalk¨ul f¨ur, zum Beispiel, Summen von Zufallsgr¨oßen entwickeln. Definition 1.102 (Zufallsvariablen). Sei (Ω , A ) ein Messraum und X : Ω → Ω messbar. (i) X heißt Zufallsvariable mit Werten in (Ω , A ). Ist (Ω , A ) = (R, B(R)), so nennen wir X eine reelle Zufallsvariable oder schlicht Zufallsvariable. (ii) Ist A ∈ A , so schreiben wir {X ∈ A } := X −1 (A ) und P[X ∈ A ] := P[X −1 (A )]. Speziell schreiben wir {X ≥ 0} := X −1 ([0, ∞)) und analog {X ≤ b} und so weiter. Definition 1.103 (Verteilungen). Sei X eine Zufallsvariable. (i) Das W-Maß PX := P ◦ X −1 heißt Verteilung von X. (ii) Ist X eine reelle Zufallsvariable, so heißt die Abbildung FX : x → P[X ≤ x] die Verteilungsfunktion von X (eigentlich von PX ). Ist μ = PX , so schreiben wir auch X ∼ μ und sagen, dass X nach μ verteilt ist. (iii) Eine Familie (Xi )i∈I heißt identisch verteilt, falls PXi = PXj
f¨ur alle
D
i, j ∈ I. Wir schreiben X = Y , falls PX = PY (D f¨ur distribution). Satz 1.104. Zu jeder Verteilungsfunktion F existiert eine reelle Zufallsvariable X mit FX = F . Beweis. Wir m¨ussen explizit einen Wahrscheinlichkeitsraum (Ω, A, P) und eine Zufallsvariable X : Ω → R angeben mit FX = F . Die einfachste M¨oglichkeit ist, (Ω, A) = (R, B(R)) zu w¨ahlen, X : R → R die identische Abbildung und P das Lebesgue-Stieltjes Maß mit Verteilungsfunktion F (siehe Beispiel 1.56). Eine andere M¨oglichkeit, die zudem etwas lehrreicher ist, beruht darauf, zun¨achst unabh¨angig vom konkreten F eine Art Standard-Wahrscheinlichkeitsraum zu definieren, auf dem eine uniform auf (0, 1) verteilte Zufallsvariable definiert ist, die
44
1 Grundlagen der Maßtheorie
dann verm¨oge der Umkehrabbildung F −1 zu einer Zufallsvariablen X mit Vertei lungsfunktion F transformiert wird: Wir w¨ahlen Ω := (0, 1), A := B(R) und Ω
P das Lebesgue-Maß auf (Ω, A) (siehe Beispiel 1.74). Definiere die (linksstetige) Inverse von F F −1 (t) := inf{x ∈ R : F (x) ≥ t} Dann ist
f¨ur t ∈ (0, 1).
F −1 (t) ≤ x ⇐⇒ t ≤ F (x).
Speziell ist {t : F −1 (t) ≤ x} = (0, F (x)] ∩ (0, 1), also ist F −1 : (Ω, A) → (R, B(R)) messbar und P[{t : F −1 (t) ≤ x}] = F (x). Mithin ist X := F −1 die gew¨unschte Zufallsvariable.
2
Beispiel 1.105. Wir geben zu verschiedenen Wahrscheinlichkeitsverteilungen auf R reelle Zufallsvariablen X mit ebendieser Verteilung an. (Der konkrete Ort in diesem Buch dient lediglich als Vorwand, um ein paar der wichtigsten Verteilungen einzuf¨uhren, auf die wir bei sp¨ateren Gelegenheiten immer wieder zur¨uckkommen.) (i) Ist p ∈ [0, 1] und P[X = 1] = p, P[X = 0] = 1 − p, so heißt PX =: Berp die Bernoulli-Verteilung mit Parameter p. Formal ist Berp = (1 − p) δ0 + p δ1 , und die Verteilungsfunktion ist ⎧ ⎨ FX (x) =
falls x < 0, falls x ∈ [0, 1), falls x ≥ 1.
0, 1 − p, ⎩ 1,
(ii) Ist p ∈ [0, 1] und n ∈ N sowie X : Ω → {0, . . . , n} mit n k p (1 − p)n−k , P[X = k] = k so heißt PX =: bn,p die Binomialverteilung mit Parametern n und p. Formal ist bn,p =
n n k=0
k
pk (1 − p)n−k δk .
(iii) Ist p ∈ (0, 1] und X : Ω → N0 mit P[X = n] = p (1 − p)n
f¨ur jedes n ∈ N0 ,
1.5 Zufallsvariablen
45
1 so heißt γp := b− 1,p := PX die geometrische Verteilung mit Parameter p. Formal k¨onnen wir schreiben: ∞ γp = p (1 − p)n δn . n=0
Die Verteilungsfunktion ist F (x) = 1 − (1 − p)x+1∨0
f¨ur x ∈ R.
Wir k¨onnen X + 1 als die Wartezeit auf den ersten Erfolg bei unabh¨angigen“ ” Zufallsexperimenten auffassen, die jeweils mit Wahrscheinlichkeit p zum Erfolg ⊗N
f¨uhren. In der Tat: Sei Ω = {0, 1}N und P das Produktmaß (1 − p)δ0 + p δ1 (Satz 1.64) sowie A = σ([ω1 , . . . , ωn ] : ω1 , . . . , ωn ∈ {0, 1}, n ∈ N). Wir setzen X(ω) := inf{n ∈ N : ωn = 1} − 1, mit der Konvention inf ∅ = ∞. Offenbar ist jede der Abbildungen n − 1, falls ωn = 1, Xn : Ω → R, ω → ∞, falls ωn = 0, A – B(R)-messbar und X = inf n∈N Xn . Also ist X auch A – B(R)-messbar, also eine Zufallsvariable. Sei ω 0 := (0, 0, . . .) ∈ Ω. Dann ist P[X ≥ n] = P[[ω10 , . . . , ωn0 ]] = (1 − p)n . Also ist P[X = n] = P[X ≥ n] − P[X ≥ n + 1] = (1 − p)n − (1 − p)n+1 = p (1 − p)n . (iv) Seien r > 0 (nicht notwendigerweise ganzzahlig) und p ∈ (0, 1]. Mit b− r,p
:=
∞ −r k=0
k
(−1)k pr (1 − p)k δk
(1.17)
bezeichnen wir die negative Binomialverteilung oder Pascal-Verteilung mit Pa rametern r und p. (Hierbei ist xk = x(x−1)···(x−k+1) f¨ur x ∈ R und k ∈ N der k! ¨ hnlich wie im vorangeverallgemeinerte Binomialkoeffizient.) F¨ur r ∈ N ist b− r,p , a henden Beispiel, die Verteilung der Wartezeit auf den r-ten Erfolg bei unabh¨angigen Versuchen. Wir werden hierauf in Beispiel 3.4(iv) zur¨uckkommen. (v)
Ist λ ∈ [0, ∞) und X : Ω → N0 mit P[X = n] = e−λ
λn n!
f¨ur jedes n ∈ N0 ,
so heißt PX =: Poiλ die Poisson-Verteilung mit Parameter λ. (vi) Die hypergeometrische Verteilung mit Parametern S, W, n ∈ N 1
Obacht: Manche Autoren nennen die um Eins verschobene Verteilung auf N die geometrische Verteilung.
46
1 Grundlagen der Maßtheorie
B HypB,W ;n ({b}) =
W n−b
bB+W n
,
b ∈ {0, . . . , n},
(1.18)
gibt die Wahrscheinlichkeit an, aus einer Urne mit S schwarzen und W weißen Kugeln bei n-maligen Ziehen ohne Zur¨ucklegen genau s schwarze Kugeln zu ziehen. Mit ein bisschen Kombinatorik l¨asst sich dies leicht auf die Situation mit k Farben und Bi Kugeln der Farbe i = 1, . . . , k verallgemeinern. Die Wahrscheinlichkeit, dass unter n gezogenen Kugeln exakt bi von jeder Farbe i = 1, . . . , k sind, ist gegeben durch die verallgemeinerte hypergeometrische Verteilung
Bk
B1 b1 · · · bk HypB1 ,...,Bk ;n ({(b1 , . . . , bk )}) = B1 +...+Bk . (1.19) n
(vii) Seien μ ∈ R, σ2 > 0 und X reell mit x (t−μ)2 1 e− 2σ2 dt P[X ≤ x] = √ 2πσ 2 −∞
f¨ur x ∈ R.
Dann heißt PX =: Nμ,σ2 Gauß’sche Normalverteilung mit Parametern μ und σ 2 . (viii) Ist X ≥ 0 reell und θ > 0 sowie
x
P[X ≤ x] = P[X ∈ [0, x]] =
θ e−θt dt
f¨ur x ≥ 0,
0
so heißt PX Exponentialverteilung mit Parameter θ (kurz: expθ ). (ix) Ist X Rd -wertig, μ ∈ Rd , Σ eine positiv definite d × d Matrix und 1% & P[X ≤ x] = det(2π Σ)−1/2 t − μ, Σ −1 (t − μ) λd (dt) exp − 2 (−∞,x] f¨ur x ∈ Rd (wobei · , · ! das Skalarprodukt im Rd bezeichnet), so heißt PX =: Nμ,Σ die d-dimensionale Normalverteilung mit Parametern μ und Σ. 3 Definition 1.106. Hat die Verteilungsfunktion F : Rn → [0, 1] die Gestalt x1 xn F (x) = dt1 · · · dtn f (t1 , . . . , tn ) f¨ur x = (x1 , . . . , xn ) ∈ Rn , −∞
−∞
f¨ur eine integrierbare Funktion f : Rn → [0, ∞), so heißt f die Dichte der Verteilung. Beispiel 1.107.
(i) F¨ur θ, r > 0 heißt die Verteilung Γθ,r auf [0, ∞) mit Dichte x →
θr xr−1 e−θx Γ (r)
(wo Γ die Gamma-Funktion bezeichnet) Gamma-Verteilung mit Gr¨oßenparameter θ und Formparameter r.
1.5 Zufallsvariablen
47
(ii) F¨ur r, s > 0 heißt die Verteilung βr,s auf [0, 1] mit Dichte x →
Γ (r + s) r−1 x (1 − x)s−1 Γ (r)Γ (s)
Beta-Verteilung mit Parametern r und s. (iii) F¨ur a > 0 heißt die Verteilung Caua auf R mit Dichte x →
1 1 aπ 1 + (x/a)2
Cauchy-Verteilung mit Parameter a.
3
¨ Ubung 1.5.1. Man leite (1.17) nach als Wartezeit kombinatorisch Interpretation
der (−1)k = n+k−1 . ♣ her unter Benutzung der Identit¨at −n k k ¨ Ubung 1.5.2. Man gebe ein Beispiel an f¨ur zwei normalverteilte X und Y , sodass (X, Y ) nicht (zweidimensional) normalverteilt ist. ♣ ¨ Ubung 1.5.3. Man zeige mit Hilfe von Satz 1.101 (Transformationsformel f¨ur Dichten): (i) Ist X ∼ Nμ,σ2 und sind a ∈ R\{0} und b ∈ R, so ist (aX +b) ∼ Naμ+b,a2 σ2 . (ii) Ist X ∼ expθ und a > 0, so ist aX ∼ expθ/a .
♣
2 Unabh¨angigkeit
Die Maßtheorie aus dem vorigen Kapitel ist eine lineare Theorie, die keine Abh¨angigkeitsstrukturen zwischen Ereignissen oder Zufallsvariablen kennt. Wir betreten das Gebiet der Wahrscheinlichkeitstheorie genau an dieser Stelle mit der Definition der Unabh¨angigkeit von Ereignissen und schließlich von Zufallsvariablen. Die Unabh¨angigkeit ist ein zentraler Begriff der Wahrscheinlichkeitstheorie, die Quantifizierung von Abh¨angigkeiten eines ihrer wichtigen Anliegen. Fortan ist stets (Ω, A, P) ein Wahrscheinlichkeitsraum, und die Mengen A ∈ A sind die Ereignisse. Sobald wir die Phase hinter uns gelassen haben, in der wir WR¨aume explizit konstruieren, wird der konkrete W-Raum in den Hintergrund treten, und die beobachtbaren Gr¨oßen, also Zufallsvariablen, werden an Bedeutung gewinnen. Das fett gedruckte P steht dann f¨ur das universelle Objekt des W-Maßes, und Wahrscheinlichkeiten P[ · ] bez¨uglich P werden stets mit eckigen Klammern geschrieben.
2.1 Unabh¨angigkeit von Ereignissen Wir wollen zwei Ereignisse A und B als (stochastisch) unabh¨angig betrachten, wenn das Eintreten von A nicht die Wahrscheinlichkeit beeinflusst, dass zudem B eintritt. Etwas formaler k¨onnen wir diesen intuitiven Begriff fassen, indem wir A und B als unabh¨angig betrachten, wenn P[A ∩ B] = P[A] · P[B].
(2.1)
¨ Beispiel 2.1 (Zweifacher Wurfelwurf). Wir betrachten das Zufallsexperiment des zweifachen W¨urfelwurfes. Es ist also Ω = {1, . . . , 6}2 mit der σ-Algebra A = 2Ω und der Gleichverteilung P = UΩ (siehe Beispiel 1.30(ii)). (i) Zwei Ereignisse A und B sollten unabh¨angig sein, wenn A nur vom Ergebnis des ersten Wurfes abh¨angt, B hingegen nur vom Ergebnis des zweiten Wurfes. Formal beschreiben wir diese Situation, indem wir annehmen, dass es Mengen ˜ B ˜ ⊂ {1, . . . , 6} gibt mit A, A = A˜ × {1, . . . , 6}
und
˜ B = {1, . . . , 6} × B.
50
2 Unabh¨angigkeit
Wir pr¨ufen jetzt, dass A und B tats¨achlich (2.1) erf¨ullen. Dazu berechnen wir ˜ ˜ #A #B #B P[A] = #A 36 = 6 und P[B] = 36 = 6 . Ferner ist P[A ∩ B] =
˜ ˜ #A˜ #B #(A˜ × B) = · = P[A] · P[B]. 36 6 6
(ii) Stochastische Unabh¨angigkeit kann auch in weniger augenf¨alligen Situationen auftreten. Sei hierzu A das Ereignis, dass die Augensumme ungerade ist, A = (ω1 , ω2 ) ∈ Ω : ω1 + ω2 ∈ {3, 5, 7, 9, 11} , und B das Ereignis, dass
der erste Wurf h¨ochstens eine Drei bringt, B = {(ω1 , ω2 ) ∈ Ω : ω1 ∈ {1, 2, 3} . Obwohl beide Ereignisse anscheinend etwas miteinander zu tun haben, sind sie stochastisch unabh¨angig, denn es gilt, wie man leicht pr¨uft, P[A] = P[B] = 12 und 3 P[A ∩ B] = 14 . Wann sind nun drei Ereignisse A1 , A2 , A3 unabh¨angig? Hierzu muss nat¨urlich jedes der Paare (A1 , A2 ), (A1 , A3 ) und (A2 , A3 ) unabh¨angig sein. Jedoch wollen wir auch sicherstellen, dass beispielsweise das Eintreten von A1 und A2 nicht die Wahrscheinlichkeit f¨ur das zus¨atzliche Eintreten von A3 beeinflusst. Wir m¨ussen also mehr als nur Paare betrachten. Formal nennen wir daher drei Ereignisse A1 , A2 und A3 (stochastisch) unabh¨angig, falls P[Ai ∩ Aj ] = P[Ai ] · P[Aj ] f¨ur alle i, j ∈ {1, 2, 3}, i = j, (2.2) und P[A1 ∩ A2 ∩ A3 ] = P[A1 ] · P[A2 ] · P[A3 ].
(2.3)
Man beachte, dass (2.3) nicht aus (2.2) folgt (und (2.2) nicht aus (2.3)). ¨ Beispiel 2.2 (Dreifacher Wurfelwurf). Wir betrachten den dreifachen Wurf eines W¨urfels. Sei also Ω = {1, . . . , 6}3 ausgestattet mit der diskreten σ-Algebra A = 2Ω und der Gleichverteilung P = UΩ (siehe Beispiel 1.30(ii)). (i) H¨angt f¨ur i = 1, 2, 3 das Ereignis Ai nur vom i-ten Wurf ab, so sind die Ereignisse A1 , A2 und A3 unabh¨angig. In der Tat k¨onnen wir sie wie im vorangehenden Beispiel f¨ur gewisse Mengen A˜1 , A˜2 , A˜3 ⊂ {1, . . . 6} schreiben als A1 = A˜1 × {1, . . . , 6}2 , A2 = {1, . . . , 6} × A˜2 × {1, . . . , 6}, A3 = {1, . . . , 6}2 × A˜3 . Die G¨ultigkeit von (2.2) folgt wie in Beispiel 2.1(i). Um (2.3) zu zeigen, berechnen wir #(A˜1 × A˜2 × A˜3 ) #A˜i = = P[Ai ]. 216 6 i=1 i=1 3
P[A1 ∩ A2 ∩ A3 ] =
(ii) Wir betrachten nun die folgenden drei Ereignisse
3
2.1 Unabh¨angigkeit von Ereignissen
51
A1 := {ω ∈ Ω : ω1 = ω2 }, A2 := {ω ∈ Ω : ω2 = ω3 }, A3 := {ω ∈ Ω : ω1 = ω3 }. Dann ist #A1 = #A2 = #A3 = 36, also P[A1 ] = P[A2 ] = P[A3 ] = 16 . Ferner 1 . Daher gilt (2.2). Jedoch ist ist #(Ai ∩ Aj ) = 6, falls i = j, also P[Ai ∩ Aj ] = 36 1 #(A1 ∩ A2 ∩ A3 ) = 6, also P[A1 ∩ A2 ∩ A3 ] = 36 = 16 · 16 · 16 , mithin ist (2.3) 3 verletzt, und die Ereignisse A1 , A2 , A3 sind nicht unabh¨angig. Um f¨ur gr¨oßere Familien von Ereignissen Unabh¨angigkeit zu definieren, m¨ussen wir die G¨ultigkeit von Produktformeln wie (2.2) und (2.3) nunmehr nicht nur f¨ur Paare und Tripel fordern, sondern f¨ur alle endlichen Teilfamilien. Wir treffen daher die folgende Definition. Definition 2.3 (Unabh¨angigkeit von Ereignissen). Sei I eine beliebige Indexmenge, und sei (Ai )i∈I eine beliebige Familie von Ereignissen. Die Familie (Ai )i∈I heißt unabh¨angig, falls f¨ur jede endliche Teilmenge J ⊂ I gilt, dass ' ( Aj = P[Aj ]. P j∈J
j∈J
Das wichtigste Beispiel f¨ur eine unendlich große, unabh¨angige Familie von Ereignissen wird durch die unendliche (unabh¨angige) Wiederholung eines Zufallsexperiments gegeben. Beispiel 2.4. Sei E eine endliche Menge (die m¨oglichen Ausg¨ange des einzelnen Experiments) und (pe )e∈E ein Wahrscheinlichkeitsvektor auf E. Sei (wie in Satz 1.64) der Wahrscheinlichkeitsraum Ω = E N ausgestattet mit der σ-Algebra ⊗N
A = σ({[ω1 , . . . , ωn ] : ω1 , . . . , ωn ∈ E, n ∈ N}) und P = das e∈E pe δe n * ) pωi . Sei Produktmaß (oder Bernoulli-Maß) auf (Ω, A), also P [ω1 , . . . , ωn ] = i=1
A˜i ⊂ E f¨ur jedes i ∈ N, und Ai das Ereignis, dass A˜i im i-ten Durchgang des Experiments auftritt, also
= [ω1 , . . . , ωi ]. Ai = ω ∈ Ω : ωi ∈ A˜i ˜i (ω1 ,...,ωi )∈E i−1 ×A
Nach unserer Intuition sollte die Familie (Ai )i∈N unabh¨angig sein, wenn die Definition der Unabh¨angigkeit sinnvoll sein soll. Wir weisen jetzt nach, dass dies in der Tat richtig ist. Sei J ⊂ N endlich und n := max J. Wir setzen formal Bj = Aj und ˜j = E f¨ur j ∈ {1, . . . , n} \ J. Dann ist ˜j = A˜j f¨ur j ∈ J und Bj = Ω und B B
52
2 Unabh¨angigkeit
P
+
, + , + , n Aj = P Bj = P Bj
j∈J
j=1
j∈J
=
···
˜1 e 1 ∈B
n
pej =
˜n j=1 e n ∈B
n j=1
˜j e∈B
Dies gilt speziell nat¨urlich f¨ur #J = 1, also ist P[Ai ] = Es folgt + , P Aj = P[Aj ]. j∈J
pe
=
j∈J
˜i e∈A
pe .
˜j e∈A
pe f¨ur jedes i ∈ N. (2.4)
j∈J
Da dies f¨ur alle endlichen J ⊂ N gilt, ist die Familie (Ai )i∈N unabh¨angig.
3
Sind A und B unabh¨angig, so sind auch Ac und B unabh¨angig, denn P[Ac ∩ B] = P[B] − P[A ∩ B] = P[B] − P[A]P[B] = (1 − P[A])P[B] = P[Ac ]P[B]. Wir wollen diese Beobachtung etwas verallgemeinern und als Satz festhalten. Satz 2.5. Sei I eine beliebige Indexmenge, und sei (Ai )i∈I eine Familie von Ereignissen. Setze Bi0 = Ai und Bi1 = Aci f¨ur i ∈ I. Dann sind folgende drei Aussagen a¨ quivalent. (i) Die Familie (Ai )i∈I ist unabh¨angig. (ii) Es gibt ein α ∈ {0, 1}I , sodass die Familie (Biαi )i∈I unabh¨angig ist. (iii) F¨ur jedes α ∈ {0, 1}I ist die Familie (Biαi )i∈I unabh¨angig. ¨ Beweis. Ubung!
2
Beispiel 2.6 (Euler’sche Primzahlformel). Die Riemann’sche Zetafunktion ist definiert durch die Dirichlet-Reihe ζ(s) :=
∞
n−s
f¨ur s ∈ (1, ∞).
n=1
Die Euler’sche Primzahlformel ist die Produktdarstellung −1 1 − p−s ζ(s) = ,
(2.5)
p∈P
wobei P := {p ∈ N : p ist Primzahl} ist. Wir beweisen die Produktdarstellung probabilistisch. Sei Ω = N und (f¨ur festes s) P definiert durch P[{n}] = ζ(s)−1 n−s f¨ur n ∈ N. Sei pN = {pn : n ∈ N} und Pn = {p ∈ P : p ≤ n}. Wir fassen pN ⊂ Ω als Ereignis auf und bemerken, dass (pN, p ∈ P) unabh¨angig ist. In der Tat: F¨ur k ∈ N k und unterschiedliche p1 , . . . , pk ∈ P ist i=1 (pi N) = (p1 · · · pk )N, also
2.1 Unabh¨angigkeit von Ereignissen
P
k
. (pi N) =
53
∞ ) * P {p1 · · · pk n} n=1
i=1
= ζ(s)−1 (p1 · · · pk )−s
∞
n−s
n=1
= (p1 · · · pk )−s =
k
P[ pi N ].
i=1
Nach Satz 2.5 ist nun auch ((pN)c , p ∈ P) unabh¨angig. Deshalb gilt + , c ζ(s)−1 = P[{1}] = P (pN) = lim P n→∞
= lim
n→∞
'
p∈P
(pN)c
(
p∈Pn
1 − P[ pN ] = 1 − p−s .
p∈Pn
p∈P
3
Damit ist (2.5) gezeigt.
Wenn wir einen W¨urfel unendlich oft werfen, wie groß ist die Wahrscheinlichkeit, dass unendlich oft (also: immer wieder mal) eine Sechs geworfen wird? Diese Wahrscheinlichkeit sollte Eins sein, denn sonst g¨abe es einen letzten Zeitpunkt, zu dem eine Sechs f¨allt und danach nicht wieder. Dies w¨are zumindest nicht sehr plausibel. Man erinnere sich daran, wie wir mit Hilfe des Limes superior (Definition 1.13) formalisiert hatten, dass unendlich viele Ereignisse aus einer Familie von Ereignissen eintreten. Der folgende Satz best¨atigt nun unsere oben ge¨außerte Vermutung und gibt zudem Auskunft dar¨uber, unter welchen Bedingungen wir nicht erwarten k¨onnen, dass unendlich viele der Ereignisse eintreten. Satz 2.7 (Lemma von Borel-Cantelli). Seien A1 , A2 , . . . Ereignisse, und sei A∗ = lim sup An . n→∞
(i) Ist
∞
n=1 P[An ]
< ∞, so ist P[A∗ ] = 0. (Hier kann P ein beliebiges Maß
auf (Ω, A) sein.) (ii) Ist (An )n∈N unabh¨angig und
∞ n=1
P[An ] = ∞, so ist P[A∗ ] = 1.
Beweis. (i) Da P stetig von oben und σ-subadditiv ist, ist nach Voraussetzung . - ∞ ∞ P[A∗ ] = lim P Am ≤ lim P[Am ] = 0. n→∞
m=n
n→∞
m=n
54
2 Unabh¨angigkeit
(ii) Offensichtlich ist log(1 − x) ≤ −x f¨ur x ∈ [0, 1]. Nach den de Morgan’schen Regeln und der Stetigkeit von P von unten gilt daher - ∞ ∞ - ∞ . . ) ∗ c* c c P (A ) = P An = lim P An . m→∞
m=1 n=m
n=m
Nun ist aber f¨ur jedes m ∈ N P
+ ∞
, ∞
1 − P[An ] Acn =
n=m
n=m
= exp
∞
log 1 − P[An ]
≤ exp
n=m
−
∞
P[An ] = 0.
2
n=m
Beispiel 2.8. Wir betrachten den unendlich oft wiederholten W¨urfelwurf und fragen nach der Wahrscheinlichkeit, dass unendlich oft die Sechs auftritt. Es ist also Ω = {1, . . . , 6}N , A = (2{1,...,6} )⊗N die Produkt-σ-Algebra und P = ⊗N
1 das Bernoulli-Maß (vergleiche Satz 1.64). Ferner sei An = 6 δe e∈{1,...,6}
{ω ∈ Ω : ωn = 6} das Ereignis, dass beim n-ten Wurf eine Sechs auftritt. Dann ist A∗ = lim sup An das Ereignis, dass unendlich oft eine Sechs auftritt (sien→∞
he Beispiel 1.14). Ferner ist (An )n∈N eine unabh¨angige Familie mit ∞ n=1
∞
P[An ] =
n=1 1 6
= ∞ und deshalb nach dem Lemma von Borel-Cantelli P[A∗ ] = 1.
3
Beispiel 2.9. Wir werfen einen W¨urfel nur einmal und definieren An f¨ur jedes n ∈ N als das Ereignis, dass bei diesem (einen) Wurf eine Sechs geworfen wurde. Man bemerke, dass A1 = A2 = A3 = . . . Dann ist n∈N P[An ] = ∞, jedoch P[A∗ ] = P[A1 ] = 16 . Dies zeigt, dass in Teil (ii) des Lemmas von Borel-Cantelli nicht ohne weiteres auf die Unabh¨angigkeit verzichtet werden kann. 3 Beispiel 2.10. Sei Λ ∈ (0, ∞) und 0 ≤ λn ≤ Λ f¨ur n ∈ N. Ferner seien Xn , n ∈ N, Poisson-verteilte Zufallsvariablen mit Parametern λn . Dann gilt ) * P Xn ≥ n f¨ur unendlich viele n = 0. Es ist n¨amlich ∞
P[Xn ≥ n] =
n=1
=
∞ ∞ n=1 m=n ∞ m m=1 n=1
P[Xn = m] = e−λn
λm n ≤ m!
∞ m
m=1 n=1 ∞ m
m
m=1
P[Xn = m]
Λ = Λ eΛ < ∞. m!
3
2.1 Unabh¨angigkeit von Ereignissen
55
Da im obigen Satz, zumindest im Falle unabh¨angiger Ereignisse, nur die Wahrscheinlichkeiten P[A∗ ] = 0 und P[A∗ ] = 1 auftreten k¨onnen, z¨ahlt das Lemma von Borel-Cantelli zu den so genannten 0-1 Gesetzen. Wir werden sp¨ater weitere 0-1 Gesetze kennen lernen (siehe beispielsweise Satz 2.37). Wir wollen jetzt den Begriff der Unabh¨angigkeit von Familien von Ereignissen auf Familien von Ereignissystemen ausdehnen. Definition 2.11 (Unabh¨angigkeit von Mengensystemen). Sei I eine beliebige Indexmenge und Ei ⊂ A f¨ur jedes i ∈ I. Die Familie (Ei )i∈I heißt unabh¨angig, falls f¨ur jede endliche Teilmenge J ⊂ I und f¨ur jede Wahl von Ej ∈ Ej , j ∈ J, gilt, dass + , Ej = P[Ej ]. (2.6) P j∈J
j∈J
Beispiel 2.12. Sei (Ω, A, P) wie in Beispiel 2.4 der Produktraum der unendlichen Wiederholung des Experiments mit Ausg¨angen in der endlichen Menge E mit Wahrscheinlichkeitsvektor p = (pe )e∈E . Setze f¨ur i ∈ N
Ei = {ω ∈ Ω : ωi ∈ A} : A ⊂ E . Dann ist f¨ur jede Wahl von Ai ∈ Ei , i ∈ N, die Familie (Ai )i∈N unabh¨angig, also ist (Ei )i∈N unabh¨angig. 3 Satz 2.13. gilt (ii) (Ei )i∈I
(i) Sei I endlich, und f¨ur jedes i ∈ I sei Ei ⊂ A mit Ω ∈ Ei . Dann (Ei )i∈I ist unabh¨angig ⇐⇒ (2.6) gilt f¨ur J = I.
ist unabh. ⇐⇒ (Ej )j∈J ist unabh. f¨ur alle endlichen J ⊂ I .
(iii) Ist (Ei ∪ {∅}) ∩-stabil, dann gilt (Ei )i∈I ist unabh¨angig
⇐⇒ (σ(Ei ))i∈I ist unabh¨angig.
(iv) Sei K eine beliebige Menge und (Ik )k∈K paarweise disjunkte Teilmengen
von I. Ist (Ei )i∈I unabh¨angig, dann ist auch E angig. i∈Ik i k∈K unabh¨ Beweis. (i) =⇒ “ Dies ist trivial. ” (i) ⇐= “ F¨ur J ⊂ I und j ∈ I \ J w¨ahle Ej = Ω. ” (ii) Dies ist trivial. (iii) ⇐= “ ”
Dies ist trivial.
56
2 Unabh¨angigkeit
(iii) =⇒ “ Sei J ⊂ I endlich. Wir zeigen: F¨ur je zwei endliche Mengen J und ” J mit J ⊂ J ⊂ I gilt + , Ei ∈ σ(Ei ), falls i ∈ J, (2.7) Ei = P[Ei ] f¨ur jede Wahl P Ei ∈ Ei , falls i ∈ J \ J. i∈J i∈J Mit J = J ist dies genau die zu zeigende Aussage. Wir f¨uhren den Beweis von (2.7) durch vollst¨andige Induktion nach #J. F¨ur #J = 0 gilt (2.7) nach Voraussetzung des Satzes. Es gelte nun (2.7) f¨ur jedes J mit #J = n und jedes endliche J ⊃ J. Sei solch ein J gew¨ahlt und j ∈ I \ J. Sei J ⊃ J˜ := J ∪ {j}. Wir zeigen nun die G¨ultigkeit von (2.7) mit J˜ statt mit J. Wegen #J˜ = n + 1 ist damit der Induktionsschritt gezeigt. Sei Ei ∈ σ(Ei ) f¨ur jedes i ∈ J und Ei ∈ Ei f¨ur jedes i ∈ J \ (J ∪ {j}). Wir definieren Maße μ und ν auf (Ω, A) durch + , Ei P[Ei ]. und ν : Ej → μ : Ej → P i∈J
i∈J
Nach Induktionsvoraussetzung (2.7) gilt μ(Ej ) = ν(Ej ) f¨ur jedes Ej ∈ Ej ∪{∅, Ω}. Da Ej ∪ {∅} schnittstabil ist, gilt nach Lemma 1.42 auch μ(Ej ) = ν(Ej ) f¨ur jedes Ej ∈ σ(Ej ), das heißt, es gilt (2.7) mit J ∪ {j} statt J. (iv)
Dies ist trivial, weil (2.6) nur f¨ur J ⊂ I mit #(J ∩ Ik ) ≤ 1
f¨ur jedes k ∈ K,
nachgewiesen werden muss.
2
2.2 Unabh¨angigkeit von Zufallsvariablen Nachdem wir Unabh¨angigkeit von Ereignissen behandelt haben, wollen wir auch Unabh¨angigkeit von Zufallsvariablen betrachten. Auch hier l¨auft die Definition auf eine Produktformel hinaus. Formal k¨onnen wir jedoch die Unabh¨angigkeit der von Zufallsvariablen erzeugten σ-Algebren als Definition heranziehen. Wir k¨onnen dann Verteilungen von Summen unabh¨angiger Zufallsvariablen vermittels Faltung ausrechnen. Da wir an dieser Stelle noch keinen allgemeinen Integralbegriff zur Verf¨ugung haben, bringen wir die Faltung zun¨achst nur f¨ur Zufallsvariablen mit ganzzahligen Werten. Sei I eine beliebige Indexmenge, und f¨ur jedes i ∈ I sei (Ωi , Ai ) ein Messraum sowie Xi : (Ω, A) → (Ωi , Ai ) eine Zufallsvariable mit erzeugter σ-Algebra σ(Xi ) = Xi−1 (Ai ).
2.2 Unabh¨angigkeit von Zufallsvariablen
57
Definition 2.14 (Unabh¨angigkeit von Zufallsvariablen). Die Familie (Xi )i∈I von Zufallsvariablen heißt unabh¨angig, falls die Familie (σ(Xi ))i∈I von σAlgebren unabh¨angig ist. Wir schreiben, dass (Xi )i∈I u.i.v.“ ist, f¨ur unabh¨angig und identisch verteilt“ ” ” (englisch: i.i.d.“ f¨ur independent and identically distributed“), falls (Xi )i∈I un” ” abh¨angig ist und PXi = PXj f¨ur alle i, j ∈ I gilt. Bemerkung 2.15. (i) Offenbar ist die Familie (Xi )i∈I genau dann unabh¨angig, wenn f¨ur jede endliche Menge J ⊂ I und f¨ur jede Wahl Aj ∈ Aj , j ∈ J gilt, dass ' ( P Aj = P[Aj ]. j∈J
j∈J
Im folgenden Satz werden wir sehen, dass es reicht, diese Bedingung f¨ur Aj aus einem ∩-stabilen Erzeuger von Aj nachzupr¨ufen. (ii) Ist (A˜i )i∈I eine unabh¨angige Familie von σ-Algebren und ist jedes Xi messbar bez¨uglich A˜i – Ai , so ist (Xi )i∈I unabh¨angig. Dies ist klar, weil σ(Xi ) ⊂ A˜i , also die Bedingung an die Unabh¨angigkeit von (Xi )i∈I schw¨acher ist als die Bedingung an die Unabh¨angigkeit von (A˜i )i∈I . (iii) F¨ur jedes i ∈ I sei (Ωi , Ai ) ein weiterer Messraum sowie fi : (Ωi , Ai ) → (Ωi , Ai ) eine messbare Abbildung. Ist (Xi )i∈I unabh¨angig, so ist (fi ◦ Xi )i∈I unabh¨angig. Diese Aussage ist ein Spezialfall von (i), weil fi ◦Xi messbar ist bez¨uglich σ(Xi ) – Ai (siehe Satz 1.80). 3 Satz 2.16 (Unabh¨angigkeit von Erzeugern). F¨ur jedes i ∈ I sei Ei ⊂ Ai ein schnittstabiler Erzeuger von Ai . Ist (Xi−1 (Ei ))i∈I unabh¨angig, so ist (Xi )i∈I unabh¨angig. Beweis. Nach Satz 1.81(iii) ist Xi−1 (Ei ) ein schnittstabiler Erzeuger der σ-Algebra Xi−1 (Ai ) = σ(Xi ). Mit Satz 2.13 folgt die Aussage. 2 Beispiel 2.17. Sei E eine h¨ochstens abz¨ahlbare Menge, und seien (Xi )i∈I Zufallsvariablen mit Werten in (E, 2E ). In diesem Falle ist (Xi )i∈I genau dann unabh¨angig, wenn f¨ur jede endliche Teilmenge J ⊂ I und jede Wahl von xj ∈ E, j ∈ J, gilt, dass * ) P[Xj = xj ]. P Xj = xj f¨ur jedes j ∈ J =
j∈J
Dies ist klar, weil {x} : x ∈ E ∪ {∅} ein schnittstabiler Erzeuger von 2E ist,
also Xi−1 ({xi }) : xi ∈ E ∪ {∅} ein schnittstabiler Erzeuger von σ(Xi ) ist (Satz 1.81). 3
58
2 Unabh¨angigkeit
Beispiel 2.18. Sei E eine endliche Menge und p = (pe )e∈E ein Wahrscheinlichkeitsvektor. Wir wollen das zu E und p geh¨orige Zufallsexperiment unendlich oft unabh¨angig wiederholen (siehe Beispiel 1.40 und Satz 1.64). Sei Ω = E N der unendliche Produktraum und A die von den endlichen Zylindermengen (siehe (1.8))
⊗N erzeugte σ-Algebra sowie P = das Bernoulli-Maß. Ferner sei f¨ur e∈E pe δe jedes n ∈ N (ωm )m∈N → ωn , Xn : Ω → E, die Projektion auf die n-te Koordinate. Mit anderen Worten: Zu jedem Elementarereignis ω ∈ Ω liefert Xn (ω) das Ergebnis des n-ten Experiments. Dann gilt nach (2.4) (in Beispiel 2.4) f¨ur n ∈ N und x ∈ E n + , n ) * ) * −1 P Xj = xj f¨ur jedes j = 1, . . . , n = P [x1 , . . . , xn ] = P Xj ({xj }) j=1
=
n
n ) * P Xj−1 ({xj }) = P[Xj = xj ],
j=1
j=1
sowie P[Xj = xj ] = pxj . Nach Satz 2.13(i) sind also (X1 , . . . , Xn ) unabh¨angig 3 und nach Satz 2.13(ii) auch (Xn )n∈N . Speziell haben wir den folgenden Satz gezeigt. Satz 2.19. Sei E eine endliche Menge und (pe )e∈E ein Wahrscheinlichkeitsvektor auf E. Dann existiert ein Wahrscheinlichkeitsraum (Ω, A, P) und eine unabh¨angige Familie (Xn )n∈N von E-wertigen Zufallsvariablen auf (Ω, A, P) mit P[Xn = e] = pe f¨ur jedes e ∈ E. Wir werden sp¨ater sehen, dass wir auf die Endlichkeit von E verzichten k¨onnen und auch unterschiedliche Verteilungen zulassen k¨onnen. F¨ur den Moment gibt uns dieser Satz aber gen¨ugend Beispiele f¨ur abz¨ahlbare Familien von unabh¨angigen Zufallsvariablen an die Hand. Wir wollen nun einfache Kriterien zur Pr¨ufung der Unabh¨angigkeit von Zufallsvariablen herleiten, die sich mit Hilfe von Verteilungsfunktionen beziehungsweise Dichten ausdr¨ucken lassen. Definition 2.20. F¨ur jedes i ∈ I sei Xi eine reelle Zufallsvariable. F¨ur jede endliche Teilmenge J ⊂ I sei FJ := F(Xj )j∈J : RJ → [0, 1],
+ , *
) −1 Xj (−∞, xj ] . x → P Xj ≤ xj f¨ur jedes j ∈ J = P j∈J
Dann heißt FJ die gemeinsame Verteilungsfunktion von (Xj )j∈J . Das W-Maß P(Xj )j∈J auf RJ heißt gemeinsame Verteilung von (Xj )j∈J .
2.2 Unabh¨angigkeit von Zufallsvariablen
59
Satz 2.21. Eine Familie (Xi )i∈I reeller Zufallsvariablen ist genau dann unabh¨angig, wenn f¨ur jedes endliche J ⊂ I und jedes x = (xj )j∈J ∈ RJ gilt, dass FJ (x) = F{j} (xj ). (2.8) j∈J
Beweis. Das Mengensystem {(−∞, b], b ∈ R} ist ein schnittstabiler Erzeuger der Borel’schen σ-Algebra B(R) (siehe Satz 1.23). Die Gleichung (2.8) besagt nun aber, dass f¨ur jede Wahl von reellen Zahlen (xi )i∈I die Ereignisse (Xi−1 ((−∞, xi ]))i∈I unabh¨angig sind. Nach Satz 2.16 folgt daher die Aussage dieses Satzes. 2 Korollar 2.22. Zus¨atzlich zur Situation von Satz 2.21 nehmen wir an, dass jedes FJ eine stetige Dichte fJ = f(Xj )j∈J hat, das heißt, es gibt eine stetige Abbildung fJ : RJ → [0, ∞) mit xj1 x jn FJ (x) = dt1 · · · dtn fJ (t1 , . . . , tn ) f¨ur jedes x ∈ RJ , −∞
−∞
(wobei J = {j1 , . . . , jn }). Dann ist die Familie (Xi )i∈I genau dann unabh¨angig, wenn f¨ur jedes endliche J ⊂ I gilt fj (xj ) f¨ur jedes x ∈ RJ . (2.9) fJ (x) = j∈J
Korollar 2.23. Seien n ∈ N und μ1 , . . . , μn W-Maße auf (R, B(R)). Dann existiert ein W-Raum (Ω, A, P) und eine unabh¨angige Familie von Zufallsvariablen (Xi )i=1,...,n auf (Ω, A, P) mit PXi = μi f¨ur jedes i = 1, . . . , n. /n Beweis. Sei Ω = Rn und A = B(Rn ) sowie P = i=1 μi das Produktmaß der μi (siehe Satz 1.61). Ferner sei Xi : Rn → R, (x1 , . . . , xn ) → xi die Projektion auf die i-te Koordinate f¨ur jedes i = 1, . . . , n. Dann ist f¨ur jedes i = 1, . . . , n * ) F{i} (x) = P[Xi ≤ x] = P Ri−1 × (−∞, x] × Rn−i
μj (R) = μi (−∞, x] . = μi (−∞, x] · j =i
Also gilt tats¨achlich PXi = μi . Ferner ist f¨ur x1 , . . . , xn ∈ R + F{1,...,n} ((x1 , . . . , xn )) = P
, n n
(−∞, xi ] = μi (−∞, xi ] = F{i} (xi ).
× n
i=1
i=1
i=1
Nach Satz 2.21 (und Satz 2.13(i)) folgt die Unabh¨angigkeit von (Xi )i=1,...,n .
2
60
2 Unabh¨angigkeit
Beispiel 2.24. Seien X1 , . . . , Xn unabh¨angige, exponentialverteilte Zufallsvariab0x len mit Parametern θ1 , . . . , θn ∈ (0, ∞). Dann ist F{i} (x) = 0 θi exp(−θi t) dt = 1 − exp(−θi x) f¨ur x ≥ 0 und daher n
F{1,...,n} (x1 , . . . , xn ) = 1 − e−θi xi . i=1
Betrachte nun die Zufallsvariable Y = max(X1 , . . . , Xn ). Dann ist ) * FY (x) = P Xi ≤ x f¨ur jedes i = 1, . . . , n n
= F{1,...,n} (x, . . . , x) = 1 − e−θi x . i=1
F¨ur die Zufallsvariable Z := min(X1 , . . . , Xn ) hat die Verteilungsfunktion eine sch¨one geschlossene Form FZ (x) = 1 − P[Z > x] * ) = 1 − P Xi > x f¨ur jedes i = 1, . . . , n n
e−θi x = 1 − exp − (θ1 + . . . + θn ) x . =1− i=1
Mit anderen Worten: Z ist exponentialverteilt mit Parameter θ1 + . . . + θn .
3
Beispiel 2.25. Seien μi ∈ R und σi2 > 0, i ∈ I, sowie (Xi )i∈I reell mit gemeinsamen Dichtefunktionen (f¨ur endliches J ⊂ I) 1 (xj − μj )2 2 −2 2πσj exp − fJ (x) = f¨ur x ∈ RJ . 2σj2 j∈J
j∈J
Dann sind die (Xi )i∈I unabh¨angig, und Xi ist normalverteilt mit Parametern (μi , σi2 ). F¨ur jedes endliche I = {i1 , . . . , in } (mit paarweise unterschiedlichen i1 , . . . , in ) ist der Vektor Y = (Xi1 , . . . , Xin ) n-dimensional normalverteilt mit μ = μI := (μi1 , . . . , μin ) und Σ = Σ I die Diagonalmatrix mit Eintr¨agen σi21 , . . . , σi2n (vergleiche Beispiel 1.105(ix)). 3 Satz 2.26. Sei K eine beliebige Menge und Ik , k ∈ K, beliebige paarweise disIk . junkte Indexmengen sowie I = k∈K
Ist die Familie (Xi )i∈I unabh¨angig, dann sind auch die σ-Algebren (σ(Xj , j ∈ Ik ))k∈K unabh¨angig.
2.2 Unabh¨angigkeit von Zufallsvariablen
61
Beweis. Sei f¨ur k ∈ K 1 2 Zk = Aj : Aj ∈ σ(Xj ), #{j ∈ Ik : Aj = Ω} < ∞ j∈Ik
der Ring der endlichdimensionalen Zylinder. Offenbar ist Zk schnittstabil und σ(Zk ) = σ(Xj , j ∈ Ik ). Also reicht es nach Satz 2.13(iii) zu zeigen, dass (Zk )k∈K unabh¨angig ist. Nach Satz 2.13(ii) k¨onnen wir sogar annehmen, dass K endlich ist. F¨ur k ∈ K seien nun Bk ∈ Zkund Jk ⊂ Ik endlich mit Bk = j∈Jk Aj f¨ur gewisse Aj ∈ σ(Xj ). Setze J = k∈K Jk . Dann ist , + , + Bk = P Aj = P[Aj ] = P[Aj ] = P[Bk ]. 2 P j∈J
k∈K
j∈J
k∈K j∈Jk
k∈K
Beispiel 2.27. Sind (Xn )n∈N unabh¨angige, reelle Zufallsvariablen, dann sind auch (Yn )n∈N = (X2n − X2n−1 )n∈N unabh¨angig. In der Tat ist f¨ur jedes n ∈ N die Zufallsvariable Yn schon messbar bez¨uglich σ(X2n , X2n−1 ) nach Satz 1.91, und 3 (σ(X2n , X2n−1 ))n∈N ist unabh¨angig nach Satz 2.26. Beispiel 2.28. Seien (Xm,n )(m,n)∈N2 unabh¨angige Bernoulli-Zufallsvariablen mit Parameter p ∈ (0, 1). Sei
Ym := inf n ∈ N : Xm,n = 1 − 1 die Wartezeit auf den ersten Erfolg“ in der m-ten Zeile der Matrix (Xm,n )m,n . ” Dann sind (Ym )m∈N unabh¨angige, geometrisch verteilte Zufallsvariablen mit Parameter p (siehe Beispiel 1.105(iii)). Denn: {Ym ≤ k} =
k+1
{Xm,l = 1} ∈ σ(Xm,l , l = 1, . . . , k + 1) ⊂ σ(Xm,l , l ∈ N).
l=1
Also ist Ym messbar bez¨uglich σ(Xm,l , l ∈ N), und damit ist (Ym )m∈N unabh¨angig. Ferner ist P[Ym > k] = P[Xm,l = 0, l = 1, . . . , k + 1] =
k+1
P[Xm,l = 0] = (1 − p)k+1 .
l=1
Es folgt P[Ym = k] = P[Ym > k − 1] − P[Ym > k] = p(1 − p)k .
3
Definition 2.29 (Faltung). Seien μ und ν W-Maße auf (Z, 2Z ). Wir definieren die Faltung μ ∗ ν als das W-Maß auf (Z, 2Z ) mit (μ ∗ ν)({n}) =
∞
μ({m}) ν({n − m}).
m=−∞
Wir definieren die n-te Faltungspotenz rekursiv durch μ∗1 = μ und μ∗(n+1) = μ∗n ∗ μ.
62
2 Unabh¨angigkeit
Bemerkung 2.30. Es gilt μ ∗ ν = ν ∗ μ.
3
Satz 2.31. Sind X und Y unabh¨angige Z-wertige Zufallsvariablen, so gilt PX+Y = PX ∗ PY . Beweis. F¨ur jedes n ∈ Z gilt PX+Y ({n}) = P[X + Y = n] + , =P {X = m} ∩ {Y = n − m} m∈Z
=
) * P {X = m} ∩ {Y = n − m}
m∈Z
=
PX [{m}] PY [{n − m}] = (PX ∗ PY )[{n}].
2
m∈Z
Auf Grund dieses Satzes liegt es nahe, die Faltung von zwei Wahrscheinlichkeitsmaßen auf Rn (oder allgemeiner: auf abelschen Gruppen) als die Verteilung der Summe zweier unabh¨angiger Zufallsvariablen mit den entsprechenden Verteilungen zu definieren. Wir werden sp¨ater eine andere Definition kennen lernen, die nat¨urlich zu dieser a¨ quivalent ist, jedoch auf den Integralbegriff zur¨uckgreift, der hier noch nicht verf¨ugbar ist (siehe Definition 14.17). Definition 2.32 (Faltung von Maßen). Seien μ und ν W-Maße auf Rn , und seien X und Y unabh¨angige Zufallsvariablen mit PX = μ und PY = ν. Dann definieren wir die Faltung von μ und ν durch μ ∗ ν = PX+Y . Iterativ definieren wir die Faltungspotenzen μ∗k f¨ur k ∈ N sowie μ∗0 = δ0 . Beispiel 2.33. Seien X und Y unabh¨angig und Poisson-verteilt mit Parametern μ, λ ≥ 0. Dann gilt P[X + Y = n] = e−μ e−λ
=e
−(μ+λ)
n μm λn−m m! (n − m)! m=0 n 1 n m n−m (μ + λ)n . = e−(μ+λ) μ λ n! m=0 m n!
Also ist Poiμ ∗ Poiλ = Poiμ+λ .
3
2.3 Kolmogorov’sches 0-1 Gesetz
63
¨ Ubung 2.2.1. Seien X und Y unabh¨angige Zufallsvariablen mit X ∼ expθ und Y ∼ expρ f¨ur gewisse θ, ρ > 0. Man zeige: P[X < Y ] =
θ . θ+ρ
♣
¨ Ubung 2.2.2 (Box-Muller Methode). Seien U und V unabh¨angige, uniform auf [0, 1] verteilte Zufallsvariablen. Setze 3 3 X := −2 log(U ) cos(2πV ) und Y := −2 log(U ) sin(2πV ). Man zeige: X und Y sind unabh¨angig und N0,1 -verteilt. 3 Hinweis: Man berechne zun¨achst die Verteilung von −2 log(U ) und benutze die Transformationsformel f¨ur Dichten (Satz 1.101) sowie Polarkoordinatentransformation. ♣
2.3 Kolmogorov’sches 0-1 Gesetz Mit dem Lemma von Borel-Cantelli haben wir bereits ein 0-1 Gesetz f¨ur unabh¨angige Ereignisse kennen gelernt. Wir kommen jetzt zu einem weiteren 0-1 Gesetz f¨ur unabh¨angige Ereignisse, beziehungsweise σ-Algebren. Um dies zu formulieren, m¨ussen wir zun¨achst den Begriff der terminalen σ-Algebra einf¨uhren. Definition 2.34 (Terminale σ-Algebra). Sei I eine abz¨ahlbar unendliche Indexmenge und (Ai )i∈I eine Familie von σ-Algebren. Dann heißt
T (Ai )i∈I := σ Aj J⊂I #J<∞
j∈I\J
die terminale σ-Algebra (oder das tail σ-field) von (Ai )i∈I . Sind (Ai )i∈I Ereignisse, so setzen wir
T (Ai )i∈I := T ({∅, Ai , Aci , Ω})i∈I .
Ist (Xi )i∈I eine Familie von Zufallsvariablen, so setzen wir T (Xi )i∈I := T (σ(Xi ))i∈I . In der terminalen σ-Algebra sind alle diejenigen Ereignisse A enthalten, deren Eintreten von jeder festen endlichen Teilfamilie der Xi nicht abh¨angt. Anders gesagt: f¨ur jede endliche Teilfamilie der Xi k¨onnen wir die Werte dieser Xi willk¨urlich a¨ ndern, ohne dass sich dadurch am Eintreten von A etwas a¨ nderte.
64
2 Unabh¨angigkeit
Satz 2.35.
Seien J1 , J2 ,. . . endliche Mengen mit Jn ↑ I. Dann ist T (Ai )i∈I = ∞ n=1 σ m∈I\Jn Am . ∞ ∞
Ist speziell I = N, so ist T (An )n∈N = σ Am . n=1
m=n
Von dem Fall I = N, wo I als Menge von Zeitpunkten interpretiert wird, r¨uhrt der Begriff terminale σ-Algebra her. Wie aus dem Satz hervorgeht, liegen in T nur die Ereignisse, die nicht von den ersten endlich vielen Zeitpunkten abh¨angen, u¨ ber deren Eintreten man also erst terminal eine Aussage machen kann. Beweis. ⊂“ Dies ist klar. ” ⊃“ Sei Jn ↑ I mit endlichen Mengen Jn ⊂ I, n ∈ N, und sei J ⊂ I endlich. ” Dann existiert ein N ∈ N mit J ⊂ JN , und es ist ∞ σ n=1
m∈I\Jn
N Am ⊂ σ n=1
=σ
m∈I\Jn
m∈I\JN
Am
Am
⊂ σ
m∈I\J
Am .
Die linke Seite h¨angt nicht von J ab, also k¨onnen wir den Schnitt u¨ ber alle endlichen J bilden und erhalten ∞ σ
m∈I\Jn
n=1
Am ⊂ T (Ai )i∈I .
2
Es ist vielleicht nicht so ohne weiteres klar, dass es u¨ berhaupt noch interessante Ereignisse in der terminalen σ-Algebra gibt. Vielleicht ist nicht einmal a priori klar, dass nicht etwa T = {∅, Ω} gilt. Daher geben wir jetzt erst einmal einfache Beispiele f¨ur terminale Ereignisse beziehungsweise terminal messbare Zufallsvariablen an. In Abschnitt 2.4 werden wir ein weiteres Beispiel kennen lernen. Beispiel 2.36. (i) Seien A1 , A2 , . . . Ereignisse. Dann sind die Ereignisse A∗ := lim inf An und A∗ := lim sup An in T ((An )n∈N ). Setzen wir n¨amlich Bn := n→∞ ∞
m=n
n→∞
Am f¨ur n ∈ N, dann gilt Bn ↑ A∗ und Bn ∈ σ((Am )m≥N ) f¨ur jedes n ≥ N .
Also ist A∗ ∈ σ((Am )m≥N ) f¨ur jedes N ∈ N und damit A∗ ∈ T ((An )n∈N ). F¨ur A∗ geht dies analog. (ii) Ist (Xn )n∈N eine Familie R-wertiger Zufallsvariablen, so sind auch die Abbildungen X∗ := lim inf n→∞ Xn und X ∗ := lim supn→∞ Xn messbar bez¨uglich T ((Xn )n∈N ). In der Tat: Setzen wir Yn := supm≥n Xm , so ist f¨ur jedes N ∈ N die Zufallsvariable X ∗ = inf n≥1 Yn = inf n≥N Ynmessbar bez¨uglich TN := ∞ σ(Xn , n ≥ N ), also auch bez¨uglich T ((Xn )n∈N ) = n=1 Tn .
2.3 Kolmogorov’sches 0-1 Gesetz
65
F¨ur X∗ geht dies analog. (iii) Seien (Xn )n∈N reellwertige Zufallsvariablen. Dann sind die Ces`aro-Limiten 1 Xi n i=1 n
lim inf n→∞
1 Xi n i=1 n
und
lim sup n→∞
messbar bez¨uglich T ((Xn )n∈N ). Um dies zu zeigen, w¨ahlen wir ein N ∈ N und beachten, dass n n 1 1 X∗ := lim inf Xi = lim inf Xi n→∞ n n→∞ n i=1 i=N
σ((Xn )n≥N )-messbar ist. Da dies f¨ur jedes N gilt, ist X∗ auch T ((Xn )n∈N )messbar. F¨ur den Limes superior geht das analog. 3 Satz 2.37 (Kolmogorov’sches 0-1 Gesetz). Sei I eine abz¨ahlbar unendliche Indexmenge, und sei (Ai )i∈I eine unabh¨angige Familie von σ-Algebren. Dann ist die terminale σ-Algebra P-trivial, das heißt, es gilt P[A] ∈ {0, 1}
f¨ur jedes A ∈ T ((Ai )i∈I ).
Beweis. Es reicht, den Fall I = N zu betrachten. F¨ur n ∈ N sei 2 1 n Fn := Ak : A1 ∈ A1 , . . . , An ∈ An . k=1
∞
Dann ist F := n=1 Fn ein Semiring und σ(F) = σ( n∈N An ). In der Tat ist f¨ur jedes n ∈ N und An ∈ An auch An ∈ F, also σ( n∈N An ) ⊂ σ(F). Andererseits m ist Fm ⊂ σ( n=1 An ) ⊂ σ( n∈N An ) f¨ur jedes m ∈ N, also F ⊂ σ( n∈N An ). Sei A ∈ T ((An )n∈N ), und sei ε > 0. Nach dem Approximationssatz f¨ur Maße (Satz 1.65) existiert ein N ∈ N und paarweise disjunkte Mengen F1 , . . . , FN ∈ F mit P[A (F1 ∪ . . . ∪ FN )] < ε. Nach Definition von F existiert ein n ∈ N mit F1 , . . . ,FN ∈ Fn . Also gilt F := F1 ∪ . . . ∪ FN ∈ σ(A1 ∪ . . . ∪ An ). Offenbar ist A ∈ σ( ∞ angig von F . Daher ist m=n+1 Am ), also ist A unabh¨
ε > P[A \ F ] = P[A ∩ (Ω \ F )] = P[A] 1 − P[F ] ≥ P[A] 1 − P[A] − ε .
Da ε > 0 beliebig war, folgt 0 = P[A] 1 − P[A] . 2 Korollar 2.38. Sei (An )n∈N eine Folge unabh¨angiger Ereignisse. Dann gilt ( ' ( ' P lim sup An ∈ {0, 1} und P lim inf An ∈ {0, 1}. n→∞
n→∞
66
2 Unabh¨angigkeit
Beweis. Dies ist im Grunde eine Schlussfolgerung aus dem Lemma von BorelCantelli. Allerdings folgt es auch direkt aus dem Kolmogorov’schen 0-1 Gesetz, da Limes superior und Limes inferior in der terminalen σ-Algebra liegen. 2 Korollar 2.39. Sei (Xn )n∈N eine unabh¨angige Familie von R-wertigen Zufallsvariablen. Dann sind X∗ := lim inf n→∞ Xn und X ∗ := lim supn→∞ Xn fast sicher konstant, das heißt, es gibt x∗ , x∗ ∈ R mit P[X∗ = x∗ ] = 1 und P[X ∗ = x∗ ] = 1. Falls alle Xi sogar reellwertig sind, so sind auch die Ces`aro-Limiten 1 Xi n i=1 n
lim inf n→∞
1 Xi n i=1 n
und
lim sup n→∞
fast sicher konstant. Beweis. Sei X∗ := lim inf Xn . F¨ur jedes x ∈ R ist {X∗ ≤ x} ∈ T ((Xn )n∈N ), n→∞
also P[X∗ ≤ x] ∈ {0, 1}. Setze x∗ := inf{x ∈ R : P[X∗ ≤ x] = 1} ∈ R. Ist x∗ = ∞, so ist offenbar P[X∗ < ∞] = lim P[X∗ ≤ n] = 0. n→∞
Ist x∗ ∈ R, so ist
' 1( P[X∗ ≤ x∗ ] = lim P X∗ ≤ x∗ + =1 n→∞ n
und
' 1( = 0. P[X∗ < x∗ ] = lim P X∗ ≤ x∗ − n→∞ n Ist x∗ = −∞, so ist P[X∗ > −∞] = lim P[X∗ > −n] = 0. n→∞
F¨ur den Limes superior sowie f¨ur die Ces`aro-Limiten geht dies analog.
2
¨ Ubung 2.3.1. Man zeige: Ist (Xn )n∈N eine unabh¨angige Familie von Zufallsvariablen mit P[Xn = −1] = P[Xn = +1] = 12 , und ist Sn = X1 + . . . + Xn f¨ur jedes n ∈ N, so ist lim supn→∞ Sn = ∞ fast sicher. ♣
2.4 Beispiel: Perkolation Wir betrachten das d-dimensionale Gitter Zd , wobei jeder Punkt durch je eine Kante mit seinen 2d n¨achsten Nachbarpunkten verbunden ist. Sind x, y ∈ Zd n¨achste
2.4 Beispiel: Perkolation
67
Nachbarn, das heißt x − y2 = 1, so schreiben wir k = x, y! = y, x! f¨ur die Kante, die x und y verbindet. Formal ist die Kantenmenge eine Teilmenge der zweielementigen Teilmengen von Zd :
K = {x, y} : x, y ∈ Zd mit x − y2 = 1 . Etwas allgemeiner ist ein (ungerichteter) Graph G ein Paar G = (V, K), wobei V der Knoten oder Punkte des Graphen) und K ⊂ eine Menge ist (die Menge
{x, y} : x, y ∈ V, x = y eine Teilmenge aller zweielementigen Teilmengen von V (die Menge der Kanten). Da wir unter einer Kante intuitiv eine Verbindung zwischen zwei Punkten x und y verstehen (und nicht das ungeordnete Paar {x, y}), verwenden wir ein anderes Symbol als die Mengenklammern und schreiben x, y! statt {x, y}. Dieses Gitter ist f¨ur uns der Ausgangspunkt f¨ur ein stochastisches Modell eines por¨osen Mediums. Wir stellen uns die Kanten als R¨ohren vor, entlang derer Wasser fließen kann. Nun soll das Medium allerdings nicht v¨ollig homogen wasserdurchl¨assig sein, sondern eine amorphe Struktur besitzen, etwa wie Bimsstein. Zu diesem Zweck wollen wir zuf¨allig einen gewissen Anteil 1 − p (wobei p ∈ [0, 1] ein Parameter ist) der Kanten zerst¨oren, sodass das Wasser nur durch die verbliebenen Kanten fließen kann. Die Frage, die sich stellt, ist, bei welchen Werten von p die intakten R¨ohren unendlich große verbundene Systeme bilden und bei welchen Werten alle verbundenen Systeme nur endliche Gr¨oße haben. Wir kommen jetzt zur formalen Beschreibung des Modells. Wir w¨ahlen einen Parameter p ∈ [0, 1] und eine unabh¨angige Familie identisch verteilter Zufallsvariablen (Xkp )k∈K mit Xkp ∼ Berp , also P[Xkp = 1] = 1 − P[Xkp = 0] = p f¨ur jedes k ∈ K. Dann definieren wir (2.10) K p := {k ∈ K : Xkp = 1} als die Menge der intakten (oder offenen) Kanten. Entsprechend nennen wir die Kanten K \ K p defekt (oder geschlossen). Auf diese Weise haben wir einen (zuf¨alligen) Teilgraphen (Zd , K p ) von (Zd , K) hergestellt. Wir nennen (Zd , K p ) auch ein Perkolationsmodell (genauer: ein Modell f¨ur Kantenperkolation, im Gegensatz zu Punktperkolation, wo die einzelnen Punkte geschlossen oder offen sind). Ein (offener) Pfad (der L¨ange n) in diesem Teilgraphen ist eine Folge π = (x0 , x1 , . . . , xn ) von Punkten in Zd mit xi−1 , xi ! ∈ K p f¨ur jedes i = 1, . . . , n. Wir sagen, dass zwei Punkte x, y ∈ Zd durch einen offenen Pfad verbunden werden k¨onnen, wenn es ein n ∈ N und einen offenen Pfad (x0 , x1 , . . . , xn ) mit x0 = x und xn = y gibt. In die¨ jesem Fall schreiben wir x ←→p y. Offenbar ist ←→p“ eine Aquivalenzrelation, ” doch eine zuf¨allige, weil sie von den Werten der Zufallsvariablen (Xkp )k∈K abh¨angt. F¨ur x ∈ Zd nennen wir C p (x) := {y ∈ Zd : x ←→p y}
(2.11)
den (zuf¨alligen) offenen Cluster von x, also die Zusammenhangskomponente von x in dem Graphen (Zd , K p ).
68
2 Unabh¨angigkeit
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
Abb. 2.1. Perkolation auf einem 15 × 15 Gitter, p = 0.42.
Lemma 2.40. F¨ur je zwei Punkte x, y ∈ Zd ist ½{x←→p y} eine Zufallsvariable. Insbesondere ist #C p (x) eine Zufallsvariable f¨ur jedes x ∈ Zd . Beweis. Ohne Einschr¨ankung k¨onnen wir annehmen, dass x = 0 ist. Wir setzen fn (y) = 1, falls es einen offenen Pfad von 0 nach y der L¨ange h¨ochstens n gibt, und fn (y) = 0 sonst. Offenbar ist fn (y) ↑ ½{0←→p y} , also reicht es, die Messbarkeit von fn zu zeigen. Sei Bn := {−n, −n + 1, . . . , n − 1, n}d und Kn := {k ∈ K : k ∩ Bn = ∅}. Kn
Dann ist Yn := (Xkp : k ∈ Kn ) : Ω → {0, 1}Kn messbar (bez¨uglich 2({0,1} ) ) nach Satz 1.90. Nun ist aber fn eine Funktion von Yn , sagen wir fn = gn ◦ Yn f¨ur gewisses gn : {0, 1}Kn → {0, 1}. Nach dem Verkn¨upfungssatz (Satz 1.80) ist daher fn messbar. 2 Schließlich ist auch #C p (x) = y∈Zd ½{x←→p y} messbar.
2.4 Beispiel: Perkolation
69
Definition 2.41. Wir sagen, dass Perkolation eintritt, falls es (wenigstens) einen unendlich großen, offenen Cluster gibt und nennen ψ(p) := P[es gibt einen unendlich großen, offenen Cluster] ' ( =P {#C p (x) = ∞} x∈Zd
die Perkolationswahrscheinlichkeit. Wir definieren weiterhin die Funktion θ(p) := P[#C p (0) = ∞] als die Wahrscheinlichkeit, dass der Ursprung in einem unendlich großen, offenen Cluster liegt. Auf Grund der Translationsinvarianz des Gitters ist θ(p) = P[#C p (y) = ∞]
f¨ur jedes y ∈ Zd .
(2.12)
Die Grundfrage lautet: Wie groß sind θ(p) und ψ(p) in Abh¨angigkeit von p? Wir machen die folgende, intuitiv leicht einsehbare Beobachtung. Satz 2.42. Die Abbildung [0, 1] → [0, 1], p → θ(p) ist monoton wachsend. Beweis. Obwohl die Aussage offensichtlich erscheint, wollen wir einen formalen Beweis geben, weil er ein wichtiges Beweisprinzip, das der Kopplung, verwendet. Seien p, p ∈ [0, 1] mit p < p . Es sei (Yk )k∈K eine unabh¨angige Familie von Zufallsvariablen mit P[Yk ≤ q] = q f¨ur jedes k ∈ K und q ∈ {p, p , 1}. Wir k¨onnten an dieser Stelle zum Beispiel annehmen, dass jedes Yk ∼ U[0,1] uniform auf [0, 1] verteilt ist. Da der Existenzbeweis f¨ur unabh¨angige Familien mit solcher Verteilung noch aussteht, und da wir die reichhaltigere Struktur der uniformen Verteilung hier nicht ben¨otigen, begn¨ugen wir uns damit, dass jedes Yk nur Werte in {p, p , 1} annimmt, dass also gilt ⎧ p, falls q = p, ⎨ P[Yk = q] = p − p, falls q = p , ⎩ 1 − p , falls q = 1. Eine solche Familie (Yk )k∈K existiert nach Satz 2.19. Wir setzen dann f¨ur q ∈ {p, p } und k ∈ K 1 1, falls Yk ≤ q, q Xk := 0, sonst. Offenbar ist f¨ur q ∈ {p, p } die Familie (Xkq )k∈K unabh¨angig (Bemerkung 2.15(ii)) und Xkq ∼ Berq . Ferner ist Xkp ≤ Xkp f¨ur jedes k ∈ K. Wir nennen dieses Verfahren, zwei Familien von Zufallsvariablen auf einem Wahrscheinlichkeitsraum herzustellen eine Kopplung.
Offenbar gilt nun C p (x) ⊂ C p (x) f¨ur jedes x ∈ Zd , also auch θ(p) ≤ θ(p ).
2
70
2 Unabh¨angigkeit
Mit Hilfe des Kolmogorov’schen 0-1 Gesetzes k¨onnen wir folgenden Satz zeigen. 0, falls θ(p) = 0, Satz 2.43. F¨ur jedes p ∈ [0, 1] gilt ψ(p) = 1, falls θ(p) > 0. Beweis. Ist θ(p) = 0, so ist nach (2.12) ψ(p) ≤ P[#C p (y) = ∞] = θ(p) = 0. y∈Zd
y∈Zd
Sei nun A = y∈Zd {#C p (y) = ∞}. Offenbar a¨ ndert es nichts am Eintreten von A, wenn endlich viele Kanten ihren Zustand ver¨andern. Das heißt A ∈ σ((Xkp )k∈K\F ) f¨ur jedes endliche F ⊂ K. Nach Satz 2.35 ist A also in der terminalen σ-Algebra T ((Xkp )k∈K ). Nach dem Kolmogorov’schen 0-1 Gesetz (Satz 2.37) gilt also ψ(p) = P[A] ∈ {0, 1}. Ist nun θ(p) > 0, so folgt wegen ψ(p) ≥ θ(p) schon ψ(p) = 1. 2 Aufgrund der Monotonie k¨onnen wir nun die folgende Definition treffen. Definition 2.44. Der kritische Wert pc f¨ur das Auftreten von Perkolation wird definiert als pc = inf{p ∈ [0, 1] : θ(p) > 0} = sup{p ∈ [0, 1] : θ(p) = 0} = inf{p ∈ [0, 1] : ψ(p) = 1} = sup{p ∈ [0, 1] : ψ(p) = 0}. Satz 2.45. F¨ur d = 1 ist pc = 1. F¨ur d ≥ 2 ist pc (d) ∈
)
1 2 2d−1 , 3
* .
p Beweis. Sei zun¨achst d = 1 und p < 1. Sei A− := {Xn,n+1 = 0 f¨ur ein n < 0} p = 0 f¨ur ein n > 0} sowie A = A− ∩ A+ . Nach dem und A+ := {Xn,n+1 Lemma von Borel-Cantelli gilt P[A− ] = P[A+ ] = 1. Also ist θ(p) = P[Ac ] = 0.
Wir betrachten nun den Fall d ≥ 2. 1 Wir zeigen zun¨achst pc ≥ 2d−1 . Offenbar gilt f¨ur jedes n ∈ N ) * P[#C p (0) = ∞] ≤ P es gibt ein x ∈ C p (0) mit x∞ = n .
Untere Schranke.
Wir sch¨atzen nun die Wahrscheinlichkeit daf¨ur ab, dass ein Punkt x ∈ C p (0) im Abstand n vom Ursprung existiert. Jeder solche Punkt wird durch einen selbstu¨ berschneidungsfreien Pfad π, der im Ursprung beginnt und eine L¨ange m ≥ n hat, an den Ursprung angebunden. Sei Π0,m die Menge solcher Pfade. Offenbar ist #Π0,m ≤ 2d · (2d − 1)m−1 , denn im ersten Schritt gibt es 2d M¨oglichkeiten f¨ur den Pfad, in jedem weiteren Schritt h¨ochstens 2d − 1, da der Schritt zur¨uck zu einer Selbst¨uberschneidung f¨uhrt. Weiter ist f¨ur jedes π ∈ Π0,m die Wahrscheinlichkeit, dass π nur offene Kanten benutzt P[π ist offen] = pm .
2.4 Beispiel: Perkolation
Also ist f¨ur p <
71
1 2d−1
θ(p) ≤
∞
P[π ist offen]
m=n π∈Π0,m
≤ = Mithin gilt pc ≥
∞ m 2d (2d − 1)p 2d − 1 m=n
n n→∞ 2d −→ 0. (2d − 1)p (2d − 1)(1 − (2d − 1)p)
1 2d−1 .
Obere Schranke. Wir k¨onnen Zd als Teilmenge Zd × {0} ⊂ Zd+1 auffassen. Tritt daher f¨ur ein p Perkolation in Zd auf, so auch in Zd+1 . Daher gilt f¨ur die entsprechenden kritischen Werte pc (d + 1) ≤ pc (d). Es reicht also, den Fall d = 2 zu betrachten. Hier zeigen wir pc ≤ 23 . Wir geben ein Konturargument an, das von Peierls f¨ur ein Magnetismusmodell (das Ising Modell, siehe Beispiel 18.21 und speziell (18.13)) entwickelt wurde (siehe [128]). F¨ur N ∈ N schreiben wir (vergleiche (2.11) mit x = (i, 0)) CN :=
N
C p (i, 0)
i=0
f¨ur die Menge der Punkte, die eine offene Verbindung in die Menge {0, . . . , N } × {0} haben.
Dann ist wegen der Subadditivit¨at der Wahrscheinlichkeit (und wegen P[#C p (i, 0) = ∞] = θ(p) f¨ur jedes i ∈ Z) θ(p) =
N )
* * 1 ) 1 P #CN = ∞ . P #C p (i, 0) = ∞ ≥ N + 1 i=0 N +1
˜ 2 , K), ˜ die CN umschließen, Wir betrachten nun Konturen im dualen Graphen (Z falls #CN < ∞. Der duale Graph ist dabei definiert durch ˜ 2 = 1 , 1 + Z2 , Z 2 2 ˜ 2 , x − y2 = 1 . ˜ K = {x, y} : x, y ∈ Z ˜ 2 , K) ˜ kreuzt also genau eine Kante k in Eine Kante k˜ im dualen Graphen (Z 2 ˜ (Z , K). Wir nennen k offen, falls k offen ist, und sonst geschlossen. Ein Kreis ˜ 2 , K), ˜ bei dem Anfangs- und Endγ ist ein selbst¨uberschneidungsfreier Pfad in (Z punkt u¨ bereinstimmen. Eine Kontur der Menge CN ist ein minimaler Kreis, der CN umschließt. Minimal heißt dabei, dass die umschlossene Fl¨ache minimal ist (siehe Abb. 2.2).
72
2 Unabh¨angigkeit
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
1 r
r
r
r
r
r
r
r
r
r
r
0 r
r
r
r
r
r
r
r
r
r
r
−1 r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r −1
r r r r r r pbpp p p p p p p p pbp p p p p p p pbp p p p p p p pbp p p p p p p pbpp r ppp r r r r pppp r r ppbp p p p p p p ppb ppbp p p p p p p p pppb ppp r r r r r r ppppp r ppbp pppbp p p p p p p pbp p p p p p p pbp p p p p p p pbp p p p p p p pbp r r r r ppppp r r ppppp r pppb pppb r r r r ppppp r r ppppp r ppbp ppbp p p p p p p pbp r r r r ppppp r r r ppppp pbpp p p p p p p p pbpp ppbpp ppbp r r r r pppp r pppp r pppp r ppppp ppbp p p p p p p ppb ppbp ppbp r r r r r r ppppp r ppppp ppbp p p p p p p ppb r r r r r r r 0
1
5
Abb. 2.2. Kontur des Clusters C5 .
F¨ur n ≥ 2N sei Γn = γ : γ ist ein Kreis der L¨ange n und umschließt {0, . . . , N } × {0} . Wir wollen eine obere Absch¨atzung f¨ur #Γn angeben. Daf¨ur w¨ahlen wir f¨ur γ ∈ Punkt aus γ willk¨urlich als Startpunkt aus, n¨amlich den oberen Punkt
Γn einen m + 12 , 12 des rechtesten x-Achsendurchgangs von γ (in Abb. 2.2 ist dies der Punkt 5 + 12 , 12 ). Offenbar ist m ≥ N und m ≤ n weil der Ursprung von γ umschlossen wird. Ausgehend von m + 12 , 12 gibt es f¨ur jede weitere Kante von γ jeweils h¨ochstens drei M¨oglichkeiten. Also ist #Γn ≤ n · 3n . ˜ geschlossene Kanten benutzt. Der Kreis γ heißt geschlossen, wenn er nur (in K) Eine Kontur von CN muss automatisch geschlossen sein und eine L¨ange gr¨oßer als 2N haben. Daher gilt f¨ur p > 23 P[#CN < ∞] =
∞
) * P es gibt einen geschlossenen Kreis γ ∈ Γn
n=2N
≤
∞
n n · 3(1 − p)
N →∞
−→
0.
n=2N
Es folgt pc ≤ 23 .
2
2.4 Beispiel: Perkolation
73
Im Allgemeinen ist der Wert von pc nicht bekannt und extrem schwer zu bestimmen. Im Fall der Kantenperkolation in Z2 ist allerdings ein genaues Ergebnis bekannt, da man hier das starke Hilfsmittel der Selbstdualit¨at des Graphen (Z2 , K) zur Verf¨ugung hat. (Ist G = (V, K) ein planarer Graph, also einer, den man mit u¨ berschneidungsfreien Kanten in den R2 einbetten kann, so hat der duale Graph als Punktmenge die Menge der Fl¨achen von G und als Kante zwischen zwei solchen Punkten, diejenige Kante aus K, die die beiden Fl¨achenst¨ucke trennt. Offenbar ist das zweidimensionale Gitter als Graph isomorph zu seinem dualen Graphen. Man beachte, dass man die Kontur in Abb. 2.2 als geschlossenen Pfad im dualen Graphen auffassen kann.) Wir zitieren hier den Satz von Kesten [98]. Satz 2.46 (Kesten (1980)). F¨ur Kantenperkolation in Z2 ist die kritische Wahrscheinlichkeit pc = 12 , und es gilt θ(pc ) = 0. Beweis. Siehe etwa das Buch von Grimmett [66, Seite 287ff].
2
Es wird vermutet, dass θ(pc ) = 0 in jeder Dimension d ≥ 2 gilt. Rigoros bewiesen ist dies allerdings nur f¨ur d = 2 und d ≥ 19 (siehe [70]). Eindeutigkeit des unendlichen Clusters∗ Es sei p so gew¨ahlt, dass θ(p) > 0 ist. Wir haben gesehen, dass es mit Wahrscheinlichkeit 1 mindestens einen unendlich großen, offenen Cluster gibt. Wir wollen nun zeigen, dass es genau einen gibt. Sei also N ∈ {0, 1, . . . , ∞} die (zuf¨allige) Anzahl von unendlich großen Clustern. Satz 2.47 (Eindeutigkeit des unendlichen großen Clusters). F¨ur jedes p ∈ [0, 1] gilt Pp [N ≤ 1] = 1. Beweis. Diese Aussage wurde erstmals von Aizenman, Kesten und Newman gezeigt [1, 2]. Wir folgen der einfacheren Beweisidee von Burton und Keane [27], wie sie etwa in [66, Abschnitt 8.2] beschrieben wird. In den F¨allen p = 1 und θ(p) = 0 (speziell also im Fall p = 0) ist die Aussage trivial. Seien nun also p ∈ (0, 1) und θ(p) > 0. 1. Schritt.
Wir zeigen zun¨achst: Pp [N = m] = 1
f¨ur ein m = 0, 1, . . . , ∞.
(2.13)
Wir ben¨otigen ein 0-1 Gesetz, a¨ hnlich dem Kolmogorov’schen. Allerdings ist N nicht messbar bez¨uglich der terminalen σ-Algebra, wir m¨ussen also etwas subtiler vorgehen. Sei e1 = (1, 0, . . . , 0) der erste Einheitsvektor in Zd . Auf der Kantenmenge K definieren wir die Translation τ : K → K durch τ ( x, y!) = x + e1 , y + e1 !.
74
2 Unabh¨angigkeit
Sei K0 :=
(x1 , . . . , xd ), (y1 , . . . , yd )! ∈ K : x1 = 0, y1 ≥ 0
die Menge aller Kanten in Zd , die zwei Punkte in {0} × Zd−1 verbinden oder einen d−1 Punkt aus {0}×Zd−1 mit einem aus {1}×Z verbinden. Offenbar sind die Men n gen (τ (K0 ), n ∈ Z) disjunkt und K = n∈Z τ n (K0 ). Daher sind die Zufallsvariablen Yn := (Xτpn (k) )k∈K0 , n ∈ Z, unabh¨angig und identisch verteilt (mit Werten in {0, 1}K0 ). Setze Y = (Yn )n∈Z und τ (Y ) = (Yn+1 )n∈Z . Sei Am ∈ {0, 1}K definiert durch {Y ∈ Am } = {N = m}. Offenbar a¨ ndert sich der Wert von N nicht, wenn wir alle Kanten gleichzeitig verschieben. Es gilt also {Y ∈ Am } = {τ (Y ) ∈ Am }. Ein Ereignis mit dieser Eigenschaft nennen wir invariant. Mit einem Argument a¨ hnlich dem f¨ur das Kolmogorov’sche 0-1 Gesetz kann man zeigen, dass invariante Ereignisse (die durch u.i.v. Zufallsvariablen definiert werden) nur die Wahrscheinlichkeiten 0 oder 1 haben k¨onnen (f¨ur einen formalen Beweis siehe Beispiel 20.26). 2. Schritt.
Wir zeigen: Pp [N = m] = 0
f¨ur jedes m ∈ N \ {1}.
(2.14)
Sei also m = 2, 3, . . . Wir nehmen an, dass P[N = m] = 1 gilt und f¨uhren dies zum Widerspruch. F¨ur L ∈ N setzen wir BL := {−L, . . . , L}d und bezeichnen mit KL = {k = x, y! ∈ K : x, y ∈ BL } die Menge der Kanten, deren beide Endpunkte in BL i liegen. F¨ur i = 0, 1 sei DL := {Xkp = i f¨ur alle k ∈ KL }. Sei NL1 die Anzahl der unendlichen Cluster, wenn wir (unabh¨angig vom Wert von Xkp ) jede Kante k in KL als offen betrachten. Analog definieren wir NL0 , wobei wir hier die Kanten in KL i als geschlossen betrachten. Wegen Pp [DL ] > 0, und wegen N = m fast sicher, gilt i NL = m fast sicher f¨ur i = 0, 1. Sei A2L:=
C p (x1 ) ∩ C p (x2 ) = ∅ ∩ #C p (x1 ) = #Cp (x2 ) = ∞
x1 ,x2 ∈BL \BL−1
das Ereignis, dass es zwei Punkte auf dem Rand von BL gibt, die in unterschiedlichen, unendlich großen, offenen Clustern sitzen. Offenbar gilt A2L ↑ {N ≥ 2} f¨ur L → ∞. Sei A2L,0 a¨ hnlich wie A2L definiert, jedoch wollen wir alle Kanten k ∈ KL als geschlossen betrachten, egal ob Xkp = 1 oder Xkp = 0 ist. Tritt A2L ein, so gibt es zwei Punkte x1 , x2 auf dem Rand von BL und zu jedem i = 1, 2 einen unendlich langen selbst¨uberschneidungsfreien, offenen Pfad πxi , der in xi startet und x3−i vermeidet. Es gilt also A2L ⊂ A2L,0 . W¨ahle nun L so groß, dass P[A2L,0 ] > 0 ist.
2.4 Beispiel: Perkolation
75
Tritt A2L,0 ein und werden alle Kanten in BL ge¨offnet, so werden mindestens zwei der unendlich großen, offenen Cluster durch Kanten in BL verbunden, die Gesamtzahl der unendlich großen, offenen Cluster also um mindestens Eins verringert. Es folgt Pp [NL1 ≤ NL0 − 1] ≥ Pp [A2L,0 ] > 0, was einen Widerspruch bedeutet. 3. Schritt. Da wir im zweiten Schritt bereits gezeigt haben, dass N fast sicher keinen endlichen Wert gr¨oßer als 1 annimmt, brauchen wir nun nur noch zu zeigen, dass N fast sicher nicht den Wert ∞ annimmt. Wir zeigen hier, dass in der Tat gilt: Pp [N ≥ 3] = 0.
(2.15)
Dieses ist der schwierigste Teil. Wir nehmen an, dass Pp [N ≥ 3] > 0 gilt und f¨uhren dies zum Widerspruch. Wir nennen einen Punkt x ∈ Zd einen Trifurkationspunkt, falls x in einem unendlich großen, offenen Cluster C p (x) liegt, genau drei offene Kanten zu x f¨uhren und die Wegnahme dieser drei Kanten C p (x) in drei unendlich große, disjunkte Cluster zerteilt. Mit T bezeichnen wir die Menge der Trifurkationspunkte und schreiben TL := T ∩ BL . Sei r := Pp [0 ∈ T ]. Aufgrund der Translationsinvarianz gilt (#BL )−1 Ep [#TL ] = r f¨ur jedes L. Sei A3L:=
x1 ,x2 ,x3 ∈BL \BL−1
3 p i {C (x ) ∩ C (x ) = ∅} ∩ {#C (x ) = ∞} p
i
p
j
i=1
i =j
das Ereignis, dass es drei Punkte auf dem Rand von BL gibt, die in unterschiedlichen, unendlich großen, offenen Clustern sitzen. Offenbar gilt A3L ↑ {N ≥ 3} f¨ur L → ∞. Analog zu A2L,0 definieren wir A3L,0 als das Ereignis, dass es drei Punkte auf dem Rand von BL gibt, die in unterschiedlichen unendlich großen, offenen Clustern sitzen, wenn wir alle Kanten in KL als geschlossen ansehen. Wie oben ist A3L ⊂ A3L,0 . F¨ur drei unterschiedliche Punkte x1 , x2 , x3 ∈ BL \BL−1 sei Fx1 ,x2 ,x3 das Ereignis, dass es zu jedem i = 1, 2, 3 einen unendlich langen selbst¨uberschneidungsfreien, offenen Pfad πxi gibt, der in xi startet, nur Kanten aus K p \ KL benutzt und die anderen xj , j = i, vermeidet. Dann gilt Fx1 ,x2 ,x3 . A3L,0 ⊂ x1 ,x2 ,x3 ∈BL \BL−1
paarweise unterschiedlich
Sei L so groß, dass Pp [A3L,0 ] ≥ Pp [N ≥ 3]/2 > 0 gilt. W¨ahle drei unterschiedliche Punkte x1 , x2 , x3 ∈ BL \ BL−1 mit Pp [Fx1 ,x2 ,x3 ] > 0. Tritt Fx1 ,x2 ,x3 ein, so k¨onnen wir einen Punkt y ∈ BL finden, von dem aus drei disjunkte (nicht notwendigerweise offene) Pfade π1 , π2 und π3 zu den Punkten x1 , x2 und x3 f¨uhren. Sei Gy,x1 ,x2 ,x3 das Ereignis, dass in KL genau diejenigen Kanten
76
2 Unabh¨angigkeit
offen sind, die zu diesen Pfaden geh¨oren, und alle anderen geschlossen. Die Ereignisse Fx1 ,x2 ,x3 und Gy,x1 ,x2 ,x3 sind unabh¨angig, und y ist ein Trifurkationspunkt, falls beide eintreten. Daher ist
#KL r = Pp [y ∈ T ] ≥ Pp [Fx1 ,x2 ,x3 ] · p ∧ (1 − p) > 0. Wir zeigen nun, dass r = 0 sein muss, was die Annahme Pp [N ≥ 3] > 0 ad ab˜ L aller Kanten, die mindestens einen Endpunkt in surdum f¨uhrt. Auf der Menge K ¨ R ein, indem wir zwei Kanten BL liegen haben, f¨uhren wir eine Aquivalenzrelation als a¨ quivalent betrachten, wenn es einen offenen Pfad gibt, der keinen Trifurkationspunkt trifft, und der von jeder der beiden Kanten mindestens einen Endpunkt ˜ L /R bezeichnen wir die Menge der Aquivalenzklassen. ¨ trifft. Mit UL := K (Man beachte, dass die drei an einen Trifurkationspunkt angrenzenden Kanten stets in drei ¨ unterschiedlichen Aquivalenzklassen liegen.) Wir machen HL := UL ∪ TL zu einem Graphen, indem wir zwei Punkte x ∈ TL und u ∈ UL als benachbart ansehen, wenn es eine Kante k ∈ u gibt, deren einer Endpunkt x ist. Jeder Punkt x ∈ TL ist mit genau drei Punkten aus UL benachbart. Die Punkte aus UL k¨onnen isoliert sein (keine Nachbarn haben), oder an beliebig viele Punkte aus TL angrenzen, nicht jedoch an Punkte aus UL . Eine Schleife ist ein selbst¨uberschneidungsfreier, endlicher Pfad, der zu seinem Startpunkt zur¨uckkehrt. Der Graph HL ist schleifenfrei. In der Tat: g¨abe es in HL einen selbst¨uberschneidungsfreien Pfad (h0 , h1 , . . . , hn ), der in h0 = hn = x ∈ TL beginnt und ended, so m¨ussten h1 , hn−1 ∈ UL liegen und unterschiedlich sein. Nach Definition des Trifurkationspunktes x m¨ussen h1 und hn−1 in unterschiedlichen offenen Clustern liegen, wenn x entfernt wird. Andererseits gibt es eine Verbindung der Kanten in h1 mit denen in hn−1 entlang des Weges h1 , . . . , hn−1 , der x nicht trifft. Da dies ein Widerspruch ist, kann es einen solchen Pfad nicht geben. Aus einer Schleife (g0 , . . . , gm ), die in g0 = gm ∈ UL beginnt und ended, kann eine Schleife (g1 , g2 , . . . , gm , g1 ) konstruiert werden, die in g1 ∈ TL beginnt und ended. Da wir eine solche Schleife schon ausgeschlossen haben, ist der Graph HL als schleifenfrei erkannt. Wir schreiben degHL (h) f¨ur den Grad von h ∈ HL , also f¨ur die Anzahl der Nachbarn von h in HL . Ein Punkt h mit degHL (h) = 1 heißt ein Blatt von HL . Offenbar k¨onnen nur die Punkte aus UL Bl¨atter sein. Sei nun Z ⊂ HL eine Zusammenhangskomponente, die mindestens einen Punkt x ∈ TL enth¨alt. Da Z ein Baum ist (zusammenh¨angend und schleifenfrei), gilt #Z − 1 =
1 degHL (h). 2 h∈Z
Diese Formel l¨asst sich leicht so umstellen, dass man die Anzahl der Bl¨atter bestimmen kann:
2.4 Beispiel: Perkolation
# u ∈ Z : degHL (u) = 1 = 2 +
degHL (h) − 2
77
+
h∈Z
≥ 2 + # h ∈ Z : degHL (h) ≥ 3 = 2 + #(Z ∩ TL ). Indem wir u¨ ber die Zusammenhangskomponenten Z von HL mit mindestens einem Punkt in TL summieren, erhalten wir
# u ∈ HL : degHL (u) = 1 ≥ #TL . Nun enth¨alt jedes Blatt u ∈ HL eine Kante, die an ein x ∈ TL angrenzt. Also liegen die Kanten von u in einem unendlich großen, offenen Cluster von K p , und es gibt wenigstens eine Kante k ∈ u mit mindestens einem Endpunkt in BL \ BL−1 . F¨ur unterschiedliche Bl¨atter sind dies stets unterschiedliche Punkte, da die Bl¨atter zu disjunkten Clustern geh¨oren. Speziell erhalten wir die Absch¨atzung #TL ≤ #(BL \ BL−1 ). Es folgt
#TL #(BL \ BL−1 ) d ≤ ≤ #BL #BL L
L→∞
−→ 0.
Wegen r = (#BL )−1 Ep [#TL ] ≤ d/L folgt r = 0. (Man beachte, dass wir hier 2 im Vorgriff auf Kapitel 5 den Erwartungswert Ep [#TL ] benutzt haben.)
3 Erzeugendenfunktion
Ein wichtiges Prinzip in der Mathematik ist es, eine Klasse von Objekten, die man betrachten m¨ochte, in eine andere Klasse von Objekten, mit denen man besser rechnen kann, hinein abzubilden. Diese Abbildung kann eineindeutig sein, etwa bei der Zuordnung von Matrizen zu linearen Abbildungen, oder auch nur manche Eigenschaften eindeutig abbilden, etwa bei Determinanten. Zu der zweiten Kategorie geh¨oren in der Wahrscheinlichkeitstheorie die Kenngr¨oßen wie Median, Erwartungswert und Varianz von Zufallsvariablen. Zur ersten Kategorie hingegen charakteristische Funktionen, Laplace-Transformierte und Erzeugendenfunktionen, die enge Verwandte sind und ihre N¨utzlichkeit daraus ziehen, dass Addition von unabh¨angigen Zufallsvariablen in Multiplikation u¨ bergeht. Bevor wir in sp¨ateren Kapiteln insbesondere die charakteristischen Funktionen ausgiebig behandeln, wollen wir wichtige Grundideen in der einfacheren Situation der Erzeugendenfunktionen, deren Anwendung auf N0 -wertige Zufallsvariablen beschr¨ankt ist, kennen lernen.
3.1 Definition und Beispiele Definition 3.1 (Erzeugendenfunktion). Sei X eine N0 -wertige Zufallsvariable. Die Abbildung ψPX = ψX , die erkl¨art wird durch ψX : [0, 1] → [0, 1],
z →
∞
P[X = n] z n ,
(3.1)
n=0
heißt Erzeugendenfunktion von PX (oder etwas lax: von X). Satz 3.2. (i) ψX ist stetig und in (0, 1) unendlich oft stetig differenzierbar. Es (n) gilt f¨ur n ∈ N und die n-te Ableitung ψX (n)
lim ψX (z) = z↑1
∞
P[X = k] · k(k + 1) · · · (k + n − 1),
k=1
wobei beide Seiten = +∞ sein k¨onnen.
(3.2)
80
3 Erzeugendenfunktion
(ii) Die Verteilung PX von X ist durch ψX eindeutig charakterisiert. (iii) ψX ist durch die Angabe von abz¨ahlbar vielen Werten ψX (xi ), xi ∈ [0, 1], i ∈ N, eindeutig festgelegt. Konvergiert die Reihe in (3.1) auch f¨ur ein z > 1, so gilt (n) (n) lim ψX (z) = ψX (1) < ∞ f¨ur n ∈ N, z↑1
(n)
und ψX ist durch Angabe von ψX (1), n ∈ N, eindeutig charakterisiert. 2
Beweis. Das folgt aus der elementaren Theorie der Potenzreihen.
Satz 3.3 (Multiplikativit¨at der Erzeugendenfunktion). Sind X1 , . . . , Xn unabh¨angig und N0 -wertig, so ist n ψXi . ψX1 +...+Xn = i=1
Beweis. F¨ur z ∈ [0, 1) k¨onnen wir ψX1 (z) ψX2 (z) als Cauchy-Produkt schreiben ∞ ∞ n n ψX1 (z) ψX2 (z) = P[X1 = n] z P[X2 = n] z n=0
=
∞
z
n
n=0
=
∞ n=0
=
∞
n=0
n
P[X1 = m] P[X2 = n − m]
m=0
zn
n
P[X1 = m, X2 = n − m]
m=0
P[X1 + X2 = n] z n = ψX1 +X2 (z).
n=0
Induktiv folgt die Aussage f¨ur jedes n ≥ 2.
2
Beispiel 3.4. (i) Sei X bn,p -verteilt f¨ur gewisse n ∈ N und p ∈ [0, 1]. Dann ist n
n n m p (1 − p)n−m z m = pz + (1 − p) . (3.3) ψX (z) = m m=0 (ii) Sind X, Y unabh¨angig und bm,p beziehungsweise bn,p -verteilt, so ist nach Satz 3.3 n
m
m+n ψX+Y (z) = pz + (1 − p) pz + (1 − p) = pz + (1 − p) . Also ist nach Satz 3.2(ii) X + Y bm+n,p -verteilt und damit (nach Satz 2.31)
3.1 Definition und Beispiele
81
bm,p ∗ bn,p = bm+n,p . (iii) Seien X und Y unabh¨angig und Poisson-verteilt mit Parametern λ ≥ 0 und μ ≥ 0, also P[X = n] = e−λ λn /n! f¨ur n ∈ N0 . Dann ist ∞
ψPoiλ (z) =
e−λ
n=0
(λz)n = eλ(z−1) . n!
(3.4)
Also hat X + Y die Erzeugendenfunktion ψPoiλ (z) · ψPoiμ (z) = eλ(z−1) eμ(z−1) = ψPoiλ+μ (z), und daher ist X + Y ∼ Poiλ+μ . Es folgt Poiλ ∗ Poiμ = Poiλ+μ .
(3.5)
(iv) Seien X1 , . . . , Xn ∼ γp unabh¨angig und geometrisch verteilt mit Parameter p ∈ (0, 1). Wir setzen Y = X1 + . . . + Xn . Es ist f¨ur z ∈ [0, 1] ψX1 (z) =
∞
p(1 − p)k z k =
k=0
p . 1 − (1 − p)z
(3.6)
Nach der verallgemeinerten binomischen Formel (siehe Lemma 3.5 mit α = −n), Satz 3.3 und (3.6) ist pn (1 − (1 − p)z)n ∞ −n = pn (−1)k (1 − p)k z k k
ψY (z) = ψX1 (z)n =
k=0
=
∞
k b− n,p ({k}) z ,
k=0
wobei f¨ur beliebiges r ∈ (0, ∞) und p ∈ (0, 1] b− r,p
=
∞ −r k=0
k
(−1)k pr (1 − p)k δk
(3.7)
die negative Binomialverteilung mit Parametern r und p ist. Nach dem Eindeutigkeitssatz f¨ur Erzeugendenfunktionen ist damit Y ∼ b− n,p , also (siehe Definition 2.29 ∗n f¨ur die n-te Faltungspotenz) b− = γ . 3 n,p p Lemma 3.5 (Verallgemeinerter binomischer Lehrsatz). F¨ur α ∈ R und k ∈ N0 definieren wir den Binomialkoeffizienten
82
3 Erzeugendenfunktion
α · (α − 1) · · · (α − k + 1) α . := k! k
(3.8)
Es gilt die erweiterte binomische Formel: ∞ α
xk
f¨ur jedes x ∈ C mit |x| < 1.
(3.9)
∞ 1 2n −n n √ 4 x = 1 − x n=0 n
f¨ur jedes x ∈ C mit |x| < 1.
(3.10)
α
(1 + x) =
k=0
k
Speziell gilt
Beweis. Die Abbildung f : x → (1 + x)α ist holomorph bis auf eventuell eine Singularit¨at bei x = −1, ist also um 0 in eine Potenzreihe entwickelbar mit Radius mindestens 1: ∞ f (k) (0) k x f (x) = f¨ur |x| < 1. k! k=0
F¨ur k ∈ N0 ist die k-te Ableitung f (k) (0) = α(α − 1) · · · (α − k + 1), also folgt (3.9). 2n
= n (−4)−n . 2 Der Zusatz folgt, weil f¨ur α = −1/2 gilt, dass −1/2 n − − ¨ ur r, s ∈ (0, ∞) und p ∈ (0, 1]. Ubung 3.1.1. Man zeige b− r,p ∗ bs,p = br+s,p f¨
♣
3.2 Poisson-Approximation Lemma 3.6. Seien μ und (μn )n∈N W-Maße auf (N0 , 2N0 ) mit Erzeugendenfunktionen ψμ und ψμn , n ∈ N. Dann sind a¨ quivalent (i) (ii)
n→∞
μn ({k}) −→ μ({k}) f¨ur jedes k ∈ N0 , n→∞
f¨ur jedes A ⊂ N0 ,
n→∞
f¨ur jedes z ∈ [0, 1],
n→∞
f¨ur jedes z ∈ [0, η) f¨ur ein η ∈ (0, 1).
μn (A) −→ μ(A)
(iii)
ψn (z) −→ ψ(z)
(iv)
ψn (z) −→ ψ(z)
n→∞
Gilt eine der vier Bedingungen, so schreiben wir μn −→ μ und sagen (μn )n∈N konvergiere schwach gegen μ. Beweis. (i) =⇒ (ii) Sei ε > 0 und N ∈ N so gew¨ahlt, dass μ({N + 1, N + 2, . . .}) < 4ε . F¨ur hinreichend großes n0 ∈ N ist ferner
3.2 Poisson-Approximation N μn ({k}) − μ({k}) < ε 4
83
f¨ur jedes n ≥ n0 .
k=0
Speziell ist f¨ur n ≥ n0 auch μn ({N + 1, N + 2, . . .}) < 2ε . Also ist f¨ur n ≥ n0 μn (A) − μ(A) ≤ μn ({N + 1, N + 2, . . .}) + μ({N + 1, N + 2, . . .}) μn ({k}) − μ({k}) + k∈A∩{0,...,N }
< ε. (ii) =⇒ (i)
Dies ist trivial.
(i) ⇐⇒ (iii) ⇐⇒ (iv)
Dies folgt aus elementarer Theorie der Potenzreihen. 2
Seien (pn,k )n,k∈N Zahlen mit pn,k ∈ [0, 1], sodass der Grenzwert λ := lim
n→∞
existiert und so, dass lim
∞
n→∞
k=1
∞
pn,k ∈ (0, ∞)
(3.11)
k=1
p2n,k = 0 ist (beispielsweise pn,k = λ/n f¨ur
k ≤ n und pn,k = 0 f¨ur k > n). F¨ur jedes n ∈ N sei (Xn,k )k∈N eine unabh¨angige Familie von Zufallsvariablen mit Xn,k ∼ Berpn,k . Setze S n :=
∞ l=1
Xn,l
und
Skn :=
k
Xn,l
f¨ur k ∈ N.
l=1
Satz 3.7 (Poisson-Approximation). Unter den obigen Annahmen konvergieren die Verteilungen (PS n )n∈N schwach gegen die Poisson-Verteilung Poiλ . Beweis. Die Poisson-Verteilung hat die Erzeugendenfunktion ψ(z) = eλ(z−1) (siehe (3.4)). Andererseits sind S n − Skn und Skn unabh¨angig f¨ur jedes k ∈ N, also ψS n = ψSkn · ψS n −Skn . Nun ist f¨ur jedes z ∈ [0, 1] 1≥
∞ ψS n (z) k→∞ = ψS n −Skn (z) ≥ 1 − P[S n − Skn ≥ 1] ≥ 1 − pn,l −→ 1, ψSkn (z) l=k+1
84
3 Erzeugendenfunktion
also ψS n (z) = lim ψSkn (z) = k→∞
∞ (pn,l z + (1 − pn,l )) l=1
= exp
∞
log 1 + pn,l (z − 1) .
l=1
F¨ur |x| <
1 2
ist | log(1 + x) − x| ≤ x2 . Nach Voraussetzung gilt max pn,l → 0 f¨ur l∈N
n → ∞, also ist f¨ur hinreichend großes n ∞ ∞
log 1 + pn,l (z − 1) − (z − 1) pn,l l=1
l=1
≤
∞
p2n,l
≤
l=1
Zusammen mit (3.11) folgt
lim ψS n (z) = lim exp (z − 1)
n→∞
n→∞
∞
pn,l
l=1
∞
n→∞
max pn,l −→ 0. l∈N
pn,l
= eλ(z−1) .
2
l=1
3.3 Verzweigungsprozesse Seien T, X1 , X2 , . . . unabh¨angige, N0 -wertige Zufallsvariablen. Wie sieht die VerT teilung von S := n=1 Xn aus? Zun¨achst bemerken wir, dass S messbar ist, denn {S = k} =
∞
{T = n} ∩ {X1 + . . . + Xn = k}.
n=0
Satz 3.8. Sind die X1 , X2 , . . . zus¨atzlich identisch verteilt, so ist die Erzeugendenfunktion von S gegeben durch ψS (z) = ψT (ψX1 (z)). Beweis. ψS (z) =
∞
P[S = k] z k
k=0
=
∞ ∞
P[T = n] P[X1 + . . . + Xn = k] z k
k=0 n=0
=
∞ n=0
P[T = n] ψX1 (z)n = ψT ψX1 (z) .
2
3.3 Verzweigungsprozesse
85
∞ Wir nehmen jetzt an, dass p0 , p1 , p2 , . . . ∈ [0, 1] sind mit k=0 pk = 1. Sei (Xn,i )n,i∈N0 eine unabh¨angige Familie von Zufallsvariablen mit P[Xn,i = k] = pk f¨ur alle i, k, n ∈ N0 . Setze Z0 = 1 und
Zn−1
Zn =
Xn−1,i
f¨ur n ∈ N.
i=1
Wir geben die folgende Interpretation an: Zn ist die Anzahl von Individuen in der n-ten Generation einer sich zuf¨allig entwickelnden Population. Das i-te Individuum aus der n-ten Generation hat Xn,i Nachkommen (in der (n + 1)-ten Generation). Definition 3.9. (Zn )n∈N0 heißt Galton-Watson-Prozess oder Verzweigungsprozess mit Nachkommenverteilung (pk )k∈N0 . Ein wichtiges Hilfsmittel bei der Untersuchung von Verzweigungsprozessen sind Erzeugendenfunktionen. Sei also ψ(z) =
∞
pk z k
k=0
die Erzeugendenfunktion der Nachkommenverteilung und ψ deren Ableitung. Wir definieren die n-te Iterierte von ψ durch ψ1 := ψ,
ψn := ψ ◦ ψn−1
f¨ur n = 2, 3, . . .
Sei schließlich ψZn die Erzeugendenfunktion von Zn . Lemma 3.10. Es gilt ψn = ψZn f¨ur jedes n ∈ N. Beweis. F¨ur n = 1 ist dies per Definition richtig. F¨ur n ∈ N folgt mit Satz 3.8 induktiv ψZn+1 = ψ ◦ ψZn = ψ ◦ ψn = ψn+1 . 2 Offenbar ist die Wahrscheinlichkeit qn := P[Zn = 0], dass Z zur Zeit n schon ausgestorben ist, wachsend in n. Wir bezeichnen mit q := lim P[Zn = 0] n→∞
die Aussterbewahrscheinlichkeit. Unter welchen Bedingungen ist q = 0, q = 1, oder q ∈ (0, 1)? Offenbar ist q ≥ p0 . Ist andererseits p0 = 0, so ist Zn wachsend in n, also q = 0. Satz 3.11 (Aussterbewahrscheinlichkeit des Galton-Watson-Prozesses). (i) Es gilt F := {r ∈ [0, 1] : ψ(r) = r} = {q, 1}. ∞ (ii) q < 1 ⇐⇒ lim ψ (z) > 1 ⇐⇒ k=1 k pk > 1. z↑1
86
3 Erzeugendenfunktion
Beweis. (i) Es gilt ψ(1) = 1, also 1 ∈ F . Offenbar gilt qn = ψn (0) = ψ(qn−1 ). Wir wissen, dass qn ↑ q gilt. Da ψ stetig ist, gilt ψ(q) = ψ lim qn = lim ψ(qn ) = lim qn+1 = q. n→∞
n→∞
n→∞
Also ist q ∈ F . Ist r ∈ F ein beliebiger Fixpunkt von ψ, so gilt r ≥ 0 = q0 . Da ψ monoton wachsend ist, folgt r = ψ(r) ≥ ψ(q0 ) = q1 und induktiv r ≥ qn f¨ur alle n ∈ N0 , also r ≥ q. Mithin ist q = min F . ¨ (ii) F¨ur die erste Aquivalenz unterscheiden wir zwei F¨alle. 1. Fall: limz↑1 ψ (z) ≤ 1. Da ψ strikt konvex ist, gilt in diesem Fall ψ(z) > z f¨ur alle z ∈ [0, 1), also F = {1} und damit q = 1. 2. Fall: limz↑1 ψ (z) > 1. Da ψ strikt konvex ist und ψ(0) ≥ 0, gibt es genau ein r ∈ [0, 1) mit ψ(r) = r, also ist F = {r, 1} und damit q = min F = r. ¨ Die zweite Aquivalenz in (ii) folgt aus (3.2). 2
4 Das Integral
Nach dem Begriff des Maßraums und der messbaren Abbildung ist das Integral messbarer reeller Abbildungen bez¨uglich allgemeiner Maße, nicht nur des Lebesgue-Maßes, wie es in den meisten Analysis-Vorlesungen behandelt wird, ein Eckstein der systematischen Wahrscheinlichkeitstheorie, der es uns beispielsweise erlaubt, Erwartungswerte und h¨ohere Momente zu definieren. In diesem Kapitel definieren wir das Integral durch Approximation mit Elementarfunktionen und leiten einfache Eigenschaften her wie das Lemma von Fatou. Die anderen Konvergenzs¨atze f¨ur Integrale folgen in den Kapiteln 6 und 7.
4.1 Konstruktion und einfache Eigenschaften Sei im Folgenden stets (Ω, A, μ) ein Maßraum. Wir bezeichnen mit E den Vektorraum der Elementarfunktionen (siehe Definition 1.93) auf (Ω, A) und mit E+ := {f ∈ E : f ≥ 0} den Kegel (woher der Name?) der nichtnegativen Elementarfunktionen. Gilt m αi ½Ai (4.1) f= i=1
f¨ur gewisses m ∈ N und f¨ur α1 , . . . , αm ∈ (0, ∞) sowie paarweise disjunkte Mengen A1 , . . . , Am ∈ A, so sagen wir, dass (4.1) eine Normaldarstellung der Elementarfunktion f ist. n m Lemma 4.1. Sind f = i=1 αi ½Ai und f = j=1 βj ½Bj zwei Normaldarstellungen von f ∈ E+ , so gilt m i=1
αi μ(Ai ) =
n
βj μ(Bj ).
j=1
Beweis. Ist μ(Ai ∩ Bj ) > 0 f¨ur gewisse i und j, so ist Ai ∩ Bj = ∅,und f¨ur jedes n ω ∈ Ai ∩ Bj ist f (ω) = αi = βj . Außerdem ist offenbar Ai ⊂ j=1 Bj , falls m αi = 0 und Bj ⊂ i=1 Ai , falls βj = 0. Es folgt
88
4 Das Integral m
αi μ(Ai ) =
i=1
m n
αi μ(Ai ∩ Bj )
i=1 j=1
=
n m
βj μ(Ai ∩ Bj ) =
i=1 j=1
n
βj μ(Bj ).
2
j=1
Dieses Lemma erlaubt uns, die folgende Definition zu treffen (weil der definierte Wert I(f ) von der gew¨ahlten Normaldarstellung nicht abh¨angt). Definition 4.2. Wir definieren eine Abbildung I : E+ → [0, ∞] durch I(f ) =
m
αi μ(Ai ),
i=1
falls f die Normaldarstellung f =
m i=1
αi ½Ai hat.
Lemma 4.3. Die Abbildung I ist positiv linear und monoton: Seien f, g ∈ E+ und α ≥ 0. Dann gelten die folgenden Aussagen. (i) I(αf ) = α I(f ). (ii) I(f + g) = I(f ) + I(g). (iii) Ist f ≤ g, so ist I(f ) ≤ I(g). ¨ Beweis. Ubung.
2
Definition 4.4 (Integral). Ist f : Ω → [0, ∞] messbar, so definieren wir das Integral von f bez¨uglich μ durch
f dμ := sup I(g) : g ∈ E+ , g ≤ f . 0 Bemerkung 4.5. Nach Lemma 4.3(iii) ist I(f ) = f dμ f¨ur jedes f ∈ E+ . Also ist das Integral eine Fortsetzung der Abbildung I von E+ auf die Menge der nichtnegativen messbaren Funktionen. 3 Sind f, g : Ω → R Abbildungen, so schreiben wir f ≤ g, falls f (ω) ≤ g(ω) f¨ur jedes ω ∈ Ω gilt. Analog verwenden wir die Schreibweise f ≥ 0 und so fort. Hingegen schreiben wir f ≤ g fast u¨ berall“, falls die schw¨achere Bedingung gilt, ” dass eine μ-Nullmenge N existiert mit f (ω) ≤ g(ω) f¨ur jedes ω ∈ N c .
4.1 Konstruktion und einfache Eigenschaften
89
Lemma 4.6. Seien f, g, f1 , f2 , . . . messbare Abbildungen Ω → [0, ∞]. Dann gilt 0 0 (i) (Monotonie) Ist f ≤ g, dann ist f dμ ≤ g dμ. (ii) (Monotone 0 0 Konvergenz) Gilt fn ↑ f , dann konvergieren auch die Integrale fn dμ ↑ f dμ. (iii) (Linearit¨at) Sind α, β ∈ [0, ∞], so gilt (αf + βg) dμ = α f dμ + β g dμ, wobei wir die Konvention ∞ · 0 := 0 benutzen. Beweis. (i) Dies folgt direkt aus der Definition des Integrals. (ii) Nach (i) gilt n→∞
n∈N
Wir m¨ussen also nur noch
fn dμ = sup
lim
0
f dμ ≤ sup
0
fn dμ ≤
f dμ.
fn dμ zeigen.
n∈N
Sei g ∈ E+ mit g ≤ f . Es reicht zu zeigen, dass g dμ. sup fn dμ ≥
(4.2)
n∈N
N Die Elementarfunktion g habe die Normaldarstellung g = i=1 αi ½Ai , wobei α1 , . . . , αN ∈ (0, ∞) sind und A1 , . . . , AN ∈ A paarweise disjunkt sind. F¨ur jedes ε > 0 und n ∈ N definieren wir die Menge Bnε = {fn ≥ (1 − ε) g}. Wegen fn ↑ f ≥ g gilt Bnε ↑ Ω f¨ur jedes ε > 0. Also gilt nach (i) f¨ur ε > 0
fn dμ ≥ (1 − ε) g ½Bnε dμ =
N
(1 − ε) αi μ(Ai ∩ Bnε )
i=1 n→∞
−→
N
(1 − ε) αi μ(Ai ) = (1 − ε)
g dμ.
i=1
Da ε > 0 beliebig war, folgt (4.2) und damit die Aussage (ii). (iii) Nach Satz 1.96 ist jede nichtnegative messbare Abbildung monotoner Limes von Elementarfunktionen. Es gibt also Folgen (fn )n∈N und (gn )n∈N in E+ mit
90
4 Das Integral
fn ↑ f und gn ↑ g. Es gilt dann aber auch (αfn + βgn ) ↑ αf + βg. Nach (ii) und Lemma 4.3 gilt daher (αf + βg) dμ = lim (αfn + βgn ) dμ n→∞
= α lim
n→∞
fn dμ + β lim
n→∞
gn dμ = α
f dμ + β
g dμ.
2
0 ± + − F¨ 0 ur messbares f : Ω0→ R ist f ≤ |f | und f 0 ≤−|f |, also gilt auch 0 + f dμ ≤ |f | dμ. Ist speziell |f | dμ < ∞, so ist auch f dμ < ∞ und f dμ < ∞. Daher k¨onnen wir die folgende Definition treffen, die abschließend das Integral f¨ur messbare Funktionen erkl¨art. ¨ messbare Definition 4.7 (Integral fur 0 Funktionen). Eine messbare Funktion f : Ω → R heißt μ-integrierbar, falls |f | dμ < ∞. Wir schreiben 0 |f | dμ < ∞ . L1 (μ) := L1 (Ω, A, μ) := f : Ω → R : f ist messbar und F¨ur f ∈ L1 (μ) definieren wir das Integral von f bez¨uglich μ durch f (ω) μ(dω) := f dμ := f + dμ − f − dμ.
(4.3)
0 0 0 Ist lediglich f − dμ < ∞ oder f + dμ < ∞, so definieren wir ebenfalls f dμ durch (4.3), wobei wir dann die Werte +∞ beziehungsweise −∞ zulassen. f dμ := (f ½A ) dμ. Ist A ∈ A, so schreiben wir A
Satz 4.8. Sei f : Ω → [0, ∞] messbar. 0 (i) Es ist f = 0 fast u¨ berall genau dann, wenn f dμ = 0 gilt. 0 (ii) Ist f dμ < ∞, so gilt f < ∞ fast u¨ berall. Beweis. (i) =⇒ “ Es gelte f = 0 fast u¨ berall. Sei N = {ω : f (ω) > 0}. Dann ” ist f ≤ ∞ · ½N und n½N ↑ ∞ · ½N . Es folgt nach Lemma 4.6(i) und (ii) n½N dμ = 0. 0 ≤ f dμ ≤ (∞ · ½N ) dμ = lim n→∞
”
⇐= “
Sei Nn = {f ≥ n1 }, n ∈ N. Dann ist Nn ↑ N und μ(Nn ) 1 . ½N dμ = 0 = f dμ ≥ n n n
Also gilt μ(Nn ) = 0 f¨ur jedes n ∈ N und damit μ(N ) = 0.
4.1 Konstruktion und einfache Eigenschaften
91
(ii) Sei A = {ω : f (ω) = ∞}. F¨ur n ∈ N ist n1 f ½{f ≥n} ≥ ½{f ≥n} , also nach Lemma 4.6(i) 1 1 n→∞ μ(A) = ½A dμ ≤ ½{f ≥n} dμ ≤ f ½{f ≥n} dμ ≤ f dμ −→ 0. 2 n n Satz 4.9 (Eigenschaften des Integrals). Seien f, g ∈ L1 (μ). 0 0 (i) (Monotonie) Ist f ≤ g fast u¨ berall, so ist f dμ ≤ g dμ. 0 0 Ist speziell f = g fast u¨ berall, so ist f dμ = g dμ. 0 0 (ii) (Dreiecksungleichung) Es gilt stets f dμ ≤ |f | dμ. Sind α, β ∈ R, dann ist αf + βg ∈ L1 (μ) und (αf + βg) dμ = α f dμ + β g dμ.
(iii) (Linearit¨at)
Diese Gleichung gilt auch, wenn h¨ochstens eines der Integrale 0 g dμ einen der Werte ±∞ annimmt.
0
f dμ und
Beweis. (i) Es gilt f + ≤ g + und f − ≥ g − f.¨u., also ist nach Lemma 4.6(i) f + dμ ≤ g + dμ und f − dμ ≥ g − dμ. Es folgt
f dμ =
f + dμ −
f − dμ ≤
g + dμ −
g − dμ =
g dμ.
(ii) Wegen f + + f − = |f | ist nach Lemma 4.6(iii) f dμ = f + dμ − f − dμ ≤ f + dμ + f − dμ =
+ f + f − dμ =
|f | dμ.
(iii) Wegen |αf + βg| ≤ |α| · |f | + |β| · |g| ist nach Lemma 4.6(i) und (iii) auch αf + βg ∈ L1 (μ). Um die Linearit¨at zu zeigen, reicht es die drei folgenden Eigenschaften zu pr¨ufen. 0 0 0 (a) (f + g) dμ = f dμ + g dμ. 0 0 (b) F¨ur α ≥ 0 ist αf dμ = α f dμ. 0 0 (c) (−f ) dμ = − f dμ.
92
4 Das Integral
Zu (a): Es ist (f + g)+ − (f + g)− = f + g = f + − f − + g + − g − , also ist (f + g)+ + f − + g − = (f + g)− + f + + g + . Nach Lemma 4.6(iii) gilt (f + g)+ dμ + f − dμ + g − dμ = (f + g)− dμ + f + dμ + g + dμ, also ist
(f + g)+ dμ − (f + g)− dμ = f + dμ − f − dμ + g + dμ − g − dμ = f dμ + g dμ.
(f + g) dμ =
Zu (b): F¨ur α ≥ 0 ist αf dμ = αf + dμ − αf − dμ = α f + dμ − α f − dμ = α f dμ. Zu (c): Es ist
(−f ) dμ − (−f )− dμ = f − dμ − f + dμ = − f dμ. +
(−f ) dμ =
¨ Der Zusatz ist simpel und verbleibt zur Ubung.
2
Satz 4.10 (Bildmaß). Seien (Ω, A) und (Ω , A ) Messr¨aume, μ ein Maß auf (Ω, A) und X : Ω → Ω messbar. Sei μ = μ ◦ X −1 das Bildmaß von μ unter X und f : Ω → R integrierbar bez¨uglich μ . Dann ist f ◦ X ∈ L1 (μ) und (f ◦ X) dμ = f d(μ ◦ X −1 ). Ist speziell X eine Zufallsvariable auf (Ω, A, P), so ist f (x) P[X ∈ dx] := f (x) PX [dx] = f dPX = f (X(ω)) P[dω]. ¨ Beweis. Ubung!
2
Beispiel 4.11 (Diskreter Maßraum). Sei (Ω, A) ein diskreter Messraum und μ = αω δω f¨ur gewisse Zahlen αω ≥ 0, ω ∈ Ω. Eine Abbildung f : Ω → R ist ω∈Ω |f (ω)| αω < ∞ ist. In diesem Fall gilt genau dann integrierbar, wenn
ω∈Ω
f dμ =
ω∈Ω
f (ω) αω .
3
4.1 Konstruktion und einfache Eigenschaften
93
Definition 4.12 (Lebesgue-Integral). Sei λ das Lebesgue-Maß auf Rn und f : Rn → R messbar bez¨uglich B ∗ (Rn ) – B(R) (wobei B ∗ (Rn ) die Lebesgue’sche σ-Algebra ist, siehe Beispiel 1.71) und λ-integrierbar. Dann nennen wir f dλ das Lebesgue-Integral von f . Ist A ∈ B(Rn ) und f : Rn → R messbar (oder f : A → R messbar bez¨uglich B∗ (Rn ) – B(R) und damit f ½A messbar bez¨uglich A
B∗ (Rn ) – B(R)), so schreiben wir f dλ := f ½A dλ. A
Definition 4.13. Sei μ ein Maß auf (Ω, A) und f : Ω → [0, ∞) messbar. Wir sagen, dass das durch ν(A) := (½A f ) dμ f¨ur A ∈ A definierte Maß f μ := ν die Dichte f bez¨uglich μ hat. Bemerkung 4.14. Wir m¨ussen noch zeigen, dass ν ein Maß ist und pr¨ufen hierzu die Bedingung von Satz 1.36 nach. Offenbar ist ν(∅) = 0. Endliche Additivit¨at folgt aus der Additivit¨at des Integrals (Lemma 4.6(iii)) und Stetigkeit von unten aus dem Satz von der monotonen Konvergenz (Satz 4.20). 3 Satz 4.15. Es ist g ∈ L1 (f μ) genau dann, wenn (gf ) ∈ L1 (μ). In diesem Fall gilt g d(f μ) = (gf ) dμ. Beweis. Die Aussage gilt zun¨achst f¨ur Indikatorfunktionen und wird dann mit den u¨ blichen Argumenten auf Elementarfunktionen, nichtnegative Funktionen sowie schließlich auf messbare Funktionen fortgesetzt. 2 Definition 4.16. F¨ur messbares f : Ω → R definieren wir f p := und
1/p |f | dμ p
,
falls p ∈ [1, ∞),
f ∞ := inf K ≥ 0 : μ({|f | > K}) = 0 .
Ferner definieren wir f¨ur jedes p ∈ [1, ∞] den Vektorraum Lp (μ) := f : Ω → R ist messbar und f p < ∞ .
94
4 Das Integral
Satz 4.17. Die Abbildung · 1 ist eine Pseudonorm auf L1 (μ), das heißt, es gilt f¨ur f, g ∈ L1 (μ) und α ∈ R αf 1 = |α| · f 1 f + g1 ≤ f 1 + g1
(4.4)
f 1 ≥ 0 f¨ur alle f und f 1 = 0,
falls f = 0 f.¨u.
Beweis. Die erste und dritte Aussage folgen aus Satz 4.9(iii) und Satz 4.8(i). Die zweite folgt aus Satz 4.9(i), denn es ist |f + g| ≤ |f | + |g|, also f + g1 = |f + g| dμ ≤ |f | dμ + |g| dμ = f 1 + g1 . 2 Bemerkung 4.18. Tats¨achlich ist · p f¨ur jedes p ∈ [1, ∞] eine Pseudonorm auf Lp (μ). Linearit¨at und Positivit¨at sind klar, und die Dreiecksungleichung ist die Minkowski’sche Ungleichung, die wir in Satz 7.17 zeigen werden. 3
Satz 4.19. Seien μ(Ω) < ∞ und 1 ≤ p ≤ p ≤ ∞. Dann ist Lp (μ) ⊂ Lp (μ), und die kanonische Inklusion i : Lp (μ) → Lp (μ), f → f ist stetig.
Beweis. Sei f ∈ L∞ (μ) und p ∈ [1, ∞). Dann ist |f |p ≤ f p∞ fast u¨ berall, also |f |p dμ ≤ f p∞ dμ = f p∞ · μ(Ω) < ∞.
F¨ur f, g ∈ L∞ (μ) ist also f − gp ≤ μ(Ω)1/p f − g∞ und damit ist i stetig.
Seien nun p, p ∈ [1, ∞) mit p < p sowie f ∈ Lp (μ). Dann ist |f |p ≤ 1 + |f |p , also gilt |f |p dμ ≤ μ(Ω) + |f |p dμ < ∞. Seien schließlich f, g ∈ Lp (μ). F¨ur jedes c > 0 ist
|f − g|p = |f − g|p ½{|f −g|≤c} + |f − g|p ½{|f −g|>c} ≤ cp + cp −p |f − g|p . Speziell erhalten wir mit c = f − gp 1/p f − gp ≤ cp μ(Ω) + cp −p f − gpp = (1 + μ(Ω))1/p f − gp . 2
Also ist i auch in diesem Falle stetig.
¨ Ubung 4.1.1 (Folgenr¨aume). Wir nehmen jetzt nicht mehr an, dass μ(Ω) < ∞ ist. Man zeige: Gibt es ein a > 0, sodass f¨ur jedes A ∈ A entweder μ(A) = 0 oder μ(A) ≥ a gilt, so gilt die zu Satz 4.19 umgekehrte Inklusion
Lp (μ) ⊂ Lp (μ),
falls 1 ≤ p ≤ p ≤ ∞.
(4.5) ♣
4.2 Monotone Konvergenz und Lemma von Fatou
95
¨ Ubung 4.1.2. Sei 1 ≤ p < p ≤ ∞ und μ σ-endlich, aber nicht endlich. Man zeige, p dass L (μ) \ Lp (μ) = ∅. ♣
4.2 Monotone Konvergenz und Lemma von Fatou Unter welchen Bedingungen ist die Vertauschbarkeit von Limes und Integral zul¨assig? Wir geben hier zwei einfache Kriterien f¨ur die Vertauschbarkeit an, die uns wichtige Anwendungen wie Gesetze der großen Zahl (Kapitel 5) erm¨oglichen. Allgemeinere Kriterien werden in Kapitel 6 hergeleitet. Satz 4.20 (Monotone Konvergenz, Satz von Beppo Levi). Seien f1 , f2 , . . . ∈ L1 (μ) und f : Ω → R messbar. Es gelte fn ↑ f f.¨u. f¨ur n → ∞. Dann gilt fn dμ = f dμ, lim n→∞
wobei beide Seiten den Wert +∞ annehmen k¨onnen. Beweis. Sei N ⊂ Ω eine Nullmenge, sodass fn (ω) ↑ f (ω) f¨ur alle ω ∈ N c . Die Funktionen fn := (fn − f1 ) ½N c und f := (f − f1 ) ½N c sind nichtnegativ und 0 n→∞ 0 f dμ. Wegen fn = erf¨ullen fn ↑ f . Nach Lemma 4.6(ii) gilt fn dμ −→ fn + f1 f.¨u. und f = f + f1 f.¨u. folgt nach Satz 4.9(iii) n→∞ f1 dμ + f dμ = f dμ. 2 fn dμ = f1 dμ + fn dμ −→
Satz 4.21 (Lemma von Fatou). Seien f ∈ L1 (μ) und f1 , f2 , . . . messbar mit fn ≥ f f.¨u. f¨ur jedes n ∈ N. Dann gilt lim inf fn dμ ≤ lim inf fn dμ. n→∞
n→∞
Beweis. Indem wir (fn − f )n∈N betrachten, k¨onnen wir annehmen, dass fn ≥ 0 f.¨u. f¨ur jedes n ∈ N. Setze gn := inf fm . m≥n
Dann gilt gn ↑ lim inf fm , also nach dem Satz von der monotonen Konvergenz m→∞ 0 0 (Lemma 4.6(ii)) sowie der Monotonie gn ≤ fn (also gn dμ ≤ fn dμ) 2 lim inf fn dμ = lim gn dμ ≤ lim inf fn dμ. n→∞
n→∞
n→∞
96
4 Das Integral
Beispiel 4.22 (Petersburger Spiel). Wir wollen durch ein Beispiel zeigen, dass auf die Voraussetzung der Existenz einer integrierbaren Minorante im Lemma von Fatou nicht verzichtet werden kann. Wir betrachten ein Gl¨ucksspiel in einem Casino, bei dem in jeder Runde ein vom Spieler gew¨ahlter Einsatz entweder verdoppelt zur¨uckgezahlt wird oder verloren geht. Dies ist etwa beim Roulette der Fall, wo der Spieler zum Beispiel auf Rot“ setzen kann. Kommt eine rote Zahl, so gewinnt der ” Spieler seinen Einsatz verdoppelt zur¨uck, ansonsten verliert er ihn. Es gibt 37 Felder, von denen 18 rot sind, 18 schwarz und eines gr¨un (die Null). Die Gewinnchance soll1 te also p = 18 ucksspiel werde unendlich oft unabh¨angig 37 < 2 betragen. Dieses Gl¨ hintereinander ausgef¨uhrt. Wir k¨onnen es also auf einem Wahrscheinlichkeitsraum (Ω, A, P) realisieren, wobei Ω = {−1, 1}N , A = (2{−1,1} )⊗N die von den Zy⊗N das lindern [ω1 , . . . , ωn ] erzeugte σ-Algebra ist und P = ((1 − p)δ−1 + pδ1 ) Produktmaß. Wir bezeichnen mit Dn : Ω → {−1, 1}, ω → ωn das Ergebnis der n-ten Runde f¨ur jedes n ∈ N. Macht der Spieler in der i-ten Runde den (zuf¨alligen) Einsatz Hi , so betr¨agt die Summe der Gewinne nach der n-ten Runde Sn =
n
Hi Di .
i=1
Wir nehmen nun an, dass der Spieler die folgende Strategie verfolgt: In der ersten Runde ist der Einsatz H1 = 1. Gewinnt er, so setzt er in den folgenden Spielen gar nicht mehr, also ist Hn = 0 f¨ur jedes n ≥ 2, falls D1 = 1. Verliert er hingegen, so setzt er in der zweiten Runde den doppelten Einsatz, also ist H2 = 2, falls D1 = −1. Gibt die zweite Runde einen Gewinn, so setzt er ab der dritten Runde gar nicht mehr, andernfalls verdoppelt er wiederum seinen Einsatz in der dritten Runde und so weiter. Wir erhalten also als Strategie 0, falls es ein i ∈ {1, . . . , n − 1} gibt mit Di = 1, Hn = n−1 , sonst. 2 Man beachte, dass Hn nur von D1 , . . . , Dn−1 abh¨angt, also messbar ist bez¨uglich σ(D1 , . . . , Dn−1 ). Dies ist offenbar ein wichtige Forderung an jede Spielstrategie, da man die Entscheidung u¨ ber den Einsatz aufgrund der vorhandenen Kenntnis zum jeweiligen Zeitpunkt treffen muss und nicht in die Zukunft blicken kann. Die Wahrscheinlichkeit, dass bis zum Zeitpunkt n kein Spiel gewonnen wurde ist (1 − p)n , also ist P[Sn = 1 − 2n ] = (1 − p)n und P[Sn = 1] = 1 − (1 − p)n . Man erwartet also im Mittel einen Gewinn von
n Sn dP = (1 − p)n (1 − 2n ) + (1 − (1 − p)n ) = 1 − 2 (1 − p) ≤ 0, da p ≤
1 2
ist (in den profitablen Spielbanken). Wir setzen nun −∞, falls − 1 = D1 = D2 = . . . , S= 1, sonst.
4.2 Monotone Konvergenz und Lemma von Fatou
97
0 0 n→∞ Dann gilt Sn −→ S f.s., jedoch ist limn→∞ Sn dP < S dP = 1, weil S = 1 fast sicher gilt. Nach dem Lemma von Fatou ist dies nur m¨oglich, wenn es keine integrierbare Minorante zur Folge (Sn )n∈N gibt. Setzen wir S˜ := inf{Sn : n ∈ N}, so gilt in der Tat ) * ) * P S˜ = 1 − 2n−1 = P D1 = . . . = Dn−1 = −1 und Dn = 1 = p(1 − p)n−1 , 0 ∞ also S˜ dP = n=1 (1 − 2n−1 ) p(1 − p)n−1 = −∞, weil p ≤ 12 . 3 1 ¨ Ubung 4.2.1. Sei (Ω, A, μ) ein Maßraum und zeige: Zu jedem 0 f ∈ L (μ). 0 Man ♣ ε > 0 gibt es ein A ∈ A mit μ(A) < ∞ und A f dμ − f dμ < ε.
0 ¨ Ubung 4.2.2. Seien f1 , f2 , . . . ∈ L1 (μ) nichtnegativ und so, dass limn→∞ fn dμ n→∞ existiert. Es gebe ein messbares f mit fn −→ f μ-fast u¨ berall. Man zeige: Es gilt f ∈ L1 (μ) und fn − f dμ = lim lim ♣ fn dμ − f dμ. n→∞
n→∞
¨ Funktion auf Ubung 4.2.3. Sei f ∈ L1 ([0, ∞), λ) eine Lebesgue-integrierbare [0, ∞). Man zeige, dass f¨ur λ-fast alle t ∈ [0, ∞) die Reihe ∞ f n=1 (nt) absolut konvergiert. ♣ ¨ Ubung 4.2.4. Sei λ das Lebesgue-Maß auf R und A eine Borel’sche Menge mit λ(A) < ∞. Man zeige: F¨ur jedes ε > 0 gibt es eine kompakte Menge C ⊂ A, eine abgeschlossene Menge D ⊂ R \ A und eine stetige Abbildung ϕ : R → [0, 1] mit ½C ≤ ϕ ≤ ½R\D , sodass ½A − ϕ1 < ε. Hinweis: Man verwende die Regularit¨at des Lebesgue-Maßes (Bemerkung 1.67).♣ ¨ Ubung 4.2.5. Sei λ das Lebesgue-Maß auf R, p ∈ [1, ∞) und f ∈ Lp (λ). Man zeige: F¨ur jedes ε > 0 existiert eine stetige Funktion h : R → R mit f − hp < ε. ¨ Hinweis: Verwende Ubung 4.2.4 um die Aussage zun¨achst f¨ur Indikatorfunktionen messbarer Mengen zu zeigen, dann f¨ur einfache Funktionen und schließlich f¨ur all♣ gemeines f ∈ Lp (λ). ¨ Ubung 4.2.6. Sei λ das Lebesgue-Maß auf R, p ∈ [1, ∞) und f ∈ Lp (λ). Eine Funktion h : R → R heißt Treppenfunktion, wenn es Zahlen n ∈ N, t0 < t1 < n . . . < tn und α1 , . . . , αn gibt mit h = k=1 αk ½(tk−1 ,tk ] . Man zeige: F¨ur jedes ε > 0 existiert eine Treppenfunktion h mit f − hp < ε. Hinweis: Man zeige die Aussage zun¨achst f¨ur messbare Indikatorfunktionen mit Hilfe des Approximationssatzes f¨ur Maße (Satz 1.65), angewandt auf den Semiring der linksoffenen beschr¨ankten Intervalle. Danach verwende man die Approximati¨ onsargumente wie in Ubung 4.2.5. ♣
98
4 Das Integral
4.3 Lebesgue-Integral versus Riemann-Integral Wir zeigen, dass f¨ur Riemann-integrierbare Funktionen das Lebesgue-Integral und das Riemann-Integral u¨ bereinstimmen. Sei I = [a, b] ⊂ R ein Intervall und λ das Lebesgue-Maß auf I. Ferner betrachten wir Folgen t = (tn )n∈N von Partitionen tn = (tni )i=0,...,n von I, also a = tn0 < tn1 < . . . < tnn = b, die immer feiner werden, das heißt, mit max{tni − tni−1 : i = n→∞ n+1 1, . . . , n} −→ 0. Wir nehmen an, dass N die Partition eine
n ∈n+1
t n f¨ur jedes n+1 n n Verfeinerung von t ist, dass also gilt t0 , . . . , tn ⊂ t0 , . . . , tn+1 . F¨ur jede Funktion f : I → R und jedes n ∈ N definieren wir die n-te Untersumme beziehungsweise Obersumme durch Unt (f ) :=
n
(tni − tni−1 ) inf f [tni−1 , tni ) ,
i=1
Ont (f ) :=
n
(tni − tni−1 ) sup f [tni−1 , tni ) .
i=1
Bekanntlich heißt eine Funktion f : I → R Riemann-integrierbar, wenn es ein t gibt, sodass die Limiten von Obersummen und Untersummen u¨ bereinstimmen und endlich sind. Der Grenzwert h¨angt dann nicht vom gew¨ahlten t ab, und man definiert
b
f (x) dx := lim Unt (f ) = lim Ont (f ) n→∞
a
n→∞
(4.6)
als das Riemann-Integral von f (siehe etwa [150]). Satz 4.23 (Riemann-Integral und Lebesgue-Integral). Sei f : I → R Riemannintegrierbar auf I = [a, b]. Dann ist f Lebesgue-integrierbar auf I mit Integral
f dλ = I
b
f (x) dx. a
Beweis. Sei t so gew¨ahlt, dass (4.6) gilt. Nach Voraussetzung gibt es ein n ∈ N mit |Unt (f )| < ∞ und |Ont (f )| < ∞. Also ist f beschr¨ankt. Indem wir f durch f + f ∞ ersetzen, k¨onnen wir annehmen, dass f ≥ 0 gilt. Setze gn := f (b) ½{b} +
n
(inf f ([tni−1 , tni ))) ½[tni−1 ,tni ) ,
i=1
hn := f (b) ½{b} +
n i=1
(sup f ([tni−1 , tni ))) ½[tni−1 ,tni ) .
4.3 Lebesgue-Integral versus Riemann-Integral
99
Da tn+1 eine Verfeinerung von tn ist, gilt gn ≤ gn+1 ≤ hn+1 ≤ hn . Also existieren g und h mit gn ↑ g und hn ↓ h. Nach Konstruktion gilt g ≤ h und g dλ = lim gn dλ = lim Unt (f ) I
n→∞
I
n→∞
= lim Ont (f ) = lim n→∞
n→∞
hn dλ = I
h dλ. I
Also ist λ-fast u¨ berall h = g. Nach Konstruktion ist g ≤ f ≤ h, und g und h sind als Limiten von Elementarfunktionen messbar bez¨uglich B(I) – B(R). Es folgt, dass f¨ur jedes α ∈ R
{f ≤ α} = {g ≤ α} ∩ {g = h} {f ≤ α} ∩ {g = h} die Vereinigung einer B(I)-Menge mit einer Teilmenge einer Nullmenge ist, also in B(I)∗ (der Lebesgue’schen Vervollst¨andigung von B(I)) liegt. Mithin ist f messbar bez¨uglich B(I)∗ . Nach dem Satz u¨ ber monotone Konvergenz (Satz 4.20) ist
f dλ = lim I
n→∞
gn dλ =
I
b
f (x) dx.
2
a
Beispiel 4.24. Sei f : [0, 1] → R, x → ½Q . Dann ist f offenbar nicht Riemannintegrierbar, weil Un (f ) = 0 und 0On (f ) = 1 f¨ur jedes n ∈ N. Andererseits ist f Lebesgue-integrierbar mit Integral [0,1] f dλ = 0, denn Q ∩ [0, 1] ist eine Nullmenge. 3 Bemerkung 4.25. Eine uneigentlich Riemann-integrierbare Funktion f auf einem halboffenen Intervall I = (a, b] oder I = [0, ∞) ist nicht notwendigerweise auch 0∞ Lebesgue-integrierbar. Hier wird n¨amlich das uneigentliche Integral 0 f (x) dx := 0n limn→∞ 0 f (x) dx durch eine Grenzwertprozedur definiert, die R¨ucksicht auf die Geometrie von R nimmt. Dies tut das Lebesgue-Integral nicht. So ist die Funktion 1 sin(x) (uneigentlich) Riemann-integrierbar, jedoch nicht f : [0, ∞) → R, x → 1+x 0 Lebesgue-integrierbar, weil [0,∞) |f | dλ = ∞ ist. 3 Wir haben schon gesehen, dass uneigentlich Riemann-integrierbare Funktionen nicht notwendigerweise auch Lebesgue-integrierbar sind. Andererseits gibt es Lebesgue-integrierbare Funktionen, die nicht Riemann-integrierbar sind (wie etwa ½Q ). Geometrisch l¨asst sich dies so interpretieren, dass das Riemann-Integral die Geometrie des Integrationsbereiches respektiert, indem es als Grenzwert von Fl¨achen schmaler senkrechter Streifen entsteht, w¨ahrend das Lebesgue-Integral als Grenzwert mit flachen waagerechten Streifen gedacht werden kann. Insbesondere macht dieses Integral gar keine Annahmen an den Definitionsbereich des Integranden, weshalb es eben universeller einsetzbar ist. Um dies zu unterstreichen, bringen wir einen Satz, der uns auch ansonsten noch n¨utzlich sein wird.
100
4 Das Integral
Satz 4.26. Sei f : Ω → R messbar und f ≥ 0 fast u¨ berall. Dann gelten ∞
μ({f ≥ n}) ≤
∞
f dμ ≤
n=1
(4.7)
μ({f > n})
n=0
und
∞
f dμ =
μ({f ≥ t}) dt.
(4.8)
0 Setze 0Beweis. 0 f =0 f und f = f . Dann ist f ≤ f ≤ f und deshalb f dμ ≤ f dμ ≤ f dμ. Nun ist
f dμ =
∞
μ({f = k}) · k =
k=1
= =
k ∞
μ({f = k})
k=1 n=1 ∞ ∞
μ({f = k})
n=1 k=n ∞
∞
n=1
n=1
μ({f ≥ n}) =
μ({f ≥ n}).
Analog ist
f dμ =
∞
μ({f ≥ n}) =
n=1
∞
μ({f > n − 1}).
n=1
Hieraus folgt (4.7). Gilt g(t) := μ({f ≥ t}) = ∞ f¨ur ein t > 0, so sind beide Seiten in (4.8) gleich ∞. Sei im Folgenden also g(t) < ∞ f¨ur alle t > 0. F¨ur ε > 0 und k ∈ N setze f ε := f ½{f ≥ε} sowie fkε = 2k f ε und αkε
:= 2
−k
∞
μ({f ε ≥ n2−k }).
n=1 k→∞
Dann gilt αkε −→
0∞
g(t) dt. Ferner gilt nach (4.7) (mit fkε statt f ) ∞ μ({fkε ≥ n}) ≤ f ε dμ αkε = 2−k ε
n=1
≤ 2−k
∞
μ({fkε > n}) = 2−k
n=0
∞
μ({f ε > n2−k }) ≤ αkε + 2−k g(ε).
n=0
0∞
0 k→∞ Wegen 2−k g(ε) −→ 0 folgt ε g(t) dt = f ε dμ. Wegen f ε ↑ f f¨ur ε ↓ 0 folgt (4.8) aus dem Satz u¨ ber monotone Konvergenz. 2
4.3 Lebesgue-Integral versus Riemann-Integral
101
¨ Ubung 4.3.1. Sei f : [0, 1] → R beschr¨ankt. Zeige: f ist genau dann (eigentlich) Riemann-integrierbar, wenn f λ-f.¨u. stetig ist. ♣ ¨ Ubung 4.3.2. Ist f : [0, 1] → R Riemann-integrierbar, so ist f Lebesgue-messbar. Man zeige durch ein Beispiel, dass f nicht Borel-messbar sein muss. (Hinweis: Man verwende ohne Beweis die Existenz einer Teilmenge von [0, 1], die nicht Borelmessbar ist und konstruiere hieraus eine nicht-Borel’sche Menge, deren Abschluss eine Nullmenge ist.) ♣
5 Momente und Gesetze der Großen Zahl
Die wichtigsten Kenngr¨oßen f¨ur Zufallsvariablen sind Median, Erwartungswert und Varianz. Der Erwartungswert beschreibt f¨ur großes n den typischen ungef¨ahren Wert des arithmetischen Mittels (X1 + . . . + Xn )/n von u.i.v. Zufallsvariablen (Gesetz der Großen Zahl). In Kapitel 15 werden wir sehen, wie die Varianz hingegen die typischen Abweichungen des arithmetischen Mittels vom Erwartungswert determiniert.
5.1 Momente Im Folgenden sei (Ω, A, P) ein Wahrscheinlichkeitsraum. Definition 5.1. Sei X eine reelle Zufallsvariable. (i) Ist X ∈ L1 (P), so heißt X integrierbar, und wir nennen E[X] := X dP den Erwartungswert von X. Ist E[X] 0 = 0, so heißt X zentriert. Etwas allgemeiner schreiben wir auch E[X] = X dP, falls nur X − oder X + integrierbar ist. (ii) Ist n ∈ N und X ∈ Ln (P), so heißen die Gr¨oßen ) * ) * mk := E X k , Mk := E |X|k f¨ur jedes k = 1, . . . , n, die k-ten Momente beziehungsweise absoluten Momente von X. (iii) Ist X ∈ L2 (P), so heißt X quadratintegrierbar, und wir nennen ) * Var[X] := E X 2 − E[X]2 √ die Varianz von X. Die Zahl σ := Var[X] heißt die Streuung oder Standardabweichung von X. Formal setzen wir manchmal Var[X] = ∞, falls E[X 2 ] = ∞ ist.
104
5 Momente und Gesetze der Großen Zahl
(iv) Sind X, Y ∈ L2 (P), so definieren wir die Kovarianz von X und Y durch ) * Cov[X, Y ] := E X − E[X] Y − E[Y ] . X und Y heißen unkorreliert, falls Cov[X, Y ] = 0 ist. Bemerkung 5.2. (i) Die Definition in (ii) ist sinnvoll, denn f¨ur X ∈ Ln (P) ist nach Satz 4.19 Mk < ∞ f¨ur jedes k = 1, . . . , n. (ii) Sind X, Y ∈ L2 (P), so ist wegen |XY | ≤ X 2 + Y 2 auch XY ∈ L1 (P). Deshalb ist die Definition in (iv) sinnvoll, und es gilt Cov[X, Y ] = E[XY ] − E[X] E[Y ]. Speziell ist Var[X] = Cov[X, X].
3
Wir fassen die wichtigsten Rechenregeln f¨ur Erwartungswerte als Satz zusammen. Alle aufgef¨uhrten Eigenschaften folgen direkt aus den Eigenschaften des Integrals. ¨ den Erwartungswert). Seien X, Y, Xn , Zn , n ∈ N, Satz 5.3 (Rechenregeln fur reelle integrierbare Zufallsvariablen auf (Ω, A, P). Dann gilt (i) Ist PX = PY , so ist E[X] = E[Y ]. (ii) (Linearit¨at) Sei c ∈ R. Dann gelten cX ∈ L1 (P) und X + Y ∈ L1 (P) sowie E[cX] = cE[X]
und
E[X + Y ] = E[X] + E[Y ].
(iii) Ist X ≥ 0 fast sicher, so gilt E[X] = 0
⇐⇒
X = 0 fast sicher.
(iv) (Monotonie) Gilt X ≤ Y fast sicher, so gilt E[X] ≤ E[Y ] mit Gleichheit genau dann, wenn X = Y fast sicher. ) * (v) (Dreiecksungleichung) Es ist E[X] ≤ E |X| . ' ( ∞ ∞ Xn = E[Xn ]. (vi) Ist Xn ≥ 0 fast sicher f¨ur jedes n ∈ N, so ist E n=1
n=1
(vii) Gilt Zn ↑ Z f¨ur ein Z, so gilt E[Z] = lim E[Zn ] ∈ (−∞, ∞]. n→∞
Die Wahrscheinlichkeitstheorie beginnt wieder an der Stelle, wo die Unabh¨angigkeit ins Spiel kommt, wir also den Bereich der linearen Integrationstheorie verlassen. Satz 5.4 (Unabh¨angige Zufallsvariablen sind unkorreliert). Seien X, Y ∈ L1 (P) unabh¨angig. Dann ist (X Y ) ∈ L1 (P) und E[XY ] = E[X] E[Y ]. Speziell sind unabh¨angige Zufallsvariablen unkorreliert.
5.1 Momente
105
Beweis. Wir nehmen zun¨achst an, dass X und Y nur endlich viele Werte annehmen. Dann nimmt auch XY nur endlich viele Werte an, speziell ist offenbar XY ∈ L1 (P). Es folgt E[XY ] = z P[XY = z] z∈R\{0}
=
x
z∈R\{0} x∈R\{0}
=
z P[X = x, Y = z/x] x
xy P[X = x] P[Y = y]
y∈R\{0} x∈R\{0}
=
x P[X = x] y P[Y = y]
x∈R
y∈R
= E[X] E[Y ].
−N 4 N 5 2 F¨ u r N ∈ N sind auch die Zufallsvariablen X := 2 |X| ∧ N und YN := N
−N 4 N 5 2 2 |Y | ∧ N , die nur endlich viele Werte annehmen, unabh¨angig, und es gilt XN ↑ |X| sowie YN ↑ |Y |. Nach dem Satz von der monotonen Konvergenz (Satz 4.20) ist daher E[|XY |] = lim E[XN YN ] = lim E[XN ] E[YN ] N →∞ N →∞ = lim E[XN ] lim E[YN ] = E[|X|] E[|Y |] < ∞. N →∞
N →∞
Also ist XY ∈ L (P). Außerdem haben wir damit den Satz gezeigt f¨ur den Fall, wo X und Y nichtnegativ sind. Daher (und weil jede der Familien {X + , Y + }, {X − , Y + }, {X + , Y − } und {X − , Y − } unabh¨angig ist) gilt 1
E[XY ] = E[(X + − X − )(Y + − Y − )] = E[X + Y + ] − E[X − Y + ] − E[X + Y − ] + E[X − Y − ] = E[X + ] E[Y + ] − E[X − ] E[Y + ] − E[X + ] E[Y − ] + E[X − ] E[Y − ] = E[X + − X − ] E[Y + − Y − ] = E[X] E[Y ].
2
Satz 5.5 (Wald’sche Identit¨at). Seien T, X1 , X2 , . . . unabh¨angige, reelle Zufallsvariablen in L1 (P). Es sei P[T ∈ N0 ] = 1, und es seien X1 , X2 , . . . identisch verteilt. Wir setzen T ST := Xi . i=1
Dann ist ST ∈ L (P) und E[ST ] = E[T ] E[X1 ]. 1
n ∞ ur n ∈ N0 . Dann ist ST = Beweis. Setze Sn = i=1 Xi f¨ n=1 Sn ½{T =n} . Nach Bemerkung 2.15 sind Sn und ½{T =n} unabh¨angig f¨ur jedes n ∈ N und damit unkorreliert. Es folgt (mit Hilfe der Dreiecksungleichung, siehe Satz 5.3(v))
106
5 Momente und Gesetze der Großen Zahl ∞ ∞ * * ) * ) ) * ) E |ST | = E |Sn | ½{T =n} = E |Sn | E ½{T =n}
≤
n=1 ∞
n=1
) * E |X1 | n P[T = n] = E[|X1 |] E[T ].
n=1
2
Die selbe Rechnung ohne Betragstriche liefert den Rest der Behauptung. Wir stellen hier ein paar einfache Eigenschaften der Varianz zusammen. Satz 5.6. Sei X ∈ L2 (P). Dann gilt: * ) (i) Var[X] = E (X − E[X])2 ≥ 0.
(ii) Var[X] = 0 ⇐⇒ X = E[X] fast sicher. ) * (iii) Die Abbildung f : R → R, x → E (X −x)2 ist minimal genau in x0 = E[X] mit f (E[X]) = Var[X]. Beweis. (i) Klar nach Bemerkung 5.2(ii). ) * (ii) Nach Satz 5.3(iii) ist E (X − E[X])2 = 0 ⇐⇒ (X − E[X])2 = 0 f.s. (iii) Es ist f (x) = E[X 2 ] − 2x E[X] + x2 = Var[X] + (x − E[X])2 .
2
Satz 5.7. Die Abbildung Cov : L2 (P) × L2 (P) → R ist eine positiv semidefinite symmetrische Bilinearform, und es gilt Cov[X, Y ] = 0, falls Y fast sicher konstant ist. Ausgeschrieben heißt dies: F¨ur X1 , . . ., Xm , Y1 , . . ., Yn ∈ L2 (P) und α1 , . . . , αm , β1 , . . . , βn ∈ R sowie d, e ∈ R gilt ⎤ ⎡ m n αi Xi , e + βj Yj ⎦ = αi βj Cov[Xi , Yj ]. (5.1) Cov ⎣d + i=1
j=1
i,j
Speziell gilt die Bienaym´e-Gleichung -m . m m Var Xi = Var[Xi ] + Cov[Xi , Xj ]. i=1
i=1
i,j=1 i =j
m m F¨ur unkorrelierte X1 , . . . , Xm gilt Var [ i=1 Xi ] = i=1 Var[Xi ].
(5.2)
5.1 Momente
107
Beweis. + Cov d +
m
n
αi Xi , e +
i=1
, βj Yj
j=1
+ , m n =E αi (Xi − E[Xi ]) βj (Yj − E[Yj ]) i=1
=
n m
j=1
) * αi βj E (Xi − E[Xi ])(Yj − E[Yj ])
i=1 j=1
=
n m
αi βj Cov[Xi , Yj ].
2
i=1 j=1
Satz 5.8 (Cauchy-Schwarz’sche Ungleichung). Sind X, Y ∈ L2 (P), so gilt
2 Cov[X, Y ] ≤ Var[X] Var[Y ]. Es gilt genau dann Gleichheit, wenn es a, b, c ∈ R gibt mit |a| + |b| + |c| > 0 und aX + bY + c = 0 fast sicher. Beweis. Die Cauchy-Schwarz’sche Ungleichung gilt f¨ur jede positiv semidefinite Bilinearform, also insbesondere f¨ur die Kovarianz. In der Notation von Varianz und Kovarianz sieht der Beweis so aus: 1. Fall: Var[Y ] = 0. und c = 0).
Hier ist die Aussage trivialerweise richtig (mit a = 0, b = 1
2. Fall: Var[Y ] > 0.
] Sei θ := − Cov[X,Y Var[Y ] . Dann ist nach Satz 5.6(i)
0 ≤ Var[X + θY ] Var[Y ] =
Var[X] + 2θ Cov[X, Y ] + θ2 Var[Y ] Var[Y ]
= Var[X] Var[Y ] − Cov[X, Y ]2 mit Gleichheit genau dann, wenn X + θY fast sicher konstant ist. W¨ahle nun a = 1 und b = θ sowie c = −E[X] − b E[Y ]. 2 Beispiel 5.9. (i) Es sei p ∈ [0, 1] und X ∼ Berp . Dann ist E[X 2 ] = E[X] = P[X = 1] = p und damit Var[X] = p(1 − p). (ii) Seien n ∈ N und p ∈ [0, 1] sowie X binomialverteilt X ∼ bn,p . Dann ist
108
5 Momente und Gesetze der Großen Zahl
E[X] =
n
kP[X = k] =
k=0
n n k k p (1 − p)n−k k k=0
= np ·
n n−1 k=1
k−1
pk−1 (1 − p)(n−1)−(k−1) = np.
Ferner ist E[X(X − 1)] =
n
k(k − 1) P[X = k]
k=0
=
n k=0
= np ·
n k p (1 − p)n−k k(k − 1) k n k=1
n − 1 k−1 p (k − 1) (1 − p)(n−1)−(k−1) k−1
= n(n − 1)p · 2
n n−2 k=2
k−2
pk−2 (1 − p)(n−2)−(k−2)
= n(n − 1)p2 . Also ist E[X 2 ] = E[X(X − 1)] + E[X] = n2 p2 + np(1 − p) und damit Var[X] = np(1 − p). Etwas einfacher als durch die direkte Berechnung sehen wir dies ein, indem wir bemerken (siehe nach Beispiel 3.4(ii)), dass bn,p = b∗n 1,p . Das heißt, es gilt (siehe Satz 2.31) PX = PY1 +...+Yn , wo Y1 , . . . , Yn unabh¨angig sind und Yi ∼ Berp f¨ur jedes i = 1, . . . , n. Es folgt E[X] = n E[Y1 ] = np, Var[X] = n Var[Y1 ] = np(1 − p).
(5.3)
(iii) Seien μ ∈ R und σ 2 > 0 sowie X normalverteilt X ∼ Nμ,σ2 . Dann ist ∞ 2 2 1 E[X] = √ x e−(x−μ) /(2σ ) dx 2 2πσ −∞ ∞ 2 2 1 (x + μ) e−x /(2σ ) dx = √ (5.4) 2 2πσ −∞ ∞ 2 2 1 = μ+ √ x e−x /(2σ ) dx = μ. 2πσ2 −∞ ¨ Ahnlich folgt Var[X] = E[X 2 ] − μ2 = . . . = σ 2 .
5.1 Momente
109
Sei θ > 0 und X exponentialverteilt X ∼ expθ . Dann ist ∞ 1 E[X] = θ x e−θx dx = , θ 0 ∞ ∞ −2 2 −θx −2 2 −x Var[X] = −θ + θ −1 + x e dx = θ x e dx = θ−2 . 3
(iv)
0
0
Satz 5.10 (Blackwell-Girshick). Seien T, X1 , X2 , . . . unabh¨angige, reelle Zufallsvariablen in L2 (P). Es sei P[T ∈ N0 ] = 1, und es seien X1 , X2 , . . . identisch verteilt. Wir setzen T ST := Xi . i=1
Dann ist ST ∈ L (P) und 2
Var[ST ] = E[X1 ]2 Var[T ] + E[T ] Var[X1 ]. Beweis. Wir setzen Sn = ni=1 Xi f¨ur n ∈ N. Dann sind (wie beim Beweis der Wald’schen Identit¨at) Sn und ½{T =n} unabh¨angig, also Sn2 und ½{T =n} unkorreliert und damit ∞ ) * * ) E ST2 = E ½{T =n} Sn2
= = =
n=0 ∞ n=0 ∞ n=0 ∞
) * E[½{T =n} ] E Sn2
P[T = n] Var[Sn ] + E[Sn ]2 P[T = n] n Var[X1 ] + n2 E[X1 ]2
n=0
) * = E[T ] Var[X1 ] + E T 2 E[X1 ]2 . Nach der Wald’schen Identit¨at (Satz 5.5) ist E[ST ] = E[T ] E[X1 ], also ist ) *
) * Var[ST ] = E ST2 − E[ST ]2 = E[T ] Var[X1 ] + E T 2 − E[T ]2 E[X1 ]2 . 2
Dies ist aber die Behauptung.
¨ Ubung 5.1.1. Man zeige (mit Satz 4.15): Ist X eine integrierbare reelle Zufallsvariable, deren Verteilung PX die Dichte f (bez¨uglich des Lebesgue-Maßes λ) besitzt, so gilt E[X] =
xf (x) λ(dx). R
♣
110
5 Momente und Gesetze der Großen Zahl
¨ Ubung 5.1.2. Sei X ∼ βr,s eine Beta-verteilte Zufallsvariable mit Parametern r, s > 0 (vergleiche Beispiel 1.107(ii)). Man zeige E[X n ] =
n−1 k=0
r+k r+s+k
f¨ur jedes n ∈ N.
♣
¨ Ubung 5.1.3. Es seien X1 , X2 , . . . u.i.v. nichtnegative Zufallsvariablen. Man zeige mit Hilfe des Lemmas von Borel-Cantelli: 0 f.s., falls E[X1 ] < ∞, 1 ♣ lim sup Xn = n→∞ n ∞ f.s., falls E[X1 ] = ∞. ¨ Ubung 5.1.4. Es seien X1 , X2 , . . . u.i.v. nichtnegative Zufallsvariablen. Man zeige mit Hilfe des Lemmas von Borel-Cantelli: F¨ur jedes c ∈ (0, 1) gilt ∞ < ∞ f.s., falls E[X1 ] < ∞, Xn n ♣ e c lim sup n→∞ = ∞ f.s., falls E[X1 ] = ∞. n=1
5.2 Schwaches Gesetz der Großen Zahl Satz 5.11 (Markov’sche Ungleichung, Chebyshev’sche Ungleichung). Sei X eine Zufallsvariable und f : [0, ∞) → [0, ∞) monoton wachsend. Dann gilt f¨ur jedes ε > 0 mit f (ε) > 0 die Markov’sche Ungleichung ) * E[f (|X|)] . P |X| ≥ ε ≤ f (ε) ) * ) * Im Spezialfall f (x) = x2 erhalten wir P |X| ≥ ε ≤ ε−2 E X 2 und, falls X ∈ L2 (P), insbesondere die Chebyshev’sche Ungleichung ) * P |X − E[X]| ≥ ε ≤ ε−2 Var[X]. Beweis. Es gilt ) * E[f (|X|)] ≥ E f (|X|) ½{f (|X|)≥f (ε)} * ) ≥ E f (ε) ½{f (|X|)≥f (ε)} ) * ≥ f (ε) P |X| ≥ ε .
2
5.2 Schwaches Gesetz der Großen Zahl
111
Definition 5.12. Sei (Xn )n∈N eine Folge reeller Zufallsvariablen in L1 (P) und n S n = i=1 (Xi − E[Xi ]). (i) Wir sagen, (Xn )n∈N gen¨uge dem schwachen Gesetz der großen Zahl, falls , + 1 lim P Sn > ε = 0 f¨ur jedes ε > 0. n→∞ n (ii) Wir sagen, (Xn )n∈N gen¨uge dem starken Gesetz der großen Zahl, falls , + 1 P lim sup S n = 0 = 1. n n→∞ Bemerkung 5.13. impliziert Das starke Gesetz dergroßen Zahl das schwache. Ist 1 1 ε n¨amlich An := n Sn > ε und A = lim sup n Sn > 0 , so gilt offenbar
A= '
m∈N
(
n→∞
lim sup A1/m , n n→∞
also P lim sup Aεn = 0 f¨ur ε > 0. Nach dem Lemma von Fatou (Satz 4.21) ist n→∞
* ) lim sup P [Aεn ] = 1 − lim inf E ½(Aεn )c n→∞
n→∞
'
≤ 1 − E lim inf ½(Aεn )c n→∞
(
, + = E lim sup ½Aεn = 0. n→∞
2
Satz 5.14. Seien X1 , X2 , . . . unkorrelierte Zufallsvariablen in L2 (P) mit V := supn∈N Var[Xn ] < ∞. Dann gen¨ugt (Xn )n∈N dem schwachen Gesetz der großen Zahl. Es gilt sogar f¨ur jedes ε > 0 + , 1 V P Sn ≥ ε ≤ 2 f¨ur jedes n ∈ N. (5.5) n ε n Beweis. Ohne Einschr¨ankung sei E[Xi ] = 0 f¨ur jedes i ∈ N und damit Sn = X1 + · · · + Xn . Nach der Formel von Bienaym´e (Satz 5.7) ist , + n V 1 Sn = n−2 Var [Xi ] ≤ . Var n n i=1 Nach der Chebyshev’schen Ungleichung (Satz 5.11) gilt f¨ur ε > 0 ) * V n→∞ P |S n /n| ≥ ε ≤ 2 −→ 0. ε n
2
112
5 Momente und Gesetze der Großen Zahl
Beispiel 5.15 (Weierstraß’scher Approximationssatz). Sei f : [0, 1] → R eine stetige Abbildung. Nach dem Weierstraß’schen Approximationssatz existieren Polynome fn vom Grad h¨ochstens n, sodass n→∞
fn − f ∞ −→ 0, wobei f ∞ := sup{|f (x)| : x ∈ [0, 1]} die Supremumsnorm von f ∈ C([0, 1]) bezeichnet. Wir f¨uhren hier einen probabilistischen Beweis dieser Aussage vor. F¨ur n ∈ N sei das Polynom fn definiert durch fn (x) :=
n
f (k/n)
k=0
n k x (1 − x)n−k k
f¨ur x ∈ [0, 1].
Dieses Polynom heißt Bernstein-Polynom der Ordnung n. Sei ε > 0 fest gew¨ahlt. Da f auf [0, 1] stetig ist, ist f sogar gleichm¨aßig stetig. Es existiert also ein δ > 0, sodass |f (x) − f (y)| < ε
f¨ur alle x, y ∈ [0, 1] mit |x − y| < δ.
Sei nun p ∈ [0, 1] fest gew¨ahlt, und seien X1 , X2 , . . . unabh¨angige Zufallsvariablen mit Xi ∼ Berp , i ∈ N. Dann ist Sn := X1 + . . . + Xn ∼ bn,p und deshalb E[f (Sn /n)] =
n
f (k/n) P[Sn = k] = fn (p).
k=0
Wir erhalten |f (Sn /n) − f (p)| ≤ ε + 2f ∞ ½{|(Sn /n)−p|≥δ} und daher (nach Satz 5.14 mit V = p(1 − p) ≤ 14 ) |fn (p) − f (p)| ≤ E[|f (Sn /n) − f (p)|] , + Sn − p ≥ δ ≤ ε + 2f ∞ P n ≤ ε+
f ∞ , 2 δ2 n n→∞
f¨ur jedes p ∈ [0, 1]. Also gilt fn − f ∞ −→ 0.
3
¨ Ubung 5.2.1 (Bernstein-Chernov Absch¨atzung). Seien n ∈ N und p1 , . . . , pn ∈ [0, 1] sowie X1 , . . . , Xn unabh¨angige Zufallsvariablen mit Xi = Berpi f¨ur jedes i = 1, . . . , n. Setze Sn = X1 + . . . + Xn und m := E[Sn ]. Man zeige, dass f¨ur jedes δ > 0 die beiden folgenden Absch¨atzungen gelten
5.3 Starkes Gesetz der Großen Zahl
) * P Sn ≥ (1 + δ)m ≤ und
eδ (1 + δ)1+δ
113
m
2 ) * δ m . P Sn ≤ (1 − δ)m ≤ exp − 2
Hinweis: Verwende f¨ur Sn die Markov’sche Ungleichung mit f (x) = eλx f¨ur gewisses λ > 0 und finde dasjenige λ, das die Absch¨atzung optimiert. ♣
5.3 Starkes Gesetz der Großen Zahl Wir kommen nun zu einem starken Gesetz der großen Zahl, n¨amlich dem in der Form von Etemadi f¨ur identisch verteilte, paarweise unabh¨angige Zufallsvariablen. Es gibt viele verschiedene Formen von starken Gesetzen der großen Zahl, die unterschiedliche Voraussetzungen machen. So kann man darauf verzichten, dass die Zufallsvariablen identisch verteilt sind, wenn man st¨arkere Annahmen, etwa beschr¨ankte Varianzen, macht und so weiter. Wir werden hier nicht bis in alle Tiefen gehen, sondern nur exemplarisch ein paar Aussagen vorstellen. Um die Methode f¨ur den Beweis des Satzes von Etemadi zu illustrieren, stellen wir zun¨achst ein Starkes Gesetz der großen Zahl unter st¨arkeren Annahmen vor. Satz 5.16. Sind X1 , X2 , . . . ∈ L2 (P) paarweise unabh¨angig (das heißt, Xi und Xj sind unabh¨angig f¨ur alle i, j ∈ N mit i = j) und identisch verteilt, so gen¨ugt (Xn )n∈N dem starken Gesetz der großen Zahl. Beweis. Es sind (Xn+ )n∈N und (Xn− )n∈N wieder paarweise unabh¨angige Familien quadratintegrierbarer Zufallsvariablen (vergleiche Bemerkung 2.15(ii)). Es reicht daher, (Xn+ )n∈N zu betrachten. Wir nehmen also im Folgenden an, dass Xn ≥ 0 ist fast sicher f¨ur jedes n ∈ N. Sei Sn = X1 + . . . + Xn f¨ur n ∈ N. W¨ahle ε > 0. F¨ur jedes n ∈ N setzen wir kn = (1 + ε)n ≥ 12 (1 + ε)n . Dann ist nach der Chebyshev’schen Ungleichung (Satz 5.11) + , ∞ ∞ Skn ) * −n/4 P − E[X1 ] ≥ (1 + ε) (1 + ε)n/2 Var kn−1 Skn ≤ kn n=1 n=1 =
∞
(1 + ε)n/2 kn−1 Var[X1 ]
n=1
≤ 2 Var[X1 ]
∞
(1 + ε)−n/2 < ∞.
n=1
(5.6)
114
5 Momente und Gesetze der Großen Zahl
Nach dem Lemma von Borel-Cantelli gibt es daher f¨ur P-f.a. ω ein n0 = n0 (ω) mit Skn −n/4 f¨ur jedes n ≥ n0 . kn − E[X1 ] < (1 + ε) Also gilt
lim sup kn−1 Skn − E[X1 ] = 0
fast sicher.
n→∞
F¨ur hinreichend großes n ∈ N ist kn+1 ≤ (1 + 2ε)kn . F¨ur l ∈ {kn , . . . , kn+1 } ist dann 1 −1 −1 k −1 Skn ≤ kn+1 Skn ≤ l−1 Sl ≤ kn−1 Skn+1 ≤ (1 + 2ε) kn+1 Skn+1 . 1 + 2ε n Wegen 1 − (1 + 2ε)−1 ≤ 2ε folgt lim sup l−1 Sl − E[X1 ] ≤ lim sup kn−1 Skn − E[X1 ] + 2ε lim sup kn−1 Skn n→∞
l→∞
n→∞
≤ 2ε E[X1 ] fast sicher, 2
und damit gilt das starke Gesetz der großen Zahl.
¨ Die Ahnlichkeit der Varianzabsch¨atzungen im schwachen Gesetz der großen Zahl und in (5.6) legen nahe, dass im vorangehenden Satz auf die Bedingung verzichtet werden kann, dass die Zufallsvariablen X1 , X2 , . . . identisch verteilt sind, wenn ¨ man nur fordert, dass die Varianzen beschr¨ankt sind (siehe Ubung 5.3.1). Wir k¨onnen die Bedingung in Satz 5.16 in anderer Weise abschw¨achen, indem wir nur Integrierbarkeit statt Quadratintegrierbarkeit der Zufallsvariablen fordern. Satz 5.17 (Starkes Gesetz der großen Zahl von Etemadi (1981)). Es seien X1 , X2 , . . . ∈ L1 (P) paarweise unabh¨angig und identisch verteilt. Dann gen¨ugt (Xn )n∈N dem starken Gesetz der großen Zahl. Wir folgen der Darstellung in [41]. Setze im Folgenden μ = E[X1 ] und Sn = X1 + . . . + Xn . Zur Vorbereitung des Beweises stellen wir ein paar Lemmata bereit. Lemma 5.18. F¨ur n ∈ N seien Yn := Xn ½{|Xn |≤n} und Tn = Y1 + · · · + Yn . Die n→∞ Folge (Xn )n∈N erf¨ullt das starke Gesetz der großen Zahl, falls Tn /n −→ μ f.s. Beweis. Nach Satz 4.26 ist
∞
) * ) * P |Xn | > n ≤ E |X1 | < ∞. Nach dem Lemma
n=1
von Borel-Cantelli ist daher * ) P Xn = Yn f¨ur unendlich viele n = 0. Es gibt also ein n0 = n0 (ω) mit Xn = Yn f¨ur jedes n ≥ n0 . Daher gilt f¨ur n ≥ n0 T n − Sn Tn0 − Sn0 = n n
n→∞
−→ 0.
2
5.3 Starkes Gesetz der Großen Zahl
Lemma 5.19. F¨ur jedes x ≥ 0 ist 2x
115
n−2 ≤ 4.
n>x
Beweis. F¨ur m ∈ N ist nach dem Integralvergleichskriterium ∞
−2
n
−2
≤ m
∞
+
t−2 dt = m−2 + m−1 ≤
m
n=m
2 . m
2
) * ∞ E Yn2 ≤ 4 E[|X1 |]. Lemma 5.20. Es gilt n2 n=1 ) * * 0∞ ) Beweis. Nach Satz 4.26 ist E Yn2 = 0 P Yn2 > t dt. Mit der Substitution √ x = t erhalten wir n ∞ ) 2* 2x P[|Yn | > x] dx ≤ 2x P[|X1 | > x] dx. E Yn = 0
0
Nach dem Satz u¨ ber monotone Konvergenz und Lemma 5.19 gilt f¨ur m → ∞ m −2 fm (x) = n ½{x
x] ↑ f (x) ≤ 4 P[|X1 | > x]. n=1
Wir k¨onnen also Summation und Integral vertauschen und erhalten ) * ∞ ∞ ∞ E Yn2 −2 ≤ n ½{x x] dx n2 0 n=1 n=1
∞
= 0
∞
n
−2
½{x x] dx
n=1
≤ 4
∞
P[|X1 | > x] dx = 4 E[|X1 |].
2
0
Beweis von Satz 5.17. Wie im Beweis von Satz 5.16 reicht es, den Fall Xn ≥ 0 zu betrachten. W¨ahle ε > 0 und setze α = 1 + ε. F¨ur n ∈ N setzen wir kn = αn und haben speziell kn ≥ αn /2. Es ist also f¨ur m ∈ N (mit n0 = log m/ log α) n: kn ≥m
kn−2 ≤ 4
∞
α−2n = 4 α−2n0 (1 − α−2 )−1 ≤ 4(1 − α−2 )−1 m−2 . (5.7)
n=n0
Unser Ziel ist es, mit Hilfe von Lemma 5.20 die Absch¨atzung (5.6) f¨ur (Yn )n∈N und (Tn )n∈N zu verfeinern. Die Chebyshev’sche Ungleichung liefert (zusammen mit (5.7)) wiederum f¨ur δ > 0
116
5 Momente und Gesetze der Großen Zahl
∞ ∞ ) ) * * Var [Tkn ] P Tkn − E Tkn > δ kn ≤ δ −2 kn2 n=1 n=1
= δ −2
∞
kn−2
n=1
kn
Var[Ym ] = δ −2
m=1
−2 −1
≤ 4(1 − α
)
δ
−2
∞
Var[Ym ]
m=1 ∞
kn−2
n: kn ≥m
) * m−2 E Ym2 < ∞ nach Lemma 5.20.
m=1
(Im dritten Schritt durften wir die Summationsreihenfolge vertauschen, weil alle Summanden nichtnegativ sind.) Da δ > 0 beliebig war, folgt (mit dem Lemma von Borel-Cantelli) Tkn − E [Tkn ] = 0 fast sicher. (5.8) lim n→∞ kn Nach dem Satz u¨ ber monotone Konvergenz (Satz 4.20) gilt ) * n→∞ E[Yn ] = E X1 ½{X1 ≤n} −→ E[X1 ]. n→∞
n→∞
Also gilt E[Tkn ]/kn −→ E[X1 ] und wegen (5.8) auch Tkn /kn −→ E[X1 ] f.s. Wie im Beweis von Satz 5.16 gilt jetzt auch (weil Yn ≥ 0) lim
l→∞
Tl = E[X1 ] fast sicher. l
Nach Lemma 5.18 folgt hieraus die Behauptung von Satz 5.17.
2
Beispiel 5.21 (Monte Carlo Integration). Betrachte eine Funktion f : [0, 1] → R, 01 deren Integral I := 0 f (x) dx numerisch bestimmt werden soll. Wir nehmen an, dass uns der Computer Zahlen X1 , X2 , . . . generiert, die wir als unabh¨angige Zufallszahlen auffassen k¨onnen, die auf [0, 1] gleichverteilt sind. F¨ur n ∈ N definieren wir den Sch¨atzwert n 1 f (Xi ). I:n := n i=1
Unter der Annahme, dass f ∈ L ([0, 1]) ist, liefert das starke Gesetz der großen n→∞ Zahl I:n −→ I fast sicher. 1
Allerdings haben wir im letzten Satz keine Aussage zur Geschwindigkeit der Konvergenz, also zur Gr¨oße P[|I:n − I| > ε] bekommen. Um genauere Sch¨atzungen f¨ur das Integral zu bekommen, ben¨otigen wir zus¨atzliche Information, etwa den Wert 0 V1 := f 2 (x) dx − I 2 , falls f ∈ L2 ([0, 1]) ist. (F¨ur beschr¨anktes f etwa l¨asst sich V1 leicht nach oben absch¨atzen.) Dann ist n¨amlich Var[I:n ] = V1 /n, also ist nach der Chebyshev’schen Ungleichung ' ( P |I:n − I| > ε n−1/2 ≤ V1 /ε2 .
5.3 Starkes Gesetz der Großen Zahl
117
Der Fehler ist mithin maximal von der Gr¨oßenordnung n−1/2 . Der Zentrale Grenzwertsatz wird uns zeigen, dass der Fehler exakt von dieser Ordnung ist. Wenn u¨ ber f minimale Glattheitseigenschaften bekannt sind, so liefern die g¨angigen numerischen Verfahren sehr viel bessere Konvergenzordnungen. Die hier beschriebene Monte Carlo Simulation sollte also nur angewandt werden, wenn alle anderen Verfahren ungeeignet sind. Speziell ist dies der Fall, wenn statt [0, 1] ein Gebiet 3 G ⊂ Rd f¨ur sehr großes d betrachtet wird. Definition 5.22 (Empirische Verteilungsfunktion). Seien X1 , X2 , . . . reelle Zun fallsvariablen. Dann heißt die Abbildung Fn : R → [0, 1], x → n1 ½(−∞,x] (Xi ) die empirische Verteilungsfunktion von X1 , . . . , Xn .
i=1
Satz 5.23 (Glivenko-Cantelli). Seien X1 , X2 , . . . u.i.v. reelle Zufallsvariablen mit Verteilungsfunktion F , und seien Fn , n ∈ N, die empirischen Verteilungsfunktionen. Dann gilt lim sup sup Fn (x) − F (x) = 0 fast sicher. n→∞
x∈R
Beweis. W¨ahle ein x ∈ R und setze Yn (x) = ½(−∞,x] (Xn ) und Zn (x) = ½(−∞,x) (Xn ) f¨ur n ∈ N. Wir definieren außerdem die linksseitigen Limiten
F (x−) = limy↑x F (y) und analog f¨ur Fn . Dann sind (Yn (x))n∈N und (Zn (x))n∈N jeweils unabh¨angige Familien und E[Yn (x)] = P[Xn ≤ x] = F (x) sowie E[Zn (x)] = P[Xn < x] = F (x−). Nach dem starken Gesetz der großen Zahl gilt also n 1 n→∞ Yi −→ F (x) fast sicher Fn (x) = n i=1 und
1 n→∞ Zi −→ F (x−) fast sicher. n i=1 n
Fn (x−) =
Wir setzen formal F (−∞) = 0 und F (∞) = 1. Wir w¨ahlen ein beliebiges N ∈ N und setzen
xj := inf x ∈ R : F (x) ≥ j/N , j = 0, . . . , N, und Rn :=
max
j=1,...,N −1
Fn (xj ) − F (xj ) + Fn (xj −) − F (xj −) . n→∞
Nach dem Gezeigten gilt Rn −→ 0 fast sicher. F¨ur x ∈ (xj−1 , xj ) ist (nach Definition von xj ) Fn (x) ≤ Fn (xj −) ≤ F (xj −) + Rn ≤ F (x) + Rn +
1 N
118
5 Momente und Gesetze der Großen Zahl
und Fn (x) ≥ Fn (xj−1 ) ≥ F (xj−1 ) − Rn ≥ F (x) − Rn −
1 . N
Also gilt 1 1 lim sup sup Fn (x) − F (x) ≤ + lim sup Rn = . N N n→∞ x∈R n→∞ Indem wir N → ∞ gehen lassen, folgt die Behauptung.
2
Beispiel 5.24 (Satz von Shannon). Wir betrachten eine Informationsquelle, die zuf¨allig (und unabh¨angig) hintereinander Zeichen X1 , X2 , . . . eines endlichen Alphabets E (also einer beliebigen endlichen Menge) ausgibt. Dabei soll pe die Wahrscheinlichkeit f¨ur das Auftreten des Zeichens e ∈ E sein. Formal sind also X1 , X2 , . . . u.i.v. E-wertige Zufallsvariablen mit P[Xi = e] = pe f¨ur e ∈ E. Sei f¨ur jedes ω ∈ Ω und n ∈ N πn (ω) :=
n
pXi (ω)
i=1
die Wahrscheinlichkeit, dass die beobachtete Sequenz X1 (ω), . . . , Xn (ω) auftritt. Wir setzen Yn (ω) := − log(pXn (ω) ). Dann ist (Yn )n∈N u.i.v. und E[Yn ] = H(p), wobei pe log(pe ) H(p) := − e∈E
die Entropie der Verteilung p = (pe )e∈E ist. Aus dem starken Gesetz der großen Zahl folgt der Satz von Shannon: 1 1 Yi log πn = n n i=1 n
−
n→∞
−→ H(p)
fast sicher.
3
Entropie und Quellenkodierungssatz∗ Wir wollen kurz auf die Bedeutung von πn und der Entropie eingehen. Wie groß ist die Information“, die in einer Nachricht X1 (ω), . . . , Xn (ω) steckt? Diese Informa” tion kann man messen durch die L¨ange der k¨urzesten Folge von Nullen und Einsen, mit der man die Nachricht kodieren kann. Wir wollen jetzt nat¨urlich nicht f¨ur jede Nachricht eine eigene Kodierung erfinden, und auch nicht f¨ur jede m¨ogliche Nachrichtenl¨ange. Stattdessen ordnen wir jedem einzelnen Zeichen e ∈ E eine Folge von Nullen und Einsen zu, die dann aneinander gereiht die Nachricht ergeben. Die L¨ange l(e) der Folge, die das Zeichen e kodiert, darf dabei von e abh¨angen. So geben wir Zeichen, die h¨aufiger auftreten, einen k¨urzeren Code als den selteneren Zeichen, um einen m¨oglichst effizienten Code zu bekommen. Beim Morse-Alphabet ist dies
5.3 Starkes Gesetz der Großen Zahl
119
so a¨ hnlich eingerichtet ( e“ und t“, die im Englischen h¨aufig vorkommen, haben ” ” die Codes kurz“ und lang“, der seltenere Buchstabe q“ hat den Code lang-lang” ” ” ” kurz-lang“), allerdings besteht der Morse-Code nicht nur aus kurzen und langen Signalen, sondern auch noch aus Pausenzeichen, die das Ende eines Buchstabens signalisieren. Wenn wir nur Nullen und Einsen verwenden d¨urfen, haben wir keine solchen Pausenzeichen und m¨ussen den Code so anlegen, dass der Code eines Zeichens nicht gleichzeitig der Anfang eines Codes eines anderen Zeichens ist. Wir d¨urfen also nicht etwa ein Zeichen mit 0110 kodieren und ein anderes mit 011011. Ein Code, der diese Bedingung erf¨ullt, heißt ein bin¨arer Pr¨afixcode. Wir bezeichnen mit c(e) ∈ {0, 1}l(e) den Code von e, wobei l(e) die L¨ange ist. Wir k¨onnen die Codes aller Zeichen in einem Baum darstellen. Wir wollen nun einen Code C = (c(e), e ∈ E) herstellen, der effizient ist in dem Sinne, dass die erwartete L¨ange des Codes (f¨ur ein zuf¨alliges Zeichen) Lp (C) := pe l(e) e∈E
m¨oglichst klein ist. Wir konstruieren zun¨achst einen Code und zeigen dann, dass dieser fast optimal ist. Als ersten Schritt nummerieren wir E = {e1 , . . . , eN } so, dass pe1 ≥ pe2 ≥ . . . ≥ peN gilt. Wir definieren (e) ∈ N f¨ur jedes e ∈ E durch
Setze p˜e = 2−(e)
2−(e) ≤ pe < 2−(e)+1 . f¨ur jedes e ∈ E und q˜k = l
Nach Konstruktion gilt (el ) ≤ (ek ) f¨ur alle l ≤ k, also hat die Bin¨ardarstellung von q˜k maximal (ek ) Stellen:
(ek )
q˜k =
ci (ek ) 2−i ,
i=1
wobei die Zahlen c1 (ek ), . . . , c(ek ) (ek ) ∈ {0, 1} eindeutig festgelegt sind. Offenbar ist q˜l ≥ q˜k + 2−(k) f¨ur jedes l > k, also ist
c1 (ek ), . . . , c(ek ) (ek ) = c1 (el ), . . . , c(ek ) (el )
f¨ur alle l ≥ k.
Daher ist C = (c(e), e ∈ E) ein Pr¨afixcode. ur den Logarithmus Wir schreiben f¨ur jedes b > 0 und x > 0 logb (x) := log(x) log(b) f¨ von x zur Basis b. Nach Konstruktion ist − log2 (pe ) ≤ l(e) ≤ 1 − log2 (pe ). Also ist die erwartete L¨ange pe log2 (pe ) ≤ Lp (C) ≤ 1 − pe log2 (pe ). − e∈E
e∈E
120
5 Momente und Gesetze der Großen Zahl
Die L¨ange dieses Codes f¨ur die ersten n Zeichen unserer zuf¨alligen Quelle ist also ungef¨ahr nk=1 log2 (pXk (ω) ) = log2 πn (ω), womit wir den Ankn¨upfungspunkt zum Satz von Shannon haben. Dieser trifft also eine Aussage u¨ ber die L¨ange eines ¨ Bin¨arcodes, der zur Ubertragung einer langen Nachricht gebraucht wird. Ist nun der oben angegebene Code optimal, oder gibt es Codes mit geringerer erwarteter L¨ange? Antwort gibt der Quellenkodierungssatz, den wir hier mit einer Definition und einem Lemma vorbereiten. Definition 5.25 (Entropie). Sei p = (pe )e∈E eine Wahrscheinlichkeitsverteilung auf einer h¨ochstens abz¨ahlbaren Menge E. F¨ur b > 0 definieren wir pe logb (pe ), Hb (p) := − e∈E
wobei wir 0 logb (0) := 0 festlegen. Wir nennen H(p) := He (p) (e die Euler’sche Zahl) die Entropie und H2 (p) die bin¨are Entropie von p. Man beachte, dass nur f¨ur endliches E die Entropie stets endlich ist. Lemma 5.26 (Entropie-Ungleichung). Seien b und p wie oben. Ferner sei q eine Sub-Wahrscheinlichkeitsverteilung, also qe ≥ 0 f¨ur jedes e ∈ E und e∈E qe ≤ 1. Dann gilt Hb (p) ≤ − pe logb (qe ) (5.9) e∈E
mit Gleichheit genau dann, wenn Hb (p) = ∞ oder q = p. Beweis. Ohne Einschr¨ankung k¨onnen wir mit b = e, also mit dem nat¨urlichen Logarithmus rechnen. Es gilt log(1 + x) ≤ x f¨ur x > −1 mit Gleichheit genau dann, wenn x = 0 ist. Ist in (5.9) die linke oder die rechte Seite endlich, so k¨onnen wir die rechte von der linken Seite abziehen und erhalten H(p) + pe log(qe ) = pe log(qe /pe ) e∈E
e: pe >0
q e − pe pe log 1 + = pe e: pe >0 qe − pe ≤ qe − pe ≤ 0. pe = pe e: p >0
e
e∈E
Ist q = p, so ist qe = pe f¨ur ein e ∈ E mit pe > 0. Ist dies nun der Fall, so gilt strikte Ungleichheit, falls H(p) < ∞. 2 Satz 5.27 (Quellenkodierungssatz). Sei p = (pe )e∈E eine Wahrscheinlichkeitsverteilung auf dem endlichen Alphabet E. F¨ur jeden bin¨aren Pr¨afixcode C = (c(e), e ∈ E) gilt Lp (C) ≥ H2 (p), und es gibt einen solchen Code C mit Lp (C) ≤ H2 (p) + 1.
5.4 Konvergenzrate im starken GGZ
121
Beweis. Der zweite Teil des Satzes wurde durch die obige Konstruktion schon gezeigt. Sei nun also ein Pr¨afixcode gegeben. Sei L = maxe∈E l(e). F¨ur e ∈ E sei CL (e) = {c ∈ {0, 1}L : ck = ck (e) f¨ur k ≤ l(e)} die Menge aller Bin¨arfolgen der L¨ange L, die wie c(e) beginnen. Da wireinen Pr¨afixcode vorliegen haben, sind die CL (e), e ∈ E, paarweise disjunkt und e∈E CL (e) ⊂ {0, 1}L . Setzen wir also qe := 2−l(e) , so ist (beachte: #CL (e) = 2L−l(e) ) qe = 2−L #CL (e) ≤ 1. e∈E
Nach Lemma 5.26 gilt Lp (C) =
e∈E
pe l(e) = −
e∈E
pe log2 (qe ) ≥ H2 (p).
2
e∈E
¨ Ubung 5.3.1. Man zeige die folgende Verbesserung von Satz 5.16: Sind X1 , X2 , . . . ∈ L2 (P) paarweise unabh¨angig mit beschr¨ankten Varianzen, so gen¨ugt (Xn )n∈N dem starken Gesetz der großen Zahl. ♣ ¨ Ubung 5.3.2. Man zeige: Ist (Xn )n∈N eine unabh¨angige Folge identisch verteilter n→∞ Zufallsvariablen mit n1 (X1 + . . . + Xn ) −→ Y fast sicher f¨ur eine Zufallsvariable Y , so ist X1 ∈ L1 (P) und Y = E[X1 ] fast sicher. Hinweis: Man zeige zun¨achst * ) P |Xn | > n f¨ur unendlich viele n = 0
⇐⇒
X1 ∈ L1 (P).
♣
¨ Ubung 5.3.3. Sei E endlich und p ein Wahrscheinlichkeitsvektor auf E. Man zeige, dass die Entropie H(p) minimal ist (n¨amlich Null), falls p = δe f¨ur ein e ∈ E und maximal (n¨amlich log(#E)), falls p die Gleichverteilung auf E ist. ♣ ¨ Ubung 5.3.4. Sei b ∈ {2, 3, 4, . . .}. Ein b-adischer Pr¨afixcode ist a¨ hnlich definiert wie ein bin¨arer Pr¨afixcode, jedoch sind jetzt als Zeichen die Zahlen 0, 1, . . . , b − 1 zugelassen. Man zeige, dass die Aussage des Quellenkodierungssatzes sinngem¨aß ♣ f¨ur b-adische Pr¨afixcodes gilt, mit Hb (p) statt H2 (p).
5.4 Konvergenzrate im starken GGZ Im schwachen Gesetz der großen Zahl hatten wir auch eine Aussage u¨ ber die Konvergenzgeschwindigkeit gemacht (Satz 5.14), im starken Gesetz der großen Zahl hingegen nicht. Da wir hier nur erste Momente der Zufallsvariablen gefordert hatten, k¨onnen wir auch keine brauchbaren allgemein g¨ultigen Aussagen erwarten. Nehmen wir hingegen h¨ohere Momente an, so bekommen wir n¨utzliche Aussagen zur Konvergenzgeschwindigkeit. Das Herzst¨uck des schwachen Gesetzes der großen Zahl ist die Chebyshev’sche Ungleichung. Hier geben wir eine sch¨arfere Ungleichung an, die mit der gleichen
122
5 Momente und Gesetze der Großen Zahl
oberen Schranke nun das Maximum u¨ ber alle Partialsummen bis zu einer bestimmten Grenze absch¨atzt. Satz 5.28 (Kolmogorov’sche Ungleichung). Seien n ∈ N und X1 , X2 , . . . , Xn unabh¨angige Zufallsvariablen mit E[Xi ] = 0 und Var[Xi ] < ∞ f¨ur i = 1, . . . , n. Ferner sei Sk = X1 + . . . + Xk f¨ur k = 1, . . . , n. Dann gilt f¨ur jedes t > 0 ) * P max{Sk : k = 1, . . . , n} ≥ t ≤
Var[Sn ] t2 + Var[Sn ]
sowie die Kolmogorov’sche Ungleichung ) * P max{|Sk | : k = 1, . . . , n} ≥ t ≤ t−2 Var[Sn ].
(5.10)
(5.11)
In Satz 11.2 werden wir mit der Doob’schen Ungleichung eine Verallgemeinerung der Kolmogorov’schen Ungleichung kennen lernen. Beweis. Wir f¨uhren eine Zerlegung durch nach dem ersten Zeitpunkt τ , zu dem die Partialsummen den Wert t u¨ berschreiten. Sei also
τ := min k ∈ {1, . . . , n} : Sk ≥ t und Ak = {τ = k} f¨ur k = 1, . . . , n sowie A=
n
Ak =
max{Sk : k = 1, . . . , n} ≥ t .
k=1
Sei c ≥ 0. Die Zufallsvariable (Sk + c) ½Ak ist messbar bez¨uglich σ(X1 , . . . , Xk ), und Sn − Sk ist messbar bez¨uglich σ(Xk+1 , . . . , Xn ). Nach Satz 2.26 sind die beiden Zufallsvariablen unabh¨angig, und es gilt * ) * * ) ) E (Sk + c) ½Ak (Sn − Sk ) = E (Sk + c) ½Ak E Sn − Sk = 0. Offenbar sind die Ereignisse A1 , . . . , An paarweise disjunkt, also nk=1 ½Ak = ½A ≤ 1. Wir erhalten so * ) Var[Sn ] + c2 = E (Sn + c)2 . - n n * ) 2 ≥E (Sn + c) ½Ak = E (Sn + c)2 ½Ak k=1
= = ≥
n k=1 n k=1 n k=1
E
)
k=1
* (Sk + c)2 + 2(Sk + c)(Sn − Sk ) + (Sn − Sk )2 ½Ak
* ) E (Sk + c)2 ½Ak +
n k=1
) * E (Sk + c)2 ½Ak .
* ) E (Sn − Sk )2 ½Ak
(5.12)
5.4 Konvergenzrate im starken GGZ
123
Wegen c ≥ 0 ist (Sk + c)2 ½Ak ≥ (t + c)2 ½Ak , also k¨onnen wir (5.12) fortsetzen durch n ) * E (t + c)2 ½Ak = (t + c)2 P[A]. ≥ k=1
F¨ur c = Var[Sn ]/t ≥ 0 erhalten wir Var[Sn ] Var[Sn ] + c2 c(t + c) tc = 2 . = = 2 2 2 (t + c) (t + c) t + tc t + Var[Sn ] Damit ist (5.10) gezeigt. Um (5.11) zu zeigen, w¨ahle τ¯ := min k ∈ {1, . . . , n} : |Sk | ≥ t und A¯k = {¯ τ = k} sowie A¯ = {¯ τ ≤ n}. Die obige Fortsetzung von (5.12) mit c > 0 ist jetzt nicht zul¨assig. Wenn wir aber c = 0 w¨ahlen, gilt Sk2 ½A¯k ≥ ¯ ≤ t−2 Var[Sn ].2 t2 ½A¯k . Mit der selben Rechnung wie in (5.12) erhalten wir P[A] P[A] ≤
Wir folgern aus der Kolmogorov’schen Ungleichung eine erste Versch¨arfung des starken Gesetzes der großen Zahl. Satz 5.29. Seien X1 , X2 , . . . unabh¨angige Zufallsvariablen mit E[Xn ] = 0 f¨ur jedes n ∈ N und V := sup{Var[Xn ] : n ∈ N} < ∞. Dann gilt f¨ur jedes ε > 0 lim sup n→∞
|Sn | = 0 fast sicher. n1/2 (log(n))(1/2)+ε
Beweis. Setze kn = 2n und l(n) = n1/2 (log(n))(1/2)+ε f¨ur n ∈ N. F¨ur k ∈ N mit kn ≤ k ≤ kn+1 ist |Sk |/k ≤ 2|Sk |/kn+1 . Also reicht es, f¨ur δ > 0 zu zeigen, dass lim sup l(kn )−1 max{|Sk | : k ≤ kn } ≤ δ n→∞
F¨ur δ > 0 und n ∈ N setze Aδn := Kolmogorov’sche Ungleichung liefert ∞
fast sicher.
(5.13)
max{|Sk | : k ≤ kn } > δ l(kn ) . Die ∞
∞ ) * P Aδn ≤ δ −2 (l(kn ))−2 V kn =
V n−1−2ε < ∞. 2 1+2ε δ (log 2) n=1 n=1 n=1 ) * Das Borel-Cantelli Lemma liefert nun P lim supn→∞ Aδn = 0, also (5.13). 2 Wir werden in Kapitel 22 sehen, dass f¨ur unabh¨angige, identisch verteilte, quadratintegrierbare, zentrierte Zufallsvariablen X1 , X2 , . . . die folgende Versch¨arfung gilt lim sup 3 n→∞
|Sn | 2n Var[X1 ] log(log(n))
= 1
fast sicher.
Die Konvergenzrate ist also in diesem Fall genau bekannt. Sind die X1 , X2 , . . . nicht unabh¨angig, sondern nur paarweise unabh¨angig, so verschlechtert sich die Konvergenzrate, wenngleich nicht drastisch: Wir geben hier ohne Beweis einen Satz an, den Rademacher 1922 [143] und Menshov 1923 [118] unabh¨angig voneinander gefunden haben.
124
5 Momente und Gesetze der Großen Zahl
Satz 5.30 (Rademacher–Menshov). Seien X1 , X2 , . . . unkorrelierte quadratintegrierbare zentrierte Zufallsvariablen und (an )n∈N eine wachsende Folge nichtnegativer Zahlen mit ∞ (log n)2 a−2 (5.14) n Var[Xn ] < ∞. n=1
n −1 Dann gilt lim sup an Xk = 0 n→∞
fast sicher.
k=1
2
Beweis. Siehe etwa [129].
Bemerkung 5.31. Die Bedingung (5.14) ∞ ist scharf in2 dem Sinne, dass es f¨ur jede wachsende Folge (an )n∈N mit n=1 a−2 n (log n) = ∞ eine Folge paarweise unabh¨angiger, quadratintegrierbarer, zentrierter Zufallsvariablen X1 , X2 , . . . mit Var[Xn ] = 1 f¨ur jedes n ∈ N gibt, sodass n −1 Xk = ∞ fast sicher. lim sup an n→∞ k=1
Siehe [26]. Dort wird ein Beispiel von Tandori [161] f¨ur so genannte orthogonale Reihen weiter entwickelt. Siehe auch [121]. 3 F¨ur Zufallsvariablen mit unendlicher Varianz werden Aussagen u¨ ber die Konvergenzgeschwindigkeit naturgem¨aß schw¨acher. Es gilt beispielsweise (siehe [11]): Satz 5.32 (Baum und Katz (1965)). Sei γ > 1, und seien X1 , X2 , . . . u.i.v. sowie Sn = X1 + . . . + Xn f¨ur n ∈ N. Dann gilt ∞
nγ−2 P[|Sn |/n > ε] < ∞ f¨ur jedes ε > 0 ⇐⇒ E[|X1 |γ ] < ∞ und E[X1 ] = 0.
n=1
¨ Ubung 5.4.1. Seien X1 , . . . , Xn unabh¨angige, reelle Zufallsvariablen und Sk = X1 + . . . + Xk f¨ur jedes k = 1, . . . , n. Man zeige, dass f¨ur jedes t > 0 die Ungleichung von Etemadi gilt: ' ( ) * P max |Sk | ≥ t ≤ 3 max P |Sk | ≥ t/3 . ♣ k=1,...,n
k=1,...,n
5.5 Der Poissonprozess Wir wollen ein Modell f¨ur die Anzahl der Klicks entwickeln, die ein Geigerz¨ahler in einem (Zeit-)Intervall I = (a, b] macht. Die Anzahl der Klicks soll dabei
5.5 Der Poissonprozess
125
– zuf¨allig sein und unabh¨angig f¨ur disjunkte Intervalle, – zeitlich homogen in dem Sinne, dass die Anzahl der Klicks in I = (a, b] die selbe Verteilung hat wie die Anzahl der Klicks in c + I = (a + c, b + c], – einen Erwartungswert besitzen, – keine Doppelpunkte aufweisen: der Z¨ahler macht zu jedem Zeitpunkt nur einen Klick. Wir formalisieren diese Forderungen, indem wir die Notation einf¨uhren:
I := (a, b] : a, b ∈ [0, ∞), a ≤ b , ((a, b]) := b − a
(die L¨ange des Intervalls I = (a, b]).
F¨ur I ∈ I sei NI die Anzahl der Klicks nach Zeitpunkt a und nicht sp¨ater als b. Speziell setzen wir Nt := N(0,t] f¨ur die Gesamtzahl aller Klicks bis zur Zeit t. Die obigen Forderungen lassen sich nun u¨ bersetzen zu: (NI , I ∈ I) ist eine Familie von Zufallsvariablen mit Werten in N0 mit den Eigenschaften (P1) NI∪J = NI + NJ , falls I ∩ J = ∅ und I ∪ J ∈ I ist. (P2) Die Verteilung von NI h¨angt nur von der L¨ange von I ab: PNI = PNJ f¨ur alle I, J ∈ I mit (I) = (J). (P3) Ist J ⊂ I mit I ∩ J = ∅ f¨ur alle I, J ∈ J mit I = J, so ist (NJ , J ∈ J ) eine unabh¨angige Familie. (P4) F¨ur jedes I ∈ I gilt E[NI ] < ∞. (P5) Es gilt lim supε↓0 ε−1 P[Nε ≥ 2] = 0. Die Bedeutung von (P5) erkl¨art sich durch die folgende Rechnung: Setzen wir λ := k→∞ k→∞ lim supε↓0 ε−1 P[Nε ≥ 2], so ist (wegen (1 − ak /k)k −→ e−a , falls ak −→ a) )
+ 2n −1
*
P es gibt einen Doppelklick in (0, 1] = lim P n→∞
= 1 − lim P = 1 − lim
n→∞
N(k 2−n ,(k+1)2−n ] ≥ 2
n 2 −1
N(k 2−n ,(k+1)2−n ] ≤ 1
k=0
) * P N(k 2−n ,(k+1)2−n ] ≤ 1
k=0
2n = 1 − lim 1 − P[N2−n ≥ 2]
n→∞ −λ
=1−e
k=0
+ 2n −1
n→∞
.
Wir m¨ussen also λ = 0 fordern; dies ist aber gerade (P5).
,
,
126
5 Momente und Gesetze der Großen Zahl
Der n¨achste Satz zeigt, dass die Bedingungen (P1) – (P5) die Zufallsvariablen (NI , I ∈ I) eindeutig charakterisieren und zwar als Poissonprozess. Definition 5.33 (Poissonprozess). Eine Familie (Nt , t ≥ 0) von N0 -wertigen Zufallsvariablen heißt Poissonprozess mit Intensit¨at α ≥ 0, falls N0 = 0 und: (i) F¨ur jedes n ∈ N und je n + 1 Zahlen 0 = t0 < t1 < . . . < tn ist die Familie (Nti − Nti−1 , i = 1, . . . , n) unabh¨angig. (ii) F¨ur t > s ≥ 0 ist Nt − Ns Poisson-verteilt mit Parameter α(t − s), also P[Nt − Ns = k] = e−α(t−s)
(α(t − s))k k!
f¨ur jedes k ∈ N0 .
Die Existenz eines Poissonprozesses ist an dieser Stelle noch nicht gesichert. Darauf kommen wir in Satz 5.35 zur¨uck. Satz 5.34. Erf¨ullt (NI , I ∈ I) die Bedingungen (P1) – (P5), so ist (N(0,t] , t ≥ 0) ein Poissonprozess mit Intensit¨at α := E[N(0,1] ]. Ist umgekehrt (Nt , t ≥ 0) ein Poissonprozess, so erf¨ullt (Nt − Ns , (s, t] ∈ I) die Bedingungen (P1) – (P5). Beweis. Sei zun¨achst (Nt , t ≥ 0) ein Poissonprozess mit Intensit¨at α ≥ 0. Per Konstruktion gilt (P1). F¨ur I = (a, b] ist offenbar PNI = Poiα(b−a) = Poiα(I) . Also gilt (P2). Wegen (i) gilt (P3). Offenbar ist E[NI ] = α (I) < ∞, also gilt (P4). Schließlich ist P[Nε ≥ 2] = 1 − e−αε − αε, also lim ε−1 P[Nε ≥ 2] = lim ε↓0
ε↓0
1 − e−αε − α = 0. ε
Also gilt auch (P5). Erf¨ulle nun (NI , I ∈ I) die Bedingungen (P1) – (P5). Setze α(t) := E[Nt ]. Dann ist (wegen (P1) und (P2)) ) * ) * ) * α(s + t) = E N(0,s] + N(s,s+t] = E N(0,s] + E N(0,t] = α(s) + α(t). Da t → α(t) monoton wachsend ist, folgt hieraus sogar α(t) = t α(1) f¨ur jedes t ≥ 0. Wir setzen α := α(1) und erhalten E[NI ] = α (I). Wir m¨ussen nur noch zeigen, dass PNt = Poiαt gilt. Um den Satz u¨ ber die Poissonapproximation (Satz 3.7) zu verwenden, zerlegen wir f¨ur festes n ∈ N, das Intervall (0, t] in 2n disjunkte gleich lange Intervalle
* I n (k) := (k − 1)2−n t, k2−n t , k = 1, . . . , 2n , und setzen X n (k) := NI n (k) sowie 1 1, n X (k) := 0,
falls X n (k) ≥ 1, sonst.
5.5 Der Poissonprozess
127
Nach den Annahmen (P2) und (P3) sind (X n (k), k = 1, . . . , 2n ) unabh¨angig und identisch verteilt. Daher ist auch (X n (k), k = 1, . . . , 2n ) unabh¨angig und identisch verteilt, n¨amlich X n (k) ∼ Berpn , wobei pn = P[N2−n t ≥ 1]. 2n Schließlich setzen wir Ntn := k=1 X n (k). Dann ist Ntn ∼ b2n ,pn . Offenbar ist Ntn+1 − Ntn ≥ 0. Nun gilt nach (P5) n
P [Nt =
Ntn ]
≤
2
n→∞
P [X n (k) ≥ 2] = 2n P [N2−n t ≥ 2] −→ 0. (5.15)
k=1
( Also ist P Nt = lim Ntn = 1. Nach dem Satz u¨ ber monotone Konvergenz gilt '
n→∞
α t = E [Nt ] = lim E [Ntn ] = lim pn 2n . n→∞
n→∞
Nach dem Satz u¨ ber Poisson-Approximation (Satz 3.7) gilt daher f¨ur jedes l ∈ N0 P[Nt = l] = lim P [Ntn = l] = Poiαt ({l}). n→∞
2
Also ist PNt = Poiα t .
Bislang steht noch der Nachweis aus, dass es u¨ berhaupt Poissonprozesse gibt. In Kapitel 24 werden wir ein allgemeines Konstruktionsprinzip kennen lernen, das auch ¨ f¨ur allgemeinere R¨aume als [0, ∞) funktioniert (siehe auch Ubung 5.5.1). Eine weitere, instruktive Konstruktion basiert auf den Wartezeiten zwischen den Klicks, oder formal zwischen den Unstetigkeitsstellen der Abbildung t → Nt (ω). Wie groß ist die Wahrscheinlichkeit, dass wir zur Zeit s auf den n¨achsten Klick des Z¨ahlers l¨anger als t Zeiteinheiten warten m¨ussen? Wenn wir die Klicks als Poissonprozess mit Intensit¨at α modellieren, ist diese Wahrscheinlichkeit * ) P N(s,s+t] = 0 = e−αt . Mithin ist die Wartezeit auf den n¨achsten Klick exponentialverteilt mit Parameter α. Außerdem sollten die Wartezeiten unabh¨angig voneinander sein. Wir nehmen nun die Wartezeiten als Startpunkt der Betrachtung und konstruieren hieraus den Poissonprozess. Sei W1 , W2 , . . . eine unabh¨angige Familie von exponentialverteilten Zufallsvariablen mit Parameter α > 0, also P[Wn > x] = e−αx . Wir setzen Tn :=
n
Wk
k=1
und interpretieren Wn als die Wartezeit zwischen dem (n − 1)-ten und dem n-ten Klick. Tn ist der Zeitpunkt des n-ten Klicks.
128
5 Momente und Gesetze der Großen Zahl
In Anlehnung an diese Intuition definieren wir Nt := max{n ∈ N : Tn ≤ t} als die Anzahl der Klicks bis zur Zeit t. Es ist dann {Nt = k} = {Tk ≤ t < Tk+1 }. Speziell ist also Nt eine Zufallsvariable. Satz 5.35. Die Familie (Nt , t ≥ 0) ist ein Poissonprozess mit Intensit¨at α. Beweis. (Wir folgen dem Beweis in [62, Satz 3.34].) Wir m¨ussen zeigen, dass f¨ur jedes n ∈ N und jede Folge 0 = t0 < t1 < . . . < tn gilt: (Nti − Nti−1 , i = 1, . . . , n) ist unabh¨angig und Nti − Nti−1 ∼ Poiα(ti −ti−1 ) . Wir wissen zwar, dass es nicht ausreicht, dies nur f¨ur n = 2 zu zeigen. Allerdings wird der Schreibaufwand f¨ur n ≥ 3 extrem groß, und das Prinzip, wie man den Beweis f¨ur allgemeines n ∈ N f¨uhrt, wird klar, wenn man n = 2 untersucht hat. Daher beschr¨anken wir uns hier auf den Fall n = 2. Wir zeigen also, f¨ur 0 < s < t und l, k ∈ N0 k l −αs (αs) −α(t−s) (α(t − s)) P[Ns = k, Nt − Ns = l] = e e . k! l!
(5.16)
Hieraus folgt, dass Ns und (Nt − Ns ) unabh¨angig sind. Außerdem folgt, indem wir u¨ ber k ∈ N0 summieren, dass Nt − Ns ∼ Poiα(t−s) . Nach Korollar 2.22 hat die Verteilung P(W1 ,...,Wk+l+1 ) die Dichte x → αk+l+1 e−αSk+l+1 (x) , wobei Sn (x) := x1 + . . . + xn . Es reicht nun, l ≥ 1 zu betrachten, da wir den (l = 0)-Term durch die Normierung des W-Maßes erhalten. Sei also l ≥ 1. Wir erhalten P[Ns = k, Nt − Ns = l] = P[Tk ≤ s < Tk+1 , Tk+l ≤ t < Tk+l+1 ] ∞ ∞ ··· dx1 · · · dxk+l+1 = 0
α
0 k+l+1 −αSk+l+1 (x)
e
½{Sk (x)≤s<Sk+1 (x)} ½{Sk+l (x)≤t<Sk+l+1 (x)} .
Wir integrieren nun sukzessive, mit xk+l+1 beginnend. Im ersten Schritt substituieren wir z = Sk+l+1 (x) und erhalten ∞ ∞ −αSk+l+1 (x) dxk+l+1 α e ½{Sk+l+1 (x)>t} = dz α e−αz = e−αt . 0
t
Nun halten wir x1 , . . . , xk fest und erhalten f¨ur die restlichen Variablen durch die Substitution y1 = Sk+1 (x) − s, y2 = xk+2 , . . . , yl = xk+l
5.5 Der Poissonprozess
0
∞
···
129
∞
dxk+1 · · · dxk+l ½{s<Sk+1 (x)≤Sk+l ≤t} ∞ ∞ (t − s)l = ··· dy1 · · · dyl ½{y1 +...+yl ≤t−s} = . l! 0 0 0
(Dies erh¨alt man zum Beispiel per Induktion u¨ ber l.) Wir integrieren nun u¨ ber die verbleibenden Variablen x1 , . . . , xk und erhalten ∞ ∞ sk ··· dx1 · · · dxk ½{Sk (x)≤s} = . k! 0 0 Insgesamt erhalten wir P[Ns = k, Nt − Ns = l] = e−αt αk+l
sk (t − s)l , k! l! 2
also (5.16).
¨ Ubung 5.5.1. Seien Rn , Ykn , k, n ∈ N unabh¨angige Zufallsvariablen mit Rn ∼ Poiα und Ykn ∼ U(n−1,n] (Gleichverteilung auf (n − 1, n]) f¨ur alle k, n ∈ N. Setze
Nt := # (k, n) ∈ N2 : k ≤ Rn und Ykn ≤ t . Man zeige, dass (Nt )t≥0 ein Poissonprozess mit Intensit¨at α ist.
♣
6 Konvergenzs¨atze
Im starken und schwachen Gesetz der großen Zahl hatten wir implizit schon die Begriffe von fast sicherer und stochastischer Konvergenz von Folgen von Zufallsvariablen kennen gelernt und gesehen, dass die fast sichere die stochastische Konvergenz impliziert. In diesem Kapitel definieren wir die Begriffe von fast sicherer und stochastischer Konvergenz sowie Konvergenz im Mittel von Folgen messbarer Abbildungen und setzen sie in Beziehung zueinander. Eine Schl¨usselrolle kommt dabei dem Konzept der gleichgradigen Integrierbarkeit zu.
¨ 6.1 Fast-uberallund stochastische Konvergenz Im Folgenden ist (Ω, A, μ) stets ein σ-endlicher Maßraum. Wir definieren zun¨achst Fast-¨uberall-Konvergenz und stochastische Konvergenz in metrischen R¨aumen und vergleichen dann beide Konzepte miteinander. Hierf¨ur ben¨otigen wir zun¨achst zwei Lemmata, die sicherstellen, dass die Abstandsfunktion zweier messbarer Abbildungen wieder messbar ist. Sei im Folgenden (E, d) ein separabler, metrischer Raum mit Borel’scher σ-Algebra B(E). Separabel“ heißt dabei bekanntlich, dass es ei” ne abz¨ahlbare, dichte Teilmenge gibt. F¨ur x ∈ E und r > 0 bezeichnen wir mit Br (x) = {y ∈ E : d(x, y) < r} die offene Kugel um x mit Radius r. Lemma 6.1. Seien f, g : Ω → E messbar bez¨uglich A – B(E). Dann ist die Abbildung H : Ω → [0, ∞), ω → d(f (ω), g(ω)) messbar bez¨uglich A – B([0, ∞)). Beweis. Sei F ⊂ E abz¨ahlbar und dicht. Nach der Dreiecksungleichung ist d(x, z) + d(z, y) ≥ d(x, y) f¨ur alle x, y ∈ E und f¨ur z ∈ F . Sei (zn )n∈N eine n→∞ n→∞ Folge in F mit zn −→ x. Da d stetig ist, gilt d(x, zn ) + d(zn , y) −→ d(x, y). Insgesamt haben wir inf z∈F (d(x, z) + d(z, y)) = d(x, y). Da x → d(x, z) stetig ist, also messbar, sind auch fz , gz : Ω → [0, ∞) mit fz (ω) = d(f (ω), z) und gz (ω) = d(g(ω), z) messbar, also auch fz + gz sowie H = inf z∈F (fz + gz ). (Etwas systematischer l¨asst sich der Satz zeigen, wenn wir benutzen, dass (f, g) messbar ist bez¨uglich A – B(E × E) (dies folgt aus Satz 14.8) und d : E × E → [0, ∞) stetig also messbar bez¨uglich B(E ×E) – B([0, ∞)). Als Verkn¨upfung messbarer Abbildungen ist dann auch ω → d(f (ω), g(ω)) messbar.) 2
132
6 Konvergenzs¨atze
Seien f, f1 , f2 , . . . : Ω → E messbar bez¨uglich A – B(E). Definition 6.2. Wir sagen: (fn )n∈N konvergiert gegen f stoch
(i) μ-stochastisch (oder dem Maße nach), in Formeln fn −→ f , wenn f¨ur jedes A ∈ A mit μ(A) < ∞ und f¨ur jedes ε > 0 gilt, dass n→∞
μ({d(f, fn ) > ε} ∩ A) −→ 0. f.¨u.
(ii) μ-fast uberall, in Formeln fn −→ f , wenn es eine μ-Nullmenge N ∈ A gibt, ¨ sodass f¨ur jedes ω ∈ Ω \ N gilt, dass n→∞
d(f (ω), fn (ω)) −→ 0. Ist μ ein W-Maß, so sagen wir in diesem Fall auch, dass (fn )n∈N fast sicher f.s. konvergiert und schreiben fn −→ f . Gelegentlich werden wir die Hinweise fast u¨ berall“ und fast sicher“ auch weglassen. ” ” Bemerkung 6.3. Seien A1 , A2 , . . . ∈ A mit AN ↑ Ω und μ(AN ) < ∞ f¨ur jedes N ∈ N. Dann ist F.¨u.-Konvergenz a¨ quivalent zur F.¨u.-Konvergenz auf jedem AN .3 Bemerkung 6.4. Fast-¨uberall-Konvergenz impliziert die stochastische: Sei zu ε > 0 Dn (ε) = {d(f, fm ) > ε f¨ur ein m ≥ n}. ∞ Dann gilt D(ε) := n=1 Dn (ε) ⊂ N , wobei N die Nullmenge aus der Definition der F.¨u.-Konvergenz ist. Die σ-Stetigkeit von oben von μ impliziert n→∞
μ Dn (ε) ∩ A −→ μ D(ε) ∩ A = 0 f¨ur jedes A ∈ A mit μ(A) < ∞.
3
Bemerkung 6.5. Stochastische oder Fast-¨uberall-Konvergenz legen den Grenzwert stoch stoch eindeutig fest bis auf Gleichheit fast u¨ berall. In der Tat: Sei fn −→ f und fn −→ g. Seien A1 , A2 , . . . ∈ A mit An ↑ Ω und μ(An ) < ∞ f¨ur jedes n ∈ N. Dann ist (wegen d(f, g) ≤ d(f, fn ) + d(g, fn )) f¨ur jedes m ∈ N und ε > 0
μ Am ∩ {d(f, g) > ε}
n→∞ ≤ μ Am ∩ {d(f, fn ) > ε/2} + μ Am ∩ {d(g, fn ) > ε/2} −→ 0.
Also ist μ {d(f, g) > 0} = 0. 3 Bemerkung 6.6. Im Allgemeinen impliziert stochastische Konvergenz nicht F.¨u.Konvergenz. In der Tat: Sei (Xn )n∈N eine unabh¨angige Familie von Zufallsvaristoch ablen mit Xn ∼ Ber1/n . Dann gilt Xn −→ 0, jedoch ist nach dem Lemma von 3 Borel-Cantelli lim supn→∞ Xn = 1 fast sicher.
6.1 Fast-¨uberall- und stochastische Konvergenz
133
Satz 6.7. Seien A1 , A2 , . . . ∈ A mit AN ↑ Ω und μ(AN ) < ∞ f¨ur jedes N ∈ N. F¨ur messbare f, g : Ω → E setze ˜ g) := d(f,
∞
2−N 1 + μ(AN )
N =1
1 ∧ d(f (ω), g(ω)) μ(dω).
(6.1)
AN
Dann ist d˜ eine Metrik, die die stochastische Konvergenz erzeugt: Sind f, f1 , f2 , . . . messbar, so gilt stoch ˜ fn ) n→∞ ⇐⇒ d(f, −→ 0. fn −→ f Beweis. F¨ur N ∈ N setze
d˜N (f, g) :=
1 ∧ d(f (ω), g(ω)) μ(dω).
AN n→∞
n→∞
˜ fn ) −→ 0, wenn d˜N (f, fn ) −→ 0 f¨ur jedes N ∈ N. Genau dann gilt d(f, ”
=⇒ “
stoch
Es gelte fn −→ f . Dann ist f¨ur jedes ε ∈ (0, 1)
n→∞ d˜N (f, fn ) ≤ μ AN ∩ {d(f, fn ) > ε} + ε μ(AN ) −→ ε μ(AN ).
n→∞ Da ε ∈ (0, 1) beliebig war, gilt d˜N (f, fn ) −→ 0. n→∞
˜ fn ) −→ 0. Sei B ∈ A mit μ(B) < ∞. W¨ahle δ > 0 und ⇐= “ Es gelte d(f, ” N ∈ N so groß, dass μ(B \ AN ) < δ. Dann ist f¨ur ε ∈ (0, 1)
μ B ∩ {d(f, fn ) > ε} ≤ δ + μ AN ∩ {d(f, fn ) > ε} ≤ δ + ε−1 d˜N (f, fn ) −→ δ. n→∞
n→∞ stoch Da δ > 0 beliebig war, folgt μ B ∩ {d(f, fn ) > ε} −→ 0, also fn −→ f .
2
Wir betrachten nun den wichtigen Fall E = R mit der euklidischen Metrik. Hier haben wir durch das Integral einen weiteren Konvergenzbegriff zur Verf¨ugung. Definition 6.8 (Konvergenz im Mittel). Seien f, f1 , f2 , . . . ∈ L1 (μ). Wir sagen (fn )n∈N konvergiere im Mittel gegen f , in Formeln L1
fn −→ f, n→∞
falls fn − f 1 −→ 0. L1
Bemerkung 6.9. Gilt fn −→ f , so gilt insbesondere
0
n→∞
fn dμ −→
0
f dμ.
3
134
6 Konvergenzs¨atze L1
L1
Bemerkung 6.10. Gilt fn −→ f und fn −→ g, so ist f = g fast u¨ berall. In der Tat n→∞ ist nach der Dreiecksungleichung f − g1 ≤ fn − f 1 + fn − g1 −→ 0. 3 Bemerkung 6.11. L1 -Konvergenz und F.¨u.-Konvergenz implizieren jeweils stochastische Konvergenz. Alle anderen Implikationen sind im Allgemeinen falsch. 3 Satz 6.12 (Schnelle Konvergenz). Sei (E, d) ein separabler, metrischer Raum. Damit die Folge (fn )n∈N messbarer Abbildungen Ω → E fast u¨ berall konvergiert, ist hinreichend, dass eine der folgenden Bedingungen gilt. (i) Es gilt E = R, es gibt ein p ∈ [1, ∞) mit fn ∈ Lp (μ) f¨ur jedes n ∈ N, und ∞ p es gibt ein f ∈ L (μ) mit fn − f p < ∞. n=1
(ii) Es gibt ein messbares f mit
∞
μ(A ∩ {d(f, fn ) > ε}) < ∞ f¨ur jedes ε > 0
n=1
und f¨ur jedes A ∈ A mit μ(A) < ∞. n→∞
In beiden F¨allen gilt fn −→ f fast u¨ berall. (iii) E ist vollst¨andig, und es gibt eine summierbare Folge (εn )n∈N , sodass ∞
μ(A ∩ {d(fn , fn+1 ) > εn }) < ∞
f¨ur jedes A ∈ A mit μ(A) < ∞.
n=1
Beweis. Offenbar impliziert (i) schon (ii), denn nach der Markov’schen Ungleichung ist μ({|f − fn | > ε}) ≤ ε−p f − fn pp . Nach Bemerkung 6.3 reicht es, den Fall μ(Ω) < ∞ zu betrachten. Gelte nun (ii). Sei Bn (ε) = {d(f, fn ) > ε} und B(ε) = lim sup Bn (ε). Das ∞ n→∞ Lemma von Borel-Cantelli liefert μ(B(ε)) = 0. Sei N = n=1 B (1/n). Dann gilt n→∞ μ(N ) = 0 und fn (ω) −→ f (ω) f¨ur jedes ω ∈ Ω \ N. Gelte (iii). Sei Bn = {d(fn , fn+1 ) > εn } und B = lim sup Bn . Dann ist μ(B) = n→∞
0, und f¨ur jedes ω ∈ Ω\B ist (fn (ω))n∈N eine Cauchy-Folge in E. Da E vollst¨andig 2 ist, existiert der Limes f (ω) := limn→∞ fn (ω). F¨ur ω ∈ B setze f (ω) = 0. Korollar 6.13. Sei (E, d) ein separabler metrischer Raum. Seien f, f1 , f2 , . . . messbare Abbildungen Ω → E. Dann sind die beiden folgenden Aussagen a¨ quivalent. n→∞
(i) fn −→ f stochastisch, (ii) Zu jeder Teilfolge von (fn )n∈N existiert eine gegen f fast u¨ berall konvergente Teilfolge.
6.1 Fast-¨uberall- und stochastische Konvergenz
135
Beweis. (ii) =⇒ (i)“ Wir nehmen an, dass (i) nicht gilt. Sei d˜ eine Metrik, die ” die stochastische Konvergenz bestimmt (siehe Satz 6.7). Dann gibt es ein ε > 0 und ˜ n , f ) > ε f¨ur jedes k ∈ N. Offenbar konvergiert eine Teilfolge (fnk )k∈N mit d(f k keine Teilfolge von (fnk )k∈N stochastisch gegen f , also auch nicht f.¨u. (i) =⇒ (ii)“ Gelte nun (i). Seien A1 , A2 , . . . ∈ A mit AN ↑ Ω und μ(AN ) < ∞ ” stoch f¨ur jedes N ∈ N. Sei nk ↑ ∞ beliebig. Wegen fnk −→ f f¨ur k → ∞, k¨onnen wir eine Teilfolge (fnkl )l∈N w¨ahlen, sodass 1 < 2−l μ Al ∩ d f, fnkl > l
f¨ur jedes l ∈ N.
Also gilt f¨ur jedes N ∈ N ∞ ∞ 1 ≤ N μ(AN ) + μ AN ∩ d f, fnkl > 2−l < ∞. l l=1
l=N +1
Nach Satz 6.12(ii) konvergiert (fnkl )l∈N fast u¨ berall auf AN gegen f . Nach Bemer2 kung 6.3 konvergiert (fnkl )l∈N daher fast u¨ berall auf gegen f . Korollar 6.14. Ist (Ω, A, μ) ein Maßraum, bei dem stochastische und F.¨u.-Konvergenz nicht zusammenfallen, so gibt es keine Topologie auf der Menge der messbaren Abbildungen Ω → E, die die F.¨u.-Konvergenz erzeugt. Beweis. Wir nehmen an, dass es eine Topologie gibt, die die F.¨u.-Konvergenz erstoch zeugt. Seien f, f1 , f2 , . . . messbare Abbildungen mit der Eigenschaft, dass fn −→ n→∞ f , jedoch nicht fn −→ f fast u¨ berall. Sei nun U eine offene Menge, die f enth¨alt, f¨ur die jedoch fn ∈ U f¨ur unendlich viele n ∈ N gilt. Sei also (fnk )k∈N eine Teilk→∞
folge mit fnk ∈ U f¨ur jedes k ∈ N. Wegen fnk −→ f stochastisch, gibt es nach l→∞
Korollar 6.13 wiederum eine Teilfolge (fnkl )l∈N von (fnk )k∈N mit fnkl −→ f fast u¨ berall. Es ist dann aber fnkl ∈ U f¨ur alle bis auf endlich viele l, was einen Widerspruch darstellt. 2 Korollar 6.15. Sei (E, d) ein separabler, vollst¨andiger metrischer Raum. Es sei (fn )n∈N eine stochastische Cauchy-Folge in E, das heißt, f¨ur jedes A ∈ A mit μ(A) < ∞ und jedes ε > 0 gilt
μ A ∩ {d(fm , fn ) > ε} −→ 0 f¨ur m, n → ∞. Dann konvergiert (fn )n∈N stochastisch. Beweis. Ohne Einschr¨ankung kann μ(Ω) < ∞ angenommen werden. W¨ahle eine Teilfolge (fnk )k∈N , sodass
< 2−k f¨ur jedes n ≥ nk . μ d(fn , fnk ) > 2−k
136
6 Konvergenzs¨atze k→∞
Nach Satz 6.12(iii) gibt es ein f mit fnk −→ f fast u¨ berall, also insbesondere
μ
k→∞ d(fnk , f ) > ε/2 −→ 0
f¨ur jedes ε > 0.
Nun ist aber
≤ μ d(fnk , fn ) > ε/2 + μ d(fnk , f ) > ε/2 . μ d(fn , f ) > ε Ist k so groß, dass 2−k < ε/2 ist und n ≥ nk , so ist der erste Summand kleiner als 2−k , also gilt n→∞
μ {d(fn , f ) > ε} −→ 0, stoch
das heißt, es gilt fn −→ f .
2
¨ Ubung 6.1.1. Man zeige: Ist Ω h¨ochstens abz¨ahlbar, so folgt aus stochastischer Konvergenz schon F.¨u.-Konvergenz. ♣ ¨ Ubung 6.1.2. Man gebe jeweils ein Beispiel an f¨ur eine Folge, die (i) in L1 konvergiert, aber nicht fast u¨ berall, (ii) fast u¨ berall konvergiert, aber nicht in L1 .
♣
¨ Ubung 6.1.3. (Satz von Egorov (1911)) Sei (Ω, A, μ) ein endlicher Maßraum, und seien f1 , f2 , . . . messbare Funktionen, die fast u¨ berall gegen ein f konvergieren. Man zeige: Zu jedem ε > 0 gibt es eine Menge A ∈ A mit μ(Ω \ A) < ε und n→∞ supω∈A |fn (ω) − f (ω)| −→ 0. ♣ ¨ Ubung 6.1.4. Man zeige: Sind X1 , X2 , . . . unabh¨angige, ∞quadratintegrierbare Zufallsvariablen mit E[Xi ] = 0 f¨ur jedes i ∈ N und i=1 Var[Xi ] < ∞, dann n existiert ein quadratintegrierbares X mit X = limn→∞ i=1 Xi fast sicher. ♣
6.2 Gleichgradige Integrierbarkeit Wie bekommt man nun die Konvergenz im Mittel aus der F.¨u.-Konvergenz? Das notwendige Additiv ist die gleichgradige Integrierbarkeit. Definition 6.16. Eine Familie F ⊂ L1 (μ) heißt gleichgradig integrierbar, falls
+ |f | − g dμ = 0. sup (6.2) inf1 0≤g∈L (μ) f ∈F
6.2 Gleichgradige Integrierbarkeit
137
Satz 6.17. Die Familie F ⊂ L1 (μ) ist genau dann gleichgradig integrierbar, wenn inf 1 sup |f | dμ = 0. (6.3) 0≤ g ∈L (μ) f ∈F
{|f |> g}
Ist μ(Ω) < ∞, so ist die gleichgradige Integrierbarkeit a¨ quivalent zu jeder der beiden folgenden Bedingungen (i) inf sup (|f | − a)+ dμ = 0, a∈[0,∞) f ∈F
(ii)
inf
|f | dμ = 0.
sup
a∈[0,∞) f ∈F
{|f |>a}
Beweis. Offenbar gilt (|f | − g)+ ≤ |f | · ½{|f |>g} , also impliziert (6.3) die gleichgradige Integrierbarkeit. Gelte nun (6.2). F¨ur jedes ε > 0 sei gε ∈ L1 (μ) so gew¨ahlt, dass sup (|f | − gε )+ dμ ≤ ε.
(6.4)
f ∈F
Setze g ε = 2gε/2 . Dann ist f¨ur f ∈ F |f | dμ ≤ (|f | − gε/2 )+ dμ + {|f |>g ε }
{|f |>g ε }
Per Konstruktion ist
0 {|f |>g ε }
gε/2 dμ. {|f |>g ε }
(|f | − gε/2 )+ dμ ≤ ε/2 und
gε/2 ½{|f |>g ε } ≤ (|f | − gε/2 )+ ½{|f |>g ε } , also auch
{|f |>g ε }
gε/2 dμ ≤
{|f |>g ε }
(|f | − gε/2 )+ dμ ≤ ε/2.
Insgesamt haben wir also |f | dμ ≤ ε.
sup
f ∈F
(6.5)
{|f |>g ε }
Offenbar impliziert (ii) schon (i), und (i) impliziert die gleichgradige Integrierbarkeit von F, denn das Infimum wird hier ja u¨ ber die kleinere Menge der konstanten Funktionen gebildet. Wir m¨ussen noch zeigen, dass gleichgradige Integrierbarkeit (ii) impliziert. Sei also F gleichgradig integrierbar und μ(Ω) < ∞. Zu gegebenem
138
6 Konvergenzs¨atze
ε > 0 (und gε und g˜ε wie oben) w¨ahlen wir aε so, dass Dann ist |f | dμ ≤ |f | dμ + {|f |>aε }
{|f |> gε/2 }
0
g { gε/2 >aε } ε/2
{ gε/2 >aε }
dμ <
g ε/2 dμ < ε.
ε . 2
2
Satz 6.18. (i) Ist F ⊂ L1 (μ) eine endliche Menge, so ist F gleichgradig integrierbar. (ii) Sind F, G ⊂ L1 (μ) gleichgradig integrierbar, dann sind auch (f + g : f ∈ F, g ∈ G) und (f − g : f ∈ F, g ∈ G) sowie {|f | : f ∈ F} gleichgradig integrierbar. (iii) Ist F gleichgradig integrierbar und existiert zu jedem g ∈ G ein f ∈ F mit |g| ≤ |f |, so ist auch G gleichgradig integrierbar. ¨ Beweis. Der einfache Beweis verbleibt zur Ubung.
2
Der folgende Satz beschreibt ein sehr gut anwendbares Kriterium f¨ur gleichgradige Integrierbarkeit. Wir werden diesen Satz an vielen Stellen einsetzen. Satz 6.19. F¨ur endliches μ ist F ⊂ L1 (μ) genau dann gleichgradig integrierbar, wenn es eine Funktion H : [0, ∞) → [0, ∞) gibt mit limx→∞ H(x)/x = ∞ und sup H(|f |) dμ < ∞. f ∈F
H kann sogar monoton wachsend und konvex gew¨ahlt werden. Beweis. ⇐= “ Es existiere H mit den angegebenen Eigenschaften. Dann gilt ” ↑ ∞, wenn a ↑ ∞. Also ist f¨ur a > 0 Ka := inf x≥a H(x) x 1 sup |f | dμ ≤ sup H(|f |) dμ Ka f ∈F {|f |≥a} f ∈F {|f |≥a} 1 a→∞ H (|f |) dμ −→ 0. sup ≤ Ka f ∈F =⇒ “ Sei F gleichgradig integrierbar. Da μ(Ω) < ∞ gilt, gibt es (nach ” Satz 6.17) eine Folge an ↑ ∞ mit (|f | − an )+ dμ < 2−n . sup f ∈F
6.2 Gleichgradige Integrierbarkeit
Wir setzen H(x) =
∞
(x − an )+
139
f¨ur jedes x ≥ 0.
n=1
Dann ist H als Summe konvexer nFunktionen konvex. Ferner gilt f¨ur jedes n ∈ N und x ≥ 2an , dass H(x)/x ≥ k=1 (1 − ak /x)+ ≥ n/2, also gilt H(x)/x ↑ ∞. Schließlich ist nach dem Satz u¨ ber monotone Konvergenz f¨ur jedes f ∈ F H(|f (ω)|) μ(dω) =
∞
(|f | − an )+ dμ ≤
n=1
∞
2−n = 1.
2
n=1
Zur Notation · p erinnere man sich an Definition 4.16. Definition 6.20. Sei p ∈ [1, ∞]. Eine Familie F ⊂ Lp (μ) heißt beschr¨ankt in Lp (μ), falls sup{f p : f ∈ F} < ∞ gilt. Korollar 6.21. Ist μ(Ω) < ∞ und p > 1 sowie F beschr¨ankt in Lp (μ), dann ist F gleichgradig integrierbar. Beweis. Wende Satz 6.19 an mit der konvexen Abbildung H(x) = xp .
2
Korollar 6.22. Ist (Xi )i∈I eine Familie von Zufallsvariablen mit sup{|E[Xi ]| : i ∈ I} < ∞
sup{Var[Xi ] : i ∈ I} < ∞,
und
dann ist (Xi )i∈I gleichgradig integrierbar. Beweis. Dies folgt aus Korollar 6.21 mit p = 2, denn E[Xi2 ] = E[Xi ]2 + Var[Xi ] ist in i ∈ I beschr¨ankt. 2 Lemma 6.23. Es existiert eine Abbildung h ∈ L1 (μ) mit h > 0 fast u¨ berall. Beweis. Seien A1 , A2 , . . . , ∈ A mit An ↑ Ω und μ(An ) < ∞ f¨ur n ∈ N. Setze h=
∞
2−n 1 + μ(An ))−1 ½An .
n=1
Dann ist h > 0 fast u¨ berall und
0
h dμ =
∞ n=1
μ(An ) 2−n 1+μ(A ≤ 1. n)
2
140
6 Konvergenzs¨atze
Satz 6.24. Eine Familie F ⊂ L1 (μ) ist genau dann gleichgradig integrierbar, wenn die beiden folgenden Bedingungen erf¨ullt sind. (i) C := sup |f | dμ < ∞. f ∈F
(ii) Es gibt eine Funktion 0 ≤ h ∈ L1 (μ), sodass f¨ur jedes ε > 0 ein δ(ε) > 0 existiert mit |f | dμ ≤ ε f¨ur jedes A ∈ A mit h dμ < δ(ε). sup f ∈F
A
A
Ist μ(Ω) < ∞, so ist (ii) gleichwertig mit (iii): (iii) F¨ur jedes ε > 0 gibt es ein δ(ε) > 0, sodass |f | dμ ≤ ε f¨ur jedes A ∈ A mit μ(A) < δ(ε). sup f ∈F
A
Beweis. =⇒ “ Sei F gleichgradig integrierbar. Sei h ∈ L1 (μ) mit h > 0 ” fast u¨ berall. Sei ε > 0 und g ε/3 eine ε/3-Schranke f¨ur F (wie in (6.5)). Wegen g ε/3 ≥ αh ↓ ∅ f¨ur α → ∞, gilt f¨ur hinreichend großes α = α(ε) ε g ε/3 dμ < . 3 { gε/3 ≥αh} 0 ε Mit δ(ε) := 3α(ε) gilt dann f¨ur jedes A ∈ A mit A h dμ < δ(ε) und jedes f ∈ F |f | dμ ≤ |f | dμ + g ε/3 dμ {|f |> gε/3 }
A
ε ≤ + α 3
A
g ε/3 dμ ≤ ε.
h dμ + A
{ gε/3 ≥αh}
Damit ist (ii) gezeigt. Setzen wir in die Rechnung A = Ω ein, so erhalten wir 2ε |f | dμ ≤ + α h dμ < ∞. 3 Damit ist auch (i) gezeigt. ⇐= “ Es gelten (i) und (ii). Sei ε > 0. W¨ahle h und δ(ε) > 0 wie in (ii) und C ” C h. Dann ist wie in (i). Setze h = δ(ε) h dμ = {|f |> h}
δ(ε) C
{|f |> h}
δ(ε) h dμ ≤ C
|f | dμ ≤ δ(ε),
6.2 Gleichgradige Integrierbarkeit
141
|f | dμ < ε.
also nach Voraussetzung {|f |> h}
(ii) =⇒ (iii)“ Es gelte (ii).0 Sei ε > 0 und δ = δ(ε) wie in (ii) gew¨ahlt. Sei ” K < ∞ so groß gew¨ahlt, dass {h≥K} h dμ < δ/2. F¨ur A ∈ A mit μ(A) < δ/(2K) ist dann h dμ ≤ Kμ(A) + h dμ < δ, also
0 A
{h≥K}
A
|f | dμ ≤ ε f¨ur jedes f ∈ F.
(iii) =⇒ (ii)“ ”
Gelten (iii) und μ(Ω) < ∞, so leistet h ≡ 1 das Gew¨unschte. 2
Wir kommen zum Hauptsatz dieses Abschnittes. Satz 6.25. Sei {fn : n ∈ N} ⊂ L1 (μ). Die folgenden Aussagen sind a¨ quivalent. n→∞
(i) Es gibt ein f ∈ L1 (μ) mit fn −→ f in L1 . (ii) (fn )n∈N ist L1 (μ)-Cauchy-Folge, also fn − fm 1 −→ 0 f¨ur m, n → ∞. (iii) (fn )n∈N ist gleichgradig integrierbar, und es gibt eine messbare Abbildung f stoch mit fn −→ f . Die Limiten in (i) und (iii) stimmen u¨ berein. Beweis. (i) =⇒ (ii)“ Dies ist klar. ” (ii) =⇒ (iii)“ F¨ur jedes ε > 0 gibt es ein nε ∈ N, sodass fn − fnε 1 < ε f¨ur ” jedes n ≥ nε gilt. Also ist f¨ur jedes n ≥ nε auch (|fn | − |fnε |)+ 1 < ε. Mithin ist gε = max{|f1 |, . . . , |fnε |} eine ε-Schranke f¨ur (fn )n∈N (wie in (6.4)). F¨ur ε > 0 ist μ({|fm − fn | > ε}) ≤ ε−1 fm − fn 1 −→ 0 f¨ur m, n → ∞. Deshalb ist (fn )n∈N auch eine stochastische Cauchy-Folge, also stochastisch konvergent nach Korollar 6.15. (iii) =⇒ (i)“ Sei f der stochastische Grenzwert der Folge (fn )n∈N . Wir nehmen ” an, dass (fn )n∈N nicht in L1 gegen f konvergiert. Dann gibt es ein ε > 0 und eine Teilfolge (fnk )k∈N mit f − fnk 1 > 2ε
f¨ur jedes k ∈ N,
(6.6)
wobei wir f − fnk 1 = ∞ setzen, falls f ∈ L1 (μ) ist. Nach Korollar 6.13 gibt k→∞ es eine Teilfolge (fnk )k∈N von (fnk )k∈N mit fnk −→ f fast u¨ berall. Nach dem Lemma von Fatou (Satz 4.21) mit 0 als Minorante gilt daher
142
6 Konvergenzs¨atze
|f | dμ ≤ lim inf k→∞
|fnk | dμ < ∞.
Also ist f ∈ L1 (μ). Nach Satz 6.18(ii) (mit G = {f }) ist (f − fnk )k∈N gleichgradig 0 integrierbar, also gibt es ein 0 ≤ g ∈ L1 (μ), sodass (|f − fnk | − g)+ dμ < ε. Setze gk = |fnk − f | ∧ g f¨ur jedes k ∈ N. k→∞
Dann gilt gk −→ 0 fast u¨ berall und g − gk ≥ 0. Nach dem Lemma von Fatou ist g dμ − lim inf (g − gk ) dμ lim sup gk dμ = k→∞ k→∞ ≤ g dμ − lim (g − gk ) dμ = 0. k→∞
Wegen {|f − fnk | > gk } = {|f − fnk | > g} ist also
lim sup f − fnk 1 ≤ lim sup k→∞
k→∞
|f − fnk | dμ + lim sup
{|f −fn |>g}
k→∞
gk dμ ≤ ε,
k
2
im Widerspruch zu (6.6).
Korollar 6.26 (Lebesgue’scher Konvergenzsatz, majorisierte Konvergenz). Sei n→∞ f messbar und (fn )n∈N eine Folge in L1 (μ) mit fn −→ f stochastisch. Es exis1 tiere eine integrierbare Majorante 0 ≤ g ∈ L (μ) mit |fn | ≤ g fast u¨ berall f¨ur n→∞ jedes n ∈ N. Dann gilt f ∈ L1 (μ) und fn −→ f in L1 , also insbesondere 0 n→∞ 0 fn dμ −→ f dμ. Beweis. Das folgt aus Satz 6.25, weil die Majorante die gleichgradige Integrierbarkeit der Folge (fn )n∈N sichert. 2 ¨ Ubung 6.2.1. Sei H ∈ L1 (μ) mit H > 0 μ-f.¨u. (siehe Lemma 6.23) und (E, d) ein separabler metrischer Raum. Man zeige: (i) Durch
dH (f, g) :=
1 ∧ d(f (ω), g(ω)) H(ω) μ(dω)
wird eine Metrik definiert, die die stochastische Konvergenz erzeugt. (ii) Ist (E, d) vollst¨andig, so ist dH vollst¨andig.
♣
6.3 Vertauschung von Integral und Ableitung
143
6.3 Vertauschung von Integral und Ableitung Wir wollen untersuchen, wie sich Eigenschaften wie Stetigkeit und Differenzierbarkeit von Zweiparameterfunktionen unter Integration nach einer Variablen erhalten. Satz 6.27 (Stetigkeitslemma). Sei (E, d) ein metrischer Raum, x0 ∈ E und f : Ω × E → R eine Abbildung mit den Eigenschaften (i) f¨ur jedes x ∈ E ist die Abbildung ω → f (ω, x) in L1 (μ), (ii) f¨ur fast alle ω ∈ Ω ist die Abbildung x → f (ω, x) stetig im Punkte x0 , (iii) die Abbildung h : ω → supx∈E |f (ω, x)| ist in L1 (μ). Dann ist die Abbildung F : E → R, x →
f (ω, x) μ(dω) stetig in x0 .
Beweis. Sei (xn )n∈N eine Folge in E mit lim xn = x0 . Setze fn = f ( · , xn ). n→∞ n→∞
Nach Voraussetzung ist |fn | ≤ h und fn −→ f ( · , x0 ) fast u¨ berall. Nach dem Satz von der majorisierten Konvergenz (Korollar 6.26) ist n→∞ F (xn ) = fn dμ −→ f ( · , x0 ) dμ = F (x0 ). Also ist F stetig in x0 .
2
Satz 6.28 (Differentiationslemma). Sei I ⊂ R ein nichttriviales, offenes Intervall und f : Ω × I → R eine Abbildung mit den Eigenschaften (i) f¨ur jedes x ∈ I ist (ω → f (ω, x)) ∈ L1 (μ), (ii) f¨ur fast alle ω ∈ Ω ist I → R, x → f (ω, x) differenzierbar, wobei wir die Ableitung mit f bezeichnen, (iii) h := supx∈I |f ( · , x)| ∈ L1 (μ). Dann gilt: F¨ur jedes x ∈ I ist f ( · , x) ∈ L1 (μ). Die Funktion F : x → 0 f (ω, x) μ(dω) ist differenzierbar mit Ableitung F (x) = f (ω, x) μ(dω).
Beweis. Sei x0 ∈ I und (xn )n∈N eine Folge in I mit xn = x0 f¨ur jedes n ∈ N sowie lim xn = x0 . Wir zeigen, dass entlang der Folge (xn )n∈N die Differenzenn→∞ quotienten konvergieren. Setze
144
6 Konvergenzs¨atze
gn (ω) =
f (ω, xn ) − f (ω, x0 ) xn − x0
f¨ur jedes ω ∈ Ω.
Nach Voraussetzung (ii) gilt gn −→ f ( · , x0 ) n→∞
μ-fast u¨ berall.
Nach dem Zwischenwertsatz der Differentialrechnung existiert zu jedem n ∈ N und fast jedem ω ∈ Ω ein yn (ω) ∈ I mit gn (ω) = f (ω, yn (ω)). Speziell ist |gn | ≤ h f¨ur jedes n ∈ N. Nach dem Satz von der majorisierten Konvergenz (Korollar 6.26) ist also die Grenzfunktion f ( · , x0 ) in L1 (μ) und F (xn ) − F (x0 ) = lim f (ω, x0 ) μ(dω). 2 gn (ω) μ(dω) = lim n→∞ n→∞ xn − x0 Beispiel 6.29 (Laplace-Transformation). Sei X eine nichtnegative Zufallsvariable auf (Ω, A, P). In der Notation von Satz 6.28 sei I = [0, ∞) und f (x, λ) = e−λx f¨ur λ ∈ I. Dann ist ) * F (λ) = E e−λX in (0, ∞) unendlich oft differenzierbar. Die ersten Ableitungen sind F (λ) = −E[Xe−λX ] und F (λ) = E[(X 2 )e−λX ]. Sukzessive erhalten wir die n-te Ableitung F (n) (λ) = E[(−X)n e−λX ]. Es gilt (monotone Konvergenz) E[X] = − lim F (λ) λ↓0
(6.7)
und E[X n ] = (−1)n lim F (n) (λ) λ↓0
f¨ur jedes n ∈ N.
(6.8)
In der Tat: F¨ur ε > 0 und I = (ε, ∞) ist d sup f (x, λ) = sup x e−λx = ε−1 e−1 < ∞. x≥0, λ∈I dλ x≥0, λ∈I Damit erf¨ullt F die Voraussetzungen von Satz 6.28. Iterativ erhalten wir die Aussage f¨ur F (n) , denn n d n −n < ∞ f¨ur x ≥ 0 und λ ≥ ε. 3 dλn f (x, λ) ≤ (n/ε) e ¨ Ubung 6.3.1. Sei X eine Zufallsvariable auf (Ω, A, P) und
) * Λ(t) := log E etX f¨ur jedes t ∈ R. Man zeige, dass D := {t ∈ R : Λ(t) < ∞} ein nichtleeres Intervall ist, und dass Λ im Inneren von D unendlich oft differenzierbar ist. ♣
7 Lp -R¨aume und Satz von Radon-Nikodym
In diesem Kapitel wollen wir die R¨aume der Funktionen untersuchen, deren p-te Potenz integrierbar ist. Wir leiten in Abschnitt 7.2 zun¨achst wichtige Ungleichungen her (H¨older, Minkowski, Jensen) und untersuchen dann in Abschnitt 7.3 den Fall p = 2, wo wir Hilbertr¨aume vorliegen haben, im Detail. Neben den genannten Ungleichungen sind die wichtigsten Ergebnisse f¨ur die Stochastik der Zerlegungssatz von Lebesgue sowie der Satz von Radon-Nikodym in Abschnitt 7.4. Der Leser mag beim ersten Lesen die anderen, eher analytisch als stochastisch ausgerichteten, Teile dieses Kapitels u¨ berschlagen.
7.1 Definitionen Im Folgenden ist (Ω, A, μ) stets ein σ-endlicher Maßraum. In Definition 4.16 hatten wir f¨ur messbares f : Ω → R definiert f p := und
1/p |f |p dμ
f¨ur p ∈ [1, ∞),
f ∞ := inf K ≥ 0 : μ(|f | > K) = 0 .
Ferner hatten wir die R¨aume definiert, wo diese Ausdr¨ucke endlich sind Lp (Ω, A, μ) = Lp (A, μ) = Lp (μ) = {f : Ω → R ist messbar und f p < ∞}. Wir hatten gesehen, dass · 1 eine Pseudonorm auf L1 (μ) ist. Unser erstes Ziel ist es hier, · p zu einer echten Norm zu machen, und zwar f¨ur jedes p ∈ [1, ∞]. Abgesehen davon, dass die Dreiecksungleichung noch zu zeigen ist, m¨ussen wir zu diesem Zwecke auch den Raum ver¨andern, denn es gilt nur f − gp = 0
⇐⇒
f =g
μ-f.¨u.
Bei einer echten (also nicht nur Pseudo-)Norm muss aus der linken Seite schon Gleichheit (nicht nur f.¨u.) von f und g gelten. Wir sehen daher f und g als a¨ quivalent an, falls f = g fast u¨ berall. Sei also
7 Lp -R¨aume und Satz von Radon-Nikodym
146
N = {f ist messbar und f = 0 μ-f.¨u.}. F¨ur jedes p ∈ [1, ∞] ist N ein Untervektorraum von Lp (μ). Wir k¨onnen also formal den Quotientenraum bilden. Dies ist das Standardverfahren, um aus einer Pseudonorm eine Norm zu machen. Definition 7.1 (Quotientenraum). F¨ur jedes p ∈ [1, ∞] definieren wir Lp (Ω, A, μ) := Lp (Ω, A, μ)/N = {f¯ := f + N : f ∈ Lp (μ)}. ; ; 0 0 F¨ur f¯ ∈ Lp (μ) setzen wir ;f¯;p = f p f¨ur ein f ∈ f¯ und f¯ dμ = f dμ, falls dieser Ausdruck f¨ur f definiert ist. ; ; Man beachte, dass ;f¯;p nicht von der Wahl des Repr¨asentanten f ∈ f¯ abh¨angt. Wir wollen jetzt zun¨achst die Konvergenz bez¨uglich · p untersuchen und erweitern dazu den entsprechenden Satz (Satz 6.25) u¨ ber die Konvergenz bez¨uglich · 1 . n→∞
Definition 7.2. Seien p ∈ [1, ∞] und f, f1 , f2 , . . . ∈ Lp (μ). Falls fn − f p −→ 0 gilt, so sagen wir, dass (fn )n∈N im p-ten Mittel gegen f konvergiere und schreiben Lp
fn −→ f. Satz 7.3. Seien p ∈ [1, ∞] und f1 , f2 , . . . ∈ Lp (μ). Dann sind a¨ quivalent: Lp
(i) Es gibt ein f ∈ Lp (μ) mit fn −→ f . (ii) (fn )n∈N ist eine Cauchy-Folge in Lp (μ). Ist p < ∞ so sind (i) und (ii) zudem a¨ quivalent zu (iii) (|fn |p )n∈N ist gleichgradig integrierbar, und es gibt ein messbares f mit stoch fn −→ f . Die Limiten in (i) und (iii) stimmen u¨ berein. ¨ Beweis. F¨ur p = ∞ ist die Aquivalenz von (i) und (ii) eine einfache Schlussfolgerung aus der Dreiecksungleichung. Sei nun p ∈ [1, ∞). Der Beweis verl¨auft a¨ hnlich wie der Beweis von Satz 6.25. (i) =⇒ (ii)“ ”
F¨ur x, y ∈ R ist |x + y|p ≤ 2p (|x|p + |y|p ). Also ist
n→∞ fm − fn pp ≤ 2p fm − f pp + fn − f pp −→ 0
(ii) =⇒ (iii)“ ”
f¨ur m, n → ∞.
Das geht genauso wie im Beweis von Satz 6.25.
7.2 Ungleichungen und Satz von Fischer-Riesz
147
n→∞
(iii) =⇒ (i)“ Wegen |fn |p −→ |f |p stoch., gilt |f |p ∈ L1 (μ) nach Satz 6.25, ” n→∞ und damit f ∈ Lp (μ). Setze gn = |fn − f |p f¨ur n ∈ N. Dann ist gn −→ 0 p p stochastisch, und (gn )n∈N ist gleichgradig integrierbar, da gn ≤ 2 (|fn | + |f |p ). n→∞ 2 Also gilt (nach Satz 6.25) fn − f pp = gn 1 −→ 0. ¨ Ubung 7.1.1. Seien (Xi )i∈N unabh¨angige, quadratintegrierbare Zufallsvariablen mit E[Xi ] = 0 f¨ur jedes i ∈ N. ∞ (i) Man zeige: Gilt i=1 Var[Xi ] < ∞, so existiert eine reelle Zufallsvariable n n→∞ X mit i=1 Xi −→ X fast sicher. ♣
(ii) Gilt in (i) auch die Umkehrung? ¨ Ubung 7.1.2. Sei f : Ω → R messbar. Zeige: (i) Gilt
0
p→∞
|f |p dμ < ∞ f¨ur ein p ∈ (0, ∞), so gilt f p −→ f ∞ .
(ii) Auf die Integrierbarkeitsbedingung in (i) kann nicht verzichtet werden.
♣
¨ Ubung 7.1.3. Sei p ∈ (1, ∞), f ∈ Lp (λ), wobei λ das Lebesgue-Maß auf R ist, und T : R → R, x → x + 1. Man zeige: n−1 1 n→∞ f ◦ T k −→ 0 n
in Lp (λ).
♣
k=0
7.2 Ungleichungen und Satz von Fischer-Riesz Wir wollen eine der wichtigsten Ungleichungen der Wahrscheinlichkeitstheorie, die Jensen’sche Ungleichung f¨ur konvexe Funktionen, herleiten. Aus dieser kann man die H¨older’sche Ungleichung und die Minkowski’sche Ungleichung folgern, die uns die Dreiecksungleichung f¨ur · p liefern sowie den Dualraum zu bestimmen helfen. Allerdings geben wir hier direkte (und einfachere) Beweise f¨ur die beiden letztgenannten Ungleichungen. Bevor wir zur Jensen’schen Ungleichung kommen, wiederholen wir kurz Grunds¨atzliches zur Konvexit¨at von Mengen und Funktionen. Definition 7.4. Eine Teilmenge G eines Vektorraums (beziehungsweise eines affinlinearen Raums) heißt konvex, falls f¨ur je zwei Punkte x, y ∈ G und jedes λ ∈ [0, 1] auch λx + (1 − λ)y ∈ G ist. Beispiele 7.5.
(i) Die konvexen Teilmengen von R sind die Intervalle.
(ii) Ein linearer Unterraum eines Vektorraums ist konvex.
148
7 Lp -R¨aume und Satz von Radon-Nikodym
(iii) Die Menge aller W-Maße auf einem Messraum ist eine konvexe Menge.
3
Definition 7.6. Sei G eine konvexe Menge. Eine Abbildung ϕ : G → R heißt konvex, falls f¨ur je zwei Punkte x, y ∈ G und jedes λ ∈ [0, 1] gilt
ϕ λx + (1 − λ)y ≤ λ ϕ(x) + (1 − λ) ϕ(y). ϕ heißt konkav, falls (−ϕ) konvex ist. Ist I ⊂ R ein Intervall und ϕ : I → R stetig und im Inneren I ◦ zweimal stetig differenzierbar mit zweiter Ableitung ϕ , so ist ϕ genau dann konvex, wenn ϕ (x) ≥ 0 ist f¨ur alle x ∈ I ◦ . Anders ausgedr¨uckt: Die erste Ableitung ϕ einer konvexen Funktion ist eine monoton wachsende Funktion. Wir werden im n¨achsten Satz sehen, dass dies auch dann noch gilt, wenn ϕ nicht zweimal stetig differenzierbar ist, wenn wir zur rechtsseitigen Ableitung D+ ϕ u¨ bergehen (oder zur linksseitigen), von der wir zeigen, dass sie immer existiert. Satz 7.7. Sei I ⊂ R ein Intervall mit Innerem I ◦ sowie ϕ : I → R eine konvexe Abbildung. Dann gilt: (i) ϕ ist stetig in I ◦ und insbesondere messbar bez¨uglich B(I). (ii) F¨ur x ∈ I ◦ definiere die Funktion der Differenzenquotienten gx (y) :=
ϕ(y) − ϕ(x) y−x
f¨ur y ∈ I \ {x}.
Dann ist gx monoton wachsend, und es existieren die links- und rechtsseitigen Ableitungen D− ϕ(x) := lim gx (y) = sup{gx (y) : y < x} y↑x
und D+ ϕ(x) := lim gx (y) = inf{gx (y) : y > x}. y↓x
(iii) F¨ur x ∈ I ◦ gilt D− ϕ(x) ≤ D + ϕ(x) und ϕ(x) + (y − x)t ≤ ϕ(y) f¨ur jedes y ∈ I
⇐⇒
t ∈ [D − ϕ(x), D+ ϕ(x)].
D− ϕ(x) und D + ϕ(x) sind also die minimale und die maximale Tangentensteigung in x. (iv) Die Abbildungen x → D− ϕ(x) und x → D + ϕ(x) sind monoton wachsend. x → D− ϕ(x) ist linksstetig und x → D+ ϕ(x) ist rechtsstetig. Es gilt D − ϕ(x) = D + ϕ(x) in allen Stetigkeitspunkten von D− ϕ und D + ϕ. (v) ϕ ist genau dann in x differenzierbar, wenn D− ϕ(x) = D + ϕ(x) ist. In diesem Fall ist die Ableitung ϕ (x) = D + ϕ(x).
7.2 Ungleichungen und Satz von Fischer-Riesz
(vi) ϕ ist fast u¨ berall differenzierbar, und es gilt ϕ(b) − ϕ(a) = a, b ∈ I ◦ .
0b a
149
D+ ϕ(x) dx f¨ur
Beweis. (i) Sei x ∈ I ◦ . Wir nehmen an, dass lim inf n→∞ ϕ(x−1/n) ≤ ϕ(x)−ε f¨ur ein ε > 0 gilt. Da ϕ konvex ist, gilt ϕ(y) ≥ ϕ(x) + n(y − x)(ϕ(x) − ϕ(x − 1/n))
f¨ur jedes y > x und n ∈ N.
