Springer-Lehrbuch
Ludwig Fahrmeir · Rita Künstler Iris Pigeot · Gerhard Tutz
Statistik Sechste, überarbeitete Auflage Der Weg zur Datenanalyse
Mit 162 Abbildungen und 25 Tabellen
123
Professor Dr. Ludwig Fahrmeir Universität München Institut für Statistik Ludwigstraße 33 80539 München
[email protected] Dr. Rita Künstler Im Mühlegrund 14 79588 Efringen-Kirchen Professor Dr. Iris Pigeot Universität Bremen Institut für Statistik, Gebäude M2H Bibliothekstr. 1 28359 Bremen
[email protected] Professor Dr. Gerhard Tutz Universität München Institut für Statistik Akademiestraße 1 80799 München
[email protected]
ISSN 0937-7433 ISBN 978-4-540-69713-8 Springer Berlin Heidelberg New York ISBN 978-3-540-21232-4
5. Auflage Springer Berlin Heidelberg New York
Bibliografische Information der Deutschen Nationalbibliothek Die Deutsche Nationalbibliothek verzeichnet diese Publikation in der Deutschen Nationalbibliografie; detaillierte bibliografische Daten sind im Internet ¨ uber http://dnb.d-nb.de abrufbar. ¨ bersetzung, des Nachdrucks, des Dieses Werk ist urheberrechtlich gesch¨ utzt. Die dadurch begr¨ undeten Rechte, insbesondere die der U Vortrags, der Entnahme von Abbildungen und Tabellen, der Funksendung, der Mikroverfilmung oder der Vervielf¨ altigung auf anderen Wegen und der Speicherung in Datenverarbeitungsanlagen, bleiben, auch bei nur auszugsweiser Verwertung, vorbehalten. Eine Vervielf¨ altigung dieses Werkes oder von Teilen dieses Werkes ist auch im Einzelfall nur in den Grenzen der gesetzlichen Bestimmungen des Urheberrechtsgesetzes der Bundesrepublik Deutschland vom 9. September 1965 in der jeweils geltenden Fassung zul¨ assig. Sie ist grunds¨ atzlich verg¨ utungspflichtig. Zuwiderhandlungen unterliegen den Strafbestimmungen des Urheberrechtsgesetzes. Springer ist ein Unternehmen von Springer Science+Business Media springer.de © Springer-Verlag Berlin Heidelberg 1997, 1999, 2001, 2003, 2004, 2007 Die Wiedergabe von Gebrauchsnamen, Handelsnamen, Warenbezeichnungen usw. in diesem Werk berechtigt auch ohne besondere Kennzeichnung nicht zu der Annahme, dass solche Namen im Sinne der Warenzeichen- und Markenschutz-Gesetzgebung als frei zu betrachten w¨ aren und daher von jedermann benutzt werden d¨ urften. Herstellung: LE-TEX Jelonek, Schmidt & V¨ ockler GbR, Leipzig Umschlaggestaltung: WMX Design GmbH, Heidelberg SPIN 11973492
154/3100YL - 5 4 3 2 1 0
Gedruckt auf s¨ aurefreiem Papier
Vorwort Statistische Verfahren werden stets dann ben¨ otigt und eingesetzt, wenn im Rahmen empirischer Fragestellungen Daten erhoben, dargestellt und analysiert werden sollen. Dabei spiegelt die große Vielfalt statistischer Methoden die Breite praktischer Fragestellungen etwa aus den Wirtschafts- und Sozialwissenschaften, der Medizin und den Natur- und Ingenieurwissenschaften wider. Diese Verkn¨ upfung der Statistik mit ihren Anwendungsdisziplinen zeigt sich unter anderem darin, daß die Vermittlung der Grundlagen statistischer Methodik integrierter Bestandteil vieler Studieng¨ ange ist. Dieses Buch wendet sich vorwiegend an Studierende der Wirtschafts- und Sozialwissenschaften, aber auch anderer Disziplinen wie Informatik oder Biometrie. Es ist zudem als Einf¨ uhrungstext f¨ ur Studierende der Statistik geeignet. Ausgehend von einer Reihe realer Fragestellungen, die typische Anwendungssituationen statistischer Verfahren veranschaulichen, werden in Kapitel 1 die Grundbegriffe der Datenanalyse und -erhebung dargestellt. Diese realen Daten werden – erg¨anzt durch weitere Beispiele – in den einzelnen Kapiteln erneut aufgegriffen, um die Auseinandersetzung mit statistischen Methoden inhaltlich zu motivieren, ihre Anwendung zu illustrieren und die gewonnenen Ergebnisse zu interpretieren. Damit zielt die Darstellung der Methoden eher darauf ab, das Verst¨ andnis f¨ ur die statistischen Verfahren und die dahinterstehende Denkweise zu erh¨ ohen, als die Methoden in mathematischer Ausf¨ uhrlichkeit zu diskutieren. Zahlreiche graphische Darstellungen sollen zu diesem Ziel beitragen. Das Buch bietet insgesamt eine integrierte Einf¨ uhrung sowohl in die deskriptive Statistik und in moderne Methoden der explorativen Datenanalyse (Kapitel 2, 3) als auch in die induktive Statistik (Kapitel 9 bis 14). Letztere beinhaltet insbesondere auch Methoden der Regressions- (Kapitel 12) und der Varianzanalyse (Kapitel 13) sowie die Analyse von Zeitreihen (Kapitel 14). Eingeschlossen ist dabei eine ausf¨ uhrliche Beschreibung der Grundlagen der Stochastik (Kapitel 4 bis 8), die die Basis zum Verst¨andnis der induktiven Statistik bildet. ¨ Zur Erh¨ ohung der Ubersichtlichkeit und der Lesbarkeit werden die wesentlichen Aspekte der einzelnen Kapitel im Text und durch Einrahmungen hervorgehoben. Stichw¨orter am Rand weisen auf die jeweils behandelten Aspekte hin. Einige Abschnitte sind mit einem Stern versehen. Diese behandeln spezielle Fragestellungen, die f¨ ur das weitere Verst¨andnis nicht erforderlich sind und gegebenenfalls u ¨bersprungen werden k¨onnen. Am Ende eines jeden Kapitels werden zun¨ achst die wichtigsten Aussagen dieses Kapitels noch einmal zusammengefaßt und Hinweise auf weiterf¨ uhrende Literatur gegeben. Abschließend dienen einige Aufgaben zur Vertiefung des jeweiligen Stoffes. Auf eine große Anzahl von Aufgaben und die Angabe von L¨ osungen wurde verzichtet, da uns die Bereitstellung einer eigenen, auf dieses Lehrbuch abgestimmten Aufgabensammlung zweckm¨aßiger erscheint. Unser besonderer Dank gilt Norbert Behrens und Thomas F¨ urniss, die mit außergew¨ ohnlichem Einsatz den gr¨ oßten Teil des LATEX-Manuskripts erstellt haben. Bedanken m¨ ochten wir uns auch bei Thomas Billenkamp, Stefan Lang, Lisa Pritscher, Evi Rainer, Andrea Sch¨ opp und Kurt Watzka f¨ ur ihre Beitr¨age zu Beispielen, Grafiken, Aufgaben und Tabellen. F¨ ur Anregungen und Korrekturvorschl¨age sei zudem Artur Klinger, Leo KnorrHeld, Helmut K¨ uchenhoff, Joachim Kunert, Nanny Wermuth und unseren Studenten gedankt
vi
Vorwort
¨ sowie Joachim Hartung f¨ ur das Uberlassen der Tabellen zu den Wilcoxon-Tests. Schließlich gilt unser Dank dem Springer-Verlag f¨ ur die stets gute Zusammenarbeit und f¨ ur die Umsetzung all unserer W¨ unsche und besonders Herrn Dr. Werner A. M¨ uller, der die Erstellung dieses Lehrbuches angeregt und durch seine Unterst¨ utzung erst erm¨oglicht hat. M¨ unchen und Berlin, im Juni 1997
Ludwig Fahrmeir, Rita K¨ unstler, Iris Pigeot, Gerhard Tutz
Bei der vorliegenden Auflage handelt es sich um eine durchgesehene und korrigierte Version der Erstauflage des Buches. Wir bedanken uns bei allen Kollegen, Freunden, Mitarbeitern und Studenten f¨ ur Hinweise auf Fehler und f¨ ur Verbesserungsvorschl¨age. Zu diesem Buch gibt es eine Homepage: Fahrmeir, K¨ unstler, Pigeot, Tutz, Caputo und Lang (1999) http://www.stat.uni-muenchen.de/∼fahrmeir/buchstat/ Die Homepage enth¨ alt insbesondere einen Großteil der verwendeten Daten. M¨ unchen, im Juli 1998
Ludwig Fahrmeir, Rita K¨ unstler, Iris Pigeot, Gerhard Tutz
Die neue Auflage ist gegen¨ uber der vorhergehenden im wesentlichen unver¨andert. Kleinere Textkorrekturen dienen nur der Vermeidung von Unstimmigkeiten. Als Erg¨anzung zum Lehrbuch liegt seit 1999 Fahrmeir, L. , K¨ unstler, R. , Pigeot, I., Tutz, G., Caputo, A. , Lang, S. : Arbeitsbuch Statistik vor, das ebenfalls im Springer-Verlag erschienen ist. Die im Arbeitsbuch verwendeten Datens¨ atze finden sich unter http://www.stat.uni-muenchen.de/∼fahrmeir/uebbuch/uebbuch.html M¨ unchen, im Juli 2000
Ludwig Fahrmeir, Rita K¨ unstler, Iris Pigeot, Gerhard Tutz
Vorwort
vii
In der vierten Auflage wurde das Schriftbild leicht ver¨andert. Neu hinzugekommen ist eine kurze Einf¨ uhrung in Bayesianische Sch¨ atzverfahren bzw. Bayesianisches Lernen sowie ein Abschnitt u ¨ ber kategoriale Regression, in der die Grundideee der Regression auf bin¨are ¨ abh¨ angige Variablen u u ¨ bertragen wird. Eine Ubersicht ¨ber die verwendeten Beispiele, die das Aufsuchen bestimmter Beispiele erleichtern soll, findet sich am Ende des Buches. Zu den Aufgaben am Ende der einzelnen Kapitel finden sich nun die L¨osungen im Arbeitsbuch Fahrmeir, L., K¨ unstler, R., Pigeot, I., Tutz, G., Caputo, A., Lang, S (2002). Arbeitsbuch Statistik (3. Auflage). Springer-Verlag, Berlin. Datens¨atze, die als Beispiele f¨ ur das Arbeiten mit realen Daten dienen k¨ onnen, finden sich in unserem Datenarchiv http://www.stat.uni-muenchen.de/service/datenarchiv/ Unser besonderer Dank gilt Herrn Michael Schindler f¨ ur die gr¨ undliche und engagierte Aufbereitung des Textbildes mit LATEX. M¨ unchen, im Juni 2002
Ludwig Fahrmeir, Rita K¨ unstler, Iris Pigeot, Gerhard Tutz
In der vorliegenden Fassung wurden neben einigen Druckfehlern insbesondere die Beispiele und Aufgaben u ¨berarbeitet. Die Beispiele, die noch auf der Einheit DM beruhten, wurden durchwegs durch Beispiele auf Euro–Basis ersetzt. Dem in vielen Kapiteln dargestellten Mietspiegel liegt nun eine zeitgem¨ aße W¨ ahrung zugrunde. Die aktuellen Datens¨atze finden sich unter http://www.stat.uni-muenchen.de/service/datenarchiv/. Wir danken Studenten und Lesern f¨ ur Kommentare und Korrekturhinweise, sowie Frau Petra ¨ Menn f¨ ur ihre Hilfe bei der Uberarbeitung. M¨ unchen, im Januar 2004
Ludwig Fahrmeir, Rita K¨ unstler, Iris Pigeot, Gerhard Tutz
In der sechsten Auflage wurden einige noch verbliebene Druckfehler korrigiert. Wir danken Herrn B¨ oker f¨ ur die Hinweise zur Korrektur der Tabelle zum Wilcoxon-Rangsummen Test. Dank f¨ ur alle hilfreichen Kommentare von Lesern und Studenten. M¨ unchen, im Dezember 2006
Ludwig Fahrmeir, Rita K¨ unstler, Iris Pigeot, Gerhard Tutz
Inhaltsverzeichnis
Vorwort
v
1 Einf¨ uhrung 1.1 Wo braucht man Statistik? . . . . . . . . . . . . . . . . . . 1.2 Was macht man mit Statistik? . . . . . . . . . . . . . . . . 1.3 Was steht am Anfang? . . . . . . . . . . . . . . . . . . . . . 1.3.1 Statistische Einheiten, Merkmale und Gesamtheiten 1.3.2 Merkmalstypen . . . . . . . . . . . . . . . . . . . . . Stetige und diskrete Merkmale . . . . . . . . . . . . Skalen . . . . . . . . . . . . . . . . . . . . . . . . . . Quantitative und qualitative Merkmale . . . . . . . 1.4 Wie gewinnt man Daten? . . . . . . . . . . . . . . . . . . . 1.4.1 Elemente der Versuchsplanung . . . . . . . . . . . . 1.4.2 Datengewinnung und Erhebungsarten . . . . . . . . Einfache Zufallsstichproben . . . . . . . . . . . . . . Geschichtete Zufallsstichproben . . . . . . . . . . . . Klumpenstichprobe . . . . . . . . . . . . . . . . . . . Mehrstufige Auswahlverfahren . . . . . . . . . . . . Bewußte Auswahlverfahren . . . . . . . . . . . . . . Studiendesigns . . . . . . . . . . . . . . . . . . . . . 1.5 Zusammenfassung und Bemerkungen . . . . . . . . . . . . . 1.6 Aufgaben . . . . . . . . . . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . .
1 1 11 14 14 16 16 17 19 20 21 23 25 26 26 27 27 28 28 30
2 Univariate Deskription und Exploration von Daten 2.1 Verteilungen und ihre Darstellungen . . . . . . . . . . 2.1.1 H¨ aufigkeiten . . . . . . . . . . . . . . . . . . . 2.1.2 Graphische Darstellungen . . . . . . . . . . . . Stab- und Kreisdiagramme . . . . . . . . . . . Stamm-Blatt-Diagramme . . . . . . . . . . . . Histogramme . . . . . . . . . . . . . . . . . . . Unimodale und multimodale Verteilungen . . .
. . . . . . .
. . . . . . .
. . . . . . .
. . . . . . .
. . . . . . .
. . . . . . .
. . . . . . .
. . . . . . .
. . . . . . .
. . . . . . .
31 31 32 35 35 37 40 47
. . . . . . .
. . . . . . .
. . . . . . .
x
Inhaltsverzeichnis
2.2
2.3
2.4
2.5 2.6
Symmetrie und Schiefe . . . . . . . . . . . . . . . . . . . . . . . . . . . 2.1.3 Kumulierte H¨ aufigkeitsverteilung und empirische Verteilungsfunktion . Beschreibung von Verteilungen . . . . . . . . . . . . . . . . . . . . . . . . . . 2.2.1 Lagemaße . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Arithmetisches Mittel . . . . . . . . . . . . . . . . . . . . . . . . . . . Median . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Modus . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Berechnung der Lagemaße bei gruppierten Daten . . . . . . . . . . . . Lageregeln . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Das geometrische Mittel . . . . . . . . . . . . . . . . . . . . . . . . . . Das harmonische Mittel . . . . . . . . . . . . . . . . . . . . . . . . . . Das getrimmte Mittel . . . . . . . . . . . . . . . . . . . . . . . . . . . 2.2.2 Quantile und Box-Plot . . . . . . . . . . . . . . . . . . . . . . . . . . . 2.2.3 Standardabweichung, Varianz und Variationskoeffizient . . . . . . . . 2.2.4 Maßzahlen f¨ ur Schiefe und W¨olbung . . . . . . . . . . . . . . . . . . . Konzentrationsmaße . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2.3.1 Relative Konzentration: Lorenzkurve und Gini-Koeffizient . . . . . . . Lorenzkurve aus den geordneten Daten . . . . . . . . . . . . . . . . . Lorenzkurve bei gruppierten Daten . . . . . . . . . . . . . . . . . . . . Gini-Koeffizient . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2.3.2 Alternative Konzentrationsmaße . . . . . . . . . . . . . . . . . . . . . Konzentrationsrate CRg . . . . . . . . . . . . . . . . . . . . . . . . . . Herfindahl-Index . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Dichtekurven und Normalverteilung . . . . . . . . . . . . . . . . . . . . . . . 2.4.1 Dichtekurven . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2.4.2 Normalverteilungen . . . . . . . . . . . . . . . . . . . . . . . . . . . . ∗Normal-Quantil-Plots . . . . . . . . . . . . . . . . . . . . . . . . . . . ∗2.4.3 Approximation von Dichtekurven . . . . . . . . . . . . . . . . . . . . . Zusammenfassung und Bemerkungen . . . . . . . . . . . . . . . . . . . . . . . Aufgaben . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
3 Multivariate Deskription und Exploration 3.1 Diskrete und gruppierte Merkmale . . . . . . . . . . . . 3.1.1 Zweidimensionale Daten: Die Kontingenztabelle . 3.1.2 Bedingte H¨ aufigkeiten . . . . . . . . . . . . . . . 3.2 Zusammenhangsanalyse in Kontingenztabellen . . . . . 3.2.1 Chancen und relative Chancen . . . . . . . . . . 3.2.2 Kontingenz- und χ2 -Koeffizient . . . . . . . . . . 3.3 Graphische Darstellungen quantitativer Merkmale . . .
. . . . . . .
. . . . . . .
. . . . . . .
. . . . . . .
. . . . . . .
. . . . . . .
. . . . . . .
. . . . . . .
. . . . . . .
. . . . . . .
. . . . . . .
. . . . . . .
48 49 53 53 53 55 57 58 60 61 63 64 64 69 74 77 78 78 80 82 85 85 86 87 87 90 95 98 102 104 109 109 109 115 119 119 122 127
Inhaltsverzeichnis
3.4
xi
3.3.1
Streudiagramm . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 128
3.3.2
Zweidimensionale Histogramme und Dichten . . . . . . . . . . . . . . 130
3.3.3
Mehrdimensionale Darstellungen . . . . . . . . . . . . . . . . . . . . . 132
Zusammenhangsmaße bei metrischen Merkmalen . . . . . . . . . . . . . . . . 135 3.4.1
Empirischer Korrelationskoeffizient nach Bravais-Pearson . . . . . . . 135
3.4.2
Spearmans Korrelationskoeffizient . . . . . . . . . . . . . . . . . . . . 142
3.4.3
Invarianzeigenschaften . . . . . . . . . . . . . . . . . . . . . . . . . . . 146
3.5
Korrelation und Kausalit¨ at . . . . . . . . . . . . . . . . . . . . . . . . . . . . 148
3.6
Regression . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 153 3.6.1
Das lineare Regressionsmodell . . . . . . . . . . . . . . . . . . . . . . . 153
3.6.2
Die Berechnung der Ausgleichsgeraden . . . . . . . . . . . . . . . . . . 154
3.6.3 ∗3.6.4
Bestimmtheitsmaß und Residualanalyse . . . . . . . . . . . . . . . . . 159 Nichtlineare Regression . . . . . . . . . . . . . . . . . . . . . . . . . . 165
3.7
Zusammenfassung und Bemerkungen . . . . . . . . . . . . . . . . . . . . . . . 167
3.8
Aufgaben . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 169
4 Wahrscheinlichkeitsrechnung 4.1
4.2
4.3
173
Definition und Begriff der Wahrscheinlichkeit . . . . . . . . . . . . . . . . . . 174 4.1.1
Mengen und Mengenoperationen . . . . . . . . . . . . . . . . . . . . . 175
4.1.2
Zufallsereignisse . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 179
4.1.3
Wahrscheinlichkeiten . . . . . . . . . . . . . . . . . . . . . . . . . . . . 181
Zur empirischen Interpretation von Wahrscheinlichkeiten . . . . . . . . . . . . 187 4.2.1
Die Laplace-Wahrscheinlichkeit . . . . . . . . . . . . . . . . . . . . . . 188
4.2.2
Objektive Wahrscheinlichkeiten als Grenzwert relativer H¨aufigkeiten . 191
4.2.3
Subjektive Wahrscheinlichkeiten . . . . . . . . . . . . . . . . . . . . . 194
Zufallsstichproben und Kombinatorik . . . . . . . . . . . . . . . . . . . . . . . 195 4.3.1
Modell mit Zur¨ ucklegen . . . . . . . . . . . . . . . . . . . . . . . . . . 196
4.3.2
Modell ohne Zur¨ ucklegen . . . . . . . . . . . . . . . . . . . . . . . . . 197
4.3.3
Permutationen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 198
4.3.4
Modell ohne Zur¨ ucklegen und ohne Ber¨ ucksichtigung der Reihenfolge . 199
4.4
Bedingte Wahrscheinlichkeiten . . . . . . . . . . . . . . . . . . . . . . . . . . 202
4.5
Unabh¨ angigkeit von zwei Ereignissen . . . . . . . . . . . . . . . . . . . . . . . 206
4.6
Totale Wahrscheinlichkeit . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 209
4.7
Der Satz von Bayes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 211
4.8
Unendliche Grundgesamtheiten . . . . . . . . . . . . . . . . . . . . . . . . . . 216
4.9
Zusammenfassung und Bemerkungen . . . . . . . . . . . . . . . . . . . . . . . 219
4.10 Aufgaben . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 220
xii
Inhaltsverzeichnis
5 Diskrete Zufallsvariablen 223 5.1 Zufallsvariablen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 224 5.2 Verteilungen und Parameter von diskreten Zufallsvariablen . . . . . . . . . . 227 5.2.1 Definition und Verteilung . . . . . . . . . . . . . . . . . . . . . . . . . 227 Diskrete Gleichverteilung . . . . . . . . . . . . . . . . . . . . . . . . . 234 Geometrische Verteilung . . . . . . . . . . . . . . . . . . . . . . . . . . 234 5.2.2 Unabh¨ angigkeit von diskreten Zufallsvariablen . . . . . . . . . . . . . 238 5.2.3 Lageparameter, Quantile und Streuungsparameter einer diskreten Verteilung . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 242 Erwartungswert . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 242 5.2.4 Weitere Lageparameter . . . . . . . . . . . . . . . . . . . . . . . . . . 247 Varianz und Standardabweichung . . . . . . . . . . . . . . . . . . . . . 248 5.3 Spezielle diskrete Verteilungsmodelle . . . . . . . . . . . . . . . . . . . . . . . 252 5.3.1 Die Binomialverteilung . . . . . . . . . . . . . . . . . . . . . . . . . . . 253 5.3.2 Die hypergeometrische Verteilung . . . . . . . . . . . . . . . . . . . . . 258 5.3.3 Die Poisson-Verteilung . . . . . . . . . . . . . . . . . . . . . . . . . . . 260 5.4 Zusammenfassung und Bemerkungen . . . . . . . . . . . . . . . . . . . . . . . 265 5.5 Aufgaben . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 267 6 Stetige Zufallsvariablen 6.1 Definition und Verteilung . . . . . . . . . . . . . . . . . . . . . . . Unabh¨ angigkeit von stetigen Zufallsvariablen . . . . . . . . Exponentialverteilung . . . . . . . . . . . . . . . . . . . . . 6.2 Lageparameter, Quantile und Varianz von stetigen Zufallsvariablen Erwartungswert . . . . . . . . . . . . . . . . . . . . . . . . . Modus . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Median und Quantile . . . . . . . . . . . . . . . . . . . . . Varianz . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Standardisierung von Zufallsvariablen . . . . . . . . . . . . Symmetrie und Schiefe . . . . . . . . . . . . . . . . . . . . . 6.3 Spezielle stetige Verteilungsmodelle . . . . . . . . . . . . . . . . . . 6.3.1 Die Normalverteilung . . . . . . . . . . . . . . . . . . . . . Quantile . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6.3.2 Die logarithmische Normalverteilung . . . . . . . . . . . . . 6.3.3 Chi-Quadrat-, Student- und Fisher-Verteilung . . . . . . . . Die Chi-Quadrat-Verteilung . . . . . . . . . . . . . . . . . . Die Student-Verteilung . . . . . . . . . . . . . . . . . . . . . Die Fisher-Verteilung . . . . . . . . . . . . . . . . . . . . . 6.4 Zusammenfassung und Bemerkungen . . . . . . . . . . . . . . . . . 6.5 Aufgaben . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
269 269 275 279 282 282 286 286 288 291 291 293 293 296 301 301 302 303 305 307 308
Inhaltsverzeichnis
xiii
7 Mehr u ¨ber Zufallsvariablen und Verteilungen 7.1 Gesetz der großen Zahlen und Grenzwerts¨atze . . . . . . 7.1.1 Das Gesetz der großen Zahlen und der Hauptsatz 7.1.2 Der zentrale Grenzwertsatz . . . . . . . . . . . . 7.2 Approximation von Verteilungen . . . . . . . . . . . . . ∗7.3 Zufallszahlen und Simulation . . . . . . . . . . . . . . . ∗7.4 Einige Erg¨ anzungen . . . . . . . . . . . . . . . . . . . . 7.4.1 Zufallsvariablen als Abbildungen . . . . . . . . . 7.4.2 Verteilungsfunktion und ihre Eigenschaften . . . 7.4.3 Ungleichung von Tschebyscheff . . . . . . . . . . 7.4.4 Maßzahlen f¨ ur Schiefe und W¨ olbung . . . . . . . 7.5 Zusammenfassung und Bemerkungen . . . . . . . . . . . 7.6 Aufgaben . . . . . . . . . . . . . . . . . . . . . . . . . . 8 Mehrdimensionale Zufallsvariablen 8.1 Begriff mehrdimensionaler Zufallsvariablen . 8.2 Zweidimensionale diskrete Zufallsvariablen . 8.3 Zweidimensionale stetige Zufallsvariablen . 8.4 Unabh¨ angigkeit von Zufallsvariablen . . . . 8.5 Kovarianz und Korrelation . . . . . . . . . . 8.6 Die zweidimensionale Normalverteilung . . 8.7 Zusammenfassung und Bemerkungen . . . . 8.8 Aufgaben . . . . . . . . . . . . . . . . . . .
. . . . . . . .
. . . . . . . .
. . . . . . . .
. . . . . . . .
. . . . . . . .
. . . . . . . .
. . . . . . . .
. . . . . . . . der Statistik . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
. . . . . . . .
. . . . . . . .
. . . . . . . .
. . . . . . . .
. . . . . . . .
. . . . . . . .
. . . . . . . .
9 Parametersch¨ atzung 9.1 Punktsch¨ atzung . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9.2 Eigenschaften von Sch¨ atzstatistiken . . . . . . . . . . . . . . . . . . . 9.2.1 Erwartungstreue . . . . . . . . . . . . . . . . . . . . . . . . . 9.2.2 Erwartete mittlere quadratische Abweichung und Konsistenz 9.2.3 Wirksamste Sch¨ atzstatistiken . . . . . . . . . . . . . . . . . . 9.3 Konstruktion von Sch¨ atzfunktionen . . . . . . . . . . . . . . . . . . . 9.3.1 Maximum Likelihood-Sch¨ atzung . . . . . . . . . . . . . . . . 9.3.2 Kleinste-Quadrate-Sch¨ atzung . . . . . . . . . . . . . . . . . . 9.3.3 Bayes-Sch¨ atzung . . . . . . . . . . . . . . . . . . . . . . . . . 9.4 Intervallsch¨ atzung . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9.4.1 Konfidenzintervalle f¨ ur Erwartungswert und Varianz . . . . . 9.4.2 Konfidenzintervalle f¨ ur den Anteilswert . . . . . . . . . . . . 9.5 Zusammenfassung und Bemerkungen . . . . . . . . . . . . . . . . . . 9.6 Aufgaben . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
. . . . . . . .
. . . . . . . . . . . . . .
. . . . . . . . . . . .
. . . . . . . .
. . . . . . . . . . . . . .
. . . . . . . . . . . .
. . . . . . . .
. . . . . . . . . . . . . .
. . . . . . . . . . . .
311 . 311 . 313 . 315 . 318 . 321 . 324 . 324 . 326 . 328 . 330 . 331 . 332
. . . . . . . .
335 . 335 . 338 . 344 . 346 . 349 . 357 . 361 . 361
. . . . . . . . . . . . . .
363 . 364 . 366 . 367 . 370 . 374 . 376 . 376 . 379 . 380 . 385 . 387 . 392 . 393 . 394
xiv
Inhaltsverzeichnis
10 Testen von Hypothesen 10.1 Der Binomial- und der Gauß-Test . . . . . . . . . 10.1.1 Der exakte Binomialtest . . . . . . . . . . 10.1.2 Der approximative Binomialtest . . . . . 10.1.3 Der Gauß-Test . . . . . . . . . . . . . . . 10.2 Prinzipien des Testens . . . . . . . . . . . . . . . 10.2.1 Fehlentscheidungen . . . . . . . . . . . . . 10.2.2 Statistische Tests und Konfidenzintervalle ¨ 10.2.3 Uberschreitungswahrscheinlichkeit . . . . 10.2.4 G¨ utefunktion . . . . . . . . . . . . . . . . ∗Multiple Testprobleme . . . . . . . . . . . . . . . 10.3 Zusammenfassung und Bemerkungen . . . . . . . 10.4 Aufgaben . . . . . . . . . . . . . . . . . . . . . . 11 Spezielle Testprobleme 11.1 Ein-Stichproben-Fall . . . . . . . . . . . . . . 11.1.1 Tests zu Lagealternativen . . . . . . . 11.1.2 Anpassungstests . . . . . . . . . . . . 11.2 Vergleiche aus unabh¨ angigen Stichproben . . 11.2.1 Tests zu Lagealternativen . . . . . . . 11.2.2 χ2 -Homogenit¨ atstest . . . . . . . . . . 11.3 Vergleiche aus verbundenen Stichproben . . . 11.4 Zusammenhangsanalyse . . . . . . . . . . . . 11.4.1 χ2 -Unabh¨ angigkeitstest . . . . . . . . 11.4.2 Korrelation bei metrischen Merkmalen 11.5 Zusammenfassung und Bemerkungen . . . . . 11.6 Aufgaben . . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . .
. . . . . . . . . . . .
. . . . . . . . . . . .
. . . . . . . . . . . .
. . . . . . . . . . . .
. . . . . . . . . . . .
. . . . . . . . . . . .
. . . . . . . . . . . .
. . . . . . . . . . . .
. . . . . . . . . . . .
. . . . . . . . . . . .
. . . . . . . . . . . .
. . . . . . . . . . . .
. . . . . . . . . . . .
. . . . . . . . . . . .
397 . 397 . 401 . 404 . 408 . 411 . 415 . 418 . 419 . 420 . 427 . 428 . 430
. . . . . . . . . . . .
. . . . . . . . . . . .
. . . . . . . . . . . .
. . . . . . . . . . . .
. . . . . . . . . . . .
. . . . . . . . . . . .
. . . . . . . . . . . .
. . . . . . . . . . . .
. . . . . . . . . . . .
. . . . . . . . . . . .
. . . . . . . . . . . .
. . . . . . . . . . . .
. . . . . . . . . . . .
. . . . . . . . . . . .
. . . . . . . . . . . .
. . . . . . . . . . . .
433 . 435 . 435 . 445 . 454 . 455 . 462 . 465 . 466 . 467 . 469 . 471 . 472
12 Regressionsanalyse 12.1 Lineare Einfachregression . . . . . . . . . . . . . 12.1.1 Das Modell der linearen Einfachregression 12.1.2 Sch¨ atzen, Testen und Prognose . . . . . . Sch¨ atzen . . . . . . . . . . . . . . . . . . . Testen . . . . . . . . . . . . . . . . . . . . Prognose . . . . . . . . . . . . . . . . . . 12.1.3 Residualanalyse . . . . . . . . . . . . . . . 12.2 Multiple lineare Regression . . . . . . . . . . . . 12.2.1 Das multiple lineare Regressionsmodell . . 12.2.2 Sch¨ atzen, Testen und Prognose . . . . . . Sch¨ atzen . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . .
. . . . . . . . . . .
. . . . . . . . . . .
. . . . . . . . . . .
. . . . . . . . . . .
. . . . . . . . . . .
. . . . . . . . . . .
. . . . . . . . . . .
. . . . . . . . . . .
. . . . . . . . . . .
. . . . . . . . . . .
. . . . . . . . . . .
. . . . . . . . . . .
. . . . . . . . . . .
. . . . . . . . . . .
. . . . . . . . . . .
. . . . . . . . . . . .
475 476 476 480 480 485 488 490 492 494 495 496
Inhaltsverzeichnis
xv
Testen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 499 Prognose . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 502 ∗12.2.3 Multiple lineare Regression in Matrixnotation . . . . . . . . . . . . . . 503 12.3 Bin¨ are Regression . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 506 ∗12.4 Nichtlineare und nichtparametrische Regression . . . . . . . . . . . . . . . . . 508 12.5 Zusammenfassung und Bemerkungen . . . . . . . . . . . . . . . . . . . . . . . 513 12.6 Aufgaben . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 514 13 Varianzanalyse
517
13.1 Einfaktorielle Varianzanalyse . . . . . . . . . . . . . . . . . . . . . . . . . . . 519 Modellformulierung (I) . . . . . . . . . . . . . . . . . . . . . . . . . . . 520 Modellformulierung (II) . . . . . . . . . . . . . . . . . . . . . . . . . . 521 13.2 Zweifaktorielle Varianzanalyse mit festen Effekten
. . . . . . . . . . . . . . . 528
Modellformulierung (I) . . . . . . . . . . . . . . . . . . . . . . . . . . . 530 Modellformulierung (II) . . . . . . . . . . . . . . . . . . . . . . . . . . 531 13.3 Zusammenfassung und Bemerkungen . . . . . . . . . . . . . . . . . . . . . . . 542 13.4 Aufgaben . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 543 14 Zeitreihen
547
14.1 Indizes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 550 14.2 Komponentenmodelle . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 553 14.3 Globale Regressionsans¨ atze . . . . . . . . . . . . . . . . . . . . . . . . . . . . 555 14.3.1 Trendbestimmung . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 556 14.3.2 Bestimmung der Saisonkomponente . . . . . . . . . . . . . . . . . . . 557 14.4 Lokale Ans¨ atze . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 559 14.4.1 Trendbestimmung . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 560 Gleitende Durchschnitte . . . . . . . . . . . . . . . . . . . . . . . . . . 560 Lokale Regression . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 561 ∗Spline-Gl¨ attung . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 563 14.4.2 Bestimmung der Saisonkomponente . . . . . . . . . . . . . . . . . . . 566 Gleitende Durchschnitte und lokale Regression . . . . . . . . . . . . . 566 ∗Spline-Gl¨ attung . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 568 14.5 Zusammenfassung und Bemerkungen . . . . . . . . . . . . . . . . . . . . . . . 569 14.6 Aufgaben . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 569
xvi
Tabellen A Standardnormalverteilung . . . B Binomialverteilung . . . . . . . C χ2 -Verteilung . . . . . . . . . . D Students t-Verteilung . . . . . . E F -Verteilung . . . . . . . . . . F Wilcoxon-Vorzeichen-Rang-Test G Wilcoxon-Rangsummen-Test . .
Inhaltsverzeichnis
. . . . . . .
. . . . . . .
. . . . . . .
. . . . . . .
. . . . . . .
. . . . . . .
. . . . . . .
. . . . . . .
. . . . . . .
. . . . . . .
. . . . . . .
. . . . . . .
. . . . . . .
. . . . . . .
. . . . . . .
. . . . . . .
. . . . . . .
. . . . . . .
. . . . . . .
. . . . . . .
. . . . . . .
. . . . . . .
. . . . . . .
. . . . . . .
. . . . . . .
573 . 573 . 574 . 583 . 584 . 585 . 590 . 591
Literatur
593
Verzeichnis der Beispiele
597
Sachregister
603
1 Einf¨ uhrung
1.1
Wo braucht man Statistik?
Zun¨achst sollen einige Beispiele, die sp¨ ater ausf¨ uhrlicher behandelt werden, typische Fragestellungen und Anwendungssituationen veranschaulichen, bei denen statistische Methoden eingesetzt werden. Die statistischen Begriffe, die in diesem Zusammenhang fallen, werden in den entsprechenden Kapiteln eingef¨ uhrt. M¨ unchner Absolventenstudie Im Laufe der letzten Jahre wurden zur Beurteilung der Berufsaussichten von Studienabg¨ angerinnen und -abg¨ angern mit insbesondere sozialwissenschaftlicher Ausrichtung an einigen Universit¨ aten Deutschlands Befragungen der Absolventen durchgef¨ uhrt. Um die Berufsaussichten einsch¨ atzen zu k¨ onnen, ist eine F¨ ulle an Informationen erforderlich. Am Institut f¨ ur Soziologie der Ludwig-Maximilians-Universit¨at M¨ unchen wurde daher ein spezieller Fragebogen konzipiert, der insgesamt 82 Fragen umfaßt. Mit diesem Fragebogen wurde unter anderem versucht, die Ausbildungsqualit¨ at zu erfassen auch in Hinblick darauf, inwieweit die vermittelten Studieninhalte f¨ ur den sp¨ ateren Beruf nutzbar sind. Dazu interessierte insbesondere die zeitliche Entwicklung der beruflichen T¨atigkeiten von Absolventen des M¨ unchner Soziologie-Diplomstudienganges mit einem Schwerpunkt auf der ersten und zur Zeit der Befragung aktuellen Besch¨ aftigung. Der Fragebogen deckte zahlreiche inhaltliche Aspekte ab wie etwa den Studienverlauf (z.B. Anzahl absolvierter Semester, Diplom-Durchschnittsnote, Wechsel des Studienorts), den Studienschwerpunkt (z.B. gew¨ahlte Vertiefungsgebiete, Ausrichtung der Diplomarbeit), m¨ ogliche Zusatzqualifikation, aber auch Aspekte zur Person wie z.B. Geschlecht, Alter, Familienstand und berufliche Stellung der Eltern. Der Fragebogen wurde im M¨ arz 1995 an 465 Personen verschickt. Dies sind alle Studierenden der Soziologie, die im Zeitraum von 1983 bis 1994 ihre Diplompr¨ ufung an der Universit¨ at M¨ unchen abgelegt haben. Von den verschickten Frageb¨ogen konnten 102 nicht zugestellt werden. Insgesamt wurden innerhalb von sechs Wochen, d.h. in der sogenannten Feldphase, 264 Frageb¨ ogen zur¨ uckgesandt, die die Grundlage f¨ ur statistische Analysen bilden.
Beispiel 1.1
2
1. Einf¨uhrung
Person i
G
S
E
D
N
Person i
G
S
E
D
N
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18
1 1 1 1 1 1 2 2 1 2 1 1 2 1 1 1 1 1
12 13 12 12 9 12 14 10 18 10 13 15 13 16 14 13 13 17
1 3 5 2 3 2 5 1 3 3 4 4 2 3 3 2 2 1
3 4 4 3 4 1 3 4 3 4 4 3 2 3 4 3 4 4
2 2 3 3 2 1 5 2 1 3 3 2 2 2 2 2 2 3
19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36
2 1 1 2 1 1 2 1 1 1 1 1 1 1 1 2 2 2
12 15 13 13 15 13 15 12 14 10 12 17 11 14 11 13 11 7
2 2 3 4 1 3 4 2 1 2 3 2 1 3 2 2 3 1
2 3 4 3 4 2 4 4 3 4 3 3 4 2 1 4 4 4
2 3 2 3 2 2 3 2 2 2 2 2 2 3 2 3 3 2
Tabelle 1.1: Daten f¨ ur 36 Absolventen der M¨ unchner Absolventenstudie 1995 des Instituts f¨ ur Soziologie der LMU M¨ unchen
Wir betrachten f¨ ur unsere Auswertung zur Veranschaulichung einiger elementarer Methoden der Statistik nur einen Teildatensatz bestehend aus 36 Absolventen und f¨ unf Variablen und zwar Geschlecht (G mit 1 = weiblich, 2 = m¨annlich), Studiendauer in Semestern (S), fachliches Engagement im Studium (E mit f¨ unf Kategorien: 1 = sehr engagiert, . . . , 5 = gar nicht engagiert), Ausrichtung der Diplomarbeit (D mit vier m¨oglichen Auspr¨ agungen: 1 = empirisch-Prim¨ arerhebung, 2 = empirisch-Sekund¨aranalyse, 3 = empirischqualitativ, 4 = theoretisch bzw. Literaturarbeit) sowie Gesamtnote der Diplompr¨ ufung (N ). Dabei wurden diese Variablen nicht speziell in Hinblick auf die eigentlich interessierende Fragestellung ausgew¨ ahlt, sondern aus eher illustrativen Gr¨ unden. Die erhobenen Daten f¨ ur die 36 zuf¨ allig ausgew¨ ahlten Absolventen finden sich in Tabelle 1.1. 2
Beispiel 1.2
Mietspiegel In vielen St¨ adten und Gemeinden der Bundesrepublik werden sogenannte Mietspiegel erstellt. Sie bieten Mietern und Vermietern eine Markt¨ ubersicht zu Mieth¨ohen, helfen in
1.1 Wo braucht man Statistik?
3
M ie
tsp ie
ge l
Mietberatungsstellen und werden, neben Sachverst¨andigen, auch zur Entscheidung in Mietstreitprozessen herangezogen. Nach dem Gesetz zur Regelung der Mieth¨ohe (MHG) ist die orts¨ ubliche Vergleichsmiete definiert als “die u ¨ blichen Entgelte, die in der Gemeinde oder vergleichbaren Gemeinden f¨ ur nicht preisgebundenen Wohnraum vergleichbarer Art, Gr¨ oße, Ausstattung, Beschaffenheit und Lage in den letzten vier Jahren vereinbart oder, von Erh¨ ohungen nach §4 MHG abgesehen, ge¨ andert worden sind”. Damit werden erstens die Grundgesamtheiten festgelegt, aus denen die Stichproben f¨ ur die Erstellung von Mietspiegeln zu ziehen sind. Zweitens wird zugleich ein Hinweis auf die statistische Analysemethode gegeben: Sinngem¨ aß bedeutet dies f¨ ur die Nettomiete, daß ihr Durchschnittswert in Abh¨ angigkeit von Merkmalen wie Art, Gr¨ oße, Ausstattung, Beschaffenheit und Lage der Wohnung zu bestimmen bzw. zu sch¨ atzen ist.
Mie
tver
trag
Wir beschr¨ anken uns hier auf die sogenannte Nettomiete, d.h. den monatlichen Mietpreis der nach Abzug aller Nebenkosten u ¨ brigbleibt. Die wichtigsten Faktoren, mit denen ein Teil der erheblichen Streuung der Nettomieten um einen Durchschnittswert erkl¨art werden kann, sind die Wohnfl¨ ache und das Baualter. Diese beiden Merkmale finden in allen herk¨ommlichen Tabellenmietspiegeln Ber¨ ucksichtigung. Dar¨ uber hinaus werden aber auch weitere Merkmale zur Lage und Ausstattung der Wohnung miteinbezogen, die zu begr¨ undeten Zu- oder Abschl¨ agen f¨ uhren. Zur Erstellung eines Mietspiegels wird aus der Gesamtheit aller nach dem Mietgesetz relevanten Wohnungen der Stadt eine repr¨ asentative Stichprobe gezogen und die interessierenden Daten werden von Interviewern in Frageb¨ ogen eingetragen. Das mit der Datenerhebung beauftragte Institut, in M¨ unchen Infratest, erstellt daraus eine Datei, die der anschließenden statistischen Beschreibung, Auswertung und Analyse zugrunde liegt. Die Pr¨asentation der Ergebnisse erfolgt schließlich in einer Mietspiegelbrosch¨ ure bzw. im Internet. Im folgenden betrachten wir einen Ausschnitt aus dem Mietspiegel M¨ unchen 2003. Eigentliches Zielmerkmal ist die monatliche Nettomiete (NM), auf die gesamte Wohnfl¨ache oder pro Quadratmeter bezogen. Weitere Merkmale sind unter anderem: Wohnfl¨ache (in qm), Baualter (Baujahr oder Baualterkategorie), Zentralheizung (ja/nein), Warmwasserversorgung (ja/nein), gehobene Ausstattung des Bades bzw. der K¨ uche.
4
1. Einf¨uhrung
Tabelle 1.2 enth¨ alt durchschnittliche Nettomieten/qm, gegliedert nach Baualters- und Wohnfl¨ achenkategorien (klein, mittel, groß). Sie gibt somit einen ersten Einblick in die Datenlage, wie sie sich in einer Teilstichprobe von 2051 Wohnungen in M¨ unchen darstellt. 2
Baualter
Nettomiete/qm Wohn߬ache bis 38 qm 39 bis 80 qm
81 qm und mehr
bis 1918 1919 bis 1949 bis 1966 bis 1978 bis ab 1990
10.96(20) 8.00(5) 10.32(64) 10.43(112) 11.00(10) 11.40(6)
7.46(190) 6.71(53) 7.68(68) 7.67(151) 8.95(42) 9.80(59)
48 65 77 89
7.86(189) 7.07(128) 8.10(321) 8.10(364) 9.41(115) 10.19(154)
Tabelle 1.2: Einfacher Tabellen-Mietspiegel, in Klammern Anzahl der einbezogenen Wohnungen
Beispiel 1.3
Politische Umfragen Befragungen zur Beliebtheit von Politikern, zur Beurteilung der wirtschaftlichen Lage oder dar¨ uber, welche Partei man w¨ ahlen w¨ urde, werden regelm¨aßig von bekannten Instituten durchgef¨ uhrt. Abbildung 1.1 (Quelle: Emnid) vergleicht die Beliebtheit von Kohl und Scharping f¨ ur die Monate des Jahres 1994. Die Graphik vermittelt den Eindruck von sich abzeichnenden Tendenzen. Da die Daten aus Stichproben gewonnen werden, ist jedoch Vorsicht bei der Interpretation geboten: Wie groß ist der Anteil der Stichprobenfehler, also zuf¨alliger Ver¨ anderungen, gegen¨ uber substantiellen Ver¨anderungen? Tabelle 1.3 zeigt f¨ ur den Befragungszeitraum (1.11.- 24.11.1995) Ergebnisse zur sogenannten Sonntagsfrage “Welche Partei w¨ urden Sie w¨ahlen, wenn am n¨achsten Sonntag Bundestagswahlen w¨ aren?”. Dazu sind zu einer Stichprobe von 931 Personen entsprechende Prozentzahlen getrennt nach Geschlecht bzw. insgesamt angegeben. Es entsteht der Eindruck, daß die Parteipr¨ aferenz vom Geschlecht abh¨angt. Da es sich um eine Stichprobe handelt, entsteht wieder die Frage, ob dies Zufall oder “statistisch signifikant” ist. 2
M¨ anner Frauen
CDU/CSU 33 40 37
SPD 35 29 32
FDP 4 6 5
Gr¨ une 6 10 8
Rest 22 15 18
100 100
Tabelle 1.3: Prozentzahlen der Parteipr¨ aferenz bei der Sonntagsfrage
1.1 Wo braucht man Statistik?
5
60 50 40 30 20 10 0 1
2
3
4
5 Kohl
6
7
8
9
10
Scharping
Abbildung 1.1: Kanzlerpr¨ aferenz
Kreditw¨ urdigkeitspr¨ ufung und Insolvenzprognose Bei der Kreditvergabe ist es f¨ ur Banken offensichtlich wichtig, daß die R¨ uckzahlung ordnungsgem¨ aß abgewickelt wird. Um zu vermeiden, daß es zu Verz¨ogerungen der Ratenzahlungen oder gar zum Kreditausfall kommt, ist es daher n¨otig, die zuk¨ unftige Bonit¨at eines potentiellen Kreditnehmers abzusch¨ atzen und die Vergabe eines Kredits davon abh¨angig zu machen. Die Bank steht vor dem Problem, einen potentiellen Kreditnehmer entweder der Klasse der problemlosen Kreditnehmer zuzuordnen und den Kredit zu vergeben, oder ihn der Klasse der Problemf¨ alle zuzuordnen und auf das Kreditgesch¨aft zu verzichten bzw. eine genauere Pr¨ ufung vorzunehmen. F¨ ur eine datengest¨ utzte und automatische Entscheidungshilfe bei der Kreditvergabe werden bereits abgewickelte Kredite als sogenannte Lernstichproben herangezogen. F¨ ur jeden Kunden aus dieser Stichprobe ist seine “Kreditw¨ urdigkeit” Y (ja = 0, nein = 1) bekannt. Zus¨ atzlich werden bei der Kreditvergabe weitere Merkmale zum Kredit und zur Person des Kunden erhoben, die Hinweise darauf geben sollen, ob der Kunde als kreditw¨ urdig einzustufen ist oder nicht. Wir betrachten folgende Merkmale aus einer Lernstichprobe von 1000 Konsumentenkrediten einer s¨ uddeutschen Großbank mit 300 schlechten und 700 guten Krediten: X1 X2 X3 X4 X5 X6
Laufendes Konto bei der Bank (nein = 1, mittel = 2, gut = 3) Laufzeit des Kredits in Monaten Kredith¨ ohe in DM R¨ uckzahlung fr¨ uherer Kredite (gut/schlecht) Verwendungszweck (privat/beruflich) Geschlecht (weiblich/m¨ annlich)
Die folgende Tabelle 1.4 gibt f¨ ur die 300 schlechten (Y = 1) und die 700 guten (Y = 0) Kredite jeweils die Prozentzahlen f¨ ur die Auspr¨ agungen der ausgew¨ahlten Merkmale X1 , X3 ,
Beispiel 1.4
6
1. Einf¨uhrung
X4 und X5 an. Sieht man sich die Prozentzahlen f¨ ur die Variable X1 in beiden “Schichten” Y = 1 und Y = 0 an, so erkennt man, daß sich diese Variable in den beiden Schichten deutlich unterschiedlich verh¨ alt. Dagegen ist zum Beispiel f¨ ur die Variable X3 kein deutlicher Unterschied erkennbar.
Y X1 : laufendes Konto nein gut mittel
1 45.0 15.3 39.7
X3 : Kredith¨ ohe in DM
500 1000 1500 2500 5000 7500 10000 15000
< ... ≤ < ... ≤ < ... ≤ < ... ≤ < ... ≤ < ... ≤ < ... ≤ < ... ≤ < ... ≤
500 1000 1500 2500 5000 7500 10000 15000 20000
X4 : Fr¨ uhere Kredite gut schlecht
0 19.9 49.7 30.2 Y
1 1.00 11.33 17.00 19.67 25.00 11.33 6.67 7.00 1.00 1 82.33 17.66
0 2.14 9.14 19.86 24.57 28.57 9.71 3.71 2.00 .29 Y
0 94.85 5.15
Y X5 : Verwendungszweck privat beruflich
1 57.53 42.47
0 69.29 30.71
Tabelle 1.4: Prozentzahlen ausgew¨ ahlter Merkmale zur Kreditw¨ urdigkeit
Automatische Systeme zur Kreditw¨ urdigkeitspr¨ ufung nutzen Merkmale mit deutlichen Unterschieden in beiden Schichten so, daß ein neuer Kunde aufgrund seiner Auspr¨agungen in diesen Merkmalen als kreditw¨ urdig oder nicht kreditw¨ urdig eingestuft wird. Dabei sollen Fehleinstufungen mit m¨ oglichst geringen Wahrscheinlichkeiten auftreten. 2
1.1 Wo braucht man Statistik?
7
Aktienkurse
Beispiel 1.5
Ein wichtiges Anwendungsgebiet der Statistik ist die Analyse von Finanzmarktdaten, z.B. von Aktien-, Wechsel- und Zinskursen. Ziele sind etwa das Aufsp¨ uren von systematischen Strukturen, der Einfluß bestimmter politischer oder wirtschaftlicher Ereignisse, schnelles Erkennen von Ver¨ anderungen und Entscheidungsunterst¨ utzung f¨ ur An- und Verkauf sowie f¨ ur Portfoliogestaltung. Neben Kursen einzelner Aktien bilden dazu auch die Werte eines Aktienindex eine wichtige Datengrundlage. Bekannte Aktienindizes sind etwa der Deutsche Aktienindex (DAX), der Index der Frankfurter Allgemeinen Zeitung (FAZ-Index), der Index der Commerzbank, der Index der Frankfurter Wertpapierb¨ orse, der Index des Statistischen Bundesamtes und der DAFOX (Deutscher Aktienkursindex f¨ ur Forschungszwecke, DFDB-Karlsruhe), der ¨ahnlich wie der DAX konzipiert ist, aber von einer gr¨ oßeren Anzahl von Wertpapieren ausgeht. Abbildung 1.2 zeigt die t¨ aglichen Kurse der BMW-Aktie von Januar 1974 bis Dezember 1993.
Abbildung 1.2: Tageskurse der BMW-Aktie
Durch Vergleich mit dem DAX lassen sich sogenannte Beta-Faktoren f¨ ur die Aktien berechnen. Diese werden zur Steuerung von Aktienportfolios verwendet. Die Berechnung der Beta-Faktoren basiert auf dem “Capital Asset Pricing Model” (CAPM) und wird in den Abschnitten 3.6 und 12.1 illustriert. Das CAPM spielt in der Kapitalmarkttheorie eine wichtige Rolle. Anhand dieses Modells wird versucht, Aussagen u ¨ ber die Rendite einer Aktie unter Ber¨ ucksichtigung ihres Risikos zu treffen. 2
Waldsch¨ aden Waldschadensinventuren zur Feststellung der Sch¨adigung von B¨aumen und m¨oglicher beeinflussender Faktoren werden in der Regel auf Stichprobenbasis durchgef¨ uhrt. Die im weiteren beschriebenen Daten stammen aus einer Waldschadenserhebung, die im Jahre 1991 im
Beta-Faktoren Capital Asset Pricing Model (CAPM)
Beispiel 1.6
8
1. Einf¨uhrung
Bereich des Forstamts Flossenb¨ urg (Oberpfalz) durchgef¨ uhrt wurde. Ziel war es, den Schadenszustand der Hauptbaumart Fichte anhand des Nadelverlusts in den Baumkronen zu ermitteln und m¨ ogliche Zusammenh¨ange zwischen dieser Gr¨oße und verschiedenen forstlichen Kenngr¨ oßen zu untersuchen. Zur Feststellung des Zustands der Fichten wurden bei einer Befliegung Color-Infra-Rot Luftbilder des Gebiets aufgenommen. Anhand der Intensit¨at der Rotf¨ arbung auf dem Bildmaterial erkennt man den Nadelverlust der einzelnen Fichten. Dieser wurde zu einer f¨ unfkategorialen Gr¨oße, dem Sch¨adigungsgrad, zusammengefaßt. Innerhalb der Kategorie 0 finden sich B¨aume mit deutlich roten Kronen; sie beinhaltet die gesunden B¨ aume. Dagegen weisen die B¨aume der Kategorie 4 keine r¨otliche F¨arbung auf; es handelt sich um B¨ aume mit 100 %igem Nadelverlust. Die eigentliche Datenerhebung erfolgte anschließend, indem auf diese Luftbilder ein digitales Gel¨andemodell mit einer Maschenweite von 250 m × 250 m u ¨ bertragen wurde (vgl. Abb. 1.3). Prim¨are Erhebungseinheiten sind die Rasterpunkte dieses Netzes. Als Untersuchungseinheiten dienen jeweils diejenigen acht Fichten, die einem Rasterschnittpunkt am n¨achsten liegen. Insgesamt beruht die Analyse auf 6168 untersuchten B¨ aumen. Zu jeder Untersuchungseinheit Fichte wurde der Sch¨adigungsgrad als Zielvariable ermittelt. Um ein aussagef¨ ahiges Modell zu erhalten, erwies es sich als sinnvoll, die Schadstufen vor der Analyse zu einer dreikategorialen Variable zusammenzufasssen. Die Auftrittsh¨aufigkeiten der einzelnen Schadstufen sieht man in Abbildung 1.4. Neben den Schadstufen, die f¨ ur jeden Baum ermittelt werden, sind f¨ ur die einzelnen Rasterschnittpunkte verschiedene Einflußgr¨oßen bekannt. Eine solche beeinflussende Variable ist der “Beschirmungsgrad”, der in den Kategorien r¨aumig, licht, locker, geschlossen und gedr¨ angt die Dichte des Waldes mißt. Weitere Einflußgr¨oßen sind etwa das “Mischverh¨altnis” (reiner Nadelwald, Mischwald), Standortmerkmale, H¨ohenlage und Nutzungsart. 2
Beispiel 1.7
Klinische und epidemiologische Studien In medizinischen Studien ist oft die Beurteilung der Wirkung eines Medikaments bzw. einer Therapie oder das Erkennen bestimmter Risikofaktoren von prim¨arem Interesse. In sogenannten randomisierten Studien werden Patienten z.B. zuf¨allig entweder der Therapiegruppe
Abbildung 1.3: Digitales Gel¨ andemodell
1.1 Wo braucht man Statistik?
9
3500 3000 2500 2000 1500 1000 500 0 leichte Schäden
Nadelverlust:
0-9 %
deutliche Schäden 10-24 %
25-44 %
starke Schäden 45-64 %
65-100 %
Abbildung 1.4: Auftrittsh¨ aufigkeiten der einzelnen Schadstufen
oder einer Placebogruppe zugewiesen. Zus¨ atzlich werden in der Regel noch personenspezifische Merkmale wie Alter, Geschlecht, allgemeiner Gesundheitszustand oder besondere Risikofaktoren mit erhoben. Ziel ist der statistische Nachweis der Wirksamkeit des Medikaments, der Therapie bzw. die Quantifizierung des Einflusses anderer Merkmale und Faktoren. Als Beispiel betrachten wir eine am Klinikum der Technischen Universit¨at M¨ unchen in ¨ den Jahren 1987 bis 1994 durchgef¨ uhrte Studie zur Uberlebenszeit nach einer Magenkrebsoperation, wobei der Tumor vollst¨ andig entfernt wurde. Von den 179 Patienten verstarben 82 an den Folgen der Tumorerkrankung, die restlichen Patienten u ¨ berlebten bis zum Ende der Studie oder starben aufgrund anderer Ursachen. Neben dem Zeitpunkt der Operation, dem Alter und dem Geschlecht wurden von jedem Patienten prognostische Faktoren erhoben, die Art, St¨ arke, Lokalisation und Stadium der Tumorerkrankung betrafen. Von besonderem Interesse ist die Analyse des Einflusses, den solche Faktoren auf den weiteren ¨ Krankheitsverlauf und langfristige Uberlebenschancen haben. 2
Konjunkturtest des IFO-Instituts Seit 1949 f¨ uhrt das IFO-Institut in M¨ unchen monatliche Unternehmensbefragungen durch, an denen sich zur Zeit rund 12000 Unternehmen des verarbeitenden und des Baugewerbes sowie des Groß- und Einzelhandels beteiligen. Ziel dieses sogenannten “Konjunkturtests” ist es, direkt und schnell von den Unternehmen Auskunft z.B. u ¨ ber die Ver¨anderungen von Urteilen, Pl¨ anen und Erwartungen zu bestimmten o¨konomischen Gr¨oßen zu bekommen, die sich als Indikatoren zur Konjunkturbeurteilung eignen. Der IFO-Konjunkturtest beschr¨ ankt sich auf die Erhebung von Entwicklungstendenzen bestimmter betrieblicher Variablen, wie z.B. Produktion, Preise, Auftrags- und Lagerbestand bzw. die Beurteilung dieser Entwicklungen bezogen auf die Vergangenheit und/oder die Zukunft. Themen der Fragen sind f¨ ur das verarbeitende Gewerbe neben der aktuellen Beurteilung von Gesch¨ aftslage, Auftrags- und Lagerbestand die Ver¨anderung gegen¨ uber dem
Beispiel 1.8
10
1. Einf¨uhrung
Vormonat von Nachfrage, Auftragsbestand, Produktion und Preisen sowie die Erwartungen u ¨ ber die Entwicklung der Preise, der Produktion, des Exportgesch¨afts und der allgemeinen Gesch¨ aftlsage. Die daraus erhaltenen Daten werden auch Mikrodaten genannt, da sie auf Unternehmensebene erhoben werden. Im folgenden sind einige Fragen auszugsweise wiedergegeben, die von den teilnehmenden Unternehmen jeweils monatlich beantwortet werden.
Die Daten des Konjunkturtests stellen eine Alternative zu Daten der amtlichen Statistik dar, mit dem Vorteil, daß sie einfacher erhoben und deutlich rascher ver¨offentlicht werden k¨ onnen. Durch geeignete Aufbereitung, wie etwa im monatlichen Konjunkturspiegel, und statistische Analysen wird eine kurzfristige Beurteilung der konjunkturellen Entwicklung m¨ oglich. 2
Beispiel 1.9
Sozio-¨ okonomisches Panel Reine Querschnittsanalysen sind f¨ ur viele ¨okonomische und gesellschaftspolitische Fragestellungen unzureichend. Bei L¨ angsschnittstudien oder “Panel-Erhebungen” werden dieselben Untersuchungseinheiten oder Individuen periodisch wiederholt befragt. Der in Beispiel 1.8 beschriebene IFO-Konjunkturtest ist eine derartige Panel-Erhebung. Seit den achtziger Jahren wird in den Wirtschafts- und Sozialwissenschaften verst¨arkt versucht, mikro¨okonomische Fragestellungen empirisch mit Hilfe von Panel-Erhebungen zu untersuchen. Das 1984 gestartete, vom Deutschen Institut f¨ ur Wirtschaftsforschung (DIW) getragene “Sozio-¨okonomische Panel” wird als j¨ ahrliche Wiederholungsbefragung von ausgew¨ahlten Haushalten durchgef¨ uhrt, seit 1990 auch in Ostdeutschland. Die Befragung umfaßt mehrere tausend Haushalte und mehrere hundert Variablen. Einige Fragen, etwa nach dem Erwerbsstatus, werden dabei auch retrospektiv auf monatlicher Basis gestellt. Die Feldarbeit wird von Infratest Sozialforschung, M¨ unchen, durchgef¨ uhrt.
1.2 Was macht man mit Statistik?
11
Forschungsziele sind zum Beispiel die Bestimmung von Ursachen der Armut und die Entwicklung von Armut im Haushaltskontext oder von Arbeitslosigkeit und Erwerbsstatus. So ist es von großem sozialpolitischen Interesse, ob bei ann¨ahernd konstanter Armutsquote in der Bev¨ olkerung immer dieselben Haushalte arm sind oder ob der Bestand an armen Haushalten relativ schnell wechselt. F¨ ur die Analyse der Dauer von Arbeitslosigkeit oder allgemeiner des Erwerbverlaufs wird etwa der Einfluß von Geschlecht, Alter, Nationalit¨at, Schulabschluß, Haushaltseinkommen und Familienstand untersucht. 2
1.2
Was macht man mit Statistik?
Wie an den vorangehenden Beispielen deutlich wurde, lassen sich allgemein bei wissenschaftlichen Untersuchungen oder Problemstellungen der Praxis verschiedene Stufen unterscheiden, die von der Planung einer Untersuchung bis hin zur Auswertung der Ergebnisse und Formulierung neuer Fragestellungen reichen. Auf jeder Stufe kommen Methoden entsprechender Teilgebiete der Statistik zum Einsatz. So interessieren im Rahmen der Planung einer Erhebung oder eines Versuches statistische Methoden der Stichprobenziehung und der Versuchsplanung. Aber auch zur ¨ Uberpr¨ ufung der Reliabilit¨ at und Validit¨ at von Frageb¨ogen werden statistische Verfahren eingesetzt. Speziell bei der Datenanalyse lassen sich drei Grundaufgaben der Statistik angeben: Beschreiben (Deskription), Suchen (Exploration) und Schließen (Induktion). Jeder dieser Aufgaben entspricht ein Teilgebiet der Statistik. So widmet sich die deskriptive Statistik der Beschreibung und Darstellung von Daten. Die explorative Statistik befaßt sich mit dem Auffinden von Strukturen, Fragestellungen und Hypothesen, w¨ ahrend die induktive Statistik Methoden bereitstellt, um statistische Schl¨ usse mittels stochastischer Modelle ziehen zu k¨onnen. Diese drei Gebiete werden im folgenden kurz beschrieben und in entsprechenden Kapiteln dieses Buches ausf¨ uhrlich diskutiert. Die deskriptive Statistik dient zun¨ achst zur beschreibenden und graphischen Aufbereitung und Komprimierung von Daten (vgl. Kapitel 2 und 3). Dies ist vor allem zur Pr¨asentation umfangreichen Datenmaterials von Bedeutung. Sie umfaßt insbesondere graphische Darstellungen wie Diagramme und Verlaufskurven, Tabellen, die ein- und mehrdimensionale H¨aufigkeiten zusammenfassen, und Kenngr¨ oßen wie zum Beispiel Mittelwert oder Streuung. Beschrieben oder dargestellt werden jeweils Merkmale oder Variablen, die gewisse Auspr¨ agungen oder Werte besitzen. Bei der Erstellung des Mietspiegels interessieren beispielsweise die Merkmale Nettomiete mit m¨ oglichen Auspr¨ agungen 1560, 750, 1020, . . . (Euro), Baualter mit den Werten 1965, 1980, 1995, . . . oder Wohnfl¨ache in Quadratmetern. Bei der Kreditw¨ urdigkeits¨ uberpr¨ ufung wird f¨ ur jeden Kunden das Merkmal Kreditw¨ urdigkeit
Deskription Exploration Induktion
deskriptive Statistik
Merkmal, Variable Auspr¨agung
12
Zielgr¨oßen Einflußgr¨oßen, Faktoren St¨orgr¨oßen, latente Gr¨oßen
Datenvalidierung
1. Einf¨uhrung
erhoben. Dieses Merkmal hat nur zwei Auspr¨agungen: ja oder nein, je nachdem ob der Kunde kreditw¨ urdig ist oder nicht. Merkmale lassen sich aufgrund verschiedener Kriterien charakterisieren, die in Abschnitt 1.3 diskutiert werden. Eine eher generelle Unterscheidung von Variablen und zwar nicht nur in der deskriptiven Statistik richtet sich dabei nach der Fragestellung, die der jeweiligen Erhebung oder dem Versuch zugrunde liegt. Man unterscheidet Variablen, die beeinflußt werden, die sogenannten Zielgr¨ oßen, und solche, die beeinflussen. Diese werden weiter aufgeteilt in beobachtbare Variablen, also Variablen die gemessen werden k¨onnen und die als Einflußgr¨ oßen oder Faktoren bezeichnet werden, und in nicht beobachtbare Variablen, die zum Teil als St¨orgr¨oßen gelten, aber auch wichtige Faktoren sein k¨onnen und dann als latent bezeichnet werden. Diese Unterscheidung ist so zu verstehen, daß es eine oder mehrere interessierende Gr¨oßen, die Zielgr¨oßen, gibt, die insbesondere im Hinblick darauf interessieren, welche Merkmale f¨ ur Ver¨anderungen der Zielgr¨ oßen verantwortlich sind, diese also beeinflussen. Dies sei noch einmal an dem Beispiel des Mietspiegels veranschaulicht. Hier ist die Nettomiete einer Wohnung die Zielgr¨ oße, m¨ ogliche Einflußgr¨oßen sind die Wohnfl¨ache, das Baualter sowie erhobene Ausstattungs- und Lagemerkmale. Zu den St¨orgr¨oßen m¨ ussen wir nicht erhobene oder schlecht quantifizierbare Ausstattungs- und Lagemerkmale sowie unbekannte Pr¨ aferenzen oder Gewohnheiten von Mieter oder Vermieter z¨ahlen. Damit k¨onnen wir die H¨ ohe der Nettomiete zwar gr¨oßtenteils durch die erhobenen Einflußgr¨oßen erkl¨ aren, aber dieser Zusammenhang l¨aßt sich aufgrund der St¨orgr¨oßen nicht vollst¨andig erfassen. Neben der Darstellung und Verdichtung von Daten dient die deskriptive Statistik auch zur Datenvalidierung und zur Gewinnung erster Eindr¨ ucke oder Ideen zur weiteren Analyse. Dabei ist speziell der Aspekt der Datenvalidierung nicht zu vernachl¨ assigen. Mit Hilfe der deskriptiven Aufbereitung der Daten lassen sich relativ ¨ leicht Fehler in dem Datensatz, die beispielsweise durch eine falsche Ubertragung vom Fragebogen auf den Datentr¨ager entstanden sind, entdecken und eventuell beheben. Werden solche Fehler nicht fr¨ uhzeitig entdeckt, m¨ ussen darauf aufbauende sp¨atere Analysen noch einmal durchgef¨ uhrt werden, was unn¨otige Kosten und zus¨atzlichen Zeitaufwand beinhaltet. Im Unterschied zur induktiven Statistik verwendet die deskriptive keine Stochastik. Formale R¨ uckschl¨ usse u ¨ber die Daten und Objekte der Erhebung hinaus sind damit nicht m¨ oglich.
explorative Datenanalyse
Die explorative Datenanalyse geht weiter als die deskriptive Statistik. Sie verwendet zwar ebenfalls keine Stochastik, also auf Wahrscheinlichkeitstheorie basierende Verfahren, aber einige ihrer Methoden sind durchaus von der induktiven Statistik ¨ beeinflußt. Uber die Darstellung von Daten hinaus ist sie konzipiert zur Suche nach Strukturen und Besonderheiten in den Daten und kann so oft zu neuen Fragestellungen oder Hypothesen in den jeweiligen Anwendungen f¨ uhren. Sie wird daher
1.2 Was macht man mit Statistik?
13
typischerweise eingesetzt, wenn die Fragestellung nicht genau definiert ist oder auch die Wahl eines geeigneten statistischen Modells unklar ist. Die Methoden der explorativen Datenanalyse sind h¨ aufig sehr computerintensiv. Ihre Entwicklung und praktische Nutzung sind dementsprechend durch die Bereitstellung schneller und leistungsstarker Rechner gef¨ ordert worden. R¨ uckschl¨ usse u ¨ber die Erhebung hinaus sind zwar auch hier nicht durch Wahrscheinlichkeitsaussagen formalisiert, dennoch ergeben sich oft deutliche Hinweise oder “empirische Evidenz” f¨ ur bestimmte Tatsachen oder Forschungshypothesen. Wir sehen die explorative Datenanalyse als Weiterf¨ uhrung und Verfeinerung der deskriptiven Statistik an und fassen beide Teile als Deskription und Exploration von Daten zusammen. Die induktive Statistik – auch schließende oder inferentielle Statistik genannt – versucht, durch geeigneten Einbezug von Wahrscheinlichkeitstheorie und Stochastik u ur umfassende¨ber die erhobenen Daten hinaus allgemeinere Schlußfolgerungen f¨ re Grundgesamtheiten zu ziehen, z.B.: Wie gut kann man mit durchschnittlichen Nettomieten aus einer Stichprobe die Durchschnittsmiete aller mietspiegelrelevanten Wohnungen approximieren? Inwieweit sind die Antworten zur Sonntagsfrage, die in einer Umfrage erhalten werden, repr¨ asentativ f¨ ur alle Wahlberechtigten? Ist Therapie A besser als Therapie B? Eine statistisch abgesicherte Beantwortung solcher Fragen erfordert eine sorgf¨ altige Versuchsplanung, vorbereitende deskriptive und explorative Analysen sowie klar definierte stochastische Modelle, um wahrscheinlichkeitstheoretische R¨ uckschl¨ usse zu erm¨ oglichen. Statistik und die von dieser Wissenschaft bereitgestellten Methoden sind somit stets notwendig, wenn im Rahmen empirischer Untersuchungen Daten erhoben werden und diese analysiert werden sollen. Dabei sind die Aufgaben und Methoden der Statistik so vielf¨ altig wie die praktischen Fragestellungen, f¨ ur die die Statistik eingesetzt wird. Statistik ist keine stagnierende Wissenschaft. Komplexe Fragestellungen aus der Praxis erfordern eine stete Weiterentwicklung statistischer Methoden. Ihre interdisziplin¨ are Ausrichtung wurde an den vorgestellten Beispielen deutlich, die aus den verschiedensten Bereichen der Forschung wie Medizin, Forstwissenschaft, ¨ Okonomie, Soziologie u.a. stammten. In den folgenden Kapiteln werden Standardmethoden der Statistik, die den oben beschriebenen Bereichen zuzuordnen sind, eingef¨ uhrt und erl¨autert. Wir werden zu ihrer Veranschaulichung auf die bereits vorgestellten Beispiele zur¨ uckgreifen, aber auch weitere heranziehen.
induktive Statistik
14
1.3
1. Einf¨uhrung
Was steht am Anfang?
Bevor wir ausf¨ uhrlich statistische Verfahren zur Datenanalyse vorstellen, beschreiben wir zun¨ achst einige Grundz¨ uge der Datenerhebung. In jedem der oben geschilderten Beispiele werden im Rahmen empirischer Untersuchungen Daten erhoben, die mit Hilfe statistischer Methoden komprimiert, dargestellt und analysiert werden sollen. Die statistische Analyse dient dabei dazu, inhaltliche Fragestellungen mathematischstatistisch zu erfassen und anschließend beispielsweise Zusammenh¨ange zwischen verschiedenen interessierenden Gr¨oßen aufzudecken. Um dies leisten zu k¨onnen, muß jedoch zun¨ achst gekl¨ art werden, welcher Art die erhobenen Daten sind und wie sie gewonnen wurden.
1.3.1
statistische Einheiten
Grundgesamtheit, Population
endlich unendlich hypothetisch
Statistische Einheiten, Merkmale und Gesamtheiten
Daten werden stets an gewissen Objekten beobachtet. Man spricht in der Statistik dann von statistischen Einheiten. Diese k¨onnen v¨ollig unterschiedlich sein wie etwa Wohnungen beim Mietspiegel, Unternehmen beim IFO-Konjunkturtest oder Bankkunden bei der Kreditw¨ urdigkeits¨ uberpr¨ ufung. Bei den Waldschadensinventuren sind die B¨ aume die statistischen Einheiten, w¨ahrend dies in der M¨ unchner Absolventenstudie gerade die Absolventen des Diplomstudiengangs Soziologie sind. Bei diesen von uns betrachteten 36 Absolventen der M¨ unchner Absolventenstudie (vgl. Tabelle 1.1) handelt es sich nur um eine Auswahl der insgesamt f¨ ur die Befragung relevanten Studienabg¨anger. Die Gesamtheit aller Absolventen des Diplomstudiengangs Soziologie, die zwischen 1983 und 1994 ihre Diplompr¨ ufung an der Universit¨ at M¨ unchen abgelegt haben, bildet die sogenannte Grundgesamtheit (Population). Als Grundgesamtheit wird somit die Menge aller statistischen Einheiten bezeichnet, u ¨ ber die man Aussagen gewinnen will. Diese muß klar umgrenzt sein und h¨ angt nat¨ urlich von der interessierenden Fragestellung ab. Beim M¨ unchner Mietspiegel setzt sich die Grundgesamtheit aus allen nach dem Mietgesetz relevanten Wohnungen M¨ unchens zusammen. Im Rahmen politischer Umfragen etwa dazu, welche Partei man w¨ ahlen w¨ urde, ist die Grundgesamtheit die zu dem jeweiligen Zeitpunkt wahlberechtigte Bev¨olkerung eines Landes. In diesen Beispielen ist die Population jeweils endlich. Es ist aber zu beachten, daß eine Grundgesamtheit nicht immer eine endliche Menge an statistischen Einheiten sein muß, deren Elemente konkret vorliegen. Sie kann auch unendlich groß oder sogar hypothetisch sein. Im Zusammenhang mit der Kreditw¨ urdigkeits¨ uberpr¨ ufung bilden alle potentiellen Kunden die Grundgesamtheit, die somit hypothetisch ist. Als ein Beispiel f¨ ur eine unendliche Grundgesamtheit kann die Menge aller m¨oglichen Wartezeiten w¨ahrend der Betriebszeit einer U-Bahn angesehen werden. Beschr¨ankt man die Untersuchung auf Teilmengen der Grundgesamtheit, beispielsweise auf die weiblichen Absolventen,
1.3 Was steht am Anfang?
15
so spricht man von Teilgesamtheiten (Teilpopulationen). Typischerweise wird man nicht alle statistischen Einheiten der Grundgesamtheit in die Untersuchung einbeziehen, sondern sich auf eine nach bestimmten Kriterien auszuw¨ahlende Teilgesamtheit beschr¨ anken. Die tats¨achlich untersuchte Teilgesamtheit wird als Stichprobe bezeichnet. Dabei ist darauf zu achten, daß die Stichprobe ein m¨oglichst getreues Abbild der Gesamtpopulation ist. Dies erreicht man insbesondere durch zuf¨allige Stichproben, wobei zuf¨allig nicht mit willk¨ urlich gleichzusetzen ist, sondern beispielsweise meint, daß jede statistische Einheit dieselbe Chance hat, in die Stichprobe aufgenommen zu werden. An den statistischen Einheiten, die in eine Stichprobe gelangt sind, werden interessierende Gr¨ oßen beobachtet, die sogenannten Merkmale oder auch Variablen. Man spricht daher h¨ aufig auch von den statistischen Einheiten als Merkmalstr¨agern. In der Regel wird an einem Objekt mehr als ein Merkmal erhoben. So wurden in der M¨ unchner Absolventenstudie f¨ ur jeden Studienabg¨anger das Geschlecht, der Studienschwerpunkt, die Durchschnittsnote im Diplom und noch eine Vielzahl weiterer Merkmale erfaßt. Bei dem IFO-Konjunkturtest wird unter anderem nach der Beurteilung der Gesch¨ aftslage und nach dem Auftragsbestand gefragt. Zu den erhobenen Merkmalen beim Mietspiegel geh¨ oren die Nettomiete, das Baualter und die Wohngr¨oße. Dabei kann jedes Merkmal verschiedene Werte annehmen. Diese Werte nennt man auch Merkmalsauspr¨ agungen oder nur kurz Auspr¨ agungen. Das Merkmal Geschlecht beispielsweise hat die Auspr¨ agungen m¨annlich/weiblich. Das beim sozio¨okonomischen Panel unter anderem interessierende Merkmal Haushaltseinkommen kann etwa 3000, 4850, 2530, . . . (Euro) als Auspr¨agungen besitzen. F¨ ur jede statistische Einheit wird im Rahmen einer Datenerhebung nun notiert, welche Auspr¨agung das jeweilige Merkmal besitzt. Damit beschreibt der Begriff Merkmal die interessierende Gr¨oße allgemein, w¨ ahrend die Merkmalsauspr¨agung den konkreten Wert dieser Gr¨oße f¨ ur eine bestimmte statistische Einheit angibt. Statistische Einheiten, Merkmale, Gesamtheiten Statistische Einheiten: Objekte, an denen interessierende Gr¨oßen erfaßt werden Grundgesamtheit:
Menge aller f¨ ur die Fragestellung relevanten statistischen Einheiten
Teilgesamtheit:
Teilmenge der Grundgesamtheit
Stichprobe:
tats¨ achlich untersuchte Teilmenge der Grundgesamtheit
Merkmal:
interessierende Gr¨oße, Variable
Merkmalsauspr¨ agung: konkreter Wert des Merkmals f¨ ur eine bestimmte statistische Einheit
Teilgesamtheiten, Teilpopulationen Stichprobe
Merkmal, Variable Merkmalstr¨ager
Werte, Merkmalsauspr¨agungen
16
Beispiel 1.10
1. Einf¨uhrung
M¨ unchner Absolventenstudie In Tabelle 1.1 bilden die 36 Absolventen die statistischen Einheiten, an denen die Merkmale Geschlecht, Studiendauer in Semestern, fachliches Engagement im Studium, Ausrichtung der Diplomarbeit sowie Gesamtnote der Diplompr¨ ufung erfaßt wurden. Dabei wurden zum Beipiel f¨ ur die Person mit der Nummer 25 folgende Auspr¨agungen der f¨ unf Merkmale beobachtet: Geschlecht = 2, Studiendauer = 15, Engagement = 4, Ausrichtung der Diplomarbeit = 4, Gesamtnote = 3, d.h. diese Person ist m¨ annlich, hat ihr Studium mit eher geringem fachlichen Engagement nach 15 Semestern mit der Gesamtnote 3 und einer Literaturarbeit abgeschlossen. 2
1.3.2
Merkmalstypen
F¨ ur die sp¨ atere Datenanalyse ist es hilfreich und wichtig, Merkmale hinsichtlich bestimmter Charakteristika in Typen einzuteilen. Betrachten wir beispielsweise folgende Merkmale: Geschlecht mit den Auspr¨agungen m¨ annlich/weiblich, Schulnote mit den Auspr¨agungen sehr gut, gut, befriedigend, ausreichend, mangelhaft und K¨orpergr¨oße mit Auspr¨agungen zwischen 140 cm und 220 cm, so lassen sich unmittelbar einige Unterschiede erkennen. Geschlecht und Schulnote haben endlich viele Auspr¨agungen, wobei die Auspr¨agungen f¨ ur das Geschlecht nicht sinnvoll in eine Reihenfolge gebracht werden k¨onnen. F¨ ur die Noten existiert eine Ordnung; jedoch sind die Abst¨ande kaum sinnvoll interpretierbar. Bei der K¨ orpergr¨ oße sind theoretisch unendlich viele Auspr¨agungen m¨oglich, die geordnet werden k¨ onnen, und deren Abst¨ande interpretierbar sind. Stetige und diskrete Merkmale
diskret stetig
Eine einfache Unterteilung von Merkmalen orientiert sich an der Anzahl der m¨oglichen Auspr¨ agungen. Kann ein Merkmal nur endlich viele Auspr¨agungen annehmen, wie z.B. die Anzahl der Kinder in einem Haushalt, oder abz¨ahlbar unendlich viele Auspr¨agungen, wie z.B. die Anzahl der W¨ urfe mit einem W¨ urfel, bis eine Sechs erscheint, so heißt das Merkmal diskret. Z¨ ahldaten, auch wenn keine obere Schranke angegeben werden kann, sind somit stets diskret. Kann ein Merkmal hingegen alle Werte eines Intervalles annehmen, wie etwa die K¨orpergr¨oße, heißt es stetig. Bei der Einteilung in
1.3 Was steht am Anfang?
17
diskrete und stetige Merkmale gibt es gewisse Zwischenformen. So spricht man auf der einen Seite von quasi-stetigen Merkmalen, wenn diese an sich nur diskret gemessen werden k¨ onnen, aber sich aufgrund einer sehr feinen Abstufung wie stetige Merkmale behandeln lassen. Dazu geh¨oren insbesondere monet¨are Gr¨oßen wie die Nettomiete oder die Kredith¨ohe. Aufgrund von Meßungenauigkeiten werden auch h¨aufig Variablen wie Zeit etwa bei Lebensdauern, L¨ange oder ¨ahnliches als quasi-stetig bezeichnet. Auf der anderen Seite lassen sich die Auspr¨agungen eines stetigen Merkmals so zusammenfassen, daß es als diskret angesehen werden kann. Dies geschieht dadurch, daß die Auspr¨agungen zu Klassen zusammengefaßt werden. Betrachtet man etwa das Merkmal K¨orpergr¨ oße, so ließen sich die Auspr¨agungen etwa wie folgt in Klassen einteilen: eine K¨ orpergr¨ oße von mindestens 120 cm und unter 140 cm, mindestens 160 cm und unter 180 cm, usw. Werden die Beobachtungen derart zusammengefaßt, so nennt man diesen Vorgang gruppieren, aber auch klassieren oder kategorisieren. Entsprechend spricht man von gruppierten Daten, wenn die urspr¨ unglichen Beobachtungen, d.h. die Rohdaten, in Kategorien eingeteilt vorliegen. An dieser Stelle sei noch eine weitere Form der Datenauflistung erw¨ahnt. Falls ein Merkmal nur wenige verschiedene Auspr¨ agungen annimmt, so bietet es sich an, die Beobachtungen nicht einzeln aufzulisten, sondern bei jeder Auspr¨agung anzugeben, wie oft diese im Datensatz aufgetreten ist. Bei den 36 Absolventen der M¨ unchner Absolventenstudie tritt etwa als Gesamtnote im Diplom die 5 einmal auf, die 4 keinmal, die 3 elfmal, die 2 22-mal und die 1 zweimal. Solche Daten bezeichnen wir im Verlaufe dieses Buchs als H¨aufigkeitsdaten.
quasi-stetig
gruppiert Rohdaten
H¨aufigkeitsdaten
Skalen Eine weitere Unterscheidung erfolgt anhand des Skalenniveaus, auf dem ein Merkmal gemessen wird. Hier gibt es vier grundlegende Typen.
Skalenniveau
Ein Merkmal heißt nominalskaliert, wenn die Auspr¨agungen Namen oder Kategorien sind, die den Einheiten zugeordnet werden, wie zum Beispiel Farben, Religionszugeh¨origkeit oder Gehaltsklassen. In unseren Beispielen sind etwa Geschlecht (M¨ unchner Absolventenstudie), Zentralheizung (Mietspiegel), Verwendungszweck (Kreditw¨ urdigkeits¨ uberpr¨ ufung) sowie Nutzungsart (Waldschadensforschung) nominalskalierte Merkmale. Den Auspr¨ agungen solcher qualitativen Merkmale werden h¨aufig aus technischen Gr¨ unden Zahlen zugewiesen, die dementsprechend nur der Kodierung dienen und denselben Zweck wie Namen erf¨ ullen. Diese zugeordneten Zahlen sind also nur Stellvertreter, deren numerischer Wert nicht als solcher benutzt werden sollte, d.h. u ¨bliche Rechenoperationen wie Addition oder Multiplikation lassen sich nicht mehr sinnvoll durchf¨ uhren. Addiert man beispielsweise die durch 1, 2, 3, . . . kodierte Religionszugeh¨ origkeit einer Gruppe von Personen, so ist
Nominalskala
18
Ordinalskala
Intervallskala
Verh¨altnisskala Kardinalskala metrisch
1. Einf¨uhrung
die resultierende Summe nicht mehr empirisch sinnvoll interpretierbar. Allerdings stellt die Zuordnung von Zahlen zu inhaltlich definierten Auspr¨agungen eines Merkmals wie Religionszugeh¨ origkeit die einfachste Form der Messung dar, wenn auch mit bestimmten Einschr¨ ankungen an m¨ogliche sinnvolle Weiterverarbeitungen der Zahlenwerte. Sinnvoll bleibt im Gegensatz zu der oben beschriebenen Addition zum Beispiel die Bestimmung der H¨ aufigkeit, mit der einzelne Auspr¨agungen auftreten. Bei einem ordinalskalierten Merkmal k¨onnen die Auspr¨agungen geordnet werden, aber ihre Abst¨ ande sind nicht interpretierbar. Ein klassisches Beispiel f¨ ur ein ordinalskaliertes Merkmal sind Schulnoten. Zwar weiß man, daß die Note 1 besser ist als die Note 2, aber der Abstand zwischen 1 und 2 l¨aßt sich sicherlich nicht interpretieren oder vergleichen etwa mit demjenigen zwischen 4 und 5. Beim Beschirmungsgrad (Waldschadensforschung) handelt es sich auch um ein ordinales Merkmal. Die n¨ achsth¨ ohere Skala ist die sogenannte Intervallskala. Bei dieser k¨onnen die Abst¨ande zwischen den Auspr¨ agungen, die Zahlen sind, interpretiert werden. Als typisches Beispiel f¨ ur ein intervallskaliertes Merkmal wird h¨aufig die Temperatur gemessen in Grad Celsius angef¨ uhrt, bei der man keinen sinnvollen Nullpunkt angeben kann. Dies ist ein Charakteristikum dieser Skala. Dadurch, daß es generell bei einem intervallskalierten Merkmal keinen sinnvollen Nullpunkt gibt, k¨onnen Quotienten von Auspr¨ agungen im Sinne von “eine Person ist doppelt so groß wie eine andere” nicht interpretiert werden. Ist dies zus¨atzlich erf¨ ullt, so heißt das Merkmal verh¨altnisskaliert. Damit sind die Nettomiete, die Kredith¨ohe und die Semesteranzahl Beispiele f¨ ur verh¨ altnisskalierte Merkmale. H¨aufig werden die Intervall- und die Verh¨ altnisskala zur sogenannten Kardinalskala zusammengefaßt. Ein kardinalskaliertes Merkmal wird zudem als metrisch bezeichnet. In Abh¨ angigkeit davon, auf welcher Skala ein Merkmal erhoben wurde, k¨onnen bestimmte Berechnungen f¨ ur die gewonnen Daten sinnvoll durchgef¨ uhrt werden, wie Tabelle 1.5 illustriert.
Skalenart nominal ordinal intervall verh¨ altnis
sinnvoll interpretierbare Berechnungen ausz¨ ahlen ordnen Differenzen bilden Quotienten bilden ja nein nein nein ja ja nein nein ja ja ja nein ja ja ja ja
Tabelle 1.5: Sinnvolle Berechnungen f¨ ur Daten verschiedener Skalen
Es gibt allerdings auch h¨ aufig gewisse “Grauzonen”, bei denen Berechnungen vorgenommen werden, die an sich nicht als sinnvoll gelten. Ein bekanntes Beispiel daf¨ ur ist die Ermittlung von Durchschnittsnoten als arithmetisches Mittel. Obwohl
1.3 Was steht am Anfang?
19
es sich bei Noten um ein ordinalskaliertes Merkmal handelt und damit die Addition keinen Sinn ergibt, ist eine Durchschnittsnote durchaus sinnvoll interpretierbar, insbesondere als vergleichende Maßzahl. Die verschiedenen Skalenniveaus stellen eine Hierarchie dar, die vom niedrigsten Nominalskalenniveau bis zur Kardinalskala reicht. Methoden, die f¨ ur ein niedriges Skalenniveau geeignet sind, k¨ onnen unter m¨oglichem Verlust an Information auch f¨ ur ein h¨oheres Skalenniveau verwendet werden. Die Umkehrung gilt allerdings nicht. Das heißt, man kann generell Merkmale, die auf einer hohen Skala gemessen wurden, so transformieren, daß ihre Auspr¨ agungen dann niedriger skaliert sind. Allerdings geht dabei, wie bereits erw¨ ahnt, Information verloren. Betrachten wir dazu folgendes Beispiel: F¨ ur ein Kinderferienprogramm liegen Anmeldungen von Kindern und Jugendlichen im Alter von 6 bis 16 Jahren vor. Bei dem Alter handelt es sich um ein metrisches, genauer um ein verh¨ altnisskaliertes Merkmal. F¨ ur das Ferienprogramm werden Altersgruppen gebildet: Gruppe 1: 6−7 Jahre, Gruppe 2: 8−9 Jahre, Gruppe 3: 10 − 12 Jahre und Gruppe 4: 13 − 16 Jahre. Durch die Gruppierung geht Information verloren. Wir wissen nur noch, zu welcher Altersgruppe ein Kind geh¨ort, aber nicht mehr das genaue Alter. Zudem sind diese Alterskategorien lediglich ordinalskaliert. Nehmen wir nun weiter an, daß am Ferienort die Kinder einer Altersgruppe gemeinsam in einer Unterkunft untergebracht werden, etwa Gruppe 1 in der Pension Alpenrose, Gruppe 2 im Vereinsheim, Gruppe 3 im Jugendhaus und Gruppe 4 in der Jugendherberge. Nach dieser Einteilung haben wir mit der Unterkunftszugeh¨origkeit nur noch ein nominalskaliertes Merkmal vorliegen. Quantitative und qualitative Merkmale Unter qualitativen oder kategorialen Merkmalen versteht man Gr¨oßen, die endlich viele Auspr¨agungen besitzen und h¨ ochstens ordinalskaliert sind. Von Bedeutung ist dabei, daß die Auspr¨ agungen eine Qualit¨ at und nicht ein Ausmaß widerspiegeln. Geben die Auspr¨agungen hingegen eine Intensit¨at bzw. ein Ausmaß wieder, in dem die interessierende Eigenschaft enthalten ist, so spricht man von quantitativen Merkmalen. Damit sind alle Messungen im herk¨ommlichen Sinn, deren Werte Zahlen darstellen, Auspr¨ agungen quantitativer Merkmale. Somit l¨aßt sich auch direkt wieder ein Bezug herstellen zum Skalenniveau: Kardinalskalierte Merkmale sind stets ebenfalls quantitativ. Bei ordinalskalierten Merkmalen ist die Zuordnung nicht so eindeutig. Sie nehmen eine Zwitterstellung ein. Da man ihre Auspr¨agungen anordnen kann, besitzen sie einen – wenn auch – schwachen quantitativen Aspekt. Allerdings ordnet man sie aufgrund ihres eher dominierenden qualitativen Charakters den qualitativen Merkmalen zu, zumindest wenn sie nur endlich viele Auspr¨agungen besitzen.
qualitativ, kategorial
quantitativ
20
1. Einf¨uhrung
Merkmalstypen diskret:
endlich oder abz¨ahlbar unendlich viele Auspr¨agungen
stetig:
alle Werte eines Intervalls sind m¨ogliche Auspr¨agungen
nominalskaliert:
Auspr¨ agungen sind Namen, keine Ordnung m¨oglich
ordinalskaliert:
Auspr¨ agungen k¨onnen geordnet, aber Abst¨ande nicht interpretiert werden
intervallskaliert:
Auspr¨ agungen sind Zahlen, Interpretation der Abst¨ande m¨ oglich
verh¨ altnisskaliert: Auspr¨ agungen besitzen sinnvollen absoluten Nullpunkt qualitativ:
endlich viele Auspr¨agungen, h¨ochstens Ordinalskala
quantitativ:
Auspr¨ agungen geben Intensit¨at wieder
Diese verschiedenen Merkmalstypen werden abschließend noch einmal kurz anhand der M¨ unchner Absolventenstudie aus Abschnitt 1.1 erl¨autert. Beispiel 1.11
M¨ unchner Absolventenstudie In dem von uns betrachteten Auszug dieser Studie wurden f¨ unf Merkmale untersucht. Dabei ist das Geschlecht qualitativ und nominalskaliert, da die Auspr¨agungen nur zugewiesene Namen sind und nicht geordnet werden k¨onnen. Die Studiendauer ist ein diskretes, verh¨ altnisskaliertes Merkmal, da es endlich viele Auspr¨agungen und einen absoluten Nullpunkt besitzt. Das fachliche Engagement im Studium ist ein qualitatives Merkmal, das auf einer Ordinalskala erhoben wurde, da die Auspr¨agungen in eine Reihenfolge gebracht, die Abst¨ ande jedoch nicht interpretiert werden k¨onnen. Die Ausrichtung der Diplomarbeit ist ebenfalls ein qualitatives Merkmal. Da die Auspr¨agungen nicht geordnet werden k¨onnen, ist es allerdings nur nominalskaliert. Die Gesamtnote der Diplompr¨ ufung ist diskret und ordinalskaliert. 2
1.4 Forschungsfragen Empirie
Wie gewinnt man Daten?
Statistische Verfahren werden grunds¨atzlich dann eingesetzt, wenn bestimmte Forschungsfragen empirisch u uft werden sollen. Solche Fragestellungen sind unter¨berpr¨ schiedlichen Typs. Der Erstellung des M¨ unchner Mietspiegels (Beispiel 1.2) beispielsweise lag die Frage zugrunde, ob und wie sich die Nettomiete aufgrund bestimmter Variablen wie Lage, Gr¨ oße der Wohnung, Alter und Ausstattung vorhersagen l¨aßt.
1.4 Wie gewinnt man Daten?
21
In klinischen Studien (Beispiel 1.7) stehen Hypothesen u ¨ ber die Wirksamkeit einer neuen Therapie oder eines neuen Medikaments im Forschungsinteresse. Bei Wald¨ schadensinventuren (Beispiel 1.6) ist man an der Uberpr¨ ufung von Vermutungen hinsichtlich m¨oglicher Ursachen f¨ ur die auftretenden Sch¨adigungen interessiert. All diesen Beispielen liegt dieselbe Problemstellung zugrunde und zwar, ob Einfl¨ usse bestimmter Gr¨ oßen auf ein interessierendes Merkmal vorhanden sind. Die Frage nach dem Vorhandensein m¨ oglicher Einfl¨ usse l¨aßt sich als Theorie bzw. als Modell formulieren, in der bzw. in dem die Beeinflussung postuliert wird. Neben solchen gerichteten Zusammenh¨ angen interessieren h¨aufig auch symmetrische Beziehungen zwischen Variablen wie beispielsweise bei der Untersuchung von Zinsverl¨aufen und Aktienkursen.
1.4.1
Elemente der Versuchsplanung
Will man solche Assoziationsstrukturen empirisch u ufen, ist es notwendig, ¨ berpr¨ die inhaltlichen Fragestellungen, die vermutete Beziehungen zwischen Variablen betreffen, zu pr¨azisieren. Dazu m¨ ussen beobachtbare Merkmale benannt werden, die zur Erfassung der eigentlichen Fragestellung geeignet sind. Bei klinischen Studien m¨ ussen zum Beispiel die Laborexperimente festgelegt werden, die die Wirkung eines Pr¨aparats erfassen k¨ onnen, und es muß fixiert werden, welche Ver¨anderung dieser Laborparameter auf eine Wirksamkeit des Pr¨aparats schließen l¨aßt. Die Zielvariable ist in diesem Beispiel also die Ver¨ anderung des entsprechenden Laborparameters, und die vermutete entscheidende Einflußgr¨ oße ist die Dosis des verabreichten Pr¨aparats. H¨aufig ist es jedoch viel schwieriger, sowohl Ziel- und Einflußgr¨oßen festzulegen als auch diese in der Untersuchung zu “messen”, also quantitativ zu erfassen. Gerade in psychologischen oder soziologischen empirischen Untersuchungen liegen derartige Operationalisierungen nicht direkt auf der Hand. Wie kann man zum Beispiel die Auswirkungen sozialer Deprivation und positiver Verst¨arkung auf das motorische Verhalten von Kindern erfassen? Dazu m¨ ussen sowohl die m¨oglichen Einflußgr¨oßen soziale Deprivation und positive Verst¨ arkung als auch die Zielgr¨oße motorisches Verhalten quantifiziert werden. In diesem Experiment wurde die positive Verst¨arkung auf zwei Stufen erzeugt: L¨ acheln, Nicken und lobende Worte bzw. nur L¨acheln und Nicken. Die soziale Deprivation wurde dadurch bewirkt, daß das Kind in einem Raum mit Spielsachen alleine warten gelassen wurde, bis es an der Reihe war. Zur Beurteilung eines m¨ oglichen Effekts ließ man die Kinder unterschiedlich lange warten: 10, 20, 30 bzw. 40 Minuten. Die motorische Geschicklichkeit der Kinder wurde schließlich gemessen u ¨ ber die Anzahl der Kugeln, die das Kind aus einer Schachtel durch ein Loch in eine zweite Schachtel innerhalb von f¨ unf Minuten gesteckt hat. Man sieht an diesem Beispiel deutlich, wie wichtig, aber auch wie schwierig dieser Aspekt der Operationalisierung im Rahmen einer empirischen Forschungsarbeit
Ein߬ usse
22
1. Einf¨uhrung
sein kann. Es sei zudem noch einmal betont, daß ebenfalls die Festlegung und Erfassung aller relevanten Einflußgr¨oßen von enormer Bedeutung ist. Wir werden in Abschnitt 3.5 noch einmal diskutieren, welche drastischen Fehlinterpretationen entstehen k¨ onnen, wenn zentrale Einflußvariablen u ¨bersehen werden. Versuchsplan Ziel Erreichung des Ziels statistische Methoden verbindliche Festlegung
Erfaßt man f¨ ur eine zu untersuchende Fragestellung bestimmte Merkmale, so ist daf¨ ur die Erstellung eines Versuchsplans erforderlich. In einem Versuchsplan muß festgehalten werden, welches Ziel mit dem Experiment oder der Studie verfolgt wird, wie dieses Ziel erreicht werden kann und welche statistischen Methoden geeignet sind, um die erzielten Resultate statistisch zu manifestieren. Damit enth¨alt der Versuchsplan eine f¨ ur alle an dem Experiment beteiligten Personen verbindliche Festlegung der im Rahmen des Experiments oder der Studie insgesamt zu beachtenden Aspekte. Es sind zudem die auftretenden Verantwortlichkeiten geregelt, wodurch zum einen organisatorische Vorteile gewonnen werden und zum anderen die Gefahr einer unpr¨ azisen Durchf¨ uhrung der Studie gering gehalten wird. Um die oben formulierten drei Fragen im Versuchsplan abzukl¨aren, ist eine Vielzahl von einzelnen Aspekten zu ber¨ ucksichtigen, die hier nicht im vollen Umfang abgekl¨ art werden k¨ onnen. Zur Pr¨azisierung des verfolgten Ziels geh¨ort beispielsweise die genaue Bestimmung der Grundgesamtheit, u ¨ ber die eine Aussage getroffen werden soll. Außerdem muß die Forschungsfrage, wie bereits oben diskutiert, klar u ¨ber meßbare Merkmale formuliert werden. Dies ist hilfreich, um die mit der zweiten Frage verbundenen Punkte festzulegen, denn es ist zu kl¨aren, welche Variablen zu messen sind und welche Meßtechnik bzw. welches Erhebungsinstrument daf¨ ur einzusetzen ist. Weiterhin muß der Umfang der zu ziehenden Stichprobe bestimmt werden. Dazu ist, will man eine gewisse vorgegebene Pr¨azision erreichen, der Einsatz statistischer Verfahren notwendig. Diese erfordern wiederum eine Angabe des f¨ ur das Experiment oder die Studie geplanten Erhebungsschemas. Speziell f¨ ur den letzten Punkt werden Kenntnisse m¨oglicher Stichprobenverfahren verlangt. Sowohl der letzte als auch der vorherige Punkt machen deutlich, wieso bereits im Versuchsplan statistische Methoden zu ber¨ ucksichtigen sind.
St¨orvariablen
Die hier beschriebenen Aspekte eines Versuchsplans k¨onnen nur grob wiedergeben, welche Details insgesamt zu beachten sind. Das Gebiet der Versuchsplanung ist so komplex, daß es dazu eine eigene umfangreiche statistische Literatur gibt. Allerdings soll dieses Teilgebiet der Statistik nicht abgeschlossen werden, ohne nicht noch einen wichtigen Aspekt anzusprechen, und zwar die Kontrolle von St¨ orvariablen. Bei diesen handelt es sich um zus¨ atzliche Einflußgr¨oßen auf die abh¨angigen Variablen. An der Erfassung des von ihnen ausgehenden Einflusses ist man jedoch i.a. nicht interessiert. Im Gegenteil: Man m¨ ochte diesen Einfluß eliminieren, weil es den eigentlich interessierenden u ur den Einfluß einer ¨ berlagern kann. Interessiert man sich etwa f¨ bestimmten Unterrichtsmethode auf den Erfolg der Sch¨ uler und Sch¨ ulerinnen, so kann dieser Erfolg zudem abh¨ angen vom Alter, vom Geschlecht, aber auch von der
1.4 Wie gewinnt man Daten?
23
Lehrperson. Wie lassen sich nun solche St¨ orvariablen kontrollieren? Eine M¨oglichkeit besteht in der Zerlegung in hinsichtlich der St¨orvariablen homogenen Teilpopulationen. Sieht man das Geschlecht beispielsweise als St¨orvariable an, so k¨onnte man sich auf die Untergruppe der M¨adchen oder der Jungen beschr¨anken. Das Problem besteht aber darin, daß nach Einschr¨ankung auf Teilpopulationen auch nur eine Aussage u ¨ ber die jeweilige Gruppe m¨oglich ist.
Homogenisierung
Eine g¨ unstigere und in der Regel auch erfolgreiche Methode bietet die Randomisierung, d.h. in dem obigen Beispiel w¨ urden die zu vergleichenden Unterrichtsme- Randomisierung thoden zuf¨allig der Gruppe der Jungen und der Gruppe der M¨adchen zugewiesen. Auf diese Weise, so hofft man, macht sich der Einfluß der St¨orvariable, hier das Geschlecht, gleichermaßen f¨ ur beide Methoden bemerkbar, so daß dieser bei dem Vergleich der Methoden insgesamt wieder ausgeglichen wird. Eine andere Methode, die h¨ aufig in medizinischen Studien eingesetzt wird, wird mit Parallelisieren umschrieben oder als Matched-Pair-Design bezeichnet. Dabei wird zu jedem Sch¨ uler, der gem¨ aß der neuen Unterrichtsmethode unterrichtet werden soll, ein hinsichtlich der St¨ orvariablen passendes Pendant gesucht, der dann gem¨aß der alten Methode unterrichtet wird. Dies erlaubt zwar einen direkten Vergleich, impliziert aber eine sehr aufwendige Verfahrensweise. Ist es nicht m¨ oglich oder geplant, St¨ orvariablen bereits in das Design der Studie mit einzubeziehen, so l¨ aßt sich auf der Ebene der statistischen Auswertung deren Einfluß durch geeignete Modellierung ber¨ ucksichtigen. Dazu wird ein sogenanntes statistisches Modell aufgestellt, mit dem versucht wird, die Realit¨at in einer mathematischen Gleichung einzufangen. Auf den Aspekt der statistischen Modellbildung werden wir sp¨ater noch zur¨ uckkommen. In unserem Beispiel k¨onnte nun ein Modell aufgestellt werden, das den Einfluß des Alters, des Geschlechts, der Unterrichtsmethode und der Lehrperson auf den Erfolg erfaßt.
1.4.2
Parallelisieren
statistisches Modell
Datengewinnung und Erhebungsarten
Zur Beantwortung von Fragestellungen anhand empirischer Studien ist also die Gewinnung von Daten notwendig, die den interessierenden Sachverhalt widerspiegeln. Dabei unterscheidet man die Erfassung von im Prinzip vorhandenen Daten und die Erfassung von Daten, die zun¨ achst in geeigneter Weise erzeugt werden m¨ ussen. Im letzteren Fall spricht man von Experimenten. Dazu geh¨oren unter anderem klinische Studien, wie sie im Beispiel 1.7 beschrieben werden. In der dort geschilderten konkreten Studie wurde Patienten mit einem Magenkarzinom der Tumor vollst¨andig entfernt und anschließend der Therapieerfolg u ¨ber die Lebensdauer der Patienten erfaßt. Sind die interessierenden Daten im Gegensatz dazu bereits vorhanden, so
Experiment
24
Erhebung
prim¨ar-, sekund¨arund terti¨arstatistische Erhebung
fehlende Daten
Datenschutz
1. Einf¨uhrung
spricht man von einer Erhebung. Diese kann eine Befragung ohne Interviewer wie bei der M¨ unchner Absolventenstudie oder mit Interviewer wie bei einigen politischen Umfragen oder eine Beobachtungsstudie wie z.B. bei der Waldschadensinventur sein. In jedem dieser Beispiele m¨ ussen mit den statistischen Einheiten keine zus¨atzlichen Aktionen vorgenommen werden, um an die Daten zu gelangen. Bei Erhebungen unterscheidet man noch weiter, je nachdem, ob die Erhebung speziell in Hinblick auf die aktuelle Fragestellung durchgef¨ uhrt wird (prim¨ arstatistische Erhebung) oder ob bereits vorhandene Originaldaten z.B. aus statistischen Jahrb¨ uchern herangezogen werden (sekund¨ arstatistische Erhebung). Stehen nur noch bereits transformierte oder komprimierte Daten etwa in Form von Mittelwerten f¨ ur die Untersuchung zur Verf¨ ugung, so nennt man dies eine terti¨ arstatistische Erhebung. Dabei kann man bei diesen drei Erhebungsarten mit wachsenden Fehlerquellen rechnen. Selbst bei der Durchf¨ uhrung einer prim¨arstatistischen Erhebung kann ein zus¨atzliches, f¨ ur die sp¨ atere Analyse gravierendes Problem auftreten und zwar das Problem fehlender Daten. Solche l¨ uckenhaften Datens¨atze k¨onnen je nach Erhebungsverfahren verschiedene Ursachen haben: So ist bei Fragebogenaktionen in der Bev¨olkerung damit zu rechnen, daß ein Teil der Befragten die Auskunft entweder vollst¨ andig oder nur bei bestimmten, sensible Bereiche betreffenden Fragen verweigert. Technische Gr¨ unde k¨ onnen bei geplanten Experimenten zu fehlenden Beobachtungen f¨ uhren. Zus¨ atzliche Datenquellen wie Krankenhausakten k¨onnten unvollst¨andig sein. Unter Umst¨ anden werden aus logistischen oder auch aus Kostengr¨ unden nur bei einem Teil der Untersuchungseinheiten alle Merkmale erhoben. In all diesen Situationen treten also f¨ ur eine oder mehrere Untersuchungseinheiten hinsichtlich einiger Merkmale fehlende Werte auf. Solche Datens¨atze werfen die Frage nach einer geeigneten Auswertungsstrategie auf. H¨aufig wird dabei so vorgegangen, daß einfach die Untersuchungseinheiten, bei denen Angaben fehlen, komplett aus der Analyse herausgenommen werden. Dies zieht zum einen einen Informationsverlust nach sich. Schwerwiegender ist jedoch, daß zum anderen ein solches Vorgehen zu erheblichen Verzerrungen der Ergebnisse f¨ uhren kann, n¨amlich dann, wenn das Fehlen einer Angabe direkt mit ihrer Auspr¨ agung zusammenh¨angt. So l¨aßt eine Person etwa die Angabe bez¨ uglich ihres Einkommens eher unbeantwortet, wenn dieses sehr hoch ist. Zur Auswertung stehen daher wesentlich subtilere Methoden zur Verf¨ ugung, die zum Teil darauf basieren, zus¨ atzliche Information u ¨ber die Entstehung der fehlenden Werte mit einzubeziehen. Ein weiterer Aspekt, der bei der Erhebung von insbesondere personenbezogenen Daten ber¨ ucksichtigt werden muß, betrifft die Gew¨ahrleistung der Anonymit¨at der befragten Person. Solche Datenschutzmaßnahmen sind erforderlich und k¨onnen sehr weitreichend sein. Besteht beispielsweise bei einem bestimmten Merkmal die Gefahr, daß aufgrund der konkreten Auspr¨agung eine Identifizierung der befragten Person m¨oglich ist, so wird dieses Merkmal nur vergr¨obert erfaßt, was etwa durch eine
1.4 Wie gewinnt man Daten?
25
Klasseneinteilung erreicht wird. Erfaßt man nun im Zuge einer Erhebung alle statistischen Einheiten einer Grundgesamtheit, so spricht man von einer Vollerhebung. Ein Beispiel daf¨ ur ist die Volksz¨ahlung. Nicht immer ist eine solche Vollerhebung m¨oglich oder auch nur erw¨ unscht. Sie birgt unter Umst¨ anden erhebliche Fehlerquellen und ist sowohl kosten- als auch zeitaufwendig. Zudem ist es in einigen F¨allen u ¨ berhaupt nicht m¨oglich, eine Vollerhebung durchzuf¨ uhren, wie zum Beispiel bei hypothetischen Grundgesamtheiten oder zerst¨ orenden Pr¨ ufungen. Wann immer man auf eine Vollerhebung verzichtet, greift man auf die Ziehung einer Stichprobe aus der eigentlich interessierenen Grundgesamtheit zur¨ uck. Bei einer Stichprobe handelt es sich also um einen Teil der Grundgesamtheit, der aber vor der Ziehung noch nicht bekannt ist. Die Frage ist nun, wie solche Stichproben zu ziehen sind, damit einerseits ein hoher Grad an Effektivit¨at erreicht wird und andererseits die Stichprobe repr¨ asentativ f¨ ur die Grundgesamtheit bez¨ uglich der interessierenden Merkmale ist, also diesbez¨ uglich ein m¨ oglichst genaues Abbild der Grundgesamtheit darstellt. Letzteres versucht man dadurch zu erreichen, daß die einzelnen Elemente der Grundgesamtheit gem¨ aß eines bestimmten Zufallsmechanismus in die Stichprobe gelangen, d.h. jede Untersuchungseinheit besitzt eine gewisse Wahrscheinlichkeit gezogen zu werden.
Vollerhebung
Stichprobe
Einfache Zufallsstichproben Bei einer einfachen Zufallsstichprobe werden Teilmengen der Grundgesamtheit so erhoben, daß jede dieser Teilmengen dieselbe Wahrscheinlichkeit besitzt gezogen zu werden. Daraus folgt sofort, daß auch jede Untersuchungseinheit mit derselben Wahrscheinlichkeit gezogen wird. Die Umkehrung gilt jedoch nicht, d.h. alleine aus der Tatsache, daß jedes Element aus der Grundgesamtheit mit derselben Wahrscheinlichkeit gezogen wird, kann noch nicht auf das Vorliegen einer einfachen Zufallsstichprobe geschlossen werden. Um eine einfache Zufallsstichprobe ziehen zu k¨onnen, m¨ ussen die Elemente der Grundgesamtheit numerierbar sein und zumindest theoretisch als “Liste” vorliegen. Wie l¨aßt sich nun eine einfache Zufallsstichprobe realisieren? Dazu kann man sich die Grundgesamtheit durchnumeriert denken. F¨ ur jede Untersuchungseinheit wird die zugeh¨orige Nummer auf einer Kugel notiert. Anschließend werden alle Kugeln in eine “Urne” gegeben und gut durchgemischt. Dann kann man entweder die gesamte Stichprobe auf einmal ziehen oder, wie bei den Lottozahlen, sukzessive ziehen und nach jeder Ziehung wieder mischen. Eine andere M¨oglichkeit besteht in der Ziehung von Zufallszahlen. All diese Verfahren sind technisch schwer umzusetzen, so daß in der Regel in der Praxis keine “echten” einfachen Zufallsstichproben gezogen werden ¨ k¨onnen. F¨ ur unsere in den nachfolgenden Kapiteln angestellten Uberlegungen und
einfache Zufallsstichprobe
26
systematische Ziehung
1. Einf¨uhrung
vorgestellten Methoden gehen wir jedoch davon aus, daß zumindest theoretisch eine einfache Zufallsstichprobe gezogen wurde und daß die praktische Umsetzung dem damit verbundenen Anspruch sehr nahe kommt. H¨aufig angewandt wird zum Beispiel die sogenannte systematische Ziehung, bei der etwa jede siebte Wohnung in einem Straßenzug erhoben wird. Problematisch sind solche Ziehungen aber, wenn in den zu erhebenden Einheiten eine Systematik vorliegt, die gerade durch den Erhebungsplan erfaßt wird. Dies w¨are in dem Beispiel etwa dann der Fall, wenn die siebte Wohnung jeweils die Wohnung des Hausmeisters ist. Dieser Haushalt wird sich hinsichtlich bestimmter Kriterien sicherlich von den anderen Haushalten eines Wohnhauses unterscheiden. Neben der einfachen Zufallsauswahl gibt es eine Reihe weiterer Ziehungsmechanismen, die unter anderem die Praktikabilit¨at des Ziehungsverfahren erh¨ohen sollen. Geschichtete Zufallsstichproben
geschichtete Zufallsstichprobe
Schichtungseffekt Schichtungsvariable
Eine Variante zur Erh¨ ohung der praktischen Umsetzbarkeit besteht darin, die Grundgesamtheit in sich nicht u ¨berlappende Schichten zu zerlegen und anschließend aus jeder Schicht eine einfache Zufallsauswahl zu ziehen. Dieses Vorgehen einer geschichteten Zufallsstichprobe ist aber nicht nur einfacher umzusetzen, sondern f¨ uhrt in der Regel auch zu genaueren Sch¨atzungen f¨ ur die eigentlich interessierende Gr¨oße in der Grundgesamtheit, d.h., daß eine geschichtete Zufallsstichprobe h¨aufig informativer ist als eine einfache Zufallsstichprobe. Dieses Ph¨anomen wird auch als Schichtungseffekt bezeichnet. Dieser h¨angt von vielen Faktoren ab, wird aber entscheidend von der Schichtungsvariable beeinflußt, also von dem Merkmal, das zur Bildung der Schichten herangezogen wird. Dies sollte hochkorreliert sein mit dem eigentlich interessierenden Merkmal und so zur Schichtenbildung eingesetzt werden, daß die Schichten in sich m¨oglichst homogen und untereinander sehr heterogen bez¨ uglich des zu untersuchenden Merkmals sind. Ist man etwa an dem durchschnittlichen Einkommen der Bundesb¨ urger interessiert, so bietet sich beispielsweise eine Schichtung nach sozialem Status oder bestimmten Berufsfeldern an. Klumpenstichprobe
Klumpen Klumpenstichprobe
Bei einer geschichteten Zufallsstichprobe wird die Schichtenbildung “k¨ unstlich” durchgef¨ uhrt, d.h. die Grundgesamtheit zerf¨allt nicht im vorhinein auf “nat¨ urliche” Weise in derartige Schichten. Oft hat man aber gerade solche nat¨ urlichen Anh¨aufungen von Untersuchungseinheiten, sogenannte Klumpen, wie beispielsweise Gemeinden. Bei einer Klumpenstichprobe wird nun die praktische Umsetzbarkeit noch einmal erh¨ oht, da aus der Gesamtheit aller Klumpen lediglich einige wenige erhoben werden. Die ausgew¨ ahlten Klumpen werden dann vollst¨andig erfaßt, d.h. es werden Vollerhebungen der Klumpen durchgef¨ uhrt. Werden beispielsweise Gemeinden
1.4 Wie gewinnt man Daten?
27
als Klumpen angesehen, k¨ onnen durch eine Klumpenstichprobe die Reisekosten der Interviewer erheblich gesenkt werden. Allerdings ist eine solche Erhebung nur sinnvoll im Sinne des Informationsgewinns, wenn die einzelnen Klumpen hinsichtlich der Untersuchungsvariable sehr heterogen, also “kleine” Abbilder der Grundgesamtheit und untereinander sehr homogen sind. Es werden schließlich nicht aus allen Klumpen Stichproben gezogen, sondern nur einige komplett erfaßt. Unterscheiden diese sich wesentlich von den nicht erfaßten Klumpen hinsichtlich des interessierenden Merkmals, so ist mit erheblichen Verf¨ alschungen der gewonnenen Ergebnisse zu rechnen. Mehrstufige Auswahlverfahren Meistens ist eine direkte Ziehung der Untersuchungseinheiten nur schwer oder gar nicht umzusetzen. In solchen F¨ allen wird u ¨blicherweise auf mehrstufige Auswahlverfahren zur¨ uckgegriffen. Dies bedeutet, daß die Auswahl der eigentlichen Untersuchungseinheiten auf mehreren Stufen erfolgt. In der Waldschadensforschung k¨onnte man die Forstbezirke als Untersuchungseinheiten auf der ersten Stufe zugrunde legen, aus denen zun¨ achst eine Stichprobe gezogen wird. Auf der zweiten Stufe k¨onnten Waldst¨ ucke ausgew¨ ahlt werden, bevor schließlich auf der dritten Stufe eine Zufallsauswahl unter den B¨ aumen als eigentlich interessierende Untersuchungseinheiten getroffen wird.
mehrstufige Auswahlverfahren
Bewußte Auswahlverfahren Neben diesen Zufallsstichproben werden bei Meinungsumfragen h¨aufig Verfahren eingesetzt, denen zwar ein bestimmter Stichprobenplan zugrunde liegt, die aber nicht mehr als zuf¨allig angesehen werden k¨ onnen. Sie werden mit dem Ziel durchgef¨ uhrt, die Repr¨asentativit¨ at der gezogenen Stichprobe zu erh¨ohen. Der bekannteste Vertreter ist die sogenannte Quotenauswahl. Hier liegt die Auswahl der Untersuchungseinheiten zu großen Teilen in den H¨ anden des Interviewers. Dieser kann die Untersuchungseinheiten gegebenenfalls unter Einhaltung eines bestimmten Plans zwar selbst ausw¨ahlen, muß aber vorgegebenen Quoten gen¨ ugen. Quoten legen bestimmte Verh¨altnisse von Merkmalen in der Stichprobe fest. Ermittelt werden diese Quoten, falls m¨oglich, aus der Grundgesamtheit. Sind zum Beispiel 40 % aller Studierenden weiblich, so sollen auch 40 % der Studierenden in der Stichprobe weiblich sein. Damit wird erreicht, daß die Stichprobe bez¨ uglich dieses Merkmals ein repr¨asentatives Abbild der Grundgesamtheit ist. Oft reicht aber die Angabe der Quote bez¨ uglich eines Merkmals nicht aus. Stattdessen werden Quotenpl¨ ane erstellt, die die Quoten f¨ ur verschiedenene relevante Merkmale enthalten. Ein Nachteil dieses Verfahrens besteht darin, daß die praktische Umsetzung sehr stark von dem Interviewer beeinflußt wird.
Quotenauswahl
Quoten
Quotenpl¨ane
28
Auswahl typischer F¨alle
1. Einf¨uhrung
Ein anderes Verfahren ist die sogenannte Auswahl typischer F¨ alle, bei der nach subjektiven Kriterien des Verantwortlichen f¨ ur die Studie Untersuchungseinheiten als typische Vertreter der Grundgesamtheit ausgew¨ahlt werden. Ein solches Vorgehen ist nat¨ urlich extrem problematisch, da zum Beispiel entscheidende Kriterien bei der Auswahl u onnen. ¨bersehen werden k¨ Studiendesigns
Querschnittstudie
Zeitreihe
L¨angsschnittstudie, Panel
Neben den verschiedenen Stichprobenverfahren sind f¨ ur die Erhebung von Daten, abh¨angig von der jeweiligen Fragestellung, unterschiedliche Studiendesigns denkbar. Wir werden im folgenden kurz einige der g¨angigen Formen vorstellen. Von einer Querschnittstudie wird gesprochen, wenn an einer bestimmten Anzahl von Objekten, den statistischen Einheiten, zu einem bestimmten Zeitpunkt ein Merkmal oder mehrere erfaßt werden. Dementsprechend handelt es sich bei der Absolventenstudie, dem Mietspiegel und der Waldschadensinventur um typische Querschnittstudien. Wird ein Objekt hinsichtlich eines Merkmals u ¨ ber einen ganzen Zeitraum hinweg beobachtet, d.h. wird das interessierende Merkmal zu verschiedenen Zeitpunkten erfaßt, liegen die Beobachtungen als Zeitreihe vor. Damit sind der Verlauf der Aktienkurse, des DAX oder auch die Salden f¨ ur bestimmte Branchen beim IFO-Konjunkturtest Zeitreihen. In der Regel beobachtet man aber nicht nur ein einzelnes Objekt zu verschiedenen Zeitpunkten, sondern eine ganze Gruppe von gleichartigen Objekten. Einen solchen Studientyp bezeichnet man als L¨ angsschnittstudie oder Panel, d.h. hier werden dieselben Objekte u ¨ber die Zeit hinweg verfolgt. Betrachtet man also nicht eine einzelne Branche beim IFO-Konjunkturtest, sondern mehrere, erh¨ alt man eine L¨ angsschnittstudie mit monatlichen Beobachtungen. F¨ ur das sozio-¨ okonomische Panel werden die Daten j¨ahrlich erhoben mit Ausnahme der Erwerbst¨ atigkeit, f¨ ur die Monatsdaten vorliegen. Interessiert man sich nicht f¨ ur die zeitliche Entwicklung einer einzelnen Aktie, sondern eines Portfolios von Aktien oder Wertpapieren, so liegt ebenfalls ein L¨angsschnitt vor. Klinische und epidemiologische Studien sind typischerweise auch als L¨angsschnittstudien angelegt. Zusammenfassend kann man also sagen, daß bei einer Querschnittstudie mehrere Objekte zu einem Zeitpunkt, bei einer Zeitreihe ein Objekt zu mehreren Zeitpunkten und bei einer L¨ angsschnittstudie mehrere und zwar dieselben Objekte zu mehreren Zeitpunkten beobachtet werden.
1.5
Zusammenfassung und Bemerkungen
Die vielf¨ altigen Beispiele zu Beginn dieses Kapitels haben deutlich gemacht, daß der Einsatz von statistischen Verfahren unabh¨angig vom Anwendungsgebiet immer
1.5 Zusammenfassung und Bemerkungen
29
dann erforderlich ist, wenn mittels empirischer Untersuchungen Kenntnisse gewonnen werden sollen. Dabei dienen statistische Methoden zur reinen Beschreibung von Daten, zur Generierung von Hypothesen und zur Ziehung von Schl¨ ussen von einer Stichprobe auf die Grundgesamtheit. Die Gewinnung von Daten setzt die Erfassung von Objekten, den statistischen Einheiten, voraus, an denen die interessierenden Merkmale beobachtet werden k¨onnen. Hierzu ist die Erstellung eines Versuchsplans erforderlich, der die Durchf¨ uhrung eines Experiments oder einer Erhebung in allen Details festlegt, siehe dazu auch Cox (1958). In der Regel werden wir dabei nicht alle m¨oglichen, f¨ ur die Fragestellung relevanten statistischen Einheiten erheben, also keine Vollerhebung durchf¨ uhren, sondern uns auf eine Teilgesamtheit beschr¨anken. Die Ziehung einer solchen Stichprobe kann nach verschiedenen Prinzipien erfolgen. Der einfachste und vielleicht auch typischste Fall ist der einer einfachen Zufallsauswahl, bei der jede m¨ogliche Teilgesamtheit dieselbe Wahrscheinlichkeit besitzt gezogen zu werden. Statistische Methoden, die speziell f¨ ur andere Ziehungsverfahren geeignet sind, werden in diesem Buch nur vereinzelt angegeben und besprochen. Erg¨anzend sei daher beispielsweise auf das Buch von Kreienbrock (1989) und auf die dort angegebene weiterf¨ uhrende Literatur verwiesen. Weiterhin sind verschiedene Studiendesigns denkbar, je nachdem, ob die interessierenden Objekte zu einem festen Zeitpunkt oder zu verschiedenen Zeitpunkten beobachtet werden sollen. Dabei h¨ angt die Wahl des Studiendesigns nat¨ urlich von der zu untersuchenden Fragestellung ab. Bei der Festlegung einer geeigneten statistischen Methode zur Analyse eines Datensatzes geht neben dem Ziehungsverfahren und dem Studiendesign entscheidend ein, in welcher Weise die Daten gemessen wurden. Man unterscheidet zun¨achst diskrete und stetige Merkmale. Eine feinere Typisierung ergibt sich durch die verschiedenen Skalenniveaus, die sich wiederum in Beziehung setzen lassen zu der Differenzierung zwischen quantitativen und qualitativen Merkmalen. Ferner ist bei der Wahl einer geeigneten Auswertungsstrategie zu ber¨ ucksichtigen, ob in dem Datensatz bei einigen Untersuchungseinheiten Angaben fehlen. Methoden zur Behandlung fehlender Werte werden in dem Buch von Little und Rubin (1987) behandelt.
30
1.6
1. Einf¨uhrung
Aufgaben
Aufgabe 1.1
Diskutieren Sie die im Rahmen des M¨ unchner Mietspiegels (Beispiel 1.2, Seite 2) erhobenen Merkmale Gr¨ oße, Ausstattung, Beschaffenheit, Lage der Wohnung und Nettomiete hinsichtlich ihres Skalenniveaus. Entscheiden Sie zudem, ob es sich um diskrete oder stetige und quantitative oder qualitative Merkmale handelt.
Aufgabe 1.2
Um welchen Studientyp handelt es sich bei (a) dem M¨ unchner Mietspiegel (Beispiel 1.2, Seite 2), (b) den Aktienkursen (Beispiel 1.5, Seite 7), (c) dem IFO-Konjunkturtest (Beispiel 1.8, Seite 9)?
Aufgabe 1.3
Eine statistische Beratungsfirma wird mit folgenden Themen beauftragt: (a) Qualit¨ atspr¨ ufung von Weinen in Orvieto, ¨ (b) Uberpr¨ ufung der Sicherheit von Kondomen in der Produktion, (c) Untersuchung des Suchtverhaltens Jugendlicher. Als Leiterin oder Leiter der Abteilung Datenerhebung sollen Sie zwischen einer Vollerhebung und einer Stichprobenauswahl zur Gewinnung der ben¨otigten Daten entscheiden. Begr¨ unden Sie Ihre Entscheidung.
Aufgabe 1.4
Eine Firma interessiert sich im Rahmen der Planung von Parkpl¨atzen und dem Einsatz von firmeneigenen Bussen daf¨ ur, in welcher Entfernung ihre Besch¨aftigten von der Arbeitsst¨atte wohnen und mit welchen Bef¨ orderungsmitteln die Arbeitsst¨atte u ¨ berwiegend erreicht wird. Sie greift dazu auf eine Untersuchung zur¨ uck, die zur Erfassung der wirtschaftlichen Lage der Mitarbeiterinnen und Mitarbeiter durchgef¨ uhrt wurde. Bei der Untersuchung wurden an einem Stichtag 50 Besch¨ aftige ausgew¨ahlt und befragt hinsichtlich • Haushaltsgr¨ oße (Anzahl der im Haushalt lebenden Personen), • monatliche Miete, • Bef¨ orderungsmittel, mit dem die Arbeitsst¨atte u ¨ berwiegend erreicht wird, • Entfernung zwischen Wohnung und Arbeitsst¨atte, • eigene Einsch¨ atzung der wirtschaftlichen Lage mit 1 = sehr gut, . . . , 5 = sehr schlecht. (a) Geben Sie die Grundgesamtheit und die Untersuchungseinheiten an. (b) Welche Auspr¨ agungen besitzen die erhobenen Merkmale, und welches Skalenniveau liegt ihnen zugrunde? (c) Welcher Studientyp liegt vor?
2 Univariate Deskription und Exploration von Daten
Dieses Kapitel f¨ uhrt in die grundlegenden statistischen Methoden ein, mit denen univariate oder eindimensionale Daten, d.h. Daten, die aus Beobachtungen eines einzelnen Merkmals bestehen, in geeigneter Weise dargestellt, beschrieben und untersucht werden k¨ onnen. Neben den u ¨blichen Mitteln der univariaten deskriptiven Statistik wie Histogrammen und Maßzahlen zu Lage und Streuung werden einige einfache Techniken der explorativen Datenanalyse wie Box-Plots, Sch¨atzung von Dichtekurven und Quantil-Plots dargestellt. Die univariaten Methoden dieses Kapitels bilden auch die Grundlage f¨ ur multivariate statistische Fragestellungen, bei denen wie in den meisten Beispielen von Kapitel 1 mehrere Merkmale gleichzeitig beobachtet, beschrieben und untersucht werden. So kann man etwa ein prim¨ar interessierendes Merkmal, wie die Nettomiete von Wohnungen, die Pr¨aferenz f¨ ur eine ¨ bestimmte Partei, die Uberlebensdauer nach einer Krebsoperation, nicht nur f¨ ur die gesamte Erhebung, sondern auch f¨ ur Teilgesamtheiten oder Schichten betrachten, die durch Kategorien anderer Merkmale oder Einflußfaktoren wie Baualterskategorien, m¨annliche bzw. weibliche W¨ ahler, Behandlungsgruppen bestimmt sind. Durch den Vergleich univariater Ergebnisse in den Schichten k¨onnen erste Eindr¨ ucke u angigkeiten gewonnen werden und damit zu genaueren zwei- oder ¨ber m¨ogliche Abh¨ mehrdimensionalen Untersuchungen mit Methoden des dritten Kapitels hinf¨ uhren.
2.1
Verteilungen und ihre Darstellungen
Wir gehen von einer Erhebung vom Umfang n aus, bei der an den n Untersuchungseinheiten die Werte x1 , . . . , xn eines Merkmals X beobachtet oder gemessen wurden. Diese Werte werden als Urliste, Roh- oder Prim¨ ardaten bezeichnet. Auch bei einem kleinen oder mittleren Umfang n wird eine reine Auflistung der Rohdaten schnell un¨ ubersichtlich. In vielen Anwendungen ist n so groß, daß verschiedene Formen einer u bersichtlicheren oder zusammenfassenden Darstellung zweckm¨aßig bzw. notwendig ¨ sind.
Urliste Rohdaten x1 , . . . , xn
32
2. Univariate Deskription und Exploration von Daten
2.1.1
Auspr¨agungen Werte a1 , . . . , ak
H¨ aufigkeiten
Um die Daten soweit wie m¨ oglich zusammenzufassen, wird die Urliste nach verschiedenen vorkommenden Zahlenwerten oder Auspr¨agungen durchsucht. Wir bezeichnen diese Menge von Zahlen mit a1 , a2 , . . . , ak , k ≤ n. Zur notationellen Vereinfachung nehmen wir an, daß die Werte bereits der Gr¨oße nach geordnet sind, d.h. daß ur eine Nominalskala diese Ana1 < a2 < . . . < ak gilt. Dabei ist zu beachten, daß f¨ ordnung keine inhaltliche Bedeutung besitzt. F¨ ur kategoriale Merkmale ist k gleich der Anzahl der Kategorien und damit meist erheblich kleiner als n. F¨ ur metrische Merkmale sind oft nur wenige Werte der Urliste identisch, so daß k fast oder ebenso groß wie n ist. Die folgende Definition ist f¨ ur jedes Skalenniveau sinnvoll: Als absolute bzw. relative H¨ aufigkeit einer Auspr¨agung aj , j = 1, . . . , k, bezeichnet man die Anzahl bzw. den Anteil von Werten der Urliste, die mit aj u ¨ bereinstimmen.
Absolute und relative H¨ aufigkeiten h(aj ) = hj
absolute H¨ aufigkeit der Auspr¨agung aj , d.h. Anzahl der xi aus x1 , . . . xn mit xi = aj relative H¨ aufigkeit von aj absolute H¨ aufigkeitsverteilung relative H¨aufigkeitsverteilung
f (aj ) = fj = hj /n h1 , . . . , hk f 1 , . . . , fk
F¨ ur nicht zu großen Umfang n und kleines k, etwa f¨ ur ein kategoriales MerkH¨aufigkeitsdaten mal mit k Kategorien, k¨ onnen die H¨aufigkeiten von Hand mit einer Strichliste a1 , . . . , ak bestimmt werden. Die H¨ aufigkeiten h1 , . . . , hk bzw. f1 , . . . , fk faßt man in einer f 1 , . . . , fk H¨aufigkeitstabelle zusammen. Wir bezeichnen die Auspr¨agungen a1 , . . . , ak zusammen mit den H¨ aufigkeiten als H¨ aufigkeitsdaten. Beispiel 2.1
Absolventenstudie F¨ ur die Variable D “Ausrichtung der Diplomarbeit” ist die Urliste durch die entsprechende Spalte von Tabelle 1.1 (Seite 2) gegeben. Person i Variable D
1 3
2 4
3 4
4 3
5 4
6 1
7 3
8 4
9 3
10 4
11 4
12 3
Person i Variable D
13 2
14 3
15 4
16 3
17 4
18 4
19 2
20 3
21 4
22 3
23 4
24 2
Person i Variable D
25 4
26 4
27 3
28 4
29 3
30 3
31 4
32 2
33 1
34 4
35 4
36 4
2.1 Verteilungen und ihre Darstellungen
33
Die k = 4 verschiedenen Auspr¨ agungen sind 1 (empirisch-Prim¨arerhebung), 2 (empirischSekund¨ aranalyse), 3 (empirisch-qualitativ), 4 (theoretisch-Literaturarbeit). Die H¨aufigkeiten k¨ onnen in Form einer Strichliste (Abbildung 2.1) notiert werden. Die Strichliste vermittelt zugleich einen einfachen optischen Eindruck der H¨aufigkeitsverteilung der Variable.
prim¨ ar sekund¨ ar qualitativ theoretisch
1 2 3 4
|| |||| ||||| ||||| || ||||| ||||| ||||| |||
Abbildung 2.1: Strichliste f¨ ur die Variable D “Ausrichtung der Diplomarbeit”
An der Strichliste wird bereits deutlich, daß bevorzugt Literaturarbeiten geschrieben werden, w¨ ahrend insbesondere empirische Arbeiten, bei denen eigens Daten erhoben werden, die Ausnahme bilden. Dies ist nur bei zwei von den 36 Diplomarbeiten der Fall, also bei 5.6 %, w¨ahrend 18 von 36 Arbeiten, also die H¨ alfte, Literaturarbeiten sind. Diese Information findet sich komprimiert in der folgenden H¨ aufigkeitstabelle 2.1. 2
Auspr¨ agung 1 2 3 4
absolute H¨ aufigkeit h 2 4 12 18
relative H¨aufigkeit f 2/36 = 0.056 4/36 = 0.111 12/36 = 0.333 18/36 = 0.500
Tabelle 2.1: H¨ aufigkeitstabelle f¨ ur die Variable D “Ausrichtung der Diplomarbeit”
In vielen Erhebungen ist der Umfang n deutlich gr¨oßer, so daß das Abz¨ahlen der H¨aufigkeiten sinnvollerweise mit Hilfe eines Computers erfolgt. Die sich daraus ergebenden H¨aufigkeitstabellen sind jedoch im Prinzip genauso erstellt; man vergleiche etwa die Tabelle 1.3 (Seite 4) zur Sonntagsfrage in Beispiel 1.3 (Seite 4). Die unterschiedlichen relativen H¨ aufigkeiten f¨ ur Frauen und M¨anner scheinen darauf hinzuweisen, daß die Parteipr¨ aferenz vom Geschlecht abh¨angt. Da es sich bei der Erhebung um eine Stichprobe von 931 Befragten handelt, entsteht jedoch die Frage, ob dies nur f¨ ur die Stichprobe gilt, also zuf¨allig ist, oder ob dies auch f¨ ur die Grundgesamtheit zutrifft, also “statistisch signifikant ist”. Diese Frage l¨aßt sich erst mit Hilfe von Methoden der induktiven Statistik kl¨aren. In anderen F¨ allen, insbesondere f¨ ur metrische stetige oder quasi-stetige Merkmale, ist es oft nicht m¨ oglich, die Urliste zu einer deutlich kleineren Menge a1 , . . . , ak von Werten zu komprimieren. Die Beschreibung der Daten durch eine H¨aufigkeitstabelle bringt dann keinen Vorteil. In solchen F¨ allen kann es zweckm¨aßig und w¨ unschenswert
Strichliste
34
2. Univariate Deskription und Exploration von Daten
Klassenbildung gruppierte Daten
sein, die Daten der Urliste durch Bildung geeigneter Klassen zu gruppieren (vgl. Abschnitt1.3.2) und eine H¨aufigkeitstabelle f¨ ur die gruppierten Daten zu erstellen.
Beispiel 2.2
Nettomieten Wir greifen aus dem gesamten Datensatz die Wohnungen ohne zentrale Warmwasserversorgung und mit einer Wohnfl¨ ache von h¨ochstens 71 qm heraus. Die folgende Urliste zeigt, bereits der Gr¨ oße nach geordnet, die Nettomieten dieser n = 26 Wohnungen:
77.31 181.98 261.98 359.17
104.14 183.09 263.21 361.60
132.24 200.84 269.84 362.00
158.91 210.55 276.60 400.05
163.17 227.91 281.21 533.92
116.48 243.44 311.87
170.04 255.75 343.30
Da alle Werte verschieden sind, ist hier k = n und {x1 , . . . , xn } = {a1 , . . . , ak }. Die relativen H¨ aufigkeiten hj , j = 1, . . . , 26, sind somit alle gleich 1/26 = 0.0385. Gruppiert man die Urliste in 6 Klassen mit gleicher Klassenbreite von 100 e, so erh¨alt man folgende H¨ aufigkeitstabelle: 2
Klasse 0 < . . . ≤ 100 100 < . . . ≤ 200 200 < . . . ≤ 300 300 < . . . ≤ 400 400 < . . . ≤ 500 500 < . . . ≤ 600
absolute H¨aufigkeit 1 8 10 5 1 1
relative H¨aufigkeit 1/26 = 0.038 8/26 = 0.308 10/26 = 0.385 5/26 = 0.192 1/26 = 0.038 1/26 = 0.038
Tabelle 2.2: H¨ aufigkeiten f¨ ur gruppierte n = 26 Nettomieten
Eine Gruppierung von Originaldaten kann auch aus Datenschutzgr¨ unden notwendig sein, etwa wenn die Kredith¨ohen in Beispiel 1.4 (Seite 5) nicht durch den genauen Betrag, sondern in gruppierter Form wie in Tabelle 1.4 (Seite 6) ausgewiesen werden. Ebenso kann es zweckm¨aßig sein, ein metrisches Merkmal bereits in gruppierter Form zu erheben, um Antwortverweigerungen oder -verzerrungen zu vermeiden, indem man nicht nach dem genauen Einkommen oder Alter fragt, sondern nur nach Einkommens- oder Altersgruppen.
2.1 Verteilungen und ihre Darstellungen
2.1.2
35
Graphische Darstellungen
Stab- und Kreisdiagramme Die bekanntesten Darstellungsformen kategorialer oder diskreter Merkmale sind Stab-, S¨aulen-, Balken- und Kreisdiagramme. Sie sind vor allem angebracht, wenn die Anzahl k der verschiedenen Merkmalsauspr¨agungen klein ist. Dar¨ uber hinaus gibt es nat¨ urlich weitere optisch ansprechende M¨oglichkeiten, insbesondere in Form von Farbgraphiken. Bei einem Stabdiagramm werden auf der horizontalen Achse die Auspr¨agungen des Merkmals abgetragen und auf der vertikalen die absoluten (relativen) H¨aufigkeiten der jeweiligen Auspr¨agungen in Form eines Stabes. Ein S¨ aulendiagramm ist eine optische Modifikation des Stabdiagramms. Es werden lediglich die St¨abe durch Rechtecke ersetzt, die mittig u ¨ ber die Auspr¨agungen gezeichnet werden und nicht aneinander stoßen sollten. Das Balkendiagramm ergibt sich als weitere Variante direkt aus dem S¨ aulendiagramm, indem man die Auspr¨agungen auf der vertikalen Achse abtr¨ agt. Eine weitere beliebte Darstellungsform ist das Kreisdiagramm, bei dem der Winkel, der den Kreisausschnitt einer Kategorie oder Auspr¨agung festlegt, proportional zur absoluten (relativen) H¨aufigkeit ist. Damit ist nat¨ urlich auch die Fl¨ ache des Kreissektors proportional zur H¨aufigkeit.
Stabdiagramm, S¨ aulen- und Balkendiagramm Stabdiagramm:
Trage u ¨ber a1 , . . . , ak jeweils einen zur x-Achse senkrechten Strich (Stab) mit H¨ ohe h1 , . . . , hk (oder f1 , . . . , fk ) ab.
S¨ aulendiagramm: wie Stabdiagramm, aber mit Rechtecken statt Strichen. Balkendiagramm: wie S¨ aulendiagramm, aber mit vertikal statt horizontal gelegter x-Achse.
Kreisdiagramm Fl¨achen der Kreissektoren proportional zu den H¨aufigkeiten: Winkel des Kreissektors j = fj · 360◦ .
Stabdiagramm
S¨aulendiagramm Balkendiagramm Kreisdiagramm
36
2. Univariate Deskription und Exploration von Daten
Abbildung 2.2: (a) Kreis–, (b) S¨ aulen–, (c) Balken– und (d) Stabdiagramm f¨ ur das Merkmal “Ausrichtung der Diplomarbeit” von 36 Absolventen
Beispiel 2.3
Absolventenstudie F¨ ur die Variable “Ausrichtung der Diplomarbeit” erh¨alt man die Diagramme der Abbildung 2.2. Alle Diagramme zeigen deutlich die unterschiedliche Pr¨aferenz bei der Ausrichtung der geschriebenen Diplomarbeiten. Das Kreisdiagramm ist optisch sehr ansprechend. Es erm¨ oglicht jedoch i.a. nicht ein direktes Ablesen der relativen bzw. absoluten H¨aufigkeiten, wie es beim Stab-, S¨ aulen- oder Balkendiagramm der Fall ist. In diesem Beispiel wurden an den R¨andern des Kreisdiagramms die absoluten H¨aufigkeiten mit angegeben. 2
Wie unmittelbar ersichtlich wird, sind diese Darstellungsformen nur geeignet, wenn die Anzahl k der m¨ oglichen Auspr¨agungen nicht zu groß ist. F¨ ur metrische Merkmale mit vielen verschiedenen Werten werden die S¨aulen-, Balken- und Kreisdiagramme sehr un¨ ubersichtlich, aber auch das Stabdiagramm wird weniger g¨ unstig. F¨ ur die Nettomieten aus Beispiel 2.2 erh¨ alt man das Stabdiagramm in Abbildung 2.3. Man erkennt hier zwar noch, wo die Daten dichter zusammenliegen, aber ansonsten ist das Bild wenig informativ. In dem Stabdiagramm f¨ ur die Stichprobe der 2051 Wohnungen in Abbildung 2.4 sieht man in weiten Bereichen statt der St¨abe nur noch schwarze Fl¨ achen. F¨ ur solche Daten sind deshalb andere Darstellungen besser geeignet. Zwei einfache Darstellungsformen f¨ ur metrische Merkmale mit vielen Auspr¨agungen sind das Stamm-Blatt-Diagramm und das Histogramm. Weitere M¨oglichkeiten werden in den Abschnitten 2.1.3 (empirische Verteilungsfunktion), 2.2.2 (Box-Plots) und 2.4.1 (Dichtekurven) behandelt.
2.1 Verteilungen und ihre Darstellungen
100
200
37
300
400
500
Nettomiete in Euro
Abbildung 2.3: Stabdiagramm der Nettomieten von 26 Wohnungen kleiner als 72 qm, ohne Zentralheizung und ohne Warmwasser
500
1000
1500
Nettomiete in Euro
Abbildung 2.4: Stabdiagramm der Nettomieten von 2051 Wohnungen
Stamm-Blatt-Diagramme Das Stamm-Blatt-Diagramm (“Stem-leaf display”) ist eine semigraphische Darstellungsform f¨ ur metrische Merkmale, die f¨ ur mittleren Datenumfang auch per Hand zu bew¨altigen ist. Wir erkl¨aren das Konstruktionsprinzip zun¨achst am Beispiel der n = 26 Nettomieten von Beispiel 2.2 (Seite 34). Beim Stamm-Blatt-Diagramm arbeitet man in der Regel mit gerundeten Daten. Wir streichen zun¨achst die Stellen nach dem Komma und erhalten die gerundete Urliste 77 181 261 359
104 183 263 361
132 200 269 362
158 210 276 400
163 227 281 533
166 243 311
Stamm-BlattDiagramm
170 255 343
Anschließend wird der sogenannte Stamm definiert, d.h. eine vertikale Liste geord-
Stamm
38
Bl¨atter
2. Univariate Deskription und Exploration von Daten
neter Zahlen, in der jede Zahl die erste(n) Ziffer(n) von Werten in den zugeh¨origen Klassen enth¨ alt. Im Beispiel w¨ ahlen wir als Klassen Intervalle der Breite 100 und als Klassengrenzen die Zahlen 0, 100, 200, . . . , 500, 600. Der Stamm enth¨alt dann die Ziffern 0, . . . , 5 wie in Abbildung 2.5. Um die Bl¨ atter des Stammes zu erhalten, rundet man nun die Beobachtungen auf die Stelle, die nach den Ziffern des Stammes folgt. Im Beispiel runden wir 77 zu 80, 104 zu 100, 132 zu 130. Die so f¨ ur diese Stelle erhaltenen Ziffern tr¨ agt man als Bl¨atter rechts von den zugeh¨origen Ziffern des Stamms zeilenweise und der Gr¨oße nach geordnet ab. Das erste Blatt 8 steht somit f¨ ur 80. Die Bl¨ atter 0 und 3 der zweiten Zeile ergeben sich aus den zweiten Ziffern der gerundeten Nettomieten 100 und 130. Auf diese Weise entsteht aus der Urliste der n = 26 Nettomieten das Stamm-Blatt-Diagramm in Abbildung 2.5. Einheit 0
8 = 80
0 1 1 2 2 3 3 4 4 5
8 03 667788 0134 666788 14 666 0 3
Abbildung 2.5: Stamm–Blatt–Diagramm der Nettomieten von 26 “kleinen” Wohnungen ohne Warmwasserversorgung
Zus¨ atzlich sollte noch die Einheit angegeben werden, z.B. in der Form 0|8 = 80, um ein R¨ uckrechnen zu erm¨ oglichen. F¨ ur gr¨ oßere Datens¨ atze kann es zweckm¨aßig sein, die Zeilen aufzuteilen. Die Zahlen des Stamms erscheinen dabei zweimal. Auf jeder zugeh¨origen oberen Zeile werden dann die Bl¨ atter 0 bis 4 und auf der unteren die Bl¨atter 5 bis 9 eingetragen, vergleiche dazu Abbildung 2.6. Die einzelnen Zeilen entsprechen jetzt Intervallen der Breite 50 statt 100. Allgemein l¨ aßt sich das Konstruktionsprinzip so beschreiben:
2.1 Verteilungen und ihre Darstellungen
39
Stamm-Blatt-Diagramm Schritt 1: Teile den Datenbereich in Intervalle gleicher Breite d = 0.5 oder 1 mal einer Potenz von 10 ein. Trage die erste(n) Ziffer(n) der Werte im jeweiligen Intervall links von einer senkrechten Linie der Gr¨oße nach geordnet ein. Dies ergibt den Stamm. Schritt 2: Runde die beobachteten Werte auf die Stelle, die nach den Ziffern des Stamms kommt. Die resultierenden Ziffern ergeben die Bl¨ atter. Diese werden zeilenweise und der Gr¨ oße nach geordnet rechts vom Stamm eingetragen. Bei der Wahl der Intervallbreite wird man versuchen, das Stamm-Blatt-Diagramm so u oglich zu gestalten und andererseits m¨oglichst wenig Informa¨bersichtlich wie m¨ tion durch Rundung zu verlieren. Man kann sich auch an Faustregeln f¨ ur die Zahl der Zeilen orientieren. Eine u ¨ bliche Faustregel ist
Faustregel
Anzahl der Zeilen ≈ 10 log10 (n) . Die Anzahl der Zeilen in den Beispielen 2.4 und 2.5 entspricht in etwa dieser Faustregel. Nettomieten
Beispiel 2.4
F¨ ur die Teilstichprobe von n = 563 großen Wohnungen mit einer Wohnfl¨ache von mindestens 81 qm, egal ob mit oder ohne Warmwasserversorgung, w¨ahlen wir als Intervallbreite d = 50. Damit treten die Zahlen 1, 2, . . . usw. des Stammes zweimal auf. Die erste Zeile enth¨alt die Bl¨ atter 0 bis 4, die zweite Zeile die Bl¨ atter 5 bis 9. Man erkennt daraus die Form der H¨aufigkeitsverteilung mit einer leichten Unsymmetrie und einer H¨aufung von Nettomieten um 700 e recht gut. 2
Im folgenden Beispiel zeigt das Stamm-Blatt-Diagramm noch mehr Auff¨alligkeiten. Umlaufrenditen Die Abbildung 2.7 zeigt die Monatswerte der Umlaufrenditen (in Prozent) inl¨andischer Inhaberschuldverschreibungen mit mittlerer Restlaufzeit von u ¨ ber eins bis einschließlich zwei Jahren von April 1973 bis Oktober 2003. Die Zeitreihe weist drei deutliche Phasen einer Hochzinspolitik auf mit einem Maximum zu Beginn der 80er Jahre. Das zugeh¨ orige Stamm-Blatt-Diagramm (vgl. Abb. 2.8) zeigt ein entsprechendes Muster mit einer H¨ aufung von Renditen zwischen 3, 5 % und 5, 5 %, einer weiteren H¨aufung von Umlaufrenditen um ca. 9 % (Hochzinsphase) und einigen wenigen sehr hohen Renditen, die man als “Ausreißer” bezeichnen kann. Im Vergleich zur graphischen Darstellung der Renditen als Zeitreihe geht hier jedoch deutlich Information verloren: Der zeitliche Einfluß ist nicht mehr erkennbar. 2
Beispiel 2.5
40
2. Univariate Deskription und Exploration von Daten
Einheit 1 1 1 2 2 3 3 4 4 5 5 6 6 7 7 8 8 9 9 10 10 11 11 12 12 13 13 14 14 15 15 16 16 17
1 = 110 1 9 11 6778 03344444 555667778889999 000011123344444 6666666777788888889999999 000000122222333333444444 555556666666677788888888888889999999 00000001111112222223333444444444444444 5555555555566666666667777888888888899999999999 00000000011111111111222222222222233333333344444 55555555566666677777777777777888888999999999 000000000011111122222222222233333333444444444 5555555555666667777777777888888899999999 00000011111222222222222233334444444444 5555556666666777777788899999 0000000011112333444444 5666666777777789999 000001244444 5555566677778 001222233344 5578 111223 9 2 5566778 1233 88 3 6 4
Abbildung 2.6: Stamm–Blatt–Diagramm der Nettomieten von 563 “großen” Wohnungen
Histogramme Stamm-Blatt-Diagramme besitzen den Vorteil, daß sie – bis auf Rundung – die Werte der Urliste enthalten und somit einen guten Einblick in die Datenstruktur f¨ ur explo-
41
2
4
6
8
10
12
2.1 Verteilungen und ihre Darstellungen
1975
1980
1985
1990
1995
2000
Abbildung 2.7: Umlaufrenditen deutscher Inhaberschuldverschreibungen
rative Analysen erm¨ oglichen. F¨ ur große Datens¨atze werden sie jedoch un¨ ubersichtlich und lassen sich nicht mehr auf Papier oder Bildschirm pr¨asentieren. Es ist dann zweckm¨aßig, die Daten zu gruppieren und die resultierende H¨aufigkeitstabelle durch ein Histogramm zu visualisieren.
Histogramm
Wir gehen dabei von einem zumindest ordinalskalierten Merkmal aus, das in vielen Auspr¨agungen vorliegt. F¨ ur die Gruppierung (vgl. Abschnitt 1.3) w¨ahlt man als Klassen benachbarte Intervalle
Gruppierung Klassen
[c0 , c1 ), [c1 , c2 ), . . . , [ck−1 , ck ) . Es w¨are nun m¨ oglich, u ¨ber den Klassen in der Art des S¨aulendiagramms die jeweilige absolute bzw. relative H¨ aufigkeit aufzutragen. Dabei treten jedoch unerw¨ unschte Effekte auf. Verdoppelt man beispielsweise die Breite des rechten Randintervalls [ck−1 , ck ) durch Hinzunahme der rechts davon liegenden Werte, bleibt die H¨aufigkeit andert. Der optische Eindruck bei einem breiteren Ranin diesem Intervall fk unver¨ dintervall w¨ urde jedoch eine wesentlich gr¨ oßere H¨aufigkeit suggerieren, da die Breite des Intervalls und damit des dar¨ uberliegenden Rechtecks doppelt soviel Fl¨ache aufweist wie das entsprechende Rechteck des urspr¨ unglichen Intervalls. Da das Auge prim¨ ar die Fl¨ ache der Rechtecke bzw. S¨aulen wahrnimmt, wird das Histogramm so konstruiert, daß die Fl¨ache u ¨ber den Intervallen gleich oder proportional zu den absoluten bzw. relativen H¨aufigkeiten ist. Aus der Beziehung “Fl¨ache = Breite × H¨ ohe” und der Klassenbreite dj = cj − cj−1 ergibt sich die abzutragende H¨ ohe gleich oder proportional zu hj /dj bzw. fj /dj .
Klassenbreite
42
2. Univariate Deskription und Exploration von Daten
Einheit 2 2 2 3 3 4 4 5 5 6 6 7 7 8 8 9 9 10 10 11 11 12 12 13
3 = 0.023 234 566666888 0011123334444 5555556666666667777888888999999 000000000011111122222222333333444444 555555556666666667888899999999 00000000001112222222223333333444444444 5555555566677777899999 0000111112222222223334444 55556666677778888899999 000000000111111222222233344444 555666888888 0111123444 556678899 00000011111111111111222333333333344444 566788889999999 0001111244444 59 566 5688 0
Abbildung 2.8: Stamm-Blatt-Diagramm der Umlaufrenditen
Histogramm Zeichne u ¨ ber den Klassen [c0 , c1 ), . . . , [ck−1 , ck ) Rechtecke mit Breite: dj = cj − cj−1 H¨ohe: gleich (oder proportional zu) hj /dj bzw. fj /dj Fl¨ ache: gleich (oder proportional zu) hj bzw. fj Prinzip der Fl¨achentreue
Das Histogramm ist damit so konstruiert, daß es dem Prinzip der Fl¨achentreue folgt, d.h. die dargestellten Fl¨ achen sind direkt proportional zu den absoluten bzw. relativen H¨ aufigkeiten. Zu bemerken ist, daß die prinzipielle Darstellungsform nicht davon abh¨ angt, ob die Intervalle als rechtsoffen oder als linksoffen gew¨ahlt werden. Falls m¨ oglich und sinnvoll, sollten die Klassenbreiten dj gleich groß sein. Dann kann man als H¨ ohe der Rechtecke auch die absoluten oder – wie in den Abbildungen 2.9 bis 2.16 – die relativen H¨ aufigkeiten w¨ahlen. Ferner sollten offene Randklassen vermieden werden. Wie man auch an einigen der folgenden Beispiele sehen kann,
2.1 Verteilungen und ihre Darstellungen
43
wird die resultierende Darstellung insbesondere durch die Klassenbreite und damit die Anzahl der Intervalle und den Anfangspunkt c0 bestimmt. Bei sehr kleiner Klassenbreite geht durch die Gruppierung wenig von der urspr¨ unglichen Information der Urliste verloren. Daf¨ ur erh¨ alt man unruhige Histogramme, die im Extremfall dem Stabdiagramm ¨ ahnlich werden. Mit wachsender Klassenbreite wird das Histogramm weniger Spr¨ unge aufweisen, im Extremfall – wenn alle Daten in einer Klasse maximaler Breite liegen – erh¨ alt man jedoch nur noch ein einziges Rechteck, das wenig u ur die Anzahl von Klassen und damit f¨ ur die Wahl der ¨ber die Daten aussagt. F¨ √ √ Klassenbreite existieren Faustregeln, also Empfehlungen, etwa k = [ n ], k = 2[ n ] ahlen. Neben diesen Faustregeln wird aber der subjektive oder k = [10 log10 n] zu w¨ optische Eindruck, den das Histogramm vermittelt, u ¨ber die Klassenbreiten entscheiden. Absolventenstudie
Klassenzahl Klassenbreite Faustregeln
Beispiel 2.6
Will man etwa die H¨ aufigkeitsverteilung des Merkmals “Studiendauer in Semestern” der Absolventenliste in einer Abbildung darstellen, √ so bietet sich hier ein Histogramm an. Es √ sind in der folgenden Abbildung 2.9 n = 36 = 6 Klassen gew¨ahlt worden, die jeweils gleich breit mit einer Klassenbreite von zwei Semestern sind. Die erste Klasse umfaßt die Semester 7 und 8. Im Histogramm ist das zugeh¨orige Rechteck u ¨ ber der Klassenmitte 7.5 mit Klassengrenzen 6.5 und 8.5 eingezeichnet. Entsprechend sind die anderen Klassen konstruiert. Deutlich erkennt man, daß die meisten Studierenden ihr Studium erst nach 13 oder 14 Semestern abgeschlossen haben. 2
Abbildung 2.9: Histogramm der Studiendauer von 36 Absolventen
Nettomieten Abbildung 2.10 auf der n¨ achsten Seite ist das zur Tabelle 2.2 (Seite 34) geh¨orende Histogramm f¨ ur die Nettomieten der 26 Wohnungen ohne Warmwasser und Wohnfl¨ache bis zu 71 qm und entspricht dem Stamm-Blatt-Diagramm von Abbildung 2.5 (Seite 38).
Beispiel 2.7
44
2. Univariate Deskription und Exploration von Daten
40
Anteile in Prozent
30
20
10
0 0
100
200
300 Nettomiete in Euro
400
500
600
Abbildung 2.10: Histogramm der Nettomieten von 26 “kleinen Wohnungen” ohne Warmwasserversorgung
linkssteil rechtsschief
Beispiel 2.8
Interessanter ist die Darstellung der Verteilung der Nettomieten durch Histogramme f¨ ur den gesamten Datensatz oder f¨ ur wichtige Schichten daraus. In den Abbildungen 2.11 und 2.12 ist als Klassenbreite jeweils d = 100 gew¨ahlt. Abbildung 2.11 zeigt das Histogramm f¨ ur die n = 2051 Wohnungen der gesamten Stichprobe. Mietpreise zwischen 300 und 600 e sind am h¨ aufigsten. Die H¨ aufigkeiten nehmen nach links steiler ab als nach rechts, d.h. die Verteilung ist nicht symmetrisch, sondern schief, genauer: linkssteil oder rechtsschief. Das Histogramm vermittelt damit optisch den erwarteten Eindruck: Im h¨oheren Mietpreisbereich streuen die Mieten st¨ arker als im niedrigen Bereich, und die “durchschnittlichen” Mieten liegen dadurch links von der Mitte der Grenzen des Datenbereichs. Mietpreise werden nat¨ urlich am st¨arksten von der Wohnfl¨ache beeinflußt. Entsprechend der Gruppierung nach Wohnfl¨ achen in Tabellenmietspiegeln kann man sich Histogramme f¨ ur die Teilschichten kleiner (≤ 38qm), mittlerer (39 bis 80 qm) und großer Wohnungen (≥ 81qm) ansehen, um Unterschiede in Lage und Form der H¨aufigkeitsverteilungen zu erkennen. Aus Abbildung 2.12 ist ersichtlich, daß sich die Verteilungen innerhalb dieser Wohnfl¨ achenkategorien nicht nur durch die Lage, sondern auch durch die Form unterscheiden. Insbesondere nimmt mit zunehmender Wohnfl¨ache nicht nur der durchschnittliche Mietpreis zu, sondern die Mieten liegen auch weiter auseinander: F¨ ur große Wohnungen verl¨auft das Histogramm viel flacher und der Datenbereich ist klar gr¨oßer. Abbildung 2.13 zeigt schließlich, daß die Wahl der Klassenbreite, die hier gleich 50 ist, einen starken Einfluß auf den optischen Eindruck und damit auf die Interpretation aus¨ uben kann. Im Vergleich zu dem entsprechenden unteren Histogramm in Abbildung 2.12 wird das Bild wesentlich unruhiger. Einzelne Spitzen in den H¨aufigkeiten sind vermutlich eher auf Zuf¨ alligkeiten in der Stichprobe als auf systematische Gr¨ unde zur¨ uckzuf¨ uhren, die auch f¨ ur die Grundgesamtheit gelten. 2
Aktienrenditen Kurse verschiedenster Aktien findet man regelm¨aßig im Wirtschaftsteil von Tageszeitungen und anderen Ver¨ offentlichungen zum Geschehen am Aktienmarkt. Aus dem Kursverlauf lassen sich unmittelbar die Renditen bestimmen, die mit dem Besitz einer Aktie u ¨ ber einen
2.1 Verteilungen und ihre Darstellungen
45
Anteile in Prozent
15
10
5
0 0
500
1000 Nettomiete in Euro
1500
Abbildung 2.11: Histogramm der Nettomieten aller 2051 Wohnungen in der gesamten Stichprobe, Klassenbreite = 100 e klein 50 40 30 20 10 0 Anteile in Prozent
mittel 50 40 30 20 10 0 gross 50 40 30 20 10 0 0
500
1000 Nettomiete in Euro
1500
Abbildung 2.12: Histogramme der Nettomieten, nach Wohnungsgr¨ oße geschichtet
Zeitraum hinweg verbunden waren. Sowohl f¨ ur kurz- als auch f¨ ur langfristige Anlagen ist dabei zun¨ achst von Interesse, wie sich die t¨ aglichen Renditen verhalten. Die Betrachtung der Verteilung von Tagesrenditen ist sogar unerl¨aßlich, bevor fundierte Aktienmarktmodelle aufgestellt werden. Aktien, deren Tagesrenditen u ¨ber einen l¨angeren Zeitraum h¨aufiger einen negativen Wert, d.h. einen Verlust, als einen positiven aufweisen, werden sich nicht am Markt behaupten k¨ onnen. Insofern ist zun¨ achst u ¨berraschend, daß das Histogramm der
46
2. Univariate Deskription und Exploration von Daten
8
Anteile in Prozent
6
4
2
0 0
500
1000 Nettomiete in Euro
1500
Abbildung 2.13: Histogramm der Nettomieten der “großen” Wohnungen in der Stichprobe, Klassenbreite = 50 e
symmetrisch
Beispiel 2.9
Tagesrenditen vom 5. Januar 1981 bis zum 30. Dezember 1993 (n = 3245) der M¨ unchener R¨ uckversicherungsaktie in Abbildung 2.14 den Eindurck vermittelt, daß negative Renditen h¨ aufiger sind als positive. Die Darstellung von H¨aufigkeitsverteilungen mit Hilfe von Histogrammen ist jedoch empfindlich gegen¨ uber der Klasseneinteilung: Abbildung 2.15 basierend auf denselben Daten, aber mit einer anderen Wahl der Klassengrenzen, vermittelt das erwartete Bild. Ferner erkennt man hier, daß sich die Tagesrenditen offensichtlich symmetrisch um den Nullpunkt verteilen. 2
Altersverteilungen Betrachtet man die Verteilung des Merkmals Lebensalter von Personen in einer Stichprobe, so ergibt das zugeh¨ orige Histogramm selten ein symmetrisches Bild. Beispielsweise ist in der Magenkarzinomstudie (Beispiel 1.7) der j¨ ungste Patient 30 Jahre alt und der ¨alteste 90 Jahre, aber nur 35 % sind j¨ unger als 61. Die am h¨aufigsten vertretene Altersklasse ist mit 36 % die der 61 bis 70-j¨ ahrigen (vgl. Abb. 2.16).
linksschief rechtssteil
Der steile Abfall im oberen Bereich l¨aßt sich dadurch erkl¨aren, daß auch der Anteil der u ber 80j¨ ahrigen in der Bev¨ olkerung klein ist, so daß weniger Personen unter dem Risiko ¨ stehen, an Magenkrebs zu erkranken. Da das Histogramm in Abbildung 2.16 nach links langsamer abf¨ allt als nach rechts, wird eine Verteilung mit dieser Gestalt als linksschief oder rechtssteil bezeichnet. 2
Die in den Beispielen durch Histogramme dargestellten Arten von Verteilungen besitzen generelle Bedeutung f¨ ur die Charakterisierung der Form von empirischen Verteilungen. Die folgenden Typisierungen beziehen sich nicht nur auf Histogramme, sondern in entsprechender Weise auf andere H¨aufigkeitsdarstellungen wie etwa Staboder Stamm-Blatt-Diagramme.
2.1 Verteilungen und ihre Darstellungen
47
Abbildung 2.14: Histogramm der Tagesrenditen der MRU–Aktie
Abbildung 2.15: Histogramm der Tagesrenditen der MRU–Aktie mit einer anderen Klasseneinteilung als in Abbildung 2.14
Unimodale und multimodale Verteilungen Viele empirische Verteilungen weisen wie in den Abbildungen 2.9, 2.10 und 2.16 der vorangehenden Beispiele einen Gipfel auf, von dem aus die H¨aufigkeiten flacher oder steiler zu den Randbereichen hin verlaufen, ohne daß ein zweiter deutlich ausgepr¨ agter Gipfel hervortritt. Solche Verteilungen heißen unimodal (eingipfelig). Tritt ein zweiter deutlicher Gipfel auf, wie im Stamm-Blatt-Diagramm (Abbildung 2.8) oder Histogramm der Umlaufrenditen (Abbildung 2.17), so heißt die Verteilung bimodal (zweigipfelig). Treten noch mehrere Nebengipfel auf, heißt die Verteilung multimodal (mehrgipfelig). Bimodale und multimodale Verteilungen k¨onnen entstehen, wenn die Daten eines Merkmals unterschiedlichen Teilgesamtheiten entstammen, aber in der
unimodal
bimodal multimodal
48
2. Univariate Deskription und Exploration von Daten
Abbildung 2.16: Histogramm des Lebensalters der Patienten aus der Magenkarzinomstudie
Anteile in Prozent
15
10
5
0 2
4
6
8 Umlaufrendite in Prozent
10
12
Abbildung 2.17: Das Histogramm der Umlaufrenditen zeigt eine bimodale Verteilung
Darstellung zusammengemischt werden. So k¨onnte man f¨ ur das Zinsbeispiel eine Teilgesamtheit “¨ ublicher Zinsen” und eine Teilgesamtheit “Hochzinsphasen” unterscheiden. Bimodale und multimodale Verteilungen erfordern daher eine besonders sorgf¨altige Interpretation. Symmetrie und Schiefe symmetrisch
schief linkssteil rechtsschief
rechtssteil linksschief
Eine Verteilung heißt symmetrisch, wenn es eine Symmetrieachse gibt, so daß die rechte und die linke H¨ alfte der Verteilung wie in Abbildung 2.18(b) ann¨ahernd zueinander spiegelbildlich sind. Exakte Symmetrie ist bei empirischen Verteilungen selten gegeben. Deutlich unsymmetrische Verteilungen heißen schief . Eine Verteilung ist linkssteil (oder rechtsschief ), wenn der u ¨ berwiegende Anteil von Daten linksseitig konzentriert ist. Dann f¨ allt wie in Abbildung 2.18(a) die Verteilung nach links deutlich steiler und nach rechts langsamer ab. Entsprechend heißt eine Verteilung rechtssteil (oder linksschief ), wenn wie in Abbildung 2.18(c) die Verteilung nach rechts steiler und nach links flacher abf¨allt.
2.1 Verteilungen und ihre Darstellungen
49
Abbildung 2.18: Eine linkssteile (a), symmetrische (b) und rechtssteile Verteilung (c)
2.1.3
Kumulierte H¨ aufigkeitsverteilung und empirische Verteilungsfunktion
Die empirische Verteilungsfunktion beantwortet die Fragestellung “Welcher Anteil der Daten ist kleiner oder gleich einem interessierenden Wert x?”. Diese Frage ist nat¨ urlich nur dann sinnvoll, wenn die Relationen “kleiner” bzw. “kleiner/gleich” sinnvoll sind, d.h. wenn zumindest eine Ordinalskala vorliegt. Um die Frage zu beantworten, bildet man die bis zur Schranke x aufsummierten absoluten oder relativen H¨aufigkeiten. Die absolute kumulierte H¨ aufigkeitsverteilung eines Merkmals X erh¨alt man folgendermaßen: F¨ ur jede vorgegebene Zahl x ∈ bestimmt man die Anzahl von Beobachtungswerten, die kleiner oder gleich x sind. Die sich ergebende Funktion
absolute kumulierte H¨aufigkeitsverteilung
H(x) = Anzahl der Werte xi mit xi ≤ x , ist die absolute kumulierte H¨ aufigkeitsverteilung des Merkmals X. Mit den Ausaufigkeiten l¨aßt sich H(x) in der Form pr¨agungen a1 < . . . < ak und deren H¨ hi H(x) = h(a1 ) + . . . + h(aj ) = i:ai ≤x
schreiben. Dabei ist aj die gr¨ oßte Auspr¨ agung, f¨ ur die noch aj ≤ x gilt, so daß also aj+1 > x ist. In der Regel wird jedoch die relative kumulierte H¨aufigkeitsverteilung oder empirische Verteilungsfunktion verwendet, bei der relative statt absolute H¨aufigkeiten aufsummiert werden. Das Adjektiv empirisch soll verdeutlichen, daß diese Verteilungsfunktion aus konkreten Daten berechnet wird, und somit den Unterschied zum entsprechenden Begriff f¨ ur Zufallsvariablen (Kapitel 5) anzeigen.
relative kumulierte H¨aufigkeitsverteilung
50
2. Univariate Deskription und Exploration von Daten
Empirische Verteilungsfunktion F (x) = H(x)/n = Anteil der Werte xi mit xi ≤ x bzw. F (x) = f (a1 ) + . . . + f (aj ) =
fi
i:ai ≤x
wobei aj ≤ x und aj+1 > x ist. Treppenfunktion Beide Funktionen sind monoton wachsende Treppenfunktionen, die an den Aus-
pr¨agungen a1 , . . . , ak um die entsprechende absolute bzw. relative H¨aufigkeit nach oben springen. Dabei ist an den Sprungstellen der obere Wert, d.h. die Treppenkante, der zugeh¨ orige Funktionswert und die Funktion somit rechtsseitig stetig. Die ur Funktionen H(x) bzw. F (x) sind gleich 0 f¨ ur alle x < a1 und gleich n bzw. 1 f¨ x ≥ ak . Absolventenstudie
0.2
0.4
F(x)
0.6
0.8
1.0
Abbildung 2.19 zeigt die empirische Verteilungsfunktion f¨ ur das Merkmal “Studiendauer in Semestern”. Greift man auf der x-Achse etwa den Wert “12” heraus, so l¨aßt sich der
0.0
Beispiel 2.10
6
8
10
12 Studiendauer
14
16
18
Abbildung 2.19: Empirische Verteilungsfunktion der Studiendauer von 36 Absolventen
dazugeh¨ orige Wert auf der y-Achse von 0.42 wie folgt interpretieren: 42 % der 36 Absolventen haben h¨ ochstens 12 Semester studiert, oder anders formuliert: Die Studiendauer ist bei 42 % der 36 Absolventen kleiner oder gleich 12. Dabei entspricht die letztere Formulierung gerade derjenigen, mit der die Betrachtung der empirischen Verteilungsfunktion motiviert wurde. aj
7
8
9
10
11
12
13
14
15
16
17
18
h(aj ) H(aj ) F (aj )
1 1 0.03
0 1 0.03
1 2 0.06
3 5 0.14
3 8 0.22
7 15 0.42
9 24 0.67
4 28 0.78
4 32 0.89
1 33 0.92
2 35 0.97
1 36 1.0 2
2.1 Verteilungen und ihre Darstellungen
51
Die empirische Verteilungsfunktion eignet sich auch zur graphischen Darstellung der H¨ aufigkeitsverteilungen von metrischen Merkmalen, bei denen viele oder alle Beobachtungswerte unterschiedlich sind, ohne daß die Daten vorher gruppiert werden. Es ist jedoch auch m¨ oglich, zum Histogramm gruppierter Daten eine geeignete Verteilungsfunktion zu konstruieren. Wegen der geringeren Bedeutung gehen wir darauf nicht ein. Nettomieten
Beispiel 2.11
0.0
0.2
0.4
F(x)
0.6
0.8
1.0
F¨ ur die Teilstichprobe der Wohnungen ohne Warmwasserversorgung und Wohnfl¨ache kleiner gleich 71 qm ergibt sich die dem Stabdiagramm der Abbildung 2.3 entsprechende empirische Verteilungsfunktion in Abbildung 2.20.
100
200
300 Nettomiete in Euro
400
500
Abbildung 2.20: Empirische Verteilungsfunktion der Nettomieten von 26 “kleinen” Wohnungen ohne Warmwasserversorgung
Am Funktionsverlauf l¨ aßt sich die Gestalt der Verteilung erkennen: Dort wo die Funktion stark ansteigt liegen die Mietpreise dicht zusammen, d.h. die Daten sind dort “dichter”, w¨ ahrend in Bereichen mit flachem Funktionsverlauf wenig Mietpreise liegen, d.h. die Daten liegen dort weiter auseinander oder sind “d¨ unn”. Ein Vorteil der empirischen Verteilungsfunktion ist, daß die graphische Darstellung mit zunehmendem Datenumfang n glatter wird. Die sprunghafte Treppenfunktion geht u ¨ber in eine f¨ ur das Auge fast stetige, monoton wachsende Verteilungsfunktion. Dies zeigt sich deutlich f¨ ur die in Abbildung 2.21 wiedergegebene empirische Verteilungsfunktion der Nettomieten aus der gesamten Mietspiegelstichprobe. Die Interpretation ist analog wie oben. Im Vergleich zu den Histogrammen der gruppierten Daten f¨ allt es etwas schwerer, die Schiefe der Verteilung zu beurteilen. Daf¨ ur wird der subjektive Einfluß der Klassenbildung vermieden. 2
2. Univariate Deskription und Exploration von Daten
0.0
0.2
0.4
F(x)
0.6
0.8
1.0
52
0
500
1000 Nettomiete in Euro
1500
Abbildung 2.21: Empirische Verteilungsfunktion der Nettomieten aller 2051 Wohnungen
BMW-Renditen
0.2
0.4
F(x)
0.6
0.8
1.0
Abbildung 2.22 zeigt die empirische Verteilungsfunktion der Tagesrenditen der BMW-Aktie.
0.0
Beispiel 2.12
Ŧ0.15
Ŧ0.10
Ŧ0.05
0.00 Rendite
0.05
0.10
0.15
Abbildung 2.22: Empirische Verteilungsfunktion der Tagesrenditen der BMW– Aktie
Bedingt durch den großen Stichprobenumfang (n = 3245) ist ihr Verlauf sehr glatt. Lediglich um die Null steigt die Verteilungsfunktion stark an, was auf relativ viele Nullrenditen zur¨ uckzuf¨ uhren ist. Die Symmetrie der H¨aufigkeitsverteilung erkennt man hier an der Punktsymmetrie der Kurve um den Punkt mit den Koordinaten (x, y) = (0, 0.5). 2
2.2 Beschreibung von Verteilungen
2.2
53
Beschreibung von Verteilungen
Durch graphische Darstellungen lassen sich charakteristische Eigenschaften der Lage und Form von H¨ aufigkeitsverteilungen erkennen. Wie in den Beispielen ergeben sich dabei oft Fragen folgender Art: Wo liegt das Zentrum der Daten? Wie stark streuen diese um das Zentrum? Ist die Verteilung symmetrisch oder schief? Gibt es Ausreißer? Diese Fragen stehen meist auch beim Vergleich von Verteilungen im Vordergrund. Dieser Abschnitt behandelt Maßzahlen oder Parameter von Verteilungen, mit denen sich deren Eigenschaften in komprimierter Form durch numerische Werte formal quantifizieren lassen. Diese Maßzahlen lassen sich auch in geeigneter Form, wie etwa im Box-Plot, visualisieren.
2.2.1
Lagemaße
Maßzahlen zur Lage beschreiben das Zentrum einer Verteilung durch einen numerischen Wert. Welches Lagemaß in einer bestimmten Fragestellung sinnvoll ist, h¨angt vom Kontext, von der Datensituation und vom Skalenniveau des Merkmals ab. Arithmetisches Mittel Das aus Alltagsproblemen bekannteste Lagemaß ist das arithmetische Mittel. Dieses erh¨alt man indem alle beobachteten Werte aufsummiert werden und diese Summe durch die Anzahl der Beobachtungen dividiert wird.
Arithmetisches Mittel Das arithmetische Mittel wird aus der Urliste durch 1 1 xi x ¯ = (x1 + . . . + xn ) = n n n
i=1
berechnet. F¨ ur H¨ aufigkeitsdaten mit Auspr¨agungen a1 , . . . , ak und relativen H¨aufigkeiten f1 , . . . , fk gilt x ¯ = a1 f1 + . . . + ak fk =
k
aj fj .
j=1
Das arithmetische Mittel ist f¨ ur metrische Merkmale sinnvoll definiert. F¨ ur qualitative Merkmale ist es i.a. ungeeignet. Eine Ausnahme betrifft bin¨are oder dichotome
Maßzahlen Parameter
54
2. Univariate Deskription und Exploration von Daten
Merkmale mit den zwei Kategorien a1 = 0 und a2 = 1. Dann ist das arithmetische Mittel x ¯ identisch mit der relativen H¨aufigkeit f2 = f (a2 ). Wie sich einfach zeigen l¨ aßt, gilt f¨ ur das arithmetische Mittel n
(xi − x ¯) = 0 ,
i=1
Schwerpunkteigenschaft
¯ verschwindet. Dies l¨aßt sich d.h. die Summe der Abweichungen zwischen xi und x als Schwerpunkteigenschaft des arithmetischen Mittels interpretieren. W¨ urde man an die Stelle jeder Beobachtung eine M¨ unze oder ein Einheitsgewicht legen, so w¨are die Zahlengerade genau am Punkt x ¯, dem Schwerpunkt, im Gleichgewicht.
Beispiel 2.13
Nettomieten F¨ ur die 26 kleinen Wohnungen ohne Warmwasserversorgung erh¨alt man aus der Urliste von Beispiel 2.2 (Seite 34) x ¯=
1 (77.31 + . . . + 533.92) = 250.02 e . 26
Das arithmetische Mittel f¨ ur die gesamte Stichprobe ist x¯ges = 564.68 und f¨ ur die Schichten der kleinen, mittleren und großen Wohnungen ergibt sich x¯kl = 320.78 ,
x ¯mi = 507.53 ,
x ¯gr = 787.72 . 2
Falls man wie im Beispiel 2.13 die arithmetischen Mittel in den Schichten kennt, kann man daraus das arithmetische Mittel f¨ ur die Gesamterhebung berechnen: Dazu sei eine Erhebungsgesamtheit E vom Umfang n in r Schichten oder Teilgesamtheiten E1 , . . . , Er mit jeweiligen Umf¨angen n1 , . . . , nr und arithmetischen Mit¯r zerlegt. Dann gilt f¨ ur das arithmetische Mittel x ¯ in E: teln x ¯1 , . . . , x
Arithmetisches Mittel bei Schichtenbildung 1 1 ¯1 + . . . + nr x ¯r ) = nj x ¯j . x ¯ = (n1 x n n r
j=1
2.2 Beschreibung von Verteilungen
55
Nettomieten
Beispiel 2.14
So kann man in der Mietspiegel-Tabelle von Beispiel 1.2 das Gesamtmittel und die Mittel in Baualters- oder Wohn߬ achenklassen aus den mittleren Nettomieten/qm der einzelnen Zellen ausrechnen.
Nettomiete/qm Baualter bis 1918 1919 bis 1949 bis 1966 bis 1978 bis ab 1990
48 65 77 89
Wohn߬ ache bis 38 qm 39 bis 80 qm
81 qm und mehr
10.96(20) 8.00(5) 10.32(64) 10.43(112) 11.00(10) 11.40(6)
7.86(189) 7.07(128) 8.10(321) 8.10(364) 9.41(115) 10.19(154)
7.46(190) 6.71(53) 7.68(68) 7.67(151) 8.95(42) 9.80(59)
7.82(399) 7.00(186) 8.35(453) 8.42(627) 9.39(167) 10.12(219)
10.44(217)
8.33(1271)
7.83(563)
8.42(2051) 2
F¨ ur die Stichprobe der 26 Wohnungen liegt die h¨ochste Miete von e 533.92 um mehr als hundert Euro u ochsten Miete (e 400.05). Ver¨andert man ¨ber der zweith¨ den h¨ochsten Wert auf e 410.00, so ver¨ andert sich x ¯ = 250.02 zu x ¯ = 245.25; erh¨oht man auf e 700.00, so w¨ urde x ¯ = 256.40 gelten. Das arithmetische Mittel reagiert offensichtlich empfindlich auf extreme Werte oder Ausreißer in den Daten. Dies kann unerw¨ unscht sein, z.B. wenn Ausreißer durch Besonderheiten der zugeh¨origen Einheit oder einfach durch Fehler bei der Datenerhebung oder Datenaufbereitung verursacht wurden.
ausreißerempfindlich
Median Lagemaße, die den Einfluß solcher Extremwerte begrenzen, heißen resistent oder robust. Ein derartiges resistentes Lagemaß ist der Median. Er wird so in die Datenmitte plaziert, daß eine H¨ alfte der Daten unterhalb und die andere H¨alfte oberhalb des Medians liegt. Dazu ordnet man zun¨ achst die Werte x1 , . . . , xn der Gr¨oße nach. Dies ergibt die geordnete Urliste x(1) ≤ . . . ≤ x(i) ≤ . . . ≤ x(n) .
Resistenz Robustheit
geordnete Urliste
56
2. Univariate Deskription und Exploration von Daten
Median F¨ ur ungerades n ist der Median xmed die mittlere Beobachtung der geordneten Urliste und f¨ ur gerades n ist der Median xmed das arithmetische Mittel der beiden in der Mitte liegenden Beobachtungen, d.h. ⎧ x( n+1 ) f¨ ur n ungerade ⎪ ⎨ 2 xmed = ⎪ ⎩ 1 f¨ ur n gerade 2 x(n/2) + x(n/2+1) Ordinalskala
Der Median setzt also ein mindestens ordinalskaliertes Merkmal voraus, er ist aber als resistentes Lagemaß auch f¨ ur metrische Merkmale sinnvoll. Im Beispiel 2.2 (Seite 34) ergibt sich f¨ ur die 26 Wohnungen als Median xmed = 249.51 = (243.44 + 255.57)/2 . Dieser Wert bleibt unver¨ andert, wenn man x(26) so wie oben erh¨oht oder erniedrigt. F¨ ur die gesamte Stichprobe erh¨ alt man xmed,ges = 533.92 und f¨ ur die drei Schichten xmed,kl = 323.42 ,
Bindungen
xmed,mi = 509.28 ,
xmed,gr = 766.95 .
Liegt keine Kardinalskala wie in diesem Beispiel vor, ist u ¨brigens die Mittelbildung f¨ ur gerades n nur als Vorschrift zu verstehen, mit der ein eindeutiger Wert zwischen x(n/2) und x(n/2+1) festgelegt wird. Im Prinzip w¨are aber auch jeder andere Wert dazwischen geeignet, um die Daten in zwei gleichgroße H¨alften aufzuteilen. Man erkennt ferner auch, daß die Definition des Medians nicht abge¨andert werden muß, wenn in der Urliste sogenannte Bindungen auftreten, d.h. wenn mehrere verschiedene Einheiten, etwa i und j, gleiche Werte xi = xj besitzen. Eigenschaft des Medians Mindestens 50 % der Daten sind kleiner oder gleich xmed . Mindestens 50 % der Daten sind gr¨oßer oder gleich xmed . Neben der Robustheit weist der Median gegen¨ uber dem arithmetischen Mittel noch den Vorteil einfacher Interpretierbarkeit auf. Auf der Suche nach einer Wohnung sagt mir der Median, daß 50 % der Wohnungen billiger, 50 % aber teurer sind, das arithmetische Mittel als “Durchschnittswert” kann hingegen von extrem billigen bzw. teuren Wohnungen beeinflußt sein.
2.2 Beschreibung von Verteilungen
57
Modus Ein weiteres wichtiges Lagemaß ist der Modus, der angibt, welche Auspr¨agung am h¨aufigsten vorkommt. Modus agung mit gr¨ oßter H¨aufigkeit. Modus xmod : Auspr¨ Der Modus ist eindeutig, falls die H¨ aufigkeitsverteilung ein eindeutiges Maximum besitzt. Der Modus ist das wichtigste Lagemaß f¨ ur kategoriale Merkmale und bereits auf Nominalskalenniveau sinnvoll. In der Darstellung durch Stab- oder S¨aulendiagramme ist der Modus die Auspr¨ agung mit dem h¨ochsten Stab. In der Absolventenstudie (Beispiel 2.1) ist etwa f¨ ur das Merkmal D “Art der Diplomarbeit” xmod = 4, d.h. Literaturarbeiten werden am h¨ aufigsten geschrieben. Im folgenden werden noch einige weitere wichtige Eigenschaften der drei Lageparameter angegeben: 1. Arithmetisches Mittel und Median stimmen bei diskreten Merkmalen i.a. mit keiner der m¨oglichen Auspr¨ agungen u urger 10.53 ¨ berein. So besitzt kein Bundesb¨ B¨ ucher, auch wenn dies als arithmetisches Mittel einer Stichprobe resultieren mag. Deshalb kann auch f¨ ur metrische Merkmale der Modus sinnvoller sein als x ¯ oder der Median. ¨ 2. Werden die Transformationen-Aquivarianz Daten transformiert, so sind die Lageparameter je nach Skalenniveau ¨ aquivariant gegen¨ uber gewissen Transformationen. Transformiert man die Werte xi linear in
Eigenschaften k¨ unstliche Mittelwerte
Transformationen¨ Aquivarianz
yi = a + bxi , so gilt f¨ ur das arithmetische Mittel y¯ der y-Werte ebenfalls y¯ = a + b¯ x. Ist b = 0, so werden Median und Modus genauso transformiert. Diese Transformationseigenschaften lassen sich direkt u ¨ber die Definitionen der Lageparameter nachvollziehen. 3. Die Art, wie die Lageparameter das Verteilungszentrum charakterisieren, l¨aßt sich auch durch die folgenden Optimalit¨ atseigenschaften beschreiben. M¨ochte man das Zentrum durch einen Wert z auf der x-Achse festlegen, der die Summe der quadratischen Abweichungen n (xi − z)2 Q(z; x1 , . . . , xn ) = i=1
Optimalit¨atseigenschaften
58
2. Univariate Deskription und Exploration von Daten
zwischen Daten x1 , . . . , xn und Zentrum z minimiert, so ergibt sich x ¯ = z als minimierender Wert, d.h. es gilt n n 2 (xi − x ¯) < (xi − z)2 i=1
i=1
f¨ ur alle z = x ¯. Dies l¨ aßt sich z.B. durch Nullsetzen der 1. Ableitung von Q nach z und Aufl¨ osen nach z zeigen. Der Median minimiert dagegen die Summe der absoluten Abweichungen A(z; x1 , . . . , xn ) =
n
|xi − z| .
i=1
Darin spiegelt sich die gr¨ oßere Resistenz des Medians gegen¨ uber Extremwerten wider. Extremwerte beeinflussen durch das Quadrieren die Summe quadratischer Abweichungen und damit den minimierenden Wert deutlich st¨arker als die Summe absoluter Abweichungen. Auch der Modus besitzt eine Optimalit¨atseigenschaft: Er minimiert die Summe n
I(xi , z)
i=1
ur xi = z, I(xi , z) = 0 f¨ ur xi = z. Die “Distanzder Indikatorfunktionen I(xi , z) = 1 f¨ funktion” I(x, z) gibt nur an, ob sich die Werte x und z unterscheiden (I = 1) oder nicht (I = 0). Damit wird nochmals deutlich, daß der Modus f¨ ur Nominalskalenniveau geeignet ist. Berechnung der Lagemaße bei gruppierten Daten
Modus Modalklasse
Liegen die Daten nicht als Urliste vor, sondern lediglich gruppiert, k¨onnen die oben angegebenen Formeln f¨ ur die Lagemaße nicht mehr verwendet werden. Es gibt jedoch M¨ oglichkeiten, die entsprechenden Lagemaße bei gruppierten Daten als N¨aherungswerte f¨ ur die aus der Urliste berechneten Werte zu ermitteln. Diese stimmen nat¨ urlich i.a. nicht mit denen aus der Urliste u ¨ berein. Geht man von gruppierten Daten mit gleicher Klassenbreite aus, so erscheint es z.B. sinnvoll, f¨ ur die Bestimmung des Modus zun¨ achst die Klasse mit der gr¨oßten Beobachtungszahl (Modalklasse) heranzuziehen und die Klassenmitte der Modalklasse als N¨aherung f¨ ur den Modus der Urliste zu verwenden. Es ist aber zu beachten, daß der wahre Modus, d.h. derjenige der Urliste, noch nicht einmal in der Modalklasse liegen muß. Außerdem ist es m¨ oglich, daß der gruppierte Modus nicht mit einem Beobachtungswert zusammenf¨ allt.
2.2 Beschreibung von Verteilungen
59
¨ Ahnlich geht man bei der Bestimmung des Medians aus gruppierten Daten vor. Man legt zun¨achst die Einfallsklasse des Medians als die Klasse [ci−1 , ci ) fest, f¨ ur die in der Folge F (ci ), i = 1, . . . , k, erstmals 0.5 u ¨ berschreitet. Dabei ermittelt man aufigkeit aller Beobachtungen, die kleiner gleich F (ci ), indem man die absolute H¨ ci sind, durch den Gesamtstichprobenumfang dividiert. Damit muß der Median in dieser Klasse liegen, da hier zum ersten Mal einerseits mehr als die H¨alfte der Beobachtungen kleiner gleich der oberen Klassengrenze und andererseits weniger als die H¨alfte kleiner als die untere Klassengrenze sind. Es ist nun der Punkt x in der Einfallsklasse des Medians zu bestimmen, f¨ ur den die empirische Verteilungsfunktion den Wert 0.5 annimmt, d.h. F (x) = 0.5. Da die Urliste aber nicht bekannt ist, kann dies nur ann¨ahernd erfolgen, indem man annimmt, daß sich die Beobachtungen in dieser Klasse gleichm¨ aßig verteilen.
Median Einfallsklasse
Zur Ermittlung des arithmetischen Mittels aus gruppierten Daten werden wie beim Modus die Klassenmitten mj , j = 1, . . . , k, herangezogen. Diese werden dann mit den relativen Klassenh¨ aufigkeiten gewichtet und aufaddiert.
arithmetisches Mittel
Gruppierte Lagemaße Modus: Bestimme Modalklasse (Klasse mit der gr¨oßten Beobachtungszahl) und verwende Klassenmitte als Modus. Median: Bestimme Einfallsklasse [ci−1 , ci ) des Medians und daraus xmed,grupp = ci−1 +
Arithmetisches Mittel: x ¯grupp =
k
di · (0.5 − F (ci−1 )) . fi
f i mi .
i=1
Absolventenstudie Man betrachte erneut das Merkmal “Studiendauer in Semestern” zum einen ungruppiert und zum anderen in der Weise gruppiert, wie sie auch f¨ ur das Histogramm in Abbildung 2.9 zugrunde gelegt wurde. Der Modus der ungruppierten Daten entspricht einer Semesterzahl von 13. Die Modalklasse ergibt sich als [12.5, 14.5), d.h. sie umfaßt die Semester 13 und 14, und die Klassenmitte 13.5 liefert den gruppierten Modus. In diesem Fall liegt der wahre Modus xmod ebenfalls in der Modalklasse. F¨ ur den Median der gruppierten Daten muß zun¨achst seine Einfallsklasse ermittelt werden. Diese entspricht der Klasse [12.5, 14.5), da hier zum ersten Mal die empirische Verteilungsfunktion an der oberen Klassengrenze mit F (14.5) = 0.78 den Wert 0.5
Beispiel 2.15
60
2. Univariate Deskription und Exploration von Daten
u ¨ berschreitet. Damit berechnet sich der Median als xmed,grupp = 12.5 +
2 · (0.5 − 0.417) = 12.5 + 0.46 0.361
= 12.96 , wobei 0.417 = F (12.5) und 0.361 die relative H¨aufigkeit in dieser Klasse sowie di = d4 = 2 die Klassenbreite ist. In diesem Beispiel liegen der gruppierte Median und der wahre Median, der sich zu 13 ergibt, sehr dicht beieinander. Das arithmetische Mittel berechnet sich aus der Urliste als x ¯ = 12.8¯ 8 und aus den gruppierten Daten als x ¯grupp =
6
f i mi
i=1
= 7.5 · 0.028 + 9.5 · 0.11 + 11.5 · 0.28 + 13.5 · 0.361 + 15.5 · 0.139 + 17.5 · 0.083 = 12.96 . Auch diese Werte liegen sehr nahe zusammen. Die insgesamt doch eher geringen Unterschiede zwischen den Maßzahlen aus der Urliste und den gruppierten Daten lassen darauf schließen, daß sich die Beobachtungen zumindest in dem mittleren Bereich relativ gleichm¨aßig verteilen. 2
Lageregeln Symmetrie Schiefe
F¨ ur metrisch skalierte Merkmale k¨onnen das arithmetische Mittel, der Median und der Modus auch dazu verwendet werden, um Symmetrie oder Schiefe einer Verteilung zu beurteilen. Wir betrachten dazu die in den Abbildungen 2.18 dargestellten Verteilungen, die den in Tabelle 2.3 angegebenen Werten entsprechen. Die Verteilung der Stichprobe I f¨ allt nach links steil ab und l¨auft nach rechts flach aus, ist also linkssteil. Die Verteilung der Stichprobe II ist exakt symmetrisch und Stichprobe III ergibt eine rechtssteile Verteilung. An den jeweiligen Lagemaßen sieht man, daß f¨ ur eine (exakt) symmetrische Verteilung arithmetisches Mittel x ¯, Median xmed und ur linkssteile Verteilungen gilt x ¯ > xmed > xmod . F¨ ur Modus xmod u ¨bereinstimmen. F¨ die folgende Lageregel schw¨ acht man die Gleichheit der Lagemaße bei Symmetrie ab, da empirische Verteilungen praktisch selten exakt symmetrisch sind. Lageregeln Symmetrische Verteilungen: Linkssteile Verteilungen: Rechtssteile Verteilungen:
x ¯ ≈ xmed ≈ xmod x ¯ > xmed > xmod x ¯ < xmed < xmod
2.2 Beschreibung von Verteilungen
ai 1 2 3 4 5 6 7 8 9
61
Stichprobe I h(ai ) 8 10 8 6 5 4 2 2 1
Stichprobe II h(ai ) 1 2 4 8 10 8 4 2 1
Stichprobe III h(ai ) 1 2 2 4 5 6 8 10 8
3.57 3 2
5 5 5
6.43 7 8
x ¯ xmed xmod
Tabelle 2.3: Eine linkssteile, eine symmetrische und eine rechtssteile H¨ aufigkeitsverteilung
Die Lageregeln sind in erster Linie f¨ ur unimodale Verteilungen von Bedeutung. Je st¨arker sich x ¯, xmed und xmod unterscheiden, desto schiefer sind die Verteilungen. Diese Lageregeln sind auch im Fall von Lagemaßen f¨ ur gruppierte Daten in analoger Weise anwendbar. Die Unterschiede zwischen x ¯, xmed und xmod bei schiefen Verteilungen sind in Anwendungen auch von Bedeutung, wenn festgelegt werden soll, was unter “Mittelwert” in einer bestimmten Situation zu verstehen ist. Beispielsweise sind Einkommensverteilungen nahezu immer linkssteil und laufen f¨ ur sehr hohe Einkommen flach nach rechts aus. Standesvertreter von Berufsgruppen mit hohem Einkommen k¨onnten den Median oder auch Modus als die kleineren Werte zur Argumentation ben¨ utzen, w¨ ahrend ein sparorientierter Minister das h¨ohere arithmetische Mittel bevorzugen w¨ urde. Im folgenden werden noch einige andere Lagemaße, die f¨ ur bestimmte Fragestellungen und Datensituationen geeignet sind, kurz dargestellt. Das geometrische Mittel Dieses Mittel wird in der Regel im Zusammenhang mit Wachstums- oder Zinsfaktoren verwendet, die f¨ ur mehrere Zeitperioden, etwa Jahre, Monate usw. beobachtet werden. Ausgehend von einem Anfangsbestand B0 sei B0 , B1 , . . . , Bn eine Zeitreihe
62
2. Univariate Deskription und Exploration von Daten
von Bestandsdaten in den Perioden 0, 1, . . . , n. Dann ist f¨ ur i = 1, . . . , n xi = Bi /Bi−1 Wachstumsfaktor
der i-te Wachstumsfaktor und ri =
Wachstumsrate
Bi − Bi−1 = xi − 1 Bi−1
die i-te Wachstumsrate. Damit gilt Bn = B0 x1 · . . . · xn . Analog zum arithmetischen Mittel erh¨alt man das geometrische Mittel, indem alle Faktoren miteinander multipliziert werden und daraus dann die n-te Wurzel gezogen wird.
Geometrisches Mittel Das geometrische Mittel zu den Faktoren x1 , . . . , xn ist x ¯geom = (x1 · . . . · xn )1/n . Daraus folgt ¯geom · . . . · x ¯geom = B0 (¯ xgeom )n , Bn = B0 x ur alle Perioden erh¨alt man den d.h. mit x ¯geom als mittlerem Wachstumsfaktor f¨ ur die tats¨achlichen Wachstumsgleichen Bestand Bn der letzten Periode, den man f¨ alt. In diesem Sinn ist x ¯geom die ad¨aquate “Mittelung”von faktoren x1 , . . . , xn erh¨ Wachstumsfaktoren. F¨ ur das geometrische Mittel folgt durch Logarithmieren 1 ln xi n n
ln x ¯geom =
i=1
und daraus ¯= x ¯geom ≤ x
1 (x1 + . . . + xn ) , n
¯ genau dann gilt, wenn x1 = . . . = xn ist. Im allgemeinen t¨auscht wobei x ¯geom = x also die Angabe von x ¯ statt x ¯geom u ¨berh¨ohte Wachstumsraten vor.
2.2 Beschreibung von Verteilungen
63
Jahr: Wachstumsrate (pi × 100 %): Wachstumsfaktor (xi ):
1981 −2.39 % 0.9761
1982 −1.93 % 0.9807
1983 −1.77 % 0.9823
1984 −1.35 % 0.9865
Jahr: Wachstumsrate (pi × 100 %): Wachstumsfaktor (xi ):
1985 −0.81 % 0.9919
1986 0.32 % 1.0032
1987 0.10 % 1.0010
1988 0.43 % 1.0043
Jahr: Wachstumsrate (pi × 100 %): Wachstumsfaktor (xi ):
1989 3.87 % 1.0387
1990 4.03 % 1.0403
1991 1.15 % 1.0115
Tabelle 2.4: Ver¨ anderung der Anzahl der Betriebe im Bergbau und im Verarbeitenden Gewerbe Nordrhein-Westfalens von 1980 bis 1991 (Angabe der Ver¨ anderung gegen¨ uber dem Vorjahr in %)
Bergbau und Verarbeitendes Gewerbe
Beispiel 2.16
In diesem aus (Heiler und Michels 1994) entnommenen Beispiel geht es um das Wachstum der Anzahl von Betrieben im Bergbau und im Verarbeitenden Gewerbe Nordrhein-Westfalens von 1981 bis 1991. Tabelle 2.4 gibt dazu Wachstumsraten und Wachstumsfaktoren an. Mit dem geometrischen Mittel kann man berechnen, um wieviel die Anzahl der Betriebe durchschnittlich gewachsen ist. Man erh¨ alt x ¯geom = (0.9761 · 0.9807 · . . . · 1.0115)1/11 = 1.014241/11 = 1.00129 . Die Anzahl der Betriebe ist also pro Jahr durchschnittlich um (1.00129 − 1) · 100 % = 0.13 % gewachsen. Ein Blick auf die Tabelle zeigt allerdings, daß die Anzahl der Betriebe von 1980 bis 1985 gefallen und anschließend wieder angestiegen ist. F¨ ur die durchschnittliche j¨ahrliche (1) Abnahme w¨ ahrend der ersten Zeitperiode ergibt sich x ¯geom = 0.9835, also eine Abnahme von (2) 1.165 % pro Jahr, und f¨ ur die anschließende Zunahme x ¯geom = 1.0164, also eine Zunahme von 1.64 % pro Jahr. Das bereits berechnete Gesamtmittel x¯geom l¨aßt sich daraus folgendermaßen berechnen: 5/11 6/11 · (¯ x(2) = 0.98355/11 · 1.01646/11 = 1.0013 = x¯geom . (¯ x(1) geom ) geom )
2
Das harmonische Mittel F¨ ur manche Fragestellungen ist das harmonische Mittel x ¯har =
1 n
1 n i=1
1 xi
64
2. Univariate Deskription und Exploration von Daten
ein sinnvoller Durchschnittswert. Eine typische Fragestellung ist die Ermittlung von durchschnittlicher Geschwindigkeit, wie etwa in folgendem Beispiel: Es seien x1 , . . . , xn die Geschwindigkeiten (m/min) mit denen Bauteile eine Produktionslinie der L¨ ange l durchlaufen. Die gesamte Bearbeitungsdauer ist dann l l + ... + x1 xn und die durchschnittliche Laufgeschwindigkeit ist
x ¯har =
l + ... + l . + . . . + xln
l x1
Das getrimmte Mittel
Da das arithmetische Mittel empfindlich auf Ausreißer oder Extremwerte reagiert, weicht man gegebenenfalls auf resistentere Lagemaße aus. Eine M¨oglichkeit ist das getrimmte arithmetische Mittel, bei dem ein Teil der Randdaten, z.B. 10 %, weggelassen und dann das arithmetische Mittel aus den restlichen Daten berechnet wird.
2.2.2
Quantile und Box-Plot
F¨ ur eine zusammenfassende Beschreibung von Verteilungen m¨ ussen Maßzahlen f¨ ur die Lage in jedem Fall noch durch Angaben zur Streuung der Daten um ihr Zentrum erg¨anzt werden. So kann etwa in zwei L¨andern das mittlere Einkommen pro Kopf identisch sein, obwohl einmal große Unterschiede zwischen Reich und Arm vorliegen und im anderen Fall wesentlich geringere Einkommensunterschiede bestehen. Quantile und die daraus abgeleiteten Box-Plots als graphische Zusammenfassung sind geeignete Mittel, um die Streuung der Daten zu charakterisieren.
geordnete Urliste
Das p-Quantil einer Verteilung trennt die Daten so in zwei Teile, daß etwa p·100 % der Daten darunter und (1 − p) · 100 % dar¨ uber liegen. Damit ist der Median gerade ¨ das 50 %-Quantil. Diese Eigenschaft wird im folgenden formalisiert. Ahnlich wie beim Median, l¨ aßt die allgemeine Definiton noch M¨oglichkeiten f¨ ur eine eindeutige L¨osung offen. Wie bei der Definition des Medians bezeichnet dabei x(1) ≤ . . . ≤ x(i) ≤ oße nach geordnete Urliste. . . . ≤ x(n) die der Gr¨
2.2 Beschreibung von Verteilungen
65
Quantile ur den mindestens ein Anteil p der Daten kleiJeder Wert xp mit 0 < p < 1, f¨ ner/gleich xp und mindestens ein Anteil 1 − p gr¨oßer/gleich xp ist, heißt pQuantil. Es muß also gelten Anzahl (x-Werte ≤ xp ) ≥p n
und
Anzahl (x-Werte ≥ xp ) ≥ 1− p. n
Damit gilt f¨ ur das p-Quantil: xp = x([np]+1) , wenn np nicht ganzzahlig , xp ∈ [x(np) , x(np+1) ] , wenn np ganzzahlig . Dabei ist [np] die zu np n¨ achste kleinere ganze Zahl. Unteres Quartil = 25 %-Quantil = x0.25 , Oberes Quartil = 75 %-Quantil = x0.75 . Der Median ergibt sich als 50 %-Quantil. Weitere wichtige Quantile sind etwa Dezile mit p = 10 %, 20 %, . . . , 90 % sowie 5 % bzw. 95 % Quantile. Gelegentlich werden Quartile (und auch weitere Quantile) etwas anders definiert, etwa x0.25 und x0.75 so, daß sie die u ¨ber oder unter dem Median liegenden Datenh¨alften wiederum halbieren. F¨ ur kleinen Umfang n wirkt sich dies in unterschiedlichen Zahlenwerten aus; dieser Unterschied ist aber f¨ ur praktische Zwecke unerheblich und verschwindet mit wachsendem n. Statistische Programmpakete ben¨ utzen zum Teil unterschiedliche Definitionsvarianten, durch die sich abweichende Quantilswerte ergeben k¨ onnen. Quantile lassen sich auch graphisch aus der empirischen Verteilungsfunktion bestimmen. Dazu tr¨ agt man im Abstand p zur x-Achse eine Horizontale ein. Ist np nicht ganzzahlig, so trifft die Horizontale auf ein senkrechtes St¨ uck der Treppenfunktion. Der dazugeh¨ orige x-Wert ist das eindeutig bestimmte p-Quantil xp . Ist np ganzzahlig, liegt die Horizontale genau auf der H¨ohe einer Treppenstufe. Eine alt man, wenn man den mittleren Wert der beiden eindeutige Festlegung von xp erh¨ Beobachtungen w¨ ahlt, die die Treppenstufe definieren. Man k¨onnte aber, wie beim Median, auch andere x-Werte zwischen diesen beiden Beobachtungen als p-Quantil w¨ahlen; auch damit ist die allgemeine Definition erf¨ ullt. Nettomieten In Beispiel 2.2 (Seite 34) der Nettomieten von n = 26 “kleinen” Wohnungen ohne zentrale Warmwasserversorgung ergibt 26 · 0.25 = 6.5 zur Bestimmung von x0.25 keinen ganzzahligen
Median Dezile
Beispiel 2.17
66
2. Univariate Deskription und Exploration von Daten
oberes Quartil =311.87
0.6
0.8
1.0
Wert. Somit erh¨ alt man wegen [6.5]+ 1 = 7 f¨ ur das untere Quartil x0.25 = x(7) = 170.04. Analog berechnet man f¨ ur das obere Quantil x0.75 = x(20) = 311.87. Die graphische Bestimmung der Quantile veranschaulicht Abbildung 2.23 (Seite 66). W¨ahrend das untere und das obere Quartil eindeutig bestimmt sind, trennt jeder Wert auf der Treppenstufe zwischen 243.44 und 255.57 die Stichprobe in zwei gleichgroße H¨alften. Definitionsgem¨aß erh¨alt man eine
0.4
F(x)
Median=249.51
0.0
0.2
unteres Quartil =170.04
100
200
300 Nettomiete in Euro
400
500
Abbildung 2.23: Graphische Bestimmung der Quantile
eindeutige Festlegung des Medians, indem man diese beiden Werte mittelt bzw. die Mitte der Treppenstufe bestimmt. 2
Die Quartile geben zusammen mit dem Median auf einfache Art Hinweise auf die Verteilung der Daten: Links des unteren Quartils liegen etwa 25 % der Daten und rechts des oberen Quartils ebenfalls etwa 25 % der Daten. Im mittleren Bereich dazwischen liegen die restlichen 50 % der Daten. Ist die Verteilung ann¨ahernd symmetrisch zum Median, so sind x0.25 und x0.75 etwa gleich weit vom Median entfernt. Liegt x0.75 weiter entfernt vom Median als x0.25 , so weist dies auf eine linkssteile (rechtsschiefe) Verteilung hin. Entsprechendes gilt f¨ ur eine rechtssteile Verteilung. F¨ ur metrische Merkmale geben die Quartile auch unmittelbar Aufschluß da¨ uber, wie weit eine Verteilung auseinander gezogen ist. Eine unmittelbar daraus abgeleitete Maßzahl f¨ ur diese Streuung ist der Interquartilsabstand. Interquartilsabstand (IQR) Die Distanz dQ = x0.75 − x0.25 heißt Interquartilsabstand (“interquartile range“). Da die Quartile nicht von der Lage der Daten links von x0.25 und rechts von x0.75
2.2 Beschreibung von Verteilungen
67
beeinflußt werden, ist der Interquartilsabstand resistent gegen Ausreißer. Eine Faustregel zur Identifikation von potentiellen Ausreißern ist: Bilde den inneren “Zaun”mit der Untergrenze zu = x0.25 − 1.5dQ und der Obergrenze zo = x0.75 + 1.5dQ . Daten oßer als zo sind dann Ausreißerkandidaten, die genauer zu kleiner als zu und gr¨ inspizieren sind. Da Quartile und Median keine Information u ¨ ber die linken und rechten Enden (“tails”) der Verteilung enthalten, ist es zweckm¨aßig, den kleinsten Wert xmin = x(1) und den gr¨ oßten Wert xmax = x(n) der Daten mit anzusehen. Die Differenz xmax − xmin wird als Spannweite bezeichnet.
Faustregel Zaun
Enden
Spannweite
Die Quartile, das Minimum, Maximum sowie der Median teilen den Datensatz also in vier Teile, wobei jeder dieser Teile in etwa ein Viertel der Beobachtungswerte enth¨alt. Dies gibt ebenfalls Information u ¨ber die Verteilung der Beobachtungen. Die Angabe dieser f¨ unf Werte wird auch als F¨ unf-Punkte-Zusammenfassung bezeichnet.
F¨ unf-Punkte-Zusammenfassung Die F¨ unf-Punkte-Zusammenfassung einer Verteilung besteht aus xmin , x0.25 , xmed , x0.75 , xmax
Diese F¨ unf-Punkte-Zusammenfassung f¨ uhrt zur komprimierten Visualisierung einer Verteilung durch den Box-Plot. Man erh¨ alt damit eine graphische Darstellung der Daten, die sehr gut zum Vergleich verschiedener Verteilungen geeignet ist. Es l¨aßt sich schnell ein Eindruck dar¨ uber gewinnen, ob die Beobachtungen z.B. ann¨ahernd symmetrisch verteilt sind, oder ob Ausreißer in dem Datensatz auftreten.
Box-Plot 1. x0.25 = Anfang der Schachtel (“box”) x0.75 = Ende der Schachtel dQ = L¨ange der Schachtel 2. Der Median wird durch einen Punkt in der Box markiert. 3. Zwei Linien (“whiskers”) außerhalb der Box gehen bis zu xmin und xmax .
Zus¨atzliche Information erh¨ alt man, wenn man z.B. die 5 % und 95 % Quantile oder uhrt zum modifizierten Box-Plot. die Z¨aune zu und zo einzeichnet. Letzteres f¨
Visualisierung Box-Plot
68
2. Univariate Deskription und Exploration von Daten
Modifizierter Box–Plot Die Linien außerhalb der Schachtel werden nur bis zu xmin bzw. xmax gezogen, falls xmin und xmax innerhalb des Bereichs [zu , zo ] der Z¨aune liegen. Ansonsten gehen die Linien nur bis zum kleinsten bzw. gr¨oßten Wert innerhalb der Z¨aune, und die außerhalb liegenden Werte werden individuell eingezeichnet.
Beispiel 2.18
Nettomieten Abbildung 2.24 zeigt modifizierte Box-Plots f¨ ur die Nettomieten der 2051 Wohnungen geschichtet nach Wohnungsgr¨ oße. Zun¨achst erkennt man, daß der Median mit wachsender Wohnungsgr¨ oße erwartungsgem¨ aß gr¨oßer wird. Nettomieten u ¨ ber den oberen Z¨aunen – gekennzeichnet durch runde Kreise – gibt es in allen drei Kategorien, aber die Spannweite der Daten w¨ achst zusammen mit der Wohnungsgr¨oße. Bei den großen Wohnungen ist zu erkennen, daß die Verteilung linkssteil (rechtsschief) ist. 2
klein
mittel
gross
0
500
1000 Nettomiete in Euro
1500
Abbildung 2.24: Box–Plots der Nettomieten, nach Wohnungsgr¨ oße geschichtet
Beispiel 2.19
Renditen Der Box-Plot der t¨ aglichen Renditen der Aktie der M¨ unchener R¨ uckversicherung in Abbildung 2.25 zeigt deutlich die Symmetrie der empirischen Verteilung. In diesem Beispiel treten besonders viele Werte außerhalb der Z¨aune auf. 2
2.2 Beschreibung von Verteilungen
Ŧ0.1
69
0 Rendite der MünchnerŦRückŦAktie
0.1
Abbildung 2.25: Box–Plot der Tagesrenditen der M¨ unchener R¨ uckversicherungsaktie
Umlaufrenditen
Beispiel 2.20
Das Histogramm der Umlaufrenditen (Abbildung 2.17) weist auf eine bimodale Verteilung hin. Offensichtlich kann man Besonderheiten wie eine bi- oder multimodale Verteilung nicht anhand eines Box-Plots erkennen, vgl. dazu Abbildung 2.26. 2
2
4
6
8 Umlaufrendite
10
12
Abbildung 2.26: Box–Plot der Umlaufrenditen
2.2.3
Standardabweichung, Varianz und Variationskoeffizient
Die bekannteste Maßzahl f¨ ur die Streuung einer Verteilung ist die Standardabweichung bzw. ihr Quadrat, die Varianz. Sie mißt die Streuung der Daten um ihr Mittel x ¯ und ist deshalb nur f¨ ur metrische Merkmale zusammen mit x ¯ sinnvoll einsetzbar.
70
2. Univariate Deskription und Exploration von Daten
Empirische Varianz und Standardabweichung Die Varianz der Werte x1 , . . . , xn ist 1 1 [(x1 − x ¯)2 + . . . + (xn − x ¯)2 ] = (xi − x ¯)2 . n n n
s˜2 =
i=1
Die Standardabweichung s˜ ist die Wurzel aus der Varianz, √ s˜ = + s˜2 . F¨ ur die H¨ aufigkeitsdaten gilt k ¯) f1 + . . . + (ak − x ¯) fk = (aj − x ¯)2 fj . s˜ = (a1 − x 2
2
2
j=1
Zur Abgrenzung gegen entsprechende Begriffe f¨ ur Zufallsvariablen in Kapitel 5 und 6 wird hier von empirischer Varianz und Standardabweichung gesprochen. Das Wort empirisch soll bedeuten, daß es sich um Maßzahlen handelt, die aus konkreten Daten berechnet werden. Ist der Zusammenhang jedoch klar, verzichtet man oft auf den Zusatz empirisch.
mittlere quadratische Abweichung
H¨aufigkeitsdaten
Die Definition von Varianz und Standardabweichung beruht auf folgender Idee: ¯ messen wie stark die Daten um ihren Mittelwert x ¯ streuen. Die Abweichungen xi − x Dabei treten sowohl positive wie negative Abweichungen auf, so daß die Summe aller Abweichungen keine geeignete Maßzahl f¨ ur die Streuung ist. Tats¨achlich gilt ja f¨ ur das arithmetische Mittel gerade (x1 − x ¯) + . . . + (xn − x ¯) = 0, vgl. Abschnitt 2.2.1. Durch das Quadrieren bekommen alle Abweichungen ein positives Vorzeichen, und f¨ ur weit von x ¯ entfernte Werte xi ergeben sich große quadrierte Abweichungen 2 (xi − x ¯) . Die Varianz ist dann gerade das Mittel dieser quadratischen Abweichungen und ist somit groß bzw. klein, wenn die Daten xi weit bzw. eng um ihren Mittelwert x ¯ streuen. Infolge des Quadrierens hat s˜2 nicht die gleiche Maßeinheit, etwa Euro, Meter, Minuten etc., wie die Werte selbst. Die Standardabweichung s hingegen mißt die Streuung um das Mittel x ¯ mit der gleichen Maßeinheit. F¨ ur H¨aufigkeitsdaten mit Auspr¨agungen a1 , . . . , ak und relativen H¨aufigkeiten f1 , . . . , fk k¨ onnen Varianz und Standardabweichung in ¨aquivalenter Weise durch die zweite Formel berechnet werden. Die Varianz wird oft auch in leicht modifizierter Weise definiert, indem man statt
2.2 Beschreibung von Verteilungen
71
durch n durch n − 1 dividiert. Diese modifizierte Form 1 (xi − x ¯)2 n−1 n
s2 =
i=1
nennen wir Stichprobenvarianz . Sie wird in der induktiven Statistik bevorzugt und ist in statistischen Programmpaketen deshalb oft die voreingestellte Standardoption. Bei gr¨oßerem Umfang n ist der Unterschied in den meisten F¨allen vernachl¨assigbar. Die Mittelung durch n − 1 statt durch n kann folgendermaßen plausibel gemacht ¯) = 0 gilt, ist z. B. die letzte Abweichung xn − x ¯ bereits durch werden: Da (xi − x die ersten n − 1 bestimmt. Somit variieren nur n − 1 Abweichungen frei und man mittelt deshalb indem man durch die Anzahl n − 1 der sogenannten Freiheitsgrade dividiert. Diese Plausibilit¨ atserkl¨ arung wird im Rahmen der induktiven Statistik formalisiert. Varianz und Standardabweichung besitzen folgende Eigenschaften: 1. Varianz und Standardabweichung sind nur f¨ ur metrische Merkmale geeignet. Da extreme Abweichungen von x ¯ durch das Quadrieren sehr stark in die Summe eingehen, sind sie nicht resistent, reagieren also empfindlich auf Ausreißer. 2. Es gilt der sogenannte Verschiebungssatz .
Verschiebungssatz F¨ ur jedes c ∈
gilt n n (xi − c)2 = (xi − x ¯)2 + n(¯ x − c)2 . i=1
i=1
Speziell f¨ ur c = 0 folgt
s˜2 =
1 2 xi n n
−x ¯2 .
i=1
Die zweite Formel ist vor allem zur schnellen Berechnung von s˜2 geeignet: Man bildet die Summe der quadrierten Werte x2i , mittelt diese und zieht das bereits vorher berechnete quadrierte arithmetische Mittel x ¯2 ab.
Stichprobenvarianz
Freiheitsgrade
Eigenschaften Ausreißerempfindlichkeit Verschiebungssatz
72
2. Univariate Deskription und Exploration von Daten
Die erste Formel zeigt man mit den Umformungen: n n (xi − c)2 = (xi − x ¯+x ¯ − c)2 i=1
i=1
= = =
n i=1 n i=1 n
[(xi − x ¯)2 + 2(xi − x ¯)(¯ x − c) + (¯ x − c)2 ] (xi − x ¯)2 + 2(¯ x − c)
n n (xi − x ¯) + (¯ x − c)2 i=1
i=1
(xi − x ¯)2 + n(¯ x − c)2 ,
i=1
Lineare Transformationen
¯) = 0 gleich null ist. Die zweite Formel folgt da der mittlere Term wegen (xi − x daraus f¨ ur c = 0 und nach Division durch n. ur die Varianz s˜2y 3. Transformiert man die Daten xi linear zu yi = axi + b, so gilt f¨ bzw. Standardabweichung der Daten yi die Transformationsregel F¨ ur yi = axi + b ist
s˜2y = a2 s˜2x
s˜y = |a|˜ sx .
bzw.
Sie ergibt sich direkt aus der Definition und y¯ = a¯ x + b: s˜2y = Schichtung Streuungszerlegung
1 1 1 (yi − y¯)2 = (axi + b − a¯ x − b)2 = a2 (xi − x ¯)2 = a2 s˜2x . n n n n
n
n
i=1
i=1
i=1
4. Wird die Erhebungsgesamtheit E vom Umfang n in r Schichten E1 , . . . , Er mit den Umf¨ angen n1 , . . . , nr und jeweiligen Mitteln x ¯1 , . . . , x ¯r und Varianzen s˜21 , . . . , s˜2r 2 zerlegt, so gilt f¨ ur die gesamte Varianz s˜ in E: Streuungszerlegung 1 1 nj s˜2j + nj (¯ xj − x ¯)2 , s˜ = n n r
r
j=1
j=1
2
wobei
1 nj x ¯j , n r
x ¯=
j=1
das arithmetische Gesamtmittel bei Schichtenbildung ist.
2.2 Beschreibung von Verteilungen
73
Der erste Ausdruck rechts mißt die Streuung innerhalb der Schichten durch ein gewichtetes Mittel der jeweiligen Streuungen s˜21 , . . . , s˜2r . Der zweite Ausdruck mißt die Streuung zwischen den Schichten durch ein gewichtetes Mittel der quadrierten ¯. Die StreuAbweichungen der Mittelwerte x ¯j der Schichten vom Gesamtmittel x ungszerlegung l¨aßt sich damit verbal so fassen: Gesamtstreuung = Streuung innerhalb der Schichten + Streuung zwischen den Schichten.
5. Die Standardabweichung wird oft zusammen mit dem arithmetischen Mittel dazu benutzt, Intervalle der Form x ¯ ± s˜, x ¯ ± 2˜ s oder x ¯ ± 3˜ s anzugeben. Ist das Merkmal X in etwa normalverteilt, man vergleiche dazu Abschnitt 2.4.2 und Abschnitt 6.3.1, so gilt: in x ¯ ± s˜ liegen ca. 68 % aller Daten, in x ¯ ± 2˜ s liegen ca. 95 % aller Daten, in x ¯ ± 3˜ s liegen ca. 99 % aller Daten. Die Angabe solcher Intervalle ist vor allem in technischen Anwendungen sehr u ¨blich. F¨ ur nicht normalverteilte, insbesondere schiefe Verteilungen sind jedoch Box-Plots deutlich besser geeignet, um Lage und Streuung einer Verteilung anzuzeigen. Nettomieten
Schwankungsintervalle
Beispiel 2.21
F¨ ur die Nettomieten der 26 kleinen Wohnungen ohne Warmwasserversorgung (Beipiele 2.2, Seite 34 und 2.13, Seite 54) erh¨ alt man nach der Verschiebungsregel die Varianz
1 s˜2 = (77.31)2 + . . . + (5333.92)2 − (250.02)2 = 10106.82 26 und die Standardabweichung s˜ = 100.53. F¨ ur die Nettomieten/qm der gesamten Stichprobe ergibt sich die Standardabweichung s˜ges = 2.45 und f¨ ur die Schichten der kleinen, mittleren und großen Wohnungen ergibt sich s˜kl = 2.31 ,
s˜mi = 2.36 ,
s˜gr = 2.28 .
Betrachtet man statt der Nettomieten/qm die Nettomieten selbst ergibt sich s˜ges = 241.92 ,
s˜kl = 67.53 ,
s˜mi = 166.20 ,
s˜gr = 262.76 .
Mit der Streuungszerlegung kann man die Gesamtvarianz der Nettomieten/qm aus den Varianzen geschichtet nach der Wohnungsgr¨ oße berechnen. Die erforderlichen Mittelwerte und Umf¨ ange zur Gewichtung sind bereits aus der Tabelle von Beispiel 2.14 (Seite 55) bekannt. Man erh¨ alt 1 s˜2 = (217 · 2.312 + 1271 · 2.362 + 563 · 2.282 ) 2051 1 217 · (10.44 − 8.42)2 + 1271 · (8.33 − 8.42)2 + 563 · (7.83 − 8.42)2 = 5.98 . + 2051 2
74
Beispiel 2.22
2. Univariate Deskription und Exploration von Daten
Renditen der M¨ unchener R¨ uckversicherungs-Aktie Hier ergibt sich s˜2 = 0.0042.
Maßstabsunabh¨angigkeit
2
F¨ ur Merkmale mit nichtnegativen Auspr¨agungen und arithmetischem Mittel x ¯>0 l¨aßt sich durch den Variationskoeffizienten ein maßstabsunabh¨agiges Streuungsmaß bilden, das zum Vergleich unterschiedlicher Streuungen geeignet ist.
Variationskoeffizient v=
Beispiel 2.23
s˜ , x ¯>0 x ¯
Nettomieten Geschichtet nach Wohnungsgr¨ oße erh¨alt man f¨ ur alle 2051 Wohnungen die folgenden Variationskoeffizienten der Nettomieten/qm: Wohnfl¨ ache v
bis 38 qm 0.22
39 bis 80 qm 0.28
81 qm und mehr 0.29 2
2.2.4
Maßzahlen f¨ ur Schiefe und W¨ olbung
In den Beispielen der vorhergehenden Abschnitte zeigten bereits die graphischen Darstellungen, daß sich Verteilungen nicht nur durch Lage und Streuung, sondern auch in bezug auf Symmetrie oder Schiefe (“skewness”) unterscheiden k¨onnen. Außerdem k¨ onnen sich selbst symmetrische Verteilungen durch ihre W¨olbung (“kurtosis”) unterscheiden. Diese zeigt, ob Daten stark um das Lagezentrum konzentriert sind, oder ob eben die W¨ olbung flacher ist. Graphische Darstellungen, insbesondere auch die in Abschnitt 2.4 behandelten Quantil-Plots vermitteln dazu einen sehr guten visuellen Eindruck. Zus¨ atzlich gibt es aber auch traditionellere Maßzahlen, die in diesem Abschnitt beschrieben werden. Schiefe
Eine erste Beurteilung der Schiefe oder Symmetrie einer Verteilung kann durch einen Vergleich der Lagemaße mittels der Lageregeln aus Abschnitt 2.2.1 erfolgen. Maßzahlen f¨ ur die Schiefe der Verteilung metrischer Merkmale sind Quantilsund Momentenkoeffizienten.
2.2 Beschreibung von Verteilungen
75
Quantilskoeffizient der Schiefe gp =
(x1−p − xmed ) − (xmed − xp ) x1−p − xp
F¨ ur p = 0.25 erh¨ alt man den Quartilskoeffizienten. Quantilskoeffizienten messen im Z¨ ahler den Unterschied zwischen der Entfernung des p- und (1 − p)-Quantils zum Median. Bei linkssteilen (bzw. rechtssteilen) Verteilungen liegt das untere Quantil n¨ aher am (bzw. weiter entfernt vom) Median. Somit gilt: Werte des Quantilskoeffizienten gp = 0 gp > 0 gp < 0
f¨ ur symmetrische Verteilungen, f¨ ur linkssteile Verteilungen, f¨ ur rechtssteile Verteilungen.
Durch den Nenner wird gp so normiert, daß −1 ≤ gp ≤ 1 gilt. Da die Definition mittels der Quantile und des Medians erfolgt, sind Quantilskoeffizienten resistent. Dies gilt nicht f¨ ur die in Analogie zur Varianz s˜2 gebildeten Momentenkoeffizienten der Schiefe: Momentenkoeffizient der Schiefe gm
m3 = 3 s˜
1 mit m3 = (xi − x ¯)3 n n
i=1
Durch die dritte Potenz (xi − x ¯)3 bleiben im Vergleich zur Standardabweichung die ¯) erhalten. Bei linkssteilen (bzw. rechtssteiVorzeichen bei den Abweichungen (xi − x len) Verteilungen u ¨ berwiegen positive (bzw. negative) Abweichungen, so daß gm positiv (negativ) wird. Wegen der Division durch s˜3 ist gm maßstabsunabh¨angig. Werte des Momentenkoeffizienten gm = 0 gm > 0 gm < 0
f¨ ur symmetrische Verteilungen, f¨ ur linkssteile Verteilungen, f¨ ur rechtssteile Verteilungen.
76
2. Univariate Deskription und Exploration von Daten
In einigen statistischen Programmpaketen werden – ¨ahnlich wie bei der Varianz – ur gr¨oßeren Umfang n ist der Unterschied modifizierte Versionen von gm berechnet. F¨ wiederum praktisch irrelevant. W¨olbung
Maßzahlen f¨ ur die W¨ olbung sollen charakterisieren, wie stark oder schwach der zentrale Bereich und – damit zusammenh¨angend – die Randbereiche der Daten besetzt sind. Dabei ist zu beachten, daß Verteilungen mit gleicher Streuung unterschiedliche W¨ olbungen in der Mitte bzw. unterschiedliche linke und rechte Enden in den Randbereichen besitzen k¨ onnen. In der Mitte vergleichsweise spitze Verteilungen sind in den Enden (“tails”) st¨arker besetzt als in der Mitte flache Verteilungen. Als Vergleichs- oder Referenzverteilung f¨ ur das Maß an W¨ olbung in der Mitte oder Breite in den Enden (“heaviness of tails”) dient dazu die Normalverteilung (vgl. Abschnitt 2.4 und Abschnitt 6.3.1). Eine g¨ angige Maßzahl, die gerade so definiert ist, daß sie bei Vorliegen einer Normalverteilung null wird, ist das
W¨ olbungsmaß von Fisher 1 m4 (xj − x ¯)4 γ = 4 − 3 mit m4 = s˜ n n
j=1
1 (aj − x ¯)4 nj n k
bzw.
j=1
Dabei ist γ =0 γ >0 γ <0
bei Normalverteilung, bei spitzeren Verteilungen, bei flacheren Verteilungen.
Wie bei der Varianz s˜2 und beim Schiefemaß gm existieren Modifikationen, die sich aber f¨ ur gr¨ oßeres n nur unwesentlich unterscheiden. Beispiel 2.24
T¨ agliche und monatliche Renditen Die Werte der Schiefekoeffizienten liegen relativ nahe bei null. Dies weist nochmals auf die ann¨ ahernde Symmetrie der Verteilungen hin. Die Verringerung des W¨olbungsmaßes γ ¨ ¨ beim Ubergang von t¨ aglichen zu monatlichen Renditen ist in Ubereinstimmung mit einer Abflachung der Spitze der Verteilung am Lagezentrum.
g0.25 gm γ
t¨ aglich 0.054 0.135 5.447
MRU monatlich 0.084 0.232 1.171
BMW t¨aglich monatlich 0.063 0.012 −0.169 −0.445 8.007 2.719
2
2.3 Konzentrationsmaße
2.3
77
Konzentrationsmaße
Eine in den Wirtschaftswissenschaften relevante, mit der Streuung zusammenh¨angende Fragestellung gilt der Konzentration von Merkmalen auf Merkmalstr¨agern. Dabei interessiert man sich beispielsweise daf¨ ur, wie ein Markt sich auf die Anbieter aufteilt (Marktkonzentration), oder wie sich das Einkommen oder der Grundbesitz einer demographischen Einheit auf Individuen bzw. Familien aufteilt (Einkommenskonzentration). Ziel ist es, die St¨ arke der Konzentration in einem Kennwert bzw. einer Graphik zum Ausdruck zu bringen. Marktkonzentration in drei St¨ adten
Beispiel 2.25
In drei St¨ adten G, M und V sei der monatliche Umsatz (in 1000 e) der M¨obelbranche bestimmt durch die folgende Tabelle: Einrichtungsh¨ auser 1 2 3 4 5
G 40 40 40 40 40
Stadt M 180 5 5 5 5
V 60 50 40 30 20
Wie man unmittelbar sieht, ist der Gesamtumsatz der M¨obelbranche in der Stadt G v¨ollig gleichm¨ aßig auf die f¨ unf Anbieter verteilt, in der Stadt M besitzt ein Einrichtungshaus nahezu eine Monopolstellung, w¨ ahrend in V die Ums¨atze u ¨ ber die Anbieter variieren. 2
Im folgenden wird in Hinblick auf die Konzentrationsmessung angenommen, daß kardinal das Merkmal kardinal skaliert ist und die Messungen x1 , . . . , xn alle nicht-negativ nicht-negativ sind. Betrachtet werden damit nur Merkmale wie Umsatz, Einkommen oder Anzahl geordnete Werte Besch¨aftigter, die prinzipiell positiv (bzw. null) sind. Der Einfachheit halber wird von bereits geordneten Werten x1 ≤ . . . ≤ xn ausgegangen. Eine Tabelle wie im Beispiel 2.25 ist also umzuordnen, bevor man die nachfolgenden Formeln anwendet. Die GesamtmerkGesamtmerkmalssumme bestimmt sich durch malssumme n
xi > 0 .
i=1
Dadurch ist die zur Verf¨ ugung stehende Gesamtmenge (Gesamtumsatz, Gesamteinkommen, Gesamtzahl der Besch¨ aftigen) gegeben.
78
2. Univariate Deskription und Exploration von Daten
2.3.1
Relative Konzentration: Lorenzkurve und Gini-Koeffizient
Lorenzkurve aus den geordneten Daten Eine einfache Darstellungsform, die Aufschluß u ¨ber die St¨arke der Konzentration gibt, ist die Lorenzkurve, die von M. Lorenz zur Charakterisierung der Verm¨ogenskonzentration benutzt wurde. Ausgehend von den bereits geordneten ur j = 1, . . . , n der Anteil Merkmalsauspr¨ agungen x1 , . . . , xn u ¨ berlegt man sich, daß f¨ j/n der Merkmalstr¨ ager die kumulierte relative Merkmalssumme j i=1 n
xi xi
i=1
Lorenzkurve
auf sich konzentriert. Die Lorenzkurve gibt dies f¨ ur s¨amtliche Anteile j/n in graphischer Form wieder.
Lorenzkurve F¨ ur die geordnete Urliste x1 ≤ . . . ≤ xn ergibt sich die Lorenzkurve als Streckenzug durch die Punkte (0, 0), (u1 , v1 ), . . . , (un , vn ) = (1, 1) mit uj = j/n j
vj =
i=1 n
Anteil der Merkmalstr¨ager ,
xi kumulierte relative Merkmalssumme . xi
i=1
Beispiel 2.26
Marktkonzentration in drei St¨ adten F¨ ur die St¨ adte G, M und V aus Beispiel 2.25 erh¨alt man die Lorenzkurve L aus Tabelle 2.5, wobei zu beachten ist, daß die Werte nun der Gr¨oße nach geordnet sind. Die zugeh¨origen Graphiken sind in Abbildung 2.27 dargestellt. 2
2.3 Konzentrationsmaße
79
Stadt G j
uj
xi
1 2 3 4 5
0.2 0.4 0.6 0.8 1.0
40 40 40 40 40
j
Stadt M
i=1 xi
vj
xi
40 80 120 160 200
0.2 0.4 0.6 0.8 1.0
5 5 5 5 180
j
Stadt V
i=1 xi
vj
xi
5 10 15 20 200
0.025 0.050 0.075 0.100 1.000
20 30 40 50 60
j
i=1 xi
vj
20 50 90 140 200
0.10 0.25 0.45 0.70 1.00
Tabelle 2.5: Marktkonzentrationen
Abbildung 2.27: Lorenzkurven zur Marktkonzentration
Der Grundgedanke der Lorenzkurve besteht darin darzustellen, auf welchen Anteil der kleinsten Merkmalstr¨ ager welcher kumulierte relative Anteil an der Gesamtmerkmalssumme entf¨ allt. Entspricht der Anteil der Merkmalstr¨ager unmittelbar dem kumulierten relativen Anteil, so erh¨ alt man eine Gerade, genauer die Diagonale, die wie f¨ ur die Stadt G Nullkonzentration signalisiert. Je kleiner die relative kumulierte Merkmalssumme der kleinsten Merkmalstr¨ager ausf¨allt, desto st¨arker entfernt man sich von der Winkelhalbierenden. So ergibt sich beispielsweise eine sehr starke Konzentration in Stadt M, bei der auf 4/5 der Merkmalstr¨ager nur 10 % der Merkmalssumme entfallen. Interpretiert wird die Lorenzkurve nur an den berechneten Punkten (uj , vj ), die meist mit Knickstellen zusammenfallen. Aus der Kurve l¨aßt sich unmittelbar ablesen, daß auf uj · 100 % der kleinsten Merkmalstr¨ager vj · 100 % der Merkmalssumme entfallen bzw. daß auf (1 − uj ) · 100 % der gr¨oßten Merkmalstr¨ager (1 − vj ) · 100 % der Merkmalssumme konzentriert sind. Wesentliche Eigenschaften der Lorenzkurve sind Monotonie, d.h. die Kurve w¨ achst monoton, und Konvexit¨ at, d.h. es liegt W¨olbung nach unten vor. Liegen die Daten bereits in Form von absoluten bzw. relativen H¨aufigkeiten
Eigenschaften: Monotonie, Konvexit¨at
80
2. Univariate Deskription und Exploration von Daten
H¨aufigkeitsdaten h1 , . . . , hk bzw. f1 , . . . , fk
f¨ ur die Merkmalsauspr¨agungen a1 , . . . , ak vor, so l¨aßt sich die Berechnung vereinfachen. Man bestimmt nur noch die Knickstellen
uj =
j i=1 j
vj =
i=1 k
hi /n =
j
fi
i=1 j
hi ai
fi ai
= hi ai
i=1
i=1 k
j = 1, . . . , k . fi ai
i=1
Die resultierende Kurve ist identisch mit der aus den urspr¨ unglichen Daten x1 , . . . , xn berechneten Kurve.
Lorenzkurve bei gruppierten Daten In vielen Anwendungen liegen die Merkmale nur in gruppierter Form vor, d.h. man kennt nur die H¨ aufigkeiten h1 , . . . , hk bzw. f1 , . . . , fk der Klassen [c0 , c1 ), . . . , [ck−1 , ur jede Klasse, genauer f¨ ur den rechten Endpunkt ck ). Die Lorenzfunktion wird nun f¨ jeder Klasse berechnet. Dabei sind zwei F¨alle zu unterscheiden. Merkmalssumme bekannt
Ist die Merkmalssume f¨ ur die einzelnen Klassen gegeben, bezeichnet man der Einfachheit halber mit xi die Merkmalssumme der i-ten Klasse und erh¨alt die Lorenzkurve wie f¨ ur unklassierte Daten durch
uj =
j i=1 j
vj =
i=1 k
hi /n =
j
fi
i=1
xi . xi
i=1
Merkmalssumme unbekannt
In der amtlichen Statistik sind oft nur die absoluten bzw. relativen H¨aufigkeiten in den Klassen bekannt, jedoch ist die Merkmalssumme unbekannt. Zur Darstellung einer Lorenzkurve nimmt man nun idealisierenderweise an, daß innerhalb der Klasse keine Konzentration vorliegt, d.h. daß alle Auspr¨agungen denselben Wert, n¨amlich die Klassenmitte, annehmen. Mit den Klassenmitten mi = (ci + ci−1 )/2 erh¨alt man
2.3 Konzentrationsmaße
81
in Analogie zur obigen Form die Lorenzkurve
uj =
j i=1 j
vj =
i=1 k
hi /n =
j
fi
i=1
hi mi . hi mi
i=1
Eine Lorenzkurve, die aus klassierten Daten entstanden ist, wird u ¨ blicherweise nicht nur an den Knickstellen, sondern auch an allen Zwischenwerten interpretiert. Dabei liegt f¨ ur bekannte wie f¨ ur unbekannte Merkmalssummen die Annahme zugrunde, daß sich der Merkmalsanteil in Abh¨ angigkeit vom Anteil der Merkmalstr¨ager innerhalb der Klassen linear verh¨ alt.
Halbleiter-Industrie
Beispiel 2.27
Da die Entwicklung von Chips und der Bau moderner Fertigungsanlagen sehr kostenintensiv ist, ist auf dem Halbleitermarkt mit einer gewissen Konzentration zu rechnen. In Tabelle 2.6 sind die Ums¨ atze der zwanzig weltweit gr¨ oßten Halbleiter-Hersteller wiedergegeben, auf die wir uns im folgenden beschr¨ anken. In Tabelle 2.7 findet sich die Berechnung der zugeh¨origen Lorenzkurve, die in Abbildung 2.28 dargestellt ist. Man sieht unmittelbar die Abweichung von der Ideallinie gleicher Marktanteile. Daraus ist beispielsweise ablesbar, daß 50 % der Unternehmen (unter den 20 umsatzst¨ arksten) nur 27 % des Umsatzes aufweisen. 2
Intel NEC Toshiba Motorola Hitachi Texas Instruments Samsung Fujitsu Mitsubishi IBM
10.1 8.0 7.6 7.2 6.6 5.6 4.8 3.9 3.8 3.0
Philips Matsushita SGS-Thompson Sanyo Sharp AMD Siemens Nat. Semicond. Sony Goldstar
2.9 2.9 2.6 2.3 2.2 2.1 2.1 2.0 1.9 1.7
Tabelle 2.6: Umsatz der zwanzig gr¨ oßten Halbleiter-Hersteller in Mrd. USDollar (Quelle: S¨ uddeutsche Zeitung, 26.4.1996)
82
2. Univariate Deskription und Exploration von Daten
ai
hi
fi
uj
ai h i
Summe
ai hi
vj
1.7 1.9 2.0 2.1 2.2 2.3 2.6 2.9 3.0 3.8 3.9 4.8 5.6 6.6 7.2 7.6 8.0 10.1
1 1 1 2 1 1 1 2 1 1 1 1 1 1 1 1 1 1
0.05 0.05 0.05 0.10 0.05 0.05 0.05 0.10 0.05 0.05 0.05 0.05 0.05 0.05 0.05 0.05 0.05 0.05
0.05 0.10 0.15 0.25 0.30 0.35 0.40 0.50 0.55 0.60 0.65 0.70 0.75 0.80 0.85 0.90 0.95 1
0.0204 0.0228 0.0240 0.0504 0.0264 0.0276 0.0312 0.0696 0.0360 0.0456 0.0468 0.0576 0.0672 0.0792 0.0864 0.0912 0.0960 0.1216
0.020 0.043 0.067 0.117 0.144 0.171 0.202 0.272 0.308 0.354 0.400 0.458 0.525 0.604 0.691 0.782 0.878 1
1
20
1.7 1.9 2.0 4.2 2.2 2.3 2.6 5.8 3.0 3.8 3.9 4.8 5.6 6.6 7.2 7.6 8.0 10.1 83.3
= Summe
Tabelle 2.7: Berechnung der Lorenzkurve f¨ ur die Halbleiter-Industrie
Gini-Koeffizient Die St¨ arke der Konzentration dr¨ uckt sich in der Lorenzkurve durch die Entfernung von der Diagonalen aus. Ein naheliegendes Maß f¨ ur die Konzentration benutzt daher die Fl¨ ache zwischen der Diagonalen und der Lorenzkurve und setzt diese ins Verh¨altnis zur “Gesamtfl¨ ache” zwischen u-Achse und Diagonale (innerhalb des Quadrates mit der Seitenl¨ ange 1). Das daraus resultierende Konzentrationsmaß heißt Gini-Koeffizient.
2.3 Konzentrationsmaße
83
Gini-Koeffizient Der Gini-Koeffizient ist bestimmt durch G=
Fl¨ ache zwischen Diagonale und Lorenzkurve Fl¨ ache zwischen Diagonale und u-Achse
= 2 · Fl¨ ache zwischen Diagonale und Lorenzkurve Geordnete Urliste x1 ≤ . . . ≤ xn : n
2
ixi
i=1 n
G=
n
− xi
n+1 n
i=1
H¨aufigkeitsdaten mit a1 < . . . < ak : k
G=
(ui−1 + ui )hi ai
i=1 k
− 1, hi ai
i=1
wobei ui =
i
j=1 hj /n,
vi =
i
j=1 hj aj /
k
j=1 hj aj .
Die beiden letzten Ausdr¨ ucke f¨ ur den Gini-Koeffizienten ergeben sich durch einfache Umformung. F¨ ur die H¨ aufigkeitsform des Gini-Koeffizienten sind die entsprechenden Knickstellen eingesetzt. F¨ ur gruppierte Daten mit bekannten Merkmalssummen ur die Merkmalssumerh¨alt man G nach der mittleren Formel, wobei wiederum xi f¨ me der i-ten Klasse steht, f¨ ur gruppierte Daten mit unbekannten Merkmalssummen berechnet man G nach der unteren Formel, wobei die Auspr¨agungen a1 , . . . , ak durch die Klassenmitten m1 , . . . , mk ersetzt werden. Wie man sich einfach u ¨ berlegt, sind die extremen Auspr¨agungen des GiniKoeffizienten von der Form Gmin = 0 bei Nullkonzentration, x1 = . . . = xn Gmax = n−1 n bei maximaler Konzentration, x1 = . . . = xn−1 = 0, xn = 0. Die maximale Aupr¨ agung des Koeffizienten h¨angt damit von der Anzahl der Merkmalstr¨ager ab. Um diesen Effekt zu vermeiden, betrachtet man meist den normierten Gini-Koeffizienten.
84
2. Univariate Deskription und Exploration von Daten
Abbildung 2.28: Lorenzkurve f¨ ur die Marktkonzentration in der HalbleiterIndustrie
Normierter Gini-Koeffizient (Lorenz-M¨ unzner-Koeffizient) G∗ =
Interpretation
G n G mit dem Wertebereich = Gmax n−1
G∗ ∈ [0, 1]
F¨ ur die Interpretation ist zu beachten: (a) Der Gini-Koeffizient als Maß f¨ ur die Konzentration sollte immer in Zusammenhang mit der Lorenzkurve interpretiert werden. In Abbildung 2.29 sind zwei L¨ ander mit unterschiedlichen Lorenzkurven (f¨ ur den Grundbesitz), aber identischen Gini-Koeffizienten dargestellt. W¨ahrend in Land A die a¨rmere H¨alfte der
Abbildung 2.29: Zwei unterschiedliche Lorenzkurven mit gleichen Gini-Koeffizienten
relative Konzentration
Bev¨olkerung gerade 10 % besitzt, besitzen in Land B die reichsten 10 % der Bev¨olkerung 50 % des Grundbesitzes. (b) Lorenzkurve und Gini-Koeffizient zielen auf die relative Konzentration ab.
2.3 Konzentrationsmaße
85
Teilen sich zwei Anbieter einen Markt, so daß jeder einen 50 %igen Anteil beliefert, so liegt keine Konzentration (G = 0) vor. Bei zwei Anbietern von keiner Konzentration zu sprechen, ist jedoch in vielen Anwendungsbereichen inad¨aquat. Als relatives Konzentrationsmaß, das nur den Prozentanteil der Menge in Abh¨angigkeit vom Prozentanteil der Marktteilnehmer betrachtet, ber¨ ucksichtigt der Gini-Koeffizient nicht die Anzahl der Marktteilnehmer.
2.3.2
Alternative Konzentrationsmaße
Konzentrationsrate CRg Lorenzkurve und Gini-Koeffizient betrachten die relative Konzentration und damit Problemstellungen der Art “Wieviel Prozent der Marktteilnehmer teilen sich wieviel Prozent des Volumens?” Die daraus resultierende Nichtber¨ ucksichtigung der absoluten Anzahl der Teilnehmer wird vermieden bei Konzentrationsmaßen, die auf Problemstellungen der Form “Wieviele Anbieter haben wieviel Prozent des Marktvolumens?” abzielen. F¨ ur die g gr¨ oßten Anbieter liefert eine derartige Aussage die Konzentrationsrate CRg .
Konzentrationsrate CRg F¨ ur vorgegebenes g und x1 ≤ . . . ≤ xn bildet man CRg =
n i=n−g+1
pi ,
xi wobei pi = n xj j=1
den Merkmalsanteil der i-ten Einheit bezeichnet. Die Konzentrationsrate gibt unmittelbar wieder, welcher Anteil von den g gr¨oßten Merkmalstr¨agern gehalten wird. Sie liefert damit eine Information, die schon in der Lorenzkurve enthalten ist. Die Beschr¨ ankung auf die g gr¨oßten Merkmalstr¨ager kann sich nachteilig auswirken. Bei Vergleichen beispielsweise von Industriezweigen, kann die Festlegung von g bestimmen, welcher Industriezweig konzentrierter erscheint.
86
2. Univariate Deskription und Exploration von Daten
Herfindahl-Index Ein weiteres gebr¨ auchliches Konzentrationsmaß ist die nach Herfindahl benannte Kennzahl. Ausgangspunkt sind wiederum nicht-negative Auspr¨agungen x1 , . . . , xn .
Herfindahl-Index H=
n
p2i ,
wobei
pi =
i=1
xi n xj j=1
den Merkmalsanteil der i-ten Einheit bezeichnet.
F¨ ur die Extremkonstellationen ergibt sich Hmin = n1 bei gleichem Marktanteil, d.h. x1 = . . . = xn (pi = 1/n) Hmax = 1 bei einem Monopolisten, d.h. x1 = . . . = xn−1 = 0, xn = 0 (pn = 1). Der Wertebereich von H ist bestimmt durch 1 ≤ H ≤ 1, n und man sieht unmittelbar, daß die durch H gemessene Konzentration umso kleiner wird, je mehr Anbieter mit gleichem Marktanteil beteiligt sind. Der Gini-Koeffizient ist in diesem Fall unabh¨ angig von der Anzahl der Anbieter immer null. Bei gleichem Markanteil gibt Hmin = 1/n den Anteil jedes Anbieters am Markt an. Beispiel 2.28
Halbleiter-Industrie F¨ ur die Lorenzkurve aus Abbildung 2.28 (Seite 84) erh¨alt man einen Gini-Koeffizienten von G = 0.191, was f¨ ur eine deutliche wenn auch (weltweit betrachtet) noch nicht u ¨berm¨aßige Konzentration spricht. Der Herfindahl-Index liefert mit H = 0.071 ein ¨ahnliches Ergebnis. F¨ ur die absolute Konzentrationsrate der umsatzst¨arksten Unternehmen ergeben sich CR1 = 0.122, CR5 = 0.474 und CR10 = 0.727. Daraus ersieht man eine doch nicht zu untersch¨ atzende Konzentration, da bespielsweise 5 Unternehmen nahezu 50 % des Umsatzes beisteuern. 2
2.4
Dichtekurven und Normalverteilung
87
2.4
Dichtekurven und Normalverteilung
2.4.1
Dichtekurven
Mit den bisher behandelten graphischen und numerischen Methoden verf¨ ugen wir bereits u oglichkeiten, um die Verteilung eines erhobenen ¨ ber eine gute Auswahl von M¨ Merkmals zu visualisieren und durch Kennzahlen zusammenfassend zu beschreiben. In vielen Anwendungen wird allerdings f¨ ur ein metrisches Merkmal ein umfangreicher Datensatz erhoben, wie etwa die Nettomieten in der Mietspiegelstichprobe oder die t¨aglichen Renditen von Aktien. Stamm-Blatt-Diagramme sind dann praktisch nicht mehr erstellbar, H¨ aufigkeitstabellen und Histogramme f¨ ur gruppierte Daten unterdr¨ ucken Information und h¨ angen von der Wahl der Klassen ab, und Maßzahlen beschreiben nur Teilaspekte der Daten. Histogramme entsprechen auch optisch nicht der gedanklichen Vorstellung, daß die Verteilung eines stetigen Merkmals besser durch eine glatte Kurve als durch eine – oft sehr sprunghafte – Treppenfunktion repr¨asentiert wird. Der Vorstellung einer stetigen Verteilung kommt bei umfangreichen Datens¨atzen die empirische Verteilungsfunktion deutlich n¨aher, wie man am Beispiel der Nettomieten in Abbildung 2.21 (Seite 52) sieht. Hier bietet es sich geradezu an, die – mit dem Auge kaum mehr wahrnehmbare – Treppenfunktion durch eine glatte stetige Funktion zu approximieren. Allerdings sind Regelm¨aßigkeiten oder Besonderheiten einer Verteilung mit Hilfe der empirischen Verteilungsfunktion oft nicht leicht erkennbar. Es liegt deshalb nahe, Histogramme durch eine glatte Kurve, eine sogenannte Dichtekurve, zu approximieren. Abbildung 2.30 zeigt zum Histogramm monatlicher Aktien-Renditen eine stetige Dichtekurve, mit der die Form der Verteilung in idealisierter Weise beschrieben werden kann.
0
20
40
60
80
Diese stetige Kurve gl¨ attet zwar einige Details des Histogramms heraus, daf¨ ur gibt sie eine optisch kompakte Visualisierung der Form der Verteilung und l¨aßt sich
Ŧ0.01
0
0.01
monatliche Durchschnittsrendite der MRUŦAktie
Abbildung 2.30: Histogramm und Dichtekurve der Durchschnittsrenditen der M¨ unchener R¨ uckversicherungsaktie
Glattheit Dichtekurve
88
2. Univariate Deskription und Exploration von Daten
oft durch eine einzige Formel als Funktion f (x) beschreiben. ¨ Beim Ubergang von Histogrammen zu stetigen Dichtekurven f (x) m¨ ussen jedoch folgende wichtige Eigenschaften des Histogramms erhalten bleiben: Die Treppenfunktion des Histogramms ist nichtnegativ, und die von ihr u ¨berdeckte Fl¨ache ist gleich 1. Zudem ist die Fl¨ ache u ¨ber dem Wertebereich einer Klasse gleich der relativen H¨ aufigkeit f¨ ur diese Klasse. Dies f¨ uhrt zu folgenden Anforderungen an Dichtekurven: Dichtekurven Eine stetige Funktion f (x) ist eine Dichtekurve oder kurz Dichte, wenn f (x) ≥ 0 und die von f (x) u ¨berdeckte Gesamtfl¨ache gleich 1 ist, also f (x)dx = 1 gilt. Die Fl¨ ache, die von der Kurve u ¨ ber einem bestimmten Intervall [a, b] von x-Werten begrenzt wird, ist dann als prozentualer Anteil der x-Werte zu interpretieren, die in dieses Intervall fallen, siehe Abbildung 2.31.
Abbildung 2.31: Histogramm und Dichtekurve
Symmetrie Schiefe Modalit¨at
Diese Fl¨ ache wird beim Histogramm durch das schraffierte Rechteck u ¨ber [a, b] approximiert. Dichtekurven k¨ onnen wie Histogramme viele Formen besitzen. Insbesondere unterscheidet man wieder zwischen symmetrischen und schiefen Dichtekurven sowie unimodalen und multimodalen Dichtekurven. Einige Maßzahlen f¨ ur H¨ aufigkeitsverteilungen lassen sich sofort auf Dichtefunktionen u bertragen. Die Abbildung 2.33 zeigt, wie Median und Quantile in Analogie ¨ zu H¨aufigkeitsverteilungen definiert werden k¨onnen.
2.4
Dichtekurven und Normalverteilung
Abbildung 2.32: Verschiedene Formen von Dichtekurven
Abbildung 2.33: Median und Quantil
Median und Quantile einer Dichtekurve F¨ ur 0 < p < 1 ist das p-Quantil xp der Wert auf der x-Achse, der die Gesamtfl¨ache unter f (x) in eine Fl¨ ache von p·100 % links und eine Fl¨ache (1−p)·100 % rechts von xp aufteilt. ache in zwei gleich große linke und rechte Der Median x0.5 teilt die Gesamtfl¨ H¨alften auf.
89
90
parametrisch
nonparametrisch
2. Univariate Deskription und Exploration von Daten
F¨ ur symmetrische und unimodale (eingipfelige) Dichtekurven liegt der Median somit in der Mitte, f¨ allt mit dem Modus als Symmetriepunkt zusammen und kann als Mittelwert der Dichte f (x) bzw. des Merkmals X angesehen werden. Um eine empirische Verteilung m¨oglichst gut durch eine Dichtekurve zu repr¨asentieren, gibt es verschiedene M¨oglichkeiten. So kann man etwa versuchen, bestimmte parametrische Formen von Verteilungen wie die im n¨achsten Abschnitt beschriebene Normalverteilung durch geeignete Wahl der Parameter so zu spezifizieren, daß sie den Daten m¨ oglichst gut angepaßt werden. Deutlich flexiblere M¨oglichkeiten bieten sogenannte nonparametrische Approximationen von Dichtekurven. Eine sehr popul¨are und in etlichen Programmpaketen als Standard angebotene Methode ist in Abschnitt∗2.4.3 genauer beschrieben. Die in den folgenden Abbildungen dargestellten Dichtekurven zu den Histogrammen von Nettomieten, t¨aglichen Renditen der MRU-Aktie und Zinss¨ atzen festverzinslicher Wertpapiere sind mit dieser Methode berechnet worden.
2.4.2
GaußVerteilung
Normalverteilungen
Normalverteilungen bilden eine Klasse von besonders wichtigen Dichtekurven. Sie sind symmetrisch, unimodal und glockenf¨ormig. Sie heißen nach dem deutschen Mathematiker Gauß, der ihre Bedeutung erkannte, auch Gauß-Verteilungen. In Abbildung 2.30 ist eine Normalverteilung dem Histogramm monatlicher Renditen angepaßt. Normalverteilungen sind durch eine spezielle Formel f¨ ur die Dichtekurven definiert: Dichtekurven von Normalverteilungen Die Dichte ist f¨ ur jedes x ∈
durch
1 x−μ 2 1 f (x|μ, σ) = √ exp − 2 σ σ 2π und σ > 0 ist f (x|μ, σ) definiert. F¨ ur gegebene Werte der Parameter μ ∈ eindeutig spezifiziert. Dabei heißt μ Mittelwert und σ Standardabweichung von f (x|μ, σ). Der Faktor
1 exp − 2 unimodal symmetrisch glockenf¨ormig
x−μ σ
2
bestimmt die Form von f (x): Die Dichte besitzt genau ein Maximum an der Stelle
Dichtekurven und Normalverteilung
91
0.0000
0.0005
0.0010
0.0015
2.4
0
500
1000
1500
0
10
20
30
Nettomiete in Euro
Ŧ0.1
0
0.1
0.00
0.05
0.10
0.15
Rendite der MRUŦAktie
0
2
4
6
8
10
12
Umlaufrendite in Prozent
Abbildung 2.34: Dichtekurven zu Nettomieten, Tagesrenditen und Umlaufrenditen
x = μ. Sie f¨allt links und rechts symmetrisch und glockenf¨ormig gegen Null ab. Dabei ist dieser Abfall umso steiler und damit die Kurve umso enger um das Mittel μ konzentriert, je kleiner der Wert von σ ist. Je gr¨oßer die Standardabweichung σ ist, desto mehr Fl¨ ache liegt weiter links oder rechts von μ und umso gr¨oßer ist die Streuung der x-Werte. Der erste Faktor ist so gew¨ahlt, daß die Fl¨ache unter f (x) gleich 1 wird. Er dient also nur als Normierungskonstante und hat keinen Einfluß auf die Form von f (x). Die Abbildungen 2.35 zeigen zwei Normalverteilungskurven
Normierung
92
2. Univariate Deskription und Exploration von Daten
mit kleinem und großem σ.
Abbildung 2.35: Zwei Dichtekurven einer Normalverteilung mit kleiner (links) und großer (rechts) Standardabweichung σ
Mittelwert μ und Standardabweichung σ entsprechen in ihrer Bedeutung dem arithmetischen Mittel x ¯ und der empirischen Standardabweichung s˜ von Beobachur μ ist dies plausibel, da es im Zentrum der tungen x1 , . . . , xn einer Variable X. F¨ symmetrischen Verteilung liegt. Wie sp¨ater in der induktiven Statistik gezeigt wird, ist eine Normalverteilung einer H¨aufigkeitsverteilung mit x ¯, s˜ so anzupassen, daß μ=x ¯ und σ = s˜ gilt. Genau dies wurde bei der Approximation des Histogramms monatlicher Aktienrenditen durch eine Normalverteilungskurve in Abbildung 2.30 beachtet. Standardisierung
Variiert man μ und σ, so erh¨ alt man verschiedene Normalverteilungen. Alle diese Normalverteilungen lassen sich aber auf eine Standardform zur¨ uckf¨ uhren.
Standardnormalverteilung Sei f (x) die Dichtekurve einer Normalverteilung mit Mittelwert μ und Standardabweichung σ. Dann besitzt die standardisierte Variable Z=
X −μ σ
die Dichtekurve einer Normalverteilung mit μ = 0 und σ = 1. Diese Normalverteilung heißt Standardnormalverteilung und die Variable Z entsprechend standardnormalverteilt. Die zugeh¨ orige Dichtekurve wird mit φ(z) bezeichnet, d.h. 2 z 1 . φ(z) = √ exp − 2 2π Der Faktor exp(−z 2 /2) ergibt sich unmittelbar aus der allgemeinen Form, wenn man dort z = (x − μ)/σ einsetzt. Durch die um den Faktor 1/σ ver¨anderte Skalierung
2.4
Dichtekurven und Normalverteilung
93
√ ¨andert sich auch die Normierungskonstante zu 1/ 2π, so daß die Fl¨ache unter φ(z) wieder gleich 1 ist. ¨ Der Ubergang von X zur standardisierten Variable Z bewirkt, daß Beobachtungen als Abweichungen vom Mittel μ und mit der Standardabweichung als Maßeinheit gemessen werden. Mit Hilfe der Standardisierung k¨onnen alle Berechnungen f¨ ur X, etwa die Berechnung von Quantilen, auf Berechnungen f¨ ur die Standardnormalverteilung zur¨ uckgef¨ uhrt werden. Die Quantile zp von φ(z) lassen sich allerdings nicht in einfacher Weise durch analytische Formeln bestimmen. Deshalb sind die Quantile der Standardnormalverteilung entweder aus Tabellen zu entnehmen bzw. werden mit numerischen Verfahren am Computer berechnet. Einige ausgew¨ ahlte Quantile sind (vgl. dazu Tabelle A): Quantile der Standardnormalverteilung p zp
50 % 0.0 (Median)
75 % 0.67
90 % 1.28
95 % 1.64
97.5 % 1.96
99 % 2.33
Wegen der Symmetrie der Normalverteilung gilt: zp = −z1−p
Symmetrie
f¨ ur 0 < p < 1
Man n¨ utzt diese Beziehung f¨ ur Werte von p kleiner 50 %. Es gilt also z.B. z0.1 = ur die Verteilung f (x) erh¨alt man aus den Quantilen zp −z0.9 = −1.28. Quantile xp f¨ der Standardnormalverteilung φ(z) durch die zur Standardisierung inverse lineare Transformation xp = μ + σzp . In gleicher Weise erh¨ alt man Anteilswerte f¨ ur Intervalle von x aus entsprechenden Intervallen f¨ ur z, indem die Fl¨ achen u ur φ(z) berechnet bzw. in ¨ber diesen Intervallen f¨ Tabellen nachgeschlagen werden. Bekannt ist folgende Regel, die in Abbildung 2.36 illustriert ist. Die 68–95–99.7–Prozent–Regel 68 %
der Beobachtungen liegen im Intervall
μ±σ
95 %
der Beobachtungen liegen im Intervall
μ ± 2σ
99.7 %
der Beobachtungen liegen im Intervall
μ ± 3σ
94
2. Univariate Deskription und Exploration von Daten
μ − 2σ
μ
μ + 2σ
Abbildung 2.36: Die 68-95-99.7-Regel f¨ ur Normalverteilungen
approximative Normalverteilung
Wenn sich eine H¨ aufigkeitsverteilung f¨ ur die Daten eines erhobenen Merkmals X gut durch eine Normalverteilung mit μ = x ¯, σ = s approximieren l¨aßt, gelten Aussagen wie die 68-95-99.7-Prozent-Regel auch approximativ f¨ ur diese Daten. So ist etwa die Aussage in Abschnitt 2.2.3 u ¨ ber die Anteile von Beobachtungswerten, die in den Intervallen x ¯ ±ks, k = 1, 2, 3, liegen, durch eine derartige Approximation entstanden. Variablen, deren Verteilung erfahrungsgem¨aß h¨aufig approximativ normal ist, sind z.B. Punktzahlen bei Klausuren oder Tests, physikalische oder technische Gr¨oßen, etwa die Abmessungen oder das Gewicht eines laufend produzierten Massenartikels, und Merkmale von homogenen biologischen Populationen, etwa Gewicht und Gr¨ oße von M¨ annern einer bestimmten Altersgruppe oder der Ertrag einer bestimmten Weizensorte. Viele andere Variablen, gerade in sozial- und wirtschaftswissenschaftlichen Anwendungen, besitzen jedoch deutlich schiefe Verteilungen und sind somit typischerweise nicht normalverteilt. Dazu geh¨oren in unseren Beispielen Nettomieten, Einkommen, Lebensdauern usw. Viele Verfahren der Statistik arbeiten dann gut, wenn eine (approximative) Normalverteilung vorliegt. Man ben¨otigt deshalb Methoden, mit denen dies beurteilt werden kann. Die Normalverteilung dient dazu als Referenzverteilung mit “idealer” Symmetrie und W¨ olbung. Nicht-normale Verteilungen sind dagegen typischerweise schief, anders “gew¨ olbt” oder “gekr¨ ummt”. Hinweise, ob eine Normalverteilung vorliegt, erh¨ alt man auch durch Maßzahlen oder durch Vergleich eines Histogramms mit einer angepaßten Normalverteilung. Genaueren Aufschluß bekommt man durch verfeinerte graphische Hilfsmittel. Dazu geh¨oren insbesondere Normal-Quantil-Plots und die Dichtesch¨ atzer des n¨ achsten Abschnitts.
2.4
Dichtekurven und Normalverteilung
95
∗Normal-Quantil-Plots Statt die H¨aufigkeitsverteilung der Beobachtungen einer Variable X direkt mit einer Normalverteilung wie in Abbildung 2.30 zu vergleichen, werden bei Normal-QuantilPlots die Quantile der H¨ aufigkeitsverteilung mit entsprechenden Quantilen der Standardnormalverteilung verglichen. Dazu faßt man die Werte x(1) , . . . , x(n) als Quantile der H¨aufigkeitsverteilung auf und tr¨ agt sie gegen entsprechende Quantile der Standardnormalverteilung ab. Sei z.B. n = 20, dann ist x(1) das 1/20 = 5 %-Quantil, x(2) das 1/10 = 10 %-Quantil, usw. Allgemein ist dann x(i) das i/n-Quantil. Statt x(i) gegen das i/n-Quantil der Standardnormalverteilung aufzutragen, ist es g¨ unstiger, die (i − 0.5)/n-Quantilen der Standardnormalverteilung zu verwenden. Durch diese sogenannte Stetigkeitskorrektur wird die Approximation der empirischen Verteilung durch eine Normalverteilung verbessert.
NormalQuantil-Plots
Normal-Quantil-Plots ur i = 1, . . . , n werden die (i − 0.5)/nSei x(1) , . . . , x(n) die geordnete Urliste. F¨ Quantile z(i) der Standardnormalverteilung berechnet. Der Normal-QuantilPlot (NQ-Plot) besteht aus den Punkten (z(1) , x(1) ), . . . , (z(n) , x(n) ) im z-x-Koordinatensystem.
F¨ ur gr¨oßeres n wird der Rechenaufwand sehr groß. NQ-Plots werden deshalb in statistischen Programmpaketen am Computer erstellt und geh¨oren inzwischen zum Standardwerkzeug der explorativen Datenanalyse. Mit ihnen lassen sich Schiefe und W¨olbung im Vergleich zu Normalverteilungen und andere Besonderheiten der Daten sehr gut erkennen. Falls die empirische Verteilung der Beobachtungen approximativ standardnormalverteilt ist, liegen die Punkte (z(i) , x(i) ) des NQ-Plots nahe an oder auf der Winkelhalbierenden z = x wie in Abbildung 2.37(a). Falls weiterhin x ¯ = 0 gilt, aber die Verteilung linkssteil ist, so sind die z-Quantile gr¨oßer als die x-Quantile, so daß der NQ-Plot durchh¨angt, in der Tendenz also konvex ist (vgl. Abb. 2.37(b)). F¨ ur eine rechtssteile Verteilung erh¨alt man ganz analog einen konkaven NQ-Plot (vgl. Abb. 2.37(c)). F¨ ur eine symmetrische Verteilung, die bei x ¯ = 0 einen im Vergleich zur Standardnormalverteilung spitzeren Gipfel, d.h. eine st¨arkere W¨ olbung hat und daf¨ ur dickere Enden links und rechts besitzt, erh¨ alt man einen NQ-Plot wie in Abbildung 2.37(d).
approximativstandardnormalverteilt linkssteil
rechtssteil symmetrisch, gew¨olbt approximativ normalverteilt
96
2. Univariate Deskription und Exploration von Daten
•
•
• •
• • •• •
•• •
••
•
••• • •• ••• •• • ••• ••• • •• • •••• ••
•• • •
•
•• •
•
• • •
•
•
•
• • ••
•••
• •
••• • • ••••• •••• •••••• • • ••• ••
••
•• • • • •
•
• • • ••
•
• • •••
••
•
• •• •• ••••••• • ••••• •••••
•
•
•
•
•
• •••
• • ••
•
•
•• •••••••••••••••••••••••• • • • • • • ••••
• • •
•
•
• •
•
•
Abbildung 2.37: NQ-Plot einer Normalverteilung (a), einer linkssteilen Verteilung (b), einer rechtssteilen Verteilung (c) und einer symmetrischen, aber stark gekr¨ ummten Verteilung (d)
Ist die Variable X approximativ normalverteilt mit Mittelwert μ = x ¯ und Standardabweichung σ = s, so ist die standardisierte Variable Z = (X − μ)/σ approximativ standardnormalverteilt. Die Punkte (z(i) , x(i) ) des NQ-Plots liegen dann in etwa auf der Geraden x = μ + σz. Abweichungen von dieser Geraden indizieren dann in analoger Weise Schiefe, W¨ olbung oder andere Besonderheiten, wie Ausreißer oder Bimodalit¨ at, im Vergleich zu einer Normalverteilung mit μ = x ¯ und σ = s. Beispiel 2.29
Nettomieten Der NQ–Plot f¨ ur die Nettomieten der 26 Wohnungen von h¨ochstens 71 qm und ohne Warmwasser k¨ onnte – wenn auch m¨ uhsam – im Prinzip noch von Hand erstellt werden. Die folgende Tabelle zeigt beispielhaft die Koordinaten der einzelnen Punkte, wobei die z(i) der Tabelle A der Standardnormalverteilung entnommen werden k¨onnen. i 1 2 3 .. .
x(i) 77.31 104.14 132.24 .. .
Quantil 0.019 0.058 0.096 .. .
z(i) −2.07 −1.57 −1.30 .. .
24 25 26
362.00 400.05 533.92
0.904 0.942 0.981
1.30 1.57 2.07
2.4
Dichtekurven und Normalverteilung
97
400 300 100
200
Nettomiete in Euro
500
Die Werte z(i) geben dabei die x–Koordinaten und die x(i) die zugeh¨origen y–Koordinaten an. Die Gerade erh¨ alt man schließlich aus der Beziehung x = x ¯ +s·z = 250.02+100.53·z. Der resultierende NQ–Plot in Abbildung 2.38 weist im oberen Wertebereich keine auff¨alligen Abweichungen von der Geraden und damit von der Normalverteilung auf: Die leichten Schwankungen um die “Ideallinie” k¨ onnen rein zuf¨ alliger Natur sein. Bei den niedrigen Nettomieten
Ŧ2
Ŧ1
0
1
2
Quantile der Standardnormalverteilung
Abbildung 2.38: NQ-Plot der Nettomieten von 26 kleinen Wohnungen ohne Warmwasser
weichen die Punkte aber systematisch nach oben hin von der Geraden ab, d.h. die Quantile der empirischen Verteilung sind gr¨ oßer als die der Normalverteilung. Mit anderen Worten liegen die Daten hier n¨ aher am Mittelwert als bei der Normalverteilung. Insgesamt bedeutet dies, daß die Verteilung der Nettomieten in dieser Teilstichprobe leicht linkssteil ist, was durch das Histogramm in Abbildung 2.10 best¨atigt wird. Dies wird deutlicher, wenn man den NQ–Plot f¨ ur die Nettomieten aller 2051 Wohnungen in Abbildung 2.39 betrachtet. Hier liegen sowohl im oberen als auch im unteren Wertebereich alle Punkte u ¨ ber der Geraden, was ganz offensichtlich auf eine linkssteile Verteilung hinweist. 2
Renditen Einerseits bedingt durch Ausreißer, d.h. besonders starke Verluste bzw. Gewinne, und andererseits einer H¨ aufung von Nullrenditen, sind empirische Verteilungen von Aktienrenditen zwar symmetrisch, aber in der Regel st¨arker gekr¨ ummt als die Normalverteilung. Beispielsweise zeigt der NQ–Plot der t¨ aglichen Renditen der BMW–Aktie in Abbildung 2.40 den daf¨ ur typischen Verlauf. Dieser Effekt l¨ aßt deutlich nach, wenn anstelle von Tagesrenditen die Monatsdurchschnittsrenditen betrachtet werden. 2
Beispiel 2.30
symmetrisch st¨arker gekr¨ ummt
2. Univariate Deskription und Exploration von Daten
1000 500
Nettomiete in Euro
1500
98
Ŧ3
Ŧ2
Ŧ1
0
1
2
3
Quantile der Standardnormalverteilung
Abbildung 2.39: NQ–Plot der Nettomieten von 2051 Wohnungen • •• • •• • ••• ••• ••• •••••• • • • • •••• •••••• ••••••• ••••••••••• • • • • •• • • •• • • • • • ••••••• ••• •••••••••• ••••••• ••••••••••••• ••• ••••••••••• ••••••• ••••••••••• • • • • • • •••••• •••• ••••• • • •• •• •• •• •
•
•
Abbildung 2.40: NQ-Plot der Renditen der BMW–Aktie
∗2.4.3
Approximation von Dichtekurven
Mit NQ-Plots kann man untersuchen und entscheiden, ob die Verteilung einer Variable durch die stetige Dichtekurve einer Normalverteilung ausreichend gut approximiert werden kann. Ist dies nicht der Fall, so verbleibt zun¨achst die M¨oglichkeit, sich nach Gruppieren der Daten mit der Repr¨asentation durch ein Histogramm zufrieden zu geben. Zwei Nachteile von Histogrammen wurden bereits angesprochen:
2.4
Dichtekurven und Normalverteilung
99
Die – auch bei Verwendung von Faustregeln subjektive – Klasseneinteilung kann den optischen Eindruck wesentlich beeinflussen, und eine stetige Dichtekurve wird durch eine Treppenfunktion dargestellt, deren Sprungstellen gerade die gew¨ahlten Klassengrenzen sind. Diese Schw¨ ache des Histogramms als Approximation einer stetigen Dichtekurve f (x) wird in folgender Abbildung noch deutlicher:
....................................
....................................
... ..
... ..
-
... ..
x1 x
x2
An der Stelle x hat die Beobachtung x1 keinen Einfluß auf die H¨ohe des Histogramms. Dagegen z¨ahlt die von x weiter weg gelegene Beobachtung x2 bei der Bestimmung dieser H¨ohe voll mit. Dies kann man vermeiden, indem man statt der fest gew¨ahlten Klasseneinteilung des Histogramms ein gleitendes Histogramm verwendet. F¨ ur einen beliebigen x-Wert bildet man dazu ein Intervall [x − h, x + h) der Breite 2h und approximiert die Dichtekurve an der Stelle x durch 1 · Anzahl der Daten xi in [x − h, x + h) . fˆ(x) = n 2h Der Wert fˆ(x) ist also analog zum Histogramm die H¨ohe eines Rechtecks mit Breite 2h, so daß die Rechtecksfl¨ ache gleich der relativen H¨aufigkeit der Daten xi im Intervall [x − h, x + h) ist. Dies veranschaulicht die folgende Abbildung, wobei acht Daten x1 , . . . , x8 durch ∗-Zeichen auf der x-Achse dargestellt sind. 6
1/2h ........
1/4h ........
...
0
*
... ..
1
... ..
... .
.... ... .. ... ... .... .. .. .... ... ... ... .. .... ...
f (x) =
4 1 8 2h
Fl¨ache= ... .
* .. * * * * .. 2 x−h x x+h
*
4 8
*
-
gleitendes Histogramm
100
2. Univariate Deskription und Exploration von Daten
L¨aßt man nun x und das Intervall [x − h, x + h) u ¨ ber die x-Achse gleiten, erh¨alt man den Graphen des gleitenden Histogramms. Rechtecksfenster Das gleitende Histogramm l¨ aßt sich mit Hilfe eines Rechteckfensters, das mit x u ¨ber die Zahlenachse gleitet, anders schreiben. Sei dazu
1 ur − 1 ≤ u < 1 2 f¨ K(u) = 0 sonst ein “Einheitsrechteckfenster” oder “Kern” mit der Fl¨ache 1 und der H¨ohe 1/2 u ¨ ber dem Intervall −1 ≤ u < 1:
...............................................................................................................................................
Dann ist 1 K h
.. ...
.. ..
.. ...
-1
0
1
x − xi h
=
K(u) - u
1/2h xi − h ≤ x < xi + h 0 sonst
ein u ¨ber xi zentriertes Rechteckfenster mit Fl¨ache 1 und Breite 2h. Damit l¨aßt sich ˆ f (x) auch in der Form n x − xi 11 ˆ K f (x) = n h h i=1
Kerne
EpanechnikovKern Bisquare-Kern Gauß-Kern
schreiben. Durch die Summation werden zu jedem x-Wert genau so viel von Rechtecksh¨ohen u ¨ber x aufaddiert, wie xi -Werte im Intervall [x − h, x + h) liegen und anschließend durch n dividiert. Gleitende Histogramme verfeinern zwar die graphische Darstellung, sie sind jedoch immer noch unstetige Treppenfunktionen, da unstetige Rechteckfenster aufsummiert werden. Stetige Sch¨ atzer f¨ ur Dichtekurven erh¨alt man nun, indem man statt des Rechteckkerns stetige Kerne zul¨aßt. In der Praxis werden folgende Kerne h¨aufig verwendet: 3 K(u) = (1 − u2 ) f¨ ur − 1 ≤ u < 1 , 0 sonst . 4 15 ur − 1 ≤ u < 1 , 0 sonst . K(u) = (1 − u2 )2 f¨ 16 1 2 1 f¨ ur u ∈ . K(u) = √ exp − u 2 2π
2.4
Dichtekurven und Normalverteilung
101
Abbildung 2.41: H¨ aufig verwendete Kerne zur Approximation von Dichtekurven
Mit diesen Kernen lassen sich nun Dichtefunktionen durch sogenannte KernDichtesch¨atzer approximieren. Kern-Dichtesch¨ atzer Sei K(u) eine Kernfunktion. Zu gegebenen Daten x1 , . . . , xn ist dann 1 K fˆ(x) = nh n
i=1
x − xi h
,x ∈
ein (Kern-) Dichtesch¨ atzer f¨ ur f (x). Im Vergleich zum Rechteckkern werden durch die Form von Epanechnikov-, Bisquare- und Gauß-Kern n¨ aher bei x liegende Datenpunkte st¨arker gewichtet, als weiter von x entfernte. Dies entspricht der intuitiven Vorstellung, daß zu x benachbarte Werte gr¨oßeren Einfluß auf die Sch¨ atzung von f (x) haben sollten als weiter entfernte. F¨ ur alle drei Kerne erh¨ alt man eine stetige Sch¨atzung fˆ(x) und, wie f¨ ur Dichtekurven verlangt, ist die Fl¨ ache unter fˆ(x) gleich 1. F¨ ur gr¨oßeren Datenumfang n sind die Dichtesch¨ atzer mit Epanechnikov-, Bisquare- und Gauß-Kern praktisch identisch. Die Form von fˆ(x) wird dagegen entscheidend von der Bandbreite h beeinflußt. F¨ ur großes h sind die Fenster weit, die Kurve wird sehr glatt, aber wichtige Details k¨onnen verschluckt werden. Ist umgekehrt h zu klein, wird die Kurve rauher, es treten jedoch m¨oglicherweise Details hervor, die nur mit der Zuf¨alligkeit der Stichprobe ¨ etwas zu tun haben. Ahnlich wie f¨ ur Histogramme existieren Faustregeln zur Wahl von h, aber auch komplexere, computerintensive M¨oglichkeiten zur Bestimmung von
Wahl der Bandbreite
102
2. Univariate Deskription und Exploration von Daten
0.0000
0.0005
0.0010
0.0015
h. Die statistischen Programmpakete lassen jedoch auch zu, daß h vom Benutzer, geleitet von Faustregeln, subjektiv nach dem optischen Eindruck gew¨ahlt wird. Die folgenden Abbildungen zeigen f¨ ur die Nettomieten und Tagesrenditen sowohl die Approximation durch Kerndichtesch¨atzer als auch durch eine Normalverteilung. Man sieht auch hier, ¨ ahnlich wie bei den Quantilen, daß die Verteilungen deutlich von der Normalverteilung abweichen.
0
500
1000
1500
0
10
20
30
Nettomiete in Euro
Ŧ0.1
0
0.1
Rendite der MRUŦAktie
Abbildung 2.42: Approximation durch Kerndichtesch¨ atzer (—) und Normalverteilung (· · · )
2.5
Zusammenfassung und Bemerkungen
Bei statistischen Erhebungen treten in der Regel unterschiedliche Typen von Merkmalen auf: 1. Das Merkmal X besitzt nur wenige verschiedene Auspr¨ agungen. Sehr oft ist dabei X ein kategoriales Merkmal, und die Auspr¨agungen entsprechen den verschiedenen geordneten oder ungeordneten Kategorien. 2. Das Merkmal X ist metrisch und besitzt viele verschiedene Auspr¨ agungen. Dabei ist X entweder stetig oder diskret mit vielen m¨oglichen Werten (quasi-stetig).
2.5 Zusammenfassung und Bemerkungen
103
Um die Verteilung von X darzustellen, geht man im ersten Fall von der Urliste ur die verschiedenen Auspr¨agungen x1 , . . . , xn u ¨ ber zu den H¨aufigkeitsdaten, d.h. f¨ a1 , . . . , ak werden die absoluten bzw. relativen H¨aufigkeiten f1 , . . . , fk bzw. h1 , . . . , hk berechnet und in einer H¨ aufigkeitstabelle eingetragen. Zur graphischen Darstellung werden vor allem Kreis- und S¨ aulendiagramme verwendet. Um Lage und Form der Verteilung eines metrischen Merkmals zu beschreiben, sind andere Darstellungsarten besser geeignet. Herk¨ommliche Mittel dazu sind das Stamm-Blatt-Diagramm, das Histogramm und die empirische Verteilungsfunktion. Neuere, allerdings computerintensive Werkzeuge der explorativen Datenanalyse sind Box-Plots sowie Dichtekurven und Normal-Quantil-Plots (Abschnitt 2.4). Damit lassen sich Fragen folgender Art beantworten: Wo liegt das Zentrum der Daten? Wie stark streuen die Daten um dieses Zentrum? Ist die Verteilung schief oder symmetrisch, uni- oder multimodal, flach oder gew¨olbt? Gibt es Ausreißer? Solche Eigenschaften von Verteilungen lassen sich in komprimierter Form, allerdings unter Informationsverlust, durch Maßzahlen oder Parameter formal quantifizieren. Lagemaße beschreiben das Zentrum einer Verteilung. Am wichtigsten sind das arithmetische Mittel, der Median und der Modus. Welches dieser Maße in einer bestimmten Fragestellung sinnvoll ist h¨ angt von Kontext und vom Merkmalstyp ab: Skalierung Lagemaß
nominal Modus
ordinal Modus Median
kardinal Modus Median arithm. Mittel
F¨ ur metrische Merkmale mit vielen Auspr¨agungen ist es sinnvoll, alle drei Maße zu berechnen. Mit Hilfe der Lageregel k¨ onnen Hinweise zur Schiefe bzw. Symmetrie gewonnen werden. Die Streuung der Daten l¨ aßt sich f¨ ur metrische Merkmale durch die empirische Varianz, die Standardabweichung und den Variationskoeffizienten beschreiben. Diese Maßzahlen sollten aber immer durch die auf Quantilen basierende F¨ unf-PunkteZusammenfassung und noch besser durch Box-Plots erg¨anzt werden. Damit gewinnt man genauere Information zu Streuung und Schiefe der Verteilung sowie u ¨ ber m¨ogliche Ausreißer. Auch f¨ ur Schiefe und W¨olbung existieren Maßzahlen. Sie sind aber ohne graphische Darstellungen oft weniger aufschlußreich. H¨aufig ist es von Nutzen, an den Daten Transformationen vorzunehmen, um eine sachbezogenere Interpretation zu erm¨ oglichen oder eine symmetrischere Verteilung zu gewinnen. Bei positiven Merkmalsauspr¨agungen x, z.B. Schadstoffkonzentrationen in der Luft, wird meist die logarithmische Transformation y = ln x durchgef¨ uhrt, die außerdem in der Lage ist, Ausreißer zu entfernen. Ferner werden auch Potenztransformationen verwendet, zu denen insbesondere die Box-Cox-Transformation
104
2. Univariate Deskription und Exploration von Daten
geh¨ort, die auch bei negtiven Merkmalsauspr¨agungen angewandt werden kann. Detailierte Ausf¨ uhrungen geben Heiler und Michels (1994). Eine mit der Streuung verwandte Fragestellung gilt der Konzentration von Merkmalen auf Merkmalstr¨ agern. Die Lorenzkurve eignet sich f¨ ur die graphische Darstellung, und der Gini-Koeffizient ist die am meisten verwendete Maßzahl. Traditionelle Methoden der univariaten deskriptiven Statistik sind in jedem einf¨ uhrenden Lehrbuch beschrieben. Eine ausf¨ uhrliche Darstellung gibt z.B. Ferschl (1985). Dagegen findet sich zur explorativen Datenanalyse vergleichsweise wenig. Bahnbrechend auf diesem Gebiet war das Buch “Exploratory Data Analysis” von Tukey (1977). F¨ ur den deutschen Sprachraum bieten Polasek (1994) und Heiler ¨ und Michels (1994) einen aktuellen Uberblick. Teile der explorativen Datenanalyse sind bei Schlittgen (2000) integriert. Graphische Werkzeuge, auch interaktiver Art, gewinnen infolge leistungsstarker Rechner weiter an Bedeutung. Dazu sei auf z.B. Chambers, Cleveland, Kleiner und Tukey (1983) und Cleveland (1993) verwiesen.
2.6
Aufgaben
Aufgabe 2.1 (a) Stellen Sie die Information in Tabelle 1.4 (Seite 6) zur Kreditw¨ urdigkeit von 1000 Bankkunden auf geeignete Weise graphisch dar. Beachten Sie dabei insbesondere die unterschiedliche Klassenbreite des gruppierten Merkmals “Kredith¨ohe in DM”. (b) Berechnen Sie die N¨ aherungswerte f¨ ur das arithmetische Mittel, den Modus und den Median der Kredith¨ ohen.
Aufgabe 2.2
26 Mitglieder des Data–Fan-Clubs wurden zur Anzahl der gesehenen Folgen der Serie Star– Trek befragt. Die Mitglieder machten folgende Angaben: 183 194 202 176 199 201 208 186 194 209 166 203 177 205 173 207 202 199 172 200 198 195 203 202 208 196 Erstellen Sie ein Stamm–Blatt–Diagramm mit neun Bl¨attern.
Aufgabe 2.3
Zeigen Sie, daß sich die Summe der Abweichungen der Daten vom arithmetischen Mittel zu null aufsummiert, d.h. daß n (xi − x¯) = 0 gilt. i=1
2.6 Aufgaben
105
Beweisen Sie, daß das arithmetische Mittel bei Schichtenbildung durch
Aufgabe 2.4
1 nj x ¯j n j=1 r
x¯ =
bestimmt werden kann, wenn r Schichten mit Umf¨angen n1 , . . . , nr und arithmetischen Mitteln x¯1 , . . . , x ¯r vorliegen. Bestimmen Sie f¨ ur die folgende Mietspiegeltabelle von 1216 Wohnungen in einfachen Wohngegenden die Mittelwerte der einzelnen Schichten, d.h. die arithmetischen Gesamtmittel der einzelnen Zeilen und Spalten, und das Gesamtmittel u ¨ber alle Wohnungen.
Baualter
Nettomiete/qm Wohn߬ ache bis 38 qm 39 bis 80 qm
81 qm und mehr
bis 1918 1919 bis 1949 bis 1966 bis 1978 bis ab 1990
9.77(10) 6.91(3) 9.42(27) 10.07(73) 11.14(5) 10.70(5)
7.41(74) 5.91(35) 7.33(34) 7.22(95) 8.26(26) 9.37(26)
1948 1965 1977 1989
7.15(96) 6.35(87) 7.82(180) 7.88(282) 9.28(73) 9.87(85)
Aufgabe 2.5
Berechnen Sie mit Hilfe der Tabelle der gruppierten Kredith¨ohen aus Beispiel 1.4 (Seite 5) die Ersatzwerte f¨ ur das arithmetische Mittel, den Modus und den Median der Kredith¨ohen.
Aufgabe 2.6
Die Fachzeitschrift Mein Radio und Ich startet allj¨ahrlich in der Weihnachtswoche eine Umfrage zu den H¨ orgewohnheiten ihrer Leser. Zur Beantwortung der Frage “Wieviele Stunden h¨orten Sie gestern Radio?” konnten die Teilnehmer zehn Kategorien ankreuzen. In den Jahren 1950, 1970 und 1990 erhielt die Redaktion folgende Antworten:
Aufgabe 2.7
Stunden Anzahl 1950 Anzahl 1970 Anzahl 1990
[0, 1) [1, 2) [2, 3) [3, 4) [4, 5) [5, 6) [6, 7) [7, 8) [8, 9) [9, 10) 5 3 10 9 13 18 21 27 12 3 6 7 5 20 29 27 13 5 3 2 35 24 13 8 9 4 2 1 0 1
(a) Bestimmen Sie aus den gruppierten Daten die Lagemaße arithmetisches Mittel, Modus und Median. (b) Wie dr¨ ucken sich die ge¨ anderten H¨ orgewohnheiten durch die drei unter (a) berechneten Lagemaße aus?
106
Aufgabe 2.8
2. Univariate Deskription und Exploration von Daten
Die folgende Zeitreihe beschreibt die Zinsentwicklung deutscher festverzinslicher Wertpapiere mit einj¨ ahriger Laufzeit im Jahr 1993: Monat Zinsen in Prozent
Jan
Feb
Mrz
Apr
Mai
Jun
Jul
Aug
Sep
Okt
Nov
Dez
7.13 6.54 6.26 6.46 6.42 6.34 5.99
5.76
5.75 5.45 5.13 5.04
Berechnen Sie den durchschnittlichen Jahreszinssatz.
Aufgabe 2.9
Bernd legt beim Marathonlauf die ersten 25 km mit einer Durchschnittsgeschwindigkeit von 17 km/h zur¨ uck. Auf den n¨ achsten 15 km bricht Bernd etwas ein und schafft nur noch 12 km/h. Beim Endspurt zieht Bernd nochmals an, so daß er es hier auf eine Durchschnittsgeschwindigkeit von 21 km/h bringt. (a) Berechnen Sie Bernds Durchschnittsgeschwindigkeit u ¨ ber die gesamte Strecke von 42 km. (b) Wie lange war Bernd insgesamt unterwegs?
Aufgabe 2.10
F¨ unf Hersteller bestimmter Großger¨ate lassen sich hinsichtlich ihrer Marktanteile in zwei Gruppen aufteilen: Drei Hersteller besitzen jeweils gleiche Marktanteile von 10 Prozent, der Rest des Marktes teilt sich unter den verbleibenden Herstellern gleichm¨aßig auf. Zeichnen Sie die zugeh¨ orige Lorenzkurve und berechnen Sie den (unnormierten) Ginikoeffizienten. Betrachten Sie die Situation, daß in einer gewissen Zeitperiode vier der f¨ unf Hersteller kein Großger¨ at verkauft haben. Zeichnen Sie die zugeh¨orige Lorenzkurve und geben Sie den Wert des Ginikoeffizienten an.
Aufgabe 2.11
In einer Branche konkurrieren zehn Unternehmen miteinander. Nach ihrem Umsatz lassen sich diese in drei Klassen einteilen: F¨ unf kleine, vier mittlere und ein großes Unternehmen. Bei den mittleren Unternehmen macht ein Unternehmen im Schnitt einen Umsatz von 3 Mio Euro. Insgesamt werden in der Branche 30 Mio Umsatz j¨ahrlich gemacht. Bestimmen Sie den Umsatz, der in den verschiedenen Gruppen erzielt wird, wenn der Ginikoeffizient 0.42 betr¨ agt.
Aufgabe 2.12
F¨ ur die Nettomieten der 2051 Wohnungen der M¨ unchner Stichprobe (Beispiel 1.2, Seite 2), das Lebensalter der Magenkrebspatienten (Beispiel 2.9, Seite 46) und Renditen der BMW– Aktie sind die folgenden Schiefemaße und das W¨olbungsmaß nach Fisher bestimmt worden, wobei die Information verlorenging, welche Ergebnisse zu welchen Daten geh¨oren: g0.25 gm γ
0.03 1.01 1.63
0.06 −0.17 8.01
0.00 −0.49 0.17
K¨ onnen Sie mit Hilfe der NQ–Plots die Werte den einzelnen Datens¨atzen zuordnen?
2.6 Aufgaben
107
Basierend auf den Zinss¨ atzen aus Beispiel 2.5 (Seite 39) sind die beiden in Abbildung 2.43 dargestellten Kerndichtesch¨ atzungen durchgef¨ uhrt worden, wobei die Bandbreite gleich 1 bzw. 2 gew¨ ahlt wurde. Welche Bandbreite geh¨ ort zu welcher Graphik?
Abbildung 2.43: Zwei Kerndichtesch¨ atzer der Zinsen
Aufgabe 2.13
3 Multivariate Deskription und Exploration
In vielen Anwendungen ist man nicht nur an einem einzigen, sondern an vielen erhobenen Merkmalen interessiert. Beschr¨ ankt man sich auf ein Merkmal wie Dauer der Arbeitslosigkeit, so lassen sich zwar die Form der Verteilung, die mittlere Dauer der Arbeitslosigkeit sowie die Varianz untersuchen, wesentliche Fragestellungen jedoch, beispielsweise danach, wie die Dauer der Arbeitslosigkeit von Ausbildungsniveau oder Geschlecht abh¨ angt, lassen sich mit diesem eindimensionalen Datenmaterial nicht beantworten. Dazu ist es notwendig, die Merkmale Dauer, Ausbildungsniveau und Geschlecht gemeinsam zu erheben, d.h. zu einer Person werden mehrere Werte (x, y, z, . . . ), sogenannte mehrdimensionale Daten erhoben. Im folgenden wird ausgef¨ uhrt, wie sich derartige Daten aufbereiten und graphisch darstellen lassen. Wir beschr¨anken uns dabei haupts¨ achlich auf den zweidimensionalen Fall. In einem weiteren Schritt werden Maße entwickelt, die den Zusammenhang zwischen Merkmalen erfassen. Dabei werden zuerst Methoden f¨ ur diskrete bzw. diskretisierte Merkmale behandelt. Anschließend werden Verfahren f¨ ur metrisch skalierte Merkmale vorgestellt.
3.1 3.1.1
Diskrete und gruppierte Merkmale Zweidimensionale Daten: Die Kontingenztabelle
Im folgenden Abschnitt werden Methoden zur Darstellung der gemeinsamen Verteilung von zwei diskreten Merkmalen entwickelt, die nur relativ wenige Auspr¨agungen aufweisen. Dabei kann es sich um kategoriale qualitative Merkmale handeln wie Geschlecht oder Parteipr¨ aferenz, die nur auf Nominalskalenniveau gemessen werden. Ebenso kommen metrische Merkmale in Betracht, die durch Gruppierung kategorial werden. Beispielsweise wird in einer der folgenden Anwendungen die eigentlich metrische Variable Dauer der Arbeitslosigkeit nur in den Kategorien kurzfristige, mittelfristige und Langzeitarbeitslosigkeit betrachtet. Auch rein metrische Variablen,
110
3. Multivariate Deskription und Exploration
die nur wenige Auspr¨ agungen besitzen, beispielsweise die Anzahl der Personen in einem Haushalt, lassen sich mit den im folgenden dargestellten Methoden behandeln. Wesentlich ist jedoch, daß nur das Nominalskalenniveau der Merkmale benutzt wird, auch wenn die Merkmale ein h¨ oheres Meßniveau besitzen. Als Einf¨ uhrung werden einige Beispiele behandelt. Beispiel 3.1
Sonntagsfrage Die Ergebnisse der Sonntagsfrage: “Welche Partei w¨ urden Sie w¨ahlen, wenn am n¨achsten Sonntag Bundestagswahlen w¨ aren?” werden u ¨ blicherweise in Prozenten (%) wiedergegeben. F¨ ur den Befragungszeitraum 11.1.–24.1.1995 ergab sich folgende Tabelle (vgl. Beispiel 1.3, Seite 4).
M¨ anner Frauen insgesamt
CDU/CSU 33 40 37
SPD 35 29 32
FDP 4 6 5
Gr¨ une 6 10 8
Rest 22 15 18
100 100 100
Aus den ersten beiden Zeilen ergibt sich, daß die Parteipr¨aferenzen f¨ ur M¨anner und Frauen unterschiedlich zu sein scheinen. W¨ahrend M¨anner st¨arker der SPD zuneigen, ist f¨ ur Frauen die Pr¨ aferenz f¨ ur die CDU/CSU ausgepr¨agter. Die Variablen Geschlecht und Parteipr¨ aferenz scheinen somit einen Zusammenhang aufzuweisen. Die St¨arke dieses Zusammenhangs soll im folgenden deskriptiv quantifiziert werden. In der angegebenen Tabelle sind die urspr¨ unglichen Daten bereits in Prozenten f¨ ur die geschlechtsspezifischen Populationen angegeben. Um die urspr¨ unglichen Daten wiederzugewinnen, ist eine R¨ uckrechnung erforderlich. Da bekannt ist, daß unter den 931 Befragten 435 M¨anner und 496 Frauen waren, l¨aßt sich bis auf Rundungsfehler bestimmen, wieviele Personen sich jeweils f¨ ur gewisse Parteien entschieden haben. Man erh¨ alt die folgenden Anzahlen.
M¨ anner Frauen
CDU/CSU 144 200 344
SPD 153 145 298
FDP 17 30 47
Gr¨ une 26 50 76
Rest 95 71 166
435 496 931 2
Beispiel 3.2
Habilitationsdichte In einer Untersuchung zur Habilitationsdichte an deutschen Hochschulen wurden u.a. die Merkmale Geschlecht und Habilitationsfach erhoben. In der Tabelle 3.1 ist – nach F¨achern aufgeschl¨ usselt – zusammengefaßt, wieviele Habilitationen im Jahre 1993 erfolgreich abgeschlossen wurden (Quelle: Wirtschaft und Statistik 5/1995, S. 367). Hier stellt sich die Frage, ob die Habilitationsdichte in den einzelnen F¨achern geschlechtspezifisch ist, d.h. man interessiert sich daf¨ ur, ob zwischen den Merkmalen Geschlecht und Habilitationsfach ein Zusammenhang besteht. 2
3.1 Diskrete und gruppierte Merkmale
Sprach-, Kulturwiss. Frauen M¨ anner
51 216 267
Rechts-, Wirtschafts-, Sozialwiss.
111
Naturwiss.
20 92 112
Kunst
30 316 346
4 10 14
Medizin 44 433 477
149 1067 1216
Tabelle 3.1: Anzahl der Habilitationen im Jahre 1993 aufgeschl¨ usselt nach Geschlecht und Fach
Arbeitslosigkeit
Beispiel 3.3
Bei der Analyse der Dauer von Arbeitslosigkeit ist eine potentielle Einflußgr¨oße das Ausbildungsniveau. In Tabelle 3.2, die eine Teilstichprobe des sozio¨okonomischen Panels (vgl. Beispiel 1.9) wiedergibt, ist zusammengefaßt, wie sich 447 m¨annliche deutsche Arbeitslose auf die verschiedenen Ausbildungsstufen und Kategorien der Dauer von Arbeitslosigkeit verteilen.
Keine Ausbildung Lehre Fachspez. Ausbildung Hochschulabschluß
Kurzzeitarbeitslosigkeit 86 170 40 28 324
mittelfristige Arbeitslosigkeit 19 43 11 4 77
Langzeitarbeitslosigkeit 18 20 5 3 46
123 233 56 35 447
Tabelle 3.2: Ausbildungsspezifische Dauer der Arbeitslosigkeit f¨ ur m¨ annliche Deutsche
Die beiden Merkmale sind das Ausbildungsniveau mit den vier Auspr¨agungen “keine Ausbildung” (K), “Lehre” (L), “Fachspezifische Ausbildung” (F ), “Hochschulabschluß” (H) und das kategorisierte Merkmal Dauer der Arbeitslosigkeit mit den Kategorien “Kurzzeitarbeitslosigkeit” (≤ 6 Monate), “mittelfristige Arbeitslosigkeit” (7–12 Monate), “Langzeitarbeitslosigkeit” (≥ 12 Monate). Von Interesse ist dabei ein m¨oglicher Zusammenhang zwischen dem Ausbildungsniveau und der Dauer der Arbeitslosigkeit. 2
Einfache Zusammenfassungen in Tabellenform wie in den Beispielen 3.2 und 3.3 werden im folgenden verallgemeinert und formalisiert. Ausgangspunkt sind zwei Merkmale X und Y mit den m¨ oglichen Auspr¨ agungen a1 , . . . , ak
f¨ ur X
b1 , . . . , bm
f¨ ur Y.
112
Urliste
gemeinsame Verteilung Kontingenztafel
3. Multivariate Deskription und Exploration
In der Urliste liegen f¨ ur jedes Objekt die gemeinsamen Meßwerte vor, d.h. man erh¨alt die Tupel (x1 , y1 ), . . . , (xn , yn ). In v¨olliger Analogie zur eindimensionalen H¨ aufigkeitstabelle bildet man nun die H¨aufigkeiten hij = h(ai , bj ), mit der die m¨ oglichen Kombinationen (ai , bj ), i = 1, . . . , k, j = 1, . . . , m, auftreten. Die H¨aufigkeiten hij , i = 1, . . . , k, j = 1, . . . , m, werden auch als gemeinsame Verteilung der Merkmale X und Y in absoluten H¨aufigkeiten bezeichnet. Die sich daraus ergebende H¨ aufigkeitstabelle heißt Kontingenztafel oder Kontingenztabelle und besitzt die Struktur
a1 a2 .. . ak
b1 . . . bm h11 . . . h1m h21 . . . h2m .. .. . . hk1 . . . hkm
Unter Angabe der Anzahl der Zeilen und Spalten spricht man genauer von einer (k × m)-Kontingenztafel. Der Name verweist auf die Kontingenz, also den Zusammenhang zwischen zwei Merkmalen, der auf diese Art und Weise dargestellt wird. Kontingenztafeln sind somit nur eine tabellenartig strukturierte Zusammenfassung von H¨ aufigkeiten. Von den beiden Merkmalen wird nur vorausgesetzt, daß sie diskret bzw. kategorial sind. An das Skalenniveau werden hierbei keine Anforderungen gestellt, man setzt nur qualitative Daten voraus. Die Merkmale k¨onnen orgin¨ar diskret sein, wie das nominale Merkmal Fachgebiet in Beispiel 3.2 (Seite 110), oder sie k¨onnen gruppiert sein wie die Dauer der Arbeitslosigkeit in Beispiel 3.3 (Seite 111). Im letzteren Fall kann man die m¨oglichen Auspr¨agungen a1 , . . . , ak bzw. b1 , . . . , bm einfach als 1, . . . , k bzw. 1, . . . , m entsprechend der Klassennummer w¨ahlen.
Randh¨aufigkeiten zu X
Kontingenztafeln werden naheliegenderweise durch die Zeilen- und Spaltensummen erg¨ anzt. Die Zeilensummen ergeben die Randh¨aufigkeiten des Merkmals X und werden abgek¨ urzt durch
hi· = hi1 + · · · + him ,
i = 1, . . . , k.
Die sich ergebenden Randsummen h1· , h2· , . . . , hk· sind die einfachen H¨aufigkeiten,
3.1 Diskrete und gruppierte Merkmale
113
mit der das Merkmal X die Werte a1 , . . . , ak annimmt, wenn das Merkmal Y nicht ber¨ ucksichtigt wird. Man bezeichnet sie auch als Randverteilung von X in absoluten H¨aufigkeiten. Die Spaltensummen bzw. Randh¨ aufigkeiten des Merkmals Y werden abgek¨ urzt durch j = 1, . . . , m. h·j = h1j + · · · + hkj , Die sich ergebenden Randsummen h·1 , . . . , h·m entsprechen den H¨aufigkeiten, mit denen das Merkmal Y die Werte b1 , . . . , bm annimmt unter Vernachl¨assigung des Merkmals X. Sie bilden entsprechend die Randverteilung von Y in absoluten H¨aufigkeiten. Die Punktnotation in den Randsummen hi· = j hij , h·j = i hij macht deutlich, u ¨ber welchen Index jeweils summiert wurde. Wird u ¨ber den zweiten Index (das Merkmal Y ) summiert, wird in der Randsumme f¨ ur diesen Index ein Punkt angegeben, entsprechend verf¨ ahrt man f¨ ur den ersten Index (Summation u ¨ ber das erste Merkmal). Die Summation u ¨ber die Auspr¨agungen des jeweils anderen Merkmals beinhaltet, daß diese Information vernachl¨assigt wird, das Resultat sind die eindimensionalen H¨aufigkeiten jeweils eines Merkmals. Kontingenztafel der absoluten H¨ aufigkeiten Eine (k × m)-Kontingenztafel der absoluten H¨aufigkeiten besitzt die Form
a1 a2 .. . ak
b1 . . . bm h11 . . . h1m h1· h21 . . . h2m h2· .. .. .. . . . hk1 . . . hkm hk· h·1 . . . h·m n
Dabei bezeichnen hij = h(ai , bj ) h1· , . . . , hk· h·1 , . . . , h·m
die absolute H¨ aufigkeit der Kombination (ai , bj ), die Randh¨ aufigkeiten von X und die Randh¨ aufigkeiten von Y .
Die Kontingenztabelle gibt die gemeinsame Verteilung der Merkmale X und Y in absoluten H¨ aufigkeiten wieder. Da Anteile bzw. Prozente h¨ aufig anschaulicher sind, betrachtet man anstatt der absoluten H¨aufigkeiten auch die relativen H¨aufigkeiten, die sich ergeben, indem man durch die Gesamtzahl der Beobachtungen n dividiert.
Randh¨aufigkeiten zu Y
114
3. Multivariate Deskription und Exploration
Kontingenztafel der relativen H¨ aufigkeiten Die (k × m)-Kontingenztafel der relativen H¨ aufigkeiten hat die Form
a1 .. . ak
b1 . . . bm f11 . . . f1m f1· .. .. .. . . . fk1 . . . fkm fk· f·1 . . . f·m 1
Dabei bezeichnen fij = hij /n m fij = hi· /n, fi· = f·j =
j=1 k i=1
fij = h·j /n,
die relative H¨aufigkeit der Kombination (ai , bj ), i = 1, . . . , k, die relativen Randh¨aufigkeiten zu X, j = 1, . . . , m, die relativen Randh¨aufigkeiten zu Y .
Die Kontingenztabelle gibt die gemeinsame Verteilung von X und Y wieder.
Beispiel 3.4
Habilitationsdichte Die (5×2)-Kontingenztabelle der relativen H¨aufigkeiten f¨ ur Geschlecht und Habilitationsfach ergibt sich durch Sprach-, Kulturwiss. Frauen M¨ anner
0.042 0.178 0.220
Rechts-, Wirtschafts-, Sozialwiss. 0.016 0.076 0.092
Naturwiss. 0.025 0.260 0.285
Kunst 0.003 0.008 0.011
Medizin 0.036 0.356 0.392
0.122 0.878 1
Aus den R¨ andern l¨ aßt sich unmittelbar ablesen, daß 12.2 % der Habilitierten in den betrachteten Fachbereichen weiblich und 87.8 % m¨annlich waren. Von den Habilitationen entfielen 22 % auf die Sprach- und Kulturwissenschaften, 9.2 % auf Rechts-, Wirtschafts- und Sozialwissenschaften, 28.5 % auf die Naturwissenschaften, 1.1 % auf die Kunst und der Maximalanteil von 39.2 % auf die Medizin. Aus den relativen H¨aufigkeiten ersieht man, daß beispielsweise 2.5 % der Habilitationen insgesamt von Frauen in den Naturwissenschaften geschrieben wurden. 2
3.1 Diskrete und gruppierte Merkmale
115
Eine einfache graphische Darstellungsform f¨ ur gemeinsame H¨aufigkeiten ist das zweidimensionale S¨ aulendiagramm. Dabei tr¨agt man die absoluten (bzw. relativen) H¨aufigkeiten f¨ ur jede Auspr¨ agungskombination (ai , bj ) der Merkmale X und Y ab. Abbildung 3.1 zeigt das S¨ aulendiagramm f¨ ur Beispiel 3.3 (Seite 111).
Abbildung 3.1: S¨ aulendiagramm zur Ausbildung (1: keine Ausbildung, 2: Lehre, 3: fachspez. Ausbildung, 4: Hochschule) und Dauer der Arbeitslosigkeit (1: ≤ 6 Monate, 2: 6–12 Monate, 3: > 12 Monate)
Die beobachteten H¨ aufigkeiten werden hier unmittelbar anschaulich. Man sieht sofort, daß die Kurzzeitarbeitslosen mit Lehre die st¨arkste Gruppe bilden, w¨ahrend Langzeitarbeitslose mit Hochschulabschluß die am schw¨achsten vertretene Population darstellen.
3.1.2
Bedingte H¨ aufigkeiten
Aus den gemeinsamen absoluten H¨ aufigkeiten hij bzw. den relativen H¨aufigkeiten fij l¨aßt sich nicht unmittelbar auf den Zusammenhang zwischen den Merkmalen schließen. Aus der Tatsache allein, daß unter den 1216 Habilitierten aus Beispiel 3.2 (Seite 110) nur 30 weibliche Naturwissenschaftler sind, l¨aßt sich nicht schließen, daß unter den Naturwissenschaftlern die geschlechtsspezifische Habilitationsquote gering ist. Diese Quote ist tats¨ achlich niedrig, da 346 naturwissenschaftliche Habilitationen erfolgten, sie w¨ are aber hoch, wenn beispielsweise nur 60 naturwissenschaftliche
116
bedingte Verteilung von Y
3. Multivariate Deskription und Exploration
Habilitationen zugrunde l¨ agen. Die geschlechtsspezifische Quote l¨aßt sich nur bestimmen, wenn man sie auf die Teilgesamtheit der naturwissenschaftlichen Habilitationen bezieht. Dies erfolgt mit den bedingten relativen H¨aufigkeiten. aufigkeitsverteilung von Y unter W¨ ahlt man X = ai fest, ergibt sich die bedingte H¨ der Bedingung X = ai (abgek¨ urzt Y |X = ai ) durch fY (b1 |ai ) =
bedingte Verteilung von X
hi1 him , . . . , fY (bm |ai ) = . hi· hi·
Die relativen H¨ aufigkeiten in der durch X = ai charakterisierten Teilpopulation werden also gebildet, indem man durch die entsprechende Zeilen-Randsumme ollig analog ergibt sich f¨ ur fest gew¨ahltes Y = bj die bedingte hi· dividiert. V¨ H¨ aufigkeitsverteilung von X unter der Bedingung Y = bj (abgek¨ urzt X|Y = bj ) durch fX (a1 |bj ) =
hkj h1j , . . . , fX (ak |bj ) = . h·j h·j
Die Teilpopulation, auf die sich die relative H¨aufigkeit bezieht, ist durch Y = bj bestimmt, entsprechend wird durch die zugeh¨orige Spaltensumme h·j dividiert. Bedingte relative H¨ aufigkeitsverteilung Die bedingte H¨ aufigkeitsverteilung von Y unter der Bedingung X = ai , kurz Y |X = ai , ist bestimmt durch fY (b1 |ai ) =
hi1 him , . . . , fY (bm |ai ) = . hi· hi·
Die bedingte H¨ aufigkeitsverteilung von X unter der Bedingung Y = bj , kurz X|Y = bj , ist bestimmt durch fX (a1 |bj ) =
Beispiel 3.5
hkj h1j , . . . , fX (ak |bj ) = . h·j h·j
Sonntagsfrage In Beispiel 3.1 (Seite 110) wurde der umgekehrte Weg gegangen. Anstatt aus den Ursprungsdaten der gemeinsamen absoluten H¨aufigkeiten die bedingte Verteilung zu bestimmen, war dort der Ausgangspunkt die in Prozent angegebene bedingte Verteilung der Parteipr¨aferenz gegeben das Geschlecht. 2
3.1 Diskrete und gruppierte Merkmale
117
Arbeitslosigkeit
Beispiel 3.6
F¨ ur festgehaltenes Ausbildungsniveau (X = ai ) erh¨alt man die relative Verteilung u ¨ber die Dauer der Arbeitslosigkeit durch die Tabelle
Keine Ausbildung Lehre Fachspez. Ausbildung Hochschulabschluß
Kurzzeitarbeitslosigkeit 0.699 0.730 0.714 0.800
mittelfristige Arbeitslosigkeit 0.154 0.184 0.197 0.114
Langzeitarbeitslosigkeit 0.147 0.086 0.089 0.086
1 1 1 1
Durch das Bedingen auf das Ausbildungsniveau wird nun deutlich, wie die Dauer der Arbeitslosigkeit f¨ ur die Subpopulationen “Keine Ausbildung”, “Lehre”, usw. verteilt ist. Diese Verteilungen lassen sich nun miteinander vergleichen, da in diesen bedingten Verteilungen die H¨ aufigkeit, mit der die einzelnen Subpopulation auftreten (die Randh¨aufigkeiten von X) mitber¨ ucksichtigt ist. Ersichtlich ist beispielsweise, daß die relative H¨aufigkeit f¨ ur Kurzzeitarbeitslosigkeit in der Subpopulation “Hochschulabschluß” mit 0.8 am gr¨oßten ist. 2
Habilitationsdichte
Beispiel 3.7
F¨ ur festgehaltenes Fach (Y = bj ) erh¨ alt man die relative Verteilung u ¨ ber das Geschlecht durch Sprach-, Kulturwiss. Frauen M¨ anner
0.191 0.809 1
Rechts-, Wirtschafts-, Sozialwiss. 0.179 0.821 1
Naturwiss. 0.087 0.913 1
Kunst 0.286 0.714 1
Medizin 0.092 0.908 1
Aus dieser Tabelle l¨ aßt sich auf einen potentiellen Zusammenhang zwischen Geschlecht und Fachgebiet schließen. Man sieht, daß der Frauenanteil in den Naturwissenschaften mit 8.7 % deutlich unter dem Frauenanteil in den Sprach- und Kulturwissenschaften mit 19.1 % liegt. Dies ist ein Hinweis darauf, daß der Frauenanteil fachspezifisch sein k¨onnte, somit ein Zusammenhang zwischen Geschlecht und Fachgebiet zu vermuten ist. 2
In Analogie zu den S¨ aulendiagrammen der gemeinsamen Verteilung (vgl. Abb. 3.1, Seite 115) lassen sich bedingte S¨ aulendiagramme bilden. Anstatt hij werden nun bedingte S¨aulendiagramme die bedingten Verteilungen von Y |X = a1 , . . . Y |X = ak (bzw. die bedingten Verteilungen von X|Y = b1 , . . . X|Y = bm ) aufgetragen. Durch das Bedingen auf die Auspr¨agungen der anderen Variable wird deutlich, ob die Verteilungen von der Bedingung abh¨angen.
118
Beispiel 3.8
3. Multivariate Deskription und Exploration
Arbeitslosigkeit In Abbildung 3.2 sind die bedingten Verteilungen der Dauer von Arbeitslosigkeit dargestellt, wobei jeweils auf das Ausbildungsniveau bedingt wird (vgl. Beispiel 3.6, Seite 117).
Abbildung 3.2: Bedingtes S¨ aulendiagramm f¨ ur das Merkmal Dauer (1: ≤ 6 Monate, 2: 6–12 Monate, 3: > 12 Monate) gegeben das Ausbildungsniveau (1: keine Ausbildung, 2: Lehre, 3: fachspez. Ausbildung, 4: Hochschule)
Die bedingten Verteilungen unterscheiden sich nicht sehr stark, obwohl tendenziell die Dauer f¨ ur Arbeitslose ohne Ausbildung insbesondere im Vergleich mit Hochschulabsolventen etwas verl¨ angert ist. 2
Beispiel 3.9
Waldsch¨ aden In der in Kapitel 1, Beispiel 1.6 (Seite 7) dargestellten Waldschadensanalyse wurde das Merkmal Schadstufe durch die Kategorien 0 bis 4 erfaßt. Eine Gr¨oße, von der ein Zusammenhang zur Schadstufe vermutet wird, ist der Beschirmungsgrad mit den Kategorien 1: r¨aumig, licht, 2: locker, 3: geschlossen und 4: gedr¨angt. In Abbildung 3.3 ist die bedingte Verteilung, gegeben der Beschirmungsgrad, in alternativer Form wiedergegeben. W¨ahrend im bedingten S¨ aulendiagramm die bedingten H¨aufigkeiten jeweils als einzelne S¨aulen wiedergegeben werden, entsprechen in dieser Darstellung die bedingten H¨aufigkeiten dem fl¨achenm¨aßigen Anteil an einer S¨ aule, wobei jeder Auspr¨agung der bedingenden Variable, also hier dem Beschirmungsgrad, eine S¨ aule entspricht. Man sieht deutlich, wie sich z.B. der Anteil an B¨ aumen der Schadstufe 1 mit dem Beschirmungsgrad ver¨andert. 2
3.2 Zusammenhangsanalyse in Kontingenztabellen
119
100% 90% 80% 70% 60% 50% 40% 30% 20% 10% 0% räumig, licht
locker
Schadstufe:
geschlossen 3+4
2
gedrängt
0+1
Abbildung 3.3: Relative H¨ aufigkeiten (in %) f¨ ur gruppierte Schadstufen, gegeben der Beschirmungsgrad
3.2
Zusammenhangsanalyse in Kontingenztabellen
Bisher wurde der Zusammenhang nur graphisch oder in der Form von Kontingenztafeln dargestellt. Im folgenden werden Methoden dargestellt, die St¨arke des Zusammenhangs zu quantifizieren.
3.2.1
Chancen und relative Chancen
Es sei der Einfachheit halber zuerst der Fall einer (2×2)-Kontingenztafel betrachtet. Die (2 × 2)-H¨aufigkeitstafel hat die Form Y 1 2 1 h11 h12 X 2 h21 h22 h·1 h·2
h1· h2· n
Unter einer Chance (“odds”) versteht man nun das Verh¨altnis zwischen dem Auftreten von Y = 1 und Y = 2 in einer Subpopulation X = ai . Die (empirische) bedingte Chance f¨ ur festes X = ai ist bestimmt durch γ(1, 2|X = ai ) =
Chance
hi1 . hi2
Ein sehr einfaches Zusammenhangsmaß stellen die empirischen relativen Chancen
relative Chance
120
Odds Ratio
3. Multivariate Deskription und Exploration
(Odds Ratio) dar, die gegeben sind durch γ(1, 2|X = 1, X = 2) =
γ(1, 2|X = 1) h11 /h12 h11 h22 = = , γ(1, 2|X = 2) h21 /h22 h21 h12
d.h. das Verh¨ altnis zwischen den Chancen der 1. Population (X = 1, 1. Zeile) zu den Chancen der 2. Population (X = 2, 2. Zeile). Beispiel 3.10
Dauer der Arbeitslosigkeit Beschr¨ ankt man sich im Beispiel 3.3 (Seite 111) jeweils nur auf zwei Kategorien von X und Y , erh¨alt man beispielsweise die Tabelle
Fachspezifische Ausbildung Hochschulabschluß
Kurzzeitarbeitslosigkeit 40 28
Mittel- und langfristige Arbeitslosigkeit 16 7
Daraus ergibt sich f¨ ur Personen mit fachspezifischer Ausbildung die “Chance”, kurzzeitig arbeitslos zu sein, im Verh¨ altnis dazu, l¨angerfristig arbeitslos zu sein, durch γ(1, 2|fachspezifisch) =
40 = 2.5. 16
F¨ ur Arbeitslose mit Hochschulabschluß erh¨alt man γ(1, 2|Hochschulabschluß) =
28 = 4. 7
F¨ ur fachspezifische Ausbildung stehen die “Chancen” somit 5 : 2, f¨ ur Arbeitslose mit Hochschulabschluß mit 4 : 1 erheblich besser. Man erh¨ alt f¨ ur fachspezifische Ausbildung und Hochschulabschluß die relativen Chancen γ(1, 2|fachsp. Ausbildung, Hochschule) =
2.5 = 0.625. 4 2
Kreuzproduktverh¨altnis
Wegen der spezifischen Form γ(1, 2|X = 1, X = 2) = (h11 h22 )/(h21 h12 ) werden die relativen Chancen auch als Kreuzproduktverh¨ altnis bezeichnet. Es gilt γ=1 γ>1 γ<1
Chancen in beiden Populationen gleich Chancen in Population X = 1 besser als in Population X = 2 Chancen in Population X = 1 schlechter als in Population X = 2.
3.2 Zusammenhangsanalyse in Kontingenztabellen
121
Die relativen Chancen geben somit an, welche der Populationen die besseren Chancen besitzen und um wieviel besser diese Chancen sind. Kreuzproduktverh¨ altnis F¨ ur die Kontingenztafel h11 h12 h21 h22 ist das Kreuzproduktverh¨ altnis (relative Chance oder Odds Ratio) bestimmt durch h11 h22 h11 /h12 = . γ= h21 /h22 h21 h12 Das Verfahren l¨ aßt sich direkt auf mehr als zwei Auspr¨agungen verallgemeinern, indem man sich auf jeweils zwei Zeilen X = ai und X = aj und zwei Spalten Y = br und Y = bs und die zugeh¨ origen vier Zellen einer (k×m)-Kontingenztafel beschr¨ankt. Die relativen Chancen zwischen X = ai und X = aj in bezug auf die Chancen von Y = br zu Y = bs sind damit bestimmt durch die relativen Chancen γ(br , bs |X = ai , X = aj ) =
hir hjs hir /his = . hjr /hjs hjr his
Arbeitslosigkeit
Beispiel 3.11
F¨ ur das Beispiel 3.3 (Seite 111) erh¨ alt man f¨ ur die Populationen “keine Ausbildung” und “Lehre” in bezug auf die Chancen f¨ ur mittelfristige gegen¨ uber langfristiger Arbeitslosigkeit die Subtabelle:
Keine Ausbildung Lehre
Mittelfristige Arbeitslosigkeit 19 43
Langfristige Arbeitslosigkeit 18 20
Daraus ergeben sich die relativen Chancen γ(mittelfristig, langfristig|keine Ausbildung, Lehre) =
1.06 19/18 = = 0.493, 43/20 2.15
was bedeutet, daß die Chance f¨ ur mittelfristige gegen¨ uber langfristiger Arbeitslosigkeit in der Population der Arbeitslosen ohne Ausbildung nur etwa halb so groß ist wie in der Population der Arbeitslosen mit Lehre. 2
122
3.2.2
3. Multivariate Deskription und Exploration
Kontingenz- und χ2 -Koeffizient
¨ Den Hintergrund f¨ ur den Kontingenzkoeffizienten bildet die Uberlegung “Wie sollten die H¨aufigkeiten verteilt sein, wenn die beiden Merkmale keinerlei Zusammenhang aufweisen?” Dabei geht man von den vorgegebenen R¨andern aus, das heißt von der beobachteten Verteilung von X und Y (jeweils f¨ ur sich genommen) in der Tafel b1 a1 .. .
...
bm
?
h1· .. .
h·1 . . . h·m
hk· n
ak
empirische Unabh¨angigkeit
L¨age kein Zusammenhang zwischen den Merkmalen vor, sollte es ohne Einfluß sein, in welcher Zeile (d.h. Subpopulation X = ai ) die bedingte Verteilung von Y gegeben urde man dieselbe Verteilung erwarten und X = ai betrachtet wird. In jeder Zeile w¨ zwar die Verteilung von Y ohne Ber¨ ucksichtigung von X. Im Beispiel 3.3 (Seite 111) w¨ urde man somit erwarten, daß die Verteilung auf die Kategorien der Dauer von Arbeitslosigkeit in jeder Ausbildungsstufe dieselbe ist, d.h. dieselbe, die auch in ˜ ij die H¨aufigkeit, die man erwarten der gesamten Stichprobe vorliegt. Bezeichnet h ¨ w¨ urde, wenn kein Zusammenhang vorliegt, f¨ uhrt diese Uberlegung in der i-ten Zeile zu dem folgenden Postulat der empirischen Unabh¨angigkeit ˜ ij h·j h . = hi· n
zu erwartende bedingte relative H¨aufigkeit
Auf der linken Seite steht hier die zu erwartende bedingte relative H¨ aufigkeit, die sich durch die zu erwartende H¨ aufigkeit dividiert durch die Zeilensumme ergibt. Auf der rechten Seite steht die beobachtete relative H¨aufigkeit von Y , d.h. die Randverteilung von Y (beobachtete H¨ aufigkeit dividiert durch Gesamtstichprobenumfang). Das Postulat der empirischen Unabh¨angigkeit f¨ uhrt somit zu den zu erwartenden Beobachtungen ˜ ij = hi· h·j , h n die sich einfach als Produkt aus Zeilensumme und Spaltensumme, geteilt durch den Stichprobenumfang errechnen lassen. Wenn die Merkmale X und Y keinen Zusammenhang aufweisen, d.h. unabh¨angig sind, sollten die tats¨ achlich beobachteten H¨aufigkeiten von den zu erwartenden kaum abweichen. Zur Konstruktion eines Zusammenhangsmaßes benutzt man die Diskrepanz zwischen diesen Werten, also zwischen
3.2 Zusammenhangsanalyse in Kontingenztabellen
hij , ˜ ij = hi· h·j /n, h
123
den tats¨ achlichen H¨aufigkeiten und den H¨ aufigkeiten, die zu erwarten sind, wenn kein Zusammenhang vorliegt.
Als Zusammenhangsmaß betrachtet man m k ˜ ij )2 (hij − h . χ = ˜ ij h i=1 j=1 2
˜ ij )2 , das TeiDie wesentliche Komponente in χ2 ist die quadrierte Distanz (hij − h ˜ ij dient nur der Normierung. Nach Konstruktion sollte f¨ ur die immer len durch h nichtnegative Gr¨ oße χ2 gelten: • χ2 groß (starke Diskrepanz), wenn X und Y voneinander abh¨angen, • χ2 klein (kleine Diskrepanz), wenn X und Y nicht voneinander abh¨angen. Auch wenn X und Y tats¨ achlich keinen Zusammenhang aufweisen, ist nicht davon auszugehen, daß das Postulat der empirischen Unabh¨angigkeit exakt gilt, d.h. χ2 = 0 resultiert. Zufallsschwankungen, die sp¨ ater ausf¨ uhrlich reflektiert werden, werden ˜ ij erzeugen. immer eine Abweichung zwischen hij und h χ2 -Koeffizient Der χ2 -Koeffizient ist bestimmt durch χ2 =
m k i=1 j=1
hi· h·j n hi· h·j n
hij −
2 ,
χ2 ∈ [0, ∞).
Die Herleitung von χ2 st¨ utzt sich wesentlich auf das Unabh¨angigkeitspostulat. Dieses basiert auf der Zeilenunabh¨ angigkeit der Verteilung Y |X = ai . Aus Symmetriegr¨ unden l¨aßt sich (mit demselben Resultat) das Postulat auch auf die Spaltenunabh¨angigkeit der Verteilung X|Y = bj aufbauen. Man erh¨alt dann ˜ ij h hi· = h·j n d.h. die bedingte Verteilung X|Y = bj entspricht der Randverteilung von X. Wie man unmittelbar sieht, ist diese Gleichung a ¨quivalent zum Postulat der Unabh¨angigkeit.
124
3. Multivariate Deskription und Exploration
Die bei Unabh¨ angigkeit zu erwartenden H¨aufigkeiten sind nicht mehr ganzzahlig. Man beachte, daß die Randsummen der zu erwartenden H¨aufigkeiten mit den tats¨achlich beobachteten Randsummen u ¨ bereinstimmen. Dies folgt unmittelbar aus ˜ ij , bei der von fest vorgegebenen Randsummen, n¨amlich den der Konstruktion von h beobachteten, ausgegangen wurde (vgl. die Beispiele 3.1, Seite 110 und 3.13, Seite 126).
Kontingenzkoeffizient
Ein gravierender Nachteil von χ2 als Zusammenhangsmaß liegt darin, daß die Werte, die χ2 annehmen kann, von der Dimension der Tafel abh¨angen. Es l¨aßt sich ¨ daher nicht ohne zus¨ atzliche Uberlegungen feststellen, wie groß χ2 sein muß, um auf einen Zusammenhang hinzuweisen. Ein erster Normierungsschritt f¨ uhrt zum Kontingenzkoeffizienten χ2 . K= n + χ2 Dieser kann Werte zwischen 0 und Kmax annehmen, wobei Kmax =
M −1 M
mit M = min{k, m}.
korrigierter In einem weiteren Normierungsschritt erh¨alt man den korrigierten KontingenzkoefKontingenzkoef- fizienten fizient
K∗ =
K , Kmax
f¨ ur den nach Konstruktion gilt K ∗ ∈ [0, 1]. W¨ ahrend der Wertebereich des Kontingenzkoeffizienten noch von der Dimension der Kontingenztafel abh¨ angt, ist dies f¨ ur den korrigierten Koeffizienten K ∗ nicht mehr der Fall. ur den Spezialfall einer quaDie Wirkungsweise von K ∗ wird besonders deutlich f¨ dratischen Kontingenztafel, d.h. k = m. Dann n¨amlich gilt, daß K ∗ = 1 (K = Kmax ) genau dann eintritt, wenn in jeder Zeile und jeder Spalte der Kontingenztabelle genau eine Zelle besetzt ist. Man hat also eine Zusammenhangsstruktur wie in Abbildung 3.4. Der maximale Wert K ∗ = 1, also st¨arkstm¨oglicher Zusammenhang, besagt in diesem Fall, daß bei Kenntnis der Zeile (Spalte) vorausgesagt werden kann, welche Spalte (Zeile) nur besetzt sein kann.
3.2 Zusammenhangsanalyse in Kontingenztabellen
×
125
× ×
×
× ×
× ×
×
× ×
×
Abbildung 3.4: Besetzungsstruktur bei quadratischen Kontingenztafeln, wenn ur besetzte Zellen, alle anderen sind leer K ∗ = 1, × steht f¨
Kontingenzkoeffizient Der Kontingenzkoeffizient ist bestimmt durch χ2 K= n + χ2 M −1 und besitzt den Wertebereich K ∈ 0, , wobei M = min{k, m}. M Der korrigierte Kontingenzkoeffizient ergibt sich durch M −1 ∗ K = K/ M mit dem Wertebereich K ∗ ∈ [0, 1].
Die Maße χ2 , K, K ∗ besitzen folgende Eigenschaften: 1. Es wird nur die St¨ arke des Zusammenhangs gemessen, eine Richtung der Wirkungsweise wird nicht erfaßt in dem Sinne, daß wachsendes X mit wachsendem (oder fallendem) Y einhergeht.
St¨arke des Zusammenhangs
2. Die Maße sind vergleichender Art. Mißt man den Zusammenhang von X und Y in zwei Subpopulationen, l¨ aßt sich damit die St¨arke des Zusammenhangs u ¨ ber die Subpopulationen vergleichen. Eine eindeutige Interpretation ist nur in Spezialf¨ allen (K = 1) m¨ oglich.
vergleichendes Maß
3. Vorsicht ist geboten bei einem Vergleich von Kontingenztafeln mit stark unterschiedlichen Stichprobenumf¨ angen, da χ2 mit wachsendem Stichprobenumfang ˜ ij zu zehnfaw¨achst, beispielsweise f¨ uhrte eine Verzehnfachung von hij und h 2 chem χ .
Abh¨angigkeit vom Stichprobenumfang
126
Invarianz
Beispiel 3.12
3. Multivariate Deskription und Exploration
4. S¨ amtliche Maße benutzen nur das Nominalskalenniveau von X und Y . Dies sieht man unmittelbar daran, daß sich die Maße nicht ver¨andern, wenn man Zeilen bzw. Spalten untereinander vertauscht. Eine Folge dieser Invarianz gegen¨ uber Vertauschungen ist die oben erw¨ahnte Eigenschaft, daß durch diese Maße keine gerichteten Zusammenh¨ange erfaßbar sind. Sonntagsfrage F¨ ur die Kontingenztafel aus Geschlecht und Parteipr¨aferenz aus Beispiel 3.1 (Seite 110) ˜ ij . erh¨ alt man die in Tabelle 3.3 wiedergegebenen zu erwartenden H¨aufigkeiten h
M¨ anner Frauen
CDU/CSU 160.73 (144) 183.27 (200) 344
SPD 139.24 (153) 158.76 (145) 298
FDP 21.96 (17) 25.04 (30) 47
Gr¨ une 35.51 (26) 40.49 (50) 76
Rest 77.56 (95) 88.44 (71) 166
435 496
Tabelle 3.3: Zu erwartende H¨ aufigkeiten ˜ hij und tats¨ achliche H¨ aufigkeiten hij (in Klammern)
Man sieht aus Tabelle 3.3 beispielsweise, daß 160.73 die CDU/CSU pr¨aferierende M¨anner zu erwarten w¨ aren, wenn Geschlecht und Parteipr¨aferenz keinen Zusammenhang aufweisen. Tats¨ achlich wurden nur 144 beobachtet. Die Bewertung dieser Diskrepanzen ergibt einen χ2 Wert von 20.065. Daraus ergeben sich nach einfacher Rechnung K = 0.145 und K ∗ = 0.205, was f¨ ur einen nicht zu starken Zusammenhang spricht. 2
Beispiel 3.13
Habilitationsdichte F¨ ur die Kontingenztafel aus Tabelle 3.1 (Seite 111), die die Anzahl der Habilitationen aufgeschl¨ usselt nach Geschlecht und Fach wiedergibt, erh¨alt man die zu erwartenden H¨aufigkeiten ˜ ij in Tabelle 3.4. h Daraus ergibt sich unmittelbar χ2 = 26.584, K = 0.146 und K ∗ = 0.205. Bei einem gr¨oßeren χ2 -Wert als in Beispiel 3.12 erh¨ alt man wegen des gr¨oßeren Stichprobenumfangs einen vergleichbaren Kontingenzkoeffizienten. 2
(2 × 2)-Tafel
F¨ ur den Spezialfall einer (2 × 2)-Tafel l¨aßt sich der χ2 -Wert und damit der Kontingenzkoeffizient auf sehr einfache Art berechnen. Liegt eine Kontingenztafel der Form a b a+b c d c+d a+c b+d
3.3 Graphische Darstellungen quantitativer Merkmale
Rechts-, Wirtschafts-, Sozialwiss.
Sprach-, Kulturwiss. Frauen M¨ anner
32.72 (51) 234.28 (216) 267
13.72 (20) 98.27 (92) 112
127
Naturwiss. 42.40 (30) 303.6 (316) 346
Kunst
Medizin
1.72 (4) 12.28 (10) 14
58.45 (44) 418.55 (433) 477
149 1067 1216
˜ ij und tats¨ Tabelle 3.4: Zu erwartende H¨ aufigkeiten h achliche H¨ aufigkeiten hij (in Klammern)
vor, erh¨alt man χ2 aus χ2 =
n(ad − bc)2 , (a + b)(a + c)(b + d)(c + d)
wobei sich im Nenner nur das Produkt u ¨ ber s¨amtliche Randh¨aufigkeiten findet. Arbeitslosigkeit
Beispiel 3.14
Aus der Kontingenztafel
Keine Ausbildung Lehre
Mittelfristige Arbeitslosigkeit 19 43 62
Langfristige Arbeitslosigkeit 18 20 38
37 63 100
erh¨ alt man also unmittelbar χ2 =
100(19 · 20 − 18 · 43)2 = 2.826 37 · 63 · 62 · 38
und K = 0.165, K ∗ = 0.234.
3.3
2
Graphische Darstellungen quantitativer Merkmale
F¨ ur die Darstellung quantitativer, d.h. metrisch skalierter Merkmale mit vielen Auspr¨agungen, empfehlen sich andere Methoden als f¨ ur qualitative Merkmale. Die Instrumente des letzten Abschnittes sind prinzipiell auch anwendbar f¨ ur metrische
128
3. Multivariate Deskription und Exploration
Merkmale, wenn man diese beispielsweise durch Intervallbildung kategorisiert. Allerdings nimmt man damit immer einen Informationsverlust in Kauf. Hinzu kommt, daß in der Kontingenztafelanalyse nur das nominale Skalenniveau benutzt wurde, d.h. die Merkmale wurden als qualitativ behandelt. Im folgenden wird explizit metrisches Skalenniveau vorausgesetzt. Dar¨ uber hinaus sollte die Anzahl der m¨oglichen Werte hoch sein, was insbesondere bei stetigen Variablen der Fall ist.
3.3.1
Streudiagramm
Die einfachste Darstellung der gemeinsamen Meßwerte (xi , yi ), i = 1, . . . , n, zweier stetiger Merkmale ist das Streudiagramm, in dem die Meßwerte in einem (x–y)Koordinatensystem als Punkte, Kreuze oder sonstige Symbole dargestellt werden. Streudiagramm Die Darstellung der Meßwerte (x1 , y1 ), . . . , (xn , yn ) im (x–y)-Koordinatensystem heißt Streudiagramm.
Beispiel 3.15
Prognose des Sachverst¨ andigenrates Die Prognose des Sachverst¨ andigenrates weicht notwendigerweise vom tats¨achlichen Wirtschaftswachstum ab (Prognosen sind schwierig, insbesondere wenn sie die Zukunft betreffen). Interessant ist jedoch, inwieweit die Prognose vom tats¨achlichen Wirtschaftswachstum abweicht bzw. wie stark der Zusammenhang ist. In Tabelle 3.5 finden sich die Werte. Jahr 1975 1976 1977 1978 1979 1980 1981 1982 1983 1984 X 2.0 4.5 4.5 3.5 3.75 2.75 0.5 0.5 1.0 2.5 Y -3.6 5.6 2.4 3.4 4.4 1.8 -0.3 -1.2 1.2 2.6 Jahr 1985 1986 1987 1988 1989 1990 1991 1992 1993 1994 X 3.0 3.0 2.0 1.5 2.5 3.0 3.5 2.5 0.0 0.0 Y 2.5 2.5 1.7 3.4 4.0 4.6 3.4 1.5 -1.9 2.3 Tabelle 3.5: Prognose des Sachverst¨ andigenrates (X) und tats¨ achliches Wirtschaftswachtum (Y ) in den Jahren 1975–1994
In Abbildung 3.5 ist das Streudiagramm der Merkmale X: Prognostiziertes Wirtschaftswachstum und Y : Tats¨ achliches Wirtschaftswachstum in Prozent f¨ ur die Jahre 1975–1994 dargestellt. 2
3.3 Graphische Darstellungen quantitativer Merkmale
129
Abbildung 3.5: Prognostizierte und reale Wachstumsrate f¨ ur die Prognose des Sachverst¨ andigenrates in den Jahren 1975–1994
Mieten Sucht man eine Wohnung mit bestimmter Wohnfl¨ache, ist es interessant zu wissen, mit welcher Miete man rechnen muß. In Abbildung 3.6 findet sich das Streudiagramm zu den Merkmalen “Wohnfl¨ ache” und “Nettomiete” f¨ ur eine Teilstichprobe des Mietbeispiels, d.h. f¨ ur einen Teil der im Rahmen der Erstellung des M¨ unchner Mietspiegels erhobenen Stichprobe. 2
Aus Streudiagrammen wie Abbildung 3.5 und 3.6 l¨aßt sich ein erster Eindruck gewinnen, ob und wie stark zwei Merkmale zusammenh¨angen. Man sieht in Abbildung 3.5, daß tendenzm¨aßig bei hohen prognostizierten Werten auch tats¨achlich hohe Wachstumswerte eintreten. Auffallend ist, daß die Variationsbreite der Prognosewerte wesentlich geringer ist als die Variationsbreite der tats¨achlichen Werte. Die Prognosen sind hier konservativer als die Realit¨ at. F¨ ur das Mietspiegelbeispiel sieht man, daß eine wachsende Wohnfl¨ ache erwartungsgem¨aß mit h¨oheren Mieten einhergeht. Auffallend ist die Tendenz zu gr¨ oßerer Streuung der Mieten bei wachsender Wohnfl¨ache. Dies ist daran ersichtlich, daß bei gr¨ oßerer Wohnfl¨ache die entsprechenden Mieten eine gr¨oßere Schwankungsbreite aufweisen.
Beispiel 3.16
3. Multivariate Deskription und Exploration
1000 0
500
Nettomiete
1500
130
0
50
100
150
Wohnfläche
Abbildung 3.6: Streudiagramm f¨ ur Wohnfl¨ ache und Nettomiete
3.3.2
Zweidimensionale Histogramme und Dichten
Bei einer sehr hohen Zahl von Meßwerten oder wenn gleiche Meßwerte ¨ofter auftreten, werden Streudiagramme un¨ ubersichtlich. Zur Veranschaulichung von H¨aufigkeiten in diesen F¨ allen lassen sich zweidimensionale Histogramme bzw. glatte Varianten des Histogramms verwenden. Dazu bildet man Intervalle Intervalle
[c0 , c1 ), . . . , [ck−1 , ck ) [e0 , e1 ), . . . , [em−1 , em )
f¨ ur Merkmal X und f¨ ur Merkmal Y .
aufigkeiten im i-ten Intervall von X und im j-ten Intervall Seien hij die absoluten H¨ von Y , d.h. in [ci−1 , ci )×[ej−1 , ej ). Die relative H¨aufigkeit wird wieder mit fij = hij /n bezeichnet. W¨ahrend im eindimensionalen Histogramm die Fl¨ache u ¨ber dem Intervall den H¨aufigkeiten entspricht, soll nun das Volumen u ¨ber dem Rechteck [ci−1 , ci )×[ej−1 , ej ) den absoluten bzw. relativen H¨ aufigkeiten entsprechen. zweidimensionales absolutes Histogramm
Aus der Formel “Volumen = Grundfl¨ache × H¨ohe” ergibt sich also die H¨ohe f¨ ur das zweidimensionale absolute Histogramm durch hij hij = . Grundfl¨ ache (ci − ci−1 )(ej − ej−1 )
3.3 Graphische Darstellungen quantitativer Merkmale
131
F¨ ur das zweidimensionale relative Histogramm wird hij durch fij = hij /n ersetzt. Zweidimensionales Histogramm Zeichne u ¨ ber den Rechtecksklassen [ci−1 , ci ) × [ej−1 , ej ),
i = 1, . . . , k, j = 1, . . . , m,
Bl¨ocke mit [ci−1 , ci ) [ej−1 , ej )
Grundkante Grundkante
in der x-Koordinate in der y-Koordinate
und H¨ohe hij (ci − ci−1 )(ej − ej−1 )
bzw.
hij /n . (ci − ci−1 )(ej − ej−1 )
Die Nachteile des eindimensionalen Histogramms, wie subjektive Klasseneinteilung und Unstetigkeit der Treppenfunktion, bleiben auch f¨ ur das zweidimensionale Histogramm erhalten. Als Alternative wurde in Abschnitt ∗2.4.3 ein gleitendes Histogramm bzw. ein glatter Dichtesch¨ atzer dargestellt. Dieses Verfahren l¨aßt sich auch auf mehr als eine Dimension erweitern. Der glatte Sch¨atzer in einer Dimension hatte die Form n x − xi 11 ˆ K , f (x) = n h h i=1
wobei K eine sogenannte Kernfunktion ist, beispielsweise der Epanechnikov-Kern ur −1 ≤ u ≤ 1. K(u) = (3/4)(1 − u2 ) f¨ Der zweidimensionale (Kerndichte-) Sch¨ atzer hat die Form 1 1 fˆ(x, y) = K n h1 n
i=1
x − xi h1
1 K h2
y − yi h2
,
attungsparameter zu X bzw. Y sind. Anstatt eines Kernes hat wobei h1 , h2 Gl¨ man das Produkt zweier Kerne bzw. Fenster. F¨ ur den Rechteckskern erh¨alt man wiederum ein gleitendes Histogramm, das jetzt u ur ¨ber die (x–y)-Ebene gleitet. F¨ stetige Kernfunktionen erh¨ alt man eine glattere Darstellung. Die Funktion der Gl¨ attungsparameter entspricht der Fensterweite. Gehen die Bandweiten h1 , h2 gegen 0, wird die dadurch gesch¨ atzte Oberfl¨ ache unruhig mit starken Ausschl¨agen an den Stellen der Daten. L¨ aßt man die Bandweiten immer gr¨oßer werden, wird die gesch¨atzte Oberfl¨ ache zunehmend glatter.
zweidimensionaler Kerndichtesch¨atzer
132
Beispiel 3.17
3. Multivariate Deskription und Exploration
Mietspiegel Abbildung 3.7 zeigt ein zweidimensionales Histogramm f¨ ur die Variablen Wohnfl¨ache und Nettomiete.
Abbildung 3.7: Zweidimensionales Histogramm
Abbildung 3.8 zeigt die entsprechende zweidimensionale Kerndichtesch¨atzung. Insbesondere die letztere Darstellung zeigt deutlich, daß Wohnungen vor allem im Bereich zwischen 30 qm und 80 qm bei einem Preis zwischen 200 e und 1000 e sehr dicht gepackt sind. 2
3.3.3
paarweises Streudiagramm
Mehrdimensionale Darstellungen
Die Darstellung von Meßpunkten in drei Dimensionen f¨ uhrt zu Punktwolken, deren exakte Lage h¨ aufig aus einem Bild nicht mehr gut erkennbar ist. Computerprogramme mit interaktiven Graphikmodulen erm¨oglichen es allerdings, die Koordinaten auf dem Bildschirm langsam zu drehen, so daß die Anordnung der Punkte deutlich wird. Eine einfache Methode zur Darstellung mehrdimensionalen Datenmaterials besteht darin, f¨ ur jeweils zwei Merkmale ein Streudiagramm zu bilden. Man erh¨alt damit eine Matrix von paarweisen Streudiagrammen, eine sogenannte ScatterplotMatrix. Dadurch wird zumindest der Zusammenhang jeweils zweier Merkmale verdeutlicht.
3.3 Graphische Darstellungen quantitativer Merkmale
Wo
hn
flä
ch
e
133
ete
mi
tto
Ne
Abbildung 3.8: Zweidimensionale Kerndichtesch¨ atzung
Mietspiegel
Beispiel 3.18
In Abbildung 3.9 findet sich die Matrix der Streudiagramme zu den Merkmalen “Nettomiete”, “Wohnfl¨ ache”, “Zimmeranzahl” und “Nettomiete/qm”. In der Diagonale ist nur die Variable wiedergegeben, die die Abszisse bzw. die Ordinate bestimmt. Beispielsweise entspricht die Wohnfl¨ ache der Abszisse (x-Variable) in allen Bildern der zweiten Spalte. Gleichzeitig stellt die Wohnfl¨ ache die Ordinate (y-Variable) in allen Bildern der zweiten Reihe dar. Jedes Streudiagramm findet sich also in zwei verschiedenen Formen. Das zweite Bild der ersten Reihe gibt Wohnfl¨ ache × Nettomiete wieder, das erste Bild der zweiten Reihe gibt Nettomiete × Wohnfl¨ ache wieder. An den Bildern wird unmittelbar anschaulich, daß Streudiagramme, die mit einer diskreten Variable wie Anzahl der Zimmer gebildet werden, qualitativ anders aussehen als Streudiagramme mit zwei stetigen Variablen. Eine relativ klare lineare Struktur erh¨ alt man erwartungsgem¨ aß f¨ ur den Zusammenhang zwischen Zimmerzahl und Wohnfl¨ache. Aus den Darstellungen wird deutlich, wie variabel die Wohnfl¨ache jeweils f¨ ur festgehaltene Zimmerzahl noch ist. Das Streudiagramm zu Wohnfl¨ache und Nettomiete/qm zeigt, daß die Quadratmetermiete bei großen Wohnfl¨ achen tendenziell abnimmt. Zu bemerken ist, daß nur Zusammenh¨ ange zwischen jeweils zwei Variablen – ohne Ber¨ ucksichtigung der anderen Variablen – wiedergegeben werden. Die Quadratmetermiete muß nicht mit der Wohnfl¨ ache sinken, wenn man beispielsweise nur Ein-Zimmer-Appartements betrachtet. 2
Rendite am Aktienmarkt In Abbildung 3.10 findet sich die Matrix der Streudiagramme der mittleren Monatsrenditen f¨ ur die Aktien der Volkswagen-AG, BASF, Siemens und M¨ unchener R¨ uckversicherung
Beispiel 3.19
134
3. Multivariate Deskription und Exploration
10
15
20
1
2
3
4
5
6
1000
1500
5
15
20
500
Nettomiete
100
150
5
10
NMqm
4
5
6
50
Wohnfläche
1
2
3
Zimmeranzahl
500
1000
1500
50
100
150
Abbildung 3.9: Matrix der Streudiagramme f¨ ur Variablen Nettomiete, Wohnfl¨ ache, Zimmerzahl, Nettomiete/qm
(MR). Zus¨ atzlich wird noch der Zins betrachtet, in der Form des LIBORs (London Interbank Offered Rate), also dem Zinssatz, zu dem sich Gesch¨aftsbanken gegenseitig Geld mit einer Laufzeit bis zu einem Jahr leihen. Man sieht, daß die H¨ohe der Rendite f¨ ur Aktien untereinander deutlich zusammenh¨ angen, w¨ahrend kein deutlicher Zusammenhang zwischen Aktienrendite und Zins erkennbar ist. 2
3.4 Zusammenhangsmaße bei metrischen Merkmalen
135
Abbildung 3.10: Streudiagramm-Matrix der mittleren Monatsrenditen f¨ ur Aktien und des Zinses in Form des Libors
3.4
Zusammenhangsmaße bei metrischen Merkmalen
3.4.1
Empirischer Korrelationskoeffizient nach Bravais-Pearson
Streudiagramme und Dichtesch¨ atzung sind graphische Hilfsmittel, die die Anordnung der Beobachtungspunkte veranschaulichen. Wenn die Werte beispielsweise so angeordnet sind, daß f¨ ur wachsende Werte des Merkmals X auch das Merkmal Y tendenzm¨aßig gr¨ oßere Werte aufweist, ist es naheliegend, einen Zusammenhang zwischen den Merkmalen zu vermuten. Ein Maß f¨ ur die St¨arke dieses Zusammenhanges ist der empirische Korrelationskoeffizient, der auch als Bravais-PearsonKorrelationskoeffizient bezeichnet wird. Er ist bestimmt durch
BravaisPearsonKorrelation
136
3. Multivariate Deskription und Exploration
n
r = rXY =
(xi − x ¯)(yi − y¯)
i=1 n
(xi − x ¯)2
i=1
wobei
n
= (yi − y¯)2
s˜XY , s˜X s˜Y
i=1
n 1 (xi − x ¯)2 , s˜X = n i=1
n 1 s˜Y = (yi − y¯)2 n i=1
f¨ ur die Standardabweichungen der Merkmale X bzw. Y stehen und 1 = (xi − x ¯)(yi − y¯) n n
s˜XY
i=1
empirische Kovarianz
die empirische Kovarianz bezeichnet. Der Nenner in rXY , der die Streuungen enth¨alt, dient der Normierung. Der interessantere Teil der Formel ist die empirische Kovarianz im Z¨ ahler, die sich als Summe von Abweichungsprodukten ergibt. ¯)(yi − y¯). Um sich zu verdeutlichen, Jeder einzelne Summand hat die Struktur (xi − x welchen Beitrag diese einzelnen Summanden liefern, betrachte man Abbildung 3.11. Dort ist ein Koordinatensystem durch den Punkt (¯ x, y¯) gelegt, der den Schwerpunkt der Punktwolke darstellt. In jedem Quadranten dieses Koordinatensystems wird jeweils ein Punkt angegeben. Aus der Darstellung ergeben sich unmittelbar die Vorzeichen der einzelnen Komponenten und des Produkts, die in der Tabelle 3.6 angegeben sind. xi − x ¯
yi − y¯
(xi − x ¯)(yi − y¯)
Punkt 1 (1.Quadrant) Punkt 2 (2.Quadrant) Punkt 3 (3.Quadrant)
positiv
positiv
positiv
negativ
positiv
negativ
negativ
negativ
positiv
Punkt 4 (4.Quadrant)
positiv
negativ
negativ
Tabelle 3.6: Vorzeichen der Produkte im Z¨ ahler des Korrelationskoeffizienten
Daraus ergibt sich, daß alle Beitr¨age von Meßwerten aus dem ersten und dritten Quadranten positiv sind, w¨ ahrend Meßwerte aus dem zweiten und vierten Quadranten einen negativen Beitrag liefern. Punktwolken, die vor allem im ersten und dritten
3.4 Zusammenhangsmaße bei metrischen Merkmalen
137
6
Punkt 2 ⎧ ⎪ ⎪ ⎨ yi − y¯ (pos) ⎪ ⎪ ⎩
¯ (neg) xi − x !" #
yi − y¯ (neg)
(¯ x, y¯)
⎧ ⎪ ⎪ ⎪ ⎪ ⎪ ⎪ ⎪ ⎨ ⎪ ⎪ ⎪ ⎪ ⎪ ⎪ ⎪ ⎩
xi − x¯ (pos) !"
"
#
!
# ⎫Punkt 1 ⎪ ⎪ ⎪ ⎪ ⎪ ⎬ yi − y¯ (pos) ⎪ ⎪ ⎪ ⎪ ⎪ ⎭ ⎫ ⎪ ⎪ ⎬ yi − y¯ (neg) ⎪ ⎪ ⎭ Punkt 4
" # ! Punkt 3 x −x ¯ (pos) xi − x¯ (neg) i Abbildung 3.11: Punkte im Koordinatensystem durch den Schwerpunkt (¯ x, y¯)
Quadranten liegen, werden demnach einen positiven Korrelationskoeffizienten (r > 0) liefern. Bei derartigen Punktwolken finden sich bei großen x-Werten geh¨auft große y-Werte, bei kleinen x-Werten aber kleine y-Werte. Der Zusammenhang ist gleichsinnig. Punktwolken, die vorwiegend im zweiten und dritten Quadranten liegen, f¨ uhren entsprechend zu einem negativen Korrelationskoeffizienten (r < 0). Kleine xWerte gehen hier mit hohen y-Werten einher. Der Zusammenhang ist gegensinnig. Sind alle Quadranten einigermaßen gleich stark besetzt, heben sich positive und negative Beitr¨age gegenseitig auf, und man erh¨alt einen Korrelationskoeffizienten in der N¨ahe von null (r ≈ 0). Zur Interpretation des Korrelationskoeffizienten ist noch der Wertebereich und die Art des gemessenen Zusammenhangs wichtig. Der Nenner in der Formel ist so gew¨ahlt, daß gilt −1 ≤ r ≤ 1. Die Art des gemessenen Zusammenhangs wird deutlich, wenn man die Extremwerte von r betrachtet. Liegen alle Punkte auf einer Geraden positiver Steigung, gilt r = 1. In diesem Fall f¨ uhren zunehmende x-Werte zu linear wachsenden y-Werten, der Extremfall eines gleichsinnigen linearen Zusammenhangs liegt vor. Liegen alle Punkte auf einer Geraden negativer Steigung, erh¨alt man r = −1. F¨ ur wachsendes x erh¨alt man linear fallendes y bzw. f¨ ur abnehmendes x linear wachsendes y, also den Extremfall eines gegensinnigen linearen Zusammenhangs.
gleichsinniger Zusammenhang gegensinniger Zusammenhang
138
linearer Zusammenhang
3. Multivariate Deskription und Exploration
Der Korrelationskoeffizient mißt die St¨arke des linearen Zusammenhangs. Je n¨aher die Meßwerte an einer Geraden liegen, desto n¨aher liegt r bei 1, wenn die Gerade positive Steigung hat, desto n¨aher liegt r bei −1, wenn die Gerade eine negative Steigung hat. In Abbildung 3.12 sind einige Punktwolken dargestellt und die sich ergebenden Korrelationskoeffizienten qualitativ charakterisiert.
• •
•• •• • •• • • • • • • • • • •• • • • • •• •• r>0
•• •• •• •• • r < 0 • • •• • • • • • • •• •• •• •
•• • r ≈ 0 • • • • • •• • •• • •• • •• •• • • • • •
• • •• •• • r ≈ 0 • • • • •• • • •• ••• • •• • ••
••
•
••
• •• • •• • • r≈0
•• •
•
• ••
•• • • r ≈ 0 •• • •
Abbildung 3.12: Punktkonfigurationen und Korrelationskoeffizienten (qualitativ)
Die Werte von r lassen sich wiederum einfach nach der oben beschriebenen Methode des Beitrags einzelner Meßpunkte zum Z¨ahler ableiten. Von besonderem Interesse ist die badewannenf¨ ormige und die runddachf¨ormige Punktwolke. In beiden F¨allen liegt keine Korrelation (r ≈ 0) vor, zwischen X und Y besteht allerdings ein deutlicher Zusammenhang. Da dieser jedoch nicht linear ist, wird er vom Korrelationskoeffizienten r nicht erfaßt! F¨ ur die Korrelation zwischen prognostiziertem und tats¨achlichem Wirtschafts-
3.4 Zusammenhangsmaße bei metrischen Merkmalen
139
wachtum aus Beispiel 3.15 (Seite 128) erh¨alt man eine Korrelation mittlerer St¨arke von r = 0.695. In einem groben Raster lassen sich Korrelationen einordnen durch “schwache Korrelation” “mittlere Korrelation” “starke Korrelation”
|r| < 0.5 0.5 ≤ |r| < 0.8 0.8 ≤ |r|.
Allerdings sollte noch ber¨ ucksichtigt werden, welche Variablen untersucht werden. F¨ ur relativ genaue Messungen wie Nettomiete oder tats¨achliches Wirtschaftswachstum kann diese Grobeinteilung zugrunde gelegt werden. F¨ ur “weich gemessene” Merkmale wie Einstellungsskalen stellen Korrelationen um 0.5 eher das Maximum dar und sind daher ernster zu nehmen. Korrelationskoeffizienten sind insbesondere hilfreich als vergleichende Maße. Betrachtet man beispielsweise die Korrelation zwischen Wohnfl¨ache und Miete f¨ ur verschiedene St¨adte, lassen sich aus dem Vergleich der Korrelationskoeffizienten Hinweise auf unterschiedlich starke Zusammenh¨ange gewinnen. Zu ber¨ ucksichtigen ist allerdings der explorative und deskriptive Charakter der Koeffizienten.
vergleichendes Maß
Bravais-Pearson-Korrelationskoeffizient Der Bravais-Pearson-Korrelationskoeffizient ergibt sich aus den Daten (xi , yi ), i = 1, . . . , n, durch n (xi − x ¯)(yi − y¯) . r = i=1 n n (xi − x ¯)2 (yi − y¯)2 i=1
i=1
Wertebereich: −1 ≤ r ≤ 1 r > 0 positive Korrelation, gleichsinniger linearer Zusammenhang, Tendenz: Werte (xi , yi ) um eine Gerade positiver Steigung liegend r < 0 negative Korrelation, gegensinniger linearer Zusammenhang, Tendenz: Werte (xi , yi ) um eine Gerade negativer Steigung liegend r = 0 keine Korrelation, unkorreliert, kein linearer Zusammenhang
Der Korrelationskoeffizient r l¨ aßt sich nach einfacher Ableitung in recheng¨ unstigerer
recheng¨ unstige Formel
140
3. Multivariate Deskription und Exploration
Form darstellen durch n
r =
n i=1
Beispiel 3.20
xi yi − n¯ xy¯
i=1
x2i − n¯ x2
n i=1
. yi2 − n¯ y2
Mietspiegel F¨ ur die in Abbildung 3.9 (Seite 134) dargestellten Variablen Nettomiete und Wohnfl¨ache und ferner f¨ ur die ebenfalls erhobene Zimmeranzahl und Nettomiete pro qm erh¨alt man die im folgenden angegebenen paarweisen Korrelationskoeffizienten, die eine Korrelationsmatrix ergeben. Nettomiete 0.721 0.567 0.430
Wohnfl¨ache 0.854 −0.255
Zimmerzahl −0.294
Nettomiete/qm
Man erh¨ alt somit eine “mittlere Korrelation” zwischen Wohnfl¨ache und Nettomiete und eine “starke Korrelation” zwischen der Zimmerzahl und der Wohnfl¨ache. Eine negative Korrelation erh¨ alt man beispielsweise zwischen Wohnfl¨ache und Nettomiete/qm. Auch wenn diese relativ schwach ist, scheint doch bei gr¨oßerer Wohnfl¨ache die Nettomiete/qm tendenziell abzunehmen. 2
φ-Koeffizient Der Bravais-Pearson Korrelationskoeffizient ist prinzipiell nur f¨ ur metrische Variablen geeignet. Einen Ausnahmefall stellen Variablen mit nur zwei Auspr¨agungen, sogenannte dichotome oder bin¨are Variablen, dar. F¨ ur die beiden Auspr¨agungen w¨ahlt man die spezielle Kodierung durch “0” und “1”, d.h. X, Y ∈ {0, 1}. Die Daten lassen sich in einer (2 × 2)-Tabelle zusammenfassen. Mit den Zellbesetzungen alt man hij , i, j ∈ {1, 2}, erh¨ Y 0 1 0 h11 h12 h1· X 1 h21 h22 h2· h·1 h·2
3.4 Zusammenhangsmaße bei metrischen Merkmalen
141
Berechnet man f¨ ur die (0−1)-kodierten Variablen den Bravais-Pearson-Korrelationskoeffizienten ergibt sich nach einfacher Rechnung h11 h22 − h12 h21 = φ. r= √ h1· h2· h·1 h·2 Dieses Maß wird als φ-Koeffizient bzw. Phi-Koeffizient bezeichnet. Ein Vergleich mit den Assoziationsmaßen f¨ ur Kontingenztabellen zeigt, daß der Korrelations- bzw. φKoeffizient eng mit dem χ2 -Wert verwandt ist. Es gilt genauer φ2 =
φ-Koeffizient
χ2 . n
arke des Zusammenhangs, nicht die Richtung im Sinne Der χ2 -Wert mißt nur die St¨ von gleich- oder gegensinnigem Zusammenhang. Dies kommt auch im Quadrieren in der Formel φ2 = χ2 /n zum Ausdruck. Durch das Quadrieren verliert der Korrelationskoeffizient die Richtungsinformation. W¨ahrend φ ∈ [−1, 1] gilt, ist φ2 aus dem Intervall [0, 1]. Als Korrelationskoeffizient gibt φ auch die Richtung des Zusammenhangs wieder. Arbeitslosigkeit
Beispiel 3.21
F¨ ur die (2 × 2)-Tafel
Keine Ausbildung Lehre
0 1
Mittelfristige Arbeitslosigkeit 0 19 43
Langfristige Arbeitslosigkeit 1 18 20
wurde bereits in Beispiel 3.14 (Seite 127) ein χ2 -Wert von 2.826 errechnet. F¨ ur n = 100 Beobachtungen erh¨ alt man φ2 = 0.028. Daraus ergibt sich |φ| = 0.168. Um das Vorzeichen zu bestimmen, ist es allerdings n¨ otig, das Vorzeichen von r zu kennen. Man erh¨alt daraus φ = −0.168, also eine relativ kleine negative Korrelation. F¨ ur den Kontingenzkoeffizienten und die korrigierte Variante erh¨ alt man K = 0.165 bzw K ∗ = 0.234. 2
Das Vorzeichen des φ-Koeffizienten h¨ angt wesentlich von der Art der Kodierung ab. In Beispiel 3.21 erh¨ alt man mit φ = −0.168 eine negative Korrelation zwischen Ausbildungsniveau und Dauer der Arbeitslosigkeit (in zwei Kategorien). F¨ ur das h¨ohere Ausbildungsniveau ist die Tendenz zu l¨ angerfristiger Arbeitslosigkeit verringert. Vertauscht man beispielsweise die Kodierung des Ausbildungsniveaus, indem Lehre durch “0” und keine Ausbildung durch “1” kodiert wird, erh¨alt der φ-Koeffizient ein anderes Vorzeichen. Mit φ = 0.168 erh¨ alt man eine positive Korrelation zwischen “Mangel an Ausbildung” und Dauer der Arbeitslosigkeit.
142
3.4.2 Rang
3. Multivariate Deskription und Exploration
Spearmans Korrelationskoeffizient
Einen alternativen Korrelationskoeffizienten erh¨alt man, wenn man von den urspr¨ unglichen x- und y-Werten zu ihren R¨ angen u ¨bergeht. Dabei ordnet man jedem x-Wert aus x1 , . . . , xn als Rang die Platzzahl zu, die der Wert bei gr¨oßenm¨aßiger Anordnung aller Werte erh¨ alt. Die Prozedur wird unmittelbar deutlich an dem folgenden Beispiel xi rg (xi )
2.17 3
8.00 4
1.09 1
2.01 2
Bezeichnen x(1) ≤ . . . ≤ x(n) wieder die geordneten Werte, dann gilt rg (x(i) ) = i. Dieselbe Vergabe von Rangpl¨ atzen wird unabh¨angig von den x-Werten f¨ ur die yuhrt. Man erh¨alt mit den geordneten Werten Meßwerte y1 , . . . , yn durchgef¨ y(1) ≤ . . . ≤ y(n) ,
Durchschnittsr¨ange
rg (y(i) ) = i.
Damit ergeben sich aus den urspr¨ unglichen Meßpaaren (xi , yi ), i = 1, . . . , n, die neuen Rangdaten (rg (xi ), rg (yi )), i = 1, . . . , n. Man beachte, daß hier die R¨ange der urspr¨ unglichen Daten, nicht der geordneten Daten angegeben sind: Im allgemeinen gilt rg (xi ) = i, d.h. x1 muß nicht der kleinste Wert sein, x(1) bezeichnet den kleinsten Wert, dies kann aber der siebte erhobene Wert x7 sein. Sowohl innerhalb der x-Werte als auch innerhalb der y-Werte k¨onnen identische Werte auftreten. Die Rangvergabe ist dann nicht eindeutig. Man behilft sich mit Durchschnittsr¨ angen, d.h. jedem der identischen Meßwerte wird als Rang das arithmetische Mittel der in Frage kommenden R¨ange zugewiesen. Im folgenden Beispiel tritt die Messung 2.17 dreimal auf mit den potentiellen Rangpl¨ atzen 2, 3, 4, so daß jedem der Meßwerte der Durchschnittsrang rg = (2 + 3 + 4)/3 = 3 zugeordnet wird. xi 1.09 2.17 2.17 2.17 3.02 4.5 rg (xi ) 1 3 3 3 5 6
Bindungen Ties Spearmans Korrelationskoeffizient
Derartige identische Meßwerte nennt man Bindungen oder Ties. Der Tiebreak im Tennis dient dazu, das 6 : 6 als identische Scores aufzubrechen. Spearmans Korrelationskoeffizient ergibt sich nun als der Bravais-Pearson-Korrelationskoeffizient, angewandt auf die Rangpaare (rg (xi ), rg (yi )), i = 1, . . . , n, durch (rg (xi ) − rg ¯ X )(rg (yi ) − rg ¯ Y) , rSP = $ ¯ X )2 (rg (yi ) − rg ¯ Y )2 (rg (xi ) − rg
3.4 Zusammenhangsmaße bei metrischen Merkmalen
143
wobei die Mittelwerte der R¨ ange gegeben sind durch
rg ¯X= rg ¯Y
1 1 rg (xi ) = i = (n + 1)/2, n n n
n
i=1
i=1
n n 1 1 = rg (yi ) = i = (n + 1)/2. n n i=1
i=1
Die letzte ucken resultiert aus der einfach ableitbaren Umformung in beiden Ausdr¨ Formel ni=1 i = n(n + 1)/2.
Zur Veranschaulichung, welche Form des Zusammenhangs Spearmans Korrelationskoeffizient mißt, betrachte man die Extremf¨alle rSP = 1 bzw. rSP = −1. Spearmans Korrelationskoeffizient nimmt nach Definition den Wert rSP = 1 an, wenn die Rangpaare rg (xi ), rg (yi ) , i = 1, . . . , n, auf einer Geraden positiver Steigung liegen, vorausgesetzt, keine Bindungen treten auf. Da R¨ange ganzzahlig sind, m¨ ussen die Rangpaare dann von der Form (i, i), i = 1, . . . , n, sein, d.h. sie liegen auf den Gitterpunkten der Winkelhalbierenden. F¨ ur die urspr¨ unglichen Werte (xi , yi ) gilt dann zwangsl¨aufig, daß die Beobachtung mit dem kleinsten x-Wert auch den kleinsten y-Wert aufweist, die Beobachtung mit dem zweitkleinsten x-Wert besitzt auch ¨ den zweitkleinsten y-Wert usw. In Abbildung 3.13 sind der Ubersichtlichkeit wegen ¨ folgt, nur vier Meßpunkte dargestellt, f¨ ur die rSP = 1 gilt. Aus dieser Uberlegung ur wachsende x-Werte die y-Werte streng monoton daß rSP = 1 dann gilt, wenn f¨ ur beliebige i = j. wachsen, formal ausgedr¨ uckt, wenn xi < xj dann gilt yi < yj f¨
V¨ollig analog ¨ berlegt man sich, daß rSP = −1 gilt, wenn die Punkte dazu u rg (xi ), rg (yi ) , i = 1, . . . , n, auf einer Geraden negativer Steigung liegen, d.h. wenn zwischen x-Werten und y-Werten ein umgekehrt monotoner Zusammenhang besteht. ur beliebige Formal ausgedr¨ uckt heißt das, wenn xi < xj gilt, muß yi > yj gelten f¨ i = j. Man vergleiche dazu Abbildung 3.13.
¨ Aus diesen Uberlegungen folgt, daß Spearmans Korrelationskoefizient nicht die St¨arke des linearen, sondern des monotonen Zusammenhangs mißt.
monotoner Zusammenhang
144
3. Multivariate Deskription und Exploration
x
6
•
rg (yi ) 46
• •
3 •
2 •
•
1 -
y x
•
•
6
•
• 1
-
y
-
4 rg (xi )
• •
2 •
3
rg (yi ) 46 • 3
•
2
•
1 1
2
3
-
4 rg (xi )
Abbildung 3.13: Extremf¨ alle f¨ ur Spearmans Korrelationskoeffizienten, rSP = 1 (oben) und rSP = −1 (unten)
Spearmans Korrelationskoeffizient Der Korrelationskoeffizient nach Spearman ist definiert durch (rg (xi ) − rg ¯ X )(rg (yi ) − rg ¯ Y) , rSP = $ 2 ¯ X) ¯ Y )2 (rg (xi ) − rg (rg (yi ) − rg Wertebereich: −1 ≤ rSP ≤ 1 rSP > 0 gleichsinniger monotoner Zusammenhang, Tendenz: x groß ⇔ y groß, x klein ⇔ y klein rSP < 0 gegensinniger monotoner Zusammenhang, Tendenz: x groß ⇔ y klein, x klein ⇔ y groß rSP ≈ 0 kein monotoner Zusammenhang
Eignung bei Ordinalskala
Ein weiterer Aspekt des Spearmans Korrelationskoeffizienten ist seine Eignung f¨ ur Merkmale, die auf Ordinalskalenniveau gemessen sind. Nach Konstruktion benutzt der Koeffizient nur die Ordnungsrelation und ist daher bereits ab Ordinalskalenniveau anwendbar. Gelegentlich sind die Messungen selbst Rangreihen. Wenn beispiels-
3.4 Zusammenhangsmaße bei metrischen Merkmalen
145
weise zwei Weinkenner zehn Weinproben ihrer Qualit¨at nach ordnen, l¨aßt sich aus den resultierenden R¨ angen der Spearmansche Korrelationskoeffizient unmittelbar bestimmen, der dann mit dem Bravais-Pearson-Korrelationskoeffizienten identisch ist. Mietspiegel
Beispiel 3.22
In Beispiel 3.20 (Seite 140) wurden bereits die Bravais-Pearson-Korrelationskoeffizienten f¨ ur die Merkmale des Mietspiegels angegeben. Diese finden sich in der folgenden Darstellung im linken unteren Dreieck. Im rechten oberen Dreieck sind die entsprechenden Korrelationskoeffizienten nach Spearman angegeben. Korrelationskoeffizient nach Spearman Nettomiete 0.711 0.582 0.425 0.721 Wohnfl¨ ache 0.875 −0.255 0.567 0.854 Zimmerzahl −0.295 0.430 −0.255 −0.294 Nettomiete/qm Bravais-Pearson-Korrelationskoeffizient Die Werte, die die Korrelationskoeffizienten nach Spearman annehmen, sind mit denen des Bravais-Pearson-Korrelationskoeffizienten vergleichbar, was daf¨ ur spricht, daß die Form des monotonen Zusammenhangs weitgehend linear ist. Die gr¨oßte Differenz zwischen r und rSP findet sich f¨ ur die Merkmale Wohnfl¨ ache und Zimmeranzahl, so daß f¨ ur diese Merkmale der monotone Zusammenhang am wenigsten linear zu sein scheint. 2
Renditen
Beispiel 3.23
F¨ ur die in Abbildung 3.10 (Seite 135) dargestellten mittleren Monatsrenditen erh¨alt man die folgenden Korrelationen. Die Bravais-Pearson-Korrelation ist wiederum links unten, die Korrelation nach Spearman rechts oben wiedergegeben. Zins 0.027 0.090 0.091 0.076
0.063 VW 0.581 0.583 0.362
0.054 0.489 BASF 0.585 0.506
0.104 0.565 0.530 Siemens 0.574
0.081 0.269 0.407 0.535 MR
Die Korrelationen zwischen den Aktienrenditen und dem Zins verschwinden nahezu. Die Bravais-Pearson-Korrelation sowie die Korrelation nach Spearman zwischen den Aktienrenditen ist von mittlerer St¨ arke und gr¨ oßenm¨ aßig vergleichbar, was auf einen eher linearen Zusammenhang verweist. 2
146
3. Multivariate Deskription und Exploration
Rechentechnisch l¨ aßt sich Spearmans Korrelationskoeffizient einfacher berechnen, wenn man zuerst die Differenzen di = rg (xi ) − rg (yi ) bestimmt. Die resultierende Formel l¨ aßt sich durch Einsetzen der Formeln f¨ ur die Durchschnittsr¨ange rg ¯ X und rg ¯ Y und weitere Umformungen ableiten. Sie gilt allerdings nur, wenn keine Bindungen auftreten, d.h. wenn alle xi (und yi ) jeweils paarweise verschieden sind. Spearmans Korrelationskoeffizient (rechentechnisch g¨ unstige Version) ur alle i, j Daten: (xi , yi ), i = 1, . . . , n, xi = xj , yi = yj f¨ Rangdifferenzen: di = rg (xi ) − rg (yi ) 6 d2i rSP = 1 − 2 (n − 1)n Voraussetzung: keine Bindungen
3.4.3
lineare Transformation
Invarianzeigenschaften
Der Bravais-Pearson- wie auch Spearmans Korrelationskoeffizient bleiben (bis auf das Vorzeichen) unver¨ andert, wenn die Merkmale bestimmten Transformationen unterworfen werden. Betrachtet man anstatt der urspr¨ unglichen Merkmale X und Y die linear transformierten Merkmale ˜ = aX X + bX , aX = 0, X Y˜ = aY Y + bY ,
aY = 0,
˜ und Y˜ . erh¨alt man f¨ ur die Bravais-Pearson-Korrelation zwischen X [aX xi + bX − (aX x ¯ + bX )][aY yi + bY − (aY y¯ + bY )] rX˜ Y˜ = $ ¯ + bX )]2 [aY yi + bY − (aY y¯ + bY )]2 [aX xi + bX − (aX x aX aY aX aY (xi − x ¯)(yi − y¯) = rXY . = [a2 ¯)2 ][a2 (x − x (y − y¯)2 ] |aX ||aY | X
i
Y
i
Daraus folgt unmittelbar die Eigenschaft |rX˜ Y˜ | = |rXY |, Maßstabsunabh¨angigkeit
die
als Maßstabsunabh¨ angigkeit des Bravais-Pearson-Korrelationskoeffizient be-
3.4 Zusammenhangsmaße bei metrischen Merkmalen
147
zeichnet wird. Der abgeleitete Zusammenhang aX aY rXY rX˜ Y˜ = |aX | |aY | zeigt genauer, daß gilt • rX˜ Y˜ = rXY , wenn aX , aY > 0 bzw. aX , aY < 0, • rX˜ Y˜ = −rXY , wenn aX > 0, aY < 0 bzw. aX < 0, aY > 0. F¨ ur Spearmans Korrelationskoeffizient gilt nach Konstruktion dieselbe Eigenschaft. Allerdings ist dieser Koeffizient dar¨ uber hinaus invariant gegen¨ uber allgemeineren Transformationen, genauer gegen¨ uber streng monotonen Transformationen. Betrachtet man anstatt der urspr¨ unglichen Merkmale X und Y die transformierten Merkmale ˜ = g(X), X
wobei g streng monoton (wachsend oder fallend) ist
Y˜ = h(Y ),
wobei h streng monoton (wachsend oder fallend) ist, ¨ so gilt nach einfacher Uberlegung: ˜ Y˜ ) = rSP (X, Y ), • rSP (X,
wenn g und h monoton wachsend bzw. g und h monoton fallend sind,
˜ Y˜ ) = −rSP (X, Y ), • rSP (X,
wenn g monoton wachsend und h monoton fallend bzw. g monoton fallend und h monoton wachsend sind.
Diese Aussagen gelten nicht f¨ ur den Bravais-Pearson-Korrelationskoeffizienten. Dort sind bei den Invarianz¨ uberlegungen lineare Transformationen vorausgesetzt. Diese Invarianzeigenschaften, also Invarianz gegen¨ uber linearen Transformationen f¨ ur den Bravais-Pearson-Koeffizienten und Invarianz gegen¨ uber (streng) monotonen Transformationen f¨ ur Spearmans Koeffizienten machen nochmals deutlich, daß ersterer lineare, letzterer monotone Zusammenh¨ ange erfaßt. Eine weitere Eigenschaft der Koeffizienten, die auch unter dem Aspekt der Interpretation von Bedeutung ist, ist die Invarianz gegen¨ uber der Vertauschung der Rolle von X und Y . Vertauscht man die Merkmale miteinander, so bleiben die Koeffizienten unver¨ andert. Es gilt rXY = rY X
bzw. rSP (X, Y ) = rSP (Y, X).
Die Merkmale stehen gleichberechtigt nebeneinander, keines wird durch die Formeln als abh¨angig von dem anderen ausgezeichnet. Die Koeffizienten k¨onnen nur einen Zusammenhang, nicht die Richtung der Wirkung im Sinne des Einflusses auf eine Zielgr¨oße erfassen. Die Korrelation zwischen der K¨orpergr¨oße des Vaters und des Sohnes
streng monotone Transformation
148
3. Multivariate Deskription und Exploration
erfaßt nur die St¨ arke des Zusammenhangs. Wenn eine Wirkung von einer Variable auf die andere ausgeht, in diesem Fall von der Gr¨oße des Vaters auf die des Sohnes, ¨ so folgt diese aus inhaltlichen bzw. substanzwissenschaftlichen Uberlegungen, nicht aus der Gr¨ oße der Korrelationskoeffizienten. In diesem Zusammenhang ist auch auf das Ph¨ anomen der Scheinkorrelation hinzuweisen (vgl. Abschnitt 3.5). Korrelation Korrelation ist ein Maß f¨ ur die St¨arke des Zusammenhangs zwischen X und Y . Die Richtung der Wirkung, sofern vorhanden, wird durch Korrelationskoeffizienten nicht erfaßt.
3.5
Kausalit¨at
Korrelation und Kausalit¨ at
Wie zum Ende von Abschnitt 3.4 bereits erl¨autert wurde, geben die Koeffizienten zur Messung der Korrelation nicht an, in welche Richtung eine m¨ogliche Beeinflussung zwischen zwei Variablen stattfindet. Dies ist jedoch nur ein Aspekt, der bei der Interpretation von Korrelationskoeffizienten beachtet werden muß. Ein anderes Problem entsteht dadurch, daß man leicht versucht ist, einen betragsm¨aßig hohen Wert eines Korrelationskoeffizienten nicht nur als Indikator f¨ ur einen Zusammenhang der betrachteten beiden Merkmale anzusehen, sondern diesen Zusammenhang auch kausal zu interpretieren. Kausalzusammenh¨ ange k¨onnen aber niemals allein durch große Werte eines entsprechenden Zusammenhangsmaßes oder allgemeiner durch eine sta¨ tistische Analyse begr¨ undet werden. Dazu m¨ ussen stets sachlogische Uberlegungen herangezogen werden. Aufgrund dieser substanzwissenschaftlichen Betrachtungen kann in einem ersten Schritt festgestellt werden, welches der beiden Merkmale das andere, wenn u ¨ berhaupt, beeinflußt und in einem zweiten Schritt, ob diese Beeinflussung kausal ist. W¨ahrend der erste Schritt noch relativ unproblematisch ist, sind f¨ ur den zweiten Schritt umfassende Kenntnisse aus dem entsprechenden Forschungsgebiet erforderlich. So ist es zum Beispiel m¨ oglich, daß zwar eine Beeinflussung von einem Merkmal A auf ein Merkmal B stattfindet, aber nicht direkt, sondern u ¨ber ein direktes Merkmal C. Ber¨ ucksichtigt man C in der statistischen Analyse nicht, kann dies zu v¨ollig falschen Schl¨ ussen f¨ uhren. Wollte man Kausalit¨ at beweisen, so w¨are dies am ehesten mit Hilfe eines Experiments m¨ oglich, bei dem kontrolliert die Auswirkung des potentiell beeinflussenden Merkmals A auf das zu beeinflussende Merkmal B beobachtet werden kann. Bewirken Ver¨ anderungen der Intensit¨at von A die Ver¨anderung der Intensit¨at von B, so
3.5 Korrelation und Kausalit¨at
149
liegt die Vermutung eines kausalen Zusammenhangs nahe. Als Beispiel f¨ ur ein solches Experiment seien Untersuchungen zur Beurteilung der Auswirkung von Alkoholkonsum auf das Reaktionsverm¨ ogen genannt. Derartige Experimente lassen sich aber in den wenigsten F¨ allen durchf¨ uhren. H¨ aufig sind sie aus ethischen oder auch aus technischen Gr¨ unden nicht vertretbar. Man sollte daher eine hohe Korrelation eher als einen Hinweis auf einen m¨oglicherweise bestehenden Zusammenhang zwischen zwei Merkmalen verstehen. Um auf einen gerichteten oder gar kausalen Zusammenhang schließen zu k¨onnen, sind ¨ zus¨atzliche sachlogische Uberlegungen erforderlich. Zudem sollte man kritisch die M¨oglichkeit u berdenken, weitere wesentliche Merkmale unter Umst¨anden u ¨ ¨bersehen zu haben. Dies kann zu Scheinkorrelationen, aber auch zu verdeckten Korrelationen f¨ uhren, wie die folgenden Beispiele illustrieren.
Scheinkorrelation verdeckte Korrelation
Scheinkorrelation Von einer Scheinkorrelation spricht man, wenn man eine hohe Korrelation zwischen zwei Merkmalen beobachtet, die inhaltlich nicht gerechtfertigt ist. Solche scheinbaren Zusammenh¨ange k¨ onnen dadurch bewirkt werden, daß ein mit beiden beobachteten Merkmalen hochkorreliertes drittes Merkmal u uck¨bersehen wird und somit unber¨ sichtigt bleibt. Zur Verdeutlichung dieses Begriffs betrachten wir das folgende fiktive Beispiel. Wortschatz von Kindern
Beispiel 3.24
Bei f¨ unf zuf¨ allig ausgew¨ ahlten Kindern wurden der Wortschatz X und die K¨orpergr¨oße Y in cm gemessen. Dabei erfolgte die Messung des Wortschatzes u ¨ber die Anzahl der verschiedenen W¨ orter, die die Kinder in einem Aufsatz u ¨ ber die Erlebnisse in ihren Sommerferien benutzten. Nehmen wir an, wir h¨ atten folgende Daten erhalten: xi yi
37 130
30 112
20 108
28 114
35 136
Stellt man die Daten in einem Streudiagramm (vgl. Abb. 3.14) dar, erkennt man bereits einen starken positiven Zusammenhang, d.h. je gr¨oßer der Wortschatz ist, desto gr¨oßer sind auch die Kinder. Da beide Merkmale metrisch sind, k¨ onnen wir die St¨arke des Zusammenhangs mit Hilfe des Korrelationskoeffizienten nach Bravais-Pearson messen. Dieser berechnet sich als 5
rXY =
xi yi − 5¯ xy¯
i=1 5
i=1
x2i
− 5¯ x2
5
i=1
. yi2
− 5¯ y2
150
3. Multivariate Deskription und Exploration
x
x
x x x
Abbildung 3.14: Streudiagramm des Wortschatzes X und der K¨ orpergr¨ oße Y gemessen an f¨ unf Kindern
Mit x ¯ = 30, y¯ = 120,
5 i=1
x2i = 4678,
5 i=1
yi2 = 72600 und
5
xi yi = 18282 erhalten wir
i=1
rXY = 0.863 , was auf einen starken, linearen, positiven Zusammenhang hinzuweisen scheint. Sachlogisch l¨ aßt sich nicht erkl¨ aren, daß ein direkter Zusammenhang von zunehmender K¨ orpergr¨ oße und Wortschatz vorliegt. Vielmehr scheint hier das Problem vorzuliegen, daß eine andere wesentliche Variable diesen Zusammenhang bewirkt. In diesem einfachen Beispiel ist die L¨ osung des Problems naheliegend: Mit wachsendem Alter nehmen sowohl K¨orpergr¨oße als auch Wortschatz zu. Nimmt man das Alter als drittes Merkmal Z gemessen in Jahren hinzu, also: xi yi zi
37 130 12
30 112 7
20 108 6
28 114 7
35 136 13
so ergeben sich rY Z = 0.996 und
rXZ = 0.868 .
Damit liegt die oben beschriebene Situation vor: Ein drittes, mit den anderen beiden Merkmalen hochkorreliertes Merkmal blieb zun¨achst unber¨ ucksichtigt. Der Effekt war die Beobachtung einer Scheinkorrelation zwischen den ersten beiden Variablen. 2
In diesem kleinen Beispiel ist es offensichtlich, daß das Alter der Kinder die eigentlich entscheidende Gr¨ oße ist, um diese Scheinkorrelation aufzukl¨aren. Oft l¨aßt sich aber f¨ ur eine beobachtete Korrelation eine Erkl¨arung finden, die zwar einsichtig erscheint, aber dennoch die eigentlich entscheidenden Zusammenh¨ange u ¨bersieht. Ein solcher Fall liegt beispielsweise bei der hohen Korrelation zwischen Ausl¨anderanteil und
3.5 Korrelation und Kausalit¨at
151
Kriminalit¨atsrate vor, die sich sicherlich soziologisch erkl¨aren ließe. Solche Merkmale werden jedoch h¨ aufig auf Stadtebene erhoben, so daß man diese Information zus¨atzlich ber¨ ucksichtigen kann. Betrachtet man also diesen Zusammenhang abh¨angig von der jeweiligen Stadt, in der die Delikte begangen werden, d.h. nimmt man als drittes Merkmal die Stadtgr¨ oße hinzu, so wird deutlich, daß mit der Gr¨oße der Stadt sowohl die Kriminalit¨ atsrate als auch der Ausl¨anderanteil zunehmen. Dies ist sicherlich ein nicht zu vernachl¨ assigender Aspekt bei der Untersuchung des Zusammenhangs zwischen Ausl¨ anderanteil und Anzahl der Kriminaldelikte. Allerdings ist in großen Studien ein solches Problem u ¨blicherweise nicht einfach zu l¨osen, da zu Beginn der Studie h¨ aufig unklar ist, welche Merkmale u ¨ berhaupt wichtig sind und somit erhoben werden sollen. Wird ein entscheidendes Merkmal in der Studienplanung u aßt sich dieses i.a. nicht nachtr¨aglich erheben. ¨bersehen, so l¨ Die Tatsache, daß ein entscheidendes Merkmal nicht ber¨ ucksichtigt wird, kann aber nicht nur eine Scheinkorrelation hervorrufen, sondern auch eine tats¨achlich vorhandene Korrelation verschleiern oder hinsichtlich des Vorzeichens umkehren. Verdeckte Korrelation Betrachten wir zun¨ achst ein Beispiel f¨ ur eine verschleierte Korrelation. Auch wenn die im folgenden beschriebene Situation in etwa die Realit¨at widerspiegelt, ist sie hier als fiktives Beispiel gedacht. Zigarettenkonsum Nehmen wir an, bei der Untersuchung des Zigarettenkonsums seit 1950 stellte man fest, daß dieser nahezu konstant geblieben ist. Tats¨ achlich h¨atte aber eine ziemlich starke Entwicklung stattgefunden, die erst entdeckt werden kann, wenn man die Korrelation zwischen Zigarettenkonsum und Zeit f¨ ur die Geschlechter getrennt analysiert. Es zeigte sich dann deutlich, daß der Zigarettenkonsum in der weiblichen Bev¨olkerung seit 1950 st¨andig zugenommen h¨atte, w¨ ahrend diese Entwicklung in der m¨ annlichen Bev¨olkerung gerade gegenl¨aufig gewesen w¨ are. H¨ atte man das Geschlecht als m¨ ogliche Einflußgr¨oße vergessen, so w¨are die Korrelation zwischen Zigarettenkonsum und Zeit verdeckt worden, da sie zwar in beiden Populationen vorhanden, aber gegenl¨ aufig gewesen ist. 2
W¨ ahrend das obige Beispiel den Fall verdeutlicht, daß durch das Ignorieren eines entscheidenden Merkmals die Korrelation zwischen den interessierenden Merkmalen als nicht vorhanden erscheint, illustriert das folgende, erneut fiktive Beispiel die Situation, daß ein an sich positiver Zusammenhang zwischen zwei Merkmalen als negativ erscheint.
Beispiel 3.25
152
Beispiel 3.26
3. Multivariate Deskription und Exploration
Therapieerfolg und Dosierung Die Dosierung von Medikamenten zur Behandlung von Krankheiten ist i.a. nicht unproblematisch. Zwar kann man meist davon ausgehen, daß mit wachsender Dosierung auch der Heilungserfolg ansteigt, aber diesem positiven Effekt sind Grenzen gesetzt: zum einen bedingt durch einen m¨ oglichen toxischen Effekt und zum anderen durch die steigende Gefahr m¨ oglicher Nebenwirkungen. Verbl¨ uffend erscheint jedoch der Ausgang einer Studie, wenn diese trotz Beachtung der toxischen Grenze und m¨oglicher Nebenwirkungen eine negative Korrelation zwischen Dosierung und Therapieerfolg liefern w¨ urde (vgl. Abb. 3.15).
Abbildung 3.15: Therapieerfolg in Abh¨ angigkeit von der Dosierung
Betrachtet man erg¨ anzend zum Korrelationskoeffizienten das zugeh¨orige Streudiagramm, so erkennt man einen interessanten Effekt: Die Gesamtpopulation der Kranken zerf¨allt in zwei Teilpopulationen. In jeder Teilpopulation nimmt mit der Dosierung der Therapieerfolg zwar zu, aber u ¨ ber die Populationen hinweg sieht man einen gegenl¨aufigen Effekt, wie Abbildung 3.15 illustriert. Wie l¨ aßt sich dieses Ph¨anomen erkl¨aren? An der Abbildung wird deutlich, daß der Datensatz in zwei Cluster zerf¨allt. In dem linken Cluster ist der Therapieerfolg groß, obwohl die Dosierung insgesamt eher gering ist, w¨ahrend in dem rechten Cluster der Therapieerfolg trotz hoher Dosierung wesentlich geringer ist. Ein solcher Effekt ist dadurch bedingt, daß die Teilpopulation des linken Clusters nur leicht erkrankte Patienten enth¨ alt, die schon bei geringer Dosierung schnell gesunden, und die des rechten Clusters aus schwer kranken Patienten besteht, die selbst bei hoher Dosierung geringere Therapieerfolge aufweisen. 2
Der in Beispiel 3.26 beschriebene Effekt kann immer dann auftreten, wenn eine Population hinsichtlich des interessierenden Zusammenhangs in Teilpopulationen zerf¨allt.
3.6 Regression
153
Man sollte sich daher nie alleine auf den Korrelationskoeffizienten beschr¨anken, sondern zumindest erg¨ anzend das zugeh¨ orige Streudiagramm betrachten.
3.6
Regression
Bislang haben wir anhand der Korrelationsanalyse nur ungerichtete Zusammenh¨ange untersuchen k¨onnen. Allerdings haben wir bereits darauf hingewiesen, daß sachlo¨ gische Uberlegungen h¨ aufig eine Richtung in der Beeinflussung nahelegen. Damit l¨aßt sich also ein Merkmal, sagen wir Y, als abh¨angig von dem anderen Merkmal X ansehen.
3.6.1
Das lineare Regressionsmodell
Kommen wir noch einmal auf den Mietspiegel zur¨ uck. In diesem Beispiel wurden unter anderem die Nettomiete und die Wohnfl¨ache der Wohnungen erfaßt. Berechnet man den Korrelationskoeffizienten nach Bravais-Pearson f¨ ur diese beiden Merkmale, erh¨alt man erwartungsgem¨ aß einen positiven Wert und zwar rXY = 0.51 . Im Streudiagramm der Abbildung 3.6 (Seite 130) erkennt man ebenfalls, daß mit wachsender Wohnfl¨ ache die Nettomiete ansteigt. Ein solcher Zusammenhang zwischen metrisch skalierten Merkmalen ließe sich mathematisch durch eine Funktion beschreiben in der Form Y = f (X) . Allerdings sehen wir an dem Streudiagramm deutlich, daß ein so klarer funktionaler Zusammenhang offenbar nicht angegeben werden kann, da die Beobachtungen doch eine starke Streuung aufweisen. Dieser Tatsache versucht man in der Statistik dadurch Rechnung zu tragen, daß man obigen funktionalen Zusammenhang nicht als exakt annimmt, sondern noch einen zuf¨ alligen Fehlerterm zul¨aßt. Gehen wir davon aus, daß dieser additiv ist, so betrachten wir die Beziehung:
Fehlerterm
Y = f (X) + . Wir hoffen nat¨ urlich, daß wir eine Funktion f zur Beschreibung des vorliegenden Zusammenhangs finden k¨ onnen, so daß ein m¨oglichst großer Anteil der Variabilit¨at in den Daten erkl¨ art werden kann, also nur wenig auf den Fehler zur¨ uckzuf¨ uhren ist. Beziehungen dieser Art nennt man Regressionen oder Regressionsmodelle. Bei
Regressionen
154
Ausgleichsgerade
3. Multivariate Deskription und Exploration
der Suche nach einem geeigneten f beginnt man oft mit einer linearen Funktion. Das heißt, man versucht, durch die Punktwolke eine Ausgleichsgerade zu legen, also eine Gerade, die m¨ oglichst nahe an den tats¨achlichen Beobachtungen liegt. Wir werden sp¨ ater noch kl¨ aren, wie sich eine solche Gerade bestimmen l¨aßt, oder anders formuliert, was wir unter ”m¨ oglichst nahe“ verstehen sollen. In dem Fall, daß wir eine Gerade an die Daten anpassen wollen, ist die Funktion f somit von der Gestalt f (X) = α + βX .
lineare empirische Beziehung
lineare Einfachregression
F¨ ur die Datenpaare (xi , yi ), i = 1, . . . , n, gilt dann die lineare empirische Beziehung yi = α + βxi + i ,
i = 1, . . . , n ,
wobei i gerade den durch die Geradenanpassung bedingten “Fehler” wiedergibt. Das dazugeh¨ orige Modell ist das der sogenannten linearen Einfachregression, das wohl bekannteste und am einfachsten zu handhabende Modell. Erweiterungen dieses Ansatzes werden in Kapitel 12 dargestellt. Paßt man eine Gerade an die Daten an, so geschieht dies auch in Anlehnung an den Korrelationskoeffizienten nach BravaisPearson, der gerade einen linearen Zusammenhang mißt.
3.6.2
Die Berechnung der Ausgleichsgeraden
Bei der Beschreibung der Beobachtungen durch eine Gerade α + βX wird man Achsenabschnitt versuchen, die Koeffizienten α und β, d.h. den Achsenabschnitt und die Steigung, Steigung so zu bestimmen, daß die einzelnen Datenpunkte m¨oglichst wenig von der Gerade
entfernt liegen. Wir m¨ ussen also nach einem Verfahren suchen, das in Abh¨angigkeit von den Daten α und β festlegt. Aufgrund der Geradengleichung wird f¨ ur jedes xi ein Wert, n¨amlich gerade ur das Merkmal Y berechnet. Diesen Wert w¨ urde also im obigen Beispiel α + βxi , f¨ die Nettomiete f¨ ur eine bestimmte Quadratmeterzahl annehmen, wenn die Beobachtungen alle genau auf einer Geraden l¨agen. Da sie aber offensichtlich um diese noch zu bestimmende Gerade streuen, wird der Wert, den wir aufgrund dieser Geradengleichung prognostizieren, von dem tats¨achlichen abweichen. Diese Abweichung soll nun m¨ oglichst klein sein. Es macht dabei keinen Sinn, das Problem einer m¨oglichst kleinen Abweichung f¨ ur jeden Datenpunkt einzeln zu l¨osen. Wir m¨ ussen die f¨ ur alle Punkte m¨ oglichen Abweichungen global gering halten. Dies kann man dadurch erreichen, daß man die durchschnittliche Abweichung minimiert. Allerdings haben wir damit noch nichts dazu gesagt, wie diese Abweichung zu messen ist. Das u ¨bliche Vorgehen besteht darin, die quadrierten Differenzen zwischen den beobachteten und den prognostizierten bzw. gefitteten y-Werten zu verwenden. Bezeichnen wir die prognostizierten Werte als yˆi , i = 1, . . . , n, muß also die folgende
3.6 Regression
155
Funktion in Abh¨ angigkeit von α und β minimiert werden: 1 1 (yi − yˆi )2 = [yi − (α + βxi )]2 . Q(α, β) = n n n
n
i=1
i=1
Die Werte von α und β, f¨ ur die Q(α, β) ihr Minimum annimmt, nennt man KleinsteQuadrate-Sch¨ atzer und dieses Verfahren zur Bestimmung der Ausgleichsgeraden die Methode der Kleinsten Quadrate. Die Kleinste-Quadrate-Sch¨ atzer α ˆ und βˆ von α und β lassen sich ermitteln, indem man Q(α, β) nach α und β differenziert und gleich null setzt. Man erh¨alt f¨ ur die partiellen Ableitungen 2 ∂Q(α, β) =− [yi − (α + βxi )] , ∂α n n
i=1
n 2 ∂Q(α, β) =− [yi − (α + βxi )] xi . ∂β n i=1
Nullsetzen der Ableitungen und Aufl¨ osen der Gleichungen liefert 1 1 yi − α ˆ − βˆ xi = 0 n n und
n
n
i=1
i=1
1 1 2 1 ˆ yi xi − α xi − βˆ xi = 0 . n n n n
n
n
i=1
i=1
i=1
Aus der oberen Gleichung erh¨ alt man α ˆ = y¯ − βˆx ¯. Setzt man dies in die zweite Gleichung ein, ergibt sich 1 1 1 2 1 ¯ yi xi − y¯ xi + βˆx xi − βˆ xi = 0 . n n n n n
n
n
n
i=1
i=1
i=1
i=1
Dies ist ¨aquivalent zu n n 1ˆ 2 1 yi xi − y¯x ¯= β xi − nx¯2 , n n i=1
i=1
KleinsteQuadrateSch¨atzer Methode der Kleinsten Quadrate
156
3. Multivariate Deskription und Exploration
woraus man f¨ ur die Bestimmung von βˆ erh¨alt: n
βˆ =
n
yi xi − n¯ yx ¯
i=1 n i=1
=
i=1
x2i − n¯ x2
(xi − x ¯)(yi − y¯) n
= (xi − x ¯)2
s˜XY . s˜2X
i=1
Somit lautet die Gleichung der Ausgleichsgeraden ˆ . yˆ = α ˆ + βx Das folgende Beispiel 3.27 illustriert zun¨achst an einem fiktiven, kleinen Datensatz die Umsetzung und Bedeutung der angegebenen Formeln. Das sich anschließende Beispiel 3.28 (Seite 157) zeigt die konkrete Anwendung der Bestimmung von Kleinste-Quadrate-Sch¨ atzern f¨ ur die Mietspiegeldaten. Beispiel 3.27
Fernsehen und Schlafverhalten Nehmen wir an, ein Kinderpsychologe vermutet, daß sich h¨aufiges Fernsehen negativ auf das Schlafverhalten von Kindern auswirkt. Um dieser Frage nachzugehen, wurde bei neun zuf¨ allig ausgew¨ ahlten Kindern gleichen Alters die Dauer (Y ) der Tiefschlafphasen einer Nacht in Stunden gemessen. Außerdem wurde ebenfalls in Stunden angegeben, wie lange das Kind am Tag ferngesehen (X) hat. Es ergeben sich folgende Beobachtungen: Kind i Fernsehzeit xi Dauer Tiefschlaf yi
1 0.3 5.8
2 2.2 4.4
3 0.5 6.5
4 0.7 5.8
5 1.0 5.6
6 1.8 5.0
7 3.0 4.8
8 0.2 6.0
9 2.3 6.1
Stellt man die Daten in einem Streudiagramm dar (vgl. Abb. 3.16), so erkennt man einen starken negativen Zusammenhang zwischen der Fernsehzeit und der Dauer der Tiefschlafphase. Wir wollen nun durch diese Punktwolke eine Gerade legen, die m¨oglichst nahe an den beobachteten Punkten liegt. Die Steigung und den y-Achsenabschnitt dieser Geraden erhalten wir u ¨ber die Kleinste-Quadrate-Sch¨atzer. Zu berechnen sind also n
yi xi − n¯ yx ¯ βˆ = i=1 n x2i − n¯ x2
und α ˆ = y¯ − βˆx ¯.
i=1
Bestimmen wir zun¨ achst einige Hilfsgr¨oßen: 9 i=1
xi = 12 ,
x¯ = 1.3¯ 3,
9 i=1
yi = 50 ,
y¯ = 5.5¯5 ,
9 i=1
yi xi = 62.96 ,
9 i=1
x2i = 24.24 .
3.6 Regression
6.5 T i e 6 f s c h l 5.5 a f d 5 a u e r 4.5
157
6
*
........ ........ ........ ........ ........ ........ ........ ........ ........ ........ ........ ........ ........ ........ ........ ........ ........ ........ ........ ........ ........ ........ ........ ........ ........ ........ ........ ........ ........ ........ ........ ..
*
*
*
*
yi − yˆi
*
*
*
ˆ α ˆ + βx
* -
0.5
1
1.5
2
2.5
3
Fernsehzeit Abbildung 3.16: Streudiagramm und Ausgleichsgerade zur Regression der Dauer des Tiefschlafs auf die Fernsehzeit
Damit ergeben sich 62.96 − 9 · 5.5¯ 5 · 1.3¯ 3 −3.7067 βˆ = = −0.45 , = 24.24 − 9 · 1.3¯ 32 8.24
α ˆ = 5.5¯5 + 0.45 · 1.3¯3 = 6.16
und als Ausgleichsgerade ˆ = 6.16 − 0.45x . yˆ = α ˆ + βx Aufgrund dieser Geraden w¨ urde man also bei einer Fernsehzeit von einer Stunde eine Tiefschlafphase von 6.16 − 0.45 · 1 = 5.71 Stunden vorhersagen. Tats¨achlich beobachtet wurde eine Tiefschlafphase von 5.6 Stunden bei einst¨ undiger Fernsehzeit. Der tats¨achlich beobachtete und der vorhergesagte Wert liegen also dicht beieinander. Bei einer Fernsehzeit von 2.2 Stunden erhalten wir aufgrund des Regressionsmodells eine prognostizierte Tiefschlafphase von 5.17 Stunden. Hier weichen der tats¨ achlich beobachtete und der prognostizierte Wert deutlicher voneinander ab. Um zu erfahren, wie gut die Ausgleichsgerade einen vorliegenden Datensatz beschreibt, muß eine Maßzahl gefunden werden, die auf diesen Abweichungen basiert. Dieses Problem wird auch noch einmal in dem folgenden Beispiel deutlich. 2
Mietspiegel
Beispiel 3.28
Die Berechnung der Kleinste-Quadrate-Sch¨ atzer liefert f¨ ur die Mietspiegeldaten, wobei x = Wohnfl¨ ache der Wohnungen und y = Nettomiete: α ˆ = 98.76 ,
βˆ = 6.75 .
3. Multivariate Deskription und Exploration
1000 0
500
Nettomiete
1500
158
0
50
100
150
Wohnfläche
Abbildung 3.17: Streudiagramm und Ausgleichsgerade zur Mietspiegel-Regression
In Abbildung 3.17 ist die Ausgleichsgerade yˆ = 98.76 + 6.75 x in das Streudiagramm eingezeichnet. An der Abbildung wird noch einmal deutlich, daß wir anhand der Ausgleichsgeraden f¨ ur jeden x-Wert, also f¨ ur jede Wohnfl¨ ache, einen yˆ-Wert, also einen Nettomieten-Preis, erhalten, der i.a. nicht mit demjenigen y-Wert u ¨ bereinstimmt, den wir tats¨achlich beobachtet haben. Demnach ist es wichtig festzuhalten, daß wir anhand des linearen Regressionmodells und der Kleinste-Quadrate-Methode versuchen, eine Gerade zu finden, die die Daten m¨oglichst gut beschreibt in dem Sinne, daß die wahren y-Werte m¨oglichst nahe bei der Geraden liegen. Dabei ist es in der Regel nat¨ urlich nicht realisierbar, daß alle Punkte auch tats¨achlich nahe bei der Geraden liegen. Je weiter entfernt sie aber sind, desto schlechter werden sie durch das lineare Regressionsmodell vorhergesagt. An dem Streudiagramm erkennen wir einige Punkte, insbesondere f¨ ur die großen Wohnfl¨achen, deren Abstand zur Geraden sehr groß ist. So wird beispielsweise f¨ ur die Wohnung mit einer Fl¨ache von 110 qm eine Nettomiete von u ahrend wir anhand des linearen Modells f¨ ur diese Wohnung eine ¨ ber 1632 e beobachtet, w¨ Nettomiete von 841.60 e prognostizieren. 2
G¨ ute
Residuen
Wollen wir die G¨ ute eines Regressionsmodells beurteilen, liegt es nahe, eine solche Beurteilung anhand der Abweichungen zwischen den beobachteten y-Werten und den aufgrund der berechneten Gerade vorhergesagten y-Werten vorzunehmen. Diese Abweichungen nennt man Residuen und bezeichnet sie mit ˆi = yi − yˆi ,
i = 1, . . . , n .
3.6 Regression
159
Zusammenfassend k¨ onnen wir damit bislang festhalten:
Lineare Einfachregression und Kleinste-Quadrate-Sch¨ atzer Seien (y1 , x1 ), . . . , (yn , xn ) Beobachtungen der Merkmale Y und X, dann heißt yi = α + βxi + i ,
i = 1, . . . , n ,
lineare Einfachregression, wobei α den Achsenabschnitt, β den Steigungsparameter und den Fehler bezeichnen. Die Kleinste-Quadrate-Sch¨ atzer f¨ ur α und β sind gegeben durch n
α ˆ = y¯ − βˆx ¯,
βˆ =
n
xi yi − n¯ xy¯
i=1 n i=1
=
(xi − x ¯)(yi − y¯)
i=1
x2i − n¯ x2
n
. (xi − x ¯)2
i=1
Die Residuen ˆ i berechnen sich durch
mit
3.6.3
ˆi = yi − yˆi , i = 1, . . . , n , ˆ i. ˆ + βx yˆi = α
Bestimmtheitsmaß und Residualanalyse
Mit Hilfe der Residuen kann man nun f¨ ur jeden einzelnen Datenpunkt u ufen, ¨berpr¨ wie gut er aufgrund des Modells vorhergesagt worden w¨are. Damit haben wir aber noch kein Maß gefunden, mit dem wir die G¨ ute des Modells insgesamt beurteilen k¨onnen. Ein solches Maß k¨ onnen wir u ¨ber die sogenannte Streuungszerlegung erhalten. Die dahinterstehende Frage ist: Welcher Anteil der Streuung der yi l¨aßt sich durch die Regression von Y auf X erkl¨ aren? Die gesamte Streuung der yi l¨aßt sich erfassen u ber ¨ n (yi − y¯)2 , SQT =
Streuungszerlegung
i=1
wobei SQT die Abk¨ urzung f¨ ur “Sum of Squares Total” ist. Dieser Term ist uns bereits aus der Berechnung der Stichprobenvarianz bekannt und wird hier mit GeGesamtstreuung samtstreuung bezeichnet. F¨ ur diese gilt nun die folgende Zerlegung:
160
3. Multivariate Deskription und Exploration
Streuungszerlegung SQT = SQE + SQR n n 2 2 (yi − y¯) = (ˆ yi − y¯) + (yi − yˆi )2
n i=1
erkl¨arte Streuung Residualstreuung
Bestimmtheitsmaß
i=1
i=1
n In der Streuungszerlegung geben yi − y¯)2 = SQE gerade die erkl¨ arte Streui=1 (ˆ n 2 ung und i=1 (yi − yˆi ) = SQR die Rest- oder Residualstreuung an, wobei SQE und SQR wieder in Anlehnung an die englischen Begriffe f¨ ur “Sum of Squares Explained” und “Sum of Squares Residuals” stehen. Die erkl¨arte Streuung enth¨alt dabei die Variation der Datenpunkte auf der Geraden um y¯. Sie stellt damit die auf den linearen Zusammenhang zwischen X und Y zur¨ uckf¨ uhrbare Variation der y-Werte dar. Die Residualstreuung entspricht dem verbleibenden Rest an Variation der y-Werte. Liegen alle beobachteten Punkte exakt auf einer Geraden, so sind die Residuen alle null und ebenso die Residualstreuung. In diesem Fall w¨are also die Gesamtstreuung gleich der erkl¨ arten Streuung, d.h. die gesamte Variation von Y ließe sich durch die Variation von X zusammen mit der postulierten linearen Beziehung erkl¨aren. Je gr¨oßer nun die Residualstreuung ist, desto schlechter beschreibt das Modell die Daten, d.h. desto weniger wird die in den Daten vorhandene Streuung durch das Modell erkl¨art. Als Maßzahl f¨ ur die G¨ ute der Modellanpassung verwendet man eine Gr¨oße, die auf dieser Streuungszerlegung aufbaut, und zwar das sogenannte Bestimmtheitsmaß bzw. den Determinationskoeffizienten R2 . Dieses gibt gerade den Anteil der Gesamtstreuung der yi an, der durch die Regression von Y auf X erkl¨art wird, und ist somit der Quotient aus erkl¨ arter und Gesamtstreuung, d.h. n
(yˆi − y¯)2
SQE = i=1 = R2 = n SQT (yi − y¯)2 i=1
n
(yi − y¯)2 −
i=1
n
n
i=1
(yi − y¯)2
i=1
n
(yi − yˆi )2 =1−
(yi − yˆi )2
i=1 n
. (yi − y¯)2
i=1
Das Bestimmtheitsmaß nimmt Werte zwischen null und eins an. Dabei bedeutet ein Wert von 0, daß ni=1 (yˆi − y¯)2 = 0, also die erkl¨arte Streuung gleich null ist und somit das Modell denkbar schlecht. Der andere Extremfall beinhaltet, daß die Residualstreuung null ist, also die gesamte Streuung durch die Regression erkl¨art wird und somit das Modell eine perfekte Anpassung an die Daten liefert. Dieser letzte Fall kann nur eintreten, wenn die Originaldaten bereits auf einer Geraden lagen.
3.6 Regression
161
Man kann auch an dieser Stelle wieder die Br¨ ucke zum Korrelationskoeffizienten nach Bravais-Pearson schlagen, der, wie wir gesehen haben, den linearen Zusammenhang zweier Merkmale mißt, und zwar gilt: 2 . R2 = rXY
Zum Nachweis dieser Gleichung u ¨berlegt man sich zun¨achst, daß der Mittelwert der prognostizierten Werte yˆi mit dem der beobachteten Werte yi u ¨bereinstimmt, denn 1 1 ˆ i) = α yˆi = (ˆ α + βx ˆ + βˆx ¯ = (¯ y − βˆx ¯) + βˆx ¯ = y¯ . y¯ˆ = n n n
n
i=1
i=1
Daraus folgt: n n n n ˆ i−α (ˆ yi − y¯)2 = (ˆ yi − y¯ ˆ)2 = (ˆ α + βx ˆ + βˆx ¯)2 = βˆ2 (xi − x ¯)2 , i=1
i=1
i=1
i=1
und somit f¨ ur R 2 n 2
R =
n βˆ2 (xi − x ¯)2
(ˆ yi − y¯)2
i=1 n
=
(yi − y¯)2
i=1
i=1 n
(yi − y¯)2
s2 · s2X = XY = (s2X )2 · s2Y
sXY sX sY
2
2 = rXY ,
i=1
Damit ergibt sich auch eine neue Interpretation des Korrelationkoeffizienten. Der quadrierte Korrelationskoeffizient entspricht dem Anteil der erkl¨arten Streuung an der Gesamtstreuung. Beobachtet man in einer Stichprobe beispielsweise eine Korrelation von rXY = 0.8 zwischen Alter und Reaktionszeit, l¨aßt sich die in der Stichprobe variierende Reaktionszeit bei Unterstellung eines linearen Zusammenhangs 2 = 0.64) darauf zur¨ uckf¨ uhren, daß auch X variiert, sich also Personen zu 64 % (rXY unterschiedlichen Alters in der Stichprobe befinden. Bestimmtheitsmaß Das Bestimmheitsmaß R2 ist definiert als n
(yˆi − y¯)2
n
(yi − yˆi )2
= 1 − i=1 . R2 = i=1 n n 2 2 (yi − y¯) (yi − y¯) i=1
Es gilt :
0 ≤ R2 ≤ 1 ,
i=1
2 R2 = rXY .
162
Residualplot
3. Multivariate Deskription und Exploration
¨ Neben dieser eher formalen Uberpr¨ ufung der G¨ ute des Modells mittels des Bestimmtheitsmaßes kann man auch anhand graphischer Darstellungen einen guten Eindruck gewinnen. Dazu verwendet man typischerweise die Residuen. In Abbildung 3.18 sind einige Residualplots skizziert.
Abbildung 3.18: Schematische Darstellung von Residualplots
Abbildung 3.18(a) zeigt ein ideales Verhalten der Residuen: Sie schwanken unsystematisch um die horizontale Achse und sind nahe bei null. Dies deutet auf eine gute Modellanpassung hin. Der Verlauf der Residuen in Abbildung 3.18(b) legt die Vermutung nahe, daß eine nicht lineare Abh¨angigkeit zwischen den Merkmalen besteht, die nicht durch das Modell erfaßt wird. Auch Abbildung 3.18(c) weist daraufhin, daß bestimmte Voraussetzungen an das Modell nicht erf¨ ullt sind. Hier w¨achst oder allgemeiner ver¨ andert sich die Variabilit¨at der Residuen mit den Werten der Einflußgr¨oße X. Auf diese Voraussetzungen und ihre Bedeutung wird in Kapitel 12 noch ausf¨ uhrlicher eingegangen. Der bereits schon h¨ aufiger in diesem Abschnitt angesprochene Mietspiegel und erg¨anzend das CAP-Modell werden abschließend mithilfe der linearen Regression analysiert. Zun¨ achst wird aber zur Illustration auf das fiktive Beispiel 3.27 (Seite 156) zur¨ uckgegriffen. Beispiel 3.29
Fernsehen und Schlafverhalten Als Ausgleichsgerade zur Beschreibung des Zusammenhangs von Fernsehzeit und Dauer des Tiefschlafs ergab sich yˆ = 6.16 − 0.45x . Bei der Diskussion der G¨ ute der Beschreibung des Datensatzes durch diese Gerade hatten wir schon f¨ ur einzelne Punkte die Abweichung des jeweils tats¨achlich beobachteten vom prognostizierten Wert, also die Residuen betrachtet. Im einzelnen ergibt sich
3.6 Regression
i yi yˆi ˆi
1 5.8 6.02 −0.22
163
2 4.4 5.17 −0.77
3 6.5 5.93 0.57
4 5.8 5.84 −0.04
5 5.6 5.71 −0.11
6 5.0 5.35 −0.35
7 4.8 4.81 −0.01
8 6.0 6.07 −0.07
9 6.1 5.12 0.98
Daraus k¨ onnen wir nun das Bestimmtheitsmaß berechnen als 9 (yi − yˆi2 ) i=1 2 R =1− 9 = 0.45 . 2 (yi − y¯ ) i=1
Damit betr¨ agt der Anteil der durch das Regressionsmodell erkl¨arten Varianz nur 45 %.
2
Mietspiegel
Beispiel 3.30
Bei den Mietspiegel-Daten untersuchen wir einen m¨oglicherweise linearen Zusammenhang zwischen Y = “Nettomiete” und X = “Wohnfl¨ache”. Als Ausgleichsgerade haben wir berechnet yˆ = 98.76 + 6.75 x . Das Bestimmtheitsmaß R2 nimmt hier einen Wert an von n (yˆi − y¯)2 i=1 2 2 = 0.52 = 0.852 = rXY , R = n (yi − y¯)2 i=1
200 0 Ŧ600
Ŧ400
Ŧ200
Residuen
400
600
800
was darauf schließen l¨ aßt, daß die Punktwolke insgesamt nicht sehr gut durch eine Gerade beschrieben werden kann. Die gesamte Variabilit¨at kann zu 52 % durch das Modell erkl¨art werden. Dieser Eindruck wird auch durch den Residualplot best¨atigt (vgl. Abb. 3.19). Bereits
200
400
600
800
1000
1200
gefittete Werte
Abbildung 3.19: Residualplot zur Mietspiegel-Regression
im Streudiagramm konnte man den Eindruck gewinnen, daß sich die Variabilit¨at mit den Werten der Einflußgr¨ oße ver¨ andert. 2
164
3. Multivariate Deskription und Exploration
Beispiel 3.31
CAP-Modell
Capital Asset Pricing Model Beta-Faktor
Das “Capital Asset Pricing Model” (CAPM) dient zum Vergleich verschiedener Aktien bzgl. ihres Risikos. Basierend auf Finanzmarktdaten u ¨ ber einen l¨angeren Zeitraum wird mit Hilfe dieses Modells f¨ ur jede Aktie der sogenannte Beta-Faktor bestimmt, der als Risiko dieser Aktie gemessen am Risiko des gesamten Marktes interpretiert werden kann. Beispielsweise bedeutet ein Beta-Faktor gr¨ oßer als eins, daß das Risiko der Aktie u ¨ berproportional zum Marktrisiko ist. Andererseits spricht ein Beta-Faktor kleiner als eins f¨ ur eine weniger risikobehaftete Aktie. In diesem Modell interessiert uns der Zusammenhang zwischen dem abh¨ angigen Merkmal Y = Rendite der MRU-Aktie minus Zins und der Einflußgr¨oße X = Marktrendite minus Zins. F¨ ur die 31 Datenpunkte passen wir erneut ein lineares Modell an: yi = α + βxi + i , , i = 1, . . . , 31 . Nach den obigen Formeln f¨ ur die Sch¨atzung von α und β berechnen wir 31
βˆ =
xi yi − 31¯ xy¯
i=1 31 i=1
= 1.0216 x2i − 31¯ x2
und α ˆ = y¯ − βˆx ¯ = 0.0004 . Unsere Geradengleichung lautet demnach yˆi = 0.0004 + 1.0216 xi ,
i = 1, . . . , 31 ,
d.h., wir erhalten eine Gerade, die fast durch den Nullpunkt geht, wie wir auch an dem folgenden Streudiagramm (Abb. 3.20) sehen. In Verbindung mit der Sch¨ atzung des Steigungskoeffizienten als βˆ = 1.0216 kann man ¨ das Ergebnis dieser Regression grob so interpretieren, daß sich bei einer Anderung von X um einen Punkt Y im Mittel auch um einen Punkt ver¨andert. Damit beinhaltet diese Aktie in etwa das gleiche Risiko wie der Gesamtmarkt. Bei dieser Interpretation wird das gesch¨atzte β so behandelt, als w¨ are der Sch¨ atzwert gleich eins. Allerdings liegt der Wert leicht dar¨ uber. Es bleibt also die Frage, ob diese Erh¨ohung rein zuf¨allig ist oder ob das Risiko dieser Aktie tats¨ achlich, wenn auch leicht u ¨berproportional zum Marktrisiko ist. Solche Fragen werden mit Hilfe der induktiven Statistik beantwortet. Speziell f¨ ur die Regressionsanalyse finden sich solche Methoden in Kapitel 12. Das Streudiagramm zeigt zudem keine besonderen Auff¨alligkeiten. Es scheint keine Ver¨ anderung in der Variabilit¨ at in Abh¨angigkeit von der Einflußgr¨oße vorzuliegen. Dies wird auch durch den Residualplot untermauert (Abb. 3.21). Das Bestimmtheitsmaß R2 ergibt sich in dieser Datensituation als R2 = 0.5 . Wir erhalten hier eine bessere Anpassung an die Daten als im Fall des Mietspiegels. Zudem weist das R2 von 0.5 auf eine relativ gute Modellanpassung f¨ ur Studien im wirtschaftswissenschaftlichen Bereich hin. 2
3.6 Regression
165
• • •
•
••
•
•
•
•
••
•
•
•
•
•
• •
•
• •
•
•
• •
•
• • • •
Abbildung 3.20: Streudiagramm und Ausgleichsgerade f¨ ur das CAP-Modell • •
•
•
•• • ••
•
• • •
•
•
• • • •
•
•
• •
•
•
•
• •
• •
•
Abbildung 3.21: Residualplot f¨ ur das CAP-Modell
∗3.6.4
Nichtlineare Regression
Das in diesem Kapitel bislang vorgestellte Modell ging von der Anpassung einer Ausgleichsgeraden an die Daten aus. Oft zeigt bereits ein erster Blick auf das Streudiagramm der Daten aber, daß diese besser durch eine Parabel, eine Sinuskurve oder eine exponentielle Funktion beschrieben werden k¨onnen. Letzteres ist insbesondere
166
Wachstumsverl¨aufe S¨attigungskurven nichtlineare Regressionsmodelle Modellparameter
3. Multivariate Deskription und Exploration
bei Wachstumsverl¨ aufen oder S¨ attigungskurven der Fall. Liegt eine solche Struktur in den Daten vor, ist es nicht g¨ unstig, stur an dem Modell der linearen Regression festzuhalten. Eine Alternative dazu bieten nichtlineare Regressionsmodelle, in denen der Einfluß von X auf Y durch andere als lineare Funktionen beschrieben wird. Damit bezieht sich der Begriff der Nichtlinearit¨at nicht auf die x-Werte, sondern auf die in dem Modell auftretenden unbekannten Gr¨oßen, die sogenannten Modellparameter . Bei der linearen Regression sind die Modellparameter gerade der Achsenabschnitt α und der Steigungsparamter β. Betrachten wir etwa die Situation, daß die y-Werte in etwa exponentiell mit den x-Werten anwachsen, also yi ≈ α exp(βxi ) ,
Iterationsverfahren
i = 1, . . . , n ,
so lassen sich die Sch¨ atzungen f¨ ur α und β prinzipiell nach dem Kleinste-QuadratePrinzip herleiten, aber nicht immer sind die Sch¨atzungen explizit darstellbar. Dies macht den Einsatz von numerischen Verfahren, d.h. von sogenannten Iterationsverfahren, zur Bestimmung der Sch¨atzer erforderlich. In manchen F¨ allen besteht jedoch die M¨oglichkeit, durch eine geschickte Transformation ein nichtlineares Regressionsmodell auf ein lineares Modell zur¨ uckzuf¨ uhren. Im obigen Beispiel liefert die Verwendung der Logarithmus-Funktion: ln yi ≈ ln [α exp(βxi )] = ln α + βxi ,
i = 1, . . . , n .
Nach Anwendung dieser Transformation lassen sich ln α und β standardm¨aßig sch¨atzen. Vorsicht ist aber bei der Interpretation der Sch¨atzwerte geboten. Bei einer R¨ ucktransformation muß ber¨ ucksichtigt werden, daß die Sch¨atzung auf der logarithmischen Skala erfolgte. Das folgende Beispiel illustriert die Notwendigkeit eines nichtlinearen Modells. Beispiel 3.32
Wirkung von Werbemaßnahmen auf den Produktertrag Sei X die eingesetzte Geldmenge f¨ ur Werbemaßnahmen, wobei diese Werte auf x ¯ = 0 normiert sind, und Y der erzielte Ertrag in geeigneten Einheiten. Wir nehmen die in Tabelle 3.7 angegebenen Werte an.
i xi yi
1 −5 127
2 −3 151
3 −1 379
4 1 421
5 3 460
6 5 426
Tabelle 3.7: Eingesetzte Geldmenge x f¨ ur Werbemaßnahmen und erzielte Ertr¨ age
3.7 Zusammenfassung und Bemerkungen
167
F¨ ur die Modellierung bietet es sich an, die Regel vom abnehmenden Grenznutzen anzupassen mit y = α + β exp(−γx) . Dabei steht α f¨ ur den Grenzertrag, γ f¨ ur die exponentielle Rate der Ertragsminderung, und β stellt die Differenz zwischen Durchschnittsertrag (x = 0) und Grenzertrag dar. Das Streudiagramm (Abb. 3.22) zeigt deutlich, daß die Anpassung einer Ausgleichsgeraden der Datenstruktur nicht gerecht w¨ urde. Durch die Verwendung eines geeigneten Iterationsver-
Abbildung 3.22: Streudiagramm und Regressionskurve f¨ ur Ertrag Y bei f¨ ur Werbemaßnahmen eingesetzter Geldmenge X
fahren erhalten wir folgende Sch¨ atzungen f¨ ur α, β und γ: α ˆ = 523.3 ,
βˆ = −156.9 ,
γˆ = 0.1997 .
Tr¨ agt man die gesch¨ atzte Kurve in das Streudiagramm ein, so erkennt man, daß dies eine gute Anpassung liefert. 2
In Abschnitt ∗12.4 kommen wir noch einmal auf nichtlineare Regressionsmodelle zur¨ uck.
3.7
Zusammenfassung und Bemerkungen
Typischerweise ist bei praktischen Fragestellungen nicht nur ein einzelnes Merkmal, sondern eine ganze Reihe von Merkmalen von Interesse, die an den Untersuchungseinheiten gemeinsam erhoben werden. Bei der Diskussion derartiger mehrdimensionaler Merkmale geht es entsprechend prim¨ar um die Erfassung eines m¨oglichen Zusammenhangs zwischen den Merkmalen. Dazu bestimmt man bei gruppierten bzw. diskreten Merkmalen zun¨ achst die gemeinsame H¨aufigkeitsverteilung. Diese gibt die H¨ aufigkeit bestimmter Merkmalskombinationen an. Interessiert man sich
168
3. Multivariate Deskription und Exploration
nur f¨ ur die H¨ aufigkeiten der Auspr¨agungen eines der beiden Merkmale, so ermittelt man dessen Randverteilung. Zusammengefaßt werden diese H¨aufigkeitsverteilungen in Kontingenztabellen. Als Darstellungsform bietet sich ein zweidimensionales S¨aulendiagramm an. Von besonderer Bedeutung ist jedoch die Betrachtung der Verteilung eines der beiden Merkmale f¨ ur die verschiedenen Auspr¨agungen des anderen Merkmals. Solche bedingten Verteilungen erlauben eine erste Beurteilung des Zusammenhangs zweier Merkmale, allerdings ohne dessen St¨arke zu quantifizieren. Dazu kann man im Fall von (2 × 2)-H¨aufigkeitstafeln das Kreuzproduktverh¨altnis heranziehen, das angibt, welche der beiden Populationen die besseren Chancen besitzt und um wieviel besser diese Chancen sind. Mit Hilfe des Kontingenzkoeffizienten l¨aßt sich beurteilen, ob zwei Merkmale empirisch unabh¨angig sind oder ein Zusammenhang vorliegt. Aus Normierungsgr¨ unden wird dieser bevorzugter Weise in seiner korrigierten Form verwendet. Neben der Zusammenhangsanalyse qualitativer Merkmale sind auch bei mehrdimensionalen Merkmalen Methoden f¨ ur quantitative Gr¨ oßen gefragt. Eine h¨aufig verwendete graphische Darstellungsform ist das Streudiagramm, in dem die einzelnen Datenpunkte in einem Koordinatensystem aufgetragen werden. Andere graphische Darstellungen bieten zweidimensionale Histogramme und Kerndichtesch¨atzer. Bei mehr als zwei Merkmalen greift man zur graphischen Darstellung auf eine Scatterplot-Matrix, d.h. eine Matrix von paarweisen Streudiagrammen zur¨ uck. Bei quantitativen Merkmalen stehen je nach Skalenniveau verschiedene Maßzahlen zur Erfassung der St¨ arke des Zusammenhangs zur Verf¨ ugung. Bei metrischen Merkmalen verwendet man u blicherweise den empirischen Korrelationskoeffizient ¨ nach Bravais-Pearson, der den linearen Zusammenhang zweier Merkmale mißt. Dieser Koeffizient kann als Ausnahmefall auch f¨ ur zwei 0 − 1-kodierte Merkmale berechnet werden. Das resultierende Maß wird auch als φ-Koeffizient bezeichnet. Liegen ordinalskalierte Merkmale vor, so kann man Spearmans Rangkorrelationskoeffizient berechnen, der gerade der Korrelationskoeffizient nach Bravais-Pearson, angewendet auf die R¨ ange der Beobachtungen, ist. Dieser Koeffizient mißt die St¨arke des monotonen Zusammenhangs zweier Merkmale. Nat¨ urlich kann Spearmans Korrelationkoeffizient auch bei metrischen Merkmalen verwendet werden. Neben den vorgestellten Zusammenhangsmaßen finden sich in der Literatur und in der praktischen Anwendung noch weitere Maßzahlen zur Quantifizierung der St¨arke eines Zusammenhangs wie etwas Kendall’s τ . Hierzu sei beispielsweise auf das Buch von B¨ uning und Trenkler (1994) und von Benninghaus (2002) verwiesen. Zu beachten ist bei der Interpretation von Korrelationskoeffizienten, daß diese weder die Richtung einer Wirkung zwischen X und Y erfassen noch einen Aufschluß u ¨ber eine kausale Beziehung erlauben. Kausalzusammenh¨ange lassen sich allerdings niemals allein durch eine statistische Analyse begr¨ unden. Dazu sind stets sachlogi¨ sche Uberlegungen notwendig.
3.8 Aufgaben
169
Will man gerichtete Zusammenh¨ ange untersuchen, bietet sich die Regression als statistische Methode an. Im einfachsten Fall versucht man dabei f¨ ur zwei metrische Merkmale, deren Beziehung durch eine Gerade zu beschreiben. Man spricht dann von einer linearen Einfachregression. Diese Gerade wird so bestimmt, daß ihr Abstand zu den beobachteten Datenpunkten im Mittel m¨oglichst gering wird. Eine solche Ausgleichsgerade l¨ aßt sich mit Hilfe der Kleinste-Quadrate-Methode ermitteln. Die G¨ ute der Anpassung dieser Gerade an die Daten kann anschließend anhand des Bestimmtheitsmaßes und der Residualplots beurteilt werden. Nat¨ urlich ist ein lineares Regressionsmodell nicht immer zur Beschreibung des Zusammenhangs zwischen zwei Merkmalen ad¨ aquat. Es werden daher auch nichtlineare Regressionen gerechnet beispielsweise bei der Analyse von Wachstumsverl¨aufen, S¨attigungskurven oder von Sterbetafeln, wobei im letztgenannten Fall insbesondere die sogenannte GompertzKurve von Relevanz ist. Als weiterf¨ uhrende Literatur zu Regressionsmodellen sei auf das Buch von Fahrmeir, Hamerle und Tutz (1996) verwiesen.
3.8
Aufgaben
Bei der Untersuchung des Zusammenhangs zwischen Geschlecht und Parteipr¨aferenz (Beispiel 3.1, Seite 110) betrachte man die sich ergebenden (2×2)-Tabellen, wenn man CDU/CSU jeweils nur einer Partei gegen¨ uberstellt. Bestimmen und interpretieren Sie jeweils die relativen Chancen, den χ2 -Koeffizienten, den Kontingenzkoeffizienten und den φ-Koeffizienten.
Aufgabe 3.1
In einem Experiment zur Wirkung von Alkohol auf die Reaktionszeit wurden 400 Versuchspersonen zuf¨ allig in zwei Gruppen aufgeteilt. Eine dieser Gruppen erh¨alt eine standardisierte Menge Alkohol. Es ergab sich folgende Kontingenztabelle
Aufgabe 3.2
ohne Alkohol mit Alkohol
gut 120 60
Reaktion mittel stark verz¨ ogert 60 20 100 40
(a) Bestimmen Sie die Randh¨ aufigkeiten dieser Kontingenztabelle und interpretieren Sie diese, soweit dies sinnvoll ist. (b) Bestimmen Sie die bedingte relative H¨ aufigkeitsverteilung, die sinnvoll interpretierbar ist. (c) Bestimmen Sie den χ2 - und den Kontingenzkoeffizienten. (d) Welche relativen Chancen lassen sich aus dieser Kontingenztafel gewinnen? Man bestimme und interpretiere diese. F¨ ur die zehn umsatzst¨ arksten Unternehmen Deutschlands ergeben sich 1995 folgende Ums¨ atze (in Milliarden Euro) und Besch¨ aftigungszahlen (in Tausend)
Aufgabe 3.3
170
3. Multivariate Deskription und Exploration
Umsatz 52.94 45.38 45.06 37.00 33.49 26.67 25.26 23.59 22.79 21.44 Besch¨ aftigte 311.0 373.0 242.4 125.2 135.1 161.6 106.6 115.8 142.9 83.8
Die dahinterstehenden Firmen sind Daimler-Benz, Siemens, Volkswagen, VEBA, RWE, Hoechst, BASF, BMW, Bayer und VIAG. Man bestimme den Bravais-Pearson- und den Spearmanschen Korrelationskoeffizienten. Wie ¨andern sich die Korrelationskoeffizienten, wenn man in absoluten Euro-Ums¨ atzen und absoluten Besch¨aftigungszahlen rechnet?
Aufgabe 3.4
In einer Studie zur Auswirkung von Fernsehprogrammen mit gewaltt¨atigen Szenen auf das Sozialverhalten von Kindern wurden ein Aggressivit¨atsscore X, die Zeitdauer in Minuten Y , w¨ ahrend der das Kind pro Tag gew¨ohnlich solche Sendungen sieht, und das Geschlecht Z des Kindes mit 1 = weiblich und 2 = m¨annlich erfaßt. Sowohl der Aggressivit¨atsscore als auch die Zeitdauer lassen sich wie metrische Variablen behandeln. Nehmen wir folgende Beobachtungen f¨ ur eine zuf¨ allig ausgew¨ahlte Kindergartengruppe an: i xi yi zi
1 4 10 2
2 5 50 2
3 2 30 2
4 6 70 2
5 6 80 2
6 8 60 2
7 7 90 2
8 2 40 1
9 7 10 1
10 3 20 1
11 5 30 1
12 1 50 1
13 3 60 1
(a) Zeichnen Sie ein Streudiagramm f¨ ur die 13 Kinder, und berechnen Sie den Korrelationskoeffizienten nach Bravais-Pearson zwischen X und Y ohne Ber¨ ucksichtigung des Geschlechts. (b) Zeichen Sie nun f¨ ur Jungen und M¨adchen getrennt jeweils ein Streuungsdiagramm, und berechnen Sie f¨ ur beide Geschlechter den Korrelationskoeffizienten. (c) Vergleichen Sie Ihre Ergebnisse aus (a) und (b). Welche Art von Korrelation beobachten Sie hier, und wie a ¨ndert sich Ihre Interpretation des Zusammenhangs zwischen aggressivem Verhalten und dem Beobachten gewaltt¨atiger Szenen im Fernsehen?
Aufgabe 3.5
In einem Schwellenland wurde eine Studie durchgef¨ uhrt, die den Zusammenhang zwischen dem Geburtsgewicht von Kindern und zahlreichen sozio¨okonomischen Variablen untersucht. Hier sei speziell der Zusammenhang zwischen dem Geburtsgewicht und dem monatlichen Einkommen von Interesse. Es wurden acht Kinder zuf¨allig ausgew¨ahlt und f¨ ur diese sowohl das Geburtsgewicht Y in Pfund als auch das monatliche Einkommen der Eltern in 1000 Einheiten der Landesw¨ ahrung erfaßt. Die Daten sind in der folgenden Tabelle zusammengefaßt: i xi yi
1 2.7 5
2 1.9 6
3 3.1 9
4 3.9 8
5 4.0 7
6 3.4 6
7 2.1 7
8 2.9 8
(a) Tragen Sie die Beobachtung in ein Streuungsdiagramm ein. (b) Man m¨ ochte nun anhand des Einkommens mit Hilfe eines linearen Regressionsmodells das Geburtsgewicht vorhersagen. Berechnen Sie die Regressionsgerade und zeichnen Sie diese in das Streuungsdiagramm ein. Ein Ehepaar verdient 3 × 1000 Einheiten der Landesw¨ ahrung im Monat. Welches Geburtsgewichts prognostizieren Sie?
3.8 Aufgaben
171
(c) Berechnen Sie das Bestimmtheitsmaß. Wie beurteilen Sie die Eignung des Einkommens zur Vorhersage des Geburtsgewichts? Ein Medikament zur Behandlung von Depression steht im Verdacht, als Nebenwirkung das Reaktionsverm¨ ogen zu reduzieren. In einer Klinik wurde deshalb eine Studie durchgef¨ uhrt, an der zehn zuf¨ allig ausgew¨ ahlte Patienten teilnahmen, die das Pr¨aparat in verschiedenen Dosierungen verabreicht bekamen. Das Reaktionsverm¨ogen wurde mit Hilfe des folgenden ucken, sobald er ein bestimmtes Experiments gemessen: Der Patient mußte einen Knopf dr¨ Signal erhalten hat. Die Zeit zwischen Signal und Knopfdruck wurde als Maß f¨ ur das Reaktionsverm¨ ogen betrachtet. Er ergaben sich folgende Werte f¨ ur die Dosierung X in mg und die dazugeh¨ orige Reaktionszeit Y in Sekunden: i xi yi
1 1 1
2 5 6
3 3 1
4 8 6
5 2 3
6 2 2
7 10 8
8 8 5
9 7 6
10 4 2
(a) Was sagt das Streuungsdiagramm u ¨ ber den Zusammenhang von X und Y aus? (b) Passen Sie eine Gerade an die beobachteten Datenpunkte unter Verwendung der KleinsteQuadrate Methode an. Beurteilen Sie die G¨ ute Ihrer Anpassung. Nutzen Sie, daß der Korrelationskoeffizient nach Bravais-Pearson rXY hier 0.8934 betr¨agt. Was sagt dieser Wert u ¨ ber den Zusammenhang von X und Y aus? (c) Ein Patient erh¨ alt 5.5 mg des Medikaments. Welche Reaktionszeit prognostizieren Sie? (d) Wie l¨ aßt sich der in (b) gesch¨ atzte Steigungsparameter interpretieren?
Aufgabe 3.6
4 Wahrscheinlichkeitsrechnung
“Was ist Statistik?” war eine der Fragen, die wir uns in Kapitel 1 gestellt haben. Dabei wurden speziell die S¨ aulen “Beschreiben” (deskriptive Statistik), “Suchen” (explorative Statistik) und “Schließen” (induktive Statistik) hervorgehoben. Die Verfahren, die wir bislang kennengelernt haben, sind den ersten beiden S¨aulen zuzuordnen. Damit sind wir nun in der Lage, einen Datensatz so zu bearbeiten, daß wir ihn komprimiert in graphischer oder tabellarischer Form darstellen und Kenngr¨oßen etwa zur Beschreibung einer zentralen Tendenz angeben k¨onnen. Mit Hilfe der explorativen Statistik k¨onnen wir zudem den Datensatz hinsichtlich interessanter Strukturen oder sonstiger Besonderheiten tiefergehend analysieren. Dies wird uns i.a. aber nicht gen¨ ugen. Da typischerweise keine Vollerhebungen, sondern Stichprobenziehungen durchgef¨ uhrt werden, w¨are es anhand der deskriptiven oder auch explorativen Statistik m¨ oglich, den vorliegenden Datensatz zu beschreiben und extensiv zu untersuchen insbesondere auch hinsichtlich der Gewinnung von Hypothesen, aber ohne formale R¨ uckschl¨ usse auf die dahinterstehende Grundgesamtheit ziehen zu k¨ onnen. W¨ urde man etwa in einer klinischen Studie ein neues Pr¨aparat mit einem Placebo hinsichtlich seiner Wirksamkeit vergleichen, so k¨onnten wir mit den uns bislang zur Verf¨ ugung stehenden Methoden beispielsweise nur die Aussage treffen, daß das neue Pr¨ aparat in dem vorliegenden Kollektiv eine im Durchschnitt bessere Wirkung erzielt hat als das Placebo. F¨ ur die Zulassung dieses Pr¨aparats auf dem Markt ist es nat¨ urlich nicht ausreichend zu wissen, daß es bei einer ausgew¨ ahlten Gruppe von Patienten wirkt. Eine ¨ahnliche Fragestellung trifft man bei Marktanalysen an, deren Ziel unter anderem darin besteht, die Akzeptanz eines neuen Produkts festzustellen. Auch hier gen¨ ugt es nicht, eine Akzeptanz des Produkts in einer ausgew¨ ahlten Stichprobe potentieller K¨aufer zu beobachten. Entscheidend ist es, in Erfahrung zu bringen, ob die in der Stichprobe beobachtete Wirkung allein auf den Zufall zur¨ uckzuf¨ uhren ist oder ob sie mit großer Sicherheit tats¨achlich durch das Pr¨ aparat hervorgerufen wurde. Ist letzteres der Fall, ist der beobachtete Effekt nicht von dem behandelten Kollektiv abh¨angig, sondern f¨ ur eine umfassendere Grundgesamtheit g¨ ultig, und das Pr¨aparat kann auf dem Markt
Zufall
174
4. Wahrscheinlichkeitsrechnung
zugelassen werden. Eine solche Entscheidung wird in der Regel durch statistische Methoden abgesichert und erfordert zum einen die Betrachtung des Ausgangs der klinischen Studie als das Ergebnis eines Zufallsvorgangs sowie zum anderen die Verwendung von Wahrscheinlichkeitsrechnung, um die Bedeutung des Zufalls f¨ ur den Ausgang dieses Zufallsvorgangs quantifizieren zu k¨onnen. Im Verlauf dieses Abschnitts werden wir den Begriff des Zufallsvorgangs pr¨azisieren und den Begriff der Wahrscheinlichkeit einf¨ uhren. Einfache Rechenregeln und weitergehende Gesetze f¨ ur Wahrscheinlichkeiten bilden dann die Grundlage f¨ ur die Inhalte der weiteren Abschnitte.
4.1
Zufallsvorgang
Zufallsexperiment
Definition und Begriff der Wahrscheinlichkeit
An dem obigen Beispiel der klinischen Studie wurde bereits kurz der Begriff des Zufallsvorgangs erw¨ ahnt, ohne diesen allerdings genauer zu erl¨autern. Was sowohl diese klinische Studie als auch beispielsweise die Erhebung im Rahmen des Mietspiegels auszeichnet, ist die Tatsache, daß man zwar die m¨oglichen Ausg¨ange dieses “Vorgangs” kennt, wie die Heilung oder Nicht-Heilung eines Patienten oder die Betr¨age f¨ ur die Nettomiete von Wohnungen, aber man weiß vor der Durchf¨ uhrung des Vorgangs nicht, welches Ergebnis eintreten wird. Das heißt, es ist unklar, ob ein bestimmter Patient, der an der Studie teilnimmt, nach der Behandlung mit dem neuen Pr¨aparat geheilt ist. Genauso wenig weiß man zun¨achst, wie hoch die Nettomiete einer Wohnung ist, die zuf¨ allig in die Stichprobe f¨ ur den Mietspiegel gelangt ist. Damit haben wir bereits die zwei Charakteristika eines Zufallsvorgangs formuliert: Man kennt die m¨ oglichen Ausg¨ange, weiß aber nicht, welches Ergebnis eintritt. Das konkrete Ergebnis ist vom Zufall abh¨angig, etwa insofern, als es zuf¨allig ist, welche Wohnung in die Stichprobe gelangt, und somit welche Nettomiete registriert wird. Bei Beobachtungsstudien, Befragungen oder allgemeinen Stichprobenerhebungen sind im Gegensatz zu Experimenten die Rahmenbedingungen i.a. eher nicht kontrollierbar. Man spricht daher von Zufallsexperimenten, wenn ein Zufallsvorgang unter kontrollierten Bedingungen abl¨auft und somit unter gleichen Bedingungen wiederholbar ist.
Zufallsvorgang Ein Zufallsvorgang f¨ uhrt zu einem von mehreren, sich gegenseitig ausschließenden Ergebnissen. Es ist vor der Durchf¨ uhrung ungewiß, welches Ergebnis tats¨ achlich eintreten wird.
4.1 Definition und Begriff der Wahrscheinlichkeit
175
Solche ungewissen Ergebnisse belegt man hinsichtlich ihres Eintretens mit Wahrscheinlichkeiten. So kann man sich u ¨berlegen, wie wahrscheinlich es ist, beim W¨ urfelspiel eine Sechs zu w¨ urfeln. Ist der W¨ urfel fair, betr¨agt diese Wahrscheinlichkeit bekanntermaßen gerade 1/6. Dieser Wert h¨angt nicht von dem jeweiligen Betrachter ab, sondern ist durch eine frequentistische Sichtweise motiviert: W¨ urde man das Zufallsexperiment des W¨ urfelns sehr oft wiederholen, w¨ urde man bei einem fairen W¨ urfel ungef¨ahr einen Anteil von 1/6 beobachten, mit dem die Sechs im Verh¨altnis zu allen anderen Zahlen gew¨ urfelt wird. Wir werden i.a. diesen auch als objekti¨ vistisch bezeichneten Wahrscheinlichkeitsbegriff den nachfolgenden Uberlegungen zugrunde legen. Im Gegensatz dazu sind Wahrscheinlichkeiten, mit denen wir Ereignisse unseres t¨ aglichen Lebens bewerten, oft subjektiver Natur. So hat sicherlich bereits jeder einmal S¨ atze formuliert wie: “H¨ochstwahrscheinlich kommt am Wochenende meine Freundin zu Besuch.” oder “Wahrscheinlich bestehe ich die Klausur.”. Auch damit sind Vorg¨ ange angesprochen, deren Ausgang noch ungewiß ist. Unabh¨angig von der Art des Wahrscheinlichkeitsbegriffs ist es notwendig, einen Apparat zu entwickeln, mit dem wir die Ausg¨ ange eines Zufallsvorgangs quantifizieren k¨onnen.
4.1.1
Wahrscheinlichkeit
objektive Wahrscheinlichkeit subjektive Wahrscheinlichkeit
Mengen und Mengenoperationen
Es ist sinnvoll, die m¨ oglichen Ausg¨ ange eines Zufallsvorgangs in Mengenschreibweise zu behandeln. Wir definieren im folgenden einige Grundbegriffe der Mengenlehre und zugeh¨orige Mengenoperationen.
Menge Eine Menge ist eine Zusammenfassung verschiedener Objekte zu einem Ganzen. Die einzelnen Objekte werden Elemente genannt.
Mengen werden u ¨ blicherweise mit Großbuchstaben bezeichnet und entweder durch eine Auflistung ihrer Elemente, wobei jedes Element nur einmal vorkommt, oder durch eine sie definierende Eigenschaft angegeben. Die erste M¨oglichkeit ist dabei nur eingeschr¨ankt praktikabel.
Menge
176
Beispiel 4.1
4. Wahrscheinlichkeitsrechnung
Mengen Sei A die Menge der nat¨ urlichen Zahlen von eins bis zehn, so kann A wie folgt angegeben werden: A = {1, 2, 3, 4, 5, 6, 7, 8, 9, 10} oder A = {x : x ist eine nat¨ urliche Zahl mit 1 ≤ x ≤ 10}. Enth¨ alt die Menge B die m¨ oglichen Ausg¨ange eines M¨ unzwurfs, so besteht B aus zwei Elementen: B = {Wappen, Zahl}. Beschreibt C alle m¨ oglichen Ausg¨ ange einer politischen Umfrage dahingehend, welche Partei eine zuf¨ allig ausgew¨ ahlte Person am n¨achsten Sonntag w¨ahlen w¨ urde, wenn an diesem Tag Bundestagswahlen w¨ aren, lautet C etwa: C = {CDU/CSU, SPD, B¨ undnis 90/Die Gr¨ unen, FDP, Sonstige, Keine Meinung}.
2
Einige Standardmengen haben zur Vereinfachung der Notation eigene Symbole.
Standardmengen
0
∅
= {1, 2, 3, . . .} = {0, 1, 2, 3, . . .} = {0, ±1, ±2, . . .} = (−∞, ∞)
: : : : :
Menge der nat¨ urlichen Zahlen Menge der nat¨ urlichen Zahlen inklusive 0 Menge der ganzen Zahlen Menge der reellen Zahlen leere Menge
F¨ ur den weiteren Umgang mit Mengen ist eine Reihe von Notationen, Abk¨ urzungen und erg¨ anzenden Definitionen notwendig. Diese seien zun¨achst nachstehend zusammengefaßt, bevor sie anhand von Venn-Diagrammen und Beispielen veranschaulicht werden.
4.1 Definition und Begriff der Wahrscheinlichkeit
177
Grundlegende Begriffe der Mengenlehre 1. Die Eigenschaft “x ist ein Element der Menge A” stellt man in Zeichen dar als: x ∈ A; sonst x ∈ A. 2. A ist Teilmenge von B, i.Z.: A ⊂ B, wenn jedes Element von A auch in B ist. 3. Die Schnittmenge A ∩ B ist die Menge aller Elemente, die sowohl in A als auch in B sind; i.Z.: A ∩ B = {x : x ∈ A und x ∈ B}. 4. Die Vereinigungsmenge A ∪ B ist die Menge aller Elemente, die in A oder B sind; i.Z.: A ∪ B = {x : x ∈ A oder x ∈ B}. 5. Die Differenzmenge A\B ist die Menge aller Elemente, die in A aber nicht in B sind; i.Z.: A\B = {x : x ∈ A und x ∈ B}. 6. F¨ ur A ⊂ Ω ist die Komplement¨ armenge A von A bzgl. Ω die Menge aller Elemente von Ω, die nicht in A sind, i.Z.: A = Ω\A. 7. Die Potenzmenge P(A) ist die Menge aller Teilmengen von A; i.Z.: P(A) = {M : M ⊂ A}. 8. Die M¨ achtigkeit von A gibt an, wieviele Elemente in A enthalten sind; i.Z.: |A| = #{x : x ∈ A}. Dabei steht das Symbol “#” f¨ ur “Anzahl”. Mengenoperationen lassen sich am anschaulichsten in einem Venn-Diagramm darstellen. Dieses besteht aus einem Kasten, in dem die Mengen als Kreise oder Ellipsen dargestellt werden. Der Kasten stellt dabei eine u.U. fiktive Menge dar, von der die in dem Kasten gezeichneten Mengen Teilmengen sind. Mengenoperationen
VennDiagramm
Beispiel 4.2
Seien im folgenden Ω = {CDU/CSU, SPD, FDP, B¨ undnis 90/Die Gr¨ unen, Sonstige}, A = {CDU/CSU, SPD, FDP, B¨ undnis 90/Die Gr¨ unen}, B = {CDU/CSU, SPD, FDP}, C = {SPD, FDP, B¨ undnis 90/Die Gr¨ unen}. (Die nachfolgende Numerierung bezieht sich auf die oben aufgef¨ uhrten grundlegenden Begriffe der Mengenlehre). Zu 1. F¨ ur das Element x = B¨ undnis 90/Die Gr¨ unen gilt: x ∈ C, aber x ∈ B. Zu 2. Es gilt B ⊂ A; im Venn-Diagramm:
B A
Allgemein gilt: ∅ ⊂ A, A ⊂ A. Zu 3. Die Schnittmenge B ∩ C ergibt sich zu B ∩ C = {SPD, FDP}; im Venn-Diagramm:
178
4. Wahrscheinlichkeitsrechnung
B
C BC
:
Allgemein gilt: A ⊂ B ⇒ A ∩ B = A, insbesondere : A ∩ A = A, A ∩ ∅ = ∅. Zu 4. Die Vereinigung B ∪ C ergibt sich als B ∪ C = {CDU/CSU, SPD, FDP, B¨ undnis 90/Die Gr¨ unen}; im Venn-Diagramm:
C
B
:
Allgemein gilt: A ⊂ B ⇒ A ∪ B = B, insbesondere : A ∪ A = A, A ∪ ∅ = A. Zu 5. Die Differenzmenge B\C ist gegeben als B\C = {CDU/CSU}; im Venn-Diagramm:
C
B
:
Allgemein gilt: A ∩ B = ∅ ⇒ A\B = A, A ⊂ B ⇒ A\B = ∅. undnis 90/Die Zu 6. Die Komplement¨ armenge B = Ω\B ist in diesem Beispiel B = {B¨ Gr¨ unen, Sonstige}; im Venn-Diagramm:
B :
Zu 7. Die Potenzmenge P(B) resultiert hier in P(B) = {∅ , B, {CDU/CSU}, {SPD}, {FDP}, {CDU/CSU, SPD}, {CDU/CSU, FDP}, {SPD, FDP}}. An dieser Darstellung wird deutlich, daß die Elemente einer Potenzmenge selbst wieder Mengen sind. Zu 8. Da B drei Parteien enth¨ alt, ist |B| = 3.
2
4.1 Definition und Begriff der Wahrscheinlichkeit
179
Desweiteren sind einige Rechenregeln von Bedeutung, deren G¨ ultigkeit man sich leicht anhand von Venn-Diagrammen u ¨berlegen kann. Rechenregeln f¨ ur Mengen 1. Kommutativgesetze
:
A ∩ B = B ∩ A, A ∪ B = B ∪ A,
2. Assoziativgesetze
:
(A ∩ B) ∩ C = A ∩ (B ∩ C), (A ∪ B) ∪ C = A ∪ (B ∪ C),
3. Distributivgesetze
:
(A ∪ B) ∩ C = (A ∩ C) ∪ (B ∩ C), (A ∩ B) ∪ C = (A ∪ C) ∩ (B ∪ C),
4. De Morgansche Regeln
:
(A ∪ B) = A ∩ B, (A ∩ B) = A ∪ B.
5. Aus A ⊂ B folgt: B ⊂ A. 6. F¨ ur die Differenzmenge A\B gilt: A\B = A ∩ B.
4.1.2
Zufallsereignisse
Wir betrachten zun¨ achst den Fall, daß unser Zufallsvorgang nur zu endlich vielen uhren kann. Die Menge Ω = {ω1 , . . . , ωn }, die m¨ oglichen Ergebnissen ω1 , . . . , ωn f¨ diese Ergebnisse umfaßt, bezeichnen wir mit Ergebnisraum oder -menge bzw. Stichprobenraum. Ergebnisraum (a) Ein einfaches Beispiel f¨ ur ein Zufallsexperiment ist das Werfen einer M¨ unze. Als Ergebnis interessiert uns die Seite, die nach oben zeigt. Damit ist der Ergebnisraum Ω gegeben als Ω = {Zahl, Wappen}. (b) Wirft man einen W¨ urfel einmal und interessiert sich f¨ ur die Zahl, die oben liegt, erh¨alt man als Ergebnisraum die Menge Ω = {1, 2, . . . , 6}, wobei die Elemente keine Zahlen sind, sondern Ergebnisse des Zufallsexperiments. Beispielsweise steht “2” f¨ ur das Ergebnis “Die 2 liegt oben”. Beim zweimaligen Werfen eines W¨ urfels notieren wir jeweils die Zahl, die oben liegt. In diesem Fall bilden alle m¨ oglichen Paare der Zahlen 1, . . . , 6 den Ergebnisraum Ω, d.h. Ω = {(1, 1), (1, 2), (1, 3), (1, 4), (1, 5), (1, 6), (2, 1), . . . , (2, 6), . . . , (6, 6)}. (c) F¨ ur die Mietspiegelerstellung besteht der Zufallsvorgang in dem zuf¨alligen Ziehen einer Wohnung aus allen mietspiegelrelevanten Wohnungen. Diese stellen dementsprechend den Ergebnisraum dar.
Ergebnis Ergebnisraum
Beispiel 4.3
180
4. Wahrscheinlichkeitsrechnung
(d) Das Schreiben einer Klausur kann ebenfalls als Zufallsvorgang angesehen werden. Ist die erreichte Punktzahl von Interesse, so ergibt sich bei einer maximal erreichbaren Punktzahl von 100 der Ergebnisraum Ω als Ω = {0, 1, 2, . . . , 100}. (e) Werden Sachverst¨ andige zur Beurteilung der Konjunkturentwicklung im n¨achsten Jahr befragt, so l¨ aßt sich auch das Ergebnis der subjektiven Einsch¨atzung der Sachverst¨andigen als Ausgang eines Zufallsvorgangs ansehen. Der Ergebnisraum besteht in diesem Fall aus den Ergebnissen “+” = Aufschwung, “=” = unver¨anderte Konjunkturlage, “−” = negative Konjunkturentwicklung, d.h. Ω = {+, =, −}. V¨ollig analog l¨aßt sich der IFO-Konjunkturtest behandeln. Auch hier wird die subjektive Vermutung der teilnehmenden Unternehmen erfaßt. 2
Zufallsereignis Elementarereignis
In vielen Fragestellungen interessieren neben den Ergebnissen selbst bestimmte Zusammenfassungen davon. Dies l¨aßt sich gut am Beispiel 4.3(d) erl¨autern. F¨ ur die meisten Studierenden ist die genaue Punktzahl, die sie in der Klausur erreicht haben, gar nicht so relevant; entscheidend ist, ob sie bestanden haben oder nicht. Nehmen wir an, man br¨ auchte mindestens 40 Punkte zum Bestehen, so ließen sich die Ergebnisse zusammenfassen zu {0, 1, . . . , 39} und {40, 41, . . . , 100}, wobei eine Punktzahl, die Element der ersten Menge ist, “nicht-bestanden” und entsprechend eine Punktzahl der zweiten Menge “bestanden” bedeutet. Aber auch die Konzentration auf die Augensumme beim zweimaligen Werfen eines W¨ urfels liefert eine solche Zusammenfassung von Ergebnissen, in diesem Fall der gew¨ urfelten Zahlenpaare zu ihrer Summe. Allgemein nennt man Zusammenfassungen von Ergebnissen eines Zufallsvorgangs (Zufalls-)Ereignisse. Ereignisse sind also Teilmengen des Ergebnisraums Ω = {ω1 , . . . , ωn }. Die einelementigen Teilmengen {ω1 }, . . . , {ωn }, also die Ergebnisse, heißen Elementarereignis. Damit sind die einzelnen m¨oglichen Punktzahlen in dem obigen Beispiel die Elementarereignisse. Zufallsereignisse Der Ergebnisraum Ω = {ω1 , . . . , ωn } ist die Menge aller Ergebnisse ωi , i = 1, . . . , n, eines Zufallsvorgangs. Teilmengen von Ω heißen (Zufalls-) Ereignisse. Die einelementigen Teilmengen von Ω, d.h. {ω1 }, . . . , {ωn } werden als Elementarereignisse bezeichnet.
Komplement¨arereignis
Da sich Ereignisse als Mengen schreiben lassen, kann das Eintreten von Ereignissen u ¨ber entsprechende Mengenoperationen formuliert werden. So sagt man “Das Ereignis A tritt ein”, wenn das Ergebnis ω des Zufallsvorgangs in A liegt, also ω ∈ A gilt. In unserem Beispiel h¨ atte ein Student bestanden, wenn seine erreichte Punktzahl in der Menge {40, 41, . . . , 100} liegt. Entsprechend heißt es “A tritt nicht ein”, wenn das Komplement¨ arereignis A eintritt, d.h., das Ergebnis ω des Zufallsvorgangs liegt
4.1 Definition und Begriff der Wahrscheinlichkeit
181
nicht in A, also ω ∈ A. Entspricht A der leeren Menge, so ist A ein unm¨ ogliches Ereignis. Stimmt A mit dem gesamten Ergebnisraum Ω u ¨ berein, so tritt A sicher ein. Kann A oder B eintreten in dem Sinne, daß entweder A oder B oder auch beide gemeinsam eintreten k¨ onnen, gilt ω ∈ A ∪ B. Wenn sowohl A als auch B eintritt, liegt das Ergebnis ω im Schnitt von A und B, also ω ∈ A ∩ B. Sind A und B sich gegenseitig ausschließende Ereignisse, heißen sie disjunkt, und es gilt A ∩ B = ∅.
unm¨ogliches Ereignis sicheres Ereignis disjunkt
Diese Begriffe seien im folgenden illustriert anhand eines einfachen Beispiels. Einmaliges Werfen eines W¨ urfels
Beispiel 4.4
F¨ ur dieses Zufallsexperiment bildet Ω = {1, 2, 3, 4, 5, 6} das sichere Ereignis, da eine Zahl von 1 bis 6 mit Sicherheit geworfen wird. Dem Ereignis “Eine gerade Zahl wird geworfen” entspricht die Menge A = {2, 4, 6} und dem Ereignis “Eine Zahl kleiner oder gleich 2 wird geworfen” gerade die Menge B = {1, 2}. ort das Ereignis “Eine Zahl gr¨oßer als 2 wird geworfen”. Zur Menge B = {3, 4, 5, 6} geh¨ “Eine 1 wird geworfen” ist ein Beispiel f¨ ur ein Elementarereignis. Das Ereignis “Eine 7 wird geworfen” ist ein unm¨ ogliches Ereignis und entspricht der leeren Menge. Zu dem Ereignis “Es wird eine gerade Zahl oder eine Zahl kleiner oder gleich 2 geworfen” geh¨ ort die Vereinigungsmenge A∪B = {1, 2, 4, 6}, w¨ahrend das Ereignis “Es wird eine gerade Zahl geworfen, die gr¨ oßer als 2 ist” durch die Schnittmenge A ∩ B = {4, 6} wiedergegeben wird. 2
4.1.3
Wahrscheinlichkeiten
Vor der Durchf¨ uhrung eines Zufallsvorgangs ist es ungewiß, welches Ereignis eintritt. Trotzdem ist man bestrebt, sich auf die verschiedenen M¨oglichkeiten einzustellen, die eintreten k¨ onnen. Dazu versucht man, die Chance f¨ ur das Eintreten eines bestimmten Ereignisses A ⊂ Ω durch eine Zahl zu bewerten. Nehmen wir die einfache Situation einer Losbude auf dem M¨ unchner Oktoberfest. Wir wissen, daß in dem K¨ orbchen mit den Losen 25 Gewinne und 75 Nieten sind. Die Chance, beim Ziehen eines Loses, einen Gewinn zu haben, ist dementsprechend 1 : 3. Zieht man nun vier Lose, so w¨ urde man einen Gewinn darunter erwarten. Wollte man “sicher” gehen, so k¨onnte man nat¨ urlich alle Lose in dem K¨orbchen kaufen. In diesem Fall h¨atte man mit 100 %iger Sicherheit einen Gewinn. Zieht man erneut nur ein einzelnes Los, so ist es sicher, entweder einen Gewinn oder eine Niete zu ziehen. Das Eintreten eines Gewinns allein bewertet man mit 1/4, das Eintreten einer Niete mit 3/4. Die Summe der beiden Einzelbewertungen ergibt wieder 1. Die letztgenannte Eigenschaft l¨aßt sich noch weiter verallgemeinern. Sie ist Teil der sogenannten Axiome von Kolmogoroff . Diese Axiome beinhalten Anforderungen an die Zahlenzuordnung
Axiome von Kolmogoroff
182
Wahrscheinlichkeiten
4. Wahrscheinlichkeitsrechnung
zur Bewertung der Chancen f¨ ur das Eintreten eines Ereignisses. Werden diese Axiome von gewissen Zahlenzuordnungen erf¨ ullt, so heißen diese zugeordneten Zahlen Wahrscheinlichkeiten. In Zeichen wird die Wahrscheinlichkeit f¨ ur das Eintreten eines Ereignisses A durch P (A) dargestellt. Dabei resultiert das Symbol P von dem englischen Ausdruck f¨ ur Wahrscheinlichkeit “probability”. Mit dieser Schreibweise k¨onnen die von dem russischen Mathematiker Andrej Kolmogoroff (1903 − 1987) erstmals formulierten Axiome f¨ ur Wahrscheinlichkeiten angegeben werden. Diese beinhalten, nur allgemein formuliert, die Eigenschaften von Wahrscheinlichkeiten, die wir uns anhand des Losbudenbeispiels bereits u ¨berlegt haben. Axiome von Kolmogoroff (K1) P (A) ≥ 0. (K2) P (Ω) = 1. (K3) Falls A ∩ B = ∅, so ist P (A ∪ B) = P (A) + P (B). Das erste Axiom von Kolmogoroff besagt, daß Wahrscheinlichkeiten stets gr¨oßer oder gleich null sind. Die Wahrscheinlichkeit von null muß dabei zugelassen werden, um die M¨ oglichkeit zu haben, auch Ereignisse, die unm¨oglich eintreten k¨onnen, mit einer bestimmten Wahrscheinlichkeit zu bewerten. Dem sicheren Ereignis Ω wird die Wahrscheinlichkeit 1 zugewiesen. Schließen sich zwei Ereignisse A und B gegenseitig aus, d.h. sind sie disjunkt, etwa A = Gewinn, B = Niete, so ist nach dem dritten Axiom die Wahrscheinlichkeit f¨ ur ihre Vereinigung als Summe ihrer Einzelwahrscheinlichkeiten berechenbar. Die Wahrscheinlichkeit P von Ereignissen l¨aßt sich als Abbildung auffassen. Dabei ordnet P jedem Ereignis A, das eine Teilmenge von Ω ist, eine Zahl zwischen 0 und 1 zu, also: P : {A : A ⊂ Ω} A
Wahrscheinlichkeitsmaß
objektiver Wahrscheinlichkeitsbegriff
→ [0,1] → P (A)
Man nennt P dann ein Wahrscheinlichkeitsmaß auf dem Mengensystem {A : A ⊂ Ω}. Zwischen relativen H¨ aufigkeiten und Wahrscheinlichkeiten lassen sich Verbindungen herstellen, die zum einen als Motivation f¨ ur die Axiome von Kolmogoroff angesehen werden k¨ onnen und zum anderen den objektivistischen Wahrscheinlichkeitsbegriff begr¨ unden. Dieser objektivistische Wahrscheinlichkeitsbegriff basiert auf einer H¨ aufigkeitsinterpretation der Wahrscheinlichkeit. Bei einem Zufallsexperiment geht man davon aus, daß es beliebig oft wiederholt werden kann. Ermittelt man nun bei n unabh¨ angigen Wiederholungen dieses Experiments jeweils die relative H¨aufigkeit eines Ereignisses A, so l¨aßt sich die Wahrscheinlichkeit f¨ ur das Eintreten
4.1 Definition und Begriff der Wahrscheinlichkeit
183
von A als den Wert ansehen, bei dem sich die relative H¨aufigkeit von A mit wachsendem n stabilisiert. Auf diesen Aspekt werden wir sp¨ater noch einmal eingehen. Diesem Wahrscheinlichkeitsbegriff steht die subjektive Auffassung von Wahrscheinlichkeiten gegen¨ uber, bei der die Wahrscheinlichkeit f¨ ur das Eintreten eines Ereignisses A von der jeweiligen Person festgelegt wird. Bei derartigen subjektiven Bewertungen k¨onnen also ein und demselben Ereignis verschiedene Wahrscheinlichkeiten zugeordnet werden. Die Analogie des Wahrscheinlichkeitsbegriffs zu den relativen H¨ aufigkeiten bietet eine Reihe von Vorteilen. So lassen sich unter anderem die f¨ ur die relativen H¨ aufigkeiten bekannten Rechenregeln auch auf Wahrscheinlichkeiten u ¨bertragen. Dies wird deutlich, wenn man noch einmal auf die Axiome von Kolmogoroff zur¨ uckkommt und deren G¨ ultigkeit“ f¨ ur die relativen H¨aufigkeiten u uft. ¨ berpr¨ ” Motivation der Axiome von Kolmogoroff
Beispiel 4.5
Zur Motivation der Axiome betrachten wir das Zufallsexperiment des einmaligen Werfen eines W¨ urfels. Es interessiert die Zahl, die bei dem W¨ urfel oben liegt. Der Ergebnisraum Ω ist also Ω = {1, 2, 3, 4, 5, 6}. Das Experiment wurde 1000 mal unabh¨angig voneinander ur das Auftreten der Zahlen 1, . . . , 6 wiederholt, und die relativen H¨ aufigkeiten f1 , . . . , f6 f¨ wurden ermittelt. Damit sind f1 , . . . , f6 die relativen H¨aufigkeiten der Elementarereignisse. Aus den vertrauten Rechenregeln f¨ ur relative H¨aufigkeiten (vgl. Kapitel 2) weiß man, daß daraus die relative H¨ aufigkeit eines beliebigen Ereignisses A berechenbar ist, etwa f¨ ur
A = {eine Zahl ≤ 3 liegt oben} = {ω : ω ≤ 3} = {1, 2, 3} als f (A) = f1 + f2 + f3 , fi . d.h. allgemein f (A) = i∈A
Nachdem wir uns diese Regel vergegenw¨ artigt haben, u ufen wir nun die G¨ ultigkeit“ ¨ berpr¨ ” der Axiome von Kolmogoroff: (K1) Da f (A) =
fi ≥ 0
i∈A
ist dieses “Axiom” offensichtlich erf¨ ullt , da relative H¨aufigkeiten stets gr¨oßer oder gleich null sind. (K2) Da f (Ω) = f ({1, 2, 3, 4, 5, 6}) = f ({eine Zahl zwischen 1 und 6 liegt oben}) = f1 + f2 + f3 + f4 + f5 + f6 = 1 , gilt auch das zweite Axiom“, da die Summe aller relativen H¨aufigkeiten stets 1 ergibt. ”
184
4. Wahrscheinlichkeitsrechnung
(K3) Sei A ∩ B = ∅, dann gilt: f (A ∪ B) =
fi =
i∈A∪B
fi +
i∈A
fi = f (A) + f (B) .
i∈B
Betrachten wir etwa die disjunkten Ereignisse A = {1, 2}, B = {3, 4}, dann gilt A ∪ B = {1, 2, 3, 4} und weiterhin: f (A) = f1 + f2 ,
f (B) = f3 + f4 ,
f (A ∪ B) = f1 + f2 + f3 + f4 .
Somit ist dieses dritte Axiom“ auch erf¨ ullt, denn ” f (A ∪ B) = f1 + f2 + f3 + f4 = f (A) + f (B) . Machen wir uns an diesem Beispiel zudem klar, daß f¨ ur die G¨ ultigkeit dieses Axioms i.a. nicht auf die Voraussetzung der Disjunktheit verzichtet werden kann: Seien A = {1, 2, 3} und B = {3, 4}. Dann ist die Schnittmenge von A und B nicht leer, A ∩ B = {3}, d.h. A und B sind nicht disjunkt. Betrachten wir erneut A ∪ B = {1, 2, 3, 4}, so gilt: f (A ∪ B) = f1 + f2 + f3 + f4 = f (A) + f (B) , f (A) = f1 + f2 + f3 und f (B) = f3 + f4 f (A) + f (B) = f1 + f2 + 2f3 + f4 .
da und somit
2
Rechenregeln
Aus den Axiomen von Kolmogoroff lassen sich nun die (f¨ ur relative H¨aufigkeiten bereits vertrauten) Rechenregeln auch f¨ ur Wahrscheinlichkeiten ableiten: Rechenregeln f¨ ur Wahrscheinlichkeiten Sei Ω ein Ergebnisraum, dann gilt: 1. 0 ≤ P (A) ≤ 1 f¨ ur A ⊂ Ω, 2. P (∅) = 0, 3. P (A) ≤ P (B), falls A ⊂ B und A, B ⊂ Ω, 4. P (A) = 1 − P (A) mit A = Ω\A, 5. P (A1 ∪ A2 ∪ . . . ∪ Ak ) = P (A1 ) + P (A2 ) + . . . + P (Ak ), falls A1 , A2 , . . . , Ak paarweise disjunkt und Ai ⊂ Ω, i = 1, . . . , k, 6. P (A ∪ B) = P (A) + P (B) − P (A ∩ B).
4.1 Definition und Begriff der Wahrscheinlichkeit
185
Die Richtigkeit dieser Regeln kann man leicht nachpr¨ ufen: Zu 1. Nach (K2) gilt: P (Ω) = 1. Aus Ω = A ∪ A folgt damit nach (K3): 1 = P (Ω) = P (A ∪ A) = P (A) + P (A) , wobei P (A) und P (A) nach (K1) jeweils gr¨oßer gleich null sind und somit die erste Regel erf¨ ullt ist. Zu 2. Wieder beginnen wir mit (K2): 1 = P (Ω) = P (Ω ∪ ∅) = P (Ω) + P (∅) . Damit kann P (∅) nur gleich null sein. Zu 3. Da A ⊂ B, l¨ aßt sich B schreiben als B\A ∪ A, woraus folgt: P (B) = P (B\A) + P (A) . Da zudem P (B\A) ≥ 0, gilt:
P (A) ≤ P (B) .
Zu 4. Da Ω = A ∪ A und P (Ω) = 1, folgt: P (A) + P (A) = 1 und daraus die vierte Rechenregel. Zu 5. Diese ergibt sich als direkte Verallgemeinerung aus (K3). Zur Veranschaulichung betrachten wir das folgende Venn-Diagramm, in dem drei paarweise disjunkte Mengen A1 , A2 , A3 dargestellt sind.
A2 A1 A3 :
Man erkennt deutlich, daß sich die Fl¨ ache der Vereinigung dieser drei Mengen als Summen der Einzelfl¨ achen ergibt, was in Analogie zur Wahrscheinlichkeit der Vereinigung steht, die als Summe der Einzelwahrscheinlichkeiten ermittelt werden kann. Zu 6. Seien A, B ⊂ Ω, dann gilt: A\B, A ∩ B und B\A sind paarweise disjunkte Ereignisse, wie man sich leicht anhand eines Venn-Diagramms u ur die ¨berlegt. Damit gilt f¨ entsprechenden Wahrscheinlichkeiten: P (A) = P (A\B) ∪ (A ∩ B) = P (A\B) + P (A ∩ B) , P (B) = P (B\A) ∪ (A ∩ B) = P (B\A) + P (A ∩ B) und P (A ∪ B) = P (A\B) ∪ (A ∩ B) ∪ (B\A) = P (A\B) + P (A ∩ B) + P (B\A) .
186
4. Wahrscheinlichkeitsrechnung
Daraus ergibt sich direkt P (A) + P (B) = P (A\B) + P (A ∩ B) + P (B\A) + P (A ∩ B) = P (A ∪ B) + P (A ∩ B) und damit die Regel (vi): Additionssatz
P (A ∪ B) = P (A) + P (B) − P (A ∩ B) . Im Gegensatz zum Venn-Diagramm, das die f¨ unfte Rechenregel veranschaulicht, erkennt man in dem folgenden Venn-Diagramm, daß die Fl¨ache der Vereinigung der beiden Mengen A und B nicht einfach als Summe der beiden einzelnen Fl¨achen berechnet werden kann, da in diesem Fall die Fl¨ache der Schnittmenge von A und B zweimal eingehen w¨ urde. A
B
AB :
Da die letzte Regel, der sogenannte Additionssatz, von besonderer Bedeutung ist, sei ihre Anwendung an dem folgenden Beispiel kurz illustriert. Beispiel 4.6
Additionssatz Betrachten wir erneut die Mengen B = { CDU/CSU, SPD, FDP} und C = {SPD, FDP, B¨ undnis 90/Die Gr¨ unen}, vgl. Beispiel 4.2 (Seite 177). Nach einer Umfrage vom Oktober 1995 in West-Deutschland (Quelle: Emnid) betragen die Wahrscheinlichkeiten f¨ ur eine Wahl der CDU/CSU 0.45, f¨ ur die SPD 0.31, f¨ ur die FDP 0.05 und f¨ ur die Wahl von B¨ undnis 90/Die Gr¨ unen 0.13. Daraus l¨ aßt sich P (B) analog zu den relativen H¨aufigkeiten berechnen als P (B) = 0.45 + 0.31 + 0.05 = 0.81 . Entsprechend gilt f¨ ur P (C): P (C) = 0.31 + 0.05 + 0.13 = 0.49 . Da B ∪ C ={CDU/CSU, SPD, FDP, B¨ undnis 90/Die Gr¨ unen} ergibt sich als P (B ∪ C): P (B ∪ C) = 0.45 + 0.31 + 0.05 + 0.13 = 0.94 . Da die Wahrscheinlichkeit von B ∩ C = {SPD, FDP} gegeben ist als P (B ∩ C) = 0.31 + 0.05 = 0.36 , erh¨ alt man insgesamt P (B ∪ C) = 0.94 = 0.81 + 0.49 − 0.36 = P (B) + P (C) − P (B ∩ C) . 2
4.2 Zur empirischen Interpretation von Wahrscheinlichkeiten
187
Im obigen Beispiel haben wir bereits ausgenutzt, daß sich Wahrscheinlichkeiten f¨ ur Ereignisse im Fall endlicher Grundgesamtheiten als Summe der Wahrscheinlichkeiten der zugeh¨origen Elementarereignisse berechnen lassen. Die folgenden Rechenregeln beschreiben diesen Zusammenhang allgemein. Berechnung der Wahrscheinlichkeit f¨ ur das Eintreten eines Ereignisses A Sei A ⊂ Ω, Ω endlich, und seien die Elementarereignisse bezeichnet mit {ω1 },. . ., {ωn }, dann gilt P ({ωi }) ≥ 0,
i = 1, . . . , n ,
P (Ω) = P ({ω1 }) + . . . + P ({ωn }) = 1 , P {ω} . P (A) = ω∈A
Schreibweise: P {ω} = pω , ω ∈ Ω. Wie sich leicht nachpr¨ ufen l¨ aßt, sind diese Rechenregeln im Fall endlicher Grundgesamtheiten ¨aquivalent zu den Axiomen von Kolmogoroff. ¨ Neben der Ubertragbarkeit der Rechenregeln liegt ein weiterer Vorteil der Analogie zwischen relativen H¨aufigkeiten und Wahrscheinlichkeiten darin, daß sich bei endlichen Grundgesamtheiten relative H¨aufigkeiten unter Umst¨anden als Wahrscheinlichkeiten interpretieren lassen. Betr¨agt der Anteil der Frauen in einer bestimmten Population z.B. 51 % und der der M¨anner 49 %, so kann man sagen, daß mit einer Wahrscheinlichkeit von 0.51 eine zuf¨allig ausgew¨ahlte Person weiblich ist. Entsprechend wird mit einer Wahrscheinlichkeit von 0.49 zuf¨allig eine m¨annliche Person ausgew¨ahlt. Im Beispiel 4.6 wurde diese Tatsache bereits ausgenutzt. Dort wurden die ermittelten W¨ ahleranteile als Wahrscheinlichkeiten f¨ ur die Wahl der einzelnen Parteien interpretiert. Außerdem dienen relative H¨aufigkeiten auch zur Sch¨atzung von Wahrscheinlichkeiten f¨ ur das Eintreten von Ereignissen, falls diese unbekannt sind (vgl. auch Kapitel 9).
4.2
Zur empirischen Interpretation von Wahrscheinlichkeiten
Die Wahrscheinlichkeitsrechnung hat vermutlich ihren Ursprung beim Gl¨ uckspiel und zwar beim Berechnen von Chancen f¨ ur einen Gewinn. Dabei gilt als erste mathematische Auseinandersetzung mit Wahrscheinlichkeiten der ber¨ uhmte Briefwechsel
Analogien
188
Laplace-Wahrscheinlichkeit
zwischen den franz¨ osischen Mathematikern Blaise Pascal (1623 − 1662) und Pierre de Fermat (1601 − 1665), der aus einer Anfrage des Chevaliers de M´er´e 1654 an Pascal nach den Gewinnchancen beim W¨ urfelspiel entstand. Die Antworten von Pascal und Fermat wurden anschließend von dem holl¨andischen Mathematiker Christiaan Huygens (1629 − 1695) erweitert und in seinem 1657 erschienenen Buch u ¨ber Wahrscheinlichkeitsrechnung De ratiociniis in alea ludo“ ver¨offentlicht. Im Jahr 1713 ” erscheint das Buch Ars conjectandi“ von Jakob Bernoulli (1654 − 1705), zu dessen ” Inhalt unter anderem die Binomialverteilung (vgl. Abschnitt 5.3.1) und das Gesetz der großen Zahlen (vgl. Abschnitt 7.1.1) geh¨oren. Schließlich sind als fr¨ uhe Werke noch das 1718 erschienene Buch von Abraham de Moivre (1667 − 1754) zu nennen, in dem eine Beziehung zwischen der Binomial- und der Normalverteilung hergestellt wird, und die Arbeit des englischen Geistlichen Thomas Bayes (1702 − 1761). Der in der letztgenannten Arbeit ver¨offentlichte und nach dem Autor benannte Satz von Bayes wird am Ende dieses Abschnitts behandelt. All diesen Arbeiten liegt der klassische Wahrscheinlichkeitsbegriff zugrunde, der auch als Laplace-Wahrscheinlichkeit bekannt ist. F¨ ur die Definition der Laplace-Wahrscheinlichkeit wird ausgenutzt, daß es bei endlichen Grundgesamtheiten gen¨ ugt, die Wahrscheinlichkeiten aller Elementarereignisse zu kennen, um die Wahrscheinlichkeit f¨ ur das Eintreten beliebiger Ereignisse A berechnen zu k¨ onnen.
4.2.1
LaplaceExperiment Laplace-Wahrscheinlichkeit
4. Wahrscheinlichkeitsrechnung
Die Laplace-Wahrscheinlichkeit
Bei Gl¨ uckspielen ist es h¨ aufig gerechtfertigt, davon auszugehen, daß alle m¨oglichen Ausg¨ ange eines solchen Spiels mit gleicher Wahrscheinlichkeit eintreten k¨onnen. Kann man f¨ ur ein beliebiges Zufallsexperiment annehmen, daß alle Elementarereignisse gleichwahrscheinlich sind, so nennt man ein solches Experiment ein LaplaceExperiment nach dem franz¨ osischen Mathematiker Pierre Simon Marquis de Laplace (1749 − 1827). Dieser definierte die Wahrscheinlichkeit f¨ ur das Eintreten eines Ereignisses A in dem Fall, daß Ω endlich ist, u ¨ ber die folgende Berechnungsart: Man dividiere die Anzahl der f¨ ur A g¨ unstigen Ergebnisse eines Zufallsexperiments durch die Anzahl aller m¨ oglichen Ergebnisse. Dabei spricht man von einem f¨ ur A g¨ unstigen Ergebnis, wenn A eintritt. Vorausgesetzt f¨ ur diese Art der Berechnung von Wahrscheinlichkeiten ist die oben bereits erw¨ahnte Gleichwahrscheinlichkeit der Elementarereignisse unter der sich die Wahrscheinlichkeit eines Elementarereignisses, gerade als 1 dividiert durch die M¨ achtigkeit von Ω ergibt, d.h. sei Ω = {1, . . . , N }, dann gilt 1 1 = , P {j} = pj = N |Ω|
Abz¨ahlregel
j = 1, . . . , N .
¨ F¨ ur die Laplace-Wahrscheinlichkeit von A gilt nach den obigen Uberlegungen folgende Abz¨ ahlregel:
4.2 Zur empirischen Interpretation von Wahrscheinlichkeiten
P (A) =
189
Anzahl der f¨ ur A g¨ unstigen Ergebnisse . Anzahl aller m¨oglichen Ergebnisse
Bezeichnen M die Anzahl der f¨ ur ein beliebiges Ereignis A g¨ unstigen Ergebnisse, also |A| = M , und N die Anzahl aller m¨ oglichen Ergebnisse eines Zufallsexperiments, also |Ω| = N , so k¨ onnen wir die folgende Definition der Laplace-Wahrscheinlichkeit festhalten: Laplace-Wahrscheinlichkeit In einem Laplace-Experiment gilt f¨ ur P (A) mit |A| = M und |Ω| = N : P (A) =
M |A| = . |Ω| N
Zur Illustration dieses Begriffs betrachten wir im folgenden einige Beispiele. Dreimaliger M¨ unzwurf
Beispiel 4.7
Wir werfen dreimal unabh¨ angig voneinander eine faire M¨ unze und notieren jeweils, ob die M¨ unze Wappen oder Zahl anzeigt. Der zugeh¨ orige Ergebnisraum lautet: Ω = (W, W, W ), (W, W, Z), (W, Z, W ), (Z, W, W
), (W, Z, Z), (Z, W, Z), (Z, Z, W ), (Z, Z, Z) und enth¨ alt die acht Ergebnisse dieses Zufallsexperiments, d.h. |Ω| = 8. Da wir vorausgesetzt haben, daß die M¨ unze fair ist, kann dieser Zufallsvorgang als Laplace-Experiment angesehen werden, und es gilt: 1 1 , ω ∈ Ω. pω = = 8 |Ω| Damit besitzt jedes m¨ ogliche Ergebnis die gleiche Wahrscheinlichkeit 1/8, d.h. dreimal hintereinander Wappen zu erhalten, ist genauso wahrscheinlich wie etwa die Kombination (W, Z, W ). Die Wahrscheinlichkeit f¨ ur das Ereignis A = {mindestens einmal Wappen} berechnet sich nun direkt als Quotient der Anzahl der f¨ ur A g¨ unstigen Ergebnisse und der Anzahl aller m¨ oglichen Ergebnisse. Da bei sieben Elementarereignissen von Ω mindestens einmal Wappen auftritt, ist |A| = 7 und somit P (A) =
7 . 8
Die Wahrscheinlichkeit f¨ ur das Gegenereignis A = {keinmal Wappen} betr¨agt 1/8, denn nach der vierten Rechenregel f¨ ur Wahrscheinlichkeiten gilt: P (A) = 1 − P (A)
190
4. Wahrscheinlichkeitsrechnung
bzw. aufgrund der Definition der Laplace-Wahrscheinlichkeit: P (A) =
1 |A| = . |Ω| 8
F¨ ur das Ereignis B = {genau zweimal Wappen} gilt: B = {(W, W, Z), (W, Z, W ), (Z, W, W )} , also |B| = 3 und damit P (B) = 38 . Hier finden wir auch die dritte Rechenregel best¨atigt: B ⊂ A, und es gilt: 7 3 P (B) = ≤ = P (A) . 8 8 2
Beispiel 4.8
Ziehen mit Zur¨ ucklegen Nehmen wir an, in einer Urne befinden sich sechs Kugeln, zwei rote und vier blaue. Aus dieser Urne ziehen wir nacheinander drei Kugeln, wobei wir uns nach jedem Hineingreifen in die Urne die Farbe der gezogenen Kugel notieren und diese dann in die Urne zur¨ ucklegen. Man spricht dann vom Ziehen mit Zur¨ ucklegen. W¨ urden wir nur einmal in die Urne greifen, w¨are der Ergebnisraum gerade die Menge der sechs Kugeln, also Ω = {r1 , r2 , b1 , b2 , b3 , b4 }, wobei ri , i = 1, 2, die beiden roten und bj , j = 1, 2, 3, 4, die vier blauen Kugeln bezeichnen. Der Ergebnisraum, den man beim dreimaligen Ziehen mit Zur¨ ucklegen erh¨alt, ergibt sich dann aus allen m¨ oglichen Kombinationen von drei Kugeln und l¨aßt sich schreiben als Ω × Ω × Ω. Da wir mit Zur¨ ucklegen ziehen, stehen bei jedem Hineingreifen sechs Kugeln zur Verf¨ ugung. Die Anzahl aller m¨ oglichen Ergebnisse beim Ziehen mit Zur¨ ucklegen ist demnach N = 6 · 6 · 6 = 216 . Wir interessieren uns nun f¨ ur die Wahrscheinlichkeit, eine rote und zwei blaue Kugeln zu ziehen. Dieses Ereignis sei bezeichnet mit A. Es tritt ein, wenn beim 1. und 2. Zug eine blaue und beim 3. Zug eine rote gezogen wird, oder falls beim 1. Zug eine rote und beim 2. und 3. Zug jeweils eine blaue oder beim 1. und 3. Zug eine blaue und beim 2. Zug eine rote Kugel gezogen wird. Um die Laplace-Wahrscheinlichkeit f¨ ur dieses Ereignis bestimmen zu k¨ onnen, ben¨ otigen wir die Anzahl der f¨ ur A g¨ unstigen Ergebnisse. Dabei haben wir f¨ ur den ersten Fall im 1. Zug vier M¨ oglichkeiten, eine blaue Kugel zu ziehen, im 2. Zug ebenfalls vier M¨oglichkeiten und im 3. Zug zwei M¨oglichkeiten, eine rote Kugel zu ziehen. Damit gibt es f¨ ur den ersten Fall 4 · 4 · 2 = 32 g¨ unstige Ergebnisse. Man u ¨ berlegt sich leicht, daß die Anzahl der g¨ unstigen Ergebnisse f¨ ur den zweiten und dritten Fall ebenfalls 32 betr¨agt, so daß wir insgesamt 32 + 32 + 32 = 96 g¨ unstige Ergebnisse erhalten k¨onnen. Daraus ergibt sich P (A) =
96 = 0.44 . 216 2
4.2 Zur empirischen Interpretation von Wahrscheinlichkeiten
191
Ziehen ohne Zur¨ ucklegen
Beispiel 4.9
Betrachten wir erneut die Situation aus Beispiel 4.8 mit dem einzigen Unterschied, daß die Kugeln nicht wieder zur¨ uckgelegt werden. Einen solchen Zufallsvorgang bezeichnet man als Ziehen ohne Zur¨ ucklegen. Da die Kugeln nicht mehr zur¨ uckgelegt werden, ¨andern sich die Anzahlen sowohl der m¨ oglichen als auch der f¨ ur A g¨ unstigen Ergebnisse. Die M¨achtigkeit des Ergebnisraums, d.h. die Anzahl der m¨ oglichen Ergebnisse, ergibt sich nun als N = 6 · 5 · 4 = 120 , da im 1. Zug sechs Kugeln zur Verf¨ ugung stehen, im 2. Zug nur noch f¨ unf und im 3. Zug nur noch vier Kugeln. Bei den in Beispiel 4.8 angesprochenen drei unterscheidbaren F¨allen f¨ ur die g¨ unstigen Ergebnisse gibt es im ersten Fall beim 1. Zug zwei M¨oglichkeiten f¨ ur eine rote Kugel; beim 2. Zug ergeben sich vier M¨ oglichkeiten, eine blaue Kugel zu ziehen. Damit hat man im 3. Zug nur noch drei M¨ oglichkeiten f¨ ur eine blaue Kugel, so daß es 2 · 4 · 3 = 24 g¨ unstige Ergebnisse gibt. F¨ ur den zweiten Fall ergeben sich 4 · 3 · 2 = 24 g¨ unstige Ergebnisse und im dritten Fall 4 · 2 · 3 = 24. Insgesamt sind 72 Ergebnisse f¨ ur A g¨ unstig, woraus sich P (A) =
72 = 0.6 120 2
ergibt.
Die im obigen Beispiel beschriebenen Zufallsexperimente werden auch als zusammengesetzte Laplace-Experimente bezeichnet, da mehrere Experimente hintereinandergeschaltet werden. Nat¨ urlich kann nicht immer davon ausgegangen werden, daß alle Elementarereignisse gleichwahrscheinlich sind, also ein Laplace-Experiment vorliegt. Zudem ist es nicht immer m¨ oglich, die Wahrscheinlichkeiten f¨ ur bestimmte Ereignisse durch ¨ einfaches Ausz¨ahlen zu bestimmen. Hier sind zus¨atzliche Uberlegungen notwendig, wie insbesondere in Kapitel 5 und 6, aber auch im n¨achsten Abschnitt ausgef¨ uhrt wird.
4.2.2
Objektive Wahrscheinlichkeiten als Grenzwert relativer H¨ aufigkeiten
K¨ onnte man stets davon ausgehen, daß die Ergebnisse eines Zufallsexperiments gleichwahrscheinlich sind, so w¨ are der in Abschnitt 4.2.1 eingef¨ uhrte Laplacesche Wahrscheinlichkeitsbegriff zur Interpretation von Wahrscheinlichkeiten ausreichend. Dies ist aber nicht der Fall.
192
Beispiel 4.10
4. Wahrscheinlichkeitsrechnung
Anzahl der Wappen beim dreimaligen M¨ unzwurf
In der Situation des dreimaligen M¨ unzwurfs aus Beispiel 4.7 (Seite 189) interessiere man sich nun nicht mehr f¨ ur die expliziten Ergebnisse, sondern lediglich f¨ ur die Anzahl der geworfenen Wappen. Dies f¨ uhrt zu dem Ergebnisraum Ω = {0, 1, 2, 3}. Diese Elementarereignisse sind offensichtlich nicht mehr gleichwahrscheinlich, auch wenn sich hier die zugeh¨origen Wahrscheinlichkeiten aus denen in Beispiel 4.7 ableiten lassen. Man erh¨alt mit P ({i}) = pi p0 =
1 , 8
p1 =
3 , 8
p2 =
3 , 8
p3 =
1 . 8 2
K¨onnte man diese Wahrscheinlichkeiten nicht direkt berechnen, so best¨ unde ein Ausweg darin, wiederholt dreimal eine M¨ unze zu werfen und die jeweiligen relativen H¨aufigkeiten zu notieren. F¨ uhrt man das Zufallsexperiment h¨aufig genug durch, so pendelt sich in der Regel die relative H¨aufigkeit bei dem Wert f¨ ur die Wahrscheinlichkeit des entsprechenden Ereignisses ein. Zur Verdeutlichung dieser Eigenschaft relativer H¨ aufigkeiten formalisieren wir das beschriebene Vorgehen wie folgt: Man wiederhole ein Zufallsexperiment n-mal unabh¨angig voneinander, wobei jedes Ereignis A bei jeder Durchf¨ uhrung dieselbe Chance besitzt einzutreten. Bezeichne nun aufigkeit der Vorg¨ange, bei denen A eingetreten ist, und enthn (A) die absolute H¨ aufigkeit des Eintretens von A bei n Wiederholungen. sprechend fn (A) die relative H¨ Das folgende Beispiel veranschaulicht noch einmal dieses Vorgehen.
Beispiel 4.11
Wahrscheinlichkeit f¨ ur das Eintreten von Wappen beim einmaligen M¨ unzwurf
Wir betrachten das Zufallsexperiment Werfen einer M¨ unze“. Dieses f¨ uhren wir unabh¨angig ” voneinander mehrmals durch und notieren jeweils, ob Wappen oder Zahl eingetreten ist. Zuur das Eintreten dem wird f¨ ur jedes n die relative H¨ aufigkeit fn (A) berechnet, wobei A hier f¨ von Wappen steht. Nehmen wir an, es h¨atten sich bei einer 20-maligen Durchf¨ uhrung des Experiments die folgenden Ergebnisse gezeigt:
4.2 Zur empirischen Interpretation von Wahrscheinlichkeiten
n Ergebnis fn (A)
1 W 1 1 =1
2 W 2 2 =1
n Ergebnis fn (A)
6 Z = 0.67
7 Z = 0.57
n Ergebnis fn (A) n Ergebnis fn (A)
4 6
6 11
7 16
11 Z = 0.55 16 Z = 0.44
4 7
6 12
8 17
12 Z = 0.5 17 W = 0.47
3 Z = 0.67
2 3
5 8
8 W = 0.625
6 13
8 18
13 Z = 0.46 18 Z = 0.44
193
3 4
5 9
6 14
9 19
4 W = 0.75 9 Z = 0.56 14 Z = 0.43 19 W = 0.47
4 5
6 10
7 15
10 20
5 W = 0.8 10 W = 0.6 15 W = 0.47 20 W = 0.5.
Dabei erh¨ alt man etwa f¨ ur n = 9 den Wert f9 (A) als 0.56 = 5/9, da bis einschließlich des 8. Wurfs f¨ unfmal Wappen und im 9. Wurf Zahl eingetreten ist. Wie man an den relativen H¨ aufigkeiten erkennt (siehe auch Abb. 4.1), pendeln sich diese bei 0.5 ein, wobei dieser Wert gerade der Wahrscheinlichkeit f¨ ur das Eintreten von Wappen bei einer fairen M¨ unze entspricht. Dies ist bekannt, da das Werfen einer fairen M¨ unze einem
Abbildung 4.1: Relative H¨ aufigkeit fn (A) des Eintretens von Wappen bei nmaligem M¨ unzwurf
Laplace-Experiment entspricht, und damit Wappen und Zahl gleichwahrscheinlich sind. 2
Wie man an dem obigen Beispiel erkennen kann, stabilisiert sich die Folge der relativen H¨aufigkeiten fn (A) mit einer wachsenden Zahl n von Versuchen erfahrungsgem¨aß
194
4. Wahrscheinlichkeitsrechnung
um den Wert P (A) (vgl. Abschnitt 7.1). Es l¨aßt sich also empirisch festhalten: n→∞
fn (A) −→ P (A) . Grenzwert
Damit kommen wir auf die bereits angesprochene M¨oglichkeit zur¨ uck, den Grenzwert der relativen H¨ aufigkeiten eines Ereignisses A als Wahrscheinlichkeit von A zu interpretieren. Problematisch ist dabei, daß die Zahl der Wiederholungen gegen unendlich gehen muß, was praktisch nat¨ urlich nicht realisierbar ist. Man kann aber die aus endlichen Stichprobenumf¨ angen ermittelten relativen H¨aufigkeiten zur Sch¨atzung der entsprechenden unbekannten Wahrscheinlichkeit heranziehen (vgl. Kapitel 9).
4.2.3
Subjektive Wahrscheinlichkeiten
Im Gegensatz zu dem objektiven oder frequentistischen Wahrscheinlichkeitsbegriff subjektiver begr¨ undet sich der subjektive Wahrscheinlichkeitsbegriff auf einer pers¨onlichen, alWahrscheinlich- so subjektiven Einsch¨ atzung des jeweiligen Betrachters. Die Quantifizierung dieser keitsbegriff Wahrscheinlichkeit basiert auf einer Art imagin¨arer Wette und zwar in dem Sinn, daß sich die jeweilige Person u ¨ berlegt, zu welchem Verh¨altnis von Einsatz und Gewinn sie noch bereit w¨ are, tats¨ achlich auf das Eintreten eines bestimmten Ereignisses A zu wetten. Dieser “Wettquotient” ist gerade die subjektive Wahrscheinlichkeit f¨ ur das Eintreten von A. Kommen wir zur Illustration noch einmal auf zwei der unter 4.3 (Seite 179) aufgef¨ uhrten Beispiele zur¨ uck. Beispiel 4.12
Subjektiver Wahrscheinlichkeitsbegriff (a) Der Unterschied zwischen subjektiver und objektiver Wahrscheinlichkeit l¨aßt sich anhand des Werfens eines W¨ urfels veranschaulichen. Geht man davon aus, daß die Gleichwahrscheinlichkeit der Ergebnisse des W¨ urfelwurfs bedingt durch die physikalisch gesicherte Symmetrie des W¨ urfels eine dem W¨ urfel inherente Eigenschaft und v¨ollig unabh¨angig vom jeweiligen Betrachter ist, so ist die Zuweisung der Laplace-Wahrscheinlichkeit von 1/6 objektiv. Diese Eigenschaft des W¨ urfels ließe sich zudem frequentistisch u ufen. ¨ berpr¨ Macht der Betrachter aufgrund seiner Kenntisse die Annahme, daß die geworfenen Zahlen gleichwahrscheinlich sind, so basiert seine Zuweisung auf einer subjektiven Annahme. (b) Die Beurteilung der Konjunkturentwicklung im n¨achsten Jahr durch Sachverst¨andige oder auch die Ergebnisse des IFO-Konjunkturtests basieren auf subjektiven Einsch¨atzungen. Legt man Ω = {+, =, −} aus Beispiel 4.3(e) (Seite 180) mit “+” = Aufschwung, “=” = unver¨anderte Konjunkturlage, “−” = negative Konjunkturentwicklung zugrunde, so sind die subjektiven Wahrscheinlichkeiten p+ , p= , p− so festgelegt, daß gilt: p+ ≥ 0, p− ≥ 0, p= ≥ 0
und p+ + p− + p= = 1 .
Eine H¨ aufigkeitsinterpretation ist f¨ ur diese Wahrscheinlichkeiten unn¨otig.
2
4.3 Zufallsstichproben und Kombinatorik
195
Weitere Beispiele f¨ ur subjektive Wahrscheinlichkeiten sind etwa die pers¨onliche Beurteilung von Zinsentwicklungen, vgl. auch Beispiel 4.26 (Seite 214) in Abschnitt 4.7, von Strategien eines Marktkonkurrenten oder auch von Siegchancen einer Fußballmannschaft, vgl. Beispiel 4.23 (Seite 211) in Abschnitt 4.6. Auch wenn die Festlegung subjektiver Wahrscheinlichkeiten aufgrund pers¨onlicher Einsch¨atzungen erfolgt, m¨ ussen diese stets die Axiome von Kolmogoroff erf¨ ullen bzw. mit der dazu a¨quivalenten Charakterisierung konsistent sein. Dies kann man auch bei den bekanntesten Vertretern dieser Wahrscheinlichkeitstheorie, Bruno de Finetti (1906 − 1986) und Leonard J. Savage (1917 − 1971), wiederfinden.
4.3
Zufallsstichproben und Kombinatorik
In Abschnitt 4.2.1 hatten wir gesehen, daß es in bestimmten F¨allen m¨oglich ist, Wahrscheinlichkeiten durch Ausz¨ ahlen zu ermitteln, wobei dazu jeweils der Quotient aus der Anzahl der f¨ ur ein Ereignis A g¨ unstigen Ergebnisse und der Anzahl aller m¨oglichen Ergebnisse gebildet wurde. Die beiden Beispiele 4.8 (Seite 190) und 4.9 (Seite 191) zeigten zudem, daß diese Anzahlen davon abh¨angen, in welcher Weise die Ziehung von Kugeln aus einer Urne vorgenommen wird. Die dort angestellten ¨ Uberlegungen lassen sich verallgemeinern. Zun¨achst entspricht die Ziehung von Kugeln aus einer Urne der Ziehung einer Zufallsstichprobe aus einer endlichen Grundgesamtheit, d.h. einem dreimaligen Ziehen entspricht eine Stichprobe vom Umfang drei. Dies kann man sich wie folgt veranschaulichen: Die Grundgesamtheit G bestehe aus N Einheiten, also G = {1, . . . , N }. Aus dieser Grundgesamtheit soll nun eine Stichprobe vom Umfang n gezogen werden. Dazu abstrahieren wir diese Situation als ein Urnenmodell. Jeder Einheit der Grundgesamtheit ordnen wir eine numerierte Kugel Ei , i = 1, . . . , N , zu und denken uns diese in einer Urne. Aus der Urne entnehmen wir n Kugeln. Die gezogenen Kugeln, d.h. das geordnete Tupel (E1 , . . . , En ) mit Ei ∈ G, nennt man eine Stichprobe vom Umfang n. Dabei erh¨alt man bei jeder Ziehung von n Kugeln aus der Urne typischerweise eine andere Stichprobe. Sind alle m¨ oglichen Stichproben gleichwahrscheinlich, so spricht man von einfachen Zufallsstichproben. Den Begriff der Zufallsstichprobe haben wir bereits im Zusammenhang mit der Diskussion von verschiedenen M¨ oglichkeiten zur Gewinnung von Daten kennengelernt (vgl. Abschnitt 1.4.2). Dabei wurde die einfache Zufallsstichprobe als eine Variante der Stichprobenziehung eingef¨ uhrt, von der wir jedoch in der Regel ausgehen werden.
Zufallsstichprobe
Urnenmodell
Stichprobe
einfache Zufallsstichproben
196
4. Wahrscheinlichkeitsrechnung
Einfache Zufallsstichprobe Besitzt jede Stichprobe vom Umfang n aus einer Grundgesamtheit vom Umfang N dieselbe Wahrscheinlichkeit gezogen zu werden, so liegt eine einfache Zufallsstichprobe vor.
Kombinatorik
Zur Berechnung von Wahrscheinlichkeiten durch Ausz¨ahlen ist die Kenntnis der Anzahl aller m¨ oglichen Stichproben wichtig. Diese Anzahl h¨angt, wie die Beispiele 4.8 und 4.9 außerdem gezeigt haben, von der Art der Ziehung ab. Daher werden im folgenden die in den Beispielen beschriebenen Ziehungsverfahren und die daraus resultierenden Anzahlen m¨ oglicher Stichproben allgemein diskutiert. Dazu sind ¨ sogenannte kombinatorische Uberlegungen erforderlich.
4.3.1
Modell mit Zur¨ ucklegen
Beim Modell mit Zur¨ ucklegen entnimmt man sukzessive eine Kugel, notiert die Nummer und legt sie anschließend in die Urne zur¨ uck, vgl. Beispiel 4.8 (Seite 190). Wieviele m¨ ogliche Stichproben vom Umfang n k¨onnen auf diese Weise aus einer Grundgesamtheit vom Umfang N gezogen werden? Dieser Frage gehen wir zun¨achst in dem folgenden einfachen Beispiel nach. Beispiel 4.13
Ziehen einer Stichprobe vom Umfang n = 2 mit Zur¨ ucklegen Man ziehe mit Zur¨ ucklegen eine Stichprobe vom Umfang n = 2 aus einer Grundgesamtheit vom Umfang N = 3. F¨ ur die Kugel im 1. Zug gibt es die M¨oglichkeiten E1 , E2 , E3 . Da die Kugel zur¨ uckgelegt wird, gibt es f¨ ur die Kugel im 2. Zug dieselben M¨oglichkeiten, so daß insgesamt folgende Stichproben vom Umfang n = 2 gezogen werden k¨onnen: (E1 , E1 ), (E1 , E2 ), (E1 , E3 ), (E2 , E1 ), (E2 , E2 ), (E2 , E3 ), (E3 , E1 ), (E3 , E2 ), (E3 , E3 ). Dabei bedeutet (E1 , E3 ) beispielsweise, daß im 1. Zug die Kugel E1 und im 2. Zug die Kugel E3 gezogen wurde. Es gibt also 9 = 32 m¨ogliche Stichproben. 2
Das Ergebnis des obigen Beispiels l¨aßt sich als die folgende allgemeine Regel formulieren: Bei einer Grundgesamtheit vom Umfang N stehen beim Ziehen mit Zur¨ ucklegen im 1. Zug N Kugeln zur Verf¨ ugung. Da die Kugel nach der Ziehung wieder zur¨ uckgelegt wird, stehen im 2. Zug ebenfalls N Kugeln zur Auswahl. Da die Anzahl der zur Verf¨ ugung stehenden Kugeln von Zug zu Zug gleich bleibt, gibt es
4.3 Zufallsstichproben und Kombinatorik
197
bei einer Ziehung mit Zur¨ ucklegen aus einer Grundgesamtheit vom Umfang N also n ogliche Stichproben vom Umfang n. N · N · . . . · N = N m¨
Modell mit Zur¨ ucklegen Bei einer Ziehung mit Zur¨ ucklegen aus einer Grundgesamtheit vom Umfang N ist die Anzahl der m¨ oglichen Stichproben vom Umfang n gegeben als Nn .
4.3.2
Modell ohne Zur¨ ucklegen
Beim Modell ohne Zur¨ ucklegen entnimmt man sukzessive eine Kugel, notiert die Nummer und legt sie nicht mehr in die Urne zur¨ uck, vgl. Beispiel 4.9 (Seite 191). Zur Bestimmung der Anzahl aller m¨ oglichen Stichproben vom Umfang n aus einer Grundgesamtheit vom Umfang N betrachten wir erneut zun¨achst ein einfaches Beispiel: Ziehung einer Stichprobe vom Umfang n = 2 ohne Zur¨ ucklegen Sei auch hier wieder N = 3. F¨ ur die erste Kugel gibt es damit drei M¨oglichkeiten: E1 , E2 , E3 . Da nach der Ziehung der 1. Kugel diese jedoch nicht wieder zur¨ uckgelegt wird, bleiben f¨ ur die 2. Kugel nur noch zwei M¨ oglichkeiten, so daß sich folgende Stichproben ergeben k¨onnen: (E1 , E2 ), (E1 , E3 ), (E2 , E1 ), (E2 , E3 ), (E3 , E1 ), (E3 , E2 ). ur den 2. Zug nur noch die Kugeln Wenn wir im 1. Zug die Kugel E1 gezogen haben, bleiben f¨ E2 und E3 . Wir erhalten also insgesamt 3 · 2 = 6 Stichproben. 2
Die in dem Beispiel ermittelte Anzahl kann wieder verallgemeinert werden: Bei einer Grundgesamtheit vom Umfang N stehen beim Ziehen ohne Zur¨ ucklegen im 1. Zug N Kugeln zur Verf¨ ugung, im 2. Zug N −1 Kugeln, im 3. Zug N −2 Kugeln und im n-ten Zug nur noch N − n + 1 Kugeln. Damit gibt es bei einer Ziehung ohne Zur¨ ucklegen aus einer Grundgesamtheit vom Umfang N also N ·(N − 1)·. . . ·(N − n + 1) m¨ogliche Stichproben vom Umfang n. Diese Anzahl kann auch kompakter angegeben werden. Dazu f¨ uhren wir den Begriff der Fakult¨ at ein.
Beispiel 4.14
198
4. Wahrscheinlichkeitsrechnung
Fakult¨ at Die Fakult¨ at einer nat¨ urlichen Zahl k ist definiert als k! = k · (k − 1) · (k − 2) · . . . · 2 · 1 . Es gilt: 1! = 1,
0! = 1 .
Aus dieser Schreibweise folgt N · (N − 1) · . . . · (N − n + 1) =
N! , (N − n)!
denn es gilt N · (N − 1) · . . . · (N − n + 1) · (N − n) · (N − n − 1) · . . . · 2 · 1 N! = , (N − n)! (N − n) · (N − n − 1) · . . . · 2 · 1 so daß sich die Terme (N −n)·(N −n−1)·. . .·2·1 in Z¨ahler und Nenner herausk¨ urzen. Somit k¨ onnen wir festhalten: Modell ohne Zur¨ ucklegen Bei einer Ziehung ohne Zur¨ ucklegen aus einer Grundgesamtheit vom Umfang N ist die Anzahl der m¨ oglichen Stichproben vom Umfang n gegeben als N! . (N − n)!
4.3.3
Permutationen
Zieht man aus einer Urne alle Kugeln und notiert sich diese in der gezogenen Reihenfolge, so spricht man von einer Permutation. Das heißt, eine Permutation ist eine Stichprobe ohne Zur¨ ucklegen, bei der der Stichprobenumfang mit dem Umfang der Grundgesamtheit u ¨bereinstimmt. Damit ist hier die Anzahl der m¨oglichen Stichproben gleich der Anzahl der m¨oglichen Anordnungen von N m¨oglichen Objekten unter Ber¨ ucksichtigung der Reihenfolge, also gerade die Anzahl der Permutationen von N Objekten. Zur Bestimmung dieser Anzahl k¨ onnen wir die Formel aus Abschnitt 4.3.2 heranziehen, wobei
4.3 Zufallsstichproben und Kombinatorik
199
lediglich n gleich N gesetzt werden muß, d.h. die Anzahl der Permutationen ist gleich N! N! = = N! . (N − N )! 0!
Permutationen Es gibt N ! Permutationen von N unterscheidbaren Objekten.
Permutationen
Beispiel 4.15
In einer Schulklasse will der Lehrer vor einer Klausur seine Sch¨ uler und Sch¨ ulerinnen umsetzen. Wieviele M¨ oglichkeiten hat er? Diese Frage l¨aßt sich mit obiger Formel direkt beantworten: Sind nur f¨ unf Kinder in seiner Klasse, so hat er 5! = 120 M¨oglichkeiten, die Kinder auf die vorhandenen f¨ unf Pl¨atze zu verteilen. Sind in der Klasse zehn Kinder und stehen diesen zehn Sitzpl¨ atze zur Verf¨ ugung, so hat der Lehrer bereits 10! = 3628800 M¨oglichkeiten, die Kinder zu permutieren. Man sieht deutlich, wie stark die Anzahl der m¨oglichen Permutationen mit der Anzahl der unterscheidbaren Objekte anw¨achst. 2
4.3.4
Modell ohne Zur¨ ucklegen und ohne Ber¨ ucksichtigung der Reihenfolge
Beim Modell ohne Zur¨ ucklegen und ohne Ber¨ ucksichtigung der Reihenfolge unterscheidet man im Gegensatz zum Beispiel 4.14 (Seite 197) nicht, ob im 1. Zug E1 und im 2. Zug E2 gezogen wird oder umgekehrt. Ein wohl bekanntes praktisches Beispiel f¨ ur ein solches Modell ist die w¨ ochentliche Ziehung der Lottozahlen, wenn man die Zusatzzahl außer Betracht l¨ aßt. Hier spielt die Reihenfolge der gezogenen Kugeln keine Rolle, d.h. die Stichprobe 4, 7, 11, 13, 26, 28 wird nicht unterschieden von der Ziehung 11, 26, 13, 28, 4, 7 .
200
4. Wahrscheinlichkeitsrechnung
Das heißt, jede Umordnung oder genauer jede Permutation dieser sechs Zahlen liefert dieselbe Stichprobe. Es ist bekannt, daß es bei n Objekten n! verschiedene Permutationen gibt, d.h. es gibt bei den sechs gezogenen Lottozahlen 6! verschiedene Permutationen, die als eine Stichprobe angesehen werden. Zur Bestimmung der Anzahl aller m¨oglichen einfachen Zufallsstichproben vom Umfang n aus einer Grundgesamtheit vom Umfang N ziehen wir zun¨achst die Formel zur Herleitung der Anzahl von Stichproben ohne Zur¨ ucklegen aus Abschnitt 4.3.2 ! . Da wir aber nun nicht mehr zwischen den n! verschiedeheran. Diese lautete (NN−n)! nen Permutationen der n Elemente der Stichprobe unterscheiden wollen, m¨ ussen wir diese Anzahl noch durch n! dividieren und k¨onnen damit die Anzahl aller m¨oglichen einfachen Zufallsstichproben bestimmen als N! . (N − n)! · n! F¨ ur Ausdr¨ ucke dieser Form gibt es eine verk¨ urzende Schreibweise, den sogenannten Binomialkoeffizienten. Binomialkoeffizient Der Binomialkoeffizient
N n
ist definiert als N N! . = (N − n)! · n! n
Es gilt: N N N = 1, = N, = 1, 0 1 N
N = 0, falls N < n . n
Der Binomialkoeffizient N oglichkeiten an, aus N Obn gibt also die Anzahl der M¨ jekten n auszuw¨ ahlen. Damit halten wir fest: Modell ohne Zur¨ ucklegen und ohne Ber¨ ucksichtigung der Reihenfolge Bei einer Ziehung ohne Zur¨ ucklegen aus einer Grundgesamtheit vom Umfang N ist die Anzahl der m¨ oglichen Stichproben vom Umfang n, wenn zwischen den Anordnungen der Objekte in der Stichprobe nicht unterschieden wird, gegeben als N . n
4.3 Zufallsstichproben und Kombinatorik
201
An dem Beispiel der Ziehung der Lottozahlen wird abschließend noch einmal die M¨ oglichkeit aufgezeigt, Wahrscheinlichkeiten f¨ ur bestimmte Ereignisse durch einfaches Ausz¨ahlen zu bestimmen. Ziehung der Lottozahlen
Beispiel 4.16
Bei der Ziehung der Lottozahlen ohne Zusatzzahl handelt es sich, wie bereits oben ausgef¨ uhrt, um ein Modell ohne Zur¨ ucklegen und ohne ucksichtigung der Reihenfolge. Damit Ber¨ M¨ o glichkeiten, sechs Lottozahlen aus den gibt es unter Verwendung der obigen Formel 49 6 49 Kugeln zu ziehen. Dies ergibt 49 49! = 13983816 = 6 43! · 6! m¨ ogliche Stichproben. Betrachtet man diese als die Elementarereignisse, so gibt es also 13983816 gleichwahrscheinliche Elementarereignisse. Die Wahrscheinlichkeit f¨ ur 6 Richtige“ kann man nun als ” Anzahl der g¨ unstigen Ergebnisse Anzahl der m¨ oglichen Ergebnisse ermitteln. Da f¨ ur 6 Richtige“ nur ein einziges Elementarereignis g¨ unstig ist, erh¨alt man ” 1 = 0.000000072 , P ( 6 Richtige“) = ” 13983816 also eine extrem geringe Wahrscheinlichkeit. In analoger Weise l¨ aßt sich die Wahrscheinlichkeit f¨ ur genau 5 Richtige“ berechnen. ” Zun¨ achst bestimmen wir die Anzahl der f¨ ur dieses Ereignis g¨ unstigen Ergebnisse. Hat man genau f¨ unf Richtige, so m¨ ussen f¨ unf der sechs Zahlen auf dem Tippschein mit den gezogenen sechs Zahlen u ur gibt es 65 M¨oglichkeiten. Die verbleibende sechste Zahl ¨bereinstimmen. Daf¨ auf dem Tippschein darf nicht mehr mit einer der gezogenen sechs Zahlen u ¨ bereinstimmen, da man sonst 6 Richtige“ h¨ atte, d.h. diese Zahl muß gleich einer der sich noch in der ” M¨oglichkeiten und somit insLostrommel befindlichen 43 Zahlen sein. Daf¨ ur gibt es 43 1 gesamt 65 · 43 unstige Ergebnisse f¨ ur das Ereignis genau 5 Richtige“. Die Anzahl aller 1 g¨ ” m¨ oglichen Ergebnisse haben wir bereits ermittelt. Damit erhalten wir 6 43 · 6 · 43 = 0.0000184 . P ( genau 5 Richtige“) = 5 491 = ” 13983816 6
2
Bei der Betrachtung der verschiedenen M¨ oglichkeiten zur Ziehung von Stichproben haben wir den Fall der Ziehung mit Zur¨ ucklegen und ohne Ber¨ ucksichtigung der Reihenfolge bislang außer acht gelassen. Auf die komplizierte Herleitung der Formel sei an dieser Stelle auch verzichtet. Es l¨ aßt sich zeigen:
202
4. Wahrscheinlichkeitsrechnung
Modell mit Zur¨ ucklegen und ohne Ber¨ ucksichtigung der Reihenfolge Bei einer Ziehung mit Zur¨ ucklegen aus einer Grundgesamtheit vom Umfang N ist die Anzahl der m¨ oglichen Stichproben vom Umfang n, wenn zwischen den Anordnungen der Objekte in der Stichprobe nicht unterschieden wird, gegeben als N +n−1 . n Zusammenfassend erhalten wir also f¨ ur die Anzahl aller m¨oglichen Stichproben vom Umfang n aus einer Grundgesamtheit vom Umfang N unter Verwendung der verschiedenen Ziehungsverfahren: ohne Zur¨ ucklegen mit Ber¨ ucksichtigung der Reihenfolge ohne Ber¨ ucksichtigung der Reihenfolge
4.4
bedingte Wahrscheinlichkeit
N! (N − n)! N n
mit Zur¨ ucklegen Nn
N +n−1 n
Bedingte Wahrscheinlichkeiten
In Abschnitt 3.1.2 haben wir uns ausf¨ uhrlich dem Problem gewidmet, daß wir relative H¨ aufigkeiten nicht nur bezogen auf die gesamte Population ermitteln wollten, sondern auch bezogen auf Teilgesamtheiten. Dazu wurde der Begriff der bedingten relativen H¨ aufigkeit eingef¨ uhrt. In Analogie dazu werden im folgenden bedingte Wahrscheinlichkeiten definiert. Bei solchen bedingten Wahrscheinlichkeiten nutzt man zur Bewertung der Chance f¨ ur das Eintreten eines Ereignisses A Informationen u ur, daß ¨ ber ein Ereignis B, das bereits eingetreten ist. So muß die Chance daf¨ ein 40j¨ ahriger Mann einen Herzinfarkt bekommt, neu bewertet werden, wenn man die zus¨ atzliche Information erh¨ alt, daß dieser unter extremem Bluthochdruck leidet. Auch wird man die Wahrscheinlichkeit f¨ ur das Bestehen einer Klausur h¨oher ansetzen, wenn man weiß, daß der entsprechende Student sich intensiv darauf vorbereitet hat, als wenn man die Information nicht h¨atte. Die Frage ist nun, wie man derartige Informationen nutzen kann bzw. wie man bedingte Wahrscheinlichkeiten berechnet. Dazu betrachten wir das folgende einfache Beispiel.
4.4 Bedingte Wahrscheinlichkeiten
203
W¨ urfeln
Beispiel 4.17
Das Werfen eines fairen W¨ urfels beschreibt ein Laplace-Experiment, d.h. f¨ ur die Elementarereignisse ω mit ω ∈ Ω = {1, . . . , 6} gilt: pj =
1 , 6
j = 1, . . . , 6 .
Die Wahrscheinlichkeiten f¨ ur die Ereignisse A = {j : j ist eine gerade Zahl} = {2, 4, 6} bzw. A = {j : j ist eine ungerade Zahl} = {1, 3, 5} lassen sich durch Ausz¨ ahlen als Anzahl der f¨ ur A (bzw. A) g¨ unstigen Ergebnisse Anzahl aller m¨ oglichen Ergebnisse direkt ermitteln. Wir erhalten: P (A) = 36 = 12 = P (A). Angenommen, man erh¨ alt die zus¨ atzliche Information, die geworfene Zahl sei kleiner gleich 3, also das Ereignis B = {1, 2, 3} sei eingetreten, so ist die Chance f¨ ur das Eintreten von A bzw. A neu zu bewerten. So ist etwa die Wahrscheinlichkeit daf¨ ur, eine gerade Zahl zu w¨ urfeln, wenn 1, 2 oder 3 gew¨ urfelt wurde, gegeben als 1 Anzahl der f¨ ur A und B g¨ unstigen Ergebnisse = . Anzahl der f¨ ur B m¨ oglichen Ergebnisse 3 Ebenso erh¨ alt man als Wahrscheinlichkeit daf¨ ur, daß A eintritt, wenn B gegeben ist: Anzahl der f¨ ur A und B g¨ 2 unstigen Ergebnisse = . Anzahl der f¨ ur B g¨ unstigen Ergebnisse 3 2
Analog zu den bedingten relativen Haufigkeiten wird also die gemeinsame absolute H¨aufigkeit durch die H¨ aufigkeit f¨ ur das bedingende Ereignis dividiert. In Kapitel 3 haben wir gesehen, daß dieser Quotient derselbe bleibt, wenn im Z¨ahler und Nenner die absoluten H¨ aufigkeiten durch die entspechenden relativen H¨aufigkeiten, nat¨ urlich jeweils bezogen auf die gesamte Population, ersetzt werden. Nutzt man nun wieder die Beziehung zwischen relativen H¨ aufigkeiten und Wahrscheinlichkeiten, so erh¨alt man unter Verwendung einer zu bedingten relativen H¨aufigkeiten ¨aquivalenten Schreibweise: P (A ∩ B) . P (A|B) = P (B) Damit berechnet sich die Wahrscheinlichkeit f¨ ur ein Ereignis A gegeben das Ereignis B oder k¨ urzer die Wahrscheinlichkeit f¨ ur A unter (der Bedingung) B als Quotient
bedingendes Ereignis
204
4. Wahrscheinlichkeitsrechnung
aus der Wahrscheinlichkeit f¨ ur die Schnittmenge von A und B, also das gemeinsame Ereignis, und der Wahrscheinlichkeit f¨ ur das bedingende Ereignis. Bedingte Wahrscheinlichkeit Seien A, B ⊂ Ω und P (B) > 0. Dann ist die bedingte Wahrscheinlichkeit von A unter B definiert als P (A ∩ B) . P (A|B) = P (B)
Beispiel 4.18
W¨ urfeln Die im obigen Beispiel hergeleiteten Wahrscheinlichkeiten lassen sich leicht anhand der Definition der bedingten Wahrscheinlichkeit berechnen: P (A|B) =
P ({2}) P (A ∩ B) = = P (B) P ({1, 2, 3})
P (A|B) =
P ({1, 3}) P (A ∩ B) = = P (B) P ({1, 2, 3})
1 6 3 6 2 6 3 6
=
1 , 3
=
2 . 3 2
Wie man bereits an dem Beispiel sieht, addieren sich die bedingten Wahrscheinlichkeiten bei festem B wieder zu eins auf. Rechenregeln f¨ ur bedingte Wahrscheinlichkeiten Seien A, B ⊂ Ω und P (B) > 0. Dann gilt bei fest gehaltenem B: P (·|B) : {A : A ⊂ Ω} A
→ [0, 1] → P (A|B)
ist wieder eine Wahrscheinlichkeit mit P (B|B) = 1. Die Axiome von Kolmogoroff gelten entsprechend f¨ ur bedingte Wahrscheinlichkeiten. Speziell das dritte Axiom von Kolmogoroff lautet mit A1 , A2 , B ⊂ Ω, A1 ∩ A2 = ∅ und P (B) > 0: P (A1 |B) + P (A2 |B) = P (A1 ∪ A2 |B) . Betrachtet man als A2 gerade A1 , so erh¨alt man: P (A1 |B) + P (A1 |B) = 1 .
4.4 Bedingte Wahrscheinlichkeiten
205
Zuf¨ allige Auswahl einer Person
Beispiel 4.19
Bei der M¨ unchner Absolventenstudie, vgl. Beispiel 1.1 (Seite 1), wurde unter anderem nach der Anzahl der Semester und nach dem Geschlecht gefragt. Dabei hatten in der vorliegenden Teilpopulation von 36 Studierenden 22 der weiblichen Studierenden mindestens 12 Semester und vier weniger als 12 Semester studiert. Bei den m¨annlichen Studierenden wurde bei sechs eine Studiendauer von mindestens 12 Semestern und bei vier eine von weniger als 12 Semestern registriert. F¨ ur eine zuf¨ allig ausgew¨ahlte Person l¨aßt sich die entsprechende relative H¨ aufigkeit als Wahrscheinlichkeit interpretieren. Damit gilt f¨ ur A = {ω : Person ω hat mindestens 12 Semester studiert} B = {ω : Person ω ist weiblich} : 22 + 6 P (A) = = 0.78 , 36 26 = 0.72 und P (B) = 36 22 P (A ∩ B) = = 0.61 , 36 da |Ω| = 36, |A| = 22 + 6, |B| = 26 und |A ∩ B| = 22. Wie groß ist nun die Wahrscheinlichkeit, daß eine zuf¨allig ausgew¨ahlte Person mindestens 12 Semester studiert hat unter der Bedingung, daß diese weiblich ist? Gesucht ist damit P (A|B). Diese berechnet sich als P (A|B) =
0.61 P (A ∩ B) = = 0.85 , P (B) 0.72
d.h. die Wahrscheinlichkeit daf¨ ur, daß ein zuf¨ allig ausgew¨ahlter Student eine Studiendauer von mindestens 12 Semestern aufweist, erh¨oht sich von 0.78 auf 0.85, wenn man die zus¨ atzliche Information besitzt, daß die ausgew¨ahlte Person weiblich ist. Diese Erh¨ohung der Wahrscheinlichkeit ist darin begr¨ undet, daß bei den Frauen ein gr¨oßerer Anteil mindestens 12 Semester studiert hat als bei ihren m¨annlichen Kommilitonen. 2
Wie schon bei den bedingten relativen H¨ aufigkeiten kann man aus der Wahrscheinlichkeit f¨ ur das Eintreten des bedingten Ereignisses und derjenigen f¨ ur das Eintreten des bedingenden Ereignisses auch umgekehrt die Wahrscheinlichkeit f¨ ur das gemeinsame Eintreten von A und B berechnen.
Produktsatz Seien A, B ⊂ Ω und P (B) > 0, dann gilt: P (A ∩ B) = P (A|B) · P (B) .
206
4. Wahrscheinlichkeitsrechnung
Da P (B|A) = P (A ∩ B)/P (A), falls P (A) > 0, gilt obiger Produktsatz ebenfalls in der folgenden Form: P (A ∩ B) = P (B|A) · P (A) . Den Produktsatz werden wir an sp¨aterer Stelle, insbesondere zur Herleitung der Formel f¨ ur die totale Wahrscheinlichkeit (Abschnitt 4.6) und des Satzes von Bayes (Abschnitt 4.7), noch ben¨ otigen.
4.5
Stochastische Unabh¨angigkeit
Unabh¨ angigkeit von zwei Ereignissen
In dem vorangegangenen Abschnitt wurde der Begriff der bedingten Wahrscheinlichkeit eingef¨ uhrt. Dabei sind wir davon ausgegangen, daß sich die Wahrscheinlichkeit f¨ ur das Eintreten eines Ereignisses A ver¨andern kann, wenn man die Information u ¨ ber ein bereits eingetretenes Ereignis B nutzt. Zeigt sich jedoch, daß diese zus¨atzliche Information nicht zu einer Neubewertung der Chance f¨ ur das Eintreten von A f¨ uhrt, so nennt man diese Ereignisse stochastisch unabh¨angig. Dabei spricht man von stochastischer Unabh¨ angigkeit, weil diese Eigenschaft von Ereignissen u ¨ber ihre Wahrscheinlichkeiten definiert wird. Sind zwei Ereignisse also unabh¨angig in diesem Sinn, so ist es f¨ ur die Wahrscheinlichkeit von A ohne Bedeutung, ob B eintritt, d.h. P (A|B) = P (A) . Nach der Definition der bedingten Wahrscheinlichkeit erh¨alt man somit: P (A) = P (A|B) =
P (A ∩ B) , P (B)
woraus folgt P (A ∩ B) = P (A) · P (B) , wobei P (B) > 0 vorausgesetzt wird. Damit sind zwei Ereignisse A und B also unabh¨angig, wenn sich die Wahrscheinlichkeit f¨ ur ihre Schnittmenge als Produkt der Einzelwahrscheinlichkeiten berechnen l¨aßt. Analog zu der Bedingung P (A|B) = P (A) kann man die Unabh¨angigkeit von A und B nat¨ urlich auch u ¨ber die Bedingung P (B|A) = P (B) formulieren. An beiden Darstellungen erkennt man deutlich, daß die zus¨atzliche Information u ¨ ber B bzw. A die Wahrscheinlichkeit f¨ ur das Eintreten von A bzw. B nicht ver¨andert, falls A und B unabh¨ angig sind. Anders ausgedr¨ uckt kann man f¨ ur den Fall, daß A und B unabh¨angig sind, zeigen, daß es f¨ ur die Wahrscheinlichkeit von A ohne Belang ist, ob B oder B eintritt, d.h. P (A|B) = P (A|B) ,
4.5 Unabh¨angigkeit von zwei Ereignissen
207
denn mit P (A) = P (A ∩ B) + P (A ∩ B) und P (B) = 1 − P (B) ergibt sich P (A ∩ B) P (A) − P (A ∩ B) P (A) − P (A) · P (B) = = 1 − P (B) 1 − P (B) P (B) P (A)(1 − P (B)) = P (A) = P (A|B) . = 1 − P (B)
P (A|B) =
Bei diesen Umrechnungen sind die a ¨quivalenten Definitionen der Unabh¨angigkeit zweier Ereignisse A und B eingegangen. Ist P (A) = 0 oder P (B) = 0, so nennt man A und B stets unabh¨ angig, d.h. jedes Ereignis ist von dem unm¨oglichen Ereignis per definitionem unabh¨ angig. Unabh¨ angigkeit Seien A, B ⊂ Ω zwei Ereignisse. A und B heißen (stochastisch) unabh¨ angig, wenn gilt P (A ∩ B) = P (A) · P (B) bzw. P (A|B) = P (A)
mit P (B) > 0 bzw.
P (B|A) = P (B) mit P (A) > 0 .
Zweimaliges W¨ urfeln Man werfe zweimal hintereinander einen W¨ urfel und interessiere sich jeweils daf¨ ur, daß eine Eins gew¨ urfelt wird. Bezeichnen also A = {Beim 1. W¨ urfelwurf eine Eins} und B = {Beim 2. W¨ urfelwurf eine Eins} die interessierenden Ereignisse, so stellt sich die Frage, ob diese Ereignisse unabh¨ angig sind. Da bei jedem W¨ urfelwurf der zugeh¨ orige Ergebnisraum gegeben ist durch Ω = {1, . . . , 6} und jedes Elementarereignis gleichwahrscheinlich ist, folgt: pj = 16 , j = 1, . . . , 6, und somit P (A) = P (B) = 16 . Der Ergebnisraum beim urfeln besteht aus den 36 m¨oglichen Paaren der zweimaligen W¨ Zahlen 1, . . . , 6, d.h. Ω = (1, 1), . . . , (1, 6), (2, 1), . . . , (2, 6), . . . , (6, 1), . . . , (6, 6) , d.h. |Ω| = 1 , ω ∈ Ω. Damit ergibt sich 36 und pω = 36 1 1 1 = · = P (A) · P (B), 36 6 6 woraus folgt, daß die Ereignisse, beim 1. und beim 2. W¨ urfelwurf eine Eins zu w¨ urfeln, voneinander unabh¨ angig sind. Diese Eigenschaft gilt allgemein beim zweifachen W¨ urfeln: Ereignisse, die nur den 1. Wurf betreffen, sind unabh¨ angig von Ereignissen, die nur den 2. Wurf betreffen. 2 P (A ∩ B) = P ({(1, 1)}) =
Beispiel 4.20
208
Beispiel 4.21
4. Wahrscheinlichkeitsrechnung
Urnenmodell In einer Urne befinden sich die Zahlen 1, 2, 3, 4. Aus dieser Urne ziehen wir zweimal. Legen wir dabei die gezogenen Zahlen jeweils wieder zur¨ uck, erhalten wir als Er
gebnisraum Ω = (1, 1), (1, 2), (1, 3), (1, 4), . . . , (4, 1), (4, 2), (4, 3), (4, 4) mit |Ω| = 16. Beim Ziehen ohne Zur¨ ucklegen fallen gerade alle Paare (i, i) mit i = 1, . . . , 4 weg, d.h. Ω = (1, 2), (1, 3), (1, 4), . . . , (4, 1), (4, 2), (4, 3) , also |Ω| = 12. Seien A = {Eins wird beim 1. Mal gezogen} und B = {Zwei wird beim 2. Mal gezogen}, so gilt beim Ziehen mit Zur¨ ucklegen P (A) =
4 1 = = P (B), 16 4
w¨ ahrend sich beim Ziehen ohne Zur¨ ucklegen P (A) =
3 1 = = P (B) 12 4
ergibt. Die Wahrscheinlichkeit f¨ ur das gemeinsame Eintreten von A und B berechnet sich beim Ziehen mit Zur¨ ucklegen als P (A ∩ B) = P ({(1, 2)}) =
1 16
und ist somit gleich dem Produkt der Einzelwahrscheinlichkeiten, d.h. P (A ∩ B) =
1 1 1 = · = P (A) · P (B) , 16 4 4
und damit sind A und B in diesem Fall unabh¨angig. Dies gilt aber nicht f¨ ur das Ziehen ohne Zur¨ ucklegen. Hier ist P (A ∩ B) = P ({(1, 2)}) =
1 1 1 = · = P (A) · P (B) , 12 4 4
woraus folgt, daß A und B abh¨ angig sind.
2
Das Resultat aus Beispiel 4.21 kann man allgemein zeigen, d.h. es gilt: Ziehen mit/ohne Zur¨ ucklegen Beim Ziehen mit Zur¨ ucklegen sind die Ergebnisse der einzelnen Ziehungen unabh¨ angig. Beim Ziehen ohne Zur¨ ucklegen sind die Ergebnisse der einzelnen Ziehungen abh¨ angig. Der Begriff der stochastischen Unabh¨angigkeit von Ereignissen geh¨ort zu den zentralen Begriffen der Wahrscheinlichkeitsrechnung. Diese Eigenschaft ist von großer
4.6 Totale Wahrscheinlichkeit
209
Bedeutung f¨ ur die induktive Statistik, wie wir noch im Zusammenhang mit der Herleitung von Sch¨ atzern (vgl. Abschnitt 9.3) und von statistischen Tests (vgl. etwa Abschnitt 11.1) sehen werden. H¨ aufig wird dabei die Unabh¨angigkeit von Ereignissen bei komplexeren Zufallsvorg¨ angen als Modellannahme formuliert. Nat¨ urlich ist im Einzelfall zu pr¨ ufen, ob diese Annahme in der jeweiligen Situation plausibel ist, wie etwa in dem folgenden Beispiel. Zehnmaliger M¨ unzwurf
Beispiel 4.22
Interessiert man sich f¨ ur die Wahrscheinlichkeit, zehnmal Wappen zu werfen, so l¨aßt sich diese leicht ausrechnen, wenn die folgenden Modellannahmen getroffen werden k¨onnen: Zum einen nehmen wir an, daß die M¨ unze fair ist, also bei jedem Wurf die Wahrscheinlichkeit f¨ ur Wappen 0.5 betr¨ agt. Zum anderen erscheint es plausibel anzunehmen, daß die W¨ urfe sich gegenseitig nicht beeinflussen. Dies entspricht der stochastischen Unabh¨angigkeit der zugeh¨ origen Ereignisse. Diese Annahme erleichtert die Berechnung der gesuchten Wahrscheinlichkeit deutlich, denn diese berechnet sich jetzt einfach als Produkt der Einzelwahrscheinlichkeiten, d.h. P ({zehnmal Wappen}) = P ({1. Wurf Wappen})·. . .·P ({10. Wurf Wappen}) = 0.510 ≈ 0.001 . 2
4.6
Totale Wahrscheinlichkeit
In gewissen F¨allen ist es m¨ oglich, die Information u ¨ ber das bedingte Eintreten eines Ereignisses zu nutzen, um die Wahrscheinlichkeit f¨ ur das Eintreten dieses Ereignisses insgesamt zu ermitteln. Wir gehen dazu von einer disjunkten Zerlegung des Ergebnisraumes Ω aus. Dabei spricht man von einer disjunkten Zerlegung, wenn sich Ω schreiben l¨ aßt als Vereinigung von Mengen A1 , . . . , Ak mit Ai ⊂ Ω, d.h. Ω = A1 ∪ A2 ∪ . . . ∪ Ak , wobei aber je zwei von diesen sich gegenseitig ausschlieur alle ßende Ereignisse sind, also paarweise disjunkt sein m¨ ussen, d.h. Ai ∩ Aj = ∅ f¨ i, j = 1, . . . , k, i = j. Enth¨ alt der Ergebnisraum z.B. alle Frauen und M¨anner einer bestimmten Population, so besteht eine m¨ ogliche disjunkte Zerlegung in die Menge aller Frauen und die Menge aller M¨ anner. Aber auch eine Kategorisierung nach dem Alter in etwa 10-Jahres-Intervalle w¨ urde zu einer disjunkten Zerlegung f¨ uhren. Die Abbildung 4.2 m¨ oge das veranschaulichen. Man betrachte nun ein weiteres Ereignis B aus Ω, f¨ ur das gilt: B = (B ∩ A1 ) ∪ (B ∩ A2 ) ∪ . . . ∪ (B ∩ Ak ) .
disjunkte Zerlegung
210
4. Wahrscheinlichkeitsrechnung
A1
A2 A3
...
Ak-1
Ak
:
Abbildung 4.2: Disjunkte Zerlegung des Ergebnisraums
A1
A2 A3
...
Ak-1
Ak
:
Abbildung 4.3: Darstellung einer Menge B aus Ω u ¨ ber deren disjunkte Zerlegung
Graphisch l¨ aßt sich dies wie in der Abbildung 4.3 veranschaulichen. Wie aus Abbildung 4.3 zu erkennen ist, ergibt die Vereinigung der einzelnen schraffierten Fl¨achen, die gerade den Schnittereignissen B ∩ Ai , i = 1, . . . , k, entsprechen, das Ereignis B. Bei dieser Darstellung greifen wir erneut auf die Interpretation von Ereignissen als Mengen zur¨ uck. Da die A1 , . . . , Ak eine disjunkte Zerlegung von Ω bilden, sind auch die Schnittmengen B ∩ Ai , i = 1, . . . , k, paarweise disjunkt. Damit k¨onnen wir die Wahrscheinlichkeit f¨ ur das Eintreten von B anhand der Rechenregeln f¨ ur Wahrscheinlichkeiten berechnen als: P (B) = P (B ∩ A1 ) + P (B ∩ A2 ) + . . . + P (B ∩ Ak ) . H¨aufig werden wir aber keine Information u ¨ber das gemeinsame Eintreten von B und den Ereignissen Ai , i = 1, . . . , k, haben, sondern u ¨ber das bedingte Eintreten ber das Eintreten der Ereignisse Ai selbst. Das heißt, wir von B unter Ai sowie u ¨ kennen sowohl P (B|Ai ) als auch P (Ai ), i = 1, . . . , k. Diese Kenntnisse k¨onnen wir unter Verwendung des Produktsatzes ausnutzen, um P (B) zu berechnen, denn nach dem Produktsatz gilt: P (B ∩ Ai ) = P (B|Ai ) · P (Ai ). Damit erhalten wir: P (B) = P (B|A1 ) · P (A1 ) + . . . + P (B|Ak ) · P (Ak ) . Satz von der totalen Wahrscheinlichkeit
Diese Formel ist als Satz von der totalen Wahrscheinlichkeit bekannt und wird im Anschluß an einem Beispiel veranschaulicht. Satz von der totalen Wahrscheinlichkeit ur B ⊂ Ω: Sei A1 , . . . , Ak eine disjunkte Zerlegung von Ω. Dann gilt f¨ P (B) =
k i=1
P (B|Ai ) · P (Ai ) .
4.7 Der Satz von Bayes
211
Siegchancen im Halbfinale
Beispiel 4.23
Bei einem Fußballturnier ist die Mannschaft TUS Rot-Blau bis ins Halbfinale gelangt. Der Trainer sch¨ atzt die Siegchancen seiner Mannschaft folgendermaßen ein: Von den anderen drei Mannschaften hat sie gegen WSV eine Siegchance von 0.7, gegen SVE eine von 0.65 und gegen ihren Angstgegner SVG lediglich eine von 0.2. Mit welcher Wahrscheinlichkeit erreicht TUS Rot-Blau das Finale? Der Gegner wird zuf¨allig ausgelost. Bezeichnen wir die Ereignisse mit B = {TUS Rot-Blau gewinnt} , A1 = {Gegner ist WSV} , A2 = {Gegner ist SVE} , A3 = {Gegner ist SVG} . Da der Gegner zuf¨ allig ausgelost wird, ist die Wahrscheinlichkeit daf¨ ur, daß A1 , A2 oder A3 eintritt, jeweils 1/3. Außerdem wissen wir aus obigen Angaben: P (B|A1 ) = 0.7 , d.h. die Wahrscheinlichkeit daf¨ ur, daß TUS Rot-Blau gewinnt, wenn der Gegner WSV ist, ist gerade 0.7. Entsprechend lassen sich die anderen Wahrscheinlichkeiten schreiben als P (B|A2 ) = 0.65 , P (B|A3 ) = 0.2 . Die Wahrscheinlichkeit, daß TUS Rot-Blau das Finale erreicht, entspricht gerade P (B). Diese l¨ aßt sich nach dem Satz u ¨ ber die totale Wahrscheinlichkeit berechnen als P (B) =
3
P (B|Ai ) · P (Ai )
i=1
1 1 1 + 0.65 · + 0.2 · 3 3 3 1 = 1.55 · = 0.52 . 3 = 0.7 ·
Damit stehen die Chancen f¨ ur einen Sieg nur geringf¨ ugig besser als f¨ ur eine Niederlage. 2
4.7
Der Satz von Bayes
Bevor wir den Satz von Bayes in seiner allgemeinen Form herleiten, motivieren wir seine Herleitung anhand des folgenden Beispiels.
212
Beispiel 4.24
4. Wahrscheinlichkeitsrechnung
Medizinische Diagnostik Zur Erkennung von Krankheiten stehen in der Diagnostik medizinische Tests zur Verf¨ ugung, die so angelegt sein sollen, daß sie eine Erkrankung erkennen, wenn sie tats¨achlich vorliegt, und nicht reagieren, wenn der entsprechende Patient nicht erkrankt ist. Diese Bedingungen k¨ onnen medizinische Tests nicht hundertprozentig erf¨ ullen. Sie werden aber so entwickelt, daß sie eine hohe Sensitivit¨ at und Spezifit¨at aufweisen. Dabei ist die Sensitivit¨at eines medizinischen Tests gerade die Wahrscheinlichkeit daf¨ ur, daß ein Kranker als krank eingestuft wird, w¨ ahrend die Spezifit¨ at der Wahrscheinlichkeit entspricht, einen Nichtkranken als nicht krank zu erkennen. Nehmen wir nun an, es geht um die Erkennung einer sehr seltenen Krankheit. Mit der Bezeichnung A = {Patient ist krank} B = {Testergebnis ist positiv} lassen sich aus der Erprobungsphase des Tests folgende Wahrscheinlichkeiten als bekannt annehmen: P (B|A) = P ({Testergebnis ist positiv bei Kranken}) = 0.98 , P (B|A) = P ({Testergebnis ist positiv bei Nichtkranken}) = 0.03 , P (A) = 0.001. Die letzte Wahrscheinlichkeit macht noch einmal deutlich, daß es sich um eine seltene Krankheit handelt. F¨ ur einen Patienten ist es nat¨ urlich von Interesse zu erfahren, wie sicher er davon ausgehen kann, tats¨ achlich krank zu sein, wenn der Test ein positives Ergebnis anzeigt. Diese Wahrscheinlichkeit ist gerade P (A|B). Wie sich die gesuchte Wahrscheinlichkeit aus den angegebenen Wahrscheinlichkeiten gewinnen l¨aßt, beantwortet der Satz von Bayes, der im folgenden allgemein hergeleitet wird. 2
Zur L¨osung des im Beispiel beschriebenen Problems gehen wir erneut von einer disjunkten Zerlegung des Ergebnisraums aus, d.h. Ω = A1 ∪ A2 ∪ . . .∪ Ak mit A1 , . . . , Ak paarweise disjunkt. Im obigen Beispiel entspricht das Ereignis {Patient ist krank} A1 und das Ereignis {Patient ist nicht krank} A2 . Offensichtlich ist dadurch eine disjunkte Zerlegung der Ergebnisraums gegeben. Nehmen wir analog z.B. an, daß die Wahrscheinlichkeiten f¨ ur die Ereignisse A1 , . . . , Ak , d.h. P (A1 ), . . . , P (Ak ), sowie die bedingten Wahrscheinlichkeiten bekannt seien. Nach der Definition von bedingten Wahrscheinlichkeiten gilt P (A1 |B) =
P (A1 ∩ B) , P (B)
d.h. ben¨ otigt werden P (A1 ∩ B) und P (B). Die erste ben¨otigte Wahrscheinlichkeit l¨aßt sich leicht u ¨ber den Produktsatz berechnen als P (A1 ∩ B) = P (B|A1 ) · P (A1 ) ,
4.7 Der Satz von Bayes
213
wobei die auftretenden Wahrscheinlichkeiten bekannt sind. Zur Bestimmung von P (B) benutzen wir den Satz von der totalen Wahrscheinlichkeit und erhalten P (B) =
k
P (B|Ai ) · P (Ai ) .
i=1
Setzen wir diese beiden Formeln in den Z¨ahler und Nenner von P (A1 |B) ein, so ergibt sich der Satz von Bayes allgemein formuliert f¨ ur P (Aj |B) als:
Satz von Bayes
Satz von Bayes ur mindestens ein i, i = Sei A1 , . . . , Ak eine disjunkte Zerlegung von Ω, wobei f¨ ullt ist. Dann gilt: 1, . . . , k, P (Ai ) > 0 und P (B|Ai ) > 0 erf¨ P (Aj |B) =
P (B|Aj ) · P (Aj ) P (B|Aj ) · P (Aj ) = , k P (B) P (B|Ai ) · P (Ai )
j = 1, . . . , k .
i=1
Im Zusammenhang mit dem Satz von Bayes werden die Wahrscheinlichkeiten P (Ai ) auch als a-priori Wahrscheinlichkeiten und P (Ai |B) als a-posteriori Wahrscheinlichkeiten bezeichnet, da P (Ai ) das Eintreten von Ai vor Kenntnis des Ereignisses B und P (Ai |B) das Eintreten dieses Ereignisses nach Kenntnis von B bewertet. Medizinische Diagnostik
a-priori a-posteriori
Beispiel 4.25
Mit dem Satz von Bayes l¨ aßt sich die gesuchte Wahrscheinlichkeit des vorhergehenden Beispiels direkt berechnen als P (B|A) · P (A) P (B|A) · P (A) + P (B|A) · P (A) 0.98 · 0.001 = 0.98 · 0.001 + 0.03 · 0.999 0.00098 = = 0.032 , 0.00098 + 0.02997
P (A|B) =
wobei hier A1 = A und A2 = A gilt. Dieser Wert besagt nun, daß nur mit einer Wahrscheinlichkeit von 0.032 davon ausgegangen werden kann, daß eine Person wirklich krank ist, wenn der Test dies anzeigt. Anders ausgedr¨ uckt l¨ aßt sich diese Wahrscheinlickeit so interpretieren, daß nur bei 3.2 % der Patienten mit einem positiven Testergebnis davon ausgegangen werden kann, daß die Krankheit wirklich vorliegt. Bei den u ¨brigen 96.8 % handelt es sich demnach um Fehldiagnosen. Zur Erl¨ auterung des Satzes von Bayes betrachten wir die folgenden Wahrscheinlichkeiten, die sich mit Hilfe des Produktsatzes berechnen lassen:
214
4. Wahrscheinlichkeitsrechnung
pos (B)
Krankheit ja (A) nein (A) 0.00098 0.02997
0.03095
0.00002 0.001
0.96905 1
Test neg (B)
0.96903 0.999
Diese lassen sich nun wie folgt interpretieren: Wegen P (A) = 0.001 ist in einer Population von z.B. 100 000 Personen bei 100 Personen mit der Krankheit zu rechnen, bei den verbleibenden 99 900 dagegen nicht. Die Wahrscheinlichkeit P (B|A) = 0.98 bedeutet nun, daß von den 100 Kranken 98 mit dem Test richtig diagnostiziert werden. Dagegen beinhaltet P (B|A) = 0.03, daß von den 99 900 nicht kranken Personen f¨alschlicherweise 2997 als krank eingestuft werden. Insgesamt zeigt der Test also bei 98+2997 = 3095 Personen ein positives Ergebnis an, 98 ·100 % = von denen sind jedoch nur 98 tats¨ achlich krank. Das entspricht einem Anteil von 3095 ¨ 3.2 %. Wir haben durch diese Uberlegung demnach dasselbe Resultat erhalten, wie es der Satz von Bayes direkt liefert. 2
Beispiel 4.26
Geldanlage In diesem Beispiel interessieren die Wahrscheinlichkeiten f¨ ur bestimmte Tendenzen in der Kursentwicklung, aufgrund dessen man u ber die Anlage seines Kapitals entscheidet. Es seien ¨ drei Ereignisse m¨ oglich: A1 = {Der Zins f¨allt um 0.5 %}, A2 = {Der Zins bleibt unver¨andert} und A3 = {Der Zins steigt um 0.5 %}. Nach der eigenen subjektiven Einsch¨atzung nehmen wir folgende a-priori Wahrscheinlichkeiten f¨ ur das Eintreten obiger Ereignisse an: P (A1 ) = 0.1 ,
P (A2 ) = 0.6 ,
P (A3 ) = 0.3 .
Als Ereignis B ziehen wir die Prognose eines Anlageberaters {Der Zins steigt um 0.5 %} hinzu. Aufgrund von Erfahrungswerten sei zudem bekannt: P (B|A1 ) = 0.15 ,
P (B|A2 ) = 0.30 ,
P (B|A3 ) = 0.75 .
Falls der Kurs also tats¨ achlich steigt, sagt der Anlageberater dies mit einer Wahrscheinlichkeit von 0.75 richtig voraus. Falls der Zins jedoch f¨allt, so h¨atte der Anlageberater mit einer Wahrscheinlichkeit von 0.15 eine Steigerung vorausgesagt. Im Fall gleichbleibender Zinsentwicklung h¨ atte der Anlageberater die Prognose einer Zinssteigerung mit Wahrscheinlichkeit 0.3 getroffen. Gesucht sind nun die Wahrscheinlichkeiten f¨ ur das Eintreten obiger Zinsver¨anderungen unter Ber¨ ucksichtigung der positiven Prognose des Anlageberaters, also P (Aj |B), j = 1, 2, 3. Diese werden, wie bereits erw¨ ahnt, auch als a-posteriori Wahrscheinlichkeiten bezeichnet und lassen sich wiederum u ¨ ber den Satz von Bayes ermitteln. Dazu ben¨otigen wir die Wahrscheinlichkeit f¨ ur das Eintreten einer positiven Prognose des Anlageberaters, die sich u ¨ ber die Formel von der totalen Wahrscheinlichkeit berechnet als: P (B) = P (B|A1 ) · P (A1 ) + P (B|A2 ) · P (A2 ) + P (B|A3 ) · P (A3 ) = 0.15 · 0.1 + 0.30 · 0.6 + 0.75 · 0.3 = 0.42.
4.7 Der Satz von Bayes
215
Die gesuchten Wahrscheinlichkeiten lassen sich damit bestimmen als: P (B|A1 ) · P (A1 ) 0.15 · 0.1 = = 0.0357 , P (B) 0.42 P (B|A2 ) · P (A2 ) 0.30 · 0.6 P (A2 |B) = = = 0.4286 , P (B) 0.42 P (B|A3 ) · P (A3 ) 0.75 · 0.3 P (A3 |B) = = = 0.5357 . P (B) 0.42 P (A1 |B) =
Da sich ein potentieller Anleger insbesondere f¨ ur die Wahrscheinlichkeit einer steigenden Zinsentwicklung interessiert, ist die verbesserte Wahrscheinlichkeit f¨ ur das Eintreten von A3 , also f¨ ur einen Zinsanstieg, nach der Beratung durch einen Anlageberater eine wichtige Information. 2
Suche nach dem M¨ order Am Tatort wird neben der Leiche eine Blutspur des M¨orders gefunden. Der Laborbefund ergibt Blutgruppe B. Bereits kurze Zeit nach dem Auffinden der Leiche wird ein Tatverd¨ achtiger festgenommen. Handelt es sich tats¨achlich um den T¨ater? Betrachten wir folgende Ereignisse: achtige ist der M¨order} , A1 = {Der Tatverd¨ A2 = A1 = {Der Tatverd¨ achtige ist nicht der M¨order} , B = {Die Blutgruppe der Blutspur stimmt mit der des Tatverd¨achtigen u ¨ berein} . Der zust¨ andige Kommissar denkt nun, entweder der Tatverd¨achtige hat die Tat begangen oder nicht, und nimmt daher an, daß P (A1 ) = P (A1 ) = 0.5. Damit ist P (B|A1 ) = 1, da die Blutgruppe der entdeckten Blutspur sicher mit der des Tatverd¨achtigen u ¨ bereinstimmt, ahlt man sinnvollerweise den Anteil der Personen wenn dieser der T¨ ater ist. Als P (B|A1 ) w¨ in der Bev¨ olkerung mit Blutgruppe B, d.h. P (B|A1 ) = 0.25. Die Anwendung des Satzes von Bayes liefert die Wahrscheinlichkeit daf¨ ur, daß der Tatverd¨achtige der M¨order ist, wenn er Blutgruppe B hat, und zwar als P (B|A1 ) · P (A1 ) P (B|A1 ) · P (A1 ) + P (B|A1 ) · P (A1 ) 1 · 0.5 = 0.8 . = 1 · 0.5 + 0.25 · 0.5 Die Wahrscheinlichkeit ist also sehr hoch, und es sieht nicht sehr gut f¨ ur den Verd¨achtigen aus. Allerdings ist die Annahme der a-priori Wahrscheinlichkeit von 0.5 f¨ ur seine Schuld unsinnig. Nimmt man im Gegensatz dazu an, daß jeder B¨ urger eines Landes mit einer Bev¨ olkerungsst¨ arke von zum Beispiel 60 Millionen Einwohnern der M¨order sein k¨onnte, 1 dann ist P (A1 ) = 6·10 7 . Mit Hilfe des Satzes von Bayes errechnet man dann: P (A1 |B) =
P (A1 |B) =
3 1/6 · 10−7 · 1 ≈ · 10−7 . −7 −7 1/6 · 10 · 1 + (1 − 1/6 · 10 ) · 0.25 2
Beispiel 4.27
216
4. Wahrscheinlichkeitsrechnung
Diese Wahrscheinlichkeit ist nun verschwindend gering. An diesem Beispiel wird deutlich, wie stark die a-posteriori Wahrscheinlichkeiten von den Annahmen u ¨ber die a-priori Wahrscheinlichkeiten beeinflußt werden k¨onnen. 2
4.8
Unendliche Grundgesamtheiten
Bislang sind wir implizit davon ausgegangen, daß unser Experiment nur zu endlich vielen Ergebnissen f¨ uhren kann. F¨ ur diesen Fall waren auch die Axiome von Kolmogoroff definiert. Es kann aber durchaus Situationen geben, in denen es notwendig wird, die Betrachtungen auf den Fall unendlich vieler Ergebnisse auszudehnen, wie das folgende Beispiel illustriert.
Beispiel 4.28
W¨ urfeln ¨ Um bei dem W¨ urfelspiel Mensch-Argere-Dich-Nicht ins Spiel zu kommen, muß eine Sechs gew¨ urfelt werden. Ein Spieler w¨ urfelt nun so lange, bis die Sechs gew¨ urfelt ist. Das Ergebnis des Experiments sei dabei die Anzahl an W¨ urfen, die der Spieler bis zum W¨ urfeln einer Sechs ben¨ otigt. Damit ist der Ergebnisraum als die gesamten nat¨ urlichen Zahlen gegeben, d.h. Ω = urfeln muß (vgl. auch Kapitel 5, {1, 2, 3, . . .} = , da der Spieler rein theoretisch beliebig oft w¨ Geometrische Verteilung). F¨ ur die Wahrscheinlichkeiten ergibt sich dabei P ({ω = 1}) = 1/6, da das W¨ urfeln einer Sechs im 1. Wurf dem Ausgang eines Laplace-Experiments entspricht. Ist die Anzahl der W¨ urfe gleich 2, wurde im 1. Wurf keine Sechs gew¨ urfelt, aber im 2. Wurf, da sonst weitergew¨ urfelt worden w¨ are. F¨ ur die entsprechende Wahrscheinlichkeit ergibt sich wegen der Unabh¨ angigkeit der W¨ urfe: P ({ω = 2}) = P ({1. Wurf keine Sechs}) · P ({2. Wurf eine Sechs|1. Wurf keine Sechs}) = P ({1. Wurf keine Sechs}) · P ({2. Wurf eine Sechs}) 5 1 = · . 6 6 Allgemein k¨ onnen solche Wahrscheinlichkeiten mit den folgenden Bezeichnungen Ai = {i-ter Wurf keine Sechs} Bi = {i-ter Wurf eine Sechs} Ci = {Spiel endet nach i W¨ urfen}
4.8 Unendliche Grundgesamtheiten
217
bestimmt werden als P (Ci ) = P (A1 ∩ A2 ∩ A3 ∩ . . . ∩ Ai−1 ∩ Bi ) = P (A1 ) · P (A2 ) · P (A3 ) · . . . · P (Ai−1 ) · P (Bi ) 5 1 5 5 5 = · · ·...· · 6 6 6 6 6 i−1 5 1 = · . 6 6 2
Da in dem obigen Beispiel i beliebig groß werden kann, m¨ ussen die Axiome von Kolmogoroff, d.h. speziell das dritte Axiom, auf abz¨ahlbar unendliche Vereinigungen verallgemeinert werden. Axiome von Kolmogoroff f¨ ur unendliche Ergebnisr¨ aume (K1) P (A) ≥ 0 . (K2) P (Ω) = 1 . % Seien A1 , . . . , Ak , . . . ⊂ Ω paarweise disjunkt, dann gilt: (K3) P (A1 ∪ . . . ∪ Ak ∪ . . .) =
∞
P (Ai ) .
i=1
% schließt das Axiom (K3) ein. Die bislang hergeDas derart erweiterte Axiom (K3) leiteten Rechenregeln und Formeln gelten im u ¨ brigen auch bei unendlichen Grundgesamtheiten bis auf den zentralen Unterschied, daß sich die Wahrscheinlichkeit f¨ ur eine Menge mit u ahlbar vielen Elementen nicht mehr als Summe von Einzel¨ berabz¨ wahrscheinlichkeiten berechnen l¨ aßt, wie das folgende Beispiel veranschaulicht. Das Idealexperiment Wenn wir bestimmte Variablen messen, so k¨ onnten wir das theoretisch beliebig genau machen; praktisch sind wir aber gezwungen, uns auf endlich viele Nachkommastellen zu beschr¨ anken. Im Idealexperiment h¨ atten alle Zahlen unendlich viele Stellen nach dem Komma. Damit sind in vielen F¨ allen die tats¨ achlich durchgef¨ uhrten Experimente N¨aherungen des Idealexperiments. Nehmen wir nun an, wir wollten aus dem Intervall [0, 1] zuf¨allig einen Punkt ausw¨ ahlen. Wie groß ist die Wahrscheinlichkeit, daß dieser aus dem Intervall [0, 0.5] stammt? In der 1. N¨ aherung messen“ wir auf eine Nachkommastelle genau und erhalten als ” Ergebnisraum Ω = {0.0, 0.1, . . . , 0.9, 1.0}. Damit ist |Ω| = 11, woraus pω = 1/11 folgt. Die
Beispiel 4.29
218
4. Wahrscheinlichkeitsrechnung
Wahrscheinlichkeit daf¨ ur, daß ω aus dem Intervall [0, 0.5] stammt, l¨aßt sich berechnen als Summe der Einzelwahrscheinlichkeiten der rein diskreten Punkte in diesem Intervall, d.h. P (ω ∈ [0, 0.5]) = P ({0.0, 0.1, 0.2, 0.3, 0.4, 0.5}) 1 1 1 1 6 = + = + . = 11 2 22 2 2 · (101 + 1) Diese Darstellung der Wahrscheinlichkeit erscheint zun¨achst ungew¨ohnlich, wird uns aber ¨ bei den weiteren Uberlegungen dienlich sein. In der 2. N¨ aherung messen“ wir auf zwei Nachkommastellen genau. Damit ergibt sich ” Ω = {0.00, 0.01, . . . , 0.99, 1.00} mit |Ω| = 101 und pω = 1/101. Entsprechend berechnet man P (ω ∈ [0, 0.5]) = P ({0.00, 0.01, . . . , 0.49, 0.5}) 1 1 1 1 51 = + = + . = 101 2 202 2 2 · (102 + 1) Wir k¨onnten dies nun beliebig oft weiterf¨ uhren, aber die schon offensichtliche Struktur bei der Ermittlung von Ω und von P (ω ∈ [0, 0.5]) liefert direkt bei der n-ten N¨aherung: 1 und 10n + 1 1 1 P (ω ∈ [0, 0.5]) = + , 2 2 · (10n + 1)
|Ω| = 10n + 1 mit pω =
d.h. je mehr Nachkommastellen wir messen“, also je gr¨oßer n, desto n¨aher liegt pω bei null ” und P (ω ∈ [0, 0.5]) bei 0.5. Im Idealexperiment gilt schließlich: pω = 0
und P (ω ∈ [0, 0.5]) = 0.5 .
Damit wird offensichtlich, daß sich im Idealexperiment die Wahrscheinlichkeit f¨ ur ein Ereignis nicht mehr als Summe der Wahrscheinlichkeiten f¨ ur die Elementarereignisse darstellen l¨ aßt, d.h. also pω . P (A) = ω∈A
2
Das in dem Beispiel beobachtete Ph¨anomen ist darin begr¨ undet, daß einerseits alle Punkte eines Intervalls als Elemente des Ereignisses A m¨oglich sind. Andererseits ist es aber nicht m¨ oglich, ein Intervall als abz¨ahlbare Vereinigung seiner Punkte darzustellen, d.h., daß z.B. [0, 0.5] nicht darstellbar ist als {ω1 } ∪ {ω2 } ∪ {ω3 } ∪ . . .. % gilt aber nur f¨ Das Axiom von Kolmogoroff (K3) ur solche Vereinigungen. Wollen wir also Wahrscheinlichkeiten bestimmter Ereignisse eines Idealexperiments berechnen, bei dem alle Elemente eines Intervalls mit unendlich vielen Nachkommastellen als Ergebnis auftreten k¨ onnen, k¨ onnen wir P (A) nicht l¨anger als ω∈A pω darstellen, sondern m¨ ussen u ¨ber diese Menge integrieren. Dieser Aspekt wird in Kapitel 6 im Zusammenhang mit stetigen Zufallsvariablen erneut aufgegriffen.
4.9 Zusammenfassung und Bemerkungen
4.9
219
Zusammenfassung und Bemerkungen
In der Statistik fassen wir den Ausgang empirischer Untersuchungen als Ergebnis eines Zufallsvorgangs auf. Dabei interessiert insbesondere, wie sicher man mit dem Eintreten eines bestimmten Ergebnisses rechnen kann. Eine solche Beurteilung wird m¨ oglich durch die Zuweisung von Wahrscheinlichkeiten. Man unterscheidet dabei grob den objektiven und den subjektiven Wahrscheinlichkeitsbegriff. Ersterer basiert auf der H¨aufigkeitsinterpretation von Wahrscheinlichkeiten und ist daher nicht vom jeweiligen Betrachter des Experiments abh¨angig. Die subjektive Wahrscheinlichkeit h¨angt hingegen von der pers¨ onlichen Einsch¨atzung einer Situation ab. Bei der Bewertung von Ergebnissen eines Zufallsvorgangs anhand von Wahrscheinlichkeiten ist es zweckm¨ aßig, diese als Mengen anzusehen und zur Verkn¨ upfung von Ergebnissen die u ¨ blichen Mengenoperationen einzusetzen. Dabei bezeichnen wir die Menge aller m¨ oglichen Ergebnisse mit Ergebnis- bzw. Stichprobenraum. Teilmengen des Ergebnisraums heißen (Zufalls-)Ereignisse. Die Bewertung von Ereignissen hinsichtlich ihres Eintretens erfolgt nun anhand von Zahlen, die die Axiome von Kolmogoroff erf¨ ullen m¨ ussen. Diese zugeordneten Zahlen nennt man schließlich Wahrscheinlichkeiten. F¨ ur diese lassen sich aus den Axiomen Rechenregeln ableiten, die bereits aus dem Umgang mit relativen H¨ aufigkeiten bekannt sind. Zur konkreten Berechnung von Wahrscheinlichkeiten sind zus¨atzliche Informationen u uckspiel ¨ ber den Zufallsvorgang erforderlich. In einigen F¨allen wie etwa beim Gl¨ ist es gerechtfertigt, alle m¨ oglichen Ausg¨ange des Zufallsvorgangs als gleichwahrscheinlich anzusehen. Damit l¨ aßt sich bei endlichen Ergebnisr¨aumen die Wahrscheinlichkeit f¨ ur das Eintreten eines Ereignisses einfach u ¨ ber die sogenannte Abz¨ahlregel bestimmen. Dazu ist die Kenntnis der Anzahl aller m¨oglichen Ergebnisse notwendig. Das bedeutet im Fall einer Stichprobenziehung, daß man die Anzahl aller m¨oglichen Stichproben kennen muß. Diese h¨ angt davon ab, ob man mit oder ohne Zur¨ ucklegen urlich kann man aber und mit oder ohne Ber¨ ucksichtigung der Reihenfolge zieht. Nat¨ nicht immer davon ausgehen, daß die Ergebnisse eines Zufallsvorgangs gleich wahrscheinlich sind. Will man in solchen F¨ allen die Wahrscheinlichkeit f¨ ur das Eintreten eines bestimmten Ereignisses ermitteln, so ist es oft hilfreich, diese als Grenzwert der relativen H¨aufigkeit f¨ ur das Eintreten des interessierenden Ereignisses anzusehen. H¨aufig kann bzw. muß man die Bewertung f¨ ur das Eintreten eines Ereignisses relativieren, wenn man Informationen u ¨ber ein anderes Ereignis hinzuzieht, das bereits eingetreten ist. Dies f¨ uhrt zu dem Begriff der bedingten Wahrscheinlichkeit erneut in Analogie zu dem entsprechenden Begriff bei den relativen H¨aufigkeiten. Ver¨andert sich die Wahrscheinlichkeit f¨ ur das Eintreten eines Ereignisses nicht, wenn man die Information u ¨ber ein anderes, bereits eingetretenes Ereignis nutzt, so nennt man diese beiden Ereignisse stochastisch unabh¨angig. Die Eigenschaft der stochastischen Unabh¨angigkeit ist eine zentrale. Sie macht es m¨oglich, selbst bei komplexen
220
4. Wahrscheinlichkeitsrechnung
Zufallsvorg¨ angen Wahrscheinlichkeiten f¨ ur bestimmte Ereignisse noch relativ leicht zu berechnen. Der Begriff der bedingten Wahrscheinlichkeit spielt erneut eine große Rolle bei dem Satz von Bayes, der es erm¨oglicht, a-posteriori Wahrscheinlichkeiten von Ereignissen zu bestimmen, wenn man deren a-priori und zus¨atzliche bedingte Wahrscheinlichkeiten kennt. In den Satz von Bayes geht der Satz von der totalen Wahrscheinlichkeit ein, bei dem die Wahrscheinlichkeit eines Ereignisses mit Hilfe einer disjunkten Zerlegung des Ergebnisraumes berechnet wird. Abschließend sei noch besonders auf den Fall hingewiesen, daß der Ergebnisraum u ahlbar viele Elemente enth¨alt. Hier ist es nicht mehr m¨oglich, Wahr¨berabz¨ scheinlichkeiten f¨ ur bestimmte Ereignisse als Summe von Einzelwahrscheinlichkeiten auszurechnen. Als Erg¨ anzung zu diesem Kapitel sei auf R¨ uger (1996) verwiesen.
4.10
Aufgaben
Aufgabe 4.1
Ein Experiment bestehe aus dem Werfen eines W¨ urfels und einer M¨ unze. (a) Geben Sie einen geeigneten Ergebnisraum Ω an. (b) Zeigt die M¨ unze Wappen, so wird die doppelte Augenzahl des W¨ urfels notiert, bei Zahl nur die einfache. Wie groß ist die Wahrscheinlichkeit, daß eine gerade Zahl notiert wird?
Aufgabe 4.2
Aus einer Grundgesamtheit G = {1, 2, 3, 4} wird eine einfache Zufallsstichprobe vom Umfang n = 2 gezogen. Betrachten Sie die beiden F¨alle “Modell mit Zur¨ ucklegen” und “Modell ohne Zur¨ ucklegen”. (a) Listen Sie f¨ ur beide F¨ alle alle m¨oglichen Stichproben auf. (b) Wie groß ist jeweils f¨ ur ein einzelnes Element die Wahrscheinlichkeit, in die Stichprobe zu gelangen? (c) Wie groß ist jeweils die Wahrscheinlichkeit, daß die Elemente 1 und 2 beide in die Stichprobe gelangen?
Aufgabe 4.3
Aus einer Gruppe von drei M¨ annern und vier Frauen sind drei Positionen in verschiedenen Kommissionen zu besetzen. Wie groß ist die Wahrscheinlichkeit f¨ ur die Ereignisse, daß mindestens eine der drei Positionen mit einer Frau besetzt wird bzw., daß h¨ochstens eine der drei Positionen mit einer Frau besetzt wird, (a) falls jede Person nur eine Position erhalten kann? (b) falls jede Person mehrere Positionen erhalten kann?
Aufgabe 4.4
Eine Gruppe von 60 Drogenabh¨ angigen, die Heroin spritzen, nimmt an einer Therapie teil (A = station¨ ar, A = ambulant). Zudem unterziehen sich die Drogenabh¨angigen freiwillig einem HIV-Test (B = HIV-positiv, B = HIV-negativ). Dabei stellen sich 45 der 60 Personen
4.10 Aufgaben
221
als HIV-negativ und 15 als HIV-positiv heraus. Von denen, die HIV-positiv sind, sind 80 % in der station¨ aren Therapie, w¨ ahrend von den HIV-negativen nur 40 % in der station¨aren Therapie sind. (a) Formulieren Sie die obigen Angaben als Wahrscheinlichkeiten. (b) Sie w¨ ahlen zuf¨ allig eine der 60 drogenabh¨ angigen Personen aus. Berechnen Sie die Wahrscheinlichkeit, daß diese (i) an der station¨ aren Therapie teilnimmt und HIV-positiv ist, (ii) an der station¨ aren Therapie teilnimmt und HIV-negativ ist, (iii) an der station¨ aren Therapie teilnimmt. (c) Berechnen Sie P (B|A), und fassen Sie das zugeh¨orige Ereignis in Worte. (d) Welcher Zusammenhang besteht zwischen P (A|B) und P (A), wenn A und B unabh¨angig sind? Zeigen Sie: Sind A und B stochastisch unabh¨ angig, dann sind auch A und B stochastisch unabh¨angig.
Aufgabe 4.5
An einer Studie zum Auftreten von Farbenblindheit nimmt eine Gruppe von Personen teil, die sich zu 45 % aus M¨ annern (M ) und zu 55 % aus Frauen (M ) zusammensetzt. Man weiß, daß im allgemeinen 6 % der M¨ anner farbenblind (F ) sind, d.h. es gilt P (F | M ) = 0.06. Dagegen sind nur 0.5 % der Frauen farbenblind, d.h. P (F | M ) = 0.005. Verwenden Sie die angegebene Information zum Berechnen der Wahrscheinlichkeit, daß eine per Los aus der Gruppe ausgew¨ ahlte Person eine farbenblinde Frau ist, d.h. zum Berechnen von P (F ∩ M ). Berechnen Sie außerdem P (M ∩ F ), P (M ∩ F ), P (F ) und P (M | F ). Beschreiben Sie die zugeh¨ origen Ereignisse in Worten.
Aufgabe 4.6
An den Kassen von Superm¨ arkten und Kaufh¨ausern wird ein zus¨atzliches Ger¨at bereitgestellt, mit dem die Echtheit von 100 e–Scheinen gepr¨ uft werden soll. Aus Erfahrung weiß man, daß 15 von 10.000 Scheinen gef¨ alscht sind. Bei diesem Ger¨at wird durch Aufblinken einer Leuchte angezeigt, daß der Schein als falsch eingestuft wird. Es ist bekannt, daß das Ger¨ at mit einer Wahrscheinlichkeit von 0.95 aufblinkt, wenn der Schein falsch ist, und mit einer Wahrscheinlichkeit von 0.1, wenn der Schein echt ist. Wie sicher kann man davon ausgehen, daß der 100 e–Schein tats¨ achlich falsch ist, wenn das Ger¨at aufblinkt?
Aufgabe 4.7
5 Diskrete Zufallsvariablen
Einige Beispiele des vorangehenden Kapitels zeigen, daß die Ergebnisse von Zufallsvorg¨angen nicht immer Zahlen sind. Wie bei der Beschreibung von Ergebnissen einer Erhebung in der deskriptiven oder explorativen Statistik ist es jedoch zweckm¨aßig, die Ergebnisse von Zufallsvorg¨ angen durch Zahlen zu repr¨asentieren. Oft interessiert man sich auch nicht prim¨ ar f¨ ur die zugrundeliegenden Ergebnisse selbst, sondern f¨ ur daraus abgeleitete Zahlen, etwa wie oft Wappen beim mehrmaligen Werfen einer M¨ unze auftritt. Ordnet man den Ergebnissen eines Zufallsvorgangs Zahlen zu, so erh¨alt man eine Zufallsvariable. Dies entspricht im wesentlichen dem Begriff einer Variable oder eines Merkmals in der deskriptiven oder explorativen Statistik, nur wird jetzt betont, daß die m¨ oglichen Werte oder Auspr¨agungen als Ergebnisse eines Zufallsvorgangs gedeutet werden. In den Kapiteln 5 bis 7 behandeln wir die grundlegenden Begriffe und Eigenschaften von eindimensionalen oder univariaten Zufallsvariablen. Sie bilden auch eindimensionale die Basis f¨ ur die in vielen Anwendungen auftretende Situation, daß mehrere Zu- Zufallsvariablen fallsvariablen gemeinsam betrachtet werden. Voneinander abh¨angige, mehrdimensionale Zufallsvariablen sind Gegenstand von Kapitel 8. Zun¨achst behandeln wir jedoch nur unabh¨ angige eindimensionale Zufallsvariablen. Wir unterscheiden, wie in diskret einf¨ uhrenden Darstellungen u ¨blich, zwischen diskreten und stetigen Zufallsvariablen. F¨ ur die in Abschnitt 5.2 betrachteten diskreten Zufallsvariablen werden Analogien zu stetig Kapitel 2 besonders deutlich. Entsprechende Begriffe und Eigenschaften f¨ ur stetige ¨ Zufallsvariablen ergeben sich dann durch den Ubergang vom diskreten zum stetigen Fall (Kapitel 6). Im folgenden Abschnitt verdeutlichen wir zun¨achst anhand von Beispielen, was man unter Zufallsvariablen versteht und schließen eine allgemeine Definition an, die noch nicht zwischen diskreten und stetigen Zufallsvariablen unterscheidet.
224
5.1
5. Diskrete Zufallsvariablen
Zufallsvariablen
Die folgenden Beispiele veranschaulichen exemplarisch Situationen, in denen die Einf¨ uhrung von Zufallsvariablen zweckm¨aßig ist und zeigen, wie diese gebildet werden. Beispiel 5.1
Werfen einer M¨ unze Eine M¨ unze mit den Seiten Zahl (Z) und Wappen (W ) werde viermal geworfen. Als Ergebnis erh¨ alt man z.B. (Z, W, W, Z). Wenn wir die Variable X = “Anzahl von Wappen” einf¨ uhren, so resultiert daraus X = 2. Erh¨ alt man beim n¨achsten Werfen (Z, W, Z, Z), so ist X = 1. F¨ ur die Variable X sind die Werte 0, 1, 2, 3 und 4 m¨oglich, aber vor jedem neuen Wurf ist nicht sicher, welcher dieser Werte sich ergeben wird. Wenn wir uns nur f¨ ur X interessieren, nicht jedoch f¨ ur den zugrundeliegenden Zufallsvorgang des viermaligen M¨ unzwurfs selbst, so k¨ onnen wir uns auf den einfacheren Ergebnisraum {0, 1, 2, 3, 4} beschr¨anken. Die Ergebnisse des Zufallsvorgangs sind dann die Werte der Variable X selbst. Man nennt X deshalb Zufallsvariable. Die Bildung von X l¨ aßt sich demnach auch als Abbildung auffassen, wobei dem urspr¨ unglichen Ergebnis ω ∈ Ω, etwa ω = (Z, W, W, Z), eine reelle Zahl X(ω) = 2 zugeordnet wird. In bezug auf die Variable X interessieren vor allem Ereignisse bei denen X bestimmte Werte annimmt, etwa {X = 2} = “Es tritt genau zweimal Wappen auf” oder {X ≤ 2} = “Es tritt h¨ochstens zweimal Wappen auf”. Zur Berechnung der Wahrscheinlichkeiten ist in diesem Beispiel die Darstellung durch die urspr¨ unglichen Ergebnisse n¨ utzlich. Es gilt etwa {X = 2} = {(Z, Z, W, W ), (Z, W, Z, W ), (Z, W, W, Z) , (W, W, Z, Z), (W, Z, W, Z), (W, Z, Z, W )} . Dann l¨ aßt sich die Abz¨ ahlregel anwenden und man erh¨alt P ({X = 2}) = 6/16 , da es insgesamt 42 = 16 verschiedene Ergebnisse beim viermaligen M¨ unzwurf gibt.
Beispiel 5.2
2
Zweimal W¨ urfeln Die urspr¨ ungliche Ergebnismenge Ω besteht aus den 36 Zahlenpaaren ω = (i, j), 1 ≤ i, j ≤ 6, vergleiche Beispiel 4.3(b) (Seite 179). F¨ ur die Variable X=“Summe der Augenzahlen” erh¨alt man zu jedem Ergebnis (i, j) den Wert x = i + j. Da die m¨oglichen Ergebnisse (i, j) und damit die Werte x = i + j vom Zufall abh¨angen, wird X zu einer Zufallsvariable mit der
5.1 Zufallsvariablen
225
Werte- oder Ergebnismenge {2, 3, . . . , 12}. Ebenso wie im vorangehenden Beispiel l¨aßt sich somit X als Abbildung aus dem urspr¨ unglichen Ergebnisraum Ω = {i, j : 1 ≤ i, j ≤ 6} nach {2, 3, . . . , 12} auffassen, mit X : ω → X(ω) = x = i + j. Interessierende Ereignisse sind z.B. {X = 4} = “Die Augensumme ist 4” oder {X ≤ 4} = “Die Augensumme ist h¨ochstens gleich 4” . Solche Ereignisse lassen sich auch durch die urspr¨ unglichen Ergebnisse (i, j) ausdr¨ ucken. Es gilt {X = 4} = {(1, 3), (2, 2), (3, 1)} und {X ≤ 4} = {(1, 1), (1, 2), (1, 3), (2, 1), (2, 2), (3, 1)} . Auch hier ist die R¨ uckf¨ uhrung auf die urspr¨ unglichen Ergebnisse n¨ utzlich, um die Wahrscheinlichkeiten f¨ ur derartige Ereignisse zu berechnen: Es ist z.B. P (X = 4) = P (1, 3) + P (2, 2) + P (3, 1) = und P (X ≤ 4) = P (1, 1) + . . . + P (3, 1) =
1 3 = 36 12
6 1 = . 36 6
2
Mietspiegelerhebung
Beispiel 5.3
Die Mietspiegelerhebung f¨ ur M¨ unchen beruht auf einer Zufallsstichprobe, bei der nach einem bestimmten Stichprobenplan Wohnungen zuf¨ allig ausgew¨ahlt werden. Ergebnismenge ist die Menge Ω aller mietspiegelrelevanten Wohnungen und als typisches Ergebnis ω erh¨alt man eine solche ausgew¨ ahlte Wohnung. Die interessierenden Merkmale wie X=“Nettomiete”, Y =“Wohnfl¨ ache”, Z=“Zimmeranzahl” usw. sind somit als Zufallsvariablen interpretierbar. Als Ergebnismenge f¨ ur die stetigen Merkmale X und Y kann man + = {x : x ≥ 0} w¨ahlen, f¨ ur das diskrete Merkmal Z entsprechend 0 = {0, 1, 2, . . .}. F¨ ur statistische Analysen sind wieder vor allem Ereignisse der Form {X ≤ c} ,
{X > c} ,
{a ≤ X ≤ c} ,
a, b, c ∈
+
sowie deren Wahrscheinlichkeiten von Interesse. So bedeuten etwa {X ≤ 1000} {900 ≤ X ≤ 1000}
“Auswahl einer Wohnung mit einer Nettomiete von h¨ochstens 1000 e” , “Auswahl einer Wohnung mit einer Nettomiete zwischen 900 e und 1000 e”.
Auch in diesem Beispiel kann man X als Abbildung auffassen, bei der einer zuf¨allig ausgew¨ ahlten Wohnung ω die daf¨ ur zu zahlende Nettomiete x = X(ω) zugeordnet wird. F¨ ur die Bestimmung von Wahrscheinlichkeiten f¨ ur Ereignisse obiger Art bringt dies hier jedoch keinen Nutzen. 2
226
Beispiel 5.4
5. Diskrete Zufallsvariablen
Aktienkurse T¨ agliche oder gemittelte Kurse bzw. Renditen von Aktien sind von zuf¨alligen Vorg¨angen mitbeeinflußt, auch wenn es unm¨ oglich ist, den Zufallsvorgang oder einen zugrundeliegenden Ergebnisraum Ω explizit zu beschreiben. Trotzdem ist es f¨ ur statistische Analysen zweckm¨aßig, das Merkmal X = “Rendite der Aktie X am Tag t” als Zufallsvariable zu interpretieren, deman nach B¨ orsenschluß am Tag t erfahren kann. Ebenso sind Ereignisse ren Wert x ∈ der Form {X = c} , {X ≤ c} , {X ≥ c} , {a ≤ X ≤ b} und zugeh¨orige Wahrscheinlichkeiten von Interesse. So bedeutet etwa P {X ≥ 0} die Wahrscheinlichkeit, keinen Verlust zu erleiden, und P (2 % ≤ X ≤ 3 %) die Wahrscheinlichkeit, einen Gewinn zwischen 2 % und 3 % zu erzielen. 2
¨ Ahnliche Situationen wie in den beiden letzten Beispielen, bei denen der zugrundeliegende Zufallsvorgang nicht von prim¨arem Interesse bzw. schwer oder nicht explizit beschreibbar ist, treten in vielen Anwendungen auf, etwa bei Lebensdauern oder Abmessungen von Ger¨ aten in der Produktion, der erzielten Punktezahl in einem Test, der Wartezeit an einer Bushaltestelle usw. Damit tritt auch die Auffassung einer Zufallsvariable als Abbildung, die wie in den Beispielen 5.1 (Seite 224) und 5.2 (Seite 224) den Ergebnissen ω eines zugrundeliegenden Zufallsvorgangs reelle Zahlen zuordnet, in den Hintergrund. Es ist dann wie in der folgenden Definition einfacher, als Ergebnisraum direkt den Wertebereich der Variable zu betrachten. Eine Definition, die den Charakter der Variable als Abbildung oder Zuordnungsvorschrift deutlicher betont, wird in Kapitel 7 gegeben. Zufallsvariable Eine Variable oder ein Merkmal X, dessen Werte oder Auspr¨agungen die Ergebnisse eines Zufallsvorgangs sind, heißt Zufallsvariable X. Die Zahl x ∈ , die X bei einer Durchf¨ uhrung des Zufallsvorgangs annimmt, heißt Realisierung oder Wert von X.
Skalierung Stetige und diskrete Zufallsvariablen
Da aus dem Kontext meist ersichtlich ist, ob mit X eine Zufallsvariable gemeint ist, nennt man X k¨ urzer auch wieder einfach Variable oder Merkmal und bezeichnet eine Realisierung x von X auch als Merkmalsauspr¨agung. Ebenso werden die in Kapitel 1 definierten Begriffe zur Skalierung von Merkmalen (qualitativ, quantitativ, nominal-, ordinal- bzw. kardinalskaliert) und die Unterscheidung in diskrete und stetige Merkmale auf Zufallsvariablen u ¨ bertragen. Stetige Zufallsvariablen sind meist metrisch, zumindest aber ordinalskaliert, w¨ahrend diskrete Zufallsvariablen nominal-, ordinal- oder kardinalskaliert vorliegen k¨onnen. Wie in der deskriptiven Statistik muß man beachten, daß bestimmte Begriffe nicht f¨ ur alle Skalenarten sinnvoll definiert oder interpretierbar sind.
5.2 Verteilungen und Parameter von diskreten Zufallsvariablen
227
Wie in den Beispielen interessiert man sich bei Zufallsvariablen meist f¨ ur Ereignisse der Art {X = x} ,
{X = x} ,
{X ≤ x} ,
{X > x} ,
Ereignisse
{a ≤ X ≤ b}
bzw. allgemein {X ∈ I} , wobei I ein abgeschlossenes, offenes oder halboffenes Intervall ist. Dabei ist f¨ ur eine sinnvolle Interpretation von Ereignissen der Form {a ≤ X ≤ b} usw. vorauszusetzen, daß X ordinalskaliert ist. Weitere durch X definierte zul¨ assige Bereiche B ergeben sich daraus durch Komplementbildung und abz¨ahlbare Durchschnitts- und Vereinigungsbildung. Die Festlegung, Berechnung oder Sch¨atzung von Wahrscheinlichkeiten f¨ ur solche Ereignisse ist eine zentrale Aufgabe der Wahrscheinlichkeitsrechnung und der induktiven Statistik.
zul¨assige Bereiche
Die Menge aller Wahrscheinlichkeiten P (X ∈ I) oder P (X ∈ B) f¨ ur Intervalle I Wahrscheinlichoder zul¨assige Bereiche B nennt man auch Wahrscheinlichkeitsverteilung. keitsverteilung
5.2
5.2.1
Verteilungen und Parameter von diskreten Zufallsvariablen Definition und Verteilung
Nach der allgemeinen Definition ist eine diskrete Zufallsvariable eine diskrete Variable, deren Werte als Ergebnisse eines Zufallsvorgangs aufgefaßt werden. Dies f¨ uhrt zur folgenden Definition.
Diskrete Zufallsvariable Eine Zufallsvariable X heißt diskret, falls sie nur endlich oder abz¨ahlbar unendlich viele Werte x1 , x2 , . . . , xk , . . . annehmen kann. Die Wahrscheinlichkeitsverteilung von X ist durch die Wahrscheinlichkeiten P (X = xi ) = pi ,
i = 1, 2, . . . , k, . . . ,
gegeben. Die Wertemenge von X wird auch als Tr¨ ager von X bezeichnet, wir schreiben daf¨ ur
Tr¨ager
228
5. Diskrete Zufallsvariablen
kurz T = {x1 , x2 , . . . , xk , . . .}. F¨ ur die Wahrscheinlichkeiten pi muß wegen der Axiome von Kolmogoroff 0 ≤ pi ≤ 1 und p1 + p2 + . . . + pk + . . . =
pi = 1
i≥1
gelten. Die Wahrscheinlichkeit P (X ∈ A) daf¨ ur, daß X einen Wert aus einer Teilmenge A von T annimmt, ist durch die Summe der pi mit xi in A gegeben: pi . P (X ∈ A) = i:xi ∈A
Insbesondere gilt somit P (a ≤ X ≤ b) =
pi .
i:a≤xi ≤b
endliche diskrete Zufallsvariable Analogon zur H¨aufigkeitsverteilung
bin¨are Zufallsvariable BernoulliVorgang
BernoulliVariable
ur eine sinnvolle InterpreDabei ist zu beachten, daß {a ≤ X ≤ b} bzw. a ≤ xi ≤ b f¨ tation eine ordinalskalierte Variable X voraussetzen. In vielen Anwendungen reicht ein endlicher Wertebereich {x1 , . . . , xk } zur Beschreibung des interessierenden Zufallsvorgangs aus. Wir sprechen dann von einer endlichen diskreten Zufallsvariable. Die oben auftretenden Summen sind somit alle endlich, z.B. muß p1 +. . .+pk = 1 gelten. Die Wahrscheinlichkeitsverteilung p1 , . . . , pk f¨ ur die Werte x1 , . . . , xk der Zufallsvariable X ist dann das wahrscheinlichkeitstheoretische Analogon zur relativen H¨ aufigkeitsverteilung f1 , . . . , fk f¨ ur die m¨oglichen Werte a1 , . . . , ak des Merkmals X. W¨ahrend die Wahrscheinlichkeitsverteilung das Verhalten einer Zufallsvariable und damit eines Zufallsexperiments charakterisiert, wird durch die relative H¨ aufigkeitsverteilung jedoch die empirische Verteilung von Daten beschrieben. Ein in Anwendungen h¨ aufig auftretender Spezialfall sind bin¨ are Zufallsvariablen: Oft interessiert man sich bei einem Zufallsvorgang nur daf¨ ur, ob ein bestimmtes Ereignis A eintritt oder nicht. Man spricht auch von einem Bernoulli-Vorgang oder Bernoulli-Experiment. Beispielsweise kann A das Ereignis sein, daß beim einmaligen W¨ urfeln eine gerade Augenzahl erzielt wird, daß ein Kreditkunde nicht kreditw¨ urdig ist, d.h. seinen Kredit nicht ordnungsgem¨aß zur¨ uckzahlt, oder daß ein Patient durch eine bestimmte Therapie geheilt wird. Die Zufallsvariable
1 , falls A eintritt X= 0 , falls A nicht eintritt besitzt den Tr¨ ager T = {0, 1} und indiziert, ob A eintritt oder nicht. Sie heißt bin¨are Variable, oder Bernoulli-Variable. Wenn P (A) = π gilt, so folgt
5.2 Verteilungen und Parameter von diskreten Zufallsvariablen
P (X = 1) = π ,
229
P (X = 0) = 1 − π .
Diese Verteilung heißt Bernoulli-Verteilung.
BernoulliVerteilung
Entsprechend definiert man mehrkategoriale Zufallsvariablen. Seien A1 , . . . , Ak sich gegenseitig ausschließende Ereignisse mit A1 ∪ . . . ∪ Ak = Ω. Die Zufallsvariable mehrkategoriale Zufallsvariablen X mit den Kategorien bzw. Werten X = i,
falls Ai eintritt ,
i = 1, . . . , k ,
indiziert, welches Ereignis eintritt. Die Kategorien 1, . . . , k k¨onnen dabei geordnet oder ungeordnet sein, so daß die Zufallsvariable ordinal- oder nominalskaliert ist. Die Verteilung von X ist durch die Wahrscheinlichkeiten P (X = i), i = 1, . . . , k gegeben. Reelle Zahlen x ∈ T , k¨ onnen nicht bzw. nur mit Wahrscheinlichkeit null auftreten, d.h. es ist P (X = x) = 0 f¨ ur x ∈ T . Zusammen mit den Wahrscheinlichkeiten P (X = xi ) = pi ergibt dies die Wahrscheinlichkeitsfunktion.
Wahrscheinlichkeitsfunktion Die Wahrscheinlichkeitsfunktion f (x) einer diskreten Zufallsvariable X ist f¨ ur x ∈ definiert durch
P (X = xi ) = pi , x = xi ∈ {x1 , x2 , . . . , xk , . . .} f (x) = 0 , sonst.
Analog wie die relative H¨ aufigkeitsverteilung l¨aßt sich die WahrscheinlichkeitsverteiStabdiagramm lung bzw. Wahrscheinlichkeitsfunktion durch ein Stab- oder S¨ aulendiagramm darstellen, wobei die Stabh¨ ohe u ¨ber xi , i = 1, 2, . . . , k, . . . gleich pi ist. Eine verwandte ¨ Darstellungsform sind Wahrscheinlichkeitshistogramme. Ahnlich wie bei Histogram- Wahrscheinlichmen empirischer Verteilungen werden Rechtecke gezeichnet, die u ¨ber den Werten keitshistogramm achen gleich oder proportional zu pi = P (X = xi ) xi zentriert sind und deren Fl¨ sind. F¨ ur ¨aquidistante Werte xi werden die Rechtecke oft als aneinandergrenzend gezeichnet, ansonsten ergibt sich im wesentlichen wieder ein S¨aulendiagramm. Durch die Wahrscheinlichkeitsverteilung bzw. Wahrscheinlichkeitsfunktion ist auch die Verteilungsfunktion F (x) = P (X ≤ x) gegeben, wenn man in der Formel f¨ ur P (X ∈ A) A = {X ≤ x} setzt. F¨ ur eine sinnvolle Interpretation setzen wir X als ordinalskaliert voraus und nehmen an, daß die Werte xi bereits der Gr¨oße nach geordnet sind.
230
5. Diskrete Zufallsvariablen
f (x) 6
p2 pk−1
p1
pk ... -
x1
x2
...
xk−1
xk x
Abbildung 5.1: Stabdiagramm
f (x) 6 p2 pk−1
p1
...
pk -
x1
x2
...
xk−1
xk
x
Abbildung 5.2: Wahrscheinlichkeitshistogramm
Verteilungsfunktion einer diskreten Zufallsvariable f (xi ) . F (x) = P (X ≤ x) = i:xi ≤x
Die Verteilungsfunktion ist somit ganz analog zur empirischen Verteilungsfunktion Eigenschaften (Abschnitt 2.1.3) gebildet und hat auch die gleichen Eigenschaften: F (x) ist eine der Verteilungs- Treppenfunktion, die an den Stellen x um den Wert p = f (x ) nach oben springt, i i i funktion dazwischen verl¨ auft sie konstant. An den Sprungstellen ist der obere Wert, d.h. die Treppenfunktion Treppenkante, der zugeh¨ orige Funktionswert und die Funktion somit rechtseitig sterechtseitig stetig ur eine endliche diskrete Zufallsvariable mit gr¨oßtem tig. F¨ ur x < x1 ist F (x) = 0 und f¨ ur x ≥ xk . Im nicht-endlichen Fall geht F (x) −→ 1 m¨oglichen Wert xk ist F (x) = 1 f¨ f¨ ur x −→ +∞, da {X ≤ +∞} das sichere Ereignis ist und somit P {X ≤ +∞} = 1 gilt. Abbildung 5.3 auf der folgenden Seite zeigt die zu den Abbildungen 5.1 und 5.2 geh¨orige Verteilungsfunktion. Die Sprungstellen x1 , x2 , . . . und die zugeh¨origen Sprungh¨ohen entsprechen genau
5.2 Verteilungen und Parameter von diskreten Zufallsvariablen
231
F (x) 6 1
...
x1
...
x2
xk−1
x
xk
-
Abbildung 5.3: Verteilungsfunktion
der Lage und der H¨ ohe der St¨ abe im Stabdiagramm. Trotz dieses Vorteils verwenden wir im weiteren in der Regel die Darstellung durch S¨aulendiagramme oder Wahrscheinlichkeitshistogramme, da diese wegen des optischen Eindrucks in der Praxis bevorzugt werden. W¨ urfeln
Beispiel 5.5
Beim einmaligen Werfen eines symmetrischen W¨ urfels ist die Zufallsvariable X = “Augenzahl” diskret mit den Werten x1 = 1, . . . , x6 = 6 und den Wahrscheinlichkeiten pi = P (X = i) = 1/6: x
1
2
3
4
5
6
p
1 6
1 6
1 6
1 6
1 6
1 6
Das Wahrscheinlichkeitshistogramm f (x) ist in der folgenden Abbildung 5.4 auf der folgenden Seite dargestellt. Daraus ergibt sich die Verteilungsfunktion F (x) aus Abbildung 5.5. Beim zweimaligen Werfen eines W¨ urfels definieren wir wie in Beispiel 5.2 (Seite 224) die Zufallsvariable X = “Summe der Augenzahlen”. Sie besitzt den Tr¨ager T = {2, 3, . . . , 12}. Die Wahrscheinlichkeiten P (X = 2), P (X = 3), . . . , P (X = 12) berechnet man wie in Beispiel 5.2 nach der Abz¨ ahlregel. Sie sind in der folgenden Tabelle angegeben. x
2
3
4
5
6
7
8
9
10
11
12
p
1 36
2 36
3 36
4 36
5 36
6 36
5 36
4 36
3 36
2 36
1 36
232
5. Diskrete Zufallsvariablen
f (x) 6 1 6
0
1
2
3
4
5
6
x
-
Abbildung 5.4: Wahrscheinlichkeitshistogramm beim einmaligen W¨ urfeln F (x) 6 1 5 6 4 6 3 6 2 6 1 6
0 0
1
2
3
4
5
6
x
-
Abbildung 5.5: Verteilungsfunktion beim einmaligen W¨ urfeln
Abbildung 5.6 zeigt das Wahrscheinlichkeitshistogramm f (x), Abbildung 5.7 die Verteilungsfunktion F (x). Man liest etwa f¨ ur x = 5 den Wert 10/36 der Verteilungsfunktion ab, d.h. mit Wahrscheinlichkeit 10/36 nimmt die Summe der Augenzahlen beim zweimaligen W¨ urfeln einen Wert von h¨ ochstens 5 an. 2
Beispiel 5.6
Treffer und Nieten Ein Spieler nimmt an drei aufeinanderfolgenden unabh¨angigen Ausspielungen einer Lotterie teil. Die Wahrscheinlichkeit f¨ ur einen Treffer sei bei jeder Ausspielung 20 %. Wie ist die Zufallsvariable X = “Anzahl der Treffer” verteilt? Der Zufallsvorgang besteht aus drei unabh¨angigen Bernoulli-Experimenten mit den bin¨ aren Variablen X1 , X2 und X3 f¨ ur die Ausspielungen. Dabei bezeichnet Xi = 1 einen
5.2 Verteilungen und Parameter von diskreten Zufallsvariablen
233
f (x) 6 6 36 5 36 4 36 3 36 2 36 1 36
-
0
1
2
3
4
5
6
7
8
9
10
11
12 x
Abbildung 5.6: Wahrscheinlichkeitshistogramm beim zweimaligen W¨ urfeln F (x)6 1 30 36 24 36 18 36 12 36 6 36
-
0 0
1
2
3
4
5
6
7
8
9
10
11
12
x
Abbildung 5.7: Verteilungsfunktion beim zweimaligen W¨ urfeln
Treffer, der mit Wahrscheinlichkeit P (Xi = 1) = 0.2 eintritt, und Xi = 0 mit P (Xi = 0) = 0.8 eine Niete. Die m¨oglichen Ergebnisse, Trefferzahlen X und zugeh¨origen Wahrscheinlichkeiten finden sich in der folgenden Tabelle. Bei der Berechnung der Wahrscheinlichkeiten verwendet man, daß die einzelnen Ausspielungen unabh¨ angig sind. Ergebnisse (0, 0, 0) (0, 0, 1) (0, 1, 0) (1, 0, 0) (0, 1, 1) (1, 0, 1) (1, 1, 0) (1, 1, 1)
x 0 1 1 1 2 2 2 3
Wahrscheinlichkeiten 0.8 · 0.8 · 0.8 = 0.512 0.8 · 0.8 · 0.2 = 0.128 0.8 · 0.2 · 0.8 = 0.128 0.2 · 0.8 · 0.8 = 0.128 0.8 · 0.2 · 0.2 = 0.032 0.2 · 0.8 · 0.2 = 0.032 0.2 · 0.2 · 0.8 = 0.032 0.2 · 0.2 · 0.2 = 0.008
234
5. Diskrete Zufallsvariablen
Die Wahrscheinlichkeiten pi = P (X = i), i = 0, . . . , 3 erh¨alt man durch Addition der Wahrscheinlichkeiten der zugeh¨ origen Ergebnisse: x p
Binomialverteilung
0 0.512
1 0.384
2 0.096
3 0.008
Der Zufallsvorgang dieses Beispiels ist ein Spezialfall: Betrachtet man allgemeiner bei n unabh¨ angigen Bernoulli-Experimenten und gleichbleibender Trefferwahrscheinlichkeit die Anzahl X der Treffer, so f¨ uhrt dies zur Binomialverteilung, die in Abschnitt 5.3.1 allgemein behandelt wird. 2
Diskrete Gleichverteilung Die Zufallsvariable X = “Augenzahl” beim einmaligen W¨ urfeln ist ein einfaches Beispiel einer gleichverteilten diskreten Zufallsvariable. Die allgemeine Definition ist: Diskrete Gleichverteilung Eine diskrete Zufallsvariable X heißt gleichverteilt auf dem Tr¨ager T = ur alle i = 1, . . . , k {x1 , x2 , . . . , xk }, wenn f¨ P (X = xi ) =
1 k
gilt. Die zugeh¨ orige Wahrscheinlichkeitsfunktion f (x) besitzt dann das Wahrscheinlichkeitshistogramm aus Abbildung 5.8 auf der gegen¨ uberliegenden Seite. In den bisherigen Beispielen waren die Zufallsvariablen endlich und diskret. Im folgenden Beispiel ist die Zufallsvariable nicht endlich. Geometrische Verteilung Wiederum sei bei einem Zufallsvorgang nur von Interesse, ob ein bestimmtes Ereignis A eintritt, wobei P (A) = π mit 0 < π < 1 gelte. Der Zufallsvorgang werde nun unabh¨ angig voneinander sooft wiederholt, bis zum ersten Mal A eintritt. Als Zufallsvariable definieren wir X = “Anzahl der Versuche bis zum ersten Mal A eintritt”.
5.2 Verteilungen und Parameter von diskreten Zufallsvariablen
235
f (x) 6 1 k
... -
x1
x2
...
xk−1
xk x
Abbildung 5.8: Wahrscheinlichkeitshistogramm einer diskreten Gleichverteilung
Beispielsweise k¨ onnte bei wiederholtem W¨ urfeln X die Anzahl von W¨ urfen sein, bis zum ersten Mal eine Sechs (π = 1/6) f¨ allt, oder X k¨onnte angeben, wieviel Wochen es dauert, bis jemand beim Lottospiel sechs Richtige hat. Da man keine noch so große Zahl k von Versuchen angeben kann, bei der mit Sicherheit A bereits zum ersten Mal eingetreten ist, kann X mit positiver Wahrscheinlichkeit jeden der Werte 1, 2, 3, . . . annehmen. Somit ist X eine diskrete Zufallsvariable mit der Menge der nat¨ urlichen Zahlen = {1, 2, 3, . . .} als Tr¨ager. Um die Wahrscheinlichkeitsfunktion zu bestimmen, betrachten wir das Ereignis {X = k}. Es ist dadurch definiert, daß zun¨achst (k−1)-mal das Komplement¨ arereignis A¯ und beim k-ten Versuch A auftritt, also die Folge ¯ ¯ A " · .#. . · A! ·A (k−1)-mal
beobachtet wird. Wegen der Unabh¨ angigkeit der Versuche gilt
pk = P (X = k) = (1 − π)k−1 π
f¨ ur k = 1, 2, 3, . . .. Da die Wahrscheinlichkeiten pk eine geometrische Folge bilden, heißt die Verteilung geometrisch und die Zufallsvariable X heißt geometrisch verteilt.
236
5. Diskrete Zufallsvariablen
Geometrische Verteilung Ein Bernoulli-Versuch werde bei gleichbleibenden Wahrscheinlichkeiten π = P (A) solange wiederholt, bis zum ersten Mal das interessierende Ereignis A eintritt. Dann heißt die Zufallsvariable X = “Anzahl der Versuche bis zum ersten Mal A eintritt” geometrisch verteilt mit Parameter π, kurz X ∼ G(π). Der Tr¨ager von X ist T = {1, 2, 3, . . .} = . Die Wahrscheinlichkeitsverteilung ist durch P (X = x) = (1 − π)x−1 π gegeben. Abbildung 5.9 zeigt die Wahrscheinlichkeitsfunktion f (x) f¨ ur verschiedene Werte von π. Die Verteilungsfunktion F (x) = P (X ≤ x) berechnet man am einfachsten u ¨ ber die Beziehung P (X ≤ x) = 1 − P (X > x) . Das Ereignis {X > x} bedeutet, daß x-mal das Ereignis A¯ eingetreten ist. Wegen der Unabh¨ angigkeit der Versuche gilt P (X > x) = (1 − π)x und damit F (x) = 1 − (1 − π)x . Der in Abbildung 5.10 (Seite 238) wiedergegebene Graph erreicht f¨ ur keinen endlichen x-Wert die 1, jedoch gilt F (x) −→ 1 f¨ ur x −→ +∞.
geometrische Verteilung als Modell
Die geometrische Verteilung kommt in vielen Anwendungen, bei denen der oben beschriebene Zufallsvorgang als zugrundeliegend angenommen werden kann, als Wahrscheinlichkeitsmodell in Frage. Insbesondere dient sie als einfaches Modell f¨ ur eine diskrete Lebensdauer oder Wartezeitverteilung. Dazu werde die Zeitachse in gleich lange Zeiteinheiten [0, 1), [1, 2), . . . , [k − 1, k), . . ., z.B. Tage, Wochen, Monate eingeteilt. Am Ende eines jeden Zeitintervalls wird u uft, ob ein Ereignis A zum ersten ¨ berpr¨ Mal eingetreten ist. Die Zufallsvariable X kann dann als Wartezeit bis zum Eintreten von A interpretiert werden. Beispiele daf¨ ur sind: Die Lebensdauer eines Ger¨ats in Tagen, bis es zum ersten Mal ausf¨allt, die Dauer (in Wochen oder Monaten), bis ein bestimmter Kunde zum ersten Mal einen Schaden bei seiner KFZ-Versicherung
5.2 Verteilungen und Parameter von diskreten Zufallsvariablen
237
π = 0.1
0.1 6 0.08 0.06 0.04 0.02
... -
0 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15
π = 0.25 0.3 6 0.24 0.18 0.12 0.06
... -
0 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15
π = 0.5 0.5 6 0.4 0.3 0.2 0.1
... -
0 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15
Abbildung 5.9: Wahrscheinlichkeitshistogramme zur geometrischen Verteilung
238
5. Diskrete Zufallsvariablen
F (x) 6 1 0.8 0.6 0.4 0.2
-
0 0 1 2 3 4 5 6 7 8 9 10 11 12 13 14
Abbildung 5.10: Verteilungsfunktion der geometrischen Verteilung f¨ ur π = 0.5
meldet oder die Dauer der Arbeitslosigkeit (in Wochen oder Monaten), bis jemand wieder voll- oder teilzeiterwerbst¨ atig wird. Falls die Voraussetzungen f¨ ur die geometrische Verteilung erf¨ ullt sind, kann sie als Wahrscheinlichkeitsmodell in solchen oder ¨ahnlichen Anwendungen dienen. symmetrisch, schief
Wie bei empirischen Verteilungen unterscheidet man auch die Form diskreter Verteilungen dadurch, ob sie symmetrisch oder schief sind. Die Begriffe und auch die graphische Darstellung durch Wahrscheinlichkeitshistogramme entsprechen dabei genau den Begriffen f¨ ur empirische Verteilungen aus Kapitel 2. So ist etwa die Verteilung der Zufallsvariable X = “Summe der Augenzahlen” beim zweimaligen W¨ urfeln symmetrisch, w¨ ahrend die geometrische Verteilung linkssteil ist. Symmetrie und Schiefe sind vor allem zur Charakterisierung der Verteilung von diskreten Zufallsvariablen mit vielen Auspr¨ agungen und f¨ ur stetige Zufallsvariablen (Kapitel 6) von Bedeutung.
5.2.2
Unabh¨ angigkeit von diskreten Zufallsvariablen
Bei Zufallsvorg¨ angen interessiert man sich oft nicht nur f¨ ur eine Zufallsvariable, sondern f¨ ur zwei oder mehr Zufallsvariablen. In vielen F¨allen beeinflussen sich die Zufallsvariablen gegenseitig, so daß sie als voneinander abh¨angig anzusehen sind. Dies ist in der Regel der Fall, wenn im Rahmen einer zuf¨alligen Stichprobe an den ausgew¨ ahlten Untersuchungseinheiten gleichzeitig die Werte von mehreren interessierenden Variablen X und Y oder X1 , . . . , Xn festgestellt werden. So kann man etwa in Beispiel 1.4 (Seite 5) die Merkmale X = “Kreditw¨ urdigkeit” und Y = “laufendes Konto” als Zufallsvariablen interpretieren. Offensichtlich hat das laufende Konto Y einen bedeutenden Einfluß auf die Kreditw¨ urdigkeit, so daß man X
5.2 Verteilungen und Parameter von diskreten Zufallsvariablen
239
und Y als voneinander abh¨angig ansehen wird. Solche abh¨angigen mehrdimensionalen Zufallsvariablen sind Gegenstand des Kapitels 8. Falls sich dagegen zwei oder mehr Zufallsvariablen nicht gegenseitig beeinflussen, spricht man von unabh¨ angigen Zufallsvariablen. Die wichtigste derartige Situation liegt vor, wenn n Zufallsvorg¨ ange unabh¨ angig voneinander durchgef¨ uhrt werden. orige Zufallsvariablen, so sind diese unabh¨angig. Das einSind X1 , . . . , Xn dazugeh¨ fachste Bespiel ergibt sich, falls ein Bernoulli-Experiment n-mal unabh¨angig wiederholt wird. Der Gesamtvorgang wird auch als Bernoulli-Kette bezeichnet. Die entsprechenden Bernoulli-Variablen X1 , . . . , Xn sind dann unabh¨angig. Ein anderes Beispiel ist das wiederholte Werfen eines W¨ urfels, wobei Xi , i = 1, . . . , n, die Augen¨ zahl beim i-ten Werfen ist. Ahnliche Zufallsvorg¨ange treten bei vielen Gl¨ ucksspielen, aber auch bei Zufallsstichproben auf. F¨ ur eine formale Definition der Unabh¨angigkeit von Zufallsvariablen u agt man das Konzept der Unabh¨angigkeit von Ereignis¨ bertr¨ sen, indem man auf die durch die Zufallsvariablen definierten zul¨assigen Ereignisse zur¨ uckgeht. Betrachten wir zun¨ achst den Spezialfall einer Bernoulli-Kette. Dabei bezeichnet Ai , i = 1, . . . , n, das Ereignis, daß bei der i-ten Wiederholung A eingetreten ist und Xi die entsprechende Bernoulli-Variable. Dann sind neben den Ereignissen A1 , . . . , An auch Ereignisse der Form A¯1 , A¯2 , . . . , A¯i , . . . , A¯n unabh¨angig, wobei A¯i das Komplement¨ arereignis zu Ai ist. Somit gilt also
P (A1 ∩ A¯2 ∩ . . . ∩ An ) = P (A1 ) · P (A¯2 ) · . . . · P (An ) .
ur diese die Formuliert man dies f¨ ur die Bernoulli-Variablen X1 , . . . , Xn , so gilt f¨ Beziehung
P (X1 = i1 , X2 = i2 , . . . , Xn = in ) = P (X1 = i1 ) · P (X2 = i2 ) · . . . · P (Xn = in ) ,
wobei i1 , i2 , . . . , in jeweils die Werte 0 oder 1 sein k¨onnen. Allgemeiner l¨aßt sich die Unabh¨angigkeit von diskreten Zufallsvariablen wie folgt definieren.
abh¨angig
unabh¨angig
Bernoulli-Kette
240
5. Diskrete Zufallsvariablen
Unabh¨ angigkeit von diskreten Zufallsvariablen Zwei diskrete Zufallsvariablen X und Y mit den Tr¨agern TX = {x1 , x2 , . . . , angig, wenn f¨ ur beliebige x ∈ xk , . . .} und TY = {y1 , y2 , . . . , yl , . . .} heißen unabh¨ TX und y ∈ TY P (X = x, Y = y) = P (X = x) · P (Y = y) gilt. Allgemeiner heißen n diskrete Zufallsvariablen X1 , X2 , . . . , Xn unabh¨angig, wenn f¨ ur beliebige Werte x1 , x2 , . . . , xn aus den jeweiligen Tr¨agern P (X1 = x1 , X2 = x2 , . . . , Xn = xn ) = P (X1 = x1 )·P (X2 = x2 )·. . .·P (Xn = xn ) gilt. Sind zwei Zufallsvariablen X und Y gem¨aß dieser Definition unabh¨angig, so folgt sogar allgemeiner die Unabh¨ angigkeit von zwei Ereignissen der Form X ∈ A und Y ∈ B, d.h. es gilt P (X ∈ A, Y ∈ B) = P (X ∈ A) · P (Y ∈ B) . Man erh¨ alt dies sofort, indem man die Beziehungen P (X = i, Y = j) = P (X = i) · P (Y = j) u ¨ ber alle i bzw. j, die in A bzw. B liegen, aufsummiert. Beispiel 5.7
Mehrmaliges W¨ urfeln Beim Werfen von zwei W¨ urfeln l¨ aßt sich mit der Abz¨ahlregel feststellen, daß f¨ ur die Augenzahlen X und Y 6 6 1 = · = P (X = i) · P (Y = j) P (X = i, Y = j) = 36 36 36 f¨ ur alle 1 ≤ i, j ≤ 6 gilt. Somit sind X und Y unabh¨angig. Daraus folgt dann auch P (X ∈ A, Y ∈ B) = P (X ∈ A) · P (Y ∈ B) durch Summation u ur alle i und j, die in A ¨ ber die Wahrscheinlichkeiten f¨ und B liegen. Ganz entsprechend erh¨alt man beim n-maligen Werfen eines W¨ urfels die Unabh¨ angigkeit der Zufallsvariablen X1 = “Augenzahl beim ersten Wurf” , . . . , Xn = “Augenzahl beim n-ten Wurf”. Genauso k¨onnen zwei W¨ urfel n-mal hintereinander geworfen werden. Mit Xi , i = 1, . . . , n, sei dann die jeweilige Summe der Augenzahlen bezeichnet. angig. Beispielsweise gilt somit Auch hier sind X1 , . . . , Xn unabh¨ 1 P (Xi ≤ 4) = P (Xi = 2) + P (Xi = 3) + P (Xi = 4) = 6 und n 1 P (X1 ≤ 4, X2 ≤ 4, . . . , Xn ≤ 4) = . 6 2
5.2 Verteilungen und Parameter von diskreten Zufallsvariablen
241
Gut/Schlecht-Pr¨ ufung in der Qualit¨ atssicherung
Beispiel 5.8
Bei der Fertigung von elektronischen Bauteilen werden zur Qualit¨atssicherung zuf¨allig n Bauteile aus der laufenden Produktion entnommen und daraufhin u uft, ob sie den ¨ berpr¨ Qualit¨ atsanforderungen gen¨ ugen (gut) oder nicht (schlecht). Die bin¨aren Variablen
1 , falls das i-te Bauteil gut ist Xi = 0 , falls das i-te Bauteil schlecht ist indizieren die m¨ oglichen Ergebnisse der Stichprobe. Falls die Fertigung der Bauteile unabh¨ angig und mit gleichbleibender Qualit¨ at, d.h. gleichbleibenden Wahrscheinlichkeiten ur “gut”, erfolgt, kann man annehmen, daß die Zufallsstichprobe eine P (Xi = 1) = π f¨ Bernoulli-Kette bildet und die Zufallsvariablen X1 , . . . , Xn unabh¨angig und identisch mit P (Xi = 1) = π , P (Xi = 0) = 1 − π verteilt sind.
2
Zufallsstichproben aus einer endlichen Grundgesamtheit
Beispiel 5.9
In einer endlichen Grundgesamtheit vom Umfang N interessiere ein bin¨ares Merkmal X, etwa die Pr¨ aferenz (ja/nein) f¨ ur einen B¨ urgermeisterkandidaten einer Stadt oder das Vorhandensein einer Zentralheizung (ja/nein) in den mietspiegelrelevanten Wohnungen einer Stadt. In einer Wahlumfrage werden n = 500 verschiedene Personen zuf¨allig ausgew¨ahlt und befragt, ob sie den B¨ urgermeisterkandidaten pr¨aferieren oder nicht. Wir unterstellen damit, daß es sich um eine Zufallsstichprobe ohne Zur¨ ucklegen handelt, vgl. Abschnitt 4.3. Mit Ai , i = 1, 2, . . . , n, bezeichnen wir das Ereignis, daß die i-te Person mit ja antwortet, und mit Xi , i = 1, . . . , n, die zugeh¨ origen Indikatorvariablen. Bildet die Folge der Ereignisse A1 , A2 , . . . , An bzw. der Indikatorvariablen X1 , X2 , . . . , Xn eine Bernoulli-Kette? Die Antwort ist: fast, aber nicht exakt. Nehmen wir an, daß die Grundgesamtheit (alle Wahlberechtigten) den Umfang N = 900000 habe, und daß davon M = 300000 den Kandidaten w¨ahlen werden. Die Wahrscheinlichkeit P (X1 = 1), daß die erste befragte Person mit ja antwortet, ist dann 300000/900000 = 1/3. Nehmen wir an, die Person antwortet mit ja. Da es sich um eine Stichprobe ohne Zur¨ ucklegen handelt, ist die entsprechende Wahrscheinur die zweite befragte Person 299999/899999, also ebenfalls ann¨ahernd lichkeit P (X2 = 1) f¨ 1/3. Antwortet diese mit nein, erh¨ alt man f¨ ur die n¨achste Person die Wahrscheinlichkeit P (X3 = 1) = 299999/8999998 ≈ 1/3, usw. 2
Bei vielen Zufallsstichproben aus endlichen Grundgesamtheiten liegt eine ¨ahnliche Ziehen ohne Situation vor. Sie entspricht dem Ziehen ohne Zur¨ ucklegen aus einer Urne mit N und Kugeln, davon M schwarzen, vgl. Abschnitt 4.3.2. Wenn der Umfang n der Stichmit Zur¨ ucklegen probe klein ist im Verh¨ altnis zum Umfang N der Grundgesamtheit, ¨andert die Entnahme wenig am Verh¨ altnis M/N . Die Zufallsstichprobe kann dann f¨ ur praktische Zwecke als Bernoulli-Kette betrachtet werden, d.h. wie eine Zufallsstichprobe mit Zur¨ ucklegen, vgl. Abschnitt 4.3.1.
242
5.2.3
Parameter
5. Diskrete Zufallsvariablen
Lageparameter, Quantile und Streuungsparameter einer diskreten Verteilung
Wie sich im vorigen Abschnitt gezeigt hat, besitzen diskrete Verteilungen formal ganz ¨ ahnliche Eigenschaften wie empirische Verteilungen. Dies gilt auch f¨ ur Parameter von Verteilungen, die z.B. die Lage oder die Variabilit¨at beschreiben: Die in Abschnitt 2.2 behandelten Parameter von empirischen Verteilungen finden ihre Entsprechung f¨ ur Verteilungen von Zufallsvariablen im wesentlichen dadurch, daß relative H¨ aufigkeiten oder Anteile durch Wahrscheinlichkeiten ersetzt werden. Erwartungswert Der Erwartungswert einer diskreten Zufallsvariable wird analog dem arithmetischen Mittel einer empirischen Verteilung gebildet und ist eine Maßzahl f¨ ur das Zentrum einer Verteilung. Die Definition entspricht formal der des arithmetischen Mittels in der gewichteten Form x ¯ = a1 f1 + . . . + ak fk , indem man a1 , . . . , ak durch die m¨oglichen Werte x1 , . . . , xk , . . . und die relativen H¨aufigkeiten f1 , . . . , fk durch die Wahrscheinlichkeiten p1 , . . . , pk , . . . ersetzt. Erwartungswert einer diskreten Zufallsvariable Der Erwartungswert E(X) einer diskreten Zufallsvariable mit den Werten x1 , . . ., xk , . . . und der Wahrscheinlichkeitsverteilung p1 , . . . , pk , . . . ist xi pi . E(X) = x1 p1 + . . . + xk pk + . . . = i≥1
Mit der Wahrscheinlichkeitsfunktion f (x) l¨aßt sich E(X) in der a¨quivalenten Form xi f (xi ) E(X) = x1 f (x1 ) + . . . + xk f (xk ) + . . . = i≥1
schreiben. Statt E(X) findet auch das Symbol μX oder einfach μ Verwendung. Der Erwartungswert einer diskreten Zufallsvariable ist also ein mit den Wahrscheinlichkeiten pi gewichtetes Mittel der m¨oglichen Werte xi von X. Wie das arithmetische Mittel ist der Erwartungswert f¨ ur metrische Variablen sinnvoll definiert, nicht jedoch f¨ ur qualitative Merkmale. ¨ Trotz der formalen Ahnlichkeit von Erwartungswert und arithmetischem Mittel ist deren Funktion deutlich zu unterscheiden. W¨ahrend das arithmetische Mittel die Lage von Daten charakterisiert, gibt der Erwartungswert die Lage der Verteilung
5.2 Verteilungen und Parameter von diskreten Zufallsvariablen
243
wieder, ohne daß das Experiment durchgef¨ uhrt wird, d.h. es liegen keine Daten vor. Es wird nur das potentielle Ergebnis eines Zufallsexperiments reflektiert. Erwartungswert und arithmetisches Mittel E(X) x ¯
charakterisiert das Verhalten eines Zufallsexperiments beschreibt den Schwerpunkt von Daten
Analoge Unterschiede gelten f¨ ur alle im folgenden behandelten Kennwerte von Zufallsvariablen und deren Entsprechungen bei der Datenbeschreibung in Kapitel 2. Wie Wahrscheinlichkeiten l¨ aßt sich der Erwartungswert objektiv oder subjektiv interpretieren. Die folgenden Beispiele zeigen, daß in Spiel- bzw. Verlust-GewinnSituationen der Erwartungswert als durchschnittlicher Gewinn pro Spiel auf lange Sicht objektiv interpretiert werden kann. Werfen von M¨ unzen und W¨ urfeln
Beispiel 5.10
Beim Werfen einer M¨ unze erh¨ alt Spieler A von Spieler B eine Geldeinheit, z.B. e 1.-, falls Zahl oben liegt. Ansonsten muß A an B eine Geldeinheit zahlen. Die Zufallsvariable X = “Gewinn/Verlust f¨ ur A bei einem Wurf” besitzt die Werte +1 und −1, die jeweils mit P (X = +1) = P (X = −1) = 1/2 auftreten k¨ onnen. Der Erwartungswert ist E(X) = +1 ·
1 1 −1· = 0. 2 2
Der durchschnittliche Gewinn f¨ ur A nach n Spielen ist +1 · fn (1) − 1 · fn (−1) , wobei fn (1) und fn (−1) die relativen H¨ aufigkeiten der Ergebnisse Zahl bzw. Wappen sind. F¨ ur großes n ist nach der H¨ aufigkeitsinterpretation von Wahrscheinlichkeiten fn (1) ≈ 1/2 und fn (−1) ≈ 1/2, also liegt der durchschnittliche Gewinn etwa bei E(X) = 0. Nehmen wir nun an, daß eine andere M¨ unze zur Verf¨ ugung steht, von der Spieler A glaubt, daß die Wahrscheinlichkeit f¨ ur Zahl wegen einer Unsymmetrie bei 0.6 liege. Dann gilt P (X = 1) = 0.6, P (X = −1) = 0.4 und E(X) = 1 · 0.6 − 1 · 0.4 = 0.2 . Auch bei einem nur einmaligen Werfen w¨ are es f¨ ur den Spieler A eine subjektiv richtige, rationale Entscheidung mit dieser M¨ unze zu werfen, da die Gewinnerwartung positiv ist. F¨ ur die Zufallsvariable X = “Augenzahl beim einmaligen Werfen eines W¨ urfels” ist E(X) = 1 ·
1 1 1 1 1 1 + 2 · + 3 · + 4 · + 5 · + 6 · = 3.5 6 6 6 6 6 6
244
5. Diskrete Zufallsvariablen
gleich dem arithmetischen Mittel der Augenzahlen. Wir k¨onnen E(X) = 3.5 als zu erwartende durchschnittliche Augenzahl bei einer gr¨oßeren Zahl von W¨ urfen ansehen. W¨ urde man f¨ ur die erzielte Augenzahl bei jedem Wurf eine Geldeinheit bekommen, so w¨are “3.5 × Anzahl der W¨ urfe” der zu erwartende Gewinn. Beim zweimaligen Werfen erh¨alt man f¨ ur X = “Augensumme” ganz analog E(X) = 2 ·
2 6 2 1 1 +3· + ...7 · + . . . 11 · + 12 · = 7. 36 36 36 36 36 2
Beispiel 5.11
Treffer und Nieten F¨ ur die Zufallsvariable X = “Anzahl der Treffer” erh¨alt man mit der Wahrscheinlichkeitstabelle von Beispiel 5.6 (Seite 232) E(X) = 0 · 0.512 + 1 · 0.384 + 2 · 0.096 + 3 · 0.008 = 0.6 . Die erwartete Anzahl von Treffern ist also 0.6, ein Wert der bei dreimaliger Ausspielung selbst nicht auftreten kann. Erh¨ alt der Spieler jedoch – abz¨ uglich des Einsatzes – pro Treffer e 10.-, so kann er einen Gewinn von e 6.- erwarten. Wir bemerken noch, daß E(X) = 0.6 gerade gleich der dreifachen Trefferwahrscheinlichkeit von 0.2 in jeder der drei Ausspielungen ist. Diese Eigenschaft gilt auch allgemeiner f¨ ur binomialverteilte Zufallsvariablen, vgl. Abschnitt 5.3.1. 2
H¨aufigkeitsinterpretation
subjektive Interpretation
Analoge Interpretationen objektiver oder subjektiver Art sind auch in anderen Beispielen m¨ oglich, wenn X eine metrische Zufallsvariable ist. Die H¨ aufigkeitsinterpretation des Erwartungswertes l¨aßt sich allgemein so beschreiben: Der X zugrundeliegende Zufallsvorgang werde n mal unabh¨angig voneinander durchgef¨ uhrt. Dabei werden die n Realisierungen x1 , . . . , xn von X beobachtet. Dann liegt das arithmetische Mittel x ¯ mit hoher Wahrscheinlichkeit bei μ = E(X). Dabei geht die Wahrscheinlichkeit gegen 1 wenn n sehr groß ist. Dieses “Gesetz der großen Zahlen” wird in Abschnitt 7.1 formal behandelt. Somit kann E(X) als der Wert interpretiert werden, der sich im Durchschnitt ergibt. F¨ ur eine subjektive Interpretation kann man sich pi als das “Gewicht” vorstellen, das dem Wert xi zukommt, da man diesen mit Wahrscheinlichkeit pi = P (X = xi ) erwartet. F¨ ur X erwartet man dann die Summe der gewichteten Werte xi pi . Diese subjektive Interpretation entspricht folgender physikalischer Analogie: Auf der xAchse als Waagebalken sitzen auf den Stellen xi Gewichte pi mit der Summe 1. Dann ist E(X) = x1 p1 + . . . + xk pk gerade der Gleichgewichtspunkt des Waagebalkens oder der Schwerpunkt der Verteilung der Gewichte.
5.2 Verteilungen und Parameter von diskreten Zufallsvariablen
245
Dagegen ist die Bildung von E(X) nicht sinnvoll, wenn die Zufallsvariable X nur bin¨are nominal- oder ordinalskaliert ist. Eine Ausnahme bilden bin¨ are Zufallsvariablen mit Zufallsvariablen P (X = 1) = π, P (X = 0) = 1 − π. Dann ist nach Definition E(X) = 1 · π + 0 · (1 − π) = π = P (X = 1) . Am folgenden Beispiel der geometrischen Verteilung erkennt man, daß die Bestimmung des Erwartungswertes f¨ ur unendlich-diskrete Zufallsvariablen i.a. mehr mathematischen Aufwand erfordert. Geometrische Verteilung
Beispiel 5.12
Gem¨ aß Definition gilt E(X) =
∞ x=1
xf (x) =
∞
x(1 − π)x−1 π .
x=1
Die direkte Berechnung dieser Reihe ist zwar m¨oglich, aber aufwendig und umst¨andlich. Es ergibt sich jedoch das einfache Resultat E(X) =
1 . π
Statt den formalen Beweis zu f¨ uhren, machen wir uns dieses Ergebnis folgendermaßen plausibel: Nach der H¨ aufigkeitsinterpretation ist π die durchschnittliche “Trefferquote” mit der das interessierende Ereignis bei einem Bernoulli-Experiment eintritt. Daher wird man im Durchschnitt 1/π Bernoulli-Experimente warten m¨ ussen, bis das Ereignis zum ersten Mal eintritt. Zum Beispiel betr¨ agt die Wahrscheinlichkeit f¨ ur sechs Richtige im Lotto π = 1/13983816, so daß man im Schnitt 13983816 mal tippen muß, bevor man zum ersten Mal sechs Richtige hat. 2
Wir halten noch einige Eigenschaften von Erwartungswerten fest, die insbesondere auch bei ihrer Berechnung n¨ utzlich sind. F¨ ur eine reelle Funktion g(x) ist mit X auch Y = g(X) eine Zufallsvariable. Der Tr¨ ager von Y besteht aus den transformierten Werten y = g(x), wobei x aus dem Tr¨ager von X ist. Dabei kann es vorkommen, daß verschiedene x-Werte den gleichen y-Wert ergeben, beispielsweise f¨ uhrt Quadrieren von ±x zum gleichen Wert y = x2 . Zur Berechnung von P (Y = y) muß man die Wahrscheinlichkeiten f¨ ur alle Werte xi aufsummieren, f¨ ur die y = g(xi ) gilt: pi . P (Y = y) = i:g(xi )=y
Diese Berechnung kann recht m¨ uhsam sein. Dagegen l¨aßt sich der Erwartungswert E(Y ) einfacher mit Hilfe der Verteilung von X bestimmen:
Eigenschaften von Erwartungswerten
246
5. Diskrete Zufallsvariablen
Transformationsregel f¨ ur Erwartungswerte Sei g(x) eine reelle Funktion. Dann gilt f¨ ur Y = g(X): g(xi )pi = g(xi )f (xi ) . E(Y ) = E(g(X)) = i≥1
i≥1
Zum Beispiel gilt f¨ ur Y = X 2 und eine endlich-diskrete Zufallsvariable X E(X 2 ) = x21 p1 + . . . + x2k pk . Speziell f¨ ur die lineare Transformation g(x) = ax + b erhalten wir:
Lineare Transformation von Erwartungswerten F¨ ur Y = aX + b ist E(Y ) = aE(X) + b . Diese Regel entspricht der Regel y¯ = a¯ x + b bei arithmetischen Mitteln. Sie folgt aus yi = axi + b, P (Y = yi ) = P (X = xi ) = pi und i pi = 1: E(Y ) =
i
y i pi =
i
axi pi +
bpi = a
i
xi pi + b
i
pi = aE(X) + b .
i
Besonders einfach ist die Bestimmung des Erwartungswerts, wenn die Wahrscheinlichkeitsfunktion symmetrisch um einen Punkt ist, d.h. wenn es einen Punkt c gibt, f¨ ur den f (c+x) = f (c−x) f¨ ur alle x gilt. Ein Beispiel hierf¨ ur sind die Wahrscheinlichkeitsfunktionen f¨ ur die Augenzahl bzw. Augensumme beim zweimaligen W¨ urfeln.
Erwartungswert von symmetrischen Verteilungen Ist die Wahrscheinlichkeitsfunktion f (x) symmetrisch um c, so ist E(X) = c . Dies folgt der Definition des Erwartungswertes: l¨aßt sich in der i xi pi direkt aus Form j (c− xj )pj + j (c+ xj )pj schreiben, so daß sich i xi pi = c i pi = c ergibt. Sehr einfach kann man den Erwartungswert der Summe von zwei oder mehr Zufallsvariablen als Summe der einzelnen Erwartungswerte angeben:
5.2 Verteilungen und Parameter von diskreten Zufallsvariablen
247
Erwartungswert der Summe von Zufallsvariablen F¨ ur zwei Zufallsvariablen X und Y ist E(X + Y ) = E(X) + E(Y ) . Allgemeiner gilt mit beliebigen Konstanten a1 , . . . , an E(a1 X1 + . . . + an Xn ) = a1 E(X1 ) + . . . + an E(Xn ) . Die erste Formel dr¨ uckt das plausible Ergebnis aus, daß der Erwartungswert der Summe von Zufallsvariablen gleich der Summe der jeweiligen Erwartungswerte ist. Beispielsweise k¨ onnte X bzw. Y die Dauer in Stunden f¨ ur zwei Arbeitsvorg¨ange sein. Im Durchschnitt wird die Gesamtdauer X + Y gerade gleich der Summe der durchschnittlichen Teildauern sein. Dabei d¨ urfen X und Y durchaus voneinander abh¨angig sein. Ein formaler Beweis ist notationell aufwendig. Man macht sich die G¨ ultigkeit leichter an einem Spezialfall, z.B. f¨ ur zwei bin¨are Zufallsvariablen, klar. Die allgemeinere Formel f¨ ur die gewichtete Summe a1 X1 + . . . + an Xn zeigt, daß die Erwartungswertbildung additiv und linear ist. Sie l¨aßt sich durch wiederholtes Anwenden der ersten Formel in Kombination mit der Regel f¨ ur Lineartransformationen zeigen. F¨ ur das Produkt von Zufallsvariablen gilt i.a. keine a¨hnlich einfache Regel. Vielmehr ben¨otigt man dazu die Unabh¨ angigkeit der Zufallsvariablen. Produktregel f¨ ur unabh¨ angige Zufallsvariablen F¨ ur zwei unabh¨ angige diskrete Zufallsvariablen X und Y gilt E(X · Y ) = E(X) · E(Y ) . Beim zweimaligen W¨ urfeln gilt also f¨ ur das Produkt der Augenzahl X · Y E(X · Y ) = E(X) · E(Y ) =
49 7 7 · = . 2 2 4
Eine direkte Berechnung w¨ are m¨ uhsam.
5.2.4
Weitere Lageparameter
Die Definition weiterer Lageparameter erfolgt in v¨olliger Analogie zu entsprechenden Definitionen f¨ ur empirische Verteilungen in Abschnitt 2.2, indem man relative H¨ aufigkeiten durch Wahrscheinlichkeiten ersetzt.
Additivit¨at Linearit¨at
Unabh¨angigkeit
248
Modus
Median Quantile
5. Diskrete Zufallsvariablen
So ist der Modus xmod ein Wert x f¨ ur den die Wahrscheinlichkeitsfunktion f (x) = P (X = x) maximal wird. F¨ ur symmetrische Verteilungen mit einem eindeutigen Modus, beispielsweise beim zweimaligen W¨ urfeln, gilt E(X) = xmod . ¨ Median und Quantile setzen ordinales Skalenniveau voraus. Ubertr¨ agt man die Definition aus Abschnitt 2.2.2, so erh¨alt man: Jeder Wert xp mit 0 < p < 1 f¨ ur den P (X ≤ xp ) = F (xp ) ≥ p und P (X ≥ xp ) ≥ 1 − p gilt, heißt p-Quantil der diskreten Zufallsvariable X mit Verteilungsfunktion F (x). F¨ ur p = 0.5 heißt x0.5 Median. Bei dieser Definition treten die gleichen Schwierigkeiten auf wie bei der Definition ur den Median, von empirischen Quantilen: xp ist nicht immer eindeutig. Dies wird f¨ d.h. f¨ ur p = 0.5, in der folgenden Abbildung 5.11 veranschaulicht. F (x)6 1
1 2
F (x)6 1
-
1 2
-
?
x0.5
-
x
? -?
-
x
Abbildung 5.11: Eindeutiger Median (links) und nicht eindeutiger Median (rechts)
Falls F (x) den Wert 0.5 u ¨ berspringt (Abb. 5.11, links) so ist der Median eindeutig. Nimmt jedoch wie in Abbildung 5.11 (rechts) F (x) den Wert 0.5 an, so erf¨ ullt jeder x-Wert in dem zur Treppe geh¨origen Intervall die Definition. Man kann z.B. wie in Abschnitt 2.2.2 den Mittelpunkt des Intervalls als eindeutigen Median w¨ahlen oder auch den linken Randpunkt. Bei der zweiten Festlegung erreicht man, ¨ daß der Median zum Tr¨ ager der Verteilung geh¨ort. Die gleichen Uberlegungen gelten entsprechend f¨ ur beliebige Quantile. Varianz und Standardabweichung Varianz und Standardabweichung sind die wichtigsten Streuungsparameter einer diskreten Zufallsvariable. Sie sind in Analogie zu den entsprechenden empirischen Maßzahlen definiert und setzen metrisch skalierte Zufallsvariablen voraus. Wir ersetzen dazu in Abschnitt 2.2 Auspr¨ agungen a1 , . . . , ak , . . . durch x1 , . . . , xk , . . ., relative ¯ durch H¨aufigkeiten f1 , . . . , fk , . . . durch p1 , . . . , pk , . . . und das arithmetische Mittel x den Erwartungswert μ = E(X).
5.2 Verteilungen und Parameter von diskreten Zufallsvariablen
249
Varianz und Standardabweichung einer diskreten Zufallsvariable Die Varianz einer diskreten Zufallsvariable ist σ 2 = Var(X) = (x1 − μ)2 p1 + . . . + (xk − μ)2 pk + . . . (xi − μ)2 f (xi ) . = i≥1
Die Standardabweichung ist $ σ = + Var(X) .
F¨ uhrt man die Zufallsvariable (X − μ)2 ein, so l¨aßt sich die Varianz gem¨aß dieser Definition auch in der folgenden Form schreiben:
Varianz als erwartete quadratische Abweichung Var(X) = E(X − μ)2
Damit kann sie als die zu erwartende quadratische Abweichung der Zufallsvariable X von ihrem Erwartungswert interpretiert werden. In der H¨ aufigkeitsinterpretation von Erwartungswerten bedeutet dies, daß bei n unabh¨angigen Wiederholungen von X mit den Werten x1 , . . . , xn die durchschnittliche quadrierte Abweichung
H¨aufigkeitsinterpretation
1 (xi − x ¯)2 n n
s˜2 =
i=1
f¨ ur große n mit hoher Wahrscheinlichkeit nahe bei σ 2 liegen wird. ¨ Ahnlich wie beim Erwartungswert muß man bei unendlich-diskreten Zufallsvariablen voraussetzen, daß die auftretenden Summen einen endlichen Wert ergeben. Aus der Definition ergibt sich, daß V ar(X) ≥ 0 ist und daß V ar(X) = 0 genau dann gilt, wenn X nur den einen Wert x = μ annehmen kann. Eine solche “Zufallsvariable” ist deterministich, also eine feste Zahl μ. Ihre Varianz ist gleich null und ihre Verteilung heißt “entartet”, da P (X = x) = 0 f¨ ur alle x = μ gilt. F¨ ur Varianzen gelten in Analogie zu empirischen Varianzen die Verschiebungsregel und die Regel f¨ ur lineare Transformationen. Diese Regeln sind zum Berechnen von Varianzen oft hilfreich.
entartete Zufallsvariable
250
5. Diskrete Zufallsvariablen
Verschiebungsregel Var(X) = E(X 2 ) − (E(X))2 = E(X 2 ) − μ2 bzw. allgemeiner
Var(X) = E((X − c)2 ) − (μ − c)2 .
Die einfachere Form der Verschiebungsregel ergibt sich aus der allgemeinen Regel f¨ ur c = 0. Der Beweis erfolgt direkt in Analogie zum Beweis des Verschiebungssatzes in Abschnitt 2.2.3 oder so: Var(X) = E(X − μ)2 = E(X 2 − 2μX + μ2 ) . Wegen der Linearit¨ at des Erwartungswertes folgt Var(X) = E(X 2 ) − 2μE(X) + μ2 = E(X 2 ) − 2μ2 + μ2 = = E(X 2 ) − μ2 . Die Verschiebungsregel vereinfacht das Berechnen der Varianz, wenn vorher bereits der Erwartungswert berechnet wurde. Man bildet dann die Tabelle p x x2
p1 x1 x21
... ... ...
pi xi x2i
... ... ...
pk xk x2k
... ... ...
xi pi = μ 2 xi pi = E(X 2 )
und berechnet daraus die Varianz. Lineare Transformation F¨ ur Y = aX + b ist Var(Y ) = Var(aX + b) = a2 Var(X)
und σY = |a|σX .
Man kann dies wieder ¨ ahnlich wie f¨ ur empirische Varianzen zeigen oder wie folgt: Var(aX + b) = E(aX + b − aμ − b)2 = E(aX − aμ)2 = = a2 E((X − μ)2 ) = a2 Var(X) ,
unabh¨angig
wobei die Linearit¨ at des Erwartungswertes ausgenutzt wurde. F¨ ur die Summe von Zufallsvariablen erh¨alt man eine a¨hnlich einfache Regel, wie f¨ ur Erwartungswerte, wenn die Variablen unabh¨angig sind. Ohne diese Vorausset-
5.2 Verteilungen und Parameter von diskreten Zufallsvariablen
251
zung gelten die folgenden Formeln i.a. nicht. Varianz der Summe von unabh¨ angigen Zufallsvariablen F¨ ur unabh¨angige Zufallsvariablen X und Y bzw. X1 , . . . , Xn gilt Var(X + Y ) = Var(X) + Var(Y ) und mit beliebigen Konstanten a1 , . . . , an Var(a1 X1 + . . . + an Xn ) = a21 Var(X1 ) + . . . + a2n Var(Xn ) . Der Beweis der ersten Formel ist aufwendig. Die zweite ergibt sich daraus in Kombination mit der Regel f¨ ur lineare Transformationen. Bin¨ are Zufallsvariablen
Beispiel 5.13
F¨ ur bin¨ are Null-Eins-Variablen mit P (X = 1) = π, P (X = 0) = 1 − π gilt E(X) = π. F¨ ur E(X 2 ) erh¨ alt man E(X 2 ) = 02 (1 − π) + 12 · π = π , und mit der Verschiebungsregel ergibt sich Var(X) = π − π 2 = π(1 − π) . Man kann X als metrische Zufallsvariable interpretieren: X z¨ahlt, mit den Werten 0 oder 1, das Eintreten von A bei einmaliger Durchf¨ uhrung des Zufallsvorgangs. Die Varianz π(1 − π) ist klein, wenn π = E(X) nahe bei 0 oder 1 liegt, d.h. wenn die Wahrscheinlichkeit f¨ ur A gering oder groß ist. V ar(X) wird am gr¨oßten (= 0.25) f¨ ur π = 0.5, d.h. wenn die Unsicherheit, ob A oder A¯ eintritt, am gr¨ oßten ist. 2
W¨ urfeln
Beispiel 5.14
Beim einmaligen W¨ urfeln mit X = “Augenzahl” gilt nach Beispiel 5.10 (Seite 243) E(X) = 7/2. Mit der Verschiebungsregel erhalten wir Var(X) = (12 + 22 + . . . + 62 ) ·
1 − 6
2 7 70 91 49 − = = 2.92 . = 2 6 4 24
Betrachten wir zum Vergleich eine Zufallsvariable Y , die nur die Werte 1 und 6 jeweils mit Wahrscheinlichkeit P (Y = 1) = P (Y = 6) = 1/2 annimmt. Dann gilt E(Y ) = 7/2 wie bei X, jedoch ist 2 1 2 7 37 49 2 Var(Y ) = (1 + 6 ) − − = 6.25 , = 2 2 2 4
252
5. Diskrete Zufallsvariablen
d.h. Y hat eine gr¨ oßere Varianz als X, da die Werte von Y im Mittel weiter ((6 − 3.5)2 = 2 (1 − 3.5) = 6.25) von μ = 7/2 liegen. Beim zweimaligen W¨ urfeln mit X = “Augensumme” kann man analog, aber m¨ uhsam Var(X) = (22 ·
1 1 2 2 35 + 32 · + . . . + 112 · + 122 ) − 72 = 36 36 36 36 6
berechnen. Die gleiche Zahl ergibt sich jedoch wesentlich einfacher durch die Regel f¨ ur die Varianz einer Summe von unabh¨ angigen Zufallsvariablen: Wenn X1 die Augenzahl beim ersten Wurf und X2 die Augenzahl beim zweiten Wurf bezeichnet, so sind X1 und X2 unabh¨angig, und es ist X = X1 + X2 die Augensumme. Damit gilt Var(X) = Var(X1 ) + Var(X2 ) =
35 70 70 + = . 24 24 6 2
Beispiel 5.15
Geometrische Verteilung F¨ ur eine geometrisch verteilte Zufallsvariable X gilt E(X) = 1/π. Die Berechnung der Varianz ist ebenfalls aufwendig. Es l¨ aßt sich zeigen, daß Var(X) =
1−π π2 2
gilt.
5.3
parametrische Verteilungen
Spezielle diskrete Verteilungsmodelle
Dieser Abschnitt beschreibt einige weitere diskrete Verteilungen, die h¨aufig zur Modellierung von Zufallsvorg¨ angen und zur Datenanalyse mittels induktiver Statistik eingesetzt werden. Zwei o ¨fter verwendete spezielle Verteilungen haben wir bereits im vorangehenden Abschnitt kennengelernt: die diskrete Gleichverteilung und die geometrische Verteilung. Dabei handelt es sich jeweils um eine Familie von parametrischen Verteilungen: Die Wahrscheinlichkeitsfunktion h¨angt noch von einem oder auch mehreren Parametern ab, wie etwa von der Erfolgswahrscheinlichkeit π bei der geometrischen Verteilung. Erst wenn f¨ ur die Parameter numerische Werte eingesetzt werden, ist die Wahrscheinlichkeitsfunktion eindeutig festgelegt. In Anwendungen ¨ werden die Parameterwerte so festgelegt, daß eine m¨oglichst gute Ubereinstimmung mit einer aus Daten gewonnenen empirischen Verteilung erzielt wird, siehe dazu Kapitel 9.
5.3 Spezielle diskrete Verteilungsmodelle
253
Damit wird auch der Modellcharakter spezieller parametrischer Verteilungen Modellcharakter deutlich: In der Regel gelingt es nur in einfachen Situationen und unter gewissen Idealisierungen, etwa bei Gl¨ ucksspielen, durch logische Kausalschl¨ usse zu zeigen, daß eine bestimmte Verteilung dem Sachverhalt exakt angepaßt ist. Meistens l¨aßt sich nur feststellen, auch mit Mitteln der Statistik, ob eine gew¨ahlte Verteilung dem Sachverhalt und den Daten gut oder schlecht angepaßt ist.
5.3.1
Die Binomialverteilung
Mit der in den Beispielen 5.6 (Seite 232) und 5.11 (Seite 244) betrachteten Anzahl von Treffern wurde bereits exemplarisch eine spezielle, binomialverteilte Zufallsvariable betrachtet. Im folgenden werden die dabei erhaltenen Ergebnisse und Eigenschaften allgemein formuliert. Wir betrachten eine Bernoulli-Kette von n-mal wiederholten Bernoulli-Experimenten mit π = P (A) f¨ ur das interessierende Ereignis und der Folge A1 , A2 , . . . , An von unabh¨angigen Ereignissen. Dabei steht Ai f¨ ur das Eintreten von A im i-ten Versuch. Zur Bernoulli-Kette definieren wir die Zufallsvariable X = “Anzahl der Versuche, bei denen A eintritt” . Einfache Beispiele hierf¨ ur sind das wiederholte Werfen von M¨ unzen bzw. W¨ urfeln, wobei X z¨ahlt wie oft “Kopf” bzw. “Sechs” auftritt. Das Standardmodell f¨ ur eine Bernoulli-Kette ist das Ziehen mit Zur¨ ucklegen aus einer Urne, die N Kugeln, darunter M schwarze, enth¨ alt. Daraus werden zuf¨allig und mit Zur¨ ucklegen nacheinander n Kugeln gezogen. Die Ereignisse Ai “Bei der i-ten Ziehung wird eine schwar¨ ze Kugel gezogen” sind dann unabh¨ angig und es ist P (Ai ) = M/N = π. Ahnliche Zufallsvorg¨ange treten bei vielen Gl¨ ucksspielen, aber auch beim zuf¨alligen Ziehen mit Zur¨ ucklegen aus einer endlichen Grundgesamtheit auf. Auch bei der laufenden Gut/Schlecht-Pr¨ ufung im Beispiel 5.8 (Seite 241) kann man oft von einer BernoulliKette ausgehen, bei der X die Anzahl defekter St¨ ucke bedeutet. Das Beispiel 5.9 (Seite 241) zeigt, daß auch bei zuf¨ alligem Ziehen ohne Zur¨ ucklegen angen¨ahert eine Bernoulli-Kette vorliegt, wenn das Verh¨ altnis n/N klein ist. Die Zufallsvariable X ist somit bei vielen Z¨ ahlvorg¨ angen von Bedeutung. Die Wahrscheinlichkeitsfunktion von X l¨aßt sich (in Verallgemeinerung der ¨ Uberlegungen in Beispiel 5.6, Seite 232) folgendermaßen ableiten: Der Tr¨ager von X ist T = {0, 1, . . . , n}. Das Ereignis {X = x} resultiert z. B. f¨ ur die Ereignisfolge A1 A2 · · · Ax A¯x+1 · · · A¯n , bei der in der Bernoulli-Kette zuerst x-mal das Ereignis A und anschließend (n − x)-
Urnenmodell Ziehen mit Zur¨ ucklegen
Ziehen ohne Zur¨ ucklegen
254
5. Diskrete Zufallsvariablen
mal A¯ auftritt. Wegen der Unabh¨angigkeit der einzelnen Versuche gilt − π) · . . . · (1 − π) = P (A1 A2 · · · Ax A¯x+1 · · · A¯n ) = π " · .#. . · π! (1 " # ! x−mal (n−x)−mal = π x (1 − π)n−x . Das Ereignis {X = x} tritt aber auch ein, wenn x-mal A und (n − x)-mal A¯ in irgendeiner anderen Reihenfolge erscheinen. Die Wahrscheinlichkeit ist dabei jeweils ebenfalls π x (1 − π)n−x . Insgesamt gibt es nach Abschnitt 4.3 genau nx verschiedene derartige Reihenfolgen. Damit folgt n x P (X = x) = π (1 − π)n−x , x = 0, 1, . . . , n . x Man nennt eine Zufallsvariable mit dieser Wahrscheinlichkeitsfunktion binomialverteilt. Binomialverteilung Eine Zufallsvariable heißt binomialverteilt mit den Parametern n und π, kurz X ∼ B(n, π), wenn sie die Wahrscheinlichkeitsfunktion
n x n−x , x = 0, 1, . . . , n x π (1 − π) f (x) = 0 , sonst besitzt. Die Verteilung heißt Binomialverteilung oder kurz B(n, π)-Verteilung. Sie ergibt sich, wenn aus n unabh¨angigen Wiederholungen eines BernoulliExperiments mit konstanter Wahrscheinlichkeit π die Summe der Treffer gebildet wird. Die folgende Abbildung 5.12 zeigt f¨ ur n = 10 zu verschiedenen Werten von π die Wahrscheinlichkeitshistogramme der Binomialverteilung. Man erkennt, daß die Verteilung f¨ ur π < 0.5 linkssteil ist und zwar umso deutlicher, je kleiner π ist. F¨ ur π = 0.5 ist die Verteilung symmetrisch zum Wert x = nπ. F¨ ur π > 0.5 erh¨ alt man rechtssteile Verteilungen als “Spiegelbild” zu entsprechenden linkssteilen Verteilungen (etwa π = 0.25 und π = 0.75). F¨ ur gr¨ oßeres n l¨ aßt sich das Wahrscheinlichkeitshistogramm gut durch die Dichtekurve einer Normalverteilung mit μ = nπ und σ 2 = nπ(1 − π) approximieren, siehe die Abbildungen 5.13. Diese Approximation ist umso besser, je n¨aher π bei 0.5 liegt, und wird schlechter, je n¨ aher π bei 0 oder 1 liegt. Die theoretische Rechtfertigung liefert der zentrale Grenzwertsatz aus Abschnitt 7.1.2.
5.3 Spezielle diskrete Verteilungsmodelle
255
π = 0.1
π = 0.25
0.4 6
0.4 6
0.3
0.3
0.2
0.2
0.1
0.1
-
0
-
0
0 1 2 3 4 5 6 7 8 9 10
0 1 2 3 4 5 6 7 8 9 10
π = 0.5
π = 0.75
0.4 6
0.4 6
0.3
0.3
0.2
0.2
0.1
0.1
-
0
0 1 2 3 4 5 6 7 8 9 10
-
0
0 1 2 3 4 5 6 7 8 9 10
Abbildung 5.12: Wahrscheinlichkeitshistogramme von Binomialverteilungen f¨ ur n = 10
Erwartungswert und Varianz der B(n, π)-Verteilung lassen sich leicht berechnen, wenn man die unabh¨ angigen Indikatorvariablen
1 , falls beim i-ten Versuch A eintritt Xi = 0 , falls beim i-ten Versuch A nicht eintritt , i = 1, . . . , n, einf¨ uhrt. F¨ ur diese gilt P (Xi = 1) = π ,
P (Xi = 0) = 1 − π ,
E(Xi ) = π ,
Var(Xi ) = π(1 − π) .
Jedes Xi ist also binomialverteilt mit n = 1 und π. Offensichtlich l¨aßt sich X in der Summendarstellung X = X1 + . . . + Xn schreiben. Daraus folgt nach den Rechenregeln f¨ ur Erwartungswerte und f¨ ur Varianzen unabh¨angiger Zufallsvariablen E(X) = E(X1 ) + . . . + E(Xn ) = nπ , Var(X) = Var(X1 ) + . . . + Var(Xn ) = nπ(1 − π) .
Summendarstellung
256
5. Diskrete Zufallsvariablen
n = 10, π = 0.1 0.4 6 0.3 0.2 0.1 0
...... .. .. .. ... ... .... ... .... ... .. ... ... ... .... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... . . ... ... .... .. ... .. . . .. .. ... . . ... . . ....... .. . . . . . . ........... ..........
n = 30, π = 0.1 0.24 6 0.18 0.12 0.06
-
-5 -2 1 4 7 10 13 16 19 22 25
n = 10, π = 0.5
n = 30, π = 0.5 0.24 6
0.3
0.1 0
-
-3 -2 -1 0 1 2 3 4 5 6 7
0.4 6
0.2
0
..... .. .. .. ... .. ... .... .... . .. .. .. .... .. .. .. .. ... ... .. ... ... ..... .. .. .. ... .. .. ... ... ... ... ... ... ... .. .. ... .. ... ... ... .. .. ... ... . . ... .. . ... . . . .................. . . ...............
0.18 ............... ... .... .. ... ... .. . ... ... ... .. ... . .. ... . . ... . . ... .. . . ... ... ... . . ... . . ... .. . . ... .. . ..... . . ...... ... . . . . . ........ .... . . . . ............. . . . . . . .......
0.12 0.06
-
0
0 1 2 3 4 5 6 7 8 9 10
.......... ... .... ... ... ... .. . ... ... ... .... ... ... ... . ... . ... .. . ... .. . ... .. . ... . . ... . . . .... . . ........ ... . . . . . . . ..... . ....
-
0 3 6 9 12 15 18 21 24 27 30
Abbildung 5.13: Approximation von Wahrscheinlichkeitshistogrammen durch Dichtekurven der Normalverteilung
Erwartungswert und Varianz einer B(n, π)-verteilten Zufallsvariable X: E(X) = nπ ,
Var(X) = nπ(1 − π) .
Folgende beide Eigenschaften sind oft n¨ utzlich:
Additionseigenschaft Sind X ∼ B(n, π) und Y ∼ B(m, π) unabh¨angig, so ist X + Y ∼ B(n + m, π).
5.3 Spezielle diskrete Verteilungsmodelle
257
Symmetrieeigenschaft Sei X ∼ B(n, π) und Y = n − X. Dann gilt Y ∼ B(n, 1 − π) . Die Summe von unabh¨ angigen binomialverteilten Zufallsvariablen mit gleichem Parameter π ist also wieder binomialverteilt. Die Eigenschaft ergibt sich aus der Darstellung von X und Y als Summe von Indikatorvariablen. Die Symmetrieeigenschaft folgt aus n x n n−x π (1 − π) = (1 − π)n−x π n−(n−x) fX (x) = P (X = x) = x n−x n = (1 − π)y π n−y = P (Y = y) = fY (y) . y Zum praktischen Arbeiten ist die Verteilungsfunktion B(x|n, π) = P (X ≤ x|n, π) =
x
f (t)
t=0
f¨ ur ausgew¨ahlte Werte von π und in der Regel f¨ ur n ≤ 30 tabelliert (Tabelle B). Dabei gen¨ ugt es wegen der Symmetrieeigenschaft, die Tabelle nur f¨ ur π ≤ 0.5 anzulegen. F¨ ur π > 0.5 gilt B(x|n, π) = P (X ≤ x|n, π) = P (Y ≥ n − x|n, 1 − π) = 1 − P (Y ≤ n − x − 1|n, 1 − π) = 1 − B(n − x − 1|n, 1 − π) . Die Wahrscheinlichkeitsfunktion ergibt sich aus den Tabellen durch f (x) = P (X = x) = B(x|n, π) − B(x − 1|n, π) . F¨ ur gr¨oßeres n verwendet man die Approximation durch eine Normalverteilung, vgl. Abschnitt 7.2.
Normalverteilungsapproximation
Treffer und Nieten
Beispiel 5.16
(a) In Beispiel 5.6 (Seite 232) gilt f¨ ur die Anzahl X von Treffern bei drei unabh¨angigen Ausspielungen der Lotterie X ∼ B(3, 0.20). Die in Beispiel 5.6 direkt berechnete Wahrscheinlichkeitsfunktion von X ergibt sich auch aus Tabelle B der Verteilungsfunktion B(x|3, 0.20) dieser Binomialverteilung. Beispielsweise liest man f¨ ur x = 0 P (X = 0) = B(0|3, 0.20) = 0.512
258
5. Diskrete Zufallsvariablen
ab. Mit P (X ≤ 1) = B(1|3, 0.20) = 0.896 erh¨ alt man den Wert P (X = 1) = P (X ≤ 1) − P (X = 0) = 0.896 − 0.512 = 0.384 wie in der Wahrscheinlichkeitstabelle von Beispiel 5.6 (Seite 232). Die Wahrscheinlichkeit P (X ≥ 1), mindestens einen Treffer zu erzielen, ist P (X ≥ 1) = 1 − P (X < 1) = 1 − P (X = 0) = 0.488 . (b) Bei der Produktion eines Massenartikels, etwa von Skiern oder Bauteilen, vgl. Beispiel 5.8 (Seite 241), liege der Anteil einwandfrei produzierter und somit nicht nachzubehandelnder St¨ ucke bei π = 0.90. Aus der laufenden Produktion werden 20 St¨ ucke entnommen. Wenn man wie in Beispiel 5.8 annimmt, daß die Fertigung der einzelnen Skier oder Bauteile unabh¨angig erfolgt, so bildet die Stichprobe eine Bernoulli-Kette, und es gilt f¨ ur die Anzahl X von einwandfreien St¨ ucken X ∼ B(20, 0.90) . ur interessierende Ereignisse zu berechnen, geht Um Wahrscheinlichkeiten, etwa P (X ≤ 18), f¨ man zun¨ achst zur Anzahl Y = n − X nicht einwandfreier St¨ ucke u ¨ ber, da die B(20, 0.90)Verteilung nicht tabelliert ist. F¨ ur Y gilt dann Y ∼ B(20, 0.10) . Damit errechnet man z.B. P (X ≤ 18) = P (Y ≥ 20 − 18) = 1 − P (Y < 2) = 1 − P (Y ≤ 1) = 1 − 0.3917 = 0.6083 , oder P (X = 18) = P (Y = 2) = P (Y ≤ 2) − P (Y ≤ 1) = 0.6769 − 0.3917 = 0.2852 . Die Wahrscheinlichkeit, den Erwartungswert nπ = 20 · 0.90 = 18 zu erhalten, liegt also bei fast 30 %. 2
5.3.2 Urnenmodell ohne Zur¨ ucklegen
Die hypergeometrische Verteilung
Aus einer endlichen Grundgesamtheit von N Einheiten, von denen M eine Eigenschaft A besitzen, wird n-mal rein zuf¨ allig, aber ohne Zur¨ ucklegen gezogen. Im Urnenmodell mit N Kugeln, davon M schwarzen, entspricht dies dem zuf¨alligen
5.3 Spezielle diskrete Verteilungsmodelle
259
n-maligen Ziehen ohne Zur¨ ucklegen. Wir interessieren uns wieder f¨ ur die Zufallsvariable X = “Anzahl der gezogenen Objekte mit der Eigenschaft A” . Falls der Auswahlsatz n/N klein genug ist (Faustregel: n/N ≤ 5 %), ist X n¨ aherungsweise binomialverteilt mit Parametern n und π = M/N . Falls n/N gr¨oßer ist, muß die Verteilung von X exakt bestimmt werden. Dies f¨ uhrt zur hypergeometrischen Verteilung. Zun¨achst geben wir den Wertebereich von X an. Der gr¨oßtm¨ogliche Wert xmax von X ist n, wenn n ≤ M ist, und er ist M , wenn M < n ist. Also ist
Auswahlsatz Faustregel
Wertebereich
xmax = min(n, M ) , ¨ die kleinere der beiden Zahlen n und M . Ahnlich u ¨ berlegt man, daß der kleinstm¨ogliche Wert xmin = max(0, n − (N − M )) ist. Damit besitzt X den Tr¨ ager T = {xmin , . . . , xmax }. Falls n ≤ M und n ≤ M − N gilt, vereinfacht sich der Tr¨ ager zu T = {0, 1, . . . , n}, also dem gleichen Tr¨ager wie bei der Binomialverteilung. Die Wahrscheinlichkeitsverteilung von X l¨aßt sich mit den anschließend angef¨ uhrten kombinatorischen Argumenten herleiten. Hypergeometrische Verteilung Eine Zufallsvariable X heißt hypergeometrisch verteilt mit Parametern n, M und N , kurz X ∼ H(n, M, N ), wenn sie die Wahrscheinlichkeitsfunktion ⎧ M N −M ⎪ ⎪ ⎪ ⎪ x n− x ⎨ , x∈T N f (x) = ⎪ ⎪ n ⎪ ⎪ ⎩ 0 , sonst besitzt. Dabei ist T durch {max(0, n − (N − M )), . . . , min(n, M )} gegeben. Es gilt M M N −n M 1− . E(X) = n , Var(X) = n N N N N −1 Damit besitzt eine H(n, M, N )-verteilte Zufallsvariable den gleichen Erwartungswert wie eine B(n, M/N )-verteilte Zufallsvariable. Jedoch ist die Varianz kleiner, da der sogenannte Korrekturfaktor (N − n)/(N − 1) f¨ ur n > 1 kleiner als 1 ist. Diese Verkleinerung der Varianz ist plausibel, da man ohne Zur¨ ucklegen zieht und
Korrekturfaktor
260
5. Diskrete Zufallsvariablen
somit keine schon gewonnene Information verschenkt. F¨ ur kleine Werte n/N des Auswahlsatzes ist der Korrekturfaktor praktisch gleich 1; die Varianzen sind dann also n¨ aherungsweise gleich. Eine hypergeometrisch verteilte Zufallsvariable l¨aßt sich ebenfalls als Summe X = X1 + . . . + Xn von Indikatorvariablen
Xi =
1 , wenn beim i-ten Ziehen A eintritt 0 , wenn beim i-ten Ziehen A nicht eintritt
darstellen. Vor Beginn der Ziehungen gilt weiterhin Xi ∼ B(1, M/N ) , i = 1, . . . , n , jedoch sind die Indikatorvariablen voneinander abh¨angig. Wegen der Additivit¨at des Erwartungswertes folgt sofort E(X) = E(X1 ) + . . . + E(Xn ) = n
M . N
Die entsprechende Summenformel f¨ ur Varianzen gilt jedoch wegen der Abh¨angigkeit nicht, so daß der Beweis f¨ ur Var(X) aufwendiger wird. Die Wahrscheinlichkeitsfunktion selbst N l¨aßt sich nach der Abz¨ahlregel folgendermaßen ableiten: Insgesamt gibt es n M¨oglichkeiten aus N Kugeln n ohne Zur¨ ucklegen und ohne Beachtung der Reihenfolge zu ziehen. Diesergibt den Nenner. M Um aus M schwarzen Kugeln genau x herauszugreifen, gibt es x M¨oglichkeiten. −M M¨ oglichkeiten, um aus N − M weißen Kugeln genau Genauso verbleiben Nn−x N −M “g¨ unstige” n − x herauszugreifen. Dies ergibt f¨ ur den Z¨ahler insgesamt M x n−x M¨oglichkeiten.
5.3.3
PoissonVerteilung Z¨ahlvorg¨ange
Die Poisson-Verteilung
Binomial- und hypergeometrisch verteilte Zufallsvariablen z¨ahlen, wie oft bei nmaligem Ziehen aus Urnen oder Grundgesamtheiten ein bestimmtes Ereignis A eintritt. Der Wertebereich ist nach oben durch n begrenzt und somit endlich. Die geometrische Verteilung (Abschnitt 5.2) z¨ahlt, wie lange man warten muß, bis ein Ereignis der nat¨ urlichen ZahA zum erstenmal eintritt. Der Wertebereich ist die Menge len und nicht nach oben begrenzt. Die Poisson-Verteilung eignet sich ebenfalls zur Modellierung von Z¨ ahlvorg¨ angen. Dabei werden bestimmte Ereignisse gez¨ahlt, die innerhalb eines festen, vorgegebenen Zeitintervalls eintreten k¨onnen. Die m¨ogliche
5.3 Spezielle diskrete Verteilungsmodelle
261
Anzahl der Ereignisse ist gleichfalls nicht nach oben begrenzt. Zugleich soll die Wahrscheinlichkeit, daß ein Ereignis in einem sehr kleinen Zeitintervall eintritt, ebenfalls sehr klein sein. Beispiele f¨ ur Z¨ ahlvorg¨ ange dieser Art sind die Anzahl von Schadensmeldungen bei einer Sachversicherung innerhalb eines Jahres, die Anzahl von Krankheitsf¨allen einer (seltenen) Krankheit in einem Monat, oder die Anzahl von Kunden, die in einem Monat bei einer Bank einen Kredit beantragen, usw. In Abbildung 5.14 sind die Ereignisse auf der Zeitachse durch Sterne markiert. Als Zeitintervall w¨ ahlen wir das Einheitsintervall [0, 1], was sich durch geeignete Wahl der Zeitskala immer erreichen l¨ aßt. P (genau ein Ereignis in Δt) ≈ λΔt 0
**
* ** *
?
* ** Δt
* * **
*
1
Abbildung 5.14: Ereignisse im Zeitverlauf
Die Markierung durch Sterne auf der Zeitachse unterstellt bereits, daß Ereignisse zu Zeitpunkten oder innerhalb vernachl¨ assigbar kleiner Zeitspannen auftreten. Dies setzen wir im weiteren voraus. Wir interessieren uns somit f¨ ur die Zufallsvariable X = “Anzahl der Ereignisse, die innerhalb des Intervalls [0, 1] eintreten” . Da keine obere Schranke f¨ ur X bekannt oder aber sehr groß ist, nehmen wir als ur den Z¨ahlvorgang Wertebereich von X die Zahlen 0 = {0, 1, 2, . . .} an. Falls f¨ folgende Annahmen zutreffen, ergibt sich f¨ ur X eine Poisson-Verteilung: 1. Zwei Ereignisse k¨ onnen nicht genau gleichzeitig auftreten. 2. Die Wahrscheinlichkeit, daß ein Ereignis w¨ahrend eines kleinen Zeitintervalls der L¨ange Δt stattfindet ist ann¨ ahernd λΔt, vgl. Abbildung 5.14. Wenn Δt klein genug ist, wird diese Wahrscheinlichkeit ebenfalls sehr klein. Die PoissonVerteilung wird deshalb gelegentlich als Verteilung der seltenen Ereignisse bezeichnet. Der Parameter λ heißt auch (Intensit¨ats-)Rate. 3. Die Wahrscheinlichkeit f¨ ur das Eintreten einer bestimmten Zahl von Ereignissen in einem Teilintervall h¨ angt nur von dessen L¨ange l, aber nicht von seiner Lage auf der Zeitachse ab (I1 und I2 in Abbildung 5.15). 4. Die Anzahlen von Ereignissen in zwei disjunkten Teilintervallen sind unabh¨angig (I1 und I3 in Abbildung 5.15, nicht jedoch I2 und I3 ).
Annahmen PoissonVerteilung
Verteilung der seltenen Ereignisse
262
5. Diskrete Zufallsvariablen
I1 **
l * ** *
I2 * ** Δt
l * * ** * I3 l
Abbildung 5.15: Zu den Annahmen der Poissonverteilung
Ob diese Annahmen – zumindest n¨aherungsweise – in bestimmten Anwendungen erf¨ ullt sind, muß kritisch gepr¨ uft werden. Falls sie jedoch gelten, ist die Zufallsvariable X Poisson-verteilt.
Poisson-Verteilung Eine Zufallsvariable X mit der Wahrscheinlichkeitsfunktion
x λ −λ , x ∈ {0, 1, . . .} x! e f (x) = P (X = x) = 0 , sonst heißt Poisson-verteilt mit Parameter (oder Rate) λ > 0, kurz X ∼ P o(λ). Es gilt E(X) = λ , Var(X) = λ .
Die Abbildung 5.16 zeigt die Wahrscheinlichkeitshistogramme f¨ ur verschiedene Werte von λ. Normalverteilungsapproximation
Approximation der Binomialverteilung
Man erkennt: Je kleiner λ ist desto linkssteiler wird die Wahrscheinlichkeitsfunktion und desto gr¨ oßer werden die Wahrscheinlichkeiten f¨ ur kleine x-Werte. F¨ ur gr¨oßeres λ, etwa ab λ ≥ 10, wird die Verteilung ann¨ahernd symmetrisch und l¨aßt sich durch eine Normalverteilungsdichte approximieren, vgl. dazu Abschnitt 7.2. Die Eigenschaft E(X) = Var(X) = λ, also Gleichheit von Erwartungswert und Varianz, ist charakteristisch f¨ ur eine Poisson-verteilte Z¨ahlvariable. Unterscheiden sich bei Z¨ahldaten aus einer empirischen Erhebung x¯ und s˜2 deutlich, so ist ein Poisson-Modell ungeeignet. Die Poisson-Verteilung l¨ aßt sich auch als Grenzfall der Binomialverteilung ableiten. Dazu nimmt man etwa im Beispiel von Schadensmeldungen bei einer Versicherung an, daß diese eine große Anzahl n von Kunden habe, aber jeder Kunde mit sehr kleiner Wahrscheinlichkeit π einen Schaden in der Zeitperiode (Monat, Jahr) melde. Definiert man λ = nπ und l¨ aßt (bei festgehaltenem λ) n −→ ∞ und π −→ 0 gehen, so ergibt sich f¨ ur die Anzahl X von Schadensmeldungen eine P o(λ)-Verteilung. Somit kann f¨ ur große n und kleine π die B(n, π)-Verteilung durch eine P o(λ)-Verteilung mit λ = nπ approximiert werden.
5.3 Spezielle diskrete Verteilungsmodelle
263
λ = 0.5
λ=1
0.6 6
0.4 6
0.5
0.3
0.4 0.3
0.2
0.2
0.1
0.1
-
0
-
0
0 1 2 3 4 5 6 7 8 9 10
0 1 2 3 4 5 6 7 8 9 10
λ=5
λ = 10
0.21 6
0.14 6
0.18 0.15 0.12 0.09 0.06 0.03 0
0.12 0.1 0.08 0.04 0.02
0
3
6
9
12
15
-
0
0 2 4 6 8 10 12 14 16 18 20
Abbildung 5.16: Wahrscheinlichkeitshistogramme von Poisson-Verteilungen
¨ Ahnlich wie f¨ ur die Binomialverteilung gilt noch eine Additionseigenschaft: Addition von unabh¨ angigen Poisson-verteilten Zufallsvariablen Sind X ∼ P o(λ), Y ∼ P o(μ) und voneinander unabh¨angig, so gilt X + Y ∼ P o(λ + μ) . Damit l¨aßt sich auch folgendes zeigen: Poisson-Verteilung f¨ ur Intervalle beliebiger L¨ ange Falls die Anzahl X von Ereignissen im Einheitsintervall P o(λ)-verteilt ist, so ist die Anzahl Z von Ereignissen in einem Intervall der L¨ange t Poisson-verteilt mit Parameter λt, kurz Z ∼ P o(λt).
264
Beispiel 5.17
5. Diskrete Zufallsvariablen
Schadensf¨ alle bei einer Versicherung Eine R¨ uckversicherung will die Pr¨ amien f¨ ur Versicherungen gegen Großunf¨alle kalkulieren. Aufgrund von Erfahrungswerten geht sie davon aus, daß die Zufallsvariable X = “Anzahl der Großunf¨alle im Winterhalbjahr (Oktober bis M¨arz)” Poisson-verteilt ist mit der Rate λ = 3. Dagegen wird Y = “Anzahl der Großunf¨ alle im Sommerhalbjahr (April bis September)” als Poisson-verteilt mit der Rate μ = 6 betrachtet. Beispielsweise l¨aßt sich damit die Wahrscheinlichkeit f¨ ur genau zwei Großunf¨alle in einem Winter bestimmen: P (X = 2) = e−3
32 = 0.2240 . 2!
Mehr als ein Großunfall geschieht im Winter mit der Wahrscheinlichkeit P (X ≥ 2) = 1 − P (X = 0) − P (X = 1) 0 3 31 = 1 − e−3 + 0! 1! = 1 − 0.1991 = 0.8009 . Diese Wahrscheinlichkeiten lauten im Sommerhalbjahr 0.044 f¨ ur genau zwei bzw. 0.983 f¨ ur mindestens zwei Unf¨ alle: 62 = 0.044 , 2! P (Y ≥ 2) = 1 − P (Y = 0) − P (Y = 1) 0 6 61 −6 =1−e + = 1 − 0.01735 = 0.9826 . 0! 1!
P (Y = 2) = e−6
Wegen E(X) = λ = 3 und E(Y ) = μ = 6 sind mit drei Unf¨allen im Winter weniger Unf¨alle als im Sommer zu erwarten. Da man annehmen kann, daß Unf¨alle im Sommer und im Winter in keinem Zusammenhang stehen, k¨ onnen ferner die Zufallsvariablen X und Y als unabh¨angig behandelt werden. Die Wahrscheinlichkeit, daß sowohl im Winter als auch im Sommer mehr als zwei Unf¨alle geschehen, betr¨ agt dann mit Hilfe der Rechenregeln f¨ ur unabh¨angige Zufallsvariablen P (X ≥ 2, Y ≥ 2) = P (X ≥ 2) · P (Y ≥ 2) = 0.8009 · 0.9826 = 0.7870 , also ca. 79 %. Betrachtet man nun die Anzahl Z der Großunf¨alle in einem ganzen Jahr, so gilt Z = X + Y und wiederum wegen der Unabh¨angigkeit von X und Y ist Z Poisson-verteilt mit Rate λ + μ = 3 + 6 = 9. 2
5.4 Zusammenfassung und Bemerkungen
Schreibweise:
Binomialverteilung Hypergeometrische Verteilung Poissonverteilung Geometrische Verteilung
Verteilung X ∼ B(n, π)
X ∼ H(n, N, M )
X ∼ P o(λ)
f (x) =
8 > <
X X X X
∼ B(n, π) ∼ H(n, N, M ) ∼ P o(λ) ∼ G(π)
Dichte E(X) ! n x ur x = 0, 1, . . . , n π (1 − π)n−x f¨ x nπ
> : 0 ! ! sonst 8 > M N − M > > > > x n−x > < ! f¨ ur x = 0, 1, . . . , n f (x) = N > > > n > > > : 0 sonst (n ≤ M, n ≤ M − N ) ( x λ e−λ f¨ ur x = 0, 1, 2, . . . x! f (x) = 0 sonst (λ > 0) (
X ∼ G(π)
265
(1 − π)x−1 π 0 (0 < π < 1)
f (x) =
f¨ ur x = 1, 2, 3, . . . sonst
nM N
Var(X) nπ(1 − π)
nM N
(N−M ) (N−n) N (N−1)
λ
λ
1 π
1−π π2
Tabelle 5.1: Spezielle diskrete Verteilungen mit ihren Dichten, Erwartungswerten und Varianzen
5.4
Zusammenfassung und Bemerkungen
Definitionen, Eigenschaften und Rechenregeln f¨ ur diskrete Zufallsvariablen entsprechen formal weitgehend Begriffen und Ergebnissen f¨ ur empirische Verteilungen von H¨aufigkeitsdaten von Kapitel 2. Dabei sind die relativen H¨aufigkeiten ur Auspr¨ agungen a1 , . . . , ak durch die Wahrscheinlichkeiten p1 , . . . , pk , . . . f1 , . . . , fk f¨ ¨ f¨ ur die m¨oglichen Werte x1 , . . . , xk , . . . zu ersetzen. Trotz der formalen Ahnlichkeiten sind jedoch Funktion und Interpretation deutlich zu unterscheiden: Die relative H¨aufigkeitsverteilung und daraus abgeleitete Begriffe wie arithmetisches Mittel und empirische Varianz beschreiben die Verteilung von Daten. Dagegen wird durch die Wahrscheinlichkeitsverteilung, den Erwartungswert und die Varianz das Verhalten einer Zufallsvariable charakterisiert. Der zugrundeliegende Zufallsvorgang muß dazu nicht durchgef¨ uhrt werden, so daß auch keine Daten vorliegen. Der Zusammenhang zwischen empirischen Verteilungen und Wahrscheinlichkeitsverteilungen l¨aßt sich jedoch u aufigkeitsinterpretation von Wahrscheinlichkeiten herstellen: Wenn ¨ber die H¨
266
5. Diskrete Zufallsvariablen
der Zufallsvorgang n-mal unabh¨ angig wiederholt wird, n¨ahern sich mit wachsendem n die empirische Verteilung der resultierenden Daten x1 , . . . , xn , das arithmetische Mittel und die empirische Varianz der Wahrscheinlichkeitsverteilung der Zufallsvariable X, ihrem Erwartungswert und ihrer Varianz immer besser an. Formalisiert wird dieser Zusammenhang erst durch Gesetze großer Zahlen in Abschnitt 7.1. In Tabelle 5.1 sind die in diesem Kapitel behandelten diskreten Verteilungsmodelle zusammengefaßt. Diese speziellen diskreten Verteilungen sind vor allem zur Modellierung von Z¨ ahlvorg¨ angen geeignet. In Abbildung 5.17 wird dies nochmals aufgezeigt. Die Pfeile weisen dabei auf Beziehungen zwischen den Verteilungen bzw. Zufallsvariablen hin. Die hier dargestellten diskreten Verteilungsmodelle sind zwar am bekanntesten und werden entsprechend h¨ aufig eingesetzt. Trotzdem sind sie nicht in jeder Anwendung zur Modellierung geeignet, sondern es werden oft flexiblere, aber auch kompliziertere Verteilungen ben¨ otigt. F¨ ur eine umfassende Darstellung verweisen wir auf das Nachschlagewerk von Johnson, Kotz und Kemp (1993).
Anzahl des Eintretens von A in n Versuchen
B(n, π) Modell mit Zur¨ ucklegen unabh¨ angige Wiederholungen
?
G(π)
?
n/N klein
Grenzfall nπ = λ, n → ∞, π → 0
P o(λ)
Anzahl der Versuche Anzahl der beobachteten Ereignisse in einem bis zum Eintreten von A Zeitintervall
Abbildung 5.17: Diskrete Verteilungsmodelle
H(n, M, N ) Modell ohne Zur¨ ucklegen
5.5 Aufgaben
5.5
267
Aufgaben
Sie und Ihr Freund werfen je einen fairen W¨ urfel. Derjenige, der die kleinere Zahl wirft, zahlt an den anderen so viele Geldeinheiten, wie die Differenz der Augenzahlen betr¨agt. Die Zufallsvariable X beschreibt Ihren Gewinn, wobei ein negativer Gewinn f¨ ur Ihren Verlust steht. (a) Bestimmen Sie die Wahrscheinlichkeitsfunktion von X und berechnen Sie den Erwartungswert. (b) Falls Sie beide die gleiche Zahl w¨ urfeln, wird der Vorgang noch einmal wiederholt, aber die Auszahlungen verdoppeln sich. W¨ urfeln Sie wieder die gleiche Zahl, ist das Spiel beendet. Geben Sie f¨ ur das modifizierte Spiel die Wahrscheinlichkeitsfunktion von Y f¨ ur Ihren Gewinn bzw. Verlust an.
Aufgabe 5.1
Ein Student, der keine Zeit hat, sich auf einen 20-Fragen-Multiple-Choice-Test vorzubereiten, beschließt, bei jeder Frage aufs Geratewohl zu raten. Dabei besitzt jede Frage f¨ unf Antwortm¨ oglichkeiten. (a) Welche Verteilung hat die Zufallsvariable, die die Anzahl der richtigen Antworten angibt? Wieviele Fragen wird der Student im Mittel richtig beantworten? (b) Der Test gilt als bestanden, wenn 10 Fragen richtig beantwortet sind. Wie groß ist die Wahrscheinlichkeit des Studenten, den Test zu bestehen? Wo m¨ ußte die Grenze liegen, wenn die Chance des Studenten, die Klausur durch Raten zu bestehen, gr¨oßer als 5 % sein soll?
Aufgabe 5.2
Berechnen Sie den Erwartungswert und die Varianz der diskreten Gleichverteilung auf dem Tr¨ ager T = {a, a + 1, a + 2, . . . , b − 2, b − 1, b}.
Aufgabe 5.3
Sind die beiden Zufallsvariablen X und Y , die die Augensumme bzw. die Differenz beim Werfen zweier fairer W¨ urfel angeben, unabh¨ angig?
Aufgabe 5.4
Zeigen Sie f¨ ur zwei unabh¨ angige bin¨ are Zufallsvariablen X ∼ B(1, π) und Y ∼ B(1, ρ) die Linearit¨ at von Erwartungswert und Varianz:
Aufgabe 5.5
E(X + Y ) = E(X) + E(Y ) ,
V ar(X + Y ) = V ar(X) + V ar(Y ) ,
sowie die Produktregel f¨ ur Erwartungswerte: E(X · Y ) = E(X) · E(Y )
Bestimmen Sie den Median der geometrischen Verteilung mit dem Parameter π = 0.5. Vergleichen Sie Ihr Resultat mit dem Erwartungswert dieser Verteilung. Was folgt gem¨aß der Lageregel f¨ ur die Gestalt des Wahrscheinlichkeitshistogramms? Skizzieren Sie das Wahrscheinlichkeitshistogramm, um Ihre Aussage zu u ufen. ¨ berpr¨
Aufgabe 5.6
268
5. Diskrete Zufallsvariablen
Aufgabe 5.7
Welche Verteilungen besitzen die folgenden Zufallsvariablen: X1 = Anzahl der Richtigen beim Lotto “6 aus 49”. X2 = Anzahl der Richtigen beim Fußballtoto wenn alle Spiele wegen unbespielbarem Platz ausfallen und die Ergebnisse per Los ermittelt werden. X3 = Anzahl von Telephonanrufen in einer Auskunftstelle w¨ahrend einer Stunde. In einer Urne mit 100 Kugeln befinden sich 5 rote Kugeln: X4 = Anzahl der roten Kugeln in der Stichprobe, wenn 10 Kugeln auf einen Schlag entnommen werden. X5 = Anzahl der Studenten, die den Unterschied zwischen der Binomial– und der Hypergeometrischen Verteilung verstanden haben, unter 10 zuf¨allig ausgew¨ahlten H¨orern einer Statistikveranstaltung, an der 50 Studenten teilnehmen. uckzahl eines selten gebrauchten Produkts, das bei einer Lieferfirma an einem Tag X6 = St¨ nachgefragt wird.
Aufgabe 5.8
Bei einem Fußballspiel kommt es nach einem Unentschieden zum Elfmeterschießen. Zun¨achst werden von jeder Mannschaft f¨ unf Elfmeter geschossen, wobei eine Mannschaft gewinnt, falls sie h¨ aufiger getroffen hat als die andere. Nehmen Sie an, daß die einzelnen Sch¨ usse unabh¨ angig voneinander sind und jeder Sch¨ utze mit einer Wahrscheinlichkeit von 0.8 trifft. Wie groß ist die Wahrscheinlichkeit, daß es nach zehn Sch¨ ussen (f¨ unf pro Mannschaft) zu einer Entscheidung kommt?
Aufgabe 5.9
Aus Erfahrung weiß man, daß die Wahrscheinlichkeit daf¨ ur, daß bei einem Digitalcomputer eines bestimmten Typus w¨ ahrend 12 Stunden kein Fehler auftritt, 0.7788 betr¨agt. (a) Welche Verteilung eignet sich zur n¨aherungsweisen Beschreibung der Zufallsvariable X = “Anzahl der Fehler, die w¨ ahrend 12 Stunden auftreten”? (b) Man bestimme die Wahrscheinlichkeit daf¨ ur, daß w¨ahrend 12 Stunden mindestens zwei Fehler auftreten. (c) Wie groß ist die Wahrscheinlichkeit, daß bei vier (voneinander unabh¨angigen) Digitalcomputern desselben Typus w¨ ahrend 12 Stunden genau ein Fehler auftritt?
Aufgabe 5.10
Von den 20 Verk¨ auferinnen eines mittelgroßen Gesch¨aftes sind vier mit l¨angeren Laden¨ offnungszeiten einverstanden. Ein Journalist befragt f¨ ur eine Dokumentation der Einstel¨ ¨ lung zu einer Anderung der Offnungszeiten f¨ unf Angestellte, die er zuf¨allig ausw¨ahlt. Wie ¨ groß ist die Wahrscheinlichkeit, daß sich keine der Befragten f¨ ur l¨angere Offnungszeiten ausspricht? Mit welcher Wahrscheinlichkeit sind genau bzw. mindestens zwei der ausgew¨ahlten Angestellten bereit, l¨ anger zu arbeiten?
6 Stetige Zufallsvariablen
6.1
Definition und Verteilung
Eine Variable oder ein Merkmal X heißt stetig, falls zu zwei Werten a < b auch jeder Zwischenwert im Intervall [a, b] m¨ oglich ist (vgl. die Definition von Kapitel 1). Falls die Werte von X als Ergebnisse eines Zufallsvorgangs resultieren, wird X zu einer stetigen Zufallsvariable. Wie lassen sich nun Wahrscheinlichkeiten f¨ ur Ereignisse der Form {a ≤ X ≤ b} festlegen? F¨ ur diskrete Zufallsvariablen ist P (a ≤ X ≤ b) gleich ur die xi in [a, b] der Summe jener Wahrscheinlichkeiten pi = f (xi ) = P (X = xi ), f¨ liegt. F¨ ur stetige Zufallsvariablen sind die x-Werte in [a, b] nicht mehr abz¨ahlbar, sondern u ahlbar, so daß ein solches Aufsummieren nicht m¨oglich ist. Um zu ¨ berabz¨ sehen, wie man f¨ ur eine stetige Zufallsvariable X Wahrscheinlichkeiten P (a ≤ X ≤ b) geeignet festlegt, ist es dennoch zweckm¨ aßig von einer diskreten Zufallsvariable Xd auszugehen, die man als Approximation von X ansehen kann. Stuft man den Wertebereich von Xd immer feiner ab, gelangt man dann durch eine Grenzbetrachtung zu sinnvollen Definitionen und Begriffsbildungen f¨ ur stetige Zufallsvariablen. Wir gehen dazu zun¨ achst vom einfachsten diskreten Verteilungsmodell, einer diskreten Gleichverteilung, aus. Gl¨ ucksr¨ ader in Casinos oder Spielshows sind ¨ahnlich wie beim Roulette in gleich große Sektoren unterteilt. Einfachheitshalber denken wir uns das Gl¨ ucksrad wie in Abbildung 6.1 in 10 Sektoren unterteilt. Nachdem das Gl¨ ucksrad in Schwung gebracht worden ist, wird nach einer zuf¨alligen Zeitspanne mit dem Abbremsen begonnen, bis das Rad schließlich anh¨alt. Jener Sektor, der vor einer fixen Markierung durch einen Pfeil anh¨alt, entspricht dann der ausgespielten Gewinnzahl. Der zugrundeliegende Zufallsvorgang ist dabei so angelegt, daß jeder Sektor die gleiche Wahrscheinlichkeit hat, vor der Markierung stehenzubleiben. Bei 10 Sektoren ist dann die Zufallsvariable Xd = “ausgew¨ahlter Sektor” diskret mit den Werten 1, . . . , 10 und jeweiligen Wahrscheinlichkeiten 1/10. Wenn wir den Rand des Gl¨ ucksrads als Einheitsintervall auf der x-Achse ausrollen, erhalten wir das Wahrscheinlichkeitshistogramm f¨ ur Xd in Abbildung 6.2. Dabei ist
stetige Zufallsvariable
270
6. Stetige Zufallsvariablen
0.7
0.8
....................................................... ........... .. ........ .... ... ............. ....... ...... . . . . . . ... . . ... ...... .. ...... ..... ... .. ..... ..... . . . . . . ... .... . .. . . . . . . ... ... . ... . . .. . . ... . . ...... ........... . . ... . . ...... ...... ..... . . . . . . . . . . ...... ... ... . ... . . . . ... ...... . . . . ... ... ... ...... ... ... ... ... ...... ...... ... ... ...... ...... ... ... ...... ... ... ...... . .. . . . . .... ...... . ... ... . . . . . . . . ... . . ...... . .. ...... .... .... .......... .. ... ...... ... .. ...... ... ... ...... .. .. ...... .. .. . . . . . . . . ......................................................................................................................................................................................................... ....... ....... ... . .. . . . .. ... ... ... ....... . ... . . . . . . ...... . . ... .. ...... ...... ... .... ... .. ...... ... . ...... . . . . . . . . ... ...... ... ..... ...... ... ... ... ... ...... ...... ... ... ...... ... ... ...... ... .. ...... ... ... ...... .. ..... . ... . . . . . . . . . . . . . ...... ... ... .... ...... ..... ... ... ... .......... ......... ... ....... ... ... ... ... ... .... ... ... .. . .... ... .... . ..... .. . . . . ... . ... ..... . . . . . . . ...... ... .... ....... .. ... ...... ....... ... ... .............. ............ ..... .............. .......................................
8
0.6
7
6
0.5
10
5
0
1
4
0.4
0.9
9
2
0.1
3
0.3
6 0.2
x
Abbildung 6.1: Gl¨ ucksrad
f (x) 6 0.1
0
0.1 0.2 6 0.3 0.4 0.5 0.6 0.7 0.8 0.9
-
1
x Abbildung 6.2: Wahrscheinlichkeitshistogramm zum Gl¨ ucksrad
die Fl¨ache u ¨ber jedem Teilintervall der L¨ange 0.1 gleich der Wahrscheinlichkeit 0.1 f¨ ur die jeweiligen Sektoren. Entsprechend ist die Wahrscheinlichkeit, daß einer der Sektoren 3, 4, 5 oder 6 vor der Markierung stehen bleibt, gleich der Fl¨ache u ¨ber dem Intervall [0.2, 0.6], also gleich 0.4. Unterteilt man das Gl¨ ucksrad bzw. das Intervall feiner, z.B. in 100 Teilintervalle der L¨ange 0.01, so werden zwar die Fl¨achen u ¨ber diesen Teilintervallen gleich 1/100. Die Fl¨ache 0.4 u ¨ber dem Intervall [0.2, 0.6] ist jedoch weiter die Wahrscheinlichkeit, daß einer der Teilsektoren zwischen 0.2 und 0.6 vor der Markierung zum Stehen kommt. Betrachtet man nun als Zufallsergebnis die genaue Zahl x aus [0, 1] worauf die Markierung zeigt, so wird dadurch eine stetige Zufallsvariable X mit Werten aus [0, 1] definiert. Die Wahrscheinlichkeit P (0.2 ≤ X ≤ 0.6) ist weiter die Fl¨ ache 0.4 zwischen dem Intervall [0.2, 0.6] und der stetigen Funktion f (x) = 1. Allgemeiner ist P (a ≤ X ≤ b) durch die Fl¨ache u ¨ber dem Intervall [a, b] ge-
6.1 Definition und Verteilung
271
geben. F¨ ur Intervalle [a, b] und [c, d] mit unterschiedlicher Lage, aber gleicher L¨ange b− a = c− d ergeben sich gleiche Wahrscheinlichkeiten P (a ≤ X ≤ b) = P (c ≤ X ≤ d). Diese Gleichheit ist die “stetige Entsprechung” des Modells einer diskreten Gleichverteilung.
Die Festlegung von Wahrscheinlichkeiten durch Fl¨achen unter einer nichtnegativen Funktion f (x) l¨ aßt sich in gleicher Weise f¨ ur andere Verteilungsformen als die Nichtnegativit¨at Gleichverteilung veranschaulichen. In Abbildung 6.3 ist das Wahrscheinlichkeitshistogramm einer diskreten Zufallsvariable Xd gegeben.
f (x) 6 ................................... .......... ........ .......... ...... ......... ...... ......... ..... . . . ......... ... . . ..... . .. . . ......................................... . ....... ... . ............. . . .. . . . . . . . . . .......... . . . . . ... ................... ........................... .. ... . . . . . . . . . . . ............ .......................... .. . . . . ... ................... ..................... ....... ... .... . . . . . . . . . . . . . . . . ... ... ................... ..................... ... ... . . . . . . . . . . . . . . . . . ............ .......................................... .. . . . ............ ..................................... .. . . . ............ .................................... ... . .. . . ................... .......................................... ......... ... .... .. ............. ............................ .... ... . . . . . . . . . . . . . . . . . . . . . . ... . .. .... ................... .......................................... ... ... . . . . . . . . . . . . . . . . . . . . . . .... . ............ ............................ .. . .... . . ... ... ................... .......................................... . ... . . . . . . . . . . . . . . . . . . . . . . . ... . ... ... ................... .......................................... . ... .. ............. ............................ ... . . ..
Δx
i -
xi
a
b
-
x
Abbildung 6.3: Dichte und approximierendes Wahrscheinlichkeitshistogramm
Die m¨oglichen Werte seien die Klassenmitten xi der i-ten Klasse mit der L¨ange ache u ur gegen Δxi . Die Rechtecksfl¨ ¨ber Δxi ist gleich P (Xd = xi ) = f (xi )Δxi . F¨ null gehende Klassenbreiten Δxi geht Xd u ¨ ber in eine stetige Zufallsvariable X. Das Histogramm geht u ¨ber in eine stetige Kurve f (x) mit der Eigenschaft, daß P (a ≤ X ≤ b) gleich der Fl¨ ache zwischen dem Intervall [a, b] und f (x) ist. ache der zugeh¨origen Rechtecke u F¨ ur Δxi −→ 0 geht auch die Fl¨ ¨ ber [a, b] gegen ¨ diese Fl¨ache, so daß auch P (a ≤ Xd ≤ b) −→ P (a ≤ X ≤ b) gilt. Diese Uberlegungen f¨ uhren zur folgenden Definition von stetigen Zufallsvariablen, wobei gleichzeitig die Dichtefunktion f (x) definiert wird.
Dichtefunktion
272
6. Stetige Zufallsvariablen
Stetige Zufallsvariablen und Dichten Eine Zufallsvariable X heißt stetig, wenn es eine Funktion f (x) ≥ 0 gibt, so daß f¨ ur jedes Intervall [a, b]
b
P (a ≤ X ≤ b) =
f (x)dx a
gilt. Die Funktion f (x) heißt (Wahrscheinlichkeits-) Dichte von X.
Somit ist f¨ ur jede stetige Zufallsvariable die Wahrscheinlichkeit P (a ≤ X ≤ b) gleich der Fl¨ ache zwischen dem Intervall [a, b] und der dar¨ uberliegenden Funktion f (x). Die Berechnung dieser Fl¨ ache l¨ aßt sich allerdings nicht immer in so einfacher Weise geometrisch durchf¨ uhren wie im Eingangsbeispiel. Auch die Integration wird oft so schwierig, daß sie mit numerischen Verfahren am Computer durchgef¨ uhrt werden muß. Aus der Definition folgt, daß die Wahrscheinlichkeiten unver¨andert bleiben, wenn man die Grenzen a, b des Intervalls nicht mitrechnet. Wenn die L¨ange des Intervalls gegen null geht, in der Grenze also a = b gilt, folgt mit x = a = b auch P (X = x) = 0 f¨ ur jedes beliebige x ∈ .
Wahrscheinlichkeiten stetiger Zufallsvariablen F¨ ur stetige Zufallsvariablen X gilt P (a ≤ X ≤ b) = P (a < X ≤ b) = P (a ≤ X < b) = P (a < X < b) und P (X = x) = 0 f¨ ur jedes x ∈
.
Obwohl die zweite Eigenschaft aus der Definition mathematisch ableitbar ist, verwundert sie doch auf den ersten Blick. Sie l¨aßt sich aber auch intuitiv nachvollziehen: F¨ ur das Gl¨ ucksrad gilt P (0.29 ≤ X ≤ 0.31) = 0.02, P (0.299 ≤ X ≤ 0.301) = 0.002, P (0.2999 ≤ X ≤ 0.3001) = 0.0002 usw. Die Wahrscheinlichkeit P (X = 0.3) daf¨ ur, daß X exakt gleich 0.3 ist, muß deshalb gleich null sein. Positive Wahrscheinlichkeiten k¨onnen sich nur f¨ ur – m¨ oglicherweise kleine – Intervalle um x ergeben. Da −∞ < X < +∞ sicher eintritt, muß P (−∞ < X < +∞) = 1 sein. Somit gilt f¨ ur jede Dichte neben der Nichtnegativit¨at die
6.1 Definition und Verteilung
Normierungseigenschaft
273
+∞
f (x)dx = 1 , −∞
d.h. die Gesamt߬ ache zwischen x-Achse und der Dichte f (x) ist gleich 1.
Die Dichte f (x) einer stetigen Zufallsvariable muß nicht f¨ ur alle x gr¨oßer als null sein. Wir nennen wie bei der Wahrscheinlichkeitsfunktion die Menge der x-Werte, f¨ ur die f (x) > 0 ist, den Tr¨ ager T = {x : f (x) > 0}. Die auftretenden Integrationen erstrecken sich dann tats¨ achlich nur u ¨ber Bereiche von T , vergleiche die Beispiele 6.1 (Seite 275) und 6.2 (Seite 278). Die Dichte f (x) besitzt einige Analogien zur Wahrscheinlichkeitsfunktion einer diskreten Zufallsvariable. Deshalb wird auch die gleiche Bezeichnung verwendet. Ein wesentlicher Unterschied ist jedoch, daß die Werte f (x) einer stetigen Dichte keine Wahrscheinlichkeiten sind. Somit k¨onnen Dichten auch Werte f (x) > 1 annehmen. Aus der Definition von Dichten erh¨ alt man f¨ ur die Verteilungsfunktion F (x) = P (X ≤ x) = P (−∞ < X ≤ x) sofort folgende Beziehung:
Verteilungsfunktion einer stetigen Zufallsvariable x f (t)dt F (x) = P (X ≤ x) = −∞
Die Verteilungsfunktion einer stetigen Zufallsvariable ist also das unbestimmte Integral der Dichte, d.h. die Gesamtfl¨ ache zwischen dem Teil der x-Achse links vom Wert x und der dar¨ uberliegenden Dichte, vgl. Abbildung 6.4. Diese Beziehung ist das stetige Analogon zur Beziehung F (x) =
f (xi )
xi ≤x
im diskreten Fall. In der Darstellung durch ein Wahrscheinlichkeitshistogramm wie in Abbildung 6.3 erh¨ alt man F (x) durch Summation der Rechtecksfl¨achen bis x. Der Grenz¨ ubergang liefert die obige Integrationsbeziehung. Aus der Definition der Verteilungsfunktion folgen mittels der Axiome und Rechenregeln f¨ ur Wahrscheinlichkeiten die folgenden Eigenschaften.
Tr¨ager
Dichte ist keine Wahrscheinlichkeit
274
6. Stetige Zufallsvariablen
f (x) 6
f (x0 )
............... .. ... .. ... .. ... .... ... ... ... ... ... ... ... ... ... ... ... .... ... .. ... ... ... ... ... ... ... ... ... ... .. ... ... ... ... ... ... .. ... ... ... ... ... .... ... ... ..... ... ..... ... ...... ... ...... ....... ... ........ .......... ... ............... ... ............................ . ..
x0
F (x) 6 1 F (x0 )
-
.................. .................................... ................ ........... ......... ....... . . . . . ..... ...... ..... .... .... . . ... ... ... ... ... . . ... ... ... ... . ... ... ... ... . ... ... .. ... . . ... ... .. .......
x0
x
-
x
Abbildung 6.4: Dichte und Verteilungsfunktion einer stetigen Zufallsvariable
Eigenschaften der Verteilungsfunktion einer stetigen Zufallsvariable 1. F (x) ist stetig und monoton wachsend mit Werten im Intervall [0, 1]. 2. F¨ ur die Grenzen gilt F (−∞) = F (+∞) =
lim
F (x) = 0 ,
lim
F (x) = 1 .
x−→−∞ x−→+∞
3. F¨ ur Werte von x, an denen f (x) stetig ist, gilt F (x) =
dF (x) = f (x) , dx
d.h. die Dichte ist die Ableitung der Verteilungsfunktion. 4. F¨ ur Intervalle erh¨ alt man P (a ≤ X ≤ b) = F (b) − F (a) , P (X ≥ a) = 1 − F (a) .
Die erste Eigenschaft folgt aus den Axiomen von Kolmogoroff und der Definition von F (x). F (−∞) = 0 gilt wegen P (X ≤ x) −→ 0 f¨ ur x −→ −∞ (unm¨ogliches Ereignis), und F (+∞) = 1 ist die Wahrscheinlichkeit f¨ ur das sichere Ereignis. Die Eigenschaften 3 und 4 folgen direkt aus den Definitionen.
6.1 Definition und Verteilung
275
Unabh¨ angigkeit von stetigen Zufallsvariablen Um die Unabh¨angigkeit von stetigen Zufallsvariablen zu definieren, u ¨bertr¨agt man, ¨ahnlich wie im diskreten Fall, das Konzept der Unabh¨angigkeit von Ereignissen, indem man etwa f¨ ur zwei Zufallsvariablen X und Y alle Ereignisse der Form {X ≤ x} und {Y ≤ y} als unabh¨ angig fordert. Dies f¨ uhrt zur folgenden Definition: Unabh¨ angigkeit von stetigen Zufallsvariablen Zwei stetige Zufallsvariablen X und Y sind unabh¨angig, wenn f¨ ur alle x ∈ und y ∈ P (X ≤ x, Y ≤ y) = P (X ≤ x) · P (Y ≤ y) = FX (x) · FY (y) gilt. Dabei ist FX bzw. FY die Verteilungsfunktion von X bzw. Y . ur Allgemeiner sind die stetigen Zufallsvariablen X1 , . . . , Xn unabh¨angig, wenn f¨ x1 , . . . , xn ∈ P (X ≤ x1 , . . . , Xn ≤ xn ) = P (X1 ≤ x1 ) · . . . · P (Xn ≤ xn ) gilt. Es l¨aßt sich – wiederum in Analogie zum diskreten Fall – zeigen, daß aus dieser Definition auch die Unabh¨ angigkeit von allgemeineren durch die Zufallsvariablen ur beliebige definierten Ereignissen folgt: Falls X1 , . . . , Xn unabh¨angig sind, so gilt f¨ ur Intervalle [a1 , b1 ], . . . , [an , bn ], zul¨assige Ereignisse A1 , . . . , An , insbesondere f¨ P (X1 ∈ A1 , . . . , Xn ∈ An ) = P (X1 ∈ A1 ) · . . . · P (Xn ∈ An ) . Stetige Gleichverteilung
Beispiel 6.1
Die stetige Zufallsvariable X = “Stelle des Gl¨ ucksrads, auf die der Pfeil zeigt” heißt auf dem Intervall [0, 1] gleich- (oder gleichm¨ aßig) verteilt, da f¨ ur Intervalle gleicher L¨ange P (a ≤ X ≤ b) = P (c ≤ X ≤ d) gilt. Die Dichte ist bestimmt durch f (x) =
1, 0≤x≤1 0 , sonst .
Die Verteilungsfunktion ergibt sich sofort zu ⎧ ⎪ ⎨ 0, F (x) = x, ⎪ ⎩ 1,
x<0 0≤x≤1 x>1.
276
6. Stetige Zufallsvariablen
6
1
f (x0 ) f (x)
................................................................................................................. .. .... .... .... ... ... . . ... . .. .... ... .... ... .. ... ... ...... . ... .......... . ...... . . . . . .... .. ... ... ... .. .... ... . . . ... . . ... ... . . .. .. . . . .. . . ... . . ... ........ ... .. .. ..
F (x0 )
F (x)
x0
-
1
Abbildung 6.5: Dichte und Verteilungsfunktion einer auf [0, 1] gleichverteilten Zufallsvariable
Gleichverteilte stetige Zufallsvariablen sind auch in anderen Situationen brauchbare Modelle f¨ ur Zufallsvorg¨ ange. Ein – in Variationen – oft verwendetes Beispiel ist das folgende: Ein Tourist kommt am Flughafen M¨ unchen-Erding an. Er m¨ochte mit der Airport-Linie S8, die normalerweise regelm¨ aßig alle 20 Minuten abf¨ahrt, zum Marienplatz. Da er den Fahrplan nicht kennt, geht er nach der Gep¨ ackabfertigung und dem Kauf eines Fahrscheins zum SBahnsteig und wartet auf die n¨ achste Abfahrt. Die Wartezeit (in Minuten) X auf die n¨achste Abfahrt kann dann als Zufallsvariable mit Werten im Intervall [0, 20] interpretiert werden. Da der Tourist “rein zuf¨ allig” ankommt, ist es plausibel, X als gleichverteilt auf [0, 20] anzunehmen, d.h. die Wahrscheinlichkeiten f¨ ur gleichlange Teilintervalle, etwa 0 ≤ X ≤ 5 und 10 ≤ X ≤ 15, sind gleich groß. Dies wird durch eine u ¨ ber [0, 20] konstante Dichte f (x) = k > 0 erreicht. Wegen der Normierungseigenschaft muß k · 20 = 1, also k = 1/20 gelten. Damit ist
1 0 ≤ x ≤ 20 20 , f (x) = 0 , sonst die Dichte einer auf dem Intervall [0, 20] gleichverteilten Zufallsvariable. Die Verteilungsfunktion F (x) ergibt sich f¨ ur 0 ≤ x ≤ 20 aus x x x 1 dt = . f (t)dt = F (x) = 20 20 −∞ 0 ⎧ ⎪ ⎨
Also ist F (x) =
⎪ ⎩
0 , x<0 0 ≤ x ≤ 20 1 , x > 20 .
1 20 x ,
F¨ ur eine Wartezeit von h¨ ochstens x Minuten erh¨alt man somit P (X ≤ x) = x/20, d.h. die Wahrscheinlichkeit ist proportional zur Dauer x. 2
¨ Ahnliche Situationen treten auch bei anderen Transport- oder Bedienungssystemen auf. Bei der Produktion gr¨ oßerer Systeme oder Ger¨ate arbeiten Maschinen oft
6.1 Definition und Verteilung
277
in einer Fertigungslinie. Eine Maschine ben¨otige zur Anfertigung eines bestimmten Teils eine feste Bearbeitungszeit von d Zeiteinheiten. Nach Beendigung des Auftrags werden die Teile in einem “Puffer” oder Lager abgelegt. Dort werden die Teile zu zuf¨alligen Zeiten von der n¨ achsten Maschine der Linie oder durch eine externe Nachfrage abgeholt. Um kosteng¨ unstig zu arbeiten, sind stets nur wenig Teile im Puffer, manchmal ist das Puffer auch leer. Im letzteren Fall ist f¨ ur die Wartezeit X, bis das Puffer wieder ein Teil enth¨ alt und die Nachfrage befriedigt werden kann, die Annahme einer Gleichverteilung auf [0, d] eine plausible Modellvorstellung. Dies gilt in analoger Weise f¨ ur Kunden, die zuf¨allig vor einem Bedienungssystem oder “Schalter” eintreffen, an dem gerade ein Auftrag bearbeitet wird. Die allgemeine Definition f¨ ur eine stetige Gleichverteilung ist:
Stetige Gleichverteilung Eine stetige Zufallsvariable heißt gleichverteilt auf dem Intervall [a, b], wenn sie eine Dichte
1 ur a ≤ x ≤ b b−a f¨ f (x) = 0 sonst besitzt. Eine auf [0, 1] gleichverteilte Zufallsvariable nennt man auch standardgleichverteilt. Die Verteilungsfunktion ergibt sich dann f¨ ur a ≤ x ≤ b zu x x x−a 1 dt = . F (x) = f (t)dt = b−a −∞ a b−a F¨ ur x < a ist F (x) = 0 und f¨ ur x > b ist F (x) = 1. Also ist ⎧ ⎪ ⎨ F (x) =
⎪ ⎩
0 , x
b.
x−a b−a
Die Dichte ist an den Stellen x = a und x = b unstetig, die Verteilungsfunktion weist Knickpunkte auf, ist also dort nicht differenzierbar. An allen anderen Stellen x ist F (x) differenzierbar, f (x) ist stetig, und es gilt F (x) = f (x) .
Verteilungsfunktion
278
6. Stetige Zufallsvariablen
6
1
........
....................................................................... .... ... .... ... .... . . ... .... .... .... ... . . .. .... .... .... ... . . . .... ... ........ .................................................................................................................................................... ... . . . .. .... .... ... ... . . . . ... ... .... ... ... . . . . ... ... .... ... ... .................................................................................. .... . . .
F (x)
1 b−a
f (x)
-
a
0
b
x
Abbildung 6.6: Dichte und Verteilungsfunktion einer auf [a, b] gleichverteilten Zufallsvariable
Beispiel 6.2
Abweichungen vom Sollwert Bei der Produktion von Kolben f¨ ur Zylinder wird duch die Art der Herstellung garantiert, daß Abweichungen des Durchmessers nach oben oder unten h¨ochstens gleich einem Wert d sind. Zur Vereinfachung setzen wir im weiteren d = 1. Interpretieren wir die in der laufenden Produktion auftretenden Abweichungen als Realisierungen einer Zufallsvariable, so besitzen allerdings Abweichungen um 0 normalerweise eine deutlich gr¨oßere Wahrscheinlichkeit als Abweichungen, die weiter von 0 entfernt sind. Das Modell einer Gleichverteilung f¨ ur die Abweichungen ist daher nicht sinnvoll. Wenn diese Wahrscheinlichkeiten f¨ ur ±1 gegen null gehen und die Abweichungen um 0 nach oben und unten symmetrisch sind, so k¨onnte eine ur x = 0 annimmt und f¨ ur die konkave Parabel f (x) = ax2 + bx + c, die ihr Maximum f¨ f (−1) = f (+1) = 0 gilt, eine geeignete Dichte f¨ ur die Verteilung der Zufallsvariable X = “Abweichung vom Sollwert” sein. Die Parameter a, b, c von f (x) sind dabei so festzulegen, daß f (−1) = f (+1) = 0 gilt und die Gesamtfl¨ache unter f (x) = 1 ist, so daß f (x) eine Dichte ist. Aus f (1) = 0 folgt a + b + c = 0, aus f (−1) = 0 folgt a − b + c = 0. Addition der beiden Gleichungen ergibt 2a + 2c = 0 und somit c = −a. Aus a + b − a = 0 folgt dann b = 0. Um die Normierungseigenschaften zu erf¨ ullen, muß +1 3 +1 x 2 2 4 2 −x (ax − a)dx = a =a − − = − a, 1= 3 3 3 3 −1 −1 also a = − 43 gelten. Die gew¨ unschte Dichte ist also (Abbildung 6.7) 3 3 3 f (x) = − x2 + = (1 − x2 ) . 4 4 4 Die Verteilungsfunktion F (x) ergibt sich durch Integration: x x 3 1 3 t3 1 F (x) = f (t)dt = = − x3 + x + . t− 4 3 4 4 2 −∞ −1
6.1 Definition und Verteilung
279
F (x) ist an allen Stellen differenzierbar, und f (x) = F (x) ist stetig.
f (x)6 1
F (x) 6 1
3 4
........................................ ........ ....... ....... ...... ..... . ..... . . . ..... ..... ... .... . .... . . .... ... . . ... .. . ... . .. ... . . ... .. . . ... .. . ... . .. ... . . ... .. . . ... .. . ... . .. ... . . .
3 4 1 2 1 4
1 2 1 4
-1
0
1
........ ............. ........ ...... ...... ..... . . . . ...... ...... ..... ..... ..... . . . . .... ..... ..... .... ..... . . . . . ..... ..... ..... ...... ..... . . . . . . ...... ...... ....... ......... .................
-
-1
0
-
1
Abbildung 6.7: Dichte und Verteilungsfunktion der Abweichungen vom Sollwert
Wenn wir nun zehn Kolben aus der laufenden Produktion herausgreifen, wie groß ist dann die Wahrscheinlichkeit, daß alle zehn Abweichungen zwischen −0.8 und +0.8 liegen? Wenn wir annehmen, daß die Abweichungen X1 , X2 , . . . , Xn unabh¨angig und unter gleichen Bedingungen durch die Maschine produziert wurden, so gilt P (−0.8 ≤ X1 ≤ 0.8, −0.8 ≤ X2 ≤ 0.8, . . . , −0.8 ≤ X10 ≤ 0.8) = P (−0.8 ≤ X1 ≤ 0.8) · P (−0.8 ≤ X2 ≤ 0.8) · . . . · P (−0.8 ≤ X10 ≤ 0.8) = & 0.8 '10 3 10 2 (1 − x )dx . {P (−0.8 ≤ X ≤ 0.8)} = −0.8 4 Damit erh¨ alt man f¨ ur die gesuchte Wahrscheinlichkeit
0.8 10 3 x3 = 0.5619 . x− 4 3 −0.8 In beiden Beispielen war der Wertebereich von X ein endliches Intervall. Im n¨achsten Beipiel betrachten wir eine stetige Zufallsvariable X mit nichtnegativen, nach oben nicht beschr¨ ankten Werten. 2
Exponentialverteilung In Abschnitt 5.2.1 hatten wir die geometrische Verteilung als m¨ogliches Modell f¨ ur eine in diskreten Zeitabst¨ anden gemessene Lebensdauer oder Wartezeit abgeleitet. Die Exponentialverteilung ist das stetige Analogon zur geometrischen Verteilung, wenn man die Lebensdauer oder Wartezeit bis zu einem bestimmten Ereignis als stetige Zufallsvariable auffaßt. Dementsprechend wird die Exponentialverteilung angewandt
Exponentialverteilung geometrische Verteilung
280
Lebensdauerverteilung
Ged¨achtnislosigkeit
6. Stetige Zufallsvariablen
zur Modellierung von Dauern, bei denen die Zeit – zumindest approximativ – stetig gemessen wird, etwa die Lebensdauer von Produkten oder technischen Systemen, die Zeit bis zur n¨ achsten Schadensmeldung bei einer Sachversicherung, die Bear¨ beitungszeit von Kundenauftr¨ agen oder die Uberlebenszeit nach einer Operation. ¨ Ahnlich wie die geometrische Verteilung ist die Exponentialverteilung nur dann als Lebensdauerverteilung geeignet, wenn folgende Voraussetzung erf¨ ullt ist: F¨ ur jeden Zeitpunkt t h¨ angt die noch verbleibende Lebensdauer nicht von der bereits bis t verstrichenen Lebensdauer ab. Dies entspricht der Voraussetzung der Unabh¨angigkeit der einzelnen Versuche bei der geometrischen Verteilung. F¨ ur ein technisches System heißt das etwa, daß dieses nicht altert, also die Ausfallwahrscheinlichkeit unabh¨angig vom Alter immer gleich groß ist. Man spricht deshalb auch von Ged¨ achtnislosigkeit der Exponentialverteilung. Die Definition lautet folgendermaßen: Exponentialverteilung Eine stetige Zufallsvariable X mit nichtnegativen Werten heißt exponentialverteilt mit dem Parameter λ > 0, kurz X ∼ Ex(λ), wenn sie die Dichte
ur x ≥ 0 λe−λx f¨ f (x) = 0 f¨ ur x < 0 besitzt. Die zugeh¨ orige Verteilung heißt Exponentialverteilung mit Parameter λ.
Verteilungsfunktion
Grenzfall der geometrischen Verteilung
Der Parameter λ steuert, wie schnell die Exponentialfunktion f¨ ur x −→ ∞ gegen 0 geht. Die Fl¨ ache unter f (x) ist immer gleich 1. Die Verteilungsfunktion ergibt sich durch Integration zu
1 − e−λx f¨ ur x ≥ 0 F (x) = 0 f¨ ur x < 0 . Abbildung 6.8 zeigt Dichten und Verteilungsfunktion f¨ ur verschiedene Werte von λ. Je gr¨oßer der Parameter λ ist, desto schneller geht die Dichte f¨ ur x −→ ∞ gegen 0 und die Verteilungsfunktion gegen 1. Wir zeigen noch, wie sich die Exponentialverteilung als Grenzfall der geometrischen Verteilung ergibt. Dazu teilen wir die Zeitachse zun¨achst in Zeitintervalle der L¨ange 1 ein und halbieren diese Zeitintervalle laufend.
0
1
2
3
4
6.1 Definition und Verteilung
281
Abbildung 6.8: Dichte und Verteilungsfunktion der Exponentialverteilung f¨ ur ) und λ = 2.0 ( ) λ = 0.5 ( ), λ = 1.0 (
Sei π = P (A) die Wahrscheinlichkeit f¨ ur den Eintritt des Ereignisses A, das die (diskrete) Wartezeit beendet, in einem Zeitintervall der L¨ange 1. Mit der laufenden Verfeinerung durch Halbierung der Zeitintervalle sollen die Wahrscheinlichkeiten entsprechend kleiner werden: π/2, π/4, . . . , π/n, . . . usw. Man erh¨alt dann f¨ ur festes x auf dem Zahlengitter von Intervallen der L¨ange 1/n P (X > x) = (1 −
π nx ) , n
n = 1, 2, . . .
.
Der Grenz¨ ubergang n −→ ∞ liefert P (X > x) = e−πx , P (X ≤ x) = 1 − e−πx und mit π = λ die Exponentialverteilung. Die Exponentialverteilung steht auch in engem Zusammenhang zur PoissonVerteilung (vgl. Abschnitt 5.3.3, insbesondere Abbildung 5.14): Die Anzahl von Ereignissen in einem Zeitintervall ist genau dann P o(λ)-verteilt, wenn die Zeitdauern zwischen aufeinanderfolgenden Ereignissen unabh¨angig und exponentialverteilt mit Parameter λ sind.
PoissonVerteilung
282
6.2
6. Stetige Zufallsvariablen
Lageparameter, Quantile und Varianz von stetigen Zufallsvariablen
Da wir nur stetige Zufallsvariablen behandeln, die metrisch skaliert sind, sind alle Lageparameter sowie die Quantile und die Varianz sinnvoll definiert. Erwartungswert Zur Definition des Erwartungswertes betrachten wir den Grenz¨ ubergang von einer approximierenden diskreten Zufallsvariable Xd zu einer stetigen Zufallsvariable X wie bei der Definition der Dichte f (x). Wir unterteilen wieder den Wertebereich von X in gleich große Intervalle [ci−1 , ci ] der L¨ange Δxi mit Klassenmitten xi und approximieren die Dichte f (x) durch ein Wahrscheinlichkeitshistogramm mit Rechtecken der Fl¨ ache pi = f (xi )Δxi u ¨ber den Klassenmitten, siehe Abbildung 6.9. Dazu definieren wir die diskrete Zufallsvariable Xd mit Werten xi und der Wahrscheinur kleine Δxi ist dann pi ≈ P (ci−1 ≤ X ≤ ci ), und Xd kann lichkeitsverteilung pi . F¨ als Approximation der stetigen Zufallsvariable X aufgefaßt werden. f (x) 6 f (xi )
................................ ........ .......... .......... ....... ......... ...... . . . . ......... .. ......... ..... ........... .... . . . ................. .. ......... . . ....... ... . . ...... .. ...... . . ..... .. . . ..... .. . .... . .. .... . . .... ... . ... . . . ... .. .... . . ...... .. . . ...... .. ...... . . ..... .. . . ..... .. ..... . . ..... .. . . .... .. .... . . .. ... . . .... .. . . .... ... ... . ... . . . .... ... ... . . ... . . ... ... ... . .. ... . .
-
x
ci−1 xi ci
Abbildung 6.9: Dichte von X und approximierendes Histogramm von Xd
F¨ ur den Erwartungswert von Xd gilt xi pi = xi f (xi )Δxi . E(Xd ) = i
i
6.2 Lageparameter, Quantile und Varianz von stetigen Zufallsvariablen
283
Verkleinert man die Intervall¨ angen Δxi , so wird die Approximation von X durch ubergang Δxi −→ 0 f¨ ur alle Intervalle liefert Xd besser. Der (heuristische) Grenz¨
xi f (xi )Δxi −→
i
+∞
xf (x)dx . −∞
Deshalb definiert man die rechte Seite als den Erwartungswert einer stetigen Zufallsvariable. Erwartungswert Der Erwartungswert E(X) einer stetigen Zufallsvariable X mit Dichte f (x) ist +∞ xf (x) dx . μ = E(X) = −∞
Falls der Tr¨ager T = {x : f (x) > 0} nur aus einem endlichen Intervall besteht, durchl¨auft x nur diesen Bereich und E(X) ist endlich. Falls dies nicht gilt, wie etwa f¨ ur T = [0, ∞) oder T = , ist |E(X)| < ∞ nicht generell gew¨ahrleistet, sondern muß im folgenden vorausgesetzt werden. Wie bei( unendlich-diskreten Zufallsvariablen setzt man sogar mehr voraus, n¨ amlich, daß |x|f (x)dx < ∞ ist. Interpretation und Eigenschaften von Erwartungswerten lassen sich vom dis¨ kreten auf den stetigen Fall ohne wesentliche Anderung u ¨ bertragen. Wir fassen die Eigenschaften nochmals zusammen, verzichten aber auf Beweise, die teils in Analogie zum diskreten Fall gef¨ uhrt werden k¨ onnen.
284
6. Stetige Zufallsvariablen
Eigenschaften von Erwartungswerten 1. Transformationen: Sei g(x) eine reelle Funktion. Dann gilt f¨ ur Y = g(X)
+∞
g(x)f (x)dx .
E(Y ) = E(g(X)) = −∞
2. Lineare Transformationen: F¨ ur Y = aX + b ist E(Y ) = E(aX + b) = aE(X) + b . 3. Symmetrische Verteilungen: Ist die Dichte f (x) symmetrisch um den Punkt c, d.h. ist f (c − x) = f (x + c) f¨ ur alle x, so gilt E(X) = c . 4. Additivit¨ at: F¨ ur zwei Zufallsvariablen X und Y ist E(X + Y ) = E(X) + E(Y ) . 5. Allgemeiner gilt mit beliebigen Konstanten a1 , . . . , an E(a1 X1 + . . . + an Xn ) = a1 E(X1 ) + . . . + an E(Xn ) . Linearit¨at Additivit¨at
Diese Eigenschaften erleichtern oft die Berechnung von Erwartungswerten. Die Eigenschaften 2, 4 und 5 nennt man zusammen Linearit¨ at und Additivit¨ at des Erwartungswertes.
Beispiel 6.3
Stetige Gleichverteilung Sei X wie in Beispiel 6.1 (Seite 275) auf [a, b] gleichverteilt. Dann ist
+∞
E(X) =
x f (x) dx = −∞
b
x a
1 1 dx = b−a b−a
also
b2 a2 − 2 2
=
(b − a)(b + a) , 2(b − a)
a+b . 2 Dieses Ergebnis h¨ atten wir auch ohne Integration aus der Symmterieeigenschaft erhalten k¨ onnen: Der Mittelpunkt (a + b)/2 des Intervalls [a, b] ist Symmetriepunkt der Gleichverteilung. E(X) =
6.2 Lageparameter, Quantile und Varianz von stetigen Zufallsvariablen
285
F¨ ur das Beispiel der Wartezeit auf die n¨ achste S-Bahn ist also die zu erwartende Wartezeit gleich 10 Minuten. 2
Abweichungen vom Sollwert
Beispiel 6.4
Der Erwartungswert der Zufallsvariablen X = “Abweichung vom Sollwert” ist durch
+∞
E(X) =
+1
xf (x)dx = −∞
−1
3 3 x (1 − x2 ) dx = 4 4
+1
−1
(x − x3 ) dx
definiert. Integration ergibt +1 x4 3 x2 − E(X) = = 0. 4 2 4 −1 Das gleiche Ergebnis erh¨ alt man auch aus der Symmetrie von f (x) zum Punkt 0. Falls man wiederholt, etwa n-mal, Abweichungen x1 , x2 , . . . , xn mißt, wird nach der H¨aufigkeitsinterpretation das arithmetische Mittel x ¯ = (x1 +x2 +. . .+xn )/n dieser Abweichungen nahe bei null liegen. 2
Exponentialverteilung
Beispiel 6.5
F¨ ur eine exponentialverteilte Zufallsvariable X ∼ Ex(λ) ist E(X) = λ
∞
xe−λx dx =
0
1 . λ
Die Integration ist nicht mehr elementar durchf¨ uhrbar. Man kann aber Formelsammlungen entnehmen, daß die Funktion e−λx (−λx − 1) λ2 Stammfunktion von xe−λx ist, und daraus das Ergebnis erhalten, oder man benutzt partielle Integration: ∞ ∞ *∞ ) xλe−λx dx = x · (−1)e−λx 0 + e−λx dx = 0 + 1/λ . 0
0
2
286
6. Stetige Zufallsvariablen
Modus Die Definition bezieht sich nun auf Maxima der Dichte f (x). Modus Jeder x-Wert, f¨ ur den f (x) ein Maximum besitzt, ist Modus, kurz xmod . Falls das Maximum eindeutig ist und f (x) keine weiteren lokalen Maxima besitzt, heißt f (x) unimodal. Modalit¨at
Existieren zwei oder mehrer (lokale) Maxima, heißt f (x) bimodal oder multimodal.
Abbildung 6.10: Uni- und multimodale Dichten
Falls f (x) unimodal und symmetrisch um c ist, ist offensichtlich c = xmod = E(X). ur unimodale Verteilungen sinnvoll. In Beispiel 6.4 Als Lageparameter ist xmod nur f¨ ur die Gleichverteilung ist aber nach unserer Definition jeder ist E(X) = 0 = xmod , f¨ Wert x ∈ [a, b] auch Modus, womit nat¨ urlich die Lage nicht charakterisiert wird. Median und Quantile Wir betrachten zun¨ achst den in der induktiven Statistik weitaus wichtigsten Fall, daß die Verteilungsfunktion auf ihrem Tr¨ager T = {x : f (x) > 0} streng monoton wachsend ist wie in Abbildung 6.11. Der Median xmed ist dann der Wert auf der x-Achse, f¨ ur den F (xmed ) = P (X ≤ xmed ) = P (X ≥ xmed ) = 1 − F (xmed ) = Median
1 2
gilt. Damit teilt der Median auch die Fl¨ache 1 unter der Dichte in zwei gleich große
6.2 Lageparameter, Quantile und Varianz von stetigen Zufallsvariablen
F (x) 6 1 p
287
f (x) 6
....... ............................ ......... ....... ...... ..... . . . . .... ... ... ... ... . . ... .. ... ... .. . . ... ... ... ... . . .. ... ... .... ... . . .. ..... ..... ...... ....... . . . . . . . . .. ..................................
1 2
xmed xp
.................. ... .... ... ... ... ... ... ... . ... .. . .. .. . ... .. ... . .. ... . .. .. . ... .. . ... .. . ... .. ... . .. ... . ... .. . ... .. . ... .. . ... .. ... . ... .. . . ... . . ... .. . . ... .. . ... . .... .. . . . ..... .... . ...... . . . ....... ... . . . . . . .............. . .............
1 2
-
x
1 2
p
1−p
xmed xp
-
x
Abbildung 6.11: Verteilungsfunktion, Dichte, Median und Quantile
Teilfl¨achen. F¨ ur 0 < p < 1 sind p-Quantile xp ganz analog durch
p-Quantile
F (xp ) = P (X ≤ xp ) = p definiert. Das p-Quantil teilt dann die Gesamtfl¨ache unter f (x) auf in eine Teilfl¨ache ache der Gr¨oße 1 − p rechts von xp . der Gr¨oße p links von xp und eine Teilfl¨ Median und Quantile ur die F¨ ur 0 < p < 1 ist das p-Quantil xp die Zahl auf der x-Achse, f¨ F (xp ) = p gilt. Der Median xmed ist das 50 %-Quantil, es gilt also F (xmed ) = 1/2 . F¨ ur streng monotone Verteilungsfunktionen F (x) sind p-Quantil und Median eindeutig bestimmt. F¨ ur nicht streng monoton wachsende Verteilungsfunktionen kann zum Beispiel der Median nicht eindeutig bestimmt sein, wenn F (x) = 0.5 auf einem Intervall gilt. Dann w¨are jeder x-Wert aus diesem Intervall Median. Zur eindeutigen Festlegung k¨onnte man etwa den linken Randpunkt oder den Mittelpunkt des Intervalls w¨ahlen. Dieser Fall tritt selten auf und hat somit geringere Anwendungsrelevanz. F¨ ur zu einem Punkt c symmetrische und unimodale Verteilungen gilt
Symmetrie
288
6. Stetige Zufallsvariablen
E(X) = xmod = xmed . Im allgemeinen gilt diese Gleichung jedoch nicht. Beispiel 6.6
Stetige Gleichverteilung, Exponentialverteilung Bei der stetigen Gleichverteilung gilt wegen der Symmetrie xmed =
a+b . 2
F¨ ur die Exponentialverteilung berechnet sich der Median aus der Gleichung xmed 1 λe−λx dx = , 2 0 also
) −λx *xmed 1 −e = −e−λxmed + 1 = . 0 2
Logarithmieren ergibt −λxmed
1 = ln − = − ln 2 , 2
xmed =
ln 2 . λ
Somit ist
1 ln 2 < = E(X) . λ λ Da der Modus = 0 ist, erh¨ alt man insgesamt xmed =
xmod < xmed < E(X) . 2
Varianz Wie f¨ ur den Erwartungswert kann die Definition der Varianz durch einen Grenzu ¨bergang vom diskreten zum stetigen Fall motiviert werden. Die Varianz der approximierenden diskreten Zufallsvariable Xd ist (xi − μ)2 f (xi )Δxi . Var(Xd ) = i
F¨ ur xi −→ 0 wird diese Summe zu einem Integral, und man erh¨alt folgende Definition.
6.2 Lageparameter, Quantile und Varianz von stetigen Zufallsvariablen
289
Varianz und Standardabweichung einer stetigen Zufallsvariable Die Varianz Var(X) einer stetigen Zufallsvariable X mit Dichte f (x) ist
2
+∞
σ = Var(X) = −∞
(x − μ)2 f (x)dx
mit μ = E(X). Die Standardabweichung ist $ σ = + Var(X) . Interpretationen und Eigenschaften gelten wie im diskreten Fall.
Eigenschaften von Varianzen 1. Es gilt Var(X) = E((X − μ)2 ) 2. Verschiebungsregel Var(X) = E(X 2 ) − (E(X))2 = E(X 2 ) − μ2 bzw.
Var(X) = E((X − c)2 ) − (μ − c)2 .
3. Lineare Transformationen F¨ ur Y = aX + b ist Var(Y ) = Var(aX + b) = a2 Var(X) , σY = |a|σX . 4. Varianz der Summe von unabh¨ angigen Zufallsvariablen Falls X und Y bzw. X1 , . . . , Xn unabh¨angig sind gilt Var(X + Y ) = Var(X) + Var(Y ) bzw. mit beliebigen Konstanten a1 , . . . , an Var(a1 X1 + . . . + an Xn ) = a21 Var(X1 ) + . . . + a2n Var(Xn ) . Die Beweise f¨ ur diese Eigenschaften aus Abschnitt 5.2.2 k¨onnen dabei zum Teil unver¨andert u ¨ bernommen werden.
290
Beispiel 6.7
6. Stetige Zufallsvariablen
Stetige Gleichverteilung Es ist zun¨ achst E(X 2 ) =
+∞
x2 f (x) dx =
−∞
a
b
x2
b 3 − a3 1 dx = . b−a 3(b − a)
Aus dem Verschiebungssatz erhalten wir Var(X) = E(X 2 ) − (E(X))2 =
(a + b)2 (b − a)3 (b − a)2 b 3 − a3 − = = . 3(b − a) 4 12(b − a) 12
√ Die Varianz w¨ achst also quadratisch und die Standardabweichung σ = (b − a)/ 12 linear mit der L¨ ange des Intervalls. 2
Beispiel 6.8
Abweichungen vom Sollwert F¨ ur die Zufallsvariable X = “Abweichung vom Sollwert” ist E(X) = 0. Also ist
+1
3 x2 · (1 − x2 ) dx 4 −1 3 +1 +1 3 x 3 x5 2 4 = − (x − x ) dx = = 4 −1 4 3 5 −1 3 1 1 3 1 1 35−3 1 − = . = − − + = 4 3 5 4 3 5 2 15 5 2
Var(X) = E(X ) =
2
Beispiel 6.9
Exponentialverteilung Die Integration erfordert hier wieder gr¨oßeren Aufwand; wir f¨ uhren sie nicht durch. Es ergibt sich f¨ ur X ∼ Ex(λ) 1 Var(X) = 2 . λ Die Varianz ist also umgekehrt proportional zu λ2 : Je gr¨oßer λ ist, desto steiler geht die Dichte f (x) gegen null, desto n¨ aher ist die Verteilung bei null konzentriert und desto kleiner ist somit die Varianz. 2
6.2 Lageparameter, Quantile und Varianz von stetigen Zufallsvariablen
291
Standardisierung von Zufallsvariablen Eine Zufallsvariable X mit μ = E(X) und σ = Var(X) kann man ¨ahnlich wie ein Merkmal bzw. Daten standardisieren. Man geht u ¨ber zu Z=
X −μ . σ
Dann gilt nach den Regeln f¨ ur lineare Transformationen E(Z) = 0 und
Var(Z) = 1 .
Symmetrie und Schiefe Wie bei empirischen Verteilungen ist auch bei Verteilungen von Zufallsvariablen nach Lage und Streuung die Schiefe die n¨ achstwichtige, die Form der Verteilung charakterisierende Eigenschaft. Abbildung 6.12 zeigt f¨ ur stetige Zufallsvariablen die Dichten einer linkssteilen (oder rechtsschiefen), einer symmetrischen und einer rechtssteilen (oder linksschiefen) Verteilung. Die Graphen entsprechen schiefen oder symmetrischen Dichtekurven in Kapitel 2.
Abbildung 6.12: Dichten einer linkssteilen, symmetrischen und rechtssteilen Verteilung
Eine formale Definition von Symmetrie und Schiefe ist u ¨ ber die Entfernung der Quantile xp und x1−p , 0 < p < 1, vom Median m¨oglich.
292
6. Stetige Zufallsvariablen
Symmetrie und Schiefe stetiger Verteilungen Sei X eine stetige Zufallsvariable. Dann heißt die Verteilung symmetrisch, linkssteil, (oder rechtsschief ) rechtssteil, (oder linksschief )
wenn wenn
xmed − xp = x1−p − xmed xmed − xp ≤ x1−p − xmed
wenn
xmed − xp ≥ x1−p − xmed
jeweils f¨ ur alle 0 < p < 1 gilt und bei linkssteilen bzw. rechtssteilen Verteilungen f¨ ur mindestens ein p das < bzw. > Zeichen gilt. Diese Definitionen entsprechen dem Verhalten empirischer Verteilungen, das auch in Box-Plots visualisiert wird. Charakteristisch ist auch die folgende Lageregel bez¨ uglich Modus, Median und Erwartungswert: Lageregel Symmetrische unimodale Verteilung: Linkssteile Verteilung: Rechtssteile Verteilung:
xmod = xmed = E(X) xmod < xmed < E(X) xmod > xmed > E(X)
Diese Lageregeln gelten auch f¨ ur diskrete Verteilungen, vergleiche etwa die geometrische Verteilung. Eine sehr einfache linkssteile Verteilung ist die Exponentialverteilung, bei der wir die Lageregel im Beispiel 6.6 (Seite 288) nachvollziehen k¨onnen. Linkssteile Verteilungen spielen insbesondere bei der Modellierung von Lebensdauern, Einkommensverteilungen u.a. eine wichtige Rolle. Wir geben noch ein einfaches Beispiel einer rechtssteilen Verteilung an. Beispiel 6.10
Eine rechtssteile Verteilung Die Zufallsvariable X habe die Dichte f (x) =
2x , 0 ≤ x ≤ 1 0 , sonst .
Die Verteilung ist rechtssteil mit xmod = 1 und 1 2 x2xdx = . μ = E(X) = 3 0
6.3 Spezielle stetige Verteilungsmodelle
293
Der Median xmed berechnet sich aus F (xmed ) = 1/2 mit der Verteilungsfunktion ⎧ ⎪ ⎨ 0 , x<0 F (x) = x2 , 0 ≤ x ≤ 1 ⎪ ⎩ 1 , x>1. Damit folgt xmed =
6.3
$ 1/2. Es gilt also die Lageregel.
2
Spezielle stetige Verteilungsmodelle
Dieser Abschnitt beschreibt einige wichtige Verteilungen f¨ ur stetige Zufallsvariablen. Bez¨ uglich des Modellcharakters gelten die gleichen Vorbemerkungen wie zu diskreten Verteilungsmodellen in Abschnitt 5.3. Die stetige Gleichverteilung und die Exponentialverteilung wurden als zeitstetige Analoga zur diskreten Gleichverteilung und zur geometrischen Verteilung bereits im vorangehenden Abschnitt behandelt. Die Dichtekurve der Normalverteilung, der wichtigsten stetigen Verteilung, wurde bereits in Abschnitt 2.4.2, allerdings ohne Bezug zu Zufallsvariablen, eingef¨ uhrt.
6.3.1
Die Normalverteilung
Die Normalverteilung ist die bekannteste und wichtigste Verteilung. Zwei wesentliche Gr¨ unde daf¨ ur sind: In vielen Anwendungen l¨aßt sich die empirische Verteilung von Daten, die zu einem stetigen oder quasi-stetigen, d.h. feinabgestuften diskreten, Merkmal X erhoben werden, durch eine Normalverteilung ausreichend gut approximieren, zumindest dann wenn die Originaldaten bzw. das urspr¨ ungliche Merkmal geeignet transformiert wurden. Deshalb wurde die Dichtekurve der Normalverteilung bereits in Kapitel 2 eingef¨ uhrt. Die glockenf¨ormige Gestalt dieser Dichte ist insbesondere dann ein gutes Modell f¨ ur die Verteilung einer Variable X, wenn diese durch das Zusammenwirken einer gr¨ oßeren Zahl von zuf¨alligen Einfl¨ ussen entsteht, etwa bei Meßfehlern, bei Abweichungen von einem Soll- oder Durchschnittswert bei der Produktion von Ger¨ aten, bei physikalischen Gr¨oßen wie Gewicht, L¨ange, Volumen, bei Punktezahlen in Tests usw. Die theoretische Rechtfertigung f¨ ur dieses empirisch beobachtbare Ph¨ anomen liefert der zentrale Grenzwertsatz (Abschnitt 7.1.2). F¨ ur die induktive Statistik noch entscheidender ist, daß sich viele andere Verteilungen,
294
6. Stetige Zufallsvariablen
insbesondere solche, die bei Sch¨atz- und Testprozeduren mit gr¨oßerem Stichprobenumfang auftreten, durch die Normalverteilung gut approximieren lassen. Auch hierf¨ ur liefert der zentrale Grenzwertsatz die theoretische Rechtfertigung. Normalverteilung Eine Zufallsvariable X heißt normalverteilt mit Parametern μ ∈ kurz X ∼ N (μ, σ 2 ), wenn sie die Dichte 1 (x − μ)2 f (x) = √ exp − , x∈ 2σ 2 2πσ besitzt. Es gilt E(X) = μ ,
und σ 2 > 0,
Var(X) = σ 2 .
Die Normalverteilung wird auch als Gauß-Verteilung und die Dichtekurve als Gauß-Kurve bezeichnet. alt man die Standardnormalverteilung N (0, 1) mit Speziell f¨ ur μ = 0, σ 2 = 1 erh¨ der Dichte 1 2 1 √ exp − x . φ(x) = 2 2π Symmetrie
Die Dichte ist symmetrisch zu μ, d.h. es gilt f (μ − x) = f (μ + x) , x ∈
Glockenform
Verteilungsfunktion
.
Die Gauß-Kurve hat Glockenform mit dem Maximum an der Stelle μ und den Wendepunkten bei μ ± σ. Eine Ver¨ anderung von μ bei gleichbleibender Varianz bewirkt nur eine Lageverschiebung auf der x-Achse, jedoch keine Ver¨anderung der Form. Diese wird durch den Wert von σ bestimmt: Die Glockenkurve f¨allt umso schneller bzw. langsamer vom Maximum an der Stelle μ gegen null ab, je kleiner bzw. gr¨oßer der Wert der Standardabweichung σ ist. Abbildung 6.13 zeigt einige Dichten f¨ ur verschiedene Werte von μ und σ. Aus der Symmetrie um μ folgt sofort, ( daß E(X) = μ ist. Auf 2die schwierigeren Beweise, daß f (x) eine Dichte ist, d.h. f (x)dx = 1 gilt, und daß σ die Varianz von X ist, verzichten wir. Die Verteilungsfunktion ist definitionsgem¨aß durch x F (x) = P (X ≤ x) = f (t) dt −∞
Standardnormalverteilung
gegeben. Dieses Integral l¨ aßt sich nicht analytisch berechnen und durch bekannte Funktionen in geschlossener Form schreiben. Dies gilt ebenso f¨ ur die Verteilungsfunktion Φ(x) der Standardnormalverteilung
6.3 Spezielle stetige Verteilungsmodelle
295
Abbildung 6.13: Dichten von Normalverteilungen f¨ ur μ = 0 und σ 2 = 0.25 ( 2 2 2 ) und σ = 5 ( ) links bzw. σ = 1 und μ = −1 ( ), μ = 0 ( σ =1 ( ) rechts sowie μ = 2 (
), )
Abbildung 6.14: Dichte und Verteilungsfunktion der Standardnormalverteilung
x
Φ(x) =
x
φ(t)dt = −∞
−∞
2 t 1 √ exp − dt . 2 2π
Deshalb muß Φ(x) durch spezielle numerische Verfahren am Computer berechnet werden und ist f¨ ur bequemeres Rechnen tabelliert. Da φ(x) symmetrisch zum Nullpunkt ist, folgt die Symmetriebeziehung
Symmetriebeziehung
296
6. Stetige Zufallsvariablen
Φ(−x) = 1 − Φ(x) . Daher reicht es aus, Φ(x) f¨ ur x ≥ 0 zu berechnen bzw. zu tabellieren. Um die Verteilungsfunktion F (x) = P (X ≤ x) und Wahrscheinlichkeiten anderer Ereignisse f¨ ur ugt es, Φ(x) sowie beliebige N (μ, σ 2 )-verteilte Zufallsvariablen zu berechnen, gen¨ μ = E(X) und σ 2 = Var(X) zu kennen. Entscheidend ist die folgende Eigenschaft: Standardisierung Ist X eine N (μ, σ 2 )-verteilte Zufallsvariable, so ist die standardisierte Zufallsvariable X −μ Z= σ standardnormalverteilt, d.h. Z ∼ N (0, 1). Damit l¨ aßt sich die Verteilungsfunktion F einer N (μ, σ 2 )-verteilten Zufallsvariable durch die Verteilungsfunktion Φ der Standardnormalverteilung ausdr¨ ucken. x−μ x−μ x−μ X −μ ≤ =P Z≤ =Φ . F (x) = P (X ≤ x) = P σ σ σ σ Zusammen mit der Symmetriebeziehung kann damit F (x) u ur ¨ ber die Tabelle A f¨ die Standardnormalverteilung Φ(x) berechnet werden. Die Φ(−x) = 1 − Φ(x) entsprechende Symmetriebeziehung f¨ ur F (x) ist F (μ − x) = 1 − F (μ + x) . R¨ uckf¨ uhrung auf Standardnormalverteilung x−μ x−μ = Φ(z) mit z = . F (x) = Φ σ σ
Quantile Die Quantile zp der Standardnormalverteilung sind durch die Gleichung Φ(zp ) = p ,
0 < p < 1,
bestimmt. Das p-Quantil zp teilt damit die Fl¨ache unter der Dichte φ(z) in eine Fl¨ache mit Inhalt p links von zp und eine Fl¨ache mit Inhalt 1 − p rechts davon auf. Wegen der Symmetrie gilt zp = −z1−p .
6.3 Spezielle stetige Verteilungsmodelle
297
φ(x) 6
........ ....... ........... .... .... ... ... ... ... .. ... . .. ... . ... .. . ... .. . ... .. . .. .. ... . .. ... . . ... . . ... ... . ... .. . ... .. ... . .. ... . ... .. . ... .. . ... .. . ... .. ... . ... .. . ... .. . ... .. . ... .. ... . .. ... . ... .. . ... . . . ... .. . ... . .. ... . . ... .. . . ... ... ... . . .... . . . . ..... . .... ...... . . . . ....... .... . . . . . ......... . ...... . . ............. . . . . . . . . ............... ...................
1−p
1−p
−zp
zp
0
x
-
Abbildung 6.15: Quantile der Standardnormalverteilung
Wichtige Quantile der Standardnormalverteilung sind (vgl. Abschnitt 2.4.2)
p zp
50 % 0.0 (Median)
75 % 0.67
90 % 1.28
95 % 1.64
97.5 % 1.96
99 % 2.33
Zwischen den Quantilen xp einer N (μ, σ 2 )-Verteilungsfunktion F (x) und den zp Quantilen besteht durch die Standardisierung folgende Beziehung:
Quantile zp =
xp − μ σ
bzw. xp = μ + σzp .
Mit den Quantilen lassen sich auch sofort die Wahrscheinlichkeiten f¨ ur sogenannte zentrale Schwankungsintervalle der Form μ − c ≤ X ≤ μ + c angeben. Dabei gibt man entweder c vor, zum Beispiel c = 2σ, und bestimmt dazu α bzw. 1 − α so, daß P (μ − c ≤ X ≤ μ + c) = 1 − α gilt, oder man gibt die Wahrscheinlichkeit 1 − α vor und bestimmt mittels Quantile das richtige c, vgl. Abbildung 6.16.
zentrale Schwankungsintervalle
298
6. Stetige Zufallsvariablen
6
...... ....... ........... .... ... ... ... .. . ... ... ... .. ... . ... .. . .. .. . ... .. ... . .. ... . ... .. . ... .. . ... .. . ... .. ... . .. ... . ... .. . ... .. . ... .. . ... .. ... . ... .. . ... .. . ... . . . ... .. . ... . .. ... . . ... ... . .... . .. ..... . . . . ...... ... . . . . ........ . . ..... . ........... . . . . . . . . . ............... .................
1−α
α/2
α/2
μ−c
μ
μ+c
-
Abbildung 6.16: Zentrales Schwankungsintervall
Zentrale Schwankungsintervalle, kσ-Bereiche F¨ ur X ∼ N (μ, σ 2 ) gilt P (μ − z1−α/2 σ ≤ X ≤ μ + z1−α/2 σ) = 1 − α . alt man die kσ-Bereiche F¨ ur z1−α/2 = k erh¨ k = 1 : P (μ − σ ≤ X ≤ μ + σ) = 0.6827 k = 2 : P (μ − 2σ ≤ X ≤ μ + 2σ) = 0.9545 k = 3 : P (μ − 3σ ≤ X ≤ μ + 3σ) = 0.9973
Diese Beziehungen ergeben sich u ¨ber die Standardisierung. Die erste Gleichung folgt direkt aus P (μ − z1−α/2 σ ≤ X ≤ μ + z1−α/2 σ) = P (−z1−α/2 ≤
X −μ ≤ z1−α/2 ) = 1 − α . σ
Weiter gilt μ − kσ − μ μ + kσ − μ −Φ σ σ = Φ(k) − Φ(−k) = 2Φ(k) − 1 .
F (μ + kσ) − F (μ − kσ) = Φ
F¨ ur k = 1, 2, 3 erh¨ alt man die angegebenen Wahrscheinlichkeiten aus Tabelle A.
6.3 Spezielle stetige Verteilungsmodelle
299
St¨ uhle und Tische
Beispiel 6.11
Eine Firma erh¨ alt den Auftrag, f¨ ur die oberen Klassen (14 − 16j¨ahrige) einer Hauptschule neue Schulm¨ obel herzustellen. Da zufallsbedingte Ungenauigkeiten in der Herstellung nicht ausgeschlossen werden k¨ onnen, wurde angenommen, daß die H¨ohe der St¨ uhle in guter Approximation als normalverteilte Zufallsvariable angesehen werden kann mit einer durchschnittlichen Sitzh¨ ohe von 83 cm und einer Standardabweichung von 5 cm. M¨ochte man beispielsweise die Wahrscheinlichkeit daf¨ ur bestimmen, daß ein Stuhl eine Sitzh¨ohe von mindestens 82 cm hat, so ist X zun¨ achst in eine standardnormalverteilte Zufallsvariable Z zu transformieren, damit die zugeh¨ orige Tabelle A verwendet werden kann. Da X N (83, 25)-verteilt ist, besitzt Z = (X − 83)/5 eine N (0, 1)-Verteilung und es gilt 82 − 83 = P (Z ≥ −0.2) P (X ≥ 82) = P Z ≥ 5 = 1 − Φ(−0.2) = 1 − 1 + Φ(0.2) = 0.5793 . Also betr¨ agt die gesuchte Wahrscheinlichkeit ca. 58 %. Interessiert man sich andererseits f¨ ur die Mindesth¨ ohe x der 20 % h¨ ochsten St¨ uhle, so erf¨ ullt das gesuchte x zun¨achst die Beziehung P (X ≥ x) = 1 − F (x) = 0.2 , also F (x) = 0.8 und durch Standardisierung erh¨alt man x − 83 F (x) = Φ = 0.8 . 5 Das 0.8-Quantil der Standardnormalverteilung ist laut Tabelle ungef¨ahr gleich 0.84. (Genaugenommen ist dieser Wert das 0.7994-Quantil. Mit Hilfe von Statistik-Programm-Paketen erh¨ alt man mit 0.8416 ein genaueres 0.8-Quantil.) Die Gleichung x − 83 = 0.84 5 liefert dann die gesuchte Mindesth¨ ohe von x = 0.84 · 5 + 83 = 87.2 cm. Der 2σ-Bereich der Verteilung der Stuhlh¨ ohe ist das Intervall [73, 93], d.h. etwa 95 % der produzierten St¨ uhle sind mindestens 73 cm und h¨ ochstens 93 cm hoch. 2
Zwei wichtige Eigenschaften von normalverteilten Zufallsvariablen betreffen ihr Verhalten bei linearen Transformationen und bei Addition. Lineare Transformation F¨ ur X ∼ N (μ, σ 2 ) ist die linear transformierte Variable Y = aX + b, a = 0, wieder normalverteilt mit Y ∼ N (aμ + b, a2 σ 2 ) .
300
6. Stetige Zufallsvariablen
Addition 2 ) und Y ∼ N (μ , σ 2 ) normalverteilt und unabh¨ angig, so Sind X ∼ N (μX , σX Y Y gilt 2 + σY2 ) . X + Y ∼ N (μX + μY , σX
Sind Xi ∼ N (μi , σi2 ), i = 1, . . . , n, unabh¨angig, so ist jede Linearkombination Y = a1 X1 + . . . + an Xn wieder normalverteilt mit Y ∼ N (a1 μ1 + . . . + an μn , a21 σ12 + . . . + a2n σn2 ) . Die Normalverteilungseigenschaft bleibt also bei der linearen Transformation und bei der Addition von unabh¨ angigen Zufallsvariablen erhalten. Wir zeigen nur die lineare Transformationsregel. Es ist y−μ = P (Y ≤ y) = P (aX + b ≤ y) = P X ≤ σ y y−b a 1 t−b · dt , f (x)dx = f = a a −∞ −∞ wobei die Substitution von t = ax + b, dt = adx verwendet wurde. Einsetzen liefert 2 1 (t − b)/a − μ t−b 1 1 exp − f = √ a a 2 σ2 a 2πσ 2 1 t − (aμ + b) 1 exp − , =√ 2 a2 σ 2 2πaσ also gerade die Dichte der N (aμ + b, a2 σ 2 )-Verteilung. Die Regel f¨ ur die Linearkombinationen ergibt sich aus der Verbindung der beiden ersten Aussagen. Beispiel 6.12
St¨ uhle und Tische Bei der Herstellung der Stuhltische ergab sich, daß ihre H¨ohe Y als N (113, 16)-verteilte Zufallsvariable angesehen werden kann. Aus orthop¨adischen Untersuchungen ist bekannt, daß eine optimale Sitzposition dann gegeben ist, wenn der Schultisch um 28 cm h¨oher ist als der Stuhl. Somit ist die Zufallsvariable V = Y − X, die die Differenz zwischen der Tischh¨ohe aus Beispiel 6.11 und der Stuhlh¨ ohe beschreibt, von Interesse. Aufgrund der Transformationsregel (mit a = −1) folgt −X einer N (−83, 25)-Verteilung, so daß V wegen der Additionsregel N (113 − 83, 16 + 25), also N (30, 41)-verteilt ist. Dabei darf die Additionsregel nur verwendet werden, da Tische und St¨ uhle von verschiedenen Maschinen hergestellt werden, so daß
6.3 Spezielle stetige Verteilungsmodelle
301
X und Y als unabh¨ angig betrachtet werden k¨onnen. Entnimmt man nun der Produktion zuf¨ allig einen Tisch und einen Stuhl, so weicht diese Kombination mit nur ca. 12 % Wahrscheinlichkeit um weniger als 1 cm von der optimalen Sitzposition ab: 27 − 30 V − μ 29 − 30 √ ≤ √ P (27 ≤ V ≤ 29) = P ≤ σ 41 41 ≈ Φ(−0.16) − Φ(−0.47) = 1 − Φ(0.16) − 1 + Φ(0.47) = −0.5636 + 0.6808 = 0.1172 . 2
6.3.2
Die logarithmische Normalverteilung
Verteilungen von nichtnegativen Zufallsvariablen, etwa Lebensdauern, Wartezeiten oder Einkommen, sind h¨ aufig linkssteil. Eine einfache, aber nicht immer ad¨aquate M¨ oglichkeit zur Modellierung solcher Variablen bietet die Exponentialverteilung. Eine andere M¨ oglichkeit besteht darin, eine nichtnegative Zufallsvariable X mit linkssteiler Verteilung zu transformieren, um eine Zufallsvariable mit symmetrischer Verteilung zu erhalten. H¨ aufig logarithmiert man X zu Y = ln(X) und hofft, daß Y zumindest ann¨ahernd normalverteilt ist. Logarithmische Normalverteilung Eine nichtnegative Zufallsvariable X heißt logarithmisch normalverteilt mit Parametern μ und σ 2 , kurz X ∼ LN (μ, σ 2 ), wenn Y = ln(X) N (μ, σ 2 )-verteilt ist. Es gilt 2 2 2 E(X) = eμ+σ /2 , Var(X) = e2μ+σ (eσ − 1) . Die Dichte l¨aßt sich ebenfalls u ¨ ber die logarithmische Transformation in geschlossener Form angeben. Abbildung 6.17 zeigt f¨ ur verschiedene Werte von μ und σ 2 die Dichtekurven. Weitere Verteilungen, die h¨aufig zur Analyse von Lebensdauern eingesetzt werden, sind Weibull-Verteilungen, Gamma-Verteilungen (mit der Exponentialverteilung als Spezialfall) und die Pareto-Verteilung (insbesondere als Modell f¨ ur Einkommensverteilungen).
6.3.3
Chi-Quadrat-, Student- und Fisher-Verteilung
Von den folgenden Verteilungen werden wir insbesondere die zugeh¨origen Quantile f¨ ur Sch¨atz- und Testverfahren der inferentiellen Statistik ben¨otigen. Die Chi-
Quantile inferentielle Statistik
302
6. Stetige Zufallsvariablen
Abbildung 6.17: Dichten der logarithmischen Normalverteilung f¨ ur μ = 0 und ) und σ 2 = 2.25 ( ) links bzw. σ 2 = 1 und μ = −0.4 σ 2 = 0.25 ( ), σ 2 = 1 ( ) sowie μ = 1.2 ( ) rechts ( ), μ = 0 (
Quadrat-Verteilung kann aber auch zur Modellierung von Lebensdauern und die Student-Verteilung f¨ ur robuste Verfahren verwendet werden. Die Chi-Quadrat-Verteilung Viele Teststatistiken besitzen, vor allem f¨ ur sogenannte Anpassungstests (vgl. Kapitel 11), unter geeigneten Voraussetzungen zumindest approximativ eine ChiQuadrat-Verteilung. Diese l¨ aßt sich als Verteilung der Summe von unabh¨angigen und quadrierten standardnormalverteilten Zufallsvariablen herleiten. χ2 -Verteilung angige und identisch N (0, 1)-verteilte Zufallsvariablen. Seien X1 , . . . , Xn unabh¨ Dann heißt die Verteilung der Zufallsvariablen Z = X12 + . . . + Xn2 Chi-Quadrat-Verteilung mit n Freiheitsgraden, kurz χ2 (n)-Verteilung, und Z heißt χ2 (n)-verteilt, kurz Z ∼ χ2 (n). Es gilt E(Z) = n , Var(Z) = 2n . Die Dichten der χ2 (n)-Verteilung lassen sich in geschlossener Form angeben, werden
6.3 Spezielle stetige Verteilungsmodelle
303
jedoch hier nicht ben¨ otigt. Abbildung 6.18 zeigt f¨ ur verschiedene Freiheitsgrade n die Dichtekurven.
Abbildung 6.18: Dichten von χ2 -Verteilungen f¨ ur n = 2 (· · · ), n = 3 (—) n = 5 (- - -) und n = 7 (−−) Freiheitsgrade
F¨ ur kleine n sind die Dichten deutlich linkssteil. F¨ ur wachsendes n n¨ahern sie sich der Gaußschen Glockenkurve an. Dies ist eine Folge des zentralen Grenzwertsatzes (Abschnitt 7.1.2), da die Summe der Zufallsvariablen X12 , . . . , Xn2 dessen Voraussetzungen erf¨ ullt. F¨ ur n ≤ 30 sind zu ausgew¨ ahlten Werten von p die Quantile tabelliert (Tabelle C). F¨ ur n > 30 benutzt man folgende Normalverteilungsapproximation: √ 1 xp = (zp + 2n − 1)2 , 2 wobei zp das p-Quantil der N (0, 1)-Verteilung ist. Diese Approximation ist besser als die direkte Approximation der χ2 (n)-Verteilung durch eine N (n, 2n)-Verteilung.
Die Student-Verteilung
Diese Verteilung findet besonders bei Parametertests und bei Konfidenzintervallen f¨ ur Parameter Verwendung, vgl. Kapitel 9 bzw. 11. Sie wird h¨aufig auch als Students t-Verteilung oder kurz t-Verteilung bezeichnet.
Normalverteilungsapproximation
304
6. Stetige Zufallsvariablen
t-Verteilung, Student-Verteilung Seien X ∼ N (0, 1), Z ∼ χ2 (n) sowie X und Z unabh¨angig. Dann heißt die Verteilung der Zufallsvariable X T =$ Z/n t-Verteilung mit n Freiheitsgraden, kurz t(n)-Verteilung. Die Zufallsvariable T heißt t(n)-verteilt, kurz T ∼ t(n). Es gilt E(T ) = 0 (m ≥ 2),
Var(T ) =
n (n ≥ 3) . n−2
Die Formeln f¨ ur die Dichten werden hier nicht ben¨otigt. Abbildung 6.19 zeigt f¨ ur ausgew¨ ahlte Freiheitsgrade n die entsprechenden Dichtekurven. Man erkennt fol-
Abbildung 6.19: Dichten von t-Verteilungen f¨ ur n = 1 (—) n = 2 (· · · ), n = 5 (- - -) und n = 20 (−−) Freiheitsgrade
robust
Normalverteilungsapproximation
gendes: Gem¨ aß der Definition sind die t-Verteilungen symmetrisch um null. F¨ ur kleineres n besitzen sie im Vergleich zur Standardnormalverteilung breitere Enden, d.h. die Fl¨ achen unter der Dichtekurve f¨ ur kleine und große Werte von x sind gr¨oßer. Umgekehrt ist weniger Wahrscheinlichkeitsmasse im Zentrum um x = 0 verteilt. Damit eignet sich die t-Verteilung auch zur Modellierung von Daten, die – im Vergleich zur Normalverteilung – einen gr¨oßeren Anteil an extremen Werten enthalten. Deshalb wird die t-Verteilung auch f¨ ur robuste Verfahren der inferentiellen Statistik eingesetzt. F¨ ur n −→ ∞ konvergiert die Dichtekurve gegen die Dichte φ der Standardnormalverteilung. Ab n > 30 ist die Approximation bereits sehr gut. Deshalb sind die Quantile nur bis n = 30 vertafelt (Tabelle D).
6.3 Spezielle stetige Verteilungsmodelle
305
Die Fisher-Verteilung Quantile der Fisher-Verteilung werden vor allem bei Testverfahren der Regressionsund Varianzanalyse (vgl. Kapitel 12 und 13) ben¨otigt.
Fisher-Verteilung Seien X ∼ χ2 (m) und Y ∼ χ2 (n)-verteilt und voneinander unabh¨angig. Dann heißt die Verteilung der Zufallsvariable Z=
X/m Y /n
Fisher- oder F -verteilt mit den Freiheitsgraden m und n, kurz Z ∼ F (m, n). Es gilt n f¨ ur n ≥ 3 , n−2 2n2 (n + m − 2) f¨ ur Var(Z) = m(n − 4)(n − 2)2 E(Z) =
n ≥ 5.
Abbildung 6.20 zeigt f¨ ur verschiedene Freiheitsgrade die Dichtekurven.
Abbildung 6.20: Dichten der F (2, 10)-( ), der F (3, 100)- ( ) und F (10, 3)) links, sowie der F (10, 10)-( ), F (100, 10)-( ) und der F (100, 100)( ) rechts Verteilung (
306
Quantile
6. Stetige Zufallsvariablen
Wichtige Quantile sind f¨ ur ausgew¨ahlte Werte der Freiheitsgrade m und n tabelliert (Tabelle E). F¨ ur andere Werte von m und n gen¨ ugt es zu interpolieren. Zus¨atzlich beachte man, daß aufgrund der Definition der F -Verteilung zwischen dem p-Quantil xp (m, n) der F (m, n)-Verteilung und dem (1 − p)-Quantil x1−p (n, m) der F (n, m)Verteilung die Beziehung 1 . xp (m, n) = x1−p (n, m) gilt.
Diskrete Zufallsvariable X diskreter Wertebereich {x1 , x2 , . . .} f (x) Wahrscheinlichkeitsfunktion 0 ≤ f (x) ≤ 1 f (xi ) = 1
Stetige Zufallsvariable X stetiger Wertebereich ⊆ f (x) Dichte f (x) ≥ 0 ( f (x) dx = 1
i≥1
F (x) = P (X ≤ x) Verteilungsfunktion (x F (x) = f (xi ) F (x) = f (t) dt i:xi ≤x
−∞
Wahrscheinlichkeiten P (a ≤ X ≤ b) =
i:a≤xi ≤b
P (a ≤ X ≤ b) =
f (xi )
μ = E(X) =
xi f (xi )
μ = E(X) =
Varianz (xi − μ)2 f (xi )
+∞ (
xf (x) dx
−∞
i≥1
Var(X) =
f (x) dx
a
Erwartungswert
(b
( Var(X) = (x − μ)2 f (x) dx
i≥1
= E(X − μ)2 = E(X − μ)2 Erwartungswert von Summen E(a1 X1 + . . . + an Xn ) = a1 E(X1 ) + . . . + an E(Xn ) Varianz f¨ ur Summen von unabh¨angigen Zufallsvariablen Var(a1 X1 + . . . + an Xn ) = a21 Var(X1 ) + . . . + a2n Var(Xn ) Tabelle 6.1: Definition und Eigenschaften von diskreten und stetigen Zufallsvariablen
6.4 Zusammenfassung und Bemerkungen
6.4
307
Zusammenfassung und Bemerkungen
Stuft man den Wertebereich von diskreten Zufallsvariablen immer feiner ab, so gelangt man zu geeigneten Begriffsbildungen f¨ ur stetige Zufallsvariablen. Vielfach gehen dabei Summen in Integrale u ber, jedoch gelten wichtige Eigenschaften und Re¨ chenregeln unver¨ andert f¨ ur den diskreten und stetigen Fall. Die Tabelle 6.1 gibt dazu eine Zusammenfassung, siehe dazu auch Hartung, Elpelt und Kl¨osener (2002). In Tabelle 6.2 sind die wichtigsten speziellen Verteilungen zusammengestellt. Viele weitere wichtige Verteilungen, z.B. die Gamma- oder Pareto-Verteilung zur Modellierung von Lebensdauern oder Einkommensverteilungen finden sich im Nachschlagewerk von Johnson, Kotz und Balakrishnan (1994, 1995).
Verteilung Gleichverteilung
Exponentialverteilung
X ∼ N (μ, σ 2 ) Normalverteilung 2
Z ∼ χ (n) 2
χ -Verteilung T ∼ t(n) t-Verteilung Z ∼ F (m, n) F -Verteilung
Dichte 1 f¨ ur a ≤ x ≤ b b−a f (x) = : 0 sonst 8 < λe−λx f¨ ur x ≥ 0 f (x) = : 0 sonst
Erwart.wert
Varianz
a+b 2
(b − a)2 12
1 λ
1 λ2
μ
σ2
siehe Johnson, Kotz und Balakrishnan (1994, 1995)
n
2n
siehe Johnson, Kotz und Balakrishnan (1994, 1995)
0
n n−2
siehe Johnson, Kotz und Balakrishnan (1994, 1995)
n n−2
2n2 (n + m + 2) m(n − 4)(n − 2)2
8 <
wobei λ > 0 ff j 1 −(x − μ)2 f (x) = √ exp 2σ 2 2πσ 2 f¨ ur x ∈
Tabelle 6.2: Spezielle stetige Verteilungen mit ihren Dichten, Erwartungswerten und Varianzen
308
6.5 Aufgabe 6.1
6. Stetige Zufallsvariablen
Aufgaben
F¨ ur eine stetige Zufallsvariable X gilt : ⎧ ⎪ 4ax , 0 ≤ x < 1 ⎨ f (x) = −ax + 0.5 , 1 ≤ x ≤ 5 ⎪ ⎩ 0 , sonst Bestimmen Sie den Parameter a so, daß f (x) eine Dichtefunktion von X ist. Ermitteln Sie die zugeh¨ orige Verteilungsfunktion und skizzieren Sie deren Verlauf. Berechnen Sie den Erwartungswert sowie die Varianz von X.
Aufgabe 6.2
Das statistische Bundesamt h¨ alt f¨ ur die Wachstumsrate des Bruttosozialproduktes X alle Werte im Intervall 2 ≤ x ≤ 3 f¨ ur prinzipiell m¨oglich und unterstellt f¨ ur ihre Analyse folgende Funktion
c · (x − 2) , 2 ≤ x ≤ 3 f (x) = 0 , sonst (a) Bestimmen Sie c derart, daß obige Funktion die Dichtefunktion einer Zufallsvariable X ist. (b) Bestimmen Sie die Verteilungsfunktion der Zufallsvariable X. (c) Berechnen Sie P(2.1 < X) und P(2.1 < X < 2.8). (d) Berechnen Sie P(−4 ≤ X ≤ 3|X ≤ 2.1) und zeigen Sie, daß die Ereignisse {−4 ≤ X ≤ 3} und {X ≤ 2.1} stochastisch unabh¨angig sind. (e) Bestimmen Sie den Erwartungswert, den Median und die Varianz von X.
Aufgabe 6.3
An der M¨ unchner U–Bahn–Station “Universit¨at” verkehren zwei Linien tags¨ uber jeweils im 10–Minuten–Takt, wobei die U3 drei Minuten vor der U6 f¨ahrt. Sie gehen gem¨aß einer stetigen Gleichverteilung nach der Vorlesung zur U–Bahn. Wie groß ist die Wahrscheinlichkeit, daß als n¨ achstes die Linie U3 f¨ ahrt?
Aufgabe 6.4
Sei X eine zum Parameter λ exponentialverteilte Zufallsvariable. Zeigen Sie die “Ged¨achtnislosigkeit” der Exponentialverteilung, d.h. daß P (X ≤ x|X > s) = P (X ≤ x − s) f¨ ur x, s ∈
Aufgabe 6.5
mit s < x gilt.
In Aufgabe 5.9 wurde die Zufallsvariable X betrachtet, die die Anzahl der Fehler, die w¨ ahrend 12 Stunden an einem Digitalcomputer auftreten, beschreibt. (a) Welche Verteilung hat unter den gegebenen Voraussetzungen die Zufallsvariable Y =“Wartezeit auf den n¨ achsten Fehler” ? (b) Wie lange wird man im Mittel auf den n¨achsten Fehler warten?
6.5 Aufgaben
309
(c) W¨ ahrend 12 Stunden ist kein Fehler aufgetreten. Wie groß ist die Wahrscheinlichkeit, daß sich in den n¨ achsten 12 Stunden ebenfalls kein Fehler ereignet? Beweisen Sie die Markov–Ungleichung
Aufgabe 6.6
E(X) c f¨ ur jede positive Zahl c, falls X nur nichtnegative Werte annimmt. P (X ≥ c) ≤
Die Erlang–n–Verteilung wird h¨ aufig zur Modellierung von Einkommensverteilungen verwendet. Sie ergibt sich als Summe von n unabh¨ angigen mit Parameter λ exponentialverteilten Zufallsgr¨ oßen. Beispielsweise hat f¨ ur n = 2 die Dichte die Form
λ2 xe−λx , x ≥ 0 f (x) = 0 , sonst.
Aufgabe 6.7
(a) Zeigen Sie, daß f (x) tats¨ achlich eine Dichtefunktion ist. (b) Zeigen Sie, daß
0, x<0 F (x) = −λx 1−e (1 + λx) , x ≥ 0 die zugeh¨ orige Verteilungsfunktion ist. (c) Berechnen Sie den Erwartungswert, den Median und den Modus der Erlang–2–Verteilung mit Parameter λ = 1. Was folgt gem¨ aß der Lageregel f¨ ur die Gestalt der Dichtefunktion? Skizzieren Sie die Dichte, um Ihre Aussage zu u ufen. ¨berpr¨ (d) Bestimmen Sie den Erwartungswert und die Varianz der Erlang–n–Verteilung f¨ ur beliebige n ∈ N und λ ∈ IR+ . In einer Klinik wird eine Studie zum Gesundheitszustand von Fr¨ uhgeburten durchgef¨ uhrt. Das Geburtsgewicht X eines in der 28ten Schwangerschaftswoche geborenen Kindes wird als normalverteilte Zufallsvariable mit Erwartungswert 1000 g und Standardabweichung 50 g angenommen. (a) Wie groß ist die Wahrscheinlichkeit, daß ein in der 28ten Schwangerschaftswoche geborenes Kind ein Gewicht zwischen 982 und 1050 g hat? (b) Bestimmen Sie das 10 %–Quantil des Geburtsgewichts. Was sagt es hier aus? (c) Geben Sie ein um den Erwartungswert symmetrisches Intervall an, in dem mit einer Wahrscheinlichkeit von 95 % das Geburtsgewicht liegt.
Aufgabe 6.8
Eine Firma verschickt Tee in Holzkisten mit jeweils 10 Teepackungen. Das Bruttogewicht der einzelnen Teepackungen sei normalverteilt mit μ = 6 kg und der Standardabweichung σ = 0.06. Das Gewicht der leeren Holzkiste sei normalverteilt mit dem Erwartungswert μ = 5 kg und der Standardabweichung σ = 0.05 kg. Geben Sie ein symmetrisch zum Erwartungswert liegendes Intervall an, in dem in 95 % der F¨alle das Bruttogewicht der versandfertigen Holzkiste liegt.
Aufgabe 6.9
310
Aufgabe 6.10
6. Stetige Zufallsvariablen
Da Tagesrenditen von Aktien oft Ausreißer enthalten, wird zu ihrer Modellierung h¨aufig anstelle einer Normalverteilung eine t–Verteilung verwendet. Beispielsweise lassen sich die Renditen der MRU–Aktie (=X) aus Beispiel 2.8 nach der Transformation Y = (X−0.0007)/0.013 durch eine t–Verteilung mit 1 Freiheitsgrad gut approximieren. Wie groß ist demnach die Wahrscheinlichkeit, eine Rendite gr¨oßer als 0.04 zu erzielen? Wie groß w¨are diese Wahrurde? Geben scheinlichkeit, wenn f¨ ur X eine N (0.0007, 0.0132)–Verteilung zugrundegelegt w¨ Sie ferner f¨ ur das Modell mit Normalverteilungsannahme ein zentrales Schwankungsintervall an, in dem mit einer Wahrscheinlichkeit von 99 % die Tagesrenditen liegen. Warum kann bei Annahme einer t-Verteilung f¨ ur X kein zentrales Schwankungsintervall berechnet werden?
7 Mehr u ¨ber Zufallsvariablen und Verteilungen
Gem¨aß der H¨aufigkeitsinterpretation von Wahrscheinlichkeiten n¨ahert sich bei nmaliger unabh¨ angiger Wiederholung eines Zufallsvorgangs die relative H¨aufigkeit f (A), mit der ein interessierendes Ereignis A eintritt, immer besser der Wahrscheinlichkeit P (A) an. In Abschnitt 7.1 wird dieses “Gesetz großer Zahlen” formal und in allgemeiner Form pr¨ azisiert. Desweiteren enth¨alt der Abschnitt den grundlegenden “zentralen Grenzwertsatz”. Dieser rechtfertigt in vielen F¨allen die Approximation von diskreten oder stetigen Verteilungen durch eine Normalverteilung (Abschnitt 7.2). Mit Zufallszahlen (Abschnitt ∗7.3) lassen sich Zufallsvorg¨ange am Rechner nachbilden. Sie liefern somit die Basis f¨ ur Computersimulationen. Mit Zufallszahlen k¨onnen auch theoretische Resultate, wie z.B. das Gesetz großer Zahlen empirisch best¨atigt werden. Abschnitt ∗7.4 enth¨ alt einige erg¨anzende Begriffe und Resultate.
7.1
Gesetz der großen Zahlen und Grenzwerts¨ atze
In den vorhergehenden Abschnitten wurde des ¨ofteren folgende Situation betrachtet: Ein Zufallsvorgang, dessen Ergebnisse die Realisierungen einer diskreten oder stetigen Zufallsvariable X sind, wird n-mal unabh¨angig wiederholt. Der einfachste Fall ist dabei eine Bernoulli-Kette, bei der die einzelnen Bernoulli-Versuche mit gleichbleibender Wahrscheinlichkeit P (A) f¨ ur das Eintreten des Ereignisses A wiederholt werden. Dann ist X bin¨ ar mit
1 , falls A eintritt X= 0 , falls A nicht eintritt , d.h. X ist B(1, π)-verteilt mit π = P (A). Die einzelnen Bernoulli-Versuche werden durch die unabh¨ angigen Indikatorvariablen
1 , falls A im i-ten Versuch eintritt Xi = 0 , falls A im i-ten Versuch nicht eintritt ,
312
7. Mehr u ¨ber Zufallsvariablen und Verteilungen
beschrieben, mit Xi ∼ B(1, π) f¨ ur i = 1, . . . , n. Dies l¨aßt sich auch so formulieren: angig und identisch wie X ∼ B(1, π) verDie Zufallsvariablen X1 , . . . , Xn sind unabh¨ teilt. Bei einer konkreten Durchf¨ uhrung erh¨alt man als Ergebnis die Realisierungen x1 , . . . , xn (jeweils 1 oder 0) der Zufallsvariablen X1 , . . . , Xn . “Gesetz großer Zahlen”
Ein zugeh¨ origes “Gesetz großer Zahlen” wird dann heuristisch folgendermaßen formuliert: F¨ ur großes n liegt die relative H¨ aufigkeit fn (A) = fn (X = 1) f¨ ur das Auftreten von A mit großer Wahrscheinlichkeit nahe bei der Wahrscheinlichkeit P (A) = P (X = 1), d.h. fn (X = 1) ≈ P (X = 1) , und f¨ ur n −→ ∞ “konvergiert” fn (X = 1) gegen P (X = 1), d.h. ur n −→ ∞ . fn (X = 1) −→ P (A) f¨ In Abbildung 7.1 sieht man, wie die relative H¨aufigkeit fn mit wachsender Anzahl •
• • •• • • • •• • • ••• •• •• • • •• • •• • • •••••••••••••••••••• •••••••••••••••••••••• • • •• •••• • •••••••••••••••••• • • •
Abbildung 7.1: Relative H¨ aufigkeit fn , durch Punkte markiert, nach n unabh¨ angigen Wiederholungen eines Bernoulli-Versuchs mit π = 0.4
der Versuchswiederholungen tendenziell immer n¨aher am wahren Wert π = 0.4 liegt. In diesem Abschnitt werden Gesetze großer Zahlen in pr¨aziserer und in genereller Form, d.h. f¨ ur allgemeinere diskrete und stetige Zufallsvariablen als grundlegende S¨atze dargestellt. Entsprechendes gilt f¨ ur die Summe Hn = X1 + . . . + Xn , der absoluten H¨ aufigkeit des Auftretens von A. F¨ ur jedes endliche n ist Hn B(n, π)verteilt. F¨ ur großes n ist die Summe approximativ normalverteilt bzw. die Verteilung
7.1 Gesetz der großen Zahlen und Grenzwerts¨atze
313
von Hn “konvergiert” gegen eine Normalverteilung (vgl. Abschnitt 5.3.1). Eine formale und allgemeinere Beschreibung dieses Sachverhalts wird durch den zentralen Grenzwertsatz gegeben. Wir fassen zun¨ achst das f¨ ur das Beispiel der Bernoulli-Kette dargestellte Konzept der n-maligen unabh¨ angigen Versuchswiederholung in seiner allgemeinen Form zusammen.
zentraler Grenzwertsatz
Unabh¨ angige und identische Wiederholung Sei X eine diskrete oder stetige Zufallsvariable mit Erwartungswert μ, Varianz σ 2 und einer bestimmten Verteilungsfunktion F . Der zu X geh¨orende Zufallsvorgang werde n-mal unabh¨ angig wiederholt. Die Zufallsvariablen Xi , i = 1, . . . , n, geben an, welchen Wert X beim i-ten Teilversuch annehmen wird. Die Zufallsvariablen X1 , . . . , Xn sind unabh¨angig und besitzen alle die gleiche Verteilungsfunktion F und damit insbesondere den gleichen Erwartungswert μ und die gleiche Varianz σ 2 wie X. Man sagt kurz: X1 , . . . , Xn
sind unabh¨ angig identisch verteilt wie X, oder
X1 , . . . , Xn
sind unabh¨ angige Wiederholungen von X.
Die nach der Durchf¨ uhrung erhaltenen Ergebnisse sind Realisierungen x1 , . . . , xn von X1 , . . . , Xn . Diese Annahme ist bei vielen Zufallsstichproben vom Umfang n f¨ ur ein Merkmal X zumindest n¨ aherungsweise erf¨ ullt. Wir setzen f¨ ur diesen Abschnitt im weiteren diese Annahme voraus.
7.1.1
Das Gesetz der großen Zahlen und der Hauptsatz der Statistik
Das arithmetische Mittel
¯ n = 1 (X1 + . . . + Xn ) X n gibt den durchschnittlichen Wert von X bei n Versuchen wieder. Nach Durchf¨ uhrung wird 1 x ¯n = (x1 + . . . + xn ) n ¯ als Realisierung von Xn beobachtet. Zur Verdeutlichung sei hier noch einmal erw¨ahnt, daß große Buchstaben die Zufallsvariablen bezeichnen und kleine Buchstaben f¨ ur die Realisierungen verwendet werden. Nach den Rechenregeln f¨ ur Summen von unabh¨angigen Zufallsvariablen gilt:
arithmetisches Mittel
314
7. Mehr u ¨ber Zufallsvariablen und Verteilungen
Erwartungswert und Varianz des arithmetischen Mittels ¯n ) = μ , E(X
Beweis
¯n ) = Var(X
σ2 . n
¯ n ) = μ aus E(X ¯n ) = (E(X1 ) + . . . + E(Xn ))/n = nμ/n = μ und Dabei folgt E(X ¯ = Var(X1 + . . . + Xn )/n2 = nσ 2 /n2 = σ 2 /n, wobei f¨ ¯ n ) die UnVar(X) ur Var(X abh¨angigkeit der X1 , . . . , Xn ausgenutzt wird. Der Erwartungswert des arithmetischen Mittels ist also gleich dem von X selbst. ur n −→ ∞ gegen Die Varianz σ 2 /n ist umgekehrt proportional zu n und geht f¨ ¯n stark um μ = E(X) konzentriert. null. Damit ist f¨ ur großes n die Verteilung von X Formal l¨ aßt sich dies so fassen: Gesetz der großen Zahlen F¨ ur beliebig kleines c > 0 gilt ¯ n − μ| ≤ c) −→ 1 f¨ ur P (|X
n −→ ∞ .
¯ n konvergiert nach Wahrscheinlichkeit gegen μ. Man sagt: X Interpretation
Das Gesetz der großen Zahlen sagt also aus, daß die Wahrscheinlichkeit mit der das arithmetische Mittel in ein beliebig vorgegebenes Intervall [μ − c, μ + c] f¨allt, gegen ¯n ≤ μ + c) 1 konvergiert, wenn n −→ ∞ geht. F¨ ur großes n ist damit P (μ − c ≤ X nahe bei 1. Der an sich einfache Beweis benutzt die Ungleichung von Tschebyscheff, siehe Abschnitt 7.4.3. F¨ ur n −→ ∞ geht σ 2 /nc2 gegen null. Daraus folgt die Behauptung. F¨ ur den eingangs betrachteten Fall X ∼ B(1, π) ist π = P (A) = P (X = 1) = E(X) ¯ n = (X1 + . . . + Xn )/n gerade die relative H¨aufigkeit Hn /n des Eintretens von und X A. Also gilt: Theorem von Bernoulli Die relative H¨ aufigkeit, mit der ein Ereignis A bei n unabh¨angigen Wiederholungen eines Zufallsvorgangs eintritt, konvergiert nach Wahrscheinlichkeit gegen P (A).
empirische Verteilungsfunktion
Das Theorem von Bernoulli l¨ aßt sich direkt auf empirische Verteilungsfunktionen anwenden: F¨ ur jedes feste x ist die empirische Verteilungsfunktion Fn (x) die relative
7.1 Gesetz der großen Zahlen und Grenzwerts¨atze
315
H¨aufigkeit des Ereignisses {X ≤ x}. Faßt man die Daten x1 , . . . , xn als Realisierung der unabh¨angigen und identisch wie X verteilten Zufallsvariablen X1 , . . . , Xn auf, ur jedes feste x mit n −→ ∞ nach Wahrscheinlichkeit gegen die so folgt daß Fn (x) f¨ Verteilungsfunktion F (x) von X konvergiert. Tats¨achlich gilt eine entsprechende Aussage nicht nur f¨ ur jedes feste x, sondern global (“gleichm¨ aßig”) f¨ ur alle x ∈ . Hauptsatz der Statistik (Satz von Glivenko-Cantelli) Sei X eine Zufallsvariable mit der Verteilungsfunktion F (x). Dann gilt f¨ ur die zu unabh¨angigen und identisch wie X verteilten X1 , . . . , Xn gebildete Verteilungsfunktion Fn (x) ur n −→ ∞ . P (sup |Fn (x) − F (x)| ≤ c) −→ 1 f¨ x∈
Mit ”sup“ wird damit die maximale Abweichung zwischen Fˆn (x) und Fˆ (x) bezeichnet. Der Hauptsatz der Statistik zeigt also, daß f¨ ur Zufallsstichproben, bei denen angig und identisch wie das interessierende Merkmal X verteilt X1 , . . . , Xn unabh¨ sind, die unbekannte Verteilung F (x) von X durch die empirische Verteilungsfunkur n −→ ∞ gut approximiert wird. Stimmen umgekehrt Fn (x) und tion Fn (x) f¨ eine theoretische Verteilung F (x), etwa die Normalverteilung, schlecht u ¨berein, so entstammen die Daten vermutlich einer anderen Verteilung. Sowohl das Gesetz der großen Zahlen als auch der Satz von Glivenko-Cantelli gelten u ¨ brigens auch unter schw¨acheren Annahmen, insbesondere l¨aßt sich die Voraussetzung der Unachen. abh¨angigkeit der X1 , . . . , Xn abschw¨ Abbildung 7.2 zeigt anhand von 100 bzw. 1000 unabh¨angigen Wiederholungen einer standardnormalverteilten Zufallsvariable X, daß die empirische Verteilungsfunktion umso n¨ aher an der theoretischen Verteilungsfunktion liegt, je gr¨oßer die Anzahl der Wiederholungen n ist. Die unabh¨angigen Ziehungen wurden dabei am Computer mit Hilfe von Zufallszahlen simuliert, vgl. Abschnitt ∗7.3.
7.1.2
Der zentrale Grenzwertsatz
Im Fall einer binomialverteilten Zufallsvariable X ∼ B(n, π) hatte sich gezeigt, daß sich die Verteilung, genauer das Wahrscheinlichkeitshistogramm, von X = X1 + . . . + Xn
mit Xi ∼ B(1, π)
f¨ ur gr¨oßeres n gut durch eine Normalverteilung approximieren l¨aßt. Die folgenden Abbildungen zeigen, daß dies auch f¨ ur andere Verteilungen gilt. Die durchgezogene Kurve in Abbildung 7.3(a) gibt die Dichte f (x) einer Zufallsvariable X1 mit E(X1 ) = 0, Var(X1 ) = 1 an. Dazu ist die Dichte φ(x) der Standardnormalverteilung
gleichm¨aßige Konvergenz
316
7. Mehr u ¨ber Zufallsvariablen und Verteilungen
Abbildung 7.2: Empirische Verteilungsfunktion (—) von 100 (links) und 1000 (rechts) standardnormalverteilten Zufallszahlen im Vergleich mit der Verteilungsfunktion der Standardnormalverteilung ( )
gezeichnet. In Abbildung 7.3(b), (c) und (d) sieht man die standardisierten Dichten der Summen X1 + X2 , X1 + X2 + X3 , X1 + . . . + X6 von unabh¨angigen nach f (x) verteilten Zufallsvariablen X1 , . . . , X6 . Man erkennt deutlich, daß die entsprechenden Dichten mit wachsender Anzahl von Summanden immer besser durch eine Normalverteilung approximiert werden k¨onnen. Tats¨ achlich gilt sehr allgemein, daß die Verteilung einer Summe X1 + . . . + Xn von Zufallsvariablen f¨ ur n −→ ∞ gegen eine Normalverteilung konvergiert bzw. f¨ ur großes n approximativ normalverteilt ist. F¨ ur unabh¨angige und identisch verteilte Zufallsvariablen X1 , . . . , Xn mit E(Xi ) = μ, Var(Xi ) = σ 2 sind dabei Erwartungswert und Varianz der Summe gem¨aß den Rechenregeln f¨ ur Erwartungswerte und Varianzen durch E(X1 + . . . + Xn ) = nμ , standardisierte Summe
Var(X1 + . . . + Xn ) = nσ 2
gegeben. F¨ ur die Formulierung des Grenzwertsatzes ist es zweckm¨aßig, zur standardia ur approximativ (bei gr¨oßerem n) oder sierten Summe u ¨berzugehen. Dabei steht ∼ f¨ asymptotisch (f¨ ur n −→ ∞) verteilt. F¨ ur die unstandardisierte Summe X1 + . . . + Xn gilt in dieser Schreibweise X1 + . . . + Xn ∼ N (nμ, nσ 2 ) . a
Normalverteilungsapproximation
F¨ ur endliches n ist die Summe umso besser approximativ normalverteilt, je weniger asymmetrisch die Verteilung der Xi ist. Umgekehrt ist f¨ ur deutlich asymmetrische Verteilungen ein gr¨ oßeres n n¨ otig, um eine ¨ahnliche Approximationsg¨ ute zu erreichen. Typischerweise formuliert man den sogenannten Zentralen Grenzwertsatz jeur die standardisierte Summe. Ein doch nicht f¨ ur X1 + . . . + Xn selbst, sondern f¨ Grund ist, daß f¨ ur n −→ ∞ die Verteilung N (nμ, nσ 2 ) unendlichen Erwartungswert und unendliche Varianz besitzt.
7.1 Gesetz der großen Zahlen und Grenzwerts¨atze
317
Abbildung 7.3: Dichten von (a) X1 ∼ f (x), (b) X1 + X2 , (c) X1 + X2 + X3 , (d) X1 + . . . + X6 und approximierende Normalverteilungsdichte φ(x)
Zentraler Grenzwertsatz angig identisch verteilte Zufallsvariablen mit X1 , . . . , Xn seien unabh¨ E(Xi ) = μ
und Var(Xi ) = σ 2 > 0 .
Dann konvergiert die Verteilungsfunktion Fn (z) = P (Zn ≤ z) der standardisierten Summe n X1 + . . . + Xn − nμ 1 Xi − μ √ =√ Zn = nσ n σ i=1
f¨ ur n −→ ∞ an jeder Stelle z ∈ dardnormalverteilung:
gegen die Verteilungsfunktion Φ(z) der StanFn (z) −→ Φ(z) .
Wir schreiben daf¨ ur kurz
a
Zn ∼ N (0, 1) .
318
7. Mehr u ¨ber Zufallsvariablen und Verteilungen
Der zentrale Grenzwertsatz gilt in noch wesentlich allgemeineren Varianten, woangig und verschieden verteilt sein d¨ urfen. Entscheidend ist, bei die X1 , . . . , Xn abh¨ daß keine der Zufallsvariablen Xi die restlichen deutlich dominiert. Damit liefern die zentralen Grenzwerts¨ atze die theoretische Begr¨ undung daf¨ ur, daß eine Zufallsvariable X dann in guter N¨ aherung normalverteilt ist, wenn sie durch das Zusammenwirken von vielen kleinen zuf¨ alligen Effekten entsteht. F¨ ur den eingangs betrachteten Spezialfall einer binomialverteilten Variable Hn = X1 + . . . + Xn ∼ B(n, π) mit unabh¨ angigen Bernoulli-Variablen Xi ∼ B(1, π) , E(Xi ) = π , Var(Xi ) = π(1 − π) erh¨alt man:
Grenzwertsatz von de Moivre F¨ ur n −→ ∞ konvergiert die Verteilung der standardisierten absoluten H¨ aufigkeit H − nπ $ n nπ(1 − π) gegen eine Standardnormalverteilung. F¨ ur großes n gilt a
Hn ∼ N (nπ, nπ(1 − π)) , d.h. die B(n, π)-Verteilung l¨ aßt sich durch eine Normalverteilung mit μ = nπ, ur die relative H¨ aufigkeit Hn /n gilt entspreσ 2 = nπ(1 − π) approximieren. F¨ chend a Hn /n ∼ N (π, π(1 − π)/n)
7.2
Approximation von Verteilungen
Dieser Abschnitt faßt einige M¨ oglichkeiten zur Approximation von diskreten und stetigen Verteilungen durch in der Regel einfacher handhabbare Verteilungen zusammen. Besonders wichtig ist die Approximation der Binomialverteilungen durch eine Normalverteilung sowie die Approximation von Quantilen stetiger Verteilungen, insbesondere der Chi-Quadrat und Student-Verteilung, durch Quantile der Normalverteilung. Die theoretische Grundlage liefert in vielen F¨allen der zentrale Grenzwertsatz.
7.2 Approximation von Verteilungen
319
Die Normalverteilungsapproximation der Binomialverteilung beruht direkt auf dem Grenzwertsatz von Moivre, einem Spezialfall des zentralen Grenzwertsatzes. Danach l¨aßt sich die Verteilungsfunktion P (X ≤ x) = B(x|n, π) von X ∼ B(n, π) durch eine Normalverteilung mit μ = nπ und σ 2 = nπ(1 − π) ann¨ahern. Es gilt also x − nπ P (X ≤ x) ≈ Φ $ nπ(1 − π) Die Approximation wird besser, wenn die Treppenfunktion des Wahrscheinlichkeitshistogramms von der Dichtekurve etwa in der Mitte getroffen wird. Dies f¨ uhrt zur sogenannten Stetigkeitskorrektur, bei der im Z¨ahler 0.5 addiert wird.
Normalverteilungsapproximation
Stetigkeitskorrektur
Approximation der Binomialverteilung mit Stetigkeitskorrektur Sei X ∼ B(n, π)-verteilt. Falls nπ und n(1 − π) groß genug sind, gilt x + 0.5 − nπ P (X ≤ x) = B(x|n, π) ≈ Φ $ nπ(1 − π) x − 0.5 − nπ x + 0.5 − nπ −Φ $ P (X = x) ≈ Φ $ nπ(1 − π) nπ(1 − π) Faustregel: nπ ≥ 5 , n(1 − π) ≥ 5 Die in der Literatur angegebenen Faustregeln sind nicht immer einheitlich, sondern schwanken in Abh¨ angigkeit von der angestrebten Approximationsg¨ ute. Treffer und Nieten
Beispiel 7.1
In Beispiel 5.16(b) (Seite 257) wurden 20 St¨ uck eines Massenartikel gepr¨ uft. Wenn gr¨oßere St¨ uckzahlen entnommen werden, arbeitet man mit der Normalverteilungsapproximation. Sei etwa n = 100, also X ∼ B(100, 0.90). Dann wird wegen nπ = 90, n(1 − π) = 10 die Faustregel gerade erf¨ ullt. Dann ist etwa 90.5 − 90 0.5 P (X ≤ 90) ≈ Φ √ =Φ 3 100 · 0.90 · 0.10 = Φ(0.167) = 0.567 ,
0.5 0.5 0.5 P (X = 90) ≈ Φ −Φ − = 2Φ − 1 = 0.134 . 3 3 3 Dabei n¨ utzt man Φ(−x) = 1 − Φ(x) aus, vgl. Abschnitt 6.3.1. Die Wahrscheinlichkeit, genau den Erwartungswert E(X) = nπ = 90 zu erhalten, sinkt damit auf ca. 13 %. 2
und
320
7. Mehr u ¨ber Zufallsvariablen und Verteilungen
¨ Das Diagramm der Abbildung 7.4 zeigt im Uberblick weitere Approximationsm¨oglichkeiten zusammen mit Faustregeln auf. Die Pfeile zwischen den Verteilungen bedeuten dabei “approximierbar durch”. Die Approximationsbedingungen sind zus¨atzlich angegeben. Viele dieser Approximationen wurden in den Abschnitten 5.3 und 6.2 bereits angesprochen, weitere ergeben sich daraus durch Verkn¨ upfung untereinander. So ergibt sich beispielsweise durch die Betrachtung der Poisson-Verteilung als Grenzfall H(n, N, M ) λ = nM/N n/N ≤ 0.05 n ≥ 30 M/N ≤ 0.05
π = M/N n/N ≤ 0.05 ?
B(n, π)
n > 30,
λ = nπ
μ = nπ σ 2 = nπ(1 − π) nπ ≥ 5 n(1 − π) ≥ 5
μ = nM/N σ 2 = nM/N (1 − M/N ) n/N ≤ 0.05 nM/N ≥ 5 n(1 − M/N ) ≥ 5
π ≤ 0.05
? - P o(λ)
μ=λ σ2 = λ λ ≥ 10
? R N (μ, σ 2 )
χ2 (n)
t(n) n ≥ 30 Transformation: √ √ Z = 2X − 2n − 1
n ≥ 30 - N (0, 1)
Abbildung 7.4: Approximationsm¨ oglichkeiten und Reproduktionseigenschaften der Verteilungen
∗7.3
Zufallszahlen und Simulation
321
der Binomialverteilung f¨ ur n → ∞ und π → 0 die N¨aherung a
B(n, π) ∼ P o(λ = nπ) mit der angegebenen Faustregel. Die Approximation der Binomialverteilung durch eine Normalverteilung f¨ uhrt dazu, daß auch die Poisson-Verteilung f¨ ur gr¨ oßeres λ approximativ normalverteilt ist. Bei Ber¨ ucksichtigung der Stetigkeitskorrektur erh¨alt man f¨ ur X ∼ P o(λ) und λ ≥ 10 x + 0.5 − λ √ . P (X ≤ x) ≈ Φ λ
∗7.3
Zufallszahlen und Simulation
Zur Untersuchung komplexer Zufallsvorg¨ ange, z.B. bei der Planung von ProduktiComputeronssystemen oder von Großprojekten, spielen Computersimulationen eine wichtige simulationen Rolle. Dabei werden am Computer Zufallszahlen x1 , . . . , xn mit Hilfe spezieller AlZufallszahlen gorithmen berechnet. Solche Algorithmen nennt man Zufallsgeneratoren. Grundlegend ist dabei die Erzeugung von Zufallszahlen x1 , x2 , . . . , xn , deren Werte sich in sehr guter N¨ aherung wie Realisierungen von unabh¨angigen auf [0, 1] gleichverteilten Zufallsvariablen X1 , X2 , . . . , Xn verhalten. Da die Werte x1 , x2 , . . . , xn tats¨achlich jedoch berechnet werden, sind sie nicht echt zuf¨allig. Man spricht deshalb Pseudoauch genauer von Pseudo-Zufallszahlen, die sich (fast) wie echte verhalten. F¨ ur die Zufallszahlen zugrundeliegenden numerischen Algorithmen verweisen wir auf die in Abschnitt 7.5 angegeben Spezialliteratur. Mit Hilfe von gleichverteilten Zufallszahlen lassen sich Gleichverteilung Zufallszahlen f¨ ur andere Verteilungen durch geeignete Transformationen erzeugen. Mit Zufallszahlen k¨ onnen wir auch innerhalb der Statistik sogenannte MonteMonte-CarloCarlo-Methoden einsetzen. Mit gleichverteilten Zufallszahlen k¨onnen wir z.B. Spiele Methoden mit dem Gl¨ ucksrad am Rechner simulieren. Wenn wir etwa die relative H¨aufigkeit von Werten berechnen, die im Intervall [0.2, 0.6] liegen, und mit der Wahrscheinlichkeit P (0.2 ≤ X ≤ 0.6) = 0.4 vergleichen, dann sollte f¨ ur gr¨oßeres n die relative H¨aufigkeit nach dem Gesetz großer Zahlen mit hoher Wahrscheinlichkeit bei 0.4 liegen. Auch sollte die empirische Verteilungsfunktion der gezogenen Zahlen x1 , x2 , . . . , xn sich der [0, 1]-Gleichverteilung ann¨ahern. Wir “spielen” nun Gl¨ ucksrad am Computer, indem wir wiederholt auf [0, 1] gleichverteilte Zufallszahlen ziehen. Das Intervall [0, 1] wird wie in Abbildung 7.5 in 10 Teilintervalle der L¨ ange 0.1 zerlegt und zu jedem “Spiel” wird festgestellt, in welches Teilintervall die gezogene Zufallszahl f¨allt. Abbildung 7.5 zeigt links das resultierende Histogramm mit den relativen H¨aufigkeiten f¨ ur die 10 Teilklassen nach
322
7. Mehr u ¨ber Zufallsvariablen und Verteilungen
n = 100 Spielen. Man sieht, daß die relativen H¨aufigkeiten zum Teil noch deutlich von dem zu erwartenden Wert 0.10 abweichen. F¨ ur n = 1000 haben sich diese H¨aufigkeiten bereits wesentlich besser um den Wert 0.10 stabilisiert. Anders ausgedr¨ uckt: Die empirische Verteilung der gezogenen Zahlen approximiert die “wahre” Gleichverteilung besser.
BernoulliVerteilung Binomialverteilung Exponentialverteilung
Zufallszahlen f¨ ur andere Verteilungen lassen sich aus gleichverteilten Zufallszahlen durch geeignete Transformationen gewinnen. Je nach Verteilung kann dies sehr einfach oder aber auch kompliziert sein. Will man beispielsweise Zufallszahlen x1 , . . . , xn zur Bernoulli-Verteilung B(1, π) erzeugen, kann man folgendermaßen vorgehen: Zun¨ achst “zieht” man gleichverteilte Zufallszahlen u1 , . . . , un . Ist ui ≤ π setzt man xi = 1, sonst xi = 0, i = 1, . . . , n. Durch Addition erh¨alt man mit x = x1 +. . .+xn eine Zufallszahl zur Binomialverteilung B(n, π). Das Erzeugen von exponentialverteilten Zufallsvariablen ist bereits etwas schwieriger. Dazu m¨ ussen wir Zahlen x1 , x2 , . . . , xn erzeugen, die als Realisierungen von unabh¨ angigen Zufallsvariablen X1 , X2 , . . . , Xn , die alle wie X ∼ Ex(λ)-verteilt sind, angesehen werden k¨ onnen. Dies geschieht durch geeignete Transformation von Zufallszahlen u1 , u2 , . . . , un aus einer [0, 1]-Gleichverteilung. Die Transformation ergibt ¨ sich durch folgende Uberlegung: F¨ ur X ∼ Ex(λ) gilt P (X ≤ x) = 1 − e−λx = F (x) . Mit der Umkehrfunktion
1 F −1 (x) = − ln(1 − x) λ
Abbildung 7.5: Empirische H¨ aufigkeitsverteilungen beim Ziehen von n = 100 (links) und n = 1000 rechts auf [0, 1] gleichverteilten Zufallszahlen
∗7.3
Zufallszahlen und Simulation
323
gilt F (x) = u
⇐⇒
x = F −1 (u) .
Mit der transformierten Zufallsvariable U = F (X) gilt dann P (U ≤ u) = P (F −1 (U ) ≤ F −1 (u)) = P (X ≤ x) = 1 − e−λx = u , 0 ≤ u ≤ 1 , d.h. U ist auf [0, 1] gleichverteilt. Somit liefert die Transformation 1 xi = F −1 (ui ) = − ln(1 − ui ) , i = 1, 2, . . . , n , λ von auf [0, 1] gleichverteilten Zufallszahlen u1 , u2 , . . . , un exponentialverteilte Zufallszahlen x1 , x2 , . . . , xn . Wenn wir analog wie bei der Gleichverteilung 100 bzw. 1000 mit Parameter λ = 0.75 exponentialverteilte Zufallszahlen bilden, ergeben sich die Histogramme der empirischen H¨ aufigkeitsverteilung in Abbildung 7.6. Man erkennt wieder, daß die zugrundeliegende “wahre” Exponentialverteilung f¨ ur gr¨oßeres n besser approximiert wird.
Abbildung 7.6: Histogramme zu n = 100 (links) und n = 1000 (rechts) auf [0, 1] exponentialverteilten Zufallszahlen
Mit Hilfe geeigneter Transformationen von gleichverteilten Zufallsvariablen, auf die wir hier nicht n¨ aher eingehen, lassen sich am Computer auch standardnormalverteilte Zufallszahlen x1 , . . . , xn , . . . erzeugen, die als Realisierungen von unabh¨angigen ¨ N (0, 1)-Variablen X1 , . . . , Xn , . . . angesehen werden k¨onnen. Durch den Ubergang 2 alt man dann N (μ, σ )-verteilte Zufallszahlen. zu yi = μ + σxi erh¨ Abbildung 7.7 zeigt f¨ ur μ = 2 und σ 2 = 4 die “wahre” Dichte der N (2, 2)Verteilung, das resultierende Histogramm und eine Kernapproximation der Dichtekurve der empirischen Verteilung zu n = 100 gezogenen Zufallszahlen. Dabei zeigen sich noch deutliche Abweichungen zwischen theoretischer und empirischer Verteilung.
Standardnormalverteilung
324
7. Mehr u ¨ber Zufallsvariablen und Verteilungen
Abbildung 7.7: Dichte der N (2, 2)-Verteilung, Histogramm und Dichtekurve ( ) der empirischen Verteilung
∗7.4
Einige Erg¨ anzungen
Dieser Abschnitt enth¨ alt einige Erg¨anzungen zu Zufallsvariablen, Verteilungen und ihren Eigenschaften.
7.4.1
Zufallsvariablen als Abbildungen
In den einf¨ uhrenden Beispielen 5.1 bis 5.3 (ab Seite 224) hatten wir gezeigt, daß sich eine Zufallsvariable X auch als Abbildung auffassen l¨aßt: Jedem Ergebnis ω einer zugrundeliegenden Ergebnismenge Ω wird dabei sein Wert X(ω) = x, eine reelle Zahl, zugeordnet. So ist etwa in Beispiel 5.2 (Zweimal W¨ urfeln) jedem Paar ω = (i, j), 1 ≤ i, j ≤ 6, durch die Zufallsvariable X = “Augensumme” der Wert X(ω) = x = i+ j zugeordnet. In Beispiel 5.3 (Mietspiegel) wird f¨ ur jede ausgew¨ahlte Wohnung ω aus der Gesamtheit Ω aller mietspiegelrelevanten Wohnungen die zu zahlende Nettomiete x = X(ω) oder ihre Wohnfl¨ ache y = Y (ω) festgestellt. Ergebnisse der Art {X = x}, {X ≤ x} usw. lassen sich dann auf Ereignisse der urspr¨ unglichen Ergebnismenge zur¨ uckf¨ uhren. Man identifiziert jeweils {X = x}mit{ω : X(ω) = x} , {X ≤ x}mit{ω : X(ω) ≤ x} usw. So ist beim zweimaligen W¨ urfeln {X = 4} = {(1, 3), (2, 2), (3, 1)} , {X ≤ 4} = {(1, 1), (1, 2), (1, 3), (2, 1), (2, 2), (3, 1)} , und beim Mietspiegel tritt das Ereignis {X ≤ 1000} ein, wenn eine Wohnung mit einer Nettomiete von h¨ ochstens 1000 e gezogen wird, d.h. der Menge {ω : X(ω) ≤ 1000} angeh¨ ort.
∗7.4
Einige Erg¨anzungen
325
Nimmt man diese Abbildungseigenschaft von Zufallsvariablen explizit in die Definition auf, so ergibt sich:
Zufallsvariablen und Ereignisse Gegeben sei ein Zufallsexperiment mit der Ergebnismenge Ω. Eine Zufallsvariable X ist eine Abbildung, die jedem ω ∈ Ω eine reelle Zahl X(ω) = x zuordnet, kurz X :Ω −→ ω → X(ω) = x . Der Wert x, den X bei Durchf¨ uhrung des Zufallsexperiments annimmt, heißt Realisierung von X. Durch die Zufallsvariable X werden Ereignisse festgelegt, beispielsweise von der Art: {X = x} = {ω ∈ Ω|X(ω) = x} , {X ≤ x} = {ω ∈ Ω|X(ω) ≤ x} , {a ≤ X ≤ b} = {ω ∈ Ω|a ≤ X(ω) ≤ b} , {X ∈ I} = {ω ∈ Ω|X(ω) ∈ I} , wobei I ein Intervall ist.
Wie etwa Beispiel 5.4 (Seite 226) zeigt, ist es in vielen Anwendungen nicht notwendig, nicht wichtig oder nicht m¨ oglich, einen zugrundeliegenden Ergebnisraum wie in den Beispielen 5.1 bis 5.3 zu finden. Trotzdem lassen sich die dabei interessierenden Merkmale X, etwa die Rendite einer Aktie wie in Beispiel 5.4, formal ebenfalls als Zufallsvariable im Sinne der obigen Definition auffassen: Als Ergebnisraum Ω w¨ahlt man die Menge aller f¨ ur x m¨ oglichen Werte, d.h. den Tr¨ager T oder auch eine Obermenge dieser Werte, also in jedem Fall Ω ⊆ . Als Zuordnungsvorschrift w¨ahlt man ω = x = X(ω), d.h. X ist formal die “identische” Abbildung. Tats¨achlich interessiert man sich aber selten f¨ ur X als Abbildung, insbesondere nicht f¨ ur das eben beschriebene Konstrukt. Vielmehr m¨ochte man etwas u ¨ ber die Verteilung von X wissen, d.h. u ¨ber Wahrscheinlichkeiten der Form P (X ∈ I) oder P (X ∈ B), wobei I ein Intervall oder allgemeiner B eine “zul¨assige” Teilmenge von ist, vgl. Abschnitt 5.1.
Abbildungseigenschaft
326
7. Mehr u ¨ber Zufallsvariablen und Verteilungen
Wahrscheinlichkeitsverteilung Die Wahrscheinlichkeitsverteilung oder kurz Verteilung von X ist die Zuordnung von Wahrscheinlichkeiten P (X ∈ I) oder
P (X ∈ B)
f¨ ur Intervalle oder zul¨ assige Bereiche.
7.4.2
Verteilungsfunktion und ihre Eigenschaften
Die Festlegung aller Wahrscheinlichkeiten P (X ∈ I) w¨are f¨ ur praktische Zwecke m¨ uhsam, aber auch unn¨ otig. Wegen der Rechenregeln f¨ ur Wahrscheinlichkeiten gen¨ ugt es n¨ amlich, die Wahrscheinlichkeiten P (X ≤ x) f¨ ur Ereignisse der Form {X ≤ x} zu kennen. Daraus lassen sich die Wahrscheinlichkeiten f¨ ur andere Ereignisse berechnen. Dies f¨ uhrt sofort zur folgenden Definition der Verteilungsfunktion, bei der wir zun¨ achst nicht mehr zwischen diskreten und stetigen Zufallsvariablen unterscheiden: Verteilungsfunktion Sei X eine Zufallsvariable. Die Funktion F (x), die jedem x ∈ lichkeit P (X ≤ x) zuordnet,
die Wahrschein-
F (x) = P (X ≤ x) , heißt Verteilungsfunktion von X. F¨ ur diskrete Zufallsvariablen ist F (x) immer eine monoton wachsende Treppenfunktion, f¨ ur stetige Zufallsvariablen eine monoton wachsende stetige Funktion. Es gibt jedoch auch Zufallsvariablen, die weder diskret noch stetig sind. Sei beispielsweise X die Wartezeit eines Kunden vor einem Schalter. Dann kann etwa mit Wahrscheinlichkeit 0.2 der Schalter frei sein, d.h. P (X = 0) = 0.2. Ist der Schalter jedoch nicht frei, kann die Wartezeit etwa auf dem Intervall (0, m] gleichverteilt sein, wenn m die maximale Wartezeit ist. Die Verteilungsfunktion sieht dann wie in Abbildung 7.8 aus. Sie weist bei x = 0 einen Sprung der H¨ohe 0.2 auf, sonst ist sie stetig. Es gibt offensichtlich auch noch kompliziertere Formen von Verteilungsfunktionen, auf die wir aber nicht eingehen.
∗7.4
Einige Erg¨anzungen
327
Abbildung 7.8: Eine gemischt stetig-diskrete Verteilungsfunktion
Aus der Definition F (x) = P (X ≤ x) lassen sich u ¨ ber Axiome und Rechenregeln folgende allgemeine Eigenschaften von Verteilungsfunktionen zeigen:
Eigenschaften von Verteilungsfunktionen 1. F (x) ist monoton wachsend, d.h. es gilt F (x1 ) ≤ F (x2 )
f¨ ur x1 < x2 .
2. Es gilt lim F (x) = 0 ,
x→−∞
lim F (x) = 1 .
x→+∞
3. F (x) ist rechtsseitig stetig, d.h. f¨ ur h > 0 gilt lim F (x + h) = F (x) .
h→0
Mit dem linksseitigen Grenzwert lim F (x − h) = F (x− )
h→0
gilt
F (x) − F (x− ) = P (X = x) .
ur das Die Sprungh¨ ohe F (x) − F (x− ) ist also gleich der Wahrscheinlichkeit f¨ Ereignis {X = x}. F¨ ur stetige Verteilungsfunktionen ist F (x) = F (x− ), also P (X = x) = 0. F¨ ur Verteilungsfunktionen von diskreten Zufallsvariablen ergibt Eigenschaft 3 gerade die
328
7. Mehr u ¨ber Zufallsvariablen und Verteilungen
Sprungh¨ ohen der Treppenfunktion. Die ersten beiden Eigenschaften lassen sich folgendermaßen beweisen: 1. F¨ ur x1 < x2 ist {X ≤ x1 } ⊂ {X ≤ x2 }. Damit folgt F (x1 ) = P (X ≤ x1 ) ≤ P (X ≤ x2 ) = F (x2 ) . 2. F¨ ur jede aufsteigende Folge xn −→ ∞ gilt (−∞, x1 ] ∪ (x1 , x2 ] ∪ . . . (xn−1 , xn ] ∪ . . . =
.
Daraus erh¨ alt man f¨ ur xn −→ ∞ P (X ≤ xn ) = F (xn ) −→ lim F (x) = 1 . x→∞
lim F (x) = 0 beweist man durch Komplementbildung.
x→−∞
Der Beweis zu Eigenschaft 3 verlangt etwas mehr Aufwand, so daß wir an dieser Stelle darauf verzichten. Viele Begriffe und Eigenschaften von Zufallsvariablen lassen sich nicht nur f¨ ur diskrete und stetige Zufallsvariablen, sondern auch f¨ ur allgemeinere Typen ableiten, etwa Mischformen mit diskreten und stetigen Anteilen wie im obigen Beispiel. So gilt etwa die Definition der Unabh¨angigkeit von Zufallsvariablen ganz allgemein, wenn man in der Definition der Unabh¨angigkeit f¨ ur stetige Zufallsvariablen beliebige Verteilungsfunktionen zul¨ aßt. Ebenso ist es m¨oglich, Erwartungswerte, Varianzen, aber auch h¨ ohere Momente, die bei Schiefe- und W¨olbungsmaßen in Abschnitt 7.4.4 Verwendung finden, allgemein zu definieren. Entsprechend gelten Rechenregeln, Gesetze großer Zahlen, die folgende Ungleichung von Tschebyscheff und vieles andere nicht nur f¨ ur diskrete und stetige Zufallsvariablen, sondern allgemeiner.
7.4.3
Ungleichung von Tschebyscheff
Bei metrisch skalierten Zufallsvariablen ist man oft an den Wahrscheinlichkeiten f¨ ur Ereignisse der Form {μ − c < X < μ + c} = {|X − μ| ≤ c}, c > 0, oder den Komplement¨arereignissen {|X − μ| > c} interessiert. Dabei kann man μ = E(X) als “Sollwert” interpretieren, und {|X − μ| ≤ c} heißt, daß X um maximal ±c vom Sollwert μ entfernt ausf¨ allt. Zur Berechnung von P (|X − μ| ≤ c) ben¨otigt man i.a. die Wahrscheinlichkeitsfunktion von X. Die Ungleichung von Tschebyscheff erm¨oglicht es, diese Wahrscheinlichkeit allein bei Kenntnis der Varianz abzusch¨atzen.
∗7.4
Einige Erg¨anzungen
329
Ungleichung von Tschebyscheff ur beliebiges F¨ ur eine Zufallsvariable X mit E(X) = μ und Var(X) = σ 2 gelten f¨ c > 0 folgende Ungleichungen: P (|X − μ| ≥ c) ≤
σ2 c2
und P (|X − μ| < c) ≥ 1 −
σ2 . c2
Die zweite Ungleichung ergibt sich dabei aus der ersten wegen P (|X − μ| ≥ c) = 1 − P (|X − μ| < c). Sie besagt, daß bei festem c die Wahrscheinlichkeit f¨ ur 2 {μ − c < X < μ + c} desto n¨ aher bei 1 liegt, je kleiner σ ist. Entsprechend liegt sie aher bei 1, je gr¨oßer c ist. bei fester Varianz σ 2 desto n¨ Die erste Ungleichung l¨ aßt sich folgendermaßen zeigen: Man definiert die diskrete Zufallsvariable
0 , falls |X − μ| < c Y = c2 , falls |X − μ| ≥ c . Damit gilt P (Y = 0) = P (|X − μ| < c) und P (Y = c2 ) = P (|X − μ| ≥ c). Somit ist E(Y ) = c2 P (|X − μ| ≥ c) . Da nach Definition von Y immer Y ≤ |X − μ|2 gilt, folgt E(Y ) ≤ E(X − μ)2 = Var(X) = σ 2 , d.h. die erste Ungleichung. W¨ urfeln
Beispiel 7.2
F¨ ur X = “Augenzahl beim einmaligen W¨ urfeln” ist μ = 3.5 und σ 2 = 2.92. F¨ ur c = 2 gilt nach der Ungleichung von Tschebyscheff P (3.5 − 2 < X < 3.5 + 2) = P (1.5 < X < 5.5) 2.92 ≥1− = 0.27 . 4 Wegen {1.5 < X < 5.5} = {x ∈ {2, 3, 4, 5}} gilt jedoch P {1.5 < X < 5.5} = Die Absch¨ atzung ist also hier sehr ungenau.
4 2 = . 6 3 2
330
kσ-Bereiche
7. Mehr u ¨ber Zufallsvariablen und Verteilungen
Die Ungleichung von Tschebyscheff findet vor allem f¨ ur feinabgestufte diskrete oder stetige Zufallsvariablen Verwendung. Insbesondere wird die zweite Form oft zur Absch¨ atzung f¨ ur die Wahrscheinlichkeiten von kσ-Bereichen [μ − kσ, μ + kσ], k = 1, 2, 3, . . . , benutzt. Man erh¨alt mit c = kσ P (μ − kσ ≤ X ≤ μ + kσ) ≥ 1 −
1 σ2 =1− 2 . 2 (kσ) k
F¨ ur k = 1 ist die Absch¨ atzung wertlos. F¨ ur k = 2 und k = 3 ergibt sich 3 , 4 8 P (μ − 3σ ≤ X ≤ μ + 3σ) ≥ . 9 P (μ − 2σ ≤ X ≤ μ + 2σ) ≥
Falls X normalverteilt ist, ergeben sich als Wahrscheinlichkeiten f¨ ur die entsprechenden Bereiche die Werte 0.9545 (k = 2) und 0.9973 (k = 3), vgl. Abschnitt 6.3. Auch hier, wenn auch nicht in dem Maße wie im vorangehenden Beispiel, wird der Informationsverlust deutlich, den man erleidet, wenn keine Kenntnis u ¨ber die Verteilung benutzt wird. Mit der Ungleichung von Tschebyscheff l¨aßt sich auch das Gesetz der großen Zahlen leicht beweisen. Dazu wendet man die Ungleichung auf das arithmetische ¯ = μ), Var(X ¯n ) = σ 2 /n erh¨alt man ¯ n an. Wegen E(X Mittel X 2 ¯ n − μ)| ≤ c) ≥ 1 − σ . P (|X nc2
F¨ ur n −→ ∞ geht σ 2 /nc2 gegen null. Daraus folgt die Behauptung.
7.4.4
Maßzahlen f¨ ur Schiefe und W¨ olbung
Maßzahlen f¨ ur die Schiefe von Verteilungen lassen sich in Analogie zu Kennzahlen f¨ ur empirische Verteilungen definieren. Der p-Quantilskoeffizient nutzt die Beziehung zwischen Median und Quantilen. p-Quantilskoeffizient der Schiefe γp =
(x1−p − xmed ) − (xmed − xp ) , x1−p − xp
γ0.25 heißt Quartilskoeffizient der Schiefe.
0 < p < 1,
7.5 Zusammenfassung und Bemerkungen
331
Es gilt −1 ≤ γp ≤ 1 und ur symmetrische Verteilungen , γp = 0 f¨ ur linkssteile Verteilungen , γp > 0 f¨ ur rechtssteile Verteilungen . γp < 0 f¨ Ein weiterer Schiefeparameter ist der Momentenkoeffizient der Schiefe γm =
E(X − μ)3 σ3
mit μ = E(X), σ 2 = Var(X). Wegen der dritten Potenz wird γm positiv, wenn die x-Werte u ¨ berwiegen, die gr¨oßer als μ sind. Dies ist bei linkssteilen Verteilungen der Fall. Bei symmetrischen Verteilungen heben sich positive und negative Abweichungen gerade auf. Also gilt γm = 0
f¨ ur symmetrische Verteilungen ,
γm > 0
f¨ ur linkssteile Verteilungen ,
γm < 0
f¨ ur rechtssteile Verteilungen .
Rechtssteile Verteilung
Beispiel 7.3
√ √ Im Beispiel 6.10 (Seite 292) ist x0.75 = 0.75, x0.25 = 0.25. Daraus folgt √ √ √ √ ( 0.75 − 0.5) − ( 0.5 − 0.25) √ √ = −0.13 . γ0.25 = 0.75 − 0.25
Der negative Quartilskoeffizient indiziert also eine rechtssteile Verteilung.
7.5
2
Zusammenfassung und Bemerkungen
Die in Abschnitt 7.1.1 formulierten Gesetze großer Zahlen sind von grundlegender Bedeutung f¨ ur die induktive Statistik: Falls man Daten x1 , . . . , xn so erhebt, daß sie sich als Ergebnisse von n unabh¨ angigen Wiederholungen der interessierenden Zufallsvariable X interpretieren lassen, dann konvergieren f¨ ur n → ∞ empirische Verteilungen und Parameter gegen die Verteilung von X und entsprechende Verteilungsparameter. F¨ ur Zufallsstichproben, wie sie in den sp¨ateren Kapiteln
332
7. Mehr u ¨ber Zufallsvariablen und Verteilungen
zur induktiven Statistik zugrunde gelegt werden, ist diese Voraussetzung zumindest n¨ aherungsweise erf¨ ullt. Dann lassen sich die Verteilungen bzw. Parameter von X durch die empirischen Analoga sinnvoll sch¨atzen. Ebenso grundlegend ist der zentrale Grenzwertsatz : Er rechtfertigt die Annahme einer – zumindest approximativen – Normalverteilung f¨ ur Zufallsvariablen, die sich additiv aus vielen zuf¨alligen Einfl¨ ussen ¨ ahnlicher Gr¨ oßenordnung erkl¨aren lassen, und – noch wichtiger – Normalverteilungsapproximationen f¨ ur eine Reihe von Sch¨atz- und Teststatistiken der induktiven Statistik. Beweise dieser Grenzwerts¨atze und Verallgemeinerungen finden sich in Lehrb¨ uchern zur Wahrscheinlichkeitstheorie und mathematischen Statistik, z.B. Fisz (1989). Zufallszahlen sind Basisbausteine f¨ ur moderne, computerintensive Simulations¨ techniken. Sie k¨ onnen aber auch (wie in Abschnitt ∗7.3) zur empirischen Uberpr¨ ufung oder zur Gewinnung von theoretischen Resultaten der Statistik dienen. Umfasssende Darstellungen zur Erzeugung von Zufallszahlen finden sich bei Ripley (1987) und Devroye (1986).
7.6
Aufgaben
Aufgabe 7.1
Die Studie zum Gesundheitszustand von Fr¨ uhgeburten aus Aufgabe 6.8 wurde an mehreren Kliniken durchgef¨ uhrt, so daß insgesamt 500 Kinder teilgenommen haben. Welche Verteilung besitzt die Anzahl der Kinder, die weniger als 980 g wiegen? Wie groß ist die Wahrscheinlichkeit, daß genau 175 Kinder der Studie ein Geburtsgewicht kleiner als 980 g aufweisen?
Aufgabe 7.2
In der Situation von Aufgabe 5.10 befragt der Journalist zuf¨allig f¨ unf der 200 Angestellten eines Kaufhauses. Wie lauten ann¨ahernd die gesuchten Wahrscheinlichkeiten, wenn der Anteil der Angestellten, die bereit sind, l¨anger zu arbeiten, wieder gleich 0.2 ist? Welche approximative Verteilung hat die interessierende Zufallsvariable ferner, wenn 40 Personen der ganzen Warenhauskette mit 1000 angestellten Verk¨auferinnen befragt w¨ urden?
Aufgabe 7.3
Ihr kleiner Neffe bastelt eine 50–teilige Kette, deren einzelne Glieder im Mittel eine L¨ange von 2 cm mit einer Standardabweichung von 0.2 cm aufweisen. Welche Verteilung hat die Gesamtl¨ ange der Spielzeugkette?
Aufgabe 7.4
Die Nettomiete von Zwei–Zimmer–Wohnungen eines Stadtteils sei ann¨ahernd symmetrisch verteilt mit Erwartungswert 570 und Standardabweichung 70. Es wird eine Zufallsstichprobe von 60 solcher Wohnungen gezogen. Geben Sie mit Hilfe der Ungleichung von Tschebyscheff ein um den Erwartungswert symmetrisches Intervall an, in dem das Stichprobenmittel mit 95 % Wahrscheinlichkeit liegt.
7.6 Aufgaben
333
Eine Fertigungslinie stellt Fußb¨ alle her, deren Durchmesser im Mittel normgerecht ist, aber eine Standardabweichung von 0.4 cm aufweisen. B¨alle die mehr als 0.5 cm von der Norm abweichen gelten als Ausschuß. Wie groß ist der Auschußanteil h¨ochstens?
Aufgabe 7.5
Wie kann man mit Hilfe von normalverteilten Zufallszahlen t-verteilte Zufallszahlen simulieren?
Aufgabe 7.6
Bestimmen Sie den Quartilskoeffizienten der geometrischen Verteilung mit π = 0.5 sowie der Exponentialverteilung mit dem Parameter λ = 0.5.
Aufgabe 7.7
8 Mehrdimensionale Zufallsvariablen
Bei der Durchf¨ uhrung von Zufallsexperimenten interessiert man sich h¨aufig nicht nur f¨ ur ein einziges Merkmal allein, sondern f¨ ur zwei oder mehrere Variablen, die f¨ ur dieselben Untersuchungseinheiten erfaßt werden. Es ist dann notwendig, die gemeinsame Verteilung dieser Merkmale zu betrachten. Im folgenden wird zuerst das Konzept mehrdimensionaler Zufallsvariablen eingef¨ uhrt und anschließend der zweidimensionale Fall f¨ ur diskrete und stetige Zufallsvariablen eingehender betrachtet. Ein wesentlicher Abschnitt gilt der Kovarianz und der Korrelation als Verteilungsparametern, die den Zusammenhang zwischen je zwei Zufallsvariablen charakterisieren.
8.1
Begriff mehrdimensionaler Zufallsvariablen
Eindimensionale Zufallsvariablen erh¨ alt man, indem man die Auspr¨agungen von Merkmalen als Ergebnisse eines Zufallsvorgangs auffaßt. Mehrdimensionale Zufallsvariablen ergeben sich dadurch, daß anstatt eines Merkmals, d.h. einer Zufallsvariable, mehrere betrachtet werden. Den Ergebnissen des Zufallsvorgangs werden demnach mindestens zwei reelle Zahlen zugeordnet. Einige typische Beispiele sollen dies veranschaulichen. Mietspiegel Bei der Erstellung eines Mietspiegels ist man an mehreren Merkmalen wie beipielsweise Nettomiete, Wohnfl¨ ache und Zimmerzahl interessiert. Jede Wohnung weist f¨ ur diese Merkmale bestimmte Auspr¨ agungen auf. Die Merkmale lassen sich als Abbildungen verstehen, die jeder Wohnung die ihr entsprechende Nettomiete, Wohnfl¨ache und Zimmerzahl zuordnet. W¨ ahlt man nun eine der Wohnungen rein zuf¨allig aus, so ist die Wahrscheinlichkeit, mit der bestimmte Auspr¨ agungen des Tupels (Nettomiete, Wohnfl¨ache, Zimmerzahl) resultieren, bestimmt durch die in der jeweiligen Stadt vorliegenden Wohnverh¨altnisse. 2
Beispiel 8.1
336
Beispiel 8.2
8. Mehrdimensionale Zufallsvariablen
Roulette Die Felder des Roulettes tragen die Zahlen 0, 1 bis 36. Geht man von einem idealen Kessel aus, wird jedes Feld mit der Wahrscheinlichkeit 1/37 auftreten. Setzt man nicht auf Zahlen, sondern auf das Merkmal “Farbe” (also rot oder schwarz) bzw. auf den “Zahlentyp” (gerade oder ungerade) fokussiert sich das Interesse nur auf das Ergebnis dieser beiden Merkmale. Man betrachtet somit die Zufallsvariablen Farbe ⎧ ⎪ ⎨ 1 rote Zahl X= 2 schwarze Zahl ⎪ ⎩ 3 Zero und Typ ⎧ ⎪ ⎨ 1 Y = 2 ⎪ ⎩ 3
gerade Zahl ungerade Zahl Zero.
Das gesamte Zufallsexperiment reduziert sich damit auf die Betrachtung der Wahrscheinlichkeiten f¨ ur X = i, Y = j mit i, j ∈ {1, 2, 3}. Die Felder des Roulette sind bestimmt durch das folgende Schema, wobei die schwarzen Felder schattiert und die roten unschattiert sind.
34
31
28
25
22
19
16
13
10
7
4
1
35
32
29
26
23
20
17
14
11
8
5
2
36
33
30
27
24
21
18
15
12
9
6
3
0
Die Wahrscheinlichkeit f¨ ur das gemeinsame Ereignis X = 1, Y = 1, also gerade und rot, entspricht demnach dem Auftreten der Zahlen 12, 14, 16, 18, 30, 32, 34, 36, d.h. P (X = 1, Y = 1) = P ({12, 14, 16, 18, 30, 32, 34, 36}) = 8/37. Die Wahrscheinlichkeiten f¨ ur X = i, Y = j lassen sich f¨ ur jede Auspr¨agung von X und Y analog zu diesem Beispiel berechnen und in einer Tabelle darstellen
P (X = i, Y = j)
X
rot schwarz Zero
1 2 3
gerade 1 8/37 10/37 0
Y ungerade 2 10/37 8/37 0
Zero 3 0 0 1/37 2
8.1 Begriff mehrdimensionaler Zufallsvariablen
337
Meßwiederholungen
Beispiel 8.3
Ein einfaches Experiment wie der M¨ unzwurf wird dreimal wiederholt. Bezeichne Xk das Merkmal
1 Kopf im k-ten Wurf Xk = 0 Zahl im k-ten Wurf. Eine Sequenz wie (K, K, Z) steht f¨ ur das sukzessive Auftreten von Kopf, Kopf, Zahl beim 1., 2. und 3. Wurf. F¨ ur die gemeinsamen Auftretenswahrscheinlichkeiten erh¨alt man beispielsweise P (X1 = 1, X2 = 1, X3 = 1) = P ({(K, K, K)}), P (X1 = 1, X2 = 1, X3 = 0) = P ({(K, K, Z)}). Die jeweils rechts stehenden Wahrscheinlichkeiten sind die Wahrscheinlichkeiten des Zufallsexperiments. Links steht die dadurch festgelegte Wahrscheinlichkeit f¨ ur das gemeinsame Auftreten bestimmter Auspr¨ agungen der einzelnen Zufallsvariablen. 2
Jede Komponente von mehrdimensionalen Zufallsvariablen ist eine eindimensionale Zufallsvariable im Sinne der Kapitel 5 und 6. W¨ahrend bei eindimensionalen Zufallsvariablen jedem Ergebnis eines Zufallsvorgangs genau eine reelle Zahl zugeordnet wird, werden nun einem Ergebnis simultan mehrere reelle Zahlen zugeordnet. Jede Komponente, d.h. jede einzelne Zufallsvariable, entspricht dabei einer Zuordnung. Mehrdimensionale Zufallsvariablen lassen sich somit in Analogie zu Abschnitt∗7.4 auch als mehrdimensionale Abbildungen verstehen. Den Zufallsvariablen X1 , . . . , Xn liegt die Abbildung X1 , X2 , . . . , Xn : Ω −→
n
ω −→ (X1 (ω), . . . , Xn (ω)) zugrunde, die jedem Ergebnis ω genau n Meßwerte zuordnet. Im Mietspiegelbeispiel entspricht Ω der Menge aller Wohnungen, im Roulette-Beispiel der Menge der Zahlen und im M¨ unzwurfbeispiel der Menge m¨oglicher Kopf-Wappen-Kombinationen. Der Zufallscharakter der Auspr¨ agungen von X1 , . . . , Xn ergibt sich aus dem Zufallsexperiment “Ziehen aus Ω”. Von zentraler Bedeutung ist die sich daraus ergebende gemeinsame Verteilung der Zufallsvariablen. F¨ ur die Zufallsvariablen X1 , . . . , Xn ist diese bestimmt durch P (X1 ∈ B1 , . . . , Xn ∈ Bn ), womit die Wahrscheinlichkeit bezeichnet wird, daß die Zufallsvariable X1 Werte in der Menge B1 annimmt, gleichzeitig X2 Werte in der Menge B2 annimmt, usw. Die Schreibweise X1 ∈ B1 , X2 ∈ B2 , . . . , Xn ∈ Bn , bei der Ereignisse durch
338
8. Mehrdimensionale Zufallsvariablen
Kommata getrennt sind, entspricht wiederum dem logischen “und”, d.h. alle Ereignisse treten gemeinsam (Schnittmenge) auf. Unter Betonung des Abbildungscharakters l¨ aßt sich das Ereignis {X1 ∈ B1 , . . . , Xn ∈ Bn } auch darstellen durch {ω|X1 (ω) ∈ B1 , . . . , Xn (ω) ∈ Bn }. Wie sich die gemeinsame Verteilung analog zum Fall einer Variable durch Instrumente wie Verteilungsfunktion und Dichte n¨aher charakterisieren l¨ aßt, wird in den n¨ achsten Abschnitten behandelt. Dabei werden wir uns weitgehend auf den Fall zweier Zufallsvariablen X und Y beschr¨anken.
8.2
Zweidimensionale diskrete Zufallsvariablen
Seien X und Y zwei diskrete Zufallsvariablen, wobei X die Werte x1 , x2 , . . . und Y die Werte y1 , y2 , . . . annehmen kann. Die gemeinsame Wahrscheinlichkeitsverteilung ist bestimmt durch die Wahrscheinlichkeiten, mit der die Werte (xi , yj ), i = 1, 2, . . . , j = 1, 2, . . . , angenommen werden.
Gemeinsame Wahrscheinlichkeitsfunktion Die Wahrscheinlichkeitsfunktion der bivariaten diskreten Zufallsvariable (X, Y ) ist bestimmt durch
P (X = x, Y = y) f¨ ur (x, y) ∈ {(x1 , y1 ), (x1 , y2 ), . . . } f (x, y) = 0 sonst. Wir bezeichnen die Wahrscheinlichkeitsfunktion auch als (gemeinsame) diskrete Dichte oder (gemeinsame) Verteilung.
endlich viele Auspr¨agungen
In der Wahrscheinlichkeitsfunktion ist die gesamte Information des Zufallsexperiments in bezug auf die Merkmale X, Y enthalten. Besitzen X und Y jeweils nur endlich viele Auspr¨ agungen, l¨ aßt sich die gemeinsame Wahrscheinlichkeitsfunktion u ¨bersichtlich in Kontingenztafeln zusammenfassen. Besitze X die m¨oglichen Auspr¨agungen x1 , . . . , xk und Y die m¨oglichen Auspr¨agungen y1 , . . . , ym . Bezeichne pij = P (X = xi , Y = yj ) = f (xi , yj )
8.2 Zweidimensionale diskrete Zufallsvariablen
339
die Auftretenswahrscheinlichkeit an den Stellen (xi , yj ), i = 1, . . . , k, j = 1, . . . , m, mit positiver Wahrscheinlichkeitsfunktion, erh¨alt man die Kontingenztafel der Wahrscheinlichkeiten durch
Kontingenztafel der Wahrscheinlichkeiten
y 1 . . . ym p11 . . . p1m .. .. .. . . . pk1 . . . pkm
x1 .. . xk
Ein einfaches Beispiel f¨ ur eine Kontingenztafel ist die in Beispiel 8.2 wiedergegebene Tabelle f¨ ur die Merkmale “Farbe” und “Zahlentyp”. Eine graphische Veranschaulichung l¨aßt sich durch ein Stabdiagramm in der (x–y)-Ebene erreichen.
Stabdiagramm
Abbildung 8.1: Stabdiagramm zu den Zufallsvariablen “Farbe” (1: rot, 2: schwarz, 3: Zero) und “Zahltyp” (1: gerade, 2: ungerade, 3: Zero) beim Roulette (Beispiel 8.2)
Aus der gemeinsamen Verteilung f (x, y) erh¨alt man problemlos die Verteilung der Zufallsvariable X ohne Ber¨ ucksichtigung der Zufallsvariable Y durch einfaches Aufsummieren. Die entsprechende Randverteilung von X ist bestimmt durch fX (x) = P (X = x) =
j
P (X = x, Y = yj ) =
j
f (x, yj ).
Randverteilung von X
340
Randverteilung von Y
8. Mehrdimensionale Zufallsvariablen
Das Aufsummieren u amtliche m¨ogliche Werte von Y bedeutet, daß nicht ¨ ber s¨ ber¨ ucksichtigt wird, welchen Wert Y annimmt. Insbesondere gilt fX (x) = 0, wenn x nicht aus der Menge der m¨ oglichen Auspr¨agungen x1 , x2 , . . . ist. Entsprechend ergibt sich die Randverteilung von Y durch die Wahrscheinlichkeitsfunktion fY (y) = P (Y = y) =
P (X = xi , Y = y) =
i
f (xi , y)
i
/ {y1 , y2 , . . . }. mit fY (y) = 0, wenn y ∈
Randverteilungen Die Randverteilung von X ist gegeben durch f (x, yj ), fX (x) = P (X = x) = j
die Randverteilung von Y durch fY (y) = P (Y = y) =
f (xi , y).
i
F¨ ur den Fall endlich vieler Auspr¨agungen von X und Y lassen sich die Randverteilungen wieder als R¨ ander der Kontingenztafel darstellen, die die Wahrscheinlichkeiten enth¨ alt. In Analogie zu den Kontingenztafeln f¨ ur relative H¨aufigkeiten in Abschnitt 3.1 w¨ ahlt man dann wieder die “Punktnotation”, in der
pi· =
m j=1
pij = fX (xi )
und
p·j =
k i=1
die jeweiligen Zeilen- und Spaltensummen bezeichnen.
pij = fY (yj )
8.2 Zweidimensionale diskrete Zufallsvariablen
341
Kontingenztafel der Wahrscheinlichkeiten Die (k × m) Kontingenztafel der Wahrscheinlichkeiten hat die Form y 1 . . . ym p11 . . . p1m p1· .. .. .. .. . . . . pk1 . . . pkm pk· p·1 . . . p·m 1
x1 .. . xk
Dabei bezeichnen f¨ ur i = 1, . . . , k, j = 1, . . . , m, pij = P (X = xi , Y = yj ) m pij pi· = p·j =
j=1 k
pij
die Wahrscheinlichkeiten f¨ ur (xi , yj ), die Wahrscheinlichkeiten f¨ ur xi , die Wahrscheinlichkeiten f¨ ur yj .
i=1
Der wesentliche Unterschied zwischen dieser Kontingenztafel und den Kontingenztafeln in Abschnitt 3.1 liegt darin, daß dort H¨aufigkeiten zusammengefaßt sind, d.h. Daten beschrieben werden, w¨ ahrend die Eintr¨age in der hier betrachteten Kontingenztafel die wahren, allerdings in Anwendungen meist unbekannten Wahrscheinlichkeiten sind. Wenn man die gemeinsame Verteilung der Zufallsvariablen X und Y kennt, kann man einfach ableiten, wie eine der Zufallsvariablen verteilt ist, wenn man die Ausbedingte pr¨ agung der anderen kennt. Unter der bedingten Wahrscheinlichkeitsfunktion von X Wahrscheinlichgegeben Y = y (abgek¨ urzt X|Y = y) versteht man die Verteilung der Zufallsvariable keitsfunktion X, wenn bekannt ist, daß Y = y eingetreten ist. Es gilt also bei festgehaltenem y zu bestimmen, mit welcher Wahrscheinlichkeit die Werte x1 , x2 , . . . unter dieser Voraussetzung auftreten. Aus der Definition der bedingten Wahrscheinlichkeit erh¨alt man f¨ ur P (Y = y) = 0 P (X = xi |Y = y) =
f (xi , y) P (X = xi , Y = y) = , P (Y = y) fY (y)
wobei benutzt wird, daß die Schreibweisen X = x oder Y = y Abk¨ urzungen f¨ ur Ereigbedingte nisse sind. Daraus ergibt sich unmittelbar die bedingte Wahrscheinlichkeitsfunktion Wahrscheinlichvon X gegeben Y = y bzw. die diskrete Dichte von X gegeben Y = y durch fX (x|y) =
f (x, y) fY (y)
keitsfunktion von X
f¨ ur festen Wert y.
342
8. Mehrdimensionale Zufallsvariablen
F¨ ur den (uninteressanten) Fall fY (y) = 0 definiert man fX (x|y) = 0 f¨ ur alle x. F¨ ur ur die x-Werte, festgehaltenes y ist fX (x|y) wieder eine Wahrscheinlichkeitsfunktion f¨ d.h. es gilt i fX (xi |y) = 1. Die Wahrscheinlichkeitsfunktion beschreibt das Verhalten der bedingten Zufallsvariable X|Y = y. Man beachte, daß die bedingte Verteilung von X v¨ollig analog zur bedingten H¨ aufigkeitsverteilung von X konstruiert ist. In Abschnitt 3.1.2 wird die bedingte H¨aufigkeitsverteilung fX (ai |bj ) = hij /h·j betrachtet. Im Nenner findet sich dabei die H¨aufigkeit des Auftretens von Y = bj , entsprechend bezieht man sich nur auf die Population mit Y = bj . In der Entsprechung dazu findet sich in der Definition der bedingten Wahrscheinlichkeitsfunktion im Nenner die Wahrscheinlichkeit P (Y = y), man bezieht sich also auf die Subpopulation, f¨ ur die Y = y gilt. bedingte V¨ollig analog ergibt sich die bedingte Wahrscheinlichkeitsfunktion von Y gegeben Wahrscheinlich- X = x (kurz: Y |X = x) durch keitsfunktion von Y
fY (y|x) =
f (x, y) . fX (x)
Dadurch wird das Verhalten der Zufallsvariable Y beschrieben, wenn bekannt ist, daß X = x aufgetreten ist. Bedingte Wahrscheinlichkeitsfunktionen Die bedingte Wahrscheinlichkeitsfunktion von X gegeben Y = y ist (f¨ ur festen Wert y und fY (y) = 0) bestimmt durch fX (x|y) =
f (x, y) , fY (y)
die bedingte Wahrscheinlichkeitsfunktion von Y gegeben X = x ist (f¨ ur festen Wert x und fX (x) = 0) bestimmt durch fY (y|x) =
f (x, y) . fX (x)
ur fX (x) = 0 entsprechend fY (y|x) = 0 F¨ ur fY (y) = 0 legt man fX (x|y) = 0 und f¨ fest.
Beispiel 8.4
Roulette Die Randverteilungen des Roulette-Beispiels mit den Variablen Farbe (X) und Zahlentyp (Y ) ergeben sich unmittelbar als die Randsummen in der folgenden Tabelle.
8.2 Zweidimensionale diskrete Zufallsvariablen
P (X = i, Y = j)
X
rot schwarz Zero
1 2 3
gerade 1 8/37 10/37 0 18/37 "
343
Y ungerade 2 10/37 8/37 0 18/37 # fY
Zero 3 0 0 1/37 1/37 !
18/37 18/37 1/37 1
⎫ ⎬ ⎭
fX
Die Randsummen spiegeln wider, daß weder eine Farbauspr¨agung noch ein bestimmter Zahlentyp beim Roulette bevorzugt werden. Es gilt jeweils die Wahrscheinlichkeit 18/37 f¨ ur die einzelnen Auspr¨ agungen, wobei Zero nat¨ urlich eine Sonderstellung einnimmt. F¨ ur die bedingte Wahrscheinlichkeitsfunktion der Zufallsvariable “Zahlentyp, gegeben rote Zahl”, die vom Typ Y |X = 1 ist, ergibt sich P (Y = 1|X = 1) = 8/18,
P (Y = 2|X = 1) = 10/18,
P (Y = 3|X = 1) = 0.
F¨ ur “Zahlentyp, gegeben schwarze Zahl” erh¨ alt man P (Y = 1|X = 2) = 10/18,
P (Y = 2|X = 2) = 8/18,
P (Y = 3|X = 2) = 0.
Daraus ergibt sich f¨ ur logisch denkende Spieler, daß wenn sie auf rot (X = 1) gesetzt haben, sie im gleichen Spieldurchgang besser auf ungerade (Y = 2) setzen als auf gerade (Y = 1), wenn Sie die Chance auf eine Verdoppelung des Einsatzes im Auge haben. Zu bemerken ist allerdings, daß die Gewinnerwartung insgesamt nicht von der Plazierung des zweiten Chips abh¨ angt. Die Zufallsvariablen X und Y sind offensichtlich nicht unabh¨angig im Sinne von Abschnitt 5.2.2. 2
Die Verallgemeinerung des Konzeptes der Verteilungsfunktion auf zwei Variablen gemeinsame f¨ uhrt zu einer zweidimensionalen Funktion. Die gemeinsame Verteilungsfunktion Verteilungsfunkvon X und Y ist gegeben durch tion f (xi , yj ). F (x, y) = P (X ≤ x, Y ≤ y) = xi ≤x yj ≤y
In dieser weniger anschaulichen, aber gelegentlich hilfreichen Funktion wird die simultane Wahrscheinlichkeit angegeben, daß X Werte annimmt, die kleiner oder gleich x sind, und Y gleichzeitig Werte annimmt, die kleiner oder gleich y sind. Aus F (x, y) lassen sich unmittelbar die Randverteilungsfunktionen von X bzw. Y bestimmen. Man erh¨ alt f (xi , yj ), FX (x) = P (X ≤ x) = F (x, ∞) = xi ≤x yj
FY (y) = P (Y ≤ y) = F (∞, y) =
xi yj ≤y
f (xi , yj ).
Randverteilungsfunktion
344
8. Mehrdimensionale Zufallsvariablen
Gemeinsame Verteilungsfunktion Als gemeinsame Verteilungsfunktion zu X und Y erh¨alt man f (xi , yj ). F (x, y) = P (X ≤ x, Y ≤ y) = xi ≤x yj ≤y
8.3
Zweidimensionale stetige Zufallsvariablen
Wenn X und Y stetig sind, das heißt, wenn zu jeweils zwei Werten auch jeder Zwischenwert auftreten kann, l¨ aßt sich die Wahrscheinlichkeit f¨ ur das gemeinsame Auftreten bestimmter Werte X = x und Y = y nicht mehr sinnvoll angeben. Wie in der eindimensionalen Betrachtung l¨aßt sich aber die Wahrscheinlichkeit f¨ ur Intervalle angeben. Gemeinsame stetige Verteilung und Dichte zweier Zufallsvariablen Die Zufallsvariablen X und Y sind gemeinsam stetig verteilt, wenn es eine zweidimensionale Dichtefunktion f (x, y) ≥ 0 gibt, so daß P (a ≤ X ≤ b, c ≤ Y ≤ d) =
b
f (x, y)dydx. a
Randdichte von X
d c
Die Dichtefunktion f besteht nicht wie im diskreten Fall nur aus St¨aben an bestimmten Punkten, sondern ist eine zumindest st¨ uckweise glatte Funktion, die darstellt, wie dicht die Wahrscheinlichkeit an bestimmten Stellen “gepackt” ist. Das Doppelintegral in der Definition entspricht anschaulich dem von der Funktion f (x, y) eingeschlossenen Volumen u ¨ ber der Grundfl¨ache [a, b] × [c, d]. Ein Beispiel f¨ ur eine derartige Dichtefunktion ist in Abbildung 8.2 dargestellt. Jede zweidimensionale Dichtefunktion l¨aßt sich als derartiges “Gebirge” in der (x–y)-Ebene darstellen, wobei das Volumen des Gebirges der Gesamtwahrscheinlichkeit entsprechend eins betr¨ agt. Aus dem durch f festgelegtem Verteilungsgesetz lassen sich wieder die Randdichten bestimmen. Die Randdichte von X, d.h. unter Vernachl¨assigung von Y , ist bestimmt durch ∞ f (x, y)dy. fX (x) = −∞
8.3 Zweidimensionale stetige Zufallsvariablen
345
6 5 4 3 2
0
1 -2
-1
0 0
1
-1 2
3
-2 4
5
Abbildung 8.2: Form einer zweidimensionalen Dichte f (x, y)
Das bei diskreten Zufallsvariablen benutzte Summieren u ¨ ber alle m¨oglichen y-Werte wird hier ersetzt durch das Integrieren u ¨ber alle y-Werte. Entsprechend ergibt sich die Randdichte von Y (unter Vernachl¨ assigung von X) durch ∞ fY (y) = f (x, y)dx.
Randdichte von Y
−∞
In v¨olliger Analogie zum diskreten Fall erh¨alt man die bedingte Dichte von X|Y = y durch f (x, y) f¨ ur festes y mit fY (y) = 0. fX (x|y) = fY (y)
bedingte Dichte von X|Y = y
Diese Dichtefunktion gibt das Verteilungsgesetz von X wieder, wenn Y = y bekannt ist, d.h. das Verteilungsgesetz der Zufallsvariable X|Y = y. Wie man einfach nachur festes y wieder eine stetige Dichte, d.h. es gilt pr¨ uft, ist fX (x|y) f¨ ∞ fX (x|y)dx = 1. −∞
Die bedingte Dichte von Y |X = x ist entsprechend bestimmt durch fY (y|x) =
f (x, y) . fX (x)
Die gemeinsame Verteilungsfunktion stetiger Variablen ist gegeben durch x y f (u, v)dv du. F (x, y) = P (X ≤ x, Y ≤ y) = −∞
−∞
Da x und y hier die Integrationsgrenzen bezeichnen, werden als Argumente in f die Variablen u und v benutzt.
bedingte Dichte von Y |X = x
346
8. Mehrdimensionale Zufallsvariablen
Randdichten Die Randdichte von X ist gegeben durch ∞ f (x, y)dy, fX (x) = −∞
die Randdichte von Y durch
fY (y) =
∞
f (x, y)dx. −∞
Bedingte Dichten und Verteilungsfunktion Die bedingte Dichte von Y unter der Bedingung X = x, kurz Y |X = x, ist f¨ ur festen Wert x und fX (x) = 0 bestimmt durch fY (y|x) =
f (x, y) . fX (x)
F¨ ur fX (x) = 0 legt man fY (y|x) = 0 fest. Die bedingte Dichte von X unter der Bedingung Y = y, kurz X|Y = y, ist f¨ ur festen Wert y und fY (y) = 0 bestimmt durch fX (x|y) =
f (x, y) . fY (y)
F¨ ur fY (y) = 0 legt man fX (x|y) = 0 fest. Die gemeinsame Verteilungsfunktion zu (X, Y ) erh¨alt man aus x y f (u, v)dv du. F (x, y) = P (X ≤ x, Y ≤ y) = −∞
8.4
−∞
Unabh¨ angigkeit von Zufallsvariablen
Die Unabh¨ angigkeit von Zufallsvariablen wurde bereits in den Abschnitten 5.2.2 und 6.1 eingef¨ uhrt. Im folgenden wird der Zusammenhang zwischen Unabh¨angigkeit
8.4 Unabh¨angigkeit von Zufallsvariablen
347
und den bedingten Dichten hergestellt. Dar¨ uber hinaus wird der Begriff der Unabh¨angigkeit auf mehr als zwei Variablen erweitert. Betrachten wir zuerst zwei Zufallsvariablen X und Y . Wie in den vorangehenden Abschnitten dargestellt, f¨ uhrt Vorwissen u ¨ ber eine der beiden Variablen zur bedingten Verteilung. Ist X = x bekannt, betrachtet man die Verteilung von Y |X = x, die durch f (x, y) fY (y|x) = fX (x) bestimmt ist. Wenn das Vorwissen X = x Information u ¨ber die Verteilung von Y enth¨alt, sollte die bedingte Verteilung fY (y|x) tats¨achlich von dem Vorwissen X = x abh¨angen. Ist dies nicht der Fall, gilt also f¨ ur alle x und y fY (y|x) = fY (y), nennt man X und Y (stochastisch) unabh¨angig. Die bedingte Verteilung fY (y|x) ist dann mit der Randverteilung fY (y) identisch. Aus der Definition der bedingten Verteilung ergibt sich unmittelbar, daß die Identit¨at fY (y|x) = fY (x) genau dann gilt, wenn sich die gemeinsame Verteilung als Produkt f (x, y) = fX (x)fY (y) darstellen l¨aßt. V¨ollig analog kann man nat¨ urlich die Verteilung von X|Y = y zugrunde legen. Unabh¨angigkeit dr¨ uckt sich dann dadurch aus, daß fX (x|y) nicht von y abh¨angt, d.h. fX (x|y) = fX (x) gilt. Aus der Definition der bedingten Verteilung erh¨alt man f¨ ur unabh¨ angige Zufallsvariablen wiederum die Produktbedingung f (x, y) = fX (x)fY (y).
Unabh¨ angigkeit von zwei Zufallsvariablen Die Zufallsvariablen X und Y heißen unabh¨ angig, wenn f¨ ur alle x und y gilt f (x, y) = fX (x)fY (y). Ansonsten heißen X und Y abh¨ angig.
Die Unabh¨angigkeit von Zufallsvariablen wurde bereits in den Kapiteln 6 (diskrete Zufallsvariablen) und 7 (stetige Zufallsvariablen) betrachtet. Zu betonen ist, daß die Begriffsbildung identisch ist. Die in Kapitel 6 gew¨ahlte Darstellung der Unabh¨angigkeit diskreter Zufallsvariablen, n¨ amlich wenn P (X = x, Y = y) = P (X =
Unabh¨angigkeit
348
8. Mehrdimensionale Zufallsvariablen
x) · P (Y = y) gilt, entspricht unmittelbar der Produktbedingung. In Kapitel 7 wurden stetige Variablen als unabh¨angig bezeichnet, wenn P (X ≤ x, Y ≤ y) = P (X ≤ x) · P (Y ≤ y) gilt. Dies folgt unmittelbar aus der Produktbedingung, da wegen f (x, y) = fX (x)fY (y) gilt P (X ≤ x, Y ≤ y) =
x
−∞ x
= −∞
y
f (u, v)dv du y fX (u)du fY (v)dv −∞
−∞
= P (X ≤ x) · P (Y ≤ y). Die umgekehrte Aussage, daß aus P (X ≤ x, Y ≤ y) = P (X ≤ x) · P (Y ≤ y) die Produktbedingung folgt, ist etwas aufwendiger zu zeigen, gilt aber ebenso. Beispiele f¨ ur die Unabh¨ angigkeit finden sich bereits in den Kapiteln 6 und 7. In Beispiel 8.4 wurde gezeigt, daß f¨ ur das Roulette Zahlentyp und Farbe keine unabh¨angigen Zufallsvariablen sind. Beispiel 8.5
Meßwiederholungen Bezeichnet Xi das Ergebnis des i-ten M¨ unzwurfes, i = 1, 2, einer fairen M¨ unze mit Xi = 1 ur Zahl in Wurf i, so erh¨alt man die gemeinsame Verteilung f¨ ur Kopf in Wurf i und Xi = 0 f¨ durch X2 1 0 1 1/4 1/4 X1 0 1/4 1/4 F¨ ur die Randverteilungen gilt fX1 (1) =
1 , 2
fX2 (1) =
1 2
ur alle x1 , x2 ∈ {0, 1}. Die Zufallsvariablen X1 und und somit f (x1 , x2 ) = fX1 (x1 )fX2 (x2 ) f¨ angig. X2 sind daher unabh¨ 2
Der Begriff der Unabh¨ angigkeit von Zufallsvariablen l¨aßt sich auf mehr als zwei Zufallsvariablen erweitern. Analog zum Fall zweier Zufallsvariablen lassen sich die Zufallsvariablen X1 , . . . , Xn als unabh¨angig verstehen, wenn die bedingte Verteilung jeder dieser Zufallsvariablen, gegeben die Auspr¨agungen der u ¨brigen n − 1 Zufallsvariablen, nicht von diesen Auspr¨agungen abh¨angt. Dies f¨ uhrt zur einfachen Darstellung der gemeinsamen Dichte als Produkt der Randdichten.
8.5 Kovarianz und Korrelation
349
Die gemeinsame n-dimensionale Dichte ist im diskreten Fall bestimmt durch f (x1 , . . . , xn ) = P (X1 = x1 , . . . , Xn = xn ), im stetigen Fall ist es diejenige Funktion ur die gilt f (x1 , . . . , xn ), f¨ F (x1 , . . . , xn ) = P (X1 ≤ x1 , . . . , Xn ≤ xn ) xn x1 ... f (u1 , . . . , un )dun . . . du1 . = −∞
−∞
Unabh¨ angigkeit von Zufallsvariablen angig, wenn f¨ ur alle x1 , . . . , xn gilt Die Zufallsvariablen X1 , . . . , Xn heißen unabh¨ P (X1 ≤ x1 , . . . , Xn ≤ xn ) = P (X1 ≤ xn ) · . . . · P (Xn ≤ xn ). ¨ Aquivalent dazu ist die Produktbedingung f (x1 , . . . , xn ) = fX1 (x1 ) · . . . · fXn (xn ), wobei f (x1 , . . . , xn ) die gemeinsame Dichte von X1 , . . . , Xn und fXi (xi ) die Dichte der Zufallsvariable Xi bezeichnen (i = 1, . . . , n).
8.5
Kovarianz und Korrelation
Der die beiden Zufallsvariablen X und Y steuernde Wahrscheinlichkeitsmechanismus ist in der gemeinsamen Verteilung f (x, y) enthalten. In vielen F¨allen will man jedoch die wesentliche Information in wenigen Parametern zusammengefaßt zur Verf¨ ugung haben. Als Kenngr¨ oßen der zentralen Tendenz dienen wiederum die Erwartungswerte, wobei jetzt zwei Erwartungswerte, n¨ amlich E(X) und E(Y ), auftreten. Diese sind definiert als eindimensionale Erwartungswerte, die aus den Randverteilungen zu X bzw. Y bestimmt werden. V¨ ollig analog erh¨alt man f¨ ur jede Zufallsvariable aus den Randverteilungen Kennwerte wie Varianz oder Schiefe. Ein neuer Aspekt bei der Behandlung zweier Zufallsvariablen ist die Frage nach dem Zusammenhang der beiden Variablen. Ein Maß f¨ ur diesen Zusammenhang ist die Kovarianz.
350
8. Mehrdimensionale Zufallsvariablen
Kovarianz Die Kovarianz der Zufallsvariablen X und Y ist bestimmt durch Cov (X, Y ) = E([X − E(X)][Y − E(Y )]). Die Kovarianz ist nach Definition der Erwartungswert der Zufallsvariable [X − E(X)][Y −E(Y )], die selbst ein Produkt von zwei Zufallsvariablen ist. Die Zufallsvariablen, die das Produkt bilden, sind um null zentriert, d.h. es gilt E(X − E(X)) = 0 und E(Y − E(Y )) = 0. Man kann sich – ¨ahnlich wie f¨ ur den empirischen Korrelationskoeffizienten – leicht klar machen, daß das Produkt positiv ist, wenn X und Y tendenzm¨ aßig einen gleichsinnigen linearen Zusammenhang aufweisen, hingegen ist es negativ, wenn X und Y einen gegensinnigen linearen Zusammenhang besitzen. Deutlich wird dies aus der Darstellung ⎧ ⎪ f (xi , yj )(xi − E(X))(yj − E(Y )) X und Y diskret ⎪ ⎨ i j Cov (X, Y ) = (∞ (∞ ⎪ ⎪ f (x, y)(x − E(X))(y − E(Y )) dx dy X und Y stetig. ⎩ −∞ −∞
Insbesondere f¨ ur diskrete Variablen ist erkennbar, daß in einem Koordinatensystem durch den Punkt (E(X), E(Y )) in der Summe alle Werte des ersten und dritten Quadranten einen positiven, alle Werte des zweiten und vierten Quadranten einen ¨ negativen Beitrag liefern. Die Uberlegung erfolgt v¨ollig analog zu der Behandlung ¨ des empirischen Korrelationskoeffizienten. Im Unterschied zu den Uberlegungen dort sind jetzt (xi , yj ) keine Beobachtungen, sondern die m¨oglichen Auspr¨agungen, gewichtet mit der tats¨ achlichen Auftretenswahrscheinlichkeit f (xi , yj ). Beispiel 8.6
Meßwiederholungen Bezeichne Xi das Ergebnis des i-ten M¨ unzwurfes einer fairen M¨ unze, wobei ⎧ ⎨1 Kopf bei Wurf i Xi = ⎩0 Zahl bei Wurf i. F¨ ur zwei M¨ unzw¨ urfe berechnet sich die gemeinsame Wahrscheinlichkeitsverteilung als Laplace-Wahrscheinlichkeiten durch
X1
1 0
X2 1 0 1/4 1/4 1/4 1/4
8.5 Kovarianz und Korrelation
351
Daraus erh¨ alt man mit E(Xi ) = 0.5 die Kovarianz 1 1 Cov (X1 , X2 ) = (1 − 0.5)(1 − 0.5) + (1 − 0.5)(0 − 0.5) 4 4 1 1 + (0 − 0.5)(1 − 0.5) + (0 − 0.5)(0 − 0.5) 4 4 1 = (0.25 − 0.25 − 0.25 + 0.25) = 0. 4 Man erh¨ alt somit f¨ ur die Kovarianz zwischen X1 und X2 den Wert null. Wie im folgenden dargestellt wird, gilt dies generell f¨ ur unabh¨ angige Zufallsvariablen. 2
Einige Eigenschaften der Kovarianz, die von weiterer Bedeutung sind, werden im folgenden zusammengefaßt:
Verschiebungssatz Cov (X, Y ) = E(XY ) − E(X) · E(Y ) Symmetrie Cov (X, Y ) = Cov (Y, X) Lineare Transformation + = aX X + bX , Die Kovarianz der transformierten Zufallsvariablen X Y+ = aY Y + bY ist bestimmt durch + Y+ ) = aX aY Cov (X, Y ) . Cov (X,
Zu diesen Eigenschaften gelten folgende Bemerkungen: 1. Die durch den Verschiebungssatz bestimmte alternative Darstellung der Varianz ist rechentechnisch h¨ aufig vorteilhafter, da E(X) und E(Y ) meist vorher schon berechnet wurden, und damit nur E(XY ) zu berechnen ist durch ⎧ ⎪ X und Y diskret ⎪ ⎨ i j f (xi , yi )xi yi E(XY ) = (∞ (∞ ⎪ ⎪ xy f (x, y)dy dx X und Y stetig. ⎩
rechentechnisch g¨ unstige Variante
−∞ −∞
2. Die Vertauschbarkeit von X und Y ergibt sich unmittelbar aus der Definition, da die Reihenfolge der Multiplikation in [X − E(X)][Y − E(Y )] beliebig ist.
Vertauschbarkeit
352
8. Mehrdimensionale Zufallsvariablen
+ = aX X +bX , Y+ = aY Y +bY erh¨alt 3. Die Kovarianz der transformierten Variablen X man aus der Kovarianz von X und Y durch Multiplikation mit den Transformatiangig. onskonstanten aX aY . Die Kovarianz ist damit maßstabsabh¨
Maßstabsabh¨angigkeit der Kovarianz Die letzte Eigenschaft der Maßstabsabh¨angigkeit hat zur Folge, daß, wenn statt
X der zehnfache Wert 10 · X betrachtet wird, f¨ ur die Kovarianz Cov (10X, Y ) = 10Cov (X, Y ) gilt. Diese Abh¨ angigkeit von der Skalenwahl macht die Kovarianz als Absolutzahl schwierig interpretierbar. Eine geeignete Normierung liefert der Korrelationskoeffizient. Korrelationskoeffizient Der Korrelationskoeffizient ist bestimmt durch ρ = ρ(X, Y ) = $
Eigenschaften
Cov (X, Y ) Cov (X, Y ) $ = . σX σY Var(X) Var(Y )
Der Korrelationskoeffizient hat folgende Eigenschaften: 1. Sein Wertebereich ist bestimmt durch −1 ≤ ρ(X, Y ) ≤ 1. 2. Es l¨ aßt sich zeigen, daß |ρ(X, Y )| = 1 genau dann gilt, wenn Y eine lineare Transformation von X ist, d.h. Y = aX + b f¨ ur Konstanten a, b gilt. Wenn a > 0 ist, gilt ρ(X, Y ) = 1, und wenn a < 0 ist, gilt ρ(X, Y ) = −1. 3. Aus dem Satz f¨ ur lineare Transformationen von Kovarianzen ergibt sich f¨ ur die + = X/σX und Y+ = Y /σY “standardisierten” Zufallsvariablen X + Y+ ) = Cov (X/σX , Y /σY ) = Cov (X,
1 Cov (X, Y ) = ρ(X, Y ). σX σY
Die Korrelation von X und Y l¨ aßt sich daher als die Kovarianz der “standardisierten” Zufallsvariablen verstehen. Maßstabsunabh¨angigkeit des Korrelationskoeffizienten
4. Eine wichtige Eigenschaft des Korrelationskoeffizienten ist die Maßstabsunabh¨angigkeit. Wie man einfach ableitet, gilt f¨ ur die Korrelation der transformierten + + Variablen X = aX X + bX , aX = 0, Y = aY Y + bY , aY = 0, die Aussage + Y+ ) = aX aY ρ(X, Y ), ρ(X, |aX ||aY |
8.5 Kovarianz und Korrelation
353
d.h. insbesondere + Y+ )| = |ρ(X, Y )|. |ρ(X, + Y+ ) = −ρ(X, Y ) wenn Wie f¨ ur den empirischen Korrelationskoeffizienten gilt ρ(X, eine der Variablen ein anderes Vorzeichen erh¨alt, d.h. wenn aX > 0, aY < 0 bzw. aX < 0, aY > 0 gilt. Generell ist ρ ein Maß f¨ ur den linearen Zusammenhang zwischen den Zufallsvariablen X und Y . F¨ ur das Verschwinden der Korrelation wird die Bezeichnung Unkorreliertheit verwendet: Unkorreliertheit Zwei Zufallsvariablen X und Y heißen unkorreliert, wenn gilt ρ(X, Y ) = 0. Wenn ρ(X, Y ) = 0 gilt, heißen sie korreliert. Die Eigenschaft der Unkorreliertheit fordert etwas weniger als die Unabh¨angigkeit von X und Y . Allgemein gilt die folgenden Aussage. Unabh¨ angigkeit und Korrelation Sind zwei Zufallsvariablen unabh¨angig, so sind sie auch unkorreliert, d.h. es gilt ρ(X, Y ) = 0. Die G¨ ultigkeit dieser Aussage ist unmittelbar einsehbar. F¨ ur unabh¨angige Zufallsvariablen gilt E(X · Y ) = E(X) · E(Y ). Daraus folgt mit dem Verschiebungssatz Cov (X, Y ) = E(X · Y ) − E(X) · E(Y ) = 0 und damit ρ(X, Y ) = 0. Die Umkehrung, daß unkorrelierte Zufallsvariablen auch unabh¨angig sind, gilt nicht allgemein. Sie gilt allerdings dann, wenn X und Y gemeinsam normalverteilt sind (vgl. Abschnitt 8.6). Klar zu unterscheiden sind der theoretische Parameter Korrelationskoeffizient und der empirische Korrelationskoeffizient. W¨ahrend der Korrelationskoeffizient den wahren, aber meist unbekannten linearen Zusammenhang zwischen den Zufallsvariablen X und Y mißt, beschreibt der empirische Korrelationskoeffizient den beobachteten Zusammenhang von Daten. Der Korrelationskoeffizient ρ(X, Y ) beschreibt keine Daten, sondern das zugrundeliegende stochastische Verhalten eines Systems. Dies sei an einem Beispiel nochmals veranschaulicht.
354
Beispiel 8.7
8. Mehrdimensionale Zufallsvariablen
M¨ unzwurf Eine faire M¨ unze mit Kopf (K) und Zahl (Z) werde viermal geworfen. Bezeichne X die Anzahl der W¨ urfe, bei denen Kopf resultiert, und Y die Anzahl der W¨ urfe, bei denen Zahl resultiert. Man u ur (X, Y ) nur die Paare (0, 4), (1, 3), (2, 2), (3, 1), ¨berlegt sich einfach, daß f¨ (4, 0) auftreten k¨ onnen. Da diese Werte alle auf einer Geraden negativer Steigung liegen, ergibt sich ρ(X, Y ) = −1 (richtige Berechnung f¨ uhrt nat¨ urlich zu demselben Wert). Die maximal-negative Korrelation ist dadurch begr¨ undet, daß sich Kopf und Zahl bei jedem Wurf ausschließen. Wesentlich ist jedoch, daß das Experiment nicht durchgef¨ uhrt werden muß, um zu bestimmen, daß ρ(X, Y ) = −1 gilt. Die Korrelation folgt nur aus dem Verteilungsgesetz und der Art der betrachteten Variablen und ist somit eine Systemeigenschaft. Es werden keinerlei Daten erhoben. 2
Die Varianz der Summe von Zufallsvariablen wurde bisher nur f¨ ur unabh¨angige Zufallsvariablen betrachtet. Betrachtet man allgemeiner die Zufallsvariablen X1 und alt man aus der Definition der Varianz X2 erh¨ Var(X1 + X2 ) = E([X1 + X2 − E(X1 ) − E(X2 )]2 ) = E[(X1 − E(X1 ))2 + (X2 − E(X2 ))2 + 2(X1 − E(X1 ))(X2 − E(X2 ))] = Var(X1 ) + Var(X2 ) + 2Cov (X1 , X2 ). Bei der Bestimmung der Varianz einer Summe von Zufallsvariablen ist demnach die Kovarianz mit zu ber¨ ucksichtigen.
Varianz der Summe zweier Zufallszahlen F¨ ur die Varianz einer Summe von Zufallsvariablen gilt Var(X1 + X2 ) = Var(X1 ) + Var(X2 ) + 2Cov (X1 , X2 ).
Linearkombination
Kovarianz und Korrelation sind Maße f¨ ur den (linearen) Zusammenhang jeweils zweier Variablen. F¨ ur n Zufallsvariablen X1 , . . . , Xn l¨aßt sich jeweils paarweise die Kovarianz Cov (Xi , Yj ) bzw. die Korrelation ρ(Xi , Xj ) betrachten. Diese Kovarianzen werden generell bedeutungsvoll, wenn Linearkombinationen von Zufallsvariablen gebildet werden. Anstatt der einfachen Summe X1 + · · · + Xn betrachte man allgemeiner die gewichtete Summe X = a1 X1 + · · · + an Xn ,
8.5 Kovarianz und Korrelation
355
wobei a1 , . . . , an feste Gewichte darstellen. Beispielsweise kann X den Gewinn eines internationalen Konzerns darstellen, der sich aus der Summe der Einzelgewinne ergibt, wobei a1 , . . . , an die entsprechenden Faktoren zur Umrechnung in eine W¨ahrungseinheit darstellen (Dollar und Euro sollte man nicht addieren). Was erf¨ahrt man aus der Kenntnis der Erwartungswerte und Varianzen der einzelnen Zufallsvariablen u ¨ber das Verhalten der gewichteten Summe? Aus den folgenden Transformationsregeln l¨ aßt sich auf deren Erwartungswert und Varianz schließen. F¨ ur den Erwartungswert weiß man aus den Kapiteln 5 und 6, daß ur die Varianz unmittelE(X) = a1 E(X1 ) + · · · + an E(Xn ) gilt. Damit erh¨alt man f¨ bar aus der Definition von Varianz und Kovarianz Var(X) = E([X − E(X)]2 ) ⎛. ⎛. /2 ⎞ /2 ⎞ n n n ai Xi − ai E(Xi ) ⎠ = E ⎝ ai (Xi − E(Xi )) ⎠ =E⎝ ⎛ =E⎝
i=1 n
i=1
i=1
a2i (Xi − E(Xi ))2 +
=
=
i=1 n i=1
⎞
ai aj (Xi − E(Xi ))(Xj − E(Xj ))⎠
i =j
i=1 n
a2i Var(Xi ) +
ai aj Cov (Xi , Xj )
i =j
a2i Var(Xi ) + 2
ai aj Cov (Xi , Xj ).
i<j
alle Werte i und j mit i = j, wegen Dabei wird ¨ ber i =j , d.h. die Summe u Cov (Xi , Xj ) = Cov (Xj , Xi ) ersetzt durch 2 i<j , d.h. die Summe u ¨ ber alle Werte i und j f¨ ur die i < j gilt; entsprechend wird jedes Paar Cov (Xi , Xj ) doppelt gez¨ahlt. F¨ ur die Varianz der gewichteten Summe sind also nicht nur die Varianzen der einzelnen Variablen von Relevanz, sondern auch der Zusammenhang der Variablen, soweit er in den Kovarianzen erfaßt ist. Diese Aussage hat wesentliche Konsequenzen beispielsweise bei der Risikominimierung von Wertpapiermischungen (vgl. Beispiel 8.8). Sind alle Variablen unkorreliert, d.h. gilt ρ(Xi , Xj ) = 0 und damit Cov (Xi , Xj ) = 0, erh¨alt man die einfache Form Var(X) =
n
a2i Var(Xi ),
i=1
¨ die bereits in den Kapiteln 5 und 6 benutzt wurde. In der folgenden Ubersicht ist erg¨anzend die aus diesem Kapitel bekannte Formel f¨ ur den Erwartungswert einer
356
8. Mehrdimensionale Zufallsvariablen
Summe von Zufallsvariablen nochmals wiedergegeben. Im Gegensatz zur Varianz von X ist diese Formel f¨ ur korrelierte und unkorrelierte Zufallsvariablen g¨ ultig.
Erwartungswert und Varianz von Linearkombinationen Die gewichtete Summe X = a1 X1 + · · · + an Xn der Zufallsvariablen X1 , . . . , Xn besitzt den Erwartungswert E(X) = a1 E(X1 ) + · · · + an E(Xn ) und die Varianz Var(X) = a21 Var(X1 ) + · · · + a2n Var(Xn ) + 2a1 a2 Cov (X1 , X2 ) + 2a1 a3 Cov (X1 , X3 ) + . . . n a2i Var(Xi ) + 2 ai aj Cov (Xi , Xj ). = i=1
Beispiel 8.8
i<j
Portfolio-Optimierung Ein zur Verf¨ ugung stehender Betrag sei aufgeteilt in zwei Anlageformen. Der Anteil a1 wird in eine erste Wertanlage (beispielsweise Aktie A), der Anteil a2 wird in eine zweite Wertanlage (beispielsweise Aktie B) investiert, d.h. a1 + a2 = 1. Man betrachtet nun die Rendite dieser Wertpapiermischung, d.h. den prozentualen Gewinn des Portefeuilles w¨ahrend eines festen Zeitraums. Die Gesamtrendite ergibt sich durch X = a1 X 1 + a2 X 2 , wobei X1 , X2 die Renditen der beiden Anlageformen darstellen. Renditen, insbesondere bei Risikoanlagen sind Zufallsvariablen. Die festverzinsliche risikofreie Anlage l¨aßt sich als Spezialfall mit verschwindender Varianz (Var(Xi ) = 0) betrachten. Nach den entwickelten Formeln erh¨ alt man f¨ ur die zu erwartende Gesamtrendite E(X) = a1 E(X1 ) + a2 E(X2 ), also eine gem¨ aß den Anteilen gewichtete Summe der zu erwartenden Einzelrenditen. Ein wichtiger Indikator f¨ ur eine Wertpapiermischung ist das Portefeuillerisiko, unter dem die Varianz der Gesamtrendite verstanden wird. Man erh¨alt unmittelbar Var(X) = a21 Var(X1 ) + a22 Var(X2 ) + 2a1 a2 Cov (X1 , X2 ).
8.6 Die zweidimensionale Normalverteilung
357
Das Risiko der Gesamtrendite wird demnach nicht nur vom Risiko der $ Einzelrenditen, sondern auch von der Kovarianz $ bestimmt. Wegen ρ = Cov (X1 , X2 )/ Var(X1 )Var(X2 ) l¨aßt sich diese Beziehung mit σi = Var(Xi ) auch darstellen durch Var(X) = a21 σ12 + a22 σ22 + 2a1 a2 ρσ1 σ2 , wobei die Kovarianz jetzt durch den Korrelationskoeffizienten ersetzt ist. Der Vorteil ist, daß der Wertebereich von ρ bekannt ist, da −1 ≤ ρ ≤ 1 gilt. Man sieht daraus, daß f¨ ur negativ korrelierte Renditen (ρ < 0) ein Gesamtrisiko resultiert, das kleiner ist als das Gesamtrisiko f¨ ur unkorrelierte Renditen (ρ = 0). Zur Veranschaulichung sei der Spezialfall σ1 = σ2 = σ betrachtet. Man erh¨alt durch Einsetzen Var(X) = (a21 + a22 + 2a1 a2 ρ)σ 2 . Es ist unmittelbar ersichtlich, daß f¨ ur den Extremfall positiver Korrelation (ρ = 1) die Beziehung Var(X) = (a1 + a2 )2 σ 2 = σ 2 gilt. F¨ ur den Extremfall negativer Korrelation (ρ = −1) erh¨alt man die Beziehung Var(X) = (a1 − a2 )2 σ 2 . Eine gleichm¨ aßige Mischung a1 = a2 = 0.5 f¨ uhrt dann zum risikolosen Portefeuille mit Var(X) = 0. Prinzipiell gilt, daß negativ korrelierte Renditen das Risiko vermindern. 2
8.6
Die zweidimensionale Normalverteilung
Die eindimensionale Normalverteilung wurde als eines der wichtigsten stetigen Verteilungsmodelle bereits behandelt. Ihre Dichte ist von der Form
1 x−μ 2 1 exp − , f (x) = √ 2 σ 2πσ wobei μ = E(X) der Erwartungswert und σ 2 = Var(X) die Varianz der normalverteilten Zufallsvariable X bezeichnet. Erwartungswert μ und Varianz σ 2 sind die beiden charakterisierenden Parameter. Betrachtet man zwei stetige Zufallsvariablen X und Y , beispielsweise Haushaltseinkommen und Haushaltsausgaben, dann sind f¨ ur die gemeinsame Verteilung mehr
358
8. Mehrdimensionale Zufallsvariablen
Parameter von Interesse. Insbesondere sind das μ1 =E(X),
der Erwartungswert von X,
μ2 =E(Y ),
der Erwartungswert von Y ,
σ12 σ22
=Var(X),
die Varianz von X,
=Var(Y ),
die Varianz von Y und
ρ =Cov (X, Y )/σ1 σ2 , die Korrelation zwischen X und Y . In der Erweiterung der Normalverteilung auf zweidimensionale Zufallsvariablen, die im folgenden gegeben ist, treten alle diese Parameter auf. Zweidimensionale Normalverteilung Die Zufallsvariablen X und Y heißen gemeinsam normalverteilt, wenn die Dichte bestimmt ist durch f (x, y) =
1 $
2πσ1 σ2 1 − ρ2 2 3 2 2 45 x−μ1 x−μ1 y−μ2 y−μ2 1 × exp − 2(1−ρ − 2ρ + . 2) σ1 σ1 σ2 σ2
In den Abbildungen 8.3 bis 8.6 sind Dichten zweidimensionaler Normalverteilungen dargestellt. 0.2
0.1
3 2 1
0
0 -2
-1 -1
0
1
-2 2
3
Abbildung 8.3: Zweidimensionale Normalverteilungsdichte f¨ ur unkorrelierte Merkmale, ρ = 0, mit μ1 = μ2 = 0, σ1 = σ2 = 1.0
Die Erwartungswerte sind in allen Abbildungen durch μ1 = μ2 = 0 festgelegt. Da alle Normalverteilungsdichten eingipflig sind mit dem Gipfel an der Stelle (μ1 , μ2 ), sind s¨ amtliche Abbildungen um den Nullpunkt (0, 0) zentriert. Die Dichten in den Abbildungen 8.3 und 8.4 zeigen mit ρ = 0 unkorrelierte Variablen. Die beiden Abbildungen unterscheiden sich nur in der Standardabweichung von X. In Abbildung 8.3
8.6 Die zweidimensionale Normalverteilung
359
0.2
0.1
3 2 1
0
0 -2
-1 -1
0
1
-2 2
3
Abbildung 8.4: Zweidimensionale Normalverteilungsdichte f¨ ur unkorrelierte Merkmale, ρ = 0, mit μ1 = μ2 = 0, σ1 = 1.5, σ2 = 1.0
0.2
0.1
3 2 1
0
0 -2
-1 -1
0
1
-2 2
3
Abbildung 8.5: Zweidimensionale Normalverteilungsdichte, ρ = 0.8, μ1 = μ2 = 0, σ1 = σ2 = 1.0
wird σ1 = σ2 = 1, in Abbildung 8.4 wird σ1 = 1.5, σ2 = 1.0 zugrunde gelegt. Die Abbildungen 8.5 und 8.6 zeigen mit ρ = 0.8 einmal den Fall starker positiver Korrelation und mit ρ = −0.8 den Fall stark negativer Korrelation. In diesen beiden ahlt. Die Varianzen σ12 , σ22 bestimmen, wie stark Abbildungen wurde σ1 = σ2 = 1 gew¨ die Verteilung in die x-, bzw. y-Richtung auseinandergezogen ist. Dies ist ersichtlich aus den Abbildungen 8.3 und 8.4. In Abbildung 8.4 ist wegen σ1 = 1.5 > σ2 = 1 die Dichte in Richtung der x-Achse st¨ arker auseinandergezogen. Da das von den Dichten umschlossene Volumen eins betr¨ agt, ist der Gipfel entsprechend niedriger. Die Korrelation ρ legt fest, wie der “Bergr¨ ucken” in der (x–y)-Ebene ausgerichtet ist und 2 2 ucken in die Breite gezogen bestimmt (f¨ ur feste Werte σ1 , σ2 ), wie stark der Bergr¨ ist. F¨ ur |ρ| in der N¨ ahe von 1 ist der Bergr¨ ucken schmaler, f¨ ur |ρ| nahe null ist der Bergr¨ ucken breiter. F¨ ur die positive Korrelation in Abbildung 8.5 ist der Bergr¨ ucken dem gleichsinnigen Zusammenhang der beiden Variablen entsprechend an der Winkelhalbierenden des ersten Quadranten ausgerichtet. Die Abbildung 8.6 zeigt, wie bei negativer Korrelation, dem gegensinnigen Zusammenhang entsprechend, große Auspr¨agungen der ersten Variable tendenziell mit kleinen Auspr¨agungen der zweiten
360
8. Mehrdimensionale Zufallsvariablen
0.2
0.1
3 2 1
0
0 -2
-1 -1
0
1
-2 2
3
Abbildung 8.6: Zweidimensionale Normalverteilungsdichte, ρ = −0.8, μ1 = μ2 = 0, σ1 = σ2 = 1.0
Variable einhergehen. Prinzipiell wird |ρ| < 1 vorausgesetzt, was man unmittelbar ur ρ = 1 daran sieht, daß 1 − ρ2 in der gemeinsamen Dichte im Nenner erscheint. F¨ ist die Verteilung entartet, d.h. geht die Korrelation von X und Y gegen eins, so wird der Bergr¨ ucken beliebig schmal. Man sieht aus der gemeinsamen Dichtefunktion, daß f¨ ur ρ = 0 gilt
1 x − μ1 2 1 x − μ2 2 1 1 √ exp − exp − , f (x, y) = √ 2 σ1 2 σ2 2πσ1 2πσ2 d.h. die Dichte l¨ aßt sich als Produkt der Randdichten fX (x) und fY (y) von X bzw. Y darstellen. Die Produktdarstellung f (x, y) = fX (x)fY (y) ist ¨aquivalent zur Aussage, daß X und Y unabh¨ angig sind. F¨ ur gemeinsam normalverteilte Zufallsgr¨oßen X und Y gilt demnach, daß unkorrelierte Zufallsgr¨oßen (ρ = 0) auch unabh¨angig sind.
Unabh¨ angigkeit und Korrelation bei normalverteilten Zufallsvariablen F¨ ur gemeinsam normalverteilte Zufallsvariablen X und Y gilt: X und Y sind unabh¨ angig genau dann, wenn sie unkorreliert sind.
F¨ ur den Spezialfall unkorrelierter Gr¨oßen l¨aßt sich die gemeinsame Dichte demnach als Produkt der Randdichten darstellen. Auch f¨ ur korrelierte gemeinsam normalverteilte Zufallsgr¨ oßen gilt, daß die Randverteilungen normalverteilt sind, d.h. man erh¨alt Y ∼ N (μ2 , σ22 ). X ∼ N (μ1 , σ12 ),
8.7 Zusammenfassung und Bemerkungen
8.7
361
Zusammenfassung und Bemerkungen
Die Untersuchung der gemeinsamen Verteilung von Zufallsvariablen ist ein Grundstein zum Verst¨ andnis der Analyse des Zusammenhangs von Variablen. Zentrale Konzepte wie Kovarianz, Korrelation und Unabh¨angigkeit erm¨oglichen es, diesen Zusammenhang zu quantifizieren. Kovarianz und Korrelation sind theoretische Zusammenhangsmaße, erfaßt wird dadurch der durch ein Zufallsexperiment bedingte zugrundeliegende Zusammenhang, der selbst nicht direkt beobachtbar ist. Sie bilden den theoretischen Hintergrund, auf dem erkl¨arbar ist, daß zweidimensionale Beobachtungen, also Realisationen von Zufallsexperimenten eine gemeinsame – gegensinnige oder gleichsinnige – Tendenz aufweisen. Der Begriff der Unabh¨ angigkeit von Zufallsvariablen wird auch in den folgenden Kapiteln eine wichtige Rolle spielen. Wenn Zufallsexperimente wiederholt unter gleichen Bedingungen und unabh¨ angig voneinander durchgef¨ uhrt werden, erh¨alt man unabh¨angige Zufallsvariablen X1 , . . . , Xn , die – als Stichprobenvariablen bezeichnet – die Grundlage f¨ ur R¨ uckschl¨ usse auf die Grundgesamtheit darstellen. Dabei erweisen sich die in diesem Kapitel behandelten Regeln zur Bildung von Erwartungswert und Varianz von Summen von Zufallsvariablen als wichtig. Ausf¨ uhrlichere Darstellungen mehrdimensionaler Zufallsvariablen und die sich ergebenden Probleme, die Zusammenhangsstruktur von mehr als zwei Zufallsvariablen zu erfassen, finden sich in der Literatur zur multivariaten Statistik, z.B. in Fahrmeir, Hamerle und Tutz (1996).
8.8
Aufgaben
Die gemeinsame Verteilung von X und Y sei durch die folgende Kontingenztafel der Auftretenswahrscheinlichkeiten bestimmt: Y 1 2 3 1 0.25 0.15 0.10 X 2 0.10 0.15 0.25 (a) Man (b) Man (c) Man (d) Man
bestimme bestimme bestimme bestimme
Aufgabe 8.1
den Erwartungswert und die Varianz von X bzw. Y . die bedingten Verteilungen von X|Y = y und Y |X = x. die Kovarianz und die Korrelation von X und Y . die Varianz von X + Y .
Die gemeinsame Wahrscheinlichkeitsfunktion von X und Y sei bestimmt durch ⎧ ⎨e−2λ λx+y f¨ ur x, y ∈ {0, 1, . . . } x!y! f (x, y) = ⎩0 sonst.
Aufgabe 8.2
362
8. Mehrdimensionale Zufallsvariablen
(a) Man bestimme die Randverteilung von X bzw. Y . (b) Man bestimme die bedingten Verteilungen von X|Y = y und Y |X = x und vergleiche diese mit den Randverteilungen. (c) Man bestimme die Kovarianz von X und Y .
Aufgabe 8.3
Der T¨ ursteher einer Nobeldiskothek entscheidet sequentiell. Der erste Besucher wird mit der Wahrscheinlichkeit 0.5 eingelassen, der zweite mit 0.6 und der dritte mit 0.8. Man betrachte die Zufallsvariable X: “Anzahl der eingelassenen Besucher unter den ersten beiden Besuchern” und Y : “Anzahl der eingelassenen Besucher unter den letzten beiden Besuchern”. (a) Man bestimme die gemeinsame Wahrscheinlichkeitsfunktion von X und Y . (b) Man untersuche, ob X und Y unabh¨angig sind.
Aufgabe 8.4
Ein Anleger verf¨ ugt zu Jahresbeginn u ¨ ber 200000 e. 150000 e legt er bei einer Bank an, die ihm eine zuf¨ allige Jahresrendite R1 garantiert, welche gleichverteilt zwischen 6 % und 8 % ist. Mit den restlichen 50000 e spekuliert er an der B¨orse, wobei er von einer N (8, 4)-verteilten Jahresrendite R2 (in %) ausgeht. Der Anleger geht davon aus, daß die Renditen R1 und R2 unabh¨ angig verteilt sind. (a) Man bestimme den Erwartungswert und die Varianz von R1 und R2 . (b) Man berechne die Wahrscheinlichkeiten, daß der Anleger an der B¨orse eine Rendite von 8 %, von mindestens 9 % bzw. zwischen 6 % und 10 % erzielt. (c) Wie groß ist die Wahrscheinlichkeit, daß der Anleger bei der Bank eine Rendite zwischen 6.5 % und 7.5 % erzielt? (d) Man stelle das Jahresendverm¨ ogen V als Funktion der Renditen R1 und R2 dar und berechne Erwartungswert und Varianz von V . (e) Angenommen, die beiden Renditen sind nicht unabh¨angig sondern korrelieren mit ρ = −0.5. Wie w¨ urden Sie die 200000 e aufteilen, um eine minimale Varianz der Gesamtrendite zu erzielen. Wie ¨ andert sich die zu erwartende Rendite?
9 Parametersch¨ atzung
Die Ziehung von Stichproben, die ein m¨ oglichst getreues Abbild der Grundgesamtheit wiedergeben sollen, erfolgt nicht zum Selbstzweck. Vielmehr besteht das Ziel einer Stichprobenziehung darin, Informationen u ¨ ber das Verhalten eines Merkmals in der Grundgesamtheit zu gewinnen. Genau dieser Aspekt ist entscheidend: Man ist nicht eigentlich daran interessiert zu erfahren, wie sich das Merkmal in der Stichprobe verh¨alt, sondern diese Information wird benutzt, um daraus auf das Verhalten in der Grundgesamtheit zu schließen. Um diesen Schluß ziehen zu k¨onnen, ben¨otigt man ein Modell, das die Verteilung des interessierenden Merkmals in der Grundgesamtheit beschreibt. Damit k¨ onnen Ergebnisse, die man f¨ ur eine Stichprobe – sofern deren Ziehung bestimmten Kriterien gen¨ ugt – ermittelt hat, auf die entsprechende Grundgesamtheit u urlich nicht ¨bertragen werden. Diese Verallgemeinerung ist nat¨ mit hundertprozentiger Pr¨ azision m¨ oglich, da zum einen das Modell, in dem man sich bewegt eben nur ein Modell ist und zum anderen die Stichprobe nicht absolut den zuvor festgelegten Kriterien gen¨ ugt. Allerdings ist es m¨oglich, wie wir in den folgenden Kapiteln sehen werden, unter Vorgabe einer gewissen Pr¨azision solche Schl¨ usse vorzunehmen. Dabei unterscheidet man grob Sch¨atz- und Testverfahren. Interessiert man sich beispielsweise f¨ ur den Anteil von Frauen an deutschen Hochschullehrern, so kann man eine Stichprobe aus allen deutschen Hochschullehrern ziehen. In dieser Stichprobe z¨ ahlt man, wieviele Hochschullehrer weiblich und wieviele m¨annlich sind. Der Anteil der weiblichen Hochschullehrer in dieser Stichprobe sei 0.12. Dieser Wert gibt i.a. nicht den Anteil der weiblichen Hochschullehrer in der Grundgesamtheit aller Hochschullehrer wieder. Ziehen wir n¨amlich eine zweite Stichprobe, so k¨ onnten wir z.B. einen Anteilswert von 0.09 erhalten. Der beobachtete Anteilswert h¨ angt also ab von der gezogenen Stichprobe, die wiederum eine zuf¨allige Auswahl ist. Damit ist auch der berechnete Anteilswert die Auspr¨agung einer Zufallsvariable, die den Anteil der weiblichen Hochschullehrer beschreibt. Was hat man dann u ¨berhaupt von diesem berechneten Wert? Der in der Stichprobe beobachtete Anteilswert liefert einen Sch¨ atzer f¨ ur den wahren Anteil in der Grundgesamtheit. Wie gut er den wahren Anteil sch¨atzt, also wie nahe er an den wah-
Sch¨atzer
364
9. Parametersch¨atzung
ren Wert heranreicht und wie stabil er ist, d.h. wie stark er von Stichprobe zu Stichprobe schwankt, wird unter anderem vom Stichprobenumfang, aber auch von der Qualit¨ at des Sch¨ atzverfahrens und von der Qualit¨at der Stichprobe beeinflußt. Sch¨atzverfahren und deren G¨ ute sind Thema dieses Kapitels.
9.1
Punktsch¨ atzung
Sch¨atzverfahren zielen darauf ab, aus einer Zufallsstichprobe auf die Grundgesamtheit zur¨ uckzuschließen. Dabei konzentriert man sich auf bestimmte Aspekte des in einer Grundgesamtheit untersuchten Merkmals. Ob man die Intelligenz in einer Studentenpopulation untersucht oder die von einer Maschine produzierte Schraubenl¨ange, meist sind bestimmte Aspekte (Parameter) der Verteilung von prim¨arem Interesse, die beispielsweise Auskunft u ¨ ber Lage oder Streuung des Merkmals geben. Engeres Ziel der Punktsch¨ atzung ist es, einen m¨oglichst genauen N¨aherungswert f¨ ur einen derartigen unbekannten Grundgesamtheitsparameter anzugeben. Parameter treten dabei insbesondere in zwei Formen auf, n¨amlich als Kennwerte einer beliebigen, unbekannten Verteilung oder als spezifische Parameter eines angenommenen Verteilungsmodells. Beispiele f¨ ur den ersten unspezifischen Typ von Parametern sind • Erwartungswert und Varianz einer Zufallsvariable • Median oder p-Quantil einer Zufallsvariable • Korrelation zwischen zwei Zufallsvariablen. H¨aufig l¨ aßt sich der Typ einer Verteilung bei guter Anpassung an den realen Sachverhalt annehmen. Beispielsweise sind Intelligenzquotienten so konstruiert, daß sie einer Normalverteilung folgen, Z¨ahlvorg¨ange wie die Anzahl bestimmter Schadensmeldungen innerhalb eines Jahres lassen sich h¨aufig durch die Poisson-Verteilung approximieren. Modelliert man Merkmale durch die Annahme des Verteilungstyps, reduziert sich das Sch¨ atzproblem darauf, daß nur noch die Parameter dieser Verteilung zu bestimmen sind. Beispiele daf¨ ur sind • der Parameter λ, wenn die Anzahl der Schadensmeldungen durch die PoissonVerteilung P o(λ) modelliert wird, • die Parameter μ, σ 2 , wenn von einer Normalverteilung N (μ, σ 2 ) der produzierten Schraubenl¨ angen auszugehen ist, • der Parameter λ, wenn f¨ ur die Wartezeit eine Exponentialverteilung exp(λ) angenommen wird.
9.1 Punktsch¨atzung
365
Wie man aus diesen Beispielen sieht, sind gelegentlich “unspezifische” Parameter wie Erwartungswert und die Parameter eines Verteilungstyps identisch, z.B. gilt f¨ ur die Normalverteilung E(X) = μ. Der Parameter λ der Exponentialverteilung hingegen unterscheidet sich vom Erwartungswert der zugeh¨origen Zufallsvariable. Ausgangspunkt der Punktsch¨ atzung sind n Stichprobenziehungen oder Zufallsexperimente, die durch die Zufallsvariablen X1 , . . . , Xn repr¨asentiert werden. X1 , . . . , Xn werden auch als Stichprobenvariablen bezeichnet. H¨aufig fordert man von Stichprobenvariablen, daß sie unabh¨ angige Wiederholungen von X sind. Durch diese knappe Formulierung wird ausgedr¨ uckt, daß
Stichprobenvariablen unabh¨angige Wiederholungen
• die den Zufallsvariablen X1 , . . . , Xn zugrundeliegenden Experimente unabh¨angig sind, • jedesmal dasselbe Zufallsexperiment (enthalten in “Wiederholung”) durchgef¨ uhrt wird.
Aus den Realisierungen x1 , . . . , xn dieser Zufallsvariablen soll auf einen Parameter θ geschlossen werden. Der Parameter θ steht hier stellvertretend f¨ ur einen festgelegten Kennwert: Das kann der Erwartungswert sein aber ebenso die Varianz oder der Parameter der Poisson-Verteilung. Eine Punktsch¨atzung f¨ ur θ ist eine Funktion der Realisierungen x1 , . . . , xn der Form t = g(x1 , . . . , xn ). ur den Beispielsweise liefert die Funktion g(x1 , . . . , xn ) = i xi /n einen Sch¨atzwert f¨ zugrundeliegenden Erwartungswert θ = E(X). Der Zufallscharakter des Verfahrens, der sich dadurch ausdr¨ uckt, daß jedesmal, wenn diese n Stichprobenziehungen durchgef¨ uhrt werden, ein anderer Sch¨ atzwert resultiert, wird deutlich in der Darstellung der Sch¨atzfunktion durch T = g(X1 , . . . , Xn ). T ist als Funktion von Zufallsvariablen selbst eine Zufallsvariable. So ist das arithme¯ = g(X1 , . . . , Xn ) = Xi /n eine Zufallsvariable, deren Variabilit¨at tische Mittel X i atzfunktion von den Zufallsvariablen X1 , . . . , Xn bestimmt wird. Eine derartige Sch¨ bzw. Stichprobenfunktion heißt auch Sch¨ atzstatistik oder einfach nur Statistik.
Punktsch¨atzung
366
9. Parametersch¨atzung
Sch¨ atzfunktion, Sch¨ atzstatistik Eine Sch¨ atzfunktion oder Sch¨ atzstatistik f¨ ur den Grundgesamtheitsparameter θ ist eine Funktion T = g(X1 , . . . , Xn ) der Stichprobenvariablen X1 , . . . , Xn . Der aus den Realisationen x1 , . . . , xn resultierende numerische Wert g(x1 , . . . , xn ) ist der zugeh¨ orige Sch¨ atzwert. In der deskriptiven Statistik wurden Lage- und Streuungsparameter der Stichprobe bestimmt. Hinter diesen deskriptiven Parametern stehen Sch¨atzfunktionen, deren Argumente Zufallsvariablen sind. Die resultierenden Realisationen dieser Sch¨atzfunktionen entsprechen dann direkt den deskriptiven Lage- bzw. Streuungsparametern. So l¨ aßt sich ¯ = g(X1 , . . . , Xn ) = 1 n Xi als Sch¨atzfunktion f¨ ur den Erwartungswert μ = X i=1 n E(X) verstehen, x ¯ ist die zugeh¨orige Realisation oder das arithmetische Mittel der Stichprobe. Weitere Sch¨ atzfunktionen sind: ¯ = g(X1 , . . . , Xn ) = 1 n Xi , Xi ∈ {0, 1}, f¨ ur die AuftretenswahrscheinlichX i=1 n keit bzw. den Anteilswert π = P (X = 1), S 2 = g(X1 , . . . , Xn ) = S+2 = g(X1 , . . . , Xn ) =
9.2
1 n−1 1 n
n
¯ 2 f¨ (Xi − X) ur die Varianz σ 2 = Var(X),
i=1
n
¯ 2 f¨ (Xi − X) ur die Varianz σ 2 = Var(X).
i=1
Eigenschaften von Sch¨ atzstatistiken
¯ f¨ Eine Sch¨ atzstatistik wie X ur den Erwartungswert ist zwar intuitiv einleuchtend, daraus folgt jedoch nicht, daß sie ein gutes oder das “beste” Sch¨atzverfahren darstellt. Insbesondere in komplexeren Sch¨atzproblemen ist es wichtig, klare Kriterien f¨ ur die G¨ ute eines Sch¨ atzverfahrens zur Verf¨ ugung zu haben, d.h. die entsprechenden Eigenschaften der Sch¨ atzstatistik zu kennen.
9.2 Eigenschaften von Sch¨atzstatistiken
9.2.1
367
Erwartungstreue
Man erwartet von einer Sch¨ atzstatistik, daß sie tendenziell den richtigen Wert liefert, d.h. weder systematisch u ¨ber- noch untersch¨atzt. Diese Eigenschaft wird als Erwartungstreue bezeichnet und wird an einem einfachen Beispiel illustriert. Dichotome Grundgesamtheit
Beispiel 9.1
Man betrachte n unabh¨ angige Wiederholungen der Zufallsvariable ⎧ ⎨1 CDU-W¨ahler X= ⎩0 sonstige Partei. ¯= Aus den resultierenden Zufallsvariablen X1 , . . . , Xn bilde man die relative H¨aufigkeit X ahler (Wahrscheinlichi Xi /n. Nimmt man nun an, in der Population seien 40 % CDU-W¨ ¯ berechnen. Da unter keit π = P (X = 1) = 0.4), dann l¨ aßt sich der Erwartungswert von X dieser Voraussetzung E(Xi ) = 0.4 gilt, folgt unmittelbar 1 1 E(Xi ) = n 0.4 = 0.4. n i=1 n n
¯ = E(X)
Nimmt man hingegen an, daß in der Population 35 % CDU-W¨ahler sind, dann folgt mit ¯ = 0.35. Allgemeiner heißt das, unabh¨angig davon, welE(Xi ) = 0.35 unmittelbar E(X) ¯ bildet, ergibt sich ches π tats¨ achlich zugrunde liegt, wenn man den Erwartungswert von X ¯ E(X) = π. F¨ ur die Berechnung des Erwartungswertes wird dabei vorausgesetzt, daß ein bestimmtes, wenn auch unbekanntes π in der Grundgesamtheit vorliegt. Essentiell ist dabei, daß dieses π nicht bekannt ist, der Erwartungswert ist berechenbar allein aus der Annahme, daß π der wahre Parameter ist. Um auszudr¨ ucken, daß der Erwartungswert unter dieser Annahme gebildet wird, nimmt man gelegentlich und genauer den Wert π als Index des ¯ = π resultiert. Erwartungswertes hinzu, so daß Eπ (X) 2
Allgemein heißt eine Sch¨ atzstatistik T = g(X1 , . . . , Xn ) f¨ ur den Parameter θ erwar- Erwartungstreue tungstreu oder unverzerrt, wenn gilt Eθ (T ) = θ. Bestimmt man also den Erwartungswert von T unter der Voraussetzung, daß der unbekannte Parameter θ zugrunde liegt, ergibt sich θ als Erwartungswert. Man kann auf diese Art ohne Kenntnis der tats¨ achlichen Gr¨oße des Parameters θ untersuchen, ob der Erwartungswert die richtige Tendenz besitzt. Eine erwartungstreue Sch¨atzstatistik adaptiert sich automatisch an den tats¨achlich in der Grundgesamtheit vorliegenden Sachverhalt.
368
9. Parametersch¨atzung
Eine erwartungstreue atzstatistik f¨ ur den Erwartungswert μ = E(X) ist das Sch¨ ¯ Stichprobenmittel X = i Xi /n, da gilt 1 ¯ = 1 Eμ (Xi ) = nμ = μ. Eμ (X) n n i
Verzerrung, Bias
Sch¨atzt man damit beispielsweise den zu erwartenden Intelligenzquotienten einer ¯ = 110, wenn der tats¨achliche Wert 110 beStudentenpopulation, erh¨ alt man E(X) tr¨agt, aber 105, wenn der tats¨ achliche Wert 105 betr¨agt. Ein Extrembeispiel einer nicht erwartungstreuen Sch¨atzstatistik f¨ ur μ w¨are T = 110, d.h. T nimmt unabh¨ angig von X1 , . . . , Xn immer den Wert 110 an. Entsprechend gilt E(T ) = 110 und die Sch¨atzstatistik ist nur dann unverzerrt, wenn tats¨achlich μ = 110 gilt, f¨ ur alle anderen Werte ist sie verzerrt. ¨ Systematische Uberoder Untersch¨atzung einer Sch¨atzstatistik wird erfaßt in der Verzerrung, auch Bias genannt, die bestimmt ist durch Bias θ (T ) = Eθ (T ) − θ.
Beispiel 9.2
Erwartungstreue Sch¨ atzstatistiken In den folgenden Beispielen wird von unabh¨angigen Wiederholungen ausgegangen. 1. Es l¨ aßt sich zeigen, daß die Stichprobenvarianz 1 ¯ 2 (Xi − X) n − 1 i=1 n
S2 =
eine erwartungstreue Sch¨ atzstatistik f¨ ur die Varianz σ 2 = Var(X) ist. Es gilt Eσ2 (S 2 ) = 2 σ . Hier findet auch die Normierung durch 1/(n − 1) ihren tieferen Grund. Eben diese Normierung liefert eine erwartungstreue Sch¨atzstatistik f¨ ur die Varianz. Die im ersten Schritt “nat¨ urlicher” scheinende Normierung durch 1/n liefert hingegen eine verzerrte Sch¨ atzstatistik (siehe 2.). 2. F¨ ur die empirische Varianz bzw. mittlere quadratische Abweichung 1 ¯ 2 S+2 = (Xi − X) n i=1 n
2 +2 gilt, sofern die Varianz endlich ist, Eσ2 (S+2 ) = n−1 ur n σ . S ist somit nicht erwartungstreu f¨ 2 σ . Die Verzerrung 1 Bias σ2 (S+2 ) = Eσ2 (S+2 ) − σ 2 = − σ 2 n 2 + zeigt, daß S die Varianz tendenziell untersch¨atzt. Allerdings verschwindet die Verzerrung f¨ ur wachsenden Stichprobenumfang n.
9.2 Eigenschaften von Sch¨atzstatistiken
369
3. Zwar ist S 2 eine erwartungstreue Sch¨ atzstatistik f¨ ur σ 2 , die Wurzel daraus, also S ist jedoch i.a. nicht erwartungstreu f¨ ur σ. S untersch¨atzt tendenziell die Standardabweichung. 4. F¨ ur den Anteilswert π = P (X = 1) einer dichotomen Grundgesamtheit mit X ∈ {1, 0}, ist die relative H¨ aufigkeit ¯= 1 Xi X n i 2
eine erwartungstreue Sch¨ atzstatistik.
Eine abgeschw¨achte Forderung an die Sch¨atzstatistik ist die asymptotische Erwartungstreue. Eine Sch¨ atzstatistik heißt asymptotisch erwartungstreu, wenn gilt lim Eθ (T ) = θ,
n→∞
d.h. mit wachsendem Stichprobenumfang verschwindet die Verzerrung von T . F¨ ur die mittlere quadratische Abweichung gilt n−1 2 σ . Eσ2 (S+2 ) = n S+2 ist daher nicht erwartungstreu. Wegen lim
n→∞
erwartungstreu f¨ ur σ 2 .
n−1 n
= 1 ist aber S+2 asymptotisch
Asymptotische Erwartungstreue bezieht sich auf große Stichprobenumf¨ange. F¨ ur kleines n kann eine asymptotische erwartungstreue Sch¨atzstatistik erheblich