This content was uploaded by our users and we assume good faith they have the permission to share this book. If you own the copyright to this book and it is wrongfully on our website, we offer a simple DMCA procedure to remove your content from our site. Start by pressing the button below!
p und P{X > Xp) >1 — p gilt, heifit p-Quantil der diskreten Zufallsvariable X mit Verteilungsfunktion F{x). Fiir p = 0.5 heiiJt XQ.S Median. Bei dieser Definition treten die gleichen Schwierigkeiten auf wie bei der Definition von empirischen Quantilen: Xp ist nicht immer eindeutig. Dies wird fiir den Median, d.h. fiir p = 0.5, in der folgenden Abbildung 5.11 veranschaulicht.
F{x) 1-
k
x) 1,
. 1 1 1
1 1
1 1
1 1
1 2
1 2 , 1 1 1
1 1 1
• ^0.5
X
^ -
ABBILDUNG 5.11: Eindeutiger Median (links) und nicht eindeutiger Median (rechts)
Falls F{x) den Wert 0.5 liberspringt (Abb. 5.11, links) so ist der Median eindeutig. Nimmt jedoch wie in Abbildung 5.11 (rechts) F{x) den Wert 0.5 an, so erfiillt jeder a:-Wert in dem zur Treppe gehorigen Intervall die Definition. Man kann z.B. wie in Abschnitt 2.2.2 den Mittelpunkt des Intervalls als eindeutigen Median wahlen oder auch den hnken Randpunkt. Bei der zweiten Festlegung erreicht man, dafi der Median zum Trager der Verteilung gehort. Die gleichen Uberlegungen gelten entsprechend fiir beliebige Quantile. Varianz und Standardabweichung
Varianz und Standardabweichung sind die wichtigsten Streuungsparameter einer diskreten Zufallsvariable. Sie sind in Analogic zu den entsprechenden empirischen Mai3zahlen definiert und setzen metrisch skaherte Zufallsvariablen voraus. Wir ersetzen dazu in Abschnitt 2.2 Auspragungen a i , . . . , a^,... durch o^i,..., x^,..., relative Haufigkeiten / i , . . . , A , . . • d u r c h p i , . . . ,PA:J • • • und das arithmetische Mittel x durch den Erwartungswert /x = E{X).
5.2 Verteilungen und Parameter von diskreten Zufallsvariablen
249
Varianz und Standardabweichung einer diskreten Zufallsvariable
Die Varianz einer diskreten Zufallsvariable ist a^ = Var{X) = {xi ~ fxfpi + . . . + (x^ - / / ) V + • • • i>l
Die Standardabweichung ist a =
+^/Var{X).
Fiihrt man die Zufallsvariable (X — /i)^ ein, so lafit sich die Varianz gemalS dieser Definition auch in der folgenden Form schreiben:
Varianz als erwartete quadratische Abweichung
Var{X) = E{X - fif
Damit kann sie als die zu erwartende quadratische Abweichung der Zufallsvariable X von ihrem Erwartungswert interpretiert werden. In der Hdufigkeitsinterpretation von Erwartungswerten bedeutet dies, dafi bei n unabhangigen Wiederholungen von X mit den Werten xi^... ^Xn die durchschnittliche quadrierte Abweichung
Hdufigkeitsinterpretation
'='-t(->--)' fill grofie n mit hoher Wahrscheinlichkeit nahe bei a^ liegen wird. Ahnlich wie beim Erwartungswert mu6 man bei unendlich-diskreten Zufallsvariablen voraussetzen, dafi die auftretenden Summen einen endlichen Wert ergeben. Aus der Definition ergibt sich, dafi Var{X) > 0 ist und dafi Var{X) = 0 genau dann gilt, wenn X nur den einen Wert x = fi annehmen kann. Eine solche '^Zufallsvariable" ist deterministich, also eine feste Zahl /i. Ihre Varianz ist gleich null und ihre Verteilung heifit "entartet", da P{X = x) = 0 fiir alle x ^ /j. gilt. Fiir Varianzen gelten in Analogic zu empirischen Varianzen die Verschiebungsregel und die Regel fiir lineare Transformationen. Diese Regeln sind zum Berechnen von Varianzen oft hilfreich.
entartete Zufallsvariable
5. Diskrete Zufallsvariablen
250
Verschiebungsregel Var(X) == E{X^) -- {E{X)f = E{X^) --M^ bzw. allgemeiner Var{X) = E{{X - c)^) -- ( / x - c ) 2 . Die einfachere Form der Verschiebungsregel ergibt sich aus der allgemeinen Regel fiir c = 0. Der Beweis erfolgt direkt in Analogie zum Beweis des Verschiebungssatzes in Abschnitt 2.2.3 oder so: Var{X) = E{X - iif = E{X^ - 2fiX + /x^). Wegen der Linearitat des Erwartungswertes folgt Var{X) = E{X^) - 2/i£;(X) + //^ = E{X^) - 2//^ + ^^2 ^
Die Verschiebungsregel vereinfacht das Berechnen der Varianz, wenn vorher bereits der Erwartungswert berechnet wurde. Man bildet dann die Tabelle p
Pi
•
X
Xl
.
x2
7-2
••
..
Pk
...
Xi
. .
Xk
...
J2 XiPi = M
. -? .
. .
Xj^
...
Zxh^=EiX')
Pi
•
und berechnet daraus die Varianz. Lineare Transformation Fiir y = a Z + 6 ist Var{Y) = Var{aX + b) = a^VariX)
und
ay = \a\ax.
Man kann dies wieder ahnlich wie fiir empirische Varianzen zeigen oder wie folgt: Var{aX + b) = E{aX + b-afi-bf = a^E{{X - /i)2) =
unabhdngig
= E{aX - a/i)^ = c?Var{X),
wobei die Linearitat des Erwartungswertes ausgenutzt wurde. Fiir die Summe von Zufallsvariablen erhalt man eine ahnlich einfache Regel, wie fiir Erwartungswerte, wenn die Variablen unabhdngig sind. Ohne diese Vorausset-
5.2
Verteilungen und Parameter von diskreten Zufallsvariablen
251
zung gelt en die folgenden Formeln i.a. nicht.
Varianz der Summe von unabhangigen Zufallsvariabler1 Fiir unabhangige Zufallsvariablen X und Y bzw. X i , . . . , Xn gilt Var{X + Y) --= Var{X) + Var{Y) und mit beliebigen Konstanten a i , .
' 5^n
Var{aiXi + . . . + anXn) == alVar{Xi)
+ ... +
alVariXn).
Der Beweis der ersten Formel ist aufwendig. Die zweite ergibt sich daraus in Kombination mit der Regel fiir lineare Transformationen. Binare Zufallsvariablen
Beispiel 5.13
Fur binare NuU-Eins-Variablen mit P{X = 1) = TT, P{X = 0) = 1 -TT gilt E{X) = n. Fiir E{X'^) erhalt man E{X^)=0\l-iT)-\-l^'7r = 7r, und mit der Verschiebungsregel ergibt sich Var{X)
= TT — TT'^ = 7r(l — TT) .
Man kann X als metrische Zufallsvariable interpretieren: X zahlt, mit den Werten 0 oder 1, das Eintreten von A bei einmaliger Durchfiihrung des Zufallsvorgangs. Die Varianz 7r(l — TT) ist klein, wenn TT = E{X) nahe bei 0 oder 1 liegt, d.h. wenn die Wahrscheinlichkeit fiir A gering oder grofi ist. Var{X) wird am grofiten (= 0.25) fiir n = 0.5, d.h. wenn die Unsicherheit, ob A oder A eintritt, am grofiten ist. D
Wiirfeln
Beispiel 5.14
Beim einmaligen Wiirfeln mit X = "Augenzahl" gilt nach Beispiel 5.10 (Seite 243) E{X) = 7/2. Mit der Verschiebungsregel erhalten wir Var{X) = {l'-\-2^ + ...^6')^^-(^]
91
49
= ^ - ^
70
24
2.92.
Betrachten wir zum Vergleich eine Zufallsvariable y , die nur die Werte 1 und 6 jeweils mit Wahrscheinlichkeit P{Y = 1) = P{Y = 6) = 1/2 annimmt. Dann gilt E{Y) = 7/2 wie bei X, jedoch ist Var{Y) =
-{l'^6')
37
49
= 6.25.
252
5. Diskrete Zufallsvariablen
d.h. Y hat eine grofiere Varianz als X, da die Werte von Y im Mittel weiter ((6 — 3.5)^ = (1 - 3.5)2 ^ g 25) von /x = 7/2 liegen. Beim zweimaligen Wiirfeln mit X = "Augensumme" kann man analog, aber muhsam
berechnen. Die gleiche Zahl ergibt sich jedoch wesentlich einfacher durch die Regel fiir die Varianz einer Summe von unabhangigen Zufallsvariablen: Wenn Xi die Augenzahl beim ersten Wurf und X2 die Augenzahl beim zweiten Wurf bezeichnet, so sind Xi und X2 unabhangig, und es ist X = Xi + X2 die Augensumme. Damit gilt Var{X) = Var{X,) + Var{X2) = ^ + ^ = f •
Beispiel 5.15
Geometrische Verteilung
Fiir eine geometrisch verteilte Zufallsvariable X gilt E{X) = I/TT. Die Berechnung der Varianz ist ebenfalls aufwendig. Es lafit sich zeigen, dafi Var{X) =
^
gilt.
5.3
parametrische Verteilungen
D
Spezielle diskrete Verteilungsmodelle
Dieser Abschnitt beschreibt einige weitere diskrete Verteilungen, die haufig zur Modellierung von Zufallsvorgangen und zur Datenanalyse mittels induktiver Statistik eingesetzt warden. Zwei ofter verwendete spezielle Verteilungen haben wir bereits im vorangehenden Abschnitt kennengelernt: die diskrete Gleichverteilung und die geometrische Verteilung. Dabei handelt es sich jeweils u m eine Familie von parametrischen Verteilungen: Die Wahrscheinlichkeitsfunktion hangt noch von einem oder auch mehreren Parametern ab, wie etwa von der Erfolgswahrscheinlichkeit TT bei der geometrischen Verteilung. Erst wenn fiir die Parameter numerische Werte eingesetzt werden, ist die Wahrscheinlichkeitsfunktion eindeutig festgelegt. In Anwendungen werden die Parameterwerte so festgelegt, dafi eine moghchst gute Ubereinstimmung mit einer aus Daten gewonnenen empirischen Verteilung erzielt wird, siehe dazu Kapitel 9.
5.3
Spezielle diskrete Verteilungsmodelle
253
Damit wird auch der Modellcharakter spezieller parametrischer Verteilungen deutlich: In der Kegel gelingt es nur in einfachen Situationen und unter gewissen Idealisierungen, etwa bei Gliicksspielen, durch logische Kausalschllisse zu zeigen, dafi eine bestimmte Verteilung dem Sachverhalt exakt angepafit ist. Meistens lafit sich nur feststellen, auch mit Mitteln der Statistik, ob eine gewahlte Verteilung dem Sachverhalt und den Daten gut oder schlecht angepafit ist. 5.3.1
Modellcharakter
Die Binomialverteilung
Mit der in den Beispielen 5.6 (Seite 232) und 5.11 (Seite 244) betrachteten Anzahl von Treffern wurde bereits exemplarisch eine spezielle, binomialverteilte Zufallsvariable betrachtet. Im folgenden werden die dabei erhaltenen Ergebnisse und Eigenschaften allgemein formuliert. Wir betrachten eine BernouUi-Kette von n-mal wiederholten Bernoulli-Experimenten mit n = P{A) fiir das interessierende Ereignis und der Folge Ai, ^ 2 , . . . , ^n von unabhangigen Ereignissen. Dabei steht Ai fiir das Eintreten von A im i-ten Versuch. Zur BernouUi-Kette definieren wir die Zufallsvariable X = "Anzahl der Versuche, bei denen A eintritt" . Einfache Beispiele hierfiir sind das wiederholte Werfen von Miinzen bzw. Wiirfeln, wobei X zahlt wie oft "Kopf" bzw. "Sechs" auftritt. Das Standardmodell fiir eine BernouUi-Kette ist da.s Ziehen mit Zurilcklegen aus einer Urne, die N Kugeln, darunter M schwarze, enthalt. Daraus werden zufallig und mit Zurilcklegen nacheinander n Kugeln gezogen. Die Ereignisse Ai "Bei der i-ten Ziehung wird eine schwarze Kugel gezogen" sind dann unabhangig und es ist P{Ai) = M/N = n. Ahnhche Zufallsvorgange treten bei vielen Gliicksspielen, aber auch beim zufaUigen Ziehen mit Zuriicklegen aus einer endlichen Grundgesamtheit auf. Auch bei der laufenden Gut/Schlecht-Priifung im Beispiel 5.8 (Seite 241) kann man oft von einer BernoulliKette ausgehen, bei der X die Anzahl defekter Stiicke bedeutet. Das Beispiel 5.9 (Seite 241) zeigt, dafi auch bei zufalligem Ziehen ohne Zurilcklegen angenahert eine Bernoulli-Kette vorliegt, wenn das Verhaltnis n/N klein ist. Die Zufallsvariable X ist somit bei vielen Zdhlvorgdngen von Bedeutung. Die Wahrscheinlichkeitsfunktion von X lafit sich (in Verallgemeinerung der Uberlegungen in Beispiel 5.6, Seite 232) folgendermafien ableiten: Der Trager von X ist T = { 0 , 1 , . . . , n}. Das Ereignis {X = x} resultiert z. B. fiir die Ereignisfolge
AiA2"'A:,A:,^l'"An, bei der in der Bernoulli-Kette zuerst x-mal das Ereignis A und anschliefiend (n — x)-
Urnenmodell Ziehen mit Zurilcklegen
Ziehen ohne Zurilcklegen
254
5. Diskrete Zufallsvariablen
mal A auftritt. Wegen der Unabhangigkeit der einzelnen Versuche gilt P{AiA2 • • -^x^x+i • "An) = 7r',.,'n{l V
- TT) • . . . • (1 - TT) =
's
^
rr-mal
/
(n-x)-mal
^—x = 7r^(l-7r)^-
Das Ereignis {X = x} tritt aber auch ein, wenn x-mal A und (n — x)-mal A in irgendeiner anderen Reihenfolge erscheinen. Die Wahrscheinlichkeit ist dabei jeweils ebenfalls 7r^(l — TT)"'"^. Insgesamt gibt es nach Abschnitt 4.3 genau (^) verschiedene derartige Reihenfolgen. Damit folgt P(X = x ) = Q 7 ^ - ( l - 7 r r - ^
x =
0,l,..., n.
Man nennt eine Zufallsvariable mit dieser Wahrscheinlichkeitsfunktion binomialverteilt. Binomialverteilung
Eine Zufallsvariable heifit binomialverteilt mit den Parametern n und TT, kurz X ^ B(n, TT), wenn sie die Wahrscheinlichkeitsfunktion
;(,) = / C M l - - r - ^
X = 0 , 1 , . . . ,n sonst
besitzt. Die Verteilung heifit Binomialverteilung oder kurz S(n,7r)-Verteilung. Sie ergibt sich, wenn aus n unabhangigen Wiederholungen eines BernoulliExperiments mit konstanter Wahrscheinlichkeit TT die Summe der Treffer gebildet wird. Die folgende Abbildung 5.12 zeigt fiir n = 10 zu verschiedenen Werten von TT die Wahrscheinlichkeitshistogramme der Binomialverteilung. Man erkennt, dafi die Verteilung fiir n < 0.5 linkssteil ist und zwar umso deutlicher, je kleiner n ist. Fiir TT = 0.5 ist die Verteilung symmetrisch zum Wert x = nn. Fiir TT > 0.5 erhalt man rechtssteile Verteilungen als "Spiegelbild" zu entsprechenden linkssteilen Verteilungen (etwa n = 0.25 und TT = 0.75). Fiir grofieres n lafit sich das Wahrscheinlichkeitshistogramm gut durch die Dichtekurve einer Normal verteilung mit fi = n7r und cr^ = n7r(l — TT) approximieren, siehe die Abbildungen 5.13. Diese Approximation ist umso besser, je naher n bei 0.5 liegt, und wird schlechter, je naher n bei 0 oder 1 hegt. Die theoretische Rechtfertigung liefert der zentrale Grenzwertsatz aus Abschnitt 7.1.2.
5.3
255
Spezielle diskrete Verteilungsmodelle
7r = 0.1
7r = 0.25
0.4 H
0.4 H
0.3
0.3 H
0.2
0.2 H
0.1
0.1 A
0
I
I
I
I
I
I
I
I
I
0 1 2 3 4 5 6 7 8
I
I
'
0-L
I ' I ' I ' I
9 10
7r = 0.5
I I
I—I—I—'
10
7r = 0.75
0.4
0.4 H
0.3
0.3
0.2
0.2 H
0.1 -\
0.1
0
I
0 1 2 3 4 5 6 7 8 9
0=^
-^Jd
0 1 2 3 4 5 6 7 8 9
0
- I — I — I — r ^
10
0 1 2 3 4 5 6 7 8 9
10
ABBILDUNG 5.12: Wahrscheinlichkeitshistogramme von Binomialverteilungen fiir n = 10
Erwartungswert und Varianz der B(n, 7r)-Verteilung lassen sich leicht berechnen, wenn man die unabhangigen Indikatorvariablen Xi =
1, falls beim i-ten Versuch A eintritt 0,
falls beim i-ten Versuch A nicht eintritt,
i == 1 , . . . , n, einfiihrt. Fiir diese gilt P(Xi
= 1) = TT,
P{Xi
= 0) = 1 - TT,
E{Xi)
= TT,
Var{Xi)
= 7r(l - TT) .
Jedes Xi ist also binomialverteilt mit n — 1 und TT. Offensichtlich lafit sich X in der Summendarstellung X = Xi + .,, + Xn schreiben. Daraus folgt nach den Rechenregeln fiir Erwartungswerte und fiir Varianzen unabhangiger Zufallsvariablen E{X) - E{Xi) + ... + EiXn) = nn, Var{X) = Var{Xi) + . . . + Var{Xn) = n7r(l - TT) .
Summendarstellung
5. Diskrete Zufallsvariablen
256
n = 30, 7r = 0.1
n = 10, 7r = 0.1
J
n—\—\—\—I—I—I—I—r - 3 - 2 - 1 0 1 2 3 4 5 6 7
I I ikw II—I—I—I—I—r-* - 5 - 2 1 4 7 10 13 16 19 22 25
n = 10, 7r = 0.5
n = 3 0 , 7r = 0.5
0.4 H
0.24 H
0.3
0.18 H
0.2
0.12 H
0.1
0.06 H -
p
^
I
•
0 1 2 3 4 5 6 7 8 9
/TN
J
k
f-n—I—r -1—I—n-T 0 3 6 9 1215 18 2124 27 30
10
ABBILDUNG 5.13: Approximation von Wahrscheinlichkeitshistogrammen
durch Dichtekurven der Normalverteilung
Erwartungswert und Varianz einer J5(n,7r)-verteilten Zufallsvariable X: E{X) = mx,
Var{X) = n7r(l - TT) .
Folgende beide Eigenschaften sind oft niitzlich:
Additionseigenschaft Sind X ~ S ( n , TT) und Y ~ jB(m, TT) unabhangig, so ist X + y ~ B{n + m, TT).
5.3 Spezielle diskrete Verteilungsmodelle
257
Symmetrieeigenschaft Sei X ~ B{n,
TT)
und Y =-n --X. Dann gilt Y ~5(n,l-
TT).
Die Summe von unabhangigen binomialverteilten Zufallsvariablen mit gleichem Parameter TV ist also wieder binomialverteilt. Die Eigenschaft ergibt sich aus der Darstellung von X und Y als Summe von Indikatorvariablen. Die Symmetrieeigenschaft folgt aus /^(.:) = P ( X = x ) = ( ^ ) 7 r ^ ( l - 7 r r - = f = Q
^ J a - T T ) n—x^n—(n—x)
(1 - 7 r ) % " - ^ = P{Y = y) = / y ( y ) .
Zum praktischen Arbeiten ist die Verteilungsfunktion X
B{x\n, TT) = P{X
< x\n, vr) = ^ f{t) t=o
iiir ausgewahlte Werte von n und in der Kegel fiir n < 30 tabelliert (Tabelle B). Dabei genligt es wegen der Symmetrieeigenschaft, die Tabelle nur fiir TT < 0.5 anzulegen. Fiir TT > 0.5 gilt B{x\n,TT)
= P{X < x\n,TT) = P{Y >n-
x\n,n)
= 1 - P{Y < n - x - l | n , 1 - TT) = 1 - B ( n - X - l | n , 1 - TT) . Die Wahrscheinlichkeitsfunktion ergibt sich aus den Tabellen durch f{x)
= P{X
= x) = B{x\n, TT) - B{x - l | n , TT) .
Fiir grofieres n verwendet man die Approximation vgl, Abschnitt 7.2.
durch eine
Normalverteilung^
Treffer und Nieten
Normalverteilungsapproximation Beispiel 5.16
(a) In Beispiel 5.6 (Seite 232) gilt fiir die Anzahl X von Treffern bei drei unabhangigen Ausspielungen der Lotterie X ~ 5(3,0.20). Die in Beispiel 5.6 direkt berechnete WahrscheinHchkeitsfunktion von X ergibt sich auch aus Tabelle B der Verteilungsfunktion 5(x|3,0.20) dieser Binomialverteilung. Beispielsweise liest man fiir x = 0 P{X = 0)= B(0|3,0.20) = 0.512
5. Diskrete Zufallsvariablen
258
ab. Mit P{X
5(1|3,0.20) = 0.896
erhalt man den Wert P{X = 1)= P{X < 1) - P{X = 0)= 0.896 - 0.512 = 0.384 wie in der Wahrscheinlichkeitstabelle von Beispiel 5.6 (Seite 232). Die Wahrscheinlichkeit P{X > 1), mindestens einen Treffer zu erzielen, ist P{X>1)
= 1-P{X
<1) = 1-P{X
= 0) = 0ASS.
(b) Bei der Produktion eines Massenartikels, etwa von Skiern oder Bauteilen, vgl. Beispiel 5.8 (Seite 241), liege der Anteil einwandfrei produzierter und somit nicht nachzubehandelnder Stiicke bei ir = 0.90. Aus der laufenden Produktion werden 20 Stiicke entnommen. Wenn man wie in Beispiel 5.8 annimmt, dafi die Fertigung der einzelnen Skier oder Bauteile unabhangig erfolgt, so bildet die Stichprobe eine BernouUi-Kette, und es gilt fiir die Anzahl X von einwandfreien Stiicken X ~ 5(20,0.90). Um Wahrscheinlichkeit en, etwa P{X < 18), fiir interessierende Ereignisse zu berechnen, geht man zunachst zur Anzahl Y = n — X nicht einwandfreier Stiicke iiber, da die 5(20,0.90)Verteilung nicht tabelliert ist. Fiir Y gilt dann 7-5(20,0.10). Damit errechnet man z.B. P{X < 18) = P(Y > 20 - 18) = 1 - P{Y < 2) = 1 - P{Y < 1) = 1-0.3917 = 0.6083, oder P{X = 18) = P{Y = 2) = P{Y < 2) - P{Y < 1) = 0.6769 - 0.3917 = 0.2852. Die Wahrscheinlichkeit, den Erwartungswert n7r = 20 • 0.90 = 18 zu erhalten, liegt also bei fast 30%. D
5.3.2 Urnenmodell ohne Zuriicklegen
Die hypergeometrische Verteilung
Aus einer endlichen Grundgesamtheit von N Einheiten, von denen M eine Eigenschaft A besitzen, wird n-mal rein zufdllig, aber ohne Zuriicklegen gezogen. Im Urnenmodell mit N Kugeln, davon M schwarzen, entspricht dies dem zufalligen
5.3
259
Spezielle diskrete Verteilungsmodelle
n-maligen Ziehen ohne Zuriicklegen. Wir interessieren uns wieder fiir die Zufalls variable X = "Anzahl der gezogenen Objekte mit der Eigenschaft A" . Falls der Auswahlsatz n/N klein genug ist {Faustregel: n/N < 5 %), ist X ndherungsweise binomialverteilt mit Parametern n und n = M/N. Falls n/N grofier ist, mufi die Verteilung von X exakt bestimmt werden. Dies fiihrt zur hypergeometrischen Verteilung. Zunachst geben wir den Wertebereich von X an. Der grofitmogliche Wert Xmax von X ist n, wenn n < M ist, und er ist M, wenn M < n ist. Also ist
Auswahlsatz Faustregel
Wertebereich
Xmax = min(n, M ) , die kleinere der beiden Zahlen n und M. Ahnlich iiberlegt man, dafi der kleinstmogliche Wert Xmin = max(0, n-{N - M)) ist. Damit besitzt X den Trager T = {xmin^ -- -, Xmax}- Falls n< M und n<M — N gilt, vereinfacht sich der Trager zu T = { 0 , 1 , . . . , n}, also dem gleichen Trager wie bei der Binomialverteilung. Die Wahrscheinlictikeitsverteilung von X lafit sich mit den anschliefiend angefiihrten kombinatorischen Argumenten herleiten. Hypergeometrische Verteilung
Eine Zufallsvariable X heifit hypergeometrisch verteilt mit Parametern n, M und N, kurz X ~ H{n^ M, AT), wenn sie die WahrscheinHchkeitsfunktion
m
M\ /N - M XJ \ n —X N n
xeT 0,
sonst
besitzt. Dabei ist T durch {max(0, n — {N — M)),..., inin(n, M)} gegeben. Es gilt M M ( M\N-n N N N N-1 Damit besitzt eine H{n, M, 7V)-verteilte Zufallsvariable den gleichen Erwartungswert wie eine B(n,M/Ar)-verteilte Zufallsvariable. Jedoch ist die Varianz kleiner, da der sogenannte Korrekturfaktor {N — n)/{N — 1) fiir n > 1 kleiner als 1 ist. Korrekturfaktor Diese Verkleinerung der Varianz ist plausibel, da man ohne Zuriicklegen zieht und
5. Diskrete Zufallsvariablen
260
somit keine schon gewonnene Information verschenkt. Fiir kleine Werte n/N des Auswahlsatzes ist der Korrekturfaktor praktisch gleich 1; die Varianzen sind dann also naherungsweise gleich. Eine hypergeometrisch verteilte Zufallsvariable lafit sich ebenfalls als Summe X = Xi +
.,.+Xn
von Indikatorvariablen Xi =
1, wenn beim z-ten Ziehen A eintritt 0, wenn beim z-ten Ziehen A nicht eintritt
darstellen. Vor Beginn der Ziehungen gilt weiterhin
jedoch sind die Indikatorvariablen voneinander abhangig. Wegen der Additivitat des Erwartungswertes folgt sofort
E{X)^E{X,)
+ ... + E{Xn) =
n^.
Die entsprechende Summenformel fiir Varianzen gilt jedoch wegen der Abhangigkeit nicht, so dafi der Beweis fiir Var{X) aufwendiger wird. Die Wahrscheinlichkeitsfunktion selbst lafit sich nach der Abzahlregel folgendermafien ableiten: Insgesamt gibt es (^) Moglichkeiten aus A^ Kugeln n ohne Zuriicklegen und ohne Beachtung der Reihenfolge zu Ziehen. Dies ergibt den Nenner. Um aus M schwarzen Kugeln genau x herauszugreifen, gibt es (^) Moglichkeiten. Genauso verbleiben ( ^"^ ) Moglichkeiten, um aus N — M weifien Kugeln genau n — X herauszugreifen. Dies ergibt fiir den Zahler insgesamt (^) ( ^Z^ ) "giinstige" Moghchkeiten. 5.3.3
PoissonVerteilung Zdhlvorgdnge
Die Poisson-Verteilung
Binomial- und hypergeometrisch verteilte Zufallsvariablen zahlen, wie oft bei nmaligem Ziehen aus Urnen oder Grundgesamtheiten ein bestimmtes Ereignis A eintritt. Der Wertebereich ist nach oben durch n begrenzt und somit endlich. Die geometrische Verteilung (Abschnitt 5.2) zahlt, wie lange man warten mufi, bis ein Ereignis A zum erstenmal eintritt. Der Wertebereich ist die Menge N der natiirhchen Zahlen und nicht nach oben begrenzt. Die Poisson-Verteilung eignet sich ebenfalls zur Modellierung von Zdhlvorgdngen. Dabei werden bestimmte Ereignisse gezahlt, die innerhalb eines festen, vorgegebenen Zeitintervalls eintreten konnen. Die mogliche
5.3
261
Spezielle diskrete Verteilungsmodelle
Anzahl der Ereignisse ist gleichfalls nicht nach oben begrenzt. Zugleich soil die Wahrscheinlichkeit, dafi ein Ereignis in einem sehr kleinen Zeitintervall eintritt, ebenfalls sehr klein sein. Beispiele fiir Zahlvorgange dieser Art sind die Anzahl von Schadensmeldungen bei einer Sachversicherung innerhalb eines Jahres, die Anzahl von Krankheitsfallen einer (seltenen) Krankheit in einem Monat, oder die Anzahl von Kunden, die in einem Monat bei einer Bank einen Kredit beantragen, usw. In Abbildung 5.14 sind die Ereignisse auf der Zeitachse durch Sterne markiert. Als Zeitintervall wahlen wir das Einheitsintervall [0,1], was sich durch geeignete Wahl der Zeitskala immer erreichen lafit. P(genau ein Ereignis in At) ^ XAt »|<
9|g
»(<—a{<
i^—»|«
1—»|«-|—a|<
a(<
?|< »t< »|i; a|<
-H
At ABBILDUNG 5.14: Ereignisse im Zeitverlauf Die Markierung durch Sterne auf der Zeitachse unterstellt bereits, dafi Ereignisse zu Zeitpunkten oder innerhalb vernachlassigbar kleiner Zeitspannen auftreten. Dies setzen wir im weiteren voraus. Wir interessieren uns somit fiir die Zufallsvariable X = "Anzahl der Ereignisse, die innerhalb des Intervalls [0,1] eintreten" . Da keine obere Schranke fiir X bekannt oder aber sehr grofi ist, nehmen wir als Wertebereich von X die Zahlen No = {0,1,2,...} an. Falls fiir den Zahlvorgang folgende Annahmen zutreffen, ergibt sich fiir X eine Poisson-Verteilung: 1. Zwei Ereignisse konnen nicht genau gleichzeitig auftreten. 2. Die Wahrscheinlichkeit, dafi ein Ereignis wahrend eines kleinen Zeitintervalls der Lange At stattfindet ist annahernd A At, vgl. Abbildung 5.14. Wenn At klein genug ist, wird diese Wahrscheinlichkeit ebenfalls sehr klein. Die PoissonVerteilung wird deshalb gelegentlich als Verteilung der seltenen Ereignisse bezeichnet. Der Parameter A heifit auch (Intensitats-)Rate. 3. Die Wahrscheinlichkeit fiir das Eintreten einer bestimmten Zahl von Ereignissen in einem Teilintervall hangt nur von dessen Lange /, aber nicht von seiner Lage auf der Zeitachse ab (/i und I2 in Abbildung 5.15). 4. Die Anzahlen von Ereignissen in zwei disjunkten Teilintervallen sind unabhangig (/i und Is in Abbildung 5.15, nicht jedoch I2 und Is).
Annahmen PoissonVerteilung
Verteilung der seltenen Ereignisse
5. Diskrete Zufallsvariablen
262
h I ?|< >|<
»|«—9|«—»!<—H*
^J^_L^ —*M—Ai
H<
At
?)< >|< ?|<>|<
/3
»|<—
I'
ABBILDUNG 5.15: Zu den Annahmen der Poissonverteilung
Ob diese Annahmen - zumindest naherungsweise - in bestimmten Anwendungen erfiillt sind, mu6 kritisch gepriift werden. Falls sie jedoch gelten, ist die Zufallsvariable X Poisson-verteilt.
Poisson-Verteilung
Eine Zufallsvariable X mit der Wahrscheinlichkeitsfunktion
fix) = P{X = x)
fe-\ 0,
ar€{0,l,...} sonst
heiiit Poisson-verteilt mit Parameter (oder Rate) A > 0, kurz X ~ Po{\). gilt E{X)^\, Var(X) = A.
Es
Die Abbildung 5.16 zeigt die Wahrscheinlichkeitshistogramme fiir verschiedene Werte von A. Normalverteilungsapproximation
Approximation der Binomialverteilung
Man erkennt: Je kleiner A ist desto linkssteiler wird die Wahrscheinlichkeitsfunktion und desto grofier werden die Wahrscheinlichkeiten fiir kleine x-Werte. Fiir grofieres A, etwa ab A > 10, wird die Verteilung annahernd symmetrisch und lafit sich durch eine Normalverteilungsdichte approximieren, vgl. dazu Abschnitt 7.2. Die Eigenschaft E{X) = Var{X) = A, also Gleichheit von Erwartungswert und Varianz, ist charakteristisch fiir eine Poisson-verteilte Zahlvariable. Unterscheiden sich bei Zahldaten aus einer empirischen Erhebung x und 5^ deutlich, so ist ein Poisson-Modell ungeeignet. Die Poisson-Verteilung lafit sich auch als Grenzfall der Binomialverteilung ableiten. Dazu nimmt man etwa im Beispiel von Schadensmeldungen bei einer Versicherung an, dafi diese eine grofie Anzahl n von Kunden habe, aber jeder Kunde mit sehr kleiner Wahrscheinhchkeit n einen Schaden in der Zeitperiode (Monat, Jahr) melde. Definiert man A = n7r und lafit (bei festgehaltenem A) n —> oo und n —> 0 gehen, so ergibt sich fiir die Anzahl X von Schadensmeldungen eine Po(A)-Verteilung. Somit kann fiir grofie n und kleine n die 5(n,7r)-Verteilung durch eine Po(A)-Verteilung mit X = n7r approximiert werden.
5.3 Spezielle diskrete Verteilungsmodelle
263
A=l
A = 0.5 0.4 H
0.6 0.5 H
0.3
0.4
0.2
0.3 0.2
0.1
0.1 0
"
1
I
I
I
I
I
I
I
I
I
0 1 2 3 4 5 6 7 8 9
I
'
0
I
I
I
I
I
I
I
I
I
I
'
10
A = 10
A= 5 0.21 0.18-1
0.14 0.12
0.15-1 0.12 0.09 0.06 0.03 0
i
0 1 2 3 4 5 6 7 8 9
10
0.1 0.08 0.04-1
J 0
3
6
a^ 9
12
0.02-1 0 15
J
M^^
0 2 4 6 8 1 0 1 2 1 4 1 6 1 8 20
ABBILDUNG 5.16: Wahrscheinlichkeitshistogramme von Poisson-Verteilungen
Ahnlich wie fiir die Binomialverteilung gilt noch eine Additionseigenschaft:
Addition von unabhangigen Poisson-verteilten Zufallsvariablen
Sind X ~ Po(A), Y ^ Po(/i) und voneinander unabhangig, so gilt X + y - Po{X + fi). Damit lafit sich auch folgendes zeigen:
Poisson-Verteilung fiir Intervalle beliebiger Lange
Falls die Anzahl X von Ereignissen im Einheitsintervall Po(A)-verteilt ist, so ist die Anzahl Z von Ereignissen in einem Intervall der Lange t Poisson-verteilt mit Parameter At, kurz Z ~ Po{Xt).
264
Beispiel 5.17
5. Diskrete Zufallsvariablen
Schadensfalle bei einer Versicherung Eine Riickversicherung will die Pramien fiir Versicherungen gegen Grofiunfalle kalkulieren. Aufgrund von Erfahrungswerten geht sie davon aus, daC die Zufallsvariable X = "Anzahl der Grofiunfalle im Winterhalbjahr (Oktober bis Marz)" Poisson-verteilt ist mit der Rate A = 3. Dagegen wird Y = "Anzahl der Grofiunfalle im Sommerhalbjahr (April bis September)" als Poisson-verteilt mit der Rate /i = 6 betrachtet. Beispielsweise lafit sich damit die Wahrscheinlichkeit flir genau zwei Grofiunfalle in einem Winter bestimmen: P ( X = 2) = e - ^ — = 0 . 2 2 4 0 . Mehr als ein Grofiunfall geschieht im Winter mit der Wahrscheinlichkeit P{X > 2) = 1 - P{X = 0)- P{X = 1)
= ^-^
(o!+l!
= 1-0.1991=0.8009. Diese Wahrscheinlichkeiten lauten im Sommerhalbjahr 0.044 fiir genau zwei bzw. 0.983 fiir mindestens zwei Unfalle: P ( y = 2) = 6 - ^ ^ = 0 . 0 4 4 , P{Y > 2) = 1 - P(V = 0) - P(Y = 1) fi/6°
6i\
= 1 - e - M -j- + — J = 1 - 0.01735 = 0.9826. Wegen E{X) = A = 3 und E{Y) = // = 6 sind mit drei Unfallen im Winter weniger Unfalle als im Sommer zu erwarten. Da man annehmen kann, dafi Unfalle im Sommer und im Winter in keinem Zusammenhang stehen, konnen ferner die Zufallsvariablen X und Y als unabhdngig behandelt werden. Die Wahrscheinlichkeit, dafi sowohl im Winter als auch im Sommer mehr als zwei Unfalle geschehen, betragt dann mit Hilfe der Rechenregeln fiir unabhangige Zufallsvariablen P{X > 2, y > 2) = P{X > 2 ) . P{Y > 2) = 0.8009 • 0.9826 = 0.7870, also ca. 79%. Betrachtet man nun die Anzahl Z der Grofiunfalle in einem ganzen Jahr, so gilt Z = X + Y und wiederum wegen der Unabhangigkeit von X und Y ist Z Poisson-verteilt mit Rate A-h/i = 3 + 6 = 9. D
5.4
Zusammenfassung und Bemerkungen
Schreibweise:
265
Binomialverteilung Hypergeometrische Verteilung Poissonverteilung Geometrische Verteilung
X X X X
^ ~ ~ ~
B{n^ TT) H{n, N^ M) Po{\) G(7r)
Dichte
Verteilung X-5(n,7r) [^ 0
' Xr^H{n,N,M)
f{x)=<
E{X)
Var(X)
nn
n7r(l — TT)
''' N
M ( i V - M ) (iV-n) '''N N (N-l)
A
A
1
l-TT
TT
7r2
sonst
fM\fN-M\ \rr/\ n —X j \ / \ /
f,*;^ ^ _ n 1
„
(;) ^ 0 {n<M,n<M X - Po(A)
/(.) = ( ^ ^ " (^ 0
sonst -N) m r . = 0,1,2,... sonst
(A>0) X ~ G(7r)
i«/ N
( (l-7Ty-\ \^ 0 (0 < TT < 1)
fura: = 1,2,3,... sonst
TABELLE 5.1: Spezielle diskrete Verteilungen mit ihren Dichten, Erwartungswerten und Varianzen
5.4
Zusammenfassung und Bemerkungen
Definitionen, Eigenschaften und Rechenregeln fiir diskrete Zufallsvariablen entsprechen formal weitgehend Begriffen und Ergebnissen fiir empirische Verteilungen von Haufigkeitsdaten von Kapitel 2. Dabei sind die relativen Haufigkeiten / i , . . . , /fc fiir Auspragungen a i , . . . , a/^ durch die Watirscheinlichkeiten p i , . . . , p / . , . . . fiir die moglichen Werte x i , . . . , x/.,... zu ersetzen. Trotz der formalen Ahnlichkeiten sind jedoch Funktion und Interpretation deutlich zu unterscheiden: Die relative Haufigkeitsverteilung und daraus abgeleitete Begriffe wie arithmetisches Mittel und empirische Varianz beschreiben die Verteilung von Daten. Dagegen wird durch die Wahrscheinlichkeitsverteilung^ den Erwartungswert und die Varianz das Verhalten einer Zufallsvariable charakterisiert. Der zugrundeliegende Zufallsvorgang mu6 dazu nicht durchgefiihrt werden, so da6 auch keine Daten vorliegen. Der Zusammenhang zwischen empirischen Verteilungen und Wahrscheinlichkeitsverteilungen lafit sich jedoch iiber die Haufigkeitsinterpretation von Wahrscheinhchkeiten herstellen: Wenn
5. Diskrete Zufallsvariablen
266
der Zufallsvorgang n-mal unabhangig wiederholt wird, nahern sich mit wachsendem n die empirische Verteilung der resultierenden Daten x i , . . . ,Xn, das arithmetische Mittel und die empirische Varianz der Wahrscheinlichkeitsverteilung der Zufallsvariable X, ihrem Erwartungswert und ihrer Varianz immer besser an. Formalisiert wird dieser Zusammenhang erst durch Gesetze groi3er Zahlen in Abschnitt 7.1. In Tabelle 5.1 sind die in diesem Kapitel behandelten diskreten Verteilungsmodelle zusammengefafit. Diese speziellen diskreten Verteilungen sind vor allem zur Modellierung von Zahlvorgangen geeignet. In Abbildung 5.17 wird dies nochmals aufgezeigt. Die Pfeile weisen dabei auf Beziehungen zwischen den Verteilungen bzw. Zufallsvariablen hin. Die hier dargestellten diskreten Verteilungsmodelle sind zwar am bekanntesten und werden entsprechend haufig eingesetzt. Trotzdem sind sie nicht in jeder Anwendung zur Modellierung geeignet, sondern es werden oft flexiblere, aber auch kompliziertere Verteilungen bendtigt. Fiir eine umfassende Darstellung verweisen wir auf das Naehschlagewerk von Johnson, Kotz und Kemp (1993).
Anzahl des Eintretens von A in n Versuchen
5(n,7r) Modell mit Zurlicklegen unabhangige Wiederholungen
n/N klein
Grenzfall nn = A, n -^ oo, TT —> 0 G{n)
Po(A)
Anzahl der Versuche Anzahl der beobachteten bis zum Eintreten Ereignisse in einem von A Zeitintervall
ABBILDUNG
5.17: Diskrete Verteilungsmodelle
H{n,M,N) Modell ohne Zuriicklegen
5.5 Aufgaben
5.5
267
Aufgaben
Sie und Ihr Freund werfen je einen fairen Wiirfel. Derjenige, der die kleinere Zahl wirft, zahlt an den anderen so viele Geldeinheiten, wie die Differenz der Augenzahlen betragt. Die Zufallsvariable X beschreibt Ihren Gewinn, wobei ein negativer Gewinn fiir Ihren Verlust steht. (a) Bestimmen Sie die Wahrscheinlichkeitsfunktion von X und berechnen Sie den Erwartungswert. (b) Falls Sie beide die gleiche Zahl wiirfeln, wird der Vorgang noch einmal wiederholt, aber die Auszahlungen verdoppeln sich. Wiirfeln Sie wieder die gleiche Zahl, ist das Spiel beendet. Geben Sie fiir das modifizierte Spiel die Wahrscheinlichkeitsfunktion von Y fiir Ihren Gewinn bzw. Verlust an.
Aufgabe 5.1
Ein Student, der keine Zeit hat, sich auf einen 20-Fragen-Multiple-Choice-Test vorzubereiten, beschliefit, bei jeder Frage aufs Geratewohl zu raten. Dabei besitzt jede Frage fiinf Antwortmoglichkeiten. (a) Welche Verteilung hat die Zufallsvariable, die die Anzahl der richtigen Antworten angibt? Wieviele Fragen wird der Student im Mittel richtig beantworten? (b) Der Test gilt als bestanden, wenn 10 Fragen richtig beantwortet sind. Wie grofi ist die Wahrscheinlichkeit des Studenten, den Test zu bestehen? Wo miifite die Grenze liegen, wenn die Chance des Studenten, die Klausur durch Raten zu bestehen, grofier als 5% sein soil?
Aufgabe 5.2
Berechnen Sie den Erwartungswert und die Varianz der diskreten Gleichverteilung auf dem Trager T = {a, a + 1, a + 2 , . . . , 6 - 2,6 - 1,6}.
Aufgabe 5.3
Sind die beiden Zufallsvariablen X und Y, die die Augensumme bzw. die Differenz beim Werfen zweier fairer Wiirfel angeben, unabhangig?
Aufgabe 5.4
Zeigen Sie fiir zwei unabhangige binare Zufallsvariablen X ~ 5 ( 1 , TT) und Y ~ B{l,p) Linearitat von Erwartungswert und Varianz:
die
Aufgabe 5.5
Bestimmen Sie den Median der geometrischen Verteilung mit dem Parameter TT = 0.5. Vergleichen Sie Ihr Resultat mit dem Erwartungswert dieser Verteilung. Was folgt gemai3 der Lageregel fiir die Gestalt des Wahrscheinlichkeitshistogramms? Skizzieren Sie das Wahrscheinlichkeitshistogramm, um Ihre Aussage zu iiberpriifen.
Aufgabe 5.6
E{X -\-Y)= E{X) + E{Y),
Var{X + Y) = Var{X) + Var{Y)
,
sowie die Produktregel fiir Erwartungswerte:
E{X . Y) = E{X)' E{Y)
268
5. Diskrete Zufallsvariablen
Aufgabe 5.7
Welche Verteilungen besitzen die folgenden Zufallsvariablen: Xi = Anzahl der Richtigen beim Lotto "6 aus 49". X2 = Anzahl der Richtigen beim Fufiballtoto wenn alle Spiele wegen unbespielbarem Platz ausfalien und die Ergebnisse per Los ermittelt werden. X3 = Anzahl von Telephonanrufen in einer Auskunftstelle wahrend einer Stunde. In einer Urne mit 100 Kugeln befinden sich 5 rote Kugeln: X4 = Anzahl der roten Kugeln in der Stichprobe, wenn 10 Kugeln auf einen Schlag entnommen werden. Xs = Anzahl der Studenten, die den Unterschied zwischen der Binomial- und der Hypergeometrischen Verteilung verstanden haben, unter 10 zufallig ausgewahlten Horern einer Statistikveranstaltung, an der 50 Studenten teilnehmen. XQ = Stiickzahl eines selten gebrauchten Produkts, das bei einer Lieferfirma an einem Tag nachgefragt wird.
Aufgabe 5.8
Bei einem Fufiballspiel kommt es nach einem Unentschieden zum Elfmeterschiefien. Zunachst werden von jeder Mannschaft fiinf Elfmeter geschossen, wobei eine Mannschaft gewinnt, falls sie haufiger getroffen hat als die andere. Nehmen Sie an, dafi die einzelnen Schiisse unabhangig voneinander sind und jeder Schiitze mit einer Wahrscheinlichkeit von 0.8 trifft. Wie grofi ist die Wahrscheinlichkeit, dafi es nach zehn Schiissen (fiinf pro Mannschaft) zu einer Entscheidung kommt?
Aufgabe 5.9
Aus Erfahrung weifi man, dafi die Wahrscheinlichkeit dafiir, dafi bei einem Digitalcomputer eines bestimmten Typus wahrend 12 Stunden kein Fehler auftritt, 0.7788 betragt. (a) Welche Verteilung eignet sich zur naherungsweisen Beschreibung der Zufallsvariable X = "Anzahl der Fehler, die wahrend 12 Stunden auftreten"? (b) Man bestimme die Wahrscheinlichkeit dafiir, dafi wahrend 12 Stunden mindestens zwei Fehler auftreten. (c) Wie grofi ist die Wahrscheinlichkeit, dafi bei vier (voneinander unabhangigen) Digitalcomputern desselben Typus wahrend 12 Stunden genau ein Fehler auftritt?
Aufgabe 5.10
Von den 20 Verkauferinnen eines mittelgrofien Geschaftes sind vier mit langeren Ladenoffnungszeiten einverstanden. Ein Journalist befragt fiir eine Dokumentation der Einstellung zu einer Anderung der Offnungszeiten fiinf Angestellte, die er zufallig auswahlt. Wie grofi ist die Wahrscheinlichkeit, dafi sich keine der Befragten fiir langere Offnungszeiten ausspricht? Mit welcher Wahrscheinlichkeit sind genau bzw. mindestens zwei der ausgewahlten Angestellten bereit, langer zu arbeiten?
Stetige Zufallsvariablen
6.1
Definition und Verteilung
Eine Variable oder ein Merkmal X heifit stetig^ falls zu zwei Werten a
stetige Zufallsvariable
6. Stetige Zufallsvariablen
270
ABBILDUNG 6.1: Gliicksrad
0.1-
0 0.1 0.210.3 0.4 0.5 0.6 0.7 0.8 0.9 X
ABBILDUNG 6.2: Wahrscheinlichkeitshistogramm zum Gliicksrad
die Flache iiber jedem Teilintervall der Lange 0.1 gleich der Wahrscheinlichkeit 0.1 fiir die jeweiligen Sektoren. Entsprechend ist die Wahrscheinlichkeit, dafi einer der Sektoren 3,4, 5 oder 6 vor der Markierung stehen bleibt, gleich der Flache iiber dem Intervall [0.2,0.6], also gleich 0.4. Unterteilt man das Gliicksrad bzw. das Intervall feiner, z.B. in 100 Teilintervalle der Lange 0.01, so werden zwar die Flachen iiber diesen Teilintervallen gleich 1/100. Die Flache 0.4 iiber dem Intervall [0.2,0.6] ist jedoch weiter die Wahrscheinhchkeit, dafi einer der Teilsektoren zwischen 0.2 und 0.6 vor der Markierung zum Stehen kommt. Betrachtet man nun als Zufallsergebnis die genaue Zahl X aus [0,1] worauf die Markierung zeigt, so wird dadurch eine stetige Zufallsvariable X mit Werten aus [0,1] definiert. Die Wahrscheinhchkeit P(0.2 <X< 0.6) ist weiter die Flache 0.4 zwischen dem Intervall [0.2,0.6] und der stetigen Funktion f{x) = 1. AUgemeiner ist P{a <X
6.1
Definition und Verteiiung
271
geben. Fiir Intervalle [a, b] und [c, d] mit unterschiedlicher Lage, aber gleicher Lange b — a = c —d ergeben sich gleiche Wahrscheinlichkeiten P{a <X
Die Festlegung von Wahrscheinlichkeiten durch Flachen unter einer nichtnegativen Funktion f{x) lafit sich in gleicher Weise fiir andere Verteilungsformen als die Gleichverteilung veranschaulichen. In Abbildung 6.3 ist das Wahrscheinlichkeitshistogramm einer diskreten Zufallsvariable Xd gegeben.
Nichtnegativitdt
ABBILDUNG 6.3: Dichte und approximierendes Wahrscheinlichkeitshistogramm
Die Axi. null Das P{a
moglichen Werte seien die Klassenmitten Xi der i-ten Klasse mit der Lange Die Rechtecksflache iiber Axi ist gleich P{Xd = Xi) = f{xi)Axi. Fiir gegen gehende Klassenbreiten Axi geht Xd iiber in eine stetige Zufallsvariable X. Histogramm geht iiber in eine stetige Kurve f{x) mit der Eigenschaft, dafi < X
Fiir Axi —> 0 geht auch die Flache der zugehorigen Rechtecke iiber [a, b] gegen diese Flache, so dafi auch P{a <Xd
Dichtefunktion
272
6. Stetige Zufallsvariablen
Stetige Zufallsvariablen und Dichten
Eine Zufallsvariable X heifit stetig^ wenn es eine Funktion f{x) > 0 gibt, so dafi fiir jedes Intervail [a, b]
P{a<X
gilt. Die Funktion f{x) heifit (Wahrscheinlichkeits-)
Dichte von X.
Somit ist fiir jede stetige Zufallsvariable die Wahrscheinlichkeit P{a <X
Wahrscheinlichkeiten stetiger Zufallsvariablen Fiir stetige Zufallsvariablen X gilt P{a <X
=
P{a<X
und
P(X = x) = 0 fiir jedes x
en.
Obwohl die zweite Eigenschaft aus der Definition mathematisch ableitbar ist, verwundert sie doch auf den ersten Blick. Sie lafit sich aber auch intuitiv nachvoUziehen: Fiir das Gliicksrad gilt P(0.29 <X < 0.31) = 0.02, P(0.299 <X < 0.301) = 0.002, P(0.2999 <X< 0.3001) = 0.0002 usw. Die Wahrscheinlichkeit P{X = 0.3) dafiir, dafi X exakt gleich 0.3 ist, mufi deshalb gleich null sein. Positive Wahrscheinlichkeiten konnen sich nur fiir - moglicherweise kleine - Intervalle um x ergeben. Da —GO < X < +00 sicher eintritt, mufi P(—oo < X < +oo) = 1 sein. Somit gilt fiir jede Dichte neben der Nichtnegativitat die
6.1 Definition und Verteilung
273
Normierungseigenschaft /•+00
/
f{x)dx = 1,
J—oo
d.h. die Gesamtflache zwischen x-Achse und der Dichte
m ist gleich 1.
Die Dichte f{x) einer stetigen Zufallsvariable mu6 nicht fiir alle x grofier als null sein. Wir nennen wie bei der Wahrscheinlichkeitsfunktion die Menge der x-Werte, fiir die f{x) > 0 ist, den Trdger T = {x : f{x) > 0}. Die auftretenden Integrationen erstrecken sich dann tatsachlich nur liber Bereiche von T, vergleiche die Beispiele 6.1 (Seite 275) und 6.2 (Seite 278). Die Dichte f{x) besitzt einige Analogien zur Wahrscheinlichkeitsfunktion einer diskreten Zufallsvariable. Deshalb wird auch die gleiche Bezeichnung verwendet. Ein wesentlicher Unterschied ist jedoch, dafi die Werte f{x) einer stetigen Dichte keine Wahrscheinlichkeiten sind. Somit konnen Dichten auch Werte f{x)>l annehmen. Aus der Definition von Dichten erhalt man fiir die Verteilungsfunktion F{x) = P{X <x) = P{—oo < X <x) sofort folgende Beziehung:
Verteilungsfunktion einer stetigen Zufallsvariable
F{x) = P{X <x)=
r
f{t)dt
J—oo
Die Verteilungsfunktion einer stetigen Zufallsvariable ist also das unbestimmte Integral der Dichte, d.h. die Gesamtflache zwischen dem Teil der a:-Achse hnks vom Wert X und der dariiberliegenden Dichte, vgl. Abbildung 6.4. Diese Beziehung ist das stetige Analogon zur Beziehung Fix) = Y^
f{xi)
Xi<X
im diskreten Fall. In der Darstellung durch ein Wahrscheinlichkeitshistogramm wie in Abbildung 6.3 erhalt man F{x) durch Summation der Rechtecksflachen bis x. Der Grenziibergang liefert die obige Integrationsbeziehung. Aus der Definition der Verteilungsfunktion folgen mittels der Axiome und Rechenregeln fiir Wahrscheinlichkeiten die folgenden Eigenschaften.
Trdger
Dichte ist keine Wahrscheinlichkeit
6. Stetige Zufallsvariablen
274
fiM
ABBILDUNG 6.4: Dichte und Verteilungsfunktion einer stetigen Zufallsvariable
Eigenschaften der Verteilungsfunktion einer stetigen Zufallsvariable
1. F{x) ist stetig und monoton wachsend mit Werten im Intervall [0,1]. 2. Fiir die Grenzen gilt F(-oo) =
lim X
F(+oo) =
F{x) = 0,
>• — O O
lim
F(x) = 1.
X—>-H-oo
3. Fiir Werte von x, an denen f{x) stetig ist, gilt
d.h. die Dichte ist die Ableitung der Verteilungsfunktion. 4. Fiir Intervalle erhalt man P{a<X
Die erste Eigenschaft folgt aus den Axiomen von Kolmogoroff und der Definition von F{x). F ( - o o ) = 0 gilt wegen P{X < x) —> 0 fiir x —> - o o (unmogliches Ereignis), und F(+oo) = 1 ist die Wahrscheinlichkeit fiir das sichere Ereignis. Die Eigenschaften 3 und 4 folgen direkt aus den Definitionen.
6.1 Definition und Verteilung
275
Unabhangigkeit von stetigen Zufallsvariablen
Um die Unabhangigkeit von stetigen Zufallsvariablen zu definieren, libertragt man, ahnlich wie im diskreten Fall, das Konzept der Unabhangigkeit von Ereignissen, indem man etwa fiir zwei Zufallsvariablen X und Y alle Ereignisse der Form {X <x} und {Y < y} als unabhangig fordert. Dies fiihrt zur folgenden Definition: Unabhangigkeit von stetigen Zufallsvariablen
Zwei stetige Zufallsvariablen X und Y sind unabhangig^ wenn fiir alle x eH und 2/ € R P{X <x,Y
= P{X<x)-
P{Y
gilt. Dabei ist Fx bzw. Fy die Verteilungsfunktion von X bzw. Y. AUgemeiner sind die stetigen Zufallsvariablen X i , . . . , Xn unabhangig, wenn fiir a:i,...,Xn€R P{X
<Xi,,,,,Xn<Xn)=
P{Xi
< Xi) • . . . . P{Xn
< Xn)
gilt. Es lafit sich - wiederum in Analogie zum diskreten Fall - zeigen, dafi aus dieser Definition auch die Unabhangigkeit von allgemeineren durch die Zufallsvariablen definierten Ereignissen folgt: Falls X i , . . . , X^ unabhangig sind, so gilt fiir behebige zulassige Ereignisse ^ i , . . . , An-, insbesondere fiir Intervalle [ai, fei],..., [a^, bn], P{Xi G A i , . . . , X , G A,) = P(Xi G Ai) . . . . . P{Xn G An). Stetige Gleichverteilung
Beispiel 6.1
Die stetige Zufallsvariable X = "Stelle des Gliicksrads, auf die der Pfeil zeigt" heifit auf dem Intervall [0,1] gleich- (oder gleichmafiig) verteilt, da fiir Intervalle gleicher Lange P{a<X
gilt. Die Dichte ist bestimmt durch
/W
1, 0 < x < l 0, sonst.
Die Verteilungsfunktion ergibt sich sofort zu F{x) =
0, X, 1,
x<0 0<x
d)
6. Stetige Zufallsvariablen
276
Fixo)
6.5: Dichte und Verteilungsfunktion einer auf [0,1] gleichverteilten Zufallsvariable
ABBILDUNG
Gleichverteilte stetige Zufallsvariablen sind auch in anderen Situationen brauchbare Modelle fiir Zufallsvorgange. Ein - in Variationen - oft verwendetes Beispiel ist das folgende: Ein Tourist kommt am Flughafen Miinchen-Erding an. Er mochte mit der Airport-Linie S8, die normalerweise regelmafiig alle 20 Minuten abfahrt, zum Marienplatz. Da er den Fahrplan nicht kennt, geht er nach der Gepackabfertigung und dem Kauf eines Fahrscheins zum SBahnsteig und wartet auf die nachste Abfahrt. Die Wartezeit (in Minuten) X auf die nachste Abfahrt kann dann als Zufallsvariable mit Werten im Intervall [0,20] interpretiert werden. Da der Tourist "rein zufaUig" ankommt, ist es plausibel, X als gleichverteilt auf [0,20] anzunehmen, d.h. die Wahrscheinhchkeiten fiir gleichlange TeiUntervalle, etwa 0 < X < 5 und 10 < X < 15, sind gleich grofi. Dies wird durch eine liber [0,20] konstante Dichte f{x) = fc > 0 erreicht. Wegen der Normierungseigenschaft mufi fc • 20 = 1, also k = 1/20 gelten. Damit ist /(x)=.
20 '
0 ,
0 < X < 20 sonst
die Dichte einer auf dem Intervall [0,20] gleichverteilten Zufallsvariable. Die Verteilungsfunktion F{x) ergibt sich fiir 0 < x < 20 aus
FM=/;y(.)..=/'±.*=i. Also ist X<0
F{x)
20-"
1
0 < X < 20 x>20.
Fiir eine Wartezeit von hochstens x Minuten erhalt man somit P{X < x) = x/20, d.h. die Wahrscheinlichkeit ist proportional zur Dauer x. D Ahnliche Situationen treten auch bei anderen Transport- oder Bedienungssystemen auf. Bei der Produktion grofierer Systeme oder Cerate arbeiten Maschinen oft
6.1
277
Definition und Verteilung
in einer Fertigungslinie. Eine Maschine benotige zur Anfertigung eines bestimmten Teils eine feste Bearbeitungszeit von d Zeiteinheiten. Nach Beendigung des Auftrags werden die Teile in einem "Puffer" oder Lager abgelegt. Dort werden die Teile zu zufalligen Zeiten von der nachsten Maschine der Linie oder durch eine externe Nachfrage abgeholt. Um kostengiinstig zu arbeiten, sind stets nur wenig Teile im Puffer, manchmal ist das Puffer auch leer. Im letzteren Fall ist fiir die Wartezeit X, bis das Puffer wieder ein Teil enthalt und die Nachfrage befriedigt werden kann, die Annahme einer Gleichverteilung auf [0, d] eine plausible Modellvorstellung. Dies gilt in analoger Weise fiir Kunden, die zufallig vor einem Bedienungssystem oder "Schalter" eintreffen, an dem gerade ein Auftrag bearbeitet wird. Die allgemeine Definition fiir eine stetige Gleichverteilung ist:
Stetige Gleichverteilung Eine stetige Zufallsvariable heiiSt gleichverteilt auf dem Intervall [a, 6], wenn sie eine Dichte f{\-.j 6=^ f^^ a<x
F{x) = r mdt = r J-oo
-i-dt=^,
Ja 0-a
b-a
Fiir X < a ist F{x) = 0 und fm x>b ist F{x) = 1. Also ist 0 , X
n^)={
fEf, 1 ,
a<xb.
Die Dichte ist an den Stellen x = a und x = b unstetig, die Verteilungsfunktion weist Knickpunkte auf, ist also dort nicht differenzierbar. An alien anderen Stellen X ist F{x) differenzierbar, f{x) ist stetig, und es gilt
F'ix) = f(x).
Verteilungsfunktion
6. Stetige Zufallsvariablen
278
1
.
1
/F{X)
m
1 _ b—a
y 1
•-
X
6.6: Dichte und Verteilungsfunktion einer auf [a, 6] gleichverteilten Zufallsvariable
ABBILDUNG
Beispiel 6.2
Abweichungen vom Sollwert Bei der Produktion von Kolben fiir Zylinder wird duch die Art der Herstellung garantiert, da6 Abweichungen des Durchmessers nach oben oder unten hochstens gleich einem Wert d sind. Zur Vereinfachung setzen wir im weiteren d=l. Interpretieren wir die in der laufenden Produktion auftretenden Abweichungen als ReaHsierungen einer Zufallsvariable, so besitzen allerdings Abweichungen um 0 normalerweise eine deutlich grofiere Wahrscheinlichkeit als Abweichungen, die weiter von 0 entfernt sind. Das Modell einer Gleichverteilung fiir die Abweichungen ist daher nicht sinnvoU. Wenn diese Wahrscheinlichkeiten fiir ± 1 gegen null gehen und die Abweichungen um 0 nach oben und unten symmetrisch sind, so konnte eine konkave Parabel f{x) — ax^ + 6x + c, die ihr Maximum fiir x = 0 annimmt und fiir die /(—l) = / ( 4 - l ) = 0 gilt, eine geeignete Dichte fiir die Verteilung der Zufallsvariable X = "Abweichung vom Sollwert" sein. Die Parameter a^h.c von j{x) sind dabei so festzulegen, dafi /(—I) = / ( + 1 ) = 0 gilt und die Gesamtfiache unter j{x) = 1 ist, so daC f{x) eine Dichte ist. Aus / ( I ) = 0 folgt a + 6 + c = 0, aus / ( - I ) = 0 folgt a — 6 + c = 0. Addition der beiden Gleichungen ergibt 2a + 2c = 0 und somit c = —a. Aus a + 6 — a = 0 folgt dann 6 = 0. Um die Normierungseigenschaften zu erfiillen, mufi .+1
+1
ax^ — a)dx = a
3
__4 37~~3^'
also a = — I gelten. Die gewiinschte Dichte ist also (Abbildung 6.7)
Die Verteilungsfunktion F{x) ergibt sich durch Integration: 1 3 J—oo
^
J-1
3
1
6.1
279
Definition und Verteilung
F{x) ist an alien Stellen differenzierbar, und f{x) = F'{x) ist stetig.
F{x) 1-
/(^)
13
3 4
•
1 2/ /
/
1
X
^ ' A
^
1 •^"^""^
-1 ABBILDUNG
4 1 — • "
-1 6.7: Dichte und Verteilungsfunktion der Abweichungen vom Soll-
wert Wenn wir nun zehn Kolben aus der laufenden Produktion herausgreifen, wie grofi ist dann die Wahrscheinlichkeit, dafi alle zehn Abweichungen zwischen —0.8 und +0.8 liegen? Wenn wir annehmen, dafi die Abweichungen Xi, X 2 , . . . , X^ unabhangig und unter gleichen Bedingungen durch die Maschine produziert wurden, so gilt P ( - 0 . 8 < Xi < 0.8, - 0 . 8 < X2 < 0 . 8 , . . . , - 0 . 8 < Xio < 0.8) = P ( - 0 . 8 < Xi < 0.8) . P ( - 0 . 8 < X2 < 0.8) . . . . . P ( - 0 . 8 < Xio < 0.8) =
a
0.8 o
>! 10
U\-x^)dx\
.
Damit erhalt man flir die gesuchte Wahrscheinlichkeit 0.8
10
= 0.5619. -0.8
In beiden Beispielen war der Wertebereich von X ein endhches Intervall. Im nachsten Beipiel betrachten wir eine stetige Zufallsvariable X mit nichtnegativen, nach oben nicht beschrankten Werten. D
Exponentialverteilung
In Abschnitt 5.2.1 hatten wir die geometrische Verteilung als mogliches Modell flir eine in diskreten Zeitabstanden gemessene Lebensdauer oder Wartezeit abgeleitet. Die Exponentialverteilung ist das stetige Analogon zur geometrischen Verteilung, wenn man die Lebensdauer oder Wartezeit bis zu einem bestimmten Ereignis als stetige Zufallsvariable auffafit. Dementsprechend wird die Exponentialverteilung angewandt
Exponentialverteilung geometrische Verteilung
6. Stetige Zufallsvariablen
280
Lebensdauerverteilung
Geddchtnislosigkeit
zur Modellierung von Dauern, bei denen die Zeit - zumindest approximativ - stetig gemessen wird, etwa die Lebensdauer von Produkten oder technischen Systemen, die Zeit bis zur nachsten Schadensmeldung bei einer Sachversicherung, die Bearbeitungszeit von Kundenauftragen oder die Uberlebenszeit nach einer Operation. Ahnlich wie die geometrische Verteilung ist die Exponentialverteilung nur dann als Lebensdauerverteilung geeignet, wenn folgende Voraussetzung erfiillt ist: Fiir jeden Zeitpunkt t hangt die noch verbleibende Lebensdauer nicht von der bereits bis t verstrichenen Lebensdauer ab. Dies entspricht der Voraussetzung der Unabhangigkeit der einzelnen Versuche bei der geometrischen Verteilung. Fiir ein technisches System heifit das etwa, dafi dieses nicht altert, also die Ausfallwahrscheinlichkeit unabhangig vom Alter immer gleich grofi ist. Man spricht deshalb auch von Geddchtnislosigkeit der Exponentialverteilung. Die Definition lautet folgendermafien: Exponentialverteilung
Eine stetige Zufallsvariable X mit nichtnegativen Werten heiiit exponentialverteilt mit dem Parameter A > 0, kurz X ^ Ex{\)^ wenn sie die Dichte Ae"-^^ fiir 0 fiir
m=
x>0 x<0
besitzt. Die zugehorige Verteilung heifit Exponentialverteilung A.
Verteilungsfunktion
Der Parameter A steuert, wie schnell die Exponentialfunktion fiir x geht. Die Flache unter f{x) ist immer gleich 1. Die Verteilungsfunktion ergibt sich durch Integration zu F{x) =
Grenzfall der geometrischen Verteilung
mit Parameter
1 - e"^^ 0
oo gegen 0
fiir x>0 fiir X < 0 .
Abbildung 6.8 zeigt Dichten und Verteilungsfunktion fiir verschiedene Werte von A. Je grofier der Parameter A ist, desto schneller geht die Dichte fiir x —> oo gegen 0 und die Verteilungsfunktion gegen 1. Wir zeigen noch, wie sich die Exponentialverteilung als Grenzfall der geometrischen Verteilung ergibt. Dazu teilen wir die Zeitachse zunachst in Zeitintervalle der Lange 1 ein und halbieren diese Zeitintervalle laufend. -^-F
-+-+•
-+—f
-^—f
6.1
Definition und Verteilung
281
0.0 H
ABBILDUNG 6.8: Dichte und Verteilungsfunktion der Exponentialverteilung fiir A = 0.5 (•-), A = 1 . 0 ( ) und A = 2.0 ( )
Sei n = P{A) die Wahrscheinlichkeit fiir den Eintritt des Ereignisses A, das die diskrete) Wartezeit beendet, in einem Zeitintervall der Lange 1. Mit der laufenden /erfeinerung durch Halbierung der Zeitintervalle sollen die Wahrscheinlichkeiten entsprechend kleiner werden: 7r/2,7r/4,..., 7r/n,... usw. Man erhalt dann fiir festes x auf dem Zahlengitter von Intervallen der Lange 1/n
P ( X > x) = (1 - - ) ^ ^ n
n-1,2,,
Der Grenziibergang n —> oo liefert
P{X >x) = e-^^ , P{X <x) =
l-e-
und mit n = X die Exponentialverteilung. Die Exponentialverteilung steht auch in engem Zusammenhang zur PoissonVerteilung (vgl. Abschnitt 5.3.3, insbesondere Abbildung 5.14): Die Anzahl von Ereignissen in einem Zeitintervall ist genau dann Po(A)-verteilt, wenn die Zeitdauern zwischen aufeinanderfolgenden Ereignissen unabhangig und exponentialverteilt mit Parameter A sind.
PoissonVerteilung
6. Stetige Zufallsvariablen
282
6.2
Lageparameter, Quantiie und Varianz von stetigen Zufallsvariablen
Da wir nur stetige Zufallsvariablen behandeln, die metrisch skaliert sind, sind alle Lageparameter sowie die Quantiie und die Varianz sinnvoll definiert.
Erwartungswert
Zur Definition des Erwartungswertes betrachten wir den Grenziibergang von einer approximierenden diskreten Zufallsvariable Xd zu einer stetigen Zufallsvariable X wie bei der Definition der Dichte f{x). Wir unterteilen wieder den Wertebereich von X in gleich grofie Intervalle [ci_i,Ci] der Lange Axi mit Klassenmitten Xi und approximieren die Dichte f{x) durch ein Wahrscheinlichkeitshistogramm mit Rechtecken der Flache pi = f{xi)Axi iiber den Klassenmitten, siehe Abbildung 6.9. Dazu definieren wir die diskrete Zufallsvariable Xd mit Werten Xi und der Wahrscheinlichkeitsverteilung pi. Fiir kleine Axi ist dann pi ^ P ( Q _ I < X < Q ) , und Xd kann als Approximation der stetigen Zufallsvariable X aufgefafit werden.
ABBILDUNG 6.9: Dichte von X und approximierendes Histogramm von Xd
Fiir den Erwartungswert von Xd gilt E(Xd) = ^Xipi
=
Y^Xif{xi)Axi
6.2
Lageparameter, Quantile und Varianz von stetigen Zufallsvariablen
283
Verkleinert man die Intervallangen Axi^ so wird die Approximation von X durch Xd besser. Der (heuristische) Grenziibergang Axi —> 0 fiir alle Intervalle liefert H-oo -hoo
/
Xf{x)d: -oo
Deshalb definiert man die rechte Seite als den Erwartungswert einer stetigen Zufalls variable. Erwartungswert
Der Erwartungswert E{X) einer stetigen Zufallsvariable X mit Dichte /(x) ist r»+00
xf{x)dx. -oo
Falls der Trager T = {x \ f{x) > 0} nur aus einem endlichen Intervall besteht, durchlauft x nur diesen Bereich und E{X) ist endlich. Falls dies nicht gilt, wie etwa fiir T = [0, oo) oder T = R, ist |£'(X)| < oo nicht generell gewahrleistet, sondern mui3 im folgenden vorausgesetzt werden. Wie bei unendlich-diskreten Zufallsvariablen setzt man sogar mehr voraus, namlich, dafi J \x\f{x)dx < oo ist. Interpretation und Eigenschaften von Erwartungswerten lassen sich vom diskreten auf den stetigen Fall ohne wesentliche Anderung iibertragen. Wir fassen die Eigenschaften nochmals zusammen, verzichten aber auf Beweise, die teils in Analogic zum diskreten Fall gefiihrt werden konnen.
6. Stetige Zufallsvariablen
284
Eigenschaften von Erwartungswerten
1. Transformationen: Sei g{x) eine reelle Funktion. Dann gilt fiir Y = g{X) +00
-hoo /
9{x)f{x)dx. -OO
2. Lineare Transformationen: FiiTY = aX + b ist E{Y) = E{aX + b) = aE{X) + b. 3. Symmetrische Verteilungen: Ist die Dichte f{x) symmetrisch um den Punkt c, d.h. ist / ( c — x) = f{x + c) fiir alle x^ so gilt E{X) = c, 4. Additivitat: Fiir zwei Zufallsvariablen X und Y ist E{X + y ) = E{X) +
E{Y).
5. AUgemeiner gilt mit beliebigen Konstanten a i , . . . , a^ E{aiXi + . . . + anXn) = aiE{Xi)
+ . . . + an£;(X^).
Linearitdt Additivitdt
Diese Eigenschaften erleichtern oft die Berechnung von Erwartungswerten. Die Eigenschaften 2,4 und 5 nennt man zusammen Linearitdt und Additivitdt des Erwartungswertes.
Beispiel 6.3
Stetige Gleichverteilung
Sei X wie in Beispiel 6.1 (Seite 275) auf [a, 6] gleichverteilt. Dann ist 2(6-a)
also E{X) =
a-\-b
Dieses Ergebnis hatten wir auch ohne Integration aus der Symmterieeigenschaft erhalten konnen: Der Mittelpunkt (a-h6)/2 des Intervalls [a, 6] ist Symmetriepunkt der Gleichverteilung.
6.2
Lageparameter, Quantile und Varianz von. stetigen Zufallsvariablen
285
Fiir das Beispiel der Wartezeit auf die nachste S-Bahn ist also die zu erwartende Wartezeit gleich 10 Minuten. D
Beispiel 6.4
Abweichungen vom Sollwert Der Erwartungswert der Zufallsvariablen X = "Abweichung vom Sollwert" ist durch o
n-\-l
+ 00
O
/• + !
/
xf{x)dx = /
x-{l-x^)dx
=-
{x- x^) dx
definiert. Integration ergibt x^
EiX) = -
x^ +1
= 0.
Das gleiche Ergebnis erhalt man auch aus der Symmetrie von f{x) zum Punkt 0. Falls man wiederholt, etwa n-mal, Abweichungen xi, ^ 2 , . . . , x^ mifit, wird nach der Haufigkeitsinterpretation das arithmetische Mittel x = (xi+X2 + .. .-\-Xn)/n dieser Abweichungen nahe bei null liegen. D
Exponentialverteilung
Beispiel 6.5
Fiir eine exponentialverteilte Zufallsvariable X ~ Ex{X) ist
Eix)=x r
xe ^^ dx = - .
Jo
A
Die Integration ist nicht mehr elementar durchfiihrbar. Man kann aber Formelsammlungen entnehmen, dafi die Funktion p-Ax
A2
-i-Xx-l)
Stammfunktion von xe ^^ ist, und daraus das Ergebnis erhalten, oder man benutzt partielle Integration: / Jo
x\e-^''dx=
[x.(-l)e-^^]^4- / Jo
e"^^ c^x = 0 + 1/A . D
286
6. Stetige
Zufallsvariablen
Modus
Die Definition bezieht sich nun auf Maxima der Dichte f{x).
Modus
Jeder x-Wert, fiir den f{x) ein Maximum besitzt, ist Modus, kurz Xmod- Falls das Maximum eindeutig ist und f{x) keine weiteren lokalen Maxima besitzt, heifit f{x) unimodal. Modalitdt
Existieren zwei oder mehrer (lokale) Maxima, heifit f{x) bimodal oder multimodal.
-
4
-
2
0
2
4
- 4 - 2
0
2
bimodal
unimodal
ABBILDUNG
-2
0
2
multimodal
6.10: Uni- und multimodale Dichten
Falls f{x) unimodal und symmetrisch um c ist, ist offensichtlich c = Xmod = E{X). Als Lageparameter ist Xmod nur fiir unimodale Verteilungen sinnvolL In Beispiel 6.4 ist E{X) = 0 = Xmod^ fur die Gleichverteilung ist aber nach unserer Definition jeder Wert X G [a, b] auch Modus, womit natiirlich die Lage nicht charakterisiert wird. Median und Quantile
Wir betrachten zunachst den in der induktiven Statistik weitaus wichtigsten Fall, dafi die Verteilungsfunktion auf ihrem Trager T = {x : f{x) > 0} streng monoton wachsend ist wie in Abbildung 6.11. Der Median Xmed ist dann der Wert auf der T-Achse, fiir den F{Xmed)
Median
= P{X
< Xmed) = P{X
> Xmed) = 1 " F{Xmed)
= ^
gilt. Damit teilt der Median auch die Flache 1 unter der Dichte in zwei gleich grofie
6.2
287
Lageparameter, Quantile und Varianz von stetigen Zufallsvariablen
F{x) 1 .
± , P ' 1 2
y Xjy
1 led
11
^P
•-
X
^med
-^p
ABBILDUNG 6.11: Verteilungsfunktion, Dichte, Median und Quantile
Teilflachen. Fiir 0 < p < 1 sind p-Quantile Xp ganz analog durch F{xp) = P{X
p-Quantile
<xp)=p
definiert. Das p-Quantil teilt dann die Gesamtflache unter f{x) auf in eine Teilfiache der Grofie p links von Xp und eine Teilfiache der Grol3e 1 — p rechts von Xp.
Median und Quantile
Fiir 0
Fiir streng monotone Verteilungsfunktionen F{x) sind p-Quantil und Median eindeutig bestimmt. Fiir nicht streng monoton wachsende Verteilungsfunktionen kann zum Beispiel der Median nicht eindeutig bestimmt sein, wenn F{x) = 0.5 auf einem Intervall gilt. Dann ware jeder x-Wert aus diesem Intervall Median. Zur eindeutigen Festlegung konnte man etwa den hnken Randpunkt oder den Mittelpunkt des Intervalls wahlen. Dieser Fall tritt selten auf und hat somit geringere Anwendungsrelevanz. Fiir zu einem Punkt c symmetrische und unimodale Verteilungen gilt
Symmetrie
288
6. Stetige Zufallsvariablen
Im allgemeinen gilt diese Gleichung jedoch nicht. Beispiel 6.6
Stetige Gleichverteilung, Exponentialverteilung
Bei der stetigen Gleichverteilung gilt wegen der Symmetrie _ a+ b Fiir die Exponentialverteilung berechnet sich der Median aus der Gleichung pXmed
1
also Logarithmieren ergibt
Somit ist In 2
1
_,„,
Da der Modus = 0 ist, erhalt man insgesamt
D
Varianz
Wie fiir den Erwartungswert kann die Definition der Varianz durch einen Grenzlibergang vom diskreten zum stetigen Fall motiviert werden. Die Varianz der approximierenden diskreten Zufallsvariable Xd ist Var{Xd) = ^{xi
-
fiff{xi)Axi.
i
Fiir Axi —^ 0 wird diese Summe zu einem Integral, und man erhalt folgende Definition.
6.2 Lageparameter, Quantile und Varianz von stetigen Zufallsvariablen
Varianz und Standardabweichung einer stetigen Zufallsvariable
Die Varianz Var{X) einer stetigen Zufallsvariable X mit Dichte f{x) ist +00
/
{X - lJLff{x)dx -oo
mit fi = E{X). Die Standardabweichung ist a = +^/Var{X)
Interpretationen und Eigenschaften gelten wie im diskreten Fall.
Eigenschaften von Varianzen 1. Es gilt Var{X) = E{{X 2. Verschiebungsregel
iif)
Var{X) = E{X^) - {E{X)f
= E{X^) --f^'
bzw. Var{X) = E{{X - cf) -{fx-
cf .
3. Lineare Transformationen Fiir Y = aX + h\st VariX) = Var{aX + b) = a'^Var{X), cry = \a\ax . 4. Varianz der Summe von unabhdngigen Zufallsvariablen Falls X und Y bzw. X i , . . . , X^^ unabhangig sind gilt Var{X + Y) = Var{X) + Var{Y) bzw. mit beliebigen Konstanten a i , . . . , a^ Var{aiXi + . . . + a^X^) = alVar{Xi) + . . . + a lVar{Xn). Die Beweise fiir diese Eigenschaften aus Abschnitt 5.2.2 konnen dabei zum Teil unverandert iibernommen werden.
289
6. Stetige Zufallsvariablen
290
Beispiel 6.7
Stetige Gleichverteilung Es ist zunachst
-oo
x^f(x)dx=
/
x'^-—dx^
Ja
b-a
3(6 - a)
Aus dem Verschiebungssatz erhalten wir (a + 6)2
63
Var{X) = E{X^) - (E(X))^
3(6 - a)
(6 - a) 12(6-a)
12
Die Varianz wachst also quadratisch und die Standardabweichung a = {b — a)/y/l2 mit der Lange des Intervalls.
Beispiel 6.8
linear D
Abweichungen vom Sollwert Fur die Zufallsvariable X = "Abweichung vom Sollwert" ist E{X) = 0. Also ist f+l
Var{X) = E{X^) =
o
x^ • j{l - x^) dx
3 f+\ ,
x^) dx =
Sfx^ 4 V 3
3 / I _ 1\ _ 3 / _ 1
4U
5/
+1 J -1
1\ _ 3 5 - 3 _ 1
4 V 3 ' ^ 5 J ~2 15 ~5 D
Beispiel 6.9
Exponentialverteilung Die Integration erfordert hier wieder grofieren Aufwand; wir fiihren sie nicht durch. Es ergibt sich fur X - Ex{X) Var{X) = ^ . Die Varianz ist also umgekehrt proportional zu A^: Je groBer A ist, desto steiler geht die Dichte f{x) gegen null, desto naher ist die Verteilung bei null konzentriert und desto kleiner ist somit die Varianz. D
6.2
291
Lageparameter, Quantile und Varianz von stetigen Zufallsvariablen
Standardisierung von Zufallsvariablen
Eine Zufallsvariable X mit fx = E{X) und a = Var{X) kann man ahnlich wie ein Merkmal bzw. Daten standardisieren. Man geht iiber zu Z =
X-fi
Dann gilt nach den Regeln fiir lineare Transformationen E{Z) = Q und
Var{Z) = l,
Symmetrie und Schiefe
Wie bei empirischen Verteilungen ist auch bei Verteilungen von Zufallsvariablen nach Lage und Streuung die Schiefe die nachstwichtige, die Form der Verteilung charakterisierende Eigenschaft. Abbildung 6.12 zeigt fiir stetige Zufallsvariablen die Dichten einer linkssteilen (oder rechtsschiefen), einer symmetrischen und einer rechtssteilen (oder linksschiefen) Verteilung. Die Graphen entsprechen schiefen oder symmetrischen Dichtekurven in Kapitel 2.
linkssteil
symmetrjsch
rechtssteil
ABBILDUNG 6.12: Dichten einer linkssteilen, symmetrischen und rechtssteilen Verteilung
Eine formale Definition von Symmetrie und Schiefe ist iiber die Entfernung der Quantile x^ und xi-p^ 0 < p < 1, vom Median m5ghch.
6. Stetige Zufallsvariablen
292
Symmetrie und Schiefe stetiger Verteilungen
Sei X eine stetige Zufalls variable. Dann heifit die Verteilung symmetrisch^ linkssteil^ (oder rechtsschief)
wenn wenn
Xmed — ^p = ^i-p ~ ^med Xmed — Xp < xi-p — Xmed
rechtssteil^ (oder linksschief)
wenn
x^ed — ^p^^l-p
~ Xmed
jeweils fiir alle 0 < p < 1 gilt und bei linkssteilen bzw. rechtssteilen Verteilungen fiir mindestens ein p das < bzw. > Zeichen gilt. Diese Definitionen entsprechen dem Verhalten empirischer Verteilungen, das auch in Box-Plots visualisiert wird. Charakteristisch ist auch die folgende Lageregel beziiglich Modus, Median und Erwartungswert: Lageregel Symmetrische unimodale Verteilung: Linkssteile Verteilung: Rechtssteile Verteilung:
^mod
^^ ^med
^^ ^ y-^ )
^mod
"^ Xrued ^ ^ \^
)
^mod
-^ ^med
)
^ -^ \^
Diese Lageregeln gelten auch fiir diskrete Verteilungen, vergleiche etwa die geometrische Verteilung. Eine sehr einfache linkssteile Verteilung ist die Exponentialverteilung, bei der wir die Lageregel im Beispiel 6.6 (Seite 288) nachvollziehen konnen. Linkssteile Verteilungen spielen insbesondere bei der Modellierung von Lebensdauern, Einkommensverteilungen u.a. eine wichtige RoUe. Wir geben noch ein einfaches Beispiel einer rechtssteilen Verteilung an. Beispiel 6.10
Eine rechtssteile Verteilung
Die Zufallsvariable X habe die Dichte
m
2x, 0 < X < 1 0 , sonst.
Die Verteilung ist rechtssteil mit Xmod = 1 und
/i = E{X) = f x2xdx = Jo0
3
6.3
Spezielle stetige Verteilungsmodelle
293
Der Median Xmed berechnet sich aus
F{Xmed) = 1/2 mit der Verteilungsfunktion 0 , F{x) = { x2, 1 ,
x<0 0<x
Damit folgt Xmed = \ / l / 2 . Es gilt also die Lageregel.
6.3
D
Spezielle stetige Verteilungsmodelle
Dieser Abschnitt beschreibt einige wichtige Verteilungen fiir stetige Zufallsvariablen. Beziiglich des Modellcharakters gelten die gleichen Vorbemerkungen wie zu diskreten Verteilungsmodellen in Abschnitt 5.3. Die stetige Gleichverteilung und die Exponentialverteilung wurden als zeitstetige Analoga zur diskreten Gleichverteilung und zur geometrischen Verteilung bereits im vorangehenden Abschnitt behandelt. Die Dichtekurve der Normalverteilung, der wichtigsten stetigen Verteilung, wurde bereits in Abschnitt 2.4.2, allerdings ohne Bezug zu Zufallsvariablen, eingefiihrt. 6.3.1
Die Normalverteilung
Die Normalverteilung ist die bekannteste und wichtigste Verteilung. Zwei wesentliche Griinde dafiir sind: In vielen Anwendungen lafit sich die empirische Verteilung von Daten, die zu einem stetigen oder quasi-stetigen, d.h. feinabgestuften diskreten, Merkmal X erhoben werden, durch eine Normalverteilung ausreichend gut approximieren, zumindest dann wenn die Originaldaten bzw. das urspriingliche Merkmal geeignet transformiert wurden. Deshalb wurde die Dichtekurve der Normalverteilung bereits in Kapitel 2 eingefiihrt. Die glockenformige Gestalt dieser Dichte ist insbesondere dann ein gutes Modell fiir die Verteilung einer Variable X, wenn diese durch das Zusammenwirken einer grofieren Zahl von zufalligen Einfliissen entsteht, etwa bei Mefifehlern, bei Abweichungen von einem Soil- oder Durchschnittswert bei der Produktion von Geraten, bei physikalischen Grofien wie Gewicht, Lange, Volumen, bei Punktezahlen in Tests usw. Die theoretische Rechtfertigung fiir dieses empirisch beobachtbare Phanomen liefert der zentrale Grenzwertsatz (Abschnitt 7.1.2). Fiir die induktive Statistik noch entscheidender ist, dafi sich viele andere Verteilungen,
6. Stetige Zufallsvariablen
294
insbesondere solche, die bei Schatz- und Testprozeduren mit grofierem Stichprobenumfang auftreten, durch die Normalverteilung gut approximieren lassen. Auch hierfiir liefert der zentrale Grenzwertsatz die theoretische Rechtfertigung. Normalverteilung
Eine Zufallsvariable X heifit normalverteilt mit Parametern // € IR und a^ > 0, kurz X ~ A/'(/i, (7^), wenn sie die Dichte XGR
2a2
V^TTi TTCT besitzt. Es gilt E{X)^I2,
Var{X) = a^,
Die Normalverteilung wird auch als Gaufi-Verteilung und die Dichtekurve als Gaufi-Kurve bezeichnet. Speziell fiir // = 0, cr^ = 1 erhalt man die Standardnormalverteilung A/'(0,1) mit der Dichte 1 1 cj>ix) =
v^'^'n-r
Symmetrie
Die Dichte ist symmetrisch zu //, d.h. es gilt f{lJL-x) = f{ii + x), X G R .
Glockenform
Verteilungsfunktion
Die Gaufi-Kurve hat Glockenform mit dem Maximum an der Stelle /x und den Wendepunkten bei fi±a. Eine Veranderung von /i bei gleichbleibender Varianz bewirkt nur eine Lageverschiebung auf der x-Achse, jedoch keine Veranderung der Form. Diese wird durch den Wert von a bestimmt: Die Glockenkurve fallt umso schneller bzw. langsamer vom Maximum an der Stelle /i gegen null ab, je kleiner bzw. grofier der Wert der Standardabweichung a ist. Abbildung 6.13 zeigt einige Dichten fiir verschiedene Werte von fi und a. Aus der Symmetrie um /i folgt sofort, dafi E{X) = fi ist. Auf die schwierigeren Beweise, dafi f{x) eine Dichte ist, d.h. / f{x)dx = 1 gilt, und dafi a^ die Varianz von X ist, verzichten wir. Die Verteilungsfunktion ist definitionsgemafi durch Fix) = P{X < x)
Standardnormalverteilung
f
f{t)dt
gegeben. Dieses Integral lafit sich nicht analytisch berechnen und durch bekannte Funktionen in geschlossener Form schreiben. Dies gilt ebenso fiir die Verieilungsfunktion ^(x) der Standardnormalverteilung
6.3
Spezielle stetige Verteilungsmodelle
295 f(x) 0.8 A
0.6 H
0.4 H
0.2
0.0 H
f(x)
0.0 H "1
T"
0
2
-T
>,
4
ABBILDUNG 6.13: Dichten von Normalverteilungen fiir /z = 0 und cr^ = 0.25 (••••), 0-2 = 1 ( ) und a^ = 5 ( ) links bzw. a^ = 1 und // = - 1 (—), /^ = 0 ( ) sowie /i = 2 ( ) rechts F(X) 1.0
0.8
0.6
0.4
0.2 H
0.0 H
n
1
r
ABBILDUNG 6.14: Dichte und Verteilungsfunktion der Standardnormalverteilung
*(x) = /_%(.).. = £-i=exp(-f)*. Deshalb mu6 ^(x) durch spezielle numerische Verfahren am Computer berechnet werden und ist fiir bequemeres Rechnen tabelliert. Da
Symmetriebeziehung
296
6. Stetige Zufallsvariablen
^-x)
= 1 - $(x).
Daher reicht es aus, ^{x) fiir a: > 0 zu berechnen bzw. zu tabellieren. Um die Verteilungsfunktion F{x) = P{X < x) und Wahrscheinlichkeiten anderer Ereignisse fiir beliebige A/'(/i, cr^)-verteilte Zufallsvariablen zu berechnen, geniigt es, $(x) sowie /i = E{X) und a'^ = Var{X) zu kennen. Entscheidend ist die folgende Eigenschaft: Standardisierung
Ist X eine A^(/i, (j^)-verteilte Zufalls variable, so ist die standardisierte Zufallsvariable a standardnormalverteilt, d.h. Z ~ Ar(0,1). Damit lafit sich die Verteilungsfunktion F einer lS!(^ii^ (7^)-verteilten Zufallsvariable durch die Verteilungsfunktion $ der Standardnormalverteilung ausdriicken.
Zusammen mit der Symmetriebeziehung kann damit F(x) iiber die Tabelle A fiir die Standardnormalverteilung $(x) berechnet werden. Die $(—a:) = 1 — ^{x) entsprechende Symmetriebeziehung fiir F{x) ist F(/i — x) = 1 — F(/i + x ) . Ruckfuhrung auf Standardnormalverteilung
F(^) = $ ( f _ ^ )..$(;,)
mit
z^"^—^
Quantile
Die Quantile z^ der Standardnormalverteilung sind durch die Gleichung $(^p)=p,
0
bestimmt. Das p-Quantil Zrp teilt damit die Flache unter der Dichte (^{z) in eine Flache mit Inhalt p links von z^ und eine Flache mit Inhalt 1 — p rechts davon auf. Wegen der Symmetric gilt Zrp
Z\—.p .
6.3
297
Spezielle stetige Verteilungsmodelle
ABBILDUNG 6.15: Quantile der Standardnormalverteilung
Wichtige Quantile der Standardnormalverteilung sind (vgl. Abschnitt 2.4.2)
p Zp
50% 0.0 (Median)
75% 0.67
90% 1.28
95% 1.64
97.5% 1.96
99% 2.33
Zwischen den Quantilen Xp einer A^(/i, cr^)-Verteilungsfunktion F{x) und den ZpQuantilen besteht durch die Standardisierung folgende Beziehung:
Mit den Quantilen lassen sich auch sofort die Wahrscheinlichkeiten fiir sogenannte zentrale Schwankungsintervalle der Form ii — c<X < ji + c angeben. Dabei gibt man entweder c vor, zum Beispiel c = 2cr, und bestimmt dazu a bzw. 1 — a so, dafi P{li — c < X < iJi + c) = 1 — a gilt, Oder man gibt die Wahrscheinlichkeit 1 a vor und bestimmt mittels Quantile das richtige c, vgl. Abbildung 6.16.
zentrale Schwankungsintervalle
6. Stetige Zufallsvariablen
298
II — c ABBILDUNG
/i
/i +
6.16: Zentrales Schwankungsintervall
Zentrale Schwankungsintervalle, fecr-Bereiche F u r X - A r ( / i , a 2 ) gilt Pifi- - Zl-a/2<^ < X < lU + Zi_a/2(T)= l - a . Fiir zi_ a/2 = k erhalt man die ka-Bereiche k = l:P{fi-
•a<X
+ a)= 0.6827
2 : P ( / . - -2a<X
+ 2a) = 0.9545
k = 3 : P ( / x - - 3(7 < X < /i + 3cr) = 0.9973
Diese Beziehungen ergeben sich iiber die Standardisierung. Die erste Gleichung folgt direkt aus Pif^ - ^l-a/2C^ <X
<
< Zi^^j^)
= \ - OL ,
Weiter gilt F(;x +
fca)-F(/x-fca)
= $(^^ + ^ ^ - ^ V $ ^ ^ - ^ ' ^ - ^ G
)
\
O
: $(it) - $(-)t) = 2$(fc) - 1 . Fiir fc = 1, 2,3 erhalt man die angegebenen Wahrscheinlichkeiten aus Tabelle A.
6.3 Spezielle stetige Verteilungsmodelle
299 Beispiel 6.11
StiJhle und Tische Eine Firma erhalt den Auftrag, fiir die oberen Klassen (14 - 16jahrige) einer Hauptschule neue Schulmobel herzustellen. Da zufallsbedingte Ungenauigkeiten in der Herstellung nicht ausgeschlossen werden konnen, wurde angenommen, da6 die Hohe der Stiihle in guter Approximation als normalverteilte Zufallsvariable angesehen werden kann mit einer durchschnittlichen Sitzhohe von 83 cm und einer Standardabweichung von 5 cm. Mochte man beispielsweise die Wahrscheinlichkeit dafiir bestimmen, dafi ein Stuhl eine Sitzhohe von mindestens 82 cm hat, so ist X zunachst in eine standardnormalverteilte Zufallsvariable Z zu transformieren, damit die zugehorige Tabelle A verwendet werden kann. Da X N{83,25)-verteilt ist, besitzt Z = {X - 83)/5 eine N{0,1)-Verteilung und es gilt P{X >S2) =
P{Z>
82-83
•
P{Z>-0.2)
= 1 - $(-0.2) = 1 - 1 + $(0.2) = 0.5793. Also betragt die gesuchte Wahrscheinlichkeit ca. 58%. Interessiert man sich andererseits fiir die Mindesthohe x der 20 % hochsten Stiihle, so erfiillt das gesuchte x zunachst die Beziehung P{X >x) = l - F{x) = 0.2, also F{x) = 0.8 und durch Standardisierung erhalt man
F{x) = ^(^^:^\
=0.8.
Das 0.8-Quantil der Standardnormalverteilung ist laut Tabelle ungefahr gleich 0.84. (Genaugenommen ist dieser Wert das 0.7994-Quantil. Mit Hilfe von Statistik-Programm-Paketen erhalt man mit 0.8416 ein genaueres 0.8-Quantil.) Die Gleichung
x-83
= 0.84
liefert dann die gesuchte Mindesthohe von x = 0.84 • 5 -f- 83 = 87.2 cm. Der 2(7-Bereich der Verteilung der Stuhlhohe ist das Intervall [73,93], d.h. etwa 95% der produzierten Stiihle sind mindestens 73 cm und hochstens 93 cm hoch. D
Zwei wichtige Eigenschaften von normalverteilten Zufallsvariablen betreffen ihr Verhalten bei linearen Transformationen und bei Addition.
Lineare Transformation Fiir X ~ A/'(/i, cr^) ist die linear transformierte Variable Y -= a X + 6, a 7^^ 0, wieder normalverteilt mit y-iV(a/i + 6,aV).
6. Stetige Zufallsvariablen
300
Addition Sind X ^ N{iix^(^'x) gilt
und y ~ A7'(/iy,cry) normalverteilt und unahhdngig^ so X + Y ^ Nifix
+ I^Y^ cTx + ^Y) •
Sind Xi ~ N{fii^af)^ i = 1 , . . . , n , unabhdngig^ so ist jede Linearkombination Y = aiXi + ... + QnXn wieder normalverteilt mit Y r^ N{aiiii
+ . . . + anfJin, a^ai + . . . + .2_2> a^aj .
Die Normalverteilungseigenschaft bleibt also bei der linearen Transformation und bei der Addition von unabhangigen Zufallsvariablen erhalten. Wir zeigen nur die lineare Transformationsregel. Es ist P(Y
+ b
=
P(X<
y-1^
^y—b
wobei die Substitution von t = ax + b^ dt = adx verwendet wurde. Einsetzen liefert
1/ '-* a \
1
a
/ exp ' a^/2^Ta " \
l(^^t-h)/a-^ly 2
a^
l{t-{a^i \/2TTacF
\
2
+ h)Y OP'G'^
also gerade die Dichte der N{aii + 6, a'^a^j-Verteilung. Die Regel fiir die Linearkombinationen ergibt sich aus der Verbindung der beiden ersten Aussagen. Beispiel 6.12
Stuhle und Tische
Bei der Herstellung der Stuhltische ergab sich, daC ihre Hohe Y als Ar(113,16)-verteilte Zufallsvariable angesehen warden kann. Aus orthopadischen Untersuchungen ist bekannt, dafi eine optimale Sitzposition dann gegeben ist, wenn der Schultisch um 28 cm hoher ist als der Stuhl. Somit ist die Zufallsvariable F = y - X, die die Differenz zwischen der Tischhohe aus Beispiel 6.11 und der Stuhlhohe beschreibt, von Interesse. Aufgrund der Transformationsregel (mit a = - 1 ) folgt -X einer A/'(-83,25)-Verteilung, so dafi V wegen der Additionsregel iV(113 — 83,16 + 25), also N{30,41)-verteilt ist. Dabei darf die Additionsregel nur verwendet werden, da Tische und Stuhle von verschiedenen Maschinen hergestellt werden, so dafi
6.3 Spezielle stetige Verteilungsmodelle
301
X und Y als unabhangig betrachtet werden konnen. Entnimmt man nun der Produktion zufallig einen Tisch und einen Stuhl, so weicht diese Kombination mit nur ca. 12% Wahrscheinlichkeit um weniger als 1 cm von der optimalen Sitzposition ab: 2 7 - 3 0 V -fi 29-30 \/4r ~ cr v^ $(-0.16) - $(-0.47) 1 - $ ( 0 . 1 6 ) - 1 + $(0.47) -0.5636 + 0.6808 = 0.1172.
P(27 < y < 29) = P
D
6.3.2
Die logarithmische Normaiverteilung
Verteilungen von nichtnegativen Zufallsvariablen, etwa Lebensdauern, Wartezeiten oder Einkommen, sind haufig linkssteil. Eine einfache, aber nicht immer adaquate Moglichkeit zur Modellierung solcher Variablen bietet die Exponentialverteilung. Eine andere Moglichkeit besteht darin, eine nichtnegative Zufallsvariable X mit linkssteiler Verteilung zu transformieren, um eine Zufallsvariable mit symmetrischer Verteilung zu erhalten. Haufig logarithmiert man X zuY = ln(X) und hofft, dafi Y zumindest annahernd normalverteilt ist. Logarithmische Normaiverteilung
Eine nichtnegative Zufallsvariable X heifit logarithmisch normalverteilt mit Parametern /x und a^, kurz X ~ LN{ii., a^), wenn Y = ln(X) iV(/x, cr^)-verteilt ist. Es gilt E{X) = e^+^'/2 ^ Var{X) = e2/^+^'(e^' - 1). Die Dichte lal3t sich ebenfalls iiber die logarithmische Transformation in geschlossener Form angeben. Abbildung 6.17 zeigt fiir verschiedene Werte von /i und a^ die Dichtekurven. Weitere Verteilungen, die haufig zur Analyse von Lebensdauern eingesetzt werden, sind WeibuU-Verteilungen, Gamma-Verteilungen (mit der Exponentialverteilung als Spezialfall) und die Pareto-Verteilung (insbesondere als Modell fiir Einkommensverteilungen). 6.3.3
Chi-Quadrat-, Student- und Fisher-Verteilung
Von den folgenden Verteilungen werden wir insbesondere die zugehorigen Quantile fiir Schatz- und Testverfahren der inferentiellen Statistik benotigen. Die Chi-
Quantile inferentielle Statistik
6. Stetige Zufallsvariablen
302
0.2 H
ABBILDUNG 6.17: Dichten der logarithmischen Normalverteilung fur fi = 0 und cr^ = 0.25 ( - ) , 0-2 = 1 ( ) und cr^ = 2.25 (---) links bzw. a'^ = 1 und fi = - 0 . 4 (••••), fi = 0 ( ) sowie fi = 1.2 ( — ) rechts
Quadrat-Verteilung kann aber auch zur Modellierung von Lehensdauem und die Student-Verteilung fur robuste Verfahren verwendet werden. Die Chi-Quadrat-Verteilung
Viele Teststatistiken besitzen, vor allem fiir sogenannte Anpassungstests (vgl. Kapitel 11), unter geeigneten Voraussetzungen zumindest approximativ eine ChiQuadrat-Verteilung. Diese lafit sich als Verteilung der Summe von unabhangigen und quadrierten standardnormalverteilten Zufallsvariablen herleiten. X^-Verteilung
Seien X i , . . . , X^ unabhangige und identisch A/'(0, l)-verteilte Zufallsvariablen. Dann heifit die Verteilung der Zufallsvariablen
Chi-Quadrat-Verteilung mit n Freiheitsgraden^ kurz x^(^)-Verteilung, und Z heifit x^(^)-verteilt, kurz Z ~ x^(^)- Es gilt E{Z) = n, Var{Z) = 2n, Die Dichten der x'^(^)-Verteilung lassen sich in geschlossener Form angeben, werden
6.3
303
Spezielle stetige Verteilungsmodelle
jedoch hier nicht benotigt. Abbildung 6.18 zeigt fiir verschiedene Preiheitsgrade n die Dichtekurven. f(x)
0.4 H
0.3
0.2
0.1
—1—
0
5
10
15
6.18: Dichten von x^-Verteilungen fiirn = 2 (• • •), n = 3 (—) n = 5 ) und n = 7 ( ) Preiheitsgrade
ABBILDUNG
(
Fiir kleine n sind die Dichten deutlich linkssteil. Fiir wachsendes n nahern sie sich der Gaufischen Glockenkurve an. Dies ist eine Folge des zentralen Grenzwertsatzes (Abschnitt 7,1.2), da die Summe der Zufallsvariablen Xf^... ,X^ dessen Voraussetzungen erfiillt. Fiir n < 30 sind zu ausgewahlten Werten von p die Quantile tabelliert (Tabelle C). Fiir n > 30 benutzt man folgende Normalverteilungsapproximation:
Xf]
l{zp + V2^r^f,
wobei Zp das p-Quantil der A/'(0,1)-Verteilung ist. Diese Approximation ist besser als die direkte Approximation der x^(^)-Verteilung durch eine N(n^ 2n)-Verteilung.
Die Student-Verteilung
Diese Verteilung findet besonders bei Parametertests und bei Konfidenzintervallen fiir Parameter Verwendung, vgl. Kapitel 9 bzw. 11. Sie wird haufig auch als Students t-Verteilung oder kurz t-Verteilung bezeichnet.
Normalverteilungsapproximation
6. Stetige Zufallsvariablen
304
t-Verteilung, Student-Verteilung
Seien X ^ A^(0,1), Z ^ x^(^) sowie X und Z unabhangig. Dann heifit die Verteilung der Zufallsvariable
t-Verteilung mit n Freiheitsgraden^ kurz t(n)-Verteilung. Die Zufallsvariable T heifit t(n)-verteilt, kurz T ^ t(n). Es gilt E{T) = 0 ( m > 2 ) ,
n n-2
T/ar(T)
(n > 3).
Die Formeln fiir die Dichten werden hier nicht benotigt. Abbildung 6.19 zeigt fiir ausgewahlte Freiheitsgrade n die entsprechenden Dichtekurven. Man erkennt folf(x)
-
4
-
2
0
2
4
ABBILDUNG 6.19: Dichten von t-Verteilungen fiir n = 1 (—) n = 2 {••'), n = 5 ( ) und n = 20 ( ) Freiheitsgrade
robust
Normalverteilungsapproximation
gendes: Gemafi der Definition sind die t-Verteilungen symmetrisch um null. Fiir kleineres n besitzen sie im Vergleich zur Standardnormalverteilung breitere Enden, d.h. die Flachen unter der Dichtekurve fiir kleine und grofie Werte von x sind groBer. Umgekehrt ist weniger Wahrscheinlichkeitsmasse im Zentrum um x = 0 verteilt. Damit eignet sich die t-Verteilung auch zur Modellierung von Daten, die - im Vergleich zur Normalverteilung - einen grofieren Anteil an extremen Werten enthalten. Deshalb wird die t-Verteilung auch fiir rohuste Verfahren der inferentiellen Statistik eingesetzt. Fiir n —> oo konvergiert die Dichtekurve gegen die Dichte 0 der Standardnormalverteilung. Ab n > 30 ist die Approximation bereits sehr gut. Deshalb sind die Quantile nur bis n = 30 vertafelt (Tabelle D).
6.3
305
Spezielle stetige Verteilungsmodelle
Die Fisher-Verteilung
Quantile der Fisher-Verteilung werden vor allem bei Testverfahren der Regressionsund Varianzanalyse (vgl. Kapitel 12 und 13) benotigt.
Fisher-Verteilung
Seien X ~ X^(^) ^i^d Y ~ x^(^)-verteilt und voneinander unabhangig. Dann heifit die Verteilung der Zufallsvariable Z =
X/m Y/n
Fisher- oder F-verteilt mit den Freiheitsgraden m und n, kurz Z ~ F(m, n). Es gilt E{Z) = Var{Z)=
n n-2
fiir
n > 3,
'"'(" + " ^ - i m ( n - 4 ) ( n -- 92 ^) 2
fiir
n>5.
Abbildung 6.20 zeigt fiir verschiedene Freiheitsgrade die Dichtekurven. f(x)
2.0 H
1.5
1.0 H
0.5 H
0.0 H
0.0
ABBILDUNG 6.20: Dichten der F(2,10)-( ), der F(3,100)- (---) und F(10,3)(-—) links, sowie der F(10,10)-( ), F(100,10)-( ••) und der F(100,100)Verteilung ( ) rechts
6. Stetige Zufallsvariablen
306
Quantile
Wichtige Quantile sind fiir ausgewahlte Werte der Freiheitsgrade m und n tabelliert (Tabelle E ) . Fiir andere Werte von m und n geniigt es zu interpolieren. Zusatzlich beachte man, da& aufgrund der Definition der F-Verteilung zwischen dem p-Quantil F{n,m)Xp{m,n) der F ( m , n)-Verteilung und dem (1 — p)-Quantil x i _ p ( n , m ) der Verteilung die Beziehung Xp{m^n)
xi-p{n,m)
gilt.
Diskrete Zufallsvariable X diskreter Wertebereich {a>i, 0:2? • • •} f{x) Wahrscheinlichkeitsfunktion 0 < f{x) < 1
Stetige Zufallsvariable X stetiger Wertebereich C R f{x) Dichte f{x)>0 Jf{x)dx = l
F{x) = P{X < x) Verteilungsfunktion F{x)=
f
f{t)dt
i:xi<x
Wahrscheinlichkeiten P{a<X
E
P{a<X
fi^i)
=
jf{x)dx
i'.a<Xi
Erwartungswert + CX)
/i = E{X) = E
^ = E{X) = J xf{x) dx
Xif{xi) Varianz
Var{X)=j:ixi-fiyf{xi)
Var{X) = J{x - ixff{x) =
E{aiXi
Erwartungswert von Summen 4 - . . . + anXn) = aiE{Xi) + . . . +
dx
E{X-f^)^
a^EiXn)
Varianz fiir Summen von unabhdngigen Zufallsvariablen Var{aiXi + . . . + anXn) = afFar(Xi) + . . . + alVar{Xn) TABELLE
variablen
6.1: Definition und Eigenschaften von diskreten und stetigen Zufalls-
6.4
307
Zusammenfassung und Bemerkungen
6.4
Zusammenfassung und Bemerkungen
Stuft man den Wertebereich von diskreten Zufallsvariablen immer feiner ab, so gelangt man zu geeigneten Begriffsbildungen fiir stetige Zufallsvariablen. Vielfach gehen dabei Summen in Integrale iiber, jedoch gelten wichtige Eigenschaften und Rechenregeln unverandert fiir den diskreten und stetigen Fall. Die Tabelle 6.1 gibt dazu eine Zusammenfassung, siehe dazu auch Hartung, Elpelt und Klosener (2002). In Tabelle 6.2 sind die wichtigsten speziellen Verteilungen zusammengestellt. Viele weitere wichtige Verteilungen, z.B. die Gamma- oder Pareto-Verteilung zur Modellierung von Lebensdauern oder Einkomm.ensverteilungen finden sich im Nactischlagewerk von Johnson, Kotz und Balakrishnan (1994, 1995).
Dichte
Verteilung Gleichverteilung
1
f{x)=l
fiir a< X
b-a
-
[ 0 ,, ,
Erwart.wert
-
a +b 2
sonst
[ Ae"^"^
furx>0
Varianz
(b-a)' 12 1
1 A
A2
M
a^
siehe Johnson, Kotz und Balakrishnan (1994, 1995)
n
2n
0
t-Verteilung
siehe Johnson, Kotz und Balakrishnan (1994, 1995)
n n-2
F-Verteilung
siehe Johnson, Kotz und Balakrishnan (1994, 1995)
n n-2
Exponentialverteilung
1 0
sonst
wobei A > 0 f(^^
Normalverteilung
Zr^x\n) X^-Verteilung T - t{n)
1
C:'D[~^''~^)'^
fiir X G E
2n^(n + m + 2) m(n-4)(n-2)2
TABELLE 6.2: Spezielle stetige Verteilungen mit ihren Dichten, Erwartungswerten und Varianzen
6. Stetige Zufallsvariablen
308
6.5 Aufgabe 6.1
Aufgaben
Fiir eine stetige Zufallsvariable X gilt :
m=
Aax, -ax + 0.5, 0,
0<x
Bestimmen Sie den Parameter a so, dafi f{x) eine Dichtefunktion von X ist. Ermitteln Sie die zugehorige Verteilungsfunktion und skizzieren Sie deren Verlauf. Berechnen Sie den Erwartungswert sowie die Varianz von X. Aufgabe 6.2
Das statistische Bundesamt halt fiir die Wachstumsrate des Bruttosozialproduktes X alle Werte im Intervall 2 < x < 3 fiir prinzipiell moglich und unterstellt fiir ihre Analyse folgende Funktion ' c-{x-2), 2
m
(a) Bestimmen Sie c derart, dafi obige Funktion die Dichtefunktion einer Zufallsvariable X ist. (b) Bestimmen Sie die Verteilungsfunktion der Zufallsvariable X. (c) Berechnen Sie P(2.1 < X) und P(2.1 <X < 2.8). (d)Berechnen Sie P ( - 4 <X < 3\X < 2.1) und zeigen Sie, dafi die Ereignisse {-4 < X < 3} und {X < 2.1} stochastisch unabhangig sind. (e) Bestimmen Sie den Erwartungswert, den Median und die Varianz von X. Aufgabe 6.3
An der Miinchner U-Bahn-Station "Universitat" verkehren zwei Linien tagsiiber jeweils im 10-Minuten-Takt, wobei die U3 drei Minuten vor der U6 fahrt. Sie gehen gemafi einer stetigen Gleichverteilung nach der Vorlesung zur U-Bahn. Wie grofi ist die Wahrscheinlichkeit, dafi als nachstes die Linie U3 fahrt?
Aufgabe 6.4
Sei X eine zum Parameter A exponentialverteilte Zufallsvariable. Zeigen Sie die "Gedachtnislosigkeit" der Exponentialverteilung, d.h. dafi P{X < x\X >s) = P{X
<x-s)
fiir x, 5 G R mit s <x gilt. Aufgabe 6.5
In Aufgabe 5.9 wurde die Zufallsvariable X betrachtet, die die Anzahl der Fehler, die wahrend 12 Stunden an einem Digitalcomputer auftreten, beschreibt. (a) Welche Verteilung hat unter den gegebenen Voraussetzungen die Zufallsvariable Y= "Wartezeit auf den nachsten Fehler" ? (b) Wie lange wird man im Mittel auf den nachsten Fehler warten?
6.5
309
Aufgaben
(c) Wahrend 12 Stunden ist kein Fehler aufgetreten. Wie grofi ist die Wahrscheinlichkeit, dafi sich in den nachsten 12 Stunden ebenfalls kein Fehler ereignet?
Aufgabe 6.6
Beweisen Sie die Markov-Ungleichung P{X
>c)<
E{X)
fiir jede positive Zahl c, falls X nur nichtnegative Werte annimmt. Die Erlang-n-Verteilung wird haufig zur Modellierung von Einkommensverteilungen verwendet. Sie ergibt sich als Summe von n unabhangigen mit Parameter A exponentialverteilten Zufallsgrofien. Beispielsweise hat fiir n = 2 die Dichte die Form
m=
0,
Aufgabe 6.7
sonst.
(a) Zeigen Sie, dafi f{x) tatsachlich eine Dichtefunktion ist. (b) Zeigen Sie, dafi
F{x) =
0,
x<0
l - e - ' ^ ^ ( l + Ax),
x>0
die zugehorige Verteilungsfunktion ist. (c) Berechnen Sie den Erwartungswert, den Median und den Modus der Erlang-2-Verteilung mit Parameter A = 1. Was folgt gemafi der Lageregel fiir die Gestalt der Dichtefunktion? Skizzieren Sie die Dichte, um Ihre Aussage zu iiberpriifen. (d) Bestimmen Sie den Erwartungswert und die Varianz der Erlang-n-Verteilung fiir beliebige neN und A G iR+. In einer Klinik wird eine Studie zum Gesundheitszustand von Friihgeburten durchgefiihrt. Das Geburtsgewicht X eines in der 28ten Schwangerschaftswoche geborenen Kindes wird als normalverteilte Zufallsvariable mit Erwartungswert 1000 g und Standardabweichung 50 g angenommen. (a) Wie grofi ist die Wahrscheinlichkeit, dafi ein in der 28ten Schwangerschaftswoche geborenes Kind ein Gewicht zwischen 982 und 1050 g hat? (b) Bestimmen Sie das 10 %-Quantil des Geburtsgewichts. Was sagt es hier aus? (c) Geben Sie ein um den Erwartungswert symmetrisches Intervall an, in dem mit einer Wahrscheinlichkeit von 95 % das Geburtsgewicht liegt.
Aufgabe 6.8
Eine Firma verschickt Tee in Holzkisten mit jeweils 10 Teepackungen. Das Bruttogewicht der einzelnen Teepackungen sei normalverteilt mit fi = 6kg und der Standardabweichung a = 0.06. Das Gewicht der leeren Holzkiste sei normalverteilt mit dem Erwartungswert /i = 5 kg und der Standardabweichung a = 0.05 kg. Geben Sie ein symmetrisch zum Erwartungswert liegendes Intervall an, in dem in 95 % der Falle das Bruttogewicht der versandfertigen Holzkiste Hegt.
Aufgabe 6.9
310
Aufgabe 6.10
6. Stetige Zufallsvariablen
Da Tagesrenditen von Aktien oft Ausreifier enthalten, wird zu ihrer Modellierung haufig anstelle einer Normalverteilung eine t-Verteilung verwendet. Beispielsweise lassen sich die Renditen der MRU-Aktie {=X) aus Beispiel 2.8 nach der Transformation Y = (X-0.0007)/0.013 durch eine t-Verteilung mit 1 Freiheitsgrad gut approximieren. Wie gro6 ist demnach die Wahrscheinlichkeit, eine Rendite grofier als 0.04 zu erzielen? Wie grofi ware diese Wahrscheinlichkeit, wenn fiir X eine A/'(0.0007,0.013^)-Verteilung zugrundegelegt wiirde? Geben Sie ferner fiir das Modell mit Normalverteilungsannahme ein zentrales Schwankungsintervall an, in dem mit einer Wahrscheinlichkeit von 99 % die Tagesrenditen Uegen. Warum kann bei Annahme einer t-Verteilung fiir X kein zentrales Schwankungsintervall berechnet werden?
Mehr uber Zufallsvariablen und Verteilungen
Gemafi der Haufigkeitsinterpretation von Wahrscheinlichkeiten nahert sich bei nmaliger unabhangiger Wiederholung eines Zufallsvorgangs die relative Haufigkeit /(A), mit der ein interessierendes Ereignis A eintritt, immer besser der Wahrscheinlichkeit P{A) an. In Abschnitt 7.1 wird dieses "Gesetz grofier Zahlen" formal und in allgemeiner Form prazisiert. Desweiteren enthalt der Abschnitt den grundlegenden "zentralen Grenzwertsatz". Dieser rechtfertigt in vielen Fallen die Approximation von diskreten oder stetigen Verteilungen durch eine Normalverteilung (Abschnitt 7.2). Mit Zufallszahlen (Abschnitt *7.3) lassen sich Zufallsvorgange am Rechner nachbilden. Sie liefern somit die Basis fiir Computersimulationen. Mit Zufallszahlen konnen auch theoretische Result ate, wie z.B. das Gesetz grofier Zahlen empirisch bestatigt werden. Abschnitt *7.4 enthalt einige erganzende Begriffe und Resultate.
7.1
Gesetz der groBen Zahlen und Grenzwertsatze
In den vorhergehenden Abschnitten wurde des ofteren folgende Situation betrachtet: Ein Zufallsvorgang, dessen Ergebnisse die Realisierungen einer diskreten oder stetigen Zufallsvariable X sind, wird n-mal unabhangig wiederholt. Der einfachste Fall ist dabei eine BernouUi-Kette, bei der die einzelnen Bernoulli-Versuche mit gleichbleibender Wahrscheinlichkeit P{A) fiir das Eintreten des Ereignisses A wiederholt werden. Dann ist X binar mit Y _ \ 1 ? f^Us ^ eintritt 1 0, falls A nicht eintritt, d.h. X ist 5(l,7r)-verteilt mit 7r = P(A). Die einzelnen Bernoulli-Versuche werden durch die unabhangigen Indikatorvariablen -^ _ J 1, falls A im z-ten Versuch eintritt 1 0, falls A im z-ten Versuch nicht eintritt,
7. Mehr uber Zufallsvariablen und Verteilungen
312
beschrieben, mit Xi ^ 5(1,TT) fiir z = 1 , . . . ,n. Dies lafit sich auch so formulieren: Die Zufallsvariablen X i , . . . , X n sind unabhdngig und identisch wie X r^ B{1J7T) verteilt. Bei einer konkreten Durchfiihrung erhalt man als Ergebnis die Realisierungen x i , . . . , Xn (jeweils 1 oder 0) der Zufallsvariablen X i , . . . , Xn"Gesetz Zahlen^'
grofler
Ein zugehoriges ^'Gesetz grofier Zahlen" wird dann heuristisch folgendermafien formuliert: Fiir grofies n liegt die relative Hdufigkeit fn{A.) = fn{X = 1) fiir das Auftreten von A mit groiJer Wahrscheinlichkeit nahe bei der Wahrscheinlichkeit P{A) = P{X = l),d.h. U{X = 1)^P{X = 1), und fiir n —> oo "konvergiert" fn{X = 1) gegen P{X = 1), d.h. fn{X = 1) —> P{A) fiir n —^ oo . In Abbildung 7.1 sieht man, wie die relative Haufigkeit fn mit wachsender Anzahl relative H. 1.0i
•
0.8 H
0.6
•• • ^•^•••^•••sn^^Xsx' 0.4
0.2
0.0
^. 0
20
40
60
80
100
ABBILDUNG 7.1: Relative Haufigkeit /n, durch Punkte markiert, nach n unabhangigen Wiederholungen eines Bernoulli-Versuchs mit TT = 0.4
der Versuchs wiederholungen tendenziell immer naher am wahren Wert TT = 0.4 liegt. In diesem Abschnitt werden Gesetze groiJer Zahlen in praziserer und in genereller Form, d.h. fiir allgemeinere diskrete und stetige Zufallsvariablen als grundlegende Satze dargestellt. Entsprechendes gilt fiir die Summe Hn = Xi + . . . + Xn , der ahsoluten Hdufigkeit des Auftretens von A. Fiir jedes endliche n ist Hn B{n, TT)verteilt. Fiir groiSes n ist die Summe approximativ normalverteilt bzw. die Verteilung
7.1
Gesetz der groBen Zahlen und Grenzwertsatze
313
von Hn "konvergiert" gegen eine Normalverteilung (vgl. Abschnitt 5.3.1). Eine formale und allgemeinere Beschreibung dieses Sachverhalts wird durch den zentralen Grenzwertsatz gegeben. Wir fassen zunachst das fiir das Beispiel der BernouUi-Kette dargestellte Konzept der n-maligen unabhangigen Versuchswiederholung in seiner allgemeinen Form zusammen.
zentraler Grenzwertsatz
Unabhangige und identische Wiederholung
Sei X eine diskrete oder stetige Zufallsvariable mit Erwartungswert /i, Varianz a^ und einer bestimmten Verteilungsfunktion F, Der zu X gehorende Zufallsvorgang werde n-mal unabhangig wiederholt. Die Zufallsvariablen X^, 2 = 1 , . . . , n, geben an, welchen Wert X beim i-ten Teilversuch annehmen wird. Die Zufallsvariablen X i , . . . , Xn sind unabhangig und besitzen alle die gleiche Verteilungsfunktion F und damit insbesondere den gleichen Erwartungswert // und die gleiche Varianz cr^ wie X. Man sagt kurz: X i , . . . , Xn
sind unabhangig identisch verteilt wie X, oder
X i , . . . , Xn
sind unabhangige Wiederholungen von X.
Die nach der Durchfiihrung erhaltenen Ergebnisse sind Realisierungen xi^ ,,,,Xn v o n X i , . . . , X n . Diese Annahme ist bei vielen Zufallsstichproben vom Umfang n fiir ein Merkmal X zumindest naherungsweise erfiillt. Wir setzen fiir diesen Abschnitt im weiteren diese Annahme voraus. 7.1.1
Das Gesetz der groBen Zahlen und der Hauptsatz der Statistik
Das arithmetische Mittel
arithmetische s Mittel
n gibt den durchschnitthchen Wert von X bei n Versuchen wieder. Nach Durchfiihrung wird _ _ 1 ^n —
(^1 ~r . . . + Xn)
n als Realisierung von Xn beobachtet. Zur Verdeuthchung sei hier noch einmal erwahnt, dafi groi3e Buchstaben die Zufallsvariablen bezeichnen und kleine Buchstaben fiir die Realisierungen verwendet werden. Nach den Rechenregeln fiir Summen von unabhangigen Zufallsvariablen gilt:
7. Mehr uber Zufallsvariablen und Verteilungen
314
Erwartungswert und Varianz des arithmetischen Mittels
EiXn) = fi^
Beweis
Var{Xn) = a—.
Dabei folgt E{Xn) = M aus E{Xn) = iE{Xi) + . . . + E{Xn))/n = nii/n = /i und Var{X) = Var{Xi + . . . + Xn)/n^ = na^/n'^ = a^/n, wobei flir Var{Xn) die Unabhangigkeit der X i , . . . , Xn ausgenutzt wird. Der Erwartungswert des arithmetischen Mittels ist also gleich dem von X selbst. Die Varianz cr^/n ist umgekehrt proportional zu n und geht fiir n —> oo gegen null. Damit ist fiir grofies n die Verteilung von Xn stark um /^ = E{X) konzentriert. Formal lafit sich dies so fassen: Gesetz der groBen Zahlen
Fiir beliebig kleines c > 0 gilt P{\Xn — fi] < c) —> 1 fiir
n —> oo .
Man sagt: Xn konvergiert nach Wahrscheinlichkeit gegen /i. Interpretation
Das Gesetz der grofien Zahlen sagt also aus, dai3 die Wahrscheinlichkeit mit der das arithmetische Mittel in ein beliebig vorgegebenes Intervall [/j. — c, /j. + c] fallt, gegen 1 konvergiert, wenn n —> oo geht. Fiir grofies n ist damit P(/i — c < X^ < // + c) nahe bei 1. Der an sich einfache Beweis benutzt die Ungleichung von Tschebyscheff, siehe Abschnitt 7.4.3. Fiir n —> oo geht a^ jnc? gegen null. Daraus folgt die Behauptung. Fiir den eingangs betrachteten Fall X -> 5 ( 1 , TT) ist TT = P{A) = P{X = 1) = E{X) und Xn = (^1 + . . . + Xn)/n gerade die relative Haufigkeit Hn/n des Eintretens von A. Also gilt: Theorem von Bernoulli
Die relative Haufigkeit, mit der ein Ereignis A bei n unabhangigen Wiederholungen eines Zufallsvorgangs eintritt, konvergiert nach Wahrscheinhchkeit gegen P{A). empirische Ver- Das Theorem von Bernoulli lafit sich direkt auf empirische Verteilungsfunktionen teilungsfunktion anwenden: Fiir jedes feste x ist die empirische Verteilungsfunktion Fn{x) die relative
7.1
Gesetz der groBen Zahlen und Grenzwertsatze
315
Haufigkeit des Ereignisses {X < x}. Fafit man die Daten x i , . . . , x^ als Realisierung der unabhangigen und identisch wie X verteilten Zufallsvariablen X i , . . . ,Xn auf, so folgt dafi Fn{x) fiir jedes feste x mit n —> oo nach Wahrscheinlichkeit gegen die Verteilungsfunktion F{x) von X konvergiert. Tatsachlich gilt eine entsprechende Aussage nicht nur fiir jedes feste x, sondern global (^^gleichmdfiig") fiir alle x G R. Hauptsatz der Statistik (Satz von Glivenko-Cantelli)
Sei X eine Zufallsvariable mit der Verteilungsfunktion F{x), Dann gilt fiir die zu unabhangigen und identisch wie X verteilten X i , . . . , X^ gebildete Verteilungsfunktion Fn{x) P{snp\Fn{x)-F{x)\
1
fiir
n
oo.
Mit "sup" wird damit die maximale Abweichung zwischen Fn{x) und F{x) bezeichnet. Der Hauptsatz der Statistik zeigt also, dafi fiir Zufallsstichproben, bei denen X i , . . . ^Xn unabhangig und identisch wie das interessierende Merkmal X verteilt sind, die unbekannte Verteilung F{x) von X durch die empirische Verteilungsfunktion Fn{x) fiir n —> oo gut approximiert wird. Stimmen umgekehrt Fn{x) und eine theoretische Verteilung F{x)^ etwa die Normalverteilung, schlecht iiberein, so entstammen die Daten vermutlich einer anderen Verteilung. Sowohl das Gesetz der grofien Zahlen als auch der Satz von Glivenko-Cantelli gelten iibrigens auch unter schwacheren Annahmen, insbesondere lafit sich die Voraussetzung der Unabhangigkeit der X i , . . . , X^i abschwachen. Abbildung 7.2 zeigt anhand von 100 bzw. 1000 unabhangigen Wiederholungen einer standardnormalverteilten Zufallsvariable X, dafi die empirische Verteilungsfunktion umso naher an der theoretischen Verteilungsfunktion liegt, je grofier die Anzahl der Wiederholungen n ist. Die unabhangigen Ziehungen wurden dabei am Computer mit Hilfe von Zufallszahlen simuliert, vgl. Abschnitt *7.3. 7.1.2
Der zentrale Grenzwertsatz
Im Fall einer binomialverteilten Zufallsvariable X ~ 5 ( n , TT) hatte sich gezeigt, dafi sich die Verteilung, genauer das Wahrscheinlichkeitshistogramm, von X = Xi + ... + Xn
mit
Xir^B{l,7r)
fiir grofieres n gut durch eine Normalverteilung approximieren lafit. Die folgenden Abbildungen zeigen, dafi dies auch fiir andere Verteilungen gilt. Die durchgezogene Kurve in Abbildung 7.3(a) gibt die Dichte f{x) einer Zufallsvariable Xi mit E{Xi) = 0, Var{Xi) = 1 an. Dazu ist die Dichte 0(x) der Standardnormalverteilung
gleichmdfiige Konvergenz
7. Mehr uber Zufallsvariablen und Verteilungen
316
F(x)
F(x) 1.0 j
1.0
0.8-^
0.8
0.6
0.6
0.4
0.4
0.2
0.2 0.0
0.0 -
3
-
2
-
1
0
1
2
3
:>x
-4
-2
0
2
T>x
ABBILDUNG 7.2: Empirische Verteilungsfunktion (—) von 100 (links) und 1000 (rechts) standardnormalverteilten Zufallszahlen im Vergleich mit der Verteilungsfunktion der Standardnormalverteilung (••-•)
gezeichnet. In Abbildung 7.3(b), (c) und (d) sieht man die standardisierten Dichten der Summen Xi + X27 ^ i + ^ 2 + ^3? ^ i + • • • + ^ 6 von unabhangigen nach f{x) verteilten Zufallsvariablen Xi^... ^XQ. Man erkennt deutlich, dafi die entsprechenden Dichten mit wachsender Anzahl von Summanden immer besser durch eine Normalverteilung approximiert werden konnen. Tatsachlich gilt sehr allgemein, dafi die Verteilung einer Summe Xi + .., + Xn von Zufallsvariablen fiir n —> 00 gegen eine Normalverteilung konvergiert bzw. ftir grofies n approximativ normalverteilt ist. Fiir unabhangige und identisch verteilte Zufallsvariablen X i , . . . , Xn mit E{Xi) = /i, Var{Xi) = cr^ sind dabei Erwartungswert und Varianz der Summe gemafi den Rechenregeln fiir Erwartungswerte und Varianzen durch E{Xi + ... + Xn) = nfi, standardisierte Summe
Var{Xi + . . . + X^)
gegeben. Fiir die Formulierung des Grenzwertsatzes ist es zweckmafiig, zur standardisierten Summe liberzugehen. Dabei steht ^ fiir approximativ (bei grofierem n) oder asymptotisch (fiir n —> 00) verteilt. Fiir die unstandardisierte Summe Xi + ,. . + Xn gilt in dieser Schreibweise Xi + ... + Xn ^
Normalverteilungsapproximation
na
N(nfi,na^).
Fiir endliches n ist die Summe umso besser approximativ normalverteilt^ je weniger asymmetrisch die Verteilung der Xi ist. Umgekehrt ist fiir deutlich asymmetrische Verteilungen ein grofieres n notig, um eine ahnliche Approximationsgiite zu erreichen. Typischerweise formuliert man den sogenannten Zentralen Grenzwertsatz jedoch nicht fiir Xi + . . . + X^, selbst, sondern fiir die standardisierte Summe. Ein Grund ist, dafi fiir n —> 00 die Verteilung N{nii^ ncr^) unendlichen Erwartungswert und unendliche Varianz besitzt.
7.1
317
Gesetz der groBen Zahlen und Grenzwertsatze
ABBILDUNG 7.3: Dichten von (a) Xi ~ f{x),
(b) Xi + X2, (c) Xi + X2 + X3,
(d) Xi -{•'.' + Xe und approximierende Normalverteilungsdichte 0(x)
Zentraler Grenzwertsatz
, Xn seien unabhangig identisch verteilte Zufallsvariablen mit E{Xi) = /x und
Var{Xi) = a^ > 0,
Dann konvergiert die Verteilungsfunktion Fn{z) = P{Zn < z) der standardisierten Summe Xi + .,, + Xn — niJi ^J^ Y ^ Xj — /JL Zn —
i=l
fiir n —> 00 an jeder Stelle z eH gegen die Verteilungsfunktion $(z) der Standardnormalverteilung: Wir schreiben dafiir kurz Zn ~ iV(0, 1) .
318
7. Mehr uber Zufallsvariablen und Verteilungen
Der zentrale Grenzwertsatz gilt in noch wesentlich allgemeineren Varianten, wobei die X i , . . . ,Xn abhangig und verschieden verteilt sein diirfen. Entscheidend ist, dafi keine der Zufallsvariablen Xi die restlichen deutlich dominiert. Damit liefern die zentralen Grenzwertsatze die theoretische Begriindung dafiir, dafi eine Zufallsvariable X dann in guter Naherung normal verteilt ist, wenn sie durch das Zusammenwirken von vielen kleinen zufalligen Effekten entsteht. Fiir den eingangs betrachteten Spezialfall einer binomialverteilten Variable Hn = Xi + ,.. + Xn -
5(n,7r)
mit unabhangigen Bernoulli-Variablen Xi ~ 5 ( 1 , TT) , E{Xi) = n, Var{Xi) = 7r(l — n) erhalt man:
Grenzwertsatz von de Moivre
Fiir n —> oo konvergiert die Verteilung der standardisierten absoluten Hdufigkeit Hn — riTT
gegen eine Standardnormalverteilung. Fiir grofies n gilt Hn ~a N{n'K^ n7r(l — TT)) , d.h. die 5 ( n , 7r)-Verteilung lafit sich durch eine Normalverteilung mit // = WK, (7^ = n7r(l — TT) approximieren. Fiir die relative Hdufigkeit Hn/n gilt entsprechend Hn/n^N{7r,7T{l-7r)/n)
7.2
Approximation von Verteilungen
Dieser Abschnitt fafit einige Moglichkeiten zur Approximation von diskreten und stetigen Verteilungen durch in der Regel einfacher handhabbare Verteilungen zusammen. Besonders wichtig ist die Approximation der Binomialverteilungen durch eine Normalverteilung sowie die Approximation von Quantilen stetiger Verteilungen, insbesondere der Chi-Quadrat und Student-Verteilung, durch Quantile der Normalverteilung. Die theoretische Grundlage hefert in vielen Fallen der zentrale Grenzwertsatz.
7.2 Approximation von Verteilungen
319
Die Normalverteilungsapproximation der Binomialverteilung beruht direkt auf dem Grenzwertsatz von Moivre, einem Spezialfall des zentralen Grenzwertsatzes. Danach lafit sich die Verteilungsfunktion P(X < x) = jB(x|n, TT) von X ~ S ( n , TT) durch eine Normalverteilung mit fi = n7r und cr^ = n7r(l — TT) annahern. Es gilt also
P{X
<x)^^
NormalverteilungS' approximation
X — rtTT
^/n7^(l — n)
Die Approximation wird besser, wenn die Treppenfunktion des Wahrscheinlichkeitshistogramms von der Dichtekurve etwa in der Mitte getroffen wird. Dies ftihrt zur sogenannten Stetigkeitskorrektur^ bei der im Zahler 0.5 addiert wird.
Stetigkeitskorrektur
Approximation der Binomialverteilung mit Stetigkeitskorrektur Sei X ^ B{n, 7r)-verteilt. Falls
TITT
und n ( l —
TT)
grofi genug sind, gilt
X + 0.5 — nTT
P{X<x)=:B{x\n,7r)^^
\/n7r(l - TT) _,. __
.
_. / X + 0.5 - nTT \
P{X = x) ?^ $ I —.
^/^lJ^{1^^7^)
_ / X - 0.5 - nTT
1 - $
yrijr^T^-Tr)
Faustregel: nvr > 5 , n ( l — TT) > 5 Die in der Literatur angegebenen Faustregeln sind nicht immer einheitlich, sondern sctiwanken in Abhangigkeit von der angestrebten Approximationsgiite. Treffer und Nieten
Beispiel 7.1
In Beispiel 5.16(b) (Seite 257) wurden 20 Stiick eines Massenartikel gepriift. Wenn grofiere Stiickzahlen entnommen warden, arbeitet man mit der Normalverteilungsapproximation. Sei etwa n = 100, also X ~ J 5 ( 1 0 0 , 0.90). Dann wird wegen nn = 90, n(l - TT) = 10 die Faustregel gerade erfiillt. Dann ist etwa P{X < 90) « $
90.5 - 90 V VlOO . 0.90 . 0.10
$
0.5
: $(0,167) =0.576, und P{X = 90) « $ (^^
- $
0.5
2$ f ^ V 1=0.134.
Dabei ntitzt man $(-a:) = 1 — ^{x) aus, vgl. Abschnitt 6.3.1. Die Wahrscheinlichkeit, genau den Erwartungswert E{X) = n7r = 90 zu erhalten, sinkt damit auf ca. 13 %. D
7. Mehr uber Zufallsvariablen und Verteilungen
320
Das Diagramm der Abbildung 7.4 zeigt im Uberblick weitere Approximationsmoglichkeiten zusammen mit Faustregeln auf. Die Pfeile zwischen den Verteilungen bedeuten dabei "approximierbar durch". Die Approximationsbedingungen sind zusatzlich angegeben. Viele dieser Approximationen wurden in den Abschnitten 5.3 und 6.2 bereits angesprochen, weitere ergeben sich daraus durch Verkniipfung untereinander. So ergibt sich beispielsweise durch die Betrachtung der Poisson-Verteilung als Grenzfall fT(n
12 \it^
AT ^/^\
ly ^ ±v± 1
A = nM/N n/N < 0.05 n>30 M/N < 0.05
= M/N n /N < 0.05 TT
' B(n,7r)
X — wn
fi — mr G^ = n7r(l — TT) nTT > 5 n(l - TT) > 5
n>30,
[I = nMjN (r2 = nM/N{\ - M/N) n/N < 0.05 nM/N > 5 n(l - M/N) > 5
TT < 0.05
Po{X)
fi = X a^ = X A>10
1 Nif,,a^) X^(n)
t(n) n >30 Ttansformation: Z = V2X - V2n - 1
n>30 iV(0,l)
ABBILDUNG 7.4: Approximationsmoglichkeiten und Reproduktionseigenschaften der Verteilungen
*7.3
321
Zufallszahlen und Simulation
der Binomialverteilung fiir n ^ oo und TT —> 0 die Naherung J5(n, TT) ~ Po(A = nn) mit der angegebenen Faustregel. Die Approximation der Binomialverteilung durch eine Normalverteilung fiihrt dazu, dafi auch die Poisson-Verteilung fiir grofieres A approximativ normalverteilt ist. Bei Beriicksichtigung der Stetigkeitskorrektur erhalt man fiir X ^ Po{X) und A > 10 P{X
'7.3
<x)^^
x + 0.5-A
7r~
Zufallszahlen und Simulation
Zur Untersuchung komplexer Zufallsvorgange, z.B. bei der Planung von Produktionssystemen oder von Grofiprojekten, spielen Computersimulationen eine wichtige Rolle. Dabei werden am Computer Zufallszahlen x i , . . . ,Xn mit Hilfe spezieller Algorithmen berechnet. Solche Algorithmen nennt man Zufallsgeneratoren.
Computersimulationen Zufallszahlen
Grundlegend ist dabei die Erzeugung von Zufallszahlen xi, X2,..., x^^, deren Werte sich in sehr guter Naherung wie Realisierungen von unabhangigen auf [0,1] gleichverteilten Zufallsvariablen Xi, X 2 , . . . , Xn verhalten. Da die Werte xi, ^ 2 , . . . , x^ tatsachlich jedoch berechnet werden, sind sie nicht echt zufallig. Man spricht deshalb Pseudoauch genauer von Pseudo-Zufallszahlen^ die sich (fast) wie echte verhalten. Fiir die Zufallszahlen zugrundeliegenden numerischen Algorithmen verweisen wir auf die in Abschnitt 7.5 angegeben Spezialliteratur. Mit Hilfe von gleichverteilten Zufallszahlen lassen sich Gleichverteilung Zufallszahlen fiir andere Verteilungen durch geeignete Transformationen erzeugen. Mit Zufallszahlen konnen wir auch innerhalb der Statistik sogenannte MonteCarlo-Methoden einsetzen. Mit gleichverteilten Zufallszahlen konnen wir z.B. Spiele mit dem Gliicksrad am Rechner simulieren. Wenn wir etwa die relative Haufigkeit von Werten berechnen, die im Intervall [0.2,0.6] liegen, und rait der Wahrscheinlichkeit P(0.2 < X < 0.6) = 0.4 vergleichen, dann sollte fiir grofieres n die relative Haufigkeit nach dem Gesetz grofier Zahlen mit hoher Wahrscheinlichkeit bei 0.4 liegen. Auch sollte die empirische Verteilungsfunktion der gezogenen Zahlen xi, X2,..., Xn sich der [0,1]-Gleichverteilung annahern. Wir "spielen" nun Gliicksrad am Computer, indem wir wiederholt auf [0,1] gleichverteilte Zufallszahlen Ziehen. Das Intervall [0,1] wird wie in Abbildung 7.5 in 10 Teilintervalle der Lange 0.1 zerlegt und zu jedem "Spiel" wird festgestellt, in welches Teihntervall die gezogene Zufallszahl fallt. Abbildung 7.5 zeigt links das resultierende Histogramm mit den relativen Haufigkeiten fiir die 10 Teilklassen nach
Monte-CarloMethoden
7. Mehr uber Zufallsvariablen und Verteilungen
322
n = 100 Spielen. Man sieht, dafi die relativen Haufigkeiten zum Teil noch deutlich von dem zu erwartenden Wert 0.10 abweichen. Fiir n = 1000 haben sich diese Haufigkeiten bereits wesentlich besser um den Wert 0.10 stabilisiert. Anders ausgedriickt: Die empirische Verteilung der gezogenen Zahlen approximiert die "wahre" Gleichverteilung besser.
BernoulliVerteilung
Binomialverteilung Exponentialverteilung
Zufallszahlen fiir andere Verteilungen lassen sich aus gleichverteilten Zufallszahlen durch geeignete Transformationen gewinnen. Je nach Verteilung kann dies sehr einfach oder aber auch kompliziert sein. Will man beispielsweise Zufallszahlen x i , . . . , x^ zur Bernoulli-Verteilung 5 ( 1 , TT) erzeugen, kann man folgendermaiJen vorgehen: Zunachst "zieht" man gleichverteilte Zufallszahlen ui^... ^Un.lst Ui<7r setzt man Xi — 1, sonst Xi = 0, i = 1 , . . . , n. Durch Addition erhalt man mit x = xi + .. .+Xn eine Zufallszahl zur Binomialverteilung B(n, TT). Das Erzeugen von exponentialverteilten Zufallsvariablen ist bereits etwas schwieriger. Dazu miissen wir Zahlen xi,X2,... ,3:^1 erzeugen, die als Realisierungen von unabhangigen Zufallsvariablen Xi, X 2 , . . . , X^^, die alle wie X ~ £^x(A)-verteilt sind, angesehen werden konnen. Dies geschieht durch geeignete Transformation von Zufallszahlen 161,1^2? • • • 5 '^n aus einer [0,1]-Gleichverteilung. Die Transformation ergibt sich durch folgende Uberlegung: Fiir X ~ Ex{X) gilt P{X <x) =
l-e
-\x
Fix).
Mit der Umkehrfunktion F-^(a;) = - - l n ( l - a ; ) f(x)
f(x)
0.14 H
0.14
0.12
0.12
0.10 A
0.10
0.08 -I
0.08
0.06
0.06
0.04 H
0.04
0.02
0.02 H
>.
0.0 0.0
0.2
0.4
0.6
0.8
1.0
0.0 0.0
0.2
0.4
0.6
0.8
ABBILDUNG 7.5: Empirische Haufigkeitsverteilungen beim Ziehen von n= 100 (Unks) und n = 1000 rechts auf [0,1] gleichverteilten Zufallszahlen
1.0
*7.3
323
Zufallszahlen und Simulation
gilt F{x) = u
<^=^
x = F~^(ix).
Mit der transformierten Zufallsvariable U = F{X) gilt dann
P{U
< F-\u))
1 _ e-Ax _ ^
= P{X < x)
0 < u < 1,
d.h. U ist auf [0,1] gleichverteilt. Somit liefert die Transformation Xi = F~^{ui) = - - ln(l -Ui),
i = 1,2,..., n ,
von auf [0,1] gleichverteilten Zufallszahlen ^1,1^2? • • • 5^n exponentialverteilte Zufallszahlen Xi, X2, . . . 5:3^nWenn wir analog wie bei der Gleichverteilung 100 bzw. 1000 mit Parameter A = 0.75 exponentialverteilte Zufallszahlen bilden, ergeben sich die Histogramme der empirischen Haufigkeitsverteilung in Abbildung 7.6. Man erkennt wieder, dafi die zugrundeliegende "wahre" Exponentialverteilung fiir grofieres n besser approximiert wird. f(x)
f(x)
0.8 4^
0.8^
- ^ ^ 0
2
4
T>„
6
8
10^^
T>.
0
2
4
6
8
10"
ABBILDUNG 7.6: Histogramme zu n = 100 (links) und n = 1000 (rechts) auf [0,1] exponentialverteilten Zufallszahlen
Mit Hilfe geeigneter Transformationen von gleichverteilten Zufallsvariablen, auf die wir hier nicht naher eingehen, lassen sich am Computer auch standardnormalverteilte Zufallszahlen x i , . . . , a:^,... erzeugen, die als Realisierungen von unabhangigen A/'(0,1)-Variablen X i , . . . , Xn^... angesehen werden konnen. Durch den Ubergang zu yi = 12 + axi erhalt man dann N{fi, cr^)-verteilte Zufallszahlen. Abbildung 7.7 zeigt fiir ^ = 2 und cr^ = 4 die "wahre" Dichte der N(2,2)Verteilung, das resultierende Histogramm und eine Kernapproximation der Dichtekurve der empirischen Verteilung zu n = 100 gezogenen Zufallszahlen. Dabei zeigen. sich noch deutliche Abweichungen zwischen theoretischer und empirischer Verteilung.
Standardnormalverteilung
324
7. Mehr uber Zufallsvariablen und Verteilungen
-
4
-
3
-
2
-
1
0
1
2
3
4
5
ABBILDUNG 7.7: Dichte der A/'(2,2)-Verteilung, Histogramm und Dichtekurve (•••-) der empirischen Verteilung
*7.4
Einige Erganzungen
Dieser Abschnitt enthalt einige Erganzungen zu Zufallsvariablen, Verteilungen und ihren Eigenschaften. 7.4.1
Zufallsvariablen als Abbildungen
In den einfiihrenden Beispielen 5.1 bis 5.3 (ab Seite 224) hatten wir gezeigt, dafi sich eine Zufallsvariable X auch als Abbildung auffassen lafit: Jedem Ergebnis u einer zugrundeliegenden Ergebnismenge ft wird dabei sein Wert X{UJ) = x, eine reelle Zahl, zugeordnet. So ist etwa in Beispiel 5.2 (Zweimal Wiirfeln) jedem Paar to = (z, j ) , 1 < ^7 j £ 6, durch die Zufallsvariable X = "Augensumme" der Wert X{uj) = x = i+j zugeordnet. In Beispiel 5.3 (Mietspiegel) wird fiir jede ausgewahlte Wohnung u aus der Gesamtheit Q aller mietspiegelrelevanten Wohnungen die zu zahlende Nettomiete X = X{(jj) Oder ihre Wohnflache y = Y{u) festgestellt. Ergebnisse der Art {X = x}, {X < x} usw. lassen sich dann auf Ereignisse der urspriinglichen Ergebnismenge zuruckfiihren. Man identifiziert jeweils {X = a:}mit{u;: X{u;) = x} , {X < x}mit{a;: X{uj) < x} usw. So ist beim zweimaligen Wiirfeln {X = 4} = {(1,3), (2,2), (3,1)}, {X < 4} = {(1,1), (1,2), (1,3), (2,1), (2,2), (3,1)}, und beim Mietspiegel tritt das Ereignis {X < 1000} ein, wenn eine Wohnung mit einer Nettomiete von hochstens 1000 € gezogen wird, d.h. der Menge {cj : X(cu) < 1000} angehort.
^7A
325
Einige Erganzungen
Nimmt man diese Abbildungseigenschaft von Zufallsvariablen explizit in die Definition auf, so ergibt sich:
Zufallsvariablen und Ereignisse Gegeben sei ein Zufallsexperiment mit der Ergebnismenge ft, Eine Zufallsvariable X ist eine Abbildung, die jedem oj eft eine reelle Zahl X{ij) = x zuordnet, kurz X:0—>R (jj H-» X{u)
= X .
Der Wert x, den X bei Durchfiihrung des Zufallsexperiments annimmt, heifit Realisierung von X, Durch die Zufallsvariable X werden Ereignisse festgelegt, beispielsweise von der Art: {X = x} =: {u € n\X{u) = x} , {X<x}^ -- {oj € n\X{oj) < x} , {a<X
=••{ujen\a<X{uj)
wobei / ein '.[ntervall ist.
Wie etwa Beispiel 5.4 (Seite 226) zeigt, ist es in vielen Anwendungen nicht notwendig, nicht wichtig oder nicht moghch, einen zugrundehegenden Ergebnisraum wie in den Beispielen 5.1 bis 5.3 zu finden. Trotzdem lassen sich die dabei interessierenden Merkmale X, etwa die Rendite einer Aktie wie in Beispiel 5.4, formal ebenfalls als Zufallsvariable im Sinne der obigen Definition auffassen: Als Ergebnisraum ft wahlt man die Menge aller fiir x moglichen Werte, d.h. den Trager T oder auch eine Obermenge dieser Werte, also in jedem Fall fi C R. Als Zuordnungsvorschrift wahlt man to = x = X{uj)^ d.h. X ist formal die "identische" Abbildung. Tatsachlich interessiert man sich aber selten fiir X als Abbildung, insbesondere nicht fiir das eben beschriebene Konstrukt. Vielmehr mochte man etwas iiber die Verteilung von X wissen, d.h. iiber Wahrscheinhchkeiten der Form P{X e I) oder P{X G 5 ) , wobei / ein Intervall oder allgemeiner B eine "zulassige" Teilmenge von R ist, vgl. Abschnitt 5.1.
Abbildungseigenschaft
326
7. Mehr uber Zufallsvariablen und Verteilungen
Wahrscheinlichkeitsverteilung
Die Wahrscheinlichkeitsverteilung nung von Wahrscheinlichkeiten
P{XeI)
oder kurz Verteilung von X ist die Zuord-
Oder
P{XeB)
fiir Intervalle oder zulassige Bereiche.
7.4.2
Verteilungsfunktion und ihre Eigenschaften
Die Festlegung aller Wahrscheinlichkeiten P(X e I) ware fiir praktische Zwecke miihsam, aber auch unnotig. Wegen der Rechenregeln fiir Wahrscheinhchkeiten geniigt es namhch, die Wahrscheinhchkeiten P{X < x) fiir Ereignisse der Form {X < x} zu kennen. Daraus lassen sich die Wahrscheinhchkeiten fiir andere Ereignisse berechnen. Dies fiihrt sofort zur folgenden Definition der Verteilungsfunktion, bei der wir zunachst nicht mehr zwischen diskreten und stetigen Zufallsvariablen unterscheiden: Verteilungsfunktion
Sei X eine Zufallsvariable. Die Funktion F{x)^ die jedem a; 6 R die Wahrscheinlichkeit P{X <x) zuordnet, F{x) = P{X < x), heifit Verteilungsfunktion von X, Fiir diskrete Zufallsvariablen ist F{x) immer eine monoton wachsende Treppenfunktion, fiir stetige Zufallsvariablen eine monoton wachsende stetige Funktion. Es gibt jedoch auch Zufallsvariablen, die weder diskret noch stetig sind. Sei beispielsweise X die Wartezeit eines Kunden vor einem Schalter. Dann kann etwa mit Wahrscheinhchkeit 0.2 der Schalter frei sein, d.h. P{X = 0) = 0.2. Ist der Schalter jedoch nicht frei, kann die Wartezeit etwa auf dem Intervall (0, m] gleichverteilt sein, wenn m die maximale Wartezeit ist. Die Verteilungsfunktion sieht dann wie in Abbildung 7.8 aus. Sie weist bei x = 0 einen Sprung der Hohe 0.2 auf, sonst ist sie stetig. Es gibt offensichtlich auch noch kompliziertere Formen von Verteilungsfunktionen, auf die wir aber nicht eingehen.
"^lA
327
Einige Erganzungen F(x) 1.0
0.2
0.0
ABBILDUNG 7.8: Eine gemischt stetig-diskrete Verteilungsfunktion
Aus der Definition F{x) = P{X < x) latssen sich iiber Axiome und Rechenregeln folgende allgemeine Eigenschaften von Verteilungsfunktionen zeigen:
Eigenschaften von Verteilungsfunktionen 1. F{x) ist monoton wachsend, d.h. es gilt ^(^l) < ^(^2)
fur
a^i < 0:2 .
2. Es gilt lim F(x) = 0, rr—>—00
lim F(x) = 1. X—^H-oo
3. F{x) ist rechtsseitig stetig, d.h. fiir /i > 0 gilt lim F{x + h) = F{x). Mit dem linksseitigen Grenzwert lim Fix -h)
= F(x~)
gilt
F{x)-F{x-)
= P{X=^x).
Die Sprunghohe F{x) - F{x~) ist also gleich der Wahrscheinlichkeit fiir das Ereignis {X = x}.
Fiir stetige Verteilungsfunktionen ist F{x) = F(x~), also P{X = x) = 0. Fiir Verteilungsfunktionen von diskreten Zufallsvariablen ergibt Eigenschaft 3 gerade die
328
7. Mehr uber Zufallsvariablen und Verteilungen
Sprunghohen der Treppenfunktion. Die ersten beiden Eigenschaften lassen sich folgendermafien beweisen: 1. Fiir xi < X2 ist {X < xi} C {X < X2}. Damit folgt F{xi) = P(X < xi) < P{X < X2) = F{x2). 2. Fiir jede aufsteigende Folge Xn —> 00 gilt (-00, Xi] U (xi, X2] U . . . {Xn-l,Xn] U . . . = R . Daraus erhalt man fiir Xn —> 00 P{X < Xn) = F{xn) —> lim F{x) = 1. lim F(x) = 0 beweist man durch Komplementbildung. X—>—00
Der Beweis zu Eigenschaft 3 verlangt etwas mehr Aufwand, so dai3 wir an dieser Stelle darauf verzichten. Viele Begriffe und Eigenschaften von Zufallsvariablen lassen sich nicht nur fiir diskrete und stetige Zufallsvariablen, sondern auch fiir allgemeinere Typen ableiten, etwa Mischformen mit diskreten und stetigen Anteilen wie im obigen Beispiel. So gilt etwa die Definition der Unabhangigkeit von Zufallsvariablen ganz allgemein, wenn man in der Definition der Unabhangigkeit fiir stetige Zufallsvariablen beliebige Verteilungsfunktionen zulafit. Ebenso ist es moglich, Erwartungswerte, Varianzen, aber auch hohere Momente, die bei Schiefe- und Wolbungsmafien in Abschnitt 7.4.4 Verwendung finden, allgemein zu definieren. Entsprechend gelten Rechenregeln, Gesetze grofier Zahlen, die folgende Ungleichung von Tschebyscheff und vieles andere nicht nur fiir diskrete und stetige Zufallsvariablen, sondern allgemeiner. 7.4.3
Ungleichung von Tschebyscheff
Bei metrisch skalierten Zufallsvariablen ist man oft an den Wahrscheinlichkeiten fiir Ereignisse der Form {/a — c < X < fi + c} = {\X — fx] < c}, c > 0, oder den Komplementarereignissen {|X — /i| > c} interessiert. Dabei kann man fi = E{X) als "SoUwert" interpretieren, und {\X — ii\
"^7.4 Einige Erganzungen
329
Ungleichung von Tschebyscheff
Fiir eine Zufallsvariable X mit E{X) = // und Var{X) = cr^ gelten fiir beliebiges c > 0 folgende Ungleichungen: 2
P{\X-i2\>c)<^
2
und
P{\X-n\
Die zweite Ungleichung ergibt sich dabei aus der ersten wegen P{\X — /x| > c) = 1 — P{\X — fi] < c). Sie besagt, dafi bei festem c die Wahrscheinlichkeit fiir {fx — c<X
und P{Y = c^) = P{\X - fx\> c). Somit ist
E{Y) = c^P{\X - MI > c). Da nach Definition von Y immer Y < \X — /j,]"^ gilt, folgt E{Y) < E{X - ^f
= Var{X) = u'^ ,
d.h. die erste Ungleichung. WiJrfeln
Beispiel 7.2
Fiir X — "Augenzahl beim einmaligen Wiirfeln" ist fj, = 3.5 und a'^ = 2.92. Fiir c = 2 gilt nach der Ungleichung von TschebyscheflF P(3.5 - 2 < X <3.5 + 2) = P(1.5 <X< 5.5) >1
2.92
^0.27.
Wegen {1.5 < X < 5.5} = {x G (2,3,4,5}} gilt jedoch P{1.5<X<5.5} = ^ ^ H . Die Abschatzung ist also hier sehr ungenau.
D
7. Mehr uber Zufallsvariablen und Verteilungen
330
ka-Bereiche
Die Ungleichung von Tschebyscheff ifindet vor allem fiir feinabgestufte diskrete Oder stetige Zufallsvariablen Verwendung. Insbesondere wird die zweite Form oft zur Abschatzung fiir die Wahrscheinlichkeiten von ka-Bereichen [// — ka^/j. + fccr], A; = 1,2, 3 , . . . , benutzt. Man erhalt mit c = ka P ( M - f c c 7 < X < M + fccr)> 1 - ^
= 1 - 1 .
Fiir /c = 1 ist die Abschatzung wertlos. Fiir k = 2 und k = 3 ergibt sich P(/i -2a<X
3 2a)>j,
o
P{fi - 3(7 < X < /i + 3a) > - . Falls X normalverteilt ist, ergeben sich als WahrscheinHchkeiten fiir die entsprechenden Bereiche die Werte 0.9545 {k = 2) und 0.9973 {k = 3), vgl. Abschnitt 6.3. Auch hier, wenn auch nicht in dem Mafie wie im vorangehenden Beispiel, wird der Informationsverlust deutlich, den man erleidet, wenn keine Kenntnis liber die Verteilung benutzt wird. Mit der Ungleichung von Tschebyscheff laiit sich auch das Gesetz der groiSen Zahlen leicht beweisen. Dazu wendet man die Ungleichung auf das arithmetische Mittel Xn an. Wegen E{X = /x), Var{Xn) = cr'^/n erhalt man 2
P(|X„-/i)|
MaBzahlen fiir Schiefe und Wolbung
Mafizahlen fiir die Schiefe von Verteilungen lassen sich in Analogie zu Kennzahlen fiir empirische Verteilungen definieren. Der p-Quantilskoeffizient nutzt die Beziehung zwischen Median und Quantilen.
2>Quantilskoeffizient der Schiefe
\X\—p
7p
^med) X\—.p
yarned Xp
70.25 heifit Quartilskoeffizient der Schiefe.
^p)
0 < p < 1,
7.5
331
Zusammenfassung und Bemerkungen
Es gilt —1 < 7P < 1 und 7p = 0 fiir symmetrische Verteilungen, 7p > 0 fiir linkssteile Verteilungen, 7p < 0 fiir rechtssteile Verteilungen. Ein weiterer Schiefeparameter ist der Momentenkoeffizient der Schiefe ^m —
E{X - t^f
mit fi = E{X), a'^ = Var{X), Wegen der dritten Potenz wird 7 ^ positiv, wenn die x-Werte iiberwiegen, die grofier als fi sind. Dies ist bei linkssteilen Verteilungen der Fall. Bei symmetrischen Verteilungen heben sich positive und negative Abweichungen gerade auf. Also gilt 7m = 0 fiir symmetrische Verteilungen, 7rn > 0 fiir linkssteile Verteilungen, 7m < 0 fiir rechtssteile Verteilungen . Beispiel 7.3
Rechtssteile Verteilung
Im Beispiel 6.10 (Seite 292) ist XQ.TS = VO.75, xo.25 = VO.25. Daraus folgt 70.25
{VoJE - Vo^) - {Vol - \/o:25) = -0.13. VoTrE-y/o^
Der negative Quartilskoeffizient indiziert also eine rechtssteile Verteilung.
7.5
D
Zusammenfassung und Bemerkungen
Die in Abschnitt 7.1.1 formuHerten Gesetze grofier Zahlen sind von grundlegender Bedeutung fiir die induktive Statistik: Falls man Daten x i , . . . , x ^ so erhebt, dafi sie sich als Ergebnisse von n unabhdngigen Wiederholungen der interessierenden Zufallsvariable X interpretieren lassen, dann konvergieren fiir n —^ 00 empirische Verteilungen und Parameter gegen die Verteilung von X und entsprechende Verteilungsparameter. Fiir Zufallsstichproben, wie sie in den spateren Kapiteln
7. Mehr uber Zufallsvariablen und Verteilungen
332
zur induktiven Statistik zugrunde gelegt werden, ist diese Voraussetzung zumindest naherungsweise erfiillt. Dann lassen sich die Verteilungen bzw. Parameter von X durch die empirischen Analoga sinnvoU schatzen. Ebenso grundlegend ist der zentrale Grenzwertsatz: Er rechtfertigt die Annahme einer - zumindest approximativen - Normalverteilung fiir Zufallsvariablen, die sich additiv aus vielen zufalligen Einfliissen ahnlicher Grofienordnung erklaren lassen, und - noch wichtiger - Normalverteilungsapproximationen fiir eine Reihe von Schatz- und Teststatistiken der induktiven Statistik, Beweise dieser Grenzwertsatze und Verallgemeinerungen finden sich in Lehrbiichern zur Wahrscheinlichkeitstheorie und mathematischen Statistik, z.B. Fisz (1989). Zufallszahlen sind Basisbausteine fiir moderne, computerintensive Simulationstechniken. Sie konnen aber auch (wie in Abschnitt*7.3) zur empirischen Uberpriifung oder zur Gewinnung von theoretischen Resultaten der Statistik dienen. Umfasssende Darstellungen zur Erzeugung von Zufallszahlen finden sich bei Ripley (1987) und Devroye (1986).
7.6
Aufgaben
Aufgabe 7.1
Die Studie zum Gesundheitszustand von Friihgeburten aus Aufgabe 6.S wurde an mehreren Kliniken durchgeftihrt, so dafi insgesamt 500 Kinder teilgenommen haben. Welche Verteilung besitzt die Anzahl der Kinder, die weniger als 980 g wiegen? Wie grofi ist die Wahrscheinlichkeit, dafi genau 175 Kinder der Studie ein Geburtsgewicht kleiner als 980 g aufweisen?
Aufgabe 7.2
In der Situation von Aufgabe 5.10 befragt der Journalist zufallig fiinf der 200 Angestellten eines Kaufhauses. Wie lauten annahernd die gesuchten Wahrscheinlichkeiten, wenn der Anteil der Angestellten, die bereit sind, langer zu arbeiten, wieder gleich 0.2 ist? Welche approximative Verteilung hat die interessierende Zufallsvariable ferner, wenn 40 Personen der ganzen Warenhauskette mit 1000 angestellten Verkauferinnen befragt wiirden?
Aufgabe 7.3
Ihr kleiner Neffe bastelt eine 50-teilige Kette, deren einzelne Glieder im Mittel eine Lange von 2 cm mit einer Standardabweichung von 0.2 cm aufweisen. Welche Verteilung hat die Gesamtlange der Spielzeugkette?
Aufgabe 7.4
Die Nettomiete von Zwei-Zimmer-Wohnungen eines Stadtteils sei annahernd symmetrisch verteilt mit Erwartungswert 570 und Standardabweichung 70. Es wird eine Zufallsstichprobe von 60 solcher Wohnungen gezogen. Geben Sie mit Hilfe der Ungleichung von Tschebyscheff ein um den Erwartungswert symmetrisches Intervall an, in dem das Stichprobenmittel mit 95 % Wahrscheinlichkeit liegt.
7.6
Aufgaben
333
Eine Fertigungslinie stellt Fufiballe her, deren Durchmesser im Mittel normgerecht ist, aber eine Standardabweichung von 0.4 cm aufweisen. Balle die mehr als 0.5 cm von der Norm abweichen gelten als Ausschufi. Wie groB ist der Auschufianteil hochstens?
Aufgabe 7.5
Wie kann man mit Hilfe von normalverteilten Zufallszahlen t-verteilte Zufallszahlen simulieren?
Aufgabe 7.6
Bestimmen Sie den Quartilskoeffizienten der geometrischen Verteilung mit TT = 0.5 sowie der Exponentialverteilung mit dem Parameter A = 0.5.
Aufgabe 7.7
8 Mehrdimensionale Zufallsvariablen
Bei der Durchfiihrung von Zufallsexperimenten interessiert man sich haufig nicht nur fiir ein einziges Merkmal allein, sondern fiir zwei oder mehrere Variablen, die fiir dieselben Untersuchungseinheiten erfafit werden. Es ist dann notwendig, die gemeinsame Verteilung dieser Merkmale zu betrachten. Im folgenden wird zuerst das Konzept mehrdimensionaler Zufallsvariablen eingefiihrt und anschliefiend der zweidimensionale Fall fiir diskrete und stetige Zufallsvariablen eingehender betrachtet. Ein wesentlicher Abschnitt gilt der Kovarianz und der Korrelation als Verteilungsparametern, die den Zusammenhang zwischen je zwei Zufallsvariablen charakterisieren.
8.1
BegrifF mehrdimensionaler Zufallsvariablen
Eindimensionale Zufallsvariablen erhalt man, indem man die Auspragungen von Merkmalen als Ergebnisse eines Zufallsvorgangs auffafit. Mehrdimensionale Zufallsvariablen ergeben sich dadurch, dafi anstatt eines Merkmals, d.h. einer Zufallsvariable, mehrere betrachtet werden. Den Ergebnissen des Zufallsvorgangs werden demnach mindestens zwei reelle Zahlen zugeordnet. Einige typische Beispiele soUen dies veranschaulichen. Mietspiegel
Bei der Erstellung eines Mietspiegels ist man an mehreren Merkmalen wie beipielsweise Nettomiete, Wohnflache und Zimmerzahl interessiert. Jede Wohnung weist fiir diese Merkmale bestimmte Auspragungen auf. Die Merkmale lassen sich als Abbildungen verstehen, die jeder Wohnung die ihr entsprechende Nettomiete, Wohnflache und Zimmerzahl zuordnet. Wahlt man nun eine der Wohnungen rein zufallig aus, so ist die Wahrscheinlichkeit, mit der bestimmte Auspragungen des Tupels (Nettomiete, Wohnflache, Zimmerzahl) resultieren, bestimmt durch die in der jeweihgen Stadt vorhegenden Wohnverhaltnisse. D
Beispiel 8.1
8. Mehrdimensionale Zufallsvariablen
336
Beispiel 8.2
Roulette
Die Felder des Roulettes tragen die Zahlen 0,1 bis 36. Geht man von einem idealen Kessel aus, wird jedes Feld mit der Wahrscheinlichkeit 1/37 auftreten. Setzt man nicht auf Zahlen, sondern auf das Merkmal "Farbe" (also rot oder schwarz) bzw. auf den "Zahlentyp" (gerade oder ungerade) fokussiert sich das Interesse nur auf das Ergebnis dieser beiden Merkmale. Man betrachtet somit die Zufallsvariablen Farbe rote Zahl schwarze Zahl Zero
X
und Typ 1 gerade Zahl 2 ungerade Zahl 3 Zero.
Y=i
Das gesamte Zufallsexperiment reduziert sich damit auf die Betrachtung der Wahrscheinlichkeiten iiiv X = i,Y = j mit ij e {1,2,3}. Die Felder des Roulette sind bestimmt durch das folgende Schema, wobei die schwarzen Felder schattiert und die roten unschattiert sind.
Die Wahrscheinlichkeit fiir das gemeinsame Ereignis X = l , y = 1, also gerade und rot, entspricht demnach dem Auftreten der Zahlen 12, 14, 16, 18, 30, 32, 34, 36, d.h. P{X = 1,Y = 1) = P({12,14,16,18,30,32,34,36}) = 8/37. Die Wahrscheinlichkeiten fiir X = i,Y = j lassen sich fiir jede Auspragung von X und Y analog zu diesem Beispiel berechnen und in einer Tabelle darstellen
Y P{X = i,Y = j)
X
rot schwarz Zero
1 2 3
gerade 1 8/37 10/37 0
ungerade 2 10/37 8/37 0
Zero 3 0 0 1/37 D
8.1
Begriff mehrdimensionaler Zufallsvariablen
337
MeBwiederholungen
Beispiel 8.3
Ein einfaches Experiment wie der Miinzwurf wird dreimal wiederholt. Bezeichne Xk das Merkmal Y _ j I Kopf im fc-ten Wurf ^ ~ \ 0 Zahl im fc-ten Wurf. Eine Sequenz wie {K, K, Z) steht fiir das sukzessive Auftreten von Kopf, Kopf, Zahl beim 1., 2. und 3. Wurf. Fiir die gemeinsamen AuftretenswahrscheinUchkeiten erhalt man beispielsweise P(Xi = 1, X2 = 1, Xs = 1) = P{{{K, K,K))), P{Xi = 1,X2 = 1,^3 = 0) = P{{{K,K,Z)}). Die jeweils rechts stehenden Wahrscheinlichkeiten sind die Wahrscheinhchkeiten des Zufallsexperiments. Links steht die dadurch festgelegte WahrscheinUchkeit fiir das gemeinsame Auftreten bestimmter Auspragungen der einzelnen Zufallsvariablen. D
Jede Komponente von mehrdimensionalen Zufallsvariablen ist eine eindimensionale Zufallsvariable im Sinne der Kapitel 5 und 6. Wahrend bei eindimensionalen Zufallsvariablen jedem Ergebnis eines Zufallsvorgangs genau eine reelle Zahl zugeordnet wird, werden nun einem Ergebnis simultan mehrere reelle Zahlen zugeordnet. Jede Komponente, d.h. jede einzelne Zufallsvariable, entspricht dabei einer Zuordnung. Mehrdimensionale Zufallsvariablen lassen sich somit in Analogic zu Abschnitt*7.4 auch als mehrdimensionale Abbildungen verstehen. Den Zufallsvariablen X i , . . . , Xn liegt die Abbildung X i , X 2 , . . . ,Xri: r i — ^ R'^ U)\ >{Xi{uj),,.,,Xn{u))) zugrunde, die jedem Ergebnis uj genau n Mefiwerte zuordnet. Im Mietspiegelbeispiel entspricht Vt der Menge aller Wohnungen, im Roulette-Beispiel der Menge der Zahlen und im Miinzwurfbeispiel der Menge moglicher Kopf-Wappen-Kombinationen. Der Zufallscharakter der Auspragungen von X i , . . . , Xn ergibt sich aus dem Zufallsexperiment "Ziehen aus Jl". Von zentraler Bedeutung ist die sich daraus ergebende gemeinsame Verteilung der Zufallsvariablen. Fiir die Zufallsvariablen X i , . . . , X^ ist diese bestimmt durch P(XIG5I,...,X,
eBn),
womit die Wahrscheinlichkeit bezeichnet wird, dafi die Zufallsvariable Xi Werte in der Menge Bi annimmt, gleichzeitig X2 Werte in der Menge B2 annimmt, usw. Die Schreibweise Xi G S i , X 2 G B25 • • • , ^ n ^ 5 ^ , bei der Ereignisse durch
8. Mehrdimenslonale Zufallsvariablen
338
Kommata getrennt sind, entspricht wiederum dem logischen "und", d.h. alle Ereignisse treten gemeinsam (Schnittmenge) auf. Unter Betonung des Abbildungscharakters lafit sich das Ereignis {Xi G J5i,... ,Xn G 5^} auch darstellen durch {uj\Xi{uj) e B i , . . . , Xn{c^) G Bn}' Wie sich die gemeinsame Verteilung analog zum Fall einer Variable durch Instrumente wie Verteilungsfunktion und Dichte naher charakterisieren lafit, wird in den nachsten Abschnitten behandelt. Dabei werden wir uns weitgehend auf den Fall zweier Zufallsvariablen X und Y beschranken.
8.2
Zweidimensionale diskrete Zufallsvariablen
Seien X und Y zwei diskrete Zufallsvariablen, wobei X die Werte xi,a:2,... und Y die Werte yi,2/2, • • • annehmen kann. Die gemeinsame Wahrscheinlichkeitsverteilung ist bestimmt durch die Wahrscheinlichkeiten, mit der die Werte (xi^yj)^ i = 1,2,..., j = 1,2,..., angenommen werden.
Gemeinsame Wahrscheinlichkeitsfunktion
Die Wahrscheinlichkeitsfunktion ist bestimmt durch
der bivariaten diskreten Zufallsvariable (X, Y)
/•/^ y) = l ^ ( ^ = x,Y = y) fiir {x,y) G {(a;i,yi), {xi,2/2), • • • } [ 0 sonst. Wir bezeichnen die Wahrscheinlichkeitsfunktion auch als (gemeinsame) diskrete Dichte oder (gemeinsame) Verteilung,
endlich viele Ausprdgungen
In der Wahrscheinlichkeitsfunktion ist die gesamte Information des Zufallsexperiments in bezug auf die Merkmale X, Y enthalten. Besitzen X und Y jeweils nur endlich viele Ausprdgungen^ lafit sich die gemeinsame Wahrscheinlichkeitsfunktion iibersichtlich in Kontingenztafeln zusammenfassen. Besitze X die moglichen Auspragungen x i , . . . , Xj^ und Y die moghchen Auspragungen y i , . . . , ym- Bezeichne Pij = P{X = Xi,Y = yj) = f{xi, yj)
8.2
Zweidimensionale diskrete Zufallsvariablen
339
die Auftretenswahrscheinlichkeit an den Stellen (xi^yj)^ z = l,...,fc, j = 1 , . . . , m, mit positive! Wahrscheinlichkeitsfunktion, erhalt man die Kontingenztafel der Wahrscheinlichkeiten durch yi
•"
Vm
XI
pii
."
Plm
Xk
Pki
'
Kontingenztafel der Wahrscheinlichkeiten
Pkm
Ein einfaches Beispiel fiir eine Kontingenztafel ist die in Beispiel 8.2 wiedergegebene Tabelle fiir die Merkmale "Farbe" und "Zahlentyp". Eine graphische Veranschaulichung lai3t sich durch ein Stabdiagramm in der (rr:-y)-Ebene erreichen.
Stabdiagramm
ABBILDUNG 8.1: Stabdiagramm zu den Zufallsvariablen "Farbe" (1: rot, 2: schwarz, 3: Zero) und "Zahltyp" (1: gerade, 2: ungerade, 3: Zero) beim Roulette (Beispiel 8.2)
Aus der gemeinsamen Verteilung f{x,y) erhalt man problemlos die Verteilung der Zufallsvariable X ohne Beriicksichtigung der Zufallsvariable Y durch einfaches Aufsummieren. Die entsprechende Randverteilung von X ist bestimmt durch
fx{x) = P{X = X) = Y;^P{X = X,Y = yj) =
J2fi^,yj)-
Randverteilung von X
8. Mehrdimensionale Zufallsvariablen
340
Randverteilung von Y
Das Aufsummieren iiber samtliche mogliche Werte von Y bedeutet, dafi nicht beriicksichtigt wird, welchen Wert Y annimmt. Insbesondere gilt fx{^) = 0, wenn X nicht aus der Menge der moglichen Auspragungen xi,X2,... ist. Entsprechend ergibt sich die Randverteilung von Y durch die Wahrscheinlichkeitsfunktion
friy) = P{Y = y) = J2P{X = Xi,Y = y) = Y^f{xi,y)
mit /y(y) = 0, wenn y ^ {yi,y2,
•••}•
Randverteilungen Die Randverteilung von X ist gegeben[ durch fx{x) = P{X =-X)-
>yi). 3
die Randverteilung von Y durch fviv) = P{Y =-y)-
,y)i
Fiir den Fall endlich vieler Auspragungen von X und Y lassen sich die Randverteilungen wieder als Rander der Kontingenztafel darstellen, die die Wahrscheinlichkeiten enthalt. In Analogic zu den Kontingenztafeln fiir relative Haufigkeiten in Abschnitt 3.1 wahlt man dann wieder die "Punktnotation", in der
Pi- = YIP'^ ^ fx{xi)
und
p.j = ^Pij
j=i
die jeweiligen Zeilen- und Spaltensummen bezeichnen.
i=i
= friVj)
8.2
Zweidimensionale diskrete Zufallsvariablen
341
Kontingenztafel der Wahrscheinlichkeiten Die {k X m) Kontingenztafel der Wahrscheinlichkeiten hat die Form yi
•. •
Vm
Xi
Pn
• •.
Pim Pi-
Xk
Pkl
•••
Pfcm
Pfc.
p.l
...
p.m
1
Dabei bezeichnen fiir i = 1 , . . . , fc, j = 1 , . . . , m, p- = P(^X = Xi^Y = yj)
die Wahrscheinlichkeiten fiir (a:^,yj)^
Pi- = S Pij
die Wahrscheinlichkeiten fiir Xi^
k
p.j = ^ Pij
die Wahrscheinlichkeiten fiir yj,
2=1
Der wesentliche Unterschied zwischen dieser Kontingenztafel und den Kontingenztafeln in Abschnitt 3.1 liegt darin, dafi dort Haufigkeiten zusammengefafit sind, d.h. Daten beschrieben werden, wahrend die Eintrage in der hier betrachteten Kontingenztafel die wahren, allerdings in Anwendungen meist unbekannten Wahrscheinlichkeiten sind. Wenn man die gemeinsame Verteilung der Zufallsvariablen X und Y kennt, kann man einfach ableiten, wie eine der Zufallsvariablen verteilt ist, wenn man die Auspragung der anderen kennt. Unter der bedingten Wahrscheinlichkeitsfunktion von X gegeben Y = y (abgekiirzt X\Y = y) versteht man die Verteilung der Zufallsvariable X, wenn bekannt ist, dafi Y = y eingetreten ist. Es gilt also bei festgehaltenem y zu bestimmen, mit welcher Wahrscheinhchkeit die Werte xi,X2,... unter dieser Voraussetzung auftreten. Aus der Definition der bedingten Wahrscheinhchkeit erhalt man fiir P{Y = y)^0 PiX = Xi\Y = y) =
P{X = Xi,Y = y) _
PiY = y)
bedingte Wahrscheinlichkeitsfunktion
f{xi,y)
fy{y) '
wobei benutzt wird, dafi die Schreibweisen X = x oder Y = y Abkiirzungen fiir Ereignisse sind. Daraus ergibt sich unmittelbar die bedingte Wahrscheinlichkeitsfunktion bedingte Wahrscheinlichvon X gegeben Y = y bzw. die diskrete Dichte von X gegeben Y = y durch
fx{x\y) =
fix,y) fviy)
keitsfunktion von X
fiir festen Wert y.
8. Mehrdimensionale Zufallsvariablen
342
Fiir den (uninteressanten) Fall /y(y) = 0 definiert man fxi^lv) = 0 fiir alle x, Fiir festgehaltenes y ist fxi^lv) wieder eine Wahrscheinlichkeitsfunktion fiir die x-Werte, d.h. es gilt J2i fx{^i\y) = 1- Die Wahrscheinlichkeitsfunktion beschreibt das Verhalten der bedingten Zufallsvariable X\Y = y. Man beachte, dafi die bedingte Verteilung von X vollig analog zur bedingten Hdufigkeitsverteilung von X konstruiert ist. In Abschnitt 3.1.2 wird die bedingte Haufigkeitsverteilung fxio.ilbj) = hij/h.j betrachtet. Im Nenner findet sich dabei die Haufigkeit des Auftretens von Y = bj^ entsprechend bezieht man sich nur auf die Population mit Y = bj. In der Entsprechung dazu findet sich in der Definition der bedingten Wahrscheinhchkeitsfunktion im Nenner die Wahrscheinhchkeit P{Y = y), man bezieht sich also auf die Subpopulation, fiir die Y = y gilt. Vollig analog ergibt sich die bedingte Wahrscheinlichkeitsfunktion von Y gegeben bedingte Wahrscheinlich- X = X (kurz: Y\X = x) durch keitsfunktion von Y f{x,y) /y(yk) fx{x)' Dadurch wird das Verhalten der Zufallsvariable Y beschrieben, wenn bekannt ist, dafi X = x aufgetreten ist.
Bedingte Wahrscheinlichkeitsfunktionen
Die bedingte Wahrscheinlichkeitsfunktion Wert y und /y(y) ^ 0) bestimmt durch fx{x\y)
=
von X gegeben Y = y ist (fiir festen
fviy) '
die bedingte Wahrscheinlichkeitsfunktion von Y gegeben X = x ist (fiir festen Wert X und fx{x) ^ 0) bestimmt durch fY(y\x)
f{x,y) fxix) •
Fiir friv) = 0 legt man fx{x\y) = 0 und fiir fx(x) = 0 entsprechend fY{y\x) = 0 fest.
Beispiel 8.4
Roulette
Die Randverteilungen des Roulette-Beispiels mit den Variablen Farbe {X) und Zahlentyp (Y) ergeben sich unmittelbar als die Randsummen in der folgenden Tabelle.
8.2
Zweidimensionale diskrete Zufallsvariablen
343
Y P{X = i,Y = j)
X
rot 1 schwarz 2 Zero 3
gerade 1 8/37 10/37 0 18/37
ungerade 2 10/37 8/37 0 18/37
Zero 3 0 0 1/37 1/37
18/37 18/37 1/37
Tx
1
fy Die Randsummen spiegeln wider, dafi weder eine Farbauspragung noch ein bestimmter Zahlentyp beim Roulette bevorzugt werden. Es gilt jeweils die Wahrscheinlichkeit 18/37 fiir die einzelnen Auspragungen, wobei Zero natiirlich eine Sonderstellung einnimmt. Fiir die bedingte Wahrscheinlichkeitsfunktion der Zufallsvariable "Zahlentyp, gegeben rote Zahl", die vom Typ y | X = 1 ist, ergibt sich P(Y = i\X = 1) = 8/18,
P{Y = 2\X = 1) = 10/18,
P{Y = 3\X = 1) = 0.
Fiir "Zahlentyp, gegeben schwarze Zahl" erhalt man P{Y = 1|X = 2) = 10/18,
P(Y = 2\X = 2) = 8/18,
P{Y = 3\X = 2) = 0.
Daraus ergibt sich fiir logisch denkende Spieler, dafi wenn sie auf rot {X = 1) gesetzt haben, sie im gleichen Spieldurchgang besser auf ungerade (Y = 2) setzen als auf gerade (Y" = 1), wenn Sie die Chance auf eine Verdoppelung des Einsatzes im Auge haben. Zu bemerken ist allerdings, dafi die Gewinnerwartung insgesamt nicht von der Plazierung des zweiten Chips abhangt. Die Zufallsvariablen X und Y sind offensichthch nicht unabhangig im Sinne von Abschnitt 5.2.2. D
Die Verallgemeinerung des Konzeptes der Verteilungsfunktion auf zwei Variablen fiihrt zu einer zweidimensionalen Funktion. Die gemeinsame Verteilungsfunktion von X und Y ist gegeben durch
Fix,y)
= PiX<x,Y
gemeinsame Verteilungsfunktion
/(^-^i)" Xi<xyj
In dieser weniger anschaulichen, aber gelegentlich hilfreichen Funktion wird die simult ane Wahrscheinlichkeit angegeben, dafi X Werte annimmt, die kleiner oder gleich X sind, und Y gleichzeitig Werte annimmt, die kleiner oder gleich y sind. Aus F{x^ y) lassen sich unmittelbar die Randverteilungsfunktionen bestimmen. Man erhalt
Fx{x) = P{X <x)=
F{x, ^)=J2J2 Xi<x
Fy{y)=
/ ( ^ i ' y^)' Vj
P(y
von X bzw. y
Randverteilungsfunktion
8. Mehrdimensionale Zufallsvariablen
344
Gemeinsame Verteilungsfunktion
Als gemeinsame Verteilungsfunktion zu X und Y erhalt man fi^^^Vj)-
F{x,y) = P{X<x,Y
8.3
Zweidimensionale stetige Zufallsvariablen
Wenn X und Y stetig sind, das heifit, wenn zu jeweils zwei Wert en auch jeder Zwischenwert auftreten kann, lafit sich die Wahrscheinlichkeit fiir das gemeinsame Auftreten bestimmter Werte X = x und Y = y nicht mehr sinnvoU angeben. Wie in der eindimensionalen Betrachtung lafit sich aber die Wahrscheinlichkeit fiir Intervalle angeben. Gemeinsame stetige Verteilung und Dichte zweier Zufallsvariablen
Die Zufallsvariablen X und Y sind gemeinsam stetig verteilt^ wenn es eine zweidimensionale Dichtefunktion f{x^y) > Q gibt, so dafi P{a<X
Randdichte von X
f
f
Ja
Jc
f{x, y)dydx.
Die Dichtefunktion / besteht nicht wie im diskreten Fall nur aus Staben an bestimmten Punkten, sondern ist eine zumindest stiickweise glatte Funktion, die darstellt, wie dicht die Wahrscheinlichkeit an bestimmten Stellen "gepackt" ist. Das Doppelintegral in der Definition entspricht anschaulich dem von der Funktion / ( x , y) eingeschlossenen Volumen iiber der Grundflache [a, 6] x [c,d]. Ein Beispiel fiir eine derartige Dichtefunktion ist in Abbildung 8.2 dargestellt. Jede zweidimensionale Dichtefunktion lafit sich als derartiges ^'Gebirge" in der {x-yyEhene darstellen, wobei das Volumen des Gebirges der Gesamtwahrscheinlichkeit entsprechend eins betragt. Aus dem durch / festgelegtem Verteilungsgesetz lassen sich wieder die Randdichten bestimmen. Die Randdichte von X, d.h. unter Vernachlassigung von y , ist bestimmt durch oo
f{x,y)dy.
/ -OO
8.3
345
Zweidimensionale stetige Zufallsvariablen
ABBILDUNG 8.2: Form einer zweidimensionalen Dichte
f{x^y)
Das bei diskreten Zufallsvariablen benutzte Summieren iiber alle moglichen y-Werte wird hier ersetzt durch das Integrieren iiber alle y-Werte. Entsprechend ergibt sich die Randdichte von Y (unter Vernachlassigung von X) durch oo
Randdichte von Y
f{x,y)dx.
/ -oo
In volliger Analogic zum diskreten Fall erhalt man die bedingte Dichte von X\Y — y durch fiir festes y mit /y(y) ^ 0. fx{x\y) =
bedingte Dichte von X\Y = y
fviy)
Diese Dichtefunktion gibt das Verteilungsgesetz von X wieder, wenn Y = y bekannt ist, d.h. das Verteilungsgesetz der Zufalls variable X\Y = y. Wie man einfach nachpriift, ist fx{^\y) fiir festes y wieder eine stetige Dichte, d.h. es gilt oo
/
fxix\y)dx = 1.
Die bedingte Dichte von y | X = a; ist entsprechend bestimmt durch
fvivlx) =
fix,y) fxix)
Die gemeinsame Verteilungsfunktion stetiger Variablen ist gegeben durch x
ny
I /
f{u,v)dvdu.
-oo J —oo
Da X und y hier die Integrationsgrenzen bezeichnen, werden als Argumente in / die Variablen u und v benutzt.
bedingte Dichte von Y\X = X
346
8. Mehrdimensionale Zufallsvariablen
Randdichten Die Randdichte von X ist gegeben durch POO
fx{x) --= /
fix ,y)dy,
J —oo
die Randdichte von Y durch POO
/y(y)= =
/
y)dx.
fix
J—oo.
Bedingte Dichten und Verteilungsfunktion
Die bedingte Dichte von Y unter der Bedingung X = x^ kurz Y\X = x, ist fiir festen Wert x und fx (x) / 0 bestimmt durch
fx[x) Fiir fx{x) = 0 legt man / y (y|x) = 0 fest. Die bedingte Dichte von X unter der Bedingung Y = y, kurz X\Y = y^ ist fiir festen Wert y und friv) 7^ 0 bestimmt durch
Fiir /y(y) = 0 legt man fx{x\y) = 0 fest. Die gemeinsame Verteilungsfunktion zu (X, Y) erhalt man aus x
py
/ /
8.4
f{u,v)dvdu,
-00 J—oo
Unabhangigkeit von Zufallsvariablen
Die Unabhangigkeit von Zufallsvariablen wurde bereits in den Abschnitten 5.2.2 und 6.1 eingefiihrt. Im folgenden wird der Zusammenhang zwischen Unabhangigkeit
8.4 Unabhangigkeit von Zufallsvariablen
347
und den bedingten Dichten hergestellt. Dariiber hinaus wird der Begriff der Unabhangigkeit auf mehr als zwei Variablen erweitert. Betrachten wir zuerst zwei Zufallsvariablen X und Y. Wie in den vorangehenden Abschnitten dargestellt, fiihrt Vorwissen iiber eine der beiden Variablen zur bedingten Verteilung. 1st X = x bekannt, betrachtet man die Verteilung von Y\X = x, die durch
bestimmt ist. Wenn das Vorwissen X = x Information liber die Verteilung von Y enthalt, sollte die bedingte Verteilung /y(y|x) tatsachlich von dem Vorwissen X = x abhangen. Ist dies nicht der Fall, gilt also fiir alle x und y friy),
/y(y|x) =
nennt man X und Y (stochastisch) unabhdngig. Die bedingte Verteilung friyl^) ist dann mit der Randverteilung /y(y) identisch. Aus der Definition der bedingten Verteilung ergibt sich unmittelbar, dafi die Identitat fviyl^) = /y(^) genau dann gilt, wenn sich die gemeinsame Verteilung als Produkt /(^,y) =
fx{x)fY{y)
darstellen laiit. VoUig analog kann man natiirlich die Verteilung von X\Y = y zugrunde legen. Unabhangigkeit driickt sich dann dadurch aus, dai3 fx{x\y) nicht von y abhangt, d.h. fx{x\y) = fx{x) gilt. Aus der Definition der bedingten Verteilung erhalt man fiir unabhangige Zufallsvariablen wiederum die Produktbedingung f{x^y) = fx{x)fY{y).
Unabhangigkeit von zwei Zufallsvariablen
Die Zufallsvariablen X und Y heifien unabhdngig, wenn fiir alle x und y gilt f{^^y) =
fx{x)fY{y)'
Ansonsten heifien X und Y abhdngig.
Die Unabhangigkeit von Zufallsvariablen wurde bereits in den Kapiteln 6 (diskrete Zufallsvariablen) und 7 (stetige Zufallsvariablen) betrachtet. Zu betonen ist, dafi die Begriffsbildung identisch ist. Die in Kapitel 6 gewahlte Darstellung der Unabhangigkeit diskreter Zufallsvariablen, namlich wenn P{X = x^Y = y) = P{X =
Unabhangigkeit
8. Mehrdimensionale Zufallsvariablen
348
x) • P{Y = y) gilt, entspricht unmittelbar der Produktbedingung. In Kapitel 7 wurden stetige Variablen als unabhangig bezeichnet, wenn P{X <x^Y
f{x,y) = fx{x)fY{y) gilt PiX<x,Y
r
r
f{u,v)dvi^du
J — OO J —OO
ry
x
/
fx{u)du -OO
=
I
fY{v)dv
J —OO
P{X<x)'P{Y
Die umgekehrte Aussage, dafi aus P{X <x,Y
MeBwiederholungen
Bezeichnet Xi das Ergebnis des z-ten Miinzwurfes, z = 1,2, einer fairen Miinze mit Xi = l fiir Kopf in Wurf i und X^ = 0 fiir Zahl in Wurf i, so erhalt man die gemeinsame Verteilung durch X2
1 X
1 •"1/4
0
1/4
0 1/4 1/4
Fiir die Randverteilungen gilt
/x.(l) = i,
/x.(l) = i
und somit f{xi,X2) =/xi(^i)7X2(^2) fni" alle xi,X2 € {0,1}. Die Zufallsvariablen Xi und X2 sind daher unabhangig. D
Der Begriff der Unabhangigkeit von Zufallsvariablen lafit sich auf mehr als zwei Zufallsvariablen erweitern. Analog zum Fall zweier Zufallsvariablen lassen sich die Zufallsvariablen X i , . . . , ^ ^ als unabhangig verstehen, wenn die bedingte Verteilung jeder dieser Zufallsvariablen, gegeben die Auspragungen der iibrigen n — 1 Zufallsvariablen, nicht von diesen Auspragungen abhangt. Dies fiihrt zur einfachen Darstellung der gemeinsamen Dichte als Produkt der Randdichten.
8.5 Kovarianz und Korrelation
349
Die gemeinsame n-dimensionale Dichte ist im diskreten Fall bestimmt durch / ( x i , . . . , Xn) = P{Xi = x i , . . . , Xn = Xn), im stetigen Fall ist es diejenige Funktion f{xi,,,.,Xn), fiir die gilt F{xi,...,Xn)
= P{Xi xi
/ -oo
<Xi,...,Xn<Xn) rxn ... / ^—oo
f{ui,,..,Un)dUn...dui,
Unabhangigkeit von Zufallsvariablen
Die Zufallsvariablen X i , . . . , Xn heifien unabhdngig^ wenn fiir alle x i , . . . , 3:^ gilt P{Xi <xi,...,Xn<Xn)
= P{Xi < rr:^) • . . . • P{Xn < x^).
Aquivalent dazu ist die Produktbedingung / ( X i , ,..,Xn)
= fXiixi)
•... •
fXnMj
wobei f{xi^..,,Xn) die gemeinsame Dichte von X i , . . . , X n und fxii^i) Dichte der Zufallsvariable Xi bezeichnen (i = 1 , . . . , n).
8.5
di^
Kovarianz und Korrelation
Der die beiden Zufallsvariablen X und Y steuernde Wahrscheinlichkeitsmechanismus ist in der gemeinsamen Verteilung f(x^ y) enthalten. In vielen Fallen will man jedoch die wesentliche Information in wenigen Parametern zusammengefafit zur Verfiigung haben. Als Kenngrofien der zentralen Tendenz dienen wiederum die Erwartungswerte, wobei jetzt zwei Erwartungswerte, namhch E{X) und E{y)^ auftreten. Diese sind definiert als eindimensionale Erwartungswerte, die aus den Randverteilungen zu X bzw. Y bestimmt werden. Vollig analog erhalt man fiir jede Zufallsvariable aus den Randverteilungen Kennwerte wie Varianz oder Schiefe. Ein neuer Aspekt bei der Behandlung zweier Zufallsvariablen ist die Frage nach dem Zusammenhang der beiden Variablen. Ein Ma6 fiir diesen Zusammenhang ist die Kovarianz.
350
8. Mehrdimensionale Zufallsvariablen
Kovarianz Die Kovarianz der Zufallsvariablen X und Y ist bestimmt durch Cov{X,Y) = E{[X --E{X)][Y- - E{Y)]). Die Kovarianz ist nach Definition der Erwartungswert der Zufallsvariable [X — E{X)][Y — E{Y)]^ die selbst ein Produkt von zwei Zufallsvariablen ist. Die Zufallsvariablen, die das Produkt bilden, sind um null zentriert, d.h. es gilt E{X — E{X)) =0 und E{Y — E{Y)) = 0. Man kann sich - ahnlich wie fiir den empirischen Korrelationskoefiizienten - leicht klar machen, dafi das Produkt positiv ist, wenn X und Y tendenzmafiig einen gleichsinnigen linearen Zusammenhang aufweisen, hingegen ist es negativ, wenn X und Y einen gegensinnigen linearen Zusammenhang besitzen. Deutlich wird dies aus der Darstellung E E fi^u yj){xi - E{X)){yj - EiY)) Cov{X,Y)=
I
X und Y diskret
i 3 oo oo
/
f f{x,y){x-E{X)){y-E{Y))dxdy
X und r stetig.
Insbesondere fiir diskrete Variablen ist erkennbar, dafi in einem Koordinatensystem durch den Punkt {E{X),E{Y)) in der Summe alle Werte des ersten und dritten Quadranten einen positiven, alle Werte des zweiten und vierten Quadranten einen negativen Beitrag liefern. Die Uberlegung erfolgt voUig analog zu der Behandlung des empirischen Korrelationskoeffizienten. Im Unterschied zu den Uberlegungen dort sind jetzt {xi^yj) keine Beobachtungen, sondern die moghchen Auspragungen, gewichtet mit der tatsachlichen Auftretenswahrscheinlichkeit f{xi^yj), Beispiel 8.6
MeBwiederholungen
Bezeichne Xi das Ergebnis des i-ten Mlinzwurfes einer fairen Miinze, wobei 1 Kopf bei Wurf i
Xi
0 Zahl bei Wurf L Fiir zwei Mlinzwlirfe berechnet sich die gemeinsame Wahrscheinlichkeitsverteilung als Laplace-Wahrscheinlichkeiten durch X2
Xi
1 0
1 1/4 1/4
0 1/4 1/4
8.5 Kovarianz und Korrelation
351
Daraus erhalt man mit E{Xi) = 0.5 die Kovarianz Gov (Xi, X2) = i ( l - 0.5)(1 - 0.5) 4- J ( l - 0.5)(0 - 0.5) + J(0 - 0.5)(1 - 0.5) + i(0 - 0.5)(0 - 0.5) = -(0.25 - 0.25 - 0.25 + 0.25) = 0. Man erhalt somit fiir die Kovarianz zwischen Xi und X2 den Wert null. Wie im folgenden dargestellt wird, gilt dies generell fiir unabhangige Zufallsvariablen. D
Einige Eigenschaften der Kovarianz, die von weiterer Bedeutung sind, werden im folgenden zusammengefafit:
Verschiebungssatz
Gov (X, Y) = E{XY)
- E{X) • E{Y)
Symmetrie
Gov{X,Y)=^
Gov{Y,X)
Lineare Transformation
Die Kovarianz der transformierten Zufallsvariablen X = axX + hx-, Y = ayY + hY ist bestimmt durch Gov {X, Y) = axay Gov {X, Y).
Zu diesen Eigenschaften gelten folgende Bemerkungen: 1. Die durch den Verschiebungssatz bestimmte alternative Darstellung der Varianz ist rechentechnisch haufig vorteilhafter, da E{X) und E{Y) meist vorher schon be- rechentechnisch rechnet wurden, und damit nur E(XY) zu berechnen ist durch gilnstige ^ ^ Vanante
J2J2fi^i^yi)^iyi E{XY)
i
^ ^^^ Y dlskret
3
00
00
J
J xy f{x^y)dydx
X und Y stetig.
— 0 0 —(X)
2. Die Vertauschbarkeit von X und Y ergibt sich unmittelbar aus der Definition, da die Reihenfolge der Multiphkation in [X - E{X)][Y - E{Y)] beliebig ist.
Vertauschbarkeit
8. Mehrdimensionale Zufallsvariablen
352
3. Die Kovarianz der transformierten Variablen X = axX + bx^ Y = ayY + by erhalt man aus der Kovarianz von X und Y durch Multiplikation mit den Transformationskonstanten ax ay- Die Kovarianz ist damit maflstabsabhdngig.
Mafistabsabhdngigkeit der Kovarianz Die letzte Eigenschaft der Mafistabsabhangigkeit hat zur Folge, dafi, wenn statt
X der zehnfache Wert 10 • X betrachtet wird, fiir die Kovarianz Cov (lOX^Y) = 10Cov (X^Y) gilt. Diese Abhangigkeit von der Skalenwahl macht die Kovarianz als Absolutzahl s.chwierig interpretierbar. Eine geeignete Normierung liefert der KorrelationskoefRzient. Korrelationskoeffizient
Der Korrelationskoeffizient ist bestimmt durch p = p{X,Y)
Eigenschaften
=
Cov{X,Y)
Cov{X,Y)
^Var{X)^Var{Y)
(^X(^Y
Der Korrelationskoeffizient hat folgende Eigenschaften: 1. Sein Wertebereich ist bestimmt durch
-i
=
•Cov{X,Y) = p{X,Y). ax cry Die Korrelation von X und Y lafit sich daher als die Kovarianz der "standardisierten" Zufallsvariablen verstehen. Mafistabsunabhdngigkeit des Korrelationskoeffizienten
4. Eine wichtige Eigenschaft des Korrelationskoeffizienten ist die Mafistabsunabhangigkejt. Wie man einfach ableitet, gilt fiir die Korrelation der transformierten Variablen X = axX + bx, ax ^0,Y = ayY + 6y, ay ^^ 0, die Aussage p{X,Y)
=
-^^piX,Y),
8.5 Kovarianz und Korrelation
353
d.h. insbesondere \p{X,Y)\
=
\p{X,Y)\.
Wie fiir den empirischen KorrelationskoefRzienten gilt p{XjY) = —p{X,Y) wenn eine der Variablen ein anderes Vorzeichen erhalt, d.h. wenn a x > 0, ay < 0 bzw. a x < 0, ay > 0 gilt. Generell ist p ein Ma6 fiir den linearen Zusammenhang zwischen den Zufallsvariablen X und Y. Fiir das Verschwinden der Korrelation wird die Bezeichnung Unkorreliertheit verwendet: Unkorreliertheit
Zwei Zufallsvariablen X und Y heifien unkorreliert^ wenn gilt p{X,Y)=0. Wenn /?(X, Y) ^0 gilt, heifien sie korreliert Die Eigenschaft der Unkorreliertheit fordert etwas weniger als die Unabhangigkeit von X und Y. AUgemein gilt die folgenden Aussage. Unabhangigkeit und Korrelation
Sind zwei Zufallsvariablen unabhdngig^ so sind sie auch unkorreliert^ d.h. es gilt p{X,Y) = 0. Die Giiltigkeit dieser Aussage ist unmittelbar einsehbar. Fiir unabhangige Zufallsvariablen gilt E{X ' Y) = E{X) ' E{Y). Daraus folgt mit dem Verschiebungssatz Gov (X, Y) = E{X ' Y) - E{X) • E{Y) = 0 und damit p{X, Y) = 0. Die Umkehrung, dafi unkorreherte Zufallsvariablen auch unabhangig sind, gilt nicht allgemein. Sie gilt allerdings dann, wenn X und Y gemeinsam normalverteilt sind (vgl. Abschnitt 8.6). Klar zu unterscheiden sind der theoretische Parameter Korrelationskoeffizient und der empirische Korrelationskoefiizient. Wahrend der KorrelationskoeflBzient den wahren, aber meist unbekannten linearen Zusammenhang zwischen den Zufallsvariablen X und Y mifit, beschreibt der empirische KorrelationskoefRzient den beobachteten Zusammenhang von Daten. Der KorrelationskoefRzient p{X, Y) beschreibt keine Daten, sondern das zugrundeliegende stochastische Verhalten eines Systems. Dies sei an einem Beispiel nochmals veranschaulicht.
8. Mehrdimensionale Zufallsvariablen
354 Beispiel 8.7
Miinzwurf Eine faire Miinze mit Kopf (K) und Zahl (Z) werde viermal geworfen. Bezeichne X die Anzahl der Wiirfe, bei denen Kopf resultiert, und Y die Anzahl der Wiirfe, bei denen Zahl resultiert. Man iiberlegt sich einfach, dafi fiir (X, Y) nur die Paare (0,4), (1,3), (2,2), (3,1), (4,0) auftreten konnen. Da diese Werte alle auf einer Geraden negative! Steigung liegen, ergibt sich p{X,Y) = — 1 (richtige Berechnung fiihrt natiirUch zu demselben Wert). Die maximal-negative Korrelation ist dadurch begriindet, dafi sich Kopf und Zahl bei jedem Wurf ausschliefien. Wesentlich ist jedoch, dafi das Experiment nicht durchgefiihrt werden mufi, um zu bestimmen, dafi p{X,Y) = — 1 gilt. Die Korrelation folgt nur aus dem Verteilungsgesetz und der Art der betrachteten Variablen und ist somit eine Systemeigenschaft. Es werden keinerlei Daten erhoben. D
Die Varianz der Summe von Zufallsvariablen wurde bisher nur fiir unabhangige Zufallsvariablen betrachtet. Betrachtet man allgemeiner die Zufallsvariablen Xi und X2 erhalt man aus der Definition der Varianz Var{Xi
+ X2) = E{[Xi + X2 - E{Xi) = E[{Xi - E{Xi)f + = Var{Xi)
-
E{X2)]^)
+ {X2 -
E{X2)f
2{Xi-E{Xi)){X2-E{X2))] + Var{X2) + 2Cov ( X i , X2).
Bei der Bestimmung der Varianz einer Summe von Zufallsvariablen ist demnach die Kovarianz mit zu beriicksichtigen.
Varianz der Summe zweier Zufallszahlen Fiir die Varianz einer Summe von Zufallsvariablen gilt Var{Xi
Linearkombination
+ X2) = Var{Xi)
+ Var{X2) + 2Cov ( X i , X2).
Kovarianz und Korrelation sind Mafie fiir den (linearen) Zusammenhang jeweils zweier Variablen. Fiir n Zufallsvariablen X i , . . . , X n lafit sich jeweils paarweise die Kovarianz Gov (Xi^Yj) bzw. die Korrelation p{Xi^Xj) betrachten. Diese Kovarianzen werden generell bedeutungsvoll, wenn Linearkombinationen von Zufallsvariablen gebildet werden. A n s t a t t der einfachen Summe Xi + h X ^ betrachte man allgemeiner die gewichtete Summe X = aiXi
+
h anXn
8.5
355
Kovarianz und Korrelation
wobei a i , . . . , a n feste Gewichte darstellen. Beispielsweise kann X den Gewinn eines internationalen Konzerns darstellen, der sich aus der Summe der Einzelgewinne ergibt, wobei a i , . . . , a n die entsprectienden Faktoren zur Umrechnung in eine Wahrungseinheit darstellen (Dollar und Euro soUte man nicht addieren). Was erfahrt man aus der Kenntnis der Erwartungswerte und Varianzen der einzelnen Zufallsvariablen liber das Verhalten der gewichteten Summe? Aus den folgenden Transformationsregeln lafit sich auf deren Erwartungswert und Varianz schliefien. Fiir den Erwartungswert weifi man aus den Kapiteln 5 und 6, dafi h anE{Xn) gilt. Damit erhalt man fiir die Varianz unmittelE{X) = aiE{Xi) -\ bar aus der Definition von Varianz und Kovarianz Var{X) = E{[X -
E{X)]^) 1 2>
E
^aiXi-J2^iE{Xi) .i=l
= E I J2^UXi
E
z=l
- E{Xi)f
Y,ai{Xi-E{Xi)) ,i=l
+ 5 ^ a i a , ( X , - E{Xi)){Xj
-
E{Xj))
J=l
yja^Var^Xi) + Y^aiajCov i=i
(X^,Xj)
i^^j
= Y^ afVar{Xi) + 2 J]]aiaj Cov {Xi, Xj). i=i
Kj
Dabei wird J2i^j^ ^.h. die Summe iiber alle Werte i und j mit i 7^ j , wegen Cov (Xi, Xj) = Cov (Xj, Xi) ersetzt durch 2 Y^i^j^ d.h. die Summe liber alle Werte i und j fiir die i < j gilt; entsprechend wird jedes Paar Cov (X^, Xj) doppelt gezahlt. Fiir die Varianz der gewichteten Summe sind also nicht nur die Varianzen der einzelnen Variablen von Relevanz, sondern auch der Zusammenhang der Variablen, soweit er in den Kovarianzen erfafit ist. Diese Aussage hat wesentliche Konsequenzen beispielsweise bei der Risikominimierung von Wertpapiermischungen (vgl. Beispiel 8.8). Sind alle Variablen unkorreliert, d.h. gilt p(Xi, Xj) = 0 und damit Cov {Xi, Xj) = 0, erhalt man die einfache Form Var{X) =
Ya^Var{Xi), i=l
die bereits in den Kapiteln 5 und 6 benutzt wurde. In der folgenden Ubersicht ist erganzend die aus diesem Kapitel bekannte Formel fiir den Erwartungswert einer
8. Mehrdimensionale Zufallsvariablen
356
Summe von Zufallsvariablen nochmals wiedergegeben. Im Gegensatz zur Varianz von X ist diese Formel fiir korrelierte und unkorrelierte Zufallsvariablen giiltig.
Erwartungswert und Varianz von Linearkombinationen Die gewichtete Summe X = aiXi
H
h dnXn
der Zufallsvariablen X i , . . . , Xn besitzt den E{X) und die
= aiE{Xi)
Erwartungswert
+ .. • +
anE{Xn)
Varianz Var{X) = a\Var{Xi)
+ •••+
alVar{Xn)
+ 2aia2Cov ( X i , X 2 ) + 2aia3Cov
(Xi,X3) + ...
n
= Y^ a^Var{Xi)
Beispiel 8.8
+ 2^
aiUj Cov {Xi,
Xj).
Portfolio-Optimierung Ein zur Verfiigung stehender Bet rag sei aufgeteilt in zwei Anlageformen. Der Anteil ai wird in eine erste Wertanlage (beispielsweise Aktie A), der Anteil a2 wird in eine zweite Wertanlage (beispielsweise Aktie B) investiert, d.h. ai + a2 = 1. Man betrachtet nun die Rendite dieser Wertpapiermischung, d.h. den prozentualen Gewinn des Portefeuilles wahrend eines festen Zeitraums. Die Gesamtrendite ergibt sich durch X = aiXi +a2X2, wobei Xi,X2 die Renditen der beiden Anlageformen darstellen. Renditen, insbesondere bei Risikoanlagen sind Zufallsvariablen. Die festverzinsliche risikofreie Anlage laBt sich als Spezialfall mit verschwindender Varianz {Var{Xi) = 0) betrachten. Nach den entwickelten Formeln erhalt man fiir die zu erwartende Gesamtrendite E{X) = aiE{Xi)
+ a2E{X2),
also eine gemafi den Anteilen gewichtete Summe der zu erwartenden Einzelrenditen. Ein wichtiger Indikator fiir eine Wertpapiermischung ist das Portefeuillerisiko, unter dem die Varianz der Gesamtrendite verstanden wird. Man erhalt unmittelbar Var{X) = alVar{Xi) + alVar{X2) + 2aia2Cov (Xi,X2).
8.6
Die zweidimensionale Normalverteilung
357
Das Risiko der Gesamtrendite wird demnach nicht nur vom Risiko der Einzelrenditen, sondern auch von der Kovarianz bestimmt. Wegen p= Gov {Xi, X2)/\/Var{Xi)Var{X2) lai3t sich diese Beziehung mit ai = ^/Var{Xi) auch darstellen durch Var{X) = a\a\ + a^a'^ + 2a ia2 per 1(72, wobei die Kovarianz jetzt durch den KorrelationskoefBzienten ersetzt ist. Der Vorteil ist, dafi der Wertebereich von p bekannt ist, da — 1 < /o < 1 gilt. Man sieht daraus, dafi fiir negativ korreUerte Renditen [p < 0) ein Gesamtrisiko resultiert, das kleiner ist als das Gesamtrisiko fiir unkorreUerte Renditen (/? = 0). Zur Veranschaulichung sei der Spezialfall GI= G2 = (J betrachtet. Man erhalt durch Einsetzen Var{X) = {a\ + a | + 2aia2p)(j'^. Es ist unmittelbar ersichthch, dafi fiir den Extremfall positiver Korrelation {p=l) ziehung
die Be-
Var{X) = (ai + as) V ^ = a^ gilt. Fiir den Extremfall negativer Korrelation {p= —1) erhalt man die Beziehung Far(X)=:(ai-a2)V. Eine gleichmafiige Mischung ai = a2 = 0.5 fiihrt dann zum risikolosen Portefeuille mit Var{X) = 0. Prinzipiell gilt, dafi negativ korreUerte Renditen das Risiko vermindern. D
8.6
Die zweidimensionale Normalverteilung
Die eindimensionale Normalverteilung wurde als eines der wichtigsten stetigen Verteilungsmodelle bereits behandelt. Ihre Dichte ist von der Form
wobei \i = E{X) der Erwartungswert und cr^ = Var[X) die Varianz der normalverteilten Zufallsvariable X bezeichnet. Erwartungswert /i und Varianz cr^ sind die beiden charakterisierenden Parameter. Betrachtet man zwei stetige Zufallsvariablen X und y , beispielsweise Haushaltseinkommen und Haushaltsausgaben, dann sind fiir die gemeinsame Verteilung mehr
8. Mehrdimensionale Zufallsvariablen
358 Parameter von Interesse. Insbesondere sind das Ml =E{X),
der Erwartungswert von X,
f^2=E{Y),
der Erwartungswert von y ,
a\
die Varianz von X,
=Var{X),
4 =Var{Y), p =Cov (X, Y)/(Jia2^
die Varianz von Y und die Korrelation zwischen X und Y.
In der Erweiterung der Normalverteilung auf zweidimensionale Zufallsvariablen, die im folgenden gegeben ist, tret en alle diese Parameter auf. Zweidimensionale Normalverteilung
Die Zufallsvariablen X und Y heifien gemeinsam normalverteilt^ wenn die Dichte bestimmt ist durch
f{x,y)
1 27rcricr2\/l - p^
In den Abbildungen 8.3 bis 8.6 sind Dichten zweidimensionaler Normalverteilungen dargestellt. 0.2-1
ABBILDUNG 8.3: Zweidimensionale Normalverteilungsdichte fiir unkorrelierte Merkmale, p = 0, mit /^i = /X2 = 0, ai = (J2 = 1.0
Die Erwartungswerte sind in alien Abbildungen durch /i^ = /i2 = 0 festgelegt. Da alle Normalverteilungsdichten eingipflig sind mit dem Gipfel an der Stelle (/ii,/i2), sind samtliche Abbildungen um den NuUpunkt (0,0) zentriert. Die Dichten in den Abbildungen 8.3 und 8.4 zeigen mit p = 0 unkorrelierte Variablen. Die beiden Abbildungen unterscheiden sich nur in der Standardabweichung von X. In Abbildung 8.3
8.6
Die zweidimensionale Normalverteilung
359
ABBILDUNG 8.4: Zweidimensionale Normalverteilungsdichte fur unkorrelierte Merkmale, p = 0, mit /^i = /i2 = 0, ai = 1.5, (72 = 1-0
ABBILDUNG 8.5: Zweidimensionale Normalverteilungsdichte, p = 0.8, /^i =/x2 •
0, ai=a2 = 1.0
wird ai = a2 = 1, in Abbildung 8.4 wird ai = 1.5,(72 = 1.0 zugrunde gelegt. Die Abbildungen 8.5 und 8.6 zeigen mit p = 0.8 einmal den Fall starker positiver Korrelation und mit p = —0.8 den Fall stark negativer Korrelation. In diesen beiden Abbildungen wurde ai=a2 = l gewahlt. Die Varianzen af^ a^ bestimmen, wie stark die Verteilung in die x-^ bzw. y-Richtung auseinandergezogen ist. Dies ist ersichtlich aus den Abbildungen 8.3 und 8.4. In Abbildung 8.4 ist wegen ai = 1.5 > (72 = 1 die Dichte in Richtung der x-Achse starker auseinandergezogen. Da das von den Dichten umschlossene Volumen eins betragt, ist der Gipfel entsprechend niedriger. Die Korrelation p legt fest, wie der "Bergriicken" in der (x-y)-Ebene ausgerichtet ist und bestimmt (fiir feste Werte cTi^cr^)^ wie stark der Bergriicken in die Breite gezogen ist. Fiir \p\ in der Nahe von 1 ist der Bergriicken schmaler, fiir \p\ nahe null ist der Bergriicken breiter. Fiir die positive Korrelation in Abbildung 8.5 ist der Bergriicken dem gleichsinnigen Zusammenhang der beiden Variablen entsprechend an der Winkelhalbierenden des ersten Quadrant en ausgerichtet. Die Abbildung 8.6 zeigt, wie bei negativer Korrelation, dem gegensinnigen Zusammenhang entsprechend, groi5e Auspragungen der ersten Variable tendenziell mit kleinen Auspragungen der zweiten
8. Mehrdimensionale Zufallsvariablen
360
ABBILDUNG 8.6: Zweidimensionale Normalverteilungsdichte, p = —0.8, fii = /i2 = 0 , CTi = (72 = 1.0
Variable einhergehen. Prinzipiell wird |p| < 1 vorausgesetzt, was man unmittelbar daran sieht, dafi 1 — p^ in der gemeinsamen Dichte im Nenner erscheint. Fiir p = l ist die Verteilung entartet, d.h. geht die Korrelation von X und Y gegen eins, so wird der Bergriicken beliebig schmal. Man sieht aus der gemeinsamen Dichtefunktion, dafi fiir p = 0 gilt
fi^^y) =
\/27r(7i
exp
d.h. die Dichte lafit sich als Produkt der Randdichten fx{^) und /y(y) von X bzw. Y darstellen. Die Produktdarstellung f{x^y) = fx{x)fY{y) ist aquivalent zur Aussage, dafi X und Y unabhangig sind. Fiir gemeinsam normalverteilte Zufallsgrofien X und Y gilt demnach, dafi unkorrelierte Zufallsgrofien {p = 0) auch unabhangig sind.
Unabhangigkeit und Korrelation bei normalverteilten Zufallsvariablen
Fiir gemeinsam normalverteilte Zufallsvariablen X und Y gilt: X und Y sind unabhangig genau dann, wenn sie unkorreliert sind.
Fiir den Spezialfall unkorrelierter Grofien lafit sich die gemeinsame Dichte demnach als Produkt der Randdichten darstellen. Auch fiir korrelierte gemeinsam normalverteilte Zufallsgrofien gilt, dafi die Randverteilungen normalverteilt sind, d.h. man erhalt
8.7
Zusammenfassung und Bemerkungen
8.7
361
Zusammenfassung und Bemerkungen
Die Untersuchung der gemeinsamen Verteilung von Zufallsvariablen ist ein Grundstein zum Verstandnis der Analyse des Zusammenhangs von Variablen. Zentrale Konzepte wie Kovarianz, Korrelation und Unabhangigkeit ermoglichen es, diesen Zusammenhang zu quantifizieren. Kovarianz und Korrelation sind theoretische Zusammenhangsmafie, erfafit wird dadurch der durch ein Zufallsexperiment bedingte zugrundeliegende Zusammenhang, der selbst nicht direkt beobachtbar ist. Sie bilden den theoretischen Hintergrund, auf dem erklarbar ist, dafi zweidimensionale Beobachtungen, also Realisationen von Zufallsexperimenten eine gemeinsame - gegensinnige oder gleichsinnige - Tendenz aufweisen. Der Begriff der Unabhangigkeit von Zufallsvariablen wird auch in den folgenden Kapiteln eine wichtige RoUe spielen. Wenn Zufallsexperimente wiederholt unter gleichen Bedingungen und unabhangig voneinander durchgefiihrt werden, erhalt man unabhangige Zufallsvariablen X i , . . . , Xn, die - als Stichprobenvariablen bezeichnet - die Grundlage fiir Riickschlusse auf die Grundgesamtheit darstellen. Dabei erweisen sich die in diesem Kapitel behandelten Regeln zur Bildung von Erwartungswert und Varianz von Summen von Zufallsvariablen als wichtig. Ausfiihrlichere Darstellungen mehrdimensionaler Zufallsvariablen und die sich ergebenden Probleme, die Zusammenhangsstruktur von mehr als zwei Zufallsvariablen zu erfassen, finden sich in der Literatur zur multivariaten Statistik, z.B. in Fahrmeir, Hamerle und Tutz (1996).
8.8
Aufgaben
Die gemeinsame Verteilung von X und Y sei durch die folgende Kontingenztafel der Auftretenswahrscheinlichkeiten bestimmt: u. Y X
(a) Man (b) Man (c) Man (d) Man
bestimme bestimme bestimme bestimme
1 2
1 0.25 0.10
2 0.15 0.15
Aufgabe 8.1
3 0.10 0.25
den Erwartungswert und die Varianz von X bzw. Y. die bedingten Verteilungen von X\Y = y und Y\X = x. die Kovarianz und die Korrelation von X und Y. die Varianz von X -\-Y.
Die gemeinsame Wahrscheinlichkeitsfunktion von X und Y sei bestimmt durch f{^^y) sonst.
Aufgabe 8.2
362
8. Mehrdimensionale Zufallsvariablen
(a) Man bestimme die Randverteilung von X bzw. Y. (b)Man bestimme die bedingten Verteilungen von X\Y = y und Y\X = x und vergleiche diese mit den Randverteilungen. (c) Man bestimme die Kovarianz von X und Y. Aufgabe 8.3
Der Tiirsteher einer Nobeldiskothek entscheidet sequentiell. Der erste Besucher wird mit der Wahrscheinlichkeit 0.5 eingelassen, der zweite mit 0.6 und der dritte mit 0.8. Man betrachte die Zufallsvariable X: "Anzahl der eingelassenen Besucher unter den ersten beiden Besuchern" und Y: "Anzahl der eingelassenen Besucher unter den letzten beiden Besuchern". (a) Man bestimme die gemeinsame Wahrscheinlichkeitsfunktion von X und Y. (b) Man untersuche, ob X und Y unabhangig sind.
Aufgabe 8.4
Ein Anleger verfiigt zu Jahresbeginn iiber 200000 € . 150000 € legt er bei einer Bank an, die ihm eine zufallige Jahresrendite i?i garantiert, welche gleichverteilt zwischen 6 % und 8 % ist. Mit den restlichen 50000 € spekuliert er an der Borse, wobei er von einer A^(8, 4)-verteilten Jahresrendite R2 (in %) ausgeht. Der Anleger geht davon aus, dafi die Renditen Ri und R2 unabhangig verteilt sind. (a) Man bestimme den Erwartungswert und die Varianz von Ri und i?2(b) Man berechne die Wahrscheinlichkeit en, dafi der Anleger an der Borse eine Rendite von 8%, von mindestens 9% bzw. zwischen 6% und 10% erzielt. (c) Wie grofi ist die Wahrscheinlichkeit, dafi der Anleger bei der Bank eine Rendite zwischen 6.5% und 7.5 % erzielt? (d) Man stelle das Jahresendvermogen V als Funktion der Renditen Ri und R2 dar und berechne Erwartungswert und Varianz von V. (e) Angenommen, die beiden Renditen sind nicht unabhangig sondern korrelieren mit p = —0.5. Wie wiirden Sie die 200000€ aufteilen, um eine minimale Varianz der Gesamtrendite zu erzielen. Wie andert sich die zu erwartende Rendite?
Parameterschatzung
Die Ziehung von Stichproben, die ein moglichst getreues Abbild der Grundgesamtheit wiedergeben sollen, erfolgt nicht zum Selbstzweck. Vielmehr besteht das Ziel einer Stichprobenziehung darin, Informationen iiber das Verhalten eines Merkmals in der Grundgesamtheit zu gewinnen. Genau dieser Aspekt ist entscheidend: Man ist nicht eigentlich daran interessiert zu erfahren, wie sich das Merkmal in der Stichprobe verhalt, sondern diese Information wird benutzt, um daraus auf das Verhalten in der Grundgesamtheit zu schhefien. Um diesen Schlufi ziehen zu konnen, benotigt man ein Modell, das die Verteilung des interessierenden Merkmals in der Grundgesamtheit beschreibt. Damit konnen Ergebnisse, die man fiir eine Stichprobe - sofern deren Ziehung bestimmten Kriterien geniigt - ermittelt hat, auf die entsprechende Grundgesamtheit iibertragen werden. Diese Verallgemeinerung ist natiirlich nicht mit hundertprozentiger Prazision moglich, da zum einen das Modell, in dem man sich bewegt eben nur ein Modell ist und zum anderen die Stichprobe nicht absolut den zuvor festgelegten Kriterien geniigt. AUerdings ist es moglich, wie wir in den folgenden Kapiteln sehen werden, unter Vorgabe einer gewissen Prazision solche Schliisse vorzunehmen. Dabei unterscheidet man grob Schatz- und Testverfahren. Interessiert man sich beispielsweise fiir den Anteil von Frauen an deutschen HochschuUehrern, so kann man eine Stichprobe aus alien deutschen Hochschullehrern Ziehen. In dieser Stichprobe zahlt man, wieviele HochschuUehrer weiblich und wieviele mannlich sind. Der Anteil der weiblichen HochschuUehrer in dieser Stichprobe sei 0.12. Dieser Wert gibt i.a. nicht den Anteil der weiblichen HochschuUehrer in der Grundgesamtheit aller HochschuUehrer wieder. Ziehen wir namlich eine zweite Stichprobe, so kdnnten wir z.B. einen Anteilswert von 0.09 erhalten. Der beobachtete Anteilswert hangt also ab von der gezogenen Stichprobe, die wiederum eine zufallige Auswahl ist. Damit ist auch der berechnete Anteilswert die Auspragung einer Zufallsvariable, die den Anteil der weiblichen HochschuUehrer beschreibt. Was hat man dann iiberhaupt von diesem berechneten Wert? Der in der Stichprobe beobachtete Anteilswert liefert einen Schdtzer fiir den wahren Anteil in der Grundgesamtheit. Wie gut er den wahren Anteil schatzt, also wie nahe er an den wah-
Schdtzer
364
9.
Parameterschatzung
ren Wert heranreicht und wie stabil er ist, d.h. wie stark er von Stichprobe zu Stichprobe schwankt, wird unter anderem vom Stichprobenumfang, aber auch von der Qualitat des Schatzverfahrens und von der Qualitat der Stichprobe beeinflufit. Schatzverfahren und deren Giite sind Thema dieses Kapitels.
9.1
Punktschatzung
Schatzverfahren zielen darauf ab, aus einer Zufallsstichprobe auf die Grundgesamtheit zuriickzuschHefien. Dabei konzentriert man sich auf bestimmte Aspekte des in einer Grundgesamtheit untersuchten Merkmals. Ob man die InteUigenz in einer Studentenpopulation untersucht oder die von einer Ma^chine produzierte Schraubenlange, meist sind bestimmte Aspekte (Parameter) der Verteilung von primarem Interesse, die beispielsweise Auskunft iiber Lage oder Streuung des Merkmals geben. Engeres Ziel der Punktschatzung ist es, einen moghchst genauen Naherungswert fiir einen derartigen unbekannten Grundgesamtheitsparameter anzugeben. Parameter treten dabei insbesondere in zwei Formen auf, namhch als Kennwerte einer heliehigen, unbekannten Verteilung oder als spezifische Parameter eines angenommenen Verteilungsmodells. Beispiele fiir den ersten unspezifischen Typ von Parametern sind • Erwartungswert und Varianz einer Zufallsvariable • Median oder p-Quantil einer Zufallsvariable • Korrelation zwischen zwei Zufallsvariablen. Haufig lafit sich der Typ einer Verteilung bei guter Anpassung an den realen Sachverhalt annehmen. Beispielsweise sind Intelligenzquotienten so konstruiert, dafi sie einer Normalverteilung folgen, Zahlvorgange wie die Anzahl bestimmter Schadensmeldungen innerhalb eines Jahres lassen sich haufig durch die Poisson-Verteilung approximieren. Modelliert man Merkmale durch die Annahme des Verteilungstyps, reduziert sich das Schatzproblem darauf, dafi nur noch die Parameter dieser Verteilung zu bestimmen sind. Beispiele dafiir sind • der Parameter A, wenn die Anzahl der Schadensmeldungen durch die PoissonVerteilung Po{X) modelliert wird, • die Parameter /i, cr^, wenn von einer Normalverteilung N{fi, cr^) der produzierten Schraubenlangen auszugehen ist, • der Parameter A, wenn fiir die Wartezeit eine Exponentialverteilung exp(A) angenommen wird.
9.1
365
Punktschatzung
Wie man aus diesen Beispielen sieht, sind gelegentlich "unspezifische" Parameter wie Erwartungswert und die Parameter eines Verteilungstyps identisch, z.B. gilt fiir die Normalverteilung E{X) = fi. Der Parameter A der Exponentialverteilung hingegen unterscheidet sich vom Erwartungswert der zugehorigen Zufalls variable. Ausgangspunkt der Punktschatzung sind n Stichprobenziehungen oder Zufallsexperimente, die durch die Zufallsvariablen Xi^...^Xn reprasentiert werden. Xi^...^Xn werden auch als Stichprobenvariablen bezeichnet. Haufig fordert man von Stichprobenvariablen, dafi sie unabhdngige Wiederholungen von X sind. Durch diese knappe Formulierung wird ausgedriickt, dafi
• die den Zufallsvariablen Xi, gig sind,
Stichprobenvariablen unabhdngige Wiederholungen
,, Xn zugrundeliegenden Experimente unabhan-
• jedesmal dasselbe Zufallsexperiment (enthalten in "Wiederholung") durchgefiihrt wird.
Aus den Realisierungen x i , . . . , a:^ dieser Zufallsvariablen soil auf einen Parameter 6 geschlossen werden. Der Parameter 6 steht hier stellvertretend fiir einen festgelegten Kennwert: Das kann der Erwartungswert sein aber ebenso die Varianz oder der Parameter der Poisson-Verteilung. Eine Punktschatzung fiir 9 ist eine Funktion der Realisierungen x i , . . . , x^