Wahrscheinlichkeitstheorie
Achim Klenke
Wahrscheinlichkeitstheorie Zweite, korrigierte Auflage
123
Prof. Dr. Achim Klenke Institut für Mathematik Johannes Gutenberg-Universität Mainz Staudingerweg 9 55099 Mainz
[email protected]
ISBN 978-3-540-76317-8
e-ISBN 978-3-540-77571-3
DOI 10.1007/978-3-540-77571-3 Bibliografische Information der Deutschen Nationalbibliothek Die Deutsche Nationalbibliothek verzeichnet diese Publikation in der Deutschen Nationalbibliografie; detaillierte bibliografische Daten sind im Internet über http://dnb.d-nb.de abrufbar. Mathematics Subject Classification (2000): 60-01, 28-01, 60G05, 60J10, 60H05 © 2008, 2006 Springer-Verlag Berlin Heidelberg Dieses Werk ist urheberrechtlich geschützt. Die dadurch begründeten Rechte, insbesondere die der Übersetzung, des Nachdrucks, des Vortrags, der Entnahme von Abbildungen und Tabellen, der Funksendung, der Mikroverfilmung oder der Vervielfältigung auf anderen Wegen und der Speicherung in Datenverarbeitungsanlagen, bleiben, auch bei nur auszugsweiser Verwertung, vorbehalten. Eine Vervielfältigung dieses Werkes oder von Teilen dieses Werkes ist auch im Einzelfall nur in den Grenzen der gesetzlichen Bestimmungen des Urheberrechtsgesetzes der Bundesrepublik Deutschland vom 9. September 1965 in der jeweils geltenden Fassung zulässig. Sie ist grundsätzlich vergütungspflichtig. Zuwiderhandlungen unterliegen den Strafbestimmungen des Urheberrechtsgesetzes. Die Wiedergabe von Gebrauchsnamen, Handelsnamen, Warenbezeichnungen usw. in diesem Werk berechtigt auch ohne besondere Kennzeichnung nicht zu der Annahme, dass solche Namen im Sinne der Warenzeichen- und Markenschutz-Gesetzgebung als frei zu betrachten wären und daher von jedermann benutzt werden dürften. Satz: Datenerstellung durch den Autor unter Verwendung eines Springer TEX-Makropakets Herstellung: LE-TEX Jelonek, Schmidt & Vöckler GbR, Leipzig Umschlaggestaltung: WMX Design GmbH, Heidelberg Gedruckt auf säurefreiem Papier 987654321 springer.de
Vorwort zur zweiten Auflage
¨ Gegen¨uber der ersten Auflage sind Ubungsaufgaben hinzugekommen und manche Beweise sind etwas effizienter geworden (insbesondere der von Bemerkung 22.6). Vor allem aber konnte ich durch die R¨uckmeldungen aufmerksamer Leser einige Fehler der ersten Auflage korrigieren. Ich m¨ochte an dieser Stelle allen danken, die bei der Verbesserung der ersten Auflage geholfen haben, speziell Ren´e Billing, Anne Eisenb¨urger, Katrin HofmannCredner, Patric Karl Gl¨ode, Patrick Jahn, Arnulf Jentzen, L. Mayer, Felix Schneider, Henning Sulzbach, Sebastian Thiemann und Oliver Wesche sowie den Kollegen Ehrhard Behrends, Nina Gantert, Rudolf Gr¨ubel, Peter M¨orters, Ralph Neininger und Martin Zerner.
Mainz, Januar 2008
Achim Klenke
Vorwort zur ersten Auflage Das vorliegende Buch basiert auf den vierst¨undigen Vorlesungen Stochastik I und Stochastik II, die ich in den vergangenen Jahren an der Universit¨at zu K¨oln und an der Johannes Gutenberg-Universit¨at in Mainz gehalten habe, und die an eine Vorlesung u¨ ber elementare Stochastik anschließen. Eine gewisse Vertrautheit mit den Ideen der elementaren Stochastik wird zwar nicht formal vorausgesetzt, dem Leser jedoch empfohlen. Ziel dieses Buches ist es, die zentralen Objekte und Konzepte der Wahrscheinlichkeitstheorie vorzustellen: Zufallsvariablen, Unabh¨angigkeit, Gesetze der großen Zahl und zentrale Grenzwerts¨atze, Martingale, Austauschbarkeit und unbegrenzte Teilbarkeit, Markovketten und -prozesse sowie den Zusammenhang mit der diskreten Potentialtheorie, Kopplung, Ergodentheorie, die Brown’sche Bewegung und
VI
Vorwort zur zweiten Auflage
das Itˆo-Integral, den Poisson’schen Punktprozess, Perkolation und die Theorie der großen Abweichungen sowie stochastische Differentialgleichungen. Die Maß- und Integrationstheorie wird entwickelt, soweit sie f¨ur das Verst¨andnis und die Formulierung der Wahrscheinlichkeitstheorie notwendig ist: Konstruktion von Maßen und Integralen, Satz von Radon-Nikodym und regul¨are bedingte Verteilungen, Konvergenzs¨atze f¨ur Funktionen (Lebesgue) und Maße (Prohorov) und Konstruktion von Maßen in Produktr¨aumen. Die einzelnen maßtheoretischen Kapitel kommen nicht als Block am Anfang des Buches, obwohl sie so geschrieben sind, dass das m¨oglich w¨are, n¨amlich unabh¨angig von den wahrscheinlichkeitstheoretischen Kapiteln, sondern abwechselnd mit wahrscheinlichkeitstheoretischen Kapiteln, die so gebaut sind, dass sie mit den gerade zur Verf¨ugung stehenden Begriffen auskommen (beispielsweise kann man Perkolation studieren, ohne einen Integralbegriff an der Hand zu haben). Als einzige Ausnahme wird die systematische Konstruktion von unabh¨angigen Zufallsvariablen erst im 14ten Kapitel nachgeliefert. Ich verspreche mir von diesem Vorgehen eine Auflockerung des maßtheoretischen Stoffes, der von manchen als etwas trocken empfunden wird. Letztlich ist dieses genauso eine Geschmacksfrage wie diejenige, welches der beiden Themen als linke und welches als rechte Hand anzusehen ist. Wer eine maßtheoretische Grundbildung hat, kann insbesondere das erste Kapitel beim ersten Lesen zun¨achst u¨ berspringen und braucht eventuell nur Einzelnes darin nachzuschlagen. Das Gleiche gilt f¨ur das vierte Kapitel (Integrationstheorie). In den ersten acht Kapiteln wird das Fundament gelegt, das in allen weiteren Kapiteln ben¨otigt wird. Danach k¨onnen die sieben inhaltlichen Einheiten von Kapitel 9–12, 13, 14, 15–16, 17–19, 20 und 23 einigermaßen unabh¨angig voneinander gelesen werden. Das Kapitel zur Brown’schen Bewegung (21) greift auf die Kapitel 9–15 zur¨uck. Danach sind unabh¨angig voneinander die Bl¨ocke 22, 24 und 25–26 lesbar. Ich danke all denjenigen, die das Manuskript gelesen und zahlreiche Verbesserungsvorschl¨age und Korrekturen angebracht haben: Den Mitarbeitern und Studenten Roland Alkemper, Dirk Br¨uggemann, Anne Eisenb¨urger, Ortwin Lorenz, Mario Oeler, Marcus Sch¨olpen, den Kollegen Wolfgang B¨uhler und Wolfgang K¨onig sowie besonders dem M¨unchener Kollegen Hans-Otto Georgii. F¨ur weitere Hinweise auf Fehler unter
[email protected] w¨are ich dankbar. Außerdem m¨ochte ich mich beim Springer-Verlag f¨ur die gute Zusammenarbeit bedanken.
Mainz, November 2005
Achim Klenke
Inhaltsverzeichnis
1
Grundlagen der Maßtheorie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
1
1.1 Mengensysteme . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
1
1.2 Mengenfunktionen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12 1.3 Fortsetzung von Maßen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18 1.4 Messbare Abbildungen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 34 1.5 Zufallsvariablen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 43 2
Unabh¨angigkeit . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 49 2.1 Unabh¨angigkeit von Ereignissen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 49 2.2 Unabh¨angigkeit von Zufallsvariablen . . . . . . . . . . . . . . . . . . . . . . . . . . 56 2.3 Kolmogorov’sches 0-1 Gesetz . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 63 2.4 Beispiel: Perkolation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 66
3
Erzeugendenfunktion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 79 3.1 Definition und Beispiele . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 79 3.2 Poisson-Approximation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 82 3.3 Verzweigungsprozesse . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 84
4
Das Integral . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 87 4.1 Konstruktion und einfache Eigenschaften . . . . . . . . . . . . . . . . . . . . . . 87 4.2 Monotone Konvergenz und Lemma von Fatou . . . . . . . . . . . . . . . . . . 95 4.3 Lebesgue-Integral versus Riemann-Integral . . . . . . . . . . . . . . . . . . . . . 98
5
Momente und Gesetze der Großen Zahl . . . . . . . . . . . . . . . . . . . . . . . . . 103 5.1 Momente . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 103 5.2 Schwaches Gesetz der Großen Zahl . . . . . . . . . . . . . . . . . . . . . . . . . . . 110
VIII
Inhaltsverzeichnis
5.3 Starkes Gesetz der Großen Zahl . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 113 5.4 Konvergenzrate im starken GGZ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 121 5.5 Der Poissonprozess . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 124 6
Konvergenzs¨atze . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 131 6.1 Fast-¨uberall- und stochastische Konvergenz . . . . . . . . . . . . . . . . . . . . . 131 6.2 Gleichgradige Integrierbarkeit . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 136 6.3 Vertauschung von Integral und Ableitung . . . . . . . . . . . . . . . . . . . . . . . 143
7
Lp -R¨aume und Satz von Radon-Nikodym . . . . . . . . . . . . . . . . . . . . . . . 145 7.1 Definitionen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 145 7.2 Ungleichungen und Satz von Fischer-Riesz . . . . . . . . . . . . . . . . . . . . . 147 7.3 Hilbertr¨aume . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 153 7.4 Lebesgue’scher Zerlegungssatz . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 156 7.5 Erg¨anzung: Signierte Maße . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 160 7.6 Erg¨anzung: Dualr¨aume . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 167
8
Bedingte Erwartungen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 171 8.1 Elementare bedingte Wahrscheinlichkeiten . . . . . . . . . . . . . . . . . . . . . 171 8.2 Bedingte Erwartungen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 175 8.3 Regul¨are Version der bedingten Verteilung . . . . . . . . . . . . . . . . . . . . . 182
9
Martingale . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 191 9.1 Prozesse, Filtrationen, Stoppzeiten . . . . . . . . . . . . . . . . . . . . . . . . . . . . 191 9.2 Martingale . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 196 9.3 Diskretes stochastisches Integral . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 200 9.4 Diskreter Martingaldarstellungssatz und CRR Modell . . . . . . . . . . . . 202
10
Optional Sampling S¨atze . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 207 10.1 Doob-Zerlegung und quadratische Variation . . . . . . . . . . . . . . . . . . . . 207 10.2 Optional Sampling und Optional Stopping . . . . . . . . . . . . . . . . . . . . . . 211 10.3 Gleichgradige Integrierbarkeit und Optional Sampling . . . . . . . . . . . . 215
11
Martingalkonvergenzs¨atze und Anwendungen . . . . . . . . . . . . . . . . . . . 219
Inhaltsverzeichnis
IX
11.1 Die Doob’sche Ungleichung . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 219 11.2 Martingalkonvergenzs¨atze . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 221 11.3 Beispiel: Verzweigungsprozess . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 230 12
¨ Ruckw¨ artsmartingale und Austauschbarkeit . . . . . . . . . . . . . . . . . . . . . 233 12.1 Austauschbare Familien von Zufallsvariablen . . . . . . . . . . . . . . . . . . . 233 12.2 R¨uckw¨artsmartingale . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 238 12.3 Satz von de Finetti . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 240
13
Konvergenz von Maßen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 245 13.1 Wiederholung Topologie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 245 13.2 Schwache und vage Konvergenz . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 252 13.3 Der Satz von Prohorov . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 260 13.4 Anwendung: Satz von de Finetti – anders angeschaut . . . . . . . . . . . . . 269
14
W-Maße auf Produktr¨aumen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 273 14.1 Produktr¨aume . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 274 ¨ 14.2 Endliche Produkte und Ubergangskerne . . . . . . . . . . . . . . . . . . . . . . . . 277 14.3 Satz von Ionescu-Tulcea und Projektive Familien . . . . . . . . . . . . . . . . 286 14.4 Markov’sche Halbgruppen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 291
15
Charakteristische Funktion und Zentraler Grenzwertsatz . . . . . . . . . 297 15.1 Trennende Funktionenklassen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 297 15.2 Charakteristische Funktionen: Beispiele . . . . . . . . . . . . . . . . . . . . . . . . 304 15.3 Der L´evy’sche Stetigkeitssatz . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 310 15.4 Charakteristische Funktion und Momente . . . . . . . . . . . . . . . . . . . . . . 315 15.5 Der Zentrale Grenzwertsatz . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 321 15.6 Mehrdimensionaler Zentraler Grenzwertsatz . . . . . . . . . . . . . . . . . . . . 329
16
Unbegrenzt teilbare Verteilungen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 331 16.1 Die L´evy-Khinchin Formel . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 331 16.2 Stabile Verteilungen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 343
17
Markovketten . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 349
X
Inhaltsverzeichnis
17.1 Begriffsbildung und Konstruktion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 349 17.2 Diskrete Markovketten, Beispiele . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 356 17.3 Diskrete Markovprozesse in stetiger Zeit . . . . . . . . . . . . . . . . . . . . . . . 360 17.4 Diskrete Markovketten, Rekurrenz und Transienz . . . . . . . . . . . . . . . . 365 17.5 Anwendung: Rekurrenz und Transienz von Irrfahrten . . . . . . . . . . . . 369 17.6 Invariante Verteilungen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 376 18
Konvergenz von Markovketten . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 383 18.1 Periodizit¨at von Markovketten . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 383 18.2 Kopplung und Konvergenzsatz . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 387 18.3 Markovketten Monte Carlo Methode . . . . . . . . . . . . . . . . . . . . . . . . . . 394 18.4 Konvergenzgeschwindigkeit . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 401
19
Markovketten und elektrische Netzwerke . . . . . . . . . . . . . . . . . . . . . . . 407 19.1 Harmonische Funktionen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 407 19.2 Reversible Markovketten . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 411 19.3 Endliche Elektrische Netzwerke . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 412 19.4 Rekurrenz und Transienz . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 418 19.5 Netzwerkreduktion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 424 19.6 Irrfahrt in zuf¨alliger Umgebung . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 431
20
Ergodentheorie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 435 20.1 Begriffsbildung . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 435 20.2 Ergodens¨atze . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 439 20.3 Beispiele . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 441 20.4 Anwendung: Rekurrenz von Irrfahrten . . . . . . . . . . . . . . . . . . . . . . . . . 443 20.5 Mischung . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 446
21
Die Brown’sche Bewegung . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 451 21.1 Stetige Modifikationen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 451 21.2 Konstruktion und Pfadeigenschaften . . . . . . . . . . . . . . . . . . . . . . . . . . . 458 21.3 Starke Markoveigenschaft . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 463 21.4 Erg¨anzung: Feller Prozesse . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 466
Inhaltsverzeichnis
XI
21.5 Konstruktion durch L2 -Approximation . . . . . . . . . . . . . . . . . . . . . . . . 469 21.6 Der Raum C([0, ∞)) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 473 21.7 Konvergenz von W-Maßen auf C([0, ∞)) . . . . . . . . . . . . . . . . . . . . . . 475 21.8 Satz von Donsker . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 478 21.9 Pfadweise Konvergenz von Verzweigungsprozessen∗ . . . . . . . . . . . . . 482 21.10Quadratische Variation und lokale Martingale . . . . . . . . . . . . . . . . . . . 488 22
Gesetz vom iterierten Logarithmus . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 499 22.1 Iterierter Logarithmus f¨ur die Brown’sche Bewegung . . . . . . . . . . . . . 499 22.2 Skorohod’scher Einbettungssatz . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 502 22.3 Satz von Hartman-Wintner . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 507
23
Große Abweichungen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 509 23.1 Satz von Cram´er . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 510 23.2 Prinzip der großen Abweichungen . . . . . . . . . . . . . . . . . . . . . . . . . . . . 514 23.3 Satz von Sanov . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 518 23.4 Varadhan’sches Lemma und Freie Energie . . . . . . . . . . . . . . . . . . . . . . 522
24
Der Poisson’sche Punktprozess . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 529 24.1 Zuf¨allige Maße . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 529 24.2 Eigenschaften des Poisson’schen Punktprozesses . . . . . . . . . . . . . . . . 533 24.3 Die Poisson-Dirichlet-Verteilung∗ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 539
25
Das Itˆo-Integral . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 547 25.1 Das Itˆo-Integral bez¨uglich der Brown’schen Bewegung . . . . . . . . . . . 547 25.2 Itˆo-Integral bez¨uglich Diffusionen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 555 25.3 Die Itˆo-Formel . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 558 25.4 Dirichlet-Problem und Brown’sche Bewegung . . . . . . . . . . . . . . . . . . 566 25.5 Rekurrenz und Transienz der Brown’schen Bewegung . . . . . . . . . . . . 568
26
Stochastische Differentialgleichungen . . . . . . . . . . . . . . . . . . . . . . . . . . 573 26.1 Starke L¨osungen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 573 26.2 Schwache L¨osungen und Martingalproblem . . . . . . . . . . . . . . . . . . . . 582 26.3 Eindeutigkeit schwacher L¨osungen via Dualit¨at . . . . . . . . . . . . . . . . . 589
XII
Inhaltsverzeichnis
Literatur . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 597 Notation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 607 ¨ Glossar englischer Ausdrucke . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 611 Namensregister . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 613 Sachregister . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 617
1 Grundlagen der Maßtheorie
In diesem Kapitel f¨uhren wir die Mengensysteme ein, die eine systematische Betrachtung von Ereignissen und zuf¨alligen Beobachtungen in der Wahrscheinlichkeitstheorie erlauben. Ferner sollen Maße, insbesondere Wahrscheinlichkeitsmaße, auf solchen Mengensystemen konstruiert werden. Schließlich werden wir Zufallsvariablen als messbare Abbildungen definieren.
1.1 Mengensysteme Im Folgenden ist stets Ω = ∅ eine Menge und A ⊂ 2Ω (Potenzmenge von Ω) eine Familie von Teilmengen. Sp¨ater wird die Menge Ω als Raum von Elementarereignissen interpretiert werden und A als ein System von beobachtbaren Ereignissen. Wir wollen in diesem Abschnitt Mengensysteme, die abgeschlossen sind unter einfachen mengentheoretischen Verkn¨upfungen, mit Namen versehen und einfache Beziehungen zwischen solchen Systemen herstellen. Definition 1.1. Das Mengensystem A heißt – ∩-stabil (sprich: schnittstabil) oder ein π-System, falls f¨ur je zwei Mengen A, B ∈ A gilt, dass auch A ∩ B ∈ A, – σ-∩-stabil (sigma-schnittstabil), falls f¨ur je abz¨ahlbar unendlich viele Mengen ∞ An ∈ A, A1 , A2 , . . . ∈ A gilt, dass auch n=1
– ∪-stabil (vereinigungsstabil), falls f¨ur je zwei Mengen A, B ∈ A gilt, dass auch A ∪ B ∈ A, – σ-∪-stabil (sigma-vereinigungsstabil), falls f¨ur je abz¨ahlbar unendlich viele Men∞ gen A1 , A2 , . . . ∈ A gilt, dass auch An ∈ A, n=1
– \-stabil (differenzmengenstabil), falls f¨ur je zwei Mengen A, B ∈ A gilt, dass auch A \ B ∈ A, – komplementstabil, falls mit jeder Menge A ∈ A auch Ac := Ω \ A ∈ A gilt.
2
1 Grundlagen der Maßtheorie
Definition 1.2 (σ-Algebra). Ein Mengensystem A ⊂ 2Ω heißt σ-Algebra, falls die folgenden drei Bedingungen erf¨ullt sind. (i) Ω ∈ A, (ii) A ist komplementstabil, (iii) A ist σ-∪-stabil. σ-Algebren sind die nat¨urlichen Mengensysteme f¨ur zuf¨allige Ereignisse, denn wie wir sehen werden, k¨onnen wir diesen Ereignissen in konsistenter Weise Wahrscheinlichkeiten zuordnen. ¨ Satz 1.3. Ist A komplementstabil, so gelten die beiden folgenden Aquivalenzen. A ist ∩ -stabil
⇐⇒
A ist ∪ -stabil,
A ist σ- ∩ -stabil
⇐⇒
A ist σ- ∪ -stabil.
Beweis. Dies folgt direkt aus den de Morgan’schen Regeln (Erinnerung: ( Ai )c = c Ai ). Ist beispielsweise A σ-∩-stabil und sind A1 , A2 , . . . ∈ A, so ist auch ∞ c ∞ An = Acn ∈ A. n=1
n=1
Also ist A auch σ-∪-stabil. Die anderen F¨alle folgen analog.
2
Satz 1.4. Ist A \-stabil, so gelten die folgenden Aussagen. (i) A ist ∩-stabil. (ii) Falls A σ-∪-stabil ist, dann ist A auch σ-∩-stabil. (iii) Jede abz¨ahlbare (beziehungsweise endliche) Vereinigung von Mengen aus A l¨asst sich als abz¨ahlbare (beziehungsweise endliche), disjunkte Vereinigung von Mengen in A schreiben. Beweis. (i) Seien A, B ∈ A. Dann ist auch A ∩ B = A \ (A \ B) ∈ A. (ii) Seien A1 , A2 , . . . ∈ A. Dann ist ∞ n=1
An =
∞
(A1 ∩ An ) =
n=2
∞
A1 \ (A1 \ An ) = A1 \
n=2
(iii) Seien A1 , A2 , . . . ∈ A. Dann ist gung in A darstellbar durch
∞
(A1 \ An ) ∈ A.
n=2 ∞ n=1
An als abz¨ahlbare, disjunkte Vereini-
1.1 Mengensysteme ∞
3
An = A1 (A2 \ A1 ) ((A3 \ A1 ) \ A2 ) (((A4 \ A1 ) \ A2 ) \ A3 ) . . . 2
n=1
Bemerkung 1.5. Manchmal bezeichnen wir, wie imobigen Beweis, die Vereinigung paarweise disjunkter Mengen mit dem Symbol . Dies soll lediglich der optischen Verdeutlichung dienen und ist keine neue Verkn¨upfung. 3 Definition 1.6. Ein Mengensystem A ⊂ 2Ω heißt Algebra, falls gilt: (i) Ω ∈ A, (ii) A ist \-stabil, (iii) A ist ∪-stabil. Offenbar ist in einer Algebra stets ∅ = Ω \ Ω enthalten. Diese Eigenschaft ist im Allgemeinen jedoch schw¨acher als (i) in Definition 1.6. Satz 1.7. Ein Mengensystem A ⊂ 2Ω ist genau dann eine Algebra, wenn es folgende drei Eigenschaften hat: (i) Ω ∈ A, (ii) A ist komplementstabil, (iii) A ist ∩-stabil. ¨ Beweis. Ubung!
2
Definition 1.8. Ein Mengensystem A ⊂ 2Ω heißt Ring, falls gilt: (i) ∅ ∈ A, (ii) A ist \-stabil, (iii) A ist ∪-stabil. Ein Ring heißt σ-Ring, falls er σ-∪-stabil ist. Definition 1.9. Ein Mengensystem A ⊂ 2Ω heißt Semiring (oder Halbring), falls gilt: (i) ∅ ∈ A, (ii) f¨ur je zwei Mengen A, B ∈ A ist B \ A endliche Vereinigung von paarweise disjunkten Mengen aus A, (iii) A ist ∩-stabil.
4
1 Grundlagen der Maßtheorie
Definition 1.10. Ein Mengensystem A ⊂ 2Ω heißt Dynkin-System (oder λ-System), falls gilt: (i) Ω ∈ A, (ii) f¨ur je zwei Mengen A, B ∈ A mit A ⊂ B ist B \ A ∈ A, (iii) f¨ur je abz¨ahlbar viele, paarweise disjunkte Mengen A1 , A2 , . . . ∈ A gilt ∞ n=1 An ∈ A. Beispiele 1.11. (i) Ist Ω eine beliebige nichtleere Menge, so sind A = {∅, Ω} und A = 2Ω die trivialen Beispiele f¨ur Algebren, σ-Algebren und Dynkin-Systeme. Hingegen sind A = {∅} und A = 2Ω die trivialen Beispiele f¨ur Semiringe, Ringe und σ-Ringe. (ii) Sei Ω = R. Dann ist A = {A ⊂ R : A ist abz¨ahlbar} ein σ-Ring. (iii) A = {(a, b] : a, b ∈ R, a ≤ b} ist ein Semiring u¨ ber Ω = R (aber kein Ring). (iv) Die Menge endlicher Vereinigungen von beschr¨ankten Intervallen ist ein Ring u¨ ber Ω = R (aber keine Algebra). (v) Die Menge endlicher Vereinigungen beliebiger (auch unbeschr¨ankter) Intervalle ist eine Algebra u¨ ber Ω = R (aber keine σ-Algebra). (vi) Sei E eine endliche, nichtleere Menge und Ω := E N die Menge aller Folgen ω = (ωn )n∈N mit Werten in E. F¨ur ω1 , . . . , ωn ∈ E sei [ω1 , . . . , ωn ] := {ω ∈ Ω : ωi = ωi f¨ur jedes i = 1, . . . , n} die Menge aller Folgen, die mit den Werten ω1 , . . . , ωn beginnen. Sei A0 = {∅}. F¨ur n ∈ N setze Dann ist A :=
∞
An := {[ω1 , . . . , ωn ] : ω1 , . . . , ωn ∈ E}.
n=0
(1.1)
An ein Semiring, aber kein Ring (falls #E > 1).
(vii) Sei Ω eine beliebige nichtleere Menge. Dann ist A := {A ⊂ Ω : A oder Ac ist endlich} eine Algebra. Ist #Ω = ∞, so ist A jedoch keine σ-Algebra. (viii) Sei Ω eine beliebige nichtleere Menge. Dann ist A := {A ⊂ Ω : A oder Ac ist abz¨ahlbar} eine σ-Algebra. (ix) Jede σ-Algebra ist auch ein Dynkin-System.
(x) Sei Ω = {1, 2, 3, 4} und A = ∅, {1, 2}, {1, 4}, {2, 3}, {3, 4}, {1, 2, 3, 4} . Dann ist A ein Dynkin-System, aber keine Algebra. 3
1.1 Mengensysteme
5
Satz 1.12 (Inklusionen zwischen Mengensystemen). (i) Jede σ-Algebra ist ein Dynkin-System, eine Algebra und ein σ-Ring. (ii) Jeder σ-Ring ist ein Ring, jeder Ring ein Semiring. (iii) Jede Algebra ist auch ein Ring. Eine Algebra auf einer endlichen Menge Ω ist auch eine σ-Algebra. Beweis. (i) Das ist klar. (ii) Sei A ein Ring. Nach Satz 1.4 ist A schnittstabil und damit ein Semiring. (iii) Sei A eine Algebra. Dann ist ∅ = Ω \ Ω ∈ A, also ist A ein Ring. Ist zudem Ω endlich, so ist A endlich und damit jede abz¨ahlbare Vereinigung in A schon eine endliche Vereinigung. 2 Definition 1.13 (liminf und limsup). Es seien A1 , A2 , . . . Teilmengen von Ω. Dann heißen ∞ ∞ ∞ ∞ Am und lim sup An := Am lim inf An := n→∞
n→∞
n=1 m=n
n=1 m=n
Limes inferior beziehungsweise Limes superior der Folge (An )n∈N . Bemerkung 1.14. (i) Es gilt
lim inf An = ω ∈ Ω : #{n ∈ N : ω ∈ An } < ∞ , n→∞
lim sup An = ω ∈ Ω : #{n ∈ N : ω ∈ An } = ∞ . n→∞
Der Limes inferior ist also das Ereignis, dass schließlich alle der An eintreten, der Limes superior hingegen das Ereignis, dass unendlich viele der An eintreten. Insbesondere ist A∗ := lim inf n→∞ An ⊂ A∗ := lim supn→∞ An . (ii) Bezeichnen wir mit
½A (x) :=
1, 0,
falls x ∈ A, falls x ∈ A,
(1.2)
die Indikatorfunktion auf der Menge A, so gilt
½A∗ = lim inf ½An , n→∞
½A∗ = lim sup ½An . n→∞
(iii) Ist A ⊂ 2Ω eine σ-Algebra und An ∈ A f¨ur jedes n ∈ N, so ist A∗ ∈ A und A∗ ∈ A. 3 ¨ Beweis. Ubung!
2
6
1 Grundlagen der Maßtheorie
Satz 1.15 (Schnitt von Mengensystemen). Ist I eine beliebige Indexmenge und Ai eine σ-Algebra f¨ur jedes i ∈ I, so ist
AI := A ⊂ Ω : A ∈ Ai f¨ur jedes i ∈ I = Ai i∈I
eine σ-Algebra. Dies gilt analog f¨ur: Ringe, σ-Ringe, Algebren und Dynkin-Systeme; nicht aber f¨ur Semiringe. Beweis. Wir f¨uhren den Beweis hier nur f¨ur σ-Algebren durch. Wir pr¨ufen f¨ur A die Punkte (i)–(iii) aus Definition 1.2. (i) F¨ur jedes i ∈ I ist Ω ∈ Ai . Also ist Ω ∈ A. (ii) Sei A ∈ A. Dann ist A ∈ Ai f¨ur jedes i ∈ I. Also ist auch Ac ∈ Ai f¨ur jedes i ∈ I. Mithin ist Ac ∈ A. (iii) Seien A1 , A2 , . . . ∈A. Dann ist An ∈ Ai f¨ur jedes n ∈ N und jedes i ∈ I. Also ist auch A := ∞ ur jedes i ∈ I und damit A ∈ A. n=1 An ∈ Ai f¨ Gegenbeispiel f¨ur Semiringe: Seien Ω = {1, 2, 3, 4}, A1 = {∅, Ω, {1}, {2, 3}, {4}} und A2 = {∅, Ω, {1}, {2}, {3, 4}}. Dann sind A1 und A2 Semiringe, aber A1 ∩ A2 = {∅, Ω, {1}} ist keiner. 2 Satz 1.16 (Erzeugte σ-Algebra). Sei E ⊂ 2Ω . Dann existiert eine kleinste σAlgebra σ(E) mit E ⊂ σ(E): σ(E) := A. A⊂2Ω ist σ-Algebra A⊃E
σ(E) heißt die von E erzeugte σ-Algebra. E heißt Erzeuger von σ(E). Analog wird das von E erzeugte Dynkin-System δ(E) definiert. Beweis. A = 2Ω ist eine σ-Algebra mit E ⊂ A. Also ist der Schnitt nicht leer. Nach Satz 1.15 ist σ(E) eine σ-Algebra, und dies ist offenbar die kleinste σ-Algebra, die E enth¨alt. F¨ur Dynkin-Systeme geht der Beweis genauso. 2 Bemerkung 1.17. Es gelten die folgenden einfachen Aussagen. (i) E ⊂ σ(E). (ii) Gilt E1 ⊂ E2 , so ist σ(E1 ) ⊂ σ(E2 ). (iii) A ist genau dann σ-Algebra, wenn σ(A) = A. Die analogen Aussagen gelten f¨ur Dynkin-Systeme. Ferner ist stets δ(E) ⊂ σ(E).3
1.1 Mengensysteme
7
Satz 1.18 (Schnittstabiles Dynkin-System). Ist D ⊂ 2Ω ein Dynkin-System, so gilt D ist ∩-stabil Beweis. ”
=⇒ “
”
⇐= “
⇐⇒
D ist eine σ-Algebra.
Dies ist klar.
Wir pr¨ufen die Eigenschaften (i)–(iii) aus Definition 1.2.
(i) Offensichtlich ist Ω ∈ D. (ii) (Komplementstabilit¨at) Sei A ∈ D. Da Ω ∈ D gilt, und nach Eigenschaft (ii) des Dynkin-Systems, ist Ac = Ω \ A ∈ D. (iii) (σ-∪-Stabilit¨at) Seien A, B ∈ D. Nach Voraussetzung ist A ∩ B ∈ D, und es gilt trivialerweise A ∩ B ⊂ A. Also ist A \ B = A \ (A ∩ B) ∈ D. Mithin ist D \-stabil. Seien nun A1 , A2 , . . . ∈ D. Nach Satz 1.4(iii) existieren paarweise ∞ ∞ disjunkte Mengen B1 , B2 , . . . ∈ D mit An = Bn ∈ D. 2 n=1
* σ-∪-stabil
σ-Algebra
Algebra
@ I Ω ∈ A@
6
HH Y H
Ω∈A
σ-Ring
n=1
HH ∩-stabil H HH
Dynkin-System
@
σ-∪-stabil
@
Ring
6 ∪-stabil Semiring Abb. 1.1. Zusammenhang zwischen den Mengensystemen A ⊂ 2Ω .
Satz 1.19 (Dynkin’scher π–λ–Satz). Sei E ⊂ 2Ω ein ∩-stabiles Mengensystem. Dann gilt σ(E) = δ(E). Beweis. ⊃“ Dies ist klar nach Bemerkung 1.17. ” ⊂“ Zu zeigen ist: δ(E) ist eine σ-Algebra. Nach Satz 1.18 reicht es zu zeigen, ” dass δ(E) ∩-stabil ist. F¨ur B ∈ δ(E) sei
8
1 Grundlagen der Maßtheorie
DB := {A ∈ δ(E) : A ∩ B ∈ δ(E)}. F¨ur die Schnittstabilit¨at von δ(E) reicht es zu zeigen, dass δ(E) ⊂ DB
f¨ur jedes B ∈ δ(E).
(1.3)
Wir zeigen, dass DE f¨ur jedes E ∈ δ(E) ein Dynkin-System ist, indem wir (i)–(iii) aus Definition 1.10) pr¨ufen: (i) Offenbar ist Ω ∩ E = E ∈ δ(E), also ist Ω ∈ DE . (ii) F¨ur A, B ∈ DE mit A ⊂ B ist (B \ A) ∩ E = (B ∩ E) \ (A ∩ E) ∈ δ(E). (iii) Seien A1 , A2 , . . . ∈ DE paarweise disjunkt. Dann ist ∞ ∞ An ∩ E = (An ∩ E) ∈ δ(E). n=1
n=1
Nach Voraussetzung ist f¨ur A ∈ E auch A ∩ E ∈ E, also ist E ⊂ DE , falls E ∈ E gilt. Nach Bemerkung 1.17(ii) ist daher auch δ(E) ⊂ DE f¨ur E ∈ E. F¨ur B ∈ δ(E) und E ∈ E ist also B ∩ E ∈ δ(E). Mithin gilt E ∈ DB f¨ur jedes B ∈ δ(E), also 2 E ⊂ DB f¨ur jedes B ∈ δ(E), und damit gilt (1.3). Von besonderer Bedeutung sind σ-Algebren, die von Topologien erzeugt werden. Hier wiederum spielt nat¨urlich der euklidische Raum Rn die prominenteste Rolle, aber wir wollen auch den (unendlichdimensionalen) Raum C([0, 1]) der stetigen Funktionen [0, 1] → R im Blick haben. Auf diesem Raum wird durch die Norm f ∞ = supx∈[0,1] |f (x)| eine Topologie erzeugt. Zur Erinnerung bringen wir hier das Axiomensystem der Topologie. Definition 1.20 (Topologie). Sei Ω = ∅ eine beliebige Menge. Ein Mengensystem τ ⊂ Ω heißt Topologie auf Ω, falls folgende drei Eigenschaften gelten. (i) ∅, Ω ∈ τ . (ii) Sind A, B ∈ τ , so ist auch A ∩ B ∈ τ . (iii) Ist F ⊂ τ eine beliebige Familie, so ist auch
A∈F
A ∈ τ.
Das Paar (Ω, τ ) heißt dann topologischer Raum. Die Mengen A ∈ τ heißen offen, die Mengen A ⊂ Ω mit Ac ∈ τ heißen abgeschlossen. Anders als bei σ-Algebren sind bei Topologien nur endliche Schnitte, jedoch auch u¨ berabz¨ahlbare Vereinigungen erlaubt. Ist d eine Metrik auf Ω, und bezeichnet Br (x) = {y ∈ Ω : d(x, y) < r} die offene Kugel um x ∈ Ω mit Radius r > 0, so wird eine Topologie erzeugt durch
1.1 Mengensysteme
τ=
(x,r)∈F
9
Br (x) : F ⊂ Ω × (0, ∞) .
Dies ist das gew¨ohnliche System offener Mengen, das man in den meisten Analysisb¨uchern findet. Definition 1.21 (Borel’sche σ-Algebra). Sei (Ω, τ ) ein topologischer Raum. Die von den offenen Mengen erzeugte σ-Algebra B(Ω) := B(Ω, τ ) := σ(τ ) heißt Borel’sche σ-Algebra auf Ω. Die Elemente A ∈ B(Ω, τ ) heißen Borel’sche Mengen oder Borel-messbare Mengen. Bemerkung 1.22. Wir sind meistens an B(Rn ) interessiert, wobei wir auf Rn den euklidischen Abstand annehmen: n d(x, y) = x − y2 = (xi − yi )2 . i=1
(i) Es gibt Teilmengen von Rn , die keine Borel’schen Mengen sind. Diese sind kompliziert herzustellen, wie beispielsweise die Vitali-Mengen, die man in Analysisb¨uchern findet (siehe etwa [7]). Wir wollen hier auf diesen Aspekt nicht n¨aher eingehen, sondern lediglich die - mathematisch unpr¨azise - Feststellung treffen, dass jede Menge, die man sich konstruktiv herstellen kann, auch Borel’sch ist. (ii) Jede abgeschlossene Menge C ⊂ Rn ist in B(Rn ), denn es ist C c ∈ τ , also ist C = (C c )c ∈ σ(τ ). Speziell ist {x} ∈ B(Rn ) f¨ur jedes x ∈ Rn . (iii) B(Rn ) ist keine Topologie. Sei n¨amlich V ⊂ Rn , V ∈ B(Rn ). W¨are B(Rn ) eine Topologie, so w¨aren beliebige Vereinigungen Borel’scher Mengen wieder Bo3 rel’sch, also auch V = x∈V {x} ∈ B(Rn ). Das Mengensystem der offenen Mengen, das die Borel’sche σ-Algebra erzeugt, ist in vielen F¨allen unhandlich groß. Wir wollen daher andere Mengensysteme als Erzeuger von B(Rn ) identifizieren, mit denen wir in der Praxis besser arbeiten k¨onnen. Hierzu wollen wir einerseits Mengen von einfacher Struktur, Quader etwa, betrachten, andererseits aber auch die Gr¨oße des Systems einschr¨anken, indem wir abz¨ahlbare Mengensysteme betrachten. Wir f¨uhren folgende Notationen ein. Mit Q bezeichnen wir die Menge der rationalen Zahlen, mit Q+ die Menge der strikt positiven rationalen Zahlen. F¨ur a, b ∈ Rn schreiben wir a < b,
falls ai < bi
f¨ur jedes i = 1, . . . , n.
(1.4)
Wir definieren f¨ur a < b den offenen Quader als das kartesische Produkt
×(a , b ) := (a , b ) × (a , b ) × · · · × (a , b ) n
(a, b) :=
i
i=1
i
1
1
2
2
n
n
(1.5)
10
1 Grundlagen der Maßtheorie
und analog [a, b], (a, b] und [a, b). Ferner schreiben wir (−∞, b) := ×i=1 (−∞, bi ) und definieren analog (−∞, b] und so fort. Wir f¨uhren die folgenden Mengensysteme ein: n
E1 := {A ⊂ Rn : A ist offen},
E2 := {A ⊂ Rn : A ist abgeschlossen},
E3 := {A ⊂ Rn : A ist kompakt}, E4 E5 := {(a, b) : a, b ∈ Qn , a < b}, E6 E8 E7 := {(a, b] : a, b ∈ Qn , a < b}, n E9 := {(−∞, b) : b ∈ Q }, E10 E12 E11 := {(a, ∞) : a ∈ Qn },
:= {Br (x) : x ∈ Qn , r ∈ Q+ }, := {[a, b) : a, b ∈ Qn , a < b}, := {[a, b] : a, b ∈ Qn , a < b}, := {(−∞, b] : b ∈ Qn }, := {[a, ∞) : a ∈ Qn }.
Satz 1.23. Die Borel’sche σ-Algebra B(Rn ) wird von jedem der Mengensysteme E1 , . . . , E12 erzeugt: B(Rn ) = σ(Ei ) f¨ur jedes i = 1, . . . , 12. Beweis. Wir zeigen nur exemplarisch ein paar der Identit¨aten. (1)
B(Rn ) = σ(E1 ) gilt per Definition.
(2) Sei A ∈ E1 . Dann ist Ac ∈ E2 , also A = (Ac )c ∈ σ(E2 ). Daher gilt E1 ⊂ σ(E2 ) und dann (wegen Bemerkung 1.17) auch σ(E1 ) ⊂ σ(E2 ). Analog folgt aber σ(E2 ) ⊂ σ(E1 ) und damit die Gleichheit. (3) Jede kompakte Menge ist abgeschlossen. Also gilt σ(E3 ) ⊂ σ(E2 ). Sei nun A ∈ E2 . Dann sind die Mengen AK := A ∩ [−K, K]n , K ∈ N, kompakt, also ist ∞ die abz¨ahlbare Vereinigung A = K=1 AK in σ(E3 ). Es gilt also E2 ⊂ σ(E3 ) und damit σ(E2 ) = σ(E3 ). (4) Offenbar ist E4 ⊂ E1 , also σ(E4 ) ⊂ σ(E1 ). Sei nun A ⊂ Rn offen. F¨ur x ∈ A sei R(x) = min(1, sup{r > 0 : Br (x) ⊂ A}). Da A offen ist, folgt R(x) > 0. Sei r(x) ∈ (R(x)/2, R(x)) ∩ Q. F¨ur jedes y ∈ A und x ∈ (BR(y)/3 (y)) ∩ Qn ist nun 2 1 R(x) ≥ R(y) − x − y2 > 3 R(y), also r(x) > 3 R(y), also y ∈ Br(x) (x). Also ist A = x∈A∩Qn Br(x) (x) eine abz¨ahlbare Vereinigung von Mengen aus E4 und damit in σ(E4 ). Es gilt also auch σ(E1 ) ⊂ σ(E4 ). ¨ (5–12) Ahnliche Aussch¨opfungsargumente wie in (4) funktionieren auch f¨ur die Quader. In (4) k¨onnen statt der offenen Kugeln Br (x) offene Quader genommen werden. So folgt die Gleichheit mit σ(E5 ). Man bemerke beispielsweise, dass
× n
i=1
[ai , bi ) =
∞
× n
k=1 i=1
ai −
1 , bi ∈ σ(E5 ). k
Die anderen Inklusionen Ei ⊂ σ(Ej ) zeigt man analog.
2
Bemerkung 1.24. Jedes der Mengensysteme E1 , E2 , E3 , E5 , . . . , E12 (nicht aber E4 ) ist schnittstabil, mithin ist die Borel’sche σ-Algebra jeweils gleich dem erzeugten
1.1 Mengensysteme
11
Dynkin-System: B(Rn ) = δ(Ei ) f¨ur i = 1, 2, 3, 5, . . . , 12. Die Mengensysteme E4 , . . . , E12 sind zudem abz¨ahlbar. Dies ist eine Eigenschaft, die wir an sp¨aterer Stelle wieder ben¨otigen werden. 3 Definition 1.25 (Spur eines Mengensystems). Es sei A ⊂ 2Ω ein beliebiges System von Teilmengen von Ω und A ∈ 2Ω \ {∅}. Das Mengensystem A := {A ∩ B : B ∈ A} ⊂ 2A A
(1.6)
heißt Spur von A auf A, oder Einschr¨ankung von A auf A. Satz 1.26. Ist A eine σ-Algebra, oder eines der Mengensysteme aus den Definitio nen 1.6 – 1.10 auf Ω, so ist A ein Mengensystem vom selben Typ, allerdings auf A A statt Ω. ¨ Beweis. Ubung!
2
¨ Ubung 1.1.1. Sei A ein Semiring. Man zeige: Jede abz¨ahlbare (beziehungsweise endliche) Vereinigung von Mengen aus A l¨asst sich als abz¨ahlbare (beziehungsweise endliche), disjunkte Vereinigung von Mengen in A schreiben. ♣ ¨ Ubung 1.1.2. Man zeige durch ein Gegenbeispiel, dass im Allgemeinen die Vereinigung A ∪ A zweier σ-Algebren keine σ-Algebra ist. ♣ ¨ Ubung 1.1.3. Seien (Ω1 , d1 ) und (Ω2 , d2 ) metrische R¨aume, f : Ω1 → Ω2 eine beliebige Abbildung und Uf = x ∈ Ω1 : f ist unstetig in x die Menge der Unstetigkeitsstellen. Man zeige: Uf ∈ B(Ω1 ). Hinweis: Man zeige zun¨achst, dass f¨ur ε > 0 und δ > 0 die Menge
Ufδ,ε := x ∈ Ω1 : es gibt y, z ∈ Bε (x) mit d2 (f (y), f (z)) > δ (wobei Bε (x) = {y ∈ Ω1 : d1 (x, y) < ε}) offen ist und konstruiere dann Uf aus solchen Mengen. ♣ ¨ Ubung 1.1.4. Sei Ω eine u¨ berabz¨ahlbare Menge und A = σ({ω} : ω ∈ Ω). Zeige:
A = A ⊂ Ω : A ist abz¨ahlbar oder Ac ist abz¨ahlbar . ♣ ¨ Ubung 1.1.5. Sei A ein Ring auf der Menge Ω. Man zeige: A erf¨ullt die Axiome eines kommutativen Rings (im Sinne der Algebra) mit ∩“ als Multiplikation und ” “ als Addition. ♣ ”
12
1 Grundlagen der Maßtheorie
1.2 Mengenfunktionen Definition 1.27. Sei A ⊂ 2Ω und μ : A → [0, ∞] eine Mengenfunktion. μ heißt (i) monoton, falls f¨ur je zwei Mengen A, B ∈ A mit A ⊂ B gilt, dass μ(A) ≤ μ(B), (ii) additiv, falls f¨ur je endlich viele disjunkte Mengen A1 , . . . , An ∈ A n paarweise n n Ai ∈ A gilt, dass μ Ai = μ(Ai ), mit i=1
i=1
i=1
(iii) σ-additiv, falls f¨ur je abz¨ahlbar viele disjunkte Mengen A1 , A2 , . . . ∞paarweise ∞ ∞ Ai ∈ A gilt, dass μ Ai = μ(Ai ), aus A mit i=1
i=1
i=1
(iv) subadditiv, falls f¨ur je endlich viele Mengen A, A1 , A2 , . . . , An ∈ A mit A ⊂ n n Ai gilt, dass μ(A) ≤ μ(Ai ), i=1
i=1
(v) σ-subadditiv, falls f¨ur je abz¨ahlbar viele A, A1 , A2 , . . . ∈ A mit A ⊂ gilt, dass μ(A) ≤
∞
∞
Ai
i=1
μ(Ai ).
i=1
Definition 1.28. Sei A ein Semiring und μ : A → [0, ∞] eine Mengenfunktion mit μ(∅) = 0. μ heißt – Inhalt, falls μ additiv ist, – Pr¨amaß, falls μ σ-additiv ist, – Maß, falls μ ein Pr¨amaß ist und A eine σ-Algebra, – Wahrscheinlichkeitsmaß (kurz W-Maß), falls μ ein Maß ist und μ(Ω) = 1. Definition 1.29. Sei A ein Semiring. Ein Inhalt μ auf A heißt (i) endlich, falls μ(A) < ∞ f¨ur jedes A ∈ A, (ii) σ-endlich, falls es Mengen Ω1 , Ω2 , . . . ∈ A gibt mit Ω =
∞
Ωn und
n=1
μ(Ωn ) < ∞ f¨ur jedes n ∈ N.
Beispiel 1.30 (Inhalte, Maße). (i) Sei ω ∈ Ω und δω (A) = ½A (ω) (siehe (1.2)). Dann ist δω ein Wahrscheinlichkeitsmaß auf jeder σ-Algebra A ⊂ 2Ω und heißt Dirac-Maß im Punkt ω, oder Einheitsmasse. (ii) Sei Ω eine endliche, nichtleere Menge. Durch μ(A) :=
#A #Ω
f¨ur A ⊂ Ω,
1.2 Mengenfunktionen
13
wird ein Wahrscheinlichkeitsmaß auf A = 2Ω definiert. μ heißt Gleichverteilung oder uniforme Verteilung auf Ω. Wir f¨uhren hierf¨ur das Symbol UΩ := μ ein. Das so definierte Tripel (Ω, A, UΩ ) wird auch Laplace-Raum genannt. (iii) Sei Ω abz¨ahlbar unendlich und A := {A ⊂ Ω : #A < ∞ oder #Ac < ∞}. Dann ist A eine Algebra. Die durch μ(A) =
falls A endlich, falls Ac endlich,
0, ∞,
auf
A definierte Mengenfunktion ist ein Inhalt, aber kein Pr¨amaß, denn es gilt μ ω∈Ω {ω} = μ(Ω) = ∞, aber ω∈Ω μ ({ω}) = 0. (iv) Sei (μn )n∈N eine Folge von Maßen (Pr¨amaßen, Inhalten) ∞ und (αn )n∈N eine Folge von nichtnegativen Zahlen. Dann ist auch μ := n=1 αn μn ein Maß (Pr¨amaß, Inhalt). Ω (v) Sei Ω eine (h¨ochstens) abz¨ahlbare, nichtleere Menge und A = 2 . Ferner seien (pω )ω∈Ω nichtnegative Zahlen. Dann wird durch μ(A) := ω∈A pω f¨ur jedes A ⊂ Ω, ein σ-endliches Maß auf 2Ω definiert. Wir nennen p = (pω )ω∈Ω die Gewichtsfunktion von μ. (vi) Ist in (v) speziell ω∈Ω pω = 1, so ist μ ein Wahrscheinlichkeitsmaß. Wir interpretieren dann pω als Wahrscheinlichkeit des Elementarereignisses ω und nennen p = (pω )ω∈Ω auch einen Wahrscheinlichkeitsvektor.
(vii) Ist in (v) speziell pω = 1 f¨ur jedes ω ∈ Ω, so heißt μ das Z¨ahlmaß auf Ω. Ist Ω endlich, so ist auch μ endlich. (viii) Sei A der Ring endlicher Vereinigungen von Intervallen (a, b] ⊂ R. F¨ur n (ai , bi ] setzen wir a1 < b1 < a2 < b2 < . . . < bn und A = i=1
μ(A) =
n
(bi − ai ).
i=1
μ ist ein σ-endlicher Inhalt auf A (sogar ein Pr¨amaß), denn es ist und μ((−n, n]) = 2n < ∞ f¨ur jedes n ∈ N.
∞
n=1 (−n, n]
=R
(ix) Sei f : R → [0, ∞) stetig. Analog zu (viii) setze n bi μf (A) = f (x) dx. i=1
ai
μf ist ein σ-endlicher Inhalt auf A (sogar ein Pr¨amaß). Die Funktion f heißt Dichte und spielt hier eine a¨ hnliche Rolle wie die Gewichtsfunktion p in (v). 3
14
1 Grundlagen der Maßtheorie
Lemma 1.31 (Eigenschaften von Inhalten). Sei A ein Semiring und μ ein Inhalt auf A. Dann gelten die folgenden Aussagen. (i) Ist A ein Ring, so ist μ(A∪B)+μ(A∩B) = μ(A)+μ(B) f¨ur je zwei Mengen A, B ∈ A. (ii) μ ist monoton. Ist A ein Ring, so gilt genauer μ(B) = μ(A) + μ(B \ A) f¨ur je zwei Mengen A, B ∈ A mit A ⊂ B. (iii) μ ist subadditiv. Ist μ sogar σ-additiv, so ist μ auch σ-subadditiv. (iv) Ist A ein Ring, so gilt f¨ur je abz¨ahlbar viele, paarweise disjunkte Mengen ∞ ∞ ∞ A1 , A2 , . . . ∈ A mit An ∈ A stets μ(An ) ≤ μ An . n=1
n=1
n=1
Beweis. (i) Es ist A ∪ B = A (B \ A) und B = (A ∩ B) (B \ A). Da μ additiv ist, folgt μ(A ∪ B) = μ(A) + μ(B \ A)
μ(B) = μ(A ∩ B) + μ(B \ A).
und
Hieraus folgt sofort (i). (ii) Sei A ⊂ B. Wegen A ∩ B = A folgt μ(B) = μ(A (B \ A)) = μ(A) + μ(B \ A), falls B \ A ∈ A ist,insbesondere also, falls A ein Ring ist. Ist nun A nur ein Semiring, so ist B \ A = ni=1 Ci f¨ur gewisses n ∈ N und disjunkte paarweise n Mengen C1 , . . . , Cn ∈ A. In diesem Fall ist μ(B) = μ(A) + i=1 μ(Ci ) ≥ μ(A), also ist μ monoton. n (iii) Seien n ∈ N und A, A1 , . . . , An ∈ A mit A ⊂ i=1 Ai . Setze B1 = A1 und Bk = A k \
k−1
Ai =
i=1
k−1
(Ak \ (Ak ∩ Ai ))
f¨ur k = 2, . . . , n.
i=1
Per Definition des Semirings ist jedes Ak \ (Ak ∩ Ai ) disjunkte Vereinigung endlich vieler ck Mengen in A, also existiert ein ck ∈ N und Mengen Ck,1 , . . . , Ck,ck ∈ A mit B ⊂ Ak . Analog existieren dk ∈ N und Dk,1 , . . . , Dk,dk ∈ A mit i=1 Ck,i = kk Ak \ Bk = di=1 Dk,i . Da μ additiv ist, gilt μ(Ak ) =
ck
μ(Ck,i ) +
i=1
dk
μ(Dk,i ) ≥
i=1
ck
μ(Ck,i ).
i=1
Wiederum aufgrund von Additivit¨at und Monotonie gilt n c ck n k (Ck,i ∩ A) = μ(Ck,i ∩ A) μ(A) = μ k=1 i=1
≤
ck n k=1 i=1
μ(Ck,i ) ≤
k=1 i=1 n k=1
μ(Ak ).
1.2 Mengenfunktionen
15
Also ist μ subadditiv. Die σ-Subadditivit¨at folgt aus der σ-Additivit¨at in analoger Weise. (iv)
∞
Sei A ein Ring und A =
gilt nach (ii) m
μ(An ) = μ
n=1
Also ist
∞
An ∈ A. Da μ additiv (und damit monoton) ist,
n=1
m
An
≤ μ(A)
f¨ur jedes m ∈ N.
n=1
μ(An ) ≤ μ(A).
2
n=1
Bemerkung 1.32. In (iv) kann strikte Ungleichheit herrschen (siehe etwa Beispiel 1.30(iii)). Mit anderen Worten: Es gibt Inhalte, die keine Pr¨amaße sind. 3 Satz 1.33 (Einschluss- Ausschlussformel). Sei A ein Ring und μ ein Inhalt. Dann gelten f¨ur n ∈ N und A1 , . . . , An ∈ A die Einschluss- Ausschlussformeln μ(A1 ∪ . . . ∪ An ) =
n
μ(A1 ∩ . . . ∩ An ) =
μ(Ai1 ∩ . . . ∩ Aik ),
{i1 ,...,ik }⊂{1,...,n}
k=1 n
(−1)k−1
(−1)k−1
k=1
μ(Ai1 ∪ . . . ∪ Aik ),
{i1 ,...,ik }⊂{1,...,n}
wobei sich die Summen u¨ ber alle k-elementigen Teilmengen von {1, . . . , n} erstrecken. ¨ Beweis. Ubung! Hinweis: Man verwende vollst¨andige Induktion u¨ ber n.
2
Wir wollen die σ-Subadditivit¨at durch eine Stetigkeitseigenschaft charakterisieren (Satz 1.36). Hierzu verabreden wir die folgende Sprechweise und Notation. Definition 1.34. Sind A, A1 , A2 , . . . Mengen, so schreiben wir – An ↑ A, falls A1 ⊂ A2 ⊂ . . . und
∞
An = A, ∞ – An ↓ A, falls A1 ⊃ A2 ⊃ A3 ⊃ . . . und n=1 An = A. n=1
Wir sagen dann, dass (An )n∈N gegen A aufsteigt beziehungsweise absteigt.
16
1 Grundlagen der Maßtheorie
Definition 1.35 (Stetigkeit von Inhalten). Sei μ ein Inhalt auf dem Ring A. (i) μ heißt stetig von unten, falls f¨ur jedes A ∈ A und jede Folge (An )n∈N in A n→∞ mit An ↑ A gilt: μ(An ) −→ μ(A). (ii) μ heißt stetig von oben, falls f¨ur jedes A ∈ A und jede Folge (An )n∈N in A n→∞ mit An ↓ A sowie μ(An ) < ∞ f¨ur jedes n ∈ N gilt: μ(An ) −→ μ(A). (iii) μ heißt ∅-stetig, falls (ii) f¨ur A = ∅ gilt. Bei der Stetigkeit von oben wurde die Endlichkeitsbedingung eingef¨uhrt, weil sogar f¨ur das Z¨ahlmaß μ auf (N, 2N ) und An := {n, n+1, . . .} ↓ ∅ sonst keine Gleichheit gelten kann. Satz 1.36 (Stetigkeit und Pr¨amaß). Sei μ ein Inhalt auf einem Ring A. Betrachte die folgenden f¨unf Eigenschaften. (i) μ ist σ-additiv (also ein Pr¨amaß). (ii) μ ist σ-subadditiv. (iii) μ ist stetig von unten. (iv) μ ist ∅-stetig. (v) μ ist stetig von oben. Dann gelten die Implikationen (i) ⇐⇒ (ii) ⇐⇒ (iii) =⇒ (iv) ⇐⇒ (v). Ist μ endlich, so gilt auch (iv) =⇒ (iii). ∞ Beweis. (i) =⇒ (ii)“ Seien A, A1 , A2 , . . . ∈ A mit A ⊂ i=1 Ai . Setze B1 = ” n−1 ∞ A1 und Bn = An \ i=1 Ai ∈ A f¨ur n = 2, 3, . . . Dann ist A = n=1 (A ∩ Bn ), also wegen der Monotonie von μ und der σ-Additivit¨at von μ μ(A) =
∞
μ(A ∩ Bn ) ≤
n=1
∞
μ(An ).
n=1
Damit ist μ als σ-subadditiv erkannt. (ii) =⇒ (i)“ Dies folgt aus Lemma 1.31(iv). ” (i) =⇒ (iii)“ Sei μ ein Pr¨amaß und A ∈ A sowie (An )n∈N eine Folge in A mit ” An ↑ A sowie A0 = ∅. Dann gilt μ(A) =
∞ i=1
μ(Ai \ Ai−1 ) = lim
n→∞
n i=1
μ(Ai \ Ai−1 ) = lim μ(An ). n→∞
(iii) =⇒ (i)“ Gelte nun (iii). Seien B1 , B2 , . . . ∈ A paarweise disjunkt, und ” ∞ n Bn ∈ A. Setze An = Bi f¨ur jedes n ∈ N. Dann folgt aus (iii) gelte B = n=1
i=1
1.2 Mengenfunktionen
μ(B) = lim μ(An ) = n→∞
∞
17
μ(Bi ).
i=1
Also ist μ σ-additiv und damit ein Pr¨amaß. (iv) =⇒ (v)“ Seien A, A1 , A2 , . . . ∈ A mit An ↓ A und μ(A1 ) < ∞. Setze ” Bn = An \ A ∈ A f¨ur jedes n ∈ N. Dann gilt Bn ↓ ∅. Es gilt also μ(An ) − μ(A) = n→∞ μ(Bn ) −→ 0. (v) =⇒ (iv)“ Dies ist trivial. ” (iii) =⇒ (iv)“ Seien A1 , A2 , . . . ∈ A mit An ↓ ∅ und μ(A1 ) < ∞. Dann gilt ” A1 \ An ∈ A f¨ur jedes n ∈ N und A1 \ An ↑ A1 , also μ(A1 ) = lim μ(A1 \ An ) = μ(A1 ) − lim μ(An ). n→∞
n→∞
Wegen μ(A1 ) < ∞ ist lim μ(An ) = 0. n→∞
(iv) =⇒ (iii)“ (f¨ur den Fall μ endlich) Es gelte nun μ(A) < ∞ f¨ur jedes A ∈ A, ” und μ sei ∅-stetig. Seien A, A1 , A2 , . . . ∈ A mit An ↑ A. Dann gilt A \ An ↓ ∅ und n→∞
μ(A) − μ(An ) = μ(A \ An ) −→ 0. 2
Also gilt (iii). Beispiel 1.37. (Vergleiche Beispiel 1.30(iii).) Sei Ω abz¨ahlbar unendlich und A = {A ⊂ Ω : #A < ∞ oder #Ac < ∞}, 0, falls A endlich, μ(A) = ∞, falls A unendlich. Dann ist μ ein ∅-stetiger Inhalt, aber kein Pr¨amaß.
3
Definition 1.38. (i) Ein Paar (Ω, A), bestehend aus einer nichtleeren Menge Ω und einer σ-Algebra A ⊂ 2Ω , heißt Messraum. Die Mengen A ∈ A heißen messbare Mengen. Ist Ω h¨ochstens abz¨ahlbar und A = 2Ω , so heißt der Messraum (Ω, 2Ω ) diskret. (ii) Ein Tripel (Ω, A, μ) heißt Maßraum, wenn (Ω, A) ein Messraum ist und μ ein Maß auf A. (iii) Ist zudem μ(Ω) = 1, so heißt (Ω, A, μ) ein Wahrscheinlichkeitsraum. In diesem Fall heißen die Mengen A ∈ A auch Ereignisse. (iv) Den Raum aller endlichen Maße auf (Ω, A) bezeichnen wir mit Mf (Ω) := Mf (Ω, A), den der W-Maße mit M1 (Ω) := M1 (Ω, A), schließlich den der σ-endlichen Maße mit Mσ (Ω, A).
18
1 Grundlagen der Maßtheorie
¨ Ubung
1.2.1. Sei A = {(a, b] ∩ Q : a, b ∈ R, a ≤ b}. Definiere μ : A → [0, ∞) durch μ (a, b] ∩ Q = b − a. Man zeige, dass A ein Semiring ist und μ ein unterhalb und oberhalb stetiger Inhalt auf A, der jedoch nicht σ-additiv ist. ♣
1.3 Fortsetzung von Maßen In diesem Abschnitt wollen wir Maße konstruieren, indem wir zun¨achst auf einem einfachen Mengensystem, n¨amlich einem Semiring, plausible Werte f¨ur einen Inhalt angeben und dann, nach M¨oglichkeit, diesen Inhalt zu einem Maß auf der erzeugten σ-Algebra fortsetzen. Bevor wir zu den konkreten Bedingungen kommen, unter denen das machbar ist, bringen wir zwei Beispiele. Beispiel 1.39 (Lebesgue-Maß). Sei n ∈ N und A = {(a, b] : a, b ∈ Rn , a < b} der Semiring der halboffenen Quader (a, b] ⊂ Rn (vergleiche (1.5)). Das n-dimensionale Volumen des Quaders ist μ((a, b]) =
n
(bi − ai ).
i=1
K¨onnen wir μ zu einem (eindeutig bestimmten) Maß auf der Borel’schen σ-Algebra B(Rn ) = σ(A) fortsetzen? Wir werden sehen, dass dies m¨oglich ist. Das resultierende Maß heißt Lebesgue-Maß (manchmal auch Lebesgue-Borel-Maß) λ auf 3 (Rn , B(Rn )). Beispiel 1.40 (Produktmaß, Bernoulli-Maß). Wir wollen ein Wahrscheinlichkeitsmaß konstruieren f¨ur die unendliche, unabh¨angige Wiederholung eines Zufallsexperiments mit endlich vielen m¨oglichen Ausg¨angen. Die Menge der Ausg¨ ange sei E. F¨ur e ∈ E sei pe die Wahrscheinlichkeit, dass e eintritt. Es gilt also e∈E pe = 1. Die Ergebnisse dieser Experimente seien ω1 , ω2 , . . . ∈ E. Der Raum des gesamten Experiments ist daher Ω = E N . Wie in Beispiel 1.11(vi) definieren wir [ω1 , . . . , ωn ] := {ω ∈ Ω : ωi = ωi f¨ur jedes i = 1, . . . , n}
(1.7)
als die Menge aller Folgen, die mit den Werten ω1 , . . . , ωn beginnen. Sei A0 = {∅}. F¨ur n ∈ N definieren wir das Mengensystem der Zylindermengen, die nur von den ersten n Koordinaten abh¨angen, An := {[ω1 , . . . , ωn ] : ω1 , . . . , ωn ∈ E}, und setzen A :=
∞ n=0
An .
(1.8)
1.3 Fortsetzung von Maßen
19
Wir interpretieren [ω1 , . . . , ωn ] als das Ereignis, dass im ersten Experiment der Wert ω1 herauskommt, im zweiten ω2 und schließlich im n-ten Experiment der Wert ωn . Die Ergebnisse der weiteren Experimente spielen f¨ur das Eintreten des Ereignisses keine Rolle. F¨ur ω1 , . . . , ωn ∈ E soll die Wahrscheinlichkeit f¨ur [ω1 , . . . , ωn ] das Produkt der einzelnen Wahrscheinlichkeiten sein (das verstehen wir intuitiv unter Unabh¨angigkeit“) ” n pωi . μ([ω1 , . . . , ωn ]) = i=1
Hierdurch wird ein Inhalt auf A definiert, und unser Ziel ist es, μ in eindeutiger Weise zu einem Wahrscheinlichkeitsmaß auf σ(A) fortzusetzen. Bevor wir dies tun, treffen wir noch die folgenden Definition. Wir definieren eine (Ultra-)Metrik auf Ω durch 2− inf{n∈N: ωn =ωn } , falls ω = ω , (1.9) d(ω, ω ) = 0, falls ω = ω . Dann ist (Ω, d) ein kompakter, metrischer Raum. Offenbar ist [ω1 , . . . , ωn ] = B2−n (ω) = {ω ∈ Ω : d(ω, ω ) < 2−n }. Das Komplement von [ω1 , . . . , ωn ] ist die Vereinigung von (#E)n − 1 offenen Kugeln [ω1 , . . . , ωn ], [ω1 , . . . , ωn ]c = ) =(ω ,...,ω ) (ω1 ,...,ωn 1 n
also offen. Damit ist [ω1 , . . . , ωn ] abgeschlossen und kompakt, weil Ω kompakt ist. ¨ Ahnlich wie in Satz 1.23 kann man zeigen, dass σ(A) = B(Ω, d). ¨ Ubung: Man zeige die obigen Aussagen. 3 Das Hauptergebnis dieses Kapitels ist der Fortsetzungssatz f¨ur Maße, den wir hier in der Form von Carath´eodory formulieren. Satz 1.41 (Carath´eodory). Sei A ⊂ 2Ω ein Ring und μ ein σ-endliches Pr¨amaß auf A. Dann kann μ auf genau eine Weise zu einem Maß μ auf σ(A) fortgesetzt werden, und μ ˜ ist σ-endlich. Den Beweis dieses Satzes m¨ussen wir mit einigen Lemmata vorbereiten. Wir zeigen dann in Satz 1.53 eine etwas st¨arkere Aussage. Dort wird auch die griffige Formulierung kann fortgesetzt werden“ pr¨azisiert. ” Lemma 1.42 (Eindeutigkeit durch schnittstabilen Erzeuger). Sei (Ω, A, μ) ein σ-endlicher Maßraum und E ⊂ A ein schnittstabiler Erzeuger von A. Es gebe E1 , E2 , . . . ∈ E mit En ↑ Ω und μ(En ) < ∞ f¨ur jedes n ∈ N. Dann ist μ durch die Werte μ(E), E ∈ E, eindeutig festgelegt. Ist μ ein W-Maß, so gilt die Folgerung auch ohne die Existenz der Folge (En )n∈N .
20
1 Grundlagen der Maßtheorie
Beweis. Sei ν ein weiteres σ-endliches Maß auf (Ω, A) mit der Eigenschaft μ(E) = ν(E)
f¨ur jedes E ∈ E.
Sei E ∈ E mit μ(E) < ∞. Betrachte das Mengensystem DE = {A ∈ A : μ(A ∩ E) = ν(A ∩ E)}. Um zu zeigen, dass DE ein Dynkin-System ist, pr¨ufen wir die Eigenschaften aus Definition 1.10: (i) Offensichtlich ist Ω ∈ DE . (ii) Seien A, B ∈ DE mit A ⊃ B. Dann ist μ ((A \ B) ∩ E) = μ(A ∩ E) − μ(B ∩ E) = ν(A ∩ E) − ν(B ∩ E) = ν ((A \ B) ∩ E) . Also ist A \ B ∈ DE . (iii) Seien A1 , A2 , . . . ∈ DE paarweise disjunkt sowie A =
∞
An . Dann ist
n=1
μ(A ∩ E) =
∞ n=1
μ(An ∩ E) =
∞
ν(An ∩ E) = ν(A ∩ E),
n=1
also A ∈ DE . Offenbar ist E ⊂ DE , also δ(E) ⊂ DE . Da E schnittstabil ist, ist nach Satz 1.19 A ⊃ DE ⊃ δ(E) = σ(E) = A. Also ist DE = A. F¨ur jedes A ∈ A und E ∈ E mit μ(E) < ∞ gilt also μ(A ∩ E) = ν(A ∩ E). Seien nun E1 , E2 , . . . ∈ E mit En ↑ Ω und μ(En ) < ∞ f¨ur jedes n ∈ N. Da μ und ν von unten stetig sind, gilt f¨ur A ∈ A μ(A) = lim μ(A ∩ En ) = lim ν(A ∩ En ) = ν(A). n→∞
n→∞
Der Zusatz ist trivial, denn E˜ := E ∪ {Ω} ist ebenfalls ein schnittstabiler Erzeuger von A, und der Wert μ(Ω) = 1 ist bekannt. Es kann also die konstante Folge En = Ω, n ∈ N, gew¨ahlt werden. Man beachte jedoch, dass es nicht reicht zu fordern, dass μ endlich ist, weil dann im Allgemeinen die Gesamtmasse μ(Ω) nicht eindeutig festgelegt ist (siehe Beispiel 1.45(ii)). 2
1.3 Fortsetzung von Maßen
21
Beispiel 1.43. Sei Ω = Z und E = En : n ∈ Z , wobei En = (−∞, n] ∩ Z. E ist schnittstabil und σ(E) = 2Ω . Also ist ein endliches Maß μ auf (Ω, 2Ω ) eindeutig festgelegt durch die Werte μ(En ), n ∈ Z. Ein σ-endliches Maß auf Z ist jedoch durch die Werte auf E noch nicht eindeutig bestimmt: Sei μ das Z¨ahlmaß auf Z und ν = 2μ. Dann ist μ(E) = ∞ = ν(E) f¨ur jedes E ∈ E. Um μ und ν zu unterscheiden, brauchen wir also einen Erzeuger, der Mengen endlichen Maßes (f¨ur μ) enth¨alt. Tun es die Mengen F˜n = [−n, n] ∩ Z, n ∈ N? In der Tat ist f¨ur jedes σ-endliche Maß μ jetzt μ(F˜n ) < ∞ f¨ur jedes n ∈ N. Allerdings erzeugen die F˜n nicht 2Ω (sondern welche σ-Algebra?). Wir k¨onnen aber die Definition so modifizieren: Fn = [−n/2, (n + 1)/2] ∩ Z. Dann ist σ({Fn , n ∈ N}) = 2Ω , also E = {Fn , n ∈ N} ein schnittstabiler Erzeuger von 2Ω und μ(Fn ) < ∞ f¨ur jedes n ∈ N. Wegen Fn ↑ Ω sind die Bedingungen des Satzes erf¨ullt. 3 Beispiel 1.44 (Verteilungsfunktion). Ein W-Maß μ auf dem Raum (Rn , B(Rn )) ist n durch Angabe der Werte μ((−∞, b]) auf den Mengen (−∞, b] = ×i=1 (−∞, bi ], b ∈ Rn , eindeutig festgelegt, da diese Mengen einen schnittstabilen Erzeuger bilden (Satz 1.23). Speziell ist ein W-Maß μ auf R durch Angabe der Verteilungsfunktion F : R → [0, 1], x → μ((−∞, x]) eindeutig bestimmt. 3
Beispiel 1.45. (i) Sei Ω = {1, 2, 3, 4} und E = { 1, 2}, {2, 3} . Offenbar gilt σ(E) = 2Ω , jedoch ist E nicht schnittstabil. Tats¨achlich ist hier ein W-Maß μ durch Angabe der Werte μ({1, 2}) = μ({2, 3}) = 12 nicht eindeutig festgelegt. Es gibt beispielsweise die M¨oglichkeiten μ = 12 δ1 + 12 δ3 oder μ = 12 δ2 + 12 δ4 . (ii) Sei Ω = {1, 2} und E = {{1}}. Dann ist E ein schnittstabiler Erzeuger von 2Ω , und ein W-Maß μ ist durch Angabe von μ({1}) eindeutig festgelegt. Allerdings gilt dies nicht f¨ur endliche Maße im Allgemeinen, denn μ = 0 und ν = δ2 sind zwei endliche Maße, die auf E u¨ bereinstimmen. 3 ¨ Definition 1.46 (Außeres Maß). Eine Mengenfunktion μ∗ : 2Ω → [0, ∞] heißt a¨ ußeres Maß, falls gilt: (i) μ∗ (∅) = 0, (ii) μ∗ ist monoton, (iii) μ∗ ist σ-subadditiv. Lemma 1.47. Sei A ⊂ 2Ω ein beliebiges Mengensystem mit ∅ ∈ A und μ eine monotone Mengenfunktion auf A mit μ(∅) = 0. F¨ur A ⊂ Ω sei F U(A) = F ⊂ A : F ist h¨ochstens abz¨ahlbar und A ⊂ F ∈F
¨ die Menge der abz¨ahlbaren Uberdeckungen F von A mit Mengen F aus A. Setze
22
1 Grundlagen der Maßtheorie
∗
μ (A) := inf
μ(F ) : F ∈ U(A) ,
F ∈F
wobei inf ∅ = ∞. Dann ist μ∗ ein a¨ ußeres Maß. Ist μ zudem σ-subadditiv, so gilt μ∗ (A) = μ(A) f¨ur jedes A ∈ A. Beweis. Wir weisen die Eigenschaften (i)–(iii) des a¨ ußeren Maßes nach. (i) Wegen ∅ ∈ A ist {∅} ∈ U(∅), also ist μ∗ (∅) = 0. (ii) Ist A ⊂ B, so ist U(A) ⊃ U(B), also ist μ∗ (A) ≤ μ∗ (B). ∞ f¨ur jedes n ∈ N und A ⊂ n=1 An . Wir m¨ussen zeigen, dass (iii) Sei An ⊂ Ω ∞ ∗ μ∗ (A) ≤ ankung sei μ∗ (An ) < ∞ und dan=1 μ (An ). Ohne Einschr¨ mit U(An ) = ∅ f¨ur jedes n ∈ N. W¨ahle ε > 0 und zu jedem n ∈ N eine ¨ Uberdeckung Fn ∈ U(An ) mit μ(F ) ≤ μ∗ (An ) + ε 2−n . F ∈Fn
Dann ist F :=
∞
μ∗ (A) ≤
n=1
Fn ∈ U(A) und
F ∈F
μ(F ) ≤
∞
μ(F ) ≤
n=1 F ∈Fn
∞
μ∗ (An ) + ε.
n=1
∗ Sei A ∈ A. Wegen {A} so gilt f¨ur ∈ U(A) ist μ (A) ≤ μ(A). Ist μ σ-subadditiv, 2 jedes F ∈ U(A), dass F ∈F μ(F ) ≥ μ(A) ist, also auch μ∗ (A) ≥ μ(A).
Definition 1.48 (μ∗ -messbare Mengen). Sei μ∗ ein a¨ ußeres Maß. Eine Menge A ∈ 2Ω heißt μ∗ -messbar, falls μ∗ (A ∩ E) + μ∗ (Ac ∩ E) = μ∗ (E)
f¨ur jedes E ∈ 2Ω .
(1.10)
Wir schreiben M(μ∗ ) = {A ∈ 2Ω : A ist μ∗ -messbar}. Lemma 1.49. Es ist A ∈ M(μ∗ ) genau dann, wenn μ∗ (A ∩ E) + μ∗ (Ac ∩ E) ≤ μ∗ (E)
f¨ur jedes E ∈ 2Ω .
Beweis. Da μ∗ subadditiv ist, gilt stets die andere Ungleichung. Lemma 1.50. M(μ∗ ) ist eine Algebra. Beweis. Wir pr¨ufen die Eigenschaften (i)–(iii) der Algebra aus Satz 1.7. (i) Ω ∈ M(μ∗ ) ist klar.
2
1.3 Fortsetzung von Maßen
(ii) (Komplementstabilit¨at)
23
Per Definition ist A ∈ M(μ∗ ) ⇐⇒ Ac ∈ M(μ∗ ).
(iii) (Schnittstabilit¨at) Seien A, B ∈ M(μ∗ ) und E ∈ 2Ω . Dann ist μ∗ ((A ∩ B) ∩ E) + μ∗ ((A ∩ B)c ∩ E)
= μ∗ (A ∩ B ∩ E) + μ∗ (Ac ∩ B ∩ E) ∪ (Ac ∩ B c ∩ E) ∪ (A ∩ B c ∩ E) ≤ μ∗ (A ∩ B ∩ E) + μ∗ (Ac ∩ B ∩ E) + μ∗ (Ac ∩ B c ∩ E) + μ∗ (A ∩ B c ∩ E) = μ∗ (B ∩ E) + μ∗ (B c ∩ E) = μ∗ (E). Dabei haben wir in der vorletzten Gleichung A ∈ M(μ∗ ) benutzt und in der letzten 2 B ∈ M(μ∗ ). Lemma 1.51. Ein a¨ ußeres Maß μ∗ ist σ-additiv auf M(μ∗ ). Beweis. Seien A, B ∈ M(μ∗ ) mit A ∩ B = ∅. Dann ist μ∗ (A ∪ B) = μ∗ (A ∩ (A ∪ B)) + μ∗ (Ac ∩ (A ∪ B)) = μ∗ (A) + μ∗ (B). Induktiv folgt die (endliche) Additivit¨at. Da μ∗ per Definition σ-subadditiv ist, folgt nach Satz 1.36, dass μ∗ auch σ-additiv ist. 2 Lemma 1.52. Ist μ∗ ein a¨ ußeres Maß, so ist M(μ∗ ) eine σ-Algebra. Speziell ist μ∗ ein Maß auf M(μ∗ ). Beweis. Nach Lemma 1.50 ist M(μ∗ ) eine Algebra, also insbesondere schnittstabil. Nach Satz 1.18 reicht es zu zeigen, dass M(μ∗ ) ein Dynkin-System ist. ∞ An . Zu zeigen Seien also A1 , A2 , . . . ∈ M(μ∗ ) paarweise disjunkt und A := n=1
ist A ∈ M(μ∗ ), also μ∗ (A ∩ E) + μ∗ (Ac ∩ E) ≤ μ∗ (E) Setze Bn =
n
f¨ur jedes E ∈ 2Ω .
(1.11)
Ai f¨ur jedes n ∈ N. Es gilt f¨ur jedes n ∈ N
i=1
μ∗ (E ∩ Bn+1 ) = μ∗ (E ∩ Bn+1 ) ∩ Bn + μ∗ (E ∩ Bn+1 ) ∩ Bnc = μ∗ (E ∩ Bn ) + μ∗ (E ∩ An+1 ), und induktiv μ∗ (E ∩ Bn ) = ni=1 μ∗ (E ∩ Ai ). Wegen der Monotonie von μ∗ folgt μ∗ (E) = μ∗ (E ∩ Bn ) + μ∗ (E ∩ Bnc ) ≥ μ∗ (E ∩ Bn ) + μ∗ (E ∩ Ac ) =
n i=1
μ∗ (E ∩ Ai ) + μ∗ (E ∩ Ac ).
24
1 Grundlagen der Maßtheorie
Indem wir n → ∞ gehen lassen, folgt mit der σ-Subadditivit¨at von μ∗ μ∗ (E) ≥
∞
μ∗ (E ∩ Ai ) + μ∗ (E ∩ Ac ) ≥ μ∗ (E ∩ A) + μ∗ (E ∩ Ac ).
i=1
2
Also gilt (1.11), und der Beweis ist komplett.
Wir zeigen nun einen Satz, der mit schw¨acheren Voraussetzungen auskommt als der Satz von Carath´eodory (Satz 1.41) und diesen impliziert. ¨ Maße). Sei A ein Semiring und μ : A → [0, ∞] Satz 1.53 (Fortsetzungssatz fur eine additive, σ-subadditive, σ-endliche Mengenfunktion mit μ(∅) = 0. Dann existiert ein eindeutig bestimmtes, σ-endliches Maß μ : σ(A) → [0, ∞] mit μ (A) = μ(A) f¨ur jedes A ∈ A. Beweis. Da A schnittstabil ist, folgt die Eindeutigkeit aus Lemma 1.42. Um die Existenz zu zeigen, definieren wir wie in Lemma 1.47 ∗ μ (A) := inf μ(F ) : F ∈ U(A) f¨ur jedes A ∈ 2Ω . F ∈F
Nach Lemma 1.31(ii) ist μ monoton, also ist μ∗ nach Lemma 1.47 ein a¨ ußeres Maß und μ∗ (A) = μ(A) f¨ur jedes A ∈ A. Wir m¨ussen zeigen, dass M(μ∗ ) ⊃ σ(A) gilt. Da M(μ∗ ) eine σ-Algebra ist (Lemma 1.52), reicht es, A ⊂ M(μ∗ ) zu zeigen. Seien also A ∈ A und E ∈ 2Ω mit μ∗ (E) < ∞. Sei ε > 0. Dann gibt es E1 , E2 , . . . ∈ A mit E⊂
∞
En
und
n=1
∞
μ(En ) ≤ μ∗ (E) + ε.
n=1
Setze Bn := En ∩ A ∈ A . Da A ein Semiring ist, gibt es zu jedem n ∈ N ein m n k Cn . Also ist mn ∈ N sowie Cn1 , . . . , Cnmn ∈ A mit En \ A = En \ Bn = k=1
E∩A⊂
∞ n=1
Bn ,
E ∩ Ac ⊂
∞ m n n=1 k=1
Cnk
und
E n = Bn
m n
Cnk .
k=1
μ∗ ist σ-subadditiv, und nach Voraussetzung ist μ additiv. Wegen μ∗ ≤ μ (es gilt A sogar Gleichheit, wie wir gleich sehen) folgt
1.3 Fortsetzung von Maßen ∗
∗
∞
μ (E ∩ A) + μ (E ∩ A ) ≤ c
∗
μ (Bn ) +
n=1 ∞
≤
=
μ(Bn ) +
∞
25
μ(Cnk )
k=1
mn ∞
μ(Cnk )
n=1 k=1
μ(Bn ) +
n=1
=
μ∗
n=1
n=1 ∞
∞
m n
mn
μ(Cnk )
k=1
μ(En ) ≤ μ∗ (E) + ε.
n=1
Daher ist μ∗ (E ∩ A) + μ∗ (E ∩ Ac ) ≤ μ∗ (E) und damit A ∈ M(μ∗ ), also ist A ⊂ M(μ∗ ). Setze nun μ : σ(A) → [0, ∞], A → μ∗ (A). Nach Lemma 1.51 ist μ ein Maß und μ ist σ-endlich, weil μ σ-endlich ist. 2 Beispiel 1.54 (Lebesgue-Maß, Fortsetzung von Beispiel 1.39). Wir wollen das auf n μ((a, b]) = den n Quadern A = {(a, b] : a, b ∈ R , a < b} eingef¨uhrte Volumen n (b − a ) zu einem Maß auf der Borel’schen σ-Algebra B(R ) fortsetzen. Um i i i=1 die Voraussetzungen von Satz 1.53 zu pr¨ufen, m¨ussen wir nur noch zeigen, dass μ σ-subadditiv ist. Seien also (a, b], (a(1), b(1)], (a(2), b(2)], . . . ∈ A mit ∞
(a, b] ⊂
(a(k), b(k)].
k=1
Wir m¨ussen zeigen, dass μ((a, b]) ≤
∞
μ((a(k), b(k)]).
(1.12)
k=1
Hierzu benutzen wir ein Kompaktheitsargument, um (1.12) auf die endliche Additivit¨at zur¨uck zu f¨uhren. Sei also ε > 0, und sei f¨ur jedes k ∈ N ein bε (k) > b(k) so gew¨ahlt, dass μ((a(k), bε (k)]) ≤ μ((a(k), b(k)]) + ε 2−k−1 . Ferner sei aε ∈ (a, b) so gew¨ahlt, dass μ((aε , b]) ≥ μ((a, b]) − 2ε . Nun ist [aε , b] kompakt und ∞ k=1
(a(k), bε (k)) ⊃
∞
(a(k), b(k)] ⊃ (a, b] ⊃ [aε , b].
k=1
0 Also existiert ein K0 mit K k=1 (a(k), bε (k)) ⊃ (aε , b]. Da μ (endlich) subadditiv ist (Lemma 1.31(iii)), folgt
26
1 Grundlagen der Maßtheorie 0 ε ε + μ((aε , b]) ≤ + μ((a(k), bε (k)]) 2 2
K
μ((a, b]) ≤
k=1
K0 ∞
−k−1 ε ε2 ≤ + + μ((a(k), b(k)]) ≤ ε + μ((a(k), b(k)]). 2 k=1
k=1
Da ε > 0 beliebig war, folgt (1.12) und damit die σ-Subadditivit¨at von μ.
3
Zusammen mit Satz 1.53 haben wir den folgenden Satz gezeigt. Satz 1.55 (Lebesgue-Maß). Es existiert ein eindeutig bestimmtes Maß λn auf (Rn , B(Rn )) mit der Eigenschaft λn ((a, b]) =
n
(bi − ai )
f¨ur alle a, b ∈ Rn mit a < b.
i=1
λn heißt Lebesgue-Maß auf (Rn , B(Rn )), oder Lebesgue-Borel-Maß. Beispiel 1.56 (Lebesgue-Stieltjes-Maß). Sei Ω = R und A = {(a, b] : a, b ∈ R, a ≤ b}. A ist ein Semiring und σ(A) = B(R), wo B(R) die Borel’sche σAlgebra auf R ist. Ferner sei F : R → R monoton wachsend und rechtsseitig stetig. Wir definieren eine Mengenfunktion μ ˜F : A → [0, ∞),
(a, b] → F (b) − F (a).
˜ F ist additiv. Offensichtlich ist μ ˜F (∅) = 0, und μ
Seien (a, b], (a(1), b(1)], (a(2), b(2)], . . . ∈ A mit (a, b] ⊂ ∞ n=1 (a(n), b(n)]. Sei ε > 0, und sei aε ∈ (a, b) so gew¨ahlt, dass F (aε ) − F (a) < ε/2. Dies geht, weil F als rechtsstetig angenommen wurde. Ferner sei f¨ur jedes k ∈ N ein bε (k) > b(k) so gew¨ahlt, dass F (bε (k)) − F (b(k))< ε 2−k−1 . Wie in Beispiel 1.54 kann man jetzt zeigen, dass μ ˜F ((a, b]) ≤ ε + ∞ ˜F ((a(k), b(k)]). Es folgt, dass μ ˜F σk=1 μ subadditiv ist. Nach Satz 1.53 k¨onnen wir μ ˜F auf eindeutige Weise zu einem σ3 endlichen Maß μF auf B(R) fortsetzen. Definition 1.57 (Lebesgue-Stieltjes-Maß). Das Maß μF auf (R, B(R)) mit μF ((a, b]) = F (b) − F (a)
f¨ur alle a, b ∈ R mit a < b
heißt Lebesgue-Stieltjes-Maß zur Funktion F . Beispiel 1.58. Wichtige Spezialf¨alle f¨ur das Lebesgue-Stieltjes-Maß sind: (i) Ist F (x) = x, so ist μF = λ1 das Lebesgue-Maß auf R. x (ii) Sei f : R → [0, ∞) stetig und F (x) = f (t) dt f¨ur x ∈ R. Dann ist μF 0
die Fortsetzung des in Beispiel 1.30(ix) definierten Pr¨amaßes mit Dichte f .
1.3 Fortsetzung von Maßen
27
∞ (iii) Sind x1 , x2 , . . . ∈ R und αn ≥ 0 f¨ur n ∈ N mit n=1 αn < ∞, so geh¨ort zu ∞ F = n=1 αn ½[xn ,∞) das endliche Maß μF = ∞ n=1 αn δxn . ∞ (iv) Sind x1 , x2 , . . . ∈ R, so ist μ = n=1 δxn ein σ-endliches Maß. μ ist genau dann ein Lebesgue-Stieltjes-Maß, wenn die Folge (xn )n∈N keinen H¨aufungspunkt hat. Hat n¨amlich (xn )n∈N keinen H¨aufungspunkt, so ist nach dem Satz von BolzanoWeierstraß #{n ∈ N : xn ∈ [−K, K]} < ∞ f¨ur jedes K > 0. Setzen wir F (x) = #{n ∈ N : xn ∈ [0, x]} f¨ur x ≥ 0 und F (x) = −#{n ∈ N : xn ∈ [x, 0)}, so ist μ = μF . Ist nun andererseits μ ein Lebesgue-Stieltjes-Maß, also μ = μF f¨ur ein F , dann ist #{n ∈ N : xn ∈ (−K, K]} = F (K) − F (−K) < ∞ f¨ur jedes K > 0, also hat (xn )n∈N keinen H¨aufungspunkt.
3 (v) Gilt lim F (x) − F (−x) = 1, so ist μF ein W-Maß. x→∞
Den Fall, wo μF ein W-Maß ist, wollen wir noch weiter untersuchen. Definition 1.59 (Verteilungsfunktion). Eine rechtsseitig stetige, monoton wachsende Funktion F : R → [0, 1] mit F (−∞) := lim F (x) = 0 und F (∞) := x→−∞
lim F (x) = 1 heißt Verteilungsfunktion. Gilt statt F (∞) = 1 lediglich F (∞) ≤ x→∞ 1, so heißt F uneigentliche Verteilungsfunktion. Ist μ ein (Sub-)W-Maß auf (R, B(R)), so heißt Fμ : x → μ((−∞, x]) die Verteilungsfunktion von μ. Offenbar ist Fμ rechtsseitig stetig und F (−∞) = 0, weil μ stetig von oben und endlich ist (Satz 1.36). Auf Grund der Stetigkeit von unten ist F (∞) = μ(R), also ist Fμ tats¨achlich eine (uneigentliche) Verteilungsfunktion, wenn μ ein (Sub-)WMaß ist. Die Argumentation aus Beispiel 1.56 liefert nun den folgenden Satz. Satz 1.60. Die Abbildung μ → Fμ ist eine Bijektion von der Menge der W-Maße auf (R, B(R)) auf die Menge der Verteilungsfunktionen, beziehungsweise von der Menge der Sub-W-Maße auf die der uneigentlichen Verteilungsfunktionen. Wir sehen also, dass jedes endliche Maß auf (R, B(R)) ein Lebesgue-Stieltjes-Maß f¨ur eine gewisse Funktion F ist. F¨ur σ-endliche Maße ist dies im Allgemeinen falsch, wie wir in Beispiel 1.58(iv) gesehen haben. Wir kommen nun zu einem Satz, der Satz 1.55 mit dem Lebesgue-Stieltjes-Maß kombiniert. Sp¨ater werden wir sehen, dass dieser Satz in gr¨oßerer Allgemeinheit g¨ultig ist. Speziell kann man auf die Bedingung verzichten, dass die einzelnen Faktoren vom Lebesgue-Stieltjes-Typ sind.
28
1 Grundlagen der Maßtheorie
Satz 1.61 (Endliche Produkte von Maßen). Sei n ∈ N, und seien μ1 , . . . , μn endliche Maße oder, allgemeiner, Lebesgue-Stieltjes-Maße auf (R, B(R)). Dann existiert ein eindeutig bestimmtes, σ-endliches Maß μ auf (Rn , B(Rn )) mit μ((a, b]) =
n
μi ((ai , bi ])
f¨ur alle a, b ∈ Rn mit a < b.
i=1 n
Wir nennen μ =:
μi das Produktmaß zu den Maßen μ1 , . . . , μn . i=1
Beweis. Dies geht v¨ollig analog zum Beweis von Satz 1.55. Man muss sich vergewissern, dass die Intervalle (a, bε ] und so weiter, so gew¨ahlt werden k¨onnen, dass μ((a, bε ]) < μ((a, b]) + ε. Hierzu wird die Rechtsstetigkeit der zu den μi geh¨origen ¨ 2 wachsenden Funktion Fi verwendet. Wir u¨ berlassen die Details zur Ubung. Bemerkung 1.62. Wir werden sp¨ater in Satz 14.14 sehen, dass die Aussage auch f¨ur beliebige σ-endliche Maße μ1 , . . . , μn auf beliebigen (auch unterschiedlichen) Messr¨aumen gilt. Wir k¨onnen auch unendliche (sogar u¨ berabz¨ahlbare) Produkte betrachten, wenn wir voraussetzen, dass alle Faktoren Wahrscheinlichkeitsr¨aume sind (Satz 14.36). 3 Beispiel 1.63 (Unendliches Produktmaß, Fortsetzung von Beispiel 1.40). Sei E eine endliche Menge und Ω = E N der Raum der Folgen mit Werten in E. Ferner sei (pe )e∈E ein Wahrscheinlichkeitsvektor. Der auf A = {[ω1 , . . . , ωn ] : ω1 , . . . , ωn ∈ E, n ∈ N} definierte Inhalt μ([ω1 , . . . , ωn ]) =
n
pωi
i=1
soll nun zu einem Maß auf σ(A) fortgesetzt werden. Um die Voraussetzungen von Satz 1.53 zu pr¨ufen, m¨ussen wir zeigen, dass μ σ-subadditiv ist. Wie im vorangehenden Beispiel geht dies mit Hilfe eines Kompaktheitsarguments. ∞ Seien also A, A1 , A2 , . . . ∈ A und A ⊂ n=1 An . Es reicht zu zeigen, dass es ein N ∈ N gibt mit der Eigenschaft A⊂
N
An .
(1.13)
n=1
Dann ist n¨amlich aufgrund der endlichen Subadditivit¨at von μ (Lemma 1.31(iii)) N ∞ μ(An ) ≤ μ(An ), also ist μ σ-subadditiv. schon μ(A) ≤ n=1
n=1
Wir geben nun zwei Beweise f¨ur (1.13) an.
1.3 Fortsetzung von Maßen
29
1. Beweis. Wie in Beispiel 1.40 angemerkt, ist Ω mit der von der Metrik d in (1.9) erzeugten Produkttopologie kompakt, und jedes A ∈ A ist abgeschlossen und damit auch kompakt. Da jedes der An zugleich offen ist, gibt es eine endliche Teil¨uberdeckung von A, mithin gilt (1.13). 2. Beweis. Wir zeigen nun auf elementare Weise die G¨ultigkeit von (1.13). Das Vorgehen imitiert den Beweis daf¨ur, dass Ω kompakt ist. Wir setzen Bn := A \ ni=1 Ai , nehmen an, dass Bn = ∅ f¨ur jedes n ∈ N und f¨uhren dies zum Widerspruch. Nach dem Dirichlet’schen Schubfachprinzip (E ist endlich) k¨onnen wir ein ω1 ∈ E ausw¨ahlen, sodass [ω1 ] ∩ Bn = ∅ f¨ur unendlich viele n ∈ N. Wegen B1 ⊃ B2 ⊃ . . . folgt [ω1 ] ∩ Bn = ∅
f¨ur jedes n ∈ N.
W¨ahle nun sukzessive ω2 , ω3 , . . . ∈ E so aus, dass [ω1 , . . . , ωk ] ∩ Bn = ∅
f¨ur alle k, n ∈ N.
Bn ist disjunkte Vereinigung von gewissen Mengen Cn,1 , . . . , Cn,mn ∈ A. Daher existiert zu jedem n ∈ N ein in ∈ {1, . . . , mn } mit [ω1 , . . . , ωk ] ∩ Cn,in = ∅ f¨ur unendlich viele k ∈ N. Wegen [ω1 ] ⊃ [ω1 , ω2 ] ⊃ . . . folgt [ω1 , . . . , ωk ] ∩ Cn,in = ∅
f¨ur alle k, n ∈ N.
F¨ur festes n ∈ N und großes k ist [ω1 , . . . , ωk ] ⊂ Cn,in , also ist ω = (ω1 , ω2 , . . .) ∈ ∞ Cn,in ⊂ Bn . Es folgt im Widerspruch zur Annahme, dass n=1 Bn = ∅. 3 Zusammen mit Satz 1.53 haben wir den folgenden Satz gezeigt. Satz 1.64 (Produktmaß, Bernoulli-Maß). Sei E eine endliche, nichtleere Menge und Ω = E N sowie (pe )e∈E ein Wahrscheinlichkeitsvektor. Dann gibt es ein eindeutig bestimmtes W-Maß μ auf σ(A) = B(Ω) mit μ([ω1 , . . . , ωn ]) =
n
pωi
f¨ur alle ω1 , . . . , ωn ∈ E und n ∈ N.
i=1
Wir nennen μ das Produktmaß oder Bernoulli-Maß auf Ω mit Gewichten (pe )e∈E . ⊗N
Wir schreiben auch := μ. e∈E pe δe E ⊗N Ferner nennen wir (2 ) := σ(A) die Produkt-σ-Algebra auf Ω. Auf Produktmaße gehen wir systematisch noch einmal in Kapitel 14 ein. Der Fortsetzungssatz liefert uns einen abstrakten Existenz- und Eindeutigkeitssatz f¨ur Maße, die wir zuvor nur auf einem Semiring A definiert hatten. Der folgende Satz zeigt, wie gut wir das Maß von σ(A)-messbaren Mengen durch endliche, beziehungsweise abz¨ahlbare Operationen mit Mengen aus A ann¨ahern k¨onnen.
30
1 Grundlagen der Maßtheorie
Wir schreiben A B := (A \ B) ∪ (B \ A),
f¨ur A, B ⊂ Ω,
(1.14)
f¨ur die symmetrische Differenz zweier Mengen A und B. ¨ Maße). Sei A ⊂ 2Ω ein Semiring und μ ein Satz 1.65 (Approximationssatz fur Maß auf σ(A), das σ-endlich auf A ist. (i) Zu A ∈ σ(A) und ε > 0gibt es paarweise disjunkte Mengen A1 , A2 , . . . ∈ A ∞ ∞ An und μ An \ A < ε. mit A ⊂ n=1
n=1
(ii) Zu A ∈ σ(A) mit μ(A) < ∞ und ε > 0 gibt es n ∈ N und paarweise n Ak < ε. disjunkte Mengen A1 , . . . , An ∈ A mit μ A k=1 ∗
(iii) Zu jedem A ∈ M(μ ) gibt es A− , A+ ∈ σ(A) mit A− ⊂ A ⊂ A+ und μ(A+ \ A− ) = 0. Bemerkung 1.66. Nach (iii) gelten (i) und (ii) auch f¨ur A ∈ M(μ∗ ) (mit μ∗ statt μ). Ist A eine Algebra, so gilt in (ii) f¨ur jedes A ∈ σ(A) sogar inf μ(A B) = 0. B∈A 3 Beweis. (ii) Da μ auf σ(A) mit dem a¨ ußeren Maß μ∗ u¨ bereinstimmt und μ(A) ¨ endlich ist, gibt es nach Definition von μ∗ (siehe Lemma 1.47) eine Uberdeckung B1 , B2 , . . . ∈ A von A mit μ(A) ≥
∞
μ(Bi ) − ε/2.
i=1
Sei n ∈ N mit
∞
μ(Bi ) <
i=n+1
ε 2
(dies existiert, weil μ(A) < ∞). F¨ur je drei
Mengen C, D, E gilt
C D = (D \ C) ∪ (C \ D) ⊂ (D \ C) ∪ (C \ (D ∪ E)) ∪ E ⊂ (C (D ∪ E)) ∪ E. n ∞ Mit C = A, D = i=1 Bi und E = i=n+1 Bi erhalten wir ∞ n ∞ Bi ≤ μ A Bi + μ Bi μ A i=1
i=1
≤μ
∞ i=1
i=n+1
Bi
− μ(A) +
ε ≤ ε. 2
1.3 Fortsetzung von Maßen
Schreibe nun
n
B i = B1
i=1
n i−1
(Bi \ Bj ) =:
i=2 j=1
k
31
Ai
i=1
f¨ur ein gewisses k ∈ N und gewisse A1 , . . . , Ak ∈ A (Semiring-Eigenschaft). (i) Sei A ∈ σ(A) und En ↑ Ω, En ∈ σ(A) mit μ(En ) < ∞ f¨ur jedes n ∈ N. ¨ W¨ahle zu n ∈ N eine Uberdeckung (Bn,m )m∈N von A ∩ En mit ∞
μ(A ∩ En ) ≥
μ(Bn,m ) − 2−n ε.
m=1
(Dies ist m¨oglich nach Definition des a¨ ußeren Maßes μ∗ , das auf A mit μ u¨ ber∞ ∞ Bn,m = An f¨ur gewisse An ∈ A, n ∈ N einstimmt.) Schreibe m,n=1
n=1
¨ (Ubung 1.1.1). Dann ist ∞ ∞ ∞ μ An \ A = μ Bn,m \ A n=1
n=1 m=1
≤μ
∞ ∞
Bn,m \ (A ∩ En )
n=1 m=1
≤
∞
n=1
∞
μ(Bn,m )
− μ(A ∩ En )
≤ ε.
m=1
(iii) Sei A ∈ M(μ∗ ) und (En )n∈N wie oben. W¨ahle zu m, n ∈ N ein An,m ∈ −n σ(A) mit An,m ⊃ A ∩ En und μ∗ (An,m ) ≤ μ∗ (A ∩ En ) + 2m . ∞ 1 An,m ∈ σ(A). Dann ist Am ⊃ A und μ∗ (Am \ A) ≤ m . Setze Setze Am := A+ :=
∞
n=1
Am . Dann ist σ(A) A+ ⊃ A und μ∗ (A+ \ A) = 0. W¨ahle analog
m=1
(A− )c ∈ σ(A) mit (A− )c ⊃ Ac und μ∗ ((A− )c \ Ac ) = 0. Dann ist A+ ⊃ A ⊃ A− und μ(A+ \ A− ) = μ∗ (A+ \ A− ) = μ∗ (A+ \ A) + μ∗ (A \ A− ) = 0. 2 Bemerkung 1.67 (Regularit¨at von Maßen). (Vergleiche auch Satz 13.6 auf Seite 248.) Sei λn das Lebesgue-Maß auf (Rn , B(Rn )). Sei A der Semiring der Quader der Form (a, b]) ⊂ Rn . Nach Satz 1.23 ist B(Rn ) = σ(A). Nach dem Approximationssatz gibt es zu A ∈ B(Rn ) und ε > 0 abz¨ahlbar viele A1 , A2 , . . . ∈ A mit ∞ n Ai \ A < ε/2. λ i=1
32
1 Grundlagen der Maßtheorie
Zu jedem Ai existiert ein offener Quader Bi ⊃ Ai mit λn (Bi \ Ai ) < ε 2−i−1 ∞ n (Stetigkeit von oben von λ ). Daher ist U = i=1 Bi eine offene Menge U ⊃ A mit λn (U \ A) < ε. Diese Eigenschaft von λn heißt Regularit¨at von außen. Ist λn (A) endlich, so gibt es zu ε > 0 eine kompakte Menge K ⊂ A mit λn (A \ K) < ε. Diese Eigenschaft von λn heißt Regularit¨at von innen. In der Tat: Sei N > 0 mit λn (A)−λn (A∩[−N, N ]n ) < ε/2. W¨ahle eine offene Menge U ⊃ (A∩[−N, N ]n )c mit λn (U \ (A ∩ [−N, N ]n )c ) < ε/2 und setze K := [−N, N ]n \ U ⊂ A. 3 Definition 1.68 (Nullmenge). Sei (Ω, A, μ) ein Maßraum. (i) Eine Menge A ∈ A heißt μ-Nullmenge, oder kurz Nullmenge, falls μ(A) = 0. Mit Nμ bezeichnen wir das System aller Teilmengen von μ-Nullmengen. (ii) Sei E(ω) eine Eigenschaft, die dem Punkt ω ∈ Ω zukommen kann. Wir sagen, dass E μ-fast uberall (f.¨u.) gilt oder f¨ur fast alle (f.a.) ω, falls es eine Nullmenge N ¨ gibt, sodass E(ω) f¨ur jedes ω ∈ Ω \ N gilt. Ist A ∈ A, so sagen wir, dass E fast u¨ berall auf A gilt, falls es eine Nullmenge N gibt, sodass E(ω) f¨ur jedes ω ∈ A \ N gilt. Ist μ = P ein W-Maß, so sagen wir dann auch, dass E P -fast sicher (f.s.) gilt, beziehungsweise fast sicher auf A. (iii) Sind A, B ∈ A, so schreiben wir A = B N gibt mit A B ⊂ N .
(mod μ), falls es eine Nullmenge
Definition 1.69. Ein Maßraum (Ω, A, μ) heißt vollst¨andig, falls Nμ ⊂ A. Bemerkung 1.70 (Vervollst¨andigung eines Maßraums). Sei (Ω, A, μ) ein Maßraum. Es gibt genau eine kleinste σ-Algebra A∗ ⊃ A und eine Fortsetzung μ∗ von μ auf A∗ , sodass (Ω, A∗ , μ∗ ) vollst¨andig ist. (Ω, A∗ , μ∗ ) heißt die Vervollst¨andigung von (Ω, A, μ). In der Notation des Beweises von Satz 1.53 ist ∗ ∗ Ω, M(μ ), μ M(μ∗ )
diese Vervollst¨andigung. Ferner ist M(μ∗ ) = σ(A ∪ Nμ ) = {A ∪ N : A ∈ A, N ∈ Nμ } und μ∗ (A ∪ N ) = μ(A) f¨ur jedes A ∈ A und N ∈ Nμ . Da wir diese Aussagen im Folgenden nicht ben¨otigen werden, verzichten wir auf den Beweis und verweisen auf die g¨angigen Maßtheorieb¨ucher, etwa [46].
1.3 Fortsetzung von Maßen
33
Beispiel 1.71. Ist λ das Lebesgue-Maß (genauer: das Lebesgue-Borel-Maß) auf (Rn , B(Rn )), so l¨asst sich λ eindeutig fortsetzen zu einem Maß λ∗ auf B∗ (Rn ) = σ(B(Rn ) ∪ N ), wo N die Menge der Teilmengen der Lebesgue-Borel’schen Nullmengen bezeichnet. B∗ (Rn ) heißt σ-Algebra der Lebesgue-messbaren Mengen. Zur Unterscheidung wird manchmal λ das Lebesgue-Borel-Maß genannt und λ∗ das LebesgueMaß. Wir werden diese Unterscheidung im Folgenden aber nicht ben¨otigen. 3 Beispiel 1.72. Sei μ = δω auf einem Messraum (Ω, A). Ist {ω} ∈ A, so ist die Vervollst¨andigung A∗ = 2Ω , μ∗ = δω . Im Extremfall der trivialen σ-Algebra A = {∅, Ω} hingegen ist Nμ = {∅}, also die Vervollst¨andigung A∗ = {∅, Ω}, μ∗ = δω . Man beachte, dass man auf dieser trivialen σ-Algebra die Dirac-Maße zu verschiedenen Punkten aus Ω nicht unterscheiden kann. 3 Definition 1.73. Sei (Ω, A, μ) ein Maßraum und Ω ∈ A. Dann wird durch μ (A) := μ(A)
f¨ur A ∈ A mit A ⊂ Ω
Ω
ein Maß auf der Spur-σ-Algebra A
Ω
schr¨ankung von μ auf Ω .
definiert. Dieses Maß nennen wir die Ein-
Beispiel 1.74. Die Einschr¨ankung des Lebesgue-Borel-Maßes λ von (R, B(R)) auf ). Allgemeiner nennen wir f¨ur messbares [0, 1] ist ein W-Maß auf ([0, 1], B(R) [0,1] A ∈ B(R) die Einschr¨ankung λ das Lebesgue-Maß auf A. Oftmals wird als SymA bol wieder λ verwendet, weil wir nicht zu viele kleinliche Unterscheidungen treffen wollen. Wir sehen sp¨ater (Korollar 1.84), dass B(R) = B(A), wobei B(A) die Borel’sche A σ-Algebra auf A ist, die von den in A (relativ) offenen Mengen erzeugt wird. 3 Beispiel 1.75 (Gleichverteilung). Ist A ∈ B(Rn ) mit n-dimensionalem LebesgueMaß λn (A) ∈ (0, ∞), so wird durch μ(B) :=
λn (B) λn (A)
f¨ur B ∈ B(Rn ), B ⊂ A,
ein W-Maß auf B(Rn ) definiert. Wir nennen μ die uniforme Verteilung oder A 3 Gleichverteilung auf A und schreiben UA := μ. ¨ Ubung Man zeige die folgende Verallgemeinerung von Beispiel 1.58(iv): Ein 1.3.1. ∞ ist genau dann ein Lebesgue-Stieltjes Maß zu einer geeigneten Maß n=1 αn δxn Funktion F , wenn n: |xn |≤K αn < ∞ f¨ur jedes K > 0 gilt. ♣
34
1 Grundlagen der Maßtheorie
¨ Ubung 1.3.2. Sei Ω eine u¨ berabz¨ahlbare Menge und ω0 ∈ Ω ein beliebiges Element. Sei A = σ({ω} : ω ∈ Ω \ {ω0 }). ¨ (i) Charakterisiere A a¨ hnlich wie in Ubung 1.1.4 (Seite 11). (ii) Zeige, dass (Ω, A, δω0 ) vollst¨andig ist.
♣
¨ Ubung 1.3.3. Sei (μn )n∈N eine Folge von endlichen Maßen auf dem Messraum (Ω, A). F¨ur jedes A ∈ A existiere der Grenzwert μ(A) := lim μn (A). n→∞
Man zeige: μ ist ein Maß auf (Ω, A). Hinweis: Zu zeigen ist insbesondere die ∅-Stetigkeit von μ.
♣
1.4 Messbare Abbildungen Eine Zwangshandlung in der Mathematik ist es, Homomorphismen zwischen Objekten anzugeben, also strukturerhaltende Abbildungen. F¨ur topologische R¨aume sind dies die stetigen Abbildungen, f¨ur Messr¨aume die messbaren Abbildungen. Seien im Folgenden stets (Ω, A) und (Ω , A ) Messr¨aume. Definition 1.76 (Messbare Abbildungen). (i) Eine Abbildung X : Ω → Ω heißt A – A -messbar (oder kurz: messbar), falls X −1 (A ) := {X −1 (A ) : A ∈ A } ⊂ A ist, falls also X −1 (A ) ∈ A
f¨ur jedes A ∈ A .
Ist X messbar, so schreiben wir auch X : (Ω, A) → (Ω , A ). (ii) Ist Ω = R und A = B(R) die Borel’sche σ-Algebra auf R, so heißt X : (Ω, A) → (R, B(R)) kurz eine reelle A-messbare Abbildung. Beispiel 1.77. (i) Die Identit¨at id : Ω → Ω ist A – A-messbar. (ii) Sei A = 2Ω oder A = {∅, Ω }. Jedes X : Ω → Ω ist dann A – A -messbar. (iii) Sei A ⊂ Ω. Die Indikatorfunktion ½A : Ω → {0, 1} ist genau dann A – 2{0,1} -messbar, wenn A ∈ A. 3 Satz 1.78 (Erzeugte σ-Algebra). Sei (Ω , A ) ein Messraum und Ω eine nichtleere Menge sowie X : Ω → Ω eine Abbildung. Das Urbild X −1 (A ) := {X −1 (A ) : A ∈ A }
(1.15)
ist die kleinste σ-Algebra, bez¨uglich der X messbar ist. Wir nennen σ(X) := X −1 (A ) die von X erzeugte σ-Algebra auf Ω.
1.4 Messbare Abbildungen
¨ Beweis. Ubung!
35
2
Wir wollen nun σ-Algebren betrachten, die von mehreren Abbildungen erzeugt werden. Definition 1.79 (Erzeugte σ-Algebra). Sei Ω eine nichtleere Menge. Sei I eine beliebige Indexmenge, und f¨ur jedes i ∈ I sei (Ωi , Ai ) ein Messraum sowie Xi : Ω → Ωi eine beliebige Abbildung. Dann heißt −1 σ(Xi , i ∈ I) := σ σ(Xi ) = σ Xi (Ai ) i∈I
i∈I
die von (Xi , i ∈ I) erzeugte σ-Algebra auf Ω. Dies ist die kleinste σ-Algebra, bez¨uglich der jedes Xi messbar ist. Wie bei stetigen oder linearen Abbildungen gibt es eine Verkn¨upfungseigenschaft. ¨ Satz 1.80 (Verknupfung von Abbildungen). Sind (Ω, A), (Ω , A ) und (Ω , A ) Messr¨aume sowie X : Ω → Ω messbar und X : Ω → Ω messbar, so ist die Abbildung Y := X ◦ X : Ω → Ω , ω → X (X(ω)) messbar bez¨uglich A – A . Beweis. Es ist Y −1 (A ) = X −1 ((X )−1 (A )) ⊂ X −1 (A ) ⊂ A.
2
Praktisch kann man die Messbarkeit einer Abbildung X kaum pr¨ufen, indem man s¨amtliche Urbilder X −1 (A ), A ∈ A auf Messbarkeit hin untersucht. Daf¨ur sind die meisten σ-Algebren A einfach zu groß. Gl¨ucklicherweise reicht hier die Betrachtung eines Erzeugers von A aus: Satz 1.81 (Messbarkeit auf einem Erzeuger). F¨ur jedes System E ⊂ A von A -messbaren Mengen gilt σ(X −1 (E )) = X −1 (σ(E )) und damit X ist A – σ(E )-messbar ⇐⇒ X −1 (E ) ∈ A
f¨ur jedes E ∈ E .
Ist speziell σ(E ) = A , dann gilt X ist A – A -messbar ⇐⇒ X −1 (E ) ⊂ A. Beweis. Offenbar ist X −1 (E ) ⊂ X −1 (σ(E )) = σ(X −1 (σ(E ))). Also ist auch σ(X −1 (E )) ⊂ X −1 (σ(E )). F¨ur die andere Inklusion betrachten wir das Mengensystem
A0 := A ∈ σ(E ) : X −1 (A ) ∈ σ(X −1 (E )) und zeigen zun¨achst, dass A0 eine σ-Algebra ist, indem wir die Punkte (i)–(iii) aus Definition 1.2 pr¨ufen:
36
1 Grundlagen der Maßtheorie
(i) Offensichtlich ist Ω ∈ A0 . (ii) (Komplementstabilit¨at)
Ist A ∈ A0 , so ist
X −1 ((A )c ) = (X −1 (A ))c ∈ σ(X −1 (E )), also (A )c ∈ A0 . (iii) (σ-∪-Stabilit¨at) Seien A1 , A2 , . . . ∈ A0 . Dann ist ∞ ∞ −1 An = X −1 (An ) ∈ σ(X −1 (E )), X n=1
also ist
∞
n=1 An
∈
n=1
A0 .
Wegen E ⊂ A0 ist A0 = σ(E ), also X −1 (A ) ∈ σ(X −1 (E )) f¨ur jedes A ∈ σ(E ) und damit X −1 (σ(E )) ⊂ σ(X −1 (E )). 2 ¨ Korollar 1.82 (Messbarkeit von verknupften Abbildungen). Sei I eine nichtleere Indexmenge sowie (Ω, A), (Ω , A ) und (Ωi , Ai ) Messr¨aume, i ∈ I. Sei ferner (Xi : i ∈ I) eine Familie messbarer Abbildungen Xi : Ω → Ωi mit der Eigenschaft A = σ(Xi : i ∈ I). Dann gilt: Eine Abbildung Y : Ω → Ω ist genau dann A-A messbar, wenn Xi ◦ Y messbar ist bez¨uglich A-Ai f¨ur jedes i ∈ I. Beweis. Ist Y messbar, so ist nach Satz 1.80 jedes Xi ◦ Y messbar. Sei nun jede der zusammengesetzten Abbildungen Xi ◦ Y messbar bez¨uglich A-Ai . Die Menge E := {Xi−1 (A ) : A ∈ Ai , i ∈ I} ist nach Voraussetzung ein Erzeuger von A , und es gilt Y −1 (A ) ∈ A f¨ur jedes A ∈ E wegen der Messbarkeit aller Xi ◦ Y . Nach Satz 1.81 ist also Y messbar. 2 Wir erinnern an den Begriff der Spur eines Mengensystems aus Definition 1.25. Korollar 1.83 (Spur der erzeugten σ-Algebra). Ist E ⊂ 2Ω und A ⊂ Ω nichtleer, so gilt σ E = σ(E) . A
A
Beweis. Sei X : A → Ω, ω → ω die Inklusionsabbildung. Dann ist X −1 (B) = A ∩ B f¨ur jedes B ⊂ Ω. Nach Satz 1.81 ist
σ E = σ({E ∩ A : E ∈ E}) A
= σ({X −1 (E) : E ∈ E}) = σ(X −1 (E))
= X −1 (σ(E)) = {A ∩ B : B ∈ σ(E)} = σ(E) . A
2
Zur Erinnerung: F¨ur eine Teilmenge A ⊂ Ω eines topologischen Raums (Ω, τ ) ist τ die Topologie der in A relativ offenen Mengen. Mit B(Ω, τ ) = σ(τ ) bezeichnen A
wir die Borel’sche σ-Algebra auf (Ω, τ ).
1.4 Messbare Abbildungen
37
Korollar 1.84 (Spur der Borel’schen σ-Algebra). Sei (Ω, τ ) ein topologischer Raum und A ⊂ Ω eine beliebige Teilmenge von Ω. Dann gilt
B(Ω, τ ) = B A, τ . A
A
Beispiel 1.85. (i) Ist Ω abz¨ahlbar, so ist X : Ω → Ω genau dann A – 2Ω messbar, wenn X −1 ({ω }) ∈ A f¨ur jedes ω ∈ Ω . F¨ur u¨ berabz¨ahlbare Ω ist dies im Allgemeinen falsch. (Man betrachte etwa Ω = Ω = R, A = B(R), X(ω) = ω f¨ur jedes ω ∈ Ω. Offenbar ist X −1 ({ω}) = {ω} ∈ B(R). Ist andererseits A ⊂ R nicht in B(R), so ist A ∈ 2R , jedoch X −1 (A) ∈ B(R).) (ii) F¨ur x ∈ R verabreden wir folgende Schreibweisen f¨ur das Ab- und Aufrunden x := max{k ∈ Z : k ≤ x}
und
x := min{k ∈ Z : k ≥ x}.
(1.16)
Die Abbildungen R → Z, x → x und x → x sind messbar bez¨uglich B(R) – 2Z , denn f¨ur jedes k ∈ Z sind die Urbilder {x ∈ R : x = k} = [k, k + 1) und {x ∈ R : x = k} = (k − 1, k] in B(R). Nach dem Verkn¨upfungssatz (Satz 1.80) sind dann f¨ur jede messbare Abbildung f : (Ω, A) → (R, B(R)) auch die Abbildungen f und f messbar bez¨uglich A – 2Z . (iii) Eine Abbildung X : Ω → Rd ist genau dann A – B(Rd )-messbar, wenn X −1 ((−∞, a]) ∈ A
f¨ur jedes a ∈ Rd ,
denn σ((−∞, a], a ∈ Rd ) = B(Rd ) nach Satz 1.23. Analog gilt dies auch f¨ur die anderen Mengensysteme E1 , . . . , E12 aus Satz 1.23. 3 Beispiel 1.86. Sei d(x, y) = x − y2 der gew¨ohnliche euklidische Abstand auf Rn und B(Rn , d) = B(Rn ) die Borel’sche σ-Algebra zu der von d erzeugten Topologie. F¨ur jede Teilmenge A von Rn ist dann B(A, d) = B(Rn , d) . 3 A
Wir wollen die reellen Zahlen um die Punkte −∞ und +∞ erweitern und definieren R := R ∪ {−∞, +∞}. Topologisch wollen wir R als die so genannte Zweipunktkompaktifizierung ansehen, indem wir R als topologisch isomorph zu [−1, 1] betrachten, beispielsweise verm¨oge der Abbildung ⎧ ⎪ ⎨ tan(πx/2), falls x ∈ (−1, 1), −∞, falls x = −1, x → ϕ : [−1, 1] → R, ⎪ ⎩ ∞, falls x = +1. −1 ¯ y) = ϕ (x)−ϕ−1 (y) f¨ur x, y ∈ R eine Metrik auf R In der Tat wird durch d(x, definiert, sodass ϕ und ϕ−1 stetig sind (also ist ϕ ein topologischer Isomorphismus). Mit τ¯ bezeichnen wir die induzierte Topologie auf R, mit τ die gew¨ohnliche Topologie auf R.
38
1 Grundlagen der Maßtheorie
Korollar 1.87. Es gilt τ¯ = τ , und daher gilt B(R) = B(R). R
R
Ist speziell X : (Ω, A) → (R, B(R)) messbar, so ist X in kanonischer Weise auch eine R-wertige messbare Abbildung. Mit R haben wir also eine echte Erweiterung der reellen Zahlen geschaffen, und die Inklusion R → R ist messbar. Satz 1.88 (Messbarkeit stetiger Abbildungen). Sind (Ω, τ ) und (Ω , τ ) topologische R¨aume und f : Ω → Ω stetig, dann ist f auch B(Ω) – B(Ω )-messbar. Beweis. Wegen B(Ω ) = σ(τ ) reicht es nach Satz 1.81 zu zeigen, dass f −1 (A ) ∈ σ(τ ) f¨ur jedes A ∈ τ . Da f stetig ist, gilt aber sogar f −1 (A ) ∈ τ f¨ur jedes A ∈ τ . 2 F¨ur x, y ∈ R verabreden wir folgende Notationen x ∨ y = max(x, y) x ∧ y = min(x, y) x+ = max(x, 0) x− = max(−x, 0) |x| = max(x, −x) = x− + x+ sign(x) = ½{x>0} − ½{x<0}
(Maximum), (Minimum), (Positivteil), (Negativteil), (Absolutbetrag), (Vorzeichenfunktion).
Analog bezeichnen wir f¨ur reelle messbare Abbildungen beispielsweise X + = max(X, 0). Die Abbildungen x → x+ , x → x− und x → |x| sind stetig (und damit nach dem vorangehenden Satz messbar), die Abbildung x → sign(x) ist offenbar auch messbar. Wir erhalten also (zusammen mit Korollar 1.82): Korollar 1.89. Ist X eine reelle oder R-wertige messbare Abbildung, so sind auch die Abbildungen X − , X + , |X| und sign(X) messbar. Satz 1.90 (Koordinatenabbildungen sind messbar). Sei (Ω, A) ein Messraum und f1 , . . . , fn : Ω → R Abbildungen sowie f := (f1 , . . . , fn ) : Ω → Rn . Dann gilt f ist A – B(Rn )-messbar
⇐⇒
jedes fi ist A – B(R)-messbar.
Die Aussage gilt analog f¨ur fi : Ω → R := R ∪ {±∞}. Beweis. F¨ur b ∈ Rn ist f −1 ((−∞, b)) =
n i=1
fi−1 ((−∞, bi )). Ist jedes fi messbar,
so ist also f −1 ((−∞, b)) ∈ A. Die Quader (−∞, b), b ∈ Rn , erzeugen aber B(Rn ), und daher ist dann f messbar. Sei nun f messbar. F¨ur i = 1, . . . , n sei πi : Rn → R, x → xi die i-te Projektion. Offenbar ist πi stetig also B(Rn ) – B(R)-messbar. Nach 2 Satz 1.80 ist auch fi = πi ◦ f messbar.
1.4 Messbare Abbildungen
F¨ur den folgenden Satz vereinbaren wir die Konvention
x 0
39
:= 0 f¨ur jedes x ∈ R.
Satz 1.91. Sei (Ω, A) ein Messraum und f, g : (Ω, A) → (Rn , B(Rn )) sowie h : (Ω, A) → (R, B(R)) messbar. Dann sind auch die Abbildungen f + g, f − g, f · h und f /h messbar. Beweis. Die Abbildung π : Rn × R → Rn , (x, α) → α · x ist stetig, also messbar. Nach Satz 1.90 ist (f, h) : Ω → Rn × R messbar, also auch die zusammengesetzte Abbildung f · h = π ◦ (f, h). Analog folgt die Messbarkeit von f + g und f − g. Um die Messbarkeit von f /h zu zeigen, definieren wir H : R → R, x → 1/x. Nach unserer Konvention ist H(0) = 0. Dann ist f /h = f · H ◦ h. Es reicht also stetig. F¨ur offenes U ⊂ R ist zu zeigen, dass H messbar ist. Offenbar ist H R\{0}
auch U \ {0} offen und damit H −1 (U \ {0}) ∈ B(R). Ferner ist H −1 ({0}) = {0}. 2 Also ist schließlich H −1 (U ) = H −1 (U \ {0}) ∪ (U ∩ {0}) ∈ B(R). Satz 1.92. Sind X1 , X2 , . . . messbare Abbildungen (Ω, A) → (R, B(R)), dann sind auch die folgenden Abbildungen messbar: inf Xn ,
n∈N
sup Xn , n∈N
lim inf Xn , n→∞
lim sup Xn . n→∞
Beweis. F¨ur jedes a ∈ R gilt −1 ∞ ([−∞, a)) = Xn−1 ([−∞, a)) ∈ A. inf Xn n∈N
n=1
Nach Satz 1.81 folgt hieraus die Messbarkeit von inf Xn . Analog geht der Beweis n∈N
f¨ur sup Xn . n∈N
F¨ur n ∈ N setzen wir Yn := inf Xm . Dann ist Yn messbar, und damit auch m≥n
lim inf Xn := sup Yn . Analog folgt der Beweis f¨ur den Limes superior. n→∞
n∈N
2
Ein wichtiges Beispiel f¨ur messbare Abbildungen (Ω, A) → (R, B(R)) sind Elementarfunktionen. Definition 1.93 (Elementarfunktion). Sei (Ω, A) ein Messraum. Eine Abbildung f : Ω → R heißt Elementarfunktion, wenn es ein n ∈ N und paarweise disjunkte, messbare Mengen A1 , . . . , An ∈ A sowie Zahlen α1 , . . . , αn ∈ R gibt mit f=
n i=1
αi ½Ai .
40
1 Grundlagen der Maßtheorie
Bemerkung 1.94. Eine messbare Abbildung, die nur endlich viele Werte annimmt, ¨ ist eine Elementarfunktion. (Ubung!) 3 Definition 1.95. Sind f, f1 , f2 , . . . Abbildungen Ω → R mit f1 (ω) ≤ f2 (ω) ≤ . . . und
lim fn (ω) = f (ω)
n→∞
f¨ur jedes ω ∈ Ω,
so schreiben wir fn ↑ f und sagen, dass (fn )n∈N punktweise monoton aufsteigend gegen f konvergiert. Analog schreiben wir fn ↓ f , falls (−fn ) ↑ (−f ). Satz 1.96. Sei (Ω, A) ein Messraum und f : Ω → [0, ∞] messbar. Dann gelten die folgenden Aussagen. (i) Es gibt eine Folge nichtnegativer Elementarfunktionen (fn )n∈N mit fn ↑ f . (ii) Es gibt A1 , A2 , . . . ∈ A und α1 , α2 , . . . ≥ 0 mit f =
∞
αn ½An .
n=1
Beweis. (i) F¨ur n ∈ N0 definiere fn = (2−n 2n f ) ∧ n. Dann ist fn messbar (nach Satz 1.92 und Beispiel 1.85(ii)) und nimmt h¨ochstens n2n + 1 Werte an, ist also eine Elementarfunktion. Offenbar gilt fn ↑ f . (ii) Seien fn wie oben, Bn,i := {ω : fn (ω)−fn−1 (ω) = i 2−n } und βn,i = i 2−n 2n f¨ur n ∈ N und i = 1, . . . , 2n . Man u¨ berlege sich, dass i=1 Bn,i = Ω. Dann ist 2n βn,i ½Bn,i . Nach Umnummerierung (n, i) → m erhalten wir fn − fn−1 = i=1
(αm )m∈N und (Am )m∈N , sodass f = f0 +
∞
(fn − fn−1 ) =
n=1
∞
αm ½Am .
2
m=1
Als Korollar zu dieser Strukturaussage f¨ur messbare [0, ∞]-wertige Abbildungen zeigen wir das Faktorisierungslemma. Korollar 1.97 (Faktorisierungslemma). Seien (Ω , A ) ein Messraum und Ω eine nichtleere Menge. Sei f : Ω → Ω eine Abbildung. Eine Abbildung g : Ω → R ist genau dann messbar bez¨uglich σ(f ) – B(R), wenn es eine messbare Abbildung ϕ : (Ω , A ) → (R, B(R)) gibt mit g = ϕ ◦ f . Beweis.
”
⇐= “
Ist ϕ messbar und g = ϕ ◦ f , so ist g messbar nach Satz 1.80.
=⇒ “ Sei nun g messbar bez¨uglich σ(f ) – B(R). Wir betrachten zun¨achst den ” Fall, wo g nichtnegativ ist. Dann existieren messbare Mengen A1 , A2 . . . ∈ σ(f )
1.4 Messbare Abbildungen
41
∞ sowie Zahlen α1 , α2 , . . . , ∈ [0, ∞) mit g = n=1 αn ½An . Nach der Definition von σ(f ) gibt es f¨ur jedes n ∈ N eine Menge Bn ∈ A mit f −1 (Bn ) = An , also mit ½An = ½Bn ◦ f . Wir definieren nun ϕ : Ω → R durch ϕ=
∞
αn ½Bn .
n=1
Offenbar ist ϕ messbar bez¨uglich A – B(R), und es gilt g = ϕ ◦ f . Sei nun der allgemeine Fall betrachtet, wo g auch negative Werte annehmen kann. Dann existieren messbare Abbildungen ϕ− und ϕ+ mit g − = ϕ− ◦ f und g + = 2 ϕ+ ◦ f . Daher leistet ϕ := ϕ+ − ϕ− das Gew¨unschte. Mit einer messbaren Abbildung wird auch ein Maß von einem Raum auf einen anderen transportiert. Definition 1.98 (Bildmaß). Seien (Ω, A) und (Ω , A ) Messr¨aume und μ ein Maß auf (Ω, A). Ferner sei X : (Ω, A) → (Ω , A ) messbar. Das durch μ ◦ X −1 : A → [0, ∞],
A → μ(X −1 (A ))
definierte Maß auf (Ω , A ) heißt Bildmaß von μ unter X. Beispiel 1.99. Sei μ ein Maß auf Z2 und X : Z2 → Z, (x, y) → x + y. Dann ist μ ◦ X −1 ({x}) = μ({(x − y, y)}). 3 y∈Z
Beispiel 1.100. Ist L : Rn → Rn eine bijektive lineare Abbildung und λ das Lebesgue-Maß auf (Rn , B(Rn )), so ist λ ◦ L−1 = | det(L)|−1 λ. Dies ist klar, weil n f¨ur a, b ∈ R mit a < b das Spat (oder Parallelepiped) L−1 ((a, b]) das Volumen n −1 3 | det(L )| i=1 (bi − ai ) hat. Als Verallgemeinerung des letzten Beispiels geben wir hier ohne Beweis den Transformationssatz f¨ur Maße mit stetigen Dichten unter differenzierbaren Abbildungen an. Den Beweis findet man in Lehrb¨uchern zur Analysis II unter dem Stichwort Transformationssatz“ oder Substitutionsregel“ (siehe etwa [7] oder [46]). ” ” Satz 1.101 (Dichtetransformationsformel im Rn ). Es sei μ ein Maß auf Rn mit stetiger (oder st¨uckweise stetiger) Dichte f : Rn → [0, ∞), das heißt xn x1 dt1 · · · dtn f (t1 , . . . , tn ) f¨ur jedes x ∈ Rn . μ((−∞, x]) = −∞
−∞
Sei A ⊂ R eine offene (oder abgeschlossene) Menge mit μ(Rn \ A) = 0. Ferner sei B ⊂ Rn offen oder abgeschlossen sowie ϕ : A → B bijektiv und stetig differenzierbar mit Ableitung ϕ . Dann hat das Bildmaß μ ◦ ϕ−1 die Dichte n
42
1 Grundlagen der Maßtheorie
⎧ ⎪ ⎨ fϕ (x) =
⎪ ⎩
f (ϕ−1 (x)) , | det(ϕ (ϕ−1 (x)))| 0,
falls x ∈ B, falls x ∈ Rn \ B.
¨ Ubung 1.4.1. Sei f : R → R, x → |x|. Zeige: Eine Borel-messbare Abbildung g : R → R ist genau dann messbar bez¨uglich σ(f ) = f −1 (B(R)), wenn g gerade ist. ♣ ¨ Ubung 1.4.2. Man zeige: Ist (Ω, A, μ) ein Maßraum, f : Ω → R messbar und g = f μ-fast u¨ berall, so braucht g nicht messbar zu sein. ♣ ¨ Ubung 1.4.3. Sei f : R → R differenzierbar mit Ableitung f . Zeige: f ist B(R)– B(R) messbar. ♣ ¨ Ubung 1.4.4. (Vergleiche Beispiele 1.40 und 1.63.) Sei Ω = {0, 1}N und A = {0,1} ⊗N (2 ) die σ-Algebra,
die von den Zylindermengen [ω1 , . . . , ωn ] : n ∈ N, ω1 , . . . , ωn ∈ {0, 1} erzeugt wird. Ferner sei μ = ( 12 δ0 + 12 δ1 )⊗N das Bernoulli-Maß auf Ω mit gleichen Gewichten auf 0 und 1. F¨ur n ∈ N sei Xn : Ω → {0, 1}, ω → ωn die n-te Koordinatenabbildung, und sei U (ω) =
∞
Xn (ω) 2−n
f¨ur ω ∈ Ω.
n=1
(i) Zeige: A = σ(Xn : n ∈ N). (ii) Zeige: U ist A–B([0, 1]) messbar. (iii) Bestimme das Bildmaß μ ◦ U −1 auf ([0, 1], B([0, 1])). ˜ := U bijektiv ist. (iv) Man gebe ein Ω0 ∈ A an, sodass U Ω0
˜ −1 messbar ist bez¨uglich B([0, 1])–A (v) Man zeige, dass U
Ω0
˜ −1 ? (vi) Welche Interpretation hat die Abbildung Xn ◦ U
. ♣
¨ Ubung 1.4.5 (Satz von Lusin). Sei f : R → R Borel-messbar. Man zeige: F¨ur jedes ε > 0 existiert eine abgeschlossene Menge C ⊂ R mit λ(R \ C) < ε, sodass die Einschr¨ankung f von f auf C stetig ist. (Merke: Dies heißt nat¨urlich nicht, C dass f in jedem Punkte x ∈ C stetig w¨are.) Anleitung: Man zeige die Aussage zun¨achst mit Hilfe der inneren Regularit¨at des Lebesgue-Maßes λ (Bemerkung 1.67) f¨ur Indikatorfunktionen messbarer Mengen und approximiere mit solchen die Abbildung f auf einer geeigneten Menge C gleichm¨aßig. ♣
1.5 Zufallsvariablen
43
1.5 Zufallsvariablen In diesem Abschnitt werden wir messbare Abbildungen als Zufallsvariablen auffassen, die zuf¨allige Beobachtungen beschreiben. Wir definieren den Begriff der Verteilung von Zufallsvariablen. Im Folgenden sei stets (Ω, A, P) ein Wahrscheinlichkeitsraum. Die Mengen A ∈ A heißen Ereignisse. P[A] wird als die Wahrscheinlichkeit interpretiert, dass A eintritt. Oft ist allerdings nicht der Wahrscheinlichkeitsraum selbst betrachtbar, sondern nur gewisse Beobachtungsgr¨oßen. Wir wollen also Wahrscheinlichkeiten daf¨ur definieren, dass Zufallsgr¨oßen bestimmte Werte annehmen und einen Kalk¨ul f¨ur, zum Beispiel, Summen von Zufallsgr¨oßen entwickeln. Definition 1.102 (Zufallsvariablen). Sei (Ω , A ) ein Messraum und X : Ω → Ω messbar. (i) X heißt Zufallsvariable mit Werten in (Ω , A ). Ist (Ω , A ) = (R, B(R)), so nennen wir X eine reelle Zufallsvariable oder schlicht Zufallsvariable. (ii) Ist A ∈ A , so schreiben wir {X ∈ A } := X −1 (A ) und P[X ∈ A ] := P[X −1 (A )]. Speziell schreiben wir {X ≥ 0} := X −1 ([0, ∞)) und analog {X ≤ b} und so weiter. Definition 1.103 (Verteilungen). Sei X eine Zufallsvariable. (i) Das W-Maß PX := P ◦ X −1 heißt Verteilung von X. (ii) Ist X eine reelle Zufallsvariable, so heißt die Abbildung FX : x → P[X ≤ x] die Verteilungsfunktion von X (eigentlich von PX ). Ist μ = PX , so schreiben wir auch X ∼ μ und sagen, dass X nach μ verteilt ist. (iii) Eine Familie (Xi )i∈I heißt identisch verteilt, falls PXi = PXj
f¨ur alle
D
i, j ∈ I. Wir schreiben X = Y , falls PX = PY (D f¨ur distribution). Satz 1.104. Zu jeder Verteilungsfunktion F existiert eine reelle Zufallsvariable X mit FX = F . Beweis. Wir m¨ussen explizit einen Wahrscheinlichkeitsraum (Ω, A, P) und eine Zufallsvariable X : Ω → R angeben mit FX = F . Die einfachste M¨oglichkeit ist, (Ω, A) = (R, B(R)) zu w¨ahlen, X : R → R die identische Abbildung und P das Lebesgue-Stieltjes Maß mit Verteilungsfunktion F (siehe Beispiel 1.56). Eine andere M¨oglichkeit, die zudem etwas lehrreicher ist, beruht darauf, zun¨achst unabh¨angig vom konkreten F eine Art Standard-Wahrscheinlichkeitsraum zu definieren, auf dem eine uniform auf (0, 1) verteilte Zufallsvariable definiert ist, die
44
1 Grundlagen der Maßtheorie
dann verm¨oge der Umkehrabbildung F −1 zu einer Zufallsvariablen X mit Vertei lungsfunktion F transformiert wird: Wir w¨ahlen Ω := (0, 1), A := B(R) und Ω
P das Lebesgue-Maß auf (Ω, A) (siehe Beispiel 1.74). Definiere die (linksstetige) Inverse von F F −1 (t) := inf{x ∈ R : F (x) ≥ t} Dann ist
f¨ur t ∈ (0, 1).
F −1 (t) ≤ x ⇐⇒ t ≤ F (x).
Speziell ist {t : F −1 (t) ≤ x} = (0, F (x)] ∩ (0, 1), also ist F −1 : (Ω, A) → (R, B(R)) messbar und P[{t : F −1 (t) ≤ x}] = F (x). Mithin ist X := F −1 die gew¨unschte Zufallsvariable.
2
Beispiel 1.105. Wir geben zu verschiedenen Wahrscheinlichkeitsverteilungen auf R reelle Zufallsvariablen X mit ebendieser Verteilung an. (Der konkrete Ort in diesem Buch dient lediglich als Vorwand, um ein paar der wichtigsten Verteilungen einzuf¨uhren, auf die wir bei sp¨ateren Gelegenheiten immer wieder zur¨uckkommen.) (i) Ist p ∈ [0, 1] und P[X = 1] = p, P[X = 0] = 1 − p, so heißt PX =: Berp die Bernoulli-Verteilung mit Parameter p. Formal ist Berp = (1 − p) δ0 + p δ1 , und die Verteilungsfunktion ist ⎧ ⎨ FX (x) =
falls x < 0, falls x ∈ [0, 1), falls x ≥ 1.
0, 1 − p, ⎩ 1,
(ii) Ist p ∈ [0, 1] und n ∈ N sowie X : Ω → {0, . . . , n} mit n k p (1 − p)n−k , P[X = k] = k so heißt PX =: bn,p die Binomialverteilung mit Parametern n und p. Formal ist bn,p =
n n k=0
k
pk (1 − p)n−k δk .
(iii) Ist p ∈ (0, 1] und X : Ω → N0 mit P[X = n] = p (1 − p)n
f¨ur jedes n ∈ N0 ,
1.5 Zufallsvariablen
45
1 so heißt γp := b− 1,p := PX die geometrische Verteilung mit Parameter p. Formal k¨onnen wir schreiben: ∞ γp = p (1 − p)n δn . n=0
Die Verteilungsfunktion ist F (x) = 1 − (1 − p)x+1∨0
f¨ur x ∈ R.
Wir k¨onnen X + 1 als die Wartezeit auf den ersten Erfolg bei unabh¨angigen“ ” Zufallsexperimenten auffassen, die jeweils mit Wahrscheinlichkeit p zum Erfolg ⊗N
f¨uhren. In der Tat: Sei Ω = {0, 1}N und P das Produktmaß (1 − p)δ0 + p δ1 (Satz 1.64) sowie A = σ([ω1 , . . . , ωn ] : ω1 , . . . , ωn ∈ {0, 1}, n ∈ N). Wir setzen X(ω) := inf{n ∈ N : ωn = 1} − 1, mit der Konvention inf ∅ = ∞. Offenbar ist jede der Abbildungen n − 1, falls ωn = 1, Xn : Ω → R, ω → ∞, falls ωn = 0, A – B(R)-messbar und X = inf n∈N Xn . Also ist X auch A – B(R)-messbar, also eine Zufallsvariable. Sei ω 0 := (0, 0, . . .) ∈ Ω. Dann ist P[X ≥ n] = P[[ω10 , . . . , ωn0 ]] = (1 − p)n . Also ist P[X = n] = P[X ≥ n] − P[X ≥ n + 1] = (1 − p)n − (1 − p)n+1 = p (1 − p)n . (iv) Seien r > 0 (nicht notwendigerweise ganzzahlig) und p ∈ (0, 1]. Mit b− r,p
:=
∞ −r k=0
k
(−1)k pr (1 − p)k δk
(1.17)
bezeichnen wir die negative Binomialverteilung oder Pascal-Verteilung mit Pa rametern r und p. (Hierbei ist xk = x(x−1)···(x−k+1) f¨ur x ∈ R und k ∈ N der k! ¨ hnlich wie im vorangeverallgemeinerte Binomialkoeffizient.) F¨ur r ∈ N ist b− r,p , a henden Beispiel, die Verteilung der Wartezeit auf den r-ten Erfolg bei unabh¨angigen Versuchen. Wir werden hierauf in Beispiel 3.4(iv) zur¨uckkommen. (v)
Ist λ ∈ [0, ∞) und X : Ω → N0 mit P[X = n] = e−λ
λn n!
f¨ur jedes n ∈ N0 ,
so heißt PX =: Poiλ die Poisson-Verteilung mit Parameter λ. (vi) Die hypergeometrische Verteilung mit Parametern S, W, n ∈ N 1
Obacht: Manche Autoren nennen die um Eins verschobene Verteilung auf N die geometrische Verteilung.
46
1 Grundlagen der Maßtheorie
B HypB,W ;n ({b}) =
W n−b
bB+W n
,
b ∈ {0, . . . , n},
(1.18)
gibt die Wahrscheinlichkeit an, aus einer Urne mit S schwarzen und W weißen Kugeln bei n-maligen Ziehen ohne Zur¨ucklegen genau s schwarze Kugeln zu ziehen. Mit ein bisschen Kombinatorik l¨asst sich dies leicht auf die Situation mit k Farben und Bi Kugeln der Farbe i = 1, . . . , k verallgemeinern. Die Wahrscheinlichkeit, dass unter n gezogenen Kugeln exakt bi von jeder Farbe i = 1, . . . , k sind, ist gegeben durch die verallgemeinerte hypergeometrische Verteilung
Bk
B1 b1 · · · bk HypB1 ,...,Bk ;n ({(b1 , . . . , bk )}) = B1 +...+Bk . (1.19) n
(vii) Seien μ ∈ R, σ2 > 0 und X reell mit x (t−μ)2 1 e− 2σ2 dt P[X ≤ x] = √ 2πσ 2 −∞
f¨ur x ∈ R.
Dann heißt PX =: Nμ,σ2 Gauß’sche Normalverteilung mit Parametern μ und σ 2 . (viii) Ist X ≥ 0 reell und θ > 0 sowie
x
P[X ≤ x] = P[X ∈ [0, x]] =
θ e−θt dt
f¨ur x ≥ 0,
0
so heißt PX Exponentialverteilung mit Parameter θ (kurz: expθ ). (ix) Ist X Rd -wertig, μ ∈ Rd , Σ eine positiv definite d × d Matrix und 1% & P[X ≤ x] = det(2π Σ)−1/2 t − μ, Σ −1 (t − μ) λd (dt) exp − 2 (−∞,x] f¨ur x ∈ Rd (wobei · , · ! das Skalarprodukt im Rd bezeichnet), so heißt PX =: Nμ,Σ die d-dimensionale Normalverteilung mit Parametern μ und Σ. 3 Definition 1.106. Hat die Verteilungsfunktion F : Rn → [0, 1] die Gestalt x1 xn F (x) = dt1 · · · dtn f (t1 , . . . , tn ) f¨ur x = (x1 , . . . , xn ) ∈ Rn , −∞
−∞
f¨ur eine integrierbare Funktion f : Rn → [0, ∞), so heißt f die Dichte der Verteilung. Beispiel 1.107.
(i) F¨ur θ, r > 0 heißt die Verteilung Γθ,r auf [0, ∞) mit Dichte x →
θr xr−1 e−θx Γ (r)
(wo Γ die Gamma-Funktion bezeichnet) Gamma-Verteilung mit Gr¨oßenparameter θ und Formparameter r.
1.5 Zufallsvariablen
47
(ii) F¨ur r, s > 0 heißt die Verteilung βr,s auf [0, 1] mit Dichte x →
Γ (r + s) r−1 x (1 − x)s−1 Γ (r)Γ (s)
Beta-Verteilung mit Parametern r und s. (iii) F¨ur a > 0 heißt die Verteilung Caua auf R mit Dichte x →
1 1 aπ 1 + (x/a)2
Cauchy-Verteilung mit Parameter a.
3
¨ Ubung 1.5.1. Man leite (1.17) nach als Wartezeit kombinatorisch Interpretation
der (−1)k = n+k−1 . ♣ her unter Benutzung der Identit¨at −n k k ¨ Ubung 1.5.2. Man gebe ein Beispiel an f¨ur zwei normalverteilte X und Y , sodass (X, Y ) nicht (zweidimensional) normalverteilt ist. ♣ ¨ Ubung 1.5.3. Man zeige mit Hilfe von Satz 1.101 (Transformationsformel f¨ur Dichten): (i) Ist X ∼ Nμ,σ2 und sind a ∈ R\{0} und b ∈ R, so ist (aX +b) ∼ Naμ+b,a2 σ2 . (ii) Ist X ∼ expθ und a > 0, so ist aX ∼ expθ/a .
♣
2 Unabh¨angigkeit
Die Maßtheorie aus dem vorigen Kapitel ist eine lineare Theorie, die keine Abh¨angigkeitsstrukturen zwischen Ereignissen oder Zufallsvariablen kennt. Wir betreten das Gebiet der Wahrscheinlichkeitstheorie genau an dieser Stelle mit der Definition der Unabh¨angigkeit von Ereignissen und schließlich von Zufallsvariablen. Die Unabh¨angigkeit ist ein zentraler Begriff der Wahrscheinlichkeitstheorie, die Quantifizierung von Abh¨angigkeiten eines ihrer wichtigen Anliegen. Fortan ist stets (Ω, A, P) ein Wahrscheinlichkeitsraum, und die Mengen A ∈ A sind die Ereignisse. Sobald wir die Phase hinter uns gelassen haben, in der wir WR¨aume explizit konstruieren, wird der konkrete W-Raum in den Hintergrund treten, und die beobachtbaren Gr¨oßen, also Zufallsvariablen, werden an Bedeutung gewinnen. Das fett gedruckte P steht dann f¨ur das universelle Objekt des W-Maßes, und Wahrscheinlichkeiten P[ · ] bez¨uglich P werden stets mit eckigen Klammern geschrieben.
2.1 Unabh¨angigkeit von Ereignissen Wir wollen zwei Ereignisse A und B als (stochastisch) unabh¨angig betrachten, wenn das Eintreten von A nicht die Wahrscheinlichkeit beeinflusst, dass zudem B eintritt. Etwas formaler k¨onnen wir diesen intuitiven Begriff fassen, indem wir A und B als unabh¨angig betrachten, wenn P[A ∩ B] = P[A] · P[B].
(2.1)
¨ Beispiel 2.1 (Zweifacher Wurfelwurf). Wir betrachten das Zufallsexperiment des zweifachen W¨urfelwurfes. Es ist also Ω = {1, . . . , 6}2 mit der σ-Algebra A = 2Ω und der Gleichverteilung P = UΩ (siehe Beispiel 1.30(ii)). (i) Zwei Ereignisse A und B sollten unabh¨angig sein, wenn A nur vom Ergebnis des ersten Wurfes abh¨angt, B hingegen nur vom Ergebnis des zweiten Wurfes. Formal beschreiben wir diese Situation, indem wir annehmen, dass es Mengen ˜ B ˜ ⊂ {1, . . . , 6} gibt mit A, A = A˜ × {1, . . . , 6}
und
˜ B = {1, . . . , 6} × B.
50
2 Unabh¨angigkeit
Wir pr¨ufen jetzt, dass A und B tats¨achlich (2.1) erf¨ullen. Dazu berechnen wir ˜ ˜ #A #B #B P[A] = #A 36 = 6 und P[B] = 36 = 6 . Ferner ist P[A ∩ B] =
˜ ˜ #A˜ #B #(A˜ × B) = · = P[A] · P[B]. 36 6 6
(ii) Stochastische Unabh¨angigkeit kann auch in weniger augenf¨alligen Situationen auftreten. Sei hierzu A das Ereignis, dass die Augensumme ungerade ist, A = (ω1 , ω2 ) ∈ Ω : ω1 + ω2 ∈ {3, 5, 7, 9, 11} , und B das Ereignis, dass
der erste Wurf h¨ochstens eine Drei bringt, B = {(ω1 , ω2 ) ∈ Ω : ω1 ∈ {1, 2, 3} . Obwohl beide Ereignisse anscheinend etwas miteinander zu tun haben, sind sie stochastisch unabh¨angig, denn es gilt, wie man leicht pr¨uft, P[A] = P[B] = 12 und 3 P[A ∩ B] = 14 . Wann sind nun drei Ereignisse A1 , A2 , A3 unabh¨angig? Hierzu muss nat¨urlich jedes der Paare (A1 , A2 ), (A1 , A3 ) und (A2 , A3 ) unabh¨angig sein. Jedoch wollen wir auch sicherstellen, dass beispielsweise das Eintreten von A1 und A2 nicht die Wahrscheinlichkeit f¨ur das zus¨atzliche Eintreten von A3 beeinflusst. Wir m¨ussen also mehr als nur Paare betrachten. Formal nennen wir daher drei Ereignisse A1 , A2 und A3 (stochastisch) unabh¨angig, falls P[Ai ∩ Aj ] = P[Ai ] · P[Aj ] f¨ur alle i, j ∈ {1, 2, 3}, i = j, (2.2) und P[A1 ∩ A2 ∩ A3 ] = P[A1 ] · P[A2 ] · P[A3 ].
(2.3)
Man beachte, dass (2.3) nicht aus (2.2) folgt (und (2.2) nicht aus (2.3)). ¨ Beispiel 2.2 (Dreifacher Wurfelwurf). Wir betrachten den dreifachen Wurf eines W¨urfels. Sei also Ω = {1, . . . , 6}3 ausgestattet mit der diskreten σ-Algebra A = 2Ω und der Gleichverteilung P = UΩ (siehe Beispiel 1.30(ii)). (i) H¨angt f¨ur i = 1, 2, 3 das Ereignis Ai nur vom i-ten Wurf ab, so sind die Ereignisse A1 , A2 und A3 unabh¨angig. In der Tat k¨onnen wir sie wie im vorangehenden Beispiel f¨ur gewisse Mengen A˜1 , A˜2 , A˜3 ⊂ {1, . . . 6} schreiben als A1 = A˜1 × {1, . . . , 6}2 , A2 = {1, . . . , 6} × A˜2 × {1, . . . , 6}, A3 = {1, . . . , 6}2 × A˜3 . Die G¨ultigkeit von (2.2) folgt wie in Beispiel 2.1(i). Um (2.3) zu zeigen, berechnen wir #(A˜1 × A˜2 × A˜3 ) #A˜i = = P[Ai ]. 216 6 i=1 i=1 3
P[A1 ∩ A2 ∩ A3 ] =
(ii) Wir betrachten nun die folgenden drei Ereignisse
3
2.1 Unabh¨angigkeit von Ereignissen
51
A1 := {ω ∈ Ω : ω1 = ω2 }, A2 := {ω ∈ Ω : ω2 = ω3 }, A3 := {ω ∈ Ω : ω1 = ω3 }. Dann ist #A1 = #A2 = #A3 = 36, also P[A1 ] = P[A2 ] = P[A3 ] = 16 . Ferner 1 . Daher gilt (2.2). Jedoch ist ist #(Ai ∩ Aj ) = 6, falls i = j, also P[Ai ∩ Aj ] = 36 1 #(A1 ∩ A2 ∩ A3 ) = 6, also P[A1 ∩ A2 ∩ A3 ] = 36 = 16 · 16 · 16 , mithin ist (2.3) 3 verletzt, und die Ereignisse A1 , A2 , A3 sind nicht unabh¨angig. Um f¨ur gr¨oßere Familien von Ereignissen Unabh¨angigkeit zu definieren, m¨ussen wir die G¨ultigkeit von Produktformeln wie (2.2) und (2.3) nunmehr nicht nur f¨ur Paare und Tripel fordern, sondern f¨ur alle endlichen Teilfamilien. Wir treffen daher die folgende Definition. Definition 2.3 (Unabh¨angigkeit von Ereignissen). Sei I eine beliebige Indexmenge, und sei (Ai )i∈I eine beliebige Familie von Ereignissen. Die Familie (Ai )i∈I heißt unabh¨angig, falls f¨ur jede endliche Teilmenge J ⊂ I gilt, dass ' ( Aj = P[Aj ]. P j∈J
j∈J
Das wichtigste Beispiel f¨ur eine unendlich große, unabh¨angige Familie von Ereignissen wird durch die unendliche (unabh¨angige) Wiederholung eines Zufallsexperiments gegeben. Beispiel 2.4. Sei E eine endliche Menge (die m¨oglichen Ausg¨ange des einzelnen Experiments) und (pe )e∈E ein Wahrscheinlichkeitsvektor auf E. Sei (wie in Satz 1.64) der Wahrscheinlichkeitsraum Ω = E N ausgestattet mit der σ-Algebra ⊗N
A = σ({[ω1 , . . . , ωn ] : ω1 , . . . , ωn ∈ E, n ∈ N}) und P = das e∈E pe δe n * ) pωi . Sei Produktmaß (oder Bernoulli-Maß) auf (Ω, A), also P [ω1 , . . . , ωn ] = i=1
A˜i ⊂ E f¨ur jedes i ∈ N, und Ai das Ereignis, dass A˜i im i-ten Durchgang des Experiments auftritt, also
= [ω1 , . . . , ωi ]. Ai = ω ∈ Ω : ωi ∈ A˜i ˜i (ω1 ,...,ωi )∈E i−1 ×A
Nach unserer Intuition sollte die Familie (Ai )i∈N unabh¨angig sein, wenn die Definition der Unabh¨angigkeit sinnvoll sein soll. Wir weisen jetzt nach, dass dies in der Tat richtig ist. Sei J ⊂ N endlich und n := max J. Wir setzen formal Bj = Aj und ˜j = E f¨ur j ∈ {1, . . . , n} \ J. Dann ist ˜j = A˜j f¨ur j ∈ J und Bj = Ω und B B
52
2 Unabh¨angigkeit
P
+
, + , + , n Aj = P Bj = P Bj
j∈J
j=1
j∈J
=
···
˜1 e 1 ∈B
n
pej =
˜n j=1 e n ∈B
n j=1
˜j e∈B
Dies gilt speziell nat¨urlich f¨ur #J = 1, also ist P[Ai ] = Es folgt + , P Aj = P[Aj ]. j∈J
pe
=
j∈J
˜i e∈A
pe .
˜j e∈A
pe f¨ur jedes i ∈ N. (2.4)
j∈J
Da dies f¨ur alle endlichen J ⊂ N gilt, ist die Familie (Ai )i∈N unabh¨angig.
3
Sind A und B unabh¨angig, so sind auch Ac und B unabh¨angig, denn P[Ac ∩ B] = P[B] − P[A ∩ B] = P[B] − P[A]P[B] = (1 − P[A])P[B] = P[Ac ]P[B]. Wir wollen diese Beobachtung etwas verallgemeinern und als Satz festhalten. Satz 2.5. Sei I eine beliebige Indexmenge, und sei (Ai )i∈I eine Familie von Ereignissen. Setze Bi0 = Ai und Bi1 = Aci f¨ur i ∈ I. Dann sind folgende drei Aussagen a¨ quivalent. (i) Die Familie (Ai )i∈I ist unabh¨angig. (ii) Es gibt ein α ∈ {0, 1}I , sodass die Familie (Biαi )i∈I unabh¨angig ist. (iii) F¨ur jedes α ∈ {0, 1}I ist die Familie (Biαi )i∈I unabh¨angig. ¨ Beweis. Ubung!
2
Beispiel 2.6 (Euler’sche Primzahlformel). Die Riemann’sche Zetafunktion ist definiert durch die Dirichlet-Reihe ζ(s) :=
∞
n−s
f¨ur s ∈ (1, ∞).
n=1
Die Euler’sche Primzahlformel ist die Produktdarstellung −1 1 − p−s ζ(s) = ,
(2.5)
p∈P
wobei P := {p ∈ N : p ist Primzahl} ist. Wir beweisen die Produktdarstellung probabilistisch. Sei Ω = N und (f¨ur festes s) P definiert durch P[{n}] = ζ(s)−1 n−s f¨ur n ∈ N. Sei pN = {pn : n ∈ N} und Pn = {p ∈ P : p ≤ n}. Wir fassen pN ⊂ Ω als Ereignis auf und bemerken, dass (pN, p ∈ P) unabh¨angig ist. In der Tat: F¨ur k ∈ N k und unterschiedliche p1 , . . . , pk ∈ P ist i=1 (pi N) = (p1 · · · pk )N, also
2.1 Unabh¨angigkeit von Ereignissen
P
k
. (pi N) =
53
∞ ) * P {p1 · · · pk n} n=1
i=1
= ζ(s)−1 (p1 · · · pk )−s
∞
n−s
n=1
= (p1 · · · pk )−s =
k
P[ pi N ].
i=1
Nach Satz 2.5 ist nun auch ((pN)c , p ∈ P) unabh¨angig. Deshalb gilt + , c ζ(s)−1 = P[{1}] = P (pN) = lim P n→∞
= lim
n→∞
'
p∈P
(pN)c
(
p∈Pn
1 − P[ pN ] = 1 − p−s .
p∈Pn
p∈P
3
Damit ist (2.5) gezeigt.
Wenn wir einen W¨urfel unendlich oft werfen, wie groß ist die Wahrscheinlichkeit, dass unendlich oft (also: immer wieder mal) eine Sechs geworfen wird? Diese Wahrscheinlichkeit sollte Eins sein, denn sonst g¨abe es einen letzten Zeitpunkt, zu dem eine Sechs f¨allt und danach nicht wieder. Dies w¨are zumindest nicht sehr plausibel. Man erinnere sich daran, wie wir mit Hilfe des Limes superior (Definition 1.13) formalisiert hatten, dass unendlich viele Ereignisse aus einer Familie von Ereignissen eintreten. Der folgende Satz best¨atigt nun unsere oben ge¨außerte Vermutung und gibt zudem Auskunft dar¨uber, unter welchen Bedingungen wir nicht erwarten k¨onnen, dass unendlich viele der Ereignisse eintreten. Satz 2.7 (Lemma von Borel-Cantelli). Seien A1 , A2 , . . . Ereignisse, und sei A∗ = lim sup An . n→∞
(i) Ist
∞
n=1 P[An ]
< ∞, so ist P[A∗ ] = 0. (Hier kann P ein beliebiges Maß
auf (Ω, A) sein.) (ii) Ist (An )n∈N unabh¨angig und
∞ n=1
P[An ] = ∞, so ist P[A∗ ] = 1.
Beweis. (i) Da P stetig von oben und σ-subadditiv ist, ist nach Voraussetzung . - ∞ ∞ P[A∗ ] = lim P Am ≤ lim P[Am ] = 0. n→∞
m=n
n→∞
m=n
54
2 Unabh¨angigkeit
(ii) Offensichtlich ist log(1 − x) ≤ −x f¨ur x ∈ [0, 1]. Nach den de Morgan’schen Regeln und der Stetigkeit von P von unten gilt daher - ∞ ∞ - ∞ . . ) ∗ c* c c P (A ) = P An = lim P An . m→∞
m=1 n=m
n=m
Nun ist aber f¨ur jedes m ∈ N P
+ ∞
, ∞
1 − P[An ] Acn =
n=m
n=m
= exp
∞
log 1 − P[An ]
≤ exp
n=m
−
∞
P[An ] = 0.
2
n=m
Beispiel 2.8. Wir betrachten den unendlich oft wiederholten W¨urfelwurf und fragen nach der Wahrscheinlichkeit, dass unendlich oft die Sechs auftritt. Es ist also Ω = {1, . . . , 6}N , A = (2{1,...,6} )⊗N die Produkt-σ-Algebra und P = ⊗N
1 das Bernoulli-Maß (vergleiche Satz 1.64). Ferner sei An = 6 δe e∈{1,...,6}
{ω ∈ Ω : ωn = 6} das Ereignis, dass beim n-ten Wurf eine Sechs auftritt. Dann ist A∗ = lim sup An das Ereignis, dass unendlich oft eine Sechs auftritt (sien→∞
he Beispiel 1.14). Ferner ist (An )n∈N eine unabh¨angige Familie mit ∞ n=1
∞
P[An ] =
n=1 1 6
= ∞ und deshalb nach dem Lemma von Borel-Cantelli P[A∗ ] = 1.
3
Beispiel 2.9. Wir werfen einen W¨urfel nur einmal und definieren An f¨ur jedes n ∈ N als das Ereignis, dass bei diesem (einen) Wurf eine Sechs geworfen wurde. Man bemerke, dass A1 = A2 = A3 = . . . Dann ist n∈N P[An ] = ∞, jedoch P[A∗ ] = P[A1 ] = 16 . Dies zeigt, dass in Teil (ii) des Lemmas von Borel-Cantelli nicht ohne weiteres auf die Unabh¨angigkeit verzichtet werden kann. 3 Beispiel 2.10. Sei Λ ∈ (0, ∞) und 0 ≤ λn ≤ Λ f¨ur n ∈ N. Ferner seien Xn , n ∈ N, Poisson-verteilte Zufallsvariablen mit Parametern λn . Dann gilt ) * P Xn ≥ n f¨ur unendlich viele n = 0. Es ist n¨amlich ∞
P[Xn ≥ n] =
n=1
=
∞ ∞ n=1 m=n ∞ m m=1 n=1
P[Xn = m] = e−λn
λm n ≤ m!
∞ m
m=1 n=1 ∞ m
m
m=1
P[Xn = m]
Λ = Λ eΛ < ∞. m!
3
2.1 Unabh¨angigkeit von Ereignissen
55
Da im obigen Satz, zumindest im Falle unabh¨angiger Ereignisse, nur die Wahrscheinlichkeiten P[A∗ ] = 0 und P[A∗ ] = 1 auftreten k¨onnen, z¨ahlt das Lemma von Borel-Cantelli zu den so genannten 0-1 Gesetzen. Wir werden sp¨ater weitere 0-1 Gesetze kennen lernen (siehe beispielsweise Satz 2.37). Wir wollen jetzt den Begriff der Unabh¨angigkeit von Familien von Ereignissen auf Familien von Ereignissystemen ausdehnen. Definition 2.11 (Unabh¨angigkeit von Mengensystemen). Sei I eine beliebige Indexmenge und Ei ⊂ A f¨ur jedes i ∈ I. Die Familie (Ei )i∈I heißt unabh¨angig, falls f¨ur jede endliche Teilmenge J ⊂ I und f¨ur jede Wahl von Ej ∈ Ej , j ∈ J, gilt, dass + , Ej = P[Ej ]. (2.6) P j∈J
j∈J
Beispiel 2.12. Sei (Ω, A, P) wie in Beispiel 2.4 der Produktraum der unendlichen Wiederholung des Experiments mit Ausg¨angen in der endlichen Menge E mit Wahrscheinlichkeitsvektor p = (pe )e∈E . Setze f¨ur i ∈ N
Ei = {ω ∈ Ω : ωi ∈ A} : A ⊂ E . Dann ist f¨ur jede Wahl von Ai ∈ Ei , i ∈ N, die Familie (Ai )i∈N unabh¨angig, also ist (Ei )i∈N unabh¨angig. 3 Satz 2.13. gilt (ii) (Ei )i∈I
(i) Sei I endlich, und f¨ur jedes i ∈ I sei Ei ⊂ A mit Ω ∈ Ei . Dann (Ei )i∈I ist unabh¨angig ⇐⇒ (2.6) gilt f¨ur J = I.
ist unabh. ⇐⇒ (Ej )j∈J ist unabh. f¨ur alle endlichen J ⊂ I .
(iii) Ist (Ei ∪ {∅}) ∩-stabil, dann gilt (Ei )i∈I ist unabh¨angig
⇐⇒ (σ(Ei ))i∈I ist unabh¨angig.
(iv) Sei K eine beliebige Menge und (Ik )k∈K paarweise disjunkte Teilmengen
von I. Ist (Ei )i∈I unabh¨angig, dann ist auch E angig. i∈Ik i k∈K unabh¨ Beweis. (i) =⇒ “ Dies ist trivial. ” (i) ⇐= “ F¨ur J ⊂ I und j ∈ I \ J w¨ahle Ej = Ω. ” (ii) Dies ist trivial. (iii) ⇐= “ ”
Dies ist trivial.
56
2 Unabh¨angigkeit
(iii) =⇒ “ Sei J ⊂ I endlich. Wir zeigen: F¨ur je zwei endliche Mengen J und ” J mit J ⊂ J ⊂ I gilt + , Ei ∈ σ(Ei ), falls i ∈ J, (2.7) Ei = P[Ei ] f¨ur jede Wahl P Ei ∈ Ei , falls i ∈ J \ J. i∈J i∈J Mit J = J ist dies genau die zu zeigende Aussage. Wir f¨uhren den Beweis von (2.7) durch vollst¨andige Induktion nach #J. F¨ur #J = 0 gilt (2.7) nach Voraussetzung des Satzes. Es gelte nun (2.7) f¨ur jedes J mit #J = n und jedes endliche J ⊃ J. Sei solch ein J gew¨ahlt und j ∈ I \ J. Sei J ⊃ J˜ := J ∪ {j}. Wir zeigen nun die G¨ultigkeit von (2.7) mit J˜ statt mit J. Wegen #J˜ = n + 1 ist damit der Induktionsschritt gezeigt. Sei Ei ∈ σ(Ei ) f¨ur jedes i ∈ J und Ei ∈ Ei f¨ur jedes i ∈ J \ (J ∪ {j}). Wir definieren Maße μ und ν auf (Ω, A) durch + , Ei P[Ei ]. und ν : Ej → μ : Ej → P i∈J
i∈J
Nach Induktionsvoraussetzung (2.7) gilt μ(Ej ) = ν(Ej ) f¨ur jedes Ej ∈ Ej ∪{∅, Ω}. Da Ej ∪ {∅} schnittstabil ist, gilt nach Lemma 1.42 auch μ(Ej ) = ν(Ej ) f¨ur jedes Ej ∈ σ(Ej ), das heißt, es gilt (2.7) mit J ∪ {j} statt J. (iv)
Dies ist trivial, weil (2.6) nur f¨ur J ⊂ I mit #(J ∩ Ik ) ≤ 1
f¨ur jedes k ∈ K,
nachgewiesen werden muss.
2
2.2 Unabh¨angigkeit von Zufallsvariablen Nachdem wir Unabh¨angigkeit von Ereignissen behandelt haben, wollen wir auch Unabh¨angigkeit von Zufallsvariablen betrachten. Auch hier l¨auft die Definition auf eine Produktformel hinaus. Formal k¨onnen wir jedoch die Unabh¨angigkeit der von Zufallsvariablen erzeugten σ-Algebren als Definition heranziehen. Wir k¨onnen dann Verteilungen von Summen unabh¨angiger Zufallsvariablen vermittels Faltung ausrechnen. Da wir an dieser Stelle noch keinen allgemeinen Integralbegriff zur Verf¨ugung haben, bringen wir die Faltung zun¨achst nur f¨ur Zufallsvariablen mit ganzzahligen Werten. Sei I eine beliebige Indexmenge, und f¨ur jedes i ∈ I sei (Ωi , Ai ) ein Messraum sowie Xi : (Ω, A) → (Ωi , Ai ) eine Zufallsvariable mit erzeugter σ-Algebra σ(Xi ) = Xi−1 (Ai ).
2.2 Unabh¨angigkeit von Zufallsvariablen
57
Definition 2.14 (Unabh¨angigkeit von Zufallsvariablen). Die Familie (Xi )i∈I von Zufallsvariablen heißt unabh¨angig, falls die Familie (σ(Xi ))i∈I von σAlgebren unabh¨angig ist. Wir schreiben, dass (Xi )i∈I u.i.v.“ ist, f¨ur unabh¨angig und identisch verteilt“ ” ” (englisch: i.i.d.“ f¨ur independent and identically distributed“), falls (Xi )i∈I un” ” abh¨angig ist und PXi = PXj f¨ur alle i, j ∈ I gilt. Bemerkung 2.15. (i) Offenbar ist die Familie (Xi )i∈I genau dann unabh¨angig, wenn f¨ur jede endliche Menge J ⊂ I und f¨ur jede Wahl Aj ∈ Aj , j ∈ J gilt, dass ' ( P Aj = P[Aj ]. j∈J
j∈J
Im folgenden Satz werden wir sehen, dass es reicht, diese Bedingung f¨ur Aj aus einem ∩-stabilen Erzeuger von Aj nachzupr¨ufen. (ii) Ist (A˜i )i∈I eine unabh¨angige Familie von σ-Algebren und ist jedes Xi messbar bez¨uglich A˜i – Ai , so ist (Xi )i∈I unabh¨angig. Dies ist klar, weil σ(Xi ) ⊂ A˜i , also die Bedingung an die Unabh¨angigkeit von (Xi )i∈I schw¨acher ist als die Bedingung an die Unabh¨angigkeit von (A˜i )i∈I . (iii) F¨ur jedes i ∈ I sei (Ωi , Ai ) ein weiterer Messraum sowie fi : (Ωi , Ai ) → (Ωi , Ai ) eine messbare Abbildung. Ist (Xi )i∈I unabh¨angig, so ist (fi ◦ Xi )i∈I unabh¨angig. Diese Aussage ist ein Spezialfall von (i), weil fi ◦Xi messbar ist bez¨uglich σ(Xi ) – Ai (siehe Satz 1.80). 3 Satz 2.16 (Unabh¨angigkeit von Erzeugern). F¨ur jedes i ∈ I sei Ei ⊂ Ai ein schnittstabiler Erzeuger von Ai . Ist (Xi−1 (Ei ))i∈I unabh¨angig, so ist (Xi )i∈I unabh¨angig. Beweis. Nach Satz 1.81(iii) ist Xi−1 (Ei ) ein schnittstabiler Erzeuger der σ-Algebra Xi−1 (Ai ) = σ(Xi ). Mit Satz 2.13 folgt die Aussage. 2 Beispiel 2.17. Sei E eine h¨ochstens abz¨ahlbare Menge, und seien (Xi )i∈I Zufallsvariablen mit Werten in (E, 2E ). In diesem Falle ist (Xi )i∈I genau dann unabh¨angig, wenn f¨ur jede endliche Teilmenge J ⊂ I und jede Wahl von xj ∈ E, j ∈ J, gilt, dass * ) P[Xj = xj ]. P Xj = xj f¨ur jedes j ∈ J =
j∈J
Dies ist klar, weil {x} : x ∈ E ∪ {∅} ein schnittstabiler Erzeuger von 2E ist,
also Xi−1 ({xi }) : xi ∈ E ∪ {∅} ein schnittstabiler Erzeuger von σ(Xi ) ist (Satz 1.81). 3
58
2 Unabh¨angigkeit
Beispiel 2.18. Sei E eine endliche Menge und p = (pe )e∈E ein Wahrscheinlichkeitsvektor. Wir wollen das zu E und p geh¨orige Zufallsexperiment unendlich oft unabh¨angig wiederholen (siehe Beispiel 1.40 und Satz 1.64). Sei Ω = E N der unendliche Produktraum und A die von den endlichen Zylindermengen (siehe (1.8))
⊗N erzeugte σ-Algebra sowie P = das Bernoulli-Maß. Ferner sei f¨ur e∈E pe δe jedes n ∈ N (ωm )m∈N → ωn , Xn : Ω → E, die Projektion auf die n-te Koordinate. Mit anderen Worten: Zu jedem Elementarereignis ω ∈ Ω liefert Xn (ω) das Ergebnis des n-ten Experiments. Dann gilt nach (2.4) (in Beispiel 2.4) f¨ur n ∈ N und x ∈ E n + , n ) * ) * −1 P Xj = xj f¨ur jedes j = 1, . . . , n = P [x1 , . . . , xn ] = P Xj ({xj }) j=1
=
n
n ) * P Xj−1 ({xj }) = P[Xj = xj ],
j=1
j=1
sowie P[Xj = xj ] = pxj . Nach Satz 2.13(i) sind also (X1 , . . . , Xn ) unabh¨angig 3 und nach Satz 2.13(ii) auch (Xn )n∈N . Speziell haben wir den folgenden Satz gezeigt. Satz 2.19. Sei E eine endliche Menge und (pe )e∈E ein Wahrscheinlichkeitsvektor auf E. Dann existiert ein Wahrscheinlichkeitsraum (Ω, A, P) und eine unabh¨angige Familie (Xn )n∈N von E-wertigen Zufallsvariablen auf (Ω, A, P) mit P[Xn = e] = pe f¨ur jedes e ∈ E. Wir werden sp¨ater sehen, dass wir auf die Endlichkeit von E verzichten k¨onnen und auch unterschiedliche Verteilungen zulassen k¨onnen. F¨ur den Moment gibt uns dieser Satz aber gen¨ugend Beispiele f¨ur abz¨ahlbare Familien von unabh¨angigen Zufallsvariablen an die Hand. Wir wollen nun einfache Kriterien zur Pr¨ufung der Unabh¨angigkeit von Zufallsvariablen herleiten, die sich mit Hilfe von Verteilungsfunktionen beziehungsweise Dichten ausdr¨ucken lassen. Definition 2.20. F¨ur jedes i ∈ I sei Xi eine reelle Zufallsvariable. F¨ur jede endliche Teilmenge J ⊂ I sei FJ := F(Xj )j∈J : RJ → [0, 1],
+ , *
) −1 Xj (−∞, xj ] . x → P Xj ≤ xj f¨ur jedes j ∈ J = P j∈J
Dann heißt FJ die gemeinsame Verteilungsfunktion von (Xj )j∈J . Das W-Maß P(Xj )j∈J auf RJ heißt gemeinsame Verteilung von (Xj )j∈J .
2.2 Unabh¨angigkeit von Zufallsvariablen
59
Satz 2.21. Eine Familie (Xi )i∈I reeller Zufallsvariablen ist genau dann unabh¨angig, wenn f¨ur jedes endliche J ⊂ I und jedes x = (xj )j∈J ∈ RJ gilt, dass FJ (x) = F{j} (xj ). (2.8) j∈J
Beweis. Das Mengensystem {(−∞, b], b ∈ R} ist ein schnittstabiler Erzeuger der Borel’schen σ-Algebra B(R) (siehe Satz 1.23). Die Gleichung (2.8) besagt nun aber, dass f¨ur jede Wahl von reellen Zahlen (xi )i∈I die Ereignisse (Xi−1 ((−∞, xi ]))i∈I unabh¨angig sind. Nach Satz 2.16 folgt daher die Aussage dieses Satzes. 2 Korollar 2.22. Zus¨atzlich zur Situation von Satz 2.21 nehmen wir an, dass jedes FJ eine stetige Dichte fJ = f(Xj )j∈J hat, das heißt, es gibt eine stetige Abbildung fJ : RJ → [0, ∞) mit xj1 x jn FJ (x) = dt1 · · · dtn fJ (t1 , . . . , tn ) f¨ur jedes x ∈ RJ , −∞
−∞
(wobei J = {j1 , . . . , jn }). Dann ist die Familie (Xi )i∈I genau dann unabh¨angig, wenn f¨ur jedes endliche J ⊂ I gilt fj (xj ) f¨ur jedes x ∈ RJ . (2.9) fJ (x) = j∈J
Korollar 2.23. Seien n ∈ N und μ1 , . . . , μn W-Maße auf (R, B(R)). Dann existiert ein W-Raum (Ω, A, P) und eine unabh¨angige Familie von Zufallsvariablen (Xi )i=1,...,n auf (Ω, A, P) mit PXi = μi f¨ur jedes i = 1, . . . , n. /n Beweis. Sei Ω = Rn und A = B(Rn ) sowie P = i=1 μi das Produktmaß der μi (siehe Satz 1.61). Ferner sei Xi : Rn → R, (x1 , . . . , xn ) → xi die Projektion auf die i-te Koordinate f¨ur jedes i = 1, . . . , n. Dann ist f¨ur jedes i = 1, . . . , n * ) F{i} (x) = P[Xi ≤ x] = P Ri−1 × (−∞, x] × Rn−i
μj (R) = μi (−∞, x] . = μi (−∞, x] · j =i
Also gilt tats¨achlich PXi = μi . Ferner ist f¨ur x1 , . . . , xn ∈ R + F{1,...,n} ((x1 , . . . , xn )) = P
, n n
(−∞, xi ] = μi (−∞, xi ] = F{i} (xi ).
× n
i=1
i=1
i=1
Nach Satz 2.21 (und Satz 2.13(i)) folgt die Unabh¨angigkeit von (Xi )i=1,...,n .
2
60
2 Unabh¨angigkeit
Beispiel 2.24. Seien X1 , . . . , Xn unabh¨angige, exponentialverteilte Zufallsvariab0x len mit Parametern θ1 , . . . , θn ∈ (0, ∞). Dann ist F{i} (x) = 0 θi exp(−θi t) dt = 1 − exp(−θi x) f¨ur x ≥ 0 und daher n
F{1,...,n} (x1 , . . . , xn ) = 1 − e−θi xi . i=1
Betrachte nun die Zufallsvariable Y = max(X1 , . . . , Xn ). Dann ist ) * FY (x) = P Xi ≤ x f¨ur jedes i = 1, . . . , n n
= F{1,...,n} (x, . . . , x) = 1 − e−θi x . i=1
F¨ur die Zufallsvariable Z := min(X1 , . . . , Xn ) hat die Verteilungsfunktion eine sch¨one geschlossene Form FZ (x) = 1 − P[Z > x] * ) = 1 − P Xi > x f¨ur jedes i = 1, . . . , n n
e−θi x = 1 − exp − (θ1 + . . . + θn ) x . =1− i=1
Mit anderen Worten: Z ist exponentialverteilt mit Parameter θ1 + . . . + θn .
3
Beispiel 2.25. Seien μi ∈ R und σi2 > 0, i ∈ I, sowie (Xi )i∈I reell mit gemeinsamen Dichtefunktionen (f¨ur endliches J ⊂ I) 1 (xj − μj )2 2 −2 2πσj exp − fJ (x) = f¨ur x ∈ RJ . 2σj2 j∈J
j∈J
Dann sind die (Xi )i∈I unabh¨angig, und Xi ist normalverteilt mit Parametern (μi , σi2 ). F¨ur jedes endliche I = {i1 , . . . , in } (mit paarweise unterschiedlichen i1 , . . . , in ) ist der Vektor Y = (Xi1 , . . . , Xin ) n-dimensional normalverteilt mit μ = μI := (μi1 , . . . , μin ) und Σ = Σ I die Diagonalmatrix mit Eintr¨agen σi21 , . . . , σi2n (vergleiche Beispiel 1.105(ix)). 3 Satz 2.26. Sei K eine beliebige Menge und Ik , k ∈ K, beliebige paarweise disIk . junkte Indexmengen sowie I = k∈K
Ist die Familie (Xi )i∈I unabh¨angig, dann sind auch die σ-Algebren (σ(Xj , j ∈ Ik ))k∈K unabh¨angig.
2.2 Unabh¨angigkeit von Zufallsvariablen
61
Beweis. Sei f¨ur k ∈ K 1 2 Zk = Aj : Aj ∈ σ(Xj ), #{j ∈ Ik : Aj = Ω} < ∞ j∈Ik
der Ring der endlichdimensionalen Zylinder. Offenbar ist Zk schnittstabil und σ(Zk ) = σ(Xj , j ∈ Ik ). Also reicht es nach Satz 2.13(iii) zu zeigen, dass (Zk )k∈K unabh¨angig ist. Nach Satz 2.13(ii) k¨onnen wir sogar annehmen, dass K endlich ist. F¨ur k ∈ K seien nun Bk ∈ Zkund Jk ⊂ Ik endlich mit Bk = j∈Jk Aj f¨ur gewisse Aj ∈ σ(Xj ). Setze J = k∈K Jk . Dann ist , + , + Bk = P Aj = P[Aj ] = P[Aj ] = P[Bk ]. 2 P j∈J
k∈K
j∈J
k∈K j∈Jk
k∈K
Beispiel 2.27. Sind (Xn )n∈N unabh¨angige, reelle Zufallsvariablen, dann sind auch (Yn )n∈N = (X2n − X2n−1 )n∈N unabh¨angig. In der Tat ist f¨ur jedes n ∈ N die Zufallsvariable Yn schon messbar bez¨uglich σ(X2n , X2n−1 ) nach Satz 1.91, und 3 (σ(X2n , X2n−1 ))n∈N ist unabh¨angig nach Satz 2.26. Beispiel 2.28. Seien (Xm,n )(m,n)∈N2 unabh¨angige Bernoulli-Zufallsvariablen mit Parameter p ∈ (0, 1). Sei
Ym := inf n ∈ N : Xm,n = 1 − 1 die Wartezeit auf den ersten Erfolg“ in der m-ten Zeile der Matrix (Xm,n )m,n . ” Dann sind (Ym )m∈N unabh¨angige, geometrisch verteilte Zufallsvariablen mit Parameter p (siehe Beispiel 1.105(iii)). Denn: {Ym ≤ k} =
k+1
{Xm,l = 1} ∈ σ(Xm,l , l = 1, . . . , k + 1) ⊂ σ(Xm,l , l ∈ N).
l=1
Also ist Ym messbar bez¨uglich σ(Xm,l , l ∈ N), und damit ist (Ym )m∈N unabh¨angig. Ferner ist P[Ym > k] = P[Xm,l = 0, l = 1, . . . , k + 1] =
k+1
P[Xm,l = 0] = (1 − p)k+1 .
l=1
Es folgt P[Ym = k] = P[Ym > k − 1] − P[Ym > k] = p(1 − p)k .
3
Definition 2.29 (Faltung). Seien μ und ν W-Maße auf (Z, 2Z ). Wir definieren die Faltung μ ∗ ν als das W-Maß auf (Z, 2Z ) mit (μ ∗ ν)({n}) =
∞
μ({m}) ν({n − m}).
m=−∞
Wir definieren die n-te Faltungspotenz rekursiv durch μ∗1 = μ und μ∗(n+1) = μ∗n ∗ μ.
62
2 Unabh¨angigkeit
Bemerkung 2.30. Es gilt μ ∗ ν = ν ∗ μ.
3
Satz 2.31. Sind X und Y unabh¨angige Z-wertige Zufallsvariablen, so gilt PX+Y = PX ∗ PY . Beweis. F¨ur jedes n ∈ Z gilt PX+Y ({n}) = P[X + Y = n] + , =P {X = m} ∩ {Y = n − m} m∈Z
=
) * P {X = m} ∩ {Y = n − m}
m∈Z
=
PX [{m}] PY [{n − m}] = (PX ∗ PY )[{n}].
2
m∈Z
Auf Grund dieses Satzes liegt es nahe, die Faltung von zwei Wahrscheinlichkeitsmaßen auf Rn (oder allgemeiner: auf abelschen Gruppen) als die Verteilung der Summe zweier unabh¨angiger Zufallsvariablen mit den entsprechenden Verteilungen zu definieren. Wir werden sp¨ater eine andere Definition kennen lernen, die nat¨urlich zu dieser a¨ quivalent ist, jedoch auf den Integralbegriff zur¨uckgreift, der hier noch nicht verf¨ugbar ist (siehe Definition 14.17). Definition 2.32 (Faltung von Maßen). Seien μ und ν W-Maße auf Rn , und seien X und Y unabh¨angige Zufallsvariablen mit PX = μ und PY = ν. Dann definieren wir die Faltung von μ und ν durch μ ∗ ν = PX+Y . Iterativ definieren wir die Faltungspotenzen μ∗k f¨ur k ∈ N sowie μ∗0 = δ0 . Beispiel 2.33. Seien X und Y unabh¨angig und Poisson-verteilt mit Parametern μ, λ ≥ 0. Dann gilt P[X + Y = n] = e−μ e−λ
=e
−(μ+λ)
n μm λn−m m! (n − m)! m=0 n 1 n m n−m (μ + λ)n . = e−(μ+λ) μ λ n! m=0 m n!
Also ist Poiμ ∗ Poiλ = Poiμ+λ .
3
2.3 Kolmogorov’sches 0-1 Gesetz
63
¨ Ubung 2.2.1. Seien X und Y unabh¨angige Zufallsvariablen mit X ∼ expθ und Y ∼ expρ f¨ur gewisse θ, ρ > 0. Man zeige: P[X < Y ] =
θ . θ+ρ
♣
¨ Ubung 2.2.2 (Box-Muller Methode). Seien U und V unabh¨angige, uniform auf [0, 1] verteilte Zufallsvariablen. Setze 3 3 X := −2 log(U ) cos(2πV ) und Y := −2 log(U ) sin(2πV ). Man zeige: X und Y sind unabh¨angig und N0,1 -verteilt. 3 Hinweis: Man berechne zun¨achst die Verteilung von −2 log(U ) und benutze die Transformationsformel f¨ur Dichten (Satz 1.101) sowie Polarkoordinatentransformation. ♣
2.3 Kolmogorov’sches 0-1 Gesetz Mit dem Lemma von Borel-Cantelli haben wir bereits ein 0-1 Gesetz f¨ur unabh¨angige Ereignisse kennen gelernt. Wir kommen jetzt zu einem weiteren 0-1 Gesetz f¨ur unabh¨angige Ereignisse, beziehungsweise σ-Algebren. Um dies zu formulieren, m¨ussen wir zun¨achst den Begriff der terminalen σ-Algebra einf¨uhren. Definition 2.34 (Terminale σ-Algebra). Sei I eine abz¨ahlbar unendliche Indexmenge und (Ai )i∈I eine Familie von σ-Algebren. Dann heißt
T (Ai )i∈I := σ Aj J⊂I #J<∞
j∈I\J
die terminale σ-Algebra (oder das tail σ-field) von (Ai )i∈I . Sind (Ai )i∈I Ereignisse, so setzen wir
T (Ai )i∈I := T ({∅, Ai , Aci , Ω})i∈I .
Ist (Xi )i∈I eine Familie von Zufallsvariablen, so setzen wir T (Xi )i∈I := T (σ(Xi ))i∈I . In der terminalen σ-Algebra sind alle diejenigen Ereignisse A enthalten, deren Eintreten von jeder festen endlichen Teilfamilie der Xi nicht abh¨angt. Anders gesagt: f¨ur jede endliche Teilfamilie der Xi k¨onnen wir die Werte dieser Xi willk¨urlich a¨ ndern, ohne dass sich dadurch am Eintreten von A etwas a¨ nderte.
64
2 Unabh¨angigkeit
Satz 2.35.
Seien J1 , J2 ,. . . endliche Mengen mit Jn ↑ I. Dann ist T (Ai )i∈I = ∞ n=1 σ m∈I\Jn Am . ∞ ∞
Ist speziell I = N, so ist T (An )n∈N = σ Am . n=1
m=n
Von dem Fall I = N, wo I als Menge von Zeitpunkten interpretiert wird, r¨uhrt der Begriff terminale σ-Algebra her. Wie aus dem Satz hervorgeht, liegen in T nur die Ereignisse, die nicht von den ersten endlich vielen Zeitpunkten abh¨angen, u¨ ber deren Eintreten man also erst terminal eine Aussage machen kann. Beweis. ⊂“ Dies ist klar. ” ⊃“ Sei Jn ↑ I mit endlichen Mengen Jn ⊂ I, n ∈ N, und sei J ⊂ I endlich. ” Dann existiert ein N ∈ N mit J ⊂ JN , und es ist ∞ σ n=1
m∈I\Jn
N Am ⊂ σ n=1
=σ
m∈I\Jn
m∈I\JN
Am
Am
⊂ σ
m∈I\J
Am .
Die linke Seite h¨angt nicht von J ab, also k¨onnen wir den Schnitt u¨ ber alle endlichen J bilden und erhalten ∞ σ
m∈I\Jn
n=1
Am ⊂ T (Ai )i∈I .
2
Es ist vielleicht nicht so ohne weiteres klar, dass es u¨ berhaupt noch interessante Ereignisse in der terminalen σ-Algebra gibt. Vielleicht ist nicht einmal a priori klar, dass nicht etwa T = {∅, Ω} gilt. Daher geben wir jetzt erst einmal einfache Beispiele f¨ur terminale Ereignisse beziehungsweise terminal messbare Zufallsvariablen an. In Abschnitt 2.4 werden wir ein weiteres Beispiel kennen lernen. Beispiel 2.36. (i) Seien A1 , A2 , . . . Ereignisse. Dann sind die Ereignisse A∗ := lim inf An und A∗ := lim sup An in T ((An )n∈N ). Setzen wir n¨amlich Bn := n→∞ ∞
m=n
n→∞
Am f¨ur n ∈ N, dann gilt Bn ↑ A∗ und Bn ∈ σ((Am )m≥N ) f¨ur jedes n ≥ N .
Also ist A∗ ∈ σ((Am )m≥N ) f¨ur jedes N ∈ N und damit A∗ ∈ T ((An )n∈N ). F¨ur A∗ geht dies analog. (ii) Ist (Xn )n∈N eine Familie R-wertiger Zufallsvariablen, so sind auch die Abbildungen X∗ := lim inf n→∞ Xn und X ∗ := lim supn→∞ Xn messbar bez¨uglich T ((Xn )n∈N ). In der Tat: Setzen wir Yn := supm≥n Xm , so ist f¨ur jedes N ∈ N die Zufallsvariable X ∗ = inf n≥1 Yn = inf n≥N Ynmessbar bez¨uglich TN := ∞ σ(Xn , n ≥ N ), also auch bez¨uglich T ((Xn )n∈N ) = n=1 Tn .
2.3 Kolmogorov’sches 0-1 Gesetz
65
F¨ur X∗ geht dies analog. (iii) Seien (Xn )n∈N reellwertige Zufallsvariablen. Dann sind die Ces`aro-Limiten 1 Xi n i=1 n
lim inf n→∞
1 Xi n i=1 n
und
lim sup n→∞
messbar bez¨uglich T ((Xn )n∈N ). Um dies zu zeigen, w¨ahlen wir ein N ∈ N und beachten, dass n n 1 1 X∗ := lim inf Xi = lim inf Xi n→∞ n n→∞ n i=1 i=N
σ((Xn )n≥N )-messbar ist. Da dies f¨ur jedes N gilt, ist X∗ auch T ((Xn )n∈N )messbar. F¨ur den Limes superior geht das analog. 3 Satz 2.37 (Kolmogorov’sches 0-1 Gesetz). Sei I eine abz¨ahlbar unendliche Indexmenge, und sei (Ai )i∈I eine unabh¨angige Familie von σ-Algebren. Dann ist die terminale σ-Algebra P-trivial, das heißt, es gilt P[A] ∈ {0, 1}
f¨ur jedes A ∈ T ((Ai )i∈I ).
Beweis. Es reicht, den Fall I = N zu betrachten. F¨ur n ∈ N sei 2 1 n Fn := Ak : A1 ∈ A1 , . . . , An ∈ An . k=1
∞
Dann ist F := n=1 Fn ein Semiring und σ(F) = σ( n∈N An ). In der Tat ist f¨ur jedes n ∈ N und An ∈ An auch An ∈ F, also σ( n∈N An ) ⊂ σ(F). Andererseits m ist Fm ⊂ σ( n=1 An ) ⊂ σ( n∈N An ) f¨ur jedes m ∈ N, also F ⊂ σ( n∈N An ). Sei A ∈ T ((An )n∈N ), und sei ε > 0. Nach dem Approximationssatz f¨ur Maße (Satz 1.65) existiert ein N ∈ N und paarweise disjunkte Mengen F1 , . . . , FN ∈ F mit P[A (F1 ∪ . . . ∪ FN )] < ε. Nach Definition von F existiert ein n ∈ N mit F1 , . . . ,FN ∈ Fn . Also gilt F := F1 ∪ . . . ∪ FN ∈ σ(A1 ∪ . . . ∪ An ). Offenbar ist A ∈ σ( ∞ angig von F . Daher ist m=n+1 Am ), also ist A unabh¨
ε > P[A \ F ] = P[A ∩ (Ω \ F )] = P[A] 1 − P[F ] ≥ P[A] 1 − P[A] − ε .
Da ε > 0 beliebig war, folgt 0 = P[A] 1 − P[A] . 2 Korollar 2.38. Sei (An )n∈N eine Folge unabh¨angiger Ereignisse. Dann gilt ( ' ( ' P lim sup An ∈ {0, 1} und P lim inf An ∈ {0, 1}. n→∞
n→∞
66
2 Unabh¨angigkeit
Beweis. Dies ist im Grunde eine Schlussfolgerung aus dem Lemma von BorelCantelli. Allerdings folgt es auch direkt aus dem Kolmogorov’schen 0-1 Gesetz, da Limes superior und Limes inferior in der terminalen σ-Algebra liegen. 2 Korollar 2.39. Sei (Xn )n∈N eine unabh¨angige Familie von R-wertigen Zufallsvariablen. Dann sind X∗ := lim inf n→∞ Xn und X ∗ := lim supn→∞ Xn fast sicher konstant, das heißt, es gibt x∗ , x∗ ∈ R mit P[X∗ = x∗ ] = 1 und P[X ∗ = x∗ ] = 1. Falls alle Xi sogar reellwertig sind, so sind auch die Ces`aro-Limiten 1 Xi n i=1 n
lim inf n→∞
1 Xi n i=1 n
und
lim sup n→∞
fast sicher konstant. Beweis. Sei X∗ := lim inf Xn . F¨ur jedes x ∈ R ist {X∗ ≤ x} ∈ T ((Xn )n∈N ), n→∞
also P[X∗ ≤ x] ∈ {0, 1}. Setze x∗ := inf{x ∈ R : P[X∗ ≤ x] = 1} ∈ R. Ist x∗ = ∞, so ist offenbar P[X∗ < ∞] = lim P[X∗ ≤ n] = 0. n→∞
Ist x∗ ∈ R, so ist
' 1( P[X∗ ≤ x∗ ] = lim P X∗ ≤ x∗ + =1 n→∞ n
und
' 1( = 0. P[X∗ < x∗ ] = lim P X∗ ≤ x∗ − n→∞ n Ist x∗ = −∞, so ist P[X∗ > −∞] = lim P[X∗ > −n] = 0. n→∞
F¨ur den Limes superior sowie f¨ur die Ces`aro-Limiten geht dies analog.
2
¨ Ubung 2.3.1. Man zeige: Ist (Xn )n∈N eine unabh¨angige Familie von Zufallsvariablen mit P[Xn = −1] = P[Xn = +1] = 12 , und ist Sn = X1 + . . . + Xn f¨ur jedes n ∈ N, so ist lim supn→∞ Sn = ∞ fast sicher. ♣
2.4 Beispiel: Perkolation Wir betrachten das d-dimensionale Gitter Zd , wobei jeder Punkt durch je eine Kante mit seinen 2d n¨achsten Nachbarpunkten verbunden ist. Sind x, y ∈ Zd n¨achste
2.4 Beispiel: Perkolation
67
Nachbarn, das heißt x − y2 = 1, so schreiben wir k = x, y! = y, x! f¨ur die Kante, die x und y verbindet. Formal ist die Kantenmenge eine Teilmenge der zweielementigen Teilmengen von Zd :
K = {x, y} : x, y ∈ Zd mit x − y2 = 1 . Etwas allgemeiner ist ein (ungerichteter) Graph G ein Paar G = (V, K), wobei V der Knoten oder Punkte des Graphen) und K ⊂ eine Menge ist (die Menge
{x, y} : x, y ∈ V, x = y eine Teilmenge aller zweielementigen Teilmengen von V (die Menge der Kanten). Da wir unter einer Kante intuitiv eine Verbindung zwischen zwei Punkten x und y verstehen (und nicht das ungeordnete Paar {x, y}), verwenden wir ein anderes Symbol als die Mengenklammern und schreiben x, y! statt {x, y}. Dieses Gitter ist f¨ur uns der Ausgangspunkt f¨ur ein stochastisches Modell eines por¨osen Mediums. Wir stellen uns die Kanten als R¨ohren vor, entlang derer Wasser fließen kann. Nun soll das Medium allerdings nicht v¨ollig homogen wasserdurchl¨assig sein, sondern eine amorphe Struktur besitzen, etwa wie Bimsstein. Zu diesem Zweck wollen wir zuf¨allig einen gewissen Anteil 1 − p (wobei p ∈ [0, 1] ein Parameter ist) der Kanten zerst¨oren, sodass das Wasser nur durch die verbliebenen Kanten fließen kann. Die Frage, die sich stellt, ist, bei welchen Werten von p die intakten R¨ohren unendlich große verbundene Systeme bilden und bei welchen Werten alle verbundenen Systeme nur endliche Gr¨oße haben. Wir kommen jetzt zur formalen Beschreibung des Modells. Wir w¨ahlen einen Parameter p ∈ [0, 1] und eine unabh¨angige Familie identisch verteilter Zufallsvariablen (Xkp )k∈K mit Xkp ∼ Berp , also P[Xkp = 1] = 1 − P[Xkp = 0] = p f¨ur jedes k ∈ K. Dann definieren wir (2.10) K p := {k ∈ K : Xkp = 1} als die Menge der intakten (oder offenen) Kanten. Entsprechend nennen wir die Kanten K \ K p defekt (oder geschlossen). Auf diese Weise haben wir einen (zuf¨alligen) Teilgraphen (Zd , K p ) von (Zd , K) hergestellt. Wir nennen (Zd , K p ) auch ein Perkolationsmodell (genauer: ein Modell f¨ur Kantenperkolation, im Gegensatz zu Punktperkolation, wo die einzelnen Punkte geschlossen oder offen sind). Ein (offener) Pfad (der L¨ange n) in diesem Teilgraphen ist eine Folge π = (x0 , x1 , . . . , xn ) von Punkten in Zd mit xi−1 , xi ! ∈ K p f¨ur jedes i = 1, . . . , n. Wir sagen, dass zwei Punkte x, y ∈ Zd durch einen offenen Pfad verbunden werden k¨onnen, wenn es ein n ∈ N und einen offenen Pfad (x0 , x1 , . . . , xn ) mit x0 = x und xn = y gibt. In die¨ jesem Fall schreiben wir x ←→p y. Offenbar ist ←→p“ eine Aquivalenzrelation, ” doch eine zuf¨allige, weil sie von den Werten der Zufallsvariablen (Xkp )k∈K abh¨angt. F¨ur x ∈ Zd nennen wir C p (x) := {y ∈ Zd : x ←→p y}
(2.11)
den (zuf¨alligen) offenen Cluster von x, also die Zusammenhangskomponente von x in dem Graphen (Zd , K p ).
68
2 Unabh¨angigkeit
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
s
Abb. 2.1. Perkolation auf einem 15 × 15 Gitter, p = 0.42.
Lemma 2.40. F¨ur je zwei Punkte x, y ∈ Zd ist ½{x←→p y} eine Zufallsvariable. Insbesondere ist #C p (x) eine Zufallsvariable f¨ur jedes x ∈ Zd . Beweis. Ohne Einschr¨ankung k¨onnen wir annehmen, dass x = 0 ist. Wir setzen fn (y) = 1, falls es einen offenen Pfad von 0 nach y der L¨ange h¨ochstens n gibt, und fn (y) = 0 sonst. Offenbar ist fn (y) ↑ ½{0←→p y} , also reicht es, die Messbarkeit von fn zu zeigen. Sei Bn := {−n, −n + 1, . . . , n − 1, n}d und Kn := {k ∈ K : k ∩ Bn = ∅}. Kn
Dann ist Yn := (Xkp : k ∈ Kn ) : Ω → {0, 1}Kn messbar (bez¨uglich 2({0,1} ) ) nach Satz 1.90. Nun ist aber fn eine Funktion von Yn , sagen wir fn = gn ◦ Yn f¨ur gewisses gn : {0, 1}Kn → {0, 1}. Nach dem Verkn¨upfungssatz (Satz 1.80) ist daher fn messbar. 2 Schließlich ist auch #C p (x) = y∈Zd ½{x←→p y} messbar.
2.4 Beispiel: Perkolation
69
Definition 2.41. Wir sagen, dass Perkolation eintritt, falls es (wenigstens) einen unendlich großen, offenen Cluster gibt und nennen ψ(p) := P[es gibt einen unendlich großen, offenen Cluster] ' ( =P {#C p (x) = ∞} x∈Zd
die Perkolationswahrscheinlichkeit. Wir definieren weiterhin die Funktion θ(p) := P[#C p (0) = ∞] als die Wahrscheinlichkeit, dass der Ursprung in einem unendlich großen, offenen Cluster liegt. Auf Grund der Translationsinvarianz des Gitters ist θ(p) = P[#C p (y) = ∞]
f¨ur jedes y ∈ Zd .
(2.12)
Die Grundfrage lautet: Wie groß sind θ(p) und ψ(p) in Abh¨angigkeit von p? Wir machen die folgende, intuitiv leicht einsehbare Beobachtung. Satz 2.42. Die Abbildung [0, 1] → [0, 1], p → θ(p) ist monoton wachsend. Beweis. Obwohl die Aussage offensichtlich erscheint, wollen wir einen formalen Beweis geben, weil er ein wichtiges Beweisprinzip, das der Kopplung, verwendet. Seien p, p ∈ [0, 1] mit p < p . Es sei (Yk )k∈K eine unabh¨angige Familie von Zufallsvariablen mit P[Yk ≤ q] = q f¨ur jedes k ∈ K und q ∈ {p, p , 1}. Wir k¨onnten an dieser Stelle zum Beispiel annehmen, dass jedes Yk ∼ U[0,1] uniform auf [0, 1] verteilt ist. Da der Existenzbeweis f¨ur unabh¨angige Familien mit solcher Verteilung noch aussteht, und da wir die reichhaltigere Struktur der uniformen Verteilung hier nicht ben¨otigen, begn¨ugen wir uns damit, dass jedes Yk nur Werte in {p, p , 1} annimmt, dass also gilt ⎧ p, falls q = p, ⎨ P[Yk = q] = p − p, falls q = p , ⎩ 1 − p , falls q = 1. Eine solche Familie (Yk )k∈K existiert nach Satz 2.19. Wir setzen dann f¨ur q ∈ {p, p } und k ∈ K 1 1, falls Yk ≤ q, q Xk := 0, sonst. Offenbar ist f¨ur q ∈ {p, p } die Familie (Xkq )k∈K unabh¨angig (Bemerkung 2.15(ii)) und Xkq ∼ Berq . Ferner ist Xkp ≤ Xkp f¨ur jedes k ∈ K. Wir nennen dieses Verfahren, zwei Familien von Zufallsvariablen auf einem Wahrscheinlichkeitsraum herzustellen eine Kopplung.
Offenbar gilt nun C p (x) ⊂ C p (x) f¨ur jedes x ∈ Zd , also auch θ(p) ≤ θ(p ).
2
70
2 Unabh¨angigkeit
Mit Hilfe des Kolmogorov’schen 0-1 Gesetzes k¨onnen wir folgenden Satz zeigen. 0, falls θ(p) = 0, Satz 2.43. F¨ur jedes p ∈ [0, 1] gilt ψ(p) = 1, falls θ(p) > 0. Beweis. Ist θ(p) = 0, so ist nach (2.12) ψ(p) ≤ P[#C p (y) = ∞] = θ(p) = 0. y∈Zd
y∈Zd
Sei nun A = y∈Zd {#C p (y) = ∞}. Offenbar a¨ ndert es nichts am Eintreten von A, wenn endlich viele Kanten ihren Zustand ver¨andern. Das heißt A ∈ σ((Xkp )k∈K\F ) f¨ur jedes endliche F ⊂ K. Nach Satz 2.35 ist A also in der terminalen σ-Algebra T ((Xkp )k∈K ). Nach dem Kolmogorov’schen 0-1 Gesetz (Satz 2.37) gilt also ψ(p) = P[A] ∈ {0, 1}. Ist nun θ(p) > 0, so folgt wegen ψ(p) ≥ θ(p) schon ψ(p) = 1. 2 Aufgrund der Monotonie k¨onnen wir nun die folgende Definition treffen. Definition 2.44. Der kritische Wert pc f¨ur das Auftreten von Perkolation wird definiert als pc = inf{p ∈ [0, 1] : θ(p) > 0} = sup{p ∈ [0, 1] : θ(p) = 0} = inf{p ∈ [0, 1] : ψ(p) = 1} = sup{p ∈ [0, 1] : ψ(p) = 0}. Satz 2.45. F¨ur d = 1 ist pc = 1. F¨ur d ≥ 2 ist pc (d) ∈
)
1 2 2d−1 , 3
* .
p Beweis. Sei zun¨achst d = 1 und p < 1. Sei A− := {Xn,n+1 = 0 f¨ur ein n < 0} p = 0 f¨ur ein n > 0} sowie A = A− ∩ A+ . Nach dem und A+ := {Xn,n+1 Lemma von Borel-Cantelli gilt P[A− ] = P[A+ ] = 1. Also ist θ(p) = P[Ac ] = 0.
Wir betrachten nun den Fall d ≥ 2. 1 Wir zeigen zun¨achst pc ≥ 2d−1 . Offenbar gilt f¨ur jedes n ∈ N ) * P[#C p (0) = ∞] ≤ P es gibt ein x ∈ C p (0) mit x∞ = n .
Untere Schranke.
Wir sch¨atzen nun die Wahrscheinlichkeit daf¨ur ab, dass ein Punkt x ∈ C p (0) im Abstand n vom Ursprung existiert. Jeder solche Punkt wird durch einen selbstu¨ berschneidungsfreien Pfad π, der im Ursprung beginnt und eine L¨ange m ≥ n hat, an den Ursprung angebunden. Sei Π0,m die Menge solcher Pfade. Offenbar ist #Π0,m ≤ 2d · (2d − 1)m−1 , denn im ersten Schritt gibt es 2d M¨oglichkeiten f¨ur den Pfad, in jedem weiteren Schritt h¨ochstens 2d − 1, da der Schritt zur¨uck zu einer Selbst¨uberschneidung f¨uhrt. Weiter ist f¨ur jedes π ∈ Π0,m die Wahrscheinlichkeit, dass π nur offene Kanten benutzt P[π ist offen] = pm .
2.4 Beispiel: Perkolation
Also ist f¨ur p <
71
1 2d−1
θ(p) ≤
∞
P[π ist offen]
m=n π∈Π0,m
≤ = Mithin gilt pc ≥
∞ m 2d (2d − 1)p 2d − 1 m=n
n n→∞ 2d −→ 0. (2d − 1)p (2d − 1)(1 − (2d − 1)p)
1 2d−1 .
Obere Schranke. Wir k¨onnen Zd als Teilmenge Zd × {0} ⊂ Zd+1 auffassen. Tritt daher f¨ur ein p Perkolation in Zd auf, so auch in Zd+1 . Daher gilt f¨ur die entsprechenden kritischen Werte pc (d + 1) ≤ pc (d). Es reicht also, den Fall d = 2 zu betrachten. Hier zeigen wir pc ≤ 23 . Wir geben ein Konturargument an, das von Peierls f¨ur ein Magnetismusmodell (das Ising Modell, siehe Beispiel 18.21 und speziell (18.13)) entwickelt wurde (siehe [128]). F¨ur N ∈ N schreiben wir (vergleiche (2.11) mit x = (i, 0)) CN :=
N
C p (i, 0)
i=0
f¨ur die Menge der Punkte, die eine offene Verbindung in die Menge {0, . . . , N } × {0} haben.
Dann ist wegen der Subadditivit¨at der Wahrscheinlichkeit (und wegen P[#C p (i, 0) = ∞] = θ(p) f¨ur jedes i ∈ Z) θ(p) =
N )
* * 1 ) 1 P #CN = ∞ . P #C p (i, 0) = ∞ ≥ N + 1 i=0 N +1
˜ 2 , K), ˜ die CN umschließen, Wir betrachten nun Konturen im dualen Graphen (Z falls #CN < ∞. Der duale Graph ist dabei definiert durch ˜ 2 = 1 , 1 + Z2 , Z 2 2 ˜ 2 , x − y2 = 1 . ˜ K = {x, y} : x, y ∈ Z ˜ 2 , K) ˜ kreuzt also genau eine Kante k in Eine Kante k˜ im dualen Graphen (Z 2 ˜ (Z , K). Wir nennen k offen, falls k offen ist, und sonst geschlossen. Ein Kreis ˜ 2 , K), ˜ bei dem Anfangs- und Endγ ist ein selbst¨uberschneidungsfreier Pfad in (Z punkt u¨ bereinstimmen. Eine Kontur der Menge CN ist ein minimaler Kreis, der CN umschließt. Minimal heißt dabei, dass die umschlossene Fl¨ache minimal ist (siehe Abb. 2.2).
72
2 Unabh¨angigkeit
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
1 r
r
r
r
r
r
r
r
r
r
r
0 r
r
r
r
r
r
r
r
r
r
r
−1 r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r
r −1
r r r r r r pbpp p p p p p p p pbp p p p p p p pbp p p p p p p pbp p p p p p p pbpp r ppp r r r r pppp r r ppbp p p p p p p ppb ppbp p p p p p p p pppb ppp r r r r r r ppppp r ppbp pppbp p p p p p p pbp p p p p p p pbp p p p p p p pbp p p p p p p pbp r r r r ppppp r r ppppp r pppb pppb r r r r ppppp r r ppppp r ppbp ppbp p p p p p p pbp r r r r ppppp r r r ppppp pbpp p p p p p p p pbpp ppbpp ppbp r r r r pppp r pppp r pppp r ppppp ppbp p p p p p p ppb ppbp ppbp r r r r r r ppppp r ppppp ppbp p p p p p p ppb r r r r r r r 0
1
5
Abb. 2.2. Kontur des Clusters C5 .
F¨ur n ≥ 2N sei Γn = γ : γ ist ein Kreis der L¨ange n und umschließt {0, . . . , N } × {0} . Wir wollen eine obere Absch¨atzung f¨ur #Γn angeben. Daf¨ur w¨ahlen wir f¨ur γ ∈ Punkt aus γ willk¨urlich als Startpunkt aus, n¨amlich den oberen Punkt
Γn einen m + 12 , 12 des rechtesten x-Achsendurchgangs von γ (in Abb. 2.2 ist dies der Punkt 5 + 12 , 12 ). Offenbar ist m ≥ N und m ≤ n weil der Ursprung von γ umschlossen wird. Ausgehend von m + 12 , 12 gibt es f¨ur jede weitere Kante von γ jeweils h¨ochstens drei M¨oglichkeiten. Also ist #Γn ≤ n · 3n . ˜ geschlossene Kanten benutzt. Der Kreis γ heißt geschlossen, wenn er nur (in K) Eine Kontur von CN muss automatisch geschlossen sein und eine L¨ange gr¨oßer als 2N haben. Daher gilt f¨ur p > 23 P[#CN < ∞] =
∞
) * P es gibt einen geschlossenen Kreis γ ∈ Γn
n=2N
≤
∞
n n · 3(1 − p)
N →∞
−→
0.
n=2N
Es folgt pc ≤ 23 .
2
2.4 Beispiel: Perkolation
73
Im Allgemeinen ist der Wert von pc nicht bekannt und extrem schwer zu bestimmen. Im Fall der Kantenperkolation in Z2 ist allerdings ein genaues Ergebnis bekannt, da man hier das starke Hilfsmittel der Selbstdualit¨at des Graphen (Z2 , K) zur Verf¨ugung hat. (Ist G = (V, K) ein planarer Graph, also einer, den man mit u¨ berschneidungsfreien Kanten in den R2 einbetten kann, so hat der duale Graph als Punktmenge die Menge der Fl¨achen von G und als Kante zwischen zwei solchen Punkten, diejenige Kante aus K, die die beiden Fl¨achenst¨ucke trennt. Offenbar ist das zweidimensionale Gitter als Graph isomorph zu seinem dualen Graphen. Man beachte, dass man die Kontur in Abb. 2.2 als geschlossenen Pfad im dualen Graphen auffassen kann.) Wir zitieren hier den Satz von Kesten [98]. Satz 2.46 (Kesten (1980)). F¨ur Kantenperkolation in Z2 ist die kritische Wahrscheinlichkeit pc = 12 , und es gilt θ(pc ) = 0. Beweis. Siehe etwa das Buch von Grimmett [66, Seite 287ff].
2
Es wird vermutet, dass θ(pc ) = 0 in jeder Dimension d ≥ 2 gilt. Rigoros bewiesen ist dies allerdings nur f¨ur d = 2 und d ≥ 19 (siehe [70]). Eindeutigkeit des unendlichen Clusters∗ Es sei p so gew¨ahlt, dass θ(p) > 0 ist. Wir haben gesehen, dass es mit Wahrscheinlichkeit 1 mindestens einen unendlich großen, offenen Cluster gibt. Wir wollen nun zeigen, dass es genau einen gibt. Sei also N ∈ {0, 1, . . . , ∞} die (zuf¨allige) Anzahl von unendlich großen Clustern. Satz 2.47 (Eindeutigkeit des unendlichen großen Clusters). F¨ur jedes p ∈ [0, 1] gilt Pp [N ≤ 1] = 1. Beweis. Diese Aussage wurde erstmals von Aizenman, Kesten und Newman gezeigt [1, 2]. Wir folgen der einfacheren Beweisidee von Burton und Keane [27], wie sie etwa in [66, Abschnitt 8.2] beschrieben wird. In den F¨allen p = 1 und θ(p) = 0 (speziell also im Fall p = 0) ist die Aussage trivial. Seien nun also p ∈ (0, 1) und θ(p) > 0. 1. Schritt.
Wir zeigen zun¨achst: Pp [N = m] = 1
f¨ur ein m = 0, 1, . . . , ∞.
(2.13)
Wir ben¨otigen ein 0-1 Gesetz, a¨ hnlich dem Kolmogorov’schen. Allerdings ist N nicht messbar bez¨uglich der terminalen σ-Algebra, wir m¨ussen also etwas subtiler vorgehen. Sei e1 = (1, 0, . . . , 0) der erste Einheitsvektor in Zd . Auf der Kantenmenge K definieren wir die Translation τ : K → K durch τ ( x, y!) = x + e1 , y + e1 !.
74
2 Unabh¨angigkeit
Sei K0 :=
(x1 , . . . , xd ), (y1 , . . . , yd )! ∈ K : x1 = 0, y1 ≥ 0
die Menge aller Kanten in Zd , die zwei Punkte in {0} × Zd−1 verbinden oder einen d−1 Punkt aus {0}×Zd−1 mit einem aus {1}×Z verbinden. Offenbar sind die Men n gen (τ (K0 ), n ∈ Z) disjunkt und K = n∈Z τ n (K0 ). Daher sind die Zufallsvariablen Yn := (Xτpn (k) )k∈K0 , n ∈ Z, unabh¨angig und identisch verteilt (mit Werten in {0, 1}K0 ). Setze Y = (Yn )n∈Z und τ (Y ) = (Yn+1 )n∈Z . Sei Am ∈ {0, 1}K definiert durch {Y ∈ Am } = {N = m}. Offenbar a¨ ndert sich der Wert von N nicht, wenn wir alle Kanten gleichzeitig verschieben. Es gilt also {Y ∈ Am } = {τ (Y ) ∈ Am }. Ein Ereignis mit dieser Eigenschaft nennen wir invariant. Mit einem Argument a¨ hnlich dem f¨ur das Kolmogorov’sche 0-1 Gesetz kann man zeigen, dass invariante Ereignisse (die durch u.i.v. Zufallsvariablen definiert werden) nur die Wahrscheinlichkeiten 0 oder 1 haben k¨onnen (f¨ur einen formalen Beweis siehe Beispiel 20.26). 2. Schritt.
Wir zeigen: Pp [N = m] = 0
f¨ur jedes m ∈ N \ {1}.
(2.14)
Sei also m = 2, 3, . . . Wir nehmen an, dass P[N = m] = 1 gilt und f¨uhren dies zum Widerspruch. F¨ur L ∈ N setzen wir BL := {−L, . . . , L}d und bezeichnen mit KL = {k = x, y! ∈ K : x, y ∈ BL } die Menge der Kanten, deren beide Endpunkte in BL i liegen. F¨ur i = 0, 1 sei DL := {Xkp = i f¨ur alle k ∈ KL }. Sei NL1 die Anzahl der unendlichen Cluster, wenn wir (unabh¨angig vom Wert von Xkp ) jede Kante k in KL als offen betrachten. Analog definieren wir NL0 , wobei wir hier die Kanten in KL i als geschlossen betrachten. Wegen Pp [DL ] > 0, und wegen N = m fast sicher, gilt i NL = m fast sicher f¨ur i = 0, 1. Sei A2L:=
C p (x1 ) ∩ C p (x2 ) = ∅ ∩ #C p (x1 ) = #Cp (x2 ) = ∞
x1 ,x2 ∈BL \BL−1
das Ereignis, dass es zwei Punkte auf dem Rand von BL gibt, die in unterschiedlichen, unendlich großen, offenen Clustern sitzen. Offenbar gilt A2L ↑ {N ≥ 2} f¨ur L → ∞. Sei A2L,0 a¨ hnlich wie A2L definiert, jedoch wollen wir alle Kanten k ∈ KL als geschlossen betrachten, egal ob Xkp = 1 oder Xkp = 0 ist. Tritt A2L ein, so gibt es zwei Punkte x1 , x2 auf dem Rand von BL und zu jedem i = 1, 2 einen unendlich langen selbst¨uberschneidungsfreien, offenen Pfad πxi , der in xi startet und x3−i vermeidet. Es gilt also A2L ⊂ A2L,0 . W¨ahle nun L so groß, dass P[A2L,0 ] > 0 ist.
2.4 Beispiel: Perkolation
75
Tritt A2L,0 ein und werden alle Kanten in BL ge¨offnet, so werden mindestens zwei der unendlich großen, offenen Cluster durch Kanten in BL verbunden, die Gesamtzahl der unendlich großen, offenen Cluster also um mindestens Eins verringert. Es folgt Pp [NL1 ≤ NL0 − 1] ≥ Pp [A2L,0 ] > 0, was einen Widerspruch bedeutet. 3. Schritt. Da wir im zweiten Schritt bereits gezeigt haben, dass N fast sicher keinen endlichen Wert gr¨oßer als 1 annimmt, brauchen wir nun nur noch zu zeigen, dass N fast sicher nicht den Wert ∞ annimmt. Wir zeigen hier, dass in der Tat gilt: Pp [N ≥ 3] = 0.
(2.15)
Dieses ist der schwierigste Teil. Wir nehmen an, dass Pp [N ≥ 3] > 0 gilt und f¨uhren dies zum Widerspruch. Wir nennen einen Punkt x ∈ Zd einen Trifurkationspunkt, falls x in einem unendlich großen, offenen Cluster C p (x) liegt, genau drei offene Kanten zu x f¨uhren und die Wegnahme dieser drei Kanten C p (x) in drei unendlich große, disjunkte Cluster zerteilt. Mit T bezeichnen wir die Menge der Trifurkationspunkte und schreiben TL := T ∩ BL . Sei r := Pp [0 ∈ T ]. Aufgrund der Translationsinvarianz gilt (#BL )−1 Ep [#TL ] = r f¨ur jedes L. Sei A3L:=
x1 ,x2 ,x3 ∈BL \BL−1
3 p i {C (x ) ∩ C (x ) = ∅} ∩ {#C (x ) = ∞} p
i
p
j
i=1
i =j
das Ereignis, dass es drei Punkte auf dem Rand von BL gibt, die in unterschiedlichen, unendlich großen, offenen Clustern sitzen. Offenbar gilt A3L ↑ {N ≥ 3} f¨ur L → ∞. Analog zu A2L,0 definieren wir A3L,0 als das Ereignis, dass es drei Punkte auf dem Rand von BL gibt, die in unterschiedlichen unendlich großen, offenen Clustern sitzen, wenn wir alle Kanten in KL als geschlossen ansehen. Wie oben ist A3L ⊂ A3L,0 . F¨ur drei unterschiedliche Punkte x1 , x2 , x3 ∈ BL \BL−1 sei Fx1 ,x2 ,x3 das Ereignis, dass es zu jedem i = 1, 2, 3 einen unendlich langen selbst¨uberschneidungsfreien, offenen Pfad πxi gibt, der in xi startet, nur Kanten aus K p \ KL benutzt und die anderen xj , j = i, vermeidet. Dann gilt Fx1 ,x2 ,x3 . A3L,0 ⊂ x1 ,x2 ,x3 ∈BL \BL−1
paarweise unterschiedlich
Sei L so groß, dass Pp [A3L,0 ] ≥ Pp [N ≥ 3]/2 > 0 gilt. W¨ahle drei unterschiedliche Punkte x1 , x2 , x3 ∈ BL \ BL−1 mit Pp [Fx1 ,x2 ,x3 ] > 0. Tritt Fx1 ,x2 ,x3 ein, so k¨onnen wir einen Punkt y ∈ BL finden, von dem aus drei disjunkte (nicht notwendigerweise offene) Pfade π1 , π2 und π3 zu den Punkten x1 , x2 und x3 f¨uhren. Sei Gy,x1 ,x2 ,x3 das Ereignis, dass in KL genau diejenigen Kanten
76
2 Unabh¨angigkeit
offen sind, die zu diesen Pfaden geh¨oren, und alle anderen geschlossen. Die Ereignisse Fx1 ,x2 ,x3 und Gy,x1 ,x2 ,x3 sind unabh¨angig, und y ist ein Trifurkationspunkt, falls beide eintreten. Daher ist
#KL r = Pp [y ∈ T ] ≥ Pp [Fx1 ,x2 ,x3 ] · p ∧ (1 − p) > 0. Wir zeigen nun, dass r = 0 sein muss, was die Annahme Pp [N ≥ 3] > 0 ad ab˜ L aller Kanten, die mindestens einen Endpunkt in surdum f¨uhrt. Auf der Menge K ¨ R ein, indem wir zwei Kanten BL liegen haben, f¨uhren wir eine Aquivalenzrelation als a¨ quivalent betrachten, wenn es einen offenen Pfad gibt, der keinen Trifurkationspunkt trifft, und der von jeder der beiden Kanten mindestens einen Endpunkt ˜ L /R bezeichnen wir die Menge der Aquivalenzklassen. ¨ trifft. Mit UL := K (Man beachte, dass die drei an einen Trifurkationspunkt angrenzenden Kanten stets in drei ¨ unterschiedlichen Aquivalenzklassen liegen.) Wir machen HL := UL ∪ TL zu einem Graphen, indem wir zwei Punkte x ∈ TL und u ∈ UL als benachbart ansehen, wenn es eine Kante k ∈ u gibt, deren einer Endpunkt x ist. Jeder Punkt x ∈ TL ist mit genau drei Punkten aus UL benachbart. Die Punkte aus UL k¨onnen isoliert sein (keine Nachbarn haben), oder an beliebig viele Punkte aus TL angrenzen, nicht jedoch an Punkte aus UL . Eine Schleife ist ein selbst¨uberschneidungsfreier, endlicher Pfad, der zu seinem Startpunkt zur¨uckkehrt. Der Graph HL ist schleifenfrei. In der Tat: g¨abe es in HL einen selbst¨uberschneidungsfreien Pfad (h0 , h1 , . . . , hn ), der in h0 = hn = x ∈ TL beginnt und ended, so m¨ussten h1 , hn−1 ∈ UL liegen und unterschiedlich sein. Nach Definition des Trifurkationspunktes x m¨ussen h1 und hn−1 in unterschiedlichen offenen Clustern liegen, wenn x entfernt wird. Andererseits gibt es eine Verbindung der Kanten in h1 mit denen in hn−1 entlang des Weges h1 , . . . , hn−1 , der x nicht trifft. Da dies ein Widerspruch ist, kann es einen solchen Pfad nicht geben. Aus einer Schleife (g0 , . . . , gm ), die in g0 = gm ∈ UL beginnt und ended, kann eine Schleife (g1 , g2 , . . . , gm , g1 ) konstruiert werden, die in g1 ∈ TL beginnt und ended. Da wir eine solche Schleife schon ausgeschlossen haben, ist der Graph HL als schleifenfrei erkannt. Wir schreiben degHL (h) f¨ur den Grad von h ∈ HL , also f¨ur die Anzahl der Nachbarn von h in HL . Ein Punkt h mit degHL (h) = 1 heißt ein Blatt von HL . Offenbar k¨onnen nur die Punkte aus UL Bl¨atter sein. Sei nun Z ⊂ HL eine Zusammenhangskomponente, die mindestens einen Punkt x ∈ TL enth¨alt. Da Z ein Baum ist (zusammenh¨angend und schleifenfrei), gilt #Z − 1 =
1 degHL (h). 2 h∈Z
Diese Formel l¨asst sich leicht so umstellen, dass man die Anzahl der Bl¨atter bestimmen kann:
2.4 Beispiel: Perkolation
# u ∈ Z : degHL (u) = 1 = 2 +
degHL (h) − 2
77
+
h∈Z
≥ 2 + # h ∈ Z : degHL (h) ≥ 3 = 2 + #(Z ∩ TL ). Indem wir u¨ ber die Zusammenhangskomponenten Z von HL mit mindestens einem Punkt in TL summieren, erhalten wir
# u ∈ HL : degHL (u) = 1 ≥ #TL . Nun enth¨alt jedes Blatt u ∈ HL eine Kante, die an ein x ∈ TL angrenzt. Also liegen die Kanten von u in einem unendlich großen, offenen Cluster von K p , und es gibt wenigstens eine Kante k ∈ u mit mindestens einem Endpunkt in BL \ BL−1 . F¨ur unterschiedliche Bl¨atter sind dies stets unterschiedliche Punkte, da die Bl¨atter zu disjunkten Clustern geh¨oren. Speziell erhalten wir die Absch¨atzung #TL ≤ #(BL \ BL−1 ). Es folgt
#TL #(BL \ BL−1 ) d ≤ ≤ #BL #BL L
L→∞
−→ 0.
Wegen r = (#BL )−1 Ep [#TL ] ≤ d/L folgt r = 0. (Man beachte, dass wir hier 2 im Vorgriff auf Kapitel 5 den Erwartungswert Ep [#TL ] benutzt haben.)
3 Erzeugendenfunktion
Ein wichtiges Prinzip in der Mathematik ist es, eine Klasse von Objekten, die man betrachten m¨ochte, in eine andere Klasse von Objekten, mit denen man besser rechnen kann, hinein abzubilden. Diese Abbildung kann eineindeutig sein, etwa bei der Zuordnung von Matrizen zu linearen Abbildungen, oder auch nur manche Eigenschaften eindeutig abbilden, etwa bei Determinanten. Zu der zweiten Kategorie geh¨oren in der Wahrscheinlichkeitstheorie die Kenngr¨oßen wie Median, Erwartungswert und Varianz von Zufallsvariablen. Zur ersten Kategorie hingegen charakteristische Funktionen, Laplace-Transformierte und Erzeugendenfunktionen, die enge Verwandte sind und ihre N¨utzlichkeit daraus ziehen, dass Addition von unabh¨angigen Zufallsvariablen in Multiplikation u¨ bergeht. Bevor wir in sp¨ateren Kapiteln insbesondere die charakteristischen Funktionen ausgiebig behandeln, wollen wir wichtige Grundideen in der einfacheren Situation der Erzeugendenfunktionen, deren Anwendung auf N0 -wertige Zufallsvariablen beschr¨ankt ist, kennen lernen.
3.1 Definition und Beispiele Definition 3.1 (Erzeugendenfunktion). Sei X eine N0 -wertige Zufallsvariable. Die Abbildung ψPX = ψX , die erkl¨art wird durch ψX : [0, 1] → [0, 1],
z →
∞
P[X = n] z n ,
(3.1)
n=0
heißt Erzeugendenfunktion von PX (oder etwas lax: von X). Satz 3.2. (i) ψX ist stetig und in (0, 1) unendlich oft stetig differenzierbar. Es (n) gilt f¨ur n ∈ N und die n-te Ableitung ψX (n)
lim ψX (z) = z↑1
∞
P[X = k] · k(k + 1) · · · (k + n − 1),
k=1
wobei beide Seiten = +∞ sein k¨onnen.
(3.2)
80
3 Erzeugendenfunktion
(ii) Die Verteilung PX von X ist durch ψX eindeutig charakterisiert. (iii) ψX ist durch die Angabe von abz¨ahlbar vielen Werten ψX (xi ), xi ∈ [0, 1], i ∈ N, eindeutig festgelegt. Konvergiert die Reihe in (3.1) auch f¨ur ein z > 1, so gilt (n) (n) lim ψX (z) = ψX (1) < ∞ f¨ur n ∈ N, z↑1
(n)
und ψX ist durch Angabe von ψX (1), n ∈ N, eindeutig charakterisiert. 2
Beweis. Das folgt aus der elementaren Theorie der Potenzreihen.
Satz 3.3 (Multiplikativit¨at der Erzeugendenfunktion). Sind X1 , . . . , Xn unabh¨angig und N0 -wertig, so ist n ψXi . ψX1 +...+Xn = i=1
Beweis. F¨ur z ∈ [0, 1) k¨onnen wir ψX1 (z) ψX2 (z) als Cauchy-Produkt schreiben ∞ ∞ n n ψX1 (z) ψX2 (z) = P[X1 = n] z P[X2 = n] z n=0
=
∞
z
n
n=0
=
∞ n=0
=
∞
n=0
n
P[X1 = m] P[X2 = n − m]
m=0
zn
n
P[X1 = m, X2 = n − m]
m=0
P[X1 + X2 = n] z n = ψX1 +X2 (z).
n=0
Induktiv folgt die Aussage f¨ur jedes n ≥ 2.
2
Beispiel 3.4. (i) Sei X bn,p -verteilt f¨ur gewisse n ∈ N und p ∈ [0, 1]. Dann ist n
n n m p (1 − p)n−m z m = pz + (1 − p) . (3.3) ψX (z) = m m=0 (ii) Sind X, Y unabh¨angig und bm,p beziehungsweise bn,p -verteilt, so ist nach Satz 3.3 n
m
m+n ψX+Y (z) = pz + (1 − p) pz + (1 − p) = pz + (1 − p) . Also ist nach Satz 3.2(ii) X + Y bm+n,p -verteilt und damit (nach Satz 2.31)
3.1 Definition und Beispiele
81
bm,p ∗ bn,p = bm+n,p . (iii) Seien X und Y unabh¨angig und Poisson-verteilt mit Parametern λ ≥ 0 und μ ≥ 0, also P[X = n] = e−λ λn /n! f¨ur n ∈ N0 . Dann ist ∞
ψPoiλ (z) =
e−λ
n=0
(λz)n = eλ(z−1) . n!
(3.4)
Also hat X + Y die Erzeugendenfunktion ψPoiλ (z) · ψPoiμ (z) = eλ(z−1) eμ(z−1) = ψPoiλ+μ (z), und daher ist X + Y ∼ Poiλ+μ . Es folgt Poiλ ∗ Poiμ = Poiλ+μ .
(3.5)
(iv) Seien X1 , . . . , Xn ∼ γp unabh¨angig und geometrisch verteilt mit Parameter p ∈ (0, 1). Wir setzen Y = X1 + . . . + Xn . Es ist f¨ur z ∈ [0, 1] ψX1 (z) =
∞
p(1 − p)k z k =
k=0
p . 1 − (1 − p)z
(3.6)
Nach der verallgemeinerten binomischen Formel (siehe Lemma 3.5 mit α = −n), Satz 3.3 und (3.6) ist pn (1 − (1 − p)z)n ∞ −n = pn (−1)k (1 − p)k z k k
ψY (z) = ψX1 (z)n =
k=0
=
∞
k b− n,p ({k}) z ,
k=0
wobei f¨ur beliebiges r ∈ (0, ∞) und p ∈ (0, 1] b− r,p
=
∞ −r k=0
k
(−1)k pr (1 − p)k δk
(3.7)
die negative Binomialverteilung mit Parametern r und p ist. Nach dem Eindeutigkeitssatz f¨ur Erzeugendenfunktionen ist damit Y ∼ b− n,p , also (siehe Definition 2.29 ∗n f¨ur die n-te Faltungspotenz) b− = γ . 3 n,p p Lemma 3.5 (Verallgemeinerter binomischer Lehrsatz). F¨ur α ∈ R und k ∈ N0 definieren wir den Binomialkoeffizienten
82
3 Erzeugendenfunktion
α · (α − 1) · · · (α − k + 1) α . := k! k
(3.8)
Es gilt die erweiterte binomische Formel: ∞ α
xk
f¨ur jedes x ∈ C mit |x| < 1.
(3.9)
∞ 1 2n −n n √ 4 x = 1 − x n=0 n
f¨ur jedes x ∈ C mit |x| < 1.
(3.10)
α
(1 + x) =
k=0
k
Speziell gilt
Beweis. Die Abbildung f : x → (1 + x)α ist holomorph bis auf eventuell eine Singularit¨at bei x = −1, ist also um 0 in eine Potenzreihe entwickelbar mit Radius mindestens 1: ∞ f (k) (0) k x f (x) = f¨ur |x| < 1. k! k=0
F¨ur k ∈ N0 ist die k-te Ableitung f (k) (0) = α(α − 1) · · · (α − k + 1), also folgt (3.9). 2n
= n (−4)−n . 2 Der Zusatz folgt, weil f¨ur α = −1/2 gilt, dass −1/2 n − − ¨ ur r, s ∈ (0, ∞) und p ∈ (0, 1]. Ubung 3.1.1. Man zeige b− r,p ∗ bs,p = br+s,p f¨
♣
3.2 Poisson-Approximation Lemma 3.6. Seien μ und (μn )n∈N W-Maße auf (N0 , 2N0 ) mit Erzeugendenfunktionen ψμ und ψμn , n ∈ N. Dann sind a¨ quivalent (i) (ii)
n→∞
μn ({k}) −→ μ({k}) f¨ur jedes k ∈ N0 , n→∞
f¨ur jedes A ⊂ N0 ,
n→∞
f¨ur jedes z ∈ [0, 1],
n→∞
f¨ur jedes z ∈ [0, η) f¨ur ein η ∈ (0, 1).
μn (A) −→ μ(A)
(iii)
ψn (z) −→ ψ(z)
(iv)
ψn (z) −→ ψ(z)
n→∞
Gilt eine der vier Bedingungen, so schreiben wir μn −→ μ und sagen (μn )n∈N konvergiere schwach gegen μ. Beweis. (i) =⇒ (ii) Sei ε > 0 und N ∈ N so gew¨ahlt, dass μ({N + 1, N + 2, . . .}) < 4ε . F¨ur hinreichend großes n0 ∈ N ist ferner
3.2 Poisson-Approximation N μn ({k}) − μ({k}) < ε 4
83
f¨ur jedes n ≥ n0 .
k=0
Speziell ist f¨ur n ≥ n0 auch μn ({N + 1, N + 2, . . .}) < 2ε . Also ist f¨ur n ≥ n0 μn (A) − μ(A) ≤ μn ({N + 1, N + 2, . . .}) + μ({N + 1, N + 2, . . .}) μn ({k}) − μ({k}) + k∈A∩{0,...,N }
< ε. (ii) =⇒ (i)
Dies ist trivial.
(i) ⇐⇒ (iii) ⇐⇒ (iv)
Dies folgt aus elementarer Theorie der Potenzreihen. 2
Seien (pn,k )n,k∈N Zahlen mit pn,k ∈ [0, 1], sodass der Grenzwert λ := lim
n→∞
existiert und so, dass lim
∞
n→∞
k=1
∞
pn,k ∈ (0, ∞)
(3.11)
k=1
p2n,k = 0 ist (beispielsweise pn,k = λ/n f¨ur
k ≤ n und pn,k = 0 f¨ur k > n). F¨ur jedes n ∈ N sei (Xn,k )k∈N eine unabh¨angige Familie von Zufallsvariablen mit Xn,k ∼ Berpn,k . Setze S n :=
∞ l=1
Xn,l
und
Skn :=
k
Xn,l
f¨ur k ∈ N.
l=1
Satz 3.7 (Poisson-Approximation). Unter den obigen Annahmen konvergieren die Verteilungen (PS n )n∈N schwach gegen die Poisson-Verteilung Poiλ . Beweis. Die Poisson-Verteilung hat die Erzeugendenfunktion ψ(z) = eλ(z−1) (siehe (3.4)). Andererseits sind S n − Skn und Skn unabh¨angig f¨ur jedes k ∈ N, also ψS n = ψSkn · ψS n −Skn . Nun ist f¨ur jedes z ∈ [0, 1] 1≥
∞ ψS n (z) k→∞ = ψS n −Skn (z) ≥ 1 − P[S n − Skn ≥ 1] ≥ 1 − pn,l −→ 1, ψSkn (z) l=k+1
84
3 Erzeugendenfunktion
also ψS n (z) = lim ψSkn (z) = k→∞
∞ (pn,l z + (1 − pn,l )) l=1
= exp
∞
log 1 + pn,l (z − 1) .
l=1
F¨ur |x| <
1 2
ist | log(1 + x) − x| ≤ x2 . Nach Voraussetzung gilt max pn,l → 0 f¨ur l∈N
n → ∞, also ist f¨ur hinreichend großes n ∞ ∞
log 1 + pn,l (z − 1) − (z − 1) pn,l l=1
l=1
≤
∞
p2n,l
≤
l=1
Zusammen mit (3.11) folgt
lim ψS n (z) = lim exp (z − 1)
n→∞
n→∞
∞
pn,l
l=1
∞
n→∞
max pn,l −→ 0. l∈N
pn,l
= eλ(z−1) .
2
l=1
3.3 Verzweigungsprozesse Seien T, X1 , X2 , . . . unabh¨angige, N0 -wertige Zufallsvariablen. Wie sieht die VerT teilung von S := n=1 Xn aus? Zun¨achst bemerken wir, dass S messbar ist, denn {S = k} =
∞
{T = n} ∩ {X1 + . . . + Xn = k}.
n=0
Satz 3.8. Sind die X1 , X2 , . . . zus¨atzlich identisch verteilt, so ist die Erzeugendenfunktion von S gegeben durch ψS (z) = ψT (ψX1 (z)). Beweis. ψS (z) =
∞
P[S = k] z k
k=0
=
∞ ∞
P[T = n] P[X1 + . . . + Xn = k] z k
k=0 n=0
=
∞ n=0
P[T = n] ψX1 (z)n = ψT ψX1 (z) .
2
3.3 Verzweigungsprozesse
85
∞ Wir nehmen jetzt an, dass p0 , p1 , p2 , . . . ∈ [0, 1] sind mit k=0 pk = 1. Sei (Xn,i )n,i∈N0 eine unabh¨angige Familie von Zufallsvariablen mit P[Xn,i = k] = pk f¨ur alle i, k, n ∈ N0 . Setze Z0 = 1 und
Zn−1
Zn =
Xn−1,i
f¨ur n ∈ N.
i=1
Wir geben die folgende Interpretation an: Zn ist die Anzahl von Individuen in der n-ten Generation einer sich zuf¨allig entwickelnden Population. Das i-te Individuum aus der n-ten Generation hat Xn,i Nachkommen (in der (n + 1)-ten Generation). Definition 3.9. (Zn )n∈N0 heißt Galton-Watson-Prozess oder Verzweigungsprozess mit Nachkommenverteilung (pk )k∈N0 . Ein wichtiges Hilfsmittel bei der Untersuchung von Verzweigungsprozessen sind Erzeugendenfunktionen. Sei also ψ(z) =
∞
pk z k
k=0
die Erzeugendenfunktion der Nachkommenverteilung und ψ deren Ableitung. Wir definieren die n-te Iterierte von ψ durch ψ1 := ψ,
ψn := ψ ◦ ψn−1
f¨ur n = 2, 3, . . .
Sei schließlich ψZn die Erzeugendenfunktion von Zn . Lemma 3.10. Es gilt ψn = ψZn f¨ur jedes n ∈ N. Beweis. F¨ur n = 1 ist dies per Definition richtig. F¨ur n ∈ N folgt mit Satz 3.8 induktiv ψZn+1 = ψ ◦ ψZn = ψ ◦ ψn = ψn+1 . 2 Offenbar ist die Wahrscheinlichkeit qn := P[Zn = 0], dass Z zur Zeit n schon ausgestorben ist, wachsend in n. Wir bezeichnen mit q := lim P[Zn = 0] n→∞
die Aussterbewahrscheinlichkeit. Unter welchen Bedingungen ist q = 0, q = 1, oder q ∈ (0, 1)? Offenbar ist q ≥ p0 . Ist andererseits p0 = 0, so ist Zn wachsend in n, also q = 0. Satz 3.11 (Aussterbewahrscheinlichkeit des Galton-Watson-Prozesses). (i) Es gilt F := {r ∈ [0, 1] : ψ(r) = r} = {q, 1}. ∞ (ii) q < 1 ⇐⇒ lim ψ (z) > 1 ⇐⇒ k=1 k pk > 1. z↑1
86
3 Erzeugendenfunktion
Beweis. (i) Es gilt ψ(1) = 1, also 1 ∈ F . Offenbar gilt qn = ψn (0) = ψ(qn−1 ). Wir wissen, dass qn ↑ q gilt. Da ψ stetig ist, gilt ψ(q) = ψ lim qn = lim ψ(qn ) = lim qn+1 = q. n→∞
n→∞
n→∞
Also ist q ∈ F . Ist r ∈ F ein beliebiger Fixpunkt von ψ, so gilt r ≥ 0 = q0 . Da ψ monoton wachsend ist, folgt r = ψ(r) ≥ ψ(q0 ) = q1 und induktiv r ≥ qn f¨ur alle n ∈ N0 , also r ≥ q. Mithin ist q = min F . ¨ (ii) F¨ur die erste Aquivalenz unterscheiden wir zwei F¨alle. 1. Fall: limz↑1 ψ (z) ≤ 1. Da ψ strikt konvex ist, gilt in diesem Fall ψ(z) > z f¨ur alle z ∈ [0, 1), also F = {1} und damit q = 1. 2. Fall: limz↑1 ψ (z) > 1. Da ψ strikt konvex ist und ψ(0) ≥ 0, gibt es genau ein r ∈ [0, 1) mit ψ(r) = r, also ist F = {r, 1} und damit q = min F = r. ¨ Die zweite Aquivalenz in (ii) folgt aus (3.2). 2
4 Das Integral
Nach dem Begriff des Maßraums und der messbaren Abbildung ist das Integral messbarer reeller Abbildungen bez¨uglich allgemeiner Maße, nicht nur des Lebesgue-Maßes, wie es in den meisten Analysis-Vorlesungen behandelt wird, ein Eckstein der systematischen Wahrscheinlichkeitstheorie, der es uns beispielsweise erlaubt, Erwartungswerte und h¨ohere Momente zu definieren. In diesem Kapitel definieren wir das Integral durch Approximation mit Elementarfunktionen und leiten einfache Eigenschaften her wie das Lemma von Fatou. Die anderen Konvergenzs¨atze f¨ur Integrale folgen in den Kapiteln 6 und 7.
4.1 Konstruktion und einfache Eigenschaften Sei im Folgenden stets (Ω, A, μ) ein Maßraum. Wir bezeichnen mit E den Vektorraum der Elementarfunktionen (siehe Definition 1.93) auf (Ω, A) und mit E+ := {f ∈ E : f ≥ 0} den Kegel (woher der Name?) der nichtnegativen Elementarfunktionen. Gilt m αi ½Ai (4.1) f= i=1
f¨ur gewisses m ∈ N und f¨ur α1 , . . . , αm ∈ (0, ∞) sowie paarweise disjunkte Mengen A1 , . . . , Am ∈ A, so sagen wir, dass (4.1) eine Normaldarstellung der Elementarfunktion f ist. n m Lemma 4.1. Sind f = i=1 αi ½Ai und f = j=1 βj ½Bj zwei Normaldarstellungen von f ∈ E+ , so gilt m i=1
αi μ(Ai ) =
n
βj μ(Bj ).
j=1
Beweis. Ist μ(Ai ∩ Bj ) > 0 f¨ur gewisse i und j, so ist Ai ∩ Bj = ∅,und f¨ur jedes n ω ∈ Ai ∩ Bj ist f (ω) = αi = βj . Außerdem ist offenbar Ai ⊂ j=1 Bj , falls m αi = 0 und Bj ⊂ i=1 Ai , falls βj = 0. Es folgt
88
4 Das Integral m
αi μ(Ai ) =
i=1
m n
αi μ(Ai ∩ Bj )
i=1 j=1
=
n m
βj μ(Ai ∩ Bj ) =
i=1 j=1
n
βj μ(Bj ).
2
j=1
Dieses Lemma erlaubt uns, die folgende Definition zu treffen (weil der definierte Wert I(f ) von der gew¨ahlten Normaldarstellung nicht abh¨angt). Definition 4.2. Wir definieren eine Abbildung I : E+ → [0, ∞] durch I(f ) =
m
αi μ(Ai ),
i=1
falls f die Normaldarstellung f =
m i=1
αi ½Ai hat.
Lemma 4.3. Die Abbildung I ist positiv linear und monoton: Seien f, g ∈ E+ und α ≥ 0. Dann gelten die folgenden Aussagen. (i) I(αf ) = α I(f ). (ii) I(f + g) = I(f ) + I(g). (iii) Ist f ≤ g, so ist I(f ) ≤ I(g). ¨ Beweis. Ubung.
2
Definition 4.4 (Integral). Ist f : Ω → [0, ∞] messbar, so definieren wir das Integral von f bez¨uglich μ durch
f dμ := sup I(g) : g ∈ E+ , g ≤ f . 0 Bemerkung 4.5. Nach Lemma 4.3(iii) ist I(f ) = f dμ f¨ur jedes f ∈ E+ . Also ist das Integral eine Fortsetzung der Abbildung I von E+ auf die Menge der nichtnegativen messbaren Funktionen. 3 Sind f, g : Ω → R Abbildungen, so schreiben wir f ≤ g, falls f (ω) ≤ g(ω) f¨ur jedes ω ∈ Ω gilt. Analog verwenden wir die Schreibweise f ≥ 0 und so fort. Hingegen schreiben wir f ≤ g fast u¨ berall“, falls die schw¨achere Bedingung gilt, ” dass eine μ-Nullmenge N existiert mit f (ω) ≤ g(ω) f¨ur jedes ω ∈ N c .
4.1 Konstruktion und einfache Eigenschaften
89
Lemma 4.6. Seien f, g, f1 , f2 , . . . messbare Abbildungen Ω → [0, ∞]. Dann gilt 0 0 (i) (Monotonie) Ist f ≤ g, dann ist f dμ ≤ g dμ. (ii) (Monotone 0 0 Konvergenz) Gilt fn ↑ f , dann konvergieren auch die Integrale fn dμ ↑ f dμ. (iii) (Linearit¨at) Sind α, β ∈ [0, ∞], so gilt (αf + βg) dμ = α f dμ + β g dμ, wobei wir die Konvention ∞ · 0 := 0 benutzen. Beweis. (i) Dies folgt direkt aus der Definition des Integrals. (ii) Nach (i) gilt n→∞
n∈N
Wir m¨ussen also nur noch
fn dμ = sup
lim
0
f dμ ≤ sup
0
fn dμ ≤
f dμ.
fn dμ zeigen.
n∈N
Sei g ∈ E+ mit g ≤ f . Es reicht zu zeigen, dass g dμ. sup fn dμ ≥
(4.2)
n∈N
N Die Elementarfunktion g habe die Normaldarstellung g = i=1 αi ½Ai , wobei α1 , . . . , αN ∈ (0, ∞) sind und A1 , . . . , AN ∈ A paarweise disjunkt sind. F¨ur jedes ε > 0 und n ∈ N definieren wir die Menge Bnε = {fn ≥ (1 − ε) g}. Wegen fn ↑ f ≥ g gilt Bnε ↑ Ω f¨ur jedes ε > 0. Also gilt nach (i) f¨ur ε > 0
fn dμ ≥ (1 − ε) g ½Bnε dμ =
N
(1 − ε) αi μ(Ai ∩ Bnε )
i=1 n→∞
−→
N
(1 − ε) αi μ(Ai ) = (1 − ε)
g dμ.
i=1
Da ε > 0 beliebig war, folgt (4.2) und damit die Aussage (ii). (iii) Nach Satz 1.96 ist jede nichtnegative messbare Abbildung monotoner Limes von Elementarfunktionen. Es gibt also Folgen (fn )n∈N und (gn )n∈N in E+ mit
90
4 Das Integral
fn ↑ f und gn ↑ g. Es gilt dann aber auch (αfn + βgn ) ↑ αf + βg. Nach (ii) und Lemma 4.3 gilt daher (αf + βg) dμ = lim (αfn + βgn ) dμ n→∞
= α lim
n→∞
fn dμ + β lim
n→∞
gn dμ = α
f dμ + β
g dμ.
2
0 ± + − F¨ 0 ur messbares f : Ω0→ R ist f ≤ |f | und f 0 ≤−|f |, also gilt auch 0 + f dμ ≤ |f | dμ. Ist speziell |f | dμ < ∞, so ist auch f dμ < ∞ und f dμ < ∞. Daher k¨onnen wir die folgende Definition treffen, die abschließend das Integral f¨ur messbare Funktionen erkl¨art. ¨ messbare Definition 4.7 (Integral fur 0 Funktionen). Eine messbare Funktion f : Ω → R heißt μ-integrierbar, falls |f | dμ < ∞. Wir schreiben 0 |f | dμ < ∞ . L1 (μ) := L1 (Ω, A, μ) := f : Ω → R : f ist messbar und F¨ur f ∈ L1 (μ) definieren wir das Integral von f bez¨uglich μ durch f (ω) μ(dω) := f dμ := f + dμ − f − dμ.
(4.3)
0 0 0 Ist lediglich f − dμ < ∞ oder f + dμ < ∞, so definieren wir ebenfalls f dμ durch (4.3), wobei wir dann die Werte +∞ beziehungsweise −∞ zulassen. f dμ := (f ½A ) dμ. Ist A ∈ A, so schreiben wir A
Satz 4.8. Sei f : Ω → [0, ∞] messbar. 0 (i) Es ist f = 0 fast u¨ berall genau dann, wenn f dμ = 0 gilt. 0 (ii) Ist f dμ < ∞, so gilt f < ∞ fast u¨ berall. Beweis. (i) =⇒ “ Es gelte f = 0 fast u¨ berall. Sei N = {ω : f (ω) > 0}. Dann ” ist f ≤ ∞ · ½N und n½N ↑ ∞ · ½N . Es folgt nach Lemma 4.6(i) und (ii) n½N dμ = 0. 0 ≤ f dμ ≤ (∞ · ½N ) dμ = lim n→∞
”
⇐= “
Sei Nn = {f ≥ n1 }, n ∈ N. Dann ist Nn ↑ N und μ(Nn ) 1 . ½N dμ = 0 = f dμ ≥ n n n
Also gilt μ(Nn ) = 0 f¨ur jedes n ∈ N und damit μ(N ) = 0.
4.1 Konstruktion und einfache Eigenschaften
91
(ii) Sei A = {ω : f (ω) = ∞}. F¨ur n ∈ N ist n1 f ½{f ≥n} ≥ ½{f ≥n} , also nach Lemma 4.6(i) 1 1 n→∞ μ(A) = ½A dμ ≤ ½{f ≥n} dμ ≤ f ½{f ≥n} dμ ≤ f dμ −→ 0. 2 n n Satz 4.9 (Eigenschaften des Integrals). Seien f, g ∈ L1 (μ). 0 0 (i) (Monotonie) Ist f ≤ g fast u¨ berall, so ist f dμ ≤ g dμ. 0 0 Ist speziell f = g fast u¨ berall, so ist f dμ = g dμ. 0 0 (ii) (Dreiecksungleichung) Es gilt stets f dμ ≤ |f | dμ. Sind α, β ∈ R, dann ist αf + βg ∈ L1 (μ) und (αf + βg) dμ = α f dμ + β g dμ.
(iii) (Linearit¨at)
Diese Gleichung gilt auch, wenn h¨ochstens eines der Integrale 0 g dμ einen der Werte ±∞ annimmt.
0
f dμ und
Beweis. (i) Es gilt f + ≤ g + und f − ≥ g − f.¨u., also ist nach Lemma 4.6(i) f + dμ ≤ g + dμ und f − dμ ≥ g − dμ. Es folgt
f dμ =
f + dμ −
f − dμ ≤
g + dμ −
g − dμ =
g dμ.
(ii) Wegen f + + f − = |f | ist nach Lemma 4.6(iii) f dμ = f + dμ − f − dμ ≤ f + dμ + f − dμ =
+ f + f − dμ =
|f | dμ.
(iii) Wegen |αf + βg| ≤ |α| · |f | + |β| · |g| ist nach Lemma 4.6(i) und (iii) auch αf + βg ∈ L1 (μ). Um die Linearit¨at zu zeigen, reicht es die drei folgenden Eigenschaften zu pr¨ufen. 0 0 0 (a) (f + g) dμ = f dμ + g dμ. 0 0 (b) F¨ur α ≥ 0 ist αf dμ = α f dμ. 0 0 (c) (−f ) dμ = − f dμ.
92
4 Das Integral
Zu (a): Es ist (f + g)+ − (f + g)− = f + g = f + − f − + g + − g − , also ist (f + g)+ + f − + g − = (f + g)− + f + + g + . Nach Lemma 4.6(iii) gilt (f + g)+ dμ + f − dμ + g − dμ = (f + g)− dμ + f + dμ + g + dμ, also ist
(f + g)+ dμ − (f + g)− dμ = f + dμ − f − dμ + g + dμ − g − dμ = f dμ + g dμ.
(f + g) dμ =
Zu (b): F¨ur α ≥ 0 ist αf dμ = αf + dμ − αf − dμ = α f + dμ − α f − dμ = α f dμ. Zu (c): Es ist
(−f ) dμ − (−f )− dμ = f − dμ − f + dμ = − f dμ. +
(−f ) dμ =
¨ Der Zusatz ist simpel und verbleibt zur Ubung.
2
Satz 4.10 (Bildmaß). Seien (Ω, A) und (Ω , A ) Messr¨aume, μ ein Maß auf (Ω, A) und X : Ω → Ω messbar. Sei μ = μ ◦ X −1 das Bildmaß von μ unter X und f : Ω → R integrierbar bez¨uglich μ . Dann ist f ◦ X ∈ L1 (μ) und (f ◦ X) dμ = f d(μ ◦ X −1 ). Ist speziell X eine Zufallsvariable auf (Ω, A, P), so ist f (x) P[X ∈ dx] := f (x) PX [dx] = f dPX = f (X(ω)) P[dω]. ¨ Beweis. Ubung!
2
Beispiel 4.11 (Diskreter Maßraum). Sei (Ω, A) ein diskreter Messraum und μ = αω δω f¨ur gewisse Zahlen αω ≥ 0, ω ∈ Ω. Eine Abbildung f : Ω → R ist ω∈Ω |f (ω)| αω < ∞ ist. In diesem Fall gilt genau dann integrierbar, wenn
ω∈Ω
f dμ =
ω∈Ω
f (ω) αω .
3
4.1 Konstruktion und einfache Eigenschaften
93
Definition 4.12 (Lebesgue-Integral). Sei λ das Lebesgue-Maß auf Rn und f : Rn → R messbar bez¨uglich B ∗ (Rn ) – B(R) (wobei B ∗ (Rn ) die Lebesgue’sche σ-Algebra ist, siehe Beispiel 1.71) und λ-integrierbar. Dann nennen wir f dλ das Lebesgue-Integral von f . Ist A ∈ B(Rn ) und f : Rn → R messbar (oder f : A → R messbar bez¨uglich B∗ (Rn ) – B(R) und damit f ½A messbar bez¨uglich A
B∗ (Rn ) – B(R)), so schreiben wir f dλ := f ½A dλ. A
Definition 4.13. Sei μ ein Maß auf (Ω, A) und f : Ω → [0, ∞) messbar. Wir sagen, dass das durch ν(A) := (½A f ) dμ f¨ur A ∈ A definierte Maß f μ := ν die Dichte f bez¨uglich μ hat. Bemerkung 4.14. Wir m¨ussen noch zeigen, dass ν ein Maß ist und pr¨ufen hierzu die Bedingung von Satz 1.36 nach. Offenbar ist ν(∅) = 0. Endliche Additivit¨at folgt aus der Additivit¨at des Integrals (Lemma 4.6(iii)) und Stetigkeit von unten aus dem Satz von der monotonen Konvergenz (Satz 4.20). 3 Satz 4.15. Es ist g ∈ L1 (f μ) genau dann, wenn (gf ) ∈ L1 (μ). In diesem Fall gilt g d(f μ) = (gf ) dμ. Beweis. Die Aussage gilt zun¨achst f¨ur Indikatorfunktionen und wird dann mit den u¨ blichen Argumenten auf Elementarfunktionen, nichtnegative Funktionen sowie schließlich auf messbare Funktionen fortgesetzt. 2 Definition 4.16. F¨ur messbares f : Ω → R definieren wir f p := und
1/p |f | dμ p
,
falls p ∈ [1, ∞),
f ∞ := inf K ≥ 0 : μ({|f | > K}) = 0 .
Ferner definieren wir f¨ur jedes p ∈ [1, ∞] den Vektorraum Lp (μ) := f : Ω → R ist messbar und f p < ∞ .
94
4 Das Integral
Satz 4.17. Die Abbildung · 1 ist eine Pseudonorm auf L1 (μ), das heißt, es gilt f¨ur f, g ∈ L1 (μ) und α ∈ R αf 1 = |α| · f 1 f + g1 ≤ f 1 + g1
(4.4)
f 1 ≥ 0 f¨ur alle f und f 1 = 0,
falls f = 0 f.¨u.
Beweis. Die erste und dritte Aussage folgen aus Satz 4.9(iii) und Satz 4.8(i). Die zweite folgt aus Satz 4.9(i), denn es ist |f + g| ≤ |f | + |g|, also f + g1 = |f + g| dμ ≤ |f | dμ + |g| dμ = f 1 + g1 . 2 Bemerkung 4.18. Tats¨achlich ist · p f¨ur jedes p ∈ [1, ∞] eine Pseudonorm auf Lp (μ). Linearit¨at und Positivit¨at sind klar, und die Dreiecksungleichung ist die Minkowski’sche Ungleichung, die wir in Satz 7.17 zeigen werden. 3
Satz 4.19. Seien μ(Ω) < ∞ und 1 ≤ p ≤ p ≤ ∞. Dann ist Lp (μ) ⊂ Lp (μ), und die kanonische Inklusion i : Lp (μ) → Lp (μ), f → f ist stetig.
Beweis. Sei f ∈ L∞ (μ) und p ∈ [1, ∞). Dann ist |f |p ≤ f p∞ fast u¨ berall, also |f |p dμ ≤ f p∞ dμ = f p∞ · μ(Ω) < ∞.
F¨ur f, g ∈ L∞ (μ) ist also f − gp ≤ μ(Ω)1/p f − g∞ und damit ist i stetig.
Seien nun p, p ∈ [1, ∞) mit p < p sowie f ∈ Lp (μ). Dann ist |f |p ≤ 1 + |f |p , also gilt |f |p dμ ≤ μ(Ω) + |f |p dμ < ∞. Seien schließlich f, g ∈ Lp (μ). F¨ur jedes c > 0 ist
|f − g|p = |f − g|p ½{|f −g|≤c} + |f − g|p ½{|f −g|>c} ≤ cp + cp −p |f − g|p . Speziell erhalten wir mit c = f − gp 1/p f − gp ≤ cp μ(Ω) + cp −p f − gpp = (1 + μ(Ω))1/p f − gp . 2
Also ist i auch in diesem Falle stetig.
¨ Ubung 4.1.1 (Folgenr¨aume). Wir nehmen jetzt nicht mehr an, dass μ(Ω) < ∞ ist. Man zeige: Gibt es ein a > 0, sodass f¨ur jedes A ∈ A entweder μ(A) = 0 oder μ(A) ≥ a gilt, so gilt die zu Satz 4.19 umgekehrte Inklusion
Lp (μ) ⊂ Lp (μ),
falls 1 ≤ p ≤ p ≤ ∞.
(4.5) ♣
4.2 Monotone Konvergenz und Lemma von Fatou
95
¨ Ubung 4.1.2. Sei 1 ≤ p < p ≤ ∞ und μ σ-endlich, aber nicht endlich. Man zeige, p dass L (μ) \ Lp (μ) = ∅. ♣
4.2 Monotone Konvergenz und Lemma von Fatou Unter welchen Bedingungen ist die Vertauschbarkeit von Limes und Integral zul¨assig? Wir geben hier zwei einfache Kriterien f¨ur die Vertauschbarkeit an, die uns wichtige Anwendungen wie Gesetze der großen Zahl (Kapitel 5) erm¨oglichen. Allgemeinere Kriterien werden in Kapitel 6 hergeleitet. Satz 4.20 (Monotone Konvergenz, Satz von Beppo Levi). Seien f1 , f2 , . . . ∈ L1 (μ) und f : Ω → R messbar. Es gelte fn ↑ f f.¨u. f¨ur n → ∞. Dann gilt fn dμ = f dμ, lim n→∞
wobei beide Seiten den Wert +∞ annehmen k¨onnen. Beweis. Sei N ⊂ Ω eine Nullmenge, sodass fn (ω) ↑ f (ω) f¨ur alle ω ∈ N c . Die Funktionen fn := (fn − f1 ) ½N c und f := (f − f1 ) ½N c sind nichtnegativ und 0 n→∞ 0 f dμ. Wegen fn = erf¨ullen fn ↑ f . Nach Lemma 4.6(ii) gilt fn dμ −→ fn + f1 f.¨u. und f = f + f1 f.¨u. folgt nach Satz 4.9(iii) n→∞ f1 dμ + f dμ = f dμ. 2 fn dμ = f1 dμ + fn dμ −→
Satz 4.21 (Lemma von Fatou). Seien f ∈ L1 (μ) und f1 , f2 , . . . messbar mit fn ≥ f f.¨u. f¨ur jedes n ∈ N. Dann gilt lim inf fn dμ ≤ lim inf fn dμ. n→∞
n→∞
Beweis. Indem wir (fn − f )n∈N betrachten, k¨onnen wir annehmen, dass fn ≥ 0 f.¨u. f¨ur jedes n ∈ N. Setze gn := inf fm . m≥n
Dann gilt gn ↑ lim inf fm , also nach dem Satz von der monotonen Konvergenz m→∞ 0 0 (Lemma 4.6(ii)) sowie der Monotonie gn ≤ fn (also gn dμ ≤ fn dμ) 2 lim inf fn dμ = lim gn dμ ≤ lim inf fn dμ. n→∞
n→∞
n→∞
96
4 Das Integral
Beispiel 4.22 (Petersburger Spiel). Wir wollen durch ein Beispiel zeigen, dass auf die Voraussetzung der Existenz einer integrierbaren Minorante im Lemma von Fatou nicht verzichtet werden kann. Wir betrachten ein Gl¨ucksspiel in einem Casino, bei dem in jeder Runde ein vom Spieler gew¨ahlter Einsatz entweder verdoppelt zur¨uckgezahlt wird oder verloren geht. Dies ist etwa beim Roulette der Fall, wo der Spieler zum Beispiel auf Rot“ setzen kann. Kommt eine rote Zahl, so gewinnt der ” Spieler seinen Einsatz verdoppelt zur¨uck, ansonsten verliert er ihn. Es gibt 37 Felder, von denen 18 rot sind, 18 schwarz und eines gr¨un (die Null). Die Gewinnchance soll1 te also p = 18 ucksspiel werde unendlich oft unabh¨angig 37 < 2 betragen. Dieses Gl¨ hintereinander ausgef¨uhrt. Wir k¨onnen es also auf einem Wahrscheinlichkeitsraum (Ω, A, P) realisieren, wobei Ω = {−1, 1}N , A = (2{−1,1} )⊗N die von den Zy⊗N das lindern [ω1 , . . . , ωn ] erzeugte σ-Algebra ist und P = ((1 − p)δ−1 + pδ1 ) Produktmaß. Wir bezeichnen mit Dn : Ω → {−1, 1}, ω → ωn das Ergebnis der n-ten Runde f¨ur jedes n ∈ N. Macht der Spieler in der i-ten Runde den (zuf¨alligen) Einsatz Hi , so betr¨agt die Summe der Gewinne nach der n-ten Runde Sn =
n
Hi Di .
i=1
Wir nehmen nun an, dass der Spieler die folgende Strategie verfolgt: In der ersten Runde ist der Einsatz H1 = 1. Gewinnt er, so setzt er in den folgenden Spielen gar nicht mehr, also ist Hn = 0 f¨ur jedes n ≥ 2, falls D1 = 1. Verliert er hingegen, so setzt er in der zweiten Runde den doppelten Einsatz, also ist H2 = 2, falls D1 = −1. Gibt die zweite Runde einen Gewinn, so setzt er ab der dritten Runde gar nicht mehr, andernfalls verdoppelt er wiederum seinen Einsatz in der dritten Runde und so weiter. Wir erhalten also als Strategie 0, falls es ein i ∈ {1, . . . , n − 1} gibt mit Di = 1, Hn = n−1 , sonst. 2 Man beachte, dass Hn nur von D1 , . . . , Dn−1 abh¨angt, also messbar ist bez¨uglich σ(D1 , . . . , Dn−1 ). Dies ist offenbar ein wichtige Forderung an jede Spielstrategie, da man die Entscheidung u¨ ber den Einsatz aufgrund der vorhandenen Kenntnis zum jeweiligen Zeitpunkt treffen muss und nicht in die Zukunft blicken kann. Die Wahrscheinlichkeit, dass bis zum Zeitpunkt n kein Spiel gewonnen wurde ist (1 − p)n , also ist P[Sn = 1 − 2n ] = (1 − p)n und P[Sn = 1] = 1 − (1 − p)n . Man erwartet also im Mittel einen Gewinn von
n Sn dP = (1 − p)n (1 − 2n ) + (1 − (1 − p)n ) = 1 − 2 (1 − p) ≤ 0, da p ≤
1 2
ist (in den profitablen Spielbanken). Wir setzen nun −∞, falls − 1 = D1 = D2 = . . . , S= 1, sonst.
4.2 Monotone Konvergenz und Lemma von Fatou
97
0 0 n→∞ Dann gilt Sn −→ S f.s., jedoch ist limn→∞ Sn dP < S dP = 1, weil S = 1 fast sicher gilt. Nach dem Lemma von Fatou ist dies nur m¨oglich, wenn es keine integrierbare Minorante zur Folge (Sn )n∈N gibt. Setzen wir S˜ := inf{Sn : n ∈ N}, so gilt in der Tat ) * ) * P S˜ = 1 − 2n−1 = P D1 = . . . = Dn−1 = −1 und Dn = 1 = p(1 − p)n−1 , 0 ∞ also S˜ dP = n=1 (1 − 2n−1 ) p(1 − p)n−1 = −∞, weil p ≤ 12 . 3 1 ¨ Ubung 4.2.1. Sei (Ω, A, μ) ein Maßraum und zeige: Zu jedem 0 f ∈ L (μ). 0 Man ♣ ε > 0 gibt es ein A ∈ A mit μ(A) < ∞ und A f dμ − f dμ < ε.
0 ¨ Ubung 4.2.2. Seien f1 , f2 , . . . ∈ L1 (μ) nichtnegativ und so, dass limn→∞ fn dμ n→∞ existiert. Es gebe ein messbares f mit fn −→ f μ-fast u¨ berall. Man zeige: Es gilt f ∈ L1 (μ) und fn − f dμ = lim lim ♣ fn dμ − f dμ. n→∞
n→∞
¨ Funktion auf Ubung 4.2.3. Sei f ∈ L1 ([0, ∞), λ) eine Lebesgue-integrierbare [0, ∞). Man zeige, dass f¨ur λ-fast alle t ∈ [0, ∞) die Reihe ∞ f n=1 (nt) absolut konvergiert. ♣ ¨ Ubung 4.2.4. Sei λ das Lebesgue-Maß auf R und A eine Borel’sche Menge mit λ(A) < ∞. Man zeige: F¨ur jedes ε > 0 gibt es eine kompakte Menge C ⊂ A, eine abgeschlossene Menge D ⊂ R \ A und eine stetige Abbildung ϕ : R → [0, 1] mit ½C ≤ ϕ ≤ ½R\D , sodass ½A − ϕ1 < ε. Hinweis: Man verwende die Regularit¨at des Lebesgue-Maßes (Bemerkung 1.67).♣ ¨ Ubung 4.2.5. Sei λ das Lebesgue-Maß auf R, p ∈ [1, ∞) und f ∈ Lp (λ). Man zeige: F¨ur jedes ε > 0 existiert eine stetige Funktion h : R → R mit f − hp < ε. ¨ Hinweis: Verwende Ubung 4.2.4 um die Aussage zun¨achst f¨ur Indikatorfunktionen messbarer Mengen zu zeigen, dann f¨ur einfache Funktionen und schließlich f¨ur all♣ gemeines f ∈ Lp (λ). ¨ Ubung 4.2.6. Sei λ das Lebesgue-Maß auf R, p ∈ [1, ∞) und f ∈ Lp (λ). Eine Funktion h : R → R heißt Treppenfunktion, wenn es Zahlen n ∈ N, t0 < t1 < n . . . < tn und α1 , . . . , αn gibt mit h = k=1 αk ½(tk−1 ,tk ] . Man zeige: F¨ur jedes ε > 0 existiert eine Treppenfunktion h mit f − hp < ε. Hinweis: Man zeige die Aussage zun¨achst f¨ur messbare Indikatorfunktionen mit Hilfe des Approximationssatzes f¨ur Maße (Satz 1.65), angewandt auf den Semiring der linksoffenen beschr¨ankten Intervalle. Danach verwende man die Approximati¨ onsargumente wie in Ubung 4.2.5. ♣
98
4 Das Integral
4.3 Lebesgue-Integral versus Riemann-Integral Wir zeigen, dass f¨ur Riemann-integrierbare Funktionen das Lebesgue-Integral und das Riemann-Integral u¨ bereinstimmen. Sei I = [a, b] ⊂ R ein Intervall und λ das Lebesgue-Maß auf I. Ferner betrachten wir Folgen t = (tn )n∈N von Partitionen tn = (tni )i=0,...,n von I, also a = tn0 < tn1 < . . . < tnn = b, die immer feiner werden, das heißt, mit max{tni − tni−1 : i = n→∞ n+1 1, . . . , n} −→ 0. Wir nehmen an, dass N die Partition eine
n ∈n+1
t n f¨ur jedes n+1 n n Verfeinerung von t ist, dass also gilt t0 , . . . , tn ⊂ t0 , . . . , tn+1 . F¨ur jede Funktion f : I → R und jedes n ∈ N definieren wir die n-te Untersumme beziehungsweise Obersumme durch Unt (f ) :=
n
(tni − tni−1 ) inf f [tni−1 , tni ) ,
i=1
Ont (f ) :=
n
(tni − tni−1 ) sup f [tni−1 , tni ) .
i=1
Bekanntlich heißt eine Funktion f : I → R Riemann-integrierbar, wenn es ein t gibt, sodass die Limiten von Obersummen und Untersummen u¨ bereinstimmen und endlich sind. Der Grenzwert h¨angt dann nicht vom gew¨ahlten t ab, und man definiert
b
f (x) dx := lim Unt (f ) = lim Ont (f ) n→∞
a
n→∞
(4.6)
als das Riemann-Integral von f (siehe etwa [150]). Satz 4.23 (Riemann-Integral und Lebesgue-Integral). Sei f : I → R Riemannintegrierbar auf I = [a, b]. Dann ist f Lebesgue-integrierbar auf I mit Integral
f dλ = I
b
f (x) dx. a
Beweis. Sei t so gew¨ahlt, dass (4.6) gilt. Nach Voraussetzung gibt es ein n ∈ N mit |Unt (f )| < ∞ und |Ont (f )| < ∞. Also ist f beschr¨ankt. Indem wir f durch f + f ∞ ersetzen, k¨onnen wir annehmen, dass f ≥ 0 gilt. Setze gn := f (b) ½{b} +
n
(inf f ([tni−1 , tni ))) ½[tni−1 ,tni ) ,
i=1
hn := f (b) ½{b} +
n i=1
(sup f ([tni−1 , tni ))) ½[tni−1 ,tni ) .
4.3 Lebesgue-Integral versus Riemann-Integral
99
Da tn+1 eine Verfeinerung von tn ist, gilt gn ≤ gn+1 ≤ hn+1 ≤ hn . Also existieren g und h mit gn ↑ g und hn ↓ h. Nach Konstruktion gilt g ≤ h und g dλ = lim gn dλ = lim Unt (f ) I
n→∞
I
n→∞
= lim Ont (f ) = lim n→∞
n→∞
hn dλ = I
h dλ. I
Also ist λ-fast u¨ berall h = g. Nach Konstruktion ist g ≤ f ≤ h, und g und h sind als Limiten von Elementarfunktionen messbar bez¨uglich B(I) – B(R). Es folgt, dass f¨ur jedes α ∈ R
{f ≤ α} = {g ≤ α} ∩ {g = h} {f ≤ α} ∩ {g = h} die Vereinigung einer B(I)-Menge mit einer Teilmenge einer Nullmenge ist, also in B(I)∗ (der Lebesgue’schen Vervollst¨andigung von B(I)) liegt. Mithin ist f messbar bez¨uglich B(I)∗ . Nach dem Satz u¨ ber monotone Konvergenz (Satz 4.20) ist
f dλ = lim I
n→∞
gn dλ =
I
b
f (x) dx.
2
a
Beispiel 4.24. Sei f : [0, 1] → R, x → ½Q . Dann ist f offenbar nicht Riemannintegrierbar, weil Un (f ) = 0 und 0On (f ) = 1 f¨ur jedes n ∈ N. Andererseits ist f Lebesgue-integrierbar mit Integral [0,1] f dλ = 0, denn Q ∩ [0, 1] ist eine Nullmenge. 3 Bemerkung 4.25. Eine uneigentlich Riemann-integrierbare Funktion f auf einem halboffenen Intervall I = (a, b] oder I = [0, ∞) ist nicht notwendigerweise auch 0∞ Lebesgue-integrierbar. Hier wird n¨amlich das uneigentliche Integral 0 f (x) dx := 0n limn→∞ 0 f (x) dx durch eine Grenzwertprozedur definiert, die R¨ucksicht auf die Geometrie von R nimmt. Dies tut das Lebesgue-Integral nicht. So ist die Funktion 1 sin(x) (uneigentlich) Riemann-integrierbar, jedoch nicht f : [0, ∞) → R, x → 1+x 0 Lebesgue-integrierbar, weil [0,∞) |f | dλ = ∞ ist. 3 Wir haben schon gesehen, dass uneigentlich Riemann-integrierbare Funktionen nicht notwendigerweise auch Lebesgue-integrierbar sind. Andererseits gibt es Lebesgue-integrierbare Funktionen, die nicht Riemann-integrierbar sind (wie etwa ½Q ). Geometrisch l¨asst sich dies so interpretieren, dass das Riemann-Integral die Geometrie des Integrationsbereiches respektiert, indem es als Grenzwert von Fl¨achen schmaler senkrechter Streifen entsteht, w¨ahrend das Lebesgue-Integral als Grenzwert mit flachen waagerechten Streifen gedacht werden kann. Insbesondere macht dieses Integral gar keine Annahmen an den Definitionsbereich des Integranden, weshalb es eben universeller einsetzbar ist. Um dies zu unterstreichen, bringen wir einen Satz, der uns auch ansonsten noch n¨utzlich sein wird.
100
4 Das Integral
Satz 4.26. Sei f : Ω → R messbar und f ≥ 0 fast u¨ berall. Dann gelten ∞
μ({f ≥ n}) ≤
∞
f dμ ≤
n=1
(4.7)
μ({f > n})
n=0
und
∞
f dμ =
μ({f ≥ t}) dt.
(4.8)
0 Setze 0Beweis. 0 f =0 f und f = f . Dann ist f ≤ f ≤ f und deshalb f dμ ≤ f dμ ≤ f dμ. Nun ist
f dμ =
∞
μ({f = k}) · k =
k=1
= =
k ∞
μ({f = k})
k=1 n=1 ∞ ∞
μ({f = k})
n=1 k=n ∞
∞
n=1
n=1
μ({f ≥ n}) =
μ({f ≥ n}).
Analog ist
f dμ =
∞
μ({f ≥ n}) =
n=1
∞
μ({f > n − 1}).
n=1
Hieraus folgt (4.7). Gilt g(t) := μ({f ≥ t}) = ∞ f¨ur ein t > 0, so sind beide Seiten in (4.8) gleich ∞. Sei im Folgenden also g(t) < ∞ f¨ur alle t > 0. F¨ur ε > 0 und k ∈ N setze f ε := f ½{f ≥ε} sowie fkε = 2k f ε und αkε
:= 2
−k
∞
μ({f ε ≥ n2−k }).
n=1 k→∞
Dann gilt αkε −→
0∞
g(t) dt. Ferner gilt nach (4.7) (mit fkε statt f ) ∞ μ({fkε ≥ n}) ≤ f ε dμ αkε = 2−k ε
n=1
≤ 2−k
∞
μ({fkε > n}) = 2−k
n=0
∞
μ({f ε > n2−k }) ≤ αkε + 2−k g(ε).
n=0
0∞
0 k→∞ Wegen 2−k g(ε) −→ 0 folgt ε g(t) dt = f ε dμ. Wegen f ε ↑ f f¨ur ε ↓ 0 folgt (4.8) aus dem Satz u¨ ber monotone Konvergenz. 2
4.3 Lebesgue-Integral versus Riemann-Integral
101
¨ Ubung 4.3.1. Sei f : [0, 1] → R beschr¨ankt. Zeige: f ist genau dann (eigentlich) Riemann-integrierbar, wenn f λ-f.¨u. stetig ist. ♣ ¨ Ubung 4.3.2. Ist f : [0, 1] → R Riemann-integrierbar, so ist f Lebesgue-messbar. Man zeige durch ein Beispiel, dass f nicht Borel-messbar sein muss. (Hinweis: Man verwende ohne Beweis die Existenz einer Teilmenge von [0, 1], die nicht Borelmessbar ist und konstruiere hieraus eine nicht-Borel’sche Menge, deren Abschluss eine Nullmenge ist.) ♣
5 Momente und Gesetze der Großen Zahl
Die wichtigsten Kenngr¨oßen f¨ur Zufallsvariablen sind Median, Erwartungswert und Varianz. Der Erwartungswert beschreibt f¨ur großes n den typischen ungef¨ahren Wert des arithmetischen Mittels (X1 + . . . + Xn )/n von u.i.v. Zufallsvariablen (Gesetz der Großen Zahl). In Kapitel 15 werden wir sehen, wie die Varianz hingegen die typischen Abweichungen des arithmetischen Mittels vom Erwartungswert determiniert.
5.1 Momente Im Folgenden sei (Ω, A, P) ein Wahrscheinlichkeitsraum. Definition 5.1. Sei X eine reelle Zufallsvariable. (i) Ist X ∈ L1 (P), so heißt X integrierbar, und wir nennen E[X] := X dP den Erwartungswert von X. Ist E[X] 0 = 0, so heißt X zentriert. Etwas allgemeiner schreiben wir auch E[X] = X dP, falls nur X − oder X + integrierbar ist. (ii) Ist n ∈ N und X ∈ Ln (P), so heißen die Gr¨oßen ) * ) * mk := E X k , Mk := E |X|k f¨ur jedes k = 1, . . . , n, die k-ten Momente beziehungsweise absoluten Momente von X. (iii) Ist X ∈ L2 (P), so heißt X quadratintegrierbar, und wir nennen ) * Var[X] := E X 2 − E[X]2 √ die Varianz von X. Die Zahl σ := Var[X] heißt die Streuung oder Standardabweichung von X. Formal setzen wir manchmal Var[X] = ∞, falls E[X 2 ] = ∞ ist.
104
5 Momente und Gesetze der Großen Zahl
(iv) Sind X, Y ∈ L2 (P), so definieren wir die Kovarianz von X und Y durch ) * Cov[X, Y ] := E X − E[X] Y − E[Y ] . X und Y heißen unkorreliert, falls Cov[X, Y ] = 0 ist. Bemerkung 5.2. (i) Die Definition in (ii) ist sinnvoll, denn f¨ur X ∈ Ln (P) ist nach Satz 4.19 Mk < ∞ f¨ur jedes k = 1, . . . , n. (ii) Sind X, Y ∈ L2 (P), so ist wegen |XY | ≤ X 2 + Y 2 auch XY ∈ L1 (P). Deshalb ist die Definition in (iv) sinnvoll, und es gilt Cov[X, Y ] = E[XY ] − E[X] E[Y ]. Speziell ist Var[X] = Cov[X, X].
3
Wir fassen die wichtigsten Rechenregeln f¨ur Erwartungswerte als Satz zusammen. Alle aufgef¨uhrten Eigenschaften folgen direkt aus den Eigenschaften des Integrals. ¨ den Erwartungswert). Seien X, Y, Xn , Zn , n ∈ N, Satz 5.3 (Rechenregeln fur reelle integrierbare Zufallsvariablen auf (Ω, A, P). Dann gilt (i) Ist PX = PY , so ist E[X] = E[Y ]. (ii) (Linearit¨at) Sei c ∈ R. Dann gelten cX ∈ L1 (P) und X + Y ∈ L1 (P) sowie E[cX] = cE[X]
und
E[X + Y ] = E[X] + E[Y ].
(iii) Ist X ≥ 0 fast sicher, so gilt E[X] = 0
⇐⇒
X = 0 fast sicher.
(iv) (Monotonie) Gilt X ≤ Y fast sicher, so gilt E[X] ≤ E[Y ] mit Gleichheit genau dann, wenn X = Y fast sicher. ) * (v) (Dreiecksungleichung) Es ist E[X] ≤ E |X| . ' ( ∞ ∞ Xn = E[Xn ]. (vi) Ist Xn ≥ 0 fast sicher f¨ur jedes n ∈ N, so ist E n=1
n=1
(vii) Gilt Zn ↑ Z f¨ur ein Z, so gilt E[Z] = lim E[Zn ] ∈ (−∞, ∞]. n→∞
Die Wahrscheinlichkeitstheorie beginnt wieder an der Stelle, wo die Unabh¨angigkeit ins Spiel kommt, wir also den Bereich der linearen Integrationstheorie verlassen. Satz 5.4 (Unabh¨angige Zufallsvariablen sind unkorreliert). Seien X, Y ∈ L1 (P) unabh¨angig. Dann ist (X Y ) ∈ L1 (P) und E[XY ] = E[X] E[Y ]. Speziell sind unabh¨angige Zufallsvariablen unkorreliert.
5.1 Momente
105
Beweis. Wir nehmen zun¨achst an, dass X und Y nur endlich viele Werte annehmen. Dann nimmt auch XY nur endlich viele Werte an, speziell ist offenbar XY ∈ L1 (P). Es folgt E[XY ] = z P[XY = z] z∈R\{0}
=
x
z∈R\{0} x∈R\{0}
=
z P[X = x, Y = z/x] x
xy P[X = x] P[Y = y]
y∈R\{0} x∈R\{0}
=
x P[X = x] y P[Y = y]
x∈R
y∈R
= E[X] E[Y ].
−N 4 N 5 2 F¨ u r N ∈ N sind auch die Zufallsvariablen X := 2 |X| ∧ N und YN := N
−N 4 N 5 2 2 |Y | ∧ N , die nur endlich viele Werte annehmen, unabh¨angig, und es gilt XN ↑ |X| sowie YN ↑ |Y |. Nach dem Satz von der monotonen Konvergenz (Satz 4.20) ist daher E[|XY |] = lim E[XN YN ] = lim E[XN ] E[YN ] N →∞ N →∞ = lim E[XN ] lim E[YN ] = E[|X|] E[|Y |] < ∞. N →∞
N →∞
Also ist XY ∈ L (P). Außerdem haben wir damit den Satz gezeigt f¨ur den Fall, wo X und Y nichtnegativ sind. Daher (und weil jede der Familien {X + , Y + }, {X − , Y + }, {X + , Y − } und {X − , Y − } unabh¨angig ist) gilt 1
E[XY ] = E[(X + − X − )(Y + − Y − )] = E[X + Y + ] − E[X − Y + ] − E[X + Y − ] + E[X − Y − ] = E[X + ] E[Y + ] − E[X − ] E[Y + ] − E[X + ] E[Y − ] + E[X − ] E[Y − ] = E[X + − X − ] E[Y + − Y − ] = E[X] E[Y ].
2
Satz 5.5 (Wald’sche Identit¨at). Seien T, X1 , X2 , . . . unabh¨angige, reelle Zufallsvariablen in L1 (P). Es sei P[T ∈ N0 ] = 1, und es seien X1 , X2 , . . . identisch verteilt. Wir setzen T ST := Xi . i=1
Dann ist ST ∈ L (P) und E[ST ] = E[T ] E[X1 ]. 1
n ∞ ur n ∈ N0 . Dann ist ST = Beweis. Setze Sn = i=1 Xi f¨ n=1 Sn ½{T =n} . Nach Bemerkung 2.15 sind Sn und ½{T =n} unabh¨angig f¨ur jedes n ∈ N und damit unkorreliert. Es folgt (mit Hilfe der Dreiecksungleichung, siehe Satz 5.3(v))
106
5 Momente und Gesetze der Großen Zahl ∞ ∞ * * ) * ) ) * ) E |ST | = E |Sn | ½{T =n} = E |Sn | E ½{T =n}
≤
n=1 ∞
n=1
) * E |X1 | n P[T = n] = E[|X1 |] E[T ].
n=1
2
Die selbe Rechnung ohne Betragstriche liefert den Rest der Behauptung. Wir stellen hier ein paar einfache Eigenschaften der Varianz zusammen. Satz 5.6. Sei X ∈ L2 (P). Dann gilt: * ) (i) Var[X] = E (X − E[X])2 ≥ 0.
(ii) Var[X] = 0 ⇐⇒ X = E[X] fast sicher. ) * (iii) Die Abbildung f : R → R, x → E (X −x)2 ist minimal genau in x0 = E[X] mit f (E[X]) = Var[X]. Beweis. (i) Klar nach Bemerkung 5.2(ii). ) * (ii) Nach Satz 5.3(iii) ist E (X − E[X])2 = 0 ⇐⇒ (X − E[X])2 = 0 f.s. (iii) Es ist f (x) = E[X 2 ] − 2x E[X] + x2 = Var[X] + (x − E[X])2 .
2
Satz 5.7. Die Abbildung Cov : L2 (P) × L2 (P) → R ist eine positiv semidefinite symmetrische Bilinearform, und es gilt Cov[X, Y ] = 0, falls Y fast sicher konstant ist. Ausgeschrieben heißt dies: F¨ur X1 , . . ., Xm , Y1 , . . ., Yn ∈ L2 (P) und α1 , . . . , αm , β1 , . . . , βn ∈ R sowie d, e ∈ R gilt ⎤ ⎡ m n αi Xi , e + βj Yj ⎦ = αi βj Cov[Xi , Yj ]. (5.1) Cov ⎣d + i=1
j=1
i,j
Speziell gilt die Bienaym´e-Gleichung -m . m m Var Xi = Var[Xi ] + Cov[Xi , Xj ]. i=1
i=1
i,j=1 i =j
m m F¨ur unkorrelierte X1 , . . . , Xm gilt Var [ i=1 Xi ] = i=1 Var[Xi ].
(5.2)
5.1 Momente
107
Beweis. + Cov d +
m
n
αi Xi , e +
i=1
, βj Yj
j=1
+ , m n =E αi (Xi − E[Xi ]) βj (Yj − E[Yj ]) i=1
=
n m
j=1
) * αi βj E (Xi − E[Xi ])(Yj − E[Yj ])
i=1 j=1
=
n m
αi βj Cov[Xi , Yj ].
2
i=1 j=1
Satz 5.8 (Cauchy-Schwarz’sche Ungleichung). Sind X, Y ∈ L2 (P), so gilt
2 Cov[X, Y ] ≤ Var[X] Var[Y ]. Es gilt genau dann Gleichheit, wenn es a, b, c ∈ R gibt mit |a| + |b| + |c| > 0 und aX + bY + c = 0 fast sicher. Beweis. Die Cauchy-Schwarz’sche Ungleichung gilt f¨ur jede positiv semidefinite Bilinearform, also insbesondere f¨ur die Kovarianz. In der Notation von Varianz und Kovarianz sieht der Beweis so aus: 1. Fall: Var[Y ] = 0. und c = 0).
Hier ist die Aussage trivialerweise richtig (mit a = 0, b = 1
2. Fall: Var[Y ] > 0.
] Sei θ := − Cov[X,Y Var[Y ] . Dann ist nach Satz 5.6(i)
0 ≤ Var[X + θY ] Var[Y ] =
Var[X] + 2θ Cov[X, Y ] + θ2 Var[Y ] Var[Y ]
= Var[X] Var[Y ] − Cov[X, Y ]2 mit Gleichheit genau dann, wenn X + θY fast sicher konstant ist. W¨ahle nun a = 1 und b = θ sowie c = −E[X] − b E[Y ]. 2 Beispiel 5.9. (i) Es sei p ∈ [0, 1] und X ∼ Berp . Dann ist E[X 2 ] = E[X] = P[X = 1] = p und damit Var[X] = p(1 − p). (ii) Seien n ∈ N und p ∈ [0, 1] sowie X binomialverteilt X ∼ bn,p . Dann ist
108
5 Momente und Gesetze der Großen Zahl
E[X] =
n
kP[X = k] =
k=0
n n k k p (1 − p)n−k k k=0
= np ·
n n−1 k=1
k−1
pk−1 (1 − p)(n−1)−(k−1) = np.
Ferner ist E[X(X − 1)] =
n
k(k − 1) P[X = k]
k=0
=
n k=0
= np ·
n k p (1 − p)n−k k(k − 1) k n k=1
n − 1 k−1 p (k − 1) (1 − p)(n−1)−(k−1) k−1
= n(n − 1)p · 2
n n−2 k=2
k−2
pk−2 (1 − p)(n−2)−(k−2)
= n(n − 1)p2 . Also ist E[X 2 ] = E[X(X − 1)] + E[X] = n2 p2 + np(1 − p) und damit Var[X] = np(1 − p). Etwas einfacher als durch die direkte Berechnung sehen wir dies ein, indem wir bemerken (siehe nach Beispiel 3.4(ii)), dass bn,p = b∗n 1,p . Das heißt, es gilt (siehe Satz 2.31) PX = PY1 +...+Yn , wo Y1 , . . . , Yn unabh¨angig sind und Yi ∼ Berp f¨ur jedes i = 1, . . . , n. Es folgt E[X] = n E[Y1 ] = np, Var[X] = n Var[Y1 ] = np(1 − p).
(5.3)
(iii) Seien μ ∈ R und σ 2 > 0 sowie X normalverteilt X ∼ Nμ,σ2 . Dann ist ∞ 2 2 1 E[X] = √ x e−(x−μ) /(2σ ) dx 2 2πσ −∞ ∞ 2 2 1 (x + μ) e−x /(2σ ) dx = √ (5.4) 2 2πσ −∞ ∞ 2 2 1 = μ+ √ x e−x /(2σ ) dx = μ. 2πσ2 −∞ ¨ Ahnlich folgt Var[X] = E[X 2 ] − μ2 = . . . = σ 2 .
5.1 Momente
109
Sei θ > 0 und X exponentialverteilt X ∼ expθ . Dann ist ∞ 1 E[X] = θ x e−θx dx = , θ 0 ∞ ∞ −2 2 −θx −2 2 −x Var[X] = −θ + θ −1 + x e dx = θ x e dx = θ−2 . 3
(iv)
0
0
Satz 5.10 (Blackwell-Girshick). Seien T, X1 , X2 , . . . unabh¨angige, reelle Zufallsvariablen in L2 (P). Es sei P[T ∈ N0 ] = 1, und es seien X1 , X2 , . . . identisch verteilt. Wir setzen T ST := Xi . i=1
Dann ist ST ∈ L (P) und 2
Var[ST ] = E[X1 ]2 Var[T ] + E[T ] Var[X1 ]. Beweis. Wir setzen Sn = ni=1 Xi f¨ur n ∈ N. Dann sind (wie beim Beweis der Wald’schen Identit¨at) Sn und ½{T =n} unabh¨angig, also Sn2 und ½{T =n} unkorreliert und damit ∞ ) * * ) E ST2 = E ½{T =n} Sn2
= = =
n=0 ∞ n=0 ∞ n=0 ∞
) * E[½{T =n} ] E Sn2
P[T = n] Var[Sn ] + E[Sn ]2 P[T = n] n Var[X1 ] + n2 E[X1 ]2
n=0
) * = E[T ] Var[X1 ] + E T 2 E[X1 ]2 . Nach der Wald’schen Identit¨at (Satz 5.5) ist E[ST ] = E[T ] E[X1 ], also ist ) *
) * Var[ST ] = E ST2 − E[ST ]2 = E[T ] Var[X1 ] + E T 2 − E[T ]2 E[X1 ]2 . 2
Dies ist aber die Behauptung.
¨ Ubung 5.1.1. Man zeige (mit Satz 4.15): Ist X eine integrierbare reelle Zufallsvariable, deren Verteilung PX die Dichte f (bez¨uglich des Lebesgue-Maßes λ) besitzt, so gilt E[X] =
xf (x) λ(dx). R
♣
110
5 Momente und Gesetze der Großen Zahl
¨ Ubung 5.1.2. Sei X ∼ βr,s eine Beta-verteilte Zufallsvariable mit Parametern r, s > 0 (vergleiche Beispiel 1.107(ii)). Man zeige E[X n ] =
n−1 k=0
r+k r+s+k
f¨ur jedes n ∈ N.
♣
¨ Ubung 5.1.3. Es seien X1 , X2 , . . . u.i.v. nichtnegative Zufallsvariablen. Man zeige mit Hilfe des Lemmas von Borel-Cantelli: 0 f.s., falls E[X1 ] < ∞, 1 ♣ lim sup Xn = n→∞ n ∞ f.s., falls E[X1 ] = ∞. ¨ Ubung 5.1.4. Es seien X1 , X2 , . . . u.i.v. nichtnegative Zufallsvariablen. Man zeige mit Hilfe des Lemmas von Borel-Cantelli: F¨ur jedes c ∈ (0, 1) gilt ∞ < ∞ f.s., falls E[X1 ] < ∞, Xn n ♣ e c lim sup n→∞ = ∞ f.s., falls E[X1 ] = ∞. n=1
5.2 Schwaches Gesetz der Großen Zahl Satz 5.11 (Markov’sche Ungleichung, Chebyshev’sche Ungleichung). Sei X eine Zufallsvariable und f : [0, ∞) → [0, ∞) monoton wachsend. Dann gilt f¨ur jedes ε > 0 mit f (ε) > 0 die Markov’sche Ungleichung ) * E[f (|X|)] . P |X| ≥ ε ≤ f (ε) ) * ) * Im Spezialfall f (x) = x2 erhalten wir P |X| ≥ ε ≤ ε−2 E X 2 und, falls X ∈ L2 (P), insbesondere die Chebyshev’sche Ungleichung ) * P |X − E[X]| ≥ ε ≤ ε−2 Var[X]. Beweis. Es gilt ) * E[f (|X|)] ≥ E f (|X|) ½{f (|X|)≥f (ε)} * ) ≥ E f (ε) ½{f (|X|)≥f (ε)} ) * ≥ f (ε) P |X| ≥ ε .
2
5.2 Schwaches Gesetz der Großen Zahl
111
Definition 5.12. Sei (Xn )n∈N eine Folge reeller Zufallsvariablen in L1 (P) und n S n = i=1 (Xi − E[Xi ]). (i) Wir sagen, (Xn )n∈N gen¨uge dem schwachen Gesetz der großen Zahl, falls , + 1 lim P Sn > ε = 0 f¨ur jedes ε > 0. n→∞ n (ii) Wir sagen, (Xn )n∈N gen¨uge dem starken Gesetz der großen Zahl, falls , + 1 P lim sup S n = 0 = 1. n n→∞ Bemerkung 5.13. impliziert Das starke Gesetz dergroßen Zahl das schwache. Ist 1 1 ε n¨amlich An := n Sn > ε und A = lim sup n Sn > 0 , so gilt offenbar
A= '
m∈N
(
n→∞
lim sup A1/m , n n→∞
also P lim sup Aεn = 0 f¨ur ε > 0. Nach dem Lemma von Fatou (Satz 4.21) ist n→∞
* ) lim sup P [Aεn ] = 1 − lim inf E ½(Aεn )c n→∞
n→∞
'
≤ 1 − E lim inf ½(Aεn )c n→∞
(
, + = E lim sup ½Aεn = 0. n→∞
2
Satz 5.14. Seien X1 , X2 , . . . unkorrelierte Zufallsvariablen in L2 (P) mit V := supn∈N Var[Xn ] < ∞. Dann gen¨ugt (Xn )n∈N dem schwachen Gesetz der großen Zahl. Es gilt sogar f¨ur jedes ε > 0 + , 1 V P Sn ≥ ε ≤ 2 f¨ur jedes n ∈ N. (5.5) n ε n Beweis. Ohne Einschr¨ankung sei E[Xi ] = 0 f¨ur jedes i ∈ N und damit Sn = X1 + · · · + Xn . Nach der Formel von Bienaym´e (Satz 5.7) ist , + n V 1 Sn = n−2 Var [Xi ] ≤ . Var n n i=1 Nach der Chebyshev’schen Ungleichung (Satz 5.11) gilt f¨ur ε > 0 ) * V n→∞ P |S n /n| ≥ ε ≤ 2 −→ 0. ε n
2
112
5 Momente und Gesetze der Großen Zahl
Beispiel 5.15 (Weierstraß’scher Approximationssatz). Sei f : [0, 1] → R eine stetige Abbildung. Nach dem Weierstraß’schen Approximationssatz existieren Polynome fn vom Grad h¨ochstens n, sodass n→∞
fn − f ∞ −→ 0, wobei f ∞ := sup{|f (x)| : x ∈ [0, 1]} die Supremumsnorm von f ∈ C([0, 1]) bezeichnet. Wir f¨uhren hier einen probabilistischen Beweis dieser Aussage vor. F¨ur n ∈ N sei das Polynom fn definiert durch fn (x) :=
n
f (k/n)
k=0
n k x (1 − x)n−k k
f¨ur x ∈ [0, 1].
Dieses Polynom heißt Bernstein-Polynom der Ordnung n. Sei ε > 0 fest gew¨ahlt. Da f auf [0, 1] stetig ist, ist f sogar gleichm¨aßig stetig. Es existiert also ein δ > 0, sodass |f (x) − f (y)| < ε
f¨ur alle x, y ∈ [0, 1] mit |x − y| < δ.
Sei nun p ∈ [0, 1] fest gew¨ahlt, und seien X1 , X2 , . . . unabh¨angige Zufallsvariablen mit Xi ∼ Berp , i ∈ N. Dann ist Sn := X1 + . . . + Xn ∼ bn,p und deshalb E[f (Sn /n)] =
n
f (k/n) P[Sn = k] = fn (p).
k=0
Wir erhalten |f (Sn /n) − f (p)| ≤ ε + 2f ∞ ½{|(Sn /n)−p|≥δ} und daher (nach Satz 5.14 mit V = p(1 − p) ≤ 14 ) |fn (p) − f (p)| ≤ E[|f (Sn /n) − f (p)|] , + Sn − p ≥ δ ≤ ε + 2f ∞ P n ≤ ε+
f ∞ , 2 δ2 n n→∞
f¨ur jedes p ∈ [0, 1]. Also gilt fn − f ∞ −→ 0.
3
¨ Ubung 5.2.1 (Bernstein-Chernov Absch¨atzung). Seien n ∈ N und p1 , . . . , pn ∈ [0, 1] sowie X1 , . . . , Xn unabh¨angige Zufallsvariablen mit Xi = Berpi f¨ur jedes i = 1, . . . , n. Setze Sn = X1 + . . . + Xn und m := E[Sn ]. Man zeige, dass f¨ur jedes δ > 0 die beiden folgenden Absch¨atzungen gelten
5.3 Starkes Gesetz der Großen Zahl
) * P Sn ≥ (1 + δ)m ≤ und
eδ (1 + δ)1+δ
113
m
2 ) * δ m . P Sn ≤ (1 − δ)m ≤ exp − 2
Hinweis: Verwende f¨ur Sn die Markov’sche Ungleichung mit f (x) = eλx f¨ur gewisses λ > 0 und finde dasjenige λ, das die Absch¨atzung optimiert. ♣
5.3 Starkes Gesetz der Großen Zahl Wir kommen nun zu einem starken Gesetz der großen Zahl, n¨amlich dem in der Form von Etemadi f¨ur identisch verteilte, paarweise unabh¨angige Zufallsvariablen. Es gibt viele verschiedene Formen von starken Gesetzen der großen Zahl, die unterschiedliche Voraussetzungen machen. So kann man darauf verzichten, dass die Zufallsvariablen identisch verteilt sind, wenn man st¨arkere Annahmen, etwa beschr¨ankte Varianzen, macht und so weiter. Wir werden hier nicht bis in alle Tiefen gehen, sondern nur exemplarisch ein paar Aussagen vorstellen. Um die Methode f¨ur den Beweis des Satzes von Etemadi zu illustrieren, stellen wir zun¨achst ein Starkes Gesetz der großen Zahl unter st¨arkeren Annahmen vor. Satz 5.16. Sind X1 , X2 , . . . ∈ L2 (P) paarweise unabh¨angig (das heißt, Xi und Xj sind unabh¨angig f¨ur alle i, j ∈ N mit i = j) und identisch verteilt, so gen¨ugt (Xn )n∈N dem starken Gesetz der großen Zahl. Beweis. Es sind (Xn+ )n∈N und (Xn− )n∈N wieder paarweise unabh¨angige Familien quadratintegrierbarer Zufallsvariablen (vergleiche Bemerkung 2.15(ii)). Es reicht daher, (Xn+ )n∈N zu betrachten. Wir nehmen also im Folgenden an, dass Xn ≥ 0 ist fast sicher f¨ur jedes n ∈ N. Sei Sn = X1 + . . . + Xn f¨ur n ∈ N. W¨ahle ε > 0. F¨ur jedes n ∈ N setzen wir kn = (1 + ε)n ≥ 12 (1 + ε)n . Dann ist nach der Chebyshev’schen Ungleichung (Satz 5.11) + , ∞ ∞ Skn ) * −n/4 P − E[X1 ] ≥ (1 + ε) (1 + ε)n/2 Var kn−1 Skn ≤ kn n=1 n=1 =
∞
(1 + ε)n/2 kn−1 Var[X1 ]
n=1
≤ 2 Var[X1 ]
∞
(1 + ε)−n/2 < ∞.
n=1
(5.6)
114
5 Momente und Gesetze der Großen Zahl
Nach dem Lemma von Borel-Cantelli gibt es daher f¨ur P-f.a. ω ein n0 = n0 (ω) mit Skn −n/4 f¨ur jedes n ≥ n0 . kn − E[X1 ] < (1 + ε) Also gilt
lim sup kn−1 Skn − E[X1 ] = 0
fast sicher.
n→∞
F¨ur hinreichend großes n ∈ N ist kn+1 ≤ (1 + 2ε)kn . F¨ur l ∈ {kn , . . . , kn+1 } ist dann 1 −1 −1 k −1 Skn ≤ kn+1 Skn ≤ l−1 Sl ≤ kn−1 Skn+1 ≤ (1 + 2ε) kn+1 Skn+1 . 1 + 2ε n Wegen 1 − (1 + 2ε)−1 ≤ 2ε folgt lim sup l−1 Sl − E[X1 ] ≤ lim sup kn−1 Skn − E[X1 ] + 2ε lim sup kn−1 Skn n→∞
l→∞
n→∞
≤ 2ε E[X1 ] fast sicher, 2
und damit gilt das starke Gesetz der großen Zahl.
¨ Die Ahnlichkeit der Varianzabsch¨atzungen im schwachen Gesetz der großen Zahl und in (5.6) legen nahe, dass im vorangehenden Satz auf die Bedingung verzichtet werden kann, dass die Zufallsvariablen X1 , X2 , . . . identisch verteilt sind, wenn ¨ man nur fordert, dass die Varianzen beschr¨ankt sind (siehe Ubung 5.3.1). Wir k¨onnen die Bedingung in Satz 5.16 in anderer Weise abschw¨achen, indem wir nur Integrierbarkeit statt Quadratintegrierbarkeit der Zufallsvariablen fordern. Satz 5.17 (Starkes Gesetz der großen Zahl von Etemadi (1981)). Es seien X1 , X2 , . . . ∈ L1 (P) paarweise unabh¨angig und identisch verteilt. Dann gen¨ugt (Xn )n∈N dem starken Gesetz der großen Zahl. Wir folgen der Darstellung in [41]. Setze im Folgenden μ = E[X1 ] und Sn = X1 + . . . + Xn . Zur Vorbereitung des Beweises stellen wir ein paar Lemmata bereit. Lemma 5.18. F¨ur n ∈ N seien Yn := Xn ½{|Xn |≤n} und Tn = Y1 + · · · + Yn . Die n→∞ Folge (Xn )n∈N erf¨ullt das starke Gesetz der großen Zahl, falls Tn /n −→ μ f.s. Beweis. Nach Satz 4.26 ist
∞
) * ) * P |Xn | > n ≤ E |X1 | < ∞. Nach dem Lemma
n=1
von Borel-Cantelli ist daher * ) P Xn = Yn f¨ur unendlich viele n = 0. Es gibt also ein n0 = n0 (ω) mit Xn = Yn f¨ur jedes n ≥ n0 . Daher gilt f¨ur n ≥ n0 T n − Sn Tn0 − Sn0 = n n
n→∞
−→ 0.
2
5.3 Starkes Gesetz der Großen Zahl
Lemma 5.19. F¨ur jedes x ≥ 0 ist 2x
115
n−2 ≤ 4.
n>x
Beweis. F¨ur m ∈ N ist nach dem Integralvergleichskriterium ∞
−2
n
−2
≤ m
∞
+
t−2 dt = m−2 + m−1 ≤
m
n=m
2 . m
2
) * ∞ E Yn2 ≤ 4 E[|X1 |]. Lemma 5.20. Es gilt n2 n=1 ) * * 0∞ ) Beweis. Nach Satz 4.26 ist E Yn2 = 0 P Yn2 > t dt. Mit der Substitution √ x = t erhalten wir n ∞ ) 2* 2x P[|Yn | > x] dx ≤ 2x P[|X1 | > x] dx. E Yn = 0
0
Nach dem Satz u¨ ber monotone Konvergenz und Lemma 5.19 gilt f¨ur m → ∞ m −2 fm (x) = n ½{x
x] ↑ f (x) ≤ 4 P[|X1 | > x]. n=1
Wir k¨onnen also Summation und Integral vertauschen und erhalten ) * ∞ ∞ ∞ E Yn2 −2 ≤ n ½{x x] dx n2 0 n=1 n=1
∞
= 0
∞
n
−2
½{x x] dx
n=1
≤ 4
∞
P[|X1 | > x] dx = 4 E[|X1 |].
2
0
Beweis von Satz 5.17. Wie im Beweis von Satz 5.16 reicht es, den Fall Xn ≥ 0 zu betrachten. W¨ahle ε > 0 und setze α = 1 + ε. F¨ur n ∈ N setzen wir kn = αn und haben speziell kn ≥ αn /2. Es ist also f¨ur m ∈ N (mit n0 = log m/ log α) n: kn ≥m
kn−2 ≤ 4
∞
α−2n = 4 α−2n0 (1 − α−2 )−1 ≤ 4(1 − α−2 )−1 m−2 . (5.7)
n=n0
Unser Ziel ist es, mit Hilfe von Lemma 5.20 die Absch¨atzung (5.6) f¨ur (Yn )n∈N und (Tn )n∈N zu verfeinern. Die Chebyshev’sche Ungleichung liefert (zusammen mit (5.7)) wiederum f¨ur δ > 0
116
5 Momente und Gesetze der Großen Zahl
∞ ∞ ) ) * * Var [Tkn ] P Tkn − E Tkn > δ kn ≤ δ −2 kn2 n=1 n=1
= δ −2
∞
kn−2
n=1
kn
Var[Ym ] = δ −2
m=1
−2 −1
≤ 4(1 − α
)
δ
−2
∞
Var[Ym ]
m=1 ∞
kn−2
n: kn ≥m
) * m−2 E Ym2 < ∞ nach Lemma 5.20.
m=1
(Im dritten Schritt durften wir die Summationsreihenfolge vertauschen, weil alle Summanden nichtnegativ sind.) Da δ > 0 beliebig war, folgt (mit dem Lemma von Borel-Cantelli) Tkn − E [Tkn ] = 0 fast sicher. (5.8) lim n→∞ kn Nach dem Satz u¨ ber monotone Konvergenz (Satz 4.20) gilt ) * n→∞ E[Yn ] = E X1 ½{X1 ≤n} −→ E[X1 ]. n→∞
n→∞
Also gilt E[Tkn ]/kn −→ E[X1 ] und wegen (5.8) auch Tkn /kn −→ E[X1 ] f.s. Wie im Beweis von Satz 5.16 gilt jetzt auch (weil Yn ≥ 0) lim
l→∞
Tl = E[X1 ] fast sicher. l
Nach Lemma 5.18 folgt hieraus die Behauptung von Satz 5.17.
2
Beispiel 5.21 (Monte Carlo Integration). Betrachte eine Funktion f : [0, 1] → R, 01 deren Integral I := 0 f (x) dx numerisch bestimmt werden soll. Wir nehmen an, dass uns der Computer Zahlen X1 , X2 , . . . generiert, die wir als unabh¨angige Zufallszahlen auffassen k¨onnen, die auf [0, 1] gleichverteilt sind. F¨ur n ∈ N definieren wir den Sch¨atzwert n 1 f (Xi ). I:n := n i=1
Unter der Annahme, dass f ∈ L ([0, 1]) ist, liefert das starke Gesetz der großen n→∞ Zahl I:n −→ I fast sicher. 1
Allerdings haben wir im letzten Satz keine Aussage zur Geschwindigkeit der Konvergenz, also zur Gr¨oße P[|I:n − I| > ε] bekommen. Um genauere Sch¨atzungen f¨ur das Integral zu bekommen, ben¨otigen wir zus¨atzliche Information, etwa den Wert 0 V1 := f 2 (x) dx − I 2 , falls f ∈ L2 ([0, 1]) ist. (F¨ur beschr¨anktes f etwa l¨asst sich V1 leicht nach oben absch¨atzen.) Dann ist n¨amlich Var[I:n ] = V1 /n, also ist nach der Chebyshev’schen Ungleichung ' ( P |I:n − I| > ε n−1/2 ≤ V1 /ε2 .
5.3 Starkes Gesetz der Großen Zahl
117
Der Fehler ist mithin maximal von der Gr¨oßenordnung n−1/2 . Der Zentrale Grenzwertsatz wird uns zeigen, dass der Fehler exakt von dieser Ordnung ist. Wenn u¨ ber f minimale Glattheitseigenschaften bekannt sind, so liefern die g¨angigen numerischen Verfahren sehr viel bessere Konvergenzordnungen. Die hier beschriebene Monte Carlo Simulation sollte also nur angewandt werden, wenn alle anderen Verfahren ungeeignet sind. Speziell ist dies der Fall, wenn statt [0, 1] ein Gebiet 3 G ⊂ Rd f¨ur sehr großes d betrachtet wird. Definition 5.22 (Empirische Verteilungsfunktion). Seien X1 , X2 , . . . reelle Zun fallsvariablen. Dann heißt die Abbildung Fn : R → [0, 1], x → n1 ½(−∞,x] (Xi ) die empirische Verteilungsfunktion von X1 , . . . , Xn .
i=1
Satz 5.23 (Glivenko-Cantelli). Seien X1 , X2 , . . . u.i.v. reelle Zufallsvariablen mit Verteilungsfunktion F , und seien Fn , n ∈ N, die empirischen Verteilungsfunktionen. Dann gilt lim sup sup Fn (x) − F (x) = 0 fast sicher. n→∞
x∈R
Beweis. W¨ahle ein x ∈ R und setze Yn (x) = ½(−∞,x] (Xn ) und Zn (x) = ½(−∞,x) (Xn ) f¨ur n ∈ N. Wir definieren außerdem die linksseitigen Limiten
F (x−) = limy↑x F (y) und analog f¨ur Fn . Dann sind (Yn (x))n∈N und (Zn (x))n∈N jeweils unabh¨angige Familien und E[Yn (x)] = P[Xn ≤ x] = F (x) sowie E[Zn (x)] = P[Xn < x] = F (x−). Nach dem starken Gesetz der großen Zahl gilt also n 1 n→∞ Yi −→ F (x) fast sicher Fn (x) = n i=1 und
1 n→∞ Zi −→ F (x−) fast sicher. n i=1 n
Fn (x−) =
Wir setzen formal F (−∞) = 0 und F (∞) = 1. Wir w¨ahlen ein beliebiges N ∈ N und setzen
xj := inf x ∈ R : F (x) ≥ j/N , j = 0, . . . , N, und Rn :=
max
j=1,...,N −1
Fn (xj ) − F (xj ) + Fn (xj −) − F (xj −) . n→∞
Nach dem Gezeigten gilt Rn −→ 0 fast sicher. F¨ur x ∈ (xj−1 , xj ) ist (nach Definition von xj ) Fn (x) ≤ Fn (xj −) ≤ F (xj −) + Rn ≤ F (x) + Rn +
1 N
118
5 Momente und Gesetze der Großen Zahl
und Fn (x) ≥ Fn (xj−1 ) ≥ F (xj−1 ) − Rn ≥ F (x) − Rn −
1 . N
Also gilt 1 1 lim sup sup Fn (x) − F (x) ≤ + lim sup Rn = . N N n→∞ x∈R n→∞ Indem wir N → ∞ gehen lassen, folgt die Behauptung.
2
Beispiel 5.24 (Satz von Shannon). Wir betrachten eine Informationsquelle, die zuf¨allig (und unabh¨angig) hintereinander Zeichen X1 , X2 , . . . eines endlichen Alphabets E (also einer beliebigen endlichen Menge) ausgibt. Dabei soll pe die Wahrscheinlichkeit f¨ur das Auftreten des Zeichens e ∈ E sein. Formal sind also X1 , X2 , . . . u.i.v. E-wertige Zufallsvariablen mit P[Xi = e] = pe f¨ur e ∈ E. Sei f¨ur jedes ω ∈ Ω und n ∈ N πn (ω) :=
n
pXi (ω)
i=1
die Wahrscheinlichkeit, dass die beobachtete Sequenz X1 (ω), . . . , Xn (ω) auftritt. Wir setzen Yn (ω) := − log(pXn (ω) ). Dann ist (Yn )n∈N u.i.v. und E[Yn ] = H(p), wobei pe log(pe ) H(p) := − e∈E
die Entropie der Verteilung p = (pe )e∈E ist. Aus dem starken Gesetz der großen Zahl folgt der Satz von Shannon: 1 1 Yi log πn = n n i=1 n
−
n→∞
−→ H(p)
fast sicher.
3
Entropie und Quellenkodierungssatz∗ Wir wollen kurz auf die Bedeutung von πn und der Entropie eingehen. Wie groß ist die Information“, die in einer Nachricht X1 (ω), . . . , Xn (ω) steckt? Diese Informa” tion kann man messen durch die L¨ange der k¨urzesten Folge von Nullen und Einsen, mit der man die Nachricht kodieren kann. Wir wollen jetzt nat¨urlich nicht f¨ur jede Nachricht eine eigene Kodierung erfinden, und auch nicht f¨ur jede m¨ogliche Nachrichtenl¨ange. Stattdessen ordnen wir jedem einzelnen Zeichen e ∈ E eine Folge von Nullen und Einsen zu, die dann aneinander gereiht die Nachricht ergeben. Die L¨ange l(e) der Folge, die das Zeichen e kodiert, darf dabei von e abh¨angen. So geben wir Zeichen, die h¨aufiger auftreten, einen k¨urzeren Code als den selteneren Zeichen, um einen m¨oglichst effizienten Code zu bekommen. Beim Morse-Alphabet ist dies
5.3 Starkes Gesetz der Großen Zahl
119
so a¨ hnlich eingerichtet ( e“ und t“, die im Englischen h¨aufig vorkommen, haben ” ” die Codes kurz“ und lang“, der seltenere Buchstabe q“ hat den Code lang-lang” ” ” ” kurz-lang“), allerdings besteht der Morse-Code nicht nur aus kurzen und langen Signalen, sondern auch noch aus Pausenzeichen, die das Ende eines Buchstabens signalisieren. Wenn wir nur Nullen und Einsen verwenden d¨urfen, haben wir keine solchen Pausenzeichen und m¨ussen den Code so anlegen, dass der Code eines Zeichens nicht gleichzeitig der Anfang eines Codes eines anderen Zeichens ist. Wir d¨urfen also nicht etwa ein Zeichen mit 0110 kodieren und ein anderes mit 011011. Ein Code, der diese Bedingung erf¨ullt, heißt ein bin¨arer Pr¨afixcode. Wir bezeichnen mit c(e) ∈ {0, 1}l(e) den Code von e, wobei l(e) die L¨ange ist. Wir k¨onnen die Codes aller Zeichen in einem Baum darstellen. Wir wollen nun einen Code C = (c(e), e ∈ E) herstellen, der effizient ist in dem Sinne, dass die erwartete L¨ange des Codes (f¨ur ein zuf¨alliges Zeichen) Lp (C) := pe l(e) e∈E
m¨oglichst klein ist. Wir konstruieren zun¨achst einen Code und zeigen dann, dass dieser fast optimal ist. Als ersten Schritt nummerieren wir E = {e1 , . . . , eN } so, dass pe1 ≥ pe2 ≥ . . . ≥ peN gilt. Wir definieren (e) ∈ N f¨ur jedes e ∈ E durch
Setze p˜e = 2−(e)
2−(e) ≤ pe < 2−(e)+1 . f¨ur jedes e ∈ E und q˜k = l
Nach Konstruktion gilt (el ) ≤ (ek ) f¨ur alle l ≤ k, also hat die Bin¨ardarstellung von q˜k maximal (ek ) Stellen:
(ek )
q˜k =
ci (ek ) 2−i ,
i=1
wobei die Zahlen c1 (ek ), . . . , c(ek ) (ek ) ∈ {0, 1} eindeutig festgelegt sind. Offenbar ist q˜l ≥ q˜k + 2−(k) f¨ur jedes l > k, also ist
c1 (ek ), . . . , c(ek ) (ek ) = c1 (el ), . . . , c(ek ) (el )
f¨ur alle l ≥ k.
Daher ist C = (c(e), e ∈ E) ein Pr¨afixcode. ur den Logarithmus Wir schreiben f¨ur jedes b > 0 und x > 0 logb (x) := log(x) log(b) f¨ von x zur Basis b. Nach Konstruktion ist − log2 (pe ) ≤ l(e) ≤ 1 − log2 (pe ). Also ist die erwartete L¨ange pe log2 (pe ) ≤ Lp (C) ≤ 1 − pe log2 (pe ). − e∈E
e∈E
120
5 Momente und Gesetze der Großen Zahl
Die L¨ange dieses Codes f¨ur die ersten n Zeichen unserer zuf¨alligen Quelle ist also ungef¨ahr nk=1 log2 (pXk (ω) ) = log2 πn (ω), womit wir den Ankn¨upfungspunkt zum Satz von Shannon haben. Dieser trifft also eine Aussage u¨ ber die L¨ange eines ¨ Bin¨arcodes, der zur Ubertragung einer langen Nachricht gebraucht wird. Ist nun der oben angegebene Code optimal, oder gibt es Codes mit geringerer erwarteter L¨ange? Antwort gibt der Quellenkodierungssatz, den wir hier mit einer Definition und einem Lemma vorbereiten. Definition 5.25 (Entropie). Sei p = (pe )e∈E eine Wahrscheinlichkeitsverteilung auf einer h¨ochstens abz¨ahlbaren Menge E. F¨ur b > 0 definieren wir pe logb (pe ), Hb (p) := − e∈E
wobei wir 0 logb (0) := 0 festlegen. Wir nennen H(p) := He (p) (e die Euler’sche Zahl) die Entropie und H2 (p) die bin¨are Entropie von p. Man beachte, dass nur f¨ur endliches E die Entropie stets endlich ist. Lemma 5.26 (Entropie-Ungleichung). Seien b und p wie oben. Ferner sei q eine Sub-Wahrscheinlichkeitsverteilung, also qe ≥ 0 f¨ur jedes e ∈ E und e∈E qe ≤ 1. Dann gilt Hb (p) ≤ − pe logb (qe ) (5.9) e∈E
mit Gleichheit genau dann, wenn Hb (p) = ∞ oder q = p. Beweis. Ohne Einschr¨ankung k¨onnen wir mit b = e, also mit dem nat¨urlichen Logarithmus rechnen. Es gilt log(1 + x) ≤ x f¨ur x > −1 mit Gleichheit genau dann, wenn x = 0 ist. Ist in (5.9) die linke oder die rechte Seite endlich, so k¨onnen wir die rechte von der linken Seite abziehen und erhalten H(p) + pe log(qe ) = pe log(qe /pe ) e∈E
e: pe >0
q e − pe pe log 1 + = pe e: pe >0 qe − pe ≤ qe − pe ≤ 0. pe = pe e: p >0
e
e∈E
Ist q = p, so ist qe = pe f¨ur ein e ∈ E mit pe > 0. Ist dies nun der Fall, so gilt strikte Ungleichheit, falls H(p) < ∞. 2 Satz 5.27 (Quellenkodierungssatz). Sei p = (pe )e∈E eine Wahrscheinlichkeitsverteilung auf dem endlichen Alphabet E. F¨ur jeden bin¨aren Pr¨afixcode C = (c(e), e ∈ E) gilt Lp (C) ≥ H2 (p), und es gibt einen solchen Code C mit Lp (C) ≤ H2 (p) + 1.
5.4 Konvergenzrate im starken GGZ
121
Beweis. Der zweite Teil des Satzes wurde durch die obige Konstruktion schon gezeigt. Sei nun also ein Pr¨afixcode gegeben. Sei L = maxe∈E l(e). F¨ur e ∈ E sei CL (e) = {c ∈ {0, 1}L : ck = ck (e) f¨ur k ≤ l(e)} die Menge aller Bin¨arfolgen der L¨ange L, die wie c(e) beginnen. Da wireinen Pr¨afixcode vorliegen haben, sind die CL (e), e ∈ E, paarweise disjunkt und e∈E CL (e) ⊂ {0, 1}L . Setzen wir also qe := 2−l(e) , so ist (beachte: #CL (e) = 2L−l(e) ) qe = 2−L #CL (e) ≤ 1. e∈E
Nach Lemma 5.26 gilt Lp (C) =
e∈E
pe l(e) = −
e∈E
pe log2 (qe ) ≥ H2 (p).
2
e∈E
¨ Ubung 5.3.1. Man zeige die folgende Verbesserung von Satz 5.16: Sind X1 , X2 , . . . ∈ L2 (P) paarweise unabh¨angig mit beschr¨ankten Varianzen, so gen¨ugt (Xn )n∈N dem starken Gesetz der großen Zahl. ♣ ¨ Ubung 5.3.2. Man zeige: Ist (Xn )n∈N eine unabh¨angige Folge identisch verteilter n→∞ Zufallsvariablen mit n1 (X1 + . . . + Xn ) −→ Y fast sicher f¨ur eine Zufallsvariable Y , so ist X1 ∈ L1 (P) und Y = E[X1 ] fast sicher. Hinweis: Man zeige zun¨achst * ) P |Xn | > n f¨ur unendlich viele n = 0
⇐⇒
X1 ∈ L1 (P).
♣
¨ Ubung 5.3.3. Sei E endlich und p ein Wahrscheinlichkeitsvektor auf E. Man zeige, dass die Entropie H(p) minimal ist (n¨amlich Null), falls p = δe f¨ur ein e ∈ E und maximal (n¨amlich log(#E)), falls p die Gleichverteilung auf E ist. ♣ ¨ Ubung 5.3.4. Sei b ∈ {2, 3, 4, . . .}. Ein b-adischer Pr¨afixcode ist a¨ hnlich definiert wie ein bin¨arer Pr¨afixcode, jedoch sind jetzt als Zeichen die Zahlen 0, 1, . . . , b − 1 zugelassen. Man zeige, dass die Aussage des Quellenkodierungssatzes sinngem¨aß ♣ f¨ur b-adische Pr¨afixcodes gilt, mit Hb (p) statt H2 (p).
5.4 Konvergenzrate im starken GGZ Im schwachen Gesetz der großen Zahl hatten wir auch eine Aussage u¨ ber die Konvergenzgeschwindigkeit gemacht (Satz 5.14), im starken Gesetz der großen Zahl hingegen nicht. Da wir hier nur erste Momente der Zufallsvariablen gefordert hatten, k¨onnen wir auch keine brauchbaren allgemein g¨ultigen Aussagen erwarten. Nehmen wir hingegen h¨ohere Momente an, so bekommen wir n¨utzliche Aussagen zur Konvergenzgeschwindigkeit. Das Herzst¨uck des schwachen Gesetzes der großen Zahl ist die Chebyshev’sche Ungleichung. Hier geben wir eine sch¨arfere Ungleichung an, die mit der gleichen
122
5 Momente und Gesetze der Großen Zahl
oberen Schranke nun das Maximum u¨ ber alle Partialsummen bis zu einer bestimmten Grenze absch¨atzt. Satz 5.28 (Kolmogorov’sche Ungleichung). Seien n ∈ N und X1 , X2 , . . . , Xn unabh¨angige Zufallsvariablen mit E[Xi ] = 0 und Var[Xi ] < ∞ f¨ur i = 1, . . . , n. Ferner sei Sk = X1 + . . . + Xk f¨ur k = 1, . . . , n. Dann gilt f¨ur jedes t > 0 ) * P max{Sk : k = 1, . . . , n} ≥ t ≤
Var[Sn ] t2 + Var[Sn ]
sowie die Kolmogorov’sche Ungleichung ) * P max{|Sk | : k = 1, . . . , n} ≥ t ≤ t−2 Var[Sn ].
(5.10)
(5.11)
In Satz 11.2 werden wir mit der Doob’schen Ungleichung eine Verallgemeinerung der Kolmogorov’schen Ungleichung kennen lernen. Beweis. Wir f¨uhren eine Zerlegung durch nach dem ersten Zeitpunkt τ , zu dem die Partialsummen den Wert t u¨ berschreiten. Sei also
τ := min k ∈ {1, . . . , n} : Sk ≥ t und Ak = {τ = k} f¨ur k = 1, . . . , n sowie A=
n
Ak =
max{Sk : k = 1, . . . , n} ≥ t .
k=1
Sei c ≥ 0. Die Zufallsvariable (Sk + c) ½Ak ist messbar bez¨uglich σ(X1 , . . . , Xk ), und Sn − Sk ist messbar bez¨uglich σ(Xk+1 , . . . , Xn ). Nach Satz 2.26 sind die beiden Zufallsvariablen unabh¨angig, und es gilt * ) * * ) ) E (Sk + c) ½Ak (Sn − Sk ) = E (Sk + c) ½Ak E Sn − Sk = 0. Offenbar sind die Ereignisse A1 , . . . , An paarweise disjunkt, also nk=1 ½Ak = ½A ≤ 1. Wir erhalten so * ) Var[Sn ] + c2 = E (Sn + c)2 . - n n * ) 2 ≥E (Sn + c) ½Ak = E (Sn + c)2 ½Ak k=1
= = ≥
n k=1 n k=1 n k=1
E
)
k=1
* (Sk + c)2 + 2(Sk + c)(Sn − Sk ) + (Sn − Sk )2 ½Ak
* ) E (Sk + c)2 ½Ak +
n k=1
) * E (Sk + c)2 ½Ak .
* ) E (Sn − Sk )2 ½Ak
(5.12)
5.4 Konvergenzrate im starken GGZ
123
Wegen c ≥ 0 ist (Sk + c)2 ½Ak ≥ (t + c)2 ½Ak , also k¨onnen wir (5.12) fortsetzen durch n ) * E (t + c)2 ½Ak = (t + c)2 P[A]. ≥ k=1
F¨ur c = Var[Sn ]/t ≥ 0 erhalten wir Var[Sn ] Var[Sn ] + c2 c(t + c) tc = 2 . = = 2 2 2 (t + c) (t + c) t + tc t + Var[Sn ] Damit ist (5.10) gezeigt. Um (5.11) zu zeigen, w¨ahle τ¯ := min k ∈ {1, . . . , n} : |Sk | ≥ t und A¯k = {¯ τ = k} sowie A¯ = {¯ τ ≤ n}. Die obige Fortsetzung von (5.12) mit c > 0 ist jetzt nicht zul¨assig. Wenn wir aber c = 0 w¨ahlen, gilt Sk2 ½A¯k ≥ ¯ ≤ t−2 Var[Sn ].2 t2 ½A¯k . Mit der selben Rechnung wie in (5.12) erhalten wir P[A] P[A] ≤
Wir folgern aus der Kolmogorov’schen Ungleichung eine erste Versch¨arfung des starken Gesetzes der großen Zahl. Satz 5.29. Seien X1 , X2 , . . . unabh¨angige Zufallsvariablen mit E[Xn ] = 0 f¨ur jedes n ∈ N und V := sup{Var[Xn ] : n ∈ N} < ∞. Dann gilt f¨ur jedes ε > 0 lim sup n→∞
|Sn | = 0 fast sicher. n1/2 (log(n))(1/2)+ε
Beweis. Setze kn = 2n und l(n) = n1/2 (log(n))(1/2)+ε f¨ur n ∈ N. F¨ur k ∈ N mit kn ≤ k ≤ kn+1 ist |Sk |/k ≤ 2|Sk |/kn+1 . Also reicht es, f¨ur δ > 0 zu zeigen, dass lim sup l(kn )−1 max{|Sk | : k ≤ kn } ≤ δ n→∞
F¨ur δ > 0 und n ∈ N setze Aδn := Kolmogorov’sche Ungleichung liefert ∞
fast sicher.
(5.13)
max{|Sk | : k ≤ kn } > δ l(kn ) . Die ∞
∞ ) * P Aδn ≤ δ −2 (l(kn ))−2 V kn =
V n−1−2ε < ∞. 2 1+2ε δ (log 2) n=1 n=1 n=1 ) * Das Borel-Cantelli Lemma liefert nun P lim supn→∞ Aδn = 0, also (5.13). 2 Wir werden in Kapitel 22 sehen, dass f¨ur unabh¨angige, identisch verteilte, quadratintegrierbare, zentrierte Zufallsvariablen X1 , X2 , . . . die folgende Versch¨arfung gilt lim sup 3 n→∞
|Sn | 2n Var[X1 ] log(log(n))
= 1
fast sicher.
Die Konvergenzrate ist also in diesem Fall genau bekannt. Sind die X1 , X2 , . . . nicht unabh¨angig, sondern nur paarweise unabh¨angig, so verschlechtert sich die Konvergenzrate, wenngleich nicht drastisch: Wir geben hier ohne Beweis einen Satz an, den Rademacher 1922 [143] und Menshov 1923 [118] unabh¨angig voneinander gefunden haben.
124
5 Momente und Gesetze der Großen Zahl
Satz 5.30 (Rademacher–Menshov). Seien X1 , X2 , . . . unkorrelierte quadratintegrierbare zentrierte Zufallsvariablen und (an )n∈N eine wachsende Folge nichtnegativer Zahlen mit ∞ (log n)2 a−2 (5.14) n Var[Xn ] < ∞. n=1
n −1 Dann gilt lim sup an Xk = 0 n→∞
fast sicher.
k=1
2
Beweis. Siehe etwa [129].
Bemerkung 5.31. Die Bedingung (5.14) ∞ ist scharf in2 dem Sinne, dass es f¨ur jede wachsende Folge (an )n∈N mit n=1 a−2 n (log n) = ∞ eine Folge paarweise unabh¨angiger, quadratintegrierbarer, zentrierter Zufallsvariablen X1 , X2 , . . . mit Var[Xn ] = 1 f¨ur jedes n ∈ N gibt, sodass n −1 Xk = ∞ fast sicher. lim sup an n→∞ k=1
Siehe [26]. Dort wird ein Beispiel von Tandori [161] f¨ur so genannte orthogonale Reihen weiter entwickelt. Siehe auch [121]. 3 F¨ur Zufallsvariablen mit unendlicher Varianz werden Aussagen u¨ ber die Konvergenzgeschwindigkeit naturgem¨aß schw¨acher. Es gilt beispielsweise (siehe [11]): Satz 5.32 (Baum und Katz (1965)). Sei γ > 1, und seien X1 , X2 , . . . u.i.v. sowie Sn = X1 + . . . + Xn f¨ur n ∈ N. Dann gilt ∞
nγ−2 P[|Sn |/n > ε] < ∞ f¨ur jedes ε > 0 ⇐⇒ E[|X1 |γ ] < ∞ und E[X1 ] = 0.
n=1
¨ Ubung 5.4.1. Seien X1 , . . . , Xn unabh¨angige, reelle Zufallsvariablen und Sk = X1 + . . . + Xk f¨ur jedes k = 1, . . . , n. Man zeige, dass f¨ur jedes t > 0 die Ungleichung von Etemadi gilt: ' ( ) * P max |Sk | ≥ t ≤ 3 max P |Sk | ≥ t/3 . ♣ k=1,...,n
k=1,...,n
5.5 Der Poissonprozess Wir wollen ein Modell f¨ur die Anzahl der Klicks entwickeln, die ein Geigerz¨ahler in einem (Zeit-)Intervall I = (a, b] macht. Die Anzahl der Klicks soll dabei
5.5 Der Poissonprozess
125
– zuf¨allig sein und unabh¨angig f¨ur disjunkte Intervalle, – zeitlich homogen in dem Sinne, dass die Anzahl der Klicks in I = (a, b] die selbe Verteilung hat wie die Anzahl der Klicks in c + I = (a + c, b + c], – einen Erwartungswert besitzen, – keine Doppelpunkte aufweisen: der Z¨ahler macht zu jedem Zeitpunkt nur einen Klick. Wir formalisieren diese Forderungen, indem wir die Notation einf¨uhren:
I := (a, b] : a, b ∈ [0, ∞), a ≤ b , ((a, b]) := b − a
(die L¨ange des Intervalls I = (a, b]).
F¨ur I ∈ I sei NI die Anzahl der Klicks nach Zeitpunkt a und nicht sp¨ater als b. Speziell setzen wir Nt := N(0,t] f¨ur die Gesamtzahl aller Klicks bis zur Zeit t. Die obigen Forderungen lassen sich nun u¨ bersetzen zu: (NI , I ∈ I) ist eine Familie von Zufallsvariablen mit Werten in N0 mit den Eigenschaften (P1) NI∪J = NI + NJ , falls I ∩ J = ∅ und I ∪ J ∈ I ist. (P2) Die Verteilung von NI h¨angt nur von der L¨ange von I ab: PNI = PNJ f¨ur alle I, J ∈ I mit (I) = (J). (P3) Ist J ⊂ I mit I ∩ J = ∅ f¨ur alle I, J ∈ J mit I = J, so ist (NJ , J ∈ J ) eine unabh¨angige Familie. (P4) F¨ur jedes I ∈ I gilt E[NI ] < ∞. (P5) Es gilt lim supε↓0 ε−1 P[Nε ≥ 2] = 0. Die Bedeutung von (P5) erkl¨art sich durch die folgende Rechnung: Setzen wir λ := k→∞ k→∞ lim supε↓0 ε−1 P[Nε ≥ 2], so ist (wegen (1 − ak /k)k −→ e−a , falls ak −→ a) )
+ 2n −1
*
P es gibt einen Doppelklick in (0, 1] = lim P n→∞
= 1 − lim P = 1 − lim
n→∞
N(k 2−n ,(k+1)2−n ] ≥ 2
n 2 −1
N(k 2−n ,(k+1)2−n ] ≤ 1
k=0
) * P N(k 2−n ,(k+1)2−n ] ≤ 1
k=0
2n = 1 − lim 1 − P[N2−n ≥ 2]
n→∞ −λ
=1−e
k=0
+ 2n −1
n→∞
.
Wir m¨ussen also λ = 0 fordern; dies ist aber gerade (P5).
,
,
126
5 Momente und Gesetze der Großen Zahl
Der n¨achste Satz zeigt, dass die Bedingungen (P1) – (P5) die Zufallsvariablen (NI , I ∈ I) eindeutig charakterisieren und zwar als Poissonprozess. Definition 5.33 (Poissonprozess). Eine Familie (Nt , t ≥ 0) von N0 -wertigen Zufallsvariablen heißt Poissonprozess mit Intensit¨at α ≥ 0, falls N0 = 0 und: (i) F¨ur jedes n ∈ N und je n + 1 Zahlen 0 = t0 < t1 < . . . < tn ist die Familie (Nti − Nti−1 , i = 1, . . . , n) unabh¨angig. (ii) F¨ur t > s ≥ 0 ist Nt − Ns Poisson-verteilt mit Parameter α(t − s), also P[Nt − Ns = k] = e−α(t−s)
(α(t − s))k k!
f¨ur jedes k ∈ N0 .
Die Existenz eines Poissonprozesses ist an dieser Stelle noch nicht gesichert. Darauf kommen wir in Satz 5.35 zur¨uck. Satz 5.34. Erf¨ullt (NI , I ∈ I) die Bedingungen (P1) – (P5), so ist (N(0,t] , t ≥ 0) ein Poissonprozess mit Intensit¨at α := E[N(0,1] ]. Ist umgekehrt (Nt , t ≥ 0) ein Poissonprozess, so erf¨ullt (Nt − Ns , (s, t] ∈ I) die Bedingungen (P1) – (P5). Beweis. Sei zun¨achst (Nt , t ≥ 0) ein Poissonprozess mit Intensit¨at α ≥ 0. Per Konstruktion gilt (P1). F¨ur I = (a, b] ist offenbar PNI = Poiα(b−a) = Poiα(I) . Also gilt (P2). Wegen (i) gilt (P3). Offenbar ist E[NI ] = α (I) < ∞, also gilt (P4). Schließlich ist P[Nε ≥ 2] = 1 − e−αε − αε, also lim ε−1 P[Nε ≥ 2] = lim ε↓0
ε↓0
1 − e−αε − α = 0. ε
Also gilt auch (P5). Erf¨ulle nun (NI , I ∈ I) die Bedingungen (P1) – (P5). Setze α(t) := E[Nt ]. Dann ist (wegen (P1) und (P2)) ) * ) * ) * α(s + t) = E N(0,s] + N(s,s+t] = E N(0,s] + E N(0,t] = α(s) + α(t). Da t → α(t) monoton wachsend ist, folgt hieraus sogar α(t) = t α(1) f¨ur jedes t ≥ 0. Wir setzen α := α(1) und erhalten E[NI ] = α (I). Wir m¨ussen nur noch zeigen, dass PNt = Poiαt gilt. Um den Satz u¨ ber die Poissonapproximation (Satz 3.7) zu verwenden, zerlegen wir f¨ur festes n ∈ N, das Intervall (0, t] in 2n disjunkte gleich lange Intervalle
* I n (k) := (k − 1)2−n t, k2−n t , k = 1, . . . , 2n , und setzen X n (k) := NI n (k) sowie 1 1, n X (k) := 0,
falls X n (k) ≥ 1, sonst.
5.5 Der Poissonprozess
127
Nach den Annahmen (P2) und (P3) sind (X n (k), k = 1, . . . , 2n ) unabh¨angig und identisch verteilt. Daher ist auch (X n (k), k = 1, . . . , 2n ) unabh¨angig und identisch verteilt, n¨amlich X n (k) ∼ Berpn , wobei pn = P[N2−n t ≥ 1]. 2n Schließlich setzen wir Ntn := k=1 X n (k). Dann ist Ntn ∼ b2n ,pn . Offenbar ist Ntn+1 − Ntn ≥ 0. Nun gilt nach (P5) n
P [Nt =
Ntn ]
≤
2
n→∞
P [X n (k) ≥ 2] = 2n P [N2−n t ≥ 2] −→ 0. (5.15)
k=1
( Also ist P Nt = lim Ntn = 1. Nach dem Satz u¨ ber monotone Konvergenz gilt '
n→∞
α t = E [Nt ] = lim E [Ntn ] = lim pn 2n . n→∞
n→∞
Nach dem Satz u¨ ber Poisson-Approximation (Satz 3.7) gilt daher f¨ur jedes l ∈ N0 P[Nt = l] = lim P [Ntn = l] = Poiαt ({l}). n→∞
2
Also ist PNt = Poiα t .
Bislang steht noch der Nachweis aus, dass es u¨ berhaupt Poissonprozesse gibt. In Kapitel 24 werden wir ein allgemeines Konstruktionsprinzip kennen lernen, das auch ¨ f¨ur allgemeinere R¨aume als [0, ∞) funktioniert (siehe auch Ubung 5.5.1). Eine weitere, instruktive Konstruktion basiert auf den Wartezeiten zwischen den Klicks, oder formal zwischen den Unstetigkeitsstellen der Abbildung t → Nt (ω). Wie groß ist die Wahrscheinlichkeit, dass wir zur Zeit s auf den n¨achsten Klick des Z¨ahlers l¨anger als t Zeiteinheiten warten m¨ussen? Wenn wir die Klicks als Poissonprozess mit Intensit¨at α modellieren, ist diese Wahrscheinlichkeit * ) P N(s,s+t] = 0 = e−αt . Mithin ist die Wartezeit auf den n¨achsten Klick exponentialverteilt mit Parameter α. Außerdem sollten die Wartezeiten unabh¨angig voneinander sein. Wir nehmen nun die Wartezeiten als Startpunkt der Betrachtung und konstruieren hieraus den Poissonprozess. Sei W1 , W2 , . . . eine unabh¨angige Familie von exponentialverteilten Zufallsvariablen mit Parameter α > 0, also P[Wn > x] = e−αx . Wir setzen Tn :=
n
Wk
k=1
und interpretieren Wn als die Wartezeit zwischen dem (n − 1)-ten und dem n-ten Klick. Tn ist der Zeitpunkt des n-ten Klicks.
128
5 Momente und Gesetze der Großen Zahl
In Anlehnung an diese Intuition definieren wir Nt := max{n ∈ N : Tn ≤ t} als die Anzahl der Klicks bis zur Zeit t. Es ist dann {Nt = k} = {Tk ≤ t < Tk+1 }. Speziell ist also Nt eine Zufallsvariable. Satz 5.35. Die Familie (Nt , t ≥ 0) ist ein Poissonprozess mit Intensit¨at α. Beweis. (Wir folgen dem Beweis in [62, Satz 3.34].) Wir m¨ussen zeigen, dass f¨ur jedes n ∈ N und jede Folge 0 = t0 < t1 < . . . < tn gilt: (Nti − Nti−1 , i = 1, . . . , n) ist unabh¨angig und Nti − Nti−1 ∼ Poiα(ti −ti−1 ) . Wir wissen zwar, dass es nicht ausreicht, dies nur f¨ur n = 2 zu zeigen. Allerdings wird der Schreibaufwand f¨ur n ≥ 3 extrem groß, und das Prinzip, wie man den Beweis f¨ur allgemeines n ∈ N f¨uhrt, wird klar, wenn man n = 2 untersucht hat. Daher beschr¨anken wir uns hier auf den Fall n = 2. Wir zeigen also, f¨ur 0 < s < t und l, k ∈ N0 k l −αs (αs) −α(t−s) (α(t − s)) P[Ns = k, Nt − Ns = l] = e e . k! l!
(5.16)
Hieraus folgt, dass Ns und (Nt − Ns ) unabh¨angig sind. Außerdem folgt, indem wir u¨ ber k ∈ N0 summieren, dass Nt − Ns ∼ Poiα(t−s) . Nach Korollar 2.22 hat die Verteilung P(W1 ,...,Wk+l+1 ) die Dichte x → αk+l+1 e−αSk+l+1 (x) , wobei Sn (x) := x1 + . . . + xn . Es reicht nun, l ≥ 1 zu betrachten, da wir den (l = 0)-Term durch die Normierung des W-Maßes erhalten. Sei also l ≥ 1. Wir erhalten P[Ns = k, Nt − Ns = l] = P[Tk ≤ s < Tk+1 , Tk+l ≤ t < Tk+l+1 ] ∞ ∞ ··· dx1 · · · dxk+l+1 = 0
α
0 k+l+1 −αSk+l+1 (x)
e
½{Sk (x)≤s<Sk+1 (x)} ½{Sk+l (x)≤t<Sk+l+1 (x)} .
Wir integrieren nun sukzessive, mit xk+l+1 beginnend. Im ersten Schritt substituieren wir z = Sk+l+1 (x) und erhalten ∞ ∞ −αSk+l+1 (x) dxk+l+1 α e ½{Sk+l+1 (x)>t} = dz α e−αz = e−αt . 0
t
Nun halten wir x1 , . . . , xk fest und erhalten f¨ur die restlichen Variablen durch die Substitution y1 = Sk+1 (x) − s, y2 = xk+2 , . . . , yl = xk+l
5.5 Der Poissonprozess
0
∞
···
129
∞
dxk+1 · · · dxk+l ½{s<Sk+1 (x)≤Sk+l ≤t} ∞ ∞ (t − s)l = ··· dy1 · · · dyl ½{y1 +...+yl ≤t−s} = . l! 0 0 0
(Dies erh¨alt man zum Beispiel per Induktion u¨ ber l.) Wir integrieren nun u¨ ber die verbleibenden Variablen x1 , . . . , xk und erhalten ∞ ∞ sk ··· dx1 · · · dxk ½{Sk (x)≤s} = . k! 0 0 Insgesamt erhalten wir P[Ns = k, Nt − Ns = l] = e−αt αk+l
sk (t − s)l , k! l! 2
also (5.16).
¨ Ubung 5.5.1. Seien Rn , Ykn , k, n ∈ N unabh¨angige Zufallsvariablen mit Rn ∼ Poiα und Ykn ∼ U(n−1,n] (Gleichverteilung auf (n − 1, n]) f¨ur alle k, n ∈ N. Setze
Nt := # (k, n) ∈ N2 : k ≤ Rn und Ykn ≤ t . Man zeige, dass (Nt )t≥0 ein Poissonprozess mit Intensit¨at α ist.
♣
6 Konvergenzs¨atze
Im starken und schwachen Gesetz der großen Zahl hatten wir implizit schon die Begriffe von fast sicherer und stochastischer Konvergenz von Folgen von Zufallsvariablen kennen gelernt und gesehen, dass die fast sichere die stochastische Konvergenz impliziert. In diesem Kapitel definieren wir die Begriffe von fast sicherer und stochastischer Konvergenz sowie Konvergenz im Mittel von Folgen messbarer Abbildungen und setzen sie in Beziehung zueinander. Eine Schl¨usselrolle kommt dabei dem Konzept der gleichgradigen Integrierbarkeit zu.
¨ 6.1 Fast-uberallund stochastische Konvergenz Im Folgenden ist (Ω, A, μ) stets ein σ-endlicher Maßraum. Wir definieren zun¨achst Fast-¨uberall-Konvergenz und stochastische Konvergenz in metrischen R¨aumen und vergleichen dann beide Konzepte miteinander. Hierf¨ur ben¨otigen wir zun¨achst zwei Lemmata, die sicherstellen, dass die Abstandsfunktion zweier messbarer Abbildungen wieder messbar ist. Sei im Folgenden (E, d) ein separabler, metrischer Raum mit Borel’scher σ-Algebra B(E). Separabel“ heißt dabei bekanntlich, dass es ei” ne abz¨ahlbare, dichte Teilmenge gibt. F¨ur x ∈ E und r > 0 bezeichnen wir mit Br (x) = {y ∈ E : d(x, y) < r} die offene Kugel um x mit Radius r. Lemma 6.1. Seien f, g : Ω → E messbar bez¨uglich A – B(E). Dann ist die Abbildung H : Ω → [0, ∞), ω → d(f (ω), g(ω)) messbar bez¨uglich A – B([0, ∞)). Beweis. Sei F ⊂ E abz¨ahlbar und dicht. Nach der Dreiecksungleichung ist d(x, z) + d(z, y) ≥ d(x, y) f¨ur alle x, y ∈ E und f¨ur z ∈ F . Sei (zn )n∈N eine n→∞ n→∞ Folge in F mit zn −→ x. Da d stetig ist, gilt d(x, zn ) + d(zn , y) −→ d(x, y). Insgesamt haben wir inf z∈F (d(x, z) + d(z, y)) = d(x, y). Da x → d(x, z) stetig ist, also messbar, sind auch fz , gz : Ω → [0, ∞) mit fz (ω) = d(f (ω), z) und gz (ω) = d(g(ω), z) messbar, also auch fz + gz sowie H = inf z∈F (fz + gz ). (Etwas systematischer l¨asst sich der Satz zeigen, wenn wir benutzen, dass (f, g) messbar ist bez¨uglich A – B(E × E) (dies folgt aus Satz 14.8) und d : E × E → [0, ∞) stetig also messbar bez¨uglich B(E ×E) – B([0, ∞)). Als Verkn¨upfung messbarer Abbildungen ist dann auch ω → d(f (ω), g(ω)) messbar.) 2
132
6 Konvergenzs¨atze
Seien f, f1 , f2 , . . . : Ω → E messbar bez¨uglich A – B(E). Definition 6.2. Wir sagen: (fn )n∈N konvergiert gegen f stoch
(i) μ-stochastisch (oder dem Maße nach), in Formeln fn −→ f , wenn f¨ur jedes A ∈ A mit μ(A) < ∞ und f¨ur jedes ε > 0 gilt, dass n→∞
μ({d(f, fn ) > ε} ∩ A) −→ 0. f.¨u.
(ii) μ-fast uberall, in Formeln fn −→ f , wenn es eine μ-Nullmenge N ∈ A gibt, ¨ sodass f¨ur jedes ω ∈ Ω \ N gilt, dass n→∞
d(f (ω), fn (ω)) −→ 0. Ist μ ein W-Maß, so sagen wir in diesem Fall auch, dass (fn )n∈N fast sicher f.s. konvergiert und schreiben fn −→ f . Gelegentlich werden wir die Hinweise fast u¨ berall“ und fast sicher“ auch weglassen. ” ” Bemerkung 6.3. Seien A1 , A2 , . . . ∈ A mit AN ↑ Ω und μ(AN ) < ∞ f¨ur jedes N ∈ N. Dann ist F.¨u.-Konvergenz a¨ quivalent zur F.¨u.-Konvergenz auf jedem AN .3 Bemerkung 6.4. Fast-¨uberall-Konvergenz impliziert die stochastische: Sei zu ε > 0 Dn (ε) = {d(f, fm ) > ε f¨ur ein m ≥ n}. ∞ Dann gilt D(ε) := n=1 Dn (ε) ⊂ N , wobei N die Nullmenge aus der Definition der F.¨u.-Konvergenz ist. Die σ-Stetigkeit von oben von μ impliziert n→∞
μ Dn (ε) ∩ A −→ μ D(ε) ∩ A = 0 f¨ur jedes A ∈ A mit μ(A) < ∞.
3
Bemerkung 6.5. Stochastische oder Fast-¨uberall-Konvergenz legen den Grenzwert stoch stoch eindeutig fest bis auf Gleichheit fast u¨ berall. In der Tat: Sei fn −→ f und fn −→ g. Seien A1 , A2 , . . . ∈ A mit An ↑ Ω und μ(An ) < ∞ f¨ur jedes n ∈ N. Dann ist (wegen d(f, g) ≤ d(f, fn ) + d(g, fn )) f¨ur jedes m ∈ N und ε > 0
μ Am ∩ {d(f, g) > ε}
n→∞ ≤ μ Am ∩ {d(f, fn ) > ε/2} + μ Am ∩ {d(g, fn ) > ε/2} −→ 0.
Also ist μ {d(f, g) > 0} = 0. 3 Bemerkung 6.6. Im Allgemeinen impliziert stochastische Konvergenz nicht F.¨u.Konvergenz. In der Tat: Sei (Xn )n∈N eine unabh¨angige Familie von Zufallsvaristoch ablen mit Xn ∼ Ber1/n . Dann gilt Xn −→ 0, jedoch ist nach dem Lemma von 3 Borel-Cantelli lim supn→∞ Xn = 1 fast sicher.
6.1 Fast-¨uberall- und stochastische Konvergenz
133
Satz 6.7. Seien A1 , A2 , . . . ∈ A mit AN ↑ Ω und μ(AN ) < ∞ f¨ur jedes N ∈ N. F¨ur messbare f, g : Ω → E setze ˜ g) := d(f,
∞
2−N 1 + μ(AN )
N =1
1 ∧ d(f (ω), g(ω)) μ(dω).
(6.1)
AN
Dann ist d˜ eine Metrik, die die stochastische Konvergenz erzeugt: Sind f, f1 , f2 , . . . messbar, so gilt stoch ˜ fn ) n→∞ ⇐⇒ d(f, −→ 0. fn −→ f Beweis. F¨ur N ∈ N setze
d˜N (f, g) :=
1 ∧ d(f (ω), g(ω)) μ(dω).
AN n→∞
n→∞
˜ fn ) −→ 0, wenn d˜N (f, fn ) −→ 0 f¨ur jedes N ∈ N. Genau dann gilt d(f, ”
=⇒ “
stoch
Es gelte fn −→ f . Dann ist f¨ur jedes ε ∈ (0, 1)
n→∞ d˜N (f, fn ) ≤ μ AN ∩ {d(f, fn ) > ε} + ε μ(AN ) −→ ε μ(AN ).
n→∞ Da ε ∈ (0, 1) beliebig war, gilt d˜N (f, fn ) −→ 0. n→∞
˜ fn ) −→ 0. Sei B ∈ A mit μ(B) < ∞. W¨ahle δ > 0 und ⇐= “ Es gelte d(f, ” N ∈ N so groß, dass μ(B \ AN ) < δ. Dann ist f¨ur ε ∈ (0, 1)
μ B ∩ {d(f, fn ) > ε} ≤ δ + μ AN ∩ {d(f, fn ) > ε} ≤ δ + ε−1 d˜N (f, fn ) −→ δ. n→∞
n→∞ stoch Da δ > 0 beliebig war, folgt μ B ∩ {d(f, fn ) > ε} −→ 0, also fn −→ f .
2
Wir betrachten nun den wichtigen Fall E = R mit der euklidischen Metrik. Hier haben wir durch das Integral einen weiteren Konvergenzbegriff zur Verf¨ugung. Definition 6.8 (Konvergenz im Mittel). Seien f, f1 , f2 , . . . ∈ L1 (μ). Wir sagen (fn )n∈N konvergiere im Mittel gegen f , in Formeln L1
fn −→ f, n→∞
falls fn − f 1 −→ 0. L1
Bemerkung 6.9. Gilt fn −→ f , so gilt insbesondere
0
n→∞
fn dμ −→
0
f dμ.
3
134
6 Konvergenzs¨atze L1
L1
Bemerkung 6.10. Gilt fn −→ f und fn −→ g, so ist f = g fast u¨ berall. In der Tat n→∞ ist nach der Dreiecksungleichung f − g1 ≤ fn − f 1 + fn − g1 −→ 0. 3 Bemerkung 6.11. L1 -Konvergenz und F.¨u.-Konvergenz implizieren jeweils stochastische Konvergenz. Alle anderen Implikationen sind im Allgemeinen falsch. 3 Satz 6.12 (Schnelle Konvergenz). Sei (E, d) ein separabler, metrischer Raum. Damit die Folge (fn )n∈N messbarer Abbildungen Ω → E fast u¨ berall konvergiert, ist hinreichend, dass eine der folgenden Bedingungen gilt. (i) Es gilt E = R, es gibt ein p ∈ [1, ∞) mit fn ∈ Lp (μ) f¨ur jedes n ∈ N, und ∞ p es gibt ein f ∈ L (μ) mit fn − f p < ∞. n=1
(ii) Es gibt ein messbares f mit
∞
μ(A ∩ {d(f, fn ) > ε}) < ∞ f¨ur jedes ε > 0
n=1
und f¨ur jedes A ∈ A mit μ(A) < ∞. n→∞
In beiden F¨allen gilt fn −→ f fast u¨ berall. (iii) E ist vollst¨andig, und es gibt eine summierbare Folge (εn )n∈N , sodass ∞
μ(A ∩ {d(fn , fn+1 ) > εn }) < ∞
f¨ur jedes A ∈ A mit μ(A) < ∞.
n=1
Beweis. Offenbar impliziert (i) schon (ii), denn nach der Markov’schen Ungleichung ist μ({|f − fn | > ε}) ≤ ε−p f − fn pp . Nach Bemerkung 6.3 reicht es, den Fall μ(Ω) < ∞ zu betrachten. Gelte nun (ii). Sei Bn (ε) = {d(f, fn ) > ε} und B(ε) = lim sup Bn (ε). Das ∞ n→∞ Lemma von Borel-Cantelli liefert μ(B(ε)) = 0. Sei N = n=1 B (1/n). Dann gilt n→∞ μ(N ) = 0 und fn (ω) −→ f (ω) f¨ur jedes ω ∈ Ω \ N. Gelte (iii). Sei Bn = {d(fn , fn+1 ) > εn } und B = lim sup Bn . Dann ist μ(B) = n→∞
0, und f¨ur jedes ω ∈ Ω\B ist (fn (ω))n∈N eine Cauchy-Folge in E. Da E vollst¨andig 2 ist, existiert der Limes f (ω) := limn→∞ fn (ω). F¨ur ω ∈ B setze f (ω) = 0. Korollar 6.13. Sei (E, d) ein separabler metrischer Raum. Seien f, f1 , f2 , . . . messbare Abbildungen Ω → E. Dann sind die beiden folgenden Aussagen a¨ quivalent. n→∞
(i) fn −→ f stochastisch, (ii) Zu jeder Teilfolge von (fn )n∈N existiert eine gegen f fast u¨ berall konvergente Teilfolge.
6.1 Fast-¨uberall- und stochastische Konvergenz
135
Beweis. (ii) =⇒ (i)“ Wir nehmen an, dass (i) nicht gilt. Sei d˜ eine Metrik, die ” die stochastische Konvergenz bestimmt (siehe Satz 6.7). Dann gibt es ein ε > 0 und ˜ n , f ) > ε f¨ur jedes k ∈ N. Offenbar konvergiert eine Teilfolge (fnk )k∈N mit d(f k keine Teilfolge von (fnk )k∈N stochastisch gegen f , also auch nicht f.¨u. (i) =⇒ (ii)“ Gelte nun (i). Seien A1 , A2 , . . . ∈ A mit AN ↑ Ω und μ(AN ) < ∞ ” stoch f¨ur jedes N ∈ N. Sei nk ↑ ∞ beliebig. Wegen fnk −→ f f¨ur k → ∞, k¨onnen wir eine Teilfolge (fnkl )l∈N w¨ahlen, sodass 1 < 2−l μ Al ∩ d f, fnkl > l
f¨ur jedes l ∈ N.
Also gilt f¨ur jedes N ∈ N ∞ ∞ 1 ≤ N μ(AN ) + μ AN ∩ d f, fnkl > 2−l < ∞. l l=1
l=N +1
Nach Satz 6.12(ii) konvergiert (fnkl )l∈N fast u¨ berall auf AN gegen f . Nach Bemer2 kung 6.3 konvergiert (fnkl )l∈N daher fast u¨ berall auf gegen f . Korollar 6.14. Ist (Ω, A, μ) ein Maßraum, bei dem stochastische und F.¨u.-Konvergenz nicht zusammenfallen, so gibt es keine Topologie auf der Menge der messbaren Abbildungen Ω → E, die die F.¨u.-Konvergenz erzeugt. Beweis. Wir nehmen an, dass es eine Topologie gibt, die die F.¨u.-Konvergenz erstoch zeugt. Seien f, f1 , f2 , . . . messbare Abbildungen mit der Eigenschaft, dass fn −→ n→∞ f , jedoch nicht fn −→ f fast u¨ berall. Sei nun U eine offene Menge, die f enth¨alt, f¨ur die jedoch fn ∈ U f¨ur unendlich viele n ∈ N gilt. Sei also (fnk )k∈N eine Teilk→∞
folge mit fnk ∈ U f¨ur jedes k ∈ N. Wegen fnk −→ f stochastisch, gibt es nach l→∞
Korollar 6.13 wiederum eine Teilfolge (fnkl )l∈N von (fnk )k∈N mit fnkl −→ f fast u¨ berall. Es ist dann aber fnkl ∈ U f¨ur alle bis auf endlich viele l, was einen Widerspruch darstellt. 2 Korollar 6.15. Sei (E, d) ein separabler, vollst¨andiger metrischer Raum. Es sei (fn )n∈N eine stochastische Cauchy-Folge in E, das heißt, f¨ur jedes A ∈ A mit μ(A) < ∞ und jedes ε > 0 gilt
μ A ∩ {d(fm , fn ) > ε} −→ 0 f¨ur m, n → ∞. Dann konvergiert (fn )n∈N stochastisch. Beweis. Ohne Einschr¨ankung kann μ(Ω) < ∞ angenommen werden. W¨ahle eine Teilfolge (fnk )k∈N , sodass
< 2−k f¨ur jedes n ≥ nk . μ d(fn , fnk ) > 2−k
136
6 Konvergenzs¨atze k→∞
Nach Satz 6.12(iii) gibt es ein f mit fnk −→ f fast u¨ berall, also insbesondere
μ
k→∞ d(fnk , f ) > ε/2 −→ 0
f¨ur jedes ε > 0.
Nun ist aber
≤ μ d(fnk , fn ) > ε/2 + μ d(fnk , f ) > ε/2 . μ d(fn , f ) > ε Ist k so groß, dass 2−k < ε/2 ist und n ≥ nk , so ist der erste Summand kleiner als 2−k , also gilt n→∞
μ {d(fn , f ) > ε} −→ 0, stoch
das heißt, es gilt fn −→ f .
2
¨ Ubung 6.1.1. Man zeige: Ist Ω h¨ochstens abz¨ahlbar, so folgt aus stochastischer Konvergenz schon F.¨u.-Konvergenz. ♣ ¨ Ubung 6.1.2. Man gebe jeweils ein Beispiel an f¨ur eine Folge, die (i) in L1 konvergiert, aber nicht fast u¨ berall, (ii) fast u¨ berall konvergiert, aber nicht in L1 .
♣
¨ Ubung 6.1.3. (Satz von Egorov (1911)) Sei (Ω, A, μ) ein endlicher Maßraum, und seien f1 , f2 , . . . messbare Funktionen, die fast u¨ berall gegen ein f konvergieren. Man zeige: Zu jedem ε > 0 gibt es eine Menge A ∈ A mit μ(Ω \ A) < ε und n→∞ supω∈A |fn (ω) − f (ω)| −→ 0. ♣ ¨ Ubung 6.1.4. Man zeige: Sind X1 , X2 , . . . unabh¨angige, ∞quadratintegrierbare Zufallsvariablen mit E[Xi ] = 0 f¨ur jedes i ∈ N und i=1 Var[Xi ] < ∞, dann n existiert ein quadratintegrierbares X mit X = limn→∞ i=1 Xi fast sicher. ♣
6.2 Gleichgradige Integrierbarkeit Wie bekommt man nun die Konvergenz im Mittel aus der F.¨u.-Konvergenz? Das notwendige Additiv ist die gleichgradige Integrierbarkeit. Definition 6.16. Eine Familie F ⊂ L1 (μ) heißt gleichgradig integrierbar, falls
+ |f | − g dμ = 0. sup (6.2) inf1 0≤g∈L (μ) f ∈F
6.2 Gleichgradige Integrierbarkeit
137
Satz 6.17. Die Familie F ⊂ L1 (μ) ist genau dann gleichgradig integrierbar, wenn inf 1 sup |f | dμ = 0. (6.3) 0≤ g ∈L (μ) f ∈F
{|f |> g}
Ist μ(Ω) < ∞, so ist die gleichgradige Integrierbarkeit a¨ quivalent zu jeder der beiden folgenden Bedingungen (i) inf sup (|f | − a)+ dμ = 0, a∈[0,∞) f ∈F
(ii)
inf
|f | dμ = 0.
sup
a∈[0,∞) f ∈F
{|f |>a}
Beweis. Offenbar gilt (|f | − g)+ ≤ |f | · ½{|f |>g} , also impliziert (6.3) die gleichgradige Integrierbarkeit. Gelte nun (6.2). F¨ur jedes ε > 0 sei gε ∈ L1 (μ) so gew¨ahlt, dass sup (|f | − gε )+ dμ ≤ ε.
(6.4)
f ∈F
Setze g ε = 2gε/2 . Dann ist f¨ur f ∈ F |f | dμ ≤ (|f | − gε/2 )+ dμ + {|f |>g ε }
{|f |>g ε }
Per Konstruktion ist
0 {|f |>g ε }
gε/2 dμ. {|f |>g ε }
(|f | − gε/2 )+ dμ ≤ ε/2 und
gε/2 ½{|f |>g ε } ≤ (|f | − gε/2 )+ ½{|f |>g ε } , also auch
{|f |>g ε }
gε/2 dμ ≤
{|f |>g ε }
(|f | − gε/2 )+ dμ ≤ ε/2.
Insgesamt haben wir also |f | dμ ≤ ε.
sup
f ∈F
(6.5)
{|f |>g ε }
Offenbar impliziert (ii) schon (i), und (i) impliziert die gleichgradige Integrierbarkeit von F, denn das Infimum wird hier ja u¨ ber die kleinere Menge der konstanten Funktionen gebildet. Wir m¨ussen noch zeigen, dass gleichgradige Integrierbarkeit (ii) impliziert. Sei also F gleichgradig integrierbar und μ(Ω) < ∞. Zu gegebenem
138
6 Konvergenzs¨atze
ε > 0 (und gε und g˜ε wie oben) w¨ahlen wir aε so, dass Dann ist |f | dμ ≤ |f | dμ + {|f |>aε }
{|f |> gε/2 }
0
g { gε/2 >aε } ε/2
{ gε/2 >aε }
dμ <
g ε/2 dμ < ε.
ε . 2
2
Satz 6.18. (i) Ist F ⊂ L1 (μ) eine endliche Menge, so ist F gleichgradig integrierbar. (ii) Sind F, G ⊂ L1 (μ) gleichgradig integrierbar, dann sind auch (f + g : f ∈ F, g ∈ G) und (f − g : f ∈ F, g ∈ G) sowie {|f | : f ∈ F} gleichgradig integrierbar. (iii) Ist F gleichgradig integrierbar und existiert zu jedem g ∈ G ein f ∈ F mit |g| ≤ |f |, so ist auch G gleichgradig integrierbar. ¨ Beweis. Der einfache Beweis verbleibt zur Ubung.
2
Der folgende Satz beschreibt ein sehr gut anwendbares Kriterium f¨ur gleichgradige Integrierbarkeit. Wir werden diesen Satz an vielen Stellen einsetzen. Satz 6.19. F¨ur endliches μ ist F ⊂ L1 (μ) genau dann gleichgradig integrierbar, wenn es eine Funktion H : [0, ∞) → [0, ∞) gibt mit limx→∞ H(x)/x = ∞ und sup H(|f |) dμ < ∞. f ∈F
H kann sogar monoton wachsend und konvex gew¨ahlt werden. Beweis. ⇐= “ Es existiere H mit den angegebenen Eigenschaften. Dann gilt ” ↑ ∞, wenn a ↑ ∞. Also ist f¨ur a > 0 Ka := inf x≥a H(x) x 1 sup |f | dμ ≤ sup H(|f |) dμ Ka f ∈F {|f |≥a} f ∈F {|f |≥a} 1 a→∞ H (|f |) dμ −→ 0. sup ≤ Ka f ∈F =⇒ “ Sei F gleichgradig integrierbar. Da μ(Ω) < ∞ gilt, gibt es (nach ” Satz 6.17) eine Folge an ↑ ∞ mit (|f | − an )+ dμ < 2−n . sup f ∈F
6.2 Gleichgradige Integrierbarkeit
Wir setzen H(x) =
∞
(x − an )+
139
f¨ur jedes x ≥ 0.
n=1
Dann ist H als Summe konvexer nFunktionen konvex. Ferner gilt f¨ur jedes n ∈ N und x ≥ 2an , dass H(x)/x ≥ k=1 (1 − ak /x)+ ≥ n/2, also gilt H(x)/x ↑ ∞. Schließlich ist nach dem Satz u¨ ber monotone Konvergenz f¨ur jedes f ∈ F H(|f (ω)|) μ(dω) =
∞
(|f | − an )+ dμ ≤
n=1
∞
2−n = 1.
2
n=1
Zur Notation · p erinnere man sich an Definition 4.16. Definition 6.20. Sei p ∈ [1, ∞]. Eine Familie F ⊂ Lp (μ) heißt beschr¨ankt in Lp (μ), falls sup{f p : f ∈ F} < ∞ gilt. Korollar 6.21. Ist μ(Ω) < ∞ und p > 1 sowie F beschr¨ankt in Lp (μ), dann ist F gleichgradig integrierbar. Beweis. Wende Satz 6.19 an mit der konvexen Abbildung H(x) = xp .
2
Korollar 6.22. Ist (Xi )i∈I eine Familie von Zufallsvariablen mit sup{|E[Xi ]| : i ∈ I} < ∞
sup{Var[Xi ] : i ∈ I} < ∞,
und
dann ist (Xi )i∈I gleichgradig integrierbar. Beweis. Dies folgt aus Korollar 6.21 mit p = 2, denn E[Xi2 ] = E[Xi ]2 + Var[Xi ] ist in i ∈ I beschr¨ankt. 2 Lemma 6.23. Es existiert eine Abbildung h ∈ L1 (μ) mit h > 0 fast u¨ berall. Beweis. Seien A1 , A2 , . . . , ∈ A mit An ↑ Ω und μ(An ) < ∞ f¨ur n ∈ N. Setze h=
∞
2−n 1 + μ(An ))−1 ½An .
n=1
Dann ist h > 0 fast u¨ berall und
0
h dμ =
∞ n=1
μ(An ) 2−n 1+μ(A ≤ 1. n)
2
140
6 Konvergenzs¨atze
Satz 6.24. Eine Familie F ⊂ L1 (μ) ist genau dann gleichgradig integrierbar, wenn die beiden folgenden Bedingungen erf¨ullt sind. (i) C := sup |f | dμ < ∞. f ∈F
(ii) Es gibt eine Funktion 0 ≤ h ∈ L1 (μ), sodass f¨ur jedes ε > 0 ein δ(ε) > 0 existiert mit |f | dμ ≤ ε f¨ur jedes A ∈ A mit h dμ < δ(ε). sup f ∈F
A
A
Ist μ(Ω) < ∞, so ist (ii) gleichwertig mit (iii): (iii) F¨ur jedes ε > 0 gibt es ein δ(ε) > 0, sodass |f | dμ ≤ ε f¨ur jedes A ∈ A mit μ(A) < δ(ε). sup f ∈F
A
Beweis. =⇒ “ Sei F gleichgradig integrierbar. Sei h ∈ L1 (μ) mit h > 0 ” fast u¨ berall. Sei ε > 0 und g ε/3 eine ε/3-Schranke f¨ur F (wie in (6.5)). Wegen g ε/3 ≥ αh ↓ ∅ f¨ur α → ∞, gilt f¨ur hinreichend großes α = α(ε) ε g ε/3 dμ < . 3 { gε/3 ≥αh} 0 ε Mit δ(ε) := 3α(ε) gilt dann f¨ur jedes A ∈ A mit A h dμ < δ(ε) und jedes f ∈ F |f | dμ ≤ |f | dμ + g ε/3 dμ {|f |> gε/3 }
A
ε ≤ + α 3
A
g ε/3 dμ ≤ ε.
h dμ + A
{ gε/3 ≥αh}
Damit ist (ii) gezeigt. Setzen wir in die Rechnung A = Ω ein, so erhalten wir 2ε |f | dμ ≤ + α h dμ < ∞. 3 Damit ist auch (i) gezeigt. ⇐= “ Es gelten (i) und (ii). Sei ε > 0. W¨ahle h und δ(ε) > 0 wie in (ii) und C ” C h. Dann ist wie in (i). Setze h = δ(ε) h dμ = {|f |> h}
δ(ε) C
{|f |> h}
δ(ε) h dμ ≤ C
|f | dμ ≤ δ(ε),
6.2 Gleichgradige Integrierbarkeit
141
|f | dμ < ε.
also nach Voraussetzung {|f |> h}
(ii) =⇒ (iii)“ Es gelte (ii).0 Sei ε > 0 und δ = δ(ε) wie in (ii) gew¨ahlt. Sei ” K < ∞ so groß gew¨ahlt, dass {h≥K} h dμ < δ/2. F¨ur A ∈ A mit μ(A) < δ/(2K) ist dann h dμ ≤ Kμ(A) + h dμ < δ, also
0 A
{h≥K}
A
|f | dμ ≤ ε f¨ur jedes f ∈ F.
(iii) =⇒ (ii)“ ”
Gelten (iii) und μ(Ω) < ∞, so leistet h ≡ 1 das Gew¨unschte. 2
Wir kommen zum Hauptsatz dieses Abschnittes. Satz 6.25. Sei {fn : n ∈ N} ⊂ L1 (μ). Die folgenden Aussagen sind a¨ quivalent. n→∞
(i) Es gibt ein f ∈ L1 (μ) mit fn −→ f in L1 . (ii) (fn )n∈N ist L1 (μ)-Cauchy-Folge, also fn − fm 1 −→ 0 f¨ur m, n → ∞. (iii) (fn )n∈N ist gleichgradig integrierbar, und es gibt eine messbare Abbildung f stoch mit fn −→ f . Die Limiten in (i) und (iii) stimmen u¨ berein. Beweis. (i) =⇒ (ii)“ Dies ist klar. ” (ii) =⇒ (iii)“ F¨ur jedes ε > 0 gibt es ein nε ∈ N, sodass fn − fnε 1 < ε f¨ur ” jedes n ≥ nε gilt. Also ist f¨ur jedes n ≥ nε auch (|fn | − |fnε |)+ 1 < ε. Mithin ist gε = max{|f1 |, . . . , |fnε |} eine ε-Schranke f¨ur (fn )n∈N (wie in (6.4)). F¨ur ε > 0 ist μ({|fm − fn | > ε}) ≤ ε−1 fm − fn 1 −→ 0 f¨ur m, n → ∞. Deshalb ist (fn )n∈N auch eine stochastische Cauchy-Folge, also stochastisch konvergent nach Korollar 6.15. (iii) =⇒ (i)“ Sei f der stochastische Grenzwert der Folge (fn )n∈N . Wir nehmen ” an, dass (fn )n∈N nicht in L1 gegen f konvergiert. Dann gibt es ein ε > 0 und eine Teilfolge (fnk )k∈N mit f − fnk 1 > 2ε
f¨ur jedes k ∈ N,
(6.6)
wobei wir f − fnk 1 = ∞ setzen, falls f ∈ L1 (μ) ist. Nach Korollar 6.13 gibt k→∞ es eine Teilfolge (fnk )k∈N von (fnk )k∈N mit fnk −→ f fast u¨ berall. Nach dem Lemma von Fatou (Satz 4.21) mit 0 als Minorante gilt daher
142
6 Konvergenzs¨atze
|f | dμ ≤ lim inf k→∞
|fnk | dμ < ∞.
Also ist f ∈ L1 (μ). Nach Satz 6.18(ii) (mit G = {f }) ist (f − fnk )k∈N gleichgradig 0 integrierbar, also gibt es ein 0 ≤ g ∈ L1 (μ), sodass (|f − fnk | − g)+ dμ < ε. Setze gk = |fnk − f | ∧ g f¨ur jedes k ∈ N. k→∞
Dann gilt gk −→ 0 fast u¨ berall und g − gk ≥ 0. Nach dem Lemma von Fatou ist g dμ − lim inf (g − gk ) dμ lim sup gk dμ = k→∞ k→∞ ≤ g dμ − lim (g − gk ) dμ = 0. k→∞
Wegen {|f − fnk | > gk } = {|f − fnk | > g} ist also
lim sup f − fnk 1 ≤ lim sup k→∞
k→∞
|f − fnk | dμ + lim sup
{|f −fn |>g}
k→∞
gk dμ ≤ ε,
k
2
im Widerspruch zu (6.6).
Korollar 6.26 (Lebesgue’scher Konvergenzsatz, majorisierte Konvergenz). Sei n→∞ f messbar und (fn )n∈N eine Folge in L1 (μ) mit fn −→ f stochastisch. Es exis1 tiere eine integrierbare Majorante 0 ≤ g ∈ L (μ) mit |fn | ≤ g fast u¨ berall f¨ur n→∞ jedes n ∈ N. Dann gilt f ∈ L1 (μ) und fn −→ f in L1 , also insbesondere 0 n→∞ 0 fn dμ −→ f dμ. Beweis. Das folgt aus Satz 6.25, weil die Majorante die gleichgradige Integrierbarkeit der Folge (fn )n∈N sichert. 2 ¨ Ubung 6.2.1. Sei H ∈ L1 (μ) mit H > 0 μ-f.¨u. (siehe Lemma 6.23) und (E, d) ein separabler metrischer Raum. Man zeige: (i) Durch
dH (f, g) :=
1 ∧ d(f (ω), g(ω)) H(ω) μ(dω)
wird eine Metrik definiert, die die stochastische Konvergenz erzeugt. (ii) Ist (E, d) vollst¨andig, so ist dH vollst¨andig.
♣
6.3 Vertauschung von Integral und Ableitung
143
6.3 Vertauschung von Integral und Ableitung Wir wollen untersuchen, wie sich Eigenschaften wie Stetigkeit und Differenzierbarkeit von Zweiparameterfunktionen unter Integration nach einer Variablen erhalten. Satz 6.27 (Stetigkeitslemma). Sei (E, d) ein metrischer Raum, x0 ∈ E und f : Ω × E → R eine Abbildung mit den Eigenschaften (i) f¨ur jedes x ∈ E ist die Abbildung ω → f (ω, x) in L1 (μ), (ii) f¨ur fast alle ω ∈ Ω ist die Abbildung x → f (ω, x) stetig im Punkte x0 , (iii) die Abbildung h : ω → supx∈E |f (ω, x)| ist in L1 (μ). Dann ist die Abbildung F : E → R, x →
f (ω, x) μ(dω) stetig in x0 .
Beweis. Sei (xn )n∈N eine Folge in E mit lim xn = x0 . Setze fn = f ( · , xn ). n→∞ n→∞
Nach Voraussetzung ist |fn | ≤ h und fn −→ f ( · , x0 ) fast u¨ berall. Nach dem Satz von der majorisierten Konvergenz (Korollar 6.26) ist n→∞ F (xn ) = fn dμ −→ f ( · , x0 ) dμ = F (x0 ). Also ist F stetig in x0 .
2
Satz 6.28 (Differentiationslemma). Sei I ⊂ R ein nichttriviales, offenes Intervall und f : Ω × I → R eine Abbildung mit den Eigenschaften (i) f¨ur jedes x ∈ I ist (ω → f (ω, x)) ∈ L1 (μ), (ii) f¨ur fast alle ω ∈ Ω ist I → R, x → f (ω, x) differenzierbar, wobei wir die Ableitung mit f bezeichnen, (iii) h := supx∈I |f ( · , x)| ∈ L1 (μ). Dann gilt: F¨ur jedes x ∈ I ist f ( · , x) ∈ L1 (μ). Die Funktion F : x → 0 f (ω, x) μ(dω) ist differenzierbar mit Ableitung F (x) = f (ω, x) μ(dω).
Beweis. Sei x0 ∈ I und (xn )n∈N eine Folge in I mit xn = x0 f¨ur jedes n ∈ N sowie lim xn = x0 . Wir zeigen, dass entlang der Folge (xn )n∈N die Differenzenn→∞ quotienten konvergieren. Setze
144
6 Konvergenzs¨atze
gn (ω) =
f (ω, xn ) − f (ω, x0 ) xn − x0
f¨ur jedes ω ∈ Ω.
Nach Voraussetzung (ii) gilt gn −→ f ( · , x0 ) n→∞
μ-fast u¨ berall.
Nach dem Zwischenwertsatz der Differentialrechnung existiert zu jedem n ∈ N und fast jedem ω ∈ Ω ein yn (ω) ∈ I mit gn (ω) = f (ω, yn (ω)). Speziell ist |gn | ≤ h f¨ur jedes n ∈ N. Nach dem Satz von der majorisierten Konvergenz (Korollar 6.26) ist also die Grenzfunktion f ( · , x0 ) in L1 (μ) und F (xn ) − F (x0 ) = lim f (ω, x0 ) μ(dω). 2 gn (ω) μ(dω) = lim n→∞ n→∞ xn − x0 Beispiel 6.29 (Laplace-Transformation). Sei X eine nichtnegative Zufallsvariable auf (Ω, A, P). In der Notation von Satz 6.28 sei I = [0, ∞) und f (x, λ) = e−λx f¨ur λ ∈ I. Dann ist ) * F (λ) = E e−λX in (0, ∞) unendlich oft differenzierbar. Die ersten Ableitungen sind F (λ) = −E[Xe−λX ] und F (λ) = E[(X 2 )e−λX ]. Sukzessive erhalten wir die n-te Ableitung F (n) (λ) = E[(−X)n e−λX ]. Es gilt (monotone Konvergenz) E[X] = − lim F (λ) λ↓0
(6.7)
und E[X n ] = (−1)n lim F (n) (λ) λ↓0
f¨ur jedes n ∈ N.
(6.8)
In der Tat: F¨ur ε > 0 und I = (ε, ∞) ist d sup f (x, λ) = sup x e−λx = ε−1 e−1 < ∞. x≥0, λ∈I dλ x≥0, λ∈I Damit erf¨ullt F die Voraussetzungen von Satz 6.28. Iterativ erhalten wir die Aussage f¨ur F (n) , denn n d n −n < ∞ f¨ur x ≥ 0 und λ ≥ ε. 3 dλn f (x, λ) ≤ (n/ε) e ¨ Ubung 6.3.1. Sei X eine Zufallsvariable auf (Ω, A, P) und
) * Λ(t) := log E etX f¨ur jedes t ∈ R. Man zeige, dass D := {t ∈ R : Λ(t) < ∞} ein nichtleeres Intervall ist, und dass Λ im Inneren von D unendlich oft differenzierbar ist. ♣
7 Lp -R¨aume und Satz von Radon-Nikodym
In diesem Kapitel wollen wir die R¨aume der Funktionen untersuchen, deren p-te Potenz integrierbar ist. Wir leiten in Abschnitt 7.2 zun¨achst wichtige Ungleichungen her (H¨older, Minkowski, Jensen) und untersuchen dann in Abschnitt 7.3 den Fall p = 2, wo wir Hilbertr¨aume vorliegen haben, im Detail. Neben den genannten Ungleichungen sind die wichtigsten Ergebnisse f¨ur die Stochastik der Zerlegungssatz von Lebesgue sowie der Satz von Radon-Nikodym in Abschnitt 7.4. Der Leser mag beim ersten Lesen die anderen, eher analytisch als stochastisch ausgerichteten, Teile dieses Kapitels u¨ berschlagen.
7.1 Definitionen Im Folgenden ist (Ω, A, μ) stets ein σ-endlicher Maßraum. In Definition 4.16 hatten wir f¨ur messbares f : Ω → R definiert f p := und
1/p |f |p dμ
f¨ur p ∈ [1, ∞),
f ∞ := inf K ≥ 0 : μ(|f | > K) = 0 .
Ferner hatten wir die R¨aume definiert, wo diese Ausdr¨ucke endlich sind Lp (Ω, A, μ) = Lp (A, μ) = Lp (μ) = {f : Ω → R ist messbar und f p < ∞}. Wir hatten gesehen, dass · 1 eine Pseudonorm auf L1 (μ) ist. Unser erstes Ziel ist es hier, · p zu einer echten Norm zu machen, und zwar f¨ur jedes p ∈ [1, ∞]. Abgesehen davon, dass die Dreiecksungleichung noch zu zeigen ist, m¨ussen wir zu diesem Zwecke auch den Raum ver¨andern, denn es gilt nur f − gp = 0
⇐⇒
f =g
μ-f.¨u.
Bei einer echten (also nicht nur Pseudo-)Norm muss aus der linken Seite schon Gleichheit (nicht nur f.¨u.) von f und g gelten. Wir sehen daher f und g als a¨ quivalent an, falls f = g fast u¨ berall. Sei also
7 Lp -R¨aume und Satz von Radon-Nikodym
146
N = {f ist messbar und f = 0 μ-f.¨u.}. F¨ur jedes p ∈ [1, ∞] ist N ein Untervektorraum von Lp (μ). Wir k¨onnen also formal den Quotientenraum bilden. Dies ist das Standardverfahren, um aus einer Pseudonorm eine Norm zu machen. Definition 7.1 (Quotientenraum). F¨ur jedes p ∈ [1, ∞] definieren wir Lp (Ω, A, μ) := Lp (Ω, A, μ)/N = {f¯ := f + N : f ∈ Lp (μ)}. ; ; 0 0 F¨ur f¯ ∈ Lp (μ) setzen wir ;f¯;p = f p f¨ur ein f ∈ f¯ und f¯ dμ = f dμ, falls dieser Ausdruck f¨ur f definiert ist. ; ; Man beachte, dass ;f¯;p nicht von der Wahl des Repr¨asentanten f ∈ f¯ abh¨angt. Wir wollen jetzt zun¨achst die Konvergenz bez¨uglich · p untersuchen und erweitern dazu den entsprechenden Satz (Satz 6.25) u¨ ber die Konvergenz bez¨uglich · 1 . n→∞
Definition 7.2. Seien p ∈ [1, ∞] und f, f1 , f2 , . . . ∈ Lp (μ). Falls fn − f p −→ 0 gilt, so sagen wir, dass (fn )n∈N im p-ten Mittel gegen f konvergiere und schreiben Lp
fn −→ f. Satz 7.3. Seien p ∈ [1, ∞] und f1 , f2 , . . . ∈ Lp (μ). Dann sind a¨ quivalent: Lp
(i) Es gibt ein f ∈ Lp (μ) mit fn −→ f . (ii) (fn )n∈N ist eine Cauchy-Folge in Lp (μ). Ist p < ∞ so sind (i) und (ii) zudem a¨ quivalent zu (iii) (|fn |p )n∈N ist gleichgradig integrierbar, und es gibt ein messbares f mit stoch fn −→ f . Die Limiten in (i) und (iii) stimmen u¨ berein. ¨ Beweis. F¨ur p = ∞ ist die Aquivalenz von (i) und (ii) eine einfache Schlussfolgerung aus der Dreiecksungleichung. Sei nun p ∈ [1, ∞). Der Beweis verl¨auft a¨ hnlich wie der Beweis von Satz 6.25. (i) =⇒ (ii)“ ”
F¨ur x, y ∈ R ist |x + y|p ≤ 2p (|x|p + |y|p ). Also ist
n→∞ fm − fn pp ≤ 2p fm − f pp + fn − f pp −→ 0
(ii) =⇒ (iii)“ ”
f¨ur m, n → ∞.
Das geht genauso wie im Beweis von Satz 6.25.
7.2 Ungleichungen und Satz von Fischer-Riesz
147
n→∞
(iii) =⇒ (i)“ Wegen |fn |p −→ |f |p stoch., gilt |f |p ∈ L1 (μ) nach Satz 6.25, ” n→∞ und damit f ∈ Lp (μ). Setze gn = |fn − f |p f¨ur n ∈ N. Dann ist gn −→ 0 p p stochastisch, und (gn )n∈N ist gleichgradig integrierbar, da gn ≤ 2 (|fn | + |f |p ). n→∞ 2 Also gilt (nach Satz 6.25) fn − f pp = gn 1 −→ 0. ¨ Ubung 7.1.1. Seien (Xi )i∈N unabh¨angige, quadratintegrierbare Zufallsvariablen mit E[Xi ] = 0 f¨ur jedes i ∈ N. ∞ (i) Man zeige: Gilt i=1 Var[Xi ] < ∞, so existiert eine reelle Zufallsvariable n n→∞ X mit i=1 Xi −→ X fast sicher. ♣
(ii) Gilt in (i) auch die Umkehrung? ¨ Ubung 7.1.2. Sei f : Ω → R messbar. Zeige: (i) Gilt
0
p→∞
|f |p dμ < ∞ f¨ur ein p ∈ (0, ∞), so gilt f p −→ f ∞ .
(ii) Auf die Integrierbarkeitsbedingung in (i) kann nicht verzichtet werden.
♣
¨ Ubung 7.1.3. Sei p ∈ (1, ∞), f ∈ Lp (λ), wobei λ das Lebesgue-Maß auf R ist, und T : R → R, x → x + 1. Man zeige: n−1 1 n→∞ f ◦ T k −→ 0 n
in Lp (λ).
♣
k=0
7.2 Ungleichungen und Satz von Fischer-Riesz Wir wollen eine der wichtigsten Ungleichungen der Wahrscheinlichkeitstheorie, die Jensen’sche Ungleichung f¨ur konvexe Funktionen, herleiten. Aus dieser kann man die H¨older’sche Ungleichung und die Minkowski’sche Ungleichung folgern, die uns die Dreiecksungleichung f¨ur · p liefern sowie den Dualraum zu bestimmen helfen. Allerdings geben wir hier direkte (und einfachere) Beweise f¨ur die beiden letztgenannten Ungleichungen. Bevor wir zur Jensen’schen Ungleichung kommen, wiederholen wir kurz Grunds¨atzliches zur Konvexit¨at von Mengen und Funktionen. Definition 7.4. Eine Teilmenge G eines Vektorraums (beziehungsweise eines affinlinearen Raums) heißt konvex, falls f¨ur je zwei Punkte x, y ∈ G und jedes λ ∈ [0, 1] auch λx + (1 − λ)y ∈ G ist. Beispiele 7.5.
(i) Die konvexen Teilmengen von R sind die Intervalle.
(ii) Ein linearer Unterraum eines Vektorraums ist konvex.
148
7 Lp -R¨aume und Satz von Radon-Nikodym
(iii) Die Menge aller W-Maße auf einem Messraum ist eine konvexe Menge.
3
Definition 7.6. Sei G eine konvexe Menge. Eine Abbildung ϕ : G → R heißt konvex, falls f¨ur je zwei Punkte x, y ∈ G und jedes λ ∈ [0, 1] gilt
ϕ λx + (1 − λ)y ≤ λ ϕ(x) + (1 − λ) ϕ(y). ϕ heißt konkav, falls (−ϕ) konvex ist. Ist I ⊂ R ein Intervall und ϕ : I → R stetig und im Inneren I ◦ zweimal stetig differenzierbar mit zweiter Ableitung ϕ , so ist ϕ genau dann konvex, wenn ϕ (x) ≥ 0 ist f¨ur alle x ∈ I ◦ . Anders ausgedr¨uckt: Die erste Ableitung ϕ einer konvexen Funktion ist eine monoton wachsende Funktion. Wir werden im n¨achsten Satz sehen, dass dies auch dann noch gilt, wenn ϕ nicht zweimal stetig differenzierbar ist, wenn wir zur rechtsseitigen Ableitung D+ ϕ u¨ bergehen (oder zur linksseitigen), von der wir zeigen, dass sie immer existiert. Satz 7.7. Sei I ⊂ R ein Intervall mit Innerem I ◦ sowie ϕ : I → R eine konvexe Abbildung. Dann gilt: (i) ϕ ist stetig in I ◦ und insbesondere messbar bez¨uglich B(I). (ii) F¨ur x ∈ I ◦ definiere die Funktion der Differenzenquotienten gx (y) :=
ϕ(y) − ϕ(x) y−x
f¨ur y ∈ I \ {x}.
Dann ist gx monoton wachsend, und es existieren die links- und rechtsseitigen Ableitungen D− ϕ(x) := lim gx (y) = sup{gx (y) : y < x} y↑x
und D+ ϕ(x) := lim gx (y) = inf{gx (y) : y > x}. y↓x
(iii) F¨ur x ∈ I ◦ gilt D− ϕ(x) ≤ D + ϕ(x) und ϕ(x) + (y − x)t ≤ ϕ(y) f¨ur jedes y ∈ I
⇐⇒
t ∈ [D − ϕ(x), D+ ϕ(x)].
D− ϕ(x) und D + ϕ(x) sind also die minimale und die maximale Tangentensteigung in x. (iv) Die Abbildungen x → D− ϕ(x) und x → D + ϕ(x) sind monoton wachsend. x → D− ϕ(x) ist linksstetig und x → D+ ϕ(x) ist rechtsstetig. Es gilt D − ϕ(x) = D + ϕ(x) in allen Stetigkeitspunkten von D− ϕ und D + ϕ. (v) ϕ ist genau dann in x differenzierbar, wenn D− ϕ(x) = D + ϕ(x) ist. In diesem Fall ist die Ableitung ϕ (x) = D + ϕ(x).
7.2 Ungleichungen und Satz von Fischer-Riesz
(vi) ϕ ist fast u¨ berall differenzierbar, und es gilt ϕ(b) − ϕ(a) = a, b ∈ I ◦ .
0b a
149
D+ ϕ(x) dx f¨ur
Beweis. (i) Sei x ∈ I ◦ . Wir nehmen an, dass lim inf n→∞ ϕ(x−1/n) ≤ ϕ(x)−ε f¨ur ein ε > 0 gilt. Da ϕ konvex ist, gilt ϕ(y) ≥ ϕ(x) + n(y − x)(ϕ(x) − ϕ(x − 1/n))
f¨ur jedes y > x und n ∈ N.
Zusammen mit der obigen Annahme folgt ϕ(y) = ∞ f¨ur jedes y > x. Mithin ¨ war die Annahme falsch. Die analoge Uberlegung f¨ur die rechte Seite liefert die Stetigkeit von ϕ in x. (ii)
Die Monotonie folgt aus der Konvexit¨at. Die anderen Aussagen sind klar.
(iii) Aufgrund der Monotonie von gx gilt D− ϕ(x) ≤ D+ ϕ(x). Per Konstruktion ist ϕ(x) + (y − x)t ≤ ϕ(y) f¨ur alle y < x genau dann, wenn t ≥ D − ϕ(x) ist und f¨ur alle y > x genau dann, wenn t ≤ D + ϕ(x) ist. (iv) F¨ur ε > 0 ist aufgrund der Konvexit¨at x → gx (x + ε) monoton wachsend und nach (i) stetig. Als Infimum monotoner, stetiger Funktionen ist x → D + ϕ(x) monoton wachsend und rechtsstetig. Analog folgt die Aussage f¨ur D− ϕ. Da x → gx (y) monoton ist, folgt D + ϕ(x ) ≥ D− ϕ(x ) ≥ D+ ϕ(x) f¨ur x > x. Ist D+ ϕ stetig in x, so ist D− ϕ(x) = D+ ϕ(x). (v) Dies ist klar, da D− ϕ und D + ϕ die Limiten der linksseitigen und rechtsseitigen Sekantensteigungsfolgen sind. (vi) F¨ur ε > 0 sei Aε = {x ∈ I : D + ϕ(x) ≥ ε + limy↑x D+ ϕ(y)} die Menge der Unstetigkeitsstellen der H¨ohe mindestens ε. F¨ur je zwei Punkte a, b ∈ I mit a < b ist #(Aε ∩ (a, b)) ≤ ε−1 (D+ ϕ(b) − D+ ϕ(a)), also Aε∩ (a, b) eine endliche ∞ Menge. Daher ist Aε h¨ochstens abz¨ahlbar. Also ist auch A = n=1 A1/n h¨ochstens abz¨ahlbar und damit eine Nullmenge. Nach (iv) und (v) ist ϕ differenzierbar in I ◦ \A mit Ableitung D + ϕ. 2 Ist I ein Intervall, so heißt eine Abbildung g : I → R affin linear, falls es Zahlen a, b ∈ R gibt mit g(x) = ax + b f¨ur alle x ∈ I. Ist ϕ : I → R eine Abbildung, so schreiben wir L(ϕ) := {g : I → R ist affin linear und g ≤ ϕ}. Wir schreiben kurz sup L(ϕ) f¨ur die Abbildung x → sup{f (x) : f ∈ L(ϕ)}. Korollar 7.8. Sei I ⊂ R ein offenes Intervall und ϕ : I → R eine Abbildung. Dann sind a¨ quivalent (i) ϕ ist konvex. (ii) Zu jedem x0 ∈ I existiert ein g ∈ L(ϕ) mit g(x0 ) = ϕ(x0 ). (iii) L(ϕ) ist nichtleer und ϕ = sup L(ϕ).
150
7 Lp -R¨aume und Satz von Radon-Nikodym
(iv) Es existiert eine Folge (gn )n∈N in L(ϕ) mit ϕ = limn→∞ max{g1 , . . . , gn }. Beweis. (ii) =⇒ (iii) ⇐⇒ (iv)“ Dies ist klar. ” (iii) =⇒ (i)“ Das Supremum konvexer Funktionen ist konvex, und jede affin ” lineare Funktion ist konvex. Also ist sup L(ϕ) konvex, falls L(ϕ) = ∅. (i) =⇒ (ii)“ Nach Satz 7.7(iii) ist f¨ur jedes x0 ∈ I die Abbildung x → ϕ(x0 ) + ” (x − x0 )D+ ϕ(x0 ) in L(ϕ). 2 Satz 7.9 (Jensen’sche Ungleichung). Sei I ⊂ R ein Intervall und X eine Zufallsvariable mit Werten in I und E[|X|] < ∞. Ist ϕ konvex, dann gilt E[ϕ(X)− ] < ∞ und E[ϕ(X)] ≥ ϕ(E[X]). Beweis. Da nach Korollar 7.8(iii) L(ϕ) = ∅ ist, k¨onnen wir a, b ∈ R so w¨ahlen, dass ax + b ≤ ϕ(x) gilt f¨ur alle x ∈ I. Es ist dann E[ϕ(X)− ] ≤ E[(aX + b)− ] ≤ |b| + |a| · E[|X|] < ∞. Wir unterscheiden die F¨alle, wo E[X] im Inneren I ◦ oder am Rand ∂I liegt. 1. Fall Ist E[X] ∈ I ◦ , so sei t+ := D+ ϕ(E[X]) die maximale Tangentensteigung von ϕ in E[X]. Dann ist ϕ(x) ≥ t+ · (x − E[X]) + ϕ(E[X]) f¨ur jedes x ∈ I, also E[ϕ(X)] ≥ t+ E[X − E[X]] + E[ϕ(E[X])] = ϕ(E[X]). 2. Fall Ist E[X] ∈ ∂I, so ist X = E[X] f.s., also E[ϕ(X)] = E[ϕ(E[X])] = ϕ(E[X]). 2 Die Jensen’sche Ungleichung l¨asst sich auf den Rn ausweiten. Hierf¨ur ben¨otigen wir eine Darstellung konvexer Funktionen mehrerer Ver¨anderlicher als Supremum von affin linearen Funktionen. Dabei heißt eine Funktion g : Rn → R affin linear, wenn es ein a ∈ Rn und ein b ∈ R gibt mit g(x) = a, x! + b f¨ur jedes x. Hierbei bezeichnet · , · ! das gew¨ohnliche Skalarprodukt auf Rn . Satz 7.10. Sei G ⊂ Rn offen und konvex und ϕ : G → R eine Abbildung. Dann gilt Korollar 7.8 sinngem¨aß mit I = G. Ist ϕ konvex, so ist ϕ stetig und insbesondere messbar. Ist ϕ zweimal stetig differenzierbar, so ist ϕ genau dann konvex, wenn die Hesse-Matrix positiv semidefinit ist. Beweis. Da wir die Aussagen nur f¨ur den Beweis der mehrdimensionalen Jensen’schen Ungleichung ben¨otigen, die aber im weiteren Verlaufe keine tragende Bedeutung hat, geben wir nur die Literatur an: Im Buch von Rockafellar [147] folgt die Stetigkeit aus Theorem 10.1, die Aussagen von Korollar 7.8 aus Theorem 12.1 und Theorem 18.8. Die Aussage u¨ ber die Hesse-Matrix steht in Theorem 4.5. 2
7.2 Ungleichungen und Satz von Fischer-Riesz
151
Satz 7.11 (Jensen’sche Ungleichung im Rn ). Sei G ⊂ Rn konvex, und seien X1 , . . . , Xn integrierbare reelle Zufallsvariablen mit P[(X1 , . . . , Xn ) ∈ G] = 1. Sei ferner ϕ : G → R konvex. Dann ist E[ϕ(X1 , . . . , Xn )− ] < ∞ und ) * E ϕ(X1 , . . . , Xn ) ≥ ϕ(E[X1 ], . . . , E[Xn ]). Beweis. Wir betrachten zun¨achst den Fall, wo G offen ist. Die Argumentation l¨auft hier a¨ hnlich wie beim
Beweis von Satz7.9. Sei g ∈ L(ϕ) mit g E[X1 ], . . . , E[Xn ] = ϕ E[X1 ], . . . , E[Xn ] . Da g ≤ ϕ linear ist, folgt *
) E ϕ(X1 , . . . , Xn ) ≥ E[g(X1 , . . . , Xn )] = g E[X1 ], . . . , E[Xn ] . Die Integrierbarkeit von ϕ(X1 , . . . , Xn )− folgt v¨ollig analog wie im eindimensionalen Fall. Sei jetzt der allgemeine Fall betrachtet, das heißt derjenige, wo G nicht notwendigerweise offen ist. Hier ist das Problem, wenn (E[X1 ], . . . , E[Xn ]) ∈ ∂G liegt, etwas kniffliger als im eindimensionalen Fall, weil ∂G flache St¨ucke haben kann, die aber selbst notwendigerweise wieder konvex sind. Man kann also nicht schließen, dass (X1 , . . . , Xn ) fast sicher gleich dem Erwartungswert ist. Wir skizzieren nur das Argument: Zun¨achst kann man nur folgern, dass (X1 , . . . , Xn ) fast sicher in einem solchen flachen St¨uck liegt. Dieses ist dann notwendigerweise von Dimension kleiner als n (oder Null, falls das St¨uck schon ein Punkt ist). Jetzt muss man ϕ auf das flache St¨uck einschr¨anken und sich iterativ in der Dimension herunter arbeiten. Die Details finden sich beispielsweise in [40, Theorem 10.2.6]. 2 Beispiel 7.12. Sei X eine reelle Zufallsvariable mit E[X 2 ] < ∞, I = R und ϕ(x) = x2 . Aus der Jensen’schen Ungleichung folgt Var[X] = E[X 2 ] − (E[X])2 ≥ 0.
3
Beispiel 7.13. G = [0, ∞) × [0, ∞), und α ∈ (0, 1) sowie ϕ(x, y) = xα y 1−α . ¨ ϕ ist konkav (Ubung!), daher gilt f¨ur nichtnegative Zufallsvariablen X und Y mit endlicher Erwartung (nach Satz 7.11) * ) 3 E X α Y 1−α ≤ (E[X])α (E[Y ])1−α . Beispiel 7.14. und Y wie in Beispiel 7.13. Sei p ∈ (1, ∞). Dann ist
Seien G, X p ψ(x, y) = x1/p + y 1/p konkav. Daher gilt (nach Satz 7.11) p p ( ' . 3 ≥ E X 1/p + Y 1/p E[X]1/p + E[Y ]1/p Wir kommen nun zu den beiden weiteren wichtigen Ungleichungen, der H¨older’schen Ungleichung und der Minkowski’schen Ungleichung. Zur Vorbereitung bringen wir ein Lemma.
152
7 Lp -R¨aume und Satz von Radon-Nikodym
Lemma 7.15 (Young’sche Ungleichung). F¨ur p, q ∈ (1, ∞) mit x, y ∈ [0, ∞) gilt xp yq xy ≤ + . p q
1 p
+ 1q = 1 und f¨ur (7.1)
yq xp + − xy f¨ur p q x ∈ [0, ∞). f ist zweimal stetig differenzierbar in (0, ∞) mit Ableitungen f (x) = xp−1 − y und f (x) = (p − 1)xp−2 . Speziell ist f strikt konvex und besitzt daher p , eine eindeutige Minimalstelle bei x0 = y 1/(p−1) . Nach Voraussetzung ist q = p−1 also xp0 = y q und daher 1 1 2 f (x0 ) = + y q − y 1/(p−1) y = 0. p q Beweis. Wir halten y ∈ [0, ∞) fest und definieren f (x) :=
Satz 7.16 (H¨older’sche Ungleichung). Seien p, q ∈ [1, ∞] mit f ∈ Lp (μ), g ∈ Lq (μ). Dann gilt (f g) ∈ L1 (μ) und
1 p
+
1 q
= 1 und
f g1 ≤ f p · gq . Beweis. Die F¨alle p = 1 und p = ∞ sind trivial. Sei also nun p ∈ (1, ∞) und f ∈ Lp (μ) und g ∈ Lq (μ) nicht fast u¨ berall Null. Indem wir zu f /f p und g/gq u¨ bergehen, k¨onnen wir f p = gq = 1 annehmen. Nach Lemma 7.15 ist 1 1 |f | · |g| dμ ≤ f g1 = |f |p dμ + |g|q dμ p q 1 1 = + = 1 = f p · gq . 2 p q Satz 7.17 (Minkowski’sche Ungleichung). F¨ur p ∈ [1, ∞] und f, g ∈ Lp (μ) gilt f + gp ≤ f p + gp .
(7.2)
Beweis. Der Fall p = ∞ ist wiederum trivial. Sei also p ∈ [1, ∞). Die linke Seite in (7.2) wird nicht kleiner, wenn wir f und g durch |f | und |g| ersetzen. Wir k¨onnen also ohne Einschr¨ankung annehmen, dass f ≥ 0, g ≥ 0 und f + gp > 0 gelten. Nun ist (f + g)p ≤ 2p (f p ∨ g p ) ≤ 2p (f p + g p ), also ist f + g ∈ Lp (μ). Mit Hilfe der H¨older’schen Ungleichung, angewandt auf f · (f + g)p−1 und auf g · (f + g)p−1 , erhalten wir f (f + g)p−1 dμ + g(f + g)p−1 dμ f + gpp = (f + g)p dμ = ≤ f p · (f + g)p−1 q + gp · (f + g)p−1 q = (f p + gp ) · f + gp−1 , p
7.3 Hilbertr¨aume
153
wobei wir im letzten Schritt ausgenutzt haben, dass p − p/q = 1 ist. Teilen wir nun beide Seiten durch f + gp−1 , so folgt (7.2). 2 p Wir haben in Satz 7.17 die Dreiecksungleichung gezeigt und damit, dass · p eine Norm ist. In Satz 7.3 wurde hingegen gezeigt, dass diese Norm vollst¨andig ist (jede Cauchy-Folge konvergiert). Ein vollst¨andiger normierter Vektorraum heißt Banachraum. Wir haben also den folgenden Satz gezeigt: Satz 7.18 (Fischer-Riesz). F¨ur p ∈ [1, ∞] ist (Lp (μ), · p ) ein Banachraum. ¨ Ubung 7.2.1. Zeige die H¨older’sche Ungleichung mit Hilfe der Jensen’schen Ungleichung mit der Funktion aus Beispiel 7.13. ♣ ¨ Ubung 7.2.2. Zeige die Minkowski’sche Ungleichung mit Hilfe der Jensen’schen Ungleichung mit der Funktion aus Beispiel 7.14. ♣ ¨ Ubung 7.2.3. Sei X eine reelle Zufallsvariable und p, q ∈ (1, ∞) mit p1 + 1q = 1. Zeige: X ist genau dann in Lp (P), wenn es ein C < ∞ gibt, sodass |E[XY ]| ≤ ♣ C Y q f¨ur jede beschr¨ankte Zufallsvariable Y .
7.3 Hilbertr¨aume In diesem Abschnitt betrachten wir nur den Fall p = 2. Ziel ist der Darstellungssatz von Riesz-Fr´echet f¨ur stetige lineare Funktionale auf Hilbertr¨aumen. Dieser Satz stellt einen Baustein f¨ur einen funktionalanalytischen Beweis des Satzes von RadonNikodym dar. Definition 7.19. Sei V ein reeller Vektorraum. Eine Abbildung · , · ! : V ×V → R heißt Skalarprodukt, falls (i) (Linearit¨at)
x, α y + z! = α x, y! + x, z! f¨ur alle x, y, z ∈ V und α ∈ R.
(ii) (Symmetrie)
x, y! = y, x! f¨ur alle x, y ∈ V .
(iii) (Positive Definitheit)
x, x! > 0 f¨ur jedes x ∈ V \ {0}.
Gelten lediglich (i), (ii) und x, x! ≥ 0 f¨ur jedes x, so heißt · , · ! eine positiv semidefinite symmetrische Bilinearform. Ist · , · ! ein Skalarprodukt, so heißt (V, · , · !) ein (reeller) Hilbertraum, falls die durch x := x, x!1/2 definierte Norm vollst¨andig ist, falls also (V, · ) ein Banachraum ist.
154
7 Lp -R¨aume und Satz von Radon-Nikodym
Definition 7.20. F¨ur f, g ∈ L2 (μ) definieren wir f, g! := f g dμ. F¨ur f¯, g¯ ∈ L2 (μ) definieren wir f¯, g¯! := f, g!, wobei f ∈ f¯ und g ∈ g¯. Man beachte, dass diese Definition unabh¨angig von der Wahl der Repr¨asentanten f und g ist. Satz 7.21. · , · ! ist ein Skalarprodukt auf L2 (μ) und eine positiv semidefinite symmetrische Bilinearform auf L2 (μ). Es gilt f 2 = f, f !1/2 . ¨ Beweis. Ubung!
2
Als Korollar zu Satz 7.18 erhalten wir: Korollar 7.22. (L2 (μ), · , · !) ist ein reeller Hilbertraum. Lemma 7.23. Ist · , · ! eine positiv semidefinite Bilinearform auf dem reellen Vektorraum V , so ist · , · ! : V × V → R stetig (bez¨uglich der Produkttopologie der Topologie auf V , die von der Pseudometrik d(x, y) = x − y, x − y!1/2 erzeugt wird). Beweis. Klar.
2
Definition 7.24 (Orthogonales Komplement). Sei V ein reeller Vektorraum mit Skalarprodukt · , · !. Ist W ⊂ V , so bezeichnen wir den Untervektorraum
W ⊥ := v ∈ V : v, w! = 0 f¨ur alle w ∈ W als das orthogonale Komplement von W . Satz 7.25 (Orthogonale Zerlegung). Sei (V, · , · !) ein Hilbertraum und W ⊂ V ein abgeschlossener linearer Unterraum. F¨ur jedes x ∈ V existiert eine eindeutige Darstellung x = y + z, wobei y ∈ W und z ∈ W ⊥ ist. Beweis. Sei x ∈ V und c := inf{x − w : w ∈ W }. Sei ferner (wn )n∈N eine n→∞ Folge in W mit x − wn −→ c. Die Parallelogrammgleichung ergibt ; ;2 ;1 ; 2 2 2 ; wm − wn = 2 wm − x + 2 wn − x − 4 ; (wm + wn ) − x; ; . 2 Da W linear ist, ist (wm + wn )/2 ∈ W , also 12 (wm + wn ) − x ≥ c. Also ist (wn )n∈N eine Cauchy-Folge: wm − wn −→ 0, falls m, n → ∞.
7.3 Hilbertr¨aume
155
Da V vollst¨andig ist und W abgeschlossen, ist auch W vollst¨andig, also gibt es ein n→∞ y ∈ W mit wn −→ y. Setze nun z := x−y. Dann ist z = limn→∞ wn −x = c aufgrund der Stetigkeit der Norm (Lemma 7.23). Betrachte ein beliebiges w ∈ W \ {0}. Wir setzen := − z, w!/w2 und erhalten y + w ∈ W , also c2 ≤ x − (y + w)2 = z2 + 2 w2 + 2 z, w! = c2 − 2 w2 . Folglich ist z, w! = 0 f¨ur alle w ∈ W und damit z ∈ W ⊥ . Die Eindeutigkeit der Darstellung klar: Ist x = y + z eine weitere orthogonale Zerlegung, so ist y − y ∈ W und z − z ∈ W ⊥ sowie y − y + z − z = 0, also ist 0 = y − y + z − z 2 = y − y 2 + z − z 2 + 2 y − y , z − z ! = y − y 2 + z − z 2 . Es folgt y = y und z = z .
2
Satz 7.26 (Darstellungssatz von Riesz-Fr´echet). Sei (V, · , · !) ein Hilbertraum und F : V → R eine Abbildung. Dann sind a¨ quivalent: (i) F ist stetig und linear. (ii) Es gibt ein f ∈ V mit F (x) = x, f ! f¨ur alle x ∈ V . Das Element f ∈ V in (ii) ist eindeutig bestimmt. Beweis. (ii) =⇒ (i)“ F¨ur jedes f ∈ V ist per Definition des Skalarprodukts die ” Abbildung x → x, f ! linear. Nach Lemma 7.23 ist diese Abbildung auch stetig. (i) =⇒ (ii)“ Ist F ≡ 0, so w¨ahle f = 0. Sei nun F nicht identisch Null. Da F ste” tig ist, ist der Kern W := F −1 ({0}) ein abgeschlossener echter linearer Unterraum von V . Sei v ∈ V \ W , und sei v = y + z f¨ur y ∈ W und z ∈ W ⊥ die orthogonale Zerlegung von v. Dann ist z = 0, und F (z) = F (v) − F (y) = F (v) = 0, und wir k¨onnen u := z/F (z) ∈ W ⊥ definieren. Offenbar ist F (u) = 1, und f¨ur jedes x ∈ V ist F (x − F (x)u) = F (x) − F (x)F (u) = 0, also x − F (x)u ∈ W und damit x − F (x)u, u! = 0. Folglich ist F (x) = x, u!/u2 . Setzen wir nun f := u/u2 , so ist F (x) = x, f ! f¨ur alle x ∈ V . Eindeutigkeit“ Sei x, f ! = x, g! f¨ur alle x ∈ V . Setzen wir x = f − g, so ” erhalten wir 0 = f − g, f − g!, also f = g. 2 Wir werden den Darstellungssatz im folgenden Abschnitt f¨ur den Raum L2 (μ) brauchen statt f¨ur den Hilbertraum L2 (μ). Mit ein bisschen abstract nonsense l¨asst sich aber der vorangehende Satz auf diese Situation anwenden. Wir erinnern daran, dass N = {f ∈ L2 (μ) : f, f ! = 0} der Unterraum der Funktionen ist, die fast u¨ berall Null sind, und L2 (μ) = L2 (μ)/N der Quotientenraum. Dies ist ein Spezialfall der
156
7 Lp -R¨aume und Satz von Radon-Nikodym
Situation, wo (V, · , · !) ein linearer Raum mit vollst¨andiger positiv semidefiniter symmetrischer Bilinearform ist. In diesem Fall ist N := {v ∈ V : v, v! = 0} und V0 = V /N := {f + N : f ∈ V }. Wir schreiben v + N , w + N !0 := v, w! und erhalten so einen Hilbertraum (V0 , · , · !0 ). Korollar 7.27. Sei (V, · , · !) ein linearer Vektorraum mit vollst¨andiger positiv semidefiniter symmetrischer Bilinearform. Die Abbildung F : V → R ist genau dann stetig und linear, wenn es ein f ∈ V gibt mit F (x) = x, f ! f¨ur alle x ∈ V . Beweis. Die eine Implikation ist trivial. Sei also F stetig und linear. Dann ist F (0) = 0, weil F linear ist, und f¨ur jedes v ∈ N ist F (v) = F (0) = 0, weil F stetig ist (klar: v liegt in jeder offenen Umgebung von 0, also muss F in v denselben Wert annehmen wie in 0). Also induziert F eine stetige lineare Abbildung F0 : V0 → R durch F0 (x + N ) = F (x). Nach Satz 7.26 existiert ein f + N ∈ V0 mit F0 (x + N ) = x + N , f + N !0 f¨ur jedes x + N ∈ V0 . Nach Definition von F0 und · , · !0 ist nun aber F (x) = x, f ! f¨ur jedes x ∈ V . 2 Korollar 7.28. Die Abbildung F : L2 (μ) 0 → R ist genau dann stetig und linear, wenn es ein f ∈ L2 (μ) gibt mit F (g) = gf dμ f¨ur alle g ∈ L2 (μ). Beweis. Der Raum L2 (μ) erf¨ullt die Bedingungen des vorangehenden Korollars.2 ¨ Ubung 7.3.1 (Fourier-Reihen). F¨ur n ∈ N0 seien Sn , Cn : [0, 1] → [0, 1] definiert durch Sn (x) = sin(2πn x), Cn (x) = cos(2πn x). F¨ur zweiquadratisch summier∞ bare reelle Folgen (an )n∈N und (bn )n∈N0 sei ha,b := b0 + n=1 (an Sn + bn Cn ). Ferner sei W der Vektorraum aller solcher ha,b . Man zeige: (i) Die Funktionen C0 , Sn , Cn , n ∈ N sind ein Orthogonalsystem in Λ2 ([0, 1], λ). (ii) Die Reihe, die ha,b definiert, konvergiert in L2 ([0, 1], λ). (iii) W ist ein abgeschlossener linearer Unterraum von L2 ([0, 1], λ). Fol(iv) F¨ur jedes f ∈ L2 ([0, 1], λ) existieren eindeutige quadratisch summierbare 2 2 gen (an )n∈N und (bn )n∈N0 mit f = ha,b . Es gilt f 22 = b20 + ∞ n=1 (an + bn ). ¨ Hinweis: Man zeige (iv) zun¨achst f¨ur Treppenfunktionen (siehe Ubung 4.2.6).
♣
7.4 Lebesgue’scher Zerlegungssatz In diesem Abschnitt benutzen wir die eben gewonnenen Aussagen u¨ ber Hilbertr¨aume, um ein Maß zu zerlegen in einen singul¨aren und einen absolutstetigen Anteil bez¨uglich eines zweiten Maßes. F¨ur den absolutstetigen Anteil zeigen wir, dass er
7.4 Lebesgue’scher Zerlegungssatz
157
eine Dichte besitzt. Seien μ und ν Maße auf (Ω, A). Nach Definition 4.13 heißt eine messbare Funktion f : Ω → [0, ∞) eine Dichte von ν bez¨uglich μ, falls ν(A) := f ½A dμ f¨ur jedes A ∈ A. (7.3) Andererseits definiert f¨ur jedes messbare f : Ω → [0, ∞) Gleichung (7.3) ein Maß ν auf (Ω, A). Wir schreiben in diesem Fall auch ν = fμ
und
f=
dν . dμ
Beispielsweise hat die Normalverteilung ν = N0,1 die Dichte f (x) = bez¨uglich des Lebesgue-Maßes μ = λ auf R. Ist g : Ω → [0, ∞] messbar, so gilt (nach Satz 4.15) g dν = gf dμ.
(7.4) 2 √1 e−x /2 2π
(7.5)
Wir erhalten so, dass genau dann g ∈ L1 (ν) ist, wenn gf ∈ L1 (μ) gilt, und in diesem Fall ist (7.5) erf¨ullt. Gilt ν = f μ, so ist offenbar ν(A) = 0 f¨ur jedes A ∈ A mit μ(A) = 0. In gewissem Sinne komplement¨ar ist die Situation beispielsweise bei der Poissonverteilung μ = Poi mit Parameter > 0 und ν = N0,1 . Hier ist N0 ⊂ R eine ν-Nullmenge mit μ(R \ N0 ) = 0. Wir sagen, dass ν singul¨ar zu μ ist. Das Ziel dieses Kapitels ist es, im allgemeinen Fall zu zeigen, dass ein beliebiges σ-endliches Maß ν auf einem Messraum (Ω, A) zerlegt werden kann in einen Teil, der singul¨ar zum σ-endlichen Maß μ ist, und einen Teil, der eine Dichte bez¨uglich μ hat (Lebesgue’scher Zerlegungssatz, Satz 7.33). Satz 7.29 (Eindeutigkeit der Dichte). Sei ν σ-endlich. Sind f1 und f2 Dichten von dν ν bez¨uglich μ, so gilt f1 = f2 μ-fast u¨ berall. Speziell ist die Dichtefunktion dμ eindeutig bis auf Gleichheit μ-fast u¨ berall. Beweis. Sei En ↑ Ω mit ν(En ) < ∞, n ∈ N. Sei An = En ∩ {f1 > f2 } f¨ur n ∈ N. Dann ist ν(An ) < ∞, also (f1 − f2 ) dμ. 0 = ν(An ) − ν(An ) = An
Nach Satz 4.8(i) gilt f2 ½An = f1 ½An μ-f.¨u. Da f1> f2 auf An gilt, erhalten wir μ(An ) = 0 und damit auch μ({f1 > f2 }) = μ( n∈N An ) = 0. Analog folgt 2 μ({f1 < f2 }) = 0, also f1 = f2 μ-f.¨u.
158
7 Lp -R¨aume und Satz von Radon-Nikodym
Definition 7.30. Seien μ und ν zwei Maße auf (Ω, A). (i) ν heißt absolutstetig bez¨uglich μ (kurz ν % μ), falls ν(A) = 0
f¨ur jedes A ∈ A mit μ(A) = 0.
(7.6)
Die Maße μ und ν heißen a¨ quivalent (kurz μ ≈ ν), falls ν % μ und μ % ν. (ii) μ heißt singul¨ar zu ν (kurz μ ⊥ ν), falls es ein A ∈ A gibt mit μ(A) = 0 und ν(Ω \ A) = 0. Bemerkung 7.31. Offenbar gilt μ ⊥ ν ⇐⇒ ν ⊥ μ.
3
Beispiel 7.32. (i) Sei μ ein Maß auf (R, B(R)) mit Dichte f bez¨uglich des Le0 besgue-Maßes λ. Dann ist f¨ur A ∈ A mit λ(A) = 0 0schon μ(A) = A f dλ = 0, also μ % λ. Ist λ-fast u¨ berall f > 0, so ist μ(A) = A f dλ > 0 falls λ(A) > 0, also μ ≈ λ. Ist λ({f = 0}) > 0, so ist (wegen μ({f = 0}) = 0) λ % μ. (ii) Betrachte die Bernoulli-Verteilungen Berp und Berq f¨ur p, q ∈ [0, 1]. Ist p ∈ (0, 1), so gilt Berq % Berp . Ist p ∈ {0, 1}, so ist Berq % Berp genau dann, wenn p = q, und Berq ⊥ Berp genau dann, wenn q = 1 − p. (iii) Betrachte die Poisson-Verteilungen Poiα und Poiβ f¨ur α, β ≥ 0. Es ist genau dann Poiα % Poiβ , wenn β > 0 oder α = 0. (iv) Betrachte die unendlichen Produktmaße (siehe Satz 1.64) (Berp )⊗N und (Berq )⊗N auf Ω = {0, 1}N . Dann ist (Berp )⊗N ⊥ (Berq )⊗N , falls p = q. In der Tat: Sei Xn ((ω1 , ω2 , . . .)) = ωn f¨ur jedes n ∈ N die Projektion von Ω auf die n-te Koordinate. Dann ist (Xn )n∈N unabh¨angig und Bernoulli-verteilt (siehe Beispiel 2.18) mit Parameter r unter (Berr )⊗N . Nach dem starken Gesetz der großen Zahl gibt es also f¨ur r ∈ {p, q} eine messbare Menge Ar ⊂ Ω mit (Berr )⊗N (Ω \ Ar ) = 0 und 1 lim Xi (ω) = r n→∞ n i=1 n
f¨ur jedes ω ∈ Ar .
Speziell ist also Ap ∩ Aq = ∅, falls p = q, und damit (Berp )⊗N ⊥ (Berq )⊗N .
3
Satz 7.33 (Zerlegungssatz von Lebesgue). Seien μ und ν σ-endliche Maße auf (Ω, A). Dann l¨asst sich ν auf eindeutige Weise zerlegen in den (bez¨uglich μ) absolutstetigen Anteil νa und den singul¨aren Anteil νs : ν = νa + νs , wobei νa % μ und νs ⊥ μ. νa hat eine Dichte bez¨uglich μ, und
dνa ist A-messbar und μ-f.¨u. endlich. dμ
7.4 Lebesgue’scher Zerlegungssatz
159
Korollar 7.34 (Satz von Radon-Nikodym). Seien μ und ν σ-endliche Maße auf (Ω, A). Dann gilt ν hat eine Dichte bez¨uglich μ
⇐⇒
dν A-messbar und μ-f.¨u. endlich. In diesem Fall ist dμ Ableitung von ν nach μ.
dν dμ
ν % μ. heißt Radon-Nikodym-
Beweis. Die eine Richtung ist trivial. Sei also ν % μ. Mit Satz 7.33 bekommen 2 wir, dass ν = νa eine Dichte bez¨uglich μ hat. Beweis (Satz 7.33). Die Idee geht auf v. Neumann zur¨uck, wir folgen der Darstellung in [40]. Wir k¨onnen uns durch die u¨ blichen Aussch¨opfungsargumente auf den Fall beschr¨anken wo μ und ν endlich sind. Nach Satz 4.19 ist die kanonische Inklusion i : L2 (Ω, A, μ + ν) → L1 (Ω, A, μ + ν) stetig. 0 Wegen ν ≤ μ + ν ist also auch die Linearform L2 (Ω, A, μ + ν) → R, h → h dν stetig. Nach dem Satz von Riesz-Fr´echet (hier: Korollar 7.28) existiert daher ein g ∈ L2 (Ω, A, μ + ν) mit (7.7) h dν = hg d(μ + ν) f¨ur jedes h ∈ L2 (Ω, A, μ + ν), oder a¨ quivalent dazu f (1 − g) d(μ + ν) = f dμ
f¨ur jedes f ∈ L2 (Ω, A, μ + ν).
(7.8)
W¨ahlen wir in (7.7) speziell h = ½{g<0} , so folgt, dass (μ + ν)-fast u¨ berall g ≥ 0 gilt. Analog folgt mit f = ½{g>1} , in (7.8) dass (μ + ν)-fast u¨ berall g ≤ 1 gilt, also ist 0 ≤ g ≤ 1. Sei nun f ≥ 0 messbar, und seien 0 ≤ f1 ≤ f2 ≤ . . . Funktionen in L2 (Ω, A, μ+ν) mit fn ↑ f . Nach dem Satz von der monotonen Konvergenz (angewandt auf das Maß (1 − g)(μ + ν), dem Maß mit Dichte (1 − g) bez¨uglich μ + ν) erhalten wir, dass (7.8) f¨ur alle messbaren f ≥ 0 gilt. Analog folgt die G¨ultigkeit von (7.7) f¨ur alle messbaren h ≥ 0. Sei E := g −1 ({1}). Setzen wir f = ½E in (7.8) ein, so erhalten wir μ(E) = 0. Wir definieren jetzt zwei Maße νa und νs f¨ur A ∈ A durch νa (A) := ν(A \ E)
und
νs (A) := ν(A ∩ E).
Offenbar gilt ν = νa 0+ νs und νs (Ω \ E) = 0, also νs 0⊥ μ. Ist nun A ∩ E = ∅ und μ(A) = 0, so ist ½A dμ = 0, also nach (7.8) auch A (1 − g) d(μ + ν) = 0. Andererseits ist 1−g > 0 auf A, also μ(A)+ν(A) = 0 und damit νa (A) = ν(A) = 0. Ist allgemeiner B messbar mit μ(B) = 0, so ist μ(B \ E) = 0, also nach dem
160
7 Lp -R¨aume und Satz von Radon-Nikodym
Gezeigten νa (B) = νa (B \ E) = 0. Folglich ist νa % μ und ν = νa + νs die gew¨unschte Zerlegung. g ½Ω\E . F¨ur Um die Dichte von νa bez¨uglich μ zu erhalten, setzen wir f := 1−g jedes A ∈ A ist nun nach (7.8) und (7.7) mit h = ½A\E
g d(μ + ν) = ν(A \ E) = νa (A).
f dμ = A
Also ist f =
A∩E c
2
dνa dμ .
¨ Ubung 7.4.1. Wir definieren eine Abbildung F : (0, 1] → (0, 1] an der Stelle x ∈ (0, 1] mit nicht abbrechender Bin¨ardarstellung x = (0, x1 x2 x3 . . .) := ∞ −n x durch n=1 n 2 F (x) = (0, x1 x1 x2 x2 x3 x3 . . .) =
∞
3 xn 4−n .
n=1
Man zeige, dass F die stetige Verteilungsfunktion eines W-Maßes μ auf B((0, 1]) ist, und dass μ singul¨ar zum Lebesgue-Maß λ ist. ♣ (0,1]
¨ Ubung 7.4.2. Sei n ∈ N und p, q ∈ [0, 1]. Unter welchen Bedingungen gilt f¨ur die Binomialverteilungen bn,p % bn,q ? Man bestimme die Radon-Nikodym Ableitung dbn,p ♣ dbn,q .
7.5 Erg¨anzung: Signierte Maße In diesem Abschnitt bringen wir die Zerlegungss¨atze f¨ur signierte Maße (Hahn, Jordan) und liefern einen alternativen Beweis f¨ur den Lebesgue’schen Zerlegungssatz. Definition 7.35. Seien μ und ν zwei Maße auf (Ω, A). ν heißt totalstetig bez¨uglich μ, falls es f¨ur jedes ε > 0 ein δ > 0 gibt, sodass f¨ur jedes A ∈ A gilt μ(A) < δ
impliziert ν(A) < ε.
(7.9)
Bemerkung 7.36. Die Definition der Totalstetigkeit ist sehr a¨ hnlich der der gleichgradigen Integrierbarkeit (siehe Satz 6.24(iii)), jedenfalls f¨ur endliches μ. Auf diesen Zusammenhang kommen wir im Rahmen des Martingalkonvergenzsatzes zur¨uck, der einen alternativen Beweis f¨ur den Satz von Radon-Nikodym (Korollar 7.34) liefert. 3 Satz 7.37. Seien μ und ν Maße auf (Ω, A). Ist ν totalstetig bez¨uglich μ, dann ist ν % μ. Ist ν(Ω) < ∞, so gilt auch die umgekehrte Implikation.
7.5 Erg¨anzung: Signierte Maße
161
Beweis. =⇒ “ Sei ν totalstetig bez¨uglich μ. Sei A ∈ A mit μ(A) = 0. F¨ur ” jedes ε > 0 ist nach Voraussetzung ν(A) < ε, also ν(A) = 0 und damit ν % μ. ⇐= “ Sei ν endlich, aber nicht totalstetig bez¨uglich μ. Dann existiert ein ε > 0 ” und Mengen An ∈ A mit μ(An ) < 2−n , aber ν(An ) ≥ ε f¨ur jedes n ∈ N. Setze ∞ ∞ Ak . Dann ist A := lim sup An = n→∞
n=1 k=n
μ(A) = lim μ n→∞
∞
≤ lim
Ak
n→∞
k=n
∞
μ(Ak ) ≤ lim
k=n
n→∞
∞
2−k = 0.
k=n
Da ν endlich ist und stetig von oben (Satz 1.36), gilt ∞ ν(A) = lim ν Ak ≥ inf ν(An ) ≥ ε > 0. n→∞
n∈N
k=n
Also ist ν % μ.
2
Beispiel 7.38. Die Endlichkeitsannahme ist f¨ur die Umkehrung im vorigen Satz essenziell. Sei beispielsweise μ = N0,1 die Standardnormalverteilung auf R und ν √ 2 das Lebesgue-Maß auf R. Dann hat ν bez¨uglich μ die Dichte f (x) = 2π ex /2 . n→∞ Speziell gilt ν % μ. Andererseits gilt μ([n, ∞)) −→ 0 und ν([n, ∞)) = ∞ f¨ur jedes n ∈ N. Mithin ist ν nicht totalstetig bez¨uglich μ. 3 Beispiel 7.39. Sei (Ω, A) ein Messraum, und seien μ und ν endliche Maße auf (Ω, A). Mit Z bezeichnen wir die Menge der endlichen Zerlegungen von Ω in disjunkte, messbare Mengen. Das heißt, Z ∈ Z ist eine endliche Teilmenge von A so, dass die Mengen C ∈ Z paarweise disjunkt sind und C∈Z C = Ω f¨ur jedes Z. F¨ur Z ∈ Z definieren wir eine Funktion fZ : Ω → R durch fZ (ω) =
C∈Z: μ(C)>0
ν(C) ½C (ω). μ(C)
Wir zeigen, dass die folgenden drei Aussagen a¨ quivalent sind: (i) 0Die Familie (fZ : Z ∈ Z) ist gleichgradig integrierbar in L1 (μ) und fZ dμ = ν(Ω) f¨ur jedes Z ∈ Z. (ii) Es gilt ν % μ. (iii) ν ist totalstetig bez¨uglich μ. ¨ Die Aquivalenz von (ii) und (iii) wurde im vorigen Satz bewiesen. Gilt (ii), so ist f¨ur jedes Z ∈ Z ν(C) = ν(Ω), fZ dμ = C∈Z: μ(C)>0
162
7 Lp -R¨aume und Satz von Radon-Nikodym
weil ν(C) = 0 ist f¨ur diejenigen C, die in der Summe nicht auftauchen. Sei nun ε > 0 gegeben. Da (iii) aus (ii) folgt, gibt es ein δ > 0, sodass ν(A) < ε/2 ist f¨ur jedes A ∈ A mit μ(A) ≤ δ . Sei K := ν(Ω)/δ und δ < ε/(2K). Dann ist ⎛ ⎞ 1 μ⎝ ν(Ω) = δ , C⎠ = μ(C) ≤ K C∈Z: Kμ(C)≤ν(C)
C∈Z: Kμ(C)≤ν(C)
also
⎛
ν(C) = ν ⎝
C∈Z: Kμ(C)≤ν(C)
⎞
C⎠ <
C∈Z: Kμ(C)≤ν(C)
ε . 2
Es folgt schließlich f¨ur A ∈ A mit μ(A) < δ ν(C) fZ dμ = μ(A ∩ C) μ(C) A C∈Z: μ(C)>0
=
μ(A ∩ C)
0
≤
ε + 2
ν(C) + μ(C)
K μ(A ∩ C) ≤
Kμ(C)>ν(C)
μ(A ∩ C)
Kμ(C)>ν(C)
ν(C) μ(C)
ε + K μ(A) < ε. 2
Also ist (fZ , Z ∈ Z) gleichgradig integrierbar nach Satz 6.24(iii). 0 Gelte nun (i). Ist μ = 0, so ist f dμ = 0 f¨ur jedes f , also ν(Ω) = 0 und damit ν % μ. Sei also μ = 0. Sei A ∈ A mit μ(A) = 0. Dann ist 0Z = {A, Ac } ∈ Z und fZ = ½Ac ν(Ac )/μ(Ac ). Nach Voraussetzung ist ν(Ω) = fZ dμ = ν(Ac ), also ν(A) = 0 und damit ν % μ. 3 Definition 7.40 (Ladungsverteilung, signiertes Maß). Eine Mengenfunktion ϕ : A → R heißt signiertes Maß oder Ladungsverteilung auf (Ω, A), falls sie σadditiv ist, falls also f¨ur jede Folge paarweise disjunkter Mengen A1 , A2 , . . . ∈ A gilt, dass ∞ ∞ ϕ An = ϕ(An ). (7.10) n=1
n=1
Die Menge aller Ladungsverteilungen bezeichnen wir mit LV = LV(Ω, A). Bemerkung 7.41. (i) Ist ϕ ein signiertes Maß, so liegt in (7.10) automatisch schon absolute Konvergenz vor. Tats¨achlich a¨ ndert sich ja der Wert der linken Seite nicht, wenn wir die Mengen A1 , A2 , . . . umnummerieren. Damit dies f¨ur die rechte Seite auch gilt, muss nach dem Weierstraß’schen Umordnungssatz die Reihe absolut konvergieren. Speziell gilt f¨ur jede Folge (An )n∈N paarweise disjunkter Mengen ∞ lim k=n |ϕ(Ak )| = 0. n→∞
7.5 Erg¨anzung: Signierte Maße
(ii) Ist ϕ ∈ LV, so ist ϕ(∅) = 0, da R ν(∅) =
163
n∈N ν(∅).
(iii) ϕ ∈ LV ist im Allgemeinen nicht σ-subadditiv.
3
Beispiel 7.42. Sind μ+ , μ− endliche Maße, so ist ϕ := μ+ −μ− ∈ LV. Wir werden sehen, dass jedes signierte Maß eine solche Darstellung besitzt. 3 Satz 7.43 (Zerlegungssatz von Hahn). Sei ϕ ein signiertes Maß. Dann gibt es eine Menge Ω + ∈ A mit ϕ(A) ≥ 0 f¨ur jedes A ∈ A, A ⊂ Ω + und ϕ(A) ≤ 0 f¨ur jedes A ∈ A, A ⊂ Ω − := Ω \ Ω + . Eine solche Darstellung Ω = Ω − Ω + wird auch Hahn-Zerlegung von Ω (bez¨uglich ϕ) genannt.
Beweis. Sei α := sup ϕ(A) : A ∈ A . Wir m¨ussen zeigen, dass ϕ das Maximum α tats¨achlich annimmt, dass es also ein Ω + ∈ A gibt mit ϕ(Ω + ) = α. Dann ist n¨amlich α ∈ R, und f¨ur A ⊂ Ω + , A ∈ A gilt α ≥ ϕ(Ω + \ A) = ϕ(Ω + ) − ϕ(A) = α − ϕ(A), also ϕ(A) ≥ 0. F¨ur A ⊂ Ω − , A ∈ A ist ϕ(A) ≤ 0, denn α ≥ ϕ(Ω + ∪ A) = ϕ(Ω + ) + ϕ(A) = α + ϕ(A). + Wir konstruieren nun Ω + mit ϕ(Ω ∞ ) = α. Sei (An )n∈N eine Folge in A mit α = lim ϕ(An ). Setze A := n=1 An . Da jedes An noch Anteile mit negati” n→∞ ver Masse“ enthalten kann, k¨onnen wir nicht einfach Ω + = A w¨ahlen. Vielmehr m¨ussen wir Schicht f¨ur Schicht die negativen Anteile abfischen.
Setze A0n := An und A1n := A \ An sowie n s(i) Pn := Ai : s ∈ {0, 1}n i=1
die Partition von A, die von A1 , . . . , An erzeugt wird. Offensichtlich gilt f¨ur B, C ∈ Pn entweder B = C oder B ∩ C = ∅. Außerdem gilt An = B. Setze B∈Pn B⊂An
Pn− := {B ∈ Pn : ϕ(B) < 0}, und
Cn :=
Pn+ := Pn \ Pn− , B.
+ B∈Pn
Wegen der endlichen Additivit¨at von ϕ ist ϕ(B) ≤ ϕ(B) ≤ ϕ(B) = ϕ(Cn ). ϕ(An ) = B∈Pn B⊂An
+ B∈Pn B⊂An
+ B∈Pn
164
7 Lp -R¨aume und Satz von Radon-Nikodym
n n n−1 F¨ur m ≤ n setze Em = Cm ∪ . . . ∪ Cn . F¨ur m < n ist Em \ Em ⊂ Cn , also n n−1 \ Em = B. Em + B∈Pn n \E n−1 B⊂Em m
n n−1 Speziell ist ϕ(Em \ Em ) ≥ 0. F¨ur Em := (n → ∞) und
n≥m
m m ϕ(Am ) ≤ ϕ(Cm ) = ϕ(Em ) ≤ ϕ(Em )+
= ϕ
m Em
∪
∞
n (Em n=m+1
\
n−1 Em )
n Cn gilt außerdem Em ↑ Em
∞
n n−1 ϕ(Em \ Em )
n=m+1
= ϕ
∞
n Em
= ϕ(Em ).
n=m
∞
Em , also Em ↓ Ω + . Dann ist ⎛ ⎞ (En \ En+1 )⎠ ϕ(Em ) = ϕ ⎝Ω +
Wir setzen jetzt Ω + =
m=1
n≥m +
= ϕ(Ω ) +
∞
m→∞
ϕ(En \ En+1 ) −→ ϕ(Ω + ),
n=m
wobei wir im letzten Schritt Bemerkung 7.41(i) ausgenutzt haben. Insgesamt ist α = lim ϕ(Am ) ≤ lim ϕ(Em ) = ϕ(Ω + ). m→∞
m→∞
Per Definition ist aber α ≥ ϕ(Ω ), also α = ϕ(Ω + ), was zu zeigen war. +
2
Korollar 7.44 (Zerlegungssatz von Jordan). Sei ϕ ∈ LV(Ω, A) ein signiertes Maß. Dann gibt es eindeutig bestimmte endliche Maße ϕ+ , ϕ− mit ϕ = ϕ+ − ϕ− und ϕ+ ⊥ ϕ− . Beweis. Sei Ω = Ω + Ω − die Hahn-Zerlegung. Setze ϕ+ (A) := ϕ(A ∩ Ω + ) und ϕ− (A) := −ϕ(A ∩ Ω − ). Die Eindeutigkeit der Zerlegung ist trivial.
2
Korollar 7.45. Sei ϕ ∈ LV(Ω, A) und ϕ = ϕ+ − ϕ− die Jordan-Zerlegung von ϕ sowie Ω = Ω + Ω − die Hahn-Zerlegung von Ω. Dann definiert
ϕT V := sup ϕ(A) − ϕ(Ω \ A) : A ∈ A = ϕ(Ω + ) − ϕ(Ω − ) = ϕ+ (Ω) + ϕ− (Ω) eine Norm auf LV(Ω, A), die so genannte Totalvariationsnorm.
7.5 Erg¨anzung: Signierte Maße
165
Beweis. Zu zeigen ist nur die Dreiecksungleichung. Seien ϕ1 , ϕ2 ∈ LV. Sei Ω = Ω + Ω − die Hahn-Zerlegung bez¨uglich ϕ := ϕ1 + ϕ2 und Ω = Ωi+ Ωi− die bez¨uglich ϕi , i = 1, 2. Dann gilt ϕ1 + ϕ2 T V = ϕ1 (Ω + ) − ϕ1 (Ω − ) + ϕ2 (Ω + ) − ϕ2 (Ω − ) ≤ ϕ1 (Ω1+ ) − ϕ1 (Ω1− ) + ϕ2 (Ω2+ ) − ϕ2 (Ω2− ) = ϕ1 T V + ϕ2 T V .
2
Wir wollen jetzt einen alternativen Beweis des Zerlegungssatzes von Lebesgue (Satz 7.33) angeben und bereiten dies mit einem Lemma vor. Lemma 7.46. Seien μ, ν endliche Maße auf (Ω, A), die nicht singul¨ar zueinander sind, kurz: μ ⊥ ν. Dann gibt es ein A ∈ A mit μ(A) > 0 und ein ε > 0 mit εμ(E) ≤ ν(E)
f¨ur jedes E ∈ A mit E ⊂ A.
1 + − Beweis. F¨ ur n ∈ N sei Ω = Ωn Ωn eine Hahn-Zerlegung zu (ν− n μ) ∈ LV. Setze M := n∈N Ωn− . Offenbar ist (ν − n1 μ)(M ) ≤ 0, also ν(M ) ≤ n1 μ(M ) f¨urjedes n ∈ N und deshalb ν(M ) = 0. Wegen μ ⊥ ν folgt μ Ω \ M ) = μ( n∈N Ωn+ > 0, also μ(Ωn+0 ) > 0 f¨ur ein n0 ∈ N. Setze A := Ωn+0 und ε := n10 . Damit ist dann μ(A) > 0 und (ν − εμ)(E) ≥ 0 f¨ur jedes E ⊂ A, E ∈ A. 2
Alternativer Beweis von Satz 7.33. Wir zeigen hier nur die Existenz der Zerlegung. Indem wir eine geeignete Folge Ωn ↑ Ω betrachten, k¨onnen wir annehmen, dass ν schon endlich ist. Betrachte die Menge der Funktionen 2 1 g dμ ≤ ν(A) f¨ur alle A ∈ A G := g : Ω → [0, ∞] : g ist messbar und A
und setze
γ := sup
g dμ : g ∈ G .
0Unser Ziel ist es, ein maximales Element f in G zu konstruieren (also eines mit f dμ = γ), das dann die gesuchte Dichte von νa ist. Offenbar ist 0 ∈ G, also G = ∅. Weiter gilt f, g ∈ G
impliziert
f ∨ g ∈ G.
(7.11)
Mit E := {f ≥ g} ist n¨amlich f¨ur A ∈ A (f ∨ g) dμ = f dμ + g dμ ≤ ν(A ∩ E) + ν(A \ E) = ν(A). A
A∩E
A\E
0 n→∞ W¨ahle eine Folge (gn )n∈N in G mit gn dμ −→ γ und setze fn = g1 ∨ . . . ∨ gn . Wegen (7.11) ist fn ∈ G. Der Satz von der monotonen Konvergenz liefert f¨ur f := sup{fn : n ∈ N}
7 Lp -R¨aume und Satz von Radon-Nikodym
166
fn dμ ≤ ν(A)
f dμ = sup A
n∈N
f¨ur jedes A ∈ A,
A
(das heißt f ∈ G) und weiter f dμ = sup fn dμ ≥ sup gn dμ = γ, n∈N
also
0
n∈N
f dμ = γ ≤ ν(Ω). Wir definieren nun f¨ur jedes A ∈ A νa (A) := f dμ, νs (A) := ν(A) − νa (A). A
Nach Konstruktion ist nun νa % μ0ein endliches Maß mit Dichte f bez¨uglich μ. Wegen f ∈ G ist νs (A) = ν(A) − A f dμ ≥ 0 f¨ur jedes A ∈ A, also ist auch νs ein endliches Maß. Es bleibt zu zeigen, dass νs ⊥ μ. An dieser Stelle benutzen wir Lemma 7.46. Wir nehmen an, dass νs ⊥ μ g¨alte. Dann g¨abe es ein ε > 0 und ein A ∈ A mit μ(A) > 0 so, dass εμ(E) ≤ νs (E) f¨ur jedes E ⊂ A, E ∈ A. F¨ur B ∈ A w¨are dann (f + ε ½A ) dμ = f dμ + εμ(A ∩ B) B
B
≤ νa (B) + νs (A ∩ B) ≤ νa (B) + νs (B) = ν(B). 0 Mit anderen Worten: (f + ε ½A ) ∈ G und damit (f + ε ½A ) dμ = γ + εμ(A) > γ, 2 was im Widerspruch zur Definition von γ steht. Also ist tats¨achlich νs ⊥ μ. ¨ Ubung 7.5.1. Sei μ ein σ-endliches Maß auf (Ω, A) und ϕ ein signiertes Maß auf (Ω, A). Man zeige, dass, analog zum Satz von Radon-Nikodym, die beiden folgenden Aussagen a¨ quivalent sind: (i) F¨ur jedes A ∈ A mit μ(A) = 0 ist ϕ(A) = 0. 0 (ii) Es gibt ein f ∈ L1 (μ) mit ϕ = f μ, also A f dμ = ϕ(A) f¨ur jedes A ∈ A. ♣ ¨ Ubung 7.5.2. Seien μ, ν, α endliche Maße auf (Ω, A) mit ν % μ % α. (i) Zeige, dass die Kettenregel f¨ur die Radon-Nikodym-Ableitung gilt: dν dμ dν = dα dμ dα (ii) Zeige, dass f :=
dν d(μ+ν)
α-f.¨u.
existiert und dass μ-f.¨u.
dν dμ
=
f 1−f
gilt.
♣
7.6 Erg¨anzung: Dualr¨aume
167
7.6 Erg¨anzung: Dualr¨aume Nach dem Darstellungssatz von Riesz-Fr´echet (Satz 7.26) hat jede stetige Linearform F : L2 (μ) → R eine Darstellung F (g) = f, g! f¨ur ein f ∈ L2 (μ). Andererseits ist f¨ur jedes f ∈ L2 (μ) die Abbildung L2 (μ) → R, g → f, g! stetig und linear. Daher ist L2 (μ) in kanonischer Weise isomorph zu seinem topologischen Dualraum (L2 (μ)) . Dieser ist allgemein wie folgt definiert. Definition 7.47 (Dualraum). Sei (V, · ) ein Banachraum. Der Dualraum V von V ist definiert durch V := {F : V → R ist stetig und linear}. F¨ur F ∈ V setzen wir F := sup{|F (f )| : f = 1}. Bemerkung 7.48. Da F stetig ist, existiert f¨ur jedes δ > 0 ein ε > 0, sodass 3 |F (f )| < δ gilt f¨ur jedes f ∈ V mit f < ε. Also ist F ≤ δ/ε < ∞. Wir sind nun an dem Fall V = Lp (μ) f¨ur p ∈ [1, ∞] interessiert und schreiben F p f¨ur die Norm von F ∈ V . Betrachten wir speziell V = L2 (μ), so ist nach der Cauchy-Schwarz’schen Ungleichung F 2 = f 2 . Dies l¨asst sich verallgemeinern: Lemma 7.49. Seien p, q ∈ [1, ∞] mit p1 + 1q = 1. Dann ist die kanonische Abbildung κ : Lq (μ) → (Lp (μ)) κ(f )(g) = f g dμ
f¨ur f ∈ Lq (μ), g ∈ Lp (μ)
eine Isometrie, das heißt κ(f )p = f q . Beweis. Wir zeigen die Gleichheit, indem wir beide Ungleichungen zeigen. ≤“ Dies folgt direkt aus der H¨older’schen Ungleichung. ” q p ≥“ F¨ur jedes zul¨assige Paar p, q und 0 f ∈ L (μ), g ∈ L (μ) gilt per Definition ” f g dμ . Wir definieren die Vorzeichenfunktider Operatornorm κ(f )p gp ≥ on sign(x) = ½(0,∞) (x)− ½(−∞,0) (x). Indem wir g durch g˜ := |g| sign(f ) ersetzen (beachte ˜ g p = gp ), erhalten wir (7.12) κ(f )p gp ≥ f g˜ dμ = f g1 . Sei zun¨achst q = 1 und f ∈ L1 (μ). Mit g ≡ 1 ∈ L∞ (μ) in (7.12) folgt κ(f )∞ ≥ f 1 . Sei nun q ∈ (1, ∞). W¨ahle g = |f |q−1 . Wegen
q−1 q
=
1 p
ist dann
168
7 Lp -R¨aume und Satz von Radon-Nikodym
κ(f )p · gp ≥ f g1 = |f |q ||1 = f qq = f q · f q−1 = f q · gp . q Sei schließlich q = ∞. Ohne Einschr¨ankung sei f ∞ ∈ (0, ∞). Sei ε > 0. Dann existiert ein Aε ∈ A mit 0 < μ(Aε ) < ∞, sodass
Aε ⊂ |f | > (1 − ε)f ∞ . Setzen wir g =
1 μ(Aε )
½Aε , so ist g1 = 1 und κ(f )1 ≥ f g1 ≥ (1 − ε)f ∞ . 2
Satz 7.50. F¨ur p ∈ [1, ∞) und p1 + 1q = 1 ist Lq (μ) isomorph zu (Lp (μ)) verm¨oge der Isometrie κ. Beweis. F¨ur den Beweis greifen wir zur¨uck auf den Satz von Radon-Nikodym (Korollar 7.34). Allerdings skizzieren wir den Beweis nur, weil wir die Theorie der signierten Maße und Inhalte nicht vertiefen wollen. Ein signierter Inhalt ν ist eine additive Mengenfunktion, die sich als Differenz ν = ν + − ν − zweier endlicher Inhalte darstellen l¨asst, also auch negative Werte annehmen kann. (Diese Begriffsbildung ist analog zu der des signierten Maßes, das sich ja als Differenz zweier Maße darstellen l¨asst.) Da κ eine Isometrie ist, ist κ insbesondere injektiv. Wir m¨ussen also nur noch zeigen, dass κ surjektiv ist. Sei F ∈ (Lp (μ)) . Dann ist ν(A) = F (½A ) ein signierter Inhalt auf A, und es gilt |ν(A)| ≤ F p (μ(A))1/p . Da μ ∅-stetig ist, ist also auch ν ∅-stetig und daher ein signiertes Maß auf A. Es gilt sogar ν % μ. Nach dem Satz von Radon-Nikodym (Korollar 7.34) (angewandt auf ¨ 7.5.1) besitzt ν eine Dichte bez¨uglich μ, die Maße ν − und ν + , vergleiche Ubung also eine messbare Funktion f mit ν = f μ. Sei Ef := {g : g ist Elementarfunktion mit μ(g = 0) < ∞} und E+ f := {g ∈ Ef : g ≥ 0}. Dann ist f¨ur g ∈ Ef F (g) = gf dμ. (7.13) Um zu zeigen, dass (7.13) f¨ur alle g ∈ Lp (μ) gilt, m¨ussen wir zun¨achst zeigen, dass f ∈ Lq (μ) liegt. Wir unterscheiden zwei F¨alle. Fall 1: p = 1.
F¨ur jedes α > 0 ist
1 ν({|f | > α}) α 1 1 1 = F (½{|f |>α} ) ≤ F 1 · ½{|f |>α} 1 = F 1 · μ({|f | > α}). α α α
μ({|f | > α}) ≤
Es folgt μ({|f | > α}) = 0, falls α > F 1 , also f ∞ ≤ F 1 < ∞.
7.6 Erg¨anzung: Dualr¨aume
169
Fall 2: p ∈ (1, ∞). Nach Satz 1.96 (und weil μ σ-endlich ist) existieren g1 , g2 , . . . ∈ E+ u. Setzen wir hn = sign(f )(gn )q−1 ∈ Ef , so f so, dass gn ↑ |f | μ-f.¨ gilt gn qq ≤
hn f dμ = F (hn )
≤ F p · hn p = F p · (gn q )q−1 , also ist gn q ≤ F p . Monotone Konvergenz (Satz 4.20) liefert nun f q ≤ F p < ∞ also f ∈ Lq (μ). 0 Daher ist die Abbildung F : g → gf dμ in (Lp (μ)) und F (g) = F (g) f¨ur jedes 2 g ∈ Ef . Da F stetig ist und Ef ⊂ Lp (μ) dicht liegt, gilt schon F = F . Bemerkung 7.51. Die Aussage von Satz 7.50 ist f¨ur p = ∞ im Allgemeinen falsch. (F¨ur endliches A ist die Aussage trivialerweise auch f¨ur p = ∞ richtig.) Sei beispielsweise Ω = N, A = 2Ω und μ das Z¨ahlmaß. Wir betrachten also Folgenr¨aume p = Lp (N, 2N , μ). F¨ur den Unterraum K ⊂ ∞ der konvergenten Folgen ist F : K → R, (an )n∈N → lim an ein stetiges lineares Funktional. Nach den n→∞ Hahn-Banach S¨atzen der Funktionalanalysis (siehe etwa [77] oder [166]) kann F zu einem stetigen linearen Funktional auf ∞ fortgesetzt werden. Offenbar gibt es ∞ am bm . 3 jedoch kein (bn )n∈N ∈ 1 mit F ((an )n∈N ) = m=1
¨ Ubung 7.6.1. Man zeige, dass Ef ⊂ Lp (μ) dicht liegt, falls p ∈ [1, ∞).
♣
8 Bedingte Erwartungen
Wenn u¨ ber den Ausgang eines Zufallsexperimentes eine Teilinformation vorhanden ist, a¨ ndern sich die Wahrscheinlichkeiten f¨ur die m¨oglichen Ereignisse. Das Konzept der bedingten Wahrscheinlichkeiten und bedingten Erwartungen formalisiert den zugeh¨origen Kalk¨ul.
8.1 Elementare bedingte Wahrscheinlichkeiten Beispiel 8.1. Wir werfen einen fairen sechsseitigen W¨urfel und betrachten die Ereignisse A := {Augenzahl drei oder kleiner}, B := {Augenzahl ungerade}. Offenbar ist P[A] = 12 und P[B] = 12 . Wie groß ist aber die Wahrscheinlichkeit, dass B eintritt, wenn wir schon wissen, dass A eintritt? Wir modellieren das Experiment auf einem Wahrscheinlichkeitsraum (Ω, A, P), wobei Ω = {1, . . . , 6}, A = 2Ω und P die Gleichverteilung auf Ω ist. Dann ist A = {1, 2, 3}
B = {1, 3, 5}.
und
Wenn wir nur wissen, dass A eingetreten ist, liegt es nahe, auf {1, 2, 3} die Gleichverteilung zu vermuten. Wir definieren also auf (A, 2A ) ein neues W-Maß PA durch PA [C] =
#C #A
f¨ur C ⊂ A.
Indem wir Punkten in Ω \ A die Wahrscheinlichkeit Null geben (die k¨onnen ja nicht eingetreten sein, wenn A eingetreten ist), k¨onnen wir PA auf Ω fortsetzen durch P[C |A] := PA [C ∩ A] = So erhalten wir P[B |A] =
#(C ∩ A) #A
#{1, 3} 2 = . #{1, 2, 3} 3
f¨ur C ⊂ Ω. 3
172
8 Bedingte Erwartungen
Durch das Beispiel motiviert treffen wir die folgende Definition. Definition 8.2 (Bedingte Wahrscheinlichkeit). Sei (Ω, A, P) ein Wahrscheinlichkeitsraum und A ∈ A. Dann definieren wir die bedingte Wahrscheinlichkeit gegeben A f¨ur jedes B ∈ A durch ⎧ ⎨ P[A ∩ B] , falls P[A] > 0, P[A] P[B |A] = (8.1) ⎩ 0, sonst. Bemerkung 8.3. Die genaue Festsetzung in (8.1) f¨ur den Fall P[A] = 0 ist willk¨urlich und unerheblich. 3 Satz 8.4. Ist P[A] > 0, so ist P[ · |A] ein W-Maß auf (Ω, A). 2
Beweis. Trivial! Satz 8.5. Seien A, B ∈ A mit P[A], P[B] > 0. Dann gilt A, B sind unabh¨angig
⇐⇒ P[B |A] = P[B] ⇐⇒ P[A|B] = P[A]. 2
Beweis. Trivial! Satz 8.6 (Formel von der totalen Wahrscheinlichkeit).
Sei I eine abz¨ahlbare Menge und (Bi )i∈I paarweise disjunkte Mengen ) h¨ochstens * mit P i∈I Bi = 1. Dann gilt f¨ur jedes A ∈ A P[A] =
P[A|Bi ] P[Bi ].
(8.2)
i∈I
Beweis. Wegen der σ-Additivit¨at von P ist . (A ∩ Bi ) = P[A ∩ Bi ] = P[A|Bi ]P[Bi ]. P[A] = P i∈I
i∈I
2
i∈I
Satz 8.7 (Bayes’sche Formel). Sei I eine )h¨ ochstens* abz¨ahlbare Menge sowie (Bi )i∈I paarweise disjunkte Mengen mit P i∈I Bi = 1. Dann gilt f¨ur jedes A ∈ A mit P[A] > 0 und jedes k ∈ I P[Bk |A] =
P[A|Bk ] P[Bk ] . i∈I P[A|Bi ] P[Bi ]
(8.3)
8.1 Elementare bedingte Wahrscheinlichkeiten
173
Beweis. Es gilt P[Bk |A] =
P[A|Bk ] P[Bk ] P[Bk ∩ A] = . P[A] P[A]
Setze jetzt (8.2) f¨ur P[A] ein.
2
Beispiel 8.8. Bei der Produktion gewisser elektronischer Bauteile sind 2% der Ware defekt. Ein schnelles Testverfahren erkennt ein defektes Bauteil mit Wahrscheinlichkeit 95%, meldet aber bei 10% der intakten Bauteile falschen Alarm. Mit welcher Wahrscheinlichkeit ist ein als defekt erkanntes Bauteil wirklich defekt? Wir formalisieren die obige Beschreibung. Seien A := {Bauteil wird als defekt deklariert}, B := {Bauteil ist defekt}, sowie
P[B] = 0.02, P[A|B] = 0.95,
P[B c ] = 0.98, P[A|B c ] = 0.1.
Die Bayes’sche Formel liefert nun P[B |A] = =
P[A|B] P[B] P[A|B] P[B] + P[A|B c ] P[B c ] 0.95 · 0.02 19 = ≈ 0.162. 0.95 · 0.02 + 0.1 · 0.98 117
Andererseits ist die Wahrscheinlichkeit, dass ein nicht als defekt erkanntes Bauteil dennoch defekt ist P[B |Ac ] =
0.05 · 0.02 1 = ≈ 0.00113. 0.05 · 0.02 + 0.9 · 0.98 883
3
Sei nun X ∈ L1 (P). Ist A ∈ A, so ist offenbar auch ½A X ∈ L1 (P), und wir setzen E[X; A] := E[½A X].
(8.4)
Ist P[A] > 0, so ist P[ · |A] ein W-Maß. Wegen ½A X ∈ L1 (P) ist auch X ∈ L1 (P[ · |A]). Also k¨onnen wir den Erwartungswert von X bez¨uglich P[ · |A] definieren. Definition 8.9. Sei X ∈ L1 (P) und A ∈ A. Dann setzen wir ⎧ ⎨ E[½A X] , falls P[A] > 0, P[A] E[X |A] := X(ω) P[dω |A] = ⎩ 0, sonst.
(8.5)
174
8 Bedingte Erwartungen
Offenbar ist P[B |A] = E[½B |A] f¨ur jedes B ∈ A. Wir betrachten nun die Situation, die wir bei der Formel von der totalen Wahrscheinlichkeit untersucht hatten. Sei also I eine h¨ ochstens abz¨ahlbare Menge, und Bi = Ω. Wir definieren F := seien (Bi )i∈I paarweise disjunkte Ereignisse mit i∈I
σ(Bi , i ∈ I). F¨ur X ∈ L1 (P) definieren wir eine Abbildung E[X |F] : Ω → R durch ⇐⇒ Bi ω. (8.6) E[X |F](ω) = E[X |Bi ] Lemma 8.10. Die Abbildung E[X |F] hat die folgenden Eigenschaften: (i) E[X |F] ist F-messbar,
(ii) E[X |F] ∈ L1 (P), und f¨ur jedes A ∈ F gilt
E[X |F] dP = A
X dP. A
Beweis. (i) Sei f die Abbildung f : Ω → I, mit f (ω) = i
⇐⇒
Bi ω.
Ferner sei g : I → R, i → E[X |Bi ]. Da I diskret ist, ist g messbar. Da f messbar ist bez¨uglich F, ist auch E[X |F] = g ◦ f messbar bez¨uglich F. (ii) Sei A ∈ F und J ⊂ I mit A = j∈J Bj . Sei J := {i ∈ J : P[Bi ] > 0}. Dann ist E[X |F] dP = P[Bi ] E[X |Bi ] = E[½Bi X] = X dP. 2 A
i∈J
i∈J
A
¨ Ubung 8.1.1 (Ged¨achtnislosigkeit der Exponentialverteilung). Sei X eine nichtnegative Zufallsvariable und θ > 0. Man zeige: Genau dann ist X exponentialverteilt, wenn P[X > t + s|X > s] = P[X > t]
f¨ur alle s, t ≥ 0.
Insbesondere gilt f¨ur θ > 0: Genau dann ist X ∼ expθ , wenn P[X > t + s|X > s] = e−θt f¨ur alle s, t ≥ 0 gilt. ♣ ¨ Ubung 8.1.2. Ein Theater mit n nummerierten Sitzen ist f¨ur heute Abend ausgebucht und jede der n wartenden Personen hat eine g¨ultige Platzkarte. Nacheinander betreten die G¨aste den Saal und nehmen Platz. Da die erste Person zerstreut ist, w¨ahlt sie jedoch zuf¨allig einen Platz aus. Jede folgende Person setzt sich auf ihren reservierten Platz, falls der frei ist, und w¨ahlt sonst zuf¨allig einen der freien Pl¨atze aus. (i) Wie groß ist die Wahrscheinlichkeit, dass die letzte Person ihren reservierten Platz bekommt? (ii) Wie groß ist die Wahrscheinlichkeit, dass die k-te Person ihren reservierten Platz bekommt? ♣
8.2 Bedingte Erwartungen
175
8.2 Bedingte Erwartungen Wir nehmen an, dass X eine uniform auf [0, 1] verteilte Zufallsvariable ist, und dass bei Kenntnis des Wertes X = x die Zufallsvariablen Y1 , . . . , Yn unabh¨angig und Berx -verteilt sind. Mit unserem Apparat k¨onnen wir bisher bedingte Wahrscheinlichkeiten vom Typ P[ · |X ∈ [a, b]], a < b, ausrechnen. Wie sieht es aber aus mit P[Y1 = . . . = Yn = 1 X = x]? Intuitiv sollte dies xn sein. Wir brauchen einen Begriff der bedingten Wahrscheinlichkeit, der auch f¨ur Ereignisse mit Wahrscheinlichkeit Null in konsistenter Weise unserer Intuition entspricht. Wir werden (im n¨achsten Abschnitt) sehen, dass dies im vorliegenden Beispiel mit Hilfe von ¨ Ubergangskernen m¨oglich ist. Zun¨achst aber betrachten wir die allgemeine Situation. Sei im Folgenden stets F ⊂ A eine Unter-σ-Algebra und X ∈ L1 (Ω, A, P). In Anlehnung an Lemma 8.10 treffen wir die folgende Definition. Definition 8.11 (Bedingte Erwartung). Eine Zufallsvariable Y heißt bedingte Erwartung von X gegeben F, symbolisch E[X |F] := Y , falls gilt: (i) Y ist F-messbar. (ii) F¨ur jedes A ∈ F gilt E[X ½A ] = E[Y ½A ]. F¨ur B ∈ A heißt P[B |F] := E[½B |F] die bedingte Wahrscheinlichkeit von B gegeben F. Satz 8.12. E[X |F] existiert und ist eindeutig (bis auf Gleichheit fast sicher). Da bedingte Erwartungen nur bis auf Gleichheit f.s. definiert sind, sind alle Gleichheiten mit bedingten Erwartungen immer nur als Gleichheiten f.s. zu verstehen, auch wenn nicht explizit darauf hingewiesen wird. Beweis. Eindeutigkeit. Seien Y und Y Zufallsvariablen, die (i) und (ii) erf¨ullen. Setze A = {Y > Y } ∈ F. Dann ist nach Bedingung (ii) 0 = E[Y ½A ] − E[Y ½A ] = E[(Y − Y ) ½A ]. Wegen (Y − Y ) ½A ≥ 0, ist dann P[A] = 0, also Y ≤ Y fast sicher. Analog folgt Y ≥ Y fast sicher. Existenz.
Seien X + = X ∨ 0 und X − = X + − X. Durch Q± (A) := E[X ± ½A ]
f¨ur jedes A ∈ F,
werden zwei endliche Maße auf (Ω, F) definiert. Offenbar ist Q± % P, also liefert der Satz von Radon-Nikodym (Korollar 7.34) die Existenz von Dichten Y ± , sodass
176
8 Bedingte Erwartungen ±
Y ± dP = E[Y ± ½A ].
Q (A) = A
Setze nun Y = Y + − Y − .
2
Definition 8.13. Ist Y eine Zufallsvariable und X ∈ L1 (P), so definieren wir E[X |Y ] := E[X |σ(Y )]. Satz 8.14 (Eigenschaften der bedingten Erwartung). Seien (Ω, A, P) und X wie oben sowie G ⊂ F ⊂ A σ-Algebren. Ferner sei Y ∈ L1 (Ω, A, P). Dann gilt: (i) (Linearit¨at) E[λX + Y |F] = λE[X |F] + E[ Y |F]. (ii) (Monotonie)
Ist X ≥ Y f.s., so ist E[X |F] ≥ E[ Y |F].
(iii) Ist E[|XY |] < ∞ und ist Y messbar bez¨uglich F, dann ist E[XY |F] = Y E[X |F]
und
E[ Y |F] = E[ Y |Y ] = Y.
E[E[X |F]|G] = E[E[X |G]|F] = E[X |G]. (v) (Dreiecksungleichung) E[|X| F] ≥ E[X |F].
(iv) (Turmeigenschaft) (vi) (Unabh¨angigkeit)
Sind σ(X) und F unabh¨angig, so ist E[X |F] = E[X].
(vii) Gilt P[A] ∈ {0, 1} f¨ur jedes A ∈ F, so ist E[X |F] = E[X]. (viii) (Majorisierte Konvergenz) Ist Y ∈ L1 (P), Y ≥ 0 und ist (Xn )n∈N eine n→∞ Folge von Zufallsvariablen mit |Xn | ≤ Y f¨ur n ∈ N sowie Xn −→ X f.s., so gilt lim E[Xn |F] = E[X |F]
n→∞
f.s. und in L1 (P).
(8.7)
Beweis. (i) Die rechte Seite ist F-messbar, und f¨ur A ∈ F ist * ) ) * ) * E ½A λE[X |F] + E[Y |F] = λE ½A E[X |F] + E ½A E[Y |F] = λE[½A X] + E[½A Y ] ) * = E ½A (λX + Y ) . (ii) Sei A = {E[X |F] < E[Y |F]} ∈ F. Wegen X ≥ Y ist E[½A (X − Y )] ≥ 0, also P[A] = 0. (iii) Sei zun¨achst X ≥ 0 und Y ≥ 0. F¨ur n ∈ N setze Yn = 2−n 2n Y . Dann ist Yn ↑ Y sowie Yn E[X |F] ↑ Y E[X |F] (da E[X |F] ≥ 0 nach (ii)). Es gilt nach dem Satz von der monotonen Konvergenz (Lemma 4.6(ii)) * n→∞ ) * ) E ½A Yn E[X |F] −→ E ½A Y E[X |F] .
8.2 Bedingte Erwartungen
177
Andererseits ist ∞ ) * ) * E ½A Yn E[X |F] = E ½A ½{Yn =k 2−n } k 2−n E[X |F]
=
k=1 ∞
) * E ½A ½{Yn =k 2−n } k 2−n X
k=1
* n→∞ ) = E ½A Yn X −→ E[½A Y X]. Also gilt E[½A Y E[X |F]] = E[½A Y X]. Im allgemeinen Fall schreiben wir X = X + − X − und Y = Y + − Y − und nutzen die Linearit¨at der bedingten Erwartung aus. (iv) Die zweite Gleichung folgt aus (iii) mit Y = E[X |G] und X = 1. Sei nun A ∈ G. Dann ist insbesondere auch A ∈ F, also * ) * ) * ) E ½A E[E[X |F]|G] = E ½A E[X |F] = E[½A X] = E ½A E[X |G] . (v)
Das folgt aus (i) und (ii) mit X = X + − X − .
(vi) Trivialerweise ist E[X] messbar bez¨uglich F. Sei A ∈ F. Dann sind X und ½A unabh¨angig, also ist E[E[X |F] ½A ] = E[X ½A ] = E[X] E[½A ]. (vii) F¨ur jedes A ∈ F und B ∈ A gilt P[A ∩ B] = 0, falls P[A] = 0 ist, und P[A ∩ B] = P[B], falls P[A] = 1 ist. Also ist F von A unabh¨angig und damit auch von jeder Teil-σ-Algebra von A. Speziell ist F von σ(X) unabh¨angig. Die Aussage folgt also aus (vi). n→∞
(viii) Sei |Xn | ≤ Y f¨ur jedes n ∈ N und Xn −→ X fast sicher. Setze Zn := f.s. supk≥n |Xk − X|. Dann ist 0 ≤ Zn ≤ 2Y und Zn −→ 0. Nach Korollar 6.26 n→∞ (majorisierte Konvergenz) gilt E[Zn ] −→ 0, also nach der Dreiecksungleichung * ) n→∞ E E[Xn |F]−E[X |F] ≤ E[E[|Xn −X| F]] = E[|Xn −X|] ≤ E[Zn ] −→ 0. Dies ist aber die L1 (P)-Konvergenz in (8.7). Sei Z := lim supn→∞ E[Zn F]. Nach dem Lemma von Fatou ist E[Z] ≤ lim E[Zn ] = 0, n→∞
n→∞ also Z = 0 und damit E[Zn F] −→ 0 fast sicher. Nach (v) ist aber E[Xn F] − E[X F] ≤ E[Zn ].
2
Bemerkung 8.15. Intuitiv ist E[X |F] die beste Vorhersage, die wir f¨ur den Wert von X machen k¨onnen, wenn uns die Information aus der σ-Algebra F zur Verf¨ugung steht. Ist beispielsweise σ(X) ⊂ F, kennen wir also X schon, dann ist
178
8 Bedingte Erwartungen
E[X |F] = X, wie in (iii) gezeigt. Am anderen Ende der Skala ist der Fall, wo X und F unabh¨angig sind, wir also durch Kenntnis von F keine Information u¨ ber X gewinnen. Hier ist die beste Vorhersage f¨ur X der Erwartungswert selber, also E[X] = E[X |F] wie in (vii) gezeigt. Was heißt dabei aber eigentlich genau beste Vorhersage“? Wir wollen dies f¨ur ” quadratintegrierbare Zufallsvariablen X als diejenige F-messbare Zufallsvariable verstehen, die den L2 -Abstand zu X minimiert. Dass dies die bedingte Erwartung tats¨achlich tut, ist der Inhalt des folgenden Korollars. 3 Korollar 8.16 (Bedingte Erwartung als Projektion). Sei F ⊂ A eine σ-Algebra und X eine Zufallsvariable mit E[X 2 ] < ∞. Dann ist E[X |F] die orthogonale Projektion von X auf L2 (Ω, F, P). Es gilt also f¨ur jedes F-messbare Y mit E[Y 2 ] < ∞ ) * ) * E (X − Y )2 ≥ E (X − E[X |F])2 mit Gleichheit genau dann, wenn Y = E[X |F]. Beweis. Wir nehmen zun¨achst an, dass E[E[X |F]2 ] < ∞ gilt. (In Satz 8.19 werden wir sehen, dass sogar E[E[X |F]2 ] ≤ E[X 2 ] gilt, aber wir wollen den Beweis hier etwas elementarer halten.) Sei Y messbar bez¨uglich F und E[Y 2 ] < ∞. Dann ist nach der Cauchy-Schwarz Ungleichung E[|XY |] < ∞, ) also (mit*der Turmeigenschaft) E[XY ] = E[E[X |F]Y ]. Entsprechend gilt E XE[X |F] = * * ) ) E E[XE[X |F] F] = E E[X |F]2 , also ' ) * 2 ( E (X − Y )2 − E X − E[X |F] ( ' = E X 2 − 2XY + Y 2 − X 2 + 2XE[X |F] − E[X |F]2 ( ' = E Y 2 − 2Y E[X |F] + E[X |F]2 ' 2 ( ≥ 0. = E Y − E[X |F] F¨ur den Fall, wo E[E[X |F]2 ] < ∞ gilt, sind wir fertig. Es reicht also zu zeigen, dass diese Bedingung stets erf¨ullt ist, wenn E[X 2 ] < ∞ ist. F¨ur N ∈ N betrachten wir die abgeschnittenen Zufallsvariablen |X| ∧ N , f¨ur die offenbar E[E[|X| ∧ N |F]2 ] ≤ N 2 gilt. Nach dem schon Gezeigten (mit |X| ∧ N statt X und mit Y = 0 ∈ L2 (Ω, F, P)) und mit Hilfe der Ungleichung a2 ≤ 2(a − b)2 + 2b2 , a, b ∈ R, folgern wir ' ' ) 2 ( *2 ( ) * ≤ 2E (|X| ∧ N ) − E[|X| ∧ N F] + 2E (|X| ∧ N )2 E E |X| ∧ N F ) * ≤ 4E (|X| ∧ N )2 ≤ 4E[X 2 ]. Nach Satz 8.14(ii) und (viii) gilt E[|X| ∧ N F] ↑ E[|X| F] f¨ur N → ∞. Nach der Dreiecksungleichung (Satz 8.14(v)) und dem Satz u¨ ber monotone Konvergenz (Satz 4.20) folgt
8.2 Bedingte Erwartungen
179
) ) * ) * * E E[X |F]2 ≤ E E[|X| F]2 = lim E E[|X| ∧ N F]2 ≤ 4E[X 2 ] < ∞, N →∞
und der Beweis ist vollst¨andig.
2
Beispiel 8.17. Seien X, Y ∈ L1 (P) unabh¨angig. Dann ist E[X + Y |Y ] = E[X |Y ] + E[Y |Y ] = E[X] + Y.
3
Beispiel 8.18. Seien X1 , . . . , XN unabh¨angig mit E[Xi ] = 0, i = 1, . . . , N . Setze Fn := σ(X1 , . . . , Xn ) und Sn := X1 + . . . + Xn f¨ur n = 1, . . . , N . Dann ist f¨ur n≥m E[Sn Fm ] = E[X1 Fm ] + . . . + E[Xn Fm ] = X1 + . . . + Xm + E[Xm+1 ] + . . . + E[Xn ] = Sm . Nach Satz 8.14(iv) ist wegen σ(Sm ) ⊂ Fm auch * ) E[Sn |Sm ] = E E[Sn |Fm ] Sm = E[Sm |Sm ] = Sm .
3
Wir kommen nun zur Jensen’schen Ungleichung f¨ur bedingte Erwartungen. Satz 8.19 (Jensen’sche Ungleichung). Sei I ⊂ R ein Intervall, und sei ϕ : I → R konvex und X eine Zufallsvariable auf (Ω, A, P) mit Werten in I. Ferner sei E[|X|] < ∞ und F ⊂ A eine σ-Algebra. Dann gilt ∞ ≥ E[ϕ(X)|F] ≥ ϕ(E[X |F]). Beweis. (Man erinnere sich der Definition 1.68 zur Sprechweise fast sicher auf ” A“.) Auf dem Ereignis {E[X |F] ist ein Randpunkt von I} ist X = E[X |F] fast sicher, und die Aussage ist trivial. In der Tat: Ohne Einschr¨ankung sei 0 der linke Randpunkt von I und A := {E[X |F] = 0}. Da X Werte in I ⊂ [0, ∞) annimmt, ist 0 ≤ E[X ½A ] = E[E[X |F] ½A ] = 0, also ist X ½A = 0. Der Fall eines rechten Randpunktes geht analog. Sei also nun das Ereignis B := {E[X |F] ist innerer Punkt von I} betrachtet. F¨ur jeden inneren Punkt x ∈ I sei D+ ϕ(x) die maximale Tangentensteigung von ϕ in x, also der maximale Wert t mit ϕ(y) ≥ (y − x)t + ϕ(x) f¨ur alle y ∈ I (siehe Satz 7.7). Dann gibt es f¨ur jedes x ∈ I ◦ eine P-Nullmenge Nx , sodass f¨ur jedes ω ∈ B \ Nx gilt, dass * ) * ) E ϕ(X)|F (ω) ≥ ϕ(x) + E D+ ϕ(x) (X − x) F (ω)
(8.8) = ϕ(x) + D+ ϕ(x) E[X |F](ω) − x =: ψω (x). Sei V := Q ∩ I ◦ . Dann ist auch N := x∈V Nx eine P-Nullmenge, und f¨ur jedes ω ∈ B \ N und jedes x ∈ V gilt (8.8).
180
8 Bedingte Erwartungen
Die Abbildung x → D+ ϕ(x) ist rechtsstetig (nach Satz 7.7(iv)), also ist x → ψω (x) rechtsstetig. Daher gilt f¨ur jedes ω ∈ B \ N
ϕ E[X |F](ω) = ψω E[X |F](ω) ) * 2 ≤ sup ψω (x) = sup ψω (x) ≤ E ϕ(X)|F (ω). x∈I ◦
x∈V
Korollar 8.20. Sei p ∈ [1, ∞] und F ⊂ A eine Teil-σ-Algebra. Dann ist die Abbildung Lp (Ω, A, P) → Lp (Ω, F, P), X → E[X |F] eine Kontraktion (das heißt: E[X |F]p ≤ Xp ) und damit insbesondere stetig. Es gilt also f¨ur n→∞ X, X1 , X2 , . . . ∈ Lp (Ω, A, P) mit Xn − Xp −→ 0 auch ; ; ;E[Xn |F] − E[X |F];
n→∞ p
−→ 0.
p Beweis. F¨ur p ∈ [1, ∞) benutze die Jensen’sche Ungleichung mit ϕ(x) = |x| . F¨ur 2 p = ∞ beachte, dass |E[X |F]| ≤ E[|X||F] ≤ E[X∞ F] = X∞ .
Korollar 8.21. Ist (Xi , i ∈ I) gleichgradig integrierbar und (Fj , j ∈ J) eine Familie von Teil-σ-Algebren von A sowie Xi,j := E[Xi Fj ], dann ist (Xi,j , (i, j) ∈ I × J) gleichgradig integrierbar. Insbesondere ist f¨ur X ∈ L1 (P) die Familie (E[X |Fj ], j ∈ J) gleichgradig integrierbar. Beweis. Nach Satz 6.19 existiert eine wachsende, konvexe Funktion f mit der Eigenschaft f (x)/x → ∞, x → ∞ und L := supi∈I E[f (|Xi |)] < ∞. Dann ist x → f (|x|) konvex, also nach der Jensen’schen Ungleichung * ) * ) E f (|Xi,j |) = E f E[Xi |Fj ] ≤ L < ∞. Nach Satz 6.19 ist daher (Xi,j , (i, j) ∈ I × J) gleichgradig integrierbar.
2
Beispiel 8.22. Seien μ und ν endliche Maße mit ν % μ. Sei f = dν/dμ die RadonNikodym-Ableitung, und sei I = {F ⊂ A : F ist eine σ-Algebra}. Betrachte die auf F eingeschr¨ankten Maße μ und ν . Dann ist ν % μ (klar, denn in F F F F F gibt es ja weniger μ-Nullmengen), also existiert die Radon-Nikodym-Ableitung fF := dν /dμ . Dann ist (fF : F ∈ I) gleichgradig integrierbar (bez¨uglich F F μ). (F¨ur endliche σ-Algebren F wurde dies schon in Beispiel 7.39 gezeigt.) In der Tat: Sei P = μ/μ(Ω) und Q = ν/μ(Ω). Dann ist fF = dQ /dP . F¨ur jedes F F 0 0 F ∈ F ist also E[fF ½F ] = F fF dP = Q(F ) = F f dP = E[f ½F ], also fF = E[f |F]. Nach dem vorangehenden Korollar ist (fF : F ∈ I) gleichgradig integrierbar bez¨uglich P und damit auch bez¨uglich μ. 3
8.2 Bedingte Erwartungen
181
¨ Ubung 8.2.1 (Bayes’sche Formel). Seien A ∈ A und B ∈ F. Man zeige 0 P[A|F] dP P[B |A] = 0B . P[A|F] dP Wird F von paarweise disjunkten Mengen B1 , B2 , . . . erzeugt, so ist dies gerade die Bayes’sche Formel aus Satz 8.7. ♣ ¨ Ubung 8.2.2. Man zeige durch ein Beispiel, dass E[E[X |F]|G] = E[E[X |G]|F] gelten kann. ♣ ¨ Ubung 8.2.3. Man zeige die bedingte Markov’sche Ungleichung: F¨ur monoton wachsendes f : [0, ∞) → [0, ∞) und ε > 0 mit f (ε) > 0 ist * ) ) * E f (|X|) F . ♣ P |X| ≥ ε|F ≤ f (ε) ¨ Ubung 8.2.4. Man zeige die bedingte Cauchy-Schwarz’sche Ungleichung: F¨ur quadratintegrierbare Zufallsvariablen X, Y gilt E[XY |F]2 ≤ E[X 2 |F] E[Y 2 |F].
♣
¨ Ubung 8.2.5. Seien X1 , . . . , Xn integrierbar, unabh¨angig und identisch verteilt. Sei Sn = X1 + . . . + Xn . Zeige: E[Xi |Sn ] =
1 Sn n
f¨ur jedes i = 1, . . . , n.
♣
¨ Ubung 8.2.6. Seien X1 und X2 unabh¨angig und exponentialverteilt mit Parameter ♣ θ > 0. Man bestimme E[X1 ∧ X2 |X1 ]. ¨ Ubung 8.2.7. Seien X und Y reelle Zufallsvariablen mit gemeinsamer Dichte f , und sei h : R → R messbar mit E[|h(X)|] < ∞. Es bezeiche λ das Lebesgue-Maß auf R. (i) Zeige, dass fast sicher gilt: 0 E[h(X)|Y ] =
h(x)f (x, Y ) λ(dx) 0 . f (x, Y ) λ(dx)
(ii) Seien speziell X und Y unabh¨angig und expθ -verteilt f¨ur ein θ > 0. Bestimme E[X |X + Y ] und P[X ≤ x|X + Y ] f¨ur x ≥ 0. ♣
182
8 Bedingte Erwartungen
8.3 Regul¨are Version der bedingten Verteilung Ist X eine Zufallsvariable mit Werten in einem Messraum (E, E), so k¨onnen wir mit unserem Apparat bisher f¨ur festes A ∈ A die bedingte Wahrscheinlichkeit P[A|X] angeben. K¨onnen wir die Situation aber auch so einrichten, dass wir f¨ur jedes x ∈ E ein W-Maß P[ · |X = x] angeben k¨onnen, sodass f¨ur jedes A ∈ A gilt P[A|X] = P[A|X = x] auf {X = x}? Wir sind beispielsweise an einem zweistufigen Zufallsexperiment interessiert: Im ersten Schritt wird eine M¨unze in zuf¨alliger Weise so gef¨alscht, dass sie die Erfolgswahrscheinlichkeit X hat. Danach werden unabh¨angige W¨urfe Y1 , . . . , Yn mit dieser M¨unze durchgef¨uhrt. Die bedingte Verteilung von (Y1 , . . . , Yn ) gegeben ” {X = x}“ sollte also (Berx )⊗n sein. Sei X wie oben und Z eine σ(X)-messbare, reelle Zufallsvariable. Nach dem Faktorisierungslemma (Korollar 1.97 mit f = X und g = Z) existiert eine Abbildung ϕ : E → R mit ϕ ist E – B(R)-messbar
und
ϕ(X) = Z.
(8.9)
Ist X surjektiv, so ist ϕ eindeutig festgelegt. Wir schreiben dann Z ◦ X −1 := ϕ (auch wenn die Umkehrabbildung X −1 selber nicht existiert). Definition 8.23. Sei Y ∈ L1 (P) und X : (Ω, A) → (E, E). Dann definieren wir die bedingte Erwartung von Y gegeben X = x durch E[Y |X = x] := ϕ(x), wobei ϕ die Funktion aus (8.9) ist mit Z = E[Y |X]. Wir setzen analog P[A|X = x] = E[½A X = x] f¨ur A ∈ A. F¨ur eine Menge B ∈ A mit P[B] > 0 ist die bedingte Wahrscheinlichkeit P[ · |B] ein W-Maß. Gilt das Gleiche f¨ur P[ · |X = x]? Der Fall liegt hier komplizierter, da wir f¨ur jedes A ∈ A den Ausdruck P[A|X = x] f¨ur x nur bis auf eine Ausnahmemenge, die allerdings von A abh¨angt, definiert haben. Wenn wir die σ-Algebra A nun durch abz¨ahlbar viele A gen¨ugend gut approximieren k¨onnen, besteht Hoffnung, dass die Ausnahmemengen sich zu einer Nullmenge vereinigen. Wir fassen zun¨achst die Begriffe genauer und zeigen dann das angedeutete Ergebnis. ¨ Definition 8.24 (Ubergangskern, Markovkern). Sind (Ω1 , A1 ), (Ω2 , A2 ) Mess¨ Ω1 r¨aume, so heißt κ : Ω1 × A2 → [0, ∞] ein (σ-)endlicher Ubergangskern(von nach Ω2 ), falls (i) ω1 → κ(ω1 , A2 ) ist A1 -messbar f¨ur jedes A2 ∈ A2 . (ii) A2 → κ(ω1 , A2 ) ist ein (σ-)endliches Maß auf (Ω2 , A2 ) f¨ur jedes ω1 ∈ Ω1 . Ist das Maß in (ii) ein W-Maß f¨ur jedes ω1 ∈ Ω1 , so heißt κ stochastischer Kern oder Markovkern. Wird in (ii) zus¨atzlich κ(ω1 , Ω2 ) ≤ 1 f¨ur jedes ω1 ∈ Ω1 gefordert, so heißt κ sub-Markov’sch oder substochastisch.
8.3 Regul¨are Version der bedingten Verteilung
183
Bemerkung 8.25. Es reicht, in Definition 8.24 die Eigenschaft (i) nur f¨ur Mengen A2 aus einem schnittstabilen Erzeuger E von A2 , der Ω2 oder eine Folge En ↑ Ω2 enth¨alt, zu fordern. Es ist dann n¨amlich
D := A2 ∈ A2 : ω1 → κ(ω1 , A2 ) ist A1 -messbar ¨ ein Dynkin-System (Ubung!). Wegen E ⊂ D ist (Satz 1.19) D = σ(E) = A2 .
3
Beispiel 8.26. (i) Sind (Ω1 , A1 ) und (Ω2 , A2 ) diskrete Messr¨aume, so liefert jede Matrix (Kij ) i∈Ω1 mit nichtnegativen Eintr¨agen und endlichen Zeilensummen j∈Ω2 Kij < ∞ f¨ur i ∈ Ω1 , Ki := j∈Ω2
¨ einen endlichen Ubergangskern von Ω1 nach Ω2 verm¨oge κ(i, A) = j∈A Kij . Der Kern ist stochastisch, falls Ki = 1 f¨ur jedes i ∈ Ω1 und substochastisch, falls Ki ≤ 1 f¨ur jedes i ∈ Ω1 . ¨ (ii) Ist μ2 ein endliches Maß auf Ω2 , dann ist κ(ω1 , · ) ≡ μ2 ein endlicher Ubergangskern. (iii) κ(x, · ) = Poix ist ein stochastischer Kern von [0, ∞) nach N0 (beachte: f¨ur jedes A ⊂ N0 ist x → Poix (A) stetig, also insbesondere messbar). (iv) Sei μ eine Verteilung auf Rn und X eine Zufallsvariable mit PX = μ. Dann definiert κ(x, · ) = P[X + x ∈ · ] = δx ∗ μ einen stochastischen Kern von Rn nach Rn . In der Tat: Die Mengen (−∞, y], y ∈ Rn , bilden einen schnittstabilen Erzeuger von B(Rn ) und x → κ(x, (−∞, y]) = μ((−∞, y − x]) ist linksstetig, also messbar. Nach Bemerkung 8.25 ist daher x → κ(x, A) messbar f¨ur jedes A ∈ B(Rn ). 3 Definition 8.27. Sei Y eine Zufallsvariable mit Werten in einem Messraum (E, E) und F ⊂ A eine Unter-σ-Algebra. Ein stochastischer Kern κY,F von (Ω, F) nach (E, E) heißt regul¨are Version der bedingten Verteilung von Y gegeben F, falls κY,F (ω, B) = P[{Y ∈ B}|F](ω) f¨ur P-f.a. ω ∈ Ω und jedes B ∈ E, also falls ½B (Y ) ½A dP = κY,F ( · , B) ½A dP f¨ur alle A ∈ F, B ∈ E. (8.10) Sei speziell F = σ(X) f¨ur eine Zufallsvariable X (in einem beliebigen Messraum (E , E )). Dann heißt der stochastische Kern ) *
(x, A) → κY,X (x, A) = P {Y ∈ A}|X = x = κY,σ(X) X −1 (x), A (die Funktion aus dem Faktorisierungslemma mit beliebiger Festsetzung f¨ur x ∈ X(Ω)) eine regul¨are Version der bedingten Verteilung von Y gegeben X. Satz 8.28 (Regul¨are bedingte Verteilungen in R). Ist Y : (Ω, A) → (R, B(R)) reellwertig, dann existiert eine regul¨are Version κY,F der bedingten Verteilung P[{Y ∈ · }|F].
184
8 Bedingte Erwartungen
Beweis. Die Strategie besteht darin, eine messbare Version der Verteilungsfunktion der bedingten Verteilung von Y zu konstruieren, indem diese zun¨achst f¨ur rationale Werte festgelegt wird (bis auf eine Nullmenge) und dann auf die reellen Zahlen fortgesetzt wird. F¨ur r ∈ Q sei F (r, · ) eine Version der bedingten Wahrscheinlichkeit P[Y ∈ (−∞, r]|F]. F¨ur r ≤ s ist offenbar ½{Y ∈(−∞,r]} ≤ ½{Y ∈(−∞,s]} , also gibt es nach Satz 8.14(ii) (Monotonie der bedingten Erwartung) eine Nullmenge Ar,s ∈ F mit F (r, ω) ≤ F (s, ω)
f¨ur jedes ω ∈ Ω \ Ar,s .
(8.11)
Nach Satz 8.14(viii) (majorisierte Konvergenz) gibt es Nullmengen (Br )r∈Q ∈ F und C ∈ F, sodass 1 (8.12) lim F r + , ω = F (r, ω) f¨ur jedes ω ∈ Ω \ Br n→∞ n sowie inf F (−n, ω) = 0
n∈N
und
sup F (n, ω) = 1 n∈N
f¨ur jedes ω ∈ Ω \ C.
(8.13)
ur ω ∈ Ω \ N definieren wir Ar,s ∪ r∈Q Br ∪ C. F¨
F˜ (z, ω) := inf F (r, ω) : r ∈ Q, r > z f¨ur alle z ∈ R.
Setze N :=
r,s∈Q
Per Konstruktion ist F˜ ( · , ω) monoton wachsend und rechtsstetig. Aus (8.11) und (8.12) folgt F˜ (z, ω) = F (z, ω)
f¨ur jedes z ∈ Q und ω ∈ Ω \ N.
(8.14)
Wegen (8.13) ist F˜ ( · , ω) also eine Verteilungsfunktion f¨ur jedes ω ∈ Ω \ N . F¨ur ω ∈ N setze F˜ ( · , ω) = F0 , wobei F0 eine beliebige fest gew¨ahlte Verteilungsfunktion ist. F¨ur jedes ω ∈ Ω definieren wir κ(ω, · ) als das durch die Verteilungsfunktion F˜ ( · , ω) definierte W-Maß auf (Ω, A). F¨ur r ∈ Q und B = (−∞, r] ist dann (nach (8.14)) ω → κ(ω, B) = F (r, ω) ½N c (ω) + F0 (r) ½N (ω)
(8.15)
F-messbar. Nun ist {(−∞, r], r ∈ Q} ein schnittstabiler Erzeuger von B(R). Nach Bemerkung 8.25 gilt die Messbarkeit also f¨ur jedes B ∈ B(R), und damit ist κ als stochastischer Kern erkannt. Wir m¨ussen noch zeigen, dass κ eine Version der bedingten Verteilung ist. Nach (8.15) und der Definition von F ist f¨ur A ∈ F, r ∈ Q und B = (−∞, r] ) * ) * κ(ω, B) P[dω] = P Y ∈ B |F dP = P A ∩ {Y ∈ B} . A
A
8.3 Regul¨are Version der bedingten Verteilung
185
Als Funktion von B sind beide Seiten
endliche Maße auf B(R), die auf dem schnittstabilen Erzeuger (−∞, r], r ∈ Q u¨ bereinstimmen. Nach dem Eindeutigkeitssatz (Lemma 1.42) gilt daher f¨ur jedes B ∈ B(R) Gleichheit und damit P-fast sicher κ( · , B) = P[Y ∈ B |F], also κ = κY,F . 2 Beispiel 8.29. Seien Z1 , Z2 unabh¨angig und Poisson-verteilt mit den Parametern ¨ λ1 , λ2 ≥ 0. Dann kann man zeigen (Ubung!), dass (mit Y = Z1 und X = Z1 + Z2 ) P[Z1 = k Z1 + Z2 = n] = bn,p (k) f¨ur k = 0, . . . , n, wobei p =
λ1 λ1 +λ2
3
ist.
Dieses Beispiel ließ sich aber im Grunde genommen auch noch mit elementaren Mitteln bearbeiten. Die volle St¨arke des Ergebnisses nutzen wir in den folgenden Beispielen aus. Beispiel 8.30. Seien X und Y reelle Zufallsvariablen mit gemeinsamer Dichtefunktion f (bez¨uglich des Lebesgue-Maßes λ2 auf R2 ). F¨ur x ∈ R setzen wir fX (x) = f (x, y) λ(dy). R
−1 Offenbar ist fX (x) > 0 f¨ur PX -f.a. x ∈ R und fX ist die Dichte des absolutstetigen Anteils des Lebesgue-Maßes λ bez¨uglich PX . Die regul¨are Version der bedingten Verteilung von Y gegeben X hat die Dichte
P[Y ∈ dy |X = x] f (x, y) = fY |X (x, y) := f¨ur PX [dx]-f.a. x ∈ R. (8.16) dy fX (x) 0In der Tat ist nach dem Satz von Fubini (siehe Satz 14.16) die Abbildung x → f (x, y) λ(dy) messbar f¨ur jedes B ∈ B(R), und f¨ur A, B ∈ B(R) gilt B Y |X P[X ∈ dx] fY |X (x, y) λ(dy) A B P[X ∈ dx] fX (x)−1 f (x, y) λ(dy) = B A = λ(dx) f (x, y) λ(dy) B A f dλ2 = P[X ∈ A, Y ∈ B]. 3 = A×B
Beispiel 8.31. Seien μ1 , μ2 ∈ R, σ1 , σ2 > 0 und Z1 , Z2 unabh¨angig und Nμi ,σi2 verteilt (i = 1, 2). Dann existiert eine regul¨are Version der bedingten Verteilung P[Z1 ∈ · |Z1 + Z2 = x]
f¨ur x ∈ R.
186
8 Bedingte Erwartungen
Setzen wir X = Z1 +Z2 und Y2 = Z12 , so2ist (X, Y ) ∼ Nμ,Σ bivariatnormalverteilt σ1 + σ2 σ1 μ 1 + μ2 mit Kovarianzmatrix Σ := und mit μ := . Wegen σ12 σ12 μ1
2 2 −1 σ12 −σ12 −1 = σ1 σ 2 = (σ12 σ22 )−1 B T B, Σ −σ12 σ12 + σ22 σ1 −σ1 wo B = ist, hat (X, Y ) die Dichte (siehe Beispiel 1.105(ix)) 0 σ2 ; ;2 ; ; 1 x − (μ + μ ) 1 2 ; f (x, y) = det(2π Σ)−1/2 exp − 2 2 ; B ; ; y − μ1 2σ1 σ2
−1/2 σ 2 (y − (x − μ1 ))2 + σ22 (y − μ2 )2 exp − 1 = 4π 2 σ12 σ22 2σ12 σ22
= Cx exp − (y − μx )2 /2σx2 , wobei Cx eine Normalisierungskonstante ist und μx = μ1 +
σ12 (x − μ1 − μ2 ) σ12 + σ22
und
σx2 =
σ12 σ22 . σ12 + σ22
Nach (8.16) hat P[Z1 ∈ · |Z1 + Z2 = x] die Dichte (y − μx )2 Cx exp − y → fY |X (x, y) = , fX (x) 2σx2 also ist P[Z1 ∈ · |Z1 + Z2 = x] = Nμx ,σx2 f¨ur fast alle x ∈ R.
3
Beispiel 8.32. Seien X und Y unabh¨angige, reelle Zufallsvariablen. Dann ist f¨ur PX -fast alle x ∈ R P[X + Y ∈ · |X = x] = δx ∗ PY .
3
Die Situation ist noch nicht vollends zufriedenstellend, da wir die sehr starke Annahme gemacht haben, dass Y reellwertig ist. Urspr¨unglich waren wir aber auch an einer Situation interessiert, wo Y Werte in Rn annimmt, oder sogar in allgemeineren R¨aumen. Wir dehnen nun das Ergebnis auf eine gr¨oßere Klasse von Wertebereichen von Y aus. Definition 8.33. Zwei Messr¨aume (E, E) und (E , E ) heißen isomorph, falls es eine bijektive Abbildung ϕ : E → E gibt, sodass ϕ messbar ist bez¨uglich E–E und die Umkehrabbildung ϕ−1 messbar ist bez¨uglich E –E. Wir nennen dann ϕ einen Messraum-Isomorphismus. Sind zudem μ und μ Maße auf (E, E) und (E , E ) und gilt μ = μ ◦ ϕ−1 , so ist ϕ ein Maßraum-Isomorphismus, und die Maßr¨aume (E, E, μ) und (E , E , μ ) heißen isomorph. Definition 8.34. Ein Messraum (E, E) heißt Borel’scher Raum, falls es eine Borel’sche Menge B ∈ B(R) gibt, sodass (E, E) und (B, B(B)) isomorph sind.
8.3 Regul¨are Version der bedingten Verteilung
187
Ein separabler topologischer Raum, dessen Topologie durch eine vollst¨andige Metrik erzeugt wird, heißt polnischer Raum. Wichtige Beispiele hierf¨ur sind Rd , Zd , RN , und (C([0, 1]), · ∞ ). Abgeschlossene Teilmengen von polnischen R¨aumen sind ebenfalls polnisch. Wir kommen auf polnische R¨aume im Zusammenhang mit der Konvergenz von Maßen in Kapitel 13 zur¨uck. Ohne Beweis bringen wir das folgende topologische Ergebnis (siehe etwa [40, Theorem 13.1.1]). Satz 8.35. Ist E ein polnischer Raum mit Borel’scher σ-Algebra E, dann ist (E, E) ein Borel’scher Raum. Satz 8.36 (Regul¨are bedingte Verteilungen). Sei F ⊂ A eine Unter-σ-Algebra. Sei Y eine Zufallsvariable mit Werten in einem Borel’schen Raum (E, E) (also zum Beispiel E polnisch, E = Rd , E = R∞ , E = C([0, 1]) usw.). Dann existiert eine regul¨are Version κY,F der bedingten Verteilung P[{Y ∈ · }|F]. Beweis. Sei B ∈ B(R) und ϕ : E → B ein Messraum-Isomorphismus. Mit Satz 8.28 erhalten wir eine regul¨are bedingte Verteilung κY ,F der reellen Zufallsvariablen Y = ϕ ◦ Y . Wir setzen nun κY,F (ω, A) = κY ,F (ω, ϕ(A)) f¨ur A ∈ E. 2 Abschließend greifen wir das eingangs betrachtete Beispiel wieder auf und k¨onnen nun die dort in Anf¨uhrungszeichen gemachte Aussage formal hinschreiben. Sei also X uniform auf [0, 1] verteilt, und gegeben den Wert X = x seien (Y1 , . . . , Yn ) unabh¨angig Berx -verteilt. Wir setzen Y = (Y1 , . . . , Yn ). Nach Satz 8.36 (mit E = {0, 1}n ⊂ Rn ) existiert die regul¨are bedingte Verteilung κY,X (x, · ) = P[Y ∈ · |X = x]
f¨ur x ∈ [0, 1].
In der Tat ist f¨ur fast alle x ∈ [0, 1] P[Y ∈ · |X = x] = (Berx )⊗n . Satz 8.37. Sei X eine Zufallsvariable auf (Ω, A, P) mit Werten in einem Borel’schen Raum (E, E). Sei F ⊂ A eine σ-Algebra und κX,F eine regul¨are Version der bedingten Verteilung von X gegeben F. Sei ferner f : E → R messbar und E[|f (X)|] < ∞. Dann ist E[f (X)|F](ω) = f (x) κX,F (ω, dx) f¨ur P-fast alle ω. (8.17) Beweis. Wir rechnen nach, dass die rechte Seite in (8.17) die Eigenschaften des bedingten Erwartungswertes hat. Es reicht, den Fall f ≥ 0 zu betrachten. Indem wir f durch Elementarfunktionen approximieren, sehen wir, dass die rechte Seite in (8.17) messbar bez¨uglich F ist
188
8 Bedingte Erwartungen
(siehe Lemma 14.20 f¨ur ein formales Argument). Nach Satz 1.96 existieren dann Mengen A1 , A2 , . . . ∈ E und Zahlen α1 , α2 , . . . ≥ 0 mit gn :=
n
n→∞
αi ½Ai −→ f.
i=1
F¨ur jedes n ∈ N und B ∈ F ist nun E[gn (X) ½B ] = = =
n i=1 n i=1 n
αi P[{X ∈ Ai } ∩ B] P[{X ∈ Ai }|F] P[dω]
αi B
i=1
=
n B i=1
=
κX,F (ω, Ai ) P[dω]
αi B
αi κX,F (ω, Ai ) P[dω] gn (x) κX,F (ω, dx) P[dω].
B
Nach dem Satz von der 0 monotonen Konvergenz konvergiert f¨ur fast jedes ω das innere Integral gegen f (x)κX,F (ω, dx). Erneute Anwendung des Satzes von der monotonen Konvergenz liefert E[f (X) ½B ] = lim E[gn (X) ½B ] = f (x) κX,F (ω, dx) P[dω]. 2 n→∞
B
¨ Ubung 8.3.1. Sei (E, E) ein Borel’scher Raum und μ ein atomloses Maß (das heißt, μ({x}) = 0 f¨ur jedes x ∈ E). Man zeige: F¨ur jedes A ∈ Eund jedes n ∈ N existieren paarweise disjunkte Mengen A1 , . . . , An ∈ E mit nk=1 Ak = A und ♣ μ(Ak ) = μ(A)/n f¨ur jedes k = 1, . . . , n. ¨ Ubung 8.3.2. Seien p, q ∈ (1, ∞) mit p1 + 1q = 1, und seien X ∈ Lp (P) und Y ∈ Lq (μ). Sei F ⊂ A eine σ-Algebra. Man zeige mit Hilfe des vorangehenden Satzes die bedingte Version der H¨older’schen Ungleichung: * *1/p ) q *1/q ) ) E |Y | F fast sicher. ♣ E |XY | F ≤ E |X|p F ¨ Ubung 8.3.3. Sei (X, Y ) uniform verteilt auf B := {(x, y) ∈ R2 : x2 + y 2 ≤ 1} beziehungsweise auf [−1, 1]2 . (i) Man bestimme jeweils die bedingte Verteilung von Y gegeben X = x. √ (ii) Sei R := X 2 + Y 2 und Θ = arc tan(Y /X). Man bestimme jeweils die bedingte Verteilung von Θ gegeben R = r. ♣
8.3 Regul¨are Version der bedingten Verteilung
189
¨ Ubung 8.3.4. Sei A ⊂ Rn eine Borel-messbare Menge mit endlichem LebesgueMaß λ(A) ∈ (0, ∞), und sei B ⊂ A messbar mit λ(B) > 0. Zeige: Ist X uniform verteilt (siehe Beispiel 1.75) auf A, so ist die bedingte Verteilung von X gegeben {X ∈ B} die uniforme Verteilung auf B. ♣ ¨ Ubung 8.3.5 (Borel’sches Paradoxon). Wir wollen die Erde als Kugel ansehen und betrachten einen zuf¨alligen uniform auf der Erdoberfl¨ache verteilten Punkt X. Wir wollen die Koordinaten von X durch die geografische L¨ange Θ und Breite Φ angeben. Allerdings soll, entgegen der u¨ blichen Konvention, Θ die Werte in [0, π) annehmen und Φ in [−π, π). Damit wird f¨ur festes Θ ein kompletter Großkreis beschrieben, wenn Φ seinen Wertebereich durchl¨auft. Ist nun Φ gegeben Θ uniform verteilt auf [−π, π)? Man sollte annehmen, dass jeder Punkt auf dem Großkreis gleich wahrscheinlich ist. Dies ist jedoch nicht der Fall! Der etwas aufgedickte“ ¨” Großkreis, mit L¨angen zwischen Θ und Θ + ε (f¨ur kleines ε) ist am Aquator dicker als an den Polen. Lassen wir ε → 0 gehen, so sollten wir, zumindest intuitiv, die bedingten Wahrscheinlichkeiten erhalten. (i) Man zeige: P[{Φ ∈ · }|Θ = θ] hat f¨ur fast alle θ die Dichte 14 | cos(φ)| f¨ur φ ∈ [−π, π). (ii) Man zeige: P[{Θ ∈ · }|Φ = φ] = U[0,π) f¨ur fast alle φ. Hinweis: Man zeige, dass Θ und Φ unabh¨angig sind und bestimme die Verteilungen von Θ und Φ. ♣ ¨ Ubung 8.3.6 (Verwerfungmethode zur Erzeugung von Zufallsvariablen). Sei E h¨ochstens abz¨ahlbar und P und Q Wahrscheinlichkeitsmaße auf E. Es gebe ein ur jedes e ∈ E mit P ({e}) > 0. Seien c > 0 mit f (e) := Q({e}) P ({e}) ≤ c f¨ X1 , X2 , . . . unabh¨angige Zufallsvariablen mit Verteilung P und U1 , U2 , . . . davon unabh¨angige u.i.v. Zufallsvariablen, die uniform auf [0, 1] verteilt sind. W¨ahle N als die (zuf¨allige) kleinste nat¨urliche Zahl n, sodass Un ≤ f (Xn )/c, und setze Y := XN . Man zeige: Y hat die Verteilung Q. Anmerkung: Dieses Verfahren zur Erzeugung einer Zufallsvariable mit einer gew¨unschten Verteilung Q wird auch Verwerfungsmethode (rejection sampling) genannt, denn man kann es so interpretieren: Die Zufallsvariable X1 ist ein Vorschlag f¨ur den m¨oglichen Wert von Y . Dieser Vorschlag wird mit Wahrscheinlich♣ keit f (X1 )/c angenommen, ansonsten wird X2 betrachtet und so weiter. ¨ Ubung 8.3.7. Sei E ein polnischer Raum und P, Q ∈ M1 (R) sowie c > 0 mit ¨ f := dQ ♣ dP ≤ c P -fast sicher. Zeige die analoge Aussage zu Ubung 8.3.6.
9 Martingale
Einer der wichtigsten Begriffe der modernen Wahrscheinlichkeitstheorie ist das Martingal, das die Idee eines fairen Spiels formalisiert. In diesem Kapitel wird der Begriffsapparat f¨ur die Beschreibung allgemeiner stochastischer Prozesse aufgebaut. Danach werden Martingale und das diskrete stochastische Integral eingef¨uhrt und auf ein Modell der Finanzmathematik angewandt.
9.1 Prozesse, Filtrationen, Stoppzeiten Wir f¨uhren die grundlegenden technischen Begriffe f¨ur die Behandlung stochastischer Prozesse, darunter Martingale, ein. Um die Begriffe sp¨ater in einem anderen Kontext weiter verwenden zu k¨onnen, streben wir eine gr¨oßere Allgemeinheit an als f¨ur die Behandlung von Martingalen notwendig w¨are. Im Folgenden sei stets (E, τ ) ein polnischer Raum mit Borel’scher σ-Algebra E. Weiter sei (Ω, F, P) ein W-Raum und I ⊂ R beliebig. Meistens interessieren uns die F¨alle I = N0 , I = Z, I = [0, ∞) und I ein Intervall. Definition 9.1 (Stochastischer Prozess). Sei I ⊂ R. Eine Familie von Zufallsvariablen X = (Xt , t ∈ I) (auf (Ω, F, P)) mit Werten in (E, E) heißt stochastischer Prozess mit Zeitbereich I und Zustandsraum E. Bemerkung 9.2. Etwas allgemeiner werden manchmal auch beliebig indizierte Familien von Zufallsvariablen stochastischer Prozess genannt. Beispielsweise ist dies beim Poisson’schen Punktprozess aus Kapitel 24 der Fall. 3 Bemerkung 9.3. Oftmals werden wir (gewissen Traditionen folgend) einen stochastischen Prozess auch als X = (Xt )t∈I schreiben, wenn wir weniger den Aspekt betonen wollen, dass X eine Familie von Zufallsvariablen ist, sondern den zeitlichen Verlauf der Beobachtungen st¨arker gewichten. Formal sollen beide Objekte identisch sein. 3 Beispiel 9.4. Sei I = N0 und (Yn , n ∈ N) eine Familie von u.i.v. Zufallsvariablen auf einem W-Raum (Ω, F, P), mit P[Yn = 1] = 1 − P[Yn = −1] = 12 . Setze
192
9 Martingale
E = Z (mit der diskreten Topologie) und Xt =
t
Yn
f¨ur jedes t ∈ N0 .
n=1
(Xt , t ∈ N0 ) heißt symmetrische einfache Irrfahrt auf Z.
3
Beispiel 9.5. Der Poissonprozess X = (Xt )t≥0 mit Intensit¨at α > 0 (siehe Kapitel 5.5) ist ein stochastischer Prozess mit Wertebereich N0 . 3 Wir f¨uhren weitere Begriffe ein: Definition 9.6. Ist X eine Zufallsvariable (oder ein stochastischer Prozess), so schreiben wir auch L[X] = PX f¨ur die Verteilung von X. Ist G ⊂ F eine σAlgebra, so schreiben wir L[X |G] f¨ur eine regul¨are Version der bedingten Verteilung von X gegeben G. Definition 9.7. Ein stochastischer Prozess X = (Xt )t∈I mit Werten in E heißt (i) reellwertig, falls E = R, (ii) Prozess mit unabh¨angigen Zuw¨achsen, falls X reellwertig ist und f¨ur jedes n ∈ N und alle t0 , . . . , tn ∈ I mit t0 < t1 < . . . < tn gilt (Xti − Xti−1 )i=1,...,n ist unabh¨angig, (iii) Gauß’scher Prozess, falls X reellwertig ist und f¨ur n ∈ N und t1 , . . . , tn ∈ I gilt (Xt1 , . . . , Xtn ) ist n-dimensional normalverteilt, (iv) integrierbar (beziehungsweise quadratintegrierbar), falls X reellwertig ist und E[|Xt |] < ∞ (beziehungsweise E[(Xt )2 ] < ∞) f¨ur jedes t ∈ I gilt. Sei nun zus¨atzlich I ⊂ R abgeschlossen unter Addition. Dann heißt X * ) * ) (v) station¨ar, falls L (Xs+t )t∈I = L (Xt )t∈I f¨ur jedes s ∈ I,
) (vi) Prozess * mit )station¨aren *Zuw¨achsen, falls X reellwertig ist und L Xs+t+r − Xt+r = L Xs+r − Xr f¨ur alle r, s, t ∈ I. (Ist 0 ∈ I, so reicht es, r = 0 zu betrachten.)
Beispiel 9.8. (i) Der Poissonprozess mit Intensit¨at θ sowie die Irrfahrt auf Z sind Prozesse mit station¨aren, unabh¨angigen Zuw¨achsen. (ii) Sind Xt , t ∈ I, u.i.v. Zufallsvariablen, so ist (Xt )t∈I station¨ar.
9.1 Prozesse, Filtrationen, Stoppzeiten
193
(iii) Sei (Xn )n∈Z reellwertig und station¨ar, und seien k ∈ N und c0 , . . . , ck ∈ R. Dann definiert k Yn := ci Xn−i i=0
einen station¨aren Prozess Y = (Yn )n∈Z . Gilt c0 , . . . , ck ≥ 0 und c0 + . . . + ck = 1, 3 so wird Y das gleitende Mittel von X (mit Gewichten c0 , . . . , ck ) genannt. Die beiden folgenden Definitionen sind auch f¨ur allgemeinere halbgeordnete Mengen I sinnvoll, wir beschr¨anken uns jedoch weiterhin auf den Fall I ⊂ R. Definition 9.9 (Filtration). Eine Familie F = (Ft , t ∈ I) von σ-Algebren mit Ft ⊂ F f¨ur jedes t ∈ I, heißt Filtration, falls Fs ⊂ Ft f¨ur alle s, t ∈ I mit s ≤ t. Definition 9.10 (adaptiert). Ein stochastischer Prozess X = (Xt , t ∈ I) heißt adaptiert an die Filtration F, falls Xt bez¨uglich Ft messbar ist f¨ur jedes t ∈ I. Gilt Ft = σ(Xs , s ≤ t) f¨ur jedes t ∈ I, so schreiben wir F = σ(X) und nennen F die von X erzeugte Filtration. Bemerkung 9.11. Offenbar ist ein stochastischer Prozess stets an seine erzeugte Filtration adaptiert. Die erzeugte Filtration ist die kleinste“ Filtration, an die ein ” Prozess adaptiert ist. 3 Definition 9.12 (vorhersagbar / previsibel). Ein stochastischer Prozess X = (Xn , n ∈ N0 ) heißt vorhersagbar (oder previsibel) bez¨uglich der Filtration F = (Fn , n ∈ N0 ), falls X0 konstant ist und f¨ur jedes n ∈ N gilt: Xn ist Fn−1 -messbar. Beispiel9.13. Seien I = N0 , und seien Y1 , Y2 , . . . reelle Zufallsvariablen sowie Xn := nm=1 Ym . Setze F0 = {∅, Ω}
und
Fn = σ(Y1 , . . . , Yn )
f¨ur n ∈ N.
Dann ist F = (Fn , n ∈ N0 ) = σ(Y ) die von Y = (Yn )n∈N erzeugte Filtration, und X ist an F adaptiert, also ist σ(X) ⊂ F. Offenbar ist (Y1 , . . . , Yn ) messbar bez¨uglich σ(X1 , . . . , Xn ), also σ(Y ) ⊂ σ(X), und daher gilt auch F = σ(X). n := n ½[0,∞) (Ym ). Dann ist auch X an F adaptiert, jedoch ist im Sei nun X m=1 Allgemeinen F σ(X). 3 Beispiel 9.14. Sei I = N0 , und seien D1 , D2 , . . . unabh¨angig und identisch verteilt mit P[Di = −1] = P[Di = 1] = 12 f¨ur jedes i ∈ N. Setze D = (Di )i∈N und
194
9 Martingale
F = σ(D). Wir interpretieren Di als das Ergebnis einer Wette, die uns pro Spielschein einen Gewinn oder Verlust von einer Geldeinheit bringt. Vor jedem Spiel entscheiden wir, wie viele Spielscheine wir einsetzen wollen. Die Anzahl Hn der in der n-ten Runde eingesetzten Spielscheine darf nur von den Ergebnissen der bisherigen Spiele abh¨angen, nicht aber von Dn und auch nicht von einem Dm f¨ur m > n. Mit anderen Worten: Es muss eine Funktion Fn : {−1, 1}n−1 → N geben mit Hn = Fn (D1 , . . . , Dn−1 ). (F¨ur das Petersburger Spiel (Beispiel 4.22) galt beispielsweise Fn (x1 , . . . , xn−1 ) = 2n−1 ½{x1 =x2 =...=xn−1 =0} .) Damit ist H dann vorhersagbar. Andererseits besitzt jedes vorhersagbare H die Gestalt Hn = Fn (D1 , . . . , Dn−1 ), n ∈ N, f¨ur gewisse Funktionen Fn : {−1, 1}n−1 → N, kommt also als Spielstrategie in Betracht. 3 Definition 9.15 (Stoppzeit). Eine Zufallsvariable τ mit Werten in I ∪ {∞} heißt Stoppzeit (bez¨uglich F), falls f¨ur jedes t ∈ I gilt, dass {τ ≤ t} ∈ Ft . Die Idee hinter dieser Definition ist, dass Ft den Kenntnisstand eines Beobachters zur Zeit t wiedergibt. Der Wahrheitsgehalt der Aussage {τ ≤ t} kann also aufgrund der Beobachtungen bis zur Zeit t bestimmt werden. Satz 9.16. Ist I abz¨ahlbar, so ist τ genau dann eine Stoppzeit, wenn {τ = t} ∈ Ft f¨ur jedes t ∈ I gilt. ¨ Beweis. Ubung!
2
Beispiel 9.17. Seien I = N0 (oder allgemeiner I ⊂ [0, ∞) rechts-diskret in dem Sinne, dass t < inf I ∩ (t, ∞) f¨ur jedes t ≥ 0, und damit insbesondere abz¨ahlbar) und K ⊂ R messbar sowie X ein reeller, adaptierter stochastischer Prozess. Wir betrachten den Zeitpunkt, zu dem X erstmals in K ist: τK := inf{t ∈ I : Xt ∈ K}. Intuitiv ist klar, dass τK eine Stoppzeit ist, denn ob {τK ≤ t} eintritt oder nicht, k¨onnen wir aufgrund der Beobachtungen von X bis zur Zeit t entscheiden. Formal k¨onnen wir argumentieren, indem wir bemerken, dass {Xs ∈ K} ∈ Fs ⊂ Ft f¨ur s ≤ t gilt. Also ist auch die abz¨ahlbare Vereinigung dieser Mengen wieder in Ft : {τK ≤ t} = {Xs ∈ K} ∈ Ft . s∈I∩[0,t]
Betrachte nun den zuf¨alligen Zeitpunkt τ := sup{t ∈ I : Xt ∈ K} des letzten Aufenthalts von X in K. Zu fester Zeit t k¨onnen wir aufgrund der bisherigen Beobachtungen nicht entscheiden, ob X bereits das letzte Mal in K war. Hierzu bed¨urfte es der Prophetie. Also ist τ im Allgemeinen keine Stoppzeit. 3
9.1 Prozesse, Filtrationen, Stoppzeiten
195
Lemma 9.18. Seien σ und τ Stoppzeiten. Dann gilt: (i) σ ∨ τ und σ ∧ τ sind Stoppzeiten. (ii) Gilt σ, τ ≥ 0, dann ist auch σ + τ eine Stoppzeit. (iii) Ist s ≥ 0, dann ist τ + s eine Stoppzeit, jedoch im Allgemeinen nicht τ − s. Bevor wir zum einfachen formalen Beweis kommen, wollen wir festhalten, dass insbesondere (i) und (iii) Eigenschaften sind, die wir von Stoppzeiten erwarten konnten: Bei (i) ist die Interpretation klar. F¨ur (iii) beachte man, dass τ − s um s in die Zukunft blickt (denn {τ −s ≤ t} ∈ Ft+s ), w¨ahrend τ +s um s in die Vergangenheit schaut. Stoppzeiten ist aber nur der Blick in die Vergangenheit erlaubt. Beweis. (i) F¨ur jedes t ∈ I ist {σ ∨ τ ≤ t} = {σ ≤ t} ∩ {τ ≤ t} ∈ Ft und {σ ∧ τ ≤ t} = {σ ≤ t} ∪ {τ ≤ t} ∈ Ft . (ii) Sei t ∈ I. Nach (i) sind τ ∧ t und σ ∧ t Stoppzeiten f¨ur jedes t ∈ I. Speziell ist f¨ur jedes s ≤ t dann {τ ∧ t ≤ s} ∈ Fs ⊂ Ft . Andererseits ist f¨ur s > t stets τ ∧ t ≤ s. Also sind τ := (τ ∧ t) + ½{τ >t} und σ := (σ ∧ t) + ½{σ>t} messbar bez¨uglich Ft und damit auch τ + σ . Es folgt {τ + σ ≤ t} = {τ + σ ≤ t} ∈ Ft . (iii) F¨ur τ + s folgt dies aus (ii) (mit der Stoppzeit σ ≡ s). F¨ur τ − s beachte man, dass in der Definition der Stoppzeit f¨ur jedes t ∈ I lediglich gefordert wird, dass {τ − s ≤ t} = {τ ≤ t + s} ∈ Ft+s . Im Allgemeinen ist aber Ft+s eine echte 2 Obermenge von Ft , also τ − s keine Stoppzeit. Definition 9.19. Ist τ eine Stoppzeit, so heißt
Fτ := A ∈ F : A ∩ {τ ≤ t} ∈ Ft f¨ur jedes t ∈ I die σ-Algebra der τ -Vergangenheit. Beispiel 9.20. Sei I = N0 (oder rechts-diskret, vergleiche Beispiel 9.17), X ein adaptierter, reellwertiger stochastischer Prozess und K ∈ R. Definiere die Stoppzeit τ = inf{t : Xt ≥ K} des ersten Eintretens in [K, ∞). Betrachte die Ereignisse A = {sup{Xt : t ∈ I} > K − 5} und B = {sup{Xt : t ∈ I} > K + 5}. F¨ur jedes t ∈ I ist {τ ≤ t} ⊂ A, also ist A ∩ {τ ≤ t} = {τ ≤ t} ∈ Ft . Es folgt / Fτ , denn wir k¨onnen bis zur Zeit τ eben A ∈ Fτ . Jedoch ist im Allgemeinen B ∈ nicht entscheiden, ob X auch die H¨urde K + 5 noch nehmen wird oder nicht. 3 Lemma 9.21. Sind σ und τ Stoppzeiten mit σ ≤ τ , so gilt Fσ ⊂ Fτ . Beweis. Sei A ∈ Fσ und t ∈ I. Dann ist A ∩ {σ ≤ t} ∈ Ft . Da τ eine Stoppzeit ist, ist auch {τ ≤ t} ∈ Ft . Wegen σ ≤ τ ist also
2 A ∩ {τ ≤ t} = A ∩ {σ ≤ t} ∩ {τ ≤ t} ∈ Ft .
196
9 Martingale
Definition 9.22. Ist τ < ∞ Stoppzeit, dann setzen wir Xτ (ω) := Xτ (ω) (ω). Lemma 9.23. Ist I h¨ochstens abz¨ahlbar und X adaptiert sowie τ < ∞ eine Stoppzeit, dann ist Xτ messbar bez¨uglich Fτ . Beweis. Sei A messbar und t ∈ I. F¨ur jedes s ≤ t ist dann {τ = s} ∩ Xs−1 (A) ∈ Fs ⊂ Ft . Also ist {τ = s} ∩ Xs−1 (A) ∈ Ft . 2 Xτ−1 (A) ∩ {τ ≤ t} = s∈I s≤t
F¨ur u¨ berabz¨ahlbares I und festes ω ist die Abbildung I → E, t → Xt (ω) im Allgemeinen nicht messbar, also ist auch die Zusammensetzung Xτ nicht immer messbar. Hier brauchen wir Zusatzannahmen an die Regularit¨at der Pfade t → Xt (ω), zum Beispiel Rechtsstetigkeit. Auf diesen Punkt kommen wir in Kapitel 21 zur¨uck und belassen es hier einstweilen bei der Warnung.
9.2 Martingale Als ein faires Spiel mit mehreren Runden w¨urden wir sicherlich ohne Z¨ogern die sukzessive Auszahlung von Gewinnen Y1 , Y2 , . . . bezeichnen, falls Y1 , Y2 , . . . u.i.v. mit E[Y1 ] = 0 sind. In diesem Fall ist der Prozess X der Partialsummen Xn = Y1 + . . . + Yn integrierbar und E[Xn Fm ] = Xm , wenn m < n ist (wobei F = σ(X)). Wir wollen diese Gleichung als Definitionsgleichung f¨ur ein faires Spiel, das wir im Folgenden ein Martingal nennen, heranziehen und so die Bedingungen der Unabh¨angigkeit und der identisch verteilten Zuw¨achse erheblich abschw¨achen. Die Tragweite der folgenden Begriffsbildung wird sich erst nach und nach herausstellen. Definition 9.24. Sei (Ω, F, P) ein Wahrscheinlichkeitsraum, I ⊂ R, und F eine Filtration. Sei X = (Xt )t∈I ein reellwertiger, adaptierter stochastischer Prozess mit E[|Xt |] < ∞ f¨ur jedes t ∈ I. X heißt (bez¨uglich F) ein Martingal, falls E[Xt Fs ] = Xs f¨ur alle s, t ∈ I mit t > s, Submartingal, falls E[Xt Fs ] ≥ Xs f¨ur alle s, t ∈ I mit t > s, Supermartingal, falls E[Xt Fs ] ≤ Xs f¨ur alle s, t ∈ I mit t > s. Bemerkung 9.25. Offenbar ist f¨ur Martingale t → E[Xt ] konstant, f¨ur Submartingale monoton wachsend und f¨ur Supermartingale monoton fallend. 3 Bemerkung 9.26. Die Etymologie des Begriffs Martingal ist nicht v¨ollig gekl¨art. Das franz¨osische la martingale (urspr¨unglich provenzalisch martegalo nach der
9.2 Martingale
197
Stadt Martiques) bedeutet im Reitsport einen beim Spring- und Gel¨andereiten ver” wendeten Hilfsz¨ugel“ als Teil des Zaumzeugs ([24]). Manchmal wird die verzweigte Form, insbesondere des Jagdmartingals (franz¨osisch: la martingale a` anneaux, englisch: running martingale), als sinnbildlich f¨ur die Verdoppelungsstrategie im Petersburger Spiel angesehen. Eben diese Verdoppelungsstrategie ist die zweite Bedeutung von la martingale. Von hier aus scheint eine Bedeutungsverschiebung hin zum mathematischen Begriff durchaus m¨oglich. Eine andere Herleitung geht, statt vom Aussehen, von der Funktion des Zaumzeugs aus und nennt das Bestreben einer Spielstrategie, den Zufall im Zaume zu halten. So wird der Begriff des Martingals zun¨achst auf Spielstrategien im Allgemeinen, dann auf die Verdoppelungsstrategie im Speziellen u¨ bertragen. 3 Bemerkung 9.27. Ist I = N, I = N0 oder I = Z, so reicht es, jeweils nur t = s + 1 zu betrachten, denn nach der Turmeigenschaft der bedingten Erwartung (Satz 8.14(iv)) ist * ) E[Xs+2 Fs ] = E E[Xs+2 Fs+1 ] Fs , und wenn die definierende Gleichung (beziehungsweise Ungleichung) in einem Zeitschritt gilt, dann zieht sie sich durch in den zweiten Zeitschritt und so fort. 3 Bemerkung 9.28. Geben wir die Filtration F nicht explizit an, so nehmen wir still3 schweigend an, dass F die von X erzeugte Filtration Ft = σ(Xs , s ≤ t) ist. Bemerkung 9.29. Sind F und F Filtrationen mit Ft ⊂ Ft f¨ur jedes t, und ist X an F adaptiert und ein F -(Sub-, Super-)Martingal, dann ist X auch ein (Sub-, Super-) Martingal bez¨uglich der kleineren Filtration F. Es gilt n¨amlich f¨ur s < t und den Fall, wo X ein Submartingal ist, E[Xt Fs ] = E[E[Xt Fs ] Fs ] ≥ E[Xs Fs ] = Xs . Speziell ist ein F-(Sub-, Super-)Martingal X also auch stets ein (Sub-, Super-)Martingal bez¨uglich der von X erzeugten Filtration σ(X). 3 Beispiel 9.30. Seien Y1 , . . . , YN unabh¨angige Zufallsvariablen mit E[Yt ] = 0 f¨ur t Ys . Dann ist X jedes t = 1, . . . , N . Setze Ft := σ(Y1 , . . . , Yt ) und Xt := s=1 adaptiert und integrierbar, und f¨ur r > s ist E[Yr Fs ] = 0. Also ist f¨ur t > s t E[Xt Fs ] = E[Xs Fs ] + E[Xt − Xs Fs ] = Xs + E[Yr Fs ] = Xs . r=s+1
Es folgt, dass X ein F-Martingal ist. Analog ist X ein Submartingal, falls E[Yt ] ≥ 0 f¨ur jedes t gilt beziehungsweise ein 3 Supermartingal, falls E[Yt ] ≤ 0 f¨ur jedes t gilt.
198
9 Martingale
Beispiel 9.31. Wir betrachten die Situation des vorangehenden Beispiels, jedoch mit E[Yt ] = 1 und Xt = ts=1 Ys f¨ur t ∈ N0 . Nach Satz 5.4 ist Y1 · Y2 integrierbar. Iterativ erhalten wir E[|Xt |] < ∞ f¨ur jedes t ∈ N0 . Offenbar ist X an F adaptiert, und f¨ur s ∈ N0 gilt E[Xs+1 Fs ] = E[Xs Ys+1 Fs ] = Xs E[Ys+1 Fs ] = Xs . Also ist X ein F-Martingal.
3
Satz 9.32. (i) X ist genau dann ein Supermartingal, wenn (−X) ein Submartingal ist. (ii) Seien X und Y Martingale und a, b ∈ R. Dann ist (aX + bY ) ein Martingal. (iii) Seien X und Y Supermartingale und a, b ≥ 0. Dann ist (aX + bY ) ein Supermartingal. (iv) Seien X und Y Supermartingale. Dann ist Z := X ∧ Y = (min(Xt , Yt ))t∈I ein Supermartingal. (v) Ist (Xt )t∈N0 ein Supermartingal und E[XT ] ≥ E[X0 ] f¨ur ein T ∈ N0 , dann ist (Xt )t∈{0,...,T } ein Martingal. Gibt es eine Folge TN → ∞ mit E[XTN ] ≥ E[X0 ], dann ist X ein Martingal. Beweis. (i), (ii) und (iii)
Dies ist klar.
(iv) Wegen |Zt | ≤ |Xt | + |Yt | ist E[|Zt |] < ∞ f¨ur jedes t ∈ I. Wegen der Fs ] ≤ E[Xt Fs ] ≤ Monotonie der bedingten Erwartung (Satz 8.14(ii)) ist E[Z t Xs f¨ur t > s und E[Zt Fs ] ≤ E[Yt Fs ] ≤ Ys , also E[Zt Fs ] ≤ Xs ∧ Ys = Zs . (v) F¨ur t ≤ T setze Yt := E[XT Ft ]. Dann ist Y ein Martingal und Yt ≤ Xt . Daher ist E[X0 ] ≤ E[XT ] = E[YT ] = E[Yt ] ≤ E[Xt ] ≤ E[X0 ]. (Die erste Ungleichung gilt hierbei nach Voraussetzung.) Es folgt Yt = Xt fast sicher f¨ur jedes t, und daher ist (Xt )t∈{0,...,T } ein Martingal. Sei TN → ∞ mit E[XTN ] ≥ E[X0 ] f¨ur jedes N ∈ N. Dann gibt es f¨ur t > s ≥ 0 2 ein N ∈ N mit TN > t. Daher ist E[Xt Fs ] = E[Xs ], also X ein Martingal. Bemerkung 9.33. Viele Aussagen u¨ ber Supermartingale gelten mutatis mutandis auch f¨ur Submartingale. So gilt im vorangehenden Satz Aussage (i) mit vertauschten Rollen, Aussage (iv) gilt f¨ur Submartingale, wenn das Minimum durch ein Maximum ersetzt wird, und so fort. Wir geben die Aussagen nicht stets sowohl f¨ur Submartingale wie f¨ur Supermartingale an, sondern w¨ahlen pars pro toto einen Fall aus. Man beachte aber, dass die Aussagen, die explizit u¨ ber Martingale gemacht werden, nicht ohne weiteres auf Sub- oder Supermartingale u¨ bertragen werden k¨onnen (vergleiche etwa (ii) im vorangehenden Satz). 3
9.2 Martingale
199
Korollar 9.34. Sei X ein Submartingal und a ∈ R. Dann ist (X − a)+ ein Submartingal. Beweis. Offenbar sind 0 und Y = X − a Submartingale. Nach (iv) ist daher auch (X − a)+ = Y ∨ 0 ein Submartingal. 2 Satz 9.35. Sei X ein Martingal und ϕ : R → R eine konvexe Funktion. (i) Ist E[ϕ(Xt )+ ] < ∞
f¨ur jedes t ∈ I,
(9.1)
dann ist (ϕ(Xt ))t∈I ein Submartingal. (ii) Ist t∗ := sup(I) ∈ I, so impliziert E[ϕ(Xt∗ )+ ] < ∞ schon (9.1). (iii) Ist speziell p ≥ 1 und E[|Xt |p ] < ∞ f¨ur jedes t ∈ I, dann ist (|Xt |p )t∈I ein Submartingal. Beweis. (i) Es ist stets E[ϕ(Xt )− ] < ∞ (Satz 7.9), also nach Voraussetzung E[|ϕ(Xt )|] < ∞ f¨ur jedes t ∈ I. Die Jensen’sche Ungleichung (Satz 8.19) liefert f¨ur t > s E[ϕ(Xt ) Fs ] ≥ ϕ(E[Xt Fs ]) = ϕ(Xs ). (ii) Da ϕ konvex ist, ist auch x → ϕ(x)+ konvex. Weiter ist nach Voraussetzung E[ϕ(Xt∗ )+ ] < ∞, also gilt nach der Jensen’schen Ungleichung f¨ur jedes t ∈ I: + * * ) * ) ) ≤ E E[ϕ(Xt∗ )+ Ft ] = E ϕ(Xt∗ )+ < ∞. E[ϕ(Xt )+ ] = E ϕ E[Xt∗ Ft ] (iii) Dies ist klar, weil x → |x|p konvex ist.
2
Beispiel 9.36. (Siehe Beispiel 9.4.) Die symmetrische einfache Irrfahrt X auf Z ist 3 ein quadratintegrierbares Martingal. Also ist (Xn2 )n∈N0 ein Submartingal. ¨ Ubung 9.2.1. Sei Y eine Zufallsvariable mit E[|Y |] < ∞ und F eine Filtration sowie Xt := E[Y Ft ] f¨ur jedes t ∈ I. Man zeige, dass X ein F-Martingal ist.
♣
¨ Ubung 9.2.2. Sei (Xn )n∈N0 ein vorhersagbares F-Martingal. Man zeige, dass dann ♣ f¨ur jedes n ∈ N0 fast sicher Xn = X0 gilt. ¨ Ubung 9.2.3. Man zeige, dass die Aussage von Satz 9.35 auch gilt, wenn X nur ein Submartingal, ϕ jedoch zus¨atzlich monoton wachsend ist. Man zeige durch ein Beispiel, dass hier auf die Monotonie im Allgemeinen nicht verzichtet werden kann. (Vergleiche Korollar 9.34.) ♣
200
9 Martingale
¨ Ubung 9.2.4 (Ungleichung von Azuma). Man zeige: (i) Ist X eine Zufallsvariable mit |X| ≤ 1 f.s., so gibt es eine Zufallsvariable Y mit Werten in {−1, +1} und mit E[Y |X] = X. (ii) F¨ur X wie in (i) mit E[X] = 0 folgere man (mit Hilfe der Jensen’schen Ungleichung) ) * 2 E eλX ≤ cosh(λ) ≤ eλ /2 f¨ur alle λ ∈ R. (iii) Ist (Mn )n∈N0 ein Martingal mit M0 = 0, und gibt es eine Folge (ck )k∈N nichtnegativer Zahlen mit |Mn − Mn−1 | ≤ cn f.s. f¨ur jedes n ∈ N, so gilt n ) λM * 1 2 2 n λ ≤ exp E e ck . 2 k=1
(iv) Unter den Bedingungen von (iii) gilt die Azuma’sche Ungleichung * ) λ2 f¨ur alle λ ≥ 0. P |Mn | ≥ λ ≤ 2 exp − n 2 k=1 c2k Hinweis: Verwende die Markov’sche Ungleichung f¨ur f (x) = eγx und w¨ahle γ optimal. ♣
9.3 Diskretes stochastisches Integral Bisher haben wir das Martingal als Partialsummenprozess eines fairen Spiels kennen gelernt. Dies kann beispielsweise auch der Kurs X einer Aktie sein, die zu diskreten Zeitpunkten m = 0, 1, . . . an einer B¨orse gehandelt wird. Bei dieser Interpretation ist es besonders evident, dass es nat¨urlich ist, neue stochastische Prozesse zu generieren, indem man Anlagestrategien H f¨ur die entsprechende Aktie betrachtet. Die Wertentwicklung des neuen Prozesses H ·X entspricht dann der eines Portefeuilles, bei dem in jedem Zeitintervall (m − 1, m] genau Hm Aktien gehalten werden. Dies f¨uhrt zu der folgenden Begriffsbildung. Definition 9.37 (Diskretes Stochastisches Integral). Sei (Xn )n∈N0 ein reeller, Fadaptierter Prozess und (Hn )n∈N reellwertig und F-vorhersagbar. Wir definieren den stochastischen Prozess H ·X durch (H ·X)n :=
n
Hm (Xm − Xm−1 )
f¨ur n ∈ N0 ,
(9.2)
m=1
und nennen H·X das diskrete stochastische Integral von H bez¨uglich X. Ist X ein Martingal, so nennen wir H ·X auch die Martingaltransformierte von X.
9.3 Diskretes stochastisches Integral
201
Bemerkung 9.38. Offenbar ist H ·X adaptiert an F.
3
Sei X ein (m¨oglicherweise unfaires) Spiel, wobei Xn − Xn−1 den Spielgewinn pro Spielschein in der n-ten Runde bezeichnet. Wir interpretieren Hn als die Anzahl der Spielscheine, die f¨ur das n-te Spiel eingesetzt werden, und verstehen H als Spielstrategie. Offenbar muss die Entscheidung, wie groß Hn sein soll, zur Zeit n − 1, also vor der Bekanntgabe des Ergebnisses Xn fallen. Das heißt, H muss vorhersagbar sein. Ist nun X ein faires Spiel, also ein Martingal, und ist H lokal beschr¨ankt (das heißt, jedes Hn ist beschr¨ankt), dann ist (wegen E[Xn+1 − Xn Fn ] = 0) E[(H ·X)n+1 Fn ] = E[(H ·X)n + Hn+1 (Xn+1 − Xn ) Fn ] = (H ·X)n + Hn+1 E[Xn+1 − Xn Fn ] = (H ·X)n . Also ist H · X ein Martingal. Im folgenden Satz zeigen wir, dass auch die Umkehrung gilt, also X ein Martingal ist, wenn f¨ur hinreichend viele vorhersagbare Prozesse das stochastische Integral ein Martingal ist. ¨ Stochastische Integrale). Satz 9.39 (Stabilit¨atssatz fur Sei (Xn )n∈N0 ein adaptierter, reeller stochastischer Prozess mit E[|X0 |] < ∞. (i) X ist genau dann ein Martingal, wenn f¨ur jeden lokal beschr¨ankten, vorhersagbaren Prozess H das stochastische Integral H ·X ein Martingal ist. (ii) X ist genau dann ein Submartingal (Supermartingal), wenn H ·X ein Submartingal (Supermartingal) ist f¨ur jedes lokal beschr¨ankte, vorhersagbare H ≥ 0. Beweis. (i) =⇒ “ Dies hat die obige Diskussion schon gezeigt. ” ⇐= “ W¨ahle n0 ∈ N. Setze Hn = ½{n=n0 } . Dann ist (H ·X)n0 −1 = 0, also ” * ) * ) 0 = E (H ·X)n0 Fn0 −1 = E Xn0 Fn0 −1 − Xn0 −1 . (ii)
Dies geht analog wie in (i).
2
Der vorangehende Satz sagt uns insbesondere, dass wir keine (lokal beschr¨ankte) Spielstrategie finden k¨onnen, die aus einem Martingal (oder schlimmer: einem Supermartingal) ein Submartingal machte. Genau dies wird einem aber nat¨urlich durch ¨ diverse Aufforderungen zum so genannten Systemlotto“ und Ahnlichem nahe ge” legt. Beispiel 9.40 (Petersburger Spiel). Wir f¨uhren Beispiel 9.14 fort (siehe auch Beispiel 4.22). Setzen wir Xn := D1 + . . . + Dn f¨ur n ∈ N0 , so ist X ein Martingal.
202
9 Martingale
Die Spielstrategie Hn := 2n−1 ½{D1 =D2 =...=D n−1 =−1} f¨ur n ∈ N und H0 = 1 ist vorhersagbar und lokal beschr¨ankt. Sei Sn = ni=1 Hi Di = (H·X)n der Zugewinn nach n Runden. Dann ist S nach dem vorangehenden Satz ein Martingal. Speziell erhalten wir das bereits in Beispiel 4.22 gezeigte Ergebnis, dass E[Sn ] = 0 ist f¨ur jedes n ∈ N. Dass dies, wie dort gezeigt, in zumindest vordergr¨undigem Kontrast zu n→∞ der Aussage Sn −→ 1 f.s. steht, wird uns sp¨ater noch einmal besch¨aftigen (siehe Beispiel 11.6). F¨ur den Moment sei angemerkt, dass das Martingal S = (1 − Sn )n∈N0 wie in Beispiel 9.31 die Struktur eines Produkts nunabh¨angiger Zufallsvariablen mit Erwar3 tungswert 1 hat. Es gilt n¨amlich Sn = i=1 (1 − Di ).
9.4 Diskreter Martingaldarstellungssatz und CRR Modell Wir haben nun gesehen, dass wir vermittels des stochastischen Integrals aus einem Martingal X durch eine Spielstrategie H ein neues Martingal H ·X herstellen k¨onnen. Welche Martingale Y (mit Y0 = 0) sind nun durch eine geeignete Spielstrategie H = H(Y ) aus X zu gewinnen? Wom¨oglich alle? Dies ist sicher nicht der Fall, wie das folgende Beispiel zeigt. Allerdings sind alle Martingale darstellbar, wenn f¨ur die Zuw¨achse Xn+1 − Xn immer nur zwei Werte in Frage kommen (gegeben X1 , . . . , Xn ). Wir geben f¨ur diesen Fall einen Darstellungssatz an und diskutieren in der Folge den fairen Preis der europ¨aischen Kaufoption (europ¨aischer Call) in dem Aktienkursmodell von Cox-Ross-Rubinstein. Wir wollen dabei einen naiven Standpunkt einnehmen und einen in vielerlei Hinsicht idealisierten Markt voraussetzen (keine Handelskosten, gebrochene Anzahlen handelbar, und so fort). F¨ur eine umfassendere Lekt¨ure zum Thema Finanzmathematik eignen sich etwa die Lehrb¨ucher [44], [83], [104], [59], [12] oder [50]. Beispiel 9.41. Wir betrachten ein ganz einfaches Martingal X = (Xn )n=0,1 mit nur zwei Zeitpunkten. Es sei X0 = 0 fast sicher und P[X1 = −1] = P[X1 = 0] = P[X1 = 1] = 13 . Sei Y0 = 0 sowie Y1 = 2, falls X1 = 1 und Y1 = −1 sonst. Dann ist Y offenbar ein σ(X)-Martingal. Allerdings k¨onnen wir keine Zahl H1 angeben, 3 sodass H1 X1 = Y1 w¨are. Sei T ∈ N ein fester Zeitpunkt. Ist (Yn )n=0,1,...,T ein F-Martingal, dann ist Yn = E[YT Fn ] f¨ur jedes n ≤ T . Durch die Angabe von YT ist ein F-Martingal Y also eindeutig festgelegt (und umgekehrt). Da (H ·X) ein Martingal ist, falls X ein Martingal ist, reduziert sich das Darstellungsproblem f¨ur Martingale auf das Problem, eine integrierbare Zufallsvariable V := YT darzustellen als v0 + (H · X)T , wobei v0 = E[YT ] ist, falls X ein Martingal ist. Wir haben eben schon gesehen, dass dies im Allgemeinen nicht m¨oglich ist, wenn die Differenzen Xn+1 − Xn drei (oder mehr) unterschiedliche Werte annehmen k¨onnen. Wir betrachten nun also den Fall, wo nur zwei Werte m¨oglich sind. Hier
9.4 Diskreter Martingaldarstellungssatz und CRR Modell
203
muss in jedem Schritt ein lineares Gleichungssystem mit zwei Gleichungen und zwei Unbekannten gel¨ost werden. Im Falle von drei m¨oglichen Werten von Xn+1 − Xn w¨aren dies drei Gleichungen f¨ur zwei Unbekannte, und im Allgemeinen ist dieses Gleichungssystem dann nicht l¨osbar. Definition 9.42 (Bin¨ares Modell). Ein stochastischer Prozess X0 , . . . , XT heißt bin¨ares Modell, oder bin¨ar aufspaltend, falls es Zufallsvariablen D1 , . . . , DT mit Werten in {−1, +1} gibt und Funktionen fn : Rn−1 × {−1, +1} → R f¨ur n = 1, . . . , T sowie x0 ∈ R, sodass X0 = x0 und Xn = fn (X1 , . . . , Xn−1 , Dn )
f¨ur jedes n = 1, . . . , T.
Mit F = σ(X) bezeichnen wir dann die von X erzeugte Filtration. Man beachte, dass Xn nur von X1 , . . . , Xn−1 und Dn abh¨angt und nicht von der vollen Information der Werte D1 , . . . , Dn . Man mache sich klar, dass im letzteren Fall eine mehr als bin¨are Aufspaltung der Werte in einem Zeitschritt m¨oglich w¨are. Satz 9.43 (Darstellungssatz). Sei X ein bin¨ares Modell und VT eine FT -messbare Zufallsvariable. Dann existiert ein beschr¨ankter, vorhersagbarer Prozess H und ein v0 ∈ R mit VT = v0 + (H ·X)T . Man beachte, dass F die von X erzeugte Filtration ist, nicht die im Allgemeinen gr¨oßere, von D1 , . . . , DT erzeugte. F¨ur diese ist die Aussage des Satzes im Allgemeinen nicht zutreffend, denn mit der Anlagestrategie H k¨onnen wir nur an der Wertentwicklung von X partizipieren, nicht jedoch Wetten auf die Werte des zu Grunde liegenden Zufallsmechanismus direkt, also die Di , abschließen. In dem Extremfall etwa, wo alle fn konstant sind, k¨onnen wir nur konstante Zufallsvariablen VT als stochastisches Integral darstellen. Beweis. Wir zeigen, dass es FT −1 -messbare Zufallsvariablen VT −1 und HT gibt, sodass VT = VT −1 + HT (XT − XT −1 ). Dies liefert per R¨uckw¨artsinduktion die gew¨unschte Aussage. Da VT messbar ist bez¨uglich FT , existiert nach dem Faktorisierungslemma (Korollar 1.97) eine Funktion gT : RT → R mit VT = gT (X1 , . . . , XT ). Wir setzen XT± = fT (X1 , . . . , XT −1 , ±1)
und
VT±
= gT (X0 , . . . , XT −1 , XT± ).
Jede dieser vier Zufallsvariablen ist offenbar FT −1 -messbar. Wir suchen nun also VT −1 und HT , die das folgende lineare Gleichungssystem l¨osen VT −1 + HT (XT− − XT −1 ) = VT− , VT −1 + HT (XT+ − XT −1 ) = VT+ .
(9.3)
204
9 Martingale
Per Konstruktion ist XT+ − XT− = 0, falls VT+ − VT− = 0. Also k¨onnen wir (9.3) aufl¨osen und erhalten ⎧ + − ⎨ VT −VT , falls X + = X − , + − T T HT := XT −XT ⎩ 0, sonst, und VT −1 = VT+ − HT (XT+ − XT −1 ) = VT− − HT (XT− − XT −1 ).
2
Wir wollen nun X als Kurs einer Aktie auffassen und VT als Auszahlungsfunktion eines Finanzderivats auf X, eines so genannten Claims. Beispielsweise kann VT eine europ¨aische Kaufoption (Call) mit F¨alligkeitszeitpunkt (maturity) T und Aus¨ubungspreis (strike price) K ≥ 0 sein. In diesem Fall w¨are VT = (XT − K)+ . ¨ Okonomisch ausgedr¨uckt gibt diese Option dem K¨aufer das Recht (aber nicht die Pflicht) vom Herausgeber der Option zum Zeitpunkt T die Eingehung eines Kaufvertrages u¨ ber eine Aktie zum Preis K einzufordern. Von diesem Recht macht man sinnvollerweise nur dann Gebrauch, wenn XT ≥ K ist. In diesem Fall kann man die erworbene Aktie zum Preis XT wieder an der B¨orse verkaufen und hat einen Gewinn von VT gemacht. An den B¨orsen werden nun aber nicht nur Aktien, sondern auch Derivate auf Aktien gehandelt. Welches ist also der faire Preis π(VT ) f¨ur den eine B¨orsenh¨andlerin den Claim VT anbieten kann? Gibt es eine Strategie H und ein v0 , sodass VT = v0 + (H ·X)T ist, dann kann die H¨andlerin gegen Bezahlung von v0 risikolos VT nachbilden, indem sie H als Handelsstrategie an der B¨orse benutzt. Wir nennen den Claim VT dann replizierbar und die Strategie H einen Hedge. Ein Markt, in dem jeder Claim replizierbar ist, heißt vollst¨andig. In diesem Sinne ist das Bin¨armodell also ein vollst¨andiger Markt. G¨abe es nun eine zweite Strategie H und ein zweites v0 mit v0 + (H ·X)T = VT , so w¨are insbesondere v0 − v0 = ((H − H) · X)T . W¨are v0 > v0 , so k¨onnte die H¨andlerin risikolos durch Verfolgen der Strategie H − H einen Gewinn v0 − v0 machen, im Falle v0 < v0 hingegen durch die Strategie H − H einen Gewinn v0 − v0 . Wenn man solche Arbitragem¨oglichkeiten ausschließt, also einen so genannten arbitragefreien Markt annimmt, so ist der faire Preis π(VT ) eindeutig festgelegt, sobald man eine Strategie H und ein v0 mit VT = v0 + (H ·X)T hat. Wir haben bislang noch nirgends angenommen, dass X ein Martingal sei. Ist nun aber X ein Martingal, so ist (H ·X) ein Martingal mit (H ·X)0 = 0, also offenbar E[(H ·X)T ] = 0. Damit ist dann π(VT ) = v0 = E[VT ].
(9.4)
Da in diesem Fall v0 nicht mehr von der Handelsstrategie abh¨angt, also eindeutig ist, ist der Markt automatisch arbitragefrei. In endlichen M¨arkten ist Arbitragefreiheit a¨ quivalent zur Existenz eines a¨ quivalenten Martingals (siehe unten), und in diesem Fall ist die Vollst¨andigkeit a¨ quivalent zur Eindeutigkeit des Martingals (Satz von
9.4 Diskreter Martingaldarstellungssatz und CRR Modell
205
¨ Harrison-Pliska (1981), [71]). In gr¨oßeren Marktmodellen gilt Aquivalenz nur f¨ur einen etwas flexibleren Arbitrage-Begriff (siehe [33]). Ist nun X kein Martingal, so k¨onnen wir in manchen F¨allen X durch einen anderen Prozess X ersetzen, der ein Martingal ist, und so, dass die Verteilungen PX und PX die selben Nullmengen haben, also a¨ quivalent sind. Ein Hedge, der VT bez¨uglich X nachbildet, bildet VT auch bez¨uglich X nach. Insbesondere a¨ ndert sich der faire Preis π(VT ) nicht, wenn wir zum Martingal X u¨ bergehen. Wir k¨onnen π(VT ) also berechnen, indem wir (9.4) auf das a¨ quivalente Martingal anwenden. Das Maß PX wird auch a¨ quivalentes Martingalmaß genannt. W¨ahrend es hier f¨ur uns nur von rechnerischem Interesse ist, hat es eine o¨ konomische Interpretation als Maß f¨ur die Preisbildung, falls alle H¨andler sich risikoneutral verhalten, also den Wert einer k¨unftigen Auszahlung allein nach deren Erwartungswert bemessen (was typischerweise nicht der Fall ist; die meisten Anleger sind risikoavers, lassen sich also Unsicherheiten durch einen Aufschlag bezahlen). Nun wollen wir aber ein Modell im Detail betrachten. Definition 9.44. Seien T ∈ N, a ∈ (−1, 0) und b > 0 sowie p ∈ (0, 1). Ferner seien D1 , . . . , DT u.i.v. mit P[D1 = 1] = 1 − P[D1 = −1] = p. Wir definieren X0 = x0 > 0 und f¨ur n = 1, . . . , T (1 + b) Xn−1 , falls Dn = +1, Xn = (1 + a) Xn−1 , falls Dn = −1. X heißt mehrstufiges Binomialmodell oder Cox-Ross-Rubinstein’sches Modell (ohne Verzinsung). Nach dem bisher Gezeigten ist das CRR Modell vollst¨andig. Ferner k¨onnen wir a durch die Wahl p = p∗ := a−b den Prozess X zu einem Martingal machen. Mithin ist das Modell auch arbitragefrei (f¨ur jedes p ∈ (0, 1)). Wir wollen nun den Preis des europ¨aischen Calls VT := (XT − K)+ explizit ausrechnen. Hierzu k¨onnen wir wieder p = p∗ annehmen. Wir erhalten dann mit A := min{i ∈ N0 : (1 + b)i (1 + a)T −i x0 > K}, π(VT ) = Ep∗ [VT ] =
T
) *+ bT,p∗ ({i}) (1 + b)i (1 + a)T −i x0 − K
i=0
T T ) * T ∗ i ∗ T −i i T −i (p ) (1 − p ) (1 + b) (1 + a) −K = x0 bT,p∗ ({i}). i i=A
i=A
Setzen wir p = (1 + b)p∗ , dann ist p ∈ (0, 1) und 1 − p = (1 − p∗ )(1 + a). Wir erhalten so die Cox-Ross-Rubinstein’sche Formel π(VT ) = x0 bT,p ({A, . . . , T }) − K bT,p∗ ({A, . . . , T }).
(9.5)
Dies ist das diskrete Analogon zur ber¨uhmten Black–Scholes Formel f¨ur die Optionsbewertung in gewissen zeitkontinuierlichen M¨arkten.
10 Optional Sampling S¨atze
Wir haben im vorigen Kapitel gesehen, dass aus Martingalen wieder Martingale werden, wenn man gewisse Spielstrategien anwendet. Wir wollen in diesem Kapitel a¨ hnliche Stabilit¨atseigenschaften f¨ur zuf¨allig gestoppte Martingale zeigen. Um die Aussagen auch f¨ur Submartingale und Supermartingale zu bekommen, geben wir im ersten Abschnitt einen Zerlegungssatz f¨ur adaptierte Prozesse an. Im zweiten Abschnitt kommen dann die Optional Sampling und Optional Stopping S¨atze.
10.1 Doob-Zerlegung und quadratische Variation Sei X = (Xn )n∈N0 ein adaptierter Prozess mit E[|Xn |] < ∞ f¨ur jedes n ∈ N0 . Wir wollen X zerlegen in eine Summe aus einem Martingal und einem vorhersagbaren Prozess. Dazu definieren wir f¨ur n ∈ N0 Mn := X0 +
n
Xk − E[Xk Fk−1 ]
(10.1)
k=1
und An :=
n
E[Xk Fk−1 ] − Xk−1 .
k=1
Offenbar ist Xn = Mn + An . Per Konstruktion ist A vorhersagbar mit A0 = 0, und M ist ein Martingal, denn * ) E[Mn − Mn−1 Fn−1 ] = E Xn − E[Xn Fn−1 ] Fn−1 = 0. Satz 10.1 (Doob-Zerlegung). Sei X = (Xn )n∈N0 ein adaptierter, integrierbarer Prozess. Dann existiert eine eindeutige Zerlegung X = M + A, wobei A vorhersagbar ist mit A0 = 0 und M ein Martingal. Diese Darstellung von X heißt Doob-Zerlegung. X ist genau dann ein Submartingal, wenn A monoton wachsend ist. Beweis. Nur die Eindeutigkeit ist zu zeigen. Seien also X = M + A = M + A zwei Zerlegungen mit den genannten Eigenschaften. Dann ist M −M = A −A ein
208
10 Optional Sampling S¨atze
¨ vorhersagbares Martingal, also ist (siehe Ubung 9.2.2) Mn − Mn = M0 − M0 = 0 f.s. f¨ur jedes n ∈ N0 . 2 Beispiel 10.2. Sei I = N0 oder I = {0, . . . , N }. Sei (Xn )n∈I ein quadratisch integrierbares F-Martingal (das heißt E[Xn2 ] < ∞ f¨ur jedes n ∈ I). Nach Satz 9.35 ist Y := (Xn2 )n∈I ein Submartingal. Sei Y = M + A die Doob-Zerlegung von Y . Es ist dann (Xn2 − An )n∈I ein Martingal. Ferner ist E[Xi−1 Xi Fi−1 ] = 2 , also (wie in (10.1)) Xi−1 E[Xi Fi−1 ] = Xi−1 An =
n
2 E[Xi2 Fi−1 ] − Xi−1
i=1
=
n
2 E[(Xi − Xi−1 )2 Fi−1 ] − 2Xi−1 + 2 E[Xi−1 Xi Fi−1 ]
i=1 n * ) = E (Xi − Xi−1 )2 Fi−1 .
3
i=1
Definition 10.3. Sei (Xn )n∈I ein quadratisch integrierbares F-Martingal. Der eindeutig bestimmte vorhersagbare Prozess A, mit dem (Xn2 − An )n∈I ein Martingal wird, heißt quadratischer Variationsprozess von X und wird in Formeln mit ( X!n )n∈I := A bezeichnet. Aus dem vorangehenden Beispiel ergibt sich sofort der folgende Satz. Satz 10.4. Sei X wie in Definition 10.3. Dann ist f¨ur n ∈ N0 X!n =
n * ) E (Xi − Xi−1 )2 Fi−1
(10.2)
i=1
und E[ X!n ] = Var[Xn − X0 ].
(10.3)
Bemerkung 10.5. Sind Y und A wie in Beispiel 10.2, dann ist A monoton wachsend, weil (Xn2 )n∈I ein Submartingal ist (vergleiche Satz 10.1). Deshalb wird A manchmal auch der wachsende Prozess von Y genannt. 3 Beispiel 10.6. Seien Y1 , Y2 , . . . unabh¨angige, quadratisch integrierbare, zentrierte Zufallsvariablen. Dann wird durch Xn := Y1 + . . . + Yn ein quadratisch inn 2 = tegrierbares Martingal definiert mit X! n i=1 E[Yi ], denn es ist An = n n 2 2 i=1 E[Yi Y1 , . . . , Yi−1 ] = i=1 E[Yi ] (wie in Beispiel 10.2). Man beachte, dass es f¨ur diese einfache Darstellung von X! nicht ausreicht, dass 3 die Y1 , Y2 , . . . unkorreliert sind.
10.1 Doob-Zerlegung und quadratische Variation
209
Beispiel 10.7. Seien Y1 , Y2 , . . . unabh¨angige, quadratisch n integrierbare Zufallsvariablen mit E[Yn ] = 1 f¨ur n ∈ N. Setze Xn := ur n ∈ N0 . Dann i=1 Yi f¨ ist X = (Xn )n∈N0 ein quadratisch integrierbares Martingal (warum?) bez¨uglich F = σ(X) und ) * ) * 2 2 Fn−1 = Var[Yn ] Xn−1 . E (Xn − Xn−1 )2 Fn−1 = E (Yn − 1)2 Xn−1 n 2 Also ist X!n = i=1 Var[Yi ] Xi−1 . Wir sehen, dass der quadratische Variationsprozess also durchaus ein echt zuf¨alliger Prozess sein kann. 3 Beispiel 10.8. Sei (Xn )n∈N0 die eindimensionale symmetrische einfache Irrfahrt: Xn =
n
Ri
f¨ur jedes n ∈ N0 ,
i=1
wobei R1 , R2 , R3 , . . . u.i.v. sind mit P[Ri = 1] = 1 − P[Ri = −1] = 12 . Offenbar ist X ein Martingal, also |X| ein Submartingal. Sei |X| = M + A die Doob-Zerlegung von |X|. Dann ist An =
n
E[|Xi | Fi−1 ] − |Xi−1 | .
i=1
Nun ist
⎧ |X | + Ri , ⎪ ⎪ ⎨ i−1 |Xi | = |Xi−1 | − Ri , ⎪ ⎪ ⎩ 1,
Also gilt E[|Xi | Fi−1 ] = Mithin ist
falls Xi−1 > 0, falls Xi−1 < 0, falls Xi−1 = 0.
|Xi−1 |,
falls |Xi−1 | = 0,
1,
falls |Xi−1 | = 0.
An = # i ≤ n − 1 : |Xi | = 0
die Lokalzeit von X in 0. Es folgt (wegen P[X2j = 0] = 0] = 0): ) * E[|Xn |] = E #{i ≤ n − 1 : Xi = 0} =
n−1 i=0
2j j
4−j und P[X2j+1 =
2j −j 4 . j
(n−1)/2
P[Xi = 0] =
j=0
3
Beispiel 10.9. Wir wollen das vorangehende Beispiel jetzt noch etwas verallgemeinern. Offenbar brauchten wir (außer in der letzten Formel) nicht, dass X eine Irrfahrt ist, sondern lediglich, dass die Differenzen (ΔX)n := Xn − Xn−1 nur die Werte
210
10 Optional Sampling S¨atze
−1 und +1 annehmen k¨onnen. Sei also jetzt X ein Martingal mit |Xn − Xn−1 | = 1 fast sicher f¨ur jedes n ∈ N und mit X0 = x0 ∈ Z fast sicher. Sei f : Z → R eine beliebige Abbildung. Dann ist Y := (f (Xn ))n∈N0 ein integrierbarer, adaptierter Prozess (weil |f (Xn )| ≤ maxx∈{x0 −n,...,x0 +n} |f (x)|). Um die Doob-Zerlegung von Y zu bestimmen, definieren wir die erste und zweite (diskrete) Ableitung von f f (x) := und
f (x + 1) − f (x − 1) 2
f (x) := f (x − 1) + f (x + 1) − 2f (x).
Wir setzen noch Fn := f (Xn−1 ) und Fn := f (Xn−1 ). Durch Unterscheidung der F¨alle Xn = Xn−1 − 1 und Xn = Xn−1 + 1 sehen wir, dass f¨ur jedes n ∈ N f (Xn−1 + 1) − f (Xn−1 − 1) (Xn − Xn−1 ) 2 1 1 + f (Xn−1 − 1) + f (Xn−1 + 1) − f (Xn−1 ) 2 2 1 = f (Xn−1 )(Xn − Xn−1 ) + f (Xn−1 ) 2 1 = Fn · (Xn − Xn−1 ) + Fn . 2
f (Xn ) − f (Xn−1 ) =
Insgesamt erhalten wir also die diskrete Itˆo-Formel f (Xn ) = f (x0 ) +
n
f (Xi−1 )(Xi − Xi−1 ) +
i=1
= f (x0 ) + (F ·X)n +
n 1 i=1
n 1 i=1
2
2
f (Xi−1 ) (10.4)
Fi .
Hierbei ist F ·X das diskrete stochastische Integral (siehe Definition 9.37). Nun ist M := f (x0 ) + F ·X ein Martingal nach Satz 9.39, F vorhersagbar ist (und
weil n 1 |Fn | ≤ maxx∈{x0 −n,...,x0 +n} |F (x)|), und A := i=1 2 Fi n∈N0 ist vorhersagbar. Also ist f (X) := (f (Xn ))n∈N0 = M + A die Doob-Zerlegung von f (X). Speziell ist nat¨urlich f (X) ein Submartingal, wenn f (x) ≥ 0 f¨ur alle x ∈ Z, wenn also f konvex ist. Dies wussten wir zwar schon aus Satz 9.35, allerdings haben wir hier auch noch quantifiziert, wie weit f (X) von einem Martingal abweicht. In den Spezialf¨allen f (x) = x2 und f (x) = |x| ist f (x) = 2 beziehungsweise f (x) = 2 · ½{0} (x), und wir erhalten aus (10.4) die Aussagen von Satz 10.4 und Beispiel 10.8. Sp¨ater werden wir eine zu (10.4) vergleichbare Formel auch f¨ur stochastische Prozesse in stetiger Zeit herleiten (siehe Kapitel 25.3). 3
10.2 Optional Sampling und Optional Stopping
211
10.2 Optional Sampling und Optional Stopping Lemma 10.10. Sei I ⊂ R h¨ochstens abz¨ahlbar, (X t )t∈I ein Martingal, T ∈ I und τ eine Stoppzeit mit τ ≤ T . Dann gilt Xτ = E[XT Fτ ] und speziell E[Xτ ] = E[X0 ]. Beweis. Es reicht zu zeigen, dass E[XT ½A ] = E[Xτ ½A ] f¨ur jedes A ∈ Fτ gilt. Nach der Definition von Fτ ist {τ = t} ∩ A ∈ Ft f¨ur jedes t ∈ I, also ) * E[Xt ½{τ =t}∩A ] = E E[XT Ft ] ½{τ =t}∩A E[Xτ ½A ] = t≤T
=
t≤T
E[XT ½A ½{τ =t} ] = E[XT ½A ].
2
t≤T
Satz 10.11 (Optional Sampling Theorem). Sei X = (Xn )n∈N0 ein Supermartingal, und seien σ ≤ τ Stoppzeiten. (i) Gibt es ein T ∈ N mit τ ≤ T , dann ist Xσ ≥ E[Xτ Fσ ] und speziell E[Xσ ] ≥ E[Xτ ]. Ist X ein Martingal, so gilt jeweils Gleichheit. (ii) Ist X nichtnegativ und τ < ∞ f.s., so gelten E[Xτ ] ≤ E[X0 ] < ∞, E[Xσ ] ≤ E[X0 ] < ∞ und Xσ ≥ E[Xτ Fσ ]. (iii) Ist allgemeiner X lediglich adaptiert und integrierbar, so ist X genau dann ein Martingal, wenn E[Xτ ] = E[X0 ] f¨ur jede beschr¨ankte Stoppzeit τ gilt. Beweis. (i) Sei X = M + A die Doob-Zerlegung von X, also A vorhersagbar und monoton fallend, A0 = 0, und M ein Martingal. Dann ist nach Lemma 10.10, angewandt auf M , Xσ = Aσ + Mσ = E[Aσ + MT Fσ ] ≥ E[Aτ + MT Fσ ] = E[Aτ + E[MT Fτ ] Fσ ] = E[Aτ + Mτ Fσ ] = E[Xτ Fσ ]. Wir haben dabei Fτ ⊃ Fσ , die Turmeigenschaft und die Monotonie der bedingten Erwartung (Satz 8.14) ausgenutzt. n→∞
(ii) Es gilt Xτ ∧n −→ Xτ fast sicher. Nach (i) gilt E[Xτ ∧n ] ≤ E[X0 ] f¨ur jedes n ∈ N. Nach dem Lemma von Fatou ist also E[Xτ ] ≤ lim inf E[Xτ ∧n ] ≤ E[X0 ] < ∞. n→∞
Analog zeigt man E[Xσ ] ≤ E[X0 ].
212
10 Optional Sampling S¨atze
Seien nun m, n ∈ N mit m ≥ n. Teil (i) mit den beschr¨ankten Stoppzeiten τ ∧ m ≥ σ ∧ n liefert Xσ∧n ≥ E[Xτ ∧m Fσ∧n ]. F¨ur A ∈ Fσ ist {σ < n} ∩ A ∈ Fσ∧n , also ist * ) * ) * ) E Xσ ½{σ
Monotone Konvergenz (f¨ur n → ∞) ergibt daher E[Xτ ½A ] ≤ E[Xσ ½A ]. (iii) Ist X ein Martingal, so folgt die Aussage aus Lemma 10.10. Gelte nun E[Xτ ] = E[X0 ] f¨ur jede beschr¨ankte Stoppzeit τ . Sei t > s und A ∈ Fs . Es reicht zu zeigen, dass E[Xt ½A ] = E[Xs ½A ]. Setze τ = s ½A + t½Ac . Dann ist τ eine beschr¨ankte Stoppzeit. Nach Voraussetzung gilt aber E[Xt ½A ] = E[Xt ] − E[Xt ½Ac ] = E[X0 ] − E[Xτ ] + E[Xs ½A ] = E[Xs ½A ]. 2 Korollar 10.12. Sei X ein Martingal (beziehungsweise Submartingal), und sei (τN )N ∈N eine monoton wachsende Folge beschr¨ankter Stoppzeiten (also τN ≤ TN , N ∈ N f¨ur gewisse TN ∈ N). Dann ist (XτN )N ∈N ein Martingal (beziehungsweise Submartingal) bez¨uglich der Filtration (FτN )N ∈N . Definition 10.13. Sei I ⊂ R h¨ochstens abz¨ahlbar und (Xt )t∈I adaptiert sowie τ eine Stoppzeit. Wir definieren den gestoppten Prozess X τ durch Xtτ = Xτ ∧t
f¨ur jedes t ∈ I.
Ferner sei Fτ die Filtration Fτ = (Ftτ )t∈I = (Fτ ∧t )t∈I . Bemerkung 10.14. X τ ist an F und an Fτ adaptiert.
3
Satz 10.15 (Optional Stopping). Sei (Xn )n∈N0 ein (Sub-, Super-)Martingal bez¨uglich F und τ eine Stoppzeit. Dann ist X τ ein (Sub-, Super-)Martingal sowohl bez¨uglich F als auch bez¨uglich Fτ . Beweis. Wir f¨uhren den Beweis nur f¨ur den Fall, dass X ein Submartingal ist. Die anderen F¨alle ergeben sich, weil in ihnen (−X) ein Submartingal ist. Sei also X ein Submartingal. Offenbar ist f¨ur jedes n ∈ N0 ) ) *
* ) E Xnτ ≤ E max |Xm | : m ≤ n ≤ E |X0 |] + . . . + E[|Xn |] < ∞, also ist X τ integrierbar.
10.2 Optional Sampling und Optional Stopping
213
Wegen {τ > n − 1} ∈ Fn−1 ist τ Fn−1 ] = E[Xτ ∧n − Xτ ∧(n−1) Fn−1 ] E[Xnτ − Xn−1 = E[(Xn − Xn−1 ) ½{τ >n−1} Fn−1 ] = ½{τ >n−1} E[Xn − Xn−1 Fn−1 ] ≥ 0, da X ein F-Submartingal ist. Also ist X τ ein F-Submartingal. Da X τ an Fτ adaptiert und Fτ die kleinere Filtration ist, ist X τ auch ein Fτ -Submartingal (siehe Bemerkung 9.29). 2 Beispiel 10.16. Sei X die symmetrische einfache Irrfahrt aus Beispiel 10.8. Seien a, b ∈ Z, a < 0, b > 0 sowie τa = inf{t ≥ 0 : Xt = a},
τb = inf{t ≥ 0 : Xt = b} und τa,b = τa ∧ τb .
τa,b ist eine Stoppzeit nach Lemma 9.18. Sei A = {τa,b = τa } das Ereignis, dass ¨ X in a ist bevor es in b ist. Wir wollen P[A] bestimmen. Nach Ubung 2.3.1 ist fast sicher lim supn→∞ Xn = ∞ und lim inf n→∞ Xn = −∞. Also ist fast sicher τa < ∞ und τb < ∞. Nach dem Optional Stopping Theorem ist X τa,b ein Martingal. n→∞ n→∞ τ τ Wegen τa,b ∧ n −→ τa,b fast sicher, gilt Xna,b −→ Xτa,b fast sicher. Da |Xna,b | τa,b n→∞ durch b − a beschr¨ankt ist, gilt Xn −→ Xτa,b auch in L1 . Also ist ) * ) τ * 0 = lim E Xna,b = E Xτa,b = a · P [τa,b = τa ] + b · P [τa,b = τb ] n→∞
= b + (a − b) P[τa,b = τa ]. Es folgt P [τa,b = τa ] =
b . b−a
3
Beispiel 10.17. Schließlich wollen wir unsere Maschinerie benutzen, um E[τa,b ] und E[τa ] zu berechnen. Der quadratische Variationsprozess X! (vergleiche Definition 10.3) ist gegeben durch X!n =
n
* ) E (Xi − Xi−1 )2 Fi−1 = n,
i=1
also ist Xn2 − n n∈N ein Martingal. Nach dem Optional Stopping Theorem ist 0 * ) 0 = E Xτ2a,b ∧n − (τa,b ∧ n)
f¨ur jedes n ∈ N0 .
Monotone Konvergenz liefert * ) E [τa,b ] = E Xτ2a,b = a2 P [τa,b = τa ] + b2 P [τa,b = τb ] = |a| · b. Um E[τa ] zu berechnen, bemerken wir, dass τa,b ↑ τa fast sicher gilt, falls b → ∞. Der Satz von der monotonen Konvergenz liefert also E[τa ] = lim E[τa,b ] = ∞. 3 b→∞
214
10 Optional Sampling S¨atze
* ) Bemerkung 10.18. Offenbar ist Xτb = b > 0, also X0 < E Xτb F0 = b. Die Aussage des Optional Sampling Theorems gilt also im Allgemeinen nicht, falls die Stoppzeit unbeschr¨ankt ist. 3 Beispiel 10.19 (Gambler’s Ruin Problem). Wir betrachten ein Spiel zwischen zwei Personen A und B. In jeder Runde wird eine M¨unze geworfen. Je nach Ergebnis erh¨alt A von B eine Geldeinheit oder B von A. Gespielt wird so lange, bis einer der beiden Spieler ruiniert ist. Wir nehmen der Einfachheit halber an, dass A zum Spielbeginn kA ∈ N Geldeinheiten hat, B hingegen kB = N − kA , wobei N ∈ N, N ≥ kA . Gesucht ist die Ruinwahrscheinlichkeit von B. In Beispiel 10.16 haben wir f¨ur den Fall einer fairen M¨unze bereits ausgerechnet, dass die Ruinwahrscheinlichkeit kA /N ist. Nun wollen wir den Fall einer unfairen M¨unze betrachten. Seien also Y1 , Y2 , . . . unabh¨angig und P[Yi = 1] = 1 − P[Y ni = −1] = p f¨ur alle i ∈ N und f¨ur gewisses p ∈ (0, 1) \ { 12 }. Mit Xn := kB + i=1 Yi bezeichnen wir den Kontostand von B nach n Runden, wobei wir formal annehmen, dass die Spiele weiter gehen, auch wenn ein Spieler bereits ruiniert ist. Wir definieren noch wie oben τ0 , τN und τ0,N als die ersten Eintreffzeiten von X in {0}, {N } beziehungsweise {0, N }. Die Ruinwahrscheinlichkeit von B ist nun pN B := P[τ0,N = τ0 ]. Da X kein Martingal ist (außer im Falle p = 12 , den wir hier ausschließen wollen), behelfen wir uns nmit einem Trick: Wir definieren einen neuen Prozess Z durch Zn := rXn = rkB i=1 r Yi , wobei wir r > 0 noch geeignet w¨ahlen m¨ussen, sodass Z ein Martingal wird. Nach Beispiel 9.31 ist dies genau dann der Fall, wenn ist. OffenE[rY1 ] = pr + (1 − p)r −1 = 1 ist, also wenn r = 1 oder r = 1−p p bar ist die Wahl r = 1 nutzlos, also nehmen wir r = 1−p an. Wir erhalten so p N τ0 = inf{n ∈ N0 : Zn = 1} und τN = inf{n ∈ N0 : Zn = r }. (Man beachte, dass wir hier nicht wie oben argumentieren k¨onnen, um zu zeigen, dass τ0 < ∞ und τN < ∞ fast sicher gilt. In der Tat ist f¨ur p = 12 auch stets nur genau eine der beiden Aussagen richtig. Allerdings erh¨alt man, beispielsweise durch das starke Gesetz der großen Zahl, dass lim inf n→∞ Xn = ∞ (und damit τN < ∞) fast sicher, falls p > 12 . Analog ist τ0 < ∞ fast sicher, falls p < 12 .) Wie in Beispiel 10.16 liefert der Optional Stopping Satz r kB = Z0 = E[Zτ0,N ] = N N pN B + (1 − pB )r , also ist die Ruinwahrscheinlichkeit von B
pN B =
rkB − rN . 1 − rN
(10.5)
Ist das Spiel vorteilhaft f¨ur B, also p > 12 , so ist r < 1, und wir erhalten im Limes N → ∞ (bei konstantem kB ) N kB p∞ . B := lim pB = r N →∞
(10.6) 3
10.3 Gleichgradige Integrierbarkeit und Optional Sampling
215
¨ Ubung 10.2.1. Sei X ein quadratisch integrierbares Martingal mit quadratischem Variationsprozess X!. Sei τ eine endliche Stoppzeit. Man zeige: (i) Ist E[ X!] < ∞, so gilt ) * ) * E (Xτ − X0 )2 = E X!τ
und
) * ) * E Xτ = E X0 .
(ii) Ist E[ X!τ ] = ∞, so braucht keine der Gleichungen in (10.7) zu gelten.
(10.7) ♣
¨ Ubung 10.2.2. Wir betrachten hier eine allgemeinere Situation als im vorangehenden Beispiel, indem wir nur noch annehmen, dass Y1 , Y2 , . . . u.i.v. integrierbare Zufallsvariablen sind, die nicht fast sicher konstant sind (und Xn = Y1 + . . . + Yn ). Weiter nehmen wir an, dass es ein δ > 0 gibt mit E[exp(θY1 )] < ∞ f¨ur jedes θ ∈ (−δ, δ).Wir definieren eine Abbildung ψ : (−δ, δ) → R durch θ → log E[exp(θY1 )] und setzen Znθ := exp(θXn − nψ(θ)) f¨ur n ∈ N0 . Man zeige: (i) F¨ur jedes θ ∈ (−δ, δ) ist Z θ ist ein Martingal. (ii) ψ ist strikt konvex. )3 * n→∞ (iii) E Znθ −→ 0 f¨ur θ = 0. n→∞
(iv) Znθ −→ 0 fast sicher. Interpretieren wir Yn als die Differenz zwischen Pr¨amieneinnahmen und Schadensauszahlungen einer Versicherungsgesellschaft zur Zeit n, so gibt k0 +Xn den Kontostand der Versicherung zur Zeit n wieder, wenn das Anfangskapital k0 > 0 betr¨agt. Wir interessieren uns f¨ur die Ruinwahrscheinlichkeit ) * p(k0 ) = P inf{Xn + k0 : n ∈ N0 } < 0 in Abh¨angigkeit vom Startkapital. Man kann davon ausgehen, dass die Pr¨amien so kalkuliert sind, dass E[Y1 ] > 0. Man zeige: Falls die Gleichung ψ(θ) = 0 eine L¨osung θ∗ = 0 hat, so ist θ ∗ < 0. Man zeige, dass in diesem Fall die Cram´er-Lundberg’sche Ungleichung gilt: p(k0 ) ≤ exp(θ∗ k0 ).
(10.8)
In dem Fall, wo Yi nur die Werte −1 und 1 annimmt und k0 ∈ N ist, gilt Gleichheit, ♣ und wir erhalten Gleichung (10.6) mit r = exp(θ∗ ).
10.3 Gleichgradige Integrierbarkeit und Optional Sampling Wir wollen jetzt das Optional Sampling Theorem auf unbeschr¨ankte Stoppzeiten ausweiten. Dies geht, falls das zugrunde liegende Martingal gleichgradig integrierbar ist (vergleiche Definition 6.16).
216
10 Optional Sampling S¨atze
Lemma 10.20. Sei X ein gleichgradig integrierbares Martingal. Dann ist die Familie (Xτ : τ ist endliche Stoppzeit) gleichgradig integrierbar. Beweis. Nach Satz 6.19 gibt es eine monoton wachsende, konvexe Funktion f : [0, ∞) → [0, ∞) mit lim inf x→∞ f (x)/x = ∞ und L := supn∈N0 E[f (|Xn |)] < ∞. Ist τ < ∞ eine endliche Stoppzeit, dann ist nach dem Optional Sampling Theorem f¨ur beschr¨ankte Stoppzeiten (Satz 10.11 mit τ = n und σ = τ ∧ n) E[Xn Fτ ∧n ] = Xτ ∧n . Wegen {τ ≤ n} ∈ Fτ ∧n liefert die Jensen’sche Ungleichung * ) * ) E f (|Xτ |) ½{τ ≤n} = E f (|Xτ ∧n |) ½{τ ≤n} * * ) ) ≤ E E f (|Xn |) Fτ ∧n ½{τ ≤n} * ) = E f (|Xn |) ½{τ ≤n} ≤ L. Also ist E[f (|Xτ |)] ≤ L. Nach Satz 6.19 ist (Xτ , τ ist endliche Stoppzeit) gleichgradig integrierbar. 2 Satz 10.21 (Optional Sampling und gleichgradige Integrierbarkeit). Ist (Xn , n ∈ N0 ) ein gleichgradig integrierbares Martingal (beziehungsweise Supermartingal), und sind σ ≤ τ endliche Stoppzeiten, dann gilt E[|Xτ |] < ∞ und Xσ = E[Xτ Fσ ] (beziehungsweise Xσ ≥ E[Xτ Fσ ]). Beweis. Sei zun¨achst X ein Martingal. F¨ur A ∈ Fσ ist {σ ≤ n} ∩ A ∈ Fσ∧n , also nach dem Optional Sampling Theorem (Satz 10.11) ) * ) * E Xτ ∧n ½{σ≤n}∩A = E Xσ∧n ½{σ≤n}∩A . Nach Lemma 10.20 ist (Xσ∧n , n ∈ N0 ) und damit (Xσ∧n ½{σ≤n}∩A , n ∈ N0 ) gleichgradig integrierbar. Analog gilt dies f¨ur Xτ . Nach Satz 6.25 gilt daher ) ) * * E[Xτ ½A ] = lim E Xτ ∧n ½{σ≤n}∩A = lim E Xσ∧n ½{σ≤n}∩A = E[Xσ ½A ]. n→∞
Es folgt E[Xτ Fσ ] = Xσ .
n→∞
Sei nun X ein Supermartingal. Dann hat X die Doob-Zerlegung X = M + A, wobei M ein Martingal ist und A ≤ 0 vorhersagbar und fallend. Wegen E[|An |] = E[−An ] ≤ E[|Xn − X0 |] ≤ E[|X0 |] + sup E[|Xm |] < ∞, m∈N0
gilt An ↓ A∞ f¨ur ein A∞ ≤ 0 mit E[−A∞ ] < ∞ (nach dem Satz u¨ ber monotone Konvergenz). Also ist A damit auch M = X − A gleichgradig integrierbar (Satz 6.18(ii)). Es folgt E[|Xτ |] ≤ E[−Aτ ] + E[|Mτ |] ≤ E[−A∞ ] + E[|Mτ |] < ∞.
10.3 Gleichgradige Integrierbarkeit und Optional Sampling
217
Ferner ist E[Xτ Fσ ] = E[Mτ Fσ ] + E[Aτ Fσ ]
= Mσ + Aσ + E[(Aτ − Aσ ) Fσ ] ≤ Mσ + Aσ = Xσ .
2
Korollar 10.22. Ist X ein gleichgradig integrierbares Martingal (beziehungsweise Supermartingal), und sind τ1 ≤ τ2 ≤ . . . endliche Stoppzeiten, so ist (Xτn )n∈N ein Martingal (beziehungsweise Supermartingal).
11 Martingalkonvergenzs¨atze und Anwendungen
Wir haben Martingale X = (Xn )n∈N0 als faire Spiele kennen gelernt und festgestellt, dass sie unter gewissen Transformationen (Optionales Stoppen, diskretes stochastisches Integral) wieder zu Martingalen werden. In diesem Kapitel werden wir sehen, dass unter schwachen Bedingungen (Nichtnegativit¨at oder gleichgradige Integrierbarkeit) Martingale fast sicher konvergieren. Zudem impliziert die Martingalstruktur die Lp -Konvergenz schon unter formal schw¨acheren Annahmen als denen, die wir in Kapitel 7 gesehen haben. Die grundlegenden Ideen dieses Kapitels liegen in der Doob’schen Ungleichung (Satz 11.2) und in der Aufkreuzungsungleichung (Lemma 11.3).
11.1 Die Doob’sche Ungleichung Wir haben mit der Kolmogorov’schen Ungleichung (Satz 5.28) eine Ungleichung kennen gelernt, die analog zur Chebyshev’schen Ungleichung die Wahrscheinlichkeit f¨ur große Werte des Maximums eines quadratisch integrierbaren Prozesses mit unabh¨angigen, zentrierten Zuw¨achsen nach oben absch¨atzt. An dieser Stelle wollen wir die Ungleichung in mehrere Richtungen verbessern. Einerseits wollen wir Martingale betrachten. Andererseits wollen wir mit weniger als zweiten Momenten auskommen, beziehungsweise bei Anwesenheit h¨oherer Momente die Ungleichung versch¨arfen. Sei I ⊂ N0 und X = (Xn )n∈I ein stochastischer Prozess. Wir schreiben f¨ur n ∈ N Xn∗ = sup{Xk : k ≤ n}
und
|X|∗n = sup{|Xk | : k ≤ n}.
Lemma 11.1. Ist X ein Submartingal, dann gilt f¨ur jedes λ > 0 * ) * * ) ) λ P Xn∗ ≥ λ ≤ E Xn ½{Xn∗ ≥λ} ≤ E |Xn | ½{Xn∗ ≥λ} . Beweis. Die zweite Ungleichung ist trivial. F¨ur die erste betrachte
τ := inf k ∈ I : Xk ≥ λ ∧ n. Nach Satz 10.11 (Optional Sampling Theorem) ist
220
11 Martingalkonvergenzs¨atze und Anwendungen
) * ) * E[Xn ] ≥ E[Xτ ] = E Xτ ½{Xn∗ ≥λ} + E Xτ ½{Xn∗ <λ} * * ) ) ≥ λ P Xn∗ ≥ λ + E Xn ½{Xn∗ <λ} . * ) (Merke: τ = n, falls Xn∗ < λ.) Jetzt subtrahiere E Xn ½{Xn∗ <λ} .
2
Satz 11.2 (Doob’sche Lp -Ungleichung). Sei X ein Martingal oder ein positives Submartingal. (i) F¨ur jedes p ≥ 1 und λ > 0 gilt ) * ) * λp P |X|∗n ≥ λ ≤ E |Xn |p . (ii) F¨ur jedes p > 1 gilt
* ) * ) E |Xn |p ≤ E (|X|∗n )p ≤
p p−1
p
) * E |Xn |p .
Beweis. Der Beweis folgt [146]. (i) Nach Satz 9.35 ist (|Xn |p )n∈I ein Submartingal, und die Behauptung folgt aus Lemma 11.1 (mit λp und |X|p statt λ und X). (ii) Die erste Ungleichung ist trivial. Die zweite Ungleichung ist trivial, falls E[|Xn |p ] = ∞. Sei also E[|Xn |p ] < ∞. Man beachte, dass nach Lemma 11.1 gilt * ) ) * λP |X|∗n ≥ λ ≤ E |Xn | ½{|X|∗n ≥λ} . Also ist f¨ur jedes K > 0 * ) E (|X|∗n ∧ K)p = E
-
.
|X|∗ n ∧K
pλ
p−1
dλ
0
-
.
K
=E
p−1
pλ 0
K
=
½{|X|∗n ≥λ} dλ
p λp−1 P[|X|∗n ≥ λ] dλ
0
≤
0
) * p λp−2 E |Xn | ½{|X|∗n ≥λ} dλ . ∗
K
|X|n ∧K
= p E |Xn | 0
=
λp−2 dλ
) * p E |Xn | · (|X|∗n ∧ K)p−1 . p−1
Die H¨older’sche Ungleichung liefert nun
11.2 Martingalkonvergenzs¨atze
221
) *(p−1)/p *1/p ) p E (|X|∗n ∧ K)p · E |Xn |p . p−1 *p−1 ) Indem wir beide Seiten zur p-ten Potenz erheben und durch E (|X|∗n ∧ K)p teilen (hier wird das Abschneiden bei K gebraucht, damit wir sicher durch eine endliche Zahl teilen), erhalten wir p * * ) ) p E |Xn |p . E (|X|∗n ∧ K)p ≤ p−1 * ) E (|X|∗n ∧ K)p ≤
Jetzt lassen wir K nach ∞ gehen.
2
¨ Ubung 11.1.1. Sei (Xn )n∈N0 ein Submartingal oder Supermartingal. Man zeige mit Hilfe von Satz 11.2 und der Doob-Zerlegung, dass f¨ur jedes n ∈ N und λ > 0 ) * λ P |X|∗n ≥ λ ≤ 12 E[|X0 |] + 9 E[|Xn |]. ♣
11.2 Martingalkonvergenzs¨atze In diesem Abschnitt zeigen wir die g¨angigen Martingalkonvergenzs¨atze und geben ein paar kleinere Beispiele an. Wir beginnen mit dem Herzst¨uck der Martingalkonvergenzs¨atze, der Aufkreuzungsungleichung.
Sei F = (Fn )n∈N0 eine Filtration und F∞ = σ n∈N0 Fn . Sei (Xn )n∈N0 reellwertig und an F adaptiert. Seien a, b ∈ R mit a < b. Stellen wir uns X als Aktienkurs vor, so w¨are es eine sinnvolle Handelsstratgie, immer dann die Aktie zu kaufen, wenn ihr Kurs unter a gefallen ist, und zu verkaufen, sobald der Kurs wieder u¨ ber b gestiegen ist – jedenfalls dann, wenn wir sicher wissen, dass der Kurs immer wieder u¨ ber b steigt. Jedes Mal, wenn der Kurs der Aktie eine solche Aufkreuzung von a nach b vollf¨uhrt, erhalten wir einen Gewinn von mindestens b − a. Indem wir den maximal m¨oglichen Gewinn nach oben absch¨atzen, erhalten wir eine obere Absch¨atzung f¨ur die Zahl der Aufkreuzungen. Ist diese aber endlich f¨ur je zwei Werte a < b, so muss der Prozess fast sicher konvergieren. Wir kommen zu den technischen Details. Wir definieren Stoppzeiten σ0 ≡ 0 und τk := inf{n ≥ σk−1 : Xn ≤ a} σk := inf{n ≥ τk : Xn ≥ b}
f¨ur k ∈ N, f¨ur k ∈ N.
Man beachte, dass τk = ∞ gilt, falls σk−1 = ∞ ist, und σk = ∞, falls τk = ∞. Wir sagen, dass X zwischen τk und σk die k-te Aufkreuzung u¨ ber [a, b] hat, falls σk < ∞. F¨ur n ∈ N definieren wir Una,b := sup{k ∈ N0 : σk ≤ n} als Anzahl der Aufkreuzungen bis zur Zeit n. (Man beachte, dass Una,b messbar bez¨uglich F∞ ist, denn f¨ur jedes k ∈ N ist {Una,b ≥ k} = {σk ≤ n}.)
222
11 Martingalkonvergenzs¨atze und Anwendungen
Lemma 11.3 (Aufkreuzungsungleichung). Es sei (Xn )n∈N0 ein Submartingal. Dann ist * ) E[(Xn − a)+ ] − E[(X0 − a)+ ] . E Una,b ≤ b−a Beweis. Wir erinnern an das diskrete stochastische Integral (Definition 9.37) H ·X und beschreiben formal die oben angedeutete Handelsstrategie H f¨ur m ∈ N0 durch 1, falls m ∈ {τk + 1, . . . , σk } f¨ur ein k ∈ N, Hm := 0, sonst. H ist nichtnegativ und vorhersagbar, denn f¨ur m ∈ N ist ∞
{Hm = 1} =
{τk ≤ m − 1} ∩ {σk > m − 1} ,
k=1
und jedes der Ereignisse liegt in Fm−1 . Setze Y = max(X, a). Ist k ∈ N und σk < ∞, so ist offenbar Yσi − Yτi = Yσi − a ≥ b − a f¨ur jedes i ≤ k , also ist (H ·Y )σk =
σi k
(Yj − Yj−1 ) =
i=1 j=τi +1
k
(Yσi − Yτi ) ≥ k(b − a).
i=1
F¨ur j ∈ {σk , . . . , τk+1 } ist (H ·Y )j = (H ·Y )σk , und f¨ur j ∈ {τk + 1, . . . , σk } ist (H ·Y )j ≥ (H ·Y )τk = (H ·Y )σk−1 . F¨ur n ∈ N ist daher (H ·Y )n ≥ (b − a)Una,b . Nach Korollar 9.34 ist Y ein Submartingal, und damit (nach Satz 9.39) auch H ·Y und (1 − H)·Y . Nun ist Yn − Y0 = (1·Y )n = (H ·Y )n + ((1 − H)·Y )n , also * ) * ) 2 E[Yn − Y0 ] ≥ E (H ·Y )n ≥ (b − a)E Una,b . Satz 11.4 (Martingalkonvergenzsatz). Sei (Xn )n∈N0 ein Submartingal mit sup{E[Xn+ ] : n ≥ 0} < ∞. Dann existiert n→∞ eine F∞ -messbare Zufallsvariable X∞ mit E[|X∞ |] < ∞ und Xn −→ X∞ fast sicher. Beweis. F¨ur a < b ist (wegen E[(Xn − a)+ ] ≤ |a| + E[Xn+ ]) nach Lemma 11.3 E[Una,b ] ≤
|a| + E[Xn+ ] . b−a
a,b Offensichtlich existiert := limn→∞ U) na,b . Es gilt* nach ) * der monotone Limes U Voraussetzung E U a,b = limn→∞ E[Una,b ] < ∞. Speziell ist P U a,b < ∞ = 1. Definiere die F∞ -messbaren Ereignisse 2 1
a,b = lim inf Xn < a ∩ lim sup Xn > b ⊂ U a,b = ∞ C n→∞
n→∞
11.2 Martingalkonvergenzs¨atze
und C=
223
C a,b .
a,b∈Q a
* ) Dann gilt P C a,b = 0 und damit auch P[C] = 0. Per Konstruktion ist (Xn )n∈N jedoch auf C c konvergent. Also existiert der fast sichere Limes X∞ = limn→∞ Xn . Jedes der Xn ist F∞ -messbar, also ist X∞ auch F∞ -messbar. Nach dem Lemma von Fatou ist
+ E[X∞ ] ≤ sup E[Xn+ ] : n ≥ 0 < ∞.
Andererseits ist (weil X Submartingal ist), wieder mit Fatous Lemma
− ] ≤ lim inf E[Xn− ] = lim inf E[Xn+ ] − E[Xn ] E[X∞ n→∞
≤ sup
n→∞
E[Xn+ ]
: n ∈ N0 − E[X0 ] < ∞.
2
Korollar 11.5. Ist X ein nichtnegatives Supermartingal, so gibt es eine F∞ -messn→∞ bare Zufallsvariable X∞ ≥ 0 mit E[X∞ ] ≤ E[X0 ] und Xn −→ X∞ f.s. Beweis. Der vorige Satz mit (−X) liefert X∞ als fast sicheren Limes. Das Lemma von Fatou liefert 2 E[X∞ ] ≤ lim inf E[Xn ] ≤ E[X0 ]. n→∞
Beispiel 11.6. Sei Sn der Kontostand beim Petersburger Spiel nach der n-ten Runde (siehe Beispiel 9.40). Dann ist S ein Martingal und Sn ≤ 1 fast sicher f¨ur jedes n. Also sind die Voraussetzungen von Satz 11.4 erf¨ullt und (Sn )n∈N0 konvergiert f¨ur n → ∞ fast sicher gegen einen endlichen (zuf¨alligen) Grenzwert. Da sich der Kontostand noch a¨ ndert, so lange Geld eingesetzt wird, also so lange Sn < 1 ist, gilt lim Sn = 1 fast sicher. n→∞
Da E[Sn ] = 0 ist f¨ur jedes n ∈ N0 , kann die Konvergenz nicht in L1 gelten. Dies geht einher mit der Beobachtung, dass S nicht gleichgradig integrierbar ist. 3 F¨ur gleichgradig integrierbare Martingale gilt ein st¨arkerer Konvergenzsatz. ¨ gleichgradig integrierbare Martingale). Satz 11.7 (Konvergenzsatz fur Ist (Xn )n∈N0 ein gleichgradig integrierbares F- (Sub-, Super-) Martingal, dann n→∞ existiert eine F∞ -messbare Zufallsvariable X∞ mit Xn −→ X∞ f.s. und in L1 . Weiter gilt, dass – Xn = E[X∞ Fn ] f¨ur jedes n ∈ N, falls X ein Martingal ist, – Xn ≤ E[X∞ Fn ] f¨ur jedes n ∈ N, falls X ein Submartingal ist, – Xn ≥ E[X∞ Fn ] f¨ur jedes n ∈ N, falls X ein Supermartingal ist.
224
11 Martingalkonvergenzs¨atze und Anwendungen
Bemerkung 11.8. Die Aussage von Satz 11.7 l¨asst sich so ausdr¨ucken: Der Prozess (Xn )n∈N0 ∪{∞} ist ein (Sub-, Super-) Martingal bez¨uglich (Fn )n∈N0 ∪{∞} . 3 Beweis. Wir f¨uhren den Beweis f¨ur den Fall, wo X ein Submartingal ist. Gleichgradige Integrierbarkeit impliziert sup{E[Xn+ ] : n ≥ 0} < ∞. Nach Satz 11.4 exisn→∞ tiert der fast sichere Limes X∞ . Nach Satz 6.25 gilt dann E[|Xn − X∞ |] −→ 0. 1 1 die L -Konvergenz der Nach Korollar 8.20 impliziert L -Konvergenz schon * n→∞ ) diese bedingten Erwartungen E E[Xn Fm ] − E[X∞ Fm ] −→ 0. Die Dreiecksungleichung liefert also ) − * ) − * − E E[Xn Fm ] − Xm E E[X∞ Fm ] − Xm ' ( n→∞ ≤ E E[X∞ Fm ] − E[Xn Fm ] −→ 0.
− Da X ein Submartingal ist, gilt E[Xn Fm ] − Xm = 0 f¨ur n ≥ m. Es folgt also ) − * E E[X∞ Fm ] − Xm = 0 und damit E[X∞ Fm ] − Xm ≥ 0 fast sicher. 2 Korollar 11.9. Sei X ≥ 0 ein Martingal und X∞ = lim Xn . Genau dann ist E[X∞ ] = E[X0 ], wenn X gleichgradig integrierbar ist.
n→∞
Beweis. Das folgt direkt aus Satz 6.25.
2
Sei p ∈ [1, ∞). Ein reellwertiger stochastischer Prozess (Xi )i∈I heißt Lp -beschr¨ankt, falls supi∈I E[|Xi |p ] < ∞ (Definition 6.20). Im Allgemeinen folgt aus der Lp -Beschr¨anktheit eines Prozesses (Xi )i∈I nicht, dass (|Xi |p )i∈I gleichgradig integrierbar w¨are. Ist X ein Martingal und p > 1, so folgt dies jedoch aus der Doob’schen Ungleichung. Insbesondere folgt dann aus fast sicherer Konvergenz schon die Konvergenz in Lp . ¨ Martingale). Satz 11.10 (Lp -Konvergenzsatz fur Sei p > 1 und (Xn )n∈N0 ein Lp -beschr¨anktes Martingal. Dann existiert eine F∞ n→∞ messbare Zufallsvariable X∞ mit E[|X∞ |p ] < ∞ sowie Xn −→ X∞ fast p p sicher und in L . Speziell ist (|Xn | )n∈N0 gleichgradig integrierbar. Beweis. Nach Korollar 6.21 ist X gleichgradig integrierbar. Also existiert der fast sichere Limes X∞ . Nach der Doob’schen Ungleichung (Satz 11.2) ist f¨ur n ∈ N p * )
* ) p p E sup |Xk | : k ≤ n ≤ E |Xn |p . p−1 Also ist p ) '
( * p p sup E |Xn |p : n ∈ N0 < ∞. E sup |Xk | : k ∈ N0 ≤ p−1
11.2 Martingalkonvergenzs¨atze
225
Insbesondere ist (|Xn |p )n∈N0 also gleichgradig integrierbar. Majorisierte Konvergenz liefert (wegen |Xn − X∞ |p ≤ 2p sup{|Xn |p : n ∈ N0 }) * ) E |X∞ |p < ∞
und
) * n→∞ E |Xn − X∞ |p −→ 0.
2
F¨ur den Fall quadratintegrierbarer Martingale gibt es ein handliches Kriterium f¨ur die L2 -Beschr¨anktheit, das wir hier als Korollar festhalten (siehe Definition 10.3). Korollar 11.11. Sei X ein quadratintegrierbares Martingal mit quadratischem Variationsprozess X!. Dann sind folgende vier Aussagen a¨ quivalent: (i) supn∈N E[Xn2 ] < ∞, (ii) limn→∞ E[ X!n ] < ∞, (iii) X konvergiert in L2 , (iv) X konvergiert fast sicher und in L2 . Beweis. (i) ⇐⇒ (ii)“ Wegen Var[Xn − X0 ] = E[ X!n ] (siehe Satz 10.4) ist ” X genau dann in L2 beschr¨ankt, wenn (ii) gilt. (iv) =⇒ (iii) =⇒ (i)“ Dies ist trivial. ” (i) =⇒ (iv)“ Dies ist die Aussage von Satz 11.10. ”
2
Bemerkung 11.12. Die Aussage von Satz 11.10 ist f¨ur p = 1 im Allgemeinen ¨ falsch. Siehe Ubung 11.2.1. 3 Lemma 11.13. Sei X ein quadratintegrierbares Martingal mit quadratischem Variationsprozess X!, und sei τ eine Stoppzeit. Dann hat der gestoppte Prozess X τ den quadratischen Variationsprozess X τ ! = X!τ := ( X!τ ∧n )n∈N0 . ¨ Beweis. Ubung!
2
Nehmen wir statt wie in Korollar 11.11 nicht die Beschr¨anktheit der Erwartungswerte der quadratischen Variation an, sondern lediglich die fast sichere Beschr¨anktheit, so erhalten wir immerhin noch fast sichere Konvergenz von X, im Allgemeinen nicht jedoch L2 -Konvergenz. Satz 11.14. Sei X ein quadratintegrierbares Martingal mit supn∈N X!n < ∞ fast sicher. Dann konvergiert X fast sicher.
226
11 Martingalkonvergenzs¨atze und Anwendungen
Beweis. Ohne Einschr¨ankung k¨onnen wir annehmen, dass X0 = 0 ist, sonst betrachten wir das Martingal (Xn − X0 )n∈N0 , das den selben quadratischen Variationsprozess hat. Betrachte f¨ur K > 0 τK := inf{n ∈ N : X!n+1 ≥ K}. Dies ist eine Stoppzeit, da X! vorhersagbar ist. Offenbar ist supn∈N X!τK ∧n ≤ K fast sicher. Nach Korollar 11.11 konvergiert der gestoppte Prozess X τK fast sicher τK (und in L2 ) gegen eine Zufallsvariable, die wir X∞ nennen wollen. Nach Voraus2 setzung gilt P[τK = ∞] → 1 f¨ur K → ∞, also konvergiert X fast sicher. Beispiel 11.15. Sei X die symmetrische einfache Irrfahrt auf Z, das heißt Xn = n 1 k=1 Rk , wobei R1 , R2 , . . . u.i.v. sind mit P[R1 = 1] = 1 − P[R1 = −1] = 2 . Dann ist X ein Martingal, jedoch ist lim supn→∞ Xn = ∞ und lim inf n→∞ Xn = −∞, also X nicht einmal uneigentlich konvergent. Dies geht nach dem Martingalkonvergenzsatz einher damit, dass X nicht gleichgradig integrierbar ist. 3 Beispiel 11.16 (W¨ahlermodell). Wir betrachten ein einfaches Modell zum Verhalten von opportunistischen W¨ahlern, die nur einer von zwei Meinungen (zu einem politischen Thema) f¨ahig sind, sagen wir 0 und 1. Wir betrachten eine Menge Λ ⊂ Zd , die wir als die Menge der Orte auffassen, an denen je ein Individuum sitzt. Zur Einfachheit nehmen wir an, dass Λ = {0, . . . , L − 1}d f¨ur ein L ∈ N. Mit x ∈ {0, 1}Λ bezeichnen wir einen generischen Zustand des gesamten Wahlvolkes, wobei x(i) ∈ {0, 1} die Meinung des Individuums i ∈ Λ ist. Wir stellen uns nun vor, dass sich die Meinungen in diskreten Zeitschritten a¨ ndern. Zu jedem Zeitpunkt n vergisst ein zuf¨allig gew¨ahltes Individuum In seine Meinung und u¨ bernimmt stattdessen die Meinung eines zuf¨allig gew¨ahlten Nachbarn In + Nn , wobei wir die Addition als komponentenweise modulo L verstehen (manchmal wird dies auch periodische Randbedingungen genannt, weil wir Λ als diskreten Torus auffassen). So erhalten wir eine zuf¨allige Folge (Xn )n∈N0 von Zust¨anden in {0, 1}Λ , die die zuf¨allige Entwicklung der Meinungen darstellt. Um noch einmal formal zu fassen, was wir gerade beschrieben haben: Wir betrachten unabh¨angige Zufallsvariablen (In )n∈N und (Nn )n∈N . F¨ur jedes n ∈ N sei In uniform verteilt auf Λ und Nn uniform verteilt auf den 2d direkten Nachbarn des Ursprungs N := {i ∈ Zd : i2 = 1}. Zudem ist x = X0 ∈ {0, 1}Λ der urspr¨ungliche Zustand. Die weiteren Zust¨ande definieren wir induktiv durch Xn−1 (i), falls In = i, Xn (i) = Xn−1 (In + Nn ), falls In = i. Wir interessieren uns jetzt f¨ur das Langzeitverhalten von (Xn )n∈N0 . Wird es auf lange Sicht einen Konsens unter allen Individuen geben, oder k¨onnen zwei konkurrierende Meinungen koexistieren? Wir betrachten dazu die Gesamtzahl aller Individuen mit Meinung 1 zur Zeit n, n¨amlich Mn := i∈Λ Xn (i). Sei F die Filtration
11.2 Martingalkonvergenzs¨atze
227
F = (Fn )n∈N0 , wobei Fn = σ(Ik , Nk : k ≤ n) ist f¨ur jedes n ∈ N0 . Dann ist M an F adaptiert und E[Mn Fn−1 ] = Mn−1 − E[Xn−1 (In ) Fn−1 ] + E[Xn−1 (In + Nn ) Fn−1 ] P[In = i] Xn−1 (i) + P[In + Nn = i] Xn−1 (i) = Mn−1 − i∈Λ
i∈Λ
= Mn−1 , weil P[In = i] = P[In + Nn = i] = L−d f¨ur jedes i ∈ Λ. Also ist M ein beschr¨anktes F-Martingal und damit fast sicher und in L1 konvergent gegen eine Zufallsvariable M∞ . Da M nur ganzzahlige Werte annimmt, gibt es ein (zuf¨alliges) n0 , sodass Mn = Mn0 f¨ur jedes n ≥ n0 . Damit ist aber auch Xn = Xn0 f¨ur jedes n ≥ n0 . Offenbar ist jedoch kein Zustand x mit x ≡ 0 und x ≡ 1 stabil, denn hier gilt, falls i und j in Λ benachbart sind und x(i) = x(j), P[Xn = Xn−1 Xn−1 = x] ≥ P[In−1 = i, Nn−1 = j − i] = L−d (2d)−1 . Es muss also M∞ ∈ {0, Ld } gelten. Nun ist aber E[M∞ ] = M0 , also gilt * M0 ) P M∞ = Ld = d L
) * M0 P M∞ = 0 = 1 − d . L
und
Etwas formaler sehen wir den Sachverhalt, dass nur die beiden extremen Zust¨ande stabil sind, so ein: Wir betrachten den quadratischen Variationsprozess M ! von M . Dann ist M !n =
n * ) E ½{Mk =Mk−1 } |Fk−1 k=1
n * ) = P Xk−1 (Ik ) = Xk−1 (Ik + Nk )|Fk−1 . k=1
Also ist L2d ≥ Var[Mn ] = E[ M !n ] n ) * = P Xk−1 (Ik ) = Xk−1 (Ik + Nk ) k=1 −1
≥ (2d)
−d
L
n ) * P Mk−1 ∈ {0, Ld } . k=1
∞
Es folgt, dass k=1 P[Mk−1 ∈ {0, L }] ≤ 2dL3d < ∞, also ist nach dem Lemma von Borel-Cantelli M∞ ∈ {0, Ld }. 3 d
Beispiel 11.17 (Satz von Radon-Nikodym). Wir wollen mit Hilfe des Martingalkonvergenzsatzes einen alternativen Beweis des Satzes von Radon-Nikodym (Korollar 7.34) angeben.
228
11 Martingalkonvergenzs¨atze und Anwendungen
Sei (Ω, F, P) ein W-Raum und Q ein weiteres W-Maß auf (Ω, A). Wir nehmen zudem an, dass F abz¨ahlbar erzeugt ist, dass es also (h¨ochstens) abz¨ahlbar viele Mengen A1 , A2 , . . . ∈ F gibt, sodass F = σ({A1 , A2 , . . .}). Dies ist beispielsweise dann richtig, wenn F die Borel’sche σ-Algebra auf einem polnischen Raum ist. Speziell k¨onnen wir f¨ur den Fall Ω = Rd offene Kugeln mit rationalen Radien und rationalen Zentren nehmen (vergleiche Bemerkung 1.24). Wir bilden nun eine Filtration F = (Fn )n∈N , indem wir Fn := σ({A1 , . . . , An }) setzen. Offenbar ist #Fn < ∞ f¨ur jedes n ∈ N. Genauer gilt, dass es eine endliche (eindeutig bestimmte) Teilmenge Zn ⊂ Fn \ {∅} gibt mit B= C f¨ur jedes B ∈ Fn . C∈Zn , C⊂B
Zn ist die Zerlegung von Fn in Atome“. Definiere X = (Xn )n∈N durch ” Q(C) Xn := ½C . P[C] C∈Zn : P[C]>0
Offenbar ist X an F adaptiert. Sei B ∈ Fn und m ≥ n. F¨ur jedes C ∈ Zm gilt entweder C ∩ B = ∅ oder C ⊂ B. Also ist Q(C) P[C ∩B] = E[Xm ½B ] = Q(C) = Q(B). (11.1) P[C] C∈Zm : P[C]>0
C∈Zm : C⊂B
Insbesondere ist X also ein F-Martingal. Wir nehmen nun an, dass Q absolutstetig bez¨uglich P ist. Nach Beispiel 7.39 ist X dann gleichgradig integrierbar. Nach dem Martingalkonvergenzsatz konvergiert X fast sicher und in L1 gegen eine Zufallsvariable X∞ . Nach (11.1) ist E[X∞ ½B ] = Q(B) f¨ur jedes B ∈ n∈N Fn , also auch f¨ur jedes B ∈ F. Mithin ist X∞ die Radon-Nikodym-Dichte von Q bez¨uglich P. Man beachte, dass wir f¨ur diesen Beweis des Satzes von Radon-Nikodym nirgends die Existenz bedingter Erwartungen vorausgesetzt haben (vielmehr haben wir sie f¨ur endliche σ-Algebren explizit konstruiert), also nicht in versteckter Weise auf den Satz selber zur¨uckgegriffen haben. Man k¨onnte einwenden, dass wir hier nur den Spezialfall von W-Maßen behandeln konnten. Dieser Mangel kann jedoch sehr leicht behoben werden: Sind μ und ν beliebige (jedoch von Null verschiedene) σ-endliche Maße, dann gibt es messbare 0 0 Funktionen g, h : Ω → (0, ∞) mit g dμ = 1 und h dν = 1. Wir setzen nun P = gμ und Q = hν. Offenbar gilt genau dann Q % P, wenn ν % μ. In diesem dν . Fall ist hg X∞ eine Version der Radon-Nikodym-Ableitung dμ Auf die Einschr¨ankung, dass F abz¨ahlbar erzeugt werden kann, kann man ebenfalls verzichten. Mit Hilfe der Approximationss¨atze f¨ur Maße kann man zeigen, dass es stets eine abz¨ahlbar erzeugte σ-Algebra G ⊂ F gibt, sodass f¨ur jedes A ∈ F ein B ∈ G existiert mit P[A B] = 0. Hiermit l¨asst sich der allgemeine Fall beweisen. Wir f¨uhren dies hier nicht aus, sondern verweisen auf [167, Kapitel 14.13]. 3
11.2 Martingalkonvergenzs¨atze
229
¨ Ubung 11.2.1. Die Aussage von Satz 11.10 ist f¨ur p = 1 im Allgemeinen falsch. Man gebe ein Beispiel an f¨ur ein nichtnegatives Martingal X mit E[Xn ] = 1 f¨ur n→∞ ♣ jedes n ∈ N, aber Xn −→ 0 fast sicher. ¨ Ubung 11.2.2. Seien X1 , X2 , . . . unabh¨angige, quadratisch integrierbare Zufallsva∞ riablen mit n=1 n12 Var[Xn ] < ∞. Man zeige mit Hilfe des Martingalkonvergenzsatzes das starke Gesetz der großen Zahl f¨ur (Xn )n∈N . ♣ ¨ Ubung 11.2.3. Man gebe ein Beispiel an f¨ur ein quadratisch integrierbares Martin♣ gal, das fast sicher konvergiert, aber nicht in L2 . ¨ Ubung 11.2.4. Man zeige: In Satz 11.14 gilt im Allgemeinen nicht die Umkehrung. Das heißt, es gibt ein quadratintegrierbares Martingal X, das fast sicher konvergiert, f¨ur das aber nicht gilt, dass lim X!n < ∞ fast sicher. ♣ n→∞
¨ Ubung 11.2.5. Man zeige die folgende Umkehrung von Satz 11.14. Sei L > 0, und sei (Xn )n∈N ein Martingal mit der Eigenschaft Xn+1 − Xn ≤ L f.s. (11.2) Definiere die Ereignisse
C := (Xn )n∈N konvergiert f¨ur n → ∞ , A+ := lim sup Xn < ∞ , n→∞ − A := lim inf Xn > −∞ , n→∞ F := sup X!n < ∞ . n∈N
Man zeige:
C = A+ = A− = F
(mod P).
Dabei heißt Gleichheit (mod P), dass die jeweiligen Ereignisse bis auf eine PNullmenge u¨ bereinstimmen (siehe Definition 1.68(iii)). ± = Hinweis: Man verwende Stoppzeiten σK = inf{n ∈ N : |Xn | ≥ K}, σK inf{n ∈ N : ±Xn ≥ K} und τK wie im Beweis von Satz 11.14. ♣
¨ ¨ Ubung 11.2.6. Die Bezeichnungen seien wie in Ubung 11.2.5, jedoch gelte statt (11.2) lediglich ' ( (11.3) E sup Xn+1 − Xn < ∞. n∈N
Man zeige
C = A+ = A −
(mod P).
Hinweis: Man verwende den Martingalkonvergenzsatz (Satz 11.4) f¨ur den gestoppten Prozess X K f¨ur geeignete Stoppzeiten K . ♣
230
11 Martingalkonvergenzs¨atze und Anwendungen
¨ Ubung 11.2.7 (Bedingte Version des Borel-Cantelli Lemmas). Sei (Fn )n∈N0 eine Filtration und (An )n∈N Ereignisse. Setze A∗ = lim supn→∞ An und A∞ =
∞ n=1 P[An |Fn−1 ] = ∞ . Man zeige die bedingte Version des Borel-Cantelli Lemmas: P[A∞ A∗ ] = 0. n ¨ Hinweis: Wende Ubung 11.2.5 an auf Xn = k=1 (½Ak − P[Ak |Fk−1 ]). ♣ ¨ Ubung 11.2.8. Sei p ∈ [0, 1] und X = (Xn )n∈N0 ein stochastischer Prozess mit Werten in [0, 1]. F¨ur jedes n ∈ N0 gelte: Gegeben X0 , . . . , Xn ist 1 1 − p + pXn mit Wahrscheinlichkeit Xn , Xn+1 = pXn mit Wahrscheinlichkeit 1 − Xn . Man zeige, dass X ein Martingal ist und fast sicher konvergiert. Man bestimme die ♣ Verteilung des fast sicheren Grenzwerts limn→∞ Xn . ¨ Ubung 11.2.9. Sei f ∈ L1 (λ), wobei λ die Einschr¨ankung des Lebesgue-Maßes auf [0, 1] bezeichnet. Sei In,k = [k 2−n , (k + 1) 2−n ) f¨ur n ∈ N und k = 0, . . . , 2n − 1. Definiere fn : [0, 1] → R durch f dλ, falls k so gew¨ahlt ist, dass x ∈ Ik,n . fn (x) = 2n Ik,n n→∞
Zeige: F¨ur λ-fast alle x ∈ [0, 1] gilt fn (x) −→ f (x).
♣
¨ Ubung 11.2.10. Sei (Ω, A, P) ein Wahrscheinlichkeitsraum mit einer Filtration F = (Fn )n∈N . Sei F∞ := σ(Fn : n ∈ N), und sei M der Vektorraum der gleichgradig integrierbaren F-Martingale. Man zeige: die Abbildung Φ : L1 (F∞ ) → M, X∞ → (E[X∞ |Fn ])n∈N ist ein Vektorraumisomorphismus. ♣
11.3 Beispiel: Verzweigungsprozess Sei p = (pk )k∈N0 ein Wahrscheinlichkeitsvektor auf N0 und (Zn )n∈N0 der GaltonWatson-Prozess mit einem Urahn und Nachkommenverteilung p (siehe Definition 3.9). Zur Erinnerung geben wir die Konstruktion von Z an. Seien (Xn,i )n∈N0 , i∈N u.i.v. Zufallsvariablen mit P[X1,1 = k] = pk f¨ur k ∈ N0 . Setze Z0 = 1 und induktiv Zn+1 =
Zn
Xn,i
f¨ur n ∈ N0 .
i=1
Wir interpretieren Zn als Gr¨oße einer Population zur Zeit n und Xn,i als Anzahl der Nachkommen des i-ten Individuums aus der n-ten Generation.
11.3 Beispiel: Verzweigungsprozess
231
Seien m := E[X1,1 ] < ∞ die erwartete Kinderanzahl pro Individuum und σ 2 := Var[X1,1 ] ∈ (0, ∞) die Varianz der Kinderzahl. Setze Fn := σ(Xk,i : k < n, i ∈ N). Dann ist Z an F adaptiert. Definiere Wn := m−n Zn . Lemma 11.18. W ist ein Martingal. Speziell ist E[Z n ] = mn f¨ur jedes n ∈ N. Beweis. Wir berechnen die bedingte Erwartung f¨ur n ∈ N0 : E[Wn+1 Fn ] = m−(n+1) E[Zn+1 Fn ] -Z . n −(n+1) =m E Xn,i Fn i=1
= m−(n+1)
∞
* ) E ½{Zn =k} k · Xn,i Fn
k=1
= m−n
∞
* ) E k · ½{Zn =k} Fn
k=1
= m−n Zn = Wn .
2
Satz 11.19. Sei Var[X1,1 ] ∈ (0, ∞). Es existiert der fast sichere Limes W∞ = lim Wn , und es gilt n→∞
m>1
⇐⇒
E[W∞ ] = 1
⇐⇒
E[W∞ ] > 0.
Beweis. W∞ existiert, weil W ≥ 0 ein Martingal ist. Ist m ≤ 1, so folgt, dass (Zn )n∈N f.s. gegen ein Z∞ konvergiert. Wegen σ 2 > 0 kommt nur Z∞ = 0 in Frage. Sei nun m > 1. Es gilt nach dem Satz von Blackwell-Girshick (Satz 5.10) wegen E[Zn−1 ] = mn−1 (Lemma 11.18)
Var[Wn ] = m−2n σ 2 E[Zn−1 ] + m2 Var[Zn−1 ] = σ 2 m−(n+1) + Var[Wn−1 ]. Induktiv folgt Var[Wn ] = σ 2
n+1 k=2
m−k ≤
σ2 m < ∞. Also ist W in L2 bem−1
schr¨ankt, und Satz 11.10 liefert, dass Wn → W∞ in L2 und damit auch in L1 . 2 Speziell ist E[W∞ ] = E[W0 ] = 1.
232
11 Martingalkonvergenzs¨atze und Anwendungen
Unter der Annahme der endlichen Varianz waren die Aussagen von Satz 11.19 nicht schwer zu zeigen. Es gilt aber eine viel st¨arkere Aussage, die wir hier nur zitieren (siehe [99], beziehungsweise [115] f¨ur einen modernen Beweis). Satz 11.20 (Kesten-Stigum (1966)). Sei m > 1. Dann sind a¨ quivalent (i) E[W∞ ] = 1, (ii) E[W∞ ] > 0, (iii) E[X1,1 log(X1,1 )+ ] < ∞.
¨ 12 Ruckw¨ artsmartingale und Austauschbarkeit
Bei vielen Datenerhebungen, etwa Telefonumfragen, ist die Reihenfolge, in der die Daten kommen, unerheblich. Mathematisch sprechen wir von austauschbaren Zufallsvariablen, wenn sich die gemeinsame Verteilung unter endlichen Vertauschungen nicht a¨ ndert. Der Struktursatz f¨ur austauschbare Zufallsvariablen von de Finetti besagt, dass sich eine unendlich große austauschbare Familie von Zufallsvariablen mit Werten im Raum E als Zweistufenexperiment beschreiben l¨asst: In der ersten Stufe wird eine zuf¨allige Wahrscheinlichkeitsverteilung Ξ auf E ausgew¨urfelt. In der zweiten Stufe werden die Zufallsvariablen u.i.v. mit Verteilung Ξ realisiert. Wir definieren zun¨achst den Begriff der Austauschbarkeit. Danach betrachten wir R¨uckw¨artsmartingale und zeigen den Konvergenzsatz f¨ur R¨uckw¨artsmartingale. Dieser ist der Eckstein f¨ur den Beweis des Satzes von de Finetti.
12.1 Austauschbare Familien von Zufallsvariablen Definition 12.1. Sei I eine beliebige Indexmenge und E ein polnischer Raum. Eine Familie (Xi )i∈I von Zufallsvariablen mit Werten in E heißt austauschbar, falls f¨ur jede endliche Permutation : I → I gilt, dass ' ( * ) L X(i) i∈I = L (Xi )i∈I . Als endliche Permutation bezeichnen wir dabei eine Bijektion : I → I, die alle bis auf endlich viele Koordinaten unver¨andert l¨asst. Bemerkung 12.2. Offenbar sind a¨ quivalent: (i) (Xi )i∈I ist austauschbar. (ii) F¨ur n ∈ N und paarweise unterschiedliche i1 , . . . , in ∈ I sowie paarweise unterschiedliche j1 , . . . , jn ∈ I gilt L[(Xi1 , . . . , Xin )] = L[(Xj1 , . . . , Xjn )]. Insbesondere sind austauschbare Zufallsvariablen stets identisch verteilt (dies ist (ii) mit n = 1). 3
234
12 R¨uckw¨artsmartingale und Austauschbarkeit
Beispiel 12.3. (i) Ist (Xi )i∈I u.i.v., so ist (Xi )i∈I austauschbar. (ii) In einer Urne seien N Kugeln, davon M schwarz. Wir ziehen sukzessive ohne Zur¨ucklegen alle Kugeln und setzen 1, falls die n-te Kugel schwarz ist, Xn := 0, sonst. Dann ist (Xn )n=1,...,N austauschbar. Dies folgt aus elementarer Kombinatorik, denn f¨ur jede Wahl von x1 , . . . , xN ∈ {0, 1} mit x1 + . . . + xN = M ist offenbar * ) 1 P X1 = x1 , . . . , XN = xN = N . M
Diese Formel k¨onnen wir aber auch formal durch eine kleine Rechnung mit bedingten Wahrscheinlichkeiten herleiten, die wir in a¨ hnlicher Form f¨ur das P´olya’sche Urnenmodell in Beispiel 12.29 noch einmal durchf¨uhren werden. Setze dazu sk = x1 + . . . + xk f¨ur k = 0, . . . , N und 1 M − sk , falls x = 1, gk (x) = N − M + sk − k, falls x = 0. Dann ist P[X1 = x1 ] = g0 (x1 )/N und P[Xk+1 = xk+1 |X1 = x1 , . . . , Xk = xk ] =
gk (xk+1 ) N −k
f¨ur k = 1, . . . , N − 1.
Ferner ist offenbar gk (0) = N − M − l, wobei l = #{i < k : xi = 0}. Es folgt P[X1 = x1 , . . . , XN = xN ] = P[X1 = x1 ]
N −1
P[Xk+1 = xk+1 |X1 = x1 , . . . , Xk = xk ]
k=1
=
N −1 1 1 gk (xk+1 ) = N! N! k=0
=
k: xk =1
gk (1)
gk (0)
k: xk =0
M −1 N −1 M ! (N − M )! 1 (M − l) (N − M − l) = . N! N! l=0
l=0
(iii) Sei Y eine Zufallsvariable mit Werten in [0, 1], und gegeben Y seien (Xi )i∈I unabh¨angig und BerY -verteilt. Das heißt, f¨ur jedes endliche J ⊂ I ist P[Xj = 1 f¨ur jedes j ∈ J Y ] = Y #J . Dann ist (Xi )i∈I austauschbar.
3
12.1 Austauschbare Familien von Zufallsvariablen
235
Sei X = (Xn )n∈N ein stochastischer Prozess mit Werten in einem polnischen Raum E. Sei S(n) die Menge der Permutationen : {1, . . . , n} → {1, . . . , n}. Wir fassen ebenfalls als Abbildung N → N auf durch (k) = k f¨ur k > n. F¨ur ∈ S(n) und x = (x1 , . . . , xn ) ∈ E n schreiben wir x = (x(1) , . . . , x(n) ). F¨ur x ∈ E N schreiben wir analog x = (x(1) , x(2) , . . .) ∈ E N . Ist E ein weiterer polnischer Raum, so definieren wir f¨ur messbare Abbildungen f : E n → E und F : E N → E die Abbildungen f und F durch f (x) = f (x ) und F (x) = F (x ). Ferner schreiben wir f (x) = f (x1 , . . . , xn ) auch, falls x ∈ E N . Definition 12.4. (i) Eine Abbildung f : E n → E heißt symmetrisch, falls f = f ist f¨ur jedes ∈ S(n). (ii) Eine Abbildung F : E N → E heißt n-symmetrisch, falls F = F f¨ur jedes ∈ S(n). F heißt symmetrisch, falls F n-symmetrisch ist f¨ur jedes n ∈ N. Beispiel 12.5. F¨ur x ∈ RN definieren wir das n-te arithmetische Mittel durch (i) n 1 an (x) = n i=1 xi . Offenbar ist an eine n-symmetrische Abbildung (aber nicht m-symmetrisch f¨ur ein m > n). Weiter definiert a ¯(x) := lim sup an (x) eine symn→∞
metrische Abbildung RN → R ∪ {−∞, +∞}. ∞ (ii) Die Abbildung s : RN → [0, ∞], x → i=1 |xi | ist symmetrisch. Anders als a ¯ h¨angt der Wert von s von jeder einzelnen Koordinate ab, falls er endlich ist. N (iii) n F¨ur x ∈ E definieren wir die n-te empirische Verteilung durch ξn (x) = 1 i=1 δxi (wobei δxi das Dirac-Maß in xi ist). Offenbar ist ξn eine n-symmen trische Abbildung.
(iv)
Sei k ∈ N und ϕ : E k → R eine Abbildung. Das n-te symmetrisierte Mittel An (ϕ) : E N → R,
x →
1 ϕ(x ) n!
(12.1)
∈S(n)
ist eine n-symmetrische Abbildung.
3
Definition 12.6. Sei X = (Xn )n∈N ein stochastischer Prozess mit Werten in E. F¨ur n ∈ N sei
En := σ F ◦ X : F : E N → R ist messbar und n-symmetrisch die σ-Algebra der unter allen Permutation ∈ S(n) invarianten Ereignisse. Ferner sei E :=
∞
En = σ F ◦ X : F : E N → R ist messbar und symmetrisch
n=1
die σ-Algebra der austauschbaren Ereignisse f¨ur X, oder kurz die austauschbare σ-Algebra.
236
12 R¨uckw¨artsmartingale und Austauschbarkeit
Bemerkung 12.7. Ist A ∈ σ(Xn , n ∈ N) ein Ereignis, so gibt es ein messbares B ⊂ E N mit A = {X ∈ B}. Schreiben wir A = {X ∈ B} f¨ur ∈ S(n), so ist En = {A : A = A f¨ur alle ∈ S(n)}. Dies rechtfertigt den Namen austauschba” res Ereignis“. 3 Bemerkung 12.8. Schreiben wir Ξn (ω) := ξn (X(ω)) = n1 ni=1 δXi (ω) f¨ur die ¨ n-te empirische Verteilung, so ist nach Ubung 12.1.1 En = σ(Ξn ). 3 Bemerkung 12.9. Bezeichnen wir mit T = n∈N σ(Xn+1 , Xn+2 , . . .) die terminale σ-Algebra, so ist T ⊂ E, wobei im Falle #E ≥ 2 strikte Inklusion gilt. In der Tat: Offenbar ist σ(Xn+1 , Xn+2 , . . .) ⊂ En f¨ur n ∈ N, also T ⊂ E. Sei nun #E ≥2. W¨ahle ein messbares B ⊂ E mit B = ∅ und B c = ∅. Die Zufallsvariable ∞ S := n=1 ½B (Xn ) ist messbar bez¨uglich E, nicht aber bez¨uglich T . 3 Satz 12.10. Sei X = (Xn )n∈N austauschbar. Ist ϕ : E k → R messbar und E[|ϕ(X)|] < ∞, dann gilt f¨ur jedes n ≥ k und jedes ∈ S(n)
Speziell ist
E[ϕ(X)|En ] = E[ϕ(X )|En ].
(12.2)
1 ϕ(X ). E[ϕ(X) En ] = An (ϕ) := n!
(12.3)
∈S(n)
Beweis. Sei A ∈ En und F = ½X(A) . Dann ist F ◦ X = ½A . Nach der Definition von En ist also F : E N → R messbar, n-symmetrisch und beschr¨ankt. Daher ist * ) * ) * ) E ϕ(X)F (X) = E ϕ(X )F (X ) = E ϕ(X )F (X) , wobei wir in der ersten Gleichung die Austauschbarkeit von X benutzt haben, in der zweiten hingegen die Symmetrie von F . Hieraus folgt (12.2). Nun ist aber An (ϕ) schon En -messbar, also ist ⎤ ⎡ * ) 1 1 ϕ(X )En ⎦ = ϕ(X ). 2 E ϕ(X) En = E ⎣ n! n! ∈S(n)
∈S(n)
Heuristik zur Struktur austauschbarer Familien Wir betrachten eine endliche, austauschbare Familie X1 , . . . , XN von E-wertigen Zufallsvariablen. Wie sieht f¨ur n ≤ N die bedingte Verteilung von (X1 , . . . , Xn ) gegeben ΞN aus? F¨ur jedes messbare A ⊂ E kommt {Xi ∈ A} f¨ur genau N ΞN (A) viele i ∈ {1, . . . , N } vor, wobei die Reihenfolge des Auftretens keinen Einfluss auf die Wahrscheinlichkeit hat. Wir sind also in der Situation des Ziehens von gef¨arbten
12.1 Austauschbare Familien von Zufallsvariablen
237
Kugeln ohne Zur¨ucklegen. Genauer gesagt k¨onnen wir annehmen, dass die paarweise unterschiedlichen e1 , . . . , ek ∈ E die Atome von ΞN mit H¨aufigkeiten k N1 , . . . , Nk sind, dass also ΞN = i=1 (Ni /N )δei gilt. Wir haben es also mit Kugeln in k Farben zu tun, wobei von der i-ten Farbe genau Ni Kugeln vorhanden sind. Wir ziehen n dieser Kugeln ohne Zur¨ucklegen, aber mit Beachtung der Reihenfolge. Bis auf die Beachtung der Reihenfolge ist die resultierende Verteilung also die allgemeine hypergeometrische Verteilung (siehe (1.19) auf Seite 46). Es gilt also f¨ur paarweise disjunkte, messbare Mengen A1 , . . . , Ak mit kl=1 Al = E, f¨ur i1 , . . . , in ∈ {1, . . . , k}, paarweise unterschiedliche j1 , . . . , jn ∈ {1, . . . , N } und mit der Festlegung ml := #{r ∈ {1, . . . , n} : ir = l} f¨ur l ∈ {1, . . . , k} * ) P Xjr ∈ Air f¨ur jedes r = 1, . . . , n ΞN =
k m 1 N ΞN (Al ) l , (12.4) (N )n l=1
wobei wir (n)l := n(n − 1) · · · (n − l + 1) definieren. Was passiert nun, wenn wir N → ∞ gehen lassen? Wir nehmen hier der Einfachheit halber an, dass der Limes Ξ∞ (Al ) = limN →∞ ΞN (Al ) f¨ur jedes l = 1, . . . , k in einem geeigneten Sinne existiert. Dann wird aus (12.4) formal n ) * P Xjr ∈ Air f¨ur jedes r = 1, . . . , n Ξ∞ = Ξ∞ (Al )ml .
(12.5)
l=1
Aus dem Ziehen der Kugeln ohne Zur¨ucklegen wird nun also asymptotisch f¨ur große Kugelanzahl das Ziehen mit Zur¨ucklegen. Damit sind die Zufallsvariablen X1 , X2 , . . . unabh¨angig mit Verteilung Ξ∞ gegeben Ξ∞ . Einen formalen Beweis, der entlang der von dieser Heuristik vorgezeichneten Linie verl¨auft, bringen wir in Kapitel 13.4. Um diese Aussage, den so genannten Satz von de Finetti, in Abschnitt 12.3 rigoros zu formulieren und zu beweisen, brauchen wir noch etwas Begriffsbildung (etwa bedingte Unabh¨angigkeit). Als technisches Hilfsmittel verwenden wir in diesem Kapitel den Konvergenzsatz f¨ur R¨uckw¨artsmartingale, den wir in Abschnitt 12.2 formulieren. Als weiterf¨uhrende Lekt¨ure sei auf [3, 36, 101, 109] verwiesen. ¨ Ubung 12.1.1. Sei n ∈ N. Man zeige, dass sich jede symmetrische Funktion f :
n E n → R schreiben l¨asst als f (x) = g n1 i=1 δxi , wobei g (abh¨angig von f ) geeignet zu w¨ahlen ist. ♣ ¨ Ubung 12.1.2. Man leite (12.4) formal her.
♣
¨ Ubung 12.1.3. Seien X1 , . . . , Xn austauschbare quadratintegrierbare Zufallsvariablen. Man zeige 1 (12.6) Var[X1 ]. Cov[X1 , X2 ] ≥ − n−1 Man gebe f¨ur n ≥ 2 ein (nichttriviales) Beispiel f¨ur Gleichheit in (12.6) an. ♣
238
12 R¨uckw¨artsmartingale und Austauschbarkeit
¨ Ubung 12.1.4. Seien X1 , X2 , X3 . . . austauschbare, quadratintegrierbare Zufallsvariablen. Man zeige, dass Cov[X1 , X2 ] ≥ 0 gilt. ♣ ¨ Ubung 12.1.5. Man zeige: F¨ur jedes n ∈ N \ {1} gibt es eine austauschbare Familie von Zufallsvariablen X1 , . . . , Xn , die nicht zu einer unendlichen, austauschbaren Familie X1 , X2 , . . . fortgesetzt werden kann. ♣
¨ 12.2 Ruckw¨ artsmartingale Die Begriffe der Filtration und des Martingals haben nirgends vorausgesetzt, dass die Zeitmenge I ⊂ [0, ∞) w¨are. Wir wollen jetzt den Fall I = −N0 betrachten. ¨ Definition 12.11 (Ruckw¨ artsmartingal). Sei F = (Fn )n∈−N0 eine Filtration und X = (Xn )n∈−N0 ein F-Martingal. Dann nennen wir X = (X−n )n∈N0 ein Ruckw¨ artsmartingal. ¨ Bemerkung 12.12. Ein R¨uckw¨artsmartingal ist stets gleichgradig integrierbar. Dies folgt aus Korollar 8.21 und der Tatsache, dass X−n = E[X0 F−n ] f¨ur jedes n ∈ 3 N0 . Beispiel 12.13. Seien X1 , X2 , . . . austauschbare, reelle Zufallsvariablen. F¨ur n ∈ N setze F−n = En und n 1 Xi . Y−n = n i=1 Die folgende Rechnung zeigt, dass (Y−n )n∈N ein F-R¨uckw¨artsmartingal ist: Adaptiertheit ist klar. Außerdem ist nach Satz 12.10 (mit k = n und ϕ(X1 , . . . , Xn ) = 1 n−1 (X1 + . . . + Xn−1 )) * ) 1 1 X(1) + . . . + X(n−1) = Y−n . E Y−n+1 F−n = n! n−1 ∈S(n)
Betrachten wir statt F die kleinere Filtration G = (Gn )n∈−N , die f¨ur n ∈ N durch G−n = σ(Y−n , Xn+1 , Xn+2 , . . .) = σ(Y−n , Y−n−1 , Y−n−2 , . . .) definiert wird, also die von Y erzeugte Filtration, so ist Y nat¨urlich auch bez¨uglich G ein R¨uckw¨artsmartingal (siehe Bemerkung 9.29). 3 a,b die Anzahl der Aufkreuzungen von X u¨ ber [a, b] Seien a < b und n ∈ N. Sei U−n a,b zwischen Zeit −n und 0 sowie U a,b = lim U−n . Nach der Aufkreuzungsunglein→∞ * ) ) a,b * ) * 1 chung (Lemma 11.3) ist E U−n ≤ b−a E (X0 − a)+ , also P U a,b < ∞ = 1. Wie im Beweis des Martingalkonvergenzsatzes (Satz 11.4) folgt:
12.2 R¨uckw¨artsmartingale
239
¨ Ruckw¨ ¨ Satz 12.14 (Konvergenzsatz fur artsmartingale). Sei (Xn )n∈−N0 ein Martingal bez¨uglich F = (Fn )n∈−N0 . Dann existiert X−∞ = lim X−n fast n→∞ ∞ sicher und in L1 . Es gilt X−∞ = E[X0 F−∞ ], wobei F−∞ = F−n . n=1
Beispiel 12.15. ∞Seien X1 , X2 , . . . austauschbare integrierbare Zufallsvariablen. Ferner sei T = n=1 σ(Xm , m ≥ n) die terminale σ-Algebra der X1 , X2 , . . . und E die austauschbare σ-Algebra. Dann gilt E[X1 T ] = E[X1 E] f.s. und 1 n→∞ Xi −→ E[X1 E] n i=1 n
In der Tat: Setzen wir Y−n :=
1 n
n i=1
f.s. und in L1 .
Xi , so ist (nach Beispiel 12.13) (Y−n )n∈N ein
R¨uckw¨artsmartingal bez¨uglich (Fn )n∈−N = (E−n )n∈−N , und daher gilt n→∞ Y−n −→ Y−∞ = E[X1 E] f.s. und in L1 . Nun ist nach Beispiel 2.36(ii) Y−∞ schon T -messbar, also (wegen T ⊂ E und der Turmeigenschaft der bedingten Erwartung) Y−∞ = E[X1 T ]. 3 Beispiel 12.16 (Starkes Gesetz der großen Zahl). Sind Z1 , Z2 , . . . reell und u.i.v. mit E[|Z1 |] < ∞, dann gilt 1 n→∞ Zi −→ E[Z1 ] fast sicher. n i=1 n
Nach dem Kolmogorov’schen 0-1 Gesetz (Satz 2.37) ist die terminale σ-Algebra T n¨amlich trivial, also gilt E[Z1 T ] = E[Z1 ] fast sicher. In Korollar 12.19 werden wir sehen, dass im Falle unabh¨angiger Zufallsvariablen auch E schon P-trivial ist, woraus E[Z1 E] = E[Z1 ] folgt. 3 Wir schließen diesen Abschnitt, indem wir Beispiel 12.15 auf Mittelwerte von Funktionen von k ∈ N Variablen verallgemeinern. Diese Schlussfolgerung aus dem Konvergenzsatz f¨ur R¨uckw¨artsmartingale wird im folgenden Abschnitt in essenzieller Weise ben¨otigt. Satz 12.17. Sei X = (Xn )n∈N eine austauschbare Familie von Zufallsvariablen mit Werten in E, sei k ∈ N und ϕ : E k → R messbar mit E[|ϕ(X1 , . . . , Xk )|] < ∞. 1 Wir schreiben ϕ(X) = ϕ(X1 , . . . , Xk ) und setzen An (ϕ) := n! ∈S(n) ϕ(X ). Dann gilt (12.7) E[ϕ(X) E] = E[ϕ(X) T ] = lim An (ϕ) f.s. und in L1 . n→∞
240
12 R¨uckw¨artsmartingale und Austauschbarkeit
Beweis. Nach Satz 12.10 ist An (ϕ) = E[ϕ(X) En ]. Also ist (A−n (ϕ))n≥k ein R¨uckw¨artsmartingal bez¨uglich (E−n )n∈−N . Nach Satz 12.14 ist also * ) n→∞ f.s. und in L1 . (12.8) An (ϕ) −→ E ϕ(X) E Wir k¨onnen wie f¨ur das arithmetische Mittel (Beispiel 12.16) argumentieren, dass limn→∞ An (ϕ) schon T -messbar ist. In der Tat ist
# ∈ S(n) : −1 (i) ≤ l f¨ur ein i ∈ {1, . . . , k} = 0 f¨ur jedes l ∈ N. lim sup n! n→∞ Der Wert von An (ϕ) h¨angt f¨ur große n also in zu vernachl¨assigender Weise von den ersten l Koordinaten ab. Zusammen mit (12.8) folgt (12.7). 2 Korollar 12.18. Sei X = (Xn )n∈N austauschbar. Dann gibt es f¨ur jedes A ∈ E ein B ∈ T mit P[A B] = 0. Man beachte, dass T ⊂ E ist, dass also die Aussage trivialerweise gilt, wenn wir die Rollen von E und T vertauschen. Beweis. Wegen E ⊂ σ(X1 , X2 , . . .) existiert nach dem Approximationssatz f¨ur Maße eine Folge von messbaren Mengen (Ak )k∈N mit Ak ∈ σ(X1 , . . . , Xk ) und k→∞ P[A Ak ] −→ 0. Sei Ck ∈ E k messbar mit Ak = {(X1 , . . . , Xk ) ∈ Ck } f¨ur jedes k ∈ N. Mit ϕk := ½Ck folgt aus Satz 12.17 ( ' ½A = E[½A |E] = E lim ϕk (X) E = lim E[ϕk (X)|E] k→∞
= lim E[ϕk (X)|T ] =: ψ k→∞
k→∞
fast sicher.
Es gibt also eine T -messbare Funktion ψ mit ψ = ½A fast sicher. Wir k¨onnen nun annehmen, dass ψ = ½B f¨ur ein B ∈ T . 2 Als weitere Anwendung erhalten wir das 0-1 Gesetz von Hewitt und Savage [75]. Korollar 12.19 (0-1 Gesetz von Hewitt-Savage). Seien X1 , X2 , . . . u.i.v. Zufallsvariablen. Dann ist die austauschbare σ-Algebra P-trivial, also P[A] ∈ {0, 1} f¨ur jedes A ∈ E. Beweis. Nach dem Kolmogorov’schen 0-1 Gesetz (Satz 2.37) ist T trivial. Die Aussage folgt also ohne weiteres aus Korollar 12.18. 2
12.3 Satz von de Finetti Wir zeigen in diesem Abschnitt den Struktursatz f¨ur (abz¨ahlbar) unendliche, austauschbare Familien, den wir heuristisch schon am Ende von Abschnitt 12.1 motiviert hatten. Es soll also gezeigt werden, dass eine unendliche, austauschbare Familie von Zufallsvariablen eine unabh¨angige, identisch verteilte Familie ist gegeben
12.3 Satz von de Finetti
241
die austauschbare σ-Algebra E. Ferner berechnen wir die bedingte Verteilung der einzelnen Zufallsvariablen. Als ersten Schritt geben wir eine Definition der bedingten Unabh¨angigkeit an. Definition 12.20 (Bedingte Unabh¨angigkeit). Seien (Ω, F, P) ein W-Raum, A ⊂ F eine Teil-σ-Algebra sowie (Ai )i∈I eine beliebige Familie von Teil-σ-Algebren von F. Die Familie (Ai )i∈I heißt unabh¨angig gegeben A, falls f¨ur jedes endliche J ⊂ I und jede Wahl von Aj ∈ Aj f¨ur j ∈ J gilt ' ( ) * Aj A = P Aj A P fast sicher. (12.9) j∈J
j∈J
Eine Familie (Xi )i∈I von Zufallsvariablen auf (Ω, F, P) heißt unabh¨angig (und identisch verteilt) gegeben A, falls die erzeugten σ-Algebren (σ(Xi ))i∈I unabh¨angig gegeben A sind (und die bedingten Verteilungen P[Xi ∈ · |A] alle gleich sind). Beispiel 12.21. Jede beliebige Familie (Ai )i∈I von Teil-σ-Algebrenvon F ist unabh¨angig gegeben F. In der Tat ist in diesem Fall n¨amlich (mit A = j∈J Aj ) ) * fast sicher. 3 P[A|F] = ½A = ½Aj = P Aj F j∈J
j∈J
Beispiel 12.22. Ist (Ai )i∈I eine unabh¨angige Familie von σ-Algebren, und ist A trivial, dann ist (Ai )i∈I unabh¨angig gegeben A. 3 Beispiel 12.23. Es gibt keine Monotonie“ bei der bedingten Unabh¨angigkeit in fol” gendem Sinne: Sind F1 , F2 und F3 σ-Algebren mit F1 ⊂ F2 ⊂ F3 , und ist (Ai )i∈I unabh¨angig sowohl gegeben F1 wie auch gegeben F3 , so folgt noch nicht die Unabh¨angigkeit gegeben F2 . Um dies zu illustrieren, nehmen wir an, dass X und Y nichttriviale, unabh¨angige, reelle Zufallsvariablen sind. Wir w¨ahlen F1 = {∅, Ω}, F2 = σ(X + Y ) und F3 = σ(X, Y ). Dann sind σ(X) und σ(Y ) unabh¨angig gegeben F1 und gegeben F3 , nicht jedoch gegeben F2 . 3 Sei X = (Xn )n∈N ein stochastischer Prozess auf einem Wahrscheinlichkeitsraum (Ω, F, P) mit Werten in einem polnischen Raum E. Sei E die austauschbare σAlgebra und T die terminale σ-Algebra. Satz 12.24 (de Finetti). Die Familie X = (Xn )n∈N ist genau dann austauschbar, wenn es eine σ-Algebra A ⊂ F gibt, sodass (Xn )n∈N u.i.v. gegeben A ist. In diesem Fall kann A = E oder A = T gew¨ahlt werden. Beweis. =⇒ “ Sei X austauschbar, und sei A = E oder A = T . F¨ur jedes ” n ∈ N sei fn : E → R eine messbare und beschr¨ankte Abbildung. Setze
242
12 R¨uckw¨artsmartingale und Austauschbarkeit
ϕk (x1 , . . . , xk ) =
k
fi (xi )
f¨ur jedes k ∈ N.
i=1
Dann ist (wobei An (ϕ) das symmetrisierte Mittel aus Satz 12.17 ist) An (ϕk−1 )An (fk ) =
n 1 1 ϕk−1 (X ) fk (Xi ) n! n i=1
∈S(n)
=
1 ϕk (X ) + Rn,k = An (ϕk ) + Rn,k , n! ∈S(n)
wobei n ; ; ; ; Rn,k ≤ 2 ;ϕk−1 ; · ;fk ; · 1 1 ½{i∈{(1),...,(k−1)}} ∞ ∞ n! n i=1 ∈S(n)
; ; ; ; k − 1 n→∞ = 2 ;ϕk−1 ;∞ · ;fk ;∞ · −→ 0. n Es folgt zusammen mit Satz 12.17 * ) n→∞ An (ϕk−1 ) An (fk ) −→ E ϕk (X1 , . . . , Xk ) A f.s. und in L1 . Andererseits gilt nach Satz 12.17 * ) n→∞ An (ϕk−1 ) −→ E ϕk−1 (X1 , . . . , Xk−1 ) A und
* ) n→∞ An (fk ) −→ E fk (X1 ) A ,
also * * ) * ) ) E ϕk (X1 , . . . , Xk ) A = E ϕk−1 (X1 , . . . , Xk−1 ) A E fk (X1 ) A und induktiv
E
k
i=1
. k * ) fi (Xi ) A = E fi (X1 ) A . i=1
Mithin ist X u.i.v. gegeben A. ⇐= “ Sei nun X u.i.v. gegeben A f¨ur eine geeignete σ-Algebra A ⊂ F . F¨ur ” n jede beschr¨ Funktion ϕ : E → R und f¨ur jedes ∈ S(n) ist dann ankte, messbare E[ϕ(X) A] = E[ϕ(X ) A], also * * ) ) E[ϕ(X)] = E E[ϕ(X) A] = E E[ϕ(X ) A] = E[ϕ(X )]. Mithin ist X austauschbar.
2
12.3 Satz von de Finetti
243
Mit M1 (E) bezeichnen wir die Menge der W-Maße auf E, ausgestattet mit der Topologie der schwachen Konvergenz (siehe Definition 13.12 und Bemerkung 13.14), das heißt: Eine Folge (μn )n∈N in M1 (E) konvergiert genau dann schwach gegen 0 n→∞ 0 ein μ ∈ M1 (E), wenn f dμn −→ f dμ f¨ur jede stetige und beschr¨ankte Funktion f : E → R. Wir werden die schwache Konvergenz in Kapitel 13 genauer untersuchen. An dieser Stelle wollen wir die Topologie lediglich verwenden, um M1 (E) zu einem Messraum zu machen, n¨amlich mit der Borel’schen σ-Algebra B(M1 (E)). Wir k¨onnen jetzt Zufallsvariablen mit Werten in M1 (E) betrachten, so genannte zuf¨allige Maße (vergleiche Kapitel 24.1). F¨ur x ∈ E N sei 1 ξn (x) = n ni=1 δxi ∈ M1 (E). 1 δXi heißt empirische n n
Definition 12.25. Das zuf¨allige Maß Ξn := ξn (X) :=
i=1
Verteilung von X1 , . . . , Xn .
Wir betrachten die selben Voraussetzung wie in Satz 12.24. Satz 12.26 (de Finetti Darstellungssatz). Die Familie X = (Xn )n∈N ist genau dann austauschbar, wenn es eine σ-Algebra A ⊂ F gibt und eine A-messbare Zufallsvariable Ξ∞ : Ω → M1 (E) mit der Eigenschaft: gegeben Ξ∞ ist (Xn )n∈N u.i.v. mit L[X1 |Ξ∞ ] = Ξ∞ . In diesem Fall kann A = E oder A = T gew¨ahlt werden. Beweis.
”
⇐= “
Dies ist klar wie im Beweis von Satz 12.24.
=⇒ “ Sei X austauschbar. Dann existiert nach Satz 12.24 eine σ-Algebra A ⊂ ” eine regul¨are F, sodass (Xn )n∈N u.i.v. gegeben A ist. Da E polnisch ist, existiert Version der bedingten Verteilung (siehe Satz 8.36) Ξ∞ := L[X1 A]. F¨ur messbare A1 , . . . , An ⊂ E ist P[Xi ∈ Ai |A] = Ξ∞ (Ai ) f¨ur jedes i = 1, . . . , n, also , + , + + , n n P {Xi ∈ Ai } Ξ∞ = E P {Xi ∈ Ai } A Ξ∞ i=1
i=1
, + n n Ξ∞ (Ai ) Ξ∞ = Ξ∞ (Ai ). =E i=1
⊗N . Mithin ist L[X |Ξ∞ ] = Ξ∞
i=1
2
Bemerkung 12.27. (i) In dem beschriebenen Fall ist nach dem starken Gesetz der großen Zahl f¨ur jede stetige und beschr¨ankte Funktion f : E → R n→∞ f dΞn −→ f dΞ∞ fast sicher. Ist E zudem lokalkompakt (zum Beispiel E = Rd ), so kann man sogar zeigen, dass
244
12 R¨uckw¨artsmartingale und Austauschbarkeit n→∞
Ξn −→ Ξ∞
fast sicher.
(ii) F¨ur endliche austauschbare Familien gilt die Aussage des Satzes von de Finetti nicht. Eine detaillierte Diskussion findet sich in [36]. 3 Beispiel 12.28. Seien (Xn )n∈N austauschbar und Xn ∈ {0, 1}. Dann existiert eine Zufallsvariable Y : Ω → [0, 1], sodass f¨ur endliches J ⊂ N * ) P Xj = 1 f¨ur jedes j ∈ J Y = Y #J . Mit anderen Worten: Gegeben Y ist (Xn )n∈N unabh¨angig und BerY -verteilt. Vergleiche Beispiel 12.3(iii). 3 Beispiel 12.29. (P´olya’sches Urnenmodell) (Siehe Beispiel 14.38 sowie [136], [20] und [60].) In einer Urne seien anfangs N Kugeln, davon M schwarz und N −M weiß. In jedem Schritt wird eine Kugel gezogen und zusammen mit einer weiteren Kugel der selben Farbe wieder zur¨uckgelegt. Sei 1, falls die n-te Kugel schwarz ist, Xn := 0, sonst, n und Sn = i=1 Xi . Dann ist * Sn−1 + M ) . P Xn = 1 X1 , X2 , . . . , Xn−1 = N +n−1 k Sukzessive erh¨alt man f¨ur x1 , . . . , xn ∈ {0, 1} und sk = i=1 xi ) * P Xi = xi f¨ur jedes i = 1, . . . , n M + si−1 N + i − 1 − M − si−1 = N +i−1 N +i−1 i≤n: xi =1
i≤n: xi =0
(M + sn − 1)! N − M − 1 + (n − sn ) ! (N − 1)! · . = (N − 1 + n)! (M − 1)! (N − M − 1)! Die rechte Seite h¨angt nur von sn und nicht von der Reihenfolge der x1 , . . . , xn ab. Also ist (Xn )n∈N austauschbar. Sei Z = lim n1 Sn . Dann ist (Xn )n∈N unabh¨angig n→∞ und identisch BerZ -verteilt gegeben Z. Also ist (siehe Beispiel 12.28) ** ) ) E [Z n ] = E P X1 = · · · = Xn = 1 Z = P [Sn = n] =
(N − 1)! (M + n − 1)! (M − 1)! (N + n − 1)!
f¨ur jedes n ∈ N.
¨ Nach Ubung 5.1.2 sind dies sind aber gerade die Momente der Beta-Verteilung βM,N −M auf [0, 1] mit Parametern (M, N − M ) (siehe Beispiel 1.107(ii)). Durch Angabe der Momente ist eine Verteilung auf [0, 1] eindeutig bestimmt (Satz 15.4). 3 Also gilt Z ∼ βM,N −M .
13 Konvergenz von Maßen
In der Wahrscheinlichkeitstheorie interessiert man sich f¨ur Verteilungen, die durch das Zusammenwirken vieler zuf¨alliger Einfl¨usse zustandekommen. Oftmals l¨asst sich eine brauchbare Idealisierung erreichen, indem man Grenzwerte solcher Verteilungen anschaut, zum Beispiel, wenn die Anzahl der Einfl¨usse nach Unendlich geht. Ein Beispiel ist die Konvergenz der Anzahl eingetretener Ereignisse bei vielen seltenen Ereignissen gegen die Poisson-Verteilung (siehe Satz 3.7). Vielfach sind aber auch Skalierungen der urspr¨unglichen Verteilung notwendig, um das wesentliche Fluktuationsverhalten zu erfassen, etwa im Zentralen Grenzwertsatz. W¨ahrend diese S¨atze mit reellen Zufallsvariablen auskommen, werden wir auch Grenzwerts¨atze kennen lernen, bei denen die Zufallsvariablen Werte in allgemeineren R¨aumen annehmen, beispielsweise im Raum aller stetigen Funktionen, wenn wir die zuf¨allige zeitliche Bewegung eines Teilchens modellieren. In diesem Kapitel wird der Begriff der schwachen Konvergenz von W-Maßen auf allgemeinen (meist polnischen) R¨aumen eingef¨uhrt und untersucht. Hierzu ist eine solide Kenntnis von mengentheoretischer Topologie notwendig. Wir beginnen da¨ her mit einem kurzen Uberblick u¨ ber die verwendeten topologischen Begriffe und S¨atze. Dieses Kapitel soll nur eine knappe Einf¨uhrung in die f¨ur die Wahrscheinlichkeitstheorie wichtigsten S¨atze liefern. Als ausf¨uhrlichere Darstellungen seien [17] und [87] empfohlen. Beim ersten Lesen mag der Leser dieses eher analytisch gepr¨agte Kapitel vielleicht u¨ berspringen. In diesem Fall gen¨ugt es f¨urs Erste, sich mit den Definitionen von schwacher Konvergenz und Straffheit (Definition 13.12 und 13.26) vertraut zu machen, sowie mit den Aussagen des Portemanteau Theorems (Satz 13.16) und des Satzes von Prohorov (Satz 13.29).
13.1 Wiederholung Topologie Wir geben kursorisch einige Definitionen und Aussagen der mengentheoretischen Topologie an. Zum Nachlesen eignen sich etwa [94] oder [142].
246
13 Konvergenz von Maßen
Im Folgenden sei stets (E, τ ) ein topologischer Raum mit der Borel’schen σAlgebra E = B(E) (vergleiche Definition 1.20 und 1.21). (E, τ ) heißt Hausdorffraum, falls zu je zwei Punkten x, y ∈ E mit x = y offene Mengen U, V existieren mit x ∈ U , y ∈ V und U ∩ V = ∅. Ist A ⊂ E, so bezeichnen wir mit A den Abschluss von A, mit A◦ das Innere und mit ∂A den Rand von A. Eine Menge A ⊂ E heißt dicht, falls A = E. (E, τ ) heißt metrisierbar, falls es eine Metrik d auf E gibt, sodass τ durch die offenen Kugeln Bε (x) := {y ∈ E : d(x, y) < ε} erzeugt wird. Eine Metrik d auf E heißt vollst¨andig, falls jede Cauchy-Folge bez¨uglich d einen Grenzwert in E besitzt. (E, τ ) heißt vollst¨andig metrisierbar, falls es eine vollst¨andige Metrik auf E gibt, die τ erzeugt. Ist (E, d) ein metrischer Raum und A, B ⊂ E, so schreiben wir d(A, B) = inf{d(x, y) : x ∈ A, y ∈ B} sowie d(x, B) := d({x}, B) f¨ur x ∈ E. Ein metrisierbarer Raum (E, τ ) heißt separabel, falls es eine abz¨ahlbare, dichte Teilmenge von E gibt. Separabilit¨at in metrisierbaren R¨aumen ist a¨ quivalent dazu, dass es eine abz¨ ahlbare Basis der Topologie gibt, also eine abz¨ahlbare Menge U ⊂ τ mit A = U ∈U : U ⊂A U f¨ur jedes A ∈ τ . (Man w¨ahle etwa ε-Kugeln um die Punkte aus einer abz¨ahlbaren, dichten Teilmenge und lasse ε die positiven rationalen Zahlen durchlaufen.) Ein kompakter, metrischer Raum ist stets separabel (man ¨ w¨ahle einfach zu jedem n ∈ N eine endliche Uberdeckung Un ⊂ τ mit Kugeln vom Radius n1 und nehme dann U := n∈N Un ). ¨ Eine Menge A ⊂ E heißt kompakt, falls zu jeder offenen Uberdeckung U ⊂ τ von A (das heißt, A ⊂ U ∈U U ) eine endliche Teil¨ u berdeckung existiert, also eine endliche Menge U ⊂ U mit A ⊂ U ∈U U . Kompakte Mengen sind stets abgeschlossen. Nach dem Satz von Heine-Borel ist eine Teilmenge von Rd genau dann kompakt, wenn sie beschr¨ankt und abgeschlossen ist. A ⊂ E heißt relativ kompakt, falls A kompakt ist. Hingegen heißt A folgenkompakt (beziehungsweise relativ folgenkompakt), falls jede Folge (xn )n∈N mit Werten in A eine Teilfolge (xnk )k∈N hat, die gegen einen Grenzwert x ∈ A (beziehungsweise x ∈ A) konvergiert. In metrisierbaren R¨aumen fallen die Begriffe kompakt und folgenkompakt zusammen. Eine Menge A ⊂ E heißt σ-kompakt, falls A abz¨ahlbare Vereinigung von kompakten Mengen ist. E heißt lokalkompakt, falls jeder Punkt x ∈ E eine offene Umgebung besitzt, deren Abschluss kompakt ist. Ein lokalkompakter, separabler, metrischer Raum ist offenbar stets σ-kompakt. Ist E lokalkompakt und metrisch und U ⊂ E offen sowie K ⊂ U kompakt, so existiert eine kompakte Menge L mit K ⊂ L◦ ⊂ L ⊂ U . (Man bilde etwa zu jedem Punkt x ∈ K eine offene Kugel Bεx (x) vom Radius εx > 0, die ganz in U liegt und relativ kompakt ist. Indem man εx eventuell nochmal halbiert, kann man annehmen, dass sogar der Abschluss dieser Kugel in U liegt. Da K kompakt ist, gibt es endlich viele x1 , . . . , xn ∈ K n mit K ⊂ V := i=1 Bεxi (xi ). Nach Konstruktion ist L = V ⊂ U kompakt.) Einen in der Wahrscheinlichkeitstheorie wichtigen Typ von topologischen R¨aumen stellen wir in einer separaten Definition vor.
13.1 Wiederholung Topologie
247
Definition 13.1. Ein topologischer Raum (E, τ ) heißt polnischer Raum, falls er vollst¨andig metrisierbar und separabel ist. Polnische R¨aume sind beispielsweise abz¨ahlbare, diskrete R¨aume (nicht jedoch Q mit der u¨ blichen Topologie), die euklidischen R¨aume Rn , aber auch der Raum C([0, 1]) der stetigen Funktionen [0, 1] → R, ausgestattet mit der Supremumsnorm · ∞ . Praktisch sind alle R¨aume, die in der Wahrscheinlichkeitstheorie bedeutsam sind, polnische R¨aume. Sei (E, d) ein metrischer Raum. Eine Menge A ⊂ E heißt total beschr¨ankt, falls n Bε (xi ). es zu jedem ε > 0 endlich viele Punkte x1 , . . . , xn ∈ A gibt mit A ⊂ i=1
Kompakte Mengen sind offenbar total beschr¨ankt. In polnischen R¨aumen gilt sogar: Lemma 13.2. Sei (E, τ ) polnisch mit vollst¨andiger Metrik d. Eine Teilmenge A ⊂ E ist genau dann total beschr¨ankt bez¨uglich d, wenn A relativ kompakt ist. ¨ Beweis. Ubung!
2
Im Folgenden sei stets (E, τ ) ein topologischer Raum mit Borel’scher σ-Algebra E = B(E) := σ(τ ) und vollst¨andiger Metrik d. F¨ur Maße auf (E, E) f¨uhren wir die folgenden Regularit¨atsbegriffe ein. Definition 13.3. Ein σ-endliches Maß μ auf (E, E) heißt (i) lokal endlich oder Borel-Maß, falls es zu jedem Punkt x ∈ E eine offene Menge U x gibt mit μ(U ) < ∞, (ii) regul¨ar von innen, falls
μ(A) = sup μ(K) : K ⊂ A ist kompakt (iii) regul¨ar von außen, falls
μ(A) = inf μ(U ) : U ⊃ A ist offen
f¨ur jedes A ∈ E,
f¨ur jedes A ∈ E,
(iv) regul¨ar, falls μ von innen und von außen regul¨ar ist, (v) Radon-Maß, falls μ ein von innen regul¨ares Borel-Maß ist. Definition 13.4. Wir f¨uhren die folgenden Mengen von Maßen auf E ein.
M(E) := Radon-Maße auf (E, E) ,
Mf (E) := endliche Maße auf (E, E) ,
M1 (E) := μ ∈ Mf (E) : μ(E) = 1 ,
M≤1 (E) := μ ∈ Mf (E) : μ(E) ≤ 1 .
(13.1)
(13.2)
248
13 Konvergenz von Maßen
Die Elemente von M≤1 (E) nennen wir Sub-Wahrscheinlichkeitsmaße auf E. Ferner vereinbaren wir die folgende Notation f¨ur Mengen von stetigen Funktionen
C(E) := f : E → R ist stetig ,
Cb (E) := f ∈ C(E) ist beschr¨ankt ,
Cc (E) := f ∈ C(E) hat kompakten Tr¨ager ⊂ Cb (E). Der Tr¨ager einer reellen Funktion f ist dabei f −1 (R \ {0}). Ist nichts anderes vereinbart, so sind die Vektorr¨aume C(E), Cb (E) und Cc (E) mit der Supremumsnorm ausgestattet. Lemma 13.5. Ist E polnisch und μ ∈ Mf (E), so existiert zu jedem ε > 0 eine kompakte Menge K ⊂ E mit μ(E \ K) < ε. Beweis. Sei ε > 0. Zu jedem n ∈ N existieren xn1 , xn2 , . . . ∈ E mit E = N ∞ n ε B1/n (xni ). W¨ahle Nn ∈ N so, dass μ E \ B1/n (xni ) < n . Setze 2 i=1 i=1 A :=
Nn ∞
B1/n (xni ) .
n=1 i=1
Nach Konstruktion ist A total beschr¨ankt. Da E polnisch ist, ist also A kompakt. ∞
ε 2−n = ε. 2 Außerdem folgt μ E \ A ≤ μ E \ A < n=1
Satz 13.6. Ist E polnisch und μ ∈ Mf (E), so ist μ regul¨ar. Speziell ist dann Mf (E) ⊂ M(E). Beweis. Sei B ∈ E und ε > 0. Nach dem Approximationssatz (Satz 1.65 mit A = τ ) gibt es eine offene Menge U ⊃ B mit μ(U \ B) < ε. Also ist μ regul¨ar von außen. Das selbe Argument mit B c statt B liefert die Existenz einer abgeschlossenen Menge D ⊂ B mit μ(B \ D) < ε/2. Nach Lemma 13.5 existiert ein Kompaktum K mit μ(K c ) < ε/2. Setze C = D ∩ K. Dann ist C ⊂ B kompakt und μ(B \ C) < ε. Also ist μ auch regul¨ar von innen. 2 Korollar 13.7. Das Lebesgue-Maß λ auf Rd ist ein regul¨ares Radon-Maß. Jedoch ist nicht jedes σ-endliche Maß auf Rd regul¨ar. Beweis. Offenbar ist Rd polnisch und λ lokal endlich. Sei A ∈ B(Rd ) und ε > 0. Es existiert eine aufsteigende Folge (Kn )n∈N von kompakten Mengen mit Kn ↑ Rd .
13.1 Wiederholung Topologie
249
Da jedes Kn beschr¨ankt ist, ist λ(Kn ) < ∞. Es existiert also nach dem vorangehenn den Satz zu jedem n ∈ N eine offene Menge Un ⊃ A ∩ Kn mit λ(Un \ A) < ε/2 . F¨ur die offene Menge U := n∈N Un gilt daher λ(U \ A) < ε. Ist λ(A) < ∞, so existiert ein n ∈ N mit λ(A \ Kn ) < ε/2. Nach dem vorangehenden Satz existiert eine kompakte Menge C ⊂ A ∩ Kn mit λ((A ∩ Kn ) \ C) < ε/2. Es folgt λ(A \ C) < ε. Ist andererseits λ(A) = ∞, so m¨ussen wir zu jedem L > 0 ein Kompaktum C ⊂ A n→∞ finden mit λ(C) > L. Nun gilt aber λ(A ∩ Kn ) −→ ∞, also existiert ein n ∈ N mit λ(A ∩ Kn ) > L + 1. Nach dem schon Gezeigten existiert ein Kompaktum C ⊂ A ∩ Kn mit λ((A ∩ Kn ) \ C) < 1, also λ(C) > L. Schließlich sei das Maß μ = q∈Q δq betrachtet. Dieses Maß ist offenbar σendlich, jedoch nicht lokal endlich und auch nicht regul¨ar von außen. 2 Definition 13.8. Seien (E, dE ) und (F, dF ) metrische R¨aume. Eine Funktion f : E → F heißt Lipschitz-stetig, falls es eine Zahl K < ∞ gibt, die so genannte Lipschitz-Konstante, mit dF (f (x), f (y)) ≤ K · dE (x, y) f¨ur alle x, y ∈ E. Mit LipK (E; F ) bezeichnen wir den Raum der Lipschitz-stetigen Funktionen zur Konstanten K, und mit Lip(E; F ) = K>0 LipK (E; F ) den Raum der Lipschitzstetigen Funktionen auf E. Wir schreiben kurz LipK (E) := LipK (E; R) und Lip(E) := Lip(E; R). Definition 13.9. Sei F ⊂ M(E) eine Familie von Radon-Maßen. Eine Familie C messbarer Abbildungen E → R heißt trennende Familie f¨ur F, falls f¨ur je zwei Maße μ, ν ∈ F gilt: 1 1 =⇒ μ = ν. f dμ = f dν f¨ur jedes f ∈ C ∩ L (μ) ∩ L (ν) Lemma 13.10. Sei (E, d) ein metrischer Raum. Zu jeder abgeschlossenen Menge A ⊂ E und jedem ε > 0 gibt es eine Lipschitz-stetige Abbildung ρA,ε : E → [0, 1] mit 1, falls x ∈ A, ρA,ε (x) = 0, falls d(x, A) ≥ ε. Beweis.
Sei ϕ : R → [0, 1], t → (t ∨ 0) ∧ 1. F¨ur x ∈ E setze ρA,ε (x) = 1 − ϕ ε−1 d(x, A) . 2 Satz 13.11. Sei (E, d) ein metrischer Raum. (i) Lip1 (E; [0, 1]) ist trennend f¨ur M(E). (ii) Ist E zudem lokalkompakt, so ist Cc (E) ∩ Lip1 (E; [0, 1]) trennend f¨ur M(E).
250
13 Konvergenz von Maßen
0 0 Beweis. (i) Seien μ1 , μ2 ∈ M(E) mit f dμ1 = f dμ2 f¨ur jedes f ∈ Lip1 (E; [0, 1]). Ist A ∈ E, so ist μi (A) = sup{μi (K) : K ⊂ A ist kompakt}, da das Radon-Maß μi von innen regul¨ar ist (i = 1, 2). Es reicht also zu zeigen, dass μ1 (K) = μ2 (K) f¨ur jede kompakte Menge K. Sei nun K ⊂ E kompakt. Da μ1 und μ2 lokal endlich sind, existiert zu jedem x ∈ K eine offene Menge Ux x mit μ1 (Ux ) < ∞ und μ2 (Ux ) < ∞. Da K kompakt ist, k¨onnen wir endlich viele Punkte x1 , . . . , xn ∈ K finden, sodass K ⊂ U := nj=1 Uxj . Nach Konstruktion ist μi (U ) < ∞, also ½U ∈ L1 (μi ) f¨ur i = 1, 2. Da U c abgeschlossen ist, und U c ∩ K = ∅, ist δ := d(U c , K) > 0. F¨ur die Abbildung ρK,ε aus Lemma 13.10 ist also ½K ≤ ρK,ε ≤ ½U ∈ L1 (μi ), falls ε→0
ε ∈ (0, δ). Wegen ρK,ε −→ ½K 0folgt aus dem Satz u¨ ber majorisierte Konvergenz (Korollar 6.26) μi (K) = limε→0 ρK,ε dμi . Nun ist aber ερK,ε ∈ Lip1 (E; [0, 1]) f¨ur jedes ε > 0, also nach Voraussetzung ρK,ε dμ1 = ε−1 (ερK,ε ) dμ1 = ε−1 (ερK,ε ) dμ2 = ρK,ε dμ2 . Es folgt μ1 (K) = μ2 (K), also μ1 = μ2 . (ii) Ist E lokalkompakt, so k¨onnen wir in (i) die Umgebungen Ux zus¨atzlich relativ kompakt w¨ahlen. Es ist dann U relativ kompakt, also hat ρK,ε f¨ur ε ∈ (0, δ) einen 2 kompakten Tr¨ager, ist also in Cc (E). ¨ Ubung 13.1.1. besitzt.
(i) Man zeige, dass C([0, 1]) eine abz¨ahlbare, dichte Teilmenge
(ii) Man zeige, dass der Raum (Cb ([0, ∞)), · ∞ ) der stetigen, beschr¨ankten Funktionen mit der Supremumsnorm nicht separabel ist. (iii) Man zeige, dass der Raum Cc ([0, ∞)) der stetigen Funktionen mit kompaktem Tr¨ager, ausgestattet mit der Supremumsnorm, separabel ist. ♣ ¨ Ubung 13.1.2. Man zeige: Ist μ ein lokal endliches Maß, so ist μ(K) < ∞ f¨ur jede kompakte Menge K. ♣ ¨ Ubung 13.1.3 (Satz von Lusin). Sei Ω ein polnischer Raum, μ ein σ-endliches Maß auf (Ω, B(Ω)) und f : Ω → R eine Abbildung. Man zeige, dass die beiden folgenden Aussagen a¨ quivalent sind: (i) Es gibt eine Borel-messbare Abbildung g : Ω → R mit f = g μ-fast u¨ berall. (ii) Zu jedem ε > 0 gibt es eine kompakte Menge Kε mit μ(Ω \ Kε ) < ε, sodass ♣ die eingeschr¨ankte Funktion f stetig ist. Kε
13.1 Wiederholung Topologie
251
¨ Ubung 13.1.4. Sei U eine Familie offener Intervalle in R so, dass W := U ∈U U endliches Lebesgue-Maß λ(W ) hat. Man zeige: F¨ur jedes ε > 0 gibt es endlich viele, paarweise disjunkte Mengen U1 , . . . , Un ∈ U mit n
λ(Ui ) >
i=1
1−ε λ(W ). 3
Hinweis: Man w¨ahle eine endliche Familie U ⊂ U, sodass U ∈U U das Maß mindestens (1 − ε)λ(W ) hat. Hieraus w¨ahle man eine nach absteigender L¨ange sortierte maximale Folge U disjunkter Intervalle aus und zeige, dass jedes U ∈ U in (x − 3a, x + 3a) liegt f¨ur ein (x − a, x + a) ∈ U . ♣ ¨ Ubung 13.1.5. Sei C ⊂ Rd eine offene, beschr¨ankte und konvexe Menge und U ⊂ {x + rC : x ∈ Rd , r > 0} so gew¨ahlt, dass W := U ∈U U endliches Lebesgue-Maß λd (W ) hat. Man zeige: F¨ur jedes ε > 0 gibt es endlich viele, paarweise disjunkte Mengen U1 , . . . , Un ∈ U mit n
λd (Ui ) >
i=1
1−ε λ(W ). 3d
Man u¨ berlege sich ein Gegenbeispiel, das zeigt, dass man auf die Bedingung der ¨ Ahnlichkeit der offenen Mengen aus U nicht ohne Weiteres verzichten kann. ♣ ¨ Ubung 13.1.6. Sei μ ein Radon-Maß auf Rd und A ∈ B(Rd ) eine μ-Nullmenge. ¨ Man zeige mit Hilfe von Ubung 13.1.5, dass f¨ur jede beschr¨ankte, konvexe und offene Menge C ⊂ Rd mit 0 ∈ C gilt: lim r↓0
μ(x + rC) = 0 rd
f¨ur λd - fast alle x ∈ A.
Man folgere: Ist F die Verteilungsfunktion eines Stieltjes-Maßes μ auf R und A ∈ d F (x) = 0 f¨ur λ - fast alle x ∈ A. ♣ B(R) eine μ-Nullmenge, so gilt dx ¨ Ubung 13.1.7 (Hauptsatz der Differential- und Integralrechnung). Sei f ∈ L1 (Rd ), μ = f λd und C ⊂ Rd offen, konvex und beschr¨ankt mit 0 ∈ C. Man zeige: μ(x + rC) lim d d = f (x) f¨ur λd - fast alle x ∈ Rd . r↓0 r λ (C) Man folgere f¨ur den Fall d = 1 den Hauptsatz der Differential- und Integralrechnung: d f dλ = f (x) f¨ur λ – fast alle x ∈ R. dx [0,x] ¨ Hinweis: Verwende Ubung 13.1.6 mit μq (dx) = (f (x) − q)+ λd (dx) f¨ur q ∈ Q sowie die Ungleichung μq (x + rC) μ(x + rC) ≤ q + . r d λd (C) r d λd (C)
♣
252
13 Konvergenz von Maßen
13.2 Schwache und vage Konvergenz Nachdem wir in Satz 13.11 gesehen haben, dass Integrale stetiger, beschr¨ankter Funktionen, beziehungsweise f¨ur lokalkompaktes E sogar stetiger Funktionen mit kompaktem Tr¨ager, ein Radon-Maß vollst¨andig bestimmen, liegt es nahe, Cb (E) und Cc (E) auch als Klassen von Testfunktionen f¨ur Konvergenzbegriffe f¨ur Maße heranzuziehen. Definition 13.12 (Schwache und vage Konvergenz). Sei E ein metrischer Raum. (i) Seien μ, μ1 , μ2 , . . . ∈ Mf (E). Wir sagen, dass (μn )n∈N schwach (weakly) n→∞ gegen μ konvergiere, in Formeln μn −→ μ schwach oder μ = w-lim μn , n→∞ falls n→∞
f dμn −→
f dμ
f¨ur jedes f ∈ Cb (E).
(ii) Es seien μ, μ1 , μ2 , . . . ∈ M(E). Wir sagen, dass (μn )n∈N vag (vaguely) gen→∞ gen μ konvergiert, in Formeln μn −→ μ vag oder μ = v-lim μn , falls n→∞
n→∞
f dμn −→
f dμ
f¨ur jedes f ∈ Cc (E).
Bemerkung 13.13. Ist E polnisch, so ist nach Satz 13.6 und 13.11 der schwache Limes eindeutig. Das Gleiche gilt f¨ur den vagen Limes, falls E lokalkompakt ist. 3 Bemerkung 13.14. (i) In der Funktionalanalysis wird die hier eingef¨uhrte schwache Konvergenz die Schwach∗ -Konvergenz genannt. (ii) Die schwache Konvergenz erzeugt auf Mf (E) die schwache Topologie τw (oder Schwach∗ -Topologie in der Funktionalanalysis). Dies ist die gr¨o0bste Topologie, sodass f¨ur jedes f ∈ Cb (E) die Abbildung Mf (E) → R, μ → f dμ stetig ist. Ist E separabel, so kann man zeigen, dass (Mf (E), τw ) metrisierbar ist, zum Beispiel mit der so genannten Prohorov-Metrik dP (μ, ν) := max{dP (μ, ν), dP (ν, μ)},
(13.3)
wobei dP (μ, ν) := inf{ε > 0 : μ(B) ≤ ν(B ε ) + ε f¨ur jedes B ∈ B(E)},
(13.4)
und wo B ε = {x : d(x, B) < ε} ist, siehe etwa [17, Appendix III, Theorem 5]. (Man kann zeigen, dass dP (μ, ν) = dP (ν, μ) ist, falls μ, ν ∈ M1 (E).) Ist E lokalkompakt und polnisch, so ist (Mf (E), τw ) sogar polnisch (siehe [137, Seite 167]). (iii) Analog ist die vage Topologie τv auf M(E) die gr¨o0bste Topologie, sodass f¨ur jedes f ∈ Cc (E) die Abbildung M(E) → R, μ → f dμ stetig ist. Ist E
13.2 Schwache und vage Konvergenz
253
lokalkompakt, so ist (M(E), τv ) ein Hausdorffraum. Ist E zudem polnisch, so ist (M(E), τv ) ebenfalls polnisch (siehe etwa [87, Sektion 15.7]). 3 W¨ahrend bei der schwachen Konvergenz stets auch Konvergenz der Gesamtmassen gilt (schließlich ist 1 ∈ Cb (E)), kann bei der vagen Konvergenz ein Massendefekt im Limes auftreten, jedoch kein Massenzuwachs, wie das folgende Lemma zeigt. Lemma 13.15. Sei E ein lokalkompakter, polnischer Raum, und seien μ, μ1 , μ2 , . . . n→∞ ∈ M(E) mit μn −→ μ vag. Dann gilt μ(E) ≤ lim inf μn (E). n→∞
Beweis. Sei (fN )N ∈N eine Folge in Cc (E; [0, 1]) mit fN ↑ 1. Dann gilt fN dμn μ(E) = sup fN dμ = sup lim N ∈N N ∈N n→∞ ≤ lim inf sup fN dμn = lim inf μn (E). n→∞ N ∈N
n→∞
2
Die Folge (δ1/n )n∈N von W-Maßen auf R konvergiert offenbar schwach gegen δ0 , nicht jedoch in der Totalvariationsnorm: F¨ur die abgeschlossene Menge (−∞, 0] gilt n¨amlich limn→∞ δ1/n ((−∞, 0]) = 0 < 1 = δ0 ((−∞, 0]). Etwas lax gesagt, kann in abgeschlossene Mengen im schwachen Limes Masse an den R¨andern einwandern (nicht jedoch auswandern). Die komplement¨are Aussage gilt f¨ur offene Mengen, denn limn→∞ δ1/n ((0, ∞)) = 1 > 0 = δ0 ((0, ∞)); hier kann also Masse auswandern, nicht jedoch einwandern. Tats¨achlich kann man die schwache Konvergenz u¨ ber diese Eigenschaft charakterisieren. Im folgenden Satz werden wir ein ganzes B¨undel solcher Aussagen auf einen Kleiderb¨ugel (franz¨osisch: porteman” teau) h¨angen“. F¨ur messbares g : Ω → R sei Ug die Menge der Unstetigkeitsstellen von g. Beachte, ¨ dass Ug Borel-messbar ist (nach Ubung 1.1.3).
254
13 Konvergenz von Maßen
Satz 13.16 (Portemanteau Theorem). Sei E ein metrischer Raum, und seien μ, μ1 , μ2 , . . . ∈ M≤1 (E). Dann sind a¨ quivalent: (i) μ = w-lim μn . n→∞ 0 n→∞ 0 (ii) f dμn −→ f dμ f¨ur alle beschr¨ankten, Lipschitz-stetigen f . 0 n→∞ 0 (iii) f dμn −→ f dμ f¨ur alle beschr¨ankten, messbaren f mit μ(Uf ) = 0. (iv) Es gilt lim inf μn (E) ≥ μ(E) und lim sup μn (F ) ≤ μ(F ) f¨ur alle abgen→∞
n→∞
schlossenen F ⊂ E.
(v) Es gilt lim sup μn (E) ≤ μ(E) und lim inf μn (G) ≥ μ(G) f¨ur alle offenen G ⊂ E.
n→∞
n→∞
(vi) lim μn (A) = μ(A) f¨ur alle messbaren A mit μ(∂A) = 0. n→∞
Ist E auch lokalkompakt und polnisch, so sind zudem jeweils a¨ quivalent (vii) μ = v-lim μn und μ(E) = lim μn (E). n→∞
n→∞
(viii) μ = v-lim μn und μ(E) ≥ lim sup μn (E). n→∞
n→∞
Beweis. (iv) ⇐⇒ (v) =⇒ (vi)“ Dies ist trivial. ” (iii) =⇒ (i) =⇒ (ii)“ Dies ist trivial. ” (ii) =⇒ (iv)“ Die Konvergenz der Gesamtmassen folgt mit der Testfunktion ” 1 ∈ Lip(E; [0, 1]). Sei F abgeschlossen und ρF,ε wie in Lemma 13.10. Dann ist lim sup μn (F ) ≤ inf lim ρF,ε dμn = inf ρF,ε dμ = μ(F ), ε>0 n→∞
n→∞
ε>0
ε→0
weil ρF,ε (x) −→ ½F (x) f¨ur jedes x ∈ E. (viii) =⇒ (vii)“ Dies ist klar nach Lemma 13.15. ” (i) =⇒ (vii)“ Wegen Cc (E) ⊂ Cb (E) und 1 ∈ Cb (E) ist dies klar. ” (vii) =⇒ (v)“ Sei G offen und ε > 0. Da μ von innen regul¨ar ist (Satz 13.6), ” gibt es ein Kompaktum K ⊂ G mit μ(G) − μ(K) < ε. Da E lokalkompakt ist, gibt es ein Kompaktum L mit K ⊂ L◦ ⊂ L ⊂ G. Sei δ := d(K, Lc ) > 0 und ρK,δ wie in Lemma 13.10. Dann ist ½K ≤ ρK,δ ≤ ½L , also ρK,δ ∈ Cc (E) und daher ρK,δ dμ ≥ μ(K) ≥ μ(G) − ε. lim inf μn (G) ≥ lim inf ρK,δ dμn = n→∞
n→∞
Indem wir ε → 0 gehen lassen, folgt die Aussage von (v).
13.2 Schwache und vage Konvergenz
255
(vi) =⇒ (iii)“ Sei f : E → R beschr¨ankt und messbar mit μ(Uf ) = 0. Wir ” machen die elementare Beobachtung, dass f¨ur jedes D ⊂ R gilt ∂f −1 (D) ⊂ f −1 (∂D) ∪ Uf .
(13.5)
In der Tat: Falls f in x ∈ E stetig ist, so existiert zu jedem δ > 0 ein ε(δ) > 0 mit f (Bε(δ) (x)) ⊂ Bδ (f (x)). Ist x ∈ ∂f −1 (D), so existieren y ∈ f −1 (D) ∩ Bε(δ) (x) und z ∈ f −1 (Dc ) ∩ Bε(δ) (x). Also ist f (y) ∈ Bδ (f (x)) ∩ D = ∅ und f (z) ∈ Bδ (f (x)) ∩ Dc = ∅, also f (x) ∈ ∂D.
Sei ε > 0. Offenbar ist die Menge A := y ∈ R : μ f −1 ({y}) > 0 der Atome des endlichen Maßes μ ◦ f −1 h¨ochstens abz¨ahlbar. Daher gibt es N ∈ N und y0 ≤ −f ∞ < y1 < . . . < yN −1 < f ∞ < yN so, dass yi ∈ R \ A
und
|yi+1 − yi | < ε
f¨ur jedes i. Sei Ei = f −1 ([yi−1 , yi )) f¨ur i = 1, . . . , N . Dann ist E = N i=1 Ei und wegen Gleichung (13.5)
μ ∂Ei ≤ μ f −1 ({yi−1 }) + μ f −1 ({yi }) + μ Uf = 0. Daher gilt lim sup n→∞
f dμn ≤ lim sup n→∞
N
μn (Ei ) · yi =
i=1
N
μ(Ei ) · yi ≤ ε +
f dμ.
i=1
0 f dμn ≤ f dμ. Indem wir (−f ) n→∞ betrachten, folgt die andere Ungleichung lim inf f dμn ≥ f dμ. 2
Wir lassen ε → 0 gehen und erhalten lim sup
0
n→∞
Definition 13.17. Seien X, X1 , X2 , . . . Zufallsvariablen mit Werten in E. Wir saD gen (Xn )n∈N konvergiert in Verteilung gegen X, in Formeln Xn −→ X oder n→∞ Xn =⇒ X, wenn die Verteilungen schwach konvergieren, also wenn PX = D n→∞ w-lim PXn . Manchmal schreiben wir auch Xn −→ PX oder Xn =⇒ PX , wenn n→∞ wir nur die Verteilung PX nicht aber die Zufallsvariable X spezifizieren wollen. Satz 13.18 (Satz von Slutzky). Seien X, X1 , X2 , . . . und Y1 , Y2 , . . . Zufallsvariabn→∞ D len mit Werten in E und Xn −→ X sowie d(Xn , Yn ) −→ 0 stochastisch. Dann D gilt Yn −→ X. Beweis. Sei f : E → R beschr¨ankt und Lipschitz-stetig mit Konstante K. Dann ist f (x) − f (y) ≤ K d(x, y) ∧ 2 f ∞ f¨ur alle x, y ∈ E. * ) Majorisierte Konvergenz liefert lim sup E f (Xn ) − f (Yn ) = 0. Also gilt n→∞
256
13 Konvergenz von Maßen
lim supE[f (Yn )] − E[f (X)] n→∞ ≤ lim sup E[f (X)] − E[f (Xn )] + lim sup E[f (Xn ) − f (Yn )] = 0. 2 n→∞
n→∞
n→∞
D
Korollar 13.19. Gilt Xn −→ X stochastisch, so gilt auch Xn −→ X, n → ∞. Die Umkehrung ist im Allgemeinen falsch. Beispiel 13.20. Sind X, X1 , X2 , . . . u.i.v. (mit nicht-trivialer Verteilung), so gilt triD n→∞ vialerweise Xn −→ X, jedoch nicht Xn −→ X stochastisch. 3 Man erinnere sich an die Definition der Verteilungsfunktion eines Wahrscheinlichkeitsmaßes in Definition 1.59. Definition 13.21. Seien F, F1 , F2 , . . . Verteilungsfunktionen von W-Maßen auf R. n→∞ Wir sagen (Fn )n∈N konvergiere schwach gegen F , in Formeln Fn =⇒ F , D Fn −→ F oder F = w-lim Fn , wenn n→∞
F (x) = lim Fn (x) f¨ur alle Stetigkeitspunkte x von F. n→∞
(13.6)
Sind F, F1 , F2 , . . . Verteilungsfunktionen von Sub-Wahrscheinlichkeitsmaßen, so setzen wir F (∞) := limx→∞ F (x) und fordern f¨ur die schwache Konvergenz zus¨atzlich F (∞) ≥ lim supn→∞ Fn (∞). Man beachte, dass aus (13.6) stets F (∞) ≤ lim inf n→∞ Fn (∞) folgt. Gilt nun D Fn −→ F , so ist also F (∞) = limn→∞ Fn (∞). Beispiel 13.22. Ist F die Verteilungsfunktion eines Wahrscheinlichkeitsmaßes auf R und Fn (x) := F (x + n) f¨ur x ∈ R, so konvergiert (Fn )n∈N punktweise gegen 1. Dies ist jedoch keine Verteilungsfunktion, da diese f¨ur x → −∞ gegen Null konvergieren. Ist andererseits Gn (x) = F (x − n), so konvergiert (Gn )n∈N punktweise gegen G ≡ 0. Nun ist aber G(∞) = 0 < lim supn→∞ Gn (∞) = 1, also liegt auch in diesem Falle keine schwache Konvergenz vor. In der Tat: es tritt jeweils im Limes ein Massendefekt ein (bei den Fn nach links, bei den Gn nach rechts). Die Definition der schwachen Konvergenz von Verteilungsfunktionen ist aber so angelegt, dass kein Massendefekt im Limes eintreten darf. 3 Satz 13.23. Seien μ, μ1 , μ2 , . . . ∈ M≤1 (R) mit zugeh¨origen Verteilungsfunktionen F, F1 , F2 , . . . Dann sind a¨ quivalent (i) μ = w-lim μn , n→∞ D
(ii) Fn −→ F .
13.2 Schwache und vage Konvergenz
257
Beweis. (i) =⇒ (ii)“ Sei F in x stetig. Dann ist μ ∂(−∞, x] = μ({x}) = 0. ” n→∞ Nach Satz 13.16 gilt Fn (x) = μn ((−∞, x]) −→ μ((−∞, x]) = F (x). (ii) =⇒ (i)“ ”
Sei f ∈ Lip1 (R; [0, 1]). Nach Satz 13.16 reicht es zu zeigen, dass n→∞ f dμ. (13.7) f dμn −→
Sei ε > 0. W¨ahle N ∈ N und N + 1 Stetigkeitspunkte y0 < y1 < . . . < yN von F so, dass F (y0 ) < ε, F (yN ) > F (∞) − ε und yi − yi−1 < ε f¨ur jedes i. Dann ist N
f dμn ≤ Fn (y0 ) + Fn (∞) − Fn (yN ) + (f (yi ) + ε)(Fn (yi ) − Fn (yi−1 )). i=1 n→∞
Nach Voraussetzung gilt limn→∞ Fn (∞) = F (∞) und Fn (yi ) −→ F (yi ) f¨ur jedes i = 0, . . . , N , also N
f (yi ) F (yi ) − F (yi−1 ) ≤ 4ε + f dμ. lim sup f dμn ≤ 3ε + n→∞
i=1
Daher gilt
f dμn ≤
lim sup n→∞
f dμ.
Indem wir f durch (1 − f ) ersetzen, folgt (13.7).
2
Korollar 13.24. Seien X, X1 , X2 , . . . reelle Zufallsvariablen mit Verteilungsfunktionen F, F1 , F2 , . . . Dann sind a¨ quivalent: D
(i) Xn −→ X, n→∞
(ii) E[f (Xn )] −→ E[f (X)] f¨ur jedes f ∈ Cb (R), D
(iii) Fn −→ F . Wie verh¨alt sich die schwache Konvergenz, wenn wir zu Bildmaßen u¨ bergehen? Wir brauchen gewisse Stetigkeitseigenschaften, damit die schwache Konvergenz erhalten bleibt. Der folgende einfache Satz ist in den Anwendungen extrem n¨utzlich. Satz 13.25 (Continuous Mapping Theorem). Seien (E1 , d1 ) und (E2 , d2 ) metrische R¨aume und ϕ : E1 → E2 messbar sowie Uϕ die Menge der Unstetigkeitsstellen von ϕ. n→∞
(i) Sind μ, μ1 , μ2 , . . . ∈ M≤1 (E1 ) mit μ(Uϕ ) = 0 und μn −→ μ schwach, so n→∞ gilt μn ◦ ϕ−1 −→ μ ◦ ϕ−1 schwach. (ii) Sind X, X1 , X2 , . . . E1 -wertige Zufallsvariablen mit P[X ∈ Uϕ ] = 0 und D
D
Xn −→ X, so gilt ϕ(Xn ) −→ ϕ(X).
258
13 Konvergenz von Maßen
¨ Beweis. Nach Ubung 1.1.3 ist Uϕ ⊂ E1 Borel-messbar. Also sind die angegebenen Bedingungen sinnvoll. (i) Sei f ∈ Cb (E2 ). Dann ist f ◦ϕ beschr¨ankt und messbar, und es ist Uf ◦ϕ ⊂ Uϕ , also μ(Uf ◦ϕ ) = 0. Nach Satz 13.16 ist
−1 f d μn ◦ ϕ (f ◦ ϕ) dμn lim = lim n→∞
n→∞
(f ◦ ϕ) dμ =
=
f d μ ◦ ϕ−1 .
(ii) Dies ist klar, wegen Pϕ(X) = PX ◦ ϕ−1 .
2
¨ Ubung 13.2.1. Man zeige: F¨ur dP aus (13.4) und μ, ν ∈ M1 (E) gilt: dP (μ, ν) = ♣ dP (μ, ν) = dP (ν, μ). ¨ Ubung 13.2.2. Man zeige: Die Topologie der schwachen Konvergenz auf Mf (E) ist gr¨ober als die von der Totalvariation (siehe Korollar 7.45) erzeugte Topologie auf n→∞ n→∞ Mf (E). Das heißt, es gilt μn − μT V −→ 0, so gilt μn −→ μ schwach. ♣ ¨ Ubung 13.2.3. Sei E = R und μn =
1 n
n
k=0 δk/n
sowie μ = λ
eingeschr¨ankte Lebesgue-Maß. Man zeige, dass μ = w-lim μn .
[0,1]
das auf [0, 1]
n→∞
♣
¨ Ubung 13.2.4. Sei E = R und λ das Lebesgue-Maß auf R. F¨ur n ∈ N sei μn = λ . Man zeige: λ = v-lim μn , jedoch ist (μn )n∈N nicht schwach konvergent. n→∞
[−n,n]
♣
¨ Ubung 13.2.5. Sei E = R und μn = δn f¨ur n ∈ N. Man zeige: v-lim μn = 0, n→∞
jedoch ist (μn )n∈N nicht schwach konvergent.
♣
¨ Ubung 13.2.6 (L´evy-Abstand). F¨ur zwei Verteilungsfunktionen F und G von Wahrscheinlichkeitsmaßen auf R wird der L´evy-Abstand definiert als
d(F, G) = inf ε ≥ 0 : G(x − ε) − ε ≤ F (x) ≤ G(x + ε) + ε f¨ur alle x ∈ R . Zeige: (i) d ist eine Metrik auf der Menge der Verteilungsfunktionen. n→∞
n→∞
(ii) Es gilt Fn =⇒ F genau dann, wenn d(Fn , F ) −→ 0. (iii) Zu jedem P ∈ M1 (R) gibt es eine Folge (Pn )n∈N in M1 (R), sodass jedes Pn n→∞ endlichen Tr¨ager hat, und sodass Pn =⇒ P . ♣
13.2 Schwache und vage Konvergenz
259
¨ Ubung 13.2.7. Wir k¨onnen die Begriffe schwache Konvergenz und vage Konvergenz auf Ladungsverteilungen ausdehnen, also auf Differenzen ϕ := μ+ −μ− von Maßen aus Mf (E) beziehungsweise M(E), indem wir den Wortlaut von Definition 13.12 auf diese Klassen anwenden. Man zeige, dass man hier die schwache Konvergenz im Allgemeinen nicht metrisieren kann. Anleitung: Man betrachte E = [0, 1]. (i) F¨ur n ∈ N definiere ϕn = δ1/n − δ2/n . Zeige: F¨ur jedes C > 0 konvergiert (Cϕn )n∈N schwach gegen das Nullmaß. (ii) Man nehme an, dass es eine Metrik g¨abe, die die schwache Konvergenz erzeugt. Man zeige: Dann g¨abe es eine Folge (Cn )n∈N mit Cn ↑ ∞ und 0 = w-lim(Cn ϕn ). n→∞
−1/2
(iii) W¨ahle ein f ∈ C([0,1]) mit f (2−n ) = (−1)n Cn f¨ur jedes n ∈ N und 0 konvergiert nicht gegen Null. zeige: f d(Cn ϕn ) n∈N
(iv) Man f¨uhre diese Konstruktion zum Widerspruch mit der Metrisierbarkeitsannahme. ♣ ¨ Ubung 13.2.8. Man zeige, dass durch (13.3) eine Metrik auf M1 (E) definiert wird, und dass diese die Topologie der schwachen Konvergenz erzeugt. ♣ ¨ Ubung 13.2.9. Man zeige die Implikation (vi) =⇒ (iv)“ aus Satz 13.16 direkt. ♣ ” ¨ Ubung 13.2.10. Seien X, X1 , X2 , . . . und Y1 , Y2 , . . . reelle Zufallsvariablen. Es D gelte PYn = N0,1/n f¨ur jedes n ∈ N. Man zeige: Es gilt genau dann Xn −→ X, D
wenn Xn + Yn −→ X.
♣
¨ Ubung 13.2.11. F¨ur jedes n ∈ N sei Xn eine geometrisch verteilte Zufallsvariable mit Parameter pn ∈ (0, 1). Wie muss die Folge (pn )n∈N gew¨ahlt sein, damit PXn /n schwach gegen die Exponentialverteilung mit Parameter α > 0 konvergiert? ♣ ¨ Ubung 13.2.12. Seien X, X1 , X2 , . . . reelle Zufallsvariablen mit Xn Zeige:
n→∞
=⇒
X.
(i) E[|X|] ≤ lim inf n→∞ E[|Xn |]. (ii) Ist p > 0 und supn∈N E[|Xn |r ] < ∞ f¨ur ein r > p, so gilt E[|X|p ] = limn→∞ E[|Xn |p ]. ♣
260
13 Konvergenz von Maßen
¨ Ubung 13.2.13. Seien F, F1 , F2 , . . . Verteilungsfunktionen von W-Maßen auf R, n→∞ und gelte Fn =⇒ F . Sei F −1 (u) = inf{x ∈ R : F (x) ≥ u}, u ∈ (0, 1), die linksstetige Inverse von F (vergleiche Beweis von Satz 1.104). Zeige: Fn−1 (u) −→ F −1 (u) in jedem Stetigkeitspunkt u von F −1 . n→∞
n→∞
Folgere: F −1 (u) −→ F −1 (u) f¨ur Lebesgue fast alle u ∈ (0, 1).
♣
n→∞ ¨ Ubung 13.2.14. Seien μ, μ1 , μ2 , . . . W-Maße auf R mit μn −→ μ schwach. Zeige: Es gibt einen Wahrscheinlichkeitsraum (Ω, A, P) und reelle Zufallsvariablen X, X1 , X2 , . . . auf (Ω, A, P) mit Verteilungen PX = μ, PXn = μn , n ∈ N, so dass n→∞ Xn −→ X P-f.s.
¨ Hinweis: Verwende Ubung 13.2.13.
♣
¨ Ubung 13.2.15. Sei (E, d) ein metrischer Raum, und seien μ, μ1 , μ2 , . . . Wahrscheinlichkeitsmaße auf E. Eine messbare Abbildung f : E → R heißt gleichgradig integrierbar bez¨uglich (μn )n∈N , falls inf sup |f | dμn = 0. a>0 n∈N
{|f |>a}
n→∞
Sei f stetig und gleichgradig integrierbar bez¨uglich (μn )n∈N , und gelte μn −→ μ 0 schwach. Zeige, dass |f | dμ < ∞ gilt und n→∞ f dμn −→ f dμ. ¨ Hinweis: Wende Ubung 13.2.14 auf die Bildmaße μn ◦ f −1 an.
♣
13.3 Der Satz von Prohorov Sei E stets ein polnischer Raum mit Borel’scher σ-Algebra E. Eine grundlegende Frage ist, wann eine Folge (μn )n∈N von Maßen auf (E, E) einen schwachen Grenzwert besitzt, oder wenigstens einen schwachen H¨aufungspunkt. Eine offensichtlich notwendige Bedingung ist, dass (μn (E))n∈N beschr¨ankt ist, deshalb werden wir ohne Beschr¨ankung der Allgemeinheit nur Folgen in M≤1 (E) betrachten. Dies ist allerdings nicht hinreichend, denn beispielsweise konvergiert die Folge (δn )n∈N von W-Maßen auf R nicht schwach. Wir m¨ussen also zus¨atzlich noch sicherstellen, dass keine Masse ins Unendliche auswandert“. Dies liefert gerade die Bedingung der ” Straffheit. Wir beginnen diesen Abschnitt, indem wir zun¨achst als Hauptsatz den Satz von Prohorov [137] vorstellen. Wir geben den Beweis erst in dem Spezialfall E = R an
13.3 Der Satz von Prohorov
261
und kommen dann zu Anwendungen, bevor wir den Satz am Ende des Abschnitts in voller Allgemeinheit beweisen. Definition 13.26 (Straffheit). Eine Familie F ⊂ Mf (E) heißt straff, falls zu jedem ε > 0 eine kompakte Menge K ⊂ E existiert mit
sup μ(E \ K) : μ ∈ F < ε. Bemerkung 13.27. Ist E polnisch, so ist nach Lemma 13.5 jede einelementige Fa3 milie {μ} ⊂ Mf (E) straff und damit auch jede endliche Familie. Beispiele 13.28.
(i) Ist E kompakt, so sind M1 (E) und M≤1 (E) straff.
(ii) Ist (Xi )i∈I eine beliebige Familie von reellen Zufallsvariablen mit C := sup{E[|Xi |] : i ∈ I} < ∞, so ist {PXi : i ∈ I} straff. In der Tat: F¨ur ε > 0 und K = [−C/ε, C/ε] ist nach der Markov’schen Ungleichung PXi (R \ K) = P[|Xi | > C/ε] ≤ ε. (iii) Die Familie (δn )n∈N von W-Maßen auf R ist nicht straff. (iv) Die Familie (U[−n,n] )n∈N von uniformen Verteilungen auf den Intervallen [−n, n], aufgefasst als W-Maße auf R, ist nicht straff. 3 Satz 13.29 (Satz von Prohorov (1956)). Sei (E, d) ein metrischer Raum und F ⊂ M≤1 (E). (i) Es gilt F ist straff
=⇒
F ist schwach relativ folgenkompakt.
(ii) Ist E zudem polnisch, so gilt auch die Umkehrung F ist straff
⇐=
F ist schwach relativ folgenkompakt.
Korollar 13.30. Sei E ein kompakter, metrischer Raum. Dann sind die Mengen M≤1 (E) und M1 (E) schwach folgenkompakt. Korollar 13.31. Ist E ein lokalkompakter, separabler, metrischer Raum, so ist M≤1 (E) vag folgenkompakt. Beweis. Seien x1 , x2 , . . . dicht in E. Da E lokalkompakt ist, existiert zu jedem n ∈ N eine offene Umgebung Un xn , deren Abschluss U n kompakt ist. Dann ist
262
13 Konvergenz von Maßen
n aber auch En := k=1 U k kompakt f¨ur jedes n ∈ N. F¨u r jede kompakte Menge ¨ K ⊂ E gibt es nun eine endliche Uberdeckung K ⊂ nk=1 Uk ⊂ En , wobei n = n(K) von K abh¨angt. Sei (μn )n∈N eine Folge in M≤1 (E). Nach Korollar 13.30 gibt es zu jedem n ∈ N ˜n = w-lim μkln . Mit Hilfe ein μ ˜n ∈ M≤1 (En ) und eine Teilfolge (kln )l∈N mit μ l→∞
En
des Diagonalfolgenarguments k¨onnen wir annehmen, dass (kln+1 )l∈N eine Teilfolge ˜n+1 = μ ˜n f¨ur jedes n ∈ N. Es existiert also ein von (kln )l∈N ist und damit μ En ˜n f¨ur jedes n ∈ N. F¨ur jedes f ∈ Cc (E) ist der Tr¨ager μ ∈ M≤1 (E) mit μ = μ En n→∞ in einem Em enthalten, also gilt (wegen μknn −→ μ schwach)
Em
n→∞
Em
f dμknn −→
f dμ,
n→∞
und damit μknn −→ μ vag.
2
Bemerkung 13.32. Die Implikation in Satz 13.29(ii) ist die weitaus einfachere, wenn auch weniger n¨utzliche. Hier wird ben¨otigt, dass E polnisch ist, denn eine einelementige Familie ist offenbar immer schwach kompakt, jedoch nur unter Zusatzannahmen straff – beispielsweise eben, wenn E polnisch ist (Lemma 13.5). 3 Beweis (von Satz 13.29(ii)). Wir gehen zun¨achst a¨ hnlich vor wie im Beweis von N B1/n (xi ). Lemma 13.5. Sei {x1 , x2 , . . .} ⊂ E dicht. F¨ur n ∈ N setze An,N := i=1
Dann gilt An,N ↑ E f¨ur N → ∞ f¨ur jedes n ∈ N. Sei δ := sup inf sup μ(Acn,N ). n∈N N ∈N μ∈F
Dann gibt es ein n ∈ N, sodass f¨ur jedes N ∈ N ein μN ∈ F existiert mit μN (Acn,N ) ≥ δ/2. Da F schwach relativ folgenkompakt ist, besitzt (μN )N ∈N eine schwach konvergente Teilfolge (μNk )k∈N mit einem schwachen Limes μ ∈ M≤1 (E). Nach dem Portemanteau Theorem (Satz 13.16(iv)) gilt f¨ur jedes N ∈ N μ(Acn,N ) ≥ lim inf μNk (Acn,N ) ≥ lim inf μNk (Acn,Nk ) ≥ δ/2. k→∞
k→∞
N →∞
Andererseits gilt Acn,N ↓ ∅ f¨ur N → ∞, also μ(Acn,N ) −→ 0. Mithin ist δ = 0. Sei nun ε > 0 beliebig. Nach dem eben Gezeigten k¨onnen wir zu jedem n ∈ N ein Nn ∈ N w¨ahlen, sodass μ(Acn,Nn ) < ε/2n f¨ur jedes μ ∈ F. Die Menge A := ∞ ankt, also relativ kompakt. Ferner ist n=1 An,Nn ist nach Konstruktion total beschr¨ f¨ur jedes μ ∈ F ∞
μ(Acn,Nn ) ≤ ε. μ ( A )c ≤ μ(Ac ) ≤ n=1
Also ist F straff.
2
13.3 Der Satz von Prohorov
263
Die andere Implikation im Satz von Prohorov ist schwieriger zu zeigen, vor allem im Fall allgemeiner (metrischer) R¨aume. Wir geben daher zun¨achst nur f¨ur E = R einen Beweis an und kommen dann zu Anwendungen, bevor wir die schwierigere Implikation im allgemeinen Fall beweisen. Das Problem besteht darin, sich einen Kandidaten f¨ur einen schwachen Limespunkt zu verschaffen. F¨ur Verteilungen auf R ist das Problem a¨ quivalent dazu, sich einen schwachen Limespunkt einer Folge von Verteilungsfunktionen zu verschaffen. Hier hilft uns der Helly’sche Auswahlsatz, der auf einem Diagonalfolgenargument beruht, das wir in a¨ hnlicher Form im Beweis des Satzes von Prohorov in allgemeiner Form wieder gebrauchen werden. Sei
V = F : R → R ist rechtsstetig, monoton wachsend und beschr¨ankt die Menge der Verteilungsfunktionen von endlichen Maßen auf R. Satz 13.33 (Auswahlsatz von Helly). Sei (Fn )n∈N eine gleichm¨aßig beschr¨ankte Folge in V . Dann existiert ein F ∈ V und eine Teilfolge (Fnk )k∈N mit k→∞
Fnk (x) −→ F (x) in allen Stetigkeitsstellen von F. Beweis. Wir benutzen ein Diagonalfolgenargument. Wir w¨ahlen eine Abz¨ahlung Q = {q1 , q2 , q3 , . . . } der rationalen Zahlen. Nach dem Satzvon Bolzano-Weierstraß besitzt (Fn (q1 ))n∈N eine konvergente Teilfolge Fn1k (q1 ) k∈N . Ebenso finden wir
eine Teilfolge (n2k )k∈N von (n1k )k∈N , sodass Fn2k (q2 ) k∈N konvergiert. Iterativ er halten wir Teilfolgen (n1k ) ⊃ (n2k ) ⊃ (n3k ) ⊃ . . ., sodass Fnlk (ql ) k∈N f¨ur jedes
l ∈ N konvergiert. Setze jetzt nk := nkk . Dann konvergiert Fnk (q) k∈N f¨ur jedes q ∈ Q. Setze F (q) = lim Fn (q) und k→∞
k
F (x) = inf F (q) : q ∈ Q mit q > x . Da F monoton wachsend ist, ist F rechtsstetig und monoton wachsend. Ist F stetig in x, so existieren zu ε > 0 Zahlen q − , q + ∈ Q, q − < x < q + mit F (q − ) ≥ F (x) − ε und F (q + ) ≤ F (x) + ε. Nach Konstruktion ist dann lim sup Fnk (x) ≤ lim Fnk (q+ ) = F (q + ) ≤ F (x) + ε. k→∞
k→∞
Also ist lim sup Fnk (x) ≤ F (x) und analog mit q− auch lim inf Fnk (x) ≥ F (x).2 k→∞
k→∞
¨ den Fall E = R). Beweis (von Satz 13.29(i) fur Sei F straff und (μn )n∈N eine Folge in F mit Verteilungsfunktionen Fn : x →
264
13 Konvergenz von Maßen
μn ((−∞, x]). Nach dem Satz von Helly gibt es eine monotone, rechtsstetige Funkk→∞
tion F : R → [0, 1] und eine Teilfolge (Fnk )k∈N von (Fn )n∈N mit Fnk (x) −→ F (x) in allen Stetigkeitspunkten x von F . Nach Satz 13.23 reicht es zu zeigen, dass F (∞) ≥ lim supk→∞ Fnk (∞). Da F straff ist, existiert zu ε > 0 ein K < ∞ mit Fn (∞) − Fn (x) < ε f¨ur jedes n ∈ N und x > K. Ist x > K eine Stetigkeitsstelle von F , dann gilt 2 lim supk→∞ Fnk (∞) ≤ lim supk→∞ Fnk (x) + ε = F (x) + ε ≤ F (∞) + ε. Wir kommen zu einer ersten Anwendung des Satzes von Prohorov. Die ganze St¨arke des folgenden Satzes wird erst deutlich, wenn wir geeignete trennende Funktionenklassen zur Verf¨ugung haben. Diese werden wir in Kapitel 15 genauer untersuchen. Satz 13.34. Sei E polnisch, und seien μ, μ1 , μ2 , . . . ∈ M≤1 (E). Dann sind a¨ quivalent: (i) μ = w-lim μn . n→∞
(ii) (μn )n∈N ist straff, und es gibt eine trennende Familie C ⊂ Cb (E) mit (13.8) f dμ = lim f dμn f¨ur jedes f ∈ C. n→∞
Beweis. (i) =⇒ (ii)“ Nach der einfachen Implikation im Satz von Prohorov ” (Satz 13.29(ii)) folgt aus der schwachen Konvergenz die Straffheit. (ii) =⇒ (i)“ Sei (μn )n∈N straff und C ⊂ Cb (E) trennend mit (13.8). Wir nehmen ” an, (μn )n∈N konvergiere nicht schwach gegen μ. Dann existieren ε > 0, f ∈ Cb (E) und (nk )k∈N mit nk ↑ ∞ und f dμn − f dμ > ε f¨ur alle k ∈ N. (13.9) k Nach dem Satz von Prohorov (Satz 13.29) existiert ein ν ∈ M≤1 (E) und eine Teilfolge (nk )k∈N von (nk )k∈N mit μnk → ν schwach. Wegen (13.9) ist 0 0 f dμ − f dν ≥ ε, also μ = ν. Andererseits ist h dμ = lim h dμnk = h dν f¨ur jedes h ∈ C, k→∞
also μ = ν. Damit ist die Annahme zum Widerspruch gef¨uhrt, und es gilt (i).
2
Wir wollen den Zusammenhang zwischen schwacher und vager Konvergenz n¨aher beleuchten.
13.3 Der Satz von Prohorov
265
Satz 13.35. Sei E ein lokalkompakter, polnischer Raum, und seien μ, μ1 , μ2 , . . . ∈ Mf (E). Dann sind a¨ quivalent: (i) μ = w-lim μn , n→∞
(ii) μ = v-lim μn und μ(E) = lim μn (E), n→∞
n→∞
(iii) μ = v-lim μn und μ(E) ≥ lim sup μn (E), n→∞
n→∞
(iv) μ = v-lim μn und {μn , n ∈ N} ist straff. n→∞
Beweis. (i) ⇐⇒ (ii) ⇐⇒ (iii)“ Dies folgt aus dem Portemanteau Theorem. ” (ii) =⇒ (iv)“ Es reicht zu zeigen, dass f¨ur jedes ε > 0 ein Kompaktum K ⊂ E ” existiert mit lim supn→∞ μn (E \ K) ≤ ε. Da μ regul¨ar ist (Satz 13.6), existiert eine kompakte Menge L ⊂ E mit μ(E \ L) < ε. Da E lokalkompakt ist, existiert ein Kompaktum K ⊂ E mit K ◦ ⊃ L sowie ein ρL,K ∈ Cc (E) mit ½L ≤ ρL,K (x) ≤ ½K . Es folgt lim sup μn (E \ K) ≤ lim sup μn (E) − ρL,K dμn n→∞ n→∞ = μ(E) − ρL,K dμ ≤ μ(E \ L) < ε. (iv) =⇒ (i)“ Sei L ⊂ E kompakt mit μn (E \ L) ≤ 1 f¨ur jedes n ∈ N. Sei ” ρ ∈ Cc (E) mit ρ ≥ ½L . Dann ist sup μn (E) ≤ 1 + sup μn (L) ≤ 1 + sup ρ dμn < ∞, n∈N
weil nach Voraussetzung
0
n∈N
n∈N
ρ dμn konvergiert. Es ist also auch
C := max(μ(E), sup{μn (E) : n ∈ N}) < ∞, und wir k¨onnen zu μ/C und μn /C u¨ bergehen und ohne Einschr¨ankung annehmen, dass alle Maße in M≤1 (E) liegen. Da Cc (E) trennend ist f¨ur M≤1 (E) (siehe Satz 13.11), folgt (i) aus Satz 13.34. 2 Beweis des Satzes von Prohorov, Teil (i), allgemeiner Fall. Es gibt prinzipiell zwei M¨oglichkeiten, den Satz im allgemeinen Fall zu beweisen. Die eine M¨oglichkeit besteht darin, den Satz zun¨achst f¨ur Maße auf Rd zu zeigen (das ha¨ ben wir f¨ur d = 1 bereits getan, siehe auch Ubung 13.3.4 f¨ur d ≥ 2). In einem zweiten Schritt wird die Aussage auf Folgenr¨aume RN angehoben. Schließlich wird im dritten Schritt eine Einbettung von E in RN konstruiert. Diesen Weg findet man beispielsweise in [14] oder [88].
266
13 Konvergenz von Maßen
Wir folgen hier der anderen Route, wie sie etwa in [15] (beziehungsweise [17]) oder [46] dargestellt wird. Der Hauptpunkt des Beweises besteht darin, einen Kandidaten f¨ur einen schwachen H¨aufungspunkt der Familie F zu finden. Wir werden diesen zun¨achst als Inhalt auf einem abz¨ahlbaren Mengensystem konstruieren und dann ein a¨ ußeres Maß daraus ableiten. Schließlich zeigen wir, dass die abgeschlossenen Mengen messbar bez¨uglich dieses a¨ ußeren Maßes sind. Die Argumentation verl¨auft also in Teilen recht a¨ hnlich wie beim Beweis des Satzes von Carath´eodory. Sei (E, d) ein metrischer Raum und F ⊂ M≤1 (E) straff. Dann existiert eine aufsteigende Folge K1 ⊂ K2 ⊂ K3 ⊂ . . . von kompakten Mengen in E, sodass ∞ μ(Knc ) < n1 gilt f¨ur jedes μ ∈ F und jedes n ∈ N. Setze E := n=1 Kn . Dann ist E ein σ-kompakter, metrischer Raum, also insbesondere separabel. Da nach Konstruktion μ(E \ E ) = 0 f¨ur jedes μ ∈ F gilt, k¨onnen wir jedes μ als Maß auf E auffassen. Ohne Beschr¨ankung der Allgemeinheit k¨onnen wir also annehmen, dass E σ-kompakt und damit separabel ist. Es existiert also eine abz¨ahlbare Basis U der Topologie τ auf E, das heißt eine abz¨ahlbare Menge E E von offenen Mengen, sodass A = U ∈U , U ⊂A U f¨ur jedes offene A ⊂ E ist. Setze
C := U ∩ Kn : U ∈ U, n ∈ N und C :=
1 N
2 Cn : N ∈ N und C1 , . . . , CN ∈ C .
n=1
Offenbar ist C eine abz¨ahlbare Menge kompakter Mengen in E, und C ist vereini¨ gungsstabil. Jedes Kn hat eine endliche Uberdeckung mit Mengen aus U, also ist Kn ∈ C. Sei nun (μn )n∈N eine Folge in F. Mit Hilfe des Diagonalfolgenarguments (siehe Beweis des Auswahlsatzes von Helly, Satz 13.33) k¨onnen wir eine Teilfolge (μnk )k∈N finden, f¨ur die der Grenzwert α(C) := lim μnk (C) k→∞
(13.10)
f¨ur jedes C ∈ C existiert. Angenommen es gibt ein Maß μ auf der Borel’schen σ-Algebra E von E, sodass
μ(A) = sup α(C) : C ∈ C mit C ⊂ A f¨ur A ⊂ E offen. (13.11) Dann ist
μ(E) ≥ sup α(Kn ) = sup lim μnk (Kn ) n∈N
n∈N k→∞
1 ≥ sup lim sup μnk (E) − n n∈N k→∞ = lim sup μnk (E). k→∞
F¨ur offenes A und f¨ur C ∈ C mit C ⊂ A ist ferner
13.3 Der Satz von Prohorov
267
α(C) = lim μnk (C) ≤ lim inf μnk (A), k→∞
k→∞
also μ(A) ≤ lim inf k→∞ μnk (A). Nach dem Portemanteau Theorem (Satz 13.16) ist μ = w-lim μnk , und damit ist F als schwach relativ folgenkompakt erkannt. Es k→∞
bleibt zu zeigen, dass es ein Maß μ auf (E, E) gibt, das (13.11) erf¨ullt. Die Mengenfunktion α auf C ist offenbar monoton, additiv und subadditiv: α(C1 ) ≤ α(C2 ), α(C1 ∪ C2 ) = α(C1 ) + α(C2 ), α(C1 ∪ C2 ) ≤ α(C1 ) + α(C2 ).
falls C1 ⊂ C2 , falls C1 ∩ C2 = ∅,
(13.12)
Wir definieren
β(A) := sup α(C) : C ∈ C mit C ⊂ A und
f¨ur A ⊂ E offen
μ∗ (G) := inf β(A) : A ⊃ G ist offen
f¨ur G ∈ 2E .
Offenbar ist β(A) = μ∗ (A) f¨ur jedes offene A. Es reicht zu zeigen (Schritte 1-3 unten), dass μ∗ ein a¨ ußeres Maß ist (siehe Definition 1.46), und (4. Schritt) dass die σ-Algebra der μ∗ -messbaren Mengen (siehe Definition 1.48 und Lemma 1.52) die abgeschlossenen Mengen und damit ganz E enth¨alt. Nach Lemma 1.52 ist dann n¨amlich μ∗ ein Maß auf der σ-Algebra der μ∗ -messbaren Mengen, und die Ein schr¨ankung μ := μ∗ erf¨ullt μ(A) = μ∗ (A) = β(A) f¨ur alle offenen A, also gilt E Gleichung (13.11). Offenbar ist μ∗ (∅) = 0, und μ∗ ist monoton. Um zu zeigen, dass μ∗ ein a¨ ußeres Maß ist, m¨ussen wir nur noch die σ-Subadditivit¨at nachweisen. 1. Schritt (endliche Subadditivit¨at von β). Seien A1 , A2 ⊂ E offen und C ∈ C mit C ⊂ A1 ∪ A2 . Sei n ∈ N mit C ⊂ Kn . Wir definieren zwei Mengen
B1 := x ∈ C : d(x, Ac1 ) ≥ d(x, Ac2 ) ,
B2 := x ∈ C : d(x, Ac1 ) ≤ d(x, Ac2 ) .
A1
111111111111 000000000000 000000000000 111111111111 000000000000 111111111111 000000000000 111111111111 000000000000 111111111111 000000000000 111111111111 000000000000 111111111111 000000000000 111111111111 000000000000 111111111111 000000000000 111111111111 B1111111111111 B2 000000000000 A2 000000000000 111111111111 000000000000 111111111111 000000000000 111111111111 000000000000 111111111111 000000000000 111111111111 000000000000 111111111111 000000000000 111111111111 000000000000 111111111111 000000000000 111111111111 000000000000 111111111111 C
Offenbar ist B1 ⊂ A1 und B2 ⊂ A2 . Da x → stetig ist f¨ur i = 1, 2, sind B1 und B2 als abgeschlossene Teilmengen von C kompakt. Also ist d(B1 , Ac1 ) > 0. Es existiert also eine offene Menge D1 mit B1 ⊂ D1 ⊂ D1 ⊂ A1 . (Man w¨ahle etwa ¨ D1 als Vereinigung einer endlichen Uberdeckung von B1 mit Kugeln vom Radius Abschl¨ ussen in A1 .) Sei UD1 := d(B1 , Ac1 )/2. Diese Kugeln liegen nebst ihren {U ∈ U : U ⊂ D1 }. Dann ist B1 ⊂ D1 = U ∈UD U . W¨ahle nun eine endliche d(x, Aci )
1
268
13 Konvergenz von Maßen
N Teil¨uberdeckung {U1 , . . . , UN } ⊂ UD1 von B1 und setze C1 := i=1 U i ∩ Kn . Dann ist B1 ⊂ C1 ⊂ A1 und C1 ∈ C. W¨ahle analog ein C2 ∈ C mit B2 ⊂ C2 ⊂ A2 . Es folgt α(C) ≤ α(C1 ∪ C2 ) ≤ α(C1 ) + α(C2 ) ≤ β(A1 ) + β(A2 ). Also gilt auch
β(A1 ∪ A2 ) = sup α(C) : C ∈ C mit C ⊂ A1 ∪ A2 ≤ β(A1 ) + β(A2 ).
2. Schritt (σ-Subadditivit¨ at von β). Seien A1 , A2 , . . . offene Mengen n und C ∈ ∞ C mit C ⊂ i=1 Ai . Da C kompakt ist, existiert ein n ∈ N mit C ⊂ i=1 Ai . Die schon gezeigte endliche Subadditivit¨at von β impliziert n n ∞ α(C) ≤ α Ai = β Ai ≤ β(Ai ). i=1
i=1
i=1
Indem wir das Supremum u¨ ber solche C bilden, folgt 1 2 ∞ ∞ ∞ Ai = sup α(C) : C ∈ C mit C ⊂ Ai ≤ β(Ai ). β i=1
i=1
i=1
3. Schritt (σ-Subadditivit¨at von μ∗ ). Seien G1 , G2 , . . . ∈ 2E . Sei ε > 0. W¨ahle f¨ur jedes n ∈ N eine offene Menge An ⊃ Gn mit β(An ) < μ∗ (Gn ) + ε/2n . Dann gilt aufgrund der σ-Subadditivit¨at von β ∞ ∞ ∞ ∞ ∗ Gn ≤ β An ≤ β(An ) ≤ ε + μ∗ (Gn ). μ n=1
n=1
Da ε > 0 beliebig war, folgt μ a¨ ußeres Maß.
∗
n=1
∞ n=1
Gn ≤
n=1
∞ n=1
∗
μ (Gn ). Mithin ist μ∗ ein
4. Schritt (Abgeschlossene Mengen sind μ∗ -messbar). eine Menge B ⊂ E genau dann μ∗ -messbar, wenn μ∗ (B ∩ G) + μ∗ (B c ∩ G) ≤ μ∗ (G)
Nach Lemma 1.49 ist
f¨ur alle G ∈ 2E .
Indem wir das Infimum u¨ ber alle offenen Mengen A ⊃ G bilden, reicht es zu zeigen, dass f¨ur jedes abgeschlossene B und jedes offene A ⊂ E gilt, dass μ∗ (B ∩ A) + μ∗ (B c ∩ A) ≤ β(A).
(13.13)
Sei ε > 0. W¨ahle C1 ∈ C mit C1 ⊂ A ∩ B c und α(C1 ) > β(A ∩ B c ) − ε. W¨ahle ferner C2 ∈ C mit C2 ⊂ A ∩ C1c und α(C2 ) > β(A ∩ C1c ) − ε. Wegen C1 ∩ C2 = ∅ und C1 ∪ C2 ⊂ A folgt
13.4 Anwendung: Satz von de Finetti – anders angeschaut
269
β(A) ≥ α(C1 ∪ C2 ) = α(C1 ) + α(C2 ) ≥ β(A ∩ B c ) + β(A ∩ C1c ) − 2ε ≥ μ∗ (A ∩ B c ) + μ∗ (A ∩ B) − 2ε. Indem wir ε → 0 gehen lassen, folgt (13.13). Damit ist der Beweis des Satzes von Prohorov vollst¨andig. 2 ¨ Ubung 13.3.1. Man zeige: Eine Familie F ⊂ Mf (R) ist genau dann straff, wenn es eine messbare Abbildung f : R → [0, ∞) gibt mit f (x) → ∞ f¨ur |x| → ∞ und 0 supμ∈F f dμ < ∞. ♣ ¨ Ubung 13.3.2. Sei L ⊂ R×(0, ∞) sowie F = {Nμ,σ2 : (μ, σ 2 ) ∈ L} eine Familie von Normalverteilungen mit Parametern in L. Man zeige: F ist genau dann straff, wenn L beschr¨ankt ist. ♣ 0 ¨ Ubung 13.3.3. Ist P ein W-Maß auf [0, ∞) mit mP := x P (dx) ∈ (0, ∞), so definieren wir die gr¨oßenverzerrte Verteilung P: auf [0, ∞) durch x P (dx). (13.14) P:(A) = m−1 P A
Sei nun (Xi )i∈I eine Familie von Zufallsvariablen auf [0, ∞) mit E[Xi ] = 1. Man
@ zeige: P Xi i∈I ist genau dann straff, wenn (Xi )i∈I gleichgradig integrierbar ist.♣ ¨ Ubung 13.3.4 (Satz von Helly im Rd ). Seien x = (x1 , . . . , xd ) ∈ Rd und y = 1 (y , . . . , yd ) ∈ Rd . Wir schreiben x ≤ y, falls xi ≤ y i f¨ur jedes i = 1, . . . , d. Eine Abbildung F : Rd → R heißt monoton wachsend, falls F (x) ≤ F (y) f¨ur x ≤ y. F heißt rechtsstetig, falls f¨ur jedes x ∈ Rd und jede Folge (xn )n∈N in Rd mit x1 ≥ x2 ≥ x3 ≥ . . . und x = limn→∞ xn gilt, dass F (x) = limn→∞ F (xn ). Mit Vd bezeichnen wir die Menge der monoton wachsenden, rechtsstetigen, beschr¨ankten Funktionen auf Rd . (i) Man zeige, dass der Satz von Helly mit Vd statt V gilt. (ii) Man folgere die G¨ultigkeit des Satzes von Prohorov f¨ur E = Rd .
♣
13.4 Anwendung: Satz von de Finetti – anders angeschaut (Nach einer Idee von G¨otz Kersting.) Sei E ein polnischer Raum und X1 , X2 , . . . eine austauschbare Folge von Zufallsvariablen mit Werten in E. Wir wollen hier, alternativ zu dem R¨uckw¨artsmartingalargument aus Kapitel 12.3, einen Beweis f¨ur den Satz von de Finetti (Satz 12.26) angeben, der besagt, dass es ein zuf¨alliges W. unabh¨angig Maß Ξ auf E gibt, sodass, gegeben Ξ, die Zufallsvariablen X1 , X2 , . . und Ξ-verteilt sind. F¨ur x = (x1 , x2 , . . .) ∈ E N seien ξn (x) := n1 nl=1 δxl die empirische Verteilung von x1 , . . . , xn ,
270
13 Konvergenz von Maßen
μn,k (x) := ξn (x)⊗k = n−k
n
δ(xi1 ,...,xik )
i1 ,...,ik =1
die Verteilung auf E k des k-fachen unabh¨angigen Ziehens (mit Beachtung der Reihenfolge) aus (x1 , . . . , xn ) mit Zur¨ucklegen und νn,k (x) :=
(n − k)! n!
n i1 ,...,ik =1 #{i1 ,...,ik }=k
δ(xi1 ,...,xik )
die Verteilung auf E k des k-fachen unabh¨angigen Ziehens (mit Beachtung der Reihenfolge) aus (x1 , . . . , xn ) ohne Zur¨ucklegen. F¨ur jedes x ∈ E N gilt ; ; ;μn,k (x) − νn,k (x);
≤ Rn,k :=
TV
k(k − 1) . n
In der Tat ist die Wahrscheinlichkeit pn,k , beim k-maligen Ziehen (mit Zur¨ucklegen) aus n unterscheidbaren Kugeln keine zwei gleichen Kugeln zu ziehen, pn,k =
k−1
(1 − l/n)
l=1
und Rn,k ≥ 2(1 − pn,k ). Wir erhalten also die, intuitiv klare, Aussage, dass sich f¨ur n → ∞ die Verteilungen des k-maligen Ziehens mit und ohne Zur¨ucklegen ann¨ahern ; ; lim sup ;μn,k (x) − νn,k (x);T V = 0. n→∞ x∈E N
Seien nun f1 , . . . , fk ∈ Cb (E) und F (x1 , . . . , xk ) := f1 (x1 ) · · · fk (xk ). Dann gilt wegen der Austauschbarkeit der Folge X1 , X2 , . . . f¨ur jede Wahl von paarweise unterschiedlichen Zahlen 1 ≤ i1 , . . . , ik ≤ n E[F (X1 , . . . , Xk )] = E[F (Xi1 , . . . , Xik )]. Indem wir u¨ ber alle solchen Wahlen von i1 , . . . , ik mitteln, erhalten wir ' ( ) * ) * E f1 (X1 ) · · · fk (Xk ) = E F (X1 , . . . , Xk ) = E F dνn,k (X) . Also ist ) ' ( * f1 dξn (X) · · · fk dξn (X) E f1 (X1 ) · · · fk (Xk ) − E ' ( ' ( = E F dνn,k (X) − E F dμn,k (X) n→∞
≤ F ∞ Rn,k −→ 0. Wir machen uns jetzt das folgende Kriterium f¨ur die Straffheit von Teilmengen von M1 (M1 (E)) zu Nutze.
13.4 Anwendung: Satz von de Finetti – anders angeschaut
271
¨ Ubung 13.4.1. Man zeige: Eine Teilmenge K ⊂ M1 (M1 (E)) ist genau dann straff, wenn f¨ur jedes ε > 0 eine kompakte Menge K ⊂ E existiert mit der Eigenschaft
μ μ ∈ M1 (E) : μ(K c ) > ε < ε f¨ur jedes μ ∈ K. ♣ Da E polnisch ist, ist PX1 straff. Zu ε > 0 existiert also ein Kompaktum K ⊂ E mit P[X1 ∈ K c ] < ε2 . Es folgt, dass P[ξn (X)(K c ) > ε] ≤ ε−1 E[ξn (X)(K c )] = ε−1 P[X1 ∈ K c ] ≤ ε. Also ist die Familie (Pξn (X) )n∈N straff. Sei Ξ∞ eine Zufallsvariable (mit Werten in M1 (E)), sodass PΞ∞ = w-lim Pξnl (X) f¨ur eine geeignete Teilfolge (nl )l∈N . l→∞ 0 0 0 Die Abbildung ξ → F dξ = f1 dξ · · · fk dξ ist beschr¨ankt und (als Produkt stetiger Abbildungen) stetig bez¨uglich der Topologie der schwachen Konvergenz auf M1 (E), also aus Cb (M1 (E)). Daher gilt ' ( ' ( ⊗k f1 dξnl (X) · · · fk dξnl (X) F dΞ∞ = lim E E l→∞ ) * = E f1 (X1 ) · · · fk (Xk ) . Nun h¨angt der Grenzwert aber nicht mehr von der gew¨ahlten Teilfolge ab und ist damit eindeutig. Es folgt, noch einmal komplett ausgeschrieben, dass ' ( * ) f1 dΞ∞ · · · fk dΞ∞ . E f1 (X1 ) · · · fk (Xk ) = E Durch diese Integrale ist aber die Verteilung von (X1 , . . . , Xk ) vollst¨andig be⊗k , oder als Zufallsvariablen ausstimmt, und es folgt, dass P(X1 ,...,Xk ) = PΞ∞ D
gedr¨uckt: (X1 , . . . , Xk ) = (Y1 , . . . , Yk ), wo, gegeben Ξ∞ , die Zufallsvariablen Y1 , . . . , Yk unabh¨angig mit Verteilung Ξ∞ . ¨ Ubung 13.4.2. Man zeige: Eine Familie (Xn )n∈N von Zufallsvariablen ist genau dann austauschbar, wenn f¨ur jede Wahl von nat¨urlichen Zahlen mit 1 ≤ n1 < n2 < n3 . . . gilt D (X1 , X2 , . . .) = (Xn1 , Xn2 , . . .). Obacht: Die eine Richtung ist schwierig zu zeigen.
♣
14 W-Maße auf Produktr¨aumen
Als Motivation betrachten wir das folgende Beispiel. Sei X eine uniform auf [0, 1] verteilte Zufallsvariable. Sobald wir den Wert von X kennen, wollen wir n mal eine M¨unze werfen, die Erfolgswahrscheinlichkeit X hat. Die Ergebnisse seien Y1 , . . . , Yn . Wie konstruieren wir einen geeigneten Wahrscheinlichkeitsraum, auf dem alle Zufallsvariablen definiert sind? Eine M¨oglichkeit: Wir wissen schon, wie wir n + 1 unabh¨angige Zufallsvariablen Z0 , . . . , Zn konstruieren, die uniform auf [0, 1] verteilt sind (siehe etwa Korollar 2.23). Setze nun X = Z0 und 1 1, falls Zk < X, Yk = 0, falls Zk ≥ X. Intuitiv entspricht das unserer Vorstellung davon, dass die Y1 , . . . , Yn unabh¨angig sind, sobald wir den Wert von X kennen, und mit Wahrscheinlichkeit X einen Erfolg zeigen. In diesem Beispiel haben wir uns von Hand ein Zweistufenexperiment gebastelt: In der ersten Stufe haben wir den Wert von X festgelegt, in der zweiten Stufe wird, abh¨angig vom Wert von X, der Wert von Y = (Y1 , . . . , Yn ) bestimmt. Offenbar haben wir bei der Konstruktion Nutzen aus der speziellen Struktur des Problems gezogen. Wir suchen nun nach einem allgemeinen Rahmen, in dem sich mehrstufige Experimente beschreiben und allgemein konstruieren lassen. Anders als in Kapitel 2 brauchen die Zufallsvariablen nicht mehr unabh¨angig zu sein. Außerdem wollen wir systematisch auch unendlich große Familien von Zufallsvariablen mit gegebenen Verteilungen konstruieren. Im ersten Abschnitt beginnen wir mit Produkten von Messr¨aumen. Danach kommen ¨ wir zu endlichen Produkten von Maßr¨aumen sowie Produktmaßen mit Ubergangskernen, um schließlich unendliche Produkte von Wahrscheinlichkeitsr¨aumen zu betrachten. Das Hauptergebnis ist der Erweiterungssatz von Kolmogorov.
274
14 W-Maße auf Produktr¨aumen
14.1 Produktr¨aume Definition 14.1 (Produktraum). Sei (Ωi , i ∈ I) eine beliebige Familie von MenΩi gen. Mit Ω = × Ωi bezeichnen wir die Menge der Abbildungen ω : I → i∈I
i∈I
mit der Eigenschaft, dass ω(i) ∈ Ωi f¨ur jedes i ∈ I gilt. Ω heißt das Produkt der (Ωi , i ∈ I), oder kurz Produktraum. Sind speziell alle Ωi gleich, etwa Ωi = Ω0 , so schreiben wir Ω = × Ωi = Ω0I . i∈I
Beispiele 14.2. (i) Ist Ω1 = {1, . . . , 6} und Ω2 = {1, 2, 3}, so ist
Ω1 × Ω2 = ω = (ω1 , ω2 ) : ω1 ∈ {1, . . . , 6}, ω2 ∈ {1, 2, 3} . (ii) Ist Ω0 = R und I = {1, 2, 3}, so ist R{1,2,3} isomorph zum u¨ blichen R3 . (iii) Ist Ω0 = R und I = N, so ist RN der Raum der Folgen (ω(n), n ∈ N) in R. (iv)
Ist I = R und Ω0 = R, so ist RR die Menge der Abbildungen R → R.
3
Definition 14.3 (Koordinatenabbildung). Ist i ∈ I, so bezeichnet Xi : Ω → Ωi , ω → ω(i) die i-te Koordinatenabbildung. Allgemeiner nennen wir f¨ur J ⊂ J ⊂ I die eingeschr¨ankte Abbildung
XJJ :
× Ω −→ × Ω , j
j∈J
j
ω → ω
J
j∈J
(14.1)
die kanonische Projektion. Speziell schreiben wir XJ := XJI . Definition 14.4 (Produkt-σ-Algebra). Seien (Ωi , Ai ), i ∈ I, Messr¨aume. Die Produkt-σ-Algebra A= Ai i∈I
ist die kleinste σ- Algebra auf Ω, sodass f¨ur jedes i ∈ I die Abbildung Xi messbar bez¨uglich A – Ai ist:
A = σ Xi , i ∈ I := σ Xi−1 (Ai ), i ∈ I . Ist (Ωi , Ai ) = (Ω0 , A0 ) f¨ur jedes i ∈ I, so schreiben wir auch A = A⊗I 0 . / F¨ur J ⊂ I schreiben wir ΩJ = × Ωj und AJ = Aj . j∈J
j∈J
Bemerkung 14.5. Die Begriffsbildung der Produkt-σ-Algebra ist analog zu der der Produkttopologie: Sind ((Ωi , τi ), i ∈ I) topologische R¨aume, so ist die Produkttopologie τ auf Ω = × Ωi die gr¨obste Topologie, bez¨uglich der alle Koordinateni∈I
abbildungen Xi : Ω −→ Ωi stetig sind.
3
14.1 Produktr¨aume
275
Definition 14.6. Sei I = ∅ eine beliebige Indexmenge, (E, E) ein Messraum, (Ω, A) = (E I , E ⊗I ) und Xt : Ω → E die Koordinatenabbildung f¨ur jedes t ∈ I. Dann nennen wir die Familie (Xt )t∈I den kanonischen Prozess auf (Ω, A). Lemma 14.7. Sei ∅ = J ⊂ I. Dann ist XJI messbar bez¨uglich AI – AJ . Beweis. F¨ur jedes j ∈ J ist Xj = XjJ ◦ XJI messbar bez¨uglich A – Aj . Nach Korollar 1.82 ist daher XJI messbar. 2 Satz 14.8. Sei I h¨ochstens abz¨ahlbar, und f¨ur jedes i ∈ I sei (Ωi , τi ) polnisch mit Borel’scher σ-Algebra Bi = σ(τi ). Es sei τ die Produkttopologie auf Ω = × Ωi i∈I
und B = σ(τ ). Dann ist (Ω, τ ) polnisch und B =
/
Bi . Speziell ist B(Rd ) = B(R)⊗d f¨ur d ∈ N.
i∈I
Beweis. Ohne Einschr¨ankung sei I = N. F¨ur i ∈ N sei di eine vollst¨andige Metrik, die τi erzeugt. Man pr¨uft leicht nach, dass dann d(ω, ω ) :=
∞ i=1
2−i
di (ω(i), ω (i)) 1 + di (ω(i), ω (i))
(14.2)
eine vollst¨andige Metrik auf Ω ist, die τ erzeugt. F¨ur jedes i ∈ N sei nun Di ⊂ Ωi eine abz¨ahlbare, dichte Teilmenge und yi ∈ Di ein beliebiger fester Punkt. Die Menge D= x∈ Di : xi = yi nur endlich oft
× i∈N
ist, wie man leicht pr¨uft, eine abz¨ahlbare, dichte Teilmenge von Ω. Also ist Ω separabel und damit polnisch. Sei nun βi = {Bε (xi ) : xi ∈ Di , ε ∈ Q+ } f¨ur jedes i ∈ I eine abz¨ahlbare Basis der Topologie von Ωi aus ε-Kugeln. Setze N ∞ −1 Xi (Bi ) : B1 ∈ β1 , . . . , BN ∈ βN . β := N =1
i=1
Dann ist β eine abz¨ahlbare Basis der Topologie τ/ , also ist jede offene Menge /A ⊂ Ω B . Mithin ist τ ⊂ (abz¨ahlbare) Vereinigung von Mengen in β ⊂ i i∈N i∈N Bi / und damit B ⊂ i∈N Bi . Andererseits ist jedes Xi stetig, also messbar bez¨uglich B – Bi und damit B ⊃ / B . 2 i i∈N
276
14 W-Maße auf Produktr¨aumen
Definition 14.9 (Zylindermengen). F¨ur jedes i ∈ I sei Ei ⊂ Ai ein Teilsystem der messbaren Mengen. F¨ur jedes A ∈ AJ heißt XJ−1 (A) ⊂ Ω Zylindermenge mit Basis J. Die Menge dieser Zylindermengen wird mit ZJ bezeichnet. Ist speziell A = ×j∈J Aj f¨ur gewisse Aj ∈ Aj , so heißt XJ−1 (A) Rechteckzylinder mit Basis J. Die Menge dieser Rechteckzylinder wird mit ZJR bezeichnet, die Menge aller Rechteckzylinder, f¨ur die zus¨atzlich Aj ∈ Ej f¨ur jedes j ∈ J gilt, mit ZJE,R . Wir schreiben
Z=
ZJ ,
(14.3)
J⊂I endlich
und definieren analog Z R und Z E,R . Ferner definieren wir N ∞ R R An : A1 , . . . , AN ∈ Z Z∗ = n=1
N =1
und analog Z∗E,R . R Bemerkung 14.10. / Jedes ZJ ist eine σ-Algebra, und Z und Z∗ sind Algebren. Außerdem gilt i∈I Ai = σ(Z). 3
Lemma 14.11. Ist jedes Ei schnittstabil, beziehungsweise ein Semiring, so ist Z E,R schnittstabil, beziehungsweise ein Semiring. ¨ Beweis. Ubung!
2
Satz 14.12. F¨ur jedes i ∈ I sei Ei ⊂ Ai ein Erzeuger von Ai . / (i) F¨ur jedes endliche J ⊂ I gilt A j = σ × E j : E j ∈ Ej . (ii) Es gilt
/
j∈J
j∈J
Ai = σ(Z R ) = σ Z E,R .
i∈I
(iii) Sei μ ein σ-endliches Maß auf A, und sei jedes Ei zudem schnittstabil. Ferner gebe es eine Folge (En )n∈N in Z E,R mit En ↑ Ω und μ(En ) < ∞ f¨ur jedes n ∈ N (speziell ist diese Bedingung nat¨urlich erf¨ullt, wenn μ endlich ist und Ωi ∈ Ei f¨ur jedes i ∈ I). Dann ist μ durch Angabe von μ(A) f¨ur jedes A ∈ Z E,R eindeutig festgelegt.
× E : E ∈ E f¨ur jedes j ∈ J . Es ist × E = (X ) (E ) ∈ A ,
Beweis. (i) Sei AJ = σ
j
j
j
j∈J
J −1 j
j
j∈J
j∈J
j
J
¨ 14.2 Endliche Produkte und Ubergangskerne
277
also AJ ⊂ AJ . Umgekehrt gilt (XjJ )−1 (Ej ) ∈ AJ f¨ur j ∈ J und Ej ∈ Ej . Da Ei ein Erzeuger von Ai ist, ist (XjJ )−1 (Aj ) ∈ AJ f¨ur jedes Aj ∈ Aj , also gilt AJ ⊂ AJ . ⊂ Z R ⊂ A, also auch σ(Z E,R ) ⊂ σ(Z R ) ⊂ A. Nach (ii) Offenbar ist Z E,R
E,R Satz 1.81 gilt σ Z{i} = σ(Xi ) f¨ur jedes i ∈ I, also σ(Xi ) ⊂ σ(Z E,R ) und damit AI ⊂ σ(Z E,R ). (iii) Nach (ii) und Lemma 14.11 ist Z E,R ein schnittstabiler Erzeuger von A. Die Aussage folgt daher aus Lemma 1.42. 2 ¨ Ubung 14.1.1. Man zeige: Ai = i∈I
ZJ .
(14.4)
J⊂I abz¨ahlbar
Hinweis: Man zeige, dass die rechte Seite eine σ-Algebra ist.
♣
¨ 14.2 Endliche Produkte und Ubergangskerne Wir betrachten jetzt die Situation endlich vieler σ-endlicher Maßr¨aume (Ωi , Ai , μi ), i = 1, . . . , n, wobei n ∈ N. Lemma 14.13. Sei A ∈ A1 ⊗ A2 und f : Ω1 × Ω2 → R eine A1 ⊗ A2 -messbare Abbildung. Dann gilt f¨ur jedes ω ˜ 1 ∈ Ω1 und ω ˜ 2 ∈ Ω2 Aω˜ 1 := {ω2 ∈ Ω2 : (˜ ω1 , ω2 ) ∈ A} ∈ A2 , ˜ 2 ) ∈ A} ∈ A1 , Aω˜ 2 := {ω1 ∈ Ω1 : (ω1 , ω fω˜ 1 : Ω2 → R,
ω2 → f (˜ ω1 , ω2 )
ist A2 -messbar,
fω˜ 2 : Ω1 → R,
ω1 → f (ω1 , ω ˜2 )
ist A1 -messbar.
ω1 , ω2 ). Beweis. F¨ur ω ˜ 1 definiere die Einbettung i : Ω2 → Ω1 ×Ω2 durch i(ω2 ) = (˜ ˜ 1 ist (also A1 -messbar), und X2 ◦ i = idΩ2 (also A2 Da X1 ◦ i konstant gleich ω messbar), ist nach Korollar 1.82 die Abbildung i messbar bez¨uglich A2 – (A1 ⊗A2 ). Mithin ist Aω˜ 1 = i−1 (A) ∈ A2 und fω˜ 1 = f ◦ i messbar bez¨uglich A2 . 2 Der folgende Satz verallgemeinert Satz 1.61.
278
14 W-Maße auf Produktr¨aumen
Satz 14.14/ (Endliche Produktmaße). Es existiert genau ein σ-endliches Maß μ n auf A := i=1 Ai mit μ(A1 × · · · × An ) =
n
μi (Ai )
f¨ur Ai ∈ Ai , i = 1, . . . , n.
(14.5)
i=1 n
μi := μ1 ⊗ · · · ⊗ μn := μ das Produktmaß der μi .
Wir nennen i=1
Sind alle R¨aume gleich (Ω0 , A0 , μ0 ), so schreiben wir μ⊗n := 0
n /
μ0 .
i=1
Beweis. Sei μ ˜ auf Z R wie μ in (14.5) festgesetzt. Offenbar ist μ ˜(∅) = 0, und man u¨ berlegt sich leicht, dass μ ˜ σ-endlich ist. Seien A1 , A2 , . . . ∈ Z R paarweise k ¨ ber monotone disjunkt und A ∈ Z R mit A ⊂ ∞ k=1 A . Dann ist nach dem Satz u Konvergenz μ ˜(A) = μ1 (dω1 ) · · · μn (dωn ) ½A ((ω1 , . . . , ωn ))
≤
μ1 (dω1 ) · · ·
μn (dωn )
∞ k=1
½Ak ((ω1 , . . . , ωn )) =
∞
μ ˜(Ak ).
k=1
1
Ist speziell A = A A2 , so erh¨alt man analog μ ˜(A) = μ ˜(A1 ) + μ ˜(A2 ). Mithin ist μ ˜ eine σ-endliche, additive, σ-subadditive Mengenfunktion auf dem Semiring Z R mit μ ˜(∅) = 0. Nach dem Fortsetzungssatz (Satz 1.53) kann μ ˜ in eindeutiger Weise zu einem σ-endlichen Maß fortgesetzt werden. 2 ein Wahrscheinlichkeitsraum. Auf Beispiel 14.15. F¨ur i = 1, . . . , n sei (Ω /i , Ai , Pi )/ n dem Raum (Ω, A, P) := ×i=1 Ωi , ni=1 Ai , ni=1 Pi sind die Koordinatenab3 bildungen Xi : Ω → Ωi unabh¨angig mit Verteilung PXi = Pi .
¨ 14.2 Endliche Produkte und Ubergangskerne
279
Satz 14.16 (Fubini). Seien (Ωi , Ai , μi ) σ-endliche Maßr¨aume, i = 1, 2, sowie f : Ω1 × Ω2 → R messbar bez¨uglich A1 ⊗ A2 . Ist f ≥ 0 oder f ∈ L1 (μ1 ⊗ μ2 ), dann gelten ω1 → ω2 →
f (ω1 , ω2 ) μ2 (dω2 ) ist A1 -messbar, (14.6) f (ω1 , ω2 ) μ1 (dω1 ) ist A2 -messbar,
und Ω1 ×Ω2
f d(μ1 ⊗ μ2 ) =
f (ω1 , ω2 ) μ2 (dω2 )
Ω1
μ1 (dω1 )
Ω2
f (ω1 , ω2 ) μ1 (dω1 )
= Ω2
(14.7) μ2 (dω2 ).
Ω1
Beweis. Der Beweis folgt dem u¨ blichen Schema der schrittweisen Approximation ausgehend von einfachen Funktionen. Sei zun¨achst f = ½A f¨ur A = A1 × A2 mit A1 ∈ A1 und A2 ∈ A2 . Dann gelten (14.6) und (14.7) trivialerweise. Durch endliche Summenbildung gilt dies nun auch f¨ur A ∈ Z∗R (Algebra der endlichen Vereinigungen von Rechtecken). Sei nun A ∈ A1 ⊗ A2 . Nach dem Approximationssatz (Satz 1.65) gibt es eine Folge von Mengen (An )n∈N in Z∗R , die A dem Maße μ1 ⊗ μ2 nach approximieren. Da Limiten messbarer Funktionen wieder messbar sind, und nach Konstruktion die Integrale konvergieren, gelten (14.6) und (14.7) jetzt auch f¨ur f = ½A und A ∈ A1 ⊗ A2 . Durch endliche Summenbildung gelten nun (14.6) und (14.7) auch f¨ur den Fall, wo f eine Elementarfunktion ist. Wir betrachten jetzt f ≥ 0. Dann existiert nach Satz 1.96 eine Folge von Elementarfunktionen (fn )n∈N mit fn ↑ f . Nach dem Satz von der monotonen Konvergenz (Satz 4.20) gelten (14.6) und (14.7) nun auch f¨ur dieses f . Ist f ∈ L1 (μ1 ⊗μ2 ), dann ist f = f + −f − mit integrierbaren Funktionen f + , f − ≥ 0, f¨ur die (14.6) und (14.7) gelten, also auch f¨ur f . 2 In Definition 2.32 hatten wir die Faltung zweier W-Maße μ und ν als die Verteilung der Summe zweier unabh¨angiger, wie μ und ν verteilter Zufallsvariablen definiert. Als eine einfache Anwendung des Satzes von Fubini wollen wir eine neue Definition geben (die nat¨urlich mit der alten konsistent ist), die alle endlichen Maße auf dem Rn umfasst. Haben diese Maße zus¨atzlich Dichten bez¨uglich des Lebesgue-Maßes, so k¨onnen wir eine explizite Formel zur Berechnung der Faltung angeben. Seien also X und Y Rn -wertige Zufallsvariablen mit Dichten fX und fY . Das heißt, fX , fY : Rn → [0, ∞] sind messbar und integrierbar bez¨uglich des ndimensionalen Lebesgue-Maßes λn , und es gilt f¨ur jedes x ∈ Rn
280
14 W-Maße auf Produktr¨aumen
P[X ≤ x] =
n
fX (t) λ (dt)
und
P[Y ≤ x] =
(−∞,x]
fY (t) λn (dt). (−∞,x]
Hierbei ist (−∞, x] = {y ∈ Rn : yi ≤ xi f¨ur i = 1, . . . , n} (vergleiche (1.5)). Definition 14.17. Sei n ∈ N. F¨ur zwei Lebesgue-integrierbare Abbildungen f, g : Rn → [0, ∞] definieren wir die Faltung f ∗ g : Rn → [0, ∞] durch (f ∗ g)(x) = f (y) g(x − y) λn (dy). Rn
F¨ur zwei endliche Maße μ, ν ∈ Mf (Rn ) definieren wir die Faltung μ ∗ ν ∈ Mf (Rn ) durch (μ ∗ ν)((−∞, x]) = ½Ax (u, v) μ(du) ν(dv), wobei Ax := {(u, v) ∈ Rn × Rn : u + v ≤ x} ist. Lemma 14.18. Die Abbildung f ∗ g ist messbar, und es gelten f ∗ g = g ∗ f und (f ∗ g) dλn = f dλn g dλn . Rn
Rn
Rn
Ebenso gelten μ ∗ ν = ν ∗ μ und (μ ∗ ν)(Rn ) = μ(Rn ) ν(Rn ). Beweis. Die Aussagen folgen direkt aus dem Satz von Fubini.
2
Satz 14.19 (Faltung von n-dimensionalen Maßen). (i) Sind X und Y unabh¨angige Rn -wertige Zufallsvariablen mit Dichten fX und fY , so hat X + Y die Dichte fX ∗ fY . (ii) Sind μ = f λn und ν = gλn endliche Maße mit Dichten f und g bez¨uglich des Lebesgue-Maßes, so gilt μ ∗ ν = (f ∗ g)λn . Beweis. (i) Sei x ∈ Rn und A := {(u, v) ∈ Rn × Rn : u + v ≤ x}. Dann gilt nach mehrfacher Anwendung des Satzes von Fubini (sowie der Translationsinvarianz von λn )
¨ 14.2 Endliche Produkte und Ubergangskerne
281
P[X + Y ≤ x] = P[(X, Y ) ∈ A] = ½A (u, v) fX (u) fY (v) (λn )⊗2 (d(u, v)) n n R ×R n ½A (u, v) fX (u) λ (du) fY (v) λn (dv) = Rn Rn fX (u) λn (du) fY (v) λn (dv)
=
Rn
(−∞,x−v]
fX (u − v) λ (du) fY (v) λn (dv) n
=
Rn
(−∞,x]
fX (u − v) fY (v) λ (dv) λn (du) n
=
(−∞,x]
Rn
(fX ∗ fY ) dλn .
= (−∞,x]
(ii)
Ersetze in (i) μ = PX und ν = PY . Die Aussage folgt unmittelbar.
2
Wir kommen zu einer Begriffsbildung, die diejenige der Produktmaße verallgemeinert und in Richtung unseres Eingangsbeispiels steuert. ¨ Wir erinnern an den Begriff des Ubergangskerns aus Definition 8.24. ¨ Lemma 14.20. Sei κ ein endlicher Ubergangskern von (Ω1 , A1 ) nach (Ω2 , A2 ), und sei f : Ω1 × Ω2 → [0, ∞] messbar bez¨uglich A1 ⊗ A2 − B([0, ∞]). Dann ist die Abbildung If : Ω1 → [0, ∞] ω1 → f (ω1 , ω2 ) κ(ω1 , dω2 ) wohldefiniert und A1 -messbar. Beweis. Nach Lemma 14.13 ist 0f¨ur jedes ω1 ∈ Ω1 die Abbildung fω1 messbar bez¨uglich A2 , also ist If (ω1 ) = fω1 (ω2 ) κ(ω1 , dω2 ) wohldefiniert. Wir m¨ussen also nur noch die Messbarkeit von If zeigen. und A2 ∈ A2 , so ist Ig (ω1 ) = ½A1 (ω Ist g = ½A1 ×A2 f¨ur A1 ∈ A1
1 )κ(ω1 , A2 ) offenbar messbar. Sei nun D = A ∈ A1 ⊗ A2 : I½A ist A1 -messbar . Wir zeigen, dass D ein Dynkin-System ist: (i) Offenbar ist Ω1 × Ω2 ∈ D. (ii) Sind A, B ∈ D mit A ⊂ B, so ist I½B\A = I½B − I½A messbar, wobei wir die Endlichkeit von κ ausgenutzt haben, also ist B \ A ∈ D.
282
14 W-Maße auf Produktr¨aumen
(iii) Sind ∞ A1 , A2 , . . . ∈ D paarweise disjunkt und A := n=1 I½An messbar, also A ∈ D.
∞ n=1
An , so ist I½A =
Nun ist D also ein Dynkin-System, das den schnittstabilen Erzeuger aller Rechteckmengen in A1 ⊗ A2 enth¨alt, also ist (nach Satz 1.19) D = A1 ⊗ A2 . Mithin ist I½A messbar f¨ur jedes A ∈ A1 ⊗ A2 . Es folgt, dass Ig messbar ist f¨ur jede Elementarfunktion. Sei nun (fn )n∈N eine Folge von Elementarfunktionen mit fn ↑ f . F¨ur jedes feste ω1 ∈ Ω1 gilt nach dem Satz von der monotonen Konvergenz If (ω1 ) = limn→∞ Ifn (ω1 ), und If ist als Limes messbarer Funktionen messbar. 2 0 Bemerkung 14.21. Wir schreiben im Folgenden oft κ(ω1 , dω2 ) f (ω1 , ω2 ) statt 0 f (ω1 , ω2 ) κ(ω1 , dω2 ), denn bei Mehrfachintegralen erlaubt diese Notation es, den Integrator n¨aher an das betreffende Integralzeichen heran zu r¨ucken. 3 ¨ Satz 14.22. Seien (Ωi , Ai ), i = 0, 1, 2, Messr¨aume und κ1 ein endlicher Uber¨ von gangskern von (Ω0 , A0 ) nach (Ω1 , A1 ) sowie κ2 ein endlicher Ubergangskern (Ω0 × Ω1 , A0 ⊗ A1 ) nach (Ω2 , A2 ). Dann ist die Abbildung κ1 ⊗ κ2 : Ω0 × (A1 ⊗ A2 ) → [0, ∞) κ1 (ω0 , dω1 ) κ2 ((ω0 , ω1 ), dω2 ) ½A ((ω1 , ω2 )) (ω0 , A) → Ω1
Ω2
¨ wohldefiniert und ist ein σ-endlicher (aber nicht notwendig endlicher) Ubergangskern von (Ω0 , A0 ) nach (Ω1 × Ω2 , A1 ⊗ A2 ). Sind κ1 und κ2 (sub-)stochastisch, so ist κ1 ⊗ κ2 (sub-)stochastisch. Wir nennen κ1 ⊗ κ2 das Produkt von κ1 und κ2 . Ist κ2 ein Kern von (Ω1 , A1 ) nach (Ω2 , A2 ), so definieren wir das Produkt κ1 ⊗ κ2 analog, indem wir κ2 einfach formal als Kern von (Ω0 × Ω1 , A0 ⊗ A1 ) nach (Ω2 , A2 ) auffassen, der nicht von der Ω0 -Koordinate abh¨angt. Beweis. Sei A ∈ A1 ⊗ A2 . Die Abbildung gA : (ω0 , ω1 ) → κ2 ((ω0 , ω1 ), dω2 ) ½A (ω1 , ω2 ) ist nach Lemma 14.20 wohldefiniert und messbar bez¨uglich A0 ⊗ A1 . Daher ist, wiederum nach Lemma 14.20, die Abbildung ω0 → κ1 ⊗ κ2 (ω0 , A) = κ1 (ω0 , dω1 ) gA (ω0 , ω1 ) wohldefiniert und A0 -messbar. F¨ur festes ω0 ist nach dem Satz u¨ ber monotone Konvergenz die Abbildung A → κ1 ⊗ κ2 (ω0 , A) σ-additiv, also ein Maß. F¨ur ω0 ∈ Ω0 und n ∈N sei Aω0 ,n := {ω1 ∈ Ω1 : κ2 ((ω0 , ω1 ), Ω2 ) < n}. Da κ2 endlich ist, gilt n≥1 Aω0 ,n = Ω1 f¨ur jedes ω0 ∈ Ω0 , und es gilt κ1 ⊗ κ2 (ω0 , An × Ω2 ) ≤ n · κ1 (ω0 , An ) < ∞. Also ist κ1 ⊗ κ(ω0 , · ) σ-endlich und ¨ damit ein Ubergangskern. Der Zusatz ist trivial.
2
¨ 14.2 Endliche Produkte und Ubergangskerne
283
Korollar 14.23 (Produkte mit Kernen). Sei (Ω1 , A1 , μ) ein endlicher Maßraum, ¨ von Ω1 nach Ω2 . (Ω2 , A2 ) ein Messraum und κ ein endlicher Ubergangskern Dann existiert ein eindeutig bestimmtes, σ-endliches Maß μ ⊗ κ auf (Ω1 × Ω2 , A1 ⊗ A2 ) mit μ ⊗ κ(A1 × A2 ) = κ(ω1 , A2 ) μ(dω1 ) f¨ur alle A1 ∈ A1 , A2 ∈ A2 . A1
Ist κ stochastisch und μ ein W-Maß, so ist μ ⊗ κ ein W-Maß. Beweis. Wende Satz 14.22 an mit κ2 = κ und κ1 (ω0 , · ) = μ.
2
Korollar 14.24. Seien n ∈ N und (Ωi , Ai ), i = 0, . . . , n, Messr¨aume. F¨ur i = i−1 i−1 / Ak nach (Ωi , Ai ) 1, . . . , n sei κi ein substochastischer Kern von × Ωk , k=0
k=0
oder von (Ωi−1 , Ai−1 ) nach (Ωi , Ai ). Dann definiert die Rekursion κ1 ⊗ · · · ⊗ κi := (κ1 ⊗ · · · ⊗ κi−1 ) ⊗ κi f¨ur jedes i = 1, . . . , n einen substochastischen Kern i i i / / κk := κ1 ⊗ · · · ⊗ κi von (Ω0 , A0 ) nach × Ωk , Ak . Sind alle κi
k=1
stochastisch, so ist jedes
i /
k=0
k=0
κk stochastisch.
k=1 i / κk ein endliches Maß Ist μ ein endliches Maß auf (Ω0 , A0 ), so ist μi := μ ⊗ k=1 i i / auf × Ωk , Ak . Ist μ ein W-Maß und jedes κi stochastisch, so ist μi ein k=0
k=0
Wahrscheinlichkeitsmaß. Beweis. Die Aussagen folgen per Induktion aus Satz 14.22.
2
Definition 14.25 (Verkettung von Kernen). Seien (Ωi , Ai ) Messr¨aume, i = 0, 1, 2, und κi ein substochastischer Kern von (Ωi−1 , Ai−1 ) nach (Ωi , Ai ), i = 1, 2. Wir definieren die Verkettung von κ1 und κ2 durch κ1 · κ2 : Ω0 × A2 → [0, ∞) κ1 (ω0 , dω1 ) κ2 (ω1 , A2 ). (ω0 , A2 ) → Ω1
Satz 14.26. Bezeichnen wir mit π2 : Ω1 × Ω2 → Ω2 die Projektion auf die zweite Koordinate, so ist
(κ1 · κ2 )(ω0 , A2 ) = (κ1 ⊗ κ2 ) ω0 , π2−1 (A2 ) f¨ur jedes A2 ∈ A2 . Speziell ist die Verkettung κ1 · κ2 ein (sub-)stochastischer Kern von (Ω0 , A0 ) nach (Ω2 , A2 ).
284
14 W-Maße auf Produktr¨aumen
2
Beweis. Klar.
Lemma 14.27 (Kerne und Faltung). Seien μ und ν W-Maße auf Rd und die Kerne κi : (Rd , B(Rd )) → (Rd , B(Rd )), i = 1, 2, definiert durch κ1 (x, dy) = μ(dy) sowie κ2 (y, dz) = (δy ∗ ν)(dz). Dann ist κ1 · κ2 = μ ∗ ν. 2
Beweis. Das ist trivial.
Satz 14.28 (Kerne und Faltung). Seien X1 , X2 , . . . unabh¨angige Rd -wertige Zufallsvariablen mit Verteilungen μi := PXi , i = 1, . . . , n. Setze Sk := X1 + . . . + Xk f¨ur k = 1, . . . , n und definiere stochastische Kerne von Rd nach Rd durch κk (x, · ) = δx ∗ μk f¨ur k = 1, . . . , n. Dann gilt n κk
(0, · ) = P(S1 ,...,Sn ) .
(14.8)
k=1
Beweis. F¨ur k = 1, . . . , n definiere die messbare Bijektion ϕk : (Rd )k → (Rd )k durch ϕk (x1 , . . . , xk ) = (x1 , x1 + x2 , . . . , x1 + . . . + xk ). Offenbar ist B((Rd )n ) = σ ϕn (A1 × · · · × An ) : A1 , . . . , An ∈ B(Rd ) . Es reicht also (14.8) f¨ur Mengen von diesem Typ nachzuweisen, also zu zeigen, dass n n κk (0, ϕk (A1 ×· · ·×An )) = P(S1 ,...,Sn ) (ϕn (A1 ×· · ·×An )) = μk (Ak ). k=1
k=1
F¨ur n = 1 ist die Aussage klar. Per Definition ist κn (yn−1 , yn−1 + An ) = μn (An ). Induktiv folgt n κk (0, ϕn (A1 × · · · × An )) k=1
n−1
ϕn−1 (A1 ×···×An−1 )
=
n−1
μk (Ak )
κk
=
0, d(y1 , . . . , yn−1 ) κn yn−1 , yn−1 + An
k=1
2
μn (An ).
k=1
¨ ¨ Ubergangskerne). Satz 14.29 (Fubini fur Seien (Ωi , Ai ) Messr¨aume, i = 1, 2, μ ¨ ein endliches Maß auf (Ω1 , A1 ), κ ein endlicher Ubergangskern von Ω1 nach Ω2 sowie f : Ω1 ×Ω2 → R messbar bez¨uglich A1 ⊗A2 . Ist f ≥ 0 oder f ∈ L1 (μ⊗κ), dann gilt f d(μ ⊗ κ) = f (ω1 , ω2 ) κ(ω1 , dω2 ) μ(dω1 ). (14.9) Ω1 ×Ω2
Ω1
Ω2
¨ 14.2 Endliche Produkte und Ubergangskerne
285
Beweis. F¨ur f = ½A1 ×A2 mit A1 ∈ A1 und A2 ∈ A2 gilt die Aussage per Definition. F¨ur allgemeine f verwenden wir die Approximationsargumente wie in Satz 14.16. 2 Beispiel 14.30. Wir kommen auf das Beispielvom Anfang des Kapitels zur¨uck. Sei
n ∈ N und (Ω2 , A2 ) = {0, 1}n , (2{0,1} )⊗n der Raum des n-fachen M¨unzwurfs. F¨ur jedes p ∈ [0, 1] definieren wir
⊗n . Pp = (Berp )⊗n = (1 − p)δ0 + pδ1 Pp ist dasjenige W-Maß auf (Ω2 , A2 ), mit dem die Koordinatenabbildungen Yi unabh¨angige Bernoulli-Zufallsvariablen mit Erfolgswahrscheinlichkeit p sind. Ferner sei Ω1 = [0, 1] und A1 = B([0, 1]) die Borel’sche σ-Algebra auf Ω1 sowie μ = U[0,1] die Gleichverteilung auf [0, 1]. Die identische Abbildung X : Ω1 → [0, 1], ist dann eine uniform auf [0, 1] verteilte Zufallsvariable auf (Ω1 , A1 , μ). Schließlich betrachten wir den stochastischen Kern von Ω1 nach Ω2 κ(ω1 , · ) = Pω1 . Setzen wir Ω = Ω1 × Ω2 , A = A1 ⊗ A2 und P = μ ⊗ κ, dann beschreiben X und Y1 , . . . , Yn genau die Zufallsvariablen auf (Ω, A, P) aus dem Beispiel am Anfang des Kapitels. 3 Bemerkung 14.31. Das Verfahren l¨asst sich nat¨urlich f¨ur n-stufige Experimente erweitern. Sei (Ωi , Ai ) der Messraum des i-ten Experiments, i = 0, . . . , n − 1. Sei P0 ein W-Maß auf (Ω0 , A0 ). F¨ur i = 1, . . . , n − 1 sei die Verteilung auf (Ωi , Ai ) abh¨angig von (ω1 , . . . , ωi−1 ) und gegeben durch einen stochastischen Kern κi von Ω0 × · · · × Ωi−1 nach Ωi . Das gesamte n-stufige Experiment wird auf dem Wahrscheinlichkeitsraum dann durch die Koordinatenabbildungen n−1 n−1 n−1 / / 3 × Ωi , Ai , P0 ⊗ κi beschrieben. i=0
i=0
i=1
¨ Ubung 14.2.1. Man zeige die Faltungsformeln: (i) Normalverteilung: Nμ1 ,σ12 ∗ Nμ2 ,σ22 = Nμ1 +μ2 ,σ12 +σ22 f¨ur alle μ1 , μ2 ∈ R und σ12 , σ22 > 0. (ii) Gamma-Verteilung: Γθ,r ∗ Γθ,s = Γθ,r+s f¨ur alle θ, r, s > 0. (iii) Cauchy-Verteilung: Caur ∗ Caus = Caur+s f¨ur alle r, s > 0.
♣
¨ Ubung 14.2.2 (Hilbert-Schmidt Operator). Seien (Ωi , Ai , μi ), i = 1, 2, σ-endliche Maßr¨aume und a : Ω1 × Ω2 → R messbar mit μ1 (dt1 ) μ2 (dt2 ) a(t1 , t2 )2 < ∞.
286
14 W-Maße auf Produktr¨aumen
F¨ur f ∈ L2 (μ1 ) definiere (Af )(t2 ) =
a(t1 , t2 )f (t1 ) μ1 (dt1 ).
Zeige: A ist ein stetiger linearer Operator von L2 (μ1 ) nach L2 (μ2 ).
♣
¨ Ubung 14.2.3 (Partielle Integration). Seien Fμ und Fν die Verteilungsfunktionen der lokal endlichen Maße μ und ν auf R. F¨ur x ∈ R definieren wir den linksseitigen Grenzwert F (x−) = supy<x F (y) und die Sprungh¨ohe ΔF (x) = F (x) − F (x−). Man zeige: F¨ur a < b gilt Fμ dν = Fμ (b)Fν (b) − Fμ (a)Fν (a) − Fν (x−)μ(dx) (a,b]
(a,b]
= Fμ (b)Fν (b) − Fμ (a)Fν (a) −
Fν dμ + (a,b]
ΔFμ (x) ΔFν (x). ♣
a<x≤b
14.3 Satz von Ionescu-Tulcea und Projektive Familien Im vorigen Abschnitt hatten wir gesehen, wie wir n-stufige Experimente auf einem W-Raum realisieren k¨onnen. In diesem Abschnitt wollen wir zun¨achst zeigen, wie wir abz¨ahlbar viele sukzessive Experimente auf einem W-Raum realisieren k¨onnen (Satz von Ionescu-Tulcea). Danach werden wir auch Maße auf u¨ berabz¨ahlbaren Produktr¨aumen konstruieren (Erweiterungssatz von Kolmogorov). Seien (Ωi , Ai ), i ∈ N0 , Messr¨aume und P0 ein W-Maß auf (Ω0 , A0 ). Setze Ω i := / ×ik=0 Ωk und Ai = ik=0 Ak sowie
× ∞
Ω :=
∞
A=
und
Ωk
k=0
Ak . k=0
Es sei κi ein stochastischer Kern von (Ω i−1 , Ai−1 ) nach (Ωi , Ai ) f¨ur jedes i ∈ N. /i Wir hatten in Korollar 14.24 rekursiv W-Maße Pi = P0 ⊗ k=1 κk auf (Ω i , Ai ) definiert. Per Konstruktion galt Pi (A × Ωk+1 × · · · × Ωi ) = Pj (A × Ωk+1 × · · · × Ωj )
(14.10)
f¨ur i, j ≥ k und A ∈ Ak . Wir wollen nun ein Wahrscheinlichkeitsmaß P auf (Ω, A) definieren, sodass f¨ur k ∈ N0 und A ∈ Ak gilt: P A×
×Ω
∞
i=k+1
i
= Pk (A).
(14.11)
14.3 Satz von Ionescu-Tulcea und Projektive Familien
287
Satz 14.32 (Ionescu-Tulcea). Es gibt ein eindeutig bestimmtes W-Maß auf (Ω, A), sodass (14.11) gilt. Beweis. Die Eindeutigkeit ist klar, weil die endlichdimensionalen Rechteckzylinder einen schnittstabilen Erzeuger von A bilden. Es bleibt die Existenz zu zeigen. Wir definieren eine Mengenfunktion P auf den Zylindermengen Z durch (14.11). Offenbar ist P additiv, also ein Inhalt. Ist P nun aber ∅-stetig, so ist P nach Satz 1.36 ein Pr¨amaß und l¨asst sich nach dem Satz von Carath´eodory (Satz 1.41) eindeutig zu einem Maß auf A fortsetzen. Sei also A0 ⊃ A1 ⊃ A 2∞⊃ . . . eine Folge in Z mit α := inf n∈N0 P (An ) > 0. Es reicht zu zeigen, dass n=0 An = ∅. Ohne Einschr¨ankung k¨onnen wir annehmen, ∞ dass An = An × ×k=n+1 Ωk f¨ur gewisses An ∈ An . F¨ur n ≥ m setze n
hm,n (ω0 , . . . , ωm ) := δ(ω0 ,...,ωm ) ⊗ κk An k=m+1
und hm := inf n≥m hm,n . Wir zeigen induktiv, dass es i ∈ Ωi , i ∈ N0 , gibt mit hm (0 , . . . , m ) ≥ α. Wegen An+1 ⊂ An × Ωn+1 gilt δ(ω0 ,...,ωm ) ⊗
hm,n+1 (ω0 , . . . , ωm ) =
κk k=m+1
=
n
δ(ω0 ,...,ωm ) ⊗
An+1
(An × Ωn+1 )
κk k=m+1
n+1
δ(ω0 ,...,ωm ) ⊗
≤
n+1
(14.12)
κk
(An ) = hm,n (ω0 , . . . , ωm ).
k=m+1
Also gilt hm,n ↓ hm f¨ur n → ∞ und nach dem Satz von der majorisierten Konvergenz hm dPm = inf
n≥m
hm,n dPm = inf Pn (An ) = α. n∈N
Daher gilt (14.12) f¨ur m = 0. Gelte nun (14.12) f¨ur ein m ∈ N0 . Dann ist
hm+1 (0 , . . . , m , ωm+1 ) κm+1 (0 , . . . , m ), dωm+1
hm+1,n (0 , . . . , m , ωm+1 ) κm+1 (0 , . . . , m ), dωm+1 = inf n≥m+1
=
inf
n≥m+1
hm,n (0 , . . . , m ) = hm (0 , . . . , m ) ≥ α.
Es folgt (14.12) f¨ur m + 1. Sei := (0 , 1 , . . .) ∈ Ω. Nach Konstruktion ist α ≤ hm,m (0 , . . . , m ) = ∞ 2 i=0 Ai = ∅.
½Am (0 , . . . , m ), also ∈ Am f¨ur jedes m ∈ N und damit
288
14 W-Maße auf Produktr¨aumen
Korollar 14.33 (Produktmaß). F¨ur jedes n ∈ N0 sei Pn ein W-Maß auf (Ωn , An ). Dann existiert ein eindeutig bestimmtes W-Maß P auf (Ω, A) mit ∞ n P A0 × · · · × A n × Ωi = Pk (Ak )
×
i=n+1
k=0
f¨ur Ai ∈ Ai , i = 0, . . . , n und n ∈ N0 . /∞ Wir nennen i=0 Pi := P das Produkt der Maße P0 , P1 , . . . Unter P sind die Koordinatenabbildungen (Xi )i∈N0 unabh¨angig. Beweis. Wende den Satz von Ionescu-Tulcea mit κi ((ω0 , . . . , ωi−1 ), · ) = Pi an.2 Wir wollen nun eine dem Satz von Ionescu-Tulcea vergleichbare Aussage treffen, dabei jedoch auf die Annahme verzichten, dass die Maße Pk auf Ak a priori durch Kerne definiert werden. Bevor wir den Satz formulieren, wollen wir die Konsistenzbedingung (14.10) verallgemeinern. (Erinnerung: f¨ur L ⊂ J ⊂ I bezeichnet XLJ : ΩJ −→ ΩL die Projektion.) Definition 14.34. Eine Familie (PJ , J ⊂ I endlich) von W-Maßen auf (ΩJ , AJ ) heißt projektive Familie, falls f¨ur alle endlichen L ⊂ J ⊂ I gilt, dass
−1 PL = PJ ◦ XLJ . Ist P ein W-Maß auf (Ω, A), wobei Ω=
×Ω i∈I
i
und
A=
Ai , i∈I
so ist wegen XL = XLJ ◦ XJ , die Familie (PJ := P ◦ XJ−1 , J ⊂ I endlich) projektiv. Projektivit¨at ist also eine notwendige Bedingung f¨ur die Existenz des Maßes P auf dem Produktraum. Sind alle beteiligten Messr¨aume Borel’sche R¨aume (siehe Definition 8.34) – also beispielsweise Rd , Zd , C([0, 1]) oder allgemeiner polnische R¨aume –, so ist diese Bedingung auch ausreichend. Wir formulieren diese Aussage zun¨achst f¨ur abz¨ahlbare Indexmengen. Satz 14.35. Sei I h¨ochstens abz¨ahlbar, und seien (Ωi , Ai ) Borel’sche R¨aume, i ∈ I. Sei (PJ , J ⊂ I endlich) eine projektive Familie von W-Maßen. Dann gibt es ein eindeutig bestimmtes W-Maß P auf (Ω, A) mit PJ = P ◦ XJ−1 f¨ur jedes endliche J ⊂ I. Beweis. Ohne Einschr¨ankung sei I = N0 . Sei Pn := P{0,...,n} , Ω n := Ω{0,...,n} und An := A{0,...,n} . Man pr¨uft leicht nach, dass endliche Produkte von Borel’schen R¨aumen wieder Borel’sche R¨aume sind, also ist (Ω n , An ) Borel’sch f¨ur jedes n ∈ N0 .
14.3 Satz von Ionescu-Tulcea und Projektive Familien
289
Sei F := {A × Ωn+1 : A ∈ An }, Y : Ω n+1 → Ωn+1 , (ω0 , . . . , ωn+1 ) → ωn+1 und Z : Ω n+1 → Ω n , (ω0 , . . . , ωn+1 ) → (ω0 , . . . , ωn ). Nach Satz 8.36 (mit Ω = Ω n+1 , A = An+1 und E = Ωn+1 ) existiert ein stochastischer Kern κn+1 von (Ω n+1 , F) nach (Ωn+1 , An+1 ), sodass κn+1 eine regul¨are Version bedingten Verteilung von Y gegeben F (unter Pn+1 ) ist. Das heißt, f¨ur A ∈ An und B ∈ An+1 gilt (siehe (8.10)) Pn+1 (A × B) = ½B (Y ) ½A×Ωn+1 dPn+1 = κn+1 ( · , B) ½A×Ωn+1 dPn+1 . Da κn+1 ( · , B) messbar bez¨uglich F ist, gibt es einen stochastischen Kern κn+1 von (Ω n , An ) nach (Ωn+1 , An+1 ), sodass
f¨ur alle ω0 , . . . , ωn+1 . κn+1 (ω0 , . . . , ωn ), · = κn+1 (ω0 , . . . , ωn+1 ), · Also gilt κn+1 ( · , B) = κn+1 (Z( · ), B) Wir erhalten so
Pn+1 (A × B) =
und
½A×Ωn+1 = ½A (Z).
κn+1 (Z, B) ½A (Z) dPn+1
κn+1 ( · , B) ½A d Pn+1 ◦ Z −1
=
κn+1 ( · , B) dPn ,
= A
wobei wir im letzten Schritt die Projektivit¨at von (Pn )n∈N0 ausgenutzt haben. Nach Korollar14.23 gilt also Pn+1 = Pn ⊗ κn+1 . Rekursiv erhalten wir Pn = P0 ⊗ /n κ f¨ u r jedes n ∈ N. Also liefert Satz 14.32 die Behauptung. 2 k k=1 Als letzten Schritt in unserer Konstruktion wollen wir in Satz 14.35 die abz¨ahlbare Indexmenge durch eine beliebige Indexmenge ersetzen. Satz 14.36 (Kolmogorov’scher Erweiterungssatz). Sei I eine beliebige Indexmenge, und seien (Ωi , Ai ) Borel’sche R¨aume, i ∈ I. Sei (PJ , J ⊂ I endlich) eine projektive Familie von W-Maßen. Dann gibt es ein eindeutig bestimmtes W-Maß P auf (Ω, A) mit PJ = P ◦ XJ−1 f¨ur jedes endliche J ⊂ I. Wir nennen P den P . projektiven Limes und bezeichnen ihn in Formeln mit P =: lim ←− J J↑I
Beweis. F¨ur abz¨ahlbares J ⊂ I gibt es nach Satz 14.35 ein eindeutig bestimmtes J −1 W-Maß PJ auf (ΩJ , AJ ) mit PJ ◦ (XK ) = PK f¨ur endliches K ⊂ J. Durch −1 ˜ PJ (XJ (AJ )) := PJ (AJ ), AJ ∈ AJ , wird hieraus ein Maß auf (Ω, σ(XJ )).
290
14 W-Maße auf Produktr¨aumen
Seien J, J ⊂ I h¨ochstens abz¨ahlbar und A ∈ σ(XJ ) ∩ σ(XJ ) ∩ Z ein σ(XJ ) ∩ σ(XJ )-messbarer Zylinder mit endlicher Basis. Dann existiert ein endliches K ⊂ −1 (AK ). Also ist P˜J (A) = PK (AK ) = P˜J (A). J ∩ J und AK ∈ AK mit A = XK Nach Satz 14.12 ist dann aber auch P˜J (A) = PK (AK ) = P˜J (A) f¨ur alle A ∈ ¨ σ(XJ ) ∩ σ(XJ ). Nun gibt es (nach Ubung 14.1.1) f¨ur jedes A ∈ A ein abz¨ahlbares J ⊂ I mit A ∈ σ(XJ ), also k¨onnen wir auf eindeutige Weise (und unabh¨angig von der Wahl von J) eine Mengenfunktion P auf A definieren durch P (A) = P˜J (A). Es bleibt zu zeigen, dass P ein W-Maß ∞ist. Offenbar ist P (Ω) = 1. Sind A1 , A2 , . . . ∈ A paarweise disjunkt und A := n=1 An , so gibt es abz¨ahlbare Jn ⊂ I mit An ∈ σ(XJn ) f¨ur n ∈ N. Setze J = n∈N Jn . Dann ist jedes An in σ(XJ ) und damit auch A ∈ σ(XJ ), also P (A) = P˜J (A) =
∞
P˜J (An ) =
n=1
∞
P (An ).
n=1
2
Damit ist P als W-Maß erkannt.
Beispiel 14.37. Sei (Ωi , τi ), i ∈ I eine beliebige Familie von polnischen R¨aumen (Erinnerung: nach Satz 8.35 sind polnische R¨aume auch Borel’sche R¨aume), σ(τi ) und Pi ein beliebiges W-Maß auf (Ωi , Ai ). F¨ur endliches J ⊂ I sei Ai = / PJ = j∈J Pj das Produktmaß der Pj , j ∈ J. Offenbar ist die Familie (PJ , J ⊂ I endlich) projektiv. Wir nennen Pi := lim P ←− J
P = i∈I
J↑I
das Produktmaß auf (Ω, A). Unter P sind alle Projektionen Xj unabh¨angig.
3
Beispiel 14.38 (P´olya’sches Urnenmodell). (Vergleiche Beispiel 12.29.) Zun¨achst befinden sich k rote und n − k blaue Kugeln in einer Urne. Es wird in jedem Zeitschritt eine Kugel gezogen und zusammen mit einer weiteren Kugel der selben Farbe zur¨uckgelegt. Zur Zeit i ∈ N0 befinden sich also n + i Kugeln in der Urne, wobei die Anzahl Xi der roten Kugeln zuf¨allig ist. Formal definieren wir das Modell so: Sei n ∈ N und k ∈ {0, . . . , n}. Sei I = N0 , Ωi = {0, . . . , n + i}, i ∈ N. Setze P0 [{k}] = 1 und definiere die stochastischen Kerne κi von Ωi nach Ωi+1 durch ⎧ xi , falls xi+1 = xi + 1, ⎪ ⎪ n+i ⎨ xi κi (xi , {xi+1 }) = 1 − n+i , falls xi+1 = xi , ⎪ ⎪ ⎩ 0, sonst. Pi beschreiben die ProjekSetze nun Pi+1 = Pi ⊗ κi . Unter dem Maß P = lim ←− i→∞
tionen (Xi , i ∈ N0 ) gerade das P´olya’sche Urnenmodell.
3
14.4 Markov’sche Halbgruppen
291
14.4 Markov’sche Halbgruppen Definition 14.39. Sei E ein polnischer Raum. Sei I ⊂ R eine nichtleere Indexmenge und (κs,t : s, t ∈ I, s < t) eine Familie von stochastischen Kernen von E nach E. Wir sagen, dass die Familie konsistent ist, falls f¨ur je drei Zahlen r, s, t ∈ I mit r < s < t gilt, dass κr,s · κs,t = κr,t . Definition 14.40. Sei E ein polnischer Raum. Sei I ⊂ [0, ∞) eine (additive) Halbgruppe (zum Beispiel I = N0 oder I = [0, ∞)). Eine Familie (κt : t ∈ I) von stochastischen Kernen heißt eine Halbgruppe von stochastischen Kernen, oder Markov’sche Halbgruppe, falls κ0 (ω, · ) = δω
f¨ur alle ω ∈ Ω
(14.13)
gilt und die Chapman-Kolmogorov’sche Gleichung erf¨ullt ist: κs · κt = κs+t
f¨ur alle s, t ∈ I.
(14.14)
Tats¨achlich ist ({κt : t ∈ I}, · ) eine Halbgruppe im algebraischen Sinne, und die Abbildung t → κt ist ein Halbgruppenhomomorphismus. Insbesondere kommutieren die Kerne in dem Sinne, dass κs · κt = κt · κs f¨ur alle s, t ∈ I. Lemma 14.41. Ist (κt : t ∈ I) eine Markov’sche Halbgruppe, so ist die f¨ur t > s durch κ ˜ s,t := κt−s definierte Familie von Kernen konsistent. 2
Beweis. Das ist trivial.
Satz 14.42 (Kern durch konsistente Familie von Kernen). Sei I ⊂ [0, ∞) mit 0 ∈ I und (κs,t : s, t ∈ I, s < t) eine konsistente Familie von stochastischen Kernen auf dem polnischen Raum E. Dann existiert ein Kern κ von (E, B(E)) nach (E I , B(E)⊗I ), sodass f¨ur jedes x ∈ E und je endlich viele Zahlen 0 = j0 < j1 < j2 < . . . < jn aus I sowie J := {j0 , . . . , jn } gilt n−1
κ(x, · ) ◦ XJ−1 = δx ⊗
κjk ,jk+1 .
(14.15)
k=0
Beweis. Wir zeigen zun¨achst, dass f¨ur festes x ∈ E durch (14.15) ein W-Maß definiert wird. Hierf¨ur reicht es nach dem Erweiterungssatz zu zeigen, dass die durch n−1 / PJ := δx ⊗ κjk ,jk+1 definierte Familie (PJ : J ⊂ I endlich, 0 ∈ J) von Wk=0
Maßen konsistent ist. Sei also 0 ∈ L ⊂ J ⊂ I mit J ⊂ I endlich. Dann ist zu zeigen, dass PJ ◦ (XLJ )−1 = PL ist. Wir k¨onnen annehmen, dass L = J \ {jl } ist f¨ur ein l = 1, . . . , n. Den allgemeinen Fall erh¨alt man hieraus induktiv.
292
14 W-Maße auf Produktr¨aumen
Sei zun¨achst l = n. Seien Aj0 , . . . , Ajn−1 ∈ B(E) und A := ×j∈L Aj . Dann ist PJ ◦ (XLJ )−1 (A) = PJ (A × E) = PL ⊗ κjn−1 ,jn (A × E)
PL d(ω0 , . . . , ωn−1 ) κjn−1 ,jn (ωn−1 , E) = PL (A). = A
Sei nun l ∈ {1, . . . , n − 1} und Aj ∈ B(E) f¨ur jedes j ∈ L sowie Ajl := E. l−1 Setze A := ×j∈L Aj und, zur Abk¨urzung, A = ×k=0 Ajk und P = δx ⊗ /l−2 ur i = 0, . . . , n − 1 k=0 κjk ,jk+1 sowie f¨ n fi (ωi ) =
κjk ,jk+1
(ωi , Aji+1 × · · · × Ajn ).
k=i
Nach Voraussetzung (und dem Satz von Fubini) ist κjl−1 ,jl (ωl−1 , dωl ) κjl ,jl+1 (ωl , dωl+1 ) fl+1 (ωl+1 ) fl−1 (ωl−1 ) =
E
Al+1
= Al+1
κjl−1 ,jl+1 (ωl−1 , dωl+1 ) fl+1 (ωl+1 ).
Es folgt PJ ◦(XLJ )−1 (A)
= A
P (d(ω0 , . . . , ωl−1 )) fl+1 (ωl+1 ) P (d(ω0 , . . . , ωl−1 )) (κjl−1 ,jl+1 )(ωl−1 , dωl+1 ) f (ωl+1 ) =
A
Ajl+1
= PL (A). Wir m¨ussen nun noch zeigen, dass κ ein stochastischer Kern ist, also dass x → κ(x, A) messbar ist bez¨uglich B(E) – B(E)⊗I . Nach Bemerkung 8.25 reicht es aus, dies f¨ur Rechteckmengen mit endlicher Basis A ∈ Z R zu pr¨ufen, denn Z R ist ⊗I ein schnittstabiler Erzeuger von B(E) . Seien also 0 = t0 < t1 < . . . < tn und n (Bi ). Nach Korollar 14.24 ist aber die B0 , . . . , Bn ∈ B(E) sowie A = i=0 Xt−1 i folgende Abbildung messbar x → Px [A] =
n−1
δx ⊗
κti ,ti+1 i=0
× n
Bi .
2
i=0
Korollar 14.43 (Maß durch konsistente Familie von Kernen). Unter den Bedinvon Satz
gungen 14.42 existiert zu jedem W-Maß μ auf E genau ein W-Maß Pμ auf E I , B(E)⊗I mit der Eigenschaft: F¨ur je endlich viele Zahlen 0 = j0 < j1 < /n−1 j2 < . . . < jn aus I und J := {j0 , . . . , jn } ist Pμ ◦ XJ−1 = μ ⊗ k=0 κjk ,jk+1 .
14.4 Markov’sche Halbgruppen
293
Beweis. Man setze Pμ = μ ⊗ κ.
2
Als einfache Schlussfolgerung aus Lemma 14.41 und Satz 14.42 ergibt sich die folgende Aussage, die wir separat formulieren, weil wir sie sp¨ater noch an zentraler Stelle ben¨otigen werden. Korollar 14.44 (Maße durch Markov’sche Halbgruppen). Sei (κt : t ∈ I) eine Markov’sche Halbgruppe auf dem polnischen Raum E. Dann existiert genau ein stochastischer Kern κ von (E, B(E)) nach (E I , B(E)⊗I ) mit der Eigenschaft: F¨ur jedes x ∈ E und je endlich viele Zahlen 0 = t0 < t1 < t2 < . . . < tn aus I sowie J := {t0 , . . . , tn } ist n−1
κ(x, · ) ◦ XJ−1 = δx ⊗
κtk+1 −tk .
(14.16)
k=0
F¨ur jedes W-Maß μ auf E existiert genau ein W-Maß Pμ auf E I , B(E)⊗I mit der Eigenschaft: F¨ur je endlich viele Zahlen 0 = / t0 < t1 < t2 < . . . < tn aus n−1 I und J := {t0 , . . . , tn } ist Pμ ◦ XJ−1 = μ ⊗ k=0 κtk+1 −tk . Wir schreiben Px = Pδx = κ(x, · ) f¨ur x ∈ E. Beispiel 14.45 (Unabh¨angige, normalverteilte Zuw¨achse). Seien I = [0, ∞) und Ωi = R, i ∈ [0, ∞), mit der Borel’schen σ-Algebra B = B(R), Ω = R[0,∞) , A = B ⊗[0,∞) und Xt die kanonische Projektion f¨ur t ∈ [0, ∞). Im Sinne von Definition 14.6 ist X = (Xt )t≥0 also der kanonische Prozess auf (Ω, A). Wir wollen ein W-Maß P auf (Ω, A) konstruieren, sodass der stochastische Prozess X unabh¨angige, station¨are, normalverteilte Zuw¨achse hat (siehe Definition 9.7). Das heißt, es sollen gelten: f¨ur 0 =: t0 < t1 < . . . < tn ist (Xti − Xti−1 )i=1,...,n unabh¨angig, f¨ur
t>s
ist
PXt −Xs = N0,t−s .
(14.17) (14.18)
Dazu definieren wir die stochastischen Kerne κt (x, dy) := δx ∗ N0,t (dy) f¨ur t ∈ [0, ∞), wobei N0,0 = δ0 . Nach Lemma 14.27 gilt die Chapman-Kolmogorov’sche ¨ Gleichung, denn (vergleiche Ubung 14.2.1(i)) κs · κt (x, dy) = δx ∗ (N0,s ∗ N0,t )(dy) = δx ∗ N0,s+t (dy) = κs+t (x, dy). Sei P0 = δ0 und P das nach Korollar 14.44 zu P0 und (κt : t ≥ 0) geh¨orige W-Maß auf Ω. Nach Satz 14.28 gelten (14.17) und (14.18). Wir haben mit (Xt )t≥0 fast schon die so genannte Brown’sche Bewegung konstruiert. Zus¨atzlich zu den gezeigten Eigenschaften hat die Brown’sche Bewegung die Eigenschaft, dass die Pfade, also die Abbildungen t → Xt , stetig sind. In der Tat ist mit der bisherigen Konstruktion sogar die Messbarkeit der Pfade noch ungekl¨art. Hier muss noch gearbeitet werden, und wir kommen darauf in Kapitel 21 zur¨uck.3
294
14 W-Maße auf Produktr¨aumen
Die Konstruktion im vorangehenden Beispiel h¨angt nicht von den Details der Normalverteilung ab, sondern nur von der Eigenschaft N0,s+t = N0,s ∗ N0,t . Wir k¨onnen also in (14.18) die Normalverteilung durch eine beliebige parametrisierte Familie von Verteilungen (νt , t ≥ 0) mit der Eigenschaft νt+s = νt ∗ νs ersetzen. Dies gilt speziell f¨ur die Familie der Gammaverteilungen νt = Γθ,t (f¨ur festes θ > 0), die Poissonverteilung νt = Poit , die negative Binomialverteilung νt = b− t,p (f¨ur festes p ∈ (0, 1]), die Cauchy-Verteilung νt = Caut und andere (vergleiche Satz 15.12 und Korollar 15.13). Wir halten dieses Ergebnis in einem Satz fest. Definition 14.46 (Faltungshalbgruppe). Sei I ⊂ [0, ∞) eine Halbgruppe. Eine Familie ν = (νt : t ∈ I) von Wahrscheinlichkeitsverteilungen auf Rd heißt Faltungshalbgruppe, falls νs+t = νs ∗ νt gilt f¨ur alle s, t ∈ I. t→0
Ist I = [0, ∞) und gilt zudem νt −→ δ0 , so heißt die Faltungshalbgruppe stetig (im Sinne der schwachen Konvergenz). Ist d = 1 und νt ((−∞, 0)) = 0 f¨ur jedes t ∈ I, so heißt ν eine nichtnegative Faltungshalbgruppe. F¨ur den folgenden Satz vergleiche Definition 9.7. Satz 14.47. Zu jeder Faltungshalbgruppe (νt : t ∈ I) und jedem x ∈ Rd existiert ein W-Maß Px auf dem Produktraum (Ω, A) = (Rd )I , B(Rd )⊗I , sodass der kanonische Prozess (Xt )t∈I ein stochastischer Prozess mit Px [X0 = x] = 1 und station¨aren unabh¨angigen Zuw¨achsen ist mit Px ◦ (Xt − Xs )−1 = νt−s f¨ur t > s. Umgekehrt definiert jeder stochastische Prozess (Xt )t∈I (auf einem beliebigen Wahrscheinlichkeitsraum (Ω, A, P)) mit station¨aren unabh¨angigen Zuw¨achsen eine Faltungshalbgruppe durch νt = P ◦ (Xt − X0 )−1 f¨ur jedes t ∈ I. ¨ Ubung 14.4.1. Sei (νt : t ≥ 0) eine stetige Faltungshalbgruppe. Man zeige: F¨ur ♣ jedes t > 0 gilt νt = lims→t νs . n→∞ ¨ Ubung 14.4.2. Sei (νt : t ≥ 0) eine Faltungshalbgruppe. Man zeige: νt/n −→ δ0 . ♣
¨ Ubung 14.4.3. Man zeige: Eine nichtnegative Faltungshalbgruppe ist stetig.
♣
¨ Ubung 14.4.4. Man zeige: Eine stetige, reelle Faltungshalbgruppe (νt : t ≥ 0) mit νt ((−∞, 0)) = 0 f¨ur ein t > 0 ist nichtnegativ. ♣
15 Charakteristische Funktion und Zentraler Grenzwertsatz
Hauptziel dieses Kapitels ist der Zentrale Grenzwertsatz f¨ur Summen unabh¨angiger Zufallsvariablen (Satz 15.37) und f¨ur unabh¨angige Schemata (Satz von LindebergFeller, Satz 15.43), wobei wir f¨ur den letzteren nur die eine Richtung beweisen (Satz von Lindeberg). Das Hilfsmittel der Wahl f¨ur die Behandlung von Zentralen Grenzwerts¨atzen sind charakteristische Funktionen, also Fouriertransformierte von W-Maßen. Wir beginnen mit einer sehr allgemeinen Betrachtung u¨ ber Klassen von Testfunktionen, die schwache Konvergenz charakterisieren k¨onnen, und betrachten dann Fouriertransformierte im Detail. Der nachfolgende Abschnitt beweist mit Hilfe von charakteristischen Funktionen den Zentralen Grenzwertsatz f¨ur reelle Zufallsvariablen. Im f¨unften Abschnitt zeigen wir den mehrdimensionalen Zentralen Grenzwertsatz.
15.1 Trennende Funktionenklassen Sei (E, d) ein metrischer Raum mit Borel’scher σ-Algebra E = B(E). Mit C = {u + iv : u, v ∈ R} bezeichnen wir den K¨orper der komplexen Zahlen. Mit Re(u + iv) = u und Im(u + iv) = v bezeichnen wir den Realteil und den Imagin¨arteil von √z = u + iv ∈ C, mit z = u − iv die zu z komplex konjugierte Zahl und mit |z| = u2 + v 2 den Betrag von z. Von prominenter Bedeutung wird f¨ur uns die komplexe Exponentialfunktion exp : C → C sein, die wir durch exp(z) = ∞ exp(u) cos(v) + i sin(v) oder durch die Potenzreihe exp(z) = n=0 z n /n! definieren k¨onnen. Bekanntlich gilt exp(z1 + z2 ) = exp(z1 ) · exp(z2 ). Man beachte, dass aus Re(z) = (z + z)/2 und Im(z) = (z − z)/2i folgt, dass cos(x) =
eix + e−ix 2
und
sin(x) =
eix − e−ix 2i
f¨ur jedes x ∈ R.
Eine Abbildung f : E → C ist genau dann messbar, wenn Re(f ) und Im(f ) messbar sind (siehe Satz 1.90 mit C ∼ = R2 ). Insbesondere ist jede stetige Funktion E → C messbar. Ist μ ∈ M(E), so definieren wir f dμ := Re(f ) dμ + i Im(f ) dμ,
296
15 Charakteristische Funktion und Zentraler Grenzwertsatz
wenn beide Integrale existieren und endlich sind. Mit Cb (E; C) bezeichnen wir den Banachraum der stetigen, beschr¨ankten, komplexwertigen Funktionen auf E, ausgestattet mit der Supremumsnorm f ∞ = sup{|f (x)| : x ∈ E}. Wir nennen C ⊂ Cb (E; C) trennend f¨ur M 0 f (E), falls 0 es f¨ur je zwei Maße μ, ν ∈ Mf (E) mit μ = ν ein f ∈ C gibt mit f dμ = f dν. Satz 13.34 gilt f¨ur C ⊂ Cb (E; C) sinngem¨aß. Definition 15.1. Sei K = R oder K = C. Eine Teilmenge C ⊂ Cb (E; K) heißt Algebra, falls (i) 1 ∈ C, (ii) f¨ur f, g ∈ C sind f · g ∈ C und f + g ∈ C, (iii) f¨ur f ∈ C und α ∈ K ist (αf ) ∈ C. C heißt Punkte trennend, falls es zu je zwei Punkten x, y ∈ E mit x = y ein f ∈ C gibt mit f (x) = f (y). Satz 15.2 (Stone-Weierstraß). Sei E ein kompakter Hausdorffraum. Sei K = R oder K = C. Sei C ⊂ Cb (E; K) eine Punkte trennende Algebra. Ist K = C, so sei C zus¨atzlich abgeschlossen bez¨uglich komplexer Konjugation (das heißt, mit f ist stets auch die komplex konjugierte Funktion f in C). Dann liegt C dicht in Cb (E; K) bez¨uglich der Supremumsnorm. Beweis. Wir folgen der Darstellung in Dieudonn´e ([37, Kapitel VII.3]). Sei zun¨achst der Fall K = R betrachtet. Wir gehen in mehreren Schritten vor. 1. Schritt. Nach dem Weierstraß’schen Approximationssatz (Beispiel 5.15) gibt √ es eine Folge (pn )n∈N von Polynomen, die die Abbildung [0, 1] → [0, 1], t → t gleichm¨aßig approximiert. Ist f ∈ C, so ist also |f | = f ∞ limn→∞ pn (f 2 /f 2∞ ) im Abschluss C von C in Cb (E; R). 2. Schritt. Indem wir den 1. Schritt auf die Algebra C anwenden, folgt, dass mit f, g ∈ C auch f ∨ g = 12 (f + g + |f − g|) und f ∧ g = 12 (f + g − |f − g|) in C liegen. 3. Schritt. F¨ur jedes f ∈ Cb (E; R), jedes x ∈ E und jedes ε > 0 existiert ein gx ∈ C mit gx (x) = f (x) und gx (y) ≤ f (y) + ε f¨ur jedes y ∈ E. Da C Punkte trennt, existiert f¨ur jedes z ∈ E \{x} ein Hz ∈ C mit Hz (z) = H(x) = 0. F¨ur diese (x) Hz (y) f¨ur jedes y ∈ E. z definieren wir hz ∈ C durch hz (y) = f (x) + f (z)−f Hz (z) Zudem setzen wir hx := f . Dann ist hz (x) = f (x) und hz (z) = f (z) f¨ur jedes z ∈ E. Da f und hz stetig sind, existiert zu jedem z ∈ E eine offene Umgebung ¨ Uz z mit h(y) ≤ f (y)+ε f¨ur jedes y ∈ Uz . Wir bilden eine endliche Uberdeckung Uz1 , . . . , Uzn von E mit solchen Umgebungen und setzen gx = min(hz1 , . . . , hzn ). Nach Schritt 2 ist gx ∈ C.
15.1 Trennende Funktionenklassen
297
4. Schritt. Sei f ∈ Cb (E; R), ε > 0 und gx wie im 3. Schritt f¨ur jedes x ∈ E. Da f und gx stetig sind, existiert zu jedem x ∈ E eine offene Umgebung Vx x ¨ mit gx (y) ≥ f (y) − ε f¨ur jedes y ∈ Vx . Wir bilden eine endliche Uberdeckung Vx1 , . . . , Vxn von E und definieren g := max(gx1 , . . . , gxn ). Dann ist g ∈ C nach Schritt 2 und g − f ∞ < ε nach Konstruktion. Da ε > 0 beliebig war, gilt also C = Cb (E; R). 5. Schritt. Sei nun K = C betrachtet. Nach Voraussetzung sind mit f auch der Realteil Re(f ) = (f + f¯)/2 und der Imagin¨arteil Im(f ) = (f − f¯)/2i in C. Speziell ist C0 := {Re(f ) : f ∈ C} ⊂ C eine reelle Algebra, die nach Voraussetzung Punkte trennt und die konstanten Funktionen enth¨alt. Also ist C0 dicht in Cb (E; R). Wegen 2 C = C0 + iC0 folgt, dass C dicht in Cb (E; C) ist. Korollar 15.3. Sei E ein kompakter, metrischer Raum. Sei K = R oder K = C. Sei C ⊂ Cb (E; K) eine Punkte trennende Familie, die stabil ist unter Multiplikation und 1 enth¨alt. Ist K = C, so sei C zus¨atzlich abgeschlossen bez¨uglich komplexer Konjugation. Dann ist C eine trennende Familie f¨ur Mf (E). 0 0 Beweis. Seien μ1 , μ2 ∈ Mf (E) mit g dμ1 = g dμ2 f¨ur jedes g ∈ C. Sei C die Algebra der endlichen Linearkombinationen von Elementen aus C. Aufgrund der 0 0 Linearit¨at des Integrals gilt g dμ1 = g dμ2 f¨ur jedes g ∈ C . Zu jedem f ∈ Cb (E, R);und jedem ε > 0 existiert nach dem Satz von Stone; Weierstraß ein g ∈ C mit ;f − g ;∞ < ε. Nach der Dreiecksungleichung ist f dμ1 − f dμ2 ≤ f dμ1 − g dμ1 + g dμ1 − g dμ2 + g dμ2 − f dμ2 ≤ ε (μ1 (E) + μ2 (E)). Da ε > 0 beliebig war, gilt Gleichheit und damit μ1 = μ2 (nach Satz 13.11).
2
Als einfache Schlussfolgerungen bekommen wir die folgenden S¨atze. Satz 15.4. Die Verteilung einer beschr¨ankten reellen Zufallsvariablen X ist durch die Angabe aller Momente eindeutig bestimmt. Beweis. Ohne Einschr¨ankung k¨onnen wir annehmen, dass X nur Werte in E := [0, 1] annimmt. F¨ur n ∈ N definiere die Abbildung fn : [0, 1] → [0, 1] durch fn : x → xn . Ferner sei f0 ≡ 1. Die Familie C = {fn , n ∈ N0 } ist Punkte trennend und abgeschlossen unter Multiplikation, also trennend f¨ur 0Mf (E). PX ist also eindeutig festgelegt durch Angabe der Momente E[X n ] = xn PX (dx), n ∈ N. 2
298
15 Charakteristische Funktion und Zentraler Grenzwertsatz
Beispiel 15.5 (nach [76]). Im vorangehenden Satz k¨onnen wir nicht ohne Weiteres auf die Beschr¨anktheit von X verzichten, selbst wenn alle Momente existieren (es gibt allerdings schw¨achere Bedingungen, siehe Korollar 15.32). Wir betrachten hierzu X := exp(Y ), wobei Y ∼ N0,1 . Die Verteilung von X heißt auch LogNormalverteilung. F¨ur jedes n ∈ N ist nY verteilt wie die Summe von n2 unD abh¨angigen, standardnormalverteilten Zufallsvariablen nY = Y1 + . . . + Yn2 . Also ist f¨ur n ∈ N n2 2 n nY Y1 +...+Yn2 E[X ] = E[e ] = E[e ]= E[eYi ] = E[eY ]n
(15.1)
i=1 ∞
=
(2π)−1/2 ey e−y
2
n2
/2
dy
= en
2
/2
.
−∞
Wir wollen nun gleich eine ganze Familie von Verteilungen konstruieren, die die gleichen Momente wie X besitzen. Nach der Transformationsformel f¨ur Dichten (Satz 1.101) hat die Verteilung von X die Dichte 1 1 x−1 exp − log(x)2 f (x) = √ f¨ur x > 0. 2 2π F¨ur α ∈ [−1, 1] definieren wir Wahrscheinlichkeitsdichten fα auf (0, ∞) durch
fα (x) = f (x) 1 + α sin(2π log(x)) . Um zu zeigen, dass fα eine Dichte ist und die selben Momente wie f besitzt, reicht es zu zeigen, dass f¨ur jedes n ∈ N0 gilt ∞ xn f (x) sin(2π log(x)) dx = 0. m(n) := 0
Mit der Substitution y = log(x) − n erhalten wir (wegen sin(2π(y + n)) = sin(2πy)) ∞ 2 2 m(n) = eyn+n (2π)−1/2 e−(y+n) /2 sin(2π(y + n)) dy −∞ 2
= (2π)−1/2 en
/2
∞
e−y
2
/2
sin(2πy) dy = 0,
−∞
wobei die letzte Gleichheit folgt, weil der Integrand eine ungerade Funktion ist. 3 Satz 15.6 (Laplace-Transformation). Ein endliches Maß μ auf [0, ∞) ist eindeutig bestimmt durch Angabe der Laplace-Transformierten Lμ (λ) := e−λx μ(dx) f¨ur λ ≥ 0.
15.1 Trennende Funktionenklassen
299
Beweis. Dem Problem, dass der Raum [0, ∞) nicht kompakt ist, begegnen wir, indem wir zur (Einpunkt-) Kompaktifizierung E = [0, ∞] u¨ bergehen. Wir definieren f¨ur λ ≥ 0 die stetige Funktion fλ : [0, ∞] → [0, 1] durch fλ (x) = e−λx , falls x < ∞ und fλ (∞) = limx→∞ e−λx . Dann ist C = {fλ , λ ≥ 0} Punkte trennend, f0 = 1 ∈ C und fμ · fλ = fμ+λ ∈ C. Nach Korollar 15.3 ist C trennend f¨ur 2 Mf ([0, ∞]), also auch f¨ur Mf ([0, ∞)). Definition 15.7. F¨ur μ ∈ Mf (Rd ) heißt die Abbildung ϕμ : Rd → C, die durch ϕμ (t) := eit,x μ(dx) definiert wird, die charakteristische Funktion von μ.
Satz 15.8 (Charakteristische Funktion). Ein endliches Maß μ ∈ Mf (Rd ) ist durch Angabe der charakteristischen Funktion eindeutig festgelegt.
Beweis. F¨ur t ∈ Rd definiere ft : Rd → C durch ft : x → exp i t, x! . Offenbar ist C = {ft , t ∈ Rd } eine Punkte trennende Algebra, die abgeschlossen gegen¨uber komplexer Konjugation ist. Allerdings ist Rd nicht kompakt, sodass wir den Satz von Stone-Weierstraß nicht direkt anwenden k¨onnen. Unsere Beweisstrategie ist nun zu zeigen, dass wir eine stetige, beschr¨ankte Funktion f auf jedem Kompaktum gleichm¨aßig approximieren k¨onnen, wobei das Supremum der approximierenden Funktionen außerhalb dieses Kompaktums beschr¨ankt bleibt. Seien also μ1 , μ2 ∈ Mf (Rd ) mit ϕμ1 (t) = ϕμ2 (t) f¨ur alle t ∈ Rd . Sei f ∈ Cb (Rd ) beliebig und ε > 0. W¨ahle N ∈ N so groß, dass (1 + 2f ∞ ) · (μ1 + μ2 )(Rd \ [−N, N ]d ) < ε/2. Sei C die Algebra endlicher Linearkombination von Funktionen f2πm f¨ur m ∈ Zd , und sei CN := {g : g ∈ C } die Algebra der auf d [−N,N ]
[−N, N ]d eingeschr¨ankten Funktion aus C . Die Algebra CN ist Punkte trennend und abgeschlossen unter komplexer Konjugation, also nach dem Satz von StoneWeierstraß (Satz 15.2) dicht in Cb ([−N, N ]d ; C). Daher existiert ein g ∈ C mit
ε . δ := sup |g(x) − f (x)| : x ∈ [−N, N ]d < min 1, 2(μ1 + μ2 )(Rd ) Wegen g(x) = g(x − kN ) f¨ur jedes k ∈ Zd , ist g − f ∞ ≤ g∞ + f ∞ ≤ 1 + 2f ∞ . Wir erhalten also f dμ1 − f dμ2
≤ g − f ∞ (μ1 + μ2 ) Rd \ [−N, N ]d + δ μ1 + μ2 (Rd ) ε ε ≤ + = ε. 2 2
300
15 Charakteristische Funktion und Zentraler Grenzwertsatz
Da ε > 0 beliebig war, stimmen die Integrale u¨ berein. Nach Satz 13.11 ist also μ1 = μ2 . 2 Korollar 15.9. Ein endliches Maß μ auf Zd ist durch die Werte ϕμ (t) = eit,x μ(dx), t ∈ [−π, π)d , eindeutig festgelegt. Beweis. Dies ist klar, weil ϕμ (t + 2πk) = ϕμ (t) f¨ur jedes k ∈ Zd .
2
W¨ahrend das vorangehende Korollar nur eine abstrakte Eindeutigkeitsaussage liefert, wird uns manchmal eine explizite Inversionsformel von Nutzen sein. Satz 15.10 (Diskrete Fourier-Inversionsformel). Sei μ ∈ Mf (Zd ) mit charakteristischer Funktion ϕμ . Dann gilt f¨ur jedes x ∈ Zd −d μ({x}) = (2π) e−it,x ϕμ (t) dt. [−π,π)d
Beweis. Nach dem Satz u¨ ber majorisierte Konvergenz ist ⎛ ⎞ e−it,x ϕμ (t) dt = e−it,x ⎝ lim eit,y μ({y})⎠ dt [−π,π)d
n→∞
[−π,π)d
e−it,x
= lim
n→∞
=
[−π,π)d
|y|≤n
eit,y μ({y}) dt
|y|≤n
eit,y−x dt.
μ({y}) [−π,π)d
y∈Zd
Die Behauptung folgt, weil f¨ur y ∈ Zd gilt (2π)d , it,y−x e dt = 0, [−π,π)d
falls x = y, sonst.
2
¨ Ahnliche Inversionsformeln gelten f¨ur Maße μ auf Rd . Besonders einfach ist der bez¨uglich des d-dimensionalen Fall, wo μ eine integrierbare Dichte f := dμ dλ Lebesgue-Maßes λ hat. In diesem Fall gilt die Fourier-Inversionsformel −d f (x) = (2π) e−it,x ϕμ (t) λ(dt). (15.2) Rd
Es gilt die Plancherel’sche Gleichung: Es ist genau dann f ∈ L2 (λ), wenn ϕμ ∈ L2 (λ). In diesem Fall ist f 2 = ϕ2 . Da wir diese Aussagen jedoch nicht weiter verwenden werden, verweisen wir lediglich auf die einschl¨agigen Lehrb¨ucher (etwa [166, Kapitel V.2] oder [56, Theorem XV.3.3 und Gleichung (XV.3.8)]).
15.1 Trennende Funktionenklassen
301
¨ Ubung 15.1.1. Man zeige, dass im Satz von Stone-Weierstraß auf die Kompaktheit von E nicht verzichtet werden kann. Hinweis: Man w¨ahle etwa E = R, nutze aus, dass Cb (R) = Cb (R; R) nicht separabel ist und konstruiere eine abz¨ahlbare, Punkte trennende Algebra C ⊂ Cb (R). ♣ ¨ Ubung 15.1.2. Sei d ∈ N und μ ein endliches Maß auf [0, ∞)d . Man zeige: μ ist 0 −λ,x durch Angabe der Laplace-Transformierten Lμ (λ) = e μ(dx), λ ∈ [0, ∞)d eindeutig bestimmt. ♣ ¨ Ubung 15.1.3. Man zeige, dass unter den Voraussetzungen von Satz 15.10 die Plancherel’sche Gleichung gilt: μ({x})2 = (2π)−d |ϕμ (t)|2 dt. ♣ [−π,π)d
x∈Zd
¨ Ubung 15.1.4 (Mellin-Transformierte). Sei X eine nichtnegative reelle Zufallsvariable. F¨ur s ≥ 0 definieren wir die Mellin-Transformierte von PX mX (s) = E[X s ] mit Werten in [0, ∞]. Man zeige: Gibt es ein ε0 > 0 mit mX (ε0 ) < ∞ (beziehungsweise mX (−ε0 ) < ∞), so ist f¨ur jedes ε > 0 die Verteilung PX eindeutig bestimmt durch die Werte mX (s) (beziehungsweise mX (−s)), s ∈ [0, ε]. Anleitung: F¨ur stetiges f : [0, ∞) → [0, ∞) sei ∞ φf (z) = tz−1 f (t) dt, 0
f¨ur diejenigen z ∈ C, f¨ur die dies wohldefiniert ist. Aus der Funktionentheorie ist bekannt: Ist φf (s) < ∞ f¨ur ein s > 1, so ist φf holomorph in {z ∈ C : Re(z) ∈ (1, s)} (und damit durch die Werte φf (r), r ∈ (1, 1 + ε) eindeutig festgelegt f¨ur jedes ε > 0), und es gilt f¨ur jedes r ∈ (1, s) ∞ 1 t−(r+iρ) φf (r + iρ) dρ. f (t) = 2π i −∞ (i) Man folgere die Aussage f¨ur X mit stetiger Dichte. (ii) F¨ur δ > 0 sei Yδ ∼ U[1−δ,1] und unabh¨angig von X. Man zeige, dass XYδ eine stetige Dichte hat. (iii) Man bestimme mXYδ und zeige, dass mXYδ → mX f¨ur δ ↓ 0. (iv) Man zeige, dass XYδ =⇒ X f¨ur δ ↓ 0.
♣
302
15 Charakteristische Funktion und Zentraler Grenzwertsatz
¨ Ubung 15.1.5. Seien X, Y, Z unabh¨angige nichtnegative reelle Zufallsvariablen, sodass P[Z > 0] > 0, und sodass die Mellin-Transformierte mXZ (s) < ∞ ist f¨ur ein s > 0. D
D
Zeige: Gilt XZ = Y Z, so ist X = Y .
♣
¨ Ubung 15.1.6. Sei μ ein W-Maß auf R mit integrierbarer charakteristischer Funktion ϕμ , also ϕμ ∈ L1 (λ), wobei λ das Lebesgue-Maß auf R ist. Man zeige, dass μ gegeben ist durch absolutstetig ist und die stetige und beschr¨ankte Dichte f = dμ dλ ∞ 1 f (x) = e−itx ϕμ (t) dt f¨ur jedes x ∈ R. 2π −∞ Anleitung: Man zeige dies zun¨achst f¨ur die Normalverteilung N0,ε , ε > 0. Man zeige dann, dass μ ∗ N0,ε absolutstetig ist mit Dichte fε , die punktweise gegen f konvergiert. ♣ ¨ Ubung 15.1.7. Sei (Ω, τ ) ein separabler topologischer Raum, der das T3 12 -Trennungsaxiom erf¨ullt: Zu jeder abgeschlossenen Menge A ⊂ Ω und jedem Punkt x ∈ Ω \ A existiert eine stetige Funktion f : Ω → [0, 1] mit f (x) = 0 und f (y) = 1 f¨ur jedes y ∈ A. (Insbesondere ist jeder metrische Raum ein T3 12 -Raum.) Man zeige: σ(Cb (Ω)) = B(Ω), das heißt, die Borel’sche σ-Algebra wird durch die beschr¨ankten, stetigen Funktionen Ω → R erzeugt. ♣
15.2 Charakteristische Funktionen: Beispiele Lemma 15.11. Sei X) eine Zufallsvariable mit Werten in Rd und charakteristischer * it,X Funktion ϕX (t) = E e . Dann gelten (i) |ϕX (t)| ≤ 1 f¨ur jedes t ∈ Rd und ϕX (0) = 1, (ii) ϕaX+b (t) = ϕX (at) eib,t f¨ur jedes a ∈ R und b ∈ Rd , (iii) PX = P−X genau dann, wenn ϕ reellwertig ist, (iv) Sind X und Y unabh¨angig, so ist ϕX+Y = ϕX · ϕY . (v) F¨ur jedes t ∈ R gilt f¨ur den Realteil 0 ≤ 1−Re(ϕX (2t)) ≤ 4(1−Re(ϕX (t))). Beweis. (i) und (ii) sind trivial. (iii) (iv)
ϕX (t) = ϕX (−t) = ϕ−X (t). Da eit,X und eit,Y unabh¨angige Zufallsvariablen sind, gilt * ) * ) * ) ϕX+Y (t) = E eit,X · eit,Y = E eit,X E eit,Y = ϕX (t) ϕY (t).
15.2 Charakteristische Funktionen: Beispiele
303
(v) Nach dem Additionstheorem f¨ur Winkelfunktionen ist
1 − cos(2tX) = 2 1 − (cos(tX))2 ≤ 4 1 − cos(tX) . 2
Bilde jetzt den Erwartungswert.
Satz 15.12 (Charakteristische Funktionen wichtiger Verteilungen). Wir geben f¨ur verschiedene Verteilungen P mit Dichte x → f (x) auf R oder Gewichten P ({k}), k ∈ N0 , die charakteristische Funktion ϕ(t) an: Verteilung Name Symbol
Char. Fkt.
Parameter
auf
Dichte / Gewicht
Normal Nμ,σ2 Gleichvert. U[0,a] Gleichvert. U[−a,a] Dreieck Tria
μ∈R σ2 > 0
R
√ 1 2πσ2
a>0
[0, a]
1/a
eiat −1 iat
a>0
[−a, a]
1/2a
sin(at) at
a>0
[−a, a]
1 a
N.N.
a>0
R
Gamma Γθ,r
θ>0 r>0
Exponential θ>0 expθ zweiseitig Exponential θ > 0 exp2θ Cauchy a>0 Caua Binomial bn,p Negativ Binomial b− r,p Poisson Poiλ
ϕ(t)
2 2 2 exp − (x−μ) eiμt · e−σ t /2 2σ 2
+ 1 − |x|/a
2 1−cos(at) a2 t2
1 1−cos(ax) π ax2
(1 − |t|/a)
[0, ∞)
θr Γ (r)
(1 − it/θ)
[0, ∞)
θ e−θx
θ θ − it
θ −θ|x| e 2
1 1 + (t/a)2
R
xr−1 e−θx
+
−r
1 1 e−a|t| aπ 1 + (x/a)2
n n k n∈N (1 − p) + peit {0, . . . , n} p (1 − p)n−k p ∈ [0, 1] k r −r p r>0 (−1)k pr (1 − p)k N0 p ∈ (0, 1] k 1 − (1 − p)eit λ>0
R
N0
e−λ
λk k!
exp λ(eit − 1)
304
15 Charakteristische Funktion und Zentraler Grenzwertsatz
Beweis. (i) (Normalverteilung) Nach Lemma 15.11 reicht es, den Fall μ = 0 und σ 2 = 1 zu betrachten. Mit Hilfe des Differentiationslemmas (Satz 6.28) und durch partielle Integration erhalten wir ∞ 2 d ϕ(t) = eitx ix e−x /2 dx = −t ϕ(t). dt −∞ Diese lineare Differentialgleichung mit Anfangswert ϕ(0) = 1 hat die eindeutige 2 L¨osung ϕ(t) = e−t /2 . (ii) (Gleichverteilung) (iii) (Dreieck)
Dies ist unmittelbar.
Es gilt Tria = U[−a/2,a/2] ∗ U[−a/2,a/2] , also ist
ϕTria (t) = ϕU[−a/2,a/2] (t)2 = 4
sin(at/2)2 1 − cos(at) =2 , 2 2 a t a2 t2
wobei wir ausgenutzt haben, dass nach dem Additionstheorem gilt 1 − cos(x) = sin(x/2)2 + cos(x/2)2 − cos(x) = 2 sin(x/2)2 . (iv) (N.N.) Dies l¨asst sich entweder direkt ausrechnen, oder mit Hilfe der FourierInversionsformel (Gleichung (15.2)) aus (iii) folgern. (v) (Gammaverteilung) Es reicht wiederum, den Fall θ = 1 zu betrachten. F¨ur 0 ≤ b < c ≤ ∞ und t ∈ R sei γb,c,t der gerade Weg in C von b − ibt nach c − ict und δb,t der gerade Weg von b nach b − ibt sowie #c,t der gerade Weg von c − ict nach c. Mit der Substitution z = (1 − it)x ist ∞ 1 (1 − it)−r ϕ(t) = xr−1 e−x eitx dx = z r−1 e−z dz. Γ (r) 0 Γ (r) γ0,∞,t Daher reicht es zu zeigen, dass
0 γ0,∞,t
z r−1 exp(−z) dz = Γ (r).
Die Funktion z → z r−1 exp(−z) ist holomorph in der rechten komplexen Halbebene. Nach dem Residuensatz ist daher f¨ur 0 < b < c < ∞ c xr−1 exp(−x) dx = z r−1 exp(−z) dz b
γb,c,t
z r−1 exp(−z) dz +
+ δb,t
z r−1 exp(−z) dz. c,t
0∞ Wegen 0 xr−1 exp(−x) dx =: Γ (r), reicht es zu zeigen, dass die Integrale entlang δb,t und #c,t verschwinden, wenn b → 0 und c → ∞. 2 (r−1)/2 r−1 Nun ist aber |z r−1 exp(−z)| ≤ (1 + b exp(−b) f¨ur z ∈ δb,t . Da der 0t ) r−1 exp(−z) dz ≤ br e−b (1 + t2 )r/2 → Weg δb,t die L¨ange b |t| hat, ist also δb,t z
15.2 Charakteristische Funktionen: Beispiele
305
0 0, wenn b → 0. Analog ist c,t z r−1 exp(−z) dz ≤ cr exp(−c)(1 + t2 )r/2 → 0, wenn c → ∞. (vi) (Exponentialverteilung)
Wegen expθ = Γθ,1 folgt dies aus (v).
(vii) (Zweiseitige Exponentialverteilung) Sind X und Y unabh¨angige expθ verteilte Zufallsvariablen, so ist X − Y ∼ exp2θ (Nachrechnen!). Also ist ϕexp2θ (t) = ϕexpθ (t) ϕexpθ (−t) =
1 1 1 . = 1 − it/θ 1 + it/θ 1 + (t/θ)2
(viii) (Cauchy Verteilung) Dies l¨asst sich entweder mit Hilfe des Residuenkalk¨uls direkt ausrechnen, oder mit Hilfe der Fourier-Inversionsformel (Gleichung (15.2)) aus der Aussage f¨ur die zweiseitige Exponentialverteilung folgern. (ix) (Binomialverteilung) Nach dem binomischen Lehrsatz ist n n ϕ(t) = (1 − p)n−k (peit )k = (1 − p + peit )n . k k=0
(x) (Negative Binomialverteilung) Nach dem verallgemeinerten binomischen Lehrsatz (Lemma 3.5) ist f¨ur jedes x ∈ C mit |x| < 1 ∞ −r −r (−x)k . (1 − x) = k k=0
Wenn wir x = (1 − p) e setzen, folgt die Behauptung. it
(xi) (Poissonverteilung)
Es ist ϕPoiλ (t) =
∞
e−λ
n=0
it (λeit )n = eλ(e −1) . n!
2
Korollar 15.13. Es gelten die folgenden Faltungsformeln: (i) Nμ1 ,σ12 ∗ Nμ2 ,σ22 = Nμ1 +μ2 ,σ12 +σ22 f¨ur μ1 , μ2 ∈ R und σ12 , σ22 > 0, (ii) Γθ,r ∗ Γθ,s = Γθ,r+s f¨ur θ, r, s > 0, (iii) Caua ∗ Caub = Caua+b f¨ur a, b > 0, (iv) bm,p ∗ bn,p = bm+n,p f¨ur m, n ∈ N und p ∈ [0, 1], − − (v) b− ur r, s > 0 und p ∈ (0, 1], r,p ∗ bs,p = br+s,p f¨
(vi) Poiλ ∗ Poiμ = Poiλ+μ f¨ur λ, μ ≥ 0. Beweis. Die Aussagen folgen aus dem vorangehenden Satz zusammen mit ϕμ∗ν = ϕμ ϕν (Lemma 15.11). 2 Zwei einfache Verfahren, um charakteristische Funktionen von zusammengesetzten Verteilungen auszurechnen, liefert der folgende Satz:
306
15 Charakteristische Funktion und Zentraler Grenzwertsatz
Satz 15.14. (i) Seien μ1 , μ2 , . . . ∈ Mf (Rd ) und p1 , p2 , . . . nichtnegative Zahlen ∞ ∞ pn μn (Rd ) < ∞. Dann hat das Maß μ := pn μn ∈ Mf (Rd ) die mit n=1
n=1
charakteristische Funktion ϕμ =
∞
(15.3)
pn ϕμn .
n=1
(ii) Es seien N, X1 , X2 , . . . unabh¨angige Zufallsvariablen. Die X1 , X2 , . . . seien identisch verteilt auf Rd mit charakteristischer Funktion ϕX . N habe Werte in N N0 und die Erzeugendenfunktion fN . Dann hat Y := Xn die charakterisn=1
tische Funktion ϕY (t) = fN (ϕX (t)).
(iii) Ist in (ii) speziell N ∼ Poiλ , so ist ϕY (t) = exp(λ(ϕX (t) − 1)). n
Beweis. (i) Setzen wir νn =
k=1
pk μk , so gilt ϕνn =
n k=1
pk ϕμk wegen der Li-
nearit¨at des Integrals. Nach Voraussetzung ist μ = w-lim νn , also auch ϕμ (t) = n→∞
lim ϕνn (t).
n→∞
(ii) Es ist ϕY (t) = =
∞ n=0 ∞
) * P[N = n] E eit,X1 +...+Xn P[N = n] ϕX (t)n = fN (ϕ(t)).
n=0
(iii) Der Spezialfall folgt, weil hier fN (z) = eλ(z−1) f¨ur z ∈ C mit |z| ≤ 1.
2
Beispiel 15.15. Sei n ∈ N, und seien Punkte 0 = a0 < a1 < . . . < an und 1 = y0 > y1 > . . . > yn = 0 gegeben. Sei ϕ : R → [0, ∞) diejenige gerade Funktion (also ϕ(x) = ϕ(−x)), die ϕ(ak ) = yk f¨ur jedes k = 0, . . . , n erf¨ullt und zwischen den Punkten ak linear interpoliert ist sowie ferner ϕ(x) = 0 f¨ur |x| > an erf¨ullt. Wir wollen zus¨atzlich annehmen, dass die yk so gew¨ahlt sind, dass ϕ auf [0, ∞) konvex ist. Das ist a¨ quivalent zu der Bedingung, dass m1 ≤ m2 ≤ . . . ≤ mn ≤ 0, k−1 wo mk := aykk −y −ak−1 die Steigung im k-ten Intervall ist. Wir wollen zeigen, dass ϕ die charakteristische Funktion eines W-Maßes μ ∈ M1 (R) ist. Setze pk = ak (mk+1 − mk ) f¨ur k = 1, . . . , n. k π) Sei μk ∈ M1 (Rd ) die Verteilung auf R mit Dichte π1 1−cos(a . Nach Satz 15.12 ak x2 + hat μk die charakteristische Funktion ϕμk (t) = 1 − a|t|k . Die charakteristische n Funktion ϕμ von μ := k=1 pk μk ist dann
15.2 Charakteristische Funktionen: Beispiele
ϕμ (t) =
n
307
pk (1 − |t|/ak )+ .
k=1
Dies ist eine stetige, symmetrische, reelle Funktion mit ϕμ (0) = 1, die auf den Intervallen [ak−1 , ak ] jeweils linear ist. Durch partielle Summation erhalten wir (wegen mn+1 = 0) f¨ur jedes k = 1, . . . , n ϕμ (al ) =
n k=1
al ak (mk+1 − mk ) 1 − ak
+ =
( ' = (an − al )mn+1 − (al − al )ml −
n
(ak − al )(mk+1 − mk )
k=l n
(ak − ak−1 )mk
k=l+1 n
=−
(yk − yk−1 ) = yl = ϕ(al ).
k=l+1
3
Also ist ϕμ = ϕ.
Beispiel 15.16. Wir betrachten die Funktion ϕ : R → [0, 1], die periodisch mit Periode 2π ist, und die f¨ur t ∈ [−π, π) definiert ist durch ϕ(t) = 1 − 2|t|/π. Durch die diskrete Fourier-Inversionsformel (Satz 15.10) erhalten wir, dass0ϕ die charakteristiπ sche Funktion des W-Maßes μ ∈ M1 (Z) mit μ({x}) = (2π)−1 −π cos(tx) ϕ(t) dt ist, wenn wir zeigen k¨onnen, dass alle diese Zahlen μ({x}) nichtnegativ sind. Offenbar ist μ({0}) = 0. F¨ur x ∈ Z \ {0} berechnen wir das Integral mit Hilfe partieller Integration π π cos(tx) ϕ(t) dt = 2 cos(tx) (1 − 2t/π) dt −π 0 π 2 4 4 4 1− sin(πx) − sin(0) + = sin(tx) dt x π x πx 0 4 (1 − cos(πx)). = πx2 Insgesamt erhalten wir μ({x}) =
4 π 2 x2 ,
0,
falls x ungerade ist, sonst.
Wegen μ(Z) = ϕ(0) = 1 ist μ tats¨achlich ein W-Maß.
3
Beispiel 15.17. Wir betrachten die Funktion ψ : R → [0, 1], die periodisch mit Periode π ist, und die f¨ur t ∈ [−π/2, π/2) definiert ist durch ψ(t) = 1 − 2|t|/π. Ist ϕ die charakteristische Funktion zum Maß μ aus dem vorangehenden Beispiel, so ist offenbar ψ(t) = |ϕ(t)|. Andererseits ist ψ(t) = 12 + 12 ϕ(2t). Nach Satz 15.14
308
15 Charakteristische Funktion und Zentraler Grenzwertsatz
und Lemma 15.11(ii) ist daher ψ die charakteristische Funktion des Maßes ν mit ν(A) = 12 δ0 (A) + 12 μ(A/2) f¨ur A ⊂ R. Also ist ⎧ 1 falls x = 0, ⎪ ⎪ 2, ⎨ ν({x}) = π28x2 , falls x2 ∈ Z ungerade ist, ⎪ ⎪ ⎩ 0, sonst. 3 Beispiel 15.18. Sei ϕ(t) = (1 − 2|t|/π)+ die charakteristische Funktion der Verteilung N.N.“ aus Satz 15.12 (mit a = π/2) und ψ die charakteristische Funktion ” aus dem vorangehenden Beispiel. Man beachte, dass ϕ(t) = ψ(t) f¨ur |t| ≤ π/2 und ϕ(t) = 0 f¨ur |t| > π/2, also ϕ2 = ϕ · ψ. Seien nun X, Y, Z unabh¨angige, reelle Zufallsvariablen mit charakteristischen Funktionen ϕX = ϕY = ϕ und ϕZ = ψ. D Dann ist ϕX ϕY = ϕX ϕZ , also X + Y = X + Z, jedoch stimmen die Verteilungen von Y und Z nicht u¨ berein. 3 ¨ Ubung 15.2.1. Sei ϕ die charakteristische Funktion der d-dimensionalen Zufallsvariablen X. Man zeige: Ist ϕ(t) = 1 f¨ur ein t = 0, so ist P[X ∈ Ht ] = 1, wo Ht = {x ∈ Rd : x, t! ∈ 2πZ}
= y + z · (2πt/t22 ) : z ∈ Z, y ∈ Rd mit y, t! = 0 . Man folgere, dass ϕ(t + s) = ϕ(s) ist f¨ur jedes s ∈ Rd .
♣
D ¨ Ubung 15.2.2. Man zeige: Es gibt reelle Zufallsvariablen X, X und Y, Y mit X = D D X und Y = Y , sodass X und Y unabh¨angig sind und X + Y = X + Y gilt, jedoch X und Y nicht unabh¨angig sind. ♣
¨ Ubung 15.2.3. Sei X eine reelle Zufallsvariable mit charakteristischer Funktion ϕ. X heißt gitterverteilt, wenn es a, d ∈ R gibt, sodass P[X ∈ a + dZ] = 1. Zeige: X ist genau dann gitterverteilt, wenn es ein u = 0 gibt mit |ϕ(u)| = 1. ♣
15.3 Der L´evy’sche Stetigkeitssatz Die Hauptaussage dieses Abschnitts ist der Stetigkeitssatz von L´evy (Satz 15.23), der, grob gesprochen, besagt, dass eine Folge von charakteristischen Funktionen genau dann punktweise gegen eine stetige Funktion konvergiert, wenn der Grenzwert wieder eine charakteristische Funktion ist und die zugeh¨origen Wahrscheinlichkeitsmaße schwach konvergieren. Wir bereiten den Beweis des Satzes mit ein paar analytischen Aussagen vor.
15.3 Der L´evy’sche Stetigkeitssatz
309
Lemma 15.19. Sei μ ∈ M1 (Rd ) mit charakteristischer Funktion ϕ. Dann gilt
|ϕ(t) − ϕ(s)|2 ≤ 2 1 − Re(ϕ(t − s)) f¨ur alle s, t ∈ Rd . Beweis. Nach der Cauchy-Schwarz’schen Ungleichung gilt 2 eit,x − eis,x μ(dx) |ϕ(t) − ϕ(s)|2 = Rd 2 is,x
it−s,x = −1 e μ(dx) e d R it−s,x is,x 2 2 e e μ(dx) ≤ − 1 μ(dx) · Rd Rd
it−s,x e − 1 e−it−s,x − 1 μ(dx) = d
R = 2 1 − Re(ϕ(t − s)) .
2
Definition 15.20. Sei (E, d) ein metrischer Raum. Eine Familie (fi , i ∈ I) von Abbildungen E → R heißt gleichgradig gleichm¨aßig stetig, falls f¨ur jedes ε > 0 ein δ > 0 existiert, sodass |fi (t) − fi (s)| < ε f¨ur alle i ∈ I und alle s, t ∈ E mit d(s, t) < δ. Satz 15.21. Ist F ⊂ M1 (Rd ) eine straffe Familie, so ist {ϕμ : μ ∈ F} gleichgradig gleichm¨aßig stetig. Speziell ist jede charakteristische Funktion gleichm¨aßig stetig. Beweis. Zu zeigen ist, dass f¨ur jedes ε > 0 ein δ > 0 existiert, sodass f¨ur jedes t ∈ Rd , jedes s ∈ Rd mit |t − s| < δ und jedes μ ∈ F gilt: |ϕμ (t) − ϕμ (s)| < ε. Da F straff ist, existiert ein N ∈ N mit μ([−N, N ]d ) > 1 − ε2 /6 f¨ur jedes μ ∈ F. d d Weiterhin existiert ein δ >2 0, sodass f¨ur x ∈ [−N, N ] und u ∈ R mit |u| < δ iu,x < ε /6. Wir erhalten so f¨ur jedes μ ∈ F gilt, dass 1 − e 1 − eiu,x μ(dx) 1 − Re(ϕμ (u)) ≤ Rd ε2 1 − eiu,x μ(dx) + ≤ 3 [−N,N ]d ≤
ε2 ε2 ε2 + = 3 6 2
und damit f¨ur |t − s| < δ nach Lemma 15.19 |ϕμ (t) − ϕμ (s)| ≤ ε.
2
Lemma 15.22. Sei (E, d) ein metrischer Raum und f, f1 , f2 , . . . Abbildungen E → n→∞ R mit fn −→ f punktweise. Ist (fn )n∈N gleichgradig gleichm¨aßig stetig, so ist f gleichm¨aßig stetig und (fn )n∈N konvergiert gegen f gleichm¨aßig auf kompakten n→∞ Mengen: F¨ur jede kompakte Menge K ⊂ E gilt sups∈K |fn (s) − f (s)| −→ 0.
310
15 Charakteristische Funktion und Zentraler Grenzwertsatz
Beweis. Sei ε > 0 vorgegeben und δ > 0 so gew¨ahlt, dass |fn (t) − fn (s)| < ε gilt f¨ur alle n ∈ N und alle s, t ∈ E mit d(s, t) < δ. F¨ur diese s, t gilt dann |f (s) − f (t)| = lim |fn (s) − fn (t)| ≤ ε. n→∞
Also ist f gleichm¨aßig stetig. Sei nun K ⊂ E kompakt. Da kompakte Mengen total beschr¨ankt sind, existiert ein N N ∈ N sowie t1 , . . . , tN ∈ K mit K ⊂ i=1 Bδ (ti ). W¨ahle n0 ∈ N so groß, dass |fn (ti ) − f (ti )| ≤ ε ist f¨ur jedes i = 1, . . . , N und jedes n ≥ n0 . Sei nun s ∈ K und n ≥ n0 . W¨ahle ein ti mit d(s, ti ) < δ. Dann gilt |fn (s) − f (s)| ≤ |fn (s) − fn (ti )| + |fn (ti ) − f (ti )| + |f (ti ) − f (s)| ≤ 3ε. n→∞
Da ε > 0 beliebig war, gilt fn −→ f gleichm¨aßig auf K.
2
Wir nennen eine Abbildung f : Rd → R partiell stetig im Punkte x = (x1 , . . . , xd ), falls f¨ur jedes i = 1, . . . , d die Abbildung yi → f (x1 , . . . , xi−1 , yi , xi+1 , . . . , xd ) in yi = xi stetig ist. Satz 15.23 (L´evy’scher Stetigkeitssatz). Seien P, P1 , P2 , . . . ∈ M1 (Rd ) mit charakteristischen Funktionen ϕ, ϕ1 , ϕ2 , . . . n→∞
(i) Ist P = w-lim Pn , so gilt ϕn −→ ϕ gleichm¨aßig auf kompakten Mengen. n→∞
n→∞
(ii) Gilt ϕn −→ f punktweise f¨ur eine in 0 partiell stetige Funktion f : Rd → C, so existiert ein W-Maß Q mit ϕQ = f und Q = w-lim Pn . n→∞
n→∞
Beweis. (i) Es gilt ϕn −→ ϕ punktweise. Da die Familie (Pn )n∈N straff ist, ist (ϕn )n∈N nach Satz 15.21 gleichgradig gleichm¨aßig stetig. Nach Lemma 15.22 folgt hieraus die gleichm¨aßige Konvergenz auf kompakten Mengen. (ii) Nach Satz 13.34 reicht es zu zeigen, dass die Folge (Pn )n∈N straff ist. Zu diesem Zweck reicht es zu zeigen, dass f¨ur jedes k = 1, . . . , n die durch Pnk = Pn ◦πk−1 (wo πk : Rd → R die Projektion auf die k-te Koordinate ist) definierte Folge (Pnk )n∈N der k-ten Marginalverteilungen straff ist. Bezeichnet ek den k-ten Einheitsvektor in Rd , so ist die charakteristische Funktion von Pnk gegeben durch ϕPnk (t) = ϕn (t ek ). Nach Voraussetzung konvergiert nun aber ϕPnk f¨ur n → ∞ punktweise gegen eine in 0 stetige Funktion fk . Wir haben damit das Problem auf den eindimensionalen Fall zur¨uckgef¨uhrt und k¨onnen daher im Folgenden annehmen, dass d = 1 gilt. Da ϕn (0) = 1 ist f¨ur jedes n ∈ N, haben wir f (0) = 1. Wir definieren die Abbildung h : R → [0, ∞) durch h(x) = 1 − sin(x)/x f¨ur x = 0 und h(0) = 0. Offenbar ist h auf ganz R stetig differenzierbar. Wir erhalten leicht, dass
15.3 Der L´evy’sche Stetigkeitssatz
311
α := inf{h(x) : |x| ≥ 1} = 1 − sin(1) > 0. Jetzt berechnen wir (unter Benutzung der Markov’schen Ungleichung und des Satzes von Fubini) f¨ur K > 0
Pn [−K, K]c ≤ α−1 h(x/K) Pn (dx) [−K,K]c ≤ α−1 h(x/K) Pn (dx) R 1
−1 =α 1 − cos(tx/K) dt Pn (dx) −1
R 1
0
=α
R
0
= α−1
1
1 − cos(tx/K) Pn (dx) dt
1 − Re(ϕn (t/K)) dt.
0
Wir erhalten nun (mit dem Satz von der majorisierten Konvergenz) lim sup Pn ([−K, K]c ) ≤ α−1 lim sup n→∞
= α−1 = α−1
n→∞ 1
1
1 − Re(ϕn (t/K)) dt
0
lim 1 − Re(ϕn (t/K)) dt
n→∞
0 1
1 − Re(f (t/K)) dt.
0
Da f stetig und f (0) = 1 ist, konvergiert das letzte Integral gegen 0, wenn K → ∞. Also ist (Pn )n∈N straff. 2 Eine einfache Anwendung des L´evy’schen Stetigkeitssatzes auf Beispiel 15.15 liefert den folgenden Satz von P´olya. Satz 15.24 (P´olya). Sei f : R → [0, 1] stetig und gerade mit f (0) = 1. Ferner sei f auf [0, ∞) konvex. Dann ist f die charakteristische Funktion eines W-Maßes. Beweis. Wir k¨onnen f auf [0, ∞) durch konvexe Polygonz¨uge fn approximieren, indem wir fn (k/n) = f (k/n) setzen f¨ur k = 0, . . . , n2 und fn zwischen den St¨utzstellen linear interpolieren und rechts von n konstant fortsetzen. F¨ur x < 0 setzen wir fn (x) = fn (−x). Nach Beispiel 15.15 ist jedes fn charakteristische n→∞ Funktion eines W-Maßes μn . Offenbar gilt fn −→ f punktweise, also ist f die charakteristische Funktion eines W-Maßes μ = w-lim μn auf R. 2 n→∞
Korollar 15.25. F¨ur jedes α ∈ (0, 1] und r > 0 ist ϕα,r (t) = e−|r t| die charakteristische Funktion eines symmetrischen W-Maßes μα,r auf R. α
312
15 Charakteristische Funktion und Zentraler Grenzwertsatz
Bemerkung 15.26. Tats¨achlich ist ϕα,r auch f¨ur α ∈ (0, 2] eine charakteristische Funktion (f¨ur α = 2 die der Normalverteilung), siehe Kapitel 16.2. Die Verteilungen μα,r haben die Eigenschaft α-stabil zu sein (siehe Definition 16.20): Sind X1 , X2 , . . . , Xn unabh¨angig und μα,a -verteilt, so ist ϕX1 +...+Xn (t) = ϕX (t)n = D
3
ϕX (n1/α t), also X1 + . . . + Xn = n1/α X1 .
Wir haben mit dem Satz von Stone-Weierstraß gesehen, dass charakteristische Funktionen Verteilungen eindeutig bestimmen. Der Satz von P´olya bietet eine hinreichende Bedingung daf¨ur, dass eine symmetrische reelle Funktion eine charakteristische Funktion ist. Dass diese Bedingung nicht notwendig ist, sieht man schon daran, dass die charakteristische Funktion der Normalverteilung sie nicht erf¨ullt. Wir geben nun, gewissermaßen zur Allgemeinbildung und ohne Beweis, den Satz von Bochner an, der eine notwendige und hinreichende Bedingung daf¨ur formuliert, dass eine Funktion ϕ : Rd → C die charakteristische Funktion eines W-Maßes ist. Definition 15.27. Eine Funktion f : Rd → C heißt positiv semidefinit, falls f¨ur jedes n ∈ N und alle t1 , . . . , tn ∈ Rd sowie y1 , . . . , yn ∈ C gilt n
yk y¯l f (tk − tl ) ≥ 0,
k,l=1
mit anderen Worten, falls die Matrix (f (tk − tl ))k,l=1,...,n positiv semidefinit ist. Lemma 15.28. Ist μ ∈ Mf (Rd ) mit charakteristischer Funktion ϕ, so ist ϕ positiv semidefinit. Beweis. Es gilt n
yk y¯l ϕ(tk − tl ) =
k,l=1
=
n
yk y¯l
k,l=1 n
eix(tk −tl ) μ(dx)
yk eixtk yl eixtl μ(dx)
k,l=1
2 n yk eixtk μ(dx) ≥ 0. =
2
k=1
Der folgende Satz geht im Falle d = 1 auf Bochner (1932) zur¨uck. Satz 15.29 (Bochner). Eine stetige Funktion f : Rd → C ist genau dann die charakteristische Funktion einer Wahrscheinlichkeitsverteilung auf Rd , wenn f positiv semidefinit ist und f (0) = 1 gilt. Die Aussage gilt ebenfalls, wenn wir Rd durch eine lokalkompakte, abelsche Gruppe ersetzen.
15.4 Charakteristische Funktion und Momente
313
Beweis. F¨ur den Fall d = 1 siehe [22, §20, Satz 23] oder [56, Kapitel XIX.2, Seite 622]. F¨ur den ganz allgemeinen Fall siehe etwa [74, Seite 293, Theorem 33.3]. 2 ¨ Ubung 15.3.1. (Vergleiche [52] und [3].) Man zeige: Es gibt zwei austauschbare Folgen X = (Xn )n∈N und Y = (Yn )n∈N reeller Zufallsvariablen mit PX = PY , jedoch mit n n D Xk = Yk f¨ur jedes n ∈ N. (15.4) k=1
k=1
Anleitung: (i) Definiere die charakteristischen Funktionen (siehe Satz 15.12) ϕ1 (t) = und ϕ2 (t) = (1 − t/2)+ . Zeige mit dem Satz von P´olya, dass ϕ1 (t), falls |t| ≤ 1, ψ1 (t) := ϕ2 (t), falls |t| > 1, und
ψ2 (t) :=
ϕ2 (t),
falls |t| ≤ 1,
ϕ1 (t),
falls |t| > 1,
1 1+t2
charakteristische Funktionen von Wahrscheinlichkeitsverteilungen auf R sind. (ii) Definiere unabh¨angige Zufallsvariablen Xn,i , Yn,i , n ∈ N, i = 1, 2, und Θn , n ∈ N mit: Xn,i hat charakteristische Funktion ϕi , Yn,i hat charakteristische Funktion ψi und P[Θn = 1] = P[Θn = −1] = 12 . Setze Xn = Xn,Θn und Yn = Yn,Θn . Zeige, dass (15.4) gilt. (iii) Bestimme E[ei t1 X1 +i t2 X2 ] und E[eit1 Y1 +it2 Y2 ] f¨ur t1 = D
folgere, dass (X1 , X2 ) = (Y1 , Y2 ) und damit PX = PY .
1 2
und t2 = 2 und ♣
15.4 Charakteristische Funktion und Momente Wir wollen den Zusammenhang zwischen den Ableitungen der charakteristischen Funktion ϕX einer reellen Zufallsvariablen X und den Momenten von X untersuchen. Wir beginnen mit einem elementaren Lemma. it (it)n−1 |t|n it ≤ . Lemma 15.30. F¨ur t ∈ R und n ∈ N gilt e − 1 − − . . . − 1! (n − 1)! n! Beweis. Dies folgt direkt aus der Taylorformel, da die n-te Ableitung von eit dem Betrage nach 1 ist. 2
314
15 Charakteristische Funktion und Zentraler Grenzwertsatz
Satz 15.31 (Momente und Differenzierbarkeit). Sei X eine reelle Zufallsvariable mit charakteristischer Funktion ϕ. (i) Ist E[|X|n ] < ∞, so ist ϕ n-mal stetig differenzierbar mit Ableitungen * ) ϕ(k) (t) = E (iX)k eitX f¨ur jedes k = 0, . . . , n. (ii) Ist speziell E[X 2 ] < ∞, so ist 1 ϕ(t) = 1 + it E[X] − t2 E[X 2 ] + ε(t) t2 2 mit ε(t) → 0 f¨ur t → 0. (iii) Sei h ∈ R. Gilt lim
n→∞
|h|n E[|X|n ] n!
ϕ(t + h) =
= 0, so ist f¨ur jedes t ∈ R ∞ (ih)k k=0
k!
) * E eitX X k .
) * Speziell gilt dies, falls E e|hX| < ∞. Beweis. (i) F¨ur t ∈ R, h ∈ R \ {0} und k ∈ {1, . . . , n} sei k−1 (ihx)l Yk (t, h, x) = k! h−k eitx eihx − . l! l=0
Dann ist −k
E[Yk (t, h, X)] = k! h
ϕ(t + h) − ϕ(t) −
k−1 l=1
* hl ) E eitX (iX)l l!
.
Existiert nun der Limes ϕk (t) := limh→0 E[Yk (t, h, X)], so ist ϕ k-mal differenzierbar in t mit ϕ(k) (t) = ϕk (t). h→0
Es gilt aber (nach Lemma 15.30 mit n = k + 1) Yk (t, h, x) −→ (ix)k eitx f¨ur jedes x ∈ R und (nach Lemma 15.30 mit n = k) |Yk (t, h, x)| ≤ |x|k . Da nach Voraussetzung E[|X|k ] < ∞ gilt, folgt mit dem Satz u¨ ber majorisierte Konvergenz, h→0
dass E[Yk (t, h, X)] −→ E[(iX)k eitX ] = ϕ(k) (t). Eine einfache Anwendung des Stetigkeitslemmas (Satz 6.27) liefert die Stetigkeit von ϕ(k) . (ii) Dies folgt direkt aus (i). (iii) Nach Voraussetzung gilt
15.4 Charakteristische Funktion und Momente
315
n−1 hn (ih)k ) * E[Yn (t, h, X)] E eitX X k = ϕ(t + h) − k! n! k=0
≤
hn E[|X|n ] n→∞ −→ 0. n!
2
Korollar 15.32 (Momentenproblem). Sei X eine reelle Zufallsvariable mit α := lim sup n→∞
1 ) n *1/n E |X| < ∞. n
Dann ist die charakteristische Funktion ϕ von X analytisch, und die Verteilung n von X ist durch die Angabe ) t|X|der * Momente E[X ], n ∈ N, eindeutig bestimmt. Speziell gilt dies, falls E e < ∞ ist f¨ur ein t > 0. √ 1 n −n Beweis. Nach der Stirling’schen Formel ist limn→∞ n! n e 2π n = 1. F¨ur |h| < 1/(3α) gilt daher ) n √ * *1/n ) · |h| · e/n lim sup E |X|n · |h|n /n! = lim sup 2π n E |X|n n→∞ n→∞ √ ≤ lim sup 2π n (e/3)n = 0. n→∞
Die charakteristische Funktion ist also um jeden Punkt t ∈ R in eine Potenzreihe entwickelbar mit Konvergenzradius mindestens 1/(3α), ist insbesondere also analytisch. Damit ist sie festgelegt durch die Koeffizienten der Potenzreihe um t = 0, also durch die Momente von X. 2 Beispiele 15.33. (i) Sei X ∼ Nμ,σ2 . Dann ist f¨ur jedes t ∈ R *
−1/2 ∞ tx −(x−μ)2 /2σ2 ) e e dx E etX = 2πσ 2 −∞
−1/2 ∞ −(x−μ−tσ2 )2 /2σ2 2 2 = eμt+t σ /2 2πσ 2 e dx −∞ μt+t2 σ 2 /2
= e
< ∞.
Also ist die Verteilung von X durch Angabe aller Momente komplett bestimmt. Die 2 2 charakteristische Funktion ϕ(t) = eiμt e−σ t /2 , die wir durch die obige Rechnung mit it statt t erhalten, ist in der Tat analytisch. (ii) Sei X exponentialverteilt mit Parameter θ > 0. Dann ist f¨ur t ∈ (0, θ) ∞ θ < ∞. etx e−θx dx = E[etX ] = θ θ−t 0 Also ist die Verteilung von X durch Angabe aller Momente bestimmt. Die selbe Rechnung mit it statt t liefert ϕ(t) = θ/(θ − it), und diese Funktion ist in der Tat
316
15 Charakteristische Funktion und Zentraler Grenzwertsatz
analytisch. Der Umstand, dass ϕ im Komplexen eine Singularit¨at bei t = −iθ hat, impliziert, dass die Potenzreihe von ϕ um 0 den Konvergenzradius θ hat. Insbesondere folgt hieraus, dass nicht alle exponentiellen Momente existieren k¨onnen. Dies wird reflektiert durch die obige Rechnung, die zeigt, dass f¨ur t ≥ θ keine exponentiellen Momente existieren. 2
(iii) Sei X log-normalverteilt (siehe Beispiel 15.5). Dann ist E[X n ] = en /2 . Speziell ist in diesem Fall α = ∞. Tats¨achlich hatten wir in Beispiel 15.5 gesehen, dass die Momente in diesem Fall nicht die Verteilung von X bestimmen. lim supn→∞ E[X n ]1/n < 1, so gilt nach (iv) Hat X Werte in N0 und gilt β := ∞ k den Hadamard-Kriterium ψX (z) := ur |z| < 1/β. k=1 P[X = k] z < ∞ f¨ (n) Speziell ist die Erzeugendenfunktion von X durch die Ableitungen ψX (1), n ∈ N, und damit durch die Momente von X eindeutig festgelegt. Vergleiche Satz 3.2(iii). 3 Satz 15.34. Sei X eine reelle Zufallsvariable und ϕ die charakteristische Funktion von X. Sei n ∈ N, und ϕ sei 2n-mal differenzierbar in 0 mit Ableitung ϕ(2n) (0). Dann gilt E[X 2n ] = (−1)n ϕ(2n) (0) < ∞. Beweis. Wir f¨uhren den Beweis per Induktion nach n ∈ N0 . F¨ur n = 0 ist die Aussage trivialerweise richtig. Sei nun n ∈ N, und ϕ sei 2n-mal differenzierbar in 0. Wir setzen u(t) = Re(ϕ(t)). Dann ist u ebenfalls 2n-mal differenzierbar in 0 und u(2k−1) (0) = 0 f¨ur k = 1, . . . , n, weil u gerade ist. Da ϕ(2n) (0) existiert, ist ϕ(2n−1) stetig in 0 und ϕ(2n−1) (t) existiert f¨ur t ∈ (−ε, ε) f¨ur gewisses ε > 0. Ferner existiert dann ϕ(k) in (−ε, ε) und ist dort stetig f¨ur jedes k = 0, . . . , 2n − 2. Nach der Taylorformel gilt also f¨ur jedes t ∈ (−ε, ε) n−1 2k t |t|2n−1 u(2k) (0) (15.5) sup u(2n−1) (θt) . u(t) − ≤ (2k)! (2n − 1)! θ∈(0,1] k=0
Wir definieren eine stetige Funktion fn : R → [0, ∞) durch fn (0) = 1 und f¨ur x = 0 . n−1 2k n −2n k x cos(x) − fn (x) = (−1) (2n)! x . (−1) (2k)! k=0
Nach Induktionsvoraussetzung ist E[X ] = u Es folgt mit (15.5) 2k
(2k)
(0) f¨ur jedes k = 1, . . . , n − 1.
* 2n ) |u(2n−1) (θt)| sup |u(2n−1) (θt)| ≤ gn (t) := 2n sup . E fn (tX) X 2n ≤ |t| θ∈(0,1] θ |t| θ∈(0,1] Mit dem Lemma von Fatou folgt * ) * * ) ) E X 2n = E fn (0)X 2n ≤ lim inf E fn (tX)X 2n t→0
≤ lim inf gn (t) = 2n u(2n) (0) < ∞. t→0
15.4 Charakteristische Funktion und Momente
Nach Satz 15.31 folgt hieraus E[X 2n ] = (−1)n u(2n) (0) = (−1)n ϕ(2n) (0).
317
2
Bemerkung 15.35. F¨ur ungerade Momente gilt die Aussage des Satzes nicht (siehe ¨ etwa Ubung 15.4.4 f¨ur das erste Moment). In der Tat ist ϕ in 0 genau dann diffex→∞ renzierbar mit Ableitung i m f¨ur ein m ∈ R, wenn x P[|X| > x] −→ 0 und x→∞ E[X ½{|X|≤x} ] −→ m. (Siehe [56, Kapitel XVII.2a, Seite 565].) 3 ¨ Ubung 15.4.1. Es seien X und Y nichtnegative Zufallsvariablen mit lim sup n→∞
1 E[|X|n ]1/n < ∞, n
lim sup n→∞
1 E[|Y |n ]1/n < ∞, n
und E[X m Y n ] = E[X m ] E[Y n ]
f¨ur alle m, n ∈ N0 .
Man zeige: X und Y sind unabh¨angig. Hinweis: Verwende Korollar 15.32 f¨ur die Zufallsvariable Y bez¨uglich des Wahrscheinlichkeitsmaßes X m P[ · ]/E[X m ] um zu zeigen, dass E[X m ½A (Y )]/E[X m ] = P[Y ∈ A]
f¨ur jedes A ∈ B(R) und m ∈ N0 .
Verwende nun Korollar 15.32 f¨ur X bez¨uglich des W-Maßes P[ · |Y ∈ A].
♣
¨ Ubung 15.4.2. Seien r, s > 0, und seien Z ∼ Γ1,r+s und B ∼ βr,s unabh¨angig ¨ (siehe Beispiel 1.107). Man zeige mit Hilfe von Ubung 15.4.1: Die Zufallsvariablen X := BZ und Y := (1 − B)Z sind unabh¨angig mit X ∼ Γ1,r und Y ∼ Γ1,s . ♣ α ¨ Ubung 15.4.3. Man zeige, dass f¨ur α > 2 die Funktion φα (t) = e−|t| keine charakteristische Funktion ist.
(Hinweis: Man nehme das Gegenteil an und zeige, dass dann die zugeh¨orige Verteilung verschwindende Varianz h¨atte.) ♣ ¨ Ubung 15.4.4. Seien X1 , X2 , . . . u.i.v. reelle Zufallsvariablen mit charakteristischer Funktion ϕ. Man zeige: (i) Ist ϕ differenzierbar in 0, so ist ϕ (0) = i m f¨ur ein m ∈ R. (ii) ϕ ist differenzierbar in 0 mit ϕ (0) = i m genau dann, wenn (X1 + . . . + n→∞ Xn )/n −→ m stochastisch. (iii) Die Verteilung von X1 kann so gew¨ahlt werden, dass ϕ differenzierbar in 0 ist, ♣ aber E[|X1 |] = ∞.
318
15 Charakteristische Funktion und Zentraler Grenzwertsatz
¨ Ubung 15.4.5. Seien X1 , X2 , . . . reelle Zufallsvariablen. F¨ur r > 0 bezeichne Mr (Xn ) = E[|Xn |r ] das absolute r-te Moment. F¨ur k ∈ N bezeichne mk (Xn ) = E[Xnk ] das k-te Moment, falls Mk (Xn ) < ∞. (i) Sei X eine reelle Zufallsvariable und (Xnl )l∈N eine Teilfolge mit l→∞
PXnl −→ PX schwach. Es gebe es ein r > 0 mit supn∈N Mr (Xn ) < ∞. Zeige: F¨ur jedes k ∈ N∩(0, r) und jedes s ∈ (0, r) gilt Ms (X) < ∞ sowie l→∞
Ms (Xnl ) −→ Ms (X)
und
l→∞
mk (Xnl ) −→ mk (X).
(ii) F¨ur jedes k ∈ N existiere der Grenzwert mk := limn→∞ mk (Xn ) und sei endlich (dabei d¨urfen f¨ur jedes k endlich viele der mk (Xn ) undefiniert sein.) Zeige: Es existiert eine reelle Zufallsvariable X mit mk (X) = mk f¨ur jedes k ∈ N sowie eine Teilfolge (Xnl )l∈N mit l→∞
PXnl −→ PX schwach. (iii) Zeige den Satz von Fr´echet-Shohat: Ist in (ii) die Verteilung von X durch die Momente mk (X) = mk , k ∈ N, eindeutig bestimmt (siehe Korollar 15.32), so gilt n→∞ PXn −→ PX schwach. ♣ ¨ Ubung 15.4.6. Seien X1 , X2 , . . . u.i.v. reelle Zufallsvariablen mit E[X1 ] = 0 und E[|X1 |k ] < ∞ f¨ur jedes k ∈ N. (i) Zeige: Es gibt (von der Verteilung PX1 abh¨angige) endliche Zahlen (dk )k∈N , sodass f¨ur jedes k, n ∈ N gilt: ) * E (X1 + . . . + Xn )2k−1 ≤ d2k−1 nk−1 und
) * (2k)! ) * E (X1 + . . . + Xn )2k − k E X12 nk ≤ d2k nk−1 . 2 k! Hinweis: Man multipliziere die Klammer aus, sortiere nach den unterschiedlichen gemischten Momenten und bestimme die Anzahl der jeweiligen Summanden. Eine besondere Bedeutung kommt der Anzahl der Summanden vom Typ E[Xl21 · · · Xl2k ] f¨ur unterschiedliche l1 , . . . , lk zu.
(ii) Sei Y ∼ N0,1 . Zeige mit Hilfe von Satz 15.31(i): F¨ur jedes k ∈ N gilt ) * E Y 2k−1 = 0
) * (2k)! E Y 2k = k . 2 k! 3 (iii) Sei Var[X1 ] > 0 und Sn∗ = (X1 + . . . + Xn )/ n Var[X1 ]. Folgere mit Hilfe von Aufgabe 15.4.5 die Aussage des zentralen Grenzwertsatzes (vergleiche Satz 15.37) n→∞ ♣ PSn∗ −→ N0,1 schwach. und
15.5 Der Zentrale Grenzwertsatz
319
15.5 Der Zentrale Grenzwertsatz W¨ahrend wir im starken Gesetz der großen Zahl gesehen haben, dass Summen Sn = X1 + . . . + Xn u.i.v. integrierbarer Zufallsvariablen Werte in etwa von der Gr¨oße n·E[X1 ] annehmen, wollen wir jetzt anschauen, wie groß und von welcher Form die typischen Abweichungen von diesem Wert sind – jedenfalls unter der zus¨atzlichen Annahme, dass Var[X1 ] ∈ (0, ∞) gilt. Wir bereiten den Beweis des zentralen Grenzwertsatzes mit einem Lemma vor. Lemma 15.36. Seien X1 , X2 , . . . u.i.v. reelle Zufallsvariablen mit E[X1 ] = μ und Var[X1 ] = σ 2 ∈ (0, ∞). Sei Sn∗ := √
1
n
nσ 2
k=1
(Xk − μ)
die standardisierte n-te Partialsumme. Dann gilt 2
lim ϕSn∗ (t) = e−t
n→∞
/2
f¨ur jedes t ∈ R.
Beweis. Sei ϕ = ϕXk −μ . Dann ist nach Satz 15.31(ii) σ2 2 t + ε(t) t2 , 2 wobei ε(t) → 0, wenn t → 0. Nach Lemma 15.11(iv) und (ii) ist n t . ϕSn∗ (t) = ϕ √ nσ 2 n n→∞ −t2 /2 t2 Nun ist 1 − 2n −→ e und n n 2 t t2 t 1− t −ϕ √ ≤ n 1 − −ϕ √ 2 2 2n 2n nσ nσ n→∞ t2 t −→ 0. ≤ n 2 ε √ nσ nσ 2 ϕ(t) = 1 −
(Beachte: |un − v n | ≤ |u − v| · n · max(|u|, |v|)n−1 f¨ur alle u, v ∈ C.)
2
Satz 15.37 (Zentraler Grenzwertsatz). Seien X1 , X2 , . . . u.i.v. reelle Zufallsvariablen mit μ:= E[X1 ] ∈ R und σ 2 := Var[X1 ] ∈ (0, ∞). F¨ur n ∈ N sei Sn∗ := √σ12 n ni=1 (Xi − μ). Dann gilt n→∞
PSn∗ −→ N0,1 schwach. F¨ur −∞ ≤ a < b ≤ +∞ gilt lim P[Sn∗ ∈ [a, b]] = n→∞
√1 2π
0b a
e−x
2
/2
dx.
320
15 Charakteristische Funktion und Zentraler Grenzwertsatz
Beweis. Nach Lemma 15.36 und dem L´evy’schen Stetigkeitssatz (Satz 15.23) kon2 vergiert PSn∗ gegen die Verteilung mit charakteristischer Funktion ϕ(t) = e−t /2 . Nach Satz 15.12(i) ist dies N0,1 . Der Zusatz folgt mit dem Portemanteau Theorem 2 (Satz 13.16), weil N0,1 eine Dichte hat, also N0,1 (∂[a, b]) = 0 gilt. Bemerkung 15.38. Man kann ohne Benutzung des Stetigkeitssatzes auch so argumentieren: F¨ur jedes K > 0 und n ∈ N ist P[|Sn∗ | > K] ≤ Var[Sn∗ ]/K 2 = 1/K 2 , also ist die Folge PSn∗ straff. Da die charakteristischen Funktionen verteilungsbestimmend sind, folgt die Aussage mit Satz 13.34. 3 Wir wollen uns nun von der Annahme von Satz 15.37 l¨osen, dass die Zufallsvariablen identisch verteilt sind. Tats¨achlich k¨onnen wir sogar Partialsummen bilden, die jeweils ganz unterschiedliche zentrierte Zufallsvariablen aufsummieren. Entscheidend ist, dass die Varianz der normierten Summe 1 ist, und dass jeder einzelne Summanden nur einen kleinen Beitrag liefert. Definition 15.39. F¨ur jedes n ∈ N sei k n ∈ N und seien Xn,1 , . . . , Xn,kn reelle Zufallsvariablen. Wir nennen (Xn,l ) = Xn,l , l = 1, . . . , kn , n ∈ N ein Schema von Zufallsvariablen. Wir definieren stets Sn = Xn,1 + . . . + Xn,kn als die Zeilensumme. Das Schema heißt – unabh¨angig, falls f¨ur jedes n ∈ N die Familie (Xn,l )l=1,...,kn unabh¨angig ist, – zentriert, falls Xn,l ∈ L1 (P) und E[Xn,l ] = 0 ist f¨ur jedes n und l, – normiert, falls Xn,l ∈ L2 (P) und
kn
Var[Xn,l ] = 1 ist f¨ur jedes n ∈ N.
l=1
Ein zentriertes Schema heißt asymptotisch vernachl¨assigbar, falls f¨ur jedes ε > 0 lim
max P[|Xn,l | > ε] = 0.
n→∞ 1≤l≤kn
Definition 15.40. Ein zentriertes Schema (Xn,l ) mit Xn,l ∈ L2 (P) f¨ur jedes n ∈ N und l = 1, . . . , kn erf¨ullt die Lindeberg-Bedingung, falls f¨ur jedes ε > 0 gilt, dass Ln (ε) :=
kn ( ' 1 n→∞ 2 E Xn,l ½{X 2 > ε2 Var[Sn ]} −→ 0. n,l Var[Sn ]
(15.6)
l=1
Das Schema erf¨ullt die Lyapunov-Bedingung, falls f¨ur ein δ > 0 gilt kn * ) 1 E |Xn,l |2+δ = 0. 1+(δ/2) n→∞ Var[Sn ]
lim
(15.7)
l=1
Lemma 15.41. Die Lyapunov-Bedingung impliziert die Lindeberg-Bedingung.
15.5 Der Zentrale Grenzwertsatz
321
Beweis. F¨ur x ∈ R ist x2 ½{|x|>ε } ≤ (ε )−δ |x|2+δ ½{|x|>ε } ≤ (ε )−δ |x|2+δ . Mit kn 3 * ) 1 ε := ε Var[Sn ] folgt Ln (ε) ≤ ε−δ 2 E |Xn,l |2+δ . 1+(δ/2) Var[Sn ] l=1
Beispiel 15.42. Seien (Yn )n∈N u.i.v. mit E[Yn ] = 0 und Var[Yn ] = 1. Sei kn = n und Xn,l = √Ynl . Dann ist (Xn,l ) unabh¨angig, zentriert und normiert. Es gilt √ n→∞ P[|Xn,l | > ε] = P[|Y1 | > ε n ] −→ 0, also ist (Xn,l ) asymptotisch ver* n→∞ ) 2 nachl¨assigbar. Es gilt Ln (ε) = E Y1 ½{|Y1 |>√εn} −→ 0, also erf¨ullt (Xn,l ) die Lindeberg-Bedingung. Gilt Y1 ∈ L2+δ (P) f¨ur ein δ > 0, so ist n ) ) * * n→∞ E |Xn,l |2+δ = n−(δ/2) E |Y1 |2+δ −→ 0. l=1
3
In diesem Fall erf¨ullt (Xn,l ) auch die Lyapunov Bedingung.
Der folgende Satz geht auf Lindeberg (1922) f¨ur die Richtung (i) =⇒ (ii) und Feller (1935 und 1937) f¨ur die Richtung (ii) =⇒ (i) zur¨uck. In den Anwendungen interessiert meist nur die Richtung von Lindeberg (i) =⇒ (ii), daher beweisen wir nur diesen Teil. F¨ur die Richtung (ii) =⇒ (i) siehe etwa [154, Theorem III.4.3]. Satz 15.43 (Zentraler Grenzwertsatz von Lindeberg-Feller). Sei (Xn,l ) ein unabh¨angiges, zentriertes und normiertes Schema reeller Zufallsvariablen sowie Sn = Xn,1 + . . . + Xn,kn f¨ur jedes n ∈ N. Dann sind a¨ quivalent (i) Es gilt die Lindeberg-Bedingung. n→∞
(ii) (Xn,l ) ist asymptotisch vernachl¨assigbar, und es gilt PSn −→ N0,1 . Wir bereiten den Beweis des Satzes von Lindeberg mit ein paar Lemmata vor. Lemma 15.44. Gilt (i) in Satz 15.43, so ist (Xn,l ) asymptotisch vernachl¨assigbar. Beweis. F¨ur ε > 0 ist nach der Chebyshev’schen Ungleichung kn kn * ) * ) 2 n→∞ −2 P |Xn,l | > ε ≤ ε E Xn,l ½{|Xn,l |>ε} = Ln (ε) −→ 0. l=1
2
l=1
Seien im Folgenden stets ϕn,l und ϕn die charakteristischen Funktionen von Xn,l und Sn . Lemma 15.45. F¨ur jedes n ∈ N und t ∈ R gilt
kn 2 1 − ϕn,l (t) ≤ t . 2 l=1
322
15 Charakteristische Funktion und Zentraler Grenzwertsatz
Beweis. F¨ur jedes x ∈ R ist |eitx − 1 − itx| ≤ kn
|ϕn,l (t) − 1| =
l=1
t2 x2 2 .
Wegen E[Xn,l ] = 0 ist
kn E[eitXn,l − 1] l=1
≤
kn * ) E eitXn,l − itXn,l − 1 + E[itXn,l ] l=1
≤
kn 2 t l=1
2
2 E[Xn,l ]=
t2 . 2
2
kn ) * Lemma 15.46. Gilt (i) in Satz 15.43, so ist lim log ϕn (t)− E eitXn,l −1 = 0. n→∞
Beweis. Setze mn :=
l=1
max |ϕn,l (t) − 1|. Beachte, dass f¨ur jedes ε > 0 gilt:
l=1,...,kn
itx e − 1 ≤
2 x2 /ε2 , ε t,
falls |x| > ε, falls |x| ≤ ε.
Hieraus folgt ' ( ' ( |ϕn,l (t) − 1| ≤ E eitXn,l − 1 ½{|Xn,l |≤ε} + E eitXn,l − 1 ½{|Xn,l |>ε} ' ( 2 ½{|Xn,l |>ε} . ≤ εt + 2 ε−2 E Xn,l Also ist f¨ur jedes ε > 0
lim sup mn ≤ lim sup εt + 2 ε−2 Ln (ε) = εt, n→∞
n→∞
und damit lim mn = 0. Nun ist f¨ur x ∈ C mit |x| ≤ n→∞
Ist n groß genug, sodass mn < 12 , dann ist
1 2
stets | log(1 + x) − x| ≤ x2 .
15.5 Der Zentrale Grenzwertsatz
323
k kn n E[eitXn,l − 1] = log(ϕn,l (t)) − E[eitXn,l − 1] log ϕn (t) − l=1
l=1
≤
kn
ϕn,l (t) − 1
2
l=1
≤ mn
kn
|ϕn,l (t) − 1|
l=1
≤
1 m n t2 2
−→ 0
(nach Lemma 15.45)
f¨ur n → ∞.
Der eigentliche Trick besteht in der Einf¨uhrung der Funktion ⎧ itx 1 + x2 itx ⎪ ⎪ e −1− , falls x = 0, ⎨ x2 1 + x2 ft (x) := ⎪ ⎪ t2 ⎩ − , falls x = 0, 2
2
(15.8)
sowie der Maße μn , νn ∈ Mf (R), n ∈ N, νn (dx) :=
kn
x2 PXn,l (dx)
und
μn (dx) :=
l=1
kn l=1
x2 PXn,l (dx). 1 + x2
Lemma 15.47. F¨ur jedes t ∈ R gilt ft ∈ Cb (R). Beweis. F¨ur jedes |x| ≥ 1 ist
1+x2 x2
≤ 2, also gilt
|ft (x)| ≤ 2 |eitx | + 1 +
tx 1 + x2
≤ 4 + 2|t|.
Wir m¨ussen zeigen, dass ft stetig in 0 ist. Die Taylorformel (Lemma 15.30) liefert eitx = 1 + itx −
t 2 x2 + R(tx) 2
mit |R(tx)| ≤ 16 |tx|3 . Also ist f¨ur festes t t2 1 1 t2 x 2 + R(tx) =− . 2 lim ft (x) = lim itx 1 − − 2 2 0 =x→0 0 =x→0 x 1+x 2 2 n→∞
Lemma 15.48. Gilt (i) in Satz 15.43, so gilt νn −→ δ0 schwach.
324
15 Charakteristische Funktion und Zentraler Grenzwertsatz
Beweis. F¨ur jedes n ∈ N ist νn ∈ M1 (R), denn νn (R) =
kn
kn
x2 PXn,l (dx) =
l=1
Var[Xn,l ] = 1.
l=1 n→∞
n→∞
F¨ur ε > 0 gilt aber νn ((−ε, ε)c ) = Ln (ε) −→ 0, also νn −→ δ0 .
2
Lemma 15.49. Gilt (i) in Satz 15.43, so gilt
ft (x) μn (dx) + it
t2 1 n→∞ μn (dx) −→ − . x 2
Beweis. Wegen (x → ft (x)/(1 + x2 )) ∈ Cb (R) ist nach Lemma 15.48 1 t2 n→∞ ν (dx) −→ f (0) = − ft (x) μn (dx) = ft (x) . n t 1 + x2 2 Nun ist (x → x/(1 + x2 )) ∈ Cb (R) und E[Xn,l ] = 0 f¨ur jedes n und l, also . . kn kn 1 Xn,l Xn,l μn (dx) = E E = 2 2 − Xn,l x 1 + Xn,l 1 + Xn,l l=1
=−
l=1
kn l=1
-
Xn,l 2 E Xn,l · 2 1 + Xn,l
.
x n→∞ νn (dx) −→ 0. 1 + x2
=−
2
Beweis von Satz 15.43. 2 (i) =⇒ (ii)“ Wir m¨ussen f¨ur jedes t ∈ R zeigen, dass lim log ϕn (t) = − t2 . ” n→∞ Nach Lemma 15.46 ist dies a¨ quivalent zu lim
n→∞
Nun ist ft (x) kn
x2 1+x2
kn
l=1
= eitx − 1 −
kn ϕn,l (t) − 1 =
l=1
t2 ϕn,l (t) − 1 = − . 2
itx . 1+x2
Also gilt
ft (x)
l=1
=
ft dμn + it
n→∞
−→ −
x2 itx + 2 1+x 1 + x2
t2 2
PXn,l (dx)
1 μn (dx) x
(nach Lemma 15.49).
2
15.5 Der Zentrale Grenzwertsatz
325
Als eine Anwendung des Satzes von Lindeberg-Feller bringen wir den so genannten Dreireihensatz, der auf Kolmogorov zur¨uckgeht. Satz 15.50 (Kolmogorov’scher Dreireihensatz). Seien X1 , X2 , . . . unabh¨angige reelle Zufallsvariablen. Es sei K > 0 und Yn := Xn ½{|Xn |≤K} f¨ur jedes n ∈ N. ∞ Die Reihe n=1 Xn konvergiert genau dann fast sicher, wenn die folgenden drei Bedingungen gelten: (i)
∞
P[|Xn | > K] < ∞,
n=1
(ii)
∞
E[Yn ] konvergiert,
n=1
(iii)
∞
Var[Yn ] < ∞.
n=1
¨ Beweis. ⇐= “ Es gelten (i), (ii) und (iii). Nach Ubung 7.1.1 konvergiert ∞ wegen ” ∞ (iii) die Reihe n=1 (Yn − E[Yn ]) f.s. Wegen (ii) konvergiert also n=1 Yn f.s. Nach dem Lemma von Borel-Cantelli existiert ein N = N (ω), sodass |Xn | < K, ∞ N −1 ∞ also Xn = Yn , f¨ur n ≥ N . Also ist n=1 Xn = n=1 Xn + n=N Yn f.s. konvergent. ∞ =⇒ “ Es konvergiere n=1 Xn f.s. Offenbar folgt daraus, dass (i) gilt (andern” falls w¨are nach dem Lemma von Borel-Cantelli |Xn | > K unendlich oft, was der Annahme widerspr¨ache). Wir nehmen n an, dass (iii) nicht gilt und f¨uhren dies zum Widerspruch. Wir setzen σn2 = k=1 Var[Yk ] und definieren ein Schema (Xn,l ; l = 1, . . . , n, n ∈ N) durch Xn,l = (Yl − E[Yl ])/σn . Das Schema ist zentriert und normiert. Wegen n→∞ σn2 −→ ∞, gilt f¨ur jedes ε > 0 und großes n ∈ N, dass 2K < εσn , aln→∞ so |Xn,l | ≤ ε f¨ur alle l = 1, . . . , n. Es folgt Ln (ε) −→ 0, wobei Ln (ε) = n * ) 2 E Xn,l ½{|Xn,l |≥ε} die Gr¨oße aus der Lindeberg-Bedingung ist (siehe (15.6)). l=1
n→∞
Nach dem Satz von Lindeberg-Feller gilt also Sn := Xn,1 +. . .+Xn,n =⇒ N0,1 . Wie ∞im ersten Teil des Beweises gezeigt, folgt aus der fast sicheren Konvergenz von n=1 Xn und aus (i) ∞
Yn
konvergiert fast sicher.
(15.9)
n=1 n→∞
Insbesondere gilt Tn := (Y1 + . . . + Yn )/σn =⇒ 0. Nach dem Satz von Slutzky n→∞ gilt also auch (Sn − Tn ) =⇒ N0,1 . Andererseits ist Sn − Tn deterministisch f¨ur jedes n ∈ N, womit die Annahme, dass (iii) nicht gilt ad absurdum gef¨uhrt ist.
326
15 Charakteristische Funktion und Zentraler Grenzwertsatz
¨ Nachdem wir (iii) schon gezeigt haben, folgt mit Ubung 7.1.1, dass E[Yn ]) fast sicher konvergiert. Wegen (15.9) folgt (ii).
∞
n=1 (Yn
− 2
Als Erg¨anzung bringen wir ohne Beweis eine Absch¨atzung f¨ur die Konvergenzgeschwindigkeit im Zentralen Grenzwertsatz (siehe beispielsweise [154, Kapitel III, §11] f¨ur einen Beweis), die mit anderen Konstanten (statt 0.8) unabh¨angig von Berry [13] und Esseen [48] gefunden wurde. Satz 15.51 (Berry-Esseen). Seien X1 , X2 , . . . unabh¨angig und identisch verteilt mit E[X1 ] = 0, E[X12 ] = σ 2 ∈ (0, ∞) und γ := E[|X1 |3 ] < ∞. Seien Sn∗ := 0 x −t2 /2 √ 1 (X1 + · · · + Xn ) und Φ : x → √1 e dt die Verteilungsfunktion 2π −∞ nσ 2 der Standardnormalverteilung. Dann gilt f¨ur jedes n ∈ N 0.8 γ sup P [Sn∗ ≤ x] − Φ(x) ≤ 3 √ . σ n x∈R ¨ Ubung 15.5.1. Die Argumentation aus Bemerkung 15.38 ist etwas direkter als die Argumentation mit dem L´evy’schen Stetigkeitssatz, allerdings etwas weniger robust: Man gebe eine Folge X1 , X2 , . . . von unabh¨angigen, reellen Zufallsvariablen an mit E[|Xn |] = ∞ f¨ur jedes n ∈ N, aber mit X1 + . . . + Xn n→∞ √ =⇒ N0,1 . n
♣
¨ Ubung 15.5.2. Seien Y1 , Y2 , . . . u.i.v. mit E[Yi ] = 0 und E[Yi2 ] = 1. Davon unabh¨angig seien Z1 , Z2 , . . . unabh¨angige Zufallsvariablen mit P[Zi = i] = P[Zi = −i] =
11 1 1 − P[Zi = 0] = 2 . 2 2i
Setze Xi := Yi + Zi und Sn = X1 + . . . + Xn f¨ur i, n ∈ N. n→∞
Man zeige: n−1/2 Sn =⇒ N0,1 , aber (Xi )i∈N erf¨ullt keine Lindeberg-Bedingung. Hinweis: M¨oglichst nicht direkt ausrechnen!
♣
¨ Ubung 15.5.3. Seien X1 , X2 , . . . u.i.v. Zufallsvariablen mit Dichte f (x) =
1 ½R\[−1,1] (x). |x|3
Dann ist E[X12 ] = ∞, aber es gibt Zahlen A1 , A2 , . . ., sodass X1 + . . . + Xn n→∞ =⇒ N0,1 . An Man gebe die Folge (An )n∈N explizit an.
♣
15.6 Mehrdimensionaler Zentraler Grenzwertsatz
327
15.6 Mehrdimensionaler Zentraler Grenzwertsatz Wir kommen zu einer mehrdimensionalen Variante des zentralen Grenzwertsatzes. Definition 15.52. Sei C eine (strikt) positiv definite symmetrische reelle d×d Matrix und μ ∈ Rd . Ein Zufallsvektor X = (X1 , . . . , Xd )T heißt d-dimensional normalverteilt mit Erwartungswert μ und Kovarianzmatrix C, falls X die Dichte 1A B 1 fμ,C (x) = 3 (15.10) exp − x − μ, C −1 (x − μ) 2 (2π)d det(C) f¨ur x ∈ Rd hat. Wir schreiben X ∼ Nμ,C . Satz 15.53. Sei μ ∈ Rd und C eine positiv definite symmetrische reelle d × d Matrix. Ist X ∼ Nμ,C , dann gelten: (i) E[Xi ] = μi f¨ur jedes i = 1, . . . , d. (ii) Cov[Xi , Xj ] = Ci,j f¨ur alle i, j = 1, . . . , d. (iii) λ, X! ∼ Nλ,μ,λ,Cλ f¨ur jedes λ ∈ Rd . 1
(iv) ϕ(t) := E[eit,X ] = eit,μ e− 2 t,Ct f¨ur jedes t ∈ Rd . Es gilt sogar X ∼ Nμ,C ⇐⇒ (iii) ⇐⇒ (iv). Beweis. (i) und (ii) sind einfache Rechnungen, ebenso (iii) und (iv). Die Implikation (iii) =⇒ (iv) ist simpel. Die Familie {ft : x → eit,x , t ∈ Rd } ist trennend f¨ur M1 (Rd ) nach dem Satz von Stone–Weierstraß. Also legt ϕ die Verteilung von X eindeutig fest. 2 Bemerkung 15.54. F¨ur eindimensionale Normalverteilungen liegt es nahe, Nμ,0 als δμ zu definieren. Einen so einfachen Begriff k¨onnen wir bei mehrdimensionalen Normalverteilungen nicht mehr erwarten (außer f¨ur den Fall C = 0), wenn eine Entartung nur in einigen Richtungen auftritt, also C nur noch positiv semidefinit und symmetrisch ist. In diesem Fall definieren wir Nμ,C als diejenige Verteilung 1 auf Rn mit charakteristischer Funktion ϕ(t) = eit,μ e− 2 t,Ct . 3 Satz 15.55 (Cram´er-Wold Device). Es seien Xn = (Xn,1 , . . . , Xn,d )T ∈ Rd , n ∈ N, Zufallsvektoren. Dann sind a¨ quivalent: n→∞
(i) Es gibt einen Zufallsvektor X mit Xn =⇒ X. n→∞
(ii) F¨ur jedes λ ∈ Rd gibt es eine Zufallsvariable X λ mit λ, Xn ! =⇒ X λ . D
Gelten (i) und (ii), so ist X λ = λ, X! f¨ur jedes λ ∈ Rd .
328
15 Charakteristische Funktion und Zentraler Grenzwertsatz
Beweis. Gelte (i). Sei λ ∈ Rd und s ∈ R. Die Abbildung Rd → C, x → ei sλ,x n→∞ ist stetig und beschr¨ankt, also gilt E[ei sλ,Xn ] −→ E[ei sλ,X ]. Damit gilt (ii) f¨ur X λ := λ, X!. Gelte nun (ii). Dann ist (PXn,l )n∈N straff, l = 1, . . . , d. Also ist (PXn )n∈N straff und damit relativ folgenkompakt (Satz von Prohorov). F¨ur jeden schwachen H¨aufungspunkt Q von (PXn )n∈N ist f¨ur jedes λ ∈ Rd ) λ* Q(dx) eiλ,x = E eiX . Also ist der H¨aufungspunkt Q eindeutig und damit (PXn )n∈N schwach konvergent. Es gilt also (i). Gilt (ii), so sind die schwachen Limiten X λ in Verteilung eindeutig und nach dem D Gezeigten ist X λ = λ, X! eine m¨ogliche Wahl. Es gilt also stets X λ = λ, X!. 2 Satz 15.56 (Zentraler Grenzwertsatz im Rd ). Seien (Xn )n∈N u.i.v. Zufallsvektoren mit E[Xn,i ] = 0 und E[Xn,i Xn,j ] = Cij , i, j = 1, . . . , d. Sei Sn∗ := X1 +...+X n √ . Dann gilt n n→∞
PSn∗ −→ N0,C
schwach.
Beweis. Sei λ ∈ Rd . Setze Xnλ = λ, Xn !, Snλ = λ, Sn∗ ! und S∞ ∼ N0,C . Dann ist E[Xnλ ] = 0 und Var[Xnλ ] = λ, Cλ!. Nach dem eindimensionalen Zentralen n→∞ Grenzwertsatz gilt PSnλ −→ N0,λ,Cλ = Pλ, S∞ . Nach Satz 15.55 zeigt dies die Aussage. 2 ¨ Ubung 15.6.1. Sei μ ∈ Rd , C eine symmetrische positiv semidefinite reelle d × d Matrix und X ∼ Nμ,C (im Sinne von Bemerkung 15.54). Man zeige: F¨ur jedes m ∈ N und jede reelle m × d Matrix A gilt AX ∼ NAμ,ACAT . ♣ ¨ Ubung 15.6.2 (Cholesky-Faktorisierung). Sei C eine positiv definite symmetrische reelle d × d Matrix. Dann existiert eine reelle d × d Matrix A = (akl ) mit A · AT = C. Man kann A sogar als untere Dreiecksmatrix w¨ahlen. Sei W := (W1 , . . . , Wd )T , wo W1 , . . . , Wd unabh¨angig und N0,1 verteilt sind. Wir setzen X := AW + μ. Man zeige: X ∼ Nμ,C . ♣
16 Unbegrenzt teilbare Verteilungen
Die Normalverteilung Nμ,σ2 l¨asst sich f¨ur jedes n ∈ N als n-te Faltungspotenz eines W-Maßes schreiben (n¨amlich von Nμ/n,σ2 /n ). Die selbe Eigenschaft, die wir unbegrenzte Teilbarkeit nennen, hat die Poisson-Verteilung. Im ersten Abschnitt untersuchen wir, welche W-Maße auf R unbegrenzt teilbar sind und geben eine ersch¨opfende Beschreibung der Klasse dieser Maße durch die L´evy-Khinchin Formel. Die Normalverteilung hat (im Gegensatz zur Poisson-Verteilung) die Eigenschaft, dass sie als Grenzwert reskalierter Summen von u.i.v. Zufallsvariablen auftritt (Zentraler Grenzwertsatz). Im zweiten Abschnitt untersuchen wir knapp die Teilklasse unbegrenzt teilbarer Maße auf R, die diese Eigenschaft haben.
16.1 Die L´evy-Khinchin Formel Zur Abk¨urzung verwenden wir in diesem Abschnitt die Bezeichnung CFW“ f¨ur ” charakteristische Funktion eines W-Maßes auf R“. ” Definition 16.1. Ein Maß μ ∈ M1 (R) heißt unbegrenzt teilbar, falls es f¨ur jedes n ∈ N ein μn ∈ M1 (R) mit der Eigenschaft μ∗n n = μ gibt. Analog nennen wir eine CFW ϕ unbegrenzt teilbar, falls es zu jedem n ∈ N eine CFW ϕn gibt mit ϕ = ϕnn . Eine reelle Zufallsvariable X heißt unbegrenzt teilbar, falls es zu jedem n ∈ N u.i.v. D Zufallsvariablen Xn,1 , . . . , Xn,n gibt mit X = Xn,1 + . . . + Xn,n . Offenbar sind alle drei Begriffe der unendlichen Teilbarkeit a¨ quivalent, und wir wollen sie synonym verwenden. Man beachte, dass die Eindeutigkeit von μn beziehungsweise ϕn keineswegs evident ist. Tats¨achlich folgt aus der n-fachen Teilbarkeit noch nicht die Eindeutigkeit der n-ten Faltungswurzel μ∗1/n := μn beziehungsweise von ϕn . Um dies f¨ur gerades n einzusehen, w¨ahle man etwa eine reelle CFW ϕ, f¨ur die |ϕ| = ϕ ebenfalls eine CFW ist (siehe Beispiel 15.16 und 15.17). Dann ist ϕn = |ϕ|n n-fach teilbar, jedoch sind die Faktoren nicht eindeutig. ¨ Mit Hilfe des L´evy’schen Stetigkeitssatzes kann man zeigen (siehe Ubung 16.1.1), dass ϕ(t) = 0 f¨ur alle t ∈ R gilt, falls ϕ unbegrenzt teilbar ist. Die probabilistische Bedeutung dieser Aussage liegt darin, dass log(ϕ(t)) als stetige Funktion eindeutig
330
16 Unbegrenzt teilbare Verteilungen
definiert ist und damit auch nur genau eine stetige Funktion ϕ1/n = exp(log(ϕ)/n) existiert. Die n-ten Faltungswurzeln sind also eindeutig definiert, falls die Verteilung unbegrenzt teilbar ist. ∗n Beispiele 16.2. (i) δx ist unbegrenzt teilbar mit δx/n = δx f¨ur jedes n ∈ N. ∗n (ii) Die Normalverteilung ist unbegrenzt teilbar mit Nm,σ2 = Nm/n,σ 2 /n .
(iii) Die Cauchy-Verteilung Caua mit Dichte x → (aπ)−1 (1 + (x/a)2 )−1 ist −a|t| unbegrenzt teilbar mit Caua = Cau∗n , a/n . In der Tat: Caua hat CFW ϕa (t) = e n also ist ϕa/n = ϕa . (iv) Jede symmetrische stabile Verteilung mit Index α ∈ (0, 2] und Gr¨oßenparaα meter γ > 0, also mit CFW ϕα,γ (t) = e−|γt| , ist unbegrenzt teilbar. In der Tat n ist ϕα,γ/n1/α = ϕα,γ . (Genau genommen haben wir bislang erst f¨ur α ∈ (0, 1] (in Korollar 15.25) und f¨ur α = 2 (Normalverteilung) gezeigt, dass ϕα,γ u¨ berhaupt eine CFW ist. In Abschnitt 16.2 zeigen wir, dass dies tats¨achlich f¨ur alle α ∈ (0, 2] ¨ richtig ist. F¨ur α > 2 ist ϕα,γ hingegen keine CFW, siehe Ubung 15.4.3.) (v) Die Gamma-Verteilung Γθ,r mit CFW ϕθ,r (t) = exp(rψθ (t)), wo ψθ (t) = ∗n log(1 − it/θ) ist, ist unbegrenzt teilbar mit Γθ,r = Γθ,r/n . (vi) Die Poisson-Verteilung ist unbegrenzt teilbar mit Poiλ = Poi∗n λ/n . −r (−1)k pr (1 − p)k , k ∈ (vii) Die negative Binomialverteilung b− r,p ({k}) = k N0 , mit Parametern r > 0 und p ∈ (0, 1) ist unbegrenzt teilbar mit b− r,p = ∗n rψp (t) ) . In der Tat ist ϕ (t) = e , wo (b− r,p r/n,p ψp (t) = log(p) − log(1 − (1 − p)eit ).
, wobei (viii) Seien X und Y unabh¨angig und X ∼ N0,σ2 sowie Y ∼ Γθ,r√ σ2 , θ, r > 0 sind. Man kann zeigen, dass die Zufallsvariable Z := X/ Y unbegrenzt teilbar ist (siehe [68] oder [132]). Insbesondere ist die Student’sche tVerteilung mit k ∈ N Freiheitsgraden unbegrenzt teilbar (dieses ist der Fall σ 2 = 1 und θ −1 = r = k). (ix) Die Binomialverteilung bn,p ist f¨ur n ∈ N und p ∈ (0, 1) nicht unbegrenzt teilbar (warum?). (x) Etwas allgemeiner ist außer der trivialen Verteilung keine Verteilung unbegrenzt teilbar, die auf ein endliches Intervall konzentriert ist. 3 Ein Hauptziel dieses Abschnitts ist es zu zeigen, dass sich jede unbegrenzt teilbare Verteilung aus drei generischen zusammensetzt:
16.1 Die L´evy-Khinchin Formel
331
– den Punktverteilungen δx mit x ∈ R, – den Normalverteilungen Nμ,σ2 mit μ ∈ R und σ 2 > 0, – (Grenzwerten von) Faltungen von Poisson-Verteilungen. Da die Faltungen von Poisson-Verteilungen eine besondere Rolle spielen, wollen wir sie hier gesondert betrachten. Ist ν ∈ M1 (R) mit CFW ϕν und ist λ > 0, so kann man leicht nachrechnen, ∞ k dass ϕ(t) = exp(λ(ϕν (t) − 1)) die CFW von μλ = k=0 e−λ λk! ν ∗k ist. Formal k¨onnen wir also μλ = e∗λ(ν−δ0 ) schreiben. Tats¨achlich ist μλ unbegrenzt teilbar mit μλ = μ∗n λ/n . Wir wollen nun die Parameter λ und ν zu λν zusammenfassen. F¨ur ν ∈ Mf (R) k¨onnen wir ν ∗n = ν(R)n (ν/ν(R))∗n setzen, beziehungsweise ν ∗n = 0, falls ν = 0. Wir treffen daher die folgende Definition. Definition 16.3. Die zusammengesetzte Poissonverteilung (compound Poisson distribution) mit Intensit¨atsmaß ν ∈ Mf (R) ist das folgende W-Maß auf R: CPoiν := e∗(ν−ν(R)δ0 ) := e−ν(R)
∞ ν ∗n . n! n=0
Die CFW von CPoiν ist gegeben durch itx (e − 1) ν(dx) . ϕν (t) = exp
(16.1)
Speziell ist CPoiμ+ν = CPoiμ ∗ CPoiν , also ist CPoiν unbegrenzt teilbar. Beispiel 16.4. F¨ur jede messbare Menge A ⊂ R \ {0} und jedes r > 0 ist r −1 CPoirν (A) = e−rν(R) ν(A) + e−rν(R)
∞ r k−1 ν ∗k (A) k=2
k!
r↓0
−→ ν(A).
Wir wollen dies benutzen um zu zeigen, dass b− ur ein gewisses ν ∈ r,p = CPoirν f¨ Mf (N). Wir berechnen dazu f¨ur k ∈ N r −1 b− r,p ({k}) =
k r(r + 1) · · · (r + k − 1) r r↓0 (1 − p) p (1 − p)k −→ . r k! k
ur ein ν ∈ Mf (N) ist, ist also ν({k}) = (1 − p)k /k. Wir Wenn b− r,p = CPoirν f¨ berechnen die CFW von CPoirν f¨ur dieses ν ∞ ((1 − p)eit )k
−r . = 1 − (1 − p)eit ϕrν (t) = exp r k k=1
Dies ist aber die CFW von b− achlich b− r,p , also ist tats¨ r,p = CPoirν .
3
332
16 Unbegrenzt teilbare Verteilungen
Nicht jede unbegrenzt teilbare Verteilung ist vom Typ CPoiν , allerdings gilt: Satz 16.5. Ein W-Maß μ auf R ist genau dann unbegrenzt teilbar, wenn es eine n→∞ Folge (νn )n∈N in Mf (R \ {0}) gibt mit CPoiνn −→ μ. Da jedes CPoiνn unbegrenzt teilbar ist, m¨ussen wir einerseits zeigen, dass diese Eigenschaft unter schwachen Limiten erhalten bleibt. Andererseits zeigen wir, dass f¨ur unbegrenzt teilbares μ die Folge νn = nμ∗1/n das Gew¨unschte leistet. Wir bereiten den Beweis mit einem weiteren Satz vor. Satz 16.6. Sei (ϕn )n∈N eine Folge von CFWs. Dann sind a¨ quivalent: (i) F¨ur jedes t ∈ R existiert ϕ(t) = lim ϕnn (t), und ϕ ist stetig in 0. n→∞
(ii) F¨ur jedes t ∈ R existiert ψ(t) = lim n(ϕn (t) − 1), und ψ ist stetig in 0. n→∞
Gelten (i) und (ii), so ist ϕ = eψ eine CFW. Beweis. Der Beweis beruht auf der Taylor-Entwicklung des Logarithmus’ | log(z) − (z − 1)| ≤
1 |z − 1|2 2
f¨ur z ∈ C mit |z − 1| <
1 . 2
Speziell gilt f¨ur (zn )n∈N in C lim sup n |zn − 1| < ∞ ⇐⇒ lim sup |n log(zn )| < ∞ n→∞
(16.2)
n→∞
und limn→∞ n(zn − 1) = limn→∞ n log(zn ), falls einer der Limiten existiert. Wenden wir dies auf zn = ϕn (t) an, so folgt (i) aus (ii). Andererseits folgt (ii) aus (i), wenn lim inf n→∞ n log(|ϕn (t)|) > −∞, also wenn ϕ(t) = 0 f¨ur jedes t ∈ R. Da ϕ stetig in 0 ist und ϕ(0) = 1 gilt, gibt es ein ε > 0 mit |ϕ(t)| > 12 f¨ur jedes t ∈ [−ε, ε]. Da ϕ und ϕn CFWs sind, sind auch |ϕ|2 und |ϕn |2 CFWs. Aus der punktweisen Konvergenz von |ϕn (t)|2n gegen |ϕ(t)|2 folgt nach dem L´evy’schen Stetigkeitssatz also die gleichm¨aßige Konvergenz auf kompakten Mengen. Wende nun (16.2) mit zn = |ϕn (t)|2 an. F¨ur t ∈ [−ε, ε] ist daher (n(1 − |ϕn (t)|2 ))n∈N beschr¨ankt. Nach Lemma 15.11(v) ist dann aber auch n(1 − |ϕn (2t)|2 ) ≤ 4n(1 − |ϕn (t)|2 ) beschr¨ankt, also |ϕ(2t)|2 ≥ lim inf exp(4n(|ϕn (t)|2 − 1)) = (|ϕ(t)|2 )4 . n→∞
Iterativ erhalten wir |ϕ(t)| ≥ 2−(4
k
|ϕ(t)| >
)
f¨ur |t| ≤ 2k ε. Es gibt also ein γ > 0, sodass
1 −γ t2 e 2
f¨ur jedes t ∈ R.
(16.3)
16.1 Die L´evy-Khinchin Formel
333
Gelten (i) und (ii), so ist log ϕ(t) = lim n log(ϕn (t)) = lim n(ϕn (t) − 1) = ψ(t). n→∞
n→∞
Nach dem L´evy’schen Stetigkeitssatz ist ϕ als stetiger Limes von CFWs selbst eine CFW. 2 Korollar 16.7. Gelten die Bedingungen von Satz 16.6, so ist ϕr eine CFW f¨ur jedes r > 0. Insbesondere ist ϕ = (ϕ1/n )n unbegrenzt teilbar. Beweis. Ist ϕn die CFW von μn ∈ M1 (R), so ist ern(ϕn −1) die CFW von CPoirnμn . Als in 0 stetiger Limes von CFWs ist ϕr = erψ = limn→∞ ern(ϕn −1) nach dem L´evy’schen Stetigkeitssatz eine CFW. Mit r = n1 folgt, dass ϕ = (ϕ1/n )n unbegrenzt teilbar ist. 2 Korollar 16.8. Eine in 0 stetige Funktion ϕ : R → C ist genau dann eine unbegrenzt teilbare CFW, wenn es eine Folge (ϕn )n∈N von CFWs gibt mit ϕnn (t) → ϕ(t) f¨ur jedes t ∈ R. Beweis. Die eine Richtung ist schon in Korollar 16.7 gezeigt worden. Sei also ϕ 2 eine unbegrenzt teilbare CFW. Dann leistet ϕn = ϕ1/n das Gew¨unschte. Korollar 16.9. Ist (μn )n∈N eine (schwach) konvergente Folge unbegrenzt teilbarer W-Maße auf R, so ist μ = limn→∞ μn unbegrenzt teilbar. ∗1/n
Beweis. Wende Satz 16.6 an mit ϕn die CFW von μn
.
2
Korollar 16.10. Ist μ ∈ M1 (R) unbegrenzt teilbar, so existiert eine stetige Faltungshalbgruppe (μt )t≥0 mit μ1 = μ und ein stochastischer Prozess (Xt )t≥0 mit unabh¨angigen, station¨aren Zuw¨achsen Xt − Xs ∼ μt−s f¨ur t > s. Beweis. Sei ϕ die CFW von μ. Die Existenz der Faltungshalbgruppe folgt aus Korollar 16.8 und 16.7, indem wir μr durch ϕr definieren. Die Stetigkeit der Halbgruppe folgt, da ϕr → 1 f¨ur r → 0 (weil ϕr (t) = 0 f¨ur alle t ∈ R). Schließlich folgt die Existenz des Prozesses X aus Satz 14.47. 2 Korollar 16.11. Ist ϕ eine unbegrenzt teilbare CFW, so existiert ein γ > 0 mit 2 α |ϕ(t)| ≥ 12 e−γ t f¨ur jedes t ∈ R. Speziell ist t → e−|t| f¨ur kein α > 2 eine CFW. Beweis. Dies folgt direkt aus (16.3).
2
334
16 Unbegrenzt teilbare Verteilungen
Beweis (von Satz 16.5). Da CPoiνn unbegrenzt teilbar ist, ist nach Korollar 16.9 auch der schwache Limes unbegrenzt teilbar. Sei nun μ unbegrenzt teilbar mit CFW ϕ. W¨ahle W-Maße μn mit CFW ϕn wie in n→∞ n→∞ Korollar 16.8. Nach Satz 16.6 gilt en(ϕn −1) −→ ϕ, also auch CPoinμn −→ ν. 2 Ohne Beweis bringen wir die folgende Versch¨arfung von Korollar 16.8, die auf einer feineren Analyse mit den Argumenten aus Satz 16.6 beruht. Satz 16.12. Sei (ϕn,l ; l = 1, . . . , kn , n ∈ N) ein Schema von CFWs mit der Eigenschaft sup |ϕn,l (t) − 1| = 0. (16.4) sup lim sup sup L>0
n→∞
t∈[−L,L] l=1,...,kn
Existiert f¨ur jedes t ∈ R der Limes ϕ(t) := limn→∞ in 0, so ist ϕ eine unbegrenzt teilbare CFW.
kn l=1
ϕn,l (t), und ist ϕ stetig
2
Beweis. Siehe etwa [56, Kapitel XV.7]. n→∞
In dem Fall, wo f¨ur jedes n die ϕn,l alle gleich sind und kn −→ ∞, gilt (16.4) automatisch, wenn das Produkt gegen eine stetige Funktion konvergiert. Der Satz liefert also tats¨achlich eine Verbesserung von Korollar 16.8. Der Wert des Satzes liegt in der folgenden Beobachtung. Sei (Xn,l ; l = 1, . . . , kn , n ∈ N) ein Schema reeller Zufallsvariablen mit CFWs ϕn,l . Genau dann ist das Schema asymptotisch vernachl¨assigbar, wenn (16.4) gilt: Gilt P[|Xn,l | > ε] < δ, so ist f¨ur jedes t ∈ [−1/ε, 1/ε] schon |ϕn,l (t) − 1| ≤ 2ε + δ. Also folgt (16.4) aus der Vernachl¨assigbarkeit des Schemas. Andererseits impliziert (16.4), dass f¨ur jede n→∞ n→∞ Folge (ln ) mit ln ≤ kn gilt ϕn,ln −→ 1, also Xn,ln −→ 0 stochastisch. Aus diesen Betrachtungen und Satz 16.12 erhalten wir den folgenden Satz. Satz 16.13. Sei (Xn, l ; l = 1, . . . , kn , n ∈ N) ein unabh¨angiges, asymptotisch vernachl¨assigbares Schema reeller Zufallsvariablen. Gibt es ein S mit Xn,1 + n→∞ . . . + Xn,kn =⇒ S, so ist S unbegrenzt teilbar. Wir wollen als eine direkte Anwendung von Satz 16.5 die unbegrenzt teilbaren WMaße auf [0, ∞) durch Angabe ihrer Laplace-Transformierten vollst¨andig beschreiben. Der folgende Satz ist von eigenst¨andigem Interesse, dient aber haupts¨achlich zur Einstimmung auf die etwas technischere Beschreibung aller unbegrenzt teilbaren W-Maße auf R.
16.1 Die L´evy-Khinchin Formel
335
¨ [0, ∞)). Sei μ ∈ M1 ([0, ∞)) und u : Satz 16.14 (L´evy-Khinchin 0Formel fur [0, ∞) → [0, ∞), t → − log e−tx μ(dx) die log-Laplace Transformierte von μ. Genau dann ist μ unbegrenzt teilbar, wenn es ein α ≥ 0 und ein σ-endliches Maß ν ∈ M((0, ∞)) mit (1 ∧ x) ν(dx) < ∞ gibt, sodass
u(t) = αt +
1 − e−tx ν(dx)
(16.5)
f¨ur t ≥ 0.
(16.6)
Das Paar (α, ν) ist dann eindeutig. Wir nennen ν das kanonische Maß oder L´evyMaß von μ und α den deterministischen Anteil. Beweis. =⇒ “ Sei zun¨achst μ unbegrenzt teilbar. Der Fall μ = δ0 ist trivial. ” Sei nun μ = δ0 , also u(1) > 0. n→∞
Nach Satz 16.5 existieren ν1 , ν2 , . . . ∈ Mf (R\{0}) mit CPoiν0n −→ μ. Offenbar k¨onnen wir νn ((−∞, 0)) = 0 annehmen. Setzen wir un (t) := (1 − e−tx ) νn (dx), n→∞ so gilt (nach (16.1)) un (t) −→ u(t) f¨ur jedes t ≥ 0. Speziell ist un (1) > 0 f¨ur −x ν (dx). F¨ur jedes große n. Definiere ν˜n ∈ M1 ([0, ∞)) durch ν˜n (dx) := 1−e un (1) n t ≥ 0 gilt dann un (t + 1) − un (t) n→∞ u(t + 1) − u(t) −→ e−tx ν˜n (dx) = . un (1) u(1) Also existiert ν˜ := w-lim ν˜n (in M1 ([0, ∞)) und ist eindeutig durch u festgelegt. Wir setzen α := ν˜({0}) u(1) und definieren ν ∈ M((0, ∞)) durch ν(dx) = u(1)(1 − e−x )−1 ½(0,∞) (x) ν˜(dx). Wegen 1 ∧ x ≤ 2(1 − e−x ) f¨ur alle x ≥ 0 ist dann offenbar (1 ∧ x) ν(dx) ≤ 2 (1 − e−x ) ν(dx) ≤ u(1) < ∞. F¨ur jedes t ≥ 0 ist die Funktion (vergleiche (15.8)) 1 1−e−tx , ft : [0, ∞) → [0, ∞), x → 1−e−x t,
falls x > 0, falls x = 0,
stetig und beschr¨ankt (durch t ∧ 1), also gilt u(t) = lim un (t) = lim un (1) ft d˜ νn n→∞ n→∞ = u(1) ft d˜ ν = αt + (1 − e−tx ) ν(dx).
336
16 Unbegrenzt teilbare Verteilungen
⇐= “ Seien nun α und ν gegeben. Sei I0 = [1, ∞) und Ik = [1/(k + 1), 1/k) ” f¨ur k ∈ N. Seien X0 , X1 , . . . unabh¨angige Zufallsvariablen mit PXk = CPoi(ν | ) Ik ∞ sei X := α + X . F¨ u r jedes k ∈ N ist E[X ] = k k k=0 0f¨ur k = 0, 1, . . ., und 0 ∞ x ν(dx), also ist k=1 E[Xk ] = (0,1) x ν(dx) < ∞. Mithin gilt X < ∞ fast Ik n n→∞ sicher und α + k=0 Xk =⇒ X. Daher ist ∞
) −tX * ) −tXk * = αt − = αt + 1 − e−tx ν(dx). 2 − log E e log E e k=0
Beispiel 16.15. Wir k¨onnen zu einer unbegrenzt teilbaren Verteilung μ auf [0, ∞) das L´evy-Maß ν ausrechnen durch ν = v-lim nμ∗1/n . (16.7) n→∞
(0,∞)
¨ Oft ist auch α leicht direkt zug¨anglich, etwa u¨ ber die Darstellung aus Ubung 16.1.3. Wir erhalten so beispielsweise f¨ur die Gamma-Verteilung α = 0 und θ1/n n→∞ x(1/n)−1 e−θx dx −→ x−1 e−θx dx, nΓθ,1/n (A) = Γ (1/n)/n A A also ν(dx) = x−1 e−θx dx.
3
F¨ur unbegrenzt teilbare Verteilungen auf R wollen wir eine a¨ hnliche Darstellung angeben wie im vorigen Satz. Nun ist aber eine unbegrenzt teilbare, reelle Zufallsvariable X nicht einfach die Differenz zweier unbegrenzt teilbarer, nichtnegativer Zufallsvariablen, wie etwa die Normalverteilung zeigt. Außerdem haben wir nun mehr Freiheiten, wenn wir X wie im letzten Beweis als Summe unabh¨angiger Zufallsvariablen Xk darstellen wollen. Wir definieren also eine reelle Zufallsvariable X als Summe unabh¨angiger Zufallsvariablen ∞ X = b + X N + X0 + (Xk − αk ), (16.8) k=1
wobei b ∈ R, X = N0,σ 2 f¨ur ein σ ≥ 0 und PXk = CPoiνk mit Intensit¨atsmaß νk , das auf Ik := (−1/k, −1/(k + 1)] ∪ [1/(k 0+ 1), 1/k) (mit 1/0 = ∞), k ∈ N0 , konzentriert liegt. Ferner ist αk = E[Xk ] = x νk (dx) f¨ur k ≥ 1. F¨ur die fast sichere Konvergenz der Reihe ist hinreichend (und, wie eine einfache Anwendung des Kolmogorov’schen Dreireihensatzes zeigt, notwendig), dass N
2
∞ k=1
Var[Xk ] < ∞.
(16.9)
∞ (Anders als in Satz 16.14 ist nicht notwendig, dass k=1 E[|Xk − αk |] < ∞. Dies ergibt eine gr¨oßere Freiheit bei der 0 Wahl von ν als im Fall nichtnegativer ∞ Zufallsvariablen.) Nun ist Var[Xk ] = x2 νk (dx). Setzen wir also ν = k=0 νk , so ist
16.1 Die L´evy-Khinchin Formel
337
0 (16.9) a¨ quivalent zu der Bedingung (−1,1) x2 ν(dx) < ∞. Da ν0 stets endlich ist, 0 2 ist dies wiederum a¨ quivalent zu (x ∧ 1) ν(dx) < ∞. Definition 16.16. Ein σ-endliches Maß ν auf R mit ν({0}) = 0 und
2 x ∧ 1 ν(dx) < ∞
(16.10)
heißt kanonisches Maß. Sind σ 2 ≥ 0 und b ∈ R, so heißt (σ 2 , b, ν) ein kanonisches Tripel. Zu jedem kanonischen Tripel geh¨ort u¨ ber die Konstruktion (16.8) eine unbegrenzt teilbare Zufallsvariable. Wir setzen *
itx ) e − 1 ν(dx) ψ0 (t) = log E eitX0 = I0
und f¨ur k ∈ N * ) ψk (t) = log E eit(Xk −αk ) =
eitx − 1 − itx ν(dx).
Ik
Also gen¨ugt ∞ ) itX * σ2 2 = − t + ibt + ψ(t) := log E e ψk (t) 2 k=0
der L´evy-Khinchin Formel ψ(t) = −
σ2 2 t + ibt + 2
eitx − 1 − itx ½{|x|<1} ν(dx).
(16.11)
Satz 16.17 (L´evy-Khinchin Formel). Sei μ ∈ M1 (R) und ψ(t) := log eitx μ(dx). μ ist genau dann unbegrenzt teilbar, wenn es ein kanonisches Tripel (σ 2 , b, ν) gibt, sodass (16.11) gilt. Dieses Tripel ist durch (16.11) eindeutig festgelegt. Wir nennen ν wiederum das L´evy-Maß von μ, σ 2 den Gauß’schen Koeffizienten und b die Zentrierungskonstante. Beweis. Wir haben schon gezeigt, dass es zu jedem kanonischen Tripel (σ2 , b, ν) eine unbegrenzt teilbare Verteilung μ gibt, sodass (16.11) gilt. Es bleibt zu zeigen:
338
16 Unbegrenzt teilbare Verteilungen
(i) Durch (16.11) wird das kanonische Tripel eindeutig bestimmt. (ii) Zu jeder unbegrenzt teilbaren Verteilung existiert ein kanonisches Tripel, sodass (16.11) gilt. (i) Eindeutigkeit. ist
Wir setzen gt (x) = eitx − 1 − itx ½{|x|<1} . F¨ur jedes x = 0 gt (x) t→∞ −→ 0. 2 ≥ 2 t (1 ∧ x2 )
Wegen (16.10) gilt nach dem Satz u¨ ber majorisierte Konvergenz ∞ ψ(t) ib gt (x) σ2 + lim + lim (1 ∧ x2 )ν(dx) lim =− t→∞ t2 t→∞ t t→∞ −∞ 2 t2 (1 ∧ x2 ) σ2 =− . 2
(16.12)
Da σ 2 damit eindeutig ist, k¨onnen wir im Folgenden σ 2 = 0 annehmen. Definiere 1 ψ(t) = ψ(t) − 2
t+1
ψ(s) ds.
(16.13)
t−1
Dann ist 1 1 isx eitx 1 − e ds ν(dx) = eitx h(x) ν(dx), 2 −1 R
ψ(t) =
(16.14)
ˆ f¨ur x = 0 und h(0) = 0 ist. Offenbar sind h und h(x) = wobei h(t) = 1 − sin(x) x 2 ˆ h(x)/(1 ∧ x ) mit der Festsetzung h(0) = 1/6 stetig und beschr¨ankt und ˆ 0 < 1 − sin(1) ≤ h(x) ≤
3 2
f¨ur jedes x ∈ R.
ψ ist die charakteristische Funktion von ν˜ ∈ Mf (R), wo ν˜(dx) = h(x)ν(dx). Damit ist ν˜ durch ψ eindeutig festgelegt und wegen ν(dx) = (½{x =0} /h(x))˜ ν (dx) auch ν. Die Zahl b ergibt sich nun als Differenz der restlichen Terme. (ii) 0Existenz eines kanonischen Tripels. Sei μ unbegrenzt teilbar und ψ(t) = log eitx μ(dx). Offenbar ist Im(ψ) ungerade und Re(ψ(t)) ≤ 0 f¨ur jedes t ∈ R, also ist ψ(0) ≤ 0 (mit ψ aus (16.13)). Nach der Jensen’schen Ungleichung ist genau dann ψ(0) = 0, wenn μ = δb f¨ur ein b ∈ R. In diesem Fall ist (0, b, 0) das zugeh¨orige kanonische Tripel. Sei nun ψ(0) < 0. Nach Satz 16.5 existiert eine Folge (νn )n∈N in Mf (R) mit n→∞ CPoiνn −→ μ. Setze bn = x ½{|x|<1} νn (dx).
16.1 Die L´evy-Khinchin Formel
339
Dann ist nach (16.1) und mit gt aus (i) ψn (t) := log eitx CPoiνn (dx) = (eitx − 1) νn (dx) = gt dνn + ibn t. Wie in (16.14) ist ψ n (t) := ψn (t) −
1 2
t+1
ψn (s) ds =
eitx h(x) νn (dx).
t−1
n→∞
Da ψn −→ ψ gleichm¨aßig auf kompakten Mengen konvergiert (Satz 15.23(i)), n→∞ und weil ψ stetig und damit lokal beschr¨ankt ist, gilt ψ n −→ ψ punktweise, also n→∞ eitx h(x) νn (dx) −→ ψ(t). (16.15) Speziell ist ψ n (0) < 0 f¨ur große n. Setzen wir ν˜n (dx) = −(h(x)/ψ n (0))νn (dx) ∈ 0 n→∞ M1 (R), so gilt eitx ν˜n (dx) −→ −ψ(t)/ψ(0), wobei die rechte Seite stetig ist. n→∞ Nach dem L´evy’schen Stetigkeitssatz gibt es also ein ν˜ ∈ M1 (R) mit ν˜n −→ ν˜ und ψ(t) = −ψ(0) eitx ν˜(dx). Wir setzen σ 2 := −6 ψ(0) ν˜({0}) und definieren ein kanonisches Maß ν durch ν(dx) = −
ψ(0) ½{x =0} ν˜(dx). h(x)
Die Abbildung (vergleiche (15.8)) ft : R → C,
x →
gt (x) h(x) ,
falls x = 0,
−3t ,
falls x = 0,
2
ist stetig und beschr¨ankt. Nach Voraussetzung ist ft (x) ν˜n (dx) + ibn t . ψ(t) = lim ψn (t) = lim n→∞
n→∞
Da die Integrale konvergieren, existiert auch b = limn→∞ bn , und es ist σ2 ψ(t) = ft d˜ ν + ibt = − t2 + ibt + gt dν. 2 Bemerkung 16.18. Es gibt mehrere Varianten der L´evy-Khinchin Formel
itx σ2 e − 1 − it f (x) ν(dx), ψ(t) = − t2 + ibt + 2
2
340
16 Unbegrenzt teilbare Verteilungen
die sich in der Funktion it f (x) unterscheiden, die als Zentrierung im Integral abgezogen wird. Wir haben f (x) = x ½{|x|<1} gew¨ahlt, weil dies am besten zur Konstruktion mit den Zufallsvariablen Xk passte. 0 Jedoch ist bei gegebenem kanonischen Maß ν jede Funktion f˜ m¨oglich, f¨ur die |f − f˜| dν < ∞ ist, also allgemein jedes f˜, f¨ur das |f (x)− f˜(x)|/(1∧x2 ) beschr¨ankt ist. Eine u¨ bliche Funktion ist beispielsweise f˜(x) = sin(x). Das L´evy-Maß und der Gauß’sche Anteil σ 2 sind bei allen diesen Darstellungen gleich, jedoch a¨ ndert sich das b:
˜b − b = f − f˜ dν. 0 Wenn ν ein Maß ist, das auf (0, ∞) konzentriert liegt und (1 ∧ x) ν(dx) < ∞ erf¨ullt, ist das hier gew¨ahlte f bez¨uglich ν integrierbar und kann daher durch f˜ = 0 ersetzt werden. Wir erhalten so Satz 16.14 als Spezialfall zur¨uck. Da jedoch die Klasse der kanonischen Maße, die auf (0, ∞) konzentriert liegen, auf Grund der schw¨acheren Bedingung (16.10) gr¨oßer ist als die in Satz 16.14 betrachtete, folgt, dass eine Verteilung mit kanonischem Tripel (b, 0, ν), wo ν((−∞, 0)) = 0 und 0 (1 ∧ x) ν(dx) = ∞ ist, zu einer unbegrenzt teilbaren Verteilung μ geh¨ort, die nicht auf [0, ∞) konzentriert liegt – egal wie b gew¨ahlt wird. 3 Wir k¨onnen zu gegebener unbegrenzt teilbarer Verteilung μ wieder das kanonische Maß ν ausrechnen als den vagen Limes . (16.16) ν = v-lim nμ∗1/n n→∞
(0,∞)
Beispiel 16.19. F¨ur die Cauchy-Verteilung Caua mit ψ(t) = −a |t| bekommen wir auf Grund der Symmetrie b = 0 und nach (16.12) σ 2 = −2 limt→∞ ψ(t)/t2 = 0. Schließlich ist f¨ur A ⊂ R mit (−ε, ε) ∩ A = ∅ f¨ur ein ε > 0 1 n2 1 n→∞ 1 dx −→ dx. n Cau1/n (A) = 2 π A 1 + (nx) π A x2
3 Also hat Cau1 das kanonische Tripel 0, 0, (πx2 )−1 dx . ¨ Ubung 16.1.1. Man zeige mit einem Varianzargument, dass eine unbegrenzt teilbare Verteilung, die auf einem endlichen Intervall konzentriert liegt, schon in einem einzigen Punkt konzentriert ist. ♣ ¨ Ubung 16.1.2. Sei ϕ unbegrenzt teilbar, und f¨ur jedes n ∈ N sei ϕn eine CFW mit ϕnn = ϕ. Man zeige mit Hilfe des L´evy’schen Stetigkeitssatzes, dass gleichm¨aßig n→∞ auf kompakten Mengen ϕn −→ 1 gilt und folgere hieraus, dass ϕ(t) = 0 f¨ur jedes t ∈ R. ♣ ¨ Ubung 16.1.3. Man zeige, dass unter den Bedingungen von Satz 16.14 gilt:
α = sup x ≥ 0 : μ([0, x)) = 0 .
♣
16.2 Stabile Verteilungen
341
16.2 Stabile Verteilungen Symmetrische stabile Verteilungen F¨ur α ∈ (0, 2) sei 1 −2Γ (−α) cos(απ/2), θα := (1 − cos(x)) |x|−α−1 dx = π, R
falls α = 1, falls α = 1.
(Beachte, dass das Integral f¨ur α ∈ R \ (0, 2) divergiert.) Dann ist das Maß να mit Dichte να (dx)/dx = θα−1 |x|−α−1 ein kanonisches Maß, denn
(1 ∧ x2 ) να (dx) = 2θα−1 α−1 + (2 − α)−1 < ∞. Sei ψα die logarithmierte charakteristische Funktion, die zum unbegrenzt teilbaren Maß μα mit kanonischem Tripel (0, 0, να ) geh¨ort. Nach der L´evy-Khinchin Formel ist ∞
itx ψα (t) = e − 1 − itx ½{|x|<1} θα−1 |x|−α−1 dx −∞ ∞
1 − cos(tx) |x|−α−1 dx = −θα−1 −∞
= −|t| . α
Also ist ϕα (t) := e−|t| die charakteristische Funktion des unbegrenzt teilbaren Maßes μα , das wir symmetrische stabile Verteilung mit Index α nennen. Die Namensgebung leitet sich aus der Eigenschaft ab, dass f¨ur u.i.v. nach μα verteilte Zufallsvariablen X1 , X2 , . . . gilt α
D
X1 + . . . + Xn = n1/α Xn
f¨ur jedes n ∈ N.
(16.17)
Definition 16.20 (Stabile Verteilung). Sei μ ∈ M1 (R), und seien X1 , X2 , . . . u.i.v. Zufallsvariablen mit Verteilung μ. Die Verteilung μ heißt stabil mit Index α ∈ (0, 2], falls (16.17) gilt. μ heißt stabil im weiteren Sinne mit Index α ∈ (0, 2], falls es Zahlen (bn )n∈N gibt mit D
X1 + . . . + Xn = n1/α X1 + bn
f¨ur jedes n ∈ N.
Bemerkung 16.21. Eine einfache Rechnung zeigt, dass eine Verteilung, die α-stabil mit α > 2 ist, eine charakteristische Funktion hat, die zweimal stetig differenzierbar in 0 ist, und deren ersten beiden Ableitungen dort gleich 0 sind. Die Verteilung hat also Erwartungswert und Varianz Null und ist damit als δ0 erkannt. Ein a¨ hnliches Argument zeigt, dass stabile Verteilungen im weiteren Sinne f¨ur α > 2 notwendigerweise trivial sind. 3
342
16 Unbegrenzt teilbare Verteilungen
Asymmetrische stabile Verteilungen Sind μ1 und μ2 unbegrenzt teilbar mit den kanonischen Tripeln (σ12 , b1 , ν1 ) und (σ22 , b2 , ν2 ), so ist μ1 ∗ μ2 unbegrenzt teilbar mit kanonischem Tripel (σ12 + σ22 , b1 + b2 , ν1 +ν2 ). Ist nun μ unbegrenzt teilbar mit kanonischem Tripel (σ2 , b, ν), und sind X1 , X2 , . . . u.i.v. Zufallsvariablen mit Verteilung μ, so ist X1 +. . .+Xn unbegrenzt teilbar mit kanonischem Tripel (nσ 2 , nb, nν). Andererseits ist n1/α X1 unbegrenzt teilbar mit kanonischem Tripel (n2/α σ 2 , n1/α b, ν ◦ m−1 ), wobei mγ : R → R, n1/α x → γx die Multiplikation mit γ > 0 ist. Ist nun μ stabil mit Index α, so folgt aus (16.17) nb = n1/α b,
nσ 2 = n2/α σ 2
und
nν = ν ◦ m−1 . n1/α
Ist α = 1, so folgt b = 0. F¨ur α ∈ (0, 2) ist hingegen σ 2 = 0. Außerdem ist ∞ ∞ ∞
(1∧x2 ) ν(dx) = (1∧x2 ) ν ◦m−1 (1∧n2/α x2 ) ν(dx). n (dx) = n1/α −∞
−∞
−∞
−1
2
n→∞
(1∧nx ) Im Fall α = 2 folgt wegen 1 ≥ n 1∧x −→ 0 f¨ur alle x = 0 und wegen 2 (16.10) mit dem Satz u¨ ber majorisierte Konvergenz ∞ ∞ −1 n (1 ∧ nx2 ) n→∞ (1 ∧ x2 ) ν(dx) = (1 ∧ x2 ) ν(dx) −→ 0. 1 ∧ x2 −∞ −∞
Das heißt, es gilt ν = 0, falls α = 2 ist. Hat ν eine auf R \ {0} stetige Dichte f , so folgt aus (16.17) die Skalierungsrelation f (rx) = r −α−1 f (x) f¨ur jedes r > 0, also mit c− := f (−1) und c+ := f (1) c− (−x)−α−1 , falls x < 0, ν(dx) = dx c+ x−α−1 , falls x > 0. Wir haben also einen Freiheitsgrad mehr (in dem Sinne, dass wir jetzt die zwei Parameter c− und c+ statt nur c haben), wenn wir auch asymmetrische stabile Verteilungen zulassen. Wir k¨onnen nun ψ ausrechnen )
* α + i (c+ − c− ) sin πα , α = 1, |t| Γ (−α) (c+ + c− ) cos πα 2 2 ψ(t) = ) * −|t|(c+ + c− ) π2 + i sign(t)(c+ − c− ) log(|t|) , α = 1. (16.18) Im Fall α ∈ (0, 1) ∪ (1, 2) haben wir so eine stabile Verteilung hergestellt, denn es gilt (16.17). Im Fall α = 1 gilt hingegen nψ(t/n) = ψ(t) + it(c+ − c− ) log n, also D
X1 + . . . + Xn = nX1 + (c+ − c− ) n log(n). Man kann zeigen, dass die stabilen Verteilungen, die wir hier hergestellt haben, tats¨achlich die gesamte Klasse der im weiteren Sinne stabilen Verteilungen aussch¨opfen (siehe etwa [56, Kapitel XVII.5]).
16.2 Stabile Verteilungen
343
Konvergenz gegen stabile Verteilungen Zur Abrundung des Bildes zitieren wir aus [56, Kapitel XVII.5] (siehe auch [65] und [129]) S¨atze dar¨uber, dass nur stabile Verteilungen als Grenzverteilungen reskalierter Summen von u.i.v. Zufallsvariablen X1 , X2 , . . . auftreten k¨onnen, wie die genauen Skalierungen aussehen, und welche Verteilungen PX1 zu welchen Grenzverteilungen f¨uhren. Seien im Folgenden X, X1 , X2 , . . . u.i.v. Zufallsvariablen und Sn = X1 + . . . + Xn f¨ur n ∈ N. Definition 16.22 (Anziehungsbereich einer Verteilung). Sei μ ∈ M1 (R) nicht auf einen Punkt konzentriert. Der Anziehungsbereich (domain of attraction) Dom(μ) ⊂ M1 (R) ist die Menge aller Verteilungen PX mit der Eigenschaft, dass es Folgen reeller Zahlen (an )n∈N und (bn )n∈N gibt mit Sn − bn n→∞ =⇒ μ. an Ist μ stabil (im weiteren Sinne) mit Index α ∈ (0, 2], so liegt PX im normalen Anziehungsbereich (domain of normal attraction), falls an = n1/α gew¨ahlt werden kann. Satz 16.23. Sei μ ∈ M1 (R) nicht auf einen Punkt konzentriert. Genau dann ist Dom(μ) = ∅, wenn μ stabil (im weiteren Sinne) ist. Es gilt dann μ ∈ Dom(μ). Eine wichtige Rolle spielt im Folgenden die Funktion ) * U (x) := E X 2 ½{|X|≤x} .
(16.19)
Eine Funktion H : (0, ∞) → (0, ∞) heißt langsam variierend bei ∞, falls lim
x→∞
H(γx) =1 H(x)
f¨ur alle γ > 0.
Wir nehmen im Folgenden an, dass es ein α ∈ (0, 2] gibt, mit der Eigenschaft: U (x) xα−2 ist langsam variierend bei ∞.
(16.20)
Satz 16.24. (i) Liegt PX im Anziehungsbereich einer Verteilung, dann existiert ein α ∈ (0, 2], sodass (16.20) gilt. (ii) Im Falle α = 2 gilt: Ist PX nicht in einem Punkt konzentriert, so ist (16.20) hinreichend daf¨ur, dass PX im Anziehungsbereich einer Verteilung liegt. (iii) Im Falle α ∈ (0, 2) gilt: Genau dann liegt PX im Anziehungsbereich einer Verteilung, wenn (16.20) gilt und p := lim
x→∞
P[X ≥ x] P[|X| ≥ x]
existiert.
(16.21)
344
16 Unbegrenzt teilbare Verteilungen
Satz 16.25. Es sei PX im Anziehungsbereich einer α-stabilen Verteilung – es gelte also Bedingung (ii) oder (iii) aus Satz 16.24 – und es sei (an )n∈N so gew¨ahlt, dass n U (an ) ∈ (0, ∞) n→∞ a2n
C := lim
existiert. Es sei ferner μ diejenige stabile Verteilung mit Index α, deren charakteristische Funktion durch (16.18) gegeben ist mit c+ = Cp und c− = C(1 − p). (i) Im Falle α ∈ (0, 1) sei bn ≡ 0. (ii) Im Falle α = 2 und Var[X] < ∞ sei E[X] = 0. (iii) Im Falle α ∈ (1, 2] sei bn = n E[X] f¨ur jedes n ∈ N. (iv) Im Falle α = 1 sei bn = n an E[sin(X/an )] f¨ur jedes n ∈ N. Dann gilt
Sn − bn n→∞ =⇒ μ. an
Verteilung mit Index Korollar 16.26. Liegt PX im Anziehungsbereich einer * ) stabilen * ) α, so gilt E |X|β < ∞ f¨ur alle β ∈ (0, α) und E |X|β = ∞, falls β > α und α < 2. ¨ Ubung 16.2.1. Man zeige die Behauptung von Bemerkung 16.21.
♣
1 − cos(x) ¨ Ubung 16.2.2. Man zeige: Die Verteilung auf R mit Dichte f (x) = ist πx2 nicht unbegrenzt teilbar. ♣ ¨ Ubung 16.2.3. Sei Φ die Verteilungsfunktion der Standardnormalverteilung N0,1 und F : R → [0, 1] definiert durch
2 1 − Φ x−1/2 , falls x > 0, F (x) = 0, sonst. Man zeige: (i) F ist die Verteilungsfunktion einer 12 -stabilen Verteilung. (ii) Sind X1 , X2 , . . . u.i.v. mit Verteilungsfunktion F , so divergiert f¨ur n → ∞ fast sicher.
1 n
n k=0
Xk
Hinweis: Man bestimme die Dichte von F und zeige, dass die Laplace Transfor√ mierte gegeben ist durch λ → e− 2λ . ♣ ¨ Ubung 16.2.4. Welche der folgenden Verteilungen liegen im Anziehungsbereich einer stabilen Verteilung und gegebenenfalls zu welchem Parameter?
16.2 Stabile Verteilungen
(i) Die Verteilung auf R mit Dichte ⎧ 1 1+α |x|α , ⎪ ⎪ ⎨ 1 xβ , f (x) = (1 − ) 1+β ⎪ ⎪ ⎩ 0,
345
falls x < −1, falls x > 1, sonst.
Dabei sind α, β < −1 und ∈ [0, 1]. (ii) Die Exponentialverteilung expθ f¨ur θ > 0. (iii) Die Verteilung auf N mit Gewichten c nα falls n gerade ist und c nβ , falls n ungerade ist. Dabei sind α, β < −1, und c = (2α ζ(−α) + (1 − 2β )ζ(−β))−1 (ζ ist die Riemann’sche Zetafunktion) ist die Normierungskonstante. ♣
17 Markovketten
Markovprozesse mit abz¨ahlbarem Zustandsraum (und diskreter Zeit) sind trotz ihrer Simplizit¨at interessante mathematische Objekte, mit denen sich eine Vielzahl von Ph¨anomenen modellieren l¨asst. Wir bringen hier einen Einblick in die grundlegenden Begriffe und schauen dann Beispiele etwas detaillierter an. Der Zusammenhang mit der (diskreten) Potentialtheorie wird erst in Kapitel 19 untersucht. Beim ersten Lesen kann in Abschnitt 17.1 die (etwas abstrakte) Konstruktion von allgemeinen Markovprozessen u¨ bersprungen werden.
17.1 Begriffsbildung und Konstruktion Im Folgenden sei E stets ein polnischer Raum mit Borel’scher σ-Algebra B(E), I ⊂ R und (Xt )t∈I ein stochastischer Prozess mit Werten in E. Wir nehmen an, dass (Ft )t∈I = F = σ(X) die von X erzeugte Filtration ist. Definition 17.1. Wir sagen, dass X die elementare Markoveigenschaft (ME) hat, falls f¨ur jedes A ∈ B(E) und je zwei s, t ∈ I mit s ≤ t gilt * * ) ) P Xt ∈ A Fs = P Xt ∈ A Xs . Bemerkung 17.2. Ist E abz¨ahlbar, so hat X genau dann die elementare Markoveigenschaft, wenn f¨ur jedes n ∈ N und alle s1 < . . . < sn < t und i1 , . . . , in , i ∈ E mit P[Xs1 = i1 , . . . , Xsn = in ] > 0 gilt ) * ) * P Xt = i Xs1 = i1 , . . . , Xsn = in = P Xt = i Xsn = in . (17.1) In der Tat impliziert (17.1) nat¨urlich sofort die elementare Markoveigenschaft. Habe nun X die elementare Markoveigenschaft. dass f¨ur fast Wir bemerken (siehe (8.6)), alle ω ∈ {Xsn = in } gilt P[Xt = i Xsn ](ω) = P[Xt = i Xsn = in ]. Also gilt mit A := {Xs1 = i1 , . . . , Xsn = in } (unter Verwendung der elementaren Markoveigenschaft in der zweiten Gleichheit) * ) P Xt = i,Xs1 = i1 , . . . , Xsn = in * ) * ) = E E[½{Xt =i} Fsn ] ½A = E E[½{Xt =i} Xsn ] ½A * ) * ) = E P[Xt = i Xsn = in ] ½A = P Xt = i Xsn = in P[A].
348
17 Markovketten
Teilen wir jetzt auf beiden Seiten durch P[A], so folgt (17.1).
3
Definition 17.3. Sei I ⊂ [0, ∞) abgeschlossen under Addition, und sei 0 ∈ I. Ein stochastischer Prozess X = (Xt )t∈I heißt Markovprozess mit Verteilungen (Px )x∈E auf dem Raum (Ω, A), falls gilt: (i) F¨ur jedes x ∈ E ist X ist ein stochastischer Prozess auf dem Wahrscheinlichkeitsraum (Ω, A, Px ) mit Px [X0 = x] = 1. (ii) Die Abbildung κ : E × B(E)⊗I → [0, 1], (x, B) → Px [X ∈ B] ist ein stochastischer Kern. (iii) Es gilt die (schwache) Markoveigenschaft (ME): F¨ur jedes A ∈ B(E), jedes x ∈ E und je zwei s, t ∈ I gilt * ) Px Xt+s ∈ A Fs = κt (Xs , A) Px -f.s. Hierbei definiert f¨ur jedes t ∈ I und x ∈ E sowie A ∈ B(E)
κt (x, A) := κ x, {y ∈ E I : y(t) ∈ A} = Px [Xt ∈ A] ¨ den stochastischen Kern κt : E × B(E) → [0, 1] der Ubergangswahrscheinlichkeiten von X zur Zeitdifferenz t. Wir schreiben stets Ex f¨ur die Erwartungswerte bez¨uglich Px und Lx [X] = Px sowie Lx [X |F] = Px [X ∈ · |F] (f¨ur eine regul¨are Version der bedingten Verteilung von X gegeben F) und so fort. Ist E h¨ochstens abz¨ahlbar, so heißt X diskreter Markovprozess. Im Spezialfall I = N0 heißt X Markovkette. Es heißt dann κn auch die Familie der ¨ n-Schritt-Ubergangswahrscheinlichkeiten. Bemerkung 17.4. Die schwache Markoveigenschaft impliziert die elementare Markoveigenschaft. In der Tat ist schwache ME = elementare ME + zeitliche Homoge” nit¨at“. 3 Wir verwenden im Folgenden die etwas nachl¨assige Bezeichnung PXs [X ∈ · ] := κ(Xs , · ). Wir verstehen also Xs als Startwert eines zweiten Markovprozesses mit denselben Verteilungen (Px )x∈E . Beispiel 17.5. Seien Y1 , Y2 , . . . u.i.v. Rd -wertige Zufallsvariablen und Snx = x +
n
Yi
f¨ur x ∈ Rd und n ∈ N0 .
i=1
Definiere W-Maße Px auf (Rd )N0 , (B(Rd ))⊗N0 durch Px = P ◦ (S x )−1 . Dann ist der kanonische Prozess Xn : (Rd )N0 → Rd eine Markovkette mit Verteilungen 3 (Px )x∈Rd . Der Prozess X heißt Irrfahrt auf Rd mit Startwert x.
17.1 Begriffsbildung und Konstruktion
349
Beispiel 17.6. Wir k¨onnen das vorangehende Beispiel leicht auf die Situation stetiger Zeit, also I = [0, ∞), u¨ bertragen. Sei hierzu (νt )t≥0 eine Faltungshalbgruppe d auf Rd und κt (x, dy) = δx ∗ νt (dy). Zu jedem x ∈ R sei Px das in Satz 14.47 d [0,∞) d ⊗[0,∞) konstruierte Maß auf (R ) mit , B(R ) n−1
Px ◦ (X0 , Xt1 , . . . , Xtn )−1 = δx ⊗
κtn+1 −tn i=0
f¨ur je endlich viele Punkte 0 = t0 < t1 < . . . < tn . Man pr¨uft leicht, dass die Abbildung κ : Rd × B(Rd )⊗[0,∞) , (x, A) → Px [A] ein stochastischer Kern ist. Die schwache Markoveigenschaft folgt direkt aus der Tatsache, dass die Zuw¨achse unabh¨angig und station¨ar sind. 3 Beispiel 17.7. (Siehe Beispiel 9.5 und Satz 5.35.) Sei θ > 0 und νtθ ({k}) = k k e−θt t k!θ , k ∈ N0 , die Faltungshalbgruppe der Poisson-Verteilung. Der Markovprozess X auf N0 mit dieser Halbgruppe heißt Poissonprozess mit Rate θ. 3 Wir wollen, a¨ hnlich wie in Beispiel 17.6, nun etwas allgemeiner zu einer Markov’schen Halbgruppe von stochastischen Kernen einen Markovprozess herstellen. Satz 17.8. Sei I ⊂ [0, ∞) abgeschlossen unter Addition, und sei (κt )t∈I eine Markov’sche Halbgruppe stochastischer Kerne von E nach E. Dann gibt es einen Messraum (Ω, A) und einen Markovprozess ((Xt )t∈I , (Px )x∈E ) auf (Ω, A) mit ¨ Ubergangswahrscheinlichkeiten Px [Xt ∈ A] = κt (x, A)
f¨ur alle x ∈ E, A ∈ B(E), t ∈ I.
(17.2)
Umgekehrt definiert f¨ur jeden Markovprozess X die Gleichung (17.2) eine Halbgruppe stochastischer Kerne. Durch (17.2) sind die endlichdimensionalen Verteilungen von X eindeutig bestimmt. Beweis. =⇒ “ Wir konstruieren X als kanonischen Prozess. Sei Ω = E [0,∞) ” und A = B(E)⊗[0,∞) . Ferner sei Xt die Projektion auf die t-te Koordinate. F¨ur x ∈ E definieren wir (siehe Korollar 14.43) auf (Ω, A) das W-Maß Px , sodass f¨ur endlich viele Zeitpunkte 0 = t0 < t1 < . . . < tn gilt n−1
Px ◦ (Xt0 , . . . , Xtn )−1 = δx ⊗
κti+1 −ti . i=0
Dann ist ) * Px Xt0 ∈ A0 , . . . , Xtn ∈ An ) * = Px Xt0 ∈ A0 , . . . , Xtn−2 ∈ An−2 , Xtn−1 ∈ dxn−1 An−1
κtn −tn−1 (xn−1 , An ),
350
17 Markovketten
also Px [Xtn ∈ An |Ftn−1 ] = κtn −tn−1 (Xtn−1 , An ). Damit ist X als Markovprozess erkannt. Ferner ist Px [Xt ∈ A] = (δx · κt )(A) = κt (x, A). ”
⇐= “
Sei nun (X, (Px )x∈E ) ein Markovprozess. Dann definiert κt (x, A) := Px [Xt ∈ A]
f¨ur alle x ∈ E, A ∈ B(E), t ∈ I,
einen stochastischen Kern κt . Nach der Markoveigenschaft ist κt+s (x, A) = Px [Xt+s ∈ A] = Ex [PXs [Xt ∈ A]] = Px [Xs ∈ dy] Py [Xt ∈ A] =
κs (x, dy)κt (y, A) = (κs · κt ) (x, A). 2
Also ist (κt )t∈I eine Markov’sche Halbgruppe.
Satz 17.9. Ein stochastischer Prozess X = (Xt )t∈I ist genau dann ein Markovprozess, wenn es einen stochastischen Kern κ : E × B(E)⊗I → [0, 1] gibt, sodass f¨ur jede B(E)⊗I − B(R) messbare, beschr¨ankte Funktion f : E I → R und f¨ur jedes s ≥ 0 und x ∈ E gilt: * ) κ(Xs , dy) f (y). (17.3) Ex f ((Xt+s )t∈I ) Fs = EXs [f (X)] := EI
Beweis. ⇐= “ Die schwache Markoveigenschaft folgt aus (17.3) mit der Funk” tion f (y) = ½A (y(t)), denn PXs [Xt ∈ A] = Px [Xt+s ∈ A|Fs ] = κt (Xs , A). =⇒ “ Nach den u¨ blichen Approximationsargumenten reicht es, Funktionen f ” zu betrachten, die nur von endlich vielen Koordinaten 0 ≤ t1 ≤ t2 ≤ . . . ≤ tn abh¨angen. Wir f¨uhren den Beweis per Induktion u¨ ber n. F¨ur n = 1 und f eine Indikatorfunktion ist dies die (schwache) Markoveigenschaft. F¨ur allgemeines, messbares f folgt die Aussage nun aus den u¨ blichen Approximationsargumenten. Sei nun die Aussage f¨ur n ∈ N bereits gezeigt. Es reicht wiederum, f¨ur f eine Indikatorfunktion der Art f (x) = ½B1 ×···×Bn+1 (xt1 , . . . , xtn+1 ) (mit B1 , . . . , Bn+1 ∈ B(E)) zu betrachten. Zusammen mit der Markoveigenschaft (dritte und f¨unfte Gleichheit in der folgenden Gleichungskette) und der Induktionsvoraussetzung (vierte Gleichheit) erhalten wir
17.1 Begriffsbildung und Konstruktion
351
' ( Ex f (Xt+s )t≥0 Fs ' ) * ( = Ex Ex f (Xt+s )t≥0 Ftn +s Fs ( ' ) * = Ex Ex ½{Xtn+1 +s ∈Bn+1 } Ftn +s ½B1 (Xt1 +s ) · · · ½Bn (Xtn +s ) Fs ( ' ) * = Ex PXtn +s Xtn+1 −tn ∈ Bn+1 ½B1 (Xt1 +s ) · · · ½Bn (Xtn +s ) Fs ' ( ) * = EXs PXtn Xtn+1 −tn ∈ Bn+1 ½B1 (Xt1 ) · · · ½Bn (Xtn ) ' ( ) * = EXs PX0 Xtn+1 ∈ Bn+1 Ftn ½B1 (Xt1 ) · · · ½Bn (Xtn ) ' ) *( = EXs PX0 Xt1 ∈ B1 , . . . , Xtn+1 ∈ Bn+1 Ftn = EXs [f (X)] .
2
Korollar 17.10. Ein stochastischer Prozess (Xn )n∈N0 ist genau dann eine Markovkette, wenn * ) ) * f¨ur jedes k ∈ N0 . (17.4) Lx (Xn+k )n∈N0 Fk = LXk (Xn )n∈N0 Beweis. Wenn die bedingten Verteilungen existieren, ist nach Satz 17.9 die Gleichung (17.4) a¨ quivalent dazu, dass X eine Markovkette ist. Zu zeigen ist also nur, dass die bedingten Verteilungen auch existieren. Da E polnisch ist, ist E N0 polnisch und B(E N0 ) = B(E)⊗N0 (siehe Satz 14.8). Nach Satz 8.36 existiert also eine regul¨are Version der bedingten Verteilung von 2 (Xn+k )n∈N0 gegeben Fk . Satz 17.11. Sei I = N0 . Ist (Xn )n∈N0 ein stochastischer Prozess mit Verteilungen (Px , x ∈ E), so folgt die schwache Markoveigenschaft in Definition 17.3(iii) schon aus der Existenz eines stochastischen Kerns κ1 : E × B(E) → [0, 1] mit der Eigenschaft: F¨ur jedes A ∈ B(E), jedes x ∈ E und jedes s ∈ I gilt * ) Px Xs+1 ∈ A Fs = κ1 (Xs , A). (17.5) ¨ In diesem Fall erh¨alt man die n-Schritt Ubergangskerne κn induktiv durch κn−1 ( · , dx) κ1 (x, · ). κn = κn−1 · κ1 = E
Speziell ist die Familie (κn )n∈N eine Markov’sche Halbgruppe, und die Verteilung von X ist durch die Angabe von κ1 eindeutig festgelegt. Beweis. Setze in Satz 17.9 ti = i f¨ur i ∈ N0 . F¨ur den Beweis des Satzes wurde nur (17.5) ausgenutzt. 2
352
17 Markovketten
Die (schwache) Markoveigenschaft eines Prozesses besagt, dass zu fester Zeit t die Zukunft (nach t) von der Vergangenheit (bis t) nur durch die Gegenwart (also den Wert zur Zeit t) abh¨angt. Wir k¨onnen diesen Begriff verallgemeinern, indem wir statt fester Zeiten auch Stoppzeiten zulassen. Definition 17.12. Sei I ⊂ [0, ∞) abgeschlossen unter Addition. Ein Markovprozess (Xt )t∈I mit Verteilungen (Px , x ∈ E) hat die starke Markoveigenschaft, falls f¨ur jede f.s. endliche Stoppzeit τ und jede B(E)⊗I − B(R) messbare, beschr¨ankte Funktion f : E I → R sowie jedes x ∈ E gilt: * ) Ex f ((Xτ +t )t∈I ) Fτ = EXτ [f (X)] := κ(Xτ , dy) f (y). (17.6) EI
Bemerkung 17.13. Ist I h¨ochstens abz¨ahlbar, so ist die starke Markoveigenschaft a¨ quivalent dazu, dass f¨ur jede fast sicher endliche Stoppzeit τ gilt * ) ) * (17.7) Lx (Xτ +t )t∈N0 Fτ = LXτ (Xt )t∈N0 := κ(Xτ , · ). Dies folgt genau wie in Korollar 17.10.
3
Die meisten relevanten Markovprozesse besitzen auch die starke Markoveigenschaft. Statt hier den Begriff der Relevanz zu diskutieren, was sich wohl kaum ersch¨opfend machen ließe, wollen wir lieber zeigen, dass f¨ur abz¨ahlbare Zeitmenge die starke Markoveigenschaft aus der schwachen folgt. In zeitstetigen Situationen hingegen muss man im Allgemeinen mehr arbeiten, um die starke Markoveigenschaft zu etablieren. Satz 17.14. Ist I ⊂ [0, ∞) h¨ochstens abz¨ahlbar und abgeschlossen unter Addition, so hat jeder Markovprozess (Xn )n∈I mit Verteilungen (Px )x∈E die starke Markoveigenschaft. Beweis. Sei f : E I → R undbeschr¨ ) messbar
* ankt. Dann ist f¨ur jedes s ∈ I die Zufallsvariable ½{τ =s} Ex f (Xs+t )t∈I |Fτ messbar bez¨uglich Fs . Mit der Turmeigenschaft der bedingten Erwartung und Satz 17.9 in der dritten Gleichheit erhalten wir daher ) * ) * ½{τ =s} Ex f (Xs+t )t∈I Fτ Ex f (Xτ +t )t∈I Fτ = s∈I
=
' ) * ( Ex ½{τ =s} Ex f (Xs+t )t∈I Fs Fτ
s∈I
=
' ) * ( Ex ½{τ =s} EXs f (Xt )t∈I Fτ
s∈I
) * = EXτ f (Xt )t∈I .
2
17.1 Begriffsbildung und Konstruktion
353
Wir bringen eine einfache Anwendung der starken Markoveigenschaft. Satz 17.15 (Reflexionsprinzip). Seien Y1 , Y2 , . . . u.i.v. reelle Zufallsvariablen mit symmetrischer Verteilung L[Y1 ] = L[−Y1 ]. Setze X0 = 0 und Xn := Y1 + . . . + Yn f¨ur n ∈ N. Dann gilt f¨ur jedes n ∈ N0 und a > 0 + , P sup Xm ≥ a ≤ 2 P[Xn ≥ a] − P[Xn = a]. (17.8) m≤n
Gilt P[Y1 ∈ {−1, 0, 1}] = 1, so gilt f¨ur a ∈ N in (17.8) sogar Gleichheit. Beweis. Sei a > 0 und n ∈ N. Definiere die bei (n + 1) abgeschnittene Zeit des ¨ ersten Uberschreitens von a τ := inf{m ≥ 0 : Xm ≥ a} ∧ (n + 1). Dann ist τ eine beschr¨ankte Stoppzeit und sup Xm ≥ a
m≤n
⇐⇒
τ ≤ n.
Setze f (m, X) = ½{m≤n} ½{Xn−m >a} + 12 ½{Xn−m =a} . Dann ist
f τ, (Xτ +m )m∈N0 = ½{τ ≤n} ½{Xn >a} + 12 ½{Xn =a} . Die starke Markoveigenschaft von X liefert ' ( E0 f τ, (Xτ +m )m≥0 Fτ = ϕ (τ, Xτ ) , wobei ϕ(m, x) = Ex [f (m, X)]. (Hierbei bezeichnet Ex die Erwartung f¨ur X, falls X0 = x.) Wegen der Symmetrie der Yi ist ⎧ 1 ≥ , falls m ≤ n und x ≥ a, ⎪ ⎪ ⎨ 2 ϕ(m, x) = 12 , falls m ≤ n und x = a, ⎪ ⎪ ⎩ = 0, falls m > n. Also gilt
1
{τ ≤ n} = {τ ≤ n} ∩ {Xτ ≥ a} ⊂
1 ϕ(τ, Xτ ) ≥ 2
2 ∩ {τ ≤ n}
= {ϕ(τ, Xτ ) > 0} ∩ {τ ≤ n}. Nun folgt (17.8) aus P[Xn > a] +
* ) 1 P[Xn = a] = E f τ, (Xτ +m )m≥0 2 ) * 1 = E0 ϕ(τ, Xτ ) ½{τ ≤n} ≥ P0 [τ ≤ n] . 2
(17.9)
354
17 Markovketten
Gilt P[Y1 ∈ {−1, 0, 1}] = 1, und ist a ∈ N, so ist Xτ = a, falls τ ≤ n. Also ist 1 {ϕ(τ, Xτ ) > 0} ∩ {τ ≤ n} = ϕ(τ, Xτ ) = ∩ {τ ≤ n}. 2 Daher gilt Gleichheit im letzten Schritt von (17.9) und damit auch in (17.8).
2
¨ Ubung 17.1.1. Sei I ⊂ R X = (Xt )t∈I ein stochastischer Prozess. Definiere f¨ur t ∈ I die σ-Algebren, die die Vergangenheit bis und die Zukunft ab t kodieren: F≤t := σ(Xs : s ∈ I, s ≤ t)
und
F≥t := σ(Xs : s ∈ I, s ≥ t).
Man zeige: X hat genau dann die elementare Markoveigenschaft, wenn f¨ur jedes t ∈ I die σ-Algebren F≤t und F≥t unabh¨angig sind gegeben σ(Xt ) (vergleiche Definition 12.20). Mit anderen Worten: Ein Prozess hat die elementare Markoveigenschaft genau dann, wenn Vergangenheit und Zukunft unabh¨angig sind gegeben die Gegenwart. ♣
17.2 Diskrete Markovketten, Beispiele Sei E h¨ochstens abz¨ahlbar und I = N0 . Ein Markovprozess X = (Xn )n∈N0 auf E ist nach Definition 17.3 eine diskrete Markovkette (oder Markovkette mit diskretem Zustandsraum). Ist X eine diskrete Markovkette, so ist (Px )x∈E festgelegt durch die Angabe von ¨ der Ubergangsmatrix p = (p(x, y))x,y∈I := (Px [X1 = y])x,y∈E . Die n-Schritt¨ubergangswahrscheinlichkeiten p(n) (x, y) := Px [Xn = y] ergeben sich n¨amlich als n-faches Matrixprodukt p(n) (x, y) = pn (x, y), wobei pn (x, y) =
pn−1 (x, z)p(z, y)
z∈E
und p = I die Einheitsmatrix ist. 0
Durch Iteration folgt die Chapman-Kolmogorov’sche Gleichung (siehe (14.14)) f¨ur alle m, n ∈ N0 und x, y ∈ E p(m) (x, z) p(n) (z, y). (17.10) p(m+n) (x, y) = z∈E
17.2 Diskrete Markovketten, Beispiele
355
Definition 17.16. Eine Matrix (p(x, y))x,y∈E mit nichtnegativen Eintr¨agen und
p(x, y) = 1
f¨ur jedes x ∈ E
y∈E
heißt stochastische Matrix auf E. Nun ist eine stochastische Matrix im Wesentlichen ein stochastischer Kern von E nach E. In Satz 17.8 hatten wir gesehen, dass zu der Halbgruppe von Kernen ¨ (pn )n∈N genau eine diskrete Markovkette existiert, deren Ubergangswahrscheinlichkeiten durch p gegeben sind. Die dort angegeben Argumente waren eher abstrakter Natur. Wir wollen hier eine Konstruktion von X angeben, mit der man beispielsweise auch eine Computersimulation bauen kann. Sei (Rn )n∈N0 eine unabh¨angige Familie von Zufallsvariablen mit Werten in E E mit der Eigenschaft, dass P[Rn (x) = y] = p(x, y)
f¨ur alle x, y ∈ E.
(17.11)
Beispielsweise w¨ahle man (Rn (x), x ∈ E, n ∈ N) als eine unabh¨angige Familie von Zufallsvariablen mit Werten in E und Verteilungen P[Rn (x) = y] = p(x, y)
f¨ur alle x, y ∈ E und n ∈ N0 .
Man beachte aber, dass wir in (17.11) weder die Unabh¨angigkeit der Zufallsvariablen (Rn (x), x ∈ E) gefordert haben, noch, dass alle Rn die selbe Verteilung haben (lediglich die eindimensionalen Randverteilungen sind festgelegt). In der Tat m¨ochte man in vielen wichtigen Anwendungen wohldefinierte Abh¨angigkeitsstrukturen haben, um Markovketten mit unterschiedlichen Startzust¨anden miteinander zu koppeln. Diesen Faden verfolgen wir erst in Abschnitt 18.2 weiter. F¨ur x ∈ E definiere X0x = x
und
x Xnx = Rn (Xn−1 )
f¨ur n ∈ N.
Schließlich definieren wir Px := L[X x ] als die Verteilung von X x , also als ein W-Maß auf dem Folgenraum (E N0 , B(E)⊗N0 ). Satz 17.17. (i) Der kanonische Prozess X auf (E N0 , B(E)⊗N0 ) ist bez¨uglich ¨ p. der Verteilung (Px )x∈E eine Markovkette mit Ubergangsmatrix (ii) Insbesondere geh¨ort zu jeder stochastischen Matrix p genau eine diskrete ¨ Markovkette X mit Ubergangswahrscheinlichkeiten p. Beweis. (ii)“ folgt aus (i), da Satz 17.11 die Eindeutigkeit von X liefert. ” (i)“ F¨ur n ∈ N0 und x, y, z ∈ E gilt nach Konstruktion ”
356
17 Markovketten
) x * Px [Xn+1 = z Fn , Xn = y] = P Xn+1 = z σ Rm , m ≤ n , Xnx = y ) * = P Rn+1 (Xnx ) = z σ Rm , m ≤ n , Xnx = y ) = P Rn+1 (y) = z] = p(y, z). ¨ Nach Satz 17.11 ist X also eine Markovkette mit Ubergangsmatrix p.
2
Beispiel 17.18 (Irrfahrt auf Z). Sei E = Z, und gelte p(x, y) = p(0, y − x)
f¨ur alle x, y ∈ Z.
Wir sagen in diesem Fall, dass p translationsinvariant ist. Eine diskrete MarD ¨ kovkette X mit Ubergangsmatrix p ist eine Irrfahrt auf Z. Es ist n¨amlich Xn = X0 + Z1 + . . . + Zn , wo (Zn )n∈N u.i.v. sind mit P [Zn = x] = p(0, x). Die Rn aus der expliziten Konstruktion erhalten wir durch Rn (x) := x + Zn .
3
Beispiel 17.19 (Simulation am Computer). Wir betrachten die Situation wo E = ¨ {1, . . . , k} sogar endlich ist und wollen eine Markovkette X mit Ubergangsmatrix p am Computer simulieren. Wir nehmen an, dass der Computer einen Zufallszahlengenerator bereitstellt, der eine Folge (Un )n∈N unabh¨angiger uniform auf [0, 1] verteilter Zufallsvariablen erzeugt. Wir setzen r(i, 0) = 0, r(i, j) = p(i, 1) + . . . + p(i, j) f¨ur i, j ∈ E, und definieren Yn durch Rn (i) = j ⇐⇒ Un ∈ [r(i, j − 1), r(i, j)). Per Konstruktion ist dann P[Rn (i) = j] = r(i, j) − r(i, j − 1) = p(i, j).
3
Beispiel 17.20 (Verzweigungsprozess als Markovkette). Wir wollen den GaltonWatson Verzweigungsprozess (siehe Definition 3.9) als Markovkette auf E = N0 auffassen. Sei hierzu (qk )k∈N0 ein Wahrscheinlichkeitsvektor, den wir als Verteilung der Nachkommenschaft eines Individuums auffassen. Definiere qk∗0 = ½{0} (k) und qk∗n =
k
∗(n−1)
qk−l
ql
f¨ur n ∈ N
l=0
als n-fache Faltung von q sowie die Matrix p durch p(x, y) = qy∗x f¨ur x, y ∈ N0 . Damit ist qk∗n die Wahrscheinlichkeit f¨ur n Individuen, genau k Nachfahren zu haben. Seien nun (Yn,i , n ∈ N0 , i ∈ N0 ) u.i.v. mit P[Yn,i = k] = qk . F¨ur x ∈ N0 definieren wir den Verzweigungsprozess X mit x Urahnen und Nachkommenverteilung q Xn−1 durch X0 = x und Xn := i=1 Yn−1,i . Um zu zeigen, dass X eine Markovkette ist, berechnen wir
17.2 Diskrete Markovketten, Beispiele
357
P[Xn = xn X0 = x, X1 = x1 , . . . , Xn−1 = xn−1 ] = P[Yn−1,1 + . . . + Yn−1,xn−1 = xn ] ∗x
n−1 = PY1,1 ({xn }) = qx∗xnn−1 = p(xn−1 , xn ).
¨ p. Also ist X eine Markovkette auf N0 mit Ubergangsmatrix
3
Beispiel 17.21 (Wright’sches Evolutionsmodell). In der Biologie beschreibt das Wright’sche Evolutionsmodell ([169]) die Vererbung eines genetischen Merkmales mit zwei m¨oglichen Auspr¨agungen, etwa A und B, (zum Beispiel Resistenz/keine Resistenz gegen ein bestimmtes Antibiotikum) in einer Population konstanter Gr¨oße N ∈ N mit diskreter Generationenfolge. Die Individuen werden dabei als haploid angenommen, die Chromosomen liegen also einfach vor (wie etwa bei gewissen Einzellern) und nicht als Paare (wie etwa bei S¨augetieren). Wir betrachten hier den Fall, wo keines der beiden Merkmale einen Selektionsvorteil bietet. Es wird also angenommen, dass sich jedes Individuum der neuen Generation zuf¨allig (gleichverteilt) eines der Individuen der vorangehenden Generation als Ahn (oder Vorg¨anger) aussucht und dessen komplettes Erbgut u¨ bernimmt. Die Wahl wird f¨ur jedes Individuum unabh¨angig getroffen, wobei mehrere Individuen auf den selben Ahn zur¨uckgehen k¨onnen. Betr¨agt die Anzahl der Individuen vom Typ A in der Elterngeneration k ∈ {0, . . . , N }, so ist die Anzahl solcher Individuen in der Kindergeneration zuf¨allig und binomialverteilt mit Parametern N und k/N . Wir k¨onnen die Genfrequenzen (also die relativen Anteile k/N ) in diesem Modell offenbar durch eine Markovkette X auf E = {0, 1/N, . . . , (N − 1)/N, 1} mit ¨ Ubergangsmatrix p(x, y) = bN,x ({N y}) beschreiben. Man beachte, dass X ein (beschr¨anktes) Martingal ist. Nach dem Martingalkonvergenzsatz konvergiert X also Px -fast sicher gegen eine Zufallsvariable X∞ mit Ex [X∞ ] = Ex [X0 ] = x. ¨ Ahnlich wie beim W¨ahlermodell (siehe Beispiel 11.16), das in der Tat sehr eng verwandt mit diesem Modell ist, k¨onnen wir argumentieren, dass X∞ nur die stabilen Randwerte 0 und 1 annehmen kann. Es gilt also Px [limn→∞ Xn = 1] = x = 1 − Px [limn→∞ Xn = 0]. 3 Beispiel 17.22 (Diskretes Moran-Modell). Wir wollen ein dem Wright’schen Evo¨ lutionsmodell verwandtes Modell mit Uberlappung der Generationen betrachten. Die Situation ist wie beim Wright’schen Modell, jedoch soll jetzt pro Zeitschritt immer nur genau ein Individuum durch ein neues ersetzt werden, dessen Typ durch eine zuf¨allige Wahl aus der Elterngeneration bestimmt wird. Da die Typen des zu ersetzenden und des neuen Individuums unabh¨angig sind, erhalten wir als Modell f¨ur die Genfrequenzen eine Markovkette X auf E = ¨ {0, N1 , . . . , 1} mit Ubergangsmatrix ⎧ x(1 − x), falls y = x + 1/N, ⎪ ⎪ ⎪ ⎨ x2 + (1 − x)2 , falls y = x, p(x, y) = ⎪ x(1 − x), falls y = x − 1/N, ⎪ ⎪ ⎩ 0, sonst.
358
17 Markovketten
Auch hier ist X wieder ein beschr¨anktes Martingal, und wir k¨onnen den quadratischen Variationsprozess ausrechnen: X!n =
n−1 n * ) 2 E (Xi − Xi−1 )2 Xi−1 = 2 Xi (1 − Xi ). N i=0 i=1
(17.12) 3
¨ Ubung 17.2.1 (Diskretes Martingalproblem). Sei E ⊂ R h¨ochstens abz¨ahlbar ¨ und X eine Markovkette auf E mit Ubergangsmatrix p und der Eigenschaft, dass es ⊂ E gibt mit p(x, y) = 0 f¨ur f¨ur jedes x eine h¨ochstens dreielementige Menge A x jedes y ∈ E \ Ax . Sei d(x) := y∈E (y − x) p(x, y) f¨ur x ∈ E. n−1 (i) Man zeige: Durch Mn := Xn − k=0 d(Xk ) wird ein Martingal M definiert n−1 mit quadratischem Variationsprozess M !n = i=0 f (Xi ) f¨ur eine eindeutig bestimmte Funktion f : E → [0, ∞). ¨ (ii) Man zeige: Die Ubergangsmatrix p ist durch Angabe von f und d eindeutig bestimmt. ¨ (iii) Man berechne f¨ur das Moran-Modell (Beispiel 17.22) die Ubergangsmatrix aus der expliziten Form (17.12) des quadratischen Variationsprozesses. ♣
17.3 Diskrete Markovprozesse in stetiger Zeit ¨ Sei E abz¨ahlbar und (Xt )t∈[0,∞) ein Markovprozess auf E mit Ubergangswahrscheinlichkeiten pt (x, y) = Px [Xt = y] (f¨ur x, y ∈ E). (Manche Autoren nennen solch einen Prozess auch Markovkette in stetiger Zeit.) Sind x, y ∈ E mit x = y, so sagen wir, dass X mit Rate q(x, y) von x nach y springt, falls der folgende Limes existiert q(x, y) := lim t↓0
1 Px [Xt = y]. t
Wir nehmen nun an, dass q(x, y) f¨ur alle y = x existiert, und dass q(x, y) < ∞ f¨ur jedes x ∈ E
(17.13)
y =x
gilt. Wir setzen dann q(x, x) = −
q(x, y).
(17.14)
y =x
Mit dieser Festsetzung gilt lim t↓0
1 Px [Xt = y] − ½{x=y} = q(x, y) t
f¨ur alle x, y ∈ E.
(17.15)
17.3 Diskrete Markovprozesse in stetiger Zeit
359
Definition 17.23. Gelten (17.13), (17.14) und (17.15), so heißt q die Q-Matrix von X. Manchmal wird q auch der Generator der Halbgruppe (pt )t≥0 genannt. Beispiel 17.24 (Poissonprozess). Der Poissonprozess mit Rate α > 0 (vergleiche Kapitel 5.5) hat die Q-Matrix q(x, y) = α(½{y=x+1} − ½{y=x} ). 3 Satz 17.25. Gilt q(x, y) ≥ 0 f¨ur alle x, y ∈ E mit x = y, gelten (17.13), (17.14), und ist (17.16) λ := sup |q(x, x)| < ∞, x∈E
so ist q die Q-Matrix eines eindeutig bestimmten Markovprozesses X. Ganz naiv betrachtet legt (17.15) nahe, dass man pt = etq in einem geeigneten Sinne d pt . Der folgende Beweis zeigt, dass definiert. Dann w¨are rein formal q = dt t=0 diese formale Argumentation unter den angegebenen Bedingungen rigoros gemacht werden kann. Beweis. Sei I die Einheitsmatrix. Definiere p(x, y) =
1 q(x, y) + I(x, y) λ
f¨ur x, y ∈ E.
Dann ist p eine stochastische Matrix und q = λ(p − I). Sei (Yn )n∈N0 , PYx x∈E
T ¨ eine diskrete Markovkette mit Ubergangsmatrix p, und sei (Tt )t≥0 , Pn n∈N 0 ein Poissonprozess mit Rate λ. Sei Xt := YTt und Px = PYx ⊗ PT0 . Dann ist X := ((Xt )t≥0 , (Px )x∈E ) ein Markovprozess und pt (x, y) := Px [Xt = y] =
∞
PT0 [Tt = n] PxY [Yn = y]
n=0
= e−λt
∞
n n
λ t n p (x, y). n! n=0
Diese Potenzreihe (in t) ist u¨ berall konvergent (da p als linearer Operator endliche Norm p2 ≤ 1 hat) gegen die Matrix-Exponentialfunktion eλtp (x, y), und es gilt pt (x, y) = e−λt eλtp (x, y) = eλt(p−I) (x, y) = etq (x, y). Durch gliedweise Differentiation der Potenzreihe erhalten wir
d dt pt (x, y) t=0
=
q(x, y). Damit ist X der gew¨unschte Markovprozess. ¨ Wir nehmen nun an, dass ( pt )t≥0 die Ubergangswahrscheinlichkeiten eines weite ren Markovprozesses X sind, mit dem selben Generator q, also mit lim s↓0
1 p s (x, y) − I(x, y) = q(x, y). s
360
17 Markovketten
Man pr¨uft leicht nach, dass lim s↓0
1 pt+s (x, y) − pt (x, y) = (q · pt )(x, y) s
pt = q p t (x, y). gilt, das heißt, es gilt (d/dt)pt (x, y) = q pt (x, y) und analog (d/dt) Damit gilt ebenfalls t
pt (x, y) − p t (x, y) = q(ps − p s ) (x, y) ds. 0
Setzen wir rs = ps − p s , so ist rs 2 ≤ 2 und q2 ≤ 2λ, also s s sup rs 2 ≤ sup qru 2 du ≤ q2 sup ru 2 du ≤ 2λt sup rs 2 . s≤t
s≤t
0
s≤t
s≤t
0
F¨ur t < 1/(2λ) folgt hieraus rt = 0, also p t = pt . F¨ur allgemeines t > 0 w¨ahle n ∈ N, so dass t/n < 1/(2λ). Dann ist p t = ( pt/n )n = (pt/n )n = pt . 2 Bemerkung 17.26. Auf die Bedingung (17.16) kann nicht ersatzlos verzichtet werden, wie dieses Beispiel zeigt: Sei E = N und ⎧ 2 ⎪ ⎨ x , q(x, y) = −x2 , ⎪ ⎩ 0,
falls y = x + 1, falls y = x, sonst.
Wir stellen uns einen Kandidaten X f¨ur einen Markovprozess mit Q-Matrix q explizit her. Seien T1 , T2 , . . . unabh¨angige, exponentialverteilte Zufallsvariablen mit PTn = expn2 . Setze Sn = T1 + . . . + Tn−1 und Xt = sup{n ∈ N0 : Sn ≤ t}. Dann macht X zu jedem Zeitpunkt h¨ochstens einen Schritt nach rechts, und es gilt ¨ aufgrund der Ged¨achtnislosigkeit der Exponentialverteilung (siehe Ubung 8.1.1) P[Xt+s ≥ n + 1|Xt = n] = P[Sn+1 ≤ t + s|Sn ≤ t, Sn+1 > t] = P[Tn ≤ s + t − Sn |Sn ≤ t, Tn > t − Sn ] = P[Tn ≤ s] = 1 − exp(−n2 s). Es folgt
lim s−1 P[Xt+s = n + 1|Xt = n] = n2 s↓0
und
lim s−1 P[Xt+s = n|Xt = n] − 1 = −n2 , s↓0
also
lim s−1 P[Xt+s = m|Xt = n] − I(m, n) = q(m, n) s↓0
f¨ur alle m, n ∈ N.
17.3 Diskrete Markovprozesse in stetiger Zeit
361
Schreiben wir τ n = inf{t ≥ 0 : Xt = n} = Sn so gilt E1 [τ n ] =
n−1
1 k=1 k2 .
+
Nach dem Satz von der monotonen Konvergenz ist ,
E1 sup τ n∈N
n
f¨ur n ∈ N,
∞ ) n* 1 < ∞. = lim E1 τ = n→∞ k2 k=1
Das heißt, X u¨ berschreitet in endlicher Zeit alle Schranken. Wir sagen, dass X explodiert. 3 Beispiel 17.27 (Eine Variante des P´olya’schen Urnenmodells). Wir betrachten eine Variante des P´olya’schen Urnenmodells mit schwarzen und roten Kugeln (vergleiche Beispiel 12.29), wo nicht jeweils einfach nur eine weitere Kugel der selben Farbe zur¨uckgelegt wird, sondern f¨ur die k-te Kugel, die von einer Farbe gezogen wird, werden rk weitere Kugeln zur¨uckgelegt. Dabei sind die Zahlen r1 , r2 , . . . ∈ N die Parameter des Modells. Der Fall 1 = r1 = r2 = . . . entspricht dem klassischen P´olya’schen Urnenmodell. Sei 1, falls die n-te Kugel schwarz ist, Xn := 0, sonst. Beim klassischen Modell hatten wir gesehen (Beispiel 12.29), dass der Anteil der schwarzen Kugeln gegen eine betaverteilte Zufallsvariable Z konvergiert, und dass gegeben Z die Folge X1 , X2 , . . . unabh¨angig und BerZ verteilt ist. Ganz a¨ hnliche Aussagen bekommen wir in dem Fall, wo r = r1 = r2 = . . . ist f¨ur ein r ∈ N. In der Tat a¨ ndern sich hier nur die Parameter der Betaverteilung. Insbesondere (da die Betaverteilung keine Atome in 0 und 1 hat), werden von jeder Farbe fast sicher unendlich viele Kugeln gezogen. Es gilt also P[B] = 0, wo B das Ereignis ist, dass von einer der Farben nur endlich viele Kugeln gezogen werden. Wir werden jetzt sehen, dass dies nicht so sein muss, wenn die Zahlen rk nur rasch genug wachsen. Wir nehmen an, dass anfangs nje eine rote und eine schwarze Kugel in der Urne liegen und schreiben wn = 1+ k=1 rk f¨ur die Gesamtzahl von Kugeln einer Farbe, nachdem die Farbe bereits n-mal gezogen wurde (n ∈ N0 ). Wir betrachten zun¨achst eine extreme Situation wo wn = 2n f¨ur jedes n ∈ N. Die Gr¨oße Sn = 2(X1 + . . . + Xn ) − n z¨ahlt, wie viel mehr schwarze Kugeln als rote Kugeln bis zum n-ten Schritt gezogen wurden. Dann ist f¨ur jedes n ∈ N0 P[Xn+1 = 1|Sn ] =
2Sn 1 + 2Sn
und
P[Xn+1 = 0|Sn ] =
2−Sn . 1 + 2−Sn
362
17 Markovketten
Zusammen erhalten wir, dass (Zn )n∈N0 := (|Sn |)n∈N0 eine Markovkette auf N0 ist ¨ mit Ubergangsmatrix ⎧ z 2 /(1 + 2z ), falls z = z + 1 > 1, ⎪ ⎪ ⎨ 1, falls z = z + 1 = 1, p(z, z ) = z 1/(1 + 2 ), falls z = z − 1, ⎪ ⎪ ⎩ 0, sonst. Das Ereignis B von oben k¨onnen wir schreiben als
B = Zn+1 < Zn nur endlich oft .
Sei A = Zn+1 > Zn f¨ur alle n ∈ N0 das Ereignis, dass Z auf direktem Weg nach ∞ flieht und τz = inf{n ∈ N0 : Zn ≥ z}. Offenbar ist Pz [A] =
∞ z =z
p(z , z + 1) ≥ 1 −
∞ z =z
1 ≥ 1 − 21−z . 1 + 2z
Man kann leicht zeigen, dass P0 [τz < ∞] = 1 ist f¨ur jedes z ∈ N0 . Wir erhalten f¨ur jedes z ∈ N0 mit der starken Markoveigenschaft P0 [B] ≥ P0 [Zn+1 > Zn f¨ur alle n ≥ τz ] = Pz [A] ≥ 1 − 21−z und damit P0 [B] = 1. Damit ist nachgewiesen, dass fast sicher irgendwann nur noch Kugeln einer Farbe gezogen werden. Wir wollen nun von diesem extremen Beispiel weg und mit (noch) subtileren Methoden, die an das obige Beispiel mit der Explosion des Markovprozesses ankn¨upfen, arbeiten. ∞ 1 Wir wollen nun zeigen, dass P[B] = 1, falls n=0 wn < ∞. Hierzu betrachten wir unabh¨angige Zufallsvariablen T1s , T1r , T2s , T2r , . . . mit PTnr = PTns = ∞ ∞ r s r = n=1 Tnr und T∞ = n=1 Tns . Offenbar ist E[T∞ ]= expwn−1 . Ferner sei T∞ ∞ r n=0 1/wn < ∞, also ist insbesondere P[T∞ < ∞] = 1. Die analoge Aussage s r s gilt f¨ur T∞ . Man beachte, dass T∞ und T∞ unabh¨angig sind und Dichten haben r s r s (weil T1 und T1 Dichten haben), also gilt P[T∞ = T∞ ] = 0. Seien nun
r Rt = sup n ∈ N : T1r + . . . + Tn−1 ≤t
und
s ≤t . St = sup n ∈ N : T1s + . . . + Tn−1
Seien R := {T1r + . . . + Tnr , n ∈ N} und S := {T1s + . . . + Tns , n ∈ N} die Sprungzeitpunkte von (Rt ) und (St ) sowie U := R ∪ S = {u1 , u2 , . . .}, wobei u1 < u2 < . . . Sei 1 1, falls un ∈ S, Xn = 0, sonst.
17.4 Diskrete Markovketten, Rekurrenz und Transienz
363
Sei Ln = x1 + . . . + xn . Dann ist P[Xn+1 = 1 X1 = x1 , . . . , Xn = xn ] ) * = P un+1 ∈ S (uk ∈ S ⇐⇒ xk = 1) f¨ur jedes k ≤ n ) r = P T1s + . . . + TLs n +1 < T1r + . . . + Tn−L n +1 s T + . . . + T s +1 > T r + . . . + T r 1 Ln 1 n−Ln ] * ) s wLn r . = P TLn +1 < Tn−Ln +1 = wLn + wn−Ln Also ist (Xn )n∈N0 das erweiterte Urnenmodell mit Gewichten (wn )n∈N0 . Wir betrachten nun das Ereignis B c , dass von jeder Farbe unendlich viele Kugeln gezogen werden. Offenbar ist {Xn = 1 unendlich oft} = {sup S = sup U } und {Xn = s r 0 unendlich oft} = {sup R = sup U }. Wegen sup S = T∞ und sup R = T∞ ist c r s 3 also P[B ] = P[T∞ = T∞ ] = 0. ¨ Ubung 17.3.1. Seien r, s, R, S ∈ N. Man betrachte das P´olya’sche Urnenmodell (Xn )n∈N0 mit rk = r und sk = s f¨ur alle k ∈ N und anf¨anglich R roten Kugeln und S schwarzen Kugeln. Man zeige, dass der Anteil der schwarzen Kugeln fast sicher gegen eine Zufallsvariable Z mit Beta-Verteilung konvergiert und bestimme die Parameter. Man zeige, dass (Xn )n∈N0 u.i.v. ist gegeben Z und Xi ∼ BerZ f¨ur ♣ jedes i ∈ N0 . ¨ Ubung 17.3.2. Man zeige, dass fast sicher unendlich viele Kugeln jeder Farbe ge∞ 1 zogen werden, falls = ∞. ♣ w n=0 n
17.4 Diskrete Markovketten, Rekurrenz und Transienz Sei im Folgenden X = (Xn )n∈N0 eine Markovkette auf dem abz¨ahlbaren Raum E ¨ mit Ubergangsmatrix p. Definition 17.28. F¨ur jedes x ∈ E sei τx := τx1 := inf{n > 0 : Xn = x} und
f¨ur k ∈ N, k ≥ 2. τxk = inf n > τxk−1 : Xn = x τxk heißt k-te Eintrittszeit von X in x. F¨ur x, y ∈ E sei * ) F (x, y) := Px [τy1 < ∞] = Px es gibt ein n ≥ 1 mit Xn = y die Wahrscheinlichkeit jemals von x nach y zu gehen. Speziell ist F (x, x) die R¨uckkehrwahrscheinlichkeit (nach dem ersten Sprung) von x nach x. Man beachte, dass τx1 > 0 selbst bei Start in X0 = x gilt.
364
17 Markovketten
1/6
1
1/2
1/3
2
4
1/2
1/2
3/4
1/2
3
3/4
1
1/4
6
1/4
5
1
1/2
1/2
8
7 1/2
¨ Abb. 17.1. Markovkette mit acht Zust¨anden. Die Zahlen sind die Ubergangswahrscheinlichkeiten f¨ur die entsprechenden Pfeile. Der Zustand 2 ist absorbierend, die Zust¨ande 1, 3, 4 und 5 transient, die Zust¨ande 6, 7 und 8 (positiv) rekurrent.
) * Satz 17.29. F¨ur alle x, y ∈ E und k ∈ N gilt Px τyk < ∞ = F (x, y) F (y, y)k−1 . Beweis. Wir f¨uhren den Beweis per Induktion u¨ ber k. F¨ur k = 1 ist die Aussage per Definition richtig. Sei nun k ≥ 2. Dann ist wegen der starken Markoveigenschaft von X (siehe Satz 17.14) ' ' ( ( * ) Px τyk < ∞ = Ex Px τyk < ∞ Fτyk−1 ½{τyk−1 <∞} ' ( = Ex F (y, y) · ½{τyk−1 <∞} = F (y, y) · F (x, y) F (y, y)k−2 = F (x, y) F (y, y)k−1 .
2
Definition 17.30. Ein Zustand x ∈ E heißt – rekurrent, falls F (x, x) = 1, – positiv rekurrent, falls Ex [τx1 ] < ∞, – nullrekurrent, falls x rekurrent ist, aber nicht positiv rekurrent, – transient, falls F (x, x) < 1, – absorbierend, falls p(x, x) = 1. Die Markovkette X heißt (positiv / null-) rekurrent, falls jeder Zustand x ∈ E (positiv / null-) rekurrent ist und transient, falls jeder rekurrente Zustand absorbierend ist.
17.4 Diskrete Markovketten, Rekurrenz und Transienz
1
0
r
r
1
2
1−r
365
r
3
1−r
1−r
1−r
Abb. 17.2. Markovkette auf N0 mit Parameter r ∈ (0, 1). Die Kette ist positiv rekurrent, wenn r ∈ (0, 1/2), nullrekurrent, wenn r = 1/2 und transient f¨ur r ∈ (1/2, 1).
Bemerkung 17.31. Offenbar gilt: absorbierend“ =⇒ positiv rekurrent“ =⇒ rekurrent“. ” ” ”
3
Beispiel 17.32. (i) In Abb. 17.1 ist offenbar der Zustand 2 absorbierend. Wird die Kette nicht in 2 gefangen, so wird sie irgendwann einmal den Sprung von 5 nach 6 machen und danach nicht wieder zur¨uckkehren. Also sind 1, 3, 4 und 5 transient. Die ¨ Zust¨ande 6, 7 und 8 sind positiv rekurrent. Man kann zeigen (siehe Ubung 17.6.1), 17 17 , E [τ ] = und E [τ ] = . dass E6 [τ6 ] = 17 7 7 8 8 4 5 8 (ii) In Abb. 17.2 hat die Kette eine Tendenz, nach rechts auszuwandern, falls r > 12 ist. Daher ist in diesem Fall jeder Zustand transient. Ist hingegen r ∈ (0, 12 ), so hat die Kette einen Drall nach links (außer in 0) und besucht daher jeden Zustand immer wieder, ist also rekurrent. Mit etwas mehr Nachdenken kann man zeigen ¨ (siehe Ubung 17.6.4), dass die Kette in diesem Fall sogar positiv rekurrent ist und 3 im verbleibenden Fall r = 12 nullrekurrent. Definition 17.33. Mit N (y) = Besuche von X in y und mit
∞ n=0
½{Xn =y} bezeichnen wir die Gesamtzahl der
G(x, y) = Ex [N (y)] =
∞
pn (x, y)
n=0
die Greenfunktion von X. Satz 17.34.
(i) F¨ur alle x, y ∈ E gilt (mit 1/0 := ∞)
G(x, y) =
F (x,y) 1−F (y,y) , 1 1−F (y,y) ,
falls x = y falls x = y
= F (x, y) G(y, y) + ½{x=y} . (17.17)
(ii) Ein Punkt x ∈ E ist genau dann rekurrent, wenn G(x, x) = ∞. Beweis. (ii) folgt aus (i). Wir m¨ussen also noch (17.17) zeigen. Nach Satz 17.29 ist
366
17 Markovketten
G(x, y) = Ex [N (y)] =
∞
Px [N (y) ≥ k]
k=1
= ½{x=y} +
∞
∞ ) * Px τyk < ∞ = ½{x=y} + F (x, y) F (y, y)k−1
k=1
=
F (x,y) , 1−F (y,y) 1 1−F (x,x) ,
k=1
falls x = y, falls x = y.
Die zweite Gleichheit in (17.17) folgt hieraus direkt.
2
Satz 17.35. Ist x rekurrent und F (x, y) > 0, dann ist auch y rekurrent, und es gilt F (x, y) = F (y, x) = 1. Beweis. Sei F (x, y) > 0. Dann gibt es ein k ∈ N und Punkte x1 , . . . , xk ∈ E mit xk = y und xi = x f¨ur jedes i = 1, . . . , k sowie Px [Xi = xi f¨ur jedes i = 1, . . . , k] > 0. Speziell ist pk (x, y) > 0. Nach der Markoveigenschaft ist ) ) * * 1 − F (x, x) = Px τx1 = ∞ ≥ Px X1 = x1 , . . . , Xk = xk , τx1 = ∞ * ) = Px [X1 = x1 , . . . , Xk = xk ] · Py τx1 = ∞ = Px [X1 = x1 , . . . , Xk = xk ] (1 − F (y, x)) . Ist nun F (x, x) = 1, dann ist auch F (y, x) = 1. Wegen F (y, x) > 0 existiert ein l ∈ N mit pl (y, x) > 0. Also ist f¨ur n ∈ N0 pl+n+k (y, y) ≥ pl (y, x) pn (x, x) pk (x, y). Mithin ist, falls x rekurrent ist, G(y, y) ≥
∞
pl+n+k (y, y) ≥ pl (y, x)pk (x, y)G(x, x) = ∞.
n=0
Folglich ist auch y rekurrent. Wenn wir jetzt im Argument x und y vertauschen, dann erhalten wir noch F (x, y) = 1. 2 Definition 17.36. Eine diskrete Markovkette heißt – irreduzibel, falls F (x, y) > 0 f¨ur alle x, y ∈ E gilt, oder a¨ quivalent G(x, y) > 0, – schwach irreduzibel, falls F (x, y) + F (y, x) > 0 f¨ur alle x, y ∈ E gilt.
17.5 Anwendung: Rekurrenz und Transienz von Irrfahrten
367
Satz 17.37. Eine irreduzible diskrete Markovkette ist entweder rekurrent oder transient. Ist |E| ≥ 2, so gibt es keine absorbierenden Zust¨ande. 2
Beweis. Das folgt direkt aus Satz 17.35. Satz 17.38. Ist E endlich und X irreduzibel, so ist X rekurrent. Beweis. Offenbar ist f¨ur jedes x ∈ E
G(x, y) =
∞
pn (x, y) =
n=0 y∈E
y∈E
∞
1 = ∞.
n=0
Da E endlich ist, gibt es ein y ∈ E mit G(x, y) = ∞. Wegen F (y, x) > 0 existiert ein k ∈ N mit pk (y, x) > 0, also ist pn+k (x, x) ≥ pn (x, y) pk (y, x) und G(x, x) ≥
∞
pn (x, y) pk (y, x) = pk (y, x) G(x, y) = ∞.
2
n=0
¨ Ubung 17.4.1. Sei x positiv rekurrent und F (x, y) > 0. Man zeige, dass auch y positiv rekurrent ist. ♣
17.5 Anwendung: Rekurrenz und Transienz von Irrfahrten Wir wollen in diesem Abschnitt die Rekurrenz- und Transienzeigenschaften von Irrfahrten auf ZD , D = 1, 2, . . . untersuchen. Eine ausf¨uhrlichere Behandlung findet der Leser im Buch von Spitzer [157]. Wir wollen untersuchen, ob die symmetrische einfache Irrfahrt X auf ZD , die in jedem Schritt mit gleicher Wahrscheinlichkeit zu einem der 2D n¨achsten Nachbarn springt, rekurrent oder transient ist. Sei also E = ZD und 1 falls |x − y| = 1, 2D , p(x, y) = 0, sonst. Der zentrale Grenzwertsatz legt nahe zu vermuten, dass pn (0, 0) ≈ CD n−D/2
f¨ur n → ∞
f¨ur eine Konstante CD , die von der Dimension abh¨angt. Wir m¨ussen hier jedoch zun¨achst einmal den Fall ausschließen, wo n ungerade ist, denn f¨ur ungerades n ist offenbar pn (0, 0) = 0. Seien also Y1 , Y2 , . . . unabh¨angige ZD -wertige ZufallsvariD ablen mit P[Yi = x] = p2 (0, x). Dann ist X2n = Sn := Y1 + . . . + Yn f¨ur n ∈ N0 ,
368
17 Markovketten
∞ also G(0, 0) = n=0 P[Sn = 0]. Offenbar hat Y1 = (Y11 , . . . , Y1D ) die Kovarianz2 matrix Ci,j := E[Y1i · Y1j ] = D ½{i=j} . Nach dem lokalen zentralen Grenzwertsatz (siehe etwa [23, Seite 224ff] f¨ur eine eindimensionale Version dieses Satzes oder ¨ Ubung 17.5.1 f¨ur eine analytische Herleitung) gilt nD/2 p2n (0, 0) = nD/2 P[Sn = 0] −→ 2 (4π/D)−D/2 . n→∞
(17.18)
∞ Nun ist genau dann n=1 n−α < ∞, wenn α > 1 ist, also ist G(0, 0) < ∞ genau dann, wenn D > 2 ist. Wir haben damit einen Satz von P´olya gezeigt: Satz 17.39 (P´olya (1921)). Die symmetrische einfache Irrfahrt auf ZD ist genau dann rekurrent, wenn D ≤ 2. Das hier verwendete Vorgehen hat den Nachteil, dass wir den lokalen zentralen Grenzwertsatz bem¨uht haben, den wir nicht bewiesen haben. Wir wollen daher weitere Ans¨atze betrachten, die ohne dieses Hilfsmittel auskommen und auch an sich von Interesse sind. Betrachten wir zun¨achst die eindimensionale einfache Irrfahrt, die mit Wahrscheinlichkeit p einen Schritt nach rechts macht und mit Wahrscheinlichkeit 1 − p einen Schritt nach links. Dann ist ∞ ∞ n n 2n −1/2 G(0, 0) = = p(1 − p) − p(1 − p) . n n n=0 n=0 Unter Benutzung des verallgemeinerten binomischen Lehrsatzes (Lemma 3.5) folgt (wegen (1 − 4p(1 − p))1/2 = |2p − 1|) 1 falls p = 12 , G(0, 0) = |2p−1| (17.19) ∞, falls p = 12 . Wir erhalten also, dass die einfache Irrfahrt auf Z genau dann rekurrent ist, wenn sie symmetrisch ist, also falls p = 12 gilt. Die Transienz im Falle p = 12 folgt nat¨urlich auch direkt aus dem starken Gesetz der großen Zahl, denn limn→∞ n1 Xn = E0 [X1 ] = 2p − 1 fast sicher. Tats¨achlich haben wir bei diesem Argument nur benutzt, dass die einzelnen Schritte von X einen Erwartungswert haben, der ungleich Null ist. Betrachten wir nun die allgemeinere Situation, wo X nicht notwendigerweise nur zu den n¨achsten Nachbarn springt, wo aber immer noch E0 [|X1 |] < ∞ und E0 [X1 ] = 0 gelten. Das starke Gesetz der großen Zahl liefert hier nicht direkt die gew¨unschte Aussage, sondern wir m¨ussen etwas sorgf¨altiger argumentieren. Die Markoveigenschaft liefert f¨ur jedes N ∈ N und y = x GN (x, y) :=
N k=0
Px [Xk = y] =
N k=0
−k * N ) Px τy1 = k Py [Xl = y] ≤ GN (y, y). l=0
17.5 Anwendung: Rekurrenz und Transienz von Irrfahrten
369
Hieraus folgt f¨ur jedes L ∈ N GN (0, 0) ≥
1 GN (0, y) 2L + 1 |y|≤L
=
N 1 k p (0, y) 2L + 1 k=0 |y|≤L
1 2L + 1
N
≥
pk (0, y).
k=1 y: |y/k|≤L/N
Nach dem schwachen Gesetz der großen Zahl ist lim inf k→∞ f¨ur jedes ε > 0, also folgt, wenn wir L = εN setzen lim inf GN (0, 0) ≥ N →∞
1 2ε
|y|≤εk
pk (0, y) = 1
f¨ur jedes ε > 0.
Wir haben damit G(0, 0) = ∞ und folglich die Rekurrenz von X gezeigt. Zusammen mit der vorangehenden, einfachen Richtung haben wir gezeigt: ∞ Satz 17.40. Eine Irrfahrt auf Z mit x=−∞ |x| p(0, x) < ∞ ist genau dann re∞ kurrent, wenn x=−∞ x p(0, x) = 0 gilt. Wie steht es nun f¨ur symmetrische einfache Irrfahrten in Dimension D = 2 und h¨oheren Dimensionen? Damit die Irrfahrt nach 2n Schritten wieder im Ursprung ist, muss sie ki Schritte in die i-te Richtung machen und ki Schritte in die Gegenrichtung, wobei k1 + . . . + kD = n ist. Wir erhalten also 2n 2n −2n , (17.20) p (0, 0) = (2D) k1 , k1 , . . . , kD , kD k1 +...+kD =n
wobei
N l1 ,...,lr
=
N! l1 !···lr !
der Multinomialkoeffizienten ist. Speziell ist f¨ur D = 2
p2n (0, 0) = 4−2n
n k=0
= 4
−2n
(2n)! − k)!)2
(k!)2 ((n
n 2 n 2n n −2n 2n = 2 , n−k n k n
k=0
wobei wir im letzten Schritt eine einfache kombinatorische Identit¨at benutzt haben, die beispielsweise direkt aus der Faltungsformel (bn,p ∗ bn,p )({n}) = b2n,p ({n}) folgt. Nach der Stirling’schen Formel gilt nun √ −2n 2n 1 =√ , lim n 2 n→∞ n π
370
17 Markovketten
∞ also limn→∞ np2n (0, 0) = π1 . Insbesondere ist also n=1 p2n (0, 0) = ∞, das heißt, die zweidimensionale, symmetrische einfache Irrfahrt ist rekurrent. F¨ur D ≥ 3 l¨asst sich die Summe u¨ ber die Multinomialkoeffizienten nicht mehr in befriedigender Weise ausrechnen. Man kann allerdings immer noch obere Absch¨atzungen angeben, die zeigen, dass es ein c = cD gibt, sodass p2n (0, 0) ≤ c n−D/2 gilt, −D/2 woraus dann G(0, 0) ≤ c ∞ < ∞ folgt (siehe etwa [62, Beispiel 6.31] n=1 n oder [55, Seite 361]). Wir wollen hier jedoch eine andere Argumentation verfolgen. Die Sache w¨are ganz einfach, wenn die einzelnen Koordinaten der Kette unabh¨angig w¨aren. Dann w¨are ja die Wahrscheinlichkeit, dass zur Zeit 2n alle Koordinaten gleich Null sind, gleich der D-ten Potenz der Wahrscheinlichkeit, dass etwa die erste Koordinate gleich Null ist. F¨ur eine Koordinate ist aber (weil sich eine einzelne Koordinate ja nur mit Wahrscheinlichkeit 1/D bewegt, also nur Varianz 1/D hat) die Wahrscheinlichkeit, von der 0 aus startend nach 2n Schritten wieder in 0 zu sein ungef¨ahr (n π/D)−1/2 . Bis auf einen Faktor erhielte man so (17.18), ohne dass man den mehrdimensionalen lokalen zentralen Grenzwertsatz direkt bem¨uht h¨atte. Eine M¨oglichkeit, die Koordinaten tats¨achlich unabh¨angig zu machen, besteht darin, die zeitdiskrete Markovkette in einen zeitstetigen Markovprozess auf ZD zu verwandeln, der die gleiche Greenfunktion hat. Wir betrachten also D unabh¨angige Poissonprozesse (Tti )t≥0 , i = 1, . . . , D mit Rate 1/D und D unabh¨angige, symmetrische einfache Irrfahrten Z 1 , . . . , Z D auf Z. Wir setzen T := T 1 + . . . + T D , Yti := ZTi i f¨ur i = 1, . . . , D und Yt = t
(Yt1 , . . . , YtD ). Dann ist Y eine Markovkette in stetiger Zeit mit Q-Matrix q(x, y) = p(x, y) − ½{x=y} . Da T ein Poissonprozess mit Rate 1 ist, ist auch (XTt )t≥0 ein D
Markovprozess mit Q-Matrix q. Es folgt (XTt )t≥0 = (Yt )t≥0 . Wir berechnen nun
∞
GY :=
∞ ∞
P0 [Yt = 0] dt =
0
=
0
n=0
∞
2n
n=0
) * P0 X2n = 0, Tt = 2n dt
p (0, 0) 0
∞
e−t
t2n dt = G(0, 0). (2n)!
Die beiden Prozesse (Xn )n∈N0 und (Yt )t∈[0,∞) haben also die selbe Greenfunktion. Nun sind aber die Koordinaten von Y tats¨achlich unabh¨angig, also ist ∞ P0 [Yt1 = 0]D dt. GY = 0
P0 [Yt1
Wir m¨ussen also nur noch = 0] f¨ur große t berechnen. Wir k¨onnen so argumentieren: nach dem Gesetz der großen Zahl ist Tt1 ≈ t/D f¨ur große t. Außerdem gilt P0 [Yt1 ist gerade] ≈ 12 . Es gilt also, mit nt = t/2D f¨ur t → ∞ (vergleiche ¨ Ubung 17.5.2) * 1 2nt −nt −1/2 −1/2 1 ) 1 1 ∼ 2π/D t . (17.21) 4 P0 [Yt = 0] ∼ P Z2nt = 0 = 2 2 nt
17.5 Anwendung: Rekurrenz und Transienz von Irrfahrten
371
0∞ Da genau dann 1 t−α dt < ∞ gilt, wenn α > 1 ist, so gilt auch GY < ∞ genau dann, wenn D > 2 ist. Dies ist aber gerade die Aussage des Satzes von P´olya. Schließlich stellen wir noch eine dritte Methode vor, um Rekurrenz und Transienz von Irrfahrten zu untersuchen, die unabh¨angig von den euklidischen Eigenschaften des D-dimensionalen Gitters ist und auf der Fourier-Inversionsformel beruht. ¨ Wir betrachten zun¨achst eine allgemeine (zeitdiskrete) irreduzible Irrfahrt mit Ubergangsmatrix p auf ZD . Mit φ(t) = x∈ZD eit,x p(0, x) bezeichnen wir die charak¨ ¨ teristische Funktion eines einzelnen Ubergangs. Die Faltung der Ubergangswahrscheinlichkeiten u¨ bertr¨agt sich in Potenzen der charakteristischen Funktion, also ist φn (t) = eit,x pn (0, x). x∈ZD
Nach der Fourier-Inversionsformel (Satz 15.10) erhalten wir aus φn die n-Schritt ¨ Ubergangswahrscheinlichkeiten zur¨uck durch e−it,x φn (t) dt. pn (0, x) = (2π)−D [−π,π)D
Speziell ist f¨ur λ ∈ (0, 1) Rλ :=
∞
λn pn (0, 0) = (2π)−D
n=0
∞ n=0
λn φn (t) dt
[−π,π)D
1 dt. 1 − λ φ(t) 1 −D dt. = (2π) Re 1 − λ φ(t) [−π,π)D = (2π)−D
[−π,π)D
Nun ist G(0, 0) = limλ↑1 Rλ , also X ist rekurrent ⇐⇒ lim λ↑1
[−π,π)D
Re
1 1 − λ φ(t)
dt = ∞.
(17.22)
W¨are φ(t) = 1 f¨ur ein t ∈ (−2π, 2π)D \{0}, so w¨are φn (t) = 1 f¨ur jedes n ∈ N und ¨ damit nach Ubung 15.2.1 P0 [ Xn , t/(2π)! ∈ Z] = 1, also w¨are X nicht irreduzibel, im Widerspruch zur Annahme. Wegen der Stetigkeit von φ ist also f¨ur jedes ε > 0
inf |φ(t) − 1| : t ∈ [−π, π)D \ (−ε, ε)D > 0. Es gilt also der folgende Satz. Satz 17.41 (Chung-Fuchs (1951)). Eine irreduzible Irrfahrt auf ZD mit charakteristischer Funktion φ ist genau dann rekurrent, wenn f¨ur jedes ε > 0 gilt: 1 dt = ∞. (17.23) Re lim λ↑1 (−ε,ε)D 1 − λ φ(t)
372
17 Markovketten
D 1 Betrachten wir nun die symmetrische einfache Irrfahrt, so ist φ(t) = D i=1 cos(ti ). Entwickeln wir die Kosinusfunktion in eine Taylorreihe um 0, so erhalten wir 1 t22 + O(t42 ). Es folgt, dass cos(ti ) = 1 − 12 t2i + O(t4i ), also 1 − φ(t) = 2D 0 −2 X genau dann rekurrent ist, wenn t2 <ε t2 dt = ∞. Wir berechnen dieses Integral in Polarkoordinaten (mit CD die Oberfl¨ache der Einheitskugel in RD ) ε t−2 dt = C r D−1 r −2 dr = ∞ ⇐⇒ D ≤ 2. D 2 t2 <ε
0
Also ist X genau dann rekurrent, wenn D ≤ 2 ist. Wir werden in Kapitel 19.3 noch eine weitere, strukturell v¨ollig andere Methode kennen lernen, um den Satz von P´olya zu beweisen, die auf dem Zusammenhang von Irrfahrten mit elektrischen Netzwerken beruht. Tats¨achlich k¨onnen wir mit Hilfe des Satzes von Chung-Fuchs die Greenfunktion GD (0, 0) der symmetrischen einfachen Irrfahrt auf ZD berechnen, indem wir das so genannte Watson Integral D −D dx (17.24) GD (0, 0) = (2π) D − (cos(x ) + . . . + cos(xD )) 1 [−π,π)D numerisch berechnen. Hierzu folgen wir [85] (wo sich auch noch eine Verfeinerung des Verfahrens findet) und f¨uhren 0 ∞das D-fache Integral auf ein zweifaches zur¨uck. Indem wir die Gleichung λ1 = 0 e−λt dt f¨ur den Integranden benutzen und den Satz von Fubini verwenden, erhalten wir ∞ D −Dt t(cos(x1 )+...+cos(xD )) e e dx dt GD (0, 0) = (2π)D 0 [−π,π)D und damit
∞
GD (0, 0) = D
e−Dt I0 (t)D dt,
(17.25)
0
0π wobei I0 (t) := π1 0 et cos(θ) dθ die modifizierte Bessel-Funktion erster Art bezeichnet. Die Darstellung (17.25) l¨asst sich vermittels numerischer Integration in guter Genauigkeit schnell berechnen (siehe Tabelle 17.1). F¨ur den Fall D = 3 hat Watson [165] die Darstellung √ √ √ √ √ √ 2 18 + 12 2 − 10 3 − 7 6 K (2 − 3)( 3 − 2) G3 (0, 0) = 12 π2 −1/2 01 angegeben, wobei K(m) = 0 (1 − t2 )(1 − mt2 ) dt das vollst¨andige elliptische Integral erster Ordnung mit Modul m ∈ (−1, 1) ist und eine Darstellung als schnell konvergierende Reihe besitzt 2 ∞ π (2n)! 2 K(m) = 1+ m . 2 4n (n!)2 n=1
17.5 Anwendung: Rekurrenz und Transienz von Irrfahrten
373
Glasser und Zucker [64] haben einen Ausdruck als Produkt von Gammafunktionen gefunden: √ 6 5 7 11 1 G3 (0, 0) = Γ Γ Γ = 1.5163860591519780181 . . . Γ 3 32π 24 24 24 24
Tabelle 17.1. Greenfunktion GD (0, 0) und R¨uckkehrwahrscheinlichkeit FD (0, 0) der einfachen symmetrischen Irrfahrt auf ZD , numerisch berechnet mit Formel (17.25). GD (0, 0)
FD (0, 0)
2
∞
1
3
1.51638605915
0.34053732955
4
1.23946712185
0.19320167322
5
1.15630812484
0.13517860982
6
1.11696337322
0.10471549562
7
1.09390631559
0.08584493411
8
1.07864701202
0.07291264996
9
1.06774608638
0.06344774965
10
1.05954374789
0.05619753597
11
1.05313615291
0.05045515982
12
1.04798637482
0.04578912090
13
1.04375406289
0.04191989708
14
1.04021240323
0.03865787709
15
1.03720412092
0.03586962312
16
1.03461657857
0.03345836447
17
1.03236691238
0.03135214040
18
1.03039276285
0.02949628913
19
1.02864627888
0.02784852234
20
1.02709011674
0.02637559869
D
¨ ¨ Ubung 17.5.1. F¨ur n ∈ N0 sei pn die Matrix der n-Schritt UbergangswahrscheinD lichkeiten der einfachen symmetrischen Irrfahrt auf Z . Man leite f¨ur n ∈ N die Formel 2n
2n −D p (0, 0) = (2π) D−2n cos(t1 ) + . . . + cos(tD ) dt [−π,π)D
her (siehe Satz 15.10). Man schließe durch geeignete Absch¨atzung des Integrals die n→∞ Konvergenz nD/2 p2n (0, 0) −→ 2(4π/D)−D/2 (siehe (17.18)). ♣
374
17 Markovketten
¨ Ubung 17.5.2. Man zeige (17.21) formal.
♣
¨ Ubung 17.5.3. Man zeige mit Hilfe vonSatz 17.41, dass eine Irrfahrt auf Z2 mit 2 ♣ x∈Z2 x p(0, x) = 0 rekurrent ist, falls x∈Z2 x2 p(0, x) < ∞. ¨ Ubung 17.5.4. Man zeige mit Hilfe von Satz 17.41, dass f¨ur D ≥ 3 jede irreduzible ♣ Irrfahrt auf ZD transient ist. 2n ¨ Ubung 17.5.5. Man zeige (17.25) f¨ur G D (0, 0) direkt mit den p (0, 0) aus (17.20) ∞ −2 k und mit der Reihendarstellung I0 (t) = k=0 (k!) (t/2) . ♣
17.6 Invariante Verteilungen Sei im Folgenden stets p eine stochastische Matrix auf dem diskreten Raum E sowie (Xn )n∈N0 eine zugeh¨orige Markovkette. In diesem Abschnitt interessieren wir uns daf¨ur, welche Wahrscheinlichkeitsverteilungen unter der Dynamik der Markovkette erhalten bleiben. In Kapitel 18 werden wir unter einfachen Bedingungen zeigen, wann die Verteilung einer Markovkette f¨ur lange Zeiten gegen eine solche Verteilung konvergiert. Definition 17.42. Ist μ ein Maß auf E und f : E → R eine Abbildung, so schreiben μ({y})p(y, x) und pf (x) = wir μp({x}) = y∈E y∈E p(x, y)f (y), falls die Summen konvergieren. Definition 17.43.
(i) Ein σ-endliches Maß μ auf E heißt invariantes Maß, falls μp = μ.
μ heißt invariante Verteilung, falls zudem μ(E) = 1 gilt. Mit I bezeichnen wir die Menge der invarianten Verteilungen. (ii) Eine Funktion f : E → R heißt subharmonisch, falls pf existiert und f ≤ pf gilt. f heißt superharmonisch, falls f ≥ pf gilt und harmonisch, falls f = pf . Bemerkung 17.44. Im Sinne der linearen Algebra ist ein invariantes Maß ein LinksEigenvektor von p und eine harmonische Funktion ein Rechts-Eigenvektor, jeweils zum Eigenwert 1. 3 Lemma 17.45. Ist f beschr¨ankt und (sub-, super-) harmonisch, so ist (f (Xn ))n∈N0 ein (Sub-, Super-) Martingal bez¨uglich der erzeugten Filtration F = σ(X).
17.6 Invariante Verteilungen
375
Beweis. Sei f beschr¨ankt und subharmonisch. Dann ist Ex [f (Xn ) Fn−1 ] = EXn−1 [f (X1 )] = p(Xn−1 , y)f (y) y∈E
= pf (Xn−1 ) ≥ f (Xn−1 ).
2
Satz 17.46. Ist X transient, so existiert keine invariante Verteilung. ∞ Beweis. Nach Voraussetzung ist G(x, y) = n=0 pn (x, y) < ∞ f¨ur alle x, y ∈ E, n→∞ n→∞ also pn (x, y) −→ 0. F¨ur jedes W-Maß μ auf E ist daher μpn (x) −→ 0. W¨are n μ invariant, so w¨are aber μp (x) = μ(x) f¨ur jedes n ∈ N. 2 Satz 17.47. Sei x ein rekurrenter Zustand und τx1 = inf{n ≥ 1 : Xn = x}. Dann wird ein invariantes Maß μx definiert durch μx ({y}) = Ex
1 + τ x −1
,
½{Xn =y} =
n=0
∞
) * Px Xn = y; τx1 > n .
n=0
Beweis. Zun¨achst m¨ussen wir zeigen, dass μx ({y}) < ∞ ist f¨ur jedes y ∈ E. F¨ur y = x ist offenbar μx ({x}) = 1. F¨ur y = x und F (x, y) = 0 ist μx ({y}) = 0. Sei nun y = x und F (x, y) > 0. Da x rekurrent ist, ist F (x, y) = F (y, x) = 1, und y ist rekurrent (Satz 17.35). Sei ) * F:(x, y) = Px τx1 > τy1 . Dann ist F:(x, y) > 0 (sonst w¨urde y nicht getroffen) und nach Vertauschung der Rollen von x und y auch F:(y, x) > 0. Nach der starken Markoveigenschaft (Satz 17.14) ist ⎡ 1 ⎤ ⎡ 1 ⎤ τx −1 τx −1 Ey ⎣ ½{Xn =y} ⎦ = 1 + Ey ⎣ ½{Xn =y} ; τx1 > τy1 ⎦ n=τy1
n=0
⎡ 1 ⎤ τx −1 = 1 + 1 − F:(y, x) Ey ⎣ ½{Xn =y} ⎦ . n=0
Also ist Ey
- τ 1 −1 x n=0
.
½{Xn =y}
=
1 F:(y, x)
.
376
17 Markovketten
Mithin ist - τ 1 −1 x
μx ({y}) = Ex
.
- τ 1 −1 x
½{Xn =y} = Ex
.
½{Xn =y} ; τx1 > τy1 =
n=τy1
n=0
F:(x, y) < ∞. F:(y, x)
) * Definiere pn (x, y) = Px Xn = y; τx1 > n . Dann ist f¨ur jedes z ∈ E μx p({z}) =
μx ({y}) p(y, z) =
∞
pn (x, y) p(y, z).
n=0 y∈E
y∈E
1. Fall: x = z. Dann ist ) * pn (x, y)p(y, z) = Px Xn = y, τx1 > n, Xn+1 = z y∈E
y∈E
) * = Px τx1 > n + 1; Xn+1 = z = pn+1 (x, z). Also ist (wegen p0 (x, z) = 0) μx p({z}) =
∞
pn+1 (x, z) =
n=0
∞
pn (x, z) =
n=1
∞
pn (x, z) = μx ({z}).
n=0
2. Fall: x = z. Jetzt ist ) ) * * pn (x, y)p(y, x) = Px Xn = y; τx1 > n; Xn+1 = x = Px τx1 = n + 1 . y∈E
y∈E
* ) Also ist (wegen Px τx1 = 0 = 0) μx p({x}) =
∞
* ) Px τx1 = n + 1 = 1 = μx ({x}).
2
n=0
Korollar 17.48. Ist X positiv rekurrent, so ist π := invariante Verteilung.
μx f¨ur jedes x ∈ E eine Ex [τx1 ]
Satz 17.49. Ist X irreduzibel, so hat X h¨ochstens eine invariante Verteilung. Bemerkung 17.50. (i) Man kann auch zeigen: Ist X irreduzibel und rekurrent, so ist ein invariantes Maß von X ist bis auf einen Faktor eindeutig. Der Beweis ist allerdings aufw¨andiger als der f¨ur invariante Verteilungen. Weil die Aussage hier ¨ ¨ nicht ben¨otigt wird, lassen wir den Beweis als Ubungsaufgabe (siehe Ubung 17.6.6), vergleiche [41, Theorem 5.4.4]).
17.6 Invariante Verteilungen
377
(ii) F¨ur transientes X kann es im Allgemeinen mehrere invariante Maße geben ¨ (nicht aber Verteilungen). Beispielsweise sind f¨ur die Irrfahrt auf Z mit Ubergangswahrscheinlichkeiten p(x, x + 1) = r und p(x, x − 1) = 1 − r (f¨ur ein r ∈ (0, 1)) die invarianten Maße die nichtnegativen Linearkombinationen der Maße μ1 und μ2 , die durch μ1 ({x}) ≡ 1 und μ2 ({x}) = (r/(1 − r))x , x ∈ Z gegeben sind. Ist X 3 transient, also r = 1/2, so ist μ1 = μ2 . Beweis. Seien π und ν invariante Verteilungen. W¨ahle einen beliebigen Wahr)n∈N mit gn > 0 f¨ur jedes n ∈ N. Definiere die stochasscheinlichkeitsvektor (gn n tische Matrix p (x, y) = ∞ (x, y) > 0 f¨ur alle x, y ∈ E n=1 gn p (x, y). Dann ist p und π p = π sowie ν p = ν. Betrachte nun das signierte Maß μ = π − ν. Es gilt μ p = μ. W¨are nun μ = 0, so g¨abe es (wegen μ(E) = 0) Punkte x1 , x2 ∈ E mit μ({x1 }) > 0 und μ({x2 }) < 0. Offensichtlich w¨are f¨ur jedes y ∈ E dann μ({x1 }) p(x1 , y) + μ({x2 }) p(x2 , y) < μ({x1 }) p(x1 , y) + μ({x2 }) p(x2 , y), also ; ; ; μ p ;T V = μ({x}) p (x, y) y∈E
<
x∈E
|μ({x})| p (x, y) =
y∈E x∈E
|μ({x})| = μ T V .
x∈E
2
Da dies widerspr¨uchlich ist, gilt μ = 0. Es sei daran erinnert, dass I die Menge der invarianten Verteilungen von X ist.
Satz 17.51. Sei X irreduzibel. X ist genau dann positiv rekurrent, wenn I = ∅ ist. In diesem Fall ist I = {π} mit π({x}) =
1 >0 Ex [τx1 ]
f¨ur jedes x ∈ E.
Beweis. Ist X positiv rekurrent, so ist I = ∅ nach Korollar 17.48. Sei nun I = ∅ und π ∈ I. Da X irreduzibel ist, ist π({x}) > 0 f¨ur jedes x ∈ E. Sei Pπ = ur n ∈ N0 x∈E π({x})Px . Sei x ∈ E fest und f¨
n σx = sup m ≤ n : Xm = x ∈ N0 ∪ {−∞} die letzte Eintrittszeit in x bis zur Zeit n. (Man bemerke, dass dies keine Stoppzeit ist.) Nach der Markoveigenschaft gilt dann f¨ur k ≤ n * ) Pπ [σxn = k] = Pπ Xk = x, Xk+1 = x, . . . , Xn = x ) * = Pπ Xk+1 = x, . . . , Xn = x|Xk = x Pπ [Xk = x] ) * = π({x}) Px X1 , . . . , Xn−k = x ) * = π({x}) Px τx1 ≥ n − k + 1 .
378
17 Markovketten
* ) Also ist f¨ur jedes n ∈ N0 (wegen Py τx1 < ∞ = 1 f¨ur jedes y ∈ E) 1=
n
Pπ [σxn = k] + Pπ [σxn = −∞]
k=0
= π({x})
n
) ) * * Px τx1 ≥ n − k + 1 + Pπ τx1 ≥ n + 1
k=0 n→∞
−→ π({x})
∞
) ) * * Px τx1 ≥ k = π({x}) Ex τx1 .
k=1
) * Mithin ist Ex τx1 =
1 π({x})
< ∞, und damit ist X positiv rekurrent.
2
Beispiel 17.52. Seien (px )x∈N0 Zahlen aus (0, 1], und sei X eine irreduzible Mar¨ kovkette auf N0 mit Ubergangsmatrix ⎧ px , falls y = x + 1, ⎪ ⎨ p(x, y) = 1 − px , falls y = 0, ⎪ ⎩ 0, sonst. Ist μ ein invariantes Maß, also μp = μ, dann gilt μ({n}) = pn−1 μ({n − 1}) μ({0}) =
∞
f¨ur n ∈ N,
μ({n})(1 − pn ).
n=0
Das heißt, μ({n}) = μ({0})
n−1
pk
k=0
und (beachte, dass die Reihe eine Teleskopreihe ist) μ({0}) = μ({0})
∞
(1 − pn )
n=0
n−1
pk = μ({0}) 1 −
∞
pn
.
n=0
k=0
Daher existiert genau dann ein nichttriviales invariantes Maß μ (kann also μ({0}) > ∞ 0 gew¨ahltwerden), wenn n=0 pn = 0. Dies ist wiederum a¨ quivalent zu der Be∞ dingung n=0 (1 − pn ) = ∞. Man zeigt leicht, etwa mit einem Borel-Cantelli Argument, dass dies in der Tat genau die Bedingung f¨ur Rekurrenz von X ist. Gilt μ = 0, so ist μ genau dann ein endliches Maß, wenn M :=
∞ n−1 n=0 k=0
pk < ∞.
17.6 Invariante Verteilungen
379
Also ist X genau dann positiv rekurrent wenn M < ∞. In der Tat kann man leicht zeigen, dass M die erwartete R¨uckkehrzeit in 0 ist. Das Kriterium f¨ur positive Rekurrenz kann in diesem Beispiel also auch mit Hilfe von Satz 17.51 hergeleitet werden. ∞ Eine notwendige Bedingung f¨ur M < ∞ ist offenbar n=0 (1 − pn ) = ∞, dass also X rekurrent ist. Eine einfache hinreichende Bedingung f¨ur M < ∞ ist n−1 ∞ exp − (1 − pk ) < ∞. 3 n=0
k=0
¨ Ubung 17.6.1. Betrachte die Markovkette aus Abb. 17.1 (Seite 366). Man bestimme die Menge aller invarianten Verteilungen und zeige, dass die Zust¨ande 6, 7 und 8 positiv rekurrent sind mit erwarteten Eintrittszeiten E6 [τ6 ] =
17 , 4
E7 [τ7 ] =
17 5
und
E8 [τ8 ] =
17 . 5
♣
¨ Ubung 17.6.2. Sei X = (Xt )t≥0 eine Markovkette auf E in stetiger Zeit mit QMatrix q. Man zeige: Ein Wahrscheinlichkeitsmaß π auf E ist genau dann eine in variante Verteilung f¨ur X, wenn x∈E π({x})q(x, y) = 0 f¨ur alle y ∈ E. ♣ ¨ ¨ Ubung 17.6.3. Sei G eine abz¨ahlbare, abelsche Gruppe und p die Ubergangsmatrix einer irreduziblen Irrfahrt X auf G, das heißt, es gilt p(hg, hf ) = p(g, f ) f¨ur alle h, g, f ∈ G. (Dies verallgemeinert den Begriff der Irrfahrt auf ZD .) Man zeige mit Hilfe von Satz 17.51: X ist genau dann positiv rekurrent, wenn G endlich ist. ♣ ¨ ¨ Ubung 17.6.4. Sei r ∈ [0, 1] und X die Markovkette auf N0 mit Ubergangsmatrix (siehe Abb. 17.2 auf Seite 367) ⎧ 1, falls x = 0 und y = 1, ⎪ ⎪ ⎪ ⎨ r, falls y = x + 1 ≥ 2, p(x, y) = ⎪ 1 − r, falls y = x − 1, ⎪ ⎪ ⎩ 0, sonst. Man bestimme das invariante Maß und zeige mit Hilfe von Satz 17.51:
(i) Ist r ∈ 0, 12 , so ist X positiv rekurrent. (ii) Ist r = 12 , so ist X nullrekurrent. *
(iii) Ist r ∈ {0} ∪ 12 , 1 , so ist X transient.
♣
380
17 Markovketten
¨ Ubung 17.6.5. (i) Man zeige mit einem direkten Argument, dass die Markovkette in Beispiel 17.52 genau dann rekurrent ist, wenn ∞ n=0 (1 − pn ) = ∞ gilt. (ii) Man zeige, dass M die erwartete R¨uckkehrzeit zu 0 ist und folgere, dass die Kette genau dann positiv rekurrent ist, wenn M < ∞ gilt. (iii) Man gebe Beispiele f¨ur Folgen (px )x∈N0 an, sodass die Kette (a) transient ist, (b) nullrekurrent ist, (c) positiv rekurrent ist, (d) positiv rekurrent ist, aber n−1 ∞ exp − (1 − pk ) = ∞. ♣ n=0
k=0
¨ ¨ Ubung 17.6.6. Sei X eine irreduzible rekurrente Markovkette mit Ubergangsmatrix p. Man zeige die Behauptung von Bemerkung 17.50(i), n¨amlich, dass das invariante Maß eindeutig ist bis auf konstante Vielfache. Anleitung: Sei π = 0 ein invariantes Maß f¨ur X. Wir schreiben kurz Pπ = π({x})P x . (Bemerke, dass dieses Maß im allgemeinen nicht endlich ist.) x∈E F¨ur x, y ∈ E mit x = y leite man induktiv her, dass n ) 1 ) * * Pπ τx1 ≥ k, X0 = x, Xk = y . π({y}) = Pπ τx ≥ n, X0 = x, Xn = y + k=1
Hieraus folgere man π({y}) ≥
∞
) * Pπ τx1 ≥ k, X0 = x, Xk = y = π({x}) μx ({y}),
k=1
wobei μx das invariante Maß aus Satz 17.47 ist. Schließlich benutze man die Tatsache, dass πpn = π und μx pn = μx f¨ur jedes n ∈ N gilt, um π({y}) = π({x})μx ({y}) zu zeigen. ♣
18 Konvergenz von Markovketten
Wir betrachten eine Markovkette X mit invarianter Verteilung π und untersuchen unter welchen Bedingungen die Verteilung von Xn f¨ur n → ∞ gegen π konvergiert. Im Wesentlichen ist daf¨ur notwendig und hinreichend, dass der Zustandsraum der Kette nicht in Unterr¨aume zerf¨allt, die – von der Kette nicht verlassen werden, – oder von der Kette beispielsweise nur f¨ur ungerade n beziehungsweise gerade n besucht werden. Im ersten Fall w¨are die Kette reduzibel, im zweiten hingegen periodisch. Wir untersuchen Periodizit¨at von Ketten im ersten Abschnitt und zeigen im zweiten den Konvergenzsatz. Im dritten Abschnitt besch¨aftigen wir uns mit Anwendungen des Konvergenzsatzes f¨ur Computersimulationen mit der so genannten Markovketten Monte Carlo Methode. Im letzten Abschnitt beschreiben wir die Geschwindigkeit der Konvergenz gegen das Gleichgewicht mit Hilfe des Spektrums ¨ der Ubergangsmatrix.
18.1 Periodizit¨at von Markovketten Wir untersuchen, unter welchen Bedingungen eine positiv rekurrente Markovkette ¨ X auf dem abz¨ahlbaren Raum E (und mit Ubergangsmatrix p), die in einem beliebigen μ ∈ M1 (E) gestartet wird, in Verteilung gegen eine invariante Verteilung n→∞ π konvergiert, also μpn −→ π gilt. Sicherlich ist hierzu notwendig, dass π die einzige invariante Verteilung ist, und damit bis auf Vielfache der einzige LinksEigenvektor von p zum Eigenwert 1. Hierf¨ur ist ausreichend, dass die Kette irreduzibel ist (Satz 17.49). n→∞
Es sind gewisse Kontraktionseigenschaften von p notwendig, damit μpn −→ π f¨ur jedes μ ∈ M1 (E) gelten kann. Offenbar ist 1 der betragsm¨aßig gr¨oßte Eigenwert von p. Allerdings ist p nur dann (ausreichend) kontrahierend, wenn die Vielfachheit dieses Eigenwertes genau 1 ist und keine weiteren (komplexwertigen) Eigenwerte mit Betrag 1 existieren.
382
18 Konvergenz von Markovketten
F¨ur die letztgenannte Bedingung ist die Irreduzibilit¨at der Kette nicht hinreichend, ¨ wie wir sehen, wenn wir auf E = {0, . . . , N − 1} die Markovkette mit Ubergangsmatrix p(x, y) = ½{y=x+1(mod N )} betrachten. Der Eigenwert 1 hat die Vielfachheit 1. Jedoch sind alle N -ten Einheitswurzeln e2πik/N , k = 0, . . . , N − 1, ebenfalls Eigenwerte mit Betrag 1. Offenbar ist die Gleichverteilung auf E invariant, jedoch existiert lim δx pn f¨ur kein x ∈ E, denn jeder Punkt wird periodisch immer nur n→∞ nach jeweils genau N Schritten besucht. Um Konvergenz zu erzielen, m¨ussen wir also zun¨achst Periodizit¨at untersuchen (und ausschließen). Hernach k¨onnen wir f¨ur irreduzible aperiodische Markovketten einen Konvergenzsatz angeben. n Sind m, n ∈ N, so schreiben wir mn, falls m ein Teiler von n ist, also falls m ∈ N. Ist M ⊂ N, so schreiben wir ggT(M ) f¨ur den gr¨oßten gemeinsamen Teiler aller n ∈ M . Sei im Folgenden stets X eine Markovkette auf dem abz¨ahlbaren Raum E ¨ mit Ubergangsmatrix p. Definition 18.1.
(i) F¨ur x, y ∈ E schreiben wir
N (x, y) := n ∈ N0 : pn (x, y) > 0 .
F¨ur jedes x ∈ E heißt dx := ggT(N (x, x)) die Periode des Punktes x. (ii) Ist dx = dy f¨ur alle x, y ∈ E, so heißt d := dx die Periode von X. (iii) Ist dx = 1 f¨ur jedes x ∈ E, so heißt X aperiodisch.
1/2 1/2
1 1/2
1
1/2
1/2
1/2
Abb. 18.1. Die linke Markovkette ist periodisch mit Periode 2, die rechte Markovkette ist aperiodisch.
Lemma 18.2. F¨ur jedes x ∈ E existiert ein nx ∈ N mit pndx (x, x) > 0
f¨ur jedes n ≥ nx .
(18.1)
Beweis. Seien k1 , . . . , kr ∈ N (x, x) mit ggT({k1 , . . . , kr }) = dx . Dann ist f¨ur alle r m1 , . . . , mr ∈ N0 auch i=1 ki mi ∈ N (x, x). Elementare Zahlentheorie liefert
18.1 Periodizit¨at von Markovketten
3
1/2
1
4
2
1/2
5
1
6 1
1
1
1
383
1
8
1
7
Abb. 18.2. Es ist N (8, 8) = {6, 10, 12, 14, 16, . . .}, also d8 := ggT({6, 10, 12, . . .}) = 2 und n8 = 5. Die Kette hat also Periode 2. Hingegen ist n1 = 2 und n4 = 4.
r uns nun, dass f¨ur jedes ≥ nx := r · i=1 (ki /dx ) Zahlen m1 , . . . , mr ∈ N0 n r existieren mit n dx = i=1 ki mi . Also gilt (18.1). 2 Das Problem, die kleinste Zahl N zu finden, sodass sich jedes n dx , n ≥ N als nichtnegative ganzzahlige Linearkombination von k1 , . . . , kr darstellen l¨asst, wird Frobenius Problem genannt. Die allgemeine L¨osung ist unbekannt, allerdings hat Sylvester [160] f¨ur den Fall r = 2 gezeigt, dass N = (k1 /dx − 1)(k2 /dx − 1) minimal ist. Im allgemeinen Fall ist als obere Schranken f¨ur N beispielsweise 2 max{ki : i = 1, . . . , r}2 /(rd2x ) bekannt, siehe etwa [47]. Lemma 18.3. Sei X irreduzibel. Dann gelten: (i) d := dx = dy f¨ur alle x, y ∈ E. (ii) F¨ur alle x, y ∈ E existieren nx,y ∈ N und Lx,y ∈ {0, . . . , d − 1} mit nd + Lx,y ∈ N (x, y)
f¨ur jedes n ≥ nx,y .
(18.2)
f¨ur alle x, y, z ∈ E.
(18.3)
Lx,y ist eindeutig bestimmt, und es gilt Lx,y + Ly,z + Lz,x = 0 (mod d)
Beweis. (i) Seien m, n ∈ N0 mit pm (x, y) > 0 und pn (y, z) > 0. Dann ist pm+n (x, z) ≥ pm (x, y) pn (y, z) > 0. Also gilt
N (x, y) + N (y, z) := m + n : m ∈ N (x, y), n ∈ N (y, z) ⊂ N (x, z). (18.4) Sind speziell m ∈ N (x, y), n ∈ N (y, x) und k ≥ ny , so ist kd y ∈ N (y, y), also (m + n + kdy ) f¨ur m + n + kd ∈ N (x, x). Es folgt d m + kdy ∈ N (x, y) und y x jedes k ≥ ny , also dx dy . Analog erhalten wir dy dx , also dx = dy . (ii) Sei m ∈ N (x, y). Dann ist m + kd ∈ N (x, y) f¨ur jedes k ≥ nx . Also gilt (18.2) mit
384
18 Konvergenz von Markovketten
nx,y := nx +
CmD d
Lx,y := m − d
und
CmD d
.
Wegen (18.4) ist (nx,y + ny,z )d + Lx,y + Ly,z ∈ N (x, z). Mit z = x folgt: d(Lx,y + Ly,x ), also ist Lx,y eindeutig in {0, . . . , d − 1} und Lx,y = −Ly,x (mod d). F¨ur allgemeines z folgt: d(Lx,y + Ly,z + Lz,x ), also gilt (18.3). 2 Satz 18.4. Sei X irreduzibel mit Periode d. Dann existiert eine disjunkte Zerlegung des Zustandsraums d−1 E= Ei (18.5) i=0
mit der Eigenschaft p(x, y) > 0 und x ∈ Ei
=⇒
y ∈ Ei+1 (mod d) .
(18.6)
Bis auf zyklische Vertauschung ist diese Zerlegung eindeutig. E0 E2 E1
Abb. 18.3. Markovkette mit Periode d = 3.
Die Eigenschaft (18.6) besagt gerade, dass X die Mengen Ei nacheinander besucht und zu jedem Zeitschritt in das n¨achste Ei wechselt (siehe Abb. 18.3 oder Abb. 18.2, wo d = 2, E0 = {1, 3, 5, 7} und E1 = {2, 4, 6, 8} ist). ) Etwas formaler k¨o*nnen wir dies schreiben als: Ist x ∈ Ei f¨ur gewisses i, so ist Px Xn ∈ Ei+n (mod d) = 1. W¨ahle ein beliebiges x0 ∈ E und setze
Ei := y ∈ E : Lx0 ,y = i f¨ur i = 0, . . . , d − 1.
Beweis. Existenz“ ”
Offenbar gilt (18.5). Sei i ∈ {0, . . . , d − 1} und x ∈ Ei . Ist y ∈ E mit p(x, y) > 0, so ist Lx,y = 1, also ist Lx0 ,y = Lx0 ,x + Lx,y = i + 1 (mod d).
18.2 Kopplung und Konvergenzsatz
385
i , i = 0, . . . , d − 1) eine weitere Zerlegung, die (18.5) Eindeutigkeit“ Sei (E ” 0 = ∅ (sonst vertausche die E i und (18.6) erf¨ullt. Ohne Einschr¨ankung sei E0 ∩ E zyklisch bis dies gilt) und x0 ∈ E0 ∩ E0 beliebig. Nach Voraussetzung impliziert 1 , also y ∈ E1 ∩ E 1 . Iterativ erhalten wir, dass p(x0 , y) > 0 nun y ∈ E1 und y ∈ E nd+i i (f¨ur n ∈ N und i = 0, . . . , d − 1). p (x, y) > 0 impliziert, dass y ∈ Ei ∩ E Da die Kette irreduzibel ist, existieren aber f¨ur jedes y ∈ E Zahlen n(y) und i(y), i(y) . Mithin gilt Ei = E i f¨ur jedes sodass pn(y) d+i(y) (x0 , y) > 0, also y ∈ Ei(y) ∩ E i = 0, . . . , d − 1. 2
18.2 Kopplung und Konvergenzsatz Es ist oftmals n¨utzlich, einen gemeinsamen Wahrscheinlichkeitsraum f¨ur zwei Verteilungen anzugeben, sodass die jeweiligen Verteilungen sich als die Randverteilungen ergeben. Wir stellen zun¨achst das Prinzip der Kopplung abstrakt vor und geben dann Beispiele an. Schließlich wenden wir die Begriffe auf Markovketten an. Definition 18.5. Sind (E1 , E1 , μ1 ) und (E2 , E2 , μ2 ) Wahrscheinlichkeitsr¨aume, so heißt jedes W-Maß μ auf (E1 ×E2 , E1 ⊗E2 ) mit μ( · ×E2 ) = μ1 und μ(E1 × · ) = μ2 eine Kopplung von μ1 und μ2 . Beispiel 18.6. Seien X eine reelle Zufallsvariable und f, g : R → R monoton wachsende Funktionen mit E[f (X)2 ] < ∞ und E[g(X)2 ] < ∞. Wir wollen zeigen, dass die Zufallsvariablen f (X) und g(X) nichtnegativ korreliert sind. Sei dazu Y eine unabh¨angige Kopie von X, also eine von X unabh¨angige Zufallsvariable mit PY = PX . Speziell ist E[f (X)] = E[f (Y )] und E[g(X)] = E[g(Y )]. F¨ur alle Zahlen x, y ∈ R ist (f (x) − f (y))(g(x) − g(y)) ≥ 0. Also ist ) * 0 ≤ E f (X) − f (Y ) g(X) − g(Y ) = E[f (X)g(X)] − E[f (X)] E[g(Y )] + E[f (Y )g(Y )] − E[f (Y )] E[g(X)] = 2 Cov[f (X), g(X)]. 2 0 Beispiel 18.7. Sind μ1 , μ2 ∈ M1 (Rd ), so schreiben wir μ1 ) μ2 , falls f dμ1 ≤ 0 f dμ2 f¨ur jede monoton wachsende, beschr¨ankte Funktion f : Rd → R. Wir sagen dann, dass μ2 stochastisch gr¨oßer als μ1 ist. Offenbar ist ) eine Halbordnung auf M1 (Rd ). Sind F1 und F2 die Verteilungsfunktionen von μ1 und μ2 , so ist offenbar ¨ μ1 ) μ2 genau dann, wenn F1 (x) ≥ F2 (x) f¨ur jedes x ∈ Rd . (Einen Uberblick u¨ ber verschiedene stochastische Ordnungen findet man beispielsweise in [124].) Wir zeigen jetzt, dass genau dann μ1 ) μ2 gilt, wenn es eine Kopplung ϕ von μ1 und μ2 gibt mit ϕ(L) = 1, wo L := {x = (x1 , x2 ) ∈ Rd × Rd : x1 ≤ x2 }. d Sei ϕ eine solche Kopplung. F¨ur monoton wachsendes, beschr¨ 0 anktes f 0: R → R ist 0 f (x1 ) − f (x2 ) ≤ 0 f¨ur jedes x = (x1 , x2 ) ∈ L, also f dμ1 − f dμ2 = f (x1 ) − f (x2 ) ϕ(dx) ≤ 0 und damit μ1 ) μ2 . L
386
18 Konvergenz von Markovketten
Gilt andererseits μ1 ) μ2 , so wird durch F ((x1 , x2 )) := min(F1 (x1 ), F2 (x2 )) eine Verteilungsfunktion auf Rd × Rd definiert, die zu einer Kopplung ϕ mit ϕ(L) = 1 geh¨ort. 3 Beispiel 18.8. Sei (E, ) ein polnischer Raum. F¨ur zwei W-Maße P und Q auf (E, B(E)) schreiben wir K(P, Q) ⊂ M1 (E × E) f¨ur die Menge der Kopplungen von P und Q. Wir k¨onnen dann einen Abstand, die so genannte Wasserstein Metrik, auf M1 (E) definieren durch 1 2 dW (P, Q) := inf (x, y) ϕ(d(x, y)) : ϕ ∈ K(P, Q) . (18.7) Man kann zeigen (Satz von Kantorovich-Rubinstein [89], siehe auch [40, Seite 420ff]), dass 1 2 f d(P − Q) : f ∈ Lip1 (E; R) . (18.8) dW (P, Q) = sup Man vergleiche diese Darstellung der Wasserstein Metrik mit derjenigen der Totalvariationsnorm: 1 2 P − QT V = sup f d(P − Q) : f ∈ L∞ (E) mit f ∞ ≤ 1 . (18.9) Tats¨achlich k¨onnen wir auch hier eine Definition durch eine Kopplung angeben: Sei D := {(x, x) : x ∈ E} die Diagonale in E × E. Dann ist
P − QT V = inf ϕ((E × E) \ D) : ϕ ∈ K(P, Q) . (18.10) Siehe [63] f¨ur einen Vergleich verschiedener Metriken auf M1 (E).
3
Ein weiteres Beispiel f¨ur eine komplexere Kopplung liefert der folgende Satz von Skorohod, den wir hier nur zitieren. Satz 18.9 (Skorohod Kopplung). Es seien μ, μ1 , μ2 , . . . W-Maße auf einem poln→∞ nischen Raum E mit μn −→ μ. Dann existiert ein Wahrscheinlichkeitsraum (Ω, A, P) mit Zufallsvariablen X, X1 , X2 , . . . mit PX = μ und PXn = μn f¨ur n→∞ jedes n ∈ N sowie Xn −→ X fast sicher. 2
Beweis. Siehe etwa [88, Seite 79].
Wir wollen die Kopplung diskreter Markovketten betrachten, die in unterschiedlichen Verteilungen μ und ν gestartet werden. Im Folgenden sei E stets ein abz¨ahlbarer Raum und p eine stochastische Matrix auf E. Definition 18.10. Eine bivariate Markovkette ((Xn , Yn ))n∈N0 mit Werten in E × E ¨ heißt eine Kopplung, falls (Xn )n∈N0 und (Yn )n∈N0 Markovketten mit Ubergangsmatrix p sind. n→∞
Eine Kopplung heißt erfolgreich, falls P(x,y) [Xn = Yn ] −→ 0 f¨ur alle x, y ∈ E.
18.2 Kopplung und Konvergenzsatz
387
Diese Definition der Kopplung von Markovketten ist in gewisser Weise sehr restriktiv, weil sie die Markoveigenschaft auch wieder f¨ur den gekoppelten Prozess fordert. F¨ur die Anwendungen, die wir im Sinne haben, reicht dies aber v¨ollig aus. Nat¨urlich sind zwei unabh¨angig laufende Ketten eine Kopplung, allerdings vielleicht nicht die interessanteste. Beispiel 18.11 (Unabh¨angiges Verschmelzen). Die wichtigste Kopplung sind die verschmelzenden Markovketten: Wir lassen X und Y unabh¨angig voneinander mit ¨ Ubergangsmatrix p laufen, so lange bis sie sich das erste Mal treffen. Danach laufen die Ketten gemeinsam weiter. Diese Kopplung nennen wir unabh¨angiges Ver¨ schmelzen, sie hat die Ubergangsmatrix ⎧ ⎪ p(x1 , x2 ) · p(y1 , y2 ), falls x1 = y1 , ⎨
p(x1 , x2 ), falls x1 = y1 , x2 = y2 , p¯ (x1 , y1 ), (x2 , y2 ) = ⎪ ⎩ 0, falls x1 = y1 , x2 = y2 . Mit τ := inf{n ∈ N0 : Xn = Yn } bezeichnen wir den Verschmelzungszeitpunkt. ˜ und Y˜ herWir k¨onnen die Kopplung tats¨achlich aus zwei unabh¨angigen Ketten X ˜ ˜ ˜ setzen, τ˜ := inf{n ∈ N0 : Xn = Yn } und stellen, indem wir X := X 1 Y˜n , falls n < τ˜, Yn := Xn , falls n ≥ τ˜. Statt mit einer direkten Rechnung zu pr¨ufen, dass der so definierte Prozess (X, Y ) ¨ eine Kopplung mit Ubergangsmatrix p¯ ist, betrachten wir die Konstruktion von Markovketten aus Satz 17.17: Seien (Rn (x) : n ∈ N0 , x ∈ E) unabh¨angige Zufalls˜ n ((x1 , y1 )) = variablen mit Verteilung P[Rn (x1 ) = x2 ] = p(x1 , x2 ), und sei R ˜ n )n∈N unabh¨angig, und es gilt P[R ˜ n ((x1 , y1 )) = (Rn (x1 ), Rn (y 1 )). Dann ist (R 0 (x2 , y2 )] = p¯ (x1 , y1 ), (x2 , y2 ) . Wie in Satz 17.17 gesehen, definiert Xn+1 := ¨ p. AndeRn (Xn ) und Yn+1 := Rn (Yn ) zwei Markovketten mit Ubergangsmatrix ˜ n ((Xn , Yn )), also ist der bivariate Prozess tats¨achlich rerseits ist (Xn+1 , Yn+1 ) = R ¨ eine Kopplung mit Ubergangsmatrix p¯. 3 Beispiel 18.12. Sei E = Z und p(x, y) = 1/3, falls |x − y| ≤ 1 und 0 sonst. Offenbar geh¨ort p zu einer aperiodischen, rekurrenten Irrfahrt auf Z. Wir wollen zeigen, dass wir eine erfolgreiche Kopplung durch Verschmelzung unabh¨angiger Ketten erreichen k¨onnen. ˜ und Y˜ unabh¨angige Irrfahrten mit Ubergangsmatrix ¨ Seien also X p. Dann ist die ˜ n − Y˜n )n∈N eine symmetrische Irrfahrt mit endliDifferenz (Zn )n∈N0 := (X 0 chem Erwartungswert, also rekurrent. Zudem ist Z irreduzibel. F¨ur je zwei Punkte τ < ∞] = Px−y [Zn = 0 f¨ur ein n ∈ N0 ] = 1. Also x, y ∈ Z gilt also P(x,y) [˜ verschmelzen X und Y fast sicher. 3 Rekurrenz, Irreduzibilit¨at und Aperiodizit¨at alleine reichen nicht aus, damit das un¨ abh¨angige Verschmelzen eine erfolgreiche Kopplung ist. In Ubung 18.2.4 wird an
388
18 Konvergenz von Markovketten
einem Beispiel gezeigt, dass wir auf die r¨aumliche Homogenit¨at nicht leicht verzichten k¨onnen, wenn wir eine erfolgreiche Kopplung haben m¨ochten. Der Verzicht auf Rekurrenz f¨allt leichter, wie der folgende Satz zeigt. Satz 18.13. Sei X eine beliebige aperiodische und irreduzible Irrfahrt auf Zd mit ¨ Ubergangsmatrix p. Dann existiert eine erfolgreiche Kopplung (X, Y ). Der Beweis ist etwas technisch und kann beim ersten Lesen ausgelassen werden. Beweis. Sei zun¨achst der Fall d = 1 betrachtet. F¨ur jedes L ∈ N definieren wir die ¨ Ubergangsmatrix pˇL einer Irrfahrt auf Z durch
pˇL (x, y) =
p(x, z) p(y, z),
falls x = y,
z∈Z: |z−y|≤L, |z−x|≤L
und pˇL (x, x) = 1 −
y =x
pˇL (x, y).
Offenbar ist pˇL stets aperiodisch. W¨ahle nun L so groß, dass pˇL irreduzibel ist. ¨ (Dass dies geht, zeigt die folgende Uberlegung: Da p aperiodisch und irreduzibel ist, gibt es zu jedem x ∈ Z ein Nx ∈ N mit p(n) (0, x) > 0 f¨ur n ≥ Nx . F¨ur n ≥ N0 ∨ Nx ist dann pˇ(n) (0, x) > 0, wobei pˇ = pˇ∞ die Symmetrisierung von p ist, denn
T
p(n) (0, x) = (p(n) )T p(n) (0, x) ≥ p(n) (0, 0) p(n) (0, x) > 0. (n)
L→∞
Wegen pˇL (0, x) −→ pˇ(n) (0, x), gilt f¨ur hinreichend großes L und n ≥ N0 ∨ (n) (n) (n) N−1 ∨ N1 , dass pˇL (0, −1) > 0, pˇL (0, 0) > 0, und pˇL (0, 1) > 0. Mithin ist pˇL irreduzibel.) Wir konstruieren die Kopplung (X, Y ), indem wir X und Y alle Spr¨unge der Weite gr¨oßer als L gemeinsam ausf¨uhren lassen, diejenigen von k¨urzerer Weite jedoch unabh¨angig, solange bis X und Y sich treffen und dann verschmelzen. Wir betrachten ˜ Y˜ ) ¨ also als Ubergangsmatrix f¨ur die nicht verschmelzende Kette (X,
p˜L (x1 , y1 ), (x2 , y2 ) ⎧ p(x1 , x2 ) p(y1 , y2 ), falls |x1 − x2 | ≤ L, |y1 − y2 | ≤ L, ⎪ ⎪ ⎨ p(x1 , x2 ), falls |x1 − x2 | > L und y1 − y2 = x1 − x2 , = ⎪ ⎪ ⎩ 0, sonst. ˜ n = Y˜n } verschmelzende Schließlich sei (X, Y ) die nach Zeit τ := inf{n ∈ N0 : X ˜ ˜ Kette, also X = X und Yn = Yn f¨ur n ≤ τ und Yn = Xn f¨ur n ≥ τ . Offenbar ist ¨ (X, Y ) eine Kopplung der Ketten mit Ubergangsmatrix p. ˜ ˜ ¨ Nach Konstruktion ist die Differenz (Xn − Yn )n∈N0 eine Irrfahrt mit Ubergangsmatrix pˇL , also eine symmetrische irreduzible, aperiodische Irrfahrt mit beschr¨ankter Sprungweite und damit rekurrent. F¨ur x, y ∈ Z gilt daher
18.2 Kopplung und Konvergenzsatz
389
* ) * ) ˜ k = Y˜k f¨ur alle k ≤ n n→∞ P(x,y) Xn = Yn = Px−y X −→ 0. Wir behandeln jetzt den allgemeinen Fall d ∈ N, indem wir die einzelnen Koordinaten nacheinander koppeln. Um dies rigoros zu machen, m¨ussen wir etwas Notationsk ˆ = (x1 , . . . , xk ) aufwand treiben. F¨ur x = (x1 , . . . , xd ) und k = 1, . . . , d − 1 sei x k k+1 d k k k und x ˇ = (x , . . . , x ). Wir setzen pk (x, yˆ ) = pk (ˆ x , yˆ ) = yˇk ∈Zd−k p(x, y) sowie pk (x, (ˇ y k | yˆk )) = p(x, y)/p(x, yˆk ). Diese Schreibweise soll suggerieren, dass es sich um die bedingte Wahrscheinlichkeit handelt, von x nach y zu springen, gegeben, dass wir schon wissen, dass die ersten k Koordinaten des Ziels durch yˆk gegeben sind. ˇd = 0, x ˆd = x ˇ0 = x, p0 (x, yˆ0 ) =
1 und Wir setzen noch formal x ˆ0 = x 0 0 p0 (x, (ˇ y | yˆ )) = p(x, y) sowie l(x) := max k ∈ {0, . . . , d} : x ˆk = 0 . Sei jetzt f¨ur L ∈ N die Matrix pˇL,k definiert durch
k k
ˇ , yˇ = zk − x z k − yˇk | zˆk ) pk 0, zˆk , pˇL,k x pk 0, (ˇ ˇk | zˆk ) pk 0, (ˇ z∈Zd ˇ z k −ˇ xk ∞ ≤L ˇ z k −ˇ y k ∞ ≤L
xk , x ˇk ) = 1 − falls x ˇk = yˇk und pˇL,k (ˇ
pˇL,k (ˇ xk , yˇk ).
yˇk =x ˇk
Wir nehmen an, dass L groß genug gew¨ahlt ist, dass alle pˇL,k irreduzibel sind. Setze nun noch
p˜L,k (x1 , y1 ), (x2 , y2 ) = ⎧
y k2 | yˆ2k ) , falls yˆ1k − yˆ2k = x ˆk1 − x ˆk2 p(x1 , x2 ) pk yˆ1k , (ˇ ⎪ ⎪ ⎪ ⎪ ⎪ und ˇ y k1 − yˇk2 ∞ ≤ L, ˇ xk1 − x ˇk2 ∞ ≤ L, ⎪ ⎪ ⎨ p(x1 , x2 ), falls y2 − y1 = x2 − x1 ⎪ ⎪ ⎪ und ˇ xk1 − x ˇk∞ 2 > L, ⎪ ⎪ ⎪ ⎪ ⎩ 0, sonst. ¨ Schließlich definieren wir die Ubergangsmatrix q von (X, Y ) durch
q (x1 , y1 ), (x2 , y2 ) = p˜L,l(y1 −x1 ) (x1 , y1 ), (x2 , y2 ) . Die Zahl l(Xn − Yn ) gibt an, wie viele Koordinaten schon gekoppelt sind. Sind ¨ schon genau k Koordinaten gekoppelt, so wird p˜L,k als Ubergangsmatrix genommen. Unter dieser Matrix bleiben die ersten k Koordinaten gekoppelt. Sei τk := ˇ k )n∈N eine inf{n ∈ N0 : l(Xn − Yn ) = k}. Zwischen τk und τk+1 ist (Yˇnk − X n ¨ Irrfahrt mit Ubergangsmatrix pˇL,k , also symmetrisch, irreduzibel und mit endlicher Sprungweite. Damit ist jede einzelne Koordinate eine rekurrente Irrfahrt und insbesondere τk+1 < ∞ fast sicher. Es folgt, dass f¨ur alle x, y ∈ Zd gilt n→∞
P(x,y) [Xn = Yn ] = P(x,y) [τd > n] −→ 0.
2
390
18 Konvergenz von Markovketten
¨ Satz 18.14. Sei X eine Markovkette auf E mit Ubergangsmatrix p. Existiert eine erfolgreiche Kopplung, so ist jede beschr¨ankte, harmonische Funktion konstant. Beweis. Sei f : E → R beschr¨ankt und harmonisch, also pf = f . Seien x, y ∈ E, und sei (X, Y ) eine erfolgreiche Kopplung. Nach Lemma 17.45 sind (f (Xn ))n∈N0 und (f (Yn ))n∈N0 Martingale, also gilt n→∞
f (x) − f (y) = E(x,y) [f (Xn ) − f (Yn )] ≤ 2f ∞ P(x,y) [Xn = Yn ] −→ 0. 2 Korollar 18.15. Ist X eine irreduzible Irrfahrt auf Zd , so ist jede beschr¨ankte, harmonische Funktion konstant. Diese Aussage gilt allgemeiner, wenn wir Zd durch eine lokalkompakte, abelsche Gruppe ersetzen und geht in dieser Form auf Choquet und Deny [28] zur¨uck, siehe auch [145]. ¯ eine Markovkette mit Uber¨ ¨ Beweis. Ist p die Ubergangsmatrix von X, so sei X 1 1 ¯ gangsmatrix p¯(x, y) = 2 p(x, y) + 2 ½{x} (y). Offenbar haben X und X die selben ¯ eine aperiodische, irreduzible Irrfahrt, harmonischen Funktionen. Nun ist aber X besitzt also nach Satz 18.13 eine erfolgreiche Kopplung f¨ur alle Startpunkte. 2 ¨ Satz 18.16. Sei p die Ubergangsmatrix einer irreduziblen, positiv rekurrenten, aperiodischen Kette auf E. Dann ist die verschmelzende Kette eine erfolgreiche Kopplung. ˜ und Y˜ zwei unabh¨angige Markovketten auf E mit Ubergangs¨ Beweis. Seien X ¨ matrix p. Dann hat die bivariate Markovkette Z := ((Xn , Yn ))n∈N0 die Ubergangsmatrix p , die durch
p (x1 , y1 ), (x2 , y2 ) = p(x1 , x2 ) · p(y1 , y2 ) definiert wird. Wir zeigen zun¨achst, dass die Matrix p irreduzibel ist. Nur an dieser Stelle ben¨otigen wir die Aperiodizit¨at von p. Seien also (x1 , y1 ), (x2 , y2 ) ∈ E × E gegeben. Dann existiert nach Lemma 18.2 ein m0 ∈ N mit pn (x1 , x2 ) > 0 und pn (y1 , y2 ) > 0 f¨ur jedes n ≥ m0 .
F¨ur n ≥ m0 ist daher p n (x1 , y1 ), (x2 , y2 ) > 0. Also ist p irreduzibel. ˜ Y˜ ) in der DiagoWir definieren nun die Stoppzeit τ des ersten Eintreffens von (X,
˜ nalen D := {(x, x) : x ∈ E} durch τ := inf n ∈ N0 : Xn = Y˜n . Sei π die in˜ Offenbar ist dann das Produktmaß π ⊗ π ∈ M1 (E × E) variante Verteilung von X. ˜ Y˜ ). Nach Satz 17.51 ist daher eine (und damit die) invariante Verteilung von (X, ˜ Y˜ ) positiv rekurrent, also insbesondere rekurrent. Mithin gilt P(x,y) [τ < ∞] = (X, 1 f¨ur alle Startpunkte (x, y) ∈ E × E von Z. 2
18.2 Kopplung und Konvergenzsatz
391
¨ Satz 18.17. Sei X eine Markovkette mit Ubergangsmatrix ; erfolgrei; p, zu der eine n→∞ che Kopplung existiert. F¨ur alle μ, ν ∈ M1 (E) gilt dann ;(μ − ν)pn ;T V −→ 0. Ist und positiv rekurrent mit invarianter Verteilung π, so gilt ; speziell X ;aperiodisch n→∞ ;Lμ [Xn ] − π ; −→ 0 f¨ur jedes μ ∈ M1 (E). TV Beweis. Es reicht, den Fall μ = δx , ν = δy f¨ur gewisse x, y ∈ E zu betrachten. Summation u¨ ber x und y liefert dann den allgemeinen Fall. Sei (Xn , Yn )n∈N0 eine erfolgreiche Kopplung. Dann ist ; ; n→∞ ;(δx − δy )pn ; ≤ 2 P(x,y) [Xn = Yn ] −→ 0. 2 TV Wir fassen den Zusammenhang von Aperiodizit¨at und Verteilungskonvergenz von X im folgenden Satz zusammen. ¨ Markovketten). Sei X eine irreduzible, positiv Satz 18.18 (Konvergenzsatz fur rekurrente Markovkette auf E mit invarianter Verteilung π. Dann sind a¨ quivalent: (i) X ist aperiodisch. (ii) F¨ur jedes x ∈ E gilt ; ; ;Lx [Xn ] − π ;
TV
n→∞
−→ 0.
(18.11)
(iii) F¨ur ein x ∈ E gilt (18.11).
; ; n→∞ (iv) F¨ur jedes μ ∈ M1 (E) gilt ;μpn − π ;T V −→ 0.
Beweis. Die Implikationen (iv) ⇐⇒ (ii) =⇒ (iii) sind klar. Die Implikation (i) =⇒ (ii) wurde in Satz 18.17 gezeigt. Wir zeigen also (iii) =⇒ (i). (iii) =⇒ (i)“ Wir nehmen an, dass (i) nicht gilt. Hat X die Periode d ≥ 2, und ” ist n ∈ N kein Vielfaches von d, so ist nach Satz 17.51 ; ; n ;δx p − π ; ≥ |pn (x, x) − π({x})| = π({x}) > 0. TV ; ; F¨ur jedes x ∈ E gilt daher lim sup ;δx pn − π ;T V > 0, folglich gilt (iii) nicht. 2 n→∞
¨ ¨ Ubung 18.2.1. Sei d3 P die Prohorov-Metrik (siehe (13.3) und Ubung 13.2.1). Man zeige: dP (P, Q) ≤ dW (P, Q) f¨ur alle P, Q ∈ M1 (E). Hat E endlichen Durchmesser diam(E), so ist dW (P, Q) ≤ (diam(E) + 1)dP (P, Q) f¨ur alle P, Q ∈ M1 (E). ♣ ¨ Ubung 18.2.2. Man zeige durch eine direkte Rechnung, dass der in Beispiel 18.11 ˜ und Y˜ hergestellte Prozess (X, Y ) eine Kopplung mit Ubergangsmatrix ¨ aus X p¯ ist. ♣
392
18 Konvergenz von Markovketten
¨ Ubung 18.2.3. Sei X eine beliebige aperiodische, irreduzible, rekurrente Irrfahrt auf Zd . Man zeige, dass dann zu je zwei Startpunkten die unabh¨angige Verschmelzung eine erfolgreiche Kopplung ist. Hinweis: Man zeige, dass die Differenz zweier rekurrenter Irrfahrten stets wieder rekurrent ist. ♣ ¨ ¨ Ubung 18.2.4. Sei X eine Markovkette auf Z2 mit Ubergangsmatrix ⎧1 ⎪ ⎪ 4 , falls x1 = 0, y − x2 = 1, ⎪ ⎪ ⎪ ⎨ 1 , falls x1 = 0 und y1 = x1 ± 1, x2 = y2 , 4 p((x1 , x2 ), (y1 , y2 )) = 1 ⎪ ⎪ ⎪ 2 , falls x1 = 0 und y1 = x1 , x2 = y2 , ⎪ ⎪ ⎩ 0, sonst. Anschaulich ist dies die symmetrische einfache Irrfahrt, bei der alle senkrechten ¨ Uberg¨ ange außerhalb der senkrechten Koordinatenachse blockiert werden. Man zeige, dass X nullrekurrent, irreduzibel und aperiodisch ist, und dass die unabh¨angige Verschmelzung keine erfolgreiche Kopplung ist. ♣
18.3 Markovketten Monte Carlo Methode Es sei E eine endliche Menge und π ∈ M1 (E) mit π(x) := π({x}) > 0 f¨ur jedes x ∈ E. Wir betrachten das Problem, eine Zufallsvariable Y mit Verteilung π mit dem Computer zu generieren. Dies ist etwa dann relevant, wenn E eine sehr große Menge ist und Summen vom Typ x∈E f (x)π(x) numerisch approximiert werden sollen durch Sch¨atzer n−1 ni=1 f (Yi ) (siehe Beispiel 5.21). Wir nehmen an, dass unser Computer in der Lage ist, Realisierungen von u.i.v. Zufallsvariablen U1 , U2 , . . . zu generieren, die uniform auf [0, 1] verteilt sind. Die Verteilung π soll jedoch nicht leicht direkt herstellbar sein. Metropolis-Algorithmus Wir haben schon gesehen, wie man Markovketten mit dem Computer simulieren kann (Beispiel 17.19). Die Idee ist nun, eine Markovkette X zu erzeugen, deren Verteilung gegen π konvergiert. Wenn wir X lange genug laufen lassen, so wird Xn ungef¨ahr wie π verteilt sein. Gleichzeitig sollte die Kette so gestaltet sein, dass ¨ in jedem Schritt immer nur wenige Uberg¨ ange wirklich m¨oglich sind, sodass das in Beispiel 17.19 beschriebene Verfahren auch effizient umsetzbar ist. (Nat¨urlich ¨ w¨are eine Kette mit Ubergangsmatrix p(x, y) = π(y) gegen π konvergent, aber das Problem ließe sich hiermit nicht vereinfachen.) Die so beschriebene Methode des Ziehens von π-verteilten Stichproben wird Markovketten Monte Carlo Methode oder MCMC (f¨ur Markov chain Monte Carlo) genannt (siehe [18, 117, 123]).
18.3 Markovketten Monte Carlo Methode
393
¨ Sei q die Ubergangsmatrix einer beliebigen irreduziblen Markovkette auf E (mit q(x, y) = 0 f¨ur m¨oglichst viele y ∈ E). Wir erstellen hieraus die Metropolis-Matrix (siehe [73, 119]). Definition 18.19. Wir definieren eine stochastische Matrix p auf E durch ⎧ π(y)q(y,x) ⎪ ⎨ q(x, y) min 1, π(x)q(x,y) , falls x = y, q(x, y) > 0, p(x, y) = 0, falls x = y, q(x, y) = 0, ⎪ ⎩ 1 − z =x p(x, z), falls x = y. p heißt Metropolis-Matrix zu q und π. Man sieht direkt, dass p reversibel ist (siehe Abschnitt 19.2), das heißt π(x) p(x, y) = π(y) p(y, x)
f¨ur alle x, y ∈ E.
(18.12)
Speziell ist π invariant (Nachrechnen!). Wir erhalten sofort den folgenden Satz. Satz 18.20. Ist q irreduzibel, so ist die Metropolis-Matrix p zu q und π irreduzibel mit eindeutiger Gleichgewichtsverteilung π. Ist zudem q aperiodisch, oder π nicht die Gleichverteilung auf E, so ist p aperiodisch. Zur Simulation einer Kette X, die gegen π konvergiert, k¨onnen wir nun, aus¨ gehend von einer Referenzkette, die Uberg¨ ange nach q macht, den Metropolis¨ ¨ Algorithmus verwenden: Schl¨agt die Kette mit Ubergangsmatrix q einen Ubergang vom aktuellen Zustand x nach y vor, so akzeptieren wir diesen Vorschlag mit Wahrscheinlichkeit π(y)q(y, x) ∧ 1. π(x)q(x, y) Ansonsten bleiben wir in x stehen. In der Definition von p taucht π nur in der Form des Quotienten π(y)/π(x) auf. In vielen F¨allen von Interesse ist dieser Quotient relativ leicht berechenbar, auch wenn π(x) und π(y) selber nicht leicht zu bestimmen sind. Wir wollen dies an einem Beispiel erl¨autern. Beispiel 18.21 (Ising Modell). Das Ising Modell ist ein thermodynamisches (und quantenmechanisches) Modell f¨ur Ferromagnetismus in Kristallen, das von folgenden Annahmen ausgeht: – Atome sitzen auf den Punkten des Gitters Λ (zum Beispiel Λ = {0, . . . , N −1}2 ), – jedes Atom i ∈ Λ hat ein magnetisches Moment (Spin): x(i) ∈ {−1, 1}, das entweder nach oben zeigt (x(i) = +1) oder nach unten (x(i) = −1), – benachbarte Atome wechselwirken miteinander,
394
18 Konvergenz von Markovketten
– auf Grund thermischer Schwankungen ist der Zustand des Systems zuf¨allig und verteilt nach der so genannten Boltzmann-Verteilung π auf dem Zustandsraum E := {−1, 1}Λ , abh¨angig von der inversen Temperatur β = T1 ≥ 0. Wir definieren die lokale Energie H i , die das Energieniveau eines Atoms in i ∈ Λ als Funktion des Zustands x des Gesamtsystems angibt H i (x) =
1 2
½{x(i) =x(j)} .
j∈Λ: i∼j
Hierbei bedeutet i ∼ j, dass i und j Nachbarn sind in Λ (damit meinen wir koordinatenweise mod N , wir sprechen auch von periodischen Randbedingungen). Die Gesamtenergie (oder Hamiltonfunktion) des Systems im Zustand x ist die Summe der Einzelenergien, H(x) = H i (x) = ½{x(i) =x(j)} . i∼j
i∈Λ
Die Boltzmann-Verteilung π auf E := {−1, 1}Λ zur inversen Temperatur β ≥ 0 wird definiert durch π(x) = Zβ−1 exp(−βH(x)), wobei die Zustandssumme Zβ = exp(−βH(x)) (oder Partitionsfunktion) x∈E
die Normierungskonstante ist, die π zu einem W-Maß macht. Makroskopisch beobachtbar ist nicht jeder einzelne Spin, sondern nur die mittlere Magnetisierung, die sich als Betrag des Mittelwerts der einzelnen Spins ergibt 1 π(x) x(i) . mΛ (β) = #Λ x∈E
i∈Λ
Wenn wir sehr große Systeme betrachten, sind wir nahe am so genannten thermodynamischen Limes m(β) := lim mΛ (β). Λ↑Zd
Man kann mit einem Konturargument, a¨ hnlich wie bei der Perkolation, zeigen (siehe [128]), dass (f¨ur d ≥ 2) eine Zahl βc = βc (d) ∈ (0, ∞) existiert, mit 1 > 0, falls β > βc , (18.13) m(β) = 0, falls β < βc . An einem a¨ hnlichen Modell, dem Weiss’schen Ferromagneten, werden wir in Bei¨ spiel 23.20 die Existenz eines solchen Phasenubergangs rigoros nachweisen. In der Physik wird Tc := 1/βc die Curie-Temperatur f¨ur die spontane Magnetisierung genannt. Dies ist eine materialabh¨angige Konstante (Chrombromid (CrBr) 37Kelvin, Nickel 645K, Eisen 1017K, Kobalt 1404 K). Unterhalb der Curie-Temperatur
18.3 Markovketten Monte Carlo Methode
395
0.7
0.6
Magnetisierung
0.5
0.4
0.3
0.2
0.1
0 0.84
0.85
0.86
0.87
0.88
0.89
0.9
0.91
0.92
Inverse Temperatur
Abb. 18.4. Magnetisierungskurve im Ising-Modell auf einem 1000 × 1000-Gitter, per Computersimulation berechnet. Die senkrechte Linie markiert die kritische Temperatur.
sind die Stoffe magnetisch, oberhalb sind sie es nicht. Dabei nimmt der Magnetisierungsgrad bei fallender Temperatur noch zu. Das Ising-Modell, das wir jetzt untersuchen, soll (zumindest in Computer-Simulationen) diesen Effekt einer kritischen Temperatur nachbilden. Wir definieren den Zustand xi,σ , bei dem an der Stelle i der Spin σ ∈ {−1, +1} eingesetzt wird σ, falls j = i, i,σ x (j) = x(j), falls j = i. Außerdem definieren wir den Zustand xi , bei dem der Spin in i umgedreht wird xi := xi,−x(i) . Als vorschlagende Kette, oder Referenzkette, w¨ahlen wir nun eine ¨ Kette mit Ubergangswahrscheinlichkeiten 1 , falls y = xi f¨ur ein i ∈ Λ, #Λ q(x, y) = 0, sonst. In Worten: Wir suchen einen Punkt i ∈ Λ zuf¨allig (uniform verteilt) aus und drehen den Spin an dieser Stelle um. Offenbar ist q irreduzibel. Der Metropolis-Algorithmus zu dieser Kette akzeptiert den Vorschlag der Referenzkette sicher, falls π(xi ) ≥ π(x). Andernfalls wird der Vorschlag mit Wahrscheinlichkeit π(xi )/π(x) akzeptiert. Nun ist aber
396
18 Konvergenz von Markovketten
Abb. 18.5. Gleichgewichte des Ising-Modells f¨ur ein 800 × 800 Gitter. (schwarzer Punkt = spin +1) Links: k¨alter als die kritische Temperatur (β > βc ), rechts: w¨armer.
Abb. 18.6. Ising-Modell (150 × 150 Gitter) unterhalb der kritischen Temperatur. Die Computersimulation zeigt auch nach langer Laufzeit noch nicht das Gleichgewicht, sondern metastabile Zust¨ande, in denen man die Weiss’schen Bezirke gut sehen kann.
H(xi ) − H(x) =
½{x(j) =−x(i)} −
j: j∼i
= −2
j: j∼i
j: j∼i
1 ½{x(j) =x(i)} − 2
½{x(j) =x(i)} .
Also ist π(xi )/π(x) = exp − 2β j∼i ½{x(j)=x(i)} − 12 , und dieser Ausdruck ist leicht zu berechnen, da er nur von den 2d Nachbarspins abh¨angt und zudem die ¨ Kenntnis von Zβ nicht ben¨otigt. Wir erhalten also als Metropolis-Ubergangsmatrix
18.3 Markovketten Monte Carlo Methode
397
( ' ⎧ 1 1 ⎪ ( ½ − ) , falls y = xi f¨ur ein i ∈ Λ, 1 ∧ exp 2β ⎪ {x(j)
= x(i)} 2 ⎨ #Λ j: j∼i p(x, y) = 1 − i∈Λ p(x, xi ), falls x = y, ⎪ ⎪ ⎩ 0, sonst. Praktisch wird man diese Kette simulieren, indem man sich unabh¨angige Zufallsvariablen I1 , I2 , . . . und U1 , U2 , . . . verschafft mit In ∼ UΛ und Un ∼ U[0,1] . Man setzt nun ' ( xIn , falls Un ≤ exp 2β j: j∼i (½{x(j) =x(i)} − 12 ) , Fn (x) = x, sonst, und definiert die Markovkette (Xn )n∈N durch Xn = Fn (Xn−1 ) f¨ur n ∈ N.
3
Gibbs-Sampler Wir betrachten eine Situation, in der, wie im obigen Beispiel, ein Zustand aus vielen Komponenten x = (xi )i∈Λ ∈ E besteht, wobei Λ eine endliche Menge ist. Alternativ zur Metropolis-Kette betrachten wir ein weiteres Verfahren, um eine Markovkette mit gegebener invarianter Verteilung herzustellen. Beim so genannten GibbsSampler oder heat bath algorithm ist die Idee, den Zustand lokal an die station¨are Verteilung anzupassen. Ist x der momentane Zustand, dann verf¨ahrt man wie folgt. F¨ur i ∈ Λ setze x−i := {y ∈ E : y(j) = x(j) f¨ur j = i}. Definition 18.22 (Gibbs-Sampler). Sei q ∈ M1 (Λ) mit q(i) > 0 f¨ur jedes i ∈ Λ. ¨ Die Ubergangsmatrix p auf E mit i,σ ) , falls y = xi,σ f¨ur ein i ∈ Λ, qi π(x π(x−i ) p(x, y) = 0, sonst, heißt Gibbs-Sampler zur invarianten Verteilung π. In Worten verf¨ahrt eine nach p konstruierte Kette in jedem Schritt wie folgt: (1) W¨ahle eine Komponente I gem¨aß einer Verteilung (qi )i∈Λ . (2) Ersetze in x durch xI,σ mit Wahrscheinlichkeit π(xI,σ )/π(x−I ). Falls I = i ist, dann hat der neue Zustand also die Verteilung L(X|X−i = x−i ), wobei X eine Zufallsvariable mit Verteilung π bezeichnet. Man beachte, dass man auch beim Gibbs-Sampler die Verteilung π nur bis auf die Normierungskonstante zu kennen braucht (in einem etwas allgemeineren Rahmen lassen sich der GibbsSampler und der Metropolis Algorithmus als Spezialf¨alle ein und desselben Verfahren auffassen). F¨ur Zust¨ande x und y, die sich nur in der i-ten Komponente unterscheiden, gilt (wegen x−i = y−i )
398
18 Konvergenz von Markovketten
π(x) p(x, y) = π(x) qi
π(y) π(x) = π(y) qi = π(y) p(y, x). π(x−i ) π(y−i )
Der Gibbs-Sampler beschreibt also eine reversible Markovkette mit Gleichgewicht π. Die Irreduzibilit¨at des Gibbs-Samplers ist von Fall zu Fall zu kl¨aren. Beispiel 18.23 (Ising Modell). Im oben beschriebenen Ising-Modell ist x−i = {xi,−1 , xi,+1 }. Daher ist f¨ur i ∈ Λ und σ ∈ {−1, +1} π(xi,σ x−i ) =
π(xi,σ ) π({xi,−1 , xi,+1 })
e−βH(x ) = −βH(xi,−1 ) e + e−βH(xi,+1 ) ' (−1 = 1 + exp β H(xi,σ ) − H(xi,−σ ) ' (−1 = 1 + exp 2β j: j∼i (½{x(j) =σ} − 12 ) . i,σ
Der Gibbs-Sampler des Ising-Modells ist also die Markovkette (Xn )n∈N0 mit Wer¨ ten in E = {−1, 1}Λ und mit Ubergangsmatrix ⎧ ' (−1 ⎨ 1 1+exp 2β (½ 1 , falls y = xi f¨ur ein i ∈ Λ, {x(j) =x(i)} − 2 ) #Λ p(x, y) = j: j∼i ⎩ 0, sonst. 3 Perfekte Simulation Die bislang betrachtete MCMC Methode baut auf dem Prinzip Hoffnung: Wir lassen die Kette lange laufen und hoffen, dass sie sich in einem Zustand nahe dem Gleichgewicht befindet. Selbst wenn wir die Konvergenzgeschwindigkeit bestimmen k¨onnen (und das ist oft nicht ganz leicht – wir kommen dazu in Abschnitt 18.4), werden wir doch nie einen Zustand bekommen, der exakt wie das Gleichgewicht verteilt ist. Tats¨achlich ist es, zumindest theoretisch, m¨oglich, ein der MCMC Methode verwandtes Verfahren anzugeben, das perfektes Ziehen von Stichproben nach der Verteilung π erm¨oglicht, sogar, wenn wir u¨ ber die Konvergenzgeschwindigkeit gar nichts wissen. Hierzu nehmen wir an, dass F1 , F2 , . . . u.i.v. zuf¨allige Abbildungen E → E sind mit P[F (x) = y] = p(x, y) f¨ur alle x, y ∈ E. Wir hatten gesehen, dass wir die Markovkette X mit Start in x durch Xn = Fn ◦ Fn−1 ◦ · · · ◦ F1 (x) konstruieren k¨onnen. D
Nun gilt F1n (x) := F1 ◦ . . . ◦ Fn (x) = Fn ◦ . . . ◦ F1 (x). Also gilt P[F1n (x) = n→∞ y] −→ π(y) f¨ur jedes y. Ist nun aber F1n die konstante Abbildung, etwa F1n ≡ x∗
18.4 Konvergenzgeschwindigkeit
399
(f¨ur ein zuf¨alliges x∗ ), so ist auch F1m ≡ x∗ f¨ur jedes m ≥ n. Wenn man also durch geschickte Wahl der Verteilung der Fn erreichen kann, dass die Stoppzeit T := inf{n ∈ N : F1n ist konstant} fast sicher endlich ist (und das geht immer), so ist P[F1T (x) = y] = π(y) f¨ur alle x, y ∈ E. Ein einfacher Algorithmus f¨ur dieses Verfahren sieht so aus: (1) Setze F ← idE und n ← 0. (2) Setze n ← n + 1. Erzeuge Fn und setze F ← F ◦ Fn . (3) Falls F nicht die konstante Abbildung ist, gehe zu (2). (4) Ausgabe F (∗). Dieses Verfahren wird Kopplung aus der Vergangenheit (coupling from the past) genannt und geht auf Propp und Wilson [139] zur¨uck (siehe auch [57, 58, 168, 138, 140, 95]). Interessante Simulationen sowie ein Forschungs¨uberblick finden sich im ¨ Internet unter http://www.dbwilson.com/. Einen guten Uberblick u¨ ber die MCMC Methode und die Kopplung aus der Vergangenheit gibt auch [69]. Praktisch ergeben sich zwei Probleme: Es muss die komplette Abbildung Fn erzeugt und mit F verkn¨upft werden. Die Rechenzeit daf¨ur ist mindestens von der Ordnung der Gr¨oße des Raums E. Außerdem erfordert das Pr¨ufen von F auf Konstanz einen Rechenaufwand von gleicher Gr¨oßenordnung. Das Verfahren l¨asst sich effektiv nur durchf¨uhren, wenn man mehr Struktur zur Verf¨ugung hat, etwa, wenn E eine Halbordnung mit einem kleinsten Element 0 und einem gr¨oßten Element 1 besitzt (wie beim Ising-Modell) und man die Abbildungen Fn so w¨ahlen kann, dass sie fast sicher monoton wachsend sind. In diesem Fall braucht man immer nur F (0) und F (1) zu berechnen, und F ist konstant, falls F (0) = F (1).
18.4 Konvergenzgeschwindigkeit Bei den bisherigen Betrachtungen ist die Frage nach der Geschwindigkeit der Konvergenz der Verteilung PXn gegen π ignoriert worden. F¨ur praktische Anwendungen ist aber dies genau die wichtigste Frage. Wir wollen hier nicht auf die Details eingehen, sondern das Thema nur kurz anreißen. Ohne Einschr¨ankung sei E = {1, . . . , N }. Ist p reversibel (Gleichung (18.12)), so wird durch f → pf ein ¨ Alle Eigenwerte symmetrischer linearer Operator auf L2 (E, π) definiert (Ubung!). λ1 , . . . , λN (mit Mehrfachnennung je nach Vielfachheit) sind reell und dem Betrage nach nicht gr¨oßer als 1, da p stochastisch ist. Wir k¨onnen also die Eigenwerte dem Betrage nach ordnen: λ1 = 1 ≥ |λ2 | ≥ . . . ≥ |λN |. Ist p irreduzibel und aperiodisch, so ist |λ2 | < 1. Sei μ1 = π, μ2 , . . . , μN eine Orthonormalbasis aus LinksEigenvektoren zu Eigenwerten λ1 , . . . , λN . F¨ur jedes μ = α1 μ1 + . . . + αN μN den N ist dann μpn = i=1 λni αi μi , also μpn − πT V ≤ C|λ2 |n
(18.14)
400
18 Konvergenz von Markovketten
f¨ur eine Konstante C (die nicht einmal von μ abh¨angt). Eine a¨ hnliche Formel gilt f¨ur den Fall, wo p nicht reversibel ist, wobei Korrekturterme der Ordnung maximal nV −1 auftreten. Dabei ist V die Gr¨oße des gr¨oßten Jordan-K¨astchens zum Eigenwert λ2 in der Jordan’schen Normalform von p, speziell also h¨ochstens die Vielfachheit des betragsm¨aßig zweitgr¨oßten Eigenwertes. Die Konvergenzgeschwindkeit ist also exponentiell mit einer Rate, die durch die ¨ Spektrallucke 1 − |λ2 | zum zweitgr¨oßten Eigenwert von p bestimmt ist. Die analytische Bestimmung der Spektrall¨ucke ist f¨ur große R¨aume E h¨aufig extrem schwer. Beispiel 18.24. Sei r ∈ (0, 1) und N ¨ betrachten die Ubergangsmatrix ⎧ r, ⎨ p(i, j) = 1 − r, ⎩ 0,
∈ N, N ≥ 2, sowie E = {0, . . . , N − 1}. Wir falls j = i + 1 (mod N ), falls j = i − 1 (mod N ), sonst.
¨ p ist die Ubergangsmatrix der einfachen (asymmetrischen) Irrfahrt auf dem diskreten Torus Z/(N ), die mit Wahrscheinlichkeit r einen Schritt nach rechts springt, mit Wahrscheinlichkeit 1 − r hingegen einen Schritt nach links springt. Offenbar ist p irreduzibel, und p ist genau dann aperiodisch, wenn N ungerade ist. Offensichtlich ist die Gleichverteilung UE die eindeutige invariante Verteilung. Fall 1: N ungerade.
Man pr¨uft leicht nach, dass p die Eigenwerte
λk := r θk + (1 − r) θ k = cos 2πk + (2r − 1) i sin 2πk k = 0, . . . , N − 1, N N , hat, wobei θk = e2πi k/N , k = 0, . . . , N − 1, die N -ten Einheitswurzeln sind, und die zugeh¨origen (Rechts-) Eigenvektoren
xk := θk0 , θk1 , . . . , θkN −1 . Die Betr¨age der Eigenwerte bekommen wir durch |λk | = f (2πk/N ), wobei 3 f (ϑ) = 1 − 4r(1 − r) sin(ϑ)2 f¨ur ϑ ∈ R. Da N ungerade ist, ist |λk | maximal (außer f¨ur k = 0) f¨ur k = N 2−1 und k = N2+1 3 mit dem Wert γ := 1 − 4r(1 − r) sin(π/N )2 . Da die Eigenwerte alle unterschiedlich sind, hat jeder Eigenwert die Vielfachheit 1, und es gibt ein C < ∞ mit μpn − UE T V ≤ C γ n f¨ur alle n ∈ N, μ ∈ M1 (E).
Fall 2: N gerade. In diesem Fall ist p nicht aperiodisch, nichtsdestoweniger haben die Eigenwerte und Eigenvektoren die selbe Gestalt wie im ersten Fall. Um eine ¨ aperiodische Kette zu erhalten, bilden wir f¨ur ε > 0 die Ubergangsmatrix pε := (1 − ε)p + εI,
18.4 Konvergenzgeschwindigkeit
401
wo I die Einheitsmatrix auf E ist. pε beschreibt die Irrfahrt auf E, die mit Wahrscheinlichkeit ε am Ort stehen bleibt und mit Wahrscheinlichkeit 1−ε einen Sprung gem¨aß p macht. Offenbar ist pε irreduzibel und aperiodisch. Die Eigenwerte sind λε,k = (1 − ε)λk + ε,
k = 0, . . . , N − 1,
mit zugeh¨origen Eigenvektoren xk wie oben. Offenbar ist λε,0 = 1, und λε,N/2 = 2ε − 1 ist der betragsm¨aßig zweitgr¨oßte Eigenwerte, falls ε > 0 sehr klein ist. F¨ur gr¨oßere ε ist |λε,1 | > |λε,N/2 |. Genauer gilt: Setzen wir ε0 :=
(1 − (2r − 1)2 ) sin(2π/N )2 , (1 − (2r − 1)2 ) sin(2π/N )2 + 2 cos(2π/N )
so ist der Betrag γε des betragsm¨aßig zweitgr¨oßten Eigenwertes γε = |λε,N/2 | = 1 − 2ε,
falls ε ≤ ε0 ,
und γε = |λε,1 | E
2
2 (1 − ε) cos 2π = + (1 − ε)(2r − 1) sin 2π , N +ε N
falls ε ≥ ε0 .
Es ist nicht schwer zu zeigen, dass ε → |λε,N/2 | monoton fallend ist und ε → |λε,1 | monoton wachsend. Daher ist γε minimal f¨ur ε = ε0 . Es gibt also ein C < ∞ mit μpnε − UE T V ≤ C γεn
f¨ur alle n ∈ N, μ ∈ M1 (E),
¨ und die beste Konvergenzgeschwindigkeit (in dieser Klasse von Ubergangsmatrizen) wird erreicht durch die Wahl ε = ε0 . 3 Beispiel 18.25 (Gambler’s Ruin). Wir betrachten das Gambler’s Ruin Problem aus Beispiel 10.19 mit Erfolgswahrscheinlichkeit r ∈ (0, 1). Hier ist der Zustandsraum ¨ E = {0, . . . , N }, und die Ubergangsmatrix hat die Gestalt ⎧ r, falls j = i + 1 ∈ {2, . . . , N }, ⎪ ⎪ ⎨ 1 − r, falls j = i − 1 ∈ {0, . . . , N − 2}, p(i, j) = 1, falls j = i ∈ {0, N }, ⎪ ⎪ ⎩ 0, sonst. ¨ Diese Ubergangsmatrix ist nicht irreduzibel, sondern hat die zwei absorbierenden Zust¨ande 0 und N . In Beispiel 10.19 (Gleichung (10.5)), f¨ur den Fall r = 12 , und Beispiel 10.16, f¨ur den Fall r = 12 , wurde gezeigt, dass f¨ur jedes μ ∈ M1 (E) n→∞
μpn −→ (1 − m(μ))δ0 + m(μ)δN ,
(18.15)
402
18 Konvergenz von Markovketten
0 wobei m(μ) = pN (x) μ(dx) ist, und die Wahrscheinlichkeit pN (x), dass die in x gestartete Kette N trifft, gegeben ist durch ⎧
x ⎪ 1 − 1−r ⎪ r 1 ⎨ N , falls r = 2 ,
pN (x) = 1 − 1−r r ⎪ x ⎪ ⎩ , falls r = 12 . N Wie schnell geht nun die Konvergenz in (18.15)? Auch hier ist die Konvergenz exponentiell schnell, und die Rate wird wieder durch den zweitgr¨oßten Eigenwert von p bestimmt. Wir wollen nun also das Spektrum von p bestimmen. Klar sind x0 = (1, 0, . . . , 0) und xN = (0, . . . , 0, 1) Links-Eigenvektoren zum Eigenwert 1. Damit nun x = (x0 , . . . , xN ) ein Links-Eigenvektor zum Eigenwert λ ist, m¨ussen die folgenden Gleichungen erf¨ullt sein: λxk = rxk−1 + (1 − r)xk+1
f¨ur k = 2, . . . , N − 2,
(18.16)
und (18.17)
λxN −1 = rxN −2 .
1−p λ−1 x1
Gelten (18.16) und (18.17) f¨ur x1 , . . . , xN −1 , so setzen wir x0 := und p xN −1 und erhalten dadurch tats¨achlich xp = λx. Wir machen den xN := λ−1 Ansatz λ = (1 − r)ρ(θ + θ) und xk = k (θk − θ k ) wobei ρ=
3
f¨ur k = 1, . . . , N − 1,
r/(1 − r) und θ ∈ C \ {−1, +1} mit |θ| = 1.
Es gilt also θθ = 1 und (1 − r)ρk+1 = rρk−1 . Daher ist f¨ur jedes k = 2, . . . , N − 1 λxk = (1 − r) ρk+1 (θk − θk )(θ + θ) * ) = (1 − r) ρk+1 (θk+1 − θ k+1 ) + θθ (θk−1 − θk−1 ) = r ρk−1 (θk−1 − θk−1 ) + (1 − r) ρk+1 (θk+1 − θk+1 ) = r xk−1 + (1 − r) xk+1 , das heißt, es gilt (18.16). Die selbe Rechnung mit k = N − 1 zeigt, dass (18.17) genau dann gilt, wenn θ N −θN = 0 ist, also wenn θ 2N = 1 gilt. Wir erhalten also f¨ur θ die N − 1 unterschiedlichen Werte (man beachte, dass die komplex konjugierten der hier angegeben Werte zu den selben λn f¨uhren) θn = e(n/N )π i Die zugeh¨origen Eigenwerte sind n π λn = σ cos N
f¨ur n = 1, . . . , N − 1.
f¨ur n = 1, . . . , N − 1.
18.4 Konvergenzgeschwindigkeit
403
Dabei ist die Varianz des einzelnen Irrfahrt-Schrittes: σ 2 := 4r(1 − r).
(18.18)
Da alle Eigenwerte reell sind, sind die zugeh¨origen Eigenvektoren gegeben durch xnk = 2
r 1−r
n/2 sin
n π N
,
k = 1, . . . , N − 1.
π F¨ur n = 1 und n = N − 1 ist |λn | = σ cos N der betragsm¨aßig zweitgr¨oßte Eigenwert. Es folgt, dass es ein C > 0 gibt, sodass f¨ur jedes μ ∈ M1 (E) gilt π n μpn ({1, . . . , N − 1}) ≤ C σ cos f¨ur jedes n ∈ N. N Mit anderen Worten: Die Wahrscheinlichkeit, dass dasSpiel bis zur n-ten Runde
n noch nicht entschieden ist, ist maximal C σ cos(π/N ) . Ein alternativer Zugang zu den Eigenwerten geht u¨ ber die Nullstellen des charakteristischen Polynoms χN (x) = det(p − xI),
x ∈ R.
¨ Man sieht sofort, dass χ1 (x) = (1 − x)2 und χ2 (x) = −x(1 − x)2 gilt. Uber die Entwicklungsformel der Determinante durch Streichen von Zeilen und Spalten erhalten wir die Rekursionsformel χN (x) = −x χN −1 (x) − r(1 − r) χN −2 (x).
(18.19)
Wir erhalten als L¨osung (Nachrechnen!)
χN (x) = (−1)N −1 (σ/2)N −1 (1 − x)2 UN −1 x/σ , wobei Um (x) :=
k=0
(−1)
m−k (2x)m−2k k
m/2
(18.20)
k
das m-te Chebyshev Polynom zweiter Art bezeichnet. F¨ur x ∈ (−σ, σ) kann man mit Hilfe der de Moivre’schen Formel zeigen, dass
N −1 N −1 2 sin N arc cos x/σ 3 (σ/2) (1 − x) χN (x) = (−1) 1 − (x/σ)2 (18.21) N −1 πk 2 σ cos −x . = (1 − x) N k=1
Neben der doppelten Nullstelle 1 erhalten wir als Nullstellen
σ cos πk/N ), k = 1, . . . , N − 1.
3
404
18 Konvergenz von Markovketten
¨ Ubung 18.4.1. Man zeige (18.20).
♣
¨ Ubung 18.4.2. Man zeige (18.21).
♣
√ ¨ Ubung 18.4.3. Sei ν(dx) = π2 1 − x2 ½[−1,1] (x) dx. Man zeige, dass die Chebyshev Polynome zweiter Art bez¨uglich ν orthonormal sind: Um Un dν = ½{m=n} . ♣ ⎛
⎞ 1/2 1/3 1/6 ⎜ ⎟ ¨ Ubung 18.4.4. Sei E = {1, 2, 3} und p = ⎝ 1/3 1/3 1/3⎠. Man bestimme die 0 3/4 1/4 invariante Verteilung und die exponentielle Konvergenzrate.
♣
¨ Ubung 18.4.5. Sei E = {0, . . . , N − 1}, r ∈ (0, 1) und ⎧ r, falls j = i + 1 (mod N ), ⎨ p(i, j) = 1 − r, falls j = i (mod N ), ⎩ 0, sonst. ¨ Man zeige, dass p die Ubergangsmatrix einer irreduziblen, aperiodischen Irrfahrt ist, bestimme die invariante Verteilung und bestimme die exponentielle Konvergenzgeschwindigkeit. ♣ ¨ Ubung 18.4.6. Sei N ∈ N und E = {0, 1}N der N -dimensionale Hyperkubus, das heißt, zwei Punkte x, y ∈ E sind genau dann durch eine Kante verbunden, wenn sie ¨ sich in genau einer Koordinate unterscheiden. Sei p die Ubergangsmatrix der Irrfahrt auf E, die mit Wahrscheinlichkeit ε > 0 am Ort bleibt, mit Wahrscheinlichkeit 1−ε hingegen zu einem (uniform gew¨ahlten) zuf¨alligen Nachbarpunkt springt. Man beschreibe p formal, zeige dass p aperiodisch und irreduzibel ist, und bestimme die invariante Verteilung sowie die exponentielle Konvergenzgeschwindigkeit. ♣
19 Markovketten und elektrische Netzwerke
Wir betrachten eine symmetrische einfache Irrfahrt auf Z2 . Nach dem Satz von P´olya (Satz 17.39) ist diese Irrfahrt rekurrent. Was passiert aber, wenn wir eine einzelne Kante aus dem Gitter L2 von Z2 entfernen? Intuitiv sollte dies nichts an der Rekurrenz a¨ ndern. Die in Kapitel 17.5 verwendeten Rechnungen sind allerdings in dieser Hinsicht nicht sehr robust und k¨onnen hier nicht mehr zum Beweis der Rekurrenz benutzt werden. Noch un¨ubersichtlicher wird die Situation, wenn wir die Irrfahrt auf die obere Halbebene {(x, y) : x ∈ Z, y ∈ N0 } von Z2 beschr¨anken. Wie sieht es hier mit der Rekurrenz aus? Oder wir betrachten die Situation von Kantenperkolation auf Z2 . Wir fixieren einen Parameter p ∈ [0, 1] und definieren jede Kante von L2 mit Wahrscheinlichkeit p als offen und mit Wahrscheinlichkeit 1 − p als geschlossen. Nachdem dies im ersten Schritt geschehen ist, wird die Irrfahrt auf dem zuf¨alligen Teilgraphen der offenen Kanten betrachtet. Der Irrfahrer w¨ahlt in jedem Schritt mit gleicher Wahrscheinlichkeit eine der benachbarten offenen Kanten aus. F¨ur p > 12 existiert genau eine unendlich große Zusammenhangskomponente offener Kanten (Satz 2.47). Ist die Irrfahrt auf dieser (zuf¨alligen) Komponente rekurrent oder transient? Ziel dieses Kapitels ist es, einen Zusammenhang zwischen gewissen Markovketten und elektrischen Netzwerken herzustellen, der – es in manchen F¨allen erlaubt, zwischen Rekurrenz und Transienz anhand von leicht berechenbaren Gr¨oßen zu entscheiden, – in anderen F¨allen ein Vergleichskriterium bietet, das besagt, dass eine Irrfahrt auf einem Teilgraphen rekurrent ist, wenn die Irrfahrt auf dem urspr¨unglichen Graphen rekurrent ist. Damit l¨asst sich f¨ur alle oben betrachteten Irrfahrten Rekurrenz nachweisen. Dieses Kapitel lehnt sich an [116] und [39] an.
19.1 Harmonische Funktionen Sei in diesem Kapitel stets E eine abz¨ahlbare Menge und X eine diskrete Markov¨ kette auf E mit Ubergangsmatrix p und Greenfunktion G. Schließlich sei F (x, y)
406
19 Markovketten und elektrische Netzwerke
die Wahrscheinlichkeit, von x aus jemals nach y zu gelangen. Vergleiche Abschnitt 17.4, insbesondere Definitionen 17.28 und 17.33. Definition 19.1. Sei A ⊂ E. Eine Funktion f : E → R heißt harmonischauf E \A, falls pf (x) = y∈E p(x, y)f (y) existiert und pf (x) = f (x) f¨ur jedes x ∈ E \ A gilt. Satz 19.2 (Superpositionsprinzip). Sind f und g harmonisch auf E \A und α, β ∈ R, so ist auch αf + βg harmonisch auf E \ A. 2
Beweis. Trivial.
Beispiel 19.3. Sei X transient und a ∈ E ein transienter Zustand (also ein nicht absorbierender). Dann ist f (x) := G(x, a) harmonisch auf E \ {a}: F¨ur x = a ist pf (x) = p
∞
pn (x, a) =
n=0
∞
pn (x, a) = G(x, a) − ½{a} (x) = G(x, a).
3
n=1
Beispiel 19.4. F¨ur jedes x ∈ E sei τx := inf{n > 0 : Xn = x}. F¨ur A ⊂ E sei τ := τA := inf τx x∈A
die Zeit des ersten Eintritts in A. Wir nehmen an, dass A so gew¨ahlt ist, dass Px [τA < ∞] = 1 f¨ur jedes x ∈ E. Sei g : A → R eine beschr¨ankte Funktion. Wir definieren g(x), falls x ∈ A, (19.1) f (x) := Ex [g(Xτ )], falls x ∈ E \ A. Dann ist f harmonisch in E \ A. Wir geben hierf¨ur zwei Beweise an. Nach der Markoveigenschaft ist f¨ur x ∈ A und y ∈ E g(y), falls y ∈ A ) * Ex g(Xτ ) X1 = y = = f (y). Ey [g(Xτ )], falls y ∈ E \ A
1. Beweis.
Also ist f¨ur x ∈ E \ A f (x) = Ex [g(Xτ )] = =
y∈E
* ) Ex g(Xτ ); X1 = y
y∈E
* ) p(x, y) Ex g(Xτ ) X1 = y = p(x, y) f (y) = pf (x). y∈E
2. Beweis. Wir ver¨andern die Markovkette, indem wir einen Zustand Δ als Falle ˜ = E ∪ {Δ} und hinzuf¨ugen. Es gelte also E
19.1 Harmonische Funktionen
⎧ p(x, y), ⎪ ⎪ ⎨ 0, p˜(x, y) = ⎪ ⎪ ⎩ 1,
407
falls x ∈ E \ A, y = Δ, falls x ∈ E \ A, y = Δ,
(19.2)
falls x ∈ A ∪ {Δ}, y = Δ.
˜ ist transient mit Δ als einzigem absorbierenden Die so erzeugte Markovkette X Zustand. Weiterhin ist genau dann pf = f auf E \ A, wenn p˜f = f auf E \ A ist. ˜ y) = 1 f¨ur y ∈ A ist (vergleiche Satz 17.34) Wegen G(y, ˜ y) τy < ∞] = F˜ (x, y) = G(x, Px [Xτ = y] = Px [˜
f¨ur alle x ∈ E \ A, y ∈ A.
˜ y) harmonisch auf E \ A. Nach dem Superpositionsprinzip ist Nun ist x → G(x, auch ˜ y) g(y) f (x) = G(x, (19.3) y∈A
harmonisch auf E \ A. Wegen dieser Darstellung heißt, in Analogie zur kontinuier˜ die Greenfunktion f¨ur die Gleichung (p − I)f = 0 auf lichen Potentialtheorie, G E \ A. 3 Definition 19.5. Wir nennen das Gleichungssystem (p − I)f (x) = 0, f (x) = g(x),
f¨ur x ∈ E \ A, f¨ur x ∈ A,
(19.4)
das zu p − I geh¨orige Dirichlet-Problem auf E \ A mit Randwerten g auf A. Im Folgenden wollen wir stets annehmen, dass F (x, y) > 0 ist f¨ur jedes x ∈ E \ A und jedes y ∈ A. Speziell ist dies nat¨urlich erf¨ullt, wenn X irreduzibel ist. Zudem wollen wir f¨ur das Maximumprinzip annehmen, dass die bei Eintreffen in A gestoppte Kette dennoch mit positiver Wahrscheinlichkeit jeden Punkt von A erreichen kann. Dies ist eine Irreduzibilit¨atseigenschaft der Menge E \ A. Um diese ¨ Bedingung formal auszudr¨ucken, definieren wir die Ubergangsmatrix pA der in A gestoppten Kette durch 1 p(x, y), falls x ∈ A, pA (x, y) := ½{x=y} , falls x ∈ A. Ferner sei FA f¨ur pA analog wie F f¨ur p definiert. Satz 19.6 (Maximumprinzip). Es gelte FA (x, y) > 0 f¨ur alle x ∈ E \ A und y ∈ E. Sei f eine harmonische Funktion auf E \ A. Gibt es ein x0 ∈ E \ A mit f (x0 ) = supx∈E f (x), so ist f konstant. Beweis. F¨ur B ⊂ E sei
B := y ∈ E : pA (x, y) > 0 f¨ur ein x ∈ B .
408
19 Markovketten und elektrische Netzwerke
F¨ur x in E \ A ist Bx := {y ∈ E : FA (x, y) > 0} die kleinste Menge, die x enth¨alt und B x = Bx erf¨ullt. Nach Voraussetzung an FA gilt Bx = E. Sei M := {y ∈ E : f (y) = max f (E)}. Sei x ∈ M . Da f harmonisch ist, gilt y ∈ M f¨ur alle y ∈ E mit pA (x, y) > 0. Das heißt M = M . Nach Voraussetzung 2 ist x0 ∈ M , also ist M ⊃ Bx0 = E. ¨ harmonische Funktionen). Sei F (x, y) > 0 Satz 19.7 (Eindeutigkeitssatz fur f¨ur alle x, y ∈ E. Sei A ⊂ E, A = ∅, sodass E \ A endlich ist. Sind f1 und f2 harmonisch auf E \ A und f1 = f2 auf A, dann ist f1 = f2 . Mit anderen Worten: Das Dirichlet-Problem (19.4) besitzt eine eindeutige L¨osung, die durch (19.3) (oder a¨ quivalent (19.1)) gegeben ist. Beweis. Nach dem Superpositionsprinzip ist f := f1 − f2 harmonisch auf E \ A, und es gilt f ≡ 0. A
Wir zeigen, dass f ≤ 0 gilt. Aus Symmetriegr¨unden ist dann auch f ≥ 0, also f ≡ 0. Zu diesem Zweck nehmen wir an, dass es ein x ∈ E gibt mit f (x) > 0 und f¨uhren diese Annahme zum Widerspruch. Da f ≡ 0 gilt und E \ A endlich ist, gibt es ein x0 ∈ E \ A mit f (x0 ) = A max f (E) ≥ f (x) > 0. Sei Bx0 := {y ∈ E : FA (x0 , y) > 0} wie im Beweis von Satz 19.6 definiert. Ist Bx0 = E, so sind die Voraussetzungen des Maximumprinzips erf¨ullt und wir k¨onnen schlussfolgern, dass f ≡ f (x0 ) > 0 ist, im Widerspruch zu f ≡ 0. Im A allgemeinen Fall m¨ussen wir etwas subtiler argumentieren und von dem Zustandsraum E nur denjenigen Teil E betrachten, der von der in A gestoppten Kette auch wirklich von x0 aus erreicht werden kann. Auf dieses E kann dann das Maximumprinzip angewandt werden. Seien also E := Bx0
und
A := A ∩ E .
Wegen F (x, y) > 0 f¨ur alle x, y ∈ E ist A = ∅. In der Tat: Sei
n0 := min n ∈ N0 : pn (x0 , y) > 0 f¨ur ein y ∈ A . Dann ist pn0 (x0 , y) = (pA )n0 (x0 , y) f¨ur alle y ∈ E und ∅ = {y ∈ A : pn0 (x0 , y) > 0} ⊂ A . Wir definieren die stochastische E × E -Matrix p durch p (x, y) = p(x, y) f¨ur x, y ∈ E . Ferner sei pA (x, y) = ½{x ∈A } p (x, y) + ½{x=y∈A} a¨ hnlich wie pA die Matrix der in A gestoppten Kette sowie FA (x, y) die Wahrscheinlichkeit, dass diese Kette von x aus jemals y trifft. Nach Voraussetzung an F und Konstruktion
19.2 Reversible Markovketten
409
von E gilt FA (x, y) > 0 f¨ur alle x ∈ E \ A und y ∈ E . Ferner ist f harmonisch f¨ur p auf E \ A . Nach dem Maximumprinzip (Satz 19.6) ist also f (x) = f (x0 ) = max f (z) > 0 z∈E
Da A = ∅ und f
A
f¨ur alle x ∈ E .
≡ 0 ist, haben wir einen Widerspruch.
2
¨ Ubung 19.1.1. Sei p die substochastische E × E Matrix, die durch p(x, y) = p˜(x, y), x, y ∈ E, (mit p˜ aus (19.2)) definiert wird, also p(x, y) = p(x, y) ½x∈E\A , und sei I die Einheitsmatrix auf E. Man zeige: (i) I − p ist invertierbar. ˜ y) f¨ur alle x, y ∈ E \ A und (ii) Setzen wir G := (I − p)−1 , so ist G(x, y) = G(x, G(x, y) = ½{x=y} , falls x ∈ A. Speziell ist G(x, y) = Px [XτA = y]
f¨ur x ∈ E \ A und y ∈ A.
♣
19.2 Reversible Markovketten Definition 19.8. Die Markovkette X heißt reversibel bez¨uglich des Maßes π, falls π({x}) p(x, y) = π({y}) p(y, x)
f¨ur alle x, y ∈ E.
(19.5)
Die Gleichung (19.5) heißt auch die Gleichung der detaillierten Balance (detailed balance). X heißt reversibel, falls es ein π gibt, bez¨uglich dessen X reversibel ist. Bemerkung 19.9. Ist X reversibel bez¨uglich π, dann ist π ein invariantes Maß f¨ur X, denn π({y}) p(y, x) = π({x}) p(x, y) = π({x}). π p({x}) = y∈E
y∈E
Nach Bemerkung 17.50 ist π bis auf konstante Vielfache eindeutig, falls X irreduzibel und rekurrent ist. 3 Beispiel 19.10. Sei (E, K) ein Graph mit Eckenmenge (oder Menge der Knoten) E und Kantenmenge K (siehe Seite 67). Mit x, y! = y, x! ∈ K bezeichnen wir eine (ungerichtete) Kante, die x und y verbindet. Sei C := (C(x, y), x, y ∈ E) eine Familie von Gewichten mit C(x, y) = C(y, x) ≥ 0 f¨ur alle x, y ∈ E und C(x, y) < ∞ f¨ur jedes x ∈ E. C(x) := y∈E
410
19 Markovketten und elektrische Netzwerke
Setzen wir p(x, y) := C(x,y) f¨ur alle x, y ∈ E, so ist X reversibel bez¨uglich C(x) π({x}) = C(x). Es gilt n¨amlich C(x, y) = C(x, y) C(x) C(y, x) = π({y}) p(y, x). = C(y, x) = C(y) C(y)
π({x}) p(x, y) = C(x)
3
Definition 19.11. Seien (E, K), C und X wie in Beispiel 19.10. Dann heißt X Irrfahrt auf E mit Gewichten C. Ist speziell C(x, y) = ½{x,y∈K} , dann heißt X einfache Irrfahrt auf (E, K). Die Irrfahrt mit Gewichten C ist also reversibel. Es gilt aber auch die Umkehrung. Satz 19.12. Ist X eine reversible Markovkette, so ist X eine Irrfahrt auf E mit Gewichten C(x, y) = p(x, y) π({x}), falls π ein invariantes Maß ist. Ist X irreduzibel und rekurrent, so ist π und damit C bis auf Vielfache eindeutig. 2
Beweis. Klar.
¨ Ubung 19.2.1. Man zeige: p ist genau dann reversibel bez¨uglich π, wenn die lineare ♣ Abbildung f → pf in L2 (π) selbstadjungiert ist. ¨ Ubung 19.2.2. Sei K ∈ N und Zahlen W1 , . . . , WK ∈ R und β > 0 gegeben. Wir definieren p(i, j) := wobei Z :=
K j=1
1 exp(−βWj ) Z
f¨ur alle i, j = 1, . . . , K,
exp(−βWj ) die Normalisierungskonstante ist.
In K (nummerierten) Urnen befinden sich insgesamt N ununterscheidbare Kugeln. In jedem Zeitschritt wird (uniform) eine der N Kugeln zuf¨allig ausgesucht. Ist i die Nummer der Urne, aus der die Kugel gezogen wurde, so wird die Kugel mit Wahrscheinlichkeit p(i, j) in die Urne mit der Nummer j gelegt. (i) Man gebe eine formale Beschreibung als Markovkette an. (ii) Man bestimme den invarianten Zustand π und zeige, dass die Kette reversibel bez¨uglich π ist. ♣
19.3 Endliche Elektrische Netzwerke Ein (endliches) elektrisches Netzwerk (E, C) ist ein (endliches) System E von Punkten, die paarweise mit Dr¨ahten der Leitf¨ahigkeit (conductivity) C(x, y) ∈
19.3 Endliche Elektrische Netzwerke
411
[0, ∞), x, y ∈ E verbunden sind. Wir interpretieren C(x, y) = 0 so, dass es keinen ” Draht zwischen x und y“ gibt. Symmetrie erfordert C(x, y) = C(y, x). Mit R(x, y) =
1 ∈ (0, ∞] C(x, y)
bezeichnen wir den Widerstand der Verbindung x, y!. Ist (E, K) ein Graph und C(x, y) = ½{x,y∈K} , so bezeichnen wir (E, C) als Einheitsnetzwerk auf (E, K). Sei im Folgenden stets (E, C) ein endliches elektrisches Netzwerk. Sei nun A ⊂ E. Wir legen an den Punkten x0 ∈ A jeweils elektrische Spannungen u(x0 ) an (zum Beispiel durch Anschluss einer oder mehrerer Batterien). Wie groß ist dann die Spannung u(x) in x ∈ E \ A? Definition 19.13. Eine Abbildung I : E × E → R heißt ein Fluss auf E \ A, falls sie antisymmetrisch ist (I(x, y) = −I(y, x)) und das Kirchhoff’sche Gesetz erf¨ullt: I(x) = 0, I(A) = 0, wobei I(x) :=
I(x, y)
f¨ur x ∈ E \ A,
und
y∈E
I(A) :=
(19.6)
I(x).
x∈A
Definition 19.14. Ein Fluss I : E × E → R auf E \ A heißt elektrischer Fluss, falls es eine Funktion u : E → R gibt, bez¨uglich der das Ohm’sche Gesetz gilt: I(x, y) =
u(x) − u(y) R(x, y)
f¨ur alle x, y ∈ E, x = y.
Wir nennen dann I(x, y) die Stromst¨arke von x nach y und u(x) die elektrische Spannung in x. Satz 19.15. Eine elektrische Spannung u in (E, C) ist harmonisch auf E \ A: u(x) =
y∈E
1 C(x, y) u(y) C(x)
f¨ur jedes x ∈ E \ A.
Speziell ist die elektrische Spannung durch Angabe der Werte auf A festgelegt, wenn das Netzwerk irreduzibel ist. Beweis. Nach dem Ohm’schen und dem Kirchhoff’schen Gesetz ist C(x, y) C(x, y) 1 u(y) = (u(x) − u(y)) = I(x, y) = 0. u(x) − C(x) C(x) C(x) y∈E
y∈E
y∈E
Nach dem Eindeutigkeitssatz f¨ur harmonische Funktionen (Satz 19.7) ist u hierdurch und durch die Werte auf A eindeutig festgelegt. 2
412
19 Markovketten und elektrische Netzwerke
Korollar 19.16. Sei X eine Markovkette auf E mit Kantengewichten C. Dann ist u(x) = Ex [u(XτA )]. Betrachte A = {x0 , x1 }, x0 = x1 , und u(x0 ) = 0, u(x1 ) = 1. Dann ist I(x1 ) der gesamte Stromfluss in das Netzwerk und −I(x0 ) der gesamte Stromfluss aus dem Netzwerk. Das Kirchhoff’sche Gesetz besagt, dass der Stromfluss divergenzfrei ist, und dass in Summe genauso viel Strom rein- wie rausfließt. Mit anderen Worten eben I(x0 ) + I(x1 ) = 0. In Anlehnung an das Ohm’sche Gesetz definieren wir den effektiven Widerstand zwischen x0 und x1 durch Reff (x0 ↔ x1 ) =
1 1 u(x1 ) − u(x0 ) = =− I(x1 ) I(x1 ) I(x0 )
und die effektive Leitf¨ahigkeit durch Ceff (x0 ↔ x1 ) = Reff (x10 ↔x1 ) . Da I und u eindeutig durch die Angabe von x0 , x1 und C festgelegt sind, sind Ceff (x0 ↔ x1 ) und Reff (x0 ↔ x1 ) Gr¨oßen, die sich aus C berechnen lassen. Wir betrachten nun zwei Mengen A0 , A1 ⊂ E mit A0 ∩ A1 = ∅, A0 , A1 = ∅, und setzen u(x) = 0 f¨ur jedes x ∈ A0 sowie u(x) = 1 f¨ur jedes x ∈ A1 . Sei I der zugeh¨orige elektrische Fluss. In Analogie zu oben treffen wir die folgende Definition. Definition 19.17. Wir nennen Ceff (A0 ↔ A1 ) := I(A1 ) die effektive Leitf¨ahigkeit 1 zwischen A0 und A1 und Reff (A0 ↔ A1 ) := I(A den effektiven Widerstand 1) zwischen A0 und A1 . Beispiel 19.18. (i) Sei E = {0, 1, 2} mit C(0, 2) = 0, und A0 = {x0 } = {0}, A1 = {x1 } = {2}. Wir setzen u(0) = 0 und u(2) = 1. Dann ist (mit p(x, y) = C(x, y)/C(x)) u(1) = 1 · p(1, 2) + 0 · p(1, 0) = =
C(1, 2) R(1, 0) = C(1, 2) + C(1, 0) R(1, 0) + R(1, 2) Reff (1 ↔ 0) . Reff (1 ↔ 0) + Reff (1 ↔ 2)
Der gesamte Fluss ist I({2}) = u(1) C(0, 1) = Entsprechend ist Reff (0 ↔ 2) = −1
1 1 + C(1,2) . C(0,1)
1 = R(0, 1) + R(1, 2)
1 I({2})
1 C(0,1)
1 +
1 C(1,2)
.
= R(0, 1) + R(1, 2) und Ceff (0 ↔ 2) =
(ii) (Reihenschaltung) Sei n ∈ N, n ≥ 2 und E = {0, . . . , n} mit Leitf¨ahigkeiten C(k − 1, k) > 0 und C(k, l) = 0, falls |k − l| > 1. Nach dem Kirchhoff’schen Gesetz ist I(l, l + 1) = −I(x1 ) f¨ur jedes l = 0, . . . , n − 1. Nach dem Ohm’schen
19.3 Endliche Elektrische Netzwerke
413
Gesetz folgt u(1) = u(0) + I(x1 ) R(0, 1), u(2) = u(1) + I(x1 ) R(1, 2) und so fort, also k−1 u(k) − u(0) = I(x1 ) R(l, l + 1) l=0
und damit Reff (0 ↔ k) =
k−1 u(k) − u(0) = R(l, l + 1). I(x1 ) l=0
Aus Symmetriegr¨unden erhalten wir ebenfalls Reff (k ↔ n) =
n−1
R(l, l + 1)
l=k−1
und damit insbesondere Reff (0 ↔ n) = Reff (0 ↔ k) + Reff (k ↔ n). Schließlich folgt f¨ur k ∈ {1, . . . , n − 1} u(k) =
Reff (0 ↔ k) . Reff (0 ↔ k) + Reff (k ↔ n)
Wir erhalten so eine Aussage u¨ ber die Ruinwahrscheinlichkeit der korrespondierenden Markovkette X auf {0, . . . , n} durch H n−1 k−1 Reff (0 ↔ k) = Pk [τn < τ0 ] = u(k) = R(l, l + 1) R(l, l + 1). (19.7) Reff (0 ↔ n) l=0
x0=0 C(0,1) u(0)=0
C(1,2)
l=0
x =6 C(5,6) 1 u(6)=1
Abb. 19.1. Reihenschaltung von sechs Widerst¨anden. Der effektive Gesamtwiderstand betr¨agt Reff (0 ↔ 6) = R(0, 1) + . . . + R(5, 6).
(iii) (Parallelschaltung) Sei E = {0, 1}. Wir wollen formal mehrere (parallele) Dr¨ahte zwischen 0 und 1 erlauben mit Leitf¨ahigkeiten C1 , . . . , Cn . Dann ist nach = R1i , dem Ohm’schen Gesetz der Strom entlang des i-ten Drahtes Ii = u(1)−u(0) Ri n 1 also der Gesamtstrom I = i=1 Ri und damit −1 n n 1 Ceff (0 ↔ 1) = Ci und Reff (0 ↔ 1) = . 3 Ri i=1 i=1
414
19 Markovketten und elektrische Netzwerke
R1 R2 R3
x 0 =0
x 1 =1
R4 R5
u(0)=0
u(6)=1
R6
Abb. 19.2. Parallelschaltung von sechs Widerst¨anden. Der effektive Gesamtwiderstand betr¨agt Reff (0 ↔ 1) = (R1−1 + . . . + R6−1 )−1 .
In allen drei Beispielen ist der effektive Widerstand eine monotone Funktion der einzelnen Widerst¨ande. Dass dies allgemein gilt, ist die Aussage des Rayleigh’schen Monotonieprinzips. Satz 19.19 (Rayleigh’sches Monotonieprinzip). Seien (E, C) und (E, C ) elektrische Netzwerke mit C(x, y) ≥ C (x, y) f¨ur alle x, y ∈ E. Dann ist f¨ur A0 , A1 ⊂ E mit A0 ∩ A1 = ∅, A0 , A1 = ∅ (A0 ↔ A1 ). Ceff (A0 ↔ A1 ) ≥ Ceff
Der Rest dieses Abschnitts ist dem Beweis dieses Satzes gewidmet. Wir ben¨otigen dazu den Energieerhaltungssatz sowie das Thomson’sche (oder Dirichlet’sche) Prinzip der Leistungsminimierung. Satz 19.20 (Energieerhaltungssatz). Sei A = A0 ∪ A1 , und sei I ein Fluss (das heißt eine antisymmetrische Funktion, die dem Kirchhoff’schen Gesetz gen¨ugt, nicht aber notwendigerweise dem Ohm’schen Gesetz) auf E \ A. Ferner sei w : E → R eine Funktion, die auf A0 und A1 jeweils konstant ist: w ≡: w0 und w ≡: A0
w1 . Dann gilt (w1 − w0 )I(A1 ) =
A1
1 (w(x) − w(y)) I(x, y). 2 x,y∈E
Dies ist die diskrete Version des Satzes von Gauß f¨ur (wI), wobei man beachte, dass das Kirchhoff’sche Gesetz besagt, dass I auf E \ A divergenzfrei ist.
19.3 Endliche Elektrische Netzwerke
415
Beweis. Wir berechnen w(x) w(y) (w(x) − w(y))I(x, y) = I(x, y) − I(x, y) x,y∈E
x∈E
y∈E
y∈E
x∈E
x∈A
y∈E
y∈A
x∈E
w(x) w(y) = I(x, y) − I(x, y) = w0 I(A0 )+w1 I(A1 )−w0 (−I(A0 ))−w1 (−I(A1 )) 2 = 2(w1 − w0 )I(A1 ).
Definition 19.21. Sei I ein Fluss auf E \ A. Mit 1 LI := LC I(x, y)2 R(x, y) I := 2 x,y∈E
bezeichnen wir die Leistung von I im Netzwerk (E, C). Satz 19.22 (Thomson’sches oder Dirichlet’sches Prinzip der Leistungsminimierung). Seien I, J Einheitsfl¨usse von A1 nach A0 (das heißt I(A1 ) = J(A1 ) = 1). I sei zudem ein elektrischer Fluss (erf¨ulle also das Ohm’sche Gesetz mit einer Spannungsfunktion u, die auf A0 und A1 jeweils konstant ist). Dann gilt LI ≤ LJ mit Gleichheit genau dann, wenn I = J ist. Speziell ist der elektrische Einheitsfluss eindeutig festgelegt. Beweis. Sei D = J − I ≡ 0 der Differenzfluss. Dann ist offenbar D(A0 ) = D(A1 ) = 0. Wir erhalten J(x, y)2 R(x, y) x,y∈E
=
2 I(x, y) + D(x, y) R(x, y) x,y∈E
=
I(x, y)2 + D(x, y)2 R(x, y) + 2 I(x, y) D(x, y) R(x, y)
x,y∈E
x,y∈E
x,y∈E
x,y∈E
I(x, y)2 + D(x, y)2 R(x, y) + 2 u(x) − u(y) D(x, y). = Nach dem Energieerhaltungssatz ist der letzte Term 2 u(x) − u(y) D(x, y) = 2D(A1 )(u1 − u0 ) = 0. x,y∈E
Es folgt (wegen D ≡ 0) LJ = LI +
1 D(x, y)2 R(x, y) > LI . 2 x,y∈E
2
416
19 Markovketten und elektrische Netzwerke
Beweis (Rayleigh’sches Monotonieprinzip, Satz 19.19). Seien I und I die elektrischen Einheitsfl¨usse von A1 nach A0 bez¨uglich C beziehungsweise C . Nach dem Thomson’schen Prinzip, dem Energieerhaltungssatz und der Voraussetzung R(x, y) ≤ R (x, y) f¨ur alle x, y ∈ E ist u(1) − u(0) = u(1) − u(0) I(A1 ) 1 I(x, y)2 R(x, y) = 2
Reff (A0 ↔ A1 ) =
x,y∈E
1 1 I (x, y)2 R(x, y) ≤ I (x, y)2 R (x, y) ≤ 2 2 x,y∈E
x,y∈E
= u (1) − u (0) =
Reff (A0
↔ A1 ).
2
19.4 Rekurrenz und Transienz Wir betrachten die Situation, wo E abz¨ahlbar ist und A1 = {x1 } f¨ur ein x1 ∈ E. ¨ Sei X eine Irrfahrt auf E mit Gewichten C = (C(x, y), x, y ∈ E), also mit Ubergangswahrscheinlichkeiten p(x, y) = C(x, y)/C(x) (vergleiche Definition 19.11). Um die Ergebnisse u¨ ber endliche elektrische Netzwerke aus dem letzten Abschnitt anwenden zu k¨onnen, nehmen wir zudem immer an, dass A0 ⊂ E so gew¨ahlt ist, dass E \ A0 endlich ist. Es sei dann stets u = ux1 ,A0 die eindeutig bestimmte Spannungsfunktion auf E mit u(x1 ) = 1 und u(x) = 0 f¨ur jedes x ∈ A0 . Nach Satz 19.7 ist u harmonisch und hat die Darstellung ' ( ux1 ,A0 (x) = Ex ½{XτA ∪{x } =x1 } 0
1
f¨ur jedes x ∈ E \ (A0 ∪ {x1 }).
= Px [τx1 < τA0 ]
Daher ist f¨ur den zu u geh¨origen elektrischen Fluss I −I(A0 ) = I(x1 ) = u(x1 ) − u(x) C(x1 , x) I(x1 , x) = x∈E
= C(x1 )
x∈E
1 − u(x) p(x1 , x)
x∈E
⎛
= C(x1 ) ⎝
p(x1 , x) Px [τA0 < τx1 ] +
x ∈A0 ∪{x1 }
= C(x1 ) Px1 [τA0 < τx1 ] .
x∈A0
⎞ p(x1 , x)⎠
19.4 Rekurrenz und Transienz
417
Es folgt pF (x1 , A0 ) := Px1 [τA0 < τx1 ] =
(19.8)
Ceff (x1 ↔ A0 ) 1 1 = . C(x1 ) C(x1 ) Reff (x1 ↔ A0 )
Definition 19.23. Die Fluchtwahrscheinlichkeit von x1 bezeichnen wir mit pF (x1 ) = Px1 [τx1 = ∞] = 1 − F (x1 , x1 ). Die effektive Leitf¨ahigkeit von x1 nach ∞ bezeichnen wir mit Ceff (x1 ↔ ∞)
:= C(x1 ) inf pF (x1 , A0 ) : A0 ⊂ E mit |E \ A0 | < ∞, A0 x1 .
Lemma 19.24. F¨ur jede absteigende Folge An0 ↓ ∅ mit |E \ An0 | < ∞ und x1 ∈ An0 f¨ur jedes n ∈ N ist Ceff (x1 ↔ ∞) = lim Ceff (x1 ↔ An0 ). n→∞
Beweis. Klar, weil
Ceff (x1 ↔ ∞) = C(x1 ) inf pF (x1 , A0 ) : |E \ A0 | < ∞, A0 x1 ,
(19.9) 2
und weil pF (x1 , A0 ) monoton fallend in A0 ist. Satz 19.25. Es gilt pF (x1 ) =
1 Ceff (x1 ↔ ∞). C(x1 )
(19.10)
Speziell gilt x1 ist rekurrent
⇐⇒
Ceff (x1 ↔ ∞) = 0
⇐⇒
Reff (x1 ↔ ∞) = ∞.
Beweis. Sei An0 ↓ ∅ eine absteigende Folge mit |E \ An0 | < ∞ und x1 ∈ An0 f¨ur jedes n ∈ N. Setze Fn := τAn0 < τx1 . F¨ur jedes M ∈ N ist Px1 [τAn0 ≤ M ] ≤
M
n→∞
Px1 [Xk ∈ An0 ] −→ 0.
k=0
Also gilt τAn0 ↑ ∞ fast sicher, und damit ist Fn ↓ {τx1 = ∞} (bis auf eine Nullmenge). Wir erhalten 1 Ceff (x1 ↔ ∞) = lim Px1 [Fn ] = Px1 [τx1 = ∞] = pF (x1 ). n→∞ C(x1 )
2
418
19 Markovketten und elektrische Netzwerke
Beispiel 19.26. Die symmetrische einfache Irrfahrt auf E = Z ist rekurrent. Hier ist C(x, y) = ½{|x−y|=1} . Der effektive Widerstand von 0 nach ∞ ist nach den Formeln u¨ ber Parallel- und Reihenschaltung ∞
Reff (0 ↔ ∞) =
1 R(i, i + 1) = ∞. 2 i=0
3
Beispiel 19.27. Die asymmetrische einfache Irrfahrt auf E = Z mit p(x, x + 1) = p ∈ ( 12 , 1), p(x, x − 1) = 1 − p ist transient. Hier ist x p C(x, x + 1) = f¨ur x ∈ Z, 1−p und C(x, y) = 0, falls |x − y| > 1. Der effektive Widerstand von 0 nach ∞ ist nach dem Monotonieprinzip Reff (0 ↔ ∞) = lim Reff (0 ↔ {−n, n}) n→∞
≤ lim Reff (0 ↔ n) n→∞
=
n ∞ 1−p
n=0
p
=
p < ∞. 2p − 1
3
Beispiel 19.28. Die symmetrische einfache Irrfahrt auf E = Z2 ist rekurrent. Hier ist wieder C(x, y) = ½{|x−y|=1} . Sei Bn = {−n, . . . , n}2 und ∂Bn = Bn \ Bn−1 . Wir stellen ein Netzwerk C mit gr¨oßeren Leitf¨ahigkeiten her, indem wir ringf¨ormige Supraleiter entlang ∂B einf¨ugen. Wir ersetzen also C(x, y) durch ∞, falls x, y ∈ ∂Bn f¨ur ein n ∈ N, C (x, y) = C(x, y), sonst.
1 Dann ist Reff (Bn ↔ Bnc ) = 4(2n+1) (merke: 4(2n + 1) ist die Anzahl der Kanten, c die Bn mit Bn verbinden), und daher ist Reff (0 ↔ ∞) =
∞
1 = ∞. 4(2n + 1) n=0
Nach dem Monotonieprinzip ist daher Reff (0 ↔ ∞) ≥ Reff (0 ↔ ∞) = ∞.
3
Beispiel 19.29. Sei (E, K) ein beliebiger zusammenh¨angender Teilgraph des quadratischen Gitters (Z2 , L2 ). Dann ist die einfache Irrfahrt auf (E, K) (siehe Definition 19.11) rekurrent. Nach dem Monotonieprinzip ist n¨amlich (E,K)
Reff
(Z2 ,L2 )
(0 ↔ ∞) ≥ Reff
(0 ↔ ∞) = ∞.
3
19.4 Rekurrenz und Transienz
419
5 4 3 2 1 0
Abb. 19.3. Elektrisches Netzwerk auf Z2 . Die fetten Linien stellen Supraleiter dar. Zwischen dem n-ten und dem (n + 1)-ten Supraleiter sind genau 4(2n + 1) Kanten.
0
4 Kanten
1
2
12 Kanten
3
20 Kanten
n
n+1
4*(2n+1) Kanten
Abb. 19.4. Effektives Netzwerk, das aus Z2 durch Einf¨ugen der Supraleiter entsteht. Die Ringe der Supraleiter sind hier zu einzelnen Punkten verschmolzen.
420
19 Markovketten und elektrische Netzwerke
Wir formulieren das Vorgehen in den letzten Beispielen als Satz. Satz 19.30. Seien C und C Kantengewichte auf E mit C (x, y) ≤ C(x, y) f¨ur alle x, y ∈ E. Ist die Markovkette X zu den Gewichten C rekurrent, so ist es auch die Markovkette X zu den Gewichten C . Sei speziell (E, K) ein Graph und (E , K ) ein Teilgraph. Ist die einfache Irrfahrt auf (E, K) rekurrent, so ist auch die einfache Irrfahrt auf (E , K ) rekurrent. Beweis. Das folgt direkt aus Satz 19.25 zusammen mit dem Rayleigh’schen Monotonieprinzip (Satz 19.19). 2 Beispiel 19.31. Die symmetrische einfache Irrfahrt auf Z3 ist transient. Zum Beweis konstruieren wir einen Teilgraphen, f¨ur den wir Reff (0 ↔ ∞) < ∞ ausrechnen k¨onnen. Skizze. Wir betrachten die Menge aller unendlichen Pfade, die in 0 starten und – einen Schritt in x-Richtung, y-Richtung oder z-Richtung gehen (rechts, oben oder hinten, nicht links, unten oder vorne), – eine eventuell andere Richtung x, y oder z w¨ahlen und dann zwei Schritte in diese Richtung gehen, – in der n-ten Stufe eine der Richtungen x, y oder z w¨ahlen und 2n+1 Schritte in diese Richtung gehen. Wir bezeichnen etwa mit xyyxxxxzzzzzzzz . . . den Pfad, der zun¨achst die xRichtung, dann y, dann x, dann z und so fort gew¨ahlt hat. Zwei Pfade benutzen offenbar nach dem Zeitpunkt, wo sich ihre Wege trennen, keine gemeinsamen Kanten mehr. Allerdings werden manche Knoten von mehreren Pfaden getroffen. Wenn wir das elektrische Netzwerk mit Einheitswiderst¨anden und Spannung 1 im Ursprung sowie Spannung 0 an allen Punkten von Pfaden nach der n-ten Stufe betrachten, so h¨angt aus Symmetriegr¨unden die Spannung an jedem Knoten des Netzwerks nur vom Abstand (k¨urzester Weg entlang Pfaden) zum Ursprung ab. Wir erhalten also ein a¨ quivalentes Netzwerk, wenn wir mehrfach benutzte Knoten durch entsprechend mehrere Knoten ersetzen (siehe Abb. 19.5). So erhalten wir ein Netzwerk, das eine Baumstruktur hat: jeweils nach 2n Schritten verzweigt jeder Pfad in drei Pfade (siehe Abb. 19.6). Die 3n Pfade von der n-ten Generation zur (n + 1)ten Generation sind disjunkte Pfade der L¨ange 2n−1 . Sind B(n) alle Punkte bis zur n-ten Generation, so ist Reff (0 ↔ B(n + 1)c ) =
n−1 k=0
Reff (B(k) ↔ B(k)c ) =
n−1 k=0
2k 3−k .
19.4 Rekurrenz und Transienz
xxx
xxx xx
xx
xzz xz
xz
xy
xy
yxx
x yxx
yx y
yy
yyy
yz
yzz
yx
y
yy yz
z
zx
zyy
zy zz
xzz xyy
xyy
x
421
yyy yzz
z zyy zy
zzz zxx
zz
zx
zzz zxx
Abb. 19.5. Schema der ersten drei Schritte des Graphen von Beispiel 19.31. Links sind die tats¨achlichen Kanten eingezeichnet, wobei beispielsweise xyy bedeutet, dass zun¨achst ein Schritt in x-Richtung gemacht wurde, dann einer in y-Richtung und jetzt die weiterf¨uhrende Kante in y-Richtung betrachtet wird. Rechts sind die Knoten an den Enden von xz/zx, xy/yx und yz/zy jeweils in zwei Knoten aufgel¨ost und mit einem Supraleiter“ (fette ” Linien) verbunden. Wenn wir die Supraleiter entfernen, so erhalten wir das Netzwerk aus Abb. 19.6, dessen effektiver Widerstand Reff (0 ↔ ∞) nicht kleiner ist als derjenige in Z3 . (Wird an die Wurzel die Spannung 1 und an den rechten Punkten jeweils die Spannung 0 angelegt, so fließt aus Symmetriegr¨unden durch die Supraleiter kein Strom. Das Netzwerk hier ist also sogar a¨ quivalent zu dem in Abb. 19.6.)
Also ist
Reff (0
∞
1 ↔ ∞) = 3
k=0
k 2 = 1 < ∞. F¨ur diesen Baum ist die Irrfahrt 3
transient, nach Satz 19.30 also auch f¨ur Z3 .
3
Beispiel 19.32. Die symmetrische einfache Irrfahrt auf Zd , d ≥ 3, ist transient. Dies gilt nach Satz 19.30, weil wir Z3 als Teilgraphen von Zd auffassen k¨onnen und hier die Irrfahrt transient ist. 3 ¨ Ubung 19.4.1. Betrachte das elektrische Netzwerk auf Zd mit Einheitswiderst¨anden zwischen benachbarten Punkten. Ferner sei X die symmetrische einfache Irrfahrt auf Zd . Schließlich seien x0 , x1 ∈ Zd zwei benachbarte Punkte. Man zeige: (i) Die effektive Leitf¨ahigkeit zwischen x0 und x1 ist Ceff (x0 ↔ x1 ) = d. (ii) Ist d ≤ 2, so ist Px0 [τx1 < τx0 ] = 12 . (iii) Ist d ≥ 3, so ist Px0 [τx1 < τx0 |τx0 ∧ τx1 < ∞] = 12 .
♣
422
19 Markovketten und elektrische Netzwerke
0
1
R(0<−>1)=1/3
2
R(1<−>2)=2/9
3
R(2<−>3)=4/27
R eff (0<−>2)=5/9 R eff (0<−>3)=19/27 Abb. 19.6. Ein Baum als Teilgraph von Z3 , auf dem die Irrfahrt immer noch transient ist.
19.5 Netzwerkreduktion Beispiel 19.33. Wir betrachten die Irrfahrt auf dem Graphen aus Abb. 19.7, die in x startet und an jedem Punkt mit gleicher Wahrscheinlichkeit zu einem der Nachbarpunkte springt. Mit welcher Wahrscheinlichkeit P trifft die Kette den Punkt 1 bevor sie den Punkt 0 trifft? Wir k¨onnen den Graphen als elektrisches Netzwerk auffassen mit gleichem Widerstand (etwa 1) an jeder Kante, Spannung 0 in 0 und Spannung 1 in 1. Wenn wir die
19.5 Netzwerkreduktion
x
423
1
0
Abb. 19.7. Ausgangssituation.
beiden effektiven Widerst¨ande Reff (0 ↔ x) und Reff (x ↔ 1) kennen, erhalten wir als Spannung Reff (0 ↔ x) P = u(x) = . (19.11) Reff (0 ↔ x) + Reff (x ↔ 1) Um die effektiven Widerst¨ande auszurechnen, wollen wir das Netzwerk schrittweise vereinfachen, bis nur noch zwei Kanten u¨ brig sind: von 0 nach x und von x nach 1. Die erforderlichen Schritte werden im Folgenden vorgestellt und dann im Beispiel angewandt. 3 Um ein elektrisches Netzwerk zu reduzieren, kann man vier elementare Transformationen anwenden: 1. Entfernen von Schleifen. Die drei Punkte ganz rechts im Graphen bilden eine Schleife, die ohne Ver¨anderungen im Rest des Netzwerks entfernt werden kann. Insbesondere kann jede Kante entfernt werden, die 0 und 1 direkt verbindet. 2. Zusammenfassen von seriellen Kannten. Zwei (oder mehr) Kanten, die seriell liegen, und deren dazwischen liegende Knoten keine weiteren Verbindungen haben, k¨onnen durch ein Kante ersetzt werden, deren Widerstand die Summe der einzelnen Widerst¨ande ist (siehe Abb. 19.1). 3. Zusammenfassen von parallelen Kannten. Zwei (oder mehr) Kanten mit Widerst¨anden R1 , . . . , Rn , die die selben Knoten verbinden, k¨onnen durch eine Kante mit Widerstand R = (R1−1 + . . . + Rn−1 )−1 ersetzt werden (siehe Abb. 19.2). ¨ 4. Stern-Dreieck-Transformation. (Siehe Ubung 17.5.1) Der sternf¨ormige Ausschnitt eines Netzwerk links in Abb. 19.8 ist a¨ quivalent zum dreieckigen Aus 1 , R 2 , R 3 die folgende Bedinschnitt rechts, wenn die Widerst¨ande R1 , R2 , R3 , R gung erf¨ullen
424
19 Markovketten und elektrische Netzwerke
˜i = δ Ri R wobei
f¨ur jedes i = 1, 2, 3,
δ = R1 R2 R3 R1−1 + R2−1 + R3−1 =
(19.12)
2 R 3 1 R R . 2 + R 3 1 + R R
x3
x3
2 R
R3 R1 x1
z
1 R
x1
R2
3 R
x2
x2
Abb. 19.8. Stern-Dreieck-Transformation.
Wir l¨osen nun die Aufgabe aus Beispiel 19.33 konkret. Wir nehmen an, dass anfangs jede Kante den Widerstand 1 hat. Kanten, die im Verlauf der Reduktion andere Widerst¨ande als 1 haben, werden mit dem entsprechenden Widerstand beschriftet. Schritt 1.
Die Schleife am rechten Rand wird entfernt (siehe Abb. 19.9).
Schritt 2. Die Serien an der oberen, rechten und unteren Ecke werden durch je einen Widerstand der Gr¨oße 2 ersetzt (siehe Abb. 19.9).
x
1 2
x
0
2
0
2 Abb. 19.9. Schritt 1 und 2.
1
19.5 Netzwerkreduktion
425
Schritt 3. Der linke untere Knoten wird mit der Stern-Dreieck-Transformation 1 = δ/R1 = 5, R 2 = δ/R2 = entfernt. Hier ist R1 = 1, R2 = 2, R3 = 1, δ = 5, R 5/2 und R3 = δ/R3 = 5 (siehe Abb. 19.10). Schritt 4. Die parallelen Kanten mit Widerst¨anden R1 = 5 und R2 = 1 werden ersetzt durch eine Kante mit R = ( 15 + 1)−1 = 56 (siehe Abb. 19.10).
2
x
0
1
2
5/2
2
x
1
2
5/2
0
5/6
5 5
5 Abb. 19.10. Schritt 3 und 4.
Schritt 5. Der rechte untere Knoten wird mit der Stern-Dreieck-Transformation 1 = δ/R1 = 19/6, entfernt. Hier ist R1 = 5, R2 = 2, R3 = 56 , δ = 95/6, R 2 = δ/R2 = 95/12 und R 3 = δ/R3 = 19 (siehe Abb. 19.11). R Schritt 6. Die parallelen Kanten werden durch je eine Kante ersetzt mit Wider6 + 25 )−1 = 19 beziehungsweise ( 19 + 1)−1 = 19 . Zudem wird die direkte stand ( 12 95 10 25 Kante zwischen Punkt 0 und Punkt 1 entfernt (siehe Abb. 19.11).
2
x
1 x
5/2
2
1
19/6
0
19/25 95/12
19
0
19/10
Abb. 19.11. Schritt 5 und 6.
Schritt 7. Der rechte untere Knoten wird mit der Stern-Dreieck-Transformation 1 = δ/R1 = 54 , , R2 = 19 , R3 = 1, δ = 513 ,R entfernt. Hier ist R1 = 19 10 25 125 25 2 = δ/R2 = 27 und R 3 = δ/R3 = 513 (siehe Abb. 19.12). R 5 125
426
19 Markovketten und elektrische Netzwerke
Schritt 8. Die parallelen Kanten werden durch je eine Kante ersetzt mit Wider5 25 1 −1 stand ( 27 + 1)−1 = 27 = 27 32 beziehungsweise ( 54 + 2 ) 26 . Zudem wird die direkte Kante zwischen Punkt 0 und Punkt 1 entfernt (siehe Abb. 19.12).
2
x
x
1
54/25
27/5
27/32
513/125
0
27/26
1
0
Abb. 19.12. Schritt 7 und 8.
Wir haben jetzt also die effektiven Widerst¨ande Reff (0 ↔ x) = 27 und Reff (x ↔ 32 1) = 27 . Mit Gleichung (19.11) erhalten wir als Wahrscheinlichkeit, dass die Irr26 fahrt 1 erreicht, bevor sie 0 erreicht: P =
27 32 27 32
+
27 26
=
13 . 29
3
Alternative L¨osung Wir k¨onnen die L¨osung des Problems aus Beispiel 19.33 auch ohne Netzwerke, alleine mit linearer Algebra angeben. Welche L¨osung eleganter ist, ist wohl Ge-
1 2 5
3 6
9
4 7
10
8 11
12 Abb. 19.13. Graph mit nummerierten Knoten.
19.5 Netzwerkreduktion
427
¨ schmackssache. Zun¨achst stellen wir die Ubergangsmatrix p der Markovkette auf (hierf¨ur werden die Knoten des Graphen von 1 bis 12 durchnummeriert wie in Abb. 19.13). Der Startpunkt ist die 2, das Gewinnfeld“ ist die 3 und das Ver” ” lustfeld“ die 5. Nun wird die Matrix p der in 3 und 5 get¨oteten Kette gebildet und ¨ G = (I − p)−1 berechnet. Nach Ubung 19.1.1 (mit A = {3, 5}, x = 2 und y = 3) ist die Wahrscheinlichkeit 3 vor 5 zu treffen P = G(2, 3) = 13 29 . ⎛ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ p := ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎝
0
1 2
1 2
0
0
0
0
0
0
0
0
1 3
0
0
0
1 3
1 3
0
0
0
0
0
0
0
0
0
0
0
0
0
0
0
0
1 2
0
0
0
0
0
0
0 0
0
0
0
0
0
0
1 2
0
0
0
0
0
0
0
0
1 4
0
0
1 4 1 4
0
0
0
0 0 0 0
0 0 0 0 ⎛
G := (I − p)−1
0 0
11 116
0
0
0
0
0
0
0
0
0
0
0
0
0
0
1 4 1 2
0
1 3
1 3 1 3
0
0
0
0
0
1 3 1 2
0
0
0
0
1 2
0
0
0
0
1 2
1 2
0
0
0
0
⎜ ⎜ 27 ⎜ 58 ⎜ ⎜ ⎜ 0 ⎜ ⎜ 3 ⎜ 58 ⎜ ⎜ ⎜ 0 ⎜ ⎜ 19 ⎜ 116 =⎜ ⎜ 3 ⎜ 58 ⎜ ⎜ 3 ⎜ 58 ⎜ ⎜ 5 ⎜ 58 ⎜ ⎜ 3 ⎜ 29 ⎜ ⎜ 3 ⎜ 58 ⎝
0
1 4 1 2
1 4 1 4
0
0
143 116
0
1 4
0
0
0
0
0
0
0
⎞
⎟ 0 ⎟ ⎟ ⎟ 0 ⎟ ⎟ 0 ⎟ ⎟ ⎟ 0 ⎟ ⎟ 0 ⎟ ⎟ ⎟ 0 ⎟ ⎟ ⎟ 0 ⎟ ⎟ 1 ⎟ 3 ⎟ 1 ⎟ ⎟ 3 ⎟ 0 ⎟ ⎠ 0
81 116
21 29
3 58
8 29
19 58
3 29
3 58
15 116
9 58
3 58
11 116
81 58
13 29
3 29
16 29
19 29
6 29
3 29
15 58
9 29
3 29
11 58
0
1
0
0
0
0
0
0
0
0
9 58
24 29
165 58
5 29
15 29
78 29
68 29
21 58
30 29
107 58
0
0
0
1
0
0
0
0
0
0
57 116
18 29
15 58
11 29
95 58
15 29
15 58
75 116
45 58
15 58
9 58
24 29
39 29
5 29
15 29
78 29
39 29
21 58
30 29
39 29
9 58
24 29
68 29
5 29
15 29
78 29
97 29
21 58
30 29
68 29
15 58
11 29
7 29
18 29
25 29
14 29
7 29
93 58
21 29
7 29
9 29
19 29
20 29
10 29
30 29
40 29
20 29
21 29
60 29
20 29
9 58
24 29
107 58
5 29
15 29
78 29
68 29
21 58
30 29
165 58
33 116
15 29
27 58
14 29
55 58
27 29
27 58
135 116
81 58
27 58
⎞
⎟ ⎟ ⎟ ⎟ ⎟ 0 ⎟ ⎟ 27 ⎟ ⎟ 58 ⎟ ⎟ 0 ⎟ ⎟ 55 ⎟ ⎟ 116 ⎟ 27 ⎟ ⎟ 58 ⎟ 27 ⎟ ⎟ 58 ⎟ 45 ⎟ ⎟ 58 ⎟ 27 ⎟ ⎟ 29 ⎟ 27 ⎟ ⎟ 58 ⎠
215 116
428
19 Markovketten und elektrische Netzwerke
¨ Ubung 19.5.1. Man zeige die G¨ultigkeit der Stern-Dreieck-Transformation.
♣
¨ Ubung 19.5.2. Man zeige f¨ur den unten stehenden hexagonalen Graphen, dass die 8 Wahrscheinlichkeit, von x aus startend die 1 vor der 0 zu treffen, gleich 17 ist (i) mit der Methode der Netzwerkreduktion, ♣
(ii) mit der Methode der Matrixinversion.
0
1
x
¨ Ubung 19.5.3. Man betrachte den Graphen aus Abb. 19.14. (i) Zeige f¨ur die effektive Leitf¨ahigkeit zwischen den Punkten a und z, dass √ Ceff (a ←→ z) = 3. (ii) Zeige, dass die Wahrscheinlichkeit Pa [τz < τa ], dass eine in a gestartete √ Irrfahrt z trifft bevor sie nach a zur¨uckkehrt, den Wert Pa [τz < τa ] = 1/ 3 hat. ♣
a
z Abb. 19.14.
19.6 Irrfahrt in zuf¨alliger Umgebung
429
¨ Ubung 19.5.4. Man bestimme Ceff (a ←→ z) und Pa [τz < τa ] f¨ur den Graphen aus ¨ Abb. 19.15. (Das geht leichter als in Ubung 19.5.3!) ♣
a
z Abb. 19.15.
¨ Ubung 19.5.5. Man bestimme die Wahrscheinlichkeit Pa [τz < τa ] f¨ur den Graphen aus Abb. 19.16. ♣
z a Abb. 19.16.
19.6 Irrfahrt in zuf¨alliger Umgebung (Vergleiche [173], [144] und [80, 81].) Wir betrachten eine Markovkette X auf Z, die in jedem Schritt entweder einen Punkt nach links oder einen Punkt nach rechts springt, jeweils mit Wahrscheinlichkeit wi− beziehungsweise wi+ , falls X in i ∈ Z ist. Es seien also wi− ∈ (0, 1) und wi+ := 1 − wi− f¨ur i ∈ Z. Dann ist X ¨ die Markovkette mit Ubergangsmatrix ⎧ − ⎪ ⎨ wi , falls j = i − 1, pw (i, j) = wi+ , falls j = i + 1, ⎪ ⎩ 0, sonst. Um X durch die Leitf¨ahigkeiten eines elektrischen Netzwerks zu beschreiben, setzen wir i := wi− /wi+ f¨ur i ∈ Z sowie Cw (i, j) := 0 falls |i − j| = 1 und
430
19 Markovketten und elektrische Netzwerke
i k=0
Cw (i + 1, i) := Cw (i, i + 1) :=
−1 k ,
falls i ≥ 0,
k ,
falls i < 0.
−1
k=i
Mit dieser Definition ist 1 Cw (i, i + 1) = = wi+ Cw (i) i + 1
und
i Cw (i, i − 1) = = wi− . Cw (i) i + 1
¨ Die Ubergangswahrscheinlichkeiten pw werden also tats¨achlich durch Cw beschrieben. Sei + Rw :=
∞
Rw (i, i + 1) =
i=0
∞ i=0
i ∞ 1 = k Cw (i, i + 1) i=0 k=0
und − := Rw
∞
Rw (−i, −i − 1) =
i=0
∞ i=0
1 ∞ 1 = −1 k . Cw (−i, −i − 1) i=1 k=−i
+ − Rw und Rw sind die effektiven Widerst¨ande von 0 nach +∞ beziehungsweise nach −∞. Also ist 1 Rw,eff (0 ↔ ∞) = 1 1 − + R R+ ω
genau dann endlich, wenn
− Rw
< ∞ oder
⇐⇒
X ist transient
+ Rw
ω
< ∞ ist. Nach Satz 19.25 gilt also
− + < ∞ oder Rw < ∞. Rw
(19.13)
In welche Richtung l¨auft X davon, wenn X transient ist? Satz 19.34.
− + (i) Gilt Rw < ∞ oder Rw < ∞, so gilt (mit
( ' n→∞ P0 Xn −→ −∞ =
+ Rw + + Rw
− Rw
und
∞ ∞
= 1)
( ' n→∞ P0 Xn −→ +∞ =
− Rw +. + Rw
− Rw
− + (ii) Gilt Rw = ∞ und Rw = ∞, so gilt lim inf Xn = −∞ und lim sup Xn = ∞ n→∞
fast sicher.
n→∞
− < ∞. Der andere Beweis. (i) Ohne Einschr¨ankung sei Rw
Fall folgt aus Symmetriegr¨unden. Sei τN := inf n ∈ N0 : Xn ∈ {−N, N } . Da X transient ist, ist P0 [τN < ∞] = 1 und (wie in (19.7))
) * Rw,eff (0 ↔ N ) Rw,eff (0 ↔ N ) = . P0 XτN = −N = Rw,eff (−N ↔ N ) Rw,eff (0 ↔ −N ) + Rw,eff (0 ↔ N )
19.6 Irrfahrt in zuf¨alliger Umgebung
431
Es folgt, wiederum, weil X transient ist, ) * ) * n→∞ P0 Xn −→ −∞ = P sup{Xn : n ∈ N0 } < ∞ ) * = lim P sup{Xn : n ∈ N0 } < N N →∞ ) * = lim P XτN = −N =
N →∞ + Rw − +. Rw + Rw
− + = Rw = ∞, so ist X rekurrent, also wird jeder Punkt unendlich oft (ii) Gilt Rw besucht, das heißt, es gilt lim sup Xn = ∞ und lim inf Xn = −∞ f.s. 2 n→∞
n→∞
Wir wollen nun die Situation betrachten, wo die Zahlenfolge w = (wi− )i∈Z zuf¨allig ist. Das heißt, wir betrachten ein Zweistufen-Experiment: In der ersten Stufe werden u.i.v. Zufallsvariablen W = (Wi− )i∈Z auf (0, 1) realisiert und Wi+ := 1 − Wi− gesetzt. In der zweiten Stufe wird, gegeben W , eine Markovkette X auf Z mit ¨ Ubergangsmatrix pW konstruiert, wobei ⎧ − W , falls j = i − 1, ⎪ ⎪ ⎨ i pW (i, j) = Wi+ , falls j = i + 1, ⎪ ⎪ ⎩ 0, sonst. Man beachte, dass X nur gegeben W eine Markovkette ist, also unter dem Wahrscheinlichkeitsmaß P[X ∈ · |W ], nicht aber bez¨uglich P[X ∈ · ]. Ist n¨amlich W unbekannt, so kann man durch Beobachtung von X R¨uckschl¨usse auf die tats¨achliche Realisierung von W ziehen. Dies ist aber genau das, was Ged¨achtnis ist, steht also im Widerspruch zur Markoveigenschaft von X. Definition 19.35. Der Prozess X heißt Irrfahrt in der zuf¨alligen Umgebung W (random walk in random environment). − + und RW wie oben definiert. Seien i := Wi− /Wi+ f¨ur i ∈ Z und RW
Satz 19.36 (Solomon (1975)). Es gelte E[| log(0 )|] < ∞. n→∞
(i) Gilt E[log(0 )] < 0, so gilt Xn −→ ∞ f.s. n→∞
(ii) Gilt E[log(0 )] > 0, so gilt Xn −→ −∞ f.s. (iii) Gilt E[log(0 )] = 0, so gilt lim inf Xn = −∞ und lim sup Xn = ∞ f.s. n→∞
n→∞
432
19 Markovketten und elektrische Netzwerke
Beweis. (i) und (ii) Aus Symmetriegr¨unden reicht es, (ii) zu zeigen. Sei also c := − E[log(0 )] > 0. Nach dem starken Gesetz der großen Zahl gibt es ein n− 0 = n0 (ω) mit 1
−1 k
−
= exp
k=−n
1
log(i )
< e−cn/2
f¨ur alle n ≥ n− 0.
k=−n
Es folgt − RW
=
∞ 1
−1 k
n− 0 −1
≤
n=1 k=−n
1
∞
−1 k +
n=1 k=−n
e−cn/2 < ∞ f.s.
n=n− 0
+ Analog gibt es ein n+ 0 = n0 (ω) mit n
k > ecn/2
f¨ur alle n ≥ n+ 0.
k=0
Es folgt + RW
=
∞ n n=0 k=0
k ≥
n+ n 0 −1 n=0 k=0
k +
∞
ecn/2 = ∞ f.s.
n=n+ 0
n→∞
Aus Satz 19.34 folgt nun Xn −→ −∞ fast sicher. − + = RW = ∞ fast sicher gilt, reicht es zu zeigen, dass (iii) Um zu zeigen, dass RW n 1 lim supn→∞ k=0 log(k ) > −∞ und lim supn→∞ k=−n log(−1 k ) > −∞ fast sicher, wenn E[log(0 )] = 0 gilt. Wenn log(0 ) von endlicher Varianz ist, folgt dies aus dem Zentralen Grenzwertsatz. Im allgemeinen Fall folgt dies aus Satz 20.21. 2
20 Ergodentheorie
Gesetze der großen zum Beispiel f¨ur u.i.v. Zufallsvariablen X1 , X2 , . . . besan Zahl, n→∞ gen, dass n−1 i=1 Xi −→ E[X1 ] fast sicher konvergiert. Wir k¨onnen also die Mittelung u¨ ber die tats¨achliche Realisierung vieler Zufallsvariablen mit der Mittelung u¨ ber die m¨oglichen Realisierungen eines Xi vertauschen. In der statistischen ¨ Physik spricht man von der Aquivalenz von Zeitmittel und Scharmittel, oder der Mittelung entlang einer Trajektorie (griechisch odos) des Systems gegen¨uber der Mittelung aller m¨oglichen Zust¨ande mit gleicher Energie (griechisch ergon). Hieraus leitet sich der Begriff der Ergodentheorie ab, die Gesetze der großen Zahl f¨ur Zufallsvariablen mit Abh¨angigkeiten, aber zeitlicher Stationarit¨at liefert.
20.1 Begriffsbildung Definition 20.1. Sei I eine unter Addition abgeschlossene Menge (die wichtigsten Beispiele f¨ur uns sind I = N0 , I = N, I = Z, I = R, I = [0, ∞), I = Zd usw.). Ein stochastischer Prozess X = (Xt )t∈I heißt station¨ar, falls L [(Xt+s )t∈I ] = L [(Xt )t∈I ]
f¨ur jedes s ∈ I.
(20.1)
Bemerkung 20.2. Ist I = N0 , I = N oder I = Z, so ist (20.1) a¨ quivalent zu L [(Xn+1 )n∈I ] = L [(Xn )n∈I ] .
3
Beispiel 20.3. (i) Ist X = (Xt )t∈I u.i.v., so ist X station¨ar. Ist lediglich PXt = PX0 f¨ur jedes t ∈ I (ohne die Unabh¨angigkeit), so ist X im Allgemeinen nicht station¨ar. Beispielsweise sei I = N0 und X1 = X2 = X3 = . . ., jedoch X0 = X1 . Dann ist X nicht station¨ar. (ii) Ist X eine Markovkette mit invarianter Verteilung π sowie L[X0 ] = π, dann ist X station¨ar. (iii) Sind (Yn )n∈Z u.i.v. und reell sowie c1 , . . . , ck ∈ R, dann definiert Xn :=
k l=1
cl Yn−l
434
20 Ergodentheorie
einen station¨aren Prozess X. X heißt manchmal auch moving average oder gleitendes Mittel mit Gewichten (c1 , . . . , ck ). Eine genauere Betrachtung ergibt, dass X sogar dann station¨ar ist, wenn Y nur als station¨ar vorausgesetzt wird. 3 Lemma 20.4. Ist (Xn )n∈N0 station¨ar, so l¨asst sich X zu einem station¨aren Pro n fortsetzen. zess X n∈Z {−n,−n+1,...} ∈ der kanonische Prozess auf Ω = E Z . Sei P Beweis. Sei X
{−n,−n+1,...} M1 E definiert durch ) * {−n,−n+1,...} X −n ∈ A−n , X −n+1 ∈ A−n+1 , . . . P * ) = P X0 ∈ A−n , X1 ∈ A−n+1 , . . . .
{−n,−n+1,...} Dann ist P , n ∈ N projektiv und {−n, −n + 1, . . .} ↑ Z. Nach := dem Satz von Ionescu-Tulcea (Satz 14.32) existiert der projektive Limes P {−n,−n+1,...} . Per Konstruktion ist X und station¨ar bez¨uglich P lim P ←− n→∞
◦ (X n )n∈N0 −1 = P ◦ (Xn )n∈N0 −1 . P
2
Im Folgenden sei stets (Ω, A, P) ein W-Raum und τ : Ω → Ω eine messbare Abbildung. Definition 20.5. Ein Ereignis A ∈ A heißt invariant, falls τ −1 (A) = A und quasi-invariant, falls ½τ −1 (A) = ½A P-f.s. Die σ-Algebra der invarianten Ereignisse bezeichnen wir mit
I = A ∈ A : τ −1 (A) = A . Zur Erinnerung: Eine σ-Algebra I heißt P-trivial, falls P[A] ∈ {0, 1} f¨ur jedes A ∈ I gilt. Definition 20.6.
(i) τ heißt maßtreu, falls * ) P τ −1 (A) = P[A]
f¨ur jedes A ∈ A.
In diesem Falle heißt (Ω, A, P, τ ) ein maßerhaltendes dynamisches System. (ii) Ist τ maßtreu und I P-trivial, so heißt (Ω, A, P, τ ) ergodisch.
20.1 Begriffsbildung
435
Lemma 20.7. Sei (Ω, A, P, τ ) ein maßerhaltendes dynamisches System. (i) Eine messbare Abbildung f : (Ω, A) → (R, B(R)) ist genau dann I-messbar, wenn f ◦ τ = f ist. (ii) (Ω, A, P, τ ) ist genau dann ergodisch, wenn jedes I-messbare f : (Ω, I) → (R, B(R)) P-fast sicher konstant ist. Beweis. (i) F¨ur Indikatorfunktionen f = ½A ist dies klar. Der allgemeine Fall folgt mit den u¨ blichen Approximationsargumenten (siehe Satz 1.96(i)). (ii) =⇒ “ Sei (Ω, A, P, τ ) ergodisch. F¨ur jedes c ∈ R ist f −1 ((c, ∞)) ∈ I, ” −1 also ist P[f ((c, ∞))] ∈ {0, 1} und damit ) *
f = inf c > 0 : P f −1 ((c, ∞)) = 0 P-f.s. ⇐= “ Sei jede I-messbare Abbildung P-f.s. konstant. Ist A ∈ I, so ist ½A ” I-messbar, also P-f.s. gleich 0 oder gleich 1 und damit P[A] ∈ {0, 1}. 2 Beispiel 20.8. Sei n ∈ N \ {1}, Ω = Z/(n), A = 2Ω und P die Gleichverteilung auf Ω. Sei r ∈ {1, . . . , n} und τ : Ω → Ω,
x → x + r
(mod n).
Dann ist τ maßtreu. Ist d = ggT(n, r) und f¨ur i = 0, . . . , d − 1
Ai = i, τ (i), τ 2 (i), . . . , τ n−1 (i) = i + r!, so sind A0 , . . . , Ad−1 die disjunkten Nebenklassen des Normalteilers r! Ω. Also ist Ai ∈ I f¨ur i = 0, . . . , d − 1, und jedes A ∈ I ist Vereinigung von gewissen Ai . Mithin gilt: (Ω, A, P, τ ) ist ergodisch
⇐⇒
ggT(r, n) = 1.
3
Beispiel 20.9 (Rotation). Sei Ω = [0, 1), A = B(Ω), P = λ das Lebesgue-Maß, r ∈ (0, 1) und τr (x) = x + r (mod 1). Offenbar ist (Ω, A, P, τr ) ein maßerhaltendes dynamisches System. Wir werden zeigen: (Ω, A, P, τr ) ist ergodisch
⇐⇒
r ist irrational.
Sei f : [0, 1) → R eine I-messbare Funktion. Ohne Einschr¨ankung sei f beschr¨ankt also quadratisch integrierbar. Dann k¨onnen wir f als Fourier-Reihe darstellen f (x) =
∞
cn e2πin x
f¨ur P-f.a. x,
n=−∞
wobei die Reihe in L2 konvergiert. Dabei ist die quadratsummierbare Folge (cn )n∈Z ¨ der Koeffizienten eindeutig bestimmt (vergleiche Ubung 7.3.1 mit cn = (−i/2)an + (1/2)bn und c−n = (i/2)an + (1/2)bn f¨ur n ∈ N sowie c0 = b0 ). Es folgt
436
20 Ergodentheorie
(f ◦ τr )(x) =
∞
cn e2πin r e2πin x
f.¨u.
n=−∞
Nach Lemma 20.7 ist f genau dann I-messbar, wenn f = f ◦ τr gilt, also wenn cn = cn e2πin r
f¨ur alle n ∈ Z.
Ist r irrational, so folgt cn = 0 f¨ur n = 0, also ist f fast sicher konstant und damit ist (Ω, A, P, τr ) ergodisch. Ist andererseits r rational, so gibt es ein n ∈ Z \ {0} mit e2πin r = e−2πin r = 1. Daher ist x → e2πin x + e−2πin x = 2 cos(2πn x) I-messbar, jedoch nicht fast 3 sicher konstant. In diesem Fall ist also (Ω, A, P, τr ) nicht ergodisch. Beispiel 20.10. Sei X = (Xn )n∈N0 ein stochastischer Prozess mit Werten in einem polnischen Raum E. Ohne Einschr¨ankung k¨onnen
wir annehmen, dass X der kanonische Prozess auf dem W-Raum (Ω, A, P) = E N0 , B(E)⊗N0 , P ist. Definiere den Shift τ : Ω → Ω, (ωn )n∈N0 → (ωn+1 )n∈N0 . Dann ist Xn (ω) = X0 (τ n (ω)). Also ist X genau dann station¨ar, wenn (Ω, A, P, τ ) ein maßerhaltendes dynamisches System ist. 3 Definition 20.11. Der stochastische Prozess X (aus Beispiel 20.10) heißt ergodisch, falls (Ω, A, P, τ ) ergodisch ist. Beispiel 20.12. Seien (Xn )n∈N0 u.i.v. und Xn (ω) = X0 (τ n (ω)). Ist A ∈ I, so ist f¨ur n ∈ N A = τ −n (A) = {ω : τ n (ω) ∈ A} ∈ σ(Xn , Xn+1 , . . .). Also ist (mit T die terminale σ-Algebra von (Xn )n∈N , siehe Definition 2.34) I ⊂ T =
∞
σ(Xn , Xn+1 , . . .).
n=1
Nach dem Kolmogorov’schen 0-1 Gesetz (Satz 2.37) ist T P-trivial, also ist auch 3 I P-trivial und damit (Xn )n∈N0 ergodisch. ¨ Ubung 20.1.1. Sei G eine endliche Gruppe von maßtreuen messbaren Abbildungen auf (Ω, A, P) und A0 := {A ∈ A : g(A) = A f¨ur alle g ∈ G}. Man zeige: F¨ur jedes X ∈ L1 (P) gilt E[X |A0 ] =
1 X ◦ g. #G g∈G
♣
20.2 Ergodens¨atze
437
20.2 Ergodens¨atze In diesem Abschnitt ist stets (Ω, A, P, τ ) ein maßerhaltendes dynamisches System. Ferner sei f : Ω → R messbar und Xn (ω) = f ◦ τ n (ω)
f¨ur jedes n ∈ N0 .
Also ist X = (Xn )n∈N0 ein station¨arer, reeller stochastischer Prozess. Sei Sn =
n−1
Xk
k=0
die n-te Partialsumme. Die Ergodens¨atze besch¨aftigen sich mit Gesetzen der großen Zahl f¨ur die (Sn ). Als Vorbereitung bringen wir ein Lemma. Lemma 20.13 (Hopf’sches Maximal-Ergodenlemma). Sei X0 ∈ L1 (P). Setze Mn = max{0, S1 , . . . , Sn }, n ∈ N. Dann gilt * ) E X0 ½{Mn >0} ≥ 0 f¨ur jedes n ∈ N. Beweis. F¨ur k ≤ n ist Mn (τ (ω)) ≥ Sk (τ (ω)). Also ist X0 + Mn ◦ τ ≥ X0 + Sk ◦ τ = Sk+1 . Daher ist X0 ≥ Sk+1 − Mn ◦ τ f¨ur k = 1, . . . , n. Offensichtlich ist S1 = X0 und Mn ◦ τ ≥ 0, also auch (f¨ur k = 0) X0 ≥ S1 − Mn ◦ τ und damit auch X0 ≥ max{S1 , . . . , Sn } − Mn ◦ τ.
(20.2)
Außerdem ist offenbar {Mn > 0}c ⊂ {Mn = 0} ∩ {Mn ◦ τ ≥ 0} ⊂ {Mn − Mn ◦ τ ≤ 0}. Aus (20.2) und (20.3) und der Maßtreue von τ folgt * ) * ) E X0 ½{Mn >0} ≥ E (max{S1 , . . . , Sn } − Mn ◦ τ ) ½{Mn >0} * ) = E (Mn − Mn ◦ τ ) ½{Mn >0} ) * ≥ E Mn − Mn ◦ τ = E[Mn ] − E[Mn ] = 0.
(20.3)
2
Satz 20.14 (Individueller Ergodensatz, Birkhoff (1931)). Sei f = X0 ∈ L1 (P). Dann gilt n−1 n−1 1 1 n→∞ Xk = f ◦ τ k −→ E[X0 I] P-f.s. n n k=0
Ist speziell τ ergodisch, so gilt
k=0 1 n
n−1 k=0
n→∞
Xk −→ E[X0 ] P-f.s.
438
20 Ergodentheorie
Beweis. Ist τ ergodisch, so ist E[X0 |I] = E[X0 ] und der Zusatz folgt aus der ersten Aussage. Wir betrachten nun den allgemeinen Fall. Nach Lemma 20.7 ist E[X0 |I] ◦ τ = n := Xn − E[X0 |I] betrachten und daher ohne E[X0 |I] P-f.s. Wir k¨onnen also X Beschr¨ankung der Allgemeinheit E[X0 |I] = 0 annehmen. Setze Z := lim sup n→∞
1 Sn . n
Sei ε > 0 und F := {Z > ε}. Zu zeigen ist, dass P[F ] = 0 gilt. Hieraus folgt dann P[Z > 0] = 0 und analog mit −X auch lim inf n1 Sn ≥ 0 fast sicher, also n→∞ 1 n Sn −→
n→∞
0 f.s.
Offenbar ist Z ◦ τ = Z, also F ∈ I. Setze Xnε := (Xn − ε) ½F ,
ε Snε := X0ε + . . . + Xn−1 ,
Mnε := max{0, S1ε , . . . , Snε },
Fn := {Mnε > 0}.
Dann ist F1 ⊂ F2 ⊂ . . . und 1 2 1 2 ∞ 1 ε 1 Fn = sup Sk > 0 = sup Sk > ε ∩ F = F, k∈N k k∈N k n=1 n→∞
also Fn ↑ F . Majorisierte Konvergenz liefert E [X0ε ½Fn ] −→ E [X0ε ]. Nach dem Maximal-Ergodenlemma (angewandt auf X ε ) ist E [X0ε ½Fn ] ≥ 0, also 0 ≤ E [X0ε ] = E [(X0 − ε) ½F ] = E [E [X0 |I] ½F ] − εP[F ] = −εP[F ]. Mithin ist P[F ] = 0.
2
Als Folgerung erh¨alt man den statistischen Ergodensatz oder Lp -Ergodensatz, den von Neumann 1931 vor Birkhoff gefunden, jedoch erst in [125] ver¨offentlicht hat. Zur Vorbereitung bringen wir ein elementares Lemma. Lemma 20.15. Sei p ≥ 1, und seien X0 , X1 , . . . identisch verteilte, reelle Zufalls n−1 p Xk f¨ur n ∈ N, so ist variablen mit E[|X0 |p ] < ∞. Setzen wir Yn := n1 (Yn )n∈N gleichgradig integrierbar.
k=0
Beweis. Offenbar ist die einelementige Familie {|X0 |p } gleichgradig integrierbar. Nach Satz 6.19 existiert also eine monoton wachsende, konvexe Abbildung f : [0, ∞) → [0, ∞) mit f (x) ur x → ∞ und C := E[f (|X0 |p )] < ∞. Nach x → ∞ f¨ Satz 6.19 reicht es wiederum zu zeigen, dass E[f (Yn )] ≤ C f¨ur jedes n ∈ N. Nach der Jensen’schen Ungleichung (f¨ur x → |x|p ) ist
20.3 Beispiele
Yn ≤
439
n−1 1 |Xk |p . n k=0
Die Jensen’sche Ungleichung (diesmal auf f angewandt) liefert dann n−1 n−1 1 1 p |Xk | f (|Xk |p ), f (Yn ) ≤ f ≤ n n k=0
also E[f (Yn )] ≤
1 n
n−1
k=0
E[f (|Xk |p )] = C.
2
k=0
Satz 20.16 (Lp -Ergodensatz, von Neumann 1931). Sei (Ω, A, P, τ ) ein maßerhaltendes dynamisches System, p ≥ 1, X0 ∈ Lp (P) und Xn = X0 ◦ τ n . Dann gilt n−1 1 n→∞ Xk −→ E[X0 |I] in Lp (P). n k=0
Ist speziell τ ergodisch, so gilt Beweis. Setze
1 n
n−1
n→∞
Xk −→ E[X0 ] in Lp (P).
k=0
n−1 p 1 Yn := Xk − E[X0 |I] n
f¨ur jedes n ∈ N.
k=0
Nach Lemma 20.15 ist (Yn )n∈N gleichgradig integrierbar, und nach dem Birkn→∞ hoff’schen Ergodensatz gilt Yn −→ 0 fast sicher. Nach Satz 6.25 gilt daher lim E[Yn ] = 0. n→∞
Ist τ ergodisch, so ist E[X0 |I] = E[X0 ].
2
20.3 Beispiele Beispiel 20.17. Sei (X, (Px )x∈E ) eine positiv rekurrente, irreduzible Markovkette auf dem abz¨ahlbaren Raum E mit invarianter Verteilung π. Dann ist π({x}) > 0 f¨ur jedes x ∈ E. Setze Pπ = x∈E π({x})Px . Dann ist X station¨ar auf (Ω, A, Pπ ). Wir schreiben τ f¨ur den Shift, also Xn = X0 ◦ τ n . ∞ σ(Xn , Xn+1 , . . .). Nach der Sei nun A ∈ I invariant. Dann ist A ∈ T = n=1
starken Markoveigenschaft ist daher f¨ur jede endliche Stoppzeit σ (mit Fσ die σAlgebra der σ-Vergangenheit)
440
20 Ergodentheorie
Pπ [X ∈ A Fσ ] = PXσ [X ∈ A].
(20.4)
In der Tat ist {X ∈ A} = {X ∈ τ −n (A)} = {(Xn , Xn+1 , . . .) ∈ A}. F¨ur B ∈ Fσ erhalten wir mit der Markoveigenschaft (in der dritten Zeile) ∞ ) * ) * Pπ X ∈ B, σ = n, Xn = x, X ∈ A Eπ ½{X∈B} ½{X∈A} = n=0 x∈E ∞
=
n=0 x∈E ∞
=
) * Pπ X ∈ B, σ = n, Xn = x, X ◦ τ n ∈ A * ) Pπ X ∈ B, σ = n, Xn = x Px [X ∈ A]
n=0 x∈E
) * = Eπ ½{X∈B} PXσ [X ∈ A] . Ist speziell x ∈ E und σx = inf{n ∈ N0 : Xn = x}, so ist σx < ∞, weil X rekurrent und irreduzibel ist. Es folgt aus (20.4) f¨ur jedes x ∈ E Pπ [X ∈ A] = Eπ [Px [X ∈ A]] = Px [X ∈ A]. Also ist PXn [X ∈ A] = Pπ [X ∈ A] fast sicher und daher (mit σ = n in (20.4)) Pπ [X ∈ A X0 , . . . , Xn ] = PXn [X ∈ A] = Pπ [X ∈ A]. Nun ist A ∈ I ⊂ σ(X1 , X2 , . . .), also n→∞ Pπ [X ∈ A X0 , . . . , Xn ] −→ Pπ [X ∈ Aσ(X0 , X1 , . . .)] = ½{X∈A} . Damit folgt Pπ [X ∈ A] ∈ {0, 1}. Mithin ist X ergodisch. Der Birkhoff’sche Ergodensatz liefert also f¨ur jedes x ∈ E n−1 1 n→∞ ½{Xk =x} −→ π({x}) n
Pπ -f.s.
k=0
In diesem Sinne ist π({x}) die mittlere Aufenthaltsdauer von X in x.
3
Beispiel 20.18. Es seien P und Q W-Maße auf dem Messraum (Ω, A), und es seien (Ω, A, P, τ ) und (Ω, A, Q, τ ) ergodisch. Dann ist 0 P = Q0oder P ⊥ Q. Ist n¨amlich P = Q, dann existiert f mit |f | ≤ 1 und f dP = f dQ. Nach dem Birkhoff’schen Ergodensatz gilt aber ⎧ ⎪ n−1 ⎨ f dP P -f.s., 1 k n→∞ f ◦ τ −→ ⎪ n ⎩ f dQ Q-f.s. k=0 Setzen wir A := Also ist P ⊥ Q.
1 n−1 n
k=0
n→∞
f ◦ τ k −→
0
f dP , so ist P (A) = 1 und Q(A) = 0. 3
20.4 Anwendung: Rekurrenz von Irrfahrten
441
¨ Ubung 20.3.1. Sei (Ω, A) ein Messraum und τ : Ω → Ω eine messbare Abbildung. (i) Man zeige, dass die Menge M := {μ ∈ M1 (Ω) : μ ◦ τ −1 = μ} der unter τ invarianten Maße eine konvexe Menge ist. (ii) Ein Element μ aus M heißt extremal, wenn aus μ = λμ1 + (1 − λ)μ2 f¨ur gewisse μ1 , μ2 ∈ M und λ ∈ (0, 1) schon μ = μ1 = μ2 folgt. Man zeige, dass μ ∈ M genau dann extremal ist, wenn τ bez¨uglich μ ergodisch ist. ♣ ¨ Ubung 20.3.2. Sei p = 2, 3, 5, 6, 7, 10, . . . quadratfrei (das heißt, es gibt keine Zahl r = 2, 3, 4, . . ., deren Quadrat ein Teiler von p ist) und q ∈ {2, 3, . . . , p − 1}. F¨ur jedes n ∈ N sei an die f¨uhrende Ziffer der p-adischen Entwicklung von q n . Man zeige die folgende Variante des Benford’schen Gesetzes: F¨ur jedes d ∈ {1, . . . , p − 1} gilt
n→∞ log(d + 1) − log(d) 1 # i ≤ n : ai = d −→ . n log(p)
♣
20.4 Anwendung: Rekurrenz von Irrfahrten Sei (Xn )n∈N ein station¨arer Prozess mit Werten in Rd . Setze Sn := jedes n ∈ N0 . Ferner sei Rn = #{S1 , . . . , Sn }
n k=1
Xk f¨ur
die Anzahl der von S bis zur Zeit n besuchten Punkte (der so genannte Range). Außerdem sei A := {Sn = 0 f¨ur jedes n ∈ N} das Fluchtereignis“. ” Satz 20.19. Es gilt lim
n→∞
1 Rn = P[A|I] fast sicher. n
Beweis. an, dass X der kanonische Prozess ist auf (Ω, A, P) =
d N Wirdnehmen (R ) , B(R )⊗N , P , und dass τ : Ω → Ω der Shift ist, also Xn = X0 ◦ τ n . Offenbar ist
Rn = # k ≤ n : Sl = Sk f¨ur jedes l ∈ {k + 1, . . . , n}
Sk f¨ur jedes l > k ≥ # k ≤ n : Sl = =
n
½A ◦ τ k .
k=1
Der Birkhoff’sche Ergodensatz liefert nun lim inf n→∞
1 Rn ≥ P[A|I] f.s. n
(20.5)
442
20 Ergodentheorie
F¨ur die andere Ungleichung betrachte Am = {Sl = 0 f¨ur jedes l = 1, . . . , m}. Dann ist f¨ur n ≥ m
Rn ≤ m + # k ≤ n − m : Sl = Sk f¨ur jedes l ∈ {k + 1, . . . , n}
≤ m + # k ≤ n − m : Sl = Sk f¨ur jedes l ∈ {k + 1, . . . , k + m} =m+
n−m
½Am ◦ τ k .
k=1
Der Ergodensatz liefert wieder lim sup n→∞
1 Rn ≤ P[Am I] f.s. n
(20.6)
n→∞ Wegen Am ↓ A und P[Am I] −→ P[A|I] fast sicher (nach Satz 8.14(viii)) folgt aus (20.5) und (20.6) die Aussage. 2 Satz 20.20. Sei X = (Xn )n∈N ein station¨arer Prozess mit Werten in Z und E[|X1 |] < ∞ sowie E[X1 I] = 0 f.s. Sei Sn = X1 + . . . + Xn , n ∈ N. Dann gilt * ) P Sn = 0 f¨ur unendlich viele n ∈ N = 1. Speziell ist jede Irrfahrt auf Z mit zentrierten Zuw¨achsen rekurrent (Satz von Chung-Fuchs [30]). Beweis. Setze A = {Sn = 0 f¨ur jedes n ∈ N}. 1. Schritt. Wir zeigen P[A] = 0. (Ist X u.i.v., so ist S eine Markovkette, und es folgt hieraus direkt die Rekurrenz von 0. Nur f¨ur den allgemeinen Fall station¨arer Prozesse X brauchen wir einen weiteren Schritt.) Nach dem Ergodensatz n→∞ gilt n1 Sn −→ E[X1 I] = 0 f.s. Es folgt f¨ur jedes m ∈ N 1 1 max Sk = lim sup max Sk lim sup n k=1,...,n n k=m,...,n n→∞ n→∞ ≤ max k≥m
Also ist
Nun ist Rn
|Sk | m→∞ −→ 0. k
1 1 lim max Sk = lim min Sk = 0. n→∞ n k=1,...,n n→∞ n k=1,...,n n→∞ min Sk , also n1 Rn −→ 0. Nach ≤ 1+ max Sk − k=1,...,n
Satz 20.19 ist dann P[A] = 0.
k=1,...,n
20.4 Anwendung: Rekurrenz von Irrfahrten
443
Setze σn := inf{m ∈ N : Sm+n = Sn } und Bn := {σn < ∞} f¨ur ∞ n ∈ N0 und B := Bn . 2. Schritt.
n=0
Wegen {σ0 = ∞} = A ist P[σ0 < ∞] = 1. Stationarit¨at impliziert P[σn < ∞] = 1 f¨ur jedes n ∈ N0 , also P[B] = 1. Setze τ0 = 0 und iterativ τn+1 = τn + στn f¨ur n ∈ N0 . Dann ist τn der Zeitpunkt der n-ten R¨uckkehr von S nach 0. Auf B ist τn < ∞ f¨ur jedes n ∈ N0 , also * ) * ) 2 P Sn = 0 unendlich oft = P τn < ∞ f¨ur alle n ∈ N ≥ P[B] = 1. Wenn in Satz 20.20 die Zufallsvariablen Xn nicht ganzzahlig sind, kann man nicht hoffen, dass Sn = 0 f¨ur irgendein n ∈ N mit positiver Wahrscheinlichkeit gilt. Ann→∞ dererseits gilt auch hier eine Art Rekurrenzeigenschaft, n¨amlich Sn /n −→ 0 fast sicher nach dem Ergodensatz. Damit ist allerdings noch nicht ausgeschlossen, dass n→∞ Wahrscheinlichkeit gelten k¨onnte, etwa, wenn vielleicht Sn −→ ∞ mit positiver √ Sn von der Gr¨oßenordnung n w¨achst. Der n¨achste Satz zeigt uns, dass der Partialsummenprozess nur linear schnell nach ∞ gehen kann, wenn die Xn integrierbar sind. Satz 20.21. Sei (Xn )n∈N ein reeller ergodischer Prozess und jedes Xn integrierbar. Sei Sn = X1 + . . . + Xn f¨ur n ∈ N0 . Dann sind die folgenden Aussagen a¨ quivalent. n→∞
(i) Sn −→ ∞ fast sicher. ' ( n→∞ (ii) P Sn −→ ∞ > 0. (iii) lim
n→∞
Sn = E[X1 ] > 0 fast sicher. n
Sind die Zufallsvariablen X1 , X2 , . . . u.i.v. mit E[X1 ] = 0 und P[X1 = 0] < 1, so gilt lim inf n→∞ Sn = −∞ und lim supn→∞ Sn = ∞ fast sicher. n→∞
Beweis. (i) ⇐⇒ (ii)“ Offenbar ist {Sn −→ ∞} ein invariantes Ereignis, hat ” also Wahrscheinlichkeit 0 oder 1. (iii) =⇒ (i)“ Dies ist trivial. ” (i) =⇒ (iii)“ Die Gleichheit folgt aus dem individuellen Ergodensatz. Es reicht ” also zu zeigen, dass lim inf n→∞ Sn /n > 0 fast sicher gilt. F¨ur n ∈ N0 und ε > 0 sei
Aεn := Sm > Sn + ε f¨ur alle m ≥ n + 1 .
Sei S − := inf{Sn : n ∈ N0 }. Nach Voraussetzung (i) ist S − > −∞ fast sicher und τ := sup{n ∈ N0 : Sn = S − } fast sicher endlich. Es gibt also ein N ∈ N mit P[τ < N ] ≥ 12 . Es folgt
444
20 Ergodentheorie
+ N −1
P
, A0n
= P[τ < N ] ≥
n=0
1 . 2
) ε* 1 Wegen Aεn ↑ A0n f¨ur ε ↓ 0 gibt es
einε > 0 mit p := P A0 ≥ 4N > 0. Da (Xn )n∈N ergodisch ist, ist auch ½Aεn n∈N ergodisch. Nach dem individuellen 0 n−1 n→∞ Ergodensatz gilt daher n1 i=0 ½Aεn −→ p fast sicher. Also existiert ein n0 = n−1 n0 (ω) mit i=0 ½Aεn ≥ pn ur alle n ≥ n0 . Es folgt Sn ≥ pnε ur n ≥ n0 , also 2 f¨ 2 f¨ pnε lim inf n→∞ Sn /n ≥ 2 > 0. Der Zusatz folgt, weil lim inf Sn und lim sup Sn keinen endlichen Wert annehmen k¨onnen und damit terminal messbar sind, also fast sicher konstant gleich −∞ oder n→∞ +∞. Nach dem schon Gezeigten ist aber Sn −→ ∞ ausgeschlossen, also gilt lim inf n→∞ Sn = −∞. Analog folgt lim supn→∞ Sn = ∞. 2 Bemerkung 20.22. Satz 20.21 gilt auch ohne die Integrierbarkeitsbedingung f¨ur die 3 Xn . Siehe [97].
20.5 Mischung Ergodizit¨at stellt einen relativ schwachen Begriff f¨ur Unabh¨angigkeit“ oder Durch” ” mischung“ dar. Auf dem anderen Ende der Skala steht als st¨arkster Begriff u.i.v.“. ” Hier wollen wir dazwischen liegende Mischungsbegriffe betrachten. Sei im Folgenden stets (Ω, A, P, τ ) ein maßerhaltendes dynamisches System und Xn := X0 ◦ τ n . Wir beginnen mit einer einfachen Betrachtung. Satz 20.23. (Ω, A, P, τ ) ist genau dann ergodisch, wenn f¨ur alle A, B ∈ A gilt lim
n→∞
Beweis.
”
=⇒ “
n−1 * 1 ) P A ∩ τ −k (B) = P[A] P[B]. n
(20.7)
k=0
Sei (Ω, A, P, τ ) ergodisch. Setze Yn :=
n−1 n−1 1 1 ½τ −k (B) = ½B ◦ τ k . n n k=0
k=0
n→∞
Nach dem Birkhoff’schen Ergodensatz gilt Yn −→ P[B] fast sicher. Also gilt n→∞ Yn ½A −→ ½A P[B] fast sicher. Majorisierte Konvergenz liefert n−1 * 1 ) n→∞ P A ∩ τ −k (B) = E [Yn ½A ] −→ E [½A P[B]] = P[A] P[B]. n k=0
20.5 Mischung
445
⇐= “ Gelte nun (20.7). Sei A ∈ I (invariante σ-Algebra) und B = A. Offenbar ” ist A ∩ τ −k (A) = A f¨ur jedes k ∈ N0 . Also ist nach (20.7) P[A] =
n−1 * n→∞ 1 ) P A ∩ τ −k (A) −→ P[A]2 . n k=0
Mithin ist P[A] ∈ {0, 1}, also I trivial und damit τ ergodisch.
2
Wir betrachten jetzt folgende Versch¨arfung von (20.7). Definition 20.24. Ein maßerhaltendes dynamisches System (Ω, A, P, τ ) heißt mischend, falls ) * (20.8) lim P A ∩ τ −n (B) = P[A] P[B] f¨ur alle A, B ∈ A. n→∞
Bemerkung 20.25. Gelegentlich wird die Mischungseigenschaft (20.8) auch als stark mischend bezeichnet. Im Gegensatz dazu heißt (Ω, A, P, τ ) schwach mischend, falls n−1 * 1 ) P A ∩ τ −n (B) − P[A] P[B] = 0 lim n→∞ n i=0
f¨ur alle A, B ∈ A.
3
¨ Stark mischend“ impliziert schwach mischend“ (siehe Ubung 20.5.1). Anderer” ” seits gibt es schwach mischende Systeme, die nicht stark mischend sind (siehe [86]). Beispiel 20.26. Sei I = N0 oder I = Z und (Xn )n∈I eine u.i.v. Folge mit Werten im Messraum (E, E), also τ der Shift auf dem Produktraum Ω = E I , P = ⊗I (PX0 ) . Seien A, B ∈ E ⊗I . Zu jedem ε > 0 gibt es Ereignisse Aε und B ε , die nur von endlich vielen Koordinaten abh¨angen und mit P[AAε ] < ε und P[BB ε ] < ε. Offenbar gilt dann auch P[τ −n (AAε )] < ε und P[τ −n (B B ε )] < ε f¨ur jedes n ∈ Z. F¨ur hinreichend großes |n| h¨angen Aε und τ −n (B ε ) von unterschiedlichen Koordinaten ab, sind also unabh¨angig. Es folgt lim sup P[A ∩ τ −n (B)] − P[A] P[B] |n|→∞
≤ lim sup P[Aε ∩ τ −n (B ε )] − P[Aε ] P[B ε ] + 4ε = 4ε. |n|→∞
Also ist τ mischend. Ist speziell A = B ∈ I, so erhalten wir das 0-1 Gesetz f¨ur invariante Ereignisse: P[A] ∈ {0, 1}. 3 Bemerkung 20.27. Offenbar folgt (20.7) aus (20.8), also impliziert mischend“ ” schon ergodisch“. Die umgekehrte Implikation gilt nicht. 3 ”
446
20 Ergodentheorie
Beispiel 20.28. Sei Ω = [0, 1), A = B([0, 1)) und P = λ das Lebesgue-Maß auf ([0, 1), B([0, 1))) sowie f¨ur r ∈ [0, 1) τr (x) = x + r − x + r = x + r
(mod 1).
Ist r irrational, so ist τr ergodisch (Beispiel 20.9). Jedoch ist τr nicht mischend: Da r irrational ist, existiert eine Folge kn ↑ ∞, sodass 1 3 kn τr (0) ∈ , f¨ur n ∈ N. 4 4 ) * F¨ur A = 0, 14 gilt dann A ∩ τr−kn (A) = ∅. Also ist ) * 1 lim inf P A ∩ τr−n (A) = 0 = = P[A]2 . n→∞ 16
3
Satz 20.29. Sei X eine irreduzible, positiv rekurrente Markovkette auf dem abz¨ahlbaren Raum E mit invarianter Verteilung π sowie Pπ = x∈E π(x) Px . Dann gelten (i) X ist ergodisch (auf (Ω, A, Pπ )). (ii) X ist genau dann mischend, wenn X aperiodisch ist. Beweis. (i) Dies haben wir schon in Beispiel 20.17 gezeigt. (ii) Da X irreduzibel ist, ist π({x}) > 0 f¨ur jedes x ∈ E nach Satz 17.51. =⇒ “ Sei X periodisch mit Periode d ≥ 2. Ist n ∈ N kein Vielfaches von d, so ” ist pn (x, x) = 0. Mithin gilt f¨ur A = B = {X0 = x} lim inf Pπ [X0 = x, Xn = x] = lim inf π({x}) pn (x, x) n→∞
n→∞
= 0 = π({x})2 = Pπ [X0 = x]2 . Also ist X nicht mischend. ⇐= “ Sei X aperiodisch. Zur Vereinfachung der Notation k¨onnen wir anneh” men, dass X der kanonische Prozess auf E N0 ist. Seien A, B ⊂ Ω = E N0 messbar. Zu jedem ε > 0 existiert ein N ∈ N und A˜ε ∈ E {0,...,N } , sodass, mit Aε = A˜ε × E {N +1,N +2,...} gilt, dass P[A Aε ] < ε. Nach der Markoveigenschaft ist f¨ur n ≥ N ' ( ) * Pπ Aε ∩ τ −n (B) = Pπ (X0 , . . . , XN ) ∈ A˜ε , (Xn , Xn+1 , . . .) ∈ B =
) * Eπ ½Aε ½{XN =x} ½{Xn =y} (Xn , Xn+1 , . . .) ∈ B
x,y∈E
=
x,y∈E
) * Eπ ½Aε ½{XN =x} pn−N (x, y)Py [B] .
20.5 Mischung
447
n→∞
Nach Satz 18.18 gilt pn−N (x, y) −→ π({y}) f¨ur alle x, y ∈ E. (F¨ur periodisches X ist dies falsch.) Majorisierte Konvergenz ergibt daher ) ) * * lim Pπ Aε ∩ τ −n (B) = Eπ ½Aε ½{XN =x} π({y})Py [B] n→∞
x,y∈E
= Pπ [Aε ] Pπ [B]. Wegen Pπ [Aε ∩ τ −n (B)] − P [A ∩ τ −n (B)] < ε folgt die Aussage mit ε → 0. 2 ¨ Ubung 20.5.1. Man zeige: stark mischend“ impliziert schwach mischend“ und ” ” dies impliziert wiederum ergodisch“. Man gebe ein Beispiel an f¨ur ein maßerhal” tendes dynamisches System, das ergodisch aber nicht schwach mischend ist. ♣
21 Die Brown’sche Bewegung
In Beispiel 14.45 hatten wir einen (kanonischen) Prozess (Xt )t∈[0,∞) hergestellt mit unabh¨angigen, station¨aren, normalverteilten Zuw¨achsen. Ein solcher Prozess kann beispielsweise als Modell eines Flimmerteilchens in einer Suspension dienen oder als Grundlage f¨ur Aktienkursmodelle. Jetzt sind wir nicht nur an den Eigenschaften von X zu einem oder mehreren festen Zeitpunkten interessiert, sondern auch an Eigenschaften, die den ganzen Pfad t → Xt betreffen, beispielsweise am Funktional F (X) := supt∈[0,1] Xt . Ist aber F u¨ berhaupt eine Zufallsvariable? Wir werden in diesem Kapitel Stetigkeitseigenschaften von Pfaden stochastischer Prozesse untersuchen, die die Messbarkeit von interessanten Funktionalen sichern. Danach konstruieren wir eine Version von X, die stetige Pfade hat, die so genannte ¨ Brown’sche Bewegung. Ohne Ubertreibung kann man sagen, dass dies das zentrale Objekt der Wahrscheinlichkeitstheorie ist.
21.1 Stetige Modifikationen Die Pfade eines kanonischen Prozesses sind nat¨urlich nicht per se stetig, da ja jede Abbildung als Pfad auftaucht. Es wird also wichtig sein zu entscheiden, welche Pfade zumindest P-fast sicher keine Rolle spielen. Definition 21.1 (Modifikation / ununterscheidbare Prozesse). Seien X und Y stochastische Prozesse auf (Ω, A, P) mit Zeitbereich I und Zustandsraum E. (i) X und Y heißen Modifikationen oder Versionen voneinander, falls f¨ur jedes t ∈ I gilt P-fast sicher. Xt = Yt (ii) X und Y heißen ununterscheidbar, falls es ein N ∈ A gibt mit P[N ] = 0 und {Xt = Yt } ⊂ N
f¨ur jedes t ∈ I.
Offenbar ist ununterscheidbar“ st¨arker als Modifikation“. Unter gewissen Stetig” ” keitsannahmen an die Prozesse fallen die Begriffe allerdings zusammen.
450
21 Die Brown’sche Bewegung
Definition 21.2. Seien (E, d) und (E , d ) metrische R¨aume und γ ∈ (0, 1]. Eine Abbildung ϕ : E → E heißt im Punkte r ∈ E H¨older-stetig der Ordnung γ (kurz: H¨older-γ-stetig), falls es ein ε > 0 und ein C < ∞ gibt, sodass f¨ur jedes s ∈ E mit d(s, r) < ε gilt d (ϕ(r), ϕ(s)) ≤ C d(r, s)γ . (21.1) ϕ heißt lokal H¨older-stetig der Ordnung γ, wenn es zu jedem t ∈ E ein ε > 0 und ein C = C(t, ε) > 0 gibt, sodass f¨ur alle s, r ∈ E mit d(s, t) < ε und d(r, t) < ε die Ungleichung (21.1) gilt. Schließlich heißt ϕ H¨older-stetig der Ordnung γ, falls es ein C gibt, sodass (21.1) f¨ur alle s, r ∈ E gilt. Im Falle γ = 1 ist die H¨older-Stetigkeit nat¨urlich gerade die Lipschitz-Stetigkeit (siehe Definition 13.8). Zudem ist f¨ur E = R und γ > 1 jede lokal H¨older-γ-stetige Funktion konstant. Offenbar ist eine lokal H¨older-γ-stetige Abbildung in jedem Punkte H¨older-γ-stetig. Andererseits braucht f¨ur eine in einem Punkte t H¨olderγ-stetige Abbildung ϕ keine Umgebung von t zu existieren, in der ϕ stetig oder gar H¨older-γ-stetig w¨are. Wir sammeln ein paar einfache Eigenschaften der H¨older-Stetigkeit. Lemma 21.3. Seien I ⊂ R und f : I → R lokal H¨older-stetig von der Ordnung γ ∈ (0, 1]. Dann gelten: (i) f ist lokal H¨older-stetig von der Ordnung γ f¨ur jedes γ ∈ (0, γ). (ii) Ist I kompakt, dann ist f auch H¨older-stetig. (iii) Ist I ein beschr¨anktes Intervall mit L¨ange T > 0, und gilt f¨ur ein ε > 0 und ein C(ε) < ∞ sowie f¨ur alle s, t ∈ I mit |t − s| ≤ ε |f (t) − f (s)| ≤ C(ε) |t − s|γ , 1−γ
so ist f H¨older-stetig der Ordnung γ mit Konstante C := C(ε) T /ε
.
Beweis. (i) Klar, weil |t − s|γ ≤ |t − s|γ f¨ur alle s, t ∈ I mit |t − s| ≤ 1. (ii) F¨ur t ∈ I und ε > 0 sei Uε (t) := {s ∈ I : |s − t| < ε}. F¨ur jedes t ∈ I seien ε(t) > 0 und C(t) < ∞ so gew¨ahlt, dass |f (r) − f (s)| ≤ C(t) · |r − s|γ
f¨ur alle r, s ∈ Ut := Uε(t) (t).
¨ Zu der offenen Uberdeckung U := {Ut , t ∈ I} von I gibt es eine endliche Teil¨uberdeckung U = {Ut1 , . . . , Utn }. Sei > 0 eine Lebesgue’sche Zahl der ¨ Uberdeckung U , das heißt, > 0 ist so gew¨ahlt, dass f¨ur jedes t ∈ I ein U ∈ U existiert mit U (t) ⊂ U . Setze
C := max C(t1 ), . . . , C(tn ), 2f ∞ γ .
21.1 Stetige Modifikationen
451
F¨ur s, t ∈ I mit |t − s| < gibt es ein i ∈ {1, . . . , n} mit s, t ∈ Uti . Nach Voraussetzung ist |f (t) − f (s)| ≤ C(ti ) |t − s|γ ≤ C |t − s|γ . Seien nun s, t ∈ I mit |s − t| ≥ . Dann ist γ |t − s| ≤ C |t − s|γ . |f (t) − f (s)| ≤ 2f ∞ Also ist f H¨older-stetig von der Ordnung γ mit Konstante C. I J (iii) Sei n = Tε . F¨ur s, t ∈ I gilt nach Voraussetzung |t−s| n ≤ ε und daher |f (t) − f (s)| ≤
n f s + (t − s) k − f s + (t − s) k − 1 n n k=1
≤ C(ε) n1−γ |t − s|γ = C |t − s|γ .
2
Definition 21.4 (Pfadeigenschaften). Sei I ⊂ R und X = (Xt , t ∈ I) ein stochastischer Prozess auf einem W-Raum (Ω, A, P) mit Werten in einem metrischen Raum (E, d) sowie γ ∈ (0, 1]. F¨ur jedes ω ∈ Ω nennen wir die Abbildung I → E, t → Xt (ω) einen Pfad von X. Wir sagen, dass X fast sicher stetige Pfade hat, oder kurz, dass X f.s. stetig ist, falls f¨ur fast jedes ω ∈ Ω der Pfad t → Xt (ω) stetig ist. Analog definieren wir lokal H¨older-γ-stetige Pfade und so weiter. Lemma 21.5. Seien X und Y Modifikationen voneinander. Es gelte eine der Bedingungen (i) I ist abz¨ahlbar. (ii) I ⊂ R ist ein (m¨oglicherweise unbeschr¨anktes) Intervall und X und Y sind fast sicher rechtsstetig. Dann sind X und Y ununterscheidbar. ¯ = Nt . Nach Voraussetzung Beweis. Setze Nt := {Xt = Yt } f¨ur t ∈ I und N t∈I ¯ ⊂N gilt P[Nt ] = 0 f¨ur jedes t ∈ I. Zu zeigen ist jeweils: Es existiert N ∈ A mit N und P[N ] = 0. ¯ messbar und P[N ] ≤ P[Nt ] = 0. (i) Ist I abz¨ahlbar, so ist N := N t∈I
(ii) Sei nun I ⊂ R ein Intervall, und seien X und Y fast sicher rechtsstetig. Setze ¯ := {X und Y sind rechtsstetig} R ¯ und P[R] = 1. Setze und w¨ahle R ∈ A mit R ⊂ R 1 Q ∩ I, falls I rechtsseitig offen ist, I := (Q ∩ I) ∪ max I, falls I rechtsseitig abgeschlossen ist,
452
21 Die Brown’sche Bewegung
:= Nr . Nach (i) gilt P[N ] = 0. Weiter gilt f¨ur jedes t ∈ I und N r∈I Nt ∩ R ⊂
. (Nr ∩ R) ⊂ N
r≥t, r∈I
Also gilt ¯ ⊂ Rc ∪ N
=: N, Nt ⊂ Rc ∪ N
t∈I
] = 0. und damit P[N ] ≤ P[Rc ] + P[N
2
Wir kommen zum Hauptsatz dieses Abschnitts. Satz 21.6 (Kolmogorov-Chentsov). Sei X = (Xt , t ∈ [0, ∞)) ein reellwertiger Prozess. F¨ur jedes T > 0 gebe es Zahlen α, β, C > 0 mit E [|Xt − Xs |α ] ≤ C|t − s|1+β
f¨ur alle s, t ∈ [0, T ].
(21.2)
Dann gelten: = (X t , t ∈ [0, ∞)) von X, die lokal H¨older(i) Es existiert eine Modifikation X β stetige Pfade hat von jeder Ordnung γ ∈ 0, α . β . Zu jedem ε > 0 und T < ∞ existiert eine Zahl K < ∞, die (ii) Sei γ ∈ 0, α nur von ε, T, α, β, C, γ abh¨angt, mit ( ' ˜ s | ≤ K |t − s|γ , s, t ∈ [0, T ] ≥ 1 − ε. ˜t − X (21.3) P |X Beweis. (i) Es reicht, f¨ur jedes T > 0 zu zeigen, dass X auf [0, T ] Modifikation X T besitzt, die H¨older-stetig der Ordnung γ ist f¨ur jedes γ ∈ (0, β/α). F¨ur S, T > 0 sind dann nach Lemma 21.5 die Prozesse X S und X T ununterscheidbar auf [0, S ∧ T ], also ist ΩS,T := es gibt ein t ∈ [0, S ∧ T ] mit XtT = XtS eine Nullmenge, und damit ist auch Ω∞ :=
ΩS,T eine Nullmenge. Definieren
S,T ∈N
˜ t (ω) := X t (ω), t ≥ 0, f¨ur ω ∈ Ω \ Ω∞ , so ist X ˜ eine lokal H¨older-stetige wir X t Modifikation von X auf [0, ∞). Ohne Beschr¨ankung der Allgemeinheit sei T = 1. Wir zeigen, dass X eine auf [0, 1] stetige Modifikation besitzt. Die Chebyshev’sche Ungleichung liefert f¨ur ε > 0 P [|Xt − Xs | ≥ ε] ≤ Cε−α |t − s|1+β ,
(21.4)
21.1 Stetige Modifikationen
also
s→t
Xs −→ Xt
stochastisch.
453
(21.5)
auf den bin¨ar rationalen Zahlen zu konstruieren und dann Die Idee ist, zun¨achst X stetig auf [0, 1] fortzusetzen. Daf¨ur wird (21.5) gebraucht. Speziell ist f¨ur γ > 0 sowie n ∈ N und k ∈ {1, . . . , 2n } * ) P Xk2−n − X(k−1)2−n ≥ 2−γn ≤ C 2−n(1+β−αγ) . Wir setzen An = An (γ) :=
max |Xk2−n − X(k−1)2−n |, k ∈ {1, . . . , 2n } ≥ 2−γn ,
sowie
∞
Bn :=
und
Am
N := lim sup An = n→∞
m=n
∞
Bn .
n=1
Es folgt dann f¨ur jedes n ∈ N n
P[An ] ≤
2
) * P |Xk2−n − X(k−1)2−n | ≥ 2−γn ≤ C 2−n(β−αγ) .
k=1
Wir w¨ahlen jetzt ein γ ∈ (0, β/α) und erhalten P[Bn ] ≤
∞
P[Am ] ≤ C
m=n
2−(β−αγ)n 1 − 2αγ−β
n→∞
−→ 0,
(21.6) ∞
also P[N ] = 0. Sei nun ω ∈ Ω \ N fest und n0 = n0 (ω) so, dass ω ∈ Also gilt Xk2−n (ω) − X(k−1)2−n (ω) < 2−γn
An .
n=n0
f¨ur k ∈ {1, . . . , 2n }, n ≥ n0 .
(21.7)
Wir definieren die Mengen endlicher dyadischer Zahlen Dm = {k2−m , k = 0, . . . , 2m }
und
D=
Dm .
m∈N
Jedes t ∈ Dm besitzt eine eindeutige Bin¨ardarstellung t=
m
bi (t) 2−i
f¨ur gewisse bi (t) ∈ {0, 1}, i = 0, . . . , m.
i=0
Seien m ≥ n ≥ n0 sowie s, t ∈ Dm , s ≤ t mit |s − t| ≤ 2−n . Setze u := max(Dn ∩ [0, s]). Dann ist u ≤ s < u + 2−n
und
u ≤ t < u + 21−n .
454
21 Die Brown’sche Bewegung
Es gilt also bi (t − u) = bi (s − u) = 0 f¨ur i < n. Setze tl = u +
l
bi (t − u) 2−i
f¨ur l = n − 1, . . . , m.
i=n
Dann ist tn−1 = u, tm = t, tl ∈ Dl f¨ur jedes l und tl − tl−1 ≤ 2−l
f¨ur l = n, . . . , m.
Also ist nach (21.7) |Xt (ω) − Xu (ω)| ≤
m m Xt (ω) − Xt (ω) ≤ 2−γl ≤ l l−1 l=n
l=n −γn
Analog folgt |Xs (ω) − Xu (ω)| ≤ 2 chung
−γ −1
(1 − 2
)
|Xt (ω) − Xs (ω)| ≤ 2
2−γn . 1 − 2−γ
, also nach der Dreiecksunglei-
2−γn . 1 − 2−γ
(21.8)
Setze nun C0 = 21+γ (1 − 2−γ )−1 < ∞. Seien s, t ∈ D mit |s − t| ≤ 2−n0 . Indem wir n ≥ n0 minimal w¨ahlen mit |t − s| ≥ 2−n , erhalten wir aus (21.8) γ
|Xt (ω) − Xs (ω)| ≤ C0 |t − s| .
(21.9)
Wie im Beweis von Lemma 21.3(iii) folgt hieraus, dass (mit K := C0 2(n+1)(1−γ) ) γ
|Xt (ω) − Xs (ω)| ≤ K |t − s|
f¨ur alle s, t ∈ D.
(21.10)
Mit anderen Worten: Auf den bin¨arrationalen Zahlen D ist X(ω) (global) H¨olderγ-stetig. Speziell ist X auf D gleichm¨aßig stetig, l¨asst sich also eindeutig stetig auf t := Xt . F¨ur t ∈ [0, 1]\D und {sn , n ∈ N} ⊂ D [0, 1] fortsetzen: F¨ur t ∈ D setze X mit sn −→ t ist (Xsn (ω))n∈N eine Cauchy-Folge. Also existiert der Limes t (ω) := lim Xs (ω), X D s→t
(21.11)
und es gilt dann die zu (21.10) analoge Aussage auch f¨ur beliebige s, t ∈ [0, 1] s (ω) ≤ K |t − s|γ f¨ur alle s, t ∈ [0, 1]. (21.12) Xt (ω) − X Also H¨older-stetig von der Ordnung γ. Nach (21.5) und (21.11) gilt * ) ist X lokal eine Modifikation von X. t = 0 f¨ur jedes t ∈ [0, 1]. Also ist X P Xt = X (ii) Sei ε > 0, und sei n ∈ N so groß gew¨ahlt, dass (siehe (21.6)) P[Bn ] ≤ C
2−(β−αγ)n < ε. 1 − 2αγ−β
F¨ur ω ∈ Bn gilt nach dem oben Gezeigten (21.10). Dies ist aber gerade (21.3) mit T = 1. F¨ur allgemeine T folgt die Aussage durch lineare Transformationen. 2
21.1 Stetige Modifikationen
455
Bemerkung 21.7. Die Aussage von Satz 21.6 gilt unver¨andert, wenn X Werte in einem polnischen Raum (E, ) annimmt, denn im Beweis wurde nirgends ausgenutzt, dass der Wertebereich R ist. Wenn wir jedoch den Zeitbereich ver¨andern, m¨ussen wir die Voraussetzungen versch¨arfen: Ist (Xt )t∈Rd ein Prozess mit Werten in E, und gilt f¨ur gewisse α, β > 0 sowie jedes T > 0 und gewisses C < ∞ E[(Xt , Xs )α ] ≤ C t − sd+β 2
f¨ur alle s, t ∈ [−T, T ]d ,
(21.13)
so existiert f¨ur jedes γ ∈ (0, β/α) eine lokal H¨older-γ-stetige Version von X.
3
¨ Ubung 21.1.1. Man zeige die Aussage von Bemerkung 21.7.
♣
¨ Ubung 21.1.2. Sei X = (Xt )t≥0 ein reellwertiger Prozess mit stetigen Pfaden. Man 0b zeige, dass f¨ur alle 0 ≤ a < b die Abbildung ω → a Xt (ω) dt messbar ist. ♣ ¨ Ubung 21.1.3 (Optional Sampling/ Stopping). Sei F eine Filtration und (Xt )t≥0 ein F-Supermartingal mit rechtsstetigen Pfaden. Seien σ und τ beschr¨ankte Stoppzeiten mit σ ≤ τ . Setze σ n := 2−n 2n σ und τ n := 2−n 2n τ . n→∞
(i) Zeige, dass E[Xτ m |Fσn ] −→ E[Xτ m |Fσ ] fast sicher und in L1 sowie n→∞ Xσn −→ Xσ fast sicher und in L1 . (ii) Folgere das Optional Sampling Theorem f¨ur rechtsstetige Supermartingale mit Hilfe der analogen Aussage f¨ur diskrete Zeit (Satz 10.11): Xσ ≥ E[Xτ |Fσ ]. (iii) Zeige: Ist Y adaptiert, integrierbar und rechtsstetig, so ist Y genau dann ein Martingal, wenn E[Yτ ] = E[Y0 ] f¨ur jede beschr¨ankte Stoppzeit τ gilt. (iv) Zeige, dass Xσ ≥ E[Xτ |Fσ ] f¨ur lediglich endliche Stoppzeiten σ ≤ τ gilt, falls X gleichgradig integrierbar ist. (v) Sei nun τ eine beliebige Stoppzeit. Man folgere das Optional Stopping Theorem f¨ur rechtsstetige Supermartingale: (Xτ ∧t )t≥0 ist ein rechtsstetiges Supermartingal. ♣ ¨ Ubung 21.1.4. Sei X = (Xt )t≥0 ein stochastischer Prozess auf (Ω, F, P) mit Werten im polnischen Raum E und rechtsstetigen Pfaden. Man zeige: (i) Die Abbildung (ω, t) → Xt (ω) ist messbar bez¨uglich F ⊗ B([0, ∞))–B(E). (ii) Ist X zudem an die Filtration F adaptiert, so ist f¨ur jedes t ≥ 0 die Abbildung Ω × [0, t] → E, (ω, s) → Xs (ω) messbar bez¨uglich Ft ⊗ B([0, t])–B(E). (iii) Ist τ eine F-Stoppzeit und X adaptiert, so ist Xτ eine Fτ -messbare Zufallsvariable. ♣
456
21 Die Brown’sche Bewegung
21.2 Konstruktion und Pfadeigenschaften Definition 21.8. Ein reellwertiger stochastischer Prozess B = (Bt , t ∈ [0, ∞)) heißt Brown’sche Bewegung, falls (i) B0 = 0, (ii) B hat unabh¨angige, station¨are Zuw¨achse (vergleiche Definition 9.7), (iii) Bt ∼ N0,t f¨ur t > 0, (iv) P-fast sicher gilt: t → Bt ist stetig.
3
2.5
2
1.5
1
0.5
0
0.5
1
1.5
2
Abb. 21.1. Computersimulation einer Brown’schen Bewegung.
Satz 21.9. Es existiert ein W-Raum (Ω, A, P) und eine Brown’sche Bewegung B auf (Ω, A, P). Die Pfade von B sind f.s. lokal H¨older-γ-stetig f¨ur jedes γ < 12 . Beweis. Wie in Beispiel 14.45 oder Korollar 16.10 gibt es einen stochastischen D √ Prozess X, der (i), (ii) und (iii) erf¨ullt. Offenbar ist Xt −Xs = t − s X1 ∼ N0,t−s f¨ur alle t > s ≥ 0. Es gilt daher f¨ur jedes n ∈ N und Cn := E[X12n ] = (2n)! 2n n! < ∞ ( ' √ ( ' 2n 2n =E = Cn |t − s|n . t − s X1 E (Xt − Xs ) Sei nun n ≥ 2 und γ ∈ (0, n−1 2n ). Satz 21.6 liefert die Existenz einer Version B von X mit H¨older-γ-stetigen Pfaden. Da alle stetigen Versionen eines Prozesses a¨ quivalent sind, ist B lokal H¨older-γ-stetig f¨ur jedes γ ∈ (0, n−1 2n ) und jedes n ≥ 2, 2 also f¨ur jedes γ ∈ (0, 12 ).
21.2 Konstruktion und Pfadeigenschaften
457
Erinnerung: Ein stochastischer Prozess (Xt )t∈I heißt Gauß’scher Prozess, falls f¨ur jedes n ∈ N und alle t1 , . . . , tn ∈ I gilt ist n-dimensional normalverteilt.
(Xt1 , . . . , Xtn )
Wir nennen X zentriert, falls E[Xt ] = 0 f¨ur jedes t ∈ I. Die Funktion Γ (s, t) := Cov[Xs , Xt ]
f¨ur s, t ∈ I,
heißt Kovarianzfunktion von X. Bemerkung 21.10. Durch die Kovarianzfunktion sind die endlichdimensionalen Verteilungen eines zentrierten, Gauß’schen Prozesses eindeutig festgelegt, denn eine mehrdimensionale Normalverteilung ist durch den Erwartungswertvektor und Kovarianzmatrix vollst¨andig beschrieben. 3 Satz 21.11. F¨ur einen stochastischen Prozess X = (Xt )t∈[0,∞) sind a¨ quivalent: (i) X ist eine Brown’sche Bewegung. (ii) X ist ein stetiger, zentrierter, Gauß’scher Prozess mit Cov[Xs , Xt ] = s ∧ t f¨ur alle s, t ≥ 0. Beweis. Nach Bemerkung 21.10 ist X durch (ii) eindeutig bestimmt. Es reicht also zu zeigen, dass Cov[Xs , Xt ] = min(s, t) f¨ur die Brown’sche Bewegung X gilt. Dies ist aber richtig, denn f¨ur t > s sind Xs und Xt − Xs unabh¨angig, also ist Cov[Xs , Xt ] = Cov[Xs , Xt − Xs ] + Cov[Xs , Xs ] = Var[Xs ] = s.
2
Korollar 21.12 (Skalierungseigenschaft der Brown’schen Bewegung). Ist B eine Brown’sche Bewegung und K = 0, dann ist auch (K −1 BK 2 t )t≥0 eine Brown’sche Bewegung. Beispiel 21.13. Ein weiteres Beispiel f¨ur einen stetigen, Gauß’schen Prozess ist die ¨ Brown’sche Brucke X = (Xt )t∈[0,1] , die die Kovarianzfunktion Γ (s, t) = s∧t−st hat. Wir konstruieren die Brown’sche Br¨ucke wie folgt: Sei B = (Bt , t ∈ [0, 1]) eine Brown’sche Bewegung und Xt := Bt − tB1 . Offenbar ist X ein zentrierter, Gauß’scher Prozess mit stetigen Pfaden. Die Kovarianzfunktion Γ von X errechnet sich zu Γ (s, t) = Cov[Xs , Xt ] = Cov[Bs − sB1 , Bt − tB1 ] = Cov[Bs , Bt ] − s Cov[B1 , Bt ] − t Cov[Bs , B1 ] + st Cov[B1 , B1 ] = min(s, t) − st − st + st = min(s, t) − st. 3
458
21 Die Brown’sche Bewegung
Satz 21.14. Sei (Bt )t≥0 eine Brown’sche Bewegung und tB1/t , falls t > 0, Xt = 0, falls t = 0. Dann ist X eine Brown’sche Bewegung. Beweis. Offenbar ist X ein Gauß’scher Prozess. F¨ur s, t > 0 ist
Cov[Xs , Xt ] = ts · Cov[B1/s , B1/t ] = ts min s−1 , t−1 = min(s, t). Offenbar ist t → Xt stetig in allen t > 0. F¨ur die Stetigkeit in t = 0 betrachte 1 Bt t
1 1 ≤ lim sup Bn + lim sup sup Bt − Bn , t ∈ [n, n + 1] . n→∞ n n→∞ n
lim sup Xt = lim sup t→∞
t↓0
Nach dem Starken Gesetz der großen Zahl ist limn→∞ n1 Bn = 0 f.s. Nach einer Verallgemeinerung des Spiegelungsprinzips (Satz 17.15, siehe auch Satz 21.19) ist f¨ur x > 0 (mit der Abk¨urzung B[a,b] := {Bt : t ∈ [a, b]}) * ) * ) P sup B[n,n+1] − Bn > x = P sup B[0,1] > x = 2 P[B1 > x] ∞ 2 2 2 1 = √ e−u /2 du ≤ e−x /2 . x 2π x Speziell ist
∞ * ) P sup B[n,n+1] − Bn > nε < ∞ f¨ur jedes ε > 0. Nach dem n=1
Lemma von Borel-Cantelli (Satz 2.7) ist daher
1 lim sup sup Bt − Bn , t ∈ [n, n + 1] = 0 n→∞ n
fast sicher. 2
Mithin ist X auch in 0 stetig.
Satz 21.15 (Blumenthal’sches 0-1 Gesetz). Sei B eine Brown’sche Bewegung und F = (Ft )t≥0 = σ(B) die erzeugte Filtration sowie F0+ = t>0 Ft . Dann ist F0+ eine P-triviale σ-Algebra. Beweis. Setze Y n = (B2−n +t − B2−n )t∈[0,2−n ] , n ∈ N. Dann ist (Y n )n∈N eine unabh¨angige Familie von (mit Werten in C([0, 2−n ])). Die termi Zufallsvariablen m nale σ-Algebra T = n∈N σ(Y , m ≥ n) ist nach dem Kolmogorov’schen 0-1 Gesetz (Satz 2.37) P-trivial. Andererseits ist σ(Y m , m ≥ n) = F2−n+1 , also ist F0+ = Ft = F2−n+1 = T t>0
P-trivial.
n∈N
2
21.2 Konstruktion und Pfadeigenschaften
Beispiel 21.16. Sei B eine Brown’sche Bewegung. F¨ur jedes K > 0 ist √
) * P inf t > 0 : Bt ≥ K t = 0 = 1. √
Um dies einzusehen, setze As := inf{t > 0 : Bt ≥ K t } < s und √
As ∈ F0+ . A := inf t > 0 : Bt ≥ K t = 0 =
459
(21.14)
s>0
Dann ist P[A] ∈ {0, 1}. Wegen der Skalierungseigenschaft der Brown’schen Bewegung ist P[A] = inf P[As ] ≥ P[B1 ≥ K] > 0 und deshalb P[A] = 1. s>0
3
Das eben untersuchte Beispiel zeigt insbesondere f¨ur jedes t ≥ 0, dass B in t fast sicher nicht H¨older- 12 -stetig ist. Hier ist Vorsicht mit der Reihenfolge der Quantoren angebracht: Wir haben nicht gezeigt, dass B fast sicher in keinem t ≥ 0 H¨older1 are (siehe aber Bemerkung 22.4). Wir k¨onnen allerdings ohne großen 2 -stetig w¨ Aufwand den folgenden Satz zeigen, der f¨ur den Fall γ = 1 auf Paley, Wiener und Zygmund [127] zur¨uckgeht. Der hier vorgestellte Beweis beruht auf einer Idee von Dvoretzky, Erd¨os und Kakutani (siehe [42]). Satz 21.17 (Paley-Wiener-Zygmund (1933)). F¨ur jedes γ > 12 sind die Pfade der Brown’schen Bewegung (Bt )t≥0 fast sicher in keinem Punkte H¨older-stetig der Ordnung γ. Insbesondere sind die Pfade fast sicher nirgends differenzierbar. Beweis. Sei γ > 12 . Es reicht, B = (Bt )t∈[0,1] zu betrachten. Wir bezeichnen mit Hγ,t die Menge der in t H¨older-γ-stetigen Abbildungen [0, 1] → R und setzen Hγ := t∈[0,1] Hγ,t . Das Ziel ist zu zeigen, dass fast sicher B ∈ Hγ gilt. Ist t ∈ [0, 1) und w ∈ Hγ,t , so existiert zu jedem δ > 0 ein c = c(δ, w) mit der Eigenschaft, dass |ws − wt | ≤ c |s − t|γ ist f¨ur jedes s ∈ [0, 1] mit |s − t| < δ. 2 W¨ahlen wir k ∈ N mit k > 2γ−1 , so ist f¨ur n ∈ N mit n ≥ n0 := (k + 1)/δ, i = tn + 1 und l ∈ {0, . . . , k − 1} speziell w(i+l+1)/n − w(i+l)/n ≤ w(i+l+1)/n − wt + w(i+l)/n − wt ≤ 2c (k + 1)γ n−γ . F¨ur N ≥ 2c (k + 1)γ ist also w ∈ AN,n,i , wobei AN,n,i :=
k−1
w : w(i+l+1)/n − w(i+l)/n ≤ N n−γ .
l=0
n
Setzen wir AN,n = i=1 AN,n,i , AN = n≥n0 AN,n und A = ∞ N =1 AN , so ist offenbar Hγ ⊂ A. Nun ist wegen der Unabh¨angigkeit der Zuw¨achse, und weil die Dichte der Standardnormalverteilung nirgends gr¨oßer als 1 ist *k *k ) ) P[B ∈ AN,n,i ] = P |B1/n | ≤ N n−γ = P |B1 | ≤ N n−γ+1/2 ≤ N k nk(−γ+1/2) .
460
21 Die Brown’sche Bewegung
Nach Wahl von k und wegen der Stationarit¨at der Zuw¨achse von B gilt +
) * P B ∈ AN ≤ lim P n→∞
, AN,m ≤ lim sup P[AN,n ] ≤ lim sup n→∞
m≥n
n→∞
n
P[AN,n,i ]
i=1
≤ lim sup n P[B ∈ AN,n,1 ] ≤ N k lim sup n1+k(−γ+1/2) = 0 n→∞
n→∞
2
und damit P[B ∈ A] = 0. Mithin ist fast sicher B ∈ Hγ .
¨ Ubung 21.2.1. Sei B eine Brown’sche Bewegung und λ das Lebesgue-Maß auf [0, ∞). 01 (i) Bestimme Erwartungswert und Varianz von 0 Bs ds. (F¨ur die Messbarkeit des ¨ Integrals siehe Ubung 21.1.2.)
(ii) Zeige, dass λ {t : Bt = 0} = 0 fast sicher gilt. (iii) Bestimme Erwartungswert und Varianz von
1
1
Bt − 0
0
2
1
Bs ds
♣
dt.
0
¨ Ubung 21.2.2. Sei B eine Brown’sche Bewegung. Zeige, dass auch (Bt2 − t)t≥0 ein Martingal ist. ♣ ¨ Ubung 21.2.3. Sei B eine Brown’sche Bewegung und σ > 0. Zeige, dass auch
2 exp σBt − σ2 t t≥0 ein Martingal ist. ♣ ¨ Ubung 21.2.4. Sei B eine Brown’sche Bewegung. F¨ur a < 0 < b definiere die Stoppzeit τa,b = inf{t ≥ 0 : Bt ∈ {a, b}}. a Man zeige, dass τa,b < ∞ fast sicher gilt und P[Bτa,b = b] = − b−a . Man zeige ¨ ♣ ferner (mit Ubung 21.2.2), dass E[τa,b ] = −ab.
¨ Ubung 21.2.5. Sei B eine Brown’sche Bewegung. F¨ur b > 0 sowie definiere die Stoppzeit τb = inf{t ≥ 0 : Bt = b}. Man zeige: √
¨ (i) E[e−λτb ] = e−b 2λ f¨ur λ ≥ 0. (Hinweis: Verwende Ubung 21.2.3 und den Optional Sampling Satz.) (ii) τb hat eine 12 -stabile Verteilung mit L´evy-Maß
√ ν(dx) = b/( 2π) x−3/2 ½{x>0} dx. (iii) Die Verteilung von τb hat die Dichte fb (x) =
√b 2π
2
e−b
/(2x)
x−3/2 .
♣
21.3 Starke Markoveigenschaft
461
¨ Ubung 21.2.6. Sei B eine Brown’sche Bewegung, a ∈ R und b > 0 sowie τ = inf{t ≥ 0 : Bt = at + b}. Man zeige f¨ur λ ≥ 0 3 ) * E e−λτ = exp − ba − b a2 + 2λ und folgere P[τ < ∞] = 1 ∧ e−2ba .
♣
21.3 Starke Markoveigenschaft Wir bezeichnen mit Px das W-Maß, unter dem B = (Bt )t≥0 eine in x ∈ R gestartete Brown’sche Bewegung ist. Anders gesagt ist unter Px der um −x verschobene Prozess (Bt − x)t≥0 eine (in Null gestartete) Brown’sche Bewegung. W¨ahrend die (elementare) Markoveigenschaft von (B, (Px )x∈R ) evident ist, brauchen wir f¨ur den Nachweis der starken Markoveigenschaft ein wenig Arbeit. Satz 21.18 (Starke Markoveigenschaft). Die Brown’sche Bewegung B mit Verteilungen (Px )x∈R hat die starke Markoveigenschaft. Beweis. Sei F = σ(B) die von B erzeugte Filtration und τ < ∞ eine F-Stoppzeit. Zu zeigen ist, dass f¨ur jedes beschr¨ankte, messbare F : R[0,∞) → R gilt: ) * Ex F (Bt+τ )t≥0 Fτ = EBτ [F (B)]. (21.15) Es reicht, stetige, beschr¨ankte Funktionen F zu betrachten, die nur von endlich vielen Koordinaten t1 , . . . , tN abh¨angen, da diese die Verteilung von (Bt+τ )t≥0 eindeutig bestimmen. Sei also f : RN → R stetig und beschr¨ankt und F (B) = f (Bt1 , . . . , BtN ). Offenbar ist die Abbildung x → Ex [F (B)] = E0 [f (Bt1 + x, . . . , BtN + x)] stetig und beschr¨ankt. Sei nun τ n := 2−n 2n τ + 1 f¨ur n ∈ N. n→∞ Dann ist τ n eine Stoppzeit und τ n ↓ τ , also Bτ n −→ Bτ fast sicher. Nun ist jeder Markovprozess mit abz¨ahlbarer Zeitmenge (hier: alle positiven rationalen Linearkombinationen von 1, t1 , . . . , tN ) ein starker Markovprozess (nach Satz 17.14), also gilt ) * ) * Ex F (Bτ n +t )t≥0 Fτ n = Ex f (Bτn +t1 , . . . , Bτ n +tN ) Fτ n ) * = EBτ n f (Bt1 , . . . , BtN ) (21.16) * ) n→∞ −→ EBτ f (Bt1 , . . . , BtN ) = EBτ [F (B)].
n→∞ Aufgrund der Rechtsstetigkeit von B gilt F (Bτ n + t)t≥0 −→ F (Bτ +t )t≥0 fast sicher und in L1 und damit ' ) * ) *( E Ex F (Bτ n +t )t≥0 Fτ n − Ex F (Bτ +t )t≥0 Fτ n (21.17) '
( n→∞ ≤ Ex F (Bτ n +t )t≥0 − F (Bτ +t )t≥0 −→ 0.
462
21 Die Brown’sche Bewegung
Weiter gilt Fτn ↓ Fτ + :=
Fσ ⊃ Fτ .
σ>τ ist Stoppzeit
Nach (21.16) und (21.17) sowie dem Konvergenzsatz f¨ur R¨uckw¨artsmartingale (Satz 12.14) gilt also im Sinne von L1 -Limiten ) * EBτ [F (B)] = lim Ex F (Bτ n +t )t≥0 Fτ n n→∞ ) * ) * = lim Ex F (Bτ +t )t≥0 Fτ n = Ex F (Bτ +t )t≥0 Fτ + . n→∞
Die linke Seite ist Fτ -messbar. Die Turmeigenschaft der bedingten Erwartung liefert also (21.15). 2 Mit Hilfe der starken Markoveigenschaft zeigen wir das Reflexionsprinzip f¨ur die Brown’sche Bewegung. ¨ die Brown’sche Bewegung). F¨ur jedes a > 0 Satz 21.19 (Reflexionsprinzip fur und T > 0 gilt √
* ) 2 T 1 −a2 /2T . P sup Bt : t ∈ [0, T ] > a = 2 P[BT > a] ≤ √ e 2π a Beweis. Wegen der Skalierungseigenschaft der Brown’schen Bewegung (Korollar 21.12) k¨onnen wir ohne Einschr¨ankung T = 1 annehmen. Sei τ := inf{t ≥ 0 : Bt ≥ a} ∧ 1. Aus Symmetriegr¨unden ist Pa [B1−τ > a] = 12 , falls τ < 1, also P[B1 > a] = P[B1 > a τ < 1] P[τ < 1] 1 = Pa [B1−τ > a] P[τ < 1] = P[τ < 1]. 2 F¨ur die Ungleichung berechnen wir ∞ 2 1 P[B1 > a] = √ e−x /2 dx 2π a 1 1 −a2 /2 1 1 ∞ −x2 /2 xe dx = √ . ≤√ e 2π a a 2π a
2
Eine Anwendung des Reflexionsprinzips ist das Arkussinus-Gesetzes von Paul L´evy [111, Seite 216] f¨ur den letzten Besuch der Brown’schen Bewegung in der Null. Satz 21.20 (L´evy’sches Arkussinus-Gesetz). Sei T > 0 und ζT := sup{t ≤ T : Bt = 0}. Dann gilt f¨ur t ∈ [0, T ] 3 * ) 2 t/T . P ζT ≤ t = arc sin π
21.3 Starke Markoveigenschaft
463
eine weitere, unBeweis. Ohne Einschr¨ankung sei T = 1 und ζ = ζ1 . Sei B abh¨angige Brown’sche Bewegung. Nach dem Reflexionsprinzip gilt ) * P[ζ ≤ t] = P Bs = 0 f¨ur jedes s ∈ [t, 1] ∞ ) * P Bs = 0 f¨ur jedes s ∈ [t, 1] Bt = a P[Bt ∈ da] = −∞ ∞ * ) s > 0 f¨ur jedes s ∈ [0, 1 − t] P[Bt ∈ da] = P|a| B −∞ ∞ ) * ) * 1−t | ≤ |a| P[Bt ∈ da] = P |B 1−t | ≤ |Bt | . = P0 |B −∞
D √
√ 1−t = Sind X, Y unabh¨angig und N0,1 -verteilt, so ist Bt , B t X, 1 − t Y . Es folgt √ * )√ P[ζ ≤ t] = P 1 − t |Y | ≤ t |X| ) * = P Y 2 ≤ t(X 2 + Y 2 ) ∞ ∞ 2 2 1 = dx dy e−(x +y )/2 ½{y2 ≤t(x2 +y2 )} . 2π −∞ −∞ Durch Polarkoordinatentransformation erhalten wir 2π ∞ √ 2 2 1 r dre−r /2 dϕ ½{sin(ϕ)2 ≤t} = arc sin t . P[ζ ≤ t] = 2π 0 π 0
2
¨ Bewegung mit Ubung 21.3.1. (Schwierig!) Sei Px die Verteilung der Brown’schen
Start in x ∈ R. Sei a > 0 und τ = inf t ≥ 0 : Bt ∈ {0, a} . Man zeige mit Hilfe des Spiegelungsprinzips, dass f¨ur jedes x ∈ (0, a) gilt Px [τ > T ] =
∞
) * (−1)n Px BT ∈ [na, (n + 1)a] .
(21.18)
n=−∞
Ist f die Dichte einer Wahrscheinlichkeitsverteilung auf R mit charakteristischer Funktion ϕ und supx∈R x2 f (x) < ∞, so gilt die Poisson’sche Summationsformel (siehe etwa [25, Satz 2.2.2]) ∞
f (s + n) =
n=−∞
∞
ϕ(k) e2πis
f¨ur jedes s ∈ R.
(21.19)
k=−∞
Man folgere aus (21.18) und (21.19) (vergleiche auch (21.37)) Px [τ > T ] =
4 π
∞ k=0
1 2k+1
2 2 π T (2k+1)πx sin . exp − (2k+1) 2 2a a
(21.20) ♣
464
21 Die Brown’sche Bewegung
21.4 Erg¨anzung: Feller Prozesse In vielen Situationen kann man keine stetige Version eines Prozesses erwarten, etwa beim Poissonprozess, der ja gewissermaßen von seinen Spr¨ungen lebt. Oft kann jedoch eine Version mit rechtsstetigen Pfaden, die einen endlichen linksseitigen Grenzwert besitzen, etabliert werden. Wir wollen hier knapp den Existenzsatz f¨ur solche Prozesse f¨ur Feller’sche Halbgruppen plausibel machen. Definition 21.21. Sei E ein polnischer Raum. Eine Abbildung f : [0, ∞) → E heißt RCLL (right continuous with left limits) oder c`adl`ag (continue a` droit, limites a` gauche), falls f (t) = f (t+) := lims↓t f (s) f¨ur jedes t ≥ 0 und falls der linksseitige Grenzwert f (t−) := lims↑t f (s) f¨ur jedes t > 0 existiert und endlich ist. Definition 21.22. Eine Filtration F = (Ft )t≥0 heißt rechtsstetig, falls F = F+ , + wo Ft = s>t Fs . Wir sagen, dass eine Filtration F die ublichen Bedingungen ¨ erf¨ullt, falls F rechtsstetig ist und F0 P-vollst¨andig ist. Bemerkung 21.23. Ist F eine beliebige Filtration und Ft+,∗ die Vervollst¨andigung von Ft+ , so erf¨ullt F+,∗ die u¨ blichen Bedingungen. 3 Satz 21.24 (Doob’sche Regularisierung). Sei F eine Filtration, die die u¨ blichen Bedingungen erf¨ullt, und X = (Xt )t≥0 ein F-Supermartingal mit der Eigenschaft, von X mit RCLL dass t → E[Xt ] rechtsstetig ist. Dann gibt es eine Modifikation X Pfaden. Beweis. F¨ur a, b ∈ Q+ , a < b und I ⊂ [0, ∞) sei UIa,b die Anzahl der Aufkreuzungen von (Xt )t∈I u¨ ber [a, b]. Nach der Aufkreuzungsungleichung (Lemma 11.3) folgt f¨ur jedes N > 0 und jede endliche Menge I ⊂ [0, N ], dass a,b = UQa,b E[UIa,b ] ≤ (E[|XN |] + |a|)/(b − a). Setzen wir UN + ∩[0,N ] , so folgt a,b ¨ E[U ] ≤ (E[|XN |] + |a|)/(b − a). F¨ur λ > 0 ist nach Ubung 11.1.1 N
* ) λ P sup{|Xt | : t ∈ Q+ ∩ [0, N ]} > λ ) * = λ sup P sup{|Xt | : t ∈ I} > λ : I ⊂ Q+ ∩ [0, N ] endlich ≤ 12 E[|X0 |] + 9 E[|XN |]. Betrachte das Ereignis
a,b {UN < ∞} ∩ sup{|Xt | : t ∈ Q+ ∩ [0, N ]} < ∞ . A := N ∈N
a,b∈Q+ 0≤a
Nach dem Gezeigten ist P[A] = 1, also A ∈ Ft f¨ur jedes t ≥ 0, da F die u¨ blichen Bedingungen erf¨ullt. F¨ur ω ∈ A existiert f¨ur jedes t ≥ 0 der Limes
21.4 Erg¨anzung: Feller Prozesse
t (ω) := X
lim
Q+ s↓t, s>t
465
Xs (ω)
und ist RCLL. F¨ur ω ∈ Ac setzen wir Xt (ω) = 0. Da F die u¨ blichen Bedingungen an F adaptiert. Da X ein Supermartingal ist, ist (Xs )s≤N f¨ur jedes N erf¨ullt, ist X gleichgradig integrierbar. Also gilt (nach Voraussetzung), dass t ] = E[X
lim
Q+ s↓t, s>t
E[Xs ] = E[Xt ].
Da X ein Supermartingal ist, ist aber f¨ur s > t Xt ≥ E[Xs |Ft ]
Q+ s↓t, s>t
−→
t |Ft ] = X t E[X
in L1 .
t fast sicher, also X eine Modifikation von X. 2 Folglich ist Xt = X 0 Korollar 21.25. Sei (νt )t≥0 eine stetige Faltungshalbgruppe mit |x|ν1 (dx) < ∞. Dann existiert ein Markov-Prozess X mit unabh¨angigen, station¨aren Zuw¨achsen PXt −Xs = νt−s f¨ur alle t > s und mit RCLL Pfaden. Sei E ein lokalkompakter, polnischer Raum und C0 (E) die Menge der (beschr¨ankten) stetigen Funktionen, die im Unendlichen verschwinden. Ist κ ein stochastischer Kern von E nach E und ist f messbar und beschr¨ankt, so schreiben wir κf (x) = 0 κ(x, dy) f (y). Definition 21.26. Eine Markov’sche Halbgruppe (κt )t≥0 auf E heißt Feller’sche Halbgruppe, falls f (x) = lim κt f (x) t→0
f¨ur jedes x ∈ E, f ∈ C0 (E)
und κt f ∈ C0 (E) f¨ur jedes f ∈ C0 (E). Sei X ein zu (κt )t≥0 geh¨origer Markovprozess bez¨uglich einer Filtration F, die die u¨ blichen Bedingungen erf¨ullt. 0∞ Sei g ∈ C0 (E), g ≥ 0. Setze h = 0 e−t κt g dt. Dann ist ∞ ∞ −s −s −t e κs κt g dt = e−t κt g dt ≤ h. e κs h = e 0
s
−t
Also ist X := (e h(Xt ))t≥0 ein F-Supermartingal. g
Die Fellereigenschaft und Satz 21.24 sichern nun die Existenz einer RCLL Version g von X g . Mit etwas mehr Arbeit kann man zeigen, dass mit einer abz¨ahlbaren X durch alle X g , g ∈ G, eindeutig festgelegt ist Menge G ⊂ C0 (E) ein Prozess X und eine RCLL Version von X ist. Siehe etwa [148, Kapitel III.7ff]. Wir wollen nun r¨uckblicken, wie wir die starke Markoveigenschaft der Brown’schen Bewegung in Abschnitt 21.3 hergeleitet hatten. Tats¨achlich wurde dort lediglich die Rechtsstetigkeit der Pfade sowie eine Stetigkeit im Anfangspunkt ben¨otigt, die genau die Fellereigenschaft ist. Mit etwas Arbeit kann man daher den folgenden Satz zeigen (siehe etwa [148, Kapitel III.8ff] oder [146, Kapitel III, Theorem 2.7]).
466
21 Die Brown’sche Bewegung
Satz 21.27. Sei (κt )t≥0 eine Feller’sche Halbgruppe auf dem lokalkompakten, polnischen Raum E. Dann existiert ein starker Markovprozess (Xt )t≥0 mit RCLL Pfa¨ den und Ubergangskernen (κt )t≥0 . Einen solchen Prozess X nennen wir auch einen Feller-Prozess. ¨ Ubung 21.4.1 (Doob’sche Ungleichung). Sei X = (Xt )t≥0 ein Martingal oder nichtnegatives Submartingal mit RCLL Pfaden. F¨ur T ≥ 0 sei |X|∗T = sup |Xt |. t∈[0,T ]
Man zeige die Doob’schen Ungleichungen: * ) * ) (i) F¨ur jedes p ≥ 1 und λ > 0 gilt λp P |X|∗T ≥ λ ≤ E |XT |p . ) * ) * p p ) * (ii) F¨ur jedes p > 1 gilt E |XT |p ≤ E (|X|∗T )p ≤ p−1 E |XT |p .
Man zeige durch ein Gegenbeispiel, dass auf die Rechtsstetigkeit von X nicht ohne Weiteres verzichtet werden kann. ♣ ¨ Ubung 21.4.2 (Martingalkonvergenzs¨atze). Sei X ein stochastischer Prozess mit ¨ RCLL Pfaden. Man zeige mit Hilfe der Doob’schen Ungleichung (Ubung 21.4.1), dass die Martingalkonvergenzs¨atze (f.s. Konvergenz (Satz 11.4), f.s. und L1 -Konvergenz f¨ur gleichgradig integrierbare Martingale (Satz 11.7) und der Lp -Martingalkonvergenzsatz (Satz 11.10)) sinngem¨aß f¨ur X gelten. ♣ ¨ Ubung 21.4.3. Sei p ≥ 1 und X 1 , X 2 , X 3 , . . . p-fach integrierbare Martingale. F¨ur t in Lp . t ∈ Lp (P) mit Xtn n→∞ −→ X jedes t ≥ 0 gebe es ein X t )t≥0 ist ein Martingal. (i) Zeige: (X (ii) Zeige mit Hilfe der Doob’schen Ungleichung: Ist p > 1 und sind X 1 , X 2 , . . . f.s. stetig, so gibt es ein stetiges Martingal X mit den Eigenschaften: X ist eine p und X n n→∞ ur jedes t ≥ 0. ♣ Modifikation von X t −→ Xt in L f¨ ¨ Ubung 21.4.4. Sei X ein stochastischer Prozess mit Werten in einem polnischen Raum E mit RCLL Pfaden, und sei F = σ(X) die von X erzeugte Filtration sowie F+ := (Ft+ )t≥0 definiert durch Ft+ = s>t Fs . Sei U ⊂ E offen und C ⊂ E abgeschlossen. F¨ur jede Menge A ⊂ E sei τA := inf{t > 0 : Xt ∈ A}. Man zeige: (i) τC ist eine F-Stoppzeit (und eine F+ -Stoppzeit). (ii) τU ist eine F+ -Stoppzeit, jedoch im Allgemeinen (selbst f¨ur stetiges X) keine F-Stoppzeit. ♣ ¨ Ubung 21.4.5. Man zeige die Aussage von Bemerkung 21.23 und folgere: Ist F eine Filtration und B eine Brown’sche Bewegung, die ein F-Martingal ist. Dann ist ♣ B auch ein F+,∗ -Martingal.
21.5 Konstruktion durch L2 -Approximation
467
21.5 Konstruktion durch L2 -Approximation Wir geben eine funktionalanalytische Konstruktion der Brown’schen Bewegung durch eine L2 -Approximation an. Der Einfachheit halber betrachten wir als Zeitintervall [0, 1] statt [0, ∞). Es sei also H = L2 ([0, 1]) der Hilbertraum der quadratintegrierbaren (bez¨uglich des Lebesgue-Maßes λ) Funktionen [0, 1] → R mit Skalarprodukt f (x)g(x) λ(dx) f, g! = [0,1]
3
f, f ! (vergleiche Kapitel 7.3). Zwei Funktionen f, g ∈ H und Norm f = werden als gleich angesehen, wenn f = g λ-f.¨u. Sei (bn )n∈N eine Orthonormalbasis (ONB) von H, also bm , bn ! = ½{m=n} und n ; ; ; ; lim ;f − f, bm !bm ; = 0
n→∞
f¨ur jedes f ∈ H.
m=1
Speziell gilt f¨ur jedes f ∈ H die Parseval’sche Gleichung f 2 =
∞
f, bm !2
(21.21)
f, bm ! g, bm !.
(21.22)
m=1
und f¨ur f, g ∈ H
∞
f, g! =
m=1
Betrachte jetzt eine u.i.v. Folge (ξn )n∈N von N0,1 -Zufallsvariablen auf einem Wahrscheinlichkeitsraum (Ω, A, P). F¨ur n ∈ N und t ∈ [0, 1] setze n n n ξm bm (s) λ(ds) = ξm ½[0,t] , bm !. Xt = ½[0,t] (s) m=1
Offenbar ist f¨ur n ≥ m ) * E (Xtm − Xtn )2 = E
-
m=1
n
A
ξk ½[0,t] , bk
B
k=m+1
=
n A
½[0,t] , bk
k=m+1
Wegen
∞ k=1
n
A
ξl ½[0,t] , bl
l=m+1
B2
≤
∞ A
B2
½[0,t] , bk .
k=m+1
½[0,t] , bk !2 = ½[0,t] 2 = t < ∞, gilt Xtn ∈ L2 (P) und lim
) * sup E (Xtm − Xtn )2 = 0.
m→∞ n≥m
.
B
468
21 Die Brown’sche Bewegung
Also ist (Xtn )n∈N eine Cauchy-Folge in L2 (P) und hat wegen der Vollst¨andigkeit von L2 (P) (siehe Satz 7.3) einen L2 -Grenzwert Xt . Offenbar gilt dann auch f¨ur N ∈ N und 0 ≤ t1 , . . . , tN ≤ 1 . -N 2 n lim E = 0. Xti − Xti n→∞
i=1
n→∞
Speziell gilt also Xtn1 , . . . , XtnN −→ (Xt1 , . . . , XtN ) P-stochastisch.
Offenbar ist Xtn1 , . . . , XtnN Gauß-verteilt und zentriert. F¨ur s, t ∈ [0, 1] gilt n . - n A A B B n n ξk ½[0,s] , bk ξl ½[0,t] , bl Cov [Xs , Xt ] = E k=1
=
=
n k,l=1 n
A BA B E[ξk ξl ] ½[0,s] , bk ½[0,t] , bl
A
BA
½[0,s] , bk ½[0,t] , bk
k=1 n→∞ A
−→
l=1
B
B
½[0,s] , ½[0,t] = min(s, t).
Also ist (Xt )t∈[0,1] ein zentrierter, Gauß’scher Prozess mit Cov[Xs , Xt ] = min(s, t).
(21.23)
Bis auf die Stetigkeit der Pfade ist X also eine Brown’sche Bewegung. Eine stetige Version von X liefert jetzt der Satz von Kolmogorov-Chentsov (Satz 21.6). Wir k¨onnen X aber auch direkt als stetigen Prozess konstruieren, indem wir die ONB (bn )n∈N geschickt w¨ahlen, beispielsweise die Haar-Funktionen bn,k : Sei b0,1 ≡ 1 und f¨ur n ∈ N und k = 1, . . . , 2n sei ⎧ 2k − 2 2k − 1 n/2 ⎪ ⎪ ⎪ 2 , falls 2n+1 ≤ t < 2n+1 , ⎪ ⎪ ⎨ 2k − 1 2k bn,k (t) = −2n/2 , falls ≤ t < n+1 , ⎪ n+1 ⎪ 2 2 ⎪ ⎪ ⎪ ⎩ 0, sonst. Dann ist (bn,k ) ein Orthonormalsystem: bm,k , bn,l ! = ½{(m,k)=(n,l)} . Man pr¨uft ¨ ebenfalls leicht nach, dass (bn,k ) eine Basis ist (Ubung!). Wir definieren die Schauderfunktionen durch B A bn,k (s) λ(ds) = ½[0,t] , bn,k . Bn,k (t) = [0,t]
Seien (ξn,k )n∈N0 , k=1,...,2n unabh¨angig und N0,1 -verteilt. Wir setzen
21.5 Konstruktion durch L2 -Approximation
469
m
n
X :=
n 2
ξm,k Bm,k
m=0 k=1
und definieren Xt als den L2 (P)-Limes Xt = L2 − lim X n . n→∞
Satz 21.28 (Brown’sche Bewegung, L2 -Approximation). X ist eine Brown’sche Bewegung, und es gilt ; ; lim ;X n − X ;∞ = 0 P-fast sicher.
(21.24)
n→∞
Beweis. Da gleichm¨aßige Limiten stetiger Funktionen wieder stetig sind, folgt aus (21.24) die Stetigkeit von X und aus (21.23) (zusammen mit Satz 21.11), dass X eine Brown’sche Bewegung ist. Es reicht also, (21.24) zu zeigen. Da (C([0, 1]), · ∞ ) vollst¨andig ist, reicht es zu zeigen, dass P-fast sicher X n eine Cauchy-Folge in (C([0, 1]), · ∞ ) ist. Man beachte, dass Bn,k ∞ ≤ 2−n/2 und Bn,k Bn,l = 0, falls k = l. Also ist ; n ;
;X − X n−1 ; ≤ 2−n/2 max |ξn,k |, k = 1, . . . , 2n . ∞ Mithin ist '
P X − X n
n−1
∞ > 2
−n/4
(
n
≤
2
( ' P |ξn,k | > 2n/4
k=1
2 =2 √ 2π n
∞
2
e−x
/2
dx ≤ 2n+1 exp −2(n/2)−1 .
Offenbar ist
∞ n=1
2n/4
P[X n − X n−1 ∞ > 2−n/4 ] < ∞, also nach dem Lemma von
Borel-Cantelli '; ; P ;X n − X n−1 ;∞ > 2−n/4
( h¨ochstens endlich oft = 1.
Es folgt lim sup X m − X n ∞ = 0 P-fast sicher. n→∞ m≥n
2
Beispiel 21.29 (Stochastisches Integral). Wir nehmen an, dass (ξn )n∈N eine u.i.v. Folge von N0,1 verteilten Zufallsvariablen istsowie (bn )n∈N eine Orthonormaln basis von L2 ([0, 1]), sodass Wt := limn→∞ k=1 ξk ½[0,t] , bk !, t ∈ [0, 1], eine 2 Brown’sche Bewegung ist. F¨ur f ∈ L ([0, 1]) definieren wir I(f ) :=
∞ n=1
ξn f, bn !.
470
21 Die Brown’sche Bewegung
Nach der Parseval’schen Gleichung und der Bienaym´e Formel ist f 22 =
∞
) * ) * f, bn !2 = Var I(f ) = E I 2 ,
n=1
also gilt: I : L2 ([0, 1]) → L2 (P),
f → I(f )
ist eine Isometrie.
(21.25)
Wir nennen
t
f (s) dWs := I f ½[0,t] ,
t ∈ [0, 1], f ∈ L2 ([0, 1]),
0
0t das stochastische Integral von f bez¨uglich W . Durch Xt := 0 f (s) dWs wird ein stetiger, zentrierter, Gauß’scher Prozess definiert mit Kovarianzfunktion s∧t f 2 (u) du. Cov[Xs , Xt ] = 0
In der Tat ist klar, dass X zentriert und Gauß’sch ist (als Limes von Gauß’schen Partialsummenprozessen) mit der angegebenen Kovarianzfunktion. Ferner folgt die Stetigkeit wie f¨ur die Brown’sche Bewegung mit den vierten Momenten der Zuw¨achse, die wir bei normalverteilten Zufallsvariablen aus den Varianzen berechnen k¨onnen (vergleiche Satz 21.9). n In dem Spezialfall f = i=1 αi ½(ti−1 ,ti ] f¨ur gewisses n ∈ N und 0 = t0 < t1 < . . . < tn und α1 , . . . , αn ∈ R erhalten wir
1
f (s) dWs = 0
n
αi Wti − Wti−1 .
3
i=1
¨ Ubung 21.5.1. Man zeige mit Hilfe der Darstellung der Brown’schen Bewegung (Wt )t∈[0,1] als zuf¨allige Linearkombination der Schauder-Funktionen (Bn,k ), dass die Brown’sche Br¨ucke Y = (Yt )t∈[0,1] = (Wt −tW1 )t∈[0,1] ein stetiger, Gauß’scher Prozess mit Kovarianzfunktion Cov[Yt , Ys ] = (s ∧ t) − st ist. Man zeige ferner ) * ♣ PY = lim P W ∈ · |W1 ∈ (−ε, ε) . ε↓0
¨ Ubung 21.5.2. (Vergleiche Beispiel 8.31.) Sei T ∈ (0, 1) fest gew¨ahlt. Man zeige mit Hilfe einer Orthonormalbasis b0,1 , (cn,k ), (dn,k ) von geeignet modifizierten Haar-Funktionen (so, dass die cn,k von [0, T ] getragen werden und die dn,k von [T, 1]): Eine regul¨are Version der bedingten Verteilung von WT gegeben W1 wird beschrieben durch ♣ P[WT ∈ · |W1 = x] = NT x,T .
21.6 Der Raum C([0, ∞))
471
¨ Ubung 21.5.3. Definiere Y := (Yt )t∈[0,1] durch Y1 = 0 und Yt = (1 − t)
t
(1 − s)−1 dWs
f¨ur t ∈ [0, 1).
0
Man zeige, dass Y eine Brown’sche Br¨ucke ist. Hinweis: Zu zeigen ist, dass Y ein stetiger, Gauß’scher Prozess mit der richtigen Kovarianzfunktion ist. Speziell ist zu zeigen, dass limt↑1 Yt = 0 fast sicher. ♣ ¨ Ubung 21.5.4. Sei d ∈ N. Man zeige mit Hilfe einer geeigneten Orthonormalbasis auf [0, 1]d : (i) Es gibt einen Gauß’schen Prozess (Wt )t∈[0,1]d mit Kovarianzfunktion Cov[Wt , Ws ] =
d
ti ∧ si .
i=1
(ii) Es existiert eine Modifikation von W , sodass t → Wt fast sicher stetig ist (siehe Bemerkung 21.7). Ein Prozess W mit den Eigenschaften (i) und (ii) heißt Brown’sches Blatt.
♣
21.6 Der Raum C([0, ∞)) Sind Funktionale, die vom ganzen Pfad der Brown’schen Bewegung abh¨angen, messbar? Ist beispielsweise sup{Xt , t ∈ [0, 1]} messbar? F¨ur allgemeine stochastische Prozesse ist dies sicherlich falsch, weil das Supremum von mehr als abz¨ahlbar vielen Koordinaten abh¨angt. F¨ur Prozesse mit stetigen Pfaden ist dies jedoch richtig, wie wir in diesem Abschnitt in allgemeinem Rahmen zeigen werden. Es liegt nahe, dass man die Brown’sche Bewegung als kanonischen Prozess auf dem Raum Ω := C([0, ∞)) der stetigen Pfade begreift. Wir sammeln zun¨achst ein paar Eigenschaften von Ω = C([0, ∞)) ⊂ R[0,∞) . Wir definieren die Auswertungsabbildung Xt : Ω → R,
ω → ω(t),
(21.26)
also die Einschr¨ankung der kanonischen Projektion R[0,∞) → R auf Ω. ; ;
; ; F¨ur f, g ∈ C [0, ∞) und n ∈ N sei dn (f, g) := ;(f − g) ; ∧ 1 und [0,n] ∞
d(f, g) =
∞ n=1
2−n dn (f, g).
(21.27)
472
21 Die Brown’sche Bewegung
Satz 21.30. d ist eine vollst¨andige Metrik auf Ω := C [0, ∞) , die die Topologie der gleichm¨aßigen Konvergenz auf kompakten Mengen erzeugt. Der Raum (Ω, d) ist separabel, also polnisch. Beweis. Offenbar ist jedes dn eine vollst¨andige Metrik auf (C([0, n]), · ∞ ). Zu jeder Cauchy-Folge (fN ) in (Ω, d) und jedem n ∈ N existiert daher ein gn ∈ Ω N →∞ mit dn (fN , gn ) −→ 0. Offenbar ist gn (x) = gm (x) f¨ur jedes x ≤ m ∧ n, also existiert ein g ∈ Ω mit g(x) = gn (x) f¨ur jedes x ≤ n f¨ur jedes n ∈ N. Offenbar gilt N →∞ dann d(fN , g) −→ 0, also ist d vollst¨andig. Die Menge der Polynome mit rationalen Koeffizienten ist abz¨ahlbar und nach dem Satz von Weierstraß dicht in jedem (C([0, n]), · ∞ ) also dicht in (Ω, d). 2 Satz 21.31. Bez¨uglich der Borel’schen σ-Algebra B(Ω, d) sind die kanonischen Projektionen Xt , t ∈ [0, ∞) messbar. Andererseits erzeugen die Xt schon B(Ω, d). Es gilt also
(B(R))⊗[0,∞) = σ Xt , t ∈ [0, ∞) = B(Ω, d). Ω
Beweis. Die erste Gleichung gilt per definitionem. F¨ur die zweite betrachten wir die gegenseitigen Inklusionen. ⊂“ Offenbar ist jedes Xt : Ω −→ R stetig, also (B(Ω, d)–B(R)) messbar.
” Mithin ist σ Xt , t ∈ [0, ∞) ⊂ B(Ω, d). ⊃“ Wir ω ∈ Ω und f¨ur jedes ε∈ (0, 1) die ε-Umgebung zeigen, dass f¨ur jedes
” Uε (ω) = ω ∈ Ω : d(ω, ω ) < ε in σ Xt , t ∈ [0, ∞) liegt. Dies folgt aber aus der Darstellung Uε (ω) = ω ∈ Ω : |Xt (ω) − Xt (ω )| ∧ 1 < δ 2 t −1 δ∈Q+ δ<ε
=
δ∈Q+ δ<ε
t∈Q+
Xt−1
ω(t) − δ 2 t
−1
, ω(t) + δ 2 t
−1
2
.
+
t∈Q 21− t ≥δ
Im Folgenden sei stets A = σ Xt , t ∈ [0, ∞) . Korollar 21.32. Die Abbildung F1 : Ω → [0, ∞), ω → sup{ω(t) : t ∈ [0, 1]} ist A-messbar. Beweis. F1 ist stetig bez¨uglich d, also B(Ω, d)-messbar.
2
so existiert Ω ∈ A, P)), Ist B eine Brown’sche Bewegung (auf einem W-Raum (Ω, ) * A mit P Ω = 1 und B(ω) ∈ C([0, ∞)) f¨ur jedes ω ∈ Ω. Sei A = A und Ω
21.7 Konvergenz von W-Maßen auf C([0, ∞))
473
. Dann ist B : Ω −→ C([0, ∞)) messbar bez¨uglich (A, A). Bez¨uglich P=P A
des Bildmaßes P = P ◦ B −1 auf Ω = C([0, ∞)) ist der kanonische Prozess X = (Xt , t ∈ [0, ∞)) auf C([0, ∞)) eine Brown’sche Bewegung. Definition 21.33. Sei P das W-Maß auf Ω = C([0, ∞)), bez¨uglich dessen der kanonische Prozess X eine Brown’sche Bewegung ist. Dann heißt P Wiener-Maß. Das Tripel (Ω, A, P) heißt Wiener-Raum, und X heißt kanonische Brown’sche Bewegung oder Wiener-Prozess. Bemerkung 21.34. Manchmal soll eine Brown’sche Bewegung nicht in X0 = 0 starten, sondern in einem beliebigen Punkt x. Mit Px bezeichnen wir dann dasjenige = (Xt − x, t ∈ [0, ∞)) eine Brown’sche Bewegung Maß auf C([0, ∞)), f¨ur das X 3 (mit X0 = 0) ist. ¨ Ubung 21.6.1. Man zeige: Die Abbildung F∞ : Ω → [0, ∞], die durch ω → sup{ω(t) : t ∈ [0, ∞)} definiert wird, ist A-messbar. ♣
21.7 Konvergenz von W-Maßen auf C([0, ∞)) Seien X und (X n )n∈N Zufallsvariablen mit Werten in C([0, ∞)), also stetige stochastische Prozesse, mit Verteilungen PX und (PX n )n∈N . Definition 21.35. Wir sagen, dass die endlichdimensionalen Verteilungen (finite dimensional distributions) von (X n ) gegen die von X konvergieren, falls f¨ur jedes k ∈ N und t1 , . . . , tk ∈ [0, ∞) gilt n→∞
(Xtn1 , . . . , Xtnk ) =⇒ (Xt1 , . . . , Xtk ). n→∞
n→∞
fdd
fdd
Wir schreiben dann X n =⇒ X oder PX n −→ PX . n→∞
n→∞
fdd
fdd
Lemma 21.36. Aus Pn −→ P und Pn −→ Q folgt P = Q. Beweis. Nach Satz 14.12(iii) legen die endlichdimensionalen Verteilungen P eindeutig fest. 2 Satz 21.37. Schwache Konvergenz in M1 (Ω, d) impliziert fdd-Konvergenz: n→∞
Pn −→ P
=⇒
n→∞
Pn −→ P. fdd
474
21 Die Brown’sche Bewegung
Beweis. Sei k ∈ N und t1 , . . . , tk ∈ [0, ∞). Die Abbildung ϕ : C([0, ∞)) → Rk ,
ω → (ω(t1 ), . . . , ω(tk ))
ist stetig. Nach dem Continuous Mapping Theorem (Satz 13.25 auf Seite 257) gilt n→∞ n→∞ 2 Pn ◦ ϕ−1 −→ P ◦ ϕ−1 , also Pn −→ P . fdd
Die Umkehrung des Satzes ist nicht richtig. Es gilt aber Folgendes. Satz 21.38. Seien (Pn )n∈N und P W-Maße auf C([0, ∞)). Dann sind a¨ quivalent: n→∞
(i) Pn −→ P und (Pn )n∈N ist straff. fdd n→∞
(ii) Pn −→ P schwach. Beweis. (ii) =⇒ (i)“ ” mit E = C([0, ∞))).
Dies folgt direkt aus dem Satz von Prohorov (Satz 13.29
(i) =⇒ (ii)“ Nach dem Satz von Prohorov ist (Pn )n∈N relativ folgenkom” pakt. Sei Q ein Limespunkt von (Pnk )k∈N entlang einer Teilfolge (nk ). Dann gilt fdd
Pnk −→ Q, k → ∞. Nach Lemma 21.36 ist P = Q.
2
Als n¨achstes wollen wir uns ein n¨utzliches Kriterium f¨ur Straffheit von Mengen {Pn } ⊂ M1 (C([0, ∞))) verschaffen. Wir beginnen mit einer Wiederholung der Charakterisierung von Relativkompaktheit in C([0, ∞)) von Arzel`a und Ascoli (siehe etwa [166, Satz II.3.4]). F¨ur N, δ > 0 und ω ∈ C([0, ∞)) setze
V N (ω, δ) := sup |ω(t) − ω(s)| : |t − s| ≤ δ, s, t ≤ N . Satz 21.39 (Arzel`a-Ascoli). Eine Menge A ⊂ C([0, ∞)) ist genau dann relativ kompakt, wenn die beiden folgenden Bedingungen gelten. (i) {ω(0), ω ∈ A} ⊂ R ist beschr¨ankt. (ii) F¨ur jedes N gilt lim sup V N (ω, δ) = 0. δ↓0 ω∈A
Satz 21.40. Eine Familie (Pi , i ∈ I) von W-Maßen auf C([0, ∞)) ist genau dann schwach relativkompakt, wenn die beiden folgenden Bedingungen gelten. (i) (Pi ◦ X0−1 , i ∈ I) ist straff, das heißt, f¨ur jedes ε > 0 gibt es ein K > 0, sodass (21.28) Pi ({ω : |ω(0)| > K}) ≤ ε f¨ur jedes i ∈ I.
21.7 Konvergenz von W-Maßen auf C([0, ∞))
475
(ii) F¨ur alle η, ε > 0 und N ∈ N gibt es ein δ > 0, sodass Pi ({ω : V N (ω, δ) > η}) ≤ ε
f¨ur jedes i ∈ I.
(21.29)
Beweis. =⇒ “ Nach dem Satz von Prohorov (Satz 13.29) folgt aus der schwa” chen Relativkompaktheit von (Pi , i ∈ I) die Straffheit dieser Familie. Zu jedem ε > 0 gibt es daher eine kompakte Menge A ⊂ C([0, ∞)) mit Pi (A) > 1 − ε f¨ur jedes i ∈ I. Aus der Charakterisierung der Kompaktheit von A im Satz von Arzel`a-Ascoli folgen nun (i) und (ii). ⇐= “ Wir nehmen jetzt an, dass (i) und (ii) gelten. Seien also f¨ur ε > 0 und ” k, N ∈ N die Zahlen Kε und δN,k,ε so gew¨ahlt, dass
ε sup Pi {ω : |ω(0)| > Kε } ≤ 2 i∈I und
Setze
1 2 1 N ω : V (ω, δN,k,ε ) > sup Pi ≤ 2−N −k−1 ε. k i∈I
2 1 f¨ur jedes k ∈ N . CN,ε = ω : |ω(0)| ≤ Kε , V (ω, δN,k,ε ) ≤ k Nach dem Satz von Arzel`a-Ascoli ist Cε := N ∈N CN,ε in C([0, ∞)) relativ kompakt, und wir haben 1
N
Pi (Cεc ) ≤
∞
ε + Pi ω : V N (ω, δN,k,ε ) > 1/k ≤ ε 2
f¨ur jedes i ∈ I.
k,N =1
Es folgt die Aussage.
2
Korollar 21.41. Sind (Xi , i ∈ I) und (Yi , i ∈ I) Familien von Zufallsvariablen in C([0, ∞)), und sind (PXi , i ∈ I) und (PYi , i ∈ I) straff, dann ist auch (PXi +Yi , i ∈ I) straff. Beweis. Wende die Dreiecksungleichung an, um im vorigen Satz (i) und (ii) nachzuweisen. 2 Ein wichtiges Hilfsmittel, um schwache Relativkompaktheit nachzuweisen, ist das folgende.
476
21 Die Brown’sche Bewegung
¨ schwache Relativkompaktheit). Satz 21.42 (Kolmogorov’sches Kriterium fur Sei (X i , i ∈ I) eine Folge von stetigen stochastischen Prozessen. Es gelte: (i) Die Familie (P[X0i ∈ · ], i ∈ I) der Startverteilungen ist straff. (ii) Es gibt Zahlen C, α, β > 0, sodass f¨ur alle s, t ∈ [0, ∞) und jedes i ∈ I gilt ) * E |Xsi − Xti |α ≤ C |s − t|β+1 . Dann ist die Familie (PX i , i ∈ I) = (L[X i ], i ∈ I) von Verteilungen der X i schwach relativkompakt in M1 (C([0, ∞))). Beweis. Wir pr¨ufen die Bedingungen von Satz 21.40. Die erste Bedingung aus Satz 21.40 ist genau (i). Nach dem Satz von Kolmogorov-Chentsov (Satz 21.6(ii)) gibt es zu γ ∈ (0, β/α) und ε > 0 sowie N > 0 eine Konstante K, sodass f¨ur jedes i ∈ I gilt ) * P |Xti − Xsi | ≤ K |t − s|γ f¨ur alle s, t ∈ [0, N ] ≥ 1 − ε. Offenbar impliziert dies (21.29) mit δ = (η/K)1/γ .
2
21.8 Satz von Donsker Seien Y1 , Y2 , . . . u.i.v. Zufallsvariablen mit E[Y1 ] = 0 und Var[Y1 ] = σ 2 > 0. F¨ur nt t > 0 sei Stn = i=1 Yi und S tn = √σ12 n Stn . Nach dem zentralen Grenzwertsatz n→∞ gilt L[S tn ] −→ N0,t . Bezeichnet B = (Bt , t ≥ 0) eine Brown’sche Bewegung, so gilt also n→∞ L[S tn ] −→ L[Bt ] f¨ur jedes t > 0. Nach dem mehrdimensionalen Zentralen Grenzwertsatz (Satz 15.56) gilt nun auch (f¨ur N ∈ N und t1 , . . . , tN ∈ [0, ∞)) L[(S tn1 , . . . , S tnN )] −→ L[(Bt1 , . . . , BtN )]. n→∞
(21.30)
Wir definieren jetzt S¯n wie S n , aber linear interpoliert 1 S¯tn = √ σ2 n Dann gilt f¨ur ε > 0
nt
i=1
Yi +
(tn − tn) √ Ynt+1 . σ2 n
(21.31)
21.8 Satz von Donsker
477
) ) * * 1 n→∞ 1 1 P S tn − S¯tn > ε ≤ ε−2 E (S tn − S¯tn )2 ≤ 2 E[Y12 ] = 2 −→ 0. ε n σ2 ε n Nach dem Satz von Slutzky (Satz 13.18) gilt daher die Konvergenz der endlichdimensionalen Verteilungen gegen das Wiener-Maß PW : n→∞
PS¯n =⇒ PW .
(21.32)
fdd
Wir wollen diese Konvergenzaussage verst¨arken zur schwachen Konvergenz der WMaße auf C([0, ∞)). Dazu formulieren wir als Hauptsatz dieses Abschnitts den Funktionalen Zentralen Grenzwertsatz, der in dieser Allgemeinheit auf Donsker [38] zur¨uckgeht. S¨atze von diesem Typ werden auch Invarianzprinzipien genannt, weil die Grenzverteilung die selbe ist f¨ur alle Verteilungen von Yi mit Erwartungswert 0 und selber Varianz. Satz 21.43 (Donsker’sches Invarianzprinzip). Im Sinne der schwachen Konvergenz auf C([0, ∞)) konvergieren die Verteilungen von S¯n gegen das Wiener-Maß n→∞
L[S¯n ] −→ PW .
(21.33)
Beweis. Wegen (21.32) und Satz 21.38 reicht es zu zeigen, dass (L[S¯n ], n ∈ N) straff ist. Daf¨ur m¨ochten wir das Kolmogorov’sche Momentenkriterium anwenden. Wie wir schon beim Beweis der Existenz der Brown’schen Bewegung gesehen haben, reichen hierf¨ur aber zweite Momente nicht aus, sondern wir ben¨otigen vierte Momente, damit wir β > 0 w¨ahlen k¨onnen. Die Strategie ist also, zun¨achst die Yi abzuschneiden, um vierte Momente zu erhalten, und dann f¨ur den abgeschnittenen Teil und den Hauptteil separat Straffheit zu zeigen. F¨ur K > 0 definieren wir YiK := Yi ½{|Yi |≤K/2} −E[Yi ½{|Yi |≤K/2} ]
und
ZiK := Yi −YiK
f¨ur i ∈ N.
K→∞
Dann gilt E[YiK ] = E[ZiK ] = 0 sowie Var[ZiK ] −→ 0 und Var[YiK ] ≤ σ 2 , i ∈ N. Außerdem ist offenbar |YiK | ≤ K f¨ur jedes i. Setze TnK :=
n
YiK
und
i=1
UnK :=
n
ZiK
f¨ur n ∈ N.
i=1
¯tK,n die linearen Interpolationen von Es seien T¯tK,n und U 1 K,n Tnt T tK,n := √ σ2n
und
tK,n := √ 1 U K,n U nt σ2 n
f¨ur t ≥ 0.
¯ K,n . Nach Korollar 21.41 reicht es zu zeigen, Offenbar ist S¯n = T¯ K,n + U ¯ Kn ,n ], n ∈ N) und dass f¨ur eine noch zu w¨ahlende Folge (Kn )n∈N gilt: (L[U Kn ,n ¯ ], n ∈ N) sind straff. (L[T
478
21 Die Brown’sche Bewegung
Wir betrachten zun¨achst den Restterm. U K ist ein Martingal. Die Doob’sche Ungleichung (Satz 11.2) liefert + , * ) √ P sup |UlK | > ε n ≤ ε−2 Var Z1K f¨ur jedes ε > 0. l=1,...,n
Gilt jetzt Kn ↑ ∞, n → ∞, so haben wir f¨ur jedes N > 0 , + Kn ,n * n→∞ ) N ¯ > ε ≤ 2 Var Z1Kn −→ 0, P sup Ut ε t∈[0,N ] n→∞
¯ Kn ,n ], n ∈ N) straff. ¯ Kn ,n =⇒ 0 in C([0, ∞)). Speziell ist (L[U also U Wir berechnen nun f¨ur N > 0 und s, t ∈ [0, N ] die vierten Momente der DifferenKn ,n zen T¯t+s − T¯sKn ,n des Hauptteils. Im Folgenden setzen wir Kn = n1/4 . Sei nun n ∈ N fest gew¨ahlt. Wir unterscheiden zwei F¨alle. Fall 1: t < n−1 .
Sei k := (t + s)n. Ist sn ≥ k, so ist tn Kn ,n Kn − T¯sKn ,n = √ Yk+1 . T¯t+s nσ 2
Ist sn < k, so ist 1 Kn ,n Kn T¯t+s ((t + s)n − k)Yk+1 − T¯sKn ,n = √ + (k − sn)YkKn . nσ 2 In beiden F¨allen ist
√ Kn ,n T¯t+s − T¯sKn ,n ≤ t n |Y Kn | + |Y Kn | , k k+1 σ
also ' ' 4 ( ( n2 t4 Kn ,n Kn Kn 2 2 ≤ E T¯t+s − T¯sKn ,n (2K ) E |Y | + |Y | n 1 2 σ4 5/2 4 * ) 16 16n t ≤ Var Y1Kn ≤ 2 t3/2 . σ4 σ
(21.34)
Fall 2: t ≥ n−1 . Mit dem binomischen Lehrsatz erhalten wir (beachte, ) * dass die gemischten Terme mit ungeraden Momenten wegfallen, wegen E Y1Kn = 0) ) * ) * n(n − 1) ) Kn 2 *2 E (TnKn )4 = n E (Y1Kn )4 + E (Y1 ) 2 n(n − 1) 4 σ . ≤ nKn2 σ 2 + 2
(21.35)
Wir bemerken, dass ) * angige, reelle Zufallsvariablen X, Y mit E[X] = ) *f¨ur unabh¨ E[Y ] = 0 und E X 4 , E Y 4 < ∞ sowie f¨ur a ∈ [−1, 1] gilt:
21.8 Satz von Donsker
479
* ) * ) ) * ) * ) * E (aX + Y )4 = a4 E X 4 + 6 a2 E X 2 E Y 2 + E Y 4 ) * ) * ) * ) * ≤ E X 4 + 6 E X 2 E Y 2 + E Y 4 = E[(X + Y )4 ]. Wir wenden dies zweifach an (mit a = (t + s)n − (t + s)n und a = sn − sn) und erhalten (mit der groben Absch¨atzung (t + s)n − sn ≤ tn + 2 ≤ 3tn) aus (21.35) (wegen t ≤ N ) ) Kn ,n ) Kn * * Kn 4 E (T¯t+s − T¯sKn ,n )4 ≤ n−2 σ −4 E (T (t+s)n − Tsn ) ) Kn = n−2 σ −4 E (T (t+s)n
−sn )
4
*
3tnKn2 3 + 3t2 = 2 tn−1/2 + 3t2 n2 σ 2 σ √ 3 3 ≤ 2 t3/2 + 3t2 ≤ + 3 N t3/2 . σ σ2 ≤
(21.36)
Nach (21.34) und (21.36) gibt es also zu jedem N > 0 eine Konstante C = C(N, σ 2 ), sodass f¨ur jedes n ∈ N und alle s, t ∈ [0, N ] gilt ) Kn ,n * − T¯sKn ,n )4 ≤ C t3/2 . E (T¯t+s Nach dem Kolmogorov’schen Momentenkriterium (Satz 21.42 mit α = 4 und β = 1/2) ist also (L[T¯Kn ,n ], n ∈ N) straff in M1 (C([0, ∞))). 2 ¨ Ubung 21.8.1. Seien X1 , X2 , . . . u.i.v. Zufallsvariablen
stetiger Verteilungs n mit funktion F . Es sei Gn : [0, 1] → [−1, 1], t → n−1/2 i=1 ½[0,t] (F (Xi )) − t und Mn := Gn ∞ . Ferner sei M = supt∈[0,1] |Bt |, wo B eine Brown’sche Br¨ucke ist. (i) Man zeige E[Gn (t)] = 0 und Cov[Gn (s), Gn (t)] = s ∧ t − st f¨ur s, t ∈ [0, 1].
(ii) Man zeige E[(Gn (t) − Gn (s))4 ] ≤ C (t − s)2 + |t − s|/n f¨ur ein C > 0. (iii) Man folgere, dass eine geeignete stetige Version von G n schwach gegen B n konvergiert. Beispielsweise kann Hn (t) = n−1/2 i=1 hn (F (Xi ) − t) − t genommen werden, wo hn (s) = 1 − (s/εn ∨ 0) ∧ 1 f¨ur eine geeignete Folge εn ↓ 0. n→∞
(iv) Man zeige schließlich Mn =⇒ M . Bemerkung: Die Verteilung von M l¨asst sich durch die Formel von KolmogorovSmirnov ([103] und [155]) ausdr¨ucken (siehe etwa [134]): P[M > x] = 2
∞
2
(−1)n−1 e−2n
x2
.
(21.37)
n=1
Vergleiche hierzu auch (21.20). Mit Hilfe der Statistik Mn k¨onnen Zufallsvariablen bei bekannter Verteilung auf Unabh¨angigkeit getestet werden. Seien X1 , X2 , . . .
480
21 Die Brown’sche Bewegung
˜1 , X ˜ 2 , . . . unabh¨angige Zufallsvariablen mit unbekannten, stetigen Verteiund X lungsfunktionen F und F˜ und empirischen Verteilungsfunktionen Fn und F˜n . Ferner sei Dn := sup |Fn (t) − F˜n (t)|. t∈R
3 Unter der Annahme, dass F = F˜ gilt, konvergiert n/2 Dn in Verteilung gegen M . Diese Tatsache ist Grundlage von nichtparametrischen Tests auf Verteilungsgleichheit. ♣
21.9 Pfadweise Konvergenz von Verzweigungsprozessen∗ In diesem Abschnitt untersuchen wir die Konvergenz reskalierter Galton-Watson¨ Prozesse (Verzweigungsprozesse). Ahnlich wie f¨ur Summen unabh¨angiger Zufallsvariablen zeigen wir zun¨achst die Konvergenz zu einem festen Zeitpunkt gegen die Verteilungen eines Grenzprozesses. Hernach zeigen wir Konvergenz der endlichdimensionalen Verteilungen und schließlich mit Hilfe des Kolmogorov’schen Straffheitskriteriums die Konvergenz im Pfadraum C([0, ∞)). Wir betrachten einen Galton-Watson-Prozess (Zn )n∈N0 mit geometrischer Nachkommenverteilung p(k) = 2−k−1 f¨ur k ∈ N0 . Das heißt, wir betrachten u.i.v. Zufallsvariablen Xn,i , n, i ∈ N0 auf N0 mit P[Xn,i = k] = p(k), k ∈ N0 und definieren, ausgehend vom Startzustand Z0 , rekursiv Zn Xn,i . Zn+1 = i=1
¨ Z ist also eine Markovkette mit Ubergangswahrscheinlichkeiten p(i, j) = p∗i (j), ∗i wobei p die i-te Faltungspotenz von p ist. Mit anderen Worten: Sind Z, Z 1 , . . . , Z i unabh¨angige Kopien des Galton-Watson-Prozesses, mit Z0 = i und Z01 = . . . = Z0i = 1, so ist D (21.38) Z = Z 1 + . . . + Z i. Wir betrachten nun die Erzeugendenfunktion ψ (1) (s) := ψ(s) := E[sX1,1 ] von X1,1 , s ∈ [0, 1], und deren Iterierte ψ (n) := ψ (n−1) ◦ ψ f¨ur n ∈ N. Dann ist nach
i Lemma 3.10 Ei [sZn ] = E1 [sZn ]i = ψ(n) (s) . F¨ur die geometrische Verteilung k¨onnen wir ψ (n) leicht ausrechnen. Lemma 21.44. F¨ur den Verzweigungsprozess mit kritischer, geometrischer Nachkommenverteilung ist die n-te Iterierte der Erzeugendenfunktion ψ (n) (s) =
n − (n − 1)s . n + 1 − ns
21.9 Pfadweise Konvergenz von Verzweigungsprozessen∗
481
Beweis. Wir berechnen ψ(s) =
∞
1 . −s + 2
2−k−1 sk =
k=0
Um die Iterierten auszurechnen, betrachten wir zun¨achst allgemeine linear rationale . F¨ur f von dieser Form definieren wir die Matrix Funktionen der Form f (x) = ax+b cx+d ab Mf = . F¨ur zwei linear rationale Funktionen f und g ist Mf ◦g = Mf · Mg . cd Wir berechnen leicht 0 1 −1 2 −2 3 2 3 Mψ = , Mψ = , Mψ = −1 2 −2 3 −3 4 und induktiv
Mψn
=
−(n − 1)
n
−n
n+1
2
.
Setzen wir s = e−λ , so erhalten wir die Laplace-Transformierten von Zn Ei [e−λZn ] = ψ (n) (e−λ )i . Nach Beispiel 6.29 ergeben sich die Momente von Zn durch Differenzieren. Es gilt also: Lemma 21.45. Die Momente von Zn sind Ei [Znk ] = (−1)k
dk (n) −λ i . ψ (e ) dλk λ=0
(21.39)
Speziell sind die ersten sechs Momente Ei [Zn ] = i Ei [Zn2 ] = 2i n + i2 , Ei [Zn3 ] = 6i n2 + 6i2 n + i3 , Ei [Zn4 ] = 24i n3 + 36i2 n2 + (12i3 + 2i) n + i4 , Ei [Zn5 ] Ei [Zn6 ]
4
2
3
3
2
(21.40) 4
2
= 120i n + 240i n + (120i + 30i) n + (20i + 10i ) n + i5 , = 720i n5 + 1800i2 n4 + (1200i3 + 360i) n3 , + (300i4 + 240i2 )n2 + (30i5 + 30i3 + 2i)n + i6 .
Insbesondere ist Z ein Martingal, und die ersten sechs zentrierten Momente sind Ei [(Zn − i)2 ] = 2i n, Ei [(Zn − i)3 ] = 6i n2 , Ei [(Zn − i)4 ] = 24i n3 + 12i2 n2 + 2i n,
(21.41)
Ei [(Zn − i) ] = 120i n + 120i n + 30i n , 5
4
2
3
2
Ei [(Zn − i)6 ] = 720i n5 + 1080i2 n4 + (120i3 + 360i) n3 + 60i2 n2 + 2i n.
482
21 Die Brown’sche Bewegung
Beweis. Die genauen Formeln f¨ur die ersten sechs Momente erh¨alt man durch stures Ausrechnen von (21.39). 2 Wir betrachten jetzt die folgende Reskalierung: Wir fixieren x ≥ 0 und starten mit Z Z0 = nx Individuen und betrachten Z˜tn := tn f¨ur t ≥ 0. Wir schreiben kurz n Lx [Z˜ n ] := Lnx [(n−1 Znt )t≥0 ].
(21.42)
Offenbar ist Ex [Z˜tn ] = nx ur jedes n, also ist (Lx [Z˜tn ], n ∈ N) straff. Indem n ≤ x f¨ wir Laplace-Transformierte betrachten, sehen wir sogar, dass f¨ur jedes λ ≥ 0 die Folge der Verteilungen konvergiert: nx ˜n lim Ex [e−λZt ] = lim ψ (tn) (e−λ/n ) n→∞ n→∞ nx nt − (nt − 1)e−λ/n = lim n→∞ nt + 1 − nt e−λ/n nx 1 − e−λ/n = lim 1 − (21.43) n→∞ n(1 − e−λ/n )t + 1 x n(1 − e−λ/n ) = exp − lim n→∞ n(1 − e−λ/n )t + 1 λ (x/t) := ψt (λ)x . = exp − λ + 1/t Die Funktion ψtx ist aber die Laplace-Transformierte der zusammengesetzten Poisson-Verteilung CPoi(x/t) exp1/t (siehe Definition 16.3). Wir betrachten jetzt den stochastischen Kern κt (x, dy) := CPoi(x/t) exp1/t (dy). Dies ist genau derjenige Kern auf [0, ∞), dessen Laplace-Transformierte gegeben ist durch ∞ κt (x, dy) e−λy = ψt (λ)x .
(21.44)
0
Lemma 21.46. (κt )t≥0 ist eine Markov’sche Halbgruppe, und es existiert ein Mar¨ Px [Yt ∈ dy] = κt (x, dy). kovprozess (Yt )t≥0 mit Ubergangskernen Beweis. Es reicht, die Chapman-Kolmogorov Gleichung κt · κs = κs+t zu zeigen. Wir berechnen die Laplace-Transformierten dieser Kerne: F¨ur λ ≥ 0 erhalten wir durch zweimaliges Anwenden von (21.44)
21.9 Pfadweise Konvergenz von Verzweigungsprozessen∗
κt (x, dy)κs (y, dz) e−λz =
λy κt (x, dy) exp − λs + 1 λ
= exp −
λs+1 λ λs+1 t +
1
483
x
λx = exp − λ(t + s) + 1 = κt+s (x, dz) e−λz .
2
Als n¨achstes zeigen wir, dass Y eine stetige Version besitzt. Daf¨ur berechnen wir Momente und ziehen den Satz von Kolmogorov-Chentsov (Satz 21.6) heran. Lemma 21.47. Wir erhalten die k-ten Momente von Yt durch Ableiten der LaplaceTransformierten dk , Ex [Ytk ] = (−1)k k (ψ(λ)x ) dλ λ=0 λ wobei ψt (λ) = exp − λt+1 . Speziell sind die ersten Momente Ex [Yt ] = x, Ex [Yt2 ] = 2x t + x2 , Ex [Yt3 ] = 6x t2 + 6x2 t + x3 ,
(21.45)
Ex [Yt4 ] = 24x t3 + 36x2 t2 + 12x3 t + x4 , Ex [Yt5 ] = 120x t4 + 240x2 t3 + 120x3 t2 + 20x4 t + x5 , Ex [Yt6 ] = 720x t5 + 1800x2 t4 + 1200x3 t3 + 300x4 t2 + 30x5 t + x6 . Es ist also Y ein Martingal, und die ersten zentrierten Momente sind Ex [(Yt − x)2 ] = 2x t, Ex [(Yt − x)3 ] = 6x t2 , Ex [(Yt − x)4 ] = 24x t3 + 12x2 t2 ,
(21.46)
Ex [(Yt − x) ] = 120x t + 120x t , 5
4
2 3
Ex [(Yt − x)6 ] = 720x t5 + 1080x2 t4 + 120x3 t3 . ¨ Satz 21.48. Es existiert eine stetige Version des Markovprozesses Y mit Ubergangskernen (κt )t≥0 gegeben durch (21.44). Diese Version nennen wir Feller’sche Verzweigungsdiffusion oder den Feller’schen stetigen Verzweigungsprozess. Beweis. F¨ur festes N > 0 und s, t ∈ [0, N ] gilt
484
21 Die Brown’sche Bewegung
) * ) ) * * Ex (Yt+s − Ys )4 = Ex EYs [(Yt − Y0 )4 ] = Ex 24Ys t3 + 12Ys2 t2
= 24x t3 + 12(2sx + x2 ) t2 ≤ 48N x + 12x2 t2 . Mithin erf¨ullt Y die Bedingung aus Satz 21.6 (Kolmogorov-Chentsov) mit α = 4 und β = 1. 2 Bemerkung 21.49. (i) Indem man alle h¨oheren Momente heranzieht, kann man zeigen, dass die Pfade von Y H¨older-stetig sind von jeder Ordnung γ ∈ (0, 12 ). (ii) Man kann zeigen, dass Y die (eindeutige, starke) L¨osung der stochastischen (Itˆo’schen) Differentialgleichung (siehe Beispiele 26.11 und 26.31) 3 dYt = 2Yt dWt (21.47) ist, wobei W eine Brown’sche Bewegung ist.
3
n→∞ Satz 21.50. Es gilt Lx [Z˜ n ] −→ Lx [Y ]. fdd
Beweis. Wie in (21.43) erhalten wir f¨ur 0 ≤ t1 ≤ t2 und λ1 , λ2 ≥ 0 sowie x ≥ 0 ( ( ' ' ' ( ˜n ˜n ˜n ˜n lim Ex e−(λ1 Zt1 +λ2 Zt2 ) = lim Ex Ex e−λ2 Zt2 Z˜tn1 e−λ1 Zt1 n→∞ n→∞ + , λ2 ˜n = lim Ex exp − Z˜tn1 e−λ1 Zt1 n→∞ λ2 (t2 − t1 ) + 1 ⎛ ⎞ λ2 + λ x 1 λ2 (t2 −t1 )+1 ⎠ = exp ⎝− λ2 t + λ + 1 1 1 λ2 (t2 −t1 )+1 ) * = Ex exp(−(λ1 Yt1 + λ2 Yt2 )) . Wir erhalten also ) * n→∞ ) * Lx λ1 Z˜tn1 + λ2 Z˜tn2 −→ Lx λ1 Yt1 + λ2 Yt2 . Nach der Cram´er-Wold Device (Satz 15.55) folgt hieraus ) * n→∞ ) * −→ Lx Yt1 , Yt2 . Lx Z˜tn1 , Z˜tn2 Wir k¨onnen dieses Vorgehen jetzt iterieren und erhalten so f¨ur jedes k ∈ N und 0 ≤ t1 ≤ t2 ≤ . . . ≤ tk ) * n→∞ ) * Lx Z˜tni i=1,...,k −→ Lx Yti i=1,...,k . Dies ist aber die Behauptung.
2
Wir zeigen nun, dass die Konvergenz sogar im Pfadraum gilt. Hierzu m¨ussen wir den reskalierten Prozess noch stetig machen. Wir nehmen an, dass (Zin )i∈N0 , n ∈ N
21.9 Pfadweise Konvergenz von Verzweigungsprozessen∗
485
eine Folge von Galton-Watson-Prozessen ist, mit Z0n = nx. Wir definieren die linearen Interpolationen 1
n n n + Ztn Z¯tn := t − n−1 tn Ztn+1 − Ztn . n
Satz 21.51 (Lindvall (1972)). Die reskalierten Galton-Watson-Prozesse Z¯ n konvergieren f¨ur n → ∞ gegen die Feller’sche Diffusion Y im Sinne der schwachen Konvergenz in M1 (C([0, ∞))): n→∞ Lx [Z¯ n ] −→ Lx [Y ].
Beweis. Die Konvergenz der endlichdimensionalen Verteilungen ist schon gezeigt. Nach Satz 21.38 reicht es, die Straffheit von (Lx [Z¯ n ], n ∈ N) in M1 (C([0, ∞))) zu zeigen. Hierzu verwenden wir das Kriterium von Kolmogorov ) n(Satz 21.42 * mit α = 4 und β = 1). Wir berechnen also die vierten Momente Ex (Z¯t+s − Z¯sn )4 f¨ur s, t ∈ [0, N ] und f¨ur festes N > 0. Wir unterscheiden zwei F¨alle. Fall 1: t < n1 . Sei k = (t + s)n. Wir nehmen zun¨achst an, dass sn = k. Dann ist (nach Lemma 21.45) ) n * ) n * − Z¯sn )4 = n−4 (tn)4 Enx (Zk+1 − Zkn )4 Ex (Z¯t+s ) * = t4 Enx 24Zkn + 12(Zkn )2 + 2Zkn
= t4 26nx + 24nxk + nx2 ≤ 26x t3 + 24xs t2 + x2 t2 ≤ (50N x + x2 ) t2 . Der Fall sn = k − 1 liefert eine a¨ hnliche Absch¨atzung. Insgesamt erhalten wir eine Konstante C = C(N, x) mit ) n * Ex (Z¯s+t − Z¯sn )4 ≤ C t2
f¨ur alle s, t ∈ [0, N ] mit t <
1 . n
(21.48)
Fall 2: t ≥ n1 . Wir setzen jetzt k := (t + s)n − sn ≤ tn + 1 ≤ 2tn. Dann ist (nach Lemma 21.45) ) n * − Z¯sn )4 Ex (Z¯t+s ) n * n ≤ n−4 Enx (Z(t+s)n − Zsn )4 ) * n [(Zkn − Z0n )4 ] = n−4 Enx EZ sn ' ( n n n (21.49) = n−4 Enx 24Zsn k 3 + 12(Zsn )2 k 2 + 2Zsn k
≤ n−4 24xn(2tn)3 + (24xn sn + 12x2 n2 )(2tn)2 + 4xtn2 ≤ 192xt3 + (96xs + 48x2 )t2 + 4xn−1 t2 ≤ (292N x + 48x2 ) t2 .
486
21 Die Brown’sche Bewegung
Die Absch¨atzungen aus (21.48) und (21.49) ergeben zusammen, dass die Voraussetzungen des Kolmogorov’schen Straffheitskriteriums (Satz 21.42) erf¨ullt sind mit 2 α = 4 und β = 1. Also ist die Folge (Lx [Z¯ n ], n ∈ N) straff.
21.10 Quadratische Variation und lokale Martingale Nach dem Satz von Paley-Wiener-Zygmund (Satz 21.17) sind die Pfade t → Wt der Brown’schen Bewegung fast sicher nirgends differenzierbar, sind also von lokal unendlicher Variation. Insbesondere l¨asst sich das in Beispiel 21.29 betrachtete 01 stochastische Integral 0 f (s) dWs nicht als Lebesgue-Stieltjes Integral verstehen. Um jedoch Integrale von diesem Typ auch f¨ur eine gr¨oßere Klasse von Integranden und Integratoren zu definieren, wollen wir hier vorbereitend die Pfadeigenschaften der Brown’schen Bewegung, und allgemeiner von stetigen lokalen Martingalen, genauer untersuchen. Definition 21.52. Sei G : [0, ∞) → R stetig. Wir definieren f¨ur jedes t ≥ 0 die Variation bis t durch Vt1 (G)
:= sup
1 n−1
2 Gti+1 − Gti : 0 = t0 ≤ t1 ≤ . . . ≤ tn = t, n ∈ N .
i=0
Wir sagen, dass G von lokal endlicher Variation ist, falls Vt1 (G) < ∞ f¨ur alle t ≥ 0 und schreiben CV f¨ur den Vektorraum der stetigen Funktionen G mit stetiger Variation t → Vt1 (G). Bemerkung 21.53. Offenbar gilt V 1 (F + G) ≤ V 1 (F ) + V 1 (G) und V 1 (αG) = |α| V 1 (G) f¨ur alle stetigen F, G : [0, ∞) → R und f¨ur alle α ∈ R. Also ist CV tats¨achlich ein Vektorraum. 3 0t Bemerkung 21.54. (i) Ist G von der Form Gt = 0 f (s) ds f¨ur eine lokal inte0t grierbare Funktion f , so ist G ∈ CV mit Vt1 (G) = 0 |f (s)| ds. (ii) Ist G = G+ − G− die Differenz zweier stetiger, monoton wachsender Funktionen G+ und G− , so ist − + − Vt1 (G) − Vs1 (G) ≤ (G+ t − Gs ) + (Gt − Gs )
f¨ur alle t > s,
(21.50)
also ist G ∈ CV . Gleichheit gilt in (21.50), wenn G− und G+ nicht auf den selben ” Mengen wachsen“, also formal gesprochen die Verteilungsfunktionen gegenseitig singul¨arer Maße μ− und μ+ sind. Diese Maße μ− und μ+ sind dann die JordanZerlegung des signierten Maßes μ = μ+ − μ− , dessen Verteilungsfunktion G ist. Das Lebesgue-Stieltjes Integral wird dann definiert durch
21.10 Quadratische Variation und lokale Martingale
t
[0,t]
0
F dμ− .
F dμ+ −
F (s) dGs :=
487
(21.51)
[0,t]
(iii) Ist G ∈ CV , so sind offenbar G+ t :=
1 1 Vt (G) + Gt 2
und
G− t :=
1 1 Vt (G) − Gt 2 3
eine Zerlegung von G wie in (ii) beschrieben.
Dass die Pfade der Brown’schen Bewegung unendliche Variation haben, folgt schon aus ihrer Nichtdifferenzierbarkeit. Wir k¨onnen dies aber auch leicht direkt einsehen. Satz 21.55. Sei W eine Brown’sche Bewegung. Dann gilt Vt1 (W ) = ∞ fast sicher f¨ur jedes t > 0. Beweis. Es reicht, t = 1 zu betrachten und zu zeigen, dass 2 n→∞ Yn := Wi2−n − W(i−1)2−n −→ ∞ n
f.s.
(21.52)
i=1
Es ist E[Yn ] = 2n/2 E[|W1 |] = 2n/2 Chebyshev’schen Ungleichung ist
3
2/π und Var[Yn ] = 1 − 2/π. Nach der
∞ ∞ ' ( 2π − 4 1 n/2 3 P Yn ≤ 2 2/π ≤ = 2π − 4 < ∞. 2 2n n=1 n=1
Nach dem Lemma von Borel-Cantelli folgt (21.52).
2
Offenbar ist die Variation ein zu grobes Maß, um wesentliche Pfadeigenschaften der Brown’schen Bewegung zu messen. Wir wollen daher statt der Zuw¨achse (in der Definition der Variation) die (kleineren) quadratischen Zuw¨achse summieren. F¨ur die Definition dieser quadratischen Variation ist etwas mehr Vorsicht n¨otig als in Definition 21.52 f¨ur die Variation. Definition 21.56. Eine Folge P = (P n )n∈N abz¨ahlbarer Teilmengen von [0, ∞) P n := {t0 , t1 , t2 , . . .}
mit 0 = t0 < t1 < t2 < . . .
heißt zul¨assige Zerlegungsfolge, falls gilt: (i) P 1 ⊂ P 2 ⊂ . . ., (ii) sup P n = ∞ f¨ur jedes n ∈ N,
488
21 Die Brown’sche Bewegung
(iii) die Feinheit |P n | := sup
min
n t∈P n s∈P , s =t
|s − t|
geht f¨ur n → ∞ gegen 0. Sind 0 ≤ S < T , so schreiben wir n PS,T := P n ∩ [S, T )
PTn := P n ∩ [0, T ).
Ist t = tk ∈ PTn , so schreiben wir t := tk+1 ∧ T = min s ∈ PTn ∪ {T } : s > t . und
Beispiel 21.57. P n = {k2−n : k = 0, 1, 2, . . .}. Definition 21.58. F¨ur stetige F, G : [0, ∞) p-Variation von G (entlang P) durch VTp (G) := VTP,p (G) := lim n→∞
3
→ R und p ≥ 1 definieren wir die Gt − Gt p
f¨ur T ≥ 0,
n t∈PT
falls der Grenzwert existiert. Speziell heißt G! := V 2 (G) die quadratische VariaP . tion von G. Ist T → VT2 (G) stetig, so schreiben wir G ∈ CqV := CqV Existiert f¨ur jedes T ≥ 0 der Grenzwert VTP,2 (F, G) := lim Ft − Ft Gt − Gt , n→∞
n t∈PT
so nennen wir F, G! := V 2 (F, G) := V P,2 (F, G) die quadratische Kovariation von F und G (entlang P).
Bemerkung 21.59. Ist p > p und VTp (G) < ∞, so ist VTp (G) = 0. Speziell ist G! ≡ 0, falls G von lokal endlicher Variation ist. 3 Bemerkung 21.60. Aufgrund der Dreiecksungleichung ist Gt − Gt ≥ Gt − Gt f¨ur alle n ∈ N, T ≥ 0. n+1 t∈PT
n t∈PT
Daher existiert der Limes im Fall p = 1 stets und stimmt, unabh¨angig von der Zer¨ legungsfolge P, mit V 1 (G) aus Definition 21.52 u¨ berein. Ahnliche Ungleichungen 2 gelten f¨ur V nicht, daher braucht der Limes nicht zu existieren oder kann von der Wahl von P abh¨angen. Wir werden im Folgenden jedoch f¨ur die Pfade einer großen Klasse von stetigen stochastischen Prozessen zeigen, dass V 2 zumindest f¨ur eine geeignete Zerlegungsfolge fast sicher existiert und (unabh¨angig von der gew¨ahlten Zerlegungsfolge) fast sicher eindeutig ist. 3
21.10 Quadratische Variation und lokale Martingale
489
Bemerkung 21.61. (i) Existieren F + G!T und F − G!T , so existiert die Kovarianz F, G!T , und es gilt die Polarisationsformel F, G!T =
1 F + G!T − F − G!T . 4
(ii) Existieren F !T , G!T und F, G!T , so folgt aus der Cauchy-Schwarz’schen Ungleichung f¨ur die approximierenden Summen
3 VT1 F, G!T ≤ F !T G!T . 3 ¨ im Sinne des Bemerkung 21.62. Ist f ∈ C 1 (R) und G ∈ CqV , so ist (Ubung!) Lebesgue-Stieltjes Integrals
T
f (G)!T =
(f (Gs ))2 d G!s .
3
0
Korollar 21.63. Ist F von lokal endlicher quadratischer Variation und gilt G! ≡ 0 (speziell also, falls G von lokal endlicher Variation ist), so ist F, G! ≡ 0 und F + G! = F !. Satz 21.64. F¨ur die Brown’sche Bewegung W und jede zul¨assige Zerlegungsfolge gilt W !T = T f¨ur alle T ≥ 0 f.s. Beweis. Wir beweisen dies nur f¨ur den Fall, wo ∞
|P n | < ∞
(21.53)
n=1
gilt. F¨ur den allgemeinen Fall skizzieren wir das Vorgehen. Gelte also (21.53). Falls W ! existiert, ist T → W !T monoton wachsend. Daher reicht es zeigen, dass W !T f¨ur jedes T ∈ Q+ = Q ∩ [0, ∞) existiert und W !T =
Kt )t≥0 = T −1/2 WtT eine Brown’sche Bewegung ist T fast sicher gilt. Da (W t≥0 K !1 = T −1 W !T gilt, reicht es, den Fall T = 1 zu betrachten. und W Setze Yn := Dann ist E[Yn ] =
Var[Yn ] =
(Wt − Wt )2
f¨ur alle n ∈ N.
t∈P1n t∈P1n (t
t∈P1n
− t) = 1 und
* ) Var (Wt − Wt )2 = (t − t)2 ≤ 2 |P n |. t∈P1n
490
21 Die Brown’sche Bewegung
Nach Voraussetzung (21.53) gilt also n→∞ gilt Yn −→ 1 fast sicher.
∞ n=1
Var[Yn ] ≤ 2
∞
n=1 |P
n
| < ∞, also n→∞
Verzichten wir auf die Bedingung (21.53), so gilt immer noch Var[Yn ] −→ 0, n→∞ also Yn −→ 1 stochastisch. Es ist allerdings nicht zu schwer zu zeigen, dass (Yn )n∈N ein R¨uckw¨artsmartingal ist (siehe etwa [141, Theorem I.28]) und daher fast sicher gegen 1 konvergiert. 2 K unabh¨angige Brown’sche Bewegungen, so gilt Korollar 21.65. Sind W und W K W, W !T = 0. √ √ K )/ 2 ) haben unK )/ 2 ) und (W − W Beweis. Die stetigen Prozesse ((W + W abh¨angige, normalverteilte Zuw¨achse, sind also Brown’sche Bewegungen. Nach Bemerkung 21.61(i) gilt A B A B A B K K K = W +W − W −W 4 W, W T T T √ B √ B A A K K )/ 2 = 2 (W + W )/ 2 T − 2 (W − W = 2T − 2T = 0. 2 T ¨ Nach Ubung 21.4.2 ist (Wt2 − t)t≥0 ein stetiges Martingal. Offenbar ist auch Kt )t≥0 ein stetiges Martingal. Nach dem Gezeigten sind also die Prozesse (Wt W 2 K − W, W K ! Martingale. Wir werden sehen (Satz 21.70), dass W − W ! und W W die quadratische Variation M (ω)! eines quadratintegrierbaren, stetigen Martingals M stets existiert (f¨ur fast alle ω), und dass der Prozess M ! eindeutig charakterisiert ist durch die Eigenschaft, dass M 2 − M ! ein Martingal ist. Um eine a¨ hnliche Aussage auch f¨ur stetige Martingale zu erhalten, die nicht quadratisch integrierbar sind, treffen wir die folgende Definition. Definition 21.66 (Lokales Martingal). Sei F eine Filtration auf (Ω, F, P) und τ ein F-Stoppzeit. Ein adaptierter, reeller stochastischer Prozess M = (Mt )t≥0 heißt lokales Martingal bis τ , falls es eine Folge (τn )n∈N von Stoppzeiten gibt mit τn ↑ τ fast sicher, und so, dass f¨ur jedes n ∈ N der gestoppte Prozess M τn = (Mτn ∧t )t≥0 ein gleichgradig integrierbares Martingal ist. Eine solche Folge (τn )n∈N heißt lokalisierende Folge f¨ur M . M heißt lokales Martingal schlechthin, falls M ein lokales Martingal bis τ ≡ ∞ ist. Mit Mloc,c bezeichnen wir den Raum der stetigen lokalen Martingale. Bemerkung 21.67. Sei M ein stetiger, adaptierter Prozess und τ eine Stoppzeit. Dann sind a¨ quivalent: (i) M ist ein lokales Martingal bis τ . (ii) Es gibt eine Folge (τn )n∈N von Stoppzeiten mit τn ↑ τ fast sicher, sodass jedes M τn ein Martingal ist.
21.10 Quadratische Variation und lokale Martingale
491
(iii) Es gibt eine Folge (τn )n∈N von Stoppzeiten mit τn ↑ τ fast sicher, sodass jedes M τn ein beschr¨anktes Martingal ist. In der Tat: (iii) =⇒ (i) =⇒ (ii) ist trivial. Gelte also (ii), und sei τn definiert durch τn := inf{t ≥ 0 : |Mt | ≥ n}
f¨ur jedes n ∈ N.
Da M stetig ist, gilt τn ↑ ∞. Also ist (σn )n∈N := (τn ∧ τn ) eine lokalisierende Folge f¨ur M , sodass jedes M σn ein beschr¨anktes Martingal ist. 3 Bemerkung 21.68. Ein beschr¨anktes lokales Martingal M ist stets auch ein Martingal. In der Tat: Ist |Mt | ≤ C < ∞ fast sicher f¨ur alle t ≥ 0, und ist (τn )n∈N eine lokalisierende Folge f¨ur M , so gilt f¨ur jede beschr¨ankte Stoppzeit σ n→∞
Mτn ∧σ −→ Mσ
fast sicher und in L1 .
Nach dem Optional Sampling Theorem gilt ) * ) * ) * ) * n→∞ ) * E M0 = E M0τn = E Mστn = E Mτn ∧σ −→ E Mσ , 3
also ist M ein Martingal. Beispiel 21.69. (i) Ein Martingal ist offenbar stets ein lokales Martingal.
(ii) In Bemerkung 21.68 hatten wir gesehen, dass beschr¨ankte lokale Martingale auch Martingale sind. Andererseits ist selbst ein gleichgradig integrierbares lokales Martingal nicht notwendigerweise ein Martingal: Sei W = (W 1 , W 2 , W 3 ) eine dreidimensionale Brown’sche Bewegung (das heißt, W 1 , W 2 und W 3 sind unabh¨angige Brown’sche Bewegungen) mit Start in W0 = x ∈ R3 \ {0}. Sei u(y) = y−1
f¨ur y ∈ Rd \ {0}.
Man pr¨uft leicht nach, dass u harmonisch ist, dass also u(y) = 0 ist f¨ur alle y = 0. Wir werden sp¨ater sehen (Korollar 25.33 zur Itˆo-Formel), dass hieraus folgt, dass M := (u(Wt ))t≥0 ein lokales Martingal ist. Durch
τn := inf t > 0 : Mt ≥ n = inf t > 0 : Wt ≤ 1/n , n ∈ N, wird eine lokalisierende Folge f¨ur M definiert. Andererseits liefert eine explizite t→∞ Rechnung mit der dreidimensionalen Normalverteilung E[Mt ] ≤ t−1/2 −→ 0, t→∞ also ist M integrierbar aber kein Martingal. Wegen Mt −→ 0 in L1 ist M sogar gleichgradig integrierbar. 3
492
21 Die Brown’sche Bewegung
Satz 21.70. Sei M ein stetiges lokales Martingal. (i) Es existiert ein eindeutig bestimmter, stetiger, monoton wachsender, adaptierter Prozess M ! = ( M !t )t≥0 mit M !0 = 0, sodass gilt:
2 Mt − M !t t≥0 ist ein stetiges lokales Martingal. (ii) Ist M ein stetiges, quadratisch integrierbares Martingal, so ist M 2 − M ! ein Martingal. (iii) F¨ur jede zul¨assige Zerlegungsfolge P = (P n )n∈N gilt 2 n→∞ −→ M !T stochastisch UTn := Mt − Mt
f¨ur alle T ≥ 0.
n t∈PT
Der Prozess M ! heißt quadratischer Variationsprozess von M . Bemerkung 21.71. Indem wir in (iii) gegebenenfalls zu einer (von T abh¨angigen) n→∞ Teilfolge P u¨ bergehen, k¨onnen wir annehmen, dass UTn −→ M !T fast sicher gilt. Durch ein Diagonalfolgenargument erhalten wir (wie im Beweis des Satzes von n→∞ Helly) eine Zerlegungsfolge, sodass UTn −→ M !T fast sicher f¨ur alle T ∈ Q+ gilt. Aufgrund der Monotonie und der Stetigkeit von T → UTn und T → M !T n→∞ folgt UTn −→ M !T f¨ur alle T ≥ 0 fast sicher. Also ist f¨ur diese Zerlegungsfolge die pfadweise definierte quadratische Variation fast sicher gleich dem quadratischen Variationsprozess: M (ω)! = V 2 (M (ω)) = M !(ω). 3 Beweis (von Satz 21.70). Schritt 1. Sei zun¨achst |Mt | ≤ C fast sicher f¨ur alle t ≥ 0 f¨ur ein C < ∞. Insbesondere ist M dann ein Martingal (nach Bemerkung 21.68). Es gilt UTn = MT2 − M02 − NTn , wobei
Mt Mt − Mt , T ≥ 0, NTn = 2 n t∈PT
ein stetiges Martingal ist. Wenn wir zeigen k¨onnen, dass (UTn )n∈N f¨ur jedes T ≥ 0 eine Cauchy-Folge in L2 (P) ist, so ist auch (NTn )n∈N eine Cauchy-Folge, und wir T von (N n )n∈N definieren. Nach Ubung eine ¨ 21.4.3 hat N k¨onnen den L2 -Limes N T n n→∞ 2 stetige Modifikation N , und es gilt NT −→ NT in L f¨ur alle T ≥ 0. Mithin existiert ein stetiger Prozess M ! mit n→∞
UTn −→
M !T
in L2
f¨ur alle T ≥ 0,
und N = M 2 − M02 − M ! ist ein stetiges Martingal.
(21.54)
21.10 Quadratische Variation und lokale Martingale
493
Wir zeigen nun also f¨ur T ≥ 0 (UTn )n∈N ist eine Cauchy-Folge in L2 . F¨ur m ∈ N sei Zm := max
Mt − Ms
2
(21.55)
n : s ∈ PTm , t ∈ Ps,s , n ≥ m .
Da M fast sicher gleichm¨aßig stetig auf [0, T ] ist, gilt Zm Wegen Zm ≤ 4C 2 folgt ) 2 * m→∞ E Zm −→ 0.
m→∞
−→
0 fast sicher. (21.56)
F¨ur n ∈ N und Zahlen a1 , . . . , an gilt (an − a0 )2 −
n−1
n−1
k=0
k=0
(ak+1 − ak )2 = 2
(ak − a0 )(ak+1 − a0 ).
Wenden wir dies in der folgenden Gleichung auf jeden einzelnen Summanden der a¨ ußeren Summe an, so erhalten wir f¨ur m ∈ N und n ≥ m 2 2 Ms − Ms − Mt − Mt UTm − UTn = m s∈PT
=2
n t∈Ps,s
Mt − Ms Mt − Mt .
(21.57)
m t∈P n s∈PT s,s
Da M ein Martingal ist, ist f¨ur s1 , s2 ∈ PTm und t1 ∈ Psn1 ,s , t2 ∈ Psn2 ,s mit 1 2 t1 < t2 ' ( E Mt1 − Ms1 Mt1 − Mt1 Mt2 − Ms2 Mt2 − Mt2 ' ) *( = E Mt1 − Ms1 Mt1 − Mt1 Mt2 − Ms2 E Mt2 − Mt2 Ft2 = 0. 2
Wenn wir mit Hilfe von (21.57) den Erwartungswert von UTm − UTn berechnen, fallen also die gemischten Terme weg, und wir erhalten (unter Benutzung der Cauchy-Schwarz’schen Ungleichung in der dritten Zeile) , + * ) E (UTn − UTm )2 = 4 E (Mt − Ms )2 (Mt − Mt )2 +
m t∈P n s∈PT s,s
≤ 4 E Zm
Mt − Mt
n t∈PT
2
,
+ , ) 2 *1/2
2 2 1/2 E . ≤ 4 E Zm Mt − Mt n t∈PT
(21.58)
494
21 Die Brown’sche Bewegung
Wir schreiben den zweiten Faktor als + , + ,
2 2
4 E =E Mt − Mt Mt − Mt n t∈PT
+ 2E
+
n t∈PT
M − Ms s
n s∈PT
2
M − Mt t
2
(21.59)
, .
n t∈Ps,T
Der erste Summand in (21.59) ist beschr¨ankt durch , +
2 * ) = 4C 2 E (MT − M0 )2 ≤ 16 C 4 . Mt − Mt 4C 2 E n t∈PT
Der zweite Summand in (21.59) ist gleich ,, + +
2
2 2E Ms − Ms E Mt − Mt Fs n s∈PT
n t∈Ps,T
, + *
2 ) Ms − Ms E (MT − Ms )2 Fs = 2E n s∈PT
) * ≤ 8C E (MT − M0 )2 ≤ 32 C 4 . 2
Es gilt also nach (21.58) und (21.56) √ ) ) 2 *1/2 m→∞ * sup E (UTn − UTm )2 ≤ 16 3 C 2 E Zm −→ 0. n≥m
Damit ist (21.55) gezeigt. Schritt 2. Sei nun M ∈ Mloc,c und (τN )N ∈N eine lokalisierende Folge, sodass jedes M τN ein beschr¨anktes Martingal ist (siehe Bemerkung 21.67). Nach Schritt 1 gilt f¨ur T ≥ 0 und N ∈ N 2 n→∞ MtτN − MtτN −→ M τN !T in L2 . UTN,n := n t∈PT
Wegen UTN,n = UTN +1,n , falls T ≤ τN , gibt es einen stetigen Prozess U mit n→∞ UTN,n −→ UT stochastisch, falls T ≤ τN . Also gilt M τN !T = M !T := UT , falls T ≤ τN . Wegen τN ↑ ∞ fast sicher, gilt f¨ur alle T ≥ 0 n→∞
UTn −→ M !T stochastisch.
Da (MTτN )2 − M τN !T T ≥0 ein stetiges Martingal ist und M τN ! = M !τN gilt, folgt M 2 − M ! ∈ Mloc,c . Schritt 3. Wir m¨ussen noch (ii) zeigen. Sei also M ein stetiges, quadratintegrierbares Martingal und (τn )n∈N eine lokalisierende Folge f¨ur das lokale Martingal
21.10 Quadratische Variation und lokale Martingale
495
M 2 − M !. Sei T > 0 und τ ≤ T eine Stoppzeit. Da M 2 ein nichtnegatives Submartingal ist, ist Mτ2n ∧τ ≤ E[MT |Fτn ∧τ ], also ist (Mτ2n ∧τ )n∈N gleichgradig integrierbar und damit ) ) ) * * * ) * ) * ) * E Mτ2 = lim E Mτ2n ∧τ = lim E M !τn ∧τ +E M02 = E M !τ +E M02 , n→∞
n→∞
wobei wir im letzten Schritt den Satz u¨ ber monotone Konvergenz ausgenutzt haben. Nach dem Optional Sampling Theorem ist also M 2 − M ! ein Martingal. Schritt 4 (Eindeutigkeit). Seien A und A stetige, monoton wachsende, adaptierte Prozesse mit A0 = A0 , sodass M 2 − A und M 2 − A lokale Martingale sind. Dann ist auch N = A − A ein lokales Martingal, und f¨ur fast alle ω hat der Pfad N (ω) endliche Variation. Daher ist N ! ≡ 0 und damit N 2 − N ! = N 2 ein stetiges lokales mit N0 = 0. Sei (τn )n∈N eine lokalisierende Folge f¨ur N 2 . Dann ) Martingal * 2 ist E Nτn ∧t = 0 f¨ur jedes n ∈ N und t ≥ 0, also ist Nτ2n ∧t = 0 fast sicher und damit Nt2 = limn→∞ Nτ2n ∧t = 0 fast sicher. Es folgt A = A .
2
Korollar 21.72. Sei M ein stetiges lokales Martingal mit M ! ≡ 0. Dann ist Mt = M0 f¨ur alle t ≥ 0 fast sicher. Speziell gilt dies, falls die Pfade von M von lokal endlicher Variation sind. Korollar 21.73. Seien M, N ∈ Mloc,c . Dann existiert ein eindeutig bestimmter stetiger, adaptierter Prozess M, N ! von fast sicher lokal endlicher Variation mit M, N !0 = 0, sodass gilt: M N − M, N ! ist ein stetiges lokales Martingal. M, N ! heißt quadratischer Kovariationsprozess von M und N . Es gilt f¨ur jede zul¨assige Zerlegungsfolge P und jedes T ≥ 0 M, N !T = lim Mt − Mt Nt − Nt stochastisch. (21.60) n→∞
n t∈PT
Offenbar gilt M + N, M − N ∈ Mloc,c . Wir definieren
Beweis. Existenz.
M, N ! :=
1 M + N! − M − N! . 4
Als Differenz monoton wachsender Funktionen ist M, N ! von lokal endlicher Variation. Wegen Satz 21.70(iii) folgt (21.60). Weiter ist M N − M, N ! =
1 1 (M + N )2 − M + N ! − (M − N )2 − M − N ! 4 4
ein lokales Martingal. Eindeutigkeit. Seien A und A mit A0 = A0 = 0 stetig, adaptiert und von lokal endlicher Variation, sodass M N − A und M N − A in Mloc,c sind. Dann ist 2 A − A ∈ Mloc,c von lokal endlicher Variation, also A − A = 0.
496
21 Die Brown’sche Bewegung
Korollar 21.74. Ist M ∈ Mloc,c und A stetig und adaptiert mit A! ≡ 0, so ist M + A! = M !. Ist M ein stetiges lokales Martingal bis zur Stoppzeit τ , so ist M τ ∈ Mloc,c , und wir schreiben M !t := M τ !t f¨ur t < τ . Satz 21.75. Sei τ eine Stoppzeit und M ein stetiges lokales Martingal bis τ sowie τ0 < τ eine Stoppzeit mit E[ M !τ0 ] < ∞. Dann ist E[Mτ0 ] = E[M0 ], und M τ0 ist ein L2 -beschr¨anktes Martingal. Beweis. Sei τn ↑ τ eine lokalisierende Folge von Stoppzeiten f¨ur M , sodass jedes M τn sogar ein beschr¨anktes Martingal ist (siehe Bemerkung 21.67). Dann ist auch M τ0 ∧τn ein beschr¨anktes Martingal, und es gilt f¨ur jedes t ≥ 0 * ) * ) * ) * ) * ) E Mτ2τ0 ∧τn ∧t = E M02 +E M !τ0 ∧τn ∧t ≤ E M02 +E M !τ0 < ∞. (21.61)
Da also (Mτ0 ∧τn ∧t ), n ∈ N, t ≥ 0 beschr¨ankt in L2 und damit gleichgradig integrierbar ist, gilt (nach dem Optional Sampling Theorem f¨ur gleichgradig integrierbare Martingale) E[Mτ0 ] = lim E[Mτ0 ∧τn ] = E[M0 ], n→∞
und f¨ur t > s
' * ( ) E Mtτ0 Fs = E lim Mtτ0 ∧τn Fs n→∞ * ) = lim E Mtτ0 ∧τn Fs n→∞
= lim Msτ0 ∧τn = Msτ0 . n→∞
Also ist M
τ0
2
ein Martingal.
* ) Korollar 21.76. Ist M ∈ Mloc,c und E M !t < ∞ f¨ur jedes t ≥ 0, so ist M ein quadratintegrierbares Martingal. ¨ Ubung 21.10.1. Zeige, dass die Zufallsvariablen (Yn )n∈N aus dem Beweis von Satz 21.64 ein R¨uckw¨artsmartingal bilden. ♣ P ¨ Ubung 21.10.2. Sei f : [0, ∞) → R stetig und X ∈ CqV f¨ur die zul¨assige Zerlegungsfolge P. Man zeige: T
f (s) d X!s = lim f (t) Xt − Xt )2 f¨ur alle T ≥ 0. ♣ 0
n→∞
n t∈PT
¨ Ubung 21.10.3. Man zeige durch ein Gegenbeispiel: Ist ) * M ein stetiges lokales Marτ eine Stoppzeit mit E M ! tingal mit M0 = 0 und τ = ∞, so folgt hieraus nicht ) 2* ♣ notwendigerweise E Mτ = ∞.
22 Gesetz vom iterierten Logarithmus
F¨ur Summen unabh¨angiger Zufallsvariablen kennen wir bislang zwei Grenzwerts¨atze: das Gesetz der großen Zahl und den Zentralen Grenzwertsatz. Das Gesetz der großen Zahl beschreibt f¨ur großes n ∈ N das typische oder Mittelwertverhalten von Summen von n Zufallsvariablen, w¨ahrend der Zentrale Grenzwertsatz die typischen Fluktuationen um diesen Mittelwert quantitativ erfasst. In Kapitel 23 werden wir die untypisch großen Fluktuationen (große Abweichungen) quantitativ erfassen. Dagegen ist das Thema dieses Kapitels die genauere quantitative Erfassung der typischen Fluktuationen, aber nun im gesamten zeitlichen Verlauf n → ∞.√Die Botschaft lautet in etwa: W¨ahrend zu fester Zeit die Partialsumme (Zentraler Grenzwertsatz), ist Sn um etwa n von ihrem Erwartungswert abweicht √ die maximale Fluktuation von der Ordnung n log log n (Satz von Hartman und Wintner, Satz 22.11). Wir beginnen mit der etwas leichteren Aufgabe, diese Fluktuationen zun¨achst f¨ur die Brown’sche Bewegung auszurechnen (Satz 22.1). Danach werden wir sehen, wie man Summen unabh¨angiger Zufallsvariablen (mit endlicher Varianz) in eine Brown’sche Bewegung einbetten kann (Satz von Skorohod, Satz 22.5), um damit die Aussage des Satzes von Hartman und Wintner zu zeigen. Wir folgen in diesem Kapitel in Teilen der Darstellung in [41, Kapitel 7.9].
¨ die Brown’sche Bewegung 22.1 Iterierter Logarithmus fur Sei (Bt )t≥0 eine Brown’sche Bewegung. In Beispiel 21.16 haben wir√als Anwendung des Blumenthal’schen 0-1 Gesetzes gesehen, dass lim supt↓0 Bt / t = ∞ f.s. Da nach Satz 21.14 auch (tB1/t )t≥0 eine Brown’sche Bewegung ist, folgt Bt lim sup √ = ∞ f.s. t t→∞ √ Unser Ziel in diesem Abschnitt ist es, t durch eine Funktion zu ersetzen, sodass der Limes superior endlich und nichttrivial wird.
498
22 Gesetz vom iterierten Logarithmus
¨ die Brown’sche Bewegung). Satz 22.1 (Gesetz vom iterierten Logarithmus fur Es gilt Bt lim sup 3 = 1 f.s. (22.1) t→∞ 2t log log(t) Bevor wir den Satz beweisen, bringen wir ein elementares Lemma. Lemma 22.2. Sei X ∼ N0,1 standardnormalverteilt. Dann ist f¨ur jedes x > 0 1 1 √ 2π x +
2
1 x
e−x
/2
1 1 −x2 /2 e ≤ P[X ≥ x] ≤ √ . 2π x
(22.2)
2
Beweis. Sei ϕ(t) = √12π e−t /2 die Dichte der Standardnormalverteilung. Partielle Integration liefert die zweite Ungleichung in (22.2): ∞ ∞ ∞ 1 1 1 1 ϕ(t) dt ≤ ϕ(x). (tϕ(t)) dt = − ϕ(t) − P[X ≥ x] = 2 t t t x x x x Analog ist 1 1 ϕ(x) − 2 P[X ≥ x] ≥ x x
∞
ϕ(t) dt = x
1 1 ϕ(x) − 2 P[X ≥ x]. x x
Hieraus folgt die erste Ungleichung in (22.2).
2
Beweis von Satz 22.1. 1. Schritt: ≤“. Betrachte zun¨achst die Folge tn = αn f¨ur ein α > 1. Sp¨ater ” wollen wir α ↓ 1 gehen lassen. Setze f (t) = 2α2 log log t. Dann ist nach dem Spiegelungsprinzip (Satz 21.19) und mit der Abk¨urzung B[a,b] := {Bt : t ∈ [a, b]} ( ' ( ' 3 3 −1/2 P sup B[tn ,tn+1 ] > tn f (tn ) ≤ P tn+1 sup B[0,tn+1 ] > f (tn )/α ( ' 3 = P sup B[0,1] > f (tn )/α L α e−f (tn )/2α ≤ (22.3) f (tn ) L α n−α = (log α)−α f (tn ) ≤ n−α
f¨ur hinreichend großes n,
wobei wir im vorletzten Schritt benutzt haben, dass
f (tn ) = α log(n log α) = α log n + α log log α. 2α
22.1 Iterierter Logarithmus f¨ur die Brown’sche Bewegung
499
Wegen α > 1 ist die rechte Seite von (22.3) summierbar in n ∞ ' ( 3 P sup B[tn ,tn+1 ] > tn f (tn ) < ∞. n=1
Das Lemma von Borel-Cantelli (Satz 2.7) liefert jetzt (merke: t → noton wachsend) Bt lim sup 3 ≤ 1 f.s. t→∞ tf (t) Wir lassen α ↓ 1 gehen und erhalten lim sup √ t→∞
Bt ≤1 2t log log t
3
tf (t) ist mo-
f.s.
(22.4)
2. Schritt: ≥“. Wir zeigen nun die andere Ungleichung in (22.1). Hierf¨ur lassen ” α > 1 und g(t) = β22 log log t. W¨ahle n0 so groß, wir α → ∞ gehen. Setze β := α−1 dass βg(tn ) ≥ 1 ist f¨ur n ≥ n0 . Dann ist nach der Brown’schen Skalierung (merke: tn − tn−1 = β1 tn ) und (22.2) (wegen (x + x1 )−1 ≥ 12 x1 f¨ur x = (βg(tn ))1/2 ≥ 1) ' ( ' ( 3 3 P Btn − Btn−1 > tn g(tn ) = P B1 > βg(tn ) 1 1 1 3 e−βg(tn )/2 ≥√ 2 2π βg(tn ) 1 1 1 (log α)−1/β 3 n−1/β . =√ 2 2π βg(tn ) Ist ε ∈ (0, 1 − 1/β), so ist f¨ur hinreichend großes n ∈ N die rechte Seite der vorangehenden Gleichung ≥ n−ε n−1/β ≥ n−1 . Also ist ∞ ' ( 3 P Btn − Btn−1 > tn g(tn ) = ∞. n=2
Die Ereignisse sind unabh¨angig, daher liefert das Lemma von Borel-Cantelli ' ( 3 P Btn − Btn−1 > tn g(tn ) f¨ur unendlich viele n = 1. (22.5) tn log log tn n→∞ −→ α folgt aus (22.4) zusammen mit der Symmetrie tn−1 log log tn−1 der Brown’schen Bewegung f¨ur ε > 0 3 Btn−1 > −(1 + ε)α−1/2 2tn log log tn f¨ur fast jedes n ∈ N f.s. (22.6) Wegen
Aus (22.5) und (22.6) folgt lim sup √ n→∞
Btn 1 α−1 − (1 + ε)α−1/2 ≥ − (1 + ε)α−1/2 = β α 2tn log log tn
Lassen wir nun α → ∞, so erhalten wir lim sup √ mit (22.4) folgt die Aussage des Satzes.
t→∞
f.s.
Bt ≥ 1 f.s. Zusammen 2t log log t 2
500
22 Gesetz vom iterierten Logarithmus
Bt = 1. Korollar 22.3. Es gilt fast sicher lim sup 3 2t log log(1/t) t↓0 Beweis. Nach Satz 21.14 ist (tB1/t ) eine Brown’sche Bewegung. Wende hierauf Satz 22.1 an. 2 Bemerkung 22.4. Die Aussage von Korollar 22.3 betrifft die typischen Punkte der Brown’schen Bewegung B. Wie sieht es aber aus, 3 wenn wir nach der Existenz von Punkten t fragen, in denen sich B schneller als 2t log log(1/t) bewegt? 3 Auskunft gibt hier ein Satz von Paul L´evy [110]: Bezeichnen wir mit h(δ) := 2δ log(1/δ) den L´evy’schen Stetigkeitsmodul, so ist ( ' (22.7) P lim sup |Bt − Bs |/h(δ) = 1 = 1. δ↓0
s,t∈[0,1] 0≤t−s≤δ
(Siehe etwa [146, Theorem I.2.5] f¨ur einen Beweis.) Hieraus folgt insbesondere, dass B fast sicher nicht lokal H¨older- 12 -stetig ist. 3
22.2 Skorohod’scher Einbettungssatz Um das Ergebnis des vorigen Abschnitts auf Summen von quadratintegrierbaren, zentrierten Zufallsvariablen zu u¨ bertragen, brauchen wir eine Einbettung von solchen Zufallsvariablen in eine Brown’sche Bewegung. Die gew¨unschte Darstellung liefert der Satz von Skorohod. Mit dieser Technik l¨asst sich auch ein alternativer Beweis des Satzes von Donsker (Invarianzprinzip, Satz 21.43) angeben. Satz 22.5 (Skorohod’scher Einbettungssatz). Sei X eine reelle Zufallsvariable mit E[X] = 0 und Var[X] < ∞. Dann existiert auf einem geeigneten Wahrscheinlichkeitsraum eine Filtration F und eine Brown’sche Bewegung B, die ein F-Martingal ist sowie eine F-Stoppzeit τ mit D
Bτ = X
und
E[τ ] = Var[X].
Bemerkung 22.6. Man kann auch zeigen, dass F = σ(B) gew¨ahlt werden kann. Das ist allerdings aufw¨andiger und wird hier nicht ben¨otigt. 3 Korollar 22.7. Seien X1 , X2 , . . . u.i.v. reelle Zufallsvariablen mit E[X1 ] = 0 und Var[X1 ] < ∞. Ferner sei Sn = X1 + . . . + Xn , n ∈ N. Dann gibt es auf einem geeigneten Wahrscheinlichkeitsraum eine Filtration F und eine Brown’sche Bewegung B, die ein F-Martingal ist sowie F-Stoppzeiten 0 = τ0 ≤ τ1 ≤ τ2 ≤ . . . mit: D (τn − τn−1 )n∈N ist u.i.v., E[τ1 ] = Var[X1 ] und (Bτn )n∈N = (Sn )n∈N .
22.2 Skorohod’scher Einbettungssatz
501
Zur Vorbereitung des Beweises bringen wir ein Lemma. Wir wollen dabei als Integranden Maße zulassen. Wir verwenden deshalb 0 folgende Notation: Ist μ ∈ M(E) ein Maß und f ∈ L1 (μ) nichtnegativ, so wird μ(dx)f (x)δx := f μ definiert, wobei f μ das Maß mit Dichte f bez¨uglich μ ist. Dies ist konsistent, denn f¨ur messbares A ⊂ E ist dann μ(dx)f (x)δx (A) = μ(dx)f (x)δx (A) = μ(dx)f (x) ½A (x) = f μ(A). 0 0 Lemma 22.8. Sei μ ∈ M1 (R) mit x μ(dx) = 0 und σ 2 := x2 μ(dx) < ∞. Dann existiert ein W-Maß θ ∈ M1 ((−∞, 0) × [0, ∞)) mit −u v δu + δv . μ = θ(d(u, v)) (22.8) v−u v−u 0 Es ist σ 2 = − uv θ(d(u, v)). Beweis. Wir setzen m :=
0 [0,∞)
v μ(dv) = −
0 (−∞,0)
θ(d(u, v)) := m−1 (v − u) μ(du)μ(dv) Dann ist
−1
f¨ur u < 0 und v ≥ 0.
θ(d(u, v)) = m
μ(dv) (v − u)
μ(du) (−∞,0)
= m−1
u μ(du) und
[0,∞)
μ(du) [m − uμ([0, ∞))] (−∞,0)
= m−1 mμ((−∞, 0)) + mμ([0, ∞)) = 1. Es ist also tats¨achlich θ ein W-Maß. Weiter gilt v −u δu + δv θ(d(u, v)) v−u v−u −1 =m μ(du) μ(dv) (vδu − uδv ) (−∞,0) [0,∞) μ(du) δu + μ(dv) δv = μ. = (−∞,0)
Aus (22.8) folgt direkt σ 2 = μ(dx) x2 = θ(d(u, v))
[0,∞)
−u 2 v u2 + v = − θ(d(u, v)) uv. 2 v−u v−u
502
22 Gesetz vom iterierten Logarithmus
Beweis (Satz 22.5). Wir nehmen zun¨achst an, dass X nur die zwei Werte u < 0 v und v ≥ 0 annimmt: P[X = u] = v−u = 1 − P[X = v]. Sei
τu,v = inf t > 0 : Bt ∈ {u, v} . D ¨ Nach Ubung 21.2.4 ist E[Bτu,v ] = 0 also Bτu,v = X sowie E[τu,v ] = −uv.
Sei nun X beliebig mit E[X] = 0 und σ 2 := E[X 2 ] < ∞. Setze μ = PX und θ = θμ wie in Lemma 22.8. Ferner sei Ξ = (Ξu , Ξv ) eine Zufallsvariable mit Werten in (−∞, 0) × [0, ∞) und Verteilung θ. Sei F = (Ft )t≥0 , wobei Ft := σ(Ξ, Bs : s ∈ [0, t]) ist. Setze τ := τΞu ,Ξv . Auf Grund der Stetigkeit von B und wegen τ ≤ τu,v , falls u < Ξu und v > Ξv , ist f¨ur jedes t ≥ 0
Ξ ∈ (u, 0) × [0, v) ∩ {τu,v ≤ t} ∈ Ft . {τ ≤ t} = u,v∈Q u<0
Also ist τ eine F-Stoppzeit (aber keine Stoppzeit bez¨uglich σ(B)). F¨ur x < 0 ist v θ(d(u, v)) P[X ≤ x] = v − u (−∞,x]×[0,∞) = θ(d(u, v)) P[Bτu,v = u] = P[Bτ ≤ x]. (−∞,x]×[0,∞)
D
F¨ur x ≥ 0 ist analog P[X > x] = P[Bτ > x], also insgesamt Bτ = X. Weiter ist 2 E[τ ] = −E[Ξu Ξv ] = − θ(d(u, v)) uv = σ 2 .
Erg¨anzung: Beweis von Bemerkung 22.6 Wir beweisen hier, dass man im Skorohod’schen Einbettungssatz tats¨achlich ohne randomisierte Stoppzeiten auskommt, also eine Stoppzeit bez¨uglich der von der Brown’schen Bewegung B erzeugten Filtration w¨ahlen kann. Mit anderen Worten, man kann die Stoppzeit τ w¨ahlen, ohne dass man auf zus¨atzliche Zufallsvariablen, wie Ξ im obigen Beweis, zur¨uckgreifen muss. Ein eleganter Beweis, der allerdings auf Methoden der stochastischen Analysis basiert, findet sich bei Az´ema und Yor, siehe [6]. Wir folgen hier einer elementaren Route, die auf Ideen von Dubins zur¨uckgreift. F¨ur eine Zufallsvariable X, die nur zwei Werte u < 0 < v annimmt und f¨ur die E[X] = 0 gilt, ist die Aussage einfach gezeigt. Sei τu,v = inf{t > 0 : Bt ∈ ¨ {u, v}}. Nach Ubung 21.2.4 ist E[Bτu,v ] = 0 und E[τu,v ] = −uv = Var[X].
22.2 Skorohod’scher Einbettungssatz
503
In einem ersten Schritt verallgemeinern wir diese Aussage nun auf bin¨ar aufspaltende Martingale (vergleiche Definition 9.42), also solche Martingale, die je nach bisherigem Verlauf in jedem Zeitschritt immer nur zwischen zwei m¨oglichen Werten w¨ahlen k¨onnen. Im zweiten Schritt zeigen wir dann, dass jede quadratisch integrierbare Zufallsvariable als Grenzwert solcher Martingale auftritt. Satz 22.9. Sei (Xn )n∈N0 ein bin¨ar aufspaltendes quadratisch integrierbares Martingal mit X0 = 0, und sei B eine Brown’sche Bewegung. Dann existieren Stoppzeiten 0 = τ0 ≤ τ1 ≤ . . . f¨ur B, sodass D
(Xn )n∈N0 = (Bτn )n∈N0 , und so, dass E[τn ] = E[Xn2 ] f¨ur jedes n ∈ N0 gilt. Ist (Xn )n∈N0 in L2 beschr¨ankt und damit fast sicher und in L2 konvergent gegen ein X∞ , so ist τ := supn∈N τn < D
∞ fast sicher, E[τ ] = Var[X∞ ] und X∞ = Bτ . Beweis. F¨ur n ∈ N seien fn : Rn−1 × {−1, +1} → R und eine {−1, +1}-wertige Zufallsvariable Dn so gew¨ahlt, dass Xn = fn (X1 , . . . , Xn−1 , Dn ) gilt (vergleiche Definition 9.42). Ohne Einschr¨ankung sei fn monoton wachsend in Dn . Setze τ0 := 0 und sukzessive τn := inf t > τn−1 : Bt ∈ {fn (Bτ1 , . . . , Bτn−1 , −1), fn (Bτ1 , . . . , Bτn−1 , +1)} . ˜ n := Bτ und Setze X n
1 ˜ n := D
1, −1,
˜n ≥ X ˜ n−1 , falls X sonst.
Dann ist nach der starken Markoveigenschaft (angewandt auf τn−1 ) und nach ¨ Ubung 21.2.4 ) * ˜1, . . . , X ˜ n−1 ˜n = 1X P D ˜1 , . . . , X ˜ n−1 , −1) ˜ n−1 − fn (X X = ˜1 , . . . , X ˜ n−1 , +1) − fn (X ˜1, . . . , X ˜ n−1 , −1) fn (X ˜n − X ˜ n−1 )2 ]. Da (Xn )n∈N ein Martingal ist, gilt andeund E[τn − τn−1 ] = E[(X 0 rerseits, Xn−1 = E[Xn |X0 , . . . , Xn−1 ] = P[Dn = i|X0 , . . . , Xn−1 ] fn (X1 , . . . , Xn−1 , i). i=−1,+1
Also ist
* ) P Dn = 1 X1 , . . . , Xn−1 =
Xn−1 − fn (X1 , . . . , Xn−1 , −1) . fn (X1 , . . . , Xn−1 , +1) − fn (X1 , . . . , Xn−1 , −1)
504
22 Gesetz vom iterierten Logarithmus
D ˜ n )n∈N . Wegen E[τn − τn−1 ] = E[(Xn − Xn−1 )2 ] und Es folgt (Xn )n∈N0 = (X 0 weil die Martingaldifferenzen (Xi − Xi−1 ) unkorreliert sind, gilt E[τn ] = E[Xn2 ].
Ist schließlich (Xn ) in L2 beschr¨ankt, so existiert nach dem Martingalkonvergenzn→∞ satz eine quadratisch integrierbare Zufallsvariable X∞ mit Xn −→ X∞ fast si2 cher und in L2 . Speziell gilt E[Xn2 ] lim E[X∞ ]. Nun ist offenbar (τn )n∈N monoton wachsend und damit konvergent gegen eine Stoppzeit τ . Nach dem Satz u¨ ber monotone Konvergenz ist E[τ ] = limn→∞ E[τn ] = limn→∞ E[Xn2 ] = E[X∞ ] < ∞. Insbesondere ist also τ < ∞ fast sicher. Da die Brown’sche Bewegung stetig ist, gilt fast sicher D ˜n = X∞ . 2 Bτ = lim Bτn = lim X n→∞
n→∞
Wir haben nun also die Aussage von Bemerkung 22.6 f¨ur den Fall gezeigt, dass die Zufallsvariable X sich als Grenzwert eines bin¨ar aufspaltenden Martingals darstellen l¨asst. Den allgemeine Fall erhalten wir daher durch den folgenden Satz. Satz 22.10. Sei X eine quadratisch integrierbare zentrierte Zufallsvariable. Dann existiert ein bin¨ar aufspaltendes Martingal (Xn )n∈N0 mit X0 = 0 und so, dass n→∞ Xn −→ X fast sicher und in L2 . Beweis. Wir folgen der Beweisidee von [122]. Sei X0 := E[X] = 0. Definiere induktiv f¨ur n ∈ N 1, falls X ≥ Xn−1 , Dn := −1, falls X < Xn−1 , Fn := σ(D1 , . . . , Dn ) und Xn := E[X |Fn ]. Es gibt also eine Abbildung gn : {−1, +1}n → R mit gn (D1 , . . . , Dn ) = Xn . Offenbar ist ½Dk =1 = ½Xk ≥Xk−1 fast sicher f¨ur jedes k ∈ N. Also lassen sich die D1 , . . . , Dk aus X1 , . . . , Xk berechnen. Daher existiert eine Abbildung fn : Rn−1 × {−1, +1} → R mit fn (X1 , . . . , Xn−1 , Dn ) = Xn . Also ist X bin¨ar aufspaltend. Offenbar ist (Xn )n∈N0 ein Martingal. Nach der Jensen’schen Ungleichung ist E[Xn2 ] ≤ E[X 2 ] < ∞, also ist (Xn )n∈N0 in L2 beschr¨ankt und damit fast sicher und in L2 konvergent gegen ein quadratisch integrierbares X∞ . Es bleibt also zu zeigen, dass X∞ = X fast sicher gilt. Hierzu zeigen wir zun¨achst
lim Dn (ω) X(ω) − Xn (ω) = X(ω) − X∞ (ω) f¨ur fast alle ω. (22.9) n→∞
Gilt X(ω) = X∞ (ω), so gilt (22.9) trivialerweise. Gilt X(ω) > X∞ (ω), so ist X(ω) > Xn (ω) und damit Dn (ω) = 1 f¨ur alle hinreichend großen n, also gilt ¨ (22.9). Ahnlich erhalten wir (22.9) falls X(ω) < X∞ (ω).
22.3 Satz von Hartman-Wintner
505
Offenbar ist ) * ) * E Dn (X − Xn ) = E Dn E[X − Xn |Fn ] = 0.
Da Dn (X − Xn ) n∈N in L2 beschr¨ankt ist (und damit gleichgradig integrierbar ist), folgt E[|X − X∞ |] = limn→∞ E[Dn (X − Xn )] = 0, also X = X∞ f.s. 2
22.3 Satz von Hartman-Wintner Ziel dieses Abschnitts ist der Beweis des Gesetzes vom iterierten Logarithmus f¨ur u.i.v. Zufallsvariablen Xn , n ∈ N mit zweiten Momenten, der auf Hartman und Wintner (1941) (siehe [72]) zur¨uckgeht. (In der einfacheren Situation, wo die Xn Bernoulli Zufallsvariablen sind, hat bereits Khinchin (1923) die obere Absch¨atzung im Gesetz vom iterierten Logarithmus gefunden.) Satz 22.11 (Hartman-Wintner, Gesetz vom iterierten Logarithmus). Seien X1 , X2 , . . . u.i.v. reelle Zufallsvariablen mit E[X1 ] = 0 und Var[X1 ] = 1. Sei Sn = X1 + . . . + Xn , n ∈ N. Dann gilt lim sup √ n→∞
Sn =1 2n log log n
f.s.
(22.10)
Wir beweisen den Satz, indem wir ihn auf das Gesetz vom iterierten Logarithmus f¨ur die Brown’sche Bewegung zur¨uckf¨uhren. Zu diesem Zweck fassen wir die Partialsummen Sn als Werte der Brown’schen Bewegung B zu gewissen Stoppzeiten τ1 ≤ τ2 ≤ . . . auf. Dass dies funktioniert, sichert der Skorohod’sche Einbettungssatz. Wir folgen der Darstellung in [41]. Beweis. Nach Korollar 22.7 gibt es auf einem geeigneten Wahrscheinlichkeitsraum eine Filtration F und eine Brown’sche Bewegung B, die ein F-Martingal D ist sowie Stoppzeiten τ1 ≤ τ2 ≤ . . ., sodass (Sn )n∈N = (Bτn )n∈N . Ferner sind (τn − τn−1 )n∈N u.i.v. mit E[τn − τn−1 ] = Var[X1 ] = 1. Nach dem Gesetz vom iterierten Logarithmus f¨ur die Brown’sche Bewegung (siehe Satz 22.1) ist Bt lim sup √ = 1 f.s. 2t log log t t→∞ Es reicht also zu zeigen, dass Bt − Bτ t =0 lim sup √ 2t log log t t→∞
f.s. n→∞
Nach dem starken Gesetz der großen Zahl (Satz 5.17) gilt n1 τn −→ 1 f.s. Sei also ε > 0 und t0 = t0 (ω) so groß, dass
506
22 Gesetz vom iterierten Logarithmus
τt 1 ≤ ≤1+ε 1+ε t
f¨ur jedes t ≥ t0 .
Setze Mt :=
|Bs − Bt |.
sup s∈[t/(1+ε), t (1+ε)]
Es reicht zu zeigen, dass lim sup √ t→∞
ε)n , n ∈ N, und setze
Mn :=
Mt = 0. Betrachte die Folge tn = (1 + 2t log log t sup
s∈[tn−1 ,tn+2 ]
|Bs − Btn−1 |.
Dann ist (nach der Dreiecksungleichung) f¨ur t ∈ [tn , tn+1 ] Mt ≤ 2Mn . Setze δ := (1 + ε)3 − 1. Dann ist tn+2 − tn−1 = δtn−1 . Brown’sche Skalierung und das Spiegelungsprinzip (Satz 21.19) ergeben nun ( ' 3 P Mn > 3δtn−1 log log tn−1 ( ' 3 = P sup |Bs | > 3 log log tn−1 s∈[0,1]
≤ 2P
'
sup Bs >
3
( 3 log log tn−1
s∈[0,1]
( ' 3 = 4 P B1 > 3 log log tn−1 3 2 3 exp − log log tn−1 ≤ 2 3 log log tn−1 ≤ n−3/2
(Lemma 22.2)
f¨ur n hinreichend groß.
Die Wahrscheinlichkeiten lassen sich also u¨ ber n summieren, und das Lemma von Borel-Cantelli liefert lim sup √ t→∞
√ Mt 2Mn ≤ lim sup 3 ≤ 2 3δ. t log log t n→∞ tn−1 log log tn−1
Lassen wir nun ε → 0 gehen, so geht δ = (1 + ε)3 − 1 → 0, und der Beweis ist vollst¨andig. 2
23 Große Abweichungen
Wir haben (bis auf das Gesetz vom iterierten Logarithmus) bislang zwei Typen von Grenzwerts¨atzen f¨ur Partialsummen Sn = X1 + . . . + Xn , n ∈ N, von identisch verteilten, reellen Zufallsvariablen (Xi )i∈N mit Verteilungsfunktion F gesehen: (1) (Schwache) Gesetze der großen Zahl besagen (unter gewissen Annahmen an die Familie (Xi )i∈N ), dass f¨ur jedes x > 0 * n→∞ ) (23.1) P Sn − n E[X1 ] ≥ xn −→ 0. Hieraus abgeleitet erhalten wir f¨ur die empirischen Verteilungsfunktionen 1 ½(−∞,x] (Xi ) n i=1 n
Fn : x →
n→∞
die stochastische Konvergenz Fn − F ∞ −→ 0. Wir wollen dies umformulieren zu: F¨ur jede Verteilungsfunktion G = F und jedes ε > 0 mit ε < F − G∞ gilt * n→∞ ) (23.2) P Fn − G∞ < ε −→ 0. (2) Zentrale Grenzwerts¨atze besagen (unter wieder anderen Annahmen an die Familie (Xi )i∈N ), dass f¨ur x ∈ R ) √ * n→∞ x , (23.3) P Sn − n E[X1 ] ≥ x n −→ 1 − Φ 3 Var[X1 ] wobei Φ : t → N0,1 ((−∞, t]) die Verteilungsfunktion der Standardnormalverteilung ist. Der typische Wert von Sn ist jeweils n E[X1 ]. Gleichung√(23.3) macht pr¨azise Aussagen u¨ ber mittelgroße Abweichungen (der Ordnung n) vom typischen Wert. Hieraus folgt nat¨urlich, dass die Wahrscheinlichkeit f¨ur große Abweichungen (der Ordnung n) vom typischen Wert gegen 0 geht, also (23.1). In diesem Kapitel wollen wir die Konvergenzgeschwindigkeit in (23.1) bestimmen (Satz von Cram´er), beziehungsweise in (23.2) (Satz von Sanov). Wir folgen in Teilen den Darstellungen [34] und [78].
508
23 Große Abweichungen
23.1 Satz von Cram´er Seien X1 , X2 , . . . u.i.v. mit PXi = N0,1 . Dann ist f¨ur jedes x > 0 )
√ √ * 2 1 e−n x /2 , P[Sn ≥ xn] = P X1 ≥ x n = 1 − Φ x n = (1 + εn ) √ 2πn n→∞
wobei (nach Lemma 22.2) εn −→ 0 gilt. Es gilt also * ) x2 1 log P Sn ≥ xn = − n→∞ n 2 lim
f¨ur jedes x > 0.
(23.4)
Man k¨onnte versucht sein zu glauben, dass ein Zentraler Grenzwertsatz die Aussage (23.4) auch f¨ur alle zentrierten u.i.v. Folgen (Xi ) mit endlicher Varianz liefert. Dies ist allerdings falsch, wie der folgende Satz zeigt. Die großen Abweichungen werden eben st¨arker durch die Schw¨anze der Verteilung von Xi beeinflusst, als dies bei den mittleren Fluktuationen der Fall ist, die durch die Varianz komplett determiniert werden. Der folgende Satz zeigt dies exemplarisch anhand der Bernoulli-Verteilung. Satz 23.1. Seien X1 , X2 , . . . u.i.v. mit P[X1 = −1] = P[X1 = 1] = 12 . Dann gilt f¨ur jedes x ≥ 0 1 log P[Sn ≥ xn] = −I(x), lim (23.5) n→∞ n wobei die Ratenfunktion I gegeben ist durch 1+z 1−z falls z ∈ [−1, 1], 2 log(1 + z) + 2 log(1 − z), (23.6) I(z) = ∞, falls |z| > 1. Bemerkung 23.2. Wir verstehen hierbei 0 log 0 = 0, wodurch die Einschr¨ankung von I auf [−1, 1] stetig wird mit I(−1) = I(1) = log 2. Man bemerke: I ist strikt konvex auf [−1, 1] mit I(0) = 0; I ist monoton wachsend auf [0, 1] und monoton fallend auf [−1, 0]. 3 Beweis. Die F¨alle x = 0 und x > 1 sind trivial. F¨ur x = 1 ist P[Sn ≥ n] = 2−n , daher gilt auch hier (23.5) trivialerweise. Es reicht also, x ∈ (0, 1) zu betrachten. Es ist Sn2+n ∼ bn,1/2 binomialverteilt, also ) * n −n . P Sn ≥ xn = 2 k k≥(1+x)n/2
Wir setzen an (x) = n(1 + x)/2 f¨ur n ∈ N und erhalten, weil k → fallend ist f¨ur k ≥ n2 : 1 2 n n : an (x) ≤ k ≤ n = . Qn (x) := max k an (x)
n k
monoton
(23.7)
23.1 Satz von Cram´er
509
Wir machen die Absch¨atzung
) * 2−n Qn (x) ≤ P Sn ≥ xn ≤ (n + 1) 2−n Qn (x).
(23.8)
Die Stirling’sche Formel 1 n −n √ n e 2πn = 1 n→∞ n! lim
liefert nun lim
n→∞
1 log Qn (x) n n! 1 log = lim n→∞ n an (x)! · (n − an (x))! 1 nn log a (x) n→∞ n an (x) n · (n − an (x))n−an (x)
= lim
n − an (x) an (x) log an (x) − log n − an (x) log(n) − n→∞ n n
= lim
= lim
n→∞
=−
1+x log + log(n) 2 1−x 1−x − log + log(n) 2 2
1+x log(n) − 2
1+x 1−x 1−x 1+x log − log = −I(x) + log 2. 2 2 2 2 2
Wegen (23.8) folgt hieraus (23.5).
Ein allgemeines Verfahren zur Bestimmung der Ratenfunktion I (unter gewissen restriktiven Annahmen an die Verteilung von (Xi )) liefert der Satz von Cram´er [32]. Satz 23.3 (Cram´er (1938)). Seien X1 , X2 , . . . u.i.v. reelle Zufallsvariablen mit logarithmischer momentenerzeugender Funktion * ) (23.9) Λ(t) := log E etX1 < ∞ f¨ur jedes t ∈ R. Sei
Λ∗ (x) := sup tx − Λ(t)
f¨ur x ∈ R,
t∈R
die Legendre-Transformierte von Λ. Dann gilt f¨ur jedes x > E[X1 ] lim
n→∞
) * 1 log P Sn ≥ xn = −I(x) := −Λ∗ (x). n
(23.10)
510
23 Große Abweichungen
Beweis. Indem wir gegebenenfalls Xi − x betrachten, k¨onnen wir E[Xi ] < 0 und ˜ i := Xi − x und sind Λ˜ und Λ˜∗ wie Λ und x = 0 annehmen. (Ist n¨amlich X ∗ ˜ ˜ = Λ(t) − t · x und daher gilt Λ definiert, jedoch mit Xi statt Xi , so ist Λ(t) ∗ ∗ ˜ ˜ Λ (0) = supt∈R (−Λ(t)) = Λ (x).) Setze ϕ(t) := eΛ(t) und := e−Λ
∗
(0)
= inf ϕ(t). t∈R
Nach (23.9) und dem Differentiationslemma (Satz 6.28) ist ϕ unendlich oft differenzierbar, und die ersten beiden Ableitungen sind * * ) ) und ϕ (t) = E X12 etX1 . ϕ (t) = E X1 etX1 Also ist ϕ strikt konvex und ϕ (0) = E[X1 ] < 0. Sei zun¨achst der Fall P[X1 ≤ 0] = 1 betrachtet. Dann ist ϕ (t) < 0 f¨ur jedes t ∈ R und = lim ϕ(t) = P[X1 = 0]. Die Behauptung folgt jetzt wegen t→∞
P[Sn ≥ 0] = P[X1 = . . . = Xn = 0] = n . Sei nun P[X1 < 0] > 0 und P[X1 > 0] > 0. Dann ist lim ϕ(t) = ∞ = t→∞
lim ϕ(t). Da ϕ strikt konvex ist, besitzt ϕ eine eindeutige Minimalstelle τ ∈ R,
t→−∞
also
ϕ(τ ) =
und
ϕ (τ ) = 0.
Wegen ϕ (0) < 0 ist τ > 0. Mit Hilfe der Markov’schen Ungleichung (Satz 5.11) erhalten wir die Absch¨atzung ) * ) * P[Sn ≥ 0] = P eτ Sn ≥ 1 ≤ E eτ Sn = ϕ(τ )n = n . Wir erhalten so die obere Schranke: lim sup n→∞
1 log P[Sn ≥ 0] ≤ log = −Λ∗ (0). n
Im Rest des Beweises m¨ussen wir also die umgekehrte Ungleichung zeigen: lim inf n→∞
1 log P[Sn ≥ 0] ≥ log . n
(23.11)
Wir verwenden eine Methode der exponentiellen Gr¨oßenverzerrung der Verteilung μ := PX1 von X1 , die untypische Werte typisch macht, damit man sie besser untersuchen kann. Wir definieren also die Cram´er-Transformierte μ ˆ ∈ M1 (R) von μ durch μ ˆ(dx) = −1 eτ x μ(dx) f¨ur x ∈ R. ˆ 2 , . . . unabh¨angig und identisch verteilt mit P ˆ = μ ˆ1, X ˆ. Dann ist Seien X Xi
23.1 Satz von Cram´er
) ˆ * 1 ϕ(t) ˆ := E etX1 = Also ist
etx eτ x μ(dx) = R
511
1 ϕ(t + τ ).
) ˆ 1 ] = ϕˆ (0) = 1 ϕ (τ ) = 0, E X ) ˆ 1 ] = ϕˆ (0) = 1 ϕ (τ ) ∈ (0, ∞). Var X
ˆ1 + . . . + X ˆ n , so ist Setzen wir Sˆn = X μ(dx1 ) · · · μ(dxn ) P[Sn ≥ 0] = {x1 +...+xn ≥0}
−τ x
1 = e μ ˆ(dx1 ) · · · e−τ xn μ ˆ(dxn ) {x1 +...+xn ≥0}
( ' ˆ = n E e−τ Sn ½{Sˆn ≥0} . Wir erhalten also (23.11), wenn wir zeigen k¨onnen, dass lim inf n→∞
( ' 1 ˆ log E e−τ Sn ½{Sˆn ≥0} ≥ 0. n
(23.12)
Nach dem Zentralen Grenzwertsatz (Satz 15.37) ist f¨ur c > 0 ( ( ' ' 1 1 ˆ ˆ log E e−τ Sn ½{Sˆn ≥0} ≥ log E e−τ Sn ½{0≤Sˆn ≤c√n } n n . ˆn √ 1 S ≥ log e−τ c n P √ ∈ [0, c] n n √
−τ c n 1 n→∞ + lim log N0,Var[Xˆ 1 ] ([0, c]) −→ lim n→∞ n→∞ n n = 0. 2 Beispiel 23.4. Ist PX1 = N0,1 , so ist *
) Λ(t) = log E etX1 = log Weiter ist
1 √ 2π
∞
tx −x2 /2
e e
dx
−∞
=
t2 . 2
t2 z2 Λ (z) = sup tz − Λ(t) = sup tz − = . 2 2 t∈R t∈R ∗
Die Ratenfunktion stimmt also mit der aus (23.4) u¨ berein.
3
Beispiel 23.5. Ist PX1 = 12 δ−1 + 12 δ1 , so ist Λ(t) = log cosh(t). Der Maximierer t∗ = t∗ (z) aus dem Variationsproblem f¨ur Λ∗ erf¨ullt die Gleichung z = Λ (t∗ ) = tanh(t∗ ). Also ist
512
23 Große Abweichungen
Λ∗ (z) = zt∗ − Λ(t∗ ) = z arc tanh(z) − log cosh(arc tanh(z)) . 1+z 1 log f¨ur z ∈ (−1, 1) und 2 1−z
1 1 cosh arc tanh(z) = √ = 3 . 2 1−z (1 − z)(1 + z)
Nun ist arc tanh(z) =
Es folgt z z 1 1 log(1 + z) − log(1 − z) + log(1 − z) + log(1 + z) 2 2 2 2 1−z 1+z log(1 + z) + log(1 − z). = 2 2 Dies ist aber gerade die Ratenfunktion aus Satz 23.1. Λ∗ (z) =
3
e−|x| ¨ Ubung 23.1.1. Sei X eine reelle Zufallsvariable mit Dichte f (x) = c−1 , 1 + |x|3 ∞ e−|x| dx. Man untersuche die logarithmische momentenerzeuwobei c = 3 −∞ 1 + |x| gende Funktion Λ auf Unstetigkeitsstellen und skizziere den Graphen von Λ. ♣
23.2 Prinzip der großen Abweichungen Wir wollen in diesem Abschnitt die Idee des Satzes von Cram´er, die Wahrscheinlichkeiten seltener, oder untypischer, Ereignisse vermittels einer exponentiellen Rate und einer Ratenfunktion zu quantifizieren, in einen formalen Rahmen stellen. In diesem Rahmen kann die gesamte Theorie großer Abweichungen entwickelt werden; der Leser sei etwa auf die B¨ucher [34], [35] oder [78] verwiesen. Sei E ein polnischer Raum mit vollst¨andiger Metrik d. Die offene Kugel um x ∈ E mit Radius ε > 0 bezeichnen wir mit Bε (x) = {y ∈ E : d(x, y) < ε}. Eine Abbildung f : E → R = [−∞, ∞] heißt halbstetig von unten, falls f¨ur jedes a ∈ R die Niveaumenge f −1 ([−∞, a]) ⊂ E abgeschlossen ist. (Speziell sind also stetige Abbildungen stets halbstetig von unten. Allerdings ist ½(0,1) : R → R ¨ halbstetig von unten, jedoch nicht stetig.) Aquivalent hierzu ist die Bedingung, dass limε↓0 inf f (Bε (x)) = f (x) ist f¨ur jedes x ∈ E. (Man beachte, dass inf f (A) = inf{f (x) : x ∈ A}.) Ist K ⊂ E kompakt und nichtleer, so nimmt f auf K das Infimum an. In der Tat: F¨ur den Fall, wo f (x) = ∞ f¨ur jedes x ∈ K ist, ist die Aussage trivial. Sei nun inf f (K) < ∞. Ist an ↓ inf f (K) streng monoton fallend, so ist K∩f −1 ([−∞, an ]) = ∅ kompakt f¨ur jedes n ∈ N, also ist auch der unendliche Schnitt nichtleer ∞ f −1 (inf f (K)) = K ∩ f −1 ([−∞, an ]) = ∅. n=1
23.2 Prinzip der großen Abweichungen
513
Definition 23.6 (Ratenfunktion). Eine von unten halbstetige Funktion I : E → [0, ∞] heißt Ratenfunktion. Sind alle Niveaumengen I −1 ([−∞, a]), a ∈ [0, ∞), kompakt, so nennen wir I eine gute Ratenfunktion. Definition 23.7 (Prinzip großer Abweichungen). Sei I eine Ratenfunktion und (με )ε>0 eine Familie von W-Maßen auf E. Wir sagen, dass (με )ε>0 ein Prinzip großer Abweichungen (kurz: LDP f¨ur Large Deviations Principle) mit Ratenfunktion I erf¨ullt, falls (LDP 1) lim inf ε log(με (U )) ≥ − inf I(U ) f¨ur jedes offene U ⊂ E, ε→0
(LDP 2) lim sup ε log(με (C)) ≤ − inf I(C) ε→0
f¨ur jedes abgeschlossene C ⊂ E.
Wir sagen, dass eine Familie (Pn )n∈N von W-Maßen auf E ein LDP mit Rate rn ↑ ∞ und Ratenfunktion I erf¨ullt, falls (LDP 1) und (LDP 2) f¨ur die Folge εn = 1/rn und f¨ur μ1/rn = Pn gelten. Oftmals werden die Bedingungen (LDP 1) und (LDP 2) kurz untere Schranke und obere Schranke genannt. In vielen F¨allen ist die untere Schranke leichter zu zeigen als die obere. Bevor wir zeigen, dass der Satz von Cram´er im Wesentlichen schon ein LDP ist, bringen wir noch zwei mehr technische Aussagen. Satz 23.8. Die Ratenfunktion in einem LDP ist eindeutig. Beweis. Es erf¨ulle (με )ε>0 das LDP mit Ratenfunktionen I und J. Dann ist f¨ur jedes x ∈ E und δ > 0 I(x) ≥ inf I(Bδ (x))
≥ − lim inf ε log με (Bδ (x)) ε→0
≥ − lim sup ε log με Bδ (x) ε→0
δ→0
≥ inf J Bδ (x) −→ J(x). Es folgt I(x) ≥ J(x) und analog J(x) ≥ I(x).
2
Lemma 23.9. Sei N ∈ N, und seien aiε , i = 1, . . . , N , ε > 0, nichtnegative Zahlen. Dann gilt N lim sup ε log aiε = max lim sup ε log(aiε ). ε→0
i=1
i=1,...,N
ε→0
514
23 Große Abweichungen
Beweis. Summe und Maximum unterscheiden sich h¨ochstens um den Faktor N : max
i=1,...,N
ε log(aiε ) ≤ ε log
N
aiε ≤ ε log(N ) + max
i=1,...,N
i=1
ε log(aiε ).
Maximum und Limes (superior) vertauschen, also ist max lim sup ε log(aiε ) = lim sup ε log max aiε i=1,...,N
ε→0
i=1,...,N
ε→0
≤ lim sup ε log
N
ε→0
aiε
i=1
≤ lim sup ε log(N ) + max lim sup ε log(aiε ) i=1,...,N
ε→0
= max
i=1,...,N
ε→0
lim sup ε log(aiε ). ε→0
2
Beispiel 23.10. Wir nehmen an, dass die Bedingungen aus dem Satz von Cram´er (Satz 23.3) gelten. Es seien also X1 , X2 , . . . u.i.v. reelle Zufallsvariablen mit Λ(t) = log(E[etX1 ]) < ∞ f¨ur jedes t ∈ R. Ferner sei Sn = X1 + . . . + Xn f¨ur jedes n. Wir wollen zeigen, dass aus dem Satz von Cram´er folgt, dass Pn := PSn /n ein LDP mit Rate n und guter Ratenfunktion I(x) = Λ∗ (x) := supt∈R (tx − Λ(t)) erf¨ullt. Ohne Einschr¨ankung k¨onnen wir annehmen, dass E[X1 ] = 0 ist. Die Funktion I ist u¨ berall endlich, stetig, strikt konvex und hat die eindeutige Minimalstelle bei I(0) = 0. Der Satz von Cram´er besagt, dass limn→∞ n1 log(Pn ([x, ∞))) = −I(x) f¨ur x > 0 und (aus Symmetriegr¨unden) limn→∞ x < 0. Offenbar ist f¨ur x > 0
1 n
log(Pn ((−∞, x])) = −I(x) f¨ur
1 log Pn ((x, ∞)) n 1 ≥ sup lim log Pn ([x + ε, ∞)) = − inf I(x + ε) = −I(x) ε>0 ε>0 n→∞ n
−I(x) ≥ lim
n→∞
1 log Pn ((−∞, x)) = −I(x). n Die Familie (Pn )n∈N erf¨ullt die Bedingungen (LDP 1) und (LDP 2) also zumindest f¨ur unbeschr¨ankte Intervalle. Hiermit ist die Hauptarbeit getan, der Rest besteht darin, mit Standardargumenten (LDP 1) und (LDP 2) f¨ur beliebige offene, beziehungsweise abgeschlossene Mengen zu zeigen.
Sei zun¨achst Wir definieren x+ := inf C ∩ [0, ∞) und
C ⊂ R abgeschlossen. x− := sup C ∩ (−∞, 0] . Aufgrund der Monotonie von I auf (−∞, 0] und [0, ∞) folgt inf I(C) = I(x− ) ∧ I(x+ ) (mit der Konvention I(−∞) = I(∞) = ∞). Ist x− = 0 oder x+ = 0, so ist inf(I(C)) = 0, und (LDP 2) gilt trivialerweise. Sei nun also x− < 0 < x+ . Wir erhalten mit Hilfe von Lemma 23.9 und f¨ur x < 0 analog lim
n→∞
23.2 Prinzip der großen Abweichungen
lim sup n→∞
515
1 log Pn (C) n
1 ≤ lim sup log Pn (−∞, x− ] + Pn [x+ , ∞) n n→∞
1 1 = max lim sup log Pn (−∞, x− ] , lim sup log Pn [x+ , ∞) n→∞ n n→∞ n
= max − I(x− ), −I(x+ ) = − inf I(C).
Damit ist (LDP 2) gezeigt. Sei nun U ⊂ R offen. Sei x ∈ U , x > 0, (falls es solch ein x gibt). Dann existiert ein ε > 0 mit (x − ε, x + ε) ⊂ U ∩ (0, ∞). Nun ist lim
n→∞
1 log Pn (x − ε, ∞) = −I(x − ε) > −I(x + ε) n
1 = lim log Pn [x + ε, ∞) . n→∞ n
Es folgt lim inf n→∞
1 1 log Pn (U ) ≥ lim log Pn ((x − ε, x + ε)) n→∞ n n
1 = lim log Pn (x − ε, ∞) − Pn [x + ε, ∞) n→∞ n
1 log Pn (x − ε, ∞) = −I(x − ε) ≥ −I(x). = lim n→∞ n
Analog folgt dies auch f¨ur x ∈ U ∩ (−∞, 0), also ist lim inf n→∞
1 log Pn (U ) ≥ inf I(U \ {0}) = inf I(U ), n
wobei wir im letzten Schritt ausgenutzt haben, dass U offen und I stetig ist. Damit ist die untere Schranke (LDP 1) gezeigt. 3 Tats¨achlich kann man auf die Bedingung, dass Λ(t) < ∞ f¨ur alle t ∈ R gilt, verzichten. Da offenbar Λ(0) = 0 ist, ist Λ∗ (x) ≥ 0 f¨ur jedes x ∈ R. Die Abbildung Λ∗ ist eine konvexe Ratenfunktion, jedoch im Allgemeinen keine gute Ratenfunktion. Wir zitieren die folgende Verst¨arkung des Satzes von Cram´er (siehe [34, Theorem 2.2.3]). Satz 23.11 (Cram´er). Sind X1 , X2 , . . . u.i.v. reelle Zufallsvariablen, dann erf¨ullt (PSn /n )n∈N ein LDP mit Ratenfunktion Λ∗ . ¨ Ubung 23.2.1. Sei E = R. Man zeige, dass με := N0,ε ein LDP mit guter Ratenfunktion I(x) = x2 /2 erf¨ullt. Man zeige ferner, dass in der oberen Schranke (LDP 2) strikte Ungleichheit auftreten kann. ♣
516
23 Große Abweichungen
¨ Ubung 23.2.2. Sei E = R. Man zeige, dass με := N0,ε2 ein LDP mit guter Ratenfunktion I(x) = ∞ · ½R\{0} (x) erf¨ullt. Man zeige ferner, dass in der unteren Schranke (LDP 1) strikte Ungleichheit auftreten kann. ♣ ¨ Ubung 23.2.3. Sei E = R. Man zeige, dass με := 12 N−1,ε + 12 N1,ε ein LDP mit guter Ratenfunktion I(x) = min( 12 (x + 1)2 , 12 (x − 1)2 ) erf¨ullt. ♣ ¨ Ubung 23.2.4. Man berechne Λ und Λ∗ f¨ur den Fall, wo X1 ∼ expθ f¨ur θ > 0 und interpretiere die Aussage von Satz 23.11 f¨ur diesen Fall. Man pr¨ufe, dass Λ∗ die eindeutige Nullstelle bei E[X1 ] hat. (Ergebnis: Λ∗ (x) = θx − log(θx) − 1 falls x > 0 und = ∞ sonst.) ♣ ¨ Ubung 23.2.5. Man berechne Λ und Λ∗ f¨ur den Fall, wo X1 Cauchy verteilt ist und interpretiere die Aussage von Satz 23.11 f¨ur diesen Fall. ♣ ¨ Ubung 23.2.6. Sei Xλ ∼ Poiλ f¨ur jedes λ > 0. Man zeige, dass με := PεXλ/ε ein LDP mit guter Ratenfunktion I(x) = x log(x/λ) + λ − x f¨ur x ≥ 0 (und = ∞ sonst) erf¨ullt. ♣ ¨ Ubung 23.2.7. Sei (Xt )t≥0 die Irrfahrt auf Z in stetiger Zeit, die mit Rate 12 einen Schritt nach rechts springt und mit Rate 12 einen Schritt nach links springt. Man zeige, dass (PεX1/ε )ε>0 ein LDP erf¨ullt mit der konvexen guten Ratenfunktion √ I(x) = 1 + x arc sinh(x) − 1 + x2 . ♣
23.3 Satz von Sanov Dieser Abschnitt ist an die Darstellung in [34] angelehnt. Wir wollen hier ein Prinzip der großen Abweichungen vorstellen, das nicht auf einem linearen Raum basiert, wie der Satz von Cram´er, sondern f¨ur empirische Verteilungen unabh¨angiger Zufallsvariablen mit Werten in einer endlichen Menge Σ, die meist Alphabet genannt wird, annehmen. Sei μ ein W-Maß auf Σ mit μ({x}) > 0 f¨ur jedes x ∈ Σ. Seien ferner X1 , X2 , . . . u.i.v. Zufallsvariablen mit Werten in Σ und Verteilung PX1 = μ. Wir wollen ein Prinzip großer Abweichungen f¨ur die empirischen Maße 1 δX n i=1 i n
ξn (X) :=
herleiten. Man beachte, dass nach dem Gesetz der großen Zahl P-fast sicher gilt, n→∞ dass ξn (X) −→ μ. Als Zustandsraum ergibt sich also E = M1 (Σ), ausgestattet mit der Metrik d(μ, ν) = μ − νT V der Totalvariation. (Da Σ nur endlich viele
23.3 Satz von Sanov
517
Punkte enth¨alt, sind in E die vage Konvergenz, die schwache Konvergenz und die Konvergenz in Totalvariation identisch.) Es sei weiterhin En := μ ∈ M1 (Σ) : nμ({x}) ∈ N0 f¨ur jedes x ∈ Σ der m¨ogliche Wertebereich der Zufallsvariablen ξn (X). Wir erinnern an den Begriff der Entropie von μ
H(μ) := − log μ({x}) μ(dx). Ist ν ∈ M1 (Σ), so definieren wir die relative Entropie (oder Kullback-Leibler Information nach [107]) von ν gegeben μ durch ν({x}) ν(dx). (23.13) H(ν |μ) := log μ({x}) Da μ({x}) > 0 ist f¨ur alle x ∈ Σ, ist der Integrand ν-f.s. endlich und damit ist auch das Integral endlich. Eine einfache Anwendung der Jensen’schen Ungleichung ¨ liefert, dass H(μ) ≥ 0 und H(ν |μ) ≥ 0 ist (siehe Lemma 5.26 und Ubung 5.3.3) sowie H(ν |μ) = 0 genau dann, wenn ν = μ ist. Außerdem ist offenbar
H(ν |μ) + H(ν) = − log μ({x}) ν(dx). (23.14) Da die Abbildung ν → Iμ (ν) := H(ν |μ) stetig ist, ist Iμ eine Ratenfunktion. Lemma 23.12. F¨ur jedes n ∈ N und ν ∈ En gilt (n + 1)−#Σ e−n H(ν | μ) ≤ P[ξn (X) = ν] ≤ e−n H(ν | μ) .
(23.15)
Beweis. Wir betrachten die Menge m¨oglicher Werte f¨ur das n-Tupel (X1 , . . . , Xn ), sodass ξn (X) = ν ist: n 1 An (ν) := k = (k1 , . . . , kn ) ∈ Σ n : δki = ν . n i=1
F¨ur jedes k ∈ An (ν) ist (vergleiche (23.14)) P[ξn (X) = ν] = #An (ν) P[X1 = k1 , . . . , Xn = kn ] μ({x})nν({x}) = #An (ν) x∈Σ
= #An (ν) exp n ν(dx) log μ({x})
= #An (ν) exp − n[H(ν) + H(ν |μ)] .
518
23 Große Abweichungen
Seien nun Y1 , Y2 , . . . u.i.v. Zufallsvariablen mit Werten in Σ und Verteilung PY1 = ν. Dann ist wie in der Rechnung f¨ur X (wegen H(ν |ν) = 0) 1 ≥ P[ξn (Y ) = ν] = #An (ν) e−nH(ν) , also #An (ν) ≤ enH(ν) . Hieraus folgt die zweite Ungleichung in (23.15). Die Zufallsvariable n ξn (Y ) ist multinomialverteilt mit Parametern (nν({x}))x∈Σ , also ist die Abbildung En → [0, 1], ν → P[ξn (Y ) = ν ] maximal in ν = ν. Es folgt #An (ν) = enH(ν) P[ξn (Y ) = ν] ≥
enH(ν) ≥ (n + 1)−#Σ enH(ν) . #En
Hieraus folgt die erste Ungleichung in (23.15).
2
Wir kommen jetzt zum Hauptsatz dieses Abschnitts, dem Satz von Sanov (siehe [151] und [152]). Satz 23.13 (Sanov (1957)). Seien X1 , X2 , . . . u.i.v. Zufallsvariablen mit Werten in der endlichen Menge Σ und mit Verteilung μ. Dann erf¨ullt die Familie (Pξn (X) )n∈N der Verteilungen der empirischen Maße ein LDP mit Rate n und Ratenfunktion Iμ := H( · |μ). Beweis. F¨ur jedes A ⊂ E ist nach Lemma 23.12 ) * P ξn (X) ∈ A = P[ξn (X) = ν] ν∈A∩En
≤
e−nH(ν | μ)
ν∈A∩En
≤ #(A ∩ En ) exp − n inf Iμ (A ∩ En )
≤ (n + 1)#Σ exp − n inf Iμ (A) . Es folgt lim sup n→∞
1 log P[ξn (X) ∈ A] ≤ − inf Iμ (A), n
also die obere Schranke im LDP (sogar f¨ur allgemeines A). Analog erhalten wir mit der ersten Ungleichung aus Lemma 23.12 *
) P ξn (X) ∈ A ≥ (n + 1)−#Σ exp − n inf Iμ (A ∩ En ) und damit lim inf n→∞
) * 1 log P ξn (X) ∈ A ≥ − lim sup inf Iμ (A ∩ En ). n n→∞
(23.16)
23.3 Satz von Sanov
519
Man beachte, dass wir f¨ur diese Ungleichung im Infimum nicht einfach A ∩ En durch A ersetzen k¨onnen. Wir zeigen vielmehr, dass dies f¨ur offenes A zumindest asymptotisch geht. Sei also A ⊂ E offen. F¨ur ν ∈ A gibt es ein ε > 0 mit Bε (ν) ⊂ n→∞ A. F¨ur n ≥ (2 #Σ)/ε ist En ∩ Bε (ν) = ∅, also existiert eine Folge νn −→ ν mit νn ∈ En ∩ A f¨ur hinreichend großes n ∈ N. Da Iμ stetig ist, gilt lim sup inf Iμ (A ∩ En ) ≤ lim Iμ (νn ) = Iμ (ν). n→∞
n→∞
Da ν ∈ A beliebig war, folgt lim supn→∞ inf Iμ (A ∩ En ) = inf Iμ (A).
2
Beispiel 23.14. Sei Σ = {−1, 1} und μ = 12 δ−1 + 12 δ1 die Gleichverteilung auf Σ. Schreiben wir m = m(ν) = ν({1}) − ν({−1}), dann ist die relative Entropie von ν ∈ M1 (Σ) H(ν |μ) =
1+m 1−m log(1 + m) + log(1 − m). 2 2
Dies ist genau die Ratenfunktion, die wir bereits aus Satz 23.1 kennen.
3
Wir wollen den Zusammenhang zwischen den LDPs von Sanov und von Cram´er, der im letzten Beispiel angedeutet wurde, nun formal herstellen, indem wir eine Variante des Satzes von Cram´er f¨ur Rd -wertige Zufallsvariablen, die nur endlich viele Werte annehmen, aus dem Satz von Sanov herleiten. Beispiel 23.15. Sei Σ ⊂ Rd endlich und μ ein W-Maß auf Σ. Seien ferner X1 , X2 , . . . u.i.v. Zufallsvariablen mit Werten in Σ und Verteilung P)X1 = μ* sowie Sn = X1 + . . . + Xn f¨ur jedes n ∈ N.Wir setzen Λ(t) = log E et,X1 f¨ur t ∈ Rd und Λ∗ (x) = supt∈Rd t, x! − Λ(t) f¨ur x ∈ Rd .
Wir zeigen, dass PSn /n n∈N ein LDP mit Rate n und Ratenfunktion Λ∗ erf¨ullt. Es sei ξn (X) das empirische Maß von X1 , . . . , Xn . Sei E := M1 (Σ). Definiere die Abbildung m : E → Rd , ν → x ν(dx) = x ν({x}), x∈Σ
die ν das erste Moment zuordnet. Offenbar ist dann n1 Sn = m(ξn (X)). F¨ur x ∈ Rd und A ⊂ Rd seien Ex := m−1 ({x}) = {ν ∈ E : m(ν) = x} und EA = m−1 (A) = {ν ∈ E : m(ν) ∈ A}. Die Abbildung ν → m(ν) ist stetig, also ist EA offen (beziehungsweise abgeschlossen), falls A offen (beziehungsweise ˜ abgeschlossen) ist. Mit I(x) := inf Iμ (Ex ) (wobei Iμ (ν) = H(ν |μ) die relative Entropie ist) gilt nach dem Satz von Sanov f¨ur offenes U ⊂ Rd lim inf n→∞
1 1 log PSn /n (U ) = lim inf log Pξn (X) m−1 (U ) n→∞ n n
˜ ). ≥ − inf I m−1 (U ) = − inf I(U μ
520
23 Große Abweichungen
Analog ist f¨ur abgeschlossenes C ⊂ Rd lim sup n→∞
1 ˜ log PSn /n (C) ≥ − inf I(C). n
˜ Mit anderen Worten: (PSn /n )n∈N erf¨ullt ein LDP mit Rate n und Ratenfunktion I. ∗ Es ist also nur noch zu zeigen, dass I˜ = Λ gilt. Man beachte, dass t → Λ(t) differenzierbar (mit Ableitung Λ ) und strikt konvex ist. Daher besitzt das Variationsproblem f¨ur Λ∗ (x) einen eindeutigen Maximierer t∗ (x). Genauer gilt Λ∗ (x) = t∗ (x), x! − Λ(t∗ (x)) und Λ∗ (x) > t, x! − Λ(t) f¨ur alle t = t∗ (x) sowie Λ (t∗ (x)) = x. Nach der Jensenschen Ungleichung ist f¨ur jedes ν ∈ M1 (Σ) Λ(t) = log et,y μ(dy) t,y μ({y}) = log e ν(dy) ν({y}) μ({y}) ν(dy) ≥ log et,y ν({y}) = t, m(ν)! − H(ν |μ) mit Gleichheit genau dann, wenn ν = νt , wo νt ({y}) = μ({y})et,y−Λ(t) . Also ist t, x! − Λ(t) ≤ inf H(ν |μ) ν∈Ex
mit Gleichheit, falls νt ∈ Ex . Nun ist aber m(νt ) = Λ (t), also ist νt∗ (x) ∈ Ex und damit ˜ Λ∗ (x) = t∗ (x), x! − Λ(t∗ (x)) = inf H(ν |μ) = I(x). 3 ν∈Ex
Das Beweisprinzip, das wir im letzten Beispiel verwandt haben, um das LDP mit Ratenfunktion I˜ herzuleiten, wird Kontraktionsprinzip genannt. Wir formulieren es als Satz. Satz 23.16 (Kontraktionsprinzip). Die Familie (με )ε>0 von W-Maßen auf E erf¨ulle ein LDP mit Ratenfunktion I. Ist F ein topologischer Raum und m : E → F ˜ = stetig, so erf¨ullen die Bildmaße (με ◦ m−1 )ε>0 ein LDP mit Ratenfunktion I(x) inf I(m−1 ({x})).
23.4 Varadhan’sches Lemma und Freie Energie Wir nehmen an, dass (με )ε>0 eine Familie von W-Maßen ist, die ein LDP mit Ratenfunktion I erf¨ullt. Wir wissen also, dass die Masse von με f¨ur kleine ε > 0 mehr und
23.4 Varadhan’sches Lemma und Freie Energie
521
mehr um die Nullstellen von I herum konzentriert liegt. In der statistischen Physik ist es oftmals von Interesse, Funktionen bez¨uglich με (wobei 1/ε als Systemgr¨oße“ ” verstanden wird) zu integrieren, die ihren gr¨oßten Wert nicht in den Nullstellen von I annehmen, und die zudem noch exponentiell mit 1/ε skalieren. Es soll also die 0 Asymptotik von Zεφ := eφ(x)/ε με (dx) f¨ur ε → 0 untersucht werden. Unter harmlosen Stetigkeitsannahmen tragen zu dem Integral haupts¨achlich diejenigen Punkte x bei, f¨ur die φ(x) groß ist, die aber gleichzeitig nicht zu unwahrscheinlich sind, also diejenigen x, f¨ur die φ(x) − I(x) die gr¨oßten Werte annimmt. Die Beitr¨age messen wir durch die gekippten W-Maße μφε (dx) = (Zεφ )−1 eφ(x)/ε με (dx), f¨ur die wir ein LDP herleiten. Als Anwendung folgern wir das Prinzip der Minimierung der freien Energie in der statistischen Physik und analysieren speziell den Weiss’schen Ferromagneten. Satz 23.17 (Varadhan’sches Lemma (1966)). Sei I eine gute Ratenfunktion und (με )ε>0 eine Familie von W-Maßen auf E, die ein LDP mit Ratenfunktion I erf¨ullt. Sei ferner φ : E → R stetig und erf¨ulle die Bedingung (23.17) inf lim sup ε log eφ(x)/ε ½{φ(x)≥M } με (dx) = −∞. M >0
ε→0
Dann gilt
lim ε log
ε→0
eφ(x)/ε με (dx) = sup φ(x) − I(x) .
(23.18)
x∈E
Bemerkung 23.18. Die Bedingung (23.17) folgt aus der etwas griffigeren Bedingung, dass es ein α > 1 gibt mit lim sup ε log eαφ/ε dμε < ∞. (23.19) ε→0
In der Tat: F¨ur jedes M ∈ R ist φ(x)/ε ε log e ½{φ(x)≥M } με (dx) = M + ε log e(φ(x)−M )/ε ½{φ(x)≥M } με (dx) ≤ M + ε log eα(φ(x)−M )/ε με (dx) = −(α − 1)M + ε log eαφ(x)/ε με (dx). Hieraus und aus (23.19) folgt sofort (23.17).
3
Beweis. Wir zeigen mit unterschiedlichen Argumenten, dass die rechte Seite in (23.18) eine untere Schranke und eine obere Schranke f¨ur die linke Seite ist.
522
23 Große Abweichungen
F¨ur jedes x ∈ E und r > 0 ist φ/ε lim inf ε log e dμε ≥ lim inf ε log
Untere Schranke.
ε→0
ε→0
eφ/ε dμε
Br (x) r→0
≥ inf φ(Br (x)) − I(x) −→ φ(x) − I(x). Obere Schranke. ε FM :=
{φ≥M }
F¨ur M > 0 und ε > 0 definieren wir eφ(x)/ε με (dx) und GεM :=
{φ<M }
eφ(x)/ε με (dx).
Wir setzen und
ε FM := lim sup ε log FM ε→0
GM := lim sup ε log GεM . ε→0
Nach Lemma 23.9 gilt f¨ur jedes M > 0 lim ε log eφ(x)/ε με (dx) = FM ∨ GM . ε→0
Da nach Voraussetzung inf M >0 FM = −∞ gilt, reicht es zu zeigen, dass
sup GM ≤ sup φ(x) − I(x) . M >0
(23.20)
x∈E
Sei δ > 0. F¨ur jedes x ∈ I gibt es ein r(x) > 0 mit
inf I B2r(x) (x) ≥ I(x) − δ und sup φ B2r(x) (x) ≤ φ(x) − δ. Sei a ≥ 0. Da I eine gute Ratenfunktion ist, ist die Niveaumenge K := I −1 ([0, a]) kompakt. Wir finden also endlich viele Punkte x1 , . . . , xN ∈ I −1 ([0, a]), sodass N i=1 Br(xi ) (xi ) ⊃ K. Es gilt daher GεM
≤
e
φ(x)/ε
με (dx) +
{φ<M }∩K c
N i=1
≤ eM/ε με (K c ) +
N
{φ<M }∩Br(xi ) (xi )
eφ(x)/ε με (dx)
e(φ(xi )∧M +δ)/ε με Br(xi ) (xi )
i=1
= e(M +ε log(με (K
c
)))/ε
+
N
e(φ(xi )∧M +δ+ε log(με (Br(xi ) (xi ))))/ε .
i=1
Es folgt nach Lemma 23.9 und dem LDP
max φ(xi ) − I(xi ) + 2δ i=1,...,N
≤ (M − a) ∨ sup φ(x) − I(x) + 2δ.
GM ≤ (M − a) ∨
x∈E
Indem wir erst δ ↓ 0 und dann a ↑ ∞ gehen lassen, folgt (23.20).
2
23.4 Varadhan’sches Lemma und Freie Energie
523
Satz 23.19 (Gekipptes LDP). Es erf¨ulle (με )ε>0 ein LDP mit der guten Ratenfunktion I. Ferner0 sei φ : E → R stetig und erf¨ulle die Bedingung (23.17). Wir definieren Zεφ := eφ/ε dμε und μφε ∈ M1 (E) durch μφε (dx) = (Zεφ )−1 eφ(x)/ε με (dx). Ferner definieren wir I φ : E → [0, ∞] durch
I φ (x) = sup φ(z) − I(z) − φ(x) − I(x) .
(23.21)
z∈E
Dann erf¨ullt (μφε )ε>0 ein LDP mit der Ratenfunktion I φ . ¨ Beweis. Dies bleibt dem Leser zur Ubung u¨ berlassen. (Vergleiche [35, Aufgabe 2.1.24], siehe auch [45, Abschnitt II.7].) 2 Wir wollen das Varadhan’sche Lemma im Kontext der statistischen Physik betrachten. Sei hierzu Σ ein polnischer Raum, den wir als Raum der m¨oglichen Zust¨ande eines einzelnen Teilchens auffassen wollen. Ferner sei λ ∈ M1 (Σ) eine Verteilung, die wir als a priori Verteilung eines Teilchens ohne Ber¨ucksichtigung der Energie auffassen wollen. Ist Σ endlich oder eine beschr¨ankte Menge eines Rd , so ist λ typischerweise die Gleichverteilung auf Σ. Wenn wir n ununterscheidbare Teilchen unabh¨angig nach λ auf Positionen z1 , . . . , zn ∈ Σ setzen, so k¨onnen wir den Zun stand dieses Ensembles als x := n1 i=1 δzi beschreiben. Mit μ0n ∈ M1 (M1 (Σ)) bezeichnen wir die so gewonnene a priori Verteilung von x. Wir machen nun die Annahme, dass sich die Energie Un (x) eines Zustandes schreiben l¨asst als Un (x) = nU (x), wo U (x) als die mittlere Energie eines Teilchens bei Gesamtzustand x interpretiert wird. Es sei T > 0 die Temperatur des Systems und β := 1/T die so genannte inverse Temperatur. Eine wichtige Rolle in der statistischen Physik spielt die Zustandssumme oder Partitionsfunktion β Zn := e−βUn dμ0n . Ein Postulat der statistischen Physik besagt, dass der Zustand x nach der Boltzmann-Verteilung verteilt ist: μβn (dx) = (Znβ )−1 e−βUn (x) μ0n (dx).
(23.22)
Das Varadhan’sche Lemma (genauer: das gekippte LDP) und der Satz von Sanov erlauben uns, die Br¨ucke zum Variationsprinzip f¨ur die freie Energie zu schlagen. Wir nehmen nun an, dass Σ eine endliche Menge ist und λ = UΣ die Gleichverteilung auf Σ. Nach dem Satz von Sanov erf¨ullt (μ0n )n∈N ein LDP mit Rate n und
524
23 Große Abweichungen 0.01 0.008 0.006 0.004 0.002
–0.8
–0.6
–0.4
–0.2
0
0.2
–0.002
0.4 m
0.6
0.8
–0.004 –0.006 –0.008
beta=0.9 beta=1.0 beta=1.1
Abb. 23.1. Die verschobene freie Energie F β (m) − F β (0) des Weiss’schen Ferromagneten ohne a¨ ußeres Feld (h = 0).
Ratenfunktion I(x) = H(x|λ), wo H(x|λ) die relative Entropie von x bez¨uglich λ ist. Nach (23.14) ist H(x|λ) = log(#Σ) − H(x), wo H(x) die Entropie von x ist. Wir definieren die freie Energie (oder das Helmholtz-Potential) pro Teilchen als F β (x) := U (x) − β −1 H(x). Der Satz u¨ ber das gekippte LDP liefert nun, dass die Folge der Boltzmann-Verteilungen (μβn )n∈N ein LDP erf¨ullt mit Rate n und Ratenfunktion I β (x) = F β (x) −
inf
y∈M1 (Σ)
F β (y).
F¨ur großes n ist die Boltzmann Verteilung auf diejenigen x konzentriert, die die freie Energie minimieren. Dies k¨onnen f¨ur unterschiedliche Temperaturen (also Werte von β) sehr unterschiedliche Zust¨ande sein. Daher treten bei kritischen Temperaturen Phasen¨uberg¨ange auf, und chemische Reaktionen laufen bei unterschiedlichen Temperaturen in unterschiedlichen Richtungen ab. Beispiel 23.20. Wir betrachten den Weiss’schen Ferromagneten. Dies ist ein mikroskopisches Modell f¨ur Magnetismus, das davon ausgeht, dass jedes von n magnetischen Teilchen eine von den zwei nAusrichtungen σi ∈ Σ = {−1, +1} hat. Die mittlere Magnetisierung m = n1 i=1 σi beschreibt den Zustand des Systems vollst¨andig (da die Teilchen ununterscheidbar sind) und ist die relevante makroskopische Messgr¨oße. Die Grundidee ist, dass es energetisch g¨unstiger ist, wenn Teilchen magnetisch parallel ausgerichtet sind, als wenn sie antiparallel ausgerichtet
23.4 Varadhan’sches Lemma und Freie Energie
525
0.1
0.05
–1
–0.8
–0.6
–0.4
–0.2
0.2
0.4
m
0.6
0.8
1
–0.05
–0.1
beta=0.9 beta=1.0 beta=1.1 beta=1.5
Abb. 23.2. Die verschobene freie Energie F β (m) − F β (0) des Weiss’schen Ferromagneten mit a¨ ußerem Feld h = 0.04.
sind. Wir wollen die r¨aumliche Struktur der Wechselwirkung ignorieren und annehmen, dass jedes Teilchen mit jedem anderen in gleicher Weise wechselwirkt (mean field Annahme). Außerdem wollen wir annehmen, dass es ein a¨ ußeres Magnetfeld der St¨arke h gibt. Bis auf Konstanten ist die Energie pro Teilchen daher 1 U (m) = − m2 − hm. 2 Die Entropie des Zustands m ist H(m) = −
1 + m 1 − m 1 − m 1+m log − log . 2 2 2 2
Die freie Energie pro Teilchen ist also '1 + m 1 + m 1 − m 1 − m ( 1 F β (m) = − m2 − hm + β −1 log + log . 2 2 2 2 2 Um die Minimalstellen von F β zu bestimmen, berechnen wir die Ableitung !
0=
d β dm F (m)
= −m − h + β −1 arc tanh(m).
Wir erhalten so f¨ur m die Gleichung m = tanh(β(m + h)).
(23.23)
526
23 Große Abweichungen 1 m
h=0.2 h=0.04 h=0.001
0.8
0.6
0.4
0.2
beta 0
0.5
1
1.5
2
2.5 β,h
Abb. 23.3. Weiss’scher Ferromagnet: Magnetisierung m
3
3.5
als Funktion von β.
Im Fall h = 0 hat (23.23) stets die L¨osung m = 0. Ist β ≤ 1, so ist diese L¨osung eindeutig, und F β hat das globale Minimum in m = 0. Ist β > 1, so besitzt (23.23) β,0 β,0 zwei weitere L¨osungen mβ,0 − ∈ (−1, 0) und m+ = −m− , die nur numerisch bestimmt werden k¨onnen. In diesem Fall besitzt F β in 0 ein lokales Maximum und in mβ,0 ± globale Minima. Da f¨ur große n nur noch solche Werte angenommen werden, f¨ur die F β minimal ist, liegt die Verteilung konzentriert um 0, falls β ≤ 1 und konzentriert um mβ,0 ± , falls β,0 β > 1. Im letzterem Fall ist die betragsm¨aßige Magnetisierung m± = mβ,0 + > 0. ¨ Wir haben also einen Phasenubergang zwischen einer Phase bei hoher Temperatur (β ≤ 1), wo keine Magnetisierung auftritt, und niedriger Temperatur (β > 1), wo so genannte spontane Magnetisierung auftritt (das heißt ohne Einwirkung eines a¨ ußeren Feldes). Ist h = 0, so besitzt F β in m = 0 keine Minimalstelle. Vielmehr ist F β asymmetrisch und besitzt ein globales Minimum mβ,h mit selbem Vorzeichen wie h sowie f¨ur großes β noch eine weiteres lokales Minimum mit dem entgegengesetzten Vorzeichen. Die exakten Werte f¨ur die Magnetisierung k¨onnen wieder nur numerisch bestimmt werden. Wir k¨onnen mβ,h jedoch f¨ur hohe Temperaturen (β klein) approximativ bestimmen, indem wir die N¨aherung tanh(β(m + h)) ≈ β(m + h) verwenden. Wir erhalten so mβ,h ≈
h h = −1 T − Tc
β −1
f¨ur T → ∞,
(23.24)
wo die Curie-Temperatur Tc = 1 die kritische Temperatur f¨ur das Auftreten von spontaner Magnetisierung ist. Die Beziehung (23.24) heißt Curie-Weiss’sches Gesetz. 3
24 Der Poisson’sche Punktprozess
Poisson’sche Punktprozesse k¨onnen als ein Grundbaustein zur Konstruktion sehr unterschiedlicher stochastischer Objekte verwendet werden, wie etwa unbegrenzt teilbare Verteilungen, Markovprozesse mit komplexer Dynamik, Objekte der stochastischen Geometrie und so fort. Wir geben in diesem Kapitel kurz den allgemeinen Rahmen zuf¨alliger Maße an, konstruieren den Poisson’schen Punktprozess und charakterisieren ihn durch seine Laplace-Transformierte. Als Anwendung konstruieren wir einen Subordinator und zeigen, dass der Poisson’sche Punktprozess das invariante Maß von Systemen un¨ abh¨angiger Irrfahrten ist. Uber den Zusammenhang zu Subordinatoren schlagen wir im dritten Abschnitt die Br¨ucke zu den in der Populationsgenetik wichtigen PoissonDirichlet und GEM Verteilungen.
24.1 Zuf¨allige Maße Sei E im Folgenden ein lokalkompakter, polnischer Raum (etwa E = Rd oder E = Zd ) mit Borel’scher σ-Algebra B(E). Sei
Bb (E) = B ∈ B(E) : B ist relativ kompakt das System der beschr¨ankten Borel’schen Mengen und M(E) der Raum der RadonMaße auf E (siehe Definition 13.3). Definition 24.1. Wir bezeichnen mit M = σ(IA : A ∈ Bb (E)) die kleinste σAlgebra auf M(E), bez¨uglich der alle Abbildungen IA : μ → μ(A),
A ∈ Bb (E),
messbar sind. Wir schreiben B+ (E) f¨ur die Menge der messbaren Abbildungen E → [0, ∞] und BbR (E) f¨ur die Menge der beschr¨ankten, 0 messbaren Abbildungen E → R mit kompaktem Tr¨ager. Das Integral If (μ) := f dμ ist f¨ur jedes f ∈ B+ (E) wohldefiniert und f¨ur jedes f ∈ BbR (E) wohldefiniert und endlich.
528
24 Der Poisson’sche Punktprozess
Satz 24.2. Sei τv die vage Topologie auf M(E). Dann ist M = B(τv ) = σ(If : f ∈ Cc (E)) = σ(If : f ∈ Cc+ (E)). ¨ Beweis. Ubung! (Siehe [87, Lemma 4.1].)
2
= σ(IA : A ∈ Bb (E)). K Sei M(E) der Raum aller Maße auf E mit σ-Algebra M die Spur-σ-Algebra von M auf M(E). Wir brauchen Offenbar ist M = M M(E)
diesen etwas gr¨oßeren Raum, um zuf¨allige Maße so zu definieren, dass fast sicher wohldefinierte Operationen wieder zuf¨allige Maße ergeben. Definition 24.3. Ein zuf¨alliges Maß auf E ist eine Zufallsvariable X auf einem und mit der EigenK Wahrscheinlichkeitsraum (Ω, A, P) mit Werten in (M(E), M) schaft P[X ∈ M(E)] = 1. Satz 24.4. Sei X ein zuf¨alliges Maß auf E. Dann ist die Mengenfunktion E[X] : B(E) → [0, ∞], A → E[X(A)] ein Maß. Wir nennen E[X] das Intensit¨atsmaß von X. X heißt integrierbar, falls E[X] ∈ M(E). Beweis. Offenbar ist E[X] endlich additiv. Seien A, A1 , A2 , . . . ∈ B(E) mit An ↑ A. Betrachte die Zufallsvariablen Yn := X(An ) und Y = X(A). Dann gilt Yn ↑ Y , n→∞ also nach dem Satz u¨ ber monotone Konvergenz E[X](An ) = E[Yn ] −→ E[Y ] = E[X](A). Mithin ist E[X] stetig von unten und damit ein Maß (nach Satz 1.36). 2 Satz 24.5. Die Verteilung PX eines zuf¨alligen Maßes X ist eindeutig bestimmt sowohl durch die Verteilungen von
(If1 , . . . , Ifn ) : n ∈ N; f1 , . . . , fn ∈ Cc+ (E) (24.1) als auch von
(IA1 , . . . , IAn ) : n ∈ N; A1 , . . . , An ∈ Bb (E) paarweise disjunkt .
(24.2)
Beweis. Das Mengensystem
I = (If1 , . . . , Ifn )−1 (A) : n ∈ N; f1 , . . . , fn ∈ Cc+ (E), A ∈ B([0, ∞)n ) ist schnittstabil und nach Satz 24.2 ein Erzeuger von M. Also ist das Maß PX eindeutig durch die Werte auf I festgelegt. Die Aussage folgt analog f¨ur
(IA1 , . . . , IAn ) : n ∈ N; A1 , . . . , An ∈ Bb (E) . Sind A1 , . . . , An ∈ Bb (E) beliebig, so existieren 2n − 1 paarweise disjunkte Men gen B1 , . . . , B2n −1 mit Ai = k: Bk ⊂Ai Bk f¨ur jedes i = 1, . . . , n. Die Verteilung 2 von (IA1 , . . . , IAn ) l¨asst sich aus der von (IB1 , . . . , IB2n −1 ) berechnen.
24.1 Zuf¨allige Maße
Im Folgenden sei i =
√
529
−1.
Definition 24.6. Sei X ein zuf¨alliges Maß auf E. Wir bezeichnen mit ' ( LX (f ) = E exp − f dX , f ∈ B + (E), die Laplace-Transformierte von X und mit ' ( ϕX (f ) = E exp i f dX ,
f ∈ BbR (E),
die charakteristische Funktion von X. Satz 24.7. Die Verteilung PX eines zuf¨alligen Maßes X ist eindeutig bestimmt sowohl durch die Werte der Laplace-Transformierten LX (f ), f ∈ Cc+ (E), als auch durch die Werte der charakteristischen Funktion ϕX (f ), f ∈ Cc (E). Beweis. Dies folgt aus Satz 24.5 und dem Eindeutigkeitssatz f¨ur charakteristische ¨ Funktionen (Satz 15.8) beziehungsweise Laplace-Transformierte (Ubung 15.1.2) n 2 von Zufallsvariablen auf [0, ∞) . Definition 24.8. Wir sagen, dass ein zuf¨alliges Maß X auf E unabh¨angige Zuw¨achse hat, falls f¨ur je endlich viele paarweise disjunkte messbare Mengen A1 , . . . , An die Zufallsvariablen X(A1 ), . . . , X(An ) unabh¨angig sind. Korollar 24.9. Die Verteilung eines zuf¨alligen Maßes X auf E mit unabh¨angigen Zuw¨achsen ist durch (PX(A) , A ∈ Bb (E)) eindeutig bestimmt. Beweis. Dies folgt direkt aus Satz 24.5.
2
Definition 24.10. Sei μ ∈ M(E). Ein zuf¨alliges Maß X mit unabh¨angigen Zuw¨achsen heißt Poisson’scher Punktprozess (PPP) mit Intensit¨atsmaß μ, falls f¨ur jedes A ∈ Bb (E) gilt, dass PX(A) = Poiμ(A) . Wir schreiben dann PPPμ := PX ∈ M1 (M(E)) und sagen kurz, dass X ein PPPμ ist. Bemerkung 24.11. Die Definition des PPP (und die Konstruktion im folgenden Satz) funktioniert auch, wenn (E, E, μ) lediglich ein σ-endlicher Maßraum ist. Die Charakterisierung mit Hilfe von Laplace-Transformierten und charakteristischen Funktionen ist allerdings etwas einfacher im hier betrachteten Fall lokalkompakter, polnischer R¨aume. 3 Satz 24.12. Zu jedem μ ∈ M(E) existiert ein Poisson’scher Punktprozess X mit Intensit¨atsmaß μ.
530
24 Der Poisson’sche Punktprozess
Beweis. Da μ ∈ M(E) ist, ist μ σ-endlich. Sei also En ↑ E mit μ(En ) < ∞ f¨ur jedes n ∈ N. Setze μ1 = μ(E1 ∩ · ) und μn = μ((En \ En−1 ) ∩ · ) ngige Poisson’sche Punktprozesse mit Intenf¨ur n ≥ 2. Sind X1 , X2 , . . . unabh¨a sit¨atsmaßen μ1 , μ2 , . . ., so hat X = ∞ atsmaß E[X] = μ, also n=1 Xn das Intensit¨ ¨ ist X ein zuf¨alliges Maß (siehe Ubung 24.1.1). Außerdem sieht man leicht, dass X unabh¨angige Zuw¨achse hat und PX(A) = PX1 (A) ∗ PX2 (A) ∗ . . . = Poiμ1 (A) ∗ Poiμ2 (A) ∗ . . . = Poiμ(A) . Also ist X ∼ PPPμ . Es reicht also, den Fall μ(E) ∈ (0, ∞) zu betrachten, den wir im Folgenden annehmen wollen. Setze ν = μ( · )/μ(E) ∈ M1 (E). Seien N, Y1 , Y2 , . . . unabh¨angige Zufallsvariablen mit N ∼ Poiμ(E) und PYi = ν f¨ur jedes i ∈ N. Wir definieren X(A) =
N
½A (Yn )
f¨ur A ∈ B(E).
n=1
Die Zufallsvariablen ½A (Y1 ), ½A (Y2 ), . . . sind unabh¨angig und Berν(A) -verteilt, also ist X(A) ∼ Poiμ(A) (siehe Satz 15.14(iii)). Seien A1 , A2 , . . . ∈ B(E) paarweise disjunkt und n n ( '
tl ½Al (Y1 ) = 1 + ν(Al ) ei tl − 1 , ψ(t) = E exp i l=1
t ∈ Rn ,
l=1
die charakteristische Funktion von (½A1 (Y1 ), . . . , ½An (Y1 )). Sei ferner ϕ die charakteristische Funktion von (X(A1 ), . . . , X(An )) und ϕl die von X(Al ) f¨ur l = 1, . . . , n, also ϕl (tl ) = exp(μ(Al )(eitl − 1)). Nach Satz 15.14(iii) ist n ' ( ϕ(t) = E exp i tl X(Al ) l=1
= exp μ(E)(ψ(t) − 1) n n
= exp μ(Al ) ei tl − 1 = ϕl (tl ). l=1
l=1
Also sind X(A1 ), . . . , X(An ) unabh¨angig. Es folgt X ∼ PPPμ .
2
¨ Ubung 24.1.1. Seien X1 , X2 , . . . zuf¨allige Maße und λ1 , λ2 , . . . ∈ [0, ∞) sowie X := ∞ alliges Maß ist, wenn n=1 λn Xn . Man zeige, dass X genau dann ein zuf¨ P[X(B) < ∞] = 1 f¨ur jedes B ∈ Bb (E). Man folgere: Ist X eine Zufallsvariable
K mit Werten in M(E), M(E) und E[X] ∈ M(E), so ist X ein zuf¨alliges Maß. ♣ ¨ Ubung 24.1.2. Sei τw die Topologie der schwachen Konvergenz auf M1 (E) und σ(τw ) die Borel’sche σ-Algebra auf M1 (E). Man zeige: M = σ(τw ). ♣ M1 (E)
24.2 Eigenschaften des Poisson’schen Punktprozesses
531
24.2 Eigenschaften des Poisson’schen Punktprozesses Satz 24.13. Sei μ ∈ M(E) atomlos, also μ({x}) = 0 f¨ur jedes x ∈ E, und sei X ein zuf¨alliges Maß auf E mit P[X(A) ∈ N0 ∪ {∞}] = 1 f¨ur jedes A ∈ B(E). Dann sind a¨ quivalent: (i) X ∼ PPPμ . (ii) X ist fast sicher doppelpunktfrei, also P[X({x}) ≥ 2 f¨ur ein x ∈ E] = 0, und P[X(A) = 0] = e−μ(A) Beweis. (i) =⇒ (ii)
f¨ur jedes A ∈ Bb (E).
(24.3)
Das ist klar.
(ii) =⇒ (i) Sind A1 , . . . , An ∈ Bb (E) paarweise disjunkt, so ist * ) ) * P X(A1 ) = 0, . . . , X(An ) = 0 = P X A1 ∪ . . . ∪ An = 0 = e−μ(A1 ∪...∪An ) n n = e−μ(Al ) = P[X(Al ) = 0]. l=1
l=1
Also sind die Zufallsvariablen X(A) := X(A)∧1 unabh¨angig f¨ur disjunkte Mengen A. Der Rest des Beweises geht wie im Beweis von Satz 5.34. Sei A ∈ Bb (E). ¨ 8.3.1, weil μ atomlos W¨ahle A0 ⊂ A mit μ(A0 ) = μ(A)/2 (das geht nach Ubung ist) und setze A1 = A \ A0 . W¨ahle nun in gleicher Weise Ai,0 , Ai,1 ⊂ Ai f¨ur i = 0, 1 und sukzessive disjunkte Mengen Ai,0 , Ai,1 ⊂ Ai f¨ur i ∈ {0, 1}n−1 mit μ(Ai ) = 2−n μ(A) f¨ur jedes i ∈ {0, 1}n . Setze i ). Nn (A) := X(A i∈{0,1}n
Da X doppelpunktfrei ist, gilt Nn (A) ↑ X(A) fast sicher. Andererseits ist nach Voraussetzung Nn (A) ∼ b2n ,2−n μ(A) f¨ur n ∈ N, also konvergiert die charakteristische Funktion
2n n→∞
ϕNn (A) (t) = 1 + 2−n μ(A)(eit − 1) −→ exp μ(A)(eit − 1) = ϕPoiμ(A) (t). n→∞
Mithin gilt PNn (A) −→ Poiμ(A) , also X(A) ∼ Poiμ(A) . Sind nun A1 , . . . , Ak ∈ Bb (E) paarweise disjunkt, so sind die analog konstruierten Nn (A1 ), . . . , Nn (Ak ) unabh¨angig, also sind auch die Limiten X(Al ) = 2 limn→∞ Nn (Al ), l = 1, . . . , k unabh¨angig.
532
24 Der Poisson’sche Punktprozess
Satz 24.14. Sei μ ∈ M(E) und X ein Poisson’scher Punktprozess mit Intensit¨atsmaß μ. Dann hat X die Laplace-Transformierte
μ(dx) e−f (x) − 1 , f ∈ B+ (E), LX (f ) = exp und die charakteristische Funktion
if (x) μ(dx) e −1 , ϕX (f ) = exp
f ∈ BbR (E).
n Beweis. Es reicht, die Aussage f¨ur Elementarfunktion f = l=1 αl ½Al mit komplexen Zahlen α1 , . . . , αn und paarweise disjunkten Mengen A1 , . . . , An ∈ Bb (E) zu zeigen. (Die Aussagen f¨ur allgemeines f folgen dann mit den u¨ blichen Approximationsargumenten.) F¨ur solches f ist aber , + n n ( ' )
* E exp − If (X) = E e−αl X(Al ) = E e−αl X(Al ) l=1
=
n
l=1
exp μ(Al ) e−αl − 1
l=1
= exp
n
μ(Al ) e
−αl
−1
l=1
= exp
−f (x)
μ(dx) e
−1
.
2
Korollar 24.15 (Momente des PPP). Sei μ ∈ M(E) und X ∼ PPPμ . 0 0 (i) Ist f ∈ L1 (μ), so ist E[ f dX] = f dμ. 0 0 (ii) Ist f ∈ L2 (μ) ∩ L1 (μ), so ist Var[ f dX] = f 2 dμ. Beweis. Ist f ∈ L1 (μ), so vertauschen f¨ur die 0 charakteristische Funktion Inted ϕX (tf ) = iϕX (tf ) f (x) eitf (x) μ(dx), also ist (nach gral und Differentiation dt Satz 15.31) ) * 1 d ϕX (tf ) E If (X) = = f dμ. i dt t=0 Ist f ∈ L1 (μ) ∩ L2 (μ), so l¨asst sich das Argument iterieren + 2 , d2 2 itf (x) itf (x) , ϕX (tf ) = −ϕX (tf ) f (x) e μ(dx) + f (x) e μ(dx) dt2 ) * d2 also gilt E If (X)2 = − dt 2 ϕX (tf )
t=0
= If 2 (μ) + If (μ)2 .
2
24.2 Eigenschaften des Poisson’schen Punktprozesses
533
Satz 24.16 (Abbildungssatz). Seien E und F lokalkompakte, polnische R¨aume und φ : E → F eine messbare Abbildung. Sei μ ∈ M(E) mit μ ◦ φ−1 ∈ M(F ) und X ein PPP auf E mit Intensit¨atsmaß μ. Dann ist X ◦ φ−1 ein PPP auf F mit Intensit¨atsmaß μ ◦ φ−1 . Beweis. F¨ur f ∈ B+ (F ) ist LX◦φ−1 (f ) = LX (f ◦ φ) = exp
e
= exp
−f (φ(x))
e
−f (y)
− 1 μ(dx)
−1
μ◦φ
Die Aussage folgt nun aus Satz 24.16 und Satz 24.7.
−1
(dy) .
2
Satz 24.17. Sei ν ∈ M((0, ∞)) und X ∼ PPPν auf (0, ∞). Setze Y := 0 x X(dx). Dann sind a¨ quivalent (i) P[Y < ∞] > 0, (ii) P[Y < ∞] = 1,
0 (iii) ν(dx) 1 ∧ x < ∞. Gelten (i)–(iii), so ist Y eine unbegrenzt teilbare, nichtnegative Zufallsvariable mit L´evy-Maß ν. 0 0 Beweis. Sei Y∞ = [1,∞) x X(dx) und Yt := (t,1) x X(dx) f¨ur t ∈ [0, 1). Offenbar ist Y = Y0 + Y∞ . Außerdem ist offenbar P[Y∞ < ∞] > 0 ⇐⇒ P[Y∞ < ∞] = 1 ⇐⇒ ν([1, ∞)) < ∞. (24.4) 0 Gilt (iii), so ist E[Y0 ] = (0,1) x ν(dx) < ∞, also Y0 < ∞ f.s. (und wegen (24.4) auch Y < ∞ f.s.). Gilt andererseits (iii) nicht, so ist Y∞ = ∞ f.s. oder E[Y0 ] = ∞. W¨ahrend f¨ur Y∞ die Erwartung unendlich sein kann, auch wenn Y∞ f.s. endlich ist, ist dies f¨ur Y0 nicht m¨oglich, denn Y0 setzt sich im Gegensatz zu Y∞ nicht aus wenigen großen, sondern aus vielen kleinen Beitr¨agen zusammen, sodass ein Gesetz der großen Zahl gilt. Konkret ist nach Korollar 24.15 x2 ν(dx) ≤ x ν(dx) = E[Yt ] < ∞ Var[Yt ] = (t,1)
(t,1)
f¨ur jedes t ∈ (0, 1), also nach der Chebyshev’schen Ungleichung , + 4 Var[Yt ] t→0 E[Yt ] ≤ P Yt < −→ 0. 2 E[Yt ]2 Also ist Y0 = supt∈(0,1) Yt ≥ E[Y0 ]/2 = ∞ fast sicher.
534
24 Der Poisson’sche Punktprozess
Es gelten nun (i) – (iii). Nach Satz 24.14 hat Y die Laplace-Transformierte ) −tY *
−tx E e = exp ν(dx) e −1 . Nach der L´evy-Khinchin Formel (Satz 16.14) ist Y unbegrenzt teilbar mit L´evyMaß ν. 2 Beispiel 24.18. Nach Korollar 16.10 existiert zu jeder nichtnegativen unbegrenzt teilbaren Verteilung μ mit L´evy-Maß ν ein stochastischer Prozess (Yt )t≥0 mit unabh¨angigen station¨aren Zuw¨achsen und Yt ∼ μ∗t (also mit L´evy-Maß tν). Diesen Prozess k¨onnen wir hier direkt konstruieren: Sei X ein PPP auf (0, ∞) × [0, ∞) mit Intensit¨atsmaß ν ⊗ λ (wo λ das Lebesgue-Maß ist). Setze Y0 = 0 und
Yt := x X d(x, s) . (0,∞)×(0,t]
Nach dem Abbildungssatz ist X( · × (s, t]) ∼ PPP(t−s)ν , also ist Yt − Ys unbegrenzt teilbar mit L´evy-Maß (t−s)ν. Die Unabh¨angigkeit der Zuw¨achse ist evident. Man beachte, dass t → Yt rechtsstetig und monoton wachsend ist. Der so konstruierte Prozess Y heißt Subordinator mit L´evy-Maß ν.
3
Wir k¨onnen das Vorgehen des letzten Beispiels verallgemeinern, indem wir als Zeitmenge allgemeinere Mengen als [0, ∞) zulassen. Definition 24.19. Ein zuf¨alliges Maß Y heißt unbegrenzt teilbar, wenn f¨ur jedes n ∈ N u.i.v. zuf¨allige Maße Y1 , . . . , Yn existieren mit Y = Y1 + . . . + Yn . Satz 24.20. Sei ν ∈ M((0, ∞) × E) mit ½A (t) (1 ∧ x) ν(d(x, t)) < ∞
f¨ur jedes A ∈ Bb (E),
und sei α ∈ M(E). Sei X ein PPPν und Y (A) := α(A) + x ½A (t) X(d(x, t))
f¨ur A ∈ B(E).
Dann ist Y ein unbegrenzt teilbares zuf¨alliges Maß mit unabh¨angigen Zuw¨achsen. F¨ur A ∈ B(E) hat Y (A) das L´evy-Maß ν( · × A). Wir nennen ν das kanonische Maß und α den deterministischen Anteil von Y . Beweis. Das folgt direkt aus Satz 24.16 und Satz 24.17.
2
24.2 Eigenschaften des Poisson’schen Punktprozesses
535
0 Bemerkung 24.21. Wir k¨onnen Y schreiben als Y = α + xδt X(d(x, t)), wo δt die Einheitsmasse in t ∈ E ist. Wenn wir nun statt x δt allgemeinere Maße χ ∈ M(E) zulassen, so erhalten wir eine Darstellung χ X(dχ), Y = α+ M(E)
0 wo X ∼ PPPν auf M(E) und ν ∈ M(M(E)) mit ν(dχ)(χ(A) ∧ 1) < ∞ f¨ur jedes A ∈ Bb (E). Man kann zeigen, dass dies die allgemeinste Form eines unbegrenzt teilbaren Maßes auf E ist. Wir nennen ν das kanonische Maß von Y und α den deterministischen Anteil. Y ist charakterisiert durch die LaplaceTransformierte, die der L´evy-Khinchin Formel gen¨ugt:
− 0 f dχ −1 . 3 LY (f ) = exp − f dα + ν(dχ) e Satz 24.22 (F¨arbungssatz). Sei F ein weiterer lokalkompakter, polnischer Raum und μ ∈ M(E) atomlos sowie (Yx )x∈E u.i.v. Zufallsvariablen mit Werten in F und Verteilung ν ∈ M1 (F ). Dann ist A ∈ B(E × F ), Z(A) := ½A (x, Yx ) X(dx), ein PPPμ⊗ν auf E × F . ¨ Beweis. Ubung!
2
Wir wollen die Aussage des F¨arbungssatzes in nahe liegender Weise verallgemeinern: Die Annahme, dass das Maß μ atomlos ist, sorgt schließlich nur daf¨ur, dass X keine Doppelpunkte hat, also f¨ur jede Einheitsmasse, die X produziert, eine andere Zufallsvariable Yx zur Verf¨ugung steht. Außerdem wollen wir f¨ur jeden Punkt x eine eigene Verteilung von Yx erlauben. Seien also E, F lokalkompakte, polnische R¨aume, μ ∈ M(E) und κ ein sto0 chastischer Kern von E nach F mit μκ := μ(dx)κ(x, · ) ∈ M(F ). Seien (Yx,t )x∈E, t∈[0,1] unabh¨angige Zufallsvariablen mit Verteilungen PYx,t = κ(x, · ) f¨ur x ∈ E und t ∈ [0, 1]. ˜ als den PPP auf E × [0, 1] mit Wir definieren zu X ∼ PPPμ das Lifting X D , wo λ das Lebesgue-Maß ist. Offenbar ist dann X = Intensit¨atsmaß μ ⊗ λ [0,1]
˜ · × [0, 1]). Das zuf¨allige Maß X ˜ k¨onnen wir also als Realisierung von X aufX( fassen, wobei wir den einzelnen Punkten von X willk¨urlich eine Markierung mit Werten aus [0, 1] gegeben haben, um sie zu unterscheiden. Wir setzen nun ˜ t)) ½A (Yx,t ) f¨ur A ∈ B(F ). X κ (A) := X(d(x,
536
24 Der Poisson’sche Punktprozess
Satz 24.23. X κ ist ein zuf¨alliges Maß mit PX κ = PPPμκ . Beweis. Offenbar ist X κ (A) fast sicher ein Maß. F¨ur A ∈ Bb (F ) ist + , κ ˜ E[X (A)] = E X(d(x, t)) κ(x, A) = (μκ)(A) < ∞ nach Voraussetzung, also ist X κ (A) < ∞ fast sicher, und damit ist X κ ein zuf¨alliges Maß. Wir berechnen die Laplace-Transformierte von X κ . Sei g(x) := ˜ doppelpunktfrei ist) − log E[e−f (Yx,t ) ]. Dann ist (weil X + , ˜ LX κ (f ) = E exp − X(d(x, t)) f (Yx,t ) ⎡ ⎤ ⎤ ⎡ = E⎣ e−f (Yx,t ) ⎦ = E ⎣ E[e−f (Yx,t ) ]⎦ ˜ (x,t): X({(x,t)})=1
⎡
= E⎣
˜ (x,t): X({(x,t)})=1
⎤ e−g(x) ⎦ = LX (g)
˜ (x,t): X({(x,t)})=1
μ(dx) E[e−f (Yx,t ) ] − 1
= exp μ(dx) κ(x, dy) e−f (y) − 1
= exp μκ(dy) e−f (y) − 1 . = exp
2
Beispiel 24.24 (PPP als invariante Verteilung). Als Anwendung des letzten Satzes betrachten wir einen stochastischen Prozess auf E = Zd oder E = Rd , der aus unabh¨angigen Irrfahrten besteht. Wir nehmen also an, dass wir u.i.v. Zufallsvariablen Zni , i, n ∈ N mit Verteilung ν ∈ E haben. Wir nehmen zudem an, dassdas i-te n Teilchen unseres Irrfahrtenprozesses zur Zeit n die Position Sni := S0i + l=1 Zli i hat, wobei S0 ein willk¨urlicher, eventuell zuf¨alliger, Startpunkt ist. Wenn wir die Teilchen als ununterscheidbar annehmen, reicht es, die Teilchen an jedem Ort zusammenzuz¨ahlen. Wir betrachten also Xn (A) :=
∞
½A (Sni )
f¨ur A ⊂ E.
i=1
Jedes Xn ist ein Maß auf E und, wenn wir die Teilchen anfangs nicht zu sehr konzentrieren, lokal endlich, also ein zuf¨alliges Maß. Nehmen wir an, dass X0 ∼ PPPμ f¨ur ein μ ∈ M(E) ist. Wir setzen κ(x, · ) = δx ∗ν und schreiben κn f¨ur die n-fache D Anwendung von κ, also κn (x, · ) = δx ∗ ν ∗n . Wir erhalten so X0κ = X1 . In der Tat: Das unabh¨angige Bewegen der einzelnen Teilchen in der Definition von X0κ
24.3 Die Poisson-Dirichlet-Verteilung∗
537
ist genau die Dynamik der unabh¨angigen Irrfahrten. Da nun auch X1 ein PPP ist, D erhalten wir iterativ Xnκ = Xn+1 und damit Xn ∼ PPPμκn = PPPμ∗ν ∗n . Speziell D
ist X0 = Xn genau dann, wenn μ ∗ ν = μ gilt. Offenbar ist dies richtig, wenn E = Zd und μ das Z¨ahlmaß oder E = Rd und μ das Lebesgue-Maß. Ist beispielsweise E = Zd , so kann man unter relativ schwachen Annahmen an ν zeigen, dass das Z¨ahlmaß μ = λ die einzige L¨osung von μ ∗ ν = μ ist. In dem Fall ist jedes invariante Maß eine Konvexkombination von PPPs mit verschiedenen Intensit¨atsmaßen θλ. 3 ¨ Ubung 24.2.1. Man zeige die Aussage von Korollar 24.15 ohne charakteristische Funktionen direkt u¨ ber die Approximation mit Elementarfunktionen. ♣ ¨ Ubung 24.2.2. Man zeige den F¨arbungssatz (Satz 24.22).
♣
24.3 Die Poisson-Dirichlet-Verteilung∗ Ziel dieses Abschnitts ist die L¨osung des folgenden Problems: Wir brechen einen Stock der L¨ange 1 an einer zuf¨alligen (uniform verteilten) Stelle in zwei St¨ucke und legen das linke St¨uck (mit der L¨ange W1 ) beiseite. Mit dem restlichen Stock verfahren wir in gleicher Weise und legen das linke St¨uck der L¨ange W2 beiseite. Sukzessive sammeln wir die Bruchst¨ucke mit L¨angen W1 , W2 , W3 , . . . Wie sieht die gemeinsame Verteilung von (W1 , W2 , . . .) aus? Ferner wollen wir die Zahlen W1 , W2 , . . . der Gr¨oße nach umsortieren und W(1) ≥ W(2) ≥ . . . nennen. Wie sieht die Verteilung von (W(1) , W(2) , . . .) aus? Und schließlich: was hat dies mit Poisson’schen Punktprozessen zu tun? Zur Beantwortung der Fragen m¨ussen wir etwas weiter ausholen. Wir hatten gesehen, wie die Beta-Verteilung in nat¨urlicher Weise bei dem P´olya’schen Urnenmodell als Grenzverteilung der Frequenzen der beiden Kugelfarben auftritt. Offenbar kann man das P´olya’sche Modell auch mit n ≥ 2 Farben betrachten. Die Grenzverteilung ist dann die n-dimensionale Verallgemeinerung der Beta-Verteilung, n¨amlich die so genannte Dirichlet-Verteilung. Definition 24.25. Sei n ∈ {2, 3, . . .} und θ1 , . . . , θn > 0. Die Dirichlet-Verteilung Dirθ1 ,...,θn ist die Verteilung auf dem (n − 1)-dimensionalen Simplex Δn := {(x1 , . . . , xn ) ∈ [0, 1] : x1 + . . . + xn = 1}, die f¨ur messbares A ⊂ Δn definiert ist durch Dirθ1 ,...,θn (A) = ½A (x1 , . . . , xn ) fθ1 ,...,θn (x1 , . . . , xn ) dx1 · · · dxn−1 , wobei fθ1 ,...,θn (x1 , . . . , xn ) =
Γ (θ1 + . . . + θn ) θ1 −1 x · · · xθnn −1 . Γ (θ1 ) · · · Γ (θn ) 1
538
24 Der Poisson’sche Punktprozess
Die Parameter θ1 , . . . , θn entsprechen (falls ganzzahlig) den Anzahlen der Kugeln der einzelnen Farben, die urspr¨unglich in der Urne liegen. Wenn wir nun nicht ganz so genau hinschauen und Kugeln zweier Farben, etwa n−1 und n zusammenfassen, so sollten wir als Grenzverteilung f¨ur die Frequenzen Dirθ1 ,...,θn−2 ,θn−1 +θn erhalten. Sei (Mt )t≥0 der Moran-Gamma-Subordinator, also ein stochastischer Prozess mit rechtsstetigen, monoton wachsenden Pfaden t → Mt und unabh¨angigen, station¨aren, Gamma-verteilten Zuw¨achsen: Mt − Ms ∼ Γ1,t−s f¨ur t > s ≥ 0. Einen wichtigen Zusammenhang zwischen der Dirichlet-Verteilung und M liefert der folgende Satz. Satz 24.26. Seien n ∈ N und θ1 , . . . , θn > 0 sowie Θ := θ1 + . . . + θn . Seien X ∼ Dirθ1 ,...,θn und Z ∼ Γ1,Θ unabh¨angige Zufallsvariablen. Dann sind die Zufallsvariablen Si := Z · Xi , i = 1, . . . , n unabh¨angig und Si ∼ Γ1,θi . n Beweis. Sei im Folgenden stets xn := 1 − n−1 i=1 xi und s = j=1 sj . Sei Δn := n−1 {x1 , . . . , xn−1 > 0 : i=1 xi < 1}. Die Verteilung von (X1 , . . . , Xn−1 , Z) hat (f¨ur x ∈ Δn und z ≥ 0) die Dichte f (x1 , . . . , xn−1 , z) =
n θ −1 xj j /Γ (θj ) z Θ−1 e−z . j=1
Betrachte die Abbildung F : Δn−1 × (0, ∞) → (0, ∞)n , (x1 , . . . , xn−1 , z) → (zx1 , . . . , zxn ). Die Abbildung ist invertierbar mit Umkehrabbildung F −1 : (s1 , . . . , sn ) → (s1 /s, . . . , sn−1 /s, s). Die Ableitung von F hat die Determinante det(F (x1 , . . . , xn−1 , z)) = z n−1 . Nach der Transformationsformel f¨ur Dichten (Satz 1.101) hat (S1 , . . . , Sn ) die Dichte f (F −1 (s1 , . . . , sn )) | det(F (F −1 (s1 , . . . , sn )))| n sΘ−1 e−s
= (sj /s)θj −1 /Γ (θj ) sn−1 j=1
g(s1 , . . . , sn ) =
=
n
(sj /s)θj −1 e−sj /Γ (θj ) .
j=1
Dies ist aber die Dichte von unabh¨angigen Gamma-Verteilungen.
2
Korollar 24.27. Ist ti := ij=1 θj f¨ur i = 0, . . . , n, so sind die Zufallsvariablen X = ((Mti − Mti−1 )/Mtn , i = 1, . . . , n) und S := Mtn unabh¨angig und X ∼ Dirθ1 ,...,θn sowie S ∼ Γ1,tn . Korollar 24.28. Sei (X1 , . . . , Xn ) ∼ Dirθ1 ,...,θn . Dann sind X1 ∼ βθ1 , ni=2 θi und (X2 /(1 − X1 ), . . . , Xn /(1 − X1 )) ∼ Dirθ2 ,...,θn unabh¨angig.
24.3 Die Poisson-Dirichlet-Verteilung∗
539
Beweis. Sei M wie in Korollar 24.27. Dann ist X1 = Mt1 /Mtn ∼ βθ1 ,tn −θ1 und −1 Mtn −Mt1 X1 = + 1 nur von Mt1 und Mtn − Mt1 abh¨angig. Andererseits ist Mt 1
Xn X2 ,..., 1 − X1 1 − X1
=
Mtn − Mtn−1 Mt2 − Mt1 ,..., Mtn − Mt1 Mtn − Mt1
unabh¨angig von Mt1 und nach Korollar 24.27 auch unabh¨angig von Mtn − Mt1 sowie Dirθ2 ,...,θn -verteilt. 2 Korollar 24.29. Seien V1 , V2 , . . . unabh¨angig und Vi ∼ βθi ,θi+1 +...+θn sowie Vn = 1. Dann ist
V1 , (1 − V1 )V2 , (1 − V1 )(1 − V2 )V3 , . . . ,
n−2 (1 − Vi ) Vn ∼ Dirθ1 ,...,θn . i=1
Beweis. Das folgt durch Iteration der Aussage von Korollar 24.28.
2
Eine nat¨urliche Fragestellung ist, was passiert, wenn wir immer mehr Farben differenzieren (statt zusammenzufassen). Wir wollen der Einfachheit halber eine symmetrische Situation annehmen, bei der θ1 = . . . = θn = θ/n f¨ur ein θ > 0 ist. Wir betrachten also Dirθ;n := Dirθ,...,θ f¨ur θ > 0. Ist X n = (X1n , . . . , Xnn ) ∼ Dirθ/n;n , so ist aus Symmetriegr¨unden E[Xin ] = 1/n n→∞ f¨ur jedes n ∈ N und i = 1, . . . , n. Offenbar gilt also (X1n , . . . , Xkn ) =⇒ 0 f¨ur jedes k ∈ N. Eine M¨oglichkeit, einen nicht-trivialen Grenzwert zu erhalten ist, die n n ≥ X(2) ≥ ... Werte der Gr¨oße nach zu ordnen X(1) Definition 24.30. Sei θ > 0 und (Mt )t∈[0,θ] ein Moran-Gamma-Subordinator. Seien m1 ≥ m2 ≥ . . . ≥ 0 die der Gr¨oße nach sortierten Sprungh¨ohen von M und m ˜ i = mi /Mθ , i = 1, 2, . . . Die Verteilung der Zufallsvariablen (m ˜ 1, m ˜ 2 , . . .) auf S := {(x1 ≥ x2 ≥ . . . ≥ 0) : x1 + x2 + . . . = 1} heißt Poisson-DirichletVerteilung PDθ mit Parameter θ > 0. ∞ Genau genommen m¨ussen wir noch nachweisen, dass i=1 m ˜ i = 1 ist. Sei hierzu Y ein PPP auf (0, ∞) × (0, θ] mit Intensit¨atsmaß ν ⊗ λ, wo λ das Lebesgue-Maß ist und ν(dx) = e−x x−1 dx das L´evy-Maß der Γ1,1 -Verteilung. Wir k¨onnen M definieren durch Mt := (x,s): Y ({x,s})=1, s≤t x. Nun ist m1 = sup{x ∈ (0, ∞) : Y ({x} × (0, θ]) = 1} und sukzessive mn = sup{x < mn−1 : Y ({x} × (0, θ]) = 1} f¨ur n ≥ 2. Durch Vertauschung der Summationsreihenfolge erhalten wir also ∞ Mθ = n=1 mn . n→∞
n ,X n ,...) −→ PDθ . Satz 24.31. Ist X n ∼ Dirθ/n;n f¨ur n ∈ N, so gilt P(X(1) (2)
540
24 Der Poisson’sche Punktprozess
Beweis. Die Idee ist, die Zufallsvariablen X n , n ∈ N, so durch die Zuw¨achse des Moran-Gamma-Subordinators (Mt )t∈[0,θ] darzustellen, dass aus der Verteilungskonvergenz eine fast sichere Konvergenz wird. Es sei also Xin = (Mθi/n − Mθ(i−1)/n )/Mθ . Nach Korollar 24.27 ist X n ∼ Dirθ/n;n . Seien t1 , t2 , . . . ∈ (0, θ] n die Positionen der Spr¨unge m1 ≥ m2 ≥ . . . Offenbar ist X(1) ≥m ˜ 1 f¨ur jedes n. n ˜ 2 . Sukzessive erhalten wir Ist n so groß, dass |t1 − t2 | > θ/n ist, so ist X(2) ≥ m n n ≥m ˜ i fast sicher. Nun ist aber (mit der Festsetzung X(i) = 0 f¨ur lim inf n→∞ X(i) ∞ n i > n) i=1 X(i) = 1 f¨ur jedes n ∈ N. Nach dem Lemma von Fatou ist daher 1=
∞ i=1
m ˜i ≤
∞ i=1
n lim inf X(i) n→∞
≤ lim inf n→∞
∞
n X(i) = 1.
i=1
n Es folgt limn→∞ X(i) =m ˜ i fast sicher.
2
Anstatt die Werte von X n strikt der Gr¨oße nach zu ordnen, k¨onnen wir ein anderes Verfahren anwenden, das Konvergenz der Verteilungen sichert. Stellen wir uns vor, dass wir in einer Population ein genetisches Merkmal haben, das wir unterschiedlich fein messen k¨onnen. Wenn wir n unterschiedliche Werte unterscheiden wollen, so soll Xin den Anteil der Bev¨olkerung mit dem Merkmal i bezeichnen. Wir greifen nun sukzessive zuf¨allig Individuen aus der Population heraus. Das erste Individuum habe den Typ I1n . Mit I2n bezeichnen wir den Typ des ersten Individuums, das nicht vom Typ I1n ist. Sukzessive sei Ikn der Typ des ersten Individuums, n das nicht von einem der Typen I1n , . . . , Ik−1 ist. Wir betrachten nun den Vektor n n n n n ˆ = (X ˆ ,...,X ˆ ), wo X ˆ = X n . Da die Wahrscheinlichkeit f¨ur I n = i X n 1 1 Ik k ˆ n den proportional zur Gr¨oße der Sub-Population mit Merkmal i ist, nennen wir X sukzessive gr¨oßenverzerrt gezogenen Vektor. ˆ n a¨ ndert sich nicht, wenn wir die Reihenfolge der X1n , . . . , Xnn Die Verteilung von X n n ver¨andern. Speziell k¨onnen wir statt X n die Ordnungsstatistik (X(1) , . . . , X(n) ) n ˆ als sukzessive gr¨oßenverzerrt gezogenen Vektor. w¨ahlen und erhalten ebenfalls X ˆ Insbesondere k¨onnen wir f¨ur X ∼ PDθ den sukzessiv gr¨oßenverzerrten Vektor X ˆ n n→∞ ˆ =⇒ X. definieren. Gilt X n ∼ Dirθ/n;n , so folgt aus Satz 24.31 sofort, dass X ˆ ausrechnen. Hiermit k¨onnen wir die Verteilung von X Satz 24.32. Sei θ > 0 und seien X n ∼ Dirθ/n;n , n ∈ N, sowie X ∼ PDθ . Seien ferner V1 , V2 , . . . u.i.v. Zufallsvariablen auf [0, 1] mit Dichte x → θ(1 − x)θ−1 . Wir
k−1 ur k ≥ 2. Dann gilt: setzen Z1 = V1 und Zk = i=1 (1 − Vi ) Vk f¨ ˆ n n→∞ ˆ (i) X =⇒ X. D ˆ = (ii) X Z.
Die Verteilung von Z heißt GEMθ -Verteilung (f¨ur Griffiths-Engen-McCloskey).
24.3 Die Poisson-Dirichlet-Verteilung∗
541
Beweis. Die Aussage (i) wurde bereits in der Diskussion vor dem Satz gezeigt. Um ˆ n und zeigen, dass sie gegen die (ii) zu zeigen, berechnen wir die Verteilung von X von Z konvergiert. ˆ n,1 der Vektor X n,1 = (X nn , X2 , . . . , X nn , X nn , . . . , X n ), bei dem nur Sei X n I1 I1 −1 I1 +1 die erste Koordinate gr¨oßenverzerrt gezogen wurde. Wir zeigen: ˆ n,1 ∼ Dir(θ/n)+1,θ/n,...,θ/n . X
(24.5)
n (θ/n)−1 Sei f (x) = Γ (θ)/Γ (θ/n)n · k=1 xk die Dichte von Dirθ/n;n . Die Dichte f n,1 von X n,1 berechnen wir durch Zerlegung nach dem Wert i von I1n : f n,1 (x) =
n
x1 f (x2 , . . . , xi , x1 , xi+1 , . . . , xn ) = n x1 f (x)
i=1
=
n nΓ (θ) θ/n (θ/n)−1 x x Γ (θ/n)n 1 i=2 i
n Γ (θ + 1) θ/n (θ/n)−1 = x x . Γ ((θ/n) + 1) Γ (θ/n)n−1 1 i=2 i
Dies ist aber die Dichte von Dir(θ/n)+1,θ/n,...,θ/n . Nach Korollar 24.28 ist D ˆ n,1 = X
V1n , (1 − V1n )Y1 , . . . , (1 − V1n )Yn−1 ,
wobei V1n ∼ β(θ/n)+1,θ(n−1)/n
und
Y = (Y1 , . . . , Yn−1 ) ∼ Dirθ/n;n−1
unabh¨angig sind. Indem wir das Gezeigte nun auf Y anwenden, erhalten wir sukzessive D ˆn = Zn, (24.6) X wobei Z1n = V1n
und
Zkn =
k−1
(1 − Vin ) Vkn
f¨ur k ≥ 2,
i=1 n und wobei V1n , . . . , Vn−1 unabh¨angig sind und Vin ∼ β(θ/n)+1,θ(n−i)/n . Nun pr¨uft n→∞ man aber leicht nach, dass β(θ/n)+1,θ(n−i)/n −→ β1,θ f¨ur jedes i ∈ N, und β1,θ n→∞ hat die Dichte x → θ(1 − x)θ−1 . Es gilt also Vin =⇒ Vi f¨ur jedes i und damit n→∞ n→∞ ˆ n =⇒ Z. Zusammen mit (i) folgt hieraus die Aussage (ii). 2 Z n =⇒ Z und X
Unsere eingangs gestellte Frage nach den Gr¨oßen W1 , W2 , . . . der Bruchst¨ucke von sukzessiv uniform verteilt zerbrochenen St¨ocken ist damit gekl¨art: Der Vektor (W(1) , W(2) , . . .) ist PD1 -verteilt, und (W1 , W2 , . . .) ist GEM1 -verteilt.
542
24 Der Poisson’sche Punktprozess
Der China-Restaurant Prozess Wir wollen eine weitere Situation kennen lernen, in der die Poisson-DirichletVerteilung in nat¨urlicher Weise auftaucht. Da die technischen Details etwas knifflig werden, begn¨ugen wir uns damit, die Situation zu beschreiben und zwei wichtige S¨atze anzugeben. Eine exzellente und vollst¨andige Beschreibung findet sich in [131]. Wir betrachten ein China-Restaurant mit abz¨ahlbar vielen (nat¨urlich runden) nummerierten Tischen, an denen jeweils beliebig viele G¨aste Platz finden. Anfangs sei das Restaurant leer. Nacheinander treffen (abz¨ahlbar viele) G¨aste ein. Der erste Gast setzt sich an den (nat¨urlich freien) Tisch mit der Nummer Eins. Sitzen bereits n G¨aste an k Tischen, so hat der (n + 1)-te Gast die M¨oglichkeit, sich entweder an einen der k besetzten Tische zu setzen, oder sich an den freien Tisch mit der kleinsten Nummer zu setzen. Wir wollen annehmen, dass die Wahl zuf¨allig erfolgt und dass sich der Gast an den l-ten besetzten Tisch (mit Nln G¨asten) mit Wahrscheinlichkeit (Nln − α)/(n + θ) setzt, mit Wahrscheinlichkeit (θ + kα)/(n + θ) jedoch den ersten noch freien Tisch besetzt. Hierbei sind α ∈ [0, 1] und θ > −α. Bezeichnet Nln die Anzahl der G¨aste zur Zeit n am l-ten besetzten Tisch, so nennen wir (N n )n∈N = (N1n , N2n , . . .)n∈N den China-Restaurant Prozess mit Parametern (α, θ). Ist speziell α = 0, so k¨onnen wir den China-Restaurant Prozess auch so interpretieren: Die Wahrscheinlichkeit, sich links neben einen der G¨aste zu setzen (also an dessen Tisch) betr¨agt 1/(n + θ), die Wahrscheinlichkeit, einen neuen Tisch zu besetzen dagegen θ/(n + θ). Um das asymptotische Verhalten von N n /n = (N1n /n, N2n /n, . . .) zu beschreiben, m¨ussen wir die Poisson-Dirichlet-Verteilung und die GEM Verteilung um einen Parameter erweitern. Definition 24.33. Sei α ∈ [0, 1) und θ > −α. Seien V1 , V2 , . . . unabh¨angig und Vi ∼ β1−α,θ+iα . Wir definieren Z = (Z1 , Z2 , . . .) durch Z1 = V1 und
k−1 Zk = ur k ≥ 2. Dann heißt GEMα,θ := PZ die GEMi=1 (1 − Vi ) Vk f¨ Verteilung mit Parametern (α, θ). Die Verteilung des nach Gr¨oße sortierten Vektors (Z(1) , Z(2) , . . .) heißt Poisson-Dirichlet-Verteilung mit Parametern (α, θ), oder kurz PDα,θ . Explizite Formeln f¨ur die Dichte der endlichdimensionalen Verteilungen von PDα,θ finden sich etwa in [133]. Man bemerke, dass wir im Falle α = 0 die bisherigen einparametrigen Verteilungen GEMθ = GEM0,θ und PDθ = PD0,θ zur¨uckgewinnen. Satz 24.34. Seien α ∈ [0, 1), θ > −α und (N n )n∈N der China-Restaurant Prozess n→∞ mit Parametern (α, θ). Dann gilt PN n /n −→ PDα,θ . Beweis. Siehe [130] oder [131, Theorem 25].
2
24.3 Die Poisson-Dirichlet-Verteilung∗
543
¨ Ahnlich wie f¨ur die einparametrige Poisson-Dirichlet-Verteilung gibt es eine Darstellung von PDα,θ durch die nach Gr¨oße geordneten Spr¨unge eines geeigneten Subordinators. Sei im Folgenden α ∈ (0, 1) und (Mt )t∈[0,1] ein α-stabiler Subordinator, also ein Subordinator mit L´evy-Maß ν(dx) = x−α−1 dx. Seien ferner m1 ≥ m2 ≥ . . . ≥ 0 die Spr¨unge von M und m ˜ i = mi /M1 f¨ur i ∈ N, und ˜ 2 , . . .). Wir zitieren den folgenden Satz aus [131, Section 4.2]. m ˜ = (m ˜ 1, m Satz 24.35. Sei α ∈ (0, 1). (i) Es gilt m ˜ ∼ PDα,0 . (ii) Ist θ > −α, so ist PDα,θ % PDα,0 = P[m ˜ ∈ · ] mit PDα,θ (dx) =
M1−θ P[m ˜ ∈ dx]. E[M1−θ ]
¨ Ubung 24.3.1. Sei (X, 1 − X) ∼ Dirθ1 ,θ2 . Man zeige, dass dann X ∼ βθ1 ,θ2 Betaverteilt ist. ♣ ¨ Ubung 24.3.2. Sei X = (X1 , . . . , Xn ) ∼ Dirθ1 ,...,θn . Man zeige: (i) F¨ur jede Permutation σ auf {1, . . . , n} ist (Xσ(1) , . . . , Xσ(n) ) ∼ Dirθσ(1) ,...,θσ(n) . (ii) Es gilt (X1 , . . . , Xn−2 , Xn−1 + Xn ) ∼ Dirθ1 ,...,θn−2 ,θn−1 +θn .
♣
¨ Ubung 24.3.3. Sei (N n )n∈N der China-Restaurant Prozess mit Parametern (0, θ). (i) Man zeige f¨ur θ = 1: (a) P[N1n = k] = 1/n f¨ur jedes k = 1, . . . , n. n (b) P[Nln = kl |N1n = k1 , . . . , Nl−1 = kl−1 ] = 1/(n − (k1 + . . . + kl−1 )) f¨ur kl = 1, . . . , n − (k1 + . . . + kl−1 ).
(c) Man folgere die Aussage von Satz 24.34 f¨ur den Fall α = 0 und θ = 1. (ii) Man zeige f¨ur θ > 0: n→∞
(a) n P[N1n = nx] −→ θ(1 − x)θ−1 f¨ur x ∈ (0, 1). ) * n→∞ n (b) n P Nln = nxl |N1n = nx1 , . . . , Nl−1 = nxl−1 −→ (θ/yl )(1 − xl /yl )θ−1 f¨ur x1 , . . . , xl ∈ (0, 1) mit yl = 1 − (x1 + . . . + xl−1 ) > xl . (c) Man folgere wie in (i) die Aussage von Satz 24.34 f¨ur α = 0 und θ > 0. ♣
25 Das Itˆo-Integral
Das Itˆo-Integral erlaubt es, stochastische Prozesse bez¨uglich der Zuw¨achse einer Brown’schen Bewegung oder etwas allgemeinerer Prozesse zu integrieren. Wir entwickeln das Itˆo-Integral zun¨achst f¨ur die Brown’sche Bewegung und dann f¨ur verallgemeinerte Diffusionsprozesse. Im dritten Abschnitt leiten wir die Itˆo-Formel her. Diese Substitutionsformel f¨ur das Itˆo-Integral erlaubt es, in konkreten F¨allen, mit dem Itˆo-Integral wirklich zu rechnen. Wir wenden die Itˆo-Formel im vierten Abschnitt an, um eine stochastische L¨osung des Dirichlet-Problems zu formulieren. Hiermit zeigen wir im f¨unften Abschnitt, dass die Brown’sche Bewegung (wie die symmetrische einfache Irrfahrt) in niedrigen Dimensionen rekurrent ist, in hohen Dimensionen hingegen transient.
¨ 25.1 Das Itˆo-Integral bezuglich der Brown’schen Bewegung Sei W = (Wt )t≥0 eine Brown’sche Bewegung auf dem Raum (Ω, F, P) bez¨uglich der Filtration F, die die u¨ blichen Bedingungen erf¨ullt (siehe Definition 21.22). Das heißt, W ist eine Brown’sche Bewegung und ist ein F-Martingal. Das Ziel dieses Abschnittes ist es, f¨ur eine m¨oglichst große Klasse von sinnvollen Integranden H : Ω × [0, ∞) → R, (ω, t) → Ht (ω) ein Integral t Hs dWs ItW (H) = 0
zu definieren, sodass (ItW (H))t≥0 ein stetiges F-Martingal ist. Da fast alle Pfade s → Ws (ω) der Brown’schen Bewegung lokal unendliche Variation haben, ist W (ω) nicht die Verteilungsfunktion eines signierten Lebesgue-Stieltjes-Maßes auf [0, ∞). Daher k¨onnen wir ItW (H) nicht im klassischen Rahmen der Integrationstheorie definieren. Die grundlegende Idee, um dieses Integral zu konstruieren, besteht darin, es im Sinne eines L2 -Grenzwertes zu etablieren. Hierzu betrachten wir zun¨achst ein elementares Beispiel. Beispiel 25.1. Es seien X1 , X2 , . . . u.i.v. Zufallsvariablen mit P[Xn = 1] = P[Xn = −1] = 12 . Sei (hn )n∈N eine Folge reeller Zahlen. Unter welchen Bedingungen an (hn )n∈N ist die Reihe
546
25 Das Itˆo-Integral
R :=
(25.1)
hn Xn
n∈N
wohldefiniert? Ist n∈N |hn | < ∞, so konvergiert die Reihe f¨ur jedes ω absolut. In diesem Falle tritt kein Problem auf.2 Wie steht es aber, wenn nur die schw¨achere Summierbarkeitsbedingung n∈N hn < ∞ gilt? In diesem Falle konvergiert die Reihe in (25.1) nicht mehr f¨ur jedes ω, allerdings gilt E[hn Xn ] = 0 f¨ur jedes ∞ ∞ N n ∈ N und n=1 Var[hn Xn ] = n=1 h2n < ∞. Also ist RN := k=1 hk Xk , N ∈ N, konvergent im L2 -Sinne (f¨ur N → ∞). Wir k¨onnen daher die Reihe R in (25.1) als L2 -Limes der Partialsummen RN definieren. Dabei ist zu beachten, dass (zumindest formal) bei den approximierenden Summen die Reihenfolge derSum∞ manden eine Rolle spielt. Wir haben also gewissermaßen n=1 anstatt n∈N konstruiert. Eine a¨ quivalente Betrachtung, die allerdings einen leicht anderen Geschmack hat und von der formalen Beschreibung her auf das Kommende hinweist, ist die folgende. Mit 2 bezeichnen wir den Hilbertraum ∞ der quadratsummierbaren Folgen reeller Zahlen mit Skalarprodukt h, g! = n=1 hn gn und Norm g = g, g!1/2 . Sei f der Unterraum der Folgen, die nur endlich viele Glieder ungleich Null haben. Dann ist R(h) = n∈N hn Xn f¨ur h ∈ f wohldefiniert (als endliche Summe). Wegen ) * * 2 ) E R(h)2 = Var[R(h)] = Var hn Xn = hn = h2 n∈N
n∈N
ist die Abbildung R : → L (P) eine Isometrie. Da ⊂ 2 dicht liegt, k¨onnen wir R stetig auf 2 fortsetzen. Ist also h ∈ 2 und (hN )N ∈N eine Folge in f N →∞ N →∞ mit hN − h −→ 0, so ist R(hN ) −→ R(h) im L2 -Sinne. Speziell ist hN ur h, und es gilt n := hn ½{n≤N } , n ∈ N, N ∈ N, eine approximierende Folge f¨ N R(hN ) = n=1 hn Xn . Daher ist die oben beschriebene Approximation von R 3 mit den Partialsummen RN als Spezialfall in dieser Konstruktion enthalten. f
2
f
Das Programm f¨ur die Konstruktion des Itˆo-Integrals ItW (H) sieht nun so aus: Zun¨achst betrachten wir elementare Integranden H, f¨ur die Abbildung t → Ht (ω) eine Treppenfunktion ist, sodass das Integral als endliche Summe definiert werden kann. Danach erweitern wir das Integral wie in Beispiel 25.1 auf Integranden, die sich in einem gewissen L2 -Sinne durch elementare Integranden approximieren lassen. Definition 25.2. Wir bezeichnen mit E den Vektorraum der Abbildungen H : Ω × [0, ∞) → R von der Form Ht (ω) =
n
hi−1 (ω) ½(ti−1 ,ti ] ,
i=1
wobei n ∈ N, 0 = t0 < t1 < . . . < tn und hi−1 beschr¨ankt und Fti−1 -messbar ist f¨ur jedes i = 1, . . . , n.
25.1 Das Itˆo-Integral bez¨uglich der Brown’schen Bewegung
547
Wir nennen E den Vektorraum der elementaren vorhersagbaren Prozesse und versehen E mit einer (Pseudo-)Norm · E durch H2E =
+ n * ) E h2i−1 (ti − ti−1 ) = E
∞
, Hs2 ds .
0
i=1
Definition 25.3. F¨ur H ∈ E und t ≥ 0 definieren wir ItW (H) =
n
hi−1 Wti ∧t − Wti−1 ∧t
i=1
und W I∞ (H) =
n
hi−1 Wti − Wti−1 .
i=1
Offenbar ist f¨ur jede beschr¨ankte Stoppzeit τ n * ) * ) E hi−1 (Wtτi − Wtτi−1 ) E IτW (H) = i=1 n ** ) ) = E hi−1 E Wtτi − Wtτi−1 Fti−1 = 0, i=1
da die gestoppte Brown’sche Bewegung W τ nach den Optional Stopping Theorem ein F-Martingal ist. ) Also ist (wieder nach dem OST) (ItW (H))* t≥0 ein FW W W (H) − I (H) I (H) − I (H) = 0 f¨ur Martingal. Speziell ist E ItW ti tj+1 tj i+1 i = j, also gilt n ' 2 ( ) W * (H)2 = E ItW (H) − ItW (H) E I∞ i i−1 i=1
n '
2 ( E h2i−1 Wti − Wti−1 =
=
i=1 n
(25.2)
* ) E h2i−1 (ti − ti−1 ) = H2E .
i=1
Aus diesen Betrachtungen folgt sofort: W : E → L2 (Ω, F, P) ist eine isometrische lineaSatz 25.4. (i) Die Abbildung I∞ re Abbildung (bez¨uglich · E und · 2 ).
(ii) Der Prozess ItW (H) t≥0 ist ein L2 -beschr¨anktes, stetiges F-Martingal.
Beweis. Lediglich die Linearit¨at ist noch zu zeigen. Dies ist aber trivial.
2
548
25 Das Itˆo-Integral
W Die Idee ist nun, die Abbildung I∞ von E auf einen geeigneten Abschluss E von E stetig fortzusetzen. Als Unterraum von welchem Raum sollen wir aber E abschließen? Eine minimale Forderung ist die Messbarkeit von (ω, t) → Ht (ω) (bez¨uglich F ⊗ B([0, ∞)) sowie die Adaptiertheit von H.
Definition 25.5. Ein stochastischer Prozess X = (Xt )t≥0 mit Werten in einem polnischen Raum E heißt (i) produktmessbar, falls (ω, t) → Xt (ω) messbar ist bez¨uglich F ⊗ B([0, ∞))– B(E), (ii) progressiv messbar, falls f¨ur jedes t ≥ 0 die Abbildung Ω × [0, t] → E, (ω, s) → Xs (ω) messbar ist bez¨uglich Ft ⊗ B([0, t])–B(E), (iii) vorhersagbar (oder previsibel), falls (ω, t) → Xt (ω) messbar ist bez¨uglich der vorhersagbaren σ-Algebra P auf Ω × [0, ∞):
P := σ X : X ist linksstetiger, adaptierter Prozess . Bemerkung 25.6. Jedes H ∈ E ist vorhersagbar. Diese Eigenschaft sichert, dass I M (H) f¨ur jedes (auch unstetiges) Martingal M ein Martingal ist. Da wir jedoch hier nicht die Integrationstheorie f¨ur unstetige Martingale entwickeln wollen, ist der Begriff der Vorhersagbarkeit f¨ur uns im Folgenden nicht so wichtig. 3 Bemerkung 25.7. Ist H progressiv messbar, so ist H offenbar auch produktmessbar und adaptiert. Mit etwas mehr Aufwand kann man die partielle Umkehrung zeigen: Ist H adaptiert und produktmessbar, so gibt es eine progressiv messbare Modifikation von H. (Siehe etwa [120, Seite 68ff].) 3 Satz 25.8. Ist H adaptiert und f.s. rechtsstetig oder linksstetig, so ist H progressiv messbar. Insbesondere ist jeder vorhersagbare Prozess progressiv messbar. ¨ Beweis. Siehe Ubung 21.1.4.
2
Wir betrachten E als Unterraum von ' E0 := H : produktmessbar, adaptiert und H2 := E
∞
( Ht2 dt < ∞ .
0
Sei E der Abschluss von E in E0 . Satz 25.9. Ist' H progressiv messbar (etwa linksstetig oder rechtsstetig und adap( 0∞ tiert) und E 0 Ht2 dt < ∞, so ist H ∈ E. ( '0 ∞ Beweis. Sei H progressiv messbar und E 0 Ht2 dt < ∞. Es reicht zu zeigen, dass f¨ur jedes T > 0 eine Folge (H n )n∈N in E existiert mit
25.1 Das Itˆo-Integral bez¨uglich der Brown’schen Bewegung
+ E
549
,
T
(Hs − Hsn )2 ds
n→∞
−→ 0.
(25.3)
0
Schritt 1.
Sei zun¨achst H stetig und beschr¨ankt. Setze H0n = 0 und
Htn = Hi2−n T
falls i2−n T < t ≤ (i + 1)2−n T f¨ur ein i = 0, . . . , 2n − 1 n→∞
und Htn = 0 f¨ur t > T . Dann ist H n ∈ E, und es gilt Htn (ω) −→ Ht (ω) f¨ur alle t > 0 und ω ∈ Ω. Nach dem Satz von der majorisierten Konvergenz gilt (25.3). Schritt 2. Sei nun H progressiv messbar und beschr¨ankt. Es reicht zu zeigen, dass es stetige, adaptierte Prozesse H n , n ∈ N, gibt, f¨ur die (25.3) gilt. Sei t∧T n Ht := n Hs ds f¨ur t ≥ 0, n ∈ N. (t−1/n)∨0
Dann ist H n stetig und adaptiert und durch H∞ beschr¨ankt. Nach dem Haupt¨ satz der Differential- und Integralrechnung (siehe Ubung 13.1.7) gilt n→∞
Htn (ω) −→ Ht (ω)
f¨ur λ-fast alle t ∈ [0, T ] und f¨ur jedes ω ∈ Ω.
(25.4)
Nach dem Satz von Fubini und dem Satz u¨ ber majorisierte Konvergenz gilt daher , + T
2 n→∞ Hs (ω) − Hsn (ω) (P ⊗ λ)(d(ω, s)) −→ 0. (Hs − Hsn )2 ds = E 0
Ω×[0,T ]
* )0∞ Schritt 3. Sei nun H progressiv messbar und E 0 Ht2 dt < ∞. Es reicht zu zeigen, dass es eine Folge (H n )n∈N von beschr¨ankten, progressiv messbaren Prozessen gibt, sodass (25.3) gilt. Offenbar kann hierzu aber Htn = Ht ½{|Ht |
W : E → L2 (P) auf den Abschluss durch die stetige Fortsetzung der Abbildung I∞ n→∞ E von E. Mit anderen Worten: Ist (H n )n∈N eine Folge in E mit H − H n −→ W (H) durch 0, so definieren wir I∞
n W W I∞ H in L2 . (H) := lim I∞ n→∞
Ist τ eine Stoppzeit, so k¨urzen wir im Folgenden ab: (τ )
Ht
:= Ht ½{t≤τ }
f¨ur t ≥ 0.
(Man beachte den Gegensatz zum gestoppten Prozess Htτ = Hτ ∧t .)
550
25 Das Itˆo-Integral W (i) Die Abbildung I∞ : E → L2 (Ω, F, P) ist linear und , + ∞ ) W * 2 2 Hs ds . E I∞ (H) = E
Satz 25.11.
0
(ii) F¨ur jedes H ∈ E wird durch I˜tW (H) := I W (H (t) ) ein L2 -beschr¨anktes F-Martingal I˜W (H) definiert, das eine stetige Modifikation I W (H) besitzt. Definition 25.12 (Itˆo-Integral als Prozess). Sei I W (H) die stetige Modifikation des Martingals (I W (H (t) ))t≥0 aus Satz 25.11(ii). Wir bezeichnen mit
t
Hr dWr := ItW (H) − IsW (H)
f¨ur 0 ≤ s ≤ t ≤ ∞
s
das Itˆo-Integral von s bis t von H bez¨uglich der Brown’schen Bewegung W . Beweis (von Satz 25.11).
W (H). (i) Dies folgt direkt aus der Definition von I∞ n→∞
(ii) Sei (H n )n∈N eine Folge in E mit H n − H −→ 0. Nach Satz 25.4(ii) ist ) W n *
n (t) W (H ) Ft I∞ (H ) = ItW (H n ) = E I∞ f¨ur alle t ≥ 0, n ∈ N. ; n→∞ ; ; ; Wegen ;(H n )(t) − H (t) ; ≤ ;H n − H ; −→ 0 folgt (zusammen mit Korollar 8.20) * ) W ) W n * I˜tW (H) = lim ItW (H n ) = lim E I∞ (H ) Ft = E I∞ (H) Ft . n→∞
n→∞
n→∞ Mithin ist I˜W (H) ein L2 -beschr¨anktes Martingal und ItW (H n ) −→ I˜tW (H) in 2 W n L f¨ur jedes t ≥ 0. Nach Satz 25.4(ii) ist I (H ) stetig f¨ur jedes n ∈ N, und ¨ nach Ubung 21.4.3 existiert eine stetige Modifikation I W (H) von I˜W (H). 2
Als letzten Schritt bei der Konstruktion) 0des Itˆo-Integrals wollen wir uns von der * ∞ strengen Integrierbarkeitsbedingung E 0 Hs2 ds < ∞ l¨osen. Hierzu machen wir zun¨achst die folgende einfache Feststellung. Lemma 25.13. Sei τ eine Stoppzeit und H, G ∈ E mit Hs = Gs f¨ur jedes s ≤ τ . Dann gilt f¨ur die Itˆo-Integrale τ ∞ ∞ τ (τ ) (τ ) Hs dWs := Hs dWs = Gs dWs =: Gs dWs f.s. 0
0
0
0
Speziell gilt f¨ur jedes t ≥ 0 auf {τ ≥ t}
τ ∧t
Hs dWs = 0
t
Hs dWs . 0
25.1 Das Itˆo-Integral bez¨uglich der Brown’schen Bewegung
551
2
Beweis. Klar.
Definition 25.14. Sei Eloc der Raum der progressiv messbaren stochastischen Prozesse H mit T Hs2 ds < ∞ f.s. f¨ur jedes T > 0. 0
Lemma 25.15. F¨ur jedes H ∈ )E0loc existiert * eine Folge (τn )n∈N von Stoppzeiten τ mit τn ↑ ∞ fast sicher und E 0 n Hs2 ds < ∞, also mit H (τn ) ∈ E f¨ur jedes n ∈ N. Beweis. Setze
1 2 t Hs2 ds ≥ n . τn := inf t ≥ 0 : 0
Nach der Definition von Eloc gilt τn ↑ ∞ fast sicher und nach Konstruktion ist ; (τ ) ;2 )0 * ;H n ; = E τn H 2 ds ≤ n. 2 s 0 Definition 25.16. Sei H ∈ Eloc und (τn )n∈N wie in Lemma 25.15. Wir definieren f¨ur t ≥ 0 das Itˆo-Integral als den fast sicheren Grenzwert t t Hs dWs := lim Hs(τn ) dWs . (25.5) n→∞
0
0
Satz 25.17. Sei H ∈ Eloc . (i) Der Grenzwert in (25.5) ist wohldefiniert, stetig in t und (f.s.) unabh¨angig von der Wahl der Folge (τn )n∈N . )0τ 2 * (ii) Ist τ eine Stoppzeit mit E 0 Hs ds < ∞, so ist das gestoppte Itˆo-Integral 0 τ ∧t Hs dWs ein L2 -beschr¨anktes, stetiges Martingal. 0 t≥0 0 * )0T t H dW ein (iii) Ist speziell E 0 Hs2 ds < ∞ f¨ur jedes T > 0, so ist s s 0 quadratintegrierbares, stetiges Martingal.
t≥0
Beweis. (i) Nach Lemma 25.13 ist auf dem Ereignis {τn ≥ t} t t Hs dWs = Hs(τn ) dWs . 0
0
Also existiert der Limes, ist stetig und unabh¨angig von der Wahl der Folge (τn )n∈N . (ii) Dies folgt direkt aus Satz 25.11. (iii) Da wir τn = n w¨ahlen k¨onnen, folgt dies aus (ii).
2
552
25 Das Itˆo-Integral
)0T * Satz 25.18. Sei H progressiv messbar und E 0 Hs2 ds < ∞ f¨ur alle T > 0. Dann definiert t Mt := Hs dWs , t ≥ 0, 0
ein quadratintegrierbares, stetiges Martingal, und t 2 2 Hs ds (Nt )t≥0 := Mt − 0
t≥0
ist ein stetiges Martingal mit N0 = 0. Beweis. Es reicht zu zeigen, dass N ein Martingal ist. Offenbar ist N adaptiert. Sei τ ein beschr¨ankte Stoppzeit. Dann ist , + τ ) * 2 2 Hs ds E Nτ = E Mτ − 0
+ =E
∞
2 , Hs(τ )
0
dWs
+ −E
∞
2 Hs(τ )
, ds = 0.
0
¨ Nach dem Optional Stopping Theorem (siehe Ubung 21.1.3(iii)) ist N damit als Martingal erkannt. 2 Wir erinnern an den Begriff des lokales Martingals und der quadratischen Variation aus Kapitel 21.10. 0t Korollar 25.19. Ist H ∈ Eloc , so ist das Itˆo-Integral Mt = 0 Hs dWs ein stetiges 0t lokales Martingal mit quadratischem Variationsprozess M !t = 0 Hs2 ds. 0t Beispiel 25.20. (i) Wt = 0 1 dWs ist ein quadratintegrierbares Martingal, und (Wt2 − t)t≥0 ist ein stetiges Martingal. )0T * 0t 2 (ii) Wegen E 0 Ws2 ds = T2 < ∞ f¨ur alle T ≥ t := 0 W s dWs ein 0 ist M 0t 2 2 ist ein stetiges, quadratintegrierbares Martingal, und Mt − 0 Ws ds t≥0
stetiges Martingal.
0t (iii) Sei H progressiv messbar und beschr¨ankt sowie Mt := 0 Hs dWs . Dann ist M progressiv messbar (weil stetig und adaptiert) und 2 + T , T s ) 2* T 2 H2∞ 2 . E Ms ds = E Hr dr ds ≤ 2 0 0 0 0 Kt := t Ms dWs ein quadratisch integrierbares, stetiges Martingal Also ist M 0 0 Kt2 − t Ms2 dWs ist ein stetiges Martingal. 3 und M 0 t≥0
25.2 Itˆo-Integral bez¨uglich Diffusionen
553
¨ 25.2 Itˆo-Integral bezuglich Diffusionen Ist H=
n
hi−1 ½(ti−1 ,ti ] ∈ E,
(25.6)
i=1
so ist das elementare Integral ItM (H) =
n
hi−1 Mti ∧t − Mti−1 ∧t
i=1
ein Martingal (beziehungsweise lokales Martingal), wenn M ein Martingal (beziehungsweise lokales Martingal) ist, und es gilt n n * * ) ) * ) M (H))2 = E h2i−1 (Mti − Mti−1 )2 = E h2i−1 ( M !ti − M !ti−1 ) E (I∞ i=1
i=1
+ =E
∞
, Ht2 d M !t ,
0
falls der Ausdruck auf der rechten Seite endlich ist. Grob gesprochen k¨onnen wir die Prozedur, mit der wir das Itˆo-Integral f¨ur die Brown’sche Bewegung in Abschnitt 25.1 f¨ur Integranden H ∈ E definiert hatten, wiederholen, um ein Integral bez¨uglich M f¨ur eine große Klasse von Integranden zu definieren. F¨ur die Definition der Norm auf E m¨ussen wir im Prinzip nur dt (die quadratische Variation der Brown’schen Bewegung) durch d M !t ersetzen: + ∞ , Ht2 d M !t . H2M := E 0
Das Problem besteht nicht darin, das elementare Integral auf E fortzusetzen, sondern darin zu pr¨ufen, welche Prozesse in E liegen. F¨ur unstetige Martingale etwa m¨ussen die Integranden vorhersagbar sein, damit das Integral ein Martingal wird (abgesehen von der Schwierigkeit, dass wir die Existenz einer quadratischen Variation f¨ur solche Martingale nicht etabliert haben und dies in diesem Rahmen auch nicht tun werden). Dies hatten wir in Kapitel 9.3 schon f¨ur den Fall diskreter Zeit gesehen. Haben wir nun ein stetiges Martingal M mit stetiger quadratischer Variation M ! vorliegen, so tritt immer noch folgendes Problem auf: Im Beweis von n→∞ Satz 25.9 wurde in Schritt 2 benutzt, dass Htn (ω) −→ Ht (ω) f¨ur Lebesgue-fast alle t und alle ω gilt, um zu zeigen, dass progressiv messbare H in E liegen. Ist d M !t nun nicht absolutstetig bez¨uglich des Lebesgue-Maßes, so reicht dies aber nicht aus, um die Konvergenz der Integrale bez¨uglich d M !t zu folgern. Im Fall absolutstetiger quadratischer Variation hingegen geht der Beweis glatt durch. Wie in Abschnitt 25.1 erhalten wir:
554
25 Das Itˆo-Integral
Satz 25.21. Sei M ein stetiges lokales Martingal mit absolutstetiger quadratischer 0T Variation M ! und H progressiv messbar mit 0 Hs2 d M !s < ∞ f.s. f¨ur je0t des T ≥ 0. Dann ist das Itˆo-Integral Nt := 0 Hs dMs wohldefiniert und ist 0t ein stetiges lokales Martingal mit quadratischer N !t = 0 Hs2 d M !s . ; ; Variation F¨ur jede Folge (τn )n∈N mit τn ↑ ∞ und ;H (τn ) ;M < ∞ und jede Familie ; m→∞ ; (H n,m , n, m ∈ N) ⊂ E mit ;H n,m − H (τn ) ;M −→ 0 gilt t Hs dMs = lim lim ItM (H m,n ) f¨ur alle t ≥ 0 stochastisch. n→∞ m→∞
0
Als gewisse Verallgemeinerung erhalten wir den folgenden Satz. Satz 25.22. Seien M 1 und M 2 stetige lokale Martingale mit absolutstetiger qua0T dratischer Variation. Sei H i progressiv messbar mit 0 (Hsi )2 d M i !s < ∞ f¨ur 0 t alle i = 1, 2 und T < ∞. Sei Nti := 0 Hsi dMsi f¨ur i = 1, 2. Dann sind 1 2 N und N stetige lokale Martingale mit quadratischer Kovariation N i , N j !t = 0t i j Hs Hs d M i , M j !s . Sind M 1 und M 2 unabh¨angig, so ist N 1 , N 2 ! ≡ 0. 0 Beweis. Seien zun¨achst H 1 , H 2 ∈ E. Dann gibt es Zahlen 0 = t0 < t1 < . . . < tn und Ftk -messbare beschr¨ankte Abbildungen hik , i = 1, 2, k = 0, . . . , n − 1 mit n Hti (ω) = hik−1 (ω) ½(tk−1 ,tk ] (t). k=1
Es folgt Nti Ntj
=
n
hik−1 hjl−1 Mtik ∧t − Mtik−1 ∧t Mtjl ∧t − Mtjl−1 ∧t .
k,l=1
Die Summanden mit k = l sind jeweils lokale Martingale. F¨ur jeden einzelnen Summanden mit k = l ist hik−1 hjk−1 Mtik ∧t − Mtik−1 ∧t Mtjk ∧t − Mtjk−1 ∧t
− M i , M j !tk ∧t − M i , M j !tk−1 ∧t t≥0
ein lokales Martingal. Wegen n
hik−1 hjk−1 M i , M j !tk ∧t − M i , M j !tk−1 ∧t =
k=1
ist Nti Ntj −
0t 0
Hsi Hsj d M i , M j !s
t≥0
t
Hsi Hsj d M i , M j !s 0
ein stetiges lokales Martingal.
Der Fall allgemeiner progressiv messbarer H 1 , H 2 , die die Integrierbarkeitsbedingung erf¨ullen, folgt durch die u¨ blichen L2 -Approximationsargumente. Sind M 1 und M 2 unabh¨angig, so ist M 1 , M 2 ! ≡ 0.
2
25.2 Itˆo-Integral bez¨uglich Diffusionen
555
Wir betrachten im Folgenden Prozesse, die sich als Itˆo-Integral bez¨uglich einer Brown’schen Bewegung schreiben lassen, und geben f¨ur diese Prozesse einen detaillierteren Beweis von Satz 25.21 an. Definition 25.23. Sei W eine Brown’sche Bewegung und σ und b progressiv 0t messbare stochastische Prozesse mit 0 σs2 +|bs | ds < ∞ fast sicher f¨ur alle t ≥ 0. Dann nennen wir den Prozess X mit t t σs dWs + bs ds f¨ur t ≥ 0 Xt = 0
0
einen verallgemeinerten Diffusionsprozess (oder kurz: verallgemeinerte Diffusion) mit Diffusionskoeffiezenten σ und Drift b. Haben σ und b speziell die Gestalt σs = σ ˜ (Xs ) und bs = ˜b(Xs ) f¨ur gewisse ˜ Abbildungen σ ˜ : R → [0, ∞) und b : R → R, so nennen wir X eine Diffusion (im engeren Sinne). Im Gegensatz zu verallgemeinerten Diffusionen sind Diffusionen im engeren Sinne unter gewissen Regularit¨atsannahmen an die Koeffizienten stets Markovprozesse, wie wir noch sehen werden (vergleiche Satz 26.8, 26.10 und 26.26). 0t Eine Diffusion X hat stets die Gestalt X = M + A, wobei Mt = 0 σs dWs 0t 2 ein stetiges lokales Martingal mit quadratischer Variation M !t = 0 σs ds ist 0t (nach Korollar 25.19) und At = 0 bs ds ein stetiger Prozess von lokal endlicher Variation. Offenbar ist f¨ur H aus (25.6)
t
Hs dMs = 0
n
hi−1 Mti ∧t − Mti−1 ∧t
i=1
=
n i=1
hi−1
ti ∧t
ti−1 ∧t
t
σs dWs =
(Hs σs ) dWs . 0
0T 0T F¨ur progressiv messbares H mit 0 Hs2 d M !s = 0 (Hs σs )2 ds < ∞ f¨ur alle T ≥ 0 definieren wir daher das Itˆo-Integral t t Hs dMs := (Hs σs ) dWs . 0
0
Wir erhalten ohne Weiteres, speziell ohne auf Satz 25.21 zur¨uckzugreifen, den folgenden Satz. Satz 25.24. Sei X = M + A eine verallgemeinerte Diffusion mit σ und b wie in Definition 25.23 und H progressiv messbar mit
556
25 Das Itˆo-Integral
T
Hs2 σs2 ds < ∞
f.s.
f¨ur alle T ≥ 0
(25.7)
|Hs bs | ds < ∞
f.s.
f¨ur alle T ≥ 0,
(25.8)
0
und
T
0
so ist der durch t t t t t Yt := Hs dXs := Hs dMs + Hs dAs := Hs σs dWs + Hs bs ds 0
0
0
0
0
definierte Prozess Y eine verallgemeinerte Diffusion 0mit Diffusionskoeffizienten t (Hs σs )s≥0 und Drift (Hs bs )s≥0 . Speziell ist Nt := 0 Hs dMs ein stetiges lo0t 2 0t kales Martingal mit Variationsprozess N !t = 0 Hs d M !s = 0 Hs2 σs2 ds. ¨ Ubung 25.2.1. Sei M ein stetiges lokales Martingal mit absolutstetiger quadratischer Variation M ! (etwa eine verallgemeinerte Diffusion), und sei H progres0T siv messbar und stetig mit 0 Hs2 d M !s < ∞ f¨ur jedes T ≥ 0. Sei ferner P = (P (n) )n∈N eine zul¨assige Zerlegungsfolge (siehe Definition 21.56). Zeige:
T
Hs dMs = lim 0
n→∞
Ht (Mt − Mt )
stochastisch f¨ur alle T ≥ 0.
♣
n t∈PT
25.3 Die Itˆo-Formel Dieser und die beiden folgenden Abschnitte sind inhaltlich an ein Vorlesungsskript von Hans F¨ollmer angelehnt. Ist t → Xt eine differenzierbare Abbildung mit Ableitung X und F ∈ C 1 (R) mit Ableitung F , so gilt die klassische Substitutionsformel t t F (Xt ) − F (X0 ) = F (Xs ) dXs = F (Xs )Xs ds. (25.9) 0
0
Diese Formel bleibt richtig, wenn X stetig und von lokal endlicher Variation ist (siehe Kapitel 21.10), also die Verteilungsfunktion eines absolutstetigen signierten Maßes auf [0, ∞) ist. Dann existiert die Ableitung X als Radon-Nikodym Ableitung fast u¨ berall, und man kann leicht zeigen, dass (25.9) auch in diesem Fall gilt. Die Pfade der Brown’schen Bewegung W sind nirgends differenzierbar (Satz 21.17 von Paley, Wiener und Zygmund) und haben (folglich) u¨ berall lokal unendliche Variation. Wir k¨onnen also eine einfache Substitutionsformel wie in (25.9) nicht erwarten, und in der Tat sieht man leicht ein, dass sie falsch sein muss: W¨ahlen wir
25.3 Die Itˆo-Formel
557
0t F (x) = x2 , so ist die rechte Seite in (25.9) (mit X durch W ersetzt) 0 2Ws dWs , also ein Martingal. Die linke Seite hingegen ist Wt2 , also ein Submartingal, das erst durch Subtraktion von t zu einem Martingal wird. In der Tat ist dieses fehlende t der zus¨atzliche Term, den wir in der Substitutionsformel f¨ur Itˆo-Integrale, der so genannten Itˆo-Formel, bekommen. Eine (etwas haarstr¨aubende) Heuristik f¨uhrt uns erstaunlicherweise auf die richtige Spur: √ F¨ur kleine t ist Wt ungef¨ahr von der √ Gr¨oße t. Wenn wir nun formal dWt = dt schreiben und f¨ur F ∈ C 2 (R) eine Taylor-Entwicklung bis zur zweiten Ordnung durchf¨uhren, so erhalten wir 1 1 dF (Wt ) = F (Wt ) dWt + F (Wt ) (dWt )2 = F (Wt ) dWt + F (Wt ) dt, 2 2 oder als Integral geschrieben
t
F (Wt ) − F (W0 ) =
F (Ws ) dWs +
0
t
0
1 F (Ws ) ds. 2
(25.10)
(F¨ur gewisse diskrete Martingale haben wir eine analoge Formel schon in Beispiel 10.9 hergeleitet.) Hauptanliegen dieses Abschnittes ist es zu zeigen, dass diese Formel, die Itˆo-Formel f¨ur die Brown’sche Bewegung genannt wird, in der Tat korrekt ist. Die weitere Diskussion in diesem Abschnitt h¨angt nicht explizit davon ab, dass wir bez¨uglich der Brown’schen Bewegung integrieren, sondern benutzt lediglich, dass die Funktion, bez¨uglich der wir integrieren, stetige quadratische Variation hat (entlang einer geeigneten zul¨assigen Zerlegungsfolge P = (P n )n∈N )), f¨ur die Brown’sche Bewegung n¨amlich W !t = t. Sei im Folgenden also P = (P n )n∈N eine zul¨assige Zerlegungsfolge (siehe DefiP n nition 21.56 f¨ur die Definition und die Notation CqV = CqV , PTn , PS,T , t und so weiter) und X ∈ C([0, ∞)) mit stetiger quadratischer Variation (entlang P) (Xt − Xt )2 . T → X!T = VT2 (X) = lim n→∞
t∈PT
P F¨ur die Brown’sche Bewegung ist W ∈ CqV fast sicher f¨ur jede zul¨assige Zerlegungsfolge (Satz 21.64) und W !T = T . F¨ur stetige lokale Martingale M kann ¨ man immerhin durch Ubergang zu einer geeigneten Teilfolge P von P sicherstelP fast sicher gilt (Satz 21.70). len, dass M ∈ CqV
Sei also P fest gew¨ahlt und X ∈ CqV eine (deterministische) Funktion. Satz 25.25 (Pfadweise Itˆo-Formel). Sei X ∈ CqV und F ∈ C 2 (R). Dann existiert f¨ur alle T ≥ 0 der Limes T F (Xs ) dXs := lim F (Xt )(Xt − Xt ), (25.11) 0
und es gilt die Itˆo-Formel
n→∞
n t∈PT
558
25 Das Itˆo-Integral
T
F (XT ) − F (X0 ) =
F (Xs ) dXs +
0
1 2
T
F (Xs ) d X!s .
(25.12)
0
Dabei ist das rechte Integral in (25.12) als klassisches (Lebesgue-Stieltjes-) Integral zu verstehen. ¨ Bemerkung 25.26. Ist M ein stetiges lokales Martingal, so ist nach Ubung 25.2.1 0T F (M ) dM der stochastische Limes der Summen das Itˆ o -Integral s s 0 F (Mt )(Mt − Mt ) f¨ur n → ∞. Tats¨achlich stimmt also f¨ur X = M (ω) n t∈PT
das pfadweise Integral in (25.11) mit dem Itˆo-Integral (f.s.) u¨ berein. Speziell gilt f¨ur das Itˆo-Integral der Brown’schen Bewegung die Itˆo-Formel (25.10). 3 Beweis (von Satz 25.25). Wir m¨ussen zeigen, dass der Limes in (25.11) existiert und dass (25.12) gilt. F¨ur n ∈ N und t ∈ PTn (mit Nachfolger t ∈ PTn ) liefert die Taylor-Formel F (Xt ) − F (Xt ) = F (Xt )(Xt − Xt ) + 12 F (Xt ) · (Xt − Xt )2 + Rtn , (25.13) wobei wir das Restglied
Rtn = F (ξ) − F (Xt ) · 12 (Xt − Xt )2 (f¨ur eine geeignete Zwischenstelle ξ zwischen Xt und Xt ) wie folgt absch¨atzen. Da X stetig ist, ist C := {Xt : t ∈ [0, T ]} kompakt und F gleichm¨aßig C stetig. Zu jedem ε > 0 gibt es also ein δ > 0 mit |F (Xr ) − F (Xs )| < ε
f¨ur alle r, s ∈ [0, T ] mit |Xr − Xs | < δ.
Da auch X gleichm¨aßig stetig ist auf [0, T ] und die Feinheit |P n | der Zerlegung nach 0 geht f¨ur n → ∞, gibt es (zu jedem δ > 0) ein Nδ , sodass sup sup |Xt − Xt | < δ.
n n≥Nδ t∈PT
Also ist f¨ur n ≥ Nδ und t ∈ PTn |Rtn | ≤
1 ε (Xt − Xt )2 . 2
Summieren wir in (25.13) u¨ ber t ∈ PTn , so erhalten wir F (Xt ) − F (Xt ) = F (Xt ) − F (X0 ) n t∈PT
und
n t∈PT
|Rtn | ≤ ε
n t∈PT
(Xt − Xt )2
n→∞
−→ ε X!t < ∞.
25.3 Die Itˆo-Formel
Da ε > 0 beliebig war, gilt also
n t∈PT
559
n→∞ ¨ |Rtn | −→ 0. Es gilt (siehe Ubung 21.10.2)
T 1 2 n→∞ 1 F (Xt )(Xt − Xt ) −→ F (Xs ) d X!s . 2 2 0 n
t∈PT
Daher muss auch die Summe des verbleibenden Terms in (25.13) konvergieren, das heißt, es existiert der Limes in (25.11). 2 Als direkte Folgerung erhalten wir die Itˆo-Formel f¨ur das Itˆo-Integral bez¨uglich Diffusionen. ¨ Diffusionen). Sei Y = M + A, wobei Mt = 25.27 (Itˆo-Formel0 fur 0Satz t t σ dW und A = b ds, eine (verallgemeinerte) Diffusion ist (siehe Des s t 0 0 s finition 25.23). Sei F ∈ C 2 (R). Dann gilt die Itˆo-Formel 1 t F (Ys ) dMs + F (Ys ) dAs + F (Ys ) d M !s F (Yt ) − F (Y0 ) = 2 0 0 0 t t 1 = F (Ys )σs dWs + F (Ys )bs + F (Ys )σs2 ds. 2 0 0 (25.14) Speziell gilt f¨ur die Brown’sche Bewegung t 1 t F (Wt ) − F (W0 ) = F (Ws ) dWs + F (Ws ) ds. (25.15) 2 0 0
t
t
Als Anwendung der Itˆo-Formel bringen wir eine Charakterisierung der Brown’schen Bewegung als stetiges lokales Martingal mit einer bestimmten quadratischen Variation. Satz 25.28 (L´evy’sche Charakterisierung der Brown’schen Bewegung). Sei X ∈ Mloc,c mit X0 = 0. Dann sind a¨ quivalent (i) (Xt2 − t)t≥0 ist ein lokales Martingal, (ii) X!t = t f¨ur alle t ≥ 0, (iii) X ist eine Brown’sche Bewegung. Beweis. (iii) =⇒ (i) (i) ⇐⇒ (ii)
Das ist klar.
Das ist klar, weil der quadratische Variationsprozess eindeutig ist.
(ii) =⇒ (iii) Es reicht zu zeigen, dass Xt − Xs ∼ N0,t−s gegeben Fs f¨ur t > s ≥ 0. Wegen des Eindeutigkeitssatzes f¨ur charakteristische Funktionen reicht es zu √ zeigen, dass (mit i = −1) f¨ur A ∈ Fs und λ ∈ R gilt:
560
25 Das Itˆo-Integral
* ) 2 ϕA,λ (t) := E eiλ(Xt −Xs ) ½A = P[A] e−λ (t−s)/2 . Wir wenden die Itˆo-Formel separat auf Real- und Imagin¨arteil an und erhalten t 1 t 2 iλXr i λ eiλXr dXr − λ e dr. eiλXt − eiλXs = 2 s s Es folgt * ) E eiλ(Xt −Xs ) Fs − 1 , , + t + t 1 =E i λ eiλ(Xr −Xs ) dXr Fs − λ2 E eiλ(Xr −Xs ) dr Fs . 2 s s 0t 0t Nun sind Mt := Re s i λ eiλ(Xr −Xs ) dXr und Nt := Im s i λ eiλ(Xr −Xs ) dXr , 0t t ≥ s, stetige lokale Martingale mit M !t = s λ2 sin(λ(Xr −Xs ))2 dr ≤ λ2 (t−s) 0t 2 und N !t = s λ cos(λ(Xr − Xs ))2 dr ≤ λ2 (t − s). Nach Korollar 21.76 sind M und N daher Martingale, also gilt , + t E i λ eiλ(Xr −Xs ) dXr Fs = 0. s
Der Satz von Fubini liefert (wegen A ∈ Fs ) * ) ϕA,λ (t) − ϕA,λ (s) = E eiλ(Xt −Xs ) ½A − P[A] t t ) * 1 1 E eiλ(Xr −Xs ) ½A dr = − λ2 ϕA,λ (r) dr. = − λ2 2 2 s s Das heißt, ϕA,λ ist die L¨osung des linearen Anfangswertproblems ϕA,λ (s) = P[A]
und
d 1 ϕA,λ (t) = − λ2 ϕA,λ (t). dt 2 2
Die eindeutige L¨osung hiervon ist ϕA,λ (t) = P[A] e−λ
(t−s)/2
.
2
Als Folgerung aus dem Satz erhalten wir, dass wir jedes stetige lokale Martingal, dessen quadratischer Variationsprozess absolutstetig (als Funktion der Zeit) ist, als Itˆo-Integral bez¨uglich einer Brown’schen Bewegung schreiben k¨onnen. Satz 25.29 (Itˆo’scher Martingal-Darstellungssatz). Sei M ein stetiges lokales Martingal mit absolutstetiger quadratischer Variation t → M !t . Dann gibt es, eventuell auf einer Erweiterung des Wahrscheinlichkeitsraums, eine Brown’sche Bewegung W mit tL d M !s Mt = dWs f¨ur alle t ≥ 0. ds 0
25.3 Die Itˆo-Formel
561
Beweis. Wir nehmen an, dass auf dem Wahrscheinlichkeitsraum eine Brown’sche K definiert ist, die unabh¨angig von M ist. (Gegebenenfalls muss der Bewegung W Wahrscheinlichkeitsraum hierzu erweitert werden.) Sei
ft := lim n M !t − M !t−1/n f¨ur t > 0. n→∞
t . Dann ist f eine progressiv messbare Version der Radon-Nikodym Ableitung dM dt 0T −1 Klar ist 0 ½{ft >0} ft d M !t = T < ∞ f¨ur jedes T > 0, also sind die folgenden Integrale wohldefiniert, und t t Ks Wt := ½{f >0} fs−1/2 dMs + ½{f =0} dW s
0
0
s
ist als Summe stetiger lokaler Martingale selber eines. Nach Satz 25.22 ist t t ½{fs >0} fs−1 d M !s + ½{fs =0} ds W !t = 0 0 t t ½{fs >0} fs−1 fs ds + ½{fs =0} ds = 0
0
= t. Nach Satz 25.28 ist W damit als Brown’sche Bewegung erkannt. Andererseits ist t t t 1/2 1/2 −1/2 Ks fs dWs = ½{fs >0} fs fs dMs + ½{fs =0} fs1/2 dW 0 0 0 t = ½{fs >0} dMs . 0t
0
0t Nun ist aber Mt − 0 ½{fs >0} dMs = 0 ½{fs =0} dMs ein stetiges lokales Martin0t gal mit quadratischer Variation 0 ½{fs =0} d M !s = 0, also fast sicher gleich Null. 0 t 1/2 Also ist Mt = 0 fs dWs , wie gew¨unscht. 2 Wir kommen nun zu einer mehrdimensionalen Verallgemeinerung der (pfadweisen) d der Raum der stetigen Abbildungen X : [0, ∞) → Rd , Itˆo-Formel. Sei hierzu CqV t → Xt = (Xt1 , . . . , Xtd ), sodass f¨ur k, l = 1, . . . , d die quadratische Kovariation (siehe Definition 21.58) X k , X l ! existiert und stetig ist. Ferner sei C 2 (Rd ) der Raum der zweimal stetig differenzierbaren Funktionen F auf Rd mit partiellen Ableitungen ∂k F und ∂k ∂l F , k, l = 1, . . . , d. Mit ∇ bezeichnen wir den Gradienten und mit = (∂12 + . . . + ∂d2 ) den Laplace-Operator. d Satz 25.30 (Mehrdimensionale pfadweise Itˆo-Formel). Sei X ∈ CqV und F ∈ 2 d C (R ). Dann gilt
T
F (XT ) − F (X0 ) = 0
1 ∇F dXs + 2
T 0
d k,l=1
∂k ∂l F (Xs ) d X k , X l !s .
562
25 Das Itˆo-Integral
Dabei ist
T
∇F (Xs ) dXs := 0
d
T
∂k F (Xs ) dXsk .
0
k=1
¨ Beweis. Das geht wie im eindimensionalen Fall. Die Details verbleiben zur Ubung. 2 Korollar 25.31 (Produktregel). Sind X, Y, X − Y, X + Y ∈ CqV , so gilt XT YT = X0 Y0 +
T
T
Xs dYs + X, Y !T
Ys dXs + 0
f¨ur alle T ≥ 0.
0
Beweis. Nach Voraussetzung (und der Polarisationsformel) existiert X, Y !. Nach Satz 25.30 mit F (x, y) = xy folgt die Aussage. 2 Sei nun Y = M + A eine d-dimensionale verallgemeinerte Diffusion, also Mtk
=
d l=1
t
σsk,l
dWsl
und
Akt
0
t
bks ds
=
f¨ur t ≥ 0, k = 1, . . . , d.
0
Dabei ist W = (W 1 , . . . , W d ) eine d-dimensionale Brown’sche Bewegung und σ k,l (beziehungsweise bk ) sind progressiv messbare, lokal quadratisch integrierbare (beziehungsweise lokal integrierbare) stochastische Prozesse f¨ur k, l = 1, . . . , d. 0t Wegen W k , W l !t = t · ½{k=l} ist Y k , Y l !t = M k , M l !t = 0 ak,l s ds, wobei ak,l s :=
d
σsk,i σsi,l
i=1 d die Kovarianzmatrix der Diffusion M ist. Speziell ist M ∈ CqV fast sicher. Wir erhalten als Korollar zur mehrdimensionalen pfadweisen Itˆo-Formel:
25.3 Die Itˆo-Formel
563
Satz 25.32 (Mehrdimensionale Itˆo-Formel). Sei Y wie oben und F ∈ C 2 (Rd ). Dann gilt F (YT ) − F (Y0 ) = 0
=
d 1 T ∇F (Ys ) dYs + ∂k ∂l F (Ys ) d M k , M l !s 2 0
T
k,l=1
d k,l=1
+
t
σsk,l ∂k F (Ys ) dWsl + 0
d
t
bks ∂k F (Ys ) ds (25.16) 0
k=1
d 1 t k,l as ∂k ∂l F (Ys ) ds. 2 0 k,l=1
Speziell gilt f¨ur die Brown’sche Bewegung F (Wt ) − F (W0 ) =
d k=1
t
∂k F (Ws ) dWsk + 0
1 2
t
F (Ws ) ds.
(25.17)
0
Korollar 25.33. Der Prozess (F (Wt ))t≥0 ist genau dann ein stetiges lokales Martingal, wenn F harmonisch ist (also F ≡ 0 gilt). d 0 t Beweis. Ist F harmonisch, so ist F (Wt ) = F (W0 ) + k=1 0 ∂k F (Ws ) dWsk als Summe von Itˆo-Integralen ein stetiges lokales Martingal. 0t Ist andererseits F ein stetiges lokales Martingal, so ist auch 0 F (Ws ) ds als Differenz von stetigen lokalen Martingalen ein 0stetiges lokales Martingal. Da t → 0t t F (Ws ) ds von endlicher Variation ist, ist 0 F (Ws ) ds = 0 f¨ur alle t ≥ 0 0 fast sicher (nach Korollar 21.72). Also ist F ≡ 0. 2 Korollar 25.34 (Zeitabh¨angige Itˆo-Formel). Ist F ∈ C 2,1 (Rd × R), so gilt F (WT , T ) − F (W0 , 0) d T = ∂k F (Ws , s) dWsk + k=1
0
0
T
1 ∂d+1 + (∂12 + . . . + ∂d2 ) F (Ws , s) ds. 2
Beweis. Wende Satz 25.32 an auf Y = (Wt1 , . . . , Wtd , t)t≥0 .
2
¨ ¨ Itˆo-Integrale). Sei X ∈ CqV und sei g : Ubung 25.3.1 (Satz von Fubini fur [0, ∞)2 → R stetig und im Inneren nach der zweiten Koordinate stetig differenzierbar mit Ableitung ∂2 g. Man zeige mit Hilfe der Produktregel (Korollar 25.31)
564
25 Das Itˆo-Integral
s
g(u, v) du 0
und
s
du
g(u, v) dXv 0
v
s
dXv =
0
g(u, v) du 0
t
t
s
0
0
s
dXv =
g(u, v) dXv 0
du.
♣
u
¨ Ubung 25.3.2 (Stratonovich-Integral). Sei P eine zul¨assige Zerlegungsfolge, X ∈ P und f ∈ C 1 (R) mit Stammfunktion F . Man zeige: F¨ur jedes t ≥ 0 ist das CqV Stratonovich-Integral T Xt + Xt Xt − Xt f (Xt ) ◦ dXt := lim f n→∞ 2 0 n t∈PT
wohldefiniert, und es gilt die klassische Substitutionsregel T F (Xt ) ◦ dXt . F (XT ) − F (X0 ) = 0
Man zeige, dass im Gegensatz zum Itˆo-Integral das Stratonovich-Integral bez¨uglich eines stetigen lokalen Martingals im Allgemeinen kein lokales Martingal ist. ♣
25.4 Dirichlet-Problem und Brown’sche Bewegung ¨ Ahnlich wie f¨ur diskrete Markovketten (vergleiche Kapitel 19.1) l¨asst sich die L¨osung des Dirichlet-Problems in einem Gebiet G ⊂ Rd durch eine am Rande von G gestoppte d-dimensionale Brown’sche Bewegung beschreiben. Sei im Folgenden G ⊂ Rd eine offene, beschr¨ankte Menge. Definition 25.35 (Dirichlet-Problem). Sei f : ∂G → R stetig. Eine Funktion u : G → R heißt L¨osung des Dirichlet-Problems auf G mit Randwert f , falls u stetig ist und in G zweimal stetig differenzierbar sowie u(x) = 0 u(x) = f (x)
f¨ur x ∈ G, f¨ur x ∈ ∂G.
(25.18)
F¨ur hinreichend glatte Gebiete existiert stets eine L¨osung des Dirichlet-Problems (siehe etwa [84, Korollar 4.3.3]). Gibt es eine L¨osung, so ist sie stets eindeutig (wie aus Satz 25.37 folgt). Sei im Folgenden W = (W 1 , . . . , W d ) eine d-dimensionale Brown’sche Bewegung bez¨uglich der Filtration F, die den u¨ blichen Bedingungen gen¨ugt. Wir schreiben Px und Ex f¨ur Wahrscheinlichkeiten und Erwartungswerte, wenn W in W0 = x = (x1 , . . . , xd ) ∈ Rd gestartet wird. Ist A ⊂ Rd offen, so ist
25.4 Dirichlet-Problem und Brown’sche Bewegung
565
τAc := inf t > 0 : Wt ∈ Ac ¨ eine F-Stoppzeit (siehe Ubung 21.4.4). Da G beschr¨ankt ist, ist G ⊂ (−a, a) × ¨ 21.2.4 Rd−1 f¨ur gewisses a > 0. Also ist τGc ≤ τ((−a,a)×Rd−1 )c . Nach Ubung (angewandt auf W 1 ) ist f¨ur x ∈ G ) * ) * (25.19) Ex τGc ≤ Ex τ((−a,a)×Rd−1 )c = (a − x1 )(a + x1 ) < ∞. Speziell ist τGc < ∞ Px -fast sicher, also ist WτGc eine Px -fast sicher wohldefinierte Zufallsvariable mit Werten in ∂G. Definition 25.36. F¨ur x ∈ G bezeichnen wir mit μx,G = Px ◦ Wτ−1 Gc das harmonische Maß auf ∂G. Satz 25.37. Ist u eine L¨osung des Dirichlet-Problems auf G mit Randwert f , so ist * ) f (y) μx,G (dy) f¨ur x ∈ G. (25.20) u(x) = Ex f (WτGc ) = ∂G
Insbesondere ist die L¨osung des Dirichlet-Problems stets eindeutig. Beweis. Sei G1 ⊂ G2 ⊂ . . . eine Folge offener Mengen mit x ∈ G1 , Gn ↑ G und Gn ⊂ G f¨ur jedes n ∈ N. Speziell ist also jedes Gn kompakt und damit ∇u auf Gn beschr¨ankt. Wir schreiben kurz τ := τGc und τn := τGcn . Da u harmonisch ist (das heißt, u = 0), ist nach der Itˆo-Formel f¨ur t < τ
t
∇u(Ws ) dWs = u(W0 ) +
u(Wt ) = u(W0 ) + 0
d k=1
t
∂k u(Ws ) dWsk . (25.21)
0
Speziell ist M := (u(Wt ))t∈[0,τ ) ein lokales Martingal bis τ (aber im Allgemeinen kein Martingal). F¨ur t < τn ist (∂k u(Ws ))2 ≤ Cn := sup ∇u(y)22 < ∞
f¨ur jedes k = 1, . . . , d.
y∈Gn
Also ist
+
τn
E
, (∂k u(Ws ))2 ds ≤ Cn Ex [τn ] ≤ Cn E[τ ] < ∞
0
nach (25.19). Nach Satz 25.17(ii) ist daher der gestoppte Prozess M τn ein Martingal f¨ur jedes n ∈ N und damit
566
25 Das Itˆo-Integral
Ex [u(Wτn )] = Ex [Mτn ] = Ex [M0 ] = u(x).
(25.22)
n→∞
Da W stetig ist und τn ↑ τ gilt, gilt Wτn −→ Wτ ∈ ∂G, aufgrund der Stetigkeit von u also auch n→∞ (25.23) u(Wτn ) −→ u(Wτ ) = f (Wτ ). Da u stetig ist und G kompakt, ist u beschr¨ankt. Nach dem Satz u¨ ber majorisierte Konvergenz folgt aus (25.23) auch die Konvergenz der Erwartungswerte, also (zusammen mit (25.22)) ) ) * * 2 u(x) = lim Ex u(Wτn ) = Ex f (Wτ ) . n→∞
¨ Ubung 25.4.1. Sei G = R × (0, ∞) die offene, obere Halbebene des R2 und x = (x1 , x2 ) ∈ G. Man zeige, dass τGc < ∞ fast sicher gilt und dass das harmonische Maß μx,G auf R ∼ = ∂G die um x1 verschobene Cauchy-Verteilung mit Gr¨oßenparameter x2 ist: μx,G = δx1 ∗ Caux2 . ♣ ¨ Ubung 25.4.2. Sei d ≥ 3 und G = Rd−1 × (0, ∞) ein offener Halbraum des Rd sowie x = (x1 , . . . , xd ) ∈ G. Man zeige, dass τGc < ∞ fast sicher gilt und dass das harmonische Maß μx,G auf Rd−1 ∼ = ∂G die folgende Dichte hat: μx,G (dy) xd Γ (d/2) 3 . = dy π d/2 (x1 − y1 )2 + . . . + (xd−1 − yd−1 )2 + x2d
♣
¨ Ubung 25.4.3. Sei r > 0 und Br (0) ⊂ Rd die offene Kugel um den Ursprung mit Radius r. Man bestimme f¨ur x ∈ Br (0) das harmonische Maß μx,Br (0) . ♣
25.5 Rekurrenz und Transienz der Brown’schen Bewegung Die symmetrische einfache Irrfahrt (Xn )n∈N auf Zd ist nach dem Satz von P´olya (Satz 17.39) genau dann rekurrent (besucht also jeden Punkt unendlich oft), wenn d ≤ 2 ist. Ist d > 2, so ist die Irrfahrt transient und verl¨asst jede endliche Menge A ⊂ Zd schließlich. Wir k¨onnen dieses Verhalten beschreiben durch lim inf Xn = 0 f.s.
⇐⇒
d≤2
lim Xn = ∞ f.s.
⇐⇒
d > 2.
n→∞
und n→∞
Hauptergebnis dieses Abschnitts ist es, dass eine a¨ hnliche Dichotomie auch f¨ur die Brown’sche Bewegung gilt.
25.5 Rekurrenz und Transienz der Brown’schen Bewegung
567
Satz 25.38. Sei W = (W 1 , . . . , W d ) eine d-dimensionale Brown’sche Bewegung. (i) Ist d ≤ 2, so ist W rekurrent in dem Sinne, dass lim inf Wt − y = 0 f.s. t→∞
f¨ur jedes y ∈ Rd .
Insbesondere liegt der Pfad {Wt : t ≥ 0} dicht in Rd fast sicher. (ii) Ist d > 2, so ist W transient in dem Sinne, dass lim Wt = ∞ f.s.,
t→∞
und f¨ur jedes y ∈ Rd \ {0} ist inf{Wt − y : t ≥ 0} > 0 fast sicher. Die Grundidee f¨ur den Beweis des Satzes besteht darin, mit Hilfe von geeigneten Dirichletproblemen und dem Ergebnis von Abschnitt 25.4 die Wahrscheinlichkeiten daf¨ur auszurechnen, dass W gewisse Kugeln
BR (x) := y ∈ Rd : x − y < R trifft. Sei 0 < r < R < ∞ und Gr,R der Anulus
Gr,R := BR (0) \ B r (0) = x ∈ Rd : r < x < R . Zur Erinnerung: F¨ur abgeschlossenes A ⊂ Rd schreiben wir τA = inf{t > 0 : Wt ∈ A} f¨ur die Stoppzeit des ersten Eintretens in A. Wir schreiben
und τr,R = inf t > 0 : Wt ∈ Gr,R . τs := inf t > 0 : Wt = s Bei Start in W0 ∈ Gr,R ist offenbar τr,R = τr ∧ τR . Auf dem Rand von Gr,R definieren wir die Funktion f durch 1, falls x = r, f (x) = (25.24) 0, falls x = R. Sei ur,R : Gr,R → R definiert durch ur,R (x) =
V (x) − V (R) , V (r) − V (R)
wobei V : (0, ∞) → R die Newton’sche Potentialfunktion ist ⎧ s, falls d = 1, ⎪ ⎪ ⎨ log(s), falls d = 2, V (s) = Vd (s) = ⎪ ⎪ ⎩ 2−d −s , falls d > 2.
(25.25)
568
25 Das Itˆo-Integral
Man pr¨uft leicht nach, dass ϕ : Rd \ {0} → R, x → Vd (x) harmonisch ist (also ϕ ≡ 0 erf¨ullt). Also ist ur,R die L¨osung des Dirichlet-Problems auf Gr,R mit Randwert f . Nach Satz 25.37 ist f¨ur x ∈ Gr,R ) * ) ) * * Px τr,R = τr = Px Wτr,R = r = Ex f (Wτr,R ) = ur,R (x). (25.26) Satz 25.39. F¨ur r > 0 und x, y ∈ Rd mit x − y > r gilt ⎧ 1, falls d ≤ 2, ) * ⎨ 2−d Px Wt ∈ Br (y) f¨ur ein t > 0 = ⎩ x−y , falls d > 2. r Beweis. Ohne Einschr¨ankung sei y = 0. Dann ist Px [τr < ∞] = lim Px [τr,R = τr ] = lim R→∞
R→∞
=
V (x) − V (R) V (r) − V (R) 1,
falls d = 2,
Vd (x) Vd (r) ,
falls d > 2,
denn limR→∞ Vd (R) = ∞, falls d ≤ 2 und = 0, falls d > 2.
2
Beweis (von Satz 25.38). Unter Verwendung der starken Markoveigenschaft der Brown’schen Bewegung erhalten wir f¨ur r > 0 + , ' (
Wt < r f¨ur ein t > τR Px lim inf Wt < r = Px t→∞
s∈(0,r) R>x
= sup
inf
) * Px Wt ≤ s f¨ur ein t > τR
= sup
inf
) * Px PWτR [τs < ∞] .
s∈(0,r) R>x
s∈(0,r) R>x
Nach Satz 25.39 ist aber (wegen WτR = R f¨ur R > x) 1, falls d ≤ 2, PWτR [τs < ∞] = (s/R)d−2 , falls d > 2. Also ist
'
(
P lim inf Wt < r = t→∞
1,
falls d ≤ 2,
0,
falls d > 2.
Hieraus folgt aber die Aussage des Satzes. Definition 25.40 (Polare Menge). Eine Menge A ⊂ Rd heißt polar, falls * ) Px Wt ∈ A f¨ur alle t > 0 = 1 f¨ur alle x ∈ Rd .
2
25.5 Rekurrenz und Transienz der Brown’schen Bewegung
569
Satz 25.41. Ist d = 1, so ist nur die leere Menge polar. Ist d ≥ 2, so ist {y} polar f¨ur jedes y ∈ Rd . Beweis. F¨ur d = 1 ist die Aussage klar, wegen lim sup Wt = ∞
und
t→∞
lim inf Wt = −∞ f.s. t→∞
Aufgrund der Stetigkeit von W wird also jeder Punkt y ∈ R immer wieder getroffen. Sei nun d ≥ 2. Ohne Einschr¨ankung sei y = 0. Ist x = 0, so ist ) ) * * Px τ{0} < ∞ = lim Px τ{0} < τR R→∞ ) * = lim inf Px τr,R = τr R→∞ r>0
(25.27)
= lim inf ur,R (x) = 0, R→∞ r>0
r→0
weil Vd (r) −→ −∞, falls d ≥ 2. Ist hingegen x = 0, so gilt wegen der starken Markoveigenschaft der Brown’schen Bewegung (und weil P0 [Wt = 0] = 0 ist f¨ur alle t > 0) ) ) * * P0 τ{0} < ∞ = sup P0 Ws = 0 f¨ur ein s ≥ t t>0 ) * = sup P0 PWt [τ{0} < ∞] = 0, t>0
wobei wir im letzten Schritt (25.27) ausgenutzt haben.
2
26 Stochastische Differentialgleichungen
Stochastische Differentialgleichungen beschreiben die zeitliche Entwicklung von gewissen stetigen Markovprozessen mit Werten in Rn . Im Gegensatz zu klassischen Differentialgleichungen ist nicht nur die Ableitung einer Funktion angegeben, sondern zudem ein Term, der zuf¨allige Fluktuationen beschreibt, die als Itˆo-Integral bez¨uglich einer Brown’schen Bewegung kodiert werden. Je nach dem, ob man die konkrete Brown’sche Bewegung als treibende Kraft des Rauschens ernst nimmt oder nicht, spricht man von starken oder schwachen L¨osungen. Wir entwickeln im ersten Abschnitt die Theorie der starken L¨osungen unter Lipschitz-Bedingungen an die Koeffizienten. Im zweiten Abschnitt lernen wir das (lokale) Martingalproblem als Methode zur Etablierung schwacher L¨osungen kennen. Im dritten Abschnitt stellen wir die Methode der Dualit¨at zur Sicherung der Eindeutigkeit von L¨osungen an Beispielen vor. Da die Theorie der stochastischen Differentialgleichungen ein sehr weites Feld ist und die Dinge sehr schnell sehr technisch werden, bringen wir nur kursorisch ein paar der wichtigsten Ergebnisse, zum Teil ohne Beweis, um sie dann an Beispielen zu illustrieren.
26.1 Starke L¨osungen Wir betrachten eine stochastische Differentialgleichung (SDGL) von dem Typ X0 = ξ, dXt = σ(t, Xt ) dWt + b(t, Xt ) dt.
(26.1)
Dabei ist W = (W 1 , . . . , W m ) eine m-dimensionale Brown’sche Bewegung, ξ n μ, eine von W
unabh¨angige R -wertige Zufallsvariable mit Verteilung
σ(t, x) = σij (t, x) i=1,...,n eine reelle n × m Matrix sowie b(t, x) = bi (t, x) i=1,...,n ein j=1,...,m
n-dimensionaler Vektor. Die Abbildungen (t, x) → σij (t, x) und (t, x) → bi (t, x) seien messbar. Unter einer L¨osung X von (26.1) wollen wir nat¨urlich einen stetigen, adaptierten stochastischen Prozess X mit Werten in Rn verstehen, der die folgende Integralgleichung erf¨ullt
572
26 Stochastische Differentialgleichungen
t
Xt = ξ +
t
σ(s, Xs ) dWs + 0
b(s, Xs ) ds
P-f.s. f¨ur alle t ≥ 0.
(26.2)
0
Koordinatenweise ausgeschrieben heißt dies Xti
i
=ξ +
m j=1
0
t
σij (s, Xs ) dWsj
+
t
bi (s, Xs ) ds
f¨ur alle i = 1, . . . , n.
0
Nun ergibt sich folgendes Problem: An welche Filtration F soll X adaptiert sein? Soll F die Filtration sein, die von ξ und W erzeugt ist, oder darf F eine gr¨oßere Filtration sein? Aus der Theorie der gew¨ohnlichen Differentialgleichungen ist bekannt, dass es, je nach Differentialgleichung, L¨osungen geben kann, die aber nicht eindeutig sind (beispielsweise f¨ur f = |f |1/3 ). Wenn F gr¨oßer als die von W erzeugte Filtration ist, k¨onnen wir weitere Zufallsvariablen definieren, die unter mehreren L¨osungen eine aussuchen. Wir haben also mehr M¨oglichkeiten, eine L¨osung anzugeben als wenn F = σ(W ) ist. In der Tat wird sich herausstellen, dass man in manchen F¨allen u¨ berhaupt erst eine L¨osung einer SDGL angeben kann, wenn man eine gr¨oßere Filtration zul¨asst. Grob gesprochen nennen wir X eine starke L¨osung von (26.1), wenn (26.2) gilt und X an F = σ(W ) adaptiert ist, hingegen eine schwache L¨osung, wenn X an eine gr¨oßere Filtration F adaptiert ist, bez¨uglich der W aber immer noch ein Martingal ist. Schwache L¨osungen behandeln wir in Abschnitt 26.2. Definition 26.1 (Starke L¨osung). Wir sagen, dass die stochastische Differentialgleichung (SDGL) (26.1) eine starke L¨osung X hat, falls es eine Abbildung F : Rn × C([0, ∞); Rm ) → C([0, ∞); Rn ) gibt mit den Eigenschaften (i) (x, w) → F (x, w) ist f¨ur jedes t ≥ 0 messbar bez¨uglich B(Rn ) ⊗ Gtm – Gtn , wobei (f¨ur k = m oder k = n) Gtk := σ(πs : s ∈ [0, t]) die von den Koordinatenabbildungen πs : C([0, ∞); Rk ) → R, w → w(s) erzeugte σ-Algebra ist. (ii) Der Prozess X = F (ξ, W ) erf¨ullt (26.2). Bedingung (i) besagt, dass der Pfad (Xs )s∈[0,t] nur von ξ und (Ws )s∈[0,t] abh¨angt und sonst von keinen Informationen. Insbesondere ist X an Ft = σ(ξ, Ws : s ∈ [0, t]) adaptiert und progressiv messbar, sodass das Itˆo-Integral in (26.2) wohldefiniert ist, falls σ und b nicht zu stark wachsen f¨ur große x. Bemerkung 26.2. Offenbar ist eine starke L¨osung einer SDGL stets eine verallgemeinerte n-dimensionale Diffusion. Sind die Koeffizienten σ und b unabh¨angig von t, so ist die L¨osung eine n-dimensionale Diffusion. 3 Bemerkung 26.3. Sei X eine starke L¨osung und F wie in Definition 26.1. Ist W eine m-dimensionale Brown’sche Bewegung auf einem Raum (Ω , F , P ) mit Filtration F , und ist ξ unabh¨angig von W und F0 -messbar, so erf¨ullt X = F (ξ , W ) die Integralgleichung (26.2), ist also eine starke L¨osung von (26.1) mit W statt W .
26.1 Starke L¨osungen
573
Die Existenz einer starken L¨osung h¨angt also nicht von der konkreten Realisierung der Brown’schen Bewegung oder der Filtration F ab. 3 Definition 26.4. Wir sagen, dass die SDGL (26.1) eine eindeutige starke L¨osung hat, falls es ein F wie in Definition 26.1 gibt, sodass gilt: (i) Ist W eine m-dimensionale Brown’sche Bewegung auf einem Wahrscheinlichkeitsraum (Ω, F, P) mit Filtration F und ξ eine F0 -messbare von W unabh¨angige Zufallsvariable mit P ◦ ξ −1 = μ, dann ist X := F (ξ, W ) eine L¨osung von (26.2). (ii) F¨ur jede L¨osung (X, W ) von (26.2) gilt X = F (ξ, W ). Beispiel 26.5. Seien m = n = 1 und b ∈ R sowie σ > 0. Der Ornstein-Uhlenbeck Prozess t
Xt := ebt ξ + σ
e(t−s)b dWs ,
t ≥ 0,
(26.3)
0
ist eine starke L¨osung der SDGL X0 = ξ und dXt = σ dWt + b Xt dt. In der Terminologie von Definition 26.1 ist (im Sinne des pfadweisen Itˆo-Integrals bez¨uglich w) t
F (x, w) =
t → ebt x +
e(t−s)b dw(s) 0
f¨ur alle w ∈ CqV (also mit stetiger quadratischer Variation). Wegen P[W ∈ CqV ] = 1, k¨onnen wir F (x, w) = 0 setzen f¨ur w ∈ C([0, ∞); R) \ CqV . ¨ In der Tat gilt nach dem Satz von Fubini f¨ur Itˆo-Integrale (Ubung 25.3.1) ξ+
t
t
σ dWs + 0
b Xs ds s t t bs b(s−r) b e ξ ds + σb e dWr ds = ξ + σWt + 0 0 0 t t
bt b(s−r) σ be ds dWr = ξ + σWt + e − 1 ξ + 0
0
r
t
σ + eb(t−r) − 1 σ dWr = ebt ξ + 0
= Xt . Man kann zeigen (siehe Satz 26.8), dass diese L¨osung auch (stark) eindeutig ist. 3 Beispiel 26.6. Seien α, β ∈ R. Die eindimensionale SDGL X0 = ξ und dXt = α Xt dWt + β Xt dt
(26.4)
574
26 Stochastische Differentialgleichungen
hat die starke L¨osung α2 t . Xt = ξ exp α Wt + β − 2
In der Terminologie von Definition 26.1 ist σ(t, x) = αx, b(t, x) = βx und α2 t F (x, w) = t → x exp α w(t) + β − 2 f¨ur alle w ∈ C([0, ∞); R) und x ∈ R. In der Tat ist nach der zeitabh¨angigen ItˆoFormel (Korollar 25.34) t t α2 1 2 Xt = ξ + β− Xs ds. + α αXs dWs + 2 2 0 0 Auch in diesem Fall gilt starke Eindeutigkeit der L¨osung (siehe Satz 26.8). Der Prozess X heißt geometrische Brown’sche Bewegung und dient beispielsweise zur Modellierung von Aktienkursen im so genannten Black-Scholes Modell. 3 Wir geben nun ein einfaches Kriterium f¨ur die Existenz und Eindeutigkeit starker L¨osungen an. F¨ur eine n × m Matrix A definieren wir die Hilbert-Schmidt Norm m E n
A2i,j . (26.5) A = Spur A AT = i=1 j=1
F¨ur b ∈ Rn verwenden wir die euklidische Norm b. Da alle Normen auf endlichdimensionalen Vektorr¨aumen a¨ quivalent sind, spielt es keine wesentliche Rolle, welche Norm wir genau benutzen. Allerdings vereinfacht die hier eingef¨uhrte Norm die Rechnungen, wie das folgende Lemma zeigt. Lemma 26.7. Sei t → H(t) = (Hij (t))i=1,...,n, j=1,...,m progressiv messbar und )0T 2 * E 0 Hij (t) dt < ∞ f¨ur alle i, j. Dann gilt +; ; E ; ;
0
T
;2 , + ; = E H(t) dWt ; ;
T
, H(t)2 dt ,
(26.6)
0
wobei H die Hilbert-Schmidt Norm aus (26.5) bezeichnet. m 0 t Beweis. F¨ur i = 1, . . . , n ist Ii (t) := j=1 0 Hij (s) dWsj ein stetiges Martingal 0 t m 2 mit Variationsprozess Ii !t = 0 j=1 Hij (s) ds. Daher ist * ) E (Ii (T ))2 = E
+
m T 0
j=1
, 2 Hij (s) ds
.
26.1 Starke L¨osungen
575
Die linke Seite in (26.6) ist aber gleich + n * ) 2 E (Ii (T )) = E
T 0
i=1
m n
, 2 Hij (s) ds
.
i=1 j=1
2
Die Behauptung folgt nun aus der Definition von H(s)2 .
Satz 26.8. Seien b und σ Lipschitz-stetig in der ersten Koordinate. Das heißt, es existiere eine Konstante K > 0, sodass f¨ur alle x, x ∈ Rn und t ≥ 0 gilt, dass σ(x, t) − σ(x , t) + b(x, t) − b(x , t) ≤ K x − x .
(26.7)
Ferner gelte die Wachstumsbedingung σ(t, x)2 + b(t, x)2 ≤ K 2 (1 + x2 )
f¨ur alle x ∈ Rn , t ≥ 0.
(26.8)
Dann existiert f¨ur jeden Anfangswert X0 = x ∈ Rn eine eindeutige starke L¨osung X der SDGL (26.1). Diese L¨osung ist ein Markovprozess und im Falle, wo σ und b nicht von t abh¨angen, ein starker Markovprozess. Als Hilfsmittel brauchen wir ein Lemma. Lemma 26.9 (Gronwall). Seien f, g : [0, T ] → R integrierbar und C > 0 so, dass t f (t) ≤ g(t) + C f (s) ds f¨ur alle t ∈ [0, T ]. (26.9) 0
Dann ist
f (t) ≤ g(t) + C
t
f¨ur alle t ∈ [0, T ].
eC(t−s) g(s) ds 0
Ist speziell g(t) ≡ G konstant, so ist f (t) ≤ GeCt f¨ur alle t ∈ [0, T ]. Beweis. Seien F (t) =
0t 0
f (s) ds und h(t) = F (t) e−Ct . Dann ist nach (26.9)
d h(t) = f (t) e−Ct − CF (t) e−Ct ≤ g(t) e−Ct . dt Integration liefert F (t) = eCt h(t) ≤
t
eC(t−s) g(s) ds. 0
Einsetzen in (26.9) liefert f (t) ≤ g(t) + CF (t) ≤ g(t) + C
t
g(s) eC(t−s) ds. 0
2
576
26 Stochastische Differentialgleichungen
Beweis (von Satz 26.8). Es reicht zu zeigen, dass eine eindeutige starke L¨osung bis T f¨ur jedes T < ∞ existiert. Eindeutigkeit. Wir zeigen zun¨achst die Eindeutigkeit der L¨osung. Seien X und X L¨osungen von (26.2). Dann ist t t
b(s, Xs ) − b(s, Xs ) ds + σ(s, Xs ) − σ(s, Xs ) dWs . Xt − Xt = 0
0
Daher ist Xt −
Xt 2
; t ; ;
;2 ; b(s, Xs ) − b(s, Xs ) ds; ≤ 2; ; 0 ;2 ; t ; ;
; σ(s, Xs ) − σ(s, Xs ) dWs ; + 2; ; .
(26.10)
0
F¨ur den ersten Summanden in (26.10) verwenden wir die Cauchy-Schwarz’sche Ungleichung, f¨ur den zweiten hingegen Lemma 26.7 und erhalten so t ' ; ;2 ( * ) E ;b(s, Xs ) − b(s, Xs ); ds E Xt − Xt 2 ≤ 2t 0 t ' ; ;2 ( E ;σ(s, Xs ) − σ(s, Xs ); ds. +2 0
) * Schreiben wir f (t) = E Xt − Xt 2 und C := 2(T + 1)K 2 , so erhalten wir 0t f (t) ≤ C 0 f (s) ds. Das Lemma von Gronwall (mit g ≡ 0) liefert daher f ≡ 0. Existenz. Wir wenden eine Variante des Picard’schen Iterationsverfahrens an. F¨ur jedes N ∈ N0 definieren wir iterativ einen Prozess X N durch Xt0 ≡ x und t t
N N −1 ds + Xt := x + b s, Xs σ s, XsN −1 dWs f¨ur N ∈ N. (26.11) 0
0
Wegen der Wachstumsbedingung (26.8) kann man sukzessive zeigen: T ' T ' ; ; ;2 ( ;2 ( E ;XtN ; dt ≤ 2(T + 1) K 2 T + E ;XtN −1 ; dt 0
≤ 2T (T + 1) K
2 N
0
1 + x2 < ∞,
Also ist in jedem Schritt das Itˆo-Integral wohldefiniert. Wir betrachten nun die Differenzen XtN +1 − XtN = It + Jt , wobei
t
It := 0
σ(s, XsN ) − σ(s, XsN −1 ) dWs
N ∈ N.
26.1 Starke L¨osungen
und
t
Jt :=
577
b(s, XsN ) − b(s, XsN −1 ) ds.
0
Indem wir die Doob’sche L2 -Ungleichung auf das nichtnegative Submartingal (It 2 )t≥0 , Lemma 26.7 sowie (26.7) anwenden, erhalten wir + , ) * E sup Is 2 ≤ 4 E It 2 s≤t
+
t;
; ;σ(s, XsN ) − σ(s, XsN −1 );2 ds
= 4E
0 t
≤ 4K 2
, (26.12)
'; ;2 ( E ;XsN − XsN −1 ; ds.
0
F¨ur Jt bekommen wir mit der Cauchy-Schwarz’schen Ungleichung t ; ; ;b(s, XsN ) − b(s, XsN −1 );2 ds. Jt 2 ≤ t 0
Also ist
, , + t + ; ; ;b(s, XsN ) − b(s, XsN −1 );2 ds E sup Js 2 ≤ t E s≤t
≤ tK
0 t
2
'; ;2 ( E ;XsN − XsN −1 ; ds.
(26.13)
0
Setzen wir
+
, ; N ; N −1 ;2 ; Δ (t) := E sup Xs − Xs , N
s≤t
so erhalten wir mit C := 2K (4 + T ) ∨ 2(T + 1)K 2 (1 + x2 ) t N +1 Δ (t) ≤ C ΔN (s) ds f¨ur N ≥ 1 2
0
und
Δ (t) ≤ 2t
t
t
b(s, x) ds + 2
1
σ(s, x)2 ds
2
0
0
≤ 2(T + 1)K 2 1 + x2 · t ≤ C t nach der Wachstumsvoraussetzung (26.8). Per Induktion folgt ΔN (t) ≤ folgt mit der Markov’schen Ungleichung , + ∞ ∞ ; N ; N −1 ;2 −N ; ≤ P sup Xs − Xs >2 2N ΔN (t) N =1
s≤t
≤
N =1 ∞ N =1
(Ct)N N!
(2Ct)N ≤ e2Ct < ∞. N!
. Es
578
26 Stochastische Differentialgleichungen N →∞
Nach dem Lemma von Borel-Cantelli folgt sups≤t XsN − XsN −1 2 −→ 0 fast sicher. Mithin ist fast sicher (X N )N ∈N eine Cauchy-Folge in dem Banachraum (C([0, T ]), · ∞ ). Also konvergiert X N fast sicher gleichm¨aßig gegen ein X. Gleichm¨aßige Konvergenz impliziert Konvergenz der Integrale, also ist X eine starke L¨osung von (26.2). Markoveigenschaft. Die starke Markoveigenschaft folgt direkt aus der starken Markoveigenschaft der Brown’schen Bewegung, die die SDGL antreibt. 2 Wichtige Beispiele f¨ur diesen Satz haben wir oben schon kennen gelernt. Viele interessante Probleme f¨uhren jedoch auf stochastische Differentialgleichungen, bei denen die Koeffizienten nicht Lipschitz-stetig sind. Im eindimensionalen Fall kann man mit speziellen Vergleichsmethoden zeigen, dass es ausreicht, dass σ H¨olderstetig von der Ordnung 12 in der Ortsvariablen ist. Satz 26.10 (Yamada-Watanabe). Wir )betrachten die eindimensionale Situation * m = n = 1. Es gebe K < ∞ und α ∈ 12 , 1 , sodass f¨ur alle t ≥ 0 und x, x ∈ R gilt b(t, x) − b(t, x ) ≤ K |x − x | und σ(t, x) − σ(t, x ) ≤ |x − x |α . Dann besitzt die SDGL (26.1) f¨ur jedes X0 ∈ R eine eindeutige starke L¨osung X, und X ist ein starker Markovprozess. Beweis. Siehe [171] oder [90, Proposition 5.2.13] f¨ur Existenz und Eindeutigkeit der L¨osung. Die starke Markov-Eigenschaft folgt aus Satz 26.26. 2 Beispiel 26.11. Betrachte die eindimensionale SDGL E
dXt = γ Xt+ dWt + a b − Xt+ dt
(26.14)
mit Startwert X0 = x ≥ 0, wobei γ > 0 und a, b ≥ 0 Parameter sind. Die Be√ dingungen von Satz 26.10 sind mit α = 12 und K = γ + a erf¨ullt. Die eindeutige starke L¨osung X hat offenbar die Eigenschaft, nichtnegativ zu bleiben, wenn X0 ≥ 0 ist. (Tats¨achlich kann man sogar zeigen dass Xt > 0 f¨ur alle t > 0 gilt, falls 2ab/γ ≥ 1, und dass Xt die Null mit Wahrscheinlichkeit 1 beliebig h¨aufig trifft, falls 2ab/γ < 1. Siehe etwa [82, Beispiel IV.8.2, Seite 237]. Vergleiche Beispiel 26.16.) Dieser Prozess wird je nach Kontext gelegentlich als Feller’sche Verzweigungsdiffusion mit Immigration oder als Cox-Ingersoll-Ross Modell f¨ur die zeitliche Entwicklung von Zinsraten bezeichnet. Wir berechnen f¨ur den Fall a = b = 0 mit der Itˆo-Formel, dass t 3 λ2 t −λXs e Xs ds = λ e−λXs γXs dWs e−λXt − e−λx − γ 2 0 0
26.1 Starke L¨osungen
579
1.5
1
0.5
0
5
10
15
20
25
30
Abb. 26.1. Cox-Ingersoll-Ross Diffusion mit Parametern γ = 1, b = 1 und a = 0.3. Der Pfad trifft die Null immer wieder, da 2ab/γ = 0.6 < 1 ist. 2.5
2
1.5
1
0.5
0
5
10
15
20
25
30
Abb. 26.2. Cox-Ingersoll-Ross Diffusion mit Parametern γ = 1, b = 1 und a = 2. Der Pfad trifft die Null nie, da 2ab/γ = 4 ≥ 1 ist.
ein Martingal ist. Indem wir Erwartungswerte bilden, erhalten wir f¨ur die LaplaceTransformierte ϕ(t, λ, x) = Ex [e−λXt ] die Differentialgleichung * λ2 ) γλ2 d d ϕ(t, λ, x) = γ E Xt e−λXt = − ϕ(t, λ, x). dt 2 2 dλ Diese partielle Differentialgleichung hat mit dem Anfangswert ϕ(0, λ, x) = e−λx die eindeutige L¨osung
580
26 Stochastische Differentialgleichungen
λ x . ϕ(t, λ, x) = exp − (γ/2)λt + 1
¨ Dies ist aber (f¨ur γ = 2) genau die Laplace-Transformierte der Ubergangswahrscheinlichkeiten des Markov-Prozesses, den wir in Satz 21.48 definiert hatten und den wir im Satz von Lindvall (Satz 21.51) als Grenzwert von reskalierten GaltonWatson Verzweigungsprozessen kennen gelernt haben. 3 ¨ Ubung 26.1.1. Seien a, b ∈ R. Man zeige, dass die stochastische Differentialgleichung b − Xt dt + dWt dXt = 1−t mit Anfangswert X0 = a eine eindeutige starke L¨osung f¨ur t ∈ [0, 1) hat und dass X1 := limt↑1 X1 = b fast sicher gilt. Ferner zeige man, dass der Prozess Y = (Xt − a − t(b − a))t∈[0,1] durch das Itˆo-Integral Yt = (1 − t)
t
(1 − s)−1 dWs ,
t ∈ [0, 1),
0
¨ beschrieben wird, also eine Brown’sche Br¨ucke ist (vergleiche Ubung 21.5.3).
♣
26.2 Schwache L¨osungen und Martingalproblem Im letzten Abschnitt haben wir starke L¨osungen der stochastischen Differentialgleichung dXt = σ(t, Xt ) dWt + b(t, Xt ) dt (26.15) kennen gelernt. Diese zeichnen sich dadurch aus, dass jedem Pfad der Brown’schen Bewegung W genau ein Pfad der L¨osung X zugeordnet wird. Wir wollen nun zum Begriff der schwachen L¨osung kommen, bei der zus¨atzliche Information (das heißt zus¨atzlicher Zufall) in die L¨osung mit eingehen kann. Definition 26.12 (Schwache L¨osung einer SDGL). Eine schwache L¨osung von (26.15) mit Startverteilung μ ∈ M1 (Rn ) ist ein Tripel
L = (X, W ), (Ω, F, P), F , wobei gilt: – (Ω, F, P) ist ein Wahrscheinlichkeitsraum, – F = (Ft )t≥0 ist eine Filtration auf (Ω, F, P), die die u¨ blichen Bedingungen erf¨ullt, – W ist eine Brown’sche Bewegung auf (Ω, F, P) und bez¨uglich F ein Martingal,
26.2 Schwache L¨osungen und Martingalproblem
581
– X ist stetig und adaptiert (also progressiv messbar), – P ◦ (X0 )−1 = μ, – (X, W ) ist eine L¨osung von Xt = X0 +
t
t
σ(s, Xs ) dWs + 0
b(s, Xs ) ds
P-f.s.
(26.16)
0
Eine schwache L¨osung L heißt (schwach) eindeutig, falls f¨ur jede weitere L¨osung L mit Startverteilung μ gilt: P ◦ (X )−1 = P ◦ X −1 . Bemerkung 26.13. Offenbar ist eine schwache L¨osung einer SDGL stets eine verallgemeinerte n-dimensionale Diffusion. Sind die Koeffizienten σ und b unabh¨angig von t, so ist die L¨osung eine n-dimensionale Diffusion. 3 Bemerkung 26.14. Offenbar wird durch jede starke L¨osung von (26.15) eine schwache L¨osung definiert. Die Umkehrung ist falsch, wie wir im folgenden Beispiel sehen werden. 3 Beispiel 26.15. Betrachte die SDGL (mit Startwert X0 = 0) dXt = sign(Xt ) dWt ,
(26.17)
wobei sign = ½(0,∞) − ½(−∞,0) die Vorzeichenfunktion ist. Es gilt genau dann
t
Xt = X 0 +
sign(Xs ) dWs
f¨ur alle t ≥ 0,
(26.18)
0
wenn
t
Wt =
dWs = 0
t
sign(Xs ) dXs
f¨ur alle t ≥ 0.
(26.19)
0
Folgendermaßen gelangen wir zu einer schwachen L¨osung von (26.17). Sei X eine Brown’sche Bewegung auf einem Wahrscheinlichkeitsraum (Ω, F, P) und F = σ(X). Definieren wir W durch (26.19), dann ist W ein stetiges F-Martingal mit quadratischer Variation
1
W !t =
(sign(Xs ))2 ds = t. 0
Nach der L´evy’schen Charakterisierung (Satz 25.28) ist W damit eine Brown’sche Bewegung. Also ist ((X, W ), (Ω, F, P), F) eine schwache L¨osung von (26.17). Um zu zeigen, dass es keine starke L¨osung gibt, nehmen wir eine beliebige schwache L¨osung her und zeigen, dass X nicht an σ(W ) adaptiert ist. Da X nach (26.18) ein stetiges Martingal mit quadratischer Variation X!t = t ist, ist X eine Brown’sche Bewegung.
582
26 Stochastische Differentialgleichungen
Seien Fn ∈ C 2 (R) konvexe gerade Funktionen mit Ableitungen Fn und Fn , sodass n→∞ sup Fn (x) − |x| −→ 0, x∈R
|Fn (x)| ≤ 1 f¨ur alle x ∈ R und Fn (x) = sign(x) f¨ur |x| >
t
2
Fn (Xs ) − sign(Xs )
n→∞
ds −→ 0
1 . n
Insbesondere gilt
f.s.
0
und damit
t
Fn (Xs ) dXs −→
n→∞
t
sign(Xs ) dXs
0
in L2 .
(26.20)
0
Indem wir gegebenenfalls zu einer Teilfolge u¨ bergehen, k¨onnen wir annehmen, dass in (26.20) fast sichere Konvergenz gilt. Weil Fn gerade ist, gilt
t
Wt =
t
sign(Xs ) dXs = lim 0
n→∞
= lim
n→∞
Fn (Xs ) dXs
0
Fn (Xt ) − Fn (0) −
1 = |Xt | − lim n→∞ 2
t
1 2
t
Fn (Xs ) ds
0
Fn (|Xs |) ds.
0
Da die rechte Seite nur von |Xs |, s ∈ [0, t] abh¨angt, ist W an G := (σ(|Xs | : s ∈ [0, t])) adaptiert. Also ist σ(W ) ⊂ G σ(X), und damit ist X nicht an σ(W ) adaptiert. 3 Beispiel 26.16. Sei n ∈ N und B = (B 1 , . . . , B n ) eine n-dimensionale Brown’sche Bewegung mit Start in y ∈ Rn . Setze x := y2 , Xt := Bt 2 = (Bt1 )2 + . . . + (Btn )2 und n t 1 √ Bsi dBsi . Wt := X s 0 i=1 Dann ist W ein stetiges lokales Martingal mit W !t = t f¨ur jedes t ≥ 0 und Xt = x + nt +
t3
Xs dWs .
0
√ Das heißt, (X, W ) ist eine schwache L¨osung der SDGL dXt = 2Xt dWt + n dt. X wird auch n-dimensionaler Bessel-Prozess genannt. Nach Satz 25.41 trifft B (und damit X) den Ursprung f¨ur ein t > 0 genau dann, wenn n = 1 ist. Offenbar kann man X auch f¨ur nicht-ganzzahlig n ≥ 0 definieren. Man kann zeigen, dass X genau dann die Null trifft, wenn n ≤ 1 ist. Vergleiche Beispiel 26.11. 3
26.2 Schwache L¨osungen und Martingalproblem
583
F¨ur den Zusammenhang von Existenz und Eindeutigkeit von schwachen L¨osungen und starken L¨osungen zitieren hier lediglich den Satz von Yamada und Watanabe. Definition 26.17 (Pfadweise Eindeutigkeit). Wir sagen, dass die L¨osung der SDGL (26.15) mit Startverteilung μ pfadweise eindeutig ist, falls f¨ur jedes μ ∈ M1 (Rn ) und je zwei schwache L¨osungen (X, W ) und (X , W ) auf dem selben Raum (Ω, F, P) mit der selben Filtration F gilt: P[Xt = Xt f¨ur alle t ≥ 0] = 1. Satz 26.18 (Yamada und Watanabe). Es sind a¨ quivalent: (i) Die SDGL (26.15) hat eine eindeutige starke L¨osung. (ii) F¨ur jedes μ ∈ M1 (Rn ) hat (26.15) eine schwache L¨osung, und es gilt pfadweise Eindeutigkeit. Gelten (i) und (ii), so ist die L¨osung schwach eindeutig. Beweis. Siehe [171], [149, Seite 151ff] oder [82, Seite 163ff].
2
Beispiel 26.19. Sei X eine schwache L¨osung von (26.17). Dann ist auch −X eine schwache L¨osung, das heißt, es gilt keine pfadweise Eindeutigkeit (obwohl man zeigen kann, dass die L¨osung schwach eindeutig ist, siehe Satz 26.25). 3 Wir betrachten den eindimensionalen Fall m = n = 1. Ist X eine L¨osung (stark oder schwach) von (26.15), so ist t b(s, Xs ) ds Mt := Xt − 0
ein stetiges lokales Martingal mit quadratischer Variation t σ 2 (s, Xs ) ds. M !t = 0
Wir werden sehen, dass hierdurch eine schwache L¨osung von (26.15) charakterisiert ist (jedenfalls unter milden Wachstumsbedingungen and σ und b). Sei f¨ur alle t ≥ 0 und x ∈ Rn die n×n Matrix a(t, x) symmetrisch und nichtnegativ definit, und sei (t, x) → a(t, x) messbar. Definition 26.20. Wir sagen, dass ein n-dimensionaler stetiger Prozess X eine L¨osung des lokalen Martingalproblems zu a und b mit Startverteilung μ ∈ M1 (Rn ) (kurz: LMP(a, b, μ)) ist, falls P ◦ X0−1 = μ ist und f¨ur jedes i = 1, . . . , n t i i bi (s, Xs ) ds, t ≥ 0, Mt := Xt − 0
ein stetiges lokales Martingal ist mit quadratischer Kovariation
584
26 Stochastische Differentialgleichungen
t
M i , M j !t =
aij (s, Xs ) ds
f¨ur alle t ≥ 0, i, j = 1, . . . , n.
0
Wir sagen, dass die L¨osung von LMP(a, b, μ) eindeutig ist, wenn f¨ur je zwei L¨osungen X und X gilt: P ◦ X −1 = P ◦ (X )−1 . Mit σT bezeichnen wir die transponierte Matrix zu σ. Offenbar ist a = σσ T dann eine nichtnegativ semidefinite symmetrische n × n Matrix. Satz 26.21. X ist genau dann eine L¨osung von LMP(σσT , b, μ), wenn es (gegebenenfalls auf einer Erweiterung des Wahrscheinlichkeitsraums) eine Brown’sche Bewegung W gibt, sodass (X, W ) eine schwache L¨osung von (26.15) ist. Insbesondere existiert genau dann eine eindeutige schwache L¨osung der SDGL (26.15) mit Startverteilung μ, wenn LMP(σσ T , b, μ) eindeutig l¨osbar ist. Beweis. Wir zeigen die Aussage nur f¨ur den Fall m = n = 1. Der allgemeine Fall erfordert ein paar Betrachtungen u¨ ber Wurzeln von nichtnegativ semidefiniten symmetrischen Matrizen, die jedoch f¨ur die Stochastik keine tiefere Einsicht bringen. Wir verweisen hier lediglich auf [90, Proposition 5.4.6]. ⇐= “ Ist (X, W ) eine schwache L¨osung, dann l¨ost X nach Korollar 25.19 das ” lokale Martingalproblem. =⇒ “ Sei X eine L¨osung von LMP(σ2 , b, μ). Nach Satz 25.29 existiert auf einer ” ˜ , sodass Erweiterung eine Brown’sche Bewegung W 0 t des Wahrscheinlichkeitsraums ˜ Mt = 0 σ(s, Xs ) dWs gilt. Setzen wir
t
˜ s, sign(σ(s, Xs )) dW
Wt := 0
so ist Mt =
0t 0
σ(s, Xs ) dWs , also (X, W ) eine schwache L¨osung von (26.15). 2
Ein lokales Martingalproblem ist in gewissem Sinne eine sehr nat¨urliche Art und Weise, um eine stochastische Differentialgleichung zu schreiben, n¨amlich als: X hat lokal die Ableitung (Drift) b und zus¨atzlich zuf¨allige normalverteilte Fluktuationen von der Gr¨oßenordnung σ. Eine konkrete Brown’sche Bewegung taucht hier gar nicht mehr auf, und bei den meisten Problemen ist ihr Auftreten auch eher artifiziell. Genau wie man bei der ¨ Beschreibung von Markovketten meist nur die Ubergangswahrscheinlichkeiten angibt, nicht aber die konkrete Realisierung, wie dies etwa in Satz 17.17 beschrieben wird, m¨ochte man bei vielen stetigen (Zeit und Ort) Prozessen (neben der Drift) nur die Gr¨oße der Fluktuationen angeben, nicht aber eine konkrete Realisierung. Technisch gesehen ist die Formulierung von stochastischen Differentialgleichungen als lokale Martingalprobleme sehr bequem, weil sie Zugang zu einer Reihe von
26.2 Schwache L¨osungen und Martingalproblem
585
Techniken schafft wie Martingalungleichungen und Approximationss¨atze f¨ur Martingale, mit denen sich Existenz und Eindeutigkeit von L¨osungen etablieren l¨asst. Wir zitieren hier nur zwei wichtige Ergebnisse. Satz 26.22 (Existenz von L¨osungen). Es seien (t, x) → b(t, x) und (t, x) → a(t, x) stetig und beschr¨ankt. Dann existiert f¨ur jedes μ ∈ M1 (Rn ) eine L¨osung X des LMP(a, b, μ). 2
Beweis. Siehe [149, Theorem V.23.5].
Definition 26.23. Wir sagen, dass das LMP(a, b) gut gestellt ist, wenn es f¨ur jedes x ∈ Rn eine eindeutige L¨osung X von LMP(a, b, δx ) gibt. Bemerkung 26.24. Erf¨ullen σ und b die Lipschitzbedingungen wie in Satz 26.8, so ist das LMP(σσ T , b) gut gestellt. Dies folgt aus Satz 26.8 und Satz 26.18. 3 Im Folgenden gelte stets: (t, x) → σ(t, x) bzw. (t, x) → a(t, x) ist beschr¨ankt auf kompakten Mengen. (26.21) ¨ Diese Bedingung sichert die Aquivalenz des lokalen Martingalproblems zu dem etwas gebr¨auchlicheren Martingalproblem (siehe [90, Proposition 5.4.11]). Satz 26.25 (Eindeutigkeit im Martingalproblem). Es gelte (26.21). F¨ur jedes x ∈ Rn existiere eine L¨osung X x von LMP(a, b, δx ), deren Verteilung wir mit Px := P ◦ (X x )−1 bezeichnen. F¨ur je zwei L¨osungen X x und Y x von LMP(a, b, δx ) gelte P ◦ (XTx )−1 = P ◦ (YTx )−1
f¨ur jedes T ≥ 0.
(26.22)
Dann ist LMP(a, b) gut gestellt, und der kanonische Prozess X ist ein starker Markovprozess bez¨uglich (Px , x ∈ Rn ). Ist a = σσ T , so ist X unter Px die eindeutige schwache L¨osung der SDGL (26.15). Beweis. Siehe [51, Theorem 4.4.1 und Problem 49] und [90, Proposition 5.4.11].2 Eine wesentliche St¨arke dieses Satzes liegt darin, dass wir die Eindeutigkeit nicht des gesamten Prozesses, sondern in (26.22) nur der eindimensionalen Randverteilungen pr¨ufen m¨ussen. Wir werden in Abschnitt 26.3 Beispiele daf¨ur angeben, wie dies ausgenutzt werden kann. Die Frage nach der Existenz von L¨osungen einer stochastischen Differentialgleichung (oder a¨ quivalent: eines lokalen Martingalproblems) ist leichter zu beantworten als die Frage nach der Eindeutigkeit von L¨osungen. Wir wissen bereits, dass
586
26 Stochastische Differentialgleichungen
Eindeutigkeit unter Lipschitzbedingungen an die Koeffizienten b und σ (nicht σσT !) gilt (nach Satz 26.8 und Satz 26.18), da hier starke Eindeutigkeit der L¨osungen gilt. Eine vielleicht auf den ersten Blick verwirrende Erkenntnis ist, dass der Zufall stabilisierend wirken kann, dass also eine deterministische Differentialgleichung, deren L¨osung nicht eindeutig ist, durch stochastische St¨orterme eindeutig l¨osbar werden kann. Dazu folgendes eindimensionale Beispiel: dXt = sign(Xt ) |Xt |1/3 dt + σ dWt , X0 = 0.
(26.23)
Ist σ = 0, so haben wir es mit einer deterministischen Differentialgleichung zu tun, die ein Kontinuum √ von L¨osungen mit Parametern v ∈ {−1, +1} und T ≥ 0 hat, n¨amlich Xt = v 2 2 (t − T )3/2 ½{t>T } . Ist σ > 0, so wird die Instabilit¨at der Gleichung (26.23) an x = 0 durch Verrauschen aufgel¨ost. Wir zitieren hier den folgenden Satz f¨ur den zeitunabh¨angigen Fall aus [149, Satz V.24.1] (siehe auch [159, Kapitel 10]). Satz 26.26 (Stroock-Varadhan). Sei aij : Rn → R stetig und bi : Rn → R messbar f¨ur i, j = 1, . . . , n. Es gelte (i) a(x) = (aij (x)) ist symmetrisch und strikt positiv definit f¨ur jedes x ∈ Rn , (ii) es gibt ein C < ∞, sodass f¨ur alle x ∈ Rn
aij (x) ≤ C 1 + x2 und
und i, j = 1, . . . , n gilt
bi (x) ≤ C 1 + x .
Dann ist LMP(a, b) gut gestellt, und die SDGL (26.15) hat eine eindeutige starke L¨osung, die ein starker Markovprozess ist. Die L¨osung X hat die starke FellerEigenschaft: x → Ex [f (Xt )] ist stetig f¨ur jedes t > 0 und jedes beschr¨ankte, messbare f : Rn → R. Konkrete Beispiele geben wir in Abschnitt 26.3 an. Wir wollen hier nur festhalten, dass wir eine spezielle Methode entwickelt haben, um Markovprozesse zu konstruieren, n¨amlich als L¨osung einer stochastischen Differentialgleichung oder eines lokalen Martingalproblems. Im Rahmen von Modellen in diskreter Zeit haben wir in ¨ Kapitel 17.2 und speziell in Ubung 17.2.1 bereits Markovketten als L¨osungen von Martingalproblemen charakterisiert. Dass dort die Angabe der Drift und der quadratischen Variation ausreichte, um den Prozess eindeutig zu bestimmen, lag daran, dass wir die M¨oglichkeiten f¨ur das Ziel eines Schrittes auf drei Punkte begrenzt hatten. Hier hingegen ist die entscheidende Begrenzung die Stetigkeit der Prozesse. ¨ Ubung 26.2.1. Sei der zeithomogene eindimensionale Fall (m = n = 1) betrachtet. Seien σ und b so, dass es f¨ur jedes X0 ∈ R eine eindeutige schwache L¨osung von dXt = σ(Xt ) dWt + b(Xt ) dt existiert und ein starker Markovprozess ist. Ferner gebe es ein x0 ∈ R mit
26.3 Eindeutigkeit schwacher L¨osungen via Dualit¨at
∞
C := −∞
1 exp σ 2 (x)
x x0
2b(r) dr σ 2 (r)
587
dr < ∞.
(i) Man zeige: Das Maß π ∈ M1 (R) mit Dichte x π(dx) 1 2b(r) = C −1 2 exp dr 2 dx σ (x) x0 σ (r) ist eine invariante Verteilung f¨ur X. (ii) F¨ur welche Werte von b hat der Ornstein-Uhlenbeck Prozess dXt = σ dWt + bXt dt eine invariante Verteilung? Man bestimme diese Verteilung und vergleiche das Ergebnis mit dem, was nach expliziter Rechnung mit der Darstellung in (26.3) zu erwarten war. (iii) Man bestimme die invariante Verteilung der Cox-Ingersoll-Ross SDGL (26.14) (alias Feller’sche Verzweigungsdiffusion). (iv) Seien γ, c > 0 und θ ∈ (0, 1). Man zeige, dass die invariante Verteilung der L¨osung X der folgenden SDGL auf [0, 1] 3 dXt = γXt (1 − Xt ) dWt + c(θ − Xt ) dt gegeben ist durch die Betaverteilung β2cγ/θ, 2cγ/(1−θ) .
♣
3 ¨ Ubung 26.2.2. Sei γ > 0. Seien X 1 und X 2 L¨osungen von dXti = γXti dWti , wo W 1 und W 2 zwei unabh¨angige Brown’sche Bewegungen sind, mit Startwerten Man zeige, dass Z := X 1 + X 2 eine schwache X01 = x10 > 0 und X02 = x20 > 0. √ L¨osung ist von Z0 = 0 und dZt = γZt dWt . ♣
26.3 Eindeutigkeit schwacher L¨osungen via Dualit¨at Mit dem Satz von Stroock und Varadhan haben wir ein starkes Kriterium f¨ur die Existenz und Eindeutigkeit von L¨osungen von stochastischen Differentialgleichungen. In vielen F¨allen ist jedoch gerade die Bedingung der lokal gleichgradigen Elliptizit¨at von a (Bedingung (i) in Satz 26.26) nicht erf¨ullt. Dies trifft insbesondere dann zu, wenn die L¨osungen nur auf Teilmengen von Rn definiert sind. Wir werden hier ein m¨achtiges Hilfsmittel kennen lernen, das in vielen Spezialf¨allen schwache Eindeutigkeit von L¨osungen sichert. Definition 26.27 (Dualit¨at). Seien X = (X x , x ∈ E) und Y = (Y y , y ∈ E ) Familien von stochastischen Prozessen mit Werten in den R¨aumen E beziehungsweise E und so, dass X0x = x f.s. und Y0y = y f.s. f¨ur alle x ∈ E und y ∈ E . Wir sagen, dass X und Y dual zueinander sind mit Dualit¨atsfunktion H : E × E → C,
588
26 Stochastische Differentialgleichungen
) * falls x ∈ E, y ∈ E und t ≥ 0 die Erwartungswerte E H(Xtx , y) und ) f¨ur alle * E H(x, Yty ) existieren und gleich sind: * ) * ) E H(Xtx , y) = E H(x, Yty ) . Wir nehmen im Folgenden an, dass σij : Rn → R und bi : Rn → R beschr¨ankt auf kompakten Mengen sind f¨ur alle i = 1, . . . , n, j = 1, . . . , m. Wir betrachten die zeithomogene stochastische Differentialgleichung dXt = σ(Xt ) dWt + b(Xt ) dt.
(26.24)
Satz 26.28 (Eindeutigkeit via Dualit¨at). F¨ur jedes x ∈ Rn existiere eine L¨osung des lokalen Martingalproblems zu (σσ T , b, δx ). Es gebe eine Familie (Y y , y ∈ E ) von Markovprozessen mit Werten in dem Messraum (E , E ) und eine messbare Abbildung H : Rn × E → C, sodass f¨ur jedes y ∈ E , x ∈ Rn und t ≥ 0 der Erwartungswert E[H(x, Yty )] existiert und endlich ist. Ferner sei (H( · , y), y ∈ E ) eine trennende Funktionenklasse f¨ur M1 (Rn ) (siehe Definition 13.9). F¨ur jedes x ∈ Rn und jede L¨osung X x von LMP(σσ T , b, δx ) gelte die Dualit¨atsgleichung E[H(Xtx , y)] = E[H(x, Yty )]
f¨ur alle y ∈ E , t ≥ 0.
(26.25)
Dann ist das lokale Martingalproblem zu (σσT , b) gut gestellt, also besitzt (26.24) eine eindeutige schwache L¨osung und diese ist ein starker Markovprozess. Beweis. Nach Satz 26.25 reicht es zu pr¨ufen, dass f¨ur jedes x ∈ Rn , jede L¨osung X x von LMP(σσ T , b, δx ) und jedes t ≥ 0 die Verteilung P ◦ (Xtx )−1 eindeutig ist. Da (H( · , y), y ∈ E ) eine trennende Funktionenklasse ist, folgt dies aber aus (26.16). 2 Beispiel 26.29 (Wright-Fisher Diffusion). Betrachte die Wright-Fisher SDGL 3 dXt = ½[0,1] (Xt ) γ Xt (1 − Xt ) dWt , (26.26) wobei γ > 0 ein Parameter ist. Nach Satz 26.22 existiert f¨ur jedes x ∈ R eine ˜ W ) von (26.26). X ˜ ist ein stetiges lokales Martingal mit schwache L¨osung (X, quadratischer Variation t A B ˜ s (1 − X ˜ s )½[0,1] (X ˜ s ) ds. ˜ = γX X t 0
˜ τ der in τ gestoppte Prozess. Dann ˜ t ∈ [0, 1]} und X := X Sei τ := inf{t > 0 : X ist X ein stetiges, beschr¨anktes Martingal mit t γXs (1 − Xs )½[0,1] (Xs ) ds, X!t = 0
26.3 Eindeutigkeit schwacher L¨osungen via Dualit¨at
589
1 0.8 0.6 0.4 0.2
0
0.2
0.4
0.6
0.8
1
1.2
Abb. 26.3. Simulation einer Wright-Fisher Diffusion mit Parameter γ = 1.
also ist (X, W ) eine L¨osung von (26.26). Nach Konstruktion ist Xt ∈ [0, 1] f¨ur alle ˜ 0 ∈ [0, 1] ist. t ≥ 0, falls X0 = X Sei
˜ t ∈ [0, 1] . τ := inf t > 0 : X
˜ stetig ist. Weil X ˜ τ ein stetiges lokales ˜ 0 ∈ [0, 1], so ist τ > 0, weil X Ist X A τB ˜ ˜ tτ = X ˜ 0 f¨ur alle t ≥ 0. Daraus folgt aber, dass Martingal ist mit X ≡ 0, ist X ˜ 0 ist f¨ur alle t < τ . Wiederum aufgrund der Stetigkeit von X ˜ folgt, dass ˜t = X X ˜t = X ˜ 0 f¨ur alle t ≥ 0. τ = ∞ ist und X ˜ 0 = x ∈ [0, 1] zu zeigen. Sei Es reicht also, die Eindeutigkeit der L¨osung f¨ur X hierzu Y = (Yt )t≥0 der Markovprozess auf N mit Q-Matrix ⎧
γ m , falls n = m − 1, ⎪ ⎪ ⎨ 2 falls n = m, q(m, n) = −γ m 2 , ⎪ ⎪ ⎩ 0, sonst. Wir zeigen die Dualit¨at von X und Y bez¨uglich H(x, n) = xn : ) * ) * Ex Xtn = En xYt f¨ur alle t ≥ 0, x ∈ [0, 1], n ∈ N. (26.27) ) * ) * Setze mx,n (t) = Ex Xtn und g x,n (t) = En xYt . Nach der Itˆo-Formel ist t t 3 n n n n−1 Xs (1 − Xs ) ds = γ nXsn−1 γ Xs (1 − Xs ) dWs Xt − x − 2 0 0 ein Martingal. Indem wir Erwartungswerte bilden, erhalten wir die folgende Rekursionsgleichung f¨ur die Momente von X mx,1 (t) = x, m
x,n
t
x,n−1 n (t) = x + γ (s) − mx,n (s) ds m 2 0 n
f¨ur n ≥ 2.
(26.28)
590
26 Stochastische Differentialgleichungen
Dieses System linearer Differentialgleichungen ist offenbar eindeutig rekursiv (in n) l¨osbar. F¨ur h > 0 und t ≥ 0 gilt wegen der Markov-Eigenschaft von Y ) * ) ) ** g x,n (t + h) = En xYt+h = En EYh xYt n ) * = Pn [Yh = m] Em xYt =
m=1 n
Pn [Yh = m] g x,m (t).
m=1
Es folgt ' ( d x,n g (t) = lim h−1 g x,n (t + h) − g x,n (t) h↓0 dt n
= lim h−1 Pn [Yh = m] g x,m (t) − g x,n (t) h↓0
=
n
m=1
q(n, m) g
(26.29) x,m
(t)
m=1
=γ
n gx,n−1 (t) − g x,n (t) . 2
Offenbar ist gx,1 (t) = x f¨ur alle x ∈ [0, 1] und t ≥ 0 und g x,n (0) = xn . Das heißt, g x,n l¨ost (26.28), und daher gilt (26.27). Nach Satz 15.4 ist die Familie (H( · , n), n ∈ N) ⊂ C([0, 1]) trennend f¨ur M1 ([0, 1]), also sind die Bedingungen von Satz 26.28 erf¨ullt, und X ist die eindeutige schwache L¨osung von (26.26) und ist ein starker Markovprozess. 3 Bemerkung 26.30. Das Martingalproblem f¨ur die Wright-Fisher Diffusion sieht fast genauso aus wie das diskrete Martingalproblem f¨ur das Moran-Modell (siehe Beispiel 17.22) M N = (MnN )n∈N0 mit Populationsgr¨oße N : M N ist ein Martingal mit Werten in der Menge {0, 1/N, . . . , (N − 1)/N, 1} und quadratischem Variationsprozess n−1 A NB 2 N Mk 1 − MkN . M n= 2 N k=0
In jedem Schritt kann M N nur entweder am Ort bleiben oder um 1/N nach oben ¨ oder unten springen. In Ubung 17.2.1 hatten wir gesehen, dass dadurch der Prozess M N schon eindeutig beschrieben ist. Man kann zeigen, a¨ hnlich wie in Satz 21.51 ˜ tN = f¨ur Verzweigungsprozesse, dass die zeitlich reskalierten Moran-Prozesse M N MN 2 t gegen die Wright-Fisher Diffusion mit γ = 2 konvergieren. Die WrightFisher Diffusion tritt also als Limes-Modell eines genealogischen Modells auf und
26.3 Eindeutigkeit schwacher L¨osungen via Dualit¨at
591
3
2
1
0
1
2
3
4
5
Abb. 26.4. Simulation einer Feller’schen Verzweigungsdiffusion mit Parameter γ = 1.
beschreibt die Genfrequenz (das heißt, den relativen Anteil) eines bestimmten Allels in einer Population, die durch die Generationenfolge in zuf¨alliger Weise fluktuiert. 3 Beispiel 26.31 (Feller’sche Verzweigungsdiffusion). Sei (ZnN )n∈N0 ein GaltonWatson Verzweigungsprozess mit kritischer, geometrischer Nachkommenverteilung pk = 2−k−1 , k ∈ N0 und Z0N = N f¨ur jedes N ∈ N. Dann ist Z N ein diskretes Martingal, und es gilt ∞ ' 2 N ( N N N 2 N pk k − 1 = 2 Zn−1 . E Zn − Zn−1 Zn−1 = Zn−1 k=0
Daher hat Z N die quadratische Variation Z N !n =
n−1
2ZkN .
k=0
Sei nun
1
N N ZtN := t − N −1 tN ZtN ZN +1 − ZtN + n tN N eine linear interpolierte Version von N −1 ZtN . Nach dem Satz von Lindvall N →∞
(Satz 21.51) gibt es einen stetigen Markovprozess Z, sodass Z N −→ Z in Verteilung gilt. Da man zeigen kann, dass auch die Momente konvergieren, gilt, dass Z ein stetiges Martingal ist und quadratische Variation t 2Zs ds Z!t = 0
592
26 Stochastische Differentialgleichungen
hat. Tats¨achlich hatten wir in Beispiel 26.11 bereits gezeigt, dass Z die L¨osung der SDGL 3 (26.30) dZt = 2Zt dWt −1
tγ y mit Start in Z0 = 1 ist. Dort hatten wir auch gezeigt, dass Z zu Yt = 2 + y1 dual ist mit H(x, y) = e−xy . Hieraus folgt die Eindeutigkeit der L¨osung von (26.30) und die starke Markoveigenschaft von Z. 3 Man kann einwenden, dass in den Beispielen 26.29 und 26.31 nur eindimensionale Situationen betrachtet wurden, f¨ur die wir nach dem Satz von YamadaWatanabe (Satz 26.10) sowieso schon um die Eindeutigkeit sogar einer starken L¨osung wissen. Die wahre St¨arke der Methode der Dualit¨at kann sich also erst in h¨oherdimensionalen Problemen entfalten. Hierzu betrachten wir als Beispiel eine Erweiterung von Beispiel 26.29. Beispiel 26.32 (Wechselwirkende Wright-Fisher Diffusionen). Die Wright-Fisher Diffusion aus Beispiel 26.29 beschreibt die Fluktuationen der Genfrequenz eines Allels in einer großen Population. Wir wollen nun mehrere Populationen betrachten, die auf den Punkten i ∈ S := {1, . . . , N } leben, und miteinander durch Migration, die durch Wechselwirkungsraten r(i, j) ≥ 0 quantifiziert wird, in Wechselwirkung stehen. Als Modell f¨ur die Genfrequenzen Xt (i) am Ort i zur Zeit t stellen wir daher die folgende N -dimensionale SDGL f¨ur X = (X(1), . . . , X(N )) auf: dXt (i) =
N 3
γ Xt (i)(1 − Xt (i)) dWti + r(i, j) Xt (j) − Xt (i) dt. (26.31) j=1
Dabei ist W = (W 1 , . . . , W N ) eine N -dimensionale Brown’sche Bewegung. Diese SDGL hat nach Satz 26.22 schwache L¨osungen, jedoch greift keines unserer allgemeinen Kriterien f¨ur schwache Eindeutigkeit. Wir werden daher die schwache Eindeutigkeit vermittels Dualit¨at zeigen. Es ist, a¨ hnlich wie in Beispiel 26.29, nicht schwer zu zeigen, dass L¨osungen von (26.31), die in X0 = x ∈ E := [0, 1]S starten, in [0, 1]S bleiben. Die Diagonalterme r(i, i) tauchen in (26.31) nicht auf, daher k¨onnen wir sie noch beliebig festsetzen und w¨ahlen r(i, i) = − j =i r(i, j). Sei Y = (Yt )t≥0 der Markovprozess auf E := (N0 )S mit der folgenden Q-Matrix ⎧ ⎪ ⎪ ⎪ ⎪ ⎪ ⎪ ⎪ ⎨ q(ϕ, η) =
ϕ(i) r(i, j),
γ ϕ(i) 2 , ⎪ ⎪ ⎪ ϕ(i)r(i, i) − γ ϕ(i) , ⎪ ⎪ 2 ⎪ ⎪ ⎩i∈S 0,
falls η = ϕ − ½{i} + ½{j} f¨ur gewisse i, j ∈ S, i = j, falls η = ϕ − ½{i} f¨ur ein i ∈ S, falls η = ϕ, sonst.
26.3 Eindeutigkeit schwacher L¨osungen via Dualit¨at
593
Dabei bezeichnet ϕ ∈ E einen generischen Zustand mit ϕ(i) Teilchen am Ort i ∈ S, und ½{i} ∈ E bezeichnet den Zustand mit genau einem Teilchen am Ort i. Der Prozess Y beschreibt ein System von Teilchen, die unabh¨angig voneinander mit Rate r(i, j) vom Ort i zum Ort j springen. Sind mehrere Teilchen an einem Ort
i, so verschmilzt jedes der ϕ(i) Paare von Teilchen mit der selben Rate γ zu einem 2 Teilchen. Die g¨angige genealogische Interpretation dieses Prozesses ist, dass er (in umgekehrter Zeit) die Ahnenlinien einer Stichprobe von je Y0 (i) Individuen an den Orten i ∈ S, beschreibt. Durch Migration wechseln die Linien den Ort. Haben zwei Individuen den selben Vorfahren, so verschmelzen zwei Linien. Offenbar ist f¨ur einen gemeinsamen Vorfahren notwendig aber nicht hinreichend, dass beide Linien am selben Ort sind. F¨ur x ∈ Rn und ϕ ∈ E schreiben wir xϕ := i∈S x(i)ϕ(i) . Wir zeigen, dass X und Y dual zueinander sind mit der Dualit¨atsfunktion H(x, ϕ) = xϕ : Ex [Xtϕ ] = Eϕ [xYt ]
f¨ur alle ϕ ∈ (N0 )S , x ∈ [0, 1]S , t ≥ 0.
(26.32)
Sei mx,ϕ (t) := Ex [Xtϕ ] und g x,ϕ (t) := Eϕ [xYt ]. Offenbar hat H die Ableitungen ∂i H( · , ϕ)(x) = ϕ(i) xϕ−½{i} und
ϕ(i) ϕ−2 ½{i} x . ∂i ∂i H( · , ϕ)(x) = 2 2
Nach der Itˆo-Formel ist t
ϕ−½ ϕ ϕ X t − X0 − ϕ(i)r(i, j) Xs (j) − Xs (i) Xt {i} ds 0 i,j∈S
−
i∈S
t
γ 0
ϕ−2 ½{i} ϕ(i) Xs (i)(1 − Xs (i)) Xs ds 2
ein Martingal. Indem wir Erwartungswerte bilden, erhalten wir ein System von linearen Integralgleichungen mx,0 (t) = 1,
t
mx,ϕ (t) = xϕ +
0 i,j∈S t
γ
+ 0
ϕ(i)r(i, j) mx,ϕ+½{j} −½{i} (s) − mx,ϕ (s) ds
ϕ(i) x,ϕ−½{i} m (s) − mx,ϕ (s) ds. 2
i∈S
(26.33)
Dieses System von Gleichungen l¨asst sich per Induktion u¨ ber n = i∈I ϕ(i) eindeutig l¨osen. Wir wollen die L¨osung jedoch nicht explizit ausrechnen, sondern nur zeigen, dass sie mit g x,ϕ (t) u¨ bereinstimmt, indem wir zeigen, dass g ein a¨ quivalentes System von Differentialgleichungen l¨ost.
594
26 Stochastische Differentialgleichungen
F¨ur g erhalten wir wie in (26.29) d x,ϕ g (t) = q(ϕ, η) g x,ϕ (t) dt η∈E = r(i, j) g x,ϕ+½{j} −½{i} (t) − g x,ϕ (t)
(26.34)
i,j∈S
ϕ(i) + g x,ϕ−½{i} (t) − g x,ϕ (t) . γ 2 i∈S
Zusammen mit dem Startwert g x,0 (t) = 1 und g x,ϕ (0) = xϕ ist das System (26.34) von Differentialgleichungen a¨ quivalent zu (26.33). Also gilt die Dualit¨at (26.32), und damit ist die SDGL (26.31) eindeutig schwach l¨osbar. (Tats¨achlich kann man zeigen, dass es eine eindeutige starke L¨osung gibt, sogar wenn S abz¨ahlbar unendlich ist und r gewisse Regularit¨atsannahmen erf¨ullt, beispielsweise die Q-Matrix 3 einer Irrfahrt auf S = Zd ist, siehe [153].) ¨ Ubung 26.3.1 (Aussterbewahrscheinlichkeit der Feller’schen Verzweigungsdif√ fusion). Sei γ > 0 und Z die L¨osung von dZt := γZt dWt mit Anfangswert Z0 = z > 0. Man zeige mit Hilfe der Dualit¨at 2z . (26.35) Pz [Zt = 0] = exp − γt Man bestimme mit Hilfe von Lemma 21.44 die Wahrscheinlichkeit, dass ein GaltonWatson Verzweigungsprozess X mit kritischer, geometrischer Nachkommenverteilung und X0 = N ∈ N bis zur Zeit n ∈ N ausgestorben ist und vergleiche das Ergebnis mit (26.35). ♣
Literatur
1. M. Aizenman, H. Kesten und C. M. Newman. Uniqueness of the infinite cluster and continuity of connectivity functions for short and long range percolation. Comm. Math. Phys., 111(4):505–531, 1987. 2. M. Aizenman, H. Kesten und C. M. Newman. Uniqueness of the infinite cluster and related results in percolation. In Percolation theory and ergodic theory of infinite particle systems (Minneapolis, Minn., 1984–1985), Band 8 aus IMA Volumes in Mathematics and Its Applications, Seiten 13–20. Springer, New York, 1987. ´ 3. David J. Aldous. Exchangeability and related topics. In Ecole d’´et´e de probabilit´es de Saint-Flour, XIII—1983, Band 1117 aus Lecture Notes in Mathematics, Seiten 1–198. Springer, Berlin, 1985. 4. Krishna B. Athreya und Peter E. Ney. Branching Processes. Springer-Verlag, Berlin, 1972. 5. Jacques Az´ema und Marc Yor. Le probl`eme de Skorokhod: compl´ements a` “Une solution simple au probl`eme de Skorokhod”. In S´eminaire de Probabilit´es, XIII (Univ. Strasbourg, Strasbourg, 1977/78), Band 721 aus Lecture Notes in Mathematics, Seiten 625–633. Springer, Berlin, 1979. 6. Jacques Az´ema und Marc Yor. Une solution simple au probl`eme de Skorokhod. In S´eminaire de Probabilit´es, XIII (Univ. Strasbourg, Strasbourg, 1977/78), Band 721 aus Lecture Notes in Mathematics, Seiten 90–115. Springer, Berlin, 1979. 7. Martin Barner und Friedrich Flohr. Analysis. II. de Gruyter Lehrbuch. Walter de Gruyter & Co., Berlin, 2. Auflage, 1989. 8. Martin Barner und Friedrich Flohr. Analysis. I. de Gruyter Lehrbuch. Walter de Gruyter & Co., Berlin, 4. Auflage, 1991. 9. Heinz Bauer. Maß - und Integrationstheorie. de Gruyter Lehrbuch. Walter de Gruyter & Co., Berlin, 2. Auflage, 1992. 10. Heinz Bauer. Wahrscheinlichkeitstheorie. de Gruyter Lehrbuch. Walter de Gruyter & Co., Berlin, 5. Auflage, 2002. 11. Leonard E. Baum und Melvin Katz. Convergence rates in the law of large numbers. Trans. Amer. Math. Soc., 120:108–123, 1965. 12. M. Baxter und R. Rennie. Financial Calculus. Cambridge University Press, Cambridge, 1997. 13. Andrew C. Berry. The accuracy of the gaussian approximation to the sum of independent variates. Trans. Amer. Math. Soc., 49:122–136, 1941. 14. Patrick Billingsley. Convergence of probability measures. John Wiley & Sons Inc., New York, 1968. 15. Patrick Billingsley. Weak convergence of measures: Applications in probability. Society for Industrial and Applied Mathematics, Philadelphia, Pa., 1971. Conference Board of the Mathematical Sciences Regional Conference Series in Appl. Mathematics, No. 5.
596
Literatur
16. Patrick Billingsley. Probability and measure. Wiley Series in Probability and Mathematical Statistics. John Wiley & Sons Inc., New York, 3. Auflage, 1995. A WileyInterscience Publication. 17. Patrick Billingsley. Convergence of probability measures. Wiley Series in Probability and Statistics: Probability and Statistics. John Wiley & Sons Inc., New York, 2. Auflage, 1999. A Wiley-Interscience Publication. 18. K. Binder und D. W. Heermann. Monte Carlo simulation in statistical physics: An introduction, Band 80 aus Springer Series in Solid-State Sciences. Springer-Verlag, Berlin, 3. Auflage, 1997. 19. G.D. Birkhoff. Proof of the ergodic theorem. Proc. Nat. Acad. Sci., 17:656–660, 1931. 20. David Blackwell und David Kendall. The martin boundary of P´olya’s urn scheme, and an application to stochastic population growth. J. Appl. Probability, 1:284–296, 1964. 21. R. M. Blumenthal. An extended Markov property. Trans. Amer. Math. Soc., 85:52–72, 1957. 22. Salomon Bochner. Vorlesungen u¨ ber Fouriersche Integrale. Chelsea Publishing Company, New York, 1932. Nachdruck von 1948. 23. Leo Breiman. Probability. Addison-Wesley Publishing Company, Reading, Mass., 1968. 24. Brockhaus. Die Enzyklop¨adie in 24 B¨anden. F.A. Brockhaus, Mannheim, 20. Auflage, 1998. 25. J¨org Br¨udern. Einf¨uhrung in die analytische Zahlentheorie. Springer-Verlag, Berlin Heidelberg, 1995. 26. Dirk Br¨uggemann. Starke Gesetze der großen Zahlen bei blockweisen Unabh¨angigkeitsbedingungen. Dissertation, Universit¨at zu K¨oln, 2002. 27. R. M. Burton und M. Keane. Density and uniqueness in percolation. Comm. Math. Phys., 121(3):501–505, 1989. 28. Gustave Choquet und Jacques Deny. Sur l’´equation de convolution μ = μ ∗ σ. C. R. Acad. Sci. Paris, 250:799–801, 1960. 29. Yuan Shih Chow und Henry Teicher. Probability theory: Independence, interchangeability, martingales. Springer Texts in Statistics. Springer-Verlag, New York, 3. Auflage, 1997. 30. K. L. Chung und W. H. J. Fuchs. On the distribution of values of sums of random variables. Mem. Amer. Math. Soc., 6, 1951. 31. Peter Clifford und Aidan Sudbury. A model for spatial conflict. Biometrika, 60:581– 588, 1973. 32. Harald Cram´er. Sur un nouveau th´eor`eme-limite de la th´eorie des probabilit´es. Actualit´es Scientifiques et Industrielles, 763:5–23, 1938. Colloque consacr´e a` la th´eorie des probabilit´es. 33. Freddy Delbaen und Walter Schachermayer. A general version of the fundamental theorem of asset pricing. Math. Ann., 300(3):463–520, 1994. 34. Amir Dembo und Ofer Zeitouni. Large deviations techniques and applications, Band 38 aus Applications of Mathematics. Springer-Verlag, New York, 2. Auflage, 1998. 35. Jean-Dominique Deuschel und Daniel W. Stroock. Large deviations, Band 137 aus Pure and Applied Mathematics. Academic Press Inc., Boston, MA, 1989. 36. P. Diaconis und D. Freedman. Finite exchangeable sequences. Ann. Probab., 8(4):745– 764, 1980. 37. J. Dieudonn´e. Foundations of Modern Analysis, Band X aus Pure and Applied Mathematics. Academic Press, New York und London, 1960. 38. Monroe D. Donsker. An invariance principle for certain probability limit theorems. Mem. Amer. Math. Soc., 6, 1951.
Literatur
597
39. Peter G. Doyle und J. Laurie Snell. Random walks and electric networks, Band 22 aus Carus Mathematical Monographs. Mathematical Association of America, Washington, DC, 1984. 40. R. M. Dudley. Real analysis and probability, Band 74 aus Cambridge Studies in Advanced Mathematics. Cambridge University Press, Cambridge, 2002. Revidierter Nachdruck der Originalausgabe von 1989. 41. Richard Durrett. Probability: Theory and examples. Duxbury Press, Belmont, CA, 2. Auflage, 1996. 42. Aryeh Dvoretzky, Paul Erd˝os und Shizuo Kakutani. Nonincrease everywhere of the Brownian motion process. In Proceedings of the 4th Berkeley Symposium on Mathematics, Statistics and Probability, Vol. II, Seiten 103–116. University of California Press, Berkeley, CA, 1961. 43. Dmitri Egoroff. Sur les suites des fonctions measurables. C. R. Acad. Sci., Paris, 152:135–157, 1911. 44. Robert J. Elliott und P. Ekkehard Kopp. Mathematics of financial markets. Springer Finance. Springer-Verlag, New York, 1999. 45. Richard S. Ellis. Entropy, large deviations, and statistical mechanics, Band 271 aus Grundlehren der Mathematischen Wissenschaften. Springer-Verlag, New York, 1985. 46. J¨urgen Elstrodt. Maß- und Integrationstheorie. Springer-Verlag, New York, 3. Auflage, 1999. 47. P. Erd˝os und R. L. Graham. On a linear diophantine problem of Frobenius. Acta Arith., 21:399–408, 1972. 48. Carl-Gustav Esseen. On the Liapounoff limit of error in the theory of probability. Ark. Mat. Astr. och Fys., 28A(9):1–19, 1942. 49. Nasrollah Etemadi. An elementary proof of the strong law of large numbers. Z. Wahrsch. Verw. Gebiete, 55(1):119–122, 1981. 50. Alison Etheridge. A course in financial calculus. Cambridge University Press, Cambridge, 2002. 51. Stewart N. Ethier und Thomas G. Kurtz. Markov processes: Characterization and convergence. Wiley Series in Probability and Mathematical Statistics: Probability and Mathematical Statistics. John Wiley & Sons Inc., New York, 1986. 52. Steven N. Evans und Xiaowen Zhou. Identifiability of exchangeable sequences with identically distributed partial sums. Electron. Comm. Probab., 4:9–13 (electronic), 1999. ¨ 53. William Feller. Uber den zentralen Grenzwertsatz der Wahrscheinlichkeitstheorie I. Math. Zeit., 40:521–559, 1935. ¨ 54. William Feller. Uber den zentralen Grenzwertsatz der Wahrscheinlichkeitstheorie II. Math. Zeit., 42:301–312, 1937. 55. William Feller. An introduction to probability theory and its applications. Vol. I. John Wiley & Sons Inc., New York, 3. Auflage, 1968. 56. William Feller. An introduction to probability theory and its applications. Vol. II. John Wiley & Sons Inc., New York, 2. Auflage, 1971. 57. James Allen Fill. An interruptible algorithm for perfect sampling via Markov chains. Ann. Appl. Probab., 8(1):131–162, 1998. 58. James Allen Fill, Motoya Machida, Duncan J. Murdoch und Jeffrey S. Rosenthal. Extension of Fill’s perfect rejection sampling algorithm to general chains. Random Structures Algorithms, 17(3-4):290–316, 2000. Proceedings of the Ninth International Conference “Random Structures and Algorithms” (Poznan, 1999). 59. Hans F¨ollmer und Alexander Schied. Stochastic finance, Band 27 aus de Gruyter Studies in Mathematics. Walter de Gruyter & Co., Berlin, 2002.
598
Literatur
60. David A. Freedman. Bernard Friedman’s urn. Ann. Math. Statist, 36:956–970, 1965. 61. Peter G¨anssler und Winfried Stute. Wahrscheinlichkeitstheorie. Springer-Verlag, Berlin, 1977. 62. Hans-Otto Georgii. Stochastik. de Gruyter Lehrbuch. Walter de Gruyter & Co., Berlin, 3. Auflage, 2007. 63. Alison L. Gibbs und Francis Edward Su. On choosing and bounding probability metrics. Int. Stat. Rev., 70(3):419–435, 2002. 64. M. L. Glasser und I. J. Zucker. Extended Watson integrals for the cubic lattices. Proc. Nat. Acad. Sci. U.S.A., 74(5):1800–1801, 1977. 65. B. V. Gnedenko und A. N. Kolmogorov. Limit distributions for sums of independent random variables. Addison-Wesley Publishing Co., Reading, Mass.-London-Don Mills., Ont., 1968. 66. Geoffrey Grimmett. Percolation, Band 321 aus Grundlehren der Mathematischen Wissenschaften. Springer-Verlag, Berlin, 2. Auflage, 1999. 67. Geoffrey R. Grimmett und David R. Stirzaker. Probability and random processes. Oxford University Press, New York, 3. Auflage, 2001. 68. E. Grosswald. The Student t-distribution of any degree of freedom is infinitely divisible. Z. Wahrsch. Verw. Gebiete, 36(2):103–109, 1976. 69. Olle H¨aggstr¨om. Finite Markov chains and algorithmic applications, Band 52 aus London Mathematical Society Student Texts. Cambridge University Press, Cambridge, 2002. 70. Takashi Hara und Gordon Slade. Mean-field critical behaviour for percolation in high dimensions. Comm. Math. Phys., 128(2):333–391, 1990. 71. J. Michael Harrison und Stanley R. Pliska. Martingales and stochastic integrals in the theory of continuous trading. Stochastic Process. Appl., 11(3):215–260, 1981. 72. Philip Hartman und Aurel Wintner. On the law of the iterated logarithm. Amer. J. Math., 63:169–176, 1941. 73. W. K. Hastings. Monte Carlo sampling methods using Markov chains and their applications. Biometrika, 57:97–109, 1970. 74. Edwin Hewitt und Kenneth A. Ross. Abstract harmonic analysis. Vol. II: Structure and analysis for compact groups. Analysis on locally compact Abelian groups. Die Grundlehren der mathematischen Wissenschaften, Band 152. Springer-Verlag, New York, 1970. 75. Edwin Hewitt und Leonard J. Savage. Symmetric measures on Cartesian products. Trans. Math. Soc., 80:470–501, 1955. 76. C. C. Heyde. On a property of the lognormal distribution. J. Royal Stat. Soc. B, 29:392– 393, 1963. 77. Friedrich Hirzebruch und Winfried Scharlau. Einf¨uhrung in die Funktionalanalysis. Bibliographisches Institut, Mannheim, 1971. B. I.-Hochschultaschenb¨ucher, No. 296. 78. Frank den Hollander. Large deviations, Band 14 aus Fields Institute Monographs. American Mathematical Society, Providence, RI, 2000. 79. Richard A. Holley und Thomas M. Liggett. Ergodic theorems for weakly interacting infinite systems and the voter model. Ann. Probab., 3(4):643–663, 1975. 80. Barry D. Hughes. Random walks and random environments. Vol. 1. Oxford Science Publications. The Clarendon Press/Oxford University Press, New York, 1995. Random walks. 81. Barry D. Hughes. Random walks and random environments. Vol. 2. Oxford Science Publications. The Clarendon Press/Oxford University Press, New York, 1996. Random environments.
Literatur
599
82. Nobuyuki Ikeda und Shinzo Watanabe. Stochastic differential equations and diffusion processes, Band 24 aus North-Holland Mathematical Library. North-Holland Publishing Co., Amsterdam, 2. Auflage, 1989. 83. Albrecht Irle. Finanzmathematik. Teubner Studienb¨ucher Mathematik. B. G. Teubner, Stuttgart, 1998. 84. J¨urgen Jost. Partielle Differentialgleichungen. Springer, Berlin, 1998. 85. G. S. Joyce. Singular behaviour of the lattice Green function for the d-dimensional hypercubic lattice. J. Phys. A, 36(4):911–921, 2003. 86. Shizuo Kakutani. Examples of ergodic measure preserving transformations which are weakly mising but not strongly mixing. In Recent advances in topological dynamics (Proceedings of the Conference at Yale University, New Haven, CT, 1972, in honor of Gustav Arnold Hedlund), Band 318 aus Lecture Notes in Mathematics, Seiten 143–149. Springer, Berlin. 87. Olav Kallenberg. Random measures. Akademie-Verlag, Berlin, 4. Auflage, 1986. 88. Olav Kallenberg. Foundations of Modern Probability. Probability and Its Applications. Springer-Verlag, New York, Berlin, 2. Auflage, 2002. ˇ Rubinˇste˘ın. On a space of completely additive functions. 89. L. V. Kantoroviˇc und G. S. Vestnik Leningrad Univ., 13(7):52–59, 1958. 90. Ioannis Karatzas und Steven E. Shreve. Brownian motion and stochastic calculus, Band 113 aus Graduate Texts in Mathematics. Springer-Verlag, New York, 2. Auflage, 1991. 91. Ioannis Karatzas und Steven E. Shreve. Methods of mathematical finance, Band 39 aus Applications of Mathematics. Springer-Verlag, New York, 1998. 92. Gerhard Keller. Equilibrium states in ergodic theory, Band 42 aus London Mathematical Society Student Texts. Cambridge University Press, Cambridge, 1998. 93. Gerhard Keller. Wahrscheinlichkeitstheorie. Vorlesungsskript. Universit¨at Erlangen, 2003. 94. John L. Kelley. General topology, Band 27 aus Graduate Texts in Mathematics. Springer-Verlag, New York, 1975. Nachdruck der Ausgabe von 1955 [Van Nostrand, Toronto, Ontario]. 95. Richard W. Kenyon, James G. Propp und David B. Wilson. Trees and matchings. Electron. J. Combin., 7:Research Paper 25, 34 pp. (electronic), 2000. 96. H. Kesten, M. V. Kozlov und F. Spitzer. A limit law for random walk in a random environment. Compositio Math., 30:145–168, 1975. 97. Harry Kesten. Sums of stationary sequences cannot grow slower than linearly. Proc. Amer. Math. Soc., 49:205–211, 1975. 98. Harry Kesten. The critical probability of bond percolation on the square lattice equals 1 . Comm. Math. Phys., 74(1):41–59, 1980. 2 99. Harry Kesten und Bernt P. Stigum. A limit theorem for multidimensional GaltonWatson processes. Ann. Math. Statist., 37:1211–1223, 1966. ¨ 100. Aleksandr Khintchine. Uber dyadische Br¨uche. Mathematische Zeitschrift, 18:109– 116, 1923. 101. J. F. C. Kingman. Uses of exchangeability. Ann. Probability, 6(2):183–197, 1978. 102. J. F. C. Kingman. Poisson processes, Band 3 aus Oxford Studies in Probability. The Clarendon Press/Oxford University Press, New York, 1993. Oxford Science Publications. 103. A. N. Kolmogorov. Sulla determinazione empirica di una legge di distibuzione. Giornale Istituto Italiano degli Attuari, 4:83–91, 1933. 104. Ralf Korn und Elke Korn. Optionsbewertung und Portfolio-Optimierung. Friedr. Vieweg & Sohn, Braunschweig, 1999.
600
Literatur
105. Ulrich Krengel. Ergodic theorems, Band 6 aus de Gruyter Studies in Mathematics. Walter de Gruyter & Co., Berlin, 1985. 106. Ulrich Krengel. Einf¨uhrung in die Wahrscheinlichkeitstheorie und Statistik, Band 59 aus Vieweg Studium: Aufbaukurs Mathematik. Friedr. Vieweg & Sohn, Braunschweig, 2003. 107. S. Kullback und R. A. Leibler. On information and sufficiency. Ann. Math. Statistics, 22:79–86, 1951. 108. Thomas Kurtz, Russell Lyons, Robin Pemantle und Yuval Peres. A conceptual proof of the Kesten-Stigum theorem for multi-type branching processes. In Classical and modern branching processes (Minneapolis, MN, 1994), Band 84 aus IMA Volumes in Mathematics and Its Applications, Seiten 181–185. Springer, New York, 1997. 109. Steffen L. Lauritzen. Extremal families and systems of sufficient statistics, Band 49 aus Lecture Notes in Statistics. Springer-Verlag, New York, 1988. 110. Paul L´evy. Th´eorie de l’Addition des Variables Al´eatoires. Gauthier-Villars, Paris, 1937. 111. Paul L´evy. Processus Stochastiques et Mouvement Brownien. Suivi d’une note de M. Lo`eve. Gauthier-Villars, Paris, 1948. 112. Jarl Waldemar Lindeberg. Eine neue Herleitung des Exponentialgesetzes in der Wahrscheinlichkeitsrechnung. Mathematische Zeitschrift, 15:211–225, 1922. 113. Jarl Waldemar Lindeberg. Sur la loi de Gauss. C.R. Acad. Sci. Paris, 174:1400–1402, 1922. 114. Torgny Lindvall. Convergence of critical Galton-Watson branching processes. J. Appl. Probability, 9:445–450, 1972. 115. Russell Lyons, Robin Pemantle und Yuval Peres. Conceptual proofs of L log L criteria for mean behavior of branching processes. Ann. Probab., 23(3):1125–1138, 1995. 116. Russell Lyons und Yuval Peres. Probability on Trees. 2005. Vorabversion im Internet unter http://mypage.iu.edu/∼rdlyons/prbtree/prbtree.html. 117. Neal Madras. Lectures on Monte Carlo methods, Band 16 aus Fields Institute Monographs. American Mathematical Society, Providence, RI, 2002. 118. Dimitri E. Menchoff. Sur les s´eries des fonctions orthogonales (premi`ere partie). Fund. Math., 4:92–105, 1923. 119. N. Metropolis, A. W. Rosenbluth, M. N. Rosenbluth, A. H. Teller und E. Teller. Equation of state calculations by fast computing machines. J. Chem. Phys., 21:1087–1092, 1953. 120. Paul-A. Meyer. Probability and potentials. Blaisdell Publishing Co. Ginn and Co., Waltham, Mass.-Toronto, Ont.-London, 1966. 121. Ferenc M´oricz und K´aroly Tandori. An improved Menshov-Rademacher theorem. Proc. Amer. Math. Soc., 124(3):877–885, 1996. 122. Peter M¨orters und Yuval Peres. Brownian motion. 2007. In Vorbereitung. 123. Rajeev Motwani und Prabhakar Raghavan. Randomized algorithms. Cambridge University Press, Cambridge, 1995. 124. Alfred M¨uller und Dietrich Stoyan. Comparison methods for stochastic models and risks. Wiley Series in Probability and Statistics. John Wiley & Sons Ltd., Chichester, 2002. 125. John von Neumann. Proof of the quasi-ergodic hypothesis. Proc. Nat. Acad. Sci., 18:70–82, 1932. 126. J. R. Norris. Markov chains. Cambridge Series in Statistical and Probabilistic Mathematics. Cambridge University Press, Cambridge, 1998. Nachdruck der Originalausgabe von 1997.
Literatur
601
127. Raymond E. A. C. Paley, Norbert Wiener und Antoni Zygmund. Note on random functions. Math. Zeit., 37:647–668, 1933. 128. Ronald F. Peierls. On Ising’s model of ferromagnetism. Proc. Cambridge Phil. Soc., 32:477–481, 1936. 129. Valentin V. Petrov. Sums of independent random variables, Band 82 aus Ergebnisse der Mathematik und ihrer Grenzgebiete. Springer-Verlag, New York, 1975. 130. Jim Pitman. Exchangeable and partially exchangeable random partitions. Probab. Theory Related Fields, 102(2):145–158, 1995. 131. Jim Pitman. Combinatorial stochastic processes, Band 1875 aus Lecture Notes in Mathematics. Springer-Verlag, Berlin, 2006. Vorlesungen von der 32ten Sommerschule u¨ ber Wahrscheinlichkeitstheorie in Saint-Flour, 7.–24. Juli 2002, Mit einem Vorwort von Jean Picard. 132. Jim Pitman und Marc Yor. Bessel processes and infinitely divisible laws. In Stochastic integrals (Proc. Sympos., Univ. Durham, Durham, 1980), Band 851 aus Lecture Notes in Mathematics, Seiten 285–370. Springer, Berlin, 1981. 133. Jim Pitman und Marc Yor. The two-parameter Poisson-Dirichlet distribution derived from a stable subordinator. Ann. Probab., 25(2):855–900, 1997. 134. Jim Pitman und Marc Yor. On the distribution of ranked heights of excursions of a Brownian bridge. Ann. Probab., 29(1):361–384, 2001. ¨ 135. George P´olya. Uber eine Aufgabe der Wahrscheinlichkeitsrechnung betreffend die Irrfahrt im Straßennetz. Math. Ann., 84:149–160, 1921. 136. George P´olya. Sur quelques points de la th´eorie de probabilit´es. Ann. Inst. H. Poincar´e, 1:117–161, 1931. 137. Yu. V. Prohorov. Convergence of random processes and limit theorems in probability theory. Teor. Veroyatnost. i Primenen., 1:177–238, 1956. Russisch mit englischer Zusammenfassung. 138. James Propp und David Wilson. Coupling from the past: A user’s guide. In Microsurveys in discrete probability (Princeton, NJ, 1997), Band 41 aus DIMACS Series in Discrete Mathematics and Theoretical Computer Science, Seiten 181–192. American Mathematical Society, Providence, RI, 1998. 139. James Gary Propp und David Bruce Wilson. Exact sampling with coupled Markov chains and applications to statistical mechanics. In Proceedings of the Seventh International Conference on Random Structures and Algorithms (Atlanta, GA, 1995), Band 9, Seiten 223–252, 1996. 140. James Gary Propp und David Bruce Wilson. How to get a perfectly random sample from a generic Markov chain and generate a random spanning tree of a directed graph. J. Algorithms, 27(2):170–217, 1998. 7th Annual ACM-SIAM Symposium on Discrete Algorithms (Atlanta, GA, 1996). 141. Philip E. Protter. Stochastic integration and differential equations, Band 21 aus Applications of Mathematics (New York). Springer-Verlag, Berlin, 2. Auflage, 2004. Stochastic Modelling and Applied Probability. 142. Boto von Querenburg. Mengentheoretische Topologie. Springer-Verlag, Berlin, 1976. Korrigierter Nachdruck der ersten Auflage, Hochschultext. 143. Hans Rademacher. Einige S¨atze u¨ ber Reihen von allgemeinen Orthogonalfunktionen. Math. Ann., 87:112–138, 1922. 144. P´al R´ev´esz. Random walk in random and non-random environments. World Scientific Publishing Co. Pte. Ltd., Hackensack, NJ, second Auflage, 2005. 145. D. Revuz. Markov chains, Band 11 aus North-Holland Mathematical Library. NorthHolland Publishing Co., Amsterdam, 2. Auflage, 1984.
602
Literatur
146. Daniel Revuz und Marc Yor. Continuous martingales and Brownian motion, Band 293 aus Grundlehren der Mathematischen Wissenschaften. Springer-Verlag, Berlin, 3. Auflage, 1999. 147. R. Tyrrell Rockafellar. Convex analysis. Princeton Mathematical Series, No. 28. Princeton University Press, Princeton, NJ, 1970. 148. L. C. G. Rogers und David Williams. Diffusions, Markov processes, and martingales. Vol. 1: Foundations. Cambridge Mathematical Library. Cambridge University Press, Cambridge, 2000. Nachdruck der zweiten Auflage von 1994. 149. L. C. G. Rogers und David Williams. Diffusions, Markov processes, and martingales. Vol. 2: Itˆo calculus. Cambridge Mathematical Library. Cambridge University Press, Cambridge, 2000. Nachdruck der zweiten Auflage von 1994. 150. Walter Rudin. Analysis. Oldenbourg Verlag, M¨uu¨ nchen, Wien, 1988. 151. Ivan Nicolaevich Sanov. On the probability of large deviations of random magnitudes. Mat. Sb. N. S., 42 (84):11–44, 1957. Russisch. 152. Ivan Nicolaevich Sanov. On the probability of large deviations of random variables. In Select. Transl. Math. Statist. and Probability, Vol. 1, Seiten 213–244. Inst. Math. Statist. and Amer. Math. Soc., Providence, RI, 1961. 153. Tokuzo Shiga und Akinobu Shimizu. Infinite-dimensional stochastic differential equations and their applications. J. Math. Kyoto Univ., 20(3):395–416, 1980. 154. Albert N. Shiryaev. Probability, Band 95 aus Graduate Texts in Mathematics. Springer¨ Verlag, New York, 2. Auflage, 1996. Ubersetzung der ersten russischen Ausgabe von 1980. 155. N. V. Smirnov. Sur les e´ carts de la courbe de distribution empirique. Matematicheskij Sbornik, Rossijskaya Akademiya Nauk, Moscow, 2:3–16, 1939. Russisch mit franz¨osicher Zusammenfassung. 156. Fred Solomon. Random walks in a random environment. Ann. Probab., 3:1–31, 1975. 157. Frank Spitzer. Principles of random walks, Band 34 aus Graduate Texts in Mathematics. Springer-Verlag, New York, 2. Auflage, 1976. 158. Daniel W. Stroock und S. R. Srinivasa Varadhan. Diffusion processes with boundary conditions. Comm. Pure Appl. Math., 24:147–225, 1971. 159. Daniel W. Stroock und S. R. Srinivasa Varadhan. Multidimensional diffusion processes, Band 233 aus Grundlehren der Mathematischen Wissenschaften. Springer-Verlag, Berlin, 1979. 160. J. J. Sylvester. Mathematical questions with their solutions. Educ. Times, 41:171–178, 1884. ¨ 161. K´aroly Tandori. Uber die orthogonalen Funktionen. I. Acta Sci. Math. Szeged, 18:57– 130, 1957. ¨ 162. K´aroly Tandori. Uber die Divergenz der Orthogonalreihen. Publ. Math. Debrecen, 8:291–307, 1961. 163. K´aroly Tandori. Bemerkung u¨ ber die paarweise unabh¨angigen zuf¨alligen Gr¨oßen. Acta Math. Hungar., 48(3–4):357–359, 1986. 164. S. R. S. Varadhan. Asymptotic probabilities and differential equations. Comm. Pure Appl. Math., 19:261–286, 1966. 165. G. N. Watson. Three triple integrals. Quart. J. Math., Oxford Ser., 10:266–276, 1939. 166. Dirk Werner. Funktionalanalysis. Springer-Verlag, Berlin, 2000. 167. David Williams. Probability with martingales. Cambridge Mathematical Textbooks. Cambridge University Press, Cambridge, 1991. 168. David Bruce Wilson und James Gary Propp. How to get an exact sample from a generic Markov chain and sample a random spanning tree from a directed graph, both within the
Literatur
169. 170. 171. 172. 173.
603
cover time. In Proceedings of the Seventh Annual ACM-SIAM Symposium on Discrete Algorithms (Atlanta, GA, 1996), Seiten 448–457. Sewall Wright. Evolution in Mendelian populations. Genetics, 16:97–159, 1931. A. M. Yaglom. Certain limit theorems of the theory of branching random processes. Doklady Akad. Nauk SSSR (N.S.), 56:795–798, 1947. Toshio Yamada und Shinzo Watanabe. On the uniqueness of solutions of stochastic differential equations. J. Math. Kyoto Univ., 11:155–167, 1971. K¯ osaku Yosida. Functional analysis. Classics in Mathematics. Springer-Verlag, Berlin, 1995. Nachdruck der sechsten Auflage von 1980. Ofer Zeitouni. Random walks in random environment. In Lectures on probability theory and statistics, Band 1837 aus Lecture Notes in Mathematics, Seiten 189–312. Springer, Berlin, 2004.
Notation
½A
Indikatorfunktion der Menge A
2Ω
Potenzmenge, 1
#A
Kardinalit¨at der Menge A
A
Komplement Ω \ A der Menge A ⊂ Ω, 1
c
A∩B
Schnittmenge
A∪B
Vereinigungsmenge
A B
disjunkte Vereinigungsmenge (eigentlich ist hierin eine Aussage enthalten)
A⊂B
A ist (nicht notwendigerweise echte) Teilmenge von B
A\B
Differenzmenge
AB
symmetrische Differenz zweier Mengen, 30
A×B
kartesisches Produkt von A und B
A
Teilmenge von 2Ω , typischerweise eine σ-Algebra, 1
A
B
A⊗A
Spur-Mengensystem auf B, 11
Produkt der σ-Algebren A und A , 274
B(E)
Borel’sche σ-Algebra von E, 9
Berp
Bernoulliverteilung, 44
βr,s
Beta-Verteilung mit Parametern r und s, 47
bn,p
Binomialverteilung, 44, 305
b− r,p
negative Binomialverteilung, 45, 305
C(E), Cb (E), Cc (E) Raum der stetigen (beschr¨ankten) Funktionen, bzw. mit kompakten Tr¨ager, 248 CqV
Funktionen mit stetiger quadratischer Variation, 490
C
Menge der komplexen Zahlen, 82
Caua
Cauchy Verteilung, 305
606
Notation
Cov[X, Y ]
Kovarianz der Zufallsvariablen X und Y , 104
CPoiν
zusammengesetzte Poisson-Verteilung, 333
δx
Dirac-Verteilung, 12
E[X]
Erwartungswert der Zufallsvariablen X, 103
E[X; A]
=E[X ½A ], 173
E[X |F]
bedingter Erwartungswert, 175
expθ
Exponentialverteilung, 46, 305
F = (Ft )t∈I
Filtration, 193
f.s, f.¨u.
fast sicher und fast u¨ berall, 32
G(x, y)
Greeenfunktion einer Markovkette, 367
Γθ,r
Gammaverteilung mit Gr¨oßenparameter θ > 0 und Formparameter r > 0, 46, 305
γp = b− 1,p
geometrische Verteilung mit Parameter p, 44
ggT(M )
gr¨oßter gemeinsamer Teiler aller m ∈ M ⊂ N, 384
H ·X
diskretes stochastisches Integral von H bez¨uglich X, 200
I
Menge der invarianten Verteilungen einer Markovkette, 376
i.i.d.
independent and identically distributed, 57
Im(z)
Imagin¨arteil von z ∈ C, 297
λ, λ
n
Lebesgue-Maß, n-dimensionales, 26
Lip(E)
Raum der Lipschitz-stetigen Funktionen auf E, 249
L p , Lp
Lebesgue’sche R¨aume p-fach integrierbarer Funktionen, 93, 145, 146
L(X)
Verteilung der Zufallsvariablen X
M(E), Mf (E), M≤1 , M1 (E)
Menge der (endlichen bzw. (Sub-)W-) Maße auf E, 17, 247
Mloc,c
Raum der stetigen lokalen Martingale, 492
μ⊗ν
Produkt der Maße μ und ν, 28, 278
μ∗ν
Faltung der Maße μ und ν, 62, 280
⊗n
n-faches Produktmaß, 278
∗n
μ
n-fache Faltungspotenz, 62
μ%ν
μ ist absolutstetig bez¨uglich ν, 158
μ
Notation
607
μ⊥ν
μ ist singul¨ar bez¨uglich ν, 158
μ≈ν
μ und ν sind a¨ quivalent, 158
N, N0
N = {1, 2, 3, . . .}, N0 = N ∪ {0}
Nμ,σ2 M dμ dν
Normalverteilung, 46, 305
Ω
Raum der Elementarereignisse, auf dem P definiert ist
P
generisches Wahrscheinlichkeitsmaß
Radon-Nikodym-Ableitung, 159
P[A|B], P[A|F] PX = P ◦ X
−1
bedingte Wahrscheinlichkeiten, 172, 175 Verteilung der Zufallsvariablen X, 43 Poissonverteilung mit Parameter λ ≥ 0, 45, 305
Poiλ
¨ einer Markovpn (x, y) = p(n) (x, y) n-Schritt-Ubergangswahrscheinlichkeiten kette, 356 n PS,T , PTn
siehe Seite 490
ϕX
charakteristische Funktion der Zufallsvariablen X, 304
ψX
Erzeugendenfunktion der Zufallsvariablen X, 79
Q
Menge der rationalen Zahlen
R
Menge der reellen Zahlen
R = R ∪ {−∞, +∞} Zweipunktkompaktifizierung der reellen Zahlen Re(z)
Realteil von z ∈ C, 297
sign(x)
= ½(0,∞) (x) − ½(−∞,0) (x), Vorzeichen von x ∈ R, 38
σ( · )
von · erzeugte σ-Algebra oder Filtration, 6, 35, 193
τxk
Zeit des k-ten Besuches einer Markovkette in x, 365
T (·)
terminale σ-Algebra, 63
UA
uniforme Verteilung auf A, 13, 33, 305
u.i.v.
unabh¨angig und identisch verteilt, 57
V (G), V (G)
Variation und quadratische Variation von G, 488, 490
Var[X]
Varianz der Zufallsvariablen X, 103
v-lim
vager Limes, 252
w-lim
schwacher Limes, 252
1
X
τ
X!
2
in τ gestoppter Prozess, 212 quadratischer Variationsprozess von X, 208, 490, 493, 497
608
Notation
f (t) ∼ g(t), t → a
: ⇐⇒
X∼μ
Die Zufallsvariable X hat Verteilung μ, 43
limt→a f (t)/g(t) = 1
x ∨ y, x ∧ y, x+ , x− Maximum, Minimum, Positivteil, Negativteil reeller Zahlen, 38 x,
x
Abgerundetes und Aufgerundetes von x, 37
z
komplex konjugierte Zahl zu z ∈ C, 297
Z
Menge der ganzen Zahlen
D
Gleichheit in Verteilung, 43
= D
n→∞
−→ , =⇒
Konvergenz der Verteilungen, 255
n→∞
n→∞
−→
Konvergenz der endlichdimensionalen Verteilungen, 475
fdd
fdd
f.¨u.
stochastische Konvergenz, fast sichere, und fast u¨ berall, 132
n→∞
=⇒ ,
stoch
f.s.
−→, −→, −→
¨ Glossar englischer Ausdrucke
a.a. = almost all a.e. = almost everywhere a.s. = almost surely array (of random variables) backward martingale bond, edge Brownian motion central limit theorem completion compound Poisson conductivity continuous convolution decomposition density derivative distribution dominated convergence dynamical system expectation (conditional) ergodic theorem event exchangeable extension theorem flow (electric) iff = if and only if i.i.d. = independent and identically distributed increment indistinguishable integer (number) joint distribution large deviation
fast alle fast u¨ berall fast sicher Schema von Zufallsvariablen R¨uckw¨artsmartingal Kante (eines Graphen) Brown’sche Bewegung Zentraler Grenzwertsatz Vervollst¨andigung zusammengesetzt Poisson Leitf¨ahigkeit stetig Faltung Zerlegung Dichte Ableitung Verteilung majorisierte Konvergenz Dynamisches System Erwartungswert (bedingter) Ergodensatz Ereignis austauschbar Fortsetzungssatz, Erweiterungssatz Fluss (elektrischer) dann und nur dann, wenn unabh¨angig und identisch verteilt Zuwachs ununterscheidbar ganze Zahl gemeinsame Verteilung große Abweichung
610
Glossar englischer Ausdr¨ucke
law level set Markov chain (strong) Markov property map marginal (distribution) mean measurable space measure measure preserving mixing modulus (of a number) modulus of continuity null array partition function p.d.f. = probability distribution function p.g.f. = probability generating function phase transition predictable, previsible probability random walk random variable representation semigroup σ-field size-biased (sampling) tight trace transition kernel uniform distribution uniformly integrable urn model (probability) weight vertex w.p. = with probability
Verteilung Niveaumenge Markovkette (starke) Markoveigenschaft Abbildung Randverteilung Mittelwert Messraum Maß maßerhaltend mischend Absolutbetrag (einer Zahl) Stetigkeitsmodul asymptotisch vernachl¨assigbares Schema Zustandssumme Verteilungsfunktion Erzeugendenfunktion Phasen¨ubergang previsibel, vorhersagbar Wahrscheinlichkeit Irrfahrt Zufallsvariable Darstellung Halbgruppe σ-Algebra gr¨oßenverzerrtes Ziehen einer Stichprobe straff Spur ¨ Ubergangskern Gleichverteilung gleichgradig integrierbar Urnenmodell (Wahrscheinlichkeits-)gewicht Punkt/Knoten eines Graphen
Namensregister
Banach, Stefan, 1892 (Krakau) – 1945 (Lemberg, Ukraine), 153 Bayes, Thomas, 1702 (London) – 1761 (Tunbridge Wells, England), 172 Bernoulli, Jakob, 1654 (Basel) – 1705 (Basel), 18 Bienaym´e, Ir´en´ee-Jules, 1796 (Paris) – 1878 (Paris), 106 Blackwell, David, 1919, 109 Bochner, Salomon, 1899 (Krakau) – 1982 (Houston, Texas), 312 Boltzmann, Ludwig, 1844 (Wien) – 1906 (Duino bei Triest), 394 Borel, Emile, 1871 (Saint-Affrique, Frankreich) – 1956 (Paris), 9 Brown, Robert, 1773 (Montrose, Scotland) – 1858 (London), 456 Cantelli, Francesco Paolo, 1875 (Palermo) – 1966 (Rom), 53 Carath´eodory, Constantin, 1873 (Berlin) – 1950 (M¨unchen), 19 Cauchy, Augustin Louis, 1789 (Paris) – 1857 (bei Paris), 107 Ces`aro, Ernesto, 1859 (Neapel) – 1906 (Torre Annunziata, Italien), 65 Chebyshev, Pafnutij Lvovich (Qebyxe¨ v, Pafnuti Loviq), 1821 (Okatavo, Russland) – 1894 (Sankt Petersburg), 110 Cram´er, Harald, 1893 (Stockholm) – 1985 (Stockholm), 327 Curie, Pierre, 1859 (Paris) – 1906 (Paris), 526 Dieudonn´e, Jean Alexandre 1906 (Lille, Frankreich) – 1992 (Paris), 296
Dirac, Paul Adrien Maurice, 1902 (Bristol) – 1984 (Tallahassee, Florida), 12 Dirichlet, Lejeune, 1805 (D¨uren) – 1859 (G¨ottingen), 407 Doob, Joseph Leo, 1910 (Cincinnati, Ohio) – 2004 (Urbana, Illinois), 207 Dynkin, Eugene, 1924 (Petrograd, heute Sankt Petersburg), 4 Egorov, Dmitrij Fedorovich (Egorov, Dmitri Fe¨ doroviq), 1869 (Moskau) – 1931 (Kasan), 136 Esseen, Carl-Gustav, 1918 (Link¨oping, Schweden) – 2001 (Uppsala ?), 326 Euler, Leonard, 1707 (Basel) – 1783 (Sankt Petersburg), 52 Fatou, Pierre, 1878 (Lorient, Frankreich) – 1929 (Pornichet, Frankreich), 95 Feller, William, 1906 (Zagreb) – 1970 (New York), 321 Fischer, Ernst, 1875 (Wien) – 1954 (K¨oln), 153 Fourier, Jean Baptiste Joseph, 1768 (Auxerre, Frankreich) – 1830 (Paris), 300 Fr´echet, Maurice Ren´e, 1878 (Maligny, Frankreich) – 1973 (Paris), 153 Fubini, Guido, 1879 (Venedig) – 1943 (New York), 278 Galton, Francis, 1822 (bei Birmingham) – 1911 (Grayshott House, England), 85 Gauß, Carl-Friedrich, 1777 (Braunschweig) – 1855 (G¨ottingen), 46 Gibbs, Josiah Willard, 1839 (New Haven, Connecticut) – 1903 (New Haven, Connecticut), 397
612
Namensregister
Green, George, 1793 (Nottingham) – 1841 (Nottingham), 365 Hahn, Hans, 1879 (Wien) – 1934 (Wien), 163 Helly, Eduard, 1884 (Wien) – 1943 (Chicago), 263 Hesse, Ludwig Otto, 1814 (K¨onigsberg, heute Kaliningrad, Russland) – 1874 (M¨unchen), 150 Hewitt, Edwin, 1920 (Everett, Washington), 240 Hilbert, David, 1862 (K¨onigsberg, heute Kaliningrad, Russland) – 1943 (G¨ottingen), 153 Hopf, Eberhard, 1902 (Salzburg) – 1983, 437 H¨older, Otto Ludwig, 1859 (Stuttgart) – 1937 (Leipzig), 152 Ionescu-Tulcea, Cassius, 1923, 287 Ising, Ernst, 1900 (K¨oln) – 1988 (Peoria, Illinois), 393 Itˆo, Kiyosi, 1915 (Hokusei-cho, Japan), 469 Jensen, Johan Ludwig, 1859 (Nakskov, D¨anemark) – 1925 (Kopenhagen), 150 Jordan, Camille, 1838 (bei Lyon) – 1922 (Paris), 164 Kesten, Harry, 1931, 73 Khinchin, Aleksandr Jakovlevich (Hinqin, Aleksandr kovleviq) 1894 (Kondrovo, Russland) – 1959 (Moskau), 334 Kirchhoff, Gustav Robert, 1824 (K¨onigsberg) – 1887 (Berlin), 411 Kolmogorov, Andrej Nikolaevich (Kolmogorov, Andre Nikolaeviq), 1903 (Tambow, Russland) – 1987 (Moskau), 65 Laplace, Pierre-Simon, 1749 (Beaumonten-Auge, Normandie) – 1827 (Paris), 144 Lebesgue, Henri L´eon, 1875 (Beauvais, Oise, Frankreich) – 1941 (Paris), 18 Legendre, Adrien-Marie, 1752 (Paris) – 1833 (Paris), 509
Levi, Beppo, 1875 (Turin, Italien) – 1961 (Rosario, Santa Fe, Argentinien), 95 L´evy, Paul Pierre, 1886 (Paris) – 1971 (Paris), 310, 500 Lindeberg, Jarl Waldemar, 1876 – 1932, 320 Lipschitz, Rudolph, 1832 (K¨onigsberg, heute Kaliningrad, Russland) – 1903 (Bonn), 249 Lusin, Nikolai Nikolaevich (Lusin, Nikola Nikolaeviq), 1883 (Irkutsk, Russland) – 1950 (Moskau), 250 Lyapunov, Aleksandr Mikhajlovich (Lpunov Aleksandr Mihaloviq), 1857 (Jaroslavl, Russland) – 1918 (Odessa), 320 Markov, Andrej Andreevich (Markov, Andre Andreeviq), 1856 (Ryazan, Russland) – 1922 (Petrograd, heute Sankt Petersburg), 110 Menshov, Dmitrij Evgen’evich (Menxov, Dmitri Evgeneviq), 1892 (Moskau) – 1988 (Moskau), 123 Minkowski, Hermann, 1864 (Alexotas, heute: Kaunas, Litauen) – 1909 (G¨ottingen), 152 Neumann, John von, 1903 (Budapest) – 1957 (Washington, D.C.), 159 Nikodym, Otton Marcin, 1889 (Zablotow, Galizien, Ukraine) – 1974 (Utica, New York), 159 Ohm, Georg Simon, 1789 (Erlangen) – 1854 (M¨unchen), 411 Ornstein, Leonard Salomon, 1880 (Nijmegen) – 1941 (Utrecht), 573 Paley, Raymond E. A. C., 1907 (Bournemouth, England) – 1933 (Banff, Alberta), 459 Parseval, Marc-Antoine, 1755 (Rosi`eres-aux-Salines, Frankreich) – 1836 (Paris), 467 Pascal, Blaise, 1623 (Clermont-Ferrand, Frankreich) – 1662 (Paris), 45
Namensregister Plancherel, Michel, 1885 (Bussy (Fribourg), Schweiz) – 1967 (Z¨urich?), 301 Poisson, Sim´eon Denis, 1781 (Pithiviers, Frankreich) – 1840 (bei Paris), 45 P´olya, George, 1887 (Budapest) – 1985 (Palo Alto), 311 Prohorov, Yurij Vasil’evich (Prohorov, ri Vasileviq), 1929, 261 Rademacher, Hans, 1892 (HamburgWandsbek) – 1969 (Haverford, Pennsylvania), 123 Radon, Johann, 1887 (Tetschen, B¨ohmen) – 1956 (Wien), 159 Riemann, Georg Friedrich Bernhard, 1826 (Breselenz, Kreis L¨uchow-Dannenberg) – 1866 (Selasca, Italien), 52 Riesz, Frigyes, 1880 (Gy¨or, Ungarn) – 1956 (Budapest), 153 Saks, Stanislav (Saks, Stanislav), 1897 (Kalish, Russland (heute Polen)) – 1942 (Warschau, von der Gestapo ermordet), 232 Savage, Jimmie Leonard, 1917 (Detroit, Michigan) – 1971 (New Haven, Connecticut), 240 Schwarz, Hermann Amandus, 1843 (Hermsdorf, Schlesien) – 1921 (Berlin), 107 Slutzky, Evgenij Evgen’evich (Slucki, Evgeni Evgeneviq), 1880 (Novoe, Gouvernement Jaroslavl, Russland) – 1948 (Moskau), 255 Stieltjes, Thomas Jan, 1856 (Zwolle, Overijssel) – 1894 (Toulouse), 26
613
Stone, Marshall Harvey, 1903 (New York) – 1989 (Madras, Indien), 296 Thomson, William (Lord Kelvin), 1824 (Belfast) – 1907 (Largs, Ayrshire, Schottland), 415 Uhlenbeck, George Eugene, 1900 (Batavia, heutiges Jakarta) – 1988 (Boulder, Colorado), 573 Varadhan, S.R. Srinivasa, 1945 (Madras, Indien), 521 Watson, George Neville, 1886 (Westward Ho, England) – 1965 (Leamington Spa, England), 372 Watson, Henry William, 1827 (bei London) – 1903 (bei Coventry), 85 Weierstraß, Karl, 1815 (Ostenfelde, Westfalen) – 1897 (Berlin), 296 Weiss, Pierre-Ernest, 1865 (Mulhouse, Frankreich) – 1940 (Lyon), 524 Wiener, Norbert, 1894 (Columbia, Missouri) – 1964 (Stockholm), 473 Wintner, Aurel Friedrich, 1903 (Budapest) – 1958 (Baltimore), 505 Wright, Sewall, 1889 (Melrose, Massachusetts) – 1988 (Madison, Wisconsin), 357 Yaglom, Akiva Moiseevich (glom, Akiva Moiseeviq), 1921 (Kharkov), 232 Zygmund, Antoni, 1900 (Warschau) – 1992 (Chicago), 459
Sachregister
0-1 Gesetze – Blumenthal 458 – f¨ur invariante Ereignisse – Hewitt-Savage 240 – Kolmogorov 65 ∅-stetig 16
445
abgeschlossen 8 Abschluss 246 absolutstetig 158 absorbierend 364 adaptiert 193 additiv 12 Algebra 3, 296 Anziehungsbereich einer Verteilung 343 aperiodisch 382 Approximationssatz f¨ur Maße 30 a¨ quivalente Maße 158 a¨ quivalentes Martingalmaß 205 Arbitrage 204 Arkussinus-Gesetz 462 asymptotisch vernachl¨assigbar 320 Aufkreuzung 221 a¨ ußeres Maß 21 austauschbar 233 austauschbare σ-Algebra 235 Auswertungsabbildung 471 Azuma’sche Ungleichung 200 Banachraum 153 Bayes’sche Formel 172, 181 bedingte – Erwartung 175 – Unabh¨angigkeit 241 – Verteilung 183 – Wahrscheinlichkeit 172, 175 Benford’sches Gesetz 441 Bernoulli-Maß 29
Bernoulli-Verteilung 44 Bernstein-Chernov Absch¨atzung 112 Bernstein-Polynom 112 Berry-Esseen, Satz von 326 beschr¨ankt in Lp 139 Bessel-Prozess 582 Beta-Verteilung 47, 244, 317, 537 – Momente 110 Bienaym´e-Gleichung 106 Bildmaß 41 bin¨ar aufspaltender stochastischer Prozess 203 bin¨ares Modell 203 Binomialverteilung 44 Black-Scholes Formel 205 Black-Scholes Modell 574 Blackwell-Girshick 109 Blumenthal’sches 0-1 Gesetz 458 Bochner 312 Boltzmann-Verteilung 394, 523 Borel-Cantelli Lemma 53 – bedingte Version 230 Borel-Maß 247 Borel’scher Raum 186 Borel’sche σ-Algebra 9 Borel’sches Paradoxon 189 Box-Muller Methode 63 Brown’sche Bewegung 293, 456 – Existenzsatz 456 – kanonische 473 – L´evy Charakterisierung 559 – Skalierungseigenschaft 457 Brown’sche Br¨ucke 457, 470, 471, 479, 580 Brown’sches Blatt 471 c`adl`ag 464 Call 204
616
Sachregister
Carath´eodory 19 Cauchy-Schwarz’sche Ungleichung 107 – bedingte 181 Cauchy-Verteilung 47, 303, 566 Ces`aro-Limes 65 CFW 329 Chapman-Kolmogorov’sche Gleichung 291, 354 charakteristische Funktion 299, 529 – Inversionsformel 300 Chebyshev Polynom 403 Chebyshev’sche Ungleichung 110 Chernov Absch¨atzung siehe BernsteinChernov Absch¨atzung China-Restaurant Prozess 542 Cholesky-Faktorisierung 328 Chung-Fuchs, Satz von 371, 442 Claim 204 Continuous Mapping Theorem 257 Cox-Ingersoll-Ross Modell 578 Cox-Ross-Rubinstein’sches Modell 205 Cram´er-Lundberg’sche Ungleichung 215 Cram´er-Transformierte 510 Cram´er-Wold Device 327 Curie-Temperatur 394, 526 Curie-Weiss’sches Gesetz 526 detaillierte Balance 409 Diagonalfolgenargument 263 dicht 246 Dichte 13, 27, 46, 59, 93, 157 Dichtetransformationsformel – mehrdimensional 41 Differentiationslemma 143 Diffusionsprozess 555 Dirac-Maß 12 Dirichlet-Problem 564 – diskretes 407 Dirichlet’sches Prinzip 415 Dirichlet-Verteilung 537 domain of attraction 343 Donsker, Satz von 477 Doob’sche Regularisierung 464 Doob’sche Ungleichung 220 Doob-Zerlegung 207 Dreireihensatz 325 Drift 555 Dualit¨at 587 Dualraum 167
dynamisches System Dynkin-System 4
434
einfache Irrfahrt 410 Einheitsmasse 12 Einschluss- Ausschlussformel 15 Einschr¨ankung 11 Eintrittszeit 363 elektrischer Fluss 411 Elementarfunktion 39 empirische Verteilung 243 empirische Verteilungsfunktion 117 Entropie 118, 120, 517 – relative 517 Ereignis 17, 43 – invariantes 74 Ergodensatz – Individueller (Birkhoff) 437 – Statistischer (von Neumann) 439 ergodisch 434 Erwartungswert 103 Erzeugendenfunktion 79 Erzeuger 6 erzeugte σ-Algebra 6, 34 Etemadi – Ungleichung von 124 Euler’sche Primzahlformel 52 Explosion 361 Exponentialverteilung 46 f.a. siehe fast alle Faktorisierungslemma 40 Falle 406 Faltung – Dichten 280 – diskrete Verteilungen 61 – Maße auf Rn 62, 280 Faltungshalbgruppe 294 F¨arbungssatz 535 fast alle 32 fast sicher 32 fast u¨ berall 32 Fatou, Lemma von 95 Feinheit 488 Feller-Eigenschaft 465 – starke 586 Feller-Prozess 466 Feller’sche Halbgruppe 465
Sachregister Feller’sche Verzweigungsdiffusion 483, 578, 591 Filtration 193 – rechtsstetige 464 – u¨ bliche Bedingungen 464 de Finetti, Satz von 241, 269 Fischer-Riesz, Satz von 153 Fluchtwahrscheinlichkeit 417 Fluss 411 Fortsetzungssatz f¨ur Maße 19, 24 Fourier-Inversionsformel 300 Fourier-Reihen 156 Fr´echet-Shohat, Satz von 318 freie Energie 524 Frobenius Problem 383 f.s. siehe fast sicher f.¨u. siehe fast u¨ berall Fubini, Satz von 279 – f¨ur Itˆo-Integrale 563 ¨ – f¨ur Ubergangskerne 284 Funktionaler Zentraler Grenzwertsatz 476 Galton-Watson-Prozess 85 – Reskalierung 480 Gambler’s Ruin 214, 401 Gamma-Verteilung 46 – L´evy-Maß 336 – Subordinator 538 Ged¨achtnislosigkeit der Exponentialverteilung 174 GEM-Verteilung 540, 542 gemeinsame Verteilung 58 gemeinsame Verteilungsfunktion 58 Generator 359 geometrische Brown’sche Bewegung 574 geometrische Verteilung 45 Gesetz der großen Zahl – Konvergenzraten 121 – schwaches 110 – starkes 110, 114, 239 gestoppter Prozess 212 Gewichtsfunktion 13 Gibbs-Sampler 397 gitterverteilt 308 gleichgradig gleichm¨aßig stetig 309 gleichgradig integrierbar 136 Gleichverteilung 13, 33 gleitendes Mittel 193, 434 Graph 67
617
Greenfunktion 365, 407 – Tabelle 373 Gronwall Lemma 575 große Abweichungen 509 gr¨oßenverzerrte Verteilung 269 Haar-Funktionen 468 Hahn’scher Zerlegungssatz 163 Halbring 3 halbstetig von unten 512 haploid 357 harmonische Funktion 374, 406 harmonisches Maß 565 Hartman-Wintner, Satz von 505 Hauptsatz der Differential- und Integralrechnung 251 heat bath algorithm 397 Hedge 204 Helly, Satz von 263 Helmholtz-Potential 524 Hilbertraum 153 Hilbert-Schmidt Norm 574 Hilbert-Schmidt Operator 285 H¨older’sche Ungleichung 152 H¨older-stetig 450 Hopf 437 hypergeometrische Verteilung 45 identisch verteilt 43 i.i.d. siehe u.i.v. Indikatorfunktion 5 Inhalt 12 Inneres 246 integrierbar 90 Integral 87, 88, 90, 91 – Lebesgue 93, 98 – Riemann 98 – stochastisches 469, 470 integrierbar 103 – quadrat 103 – stochastischer Prozess 192 Intensit¨atsmaß 528 invariantes Ereignis 434 Invarianzprinzip von Donsker 477 inverse Temperatur 523 Inversionsformel 300 Irrfahrt 348 – auf einem Graphen 410 – Greenfunktion (Tabelle) 373
618
Sachregister
– in zuf¨alliger Umgebung 431 – Range 441 – Rekurrenz 367 – Satz von Chung-Fuchs 442 – Satz von P´olya 368 – symmetrische 192 Ising-Modell 393, 398 Iterierter Logarithmus – Brown’sche Bewegung 497 – Hartman-Wintner 505 Itˆo-Formel 557 – diskrete 210 – mehrdimensionale 563 – pfadweise 557 Itˆo-Integral 549 – Produktregel 562 – Satz von Fubini 563 Jensen’sche Ungleichung Jordan, Satz von 164
150, 179
kanonische Brown’sche Bewegung 473 kanonischer Prozess 275 kanonisches Maß 334, 337, 534 Kantenperkolation 67, 405 Kaufoption 204 Kelvin siehe Thomson Kesten-Stigum, Satz von 232 Khinchin’sches Gesetz vom iterierten Logarithmus 505 Kirchhoff’sches Gesetz 411 Kolmogorov-Chentsov, Satz von 452 Kolmogorov’sche Ungleichung 122 Kolmogorov’scher Dreireihensatz 325 Kolmogorov’scher Erweiterungssatz 289 Kolmogorov’sches 0-1 Gesetz 65 Kolmogorov’sches Kriterium f¨ur schwache Relativkompaktheit 476 Kolmogorov-Smirnov Test 479 komplementstabil 1 konkave Funktion 148 Kontraktionsprinzip 520 Konvergenz – dem Maße nach 132 – fast sichere 132 – fast u¨ berall 132 – im Mittel 133 – im p-ten Mittel 146 – in Verteilung 255
– majorisierte 142 – schnelle 134 – schwache 82, 252 – stochastische 132 – vage 252 – von Verteilungsfunktionen 256 konvexe Funktion 148 konvexe Menge 147 Koordinatenabbildung 274 Kopplung 69, 385 Kopplung aus der Vergangenheit 399 korreliert 104 Kovarianz 104 Kovarianzfunktion 457 Kullback-Leibler Information 517 Ladungsverteilung 162 λ-System siehe Dynkin-System langsam variierend 343 Laplace-Operator 561 Laplace-Raum 13 Laplace-Transformation 144, 298, 481, 529 Large Deviations siehe Prinzip großer Abweichungen LDP siehe Prinzip großer Abweichungen Lebesgue-Borel-Maß siehe LebesgueMaß Lebesgue-Integral 93 Lebesgue-Maß 26, 33 Lebesgue’scher Konvergenzsatz 142 Lebesgue’scher Zerlegungssatz 158 Lebesgue-Stieltjes Integral 486 Lebesgue-Stieltjes-Maß 26 Legendre-Transformierte 509 Leistung (elektrisches Netzwerk) 415 Leitf¨ahigkeit 410 L´evy-Abstand 258 L´evy-Khinchin Formel 334, 337 – f¨ur zuf¨allige Maße 535 L´evy-Maß 334, 337 – allgemeine stabile Verteilung 342 – Cauchy-Verteilung 340 – Gamma-Verteilung 336 – symmetrische stabile Verteilung 341 L´evy’scher Stetigkeitsmodul 500 L´evy’scher Stetigkeitssatz 310 Limes inferior 5 Lindeberg-Bedingung 320
Sachregister Lindvall, Satz von 485 Lipschitz-stetig 249 logarithmische momentenerzeugende Funktion 509 Log-Normalverteilung 298 lokal beschr¨ankt 201 lokal endlich 247 lokales Martingal 490 lokalisierende Folge 490 lokalkompakt 246 Lokalzeit 209 Lp -beschr¨ankt 139 Lusin 250 Lusin, Satz von 42 LV 162 Lyapunov-Bedingung 320 Markoveigenschaft – elementare 347 – schwache 348 – starke 352 Markovkern 182 Markovkette 348 – aperiodische 382 – diskrete 354 – invariante Verteilung 374 – invariantes Maß 374 – irreduzibel 366 – Konvergenzgeschwindigkeit 399 – Konvergenzsatz 391 – Kopplung 386 – Monte Carlo Methode 392 – nullrekurrent 364 – Periode eines Punktes 382 – positiv rekurrent 364 – rekurrent 364 – reversible 409 – schwach irreduzibel 366 – transient 364 – unabh¨angiges Verschmelzen 387 Markovprozess 348 Markov’sche Halbgruppe 291 Markov’sche Ungleichung 110 – bedingte 181 Martingal 196 – Konvergenzsatz (L1 ) 223 – Konvergenzsatz (Lp ) 224 – Konvergenzsatz (f.s.) 222 – Konvergenzsatz (r¨uckw¨arts) 239
– Konvergenzs¨atze (RCLL) 466 – lokales 490 – quadratische Variation 208 – R¨uckw¨arts- 238 Martingaldarstellungssatz 560 Martingalproblem 583 – diskretes 358 – gut gestelltes 585 Martingaltransformierte 200 Maß 12 – a¨ ußeres 21 – Bernoulli 29 – Borel 247 – Einschr¨ankung 33 – harmonisches 565 – invariantes 374 – Lebesgue 26 – lokal endliches 247 – Produkt- 29, 290 – Radon 247 – regul¨ares 247 – σ-endliches 12 – signiertes 162 – station¨ares 374 – Wahrscheinlichkeits- 12 Maßraum 17 maßtreue Abbildung 434 Maximal-Ergodenlemma 437 MCMC 392 mean field 525 mehrstufiges Binomialmodell 205 Mellin-Transformierte 301 messbar – Abbildung 34 – Borel 9 – Lebesgue 33 – μ– 22 – Menge 17 Messraum 17 – Isomorphie 186 Metrik – auf C([0, ∞)) 472 – L´evy 258 – Prohorov 252 – stochastische Konvergenz 133 – vollst¨andige 246 – Wasserstein 386 metrisierbar 246
619
620
Sachregister
Metropolis-Algorithmus 393 Minkowski’sche Ungleichung 152 mischend 445 Modifikation 449 Momente 103 – absolute 103 Momentenproblem 315 monoton 12 Monotonieprinzip von Rayleigh 414 Monte Carlo Simulation 117 Moran-Gamma-Subordinator 538 Moran-Modell 357 de Morgan’sche Regeln 2 moving average 434 negative Binomialverteilung 45, 81 Niveaumenge 512 Normalverteilung 46 – mehrdimensionale 46, 327 Nullmenge 32 nullrekurrent 364 offen 8 Ohm’sches Gesetz 411 Optional Sampling Theorem 211, 216 – stetige Zeit 455 Optional Stopping Theorem 212 – stetige Zeit 455 Ornstein-Uhlenbeck Prozess 573 orthogonale Polynome 404 orthogonales Komplement 154 Parseval’sche Gleichung 467 partiell stetig 310 Partitionsfunktion 394, 523 Pascal-Verteilung 45 perfekte Simulation 398 Periode 382 Perkolation 66, 405 Petersburger Spiel 96, 193, 201 Pfad 451 pfadweise eindeutig 583 Phasen¨ubergang 394, 526 π-System siehe schnittstabil Plancherel’sche Gleichung 301 Poisson-Approximation 83 Poisson-Dirichlet-Verteilung 539, 542 Poissonprozess 126, 349 Poisson’sche Summationsformel 463
Poisson’scher Punktprozess 529 Poisson-Verteilung 45 – zusammengesetzte 331 polare Menge 568 Polarisationsformel 489 polnischer Raum 187, 247 P´olya, Satz von 311, 368 P´olya’sches Urnenmodell 244, 290, 537 – verallgemeinertes 361, 363 Portemanteau-Theorem 254 positiv rekurrent 364 positiv semidefinit 312 Pr¨afixcode 119 Pr¨amaß 12 previsibel 193, 548 Prinzip großer Abweichungen 513 Produktmaß 28, 29, 278, 288, 290 produktmessbar 548 Produktraum 274 Produkt-σ-Algebra 274 Produkttopologie 274 progressiv messbar 548 Prohorov 261 Prohorov-Metrik 252, 391 projektive Familie 288 projektiver Limes 289 Propp-Wilson Algorithmus 398 Punkte trennend 296 Punktperkolation 67 Q-Matrix 359 Quader 9 quadratintegrierbar 103 quadratische Variation 488 quadratischer Kovariationsprozess 495 quadratischer Variationsprozess 208, 492 Quellenkodierungssatz 120 Radon-Maß 247 Radon-Nikodym-Ableitung 159 Rand 246 random walk in random environment 431 Ratenfunktion 508, 513 Rayleigh’sches Monotonieprinzip 414 RCLL 464 Rechteckzylinder 276 Reflexionsprinzip 353 – Brown’sche Bewegung 462
Sachregister regul¨are Version der bedingten Verteilung 183 Regularit¨at von Maßen 31, 247 Rejection Sampling 189 rekurrent 364 relativ kompakt 246 replizierbar 204 reversibel 393, 409 Riemann-Integral 98 Riemann’sche Zetafunktion 52 Ring 3 risikoneutral 205 R¨uckw¨artsmartingal 238 Satz – Approximation von Maßen 30 – Arzel`a-Ascoli 474 – Beppo Levi 95 – Berry-Esseen 326 – Bochner 312 – Borel-Cantelli Lemma 53 – – bedingte Version 230 – Carath´eodory 19, 24 – Choquet-Deny 390 – Chung-Fuchs 371, 442 – Continuous Mapping Theorem 257 – Cram´er 509, 515 – Donsker 477 – Dreireihen 325 – Egorov 136 – Etemadi 114 – Fatou’sches Lemma 95 – de Finetti 241, 269 – Fischer-Riesz 153 – Fortsetzung zu Maßen 19, 24 – Fr´echet-Shohat 318 – Fubini 279 – Fubini f¨ur Itˆo-Integrale 563 ¨ – Fubini f¨ur Ubergangskerne 284 – Glivenko-Cantelli 117 – große Abweichungen 509 – Hahn’scher Zerlegungssatz 163 – Hartman-Wintner 505 – Hauptsatz der Differential- und Integralrechnung 251 – Helly 263 – Hewitt-Savage 240 – Ionescu-Tulcea 287 – iterierter Logarithmus 498, 505
– – – – – – –
621
Jordan’scher Zerlegungssatz 164 Kantorovich-Rubinstein 386 Kesten-Stigum 232 Kolmogorov-Chentsov 452 Kolmogorov’sche Ungleichung 122 Kolmogorov’scher Dreireihensatz 325 Kolmogorov’scher Erweiterungssatz 289 – Kolmogorov’sches Kriterium f¨ur schwache Relativkompaktheit 476 – Lebesgue’scher Zerlegungssatz 158 – L´evy-Khinchin 334, 337 – Lindeberg-Feller 321 – Lindvall 485 – Lusin 42, 250 – majorisierte Konvergenz 142 – Martingalsdarstellung 560 – monotone Konvergenz 95 – Optional Sampling 211, 216 – Optional Sampling, stetige Zeit 455 – Optional Stopping 212 – Optional Stopping, stetige Zeit 455 – Paley-Wiener-Zygmund 459 – π–λ 7 – Poisson-Approximation 83 – P´olya 311, 368 – Portemanteau 254 – Prohorov 261 – Quellenkodierungssatz 120 – Rademacher–Menshov 123 – Radon-Nikodym 159, 227 – Rayleigh’sches Monotonieprinzip 414 – regul¨are bedingte Verteilungen 183, 187 – Sanov 518 – Shannon 118 – Skorohod’sche Einbettung 500 – Slutzky 255 – Solomon 431 – Stetigkeitssatz von L´evy 310 – Stone-Weierstraß 296 – Stroock-Varadhan 586 – Thomson’sches Prinzip 415 – Varadhan’sches Lemma 521 – Yamada-Watanabe 578 – Zentraler Grenzwertsatz 319 Schauderfunktionen 468 Schema von Zufallsvariablen 320
622
Sachregister
schnittstabil 1 schwache Konvergenz 252 schwache L¨osung 580 schwache Topologie 252 SDGL siehe stochastische Differentialgleichung Semiring 3 separabel 246 Shannon 118 Shift 436 σ-additiv 12 σ-Algebra 2 – austauschbare 235 – der τ -Vergangenheit 195 – invariante 434 – Produkt- 274 – terminale 63, 236 σ-kompakt 246 σ-Ring 3 σ-subadditiv 12 signiertes Maß 162 singul¨ar 158 Skalarprodukt 153 Skorohod’scher Einbettungssatz 500 Slutzky, Satz von 255 Spannung 411 Spektrall¨ucke 400 Spiegelungsprinzip 353 Spielstrategie 201 Spin 393 Spur 11 stabile Verteilung 312, 341 – im weiteren Sinne 342 Standardabweichung 103 starke L¨osung 572 starke Markoveigenschaft 352 station¨ar 433 stetig von oben/ unten 16 Stetigkeitslemma 143 Stetigkeitsmodul, L´evy’scher 500 Stetigkeitssatz, L´evy’scher 310 Stirling’sche Formel 315, 509 stochastisch gr¨oßer 385 Stochastische Differentialgleichung – pfadweise Eindeutigkeit 583 – schwache L¨osung 580 – starke L¨osung 572
– starke L¨osung unter LipschitzBedingungen 575 stochastische Differentialgleichung 571 stochastische Kerne – Produkt 282 stochastische Matrix 355 stochastische Ordnung 385 stochastischer Kern 182 – Halbgruppe 291 – konsistente Familie 291 – Verkettung 283 stochastischer Prozess 191 – adaptiert 193 – bin¨ar aufspaltender 203 – Dualit¨at 587 – Explosion 361 – Galton-Watson 85, 230 – Gauß’scher 192, 457 – gestoppter 212 – integrierbarer 192 – Markoveigenschaft 347 – Modifikation 449 – Pfad 451 – Poisson 349 – previsibler 193, 548 – produktmessbarer 548 – progressiv messbarer 548 – starke Markoveigenschaft 352 – station¨arer 192 – station¨are Zuw¨achse 192 – unabh¨angige Zuw¨achse 192 – ununterscheidbar 449 – Version 449 – vorhersagbarer 193, 548 stochastisches Integral 469, 470 – diskretes 200 Stone-Weierstraß, Satz von 296 Stoppzeit 194 straff 261 Stratonovich-Integral 564 Streuung 103 Stromst¨arke 411 Student’sche t-Verteilung 330 Sub-Wahrscheinlichkeitsmaße 248 subadditiv 12 subharmonisch 374 Submartingal 196 Subordinator 534
Sachregister Supermartingal 196 symmetrische Differenz 30 symmetrische einfache Irrfahrt
192
tail σ-field siehe terminale σ-Algebra terminale σ-Algebra 63, 236 Thomson’sches Prinzip 415 Topologie 8 – schwache 252 – vage 252 topologischer Raum 8 total beschr¨ankt 247 totale Wahrscheinlichkeit 172 totalstetig 160 Totalvariationsnorm 164 Transformationsformel 41 transient 364 translationsinvariant 356 trennende Familie 249 Treppenfunktion 97 Tschebyscheff siehe Chebyshev Turmeigenschaft 176 t-Verteilung 330 ¨ Ubergangskern 182 ¨ Ubergangsmatrix 354 ¨ Ubergangswahrscheinlichkeiten 348 u¨ bliche Bedingungen 464 u.i.v. 57 unabh¨angige Inkremente siehe unabh¨angige Zuw¨achse unabh¨angige Kopie 385 unabh¨angige Zuw¨achse 529 Unabh¨angigkeit – bedingte 241 – von Ereignissen 51 – von Mengensystemen 55 – von Zufallsvariablen 57 unbegrenzt teilbar 329 – zuf¨alliges Maß 534 Ungleichung – Azuma 200 – Bernstein-Chernov 112 – Cauchy-Schwarz 107 – Chebyshev 110 – Chernov siehe Bernstein-Chernov – Doob 220 – Etemadi 124 – H¨older 152
– Jensen 150 – Kolmogorov 122 – Markov siehe Chebyshev – Minkowski 152 – Young 152 uniforme Verteilung 33 unkorreliert 104 Unstetigkeitsstellen 11 ununterscheidbar 449 vage Konvergenz 252 vage Topologie 252 Varadhan’sches Lemma 521 Varianz 103 Variation 486 – p - 488 – quadratische 488 Verkettung von Kernen 283 Version 449 Verteilung 43 – Anziehungsbereich 343 – Bernoulli 44 – Beta 47, 244, 317, 537 – binomial 44 – Boltzmann 394 – Cauchy 47, 303, 566 – compound Poisson 331 – Exponential- 46 – Gamma 46, 317 – GEM 540, 542 – geometrische 45 – hypergeometrische 45 – negativ binomial 45, 81 – Normal 46 – Pascal 45, 81 – Poisson 45 – Poisson-Dirichlet 537, 539, 542 – stabile 341 – t- 330 – uniforme 12, 33 – zusammengesetzt Poisson 331 – zweiseitig exponential 303 Verteilungsfunktion 21, 27 – einer Zufallsvariablen 43 – empirische 117 Vervollst¨andigung 32 Verwerfungsmethode 189 Verzweigungsprozess 85, 230 Vitali-Menge 9
623
624
Sachregister
vollst¨andig 32, 246 vorhersagbar 193, 548 voter model siehe W¨ahlermodell
– wechselwirkende
W¨ahlermodell 226 Wahrscheinlichkeitsmaß 12 Wahrscheinlichkeitsraum 17 Wahrscheinlichkeitsvektor 13 Wald’sche Identit¨at 105 Wasserstein Metrik 386 Watson Integral 372 Weierstraß’scher Approximationssatz 112 Weiss’scher Ferromagnet 524 Widerstand 411 Wiener-Prozess 473 W-Maß siehe Wahrscheinlichkeitsmaß Wright’sches Evolutionsmodell 357 Wright-Fisher Diffusion 588
Zentraler Grenzwertsatz 319 – Berry-Esseen 326 – Lindeberg-Feller 321 – mehrdimensional 328 zentriert 103 Zerlegungsfolge, zul¨assige 487 zuf¨alliges Maß 528 Zufallsvariable 43 zul¨assige Zerlegungsfolge 487 zusammengesetzte Poissonverteilung Zustandssumme 394, 523 Zweistufenexperiment 273 Zylindermenge 18, 276 Z¨ahlmaß 13
592
Young’sche Ungleichung
152
331
