Gesetz der großen Zahlen

Visualisierung des Gesetzes der großen Zahlen: Auf der y-Achse ist die relative Häufigkeit einer gewürfelten Sechs aufgetragen, während auf der x-Achse die Anzahl der Durchgänge angegeben ist. Die horizontale graue Linie zeigt die Wahrscheinlichkeit eines Sechserwurfes von 16,67 % (=1/6), die schwarze Linie den in einem konkreten Experiment gewürfelten Anteil aller Sechserwürfe bis zur jeweiligen Anzahl der Durchgänge.

Als Gesetze der großen Zahlen werden bestimmte mathematische Sätze aus der Stochastik bezeichnet.

In ihrer einfachsten Form besagen diese Sätze, dass sich die relative Häufigkeit eines Zufallsergebnisses in der Regel der Wahrscheinlichkeit dieses Zufallsergebnisses annähert, wenn das zu Grunde liegende Zufallsexperiment immer wieder unter denselben Voraussetzungen durchgeführt wird. Formal handelt es sich also um Konvergenzsätze für Zufallsvariable, zumeist unterteilt in „starke“ (fast sichere Konvergenz) und „schwache“ (Konvergenz in Wahrscheinlichkeit) Gesetze der großen Zahlen.

Beispiel: Wurf einer Münze

Die Wahrscheinlichkeit, dass eine Münze beim Werfen Kopf zeigt, betrage ½. Je häufiger die Münze geworfen wird, desto unwahrscheinlicher wird es, dass der Anteil der Würfe, bei denen Kopf erscheint (also die relative Häufigkeit des Ereignisses „Kopf“), um mehr als einen beliebigen vorgegebenen Wert von der theoretischen Wahrscheinlichkeit ½ abweicht. Dagegen ist es durchaus wahrscheinlich, dass die absolute Differenz zwischen der Anzahl der Kopf-Würfe und der halben Gesamtzahl der Würfe anwächst.

Insbesondere besagen diese Gesetze der großen Zahlen nicht, dass ein Ereignis, welches bislang nicht so häufig eintrat wie erwartet, seinen „Rückstand“ irgendwann ausgleichen und folglich in Zukunft häufiger eintreten muss. Dies ist ein bei Roulette- und Lottospielern häufig verbreiteter Irrtum, die „säumige“ Zahlenart müsse nun aber aufholen, um wieder der statistischen Gleichverteilung zu entsprechen.

Angenommen, eine Serie von Münzwürfen beginne mit „Kopf“, „Zahl“, „Kopf“, „Kopf“. Dann wurde „Kopf“ bis dahin dreimal geworfen, „Zahl“ einmal. „Kopf“ hat gewissermaßen einen Vorsprung von zwei Würfen. Nach diesen vier Würfen ist die relative Häufigkeit von „Kopf“ ¾, die von „Zahl“ ¼. Nach 96 weiteren Würfen stelle sich ein Verhältnis von 49 Mal „Zahl“ zu 51 Mal „Kopf“ ein. Der Vorsprung von „Kopf“ ist also nach 100 Würfen genauso groß wie nach vier Würfen, jedoch hat sich der relative Abstand von „Kopf“ und „Zahl“ stark verringert, beziehungsweise – und das ist die Aussage des Gesetzes der großen Zahlen – der Unterschied der relativen Häufigkeit von „Kopf“ zum Erwartungswert von „Kopf“. Der Wert $\textstyle {\frac {51}{100}}=0{,}51$ liegt sehr viel näher beim Erwartungswert 0,5 als ¾ = 0,75.

Praktische Bedeutung

Versicherungswesen

Das Gesetz der großen Zahlen hat bei Versicherungen eine große praktische Bedeutung. Es erlaubt eine ungefähre Vorhersage über den künftigen Schadensverlauf. Je größer die Zahl der versicherten Personen, Güter und Sachwerte, die von der gleichen Gefahr bedroht sind, desto geringer ist der Einfluss des Zufalls. Das Gesetz der großen Zahlen kann aber nichts darüber aussagen, wer im Einzelnen von einem Schaden getroffen wird. Unvorhersehbare Großereignisse und Trends wie der Klimawandel, die die Berechnungsbasis von Durchschnittswerten verändern, können das Gesetz zumindest teilweise unbrauchbar machen.

Medizin

Beim Wirksamkeitsnachweis von medizinischen Verfahren kann man es nutzen, um Zufallseinflüsse auszuschalten.

Naturwissenschaften

Der Einfluss von (nicht systematischen) Messfehlern kann durch häufige Versuchwiederholungen reduziert werden.

Siehe auch: Gesetz der kleinen Zahlen

Schwaches Gesetz der großen Zahlen

Man sagt, eine Folge von Zufallsvariablen $X_{1},X_{2},X_{3},\dots$ in ${\mathcal {L}}^{1}$ genüge dem schwachen Gesetz der großen Zahlen, wenn für ${\overline {X}}_{n}={\tfrac {1}{n}}\textstyle \sum \limits _{i=1}^{n}(X_{i}-E({X}_{i}))$ für alle positiven Zahlen $\varepsilon$ gilt:

$\lim _{n\rightarrow \infty }\operatorname {P} \left(\left|{\overline {X}}_{n}\right|>\varepsilon \right)=0\,,$

also wenn die arithmetischen Mittel der zentrierten Zufallsvariablen $X_{i}-E(X_{i})$ stochastisch gegen $0$ konvergieren. Im häufigen Fall, dass alle $X_{i}$ den gleichen Erwartungswert $\mu$ besitzen, ist das gleichbedeutend damit, dass die arithmetischen Mittel $\textstyle {\frac {1}{n}}\sum _{i=1}^{n}X_{i}$ der $X_{i}$ stochastisch gegen $\mu$ konvergieren.

Es gibt verschiedene Voraussetzungen, unter denen das schwache Gesetz der großen Zahlen gilt. Es gilt beispielsweise, wenn die Zufallsvariablen $X_{1},X_{2},X_{3},\dots$ endliche Varianzen $\sigma _{1}^{2},\sigma _{2}^{2},\sigma _{3}^{2}\dots$ besitzen, die zudem durch eine gemeinsame obere Grenze beschränkt sind, und jeweils paarweise unkorreliert sind, also $\operatorname {Cov} (X_{i},X_{j})=0$ für $i\neq j$ erfüllen.

Das schwache Gesetz der großen Zahlen von Chintschin nennt als Bedingung für die stochastische Konvergenz, dass die Zufallsvariablen einer Folge $X_{1},X_{2},X_{3},\dots$ unabhängig und identisch verteilt sind und einen endlichen Erwartungswert besitzen.

Der Beweis der genannten Sätze lässt sich jeweils über die Tschebyscheff-Ungleichung führen.

Starkes Gesetz der großen Zahlen

Man sagt, eine Folge von Zufallsvariablen $X_{1},X_{2},X_{3},\dots$ in ${\mathcal {L}}^{1}$ genüge dem starken Gesetz der großen Zahlen, wenn für ${\overline {X}}_{n}={\tfrac {1}{n}}\textstyle \sum \limits _{i=1}^{n}(X_{i}-E({X}_{i}))$ gilt:

$\operatorname {P} \left(\limsup _{n\rightarrow \infty }|{\overline {X}}_{n}|=0\right)=1$,

also wenn die arithmetischen Mittel der zentrierten Zufallsvariablen $X_{i}-E(X_{i})$ fast sicher gegen $0$ konvergieren. Wenn alle $X_{i}$ den gleichen Erwartungswert $\mu$ besitzen, ist das gleichbedeutend damit, dass die arithmetischen Mittel $\textstyle {\frac {1}{n}}\sum _{i=1}^{n}X_{i}$ der $X_{i}$ fast sicher gegen $\mu$ konvergieren.

Unter der Annahme, dass die vierten Momente exisieren, ist der Beweis des starken Gesetzes der großen Zahlen für Folgen von unabhängigen, identisch verteilten Zufallsvariablen mit Hilfe der Markow-Ungleichung relativ elementar möglich. Schwierigkeiten ergeben sich eher bei der Interpretation der formalen Aussagen, die Gegenstand des starken Gesetzes der großen Zahlen sind.

Das starke Gesetz der großen Zahlen impliziert das schwache Gesetz der großen Zahlen. Ein starkes Gesetz der großen Zahlen gilt beispielsweise, wenn die Folge unabhängig ist und die Zufallsvariablen identisch verteilt sind (Zweites Gesetz der Großen Zahlen nach Kolmogorow). Eine Form des starken Gesetzes der großen Zahlen für abhängige Zufallsvariablen ist der Ergodensatz.

Interpretation der formalen Aussagen

Anders als bei klassischen Folgen, wie sie in der Analysis untersucht werden, kann es in der Wahrscheinlichkeitstheorie in der Regel keine absolute Aussage über die Konvergenz einer Folge von Zufallsergebnissen geben. Grund ist, dass zum Beispiel bei einer Serie von Würfelversuchen Folgen von Zufallsergebnissen wie 6, 6, 6, ... nicht ausgeschlossen sind. Bei einer solchen Folge von Zufallsergebnissen würde die Folge der daraus gebildeten arithmetischen Mittel aber nicht gegen den Erwartungswert 3,5 konvergieren. Allerdings besagt das starke Gesetz der großen Zahlen, dass das Ereignis, bei dem die arithmetischen Mittelwerte nicht gegen den Erwartungswert 3,5 konvergieren, die Wahrscheinlichkeit 0 besitzt.

Gegenstand der Gesetze der großen Zahlen ist die zu einer gegebenen Folge von Zufallsvariablen $X_{1},X_{2},X_{3},\dots$ gebildete Folge der arithmetischen Mittel der zentrierten Zufallsvariablen

${\overline {X}}_{1}=X_{1}-E(X_{1}),\;{\overline {X}}_{2}={\tfrac {1}{2}}((X_{1}-E(X_{1}))+(X_{2}-E(X_{2}))),\;{\overline {X}}_{3}={\tfrac {1}{3}}((X_{1}-E(X_{1}))+\dots +(X_{3}-E(X_{3}))),\dots$

Aufgrund der beschriebenen Problematik muss die formale Charakterisierung der Konvergenz dieser Folge ${\overline {X}}_{1},{\overline {X}}_{2},{\overline {X}}_{3},\dots$ gegen den Wert 0 nicht nur, wie bei einer klassischen Folge von Zahlen, von einem beliebig klein vorgegebenen Toleranzabstand $\varepsilon >0$ ausgehen. Zusätzlich wird eine beliebig kleine Toleranzwahrscheinlichkeit $p_{max}>0$ vorgegeben. Die Aussage des schwachen Gesetzes der großen Zahlen bedeutet dann, dass zu jeder beliebigen Vorgabe eines Toleranzabstands und einer Toleranzwahrscheinlichkeit bei genügend groß gewähltem Index $n$ eine Abweichung $|{\overline {X}}_{n}-0|=|{\overline {X}}_{n}|$, die den Toleranzabstand $\varepsilon$ überschreitet, höchstens mit der Wahrscheinlichkeit $p_{max}$ eintritt. Demgegenüber bezieht sich das starke Gesetz der großen Zahlen auf das Ereignis, dass irgendeine der Abweichungen $|{\overline {X}}_{n}|,|{\overline {X}}_{n+1}|,|{\overline {X}}_{n+2}|,\dots$ den Toleranzabstand $\varepsilon$ überschreitet.

Geschichte der Gesetze der großen Zahlen

Erstmals formuliert wurde ein Gesetz der großen Zahlen durch Jakob Bernoulli im Jahr 1689, wobei die posthume Veröffentlichung erst 1713 erfolgte. Bernoulli bezeichnete seine Version des schwachen Gesetzes der großen Zahlen als Goldenes Theorem. Die erste Version eines Gesetzes der großen Zahlen für den Spezialfall eines Münzwurfs wurde 1909 durch Émile Borel veröffentlicht. 1917 bewies Francesco Cantelli als Erster eine allgemeine Version des starken Gesetzes der großen Zahlen.

Einen gewisssen Abschluss erlangte die Geschichte des starken Gesetzes der großen Zahlen mit dem 1981 bewiesenen Satz von N. Etemadi 1981. Der Satz von Etemadi zeigt die Gültigkeit des starken Gesetzes der großen Zahlen unter der Annahme, dass die Zufallsvariablen integrierbar sind (also einen endlichen Erwartungswert besitzen), jeweils dieselbe Verteilung haben und je zwei Zufallsvariablen unabhängig sind. Die Existenz einer Varianz wird nicht vorausgesetzt.

Literatur

• Jörg Bewersdorff: Statistik – wie und warum sie funktioniert. Ein mathematisches Lesebuch. Vieweg+Teubner Verlag 2011, ISBN 978-3834817532, doi:10.1007/978-3-8348-8264-6.
• Rick Durrett: Probability – Theory and Examples, 3rd ed., Duxbury, 2004.
• Hans-Otto Georgii: Stochastik, 4. Auflage, de Gruyter, 2009, ISBN 978-3110215267, doi:10.1515/9783110215274.
• Karl Mosler, Friedrich Schmid: Wahrscheinlichkeitsrechnung und schließende Statistik, 2. Auflage, Springer, 2006, ISBN 978-3-540-27787-3, doi:10.1007/3-540-29441-4
• Klaus D. Schmidt: Maß und Wahrscheinlichkeit. Springer-Verlag, Berlin [u.a.] 2009, ISBN 978-3-540-89729-3, doi:10.1007/978-3-540-89730-9. 

Weblinks

• [Gesetz der großen Zahlen - Mathepedia]