Konvergenz in Wahrscheinlichkeit

aus Wikipedia, der freien Enzyklopädie
(Weitergeleitet von Stochastische Konvergenz)
Zur Navigation springen Zur Suche springen
Graph einer Versuchsreihe mit stochastischer Konvergenz der relativen Häufigkeit gegen einen Grenzwert

Die Konvergenz in Wahrscheinlichkeit, auch stochastische Konvergenz genannt, ist ein Begriff aus der Wahrscheinlichkeitstheorie, einem Teilgebiet der Mathematik. Die Konvergenz in Wahrscheinlichkeit ist das wahrscheinlichkeitstheoretische Pendant zur Konvergenz nach Maß in der Maßtheorie und neben der Konvergenz im p-ten Mittel, der Konvergenz in Verteilung und der fast sicheren Konvergenz einer der Konvergenzbegriffe in der Stochastik. Es finden sich auch Quellen, welche die Konvergenz in Wahrscheinlichkeit analog zur Konvergenz lokal nach Maß der Maßtheorie definieren. Die Konvergenz in Wahrscheinlichkeit findet beispielsweise Anwendung bei der Formulierung des schwachen Gesetzes der großen Zahlen.

Für reellwertige Zufallsvariablen

[Bearbeiten | Quelltext bearbeiten]

Eine Folge von reellen Zufallsvariablen konvergiert in Wahrscheinlichkeit oder stochastisch gegen die Zufallsvariable , wenn für jedes gilt, dass

ist. Man schreibt dann oder oder auch .

Für Zufallsvektoren

[Bearbeiten | Quelltext bearbeiten]

Eine Folge von Zufallsvektoren mit Werten in konvergiert in Wahrscheinlichkeit oder stochastisch gegen den -dimensionalen Zufallsvektor , wenn für jedes gilt, dass

ist, wobei eine Metrik auf ist. Man schreibt dann oder oder .
Die verwendete Metrik kann beispielsweise die euklidische Metrik, die Manhattan-Metrik oder die Maximum-Metrik sein. Sie erzeugen dasselbe Konzept der Konvergenz in Wahrscheinlichkeit für Zufallsvektoren.

Allgemeiner Fall

[Bearbeiten | Quelltext bearbeiten]

Seien ein separabler metrischer Raum und die zugehörige Borelsche σ-Algebra. Eine Folge von Zufallsvariablen auf einem Wahrscheinlichkeitsraum mit Werten in heißt konvergent in Wahrscheinlichkeit oder stochastisch konvergent gegen , wenn für alle gilt, dass

ist. Dabei wird die vorausgesetzte Separabilität benötigt, um die in der Definition verwendete Messbarkeit der Abbildung , sicherzustellen.

Animation – Urnenmodell mit Zurücklegen und gleicher Wahrscheinlichkeit für rote bzw. blaue Kugel

Seien unabhängige Rademacher-verteilte Zufallsvariablen, also . Dann ist und . Definiert man nun die Folge von Zufallsvariablen als

,

so ist aufgrund der Unabhängigkeit

und

.

Mit der Tschebyscheff-Ungleichung

erhält man dann die Abschätzung

.

Also konvergieren die in Wahrscheinlichkeit gegen 0. Neben der Tschebyscheff-Ungleichung ist die allgemeinere Markow-Ungleichung ein hilfreiches Mittel, um Konvergenz in Wahrscheinlichkeit zu zeigen.

  • Konvergiert stochastisch gegen 0 und konvergiert stochastisch gegen 0, so konvergiert auch stochastisch gegen 0.
  • Ist die reelle Zahlenfolge beschränkt und konvergiert stochastisch gegen 0, so konvergiert auch stochastisch gegen 0.
  • Man kann zeigen, dass eine Folge genau dann stochastisch gegen konvergiert, falls
das heißt die stochastische Konvergenz entspricht der Konvergenz bezüglich der Metrik . Der Raum aller Zufallsvariablen versehen mit dieser Metrik bildet einen topologischen Vektorraum, der im Allgemeinen nicht lokalkonvex ist.
  • Eine Folge von Zufallsvektoren mit Werten in konvergiert stochastisch gegen den -dimensionalen Nullvektor genau dann, wenn er komponentenweise stochastisch gegen Null konvergiert, wenn also
gilt, wobei die -te Komponente des Vektors bezeichnet.

Beziehung zu anderen Konvergenzarten der Stochastik

[Bearbeiten | Quelltext bearbeiten]

Allgemein gelten für die Konvergenzbegriffe der Wahrscheinlichkeitstheorie die Implikationen

und

.

Die Konvergenz in Wahrscheinlichkeit ist also ein mäßig starker Konvergenzbegriff. In den unten stehenden Abschnitten sind die Beziehungen zu den anderen Konvergenzarten genauer ausgeführt.

Konvergenz im p-ten Mittel

[Bearbeiten | Quelltext bearbeiten]

Aus der Konvergenz im p-ten Mittel folgt für unmittelbar die Konvergenz in Wahrscheinlichkeit. Dazu wendet man die Markow-Ungleichung auf die Funktion an, die für monoton wachsend ist, und die Zufallsvariable an. Dann folgt

,

was im Grenzwert gegen Null geht. Die Umkehrung gilt im Allgemeinen nicht. Ein Beispiel hierfür ist: sind die Zufallsvariablen definiert durch

mit . Dann ist

,

wenn . Also konvergiert die Folge für im Mittel gegen 0. Für beliebiges ist aber

. Also konvergiert die Folge für alle in Wahrscheinlichkeit gegen 0.

Ein Kriterium, unter dem die Konvergenz im p-ten Mittel aus der Konvergenz in Wahrscheinlichkeit gilt ist, dass eine Majorante mit existiert, so dass für alle gilt. Konvergieren dann die in Wahrscheinlichkeit gegen , so konvergieren sie auch im p-ten Mittel gegen . Allgemeiner lässt sich eine Verbindung zwischen der Konvergenz im p-ten Mittel und der Konvergenz in Wahrscheinlichkeit mittels des Konvergenzsatzes von Vitali und der gleichgradigen Integrierbarkeit im p-ten Mittel ziehen: Eine Folge konvergiert genau dann im p-ten Mittel, wenn sie gleichgradig integrierbar im p-ten Mittel ist und sie in Wahrscheinlichkeit konvergiert.

Fast sichere Konvergenz

[Bearbeiten | Quelltext bearbeiten]

Aus der fast sicheren Konvergenz folgt die Konvergenz in Wahrscheinlichkeit. Um dies zu sehen, definiert man die Mengen

.

Die bilden eine monoton wachsende Mengenfolge, und die Menge enthält die Menge

der Stellen, an denen die Folge konvergiert. Nach Voraussetzung ist und damit auch und demnach . Durch Komplementbildung folgt dann die Aussage.

Die Umkehrung gilt aber im Allgemeinen nicht. Ein Beispiel hierfür ist die Folge von unabhängigen Bernoulli-Verteilten Zufallsvariablen zum Parameter , also . Dann ist

für alle und somit konvergiert die Folge in Wahrscheinlichkeit gegen 0. Die Folge konvergiert aber nicht fast sicher, man zeigt dies mit dem hinreichenden Kriterium für fast sichere Konvergenz und dem Borel-Cantelli-Lemma.

Bedingungen, unter denen aus der Konvergenz in Wahrscheinlichkeit die fast sichere Konvergenz folgt, sind:

  • Die Konvergenzgeschwindigkeit der Konvergenz in Wahrscheinlichkeit ist ausreichend schnell, sprich, es gilt
.
  • Der Grundraum lässt sich als abzählbare Vereinigung von μ-Atomen darstellen. Dies ist bei Wahrscheinlichkeitsräumen mit höchstens abzählbarer Grundmenge immer möglich.
  • Ist die Folge der Zufallsvariablen fast sicher streng monoton fallend und konvergiert in Wahrscheinlichkeit gegen 0, so konvergiert die Folge fast sicher gegen 0.

Allgemeiner konvergiert eine Folge in Wahrscheinlichkeit genau dann, wenn jede Teilfolge eine weitere, fast sicher konvergente Teilfolge besitzt. Insbesondere besitzt jede in Wahrscheinlichkeit konvergierende Folge eine fast sicher konvergente Teilfolge (man wähle in „“ als Ausgangsteilfolge die ganze Folge).

Konvergenz in Verteilung

[Bearbeiten | Quelltext bearbeiten]

Aus Konvergenz in Wahrscheinlichkeit folgt nach dem Satz von Slutzky die Konvergenz in Verteilung, der Umkehrschluss gilt im Allgemeinen nicht. Ist beispielsweise die Zufallsvariable Bernoulli-verteilt mit Parameter , also

,

und setzt man für alle , so konvergiert in Verteilung gegen , da sie dieselbe Verteilung haben. Es gilt aber immer , die Zufallsvariablen können also nicht in Wahrscheinlichkeit konvergieren. Es existieren jedoch Kriterien, unter denen aus der Konvergenz in Verteilung die Konvergenz in Wahrscheinlichkeit folgt. Sind beispielsweise alle Zufallsvariablen auf demselben Wahrscheinlichkeitsraum definiert und konvergieren in Verteilung gegen die Zufallsvariable , die fast sicher konstant ist, so konvergieren die auch in Wahrscheinlichkeit gegen .