Varianz

Formelzeichen
$\mu$	Mittelwert der Grundgesamtheit
$\sigma ^{2}$	Varianz der Grundgesamtheit
$n$	Anzahl der gegebenen Werte
$X_{1},\ldots ,X_{n}$	Zufallsvariablen (Zufallsgrößen)
$x_{1},\ldots ,x_{n}$	Stichprobe: beobachtete Werte der $n$ Zufallsvariablen
${\overline {x}}$	Stichprobenmittel / empirischer Mittelwert von $x_{1},\ldots ,x_{n}$
$s^{2}$	Stichprobenvarianz / empirische Varianz von $x_{1},\ldots ,x_{n}$
${\overline {X}}$	Stichprobenmittel (als Funktion der Zufallsvariablen)
$S^{2}$	Stichprobenvarianz (als Funktion der Zufallsvariablen)
$\operatorname {E} (X)$	Erwartungswert: Mittelwert, der sich aus der Verteilungsfunktion von X ergibt
$\operatorname {Var} (X)$	Varianz (Stochastik): Varianz, die sich aus der Verteilungsfunktion von X ergibt

Die Varianz ist in der beschreibenden Statistik ein Maß für die Streuung von einer endlichen Anzahl von reellen Werten um ihren Mittelwert. Die Maßzahl kann auch als mittleres Abweichungsquadrat der Werte interpretiert werden. Sie wird in der beschreibenden Statistik auch als empirische („aus konkreten Daten berechnete“) Varianz bezeichnet. (→ Empirische Varianz). Die konkreten Daten ergeben sich häufig als Stichprobe aus einer Gesamtheit aller Daten (Population, Grundgesamtheit). Das führt zur alternativen Bezeichnung als Stichprobenvarianz.

Die Quadrierung der Abweichungen vom Mittelwert bewirkt bei einer endlichen Anzahl reeller Stichprobenwerte:

• Positive und negative Abweichungen vom Mittelwert heben sich nicht gegenseitig auf.
• Die Varianz einer Stichprobe ist immer positiv (oder Null).
• Eine größere Varianz entspricht einer größeren Unterschiedlichkeit der Werte.
• Wenige aber starke Ausreißer haben einen großen Einfluss auf das Ergebnis.

Die Varianz wird in der Stochastik (→ Varianz (Stochastik)) mathematisch allgemeiner behandelt. D.h. die empirische Varianz ist nur ein Spezialfall: Die Varianz basiert in der mathematischen Statistik auf Zufallsvariablen, also auf Funktionen, die dem Ergebnis eines Zufallsexperiments eine Größe zuordnen. Die Zufallsvariablen sind nicht begrenzt auf reelle Werte und die Anzahl der Werte zur Berechnung der Varianz kann auch unendlich sein. In der mathematischen Statistik ist die Varianz die erwartete quadratische Abweichung von Zufallsvariablen von ihrem Erwartungswert. Sie wird daher zur Abgrenzung auch als theoretische Varianz bezeichnet.

Durch die Verallgemeinerung können besondere Fälle auftreten:

• Es gibt Zufallsvariablen, die auf Wahrscheinlichkeitsverteilungen basieren, für die die Varianz nicht definiert ist (z.B. Cauchy-Verteilung).
• Eine Varianz von Null zeigt nicht unbedingt an, dass alle Zufallsvariablen identische Werte haben.

Die Varianz wird in der Stochastik aus der Verteilung der Zufallsvariablen oder mit Hilfe von Schätzfunktionen bestimmt (→ Stichprobenvarianz (Schätzfunktion)).

Die Quadratwurzel aus der Varianz ist die Standardabweichung. Die Standardabweichung gehört ebenfalls zu den Streuungsmaßen. Die Varianz ist in weitergehenden Berechnungen oft praktischer als die Standardabweichung: So können beispielsweise Varianzbeiträge von mehreren unabhängigen Zufallseinflüssen einfach addiert werden. Umgekehrt lässt sich durch eine Varianzanalyse eine Gesamtvarianz oft auch in ihre Beiträge (Ursachen) zerlegen. Dennoch ist die Standardabweichung oft anschaulicher als die Varianz, da sie dieselbe Größenordnung hat wie die beobachteten Werte.

Die Bezeichnung „Varianz“ leitet sich von lateinisch variantia = „Verschiedenheit“ bzw. variare = „(ver)ändern, verschieden sein“ ab.

Empirische Varianz

→ Hauptartikel: Empirische Varianz

Ausgangspunkt ist eine Stichprobe mit reellen Werten, die aus einer Grundgesamtheit ausgewählt (empirisch erhoben) wurden. Wir sprechen daher im Folgenden auch von der "Stichprobenvarianz". Im Grenzfall umfasst die Stichprobe die gesamte Grundgesamtheit.

Die empirische Varianz ist ein Spezialfall der Varianz in der mathematischen Statistik.

Stichprobe ist ein Teil einer Grundgesamtheit

Zur Ermittlung der Stichprobenvarianz werden zunächst die Abweichungen der beobachteten reellen Werte $x_{1},\ldots ,x_{n}$ der Stichprobe von ihrem arithmetischen Mittel $(x_{1}-{\overline {x}}),\ldots ,(x_{n}-{\overline {x}})$ gebildet. Summierung ergibt die sogenannte Abweichungsquadratsumme $\sum \nolimits _{i=1}^{n}(x_{i}-{\overline {x}})^{2}$.

Wenn die Abweichungsquadratsumme durch $n-1$ dividiert wird, erhält man das mittlere Abweichungsquadrat, bzw. die korrigierte Stichprobenvarianz oder korrigierte empirische Varianz:

$s^{2}={\tfrac {1}{n-1}}\sum _{i=1}^{n}(x_{i}-{\overline {x}})^{2}$		(1)

Falls keine Verwechslungsgefahr mit Formel (2) besteht, wird oft auch nur die kürzere Bezeichnung Stichprobenvarianz oder empirische Varianz verwendet . Der Vorsatz "korrigierte ..." in der ausführlichen Bezeichnung bezieht sich auf den Faktor $1/(n-1)$, der auch als Bessel-Korrektur bezeichnet wird.

Die Idee dieser Formel (1) ist es, eine Aussage über die erwartete Varianz der Gesamtheit aller Daten zu machen. D.h. die Stichprobe wird verwendet, um die Varianz der Grundgesamtheit zu schätzen. Formel (1) stellt einen erwartungstreuen Schätzer dar. Das bedeutet in diesem Fall, dass der Schätzfehler immer kleiner wird und gegen Null strebt, wenn das Ergebnis über eine steigende Anzahl von Stichproben gemittelt wird. Diese Eigenschaft von Formel (1) lässt sich in der mathematischen Statistik beweisen.

Wenn die Abweichungsquadratsumme nur durch $n$ dividiert wird erhält man die unkorrigierte Stichprobenvarianz

${\tilde {s}}^{2}={\tfrac {1}{n}}\sum _{i=1}^{n}(x_{i}-{\overline {x}})^{2}$		(2)

Die Idee dieser Formel (2) ist es, den Datensatz möglichst genau durch eine Normalverteilung zu beschreiben: D.h. die Parameter der Normalverteilung $\mu$ und $\sigma$ werden so bestimmt, dass der quadratische Fehler der gegebenen Daten relativ zur Verteilungsfunktion der Normalverteilung minimal ist. Das ist der Fall für $\mu ={\overline {x}}$ und $\sigma ={\tilde {s}}$. Formel (2) liefert in diesem Sinne bessere Ergebnisse als Formel (1). Allerdings ist Formel (2) kein erwartungstreuer Schätzer: D.h. wenn das Ergebnis über viele Stichproben gemittelt wird, dann strebt das Ergebnis nicht gegen den wahren Wert für die Varianz der Grundgesamtheit. Formel (2) liefert im Mittel zu kleine Ergebnisse und wird daher seltener angewendet. Formel (2) wird in der mathematischen Statistik begründet, z.B. durch Anwendung der Maximum-Likelihood-Methode, oder der Momentenmethode.

Für den Sonderfall, dass der Mittelwert der Grundgesamtheit $\mu$ bekannt ist, wird die Varianz mit folgender Formel berechnet:

${s^{*}}^{2}={\tfrac {1}{n}}\sum _{i=1}^{n}(x_{i}-\mu )^{2}$		(3)

Formel (3) und (1) unterscheiden sich darin, dass bei Formel (3) die Berechnung des arithmetischen Mittels entfällt, weil der Mittelwert der Grundgesamtheit bekannt ist. Auch diese Formel ist erwartungstreu im Sinne der mathematischen Statistik.

Die Verwendung und Abgrenzung der Bezeichnungen „Stichprobenvarianz“ und „empirische Varianz“ ist in der Literatur nicht einheitlich: Einige Autoren bezeichnen Formel (1) als Stichprobenvarianz und Formel (2) als empirische Varianz.

Stichprobe beinhaltet alle Werte der Grundgesamtheit

Für den Sonderfall, dass die Stichprobe alle $N$ Werte der Grundgesamtheit beinhaltet ($N=n$), nennt man sie auch Vollerhebung. Der wahre Mittelwert der Grundgesamtheit $\mu$ fällt mit dem arithmetischen Mittel ${\overline {x}}$ zusammen ($\mu ={\overline {x}}$) und berechnet sich aus allen Elementen der Grundgesamtheit als

$\mu ={\tfrac {1}{N}}\sum _{i=1}^{N}x_{i}={\tfrac {1}{n}}\sum _{i=1}^{n}x_{i}={\overline {x}}$		(4)

Als Konsequenz fallen auch ${\tilde {s}}^{2}$ und ${s^{*}}^{2}$ zusammen. Die Varianz der Grundgesamtheit (auch Populationsvarianz genannt) ist dann gleich wie die Stichprobenvarianz und wird berechnet durch

$\sigma ^{2}={\tfrac {1}{N}}\sum _{i=1}^{N}(x_{i}-\mu )^{2}$		(5)

Varianz in der mathematischen Statistik

→ Hauptartikel: Varianz (Stochastik)

Die Varianz ist mathematisch allgemein folgendermaßen definiert:

Sei $(\Omega ,\Sigma ,P)$ ein Wahrscheinlichkeitsraum und $X:\Omega \to A$ eine Zufallsvariable auf eine Menge $A$, mit der Ergebnismenge $\Omega$, dem Ereignissystem $\Sigma$ und dem Wahrscheinlichkeitsmaß $P$. Mit $\mu :=\mathbb {E} [X]$ bezeichnen wir den Erwartungswert der Zufallsvariable, so fern dieser existiert. Die Varianz ist dann definiert als erwartete mittlere quadratische Abweichung der Zufallsvariable von ihrem Erwartungswert:

$\operatorname {Var} (X):=\mathbb {E} \left((X-\mu )^{2}\right)=\int _{\Omega }(X-\mu )^{2}\,\mathrm {d} P$		(6)

Berechnung basierend auf der Wahrscheinlichkeitsverteilung

Nicht jede Wahrscheinlichkeitsverteilung besitzt einen Erwartungswert und eine Varianz (z.B. Cauchy-Verteilung). Und damit ist nicht für jede Zufallsvariable die Varianz definiert.

Es wird unterschieden zwischen stetigen und diskreten Zufallsvariablen:

Stetige Zufallsvariablen

Falls die stetige Zufallsvariable $X$ auf einer Menge $A$ eine Wahrscheinlichkeitsdichtefunktion $f_{X}$ besitzt, dann lässt sich der Erwartungswert und die Varianz wie folgt berechnen:

$\mu =\int _{A}xf_{X}(x)\,\mathrm {d} x$		(7)

$\operatorname {Var} (X)=\int _{A}(x-\mu )^{2}f_{X}(x)\,\mathrm {d} x\quad$		(8)

Diskrete Zufallsvariablen

Sei $X$ eine diskrete Zufallsvariable auf einer Menge $A$ mit Wahrscheinlichkeitsfunktion $p_{X}$. Dann lässt sich der Erwartungswert und die Varianz wie folgt berechnen:

$\mu =\sum \limits _{x_{k}\in A}x_{k}p_{X}(x_{k})$		(9)

$\operatorname {Var} (X)=\sum \limits _{x_{k}\in A}(x_{k}-\mu )^{2}p_{X}(x_{k})$		(10)

Berechnung basierend auf Stichprobenvariablen

→ Hauptartikel: Stichprobenvarianz (Schätzfunktion)

Für diesen Fall werden in Formel (1)-(3) die Stichprobenwerte $x_{1},\ldots ,x_{n}$ durch die Stichprobenvariablen $X_{1},\ldots ,X_{n}$ ersetzt. Die Stichprobenvariablen sind keine reellen Werte, sondern sie sind Zufallsvariablen: Jede Zufallsvariable $X$ beschreibt die Wahrscheinlichkeit, mit der mögliche Beobachtungswerte $x$ auftreten.

Dies führt zur mathematisch allgemeineren Darstellung der Varianz als Funktion (genauer Stichprobenfunktion) von verschiedenen Zufallsvariablen. Auch hier unterscheidet man die korrigierte Stichprobenvarianz

$S^{2}={\tfrac {1}{n-1}}\sum _{i=1}^{n}(X_{i}-{\overline {X}})^{2}$		(11)

und die unkorrigierten Stichprobenvarianzen

${\tilde {S}}^{2}={\tfrac {1}{n}}\sum _{i=1}^{n}(X_{i}-{\overline {X}})^{2}$		(12)

${S^{*}}^{2}={\tfrac {1}{n}}\sum _{i=1}^{n}(X_{i}-\mu )^{2}$		(13)

Die Formeln (1)-(3) sind mathematisch gesehen ein Spezialfall der Formeln (11)–(13). Z.B. ist die empirische Varianz in der beschreibenden Statistik $s^{2}$der zur abstrakten Schätzfunktion $S^{2}$ zugehörige Schätzwert.

In den Verfahren der mathematischen Statistik (Statistische Tests, Konfidenzintervalle etc.) fließt oft der Mittelwert $\mu$ oder die Varianz der Grundgesamtheit $\sigma ^{2}$ein. In der Praxis sind Mittelwert und Varianz der Grundgesamtheit jedoch unbekannt, so dass sie geschätzt werden müssen. Die Formeln (11)–(13) dienen in der mathematischen Statistik also als Schätzfunktion, um die unbekannte Varianz $\sigma ^{2}=\operatorname {Var} (X)$ einer Zufallsvariable $X$ mit unbekannter Verteilung zu schätzen.

Literatur

• Beyer 1988 – Otfried Beyer, Horst Hackel, Volkmar Pieper, Jürgen Tiedge: Wahrscheinlichkeitsrechnung und mathematische Statistik. 5. Auflage. B. G. Teubner, Leipzig 1988, ISBN 3-322-00469-4. 
• Bronstein 2020 – I. N. Bronstein, K. A. Semendjajew, G. Musiol, H. Mühlig: Taschenbuch der Mathematik. 11. Auflage. Verlag Europa-Lehrmittel Nourney, Vollmer GmbH & Co. KG, Haan-Gruiten 2020, ISBN 978-3-8085-5792-1. 
• Duden 2020 – Harald Scheid: Duden: Rechnen und Mathematik. 6. Auflage. Bibliographisches Institut & F.A. Brockhaus AG, Mannheim 2020, ISBN 978-3-411-05346-9. 
• Fahrmeir 2016 – Ludwig Fahrmeir, Rita Künstler, Iris Pigeot, Gerhard Tutz: Statistik. Der Weg zur Datenanalyse. 8. Auflage. Springer Verlag, Berlin / Heidelberg 2016, ISBN 978-3-662-50371-3. 
• Hartung 2005 – Joachim Hartung, Bärbel Elpelt, Karl-Heinz Klösener: Statistik. Lehr- und Handbuch der angewandten Statistik. 14. Auflage. R. Oldenbourg Verlag, München / Wien 2005, ISBN 3-486-57890-1. 
• Kabluchko 2017 – Zakhar Kabluchko: Mathematische Statistik - Skript zur Vorlesung. Münster 2017 (uni-muenster.de [PDF; abgerufen am 1. Februar 2022]).