Varianz

Formelzeichen
$\mu$	Mittelwert der Grundgesamtheit
$\sigma ^{2}$	Varianz der Grundgesamtheit
$n$	Anzahl der gegebenen Werte
$X_{1},\ldots ,X_{n}$	Zufallsvariablen (Zufallsgrößen)
$x_{1},\ldots ,x_{n}$	Stichprobe: beobachtete Werte der $n$ Zufallsvariablen
${\overline {x}}$	Stichprobenmittel / empirischer Mittelwert von $x_{1},\ldots ,x_{n}$
$s^{2}$	Stichprobenvarianz / empirische Varianz von $x_{1},\ldots ,x_{n}$
${\overline {X}}$	Stichprobenmittel (als Funktion der Zufallsvariablen)
$S^{2}$	Stichprobenvarianz (als Funktion der Zufallsvariablen)

Die Varianz ist in der beschreibenden Statistik ein Maß für die Streuung von numerischen Werten um ihren Mittelwert. Die Maßzahl basiert auf der mittleren quadratischen Abweichung vom Mittelwert. Sie wird in der beschreibenden Statistik als empirische („aus konkreten Daten berechnete“) Varianz bezeichnet (→ Empirische Varianz).

In der Stochastik (→ Varianz (Stochastik)) wird das Thema mathematisch allgemeiner behandelt: Hier ist die Varianz die erwartete quadratische Ab­weichung von Zufallsvariablen (nicht von Werten!) von ihrem Erwartungswert. Sie dient also zur Charakterisierung der Wahrscheinlichkeitsverteilung von Zufallsvariablen und wird daher auch als theoretische Varianz bezeichnet. In der schließenden Statistik wird die theoretische Varianz mithilfe der Stichprobenvarianz (→ Stichprobenvarianz (Schätzfunktion)) geschätzt.

Die Quadrierung der Abweichungen vom Mittelwert bewirkt:

• die Varianz ist immer positiv (oder Null)
• wenige aber starke Ausreißer haben einen großen Einfluss auf das Ergebnis

Eine Varianz von Null bedeutet, dass alle betrachteten Werte identisch sind beziehungsweise dass die Zufallsvariablen keine Streuung aufweisen. In vielen praktischen Aufgabenstellungen ist es daher das Ziel die Varianz zu minimieren.

Die Quadratwurzel aus der Varianz ist die Standardabweichung. Varianz und Standardabweichung gehören zu den Streuungsmaßen. Die Varianz ist in weitergehenden Berechnungen oft praktischer als die Standardabweichung: So können beispielsweise Varianzbeiträge von mehreren unabhängigen Zufallseinflüssen einfach addiert werden. Umgekehrt lässt sich durch eine Varianzanalyse eine Gesamtvarianz oft auch in ihre Beiträge (Ursachen) zerlegen. Dennoch ist die Standardabweichung oft anschaulicher als die Varianz, da sie dieselbe Größenordnung hat wie die beobachteten Werte.

Die Bezeichnung „Varianz“ leitet sich von lateinisch variantia = „Verschiedenheit“ bzw. variare = „(ver)ändern, verschieden sein“ ab.

Stichprobenvarianz

Stichprobe ist eine konkrete Stichprobe

→ Hauptartikel: Empirische Varianz

Zur Ermittlung der Varianz der reellen Werte $x_{1},\ldots ,x_{n}$ werden zunächst die Abweichungen der jeweiligen Werte von ihrem arithmetischen Mittel $(x_{1}-{\overline {x}}),\ldots ,(x_{n}-{\overline {x}})$ gebildet. Im Anschluss quadriert man diese Abweichungen und erhält die Abweichungsquadrate $(x_{1}-{\overline {x}})^{2},\ldots ,(x_{n}-{\overline {x}})^{2}$. Summiert man diese Abweichungsquadrate erhält man eine sogenannte Abweichungsquadratsumme. Je nachdem, ob man diese Abweichungsquadratsumme $\sum \nolimits _{i=1}^{n}(x_{i}-{\overline {x}})^{2}$ durch die Anzahl der Werte $n$ oder um die um Eins verringerte Anzahl der Werte $n-1$ dividiert erhält man eine unterschiedliche Darstellung der Varianz. Im letzteren Fall ist die Varianz gegeben durch

$s^{2}={\tfrac {1}{n-1}}\sum _{i=1}^{n}(x_{i}-{\overline {x}})^{2}$		(1)

und kann als „durchschnittliches Abweichungsquadrat“ interpretiert werden. Dieses auf Basis von konkreten Werten berechnete „durchschnittliche Abweichungsquadrat“ wird auch als Stichprobenvarianz oder empirische Varianz bezeichnet. Da der Faktor $1/(n-1)$ auch als Korrekturfaktor bezeichnet wird, spricht man auch von der korrigierten Stichprobenvarianz oder der korrigierten empirischen Varianz. Wenn die Abweichungsquadratsumme jedoch statt durch $n-1$ durch $n$ dividiert wird erhält man die unkorrigierten Stichprobenvarianzen

${\tilde {s}}^{2}={\tfrac {1}{n}}\sum _{i=1}^{n}(x_{i}-{\overline {x}})^{2}$		(2)

Beispiel

Gegeben sei die Stichprobe $x_{1}=10;\quad x_{2}=9;\quad x_{3}=13;\quad x_{4}=15;\quad x_{5}=16$, es ist also $n=5$. Für den empirischen Mittelwert ergibt sich ${\overline {x}}={\frac {1}{5}}(10+9+13+15+16)={\frac {63}{5}}=12{,}6$. Bei stückweiser Berechnung ergibt sich dann ${\begin{aligned}\sum \limits _{i=1}^{5}\left(x_{i}-{\overline {x}}\right)^{2}&=(10-12{,}6)^{2}+(9-12{,}6)^{2}+(13-12{,}6)^{2}+(15-12{,}6)^{2}+(16-12{,}6)^{2}\\\;&=(-2{,}6)^{2}+(-3{,}6)^{2}+0{,}4^{2}+2{,}4^{2}+3{,}4^{2}=37{,}2\end{aligned}}$. Über die erste Definition (Formel (1)) erhält man $s^{2}={\frac {1}{5-1}}\sum _{i=1}^{5}(x_{i}-{\overline {x}})^{2}={\frac {37{,}2}{4}}=9{,}3$ wohingegen die zweite Definition (Formel (2)) ${\tilde {s}}^{2}={\frac {1}{5}}\sum _{i=1}^{5}(x_{i}-{\overline {x}})^{2}={\frac {37{,}2}{5}}=7{,}44$ liefert.

Die Verwendung und Abgrenzung der Bezeichnungen „Stichprobenvarianz“ und „empirische Varianz“ ist in der Literatur nicht einheitlich:

Einige Autoren bezeichnen Formel (1) als Stichprobenvarianz und Formel (2) als empirische Varianz unter anderem mit der Begründung, dass nur Formel (1) in der induktiven Statistik zur Schätzung der Varianz der Grundgesamtheit auf Basis einer Stichprobe herangezogen wird und nicht Formel (2), da diese Definition der Varianz gängige Qualitätskriterien nicht erfüllt (siehe #Varianz (im Sinne der induktiven Statistik)).

Es ist bemerkenswert, dass es umfangreiche mathematische und statistische Handbücher gibt, die die Formel (2) nicht erwähnen. Es ist umstritten, ob Formel (2) auf Stichproben angewendet werden sollte, da es ja auch eine "korrigierte Stichprobenvarianz" (1) gibt, die den Vorteil hat, dass sie im Sinne der schließenden Statistik erwartungstreu ist.

Eine weitere Formel zur Berechnung der Varianz aus konkreten Werten ist:

${s^{*}}^{2}={\tfrac {1}{n}}\sum _{i=1}^{n}(x_{i}-\mu )^{2}$		(3)

Formel (3) und (2) unterscheiden sich darin, dass bei Formel (3) im Gegensatz zu Formel (2), der Mittelwert der Grundgesamtheit $\mu$ bekannt ist und daher in die Formel (2) eingesetzt werden kann. Auch diese Formel ist erwartungstreu im Sinne der schließenden Statistik.

Für die Division durch $(n-1)$ anstatt durch $n$ in Formel (2) kann die folgende intuitive Begründung gegeben werden: aufgrund der Tatsache, dass Summe der Abweichungen der Werte von ihrem arithmetischen Mittel stets Null ergibt $\sum \nolimits _{i=1}^{n}\left(x_{i}-{\overline {x}}\right)=0$ (siehe Arithmetisches Mittel#Schwerpunkteigenschaft) ist die letzte Abweichung $\left(x_{n}-{\overline {x}}\right)$ bereits durch die ersten $(n-1)$ Abweichungen $(x_{1}-{\overline {x}}),\ldots ,(x_{n-1}-{\overline {x}})$ bestimmt. Die Anzahl der in die Summe eingehenden unabhängigen Summanden (Anzahl der Freiheitsgrade) ist also um Eins reduziert $(n-1)$ bzw. man verliert einen Freiheitsgrad. Eine weitere Begründung für den Korrekturfaktor $1/(n-1)$ ergibt sich aus der Betrachtung #Stichprobe ist eine mathematische Stichprobe.

Stichprobe ist eine Vollerhebung

Im Fall, dass die Stichprobe ist eine Vollerhebung ist, enthält die Stichprobe alle Elemente der Grundgesamtheit $N$ und ${\tilde {s}}^{2}$ und ${s^{*}}^{2}$ fallen zusammen. Der wahre Mittelwert der Grundgesamtheit $\mu$ fällt mit dem arithmetischen Mittel ${\overline {x}}$ zusammen und berechnet sich aus allen Elementen der Grundgesamtheit als

$\mu ={\tfrac {1}{N}}\sum _{i=1}^{N}x_{i}={\tfrac {1}{n}}\sum _{i=1}^{n}x_{i}={\overline {x}}$		(4)

Bei einer Vollerhebung gilt dass die Anzahl der Elemente in der Stichprobe $n$ der Anzahl der Elemente der Grundgesamtheit $N$ entspricht ($N=n$) und damit $\mu ={\overline {x}}$ gilt. Die Varianz der Grundgesamtheit (auch Populationsvarianz genannt) ist dann gegeben durch

$\sigma ^{2}={\tfrac {1}{N}}\sum _{i=1}^{N}(x_{i}-\mu )^{2}$		(5)

Stichprobe ist eine mathematische Stichprobe

Ist eine Stichprobe eine mathematische Stichprobe, dann ersetzt man in Formel (1) die Stichprobenwerte $x_{1},\ldots ,x_{n}$ durch die Stichprobenvariablen $X_{1},\ldots ,X_{n}$. Eine Stichprobenvariable ist kein reeller Wert, sondern sie ist eine Zufallsvariable: Sie beschreibt die Wahrscheinlichkeit, mit der mögliche Beobachtungswerte auftreten. Dies führt zur Darstellung der Varianz als Funktion (genauer Stichprobenfunktion) von Zufallsvariablen. Auch hier unterscheidet man die korrigierte Stichprobenvarianz

$S^{2}={\tfrac {1}{n-1}}\sum _{i=1}^{n}(X_{i}-{\overline {X}})^{2}$		(6)

und die unkorrigierten Stichprobenvarianzen

${\tilde {S}}^{2}={\tfrac {1}{n}}\sum _{i=1}^{n}(X_{i}-{\overline {X}})^{2}$		(7)

${S^{*}}^{2}={\tfrac {1}{n}}\sum _{i=1}^{n}(X_{i}-\mu )^{2}$		(8)

Die Formeln (6)–(8) sind Analog zur Stichprobenvarianz in der deskriptiven Statistik definiert und werden in der induktiven (schließenden) Statistik verwendet. In den Verfahren der induktiven Statistik (Statistische Tests, Konfidenzintervalle etc.) fließt oft die Varianz der Grundgesamtheit $\sigma ^{2}$ ein. In der Praxis ist die Varianz der Grundgesamtheit jedoch unbekannt, so dass sie geschätzt werden muss. Die Formeln (6)–(8) dienen in der induktiven Statistik also als Schätzfunktion, um die unbekannte Varianz $\sigma ^{2}=\operatorname {Var} (X)$ einer Zufallsvariable $X$ mit unbekannter Verteilung zu schätzen. Wenn die Stichprobe eine Zufallsstichprobe $X_{1},\ldots ,X_{n}$ ist, dann kann das Stichprobenmittel ${\overline {X}}$ als Schätzung (die Schätzung eines Parameters der Grundgesamtheit wird konventionell mit einem Dach gekennzeichnet ${\hat {(\cdot )}}$) des Mittelwerts der Grundgesamtheit $\mu$ herangezogen werden (${\hat {\mu }}={\overline {X}}$). Durch die Bildung des Stichprobenmittels wird eine Abhängigkeit zwischen den $n$ Summanden in Formel (6) hergestellt, d. h. ein Freiheitsgrad wird gebunden bzw. geht verloren. Daher dividiert man auch hier durch $(n-1)$ statt durch $n$. Formel (8) unterscheidet sich von Formel (6) in der Hinsicht, dass hier der Erwartungswert der Grundgesamtheit $\mu$ bekannt ist und somit nicht durch das Stichprobenmittel ${\overline {X}}$ geschätzt werden muss. Damit ist die Normierung mittels der Anzahl der Freiheitsgrade $(n-1)$ bei Formel (8) im Gegensatz zu Formel (6) nicht erforderlich und es wird bei Formel (8) lediglich durch $n$ dividiert. Die induktive Statistik, die die korrigierte Stichprobenvarianz (Formel (6)) zur Schätzung der Varianz der Grundgesamtheit verwendet, liefert eine weitere Begründung für den Korrekturfaktor $1/(n-1)$ (siehe #Varianz (im Sinne der induktiven Statistik)).

Varianz (im Sinne der induktiven Statistik)

Stichprobenvarianz (Schätzfunktion)

→ Hauptartikel: Stichprobenvarianz (Schätzfunktion)

In der induktiven (schließenden) Statistik wird Formel (6) verwendet, um die unbekannte Varianz der Grundgesamtheit $\sigma ^{2}=\operatorname {Var} (X)$ zu schätzen. Dies geschieht meist durch einen einfachen Punktschätzer. Sei $X$ eine Zufallsvariable mit unbekannter Verteilung und sei eine Zufallsstichprobe $X_{1},\ldots ,X_{n}$ mit $\operatorname {E} (X_{i})=\mu$ und $\operatorname {Var} (X_{i})=\sigma ^{2}$ gegeben, dann ist eine Schätzfunktion für die unbekannte Varianz der Grundgesamtheit gegeben durch

${\widehat {\operatorname {Var} (X)}}=S^{2}={\tfrac {1}{n-1}}\sum _{i=1}^{n}(X_{i}-{\overline {X}})^{2}$		(9)

Der Grund warum Formel (6) anstatt Formel (7) zur Schätzung der Varianz der Grundgesamtheit herangezogen wird ist, dass die unkorrigierte Stichprobenvarianz (Formel (7)) unter den hier gegebenen Voraussetzungen gängige Qualitätskriterien für Punktschätzer nicht erfüllt. Formel (7) ist nicht erwartungstreu für die unbekannte Varianz der Grundgesamtheit, wohingegen die korrigierte Stichprobenvarianz (Formel (6)) erwartungstreu für die unbekannte Varianz der Grundgesamtheit $\sigma ^{2}$ ist. Erwartungstreue bedeutet, dass die Schätzfunktion $T$ für den wahren Wert $\tau$ eine systematische Verzerrung von Null aufweist, also diese Schätzfunktion „im Mittel“ dem wahren Wert entspricht, d. h. $\operatorname {E} (T)=\tau$. Für Formeln (7)–(8) lässt sich dies wie folgt zusammenfassen:

Zusammenfassung Erwartungstreue

$\operatorname {E} (S^{2})=\operatorname {E} \left({\tfrac {1}{n-1}}\sum _{i=1}^{n}(X_{i}-{\overline {X}})^{2}\right)=\sigma ^{2}\qquad$ (erwartungstreu für $\sigma ^{2}$) $\operatorname {E} ({\tilde {S}}^{2})=\operatorname {E} \left({\tfrac {1}{n}}\sum _{i=1}^{n}(X_{i}-{\overline {X}})^{2}\right)={\tfrac {n-1}{n}}\sigma ^{2}\qquad$ (nicht erwartungstreu für $\sigma ^{2}$) $\operatorname {E} ({S^{*}}^{2})=\operatorname {E} \left({\tfrac {1}{n}}\sum _{i=1}^{n}(X_{i}-\mu )^{2}\right)=\sigma ^{2}\qquad$ (erwartungstreu für $\sigma ^{2}$)

Man kann zeigen, dass gerade die Normierung $1/(n-1)$ Formel (6) zu einer erwartungstreuen Schätzfunktion für die Varianz der Grundgesamtheit macht (siehe Stichprobenvarianz (Schätzfunktion)#Erwartungstreue). Die Sicherstellung des Qualitätskriteriums der Erwartungstreue ist somit ein weiter Grund für den Korrekturfaktor $1/(n-1)$, der aus der induktiven Statistik stammt. Es ist allerdings anzumerken, dass auch Formel (8) erwartungstreu für die unbekannte Varianz der Grundgesamtheit ist. Daher wird im Rahmen der induktiven Statistik immer $S^{2}$, falls $\mu$ geschätzt werden muss, bzw. ${S^{*}}^{2}$, falls $\mu$ bekannt ist, verwendet. Die Beziehung zwischen den Formeln (1)–(3) und Gleichungen (6)–(8) ist die folgende: Die konkrete Stichprobe $x_{1},\ldots ,x_{n}$ vom Umfang $n$ lässt sich als Realisierung der $n$-dimensionalen Zufallsvariablen $\left(X_{1},\ldots ,X_{n}\right)$ auffassen. Die empirische Varianz in der deskriptiven Statistik $s^{2}$ ist also der zur abstrakten Schätzfunktion $S^{2}$ zugehörige Schätzwert.

Varianz (im Sinne der Wahrscheinlichkeitstheorie)

→ Hauptartikel: Varianz (Stochastik)

In der Stochastik ist die Varianz ein wichtiges Streuungsmaß der Verteilung einer Zufallsvariablen. Sofern der Erwartungswert $\operatorname {E} (X)$ existiert, ist in der Stochastik die Varianz definiert als erwarte quadratische Abweichung der Zufallsvariablen von ihrem Erwartungswert

$\operatorname {Var} (X)=\operatorname {E} \left\{(X-\operatorname {E} (X))^{2}\right\}$		(10)

Für diese Definition der Varianz gelten eine Vielzahl nützlicher Eigenschaften (siehe Varianz (Stochastik)#Rechenregeln und Eigenschaften).

Varianzberechnung basierend auf einer Verteilungsfunktion

Varianzberechnung basierend auf einer stetigen Verteilungsfunktion

Gegeben ist in diesem Fall eine stetige Zufallsvariable $X$ mit einer Wahrscheinlichkeitsdichtefunktion (kurz: Dichte) $f(x)$, die eine Aussage trifft, wie wahrscheinlich das Auftreten von welchem Wert $x$ ist. Dann ergeben sich Erwartungswert und Varianz der Grundgesamtheit aus den folgenden Formeln:

$\mu =\int _{-\infty }^{\infty }xf(x)\,\mathrm {d} x$		(11)

$\sigma ^{2}=\int _{-\infty }^{\infty }(x-\mu )^{2}f(x)\,\mathrm {d} x\quad$		(12)

Varianzberechnung basierend auf einer diskreten Verteilungsfunktion

Im Unterschied zu den Formeln (10) und (11) kann die Zufallsvariable $X$ in diesem Fall nur bestimmte (diskrete) Werte $x_{k}$ annehmen. Die Verteilungsfunktion ist in diesem Fall gegeben als Wahrscheinlichkeiten $p_{k}$, mit denen der zugehörige Wert $x_{k}$ auftritt. Dies führt zu folgenden Formeln für Erwartungswert und Varianz der Grundgesamtheit:

$\mu =\sum _{k=1}^{n}x_{k}p_{k}$		(13)

$\sigma ^{2}=\sum _{k=1}^{n}(x_{k}-\mu )^{2}p_{k}$		(14)

Literatur

• Bronstein-Semendjajew 2020 – I. N. Bronstein, K. A. Semendjajew, G. Musiol, H. Mühlig: Taschenbuch der Mathematik. 11. Auflage. Verlag Europa-Lehrmittel Nourney, Vollmer GmbH & Co. KG, Haan-Gruiten 2020, ISBN 978-3-8085-5792-1. 
• Hartung 2005 – Joachim Hartung, Bärbel Elpelt, Karl-Heinz Klösener: Statistik. Lehr- und Handbuch der angewandten Statistik. 14. Auflage. R. Oldenbourg Verlag, München / Wien 2005, ISBN 3-486-57890-1. 
• Fahrmeir 2016 – Ludwig Fahrmeir, Rita Künstler, Iris Pigeot, Gerhard Tutz: Statistik. Der Weg zur Datenanalyse. 8. Auflage. Springer Verlag, Berlin / Heidelberg 2016, ISBN 978-3-662-50371-3. 
• Beyer 1999 – Otfried Beyer, Horst Hackel, Volkmar Pieper, Jürgen Tiedge: Wahrscheinlichkeitsrechnung und mathematische Statistik. 8. Auflage. B. G. Teubner, Stuttgart / Leipzig 1999, ISBN 978-3-519-00229-1.