Normalverteilung

Dichtefunktionen der Normalverteilungen
$\scriptstyle {\mathcal {N}}(0,1)$ (blau), $\scriptstyle {\mathcal {N}}(0,2)$ (grün) und $\scriptstyle {\mathcal {N}}(-1,2)$ (rot)

Die Normal- oder Gauß-Verteilung (nach Carl Friedrich Gauß) ist ein wichtiger Typ kontinuierlicher Wahrscheinlichkeitsverteilungen. Sie ist definiert für Werte von ${-\infty }$ bis ${+\infty }$. Ihre Wahrscheinlichkeitsdichte wird auch Gauß-Funktion, Gauß-Kurve, Gauß-Glocke, Gaußsche Glockenkurve oder schlicht Glockenkurve genannt.

Die besondere Bedeutung der Normalverteilung beruht unter anderem auf dem zentralen Grenzwertsatz, der besagt, dass eine Summe von $n$ unabhängigen, identisch verteilten Zufallsvariablen im Grenzwert $n\rightarrow \infty$ normalverteilt ist. Das bedeutet, dass man Zufallsvariablen dann als normalverteilt ansehen kann, wenn sie durch Überlagerung einer großen Zahl von unabhängigen Einflüssen entstehen, wobei jede einzelne Einflussgröße einen im Verhältnis zur Gesamtsumme unbedeutenden Beitrag liefert.

Die Abweichungen der (Mess)Werte vieler natur-, wirtschafts- und ingenieurswissenschaftlicher Vorgänge vom Mittelwert lassen sich durch die Normalverteilung (bei biologischen Prozessen oft logarithmische Normalverteilung) entweder exakt oder wenigstens in sehr guter Näherung beschreiben (vor allem Prozesse, die in mehreren Faktoren unabhängig voneinander in verschiedene Richtungen wirken).

Zufallsgrößen mit Normalverteilung benutzt man zur Beschreibung zufälliger Vorgänge wie:

• zufällige Messfehler,
• zufällige Abweichungen vom Nennmaß bei der Fertigung von Werkstücken,
• Beschreibung der brownschen Molekularbewegung.

In der Versicherungsmathematik ist die Normalverteilung geeignet zur Modellierung von Schadensdaten im Bereich mittlerer Schadenshöhen.

In der Messtechnik wird häufig eine Normalverteilung angesetzt, die die Streuung der Messfehler beschreibt. Hierbei ist von Bedeutung, wie viele Messpunkte innerhalb einer gewissen Streubreite liegen. Die Standardabweichung $\sigma$ beschreibt die Breite der Normalverteilung und hängt mit der Halbwertsbreite zusammen. Berücksichtigt man die tabellierten Werte der Verteilungsfunktion, gilt näherungsweise folgende Aussage:

• 68,27 % aller Messwerte haben eine Abweichung von höchstens $\sigma$ vom Mittelwert,
• 95,45 % aller Messwerte haben eine Abweichung von höchstens $2\sigma$ vom Mittelwert,
• 99,73 % aller Messwerte haben eine Abweichung von höchstens $3\sigma$ vom Mittelwert.

Somit kann neben dem Mittelwert auch der Standardabweichung eine physikalische Bedeutung zugeordnet werden.

Geschichte

Was ging wohl bei Gauß so ab??? Vielleicht so einiges???

Definition

Eine stetige Zufallsvariable $X$ mit der Wahrscheinlichkeitsdichte $f:\mathbb {R} \to \mathbb {R} _{>0},\ x\mapsto f(x)$

$f(x)={\frac {1}{\sigma {\sqrt {2\pi }}}}\exp \left(-{\frac {1}{2}}\left({\frac {x-\mu }{\sigma }}\right)^{2}\right)$

heißt $\mu$-$\sigma$-normalverteilt, auch geschrieben als $X\sim {\mathcal {N}}(\mu ,\sigma ^{2})$ oder $(\mu ,\sigma ^{2})$-normalverteilt, wobei $\mu$ der Erwartungswert und $\sigma$ die Standardabweichung sind.

Die Verteilungsfunktion der Normalverteilung ist gegeben durch

$F(x)={\frac {1}{\sigma {\sqrt {2\pi }}}}\int _{-\infty }^{x}\exp \left(-{\frac {1}{2}}\left({\frac {t-\mu }{\sigma }}\right)^{2}\right)\mathrm {d} t.$

Dichtefunktion der Standardnormalverteilung $\varphi _{0;1}(x)={\frac {1}{\sqrt {2\pi }}}\cdot \mathrm {e} ^{-{\frac {1}{2}}x^{2}}$

So sieht die Dichtefunktion der Standardnormalverteilung ($\mu =0,\ \sigma =1$) aus. Angegeben sind die Intervalle im Abstand 1, 2 und 3 Standardabweichungen vom Erwartungswert 0, die rund 68 %, 95,5 % und 99,7 % der Fläche unter der Glockenkurve umfassen. Die gleichen Prozentsätze gelten für alle Normalverteilungen in Bezug auf die entsprechenden Erwartungswerte und Standardabweichungen. Man beachte, dass die Dichte der Normalverteilung nie den Wert Null annimmt, das heißt es gilt $f(x)>0$ für alle reellen $x$.

Die Normalverteilung ist eine Grenzverteilung, die nicht direkt beobachtet werden kann. Die Annäherung verläuft aber mit wachsendem n sehr schnell, so dass schon die Verteilung einer Summe von 30 oder 40 unabhängigen, identisch verteilten Zufallsgrößen einer Normalverteilung recht ähnlich ist.

Die mehrdimensionale Verallgemeinerung findet man im Artikel Mehrdimensionale Normalverteilung.

Eigenschaften

Symmetrie

Der Graph der Wahrscheinlichkeitsdichte $f:\mathbb {R} \to \mathbb {R}$ ist eine gaußsche Glockenkurve, deren Höhe und Breite von $\sigma$ abhängt. Sie ist achsensymmetrisch zur Achse $x=\mu$. Ihre Stammfunktion $F$ ist punktsymmetrisch zu $P(\mu |0,5)$.

Maximalwert und Wendepunkte der Dichtefunktion

Mit Hilfe der ersten und zweiten Ableitung lassen sich der Maximalwert und die Wendepunkte bestimmen. Die erste Ableitung ist

$f'(x)=-{\frac {x-\mu }{\sigma ^{2}}}f(x).$

Das Maximum der Dichtefunktion der Normalverteilung liegt demnach bei $x_{\mathrm {max} }=\mu$ und beträgt dort $f_{\mathrm {max} }={\frac {1}{\sigma {\sqrt {2\pi }}}}.$

Die zweite Ableitung lautet

$f''(x)={\frac {1}{\sigma ^{2}}}\left({\frac {1}{\sigma ^{2}}}(x-\mu )^{2}-1\right)f(x).$

Somit liegen die Wendepunkte der Dichtefunktion bei $x=\mu \pm \sigma$.

Normierung

Wichtig ist, dass die gesamte Fläche unter der Kurve gleich 1 ist, also der Wahrscheinlichkeit eines sicheren Ereignisses entspricht. Somit folgt, dass, wenn zwei gaußsche Glockenkurven dasselbe $\mu$, aber unterschiedliche $\sigma$-Werte haben, jene Kurve mit dem größeren $\sigma$ breiter und niedriger ist (da ja beide zugehörigen Flächen jeweils den Wert von 1 haben und nur die Standardabweichung (oder „Streuung“) höher ist). Zwei Glockenkurven mit dem gleichen $\sigma$, aber unterschiedlichen $\mu$ haben gleich aussehende Graphen, die jedoch auf der $x$-Achse um die Differenz der $\mu$-Werte zueinander verschoben sind.

Die Normierung lässt sich wie folgt nachweisen:

Wir definieren

$A:=\lim _{x\to \infty }F(x)={\frac {1}{\sigma {\sqrt {2\pi }}}}\int _{-\infty }^{\infty }\exp \left(-{\frac {1}{2}}\left({\frac {t-\mu }{\sigma }}\right)^{2}\right)\mathrm {d} t.$

Ist die Verteilung $F$ normiert, so muss $A=1$ gelten.

Um das Integral zu vereinfachen, verwenden wir die lineare Substitution $\tau (t)={\frac {t-\mu }{\sigma }}$ und erhalten dann wegen $\tau '(t)={\frac {1}{\sigma }}$

${\begin{aligned}A&={\frac {1}{\sqrt {2\pi }}}\int _{-\infty }^{\infty }\exp \left(-{\frac {1}{2}}\tau (t)^{2}\right)\tau '(t)\mathrm {d} t\\&={\frac {1}{\sqrt {2\pi }}}\int _{-\infty }^{\infty }\exp \left(-{\frac {1}{2}}z^{2}\right)\mathrm {d} z.\end{aligned}}$

$\tau$ ist eine Funktion und $z$ ist die neue Integrationsvariable nach Substitution. Wie erwartet ist $A$ unabhängig von den Parametern $\sigma$ und $\mu$. Für die Normiertheit dieses Integrals siehe den Artikel Fehlerintegral.

Berechnung

Da sich das Integral der Wahrscheinlichkeitsdichtefunktion nicht auf eine elementare Stammfunktion zurückführen lässt, wurde für die Berechnung früher meist auf Tabellen zurückgegriffen (siehe dazu die Tabelle der Verteilungsfunktion der Standardnormalverteilung); heutzutage sind entsprechende Zellenfunktionen in üblichen Tabellenkalkulationsprogrammen stets verfügbar. Tabellen wie Zellenfunktionen gelten aber in der Regel nicht für beliebige $\mu$- und $\sigma$-Werte, sondern nur für die Standardnormalverteilung, bei der $\mu =0$ und $\sigma =1$ ist (man spricht auch von einer 0-1-Normalverteilung oder normierten Normalverteilung).

Die Tabellen sind also für die Wahrscheinlichkeitsverteilungsfunktion $\Phi$ (auch Gauß'sches Fehlerintegral genannt) mit

$\Phi (z)={\frac {1}{\sqrt {2\pi }}}\cdot \int _{-\infty }^{z}\mathrm {e} ^{-{\frac {1}{2}}t^{2}}\mathrm {d} t$

ausgelegt. Analog dazu wird die zugehörige normierte Wahrscheinlichkeitsdichtefunktion $f$ mit $\phi$ bezeichnet.

Ist nun eine beliebige $\mu$-$\sigma$-Verteilung gegeben, so muss diese nur in eine Standardnormalverteilung transformiert werden.

Erwartungswert

Die Normalverteilung besitzt den Erwartungswert

$\operatorname {E} (X)={\frac {1}{\sigma {\sqrt {2\pi }}}}\int \limits _{-\infty }^{+\infty }x\exp \left(-{\frac {(x-\mu )^{2}}{2\sigma ^{2}}}\right)\operatorname {d} x=\mu$.

Varianz und Standardabweichung

Die Varianz ergibt sich analog zu

$\operatorname {Var} (X)={\frac {1}{\sigma {\sqrt {2\pi }}}}\int \limits _{-\infty }^{+\infty }(x-\mu )^{2}\exp \left(-{\frac {(x-\mu )^{2}}{2\sigma ^{2}}}\right)\operatorname {d} x=\sigma ^{2}$.

Für die Standardabweichung ergibt sich

${\sqrt {\operatorname {Var} (X)}}=\sigma$.

Variationskoeffizient

Aus Erwartungswert und Standardabweichung erhält man unmittelbar den Variationskoeffizienten

$\operatorname {VarK} (X)={\frac {\sigma }{\mu }}$.

Schiefe

Die Schiefe besitzt unabhängig von den Parametern $\mu$ und $\sigma$ immer den Wert 0.

Charakteristische Funktion

Die charakteristische Funktion für eine standardnormalverteilte Zufallsvariable $Z\sim {\mathcal {N}}(0,1)$ berechnet sich gemäß

${\begin{aligned}\varphi _{Z}(s)&=\operatorname {E} (\mathrm {e} ^{isZ})\\&={\frac {1}{\sqrt {2\pi }}}\int \limits _{-\infty }^{\infty }\mathrm {e} ^{isz}\mathrm {e} ^{-{\frac {z^{2}}{2}}}\operatorname {d} z\\&={\frac {1}{\sqrt {2\pi }}}\int \limits _{-\infty }^{\infty }\mathrm {e} ^{-{\frac {(z-is)^{2}}{2}}}\mathrm {e} ^{-{\frac {s^{2}}{2}}}\operatorname {d} z\\&={\frac {1}{\sqrt {2\pi }}}\mathrm {e} ^{-{\frac {s^{2}}{2}}}\int \limits _{-\infty }^{\infty }\mathrm {e} ^{-{\frac {z^{2}}{2}}}\operatorname {d} z\\&=\mathrm {e} ^{-{\frac {s^{2}}{2}}}.\end{aligned}}$

Den Übergang von der dritten zur vierten Zeile erhält man dabei durch Anwendung des Cauchyschen Integralsatzes.

Für eine Zufallsvariable $X\sim {\mathcal {N}}(\mu ,\sigma ^{2})$ erhält man nun

$\varphi _{X}(s)=\operatorname {E} (\mathrm {e} ^{is(\sigma Z+\mu )})=\operatorname {E} (\mathrm {e} ^{is\sigma Z}\mathrm {e} ^{is\mu })=\mathrm {e} ^{is\mu }\operatorname {E} (\mathrm {e} ^{is\sigma Z})=\mathrm {e} ^{is\mu }\varphi _{Z}(\sigma s)=\exp \left(is\mu -{\frac {\sigma ^{2}s^{2}}{2}}\right),$

wobei $Z\sim {\mathcal {N}}(0,1)$.

Momenterzeugende Funktion

Die momenterzeugende Funktion der Normalverteilung ist

$m_{X}(s)=\exp \left(\mu s+{\frac {\sigma ^{2}s^{2}}{2}}\right)$.

Momente

Sei X $N(\mu ,\sigma ^{2})$-verteilt. Dann sind die ersten Momente wie folgt:

Nummer, k	Moment, E(X^k)	zentriertes Moment	Kumulante
0	1	1
1	$\mu$	0	$\mu$
2	$\mu ^{2}+\sigma ^{2}$	$\sigma ^{2}$	$\sigma ^{2}$
3	$\mu ^{3}+3\mu \sigma ^{2}$	0	0
4	$\mu ^{4}+6\mu ^{2}\sigma ^{2}+3\sigma ^{4}$	$3\sigma ^{4}$	0
5	$\mu ^{5}+10\mu ^{3}\sigma ^{2}+15\mu \sigma ^{4}$	0	0
6	$\mu ^{6}+15\mu ^{4}\sigma ^{2}+45\mu ^{2}\sigma ^{4}+15\sigma ^{6}$	$15\sigma ^{6}$	0
7	$\mu ^{7}+21\mu ^{5}\sigma ^{2}+105\mu ^{3}\sigma ^{4}+105\mu \sigma ^{6}$	0	0
8	$\mu ^{8}+28\mu ^{6}\sigma ^{2}+210\mu ^{4}\sigma ^{4}+420\mu ^{2}\sigma ^{6}+105\sigma ^{8}$	$105\sigma ^{8}$	0

Alle zentralen Momente $\mu _{n}$ lassen sich durch die Standardabweichung $\sigma$ darstellen:

$\mu _{n}={\begin{cases}0&{\text{wenn }}n{\text{ ungerade}}\\\sigma ^{n}\,(n-1)!!&{\text{wenn }}n{\text{ gerade}}\end{cases}}$

dabei wurde die Doppelfakultät verwendet:

$(n-1)!!=(n-1)\cdot (n-3)\cdot \ldots 3\cdot 1\quad \mathrm {f{\ddot {u}}r} \ n\ \mathrm {gerade}$

Invarianz gegenüber Faltung

Die Normalverteilung ist invariant gegenüber der Faltung, d. h. die Summe unabhängiger normalverteilter Zufallsgrößen ist wieder normalverteilt. Eine veranschaulichende Formulierung dieses Sachverhaltes lautet: Die Faltung einer Gaußkurve der Halbwertsbreite $\Gamma _{a}$ mit einer Gaußkurve der Halbwertsbreite $\Gamma _{b}$ ergibt wieder eine Gaußkurve mit der Halbwertsbreite

$\Gamma _{c}={\sqrt {\Gamma _{a}^{2}+\Gamma _{b}^{2}}}.$

Sind also $X,Y$ zwei unabhängige Zufallsvariable mit

$X\sim {\mathcal {N}}(\mu _{X},\sigma _{X}^{2}),\ Y\sim {\mathcal {N}}(\mu _{Y},\sigma _{Y}^{2}),$

so ist deren Summe ebenfalls normalverteilt:

$X+Y\sim {\mathcal {N}}(\mu _{X}+\mu _{Y},\sigma _{X}^{2}+\sigma _{Y}^{2}).$

Das lässt sich dadurch beweisen, dass die charakteristische Funktion der Summe das Produkt der charakteristischen Funktionen der Summanden ist.

Speziell ist das arithmetische Mittel $n$ unabhängiger und normalverteilter Zufallsgrößen $X_{i}\sim {\mathcal {N}}(\mu _{i},\sigma _{i}^{2})$ wieder eine normalverteilte Zufallsgröße mit

$Z\sim {\mathcal {N}}({\frac {1}{n}}\sum _{i=1}^{n}\mu _{i},{\frac {1}{n^{2}}}\sum _{i=1}^{n}\sigma _{i}^{2}).$

Nach dem Satz von Cramér gilt sogar die Umkehrung: Ist eine normalverteilte Zufallsgröße die Summe von unabhängigen Zufallsgrößen, dann sind die Summanden ebenfalls normalverteilt.

Die Dichtefunktion der Normalverteilung ist ein Fixpunkt der Fourier-Transformation, d. h. die Fourier-Transformierte einer Gaußkurve ist wieder eine Gaußkurve. Das Produkt der Standardabweichungen dieser korrespondierenden Gaußkurven ist konstant; es gilt die heisenbergsche Unschärferelation.

Entropie

Die Normalverteilung hat die Entropie: $\log \left(\sigma {\sqrt {2\,\pi \,\mathrm {e} }}\right)\!$.

Da sie für gegebenen Mittelwert und gegebene Varianz die größte Entropie unter allen Verteilungen hat, wird sie in der Maximum-Entropie-Methode oft als a-priori-Wahrscheinlichkeit verwendet.

Beziehungen zu anderen Verteilungsfunktionen

Transformation zur Standardnormalverteilung (z-Transformation)

Ist eine Normalverteilung mit beliebigen $\mu$ und $\sigma$ gegeben, so kann diese durch eine Transformation auf eine ${\mathcal {N}}(0,1)$-Normalverteilung zurückgeführt werden. Dazu wird die Verteilungsfunktion $F(x)$ der allgemeinen Normalverteilung mit $u={\frac {t-\mu }{\sigma }}$ substituiert und die Integralgrenzen werden angepasst:

Nebenrechnung für die Substitution

${\begin{aligned}u&={\frac {t-\mu }{\sigma }}\\{\frac {\mathrm {d} u}{\mathrm {d} t}}&={\frac {\mathrm {d} }{\mathrm {d} t}}\left({\frac {t-\mu }{\sigma }}\right)\\&={\frac {1}{\sigma }}\end{aligned}}$ $\Rightarrow \mathrm {d} t=\mathrm {d} u\cdot \sigma$

${\begin{aligned}F(x)&={\frac {1}{\sigma \cdot {\sqrt {2\pi }}}}\cdot \int _{-\infty }^{x}\mathrm {e} ^{-{\frac {1}{2}}\cdot \left({\frac {t-\mu }{\sigma }}\right)^{2}}\mathrm {d} t\\&={\frac {1}{\sigma \cdot {\sqrt {2\pi }}}}\cdot \int _{\frac {-\infty -\mu }{\sigma }}^{\frac {x-\mu }{\sigma }}\mathrm {e} ^{-{\frac {1}{2}}u^{2}}\mathrm {d} u\cdot \sigma \\&={\frac {1}{\sqrt {2\pi }}}\cdot \int _{-\infty }^{\frac {x-\mu }{\sigma }}\mathrm {e} ^{-{\frac {1}{2}}u^{2}}\mathrm {d} u\\&=\Phi \left({\frac {x-\mu }{\sigma }}\right)\end{aligned}}$

Wird nun $z:={\frac {x-\mu }{\sigma }}$ definiert und $u$ durch $t$ ersetzt, so erhält man die Verteilungsfunktion der Standardnormalverteilung:

$\Phi (z)={\frac {1}{\sqrt {2\pi }}}\cdot \int _{-\infty }^{z}\mathrm {e} ^{-{\frac {1}{2}}t^{2}}\mathrm {d} t$

Geometrisch betrachtet entspricht die durchgeführte Substitution einer flächentreuen Transformation der Glockenkurve von ${\mathcal {N}}(\mu ;\sigma ^{2})$ zur Glockenkurve von ${\mathcal {N}}(0;1)$.

Approximation der Binomialverteilung durch die Normalverteilung

Die Normalverteilung kann zur Approximation der Binomialverteilung verwendet werden, wenn der Stichprobenumfang $n$ hinreichend groß und in der Grundgesamtheit der Anteil $p$ der gesuchten Eigenschaft nicht zu klein ist. Als Faustregeln dafür gelten: $np(1-p)\geq 9$, was für die Standardabweichung bedeutet: $\sigma \geq 3$

Falls diese Bedingung nicht erfüllt sein sollte, ist die Näherung immer noch vertretbar genau, wenn gilt: $np\geq 4$ und zugleich $n(1-p)\geq 4$.

Ist eine Binomialverteilung (Bernoulli-Versuch) mit $n$ voneinander unabhängigen Stufen (bzw. Zufallsversuchen) mit einer Erfolgswahrscheinlichkeit $p$ gegeben, so lässt sich die Wahrscheinlichkeit für $k$ Erfolge allgemein durch $P(X=k)={n \choose k}\cdot p^{k}\cdot (1-p)^{n-k}$ für $k=0,1,\dots ,n$ berechnen.

Für sehr große Werte von $n$ kann diese Binomialverteilung durch eine Normalverteilung approximiert werden (Satz von Moivre-Laplace, zentraler Grenzwertsatz). Dabei ist

• der Erwartungswert $\mu =n\cdot p$
• und die Standardabweichung $\sigma ={\sqrt {n\cdot p\cdot (1-p)}}$

Ist nun $\sigma >3$, dann ist folgende Näherung brauchbar:

$P(x_{1}\leq X\leq x_{2})=\underbrace {\sum _{k=x_{1}}^{x_{2}}{n \choose k}\cdot p^{k}\cdot (1-p)^{n-k}} _{\mathrm {BV} }\approx \underbrace {\Phi \left({\frac {x_{2}+0,5-\mu }{\sigma }}\right)-\Phi \left({\frac {x_{1}-0,5-\mu }{\sigma }}\right)} _{\mathrm {NV} }\,$

Bei der Normalverteilung wird die untere Grenze um 0,5 verkleinert und die obere Grenze um 0,5 vergrößert, um eine bessere Approximation bei einer geringen Standardabweichung $\sigma$ gewährleisten zu können. Dies nennt man auch Stetigkeitskorrektur. Nur wenn $\sigma$ einen sehr hohen Wert besitzt, kann auf sie verzichtet werden.

Da die Binomialverteilung diskret ist, muss auf einige Punkte geachtet werden:

• $<$ oder $\leq$ (und auch größer und größer gleich) müssen beachtet werden (was ja bei der Normalverteilung nicht der Fall ist). Deshalb muss bei $P(X_{BV}<x)$ die nächstkleinere natürliche Zahl gewählt werden, d. h.

$P(X_{BV}<x)=P(X_{BV}\leq x-1)$ bzw. $P(X_{BV}>x)=P(X_{BV}\geq x+1)$

damit mit der Normalverteilung weitergerechnet werden kann.

z. B. $P(X_{BV}<70)=P(X_{BV}\leq 69)$

• Außerdem ist

$P(X_{BV}\leq x)=P(0\leq X_{BV}\leq x)$

$P(X_{BV}\geq x)=P(x\leq X_{BV}\leq n)$

$P(X_{BV}=x)=P(x\leq X_{BV}\leq x)$ (unbedingt mit Stetigkeitskorrektur)

und lässt sich somit durch die oben angegebene Formel berechnen.

Der große Vorteil der Approximation liegt darin, dass sehr viele Stufen einer Binomialverteilung sehr schnell und einfach bestimmt werden können.

Beziehung zur Cauchy-Verteilung

Der Quotient von zwei unabhängigen ${\mathcal {N}}(0,1)$ standardnormalverteilten Zufallsvariablen ist Cauchy-verteilt.

Beziehung zur Chi-Quadrat-Verteilung

• Die Summe $X_{n}=Z_{1}^{2}+\cdots +Z_{n}^{2}$ von $n$ unabhängigen quadrierten standardnormalverteilten Zufallsvariablen $Z_{i}\sim {\mathcal {N}}(0,1)(i=1,\ldots ,n)$ genügt einer Chi-Quadrat-Verteilung $X_{n}\sim \chi _{n}^{2}$ mit $n$ Freiheitsgraden.

• Die Summe $X_{n-1}={\frac {1}{n-1}}\sum _{i=1}^{n}(Z_{i}-{\overline {Z}})^{2}$ mit ${\overline {Z}}:={\frac {1}{n}}\sum _{i=1}^{n}Z_{i}$ und $n$ unabhängigen normalverteilten Zufallsvariablen $Z_{i}\sim {\mathcal {N}}(\mu ,\sigma ^{2})(i=1,\ldots ,n)$ genügt einer Chi-Quadrat-Verteilung $X_{n-1}\sim \chi _{n-1}^{2}$ mit $n-1$ Freiheitsgraden.

Die Chi-Quadrat-Verteilung wird zur Konfidenzschätzung für die Varianz einer normalverteilten Grundgesamtheit verwendet.

Beziehung zur Rayleigh-Verteilung

Der Betrag $Z={\sqrt {X^{2}+Y^{2}}}$ zweier normalverteilter Zufallsvariablen $X,Y$ ist Rayleigh-verteilt.

Beziehung zur logarithmischen Normalverteilung

Ist die Zufallsvariable $X$ normalverteilt mit ${\mathcal {N}}(\mu ,\sigma ^{2})$, dann ist die Zufallsvariable $Y=e^{X}$ logarithmisch-normalverteilt mit ${\mathcal {LN}}(\mu ,\sigma ^{2})$.

Die Entstehung einer logarithmischen Normalverteilung ist auf multiplikatives, die einer Normalverteilung auf additives Zusammenwirken vieler Zufallsgrößen zurückführen.

Beziehung zur F-Verteilung

Wenn die identischen normalverteilten Zufallsvariablen $X_{1}^{(1)},X_{2}^{(1)},\dots ,X_{n}^{(1)}$ und $X_{1}^{(2)},X_{2}^{(2)},\dots ,X_{n}^{(2)}$ die Parameter

$E(X_{i}^{(1)})=\mu _{1},{\sqrt {Var(X_{i}^{(1)})}}=\sigma _{1}$

$E(X_{i}^{(2)})=\mu _{2},{\sqrt {Var(X_{i}^{(2)})}}=\sigma _{2}$

mit $\sigma _{1}=\sigma _{2}=\sigma$ besitzen, dann unterliegt die Zufallsvariable

$Y_{n_{1}-1,n_{2}-1}:={\frac {(n_{2}-1)\sum \limits _{i=1}^{n_{1}}(X_{i}^{(1)}-{\bar {X}}^{(1)})^{2}}{(n_{1}-1)\sum \limits _{j=1}^{n_{2}}(X_{i}^{(2)}-{\bar {X}}^{(2)})^{2}}}$

einer F-Verteilung mit $((n_{1}-1,n_{2}-1))$ Freiheitsgraden. Dabei sind

${\bar {X}}^{(1)}={\frac {1}{n_{1}}}\sum _{i=1}^{n_{1}}X_{i}^{(1)}\quad {\bar {X}}^{(2)}={\frac {1}{n_{2}}}\sum _{i=1}^{n_{2}}X_{i}^{(2)}$.

Beziehung zur Student-t-Verteilung

Wenn die unabhängigen Zufallsvariablen $X_{1},X_{2},\dots ,X_{n}$ identisch normalverteilt sind mit den Parametern $\mu$ und $\sigma$, dann unterliegt die stetige Zufallsgröße

$Y_{n-1}={\frac {{\bar {X}}-\mu }{\displaystyle {\sqrt {\frac {\sum _{i=1}^{n}(X_{i}-{\bar {X}})^{2}}{n-1}}}}}{\sqrt {n}}$

einer Student-t-Verteilung mit $(n-1)$ Freiheitsgraden.

Die Student-t-Verteilung wird zur Konfidenzschätzung für den Erwartungswert einer normalverteilten Zufallsvariable bei unbekannter Varianz verwendet.

Rechnen mit der Standardnormalverteilung

Bei Aufgabenstellungen, bei denen die Wahrscheinlichkeit für normalverteilte Zufallsvariablen durch die Standardnormalverteilung ermittelt werden soll, ist es nicht nötig, die oben angegebene Transformation jedes Mal durchzurechnen. Stattdessen wird einfach das Ergebnis der Transformation verwendet, um die Grenzen $x_{1}$, $x_{2}$ und die Zufallsvariable $X$ auf die Grenzen $z_{1}$, $z_{2}$ und die Zufallsvariable $Z$ anzugleichen. Somit kann eine ${\mathcal {N}}(\mu ;\sigma ^{2})$ Verteilung durch

$z={\frac {x-\mu }{\sigma }}$   beziehungsweise   $Z={\frac {X-\mu }{\sigma }}$

zu ${\mathcal {N}}(0;1)$ transformiert werden.

Die Wahrscheinlichkeit für ein Ereignis, welches z. B. innerhalb der Werte $x_{1}$ und $x_{2}$ (für den Erwartungswert $\mu$ und die Standardabweichung $\sigma$) liegt, ist durch folgende Umrechnung gleich der Wahrscheinlichkeit der Standardnormalverteilung mit den neuen Grenzen $z_{1}$ und $z_{2}$:

$P(x_{1}\leq X\leq x_{2})=P\left({\frac {x_{1}-\mu }{\sigma }}\leq Z={\frac {X-\mu }{\sigma }}\leq {\frac {x_{2}-\mu }{\sigma }}\right)=P(z_{1}\leq Z\leq z_{2})$

$P$ steht für die englische Bezeichnung „probability“ oder das französische Wort „probabilité“ der Wahrscheinlichkeit.

Grundlegende Fragestellungen

Allgemein gibt die Verteilungsfunktion die Fläche unter der Glockenkurve bis zum Wert $x$ an, d. h. es wird das bestimmte Integral von $-\infty$ bis $x$ berechnet.

Dies entspricht in Aufgabenstellungen einer gesuchten Wahrscheinlichkeit, bei der die Zufallsvariable $X$ kleiner oder kleiner gleich einer bestimmten Zahl $x$ ist. Durch die Verwendung der reellen Zahlen und der Stetigkeit der Normalverteilung macht es keinen Unterschied, ob nun $<$ oder $\leq$ verlangt ist,

weil $P(X=3)=\int _{3}^{3}f(x)dx=0$ und somit $P(X<3)=P(X\leq 3)$.

Dasselbe gilt für größer und größer gleich.

Dadurch, dass $X$ nur kleiner oder größer einer Grenze (oder innerhalb oder außerhalb zweier Grenzen) liegen kann, ergeben sich für Aufgaben bei normalverteilten Wahrscheinlichkeitsberechnungen folgende zwei grundlegende Fragestellungen:

• Wie hoch ist die Wahrscheinlichkeit, dass bei einem Zufallsversuch die normalverteilte Zufallsvariable $Z$ höchstens den Wert $z$ annimmt?

  $P(Z\leq z)=\Phi (z)$

In der Schulmathematik wird für diese Aussage auch die Bezeichnung Linker Spitz verwendet, da die Fläche unter der Gaußkurve von links bis zur Grenze verläuft. Für $z$ sind auch negative Werte erlaubt, trotzdem haben viele Tabellen der Standardnormalverteilung nur positive Einträge. Durch die Symmetrie der Kurve und der Negativitätsregel des linken Spitz stellt dies aber keine Einschränkung dar:

$\Phi (-z)\ =\ 1-\Phi (z)$

• Wie hoch ist die Wahrscheinlichkeit, dass bei einem Zufallsversuch die normalverteilte Zufallsvariable $Z$ mindestens den Wert $z$ annimmt?

$P(Z\geq z)=1-\Phi (z)$

Analog wird hier oft die Bezeichnung Rechter Spitz verwendet. Ebenso gibt es eine Negativitätsregel:

$P(Z\geq -z)=1-\Phi (-z)=1-(1-\Phi (z))=\Phi (z)$

(Da jede Zufallsvariable $X$ der allgemeinen Normalverteilung sich in die Zufallsgröße $Z$ der Standardnormalverteilung umwandeln lässt, gelten die Fragestellungen für beide Größen gleichbedeutend.)

Streubereich und Antistreubereich

Der Streubereich gibt die Wahrscheinlichkeit wieder, dass die normalverteilte Zufallsvariable $Z$ Werte zwischen $z_{1}$ und $z_{2}$ annimmt:

$P(z_{1}\leq Z\leq z_{2})=\Phi (z_{2})-\Phi (z_{1})$

Beim Sonderfall des symmetrischen Streubereiches ($z_{1}=-z_{2}$, mit $z_{2}>0$) gilt

${\begin{aligned}P(-z\leq Z\leq z)&=P(|Z|\leq z)\\&=\Phi (z)-\Phi (-z)\\&=\Phi (z)-(1-\Phi (z))\\&=2\Phi (z)-1.\end{aligned}}$

Hingegen gibt der Antistreubereich die Höhe der Wahrscheinlichkeit an, dass die normalverteilte Zufallsvariable $Z$ Werte außerhalb des Bereichs zwischen $z_{1}$ und $z_{2}$ annimmt:

$P(Z\leq z_{1}{\text{ oder }}Z\geq z_{2})=\Phi (z_{1})+(1-\Phi (z_{2})).$

Somit folgt bei einem symmetrischen Antistreubereich

${\begin{aligned}P(Z\leq -z{\text{ oder }}Z\geq z)&=P(|Z|\geq z)\\&=\Phi (-z)+1-\Phi (z)\\&=1-\Phi (z)+1-\Phi (z)\\&=2-2\Phi (z)\end{aligned}}$

Streubereiche am Beispiel der Qualitätssicherung

Besondere Bedeutung haben beide Streubereiche z. B. bei der Qualitätssicherung von technischen oder wirtschaftlichen Produktionsprozessen. Hier gibt es einzuhaltende Toleranzgrenzen $x_{1}$ und $x_{2}$ , wobei es meist einen größten noch akzeptablen Abstand $\epsilon$ vom Erwartungswert $\mu$ (= dem optimalen Sollwert) gibt. $\sigma$ kann hingegen empirisch aus dem Produktionsprozess gewonnen werden.

Wurde $[x_{1};x_{2}]=[\mu -\epsilon ;\mu +\epsilon ]$ als einzuhaltendes Toleranzintervall angegeben, so liegt (je nach Fragestellung) ein symmetrischer Streu- oder Antistreubereich vor.

Im Falle des Streubereiches gilt:

$P(x_{1}\leq X\leq x_{2})=P(|X-\mu |\leq \epsilon )=$

$=P(\mu -\epsilon \leq X\leq \mu +\epsilon )=P\left({\frac {-\epsilon }{\sigma }}\leq Z\leq {\frac {\epsilon }{\sigma }}\right)=$

$=\Phi \left({\frac {\epsilon }{\sigma }}\right)-\Phi \left({\frac {-\epsilon }{\sigma }}\right)=$

$=2\cdot \Phi \left({\frac {\epsilon }{\sigma }}\right)-1=\gamma$

Der Antistreubereich ergibt sich dann aus

$P(|X-\mu |\geq \epsilon )=1-\gamma$

oder wenn kein Streubereich berechnet wurde durch

$P(|X-\mu |\geq \epsilon )=2\cdot \left(1-\Phi \left({\frac {\epsilon }{\sigma }}\right)\right)=\alpha$.

Das Ergebnis $\gamma$ ist also die Wahrscheinlichkeit für verkaufbare Produkte, während $\alpha$ die Wahrscheinlichkeit für Ausschuss bedeutet, wobei beides von den Vorgaben von $\mu$, $\sigma$ und $\epsilon$ abhängig ist.

Ist bekannt, dass die maximale Abweichung $\epsilon$ symmetrisch um den Erwartungswert liegt, so sind auch Fragestellungen möglich, bei denen die Wahrscheinlichkeit vorgegeben und eine der anderen Größen zu berechnen ist.

Testen auf Normalverteilung

Quantile einer Normalverteilung und einer Chi-Quadrat-Verteilung

Um zu überprüfen, ob vorliegende Daten normalverteilt sind, können folgende Methoden angewandt werden:

• Chi-Quadrat-Test
• Kolmogorov-Smirnov-Test
• Anderson-Darling-Test (Modifikation des Kolmogorov-Smirnov-Tests)
• Lilliefors-Test (Modifikation des Kolmogorov-Smirnov-Tests)
• Cramér-von-Mises-Test
• Shapiro-Wilk-Test
• Jarque-Bera-Test
• Q-Q-Plot (deskriptive Überprüfung)
• Maximum-Likelihood-Methode (deskriptive Überprüfung)

Die Tests haben unterschiedliche Eigenschaften hinsichtlich der Art der Abweichungen von der Normalverteilung, die sie erkennen. So erkennt der Kolmogorov-Smirnov-Test Abweichungen in der Mitte der Verteilung eher als Abweichungen an den Rändern, während der Jarque-Bera-Test ziemlich sensibel auf stark abweichende Einzelwerte an den Rändern („heavy tails“) reagiert.

Beim Lilliefors-Test muss im Gegensatz zum Kolomogorov-Smirnov-Test nicht standardisiert werden, d. h. $\mu$ und $\sigma$ der angenommenen Normalverteilung dürfen unbekannt sein.

Mit Hilfe von Quantil-Quantil-Plots (auch Normal-Quantil-Plots oder kurz Q-Q-Plot) ist eine einfache grafische Überprüfung auf Normalverteilung möglich.
Mit der Maximum-Likelihood-Methode können die Parameter $\mu$ und $\sigma$ der Normalverteilung geschätzt und die empirischen Daten mit der angepassten Normalverteilung grafisch verglichen werden.

Simulation normalverteilter Zufallsvariablen

Box-Muller-Methode

Nach der Box-Muller-Methode lässt sich eine standardnormalverteilte Zufallsvariable $X$ aus zwei gleichverteilten Zufallsvariablen $u_{1},u_{2}\sim U(0,1)$, sogenannten Standardzufallszahlen, simulieren:

$X=\cos(2\pi u_{1})\cdot {\sqrt {-2\ln u_{2}}}$

Polar-Methode

Die Polar-Methode von Marsaglia ist auf einem Computer noch schneller, da sie nur einen Logarithmus benutzt:

1. Erzeuge zwei voneinander unabhängige, im Intervall $[-1,1]$ gleichverteilte Zufallszahlen $u_{1},u_{2}$
2. Berechne $q=u_{1}^{2}+u_{2}^{2}$. Falls $q>1$, wiederhole Schritt 1.
3. Berechne $p={\sqrt {-2\cdot \ln q/q}}$
4. $x_{1,2}=u_{1,2}\cdot p$ liefert zwei voneinander unabhängige, standardnormalverteilte Zufallszahlen $x_{1,2}$.

Durch lineare Transformation lassen sich hieraus beliebige normalverteilte Zufallszahlen erzeugen: Ist die Zufallsvariable $x\sim {\mathcal {N}}(0,1)$-verteilt, so ist $a\cdot x+b$ schließlich ${\mathcal {N}}(b,a^{2})$-verteilt.

Zwölferregel

Der zentrale Grenzwertsatz besagt, dass sich unter bestimmten Voraussetzungen die Verteilung der Summe unabhängiger, identisch verteilter Zufallszahlen einer Normalverteilung nähert.

Ein Spezialfall ist die Zwölferregel, die sich auf die Summe von zwölf Zufallszahlen aus einer Gleichverteilung auf dem Intervall [0,1] beschränkt und bereits zu passablen Verteilungen führt.

Stark ins Gewicht fällt die Forderung der Unabhängigkeit der zwölf Zufallsvariablen $X_{i}$, die bei normalen Pseudozufallszahlen (LKG) nicht garantiert ist. Im Gegenteil wird vom Spektraltest meist nur die Unabhängigkeit von maximal vier bis sieben der $X_{i}$ garantiert. Für numerische Simulationen ist die Zwölferregel daher sehr bedenklich. Andere, sogar leichter zu programmierende Verfahren, sind daher vorzuziehen.

Verwerfungsmethode

Normalverteilungen lassen sich mit der Verwerfungsmethode (s. dort) simulieren.

Inversionsmethode

Die Normalverteilung lässt sich auch mit der Inversionsmethode berechnen. Da das Fehlerintegral leider nicht explizit mit elementaren Funktionen integrierbar ist, muss man auf Reihenentwicklungen der inversen Funktion für einen Startwert ($a_{1}...a_{14}$ weiter unten) und anschließende Korrektur mit dem Newtonverfahren zurückgreifen. Dazu werden erf(x) und erfc(x) benötigt, die ihrerseits mit Reihenentwicklungen und Kettenbruchentwicklungen berechnet werden können – insgesamt ein relativ hoher Aufwand. Die notwendigen Entwicklungen sind in der Literatur zu finden.

Entwicklung des inversen Fehlerintegrals (wegen des Pols nur als Startwert für das Newtonverfahren verwendbar):

$\operatorname {erf} ^{-1}\left({\frac {\sqrt {\pi }}{2}}x\right)=x{\Bigl (}a_{1}+x^{2}{\bigl (}a_{2}+x^{2}(\dots ){\bigr )}{\Bigr )}$

mit den Koeffizienten

${\begin{aligned}a_{i}&=1,{\tfrac {1}{3}},{\tfrac {7}{30}},{\tfrac {127}{630}},{\tfrac {4369}{22680}},{\tfrac {34807}{178200}},{\tfrac {20036983}{97297200}},{\tfrac {2280356863}{10216206000}},{\tfrac {49020204823}{198486288000}},\\&\\&{\tfrac {65967241200001}{237588086736000}},{\tfrac {15773461423793767}{49893498214560000}},{\tfrac {655889589032992201}{1803293578326240000}},\\&\\&{\tfrac {94020690191035873697}{222759794969712000000}},{\tfrac {655782249799531714375489}{1329207696584271504000000}},\ldots \end{aligned}}$

Anwendungen außerhalb der Wahrscheinlichkeitsrechnung

Die Normalverteilung lässt sich auch zur Beschreibung nicht direkt stochastischer Sachverhalte verwenden, etwa in der Physik für das Amplitudenprofil der Gauß-Strahlen und andere Verteilungsprofile.

Zudem findet sie Verwendung in der Gabor-Transformation.

Siehe auch

• Mehrdimensionale Normalverteilung
• Additives weißes gaußsches Rauschen
• Wahrscheinlichkeitsnetz
• Statistik
• Six Sigma Methode der Qualitätsverbesserung

Weblinks

• 

  Wikibooks: Anschauliche Darstellung der Normalverteilung – Lern- und Lehrmaterialien
• Darstellung mit Programmcode in Visual Basic

Diskrete univariate Verteilungen

Diskrete univariate Verteilungen für endliche Mengen:
Benford | Bernoulli | beta-binomial | binomial | Dirac | diskret uniform | empirisch | hypergeometrisch | kategorial | negativ hypergeometrisch | Rademacher | verallgemeinert binomial | Zipf | Zipf-Mandelbrot | Zweipunkt

Diskrete univariate Verteilungen für unendliche Mengen:
Boltzmann | Conway-Maxwell-Poisson | discrete-Phase-Type | erweitert negativ binomial | Gauss-Kuzmin | gemischt Poisson | geometrisch | logarithmisch | negativ binomial | parabolisch-fraktal | Poisson | Skellam | verallgemeinert Poisson | Yule-Simon | Zeta

Kontinuierliche univariate Verteilungen

Kontinuierliche univariate Verteilungen mit kompaktem Intervall:
Beta | Cantor | Kumaraswamy | raised Cosine | Dreieck | Trapez | U-quadratisch | stetig uniform | Wigner-Halbkreis

Kontinuierliche univariate Verteilungen mit halboffenem Intervall:
Beta prime | Bose-Einstein | Burr | Chi | Chi-Quadrat | Coxian | Erlang | Exponential | Extremwert | F | Fermi-Dirac | Folded normal | Fréchet | Gamma | Gamma-Gamma | verallgemeinert invers Gauß | halblogistisch | halbnormal | Hartman-Watson | Hotellings T-Quadrat | hyper-exponentiale | hypoexponential | invers Chi-Quadrat | scale-invers Chi-Quadrat | Invers Normal | Invers Gamma | Kolmogorow-Verteilung | Lévy | log-normal | log-logistisch | Maxwell-Boltzmann | Maxwell-Speed | Nakagami | nichtzentriert Chi-Quadrat | Pareto | Phase-Type | Rayleigh | relativistisch Breit-Wigner | Rice | Rosin-Rammler | shifted Gompertz | truncated normal | Type-2-Gumbel | Weibull | Wilks’ Lambda

Kontinuierliche univariate Verteilungen mit unbeschränktem Intervall:
Cauchy | Extremwert | exponential Power | Fishers z | Fisher-Tippett (Gumbel) | generalized hyperbolic | Hyperbolic-secant | Landau | Laplace | alpha-stabil | logistisch | normal (Gauß) | normal-invers Gauß’sch | Skew-normal | Studentsche t | Type-1-Gumbel | Variance-Gamma | Voigt

Multivariate Verteilungen

Diskrete multivariate Verteilungen:
Dirichlet compound multinomial | Ewens | gemischt Multinomial | multinomial | multivariat hypergeometrisch | multivariat Poisson | negativmultinomial | Pólya/Eggenberger | polyhypergeometrisch

Kontinuierliche multivariate Verteilungen:
Dirichlet | GEM | generalized Dirichlet | multivariat normal | multivariat Student | normalskaliert invers Gamma | Normal-Gamma | Poisson-Dirichlet

Multivariate Matrixverteilungen:
Gleichverteilung auf der Stiefel-Mannigfaltigkeit | Invers Wishart | Matrix Beta | Matrix Gamma | Matrix invers Beta | Matrix invers Gamma | Matrix Normal | Matrix Student-t | Matrix-Von-Mises-Fisher-Verteilung | Normal-invers-Wishart | Normal-Wishart | Wishart