Stichprobenverteilung

In der Statistik und Wahrscheinlichkeitstheorie wird die Wahrscheinlichkeitsverteilung einer Stichprobenfunktion auch als Stichprobenverteilung der Stichprobenfunktion bezeichnet.

Zur Bezeichnung „Stichprobenverteilung“

Die Bezeichnung „Stichprobenverteilung“ ist zwar gebräuchlich, kann aber missverständlich sein, da damit nicht die Verteilung einer Zufallsstichprobe oder der möglichen Stichprobenwerte bezeichnet wird. Während ‚Verteilung der Stichprobenfunktion‘ unmissverständlich ist, kann die Bezeichnung ‚Stichprobenverteilung der Stichprobenfunktion‘ so missverstanden werden, dass es noch andere Verteilungen einer Stichprobenfunktion gibt. Diese beiden möglichen Missverständnisse können den Grund dafür bilden, dass viele Autoren die Bezeichnung Stichprobenverteilung völlig vermeiden und einfach von der Verteilung der Stichprobenfunktion sprechen.

Der Begriff sampling distribution wurde 1922 von Ronald Aylmer Fisher beiläufig eingeführt und in den Jahren 1928 und 1929 mit der Verwendung im Titel von zwei Aufsätzen etabliert.

Zu unterscheiden ist die Stichprobenverteilungsfunktion, eine seltene Bezeichnung für die empirische Verteilungsfunktion.

Bestimmung der Stichprobenverteilung

Wenn $X_{1},\dots ,X_{n}$ die Stichprobenvariablen einer Zufallsstichprobe vom Umfang $n$ sind und $G=g(X_{1},\dots ,X_{n})$ eine Stichprobenfunktion ist, dann ist $G$ eine Zufallsvariable, deren Wahrscheinlichkeitsverteilung als Stichprobenverteilung von $G$ bezeichnet wird. Die Stichprobenverteilung der Stichprobenfunktion $G$ hängt über die (messbare) Funktion $g$ von der Wahrscheinlichkeitsverteilung des Stichprobenvektors $\mathbf {X} =(X_{1},\dots ,X_{n})$ ab.

Häufig interessierende Stichprobenfunktionen sind die Summenvariable $S_{n}=\sum _{i=1}^{n}X_{i}$, die in diesem Zusammenhang auch Stichprobensumme heißt, und das arithmetische Mittel ${\bar {X}}_{n}=S_{n}/n$, das in diesem Zusammenhang auch Stichprobenmittel heißt.

Allgemeines Vorgehen

Wenn die Wahrscheinlichkeitsverteilung des Stichprobenvektors $\mathbf {X}$ und die Funktion $g\colon \mathbb {R} ^{n}\to \mathbb {R}$ gegeben ist, dann ergibt sich die Verteilungsfunktion – und mit dieser die Stichprobenverteilung – der Stichprobenfunktion $G$ als

$P(G\leq x)=P(\mathbf {X} \in g^{-1}((-\infty ,x]){\text{ für alle }}x\in \mathbb {R} \;.$

Dabei ist $g^{-1}((-\infty ,x])=\{\mathbf {x} \in \mathbb {R} ^{n}\mid g(\mathbf {x} )\in (-\infty ,x]\}$.

Wenn der häufige Fall vorliegt, dass die Stichprobenvariablen stochastisch unabhängig und identisch verteilt sind und jede Stichprobenvariable die Wahrscheinlichkeitsverteilung $P_{X}$ hat, dann ist die Wahrscheinlichkeitsverteilung des Zufallsvektor $\mathbf {X}$ durch die $n$-fache Produktverteilung $P_{X}^{\otimes n}$ gegeben.

Bei Anwendungen in der parametrischen Statistik mit stochastisch unabhängigen und identisch verteilten Stichprobenvariablen ist typischerweise die Verteilung einer Stichprobenvariablen nicht exakt bekannt, sondern durch eine parametrische Familie $(P_{X,\theta })_{\theta \in \Theta }$ eingeschränkt. In diesem Fall ergibt sich auch für $\mathbf {X}$ eine parametrische Familie $(P_{X,\theta }^{\otimes n})_{\theta \in \Theta }$ von Verteilungen und es ergibt sich nicht nur eine Stichprobenverteilung, sondern eine durch den Parameter $\theta$ indizierte Familie von Stichprobenverteilungen der Stichprobenfunktion $G$.

Vorgehen in speziellen Fällen

Für spezielle Verteilungen der Stichprobenvariablen und spezielle Stichprobenfunktionen sind Zusammenhänge bekannt, mit deren Hilfe die Stichprobenverteilung der jeweiligen Stichprobenfunktion angegeben werden kann, ohne den oben angegebenen allgemeinen Weg zu beschreiten.

Unter der Voraussetzung, dass die Stichprobenvariablen $X_{1},\dots ,X_{n}$ stochastisch unabhängig und identisch verteilt sind, gilt z. B.:

• Die Summe Bernoulli-verteilter Stichprobenvariablen hat als Stichprobenverteilung eine Binomialverteilung;

$X_{i}\sim \mathrm {Ber} (p)\implies S_{n}\sim \mathrm {Bin} (n,p)$.

• Die Summe normalverteilter Stichprobenvariablen hat als Stichprobenverteilung eine Normalverteilung;

$X_{i}\sim \mathrm {N} (\mu ,\sigma ^{2})\implies S_{n}\sim \mathrm {N} (n\mu ,n\sigma ^{2})$.

• Das arithmetische Mittel normalverteilter Stichprobenvariablen hat als Stichprobenverteilung eine Normalverteilung;

  

  Dichtefunktionen der Stichprobenverteilung des arithmetischen Mittels ${\bar {X}}_{n}$ stochastisch unabhängiger standardnormalverteilter Zufallsvariablen für unterschiedliche Stichprobenumfänge $n$. Mit größerem Stichprobenumfang $n$ wird die Varianz $\mathrm {Var} [{\bar {X}}_{n}]=1/n$ kleiner und die Dichtefunktion ist enger um die Stelle $\mu =0$ konzentriert.

$X_{i}\sim \mathrm {N} (\mu ,\sigma ^{2})\implies {\bar {X}}_{n}\sim \mathrm {N} (\mu ,\sigma ^{2}/n)$.

• Das Produkt lognormalverteilter Stichprobenvariablen hat als Stichprobenverteilung eine Lognormalverteilung;

$X_{i}\sim \mathrm {LN} (\mu ,\sigma ^{2})\implies \prod _{i=1}^{n}X_{i}\sim \mathrm {LN} (n\mu ,n\sigma ^{2})$;

• Das geometrische Mittel lognormalverteilter Stichprobenvariablen hat als Stichprobenverteilung eine Lognormalverteilung;

$X_{i}\sim \mathrm {LN} (\mu ,\sigma ^{2})\implies {\sqrt[{n}]{\prod _{i=1}^{n}X_{i}}}\sim \mathrm {LN} (\mu ,\sigma ^{2}/n)$.

Es sind viele weitere ähnliche Zusammenhänge bekannt, die es ermöglichen, für bestimmte Stichprobenfunktionen die Stichprobenverteilung anzugeben. Für die Stichprobenverteilung der Summe von Stichprobenvariablen anderer Verteilungen siehe auch Reproduktivitätseigenschaft.

Kennzahlen der Stichprobenverteilung

Wenn die Stichprobenvariablen $X_{1},\dots ,X_{n}$ stochastisch unabhängig und identisch verteilt sind und Kennzahlen der Verteilung der Stichprobenvariablen bekannt sind, können Aussagen über Kennzahlen einer Stichprobenverteilung gemacht werden, z. B. gelten für den Erwartungswert und die Varianz der Summenvariable $S_{n}$ und des arithmetischen Mittels ${\bar {X}}_{n}$ die Aussagen:

• aus $\mathrm {E} [X_{i}]=\mu \in \mathbb {R}$ folgt $\mathrm {E} [S_{n}]=n\mu$;
• aus $\mathrm {E} [X_{i}]=\mu \in \mathbb {R}$ folgt $\mathrm {E} [{\bar {X}}_{n}]=\mu$;
• aus $\mathrm {Var} [X_{i}]=\sigma ^{2}<\infty$ folgt $\mathrm {Var} [S_{n}]=n\sigma ^{2}$;
• aus $\mathrm {Var} [X_{i}]=\sigma ^{2}<\infty$ folgt $\mathrm {Var} [{\bar {X}}_{n}]=\sigma ^{2}/n$.

Approximative Stichprobenverteilung

Wenn die Stichprobenvariablen $X_{1},\dots ,X_{n}$ stochastisch unabhängig und identisch verteilt sind und wenn $\mathrm {E} [X_{i}]=\mu$ und $0<\mathrm {Var} [X_{i}]=\sigma ^{2}<\infty$ gilt, dann sind für hinreichend großes $n$ die Summe $S_{n}$ und das arithmetische Mittel ${\bar {X}}_{n}$ approximativ normalverteilt (siehe Zentraler Grenzwertsatz, Gesetz der großen Zahlen, Gleichung von Bienaymé). Die Stichprobenverteilungen von $S_{n}$ und ${\bar {X}}_{n}$ sind also näherungsweise durch Normalverteilungen charakterisierbar;

$\mathrm {Verteilung} [S_{n}]\approx \mathrm {N} (n\mu ,n\sigma ^{2}),\quad \mathrm {Verteilung} [{\bar {X}}_{n}]\approx \mathrm {N} \left(\mu ,{\frac {\sigma ^{2}}{n}}\right)\;.$

Diese Approximationen beruhen auf dem Zentralen Grenzwertsatz der Statistik, der besagt, dass die Folge $(Z_{n})_{n\in \mathbb {N} }$ der standardisierten Zufallsvariablen

$Z_{n}:={\frac {S_{n}-\mu n}{\sqrt {n\sigma ^{2}}}}={\sqrt {n}}{\frac {{\bar {X}}_{n}-\mu }{\sigma }}$

für $n\to \infty$ in Verteilung gegen eine standardnormalverteilte Zufallsvariable $Z\sim \mathrm {N} (0,1)$ konvergiert. Die Approximation der Verteilung von $Z_{n}$ durch eine Standardnormalverteilung ist dann äquivalent zu den angegebenen Approximationen für die Stichprobenverteilungen von $S_{n}$ und ${\bar {X}}_{n}$.

Statistische Schätzung der Stichprobenverteilung

Wenn die Stichprobenwerte $x_{1},\dots ,x_{n}$ aus einer hinreichend große Zufallsstichprobe vorliegen, kann die empirische Verteilung der Stichprobenwerte als statistische Schätzung der Verteilung der Grundgesamtheit angesehen werden. Die Stichprobenverteilung einer beliebige Stichprobenfunktion kann dann ohne parametrisches Modell mit Hilfe des Bootstrap-Verfahrens geschätzt werden, ohne dass die Verteilung der Stichprobenvariablen bekannt sein muss. Jedoch muss allgemein mathematisch gezeigt werden, dass die Bootstrap-Stichprobenverteilungen mit steigender Zahl der Bootstrap-Stichproben gegen die Stichprobenverteilung konvergieren. Für das Beispiel im Bild ist die Bootstrap-Stichprobenverteilung um ${\hat {\mu }}={\frac {1}{n}}\sum _{i=1}^{n}x_{i}$ zentriert, und im allgemeinen nicht um $\mu$, hat jedoch die zu erwartende richtige Streuungsbreite.

Anwendungsbereiche

Die Wahrscheinlichkeitsverteilung einer Stichprobenfunktion dient in der statistischen Schätz- und Testtheorie zur Gewinnung von Aussagen über unbekannte Parameter in der Grundgesamtheit aufgrund einer Stichprobe.

Statistische Schätztheorie

In der statistischen Schätztheorie ist die interessierende Stichprobenverteilung häufig die Wahrscheinlichkeitsverteilung einer Schätzfunktion für einen unbekannten Parameter der Grundgesamtheit.

→ Hauptartikel: Schätzfunktion

Beispiel

Sind die Stichprobenvariablen $X_{1},\dots ,X_{n}$ stochastisch unabhängig und identisch verteilte Bernoulli-Variablen mit dem unbekannten Bernoulli-Parameter $0<p<1$, dann ist die Stichprobenverteilung der Summenvariablen $S_{n}$ eine Binomialverteilung mit den Parametern $n$ und $p$. Die Stichprobenverteilung der Stichprobenvariablen $S_{n}$ hängt vom unbekannten Parameter $p$ ab.

Statistische Testtheorie

In der statistischen Testheorie hängt die Verteilung einer Teststatistik typischerweise von den Stichprobenvariablen $X_{1},\dots ,X_{n}$, dem Stichprobenumfang $n$ und einem spezifizierten Wert eines unbekannten Parameters der Grundgesamtheit ab.

Beispiel

Sind die Stichprobenvariablen stochastisch unabhängig und identisch normalverteilt mit unbekanntem Parameter $\mu$ und bekannter Varianz $\sigma ^{2}=1$, dann ist die Zufallsvariable

$T_{n}={\sqrt {n}}\left({\bar {X}}_{n}-\mu _{0}\right)$

die Teststatistik eines Gauß-Tests mit den Hypothesen $H_{0}\colon \mu =\mu _{0}$ und $H_{1}\colon \mu \neq \mu _{0}$. Die Stichprobenverteilung der Teststatistik $T_{n}$ ist die Normalverteilung mit dem Erwartungswert $\mu -\mu _{0}$ und der Varianz 1,

$T_{n}\sim \mathrm {N} (\mu -\mu _{0},1)\;.$

Die Stichprobenverteilung der Stichprobenfunktion $T_{n}$ hängt vom unbekannten Parameter $\mu$ ab. Wenn die Nullhypothese richtig ist, also $\mu -\mu _{0}$ gilt, dann ist $T_{n}$ standardnormalverteilt. Diese spezielle Stichprobenverteilung heißt dann auch die Verteilung der Teststatistik unter $H_{0}$.

Stichproben aus endlichen Grundgesamtheiten

Im statistischen Methodengebiet der Stichproben aus endlichen Grundgesamtheiten sind die Stichprobenvariablen typischerweise zwar identisch verteilt, aber nicht stochastisch unabhängig, wenn Schemata der Stichprobenziehung berücksichtigt werden, die nicht dem Schema Ziehen mit Zurücklegen entsprechen, das zu stochastisch unabhängigen und identisch verteilten Stichprobenvariablen führt.

Bei vielen Anwendungen erfolgt ein Ziehen ohne Zurücklegen, bei dem die Stichprobenvariablen zwar identisch verteilt, aber nicht stochastisch unabhängig sind. Wenn die Grundgesamtheit aus $N$ unterscheidbaren statistischen Einheiten in der Menge $\{1,2,\dots ,N\}$ besteht, so gibt es beim Ziehen einer Stichprobe vom Umfang $n=2$ ohne Zurücklegen insgesamt $N(N-1)$ mögliche Stichproben, nämlich Paare $\omega =(\omega _{1},\omega _{2})$ in der Menge

$\Omega =\{(\omega _{1},\omega _{2})\mid \omega _{1},\omega _{2}\in \{1,\dots ,N\},\omega _{1}\neq \omega _{2}\}$

der möglichen Stichproben. Durch dieses Ziehungsschema sind den möglichen Stichproben die Auswahlwahrscheinlichkeiten

$p(\omega )={\frac {1}{N(N-1)}}{\text{ für alle }}\omega \in \Omega$

zugeordnet. Wenn den Einheiten in $\{1,2,\dots ,N\}$ die Werte $(\xi _{1},\dots ,\xi _{N})\in \mathbb {R} ^{N}$ eines statistischen Merkmals zugeordnet sind, so wird in einer Stichprobe $\omega =(\omega _{1},\omega _{2})\in \Omega$ das Wertepaar $(\xi _{\omega _{1}},\xi _{\omega _{2}})$ beobachtet. Die Stichprobenvariablen $(X_{1},X_{2})$, die die zufälligen Werte bei der ersten und zweiten Ziehung beschreiben, haben die gemeinsame zweidimensionale diskrete Wahrscheinlichkeitsverteilung

$P((X_{1},X_{2})=(x_{1},x_{2}))={\frac {\#\{\omega \in \Omega \mid (\xi _{\omega _{1}},\xi _{\omega _{2}})=(x_{1},x_{2})\}}{N(N-1)}},\quad (x_{1},x_{2})\in \mathbb {R} ^{2}\;.$

Für die Stichprobenfunktion $S=X_{1}+X_{2}$ ergibt sich die Stichprobenverteilung als die eindimensionale diskrete Wahrscheinlichkeitsverteilung

$P(S=x)={\frac {\#\{\omega \in \Omega \mid \xi _{\omega _{1}}+\xi _{\omega _{2}}=x\}}{N(N-1)}},\quad x\in \mathbb {R} .$

Für die Stichprobenfunktion ${\bar {X}}=(X_{1}+X_{2})/2$ ergibt sich die Stichprobenverteilung als die eindimensionale diskrete Wahrscheinlichkeitsverteilung

$P({\bar {X}}=x)={\frac {\#\{\omega \in \Omega \mid (\xi _{\omega _{1}}+\xi _{\omega _{2}})/2=x\}}{N(N-1)}},\quad x\in \mathbb {R} \;.$

Beispiel

Für eine Grundgesamt mit $N=3$ Einheiten und $\xi _{1}=10,\xi _{2}=16,\xi _{3}=10$ ergeben sich beim Ziehen ohne Zurücklegen die $N(N-1)=6$ verschiedenen Stichproben $(1,2),(1,3),(2,1),(2,3),(3,1),(3,2)$ vom Umfang $n=2$. Dies haben jeweils die Auswahlwahrscheinlichkeit $1/6$. Die zugehörigen Beobachtungswerte sind $(\xi _{1},\xi _{2})=(\xi _{3},\xi _{2})=(10,16)$, $(\xi _{1},\xi _{3})=(\xi _{3},\xi _{1})=(10,10)$ und $(\xi _{2},\xi _{1})=(\xi _{2},\xi _{3})=(16,10)$. Die gemeinsame diskrete Wahrscheinlichkeitsverteilung von $(X_{1},X_{2})$ ist

$P((X_{1},X_{2})=(x_{1},x_{2}))={\begin{cases}{\frac {2}{6}}={\frac {1}{3}},&{\text{falls }}(x_{1},x_{2})\in \{(10,16),(10,10),(16,10)\}\\0&{\text{sonst}}\end{cases}}\;.$

Die Stichprobenverteilung der Stichprobenfunktion $S=X_{1}+X_{2}$ ist

$P(S=26)={\frac {4}{6}}={\frac {2}{3}},\quad P(S=20)={\frac {2}{6}}={\frac {1}{3}}\;.$

Die Stichprobenverteilung der Stichprobenfunktion ${\bar {X}}=(X_{1}+X_{2})/2$ ist

$P({\bar {X}}=13)={\frac {2}{3}},\quad P({\bar {X}}=10)={\frac {1}{3}}\;.$

Literatur

• E. L. Lehmann, Joseph P. Romano: Testing Statistical Hypothesis. 4. Auflage. Springer, Cham 2022, ISBN 978-3-03070577-0, doi:10.1007/978-3-030-70578-7 (In zwei fortlaufend paginierten Bänden, Volume I: Finite-sample-theory, Volume II: Asymptotic Theory). 
• E. L. Lehmann, Georg Casella: Theory of Point Estimation. 2. Auflage. Springer, New York 1998, ISBN 0-387-98502-6. 
• Fritz Pokropp: Stichproben – Theorie und Verfahren. 2. Auflage. Oldenbourg, München 1996, ISBN 3-486-23856-6. 
• Horst Rinne: Taschenbuch der Statistik. 4. Auflage. Harri Deutsch, Frankfurt am Main 2008, ISBN 978-3-8171-1827-4, 1.3 Stichprobenvektor und Stichprobenfunktionen, S. 437–439.