Benutzer:Sigma^2/Baustelle

Geplante Ergänzung zum Artikel Stichprobenverteilung

Bayesianische Inferenzstatistik

Bei der bayesianischen Inferenz wird die A-priori-Verteilung, die auf dem Parameterraum eines zu schätzenden Parameters definiert ist, unter Berücksichtigung der Wahrscheinlichkeitsverteilung des Stichprobenvektors $\mathbf {X} =(X_{1},\dots ,X_{n})$ und unter Verwendung eines realisierten und beobachteten Wertes $\mathbf {x} =(x_{1},\dots ,x_{n})$ des Stichprobenvektors in die A-posteriori-Verteilung transformiert. Dabei ist die A-posteriori-Verteilung proportional zum Produkt aus A-priori-Verteilung und der Likelihoodfunktion. Die Likelihoodfunktion gibt im diskreten Fall die Wahrscheinlichkeit und im stetigen Fall die Wahrscheinlichkeitsdichte des beobachten Wertes $\mathbf {x}$ für alternative Parameter an und wird als Funktion auf dem Parameterraum interpretiert.

Falls eine suffiziente Stichprobenfunktion (suffiziente Statistik) existiert, kann die Stichprobenverteilung dieser Stichprobenfunktion an die Stelle der Verteilung des Stichprobenvektors treten, ohne dass sich die resultierende A-posteriori-Verteilung ändert.

Beispiel

Die Stichprobenvariablen $X_{1},\dots ,X_{n}$ seien stochastisch unabhängig und identisch Bernoulli-verteilt mit unbekanntem Bernoulli-Parameter $0<p<1$. Die Wahrscheinlichkeitsverteilung des Stichprobenvektors $\mathbf {X} =(X_{1},\dots ,X_{n})$ ist dann

$P_{p}(\mathbf {X} =\mathbf {x} )={\begin{cases}p^{k}(1-p)^{n-k},&{\text{falls }}\mathbf {x} =(x_{1},\dots ,x_{n})\in \{0,1\}^{n}\\0&{\text{sonst}}\end{cases}}\;,$

wobei $k:=\sum _{i=1}^{n}x_{i}$. Wenn $f_{0}$ die gegebene Dichtefunktion einer A-Priori-Verteilung auf dem Intervall $(0,1)$ ist und $\mathbf {x}$ ein relasierter und beobachteter Wert des Suchprobenvektors $\mathbf {X} =(X_{1},\dots ,X_{n})$ ist, dann ist die Dichtefunktion $f_{1}$ der A-Posteriori-Verteilung proportional zum Produkt aus $f_{0}$ und der Likelihoodfunktion

$L_{\mathbf {x} }(p):=P_{p}(\mathbf {X} =\mathbf {x} ),\quad 0<p<1\;.$

Es gilt also

$f_{1}(p;\mathbf {x} )=c\cdot L_{\mathbf {x} }(p)\cdot f_{0}(p),\quad 0<p<1$.

Die Summe $K=\sum _{i=1}^{n}X_{i}$ der Stichprobenvariablen ist eine suffiziente Stichprobenfunktion für den Parameter $p$ mit der Stichprobenverteilung

$P_{p}(K=k)={\begin{cases}{\binom {n}{k}}p^{k}(1-p)^{n-k},&{\text{falls }}k\in \{0,1,\dots ,n\}\\0&{\text{sonst}}\end{cases}}$

und der Likelihoodfunktion

$L_{k}(p):=P_{p}(K=k),\quad 0<p<1\;.$

Da sich die Likelihoodfunktionen $L_{\mathbf {x} }$ und $L_{k}$ nur durch einen konstanten Faktor unterscheiden, gilt auch

$f_{1}(p;\mathbf {x} )=c'\cdot L_{k}(p)\cdot f_{0}(p),\quad 0<p<1$.

Die bayessche Inferenz beruhend auf der Verteilung des Stichprobenvektors und auf der Stichprobenverteilung der suffizienten Stichprobenfunktion führt zur selben A-Posteriori-Verteilung. Zu diesem Beispiel siehe auch Bayessche Statistik#Bayessche Inferenz am Beispiel des Münzwurfes und Suffiziente Statistik#Beispiel Binomialverteilung.