Wahrscheinlichkeitsdichtefunktion

Die Wahrscheinlichkeit, dass eine Zufallsvariable einen Wert zwischen $a$ und $b$ annimmt, entspricht dem Inhalt der Fläche $S$ unter dem Graph der Wahrscheinlichkeits­dichtefunktion $f$.

In der Wahrscheinlichkeitstheorie ist die Wahrscheinlichkeitsdichtefunktion, oft kurz Dichtefunktion, Wahrscheinlichkeitsdichte oder nur Dichte (abgekürzt WDF oder engl. pdf von probability density function) genannt, ein Hilfsmittel zur Beschreibung einer stetigen Wahrscheinlichkeitsverteilung. Die Integration der Wahrscheinlichkeitsdichte über ein Intervall $[a,b]$ ergibt die Wahrscheinlichkeit dafür, dass eine Zufallsvariable mit dieser Dichte einen Wert zwischen $a$ und $b$ annimmt. Die Wahrscheinlichkeitsdichte kann Werte größer als 1 annehmen und sollte nicht mit der Wahrscheinlichkeit selbst verwechselt werden.

Formal handelt es sich um eine Dichte bezüglich des Lebesgue-Maßes.

Während im diskreten Fall Wahrscheinlichkeiten von Ereignissen durch Aufsummieren der Wahrscheinlichkeiten der einzelnen Elementarereignisse berechnet werden können (ein idealer Würfel zeigt beispielsweise jede Zahl mit einer Wahrscheinlichkeit von ${\tfrac {1}{6}}$), gilt dies nicht mehr für den stetigen Fall. Beispielsweise sind zwei Menschen kaum exakt gleich groß, sondern nur bis auf Haaresbreite oder weniger. In solchen Fällen sind Wahrscheinlichkeitsdichtefunktionen nützlich. Mit Hilfe dieser Funktionen lässt sich die Wahrscheinlichkeit für ein beliebiges Intervall – beispielsweise eine Körpergröße zwischen 1,80 m und 1,81 m – bestimmen, obwohl unendlich viele Werte in diesem Intervall liegen, von denen jeder einzelne die Wahrscheinlichkeit $0$ hat.

Definition

Es sei $P$ ein Wahrscheinlichkeitsmaß und $X$ sei eine reellwertige Zufallsvariable. Eine Funktion $f\colon \mathbb {R} \rightarrow [0,\infty )$ heißt Wahrscheinlichkeitsdichte der Zufallsvariable $X$ (oder genauer: der Verteilung $P_{X}$ von $X$), falls gilt

$P(a\leq X\leq b)=\int _{a}^{b}f(x)\,\mathrm {d} x$     bzw.      $P_{X}([a,b])=\int _{a}^{b}f(x)\,\mathrm {d} x$

für alle reellen Zahlen $a<b$. Für eine Zufallsvariable $X$ erhält man also die Wahrscheinlichkeit $P(a\leq X\leq b)$ als die Fläche unter der Dichtefunktion über dem Intervall $(a,b)$. Für zwei Zufallsvariablen $X$ und $Y$ erhält man die Wahrscheinlichkeit

$P(a<X<b,c<Y<d)=\int _{c}^{d}\int _{a}^{b}f(x,y)\,\mathrm {d} x\mathrm {d} y$

als das Volumen unter der Dichtefunktion über dem Rechteck $(a,b)\times (c,d)$.

Eigenschaften

Normierung und Eindeutigkeit

Dichte der bivariaten Normalverteilung im dreidimensionalen Raum

Die Fläche unter der Dichtefunktion hat den Inhalt $1$ (sicheres Ereignis):

$\int _{\mathbb {R} }f(x)\,{\rm {d}}x=\int _{-\infty }^{\infty }f(x)\,{\rm {d}}x=1$

Die Wahrscheinlichkeitsdichte ist bis auf Abweichungen in einer Nullmenge eindeutig bestimmt. Sie ist stets nicht-negativ und kann (im Gegensatz zu Wahrscheinlichkeiten) beliebig große Werte annehmen, wie aus dem Bild ersichtlich ist.

Umgekehrt gilt: Jede Funktion $f\colon \mathbb {R} \to \mathbb {R}$ mit $f(x)\geq 0$ für alle $x\in \mathbb {R}$ und $\textstyle \int _{-\infty }^{\infty }f(x)\,{\rm {d}}x=1$ ist die Dichtefunktion einer eindeutig bestimmten Wahrscheinlichkeitsverteilung.

Analog zu dieser Eigenschaft gilt für ein Paar stetiger Zufallsvariablen für deren gemeinsame Dichte, mit $f(x,y)\geq 0$:

$\int _{y}\int _{x}f(x,y)\,{\rm {d}}x{\rm {d}}y=\int _{-\infty }^{\infty }\int _{-\infty }^{\infty }f(x,y)\,{\rm {d}}x{\rm {d}}y=1$

Berechnung von Wahrscheinlichkeiten

Die Wahrscheinlichkeit für ein Intervall lässt sich mit der Wahrscheinlichkeitsdichte $f$ berechnen als

$P(X\in [a,b])=\int _{a}^{b}f(x)\,{\rm {d}}x$.

Diese Formel gilt ebenso für die Intervalle $(a,b)$, $(a,b]$ und $[a,b)$, denn es liegt in der Natur von stetigen Zufallsvariablen, dass sie keinen konkreten Wert annehmen können. Daher beträgt die Wahrscheinlichkeit für das Annehmen eines konkreten Wertes $0$ (unmögliches Ereignis). Formal ausgedrückt gilt:

$\forall x\in \mathbb {R} \colon \,P(X=x)=0\;$ und $P(a\leq X\leq b)=P(a<X\leq b)=P(a\leq X<b)=P(a<X<b)$

Für komplexere Mengen kann die Wahrscheinlichkeit analog durch Integrieren über Teilintervalle ermittelt werden. Allgemein erhält die Wahrscheinlichkeit die Form

$P(X\in A)=\int _{A}f(x)\,{\rm {d}}x$.

Bedingung für die Existenz einer Wahrscheinlichkeitsdichte

$X$ besitzt eine Wahrscheinlichkeitsdichte $f$ genau dann, wenn die Verteilung von $X$ absolutstetig bezüglich des Lebesgue-Maßes ist, d. h., wenn

$P(X\in A)=0$

für jede Lebesgue-Nullmenge $A$ (Satz von Radon-Nikodým).

Zusammenhang von Verteilungsfunktion und Dichtefunktion

Wahrscheinlichkeitsdichte der Lognormalverteilung (mit $\mu =0$)

Kumulative Verteilungsfunktion der Lognormalverteilung (mit $\mu =0$)

Die (kumulative) Verteilungsfunktion $F(x)=P(X\leq x)$ wird als Integral über die Dichtefunktion gebildet:

$F(x)=P(X\leq x)=\int _{-\infty }^{x}f(t)\,\operatorname {d} t$.

Für Zufallsvariablen $X$, die eine Dichtefunktion haben, ist $F$ stetig.

Umgekehrt gilt: Wenn die Verteilungsfunktion $F$ differenzierbar ist, ist ihre Ableitung eine Dichtefunktion der Verteilung:

$F^{\prime }(x)={\frac {\operatorname {d} F(x)}{\operatorname {d} x}}=f(x)$.

Dieser Zusammenhang gilt auch dann noch, wenn $F$ stetig ist und es höchstens abzählbar viele Stellen $x\in \mathbb {R}$ gibt, an denen $F$ nicht differenzierbar ist; welche Werte man an diesen Stellen für $f(x)$ verwendet, ist unerheblich.

Allgemein existiert eine Dichtefunktion genau dann, wenn die Verteilungsfunktion $F$ absolut stetig ist. Diese Bedingung impliziert unter anderem, dass $F$ stetig ist und fast überall eine Ableitung besitzt, die mit der Dichte übereinstimmt.

Es ist jedoch zu beachten, dass es Verteilungen wie die Cantor-Verteilung gibt, die eine stetige, fast überall differenzierbare Verteilungsfunktion besitzen, aber dennoch keine Wahrscheinlichkeitsdichte. Fast überall differenzierbar sind Verteilungsfunktionen immer, aber die entsprechende Ableitung erfasst generell nur den absolutstetigen Anteil der Verteilung.

Dichten auf Teilintervallen

Die Wahrscheinlichkeitsdichte einer Zufallsvariablen $X$, die nur Werte in einem Teilintervall $I$ der reellen Zahlen annimmt, kann so gewählt werden, dass sie außerhalb des Intervalls den Wert $0$ hat. Ein Beispiel ist die Exponentialverteilung mit $I=[0,\infty [$. Alternativ kann die Wahrscheinlichkeitsdichte als eine Funktion $f\colon I\to \mathbb {R}$ betrachtet werden, d. h. als eine Dichte der Verteilung auf $I$ bezüglich des Lebesgue-Maßes auf $I$.

Erwartungswerte

Mithilfe von Dichtefunktionen können auch Erwartungswerte berechnet werden. Ist $X$ eine Zufallsvariable mit Dichte $f$, dann gilt für ihren Erwartungswert

$\operatorname {E} (X)=\int _{-\infty }^{\infty }xf(x)\,\mathrm {d} x$,

falls das Integral existiert.

Nichtlineare Transformation

Im Falle der nichtlinearen Transformation $Y=g(X)$ gilt

$\operatorname {E} (Y)=\operatorname {E} (g(X))=\int _{-\infty }^{\infty }g(x)f(x)\,\mathrm {d} x$.

Varianzen

Die Varianz einer stetigen Zufallsvariablen ist definiert als die erwartete quadratische Abweichung zwischen $X$ und $\mu =\operatorname {E} (X)$:

$\sigma ^{2}=\operatorname {Var} (X)=\operatorname {E} (X-\mu )^{2}=\int _{-\infty }^{\infty }(x-\mu )^{2}f(x)\,\mathrm {d} x$

Beispiele

Durch $f(x)=3x^{2}$ für $x\in [0,1]$ sowie $f(x)=0$ für $x<0$ und $f(x)=0$ für $x>1$ ist eine Dichtefunktion $f\colon \mathbb {R} \to \mathbb {R}$ gegeben, denn $f$ ist auf ganz $\mathbb {R}$ nichtnegativ und es gilt

$\int _{-\infty }^{\infty }f(x)\,\mathrm {d} x=\int _{0}^{1}3x^{2}\,\mathrm {d} x=1$.

Für$x\in [0,1]$ gilt:

$F(x)=\int _{-\infty }^{x}f(t)\,\mathrm {d} t=\int _{0}^{x}3t^{2}\,\mathrm {d} t=x^{3}$

Die Verteilungsfunktion lässt sich schreiben als

$F_{X}(x)={\begin{cases}0&{\text{ falls }}x<0\\x^{3}&{\text{ falls }}0\leq x\leq 1\\1&{\text{ falls }}x>1\end{cases}}$

Ist $X$ eine Zufallsvariable mit der Dichte $f$, so folgt daher beispielsweise

$P(X\leq {\tfrac {1}{2}})=F({\tfrac {1}{2}})={\tfrac {1}{8}}$.

Für den Erwartungswert von $X$ ergibt sich

$\operatorname {E} (X)=\int _{-\infty }^{\infty }xf(x)\,\mathrm {d} x=\int _{0}^{1}3x^{3}\,\mathrm {d} x={\tfrac {3}{4}}$.

Weitere Beispiele für Wahrscheinlichkeitsdichten sind in der Liste univariater Wahrscheinlichkeitsverteilungen zu finden.

Mehrdimensionale Zufallsvariable

Wahrscheinlichkeitsdichten kann man auch für mehrdimensionale Zufallsvariablen, also für Zufallsvektoren definieren. Ist $X$ eine $\mathbb {R} ^{n}$-wertige Zufallsvariable, so heißt eine Funktion $f\colon \mathbb {R} ^{n}\rightarrow [0,\infty )$ Wahrscheinlichkeitsdichte (bezüglich des Lebesgue-Maßes) der Zufallsvariable $X$, falls gilt

$P(X\in A)=\int _{A}f(x)\mathrm {d} ^{n}x$

für alle Borelmengen $A\in {\mathcal {B}}(\mathbb {R} ^{n})$.

Speziell folgt dann für $n$-dimensionale Intervalle $I=[a_{1},b_{1}]\times \dotsb \times [a_{n},b_{n}]$ mit reellen Zahlen $a_{1}<b_{1},\dotsc ,a_{n}<b_{n}$:

$P(X\in I)=\int _{a_{n}}^{b_{n}}\dotsi \int _{a_{1}}^{b_{1}}f(x_{1},\dotsc ,x_{n})\ \mathrm {d} x_{1}\dotso \mathrm {d} x_{n}$.

Der Begriff der Verteilungsfunktion lässt sich ebenfalls auf mehrdimensionale Zufallsvariablen erweitern. Hier ist in der Notation $F(x)=P(X\leq x)$ das $x$ ein Vektor und das $\leq \,$-Zeichen komponentenweise zu lesen. $F$ ist also hierbei eine Abbildung von $\mathbb {R} ^{n}\,$ in das Intervall [0,1] und es gilt

$F(x_{1},\dotsc ,x_{n})=\int _{-\infty }^{x_{n}}\dotsi \int _{-\infty }^{x_{1}}f(t_{1},\dotsc ,t_{n})\ \mathrm {d} t_{1}\dotso \mathrm {d} t_{n}$.

Wenn $F$ n-mal stetig differenzierbar ist, erhält man eine Wahrscheinlichkeitsdichte durch partielle Differentiation:

$f(x_{1},x_{2},\dotsc ,x_{n})={\frac {\partial ^{n}F(x_{1},x_{2},\dotsc ,x_{n})}{\partial x_{1}\dotso \partial x_{n}}}.$

Die Dichten $f_{i}$ der Komponentenvariablen $X_{i}$ lassen sich als Dichten der Randverteilungen durch Integration über die übrigen Variablen berechnen.

Des Weiteren gilt: Ist $X=(X_{1},\dots X_{n})$ eine $\mathbb {R} ^{n}$-wertige Zufallsvariable mit Dichte, so sind äquivalent:

• $X$ besitzt eine Dichte der Form $f(x_{1},\dots ,x_{n})=f_{1}(x_{1})\cdot \ldots \cdot f_{n}(x_{n})$, wobei $f_{i}$ die reelle Wahrscheinlichkeitsdichte von $X_{i}$ ist.

• Die Zufallsvariablen $X_{1},\dots ,X_{n}$ sind unabhängig.

Schätzung einer Wahrscheinlichkeitsdichte anhand diskreter Daten

Häufigkeitsdichte

Diskret erfasste, aber eigentlich stetige Daten (Beispielsweise die Körpergröße in Zentimetern) können als Häufigkeitsdichte repräsentiert werden. Das so erhaltene Histogramm ist eine stückweise konstante Schätzung der Dichtefunktion. Alternativ kann beispielsweise mit sogenannten Kerndichteschätzern die Dichtefunktion durch eine stetige Funktion geschätzt werden. Der dazu verwendete Kern sollte dem erwarteten Messfehler entsprechen.

Literatur

• Hans-Otto Georgii: Stochastik: Einführung in die Wahrscheinlichkeitstheorie und Statistik. 4. Auflage. de Gruyter Lehrbuch, Berlin 2009, ISBN 978-3-11-021526-7.
• Norbert Henze: Stochastik für Einsteiger. 7. Auflage. Vieweg Verlag, Wiesbaden 2008, ISBN 978-3-8348-0423-5.
• Achim Klenke: Wahrscheinlichkeitstheorie. 2. Auflage. Springer-Verlag, ISBN 978-3-540-76317-8.
• Lothar Sachs, Jürgen Hedderich: Angewandte Statistik: Methodensammlung mit R. 12. Auflage. Springer-Verlag, Berlin / Heidelberg 2006, ISBN 978-3-540-32160-6.