Cramér-Rao-Ungleichung

aus Wikipedia, der freien Enzyklopädie
Wechseln zu: Navigation, Suche

Die Cramér-Rao-Ungleichung, auch Informationsungleichung oder Fréchet-Ungleichung genannt, ist eine zentrale Ungleichung der Schätztheorie, einem Teilgebiet der mathematischen Statistik. Sie liefert in regulären statistischen Modellen eine Abschätzung für die Varianz von Punktschätzern und damit eine Möglichkeit, unterschiedliche Schätzer miteinander zu vergleichen sowie ein Kriterium für die Bestimmung von gleichmäßig besten erwartungstreuen Schätzern.

Die Ungleichung ist nach Harald Cramér und Calyampudi Radhakrishna Rao beziehungsweise nach Maurice René Fréchet benannt.

Aussage[Bearbeiten | Quelltext bearbeiten]

Rahmenbedingungen[Bearbeiten | Quelltext bearbeiten]

Gegeben sei ein einparametriges Standardmodell , das heißt es ist und jedes der besitzt eine Dichtefunktion bezüglich des Maßes .

Des Weiteren seien die Cramér-Rao-Regularitätsbedingungen erfüllt, das heißt es gilt

  • ist eine offene Menge.
  • Die Dichtefunktion ist auf ganz echt größer als 0.
  • Die Score-Funktion
existiert und ist endlich.
  • Die Fisher-Information ist echt positiv und endlich.
  • Es gilt die Vertauschunsrelation
.

Formulierung[Bearbeiten | Quelltext bearbeiten]

Ist dann ein Schätzer mit endlicher Varianz und ist

so ist ein erwartungstreuer Schätzer für . Ist nun ein regulärer Schätzer in dem Sinne, als dass die Vertauschungsrelation

,

gültig ist, so gilt die Cramér-Rao-Ungleichung

Bemerkungen[Bearbeiten | Quelltext bearbeiten]

Die Definition der zu schätzenden Funktion über den Erwartungswert von garantiert die Differenzierbarkeit dieser Funktion. Alternativ kann auch als ein erwartungstreuer Schätzer für eine differenzierbare Funktion definiert werden.

Abgeleitete Begriffe[Bearbeiten | Quelltext bearbeiten]

Cramér-Rao-Schranke[Bearbeiten | Quelltext bearbeiten]

Ist ein erwartungstreuer Schätzer für die Funktion , so vereinfacht sich die Cramér-Rao-Ungleichung zu

.

Dies nennt man auch die Cramér-Rao-Schranke.

Cramér-Rao-Effizienz[Bearbeiten | Quelltext bearbeiten]

Ein Schätzer, welcher die Cramér-Rao-Ungleichung mit Gleichheit erfüllt, heißt ein Cramér-Rao-effizienter Schätzer. Er ist ein gleichmäßig bester erwartungstreuer Schätzer für die Klasse der regulären Schätzer, also diejenigen, für die die obige Vertauschungsrelation gilt.

Regularitätsbedingungen und Beweisidee[Bearbeiten | Quelltext bearbeiten]

Der Beweis der Cramér-Rao-Ungleichung beruht im Wesentlichen auf der Cauchy-Schwarz-Ungleichung und zwei Modellannahmen, die die Vertauschbarkeit von Differentiation und Integration regeln.

Einerseits soll

gelten und andererseits nehmen wir

an. Direktes Einsetzen in die Cauchy-Schwarz-Ungleichung liefert dann die Behauptung.

Mehrdimensionale Formulierung[Bearbeiten | Quelltext bearbeiten]

Unter ähnlichen Regularitätsbedingungen ist die Cramér-Rao-Ungleichung auch im Falle mehrdimensionaler Parameter formulierbar. Die Aussage überträgt sich dann auf die Betrachtung der Kovarianzmatrix des mehrdimensionalen Schätzers und liefert eine -Relation im Sinne der Löwner-Halbordnung für Matrizen.

Sei der Vektor der unbekannten Parameter und eine multivariate Zufallsvariable mit zugehöriger Wahrscheinlichkeitsdichte .

Der Schätzer

für den Parametervektor besitzt eine Kovarianzmatrix

.

Die Cramér-Rao-Ungleichung lautet in diesem Fall

wobei die Fisher-Information-Matrix

ist.

Anwendungen[Bearbeiten | Quelltext bearbeiten]

Mit Hilfe der Cramér-Rao-Ungleichung lässt sich die dynamische Permeabilitätszahl von Membranen abschätzen, was vor allem in der Bio- und Nanotechnologie rege Anwendung findet.

Verallgemeinerungen[Bearbeiten | Quelltext bearbeiten]

Eine mögliche Verallgemeinerung ist die Chapman-Robbins-Ungleichung. Sie erlaubt eine Abschätzung der Varianz eines Schätzers bezüglich eines fest vorgegebenen und wird daher für Abschätzungen im Rahmen der Untersuchung von lokal minimalen Schätzern verwendet. Bei Grenzübergang liefert sie eine punktweise Version der Cramér-Rao-Ungleichung.

Weblinks[Bearbeiten | Quelltext bearbeiten]

Literatur[Bearbeiten | Quelltext bearbeiten]