Verbundentropie

aus Wikipedia, der freien Enzyklopädie
Wechseln zu: Navigation, Suche

Die Verbundentropie ist ein Maß für den mittleren Informationsgehalt mehrerer Nachrichtenquellen.

Definition[Bearbeiten | Quelltext bearbeiten]

Die Verbundentropie für zwei Quellen ist folgendermaßen definiert:[1]

Hierbei sind x und y jeweils einzelne Symbole aus den Quellenalphabeten X und Y.

Im Spezialfall der statistischen Unabhängigkeit der Quellen gilt

und somit

.

Für mehr als zwei Quellen ergibt sich:

Siehe auch[Bearbeiten | Quelltext bearbeiten]

Einzelnachweise[Bearbeiten | Quelltext bearbeiten]

  1. T. H. Cover, J. A. Thomas, Elements of Information Theory, S. 16 f, 2nd Edition, 2006, Wiley Interscience, ISBN 978-0-471-24195-9