Korrelationskoeffizient nach Bravais-Pearson

Der Korrelationskoeffizient (auch: Korrelationswert) oder die Produkt-Moment-Korrelation (von Bravais und Pearson, daher auch Pearson-Korrelation genannt) ist ein dimensionsloses Maß für den Grad des linearen Zusammenhangs (Zusammenhangsmaße) zwischen zwei mindestens intervallskalierten Merkmalen. Er kann Werte zwischen −1 und +1 annehmen. Bei einem Wert von +1 (bzw. −1) besteht ein vollständig positiver (bzw. negativer) linearer Zusammenhang zwischen den betrachteten Merkmalen. Wenn der Korrelationskoeffizient den Wert 0 aufweist, hängen die beiden Merkmale überhaupt nicht linear voneinander ab. Allerdings können diese ungeachtet dessen in nicht-linearer Weise voneinander abhängen. Damit ist der Korrelationskoeffizient kein geeignetes Maß für die (reine) stochastische Abhängigkeit von Merkmalen.

Je nachdem, ob der lineare Zusammenhang zwischen zeitgleichen Messwerten zweier verschiedener Merkmale oder derjenige zwischen zeitlich verschiedenen Messwerten eines einzigen Merkmals betrachtet wird, spricht man entweder von der Kreuzkorrelation oder von der Autokorrelation (siehe Zeitreihenanalyse).

Definitionen

Korrelationskoeffizient (nach Pearson)

Für zwei quadratisch integrierbare Zufallsvariablen $X$ und $Y$ mit jeweils positiver Varianz $\operatorname {Var}$ ist der Korrelationskoeffizient (Pearsonscher Maßkorrelationskoeffizient) durch

${\begin{aligned}\varrho (X,Y)&={\frac {\operatorname {Cov} (X,Y)}{{\sqrt {\operatorname {Var} (X)}}\cdot {\sqrt {\operatorname {Var} (Y)}}}}\\&={\frac {\operatorname {E} {\bigl (}(X-\operatorname {E} X)(Y-\operatorname {E} Y){\bigr )}}{{\sqrt {\operatorname {Var} (X)}}\cdot {\sqrt {\operatorname {Var} (Y)}}}}\end{aligned}}$

definiert, wobei $\operatorname {E}$ den Erwartungswert-Operator und ${\sqrt {\operatorname {Var} (X)}}$ die Standardabweichung von $X$ bezeichnet. Weitere übliche Schreibweisen sind $\operatorname {Kor} (X,Y):=r_{XY}:=\varrho (X,Y)$.

Ferner heißen $X,Y$ unkorreliert, falls $\operatorname {Cov} (X,Y)=0$.

Empirischer Korrelationskoeffizient

Sind für die beiden Zufallsvariablen lediglich zwei Messreihen $x_{1},x_{2},\ldots ,x_{n}$ und $y_{1},y_{2},\ldots ,y_{n}$ bekannt, so wird der empirische Korrelationskoeffizient berechnet durch

${\begin{aligned}\operatorname {Kor} _{e}(X,Y)&:=\varrho _{e}(X,Y):=r_{xy}\\&:={\frac {{\frac {1}{n}}\sum _{i=1}^{n}(x_{i}-{\bar {x}})(y_{i}-{\bar {y}})}{{\sqrt {{\frac {1}{n}}\sum _{i=1}^{n}(x_{i}-{\bar {x}})^{2}}}\cdot {\sqrt {{\frac {1}{n}}\sum _{i=1}^{n}(y_{i}-{\bar {y}})^{2}}}}}\\&={\frac {\sum _{i=1}^{n}(x_{i}-{\bar {x}})(y_{i}-{\bar {y}})}{\sqrt {\sum _{i=1}^{n}(x_{i}-{\bar {x}})^{2}\cdot \sum _{i=1}^{n}(y_{i}-{\bar {y}})^{2}}}}.\end{aligned}}$

Dabei sind

${\bar {x}}={\frac {1}{n}}\sum _{i=1}^{n}x_{i}$ und ${\bar {y}}={\frac {1}{n}}\sum _{i=1}^{n}y_{i}$

die empirischen Erwartungswerte $X$ und $Y$ anhand der Messreihe.
Sind diese Messreihenwerte z-transformiert mit $z_{i}:={\frac {x_{i}-{\bar {x}}}{s_{x}}}$, wobei $s_{x}={\sqrt {\operatorname {Var(X)} }}$ die erwartungstreue Schätzung der Streuung bezeichnet, gilt auch:

$\operatorname {Kor} (X,Y):=\varrho (X,Y):=r_{xy}:={\frac {\sum z_{x}z_{y}}{df}},$

wobei $df$ durch die Anzahl der Freiheitsgrade bei der Berechnung der zugrundeliegenden Streuung zu ersetzen ist (also $n$ oder $(n-1)$).

Eigenschaften

Mit der Definition des Korrelationskoeffizienten gilt unmittelbar

• $\operatorname {Kor} (X,Y)=\operatorname {Kor} (Y,X)$ bzw. $r_{xy}=r_{yx}$
• $\operatorname {Kor} (X,X)=1$.
• $\operatorname {Kor} (X,-X)=-1$.

Mit der Cauchy-Schwarz-Ungleichung sieht man, dass

• $\operatorname {Kor} (X,Y)\in [-1,1]$.

Durch Optimieren ergibt sich, dass $Y=aX+b$ fast sicher genau dann, wenn $|\operatorname {Kor} (X,Y)|=1$.

Sind die Zufallsgrößen $X$ und $Y$ voneinander unabhängig, dann gilt:

• $\operatorname {Kor} (X,Y)=0$. Die Umkehrung dieses Satzes gilt jedoch im allgemeinen nicht.

Voraussetzungen für die Pearson-Korrelation

Der Korrelationskoeffizient nach Pearson erlaubt Aussagen über statistische Zusammenhänge unter folgenden Bedingungen:

Skalierung

Der Pearsonsche Korrelationskoeffizient liefert korrekte Ergebnisse bei intervallskalierten und bei dichotomen Daten. Für niedrigere Skalierungen existieren andere Korrelationskonzepte (z. B. Rangkorrelationskoeffizienten).

Linearitätsbedingung

Zwischen den Variablen x und y wird ein linearer Zusammenhang vorausgesetzt. Diese Bedingung wird in der Praxis nicht selten ignoriert; daraus erklären sich mitunter enttäuschend niedrige Korrelationen, obwohl der Zusammenhang zwischen x und y bisweilen trotzdem hoch ist. Ein einfaches Beispiel für einen hohen Zusammenhang trotz niedrigem Korrelationskoeffizienten ist die Fibonacci-Folge. Alle Zahlen der Fibonacci-Folge sind durch ihre Position in der Reihe durch eine mathematische Formel exakt determiniert (siehe die Formel von Jacques-Philippe-Marie Binet in Fibonacci-Folge). Der Zusammenhang zwischen der Positionsnummer einer Fibonacci-Zahl und der Größe der Zahl ist vollkommen determiniert. Dennoch beträgt der Korrelationskoeffizient zwischen den Ordnungsnummern der ersten 360 Fibonacci-Zahlen und den betreffenden Zahlen nur 0,20; das bedeutet, dass in erster Näherung nicht viel mehr als 4 % $(=0,2^{2})$ der Varianz durch den Korrelationskoeffizienten erklärt werden und 96 % der Varianz „unerklärt“ bleiben. Der Grund ist die Vernachlässigung der Linearitätsbedingung, denn die Fibonacci-Zahlen wachsen progressiv an: In solchen Fällen ist der Korrelationskoeffizient nicht korrekt interpretierbar. Eine mögliche Alternative, welche ohne die Voraussetzung der Linearität des Zusammenhangs auskommt, ist die Transinformation.

Signifikanzbedingung

Ein Korrelationskoeffizient > 0 bei positiver Korrelation bzw. < 0 bei negativer Korrelation zwischen x und y berechtigt nicht a priori zur Aussage, es bestehe ein statistischer Zusammenhang zwischen x und y. Eine solche Aussage ist nur gültig, wenn der ermittelte Korrelationskoeffizient signifikant ist. Der Begriff 'signifikant' bedeutet hier 'signifikant von Null verschieden'. Je höher die Anzahl der Wertepaare (x, y) und das Signifikanzniveau sind, desto niedriger darf der Absolutbetrag eines Korrelationskoeffizienten sein, um zur Aussage zu berechtigen, zwischen x und y gebe es einen linearen Zusammenhang. Ein t-Test zeigt, ob die Abweichung des ermittelten Korrelationskoeffizienten von Null auch signifikant ist.

Bildliche Darstellung und Interpretation

Sind zwei Merkmale vollständig miteinander korreliert (d. h. $|r|=1$), so liegen alle Messwerte in einem 2-dimensionalen Koordinatensystem auf einer Geraden. Bei einer perfekten positiven Korrelation ($r=+1$) steigt die Gerade; wenn die Merkmale perfekt negativ miteinander korreliert sind ($r=-1$), sinkt die Gerade. Besteht zwischen zwei Merkmalen eine sehr hohe Korrelation, sagt man oft auch, sie erklären dasselbe.

Je näher der Betrag von $r$ bei 0 liegt, desto kleiner der lineare Zusammenhang. Für $r=0$ kann der statistische Zusammenhang zwischen den Messwerten nicht mehr durch eine eindeutig steigende oder sinkende Gerade dargestellt werden. Dies ist z. B. der Fall, wenn die Messwerte rotationssymmetrisch um den Mittelpunkt verteilt sind. Dennoch kann dann ein nicht-linearer statistischer Zusammenhang zwischen den Merkmalen gegeben sein. Umgekehrt gilt jedoch: Wenn die Merkmale statistisch unabhängig sind, nimmt der Korrelationskoeffizient stets den Wert 0 an.

Der Korrelationskoeffizient ist kein Indiz eines ursächlichen (d. h. kausalen) Zusammenhangs zwischen den beiden Merkmalen: Die Besiedlung durch Störche im Süd-Burgenland korreliert zwar positiv mit der dortigen Geburtenzahl, doch das bedeutet noch lange keinen kausalen Zusammenhang. Trotzdem ist ein statistischer Zusammenhang gegeben. Dieser leitet sich aber aus einem dritten, vierten etc. Faktor ab, wie in unserem Beispiel der Industrialisierung, der Wohlstandssteigerung, die einerseits den Lebensraum der Störche einschränkten und andererseits zu einer Verringerung der Geburtenzahlen führten.

Der Korrelationskoeffizient kann schon gar kein Indiz über die Richtung eines Zusammenhanges sein: Steigen die Niederschläge durch die höhere Verdunstung oder steigt die Verdunstung an, weil die Niederschläge mehr Wasser liefern? Bedingt das eine das andere möglicherweise in beiderlei Richtung?

Ob ein gemessener Korrelationskoeffizient als groß oder klein interpretiert wird, hängt stark von der Art der untersuchten Daten ab. Bei psychologischen Fragebogendaten werden z. B. Werte bis ca. 0,3 häufig als klein angesehen, während man ab ca. 0,8 von einer sehr hohen Korrelation spricht.

Das Quadrat des Korrelationskoeffizienten $r^{2}$ nennt man Bestimmtheitsmaß. Es gibt in erster Näherung an, wie viel Prozent der Varianz, d. h. an Unterschieden der einen Variable durch die Unterschiede der anderen Variable erklärt werden können. Beispiel: Bei $r=0,3$ bzw. 0,8 werden 9 % bzw. 64 % der gesamten auftretenden Varianz im Hinblick auf einen statistischen Zusammenhang erklärt.

Verteilung des Korrelationskoeffizienten

Korrelationskoeffizienten sind nicht normalverteilt. Sie verteilen sich eingipfelig nach rechts verzerrt (rechtssteil oder auch linksschief). Vor der Berechnung von Vertrauensbereichen (Konfidenzintervallen) muss daher erst eine Korrektur der Verteilung mit Hilfe der Fisher-Transformation (s.u.) vorgenommen werden. Die transformierten Korrelationen sind dann annähernd normalverteilt. Das so errechnete Konfidenzintervall wird danach wieder auf die ursprünglichen Korrelationen zurückgeführt. Konfidenzintervalle von Korrelationen liegen in aller Regel unsymmetrisch bezüglich ihres Mittelwerts.

Partieller Korrelationskoeffizient

Eine Korrelation zwischen zwei Zufallsvariablen X und Y kann unter Umständen auf einen gemeinsamen Einfluss einer dritten Zufallsvariablen U zurückgeführt werden. Um solch einen Effekt zu messen, gibt es das Konzept der partiellen Korrelation. Die „partielle Korrelation von X und Y unter U“ ist gegeben durch

$r_{(X,Y)/U}={\frac {r_{XY}-r_{XU}\cdot r_{YU}}{\sqrt {(1-r_{XU}^{2})(1-r_{YU}^{2})}}}.$

Das folgende Bild zeigt ein Beispiel:

Zwischen X und Y besteht eine merkliche Korrelation. Betrachtet man die beiden rechten Punktwolken, so erkennt man, dass X und Y jeweils stark mit U korrelieren. Die beobachtete Korrelation zwischen X und Y basiert nun fast ausschließlich auf diesem Effekt.

Fisher-Transformation

Wenn die Variablen $X$ und $Y$ zumindest annähernd bivariat normal verteilt sind, dann ist der Korrelationskoeffizient $\varrho$ rechtssteil unimodal verteilt. Die transformierte Variable

$f(\varrho )=0{,}5\ln \left({\frac {1+\varrho }{1-\varrho }}\right)\,$

ist annähernd normalverteilt mit der Standardabweichung $1/{\sqrt {n-3}}$. Das auf Basis dieser Normalverteilung errechnete $1-\alpha$-Konfidenzintervall der Form

$z_{1}=f(r)-{\frac {z_{1-\alpha /2}}{\sqrt {n-3}}}\leq \mu \leq f(r)+{\frac {z_{1-\alpha /2}}{\sqrt {n-3}}}=z_{2}$

wird sodann retransformiert zu

${\begin{aligned}r_{1}&=(e^{2z_{1}}-1)/(e^{2z_{1}}+1)\\r_{2}&=(e^{2z_{2}}-1)/(e^{2z_{2}}+1).\end{aligned}}$

Das Konfidenzintervall für die Korrelation lautet sodann

$r_{1}\leq \varrho \leq r_{2}$.

Test des Korrelationskoeffizienten / Steigers Z-Test

Folgende Tests (Steigers Z-Test) können durchgeführt werden, wenn die Variablen $X$ und $Y$ annähernd bivariat normal verteilt sind:

$H_{0}:\varrho =\varrho _{0}\,$ vs. $H_{1}:\varrho \neq \varrho _{0}$	(zweiseitige Hypothese)
$H_{0}:\varrho \leq \varrho _{0}$ vs. $H_{1}:\varrho >\varrho _{0}\,$	(rechtsseitige Hypothese)
$H_{0}:\varrho \geq \varrho _{0}$ vs. $H_{1}:\varrho <\varrho _{0}\,$	(linksseitige Hypothese)

Die Teststatistik ist

$T(r)={\frac {f(r)-f(\varrho _{0})-\varrho _{0}/(n-2)}{1/{\sqrt {n-3}}}}\approx N(0,1)$

verteilt.

Im Spezialfall der Hypothese $H_{0}:\rho =0\,$ vs. $H_{1}:\rho \neq 0$ ergibt sich die Teststatistik als

$T_{0}(r)={\frac {r{\sqrt {n-2}}}{\sqrt {1-r^{2}}}}\sim t_{n-2}$

verteilt.

Robuste Korrelationskoeffizienten

Der Korrelationskoeffizient nach Pearson ist empfindlich gegenüber Ausreißern. Deswegen wurden verschiedene robuste Korrelationskoeffizienten entwickelt, z.B.

• der Spearmansche Rangkorrelationskoeffizient, da dieser Ränge statt die Beobachtungswerte nutzt oder
• die Quadrantenkorrelation.

Quadrantenkorrelation

$r_{quad}={\frac {1}{n}}\sum _{i=1}^{n}\operatorname {sgn}(x_{i}-{\tilde {x}})\operatorname {sgn}(y_{i}-{\tilde {y}})$ mit $\operatorname {sgn}(x)={\begin{cases}-1&{\mbox{ if }}x<0\\0&{\mbox{ if }}x=0\\+1&{\mbox{ if }}x>0\end{cases}}$,

$n$ die Zahl der Beobachtungen, ${\tilde {x}}$ und ${\tilde {y}}$ die Mediane der Beobachtungen. Da jeder Wert von $\operatorname {sgn}(x_{i}-{\tilde {x}})\operatorname {sgn}(y_{i}-{\tilde {y}})$ entweder $-1$, $0$ oder $+1$ ist, spielt es keine Rolle wie weit eine Beobachtung von den Medianen entfernt ist.

Über die Quadrantenkorrelation kann mit Hilfe des Median-Tests die Hypothesen $H_{0}:r_{quad}=0\,$ vs. $H_{1}:r_{quad}\neq 0$ überprüft werden. Ist $n_{+}$ die Zahl der Beobachtungen mit $\operatorname {sgn}(x_{i}-{\tilde {x}})\operatorname {sgn}(y_{i}-{\tilde {y}})=+1$, $n_{-}$ die Zahl der Beobachtungen mit $\operatorname {sgn}(x_{i}-{\tilde {x}})\operatorname {sgn}(y_{i}-{\tilde {y}})=-1$ und $n_{e}=(n_{+}+n_{-})/2>5$, dann ist die Teststatistik

${\frac {(n_{+}-n_{e})^{2}+(n_{-}-n_{e})^{2}}{n_{e}}}\approx \chi _{1}^{2}$

verteilt.

Schätzung der Korrelation zwischen nicht-metrischen Variablen

Die Schätzung der Korrelation mit dem Korrelationskoeffizient nach Pearson setzt voraus, dass beide Variablen intervallskaliert und normalverteilt sind. Dagegen können die Rangkorrelationskoeffizienten immer dann zur Schätzung der Korrelation verwendet werden, wenn beide Variablen mindestens ordinalskaliert sind. Die Korrelation zwischen einer dichotomen und einer intervallskalierten und normalverteilten Variablen kann mit der punktbiserialen Korrelation geschätzt werden. Die Korrelation zwischen zwei dichotomen Variablen kann mit dem Vierfelderkorrelationskoeffizienten geschätzt werden. Hier kann man die Unterscheidung treffen, dass bei zwei natürlich dichotomen Variablen die Korrelation sowohl durch den Odds Ratio (OR) als auch durch den Phi-Koeffizient berechnet werden kann. Eine Korrelation aus zwei ordinal oder einer intervall und einer ordinal gemessenen Variablen ist mit Spearmans Rho oder Kendalls Tau berechenbar.

Siehe auch

• Zusammenhangsmaß
• Bestimmtheitsmaß
• Transinformation
• Kontingenztafel
• Streudiagramm
• Kovarianz
• Faktorenanalyse

Literatur

• Hartung, Joachim: Statistik, 12. Auflage, Oldenbourg Verlag 1999, S. 561 f, ISBN 3-486-24984-3
• Zöfel, Peter: Statistik für Psychologen, Pearson Studium 2003, München, S. 154.

Weblinks

Wikibooks: Einfache Erläuterung des Korrelationskoeffizienten – Lern- und Lehrmaterialien

• http://mathworld.wolfram.com/CorrelationCoefficient.html – Darstellung des Korrelationskoeffizienten als Kleinste-Quadrate-Schätzer