Satz von Cochran

In der Statistik wird der Satz von Cochran in der Varianzanalyse verwendet. Der Satz geht auf den schottischen Mathematiker William Gemmell Cochran zurück.

Man nimmt an $U_{1},\dots U_{n},$ seien stochastisch unabhängige standardnormalverteilte Zufallsvariablen, und es gilt

$\sum _{i=1}^{n}U_{i}^{2}=Q_{1}+\cdots +Q_{k},$

wobei jedes $Q_{i}$ die Summe der Quadrate von Linearkombinationen der $U$s darstellt. Ferner nimmt man an, dass

$r_{1}+\cdots +r_{k}=n,$

wobei $r_{i}$ der Rang von $Q_{i}$ ist. Der Satz von Cochran besagt, dass die $Q_{i}$ unabhängig sind mit einer Chi-Quadrat-Verteilung mit $r_{i}$ Freiheitsgraden.

Der Satz von Cochran ist die Umkehrung des Satzes von Fisher.

Beispiel

Falls $X_{1},\dots X_{n},$ unabhängige normalverteilte Zufallsvariablen mit Erwartungswert $\mu$ und Standardabweichung $\sigma$ sind, dann gilt

$U_{i}=(X_{i}-\mu )/\sigma \;$

ist standardnormalverteilt für jedes $i$.

Jetzt kann man folgendes schreiben

$\sum _{i=1}^{n}U_{i}^{2}=\sum \limits _{i=1}^{n}\left({\frac {X_{i}-{\overline {X}}}{\sigma }}\right)^{2}+n\left({\frac {{\overline {X}}-\mu }{\sigma }}\right)^{2}$

Damit man diese Identität erkennt, muss man auf beiden Seiten mit $\sigma$ multiplizieren und beachten, dass gilt

$\sum _{i=1}^{n}(X_{i}-\mu )^{2}=\sum _{i=1}^{n}(X_{i}-{\overline {X}}+{\overline {X}}-\mu )^{2}$

und erweitert, um zu zeigen

$\sum _{i=1}^{n}(X_{i}-{\overline {X}})^{2}+\sum _{i=1}^{n}({\overline {X}}-\mu )^{2}+2\sum _{i=1}^{n}(X_{i}-{\overline {X}})({\overline {X}}-\mu ).$

Der dritte Term ist null, weil der Faktor

$\sum _{i=1}^{n}({\overline {X}}-X_{i})=0$

ist, und der zweite Term besteht nur aus $n$ identischen Termen, die zusammengefügt wurden.

Kombiniert man die obigen Ergebnisse und teilt anschließend durch $\sigma ^{2}$, dann erhält man:

$\sum _{i=1}^{n}\left({\frac {X_{i}-\mu }{\sigma }}\right)^{2}=\sum _{i=1}^{n}\left({\frac {X_{i}-{\overline {X}}}{\sigma }}\right)^{2}+n\left({\frac {{\overline {X}}-\mu }{\sigma }}\right)^{2}=Q_{1}+Q_{2}.$

Jetzt ist der Rang von $Q_{2}$ gerade gleich 1 (es ist das Quadrat von nur einer Linearkombination der standardnormalverteilten Zufallsvariablen). Der Rang von $Q_{1}$ ist gleich $n-1$, und daher sind die Bedingungen des Satzes von Cochran erfüllt.

Der Satz von Cochran besagt dann, dass $Q_{1}$ und $Q_{2}$ unabhängig sind, mit einer Chi-Quadrat-Verteilung mit $n-1$ und $1$ Freiheitsgrad.

Dies zeigt, dass der Mittelwert und die Varianz unabhängig sind; Ferner gilt

$({\overline {X}}-\mu )^{2}\sim {\frac {\sigma ^{2}}{n}}\chi _{1}^{2}.$

Um die unbekannte Varianz der Grundgesamtheit $\sigma ^{2}$ zu schätzen, wird ein häufig verwendeter Schätzer benutzt

${\hat {\sigma }}^{2}={\frac {1}{n}}\sum _{i=1}^{n}\left(X_{i}-{\overline {X}}\right)^{2}.$

Der Satz von Cochran zeigt, dass

${\hat {\sigma }}^{2}\sim {\frac {\sigma ^{2}}{n}}\chi _{n-1}^{2},$

was zeigt, dass der Erwartungswert von ${\hat {\sigma }}^{2}$ gleich $\sigma ^{2}{\frac {n-1}{n}}$ ist.

Beide Verteilungen sind proportional zur wahren aber unbekannten Varianz $\sigma ^{2}$ Daher ist ihr Verhältnis unabhängig von $\sigma ^{2}$, und weil sie unabhängig sind, erhält man

${\frac {\left({\overline {X}}-\mu \right)^{2}}{{\frac {1}{n}}\sum _{i=1}^{n}\left(X_{i}-{\overline {X}}\right)^{2}}}\sim F_{1,n}$,

wobei $F_{1,n}$ die F-Verteilung mit $1$ und $n$ Freiheitsgraden darstellt (siehe auch Studentsche t-Verteilung).

Literatur

• Cochran, W. G.: The distribution of quadratic forms in a normal system, with applications to the analysis of covariance. Mathematical Proceedings of the Cambridge Philosophical Society 30 (2): 178–191, 1934.
• Bapat, R. B.: Linear Algebra and Linear Models. Zweite Auflage (1990). Springer. ISBN 978-0-387-98871-9