Orthogonale Regression

Orthogonale Regression. Die roten Linien stellen die Abstände der Messwertpaare von der Ausgleichsgeraden dar.

In der Statistik wird mit der orthogonalen Regression eine Ausgleichsgerade für eine endliche Menge metrisch skalierter Datenpaare (x_i,y_i) nach der Methode der kleinsten Quadrate berechnet. Wie in anderen Regressionsmodellen wird dabei die Summe der quadrierten Abstände der (x_i,y_i) von der Geraden minimiert. Im Unterschied zur linearen Regression werden nicht die Abstände in x- bzw. y-Richtung verwendet, sondern die orthogonalen Abstände.

Die orthogonale Regression ist ein wichtiger Spezialfall der Deming-Regression. Sie wurde 1878 von Robert James Adcock in die Statistik eingeführt und in allgemeinerem Rahmen 1943 von W. E. Deming für technische und ökonomische Anwendungen bekannt gemacht.

Rechenweg

Es wird eine Gerade y = β₀ + β₁x gesucht, die die Summe der quadrierten Abstände der (x_i,y_i) von den zugehörigen Fußpunkten (x_i*,y_i*) auf der Geraden minimiert. Wegen y_i* = β₀ + β₁x_i* berechnet man diese quadrierten Abstände zu (y_i - β₀ - β₁x_i*)² + (x_i - x_i*)², deren Summe minimiert werden soll:

$SSR=\sum _{i=1}^{n}{\Big (}(y_{i}-\beta _{0}-\beta _{1}x_{i}^{*})^{2}+(x_{i}-x_{i}^{*})^{2}{\Big )}\ \to \ \min _{\beta _{0},\beta _{1},x_{i}^{*}}SSR$

Für die weitere Rechnung werden die folgenden Hilfswerte benötigt:

${\overline {x}}={\frac {1}{n}}\sum _{i=1}^{n}x_{i}$     (arithmetisches Mittel der x_i)

${\overline {y}}={\frac {1}{n}}\sum _{i=1}^{n}y_{i}$     (arithmetisches Mittel der y_i)

$s_{x}^{2}={\tfrac {1}{n-1}}\sum _{i=1}^{n}(x_{i}-{\overline {x}})^{2}$     (korrigierte Stichprobenvarianz der x_i)

$s_{y}^{2}={\tfrac {1}{n-1}}\sum _{i=1}^{n}(y_{i}-{\overline {y}})^{2}$     (korrigierte Stichprobenvarianz der y_i)

$s_{xy}={\tfrac {1}{n-1}}\sum _{i=1}^{n}(x_{i}-{\overline {x}})(y_{i}-{\overline {y}})$     (korrigierte Kovarianz der (x_i,y_i))

Damit ergeben sich die Parameter zur Lösung des Minimierungsproblems:

$\beta _{1}={\frac {s_{y}^{2}-s_{x}^{2}+{\sqrt {(s_{y}^{2}-s_{x}^{2})^{2}+4s_{xy}^{2}}}}{2s_{xy}}}$

$\beta _{0}={\overline {y}}-\beta _{1}{\overline {x}}$

$x_{i}^{*}=x_{i}+{\frac {\beta _{1}}{\beta _{1}^{2}+1}}(y_{i}-\beta _{0}-\beta _{1}x_{i})$