Median-Regression

Die Methode der kleinsten absoluten Abweichungen, auch Median-Regression, stellt ein robustes Schätzverfahren dar, um unbekannte Parameter einer linearen Regression zu schätzen. Solch ein Schätzer wird Kleinste-Absolute-Abweichungen-Schätzer (engl. least absolute deviations estimator, LAD) genannt. Er minimiert die Summe des Medians der absoluten Abweichungen.

Geschichte

Die Methode der kleinsten absoluten Abweichungen ist historisch gesehen viel älter als die Methode der kleinsten Quadrate. Sie wurde zuerst um 1760 von Rugjer Josip Bošković (1711–1787) vorgeschlagen. In moderner Terminologie wird dieser Ansatz als Median-Regression bezeichnet, da das Resultat der Minimierung zu einem Schätzer für den Median der abhängigen Variablen führt. Die Median-Regression ist ein Spezialfall der Quantilsregression.

Das Verfahren

Statt die Summe der quadrierten Abweichung für die Minimierung zu benutzen, ist ein erster naheliegender Ansatz die Summe der absoluten Abweichungen zu minimieren

${\hat {\boldsymbol {\beta }}}={\underset {\boldsymbol {\beta }}{\rm {arg\,min}}}\,\sum _{t=1}^{n}\left|\varepsilon _{t}\right|={\underset {\boldsymbol {\beta }}{\rm {arg\,min}}}\,\sum _{t=1}^{n}\left|y_{t}-\mathbf {x} _{t}^{\top }{\boldsymbol {\beta }}\right|$

mit dem Vektor der Regressoren $\mathbf {x} _{t}={\begin{pmatrix}\ x_{t1}\\\ x_{t2}\\\vdots \\\ x_{tk}\\\vdots \\\\x_{tK}\end{pmatrix}}_{(K\times 1)}\;\;\;$ und dem Vektor der Regressionskoeffizienten $\;\;\;{\boldsymbol {\beta }}={\begin{pmatrix}\beta _{1}\\\beta _{2}\\\vdots \\\beta _{k}\\\vdots \\\beta _{K}\end{pmatrix}}_{(K\times 1)}$

Der resultierende Schätzer ist robuster als der mit der Methode der kleinsten Quadrate bestimmte Schätzer.

Literatur

Ludwig Fahrmeir, Thomas Kneib, Stefan Lang, Brian D. Marx: Regression – Models, Methods and Applications. Springer, Berlin / Heidelberg 2013, ISBN 978-3-642-34332-2, doi:10.1007/978-3-642-34333-9 (E-Book-ISBN 978-3-642-34333-9).