Householdertransformation

In der Mathematik beschreibt die Householdertransformation die Spiegelung eines Vektors an einer Hyperebene durch Null im euklidischen Raum. Im dreidimensionalen Raum ist sie somit eine Spiegelung an einer Ebene (durch den Ursprung). Die Darstellung dieser linearen Abbildung durch eine Matrix wird als Householder-Matrix bezeichnet. Verwendung findet sie vor allem in der numerischen Mathematik, wenn mittels orthogonaler Transformationen Matrizen so gezielt umgeformt werden, dass bestimmte Spaltenvektoren auf das Vielfache des ersten Einheitsvektors abgebildet werden, insbesondere beim QR-Verfahren und der QR-Zerlegung.

Die Householdertransformation wurde 1958 durch den amerikanischen Mathematiker Alston Scott Householder eingeführt.

Definition und Eigenschaften

Illustration der Householder-Transformation in 2D

Die Spiegel-Hyperebene kann durch einen Normalenvektor $v$, also einen Vektor, der orthogonal zur Hyperebene ist, definiert werden. Ist $v$ als Spaltenvektor gegeben und $I$ die Einheitsmatrix, dann wird die oben beschriebene lineare Abbildung durch die folgende Matrix dargestellt:

$H = I - \frac {2} {v^T v} v v^T.$

Dabei bezeichnet $v^T$ die Transponierte des Spaltenvektors $v$, also einen Zeilenvektor. Der Nenner $v^T v$ ist das Skalarprodukt von $v$ mit sich selbst, $v v^T$ das dyadische Produkt. Die Matrix $\tfrac {1} {v^T v} v v^T$ beschreibt die Orthogonalprojektion auf die durch $v$ gegebene Richtung. Ist $v$ auf die Länge eins normiert, also $v^T v=1$, so vereinfacht sich die Formel zu

$H = I - 2 v v^T.$

Die Spiegelungseigenschaft ersieht man daraus, dass

$Hx = x - 2 v v^Tx = x - 2 \langle v,\, x \rangle\, v = (x-\langle v,\, x \rangle\, v)-\langle v,\, x \rangle\, v$,

wobei $\langle \cdot, \cdot \rangle$ das Standardskalarprodukt bezeichnet. Der Term $\langle v,\, x \rangle$ entspricht dabei dem Abstand des Punktes $x$ zur Hyperebene $v^\perp$. Der Vektor x wird also in zwei orthogonale Anteile zerlegt, wobei der erste Anteil in der Hyperebene liegt und der zweite ein Vielfaches des Vektors v ist. Unter der Spiegelung wird der Anteil in der Ebene invariant gelassen, der Anteil in Richtung v, also senkrecht zur Ebene, wird "umgeklappt", also nun abgezogen statt addiert.

Die Householder-Matrix hat folgende Eigenschaften:

• Sie ist symmetrisch: $H = H^T$
• Sie ist orthogonal: $H^{-1} = H^T$
• Sie ist involutorisch: $H^2 = I$ (Dies folgt aus der Symmetrie und der Orthogonalität.)
• Sie hat die Eigenwerte -1 (mit Vielfachheit 1) und 1 (mit Vielfachheit $n-1$).
• Matrix-Vektor-Multplikationen mit H sind schnell berechenbar.

Konstruktion einer spezifischen Spiegelung

Es sei ein Vektor a gegeben, der auf ein Vielfaches des Vektors e gespiegelt werden soll, das heißt, gesucht ist ein Einheitsvektor v, so dass mit der zugehörigen Householder-Matrix $H_v = I - 2 vv^T$ gilt $H_va=\lambda e$. Geometrisch ist der Vektor v die Richtung einer der zwei Winkelhalbierenden der Geraden in Richtung a und in Richtung e. Die Winkelhalbierende ergibt sich, indem man auf beiden Geraden Punkte mit demselben Abstand zum Nullpunkt wählt und auf der Verbindungsstrecke dieser zwei Punkte den Mittelpunkt konstruiert. Die Gerade durch Nullpunkt und Mittelpunkt hat dann die gesuchte Richtung v, der Vektor v selbst ergibt sich durch Normieren dieser Richtung. Die zweite Winkelhalbierende ergibt sich, indem die Konstruktion ausgehend von a und -e durchgeführt wird.

Der Einfachheit halber sei e normiert, $\|e\|=1$. Dann muss, wegen der Orthogonalität der Spiegelung, $\lambda=\pm\|a\|$ gelten. Der gesuchte Spiegelungsvektor v ergibt sich nun durch Normieren des Differenzvektors $\tfrac12(a-\lambda\,e)$, also

$v=\frac{a-\lambda\, e}{\|a-\lambda\, e\|}$.

Beide Vorzeichenvarianten führen zum gewünschten Ergebnis (sofern der Nenner von Null verschieden ist). Aus Gründen numerischer Stabilität wird das Vorzeichen von $\lambda$ so gewählt, dass der Nenner am größten ist, also $\lambda\cdot\langle a,\,e\rangle\leq 0$ gilt.

In der Probe ergibt sich

$\begin{align} H_va=&a-2v\langle v,a\rangle \\[0.5em] =&a-2\,(a-\lambda e)\,\frac{ \|a\|^2-\lambda\langle e,a\rangle }{ \|a\|^2-2\lambda\langle a,e\rangle+\lambda^2\|e\|^2} \\[0.8em] =&a-2\,(a-\lambda e)\, \frac{\|a\|^2-\lambda\langle e,a\rangle}{\|a\|^2-2\lambda\langle a,e\rangle+\|a\|^2} \\[0.5em] =&\lambda e\\[0.5em] \end{align}$

Beispiel

Am häufigsten wird der Fall betrachtet, in dem $e=e_1$ der erste kanonische Basisvektor ist. Sei $a=(a_1,\bar a)$ in erste Komponente und Restvektor zerlegt. Dann gilt für die Norm $\|a\|=\sqrt{|a_1|^2+\|\bar a\|^2}$. Als Vorzeichen von $\lambda$ ist das Vorzeichen von $-a_1$ zu wählen, die Richtung der Spiegelung ist dann

$a + \operatorname{sign}(a_1)\,\|a\| e_1 = \Bigl(\operatorname{sign}(a_1)\,(|a_1|+\|a\|),\;\bar a\Bigr)$.

Der Vektor v entsteht durch Normierung dieser Richtung. Nach Umformen stellt sich die Norm der Richtung als

$\|a-\lambda e_1\|=\sqrt{2\,\|a\|\,(\|a\|+|a_1|)}$

dar, wobei in dieser Form nur bereits berechnete Zwischenergebnisse benutzt werden. In der unnormierten Variante der Spiegelung ergeben sich weitere Einsparungen an Rechenschritten.

Anwendung: QR-Zerlegung

Householder-Spiegelungen können zur stabilen Berechnung von QR-Zerlegungen einer Matrix $A=QR\in\R^{m\times n}$ verwendet werden, indem zunächst die erste Spalte der Matrix mit einer Spiegelung $H_1$ auf das Vielfache des ersten Einheitsvektors gespiegelt wird, wie im letzten Abschnitt erläutert (jetzt bezeichnet der Index aber die Nummer der Spiegelung).

Danach behandelt man $H_1A$ mit einer Spiegelung $H_2$ analog und im i-ten Schritt den (i,i) Minoren des Produkts $H_{i-1}\cdots H_1A$ iterativ auf die gleiche Art, bis die Restmatrix $H_n\cdots H_2 H_1A = R$ Dreiecksgestalt besitzt. (Im Fall $m=n$ genügen $n-1$ Schritte, da die letzte Spalte nicht mehr transformiert werden muss.) Mit $Q^T = H_n\cdots H_2 H_1$ gilt $Q^T A = R$, also ergibt sich die QR-Zerlegung

$A=QR$

mit

$Q= (H_n\cdots H_2 H_1)^T = H_1 H_2\cdots H_{n} \in\R^{m\times m},\quad\quad R=\begin{pmatrix}R_1\\0\end{pmatrix}\in\R^{m\times n}.$

Man beachte, dass $Q$ hier eine quadratische Matrix ist. Meist werden die Matrizen $Q$ bzw. $Q^T$ nicht explizit berechnet, sondern man nutzt direkt die Produktform. Dazu werden die Spiegelvektoren $v_i$ von $H_i=H_{v_i}$ im frei gewordenen Platz der Matrix $A$ gespeichert.

Die Zahl der Operationen für die QR-Zerlegung einer Matrix $A=QR \in \R^{m\times n},{m \ge n}$ mit dem Householder-Verfahren beträgt:

$\begin{matrix} {m \gg n} &\qquad& {2n^2 \cdot m} \\ {m \approx n} &\qquad& { {4 \over 3} n^3} \end{matrix}$

Pseudocode

Da für die meisten Berechnungen das explizite Ausrechnen von Q nicht nötig ist, reicht es nur die Matrix R zu berechnen. z ist die linke Spalte der jeweiligen Untermatrix. Bei der unten angegebenen Funktion wird das Ergebnis direkt in A geschrieben, so dass nach Abarbeitung des Algorithmus das R in A steht. Die Zeile R=A könnte also auch weggelassen werden.

  function GetR(A)
     for k=1…n
         z=A(k…m,k)
   
         uk=z
         uk(1)+=sign(z(1))*norm(z)
         uk=uk/norm(uk)
   
         vk=zeros(m)
         vk(k…m)= uk
   
         A=A-(2*vk)*(vk'*A)
     
     R=A
     return R

Literatur

• Gene H. Golub, Charles F. van Loan: Matrix Computations. 2nd Edition. The Johns Hopkins University Press, 1989.
• Gerhard Opfer: Numerische Mathematik für Anfänger. Eine Einführung für Mathematiker, Ingenieure und Informatiker, 5. Aufl., Vieweg + Teubner, Wiesbaden 2008, ISBN 978-3-8348-0413-6
• Martin Hermann: Numerische Mathematik, 2., überarbeitete und erweiterte Auflage, Oldenbourg Verlag, München, Wien 2006, ISBN 3-486-57935-5, pp.159-161