Konvergenzgeschwindigkeit

Unter Konvergenzgeschwindigkeit (auch Konvergenzordnung) versteht man die Geschwindigkeit, mit der sich die Glieder einer konvergenten Folge $\left(x_{n}\right)_{n\in \mathbb {N} }$ dem Grenzwert $x$ nähern. In der numerischen Mathematik ist die Konvergenzgeschwindigkeit ein wichtiges Qualitätsmerkmal iterativer Verfahren, neben dem Rechenaufwand pro Iteration und der numerischen Stabilität.

Konvergenzordnung

Man unterscheidet zwischen linearer, superlinearer sowie p-ter Konvergenzordnung.

Lineare Konvergenz liegt vor, falls

$\limsup _{k\to \infty }{\frac {\|x_{k+1}-x\|}{\|x_{k}-x\|}}=c<1\,.$

Manche Autoren bezeichnen $c$ als die Konvergenzrate (engl. rate of convergence).

Unterlineare oder sublineare Konvergenz liegt vor bei $c=1\,.$ Konvergiert die Folge unterlinear und ist zusätzlich

$\lim _{k\to \infty }{\frac {\|x_{k+2}-x_{k+1}\|}{\|x_{k+1}-x_{k}\|}}=1\,,$

dann spricht man von logarithmischer Konvergenz.

Superlineare Konvergenz liegt vor, wenn $c=0$ ist, d. h., wenn es eine gegen Null konvergente Zahlenfolge ($c_{k}$) gibt mit:

$\|x_{k+1}-x\|\leq c_{k}\|x_{k}-x\|,\;k=0,1,\ldots \,.$

Eine Folge, die superlinear konvergiert, konvergiert also schneller als linear.

Konvergenz der Ordnung p mit $p>1$ liegt vor, wenn $(x_{k})$ konvergiert und ein $c>0$ existiert, so dass

$\|x_{k+1}-x\|\leq c\|x_{k}-x\|^{p},\;k=0,1,\ldots \,.$

In der Literatur findet sich auch die Formulierung »konvergiert mit der Q-Ordnung (wenigstens) $p$« oder »hat die Q-Konvergenzordnung (wenigstens) $p$« (engl. converges with Q-order at least p) für denselben Sachverhalt. Konvergiert die Folge $\left(x_{n}\right)$ mit der Q-Ordnung wenigstens $p$, dann konvergiert sie auch mit der Q-Ordnung wenigstens $p^{\prime }$ für jedes $1<p^{\prime }\leq p\,.$ Man sagt, die Folge $\left(x_{n}\right)$ hat die exakte Q-Ordnung $p\,,$ wenn es positive $a,b$ mit

$a\|x_{k}-x\|^{p}\leq \|x_{k+1}-x\|\leq b\|x_{k}-x\|^{p},\;k=0,1,\ldots$

gibt. Die exakte Q-Ordnung ist eindeutig, wenn sie existiert.

Für $p=2$ spricht man von quadratischer Konvergenz. Konvergenz der Ordnung $p>1$ impliziert superlineare Konvergenz und superlineare Konvergenz impliziert lineare Konvergenz.

Der Begriff ist vor allem in der Numerik wichtig, wo eine Näherung des Grenzwertes eines Iterationsverfahrens meist durch Berechnung einer kleinen Anzahl von Folgengliedern geschieht. Konvergenz der Ordnung $p$ bedeutet dann, dass in jedem Iterationsschritt die Anzahl der genauen Dezimalstellen (bzw. Stellen in einem beliebigen Stellenwertsystem) ver-$p$-facht werden, also beispielsweise bei quadratischer Konvergenz verdoppelt.

Die schnellere Konvergenz von Verfahren höherer Ordnung wird meist mit größerem Aufwand pro Iteration bezahlt, in vielen Fällen auch mit schlechteren Stabilitätseigenschaften oder Einschränkungen an die behandelbaren Problemklassen (z. B. Forderung nach höherer Differenzierbarkeitsordnung der Daten).

Beispiele

• Das Newton-Verfahren konvergiert bei einer einfachen Nullstelle mit zweiter Ordnung. Vereinfachte Varianten des Newton-Verfahrens konvergieren langsamer, teilweise superlinear, teilweise mit erster Ordnung. Im Vergleich zum Newton-Verfahren ist ein Iterationsschritt aber möglicherweise deutlich günstiger.
• Fixpunktverfahren, deren Konvergenz mit dem Fixpunktsatz von Banach nachgewiesen ist (beispielsweise Splitting-Verfahren), haben mindestens lineare Konvergenzgeschwindigkeit.
• Das Sekantenverfahren hat eine gebrochene Konvergenzordnung mit $p={\tfrac {1+{\sqrt {5}}}{2}}$ (goldener Schnitt), es konvergiert insbesondere superlinear.

Allgemeine Definition der Konvergenzgeschwindigkeit

Um die Konvergenzgeschwindigkeit zu beschreiben, mit der eine Folge ($x_{n}$) gegen den Grenzwert $x$ konvergiert, vergleicht man die Konvergenzgeschwindigkeit der Nullfolge $(a_{n})=(x-x_{n})$ mit gewissen anderen Nullfolgen, für deren Konvergenzgeschwindigkeit man ein gutes Gefühl hat wie z. B. $(n^{-a})$, $(n^{-a}\log n)$ für $a>0$, $(q^{n})$ für $0<q<1$ oder $(e^{-2^{n}})$.

Definition

Man sagt, eine Nullfolge ($a_{n}$) konvergiert mindestens so schnell wie eine Nullfolge ($b_{n}$), wenn gilt $\sup |a_{n}/b_{n}|<\infty$.

Eine Folge ($a_{n}$) heißt schnell fallend, wenn sie schneller als jede Folge der Art ($n^{-k}$), $k$ eine natürliche Zahl, fällt, also $\sup |a_{n}|n^{k}<\infty$ für jedes $k$ (ein Beispiel ist etwa die Folge $\left(e^{-n}\right)$.)

Von besonderem Interesse ist also die Beschreibung der Konvergenzordnung numerischer Verfahren in normierten Räumen, wo also die Folgenglieder die Gestalt $\|x-x_{n}\|$ haben.

Im Sinne dieser Definition nennt man ein Iterationsverfahren linear konvergent, wenn es so schnell wie die Folge $\left(q^{n}\right)$ mit $0<q<1$ konvergiert. Man nennt es quadratisch konvergent, wenn es so schnell wie die Folge $\left(e^{-2^{n}}\right)$ konvergiert. Ebenso lassen sich auch höhere Konvergenzordnungen (kubisch, superlinear) definieren.

Beliebig langsame Konvergenz

Viele wichtige numerische Verfahren sind beliebig langsam konvergent. Sei also $X$ ein Banachraum und $X_{n}$ eine Folge von $n$-dimensionalen Teilräumen und sei V ein Verfahren, das zu jeder Lösung einer Gleichung $f(x)=y$ eine angenäherte Lösung $x_{n}$ in $X_{n}$ liefert. Das Verfahren V heißt dann beliebig langsam konvergent, wenn es zu jeder positiven Nullfolge $(a_{n})$ ein y gibt, so dass $(x-x_{n})$ für die zugehörigen angenäherten Lösungen $x_{n}$ langsamer als die Folge $(a_{n})$ konvergiert.

Setzt man z. B. bei der numerischen Integration nur die Stetigkeit der zu integrierenden Funktion voraus, nicht aber eine gewisse Differenzierbarkeitsordnung, so ist das Verfahren der numerischen Integration beliebig langsam konvergent, d. h. zu jeder beliebig langsam gegen Null konvergierenden monotonen Folge positiver Zahlen gibt es eine stetige Funktion $f$, so dass die Folge der Quadraturwerte langsamer gegen das Integral konvergieren als die gegebene Nullfolge. Andere Beispiele findet man bei der Interpolation oder der Lösung inkorrekt gestellter Probleme.

Umgekehrte Resultate

In etlichen Disziplinen der Analysis lassen sich aus der Konvergenzgeschwindigkeit Erkenntnisse über die Struktur des zu untersuchenden Problems gewinnen. Als Beispiel seien die Bernstein­sätze aus der Approximationstheorie erwähnt: Ist eine stetige Funktion durch Polynome vom Grad $n$ mit der Konvergenzgeschwindigkeit ${\mathcal {O}}(n^{-k-a})$ für ein $a>0$ approximierbar, so ist sie $k$-fach differenzierbar.

Siehe auch

• Landau-Symbole

Literatur

• Martin Hanke-Bourgeois, Grundlagen der Numerischen Mathematik und des Wissenschaftlichen Rechnens, Teubner, Stuttgart 2002
• Arnold Schönhage, Approximationstheorie, de Gruyter, Berlin 1971
• Eberhard Schock, Arbitrarily Slow Convergence, Uniform Convergence and Superconvergence of Galerkin-like Methods, IMA J. Numer. Analysis 5 (1985) 153-160
• Hans R. Schwarz, Norbert Köckler: Numerische Mathematik. 5. Auflage. Teubner, Stuttgart 2004,