Unsymmetrisches Lanczos-Verfahren

In der numerischen Mathematik ist das unsymmetrische Lanczos-Verfahren einerseits ein iteratives Verfahren zur näherungsweisen Bestimmung einiger Eigenwerte und evtl. derer Eigenvektoren einer Matrix. Andererseits ist es aber auch die Grundlage für einige Algorithmen zur näherungsweisen Lösung von Gleichungssystemen, namentlich vom Verfahren der bikonjugierten Gradienten, auch kurz BiCG-Verfahren genannt.

Die Projektion auf Tridiagonalgestalt

Der Algorithmus erzeugt mittels einer kurzen Rekursion Matrizen $Q_{k}=\left(q_{1},q_{2},\ldots ,q_{k}\right)$ und ${\hat {Q}}_{k}=\left({\hat {q}}_{1},{\hat {q}}_{2},\ldots ,{\hat {q}}_{k}\right)$, deren Spalten zueinander biorthogonale Basen der Krylowräume ${\mathcal {K}}={\mathcal {K}}(A,r_{0})$ und ${\hat {\mathcal {K}}}={\mathcal {K}}(A^{H},{\hat {r}}_{0})$ bilden.

Sei eine quadratische Matrix $A\in \mathbb {C} ^{n\times n}$ gegeben. Nun werden noch zwei (unnormalisierte) Startvektoren $r_{0}\in \mathbb {C} ^{n}$ und ${\hat {r}}_{0}\in \mathbb {C} ^{n}$ benötigt, meist existieren aus vorherigen Rechnungen gute Kandidaten oder es werden Zufallsvektoren gewählt.

Der Algorithmus lautet wie folgt:

1. Setze $q_{0}\leftarrow 0$, ${\hat {q}}_{0}\leftarrow 0$
2. for $k\in \mathbb {N}$ do
3. $\beta _{k-1}\gamma _{k-1}\leftarrow \langle {\hat {r}}_{k-1},r_{k-1}\rangle$
4. $q_{k}\leftarrow r_{k-1}/\beta _{k-1}$
5. ${\hat {q}}_{k}\leftarrow {\hat {r}}_{k-1}/{\overline {\gamma _{k-1}}}$
6. $r_{k}\leftarrow Aq_{k}$
7. ${\hat {r}}_{k}\leftarrow A^{H}{\hat {q}}_{k}$
8. $\alpha _{k}\leftarrow \langle {\hat {q}}_{k},r_{k}\rangle =\langle {\hat {r}}_{k},q_{k}\rangle$
9. $r_{k}\leftarrow r_{k}-\alpha _{k}q_{k}-\gamma _{k-1}q_{k-1}$
10. ${\hat {r}}_{k}\leftarrow {\hat {r}}_{k}-{\overline {\alpha _{k}}}{\hat {q}}_{k}-{\overline {\gamma _{k-1}}}{\hat {q}}_{k-1}$
11. end for

Die schiefe Projektion ${\hat {Q}}_{k}^{T}\cdot A\cdot Q_{k}=T_{k}$ der Matrix $A\in \mathbb {C} ^{n\times n}$ auf eine Tridiagonalmatrix $T_{k}\in \mathbb {C} ^{k\times k}$ gebildet aus den Skalaren $\alpha _{j},\beta _{j},\gamma _{j}$ hat die unsymmetrische Tridiagonal-Struktur

  $T_{k}={\begin{pmatrix}\alpha _{1}&\gamma _{1}&&\\\beta _{1}&\alpha _{2}&\ddots &\\&\ddots &\ddots &\gamma _{k-1}\\&&\beta _{k-1}&\alpha _{k}\end{pmatrix}}$.

Details der Implementation

Der obige Algorithmus enthält Freiheit in der Wahl von $\beta _{k}$ und $\gamma _{k}$, da in Zeile drei nur das Produkt der beiden Größen eingeht. Häufige Wahlen sind

• $\beta _{k}=\|r_{k}\|$ und $\gamma _{k}={\frac {{\hat {r}}_{k}^{H}r_{k}}{\beta _{k}}}$
• $\beta _{k}={\sqrt {|{\hat {r}}_{k}^{H}r_{k}|}}$ und $\gamma _{k}={\frac {{\hat {r}}_{k}^{H}r_{k}}{\beta _{k}}}$.

Beide Optionen haben ihre Vor- und Nachteile.

Eigenwertnäherungen

Die Eigenwerte $\{\theta _{j}\}_{j=1}^{k}$ der Tridiagonalmatrix $T_{k}$ werden dann als Näherungen für die Eigenwerte $\lambda$ von $A\in \mathbb {C} ^{n\times n}$ herangezogen. Die Näherungen für Eigenvektoren sind durch die prolongierten Eigenvektoren $\{s_{j}\}_{j=1}^{k}$ gegeben. Aufgrund der Verwandtschaft mit einer (schiefen) Galerkin-Projektion werden die Paare $(\theta _{j},y_{j}=Q_{k}s_{j})$ auch im nichtsymmetrischen Fall häufig als Ritzpaare bezeichnet.

Verfeinerungen und Erweiterungen

Dieses ursprüngliche, auf einer Dreitermrekursion beruhende Verfahren bricht zusammen, wenn ${\hat {r}}_{k}^{H}r_{k}=0$ gilt. Falls (mindestens) einer der beiden Vektoren gleich Null ist, ${\hat {r}}_{k}=0$ oder $r_{k}=0$, so ist der zugehörige Krylow-Unterraum ein invarianter Unterraum von $A$ und alle Eigenwerte von $T_{k}$, die Ritz-Werte, sind auch Eigenwerte von $A$. Falls aber ${\hat {r}}_{k}^{H}r_{k}=0$ und ${\hat {r}}_{k}\neq 0$ und $r_{k}\neq 0$, kann das Verfahren nicht mehr mittels einer Dreitermrekursion weitergeführt werden.

Näherungsweise Lösung von Gleichungssystemen

Im Kontext von Gleichungssystemen $Ax=r_{0}$ wird als Startvektor das nullte Residuum $r_{0}$ genommen.

QOR

Die prolongierte Lösung $z_{k}$ des tridiagonalen Systems $T_{k}z_{k}=\|r_{0}\|e_{1}$, wobei $e_{1}$ den ersten Einheitsvektor der Länge $k$ bezeichne, wird als Näherungslösung $x_{k}=Q_{k}z_{k}$ genommen. Dieser Ansatz ist als quasi-orthogonaler Residualansatz, kurz QOR, bekannt. Wenn man den QOR Ansatz anwendet, kommt je nach Details eine Variante des bekannten BiCG-Verfahrens heraus.

QMR

Ein zweiter Ansatz basiert auf einer erweiterten Tridiagonalmatrix und ist als quasi-minimaler Residualansatz, kurz QMR, bekannt. Wenn man den QMR Ansatz verwendet, kommt das bekannte gleichnamige Verfahren der quasi-minimalen Residuen, kurz QMR heraus.

LTPM

Die Multiplikation mit $A$ und $A^{H}$ im ursprünglichen Algorithmus ist, insbesondere wenn $A$ nur als Black-Box bekannt ist, zu teuer. Sonneveld gab als erster eine Implementation eines Verfahrens basierend auf der Lanczos-Rekursion, welches nur mit Multiplikationen mit $A$ auskommt. Die Klasse dieser Verfahren ist im Englischen unter dem von Martin H. Gutknecht geprägten Namen Lanczos-type product methods, kurz LTPM, bekannt.

Das von Sonneveld angegebene Verfahren ist als Verfahren der quadrierten (bi)konjugierten Gradienten, im Englischen conjugate gradient squared, kurz CGS bekannt. Weitere Vertreter dieser Gruppe sind CGS2, shifted CGS, BiCGSTAB, BiCGSTAB(ell), GPBiCG, TFQMR und QMRCGSTAB.

Literatur

• Andreas Meister: Numerik linearer Gleichungssysteme. Eine Einführung in moderne Verfahren. 2. Aufl. Vieweg, Wiesbaden 2005, ISBN 3-528-13135-7 (mit MATLAB-Implementierungen von Christoph Vömel).