Iterative algorithms for Gram-Schmidt orthogonalization

Abstract

The algorithms that are treated in this paper are based on the classical and the modified Gram-Schmidt algorithms. It is shown that Gram-Schmidt orthogonalization for constructing aQR factorization should be carried out iteratively to obtain a matrixQ that is orthogonal in almost full working precision. In the formulation of the algorithms, the parts that express manipulations with matrices or vectors are clearly identified to enable an optimal implementation of the algorithms on parallel and/or vector machines. An extensive error analysis is presented. It shows, for instance, that the iterative classical algorithm is not inferior to the iterative modified algorithm when full precision ofQ is required. Experiments are reported to support the outcomes of the analysis.

Zusammenfassung

In diesem Artikel werden verschiedene Varianten der klassischen und der modifizierten Gram-Schmidt-Methode präsentiert. Wir zeigen, daß man für die Konstruktion derQR-Zerlegung die Gram-Schmidt-Orthogonalisierung iterativ anwenden muß, falls man die MatrixQ ungefähr bis auf Maschinengenauigkeit orthogonal haben will. Die Algorithmen sind so formuliert, daß man alle Operationen mit Matrizen oder Vektoren deutlich identifizieren kann und eine Implementierung auf einem Parallel- oder Vektorcomputer keine Schwierigkeiten bietet. Eine ausführliche Fehleranalyse wird gegeben. Daraus folgt zum Beispiel, daß der iterative klassische Algorithmus nicht schlechter ist als der iterative modifizierte Algorithmus, wenn die MatrixQ so genau wie möglich orthogonal sein muß. Verschiedene Experimente auf einem Vektorcomputer werden beschrieben, welche die Resultate der Fehleranalyse bestätigen.