A quasi-Newton method with sparse triple factorization for unconstrained minimization

Abstract

A new quasi-Newton method for unconstrained minimization is presented. It uses sparse triple factorization of an approximation to the sparse Hessian matrix. At each step a new column and a corresponding row of the approximation to the Hessian is determined and its triple factorization is updated. Our method deals with the same updating problem as in J. Bräuninger's paper [2]. However, we make use of a rank-two instead of a rank-one updating scheme. Our method saves over half the number of operations required in J. Bräuninger's method. Moreover, our method utilizes the sparsity and, therefore, only the nonzero entries of the factors need to be stored. The positive definiteness can be preserved easily by taking suitable precautions. Under reasonable conditions our method is globally convergent and locally superlinearly evenn-step ρ-order convergent.

Zusammenfassung

Eine neue Quasi-newton-Methode für gewisse Minimalisierungsprobleme ohne Nebenbedingungen ist angegeben. Sie benutzt dünnbesetzte Tripelfaktorisierungen einer Approximation der Hesseschen Matrix. Bei jedem Schritt wird eine neue Spalte und eine entsprechende Zeile in der Approximation der Hesseschen Matrix bestimmt und ihre Faktorisierung wird umgeformt. Unsere Methode behandelt das gleiche Problem wie die Methode von Bräuninger in [2]. Wir verwenden jedoch ein Scheme von Rang zwei statt von Rang eins. Unsere Methode spart über die Hälfte der von Bräuninger benötigten Rechenoperationen ein. Überdies nutzt unsere Methode das Auftreten vieler Nullen aus, und es brauchen deshalb nur die von Null verschiedenen Stellen der Faktoren gespeichert zu werden. Durch geeignete Maßnahmen läßt sich leicht sicherstellen, daß die Approximationen positiv definitiv ausfallen. Unter gewöhnlichen Bedingungen konvergiert unsere Methode global während sie lokal superlinear in den geraden Schritten mit Ordnung ρ konvergiert.