A remark on gradual underflow

Abstract

Sometimes computational errors are easy to understand once all the uses, as an operand, of each computed value are known. Directed graphs provide a notational device for displaying these dependencies. Simple graph arguments show that gradual underflow improves the performance of certain computational procedures but not others. (Some procedures require deeper analysis.) Here we use graph arguments to show that if computer arithmetic is augmented with a “denormal zero”, then errors from gradual underflow are always comparable to the uncertainty due to rounding error, though the comparison involves a factor that can grow exponentially with the number of arithmetic operations. Thus for procedures where existence of a denormal zero is unnecessary and the exponential growth is impossible, gradual underflow diminishes the noise from underflow to a level that can safely be ignored.

Zusammenfassung

Manchmal lassen sich Berechnungsfehler leicht verstehen, wenn erst einmal für jeden berechneten Wert alle Operationen bekannt sind, die mit ihm durchgeführt werden. Mit Hilfe gerichteter Graphen lassen sich diese Abhängigkeiten aufzeigen. Einfache graphentheoretische Argumente zeigen, daß allmählicher Underflow die Ausführung gewisser Rechenvorgänge verbessert, von anderen dagegen nicht. (Einige Rechenvorgänge erfordern eingehendere Untersuchungen.) Hier verwenden wir graphentheoretische Argumente, um zu zeigen, daß bei Ausstattung der Computer-Arithmetik mit einem „denormal zero” die Fehler durch allmählichen Underflow stets mit der Unsicherheit durch Rundungsfehler vergleichbar sind, obwohl dieser Vergleich einen Faktor einschließt, der exponentiell mit der Anzahl der arithmetischen Operationen wachsen kann. Für Berechungen, bei denen ein „denormal zero” unnötig und der exponentielle Anstieg unmöglich ist, vermindert allmälicher Underflow die Verfälschung durch Underflow auf ein Maß, das vernachlässigt werden kann.