Effect of guard digits and normalization options on floating point multiplication

Abstract

The effect of two important computer design parameters on floating point multiplication is studied. The parameters are the number of guard digits, and the decision whether the post-arithmetic normalization shift is done before or after rounding. Our results on the accurary of floating point multiplication depend on a stochastic model for computer numbers. There is an interesting interplay between guard digit possibilities and the normalization option. For example, our own first impression was that normalization before rounding would always be preferable to normalization after rounding. Our results show that this is not the case when there is only one guard digit. In a related vein, our results also give comprehensive justification of the following observation: On an even base machine whose architecture provides for normalization before rounding, one should not merely ask for symmetric rounding (rather than rounding by chopping). Instead one should ask for symmetric roundingplus two guard digits.

Zusammenfassung

Es wird der Einfluß von zwei technischen Kenngrößen einer Rechenanlage auf die Gleitkommamultiplikation untersucht. Die Kenngrößen sind die Anzahl der Schutzstellen und die Ausführung der Normalisierung vor bzw. nach der Rundung. Unsere Ergebnisse über die Genauigkeit der Gleitkommamultiplikation beruhen auf einem stochastischen Modell für Maschinenzahlen. Es gibt einen interessanten Zusammenhang zwischen der Anzahl der Schutzstellen und dem Zeitpunkt der Normalisierung. Zum Beispiel war unser erster Eindruck, daß Normalisierung vor der Rundung der Normalisierung nach der Rundung immer vorzuziehen sei. In der Arbeit wird gezeigt, daß dies für Maschinen mit nur einer Schutzstelle nicht gilt. Auch erhalten wir eine vollständige Erklärung für folgende Beobachtung: Auf einer Maschine mit gerader Basis und Normalisierung vor der Rundung sollte man nicht nur symmetrische Rundung verlangen (im Gegensatz zur Rundung durch Abschneiden), sondern sogar symmetrische Rundungund zwei Schutzstellen.