Abstract
The parallel evaluation ofA N =a 1 ∘a 2 ∘...∘a N , where ∘ is binary associative, is studied. Under an idealized model of parallel computation, the minimal number of parallel processors required to computeA N in at mostt steps is determined for ⌈log2 N⌉≤t≤N−1. This indicates that it is not always desirable to reduce the running time to an absolute minimum, and provides a lower bound on the processing power required for time-constrained evaluation of general arithmetic expressions. Results for two-input processors, are generalized tob-input processors, and then to non-homogeneous collections of processors. The latter does not have a closed-form solution, so approximations are analyzed.
Zusammenfassung
Die parallele Auswertung vonA N =a 1 ∘a 2 ∘...∘a N , bei der ∘ binär-assoziativ ist, wird untersucht. In einem idealisierten Modell einer parallelen Berechnung wird die Mindestanzahl paralleler Prozessoren festgestellt, welche für die Berechnung vonA N in höchstenst Schritten für ⌈log2 N⌉≤t≤N-1 erforderlich ist. Es zeigt sich, daß es nicht immer wünschenswert ist, die Laufzeit auf ein absolutes Minimum herabzusetzen; daraus ergibt sich eine untere Schranke für die bei, einer zeitbeschränkten Errechnung von generellen arithmetischen Funktionen erforderlichen Verarbeitungsleistung. Ergebnisse für Zwei-Eingabe-Prozessoren werden zunächst aufb-Eingabe-Prozessoren und dann auf nichthomogene Aggregate von Prozessoren verallgemeinert. Letztere Verallgemeinerung hat keine Lösung in geschlossener Form; es werden deshalb Näherungen analysiert.
Similar content being viewed by others
References
Heller, D.: A survey of parallel Algorithms in numerical linear algebra. SIAM Review20, 740–777 (1978).
Heller, D.: Minimal parallelism for computations under time constraints, in: High speed computer and Algorithm organization (Kuck, D. J., Lawrie, D. H., Sameh, A. H., eds.), pp. 321–322. New York: Academic Press 1977.
Hyafil, L., Kung, H. T.: The complexity of parallel evaluation of linear recurrences. Proc. 7th Ann. ACM Symp. on Theory of Computing, 1975, pp. 12–22.
Kogge, P. M.: Minimal parallelism in the solution of recurrence problems. Digital Systems Lab., Stanford University, 1972.
Munro, I., Paterson, M.: Optimal Algorithms for parallel polynomial evaluation. J. Comp. Syst. Sci.7, 189–198 (1973).
Muraoka, Y.: Parallelism exposure and exploitation in programs. Dissertation, Dept. of Comp. Sci., University of Illinois, Urbana, 1971.
Muraoka, Y., Kuck, D. J.: On the time required for a sequence of matrix products. Comm. ACM16, 22–26 (1973).
Winograd, S.: On the parallel evaluation of certain arithmetic expressions. J. ACM22, 477–492 (1975).
Author information
Authors and Affiliations
Rights and permissions
About this article
Cite this article
Heller, D. Minimal parallelism for associative computations under time constraints. Computing 22, 101–118 (1979). https://doi.org/10.1007/BF02253123
Received:
Revised:
Issue Date:
DOI: https://doi.org/10.1007/BF02253123