Zusammenfassung
Im folgenden wird ein neues Trainingsverfahren für Radial Basis Function Netzwerke vorgestellt. Der DDA-Algorithmus (Dynamic Decay Adjustment) ergänzt den schon bekannten RCE-Algo-rithmus (Restricted Coulomb Energy, siehe [7]) in zwei Punkten: die Radii der RBF werden an die Trainingsdaten angepaßt und die Einführung neuer Zentren ist nun abhängig von der Klassenzugehörigkeit des Trainingsvektors und konkurrierender Prototypen. Durch dieses Verfahren läßt sich die Performanz der Netze gegenüber RCE und RBF-Netz-werken entscheidend verbessern. Getestet wurde der Algorithmus mit Beispielen der CMU Benchmark Suite und mit der Erkennung von Phonemen, einer Datenbasis die schon bei der Einführung des TDNNs verwendet wurde (siehe [9]). Die Anpassung der Radii alleine führte schon zu einer deutlichen Verbesserung gegenüber dem normalen RCE-Algo-rithmus, die Einführung verschiedener Schwellwerte für die Zugehörigkeit bzw. Nichtzugehörigkeit eines Testmusters zu einer Klasse verbesserte die Ergebnisse aber noch einmal deutlich. Zusätzlich wird am Beispiel des bekannten Zwei-Spiralen Problems die Generalisierungsfähigkeit dieses Algorithmus gegenüber einem normalen Multi Layer Perzeptron graphisch veranschaulicht.
Access this chapter
Tax calculation will be finalised at checkout
Purchases are for personal use only
Preview
Unable to display preview. Download preview PDF.
Similar content being viewed by others
References
M. Berthold: “A Time Delay Radial Basis Function Network for Phoneme Recognition” in Proc. of the IEEE International Conference on Neural Networks, Orlando, 1994.
D. Deterding: “Speaker Normalization for Automatic Speech Recognition”, PhD Thesis, University of Cambridge, 1989.
R. Gorman, T. Sejnowski: “Analysis of Hidden Units in a Layered Network Trained to Classify Sonar Targets” in Neural Networks 1, pp.75.
K. Lang, M. Witbrock: “Learning to Tell Two Spirals Apart”, in Proc. of Connectionist Models Summer School, 1988.
J. Moody, C.J. Darken: “Fast Learning in Networks of Locally-Tuned Processing Units” in Neural Computation 1, p.281–294, 1989.
M.J. Hudak: “RCE Classifiers: Theory and Practice” in Cybernetics and Systems 23, p.483–515, 1992.
D.L. Reilly, L.N. Cooper, C. Elbaum: “A Neural Model for Category Learning” in Biol. Cybernet. 45, p.35–41, 1982.
D.F. Specht: “Probabilistic Neural Networks” in Neural Networks 3, p.109–118, 1990.
A. Waibel, T. Hanazawa, G. Hinton, K. Shikano, K. Lang: “Phoneme Recognition Using Time-Delay Neural Networks” in IEEE Trans. in Acoustics, Speech and Signal Processing Vol. 37, No. 3, 1989.
D. Wettschereck, T. Dietterich: “Improving the Performance of Radial Basis Function Networks by Learning Center Locations” in Advances in Neural Information Processing Systems 4, p.1133–1140, 1991.
S. Fahlman, M. White: “The Carnegie Mellon University Collection of Neural Net Benchmarks” from http://ftp.cs.cmu.eduin/afs/cs/project/connect/bench.
Author information
Authors and Affiliations
Editor information
Editors and Affiliations
Rights and permissions
Copyright information
© 1994 Springer-Verlag Berlin Heidelberg
About this paper
Cite this paper
Berthold, M.R., Feldbusch, F. (1994). Ein Trainingsverfahren für Radial Basis Function Netzwerke mit dynamischer Selektion der Zentren und Adaption der Radii. In: Reusch, B. (eds) Fuzzy Logik. Informatik aktuell. Springer, Berlin, Heidelberg. https://doi.org/10.1007/978-3-642-79386-8_10
Download citation
DOI: https://doi.org/10.1007/978-3-642-79386-8_10
Publisher Name: Springer, Berlin, Heidelberg
Print ISBN: 978-3-540-58649-4
Online ISBN: 978-3-642-79386-8
eBook Packages: Springer Book Archive