Ralf Eickhoff
Fehlertolerante neuronale
Netze zur Approximation
von Funktionen
Bibliografische Information Der Deutschen Bibliothek
Die Deutsche Bibliothek verzeichnet diese Publikation in der Deutschen National-
bibliografie; detaillierte bibliografische Daten sind im Internet über http://dnb.ddb.de
abrufbar
©Heinz Nixdorf Institut, Universität Paderborn – Paderborn – 2007
Das Werk einschließlich seiner Teile ist urheberrechtlich geschützt. Jede Verwertung
außerhalb der engen Grenzen des Urheberrechtsgesetzes ist ohne Zustimmung der
Herausgeber und des Verfassers unzulässig und strafbar. Das gilt insbesondere für
Vervielfältigung, Übersetzungen, Mikroverfilmungen, sowie die Einspeicherung und
Verarbeitung in elektronischen Systemen.
Satz und Gestaltung: Ralf Eickhoff
Hersteller: W. V. Westfalia Druck GmbH
Druck · Buch · Verlag
Paderborn
Printed in Germany
Geleitwort
Verbindendes Forschungsziel der von mir geleiteten Fachgruppe Schaltungstechnik
ist der systematische Entwurf und der bedarfsgerechte Einsatz von mikroelektro-
nischen Systemen in konkreten Anwendungen der Informations- und Automatisie-
rungstechnik. Unsere Aktivitäten umfassen Arbeiten auf System- und Schaltkrei-
sebene sowohl in digitaler als auch analoger Schaltungstechnik. Besondere Berück-
sichtigung finden massiv-parallele Realisierungsvarianten sowie die Bewertung der
Ressourceneffizienz entsprechender Implementierungen. Ressourceneffizienz bedeu-
tet hier, mit den physikalischen Größen Raum, Zeit und Energie sorgfältig umzu-
gehen.
Die enormen Fortschritte in der Mikroelektronik werden in naher Zukunft die In-
tegration von über 1 Milliarde Transistoren auf einem Quadratzentimeter Silizi-
umfläche erlauben. Bei effektiven Kanallängen der MOS-Transistoren von deutlich
unter 100 Nanometern und bei Schichtdicken des Gate-Oxids von wenigen Atom-
lagen gelangt man bei der Fertigung allerdings zunehmend an die Grenzen der
Silizium-Technologie. Insbesondere die Zuverlässigkeit der realisierten Bauelemente
wird bei derart winzigen Strukturgrößen zunehmend ein Problem, da es immer un-
wahrscheinlicher wird, dass alle Bauelemente einer komplexen Schaltung fehlerfrei
funktionieren. Vorbilder für fehlertolerante Systeme sind in der Natur im Verlaufe
der biologischen Evolution in großer Anzahl realisiert worden. Es liegt daher Na-
he, natürliche Wirkprinzipien in die moderne Technik zu übertragen. In unserem
Forschungsschwerpunkt „Kognitronik“ konzentrieren wir uns diesbezüglich auf die
Modellierung neuronaler Informationsverarbeitungsprinzipien und deren Nutzung
in technischen Systemen. Neuronale Netzwerkmodelle bedienen sich intern einer
massiv-parallelen Informationsverarbeitung und haben im Allgemeinen eine modu-
lare, reguläre Systemstruktur.
Herr Eickhoff befasst sich in seiner Dissertation mit der Frage, inwieweit ausge-
wählte neuronale Netzwerkmodelle auch die Eigenschaft der Robustheit und der
Fehlertoleranz aufweisen. Speziell analysiert er diese Eigenschaften für lokale Basis-
funktionsnetzwerke am Beispiel der Funktionsapproximation, indem er die Robust-
heit neuronaler Netze auf die gleichgradige Stetigkeit von Funktionen zurückführt
und eine formale Abschätzung der Auswirkungen von Rauschen in den Eingängen
und den internen Modellparametern auf die Ausgabe der betrachteten Netzwerkmo-
delle durchführt. Herr Eickhoff weist nach, dass bei freier Wahl der Parameter die
beiden ausgewählten Netzwerkmodelle (RBF, LCNN) einen beliebig großen Fehler
im Ausgang produzieren können, d. h., nicht robust im Sinne der geforderten gleich-
gradigen Stetigkeit sind. Soll diese erreicht werden, müssen die Netzwerkparameter -
hier insbesondere die Gewichte der Neuroneneingänge - beschränkt werden. Er zeigt
ferner auf, wie sich Robustheit und Fehlertoleranz durch eine Erhöhung der Red-
undanz, d.h. durch zusätzliche Neurone im Netzwerk, verbessern lassen. Wie viele
und an welche Stellen zusätzliche Neurone eingefügt werden sollen, entscheidet er
über die Bewertung der Bedeutung, die dem Anteil des Neurons am Ausgabefehler
entspricht, und der Empfindlichkeit einzelner Neurone gegenüber Rauschen bzw.
Parameterschwankungen. Die Ergebnisse seiner Analysen lässt er abschließend in
konkrete Schaltungsentwürfe einfließen.
Herr Eickhoff hat seine Dissertation im Graduiertenkolleg „Automatische Konfigu-
rierung in offenen Systemen“ durchgeführt. Der Deutschen Forschungsgemeinschaft
sei an dieser Stelle noch einmal ausdrücklich für die finanzielle sowie strukturelle
Unterstützung und das damit verbundene Vertrauen gedankt.
Prof. Dr.-Ing. Ulrich Rückert
Fehlertolerante neuronale Netze zur
Approximation von Funktionen
Zur Erlangung des akademischen Grades
DOKTORINGENIEUR (Dr.-Ing.)
der Fakultät Elektrotechnik, Informatik und Mathematik
der Universität Paderborn
vorgelegte Dissertation
von
Dipl.-Ing. Ralf Eickhoff
aus Anröchte
Referent: Prof. Dr.-Ing. Ulrich Rückert
Korreferent: Prof. Dr.-Ing. Klaus Meerkötter
Tag der mündlichen Prüfung: 11. Juli 2007
Paderborn, den 9. August 2007
D14/230
Loading more pages...