Local PCA Lernverfahren für interne sensomotorische Modelle

• Antragsteller: Professor Dr.-Ing. Ralf Möller
• Fachliche Zuordnung: Automatisierungstechnik, Mechatronik, Regelungssysteme, Intelligente Technische Systeme, Robotik
• Förderung: Förderung von 2005 bis 2008
• Projektkennung: Deutsche Forschungsgemeinschaft (DFG) - Projektnummer 5447497

Das Ziel dieses Projektes ist es, Lern- und Recall-Methoden für interne sensomotorische Modelle zu entwickeln. Die Trainingsverfahren für die abstrakten neuronalen Netzwerke verknüpfen Hauptkomponentenanalyse (principal component analysis, PCA) und Singularwertzerlegung (singular vector decomposition, SVD) mit Methoden der Vektorquantisierung. Unsere Arbeiten konzentrieren sich auf “Online”-Lernverfahren, die sich durch geringen Berechnungsaufwand auszeichnen und bei denen das Netzwerk nach der Vorstellung eines jeden Datenpunktes modifiziert wird. Ausgangspunkt für die erste Projektphase war unsere NGPCA-Methode (Möller and Hoffmann, 2004), welche neuronale Ansätze für PCA mit dem robusten “Neural Gas” Vektorquantisierer verbindet. NGPCA approximiert eine Datenmannigfaltigkeit durch eine Menge von Hyperellipsoiden (“local PCA”, “Gaussian mixture model”). Die Recall-Methode, welche wir für diese abstrakten rekurrenten Netzwerke entwickelt haben, erlaubt es, Assoziationen in beliebiger Richtung herzustellen, d.h. Datendimensionen können beliebig als Eingänge oder als Ausgänge des Netzwerks interpretiert werden (Hoffmann and Möller, 2003). Auf diese Weise können die Netzwerke sowohl als inverse Modelle als auch als Vorwärtsmodelle eingesetzt werden, und ihre Anwendung ist selbst dann möglich, wenn der Zusammenhang mehrdeutig ist (“one-to-many mapping”). Unser Ziel ist es, die Lernverfahren weiter zu entwickeln und zu verbessern, so dass sie mit einem Minimum an Voreinstellungen angewendet werden können. In der ersten Projektphase haben wir neue Verfahren entwickelt, bei denen die Anzahl der Hyperellipsoide automatisch an die Datenmannigfaltigkeit angepasst wird. Zudem haben wir verschiedene Modifikationen des Lernverfahrens vorgeschlagen, durch welche die Güte der Approximation verbessert wird, u.a. eine Modifikation des Ranking-Verfahrens, welches ursprünglich von Neural Gas übernommen wurde. NGPCA wurde ausgiebig für das Erlernen inverser Modelle (Controller) getestet und erwies sich dabei als anderen Lernverfahren überlegen. In der ersten Projektphase wurden desweiteren robuste SVD-Lernregeln entworfen. Diese stellen die Basis für die Entwicklung von “local SVD” Netzwerken in der zweiten Projektphase dar. Diese Verfahren der Funktionsapproximation sollen als Vorwärtsmodelle für die sensomotorische Vorhersage eingesetzt werden. Wir werden sowohl local PCA als auch local SVD Methoden so erweitern, dass die Dimensionalität der Netzwerk-Einheiten (Zahl der Eigen- und Singularvektoren) automatisch während des Trainings eingestellt wird. Zudem werden wir das starre “Auskühl”-Verfahren von Neural Gas durch Verfahren ersetzen, welche die Lernparameter (Lernrate, Nachbarschaftsradius) automatisch an die bisher erreichte Qualität der Approximation anpassen. Auf diese Weise können wir die Trennung von Datensammlung, Training und Anwendung überwinden und einen Schritt in Richtung eines “begleitenden” Lernens während der Anwendung gehen. In der zweiten Projektphase soll außerdem die Recall-Methode durch Hinzufügen einer Interpolation zwischen den lokal linearen Approximationen verbessert werden.

• DFG-Verfahren: Sachbeihilfen