Von der Nonlinear Dynamik zur Machbarkeit von Heteroklinem Computing
Zusammenfassung der Projektergebnisse
Nach existierenden detaillierten Analyse der kollektiven nichtlinearen Dynamik von Systemen mit heteroklinen Netzwerken und den verschiedenen theoretischen Vorschlägen zu ihren Rechenfähigkeiten, gab es zu Beginn des Projektes noch kein vollständiges Konzept für ein Rechensystem, das auf der Dynamik in der Nähe von fheteroklinen Netzwerkstrukturen Strukturen basierte. Durch die Kombination von analytischen Erkenntnissen, Schaltungssimulationen und Hardwaretests wurden die Grundlagen für das Wissen über dynamische Systeme in gepulsten neuronalen Netzen (spiking neural networks) und ihre komplexen Rechenfähigkeiten erarbeitet. Wir konzentrierten uns auf Dynamiken, die von heteroklinen Netzwerken gesteuert werden, und entdeckten eine neue Verbindung zu stabilen Systemen mit analogen Merkmalen in multistabilen Dynamiken in Schaltkreisen mit proportionaler Hemmung. Es wurde zweischichtiges Feed-Forward-Ausleseverfahren vorgeschlagen und analysiert, welches nur linear viele (2N) zusätzliche Einheiten für ein rekurrentes Netzwerk mit N Neuronen benötigt und darüber hinaus nur wenige Spikes pro Neuron für die Ausleseverarbeitung verwendet. Dieses Auslesen ist zudem robust gegenüber Störungen, selbstkorrigierend und dekodiert alle gewünschten komplexen periodischen Orbits. Es wurden weiterhin grundlegende Neuronen-Motivnetze vorgestellt und untersucht, die als Basiseinheiten fungieren und einen volatilen (zeitabhängig flüchtigen) Speicher bereitstellen, eine Voraussetzung für komplexere Rechen-Konzepte und für jede Implementierung heterokliner Berechnungen in Hardware. Wir haben diese Einsichten sowie zusätzliche Erkenntnisse über den Einfluss von Rauschen in pulsgekoppelten Systemen integriert, um Rechenfunktionen in Hardware mit realen externen Störungen, Basisspeicher, Dekodierung und direkte Bewegungssteuerung zu integrieren.Als wir uns mit Dekodierung und Rauschen beschäftigten, entdeckten wir eine Analogie von Berechnungsfunktionen in Systemen mit stabiler statt heterokliner (instabiler) Dynamik. Diese Erkenntnisse führten zu einer neuen Form von rauschresistenten, rekonfigurier baren neuronalen Schaltkreisen mit Spikes. In Zukunft könnten die neuen Eigenschaften dazu beitragen, selbstanpassende Systeme zu entwerfen, die auch gegen vollständige Ausfälle oder das Entfernen von Einheiten oder Kommunikationskanälen robust sind, was ein neues Paradigma für spike-basiertes Computing eröffnen würde. Mathematisch und konzeptionell ist die Verbindung zwischen Systemen mit proportionaler Hemmung (und somit multiplikativer Kopplung) und Systemen mit heterokliner Dynamik (und additiver Kopplung) von grundlegender Bedeutung. Betrachtet man den gemeinsamen Fortschritt im lichte des sich schnell entwickelnden Feldes spikender neuronalen Netze sowie ihrer Hardware-Implementierungsmöglichkeiten, so bringen diese Ergebnisse den Stand der Theorie erheblich voran und bieten insbesondere neue Perspektiven für den Entwurf von spike-basierten Schaltungen für technische Anwendungen.
Projektbezogene Publikationen (Auswahl)
-
Reconfigurable Computation in Spiking Neural Networks. IEEE Access, 8, 179648-179655.
Neves, Fabio Schittler & Timme, Marc
-
Bio-inspired computing by nonlinear network dynamics—a brief introduction. Journal of Physics: Complexity, 2(4), 045019.
S., Neves Fabio & Timme, Marc
-
Decoding complex state space trajectories for neural computing. Chaos: An Interdisciplinary Journal of Nonlinear Science, 31(12).
Schittler, Neves Fabio & Timme, Marc
-
Stochastic facilitation in heteroclinic communication channels. Chaos: An Interdisciplinary Journal of Nonlinear Science, 31(9).
Sirio, Carmantini Giovanni; Schittler, Neves Fabio; Timme, Marc & Rodrigues, Serafim
-
Equivalence of Additive and Multiplicative Coupling in Spiking Neural Networks. IEEE Access, 11, 145503-145515.
Börner, Georg; Neves, Fabio Schittler & Timme, Marc
-
Volatile Memory Motifs: Minimal Spiking Neural Networks. IEEE Access, 11, 88649-88655.
Schittler, Neves Fabio & Timme, Marc
