Theoretisches Rahmenwerk und Bifurkationsanalyse für aus neuronalen Messungen inferrierte tiefe rekurrente neuronale Netze

• Antragsteller: Professor Dr. Daniel Durstewitz
• Fachliche Zuordnung: Experimentelle und theoretische Netzwerk-Neurowissenschaften ; Kognitive, systemische und Verhaltensneurobiologie
• Förderung: Förderung seit 2022
• Projektkennung: Deutsche Forschungsgemeinschaft (DFG) - Projektnummer 502196519

In den theoretischen Neurowissenschaften konstruieren wir mathematische Modelle neuronaler Schaltkreise, um Einblicke in die computationalen und dynamischen Mechanismen zu erhalten, die experimentellen Messungen zugrundeliegen. Jüngste Fortschritte beim Tiefen Lernen können dazu beitragen, diesen Prozeß bis zu einem gewissen Grade zu automatisieren: Anstatt explizit, auf Einsichten des Theoretikers basierende Modelle zu erstellen, können wir rekurrente neuronale Netze (RNN) trainieren, die beobachteten physiologischen Signale direkt zu reproduzieren, vorherzusagen oder frei zu generieren. Dies ist ein vielversprechender Ansatz, zu dem wir in den letzten Jahren wesentlich beigetragen haben, der jedoch auch mit neuen Herausforderungen verbunden ist: Da solche Modelle von einem Algorithmus und nicht von uns selbst entworfen wurden, ist die Analyse ihrer computationalen und dynamischen Eigenschaften deutlich schwieriger. Auch wird beim Training solcher Modelle i.d.R. angenommen, dass die zugrundeliegenden Systeme stationär sind, d.h. über die Zeit unveränderliche Parameter besitzen, was insbesondere in den Neurowissenschaften, z.B. bei Lernaufgaben, oft nicht zutreffen wird. Erlaubt man jedoch zeitabhängige Parameterveränderungen in RNN (oder beliebigen anderen dynamischen Systemen), wird es zwangsläufig an bestimmten Punkten zu Bifurkationen kommen, d.h. abrupten Übergängen in der Systemdynamik mit weitreichenden funktionellen Konsequenzen.Ziel dieses Antrages ist es, diese offenen Probleme und Fragestellungen zu adressieren: In WP1 soll basierend auf Konzepten der Theorie dynamischer Systeme und Bifurkationstheorie ein mathematisches Rahmenwerk entwickelt werden, das die exakte Analyse einer bestimmten Klasse von über tiefes Lernen aus empirischen Zeitreihen inferrierten RNN erlaubt. Dies wird es ermöglichen, das dynamische Repertoire von auf Daten trainierten RNN mit seinen computationalen und funktionellen Konsequenzen für das zugrundeliegende experimentelle System genau zu charakterisieren. In WP2 haben wir vor, bestehende RNN-Trainingsalgorithmen um die Möglichkeit zeitveränderlicher Parameter zu erweitern. Dies wird es in Zusammenhang mit den in WP1 geplanten theoretischen Erwägungen erlauben, Bifurkationen, und auch die spezielle Art von Bifurkation, in experimentellen Datenreihen systematisch zu beschreiben. In WP3 schließlich werden wir die in WP1 und WP2 entwickelten mathematischen Konzepte und Algorithmen nutzen, um eine lang ausstehende experimentelle Hypothese anzugehen: Nämlich die Frage, ob sich die während des Erlernens neuer Regeln bei Nagern beobachteten abrupten Sprünge in der neuronalen Aktivität auf Bifurkationen zurückführen lassen, und um welche Art von Bifurkation es sich handelt. Letzteres ist funktional besonders relevant. Über die Neurowissenschaften hinaus werden die hier angestrebten methodischen und theoretischen Neuerungen in vielen natur- und ingenieurswissenschaftlichen Bereichen einsetzbar sein.

• DFG-Verfahren: Sachbeihilfen