COFNET: Netzwerke kompositioneller Funktionen - adaptives Lernen für hochdimensionale Approximationen und Unsicherheitsquantifizierung

• Antragsteller: Privatdozent Dr. Martin Eigel
• Fachliche Zuordnung: Mathematik
• Förderung: Förderung seit 2021
• Projektkennung: Deutsche Forschungsgemeinschaft (DFG) - Projektnummer 490877747

Hochdimensional Approximationen sind bei den datengetriebenen Wissenschaften und dem wissenschaftlichen Rechnen allgegenwärtig. Dies umfasst u.a. die Lösung partieller Differentialgleichungen (PDE), maschinelles Lernen und die Unsicherheitsquantifizierung (UQ). Durch die jüngsten Erfolge von tiefen Neuronalen Netze (NN) und Tensornetzwerken (TN) sind vormals unbehandelbare Probleme numerisch lösbar geworden. Dadurch ensteht ein grundlegender Bedarf nach zuverlässigen Algorithmen und einem besseren Verständnis theoretischer Aspekte. Der Erfolg führt zudem auf ein starkes Interesse an der Untersuchung von Funktionskompositionen und motiviert die Einführung neuer Approximationsmethoden, die die günstigen mathematischen Strukturen von TNs erhalten und gleichzeitig die hohe Expressivität von NNs aufweisen.Erstes zentrales Ziel ist die Entwicklung einer neuen Klasse von Approximationsverfahren mit Netzwerken von Funktionskompositionen, bezeichnet als COFNETs. Diese neue Methodik liegt zwischen NTs und NNs und verbindet die besten Eigenschaften beider Ansätze, nämlich (i) eine reiche mathematische Struktur, die zuverlässiges Lernen ermöglicht, und (ii) eine ähnliche Expressivität wie NNs hinsichtlich vieler Anwendungen, insbesondere bei dynamischen Systemen.Unser Ziel ist die Untersuchung fundamentaler Eigenschaften von COFNETs im Rahmen der Approximationstheorie und des statistischen Lernens. Zudem werden robuste und zuverlässige Algorithmen entwickelt, was Kompressionstechniken und adaptive Lernstrategien mit begrenzten Datenmengen beinhaltet.Wir gehen davon aus, dass die Ergebnisse einen wichtigen Einfluss auf die weitere Entwicklung netzwerkbasierter Lernmethoden haben werden, insbesondere bei TNs und tiefen NNs. Das zweite zentrale Ziel betrifft die Behandlung von Problemen der UQ. Der Fokus liegt auf hochdimensionalen, zufälligen PDEs, deren Lösung als Funktion der Lösung stochastischer Differentialgleichungen aufgefasst wird. COFNETs können die inhärent kompositionelle Struktur direkt ausnutzen und ermöglichen darüberhinaus die Behandlung von Funktionsklassen, die keiner Regularität im üblichen Sinne genügen, wodurch sie eine effiziente Alternative u.a. zu Monte Carlo Methoden darstellen.Zur Berechnung statistischer inverser Probleme mit COFNETs werden interagierende Partikelsysteme zugrundegelegt, deren Gleichgewichtsdichte der Posteriordichte entspricht. Es werden Konvergenzeigenschaften und Rekonstruktionsverfahren untersucht. Zudem wird die Darstellung von Transportabbildungen für Wahrscheinlichkeitsmaße mit COFNETs untersucht, wodurch der Fluch der Dimension für eine weite Problemklasse umgangen werden kann.Wir gehen davon aus, dass die theoretischen und praktischen Ergebnisse des Projekts Einsatz in vielen Wissenschaftsgebieten finden und deutlich über die UQ hinausgehen werden. Zudem wird hierbei eine neue, vielversprechende Forschungsrichtung eröffnet, die hoffentlich verschiedenen wissenschaftlichen Feldern zugute kommen wird.

• DFG-Verfahren: Sachbeihilfen
• Internationaler Bezug: Frankreich
• Mitverantwortlich: Privatdozent Dr. Christian Bayer
• Kooperationspartner: Professor Dr. Anthony Nouy