Durchbrechen der Berechenbarkeitsschranke für die globale Optimierung von großskaligen kontinuierlichen Problemen der Datenwissenschaften

• Antragsteller: Professor Dr. Peter Ochs
• Fachliche Zuordnung: Bild- und Sprachverarbeitung, Computergraphik und Visualisierung, Human Computer Interaction, Ubiquitous und Wearable Computing
• Förderung: Förderung seit 2024
• Projektkennung: Deutsche Forschungsgemeinschaft (DFG) - Projektnummer 539436611

In vielen Anwendungen der Datenwissenschaften, wie der Bildverarbeitung, dem maschinellen Lernen, dem Computer Vision und der Statistik, ist die globale Optimierung von nicht-glatten und nicht-konvexen Problemen, aufgrund der enorm großen Dimension und schnell wachsender Datenmengen, unerreichbar. Der Wunsch diese Schranke zu durchbrechen wird durch vielversprechende Ansätze in Deep Learning signifikant verstärkt, die Optimierungsprobleme als einen speziellen Layer formulieren und dadurch in vielen praktischen Anwendungen zu den besten gehören. Das Projekt TRAGO wird dies durch einen Paradigmenwechsel im Design von Optimierungsalgorithmen für nicht-konvexe und nicht-glatte kontinuierliche Optimierungsprobleme erreichen, der von der Perspektive diskreter Optimierungsalgorithmen inspiriert ist. Bei der diskreten Optimierung werden viele hochmoderne Algorithmen abgeleitet, indem das Problem auf ein lineares Programm geliftet wird (z.B. Lifting oder LP-Relaxierung). Im Kontinuierlichen können komplizierte nicht-konvexe Probleme auch geliftet werden. Diese werden allerdings zu sehr hochdimensionalen (möglicherweise sogar unendlich) und konvexen anstelle von linearen Problemen. Dadurch werden die Türen geöffnet einen globalen Minimierer zu bestimmen. Obwohl es auf dem Gebiet der strukturierten nicht-konvexen (und nicht-glatten) Optimierung in den letzten Jahren gute Fortschritte gab, begnügen sich die meisten Algorithmen damit, stattdessen stationäre Punkte zu finden, anstelle eines globalen Minimierers (anzunähern). Im Gegensatz dazu wird TRAGO die Barriere für eine globale Optimierung von kontinuierlichen Problemen in groß angelegten Anwendungen der Datenwissenschaften durchbrechen. Dies wird durch theoretische und rechnerische Untersuchungen des optimalen Kompromisses zwischen dem Gewinn wichtiger Eigenschaften für eine effiziente Optimierung und dem Bezahlen für eine höhere Dimensionalität erreicht. Dadurch wird sich das Bild der globalen Minimierung bei der nicht-konvexen Optimierung im großen Maßstab dramatisch verändern. TRAGO wird auf Flaggschiff-Anwendungen in der Datenwissenschaft abzielen, die ehrgeiziger und weitaus größer als die üblichen Anwendungen sind, in denen diese Optimierungsprobleme derzeit verwendet werden. Das Arbeitsprogramm wird solide mathematische Theorien und Rechenwerkzeuge entwickeln, deren Leistungsfähigkeit in mehreren Beispielen des maschinellen Lernens demonstriert werden, wie z.B. als grafische Modelle oder regularisierte Risikominimierung, Inverse- und Variationsprobleme in der Signal-/Bildverarbeitung und Computer Vision sowie der Bi-level-Optimierung.

• DFG-Verfahren: Sachbeihilfen