Auf dem Weg zu einer überall verlässlichen Klassifizierung - Ein gemeinsamer Rahmen für Robustheit gegen böswillige Attacken und die Erkennung von Out-of-Distribution Eingaben

• Antragsteller: Professor Dr. Matthias Hein
• Fachliche Zuordnung: Bild- und Sprachverarbeitung, Computergraphik und Visualisierung, Human Computer Interaction, Ubiquitous und Wearable Computing
• Förderung: Förderung seit 2021
• Projektkennung: Deutsche Forschungsgemeinschaft (DFG) - Projektnummer 464101476

Robustheit gegen böswillige Attacken und die Detektion von Out-of-Distribution Eingaben wurden bis jetzt separat behandelt. Die Trennung dieser Probleme ist jedoch aus unserer Sicht künstlich, da sie inhärent miteinander verbunden sind. Eine Verallgemeinerung der Robustheit gegen böswillige Attacken über die beim Training verwendeten Bedrohungsmodelle hinaus scheint nur möglich indem man das Adversarial Training von Madry et al. durch einen gemeinsamen Rahmen für die Robustheit gegen böswillige Attacken und die Detektion von Out-of-Distribution Eingaben ersetzt.

• DFG-Verfahren: Schwerpunktprogramme
• Teilprojekt zu: SPP 2298: Theoretische Grundlagen von Deep Learning