Operative Erklärungen für maschinelle Klassifikationsverfahren ((11) A05)

• Fachliche Zuordnung: Bild- und Sprachverarbeitung, Computergraphik und Visualisierung, Human Computer Interaction, Ubiquitous und Wearable Computing
• Förderung: Förderung von 2019 bis 2022
• Projektkennung: Deutsche Forschungsgemeinschaft (DFG) - Projektnummer 389792660

Wir entwickeln ein Rahmenwerk für Erklärungen im maschinellen Lernen (ML), fokussiert auf neuronale Netzwerke. Da die Entscheidungen derzeitiger Klassifizierer extrem fragil sind, arbeiten wir zunächst an deren beweisbarer Robustheit. Für robuste Klassifizierer erstellen wir dann operationelle Erklärungen, die angeben, wie sich die Eingabewerte möglichst geringfügig ändern müssten, um die Entscheidung zu verändern. Wir erforschen die effiziente Visualisierung solcher Resultate durch einen interaktiven Prozess zur Exploration operationeller Erklärungen in der Nachbarschaft vorliegender Eingabewerte. Dies unterstützt Benutzer in der Plausibilisierung der Klassifizierer-Entscheidung und unterstützt ML-Experten im Debugging.

• DFG-Verfahren: Transregios
• Teilprojekt zu: TRR 248: Grundlagen verständlicher Software-Systeme - für eine nachvollziehbare cyber-physische Welt
• Antragstellende Institution: Universität des Saarlandes
• Teilprojektleiter: Professor Dr. Stefan Gumhold; Professor Dr. Matthias Hein