Kontextualisierte, verwertbare Erklärungen ((12) A06*)

• Fachliche Zuordnung: Sozialpsychologie und Arbeits- und Organisationspsychologie ; Bild- und Sprachverarbeitung, Computergraphik und Visualisierung, Human Computer Interaction, Ubiquitous und Wearable Computing
• Förderung: Förderung seit 2023
• Projektkennung: Deutsche Forschungsgemeinschaft (DFG) - Projektnummer 389792660

Es ist entscheidend für die Verstehbarkeit datenbasierter KI-Systeme, deutlich zu machen, warum diese Systeme so handeln, wie sie es tun. Hierfür sind kontrafaktische Erklärbarkeitsansätze vielversprechend, reichen aber oft nicht aus, verwertbare Erklärungen zu generieren, die zum Anwendungskontext des Erklärungsempfängers passen. Projekt A6 hat das Ziel, kontextualisierte, verwertbare Erklärbarkeitsansätze zu entwickeln und dafür die mathematischen Grundlagen im maschinellen Lernen bereitzustellen. Bei einem solchen Ansatz werden entscheidungsrelevante Gründe aufgedeckt, auf deren Basis Menschen tatsächlich handeln können. In empirischen Studien mit verschiedenen Personengruppen prüfen und verbessern wir den Ansatz iterativ im Hinblick auf seine Nützlichkeit.

• DFG-Verfahren: Transregios
• Teilprojekt zu: TRR 248: Grundlagen verständlicher Software-Systeme - für eine nachvollziehbare cyber-physische Welt
• Antragstellende Institution: Universität des Saarlandes
• Teilprojektleiterinnen / Teilprojektleiter: Professor Dr. Markus Langer; Professorin Dr. Isabel Valera