Interpretierbares maschinelles Lernen: Veränderung erklären (C03)

• Fachliche Zuordnung: Künstliche Intelligenz und Maschinelle Lernverfahren
• Förderung: Förderung seit 2021
• Projektkennung: Deutsche Forschungsgemeinschaft (DFG) - Projektnummer 438445824

C03 entwickelt Methoden, um zu erklären, wie und warum sich Modelle des maschinellen Lernens im Laufe der Zeit anpassen. Unser Projekt macht KI-Systeme in dynamischen Umgebungen transparenter, indem es effiziente, aussagekräftige Erklärungen, insbesondere neuartige Ansätze für Echtzeit-Erklärungen und Shapley-Interaktionen höherer Ordnung, entwickelt. In der zweiten Förderperiode geht es um ex-ante (statt post-hoc) Erklärungen von komplexen KI-Systemen (statt homogener KI-Modellen). Wir entwickeln für den TRR relevante grundlegende XAI-Methoden für die Analyse und Kommunikation von Verhalten in dynamischen Mensch-KI Kollaborationen.

• DFG-Verfahren: Transregios
• Teilprojekt zu: TRR 318: Erklärbarkeit konstruieren
• Antragstellende Institution: Universität Paderborn
• Teilprojektleiterinnen / Teilprojektleiter: Professorin Dr. Barbara Hammer; Professor Dr. Eyke Hüllermeier