Kausal personalisierte eXplainable Artificial Intelligence (CPXAI): Nutzung individueller Heterogenitäten in der KI-Erklärbarkeit von Antworten durch kausales maschinelles Lernen

• Antragsteller: Professor Dr. Kevin Bauer
• Fachliche Zuordnung: Operations Management und BWL-spezifische Wirtschaftsinformatik
• Förderung: Förderung seit 2025
• Projektkennung: Deutsche Forschungsgemeinschaft (DFG) - Projektnummer 569214918

Das erste Ziel besteht darin, herauszufinden, welche persönlichen Faktoren, wie etwa verbreitete Verzerrungen oder Tendenzen bei der Informationsverarbeitung, bestimmen, wie gut jemand eine KI-Erklärung nutzen kann. Das Projekt wird einen neuen theoretischen Rahmen entwickeln, der Erkenntnisse aus der Verhaltensökonomie und den Informationssystemen kombiniert. Dieser Rahmen soll aufzeigen, wie kognitive Gewohnheiten von Individuen (wie Übervertrauen, das Ignorieren statistischer Informationen oder andere Denkfehler) ihre Interpretation und den Nutzen von KI-Erklärungen beeinflussen. Das zweite Ziel ist es, dieses Verständnis in die Praxis umzusetzen, indem ein System namens Causally Personalized eXplainable AI (CPXAI) entwickelt wird. Dieses System wird kausale Machine-Learning-Methoden nutzen, um vorherzusagen, welche Art von Erklärung (visuell, textuell oder sogar gar keine Erklärung) den Entscheidungsprozess eines Individuums am besten unterstützt. Ziel ist es, die Art und Weise, wie Erklärungen vermittelt werden, an den individuellen Informationsverarbeitungsstil anzupassen – was letztlich zu genaueren Entscheidungen und einer besseren Nutzung von KI führt. Um diese Ideen zu testen, ist das Projekt in zwei Arbeitspakete gegliedert. Das erste Paket wird die Auswirkungen verschiedener Informationsverarbeitungstendenzen auf den Erfolg von KI-Erklärungen analysieren und modellieren. Das zweite Paket konzentriert sich auf die Erstellung, Erprobung und Verfeinerung des CPXAI-Systems durch kontrollierte Experimente, unter anderem in Umgebungen, die reale Entscheidungen nachahmen, wie etwa die Bewertung von Kreditanträgen oder die Feststellung der Vertrauenswürdigkeit bei Transaktionen. Durch das Verständnis, wie individuelle Unterschiede die Nutzbarkeit von KI-Erklärungen beeinflussen, und durch die Anpassung der Erklärungen an die individuellen Bedürfnisse mittels kausaler Machine-Learning-Methoden, hofft das Projekt, das Vertrauen in KI-Systeme zu stärken und die Gesamteffizienz von Entscheidungen, die mit Unterstützung von KI getroffen werden, zu verbessern.

• DFG-Verfahren: Sachbeihilfen
• Mitverantwortlich: Dr. Moritz von Zahn