Neuronale Korrelate von Vertrauen in Mensch-KI-Interaktion

• Antragstellerinnen / Antragsteller: Dr. Tobias Feldmann-Wüstefeld; Professorin Dr. Eva Wiese
• Fachliche Zuordnung: Arbeitswissenschaft, Ergonomie, Mensch-Maschine-Systeme ; Allgemeine, Kognitive und Mathematische Psychologie ; Biologische Psychologie und Kognitive Neurowissenschaften
• Förderung: Förderung seit 2025
• Projektkennung: Deutsche Forschungsgemeinschaft (DFG) - Projektnummer 568432038

Kognitives Offloading bezeichnet die Nutzung externer Hilfsmittel (z.B. Automatisierung) zur Verbesserung kognitiver Funktionen durch Reduzierung des kognitiven Loads. Technologien, die Künstliche Intelligenz (KI) nutzen, haben sich von statischen Automatisierungen zu dynamischen Partnern entwickelt, die komplexe Aufgaben bewältigen und sich an den Nutzer anpassen. In der Human-Automation-Interaction (HAI) kann KI die Effizienz steigern, den Kompetenzbereich von Menschen erweitern und deren mentale Ressourcen freisetzen. Sie unterstützt Menschen bei zwei zentralen Engpässen der Informationsverarbeitung, der visuellen selektiven Aufmerksamkeit und dem visuellen Arbeitsgedächtnis. Die Wirksamkeit der KI hängt jedoch von gut kalibriertem Vertrauen ab, denn Menschen sollten sich weder zu stark noch zu wenig auf die KI verlassen. Die Messung von Vertrauen stellt eine große Herausforderung in der HAI-Forschung dar. In bisherigen Forschungsarbeiten wurden vor allem Selbstauskünfte (z.B. Fragebögen) und Verhaltensmaße (z.B. Reaktionszeiten) verwendet. Selbstauskünfte sind jedoch subjektiv, unterbrechen den Arbeitsfluss, können Vertrauen nicht mit hoher zeitlicher Auflösung erfassen und machen oft den Zweck der Studie offensichtlich. Verhaltensbasierte Vertrauensmaße sind objektiver, erfassen jedoch keine kognitiven Zustände und werden durch externe Faktoren wie Arbeitsbelastung oder wahrgenommene Risiken beeinflusst. In diesem Forschungsprojekt schlagen wir einen neuen Ansatz vor und verwenden mit der N2pc und CDA zwei etablierte ereigniskorrelierte Potenziale (EKPs) des Elektroenzephalogramms (EEG), die Aufmerksamkeit und Arbeitsgedächtnis erfassen. Menschen arbeiten mit einem einfachen Algorithmus, der als KI präsentiert wird, bei visuellen Suchaufgaben sowie Change-Detection-Aufgaben zusammen während diese EKPs das Ausmaß kognitiven Offloadings an die KI und damit das Vertrauen in die KI messen. EEG-Maße bieten den Vorteil, dass sie objektiv und implizit sind, eine hohe zeitliche Auflösung haben und den Arbeitsfluss nicht stören. Im 1. Arbeitspaket zeigen wir, dass die N2pc und CDA geeignet sind, Offloading in visuellen Such- und Change-Detection-Aufgaben zu erfassen. Im 2. Arbeitspaket werden die N2pc und CDA genutzt, um die Rolle der wahrgenommenen eigenen Leistung, der wahrgenommenen KI-Leistung sowie von Risiko und Transparenz bei der Vertrauensbildung zu untersuchen. Im 3. Arbeitspaket wird mittels der N2pc und CDA erforscht, wie sich Vertrauen nach Vertrauensverletzungen abbaut und wie es am effektivsten wiederhergestellt werden kann. Im 4. Arbeitspaket wird getestet, wie gut sich die N2pc und CDA im Kontext adaptiver KI eignen, Aufmerksamkeit und Arbeitsgedächtnis von Menschen zu messen, die mit KI arbeiten, die sich an ihr Verhalten anpasst. Dieses Forschungsprojekt wird neue neuronale Vertrauensmaße etablieren und testen, die es ermöglichen, kognitives Offloading und Vertrauen in KI objektiver, reliabler und valider zu messen.

• DFG-Verfahren: Sachbeihilfen