Die Rolle Metakognitiver Kontrolle in der KI-Gestützter Medizinischen Entscheidungsfindung

• Antragstellerin: Professorin Dr. Ekaterina Jussupow
• Fachliche Zuordnung: Operations Management und BWL-spezifische Wirtschaftsinformatik ; Datenmanagement, datenintensive Systeme, Informatik-Methoden in der Wirtschaftsinformatik
• Förderung: Förderung seit 2025
• Projektkennung: Deutsche Forschungsgemeinschaft (DFG) - Projektnummer 568056994

Da KI-Anwendungen in verschiedenen Bereichen eingeführt werden, bleibt die radiologische Entscheidungsfindung eines der ersten Arbeitsgebiete, in denen KI-Systeme zur Unterstützung menschlicher Entscheidungsträger eingesetzt werden. In diesem Kontext ist es erforderlich, dass Menschen in die Lage versetzt werden, die bereitgestellten KI-Empfehlungen korrekt zu bewerten und dabei Fehlschlüsse durch übermäßiges oder unzureichendes Vertrauen in die KI zu vermeiden. Dieses Projekt zielt darauf ab, die Rolle metakognitiver Kontrollstrategien bei der adaptiven Nutzung KI-gestützter medizinischer Entscheidungshilfen zu verstehen. Aus theoretischer Perspektive untersucht dieses Projekt die Rolle verschiedener metakognitiver Kontrollmechanismen (d. h. Entscheidungen von Individuen in ihren Denkprozess einzugreifen, während sie ihre eigene Leistung überwachen) in der KI-gestützten medizinischen Entscheidungsfindung. Es wird erforscht, ob unterschiedliche Strategien zu einer besseren Leistung führen und wie sich metakognitive Kontrollstrategien im Laufe der Zeit sowie unter unterschiedlichen Bedingungen der KI-Unterstützung verändern. Diese Arbeit wird wesentlich zum Verständnis der adaptiven Nutzung von KI beitragen, indem sie eine metakognitive Kontrollperspektive einnimmt und somit die bestehende Forschungslücke schließt, warum Individuen KI nutzen und wie sie kognitive Ressourcen für deren Bewertung über längere Zeiträume hinweg aufwenden. Somit leistet das Projekt auch einen Beitrag zur Meta-Reasoning-Literatur, indem es das Zusammenspiel von Metakognition und Kognition in komplexen Entscheidungsprozessen untersucht. Das daraus resultierende Paper wird zur Veröffentlichung in MIS Quarterly oder Organizational Science (VHB A+) eingereicht. Aus methodischer Perspektive wird dieses Projekt aufzeigen, wie verbalisierte Entscheidungsprotokolle ganzheitlich analysiert werden können, indem qualitative induktive Ansätze mit dem Einsatz von LLMs als sekundäre Kodierer sowie mit Process-Mining-Methoden kombiniert werden. Diese Methoden ermöglichen es, Muster in großen Think-Aloud-Datensätzen zu identifizieren, zu visualisieren und zu interpretieren. Damit trägt das Projekt zur aufkommenden methodischen Perspektive der computergestützten Theoriekonstruktion und der quantitativen Grounded Theory sowie zum User Behavior Mining bei. Ziel dieses Projekts ist die Einreichung eines methodologischen Papers in einem A-Journal wie dem JAIS. Aus praktischer Perspektive ermöglicht ein vertieftes Verständnis verbalisierter Denkmuster zukünftigen Arbeiten die Entwicklung automatischer Trainingswerkzeuge zur Unterstützung medizinischer Novizen in ihrer Entscheidungsfindung. Dies wird durch den Vergleich von Echtzeit-Denkmustern mit „effektiven“ Argumentationspfaden erreicht, wobei überwacht wird, auf welchen Denkpfaden sich Novizen aktuell befinden, um gegebenenfalls Korrekturen vorzunehmen. Darüber hinaus entstehen konkrete Richtlinien für die Gestaltung von KI-Systemen.

• DFG-Verfahren: Sachbeihilfen
• Internationaler Bezug: Großbritannien, Kanada
• Kooperationspartnerinnen / Kooperationspartner: Professorin Susanne Gaube; Professor Vern Glaser