Validierung erklärbarer KI in der klinischen Neurobildgebung

• Antragsteller: Dr. Marc-André Schulz
• Fachliche Zuordnung: Künstliche Intelligenz und Maschinelle Lernverfahren ; Radiologie
• Förderung: Förderung seit 2025
• Projektkennung: Deutsche Forschungsgemeinschaft (DFG) - Projektnummer 565356445

Die klinische Anwendung von Deep Learning in der Neurobildgebung steht vor einer entscheidenden Hürde: Während diese Modelle beeindruckende Genauigkeit in Aufgaben wie Tumordetektion und Krankheitsklassifikation erreichen, bleiben ihre Entscheidungsprozesse weitgehend undurchsichtig. Aktuelle Explainable AI (XAI) Methoden versprechen zwar Einblicke in die Verarbeitung von Bildgebungsdaten durch neuronale Netze, aber ihre Reliabilität und klinische Validität sind ungeklärt. Dieser Mangel an validierten XAI-Methoden behindert maßgeblich die Translation von Deep Learning Fortschritten in die klinische Praxis. Wir stellen ein umfassendes Framework zur Validierung von XAI-Methoden in der Neurobildgebung vor, das auf drei komplementären Ansätzen basiert. Zunächst entwickeln wir eine neuartige Validierungsstrategie mittels Imaging-derived Phenotypes (IDPs). Durch systematische Korrektur für globale Hirneffekte erstellen wir kontrollierte Vorhersageziele mit bekannter anatomischer Spezifität. Dies ermöglicht eine objektive Evaluation der XAI-Methoden. Zweitens evaluieren wir XAI-Methoden anhand von Multiple Sklerose Läsionen. Diese Läsionen treten an bekannten Stellen im Gehirn auf und eignen sich daher ideal als natürliche Testfälle. Drittens nutzen wir Brain Age Prediction als klinischen Validierungsrahmen. Dabei untersuchen wir insbesondere die Brain Age Gaps bei verschiedenen neurologischen Erkrankungen, da hier die zugrundeliegenden anatomischen Veränderungen gut dokumentiert sind und somit eine verlässliche Grundlage zur Evaluation der XAI-Methoden bieten. Unser Validierungs-Framework wird bis zu 100.000 MRT-Aufnahmen des Gehirns aus großen Populationsdatensätzen (UK Biobank, NAKO) analysieren. Dies ermöglicht eine systematische Untersuchung des Einflusses technischer und demographischer Faktoren auf die XAI. Durch diese strukturierte Evaluation werden wir klare Kriterien etablieren, wann XAI-Methoden verlässlich echte neuroanatomische Features erfassen und nicht nur Scheinkorrelationen abbilden. Das Projekt liefert drei zentrale Ergebnisse: (1) ein Protokoll zur Evaluation von XAI-Methoden in der Neurobildgebung, (2) implementiert in einem Open-Source Toolkit für 3D-Neurobildgebungsdaten, und (3) evidenzbasierte Guidelines für die Auswahl und Anwendung von XAI-Methoden in der klinischen Praxis.

• DFG-Verfahren: Sachbeihilfen