Detailseite
Projekt
Lifespan AI - Projekt C1: Lebensüberspannende Inferenz mit erklärbarer künstlicher Intelligenz
Antragsteller
Professor Dr. Peter Maaß; Professor Dr. Marvin Wright
Fachliche Zuordnung
Epidemiologie und Medizinische Biometrie/Statistik
Förderung
Förderung seit 2022
Projektkennung
Deutsche Forschungsgemeinschaft (DFG) - Projektnummer 459360854
Die jüngsten Erfolge der künstlichen Intelligenz (KI) in fast allen Forschungsfeldern werden flankiert von Methoden der erklärbaren KI (XAI), die versuchen, KI-Systeme und Black-Box-Modelle des maschinellen Lernens zu erklären. Diese Methoden haben sich in vielen Forschungsfeldern bewährt, auch bei der Anwendung auf Gesundheitsdaten. So werden XAI-Methoden beispielsweise zur Erkennung relevanter Pixelregionen in der medizinischen Bildgebung eingesetzt. Bei lebensüberspannenden Gesundheitsdaten haben wir es jedoch mit heterogenen Datenquellen mit unterschiedliche Datenstrukturen und Dimensionen, mit longitudinalen Prädiktoren, die über lange Zeiträume gemessen werden, und zeitabhängigen Ereignissen zu tun. Die Integration solcher Daten in KI-Systeme ist eine besondere Herausforderung. Ebenso herausfordernd ist es jedoch, die resultierenden Modelle zu erklären. In diesem Projekt gehen wir diese Herausforderung an, indem wir XAI-Methoden entwickeln, die Daten über die gesamte Lebensspanne verarbeiten können, einschließlich longitudinaler Prädiktoren, zeitabhängiger Ereignisse und Kombinationen verschiedener Datenquellen, die sich über die Lebenszeit verändern. Wir befassen uns sowohl mit der Interpretation, d.h. dem Verständnis eines Modells an sich, als auch mit der Erklärung, d.h. der Anwendung von Post-hoc-Methoden auf bereits trainierte Modelle. Zur Interpretation verwenden wir invertierbare neuronale Netze, die die Ausgabe des Netzes direkt mit seiner Eingabe in Beziehung setzen. Zur Erklärung entwickeln wir Methoden, die auf sog. „attributions" (z.B. gradientenbasiert), „attention mechanisms" und „loss"-basierten Methoden aufbauen. Darüber hinaus entwickeln wir Methoden zur Erzeugung sog. „Knockoffs“ für lebensüberspannenden Gesundheitsdaten mit „Normalizing Flows", mit dem Ziel hochdimensionale bedingte Variablenselektion und bedingte Unabhängigkeitstests auf solchen komplexen Daten zu ermöglichen. Zusammengefasst zielen wir darauf ab, die in der Forschungsgruppe entwickelten KI-Modelle zu erklären und zu interpretieren. Dies ist von entscheidender Bedeutung für die Forschungsgruppe und ganz allgemein für die Gesundheitswissenschaften, da es zu dem übergeordneten Ziel beiträgt, Gesundheits- und Krankheitsmechanismen zu verstehen. Darüber hinaus spielt unsere Forschung auch eine große Rolle für das Gebiet der KI allgemein, da unsere methodischen Fortschritte die KI über Gesundheitsdaten hinaus bereichern, z.B. bei der Text- oder Sprachverarbeitung.
DFG-Verfahren
Forschungsgruppen
