Interpretierbare Foundation Models ohne Bias zur Rekonstruktion der Gesundheitsgeschichte aus Fundusbildern in Gambia

• Antragsteller: Professor Dr. Philipp Berens
• Fachliche Zuordnung: Medizininformatik und medizinische Bioinformatik
• Förderung: Förderung seit 2025
• Projektkennung: Deutsche Forschungsgemeinschaft (DFG) - Projektnummer 571331899

Trotz erheblicher Fortschritte hinkt Afrika bei den wichtigsten Indikatoren für Gesundheit immer noch hinter anderen Weltregionen hinterher. Künstliche Intelligenz (KI) gilt als vielversprechend, um die Gesundheitsergebnisse in Ländern mit niedrigem und mittlerem Einkommen zu und gesundheitliche Ungleichheiten abzubauen. So wurden kostengünstige, mobile Kameras entwickelt, die mit Hilfe von Deep-Learning-Algorithmen das Problem der unzureichenden Anzahl geschulter Fachkräfte entschärfen sollen. Solche Geräte können z. B. ein wirksames Screening auf Krankheiten wie diabetische Retinopathie durchführen könnten. Die meisten KI-Systeme weisen jedoch ein Potenzial für systematische Verzerrungen („Bias“) auf, da sie in der Regel auf Daten aus dem Globalen Norden trainiert wurden, während nur wenige gut annotierte, qualitativ hochwertige Datensätze aus Afrika zur Verfügung stehen. Daher können sich Verzerrungen, die während des Trainings entstehen, über den gesamten Lebenszyklus von KI-Systemen ausbreiten. Dieses Problem wird durch eine neue Klasse von Modellen, die so genannten „Foundation Models“, noch verschärft, die im Globalen Norden anhand von Millionen von Bildern und unter Einsatz umfangreicher Ressourcen trainiert wurden. In diesem Projekt wollen wir algorithmische Strategien zur Entfernung von Bias aus bestehenden „Foundation Models“ in der Augenheilkunde anhand von Fundusbildern afrikanischer Studienteilnehmer:innen bewerten und neue Algorithmen entwickeln, die inhärent interpretierbar zu machen. Zu diesem Zweck werden wir eine große Datenbank von Fundusbildern in Gambia mit mobilen Funduskameras sammeln. Wir rekrutieren die Studienteilnehmer:innen aus einer Gesundheitskohorte, was es erlaubt, die Fundusbilder mit der Gesundheitsgeschichte der Teilnehmer:innen zu verknüpfen. Gleichzeitig werden wir überwachte und nicht überwachte Methoden entwickeln, um die Verzerrungen in den Repräsentationen der bestehenden „Foundation Models“ zu bewerten und zu entfernen und verschiedene algorithmische Strategien entwickeln, um „Foundation Models“ interpretierbar zu machen. Schließlich werden wir die gesammelten Daten, das „Foundation Model“ mit minimiertem Bias und die in der Gesundheitskohorte verfügbaren Informationen verwenden, um einen „oculomics“-Ansatz zur Rekonstruktion der Gesundheitsgeschichte aus Fundusbildern zu implementieren. Unsere Hypothese ist, dass es möglich sein wird, auch Informationen über frühere schwere Episoden von Infektionskrankheiten wie Malaria oder Tuberkulose aus Fundusbildern abzuleiten. Mit dem Projekt werden wir somit einen einzigartigen afrikanischen Fundusbild-Datensatz zur Verfügung stellen, mit dem wir das Potenzial einer kostengünstigen und nicht-invasiven Technik zur Gewinnung von Gesundheitsinformationen über Einzelpersonen untersuchen können, sowie validierte Algorithmen für maschinelles Lernen zur Untersuchung und Überwindung potenzieller Verzerrungen in medizinischen „Foundation Models“.

• DFG-Verfahren: Sachbeihilfen
• Internationaler Bezug: Gambia
• ausländischer Mitantragsteller: Professor Bubacarr Bah, Ph.D.