SCADNet - Strukturelle kausale Analyse von tiefen neuronalen Netzen

• Antragsteller: Professor Dr. Stefan Leue
• Fachliche Zuordnung: Bild- und Sprachverarbeitung, Computergraphik und Visualisierung, Human Computer Interaction, Ubiquitous und Wearable Computing ; Softwaretechnik und Programmiersprachen
• Förderung: Förderung seit 2023
• Projektkennung: Deutsche Forschungsgemeinschaft (DFG) - Projektnummer 523877739

Kausale Erklärungen, die auf der Berechnung von Gegenbeispielen und kontrafaktischen Kausalschlüssen beruhen, sind ein Eckpfeiler des Entwurfs und der Entwicklung von (sicherheits-)kritischen Software-gesteuerten Systemen (CSS). Sie sind die Grundlage für die Fehlersuche während iterativer Systementwurfszyklen, sie bilden die Grundlage der Fehlerforensik bei Rechtsstreitigkeiten und sie sind von zentraler Bedeutung für die Zertifizierung der Systemsicherheit und die gesellschaftliche Akzeptanz. In diesem Projekt konzentrieren wir uns auf CSS, die auf Entscheidungskomponenten basieren, die mit Hilfe von Machine Learning (ML) Technologie, insbesondere DeepLearning (DL), implementiert werden. Es ist allgemein bekannt, dass die Bestimmung von Erklärungen für diese Art von CSS mit erheblichen Herausforderungen verbunden ist, vor allem aufgrund des Fehlens einer leicht interpretierbaren logischen Codestruktur und, als Folge davon, der Nichtanwendbarkeit bestehender Software-Verifikationstechnologien. Wir werden neuartige strukturelle Abstraktions- und Analyseverfahren für tiefe neuronale Netze (DNNs) entwickeln, die die Berechnung von Gegenbeispielen im Kontext der spezifikationsbasierten Sicherheitsverifikation ermöglichen. Wir wenden uns dann der Erhebung kontrafaktischer Beweise für Sicherheitsverletzungen zu und schlagen weiterhin automatische Reparaturverfahren für solche DNNs vor, die spezifizierte Sicherheitseigenschaften verletzen. Wir tragen somit zur Erklärung des Verhaltens eines DNN bei. Schließlich werden wir diese Ergebnisse in den Kontext einer allgemeinen Theorie der kontrafaktischen Kausalanalyse für ML-basierte CSS stellen.

• DFG-Verfahren: Sachbeihilfen