Forschung an Echtzeit-Compliance-Mechanismen für die KI

• Antragsteller: Professor Dr. Adrian Paschke
• Fachliche Zuordnung: Datenmanagement, datenintensive Systeme, Informatik-Methoden in der Wirtschaftsinformatik
• Förderung: Förderung seit 2020
• Projektkennung: Deutsche Forschungsgemeinschaft (DFG) - Projektnummer 442583532

Unser Ziel ist es die Verlässlichkeit von Künstlicher Intelligenz (KI) durch Implementierung eines Mechanismus zur Überprüfung der Einhaltung juristischer und ethischer Normen in Echtzeit zu gewährleisten. Unser Beitrag ist hier ein Konformitätsprüfmechanismus, der Rechtsnormen als zu erfüllende, harte Grenzen und ethische Normen als soweit wie möglich zu erfüllende, weiche Bedingungen versteht. Diese Kombination aus multiplen Normkonformitäten in Echtzeit wurde bis jetzt noch nicht untersucht und ist einer der Innovationen in diesem Projekt. Wir bewahren dabei die Echtzeitskalierbarkeit durch die Einführung von partiellen Auswertungsmechanismen für die Ausführungslogik eines KI Agenten, welche juristische Normen überprüft und ethische Normen durch spekulative Berechnung gleich mehrerer möglicher Vergleichssequenzen für diese weichenNorm vergleicht. Während offline Konformitätsprüfungen der Rechtslage bereits vielfach untersucht wurden, werden online Normenprüfungen nur von wenigen Forschern und nicht im Zusammenhang mit der Verletzung von weichen ethischen Normen erforscht, die dann zusätzliche online Revisionen benötigen. Wir untersuchen hier "Online Belief Revision" Methoden inspekulativen Berechnungen von weichen Normen und wenden diese auf die Revision von Normen an. Laut unseres Wissen wird dies erstmalig für online Normenrevision in Echtzeitanwendungen von KI gemacht. Das japanische Team arbeitet seit langem am juristischen Schlussfolgern und offline Überprüfungsmechanismen der Gesetzeskonformität mit einer Repräsentationssprache genannte PROLEG (PROLOG based LEGal reasoning system). Das französische Team arbeitet an der Formalisierung von Ethik inLogik und entwickelt ein Framework auf Basis des "Event Calculus", welches unterschiedliche Variationen ethischer Normen im zeitlichen Verhalten von KI Agenten repräsentiert. Das deutsche Team arbeitet an Wissensrepräsentationsprobleme wie aspekt-orientierter (Metadaten) Wissensmodellierung und der Schlussfolgerung mit Aspektsichten (scoped reasoning). Sie habe Werkzeuge und Standards zur Repräsentation von normativen Regeln entwickelt, die wir im Projekt nutzen und erweiternwerden. Im Projekt werden wir ein gemeinsames System entwickeln, welches vielfältige Normen, wie juristische und ethische, gleichzeitig in Echtzeit behandeln kann. Zur Erreichung dieses Ziels ist die Zusammenarbeit der drei Teams essentiell. Darüber hinaus erwarten wir, dass die Kombination aus juristischen und ethischen Normen einen höchst interessantenInteraktionsdiskurs anstoßen und zu neuen Forschungsthemen und einem tieferen Verständnis von normativen Schlussfolgerungen führen wird. Die Ergebnisse dieses Projektes werden dazu beitragen, dass KI ein verlässlichere Entität und ein guter Partner von Menschen in den nächsten Jahren werden wird.

• DFG-Verfahren: Sachbeihilfen
• Internationaler Bezug: Frankreich, Japan
• Partnerorganisation: Agence Nationale de la Recherche / The French National Research Agency; Japan Science and Technology Agency; JST
• Kooperationspartner: Professor Jean-Gabriel Ganascia; Professor Ken Satoh