Nutzung von LLMs zur Generierung modularer Anomalieerkennungslösungen in der Automation

• Antragsteller: Professor Dr.-Ing. Alexander Fay; Professor Dr. Oliver Niggemann
• Fachliche Zuordnung: Automatisierungstechnik, Mechatronik, Regelungssysteme, Intelligente Technische Systeme, Robotik
• Förderung: Förderung seit 2025
• Projektkennung: Deutsche Forschungsgemeinschaft (DFG) - Projektnummer 559936667

Die Ingenieurwissenschaften stellen spezifische Anforderungen an die Künstliche Intelligenz (KI): Neben allgemeinen Anforderungen an Zuverlässigkeit und andere Entwicklungsprozesse besteht der Hauptunterschied in der geringen verfügbaren Datenmenge (Small Data statt Big Data), insbesondere einer geringen Menge von Daten über außergewöhnliche Systemzustände. In der KI ist die etablierte Lösung hierfür die Nutzung von Vorwissen. In diesem Antrag wird dies anhand der Verbesserung der Anomalieerkennung in Produktionsanlagen untersucht. Vorwissen kann in zwei Kategorien unterteilt werden: Wissen über die Struktur und Wissen über die Dynamik des untersuchten Systems. Vorarbeiten, insbesondere auch der Antragsteller, haben gezeigt, dass neuronale Netze effizienter arbeiten, wenn sie die Systemstruktur widerspiegeln. Obwohl die Systemstruktur oft grob bekannt ist und es formale Modelle zu ihrer Beschreibung gibt, liegt sie in der Praxis selten in ausreichend formalisierter Weise vor. Verschiedene aktuelle Arbeiten sowie Untersuchungen beider Antragsteller haben gezeigt, dass Large Language Models (LLMs) wie z. B. ChatGPT oder Claude in der Lage sind, Strukturmodelle und Modularisierungen aus wenig bis gar nicht formalisierten Systembeschreibungen oder Dokumentationen zu generieren. Die bisherigen Arbeiten dazu führten jedoch zu Ergebnissen sehr unterschiedlicher Qualität. Die Gründe hierfür sind noch nicht bekannt. Eine in diesem Vorhaben zu bearbeitende Forschungsfrage ist, was die Determinanten für die Erstellung ausreichend guter Strukturmodelle mithilfe von LLMs sind. Aktuelle Forschungsarbeiten haben gezeigt, dass neuronale Netze für die Anomalieerkennung innerhalb einzelner Module des Systems robuster im Sinne definierter Robustheitskriterien arbeiten, wenn Vorwissen über die Dynamik des Prozesses verwendet wird. Physics-informed neural networks (PINNs) sind ein etablierter Ansatz, um Vorwissen einzubringen, falls die gewöhnlichen Differentialgleichungen (ODEs) bekannt sind. Leider sind diese ODEs zumeist nicht in der Systembeschreibung oder in den vorhandenen Simulationsmodellen der Module enthalten. Aktuelle Forschungsarbeiten legen jedoch nahe, dass auch solche ODEs in vielen Fällen mithilfe von LLMs generiert werden können. Eine weitere Forschungsfrage des beantragten Vorhabens ist die Erstellung ausreichend guter Dynamikmodelle mithilfe von LLMs. Durch die oben beschriebene Modularisierung wird das Problem handhabbar, da Module (anders als ganze Systeme) generischer und daher für das LLM bekannter sind. In diesem Antrag werden LLMs daher zuerst zur Generierung eines Strukturmodells (inkl. der Modularisierung) genutzt, um anschließend ebenfalls, pro Modul, die für PINNs notwendigen und die Dynamik beschreibenden Gleichungen zu generieren. Der Ansatz wird anhand des Anwendungsfalls der Anomalieerkennung in verschiedenen Produktionsanlagen evaluiert. Dieser Evaluierungsansatz erfolgt dabei in drei Phasen mit wachsenden Systemkomplexitäten.

• DFG-Verfahren: Sachbeihilfen