Sichere ERP-Systeme durch LLM-basierte Aufdeckung von Fraud

• Antragsteller: Professor Dr. Bernd Scheuermann
• Fachliche Zuordnung: Datenmanagement, datenintensive Systeme, Informatik-Methoden in der Wirtschaftsinformatik ; Künstliche Intelligenz und Maschinelle Lernverfahren ; Sicherheit und Verlässlichkeit, Betriebs-, Kommunikations- und verteilte Systeme
• Förderung: Förderung seit 2025
• Projektkennung: Deutsche Forschungsgemeinschaft (DFG) - Projektnummer 554438972

Die weit verbreitete Nutzung von IT-Systemen zur Verwaltung von Unternehmensprozessen eröffnet vielfältige Angriffspunkte für betrügerisches Verhalten, welches negative Auswirkungen auf das Unternehmensergebnis mit sich bringt. Mitarbeiter, die aufgrund ihrer Position im Unternehmen und ihrer persönlichen Fähigkeiten Angriffe verüben können, verursachen signifikanten wirtschaftlichen Schaden. Die Association of Certified Fraud Examiners beziffert diesen Schaden auf ungefähr fünf Prozent des jährlichen Umsatzes eines Unternehmens. Um dem entgegenzuwirken, sind Maßnahmen zur Prävention und Detektion von Risiken und Betrug notwendig. In einer sich stetig verändernden digitalen Umwelt ist es naheliegend, maschinelles Lernen (ML) zur Betrugserkennung einzusetzen. Dies bietet die Möglichkeit, Risiken und Betrugsfälle zu identifizieren, welche nicht mit den gängigen Risikobewertungsregeln erfasst werden können. ML wird bereits erfolgreich zur Fraud-Detektion in Bereichen wie Kreditkarten- und Versicherungsbetrug eingesetzt. ERP-Systeme, insbesondere von SAP, erfassen umfangreiche Geschäftsdaten, die zur Betrugserkennung genutzt werden können. Eine zentrale Herausforderung besteht jedoch darin, dass Unternehmen reale Daten nur ungern zur Verfügung stellen. Gleichzeitig sind synthetische Daten oft nicht realitätsnah oder decken nicht alle relevanten Geschäftsbereiche ab. Das Erkenntnistransferprojekt SeLLMa adressiert diese Problematik mit drei Zielen: (1) Erzeugung realitätsnaher SAP-Fraud-Daten: Mithilfe von LLM-basierten Software-Agenten sollen in einem SAP-System sowohl legitime als auch betrügerische Geschäftsprozesse simuliert werden. Dies ermöglicht die Erstellung einer realistischen Benchmark-Bibliothek, die öffentlich zugänglich ist und zur Entwicklung sowie objektiven Bewertung von Fraud-Detektionsverfahren dient. (2) Fraud-Detektion durch LLM-basierte Datenanalyse: SeLLMa erforscht das Potenzial von generativer KI und Datenanalyse zur Detektion von Fraud. LLMs können Muster erkennen, Benutzerähnlichkeiten analysieren und Geschäftsprozesse bewerten, um so potenzielle Fraud-Fälle zu identifizieren. Zusätzlich wird die Kombination aus traditionellen ML-Techniken und LLM-basierten Ansätzen zur Fraud-Detektion untersucht. (3) Chatbot-basierte Fraud-Verifikation: Ein Chatbot soll die Verifikation von Betrugsverdachtsfällen erleichtern, indem er relevante SAP-Daten identifiziert und diese im Kontext des Geschäftsprozesses darstellt. Durch die Integration von Wissen zu SAP-Prozessen und Berechtigungskonzepten kann das LLM den Nutzer bei der Verifikation eines Verdachtsfalles unterstützen. Die Zusammenarbeit der Hochschule Karlsruhe und der Pointsharp GmbH in SeLLMa ermöglicht eine fundierte wissenschaftliche Untersuchung der Eignung von LLMs zur Fraud-Detektion und Verifikation und einen Transfer der Erkenntnisse in die Praxis.

• DFG-Verfahren: Sachbeihilfen (Transferprojekt)
• Anwendungspartner: Pointsharp GmbH