SDeCopilot: Unterstützung von Entwicklern bei der Erstellung korrekter Software mit Debugging-Agenten

• Antragsteller: Dr. Cedric Richter
• Fachliche Zuordnung: Softwaretechnik und Programmiersprachen ; Künstliche Intelligenz und Maschinelle Lernverfahren
• Förderung: Förderung seit 2025
• Projektkennung: Deutsche Forschungsgemeinschaft (DFG) - Projektnummer 571455992

Softwareentwickler verlassen sich zunehmend auf KI-basierte Programmierassistenten, um alltägliche Programmieraufgaben zu erledigen. Obwohl dies einen erheblichen Produktivitätsschub verspricht, deuten aktuelle Studien darauf hin, dass der Einsatz von KI-Codierassistenten auch zu einer deutlich höheren Anzahl von Softwarefehlern im Code führen könnte. Softwareentwickler sind daher oft mit der Behebung von KI-generierten Fehlern geplagt, was die Aufgabe, korrekte und zuverlässige Software zu erstellen, noch schwieriger macht als zuvor. Diese Beobachtung wirft die Frage auf, ob wir KI tatsächlich nutzen können, um Softwareentwickler bei der Erstellung korrekter und zuverlässiger Softwaresysteme zu unterstützen. Wir sehen ein Potenzial für die Beantwortung dieser Frage in der Intersection von KI und traditionellen Software-Engineering-Methoden (SE). Jüngste Erkenntnisse deuten darauf hin, dass KI-Systeme verifizierbare Aussagen über Code generieren können, wie z. B. potenzielle Kandidaten für Testspezifikationen, Schleifeninvarianten oder Funktionsverträge. Auch wenn diese Aussagen nicht unbedingt korrekt sind, können sie dennoch als wertvoller Ausgangspunkt für die Aufdeckung von Inkonsistenzen oder unerwartetem Verhalten dienen. Traditionelle SE-Methoden wie Fuzzing, Testen, formale Verifikation oder statische Analyse sind effektiver, wenn es darum geht, zuverlässige Einblicke in das Programmverhalten zu erhalten. Um fehlerhaftes Verhalten zu finden, benötigen diese Methoden jedoch häufig eine Art Korrektheitsspezifikation, die in der Regel von einem Softwareentwickler bereitgestellt wird. Diese Abhängigkeit von menschlichen Spezifikationen stellt einen Engpass dar, den KI wahrscheinlich durch das Vorschlagen plausibler Spezifikationskandidaten beheben könnte. Diese Kandidaten können dann von traditionellen SE-Methoden verwendet werden, um potenzielle Inkonsistenzen oder Softwarefehler zu identifizieren. In diesem Walter-Benjamin-Projekt wollen wir systematisch erforschen, wie die Fähigkeiten moderner KI-Systeme effektiv mit traditionellen SE-Methoden zur automatischen Fehlererkennung und Programmreparatur kombiniert werden können. Letztendlich stellen wir uns einen neuartigen Software-Debugging-Copiloten (SDeCopilot) vor, ein KI-Debugging-System, das bestehende SE-Methoden nutzt, um autonom (1) gegebene Code-Repositories zu scannen, potenzielle Probleme (z. B. Inkonsistenzen mit bestehendem Code oder Dokumentation) zu erkennen und zu melden und (2) Korrekturen für die erkannten Probleme vorzuschlagen.

• DFG-Verfahren: WBP Stelle