Servicenavigation

Detailseite

Zurück

Projekt Druckansicht

EXC 3057:  Vernünftige Künstliche Intelligenz

Fachliche Zuordnung Informatik
Förderung Förderung seit 2026
Projektkennung Deutsche Forschungsgemeinschaft (DFG) - Projektnummer 533677015
 
Deep Learning (DL) hat in den letzten zehn Jahren zu bahnbrechenden Fortschritten in der künstlichen Intelligenz (KI) geführt, und trotzdem haben aktuelle KI-Systeme immer noch bemerkenswerte Schwachstellen. Zum einen erfordern sie beträchtliche Ressourcen, was zu einer Monopolstellung einiger weniger großer Unternehmen führt. Zum anderen können sie nicht logisch denken oder mit ungewohnten Situationen umgehen. Sie verbessern sich nicht kontinuierlich und müssen ständig angepasst und neu trainiert werden. Wir dürfen uns daher nicht wundern, wenn ein KI-System, das den Weltmeister im Go-Spiel besiegt, gleichzeitig leicht in eine Niederlage getrieben werden kann, oder wenn ChatGPT zwar lange Texte über komplexe Themen schreiben kann, trotzdem aber gesunden Menschenverstand vermissen lässt. Diese „unvernünftigen“ KIs scheitern nicht nur an scheinbar einfachen Aufgaben, sondern sind sogar gefährlich, wenn falsch eingesetzt. Eine brachiale Skalierung der Ressourcen repariert dies nicht – wir müssen KI im Kern neu denken und entwickeln. Der Exzellenzcluster strebt daher die Entwicklung einer neuen Generation von KI an, die wir als Reasonable Artificial Intelligence (RAI) bezeichnen: KI-Systeme, die mit einer „vernünftigen“ Menge an Ressourcen auf Basis „vernünftiger“ Datenqualität lernen; KI-Systeme, die eine „vernünftige“ Performanz zeigen, ausgestattet mit gesundem Menschenverstand, Abstraktion und der Fähigkeit, mit neuen Situationen und Kontexten umzugehen; und schließlich KI-Systeme, die auf vernünftigen Trainingsparadigmen basieren, die eine kontinuierliche Verbesserung, Interaktion und Anpassung ermöglichen. Der Cluster wird einen internationalen Leuchturm aufbauen, in dem Forscherinnen und Forscher aus verschiedenen Disziplinen in vier Research Labs zusammenarbeiten: (1) „Systemic AI“ arbeitet an neuartigen Software- und Systemmethoden, die anspruchsvolle KI- Modelle ermöglichen, die aus wiederverwendbaren, anpassungsfähigen und austauschbaren Bausteinen bestehen; (2) „Observational (OAI) AI“ denkt KI-Algorithmen von Grund auf neu und legt algorithmische Grundlagen für ein modulares Design auf allen Ebenen: Input-Modalitäten, Aufgaben, Wissen und Schlussfolgerungen; (3) „Active AI“ addressiert kontinuierliches und adaptives, lebenslanges Lernen zusammen mit aktiver Exploration der Umwelt, so dass KI-Systeme nicht ständig „umgeschult“ werden müssen, sondern sich fortlaufend verbessern und mit unbekannte Situation umgehen können; (4) „Challenging AI with Cognitive Science“ entwickelt zusammen mit der Kognitionswissenschaft kontinuierlich neue Benchmarks, um die Grenzen von KI-Ansätzen auszuloten und dem RAI-Cluster Orientierung zu geben. Zusammen arbeiten alle PIs aus den verschiedenen Labs als multidisziplinäres KI-Forschungsteam daran, aktuelle Grenzen zu überwinden, Vielfalt zu fördern und ein neues, lernzentriertes Computing zu schaffen, dass die Art und Weise, wie wir KI entwickeln und einsetzen, grundlegend verändern wird.
DFG-Verfahren Exzellenzcluster (ExStra)
Antragstellende Institution Technische Universität Darmstadt
 
 

Zusatzinformationen

© 2026 DFG Kontakt / Impressum / Datenschutz

Textvergrößerung und Kontrastanpassung