Sprachmodelle verstehen mittels resourcen-optimaler Analyse: Implizites Bayes'sches pragmatisches Schlussfolgern & emergente kausale Weltmodelle

• Antragsteller: Professor Dr. Michael Franke
• Fachliche Zuordnung: Angewandte Sprachwissenschaften, Computerlinguistik ; Allgemeine und Vergleichende Sprachwissenschaft, Experimentelle Linguistik, Typologie, Außereuropäische Sprachen ; Theoretische Philosophie
• Förderung: Förderung seit 2026
• Projektkennung: Deutsche Forschungsgemeinschaft (DFG) - Projektnummer 579368432

Dieses Projekt verbindet Erkenntnisse aus der linguistischen Pragmatik, der analytischen Philosophie und der Literatur zur Kausalinferenz aus der Statistik, um zu untersuchen, inwiefern Sprachmodelle in einem menschähnlichen Sinn als verstehend bezeichnet werden können. Mit dem Ziel verallgemeinerbarer und dauerhafter Ergebnisse strebt das Projekt sowohl harte formale Resultate als auch allgemeingültige konzeptuelle Argumente an. Zu diesem Zweck schlägt es eine ressourcen-optimale Analyse vor, die Sprachmodelle als optimierte Lösungen zur Vorhersage des nächsten Tokens unter Berücksichtigung ihrer architektonischen Beschränkungen begreift. Aufbauend auf neueren Explikationen des Begriffs „Verstehen“ anhand (kausaler) Abhängigkeitsmodelle behandelt das Projekt die Leitfrage nach Sprachverständnis in Sprachmodellen als ein Problem der kausalen latenten Variablenrekonstruktion, wie sie aus Statistik und maschinellem Lernen bekannt ist. Da erfolgreiche Modelle probabilistischen pragmatischen Schließens pragmatisches Sprachverständnis jüngst mit bayesianischem Schließen über den „Sprachgenerierungsprozess“ gleichsetzen, untersucht das Projekt insbesondere, unter welchen Bedingungen Sprachmodelle ein solches bayesianisches pragmatisches Schließen in menschähnlicher Weise implizit in ihren internen Berechnungen approximieren. Methodisch stützt sich das Projekt auf formale Modellierung, mathematische Beweise (wo möglich), interventionistische Simulationsstudien und philosophische Analyse.

• DFG-Verfahren: Schwerpunktprogramme
• Teilprojekt zu: SPP 2556: Robuste Beurteilung und sichere Anwendung von Sprachmodellen: Grundlagen für ein neues Feld zwischen Sprachwissenschaft & -technologie (LaSTing)