CORG - Cognitive Reasoning

• Applicants: Professor Dr. Ulrich Furbach; Professorin Dr. Claudia Schon; Professor Dr. Frieder Stolzenburg
• Subject Area: Data Management, Data-Intensive Systems, Computer Science Methods in Business Informatics ; Theoretical Computer Science
• Term: from 2017 to 2021
• Project identifier: Deutsche Forschungsgemeinschaft (DFG) - Project number 388853480

• Final Report Year: 2022

Final Report Abstract

Das Projekt CoRg – Cognitive Reasoning zielt darauf ab, Probleme des Alltagsschließens durch eine Kombination von wissensbasierten Ansätzen (insbesondere Theorembeweisen) und maschinellem Lernen (speziell neuronale Netze) zu lösen. Dabei bedeutet Cognitive Reasoning die Modellierung der menschlichen Fähigkeit, trotz unvollständigen und inkonsistenten Wissens sinnvolle Schlussfolgerungen zu ziehen, und es umfasst die (symbolische oder subsymbolische) Darstellung von Wissen. Dazu wurde ein System entwickelt, welches Multiple-Choice-Fragen beantwortet, unter anderem von Benchmarks wie COPA. Dazu ist einerseits Theorembeweisen in das System integriert und ein innovativer Ansatz entwickelt, der die gezielte Extraktion von Axiomen aus großen Wissensbasen ermöglicht, indem die Semantik der verwendeten Symbolnamen darin ausgenutzt wird. Andererseits sind moderne neuronale Netze Bestandteil des Systems. Erst sie erlauben einen flexiblen Umgang mit natürlichsprachlichen Fragen und nutzen zum einen vortrainierte Netze und zum anderen in unserem Ansatz das Wissen aus dem Theorembeweisen. Ziel ist es hier letztendlich, die Vorteile beider Welten (Wissensbasierte Systeme und Maschinelles Lernen) zu kombinieren, um Fragen des Alltagsschließens genauer zu beantworten und sogar Ansätze zur Erklärung der gefundenen Antworten zu liefern. Im Laufe der wissenschaftlichen Arbeiten hat sich allerdings bestätigt, dass jeder der beiden Ansätze für sich nicht ausreicht, um Alltagsschließen in hinreichender Genauigkeit zu realisieren. Die großen Wissensbasen enthalten nicht genügend breites Wissen, und die vortrainierten Netze benötigen bei Anwendung der heutigen Technologien des Deep Learning enorm viele Trainingsbeispiele und sind anfällig für sogenannte Biases. Allgemeine Systeme des Cognitive Computing wie UIMA haben sich als wenig geeignet erwiesen. Ein Problem beim Umgang mit natürlicher Sprache im Alltagsschließen ist die Negation, da sie die Bedeutung von Aussagen umkehren kann und teilweise auch als Hinweis ausgenutzt werden kann, um Fragen bekannter Benchmarks zu beantworten. Daher ist im Projekt ein Ansatz zum Umgang mit Negation entwickelt worden, welcher die gerade genannten Probleme der Negation löst, indem Ausdrücke mit syntaktischer Negation durch Antonyme ersetzt werden, z.B. “nicht gut” durch “schlecht”. Die Ergebnisse des CoRg-Projekts fanden großen Anklang auf wissenschaftlichen Tagungen und Workshops. Die Antragsteller selbst richteten in jedem Jahr erfolgreich den relevanten Workshop “Formal and Cognitive Reasoning” im Kontext der KI-Tagung aus. Gerade das Thema Erklärbarkeit und Biases stieß aber auch außerhalb der Informatik-Community auf breites Interesse, z.B. im Rahmen der “KI & Wir*”-Initiative, ebenso das Thema KI und Bewusstsein. Anschlussarbeiten der Projektbeteiligten werden sich daher weiter mit dem Thema Erklärbarkeit und transparenter KI befassen – weiterhin auf Grundlage der Kombination von wissensbasierten Ansätzen und dem maschinellen Lernen. Hierbei kann dem assoziativen Schließen sowie reduzierten rekurrenten neuronalen Netzen eine Schlüsselrolle zukommen.

Publications

• Reasoning and consciousness teaching a theorem prover to let its mind wander. AITP 2018, 2018
  Ulrich Furbach and Claudia Schon
  
• Cognitive reasoning: A personal view. KI, 33(3):209–217, 2019
  Ulrich Furbach, Steffen Hölldobler, Marco Ragni, Claudia Schon, and Frieder Stolzenburg
  
• Commonsense reasoning using theorem proving and machine learning. In Andreas Holzinger, Peter Kieseberg, A Min Tjoa, and Edgar Weippl, editors, Machine Learning and Knowledge Extraction – Proceedings of CD-MAKE 2019, LNCS 11713, pages 395–413, Canterbury, UK, 2019. Springer Nature Switzerland
  Sophie Siebert, Claudia Schon, and Frieder Stolzenburg
  
• Names are not just sound and smoke: Word embeddings for axiom selection. In Pascal Fonaine, editor, Automated Deduction – CADE 27, volume 11716 of LNCS, pages 250– 268, Natal, Brazil, 2019. Springer
  Ulrich Furbach, Teresa Krämer, and Claudia Schon
  
• The CoRg project: Cognitive reasoning. KI, 33(3):293–299, 2019
  Claudia Schon, Sophie Siebert, and Frieder Stolzenburg
  
• Concept contraction in the description logic EL. In Diego Calvanese, Esra Erdem, and Michael Thielscher, editors, Proceedings of the 17th International Conference on Principles of Knowledge Representation and Reasoning, KR 2020, Rhodes, Greece, September 12-18, 2020, pages 723–732, 2020
  Tjitze Rienstra, Claudia Schon, and Steffen Staab
  
• Consciousness: Just another technique? Künstliche Intell., 35(3):441–444, 2021
  Ulrike Barthelmeß and Ulrich Furbach
  
• Negation in cognitive reasoning. In Stefan Edelkamp, Ralf Möller, and Elmar Rueckert, editors, KI 2021: Advances in Artificial Intelligence - 44th German Conference on AI, Virtual Event, September 27 - October 1, 2021, Proceedings, volume 12873 of Lecture Notes in Computer Science, pages 217–232. Springer, 2021
  Claudia Schon, Sophie Siebert, and Frieder Stolzenburg
  
• Selection strategies for commonsense knowledge
  Claudia Schon