Interfaces: Implementierung von nutzerzentrierter kommunikativer KI

• Antragsteller: Professor Dr. Rainer Malaka
• Fachliche Zuordnung: Bild- und Sprachverarbeitung, Computergraphik und Visualisierung, Human Computer Interaction, Ubiquitous und Wearable Computing ; Publizistik und Kommunikationswissenschaft
• Förderung: Förderung seit 2024
• Projektkennung: Deutsche Forschungsgemeinschaft (DFG) - Projektnummer 516511468

Mit der zunehmenden Verbreitung von Large Language Models (LLMs) und ihrer Anpassung an die Mensch-Computer-Kommunikation auf der Grundlage von menschlichem Feedback, erwarten Nutzende mehr und mehr auch eine menschenähnliche Interaktion mit kommunikativer KI. Die speziell für die Mensch-Computer-Kommunikation entwickelten Modelle haben jedoch vor allem zwei Probleme: Zum einen stützen sie sich nur auf die Daten, mit denen sie trainiert wurden, die oft verzerrt und unzureichend sind. Zweitens sind sie nur darauf ausgelegt, Texte und Antworten zu produzieren, aber es gibt keine Validierung der Gültigkeit der generierten Ausgaben während des Trainings. Es ist daher bedeutsam, dass Nutzende von kommunikativer KI wissen und dass solche Probleme ein Merkmal von LLMs sind, was bei der Implementierung und beim Design beachtet werden muss. Das Interface ist wichtig, um Nutzenden zu helfen, problematische Informationen zu identifizieren und die Qualität und Zuverlässigkeit der Datenquellen zu beurteilen. Vor diesem Hintergrund untersucht das Projekt am Beispiel von kommunikativen Bots die Gestaltung und Implementierung von Interfaces kommunikativer KI als einer Dimension ihrer soziomateriellen Konstitution. Untersucht werden die sprachlichen und paralinguistischen Merkmale von Interfaces sowie welche Implementierungsmerkmale des Designs Nutzende auf welche Art beeinflussen.

• DFG-Verfahren: Forschungsgruppen
• Teilprojekt zu: FOR 5656: Kommunikative KI: Die Automatisierung der gesellschaftlichen Kommunikation