Guided-Unlearning von kognitiven Fallstricken im georeferenzierten Social-Sensing

• Antragstellerin: Professorin Dr.-Ing. Liqiu Meng
• Fachliche Zuordnung: Geodäsie, Photogrammetrie, Fernerkundung, Geoinformatik, Kartographie
• Förderung: Förderung seit 2022
• Projektkennung: Deutsche Forschungsgemeinschaft (DFG) - Projektnummer 491363672

Social-Media-Plattformen haben einen wesentlichen Beitrag zur Entwicklung von Social-Sensing und zur Generierung und Verbreitung großer Geodaten für wissenschaftliche Forschung und Anwendungen in der Wirtschaft, Politik und Gesellschaft geleistet. Gleichzeitig sind sie aber auch zum Nährboden für Missbrauch, Manipulation, Fake- oder Verschwörungstheorien geworden. Der derzeitige Forschungsschwerpunkt liegt vor allem auf der Gewinnung neuen Wissens und weniger auf der Reflexion von Fehlern in den Daten und in den Köpfen der Menschen. Dieses Vorhaben befasst sich mit den durch Verzerrungen verursachten kognitiven Fallstricken im Social Sensing. Für ausgewählte Anwendungsszenarien von georeferenzierten Social-Media-Daten über die Covid-19-Pandemie und den Klimawandel wird eine interaktive Plattform zum Guided-Unlearning von kognitiven Verzerrungen entwickelt und prototypisch umgesetzt. Unlearning ist eine radikale Methode des Lernens. Im Gegensatz zum konventionellen Lernen, das auf der Wissensakkumulation beruht, basiert ein Unlearning-Prozess auf der bewussten Subtraktion von etwas Unerwünschtem, das bereits vorhanden ist, entweder angeboren oder erlernt. Das Unlearning ist oft kontra-intuitiv und daher kognitiv anspruchsvoll. Es gibt weder ein vorgefertigtes allgemeines Rezept noch einen empirisch umsetzbaren technischen Weg. Das Projekt hat drei Ziele: (1) Verbesserung der Transparenz in Bezug auf die Wertschöpfungskette des georeferenzierten Social Sensing. Es sollen ethisch zulässige Mechanismen entwickelt werden, um zu erklären, wie Social-Media-Daten über ein bestimmtes Phänomen für einen bestimmten Zweck erstellt, georeferenziert, verarbeitet, verbreitet und geteilt werden und wer in welcher Phase des Datenflusses beteiligt ist. (2) Unterstützung des ganzheitlichen Verständnisses der Benutzer für kognitive Verzerrungen bei georeferenziertem Social Sensing. Es wird ein Guided-Unlearning-Ansatz zusammen mit einer Reihe von visuell-analytischen Werkzeugen entwickelt und getestet. Er ermöglicht es den Nutzern, ein mentales Bild davon zu bekommen, wo und welche kognitiven Verzerrungen sich einschleichen können und wie diese Verzerrungen zu irreführenden Fallstricken in unsicheren und komplexen Situationen werden können.(3) Beurteilung der Fähigkeit der Benutzer zum kritischen Denken nach dem Training des Guided-Unlearning. Eine Reihe von Experimenten dazu wird für ausgewählte Szenarien der realen Welt gestaltet und mit Testdaten durchgeführt. Wir werden vorläufige Ergebnisse sammeln und/oder neue Fragen aufwerfen, wobei wir uns auf zwei Arten von Vergleichen stützen: zwischen untrainierten Benutzerlösungen und Benchmark-Lösungen und zwischen untrainierten und trainierten Benutzerlösungen.

• DFG-Verfahren: Sachbeihilfen