Prädiktives Wissen ist Macht: Ethik und Recht kollektiver Privatheit in der Datengesellschaft

• Antragstellerinnen / Antragsteller: Professor Dr. Rainer Mühlhoff; Professorin Dr. Hannah Ruschemeier
• Fachliche Zuordnung: Praktische Philosophie ; Grundlagen des Rechts und der Rechtswissenschaft
• Förderung: Förderung seit 2025
• Projektkennung: Deutsche Forschungsgemeinschaft (DFG) - Projektnummer 559352136

Prädiktives Wissen prägt die Gesellschaft: Vorhersagen über Menschen und ihre Verhaltensweisen sind eine Hauptanwendung von Künstlicher Intelligenz (KI). Prädiktive Analytik erlaubt die Herstellung von Vorhersagemodellen aus kollektiven Daten, die Nutzer:innen digitaler Medien generieren. Aufgrund der vielfältigen Anwendungsbereiche (Werbung, Kreditvergabe, Personalführung, Daseinsvorsorge) ist die Nutzung prädiktiver Analytik zu einem strukturellen gesellschaftlichen Faktor geworden. Ihre breite Nutzung bedeutet eine Neuverteilung epistemischer Macht, die zu einem individuellen und kollektiven Verlust der Kontrolle über die Zuschreibung sozial relevanter Kategorien führt. Daraus können Privatheitsverletzungen und Diskriminierungen resultieren, die ein wachsendes gesellschaftliches Problem darstellen. Das interdisziplinäre Projekt in Zusammenarbeit von Philosophie und Rechtswissenschaft zielt auf die kritische Aufarbeitung der spezifischen Gefahren prädiktiver Wissensproduktion mittels KI und stellt die Frage, ob es vertretbar ist, Menschen aufgrund abgeschätzter persönlicher Attribute automatisiert individuell zu behandeln. Es erarbeitet eine ethische und rechtliche Konstruktion kollektiver Schutzinteressen angesichts von Vorhersagewissen und bringt effektive Regulierungsvorschläge in die Debatten zu KI-Governance und angewandter Ethik ein. Die bestehende normative Forschung zu Datenschutz, Privatheit, Biases und gesellschaftlichen Risiken von KI ist nicht auf die spezifischen Risiken prädiktiver Analytik ausgerichtet. Diese Risiken beruhen auf der Verschränkung von drei zentralen Charakteristika dieser Technologien: 1) einer temporalen Struktur der Vorwegnahme von Entwicklungen, 2) der kollektiven Ermöglichungsstruktur durch Daten zahlreicher Individuen und 3) einer neuen Manifestation informationeller Machtasymmetrie. Die theoretische Aufarbeitung dieses Zusammenhangs erfordert eine interdisziplinäre Vorgehensweise zwischen Rechtswissenschaft, Ethik, Sozialphilosophie und Technikphilosophie. Der Projektverbund gliedert sich in vier Projektbereiche (PB): PB A zielt auf eine Kartierung der relevanten Anwendungsformen prädiktiver Analytik und der damit verbundenen Abwägungsfragen aus Sicht der angewandten Ethik und im engen Austausch mit PB B. Dieser umfasst eine rechtswissenschaftliche Dissertation zu den Elementen eines prädiktiven Privatheitsschutzes im Unionsrecht, welches die im PB A erarbeiteten Anwendungskontexte aufgreift und rechtlich analysiert. Gemeinsam wird eine Taxonomie der gesellschaftlichen Risiken erstellt, die eine Anbindung an die dabei betroffenen Rechtsgüter ermöglicht, die alle PB als gemeinsame Ausgangslage unterstützt. In PB C formulieren die Antragsteller:innen eine philosophische und rechtliche Analyse der sozialen Funktion und der gesellschaftlichen Auswirkungen prädiktiven Wissens. PB D dient dem Transfer in akademische und außerakademische Kontexte und der gezielten Kommunikation der Regulierungsvorschläge.

• DFG-Verfahren: Sachbeihilfen