Normen und normative Erwartungen in algorithmischen Entscheidungsunterstützungssystemen

• Antragstellerinnen / Antragsteller: Dr. Ruben Bach; Professorin Dr. Frauke Kreuter
• Fachliche Zuordnung: Empirische Sozialforschung
• Förderung: Förderung seit 2024
• Projektkennung: Deutsche Forschungsgemeinschaft (DFG) - Projektnummer 537661468

Die Popularität von Algorithmen, Big Data und künstlicher Intelligenz (KI) in vielen Bereichen des täglichen Lebens hat zunehmend Debatten über die Rolle von Normen in algorithmischen Systemen ausgelöst. Insbesondere bestehen Bedenken hinsichtlich der Verletzung von Fairnessnormen durch algorithmische Systeme. Fragen zur Autorität von algorithmischen Empfehlungen gegenüber Entscheidungsträgern finden gleichsam ihren Weg in öffentliche Debatten. Die Auswirkungen von Algorithmen und KI lassen sich nur dann vollständig erfassen, wenn die sozio-kulturellen Kontexte berücksichtigt werden. Dies gilt insbesondere für den Arbeitsplatz, wo algorithmische Entscheidungsunterstützungssysteme bereits Einzug gefunden haben: Entscheidungen in Personalauswahl, Lohnfestlegung, Karriereentwicklung und Kündigung werden teils mit Unterstützung von Algorithmen getroffen. Die Akzeptanz solcher Systeme hängt von den vorherrschenden sozialen Normen in einer Organisation ab. In diesem Projekt werden wir unsere Aufmerksamkeit deshalb auf die Rolle von Normen in algorithmischen Entscheidungsunterstützungssysteme (algorithmic decision support systems, ADSSs) in Arbeitgeber-Arbeitnehmer-Beziehungen richten. Insbesondere wollen wir die normativen Erwartungen von Arbeitnehmern und Arbeitgebern bezüglich des Einsatzes von ADSSs am Arbeitsplatz untersuchen. Hierbei interessiert uns, welche Normen diese Systeme berücksichtigen sollten und wie Beschäftigte mit und ohne Vorgesetztenfunktion auf algorithmische Entscheidungen reagieren, die diese Normen verletzen. Durch Surveystudien untersuchen wir die Erwartungen auf Arbeitnehmer- und Arbeitgeberseite gegenüber solchen Systemen. Mittels Surveyexperimenten wollen wir zudem kausale Evidenz bezüglich der Reaktion auf Normverletzungen und bezüglich der Rolle von technologischem Verständnis auf die Akzeptanz solcher Systeme gewinnen. Mit unserem Projekt erlangen wir interdisziplinäres Wissen bezüglich der gesellschaftlichen Auswirkungen von Algorithmen und künstlicher Intelligenz. Die bisherige Forschung konzentriert sich in der Informatik und fokussiert technische Aspekte von Algorithmen. Damit sind diese Aspekte zwar bestens abgedeckt, der soziokulturelle Kontext inklusive einer theoriegestützten Berücksichtigung sozialer Normen und normativer Strukturen bleibt jedoch außen vor. Mit unserem Ansatz zur Konzeptualisierung und Messung der Wahrnehmung von ADSSs und ihrer normativen Grundlagen wollen wir deshalb diese Lücke füllen, um Wissenschaft und Öffentlichkeit sowie denjenigen, die ADSSs entwickeln und nutzen, zu helfen, die Auswirkungen und die Akzeptanz solcher Systeme zu verstehen.

• DFG-Verfahren: Sachbeihilfen
• Mitverantwortlich: Professor Dr. Tobias Wolbring