Benutzer- und Datenverzerrungen in Personenreihungssystemen

• Antragsteller: Professor Dr. Markus Strohmaier
• Fachliche Zuordnung: Datenmanagement, datenintensive Systeme, Informatik-Methoden in der Wirtschaftsinformatik
• Förderung: Förderung seit 2023
• Projektkennung: Deutsche Forschungsgemeinschaft (DFG) - Projektnummer 530081187

Bestehende Information-Retrieval-Techniken werden zunehmend für das Ranking von Personen auf verschiedenen Plattformen wie Jobportalen oder Freelance-Marktplätzen eingesetzt. Derartige Methoden wurden jedoch ursprünglich nicht für diese Zwecke entwickelt. Anders als bei der Abfrage von Dokumenten muss bei der Reihung von Personen eine mögliche Diskriminierung von Personen aufgrund von sensiblen Merkmalen wie Geschlecht, Rasse, Alter usw. Beachtung finden. Dieses Projekt zielt auf die Entwicklung von Ansätzen zur Bewertung und Kontrolle von Verzerrungen bei der Reihung von Personen in Personenreihungssystemen mit den folgenden vier Hauptzielen. Erstens wollen wir Datenverzerrungen, die während des Trainings von Modellen auftreten, messen und modellieren. Zweitens wollen wir die Verzerrungen der Nutzer messen und modellieren, die sich bei der Interaktion der Nutzer mit einem Personenreihungssystem, z.B. durch die Nutzung von Relevanz-Feedback, ergeben. Drittens wollen wir bestehende Ranking-Algorithmen und ihre Fähigkeit, mit Daten- und Nutzerverzerrungen umzugehen, bewerten. Schließlich wollen wir unsere empirischen Ergebnisse in die Entwicklung von Ansätzen einfließen lassen, die in der Lage sind, verzerrungs-kontrollierte Reihungen zu generieren und dabei Einstellungen mit oder ohne Feedback zu berücksichtigen. Wir sind überzeugt, dass unser Projekt zur Entwicklung von Systemen beitragen wird, die die Komplexität der Bewertung von Personen angemessen berücksichtigen. Die im Projekt entwickelten Methoden werden auch die weitere Forschung in Richtung fairer Ansätze für das Information Retrieval fördern.

• DFG-Verfahren: Sachbeihilfen
• Internationaler Bezug: Spanien
• Kooperationspartner: Professor Carlos Castillo, Ph.D.