Fairness in Federated Learning

• Antragsteller: Marco Fisichella, Ph.D.
• Fachliche Zuordnung: Künstliche Intelligenz und Maschinelle Lernverfahren ; Rechnerarchitektur, eingebettete und massiv parallele Systeme
• Förderung: Förderung seit 2025
• Projektkennung: Deutsche Forschungsgemeinschaft (DFG) - Projektnummer 560213035

Das Projekt "Fairness in Federated Learning" adressiert die speziellen Herausforderungen für Fairness in Federated Learning (FL)-Systemen. Diese Systeme ermöglichen es, ML-Modelle zu entwickeln, ohne Rohdaten zwischen verschiedenen Nutzern oder Organisationen auszutauschen. Die lokalen, oft nicht identisch verteilten (non-IID) Datensätze stellen eine Herausforderung für die Gewährleistung der Fairness sowohl auf der Client-Seite als auch auf der Server-Seite dar. Im Gegensatz zu traditionellen Maßnahmen, die häufig auf statistischen Techniken beruhen, wollen wir durch die Integration kausaler Ansätze die Beziehungen zwischen sensiblen Attributen (wie Geschlecht oder Ethnizität) und den Vorhersagen des Modells identifizieren, um die Entwicklung gerechterer FL-Modelle zu erleichtern. Ein weiterer Schwerpunkt liegt auf der Verbesserung des Datenschutzes in FL-Systemen. Während FL die Benutzerdaten von Natur aus schützt, indem nur Modellaktualisierungen und keine Daten geteilt werden, bleiben Datenschutzrisiken bestehen, insbesondere durch potenzielle Angriffe. Das Projekt wird untersuchen, wie kausale Methoden den Datenschutz über konventionelle Techniken wie Differential Privacy hinaus verbessern können. Zusätzlich werden wir untersuchen, wie multiple sensible Attribute in FL-Modellen berücksichtigt werden können. Aktuelle Forschung konzentriert sich oft auf einzelne sensible Attribute und vernachlässigt die Komplexität realer Szenarien, in denen Individuen mehrere sensible Merkmale besitzen können. Innerhalb dieses Antrags sollen neue Metriken und Strategien zur Minderung von Vorurteilen entwickelt werden, die mehrere sensible Attribute berücksichtigen und die Anwendbarkeit und Generalisierbarkeit von Fairnesslösungen verbessern.

• DFG-Verfahren: Sachbeihilfen