Fairness

Okt. 13, 2025

—

von

Philipp: Schweizer KI Akademie

Einfach erklärt

Fairness (KI/ML) bedeutet: Ein automatisches System soll Menschen gerecht behandeln – unabhängig von Merkmalen wie Geschlecht, Herkunft, Alter oder Behinderung.

Ganz einfache Beispiele:

• Kreditvergabe: Zwei Personen mit gleicher Zahlungsfähigkeit sollen ähnliche Chancen auf einen Kredit haben – egal, aus welcher Gruppe sie stammen.
• Bewerbungen: Bewerbungen mit gleicher Eignung sollen gleich bewertet werden – unabhängig vom Namen oder der Herkunft.
• Medizin: Patienten mit ähnlichem Risiko sollen ähnliche Priorität bekommen – unabhängig vom Wohnort.

Professionelle Definition

In der algorithmischen Fairness unterscheidet man grob Gruppen‑Fairness und individuelle Fairness:

• Gruppen‑Fairness vergleicht Kennzahlen zwischen Gruppen (definiert über sensible Merkmale). Wichtige Kriterien sind z. B.:
– Demografische Parität (statistische Parität): Die positive Vorhersagerate ist unabhängig von der Gruppenzugehörigkeit.
– Gleichgestellte Chancen (Equalized Odds / Equal Opportunity): Fehlerraten (z. B. Falsch‑Positiv/‑Negativ) oder die Trefferquote sind zwischen Gruppen gleich.
– Vorhersage‑Parität (Predictive Parity): Positive Vorhersagen sind gleich zuverlässig (z. B. gleicher PPV) in allen Gruppen.
• Individuelle Fairness: Ähnliche Personen sollen ähnlich behandelt werden (z. B. Dwork et al. – „treat similar individuals similarly“).

Trade‑offs: Es ist nicht immer möglich, mehrere Fairness‑Kriterien gleichzeitig zu erfüllen (Impossibility‑Ergebnis, z. B. Kleinberg et al.). Daher braucht es klare Zielsetzungen und transparente Abwägungen.

Praktische Ansätze zur Minderung von Verzerrungen:
• Vorverarbeitung (Pre‑processing): Daten bereinigen/umbalancieren, schützende Repräsentationen.
• Im Training (In‑processing): Fairness‑Nebenbedingungen oder Strafterme in die Optimierung einbauen.
• Nachverarbeitung (Post‑processing): Schwellen/Entscheidungen je Gruppe anpassen, um Zielkriterien zu erreichen.
• Evaluation: Ergebnisse nach Gruppen auswerten (Disparitäten), Schnittmengen betrachten (z. B. Herkunft × Alter) und Domänenwissen einbeziehen.