Kurzvita

Timnit Gebru ist Informatikerin und eine der prägenden Stimmen für Fairness, Transparenz und Rechenschaft in der KI.
Sie ist Gründerin und Executive Director des Distributed Artificial Intelligence Research Institute (DAIR) (seit 2021)
und Mitgründerin von Black in AI (seit 2017). Zuvor forschte sie bei Microsoft Research (FATE) und war Co-Leiterin des
Ethical-AI-Teams bei Google.

Warum bekannt – Beiträge & Erfindungen

• „Datasheets for Datasets“ (2018): Vorschlag für standardisierte Datenblätter, um Datensätze systematisch bzgl. Herkunft,
  Zusammensetzung, Nutzungszweck und Risiken zu dokumentieren – als Basis für Accountability in ML-Pipelines.
  arXiv.
• „Gender Shades“ (2018, mit Joy Buolamwini): Empirischer Nachweis starker intersektionaler Fehlerraten bei
  kommerziellen Gender-Klassifikationssystemen – besonders bei dunkelhäutigen Frauen – und Impuls für Fairness–Benchmarks.
  PMLR-Seite ·
  PDF.
• „On the Dangers of Stochastic Parrots“ (FAccT 2021): Grundsatzpapier zu Risiken sehr großer Sprachmodelle (z. B. Ressourcenverbrauch,
  Trainingsdaten-Voreingenommenheit, Desinformation) und zu notwendigen Governance-Maßnahmen.
  ACM ·
  PDF.
• Community-Aufbau: Mitgründung von Black in AI und Gründung von DAIR als unabhängigem, community-rooted Institut,
  das Big-Tech-Einfluss in der KI-Forschung ausbalancieren will.
  Black in AI ·
  DAIR (Überblick).

Wirkung: Gebrus Arbeiten haben Fairness-Prüfung, Datendokumentation und gesellschaftliche Folgenabschätzung in der KI
institutionalisiert – von konkreten Audits („Gender Shades“) bis zu methodischen Standards („Datasheets“) und
Grundsatzdebatten („Stochastic Parrots“). Damit prägte sie Forschung, Industrie-Standards und Policy-Diskurse gleichermaßen.

Historischer Kontext (Meilensteine)

• 2017: Mitgründung Black in AI.
• 2018: Veröffentlichung von Datasheets for Datasets und Gender Shades.
• 2020: Kontroverse um ihr Ausscheiden bei Google im Umfeld des „Stochastic Parrots“-Papers.
• 2021: Gründung des DAIR Institute.

Wichtige Beiträge (Kurzfassung)

• Standardisierung von Datendokumentation (Datasheets) & Stärkung von Fairness-Audits.
• Empirische Evidenz für Bias in kommerziellen Gesichtssystemen (Gender Shades).
• Weichenstellungen für Governance großer Sprachmodelle (Stochastic Parrots).
• Community-Building: Black in AI & DAIR.

Literatur (Auswahl)

• Datasheets for Datasets. arXiv, 2018 (Gebru et al.).
  PDF
• Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification. FAT*/PMLR, 2018 (Buolamwini, Gebru).
  PDF
• On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? FAccT, 2021 (Bender, Gebru, McMillan-Major, Mitchell).
  ACM ·
  PDF

Weiterführende Links

• Wikipedia – Überblick
• DAIR – Überblick
• Black in AI – Website

Bildlizenz

Dieses Porträt nutzt ein Bild unter CC BY 2.0. Bitte die Namensnennung „TechCrunch (Kimberly White)“ und den Lizenzhinweis beibehalten.

Bild herunterladen:
Direkter Download (JPG, 2330×3099) ·
Dateiseite auf Wikimedia Commons