Aktuelle KI Kurse & Schulungen
Startseite > Definitionen Künstliche Intelligenz – KI Glossar, Lexikon & Begriffe > Bias
6 A B C D E F G H I K L M N O P Q R S T U V W Z
Ba Be Bg Bi Bl Bo Br Bü By

Bias

—

von

Philipp: Schweizer KI Akademie

Einfach erklärt

Bias in KI heißt Voreingenommenheit/Verzerrung. Eine KI bevorzugt oder benachteiligt ungewollt bestimmte Gruppen oder macht systematische Fehler – oft, weil die Trainingsdaten unausgewogen oder fehlerhaft sind. Für organisatorische Leitplanken und Prüfprozesse siehe Datenschutz & Compliance.

Beispiele:

  • Gesichtserkennung: Das System erkennt helle Gesichter besser als dunkle → ungerechte Fehlalarme. Ursache: unausgewogene Datensätze.
  • Kredit‑/Bewerbungs‑Scoring: Ein Modell gibt bestimmten Postleitzahlen oder Bildungspfaden schlechtere Chancen, weil es historische Muster lernt, die Diskriminierung enthalten.
  • Sprachmodelle: Antworten enthalten Stereotype (z. B. Beruf = bestimmtes Geschlecht), wenn die Trainingsdaten solche Muster zeigen. Praxisnahe Beispiele & Gegenmaßnahmen findest du in den KI‑Use‑Cases.

Merke: Bias entsteht nicht nur im Training, sondern auch durch Messfehler, Label‑Fehler, Problem‑Design oder Optimierungsziele.

Professionelle Definition

Algorithmischer Bias bezeichnet systematische Verzerrungen in Daten, Modellen oder Entscheidungen von algorithmischen Systemen, die zu ungleicher Behandlung oder Fehlerverschiebungen über Subgruppen führen. Typische Bias‑Quellen: Historischer Bias (gesellschaftliche Verzerrung spiegelt sich in Daten), Sampling‑/Repräsentations‑Bias, Label‑Bias, Mess‑/Instrumenten‑Bias, Optimierungs‑Bias (z. B. rein auf Gesamtexaktheit getrimmte Ziele), Deployment‑/Shift‑Bias (Datenverschiebungen).

Messung: Subgruppen‑Metriken (z. B. Fehlerraten pro Gruppe), Fairness‑Kriterien (u. a. Demographic Parity, Equalized Odds, Equal Opportunity).

Minderung (Pre‑/In‑/Post‑Processing): Daten‑Balance/Re‑Weighting, gezielte Sammlung unterrepräsentierter Fälle, fairness‑bewusste Lernziele (z. B. adversariales Debiasing), Kalibrierung/Threshold‑Anpassung, Audits. Für die Einbettung in Prozesse (HITL‑Freigaben, Richtlinien, Monitoring) eignen sich KI‑Agenten & Workflows.

Governance: Dokumentation (Datasheets for Datasets, Model Cards), Transparenz, Human‑in‑the‑Loop, Monitoring nach dem Rollout. Der EU AI Act verlangt für Hochrisiko‑Systeme u. a. Daten‑/Datenqualitäts‑Pflichten und Risikomanagement, um Bias zu reduzieren.

Quellen