Aktuelle KI Kurse & Schulungen
Startseite > Definitionen Künstliche Intelligenz – KI Glossar, Lexikon & Begriffe > Explainable AI
6 A B C D E F G H I K L M N O P Q R S T U V W Z
Ea Ec Ed Em En Ep Es Eu Ex
Expe Expl

Explainable AI

—

von

Philipp: Schweizer KI Akademie

1) Einfach erklärt

Erklärbare KI bedeutet: Eine KI zeigt, warum sie zu einem Ergebnis kommt – in verständlicher Form für Menschen. Ziel: Nachvollziehbarkeit, Vertrauen und Fehler finden.

Beispiele:

  • Kreditentscheidung: Die KI lehnt einen Antrag ab und zeigt Hauptgründe (z. B. zu kurzes Einkommen‑Historie, hohe Ausgabenquote).
  • Medizinisches Bild: Eine Wärmekarte (Heatmap) markiert die Bildbereiche, die zur Diagnose geführt haben.
  • Industrie‑Qualitätsprüfung: Ein Modell erklärt, dass die Kratzspur links oben den Ausschuss verursacht hat (zeigt relevante Kanten/Texturen).
  • Chat‑Assistent mit Quellen: Die Antwort enthält Zitate/Links auf genutzte Abschnitte (z. B. aus einem Handbuch) – so ist der Beleg sichtbar.

Merke: Erklärungen können lokal (für eine Entscheidung) oder global (für das ganze Modell) sein. Manche Modelle sind von Haus aus besser verständlich (z. B. Entscheidungsbäume). Bei sehr komplexen Netzen nutzt man Erklär‑Werkzeuge.

2) Professionelle Definition

Explainable AI (XAI) umfasst Methoden, Modelle und Prozesse, die menschlich verständliche Gründe für Ausgaben eines KI‑Systems liefern und so Transparenz, Überprüfbarkeit und Verantwortlichkeit unterstützen.

Ansätze:

  • Intrinsische (ante‑hoc) Interpretierbarkeit: Modelle, die von Natur aus nachvollziehbar sind (lineare Modelle, Entscheidungsbäume, regelbasierte Systeme, monotone Modelle).
  • Post‑hoc‑Erklärungen: nachträgliche Erklärung komplexer Modelle (z. B. Deep Learning) durch Merkmalsbeiträge (SHAP, LIME), Saliency/Attributionskarten, Gegenfaktische Erklärungen („Was müsste sich minimal ändern, damit die Entscheidung anders ausfällt?“), Surrogat‑Modelle (vereinfachtes Erklär‑Modell), Teilabhängigkeits‑/ICE‑Plots, Prototyp‑/Beispiel‑basierte Erklärungen.

Eigenschaften/Messgrößen: Treue (Fidelity) der Erklärung zum Modell, Stabilität/Robustheit (kein großer Sprung bei kleinen Änderungen), Nutzer‑Verständlichkeit, Aufgaben‑Nützlichkeit. Grenzen: Erklärungen können vereinfachen oder irreführend sein; es braucht Evaluation (z. B. human‑grounded Tests) und Governance (Dokumentation, Audit).

Kontext: XAI wird in regulierten Bereichen (Finanzen, Gesundheit, Verwaltung) besonders gefordert; Rahmenwerke (z. B. NIST AI RMF, OECD/UNESCO‑Prinzipien, EU‑Regelwerke) betonen Nachvollziehbarkeit und Überprüfbarkeit.

Quellen