Trustworthy AI

Okt. 5, 2025

—

von

Philipp: Schweizer KI Akademie

1) Einfach erklärt (mit Beispielen)

Vertrauenswürdige KI heißt: KI so bauen und betreiben, dass man sich auf sie verlassen kann – sie ist fair, sicher, transparent, datenschonend und unter menschlicher Aufsicht.

Beispiele:

Bewerbungen: Das System wird auf Verzerrungen geprüft (z. B. Geschlecht, Herkunft). Ergebnisse werden überwacht und bei Auffälligkeiten angepasst.
Gesundheit: Eine Diagnose‑KI zeigt nachvollziehbare Gründe (Erklärungen) und es gibt klare Eingriffsrechte für Ärztinnen/Ärzte.
Industrie/Behörden: Vor dem Ausrollen gibt es Risikoprüfungen, Sicherheits‑/Stresstests (Red Teaming) und Dokumentation; im Betrieb Monitoring und Vorfall‑Prozesse.

Merke: Vertrauen entsteht nicht durch Marketing, sondern durch nachweisbare Qualität (Tests, Audits), klare Verantwortlichkeiten und laufende Kontrolle.

2) Professionelle Definition

Trustworthy AI umfasst Prinzipien, Anforderungen und Prozesse, die sicherstellen, dass KI‑Systeme über ihren Lebenszyklus hinweg rechtstreu, sicher, robust, fair, erklärbar, transparent und unter menschlicher Aufsicht betrieben werden – mit Rechenschaft und Dokumentation.

Leitrahmen (Kernaussagen, stark verkürzt):

EU – Ethics Guidelines for Trustworthy AI (HLEG, 2019): Drei Säulen: rechtmäßig, ethisch, technisch/sozial robust; sieben Anforderungen u. a. Human Agency & Oversight, Technische Robustheit/Sicherheit, Datenschutz & Governance, Transparenz, Diversität/Fairness, Wohlergehen/Umwelt, Rechenschaft.
NIST – AI Risk Management Framework 1.0 (2023): Eigenschaften vertrauenswürdiger KI (z. B. Valid/ Reliable, Safe, Secure/Resilient, Accountable/Transparent, Explainable/Interpretable, Privacy‑enhanced, Fair with Harm Mitigation); Funktionen Govern, Map, Measure, Manage.
ISO/IEC 23894:2023: Leitfaden zur Risikosteuerung für KI – Integration in Organisation‑RMS, Rollen/Prozesse, Kontrollen.
OECD‑KI‑Prinzipien (2019, aktualisiert): Inklusive Wachstum, menschenzentriert, Transparenz/Erklärbarkeit, Robustheit/Sicherheit, Rechenschaft.
EU‑KI‑Verordnung (AI Act): Pflichten v. a. für Hochrisiko‑KI (Risikomanagement, Datenqualität, Technische Doku, Transparenz, Human Oversight, Konformitätsbewertung).

Praktische Umsetzung (Artefakte & Kontrollen):

Daten/Modelle: Datasheets, Model Cards/System Cards, Bias‑/Fairness‑Tests (subgruppenweise), Explainability (z. B. SHAP), Sicherheits‑/Robustheits‑Tests (Adversarial/Red Teaming), Privacy by Design (z. B. Differential Privacy, Pseudonymisierung).
Prozess/Governance: Risikobewertungen (vor/nach Go‑Live), Rollen & Freigaben, Monitoring/Drift‑Kontrollen, Vorfall‑/Abschaltprozesse, Audits (intern/extern), Nutzer‑Information.