Entscheidungsfindung durch KI

Okt. 6, 2025

—

von

Philipp: Schweizer KI Akademie

1) Einfach erklärt

Entscheidungsfindung durch KI bedeutet: Computer treffen Vorschläge oder Entscheidungen auf Basis von Daten und Modellen. Die KI analysiert Muster und wählt eine Aktion (z. B. „freigeben“, „prüfen“, „ablehnen“) oder gibt eine Empfehlung.

Beispiele:

Betrugserkennung: Eine Zahlung wird als unauffällig oder verdächtig markiert → ggf. zusätzliche Prüfung.
Qualitätskontrolle: Bild‑KI entscheidet, ob ein Bauteil in Ordnung ist oder ausgeschleust wird.
Personalisierung: Ein System entscheidet, welches Produkt oder welche Nachricht einem Kunden angezeigt wird.
Robotik: Ein Roboter wählt Greifpunkt und Weg, um ein Objekt sicher aufzunehmen.

Wichtig: Gute Systeme zeigen Begründungen/Erklärungen, Unsicherheit und lassen Menschen eingreifen (Human‑in‑the‑Loop), besonders bei wichtigen Folgen.

2) Professionelle Definition

KI‑Entscheidungsfindung ist die algorithmische Ableitung einer Aktion/Empfehlung aus Eingaben xxx gemäß einer Entscheidungsregel/Politik π(a∣x)\pi(a\mid x)π(a∣x), optimiert nach einem Ziel (z. B. Nutzen/Reward, Kosten, Fehlermaß), unter Nebenbedingungen (z. B. Fairness, Risikogrenzen, Compliance). Sie umfasst:

A) Paradigmen

Regelbasierte Systeme/Entscheidungsbäume (transparent, domänenspezifisch).
Überwachtes Lernen (Klassifikation/Regression) mit kosten‑sensitiven Verlusten und Kalibrierung.
Reinforcement Learning (MDP/POMDP): Politik maximiert erwarteten diskontierten Reward.
Bayes/Entscheidungstheorie: Erwartungsnutzen mit Wahrscheinlichkeiten und Verlustfunktionen.

B) Pipeline (vereinfacht) Daten → Vorverarbeitung → Modell (Scores/Posterior) → Schwelle/Policy → Aktion → Feedback/Monitoring.

C) Qualitäts‑ und Risikoaspekte

Genauigkeit & Kalibrierung (z. B. ROC‑AUC, F1, Brier‑Score), Unsicherheits‑/Konfidenzschätzung.
Fairness/Bias‑Kontrollen (Equalized Odds, Demographic Parity), Transparenz/XAI (lokal/global), Auditierbarkeit.
Robustheit/Sicherheit (Drift‑Erkennung, adversariale Robustheit), Fail‑safe/Human Oversight.
Governance: Rollen, Dokumentation (Datasheets/Model Cards), Vorfall‑/Abschaltprozesse.

D) Recht/Standards (EU/International)

Automatisierte Entscheidungssysteme mit hohen Risiken unterliegen in der EU dem AI Act (Risikomanagement, Datenqualität, Transparenz, Human Oversight).
NIST AI RMF 1.0 nennt Eigenschaften vertrauenswürdiger KI‑Entscheidungen (valid, reliable, safe, fair, explainable, accountable) und Prozess‑Funktionen Govern/Map/Measure/Manage.