Halluzination (in Bezug auf KI)
Halluzination bezeichnet bei KI‑Systemen (z. B. großen Sprachmodellen) die Erzeugung sachlich falscher, erfundener oder unbelegter Inhalte mit hoher sprachlicher Überzeugungskraft. Typisch sind ausgedachte Zitate, Quellen, Zahlen oder Fakten, die nicht in den Eingabedaten enthalten sind und sich auch nicht aus einer belastbaren Wissensgrundlage ableiten lassen. In der Praxis mindert das die Verlässlichkeit von Antworten; deshalb werden technische Guardrails (z. B. Daten‑/Prozess‑Kontrollen, Richtlinien) sowie Compliance‑Maßnahmen empfohlen (siehe Datenschutz & Compliance in der KI‑Automatisierung).
Beispiele
- Das Modell nennt nicht existierende Gerichtsurteile oder Studien mit plausiblen, aber erfundenen Details.
- Es erfindet Produktmerkmale oder Preise, die in den bereitgestellten Daten nicht vorkommen.
- Bei Übersichten „verwechselt“ es Quellen und attribuiert Zitate falsch.
Ursachen
- Wahrscheinlichkeitsmodellierung ohne Grounding: Modelle optimieren die Nächste‑Token‑Wahrscheinlichkeit, nicht Wahrheitsgehalt.
- Unvollständiger/rauscher Datenraum: Lücken, Verzerrungen, veraltete Daten.
- Instruktions‑Konflikte: überoptimistisches „Antworten um jeden Preis“ vs. Zurückhaltung bei Unsicherheit.
- Decoding‑Strategien: aggressive Sampling‑Parameter (z. B. hohe Temperatur) erhöhen das Risiko.
Erkennung & Messung
- Faithfulness/Attribution: Bezug zu Quellen (z. B. Dokument‑Zitate, Passage Attribution).
- Factuality‑Benchmarks: z. B. Aufgaben mit verifizierbaren Fakten.
- Uncertainty‑Signale: Kalibrierte Konfidenz, Abstimmungsverfahren (Self‑Consistency), externe Verifizierung.
Gegenmaßnahmen
- Grounding/RAG: Antworten strikt an autorisierten Quellen ausrichten; Quellenpflicht für kritische Ausgaben.
- Policies & Guardrails: klare „Don’t know“‑Pflicht, Eskalation an Menschen, Logging/Review; technisch ergänzt um Filter und Regeln.
- Decoding & Prompting: konservativere Sampling‑Parameter; explizite Verifizierungs‑Schritte im Prompt (Chain‑of‑Verification).
- Daten & Tests: Aktualität/Qualität erhöhen, Domänen‑Eval mit goldenem Set; kontinuierliches Monitoring.
Quellen
- Ji, Z. et al. (2023): Survey of Hallucination in Natural Language Generation – Definitionen, Taxonomien, Messung & Ursachen.
https://arxiv.org/abs/2309.05922 - Rawte, V. et al. (2023): Survey on Hallucination in Large Language Models – Überblick zu LLM‑spezifischen Halluzinationen & Mitigation.
https://arxiv.org/abs/2309.01219 - Wikipedia (laufend gepflegt): Hallucination (artificial intelligence) – kompakte Übersicht & Literaturhinweise.
https://en.wikipedia.org/wiki/Hallucination_(artificial_intelligence)