Delusion

Okt. 6, 2025

—

von

Philipp: Schweizer KI Akademie

1) Einfach erklärt

Delusion in der KI (oft auch Halluzination oder Confabulation genannt) heißt: Eine KI erfindet etwas und präsentiert es, als wäre es wahr. Die Antwort klingt sicher, ist aber falsch oder nicht belegt.

Beispiele:

Ein Chat‑Assistent gibt ausgedachte Quellen/Zitate an.
Ein System behauptet falsche Fakten (z. B. eine Person habe ein Buch geschrieben, das es nicht gibt).
Ein Bild‑/Erkennungsmodell „sieht“ ein Objekt, das nicht vorhanden ist.

Warum passiert das? Generative Modelle schätzen die nächstliegenden Wörter/Bilder aus ihren Trainingsdaten. Ohne Quellenbezug oder Prüfung können plausible, aber falsche Inhalte entstehen.

Was hilft? Quellen anzeigen/prüfen (z. B. RAG), Unsicherheit kommunizieren, Red‑Team/Tests, Fakten‑Checker und bessere Daten/Prompts.

2) Professionelle Definition

Im KI‑Kontext bezeichnet Delusion/Halluzination die Erzeugung faktisch inkorrekter, unbegründeter oder widersprüchlicher Inhalte, die mit hoher Sicherheit dargestellt werden. In der Literatur wird dies als „confabulation“ gefasst: LLMs füllen Wissenslücken mit plausibel klingenden, aber unwahren Details.

Taxonomien/Aspekte (Auswahl):

Intrinsic vs. extrinsic (widerspricht Quelle vs. nicht belegbar),
Closed‑ vs. open‑domain,
Erkennung u. a. über „semantic entropy“ (Konsistenz mehrerer Antworten) und Uncertainty‑Maße,
Minderung durch Retrieval‑Augmented Generation (RAG), Sicherheitstrainings, Constraints und Evaluation.

Wichtiger Hinweis: Große Sprachmodelle bleiben probabilistische Generatoren; vollständige Eliminierung von Halluzinationen ist derzeit unrealistisch, aber mess‑ und reduzierbar.