KI-Halluzinationen erklärt: Warum Modelle Dinge erfinden und wie man die Ausgabe überprüft
Jedes Sprachmodell erfindet manchmal Informationen. Der Mechanismus ist grundlegend für die Funktionsweise transformerbasierter Generierung. Hier steht, was eine Halluzination ist, warum sie auftritt und wie man Ausgaben mit hohem Einsatz überprüft.
Was eine Halluzination ist und warum sie auftritt
Eine KI-Halluzination ist eine selbstbewusst formulierte Ausgabe, die sachlich falsch ist. Der Mechanismus ist mechanisch, nicht täuschend: Transformerbasierte Sprachmodelle erzeugen die Ausgabe Token für Token, indem sie das wahrscheinlichste nächste Token angesichts des vorhergehenden Kontexts vorhersagen. Das Modell verfügt nicht über eine separate „Wahrheits“-Prüfung – sein Ziel ist Plausibilität innerhalb der Muster, die es während des Trainings gelernt hat. Wenn die Trainingsdaten keine direkte Antwort auf eine Abfrage enthalten, erzeugt das Modell die am plausibelsten klingende Ausgabe, die falsch sein kann. Das Phänomen ist über alle großen Modelle hinweg dokumentiert, darunter GPT-5, Claude Sonnet und Gemini 3.
Wo Halluzinationen am häufigsten auftreten
Konkrete Daten, exakte Statistiken, Zitatreferenzen, URLs, API-Methodensignaturen, biografische Details über nicht öffentliche Personen, sehr aktuelle Ereignisse (nach dem Trainings-Stichtag des Modells) und die Inhalte von Dokumenten, die nicht im Prompt enthalten sind. Das Muster lautet: hohe Spezifität + geringe Häufigkeit in den Trainingsdaten = hohes Halluzinationsrisiko.
Was moderne Assistenten zur Eindämmung tun
Retrieval-Augmented Generation (RAG): Dem Modell werden zum Abfragezeitpunkt relevante Dokumente bereitgestellt, sodass die Antwort auf abgerufenen Inhalten basiert statt auf parametrischem Gedächtnis. Perplexity arbeitet standardmäßig mit RAG – jede Pro-Suche ruft Quellen ab und zitiert sie. Die Websuche von ChatGPT und die Websuche von Claude rufen Live-URLs ab und zitieren sie. Googles Gemini integriert Search-Grounding. Zitate verwandeln Halluzinationen in eine sichtbare Spur, die Sie überprüfen können. Die Überprüfung von Zitaten bleibt Aufgabe des Nutzers – Modelle erzeugen gelegentlich plausibel aussehende Zitate, die in Wirklichkeit nicht existieren.
Wie man Ausgaben mit hohem Einsatz überprüft
(1) Bei Code: Führen Sie ihn aus. Der Compiler ist die Wahrheitsprüfung. (2) Bei numerischen Behauptungen: Fragen Sie das Modell nach seiner Quelle und überprüfen Sie die Quelle über eine zweite Suche. (3) Bei Zitaten: Klicken Sie auf den Link. Wenn die URL einen 404 zurückgibt, ist das Zitat falsch. (4) Bei aktuellen Ereignissen: Prüfen Sie den Trainings-Stichtag des Modells und ergänzen Sie mit einem Tool, das über Live-Webzugriff verfügt. (5) Bei Behauptungen mit hohem Einsatz: Gleichen Sie mit einem zweiten Modell ab (Perplexity erleichtert dies, indem es das Modell pro Abfrage wechselt).
Wann man das Risiko ignorieren kann
Die meiste beiläufige Nutzung hat einen geringen Einsatz. Brainstorming, das Zusammenfassen von E-Mails, die Sie selbst geschrieben haben, das Verfassen von Boilerplate-Code, das Generieren von Ideen – Halluzinationen sind dabei meist offensichtlich oder unwichtig. Reservieren Sie den Überprüfungsaufwand für Ausgaben, bei denen ein Fehler echte Kosten verursacht: Rechtsberatung, medizinische Informationen, finanzielle Entscheidungen, sachliche Behauptungen, die Sie veröffentlichen oder zitieren werden. KI-Ausgaben als ersten Entwurf statt als endgültige Antwort zu behandeln, ist das richtige Vorgehensmodell.
Quellen
Anthropic zu Halluzinationen: anthropic.com/news (Suche nach „hallucinations“). OpenAI-Dokumentation zu Halluzinationen + RAG: openai.com/index/why-language-models-hallucinate. Google-KI-Grounding: ai.google.dev (Suche nach „grounding“). Perplexity Pro Search: perplexity.ai/help-center. Alle URLs abgerufen am 30.04.2026.