AI-hallucinationer forklaret: hvorfor modeller finder på ting, og hvordan man verificerer output
Enhver sprogmodel fabrikerer information til tider. Mekanismen er grundlæggende for, hvordan transformerbaseret generering fungerer. Her er, hvad en hallucination er, hvorfor den opstår, og hvordan man verificerer output med høj indsats.
Hvad en hallucination er, og hvorfor den opstår
En AI-hallucination er et selvsikkert formuleret output, der er faktuelt forkert. Mekanismen er mekanisk, ikke bedragerisk: transformerbaserede sprogmodeller genererer output ét token ad gangen ved at forudsige det mest sandsynlige næste token givet den forudgående kontekst. Modellen har ikke en separat 'sandheds'-kontrol – dens mål er sandsynlighed inden for de mønstre, den lærte under træningen. Når træningsdata ikke indeholder et direkte svar på en forespørgsel, genererer modellen det mest sandsynligt lydende output, hvilket kan være forkert. Fænomenet er dokumenteret på tværs af alle store modeller, herunder GPT-5, Claude Sonnet og Gemini 3.
Hvor hallucinationer er mest almindelige
Specifikke datoer, præcis statistik, kildehenvisninger, URL'er, API-metodesignaturer, biografiske detaljer om ikke-offentlige personer, meget aktuelle begivenheder (efter modellens træningsskæringsdato) og indholdet af dokumenter, der ikke er i prompten. Mønstret er: høj specificitet + lav frekvens i træningsdata = høj hallucinationsrisiko.
Hvad moderne assistenter gør for at begrænse det
Retrieval-augmented generation (RAG): modellen får relevante dokumenter på forespørgselstidspunktet, så svaret er forankret i hentet indhold frem for parametrisk hukommelse. Perplexity arbejder med RAG som standard – hver Pro-søgning henter og citerer kilder. ChatGPT's websøgning og Claudes websøgning henter live-URL'er og citerer dem. Googles Gemini integrerer Search-forankring. Citater forvandler hallucinationer til et synligt spor, du kan verificere. At verificere citater forbliver brugerens ansvar – modeller genererer lejlighedsvis plausibelt udseende citater, der i virkeligheden ikke eksisterer.
Hvordan man verificerer output med høj indsats
(1) Til kode: kør den. Compileren er sandhedskontrollen. (2) Til numeriske påstande: bed modellen om dens kilde, og verificer kilden via en anden søgning. (3) Til citater: klik på linket. Hvis URL'en giver en 404, er citatet forkert. (4) Til aktuelle begivenheder: tjek modellens træningsskæringsdato, og suppler med et værktøj, der har live-webadgang. (5) Til påstande med høj indsats: krydsreferér med en anden model (Perplexity gør dette nemt ved at skifte model pr. forespørgsel).
Hvornår man kan ignorere risikoen
Det meste lejlighedsvise brug har lav indsats. Brainstorming, at opsummere e-mails, du selv har skrevet, at skrive standardkode, at generere idéer – hallucinationer er som regel åbenlyse eller uvæsentlige her. Reservér verifikationsindsatsen til output, hvor det at tage fejl har en reel omkostning: juridisk rådgivning, medicinsk information, økonomiske beslutninger, faktuelle påstande, du vil offentliggøre eller citere. At behandle AI-output som et første udkast frem for et endeligt svar er den rette arbejdsmodel.
Kilder
Anthropic om hallucinationer: anthropic.com/news (søg 'hallucinations'). OpenAI's dokumentation om hallucinationer + RAG: openai.com/index/why-language-models-hallucinate. Googles AI-forankring: ai.google.dev (søg 'grounding'). Perplexity Pro Search: perplexity.ai/help-center. Alle URL'er tilgået 2026-04-30.