Halucinacije umjetne inteligencije objašnjene: zašto modeli izmišljaju i kako provjeriti izlaz
Svaki jezični model ponekad izmisli informacije. Mehanizam je temeljan za način na koji funkcionira generiranje temeljeno na transformatorima. Evo što je halucinacija, zašto se događa i kako provjeriti izlaz s visokim ulogom.
Što je halucinacija i zašto se događa
Halucinacija umjetne inteligencije samouvjereno je iznesen izlaz koji je činjenično netočan. Mehanizam je mehanički, a ne obmanjujući: jezični modeli temeljeni na transformatorima generiraju izlaz token po token predviđanjem najvjerojatnijeg sljedećeg tokena s obzirom na prethodni kontekst. Model nema zasebnu provjeru „istine” — cilj mu je uvjerljivost unutar obrazaca koje je naučio tijekom treniranja. Kada podaci za treniranje ne sadrže izravan odgovor na upit, model generira najuvjerljiviji izlaz, koji može biti pogrešan. Pojava je dokumentirana u svim velikim modelima, uključujući GPT-5, Claude Sonnet i Gemini 3.
Gdje su halucinacije najčešće
Konkretni datumi, točne statistike, reference na citate, URL-ovi, potpisi API metoda, biografski podaci o nejavnim osobama, vrlo nedavni događaji (nakon graničnog datuma treniranja modela) te sadržaj dokumenata kojih nema u upitu. Obrazac je sljedeći: visoka specifičnost + niska učestalost u podacima za treniranje = visok rizik od halucinacije.
Što moderni asistenti čine za ublažavanje
Generiranje potpomognuto dohvaćanjem (RAG): modelu se u trenutku upita daju relevantni dokumenti tako da se odgovor temelji na dohvaćenom sadržaju, a ne na parametarskom pamćenju. Perplexity prema zadanim postavkama radi po RAG načelu — svaka Pro pretraga dohvaća i citira izvore. Pretraživanje weba ChatGPT-a i pretraživanje weba Claudea dohvaćaju žive URL-ove i citiraju ih. Googleov Gemini integrira utemeljenje na pretraživanju (Search grounding). Citati pretvaraju halucinaciju u vidljiv trag koji možete provjeriti. Provjera citata ostaje korisnikova odgovornost — modeli povremeno generiraju citate koji izgledaju uvjerljivo, ali zapravo ne postoje.
Kako provjeriti izlaz s visokim ulogom
(1) Za kod: pokrenite ga. Prevoditelj je provjera istine. (2) Za brojčane tvrdnje: pitajte model za njegov izvor i provjerite izvor drugom pretragom. (3) Za citate: kliknite poveznicu. Ako URL vrati 404, citat je pogrešan. (4) Za nedavne događaje: provjerite granični datum treniranja modela i dopunite alatom koji ima živi pristup webu. (5) Za tvrdnje s visokim ulogom: usporedite s drugim modelom (Perplexity to olakšava mijenjanjem modela po upitu).
Kada se rizik može zanemariti
Većina ležerne uporabe ima nizak ulog. Smišljanje ideja, sažimanje e-pošte koju ste sami napisali, pisanje šablonskog koda, generiranje ideja — halucinacije su tu obično očite ili nevažne. Pričuvajte napor provjere za izlaze gdje pogreška ima stvarnu cijenu: pravni savjeti, medicinske informacije, financijske odluke, činjenične tvrdnje koje ćete objaviti ili citirati. Tretiranje AI izlaza kao prvog nacrta, a ne konačnog odgovora, ispravan je operativni model.
Izvori
Anthropic o halucinacijama: anthropic.com/news (pretraga „hallucinations”). OpenAI dokumentacija o halucinacijama + RAG: openai.com/index/why-language-models-hallucinate. Google AI utemeljenje: ai.google.dev (pretraga „grounding”). Perplexity Pro Search: perplexity.ai/help-center. Svim URL-ovima pristupljeno 30. 4. 2026.