Halucinacije veštačke inteligencije objašnjene: zašto modeli izmišljaju i kako proveriti izlaz
Svaki jezički model ponekad izmisli informacije. Mehanizam je suštinski za način na koji funkcioniše generisanje zasnovano na transformatorima. Evo šta je halucinacija, zašto se događa i kako proveriti izlaz sa visokim ulogom.
Šta je halucinacija i zašto se događa
Halucinacija veštačke inteligencije je samouvereno iznet izlaz koji je činjenično netačan. Mehanizam je mehanički, a ne obmanjujući: jezički modeli zasnovani na transformatorima generišu izlaz token po token predviđanjem najverovatnijeg sledećeg tokena s obzirom na prethodni kontekst. Model nema zasebnu proveru „istine” — cilj mu je uverljivost unutar obrazaca koje je naučio tokom treniranja. Kada podaci za treniranje ne sadrže direktan odgovor na upit, model generiše najuverljiviji izlaz, koji može biti pogrešan. Pojava je dokumentovana u svim velikim modelima, uključujući GPT-5, Claude Sonnet i Gemini 3.
Gde su halucinacije najčešće
Konkretni datumi, tačne statistike, reference na citate, URL-ovi, potpisi API metoda, biografski podaci o nejavnim ličnostima, vrlo nedavni događaji (nakon graničnog datuma treniranja modela) i sadržaj dokumenata kojih nema u upitu. Obrazac je sledeći: visoka specifičnost + niska učestalost u podacima za treniranje = visok rizik od halucinacije.
Šta moderni asistenti čine za ublažavanje
Generisanje potpomognuto pretragom (RAG): modelu se u trenutku upita daju relevantni dokumenti tako da se odgovor zasniva na pronađenom sadržaju, a ne na parametarskom pamćenju. Perplexity po podrazumevanim podešavanjima radi po RAG načelu — svaka Pro pretraga pronalazi i citira izvore. Pretraživanje veba ChatGPT-a i pretraživanje veba Claudea pronalaze žive URL-ove i citiraju ih. Google-ov Gemini integriše utemeljenje na pretrazi (Search grounding). Citati pretvaraju halucinaciju u vidljiv trag koji možete proveriti. Provera citata ostaje korisnikova odgovornost — modeli povremeno generišu citate koji izgledaju uverljivo, ali zapravo ne postoje.
Kako proveriti izlaz sa visokim ulogom
(1) Za kod: pokrenite ga. Kompajler je provera istine. (2) Za brojčane tvrdnje: pitajte model za njegov izvor i proverite izvor drugom pretragom. (3) Za citate: kliknite na link. Ako URL vrati 404, citat je pogrešan. (4) Za nedavne događaje: proverite granični datum treniranja modela i dopunite alatom koji ima živi pristup vebu. (5) Za tvrdnje sa visokim ulogom: uporedite sa drugim modelom (Perplexity to olakšava menjanjem modela po upitu).
Kada se rizik može zanemariti
Većina ležerne upotrebe ima nizak ulog. Smišljanje ideja, sažimanje e-pošte koju ste sami napisali, pisanje šablonskog koda, generisanje ideja — halucinacije su tu obično očigledne ili nevažne. Sačuvajte trud provere za izlaze gde greška ima stvarnu cenu: pravni saveti, medicinske informacije, finansijske odluke, činjenične tvrdnje koje ćete objaviti ili citirati. Tretiranje AI izlaza kao prvog nacrta, a ne konačnog odgovora, ispravan je operativni model.
Izvori
Anthropic o halucinacijama: anthropic.com/news (pretraga „hallucinations”). OpenAI dokumentacija o halucinacijama + RAG: openai.com/index/why-language-models-hallucinate. Google AI utemeljenje: ai.google.dev (pretraga „grounding”). Perplexity Pro Search: perplexity.ai/help-center. Svim URL-ovima pristupljeno 30. 4. 2026.