Ofskynjanir gervigreindar útskýrðar: af hverju líkön skálda upp og hvernig á að sannreyna úttak
Hvert tungumálalíkan skáldar stundum upp upplýsingar. Verkferlið er grundvallaratriði í því hvernig myndun byggð á transformerum virkar. Hér er hvað ofskynjun er, af hverju hún á sér stað og hvernig á að sannreyna úttak þar sem mikið er í húfi.
Hvað ofskynjun er og af hverju hún á sér stað
Ofskynjun gervigreindar er sjálfsörugglega framsett úttak sem er rangt staðreyndalega. Verkferlið er vélrænt, ekki blekkjandi: tungumálalíkön byggð á transformerum mynda úttak einn tákneiningu í einu með því að spá fyrir um líklegustu næstu tákneiningu miðað við fyrra samhengi. Líkanið hefur ekki sérstaka „sannleiks“-athugun – markmið þess er sennileiki innan þeirra mynstra sem það lærði við þjálfun. Þegar þjálfunargögnin innihalda ekki beint svar við fyrirspurn myndar líkanið það úttak sem hljómar sennilegast, sem getur verið rangt. Fyrirbærið er skráð í öllum helstu líkönum, þar á meðal GPT-5, Claude Sonnet og Gemini 3.
Hvar ofskynjanir eru algengastar
Tilteknar dagsetningar, nákvæmar tölfræðiupplýsingar, tilvísanir, vefslóðir, undirskriftir API-aðferða, ævisögulegar upplýsingar um einstaklinga utan sviðsljóssins, mjög nýlegir atburðir (eftir þjálfunarlokadag líkansins) og innihald skjala sem eru ekki í fyrirmælunum. Mynstrið er: mikil sérhæfni + lág tíðni í þjálfunargögnum = mikil hætta á ofskynjun.
Hvað nútímaaðstoðarmenn gera til að draga úr
Endurheimtarstudd myndun (RAG): líkaninu eru afhent viðeigandi skjöl á fyrirspurnartíma þannig að svarið byggist á endurheimtu efni frekar en breytuminni. Perplexity vinnur sjálfgefið með RAG – hver Pro-leit endurheimtir og vitnar í heimildir. Vefleit ChatGPT og vefleit Claude sækja vefslóðir í rauntíma og vitna í þær. Gemini frá Google samþættir leitargrundun. Tilvísanir breyta ofskynjun í sýnilega slóð sem þú getur sannreynt. Sannprófun tilvísana er áfram á ábyrgð notandans – líkön mynda stöku sinnum tilvísanir sem líta sennilega út en eru ekki til í raun.
Hvernig á að sannreyna úttak þar sem mikið er í húfi
(1) Fyrir kóða: keyrðu hann. Þýðandinn er sannleiksprófið. (2) Fyrir tölulegar fullyrðingar: spurðu líkanið um heimild þess og sannreyndu heimildina með annarri leit. (3) Fyrir tilvísanir: smelltu á hlekkinn. Ef vefslóðin skilar 404 er tilvísunin röng. (4) Fyrir nýlega atburði: athugaðu þjálfunarlokadag líkansins og bættu við verkfæri sem hefur rauntímaaðgang að vefnum. (5) Fyrir fullyrðingar þar sem mikið er í húfi: berðu saman við annað líkan (Perplexity gerir þetta auðvelt með því að skipta um líkan eftir fyrirspurn).
Hvenær má hunsa áhættuna
Mestöll frjálsleg notkun er með lítið í húfi. Hugmyndavinna, samantekt á tölvupóstum sem þú skrifaðir sjálfur, gerð staðalkóða, hugmyndasköpun – ofskynjanir eru þar yfirleitt augljósar eða skipta ekki máli. Geymdu sannprófunarvinnu fyrir úttak þar sem það kostar raunverulega að hafa rangt fyrir sér: lögfræðiráðgjöf, læknisfræðilegar upplýsingar, fjárhagslegar ákvarðanir, staðreyndafullyrðingar sem þú munt birta eða vitna í. Að líta á úttak gervigreindar sem fyrsta uppkast frekar en endanlegt svar er rétta starfslíkanið.
Heimildir
Anthropic um ofskynjanir: anthropic.com/news (leitaðu að „hallucinations“). Skjölun OpenAI um ofskynjun + RAG: openai.com/index/why-language-models-hallucinate. Leitargrundun Google: ai.google.dev (leitaðu að „grounding“). Perplexity Pro Search: perplexity.ai/help-center. Allar vefslóðir sóttar 30.04.2026.