هلوسات الذكاء الاصطناعي مشروحة: لماذا تختلق النماذج معلومات وكيف تتحقّق من المُخرجات
يختلق كل نموذج لغوي معلومات أحيانًا. والآلية أساسية لطريقة عمل التوليد القائم على المحوّلات (transformer). إليك ماهية الهلوسة، ولماذا تحدث، وكيف تتحقّق من المُخرجات عالية المخاطر.
ما الهلوسة ولماذا تحدث
هلوسة الذكاء الاصطناعي هي مُخرَج مُصاغ بثقة لكنه غير صحيح من الناحية الواقعية. والآلية ميكانيكية لا خادعة: تولّد النماذج اللغوية القائمة على المحوّلات المُخرَجات رمزًا تلو الآخر عبر التنبؤ بالرمز التالي الأكثر احتمالًا في ضوء السياق السابق. ولا يمتلك النموذج فحصًا منفصلًا لـ 'الحقيقة' — فهدفه هو المعقولية ضمن الأنماط التي تعلّمها أثناء التدريب. وعندما لا تتضمّن بيانات التدريب إجابةً مباشرة عن استعلام، يولّد النموذج المُخرَج الأكثر معقولية في الظاهر، والذي قد يكون خاطئًا. وهذه الظاهرة موثّقة عبر جميع النماذج الكبرى بما فيها GPT-5 وClaude Sonnet وGemini 3.
أين تكون الهلوسة أكثر شيوعًا
التواريخ المحدّدة، والإحصاءات الدقيقة، ومراجع الاقتباسات، وعناوين URL، وتواقيع دوال API، والتفاصيل السيرية عن شخصيات غير عامة، والأحداث الحديثة جدًا (بعد تاريخ قطع تدريب النموذج)، ومحتويات المستندات غير الموجودة في المُوجِّه. والنمط هو: تخصيص عالٍ + تكرار منخفض في بيانات التدريب = خطر هلوسة عالٍ.
ما تفعله المساعدات الحديثة للتخفيف
التوليد المعزّز بالاسترجاع (RAG): يُزوَّد النموذج بمستندات ذات صلة وقت الاستعلام بحيث تستند الإجابة إلى المحتوى المُسترجَع بدلًا من الذاكرة البارامترية. تستخدم Perplexity نمط RAG افتراضيًا — فكل عملية بحث Pro تسترجع المصادر وتستشهد بها. ويجلب البحث الشبكي لـ ChatGPT والبحث الشبكي لـ Claude عناوين URL حيّة ويستشهدان بها. ويدمج Gemini من Google ميزة Search grounding. تحوّل الاقتباسات الهلوسة إلى أثر مرئي يمكنك التحقّق منه. ويظلّ التحقّق من الاقتباسات مسؤولية المستخدم — إذ تولّد النماذج أحيانًا اقتباسات تبدو معقولة لكنها غير موجودة فعليًا.
كيف تتحقّق من المُخرجات عالية المخاطر
(1) للشيفرة: شغّلها. المُترجِم هو فحص الحقيقة. (2) للادعاءات الرقمية: اطلب من النموذج مصدره وتحقّق من المصدر عبر بحث ثانٍ. (3) للاقتباسات: انقر على الرابط. إذا أعاد عنوان URL خطأ 404، فالاقتباس خاطئ. (4) للأحداث الحديثة: تحقّق من تاريخ قطع تدريب النموذج وكمّله بأداة لها وصول حيّ إلى الويب. (5) للادعاءات عالية المخاطر: قارن مع نموذج ثانٍ (تسهّل Perplexity ذلك عبر تبديل النماذج لكل استعلام).
متى يمكن تجاهل المخاطرة
معظم الاستخدام العَرَضي منخفض المخاطر. العصف الذهني، وتلخيص رسائل البريد الإلكتروني التي كتبتها بنفسك، وصياغة الشيفرة النمطية، وتوليد الأفكار — تكون الهلوسات في هذه الحالات عادةً واضحة أو غير مهمة. احتفظ بجهد التحقّق للمُخرجات التي يكون فيها للخطأ تكلفة حقيقية: الاستشارة القانونية، والمعلومات الطبية، والقرارات المالية، والادعاءات الواقعية التي ستنشرها أو تقتبسها. والتعامل مع مُخرَج الذكاء الاصطناعي كمسوّدة أولى بدلًا من إجابة نهائية هو نموذج التشغيل الصحيح.
المصادر
Anthropic حول الهلوسة: anthropic.com/news (ابحث عن 'hallucinations'). توثيق OpenAI للهلوسة + RAG: openai.com/index/why-language-models-hallucinate. ميزة grounding للذكاء الاصطناعي من Google: ai.google.dev (ابحث عن 'grounding'). Perplexity Pro Search: perplexity.ai/help-center. جرى الوصول إلى جميع الروابط بتاريخ 2026-04-30.