الهلوسة
Hallucination
الهلوسة هي إنتاج نموذج توليدي لمحتوى يبدو معقولاً لكنه غير صحيح واقعياً أو مختلق.
شرح تفصيلي
تنشأ الهلوسة من طبيعة نماذج التوليد الاحتمالية وغياب أساس معرفي موثّق داخلها. تُخفَّف بأدوات مثل الاسترجاع المعزّز (RAG) من مصادر موثقة، وفرض الاقتباس، وقياس الثقة، ورفض الإجابة عند غياب دليل. حوكمة الاستخدام تُلزم بمراجعة بشرية للاستخدامات الحساسة.
مثال عملي
مساعد قانوني يستشهد بمواد نظام غير موجودة؛ يُقيَّد بمصدر رسمي عبر RAG، وأي إجابة بدون اقتباس تُرفض تلقائياً.