تلوّث السياق
Context Pollution
تلوّث السياق هو إدخال محتوى غير موثوق أو خبيث في سياق النموذج بحيث يُغيّر سلوكه أو مخرجاته.
شرح تفصيلي
يحدث تلوّث السياق عندما يقرأ النموذج محتوى من مصادر خارجية (وثائق، صفحات ويب، رسائل مستخدمين) تتضمّن تعليمات مخفية تُغيّر سلوكه (Prompt Injection غير مباشر). الحوكمة تتطلب فصل السياقات، وقواعد بيضاء للمصادر، وفحص المحتوى، والحد من الأدوات المتاحة داخل سياق ملوّث.
مثال عملي
وكيل يقرأ صفحة ويب تحتوي تعليمة مخفية تطلب حذف ملفات؛ الأداة المسموحة له لا تشمل الحذف، فيرفض التنفيذ.