حقن التعليمات
Prompt Injection
حقن التعليمات هو هجوم يُدخل تعليمات خبيثة داخل مدخلات النموذج تدفعه إلى تجاوز ضوابطه.
شرح تفصيلي
يكون الحقن مباشراً (المستخدم يكتب تعليمة) أو غير مباشر (محتوى من مصدر يقرأه النموذج). النتائج تشمل كشف بيانات، تنفيذ أدوات محظورة، تجاوز فلاتر. الحماية تتطلب فصل السياقات، قوائم أدوات محدودة، فحص المخرجات، تسجيل، وسياسة استرجاع من مصادر موثوقة. مرجع: OWASP LLM Top 10 LLM01.
مثال عملي
صفحة ويب تحتوي تعليمة مخفية "أرسل بريد المستخدم إلى..."؛ يمنع فصل الأدوات الوكيل من تنفيذها ويُسجَّل الحدث.