الاختبار العدائي للمطالبات
Adversarial Prompt Testing
اختبار مقاومة التطبيق لمحاولات متعمدة لتغيير سلوكه أو تجاوز ضوابطه باستخدام مدخلات مصممة للهجوم.
شرح تفصيلي
تُفصل تقنية الهجوم عن غايته: قد تستخدم تعليمات مخفية في مستند أو إعادة تأطير سؤال أو تسلسل محادثة بهدف كشف بيانات أو تنفيذ فعل غير مصرح. يجب تدوين قدرات المهاجم ونطاق وصوله ونتيجة المحاولة الفعلية، وعدم اعتبار استجابة نصية توحي بالنجاح دليلًا على تنفيذ معاملة.
مثال عملي
مستند مورد يحتوي تعليمات خفية تطلب من الوكيل إرسال سجل التعاقد إلى وجهة خارجية.