اختبار عدائي قبل التشغيل
Pre-Go-Live Adversarial Testing
اختبار النظام ضد سيناريوهات إساءة استخدام أو تحايل قبل إطلاقه.
شرح تفصيلي
يهدف الاختبار العدائي إلى محاكاة محاولات إساءة الاستخدام: حقن البرومبت، تسريب البيانات، تجاوز الصلاحيات، سلوك غير متوقع للوكيل. يعد شرطاً على الأنظمة عالية المخاطر، ويوثق نتائجه ضمن ملف اعتماد النظام.
مثال عملي
فريق داخلي يجرب سيناريوهات حقن برومبت على وكيل ذكي قبل تشغيله في الإنتاج.