التحايل على حواجز السلامة
GenAI Guardrail Evasion
سلوك يحاول تخطي ضوابط التصنيف أو الرفض أو التصفية المصممة لفرض سياسة سلامة.
شرح تفصيلي
يتناول اختبار السلامة مدى ثبات الضوابط عبر قنوات مختلفة وسياقات متغيرة، لكنه لا يعوض عن فحص صلاحيات أدوات التنفيذ أو عزل البيانات. يجب تحديد معيار مقبول للطلبات المشروعة أيضاً حتى لا يؤدي التشدد إلى رفض واسع غير مبرر. لا تُستخدم النتائج لتعميم أن النظام كله آمن أو ضعيف خارج النطاق المقاس.
مثال عملي
اختبار اختلاف قرار تصنيف محتوى تجريبي عبر مدخلات نصية وصوتية مصرح بها.