الاختبار العدائي بالصندوق الأسود
Black-Box AI Red Teaming
اختبار واجهات نظام الذكاء الاصطناعي المتاحة دون اطلاع على تنفيذه الداخلي.
شرح تفصيلي
يستخدم الفريق الواجهات والصلاحيات المتاحة للخصم المفترض، ويوثق المدخلات والمخرجات والأثر الذي يمكن ملاحظته. لا يثبت اختلاف أنماط الرفض هوية النموذج أو بنية التطبيق، ويجب التعامل مع الاستدلالات حول التقنية على أنها فرضيات حتى تؤكدها مصادر مستقلة. يختلف هذا الوضع عن غياب تصريح الاختبار؛ لا يجوز نشاط عدائي ضد أنظمة الغير من دون إذن.
مثال عملي
تقييم سلوك بوابة محادثة تجريبية بحساب مستخدم مأذون، مع توثيق ما يمكن رؤيته فقط.