30 سؤالاً لا تجيب عنها الوثائق في تدقيق أنظمة الذكاء الاصطناعي

1) تحديد النطاق والجرد

1. هل نظام الذكاء الاصطناعي مُدرَج في سجل أنظمة الذكاء الاصطناعي بإصداره الحالي؟
2. هل حدود النظام (المدخلات/المخرجات/الاعتماديات) موثّقة ومطابقة للواقع؟
3. هل تصنيف مخاطر النظام محدَّث بعد آخر تغيير جوهري؟
4. هل مالك النظام ومالك المخاطر معرّفان ولهما صلاحيات فعلية؟
5. هل حالة الاستخدام المقصودة معلَنة للمستخدمين النهائيين؟
6. هل يوجد تعريف صريح لما لا يُستخدم النظام له؟

2) تدقيق الوثائق مقابل النظام

1. هل بطاقة النموذج تعكس الإصدار المنشور فعلاً؟
2. هل بطاقة النظام تصف خط الأنابيب الحالي وليس المخطَّط؟
3. هل تقييم الأثر مؤرَّخ بعد آخر إعادة تدريب؟
4. هل خطة المراقبة الموثّقة تُنفَّذ فعلاً على النظام قيد التشغيل؟
5. هل معلومات المستخدمين المنشورة تطابق سلوك النظام؟
6. هل توجد إجراءات تصعيد مكتوبة ومختبَرة؟

3) مراجعة الأداء التقني

1. هل نطاق الأداء المقبول موثّق وبعتبات محددة؟
2. هل تُقاس أداء الشرائح الفرعية دورياً؟
3. هل مقاييس التحيّز مُعاد تقييمها بعد آخر تغيّر جوهري؟
4. هل هناك مراقبة انحراف بيانات وانحراف مفاهيم؟
5. هل عتبات التنبيه مربوطة بقرارات تصعيد فعلية؟
6. هل تُوثَّق التحقيقات في التنبيهات ونتائجها؟

4) الشفافية والتفسير

1. هل يمكن للمستخدم أن يعرف أنه يتعامل مع نظام ذكاء اصطناعي؟
2. هل تُقدَّم للمستخدم معلومات كافية عن حدود النظام؟
3. هل هناك آلية لطلب توضيح أو تفسير للقرار؟
4. هل تفسيرات النظام (حين تُقدَّم) مُختبَرة على الدقة والاتساق؟
5. هل توجد سجلات تُبيِّن ماذا رأى المستخدم من معلومات؟

5) اختبار الإشراف البشري والتجاوز

1. هل نقطة الإشراف البشري تملك المعلومات الكافية لاتخاذ قرار؟
2. هل تملك الصلاحية الفعلية للتجاوز أم مجرد تظلّم لاحق؟
3. هل يُمنح المشرف وقتاً كافياً قبل الأثر؟
4. هل تدخّلات المشرفين تُسجَّل ضمن سجلات الأحداث؟
5. هل تُحلَّل معدلات التجاوز شهرياً وتُغذّي التحسين؟
6. هل هناك اختبار دوري لفعالية التجاوز (Tabletop/Live)؟
7. هل خطة الاستمرارية تشمل تعطيل النظام بأمان عند تجاوز نطاق الأداء؟