مفهوم Performance Envelope في تدقيق الذكاء الاصطناعي

ما هو نطاق الأداء المقبول؟

مجموعة الحدود الكمية والنوعية التي يُعدّ عندها سلوك النظام مقبولاً وفق قرارات المخاطر، تقييم الأثر، قيود التصميم، والاستخدام المقصود.

لماذا يهم في التدقيق؟

• يُحوِّل الالتزامات إلى معايير مقارنة.
• يجعل مراقبة الانحراف ذات معنى.
• يربط التحيّز وأداء الشرائح بحدود صريحة.

كيف يُوثَّق؟

• مقاييس أداء (دقة، استدعاء، F1، AUC) وعتبات.
• عتبات لأداء الشرائح الفرعية.
• عتبات مقاييس التحيّز (مثل الفارق الديموغرافي).
• عتبات كمون واستقرار.
• شروط تشغيلية (توزيع مدخلات مقبول، حجم حمل).

كيف يُدقَّق؟

• طلب الوثيقة المرجعية للنطاق.
• مطابقة مخرجات المراقبة على مدى فترة مع النطاق.
• طلب تحقيقات التنبيهات المتجاوزة للعتبة.
• التحقق من مراجعة النطاق بعد كل تغيّر جوهري.

جدول العناصر

علاقته بالمراقبة والانحراف والتحيّز

نطاق الأداء هو المرجع الذي تُقاس عليه مراقبة الانحراف ومقاييس التحيّز وأداء الشرائح؛ بدونه لا يعدو "المراقبة" جمع أرقام دون قرار.

ما هو نطاق الأداء المعتمد

نطاق الأداء المعتمد (Performance Envelope) هو الحدود الموثقة التي يعمل ضمنها نظام الذكاء الاصطناعي بشكل موثوق: أنواع الإدخال، اللغات، النطاق الجغرافي والزمني، فئات المستخدمين، وحدود الدقة.

دور المدقق

يتحقق المدقق من أن:

1. النطاق موثّق بوضوح.
2. اختبارات القبول جرت داخل النطاق فقط.
3. توجد ضوابط تكتشف الاستخدام خارج النطاق وتمنعه أو تُنبّه إليه.
4. أي توسعة للنطاق مرت بمراجعة وتقييم أثر.

أدلة نموذجية

• بطاقة النموذج.
• تقارير اختبار حسب فئات النطاق.
• سجلات الاستدلال ونسبة الطلبات خارج النطاق.
• إشعارات المستخدم عند الوصول إلى حدود النطاق.

علاقة بالأطر

نطاق الأداء عنصر أساسي في ISO/IEC 42001 (السياق) وNIST AI RMF (Map/Measure) وقانون الاتحاد الأوروبي للذكاء الاصطناعي (متطلبات الأداء والدقة).