قياس مخاطر الذكاء الاصطناعي
AI Risk Measurement
قياس مخاطر الذكاء الاصطناعي هو استخدام مؤشرات ومقاييس كمية لتقدير احتمالية وشدة الأضرار.
شرح تفصيلي
يشمل القياس مقاييس أداء (دقة، استرجاع، خطأ في الفئات الحساسة)، مقاييس عدالة (فروق أداء بين مجموعات)، مقاييس متانة (تحت هجمات، تحت انزياح)، ومقاييس خصوصية (احتمال الاسترجاع). NIST AI RMF يُخصّص وظيفة Measure لهذا الغرض، ويربط النتائج بقرارات المعالجة.
مثال عملي
يقيس فريق نموذج توظيف الفارق في معدل القبول بين المتقدمين حسب الجنس، ويحدّد عتبة انحراف تُطلق مراجعة قبل النشر.