إطار NIST لإدارة مخاطر الذكاء الاصطناعي

إطار NIST AI RMF 1.0 هو مرجع عملي طوعي وغير قطاعي يساعد المؤسسات التي تصمم أو تطور أو تنشر أو تستخدم أنظمة الذكاء الاصطناعي على إدارة مخاطرها وتعزيز الثقة والمسؤولية. يركز الإطار على فهم السياق، قياس المخاطر، إدارة المعالجات، وترسيخ الحوكمة عبر دورة حياة النظام. يتكون القلب التشغيلي للإطار من أربع وظائف رئيسية: GOVERN، MAP، MEASURE، MANAGE.

الإصدار: 1.0 تاريخ النشر: يناير 2023 المصدر: https://doi.org/10.6028/NIST.AI.100-1 دورة المراجعة: وثيقة حية تُراجَع في موعد أقصاه 2028.

الوظائف الأربع:

1) GOVERN — الحوكمة ترسيخ ثقافة إدارة المخاطر، تحديد الأدوار والمسؤوليات، إنشاء السياسات والإجراءات، دمج خصائص الذكاء الاصطناعي الجدير بالثقة، إدارة مخاطر الطرف الثالث، وتوفير آليات لجرد أنظمة الذكاء الاصطناعي ومراجعتها وإيقافها عند الحاجة.

2) MAP — الفهم السياقي ورسم المخاطر تحديد سياق استخدام نظام الذكاء الاصطناعي، الغرض منه، المستخدمين المتأثرين، القوانين والمعايير ذات الصلة، حدود المعرفة، فوائد النظام ومخاطره، وضمان فهم الآثار المحتملة قبل التصميم أو النشر.

3) MEASURE — القياس والتقييم استخدام أدوات وطرق كمية ونوعية لقياس مخاطر الذكاء الاصطناعي، تقييم خصائص الثقة، اختبار الأداء، الخصوصية، الأمن، العدالة، التحيز، الشفافية، القابلية للتفسير، وتوثيق نتائج الاختبار والتحقق والتحقق المستقل.

4) MANAGE — الإدارة والمعالجة ترتيب المخاطر حسب الأولوية، اختيار المعالجة المناسبة، مراقبة المخاطر المتبقية، إدارة مخاطر الأطراف الثالثة والنماذج المدربة مسبقاً، تنفيذ خطط الاستجابة والتعافي، والتحسين المستمر بعد النشر.