الذكاء الاصطناعي الآمن والمرن
نظام يقاوم الهجمات ويتعافى من الأعطال. مفهوم أساسي في حوكمة الذكاء الاصطناعي يُستخدم داخل ضوابط ISO/IEC 42001 و NIST AI RMF لتحديد المسؤوليات وأدلة التدقيق المرتبطة بـ الذكاء الاصطناعي الآمن والمرن.
شرح تفصيلي
يشمل الحماية من الهجمات العدائية وسرقة النموذج وتسميم البيانات، والقدرة على استعادة الخدمة. يُعدّ هذا المفهوم عنصراً عملياً في نظام إدارة الذكاء الاصطناعي (AIMS): يُوثَّق ضمن السياسات، ويُربط بسجل المخاطر، ويُدعم بأدلة قابلة للتحقق أثناء التدقيق الداخلي أو الخارجي. تحدّد المؤسسة مالكاً واضحاً له، ومقاييس أداء، وضوابط استعراض دورية تضمن استمرار ملاءمته لحالات الاستخدام الفعلية ولمتطلبات ISO/IEC 42001 و NIST AI RMF.
مثال عملي
نظام يكتشف مدخلات عدائية ويستعيد الأداء بعد هجوم. مثال تطبيقي: توثيق هذا العنصر في بطاقة النموذج وربطه بضابط محدد في نظام إدارة الذكاء الاصطناعي مع دليل قابل للاسترجاع أثناء التدقيق.