التجاوز البشري
Human Override
قدرة الإنسان على إيقاف أو تعديل أو رفض قرار أو فعل صادر من نظام ذكاء اصطناعي.
شرح تفصيلي
يجب أن يكون التجاوز فعّالاً لا شكلياً: صلاحيات كافية، معلومات كافية، وقت كافٍ، وتسجيل كامل في سجلات الأحداث. يُعدّ هذا المفهوم عنصراً عملياً في نظام إدارة الذكاء الاصطناعي (AIMS): يُوثَّق ضمن السياسات، ويُربط بسجل المخاطر، ويُدعم بأدلة قابلة للتحقق أثناء التدقيق الداخلي أو الخارجي. تحدّد المؤسسة مالكاً واضحاً له، ومقاييس أداء، وضوابط استعراض دورية تضمن استمرار ملاءمته لحالات الاستخدام الفعلية ولمتطلبات ISO/IEC 42001 و NIST AI RMF.
مثال عملي
زر تجاوز يُمكِّن مسؤول المطالبات من إلغاء توصية آلية قبل الإخطار.