الإشراف البشري
Human Oversight
الإشراف البشري هو قدرة الإنسان المؤهل على مراقبة نظام الذكاء الاصطناعي والتدخل في قراراته عند الحاجة لمنع الأضرار.
شرح تفصيلي
يشير الإشراف البشري إلى وجود آليات وأدوار وصلاحيات تسمح لشخص مؤهل بمراقبة سلوك نظام الذكاء الاصطناعي أثناء التشغيل، وتفسير مخرجاته، وتجاوزها أو إيقافها عند الحاجة. يشمل ذلك تصميم واجهات تعرض الأدلة ودرجات الثقة، وإجراءات تصعيد واضحة، ومسارات تدقيق تُثبت أن الإشراف قد تم فعلياً وليس شكلياً. يُعدّ الإشراف البشري متطلباً أساسياً في قانون الاتحاد الأوروبي للذكاء الاصطناعي وفي ISO/IEC 42001.
مثال عملي
في نظام تقييم طلبات الائتمان، لا يُعتمد الرفض تلقائياً؛ بل يُعرض القرار مع أهم العوامل على موظف ائتمان مؤهل يوافق أو يعدّل قبل الإبلاغ.