Govern: المراقبة والتنبيهات والتقاعد

مقدمة

أكبر فجوة في برامج أمن الذكاء الاصطناعي ليست في الإطلاق بل فيما بعده. الوكيل يعمل لشهور، تتغير أدواته وصلاحياته ونماذجه، ويبقى الاعتماد الأمني الأصلي معلقاً على حالة لم تعد قائمة. الحوكمة المستمرة هي ما يمنع هذا الانحراف الصامت.

المفهوم الأساسي

ثلاثة عناصر تُشكّل هذه المرحلة:

المراقبة: جمع سجلات الأفعال لا النصوص فقط، وتوحيدها في منظومة المراقبة المركزية، مع ربط كل فعل بهوية الوكيل ومالكه.

التنبيهات: إشارات ذات قيمة عملية مثل: استدعاء أداة لم تُستخدم من قبل، ارتفاع مفاجئ في معدل الأفعال، محاولة وصول إلى وجهة غير معتمدة، تغيّر في النموذج أو إصداره، أو ظهور وكيل بلا مالك مسجل.

التقاعد: لكل وكيل نهاية عمر. عند التقاعد تُلغى الهوية وتُسحب الصلاحيات وتُحذف الأسرار وتُؤرشف السجلات ويُحدَّث الجرد. الوكيل المهمَل الذي يبقى بصلاحياته أخطر من وكيل نشط مراقَب.

يغلق هذا كله الحلقة بإعادة التقييم عند كل تغيير جوهري.

مثال عملي

مؤسسة فعّلت تنبيهاً بسيطاً على أول استدعاء لأداة لم يستخدمها الوكيل سابقاً. خلال أسبوعين كشف التنبيه وكيلاً بدأ يستدعي أداة حذف سجلات بعد تحديث في إعداداته لم يمر بمراجعة. المؤشر البسيط كان أنفع من لوحة معلومات مزدحمة.

أخطاء شائعة

• مراقبة استهلاك النماذج بدل مراقبة الأفعال المنفذة.
• تنبيهات كثيرة منخفضة القيمة تُسبب تجاهلاً جماعياً.
• غياب إجراء تقاعد موثّق فتتراكم هويات نشطة بلا مالك.
• عدم إعادة التقييم بعد تغيير النموذج أو إضافة أداة.

قائمة تحقق عملية

• [ ] تصدير سجلات الأفعال إلى منظومة المراقبة المركزية
• [ ] ربط كل فعل بهوية الوكيل ومالكه
• [ ] تنبيه على أول استدعاء لأداة جديدة
• [ ] تنبيه على ارتفاع غير معتاد في معدل الأفعال
• [ ] تنبيه على تغيّر النموذج أو إصداره
• [ ] تنبيه على أي وكيل بلا مالك مسجل
• [ ] إجراء تقاعد موثّق يشمل سحب الهوية والصلاحيات
• [ ] حذف الأسرار وأرشفة السجلات عند التقاعد
• [ ] تحديث الجرد وإعادة التقييم بعد كل تغيير جوهري

الإسناد إلى المعايير

المراقبة والمراجعة والتقاعد هي حلقة التحسين المستمر في ISO/IEC 42001 ووظيفتا الإدارة والحكم في NIST AI RMF. السجلات المحفوظة بمدد واضحة هي أيضاً ما يجعل متطلبات التتبع في قانون الاتحاد الأوروبي قابلة للإثبات عند الطلب.

الخطر والضابط والدليل

ماذا تطبق عملياً؟

• عرّف قواعد تنبيه على الأفعال الشاذة لا على النصوص فقط.
• راجع سجلات الوكلاء ضمن دورية المراجعة الأمنية.
• حدّد شروط تقاعد الوكيل مسبقاً عند إنشائه.
• اسحب الهوية والصلاحيات والمفاتيح فور التقاعد.
• احتفظ بسجل تقاعد موثّق لأغراض التدقيق.

أدلة ومخرجات

• قواعد تنبيه المراقبة (Monitoring Alert Rule)
• سجل مراجعة السجلات (Log Review Record)
• سجل تقاعد الوكيل (Retirement Record)

أسئلة تحقق

• ما قواعد التنبيه القائمة على الأفعال لا على النصوص؟
• من يراجع سجلات الوكلاء وبأي دورية؟
• ما شروط تقاعد الوكيل ومن يقرّرها؟
• هل تُسحب الهويات والمفاتيح فور التقاعد ومن يتحقق؟
• أين يُحفظ سجل التقاعد ولكم من الوقت؟

مؤشرات قياس

• نسبة الوكلاء المغطّاة بقواعد تنبيه فعّالة.
• متوسط زمن اكتشاف السلوك الشاذ.
• نسبة الوكلاء المتقاعدين بسحب كامل للصلاحيات.
• عدد السجلات المراجَعة مقابل المطلوب دورياً.

خلاصة عملية

أغلق الحلقة: راقب الأفعال، نبّه على التغيّر لا على الحجم، وتقاعد الوكلاء بإجراء موثّق يشمل سحب الهوية والصلاحيات وأرشفة السجلات وتحديث الجرد.