مراقبة تغيّر النماذج بعد الموافقة

الموافقة على نظام ذكاء اصطناعي ليست حدثًا لمرة واحدة. النموذج نفسه يتغيّر، والبيانات تتغيّر، والاستخدام يتغيّر. المراقبة المستمرة هي ما يُحوّل الحوكمة من ورقة إلى ممارسة.

أنواع التغيّر

تغيّر النموذج (Model Change): المورّد أصدر نسخة جديدة. سلوك النظام قد يختلف.
انحراف البيانات (Data Drift): توزيع بيانات الإدخال الفعلية اختلف عمّا كان في التقييم الأصلي.
انحراف المفهوم (Concept Drift): العلاقة بين المدخلات والمخرجات تغيّرت في العالم الحقيقي.
انحراف الاستخدام (Usage Drift): المستخدمون بدأوا يستعملون النظام لأغراض مختلفة.

مؤشرات للمراقبة

يمكن تمرير الجدول أفقياً للاطلاع على جميع الأعمدة.

المؤشر	لماذا
نسخة النموذج	لاكتشاف أي تحديث صامت.
توزيع مدخلات النظام	لاكتشاف انحراف البيانات.
توزيع المخرجات	لاكتشاف تحيّز أو تغيّر في السلوك.
معدل الأخطاء المُبلَّغ عنها	لاكتشاف تدهور الجودة.
زمن الاستجابة	لاكتشاف مشاكل تشغيلية.
حجم الاستخدام لكل فريق	لاكتشاف انتشار غير مرصود.

كيف تبني حلقة المراقبة

تعريف خط الأساس: ما القيم الطبيعية عند الاعتماد؟
جمع تلقائي: واجهة برمجية أو سجلات دورية من المورّد.
حدود إنذار: انحراف يتجاوز نسبة معينة يولّد تنبيهًا.
مراجعة دورية: حتى بلا إنذار، مراجعة كل ربع سنة.
قرار موثّق: الإنذار يفتح تذكرة تُعالَج ضمن SLA محدد.

علامات التحذير من المورّد

إعلانات مبهمة عن "تحسينات في النموذج" دون تفصيل تقني.
تغيّر في شروط الاستخدام يتضمن بنودًا جديدة عن البيانات.
انخفاض جودة الوثائق التقنية أو تأخر الاستجابة الفنية.
تأخر أو رفض تقارير المراقبة المتفق عليها.

مثال حي

مؤسسة تستخدم نموذج ملخّصات وثائق قانونية. بعد تحديث صامت، بدأ النموذج يحذف بنود معينة من الملخصات. لم يكتشف ذلك أحد لثلاثة أشهر لأنه لا توجد حلقة مراقبة. النتيجة: قرارات اعتمدت على ملخصات ناقصة.

خلاصة عملية

لأهم ثلاثة أنظمة ذكاء اصطناعي: حدّد خط أساس مكتوب اليوم، وعرّف ثلاثة مؤشرات كحد أدنى، وجدول مراجعة ربع سنوية. حتى لو كانت المراقبة يدوية بسيطة، فهي أفضل من غيابها الكامل.