مراقبة أداء أنظمة الذكاء الاصطناعي في عُمان بعد الإطلاق

مراقبة أداء أنظمة الذكاء الاصطناعي في عُمان بعد الإطلاق

لماذا لا ينتهي التقييم عند Go-Live؟

السياسة العامة للاستخدام الآمن والأخلاقي لأنظمة الذكاء الاصطناعي في عُمان تتضمن التقييم المنتظم لأداء الأنظمة، كما تؤكد على التوثيق والحوكمة عبر دورة الحياة.

هذا يعني أن اختبار النظام قبل الإطلاق ليس نهاية الحوكمة.

ما الذي يجب مراقبته؟

لا يوجد مؤشر واحد يصلح لكل نظام.

[ممارسة تنفيذية] يمكن تقسيم المراقبة إلى:

• أداء تقني.
• جودة مخرجات.
• حالات خطأ.
• انحراف في البيانات أو الاستخدام.
• تدخلات بشرية.
• شكاوى المستخدمين.
• حوادث أمن أو خصوصية.
• تغيرات المورد.
• توافر الخدمة.

Performance Monitoring مقابل Model Monitoring

النموذج قد يبدو مستقرًا بينما الخدمة سيئة.

مثال: النموذج يقدم إجابة صحيحة، لكن التكامل يرسل بيانات خاطئة، أو المستخدم يعتمد على المخرجات في سياق غير مصرح به.

لذلك يجب مراقبة النظام ككل، لا النموذج فقط.

الحدود المقبولة

قبل التشغيل ينبغي تحديد Thresholds أو حدود تصعيد مناسبة.

قد تشمل [ممارسة تنفيذية]:

• انخفاض الدقة.
• ارتفاع نسبة الأخطاء الحرجة.
• زيادة الشكاوى.
• ارتفاع تدخلات المراجعين.
• تغير واضح في توزيع البيانات.
• حادث أمني.
• توقف مزود.

القيم الرقمية نفسها تعتمد على حالة الاستخدام ولا ينبغي اختراع حدود عامة.

الانحراف Drift

قد تتغير البيانات أو البيئة حتى دون تغيير النموذج.

يمكن التعامل مع Drift كإشارة لإعادة الفحص عندما تتغير خصائص المدخلات أو المخرجات أو النتائج بمرور الوقت.

لكن ليس كل تغير يعني تلقائيًا أن النظام غير متوافق؛ المطلوب تحليل أثره.

الشكاوى كمصدر رقابي

الشكاوى ليست مجرد موضوع خدمة عملاء.

قد تكشف:

• تحيزًا.
• تفسيرًا خاطئًا.
• قرارًا متكرر الخطأ.
• مشكلة بيانات.
• سوء استخدام.
• خللًا في الإشراف.

لذلك ينبغي أن تكون هناك قناة تربط الشكاوى بمراجعة مخاطر AI عند الحاجة.

السجلات

المراقبة تحتاج أدلة.

قد تشمل [ممارسة تنفيذية]:

• تقارير الأداء.
• سجلات الأخطاء.
• سجلات التدخل البشري.
• تقارير الحوادث.
• نتائج الاختبار الدوري.
• سجل الشكاوى.
• سجل التغييرات.
• قرارات التصعيد.

من يراجع؟

لا ينبغي افتراض أن الفريق التقني وحده كافٍ.

حسب الاستخدام قد تحتاج المراجعة إلى الأعمال، والمخاطر، والأمن، والخصوصية، وصاحب القرار.

العلاقة مع إدارة المخاطر

إذا تجاوز مؤشر حدًا معينًا، يجب أن يتحول من «مقياس» إلى «حدث مخاطر».

[ممارسة تنفيذية] يمكن تصميم المسار:

Signal → Review → Risk Assessment → Action → Evidence

العلاقة مع الاستمرارية

إذا كان النظام جزءًا من خدمة مهمة، فإن الأداء يشمل أيضًا التوافر والاستعادة.

سياسة استمرارية عمليات تقنية المعلومات في عُمان تؤكد خطط الاستمرارية وتحليل أثر الأعمال والأدوار والاستعادة.

لذلك يجب ألا تكون مراقبة AI منفصلة عن مراقبة استمرارية الخدمة.

الخلاصة

المراقبة هي ما يحول AI Governance من اعتماد لمرة واحدة إلى نظام حي.

القاعدة العملية:

اختبر قبل الإطلاق، راقب بعده، وحدد متى يتحول التغير إلى مراجعة أو إعادة تقييم.

راجعت Siyada AI الحالة التنظيمية بتاريخ 9 سبتمبر 2026.