مراقبة نموذج الذكاء الاصطناعي
AI Model Monitoring
المتابعة المستمرة أو الدورية لأداء وسلوك ومخاطر نموذج الذكاء الاصطناعي بعد دخوله بيئة التشغيل.
شرح تفصيلي
تشمل مراقبة نموذج الذكاء الاصطناعي تتبع الأداء والدقة والأخطاء والانحياز والانحراف في البيانات أو السلوك والحوادث والتغيرات في بيئة الاستخدام. وقد تشمل أيضاً مراقبة المؤشرات الأمنية وجودة المخرجات ومدى استمرار صلاحية النموذج للغرض المعتمد. المراقبة ليست مجرد لوحة أداء تقنية؛ بل يجب أن ترتبط بحدود قبول، ومسؤوليات واضحة، وإجراءات تصعيد وإعادة تقييم أو إيقاف عندما تظهر مخاطر أو تغيرات جوهرية.
مثال عملي
إذا انخفضت دقة نموذج كشف الاحتيال بعد تغير أنماط المعاملات، يجب أن تكشف المراقبة هذا الانحراف وتطلق مراجعة أو إعادة تدريب أو إجراء تصحيحي.