مخاطر النماذج
Model Risk
مخاطر النموذج هي احتمال أن ينتج نموذج ذكاء اصطناعي قرارات خاطئة تؤدي إلى خسائر مالية أو تشغيلية أو تنظيمية.
شرح تفصيلي
تنشأ مخاطر النموذج من: بيانات تدريب غير ممثِّلة، انزياح البيانات في الإنتاج، تحيّز، هلوسة، هجمات عدائية، أو استخدام النموذج خارج نطاقه المقصود. تتطلب إدارتها توثيق حدود الاستخدام، اختبارات دورية، مراقبة الأداء، ومراجعة مستقلة. يستند القطاع المالي غالباً إلى إرشادات SR 11-7.
مثال عملي
يُظهر نموذج توقّع الاحتيال تدهور دقة بعد ستة أشهر بسبب تغيّر أنماط المعاملات؛ تُطلق آلية إعادة تدريب مع اختبار مسبق قبل النشر.