قصور متانة النموذج
مفهوم ضمن مخاطر الذكاء الاصطناعي: حساسية مفرطة لتغيير مدخل.
شرح تفصيلي
قصور متانة النموذج يشير في الاستخدام المصرفي إلى حالة خطر محتملة مثل حساسية مفرطة لتغيير مدخل. لا يدل ظهور هذا المصطلح على أن الحادث وقع فعليًا أو أن درجة الخطورة ثابتة. يجب تحديد النظام والعملية والبيانات أو الأداة والمالك والنتيجة المتوقعة؛ وقد تتداخل هذه المخاطرة مع مخاطر أخرى في البيانات والنماذج والوكلاء والأمن والتشغيل والحوكمة. تشمل آليات المعالجة المناسبة للسياق اختبار مدخلات مضطربة. ولإثبات الفاعلية يحتاج البنك إلى نتائج اختبارات الثبات مع تحديد بيئة الاختبار وتاريخ الدليل والنسخة وحدود الاستنتاج. لا يُعامل هذا التعريف باعتباره نص التزام صادرًا عن جهة رقابية، بل شرحًا تحليليًا يحتاج ربطًا بمصدر رسمي عند تطبيقه في اختصاص محدد.
مثال عملي
مثال مصرفي افتراضي: حساسية مفرطة لتغيير مدخل. اختبر الضابط عبر اختبار مدخلات مضطربة، ثم اجمع نتائج اختبارات الثبات.