ضعف معالجة المخرجات
مفهوم ضمن مخاطر الذكاء الاصطناعي: تحويل نص غير موثوق إلى أمر تنفيذي.
شرح تفصيلي
ضعف معالجة المخرجات يشير في الاستخدام المصرفي إلى حالة خطر محتملة مثل تحويل نص غير موثوق إلى أمر تنفيذي. لا يدل ظهور هذا المصطلح على أن الحادث وقع فعليًا أو أن درجة الخطورة ثابتة. يجب تحديد النظام والعملية والبيانات أو الأداة والمالك والنتيجة المتوقعة؛ وقد تتداخل هذه المخاطرة مع مخاطر أخرى في البيانات والنماذج والوكلاء والأمن والتشغيل والحوكمة. تشمل آليات المعالجة المناسبة للسياق تحقق بنيوي وحدود تنفيذ. ولإثبات الفاعلية يحتاج البنك إلى سجلات رفض المخرجات مع تحديد بيئة الاختبار وتاريخ الدليل والنسخة وحدود الاستنتاج. لا يُعامل هذا التعريف باعتباره نص التزام صادرًا عن جهة رقابية، بل شرحًا تحليليًا يحتاج ربطًا بمصدر رسمي عند تطبيقه في اختصاص محدد.
مثال عملي
مثال مصرفي افتراضي: تحويل نص غير موثوق إلى أمر تنفيذي. اختبر الضابط عبر تحقق بنيوي وحدود تنفيذ، ثم اجمع سجلات رفض المخرجات.