حقن التعليمات واختطاف الهدف
مفهوم ضمن مخاطر الذكاء الاصطناعي: تعليمات عدائية في ملف مسترجع.
شرح تفصيلي
حقن التعليمات واختطاف الهدف يشير في الاستخدام المصرفي إلى حالة خطر محتملة مثل تعليمات عدائية في ملف مسترجع. لا يدل ظهور هذا المصطلح على أن الحادث وقع فعليًا أو أن درجة الخطورة ثابتة. يجب تحديد النظام والعملية والبيانات أو الأداة والمالك والنتيجة المتوقعة؛ وقد تتداخل هذه المخاطرة مع مخاطر أخرى في البيانات والنماذج والوكلاء والأمن والتشغيل والحوكمة. تشمل آليات المعالجة المناسبة للسياق فصل الثقة وتفويض الأدوات. ولإثبات الفاعلية يحتاج البنك إلى اختبار منع الفعل مع تحديد بيئة الاختبار وتاريخ الدليل والنسخة وحدود الاستنتاج. لا يُعامل هذا التعريف باعتباره نص التزام صادرًا عن جهة رقابية، بل شرحًا تحليليًا يحتاج ربطًا بمصدر رسمي عند تطبيقه في اختصاص محدد.
مثال عملي
مثال مصرفي افتراضي: تعليمات عدائية في ملف مسترجع. اختبر الضابط عبر فصل الثقة وتفويض الأدوات، ثم اجمع اختبار منع الفعل.