تعرض الأسرار
مفهوم ضمن مخاطر الذكاء الاصطناعي: كشف مفاتيح في السياق.
شرح تفصيلي
تعرض الأسرار يشير في الاستخدام المصرفي إلى حالة خطر محتملة مثل كشف مفاتيح في السياق. لا يدل ظهور هذا المصطلح على أن الحادث وقع فعليًا أو أن درجة الخطورة ثابتة. يجب تحديد النظام والعملية والبيانات أو الأداة والمالك والنتيجة المتوقعة؛ وقد تتداخل هذه المخاطرة مع مخاطر أخرى في البيانات والنماذج والوكلاء والأمن والتشغيل والحوكمة. تشمل آليات المعالجة المناسبة للسياق مخزن أسرار خارج Prompt. ولإثبات الفاعلية يحتاج البنك إلى نتائج فحص التسرب مع تحديد بيئة الاختبار وتاريخ الدليل والنسخة وحدود الاستنتاج. لا يُعامل هذا التعريف باعتباره نص التزام صادرًا عن جهة رقابية، بل شرحًا تحليليًا يحتاج ربطًا بمصدر رسمي عند تطبيقه في اختصاص محدد.
مثال عملي
مثال مصرفي افتراضي: كشف مفاتيح في السياق. اختبر الضابط عبر مخزن أسرار خارج Prompt، ثم اجمع نتائج فحص التسرب.