سيادة AI
قاموس المصطلحات/عبور حدود الثقة بالتعليمات

عبور حدود الثقة بالتعليمات

Instruction Trust-Boundary Crossing

انتقال محتوى أقل ثقة ليؤثر في تعليمات أو قرارات ذات سلطة أعلى.

شرح تفصيلي

يحدث حين يُعامل محتوى مسترجع أو نتيجة أداة أو رسالة طرف ثالث كتعليمة تشغيل مصرح بها بدلاً من كونها مادة معلوماتية. يُختبر الضابط عند نقطة اتخاذ القرار أو استدعاء الأداة، مع إثبات مصدر المحتوى وتفويض المستخدم وحدود الرؤية. ولا يكفي اعتبار أي استجابة غير مناسبة دليلاً على تنفيذ أثر في النظام الخلفي.

مثال عملي

ملف مورد يوجه الوكيل لطلب أداة لا تدخل ضمن صلاحية موظف القراءة.

انضم لمجتمع سيادة AI التفاعلي على واتساب

كن جزءًا من مجتمع المهتمين بحوكمة الذكاء الاصطناعي وسيادته، وتابع النقاشات والمستجدات.

انضم الآن