حد الثقة في نظام الذكاء الاصطناعي
AI Trust Boundary
نقطة انتقال بيانات أو تعليمات أو أفعال بين سياقين مختلفين في الثقة أو السلطة.
شرح تفصيلي
قد يقع الحد بين مستخدم وتطبيق، أو مستند مسترجع وتعليمات النظام، أو اقتراح وكيل وأداة تنفيذ، أو مستأجرين. لا يصبح النص غير الموثوق تفويضاً لمجرد وجوده داخل سياق النموذج. ينبغي تسجيل الجهة التي تعبر الحد والضابط الذي يحكم عبورها والدليل الذي يثبت عمل ذلك الضابط. يفيد المفهوم في رسم التدفقات وتحديد اختبارات هجوم ذات أثر واقعي.
مثال عملي
انتقال تعليمات داخل ملف مورد غير موثوق إلى قرار استدعاء أداة تعديل معاملات.