حواجز الحماية
Guardrails
الحواجز (Guardrails) هي ضوابط تقنية تُقيّد سلوك نموذج الذكاء الاصطناعي وتمنعه من تجاوز حدود محددة.
شرح تفصيلي
تشمل الحواجز فلاتر المحتوى الحساس، حدود الأدوات، حدود الطول والصلاحيات، كشف حقن التعليمات، تحقّق المخرجات ضد قواعد، وسياسات رفض. يجب أن تكون قابلة للاختبار، ومسجّلة، وقابلة للتحديث دون إعادة تدريب النموذج. لا تُغني الحواجز عن الحوكمة على مستوى النظام.
مثال عملي
يمنع حاجز الأداة وكيل خدمة العملاء من تنفيذ أي عملية استرداد فوق حد مالي، ويحوّل الطلب إلى موافقة بشرية.