Runtime Controls: التحكم في الأفعال لا الجلسات فقط

مقدمة

الضابط الأكثر أثراً في المنظومة الوكيلية يقع في نقطة واحدة: اللحظة التي يوشك فيها الوكيل على استدعاء أداة. قبلها كل شيء نص، وبعدها كل شيء واقع. من يملك التحكم في هذه النقطة يملك التحكم في نطاق الضرر.

المفهوم الأساسي

ضابط التشغيل الجيد يقيّم أربعة عناصر قبل السماح: الهوية التي تطلب الفعل، الأداة المستهدفة، المعطيات الممرَّرة، ومصدر المدخل الذي أدى إلى القرار. القرار الناتج ليس ثنائياً فقط، بل ثلاثي: سماح، أو منع، أو تصعيد لموافقة بشرية.

عناصر مكمّلة ضرورية: حدود معدل وحجم للعمليات الحساسة، قوائم وجهات مسموحة للإرسال والاتصال، فصل صريح بين أدوات القراءة وأدوات الكتابة، ومفتاح إيقاف فوري يعطّل وكيلاً بعينه دون إسقاط الخدمة كلها.

الفارق الجوهري عن ضوابط الجلسات أن القرار يتخذ لكل فعل على حدة، فلا تكفي المصادقة في بداية الجلسة لتبرير كل ما يليها.

مثال عملي

وكيل مالي مسموح له بإنشاء أوامر دفع بحد أقصى منخفض. جاءت تعليمة مدسوسة تطلب دفعة كبيرة لجهة جديدة. تجاوز الطلب حد المبلغ وخرجت الجهة عن قائمة المستفيدين المعتمدين، فصعّد الضابط الطلب لموافقة بشرية بدل تنفيذه. المنع وقع عند نقطة الفعل، لا بعد اكتشاف الحادث.

أخطاء شائعة

• الاكتفاء بمصادقة الجلسة كضمانة لكل الأفعال اللاحقة.
• بناء الضابط داخل الوكيل نفسه، فيمكن للسياق التأثير فيه.
• تفعيل وضع المراقبة فقط دون الانتقال إلى المنع الفعلي.
• غياب مفتاح إيقاف يعمل على مستوى وكيل واحد.

قائمة تحقق عملية

• [ ] نقطة تحكم مستقلة عن الوكيل تعترض استدعاءات الأدوات
• [ ] تقييم الهوية والأداة والمعطيات ومصدر المدخل في كل قرار
• [ ] قرار ثلاثي: سماح ومنع وتصعيد لموافقة بشرية
• [ ] حدود معدل وحجم للعمليات الحساسة
• [ ] قوائم وجهات مسموحة للإرسال والاتصال الخارجي
• [ ] فصل صريح بين أدوات القراءة وأدوات الكتابة
• [ ] مفتاح إيقاف فوري على مستوى الوكيل الواحد
• [ ] تسجيل كل قرار سماح أو منع مع سببه
• [ ] مراجعة دورية لقرارات المنع لضبط السياسات

الإسناد إلى المعايير

ضوابط زمن التشغيل هي التحقق العملي من وظيفة الإدارة في NIST AI RMF ومن بنود الضوابط التشغيلية في ISO/IEC 42001. كما تعالج مباشرة أنماط OWASP المتعلقة بالاستقلالية المفرطة وسوء استخدام الأدوات، وتوفّر أثر الإشراف البشري الذي يتوقعه قانون الاتحاد الأوروبي في الحالات عالية المخاطر.

الخطر والضابط والدليل

ماذا تطبق عملياً؟

• ضع نقطة تحكم أمام كل أداة عالية الأثر.
• طبّق قواعد منع لحظية على الأفعال الخارجة عن النطاق.
• اشترط تأكيداً بشرياً للأفعال غير القابلة للتراجع.
• فعّل زر إيقاف فوري لكل وكيل عالي الخطورة.
• سجّل قرار كل ضابط تحكم بالسماح أو المنع.

أدلة ومخرجات

• سياسة التحكم اللحظي (Runtime Control Policy)
• سجل قرارات التحكم (Runtime Control Decision Log)
• سجل الإيقاف الطارئ (Emergency Stop Record)

أسئلة تحقق

• أي الأدوات مصنّفة عالية الأثر ومن صنّفها؟
• هل توجد نقطة تحكم فعلية أمام كل أداة عالية الأثر؟
• كيف تُوثَّق قرارات السماح والمنع اللحظية؟
• من يملك صلاحية الإيقاف الفوري وكم يستغرق تنفيذه؟
• هل الأفعال غير القابلة للتراجع تتطلب تأكيداً بشرياً دائماً؟

مؤشرات قياس

• نسبة الأدوات عالية الأثر خلف نقطة تحكم.
• عدد محاولات الأفعال الممنوعة خلال الشهر.
• زمن إيقاف الوكيل عالي الخطورة.
• نسبة الأفعال غير القابلة للتراجع التي مرّت بتأكيد بشري.

خلاصة عملية

ضع نقطة القرار خارج الوكيل وقبل تنفيذ الفعل، وقيّم الهوية والأداة والمعطيات والمصدر معاً، واحتفظ دائماً بخيار التصعيد البشري ومفتاح الإيقاف الفوري.