سلطة الوكيل والمساءلة والإشراف البشري في Agentic AI

الخلاصة التنفيذية

أحد أخطر الأسئلة في Agentic AI ليس مدى ذكاء النظام، بل:

من أعطاه السلطة؟

كلما أصبح الوكيل قادرًا على اتخاذ قرار أو تنفيذ إجراء أو إنشاء معاملة، أصبح من الضروري ربط استقلاليته التقنية بمسؤولية بشرية ومؤسسية واضحة.

لا يجوز أن تنتج المؤسسة وضعًا يستطيع فيه النظام الفعل، بينما لا يستطيع أحد الإجابة بوضوح عن:

• من فوضه؟
• من وافق على الصلاحيات؟
• من يراقبه؟
• من يستطيع إيقافه؟
• ومن يتحمل النتيجة؟

هذه المقالة تقدم تحليلًا تشغيليًا من سيادة لمسألة السلطة والمساءلة والإشراف البشري في Agentic AI.

السياق الإماراتي الرسمي

التوجه الإماراتي نحو Agentic AI لا يقدم الأنظمة بوصفها كيانات تعمل خارج الحوكمة المؤسسية.

التحول الحكومي يرتبط بقيادة مؤسسية، وفرق على مستوى الجهات، ومستهدفات، ومؤشرات أداء، وإشراف على التنفيذ.

كما أن ميثاق تطوير واستخدام الذكاء الاصطناعي ومبادئ الأخلاقيات الإماراتية يضعان المساءلة والإشراف والاستخدام المسؤول ضمن بيئة الحوكمة الأوسع.

لكن المصطلحات التشغيلية التفصيلية في هذا المقال تمثل تحليل سيادة وليست قائمة التزامات حكومية منشورة.

الاستقلالية لا تساوي السلطة

Autonomy هي قدرة تقنية.

Authority هي صلاحية مؤسسية.

قد يمتلك النظام قدرة على:

• اختيار مورد.
• إرسال أمر.
• تعديل بيانات.
• إصدار Refund.
• جدولة دفعة.

لكن السلطة للقيام بذلك لا تنتج تلقائيًا من القدرة.

يجب أن تمنحها المؤسسة صراحة وضمن حدود.

من فوّض الوكيل؟

كل وكيل يجب أن يملك Delegation Record قابلًا للتحديد.

يجيب عن:

• من صاحب القرار؟
• لأي غرض؟
• متى بدأ التفويض؟
• ما مدته؟
• ما مستوى الاستقلالية؟
• ما الصلاحيات؟
• ما الشروط؟
• ما القيود؟
• من يستطيع سحبه؟

التفويض المفتوح أو غير الموثق ينتج فجوة مساءلة.

ما هي سلطة الوكيل؟

تقترح سيادة تعريف Agent Authority بأنها:

النطاق المعتمد مؤسسيًا الذي يُسمح للوكيل داخله باتخاذ قرارات أو تنفيذ أفعال لتحقيق هدف محدد.

يمكن أن تكون السلطة:

معلوماتية

قراءة وتحليل.

توصوية

اقتراح قرار.

تنفيذية محدودة

تنفيذ إجراءات منخفضة الأثر.

معاملاتیة

إنشاء معاملات أو التزامات.

عالية الأثر

المساهمة في قرارات تؤثر على حقوق أو أموال أو فرص أو سلامة أشخاص.

كل مستوى يحتاج حوكمة مختلفة.

أين تبقى المساءلة؟

النظام ليس بديلًا عن Accountability Structure.

ينبغي تحديد:

• Executive Owner.
• Process Owner.
• System Owner.
• Risk Owner.
• Security Owner.
• Data Owner.
• Human Approver عند الحاجة.

قد يجمع شخص واحد أكثر من دور في مؤسسة صغيرة.

لكن الوظائف نفسها يجب ألا تختفي.

خريطة المسؤوليات المؤسسية

نموذج مبسط:

هذا نموذج سيادة، وليس هيكلًا حكوميًا إماراتيًا مفروضًا.

Human-in-the-Loop

يكون الإنسان داخل الحلقة عندما لا يتم الفعل إلا بعد موافقته.

مناسب عندما:

• أثر القرار مرتفع.
• الرجوع صعب.
• توجد معاملة مالية مهمة.
• توجد حقوق أو التزامات.
• درجة عدم اليقين عالية.

لكن HITL لا يكون مفيدًا إذا أصبح الإنسان يوافق آليًا دون فهم.

هذا يسمى أحيانًا Rubber-Stamp Oversight.

Human-on-the-Loop

في هذا النموذج يعمل الوكيل بصورة مستقلة ضمن حدود، بينما يراقب الإنسان الأداء ويستطيع التدخل.

يناسب العمليات:

• المتكررة.
• منخفضة أو متوسطة الأثر.
• سريعة.
• القابلة للإلغاء.
• ذات مؤشرات واضحة للكشف عن الانحراف.

الشرط الأساسي:

أن يكون التدخل واقعيًا وفي الوقت المناسب.

Human Override

وجود مراقب لا يكفي.

يجب أن توجد قدرة حقيقية على:

• إلغاء القرار.
• إيقاف التنفيذ.
• تعديل المسار.
• تعليق الوكيل.
• سحب الصلاحية.

إذا كان الإنسان "مسؤولًا" لكنه لا يستطيع التدخل، فالإشراف ضعيف تصميميًا.

التصعيد والاستثناءات

الوكيل الجيد لا يجب أن يحاول حل كل شيء.

يجب تحديد Escalation Triggers مثل:

• ثقة منخفضة.
• حالة غير مألوفة.
• قيمة مالية مرتفعة.
• تضارب قواعد.
• بيانات ناقصة.
• شخص عالي المخاطر.
• طلب يتجاوز السلطة.
• فشل Tool.
• اشتباه أمني.

أحيانًا أفضل قرار للوكيل هو:

توقف واطلب من الإنسان القرار.

سلطة المعاملات

Transaction Authority تحتاج طبقة مستقلة.

يجب تحديد:

• أنواع المعاملات.
• القيمة القصوى.
• الحد اليومي.
• الأطراف المسموحة.
• الحسابات.
• المنطقة الجغرافية.
• وقت التنفيذ.
• الموافقات.
• المعاملات المحظورة.

مثلًا:

يمكن للوكيل إنشاء Draft Purchase Order حتى 10,000 درهم.

لكن الإرسال النهائي يحتاج موافقة بشرية.

هذه ليست توصية تنظيمية إماراتية محددة، بل مثال على تصميم حوكمة.

القرارات عالية الأثر

كلما ارتفع أثر القرار، يجب أن تنخفض الاستقلالية غير المقيدة.

من الأمثلة:

• توظيف شخص.
• رفض تمويل.
• وقف خدمة أساسية.
• إجراء صحي.
• قرار متعلق بطفل.
• عقوبة.
• معاملة مالية كبيرة.
• وصول إلى بنية حرجة.

هنا يجب تقييم ما إذا كان القرار مناسبًا أصلًا للتنفيذ الوكيلي المستقل.

إثبات الإشراف والمساءلة

لا يكفي القول:

"يوجد Human Oversight."

يجب أن توجد أدلة.

مثل:

• سجل الموافقات.
• سجل التدخل.
• عدد الحالات المصعدة.
• قرارات override.
• تغييرات الصلاحيات.
• زمن استجابة المشرف.
• حالات الإيقاف.
• مراجعات ما بعد الحوادث.

الحوكمة التي لا تترك Evidence صعبة التدقيق.

ماذا يحدث عند الخطأ؟

قبل الإنتاج يجب أن يعرف الفريق إجابة أربعة أسئلة:

من يكتشف؟

Monitoring.

من يوقف؟

Intervention Authority.

من يعالج؟

Incident Owner.

من يقرر العودة؟

Recovery Authority.

وفي الحالات المؤثرة:

من يقبل المخاطر المتبقية؟

Risk Acceptance Authority.

نموذج سيادة للسلطة والمساءلة

يمكن فحص كل وكيل من خلال التسلسل:

Delegator → Agent Authority → Action Boundary → Human Control → Evidence → Accountable Owner

إذا كانت أي حلقة مجهولة، فالمنظومة غير مكتملة حوكمياً.

أخطاء شائعة

"الذكاء الاصطناعي اتخذ القرار"

هذه جملة تقنية وليست جوابًا عن المساءلة.

وضع إنسان لا يستطيع التدخل

وجود اسم في السياسة لا يعني وجود إشراف فعال.

منح السلطة للفريق التقني وحده

سلطة الأعمال يجب أن تبقى مرتبطة بمالك العملية.

عدم تحديد transaction limits

خصوصًا للوكلاء الماليين والتجاريين.

اعتماد HITL لكل شيء

قد يهزم هدف الأتمتة ويؤدي إلى موافقات شكلية.

غياب التصعيد

الوكيل الذي لا يعرف متى يتوقف يشكل خطرًا أكبر.

خلاصة سيادة

Agentic AI لا يلغي المساءلة؛ بل يجعل تصميمها أكثر أهمية.

القاعدة الأساسية هي:

Every autonomous action must trace back to human or institutional authority.

الاستقلالية التقنية يمكن أن تكون موزعة على آلاف القرارات.

لكن المسؤولية المؤسسية يجب ألا تصبح موزعة إلى درجة لا يمكن تحديدها.

لذلك يجب أن نعرف دائمًا:

من فوّض؟ من سمح؟ من راقب؟ من يستطيع التدخل؟ ومن يتحمل النتيجة؟