ما معنى "الذكاء الاصطناعي القابل للحوكمة"؟

ما هو الذكاء الاصطناعي القابل للحوكمة؟

الذكاء الاصطناعي القابل للحوكمة هو نظام تستطيع المؤسسة التعرف عليه، وإسناد المسؤولية عنه، وفهم الغرض منه وبياناته ومخاطره، وفرض ضوابط عليه، والاحتفاظ بأدلة حول تشغيله، ومراقبته، والتدخل فيه أو إيقافه عند الحاجة.

هذا لا يعني أن النظام يخلو من المخاطر.

بل يعني أن المؤسسة تملك قدرة عملية كافية لإدارة تلك المخاطر ضمن سياق الاستخدام.

لماذا نحتاج مفهوم قابلية الحوكمة؟

قد تمتلك المؤسسة إطار حوكمة متقدمًا، لكن بعض الأنظمة التي تستخدمها قد لا تسمح بتطبيق متطلباته فعليًا.

يمكن أن يفتقر النظام إلى سجلات كافية، أو يخفي إصدار النموذج، أو يمنع المؤسسة من تقييد بعض الوظائف، أو يعتمد على مورد لا يوفر وسيلة مناسبة للتدخل أو الخروج.

هذه ليست فجوة في السياسة فقط، بل فجوة في قابلية النظام للحوكمة.

القدرة التقنية ليست سلطة

وجود وظيفة داخل النظام لا يعني أن المؤسسة يجب أن تسمح باستخدامها.

وقدرة Agent على تنفيذ إجراء لا تعني أنه مخول بتنفيذه.

لذلك يفرق مفهوم قابلية الحوكمة بين Capability وAuthority.

يجب أن تكون السلطة الممنوحة للنظام محدودة بالغرض والمخاطر والضوابط ومستوى الثقة.

قابلية الحوكمة ليست مجرد شفافية

قد تكون المؤسسة قادرة على معرفة ما يفعله النظام، لكنها لا تستطيع تغييره أو تقييده.

وقد تستطيع إيقافه لكنها لا تستطيع إثبات ما حدث سابقًا.

لهذا تحتاج قابلية الحوكمة إلى مزيج من الهوية والملكية والسلطة والتحكم والأدلة والمراقبة والتدخل.

فجوة قابلية الحوكمة

إذا احتاج نظام مرتفع الأثر مستوى قويًا من التدخل والتتبع، بينما لا يوفر المورد سوى رؤية محدودة، تظهر فجوة بين المطلوب والمتاح.

هذه هي فجوة قابلية الحوكمة.

ولا ينبغي اختزالها في متوسط واحد، لأن ضعفًا حرجًا في القدرة على التدخل قد يكون أهم من درجات مرتفعة في جوانب أخرى.

سقف قابلية الحوكمة

بعض الأنظمة لها حدود لا تستطيع المؤسسة تجاوزها مهما حسنت عملياتها الداخلية.

قد لا يتيح المورد سجلات مفصلة، أو قد يفرض تحديثات لا يمكن تجميدها، أو لا يوفر إمكانية نقل البيانات أو تغيير النموذج.

هذه الحدود تحدد سقف قابلية الحوكمة: أعلى مستوى تستطيع المؤسسة بلوغه في البنية الحالية.

قابلية الحوكمة بالتصميم

أفضل وقت لمعالجة قابلية الحوكمة ليس بعد التشغيل.

يمكن تصميم أو شراء الأنظمة بحيث تدعم الهوية والتتبع والتحكم والمراقبة والتدخل منذ البداية.

هذا هو مفهوم قابلية الحوكمة بالتصميم.

الأدلة وسقف الادعاء

إذا ادعت المؤسسة أن النظام خاضع لضابط معين، يجب أن يتوفر دليل مناسب على ذلك.

قد يكون الدليل وثيقة أو إعدادًا تقنيًا أو سجل تشغيل أو نتيجة اختبار أو مراجعة مستقلة.

كلما ارتفعت المخاطر، ازدادت أهمية جودة الأدلة.

ولهذا لا يسمح الإطار بأن يتجاوز تقييم الحوكمة ما تستطيع الأدلة إثباته.

الذكاء الاصطناعي الوكيل

تزداد أهمية قابلية الحوكمة عندما ينتقل AI من تقديم مخرجات إلى تنفيذ أفعال.

يجب عندها تحديد هوية الوكيل، وما تم تفويضه به، والأدوات التي يستطيع استخدامها، والحدود المالية أو التشغيلية، والحالات التي تتطلب موافقة بشرية، وكيفية تسجيل أفعاله.

القاعدة:

Autonomy ≤ Governability

الأنظمة الخارجية

قد تكون الخدمة الخارجية مفيدة وقوية، لكن المؤسسة تحتاج إلى فهم حدود سيطرتها عليها.

هل تستطيع معرفة النموذج المستخدم؟ هل تحصل على إشعار بالتغييرات الجوهرية؟ هل تستطيع الوصول إلى السجلات؟ هل تستطيع منع إعادة استخدام البيانات؟ هل تستطيع الخروج من الخدمة دون فقد بياناتها أو أدلتها؟

هذه الأسئلة تجعل قابلية الحوكمة جزءًا من تقييم المورد والتعاقد، وليس مجرد عملية داخلية بعد الشراء.

القابلية السيادية

قابلية الحوكمة لا تعني بالضرورة أن المؤسسة تملك كل مكونات النظام.

لكنها تحتاج إلى الاحتفاظ بسلطة كافية على الوظائف الحرجة والبيانات والقرارات والاستمرارية.

قد تكون الاستضافة محلية، بينما تظل سلطة التحديث أو التشغيل أو النموذج لدى طرف خارجي.

لذلك:

Local Hosting ≠ Sovereignty

النظام القابل للحوكمة ليس نظامًا ثابتًا

قد يكون النظام قابلًا للحوكمة اليوم ثم تتغير حالته لاحقًا.

تغيير النموذج أو المورد أو البيانات أو التكاملات أو مستوى الاستقلالية قد يخلق فجوات جديدة.

لهذا يجب إعادة التقييم عند التغيير الجوهري.

السؤال العملي

عندما تنظر المؤسسة إلى نظام AI، يمكن اختصار مفهوم قابلية الحوكمة في مجموعة أسئلة:

هل نعرفه؟ من يملكه؟ من يملك السلطة عليه؟ لماذا نستخدمه؟ هل نفهم بياناته ومخاطره؟ هل نستطيع فرض الضوابط؟ هل نستطيع إثبات ذلك؟ هل نراقبه؟ هل نستطيع التدخل؟

إذا لم تستطع المؤسسة الإجابة عن هذه الأسئلة بدرجة تتناسب مع مخاطر الاستخدام، فهناك فجوة في قابلية الحوكمة تحتاج إلى معالجة.

الخلاصة

الذكاء الاصطناعي القابل للحوكمة ليس تصنيفًا تقنيًا للنماذج، بل وصف لعلاقة عملية بين المؤسسة والنظام.

الهدف ليس تحقيق سيطرة مطلقة، بل الحفاظ على مستوى كافٍ من الرؤية والمسؤولية والسلطة والتحكم والأدلة والمراقبة والتدخل بما يتناسب مع المخاطر.