من أخلاقيات الذكاء الاصطناعي إلى الحوكمة القابلة للتنفيذ

من المبادئ إلى القدرة المؤسسية

أسهمت مبادئ أخلاقيات الذكاء الاصطناعي في تحديد مجموعة واسعة من القيم المهمة، مثل العدالة والشفافية والمساءلة والخصوصية والإشراف البشري.

لكن المؤسسة لا تطبق مبدأً بمجرد إدراجه في سياسة.

لكي يتحول المبدأ إلى حوكمة قابلة للتنفيذ، يجب ربطه بقرار وصاحب مسؤولية وسلطة وإجراء وضابط ودليل ومراقبة.

يمكن تصوير هذا التحول على النحو التالي:

مبدأ → سياسة → ضابط → مالك → عملية → دليل → مراقبة → قرار

المسؤولية تحتاج إلى سلطة

إسناد المسؤولية عن نظام ذكاء اصطناعي إلى شخص أو لجنة لا يكفي إذا لم تكن لديهم صلاحيات فعلية للتقييد أو التصعيد أو التعليق أو الإيقاف.

ولهذا فإن أحد الاختبارات الأساسية للحوكمة هو العلاقة بين المسؤولية وسلطة القرار.

سجل أنظمة الذكاء الاصطناعي

لا يمكن حوكمة ما لا تستطيع المؤسسة تحديده.

يبدأ التنفيذ العملي بقدرة المؤسسة على معرفة الأنظمة المستخدمة، والغرض منها، والمورد أو النموذج، والبيانات، والجهة المالكة، ومستوى المخاطر.

السجل ليس غاية في حد ذاته، لكنه يخلق نقطة بداية للمساءلة والتقييم.

تصنيف المخاطر يجب أن يؤثر في القرار

لا تكمن قيمة تصنيف المخاطر في منح النظام تسمية مثل منخفض أو مرتفع فقط.

القيمة الحقيقية هي أن يؤدي التصنيف إلى اختلاف في متطلبات الحوكمة.

النظام الأعلى خطرًا قد يحتاج أدلة أقوى، ومراجعة أكثر استقلالية، وصلاحيات تدخل أكبر، ومراقبة أكثر انتظامًا، وقيودًا أشد على الاستقلالية.

الحوكمة المبنية على الأدلة

قد توجد سياسة مكتوبة، لكن السؤال هو هل تم تطبيقها؟

لهذا تصبح الأدلة عنصرًا من عناصر الحوكمة نفسها: سجل اعتماد، نتائج اختبار، إعدادات فعلية، سجلات تشغيل، تاريخ تغييرات، أو تحقق مستقل.

لا تعني الحوكمة المبنية على الأدلة أن كل قرار يحتاج تدقيقًا خارجيًا. بل تعني أن الادعاءات الجوهرية يجب أن تستند إلى أساس يمكن فحصه.

الحوكمة عبر دورة الحياة

الحوكمة ليست نقطة موافقة واحدة قبل التشغيل.

يجب أن تمتد إلى التسجيل والتقييم والشراء والتطوير والاختبار والتشغيل والمراقبة والتغيير والحوادث والإيقاف أو الاستبدال.

تغيير النموذج أو الغرض أو مصدر البيانات أو مستوى الاستقلالية قد يغير المخاطر، ولذلك قد يتطلب إعادة التقييم.

المشتريات جزء من الحوكمة

قد تفرض المؤسسة سياسة ممتازة، ثم تتعاقد مع منتج لا يوفر السجلات أو التحكم أو حقوق التدقيق أو القدرة على الخروج.

في هذه الحالة تم تثبيت جزء من فجوة الحوكمة داخل قرار الشراء نفسه.

ولهذا يجب أن تسأل المشتريات ليس فقط عن الوظائف والسعر والأمن، بل أيضًا عن قابلية الحل للحوكمة بعد التعاقد.

الأطراف الثالثة والاعتماديات

استخدام خدمة خارجية لا يلغي مسؤولية المؤسسة.

لكن درجة ما تستطيع المؤسسة فعله قد تكون محدودة بقدرات المورد والعقد والبنية التقنية.

ولهذا يجب فهم الاعتماديات المتعلقة بالنموذج والسحابة والبيانات والتحديث والسجلات والاستمرارية.

الإنسان ليس مجرد موافقة شكلية

الإشراف البشري لا يعني وضع شخص في العملية دون قدرة حقيقية على فهم القرار أو تغييره أو رفضه.

المطلوب هو الحفاظ على الوكالة البشرية عندما تكون ضرورية: قدرة فعلية على التدخل واتخاذ القرار وتحمل المسؤولية.

الحوكمة والإشراف والضمان

الحوكمة تحدد القواعد والسلطات والضوابط.

الإشراف يتابع التطبيق والسلوك ويكشف الانحرافات.

الضمان يختبر مدى قوة الأدلة والثقة في أن الضوابط تعمل كما هو متوقع.

هذه وظائف مترابطة لكنها ليست مترادفات.

من حوكمة الذكاء الاصطناعي إلى الذكاء الاصطناعي القابل للحوكمة

السؤال التالي بعد إنشاء إطار الحوكمة هو:

هل النظام نفسه يسمح للمؤسسة بتنفيذ هذه الحوكمة؟

إذا كانت المؤسسة لا تستطيع تحديد النظام أو التحكم به أو مراقبته أو الاحتفاظ بأدلته أو التدخل فيه، فإن جودة السياسة وحدها لن تغلق الفجوة.

من هنا يظهر مفهوم الذكاء الاصطناعي القابل للحوكمة.

الخلاصة

الانتقال من الأخلاقيات إلى الحوكمة التشغيلية لا يعني التخلي عن المبادئ.

بل يعني تحويلها إلى قدرة مؤسسية قابلة للتطبيق والإثبات.

وهذا يتطلب الانتقال من المبادئ العامة إلى الملكية والسلطة والضوابط والأدلة والمراقبة والتدخل المستمر.