الميثاق ليس بديلًا عن القانون؛ قيمته في توجيه تصميم الحوكمة المؤسسية وربط الاستخدام المسؤول بالمتطلبات القانونية والتنظيمية.
الخلاصة التنفيذية
يمثل ميثاق تطوير واستخدام الذكاء الاصطناعي في دولة الإمارات طبقة مهمة ضمن منظومة الحوكمة الوطنية للذكاء الاصطناعي.
يربط الميثاق تطوير التقنية واستخدامها بمجموعة من التوقعات والمبادئ المتعلقة بالاستخدام المسؤول، والالتزام بالقوانين، والشفافية، والمساءلة، والإشراف البشري، والخصوصية، والسلامة والأمن.
لكن يجب فهم مكانه الصحيح داخل المشهد التنظيمي.
الميثاق ليس قانونًا اتحاديًا شاملًا للذكاء الاصطناعي، ولا ينبغي استخدامه كبديل عن تحليل القوانين واللوائح والمتطلبات التنظيمية التي تنطبق على المؤسسة أو حالة الاستخدام.
قيمته الأساسية تظهر عندما تستخدمه المؤسسة كمرجع لتطوير نموذج حوكمة داخلي يربط المبادئ العامة بقرارات وضوابط ومسؤوليات وأدلة قابلة للمراجعة.
بمعنى آخر:
الميثاق يعطي اتجاهًا للحوكمة المسؤولة، بينما يحدد التحليل القانوني والتنظيمي المستقل الالتزامات الملزمة التي يجب على المؤسسة الوفاء بها.
ما هو ميثاق تطوير واستخدام الذكاء الاصطناعي؟
الميثاق وثيقة وطنية تعكس توجه دولة الإمارات نحو تطوير الذكاء الاصطناعي واستخدامه بصورة مسؤولة وآمنة ومتوافقة مع القيم والقوانين والأهداف الوطنية.
ولا يتعامل مع الذكاء الاصطناعي باعتباره مسألة تقنية فقط.
بل يربط استخدامه بمجموعة من الاعتبارات التي تشمل:
- المسؤولية.
- الشفافية.
- الإشراف البشري.
- حماية الخصوصية.
- السلامة والأمن.
- الالتزام بالقوانين والأنظمة.
- الاستخدام المسؤول للتقنية.
- الثقة في الأنظمة والنتائج.
وهذا يجعل الميثاق ذا قيمة خاصة للمؤسسات التي تريد الانتقال من استخدام أدوات الذكاء الاصطناعي بصورة متفرقة إلى بناء إطار مؤسسي واضح لاستخدامها.
ما الذي يمثله الميثاق؟
يمكن فهم الميثاق على أنه أداة سياسة وحوكمة وطنية تساعد على توجيه طريقة تطوير الذكاء الاصطناعي واستخدامه.
فهو يقدم اتجاهًا يمكن للمؤسسات الاستفادة منه عند صياغة:
- سياسات الذكاء الاصطناعي.
- مبادئ الاستخدام المسؤول.
- نماذج المسؤولية.
- متطلبات الإشراف البشري.
- ضوابط الخصوصية والأمن.
- عمليات تقييم حالات الاستخدام.
- آليات التوثيق والمراجعة.
لكن الميثاق لا يقدم، بمفرده، خريطة كاملة لكل التزامات المؤسسة القانونية والتنظيمية.
ولهذا يجب قراءته ضمن منظومة أوسع.
ما الذي لا يمثله الميثاق؟
هناك ثلاثة أخطاء يجب تجنبها.
ليس قانونًا اتحاديًا شاملًا للذكاء الاصطناعي
لا ينبغي وصف الميثاق على أنه «قانون الذكاء الاصطناعي الإماراتي».
فطبيعته ووظيفته تختلفان عن القانون أو المرسوم بقانون أو اللائحة التنظيمية الملزمة.
ليس بديلًا عن تحليل الامتثال
إذا كانت المؤسسة تستخدم بيانات شخصية أو تعمل في قطاع منظم أو داخل ولاية تنظيمية خاصة، فيجب أن تحدد القوانين واللوائح الفعلية التي تنطبق عليها.
اتباع الميثاق لا يعفي المؤسسة من هذا التحليل.
ليس بيانًا رمزيًا فقط
في الاتجاه الآخر، لا ينبغي التقليل من أهميته لمجرد أنه ليس قانونًا شاملًا.
يمكن استخدامه بصورة عملية لتطوير توقعات داخلية واضحة حول كيفية إدارة الذكاء الاصطناعي بصورة مسؤولة.
العلاقة بين الميثاق والقوانين المعمول بها
من أهم عناصر الميثاق ربط استخدام الذكاء الاصطناعي بالالتزام بالقوانين والقواعد المعمول بها.
هذه النقطة تمنع خطأ شائعًا في حوكمة الذكاء الاصطناعي:
اعتبار أن وجود سياسة AI داخلية يكفي لتحقيق الامتثال.
السياسة الداخلية قد تكون جيدة، لكنها لا تحدد وحدها الوضع القانوني للمؤسسة.
يجب تحليل الأسئلة التالية بصورة مستقلة:
- ما الكيان القانوني الذي يستخدم النظام؟
- أين يعمل؟
- ما الولاية التنظيمية؟
- ما القطاع؟
- ما البيانات التي يعالجها النظام؟
- هل توجد بيانات شخصية أو حساسة؟
- ما القرار أو الإجراء الذي يؤثر فيه؟
- هل توجد جهة رقابية مختصة؟
- هل توجد قواعد قطاعية أو خاصة بالاختصاص؟
بعد ذلك يمكن ترجمة القواعد القانونية ذات الصلة إلى ضوابط داخل إطار الحوكمة المؤسسية.
إذن العلاقة الأفضل هي:
الميثاق → توجه الحوكمة
و:
القانون واللوائح → الالتزامات الملزمة
ثم:
السياسات والضوابط الداخلية → التنفيذ المؤسسي
المسؤولية والمساءلة
كلما ازدادت قدرة نظام الذكاء الاصطناعي، أصبحت مسألة المسؤولية أكثر أهمية.
إذا استخدمت المؤسسة النظام للمساعدة في اتخاذ قرار أو إنتاج محتوى أو تحليل بيانات أو تنفيذ إجراء، يجب أن تظل قادرة على تحديد:
- من يملك حالة الاستخدام.
- من وافق عليها.
- من يملك البيانات.
- من يحدد حدود النظام.
- من يراقب أداءه.
- من يعالج الحوادث.
- من يملك صلاحية التدخل أو الإيقاف.
- من يتحمل المسؤولية المؤسسية عن النتيجة.
المبدأ المهم هو أن استخدام الذكاء الاصطناعي لا ينبغي أن يؤدي إلى اختفاء المسؤولية داخل عبارة مثل:
«النظام قرر».
المنظمة تحتاج دائمًا إلى سلسلة واضحة للمساءلة البشرية والمؤسسية.
الشفافية
الشفافية تساعد على بناء الثقة وفهم كيفية استخدام الذكاء الاصطناعي.
لكنها لا تعني كشف كل التفاصيل التقنية في جميع الحالات.
المستوى المناسب من الشفافية يعتمد على السياق.
يمكن أن يشمل:
- توضيح استخدام الذكاء الاصطناعي عندما يكون ذلك ذا صلة.
- بيان الغرض من النظام.
- تحديد الجهة المسؤولة عنه.
- توضيح حدود النظام أو القيود المهمة.
- إعطاء المستخدم معلومات مناسبة لفهم دوره وتأثيره.
- توثيق كيفية استخدام النظام داخليًا.
- توفير المعلومات اللازمة للمراجعة أو التدقيق.
الشفافية ليست مجرد إشعار
عبارة مثل:
«تم إنشاء هذا المحتوى باستخدام AI»
قد تكون مفيدة في بعض الحالات، لكنها لا تكفي وحدها لإثبات الحوكمة.
المؤسسة تحتاج أيضًا إلى معرفة من يتحمل المسؤولية، وما الضوابط، وما البيانات، وكيف تم تقييم المخاطر.
الإشراف البشري
الإشراف البشري من أهم آليات الحفاظ على السيطرة المؤسسية على استخدام الذكاء الاصطناعي.
لكن يجب تصميمه بناءً على مستوى المخاطر وطبيعة النظام.
ليس كل استخدام يحتاج إلى المستوى نفسه من التدخل البشري.
قد تتراوح الآليات بين:
- مراجعة بشرية للمخرجات.
- موافقة بشرية قبل تنفيذ إجراء.
- مراقبة بشرية مستمرة.
- صلاحية تجاوز قرار النظام.
- تصعيد حالات معينة.
- تعليق النظام.
- إيقافه بالكامل.
السؤال الصحيح ليس فقط:
هل يوجد إنسان في العملية؟
بل:
هل يمتلك هذا الإنسان المعلومات والصلاحية والوقت والقدرة الفعلية على التدخل؟
إذا كان الإنسان لا يستطيع فهم ما يحدث أو لا يستطيع إيقاف النظام عند الحاجة، فقد يكون الإشراف شكليًا فقط.
الخصوصية وحماية البيانات
الخصوصية عنصر أساسي في الاستخدام المسؤول للذكاء الاصطناعي.
وتصبح أكثر أهمية عندما تستخدم الأنظمة:
- بيانات العملاء.
- بيانات الموظفين.
- بيانات المستخدمين.
- بيانات صحية أو مالية.
- معلومات تعريفية.
- مستندات داخلية.
- محادثات أو مطالبات تحتوي على معلومات حساسة.
يجب أن تفهم المؤسسة دورة حياة البيانات بالكامل:
الجمع → الاستخدام → المعالجة → الوصول → النقل → التخزين → الاحتفاظ → الحذف
وفي بيئة الذكاء الاصطناعي، يجب إضافة أسئلة مثل:
- هل تدخل البيانات إلى نموذج خارجي؟
- هل يحتفظ بها المزود؟
- هل تستخدم لتحسين الخدمة أو النموذج؟
- أين تتم المعالجة؟
- من الأطراف التي يمكن أن تصل إليها؟
- هل يمكن أن تظهر معلومات حساسة في المخرجات؟
الميثاق لا يستبدل قانون حماية البيانات
حتى إذا وضعت المؤسسة ضوابط ممتازة مستندة إلى مبادئ الميثاق، فإنها تحتاج بصورة مستقلة إلى تحديد نظام حماية البيانات الذي ينطبق عليها.
السلامة والأمن
استخدام الذكاء الاصطناعي بطريقة مسؤولة يتطلب النظر إلى السلامة والأمن منذ التصميم وليس بعد وقوع الحادث.
يجب أن يشمل ذلك:
- التحكم في الوصول.
- حماية البيانات.
- إدارة الأسرار والمفاتيح.
- اختبار النظام.
- حماية التكاملات.
- مراقبة السلوك.
- تسجيل الأحداث المهمة.
- الاستجابة للحوادث.
- مراجعة الموردين.
- إدارة التغييرات.
مع الأنظمة التوليدية، يجب أيضًا التفكير في مخاطر مثل:
- التعليمات الضارة أو المضللة.
- تسريب المعلومات.
- المخرجات غير الصحيحة.
- الاستخدام غير المصرح به.
- الاعتماد المفرط على النتائج.
ومع الأنظمة الوكيلية، تتوسع المسألة إلى ما هو أبعد من المخرجات.
السؤال يصبح:
ما الأنظمة والأدوات والإجراءات التي يستطيع الذكاء الاصطناعي الوصول إليها وتنفيذها؟
من الذكاء الاصطناعي الذي يوصي إلى الذكاء الاصطناعي الذي ينفذ
هناك فرق حوكمي مهم بين نظام:
يقدم توصية
ونظام:
ينفذ إجراء.
إذا كان النظام يقدم مسودة رسالة فقط، فإن مستوى السلطة الممنوحة له محدود.
لكن إذا كان يستطيع:
- إرسال الرسالة.
- تعديل سجل.
- إنشاء طلب.
- تحويل ملف.
- تشغيل عملية.
- استدعاء نظام آخر.
- الموافقة على خطوة.
- تنفيذ معاملة.
فإن المؤسسة أصبحت أمام سؤال يتعلق بالسلطة وليس فقط بجودة المخرجات.
لهذا يصبح تطبيق مبادئ الميثاق على الأنظمة الوكيلية مرتبطًا بأسئلة مثل:
- ما الهدف المفوض للنظام؟
- ما الصلاحيات التي يملكها؟
- ما حدود الإجراءات؟
- ما الأنظمة التي يستطيع الوصول إليها؟
- ما الذي يحتاج إلى موافقة بشرية؟
- ما الذي يمنع النظام من تجاوزه؟
- كيف تسجل أفعاله؟
- من يستطيع التدخل؟
- من يستطيع إيقافه؟
كلما زادت قدرة النظام على الفعل، يجب أن تصبح حدود السلطة والمساءلة أكثر وضوحًا.
كيف يتحول الميثاق إلى حوكمة مؤسسية؟
المشكلة الشائعة في مواثيق ومبادئ الذكاء الاصطناعي هي التوقف عند مستوى اللغة العامة.
يمكن للمؤسسة تجاوز ذلك باستخدام التسلسل:
المبدأ → التوقع الداخلي → الخطر → الضابط → المسؤول → الدليل → المراقبة
على سبيل المثال:
الإشراف البشري
↓
توقع داخلي بأن القرارات عالية التأثير لا تنفذ دون آلية تدخل مناسبة
↓
خطر تنفيذ نتيجة خاطئة أو غير مناسبة
↓
ضابط موافقة أو مراجعة بشرية
↓
مالك العملية
↓
سجل الموافقة والتدخلات
↓
مراقبة الاستثناءات والحوادث
بهذه الطريقة يصبح الميثاق جزءًا من نظام الحوكمة وليس مجرد وثيقة مرجعية.
ما الذي يجب أن تحتويه سياسة الذكاء الاصطناعي الداخلية؟
عند استخدام الميثاق كمرجع لتطوير سياسة داخلية، من المفيد أن تغطي السياسة على الأقل:
النطاق
ما الأنظمة والأدوات والاستخدامات التي تشملها السياسة؟
المسؤوليات
من يملك الحوكمة؟ ومن يملك حالات الاستخدام؟
الاستخدامات المسموحة والمقيدة
ما الذي يستطيع الموظفون فعله؟ وما الذي يحتاج إلى موافقة؟
البيانات
ما المعلومات التي يسمح بإدخالها إلى الأنظمة المختلفة؟
التقييم
متى يجب إجراء تقييم للمخاطر؟
الموردون
كيف تتم مراجعة الأنظمة الخارجية والعقود والاعتماديات؟
الإشراف البشري
ما القرارات أو الإجراءات التي تحتاج إلى تدخل بشري؟
الأمن
ما ضوابط الوصول والمراقبة والاستجابة للحوادث؟
الأدلة
ما السجلات التي يجب الاحتفاظ بها؟
التغيير
متى يجب إعادة تقييم النظام؟
السياسة الجيدة لا تكرر مبادئ الميثاق فقط؛ بل تحدد كيف تعمل المؤسسة على تطبيقها.
ما الأدلة التي تثبت التطبيق؟
أحد الفروق بين الحوكمة النظرية والحوكمة الفعلية هو وجود الأدلة.
يمكن أن تشمل الأدلة، بحسب حالة الاستخدام:
- سجل نظام الذكاء الاصطناعي.
- وصف الغرض.
- مالك النظام.
- تقييم المخاطر.
- تقييم الخصوصية.
- تقييم المورد.
- نتائج الاختبارات.
- قرار الموافقة.
- حدود الصلاحيات.
- سجلات الوصول.
- ضوابط الإشراف البشري.
- سجل التغييرات.
- سجلات المراقبة.
- الحوادث.
- قرارات التدخل أو الإيقاف.
لا يعني ذلك أن كل نظام يحتاج إلى جميع هذه العناصر بالمستوى نفسه.
المطلوب أن تكون الأدلة متناسبة مع المخاطر والأثر.
كيف يختلف الميثاق عن مبادئ أخلاقيات الذكاء الاصطناعي؟
الميثاق ومبادئ الأخلاقيات متقاربان في بعض الموضوعات، لكن لا ينبغي دمجهما وكأنهما الوثيقة نفسها.
مبادئ أخلاقيات الذكاء الاصطناعي توفر إطارًا أكثر مباشرة حول موضوعات مثل:
- العدالة.
- المساءلة.
- الشفافية.
- قابلية التفسير.
- المركزية البشرية.
- الخصوصية.
- المتانة والسلامة والأمن.
- الاستدامة.
أما الميثاق فيمثل طبقة وطنية أوسع لتوجيه تطوير الذكاء الاصطناعي واستخدامه بصورة مسؤولة وربطه بالقيم والالتزام والحوكمة.
يمكن للمؤسسة استخدام الوثيقتين معًا:
المبادئ الأخلاقية تساعد على تحديد خصائص الاستخدام المسؤول.
و:
الميثاق يساعد على وضع هذه الخصائص ضمن توجه أوسع للحوكمة والمسؤولية والاستخدام المتوافق.
لكن لا ينبغي اعتبار أي منهما بديلًا عن القانون الواجب التطبيق.
كيف يختلف الميثاق عن الاستراتيجية الوطنية؟
الاستراتيجية الوطنية للذكاء الاصطناعي 2031 تركز على الاتجاه الوطني طويل المدى وبناء القدرات والبيئة اللازمة لتطوير الذكاء الاصطناعي وتبنيه.
أما الميثاق فيقترب أكثر من سؤال:
كيف ينبغي تطوير الذكاء الاصطناعي واستخدامه بصورة مسؤولة؟
يمكن تلخيص العلاقة كالتالي:
الاستراتيجية: إلى أين تتجه الدولة؟
المبادئ الأخلاقية: ما خصائص الاستخدام المسؤول؟
الميثاق: ما التوجه الوطني الذي ينبغي أن يحكم تطوير الذكاء الاصطناعي واستخدامه؟
القوانين واللوائح: ما الالتزامات الملزمة التي تنطبق على الحالة؟
هذه الطبقات متكاملة، لكنها ليست مترادفة.
نموذج تطبيقي لحالة استخدام
لنفترض أن مؤسسة تريد استخدام نظام ذكاء اصطناعي للتفاعل مع العملاء.
بدل الاكتفاء بالقول:
«الاستخدام يتوافق مع الميثاق».
يجب أن تحول ذلك إلى أسئلة عملية:
المسؤولية
من يملك النظام؟
الشفافية
هل يحتاج العميل إلى معرفة أنه يتفاعل مع نظام آلي؟
الإشراف
متى تنتقل المحادثة إلى موظف؟
الخصوصية
ما البيانات التي تدخل إلى النظام؟
الأمن
كيف تتم حماية الحسابات والتكاملات؟
الدقة والسلامة
ما أنواع الإجابات التي يسمح للنظام بتقديمها؟
الامتثال
هل توجد قواعد خاصة بالقطاع أو المستهلك أو البيانات؟
الأدلة
كيف تثبت المؤسسة أن هذه الأسئلة تم تقييمها؟
بهذا يصبح الميثاق نقطة بداية لعملية حوكمة فعلية.
نموذج جاهزية مؤسسية
يمكن للمؤسسة استخدام الأسئلة التالية لمراجعة جاهزيتها:
- هل لدينا سجل لأنظمة الذكاء الاصطناعي؟
- هل لكل نظام مالك واضح؟
- هل نعرف القوانين واللوائح التي تنطبق على كل حالة استخدام؟
- هل نصنف الاستخدامات حسب مستوى المخاطر؟
- هل توجد قواعد لاستخدام البيانات؟
- هل نراجع الموردين؟
- هل نحدد متى يحتاج النظام إلى إشراف بشري؟
- هل توجد حدود واضحة لصلاحيات الأنظمة؟
- هل نحتفظ بأدلة على الموافقات والتقييمات؟
- هل نراقب النظام بعد التشغيل؟
- هل توجد آلية للحوادث؟
- هل نعرف من يستطيع إيقاف النظام؟
- هل نعيد التقييم عندما يتغير النظام أو المورد أو الاستخدام؟
إذا كانت الإجابات غير واضحة، فإن وجود ميثاق أو سياسة داخلية وحده لا يعني أن الحوكمة ناضجة.
أخطاء شائعة
اعتبار الميثاق قانونًا اتحاديًا مستقلًا
هذا يخلط بين التوجيه الوطني والتشريع الملزم.
استخدام الميثاق بدل تحليل الامتثال
المؤسسة ما تزال بحاجة إلى تحديد القوانين واللوائح والاختصاصات الفعلية.
نسخ المبادئ إلى سياسة داخلية دون تنفيذها
وجود النص لا يعني وجود الضابط.
عدم تحديد مالك مسؤول
أي مبدأ بلا مسؤول واضح معرض لأن يبقى دون تنفيذ.
التركيز على الشفافية فقط
الاستخدام المسؤول يشمل أيضًا الخصوصية والأمن والمساءلة والإشراف والالتزام.
اعتبار موافقة البداية كافية
حوكمة الذكاء الاصطناعي تستمر بعد الإطلاق من خلال المراقبة والتغيير وإعادة التقييم.
تجاهل الموردين الخارجيين
استخدام خدمة خارجية لا ينقل المسؤولية كاملة إلى المزود.
منح الأنظمة الوكيلية صلاحيات واسعة دون حدود
الأنظمة القادرة على الفعل تحتاج إلى ضبط السلطة وليس فقط مراجعة جودة المخرجات.
من الميثاق إلى نظام تشغيل للحوكمة
يمكن تحويل الميثاق إلى بنية تشغيلية باستخدام السلسلة التالية:
مبدأ
↓
سياسة داخلية
↓
متطلب مؤسسي
↓
ضابط
↓
مالك
↓
موافقة
↓
دليل
↓
مراقبة
↓
إعادة تقييم
بهذه الطريقة يصبح الميثاق جزءًا من دورة حياة نظام الذكاء الاصطناعي.
ولا تتوقف الحوكمة عند مرحلة الشراء أو الإطلاق.
بل تستمر عندما:
- يتغير النموذج.
- تتغير البيانات.
- يتغير المورد.
- تتوسع الصلاحيات.
- يتغير الاستخدام.
- يظهر خطر جديد.
- يقع حادث.
- تتغير القوانين أو اللوائح.
خلاصة سيادة
القيمة الحقيقية لميثاق تطوير واستخدام الذكاء الاصطناعي لا تكمن في أن تضع المؤسسة اسمه داخل سياسة أو عرض تقديمي.
القيمة تظهر عندما تستطيع المؤسسة أن تربط:
المبدأ → المسؤولية → الضابط → الدليل → المراقبة
وأن تجيب عن الأسئلة التالية لكل نظام:
لماذا نستخدمه؟ من يملكه؟ ما البيانات التي يستخدمها؟ ماذا يستطيع أن يقرر أو يفعل؟ ما حدود سلطته؟ أين يوجد الإشراف البشري؟ ما القوانين التي تنطبق؟ ما الضوابط؟ وكيف نثبت أن هذه الضوابط تعمل؟
عندها يصبح الميثاق أداة حقيقية لتطوير الحوكمة المؤسسية.
والقاعدة الأساسية هي:
الميثاق يوجه الاستخدام المسؤول، لكنه لا يلغي الحاجة إلى القانون، ولا إلى تقييم المخاطر، ولا إلى تحديد المسؤوليات، ولا إلى إثبات التطبيق.
المفاهيم الرئيسية
- ميثاق الذكاء الاصطناعي
- الذكاء الاصطناعي المسؤول
- الإشراف البشري
- الخصوصية
- الأمن
- المساءلة
الخطوات العملية
- 1حوّل مبادئ الميثاق إلى متطلبات داخل سياسات الذكاء الاصطناعي.
- 2حدد المسؤوليات البشرية والتنظيمية بوضوح.
- 3اربط استخدام الذكاء الاصطناعي بالقوانين والأنظمة المطبقة.
- 4ضمن الخصوصية والأمن في التصميم.
- 5احتفظ بأدلة توضح كيفية تطبيق المبادئ عمليًا.
الأخطاء الشائعة
- ⚠اعتبار الميثاق قانونًا اتحاديًا مستقلًا.
- ⚠استخدام الميثاق كبديل عن تحليل الامتثال.
- ⚠تبني المبادئ دون تحديد مالك مسؤول لكل ضابط.
- ⚠التركيز على الشفافية دون الأمن والخصوصية والإشراف البشري.