حوكمة الذكاء الاصطناعي في القطاع المالي الإماراتي

الخلاصة التنفيذية

القطاع المالي الإماراتي يملك طبقة مهمة ومباشرة لحوكمة الذكاء الاصطناعي من خلال Guidelines for Financial Institutions Adopting Enabling Technologies.

صدرت الإرشادات في نوفمبر 2021 بصورة مشتركة عن:

• مصرف الإمارات العربية المتحدة المركزي CBUAE.
• هيئة الأوراق المالية والسلع SCA.
• سلطة دبي للخدمات المالية DFSA.
• سلطة تنظيم الخدمات المالية في سوق أبوظبي العالمي FSRA.

وتشمل قسمًا مباشرًا حول:

Big Data Analytics and Artificial Intelligence.

وهذا يجعلها مرجعًا أساسيًا للمؤسسات المالية التي تستخدم AI.

الطبقة التنظيمية المالية

الإرشادات ليست "قانون AI اتحادي".

لكنها إطار رقابي قطاعي رسمي.

وهي جزء من المشهد المتعدد الطبقات في الدولة.

المؤسسة المالية يجب ألا تبدأ من AI Ethics العامة فقط.

بل من:

Who regulates us?

ثم:

What AI rules and guidance apply under that regulator?

الجهات الرقابية الأربع

وجود أربع جهات في إصدار الإرشادات مهم.

لأنه يعكس محاولة بناء مستوى مشترك من المبادئ عبر:

• النظام المالي الاتحادي.
• أسواق الأوراق المالية.
• DIFC.
• ADGM.

لكن هذا لا يلغي استقلال كل جهة في إصدار متطلبات إضافية.

أي:

Common guidance does not erase regulator-specific obligations.

نطاق الإرشادات

الإرشادات تنطبق على المؤسسات المرخصة والخاضعة لإشراف الجهات المشاركة والتي تستخدم أو تنوي استخدام Enabling Technologies.

وتشدد على proportionality.

أي يجب أن تعكس طريقة التطبيق:

• حجم المؤسسة.
• تعقيدها.
• طبيعة النشاط.
• Scope.
• Risk level.
• Complexity.
• Materiality.

هذا مهم لأن Governance Model لبنك كبير لن يكون مطابقًا لشركة مالية صغيرة ذات حالة استخدام محدودة.

المادية والتناسب

Materiality concept مركزي.

ليس كل AI Model يحتاج نفس مستوى:

• Board oversight.
• Validation.
• Documentation.
• Monitoring.
• Assurance.

يجب تحديد مدى مادية الحالة بناءً على:

• أثرها المالي.
• أثرها على العملاء.
• أهمية العملية.
• حجم البيانات.
• إمكانية الضرر.
• اعتماد المؤسسة عليها.

الحوكمة

الإرشادات تنص على ضرورة وجود Governance Framework معتمد وموثق لإدارة القرارات والمخاطر المرتبطة بـBig Data وAI.

هذا يعني أن AI يجب ألا يبقى:

Innovation Team Project.

بل يصبح جزءًا من:

Enterprise Governance.

مسؤولية مجلس الإدارة والإدارة العليا

من أهم الأحكام أن Governing Body وSenior Management يجب أن يظلا مسؤولين عن النتائج والقرارات المرتبطة بتطبيقات Big Data وAI، بما فيها التطبيقات التي تتخذ قرارات نيابة عن المؤسسة.

هذه قاعدة بالغة الأهمية:

Automation does not automate away accountability.

حتى عند استخدام نموذج خارجي تبقى المؤسسة مسؤولة عن نتيجة الاستخدام.

جرد تطبيقات الذكاء الاصطناعي

حتى لو لم تستخدم الوثيقة مصطلح AI Inventory بالصياغة نفسها في كل بند، فإن تطبيق الحوكمة عمليًا يحتاج إلى معرفة ما هو موجود.

يجب أن يتضمن السجل مثلًا:

• اسم النظام.
• Owner.
• Purpose.
• Data.
• Model/provider.
• Materiality.
• Decision impact.
• Deployment status.
• Validation.
• Monitoring.
• Third parties.

بدون Inventory لا يمكن تطبيق Governance Framework فعليًا.

التصميم والتحقق

الإرشادات تتوقع أن تكون النماذج المستخدمة في التطبيقات المادية:

• Reliable.
• Transparent.
• Explainable.

بما يتناسب مع مستوى المادية.

كما أن الاعتماد على نموذج لا يلغي ضرورة تقييمه.

العدالة والتحيز

يجب مراجعة:

• fairness.
• accuracy.
• reliability.
• relevance.

قبل نشر التطبيقات المادية وبعد النشر بصورة دورية.

في القطاع المالي قد يظهر التحيز في:

• Credit.
• Pricing.
• Fraud detection.
• Insurance.
• Customer segmentation.
• Collections.

ولهذا فإن Bias Testing يجب أن يرتبط بحالة الاستخدام وليس مجرد اختبار عام.

الشفافية وقابلية التفسير

Explainability لا تعني نشر Source Code للعميل.

تعني أن المؤسسة تستطيع، بحسب الحالة، تفسير:

• لماذا يستخدم النظام؟
• ما دوره؟
• ما البيانات المهمة؟
• كيف أثر على القرار؟
• ما حدود النظام؟
• كيف تتم مراجعة النتيجة؟

كلما ارتفع أثر القرار على العميل زادت أهمية التفسير.

الإدارة والمراقبة

التحقق قبل Deployment غير كافٍ.

النماذج قد تتدهور بسبب:

• Data drift.
• Model drift.
• تغير السوق.
• تغير سلوك العملاء.
• Vendor update.
• تغيير المدخلات.

لذلك يجب بناء periodic monitoring.

المراجعة المستقلة

الإرشادات العامة للتقنيات التمكينية تتناول Control Functions والمراجعة المستقلة.

يجب أن تكون:

• Risk.
• Compliance.
• Audit.

مجهزة بخبرة مناسبة لتقييم البيئة.

كما يجب تنفيذ reviews أو audits مستقلة بصورة تتناسب مع طبيعة وتعقيد ومادية التقنية.

هذه ليست مسؤولية Data Science Team وحده.

مخاطر الأطراف الثالثة

كثير من المؤسسات المالية لا تبني النموذج.

تستخدم:

• SaaS.
• Cloud.
• API.
• Scoring provider.
• Foundation model.
• Fraud engine.

لكن outsourcing لا ينقل Accountability.

يجب النظر إلى:

• Contract.
• Data.
• Security.
• Explainability.
• Model change.
• Audit rights.
• Exit.
• Continuity.

تعليق الأنظمة المادية

واحدة من أهم القدرات الحوكمية هي القدرة على وقف أو تعليق النظام عندما لا يعود:

• Reliable.
• Fair.
• Accurate.
• Safe.
• Compliant.

النظام الذي لا يمكن إيقافه ليس نظامًا خاضعًا بالكامل للحوكمة.

نموذج تطبيق مؤسسي

يمكن بناء Financial AI Governance Lifecycle كالتالي:

Discover

→ Inventory

→ Materiality Assessment

→ Risk Classification

→ Data Review

→ Model Validation

→ Approval

→ Deployment

→ Monitoring

→ Independent Assurance

→ Event-Triggered Reassessment

→ Retirement.

هذه صياغة تشغيلية من سيادة وليست نصًا حرفيًا من الإرشادات.

أخطاء شائعة

اعتبار AI شأن IT

الحوكمة تشمل Board وRisk وCompliance وAudit.

عدم تحديد Materiality

يؤدي إما إلى ضعف controls أو bureaucracy زائدة.

الاعتماد على Vendor Assurance فقط

المؤسسة تظل مسؤولة عن الاستخدام.

Validation مرة واحدة

النموذج يحتاج Monitoring.

عدم القدرة على الإيقاف

يرفع Operational Risk.

تطبيق الإرشادات دون معرفة regulator

قد توجد متطلبات إضافية.

خلاصة سيادة

القطاع المالي الإماراتي يقدم نموذجًا واضحًا لفكرة:

AI Governance as Enterprise Risk Governance.

المطلوب ليس فقط نموذجًا جيدًا.

بل:

Governance → Accountability → Design → Validation → Fairness → Explainability → Monitoring → Independent Review → Control.

وهذه الطبقة تجعل القطاع المالي من أهم القطاعات التي يجب مراقبتها عند تتبع تطور حوكمة AI في الإمارات.