مبادئ أخلاقيات الذكاء الاصطناعي في السعودية: كيف تُقرأ وتُطبق؟

ما هي مبادئ أخلاقيات الذكاء الاصطناعي؟

أصدرت الهيئة السعودية للبيانات والذكاء الاصطناعي مبادئ أخلاقيات الذكاء الاصطناعي كمرجع وطني يساعد على إدخال الاعتبارات الأخلاقية والمسؤولة في تصميم أنظمة الذكاء الاصطناعي وتطويرها ونشرها واستخدامها.

لا تقتصر أهمية الوثيقة على تقديم قيم أخلاقية عامة، بل تربط الأخلاقيات بالحكومة وإدارة المخاطر ودورة حياة النظام.

وتوضح الوثيقة أن من أهدافها دعم السياسات والإرشادات والأطر المرتبطة بأخلاقيات الذكاء الاصطناعي، وحوكمة البيانات والنماذج، ومساعدة الجهات على تبني الممارسات المسؤولة، وحماية الخصوصية وحقوق أصحاب البيانات.

من يشمله نطاق الوثيقة؟

يتسع نطاق مبادئ الأخلاقيات ليشمل مجموعة واسعة من أصحاب المصلحة المرتبطين بأنظمة الذكاء الاصطناعي داخل المملكة.

وقد يشمل ذلك الجهات التي:

• تصمم أنظمة الذكاء الاصطناعي.
• تطورها أو تدربها.
• تنشرها أو تشغلها.
• تستخدمها.
• تقدم خدمات مبنية عليها.
• تتأثر بقراراتها أو نتائجها.

وهذا يعني أن الحوكمة الأخلاقية لا تقتصر على فريق علوم البيانات.

فقد تشمل أيضًا الإدارة التنفيذية، وفرق المخاطر، والقانون، والخصوصية، والأمن السيبراني، والمشتريات، والعمليات، والجهات الخارجية التي توفر النماذج أو البيانات أو الخدمات.

كيف تتعامل مع مستويات المخاطر؟

تستخدم الوثيقة نهجًا قائمًا على مستويات مختلفة من مخاطر أنظمة الذكاء الاصطناعي.

وتشير إلى فئات تتدرج من مخاطر قليلة أو معدومة، إلى مخاطر محدودة، ثم مخاطر مرتفعة، وصولًا إلى مخاطر غير مقبولة.

القيمة العملية لهذا النهج هي أنه يمنع التعامل مع جميع حالات الاستخدام بالطريقة نفسها.

فمساعد داخلي لتلخيص نصوص عامة لا يحمل بالضرورة المخاطر نفسها التي يحملها نظام يؤثر في قرارات حساسة أو حقوق أفراد أو خدمات أساسية.

كلما ارتفعت المخاطر، زادت الحاجة إلى إجراءات مثل:

• التقييم المسبق.
• الاختبار.
• الضوابط.
• التوثيق.
• الإشراف البشري.
• المراقبة بعد النشر.
• مراجعة المتطلبات النظامية والتنظيمية الأخرى ذات الصلة.

الأخلاقيات عبر دورة حياة AI

أحد الجوانب المهمة في الوثيقة هو ربط إدارة المخاطر والأخلاقيات بدورة حياة النظام نفسها.

وهذا يعني أن المؤسسة لا تنتظر حتى يصبح النموذج جاهزًا للإنتاج ثم تجري «مراجعة أخلاقية».

من الأفضل أن تدخل متطلبات الحوكمة منذ المراحل الأولى:

الفكرة وحالة الاستخدام → البيانات → التصميم → التطوير أو التوريد → الاختبار → قرار النشر → التشغيل → المراقبة → التغيير أو الإيقاف

فقد تظهر المخاطر في البيانات، أو النموذج، أو طريقة استخدام النتائج، أو اعتماد المستخدمين المفرط على النظام، أو تغير سلوك النموذج بعد النشر.

هل هي قانون أو تنظيم ملزم؟

تحتاج هذه النقطة إلى دقة.

تعرض سدايا الوثيقة ضمن منشوراتها الرسمية، وتظهر في صفحة المنشورات بتصنيف Regulatory، بينما تستخدم صفحات رسمية أخرى صياغة تشير إلى نسخة أولية أو draft.

لذلك لا تصف سيادة AI مبادئ أخلاقيات الذكاء الاصطناعي باعتبارها «قانونًا سعوديًا عامًا للذكاء الاصطناعي»، ولا تستنتج من التصنيف وحده أن كل حكم فيها التزام قانوني عام على كل جهة.

الصياغة الأكثر أمانًا هي:

مرجع وطني رسمي لحوكمة أخلاقيات الذكاء الاصطناعي والاستخدام المسؤول.

وعندما تتطلب حالة استخدام معينة إثبات وجود التزام قانوني أو تنظيمي محدد، يجب الرجوع إلى النظام أو اللائحة أو الضابط أو النص القطاعي الذي ينشئ ذلك الالتزام.

كيف تستخدمها المؤسسة عمليًا؟

يمكن تحويل المبادئ إلى أسئلة حوكمة واضحة لكل حالة استخدام.

الغرض هل توجد حاجة حقيقية لاستخدام AI؟

الأثر من قد يتأثر بنتائج النظام؟

البيانات ما البيانات المستخدمة، وما جودتها، وهل توجد حقوق أو قيود مرتبطة بها؟

المخاطر ما الأضرار الممكنة، وما احتمال وقوعها، وما شدتها؟

الإنسان أين يجب أن يوجد إشراف بشري أو حق مراجعة؟

الاختبار كيف سنختبر الأداء والموثوقية والانحياز والمخاطر؟

المراقبة كيف سنعرف أن النظام تغير أو أن مستوى الخطر ارتفع بعد النشر؟

المساءلة من يملك قرار الموافقة والاستمرار والإيقاف؟

بهذه الطريقة تتحول الأخلاقيات من قائمة مبادئ إلى ممارسة تشغيلية داخل حوكمة المؤسسة.