حوكمة الذكاء الاصطناعي التوليدي في الجهات الحكومية السعودية

لماذا توجد إرشادات حكومية مستقلة؟

الذكاء الاصطناعي التوليدي يقدم فرصًا كبيرة للجهات الحكومية في مجالات مثل إعداد المسودات، وتلخيص المعلومات، وتحليل المحتوى، ودعم الموظفين وتحسين بعض الخدمات.

لكن البيئة الحكومية تختلف عن الاستخدام الشخصي.

فالجهات الحكومية تتعامل مع:

• بيانات حكومية.
• معلومات قد تكون حساسة أو مقيدة.
• خدمات عامة.
• قرارات قد تؤثر في أفراد أو جهات.
• متطلبات نظامية وأمنية وإدارية متعددة.

لهذا أصدرت سدايا نسخة مخصصة للجهات الحكومية من إرشادات الذكاء الاصطناعي التوليدي.

والهدف المعلن هو دعم الاستخدام المسؤول والفعال لهذه الأدوات والخدمات في التعاملات الحكومية واستخدام البيانات الحكومية أو معالجتها بما يتوافق مع الأنظمة واللوائح ذات العلاقة في المملكة.

ما نطاق الإرشادات؟

تتناول الإرشادات كيفية تبني واستخدام أنظمة الذكاء الاصطناعي التوليدي في البيئة الحكومية.

وتقدم أمثلة على سيناريوهات شائعة، وتناقش الاعتبارات والتحديات المرتبطة بالاستخدام، وتضع مبادئ للاستخدام المسؤول وممارسات موصى بها.

وهذا يعني أن الوثيقة ليست مجرد مقدمة تقنية حول GenAI.

بل يجب قراءتها ضمن سياق:

الحوكمة + البيانات + المخاطر + الاستخدام المسؤول + المتطلبات السعودية الأخرى ذات العلاقة

البيانات الحكومية والذكاء الاصطناعي التوليدي

أحد أهم الأسئلة قبل استخدام أداة GenAI هو:

ما الذي يحدث للبيانات التي تدخل إليها؟

فعند استخدام خدمة خارجية قد تنتقل المطالبات والمرفقات والبيانات إلى بنية تقنية لا تديرها الجهة نفسها.

لذلك يجب معرفة:

• ما البيانات المسموح باستخدامها؟
• هل تتضمن بيانات شخصية؟
• هل توجد معلومات حساسة أو مقيدة؟
• أين تتم المعالجة؟
• هل يحتفظ المزود بالمطالبات أو المخرجات؟
• هل يستخدم البيانات لتحسين خدماته؟
• هل توجد أطراف معالجة فرعية؟
• هل توجد قيود إضافية من الأمن السيبراني أو سياسات البيانات؟

ولهذا فإن قرار السماح باستخدام أداة لا يجب أن يعتمد فقط على جودة النموذج.

الاستخدام المسؤول وإدارة المخاطر

تختلف مخاطر GenAI بحسب حالة الاستخدام.

استخدام أداة للمساعدة في صياغة نص داخلي منخفض الحساسية يختلف عن استخدامها في:

• تحليل بيانات شخصية.
• إعداد توصية تؤثر في فرد.
• الرد المباشر على المستفيدين.
• معالجة مستندات حساسة.
• إنتاج محتوى رسمي دون مراجعة.
• دعم عملية ذات أثر قانوني أو تنظيمي.

لذلك يجب أن يبدأ التحليل من حالة الاستخدام وليس من اسم الأداة.

يمكن تصنيف الحالات بحسب:

نوع البيانات + حساسية المهمة + درجة الاعتماد على المخرجات + احتمال الضرر + وجود طرف خارجي + الحاجة إلى مراجعة بشرية

دور الإنسان في الاستخدام الحكومي

الذكاء الاصطناعي التوليدي قد ينتج معلومات غير صحيحة أو ناقصة أو مضللة، حتى عندما تكون صياغتها مقنعة.

لذلك فإن وجود الإنسان لا يعني مجرد الضغط على زر «إرسال».

المراجعة البشرية الفعالة قد تتطلب:

• التحقق من الحقائق.
• مراجعة المصادر.
• التأكد من صحة الأرقام.
• مراجعة الصياغة القانونية أو الفنية.
• اكتشاف المحتوى غير المناسب.
• رفض المخرجات عند الحاجة.
• تحمل المسؤولية النهائية عن القرار أو المحتوى.

كلما ارتفع أثر حالة الاستخدام، ارتفع مستوى المراجعة المطلوبة.

ضوابط عملية قبل الاستخدام

يمكن للجهة الحكومية أن تحول الإرشادات إلى مجموعة أسئلة قبل اعتماد حالة استخدام:

الغرض

ما الحاجة الفعلية للأداة؟

البيانات

ما البيانات التي ستدخل إلى النظام؟

التقنية

هل النظام داخلي أم خارجي؟ وما نموذج الاستضافة والمعالجة؟

المورد

من يملك الخدمة، وما الأطراف الأخرى في سلسلة المعالجة؟

المخاطر

ما أسوأ نتيجة محتملة إذا أخطأ النظام أو سرب المعلومات؟

الإنسان

من يراجع المخرجات، وما الذي لا يجوز تفويضه للنظام؟

الأنظمة والضوابط

ما المتطلبات الأخرى التي تستحق اختبار الانطباق على هذه الحالة؟

القرار

من يملك الموافقة، وما الشروط المفروضة على الاستخدام؟

وبذلك تصبح حوكمة GenAI جزءًا من عملية مؤسسية منظمة بدل أن تعتمد على اجتهاد كل موظف بصورة منفصلة.