قيمة سياسة الذكاء الاصطناعي تظهر عندما تربطها المؤسسة باختبارات وأدلة وحدود سلطة وقرارات تشغيل قابلة للمراجعة.
لماذا لم تعد سياسة الذكاء الاصطناعي وحدها كافية؟ الاختبار يدخل غرفة القرار
هذا مقال تحليلي رأيي، لا بيان تنظيمي صادر عن IMDA ولا تقرير نتائج عن مؤسسة بعينها. يتناول الفرق بين إعلان التزام أخلاقي وبين القدرة على إثبات سلامة واعتمادية تطبيق حقيقي باستخدام اختبارات وسجلات وسلطة قرار واضحة. لا تنخفض قيمة الحوكمة عندما نطالب بالدليل؛ بل تصبح أكثر جدية لأنها تقبل احتمال الخطأ وتسمح بالتحقق.
1. الخلط بين السياسة والدليل
لا تكمن أزمة الذكاء الاصطناعي المؤسسي في نقص الوثائق المكتوبة. كثير من المؤسسات قادرة على إصدار سياسة مسؤولية واستخدام مقبول وتشكيل لجنة واعتماد قائمة ضوابط. لكن عند السؤال عن نظام معين: أين الدليل الذي يثبت أنه رفض استخراج معلومة خاصة؟ ومن اختبر ذلك؟ وعلى أي إصدار؟ وتحت أي صلاحيات؟ يتحول النقاش من خطاب عام إلى فراغ تشغيلي. لا أقول إن السياسات بلا قيمة؛ بل إنها تحدد المعيار وسلطة القرار. المشكلة أن بعض الفرق تعامل وجودها كدليل على تحقق النتيجة، وهذا انتقال منطقي غير مبرر من النية إلى الإثبات.
سؤال للنقاش المؤسسي: أين الدليل الذي تجاوز النص؟
2. حالة مغرية للتضليل
قد يعرض مورد تطبيق LLM درجة اختبار مرتفعة على Benchmark معروفة، فتسارع الإدارة إلى إعلان أنه آمن. قد تكون النتيجة صحيحة ضمن شروطها، لكنها لا تثبت قدرة النظام على فصل مستندات إدارتين أو منع أداة بريد من إرسال معلومات حساسة. هنا يصبح ارتفاع الرقم مصدر ثقة زائدة لا معرفة إضافية. يحتاج القرار إلى تحديد موضوع الاختبار: هل قيس النموذج وحده أم التطبيق بمصادره وأدواته؟ هل اختبرت البيانات العربية والعمليات الفعلية؟ وهل الفشل القليل المتبقي من النوع الذي لا يمكن تحمله؟
سؤال للنقاش المؤسسي: هل نعرف ما الذي اختُبر؟
3. من المسؤول عن السؤال الصحيح؟
المطور مسؤول عن تصميم وتثبيت الاختبار ومراقبة عمله. الأمن يتحقق من الصلاحيات والتسرب والهجمات، والخصوصية تراجع حدود معالجة البيانات، وصاحب العمل يحدد الأثر المقبول على المستخدم، ومسؤول المخاطر يراجع الفجوات وشروط القبول. لا يعني هذا إنشاء بيروقراطية جديدة متعددة التواقيع؛ المطلوب ضمان أن صاحب التأثير الحقيقي لا يتنازل عن سلطته لصاحب منصة اختبار. ومن الخطأ أن يصبح «فريق الذكاء الاصطناعي اختبره» جوابًا يقفل النقاش إذا لم يكن الفريق قادرًا على بيان السيناريوهات والأدلة.
سؤال للنقاش المؤسسي: من يحمل أثر القرار؟
4. لماذا لا يكفي أن يسير الاختبار بشكل جيد؟
الاختبار الذي لا يفشل أبدًا قد يكون ممتازًا أو قد يكون سطحيًا. إذا كانت عيناته مقتطعة من الاستخدام الأسهل، أو إذا عرف المطورون الحالات مسبقًا وضبطوا prompts وفقها، فلن يمثل ذلك الاستخدام الحقيقي. بعض أندر الحالات هي الأعلى أثرًا: نص خفي داخل ملحق تعاقدي يطلب تنفيذ إجراء، أو معلومة ناقصة تؤدي إلى رفض مستحقات، أو متغير لغوي يجعل فئة كاملة تحصل على توجيهات أضعف. لا نحتاج إثارة إعلامية حول هذه الحالات، بل هندسة عينات معقولة وإثبات سبب اختيارها.
سؤال للنقاش المؤسسي: هل صممنا الاختبار ليكشف أخطاء؟
5. النماذج لا تعفي التطبيقات
قد يكون النموذج متقدمًا في قدرات الاستدلال وتوليد النص، لكن التطبيق الذي يربطه بنظام معاملات يفتح مجالًا لمخاطر لم تكن موجودة في المحادثة. هل يتحقق الخادم من حدود الإنفاق؟ هل يمكن لمسؤول المراجعة إيقاف التوصية؟ هل يملك الوكيل صلاحية إضافية عن المستخدم الذي طلب العمل؟ وهل تتغير موثوقية مصدر المستند عندما يحمل تنسيقًا رسميًا؟ هذه الأسئلة تتعلق بالمعمارية وسلسلة السلطة، ولا تحلها الدرجة اللغوية وحدها. كلما اقترب النموذج من فعل حقيقي أصبحت نقطة التنفيذ وضابطها أهم.
سؤال للنقاش المؤسسي: هل نختبر سلسلة السلطة؟
6. السلامة ليست منع كل طلب
هناك انحراف معاكس: تخفيف المخاطر عن طريق رفض معظم الأسئلة. قد يؤدي ذلك إلى نظام يبدو نظيفًا من المحتوى غير المرغوب لكنه لا يؤدي وظيفته، وقد يحرم مستخدمين مشروعين من المساعدة بسبب لهجة أو مصطلحات حساسة في سياق مهني. التطبيق المسؤول يحتاج حدودًا مناسبة ورفضًا مبررًا وبدائل آمنة ومعايير لقياس الإفراط في الرفض. ليست الموازنة بين نفع وسلامة ترخيصًا بتجاوز الضوابط؛ إنها دعوة لتصميم الاختبار بحيث يقيس المنفعة والضرر معًا بدل مكافأة الامتناع المطلق.
سؤال للنقاش المؤسسي: هل نحاسب الرفض الخاطئ؟
7. البلدان العربية تحتاج معرفة تشغيلية
لا يكفي ترجمة مواد أجنبية ترجمة حرفية ونشرها تحت عنوان حوكمة الذكاء الاصطناعي. تحتاج المؤسسات العربية إلى ربط المخاطر بالعربية ولهجاتها ومستنداتها وبياناتها وحدود سلطتها وأطرها المحلية. يمكن الاستفادة من IMDA لتطوير طريقة اختبار منهجية، لكن لا يجوز جعل التوجيه السنغافوري قانونًا مطبقًا تلقائيًا في الأردن أو السعودية أو أي دولة أخرى. هنا تكمن قيمة منصة عربية متخصصة: فصل الأصل الرسمي عن الشرح وعن الإضافة التطبيقية، ثم بناء علاقات واضحة بين كل طبقة بدل خلطها.
سؤال للنقاش المؤسسي: هل فصلنا المصدر عن التطبيق؟
8. هل يصلح النجاح لاتخاذ قرار؟
لو نجح نظام في كل الأسئلة الطبيعية وفشل في حالة مؤكدة تكشف مستندًا لشخص غير مصرح، هل نوافق على الإطلاق؟ الجواب يعتمد على نطاق الوظيفة وإمكان إزالة الصلاحية أو احتواء الضرر، لكنه ليس تلقائيًا نعم بسبب المتوسط. المطلوب تحديد شروط قبول مسبقة وربطها بمسار القرار، واعتبار الفشل الحرج إشارة مستقلة. «Go بشروط» لا يجب أن تكون عبارة دبلوماسية؛ يجب أن تعني وظيفة معطلة أو مراجعة ملزمة أو حد وصول وتقارير واختبارًا يثبت تطبيق الشروط.
سؤال للنقاش المؤسسي: هل تخفي النسبة خطرًا حرجًا؟
9. من الدليل إلى القرار ثم إلى المراقبة
حزمة Assurance الجيدة تتيح تتبع خطر معين إلى مجموعة حالات اختبار، ومن نتائجها إلى إخفاق أو قبول، ومن العلاج إلى إعادة اختبار، ثم إلى محضر صلاحية الإصدار. وعندما يتغير نموذج أو فهرس أو صلاحيات، يجب أن نعرف ما الذي يبطل من الأدلة السابقة. ليست هذه عملية تدقيق لمرة واحدة، بل بناء قدرة مؤسسية على إعادة طرح السؤال الصحيح عندما تتغير الظروف. إن المؤسسة التي لا تستطيع تفسير لماذا سمحت لتطبيق بالوصول إلى بيانات معينة لا تملك السيطرة الفعلية ولو امتلكت أفضل ميثاق في المنطقة.
سؤال للنقاش المؤسسي: متى تبطل أدلة الإصدار؟
10. اختبار نادر لفكرة الثقة
تخيل مساعدًا يوصي بمواقع حفظ قطع الغيار الحرجة في منشأة مياه. تعلّم من نصوص مخزون سليمة لكنه يستخدم بيانات احتياجات قديمة أو يفهم أسماء المواقع المحلية بصورة خاطئة. لا يهم أن يكتب تقريرًا منطقيًا جميلًا؛ القرار قد يؤدي إلى تأخير إصلاح مضخة يحتاجها حي كامل. ينبغي اختبار حداثة البيانات وتفسير الأسماء والافتراضات التشغيلية وقدرة المشرف على التدخل. هذه الحالة ليست مثالًا شائعًا للهلوسة في دردشة، لكنها تبيّن كيف يتغير معنى accuracy عندما تخرج المخرجات من النص إلى التشغيل.
سؤال للنقاش المؤسسي: هل بياناتنا الحالية ممثلة؟
11. اختبار المؤسسة نفسها
يمكن أن تنجح منظومة LLM في اختبارات تقنية جيدة وتفشل المؤسسة في إدارة حادث أو إعطاء المراجع السلطة اللازمة للإيقاف. من يتحقق من تغير المورد؟ من يملك سجل الأدلة؟ من يعيد اختبار اللغة العربية عند تغيير نموذج؟ من يحدد انتهاء استثناء مشروط؟ هذه الأسئلة ليست منافسة للهندسة التقنية بل امتداد لها. أفضل نتيجة ليست أن تعلن المؤسسة الحصول على نسبة موثوقية نهائية، بل أن تملك سلسلة قرار مرئية وأشخاصًا قادرين على التصرف عندما لا تكفي الأدلة.
سؤال للنقاش المؤسسي: هل نستطيع إيقاف النظام؟
12. دور IMDA في الصورة
إرشادات IMDA الطوعية لتطبيقات LLM تقدم منهجًا منظمًا: Identify للمخاطر وحدود الاختبار، Test للمخرجات والمكونات، ثم Assess لتفسير النتائج وتحديد المعالجات. تغطي خمس فئات مخاطرة ولا تدعي إنتاج حد عالمي منطبق على كل التطبيقات. القيمة التي نشتقها في سيادة هي نقل هذه الفلسفة إلى مكتبة معرفية عملية: شرح مخاطر مفصل، وأدلة إجراء، ومعجم مفاهيم، ومسار تعلم، وربط بمقاييس وقرارات ومراجع. ليست هذه الحزمة شهادة امتثال ولا إثباتًا لسلامة نظام بعينه.
سؤال للنقاش المؤسسي: ما وظيفة التوجيه الأصلي؟
13. الحد بين المعرفة والاستشارة
يجب أن تبقى المواد المنشورة شرحًا ومساعدة على التفكير والعمل، لا وعدًا بنتيجة اختبار لم يجر. حين تقدم المؤسسة تقريرًا عن نظام حقيقي، ينبغي أن تجري التقييم فعليًا ببيانات مناسبة وتوثق حالات الفشل والضوابط والقيود. لا ينبغي أن نخلط ملكية الفكرة مع الجهة الرسمية التي أصدرت التوجيه؛ IMDA مصدر لخطوات الاختبار، أما الأدوات والمسارات والقوالب القطاعية التي يبتكرها فريق سيادة فله مسؤولية تحريرية مستقلة عنها. هذه الدقة جزء من الثقة لا قيد شكلي عليها.
سؤال للنقاش المؤسسي: هل لدينا ادعاء استشاري بلا تجربة؟
14. قرار رأي
الأولوية في المؤسسات ليست زيادة عدد السياسات أو الركض وراء أفضل Benchmark، بل خلق مسار واضح من السيناريو إلى الاختبار إلى الفشل أو النجاح إلى القرار إلى المراقبة. يجب أن يستطيع المسؤول أن يقول «نعم، اختبرنا هذا السياق وهذه النسخة، ونعرف ما لم نختبره، ولدينا خطة لإيقاف الخدمة أو تصحيحها إذا تغيرت المعطيات». هذه جملة أكثر نفعًا من «نستخدم ذكاء اصطناعي مسؤول» مهما كانت براقة. وإذا كان ذلك يبدو أصعب من إصدار سياسة جديدة فهو أصعب فعلًا، لكنه يبدأ من فهم حدود الأدلة بدل التظاهر بأن الامتثال النصي يساوي السلامة.
سؤال للنقاش المؤسسي: هل تستطيع المؤسسة شرح قرارها؟