لماذا نقيّم أثر النظام وليس النموذج فقط؟

قد يبدو تقييم نموذج AI خطوة منطقية قبل النشر: نقيس الجودة، نختبر الانحياز، نراجع الأمن، ثم نقرر. لكن الأثر الذي يواجهه المستخدم أو المؤسسة لا ينتج من النموذج وحده؛ بل من النظام الذي وُضع فيه النموذج. منهج GCAI يطلب وصف النظام التشغيلي كاملًا: الغرض، المزوّد، الإصدار، المستخدمين، الأطراف المتأثرة، البيانات، الأدوات، الصلاحيات، البنية التحتية، الاعتماديات، ظروف التشغيل والقرارات التي يتأثر بها النظام. هذه النظرة تفسر لماذا يمكن للنموذج نفسه أن يملك آثارًا مختلفة:

• مساعد كتابة لا يملك صلاحيات تنفيذ.
• المساعد نفسه بعد ربطه بالبريد.
• المساعد نفسه بعد منحه صلاحية تعديل CRM.
• النظام نفسه في بيئة تدريب.
• النظام نفسه في قرار مالي أو صحي.

الفرق ليس في وزن النموذج فقط، بل في السلطة والتعرض والسياق.

ما الذي يجب وصفه قبل التقييم؟

ابدأ بخمسة أسئلة:

1. ما الغرض المحدد من النظام؟
2. ما القرار أو الإجراء الذي يؤثر فيه؟
3. من يستخدمه ومن يتأثر بنتيجته؟
4. ما البيانات والأنظمة والأدوات التي يصل إليها؟
5. ماذا يحدث إذا أخطأ أو فشل مزوّد أو تغيّر السياق؟

إذا كانت الإجابات عامة مثل «لتحسين الإنتاجية»، فالنطاق لم يُحدد بعد بما يكفي لتقييم الأثر.

تطبيق عملي من سيادة

يمكن التفكير في النظام كطبقات: Model → Data → Application → Tools → Permissions → Human Process → Affected Parties → Operating Context كل انتقال بين طبقتين قد يخلق impact pathway جديدًا. وهذا يغير طريقة الحوكمة: بدل أن يكون السؤال «هل النموذج آمن؟» يصبح السؤال «هل هذا التكوين التشغيلي مقبول لهذا الغرض ولهؤلاء الأشخاص وبهذه الصلاحيات؟».

نقطة تفكير

اختر نظام AI تستخدمه مؤسستك اليوم. اكتب ثلاثة تغييرات لا تتطلب تغيير النموذج نفسه لكنها قد ترفع أثره: أداة جديدة، صلاحية جديدة، أو فئة مستخدمين جديدة.

خلاصة

Impact Assessment الجيد يبدأ من النظام والسياق. النموذج عنصر مهم، لكنه ليس وحدة الأثر الوحيدة.