لماذا تتحمل المؤسسة المسؤولية؟

عندما يُخفق نظام ذكاء اصطناعي مقدَّم من مورّد، تميل المؤسسات إلى الاعتقاد بأن المسؤولية على المورّد. الواقع القانوني والتنظيمي مختلف: المؤسسة تتحمّل المسؤولية النهائية أمام عملائها والمنظّم، حتى لو كان المزود خارجيًا.

مبدأ عدم القدرة على تفويض المسؤولية

في معظم التشريعات (حماية البيانات، المالية، الصحية)، المؤسسة التي تستخدم النظام لخدمة عملائها هي المسؤولة، حتى لو كان الخلل في مكوّن مورّد. يمكن تفويض التنفيذ، لا تفويض المساءلة.

أمثلة

حماية البيانات: لو تسرّبت بيانات عبر مورّد ذكاء اصطناعي، المنظّم يسأل المؤسسة أولًا.
قرار مالي متحيّز: لو حرم نموذج ائتمان شريحة معينة ظلمًا، البنك يواجه الشكوى.
قرار توظيف تمييزي: لو رفض نموذج مرشحين بناء على تحيّز، المؤسسة تُقاضى.
مخرَج طبي خاطئ: المستشفى مسؤول أمام المريض، لا الشركة التي طوّرت النموذج.

ما الذي يُلزم المؤسسة

العناية الواجبة: إثبات أنك فحصت المورّد قبل التعاقد.
الشروط التعاقدية: بنود واضحة عن البيانات، والمسؤولية، والتغييرات، والحوادث.
المراقبة المستمرة: إثبات أنك تتابع أداء النظام لا تكتفي بالتعاقد.
آلية الإيقاف: إثبات أنك تستطيع إيقاف النظام عند الحاجة.

حدود ما يمكن نقله للمورّد

يمكن نقل بعض المخاطر عبر:

تعويضات تعاقدية عن أضرار محددة.
متطلبات شهادات (SOC 2, ISO 27001, ISO 42001).
متطلبات إفصاح عن التغييرات الجوهرية.

لكن لا يمكن نقل: المسؤولية أمام العميل النهائي، المسؤولية أمام المنظّم، مسؤولية القرار الذي طبّقته على إنسان.

خلاصة عملية

أي عقد جديد مع مورّد ذكاء اصطناعي يجب أن يمر بمراجعة قانونية تُركز على ثلاث نقاط: من يملك البيانات؟ من يُبلَّغ بتغيير النموذج؟ ما التزام المورّد عند الحادث؟. غياب أي منها ثغرة مسؤولية مؤكدة.