من يتحمل مخاطر الذكاء الاصطناعي؟ فجوة الهشاشة والمسؤولية
السؤال الذي تكشفه الدراسة
لا تتوزع مخاطر الذكاء الاصطناعي بالتساوي بين من يطور النظام ومن ينشره ومن يستخدمه ومن يتأثر به. وتبين دراسة Delphi لـ272 خبيرًا أن الجهة الأكثر عرضة للضرر ليست بالضرورة الجهة الأكثر قدرة أو التزامًا أو تأثيرًا في منع وقوعه.
قيّم المشاركون سبعة أنواع من الجهات داخل منظومة الذكاء الاصطناعي: مطورو النماذج العامة، المطورون المتخصصون، الجهات الناشرة، مزودو البنية التحتية، جهات الحوكمة، مستخدمو الذكاء الاصطناعي، والأطراف المتأثرة. استخدمت الدراسة مقياسًا من خمس درجات للهشاشة ومقياسًا منفصلًا للمسؤولية، ما يسمح برؤية الفرق بين «من قد يتضرر؟» و«من ينبغي أن يقود المعالجة؟».
من الأكثر هشاشة؟
اعتبر الخبراء AI Users وAffected Stakeholders الأكثر هشاشة أمام غالبية مجالات المخاطر. تشمل الأطراف المتأثرة أعضاء من الجمهور والمستهلكين والموظفين الذين تخضع قرارات تخصهم لأنظمة ذكاء اصطناعي، حتى لو لم يتعاملوا مع النظام مباشرة.
هذا التمييز مهم لأن الضرر يمكن أن ينتقل إلى شخص لم يختر الأداة ولم يملك قرار تصميمها أو نشرها. فالمستخدم أو الطرف المتأثر قد يتحمل آثارًا مادية أو معلوماتية أو حقوقية، بينما لا يملك الوصول إلى النموذج أو بياناته أو ضوابطه أو القرار التنظيمي الذي سمح باستخدامه.
في المقابل، صنفت الدراسة مزودي البنية التحتية – الذين يوفرون الحوسبة أو السحابة أو البيانات – بين الأقل هشاشة عبر كثير من المخاطر، مع استثناءات مهمة تشمل الضرر البيئي والأسلحة والهجمات السيبرانية وثغرات أمن أنظمة الذكاء الاصطناعي والقدرات الخطرة. لا يعني ذلك أن البنية التحتية غير مهمة، بل أن «الهشاشة» هنا تقيس التعرض والحساسية للضرر وليس مقدار النفوذ أو الدور التقني في المنظومة.
من يتحمل المسؤولية؟
عرّفت الدراسة المسؤولية عبر ثلاثة أبعاد: obligation، أي مدى وجوب أن تقود الجهة جهود المعالجة؛ capability، أي امتلاك الموارد والمهارات المتخصصة اللازمة؛ وcausal influence، أي مدى مساهمة أفعال الجهة أو تقاعسها في تحقق الضرر.
بناء على هذا التعريف، منح الخبراء General-Purpose AI Developers مستويات مرتفعة من المسؤولية عبر معظم مجالات الخطر. تفسير الدراسة لذلك يرتبط بموقع هؤلاء المطورين في الجزء الأعلى من سلسلة النظام: قرارات التصميم وبنية النموذج والإعدادات الافتراضية وخصائص السلامة يمكن أن تؤثر في عدد كبير من الاستخدامات اللاحقة.
كما منح الخبراء AI Governance Actors – بما يشمل الحكومات والمنظمين وجهات وضع المعايير – مسؤولية مرتفعة عبر معظم المخاطر. ترى الدراسة أن الإجراءات التقنية وحدها لا تحل مشاكل الحوافز عندما تواجه الشركات ضغوطًا تنافسية تدفعها إلى التسريع أو تقليل الاحتياط. هنا تصبح أدوات الحوكمة ضرورية لتغيير الحوافز أو فرض مستويات من الشفافية والمساءلة.
فجوة الحوافز
النتيجة الأهم ليست أن جهة واحدة «مسؤولة عن كل شيء»، بل أن الهشاشة والمسؤولية موزعتان بصورة غير متماثلة. الأطراف التي تتحمل الضرر قد لا تملك الأدوات التي تمنعه، بينما الجهات القادرة على التدخل قد لا تتحمل التكلفة الكاملة إذا وقع الضرر على المجتمع أو المستخدمين.
تربط الدراسة هذا الوضع بمشكلة moral hazard وبحوافز العمل الجماعي. قد يتحمل مطور يبطئ سباق التطوير لرفع مستوى السلامة تكلفة تنافسية مباشرة، بينما تتوزع منافع الاحتياط على المجتمع كله. وعندما تبقى هذه التكاليف خارجية، لا يكفي توقع أن تتطابق المصلحة التجارية تلقائيًا مع المصلحة العامة.
المسؤولية الموزعة: دفاع متعدد الطبقات أم فجوة مساءلة؟
لا تحصر الدراسة المسؤولية في المطورين والجهات التنظيمية فقط. فقد حصلت جهات النشر والمطورون المتخصصون ومزودو البنية التحتية والمستخدمون على درجات متفاوتة من المسؤولية حسب نوع الخطر. ويمكن لهذا التوزيع أن يصبح قوة إذا عمل كـ defense in depth: كل جهة تضيف طبقة وقاية أو مراقبة أو تدقيق.
لكن التوزيع نفسه قد يتحول إلى ضعف إذا نتج عنه accountability sink، أي أن تكون المسؤولية موزعة على عدد كبير من الأطراف بحيث لا تتحملها أي جهة فعليًا. ولهذا تشير الدراسة إلى أن المسؤولية الأساسية ينبغي ألا تُدفع إلى المستخدمين أو الأطراف المتأثرة لمجرد أنهم الأقرب إلى نقطة وقوع الضرر.
الاستخدام المؤسسي الصحيح
لا تقدم الدراسة مصفوفة قانونية تحدد المسؤولية القضائية، ولا ينبغي تحويل تقييمات الخبراء إلى أحكام liability. الاستخدام الصحيح للنتيجة هو الفصل بين أربعة أسئلة داخل الحوكمة المؤسسية: من يتحمل الضرر، من يملك الضابط، من يملك القرار، ومن يجب أن يقود المعالجة.
هذا الفصل يمنع خطأ شائعًا: تكليف الطرف الأكثر تعرضًا للمخاطر بمسؤولية لا يملك أدوات تنفيذها. كما يساعد التدقيق والحوكمة على فحص ما إذا كانت الصلاحيات والمسؤوليات الفعلية موضوعة في النقاط التي تمتلك القدرة على تخفيض الخطر.
المصدر
Prioritization of Risks from Artificial Intelligence: A Delphi Study of 272 International Experts، يونيو 2026. تستند هذه المقالة إلى نتائج actor vulnerability وactor responsibility ومناقشة فجوة الحوافز والمساءلة في الدراسة.