خمسة مخاطر للذكاء الاصطناعي تبقى مرتفعة حتى مع التخفيف العملي
لماذا قارنت الدراسة بين سيناريوهين؟
لم تكتف دراسة Delphi بتقدير مخاطر الذكاء الاصطناعي إذا استمرت المؤسسات والحكومات على المسار الحالي. طلبت من الخبراء التفكير في سيناريو ثانٍ يفترض تنفيذ جهود عملية ومجدية اقتصاديًا لمعالجة مخاطر الذكاء الاصطناعي.
في سيناريو Business as Usual تستمر الممارسات القائمة دون إجراءات إضافية خاصة بالمخاطر. أما Pragmatic Mitigations فيفترض أن المؤسسات والحكومات تبذل جهودًا عملية ومجدية اقتصاديًا. تعمدت الدراسة إبقاء تعريف السيناريو الثاني عامًا، وهو ما يعني أن الخبراء ربما تصوروا حزمًا مختلفة من الإجراءات. لذلك لا يجوز تفسير الفرق بين السيناريوهين كاختبار تجريبي لضابط بعينه.
ما الذي تغير مع التخفيف؟
انخفض متوسط الشدة لجميع مجالات المخاطر التي شملتها الدراسة عند الانتقال إلى سيناريو Pragmatic Mitigations. وذكرت الدراسة أن متوسط الانخفاض على مقياس الشدة من 1 إلى 5 تراوح تقريبًا بين 0.36 و0.53 نقطة، بوسيط انخفاض بلغ 0.44 نقطة.
كانت بعض أكبر التخفيضات المطلقة في احتمال الضرر الكارثي ضمن المخاطر ذات الخط الأساسي المرتفع. على سبيل المثال، انخفضت القيمة المقربة للقدرات الخطرة من نحو 22% إلى 12%، وللأسلحة والهجمات السيبرانية من 21% إلى 12%، وللديناميكيات التنافسية من 17% إلى 7%، ولعدم مواءمة الذكاء الاصطناعي من 17% إلى 9%.
الدراسة نفسها تحذر من استنتاج سبب واحد لهذا الانخفاض. قد يرى الخبراء أن بعض المخاطر أكثر قابلية للتخفيف، أو قد تكون إجراءات معينة قد بدأت بالفعل، أو قد يعكس الفرق ببساطة وجود مساحة أكبر للانخفاض في المخاطر ذات القيم الأعلى. تصميم الدراسة لا يستطيع فصل هذه التفسيرات.
المخاطر الخمسة التي بقيت فوق 10%
رغم الانخفاض العام، بقيت خمسة مجالات فوق 10% لاحتمال الضرر الكارثي في سيناريو Pragmatic Mitigations:
- Dangerous Capabilities — 12%
- Weapons & Cyberattacks — 12%
- Environmental Harm — 12%
- Inequality & Unemployment — 11%
- Power Centralization — 11%
هذه القيم هي القيم المقربة المعروضة في Figure 1. كما تشير الدراسة إلى أن جميع مجالات المخاطر في الشكل الرئيسي بقيت عند 5% أو أكثر لاحتمال الضرر الكارثي حتى مع التخفيف العملي.
لماذا قد تستمر هذه المخاطر؟
في المناقشات النوعية، ربط الخبراء استمرار Dangerous Capabilities بإمكانية ظهور قدرات جديدة مع توسع الأنظمة وصعوبة توقعها أو السيطرة عليها بالكامل. ويرتبط Weapons & Cyberattacks باستمرار استخدام الذكاء الاصطناعي من جهات حكومية وغير حكومية في الهجمات والتطوير العسكري والسيبراني.
أما Environmental Harm فيرتبط بالبنية التحتية كثيفة الموارد والطاقة المطلوبة لتطوير وتشغيل النماذج الكبيرة. ويرتبط Inequality & Unemployment باحتمال أن تزيد الأتمتة الفجوات القائمة إذا تركزت المكاسب لدى مالكي الأنظمة والموارد بينما تحملت فئات أخرى فقدان الوظائف أو تراجع جودة العمل.
ويظهر Power Centralization كخطر بنيوي لأن الجهات التي تملك الأنظمة الأقوى أو الوصول إليها يمكن أن تعزز موقعها الاقتصادي والسياسي بصورة ذاتية. ترى مناقشة الدراسة أن هذه الديناميكيات لا يمكن حلها كلها بضابط تقني على مستوى النموذج؛ بعضها يرتبط ببنية السوق والعمل وتوزيع القوة.
ما الذي لا تثبته هذه النتيجة؟
لا تثبت الدراسة أن «التخفيف العملي» يمثل حزمة موحدة من الضوابط. كما لم تطلب من الخبراء ترتيب إجراءات التخفيف حسب الفعالية أو التكلفة أو قابلية التطبيق. لم تُقَس أيضًا الآثار الجانبية أو المقايضات الأخلاقية لبعض التدخلات.
لذلك لا يجوز تحويل هذه القيم إلى ادعاء من نوع «تطبيق الضابط X يخفض الخطر Y من 22% إلى 12%». الرقم الثاني هو حكم الخبراء تحت سيناريو عام، لا نتيجة تجربة سببية على إجراء محدد.
الدلالة للحوكمة
القيمة العملية للنتيجة هي أن بعض المخاطر قد تستمر حتى بعد اتخاذ إجراءات معقولة، وأن الأولوية لا تنتهي عند تطبيق أول طبقة من الضوابط. المخاطر البنيوية والمخاطر ذات العواقب الشديدة قد تحتاج إلى متابعة مستمرة وتوزيع واضح للمسؤولية وتنسيق بين المطورين والجهات الناشرة والحوكمة العامة.
كما أن بقاء الخطر بعد التخفيف لا يساوي «residual risk» مؤسسيًا بالمعنى الحسابي؛ الدراسة لم تقيس نظام مؤسسة بعينها. الأفضل فهمه كإشارة إلى أن الخبراء لا يتوقعون اختفاء ذيل الخطر لمجرد وجود جهود عامة معقولة.
المصدر
Prioritization of Risks from Artificial Intelligence: A Delphi Study of 272 International Experts، يونيو 2026، أقسام Risk Severity وPragmatic Mitigations وDiscussion وLimitations.