كيف نرتب مخاطر الذكاء الاصطناعي عندما تكون الموارد محدودة؟
المشكلة ليست اكتشاف المخاطر فقط
يمكن لأي مؤسسة أن تجمع قائمة طويلة من مخاطر الذكاء الاصطناعي، لكن إدارة المخاطر تبدأ فعليًا عندما تصبح الموارد محدودة ويجب تحديد ما الذي يستحق التدخل أولًا. دراسة Delphi لـ272 خبيرًا صُممت حول هذه المشكلة: كيف يمكن المقارنة بين عشرات المخاطر من دون افتراض أن كل المخاطر متساوية في الشدة أو أن الجهات نفسها معرضة لها أو مسؤولة عنها؟
استخدمت الدراسة ثلاثة أسئلة مترابطة: ما المخاطر الأكثر شدة؟ من الأكثر هشاشة أمامها؟ ومن الأكثر مسؤولية عن معالجتها؟ هذا الفصل يمنع اختزال عملية الأولوية في قائمة أسماء أو في انطباع عام عن «الخطر الأكبر».
الشدة مع عدم اليقين
بدل أن يختار الخبير مستوى واحدًا للضرر، طلبت الدراسة توزيع 100 نقطة مئوية على خمسة مستويات: negligible وminor وsubstantial وsevere وcatastrophic. بهذه الطريقة يمكن للخبير أن يعبر عن عدم اليقين، مثل الاعتقاد بأن النتيجة الأكثر احتمالًا متوسطة لكن يوجد ذيل احتمال صغير لنتيجة كارثية.
هذا مهم لأن متوسط الشدة وحده قد يخفي الاختلاف في الذيل. وقد وجدت الدراسة بالفعل أن كثيرًا من الخلاف بين الخبراء يتركز في مقدار الاحتمال الممنوح للنتائج الكارثية، خصوصًا في المجالات التي تفتقر إلى معدلات تاريخية واضحة مثل القدرات الخطرة وعدم المواءمة وتمركز القوة.
الهشاشة تحدد أين سيقع الضرر
عرّفت الدراسة الهشاشة من خلال التعرض والحساسية. لا يكفي أن يكون الخطر شديدًا نظريًا؛ يجب أيضًا النظر إلى الجهات والقطاعات التي تعتمد على الذكاء الاصطناعي أو تتفاعل معه، وحجم الضرر إذا تحقق الخطر في سياقها.
لهذا فصلت الدراسة تقييم هشاشة سبعة أنواع من الجهات عن تقييم هشاشة 14 قطاعًا. النتيجة أن المستخدمين والأطراف المتأثرة كانوا الأكثر هشاشة عبر غالبية المخاطر، بينما برزت قطاعات مثل Information وNational Security وFinance & Insurance بدرجة مرتفعة في مجموعة واسعة من المجالات.
المسؤولية تحدد من يجب أن يتحرك
الخطأ المقابل هو افتراض أن الجهة الأكثر تعرضًا للضرر هي التي يجب أن تتحمل مسؤولية المعالجة. الدراسة لا تتبنى هذا المنطق. فهي تقيس المسؤولية من خلال obligation وcapability وcausal influence.
بناءً على ذلك، حصل مطورو الذكاء الاصطناعي العام وجهات الحوكمة على أعلى مستويات المسؤولية عبر معظم المخاطر، رغم أن المستخدمين والأطراف المتأثرة كانوا غالبًا الأكثر هشاشة. هذه الفجوة تكشف سبب الحاجة إلى تصميم المساءلة حول نقاط القدرة والنفوذ، لا حول نقطة وقوع الضرر فقط.
لماذا لا يجب اختزال الأبعاد في Score واحد؟
الدراسة لا تقترح معادلة من نوع severity × vulnerability × responsibility، ولا تتحقق من صحة أي وزن بين هذه الأبعاد. وهي أيضًا لا تقيس تكلفة المعالجة أو فعالية الضوابط أو tractability لكل خطر.
إنشاء score مركب من هذه الدراسة وحدها سيضيف قرارات تصميمية ليست في المصدر: هل تُضرب القيم أم تُجمع؟ ما الوزن الذي يُعطى للمسؤولية؟ هل المسؤولية الأعلى تجعل الخطر أعلى أم تحدد مالك المعالجة فقط؟ هذه أسئلة لم تجب عنها الدراسة.
لذلك فإن الاستخدام الأكثر انضباطًا هو إبقاء الأبعاد منفصلة. يمكن أن يظهر الخطر في لوحة أو سجل مع شدة متوقعة، وعدم يقين، وجهات عالية الهشاشة، وجهات عالية المسؤولية، ثم تضيف المؤسسة بياناتها المحلية قبل اتخاذ قرار الأولوية.
ما الذي ينقص لاتخاذ قرار مؤسسي؟
تصرح الدراسة بأنها لم تقيس فعالية إجراءات التخفيف أو تكلفتها أو آثارها الجانبية أو سهولة تنفيذها. لذلك لا يمكن استخدامها وحدها لاختيار خطة treatment.
على مستوى المؤسسة، ستحتاج الأولوية العملية إلى طبقات إضافية لم تقدمها الدراسة: ما الأنظمة المستخدمة فعليًا؟ ما البيانات المتأثرة؟ ما الاعتماد التشغيلي؟ ما الضوابط الموجودة؟ ما تكلفة الإجراء؟ وما مستوى الخطر المقبول؟ هذه الأسئلة ليست نتائج من الدراسة، بل بيانات محلية يجب أن تضاف بعد الاستفادة من منظورها في ترتيب المخاطر.
الدرس العملي
القيمة المنهجية الأساسية هي مقاومة الإغراء بتحويل مشهد المخاطر إلى رقم واحد مبكرًا. الشدة تجيب عن حجم الضرر المحتمل، والهشاشة تجيب عن مكان وقوعه، والمسؤولية تجيب عن موقع القدرة والالتزام بالتدخل. إذا بقيت هذه الأسئلة منفصلة، تصبح قرارات الحوكمة أوضح ويقل احتمال وضع المسؤولية في الجهة الخطأ.
المصدر
Prioritization of Risks from Artificial Intelligence: A Delphi Study of 272 International Experts، يونيو 2026، Introduction وMethods وResults وLimitations.