نقص الشفافية أو قابلية التفسير
Lack of Transparency or Interpretability
صعوبة فهم أو تفسير كيفية وصول نظام الذكاء الاصطناعي إلى قراراته، بما يعرقل الثقة والمساءلة واكتشاف الأخطاء وتصحيحها.
شرح تفصيلي
يصف هذا المجال التحديات التي تمنع فهم أو تفسير عملية اتخاذ القرار داخل نظام الذكاء الاصطناعي. يمكن أن يؤدي ذلك إلى ضعف الثقة، وصعوبة تطبيق متطلبات الامتثال أو تحديد المسؤولية عن الضرر، وعدم القدرة على اكتشاف الأخطاء وتصحيحها. يعامل التصنيف نقص التفسير كخطر مستقل رغم أنه قد يزيد أيضًا آثار مخاطر أخرى.
مثال عملي
يصدر نظام قرارًا مؤثرًا لكن الجهة الناشرة لا تستطيع تفسير العوامل التي قادت إليه أو تحديد سبب خطأ معين لتصحيحه.