قصور القدرة أو المتانة
Lack of Capability or Robustness
خطر فشل نظام الذكاء الاصطناعي في الأداء بصورة موثوقة أو فعالة عند تغير الظروف، بما يؤدي إلى أخطاء قد تصبح شديدة في التطبيقات الحرجة.
شرح تفصيلي
يشير هذا المجال إلى الأنظمة التي لا تحافظ على أداء موثوق وفعال عبر ظروف متنوعة، فتظهر أخطاء أو إخفاقات عندما تتغير المدخلات أو البيئة أو متطلبات المهمة. تزداد أهمية الخطر في التطبيقات الحرجة أو المواقف التي تتطلب حكمًا معقدًا أو أخلاقيًا، حيث يمكن لقصور محدود في المتانة أن ينتج أثرًا كبيرًا.
مثال عملي
يعمل نظام بصورة جيدة في الظروف التي اختُبر عليها لكنه يفشل بصورة غير متوقعة عندما تتغير بيئة التشغيل أو نوع المدخلات في سياق حساس.