تفاوت الأداء بين المجموعات
Unequal Performance Across Groups
خطر اختلاف دقة أو فعالية نظام الذكاء الاصطناعي بين مجموعات مختلفة بحيث تحصل بعض المجموعات على أداء أضعف أو منفعة أقل أو عبء استخدام أكبر.
شرح تفصيلي
يصف هذا المجال الحالات التي تعتمد فيها دقة النظام أو فعاليته بصورة غير متساوية على عضوية المجموعة. وفق التصنيف، قد ينتج ذلك عن قرارات في تصميم النظام أو عن بيانات تدريب منحازة أو غير ممثلة، وقد يؤدي إلى تفاوت النتائج أو تقليل الفائدة أو زيادة الجهد المطلوب من بعض المستخدمين أو شعورهم بالاستبعاد.
مثال عملي
أداة تعمل بكفاءة جيدة لمجموعة من المستخدمين لكنها تنتج أخطاء أكثر بصورة متكررة لمجموعة أخرى بسبب تفاوت التمثيل أو التصميم.