التمييز غير العادل وسوء التمثيل
Unfair Discrimination and Misrepresentation
خطر أن تؤدي أنظمة الذكاء الاصطناعي إلى معاملة غير عادلة أو تمثيل غير منصف لأفراد أو مجموعات بناءً على خصائص حساسة أو بيانات وتصميمات منحازة.
شرح تفصيلي
يصف هذا المجال الحالات التي ينتج فيها نظام الذكاء الاصطناعي معاملة أو تمثيلًا غير عادل لفرد أو مجموعة، بما في ذلك الفروق المرتبطة بخصائص حساسة مثل العرق أو الجنس. وفق التصنيف المستخدم في الدراسة، قد ينشأ الخطر من قرارات تصميم النظام أو البيانات أو طريقة تمثيل المجموعات، وتظهر آثاره في نتائج متفاوتة أو تمثيل غير منصف.
مثال عملي
نظام يستخدم في قرار مؤسسي يعطي مجموعة من الأشخاص نتائج أقل فائدة بصورة مرتبطة بعضوية المجموعة لا باختلاف ذي صلة بالغرض.