الإفراط في الاعتماد والاستخدام غير الآمن
Overreliance and Unsafe Use
خطر الثقة المفرطة أو الاعتماد العاطفي أو العملي على أنظمة الذكاء الاصطناعي بما يقود إلى استخدام غير مناسب أو توقعات لا يستطيع النظام تحمل مسؤوليتها.
شرح تفصيلي
يصف هذا المجال الحالات التي يُضفي فيها المستخدمون صفات بشرية على النظام أو يثقون به أو يعتمدون عليه بصورة مفرطة، فتتشكل علاقة عاطفية أو مادية أو توقعات غير مناسبة. يمكن استغلال هذه الثقة من فاعلين ضارين، أو قد تؤدي إلى أذى عندما يعتمد المستخدم على النظام في موقف حرج لا يناسب قدراته، كما يمكن أن يضعف الاعتماد المفرط الاستقلالية والروابط الاجتماعية.
مثال عملي
يعتمد شخص على توصية نظام ذكاء اصطناعي في موقف حرج دون تحقق بشري مناسب رغم أن النظام غير مصمم لتحمل هذا النوع من القرار.