القيمة الحقيقية للمبادئ الأخلاقية تظهر عندما تتحول من عبارات عامة إلى ضوابط ومسؤوليات وأدلة قابلة للمراجعة.
الخلاصة التنفيذية
تقدم مبادئ وإرشادات أخلاقيات الذكاء الاصطناعي في دولة الإمارات إطارًا لفهم الخصائص التي ينبغي مراعاتها عند تصميم أنظمة الذكاء الاصطناعي وتطويرها ونشرها واستخدامها بصورة مسؤولة.
وتتمحور الوثيقة حول ثمانية مبادئ رئيسية:
- العدالة.
- المساءلة.
- الشفافية.
- قابلية التفسير.
- المركزية البشرية.
- الخصوصية.
- المتانة والسلامة والأمن.
- الاستدامة.
لكن فهم هذه المبادئ يحتاج إلى تمييزين أساسيين.
الأول أن الوثيقة إرشادية وغير ملزمة بذاتها؛ فلا ينبغي وصف المبادئ الثمانية كما لو كانت قانونًا اتحاديًا عامًا يفرض التزامات قانونية موحدة على كل مؤسسة.
والثاني أن كون المبادئ غير ملزمة بذاتها لا يجعلها مجرد شعارات.
قيمتها العملية تظهر عندما تستخدمها المؤسسة لتطوير سياسات وضوابط ومسؤوليات واختبارات وأدلة تساعدها على إدارة استخدام الذكاء الاصطناعي بصورة أكثر مسؤولية.
والفكرة المركزية هي:
الذكاء الاصطناعي لا يتحمل المسؤولية الأخلاقية أو المؤسسية بدل الأشخاص والمنظمات التي تصممه وتطوره وتنشره وتستخدمه.
ما هي مبادئ أخلاقيات الذكاء الاصطناعي في الإمارات؟
أصدرت دولة الإمارات مبادئ وإرشادات لأخلاقيات الذكاء الاصطناعي لتوفير إطار يساعد على تطوير الذكاء الاصطناعي واستخدامه بطريقة مسؤولة.
الوثيقة لا تنظر إلى الأخلاقيات باعتبارها مسألة فلسفية مجردة فقط.
بل تربطها بأسئلة عملية تظهر طوال دورة حياة النظام، مثل:
- هل يعامل النظام الأشخاص بصورة عادلة؟
- من يتحمل المسؤولية عن نتائجه؟
- هل يعرف الأشخاص أنهم يتعاملون مع نظام ذكاء اصطناعي عندما يكون ذلك مهمًا؟
- هل يمكن تفسير النتائج والقرارات بالمستوى المناسب؟
- هل يبقى الإنسان في مركز التصميم والاستخدام؟
- هل تتم حماية الخصوصية والبيانات؟
- هل النظام آمن ومتين ويمكن الاعتماد عليه؟
- هل تمت مراعاة أثره واستدامته؟
وبذلك توفر المبادئ لغة مشتركة يمكن استخدامها بين فرق الأعمال والتقنية والمخاطر والخصوصية والأمن والامتثال والقيادة.
هل المبادئ ملزمة قانونيًا؟
المبادئ والإرشادات الأخلاقية الإماراتية غير ملزمة بذاتها.
وهذا يعني أنه لا ينبغي التعامل معها كما لو كانت قانونًا أو لائحة تنظيمية تفرض، بمفردها، التزامات قانونية عامة على جميع المؤسسات.
لكن يجب عدم القفز من هذه الحقيقة إلى استنتاج خاطئ آخر:
غير ملزم لا يعني غير مهم.
قد تستخدم المؤسسة المبادئ لتطوير إطارها الداخلي للذكاء الاصطناعي المسؤول، كما قد تتقاطع الموضوعات التي تتناولها مع التزامات قانونية أو تنظيمية تأتي من مصادر أخرى.
فعلى سبيل المثال، الخصوصية قد تكون مبدأ أخلاقيًا في الوثيقة، لكن معالجة البيانات الشخصية قد تخضع أيضًا لقانون أو نظام حماية بيانات واجب التطبيق.
وبالمثل، قد تكون المساءلة والشفافية والعدالة موضوعات أخلاقية، بينما تظهر متطلبات مرتبطة بها أيضًا في أطر أو قواعد قطاعية معينة.
لذلك يجب الفصل بين سؤالين:
ماذا توصي به مبادئ الأخلاقيات؟
و:
ما الذي يلزم المؤسسة قانونيًا أو تنظيميًا في حالتها المحددة؟
الإجابة عن السؤال الأول لا تستبدل تحليل السؤال الثاني.
المبدأ الأول: العدالة
العدالة تعني أن تصميم نظام الذكاء الاصطناعي واستخدامه يجب ألا يؤدي بصورة غير مبررة إلى معاملة غير عادلة أو تمييز ضار بين الأشخاص أو المجموعات.
هذه المسألة مهمة لأن النظام قد يبدو محايدًا تقنيًا بينما تعكس بياناته أو تصميمه أو طريقة استخدامه أنماطًا تؤدي إلى نتائج غير متوازنة.
يمكن أن يظهر الخطر من:
- بيانات تاريخية متحيزة.
- تمثيل ضعيف لبعض الفئات.
- اختيار متغيرات تؤدي بصورة غير مباشرة إلى التمييز.
- طريقة تحديد الهدف الذي يتعلمه النموذج.
- عتبات اتخاذ القرار.
- استخدام النظام في سياق مختلف عن السياق الذي اختبر فيه.
ولهذا فإن سؤال العدالة ليس:
«هل النموذج متحيز أم لا؟»
فقط.
بل:
«تجاه من نقيس العدالة؟ وفي أي قرار؟ وبأي معيار؟ وما الضرر المحتمل إذا أخطأ النظام؟»
كيف تحول المؤسسة العدالة إلى ممارسة؟
يمكن أن تشمل الممارسات:
- تحديد الفئات التي قد تتأثر بالنظام.
- فحص تمثيل البيانات.
- اختبار الفروق في النتائج.
- تحديد أنواع التحيز المحتملة.
- مراجعة الحالات ذات الأثر المرتفع.
- توثيق حدود الاختبارات.
- مراقبة النتائج بعد التشغيل.
ولا يوجد اختبار واحد للعدالة يصلح تلقائيًا لكل نظام.
السياق والقرار والأثر عوامل أساسية في اختيار طريقة التقييم.
المبدأ الثاني: المساءلة
المساءلة من أهم المبادئ لأنها تجيب عن سؤال:
من يتحمل المسؤولية؟
وجود نظام ذكاء اصطناعي بين الإنسان والنتيجة لا ينبغي أن يخلق فراغًا في المسؤولية.
يجب أن تستطيع المؤسسة تحديد من يملك:
- حالة الاستخدام.
- القرار بالموافقة على النظام.
- مسؤولية البيانات.
- تقييم المخاطر.
- المراقبة.
- معالجة الحوادث.
- صلاحية التدخل.
- قرار الاستمرار أو الإيقاف.
ومن النقاط الجوهرية في الإطار الأخلاقي أن المسؤولية لا تنتقل إلى الآلة.
يمكن للنظام أن ينتج توصية أو تصنيفًا أو محتوى أو قرارًا تقنيًا، لكن المؤسسة والأشخاص المسؤولين عن تصميمه وتطويره ونشره واستخدامه يظلون جزءًا من سلسلة المساءلة.
سؤال عملي
إذا أدى النظام إلى ضرر غدًا، هل تستطيع المؤسسة تحديد الشخص أو الوظيفة التي تملك صلاحية التحقيق والتدخل واتخاذ القرار؟
إذا كانت الإجابة غير واضحة، فهناك فجوة حوكمة حتى لو كان أداء النموذج ممتازًا.
المبدأ الثالث: الشفافية
الشفافية تعني توفير مستوى مناسب من الوضوح حول وجود النظام وطريقة استخدامه والغرض منه والجهات المسؤولة عنه، بحسب السياق.
لا تعني الشفافية بالضرورة نشر كل تفاصيل النموذج أو الشفرة أو الملكية الفكرية.
بل يجب تحديد ما يحتاج الشخص المتأثر أو المستخدم أو الجهة الرقابية أو المراجع الداخلي إلى معرفته.
قد تشمل الشفافية، بحسب الحالة:
- توضيح أن الذكاء الاصطناعي مستخدم.
- بيان الغرض من النظام.
- توضيح حدود استخدامه.
- تحديد الجهة المسؤولة.
- توضيح مصادر أو طبيعة البيانات عند الحاجة.
- بيان القيود المعروفة.
- توفير قناة للاستفسار أو الاعتراض عندما يكون ذلك مناسبًا.
والشفافية ليست بديلًا عن المساءلة.
إخبار المستخدم بأن «هذا القرار مدعوم بالذكاء الاصطناعي» لا يحل سؤال من يتحمل المسؤولية عن القرار.
المبدأ الرابع: قابلية التفسير
قابلية التفسير ترتبط بقدرة الأطراف المعنية على فهم النتيجة أو العوامل المؤثرة فيها بالمستوى المناسب للسياق.
ليست جميع أنظمة الذكاء الاصطناعي متساوية.
قد يكون التفسير المطلوب لنظام يساعد في ترتيب مستندات داخلية مختلفًا تمامًا عن التفسير المطلوب لنظام يؤثر في قرار مالي أو وظيفي أو صحي.
لذلك يجب ربط مستوى التفسير بـ:
- أهمية القرار.
- مستوى المخاطر.
- طبيعة المستخدم.
- أثر الخطأ.
- حاجة الشخص المتأثر إلى فهم النتيجة.
- متطلبات التدقيق أو الرقابة.
كما يجب التمييز بين:
شرح كيف يعمل النموذج تقنيًا
و:
شرح لماذا ظهرت نتيجة معينة بطريقة مفهومة للشخص المعني.
قد تحتاج المؤسسة إلى الاثنين، لكنهما يخدمان أغراضًا مختلفة.
المبدأ الخامس: المركزية البشرية
المركزية البشرية تعني أن تطوير الذكاء الاصطناعي واستخدامه يجب أن يظل موجهًا لخدمة الإنسان ومراعاة حقوقه ومصالحه ورفاهيته.
هذه الفكرة تصبح أكثر أهمية عندما تنتقل الأنظمة من تقديم المعلومات إلى التأثير في القرارات أو تنفيذ الإجراءات.
المركزية البشرية لا تعني أن كل عملية يجب أن تحتوي دائمًا على موافقة بشرية يدوية.
بل تعني تصميم العلاقة بين الإنسان والنظام بصورة تناسب المخاطر.
وقد يشمل ذلك:
- إشرافًا بشريًا.
- مراجعة بشرية لبعض القرارات.
- حق التدخل.
- آلية تصعيد.
- إمكانية تجاوز مخرجات النظام.
- صلاحية إيقافه.
- قنوات للاعتراض أو المراجعة عند الحاجة.
الإشراف البشري ليس مبدأً تاسعًا
من المفيد هنا توضيح نقطة اصطلاحية.
الإشراف البشري أداة مهمة لتحويل المركزية البشرية والمساءلة إلى ممارسة تشغيلية، لكنه لا ينبغي عرضه على أنه مبدأ تاسع مستقل ضمن قائمة المبادئ الثمانية.
السؤال العملي ليس فقط:
«هل يوجد إنسان؟»
بل:
«هل يمتلك هذا الإنسان الوقت والمعلومات والصلاحية والقدرة الفعلية على التدخل؟»
وجود شخص يضغط زر الموافقة بصورة روتينية لا يحقق إشرافًا بشريًا ذا معنى.
المبدأ السادس: الخصوصية
الذكاء الاصطناعي يعتمد غالبًا على البيانات، ولهذا تعد الخصوصية عنصرًا أساسيًا في الاستخدام المسؤول.
يجب التفكير في الخصوصية عبر دورة حياة البيانات، وليس عند جمعها فقط.
اسأل:
- ما البيانات التي يحتاجها النظام فعلًا؟
- هل تحتوي على بيانات شخصية؟
- هل توجد بيانات حساسة؟
- من يستطيع الوصول إليها؟
- هل ترسل إلى مزود خارجي؟
- أين تتم المعالجة؟
- ما مدة الاحتفاظ بها؟
- هل يمكن أن تظهر في المخرجات؟
- هل يمكن إعادة استخدامها لأغراض أخرى؟
في أنظمة الذكاء الاصطناعي التوليدي، تظهر أسئلة إضافية حول ما يضعه الموظفون داخل المطالبات، وما الذي يحتفظ به المزود، وكيف تستخدم البيانات، وما إذا كانت المخرجات قد تكشف معلومات غير مقصودة.
ومع الأنظمة الوكيلية، يصبح نطاق البيانات أكثر تعقيدًا لأن النظام قد يمتلك وصولًا إلى تطبيقات وملفات وقواعد بيانات متعددة.
الأخلاقيات لا تستبدل قانون حماية البيانات
وجود الخصوصية ضمن المبادئ الأخلاقية لا يعني أن اتباع المبدأ وحده يكفي لتحقيق الامتثال القانوني.
يجب تحليل قانون أو نظام حماية البيانات الواجب التطبيق بصورة مستقلة.
المبدأ السابع: المتانة والسلامة والأمن
يجب أن يكون نظام الذكاء الاصطناعي قادرًا على العمل بصورة موثوقة ضمن الظروف التي صمم من أجلها، وأن تتم إدارة مخاطر السلامة والأمن المرتبطة به.
يشمل ذلك التفكير في:
- دقة النظام.
- استقراره.
- حدود استخدامه.
- السلوك عند المدخلات غير المتوقعة.
- الأخطاء والفشل.
- التلاعب.
- الوصول غير المصرح به.
- حماية البيانات.
- الاعتماد على أنظمة خارجية.
- قدرة المؤسسة على اكتشاف المشكلات والاستجابة لها.
ولا ينبغي اختبار النظام في بيئة مثالية فقط.
السؤال الأكثر أهمية هو:
كيف يتصرف عندما لا تسير الأمور كما هو متوقع؟
من الأمن التقليدي إلى أمن الذكاء الاصطناعي
الضوابط الأمنية التقليدية تظل مهمة، لكنها قد لا تكون كافية وحدها.
أنظمة الذكاء الاصطناعي قد تضيف مخاطر مرتبطة بالنموذج والمدخلات والمخرجات والبيانات والموردين والتكاملات.
وفي الأنظمة التوليدية والوكيلية، قد تظهر مخاطر إضافية مثل التلاعب بالتعليمات أو إساءة استخدام الصلاحيات أو تنفيذ إجراءات غير مقصودة.
لذلك يجب أن تتطور الحماية مع تطور قدرة النظام.
المبدأ الثامن: الاستدامة
الاستدامة توسع تقييم الذكاء الاصطناعي ليشمل أثره الأوسع، وليس فقط دقته أو قيمته الاقتصادية المباشرة.
يمكن أن تشمل الاعتبارات:
- الموارد الحاسوبية.
- استهلاك الطاقة.
- كفاءة الحل.
- حجم النموذج مقارنة بالحاجة الفعلية.
- دورة حياة البنية التقنية.
- الآثار البيئية والاجتماعية الأوسع.
ولا يعني ذلك أن كل مؤسسة يجب أن تجري التحليل نفسه لكل أداة.
المبدأ هو أن الأثر والاستدامة يجب ألا يختفيا تمامًا من عملية اتخاذ القرار، خصوصًا في الاستخدامات الكبيرة أو كثيفة الموارد.
كيف تعمل المبادئ الثمانية معًا؟
من الخطأ تطبيق كل مبدأ في عزلة.
قد يزيد قرار واحد الشفافية لكنه يخلق خطرًا على الخصوصية.
وقد يؤدي تبسيط النموذج لتحسين قابلية التفسير إلى التأثير في الأداء.
وقد يؤدي تشديد الأتمتة إلى زيادة الكفاءة مع تقليل قدرة الإنسان على التدخل.
لذلك تحتاج المؤسسة إلى موازنة المبادئ داخل سياق حالة الاستخدام.
يمكن تصور العلاقة كالتالي:
حالة الاستخدام
↓
الأشخاص المتأثرون
↓
البيانات
↓
القرار أو الإجراء
↓
العدالة + المساءلة + الشفافية + التفسير
↓
المركزية البشرية + الخصوصية
↓
المتانة + السلامة + الأمن
↓
الاستدامة
↓
الضوابط والأدلة والمراقبة
الهدف ليس إعطاء كل نظام علامة منفصلة على ثمانية مبادئ فقط، بل فهم كيف تتفاعل هذه المبادئ مع المخاطر الفعلية للنظام.
من المبدأ إلى الضابط
أحد أكبر تحديات أخلاقيات الذكاء الاصطناعي هو الانتقال من عبارات مثل:
«يجب أن يكون الذكاء الاصطناعي عادلًا وشفافًا وآمنًا»
إلى إجراءات يمكن تنفيذها ومراجعتها.
يمكن للمؤسسة استخدام نموذج بسيط:
المبدأ → الخطر → المتطلب الداخلي → الضابط → المسؤول → الدليل → المراقبة
مثال:
العدالة
↓
خطر نتائج غير متوازنة بين مجموعات مختلفة
↓
متطلب داخلي لتقييم التحيز في حالة استخدام عالية التأثير
↓
اختبار محدد قبل الإطلاق وبعده
↓
مالك حالة الاستخدام وفريق المخاطر أو الجهة المختصة
↓
تقرير الاختبار وقرار الموافقة
↓
مراقبة النتائج وإعادة التقييم عند التغير
بهذا تتحول الأخلاقيات من لغة عامة إلى نظام حوكمة يمكن تشغيله.
ما الأدلة التي يمكن الاحتفاظ بها؟
المؤسسة الناضجة لا تكتفي بالقول إنها تطبق الذكاء الاصطناعي المسؤول.
يجب أن تستطيع إظهار كيف فعلت ذلك.
بحسب حالة الاستخدام، قد تشمل الأدلة:
- وصف حالة الاستخدام.
- مالك النظام.
- تقييم المخاطر.
- سجل البيانات.
- تقييم الخصوصية.
- نتائج اختبارات العدالة.
- اختبارات الأداء والمتانة.
- توثيق قابلية التفسير.
- إشعارات الشفافية.
- سجل الموافقات.
- قرارات الاستثناء.
- تقييم المورد.
- نتائج الاختبارات الأمنية.
- سجل التغييرات.
- سجلات المراقبة.
- الحوادث والإجراءات التصحيحية.
- قرارات إعادة التقييم أو الإيقاف.
ليس المطلوب إنشاء مستند لكل عنصر بصورة بيروقراطية.
المطلوب أن تكون المؤسسة قادرة على إثبات أن قرارات الحوكمة المهمة حدثت فعلًا.
هل يجب تطبيق الضوابط نفسها على كل نظام؟
لا.
الاستخدام المسؤول لا يعني وضع جميع أنظمة الذكاء الاصطناعي في عملية مراجعة متطابقة.
نظام منخفض التأثير يساعد موظفًا على إعادة صياغة نص عام ليس كنظام يؤثر في قرار يتعلق بعميل أو موظف أو خدمة أساسية.
لذلك يجب أن تكون الحوكمة متناسبة مع المخاطر.
يمكن أن تنظر المؤسسة إلى عوامل مثل:
- حجم الأثر.
- عدد الأشخاص المتأثرين.
- حساسية البيانات.
- أهمية القرار.
- درجة الاستقلالية.
- إمكانية التراجع عن النتيجة.
- الاعتماد على أطراف ثالثة.
- قدرة الإنسان على التدخل.
- الضرر المحتمل عند الفشل.
كلما ارتفع الأثر، ارتفع مستوى التقييم والضوابط والأدلة والمراقبة المطلوبة.
ماذا تتغير المبادئ مع الذكاء الاصطناعي التوليدي والوكيلي؟
المبادئ الأساسية لا تفقد أهميتها مع ظهور تقنيات جديدة، لكن طريقة تطبيقها تتغير.
في الذكاء الاصطناعي التوليدي تظهر أسئلة مثل:
- هل يعرف المستخدم حدود المخرجات؟
- كيف تدار احتمالات المعلومات غير الصحيحة؟
- ما البيانات التي تدخل إلى النظام؟
- كيف تراجع المخرجات عالية التأثير؟
- من يتحمل مسؤولية المحتوى الناتج؟
أما في الذكاء الاصطناعي الوكيلي، فقد يصبح النظام قادرًا على استخدام أدوات والوصول إلى أنظمة واتخاذ خطوات وتنفيذ إجراءات.
وهنا تنتقل الحوكمة من سؤال:
«ماذا يستطيع النظام أن يقول؟»
إلى:
«ماذا يستطيع النظام أن يفعل؟»
فتصبح المساءلة والمركزية البشرية والأمن أكثر ارتباطًا بأسئلة مثل:
- ما الصلاحيات الممنوحة؟
- ما حدود الإجراء؟
- ما الأنظمة التي يستطيع الوصول إليها؟
- هل يستطيع تنفيذ معاملات؟
- متى يحتاج إلى موافقة بشرية؟
- كيف يتم تسجيل أفعاله؟
- من يستطيع إيقافه؟
هذه ليست مبادئ أخلاقية جديدة، بل تطبيقات أكثر تقدمًا للمبادئ نفسها في سياق تقني مختلف.
أخطاء شائعة
تحويل الأخلاقيات إلى شعارات
نشر قائمة مبادئ دون مسؤوليات أو ضوابط أو أدلة لا يصنع حوكمة.
اعتبار المبادئ قانونًا ملزمًا بذاته
هذا يخلط بين الوضع الأخلاقي والإرشادي والوضع القانوني.
اعتبار عدم إلزامها سببًا لتجاهلها
هذا يفقد المؤسسة إطارًا مهمًا لتطوير الاستخدام المسؤول وإدارة المخاطر.
القول إن النظام هو المسؤول
النظام لا يحل محل سلسلة المساءلة البشرية والمؤسسية.
اعتبار الشفافية بديلًا عن المساءلة
إخبار الناس باستخدام AI لا يحدد من يتحمل مسؤولية نتائجه.
وجود إنسان شكليًا
المراجعة البشرية بلا معلومات أو صلاحية أو وقت للتدخل قد تكون مجرد واجهة شكلية.
استخدام اختبار واحد للعدالة
العدالة تعتمد على السياق والسكان والقرار والأثر.
تطبيق المستوى نفسه من الحوكمة على كل استخدام
هذا يؤدي إما إلى بيروقراطية مفرطة أو إلى ضوابط غير كافية للأنظمة عالية التأثير.
نموذج عملي للمؤسسات
يمكن للمؤسسة تحويل المبادئ الثمانية إلى عملية من سبع خطوات:
1. حدد حالة الاستخدام
ماذا يفعل النظام؟ ولمن؟ وما النتيجة التي يؤثر فيها؟
2. حدد الأشخاص والبيانات والقرارات
من يمكن أن يتأثر؟ وما البيانات المستخدمة؟ وما القرار أو الإجراء الناتج؟
3. قيّم المبادئ ذات الصلة
حدد كيف يمكن أن تظهر مخاطر العدالة والمساءلة والشفافية والتفسير والمركزية البشرية والخصوصية والمتانة والأمن والاستدامة.
4. حدد الضوابط
قرر ما الاختبارات والموافقات والقيود والمراجعات المطلوبة.
5. عيّن المسؤولية
حدد مالك حالة الاستخدام ومن يوافق ويراقب ويتدخل.
6. احتفظ بالأدلة
وثق القرارات والاختبارات والاستثناءات والموافقات المهمة.
7. راقب وأعد التقييم
أعد التقييم عندما يتغير النموذج أو البيانات أو المورد أو الاستخدام أو مستوى الاستقلالية أو البيئة المحيطة بالنظام.
خلاصة سيادة
أخلاقيات الذكاء الاصطناعي لا تصبح حوكمة لمجرد كتابة المبادئ في سياسة.
الانتقال الحقيقي يحدث عندما تستطيع المؤسسة الإجابة عن:
ما المبدأ؟ ما الخطر الذي يعالجه؟ ما الضابط؟ من المسؤول؟ ما الدليل؟ وكيف نعرف أن الضابط ما يزال فعالًا؟
وهنا يمكن استخدام التسلسل:
Principle → Risk → Control → Owner → Evidence → Monitoring
أو:
المبدأ → الخطر → الضابط → المسؤول → الدليل → المراقبة
بهذا تصبح المبادئ الأخلاقية طبقة عملية داخل حوكمة الذكاء الاصطناعي، دون الخلط بينها وبين القانون.
والهدف ليس أن تقول المؤسسة:
«لدينا مبادئ للذكاء الاصطناعي المسؤول».
بل أن تستطيع إثبات:
كيف انعكست العدالة والمساءلة والشفافية وقابلية التفسير والمركزية البشرية والخصوصية والمتانة والسلامة والأمن والاستدامة على القرارات الفعلية طوال دورة حياة أنظمة الذكاء الاصطناعي.
المفاهيم الرئيسية
- أخلاقيات الذكاء الاصطناعي
- العدالة
- المساءلة
- الشفافية
- قابلية التفسير
- الإشراف البشري
الخطوات العملية
- 1حدد الأنظمة والقرارات ذات التأثير المرتفع.
- 2عين مسؤوليات واضحة للحوكمة والمساءلة.
- 3طبق اختبارات للعدالة والتحيز.
- 4وثق قابلية التفسير والشفافية بما يتناسب مع مستوى المخاطر.
- 5حدد نقاط التدخل والإشراف البشري.
- 6راجع الأمن والخصوصية والاستدامة ضمن دورة حياة النظام.
الأخطاء الشائعة
- ⚠التعامل مع الأخلاقيات كبيان مبادئ فقط.
- ⚠القول إن النظام نفسه يتحمل المسؤولية بدل المؤسسة والأشخاص.
- ⚠استخدام الشفافية كبديل عن المساءلة.
- ⚠تطبيق نفس مستوى الضوابط على جميع حالات الاستخدام بغض النظر عن المخاطر.