الذكاء الاصطناعي القابل للتفسير والفهم
Explainable and Interpretable AI
قدرة الأطراف المعنية على فهم منطق النظام ومخرجاته. مفهوم أساسي في حوكمة الذكاء الاصطناعي يُستخدم داخل ضوابط ISO/IEC 42001 و NIST AI RMF لتحديد المسؤوليات وأدلة التدقيق المرتبطة بـ الذكاء الاصطناعي القابل للتفسير والفهم.
شرح تفصيلي
التفسير يعني وصف كيفية عمل النموذج، بينما القابلية للفهم تعني إدراك سبب مخرج محدد. يُعدّ هذا المفهوم عنصراً عملياً في نظام إدارة الذكاء الاصطناعي (AIMS): يُوثَّق ضمن السياسات، ويُربط بسجل المخاطر، ويُدعم بأدلة قابلة للتحقق أثناء التدقيق الداخلي أو الخارجي. تحدّد المؤسسة مالكاً واضحاً له، ومقاييس أداء، وضوابط استعراض دورية تضمن استمرار ملاءمته لحالات الاستخدام الفعلية ولمتطلبات ISO/IEC 42001 و NIST AI RMF.
مثال عملي
لوحة تفسير SHAP توضح مساهمة كل ميزة في قرار الائتمان.