الذكاء الاصطناعي الصالح والموثوق
Valid and Reliable AI
نظام يعمل بشكل صحيح ومتسق ضمن الظروف المتوقعة. مفهوم أساسي في حوكمة الذكاء الاصطناعي يُستخدم داخل ضوابط ISO/IEC 42001 و NIST AI RMF لتحديد المسؤوليات وأدلة التدقيق المرتبطة بـ الذكاء الاصطناعي الصالح والموثوق.
شرح تفصيلي
يجب أن تُثبِت أنظمة الذكاء الاصطناعي دقتها وموثوقيتها عبر بيانات وسيناريوهات متعددة. يُعدّ هذا المفهوم عنصراً عملياً في نظام إدارة الذكاء الاصطناعي (AIMS): يُوثَّق ضمن السياسات، ويُربط بسجل المخاطر، ويُدعم بأدلة قابلة للتحقق أثناء التدقيق الداخلي أو الخارجي. تحدّد المؤسسة مالكاً واضحاً له، ومقاييس أداء، وضوابط استعراض دورية تضمن استمرار ملاءمته لحالات الاستخدام الفعلية ولمتطلبات ISO/IEC 42001 و NIST AI RMF.
مثال عملي
نموذج تنبؤ يحقق أداءً ثابتًا في بيانات إنتاج جديدة.