إطار MITRE ATLAS لتهديدات الذكاء الاصطناعي

نظرة عامة

MITRE ATLAS قاعدة معرفة تصف تكتيكات وتقنيات الهجوم العدائي على أنظمة الذكاء الاصطناعي، على غرار ATT&CK.

لماذا تهم

تُساعد فرق الأمن على نمذجة تهديدات الأنظمة الذكية: التسميم، الاستخراج، التهرب، وسرقة النماذج.

مجالات التركيز

• التسميم (Data Poisoning)
• التهرب (Evasion)
• استخراج النموذج (Model Extraction)
• الاستدلال العكسي (Inference Attacks)

علاقتها بالأطر الأخرى

توفّر عمقاً تقنياً لضوابط الأمن ضمن ISO/IEC 42001 وNIST AI RMF.

أخطاء شائعة

قصر اختبارات الأمن على ثغرات البنية التحتية دون تكتيكات هجوم النماذج.

خطوة تالية

حدّد سنوياً أعلى خمس تقنيات ATLAS المرجّحة على أنظمتك ونفّذ اختبارات فريق أحمر عليها.

الغرض من الإطار

يوثّق MITRE ATLAS تكتيكات وتقنيات الهجوم على أنظمة الذكاء الاصطناعي: من تسميم بيانات التدريب واستخراج النموذج إلى التلاعب بالمخرجات وحقن الأوامر.

استخدامه في الحوكمة والأمن

• تحديد أعلى التقنيات المرجّحة على أنظمة المؤسسة سنوياً.
• بناء خطة اختبارات فريق أحمر (Red Team) موجّهة بالتقنيات لا بالأدوات.
• ربط كل تقنية بضابط أمني في ISO/IEC 42001 و NIST AI RMF.

قيمته للتدقيق

يمنح المدقّق أساساً منظّماً لتقييم نضج قدرات الدفاع، ويُخرِج نتائج التدقيق من مستوى العموميات ("النظام آمن") إلى مستوى تشغيلي ("النظام مغطّى ضد تقنيات محددة" مع دليل اختبار).