أهم مخاطر LLM
OWASP LLM Top 10
قائمة OWASP LLM Top 10 هي أهم عشر مخاطر أمنية على تطبيقات نماذج اللغة الكبيرة.
شرح تفصيلي
تُصدرها منظمة OWASP كمرجع تقني لفرق الأمن والتطوير، وتشمل حقن التعليمات، معالجة المخرجات غير الآمنة، تسميم بيانات التدريب، حجب الخدمة على النموذج، ثغرات سلاسل التوريد، تسرب المعلومات الحساسة، تصميم الإضافات غير الآمن، الوكالة المفرطة، الاعتماد المفرط، وسرقة النموذج. تُستخدم كقائمة تحقق داخل ضوابط ISO/IEC 42001.
مثال عملي
قبل نشر روبوت داخلي، تُختبر تطبيقات LLM ضد قائمة OWASP LLM Top 10، وتُغلَق كل نقطة قبل الاعتماد.