أهم مخاطر تطبيقات النماذج اللغوية الكبيرة

نظرة عامة

قائمة OWASP لأهم عشر مخاطر أمنية على تطبيقات النماذج اللغوية الكبيرة (LLM).

لماذا تهم

توفّر مرجعية عملية لفرق الأمن والتطوير عند بناء تطبيقات مبنية على LLM، وتغطي حقن التعليمات، تسرب البيانات، سلاسل التوريد، والاعتماد المفرط.

مجالات التركيز

• Prompt Injection
• Insecure Output Handling
• Training Data Poisoning
• Model Denial of Service
• Supply Chain Vulnerabilities
• Sensitive Information Disclosure
• Insecure Plugin Design
• Excessive Agency
• Overreliance
• Model Theft

علاقتها بالأطر الأخرى

تُستخدم كقائمة تحقق تقنية داخل ضوابط ISO/IEC 42001 وNIST AI RMF.

أخطاء شائعة

معالجة حقن الأوامر كمشكلة "نموذج" بدل معالجتها كمشكلة تصميم تطبيق.

خطوة تالية

راجع كل تطبيق LLM بقائمة OWASP كمعيار قبول قبل النشر.