تقنية الهجوم على تطبيق LLM
LLM Attack Technique
الأسلوب الذي يستخدمه المهاجم للتأثير في المدخلات أو السياق أو الأدوات أو سلوك النموذج.
شرح تفصيلي
قد تشمل التقنيات حقن تعليمات داخل محتوى غير موثوق أو تمويه الصلاحية أو إعادة صياغات متعددة أو استغلال سلسة المحادثة. يجب فصل التقنية عن الهدف وعن نتيجة الاختبار؛ فنجاح التلاعب بالرد لا يثبت تنفيذ فعل ما لم تظهر أدلته.
مثال عملي
تعليمات خفية في وصف ملف مورد تحاول تغيير مستلم رسالة إلكترونية.