معايير النجاح والتغطية وقياس أثر الاختبارات الهجومية

معايير النجاح والتغطية وقياس أثر الاختبارات الهجومية

لماذا لا يكفي قياس عدد الهجمات

الدرس يتناول منهجية المرحلة السابعة من دليل OWASP GenAI Red Teaming Manual v1.0 (أكتوبر 2026) الخاصة بتصميم الاختبارات ومعايير الحكم وإعادة الإنتاج والتغطية والمقاييس، ويربطها بمرحلة المعالجة اللاحقة. عدد المطالبات التي أُرسلت إلى نموذج ليس دليلاً على حجم المخاطر المختبرة؛ فقد تكرر ألف مطالبة مساراً واحداً، بينما لم يُختبر مسار أداة تملك صلاحية تعديل بيانات مالية. كما لا تكفي عبارة «النموذج رفض» لإثبات أن نظام الأعمال يمنع التنفيذ. يبدأ التقييم من تحديد الادعاء الذي يمكن إثباته، ويعود إلى حدود الثقة والمكونات والسلطات والأصول. الهدف تصميم تقارير تساعد المالك على قرار تقني ومؤسسي واضح، لا منح النظام درجة شكلية تخفي الثغرات الحرجة.

ما وحدة الاختبار الحقيقية

تحتوي حالة الاختبار على معرف ثابت، وهدف أمني محدد، وأصل متأثر، ودور مستخدم، ونقطة دخول، وحد ثقة، وضابط متوقع، وإصدار النظام، وخطوات تنفيذ مصرح بها، ومعيار حكم، وأدلة قابلة للتحقق. يجب التفريق بين الاختبار الذي يراقب إجابة النموذج، وبين اختبار صلاحية النظام الخلفي، وبين اختبار كشف محاولة في منصة المراقبة. لكل نوع نتيجة مستقلة، وقد تجتاز إحدى الطبقات بينما تفشل أخرى. مثال: قد ينتج النموذج طلباً غير مناسب لاستدعاء أداة، لكن أداة التنفيذ ترفضه حسب سياسة التفويض؛ عندها يسجل سلوك النموذج وحالة الضابط الخلفي دون تسوية غير دقيقة بينهما. ولا ينبغي اختزال السيناريو إلى «نجح الهجوم» دون وصف ما حدث فعلياً.

بناء معايير Test Oracle

يقصد بمعيار الحكم Test Oracle القاعدة التي تحدد مسبقاً إذا كانت النتيجة مستوفية أو غير مستوفية للشرط المختبر. في سيناريو فصل مستأجرين، يمكن أن يكون معيار النجاح: ألا تظهر بيانات المستأجر ب داخل نتائج الاسترجاع لحساب المستأجر أ، وألا تسجل طبقة التخزين وصولاً غير مصرح به، وألا ينشئ التطبيق رابط تنزيل قابل للاستخدام خارج التفويض. هذه شروط قابلة للفحص من أكثر من مصدر. أما معيار من نوع «يبدو الرد آمناً» فيعتمد على الانطباع ويصعب إعادة تقييمه. يجب أيضاً اعتماد حالة INCONCLUSIVE عندما يكون السجل مفقوداً أو يوجد انقطاع يمنع الحكم، بدلاً من منح نجاح افتراضي. ولا يسمح تغيير المعيار بعد ظهور نتيجة محرجة بهدف تحسين نسبة النجاح.

ما معنى قابلية إعادة الإنتاج

اختبارات النماذج قد تظهر اختلافاً في صياغة الإجابة، بينما يمكن الحفاظ على معايير ثابتة لنتائج التفويض والبيانات والمعاملات. لتصميم تجربة قابلة لإعادة الإنتاج يسجل الفريق التاريخ ونوع الوصول وحساب الاختبار والبيانات الاصطناعية ونسخة التطبيق واسم النموذج المعروف بدليل موثوق وضبط المعاملات المتاحة وإصدار أدوات الوكيل وحالة الفهرس وسياسات الدور. إذا لم يوفر المورد إصداراً ثابتاً، يُسجل هذا القيد وأثره على المقارنة. لا يثبت الفشل المتكرر وحده أن كل البيئات تتأثر، ولا يثبت النجاح المتكرر أن مساراً بديلاً غير موجود. تُحفظ الأدلة الكافية للتحقق دون تخزين أسرار أو نسخ بيانات حساسة في مستودع التقارير العام.

التغطية بحسب الأسطح لا حجم الرسائل

تُنشأ مصفوفة تجمع حدود الثقة والأدوار وقنوات المدخلات والأدوات والأصول والضوابط. تملأ الحالات المختبرة مساحات هذه المصفوفة، مع تمييز المتعذر اختباره عن غير ذي الصلة. لا يجوز حساب التغطية بنسبة 100% إذا كانت الأسطح الحرجة مجهولة أو استبعدت دون مبرر. يمكن أن يكون قياس التغطية هو نسبة الحدود الحرجة التي لديها اختبار فعلي ونتيجة بدليل مقبول، لكن يجب إعلان طريقة تحديد «الحرجة» والمقام. وتظل هذه النسبة وصفاً للتغطية المختبرة لا ضماناً بغياب نقاط لم يكتشفها الفريق. في الأنظمة متعددة الوسائط، لا تمثل اختبارات النص وحدها الصور والصوت والملفات المسترجعة. وفي أنظمة الوكلاء لا يمثل اختبار الإجابة اختبار المعاملة.

مقاييس الجودة والأمن والعمليات

تختلف مقاييس الأمن عن جودة الإجابة وعن جودة عملية التقييم. من مقاييس الأمن عدد المسارات التي تجاوزت حد ثقة مؤكداً، ووجود تنفيذ غير مصرح، وتعرض البيانات، وقدرة أدوات المنع على رفض المعاملة. ومن مقاييس التشغيل زمن اكتشاف الحالة وزمن احتوائها وزمن إعادة التحقق ونسبة النتائج التي تعاد إنتاجها. ومن مقاييس عملية التقييم نسبة الحالات التي تملك دليلاً كاملاً ونسبة حالات INCONCLUSIVE ومعدل التغطية بحسب الدور والأصل. لا يُدمج كل ذلك تلقائياً في رقم واحد يخفي حالات حاسمة. لا يمكن مقارنة مقاييس من نظامين إذا اختلفت طبيعة الجمهور أو حساسية البيانات أو تعريف النجاح أو بيئة التنفيذ دون تفسير.

لماذا تعد معدلات الرفض مضللة

قد يتحسن ما يسمى معدل رفض النموذج عندما تزيد تعليمات السلامة صرامة، لكن قد يفشل المستخدمون الشرعيون في الحصول على خدماتهم أو يصبح النموذج أقل فائدة من دون أن تتحسن صلاحيات API الخلفية. في المقابل قد يجيب النموذج إجابة غير مرغوبة بينما يمنع النظام الخلفي أي تنفيذ ضار. لذلك تتطلب المنهجية فصل نتائج سلامة المخرجات عن نتائج أمن التفويض والاسترجاع والتخزين والمعاملات. التقييم يذكر تكلفة الرفض الخاطئ على المهمة المشروعة، لا يفرح بارتفاع الرفض منفرداً. يقرر صاحب المنتج الحدود المقبولة للموازنة بين السلامة والوظيفة بناء على الغرض من الاستخدام والأثر، وليس بناء على مقارنة سطحية بعدد الرسائل المحجوبة.

علاقة الخطورة بنطاق الأثر

تقييم شدة النتيجة ينبغي أن يبدأ بما ثبت: أي حساب وأصل وصلاحية تأثر، وما مدى استقرار النتيجة، وما الدليل على إمكان التوسع، وهل يوجد كشف أو منع لاحق. اختبار كشف فقرة اصطناعية من مستند لا يعادل اختراقاً شاملاً لكل قواعد البيانات. بينما محاولة تنفيذ عملية مالية دون تفويض قد تستدعي أهمية عالية حتى إن كانت بيئة الاختبار لا تسمح بمعاملة حقيقية. يجب وصف الفروق بين الأثر المثبت والأثر المحتمل وما يزال مجهولاً، وعدم تقديم الافتراضات كحوادث وقعت فعلياً. يسجل المالك قبول مخاطر متبقية فقط بعد فهم حدود الأدلة والضوابط الحالية والأثر التجاري المقدر وفق سياسة المؤسسة.

صياغة نتيجة قابلة للتدقيق

تحتوي النتيجة على وصف سلوك غير متوقع ونسخة النظام وتاريخ التنفيذ وحساب الاختبار ومصدر البيانات وشرط النجاح أو الفشل وأثره المؤكد وصور الأدلة أو معرفات السجلات المصرح بحفظها. كما تربط بالضابط المفقود أو غير الفعال والمالك المختص والأولوية والإجراء والموعد ومعيار إعادة الاختبار. من الأفضل أن تتضمن فقرة «حدود النتيجة»: ما الذي لم نثبته؟ هل يتغير السلوك مع أدوار أخرى؟ وهل احتجنا معرفة داخلية غير متاحة للمهاجم الحقيقي؟ هذه الحدود ليست ضعفاً في التقرير بل شرط لمنع أصحاب القرار من اتخاذ إجراءات استناداً إلى قراءة تتجاوز ما تسمح به الأدلة.

تمييز الجمهور التنفيذي عن التقني

فريق التطوير يحتاج إلى معرفة موضع فشل التحقق وكيف يعاد الاختبار في بيئة مأمونة؛ وفريق الكشف يحتاج إلى الأحداث والسجلات وعتبات التنبيه؛ أما صاحب القرار فيحتاج إلى أثر الفشل على وظيفة حرجة والضوابط التعويضية وتكلفة الإيقاف واحتمال التوسع وموعد المعالجة والجهة المسؤولة. لا ينبغي نشر تعليمات حساسة أو بيانات أشخاص في تقرير عام لمجلس الإدارة. ويمكن استخدام ملخص تنفيذي يذكر الحالات الحرجة غير المعالجة والقرارات المطلوبة وحدود التغطية، مع ملحق فني يخضع لصلاحيات وصول مناسبة. يقاس نجاح التقرير بقدرته على قيادة قرار صحيح وإعادة فحصه لاحقاً، لا بطوله أو رسوماته.

من التقييم إلى Regression Testing

عندما تعالج مشكلة يجب أن تُحول الفرضية الأصلية إلى حالة اختبار انحدار مرتبطة بالإصدار الجديد والضابط الذي تغير. إذا كان الفشل ناجماً عن غياب فحص دور المستخدم في أداة خلفية، يجب أن يظهر في السجل رفض موثوق لطلب غير مصرح به وأن يظل الطلب المشروع ممكناً. لا يكفي تغير العبارة التي ينطق بها النموذج في المحادثة. وإذا تغيرت بنية RAG أو مزود النموذج أو نطاق الأداة لاحقاً، يعاد تقييم اعتماد الحالة على هذه المكونات. كما ينبغي حفظ الأثر التاريخي للنتائج القديمة وعدم تحديثها لتبدو كما لو أن النسخة السابقة كانت آمنة. الفصل بين حالة الضعف ونتيجة إعادة اختباره يحمي الأثر التدقيقي.

حدود نتائج اختبار واحد

قد يحتاج فريق الأمن إلى فحص أنماط لغوية متعددة أو إعدادات مختلفة أو عينة أوسع، لكن الحكم على كل تغيير يجب أن يبقى مرتبطاً بالنظام والإصدار والبيئة. لا يسمح إكمال مجموعة اختبارات مختارة بالإعلان أن المنتج «محصن ضد جميع هجمات الحقن». يمكن أن يغيّر تحديث فهرس أو نموذج أو أداة أو صلاحية طريق الاستغلال جذرياً. وتظل السطوح غير المختبرة والمخاطر غير المؤكدة ظاهرة في التقرير. عندما لا يستطيع الفريق استخدام White-Box بسبب مزود خارجي، توثق حدود الرؤية ولا تعتبر فجوات المعرفة نتيجة سلبية أو إيجابية بلا أساس.

تمرين قياس مؤسسي

صمم سجل تقييم تجريبياً لوكيل يقرأ معاملات اختبار ويقترح تصنيفاً دون أن يملك سلطة تنفيذها. أنشئ أربعة حدود ثقة: المستخدم مقابل التطبيق، المحتوى المسترجع مقابل النموذج، النموذج مقابل الأداة، والأداة مقابل المعاملة. لكل حد عرّف دور الاختبار وبيانات اصطناعية وسلوكاً ممنوعاً ومعيار Pass/Fail ومصدر سجل موثوق. ثم اقترح أربعة مقاييس على الأقل، منها مقياس تغطية محدد المقام، ومقياس موثوقية الأدلة، ومقياس لفعالية المنع، ومقياس زمني للمعالجة. لا تختزل النتائج في مجموع نقاط عشوائي. بين كيف يختلف قرار الإطلاق عند إخفاق حد أداة مالية مقابل إخفاق حالة تنسيق نصي منخفضة الأثر.

سجل قرار الإطلاق

يجمع التقرير النهائي عدد الحالات الحرجة وغير الحاسمة وحدود التغطية، وأي إخفاق في ضابط حاسم، والحلول أو الضوابط التعويضية، ومالكيها وتواريخها. لا ينبغي أن يسمح عدد كبير من الحالات الناجحة بتغطية ضعف واحد قابل لإساءة الاستخدام في أصل شديد الحساسية. يُحدد صاحب الصلاحية ما إذا كان القرار نشر النظام أو النشر بشروط قابلة للتتبع أو التأجيل، وفق سياسة المؤسسة ولا ينسب تصنيف القرار إلى OWASP إن لم يكن اقتباساً حرفياً منها. وينبغي إدراج شروط إعادة فتح القرار عند تغيير الصلاحيات أو المورد أو قاعدة البيانات. بهذا يصبح Red Teaming مدخلاً إلى التشغيل الموثوق لا حدثاً مستقلاً ينتهي بتقرير PDF.

المراجع وحقوق الاستخدام

المصدر: OWASP GenAI Security Project، GenAI Red Teaming Manual، النسخة 1.0، أكتوبر 2026، وخاصة Phase 7 Evaluation & Reporting والموضوعات Test Oracles وReproducibility Controls وCoverage Tracking وMetrics، وكذلك مرحلة Post-Engagement & Remediation. هذا الدرس تحليل وتعليم عربي من سيادة AI وليس ترجمة OWASP رسمية، ولا يدل على اعتماد أو مصادقة من ناشر الدليل. تحمل الوثيقة الأصلية ترخيص CC BY-SA 4.0، ويجب احترام نسب المصدر وشروط الأعمال المشتقة عند استخدامها. أمثلة الدرس دفاعية، ولا تبرر اختبار أنظمة أو بيانات خارج تفويض محدد. التغطية والتقييم دليلان محدودان بنطاقهما، ولا يقومان مقام فحص تشريعات قطاع معين أو اعتماد مهني مستقل.