تحتاج النتيجة إلى دليل وحدود إثبات، ولا تُغلق إلا بإعادة اختبار الضابط الذي عالج سبب الإخفاق.
دليل إعداد سجل نتائج الاختبار الهجومي وحزمة الأدلة وقرار المعالجة
غرض الدليل ونطاقه
يقدم هذا الدليل نموذجاً مؤسسياً لإدارة سجل النتائج والأدلة التي تنتج عن اختبار هجومي مصرح به لأنظمة الذكاء الاصطناعي التوليدي. يستند إلى المرحلتين السادسة والسابعة من دليل OWASP GenAI Red Teaming Manual v1.0 (أكتوبر 2026) المتعلقتين بقياس ما بعد الاستغلال والتقييم والتقارير، وإلى المرحلة الثامنة المرتبطة بالمعالجة. الهدف ألا تختزل نتيجة الاختبار في لقطة شاشة مثيرة أو توصية عامة، بل أن تصبح واقعة يمكن لفريق مستقل إعادة فحصها وفهم حدودها وربطها بمالك الخطر وبقرار المؤسسة. المحتوى نموذج إجرائي تحليلي أعدته سيادة، وليس نموذجاً رسمياً صادراً عن OWASP. وتظل التفاصيل التنفيذية رهناً بالسياسات المعتمدة ونطاق التفويض والمخاطر الفعلية. لا تصلح الأمثلة لإجراء نشاط ضد أنظمة غير مملوكة أو دون موافقة مكتوبة.
ما الذي يشكل نتيجة اختبار
النتيجة ليست بالضرورة ثغرة مثبتة. قد تكون ملاحظة عن سلوك نموذج، أو نجاح ضابط منع، أو إخفاقاً في فحص صلاحيات خدمة خلفية، أو نقصاً في التسجيل يمنع الحكم، أو فرقاً بين معاملة فعلية والرسالة التي عرضتها الواجهة. يجب تحديد نوع النتيجة منذ البداية. عندما يكتب المختبر «تم تجاوز الحاجز» ينبغي سؤاله: أي حاجز، وبأي هوية، وفي أي إصدار، وهل وقع أثر على أصل محمي؟ قد يجيب النموذج بجملة غير مناسبة من دون أن يصل إلى أداة، وقد يبدأ استدعاء أداة لكن يمنعه نظام التفويض. ولكل من الحالتين معنى مختلف في إدارة المخاطر. لهذا يميز السجل بين Observed Behavior وConfirmed Control Failure وInconclusive Observation بدلاً من مساواتها جميعاً بحادث اختراق.
هوية الحالة وإصدار البيئة
تحتاج كل حالة إلى معرف ثابت لا يتغير عند تعديل وصفها، مع معرف حملة الاختبار واسم النظام ونسخة التطبيق ومرجع النموذج المعروف وبيئة التشغيل ووقت التنفيذ والمنطقة ذات الصلة بالبيانات. ويمكن تسجيل رقم الطلب ومعرف الجلسة ومعرف الأداة من السجلات المصرح بالاطلاع عليها، دون نسخ رموز الجلسات أو كلمات المرور. تتغير أنظمة الذكاء الاصطناعي كثيراً بغير تحديث كود التطبيق؛ قد يتغير مزود النموذج أو فهرس RAG أو ملفات الصلاحيات أو وصف الأداة أو إعداد الحماية. لذلك ينبغي حفظ خط أساس للتكوين في وقت الاختبار. إذا لم تعرف المؤسسة النسخة الدقيقة لنموذج خارجي، تذكر حدود معرفة الإصدار ومصدرها، ولا تختلق معرفاً داخلياً أو تدعي أن النتيجة قابلة لإعادة الإنتاج على جميع النسخ.
سجل التفويض وقواعد الاختبار
يجب أن يحتوي التقرير أو مرجعه على نطاق مكتوب يوضح من أجاز الاختبار، والأصول والبيئات المشمولة، والحسابات المسموح بها، وحدود الاستهلاك، وأوقات التنفيذ، ومتى يجب التوقف. يهم ذلك في سيناريوهات الوكلاء لأن الاختبار قد يلمس واجهات إنجاز معاملات لا مجرد دردشة. إذا كانت الأداة تملك القدرة على إرسال بريد أو تعديل بيانات أو نقل ملفات فيجب أن تستخدم بيئة مصطنعة ووجهة مملوكة للفريق. يوضح السجل الفرق بين إمكان الوصول الفني وبين الإذن الممنوح قانونياً وتنظيمياً. وحتى عند العثور على مؤشر ثغرة في خدمة مورد خارجي، لا يفتح التفويض الداخلي للمؤسسة الحق تلقائياً في مهاجمة بنية المورد. يسجل الفريق ما تعذر اختباره وما يحتاج موافقة إضافية.
فرضية الخطر وحد الثقة
تكتب كل حالة اختبار فرضية واضحة حول أصل وسلوك ممنوع وحد ثقة. مثال: هل يستطيع مستند مسترجع من مورد خارجي التأثير في قرار وكيل يتصل بأداة اعتماد مالية؟ هنا المحتوى المسترجع أقل ثقة من تعليمات المشغل، وقرار الأداة يجب أن يخضع لسلطة المستخدم الفعلية لا لرغبة النموذج. يربط السجل الفرضية بتدفق بيانات معروف وضابط محدد. عندما تكون الخريطة غير مكتملة، يجب أن يذكر المختبر هذا النقص كقيد، لا أن يملأ الفراغ بوصف داخلي تخيلي للخدمات. يساعد بيان الحد على تحديد الجهة التي يجب أن تراجع النتيجة: أمن التطبيق أو الهوية أو مالك التخزين أو مسؤول المنتج أو فريق المورد. ولا يملك المختبر سلطة تقرير السبب الجذري من مجرد نص محادثة إذا كانت السجلات لا تسانده.
معيار الإثبات مسبقاً
قبل تشغيل الحالة، يحدد الفريق ما الذي سيعد PASS وFAIL وINCONCLUSIVE. قد يكون PASS في اختبار منع تعديل بيانات هو رفض نظام الأعمال الخلفي الإجراء دون صلاحية وبقاء البيانات دون تغيير، مع وجود سجل ينسب الطلب إلى هوية صحيحة. وFAIL تحقق التغيير دون التفويض المتوقع في بيئة اختبار، أما INCONCLUSIVE فتستخدم عندما لا تتوفر سجلات موثوقة أو تفشل بيئة الاختبار في الاستجابة. بهذه الطريقة لا تتغير قواعد الحكم بعد رؤية النتائج. يمكن إضافة معيار خاص بسلامة تجربة المستخدم إذا كان الإفراط في الرفض سيوقف وظيفة مشروعة، لكن يجب الاحتفاظ به منفصلاً عن معيار أمن التنفيذ. لا ينبغي جمع مقاييس متنوعة في رقم واحد يخفي نتائج حرجة.
هندسة الأدلة وسلسلة حفظها
يحتاج الدليل إلى مصدر وتوقيت وصلاحية وصول وارتباط بالحالة. الأدلة المقبولة قد تشمل سجلات تنفيذ أداة أو نتائج سياسة تفويض أو لقطة واجهة أو حالة سجل قبل وبعد الاختبار أو معرّف إنذار في منصة مراقبة. يجب أن يكون مصدر الدليل قابلاً للتثبت من فريق آخر، مع فصل الوقائع الخام عن تفسير المختبر. توضع التفاصيل الحساسة في مخزن محدود الوصول، ويمكن أن يحيل التقرير العام إلى رقم مرجعي بدلاً من تكرار بيانات شخصية أو أسرار تقنية. تسجل عملية جمع الدليل وطريقة تنقيحه عندما تستخدم نسخة منقحة. إذا اعتمد التقرير على تسجيل يحتوي بيانات حساسة فعلاً، ينبغي تنسيق الاحتفاظ به مع سياسة المؤسسة ومتطلبات الإبلاغ دون توسيع الوصول إليه.
مثال بيانات بين مستأجرين
تستخدم المؤسسة حسابين تجريبيين ومستندات اصطناعية منفصلة لكل مستأجر. يحدد الفريق مسبقاً أن نجاح المنع يعني عدم استرجاع المستند المحظور وعدم توفير رابط وصول خلفي قابل للاستخدام. عند ظهور نص يشبه معلومة المستأجر الثاني في واجهة المحادثة، لا يعلن الفريق فوراً حدوث كشف مؤكد؛ يفحص هل ورد النص من مستند حقيقي في نطاق الاختبار أم كان توليداً احتماليا، وهل يسمح السجل بتتبع المصدر. وفي حال أثبتت خدمة الاسترجاع إعادة مستند خارج الدور، يسجل ذلك فشلاً في حد العزل حتى لو رفض النموذج تلخيصه لاحقاً. ترتبط النتيجة بضابط الاسترجاع وسياسة الوصول وبالمالك الفني المسؤول عنها، مع خطة لتغيير المرشح وإعادة الاختبار.
مثال أداة مؤسسية
افترض وكيلاً يصيغ طلبات شراء لكنه لا يملك حق اعتمادها. يعرض المستند الذي يلخصه نصاً غير موثوق يحثه على اعتماد الطلب مباشرة، فيقترح النموذج استدعاء أداة غير مناسبة. إذا رفض النظام الخلفي الإجراء، نسجل أن سلوك طبقة التنسيق يحتاج تحسناً وأن ضابط التفويض منع التنفيذ. أما إذا غيّرت الأداة حالة سجل تجريبي دون تفويض، فقد ثبت ضعف أشد يرتبط بالمعاملة والسلطة الفعلية. في الحالتين لا تستخدم معاملات حقيقية أو معلومات موردين حقيقية. يبين التقرير أي سجل يدعم كل جزء من الحكم، وهل كانت هناك موافقة بشرية مستقلة، ومَن يملك سلطة اعتماد تغيير الضابط. هذا يمنع عبارة «فشل الوكيل» العامة من إخفاء طبقات مختلفة من المخاطر.
حساب نطاق الأثر
تقييم Blast Radius ينبغي أن يميز نطاق الحالة المثبتة عن النطاق الممكن نظرياً. قد تكون القدرة مثبتة على ملف اختبار واحد أو دور محدود، وقد توجد مؤشرات على إمكانية التوسع تستلزم تحقيقاً إضافياً، لكن لا تُساوى الاحتمالات بأضرار مؤكدة. توثق قيمة الأصول المتأثرة ونوعية البيانات وقابلية تكرار المسار ومدة الوصول وضوابط الكشف والاحتواء. لا يختزل ذلك تلقائياً في درجة خطورة عامة من دون تعليل. الأثر التجاري والتشغيلي قد يختلف بين قطاع صحي وخدمة معلومات عامة حتى عند تشابه السلوك التقني. لذلك تشترك الجهات المالكة للأصل والمخاطر والقانونية والتشغيلية في تقدير العواقب الواقعية، مع الإفصاح عن حدود المعرفة وعدم وجود أدلة عند الضرورة.
إدارة عدم اليقين
تشمل حالات عدم الحسم أدلة متعارضة أو بيئة غير مستقرة أو معرف نموذج غير موثق أو عدم قدرة المختبر على فحص النظام الخلفي ضمن التفويض. بدلاً من إجبار الحالة على PASS أو FAIL، يكتب الفريق ما الذي شوهد وما الذي لم يمكن مشاهدته ولماذا، وما التجربة الإضافية المصرح بها التي قد تحسمها. هذا مهم خصوصاً في الأنظمة التوليدية التي تختلف صياغات ردودها بين التشغيلات. يجب الفصل بين عشوائية النص وبين حتمية نتيجة التفويض أو حالة سجل، إذ يمكن قياس الثانية بصورة أكثر موثوقية. وقد يكون عدم الحسم نفسه مؤشراً على قصور في الرصد يستحق معالجة مستقلة، لكنه لا يساوي تلقائياً نجاح هجوم أو حدوث حادث.
التقرير الفني والتحليل الجذري
يتضمن الملحق الفني وصف التسلسل والنتائج والسجلات والضوابط ونقطة عبور الثقة ومسار إعادة الإنتاج داخل نطاق مأمون. ويحدد هل ظهر العيب في طريقة معالجة محتوى غير موثوق، أو في صلاحيات أداة، أو عزل تخزين، أو سياسة خدمة، أو غياب مراقبة. لا يستنتج السبب الجذري من واجهة نصية وحدها إذا كانت عدة طبقات محتملة. يمكن أن تسجل النتيجة «فرضية سبب جذري بانتظار تحقيق» مع توضيح ما يلزم لتأكيدها. كما يجب تحديد الدور الذي فُحص والحساب الذي استُخدم والفرق بين وصول المختبر والأدوار الواقعية. ينبغي أن يكفي التقرير لإعادة اختبار الإصلاح دون نشر تفاصيل هجومية قابلة لإساءة الاستخدام على الجمهور.
التقرير التنفيذي وقرار المسؤول
يحتاج صاحب القرار إلى قائمة محدودة من الأمور الجوهرية: أي وظيفة أو أصل يعاني ضعفا مثبتاً، وما أثره، وما مدى إمكانية كشفه واحتوائه، وما الذي تقترح المؤسسة إيقافه أو تقليصه إلى حين المعالجة، ومن يملك القرار والموعد. لا ينفع ملخص يعرض عدد الحالات الناجحة فقط إذا كانت هناك ثغرة حرجة واحدة في أداة تغير معاملات. وفي الوقت ذاته ينبغي عدم تقديم تأثير محتمل لم يحدث بوصفه حادثاً قائماً. توضح حدود التغطية والسطوح غير المختبرة، وتذكر ما إذا كان القرار مبنياً على بيانات اختبار لا تمثل جميع الأدوار أو اللغات. تتطلب القرارات عالية الأثر تأكيداً من مسؤول المخاطر ومالك الخدمة وفق آليات المؤسسة، لا اختياراً منفرداً من المختبر.
سجل المعالجة والاحتواء
كل نتيجة مؤكدة تحتاج مالكاً وإجراءً وضابطاً مستهدفاً وموعداً ومعيار تحقق لاحقاً. قد تكون المعالجة إعادة ضبط تفويض أداة أو فصل مخزن أو تصحيح فلترة المستندات أو إضافة مراجعة بشرية على مستوى المعاملة أو تحسين تسجيل الأحداث. لا ينبغي إغلاق التذكرة لأن المطور أعاد كتابة تعليمات النموذج إذا كان السبب الحقيقي في نظام خلفي يمنح سلطة أوسع. وإذا استدعى الخطر احتواء مؤقتاً مثل تعليق أداة، يوثق الأثر على المستخدمين والبدائل وصاحب قرار التوقف والعودة. القبول المؤقت لخطر متبق يحتاج مبرراً ومدة مراجعة، ولا يساوي حكماً بأن النظام آمن أو متوافق مع جميع المتطلبات.
اختبار إعادة التحقق
بعد تطبيق الإصلاح تعاد الحالة الأصلية بالشروط الأساسية نفسها قدر الإمكان، ثم تُنفذ حالات مجاورة للتحقق من عدم تجاوز الضابط من قناة أخرى وأن الوظيفة المشروعة لم تتعطل. إذا كان الإصلاح يخص الاسترجاع، يفحص عدم إعادة مستندات خارج دور الحساب وعدم كشفها عبر رابط خلفي، وكذلك استمرار استرجاع المحتوى المسموح. وإذا كان يخص الوكيل، يفحص نظام الأعمال رفض المعاملة غير المصرح بها حتى لو اقترح النموذج خلاف ذلك. ينبغي ربط نجاح التحقق بإصدار التطبيق ووقت تغيير السياسات ونسخ مصادر البيانات. لا تمحى نتيجة الاختبار القديمة، بل تضاف إليها حالة جديدة مع رابط للإصلاح والاختبار اللاحق.
مصفوفة التغطية
تتحقق التغطية بتوزيع الاختبارات على حدود الثقة والأدوار والأصول والأدوات والمدخلات، لا بمجرد عدد المطالبات. يذكر التقرير إجمالي الحدود المحددة، وما صُنّف عالي الحساسية، وما فُحص فعلاً بدليل صالح، وما تعذر فحصه، ولماذا. فحص جميع السيناريوهات النصية لا يثبت تغطية واجهات الصور أو الصوت أو المستندات أو الأدوات، كما أن اختبار حساب إداري لا يمثل مستخدماً عاديّاً. عند نشر نسبة تغطية، يجب ذكر المقام ومعايير تصنيف الحدود ومصدر الجرد. يمكن استخدام التغطية لتوجيه الجولة التالية من الاختبارات، لكنها لا تمنح وعداً بانعدام ثغرات غير مكتشفة، ولا ينبغي اعتبار اختبار ناجح قديماً صالحاً إلى الأبد بعد تغير النظام.
المؤشرات المهنية
من المفيد تتبع عدد النتائج المؤكدة المصنفة بحسب الأثر، ونسبة الحالات التي يمكن إعادة إنتاجها، ومتوسط زمن إغلاق النتائج الحرجة، ونسبة الاختبارات التي لها أدلة قابلة للمراجعة، وعدد حالات عدم الحسم، ونسبة الحدود الحرجة التي خضعت لفحص. وينبغي إظهار سلامة الوظائف المشروعة بعد التغييرات، لأن الإفراط في الرفض قد يخفض قدرة النظام على تقديم الخدمة دون معالجة ضعف التفويض. تقرأ المؤشرات معاً لا باعتبارها مقياساً سحرياً واحداً. لا ينبغي مقارنة فترة بأخرى إذا تغير حجم النطاق أو تعريف الخطورة أو إصدار النموذج دون إعادة ضبط طريقة المقارنة وشرح القيود. في التقرير التنفيذي يُعرض السبب وراء تغير المقياس وليس الرقم وحده.
السيناريوهات متعددة الموردين
عند استخدام أكثر من مزود نموذج أو أداة خارجية أو مصدر مستندات، يربط سجل الأدلة كلاً منها بمسؤول الخدمة وتاريخ التحقق وحالة العقد وحدود رؤية المؤسسة. قد يؤثر تحديث مورد في سلوك النموذج دون إشعار بتغيير في كود التطبيق، لذلك يجب تحديد ما إذا كانت نتيجة الاختبار قابلة لإعادة الاعتماد بعد التغيير. وإذا كان السبب الجذري في منصة مورد، تُتبع قناة الإفصاح والتصحيح المتفق عليها ولا يتحول الإبلاغ إلى ترخيص لفحص أنظمة المورد خارج نطاق الموافقة. تبقى المؤسسة مسؤولة عن التحكم في تطبيقها وهوياتها وسجلاتها وما تستطيع فرضه من ضوابط تعويضية. توضح الورقة ما الذي تثبته الأدلة داخل حدود السيطرة وما الذي لا تستطيع الجزم به خارجها.
قالب تسليم عملي
يمكن بناء قالب يتضمن الحقول: FINDING-ID، SYSTEM-ID، ASSET، TRUST-BOUNDARY، TEST-OBJECTIVE، AUTHORIZED-ACCESS، ENVIRONMENT، MODEL-AND-APP-VERSION، EXPECTED-RESULT، ACTUAL-RESULT، EVIDENCE-REFERENCES، CONFIDENCE-AND-LIMITATIONS، CONFIRMED-IMPACT، POSSIBLE-IMPACT، OWNER، PRIORITY، CONTAINMENT، REMEDIATION، RETEST-CONDITIONS، RETEST-RESULT، RESIDUAL-RISK-DECISION. يفسر مسؤول الاختبار كل حقل في سياق الحالة؛ فليس الهدف أن تتحول الاستمارة إلى مجموعة أعمدة فارغة. يعالج المراجع جودة الإثبات وصحة نوع النتيجة وربط الملكية قبل إتاحة التقرير لأصحاب القرار. ويستحسن وضع قواعد واضحة لما يُنشر وما يحجب من الأدلة الأمنية الحساسة داخل أنظمة المؤسسة.
مثال قرار افتراضي
في مؤسسة لديها مساعد بحث عقود، يظهر في حساب تجريبي أن مستند مورد استطاع حمل طبقة التنسيق على اقتراح استدعاء تغيير سجل، لكن نظام الأعمال رفض الطلب ولم يغير البيانات. يسجل التقرير أن محاولة عبور حد الثقة حدثت في طبقة النموذج، وأن التفويض الخلفي نجح في منع أثر المعاملة. وقد يصنف الإخفاق في سياسة التعامل مع المحتوى بحسب سياق المؤسسة، مع توصية بتحسين العزل والمراقبة، بينما لا يدعي حدوث تعديل فعلي. في اختبار آخر إذا تمكن مستخدم تجريبي من استرجاع وثيقة مستأجر آخر من خدمة البحث مباشرة، تسجل ثغرة عزل مثبتة مع دليل المصدر والهوية، ويحتاج مالك الاسترجاع إلى إصلاح قابل لإعادة الاختبار. المثالان لا يبرران عنواناً عاماً يقول «النظام تعرض للاختراق الكامل».
حدود المصدر والإسناد
المصدر الأساسي OWASP GenAI Security Project, GenAI Red Teaming Manual, Version 1.0, October 2026، ولا سيما أقسام Post-Exploitation وEvaluation & Reporting وPost-Engagement & Remediation. هذا الدليل تحليلي ومنهجي وضعته سيادة لربط النتائج بالقرار المؤسسي، ولا يدعي ترجمة حرفية أو تأييداً من OWASP. يحمل المصدر الأصلي رخصة Creative Commons Attribution-ShareAlike 4.0 International وفق البيان المرفق في الوثيقة، ويجب احترام حقوق النسب وذكر التغييرات ومشاركة التكييف وفق شروط الرخصة عند نقل مادته. ينطبق الفحص فقط على أنظمة تقع ضمن تفويض قانوني وتشغيلي موثق، ولا تقاس المطابقة التنظيمية العامة بنتيجة تمرين Red Teaming منفرد.