حدد السلطة والنطاق وقواعد التوقف والأدلة ومعايير النجاح قبل إرسال أول حالة اختبار.
الدليل التنفيذي لتخطيط ونطاق الاختبار الهجومي لأنظمة GenAI
وظيفة وثيقة النطاق
تُستخدم وثيقة نطاق الاختبار الهجومي لتحديد ما تسمح المؤسسة لفريق الاختبار بفعله، وما الأهداف التي يجب تقييمها، وما الذي يشكل نتيجة قابلة للقبول، ومن يتحمل مسؤولية التصعيد والاستجابة. لا ينبغي التعامل معها على أنها خطاب موافقة عام يجيز أي نشاط، لأن تطبيقات الذكاء الاصطناعي التوليدي قد تتصل بأدوات ورسائل ومستودعات وبيانات وموردين خارجيين يصعب توقع أثر اختبارات غير مضبوطة عليهم. يخصص OWASP GenAI Red Teaming Manual v1.0 المرحلة الأولى Planning & Scoping لأصحاب المصلحة والأطر والدعم التشغيلي والتواصل والحوكمة والوصول إلى البيئة. هذا الدليل يترجم هذه الموضوعات إلى عملية إدارة مؤسسية قابلة للتدقيق، لكنه ليس استمارة رسمية صادرة عن OWASP ولا وثيقة تفويض قانونية بذاتها.
تعريف النظام محل التقييم
تبدأ الخطة باسم النظام ووظيفته والعملية التجارية التي يدعمها، مع ذكر ما إذا كان نموذجاً منفرداً أو تطبيقاً يعتمد على نموذج خارجي أو مسار RAG أو نظام وكلاء يستدعي أدوات. توضح المؤسسات غالباً اسم المنتج ولا توضح ما يتصل به من مستودعات ومفاتيح وصلاحيات، ما يجعل حدود الاختبار مضللة. يجب وصف قنوات الإدخال والمخرجات والأدوات ومصادر البيانات والتخزين والسجلات والهوية وخدمات الطرف الثالث. توضع نسخة أولية من مخطط التبعية في مرفق قابل للتعديل، وتُذكر المكونات غير المعروفة على أنها نقص رؤية يحتاج جمع أدلة لا على أنها آمنة. وتربط كل خدمة بمالك تشغيلي وشخص مخول بإيقافها إذا تحولت التجربة إلى خطر.
الغرض ومعايير القرار
قد تستهدف الحملة التحقق من تفويض الوكلاء أو عزل المستأجرين أو كشف البيانات أو مقاومة حقن التعليمات أو فعالية الحواجز أو الاستجابة والكشف أو مرونة الموارد. يجب ألا يتعامل فريق الاختبار مع هذه الأهداف بوصفها متكافئة في الأدلة المطلوبة. إذا كان الهدف التحقق من منع تعديل سجل، يصبح معيار النجاح حالة النظام الخلفي وسجل التفويض، أما إذا كان الهدف قياس الكشف فيحتاج خط أساس للأحداث وسجل إنذار. ويذكر مالك النظام ما إذا كانت نتيجة الاختبار ستدعم قرار إطلاق أو تجديد مورد أو قبول خطر محدد أو مراجعة بعد حادث. لا تسمح نتيجة في قناة واحدة بإطلاق شهادة أمن عامة أو استنتاج أن جميع الفئات الأخرى آمنة.
مصفوفة أصحاب المصلحة
يحدد سجل الحملة صاحب الأصل ومالك العمل وفريق Red Team ومسؤول العمليات وفريق Blue Team ومسؤول الهوية وفريق المورد والشؤون القانونية وحماية البيانات إن لزم. يسند لكل طرف مسؤوليات محددة: الموافقة، وإعداد الحسابات، وتزويد الأدلة، والمراقبة، واتخاذ قرار الإيقاف، ومراجعة النتائج، وتأكيد اكتمال المعالجة. يجب ألا يكتفي الجدول بمسميات وظيفية من دون جهة اتصال ومسار تصعيد متاح أثناء التنفيذ. وفي الأنظمة التي تنفذ معاملات يكون صاحب قرار احتواء الأداة مهماً بقدر صاحب قرار تشغيل النموذج. تختلف صلاحية قبول المخاطر عن صلاحية تنفيذ اختبار، وقد يُطلب اعتماد مستقل عند وجود عمليات حرجة أو بيانات مقيدة.
المكونات المشمولة والمستبعدة
تحتوي وثيقة Rules of Engagement على قائمة صريحة بالبيئات والتطبيقات والواجهات والحسابات والأدوار وقواعد البيانات التجريبية ومصادر الملفات المسموح بها، وكذلك المكونات المستبعدة والجهات التي لا يسمح اختبارها. قد تشمل البيئة واجهة دردشة داخلية وخدمة استرجاع ومستودعاً تجريبياً وAPI أداة تعمل على سجلات اصطناعية، لكنها تستبعد إرسال بريد خارجي حقيقي وخدمات الدفع الإنتاجية وأي بنية للمورد لم يمنح إذناً بفحصها. يجب أن تكون الحدود قابلة للتطبيق من قبل المختبر لا مجرد لغة عامة مثل «عدم إحداث ضرر». وإذا ظهرت نقطة دخول جديدة خلال الاستطلاع، لا تدخل تلقائياً في التفويض بل تُراجع مع مالك النطاق.
اختيار نمط الوصول
يتطلب Black-Box تحديد الواجهات والحسابات المسموح اختبارها وما هو مرئي من خلالها، ولا يبرر الوصول الخفي إلى أنظمة أخرى. في Gray-Box تسجل المخططات والسجلات والحسابات الإضافية المقدمة للفريق، حتى لا تنسب قدرة داخلية إلى مهاجم خارجي. ويشمل White-Box فحص التنفيذ المتاح مثل الشيفرة والإعدادات وتدفقات البيانات، مع التنبيه إلى أن الوصول إلى التطبيق لا يمنح بالضرورة الاطلاع على أوزان نموذج مستضاف أو بيانات تدريبه. لا يلزم أن تشمل المهمة الأنماط الثلاثة، ويمكن التبديل بينها وفق أهداف مثبتة. ويحدد التقرير لكل نتيجة نمط الوصول الذي أنتجها وما لا يستطيع إثباته وحده.
حسابات وبيانات الاختبار
تُنشأ حسابات تجريبية تمثل دور قراءة ودور اعتماد ودور تشغيل أو صيانة عند الحاجة. تعتمد حالات الاختبار على ملفات وأرقام معاملات وأسماء وهمية ورموز علامات اصطناعية، ويُمنع نسخ أسرار الإنتاج أو معلومات العملاء إلى بيئة مراقبة لغرض التقييم. عند اختبار عزل مستأجرين تُنشأ مجموعتان واضحتان من البيانات، ويجب التأكد من أن بيئة الاختبار تطبق سياسات وصول تشبه الواقع بما يكفي للحكم. تعزل وجهات استقبال الملفات أو الأحداث، وتمنع إرسال نتائج إلى مستلمين غير مشاركين. يحدد الجدول مدة الاحتفاظ بالبيانات الاصطناعية والأدلة ومَن يملك صلاحية الوصول إليها وكيفية إتلافها بعد المهمة.
حدود التشغيل والتكلفة
قد تتسبب الطلبات التوليدية الطويلة أو متعددة الوسائط أو الاستدعاءات المتكررة في تكاليف حوسبة مرتفعة أو تعطيل سعة مشتركة. ينبغي وضع سقوف للطلبات والأحجام والتواتر والميزانية والوقت، مع مراعاة سياسة المعدلات وشروط المورد. إذا أراد الفريق اختبار استنزاف موارد، يستخدم إعداداً منفصلاً وسقوفاً تسمح بمتابعة الأثر دون تعطيل مستخدمين حقيقيين. ويحدد مالك العمليات عتبات إيقاف عند تغير مؤشرات الأداء أو ظهور أخطاء غير مألوفة. ليس من المقبول تنفيذ حمل مفتوح على منصة إنتاجية ثم الاعتذار بأن ذلك جزء من اختبار هجومي؛ تتطلب شرعية المهمة الالتزام بالتصريح والقيود المفصلة.
قواعد التوقف والتصعيد
يجب أن تنص الخطة على مواقف تستوجب إيقافاً فورياً، مثل ظهور بيانات شخصية حقيقية على غير المتوقع، أو محاولة خدمة تجريبية الاتصال بمستفيد خارجي، أو تغير حالة معاملة إنتاجية، أو مؤشرات ارتفاع خطر غير متحكم به على الاستمرارية. يسجل المختبر الواقعة بمقدار الأدلة المسموح دون جمع زائد، ويبلغ الجهة المعينة، ولا يواصل البحث عشوائياً بدافع الفضول. يحدد المالك ما إذا كان يلزم احتواء أو إخطار جهات محددة أو مراجعة التفويض قبل الاستئناف. ويجب أن تكون جهات اتصال الطوارئ وصلاحيات تعطيل أداة متاحة فعلياً أثناء ساعات الاختبار. غياب استجابة تشغيلية لا يمنح الفريق حق الاستمرار خارج الحدود.
معايير الحكم قبل التنفيذ
تصمم كل حالة اختبار على أساس أصل وسلوك ممنوع وضابط متوقع ودليل. قد يكون النجاح رفض أداة تنفيذ إجراء خارج الدور وبقاء سجل نظام الأعمال بلا تغيير، ويمكن أن يكون النجاح في حالة أخرى وصول الحدث إلى الفريق الأزرق ضمن معيار كشف معروف. ينبغي اعتماد حالات PASS وFAIL وINCONCLUSIVE وتعريف متى تستخدم كل منها، وألا تتغير القواعد بعد ظهور النتيجة. لا تكفي إجابة نموذج تقول إنه رفض الفعل عندما يكون الأمر متعلقاً بتفويض نظام خلفي. ويمكن أن تكون التجربة غير حاسمة إذا تعذر الوصول إلى سجل موثوق أو اختلف إعداد البيئة عن الصيغة المتفق عليها. يساهم هذا الوضوح في منع التضخيم أو التقليل من النتائج.
خطة جمع الأدلة
تحدد الخطة أي سجلات تؤخذ من واجهة التطبيق ومن خدمة الهوية ومن طبقة الأدوات ومن ERP أو التخزين، وكيف تُربط بمعرف الحالة ووقت التنفيذ وإصدار النظام. يجب ألا ينقل فريق الاختبار ملفات أسرار أو نسخ قواعد بيانات إلى تقارير عامة. يمكن حفظ الأدلة الحساسة في مخزن مقيد وربط التقرير بمعرفات تسمح للمراجع المخول بطلبها. تذكر حدود الرؤية إن كان مزود خارجي لا يكشف تفاصيل التنفيذ، وتوثق طريقة التنقيح إذا عرضت لقطة تحتوي بيانات محمية. ويجب أن تكون النتائج قابلة لإعادة القراءة، لا معتمدة على ذاكرة المختبر أو وصفه الانطباعي لما حدث أثناء الجلسة.
تقدير الخطورة ونطاق الأثر
تسبق النتائج الفعلية فرضية عن آثار ممكنة، لكن ينبغي عند التقرير فصل الملاحظ والمؤكد عن السيناريو المحتمل. يصف الفريق ما إذا وصل إلى مستند اصطناعي أو غيّر سجلاً تجريبياً أو اكتفى بمشاهدة اختيار أداة غير مناسب، وما حدود الصلاحيات التي استخدمها. لا تساوي هذه الحالات بعضها ولا تصلح لتصنيف أمني واحد دون سياق. تعتمد الأولوية على قيمة الأصل ونوع الأثر والاستقرار وإمكان التوسع وضوابط الكشف والتعويض والقيود التشغيلية. وتذكر الحدود غير المختبرة صراحة بدلاً من عدّها نتائج نجاح. مشاركة مالك المخاطر ضرورية لتحويل الشدة التقنية إلى قرار مؤسسي.
التسليم والتقرير
يحدد اتفاق النطاق شكل التسليم وتواريخ المسودة والمراجعة، ومسؤول كل جزء، والجهة التي يمكنها الاطلاع على المحتوى الفني الحساس. يتضمن التقرير الفني فرضية الاختبار والبيئة والإصدار والحسابات والمصادر ومعيار الحكم والأدلة والسبب الجذري الأولي، بينما يتناول الملخص التنفيذي الأصول الحرجة والأثر المثبت وحدود التغطية وأولويات المعالجة والمخاطر المتبقية والقرارات المطلوبة. قد تكون النتيجة الأمنية قيمة للغاية رغم أن النموذج لم يعط مخرجات مثيرة، إذا أثبتت أن حدود التفويض لا تعمل كما يتوقع أصحابها. وينبغي أن يظهر سجل الإجراءات ومالكوها ومواعيدها وشروط التحقق لا مجرد ترتيب للملاحظات.
المعالجة والتحقق اللاحق
قبل إغلاق المهمة يجب الاتفاق على كيفية تسليم الحالات المؤكدة لفرق الهندسة والأمن والعمليات. يميز السجل بين الاحتواء المؤقت، وإصلاح السبب الجذري، وإعادة الاختبار، وقبول المخاطر المتبقية. قد تكون إضافة تعليمات للنموذج ضابطاً داعماً لكنها لا تصلح خللاً في صلاحيات خدمة خلفية، وقد يتطلب علاج عزل البيانات تغيير مرشحات الاسترجاع وتخزين النتائج المؤقتة معاً. لا يُغلق فشل لأن تذكرة عمل تغيرت إلى Done؛ يحدد مالك التحقق شروطاً واضحة لإثبات منع السلوك غير المصرح مع استمرار الوظائف المشروعة. وتحفظ نتائج النسخ القديمة دون محو حتى تتمكن المؤسسة من فهم تاريخ المخاطر.
حزمة قابلة لإعادة الاستخدام
يمكن تحويل المضمون إلى مجموعة حقول منظمة: معرف المهمة، الهدف، نظام الاختبار، مالك الأصل، الجهات المشاركة، نمط الوصول، البيئة، الحسابات، مصادر البيانات، الأدوات المشمولة والمستبعدة، سقوف التشغيل، قواعد التوقف، معايير الحكم، مواقع الأدلة، ساعات التنفيذ، ومسار إغلاق النتائج. لكن هذه الحقول ليست بديلاً عن وصف فعلي لكل بند؛ أي فراغ غير محسوم يجب أن يحمل حالة HOLD ومسؤولاً وموعد مراجعة. لا يجوز بدء تنفيذ نشط على أداة عالية الحساسية إذا بقيت حدود تفويضها غير معروفة. ويتوجب تحديث الحزمة عندما تتغير مكونات النظام أو تتسع المهمة. هكذا تتحول قواعد العمل من وثيقة جامدة إلى سجل سلطة وتشغيل مرتبط بالأدلة.
مثال لخطة تطبيقية محدودة
تقيم مؤسسة بوابة قراءة سياسات داخلية لمستخدمين تجريبيين. يشمل التفويض واجهة الاستعلام وخدمة الاسترجاع وسجلات الطلبات المسموح بها، ويستبعد أنظمة الرواتب الحقيقية والمورد الخارجي الذي يقدم النموذج. تشمل الأهداف عزل المستندات والتعامل مع محتوى غير موثوق والتأكد من أن أداة إنشاء المسودات لا تسمح بإجراءات اعتماد. تُستخدم حسابات محددة وملفات اصطناعية، وتحدد معايير قبول مرتبطة بعدم تغير حالة سجلات تجريبية واسترجاع المصادر المسموحة فقط. ويُوقف الاختبار عند ظهور بيانات واقعية أو تغير غير متوقع على نظام آخر. بعد التنفيذ يسجل الفريق لكل حالة الملاحظة ومصدر الدليل والنسخة وحدود النتيجة، ثم يعرضها على أصحاب الصلاحية.
المصادر والحقوق
المرجع الأساسي OWASP GenAI Security Project, GenAI Red Teaming Manual v1.0، أكتوبر 2026، ولا سيما Phase 1 Planning & Scoping في الصفحات 14–25، وأقسام AI Red Teaming Posture وAdversarial Testing Advisory وPhase 7 Evaluation & Reporting. هذا الدليل تطبيق مؤسسي مستقل من سيادة AI، وليس استمارة رسمية معتمدة أو ضمان امتثال أو ترخيص اختبار. يوضح المصدر الأصلي ترخيص CC BY-SA 4.0 ويستلزم الإسناد وشروط الاشتقاق عند إعادة استخدام المواد. لا يخول أي قارئ تنفيذ تجارب على خدمات لا يمتلك تفويضاً موثقاً لها. ترتبط القواعد القانونية والتنظيمية والقطاعية بطبيعة النظام والجهات والدول المعنية، ويجب التحقق منها بشكل مستقل عن منهجية Red Teaming.