بنية تشغيل اختبار GenAI: العزل والمراقبة وإعادة الإنتاج

وظيفة تصميم بيئة الاختبار

تخصص OWASP GenAI Red Teaming Manual v1.0 القسم 3.1 من المرحلة الثالثة لتنسيق الاختبارات والبنية التحتية. الهدف ليس توفير منصة لإطلاق أكبر عدد من المطالبات، بل بناء بيئة تمكن الفريق من إعادة تنفيذ حالة محددة وربط مدخلاتها وأفعالها وأدلتها بإصدار معلوم. قد يحتاج التطبيق إلى نموذج مستضاف وخدمة استرجاع وخادم أدوات وذاكرة جلسة وقواعد صلاحيات؛ لذلك لا تكفي نسخة دردشة مبسطة لتقييم أمن العمليات الفعلية. يتعلم القارئ كيف يختار مكونات الاختبار، وما الذي يجب عزله، وكيف يحافظ على الفرق بين تجارب آمنة وعمليات إنتاجية. ينبغي أن يكون تنفيذ النشاط مأذوناً وأن ترتبط البنية بقواعد النطاق والميزانية والتوقف التي حُددت في المرحلة الأولى.

مخطط التطبيق المرجعي

نستخدم مؤسسة افتراضية لديها مساعد يلخص العقود ويستدعي أداة لإنشاء مسودة في نظام أعمال. تمر رسالة المستخدم عبر بوابة الهوية إلى خدمة التنسيق، ثم يسترجع التطبيق مقتطفات من مستودع، ويمرر السياق إلى النموذج، ثم يعالج استجابة قد تحتوي طلب أداة. يُعد النظام الخلفي جهة السلطة الحقيقية عند إنشاء مسودة أو تغيير حالة، ولا يصبح طلب النموذج أمراً ملزماً بمجرد توليده. تتطلب بيئة الاختبار حسابات متعددة الأدوار ووثائق مصطنعة ومخزون سجلات اختباري وربطاً بين معرّف المحادثة ومعرّف استدعاء الأداة. ويجب توثيق ما إذا كانت هذه المكونات في بيئة محلية أو سحابية وما الذي يعتمد على مورد خارجي.

عزل التحكم والبيانات

ينبغي ألا يؤدي إدخال وثيقة مصطنعة لاختبار حقن تعليمات إلى تعديل بيانات مؤسسة فعلية أو إرسال إشعار إلى شخص غير مشارك. تُعزل خدمات الأداة عن أنظمة الإنتاج أو تستخدم أوضاع محاكاة قابلة للتحقق، وتحدد وجهات بريد أو تخزين مملوكة للفريق. كما ينبغي ألا تستخدم التجربة مفاتيح خدمة لها صلاحيات تفوق الحاجة، حتى لو كان ذلك أسهل في الإعداد. إذا تعذر محاكاة سياسة التفويض بدقة في البيئة البديلة، تسجل الحدود وتوضع نتائج التنفيذ في فئة لا تسمح بالتعميم على الإنتاج. الفصل بين منطقة جمع الأدلة وبيانات العمل يقلل احتمال أن يصبح التقييم الأمني نفسه قناة لكشف معلومات حساسة.

خطة المراقبة التقنية

يجب أن يستطيع الفريق رؤية الحدث الذي يهمه: ما النص المسترجع؟ ما الدور المعتمد؟ هل حاول النموذج اختيار أداة؟ هل قبلت طبقة التنفيذ الطلب أم رفضته؟ وما حالة السجل بعد ذلك؟ لا يلزم حفظ كل محتوى محادثة أو نسخ الملفات بالكامل في منصة التسجيل؛ يمكن حفظ معرفات وسجلات ضرورية وفق سياسة الاحتفاظ. ينبغي ربط الأدلة بوقت وإصدار وحساب تجريبي ومعرف حالة الاختبار، حتى يتمكن مراجع مستقل من الفصل بين استجابة النموذج وقرار النظام الخلفي. وإذا لم يكن سجل معين متاحاً بسبب مورد خارجي، يسجل القيد بدلاً من افتراض ما حدث داخل الخدمة.

حالة التكوين والتغير

قد يفشل اختبار ثم ينجح بعد تحديث Prompt أو قاعدة استرجاع أو إصدار أداة أو سياسة هوية. لهذا يحدد الفريق ملف تكوين مرجعياً يشتمل على مكونات النظام المتاحة والنسخ وبيانات الاختبار وحالة الفهرس وبيئة التنفيذ. يجب ألا تختلط نتائج حالتين أجريتا بإعدادات مختلفة دون الإشارة إلى ذلك. ويمكن استخدام معرف نسخة أو سجل بناء أو تجزئة مادة رقمية للتحقق من أن الحزمة المنشورة هي التي اختبرت فعلاً. إذا كان النموذج الخارجي يتغير بلا معرف ثابت معروف للمؤسسة، يذكر ذلك ضمن حدود إعادة الإنتاج وتراقب التغيرات ذات الأثر في سياسة الاختبار.

تنسيق تشغيل الحالات

تحتاج كل حالة إلى مدخل مصرح ودور وهدف وشرط سابق ونتيجة متوقعة ومعيار حكم، ثم نتيجة فعلية وأدلة. لا تستخدم أداة تشغيل آلي تدور بلا حد أو تعيد الحالة عشرات المرات على خدمة حساسة من دون سقف متفق عليه. يحدد المنسق ترتيب تشغيل الحالات التي قد تغير حالة البيانات بحيث لا يؤثر اختبار سابق في تفسير اختبار لاحق. وإذا أدت حالة إلى إنشاء مسودة تجريبية، يجب إما إرجاع البيئة إلى حالة معروفة أو تسجيل التغير بوضوح قبل الحالة التالية. ينبغي ألا تتجاوز التفاعلات حدود المعدل والتكلفة وإجراءات الطوارئ المتفق عليها.

اختبار الأدوات دون أفعال ضارة

قد يسمح الوكيل باختيار أداة لإرسال رسالة أو تحديث سجل، لكن التقييم لا يحتاج إلى استخدام مستفيد حقيقي لإثبات المنع. يمكن استخدام أداة Mock أو حسابات وأصول اختبارية تحقق نفس مسار التفويض دون وصول إلى أشخاص أو معاملات حقيقية. ومن الضروري أن يميز الفريق بين رفض سببته طبقة Mock وبين رفض سببه الضابط المتوقع في نظام الأعمال؛ فإذا لم يُختبر التفويض الحقيقي فإن النتيجة لا تثبت فعاليته. يمكن استخدام سجل انتظار أو فحص طلب أداة معطل بدلاً من تنفيذ الفعل عندما يكون ذلك مطلوباً للسلامة، مع تصنيف النتيجة وفق ما تحقق بالفعل.

التعامل مع مصادر متعددة الوسائط

عند اختبار ملفات صوت أو صور أو مستندات يجب أن تحتوي البيئة على خدمة استخراج تسمح بمعرفة ما وصل إلى النموذج، لا مجرد ملف أصلي مع استجابة نهائية. قد يظهر نص OCR أو التفريغ الصوتي بصفة بيانات مستخرجة، ويجب ألا يحصل على سلطة تعليمات النظام. لذا تُحفظ معلومات مصدر النص ووقت الاستخراج وإصدار الخدمة وكيفية انتقاله إلى سياق النموذج. ينبغي أن تكون الملفات مصطنعة أو مخولة المعالجة، وأن تحكم حدود الحجم والنوع والتخزين المؤقت. لا يُفترض أن نتائج قناة النص تمثل سلامة الصورة أو الصوت لمجرد أن النموذج نفسه يستقبل الاثنين.

مراجعة حدود الشبكات والمورد

يمكن أن تكون بعض أدوات النموذج قادرة على الوصول إلى واجهات خارجية أو تحميل مستندات من الإنترنت. يحدد إعداد الاختبار الشبكات والوجهات التي يسمح لها بالاتصال بها، ويمنع الوصول إلى خدمات إنتاجية أو أطراف لم تمنح إذناً. يجب أن يعرف مالك العمل ماذا قد يُرسل إلى المورد الخارجي عند تشغيل تجربة، خصوصاً إذا كانت الخدمة تحتفظ بسجلات أو تنفذ معالجة عبر مناطق مختلفة. إذا كان هذا مجهولاً، تستخدم بيانات لا تحمل معلومات محمية وتوثق حدود المعرفة. لا يصح أن تجعل سهولة الاتصال بمورد ما استخدامه ضمن الاختبار مشروعاً تلقائياً؛ يجب مراجعة شروط الخدمة والتفويض.

الأمان التشغيلي أثناء التنفيذ

تضع خطة الحملة حدوداً للتكلفة وعدد الطلبات والمدة وحجم الملفات واستدعاءات الأدوات، مع سجل يوضح من يستطيع وقف التجربة. عند ظهور بيانات حقيقية أو تغير في حالة خارج النطاق أو أخطاء متكررة مؤثرة في التشغيل، توقف الحالات التي قد توسع الأثر وتُبلغ الجهة المسؤولة. لا ينبغي أن تكون إمكانية إيقاف الأداة قائمة على موافقة النموذج نفسه؛ بل تحتاج تحكماً تقنياً مستقلاً على مستوى التطبيق أو البنية. كما لا ينبغي أن يرسل النظام تنبيهات إلى أطراف غير مشاركين إذا كانت البيانات المستخدمة في التجربة قد تحاكي عمليات حساسة.

تجربة تمهيدية للتحقق من البيئة

قبل الحالات العدائية تُجرى مجموعة اختبارات معيارية مشروعة: استرجاع وثيقة مسموحة، ومنع وصول خارج دور الحساب، وإنشاء مسودة تجريبية، ورفض عملية تعديل من حساب قراءة، وتسجيل الأحداث في المنصة المصرح بها. قد يكشف الاختبار التمهيدي أن أداة Mock لا تطبق التفويض كما يفترض الفريق أو أن فهرس المستندات خالٍ؛ في هذه الحالة لا يجوز تشغيل سيناريو عدائي ثم تفسير غياب الأثر على أنه نجاح دفاعي. يتم تصحيح البيئة أو توثيق قصورها كسبب لعدم الحسم. يحدد هذا الإجراء الحد الأدنى لجودة البنية قبل جمع نتائج يعتمد عليها مجلس إدارة أو فريق تدقيق.

بناء سجل تغطية للبنية

تربط مصفوفة التغطية بين قنوات المستخدم والخدمات والأدوار والضوابط ومصادر الأدلة. يمكن أن يظهر من المصفوفة أن التطبيق يملك أداة مالية لم تُجهز لها حسابات اختبار، أو أن سجلات الاسترجاع ليست متاحة للمراجعة. لا يعني استكمال تجهيز واجهة المحادثة أن جميع أسطح النظام أصبحت قابلة للتقييم. تُرفع فجوات التغطية إلى مالك المهمة لاتخاذ قرار توفير بيئة مناسبة أو تعديل النطاق، وتظهر في التقرير النهائي بوصفها قيوداً لا نجاحات صامتة. ومن المهم تحديد المكونات التي قد تتغير أثناء الحملة بسبب نشر تلقائي أو تعديل سياسة المورد.

التدريب على استكشاف عطل

افترض أن الوكيل لم ينشئ مسودة رغم أن الطلب مشروع. يراجع المتعلم سجلات الهوية ثم الاسترجاع ثم استدعاء النموذج ثم اختيار الأداة ثم قرار النظام الخلفي. إذا كانت الأداة غير متصلة في بيئة الاختبار فلا يمكن الحكم أن النظام نجح في منع محاولة غير مصرح بها؛ إذ لم يصل الطلب إلى موضع الضابط. أما إذا رفضت سياسة الدور طلباً غير مصرح به مع سجل متسق وحالة بيانات ثابتة، فهذه نتيجة قابلة للاستخدام. يكتب المتعلم أين انتهى التنفيذ وما الدليل على كل خطوة، ويحدد ما يحتاج إعادة تهيئة قبل التجربة التالية.

تمرين تصميم البيئة

صمم بنية تجريبية لتطبيق يقرأ سياسات موظفين ويستخدم أداة إنشاء مسودة. ضع لكل مكون مالكاً ونسخة وبيانات اصطناعية ودور حساب، وارسم ثلاثة حدود ثقة على الأقل. حدد مواضع التسجيل التي تثبت سياسة الاسترجاع والتفويض ونتيجة الأداة، ثم اكتب قواعد توقف وتكلفة وسقف حجم ملف. اقترح حالتين للتمهيد وحالتين أمنيتين لاحقتين، واذكر لماذا لا يجوز تقييم صلاحيات API بناء على رد المحادثة وحده. يجب أن تكون الخطة قابلة للتنفيذ من فريق مأذون دون الحاجة إلى التعامل مع بيانات إنتاجية حقيقية.

معيار فحص التمرين

يعد العمل جيداً إذا كانت بيئة الاختبار تمثل حد السلطة الحقيقي وتستخدم أدوات وبيانات محكومة وتوفر سجلات لحكم مستقل. يرفض إذا كانت حسابات الفريق تملك امتيازات إدارية لا تمثل الخصم المفترض أو إذا سمحت بمراسلات خارجية غير خاضعة للسيطرة أو لم تفرق بين رفض Mock ورفض الخدمة الفعلية. ينبغي أن تظهر الفجوات والتبعيات الخارجية وتواريخ التكوين بوضوح. لا تتطلب المهمة أن تكون البيئة مطابقة لكل تفصيل إنتاجي، لكنها تتطلب تفسير ما لا يمكن نقله من نتائجها. وينبغي أن يستطيع صاحب النطاق إيقاف التنفيذ وإعادة ضبط الحالة عند الضرورة.

المصدر

يرتكز الدرس على 3.1 Test Orchestration and Infrastructure في OWASP GenAI Red Teaming Manual v1.0، أكتوبر 2026، الصفحات 31–33، وعلى أفكار Reproducibility Controls وCoverage Tracking في المرحلة السابعة. الأمثلة والتكوينات توضيحات تعليمية من سيادة AI وليست مواصفات إلزامية أو ترجمة حرفية للمصدر. لا يجيز الدرس أي نشاط خارج نطاق موافقة موثقة. الوثيقة الأصلية مرخصة CC BY-SA 4.0، وتجب مراعاة شروط النسب والمشاركة بالمثل عند تكييف موادها.