الاستطلاع من الوثائق العامة إلى فرضيات أمنية قابلة للتحقق

الاستطلاع من الوثائق العامة إلى فرضيات أمنية قابلة للتحقق

هدف الاستطلاع

قبل محاولة اختبار حد ثقة، يجب أن يعرف الفريق ما النظام الذي يتعامل معه وما الذي يملك تصريحاً بملاحظته. يشرح دليل OWASP GenAI Red Teaming Manual v1.0 في Phase 2 Reconnaissance & Fingerprinting أن الاستطلاع يهدف إلى فهم غرض النظام وسلوكه المتوقع وقنوات الوصول ومكونات سلسلة التوريد وإنشاء خط أساس سلوكي. لا تُحوِّل هذه الخطوة وثيقة تسويق أو استجابة دردشة إلى حقيقة تقنية نهائية؛ إنها تجمع قرائن وتصنفها وتبني فرضيات يمكن التحقق منها. يركز هذا الدرس على المواد العامة المصرح بها وكيفية استخراج فائدة عملية منها دون تجاوز إذن الاختبار أو نسبة هوية نموذج بناء على أسلوب ردوده.

المواد التي يمكن جمعها

قد توفر المؤسسة وثائق استخدام وخرائط خدمات وأوصاف API وبطاقات نموذج واتفاقيات بيانات وملفات مساعدة ونشرات تحديث، بالإضافة إلى معلومات عامة عن قدرات التطبيق. يسجل المتعلم اسم المصدر والناشر وتاريخ النشر وتاريخ الوصول والنسخة والنطاق الذي تغطيه الوثيقة. فبطاقة نموذج عام قد تتحدث عن سلوك النموذج الأصلي، لكن التطبيق قد يستخدم طبقة سلامة إضافية أو مطالبات أو أدوات تجعل الأداء مختلفاً. لا يثبت وصف «يدعم الصور» أن قناة الصور مفعلة في تطبيق المؤسسة الذي يجري اختباره. لذلك يميز الجرد بين خاصية يدعمها المورد وخاصية شُوهدت في النشر الفعلي.

من الوثائق إلى الفرضيات

تُترجم كل معلومة إلى سؤال قابل للتحقق. إذا ذكرت وثائق API إمكانية رفع ملفات، يسأل المختبر عن نوع الملفات التي يسمح النطاق باختبارها وعن مكان حفظها وطبقة استخراج النص منها. وإذا أظهرت مواد المنتج أنه يستخدم أداة بحث، يسأل عما إذا كانت متاحة لجميع الأدوار وكيف تُطبق صلاحيات المستندات. أما إذا كانت الوثيقة قديمة فيجب تحديد مدى احتمال تقادمها قبل بناء اختبار يعتمد عليها. لا ينبغي إغراق سجل البحث بنصوص وثائق دون علاقة بهدف أو حد ثقة؛ القيمة في بيان كيف قد تغير المعلومة تصميم الحالة أو تكشف نقص رؤية يحتاج موافقة.

التفريق بين الملاحظة والحقيقة

تصنف النتائج إلى مؤكد من تكوين معتمد أو سجل تشغيل، ومرصود من سلوك الواجهة، وفرضية تحتاج دليلاً إضافياً. في التطبيقات التوليدية قد يؤدي طلب من النموذج إلى إجابة تزعم استخدام نسخة أو مزود معين، لكن النموذج قد يخمن أو يتبع تعليمات نظام أو واجهة. لذا لا يجوز أن يسجل اسم المزود بوصفه حقيقة من الرد وحده. إذا كان تحديد النسخة مؤثراً في اختبار أمن محدد، يُطلب إثبات من مالك النشر أو سجل إعداد موثوق. كما ينبغي توثيق ما إذا استخدم الفريق وصولاً داخلياً عند التحقق، حتى لا يختلط دليل White-Box بملاحظة Black-Box.

ما الذي تكشفه أنماط الرفض

يشير المصدر إلى Refusal Pattern Diagnostics بوصفها قرائن ممكنة على وجود طبقة سلامة أو إعداد استجابة، مع التحذير من تحويلها إلى استدلال قطعي على عائلة النموذج. فقد تنتج أنماط متشابهة من مزودين مختلفين أو من طبقات توجيه محلية، وقد تتغير مع تحديث غير معلن. لذلك يمكن تسجيل نوع الرسائل التي يرفضها النظام ضمن مجموعة اختبار مباحة، مع فصل سلوك النص عن نتائج أدوات الخلفية. تظل فرضية «توجد بوابة تصنيف قبل النموذج» بحاجة إلى تكوين أو ملاحظة تشغيلية تدعمها؛ لا يكفي تكرار عبارات اعتذار مشابهة بين عدة تجارب.

تحديد واجهات الدخول

قد تكون واجهات النظام محادثة ويب أو إضافة داخل منصة عمل أو API مباشر أو قناة بريد أو معالجة دفعات ملفات. يحدد الاستطلاع النقاط التي تقع ضمن النطاق المرخص، والأدوار التي تستطيع استخدامها، وطريقة توثيق الجلسة وأوجه الاختلاف في سلوكها. ولا يعني اكتشاف عنوان API إضافي أنه أصبح جزءاً من الاختبار تلقائياً. يجب ربط الواجهة بوظيفة وأصل ومصدر بيانات وضابط متوقع، ثم إحالة أي توسيع للنطاق إلى مالك التصريح. إذا كانت الواجهة تستدعي أدوات خارجية، يضاف الحد بين التطبيق والأداة إلى خريطة المراحل التالية، حتى إن لم يكن لدى المختبر وصول مباشر إليها.

تحليل الوثيقة حسب السياق

بعض الوثائق تؤكد أهداف السلامة والخصوصية لكنها لا تقدم تفاصيل اختبار ضابط تقني. يمكن استخدام النص لتحديد سؤال للمالك، لا ليصبح دليلاً على أن التطبيق يمنع تسريباً معيناً. فقول المورد إن النموذج «يحمي البيانات» لا يغني عن اختبار صلاحيات الاسترجاع والتخزين والذاكرة في تطبيق المؤسسة. وإذا نص دليل الاستخدام على أن النظام لا يدعم معاملات ذات أثر، لكن التطبيق يحتوي أداة تغير حالة سجل، ينبغي توضيح التعارض والتحقق من التكوين الفعلي. عند مراجعة وثائق متعددة يجب أن يظهر تاريخ كل منها، ومَن يملك النسخة المرجعية عندما تكون الأوصاف غير متطابقة.

فحص سلسلة الأدلة

يحتاج فريق الاختبار إلى حفظ معرف لكل ملاحظة يربطها بمصدر وتوقيت وسياق. قد يستخدم مرجعاً داخلياً لملف الوثيقة أو نسخة قابلة للأرشفة من وصف API ضمن السياسة، مع تجنب نسخ بيانات سرية لا يحتاجها التقييم. إذا تغيرت صفحة عامة بعد بدء المهمة، يسجل الإصدار الذي استُخدم لتكوين الفرضية، ولا يعتمد على رابط حي وحده لإثبات حالة تاريخية. يعزز ذلك إمكانية إعادة مراجعة النتائج بعد أشهر عندما يختلف إصدار نموذج أو أداة. ومن المهم أن يعرف المراجع أي معلومة استعملها الفريق لإعداد الاختبار وما إذا كانت ضمن نطاق الوصول المصرح به.

الخط الأساس السلوكي

يعد إنشاء Baseline قبل الحالات العدائية أحد أهداف الاستطلاع. يسجل الفريق كيف يتصرف التطبيق مع طلبات مشروعة في الحسابات التجريبية: ما المستندات التي يعرضها وما الأدوات التي يستدعيها وكيف يشرح حدود صلاحياته وما أحداث السجل الناتجة. يجب أن يكون الخط الأساس مرتبطاً بإصدار التطبيق والنموذج ومجموعة البيانات والوقت، وأن يستخدم بيانات لا تعرض أشخاصاً للخطر. لا يمثل الخط الأساس إثبات أمن كامل، لكنه يتيح تمييز تغير بعد حقن محتوى تجريبي من سلوك طبيعي موجود. وإذا تغير المورد أو الفهرس بين التجارب فقد يحتاج الفريق إلى إعادة الخط الأساس.

خصوصية الاستطلاع متعدد الوسائط

عندما يدعم النظام الصور أو الصوت أو المستندات المركبة، لا تكفي وثائق API النصية وحدها. يجب تحديد أي خدمات تقوم بالتحويل أو OCR أو تفريغ الكلام أو استخراج البيانات الوصفية، وهل تقع داخل تحكم المؤسسة أو خارجها. يوثق الفريق القيود المنشورة على أحجام الملفات وأنواعها وحقوق الوصول إلى النسخ المؤقتة، ثم يترك الاختبار العملي لمرحلة لاحقة ضمن تفويض واضح. ولا يعد نوع الملف الذي تدعمه مكتبة عامة دليلاً على أنه مقبول في بيئة المؤسسة؛ ينبغي مراجعة الضبط المنشور أو طلب تأكيد من المالك.

حدود معرفة المورد الخارجي

قد يواجه المتعلم غموضاً مشروعاً لأن المورد لا يكشف أسماء جميع النماذج أو المكونات أو تغييراتها. ينبغي أن يسجل ما توفر من عقود وبيانات خدمة وشروط تخزين واسترجاع وتحديث، مع بيان ما لم يكن قابلاً للفحص تقنياً. لا يعالج غياب المعلومات بإطلاق اتهام أن المورد غير آمن، ولا باعتبار كونه مشهوراً ضماناً شاملاً. يمكن اقتراح ضوابط تعويضية على طبقة التطبيق التي تملكها المؤسسة، مثل تقليل صلاحيات الأدوات والبيانات التي ترسل إلى المورد، وربطها بمخاطر محددة. وقد تصبح الحاجة إلى دليل إصدار أو عملية إشعار بالتغيير جزءاً من قرار التعاقد والتشغيل.

تحويل الاستطلاع إلى سطح اختبار

بعد قراءة الوثائق وقياس الخط الأساس، ينشئ الفريق قائمة مفهرسة بالسطوح: قناة إدخال المستخدم، ومصدر المستندات، وخدمة الاسترجاع، والنموذج، والذاكرة، وواجهة الأداة، والسجلات، والمورد الخارجي. لا تختزل القائمة إلى أسماء فقط؛ يضاف لكل سطح مالك ودرجة ثقة وقدرة على القراءة أو الكتابة وأصل حساس محتمل وحدود ما يمكن اختباره. ثم تكتب فرضيات تربط المحتوى الأقل ثقة بالمكونات ذات السلطة، مع تمييز الأدوار والقيود. هذه المخرجات تغذي Phase 3 Surface Mapping، ولا ينبغي أن تتحول عملية الاستطلاع إلى تجربة استغلال نشطة من دون انتقال رسمي إلى المرحلة التالية.

نشاط مراجعة نموذج

قدمت مؤسسة افتراضية وثيقة API تؤكد دعم الملفات النصية والصور، وبطاقة نموذج خارجية لا تذكر تكوين التطبيق المحلي، وإجابة من واجهة المساعد تدعي استخدام إصدار محدد. أنشئ جدولاً يفصل المؤكد والمرصود والمفترض. حدد الأدلة التي يمكن جمعها بشكل مصرح لتأكيد الإصدار الفعلي وخدمة استخراج الصور وصلاحية مستودع البحث. ثم اقترح ثلاثة سيناريوهات للاختبار اللاحق مرتبطة بأصل وحد ثقة، من دون إجراء أي محاولة على نظام حقيقي. ينبغي أن يذكر المتعلم سبب عدم اعتباره رد المساعد دليلاً على نسخة النموذج.

معيار تقييم النشاط

ينجح العمل عندما يميز المتعلم بين خصائص المورد وخصائص التطبيق المنشور، ويبين تاريخ المصادر ونوع الوصول والافتراضات، ويربط كل فرضية بأصل ونقطة دخول وبضابط يمكن اختباره. يفشل إذا نسخ الوثائق دون تنظيم أو قال إن الرفض المتكرر يثبت هوية النموذج أو تعامل مع عنوان غير مصرح به كهدف للاختبار. كما يجب أن يكون قادراً على تسمية المعلومات التي لا يستطيع جمعها من واجهة عامة، مع توصية بطلب موافقة أو تأكيد من المالك. ولا يعادل عدم العثور على خطأ في هذه المرحلة نتيجة PASS أمنية للنظام؛ فالمرحلة هدفها الإعداد والتحقق من المعلومات.

المصدر وحالة المعرفة

يرتكز الدرس على Phase 2 Reconnaissance & Fingerprinting في OWASP GenAI Red Teaming Manual v1.0، أكتوبر 2026، الصفحات 26–30، ولا سيما Analyze Public Artifacts وRefusal Pattern Diagnostics وArtifacts & Evidence، بالإضافة إلى توجيه الصفحة السابعة بشأن تقييد ادعاءات التعرف إلى النموذج. هذا النص توسيع تعليمي عربي من سيادة AI وليس ترجمة رسمية أو نصاً صادراً عن OWASP. لا يجيز الاستطلاع فحص أي واجهة خارج نطاق الموافقة. وترخيص الوثيقة الأصلية CC BY-SA 4.0 يتطلب الإسناد وشروط الأعمال المشتقة عند استخدامها.