إنشاء AI-BOM وفحص سلاسل التوريد والحزم المنشورة

ما الذي يجب أن يكون في الجرد

يستدعي تأمين الأنظمة التوليدية معرفة المواد التي يتكون منها النظام فعلاً وليس أسماء النماذج الظاهرة للمستخدم. يقدم دليل OWASP GenAI Red Teaming Manual v1.0 في Phase 2 مثال AI-BOM يتضمن النماذج الأساسية ومحولات الضبط والمجزئات ومكتبات التنسيق والحاويات وخوادم MCP. هذه قائمة مكونات تساعد على التحقق من المصدر والإصدار والاعتماديات ومواضع النشر والسلطات، لكنها لا تمثل ضماناً أمنياً أو شهادة مطابقة. يبدأ المتعلم بإنشاء سجل يربط كل مكون بأصل مؤسسي ووظيفة وصاحب خدمة وسلطة تحديث وصلاحية تشغيل، ثم يصنف ما أُكد من إعداد النشر وما يستند إلى وصف عام أو فرضية.

رسم سلسلة المكونات

يمكن لتطبيق تلخيص مستندات أن يستخدم خدمة دخول، ومخزن ملفات، وخدمة استخراج نص، ومجزئاً Tokenizer، وقاعدة متجهات، ومكتبة تنسيق، ونموذج استدلال خارجي، وذاكرة جلسة، وخادم أدوات، وسجل أحداث. تختلف قدرة كل مكون على التأثير في البيانات والقرارات. فخطأ في نسخة مكون عرض قد يؤثر في تجربة المستخدم، بينما خطأ في خادم أداة يملك بيانات دخول واسعة قد يتيح إجراءً غير مفوض. لذلك لا يكفي أن يسرد الجرد اسم الحزمة؛ يجب بيان اتجاه البيانات وحدود الثقة ودور المكوّن في سياق التشغيل. وتحدد فئات إضافية للتبعيات التي يملك المورد وحده تفاصيلها، مع تسجيل نقص الرؤية بدلاً من اختراع معلومات عنه.

توثيق النماذج ومحولات الضبط

قد يستخدم النظام نموذجاً أساسياً مستضافاً ومحولات Fine-Tuning أو إعدادات خاصة بالمؤسسة أو طبقات تصنيف مستقلة. يجب التمييز بين إصدار النموذج المعروف من سجل المورد أو نظام النشر وبين اسم تجاري يتغير دون إنذار. كما قد يكون هناك نموذج لتوليد الإجابة وآخر لإنتاج Embeddings وثالث لتصنيف سلامة المحتوى، ولكل واحد مصدر وإصدار ودور مختلف. يساعد هذا التفصيل على تحديد أي اختبار ينبغي إعادته عند تغيير مكوّن. ولا يجوز أن يدعي الفريق فحص أوزان النموذج أو بيانات تدريبه إذا كان وصوله مقتصراً على واجهة API وبيانات تعريف قليلة.

خوادم الأدوات والسلطة

يمثل خادم MCP أو خادم أدوات مخصص نقطة تحول من النص إلى الفعل، وقد تكون صلاحياته أهم من الاختلاف بين إصدارين من نموذج لغوي. ينبغي أن يذكر الجرد الأدوات التي يقدمها والبيانات التي يمكنها قراءتها أو كتابتها والأدوار التي يسمح لها بالاستدعاء وهوية الخدمة التي تنفذ الطلب وكيف يمرر السياق الأصلي للمستخدم. ولا يتحول وصف الأداة داخل Prompt إلى تفويض حقيقي؛ ينبغي أن تفحص طبقة تنفيذ موثوقة العملية والمستفيد. عند تغير قائمة الأدوات أو مخططها أو بيانات الاعتماد، يمكن أن يصبح اختبار التفويض السابق غير كافٍ، حتى لو لم يتغير شكل واجهة المستخدم.

مخازن الوثائق والفهارس

تحتاج سلسلة توريد المحتوى إلى جرد مستقل عن سلسلة حزم البرامج. فقد يأتي المستند من مستودع داخلي أو مورد خارجي أو نسخة مؤقتة أو منصة إدارة محتوى، ثم يُجزأ ويُفهرس ويُسترجع. إذا تغيرت صلاحيات المستند الأصلي ولم يتغير الفهرس أو التخزين المؤقت فقد يظهر خطر كشف خارج الدور. لذلك يربط الجرد كل مصدر بسياسة الوصول ودورية التحديث ومالك البيانات وطريقة حذف النسخ المشتقة ودرجة الثقة. لا يُعامل النص المسترجع على أنه تعليمات تشغيل مصرح بها لمجرد أنه دخل عبر محرك بحث تابع للمؤسسة. هذه نقطة مهمة لانتقال النتائج إلى خريطة حدود الثقة.

الفرق بين المستودع والنشر

قد يشير سجل Git إلى حذف مكون ضعيف أو إصلاح ملف، لكن الحزمة التي تعمل في الإنتاج ربما لم تُحدَّث بعد. يسمي الدليل هذه المشكلة Artifact Drift ويقترح مقارنة الملفات المنشورة بالمصادر وبيانات التحقق مثل التجزئة والتوقيع حيث تتوفر. ينبغي أن يطلب فريق التقييم معرف الحاوية أو الحزمة أو نموذج المادة الرقمية المستخدمة فعلياً في بيئة الاختبار، لا الاكتفاء برقم إصدار مكتوب في صفحة مشروع. كما ينبغي أن يعرف من يمكنه نشر حزمة جديدة ووفق أي موافقة، وكيف تسجل التغييرات. فعدم القدرة على إثبات نسخة النشر قيد مهم على صلاحية نتائج فحص الثغرات.

سلامة المادة الرقمية

يتيح التوقيع والتحقق من التجزئة تقييم ما إذا كانت الحزمة المستلمة مطابقة لمادة متوقعة ولم تتغير أثناء النقل أو التوزيع، لكنهما لا يثبتان خلو المكوّن من أخطاء منطقية أو سياسات غير آمنة. قد تكون الحزمة أصلية تماماً ومع ذلك تمنح أداة صلاحيات زائدة، أو تمرر مستنداً غير موثوق إلى موقع تعليمات عالية السلطة. ولهذا يُذكر في الجرد نوع الضمان الذي قدمه كل دليل: إثبات مصدر، أو هوية إصدار، أو تقييم تكوين، أو نتيجة اختبار أمني. لا يجوز دمج هذه الأدلة في خانة «آمن» من دون تحديد الفرضية التي يغطيها كل واحد. وتوضع حدود الرؤية للموردين الذين لا يمكن فحص حزمهم داخلياً.

حدود أدوات SCA

تعد أدوات Software Composition Analysis مفيدة لاكتشاف تبعيات وإصدارات وتحذيرات معروفة، لكنها لا تستطيع ضمان كشف كل مشكلة في أطر تنسيق الذكاء الاصطناعي. يشير OWASP إلى SCA Blindness عندما لا تملك بعض المشكلات معرف CVE أو تُصنف باعتبارها خطأ إعداد أو استخدام. لذلك لا يصبح تقرير «صفر ثغرات معروفة» دليلاً على سلامة سلسلة التنفيذ. ينبغي استكماله بمراجعة التكوين والهوية وصلاحيات الأدوات وتدفق البيانات واختبارات أمان التطبيق. وعندما تظهر مشكلة فنية بلا معرف عام، تُوثق وفق الأدلة المحلية مع وصف سببها وآثارها والضوابط الممكنة بدلاً من تجاهلها لأنها لم تظهر في ماسح تقليدي.

التحليل الآمن للمواد غير الموثوقة

عند فحص ملفات نماذج أو حزم واردة من مصادر جديدة ينبغي ألا يشغل الفريق الملف المجهول مباشرة على جهاز عمل موصول بأسرار المؤسسة لمجرد الرغبة في التعرف إلى محتوياته. يوصي الدليل بمنهج تحليل ساكن معزول عند الحاجة لفحص ملفات غير موثوقة، وبمراجعة العلامات والأصل والتوقيع والصلاحيات المتاحة. وفي النطاق المؤسسي ينبغي أن تحدد قواعد العمل ما إذا كان للفريق إذن بتنزيل تلك المواد أو فتحها، وما أنواع البيانات التي قد تحتويها، ومن يملك التعامل مع نتيجة تثير الشك. لا يجوز أن تتحول مرحلة الاستطلاع إلى تشغيل تعليمات ضمن ملفات خارجية دون احتواء وتشغيل مأذون.

قراءة أمنية لتحديث المورد

قد يغير المورد نموذجاً أو واجهة أو نسخة مكتبة من دون أن يعدل التطبيق المحلي. لهذا يجب أن تسجل سلسلة التبعيات كيف تصل معلومات التحديث إلى مالك الخدمة، ومن يراجع أثره، ومتى يعاد اختبار الضوابط المتأثرة. تختلف الحاجة إلى إعادة الاختبار باختلاف العنصر: تغيير نموذج إجابة قد يؤثر في مقاومة التعليمات غير الموثوقة، وتغيير خادم أدوات قد يؤثر في التفويض والمعاملات، وتغيير محرك استرجاع قد يؤثر في العزل والدقة. لا تُعاد كل حالة آلياً دون سبب، لكن لا تنقل نتائج نسخة قديمة تلقائياً إلى نسخة جديدة. تساعد خريطة علاقات التبعيات على تحديد مجموعة اختبارات انحدار فعالة.

خطر المزود غير الشفاف

قد لا يكشف المورد تفاصيل البنية أو مكتبات التنفيذ أو بيانات تدريبه لأسباب تجارية. عندها لا يحق لفريق التقييم أن يدعي امتلاك تفاصيل غير معلنة أو تقديم حكم قاطع على سلامة الداخل. يمكنه تقييم حدود التطبيق التي يملكها، وطلب ضمانات أو تقارير مناسبة وفق العقود، وتوثيق المخاطر التي لم تُختبر. قد تشمل الإجراءات العملية تقليل البيانات المرسلة وتضييق صلاحيات الأدوات ووضع قدرة تعليق الاتصال، مع اعتبار المخاطر المتبقية قراراً مؤسسياً يتخذه مخول. ويجب التفريق بين عدم الرؤية وبين دليل وقوع مشكلة؛ فالاثنان ليسا شيئاً واحداً.

تصميم جدول AI-BOM

يصمم المتعلم جدولاً يحوي معرف المكون ونوعه واسمه وإصداره ومصدره ومرجع النشر وصاحب الخدمة وبيئة التشغيل وصلاحيات القراءة والكتابة والبيانات التي تمر خلاله وإمكان تحديثه ودليل المصدر وتاريخ التحقق وحدود المعرفة. تضاف علاقة إلى اختبار أو ضابط عندما يكون المكون حساساً. يمكن ربط المستودع والحزمة المنشورة عبر معرف إصدار وتجزئة أو توقيع حيث تتوفر، وتسجيل اختلاف على أنه طلب تحقق وليس اتهاماً بالاختراق. لا ينبغي أن يكون جدول AI-BOM مجرد قائمة أسماء، وإلا لن يساعد فريق Red Team في تحديد سطح حرج أو فريق المخاطر في معرفة التبعية.

حالة افتراضية للانحراف

في مشروع مساعد داخلي يرى المتعلم أن مستودع المصدر يحتوي نسخة محدثة من خدمة التنسيق، بينما تشير بيانات حاوية الاختبار إلى إصدار أقدم. لا يجوز القول إن الإصدار القديم مصاب بثغرة بمجرد الاختلاف، لكن يجب إثبات النسخة المنشورة وما إذا كان التغيير ذا أثر أمني وما الاختبارات المرتبطة به. تراجع جهة النشر سجل التحديث والمادة الرقمية وتحدد ما إذا حدث تأخير مشروع أو خطأ في خط الإصدار. إذا كان المكوّن يملك صلاحية أداة حساسة، يمكن إرجاء نتائج اختباره إلى حين توحيد النسخة أو توثيق الفرق. ويضيف المتعلم ذلك إلى حدود الثقة والتغيير بدلاً من اختزاله في تقرير SCA عام.

نشاط التقييم

أنشئ AI-BOM افتراضياً يضم نموذج إجابة وخدمة Embeddings ومكتبة تنسيق وخادم MCP وخدمة OCR ومستودع RAG وحاوية تطبيق. حدد أي العناصر يمكن أن تؤثر في صلاحية تنفيذ فعل وأيها يتعلق بجودة الاستخراج وأيها يؤثر في حدود نقل البيانات. أضف معلومات نسخة مؤكدة وثلاث معلومات غير معروفة، واقترح مصدر دليل ملائماً لكل منها. ثم صمم اختباراً لتحديد اختلاف بين حالة Git والحزمة المنشورة دون تشغيل مادة غير موثوقة. اكتب كيف تؤثر نتائج الجرد في اختيار الاختبارات الأمنية اللاحقة ومَن يملك قرار تحديث المكون أو قبول خطر استمرار استخدامه.

مراجعة جودة الجرد

يجب أن يُظهر الناتج هوية كل مكون وصلته بعملية وأصل وصلاحية، وأن يفصل إصدار المورد التجاري عن إصدار المادة الرقمية المستخدمة فعلياً. تُراجع المخاطر عندما تكون الهوية مشتركة بين أدوات متعددة أو عندما يتغير مخزن بيانات دون انعكاس ذلك في قواعد الوصول. ويُرفض وصف «المسح نظيف، إذن النظام آمن» إذا لم يشمل مراجعة التكوين وحدود السلطة. ينبغي كذلك أن يميز المتعلم النقص الذي يحتاج إثباتاً من المورد عن النقص الذي تستطيع فرق المؤسسة حله من سجلاتها. قيمة السجل في تمكين قرار واختبار محددين، لا في عدد السطور أو الزينة.

المصدر الأصلي

يرتكز الدرس على القسم 2.2 Supply Chain Reconnaissance والموضوعات AI-BOM وArtifact Drift وSCA Blindness وArtifacts & Evidence من OWASP GenAI Red Teaming Manual v1.0، أكتوبر 2026، خصوصاً الصفحات 29–30، مع امتدادات تحليلية لإدارة مخاطر الموردين والحوكمة. هذا محتوى عربي مستقل من سيادة AI ولا يمثل ترجمة رسمية أو تقرير فحص واقعي لأي مشروع. يخضع المصدر لترخيص CC BY-SA 4.0 ويجب احترام إسناده وشروط المشتقات عند نقل مادته. أمثلة السجل والحاويات والمكونات افتراضية وتستخدم فقط ضمن تفويض فحص مشروع.