الاستضافة وحدها لا تثبت السيطرة؛ الجرد والتفويض والقدرة على الإيقاف ومراجعة التغيرات أدلة أهم.
سيادة الذكاء الاصطناعي لا تبدأ من مكان الخادم: بل من سجل التبعيات والسلطة
سيادة النظام تبدأ بمعرفة تبعياته
حين تقول مؤسسة إنها تملك السيطرة على الذكاء الاصطناعي قد تقصد أنها اشترت نموذجاً أو استضافته أو اختارت مورداً، لكن هذه الإجابات لا تكفي لمعرفة حدود السلطة الفعلية على البيانات والأدوات والتغيير. قد يكون التطبيق مرتبطاً بنموذج مستضاف وقاعدة استرجاع ومكتبة تنسيق وخادم MCP ومخزن ملفات، ولكل جزء مالك وإصدار وصلاحيات. يقدم OWASP GenAI Red Teaming Manual v1.0 في مرحلة الاستطلاع موضوعات AI-BOM وسلسلة التوريد، ما يتيح ربط المخاطر بالمواد التي تعمل فعلياً. من منظور سيادة AI تصبح السيادة المؤسسية قدرة موثقة على معرفة التبعيات وحدود البيانات والتفويض وإمكان تعليق خدمة ومراجعة أثر تغيّرها، لا مجرد شعار عن مكان الخوادم.
اسم المورد ليس خريطة النظام
يمكن أن يعتمد التطبيق على مزود نموذج مشهور، لكنه قد يستخدم مكتبة تنسيق إضافية أو خادم أداة مستقل أو مزود OCR أو خدمة تخزين خارجية. حتى إذا كان المورد موثوقاً في مجال معين، ينبغي أن تعرف المؤسسة ما الذي ترسله إليه وما الإعدادات التي يستطيع تغييرها وما المخاطر التي تقع داخل نطاق سيطرتها هي. لا يُعتبر وصف «Powered by» في واجهة منتج دليلاً على بنية البيانات والتفويض، كما أن امتلاك النموذج داخلياً لا يعفي من حماية أدوات قد تُنفذ بصلاحيات واسعة. يحتاج صاحب القرار إلى AI-BOM يربط المصدر والإصدار والمالك والمكونات ذات القدرة على القراءة أو الكتابة أو الإرسال، مع إظهار حدود الرؤية التي لا يستطيع تجاوزها قانونياً أو تقنياً.
القدرة على الإيقاف أهم من الوعود
يُسأل مسؤول التشغيل: إذا ظهر ضعف في أداة وكيل متصلة ببيانات حساسة، هل يمكن تعليق هذه الأداة دون تعطيل كل النظام؟ وهل توجد صلاحية فنية مستقلة لسحب إذنها، أم يتوقف الأمر على أن يقبل النموذج تعليمات نصية جديدة؟ القدرة على الحد من سلطة أداة ومنع انتقال بيانات إلى وجهة غير مخولة عنصر مهم في السيطرة الفعلية. وقد تحتاج المؤسسة إلى وضع ضوابط تفويض على مستوى API وربط كل فعل بهوية المستفيد الأصلي، بدلاً من الاعتماد على مفتاح خدمة واسع. لا يعني نجاح هذا التحكم انعدام جميع المخاطر، لكنه يقدم دليلاً واضحاً على حد السلطة الذي تملكه المؤسسة حتى عندما يكون النموذج نفسه مستضافاً خارجها.
النسخة المنشورة أم الشيفرة؟
قد يعلن فريق التطوير إصلاحاً في مستودع Git، بينما تكون صورة الحاوية المستخدمة في الإنتاج لم تُحدّث بعد، أو يملك المورد الحق في تغيير نسخة الاستدلال من دون نشر شفرة في مستودع المؤسسة. يقدم دليل OWASP مفهوم Artifact Drift بوصفه حاجة إلى مقارنة المواد المنشورة مع مصدرها والتحقق من الهوية والإصدار. لا يثبت التوقيع أن كل منطق البرنامج آمن، لكنه يساعد على معرفة المادة التي جرى اختبارها فعلياً. وإذا غابت هذه المعرفة يصبح التقرير الأمني أقل دقة، لأن نتيجة مراجعة نسخة لا تعني تلقائياً أن نسخة مختلفة في الإنتاج تحمل الضابط نفسه. السيادة هنا تتعلق بالقدرة على تتبع التغيير لا بموقع استضافة المواد وحده.
غياب CVE لا يبرئ التكوين
تعتمد مؤسسات كثيرة على أدوات فحص التبعيات وتفسر تقريراً خالياً من التحذيرات على أنه دليل سلامة تطبيقها. لكن بعض المشكلات تنشأ من إعدادات أو دمج خدمات أو صلاحيات أداة وليس من ثغرة منشورة بمعرف CVE. يناقش المصدر SCA Blindness في سياق سلسلة توريد GenAI، ويذكر أن فحص المكونات قد لا يرى كل سياق استغلال. لذلك تُستخدم أدوات SCA كجزء من سجل المخاطر، لكنها لا تغني عن مراجعة التحكم بالهوية وحدود الثقة وإثبات أن API يرفض الفعل غير المخول. لا ينبغي أن يكون «صفر ثغرات معروفة» قرار قبول مخاطر تلقائياً في نظام يستطيع الوصول إلى معاملات أو بيانات عالية الحساسية.
الاستقلال عن النموذج الخارجي
لا تستطيع المؤسسة في العادة اختبار أوزان نموذج سحابي أو معرفة جميع بيانات تدريبه، لكنها قد تتحكم في نظامها الذي يقرر ما المعلومات المرسلة إلى المزود وما الأفعال التي يسمح لها. يجب ألا تتحول محدودية الرؤية إلى ادعاء بسيطرة كاملة على الداخل، ولا إلى اعتقاد بأن كل نشاط خارج المؤسسة خطر مثبت بذاته. يمكن استخدام عقود وضمانات موردين وتقييم آثار بيانات وضوابط تطبيقية لتعريف حدود العلاقة، ثم اختبار ما يمكن إثباته فعلياً في طبقة المؤسسة. وعند وجود عناصر لا يتيح المورد فحصها يجب أن تظهر كقيود معرفة أو مخاطر متبقية يناقشها صاحب القرار، لا كحقائق تُخمن من رد النموذج.
مصدر البيانات الذي يعبر الحدود
قد يدخل مستند مورّد إلى محرك استرجاع داخل شبكة المؤسسة ثم يعاد إرساله مقتطفاً إلى نموذج مستضاف. وهنا لا تكفي الإجابة «الملفات داخل شبكتنا» لفهم ما خرج من حدود المعالجة، كما لا تكفي الإجابة «النموذج محلي» إذا كانت أداة إرسال البريد تستعمل خدمة خارجية. يتعين تتبع تدفق البيانات بين المصدر والفهرس والتنسيق والنموذج والأداة والتسجيل، مع تحديد صلاحية الدور والجهة المستفيدة والسياسات ذات الصلة. يمكن أن تمنع المؤسسة إرسال فئات من البيانات، أو تفرض تنقيحاً أو عزلًا، لكنها تحتاج أدلة على عمل الضوابط وليس مجرد وثيقة سياسة. هذه الطريقة تجعل السيادة الرقمية سؤالاً قابلاً للفحص.
الوكلاء يعيدون تعريف العقود
عندما يضيف التطبيق إلى النموذج القدرة على فعل شيء باسم المؤسسة، يصبح سؤال من يملك التفويض أهم من اسم النموذج. قد يحتاج العقد أو اتفاق التشغيل مع المورد إلى بيان كيف تتغير واجهات الأدوات أو تعاريفها أو السجلات وكيف تُبلغ المؤسسة بالتغير. ومع ذلك لا يرفع عقد جيد عن المؤسسة مسؤولية حماية APIs التي تملكها أو مراجعة صلاحيات المستخدم الأصلي. يجب أن تبقى أدوار القراءة والإنشاء والتعديل والإرسال واضحة وقابلة للمنع في طبقة أعمال موثوقة. وإذا استطاعت خدمة تقنية تغيير سجل بمفتاح واسع دون ربط المستخدم، فقد لا تحل المشكلة بالاعتماد على مورد «آمن» أو بتغيير Prompt؛ الخلل يتعلق بسلطة التنفيذ.
الامتثال ليس بديلاً عن الدليل
قد تستعين المؤسسة بمعايير إدارة مثل ISO/IEC 42001 أو NIST AI RMF أو أطر أمن التطبيقات، لكن تطبيق قواعد الاختبار الهجومي لا يمنح بحد ذاته شهادة امتثال أو تصريح استخدام في جميع البلدان والقطاعات. يجب أن يُعرف ما الالتزامات التي تنطبق على المؤسسة وما الدليل الذي يغطي كل شرط، وأن يظل تقييم التفويض والاسترجاع والبيانات مرتبطاً بالأصل الذي فُحص. يمكن أن تدعم نتائج Red Teaming سجلات التدقيق والمخاطر والحوكمة، لكنها لا تستبدل تقييم المورد أو حقوق البيانات أو إدارة الحوادث أو سياسات التغيير. كما ينبغي ألا يُستخدم اسم OWASP في التسويق باعتباره اعتماداً رسمياً لنظام لم يصدر مثل ذلك الاعتماد.
المراقبة ملكية لا تقل أهمية
إذا قامت أداة وكيل بإجراء خلفي، ينبغي أن تملك المؤسسة قدرة على معرفة هوية صاحب الطلب وقرار التفويض ونتيجة التنفيذ والوقت، مع حماية السجلات من نسخ بيانات حساسة بلا حاجة. قد يكون النموذج خارج المؤسسة لكن يمكن أن تكون سجلات أدواتها موثوقة وتخضع لسياسة وصول مستقلة، ما يعزز قدرتها على التدقيق والاحتواء. وفي المقابل قد تعجز عن تفسير نتائج نظام تستضيف نموذجه محلياً إذا كانت أدواته لا تحفظ هوية المستخدم أو تعيد نتائج بلا مصدر. لا تعني زيادة عدد الأحداث زيادة الأمن تلقائياً؛ المطلوب أحداث ترتبط بالقرارات وتسمح بتفسير من فعل ماذا وبأي إذن.
القرار عند تغير المورد
يختلف أثر تحديث مزود استدلال عن تحديث خادم أدوات أو فهرس مستندات، ويجب أن يعرف المالك أي اختبارات ينبغي إعادة تشغيلها عند كل نوع. قد تظل سياسة التفويض الخلفية مستقلة عن سلوك النموذج، لكن ينبغي أن يراجع الفريق أن طلبات الأدوات ما زالت تمر عبرها وأن هوية المستفيد محفوظة. وإذا تغيرت سياسة تخزين المورد أو نوع البيانات التي يعالجها، يحتاج ذلك إلى مراجعة مختلفة عن اختبار سلامة الرد النصي. يمكن أن تسمح المؤسسة بتحديث مشروط مع مراقبة أو تؤجله إلى حين إثبات إصلاح، وفق مخاطر الأصل وسلطات القرار. ولا تنتقل نتيجة قديمة إلى نسخة جديدة على نحو تلقائي دون مقارنة شروطها.
ما ينبغي أن يطلبه مجلس الإدارة
يمكن أن يبدأ المجلس بخمسة أسئلة: ما المكونات التي يعتمد عليها نظامنا ومَن يملك تحديثها؟ وما البيانات التي تغادر حدود السيطرة التي نستطيع إثباتها؟ وأي أدوات تستطيع فعل شيء باسم مستخدم أو مؤسسة؟ وكيف نوقف قدرة حساسة أو نتحقق من منعها؟ وما الاختبارات الحديثة التي تثبت هذه الحدود في النسخة المنشورة؟ الإجابة يجب أن تكون قادرة على الإحالة إلى جرد ومخططات وتفويض وسجلات واختبارات موقعة أو مراجعة، لا إلى نصوص ترويجية عامة. وإذا كان عنصر غير معروف، ينبغي أن يظهر مع خطة للحصول على دليل أو ضابط تعويضي ومسؤول عن القرار، لا أن يُملأ بتخمين أو يختفي من التقرير.
الاستثمار في القدرة المؤسسية
لا يلزم أن يكون كل مشروع ذكاء اصطناعي محلي الاستضافة كي يمتلك ضوابط جيدة، ولا تعني الاستضافة المحلية أن التبعيات والسلطات آمنة بذاتها. تستثمر المؤسسة في إدارة الهوية والبيانات وفصل المستأجرين وعقود الموردين وتسجيل التغيرات وتصميم الأدوات وتقييم المخاطر، ثم تختبر أهم الحدود ببيانات مصرح بها. يمكن أن توفر مسارات معرفية عربية شرحاً واضحاً لفرق القيادة والهندسة والتدقيق لكي يعملوا على فهم مشترك لما تعنيه السيطرة والضمان، بدلاً من تضخيم قدرة نموذج واحد. ومن المهم توجيه المحتوى إلى نتائج قابلة للتنفيذ، لا تحويل المعرفة إلى منصة لإجراء هجمات أو تخزين معلومات لا يسمح بفحصها.
المقاييس المضللة في السيادة
قد تسمع الإدارة نسبة مرتفعة من الطلبات التي رفضها النموذج أو قائمة طويلة من شهادات المورد، لكنها تحتاج إلى معرفة هل منع النظام الخلفي فعلاً عملية حساسة وهل عُزلت بيانات المستأجر وهل أمكن رصد تغيير غير مألوف. كما لا ينبغي اعتبار كل حالة اختبار ناجحة دليلاً على السيطرة الكاملة؛ فقد تكون الأدوار الحرجة لم تُختبر بسبب نقص التصريح أو اختلاف بيئة الإنتاج. يجب أن يظهر نطاق الأدلة وحدودها في أي استعراض سيادة مؤسسية، وأن يُشرح أثر كل استثناء أو اعتماد لم يتم التحقق منه. الشفافية هنا ليست تراجعاً عن الثقة، بل أساس لتحديد أين ينبغي استثمار المال والقدرات.
الخلاصة العملية
إذا أردنا بناء مؤسسة تستطيع الاعتماد على الذكاء الاصطناعي بصورة مستدامة، نحتاج إلى معرفة سلسلة المواد والتحديثات وحدود البيانات وسلطة الوكلاء والأدلة التي تثبت المنع والاستجابة. قد تستطيع المؤسسة إيقاف أداة كتابة دون إيقاف خدمة القراءة، أو تغيير مورد استدلال مع الحفاظ على قواعد تفويض مستقلة، أو مراجعة فهرس بيانات دون فقد تاريخ نتائج التقييم. هذه قدرات عملية يمكن اختبارها وتحسينها، وليست مفهوماً نظرياً خالصاً. ويظل لكل قرار سياق قطاعي وقانوني ونوع بيانات يجب مراجعته بوسائل مختصة. لا يعوض المصدر المنهجي وحده تلك القرارات، لكنه يساعد على بناء طريقة واضحة لجمع أدلة عليها.
المرجع والتفسير
يستند المقال إلى OWASP GenAI Red Teaming Manual v1.0، أكتوبر 2026، خصوصاً Phase 2 Supply Chain Reconnaissance وAI-BOM وArtifact Drift وSCA Blindness وPhase 3 Surface Mapping وPhase 8 Remediation. الربط بالسيادة الرقمية والمؤسسية رأي تحليلي مستقل من سيادة AI، ولا يمثل توصيفاً رسمياً تصدره OWASP أو إثباتاً بأن مورداً محدداً غير آمن. الأمثلة افتراضية وتعتمد على فحص مصرح به وبيانات آمنة، مع احترام حقوق المصدر CC BY-SA 4.0 عند الاشتقاق.