الضابط غير المختبر لا يعامل باعتباره فعالًا.
دليل بناء سجل مخاطر الذكاء الاصطناعي المصرفي
منهج العمل وحدود التصنيف
سجل مخاطر الذكاء الاصطناعي في البنك ليس إعادة تنسيق لقائمة من 42 اسمًا؛ هو سجل قرارات موثق يربط كل سيناريو بخدمة مصرفية وسبب فشل محدد وأثر محتمل ومالك وضابط ودليل. القائمة ذات المجالات الستة صالحة كبداية تحليلية وليست معيارًا رقابيًا مستقلًا ولا تغطي كل ما قد ينشأ عن الإقراض والمدفوعات والامتثال والاحتيال والتعامل مع العملاء. يجب أن تحدد المؤسسة نطاق الأنظمة القائمة أو المخطط لها، وتفصل المخاطر التشغيلية عن أخطاء جودة النتائج وعن التجاوز الفعلي للصلاحيات. يسجل النطاق حدود الاستنتاج: لا يمكن اعتبار عدم العثور على حادثة إثباتًا لغياب الخطر. ولا تعني كثرة الضوابط أن الإجراءات فعالة؛ قد يكون الضابط موجودًا على الورق وغير قادر على منع فعل مالي غير مصرح به.
جرد الأنظمة والاستخدامات
يبدأ الفريق بسجل أنظمة يشمل هوية التطبيق، وحالة الاستخدام، واسم العملية المصرفية، والجهة المالكة، ومصادر البيانات وتصنيف حساسيتها، ونموذج الذكاء الاصطناعي وإصداره، وطريقة الاستضافة، ومقدم الخدمة والجهات الفرعية، والواجهات والأدوات المتاحة، وحقوق الوصول، وعلاقات الاعتماد بالنظم الأخرى. يجب فصل الاستخدام الذي يعرض توصية على موظف عن استخدام ينفذ معاملة أو يحدث سجلًا؛ قد يشترك الاستخدامان في النموذج لكن يختلفان جذريًا في الأثر. تؤخذ معلومات الجرد من المشتريات والسجل التقني وإدارة التطبيقات والتغييرات ومراجعات الموردين، مع مسار لاستقبال إقرارات فرق الأعمال عن استخدامات غير مسجلة. لا تُعامل خاصية AI مدمجة في منتج سبق شراؤه بوصفها معتمدة تلقائيًا إذا أضيفت بعد التعاقد. تُوثق درجة الثقة في كل إدخال واسم الشخص الذي أكد صحته وتاريخ المراجعة.
بناء السيناريو وخريطة السبب
يحتاج كل إدخال إلى وصف يبين الظرف والضعف ومسار الحدث والأثر. مثال افتراضي: مساعد يراجع مستندات عميل يسترجع جزءًا من ملف غير مصرح به لأن فلاتر البحث لا تطبق صلاحيات المستخدم على مستوى المقطع؛ بعد ذلك يقدم المساعد مقتطفًا حساسًا في تقرير داخلي ظاهر لموظف آخر. السبب هنا ضعف التفويض في طبقة الاسترجاع، والحدث إفشاء المعلومات، والأثر انتهاك حدود الوصول وربما الالتزام بالخصوصية. لا نعالج المشكلة بمجرد إضافة تعليمات لغوية للنموذج تقول «لا تكشف معلومات سرية». مثال آخر: وكيل مخول بتجميع بيانات تنبيه امتثال يستطيع الوصول إلى أداة لإغلاق التنبيه؛ ينبغي توضيح كيف يحصل تجاوز التفويض وما نقطة الفشل التي تسمح بالتنفيذ. يجب ربط السيناريو بمصطلحات الخطر ذات العلاقة من غير تكراره كسجلات متباعدة.
الأثر والأولوية وعدم اليقين
يعرض تقييم الأثر احتمال تأثر العميل وسلامة الأموال وسرية البيانات وجودة القرار واستمرارية الخدمة والالتزامات التنظيمية والاعتماد على طرف ثالث. لا يُختزل ذلك في لون أو درجة واحدة تخفي خسارة نادرة لكنها غير قابلة للتراجع. الاحتمالية في الأنظمة الجديدة قد لا تكون قابلة للتقدير بدقة؛ هنا ينبغي استخدام مستويات وصفية محددة، مع بيان الأدلة والفرضيات وحدود الثقة. لا يصلح معدل الإجابات الخاطئة في اختبار للنموذج مؤشرًا مباشرًا على احتمال تحويل الإجابة إلى معاملة غير مأذون بها، لأن ضوابط التنفيذ يمكن أن تمنع الفعل. كما أن اجتياز عشرات الاختبارات لا يثبت غياب خطر غير مختبر. يحتاج كل ترتيب للأولوية إلى سبب واضح يتضمن تعرض النظام وصلاحياته والاعتمادية والقدرة على اكتشاف الإخفاق وإيقافه، وأي شروط إيقاف ملزمة لا يمكن تجاوزها بواسطة متوسط نقاط مرتفع.
ضوابط البيانات والنماذج
تعالج جودة البيانات بالتثبت من المصدر والنسب والتحديث والصلاحية والاتساق وحقوق المعالجة؛ أما تسميم البيانات فيتطلب البحث عن تعديل عدائي أو محتوى غير موثوق يصل إلى التدريب أو الاسترجاع أو سياق الوكيل. في أنظمة RAG يجب اختبار حدود الوصول إلى المستندات والمقاطع للمستخدمين والمجموعات والمستأجرين، وتوثيق آلية الفهرسة وإعادة الفهرسة وحذف البيانات وسجلات الاسترجاع عند الحاجة. بالنسبة للنماذج، يراجع الفريق الهلوسة والتحيز والانحراف والمتانة وقصور التفسير والاختبارات والمخرجات غير الموثوقة؛ مع فصل دقة النص عن سلامة القرار. تُحدد مجموعة حالات اختبار تشمل الاستثناءات وبيانات قديمة وطلبات ناقصة وأشكالًا غير مألوفة. تسجل نتائج التقييم بإصدار النموذج ووقت التنفيذ وقواعد القبول والمخالفات وما لم تتم تغطيته. لا يُعتبر توصيف النموذج بأنه موثوق أو قابل للتفسير دليلًا تشغيليًا ما لم يكن مرتبطًا باستخدام محدد.
ضوابط الوكلاء وأدوات التنفيذ
يحتاج الوكيل إلى وصف سلطة مستقل عن وصف المهمة: الهدف ومن منحه التفويض وهوية الحساب التقني والأدوات المصرح بها والحدود الزمنية والمالية وقواعد الموافقة والإلغاء ومراقبة التنفيذ. من أهم اختبارات القبول محاولة إجبار الوكيل على استخدام أداة غير مأذون بها من خلال مستند أو رسالة خارجية، ومحاولة إعادة تنفيذ إجراء بعد فشل اتصال، ومحاولة الانتقال من قراءة ملف إلى تعديله. يجب أن يفرض النظام تفويض الفعل عند واجهة الأداة لا اعتمادًا على أن الوكيل «يفهم» سياسة المؤسسة. تتطلب الذاكرة المستمرة ضبط حق الكتابة والمصدر وإمكان إبطال العناصر المسممة، وإلا امتد أثر إدخال خاطئ إلى جلسات لاحقة. من الأدلة المهمة سجل الطلب والتفويض وقرار السماح أو المنع ونتيجة التنفيذ مع هوية المستخدم أو الجهة المخولة، مع تجنب تسجيل بيانات حساسة لا حاجة لها.
الأمن والتبعيات الخارجية
تُراجع رموز الوصول وإدارة الأسرار وواجهات API وخوادم الأدوات ومكتبات التطبيق والموردين الفرعيين والتكاملات التي يستطيع النموذج أو الوكيل الوصول إليها. لا يجب تخزين مفاتيح الوصول داخل تعليمات النظام أو الرسائل المرسلة للنموذج، ولا اعتباره حارسًا يعوض طبقة التصريح. يختبر الفريق نطاق صلاحية الرمز، ومنع تسربه، وإمكان إلغائه ودورانه، والقيود على استدعاءات API والطلب غير المألوف. تُوثق سلسلة التوريد وحقوق المراجعة والإخطار عند تغير النموذج أو المصدر أو السياسة، وكذلك خطة الاستبدال أو التعافي عند تعطل طرف حرج. قد تؤثر جهة واحدة في عدد من الخدمات البنكية حتى لو كانت عقودها مختلفة؛ لهذا يجب تحديد التركز الفعلي للاعتماد وليس عدد الموردين فقط. تصنف أدلة المورد بين إفادة ذاتية ودليل مستقل ونتيجة اختبار فعلي.
التشغيل والاستمرارية والتراجع
تحدد حدود وقت الاستجابة والتكلفة والطلب، ومتى تُوقف السلسلة الآلية، وكيف يمكن استعادة الخدمة، وكيف يعاد بناء ما حدث أثناء الانقطاع. مثال حساس: يرسل الوكيل أمرًا لتحديث معاملة، ثم ينقطع رد الخادم؛ لا يجوز إعادة إرسال الأمر من دون آلية تحقق من النتيجة أو منع الازدواج. من المهم التفريق بين rollback لإعداد برمجي وبين تعويض تشغيلي عن إجراء خارجي لا يمكن محوه. يربط التتبع الهوية والطلب والاسترجاع والإصدار والأداة والموافقة والتنفيذ والنتيجة باستخدام معرفات مرجعية وتواريخ متسقة، دون نسخ بيانات سرية إلى مكان لا يملك صلاحيات مناسبة. تشمل الاختبارات انقطاع مزود وحيد، وارتفاع مفاجئ في الطلب، وتغير زمن النموذج، وتعطل خدمة مصادقة، وفساد مدخلات وسيطة. تسجل النتائج الوظائف التي استمرت والزمن الفعلي للتعافي والقيود التي ظهرت وليس فقط وجود خطة على الورق.
اختبارات الضوابط والأدلة
يفرق سجل الضابط بين التصميم والتطبيق والاختبار والفاعلية ضمن النطاق. تُحفظ لكل اختبار فرضيته وإصدار النظام والبيئة والبيانات الاصطناعية المستخدمة وما المتوقع حدوثه وما حدث فعليًا والمخالفة وحدود الاستنتاج والتاريخ والمسؤول عن التحقق. لا تكفي صورة إعداد لاعتبار حق الوصول مقيدًا ما لم يُختبر رفض عملية متجاوزة. كما لا تعني شهادة مورد أن نموذجًا مصرفيًا مدمجًا يعمل ضمن حدود تفويض البنك. تُربط الأدلة بالسيناريو وليس باسم المجال فحسب؛ قد يحتاج سيناريو كشف بيانات عبر RAG إلى اختبار صلاحيات استرجاع، ومراجعة سجلات وصول، وتقييم الاحتفاظ، وتوثيق معالجة حادث. يُعاد النظر في صلاحية الأدلة عند تغيير النموذج أو الأداة أو المصادر أو الصلاحيات أو ضوابط الشبكة. إذا غاب الدليل، تُسجل حالة عدم التحقق بصراحة، ولا يُخفض الخطر المتبقي استنادًا إلى نوايا الإدارة.
الحوكمة والقبول والاستثناءات
يسجل صاحب الخطر وسلطة القبول وصاحب الضابط ومن يختبره والجهة التي يحق لها إيقاف النظام. في المؤسسات المصرفية قد يختلف مالك عملية الإقراض عن مسؤول تشغيل النموذج وعن المدقق؛ لا يجوز دمج أدوارهم لتوفير خطوة شكلية إذا كان ذلك يمنع التحقق المستقل. الرقابة البشرية تتطلب وقتًا ومعلومات وسلطة حقيقية للاعتراض أو الإيقاف قبل وقوع الضرر، لا مجرد زر موافقة. يُوثق قبول الخطر المتبقي بالنطاق والسبب ومدة الاستثناء والضوابط التعويضية والمسؤول وتاريخ إعادة المراجعة. بعض الالتزامات القانونية أو حدود التفويض لا يجوز تجاوزها بقرار داخلي، حتى لو حصل المشروع على درجة مخاطر مقبولة. تتبع المؤسسة الاستخدامات غير المسجلة بآلية تمكن الموظفين من طلب الموافقة والإفصاح دون خلق حافز لإخفائها، مع احترام الخصوصية والإجراءات المحلية.
التحديث ومؤشرات النجاح
يرتبط السجل بإدارة التغييرات والشراء والعقود والامتثال والتدقيق والحوادث ومراقبة الأداء. أي تغيير مهم في إصدار النموذج أو الذاكرة أو صلاحية الأداة أو بيانات الاسترجاع أو المورد أو الاختصاص القانوني يمكن أن يستدعي إعادة تقييم السيناريو. لا يُعتَمد رقم 42 باعتباره مؤشر اكتمال؛ الأهم تغطية جميع الاستخدامات الحرجة ومعرفة مالكها واختبار ضوابطها وأدلتها. تشمل المؤشرات القابلة للتفسير نسبة الأنظمة الحرجة ذات مالك مسؤول، ونسبة الضوابط ذات اختبار حديث، ووقت اكتشاف الانحراف، ونسبة الاستثناءات المتأخرة، ونسبة مسارات الفعل التي يمكن إعادة بنائها. ينبغي توثيق المقام والفترة ومصدر البيانات وحدود كل مؤشر. تُستخدم الأطر المرجعية مثل NIST AI RMF وISO/IEC 42001 وISO/IEC 23894 وOWASP في المجالات المناسبة، مع فصل الممارسة الموصى بها عن أي التزام مصرفي محلي مثبت بنصه الرسمي.