صحة الإجابة لا تعني سلامة تنفيذ الإجراء المصرفي.
دليل حوكمة وكلاء الذكاء الاصطناعي في العمليات المصرفية
حدود الاستخدام المصرفي
هذا الدليل متخصص في الوكلاء الذين يساعدون العمليات المصرفية أو يتعاملون مع أنظمة يمكن أن تحدث تغييرات فيها. ليس كل نظام محادثة وكيلًا تنفيذيًا، ولا يكتسب الوكيل سلطة بمجرد قدرته على اقتراح فعل. يجب التمييز بين البحث والتلخيص والتوصية وتهيئة المعاملة وتنفيذها. كل انتقال بين هذه الوظائف يغير ملف المخاطر والضوابط المطلوبة. لا يُعد الوكيل المخول بقراءة معلومات حساب مفوضًا بتحويل الأموال أو تعديل حد ائتماني أو إغلاق تنبيه امتثال. يحدد مالك العملية الحد الأقصى للسلطة وفق المخاطر والالتزامات الفعلية، ويعرضه على الجهات المختصة قبل التشغيل، مع التحقق من الأذونات التقنية وليس نص المهمة اللغوي فقط.
سلسلة التفويض والهوية
يجب توثيق من منح التفويض، ولأي هدف ولمن، ومدة صلاحيته، والحدود التي لا يجوز تجاوزها. ترتبط هوية الوكيل بحساب خدمة أو هوية عمل واضحة يمكن تمييزها عن الموظف والمستخدم النهائي. يجب عدم تشغيل جميع الوكلاء بصلاحية مشتركة واسعة تعجز السجلات عن نسبة الأفعال إليها. تسجل العلاقة بين طلب المستخدم وفعل الوكيل والأداة المستخدمة وهوية التنفيذ ورقم المعاملة وأثرها. إذا انتهت صلاحية الموظف أو تغير دوره، ينبغي أن تتوقف أو تتغير قدرة الوكيل التي استمدها منه حيث ينطبق ذلك. لا يكفي أن تقول سجلات المحادثة إن الوكيل تصرف نيابة عن شخص؛ المطلوب إثبات تقني على مستوى المصادقة والتفويض الفعلي عند نظام العمل.
حدود الأدوات والواجهات
تصنف كل أداة يستطيع الوكيل استدعاءها بحسب ما تقرأه أو تعدله أو ترسله أو توافق عليه وما إذا كان فعلها قابلًا للتراجع. تفرض الواجهة حدودًا على نوع السجلات والحقول والعمليات والأعداد والمبالغ والأوقات، ولا تترك القرار لنموذج لغوي حر. يجب التمييز بين استدعاء أداة إعداد مسودة وبين استدعاء أداة نشر أو اعتماد أو إغلاق أو إرسال أمر دفع. يوصى باستخدام واجهات محدودة الوظيفة لا APIs إدارية شاملة حين لا يلزم ذلك. عند إضافة أداة جديدة تتغير قدرة الوكيل فعليًا حتى إن لم يتغير نص System Prompt؛ لذلك يجب ربط التغيير بمراجعة المخاطر والصلاحيات والتقييم. ويتوجب اختبار ماذا يحدث لو حاول الوكيل استخدام الأداة بوصف مختلف عن الغرض الذي أنشئت من أجله.
الحقن واختطاف الهدف
قد تدخل التعليمات العدائية من مستند عميل أو بريد أو نتيجة بحث أو سجل مسترجع أو رسالة من وكيل آخر. لا تتحول هذه المواد إلى مصدر سياسة أو تفويض بسبب ظهورها داخل سياق النموذج. مثال تعليمي: تصل وثيقة تجارية تتضمن نصًا موجَّهًا للمساعد يأمر بإرسال ملف ائتماني إلى عنوان غير مصرح به؛ يجب أن تمنع طبقة الصلاحيات إرسال الملف حتى لو حاول النموذج طاعة النص. تعتمد الحماية على الفصل بين التعليمات الموثوقة والمحتوى الخارجي، والتقليل من السلطة، والتحقق من معايير استدعاء الأدوات، واختبار سيناريوهات الاستغلال متعددة الخطوات. مجرد وضع تحذير للنموذج «تجاهل الحقن» ليس دليلًا كافيًا لأن المحتوى العدائي قد يتخذ شكلًا مقنعًا أو يمر من واجهة أخرى. تسجل نتائج الاختبارات المحاولات المرفوضة والأفعال التي نُفذت وأسباب السماح.
الذاكرة وحالة الوكيل
تخلق الذاكرة المستمرة نوعًا من المخاطر يختلف عن طلب المحادثة الواحد. قد يكتب مستخدم أو مصدر غير موثوق ملاحظة خاطئة تُعاد قراءتها في جلسات لاحقة ويتعامل معها الوكيل بوصفها حقيقة. يجب تحديد ما يجوز تخزينه ومدة الاحتفاظ ومصدر المعلومة ومن يستطيع تعديلها أو حذفها، وكيف يراجع الوكيل حداثتها قبل استخدامها في قرار حساس. ينبغي أن تتمكن المؤسسة من عزل ذاكرة ملوثة وإعادة تقييم معاملات تأثرت بها من دون محو سجلات الأدلة المطلوبة. في استخدام مكافحة الاحتيال، لا يجوز تحويل وصف سابق لعميل إلى حقيقة دائمة من غير صلاحية ومصدر قابل للتدقيق. تتطلب اختبارات الذاكرة تسلسل جلسات وتغييرات لا مجرد Prompt آني.
الأفعال المالية الحساسة
تحتاج المعاملات المؤثرة في الأموال أو الحقوق أو حالة الامتثال إلى سياسة أكثر صرامة من استرجاع المعلومات. تشمل الضوابط الفصل بين إنشاء الطلب واعتماده، والتحقق من حدود المبلغ والمستفيد، ومراجعة الاستثناءات، وربط الإجراء بملف العميل الصحيح، ومنع تنفيذ الأوامر المتكررة بعد انقطاع الاتصال. ينبغي ألا يعتبر الوكيل عرض موافقة بشرية بعد تنفيذ المعاملة إجراء رقابيًا حقيقيًا. عند تصميم موافقة بشرية، يجب أن تعرض التفاصيل الجوهرية التي تسمح باكتشاف الخطأ وتمكين رفض الإجراء قبل تنفيذه. إذا تعذر وقف معاملة بعد نقطة محددة، يجب تعريف تلك النقطة ووضع شروط صارمة قبل تجاوزها. لا يبرر ارتفاع دقة النموذج التخلي عن ضوابط سلامة الأموال أو حدود التفويض.
الفشل المتسلسل وتبادل الوكلاء
قد توزع الخدمة مهمة مصرفية بين وكلاء للتحليل والاسترجاع والتقييم والتنفيذ. إن الخطأ الذي ينشأ عند وكيل مبكر قد ينتقل إلى بقية السلسلة على هيئة ملخص يبدو موثوقًا. لذلك يحتاج التسليم بين الوكلاء إلى وصف مصدر البيانات ومستوى الثقة ونطاق المهمة والقرارات التي لم تعتمد بعد. ينبغي رفض أي رسالة من وكيل آخر تحاول توسيع صلاحيات المستقبل أو فرض تعليمات خارج النطاق. تربط سجلات التنفيذ جميع الخطوات بمعرف متابعة وتحدد صاحب القرار عند كل انتقال. تُختبر سيناريوهات فشل أحد الوكلاء، والتأخر، والتعارض بين النتائج، وفقدان موافقة بشرية، وإعادة تشغيل خطوة بعد انقطاع. ليس المقصود جمع سجل نصي ضخم، بل بناء أثر يسهل إعادة فحصه من دون كشف محتوى سري غير لازم.
الإشراف البشري الفعال
الرقابة البشرية ليست شكلًا إداريًا ولا معيارًا بسيطًا بعدد الضغطات على زر الموافقة. يحتاج الموظف إلى القدرة والوقت والمعلومات الضرورية لفهم ما يقترحه الوكيل ولماذا، وماذا سيحدث لو اعتمد الفعل، وما البيانات التي لم يتحقق منها النظام. يجب أن يملك المراجع سلطة رفض أو تعديل أو إيقاف التنفيذ قبل نقطة لا يمكن التراجع عنها. تُراقب جودة القرارات ومعدلات التعديل والاعتراض والتصعيد وتحديات ضغط العمل وتحيز الأتمتة. إذا كان الموظف مطالبًا بالموافقة على أعداد كبيرة من الإجراءات في ثوانٍ دون سياق، فهذا مؤشر ضعف في تصميم الضابط حتى لو بقيت خانة «Human in the Loop» مفعلة. تعالج المؤسسة المخاطر عبر تقليل حجم القرارات الحساسة التي تمر تلقائيًا وتطوير قواعد مراجعة قائمة على السياق.
آليات الإيقاف والتعافي
ينبغي تعريف كيف يمكن إيقاف الوكيل على مستوى الجلسة والأداة والحساب والعملية، وما الذي يحدث للاستدعاءات الجارية عند طلب الإيقاف. لا يضمن زر واجهة المستخدم إبطال المعاملة إذا كانت قد وصلت إلى خدمة خارجية. تحتاج المؤسسة إلى حالات تشغيل واضحة: نشط، محدود، موقوف مؤقتًا، ملغى التفويض، قيد التحقيق، مع سجلات تبين من انتقل بين الحالات ولماذا. تُختبر حدود الإيقاف عمليًا وفق أنواع الأفعال. التراجع التقني عن تحديث محلي ليس دائمًا ممكنًا بعد إرسال تعليمات مالية؛ لذا يلزم التمييز بين إبطال الفعل وتعويضه أو تصعيده. يجب أن تشمل اختبارات التعافي فشل المورد وانقطاع التوثيق وتكرار محاولات API ومحاولة الوكيل الاستمرار باستخدام بيانات اعتماد قديمة.
الأدلة والتدقيق
تحتاج الإدارة إلى دليل يربط هدف المهمة والتفويض وهوية الوكيل وأداة التنفيذ والمعاملة والموافقات والنتائج. ليست كل محادثة دليلًا كافيًا؛ فقد يغيب عنها الحكم الأمني الصادر من أداة التنفيذ أو حالة نظام الأموال بعد الاستدعاء. يتضمن سجل الدليل تاريخ الاختبار وإصدار الأدوات والنموذج وسيناريو الرفض ونتيجة المنع والاستثناءات وحدود إعادة التنفيذ. يجب تخزين الأدلة الحساسة في مساحة مصرح لها لا ضمن صفحة معرفية عامة. تختبر المراجعة قدرة البنك على إعادة بناء سلسلة حدث محدد: من طلب الفعل؟ ما السياق المعتبر؟ أي صلاحية استخدمت؟ هل مُنع أو سُمح؟ هل حدث تغيير فعلي؟ هل كان هناك تدخل بشري؟ إذا تعذر إثبات أي حلقة جوهرية، تُسجل فجوة تتبع محددة ولا يعالج الأمر بإضافة سياسة وصفية.
الجاهزية للإطلاق وإعادة التقييم
لا يعتمد البنك تشغيل وكيل عالي الأثر بمجرد نجاح عرض تجريبي. يتطلب الإطلاق جردًا محدّثًا، وحدود سلطة موثقة ومطبقة في الأدوات، واختبارات سلوك خصومي مناسبة، وخطة رصد، ومسار إيقاف وتعافٍ، وتحديد أصحاب المسؤوليات والمخاطر المتبقية. تُعاد المراجعة عند إضافة أداة أو تغيير مزود أو نموذج أو ذاكرة أو نطاق بيانات أو تفويض. تراجع المتطلبات التنظيمية المحلية من نصوصها الرسمية قبل وصف أي ضابط بأنه إلزامي لكل بنك. تُستخدم المراجع الفنية مثل OWASP Agentic Applications وNIST AI RMF للاستئناس والتحليل بحسب مجالها، ولا يُفترض أنها تعادل موافقة بنك مركزي. النجاح هو قدرة المؤسسة على منع الفعل غير المصرح به وإثبات ذلك، لا مجرد وجود خطاب أن النظام يعمل بأمان.