لا تعتمد الموافقة على إعلان المورد؛ بل على أدلة تخص النظام والسياق والطفل والإصدار.
دليل الإشراف البشري والبلاغات والمعالجة في الذكاء الاصطناعي للأطفال
ما الذي يحلّه الدليل؟
الغرض من هذا الدليل هو ضمان تدخل إنساني حقيقي ومسار بلاغ وتصحيح آمن وفعال. لا يكفي أن تقدم المؤسسة إعلانًا بأنها تطبق مبادئ الذكاء الاصطناعي المسؤول؛ بل تحتاج إلى سلسلة إجراءات تقبل أدلة واضحة وتحدد من يملك القرار. يركز الدليل على الأنظمة التي يستخدمها الأطفال أو تُعالج فيها بيانات مرتبطة بهم أو قد تتأثر فرصهم وحقوقهم بنتائجها. وهو ترجمة تشغيلية من سيادة لمفاهيم وردت في ورقة المنتدى الاقتصادي العالمي حول سلامة ورفاه الأطفال، ولا يشكل معيارًا معتمدًا أو مشورة قانونية خاصة بولاية معينة. يجب أن يتغير التفصيل بحسب الوظيفة والسياق وشدة الخطر.
نطاق التطبيق وحدود الصلاحية
الخطوة الأولى هي حصر القرارات ذات الأثر الجوهري والأفعال التي يستطيع النظام تنفيذها، وقنوات البلاغ المتاحة للأطفال، والجهات التي تتلقى بيانات المستخدمين أو تمتلك قرارات التعليق والإيقاف. يجب تسجيل مزود النموذج والناشر وأي أدوات خارجية يمكن أن تنفذ أفعالًا، ومصدر المعلومات الذي يعتمد عليه القرار، وفترات الاحتفاظ بالبيانات. لا تقتصر الخريطة على الخدمة التي تحمل علامة المؤسسة؛ فقد يتغير سلوك النظام عندما يحدث المورد النموذج أو يغير إعدادات الذاكرة أو يضيف تكاملًا مع طرف ثالث. كل نطاق تقييم يذكر الإصدار وتاريخ الفحص والجغرافيا وسياق الاستخدام وحدود ما لم يُختبر، لأن عبارة «خضع للتقييم» بلا تلك الحدود قد تضلل صاحب القرار.
من المسؤول عن التنفيذ؟
يتطلب التنفيذ إشراك الجهة المشغلة وصاحب مخاطر السلامة وفريق الدعم ومختص حماية الطفل والخصوصية والمورد التقني. لا تعني المشاركة أن الجميع يملك حق الموافقة، بل يجب تعيين مالك تشغيل واحد ومسؤول قبول خطر له صلاحية القرار، مع توثيق رأي كل تخصص. ينبغي التمييز بين من يستطيع تعديل الضابط تقنيًا، ومن يستطيع رؤية الإخفاق، ومن يملك قرار تعليق الاستخدام، ومن يعالج شكوى المتضرر. إذا كان صاحب النظام يعتمد على مورد، يجب أن تكون هناك قناة إلزامية للحصول على معلومات الحوادث والتغيرات. توقيع عدة فرق دون تحديد صلاحياتها يصنع مساءلة ظاهرية ويزيد احتمال ضياع القرار بين الأطراف.
استقبال المعلومات الأساسية
يبدأ التقييم بطلب محفزات تصعيد موثقة، خريطة صلاحيات بشرية، سجل أفعال الوكلاء، مؤشرات حفظ أدلة متناسبة، سياسة سرية البلاغ، اتفاقيات مستوى الاستجابة مع الموردين، نتائج تدريبات واقعية. ينبغي فحص كفاية كل مستند للغرض المحدد؛ فلا يكفي أن يحتوي العنوان على كلمة Safety أو Privacy. على المراجع التأكد من وجود نسخة قابلة للتتبع وتاريخ إعداد وصاحب اعتماد ورابط إلى إصدار المنتج المعني. يمكن للمورد حماية أسراره بتقديم تقرير مستقل أو أدلة منقحة، لكن لا يجوز احتساب غياب الأدلة بوصفه نجاحًا. كل ادعاء لا يمكن اختباره يبقى غير مثبت، وتحدد المؤسسة إن كان ذلك يمنع الإطلاق أو يقبل بشروط محددة وفق مستوى الخطر.
المرحلة الأولى: تصور المنفعة والضرر
يكتب فريق العمل بيانًا من فقرتين: المنفعة المحددة المتوقعة من النظام للفئة المقصودة، ومجموعة الآثار السلبية المتوقعة على السلامة والخصوصية والتعلم والاستقلالية والكرامة والشمول. تُفحص آثار الأطفال الذين لا يستخدمون الأداة مباشرة، مثل من تُقيّم طلباتهم بواسطتها أو تظهر بياناتهم في محادثات الآخرين. ثم يتم ترتيب السيناريوهات بحسب الخطورة والاحتمال والقدرة على الاكتشاف وإمكان التراجع عن الأثر. لا تعتمد المؤسسة على تصنيف عام مثل «منخفض المخاطر» دون بيان المعايير التي أُجري التصنيف بها والافتراضات الناقصة.
المرحلة الثانية: خريطة البيانات والسلطة
ترسم خريطة للمدخلات والمخرجات والاستدلالات والذاكرة والأدوات وربطها بالأدوار والجهات. إذا استطاع النظام إرسال رسالة أو تغيير سجل أو مشاركة بيانات، توثق المؤسسة نطاق التفويض والقيود الزمنية والأفعال التي تتطلب موافقة بشرية. تُفحص البيانات المتعلقة بالأطفال من حيث الغرض والتقليل والاحتفاظ والحذف والإفصاح، وتتبع الخصائص التي قد توهم الطفل بعلاقة إنسانية أو سرية مطلقة. الهدف ليس تجميع جداول شكلية؛ بل تحديد أين توجد قدرة حقيقية على منع الضرر أو إيقافه وعند أي طرف تقع.
المرحلة الثالثة: بناء حالات الاختبار
يتضمن الاختبار حالات استخدام مشروعة وأخرى متوقعة لسوء الاستخدام، وسيناريوهات متعددة التبادلات واختلاف اللغات والأعمار والقدرات والاتصال. توضع حدود قبول واضحة تبعًا للمخاطر: ما الحالات الجسيمة التي لا يمكن تجاوزها؟ وما الانحرافات التي تقبل مؤقتًا بشروط؟ يجب فصل عدم الكشف عن الضرر من الحجب المفرط للمنفعة المشروعة، وتوثيق طريقة انتقاء العينة والقيود الإحصائية. إذا لم تكن لدى الجهة موارد اختبار كافية، يمكن استخدام اختبارات مشتركة أو مراجعة مستقلة، لكن لا ينبغي الادعاء بيقين لا تؤيده الأدلة.
المرحلة الرابعة: مراجعة الأدلة
يُفحص تماسك الوثائق مع السلوك الفعلي لا مجرد اكتمالها. هل اختبرت نسخة النموذج المنشورة فعلًا؟ هل تختبر الشركة سيناريوهات مناسبة للفئة العمرية؟ هل يستطيع المراجع إعادة إنتاج مثال إخفاق معروف؟ هل يختلف الأداء عند تغيير اللغة؟ هل يوجد حفظ للأدلة يتوافق مع قواعد الخصوصية؟ وهل ربط الفريق الاختبار بالضابط والمالك وصاحب صلاحية الإيقاف؟ دون هذا الربط تكون وثيقة النتيجة وصفًا للنية، وقد تسقط صلاحيتها بالكامل بعد تحديث النموذج أو نقل الخدمة إلى مدرسة أو ولاية أخرى.
المرحلة الخامسة: قرار الإطلاق أو التقييد
رفض قرار آلي ذي أثر جوهري بلا مراجع بشري يملك سلطة تغيير النتيجة؛ تعليق أي فعل لا يمكن إلغاؤه أو التحقيق فيه أو السيطرة على صلاحياته. يجب أن ينتج عن المراجعة قرار صريح: مناسب للنطاق المختبر، أو مناسب بشروط موثقة، أو غير مناسب حتى معالجة الفجوة، أو أساس غير كافٍ لاتخاذ القرار. لا ينبغي تبني هذا التصنيف على أنه تصنيف صادر رسميًا من ورقة المنتدى؛ بل هو نظام قرار تقترحه سيادة لتحويل الممارسات إلى إجراءات حوكمة. تسجل الشروط والمسؤول والمهلة والأدلة المطلوبة لإغلاقها، ويُمنع أن يصبح الضغط التجاري سببًا ضمنيًا لتجاوز شرط سلامة جوهري دون موافقة معتمدة ومسؤولية واضحة.
تطبيق على حالة واقعية من حيث النوع لا الحدوث
وكيل مدرسي يوصي بحرمان طالب من مسابقة ثم يرسل إخطارًا آليًا اعتمادًا على ملف لا تتضح دقته. نعامل هذا المثال بوصفه حالة افتراضية للتقييم وليس حادثة واقعية موثقة. يبدأ الفريق بمخطط الوظائف والبيانات والأطفال المتأثرين، ثم يسأل عن صاحب القرار البشري عند حدوث خطأ، وكيف تُختبر فروق اللغة والعمر، وما حدود الاحتفاظ بالبيانات والذاكرة، وما الذي يحدث إذا غيّر المورد النظام. بعد ذلك تُنفذ تجارب قبول محددة مع مراجعة الأدلة، ويتم رفض الافتراض بأن توقيع العقد أو اعتماد مزود عالمي يعفي الجهة المشغلة من مسؤوليتها عن سياق التطبيق الذي اختارته.
ضوابط خاصة بالأنظمة الوكيلية
عندما يستطيع AI استخدام أدوات أو خدمات خارجية، يجب تصميم صلاحيات مرتبطة بالمهمة والزمن وبحدود كمية ونوعية، وتحديد الأفعال التي تتطلب موافقة مسؤول أو طفل بحسب الملاءمة القانونية والعمرية. تختبر آليات إلغاء التفويض والإيقاف وسجلات الأفعال، ومنع الوكيل من توسيع سلطته بنفسه. المخاطر لا تأتي من قدرة النموذج وحدها، بل من السياق والسلطة التي تمنحها المؤسسة له. قد تكون إجابة تعليمية منخفضة الأثر، بينما إرسال معلومات طفل إلى طرف خارجي أو تغيير سجل دراسي فعلًا غير قابل للتراجع بسهولة ويتطلب ضمانات أعلى.
التعاقد مع الموردين
يحول فريق الشراء نتائج التقييم إلى اشتراطات واضحة للإفصاح عن التغييرات الجوهرية، وتقديم أدلة السلامة، والإبلاغ عن الحوادث، وحقوق المراجعة، ووقف الوظائف، والحذف أو النقل، والاستجابة ضمن مدد متناسبة. يجب تحديد من يستطيع توفير المعالجة للطفل أو الأسرة حتى عندما يقع السبب التقني لدى مزود آخر. الشرط التعاقدي الذي يتحدث عن «مسؤولية المورد الكاملة» دون آلية تعاون وتحقيق لا يوفر قدرة تشغيلية كافية. ومن المهم ألا تضع المؤسسة اشتراطات لا يمكن لمورد صغير توفير أدلتها بوسائل متناسبة ثم تترك السوق لمزودين أكبر دون مقارنة للنتائج.
الرصد بعد الإطلاق
تُراجع الحوادث والبلاغات والفروق في اختبارات الأعمار واللغات، وتُجدد صلاحية القرار بعد التغيرات الجوهرية. يجب تسجيل تاريخ كل تغيير، وصاحب الموافقة، وهل أثّر في الذاكرة أو بيانات الطفل أو أدوات العمل أو نمط التفاعل. يمكن أن تؤدي زيادة البلاغات إلى تحسن اكتشاف الضرر، لا إلى تدهور تلقائي في السلامة، ولذلك تُقرأ المؤشرات مع بيانات الاختبار ومعدلات الاستخدام ونتائج المعالجة. يتضمن التشغيل مراجعة للآثار غير المقصودة للضوابط نفسها، حتى لا يؤدي الحل إلى حجب متعلم أو تعريض خصوصيته للخطر.
علاج الضرر والتعلم المؤسسي
إذا وقع الضرر، ينبغي أن يكون لدى الطفل قناة معروفة وسهلة ومناسبة للعمر، تعترف باستلام البلاغ وتشرح الإجراءات وتتيح مراجعة بشرية حقيقية. تُحفظ الأدلة الضرورية بما يحترم الخصوصية، وتحدد السلطة القادرة على تعليق الفعل أو تصحيحه. لا تنتهي الحادثة عند الرد على صاحب الشكوى؛ بل تتضمن تحليل السبب الجذري وتحديد إن كان الخلل في التصميم أو المورد أو الإعداد أو الإشراف، ثم إعادة اختبار الضابط. وإذا ظهرت آثار متكررة، يجب فتح قرار إطلاق جديد بدل الاستمرار في توثيق بلاغات لا تغير المنتج.
حزمة التسليم النهائية
المخرجات المطلوبة من تنفيذ الدليل هي مصفوفة تدخل وتصعيد، سجل حوادث، مسار اعتراض سهل ومقاييس زمن الاستجابة وتصحيح الأسباب الجذرية. ويجب أن يحتوي كل مخرج على مرجع للمصدر والإصدار والمالك وتاريخ التحديث والقيود وعدم اليقين وقرار الموافقة أو الرفض. لا نوصي ببناء مكتبة ملفات منفصلة لا تربطها علاقات؛ بل سجل أدلة واحد يمكن الانتقال منه إلى حالة الاستخدام والمخاطر والضابط والاختبار والقرار والمراجعة. عند طلب تدقيق مستقل، ينبغي أن يستطيع المراجع إعادة بناء سلسلة القرار دون الاعتماد على تصريحات شفوية أو معرفة شخصية لدى الموظفين.
اختبار جودة الدليل
يعد الدليل ضعيفًا إذا لم يستطع شخص مستقل تطبيقه على نظام محدد والخروج بقرار مبرر. نختبر ذلك بأن نعطيه حالة الاستخدام والإصدار والبيانات المتاحة ثم نرى إن استطاع تحديد فجوات الأدلة ومن يملك الإجراء المطلوب. ينبغي ألا تتساوى حالات عدم توفر الدليل مع حالات اجتياز الاختبار، وألا يختلط الامتثال القانوني بالممارسة الموصى بها. إن كانت هناك قيود في جمع معلومات حساسة عن الأطفال، يجب أن تعالجها طريقة تقييم تحترم حقوقهم لا أن تتجاوزها بحجة التدقيق.
تحديد حدود المصدر
الورقة المرجعية للمنتدى الاقتصادي العالمي تضع خط أساس عالميًا للممارسات والحوافز وليست معيارًا تقنيًا نهائيًا ولا قانونًا ملزمًا. أما تسلسل المراحل وسجل القرارات ومعايير تصنيف الحالة والمخرجات التفصيلية هنا فهي نموذج مقترح من سيادة لبناء ممارسة مهنية قابلة للفحص. يحتاج التطبيق في مؤسسة حقيقية إلى مراجعة محلية للقوانين والسن والالتزامات القطاعية والاختصاصات المهنية، خصوصًا في معالجة الإفصاحات الحساسة عن الأطفال والاحتفاظ بالأدلة وإحالة الحالات إلى الجهات المختصة.
المرجع
World Economic Forum, Children’s Safety and Well-Being in the Age of AI: Best Practices and Incentives, September 2026. تطبيقات سيادة الواردة هنا مستقلة عن النص الأصلي.
ملحق متخصص: اختبار Human Oversight لا شكليته
شروط الإنسان المسؤول
لكل قرار ذي عواقب على الطفل حدد شخصًا أو دورًا يملك حق رفض توصية النظام وتغييرها، ومعرفة الأدلة التي استندت إليها، وطلب اختبار إضافي، ووقف الإجراء أو عكسه حيث أمكن. مراجعة يضغط فيها الموظف على زر موافقة دون رؤية السياق ليست إشرافًا فعالًا. أجرِ تمرينًا يقدم فيه النظام توصية خاطئة ظاهرها مقنع، ثم تحقق هل يستطيع المراجع اكتشافها والاعتراض عليها، وهل يسجل النظام سبب التعديل ونتيجته. يجب أن تتناسب إجراءات المراجعة مع المهارات والتدريب وحجم الحالات دون إغراق بشري يجعل الإشراف آليًا بدوره.
بروتوكول الإبلاغ والمعالجة
تبدأ رحلة البلاغ من نقطة التفاعل نفسها حيث يمكن للطفل أو مقدم الرعاية التعبير بلغة مفهومة، ثم يتلقى تأكيد استلام وخطوات لاحقة متناسبة مع مستوى الخطر. يحدد البروتوكول قنوات الحالات العاجلة والموظف المؤهل والخصوصية والإحالة للدعم المختص عند الحاجة. لا يجوز إغلاق البلاغ لأن المورد لا يرد أو لأن مصدر الخطأ في نموذج خارجي؛ تقع على الجهة التي تسيطر على قرار الاستخدام مسؤولية التنسيق مع الأطراف الأخرى وتوفير مسار معقول للمعالجة. يجب أن يعرف المتضرر ما الذي يمكن تصحيحه وحقه في مراجعة القرار.
الأفعال الوكيلية والرجوع عنها
إذا كانت الخدمة تنفذ أفعالًا مثل إرسال تقرير أو تعديل سجل أو مشاركة بيانات، اختبر في بيئة آمنة سلطة الإيقاف الفوري وإلغاء رموز التفويض ومنع الوكيل من توسيع الصلاحيات. سجل ما إذا كان الفعل قد حدث قبل وصول الإنسان، وما إذا كانت هناك خطوة تأكيد قبل الفعل ذي الأثر الذي يصعب الرجوع عنه. بعد أي إخفاق، اربط سجل الفعل بإصدار النموذج والإعدادات وصاحب القرار والسبب الجذري؛ ثم أعد الاختبار وتحقق من أن المعالجة خفضت الخطر ولم تنشئ ضررًا إضافيًا.