السلامة بالتصميم للأطفال: كيف نربط العمر والنمو ودورة حياة الذكاء الاصطناعي؟

السلامة المناسبة للعمر والنمو تبدأ من التصميم

المشكلة تبدأ قبل ظهور الشاشة

عندما يختبر فريق المنتج نظام ذكاء اصطناعي في بيئة عامة، قد ينجح في مهام السؤال والجواب ويجتاز اختبارات المحتوى المحظور ثم يفشل لدى طفل يستخدمه بطريقة لا يتوقعها البالغون. ليس الطفل مستخدمًا صغير الحجم فحسب: قدرته على تقدير المخاطر وفهم الحدود والتعامل مع السلطة والتفرقة بين الإنسان والآلة تتطور، ويختلف سياقه اللغوي والأسري والتعليمي والاجتماعي. لذلك لا يمكن اختزال تصميم السلامة إلى تفعيل مرشح للمخرجات بعد انتهاء التطوير. الممارسة الأولى في ورقة المنتدى الاقتصادي العالمي لعام 2026 تدعو إلى تضمين السلامة المناسبة للعمر والنمو منذ بداية التصميم وتعديلها طوال دورة الحياة. معيار النجاح ليس وجود خيار Child Mode، بل أن يكون الاستخدام المسموح مناسبًا للقدرات والمخاطر الفعلية وأن يمكن إثبات ذلك باختبارات متكررة.

ما الذي يعنيه «آمن وممكّن»؟

تفرق الورقة بين حماية الطفل من الضرر وتمكينه من التعلم والمشاركة والاستفادة من الذكاء الاصطناعي. المنع الشامل قد يخفض تعرضًا معينًا للخطر لكنه يحرم الأطفال أيضًا من وسائل إتاحة أو مساعدة تعليمية يحتاجون إليها، وقد يدفع الاستخدام إلى قنوات أقل خضوعًا للضبط. بالمقابل، السماح غير المشروط ليس تمكينًا إذا أنتج اعتمادًا مفرطًا أو كشفًا للخصوصية أو استبدالًا للعلاقات الإنسانية. لهذا نحتاج في كل حالة إلى تحديد منفعة متوقعة محددة، وخطر متوقع محدد، والضابط المتناسب معهما، وآلية لقياس ما إذا كان الضابط نفسه خلق ضررًا جديدًا. هذا التفريق يمنع تحويل Safety by Design إلى غطاء دعائي لأي قرار حظر أو إطلاق.

تحديد نطاق التأثير قبل التقييم

أول خطوة تشغيلية هي رسم خريطة لاستخدام الأطفال: هل الخدمة موجهة إليهم صراحة؟ هل يُرجح وصولهم إليها وإن لم تكن موجهة؟ هل تعالج بيانات مرتبطة بأطفال حتى دون تفاعل مباشر معهم؟ هل يمكن أن تؤثر في قبولهم أو تقييمهم أو فرصهم أو سمعتهم أو سلامتهم؟ توصية الورقة بإجراء Child Rights Impact Assessment لا تتوقف عند التطبيقات المصنفة للأطفال، بل تشمل الأنظمة التي يُحتمل وصولهم إليها أو التي تعالج بيانات تخصهم أو تؤثر عليهم ماديًا. يجب توثيق الاستخدام المقصود والمتوقع، والسياقات التي تستبعدها المؤسسة، وطبيعة القدرة الوكيلية، والتبعيات الخارجية التي قد تنقل أثرًا غير مباشر. إذا لم تستطع المؤسسة تحديد مواضع تعرض الطفل، فلن تستطيع تبرير أنها اختبرت الضمانات المناسبة.

تقييم أثر حقوق الطفل بوابة قرار لا نموذج تعبئة

توصي الورقة بإتمام التقييم والموافقة عليه قبل الإصدار الأول، أو التغيير الجوهري، أو نشر النظام في سياق جديد مؤثر على الأطفال. تحويل هذا إلى ممارسة يعني وجود سجل قرار يربط وصف النظام والحقوق المتأثرة والسيناريوهات والمخاطر والضوابط والأدلة بالموافقة والمسؤولين. الأسئلة ليست فقط عن إخراج محتوى ضار: هل يتلاعب النظام باحتياجات المستخدم العاطفية؟ هل يجمع بيانات أكثر مما يلزم؟ هل يسمح بالانتقال من النصيحة إلى فعل خارجي؟ هل يصعب على الطفل فهم متى يحادث نموذجًا وما الذاكرة التي يحتفظ بها؟ هل توجد مسارات تصعيد وعلاج يستطيع الطفل الوصول إليها؟ يجب أن يكون التقييم قابلًا للتجديد عند تغيير النموذج أو سياسات الذاكرة أو واجهات الأدوات أو شريحة المستخدمين، لا شهادة صلاحية دائمة.

العمر ليس متغيرًا ثنائيًا

يمكن للتقسيم القانوني أن يحدد انطباق التزامات معينة، لكنه لا يقرر وحده أن تفاعلًا ما مناسب نمائيًا. طفل صغير ومراهق في بداياته وشخص يقترب من الثامنة عشرة قد يستخدمون ميزة واحدة بأهداف مختلفة وقدرات متفاوتة على إدراك المخاطرة. كما أن الأطفال من العمر نفسه يختلفون من حيث اللغة والإعاقة والخبرة والسياق والدعم المتاح. المطلوب تصميم حماية متدرجة حسب النطاق العمري والوظيفة والمخاطر والقدرة، لا إعدادًا عامًا ثابتًا لكل من هو دون سن قانونية معينة. وحين تكون نتيجة القرار عالية الأثر، تتقدم حدود الوظيفة ووجوب المراجعة على مجرد تقدير السن. وفي الحالات الأقل أثرًا ينبغي ألا نطلب معلومات هوية كاملة إذا كان يكفي إثبات أهلية أو نطاق عمر.

إشارات العمر وتقليل التدخل

تعامل الورقة Age Assurance كوسيلة لضبط تجربة المستخدم لا كضمان مطلق. يمكن استخدام إشارة عن الفئة العمرية أو الأهلية بدل تخزين وثيقة هوية مفصلة؛ ويجب اختيار مستوى اليقين المناسب للمخاطر مع اختبار الدقة والتحيز والأثر على الخصوصية وإتاحة آلية مراجعة. إذا أرادت المؤسسة رفع يقين العمر لميزة تتعامل مع تنفيذ معاملات أو تواصل مع غرباء، فعليها أن توثق سبب الحاجة ومستوى الخطأ المقبول ومسار الاعتراض. أما جمع وثائق حساسة لجميع المستخدمين للوصول إلى أداة قراءة منخفضة المخاطر فقد يكون غير متناسب. والإشارة العمرية ليست بديلًا عن مرشحات التفاعل، أو تصميم يحترم الطفل، أو إشراف إنساني، أو وسائل بلاغ.

الإعدادات الافتراضية والذاكرة والتخصيص

تحذر الورقة من الاعتماد على ضمانات يفعّلها الطفل أو مقدم الرعاية بعد الاستخدام. في الأنظمة التي يستخدمها الأطفال، ينبغي أن تكون الحماية مناسبة افتراضيًا وأن تُقيد الذاكرة والتخصيص بما يتناسب مع الوظيفة والتكيف الآمن. الذاكرة المستمرة ليست ميزة محايدة؛ فهي قد تحول المحادثة إلى تراكم من الاستدلالات الحساسة عن المزاج أو العلاقات أو التفضيلات أو الموقع. ولذلك ينبغي سؤال الفريق: ما أقل ذاكرة لازمة لوظيفة محددة؟ من يستطيع الاطلاع عليها أو مسحها؟ ما حدود استخدامها لاحقًا؟ وهل يفهم الطفل ومقدم الرعاية أثرها؟ تبرز هنا توصية الورقة بمنع أنماط الرفيق أو الشخصية المصممة لعلاقات الصداقة أو الرومانسية ضمن ضماناتها المقترحة للأطفال، لا بوصفها حظرًا تشريعيًا عالميًا ثابتًا.

التعامل مع الجلسات غير الموثقة

جزء شديد الأهمية من النص هو التوصية بمعاملة الجلسات التي لم يسجل مستخدمها الدخول أو لم تثبت هويته على أساس أنها قد تخص أطفالًا، بدل الافتراض أن غياب معلومة العمر يعني مستخدمًا بالغًا. عمليًا يعني ذلك أن التجربة المجهولة لا ينبغي أن ترث تلقائيًا إعدادات أكثر خطورة من التجربة التي جرى التحقق من عمرها. يمكن للمؤسسة أن تتيح وظائف منفعة عامة مع افتراضات حماية أشد، ثم تفتح مزايا إضافية وفق أهلية متناسبة مع المخاطرة. يجب تقييم أثر هذا الخيار على الخصوصية وحقوق الوصول، خصوصًا حين تكون آليات التحقق نفسها أقل دقة لبعض اللغات والفئات. ما لا يمكن قبوله هو ترك افتراض العمر ضمنيًا أو غير موثق.

التقييم التقني ينبغي أن يعكس دورة التفاعل

اختبارات سؤال واحد لا تكشف دائمًا المخاطر التي تتشكل عبر عشرات التبادلات. نظام محادثة قد يرفض طلبًا ضارًا مباشرة، ثم ينزلق تدريجيًا بفعل سياق سابق أو أسلوب صياغة مختلف أو ضغط عاطفي. لذلك تدعو الورقة إلى اختبار متحكم فيه باستخدام حالات متخصصة بحسب العمر والسياق وخبرة تنمية الطفل، وإلى قياس فعالية الضوابط ومعدلات الخطأ عبر الأعمار واللغات والإعاقات وأشكال سوء الاستخدام المتوقعة. يجب فصل نتائج False Negatives، أي تمرير حالة ضارة، عن False Positives التي تحجب استخدامًا مشروعًا. مؤشر نجاح واحد يخفي المقايضة بين الحماية والإتاحة، بينما سجل اختبارات متعدد الأبعاد يكشف أين تخفق الحماية ولدى من.

التغيير الجوهري يعيد فتح قرار السلامة

لا تنتهي مسؤولية التقييم بإطلاق الإصدار الأول. تغيّر مزود النموذج، أو نافذة السياق، أو سياسة الذاكرة، أو أدوات تنفيذ الأفعال، أو نظام التوصية، أو مجال الاستخدام التعليمي قد يجعل اختبارًا سابقًا غير صالح. على المؤسسة تحديد Material Change Criteria مسبقًا، مع مسؤول يملك سلطة وقف الإطلاق أو فرض إعادة تقييم. ويجب الاحتفاظ بربط واضح بين إصدار النموذج وإعدادات الضمان ونتائج الاختبار وقرار الإطلاق. من الخطأ اعتبار تحديث النموذج أمرًا تقنيًا داخليًا لا يحتاج مراجعة لمجرد أن الصفحة العامة أو العلامة التجارية لم تتغير.

المسؤولية تعبر سلسلة القيمة

قد يصمم مزود النموذج طبقة سلامة، وتعدلها شركة التطبيق، ثم تختار مؤسسة تعليمية سياق التشغيل، بينما يفرض متجر التطبيقات قواعد التوزيع. لذلك لا يكفي أن يوقع كل طرف على سياسة عامة. ينبغي توزيع واجبات الإبلاغ والتقييم والتصحيح على الجهات التي تملك القدرة العملية على التنفيذ، وتحديد متطلبات الأدلة وحقوق التدقيق والإخطار بالتغييرات الجوهرية في العقود. التقرير يوضح أن المسؤولية تختلف بحسب الدور والسيطرة عبر سلسلة القيمة؛ فلا يجوز نقل واجبات منع المخاطر التي تسيطر عليها المؤسسة إلى الطفل أو الأسرة أو المعلم. إن عجز الطرف المشغّل عن وقف وظيفة خطيرة أو معرفة من يستطيع وقفها، فلدينا فجوة حوكمة قبل وجود حادث.

معيار قبول مؤسسي قبل الشراء

يمكن للمدارس والجهات العامة استخدام المشتريات كبوابة مسبقة. لا يكفي طلب شهادة عامة؛ يجب أن يُطلب دليل متناسب على تقييم حقوق الطفل، ونتائج اختبار السلامة بحسب العمر والسياق، ومعدلات الخطأ، وآليات البلاغ والتصحيح، وحدود البيانات والتخصيص، وإشعارات التغيير والقدرة على الانسحاب. عندما يقدم المورد ادعاء «آمن للأطفال»، يجب تحويله إلى أسئلة قابلة للتحقق: آمن لأي فئات وفي أي حالات استخدام وبأي إصدار وبأي حدود؟ ومن اختبر ذلك؟ وما تاريخ نتائج الاختبار؟ يجب توثيق نقاط عدم اليقين بدل تقديم الصمت على أنه امتثال، مع إتاحة بدائل متناسبة للموردين الصغار حتى لا تتحول تكاليف التقييم إلى حاجز سوق غير مبرر.

التشغيل المستمر والإصلاح

حتى التصميم الجيد لا يمنع كل ضرر. لذلك تحتاج الخدمة إلى مراقبة بعد الإطلاق وتحديث الضمانات عندما تظهر أنماط جديدة أو تتغير قدرات النظام. ينبغي أن تكون قناة البلاغ مفهومة وسهلة للطفل، وأن يعرف صاحب القرار متى يحيل إلى إنسان، وكيف يحفظ الأدلة دون انتهاك الخصوصية، وكيف يتواصل مع من تضرر، وكيف يتحقق من أن السبب الجذري زال. غياب البلاغات ليس وحده دليل سلامة: قد يكون المستخدم غير قادر على الإبلاغ أو خائفًا من العواقب. القياس الأفضل يجمع اختبارات ما قبل النشر وفعالية الكشف وحالات المعالجة والتكرار والأثر على المستخدمين مع مراجعة مستقلة عند الحاجة.

اختبار تطبيقي: مساعد تعليمي متعدد الوسائط

تصور جهة تعليمية تشتري مساعدًا يستطيع شرح واجبات عبر صور وصوت، ويحفظ سجل أداء الطالب، ويستدعي أداة خارجية لإرسال ملخص أسبوعي. الخطر هنا لا يقتصر على إنتاج إجابة سيئة. قد تظهر استدلالات حساسة عن قدرات الطالب، وقد يعطي النظام انطباعًا بالسلطة المطلقة، وقد يتخذ أفعالًا في حساب خارجي دون حدود واضحة. مسار المراجعة المطلوب يبدأ بتحديد الأعمار والسياق، ثم فحص البيانات والذاكرة والإفصاح، وحدود الأداة الخارجية، والأشخاص المصرح لهم بتلقي الملخص، والتفاعل مع الطالب ذي اللغة الأقل تمثيلًا، ومسار التصحيح والتظلم. إذا لم توجد بيانات اختبار لكل هذه المسارات، يجب تسجيل الفجوات بوصفها شروط إطلاق أو قرارات خطر موثقة بدل ادعاء الجاهزية.

منهج سيادة التشغيلي المقترح

لتحويل الممارسة إلى حوكمة قابلة للتدقيق نقترح سلسلة وثائق مترابطة: تعريف حالة الاستخدام، وخريطة أصحاب المصلحة الأطفال المتأثرين، وتقييم حقوق الطفل، وتصنيف القدرة والاستقلالية، وسجل الضوابط والإعدادات الافتراضية، وبروتوكول اختبارات متعدد الأعمار واللغات، ومصفوفة المسؤولية التعاقدية، وسجل قرار الإطلاق، وخطة مراقبة الحوادث والإنصاف. هذه سلسلة تطبيقية تقترحها سيادة وليست قالبًا إلزاميًا منشورًا بالنص نفسه في وثيقة المنتدى. يجب أن تحيل كل وثيقة إلى أدلتها وإصدار النظام وصاحب الموافقة. إن فقدنا الوصلة بين الضابط والاختبار والقرار والمسؤول، أصبحت السياسة وصفًا للنية لا إثباتًا للسلامة.

متى نرفض الإطلاق؟

تحتاج المؤسسة إلى شروط رفض محددة قبل ظهور الضغط التجاري. أمثلة مهنية مقترحة: وظيفة عالية الأثر تخص الأطفال دون مسار تدخل بشري، غياب القدرة على وقف أفعال الوكيل أو إلغاء الصلاحيات، استخدام بيانات الأطفال لأغراض غير موثقة، عدم إمكانية التحقيق في حادث مع احترام الخصوصية، أو إخفاق جوهري متكرر في اختبارات السلامة دون خطة احتواء. هذه ليست قائمة تشريعية شاملة ولا قواعد رقمية رسمية من التقرير؛ إنها ترجمة تشغيلية لمنطق السلامة بالتصميم والتقييم والمراقبة. يمكن قبول أخطار متبقية أخرى بشروط، لكن قبولها يجب أن يكون معلنًا داخليًا ومسنودًا بدليل ومسؤولية وموعد مراجعة.

نتائج قابلة للقياس بدل عدد السياسات

المقياس النهائي لا ينبغي أن يكون عدد عناصر Checklist التي أكملها المورد. الأفضل النظر إلى تحقق المنفعة المقصودة من النظام، ونسبة الحالات الخطرة المكتشفة في الاختبار، والأخطاء على الفئات اللغوية والعمرية المختلفة، وزمن التدخل البشري، وتكرار أنماط الضرر، وإمكانية وصول الطفل لقنوات المعالجة، وأثر الضوابط على الوصول العادل للمنفعة. يجب أن تكون تعريفات المقاييس ومقاماتها وسياقها معلنة حتى لا تخفي المقارنات تحيزًا أو تغيرًا في حجم الاستخدام. هنا تتحول Child-Safe AI من وصف تسويقي إلى ادعاء محدد قابل للتفنيد وإعادة التقييم.

ملاحظات على الاستدلال والحدود

هذه المقالة تحليل تشغيلي أصلي مستند إلى الممارسة الأولى من ورقة المنتدى الاقتصادي العالمي، ولا تحول توصيات الورقة إلى قانون ملزم. تختلف الالتزامات القانونية باختلاف الولاية ونوع الجهة والبيانات والسياق، ولذلك يجب فحص قابلية التطبيق المحلي مستقلًا. كذلك لا توجد في الورقة قاعدة رقمية واحدة صالحة لكل عمر أو نسبة موحدة تكفل السلامة. قرارات العتبات وحدود الصلاحية والاختبار تحتاج Evidence محليًا وفنيًا وتربويًا. وكلما كان الدليل محدودًا زادت الحاجة إلى المراقبة وإعادة التقييم، لا إلى ثقة غير مبررة أو منع شامل غير متناسب.

المصدر المرجعي

World Economic Forum, Children’s Safety and Well-Being in the Age of AI: Best Practices and Incentives (September 2026), practice 2.1 and associated analysis. هذه قراءة تحريرية مستقلة ولا تمثل نصًا تشريعيًا أو معيارًا فنيًا ملزمًا.