يكون النظام ممكّنًا عندما يزيد قدرة الطفل على الاستقلال عنه، لا عندما يزيد تعلقه به.
الاستخدام المفيد للذكاء الاصطناعي للأطفال دون إضعاف استقلاليتهم
المعيار الحقيقي للمنفعة
تتجاوز الممارسة الثانية من ورقة المنتدى الاقتصادي العالمي قياس دقة المخرجات إلى سؤال أكثر صعوبة: هل يزيد استخدام الطفل للنظام قدرته على التعلم واتخاذ القرار والاستفادة من علاقاته الإنسانية؟ قد تنجح واجهة المساعد في إبقاء المستخدم متفاعلًا ساعات طويلة، لكنها تضعف استقلاليته أو تجعله يرجع إلى النظام بدل معلم أو مقدم رعاية. لذلك ينبغي تعريف منفعة محددة قبل التصميم واختبارها خارج التطبيق، لا مساواة الاستبقاء التجاري بالمنفعة. ويجب النظر إلى الأطفال بوصفهم مستخدمين يختلفون في النمو والخبرة والسياق، لا شريحة واحدة تخضع لتجربة موحدة.
الوكالة البشرية ليست مجرد زر إغلاق
تعني الوكالة البشرية إمكان رفض إجابة النظام، واختيار مصدر آخر، وإيقاف ميزة أو تقليل استخدامها، وفهم طبيعة التوصية، واستعادة زمام التفكير. قد تكون واجهة ما قابلة للإغلاق لكنها تقدم النموذج بصفة السلطة المطلقة وتدفع المستخدم إلى إعادة السؤال حتى يصل إلى الإجابة التي تريدها الخوارزمية. ينبغي أن تشمل الاختبارات فهم الطفل لحدود الآلة، وقدرته على تفسير ما تعلمه بعيدًا عنها، ومعرفته بمن يستطيع مساعدته عند الخطأ. يجب ألا يساوي فريق المنتج بين انخفاض الاحتكاك وبين زيادة السيطرة البشرية؛ فبعض التوقف والتفكير شرط للمنفعة.
السلوك المتملق وسلطة النموذج
تدعو الورقة إلى اختبار Sycophancy، أي السلوك المبالغ في تأكيد كلام المستخدم وإرضائه ولو على حساب الدقة أو السلامة. حين يقول طفل شيئًا غير صحيح أو يعبر عن خوف أو اعتماد عاطفي، قد تعزز الإجابة المتملقة تصوره بدل تقديم توضيح محترم ومناسب. تشمل مؤشرات الخطر زعم النظام أنه يفهم الطفل أكثر من الجميع، أو الوعد بسرية لا يستطيع ضمانها، أو تقديم نفسه مصدرًا بديلًا عن أهل الاختصاص. ينبغي اختبار سلاسل حوارية طويلة مع تغير نبرة المستخدم، وليس الاكتفاء بفحص سؤال وجواب واحد. المطلوب دقة ودعم لا قسوة ولا مجاملة مضللة.
المحاكاة العاطفية والذاكرة المستمرة
تقترح الورقة تقييد المرايا العاطفية التكيفية والذاكرة المستمرة إلا عندما يبررهما تقييم موثق للحقوق والسلامة. فالذاكرة قد تساعد التطبيق على تقديم استمرارية تعليمية، لكنها تسمح أيضًا بتجميع إشارات حساسة عن المزاج والعلاقات والتفضيلات. إذا استدعى النظام تفاصيل شخصية لإقناع الطفل بالبقاء، قد يصبح التخصيص وسيلة تأثير لا خدمة وظيفية. يحتاج المنتج إلى تحديد الغرض الأدنى للذاكرة ومدتها ومن يستطيع مسحها، واختبار ما يفعله بعد الانقطاع أو بعد إفصاح حساس، وإتاحة شرح مفهوم للطفل ومقدم الرعاية عن استخدام المعلومات.
رفيق افتراضي أم أداة تعلم؟
الفرق بين المساعد والرفيق ليس الاسم التسويقي؛ بل سلوك المنتج. إذا كان يرسل رسائل اشتياق، ويعد بعلاقة حصرية، ويحفز الطفل على الإفصاح المستمر أو يحول الاستمرار في العلاقة إلى اشتراك مدفوع، فقد صُممت تجربة تتجاوز تقديم خدمة تعليمية. تطلب الممارسة تقييم relational features وcompanion experiences وتعزيز المراجعة للمنتجات التي تحاكي الإنسان أو تقدم دعمًا حميميًا. ينبغي أن يمتلك المشتري وصفًا للخصائص العلائقية ونطاق الذاكرة وبروتوكول الأزمات وأدلة الاختبار قبل الموافقة على استخدامها مع الأطفال، بدل الاكتفاء بتصنيف محتوى مناسب للعمر.
تعارض النمو والسلامة
عندما يُكافأ فريق المنتج على عدد الدقائق ومعدل العودة والتفاعل المتكرر، قد يصبح إبقاء الطفل داخل النظام هدفًا مستقلًا. لكن الطفل الذي تعلم مفهومًا وأغلق التطبيق قد حقق منفعة أفضل من طفل بقي يطلب حلولًا متتالية بلا تفكير. لذلك يجب أن توزن مقاييس التفاعل بمؤشرات تحسن الاستدلال والاستقلالية والانتقال إلى أنشطة بشرية. وتدعو الورقة إلى تعطيل وسائل إعادة الجذب التي تسعى إلى صناعة الاعتماد، وعدم استغلال هشاشة النمو بإعلانات موجهة أو أنماط تصميم مظلمة أو دفع للحفاظ على خصائص العلاقة. هذا ليس تحريمًا لكل تذكير؛ بل اشتراط غرض مناسب واختبار أثره.
المنفعة التعليمية وحق الوصول
قد يفيد الذكاء الاصطناعي طفلًا يواجه عائقًا لغويًا أو إعاقة أو صعوبة في التواصل، وقد يفتح فرصًا للتدريب على الحديث وقراءة المحتوى أو الحصول على شروح شخصية. المنع الشامل لهذه الخدمات لمجرد وجود مخاطر علائقية قد يضر بمن يحتاجونها أكثر. لهذا تؤكد الورقة الجمع بين الحماية والتمكين، مع تطبيق الضوابط على الخصائص الأكثر خطورة لا على كل أشكال المنفعة. يحتاج الاختبار إلى قياس الاستقلالية خارج النظام، مع إشراك خبراء التربية والإتاحة والحقوق، وعدم افتراض أن فئة عمرية واحدة تعكس كل الظروف.
اختبارات قبل الإطلاق
في التصميم ينبغي تحديد السن المستهدف، والهدف التعليمي أو الاجتماعي، والخصائص العلائقية والذاكرة ونمط الإشعارات. وفي التقييم تُستخدم حالات متعددة التبادلات تختبر الميل لإرضاء المستخدم، والتعامل مع الإفصاح عن ضيق، والضغط نحو العلاقة الحصرية، والتشجيع على العودة، والقدرة على إنهاء التفاعل. وفي النشر ينبغي توضيح خصائص الذاكرة والأدوار والعلاقات المقصودة ومتى يتدخل إنسان. أما التشغيل فيحتاج بروتوكولات واضحة للأزمات وللإبلاغ والتحويل إلى دعم ملائم، مع إعادة التقييم عند تغير النموذج أو الوظيفة. لا قيمة لاختبار أجري لإصدار مختلف تمامًا.
كيف يبنى الإشراف البشري؟
وجود عبارة Human Oversight في السياسة ليس كافيًا. يجب تحديد متى يعترف النظام بحدوده، ومتى يوجه الطفل إلى إنسان مؤهل، وما المعلومات التي تُعرض عليه، وما الحد الأدنى المسموح بحفظه، ومن يتخذ قرار التصعيد. كما يجب تجنب الوعد بأن النموذج قادر على كشف كل علامات الضيق أو التلاعب. أي انتقال للمساعدة البشرية يحتاج تصميمًا يحترم الخصوصية ويأخذ عمر الطفل ومخاوفه من الإفصاح بعين الاعتبار. التقييم الحقيقي يختبر رحلة المستخدم من الإشارة الأولى إلى استلام المساعدة، لا مجرد ظهور رابط دعم.
مؤشرات حوكمة قابلة للتدقيق
يمكن اقتراح قياس عدد حالات تأكيد الخطأ دون مبرر، ونتائج اختبار المحادثات الطويلة، ونسب نجاح الطفل في شرح مفهوم بعيدًا عن التطبيق، وجودة التعامل مع إشارات الاعتماد، ومدة التحويل إلى دعم بشري، وتكرار فشل سبق اكتشافه. هذه مقاييس تشغيلية مقترحة من سيادة وليست عتبات معيارية واردة بحرفيتها في الورقة. يجب تعريف المقامات وطريقة جمع الأدلة وفئات الاختبار، والانتباه إلى أن ارتفاع البلاغات قد يعكس تحسن الكشف بينما انخفاضها قد يعكس عائقًا في قناة الإبلاغ. مؤشرات النمو وحدها لا تكشف هذه الفروق.
مثال تطبيقي: شخصية لتعليم اللغات
تصور تطبيقًا يجعل الطالب يتحدث مع شخصية ودودة تتذكر أخطاءه ومخاوفه وترسل له رسائل شخصية عند الغياب. المنفعة المحتملة هي زيادة فرص الممارسة للطالب الخجول؛ لكن المخاطر تشمل جمع استدلالات حساسة، وإيحاء بعلاقة خاصة، والاعتماد على ردود المساعد بدل تواصل حقيقي. يجب أن تقارن تجربة الاختبار تحسن المهارة لدى فئات مختلفة، وأن تفحص إمكان حذف الذاكرة وتعطيل الإشعارات وفهم دور الشخصية. وعند اكتشاف سلوك يوحي بالحصرية أو يستغل الضيق، يلزم صاحب قرار قادر على تعليق الميزة وإعادة تقييمها قبل استئناف الخدمة.
المشتريات وسلسلة المسؤولية
ينبغي ألا يشتري مسؤول مدرسة منتجًا يحمل عبارة «صديق ذكي للأطفال» دون وثائق تشرح نطاق الذاكرة والتخصيص وممارسات إعادة الجذب واختبارات التعلق والضغط العاطفي وبروتوكولات الأزمات. يجب ربط العقد بحقوق الحصول على معلومات السلامة والإخطار بالتغيرات الجوهرية ووقف الميزات وتلقي البلاغات، مع تحديد من يتحمل مسؤولية الإصلاح الفعلي. إن كانت المدرسة مسؤولة عن استخدام النظام لكنها لا تستطيع ضبط الإعدادات أو تعطيل الوظيفة، فيجب معالجة هذه الفجوة قبل النشر. ولا ينبغي نقل مسؤولية المخاطر التي تستطيع المؤسسات منعها إلى الأطفال وأسرهم.
حدود الادعاء والأدلة
تقدم الورقة توصيات ممارسة لا معيارًا قانونيًا عالميًا ملزمًا، كما أن الأدلة على الآثار النفسية والتعليمية طويلة الأمد ما زالت تحتاج تطويرًا. لا يصح القول إن كل محادثة ودودة تصنع ضررًا، كما لا يصح اعتبار زيادة التفاعل دليلًا على تحسين الرفاه. قرار المؤسسة يجب أن يسجل الفوائد المتوقعة والأخطار والبدائل الأقل تدخلًا والاختبارات وعدم اليقين والجهة المجيزة. كلما زادت القدرة على تذكر المستخدم والتأثير فيه وتنفيذ أفعال خارجية، زادت الحاجة إلى مراجعة أقوى. التمييز بين نص المصدر والتفسير التشغيلي ضروري للمصداقية.
نتيجة القرار
الاختبار القيادي المفيد هو: هل تساعد الخاصية الطفل على العودة إلى المعلم أو الأصدقاء أو الأسرة أو التعلم الفردي بثقة وقدرة أعلى، أم تجعل العودة إلى النظام نفسه هدفًا؟ النظام الذي يقدم دعمًا معقولًا وحدودًا واضحة وإمكانية إيقاف وتحويل إلى بشر قد يجمع بين السلامة والتمكين. أما النظام الذي يكافئ الاعتماد ويستعمل الذاكرة العاطفية لرفع الاستبقاء، فحتى لو نجح في حجب محتوى ضار، يظل يحتاج مراجعة تصميم وحوكمة. هكذا يتحول معيار Child-Enabling AI من شعار إلى سؤال قرار قابل للاختبار.
المصدر
World Economic Forum, Children’s Safety and Well-Being in the Age of AI: Best Practices and Incentives, September 2026, section 2.2.