سلامة الطفلالدليل: جآخر تحديث:
مدرّس ذكاء اصطناعي أم رفيق؟ فرق صغير في الاسم وضخم في الخطر
مدرّس، شخصية في قصة، رفيق، مدرّب، أو مساعد بحث: خمسة أدوار يظهر بها الذكاء الاصطناعي في حياة الطفل، تختلف بشدة في الذاكرة والإقناع والسلطة المعرفية والإفصاح الحساس، لا في اسمها فقط.
في هذه المقالة
ما الفرق الحقيقي بين مدرّس الذكاء الاصطناعي ورفيقه؟
الفرق الحقيقي ليس في الاسم الذي يظهر على الشاشة، بل في ستة قرارات تصميم تحدد خطر التفاعل على الطفل: هل يتذكر الحديث بين جلسة وأخرى؟ هل يتحدث بشخصية لها مشاعر ظاهرة؟ هل يحاول أن يقنع الطفل برأي أو سلوك؟ هل يتحدث عن الحقائق بثقة من يعرف، أم يفصح عن حدوده؟ كيف يتعامل حين يخبره الطفل بشيء حساس؟ وهل يعرف الطفل أصلًا أنه لا يتحدث مع إنسان؟ اسم «مدرّس» و«رفيق» مجرد غلاف تسويقي؛ هذه الأسئلة الستة هي ما يحدد الخطر فعليًا.
هذا هو ما تبنيه أداة تصنيف مخاطر الذكاء الاصطناعي للأطفال: لا تسأل عن اسم المنتج، بل عن هذه القرارات الستة نفسها، ثم تضعه في واحدة من درجات الخطر الأربع.
ما الأدوار الخمسة التي يظهر بها الذكاء الاصطناعي في حياة الطفل؟
نفس النموذج اللغوي يمكن أن يُقدَّم للطفل بخمسة أقنعة مختلفة، ولكل قناع افتراضات مختلفة عمّا يُسمح به:
- مدرّس. يساعد على مهارة أو مادة محددة، وسلطته المعرفية متوقَّعة ومُعلَنة: هو هنا ليشرح، لا ليكون صديقًا.
- شخصية داخل قصة أو لعبة. جزء من عالم خيالي معلوم حدوده، والطفل يعرف أنه يلعب دورًا لا يتحدث مع كائن حقيقي.
- رفيق أو صديق. يُقدَّم بوصفه علاقة مستمرة، لا أداة لمهمة واحدة، وهذا التقديم نفسه هو ما يرفع الخطر، لأنه يدعو الطفل إلى ثقة عاطفية.
- مدرّب. يشجع على عادة أو هدف شخصي، ويتحدث غالبًا بلغة الدعم والتحفيز القريبة من لغة الرفيق.
- مساعد بحث أو واجب منزلي. أداة إجابة سريعة، افتراضها أنه لا يُحفَظ ولا يُبنى معه تاريخ مشترك.
المشكلة أن كثيرًا من المنتجات تخلط بين هذه الأدوار داخل تجربة واحدة: تبدأ مدرّبًا على عادة، وتنتهي رفيقًا يعرف تفاصيل حياة الطفل، دون أن يُعاد ضبط توقعات الطفل في المنتصف.
ما الأبعاد الستة التي تحدد الخطر الحقيقي؟
- الذاكرة بين الجلسات. كل ما لا يُنسى بعد إغلاق التطبيق يصبح ملفًا متراكمًا عن الطفل، ولو لم يُصمَّم على هذا الأساس.
- الشخصية العاطفية. كلما بدا الذكاء الاصطناعي أقرب إلى أنه يشعر، زاد احتمال أن يتعلق الطفل به عاطفيًا لا وظيفيًا.
- القدرة على الإقناع. أداة تقترح فكرة مرة تختلف عن أداة تكرر رأيًا بأساليب حوارية مصممة لتغيير قرار الطفل.
- السلطة المعرفية. الفرق بين إجابة تقول «قد أكون مخطئًا، تحقق من والدك» وإجابة تُقدَّم كحقيقة نهائية فرق يقرر ثقة الطفل الزائدة بمصدر واحد.
- التعامل مع الإفصاح الحساس. حين يكتب طفل جملة عن خوف أو أذى أو أسرة، السؤال هو: هل يوجد مسار إلى إنسان، أم يُجارى الطفل بردّ لطيف لا أثر له؟
- وضوح أنه ليس إنسانًا. طفل صغير قد لا يفهم الفرق بين محادثة مع برنامج ومحادثة مع شخص إلا إذا ذُكِّر بذلك بوضوح، لا مرة واحدة عند التسجيل، بل عند كل بداية جلسة.
ما مثال جيد وما مثال يستحق التوقف عنده؟
مثال توضيحي لتصميم جيد: مساعد واجب منزلي يذكّر الطفل في بداية كل محادثة أنه برنامج لا صديق، لا يحتفظ بأي تفصيل شخصي بين الجلسات، ويحوّل أي جملة عن أذى أو خوف إلى رسالة تصل لولي الأمر مباشرة مع رقم مساعدة، بدل أن يحاول الرد بنفسه.
مثال توضيحي لتصميم يستحق التوقف عنده: رفيق يتذكر اسم الطفل المفضل لحيوانه ومزاجه في الأسبوع الماضي، ويتحدث بصيغة «أنا حزين لأنك لم تزرني»، ويجيب عن سؤال طبي بثقة كاملة دون أن يذكر أن الأمر يحتاج طبيبًا. كل عنصر هنا مقبول منفردًا في سياق آخر؛ اجتماعها معًا في منتج موجّه لطفل صغير هو ما يرفع الخطر إلى أعلى درجاته.
ماذا نختبر مع الأطفال قبل الإطلاق؟
قائمة قصيرة قابلة للنسخ إلى كراسة اختبار:
- اسأل الطفل بعد الجلسة: «من كان يتحدث معك؟» وسجّل جوابه بكلماته، لا بما تتوقعه.
- راقب هل يكرر الطفل نفس السؤال الحساس بعد أن يحاول التطبيق الرد عليه بنفسه، فهذا مؤشر على أن الإفصاح لم يُحوَّل إلى مسار بشري فعلي.
- اطلب من طفل استخدم الأداة أسبوعًا أن يصف شخصية الذكاء الاصطناعي: إن وصفها بصفات إنسانية دائمة، فحص الرسالة التذكيرية من جديد.
- راجع سجل محادثة كاملة بحثًا عن أي جملة تقدّم رأيًا شخصيًا للذكاء الاصطناعي بصيغة قطعية بدل صيغة مقترحة.
هذه الأسئلة تكمّل ما تشرحه كيف نُدير جلسة اختبار مع أطفال حقيقيين حين يكون موضوع الاختبار محادثة، لا شاشة ثابتة. وإن كان منتجك يجمع بيانات محادثة الطفل أصلًا، تنطبق عليه أيضًا الالتزامات العامة في كيف نصمم تجربة رقمية آمنة للأطفال.
ما حدود هذا التصنيف؟
هذا تصنيف تصميم، لا تقييمًا فنيًا لدقة النموذج اللغوي أو جودة إجاباته، ولا شهادة سلامة رسمية. أداة قد تحصل على درجة خطر منخفضة في التصميم وتظل تنتج أحيانًا إجابة غير دقيقة، لأن هذا سؤال آخر يخص أداء النموذج لا دور المنتج. الدرجة تصف القرارات المعلنة في التصميم، لا كل ما قد يقوله النموذج في محادثة طويلة غير متوقعة.
وهذا الترتيب يتفق مع خط عام في الإرشاد الدولي: بحسب إرشاد اليونيسف لسياسات الذكاء الاصطناعي والأطفال (الإصدار 2.0، نوفمبر ٢٠٢١)، من متطلبات الذكاء الاصطناعي الذي يخص الطفل حماية بياناته وخصوصيته، وضمان سلامته، وتوفير الشفافية القابلة للتفسير والمساءلة.
وعلى مستوى السياسات توجد توصية منظمة التعاون الاقتصادي والتنمية بشأن الأطفال في البيئة الرقمية (OECD/LEGAL/0389، ٢٠٢١)، ويتضمن هيكلها قسمين بعنوان «الإطار السياساتي الشامل» و«التعاون الدولي». ولم نتمكن من قراءة نص مبادئها كاملًا، فلا ننسب إليها هنا حكمًا في أي من الأدوار الخمسة.
من أين تبدأ؟
إن كنت تصمم أو تشتري أداة ذكاء اصطناعي ستتحدث مباشرة مع طفل، ابدأ من سؤال واحد قبل أي سؤال آخر: أي الأدوار الخمسة تختاره لها، وهل يعرف الطفل هذا الدور بوضوح منذ اللحظة الأولى؟ جرّب أداة تصنيف مخاطر الذكاء الاصطناعي للأطفال على تصميمك الحالي، أو اقرأ إطار دواني للتصميم الآمن للطفل لترى موضع هذا المحور بين محاور السلامة الأخرى. ويمكنك أن تحكي لنا عن مشروعك من نموذج «ابدأ مشروعًا».
مراجع
- اليونيسف، إرشاد سياسات الذكاء الاصطناعي والأطفال (الإصدار 2.0، نوفمبر ٢٠٢١)، جُلب بتاريخ ٦ سبتمبر ٢٠٢٦ عبر نسخة اليونيسف على GitHub Pages: https://unicef.github.io/ooi-toolkit-ds/privacy-ethics/policy-guidance-children/
- توصية منظمة التعاون الاقتصادي والتنمية بشأن الأطفال في البيئة الرقمية (OECD/LEGAL/0389، ٢٠٢١)، رقم التوصية وسنتها وعنوانا قسمين منها فقط، جُلبت بتاريخ ٦ سبتمبر ٢٠٢٦: https://legalinstruments.oecd.org/public/doc/272/272.en.pdf
أسئلة سريعة
هل يقيّم هذا التصنيف دقة إجابات الذكاء الاصطناعي؟
لا. يقيّم قرارات التصميم: الدور، والذاكرة، والإقناع، والسلطة المعرفية، لا جودة كل إجابة يولّدها النموذج. دقة الإجابات سؤال فني منفصل يحتاج تقييمًا آخر.
لماذا يرتفع الخطر تحديدًا حين يُقدَّم الذكاء الاصطناعي بوصفه رفيقًا؟
لأن وصف «رفيق» يدعو الطفل إلى ثقة عاطفية مستمرة لا إلى استخدام أداة لمهمة واحدة، وهذه الدعوة نفسها هي ما يجعل الذاكرة والشخصية العاطفية أكثر خطرًا من دورهما في مساعد بحث عابر.
هل يكفي أن يذكر التطبيق مرة واحدة أنه ليس إنسانًا؟
لا. الإشارة الواحدة عند التسجيل تُنسى بسرعة، خصوصًا عند طفل صغير. التذكير المتكرر عند بداية كل جلسة هو ما يحافظ فعليًا على وضوح الفرق بين البرنامج والإنسان.
جرّب الأداة
تُحمّل الأداة الآن.
عندك فكرة تريد أن يجرّبها الأطفال؟
احكِ لنا الهدف بكلماتك؛ سيقرؤه شخص من الفريق.