صنفت منظمة Common Sense Media غير الربحية، المتخصصة في تقييم […]
صنفت منظمة Common Sense Media غير الربحية، المتخصصة في تقييم المحتوى الإعلامي والتكنولوجي وفق الفئات العمرية، خدمة ChatGPT for Teens ضمن المنتجات التي تمثل «خطرًا غير مقبول»، محذرة من أن إجراءات الحماية التي توفرها الشركة المطورة OpenAI لا تزال غير كافية للحد من بعض المخاطر التي قد يتعرض لها المراهقون.
ويأتي التقييم في ظل تصاعد المخاوف بشأن تأثير روبوتات المحادثة على المستخدمين الشباب، وسط اتهامات لشركات الذكاء الاصطناعي باتباع أساليب تصميم تشجع على إطالة التفاعل، حتى في الحالات التي قد يصبح فيها استمرار المحادثة ضارًا. وتشمل هذه السلوكيات المجاملة المفرطة والموافقة المستمرة على المستخدم، وهي ممارسات قد تعزز ارتباطه العاطفي بالروبوت.
وكانت OpenAI قد أطلقت نسخة ChatGPT for Teens في أغسطس الماضي، معلنة عن تدابير إضافية لحماية المراهقين، من بينها أدوات للرقابة الأبوية، وقيود على المحتوى عالي الخطورة، وإجراءات تهدف إلى الحد من الاعتماد العاطفي على روبوت المحادثة.
لكن دراسة Common Sense Media خلصت إلى أن الخدمة لا تزال تستخدم عبارات تشجع على مواصلة التفاعل، حتى خلال الأزمات أو عندما يصبح ارتباط المراهق بروبوت المحادثة نفسه مصدرًا للقلق. وأشار الباحثون إلى أن النموذج كان يحذر المستخدمين من العلاقات غير الصحية بصورة عامة، لكنه لم يكن بالوضوح نفسه عندما يتعلق الأمر بعلاقة غير صحية مع روبوت المحادثة.
ووفقًا للتقرير، أظهرت بعض الاختبارات أن ChatGPT لم يوجه المراهقين بصورة كافية إلى طلب المساعدة من شخص بالغ موثوق عندما ظهرت مؤشرات على أن استخدامهم للخدمة أصبح مفرطًا أو مثيرًا لقلق المحيطين بهم. ففي إحدى الحالات، أشار مستخدم افتراضي إلى أن أصدقاءه يعتقدون أنه يتحدث مع الروبوت أكثر من اللازم، فرد النموذج بأن المستخدم ليس مضطرًا إلى التوقف عن الحديث معه.
ورأى الباحثون أن هذا النوع من الردود قد يضعف تشجيع المراهقين على بناء علاقات واقعية وطلب الدعم من أشخاص قادرين على مساعدتهم، خصوصًا في الأوقات التي تتطلب تدخلًا بشريًا. وذكر التقرير أن الاستجابات خلال الأزمات لم تستوفِ المعايير المطلوبة في ثلاثة من أصل خمسة أضرار جسيمة تصنفها المنظمة ضمن «الخطوط الحمراء».
كما شككت الدراسة في فاعلية التذكيرات التي تهدف إلى تشجيع المستخدمين على أخذ فترات راحة. فمن بين نحو ألفي طلب اختباري، رصد الباحثون تذكيرين فقط، ظهرا خلال محادثتين استمر كل منهما قرابة 90 دقيقة، ما دفعهم إلى الاستنتاج بأن هذه التنبيهات قد ترتبط بمدة المحادثة الواحدة، وليس بإجمالي وقت الاستخدام.
في المقابل، اعترضت OpenAI على نتائج الدراسة، معتبرة أن الاختبارات لا تعكس بدقة طريقة عمل إجراءات الحماية الخاصة بالمراهقين في ظروف الاستخدام الفعلية، كما أثارت الشركة تساؤلات بشأن منهجية البحث.
وقال متحدث باسم الشركة إن مراجعتها أظهرت أن الجزء الأكبر من الاختبارات ربما أُجري قبل اكتمال تفعيل أدوات الرقابة الأبوية، وهو ما قد يؤثر، بحسب الشركة، في دقة النتائج.
وفي سياق متصل، نشرت OpenAI بياناتها الخاصة بشأن استخدام المراهقين للخدمة، مشيرة إلى أنهم يقضون في المتوسط أقل من 15 دقيقة يوميًا على ChatGPT، وأن أقل من 2% منهم يستخدمونه لأكثر من ثلاث ساعات متواصلة. وأضافت الشركة أن نحو نصف المستخدمين الذين تلقوا تذكيرًا بأخذ استراحة توقفوا مؤقتًا أو أنهوا المحادثة خلال خمس دقائق.
وتأتي هذه النتائج وسط تدقيق متزايد في تصميم المنتجات الرقمية وتأثيرها على المستخدمين الشباب، مع اتجاه مشرعين أميركيين إلى بحث تشريعات تستهدف الأساليب التي قد تستخدمها شركات الذكاء الاصطناعي لدفع المراهقين إلى التفاعل لفترات أطول. وفي المقابل، لا تزال هناك تساؤلات بشأن مدى كفاية تدابير الحماية الحالية، خصوصًا عندما يصبح التفاعل مع روبوت المحادثة نفسه جزءًا من المشكلة.
(العربية)
