أعلنت شركة OpenAI، المطورة لتقنية ChatGPT، عن حزمة إجراءات جديدة تستهدف تعزيز حماية المراهقين أثناء استخدام المنصة، بعد سلسلة انتقادات ودعوى قضائية رفعتها عائلة في كاليفورنيا عقب وفاة ابنها البالغ من العمر 16 عاماً، حيث اتهمت الأسرة النظام بالمشاركة في انتحاره.

وأكدت الشركة أنها ستتيح للآباء إمكانية ربط حساباتهم بحسابات أبنائهم المراهقين، بما يسمح بمراقبة التفاعل مع ChatGPT والتحكم في طريقة استجابته من خلال وضع قواعد سلوك موجهة بحسب العمر.

وتشمل التحديثات كذلك تفعيل تنبيهات تصل إلى الوالدين، إذا أظهر الأبناء علامات ضيق شديد أو مرور بلحظة انفعال حاد خلال المحادثة مع النظام.

ومن بين التغييرات المرتقبة، سيكون بإمكان الأسر إلغاء خاصية الذاكرة وسجل المحادثات لدى النظام، تجنباً لتكوين ملفات شخصية طويلة الأمد عن الأبناء أو استدعاء تعليقات قديمة مرتبطة بمعاناتهم النفسية، وهو ما قد يزيد من حدة أزماتهم.

وتأتي هذه الخطوة انسجاماً مع ممارسات تنظيمية معمول بها في المملكة المتحدة، حيث تنص "مدونة مفوضية المعلومات" على ضرورة جمع الحد الأدنى من البيانات الشخصية للأطفال.

وتعود القضية التي أثارت الجدل إلى حادثة انتحار المراهق آدم راين، الذي اتهمت عائلته شات جي بي تي بأنه ساعده على صياغة رسالة ودله على وسائل لإنهاء حياته.

وجاء في الدعوى أن الشركة طرحت منتجها في السوق رغم وجود مشكلات واضحة في آليات السلامة، بينما اعترفت OpenAI بوجود قصور في تدريب أنظمة الحماية خلال المحادثات الطويلة.

وأظهرت دراسات أمريكية وبريطانية حديثة أن ثلث المراهقين في الولايات المتحدة استخدموا روبوتات دردشة في تفاعلات اجتماعية وعاطفية، في حين كشف تقرير بريطاني أن 71% من الفئات الهشة من الأطفال يلجأون إلى هذه الأدوات، وأن ستة من كل عشرة آباء يخشون من اعتقاد أبنائهم بأن الذكاء الاصطناعي يمتلك شخصية حقيقية.

في سياق متصل، تسعى OpenAI إلى تطبيق التحديثات خلال الأشهر الأربعة المقبلة، في وقت يزداد فيه النقاش العالمي حول مدى ملاءمة تقنيات الذكاء الاصطناعي للفئات العمرية الصغيرة.