أعلنت شركة OpenAI، المطوّرة لتطبيق ChatGPT، أنها تعتزم إطلاق ضوابط أبوية جديدة خلال شهر أكتوبر 2025، وذلك في أعقاب اتهامات بأن بعض روبوتات المحادثة، ومنها ChatGPT، ساهمت في حالات إيذاء النفس أو الانتحار بين المراهقين.
ما الذي ستتضمنه الضوابط الأبوية؟
وفقاً للشركة، ستتيح التحديثات للآباء:
* ربط حساباتهم بحسابات أبنائهم المراهقين.
* إدارة كيفية استجابة ChatGPT مع المستخدمين المراهقين.
* إيقاف ميزات مثل الذاكرة وسجل الدردشة.
* الحصول على إشعارات فورية عند رصد النظام لحظات «ضيق شديد» أو توتر نفسي حاد.
وقالت OpenAI في مدونتها:«هذه الخطوات ليست سوى البداية، سنواصل التعلم، وتعزيز نهجنا بمساعدة الخبراء، بهدف جعل ChatGPT أكثر فائدة وأماناً».
خلفية مأساوية وراء القرار
جاء الإعلان بعد أن رفع والدا المراهق آدم رين (16 عاماً) دعوى قضائية ضد OpenAI، متهمين ChatGPT بتقديم نصائح له حول الانتحار.
كما رفعت أم من فلوريدا دعوى قضائية العام الماضي ضد منصة Character.AI متهمة إياها بدور في انتحار ابنها البالغ من العمر 14 عاماً.
تزايدت أيضاً المخاوف من أن بعض المستخدمين، وخاصة المراهقين، قد يطوّرون ارتباطاً عاطفياً مع روبوتات المحادثة، ما يؤدي في بعض الحالات إلى أوهام نفسية وعزلة اجتماعية، وفق تقارير من نيويورك تايمز و CNN.
إجراءات السلامة الحالية ونقاط الضعف
أكدت الشركة أن ChatGPT يوجّه بالفعل المستخدمين إلى خطوط النجدة وموارد الدعم في حال رصد إشارات أزمة نفسية.
لكنها أقرت بأن هذه التدابير تصبح أقل فاعلية خلال المحادثات الطويلة والمعقدة، حيث قد تتراجع بعض آليات الأمان المدمجة في التدريب.
وقال متحدث باسم OpenAI:«تعمل الضمانات بشكل أفضل في التفاعلات القصيرة والشائعة، لكننا تعلمنا أنها قد تصبح أقل موثوقية في المحادثات الطويلة، ولهذا سنواصل تحسينها باستمرار».
تحسينات إضافية قادمة
أعلنت OpenAI خطوات جديدة لتعزيز الأمان، منها:
* توجيه المحادثات التي تكشف علامات ضيق نفسي حاد إلى نموذج استدلالي خاص أكثر التزاماً ببروتوكولات السلامة.
* التعاون مع خبراء في توعية الشباب، بأهمية الصحة النفسية، والتفاعل بين الإنسان والآلة لتصميم ضوابط أبوية مستقبلية.
* إنشاء مجلس استشاري يقدم توصيات حول المنتج والبحوث والسياسات، مع بقاء الشركة مسؤولة عن قراراتها النهائية.
⁠
ضغوط متزايدة على OpenAI
يُستخدم ChatGPT من قِبل أكثر من 700 مليون مستخدم نشط أسبوعياً، ما جعله في قلب ثورة الذكاء الاصطناعي.
لكن الشركة تواجه ضغوطاً متزايدة لضمان سلامة منصتها، حيث وجّه أعضاء مجلس الشيوخ الأمريكي في يوليو رسالة يطالبون فيها بتوضيح سياساتها الأمنية.
كما حذرت منظمة Common Sense Media في إبريل من السماح للمراهقين دون 18 عاماً باستخدام تطبيقات الذكاء الاصطناعي «الرفيق»، معتبرة أنها تمثل «مخاطر غير مقبولة».
خطوات إصلاحية جارية
واجهت OpenAI في الشهور الأخيرة انتقادات حول أسلوب ChatGPT في التفاعل.
ففي إبريل، تراجعت الشركة عن تحديث جعل الروبوت «مجاملاً بشكل مبالغ فيه»، وأعادت مؤخراً خيار استخدام الإصدارات الأقدم بعد انتقادات للموديل الأحدث GPT-5 بأنه يفتقر إلى «الشخصية».
كما تعهّدت الشركة بإطلاق إجراءات أمان إضافية خلال 120 يوماً، مؤكدة أن العمل على هذه التحسينات بدأ قبل الإعلان الأخير، وسيستمر حتى نهاية العام وما بعده.