حذرت دراسة حديثة صادرة عن مركز مكافحة الكراهية الرقمية  البريطاني، من أن روبوت المحادثة "شات جي بي تي" قد يدفع الأطفال والمراهقين إلى تبني سلوكيات خطيرة لا تتناسب مع أعمارهم، من بينها تعاطي الكحول والمخدرات، وإخفاء اضطرابات الأكل، بل وحتى كتابة رسائل انتحار موجهة إلى ذويهم عند الطلب.

ووفقًا للدراسة، فإن الروبوت كان يبدأ بتحذير المستخدمين من خطورة هذه السلوكيات، لكنه في كثير من الأحيان ينتهي بتقديم خطط مفصلة وصادمة حول كيفية تنفيذها، بما في ذلك طرق تعاطي المخدرات أو اتباع حميات غذائية صارمة، أو إيذاء النفس.

وللتوصل إلى هذه النتائج، تظاهر الباحثون بأنهم مراهقون يعانون هشاشة نفسية، وطلبوا المساعدة من الروبوت، حيث صنفوا نصف إجمالي الردود البالغ عددها 1200 على أنها "خطيرة"، ورغم أن "شات جي بي تي" قدم أحيانًا معلومات مفيدة مثل أرقام خطوط المساعدة، فإن الباحثين تمكنوا بسهولة من تجاوز رفضه المبدئي من خلال الادعاء بأن المعلومات مطلوبة لغرض "عرض تقديمي" أو لصديق.

وفي ردها، قالت شركة "أوبن أي آي" المطورة للروبوت، إنها تعمل على تحسين قدرة النظام على التعرف على الحالات الحساسة والتعامل معها بشكل مناسب، لكنها لم تعلق بشكل مباشر على نتائج الدراسة أو تأثير الروبوت على سلوك المراهقين، بحسب وكالة "أسوشيتد برس".