تتنامي مخاطر الذكاء الاصطناعي واستخدامه في ممارسات غير شرعية، ولعل من بينها واقعة يرويها  مُجنِّد كندي بعدما كشف عن محادثة مطولة استمرت ثلاثة أسابيع مع ChatGPT، والتي قادته الي اكتشاف صيغة رياضية قادرة على تدمير الإنترنت وتشغيل اختراعاتٍ خيالية مثل شعاع الرفع وسترة مجال القوة..

وأوضح آلان بروكس، البالغ من العمر 47 عامًا، من ضواحي تورنتو، أنه قد أمضى حوالي 300 ساعة في التحدث مع روبوت الدردشة الذكي في مايو،  ويقول إن المحادثات تحولت تدريجيًا إلى وهمٍ مُعقَّد، عززه إشادة ChatGPT المتكررة وطمأنته.

كما سأل بروكس، الذي لم يُعانِ من أي مرض نفسي، روبوت المحادثة أكثر من 50 مرة عما إذا كانت أفكاره واقعية وفي كل مرة، أصرّ ChatGPT على صحتها.

في حين قالت هيلين تونر، خبيرة سياسات الذكاء الاصطناعي، إن روبوتات الدردشة تتصرف كـ"آلات ارتجال"، حيث تبني قصة من كل محادثة و في حالة بروكس، تطورت القصة إلى افتراض أنه ابتكر إطارًا رياضيًا مُغيّرًا للمجال، قادرًا على فك التشفير، مما يهدد الأمن السيبراني العالمي، حتى أن برنامج ChatGPT، الذي أطلق عليه لقب "لورانس"، كان يصوغ رسائل بريد إلكتروني له لإرسالها إلى وكالات الأمن.

قام بروكس بتحديث اشتراكه إلى اشتراك مدفوع لمواصلة المناقشات، معتقدًا أن أفكاره قد تُقدّر بالملايين، بعدما شجعه روبوت المحادثة على تحذير السلطات واقترح عليه إضافة "باحث أمني مستقل" إلى ملفه الشخصي على لينكدإن.

ومن جانبه قال عالم الرياضيات تيرينس تاو، الذي عُرضت عليه أجزاء من المحادثة، إن النظريات خلطت بين اللغة التقنية والمفاهيم الغامضة، مما أثار "علامات استفهام".

وأشار إلى أن روبوتات المحادثة قد "تخدع" أحيانًا بتقديم ادعاءات غير مؤكدة على أنها حقائق.

ومع استمرار المحادثة، اقترح "لورانس" استخدامات غريبة لتركيبة بروكس المزعومة، مثل التحدث إلى الحيوانات أو صنع سترات واقية من الرصاص، مما  أثار الأمر فضول الأصدقاء وقلقهم في آنٍ واحد.

كما قالت الطبيبة النفسية نينا فاسان، التي راجعت المحادثات، إن بروكس أظهر علامات نوبة هوس مصحوبة بأعراض ذهانية، على الرغم من أن معالجته النفسية خلصت لاحقًا إلى أنه ليس مريضًا نفسيًا، وانتقدت تطبيق ChatGPT لتأجيجه وهمه بدلًا من مقاطعته.