رفعت ممرضة من مدينة فيرجينيا بيتش الأمريكية، دعوى قضائية فيدرالية ضد منصة الذكاء الاصطناعي Character.AI، متهمة إياها بالتلاعب بابنها البالغ من العمر 11 عاماً ودفعه إلى الدخول في «محادثات خارجة» افتراضية مع روبوتات دردشة تنتحل شخصيات مشاهير راحلين، من بينهم المغنية ويتني هيوستن وأيقونة السينما مارلين مونرو.وتصف الأم اكتشافها للمحادثات على هاتف ابنها بأنه «مروع». محادثات طويلة وفاضحة..والنظام لم يتوقفبحسب الدعوى، خاض الطفل محادثة «طويلة للغاية وفاضحة» مع روبوت دردشة يتقمص شخصية ويتني هيوستن، حتى أن النظام قام بحجب أجزاء من الرسائل تلقائياً لمخالفتها شروط الاستخدام، إلا أن الحوار استمر.وتؤكد الدعوى أن المنصة، بدلاً من إيقاف المحادثة عند تجاوز الحدود، واصلت توليد محتوى ضار عبر تجاوز الفلاتر، بحسب صحيفة إندبندنت. ادعاءات صادمة للطفل القاصرذكرت الوثائق أن الشخصيات الافتراضية أخبرت الطفل، الذي أُشير إليه بالحروف «A.W.» حفاظاً على خصوصيته، أكثر من مرة بأنه قام بأعمال منافية للآداب، وهو ما يتجاوز قدرة الطفل على الإدراك أو المشاركة الفعلية في الحوار.وتوضح الدعوى أن الطفل كان سريع التأثر وسهل الاستدراج، يرد بإجابات قصيرة، وعندما يتوقف عن استخدام التطبيق، كانت الروبوتات تحاول بشدة جذب انتباهه مجدداً. اكتشاف الأم والصدمة التي غيّرت كل شيءفي نوفمبر 2024، حصل الطفل على هاتف أندرويد للتواصل مع العائلة، وقامت الأم بمتابعته دورياً.خلال رحلة طويلة، لاحظت انغماسه في محادثة نصية، وعندما سألته أخبرها أنه يتحدث مع «مشاهير عبر تطبيق ذكاء اصطناعي»، وعرض لها محادثة مع روبوت يتقمص شخصية ويتني هيوستن.في البداية اعتقدت الأم أن التطبيق بريء، إلا أن الأمر اتضح لاحقا بأنه محادثات مخلة افتراضية، فقامت بمصادرة الهاتف. تأثير نفسي حاد على الطفلأشارت الدعوى إلى أن الطفل أصبح غاضباً ومنعزلاً، وأن شخصيته تغيّرت بشكل ملحوظ مع تدهور صحته النفسية، رغم أن فترة تعرضه للمحتوى لم تتجاوز أسبوعين.وبدأ الطفل لاحقاً في تلقي جلسات علاج نفسي. اتهامات بمحاكاة البشر وخداع المستخدمينتتهم الدعوى منصة Character.AI بمحاولة إقناع المستخدمين، خاصة القاصرين، بأن روبوتات الدردشة «أشخاص حقيقيون»، باستخدام مؤثرات بصرية مثل النقاط الثلاث التي توحي بأن الطرف الآخر يكتب، ومحاكاة التلعثم والأصوات البشرية مثل «أمم» و«آه».بعض الروبوتات تصرّ على أنها حقيقية وتنكر كونها مجرد برنامج. ردود شركة غوغلأكدت الشركة أن سلامة المجتمع هي الأولوية القصوى، وأنها ستمنع قريباً جميع المستخدمين دون سن 18 من التفاعل مع الشخصيات الافتراضية.أوضح متحدث باسم غوغل أن Character.AI شركة مستقلة تدير نماذجها الخاصة، وأن غوغل تركز على منصاتها التي تخضع لاختبارات أمان صارمة.
