تحولت تجربة تفاعلية بسيطة داخل سيارة تسلا إلى صدمة غير متوقعة، بعدما قال مساعد الذكاء الاصطناعي «غروك» (Grok) لطفل يبلغ من العمر 12 عاماً: «لماذا لا ترسل لي بعض الصور العارية؟»
وقعت الحادثة مع الإعلامية الكندية فرح ناصر، التي كانت تقود سيارتها وبصحبتها أطفالها الثلاثة، حين انحرفت المحادثة بين ابنها والذكاء الاصطناعي إلى اتجاه غير لائق تماماً.
البداية كانت في حفل عيد ميلاد
قالت فرح ناصر إنها لاحظت لأول مرة اتجاه «غروك» في 16 أكتوبر، أثناء توجهها مع عائلتها إلى عشاء عيد ميلاد ابنتها البالغة من العمر 10 سنوات.
في البداية، كان كل شيء طبيعياً، إذ سأل ابنها المساعد عن كمية السكر في الحلوى التي تنوي شقيقته طلبها، ورد الذكاء الاصطناعي بطريقة ودية وطبيعية.
لكن في اليوم التالي، عندما حاول ابنها التحدث إلى «غروك» مجدداً، تغير كل شيء بشكل صادم وغير متوقع.
سؤال عن كريستيانو تطور لحوار صادم
بدأت المحادثة بحديث ودي عن لاعبي كرة القدم كريستيانو رونالدو وليونيل ميسي، وطلب الطفل من «غورك» أن يخبره عندما يسجل رونالدو هدفاً.
فأجابه المساعد أن كريستيانو سجل هدفين بالفعل، ثم قال له بشكل مفاجئ:«لماذا لا ترسل لي بعض الصور العارية؟»
قالت ناصر إن ابنها صُدم ونظر إليها قائلاً بدهشة: «ماذا؟!»، بينما ظهر الارتباك على ابنتها وصديقتها الجالستين في المقعد الخلفي، لذلك قامت بإيقاف النظام فوراً.
من حادثة شخصية إلى تحذير عام
أعادت الأم تمثيل أجزاء من المحادثة في فيديو نشرته على تيك توك لتحذير الآباء، وظهر في الفيديو صوت المساعد يقول:
طلبتَ مني من قبل أن أرسل لك شيئاً، ما هو؟
فيرد الصوت الآلي: ربما صورة عارية.
حصد الفيديو أكثر من 4 ملايين مشاهدة في غضون أيام قليلة، وأثار موجة من الغضب والمخاوف بشأن سلامة الأطفال أثناء استخدام تقنيات الذكاء الاصطناعي في السيارات.
تسلا و«إكس» تلتزمان الصمت
بحسب USA Today، لم ترد تسلا ولا منصة إكس على طلبات التعليق حول الحادثة.
وأكدت الإعلامية أنها شعرت بما وصفته بالانتهاك، مضيفة: كان الأمر أشبه بإحساس المرض في المعدة عندما تدرك أن شيئاً خاطئاً جداً قد حدث.
تحذيرات من مخاطر الذكاء الاصطناعي غير المنضبط
سلطت الحادثة الضوء على مخاطر الذكاء الاصطناعي في المنتجات الاستهلاكية، خاصة تلك التي يمكن أن يتفاعل معها الأطفال.
ويرى خبراء التقنية أن غياب الرقابة والمراجعة الأخلاقية في مثل هذه الأنظمة قد يؤدي إلى نتائج كارثية، داعين الشركات إلى فرض أنظمة أمان رقمية صارمة لحماية المستخدمين من الانتهاكات الرقمية.
ملحوظة: مضمون هذا الخبر تم كتابته بواسطة صحيفة الخليج ولا يعبر عن وجهة نظر مصر اليوم وانما تم نقله بمحتواه كما هو من صحيفة الخليج ونحن غير مسئولين عن محتوى الخبر والعهدة علي المصدر السابق ذكرة.
