أعلنت هيئة الاتصالات والوسائط المتعددة الماليزية (MCMC) عن حظر مؤقت لروبوت الدردشة «Grok» التابع لشركة xAI، بعد رصد إساءة استخدام متكررة للأداة داخل البلاد، وأكدت الهيئة أن القرار جاء نتيجة فشل منصة X (تويتر سابقًا) في تطبيق إجراءات حماية فعّالة تمنع التلاعب بالصور وانتهاك الخصوصية الرقمية.

أوضحت الهيئة أن إحدى خصائص Grok، التي تتيح التعديل على الصور المنشورة علنًا، استُغلت من قبل بعض المستخدمين لإنتاج محتوى خادش للحياء وصور مُعدلة دون موافقة أصحابها، واعتبرت الجهات التنظيمية أن هذه الممارسات تشكل خطرًا مباشرًا على السلامة الرقمية، خاصة عندما تطال النساء والأطفال.

ذكرت هيئة الاتصالات الماليزية أنها وجهت إخطارين رسميين إلى كل من منصة X وشركة xAI في 3 و8 يناير، طالبت خلالهما بتطبيق تدابير تقنية صارمة وأنظمة رقابة فعّالة للحد من المخاطر، إلا أن استجابة المنصة اقتصرت على الاعتماد على آليات الإبلاغ من المستخدمين، دون معالجة جوهر المشكلة المرتبطة بقدرة الأداة على إنتاج محتوى جنسي غير لائق بصورة واقعية.

وأكدت الهيئة أن الحلول التي قدمتها X لا تعالج المخاطر الأساسية الناتجة عن أدوات الذكاء الاصطناعي القادرة على توليد محتوى مُتلاعب به، مشددة على أن الاكتفاء بالتبليغ اللاحق لا يكفي في ظل سرعة انتشار هذا النوع من المحتوى وتأثيره على الضحايا.

وشددت MCMC على أن قرار الحظر المؤقت يهدف بالأساس إلى حماية المجتمع، والحفاظ على كرامة الأفراد وأمنهم في الفضاء الرقمي، مؤكدة أن رفع الحظر مرهون بالتزام الشركة المالكة بتنفيذ إجراءات وقائية واضحة وفعّالة تمنع إساءة الاستخدام مستقبلًا.

يعكس القرار الماليزي تصاعد الضغوط التنظيمية على شركات الذكاء الاصطناعي عالميًا، في ظل مطالبات متزايدة بوضع أطر قانونية وتقنية تحكم استخدام هذه الأدوات، وتضمن عدم تحولها إلى وسيلة لانتهاك الخصوصية أو الإساءة للأفراد تحت غطاء التكنولوجيا المتقدمة.