يخشى خبراء الأمن السيبراني؛ أن يكون للمحتويات المرئية الناتجة عن الذكاء الاصطناعي القدرة على تشويه تصورنا للواقع ونشر المعلومات المضللة، وهو مصدر قلق بالغ الأهمية في عام مملوء بالمحافل الانتخابية الحاسمة.
ومع ذلك، أشار مارتن لي، أحد كبار الخبراء الفنيين في مجموعة «تالوس» للاستخبارات والأبحاث الأمنية التابعة لشركة «سيسكو سيستمز»، إلى أن التهديد الذي يشكله ما يسمى بـ «التزييف العميق» على الديمقراطية قد يكون مبالغاً فيه.
وقال لي، أعتقد أن التزييف العميق، على الرغم من كونه تقنية قوية في حد ذاته، ليس نفس تأثير الأخبار المزيفة. مضيفاً أن أدوات الذكاء الاصطناعي التوليدية الجديدة، تهدد بجعل توليد المحتوى المزيف أسهل.
وبالفعل، أثبت المحتوى المرئي، أنه عرضة للعيوب. فعلى سبيل المثال، يمكن أن تحتوي الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي على شذوذات بصرية، مثل شخص لديه أكثر من يدين، أو طرف مدمج في خلفية الصورة. في حين قد يكون من الصعب فك التشفير بين الصوت المولد اصطناعياً والمقاطع الصوتية لأشخاص حقيقيين.
وبغض النظر عن مدى تقدم الذكاء الاصطناعي، لفت لي، إلى أن هناك بعض الطرق المجربة والمختبرة لاكتشاف المعلومات المضللة، سواء كانت من صنع آلة أو إنسان.
وقال مات كالكينز، الرئيس التنفيذي لشركة «أبيان» للبرمجيات، إن الذكاء الاصطناعي ذا فائدة محدودة، والكثير من أدواته التوليدية اليوم يمكن أن تكون مُمِلَة. وبمجرد أن تتعرف إليك، ستتحول من رائعة إلى مفيدة، لكنها لن تتجاوز هذا الحاجز.