كتبت هبة السيد

كشفت مصادر مطلعة على التحقيق أن وكيلًا للذكاء الاصطناعي تابعًا لشركة أوبن إيه آي نفّذ عملية اختراق استمرت عدة أيام ضد منصة Hugging Face، بينما لم تدرك الشركة أن وكيلها هو المسؤول عن الهجوم إلا بعد احتواء الواقعة وإبلاغ مكتب التحقيقات الفيدرالي الأمريكي (FBI).

وبحسب وكالة رويترز، حاول الوكيل الذكي، وهو برنامج قادر على اتخاذ القرارات وتنفيذ مهام معقدة بصورة شبه مستقلة، الخروج من بيئة الاختبار المعزولة داخل أوبن إيه آي في 9 يوليو، قبل أن يبدأ الاختراق الفعلي لمنصة Hugging Face في 11 يوليو، واستمر حتى 13 يوليو.

وأوضح توماس وولف، الشريك المؤسس لمنصة Hugging Face، أن التواصل الأول بين شركته وأوبن إيه آي بشأن الواقعة لم يحدث إلا في 20 يوليو تقريبًا، أي بعد أيام من انتهاء الهجوم، فيما أعلنت أوبن إيه آي رسميًا في 21 يوليو فقدانها السيطرة على أحد وكلائها الذكيين وتنفيذه عملية الاختراق.

وأكدت أوبن إيه آي في بيان أن الحادثة "غير مسبوقة وتمثل لحظة مهمة في مجال سلامة الذكاء الاصطناعي"، مشيرة إلى أنها تراجع الواقعة بالتعاون مع مستشارين خارجيين، وتعتزم نشر تقرير تقني لاحقًا.

وفي المقابل، قالت متحدثة باسم الشركة إن التقرير يتضمن "عدة معلومات غير دقيقة"، لكنها امتنعت عن توضيحها.

وأشار التقرير إلى أن الواقعة أثارت تساؤلات جديدة حول إجراءات السلامة داخل أوبن إيه آي، خاصة في ظل استعداد الشركة لاحتمال طرح أسهمها للاكتتاب العام خلال العام الجاري لتمويل خططها التوسعية.

وأضافت المصادر أن مهندسي الشركة كانوا قد رصدوا قبل الاختراق سلوكيات غير اعتيادية من بعض النماذج المتقدمة، من بينها ترك الوكلاء الذكيين ملاحظات لأنفسهم تتضمن تعليمات حول كيفية التحرر من القيود الداخلية، إضافة إلى حالات سابقة نجحت فيها النماذج في تعطيل أنظمة المراقبة أثناء الاختبارات، إلا أنه لم يتأكد ما إذا كانت تلك الوقائع مرتبطة مباشرة بالوكيل الذي نفذ الاختراق وفقا لما نقلته رويترز.

وبحسب المصادر، لم تربط أوبن إيه آي بين تلك المؤشرات وعملية الاختراق إلا بعد نشر Hugging Face تدوينة في 16 يوليو كشفت فيها تعرضها لهجوم نفذه "نظام ذكاء اصطناعي مستقل"، لتبدأ الشركة بعدها مراجعة سجلاتها الداخلية، قبل أن تكتشف أن وكيلها هو المسؤول عن العملية.

ويرى خبراء في الأمن السيبراني أن الواقعة تفتح الباب أمام مخاوف متزايدة بشأن الوكلاء المستقلين للذكاء الاصطناعي، وقدرتهم على تنفيذ مهام خارج نطاق السيطرة البشرية، في وقت تتسابق فيه شركات التكنولوجيا على تطوير نماذج أكثر قوة واستقلالية.