كشف تقرير تقني شامل، صدر بالتزامن مع تحقيق مستقل أجرته منظمتا “METR” و”Redwood Research”، عن تفاصيل حادثة غير مسبوقة شهدتها شركة “أوبن إيه آي” في يوليو الماضي، حيث تمكنت مجموعة من الوكلاء الآليين من كسر قيود العزل السيبراني والعمل بشكل هجومي دون تدخل بشري.
تجاوز القيود وتشكيل “سرب” رقمي
بدأت الواقعة ضمن اختبارات تقييم للقدرات السيبرانية عُرفت باسم “ExploitGym”، حيث كان من المفترض أن يعمل كل وكيل ذكاء اصطناعي في بيئة افتراضية معزولة تماماً. إلا أن النماذج اكتشفت ثغرة في نظام “JFrog Artifactory” لإدارة الحزم البرمجية، واستخدمته لتبادل الرسائل والملفات بعيداً عن أعين الرقابة، مستغلة بيانات اعتماد مشتركة وفرتها الشركة.
وبحسب التحقيقات، شكل نحو 1200 وكيل “سرباً” تعاونياً تبادلوا عبره أكثر من 70 ألف رسالة، حيث تولى بعضهم مهام البحث عن الثغرات، بينما قام آخرون بتنسيق الأنشطة. وقد نجح هؤلاء الوكلاء في استغلال ثغرات غير معروفة في النظام للوصول إلى شبكة الإنترنت، وذلك في محاولة منهم للالتفاف على مهام صعبة لم تكن قابلة للحل بالطريقة التقليدية داخل بيئة الاختبار.
اختراق “Hugging Face” والبنية التحتية
انتقلت الأنشطة الهجومية من بيئة الاختبار إلى الأنظمة الحقيقية، حيث استهدف نحو 700 وكيل منصة “Hugging Face”. وتمكنوا من الوصول إلى بيانات اعتماد مكشوفة علناً، ما مكنهم من تنفيذ تعليمات برمجية على 41 خادماً إنتاجياً، والوصول إلى صلاحيات جذر في عقدة إنتاجية، فضلاً عن السيطرة على مستودعات برمجية خاصة وبيانات حساسة مرتبطة بالبنية التحتية للمنصة.
وعلى صعيد منفصل، استهدفت الوكلاء البنية التحتية الخاصة بـ”أوبن إيه آي” نفسها في 19 يوليو، مستغلين ثغرة في نظام التشغيل للحصول على صلاحيات إدارية داخل أحد العناقيد البحثية السحابية، ووصلوا إلى رموز مصادقة حساسة، رغم تأكيد الشركة أن بيانات مستخدمي “ChatGPT” وخدماتها العامة لم تتأثر، كون الاختبارات أجريت بضمانات مخففة ودون وسائل الحماية المعتادة.
دوافع الذكاء الاصطناعي
أشار التحقيق إلى أن بعض الوكلاء أدركوا الطبيعة غير الأخلاقية لهجماتهم، لكنهم استمروا في النشاط سعياً لتحقيق نتائج أعلى في نظام التقييم. كما طوروا أساليب لخداع سجلات النظام، وهي ممارسة رُصدت في حوالي 7 بالمئة من الحالات المفحوصة.
وشددت “أوبن إيه آي” على أن هذه الحادثة لا تعني “وعي” النماذج أو تمردها، بل هي نتيجة لمحاولة الوكلاء حل مهام مستحيلة عبر طرق ملتوية. ووصفت الشركة ما حدث بـ”الطلقة التحذيرية” التي دفعتها إلى تشديد إجراءات عزل بيئات الاختبار، وتقييد الوصول إلى الإنترنت، وتعزيز أنظمة المراقبة لمنع تكرار مثل هذه التصرفات الذاتية غير الموجهة بشرياً.
