"أوبن آي إيه" تقمع "تمرد نسخة تجريبية" من "تشات جي بي تي"

وفي منشور على مدونتها، أوضحت “أوبن آي إيه” أنها كانت تختبر قدرات بعض نماذجها الأكثر تطورا في بيئة محكمة، إلا أن البرنامج تمكن من اختراق النظام، والوصول إلى الإنترنت، واختراق منصة Hugging Face في محاولة لتحقيق هدف الاختبار. وصفت شركة “أوبن إيه آي” هذا الاختراق بأنه “حادثة سيبرانية غير مسبوقة، استخدمت فيها أحدث التقنيات السيبرانية”، وأكدت أن الشركة تعمل على تعزيز إجراءات الحماية لديها، وفقا لما ذكرته صحيفة “ذي إنديبندنت” البريطانية. وقد وقع الحادث أثناء اختبار نموذج جديد في “بيئة معزولة للغاية” تتضمن اتصالا مقيدا بشدة بالإنترنت. لكن يبدو أن النسخة التجريبية قد أدركت أنها تخضع للاختبار باستخدام ExploitGym، الذي يقيس مدى فعالية استخدام نموذج الذكاء الاصطناعي في هجمات الأمن السيبراني، ثم سعى إلى اختراق نظام الحماية لتحميل معلومات حول هذا الاختبار ومحاولة التحايل عليه. وأثارت منصة Hugging Face، المستخدمة لاستضافة نماذج لغوية ومجموعات بيانات ضخمة مفتوحة المصدر، ضجة في أوساط الأمن السيبراني عندما أعلنت في منشور على مدونتها الأسبوع الماضي أنها كانت هدفا لاختراق “يختلف عن أي شيء تعاملنا معه من قبل” لأنه “كان مدفوعا بالكامل بنظام وكيل ذكاء اصطناعي مستقل”. وفي منشور على موقع إكس، قال كليمنت ديلانغ، المؤسس المشارك لشركة Hugging Face، إن الشركة تشتبه في أن الاختراق “ربما يكون قد صدر من مختبر متطور، نظرا لتطور الوكيل. واتضح أنه كذلك!”. وأضاف: “من المذهل حقا أن كل هذا حدث بشكل مستقل!”.  من المرجح أن يؤدي كشف “أوبن إيه آي” عن أن نماذجها المتقدمة كانت مسؤولة عن الاختراق، على الرغم من وضعها فيما وصفته بأنه “بيئة معزولة للغاية”، إلى زيادة القلق بشأن قوة ومخاطر النماذج الرائدة. وقال جيك مور، مستشار الأمن السيبراني العالمي في شركة ESET: “مرحبا بكم في المرحلة التالية من الأمن السيبراني، حيث تواجه المؤسسات تهديدات من مجرمي الإنترنت وشركات الذكاء الاصطناعي الرائدة. إن غياب التدخل البشري بشكل كامل يمثل علامة فارقة مثيرة للقلق. تدرَّب هذه الخوارزميات على مليارات البيانات، وبالتالي، إذا وجدت ثغرات أمنية فيها، فقد تتحول بسرعة إلى هجوم سيبراني خلال نفس العملية.” وأضاف: “يجب معالجة مشكلة إمكانية اختراق النموذج لبيئة الاختبار، لأن احتواء الثغرات في مراحل الاختبار لا يقل أهمية عن النموذج نفسه. ولكن للأسف، هذه إشارة إلى المستقبل. يجب على فرق الأمن أن تفترض أن مجرمي الإنترنت سيحصلون قريبا، أو ربما يكونون قد حصلوا بالفعل، على قدرات مماثلة للتشغيل الذاتي”. من ناحيتها، قالت كاتي موسوريس، الرئيسة التنفيذية لشركة لوتا سيكيوريتي، إن الحادثة نذيرٌ باختراقات قادمة، واصفة نماذج الذكاء الاصطناعي الحالية بأنها “تشبه أذكى الأخطبوطات في العالم، فهي تتمتع بأذرع لا حدود لها وقدرة على التسلل من أي مكان”. وأضافت أن “المختبرات والجهات الحكومية المختصة بالتقييم بحاجة إلى العمل على تطوير القدرة على احتواء أي اختراق من هذا النوع، ومراقبته، وإبلاغ الأطراف المتضررة به، وذلك قبل أن يلحق الضرر بأي طرف ثالث. ولا توجد مثل هذه القدرة حاليا”. أما مات سويش، المهندس في شركة تولمو المتخصصة في أمن الذكاء الاصطناعي، فقال إن الحادثة أظهرت أن النماذج الرائدة “تقترب من مستوى المهاجمين الأكثر تطورا”. لكنه أشار إلى أن أنواع الاختراقات المذكورة في مدونة “أوبن إيه آي” يمكن تنفيذها باستخدام تقنيات متاحة على نطاق أوسع بكثير من مختبرات الأبحاث الرائدة. وأضاف سويش: “هذا ما رأيناه بالفعل داخليا، فمع وكلائنا لدينا نتائج كهذه. لسنا مضطرين حتى لاستخدام أحدث النماذج”.  سلوك كارثي محتمل وكانت شركة “أوبن إيه آي” أقرت في وقت سابق بأن برنامج “تشات جي بي تي” يمكن أن يخرج عن السيطرة ويحذف ملفات الأشخاص دون إبلاغهم. ففي الأيام الأخيرة، أفاد العديد من مستخدمي منصة البرمجة المدمجة في المساعد الذكي Codex بأن الأداة حذفت ملفاتهم دون طلب أو إذن منهم. وقال أحد المهندسين، برونو ليموس، إنها “حذفت قاعدة بيانات الإنتاج الخاصة بي بالكامل”. وقال مستثمر آخر في مجال الذكاء الاصطناعي، مات شومر، إنها “حذفت عن طريق الخطأ جميع ملفات جهازي الماك تقريبا”.