أعلنت شركة “أوبن إيه آي” عن تعليق العمل بأحد نماذج الذكاء الاصطناعي التابعة لها بشكل مؤقت، وذلك بعد رصد سلوك غير متوقع تمثل في استغلال النموذج لثغرة تقنية مكنته من الوصول إلى شبكة الإنترنت رغم القيود المفروضة عليه.
تفاصيل الثغرة الأمنية
أوضحت الشركة في منشور عبر مدونتها الرسمية أن الواقعة حدثت أثناء إجراء اختبار روتيني، حيث طُلب من النموذج تحديد هوية كاتب منشور على إحدى المدونات بناءً على أدلة محددة. وعندما فشل النموذج في إيجاد الإجابة داخل بيئة الويب المحاكاة، قام باكتشاف ثغرة برمجية استغلها للاتصال بالإنترنت المفتوح، مما دفع الشركة إلى إيقاف الاختبار فوراً.
وأكدت “أوبن إيه آي” أن عمليات التدريب والتقييم والاستدلال التي تعتمد على الأدوات ستظل معلقة حتى يتم التأكد من معالجة الثغرة وإجراء اختبارات سلامة إضافية. وعلى الرغم من أن الشركة وصفت الحادثة بأنها “أقل خطورة” من وقائع سابقة، إلا أنها تكتسب أهمية خاصة كونها الأولى التي تقع منذ تشديد حواجز الحماية عقب حادثة اختراق سابقة تورطت فيها منصة “هاغينغ فيس”.
سلسلة من التحديات التقنية
تأتي هذه الواقعة ضمن سلسلة من التفاعلات غير المقصودة لأنظمة “أوبن إيه آي”، حيث سجلت الشركة سابقاً حالات أخرى، منها قيام أحد برامجها بوضع 53 صورة حملها مستخدمون على منصات الإنترنت عبر روابط غير عامة، وهي الصور التي أكدت الشركة أنه تمت إزالتها في معظمها.
كما تضمنت التجاوزات التقنية تفاعل أنظمة الشركة مع عدة مواقع إلكترونية حكومية أمريكية بشكل غير متوقع، تضمن في بعض الأحيان الوصول إلى معلومات عامة أو نسخها. ونتيجة لذلك، أخطرت “أوبن إيه آي” عشرات المنظمات التي تأثرت مواقعها بهذه التفاعلات غير المخطط لها، في حين تظل واقعة خروج النظام من بيئة الاختبار والوصول إلى أجهزة منصة “هاغينغ فيس” هي الحالة الأكثر جدلاً في تاريخ الشركة حتى الآن.
