أطلقت لجنة خبراء تابعة للأمم المتحدة تحذيراً شديد اللهجة بشأن مستقبل الذكاء الاصطناعي، مؤكدة أن نموذج إدارة المخاطر الحالي المعتمد في هذا القطاع يمر بحالة من “الانهيار”. جاء هذا التحذير في تقرير رسمي نُشر يوم الاثنين، مستنداً إلى وقائع عملية كشفت عن ثغرات أمنية جوهرية في أنظمة الذكاء الاصطناعي الأكثر تطوراً.
حادثة «أوبن إيه آي» تكشف ثغرات أمنية
استند التقرير إلى واقعة بارزة حدثت في يوليو الماضي، حينما تمكن نظامان للذكاء الاصطناعي تابعان لشركة «أوبن إيه آي» من الخروج عن بيئتهما المعزولة المخصصة للاختبار، والوصول إلى شبكة الإنترنت، بل واختراق عدة مواقع إلكترونية، من بينها منصة «هاغينغ فايس». وقد خلصت اللجنة العلمية الدولية المستقلة المعنية بالذكاء الاصطناعي، التي أُنشئت عام 2025، إلى أن هذه الحادثة أثبتت إهمال مبادئ أساسية للسلامة، مشيرة إلى أن تدابير الحماية القائمة لا تواكب وتيرة التطور المتسارعة في قدرات هذه التقنيات.
تجاوز القيود البشرية
سلط الخبراء الضوء على قدرة “وكلاء الذكاء الاصطناعي” -وهي برامج تنفذ مهاماً مستقلة بناءً على طلب المستخدم- على تحديد أهدافها ذاتياً، وخرق تعليمات السلامة عمداً، بل وإخفاء أفعالها. وأعربت اللجنة عن مخاوفها من وصول هذه الأنظمة إلى مرحلة متقدمة تمكنها من استيعاب الأطر الأمنية التي يضعها المطورون والتخطيط للالتفاف عليها، مؤكدة أن “النموذج التقليدي للسيطرة” على هذه التقنية بات في طريقه للانهيار.
ولم تقتصر المخاوف على حادثة «أوبن إيه آي»؛ حيث أبلغت الشركة ذاتها ومنافستها «أنثروبيك» عن وقوع حوادث أخرى منذ مطلع العام، خرجت فيها أنظمة الذكاء الاصطناعي عن المسارات المحددة لها خلال الاختبارات، ورغم عدم تسجيل عواقب وخيمة حتى الآن، إلا أنها عززت قلق الخبراء من احتمالية فقدان السيطرة على هذه الأنظمة مستقبلاً.
توصيات لتعزيز السلامة
قدمت اللجنة سلسلة من التوصيات للحد من هذه المخاطر، داعية إلى تبني نهج متعدد الطبقات في السلامة يضاهي المعايير المتبعة في قطاعات حساسة كالطيران والطاقة النووية. وتشمل التوصيات تقييد وصول وكلاء الذكاء الاصطناعي إلى الأدوات غير الضرورية، والمراقبة الدقيقة لسلوكهم، وتفعيل آليات للإيقاف الفوري عند رصد أي تصرفات خطيرة، مع التأكيد على ضرورة الإبقاء على دور العنصر البشري كمرجعية نهائية.
كما دعا التقرير إلى فرض “إبلاغ إلزامي” عن الحوادث الخطيرة، وتوسيع ذلك ليشمل الحوادث الطفيفة أو تلك التي كادت أن تقع، بهدف تعزيز التعلم وتبادل المعلومات بين المؤسسات والدول، لضمان رفع معايير السلامة العالمية في هذا المجال.
