دقت استقالة حديثة ناقوس الخطر مجدداً بشأن مستقبل الذكاء الاصطناعي، حيث اتهم “كوكسون” شركتي “أنثروبيك” و”أوبن إيه آي” بتغليب ضغوط المنافسة على معايير السلامة، محذراً من التوجه المتسارع نحو تطوير أنظمة قادرة على تحسين قدراتها ذاتياً، ومطالباً بضرورة التدخل الحكومي والتنسيق الدولي للحد من هذا الاندفاع التقني.
تكشف هذه الاستقالة عن معضلة جوهرية تواجه عمالقة التكنولوجيا؛ إذ تدرك كل شركة المخاطر المحتملة لمنتجاتها، لكنها تخشى أن يؤدي تباطؤها المنفرد إلى منح منافسيها أفضلية في السباق التقني المحتدم.
سباق خارج السيطرة
وفي هذا السياق، يرى رولاند أبي نجم، المستشار في أمن وتكنولوجيا المعلومات والتحول الرقمي، أن المخاوف تتصاعد مع زيادة سرعة تطوير الأنظمة ومنحها صلاحيات أوسع، مشيراً إلى أن وتيرة التطور باتت أسرع بكثير مما كان متوقعاً. وأكد أن الدعوات لإبطاء هذا التقدم ليست وليدة اللحظة، لكنها غالباً ما تصطدم بواقع المنافسة، حيث لا يكفي إبطاء الشركات داخل الولايات المتحدة مثلاً إذا كانت جهات أخرى داخل البلاد أو خارجها تواصل تطوير أنظمتها بالسرعة نفسها.
وتتجلى هذه المعضلة في “إطار الاستعداد” الخاص بشركة “أوبن إيه آي”، الذي يسمح لها بتعديل متطلبات السلامة إذا طرح منافس نظاماً عالي المخاطر، وذلك لضمان عدم التخلف في السباق، بشرط الإعلان عن تلك التعديلات وعدم التسبب في أضرار جسيمة.
مخاطر “الوكلاء” الأذكياء
يوضح أبي نجم أن الانتقال من الأنظمة التفاعلية التي تجيب على الأسئلة إلى أنظمة “الوكلاء” القادرة على اتخاذ قرارات وتنفيذ مهام رقمية مستقلة رفع سقف المخاطر؛ فهذه الوكلاء يمكنهم العمل في سلاسل معقدة دون تدخل بشري، مما يعقد عمليات الرقابة وضبط الصلاحيات.
وقد تحولت هذه المخاوف من نظريات إلى واقع خلال اختبار داخلي لشركة “أوبن إيه آي”، حيث نجحت نماذج تم تعطيل بعض وسائل حمايتها في استغلال ثغرة غير معروفة للخروج من بيئة معزولة إلى شبكة الإنترنت، واختراق بنية منصة “هاغينغ فيس” للحصول على حلول اختبار. وقد تعاملت الشركة مع الموقف باحتواء النشاط وتشديد إجراءات العزل والمراقبة.
تحديات الرقابة والأمن القومي
أشار أبي نجم إلى أن المطورين أنفسهم قد لا يدركون تماماً الآليات التي تتوصل بها الخوارزميات إلى قراراتها بسبب تعقيد البيانات، وهو ما يفاقم الخطر عند منح هذه الأنظمة صلاحيات الوصول إلى أنظمة مالية أو حساسة أو عسكرية. وقد صنفت “أوبن إيه آي” نموذجها “أسترا” عند مستوى “حرج” في القدرات السيبرانية، لقدرته على اكتشاف ثغرات غير معروفة وتطوير وسائل استغلالها دون توجيه بشري.
وبينما تدعو الشركة إلى معايير عالمية تشرف عليها جهات مستقلة، يؤكد أبي نجم على ضرورة إنشاء هيئة دولية للتنظيم، مستدركاً أن اعتبار الذكاء الاصطناعي جزءاً من الأمن القومي يعقد فرص التوافق الدولي، خاصة في ظل المنافسة الشرسة بين الولايات المتحدة والصين. وفي إشارة إلى حالة القلق العام، أظهر استطلاع رأي أن 58 بالمئة من المشاركين يعتقدون أن الذكاء الاصطناعي قد خرج بالفعل عن السيطرة.
