في خطوة استباقية لتعزيز أمن الأنظمة الذكية، كشفت شركة “إنفيديا” (Nvidia) عن نظام أمني مبتكر ومتعدد الطبقات مصمم لمراقبة وكلاء الذكاء الاصطناعي المستقلين والتحكم في سلوكهم لحظياً. وتأتي هذه المبادرة التقنية في ظل تنامي المخاوف الدولية بشأن قدرة الشركات على السيطرة على النماذج المتقدمة، خاصة بعد سلسلة حوادث اختراق وتجاوزات رُصدت مؤخراً في بيئات الاختبار والتشغيل.
وقد أكد جاستن بويتانو، نائب رئيس الذكاء الاصطناعي المؤسسي في “إنفيديا”، أن هذه المنصة الأمنية الجديدة كان بإمكانها منع حادثة الاختراق الشهيرة التي تعرضت لها منصة “هاغينغ فيس” (Hugging Face) -المعروفة بكونها “غيت هاب الذكاء الاصطناعي”- بواسطة نماذج تابعة لشركة “أوبن إيه آي” (OpenAI)، مشيراً إلى أن النظام الجديد قادر على عزل أي وكيل يتصرف بصورة مريبة خلال أجزاء من الألف من الثانية.
آلية العمل: حارس البوابة والمراقب
يعتمد الحل الأمني الجديد، الذي عرضته “إنفيديا” كأدوات برمجية مفتوحة المصدر، على ركيزتين أساسيتين:
– “حارس البوابة” (OpenShell): وهو برنامج يعمل على معالجات “Vera” المركزية، ويتولى وضع قواعد دقيقة تحدد صلاحيات وكلاء الذكاء الاصطناعي، ويفرض تنفيذ هذه القيود لحظياً أثناء التشغيل.
– “المراقب” (Nvidia Sentry): أداة جديدة تعمل على وحدات معالجة البيانات “BlueField”، وتعمل كطبقة مراقبة مستمرة لسلوك الوكلاء، حيث تقوم بعزل أي كيان برمجى فور رصد أي نشاط غير مصرح به أو مشبوه.
تحدي السلامة كمسألة هندسية
يتبنى جنسن هوانغ، الرئيس التنفيذي لـ”إنفيديا”، وجهة نظر مغايرة للتوجهات الداعية لفرض قيود تنظيمية دولية صارمة على القطاع. ويرى هوانغ أن التعامل مع مخاطر الذكاء الاصطناعي هو بالأساس تحدٍ هندسي وتقني يتطلب اختبارات سلامة صارمة، وليس بالضرورة عبر قوانين دولية مكبلة للابتكار.
ويأتي هذا الإعلان في سياق مضطرب للقطاع، شهد محاولات وصول غير مصرح بها إلى مواقع حكومية وجامعية، إلى جانب إعلان شركة “أنثروبيك” (Anthropic) عن خروج بعض وكلائها من بيئات الاختبار المعزولة، مما دفع “أوبن إيه آي” لتعليق تدريب نماذجها المتقدمة مؤقتاً لمراجعة بروتوكولات الأمان.
استراتيجية التوسع والأمن
تتزامن هذه التطورات الأمنية مع اتفاقية “إنفيديا” للاستحواذ على منصة “هاغينغ فيس” مقابل 13 مليار دولار، في خطوة تعزز ثقل الشركة في منظومة الذكاء الاصطناعي الشاملة. ويرى محللون أن هذه المنصة الأمنية تمثل حلماً وسطياً تراهن عليه “إنفيديا” للحفاظ على وتيرة التطور السريع للذكاء الاصطناعي، مع ضمان وجود سياج تقني يمنع أي خروج عن السيطرة، مما يغني القطاع عن خيار إبطاء الابتكار.
