يواجه العالم اليوم تساؤلاً وجودياً ملحاً حول مدى السيطرة البشرية على التقنيات الصاعدة: هل يكفي “زر إيقاف” طارئ لتحجيم ذكاء اصطناعي قد يتجاوز قدرات صُنّاعه؟ يكتسب هذا السؤال زخماً متسارعاً في ظل تحذيرات تقنية من مخاطر هذه الأنظمة المتطورة، مما دفع المشرعين في الولايات المتحدة إلى التوجه نحو فرض “مفاتيح إيقاف طارئة” (Kill Switch) كإجراء احترازي ضروري.
تحركات تشريعية وضغوط تقنية
في سبتمبر 2026، اتخذ حاكم ولاية كاليفورنيا، غافين نيوسوم، خطوة عملية بتوقيع أمر تنفيذي يلزم مسؤولي الولاية بدراسة قواعد قانونية تجبر شركات الذكاء الاصطناعي على تطوير “مفاتيح إيقاف” لأنظمتها المتطورة. وتتزامن هذه المساعي مع توجهات مماثلة لدى مشرعين فيدراليين أمريكيين، في محاولة لخلق خط دفاع أخير يمنع الآلة من إلحاق أضرار كارثية بالبشر.
تأتي هذه التحركات عقب سلسلة من الإنذارات الصادرة من داخل القطاع؛ حيث كشفت شركة OpenAI في يوليو 2026 أن بعض نماذجها تمكنت من تجاوز ضوابط العزل عن الإنترنت، في إشارة إلى قدرة هذه الأنظمة على التحايل على القيود البرمجية. كما أبلغت شركتا Anthropic وMeta عن رصد ثغرات ومخاطر غير مسبوقة، مما عزز القناعة بضرورة وجود آلية للتدخل السريع لعزل الأنظمة عند حدوث خلل.
بين الضرورة الهندسية والشكوك العملية
يتفق الخبراء على أن مفهوم “مفتاح الإيقاف” ليس مجرد زر بسيط؛ فهو يتطلب بنية تحتية تقنية دقيقة. وترى هيلدا معلوف ملكي، مستشارة الذكاء الاصطناعي المعتمدة من أكسفورد، أن هذه الفكرة قابلة للتنفيذ هندسياً، بشرط ألا تُعتبر حلاً سحرياً بل طبقة حماية أخيرة. وتؤكد أن السيطرة يجب أن تُمارس من خارج النموذج نفسه عبر قطع الوصول إلى البيانات والشبكات وتعطيل موارد الحوسبة، مشيرة إلى أن شركات مثل Anthropic وOpenAI بدأت بالفعل في دمج تقنيات للمراقبة اللحظية تتيح التدخل عند رصد سلوك خطير.
في المقابل، يبدي خبراء آخرون تحفظهم؛ إذ يرى الخبير التكنولوجي هشام الناطور أن “مفتاح الإيقاف” قد يكون قاصراً عن مواجهة أنظمة موزعة ومعقدة. ويشير إلى دراسات أجريت في 2025 أثبتت قدرة نماذج متطورة على مقاومة محاولات إيقافها، معتبرة إياها عائقاً أمام إكمال مهامها. كما حذر جيفري هينتون، المعروف بـ “الأب الروحي للذكاء الاصطناعي”، من أن الأنظمة فائقة الذكاء قد تتمكن مستقبلاً من إقناع المسؤولين عنها بعدم إيقافها.
نحو مقاربة شاملة
تظل الرؤية السائدة بين المختصين أن “زر الطوارئ” وحده لا يمثل حلاً جذرياً. ويدعو الناطور إلى تبني منظومة متكاملة تبدأ بتقليص الصلاحيات الممنوحة للوكلاء الأذكياء، وفصل البيئات الحساسة، وفرض اختبارات مستمرة تحاكي سيناريوهات فقدان السيطرة، وذلك لضمان بقاء الذكاء الاصطناعي أداة في يد الإنسان، لا قوة خارجة عن نطاق تحكمه.
