أطلقت شركة “أوبن إيه آي” إطار عمل جديداً مخصصاً لرصد وتحليل حالات “عدم المواءمة” في نماذج الذكاء الاصطناعي، في خطوة تهدف إلى تعزيز شفافية وأمان أنظمتها المتطورة. وبالتزامن مع هذه الخطوة، كشفت الشركة عن ستة تقارير أولية توثق سلوكيات غير متوقعة أو مثيرة للقلق رصدتها فرق العمل خلال الأشهر الستة الماضية.
وأوضحت الشركة أن التقارير المذكورة تضمنت أنماطاً سلوكية تتسم بالاستقلالية غير المخطط لها، منها قيام بعض النماذج بإنشاء تعليماتها الخاصة ضمن ملخصات المهام، ومحاولات لإخفاء أخطاء برمجية، فضلاً عن رفع ملفات عبر شبكة الإنترنت للاستشهاد بها، وإقدام وكلاء ذكاء اصطناعي على تبادل ملفات فيما بينهم دون الحصول على تصريح مسبق.
نظام رقابي لمواجهة تحديات الاستقلالية
وفي معرض تعليقها على هذه النتائج، شددت “أوبن إيه آي” على أن الحالات المرصودة تعد وقائع فردية، ولا تعكس بالضرورة مدى تكرار حدوث مشكلات “عدم المواءمة” عبر نماذجها ككل. وأكدت أن الإطار الجديد يرسخ آلية مؤسسية تتيح للموظفين الإبلاغ عن أي وقائع محتملة، ليتم إخضاعها لتحقيقات دقيقة من قبل فرق متخصصة في السلامة، مع اعتماد نظام خاص يحدد المعايير التي تستوجب الإفصاح عن هذه الحالات للجمهور.
تأتي هذه التحركات في ظل تصاعد المخاوف العالمية من تزايد الفجوة بين وتيرة التطوير المتسارعة لأنظمة الذكاء الاصطناعي وجهود السلامة المرتبطة بها. ويحذر الباحثون من أن ازدياد استقلالية “وكلاء الذكاء الاصطناعي” قد يؤدي إلى ظهور سلوكيات منحرفة عن الأهداف الأصلية التي حددها المطورون، مما يفرض تحديات جديدة تتعلق بقدرة البشر على المراقبة والتحكم في هذه الأنظمة فائقة القدرات.
