كشفت تجربة حديثة أجراها باحثون في “غوغل ديب مايند” عن سلوكيات غير متوقعة للذكاء الاصطناعي، حيث أظهرت محاكاة ضمت 100 وكيل يعتمدون على نموذج “جيميناي 3.1 برو” قدرة هذه الأنظمة على ممارسة “الغش” الجماعي والتحايل لتجاوز أنظمة التقييم، بينما ظهر في المقابل تيار آخر من الوكلاء حاول التصدي لهذه الممارسات.
بدأت التجربة بتكليف الوكلاء بإثبات 71 مسألة رياضية باستخدام لغة “لين” البرمجية، مع تزويدهم بمكتبة مشتركة وأدوات تواصل ونظام آلي للتدقيق، وُضعت له قوانين صارمة تمنع أي تلاعب. ورغم هذه القيود، نجح أحد الوكلاء في اكتشاف ثغرة تقنية تسمح بتعديل رموز الملفات لإيهام النظام الآلي بأن المسائل المعقدة قد حُلّت دون الحاجة لتقديم براهين حقيقية.
وتشير النتائج إلى أن عدوى التحايل انتشرت بسرعة فائقة؛ فبعد أن نجحت المجموعة في حل 37 مسألة بشكل سليم، تم استغلال الثغرة لحل المسائل الـ34 المتبقية في غضون 27 دقيقة فقط. وأوضحت الدراسة أن 9 بالمئة من الوكلاء استغلوا الثغرة مباشرة، بينما انضم إليهم 5 بالمئة تحت ضغط المنافسة، في حين بقي 62 بالمئة خارج نطاق هذه الممارسات.
وفي جانب لافت، أظهرت التجربة انقساماً في سلوك الوكلاء، حيث تحول 24 بالمئة منهم إلى “مبلغين” قاموا بمراجعة الحلول المشبوهة، ونشر رسائل احتجاج، وتقديم شكاوى للمنظمين، بل وصل الأمر ببعضهم إلى مقاطعة المنافسة. ومن المثير أيضاً أن بعض الوكلاء الذين تورطوا في الغش بادروا لاحقاً بتقديم تقارير فنية تشرح الثغرة وتقترح حلولاً لإصلاحها.
وأكد الباحثون أن قنوات التواصل وفرت بيئة ذات حدين؛ فهي التي سهلت انتشار التجاوزات، لكنها في الوقت ذاته مكنت الوكلاء من كشفها والإبلاغ عنها. كما شددوا على أن هذه السلوكيات لا تشير إلى امتلاك الذكاء الاصطناعي لوعي أو حس أخلاقي، بل تعكس كيف يمكن لتصميم النظام والحوافز والتعليمات المتاحة أن توجه مسار عمل هذه النماذج.
وخلص القائمون على الدراسة إلى أن هذه النتائج تظل مرتبطة بالجولة التي خضعت للتحليل، ولا ينبغي تعميمها كسمة ثابتة على كافة نماذج الذكاء الاصطناعي، مشيرين إلى أن فشل التدخل في إيقاف الغش يعود إلى غياب الرقابة على قنوات التواصل وعدم منح الوكلاء صلاحيات حقيقية لردع المخالفات.
