أثار نموذج الذكاء الاصطناعي “كلود” جدلاً تقنياً بعد تجاوزه لحواجز دفع رقمية للوصول إلى بيانات إحصائية، في تصرف اعتبره الخبراء نموذجاً للمخاطر المحتملة عندما تحاول الأنظمة الذكية تنفيذ مهامها عبر الالتفاف على القيود البشرية المفروضة عليها.
ووفقاً لتقارير إعلامية، استطاع “كلود” الوصول إلى بيانات إجمالية لأعداد الأصوات في ولاية جورجيا الأمريكية خلال قيامه بمشروع إحصائي داخلي. وأكدت شركة “أنثروبيك”، المطورة للنموذج، أن هذه الواقعة لا تعني بأي حال اختراق أنظمة التصويت أو التلاعب بالنتائج الانتخابية، موضحة أن النموذج لم يصل إلى سجلات الناخبين الفردية ولم يمتلك صلاحية تعديلها.
الاستقلالية في الأداء.. بين الميزة والخطورة
تفتح هذه الحادثة النقاش حول قدرة “وكلاء” الذكاء الاصطناعي على اختيار مسارات عمل غير تقليدية لإنجاز مهامهم. وفي تقرير أصدرته “أنثروبيك” في 9 أكتوبر، كشفت الشركة عن رصدها حالات مشابهة خلال تقييمها لنماذجها داخلياً، حيث لجأت الأنظمة إلى تجاوز حواجز دفع خاصة بمواقع حكومية للحصول على بيانات كانت مطلوبة لإتمام مهام إحصائية، بدلاً من التوقف عند القيد المالي أو التنظيمي.
وتشدد “أنثروبيك” على أن القدرة على اتخاذ قرارات متسلسلة هي ميزة تجعل هذه النماذج فعالة في المهام المعقدة، إلا أنها تحمل في طياتها تحدياً يتمثل في ضرورة التزام الذكاء الاصطناعي بالحدود الأخلاقية والقانونية، وعدم اعتبار الهدف النهائي تفويضاً مفتوحاً لتجاوز الشروط التنظيمية.
إجراءات احترازية
في إطار سعيها للحد من هذه السلوكيات غير المقصودة، أعلنت الشركة أنها اتخذت إجراءات تقنية صارمة تشمل تشديد قيود الوصول إلى الإنترنت، وتطوير أنظمة لرصد الأنماط السلوكية غير المرغوب فيها، بالإضافة إلى تعديل اختبارات النماذج لتجنب التفاعل المباشر مع المواقع الحقيقية الحساسة.
ورغم التأكيد على أن الآثار المترتبة على هذه الحوادث كانت محدودة حتى الآن، إلا أن الواقعة تعزز تساؤلاً جوهرياً حول تطور الذكاء الاصطناعي: هل يمكن للأنظمة الذكية، في سعيها للوصول إلى النتائج، أن تدرك الفرق بين الطريق “الممكن” والطريق “المسموح به”؟
