حذر باحثون من أن الاعتماد المتزايد على تقنيات الذكاء الاصطناعي في العمل الشرطي قد يؤدي إلى تفاقم التمييز المنهجي، حيث تعمل هذه الأنظمة على تحويل البيانات التاريخية المتحيزة إلى تنبؤات تبدو في ظاهرها محايدة وموضوعية.
وتعتمد الخوارزميات المستخدمة في التنبؤ بالجريمة على سجلات الجرائم السابقة لتحديد المناطق “الأكثر عرضة” للخطر، مما يدفع الشرطة لتكثيف دورياتها في تلك المناطق. وبسبب هذا التواجد الأمني المكثف، يتم تسجيل عدد أكبر من الجرائم، بينما تبقى المناطق خارج نطاق التغطية تحت المراقبة أقل، مما يؤدي إلى تضخيم البيانات في المناطق المحددة مسبقاً وإنشاء “حلقة تغذية راجعة” تزيد من حدة التحيز بمرور الوقت.
خطر “حلقات التغذية الراجعة”
وفي هذا السياق، أجرت سارة براين، عالمة الاجتماع بجامعة تكساس في أوستن، دراسة ميدانية داخل قسم شرطة لوس أنجلوس، نُشرت نتائجها في “المجلة الأمريكية لعلم الاجتماع”. وأشارت براين إلى أن القوات الأمنية تحولت من مجرد الاستجابة للبلاغات إلى استخدام البيانات للتنبؤ بمواقع الجرائم. وخلصت الدراسة إلى أن البيانات المستخدمة في هذه الأنظمة تعاني من انحيازات واضحة، حيث تركز الشرطة بشكل غير متناسب على الأحياء التي يقطنها أصحاب البشرة السمراء، مما يجعل المخرجات النهائية للذكاء الاصطناعي تبدو “محايدة” رغم أنها مبنية على سجلات مشوهة.
وتؤكد براين أن هذه النماذج تخلق حلقة مفرغة لا تتنبأ فقط بالأحداث الجرمية أو الاتصال مع الشرطة، بل تساهم بفاعلية في وقوع تلك الأحداث مستقبلاً.
جدل حول دقة التكنولوجيا
في المقابل، يرى الدكتور ديميتريوس كولاياس، الأستاذ المشارك في الذكاء الاصطناعي متعدد الوسائط بجامعة “كوين ماري” في لندن، أن التكنولوجيا الحديثة تطورت بما يكفي لتجاوز مشكلات البيانات التاريخية. وأوضح أن أنظمة الذكاء الاصطناعي المعاصرة لا تكتفي باسترجاع الأمثلة التي تدربت عليها، بل تمتلك القدرة على دمج المعلومات المكتسبة بطرق مبتكرة وتوليد حلول لم تكن موجودة بشكل صريح في البيانات الأولية.
ومع ذلك، يقر كولاياس بأن هذه القدرات المتطورة تحمل مخاطر من نوع آخر، مشدداً على ضرورة ضمان بقاء سلوك هذه الأنظمة آمناً وموثوقاً، مع الحفاظ على سيطرة بشرية فعالة عليها في ظل تزايد استقلالية هذه التقنيات في اتخاذ القرارات.
