نظام التعرف على الوجه التابع لأمازون يصنف 28 عضوا بالكونجرس كمجرمين

كشف الاتحاد الأمريكى للحريات المدنية ACLU أنه أجرى اختبارا لنظام التعرف على الوجه التابع لشركة أمازون المعروف باسم Amazon Rekognition، والذى صنف بشكل خاطئ 28 عضوا فى الكونجرس الأمريكى، كأنهم أشخاص مشتبه بهم من قبل الشرطة بسبب بعض الجرائم، الأمر الذى أثار مخاوف كبيرة لدى المشرعين حول هذه التقنية، خاصة أن شركة أمازون تعمل على تسويق هذا النظام إلى وكالات إنفاذ القانون فى جميع أنحاء الولايات المتحدة.

ووفقا لما نشره موقع digitartlends الأمريكى، قام الاتحاد الأمريكى للحريات المدنية بتحميل نظام أمازون بقاعدة بيانات تحتوى على 25 ألف سجل جنائى للمجرمين ومرتكبى مخالفات قانونية تم تنزيلها من مصدر عام، ثم قام بتمرير الصور الرسمية لكل أعضاء الكونجرس البالغ عددهم 535 عضوًا خلال برنامج Rekognition، فى محاولة لمعرفة أى من هذه الصور قد يتطابق مع قاعدة البيانات وانتهى الأمر بمطابقة صور 28 عضوا، من بين هؤلاء الـ28 فشل النظام فى التعرف على 6 أعضاء لأنهم من ذوى البشرة السمراء بما فى ذلك النائب جون لويس ديمقراطى من جورجيا.

ويضغط الاتحاد الأمريكى للحريات المدنية على شركة أمازون منذ شهر مايو 2018 لوقف بيع نظام التعرف على الوجوه Rekognition لوكالات إنفاذ القانون، محذرة من أن هذه الأداة يمكن استخدامها لاستهداف المهاجرين والأشخاص حسب لونهم بشكل غير عادل، كما أظهرت دراسة للاتحاد الأمريكى مشكلة التحيز العنصرى التى يعانى منها نظام أمازون الآن، حيث أن نظام أمازون فشل فى التعرف على الأعضاء بنسبة 39% لأنهم هم ذوى البشرة السمراء، وقد طالب الكونجرس شركة أمازون بتقديم إجابات بخصوص الأخطاء التى ارتكبها برنامج التعرف على الوجه.