“تطوير الذكاء الاصطناعي يزيد من التنميط العرقي” | العلوم والتكنولوجيا

وشدد الخبراء في الأمم المتحدة على ضرورة تعزيز الجهود العالمية لمكافحة التنميط العرقي ، في ضوء خطر تزايد هذا الاتجاه بسبب تقنيات الذكاء الاصطناعي المستخدمة للتعرف على الوجوه أو تحديد مصادر الخطر المحتملة من قبل الشرطة.

وقالت الخبيرة في مجال حقوق الإنسان فيرين شيبرد لوكالة فرانس برس إن “خطر إعادة إنتاج أنماط التحيز هذه وتفاقمها أو ظهور ممارسات تمييزية” نتيجة للذكاء الاصطناعي. تنتمي هذه المرأة الجامايكية إلى لجنة الأمم المتحدة للقضاء على العنف العنصري ، المؤلفة من 18 خبيراً ، والتي أصدرت تقريراً عن الوسائل المتاحة للسلطات لمعالجة التنميط العنصري الذي تمارسه قوات الأمن.

ولفتت اللجنة الانتباه بشكل خاص إلى خطورة الخوارزميات (وهي سلاسل طويلة من التعليمات) المستخدمة في أدوات “التنبؤ” أو أدوات “تقييم المخاطر” التي تتبناها أجهزة الشرطة ، وكذلك في محركات البحث ومواقع التواصل الاجتماعي لاستهداف المستهدفين الإعلانات ، على سبيل المثال.

كانت هذه الأنظمة للمساعدة في الحفاظ على الأمن والتي كان من المفترض أن تساهم في الحد من الجريمة شائعة لأول مرة في الولايات المتحدة في العقد الثاني من القرن الحادي والعشرين. غالبًا ما يتم انتقادها لتفاقم التحيزات حول مجموعات معينة.

يلاحظ شيبرد أن “البيانات التاريخية حول الاعتقالات في أحد الأحياء قد تعكس ممارسات تحيز من قبل الشرطة” ، والتي بدورها يمكن أن تنعكس في أنظمة الذكاء الاصطناعي. وأضافت: “هذه البيانات قد تزيد من خطر انتشار الشرطة في مكان بأعداد مفرطة ، الأمر الذي قد يؤدي إلى مزيد من الاعتقالات وبالتالي خلق حلقة مفرغة”.

وأعربت اللجنة في توصياتها عن قلقها إزاء تزايد استخدام تقنية التعرف على الوجوه وغيرها من التقنيات المعتمدة في المهمات الأمنية.

في هذه الحالة أيضًا ، ترتبط تحليلات الذكاء الاصطناعي ارتباطًا وثيقًا بالبيانات المستخدمة لتغذية النظام.

أظهرت الدراسات أن هذه الأنظمة تواجه صعوبة في التعرف على الوجوه ذات البشرة الداكنة أو حتى الوجوه الأنثوية.

ومن الأمثلة المعروضة في هذا الصدد ، اعتقال الأمريكي من أصل أفريقي روبرت ويليامز ، هذا العام في ديترويت ، بناءً على تحليلات خوارزمية معطلة خلصت إلى أنه كان أحد المشتبه بهم في السرقة.

وقال شبرد “تلقينا شكاوى من هذا النوع بسبب أصل التقنية والجهات المشرفة على تطويرها والعينات المستخدمة في هذه الأنظمة” ، مؤكدا أن الوضع “حقا مدعاة للقلق”.

وتوصي اللجنة الدول ، على وجه الخصوص ، بتنظيم الشركات العاملة في هذا المجال لضمان توافق هذه اللوائح مع القوانين الدولية لحقوق الإنسان ، وتشدد على أهمية الشفافية من حيث التصميم والتنفيذ ، لا سيما فيما يتعلق بالرأي العام.

تتذكر شيبرد أن “التنميط العرقي لم يبدأ بهذه التقنيات” ، لكنها تأمل أن “يساعد توسع حركة Black Lives Matter … والحملات الأخرى التي تندد بالتمييز الذي يؤثر على بعض الفئات الضعيفة في إبراز أهمية هذه التوصيات”.

Share this post

Leave a Reply

Your email address will not be published. Required fields are marked *