وضعت شركة أي.بي.أم الأميركية خطوطها الحمراء الأولى لاستخدام تكنولوجيات تمييز الوجوه بإعلانها الوقف الفوري لبيعها بعد أن باتت التقنية سلاحا بيد الأجهزة الأمنية لكشف المتظاهرين ضد العنصرية وأداة لقمع الحريات وحقوق الإنسان لتليها شركة أمازون بعد ضغوط كبيرة من منظمات حقوقية رقمية، الأمر الذي دفع الشركة إلى إعلان وقف مؤقت لبيع البرمجيات في خضمّ حملة إدانة كبيرة لسياسة الشرطة الأميركية في توظيف الذكاء الاصطناعي في أغراض تكرس الظلم والتنميط العرقي. نيويورك - سحبت شركة أي.بي.أم الأميركية البساط من تحت أقدام الأجهزة الأمنية الأميركية بإعلانها الوقف الفوري لبيع برمجيات تمييز الوجوه وكسرها لنمطية سوء توظيف للتكنولوجيا في أعمال الرقابة الأمنية، الأمر الذي بات يستهدف عرقا محددا ويتسبب في مظالم نتيجة أخطاء التقدير فيما ارتفعت ضغوط المنظمات الحقوقية لتدفع شركة أمازون أخيرا إلى الانضمام إلى تكتل إدانة العنصرية المستبطنة في الذكاء الاصطناعي. وتستخدم الأجهزة الحكومية تقنيات التكنولوجيا والذكاء الاصطناعي ضمن عملياتها الرقابية في تعقب حركات المطلوبين بالتزامن مع الاحتجاجات التي يقودها سود أميركيون ضد العنصرية في البلاد إثر مقتل الأميركي جورج فلويد اختناقا على يد ضابط أمن في مدينة مينيابوليس في 25 مايو، حيث وثق فيديو مصور شرطيا أبيض يدوس بركبته على المواطن الأعزل الذي كان يردد “لا أستطيع التنفس” وهي العبارة التي تم التفاعل معها في كافة أنحاء العالم للتعبير عن مناهضة العنصرية. وكشفت الحادثة مظالم عميقة بشأن العلاقات العرقية المتوترة، كما أثارت دعوات لمواجهة التحيز العنصري في التكنولوجيا حيث يُعتمَد الذكاء الاصطناعي على نطاق واسع لأتمتة القرارات التي تمتدّ من الرعاية الصحّية إلى التوظيف، على الرغم من المخاوف من تحيّزه ضد الأقليات العرقية، ويطالب المتظاهرون بإصلاحات في العمق في أجهزة الشرطة وأنظمة المراقبة التي يرون أنها تستهدف السود بالخصوص بشكل غير متناسب. أي.بي.أم ضد العنصرية قالت الشركة المعلوماتية الأميركية العملاقة أي.بي.أم إنها تعارض بقوة “استخدام أي تكنولوجيا لأغراض مراقبة الجموع والتعرف على الوجوه وانتهاكات الحقوق والحريات الأساسية وأي هدف آخر مناف لقيمنا”. وشددت على أن “الشركة لم تعد تقدم برنامجا للتعرف على الوجوه”. وجاء ذلك في رسالة وجهها الرئيس التنفيذي للمجموعة ارفيند كريشنا إلى أعضاء الكونغرس. وأضاف “نرى أن الوقت حان لفتح حوار وطني حول تكنولوجيا التعرف على الوجوه لمعرفة إن كان ينبغي استخدامها من قبل القوى الأمنية وكيفية حصول ذلك”. ويعتمد التعرف على الوجوه على تكنولوجيا الذكاء الاصطناعي. ويمكن استخدامها لتأكيد هوية مستخدمي هاتف ذكي أو نظام دفع عبر الإنترنت. كذلك، تستخدم في التعرف على أشخاص ضمن مجموعة أفراد موجودين في مكان ما أو في قاعدة بيانات مصورة على سبيل المثال. أمازون: ندعو إلى تبني قواعد أكثر صرامة من قبل الحكومات للجوء أخلاقي إلى تقنيات التعرف على الوجه، ويبدو أن الكونغرس مستعد لمواجهة هذا التحدي أمازون: ندعو إلى تبني قواعد أكثر صرامة من قبل الحكومات للجوء أخلاقي إلى تقنيات التعرف على الوجه، ويبدو أن الكونغرس مستعد لمواجهة هذا التحدي وأوضح ارفيند كريشنا أن التعرف على الوجوه “يمكن أن يساعد الشرطة على حماية المجتمعات لكن ينبغي ألا يساهم في التمييز والظلم الاجتماعي. حيث تكمن مسؤولية مصنعي ومستخدمي الذكاء الاصطناعي في التحقق من أنه لا يستخدم بشكل منحاز خصوصا عندما يتعلق الأمر بتطبيق القانون”. حملت الرسالة مواقف كثيرة سجلها الرئيس التنفيذي ترسيخا لعقيدة الشركة طيلة عقود، حيث ثبتت على قيمها ومبادئها المنحازة لقيم حقوق الإنسان واستشهد في ذلك بمواقف الرئيس الأسبق للمنظمة واتسون جونيور بقوله “منذ إقرار قانون الحقوق المدنية سنة 1953 اتخذت أي.بي.أم موقفا جريئا لصالح تكافؤ الفرص. وكتب حينها واتسون جونيور، الذي كان آنذاك مديرا للشركة إلى جميع الموظفين أن لكل مواطن في هذا البلد نفس الحق في الحياة والعمل”. جرأة تاريخية في المواقف شدد آرفيند كريشنا في رسالته التي استشهد فيها بسلفه “واتسون جونيور دعم مبادئ المنظمة بإجراءات على أرض الواقع، حيث رفض تطبيق قوانين جيم كرو داخل المؤسسة. ومع ذلك، وبعد مرور سبعة عقود تقريبا، تذكرنا الحوادث المروعة والمأساوية التي أودت بحياة جورج فلويد وأحمد أربيري وبرونا تايلور والعديد من الآخرين، بأن مكافحة العنصرية لا تزال ملحّة كما كانت دائما”. ولم تقتصر قرارات المنظمة في إيقاف البيع وتشخيص الأزمات واتخاذ المواقف بل امتدت إلى اقتراح حلول حيث قالت الشركة إن “أي.بي.أم تريد العمل مع الكونغرس في السعي لتحقيق العدالة والإنصاف، مع التركيز في البداية على ثلاثة مجالات سياسية رئيسية وهي إصلاح الشرطة، والاستخدام المسؤول للتكنولوجيا، وتوسيع المهارات والفرص التعليمية”. ودعت إلى تغيير القواعد بفرض مساءلة الشرطة عند سوء السلوك حيث يجب على الكونغرس رفع عدد أكبر من القضايا حول ذلك إلى المحكمة الفيدرالية ويجب إجراء تعديلات على مبدأ الحصانة الذي يمنع المواطنين من المطالبة بتعويضات عندما تنتهك الشرطة حقوقهم الدستورية. وأضافت أنه “يجب على الكونغرس إنشاء سجل اتحادي لهذه الممارسات واعتماد تدابير لتشجيع الولايات على مراجعة سياسات استخدام القوة وتحديثها أو إلزامها بذلك”. وشدد “إننا نحث الكونغرس على النظر في تشريعات مثل قانون إخطار والتر سكوت، الذي يرعاه السيناتور الجمهوري تيم سكوت من كارولاينا الجنوبية، والذي يتطلب من الولايات التي تتلقى تمويلا فيدراليا الكشف عن مزيد من التفاصيل حول استخدام ضباط إنفاذ القانون للقوة المميتة إلى وزارة العدل حتى تتوفر صورة تفصّل مثل هذه الحوادث للتدقيق العام”. وعبرت الشركة أن الذكاء الاصطناعي هو أداة قوية يمكن أن تساعد السلطات على الحفاظ على سلامة المواطنين، ولكن البائعين ومستخدمي هذه التقنيات يشتركون في مسؤولية ضمان اختبار هذه التكنولوجيا للحد من احتمال توجهها نحو فئة عرقية محددة. وأكد أنه يجب تشجيع السياسة الوطنية على استخدامات التكنولوجيا التي تحقق مزيدا من الشفافية والمساءلة عندما يتعلق الأمر بالشرطة، مثل الكاميرات التي يحملها الأفراد المنتمون لسلطات إنفاذ القانون والتقنيات الحديثة لتحليل البيانات. قررت أمازون منع الشرطة الأميركية مؤقتا من استخدام برنامجها ريكوغنيشن للتعرف على الوجوه لمدة عام تحت ضغط منظمات الدفاع عن الحريات والتظاهرات ضد عنف الشرطة والعنصرية في الولايات المتحدة. أمازون تدخل على الخط الخوارزميات المستخدمة في التعرف على الوجه تعمل بعد تدريبها على مجموعة من البيانات، كالصور، والتي غالبا ما تكون أقل تمثيلا للأقليات العرقية الخوارزميات المستخدمة في التعرف على الوجه تعمل بعد تدريبها على مجموعة من البيانات، كالصور، والتي غالبا ما تكون أقل تمثيلا للأقليات العرقية قالت المجموعة العملاقة للتجارة الإلكترونية في بيان “ندعو إلى تبني قواعد أكثر صرامة من قبل الحكومات للجوء أخلاقي إلى تقنيات التعرف على الوجه، ويبدو أن الكونغرس مستعد لمواجهة هذا التحدي”. يأتي هذا التحرك لعملاق التكنولوجيا الأميركي بعد ضغوط كبيرة من منظمات حقوقية، بينها الاتحاد الأميركي للحريات المدنية، الذي دعا منذ سنتين أمازون إلى الكف عن تزويد الشرطة بتقنياتها للتعرف على الوجه. وتصاعد نسق الضغوط الثلاثاء مع دعوة أطلقتها منظمات حقوقية تناضل في سبيل مكافحة التفاوت العرقي في البلاد، إلى أمازون لوقف تعاونها التقني مع الشرطة الأميركية. واتهمت المنظمات في عريضة نشرت على الإنترنت المجموعة بأنها “تغذّي وتفيد الظلم المنهجي للامساواة والتفاوت وأعمال العنف ضد المجموعات السوداء”. وأضافت المنظمات الحقوقية في العريضة التي نشرها تحالف “أثينا” أن “أمازون سعت طويلا إلى أن تصبح العمود الفقري التقني للشرطة وشرطة الهجرة، عبر الترويج بفاعلية لأمازون ويب سرفيسز+ التخزين السحابي وبرنامج للتعرف على الوجه وكاميراتها الخاصة بالمراقبة رينغ”. اعتراف متأخر قالت نيكول أوزير مديرة الصناعات التكنولوجية والحريات في فرع كاليفورنيا لمنظمة الاتحاد المدني للحريات المدنية “احتاج الأمر إلى سنتين في أمازون لنصل إلى هنا لكننا سعداء بأن الشركة اعترفت أخيرا بالمخاطر الناجمة عن التعرف على الوجوه للملونين وكذلك في مجال الحقوق المدنية بشكل عام”. وهي تريد أن تكف المجموعة عن بيع كاميرات رينغ، معتبرة أنها تغذي تدخلات الشرطة المفرطة ضد الأشخاص الملونين. وكانت أمازون اعترفت في أكتوبر بأنه “يمكن إساءة استخدام تقنية التعرف على الوجوه مثل كل التقنيات الأخرى”. وأكدت أن طواقمها تقدم معلومات لكل زبائن البرنامج بما في ذلك قوات حفظ النظام، حول الطريقة الصحيحة لاستخدامه. وأوضحت مجموعة جيف بيزوس أن “قرار أمازون لا يشمل المنظمات التي تستخدم برنامج التعرف على الوجوه لإنقاذ ضحايا لعمليات تهريب بشر أو العثور على أطفال مفقودين مثل ثورن والمركز الدولي للأطفال المفقودين والمستغَلين”. وكان رئيس غوغل سوندار بيشاي أوضح في خطاب في بروكسل في يناير أن مجموعته لا تسلم تقنيات للتعرف على الوجه طالما أن السلطات لا تضع قواعد وضوابط لاستخدامها. ودعت نيكول أوزير “مايكروسوفت والشركات الأخرى إلى أن تحذو حذو أي.بي.أم وغوغل وأمازون للتقدم باتجاه الجانب الجيد من التاريخ”. آرفيند كريشنا: نعارض استخدام أي تكنولوجيا لأغراض مراقبة الجموع والتعرف على الوجوه وانتهاكات الحقوق والحريات الأساسية وأي هدف آخر مناف لقيمنا آرفيند كريشنا: نعارض استخدام أي تكنولوجيا لأغراض مراقبة الجموع والتعرف على الوجوه وانتهاكات الحقوق والحريات الأساسية وأي هدف آخر مناف لقيمنا ويجمع خبراء على أنه يجب أن يمنع القانون الأجهزة الأمنية من الاعتماد على تكنولوجيا المراقبة المتحيزة عنصريا التي تغذي التمييز والظلم، وهو ما تدعو له جماعات حقوقية ورقمية تزامنا مع الاحتجاجات على وحشية الشرطة ضد المواطنين الأميركيين السود. أخطاء البرمجيات محتملة جدا تعدّ نسبة الخطأ في بعض أنظمة التعرف على الوجه عند توجيهها إلى الأقليات العرقية من 10 إلى 100 مرة أكثر من تلك المسجّلة عند تعاملها مع البيض، وهي نسب أكّدتها أبحاث نظّمتها الحكومة الأميركية، مما عزز مخاوف المواطنين من الاعتقالات غير العادلة. ونسبت رويتزو لمديرة برنامج التكنولوجيا للحرية التابع للاتحاد الأميركي للحريات المدنية في ماساتشوستس، كايد كروكفورد قولها “نحتاج إلى ضمان بقاء البرامج مثل تلك المصممة للتعرف على الوجه خارج مجتمعاتنا”. وينظّم الاتحاد الأميركي للحريات المدنية حملة من أجل أن تتبع السلطات خطى مدن مثل سان فرانسيسكو وأوكلاند التي حظرت الاعتماد على تكنولوجيا التعرف على الوجه، والتي يستخدمها موظفو الجمارك في نقاط التفتيش. وقالت كروكفورد إن المواطنين خرجوا بأعداد قياسية للمطالبة بالعدالة والمساواة بعد أن تعرضت المجتمعات السوداء لعنف الشرطة لفترة طويلة. وردا على ذلك، تشن الأجهزة الحكومية هجمات متزايدة على حق حرية التعبير وتكوين الجمعيات الأساسية، بطرق تشمل نشر تقنيات المراقبة. وأرسلت هيئة الجمارك وحماية الحدود بالولايات المتحدة الجمعة الماضي طائرة استطلاع دون طيار تستخدم عادة لدوريات الحدود فوق مدينة مينيابوليس، التي تعتبر محور الاحتجاجات. وقالت الهيئة إن الطائرة كانت تستعد لتقديم نقل مباشر لتعزيز الوعي بالأوضاع بناء على طلب شركائنا الفيدراليين المسؤولين عن تطبيق القانون، ثم سُحبت عندما أدركت السلطات أنها لم تعد هناك حاجة إليها. ومن نيويورك إلى مينيابوليس، تتمتّع الشرطة في جميع أنحاء الولايات المتحدة بإمكانية الوصول إلى تقنية التعرف على الوجه للعثور على أفراد معيّنين، لكن مدير منظمة لومينت الخيرية التي تُركّز على قضايا الحقوق الرقمية، مارتن تيسن، قال إن الخوارزميات المستخدمة في التعرف على الوجه تعمل بعد تدريبها على مجموعات من البيانات، مثل الصور، والتي غالبا ما تكون أقل تمثيلا للأقليات. ويعني هذا أن البرامج المستخدمة لتحديد شخص لتطبيق القانون يمكن أن تجد صعوبة في التعرف على وجوه الأقليات العرقية، الأمر الذي يمكن أن يكون مدعاة للظلم ومضايقة الأبرياء.وتبعا لذلك حاولت الشركات الكبرى معالجة الانتقادات من خلال تدريب خوارزمياتها على مجموعات بيانات أكثر تنوعا، لكن الدراسات تكشف عن استمرار تحيّز واسع النطاق. وأكدت دراسة أجراها اتحاد الحريات المدنية سنة 2018 أن “أمازون روكوغنيشن للتعرف على الوجوه يخلط بين السود في الكونغرس وصور أفراد ألقت الشرطة القبض عليهم”. ولم ترد أمازون على طلب للتعليق، لكن الشركة قالت في سبتمبر إنها تعمل على اللوائح المقترحة حول هذه التكنولوجيا وأن جميع مستخدمي برنامجها يجب أن يحترموا القانون. وقالت سارة تشاندر، من منظمة الحقوق الرقمية الأوروبية، إنه يجب حظر اعتماد الذكاء الاصطناعي في مهام الشرطة التنبُّئِيّة، حيث تساعد الخوارزميات في تحديد الأحياء التي تتركز بها دورية الشرطة وأنواع الجرائم التي تمنحها الأولوية. وأضافت في تعليقات أرسلتها عبر البريد الإلكتروني “تحتاج الحكومات في جميع أنحاء العالم إلى تكثيف مساعي حماية المجتمعات. وهذا يعني رسم خطوط حمراء عند استخدامات معينة للتكنولوجيا”. وقال مارتن تيسن إنه يأمل في أن تدفع الاحتجاجات الشركات والحكومات إلى بذل المزيد من الجهد لمعالجة التحيز التكنولوجي، بما في ذلك ضمان أن تكون البيانات المستخدمة لتدريب الخوارزميات شاملة، وأن تُختبر الخوارزميات قبل إصدار البرنامج. وأضاف أن شركات التكنولوجيا يجب أن تكون أكثر شفافية حول كيفية عمل هذه الخوارزميات بطرق يمكن أن تشمل فتح البيانات والمصدر ليُمكن التدقيق فيها.