قال خواكين كانديلا المدير في شركة «فيسبوك» إن الشركة تعمل على تقنية للإبلاغ تلقائيا عن المواد غير اللائقة في البث المباشر بالفيديو، لتواصل جهودا متنامية لاستغلال الذكاء الصناعي لمراقبة المحتوى. ودخلت شركة موقع التواصل الاجتماعي طرفا في عدد من القضايا الجدلية بشأن المحتوى هذا العام، من مواجهة انتقادات دولية بعد حذفها صورة ترمز إلى حرب فيتنام بسبب العري إلى السماح بنشر أخبار زائفة على الموقع. واعتمدت «فيسبوك» عادة في الغالب على المستخدمين في الإبلاغ عن المنشورات غير اللائقة التي يفحصها بعد ذلك موظفون بالشركة لمطابقتها «بالمعايير المجتمعية». ويتخذ المسؤولون التنفيذيون الكبار في الشركة القرارات بشأن القضايا الشائكة التي قد تتطلب تغييرات في السياسية. وأبلغ كانديلا الصحافيين أن «فيسبوك» تستعين بشكل متزايد بالذكاء الصناعي لرصد المحتوى غير اللائق. وقال: «إنها مجموعة من القواعد التي ترصد العري أو العنف أو أيا من الأشياء التي لا تتفق مع سياساتنا». وتعمل الشركة بالفعل على استخدام النظم الآلية للإبلاغ عن محتوي الفيديو المتطرف، وهو ما نشرته «رويترز» في يونيو (حزيران). وأوضحت وكالة رويترز أنه يجري أيضا اختبار النظام الآلي على خدمة «فيسبوك لايف»، وهي خدمة للبث المباشر للفيديو. وقال كانديلا إن استخدام الذكاء الصناعي للإبلاغ عن محتوى الفيديو المباشر غير اللائق لا يزال في مرحلة الأبحاث. وقالت الشركة إنها تستخدم أيضا النظام الآلي لمعالجة عشرات الملايين من البلاغات التي تفحصها أسبوعيا وللتعرف على البلاغات المتكررة وتوجيه المحتوى المبلغ عنه إلى المراجعين أصحاب الخبرات المناسبة في الموضوع ذي الصلة. كان مارك زوكربرغ الرئيس التنفيذي للشركة قال في نوفمبر (تشرين الثاني) إن «فيسبوك» قد تلجأ إلى النظام الآلي في إطار خطة لرصد الأخبار الزائفة. غير أن الشركة قالت إن تحديد ما إذا كان تعليق ما ينطوي - على سبيل المثال - على كراهية أو ترويع يتطلب سياقا خاصا. ورفض جان ليكون مدير الأبحاث لدى «فيسبوك» التعليق بشأن استخدام الذكاء الصناعي لرصد الأخبار الزائفة، لكنه قال إن تحسين تدفقات الأخبار بوجه عام أثار تساؤلات بشأن المفاضلة بين الترشيح والرقابة وبين حرية التعبير والآداب العامة والمصداقية. وقال: «تلك أمور تذهب لما هو أبعد مما إذا كان بوسعنا تطوير الذكاء الصناعي. إنها مفاضلات لست في موقع يسمح لي بحسمها».