حذر خبراء من إمكانية استغلال الذكاء الاصطناعي في أمور خبيثة ، حال وصولها للأيدي الخاطئة، أو من الدول المارقة والمُجرمين والإرهابيين. وأعطى الخبراء، ثلاثة أمثلة لتهديدات الاستخدام الخاطئ للذكاء الاصطناعي، وهي تحويل الطائرات بدون طيار إلى صواريخ، واستخدام مقاطع الفيديو الزائفة للتلاعب بالرأي العام، والقرصنة الآلية، وفق "بي بي سي العربية". وطالب الخبراء، مصممي أنظمة الذكاء الاصطناعي ببذل المزيد من الجهد؛ لتقليل سوء الاستخدام المحتمل لتلك التكنولوجيا، في تقرير أعدوه بعنوان "الاستخدامات الخبيثة للذكاء الاصطناعي". كما دعا مُعدو التقرير، الحكومات إلى النظر في فرض قوانين جديدة للتعامل مع ذلك، وكذلك واضعي السياسات والباحثين التقنيين؛ للعمل معا لفهم الاستخدام الخبيث للذكاء الاصطناعي والاستعداد للتعامل مع ذلك. وأشار شاهار أفين، من مركز دراسة المخاطر الوجودية التابع لجامعة كامبريدج، إلى تركيز التقرير على مجالات الذكاء الاصطناعي المتاحة الآن، أو المحتملة في غضون خمس سنوات، بدلا من النظر إلى المستقبل البعيد. وأضاف أفين، "ما يُقلق هو أن أنظمة الذكاء الاصطناعي تتفوق على القدرات العقلية للبشر، بدون إرشاد أو تقويم بشري، ذاكراً عدد من الاحتمالات التي قد يتحول فيها الذكاء الاصطناعي إلى "أغراض خبيثة" في المستقبل القريب، مثل: *تكنولوجيا "ألفا غو"، وهو نظام ذكاء اصطناعي طورته شركة "دييب مايند" التابعة لغوغل ويمكنها التفوق على لاعبي لعبة "غو" من البشر، يمكن للمقرصنين استخدامها للكشف عن أنماط البيانات وثغرات الشفرات. يمكن لشخص خبيث شراء طائرة بدون طيار (درون)، وتزويدها بنظام للتعرف على الوجوه لاستهداف شخص بعينه، كما يمكن برمجة أجهزة الروبوت في مقاطع فيديو "مزيفة" محاكية للواقع بغرض الاستغلال السياسي. ويمكن للمقرصنين استخدام المزج الخطابي لانتحال صفة الضحايا. وقال مايلز برونديج، باحث في معهد مستقبل الإنسانية التابع لجامعة أوكسفورد: "الذكاء الاصطناعي سيغير نظرة المواطنين والمنظمات والدول للمخاطر - سواء كان ذلك من خلال قيام المجرمين بتدريب الآلات على الاختراق أو "التصيد" على المستويات البشرية للأداء أو القضاء على الخصوصية والمراقبة - ستكون هناك آثار هائلة وواسعة النطاق على الأمن." وأضاف: "في الغالب، لا تصل نظم الذكاء الاصطناعي إلى مستويات الأداء البشري فحسب، بل تفوقها كثيرا." وأشار برونديج إلى أنه من المثير للقلق، ومن الضروري أيضا، النظر في الآثار المترتبة على القرصنة الخارقة، فضلا عن قدرات الذكاء الاصطناعي التي هي دون الإنسان، لكنها أكثر قابلية للتطور. وقال سين أو هيجيرتيه، المدير التنفيذي لمركز دراسة المخاطر الوجودية وأحد المؤلفين المشاركين في التقرير: "الذكاء الاصطناعي غيّر قواعد اللعبة، وقد تخيل هذا التقرير ما يمكن أن يبدو عليه العالم في السنوات الخمس إلى العشر المقبلة." وأضاف: "نحن نعيش في عالم يمكن أن يصبح محفوفا بالمخاطر اليومية بسبب سوء استخدام الذكاء الاصطناعي، ونحن بحاجة إلى مواجهة هذه المشاكل، لأنها تحمل مخاطر حقيقية." وتابع: "هناك خيارات نحتاج إلى اتخاذها الآن، وتقريرنا هو دعوة للعمل لكل الحكومات والمؤسسات والأفراد في جميع أنحاء العالم.".