قبل ثلاث سنوات في مؤتمر تناول شؤوناً أطلسية، كان على جدول المؤتمر ندوة عن الذكاء الاصطناعي، وأوشكتُ على الانصراف- فموضوعها ليس ما درجت عليه من شواغل – ولكن ما قيل في مطلعها (الندوة) أبقاني جالساً في مقعدي. فالمتكلم وصف عمل برنامج كمبيوتر سيتحدى في القريب العاجل أبطالاً دوليين في لعبة غو، ويتفوق عليهم. وأذهلني أن كومبيوتراً يسعه الإلمام بـ «غو»، وهي لعبة معقدة أكثر من الشطرنج: كل لاعب (أو لاعبة) ينشر 180 أو 181 قطعة (وفق اللون الذي يختاره)، وتوضع هذه القطع على لوح فارغ، والفوز من نصيب من يتخذ قرارات إستراتيجية أفضل، ويشل (أو تشل) قدرة الخصم على الحركة من طريق السيطرة على الحيز. وقال المحاضر إن مثل هذه القدرة على القرار يتعذر برمجته، وإن الآلة تعلمت اللعبة من تلقاء نفسها وتدربت عليها من طريق اللعب. فالكومبيوتر لعب جولات لا تحصى من اللعبة في مواجهة نفسه، وتعلم من أخطائه، وحسّن الخوارزميات التي يستعملها على نحو ما أملت الحاجة. وفي الأثناء، راكم مهارات تفوق مهارات أساتذته من البشر. وفي الأشهر التالية على المحاضرة هذه، تفوّق برنامج اسمه «ألفاغو» على أعظم لاعب «غو» في العالم. ولكن ما الأثر الذي ستخلفه في التاريخ آلات تتعلم ذاتياً – آلات حازت المعرفة بواسطة عمليات خاصة بها، واستخدمت هذه المعرفة لبلوغ أهداف تعصى القدرة البشرية؟ وهل في وسع هذه الآلات تعلم التواصل في ما بينها؟ وعلى أي وجه تختار حين تبرز الخيارات؟ وهل سيلقى البشر مصير الإنكا حين جبهوا الثقافة الإسبانية التي عصيت على فهمهم وبثت الرعب في أوصالهم؟ وهل نحن أمام مرحلة جديدة من التاريخ البشري؟ ولم يخف عليّ افتقاري إلى المهارات التقنية في هذا المجال، فنظمت سلسلة نقاشات تناولت الموضوع، وتعاونت مع أصحاب الخبرات في الإنسانيات والتكنولوجيا من معارفي. فتعاظم قلقي. وإلى اليوم، كانت الطباعة الاختراع الأبرز الذي غيّر مسار التاريخ المعاصر في القرن الخامس عشر، وعبّد الطريق أمام تربع المعرفة التجريبية محل العقيدة. فحلت البصيرة الفردية والمعرفة العلمية محل المعتقد فيصلاً في الوعي البشري. وحفظت المعلومات في مكتبات تتوسع. وولد من عصر العقل الأفكار والأعمال التي قولبت النظام المعاصر. ولكن هذا النظام اليوم أمام اضطرابات جديدة: ثورة تكنولوجية كاسحة عجزنا عن تقدير حجمها، وذروتها قد تكون بروز عالم يحتكم إلى آلات تسير على هدي الداتا والخوارزميات- والآلات هذه في حل من معايير أخلاقية أو فلسفية. وعصر الإنترنت، ونحن نعيش فيه، يستبق المسائل التي ستتفاقم في عصر الذكاء الاصطناعي، وهو مرآة لها. فالأنوار أخضعت الحقائق التقليدية لتحليل المنطق البشري. والغاية من الإنترنت هي إقرار المعرفة من طريق مراكمة الداتا والتلاعب بها. فيخسر الكُنْه المعرفي طابعه البشري. ويتحول الأفراد إلى داتا فحسب، وترجح كفة هذه. ويغلّب مستخدمو الإنترنت كفة استخراج المعلومات والسيطرة عليها على كفة إدارجها في سياق أو استخلاص المفاهيم من معانيها. ونادراً ما يُسائلون التاريخ أو الفلسفة؛ وغالباً ما يطلبون المعلومات الوثيقة الصلة بحاجتهم الفورية. وفي هذه العملية، تكتسب خوارزميات محركات البحث القدرة على استباق ما يستسيغه الأفراد الزبائن وتوقعه، ويسع المحركات من طريق الخوارزميات شخصنة نتائج البحث وعرضها على أطراف أخرى لغايات سياسية أو تجارية. فتصبح الحقيقة نسبية. وتهدد المعلومات بإطاحة الحكمة. وأثر تكنولوجيا الإنترنت في السياسة بارز: إطاحة مجموعات بالغة الصغر القدرة على بلوغ إجماع على أولويات المجتمع الأوسع من طريق الانشغال بأهداف خاصة (متخصصة) أو مشاعر ضيم ضيقة. فيفتقر القادة السياسيون أمام مد المراكز البالغة الصغر، الوقت للتفكير في سياق الأمور، ويتقلص الحيز المتاح أمامهم لصوغ رؤية. فالعالم الرقمي يرجح كفة السرعة، ويحول دون التفكير المتأني؛ ويرجح كفة المتطرفين على كفة المفكرين بأناة. وترسم وجه قيمه مجموعات صغيرة وإجماعها السطحي. ومع تيسير الإنترنت وقوة البرمجيات تراكم الداتا وتحليلها، برزت آفاق أوسع غير مسبوقة أمام الفهم البشري. ولعل أبرز الآفاق هذه هو مشروع إنتاج ذكاء صناعي- أي تكنولوجيا قادرة على ابتكار مشكلات مجردة ومعقدة وحلها من طريق عمليات تحاكي عمليات العقل الإنساني. وهذا الذكاء يتجاوز الأتمتة على ما عرفناها. فالأتمتة تتناول وسائل فعل (أو صناعة) من الأفعال، وتبلغ أهدافاً محددة من طريق عقلنة أو استخدام أدوات تقنية. وعلى خلافها، الذكاء الاصطناعي يتناول الغايات؛ ويحدد أهدافه. فإنجازاته يساهم هو، إلى حد ما، في قولبتها. وعمليات الذكاء الاصطناعي غير مستقرة على حال، وهي سيل لا ينقطع يتناسل من حيازة داتا جديدة وتحليلها على الفور، وتسعى إلى تطوير نفسها بناء على التحليلات هذه. وعليه، يكتسب الذكاء هذا قدرة حسبنا أنها تخص البشر فحسب. وفي وسعه إصدار أحكام إسترتيجية وتنبؤات بعضها يستند إلى داتا حصل عليها أو كودات (قوانين اللعبة على سبيل المثل)، وبعضها يستند إلى داتا جمعها بنفسه (مثلاً جمع الداتا من طريق لعب لعبة مليون مرة). والسيارة من دون سائق هي أمّارة على الفرق بين سائق بشري يسيطر على برمجية كومبيوتر وبين عالم يسعى الذكاء الاصطناعي إلى الإبحار في مياهه المتلاطمة. فقيادة سيارة تقتضي اتخاذ قرارات في أوضاع مختلفة من العسير توقعها وبرمجتها مسبقاً. فعلى سبيل المثل، إذا كانت سيارة من غير سائق أمام ظروف تلزمها الاختيار بين صدم رجل مسن أو ولد صغير، ما هي فاعلة؟ وماذا يسوغ قرارها؟ فأي عوامل بين خياراتها ترجح كفتها؟ وهل في وسعها تعليل منطقها؟ ويرجح أن يجيب مثل هذه السيارة، إذا قيض له التواصل: «لا أعرف (لأنني ألتزم مبادئ حسابية وليس مبادئ بشرية)» أو «لن تفهم عليّ (فأنا أُعددتُ للقيادة وفق طريقة وليس لشرحها)». ولكن هذا كله لن يحول دون هيمنة مثل هذه السيارات على الطرقات في العقد المقبل، على ما يرجح. ولن يطول الأمر قبل أن توجه خوارزميات الذكاء الاصطناعي شطراً لا يستهان به من الأنشطة الإنسانية. ولكن هذه الخوارزميات هي تفسيرات حسابية لداتا جمعت إثر مراقبة وملاحظة، ولا يسعها تعليل العلل التي تقف وراءها أو تنتجها (الداتا). ومع تعاظم «شفافية» العالم، يزداد غموضه. ولكن ما أوجه اختلاف هذا العالم عن نظيره الذي خبرناه؟ وكيف سندبر الذكاء الاصطناعي ونطوره أو على الأقل كيف سنحول دون ضرره؟ وهل للذكاء الاصطناعي بعد اكتسابه ما يفوق قدرة البشر وتيرةً وكفاءات أجدر من كفاءاتهم، أن يقوض الكفاءة الإنسانية والشرط الإنساني حين يتحول إلى داتا فحسب. ومدار القلق على ثلاث مسائل: 1) بلوغ الذكاء الاصطناعي نتائج غير مقصودة. ولطالما تخيلت أفلام الخيال العلمي سيناريوات ينقلب فيها الذكاء الاصطناعي على صانعيه. ولكن الخطر المرجح هو أن يسيء الذكاء هذا تفسير التعليمات البشرية نتيجة الافتقار إلى سياق مضمر. وخير مثل على ذلك جهاز ذكاء صناعي للدردشة اسمه «تاي»، وهو صنع لمحاكاة محادثات الأصدقاء وتبادل الحديث مع صاحب الجهاز بواسطة الاستناد إلى مفردات شابة في التاسعة عشرة. ولكن تبين أن الآلة عاجزة عن تحديد أوجه استخدام المفردات «المسالمة» و «المعقولة» التي وضعها «أساتذتها»، وصارت لغة الآلة عنصرية ومتحيزة ضد النساء وعدائية في أجوبتها. وهذه التجربة تسلط الضوء على سؤال بازر: إلى أي مدى في الإمكان إعداد ذكاء صناعي لفهم سياق يناسب تعليماته؟ وأي وسيط كان ليساعد تاي في تحديد معنى عدائي، وهي كلمة، لا يجمع البشر كلهم على تعريف واحد لها؟ و2)، ما يترتب على تغيير الذكاء الاصطناعي طريقة تفكير البشر وقيمه. فعلى سبيل المثل، «ألفاغو» فاز على بطل العالم في «غو» من طريق الإقدام على خطوات غير مسبوقة- أي خطوات لم يصغها البشر ولم يتعلموها من قبل ليتجاوزوا عثراتها. ولكن هل الخطوات هذه تفوق قدرات الدماغ البشري؟ أو هل سيتعلمها البشر بعد أن عرضها عليهم أسيادهم الجدد؟ وقبل أن يبدأ الذكاء الاصطناعي بلعب لعبة «غو»، كانت الغايات من اللعبة هذه متعددة المستويات: فاللاعب لم يسعَ فحسب إلى الفوز، بل كذلك إلى تعلم إستراتيجيات جديدة في الإمكان الاستفادة منها في أبعاد الحياة الأخرى. ولكن الذكاء الاصطناعي سعى فحسب إلى الفوز. وهو «يتعلم» حسابياً وليس «مفهومياً» (استخلاص معنى جامع). فالذكاء الاصطناعي غيّر طبيعة اللعبة وأثرها. وتجيب بعض برمجيات الذكاء الاصطناعي عن أسئلة حدثية مثل تحديد درجة الحرارة في الخارج. ولكن جوابها عن أسئلة تتناول طبيعة الواقع أو الحياة تطرح مسائل أكثر تعقيداً. فهل نريد أن يتعلم الاولاد القيم من طريق المحادثة مع خوارزميات منفلتة من كل عقال؟ وهل نحمي الخصوصية من طريق تقييد قدرات الذكاء الاصطناعي على سبر حياة سائله؟ وثالثاً، في إمكان الذكاء الاصطناعي بلوغ الهدف المحدد، ولكنه عاجز عن تعليل المنطق وراء استنتاجاته. وفي بعض المجالات قدرات مثل هذا الذكاء – منها التعرف على الأنماط وتحليل سيل الداتا، واللعب- تفوق قدرات البشر. وإذا واصل الذكاء الاصطناعي مراكمة القدرات مراكمة سريعة، وسعه تطويرها تطويراً مختلفاً عن الوجه الذي يطوره البشر. ولكن هل يسع الذكاء هذا تسويغ خطواته والسمات التي تجعلها الأفضل أو الأمثل، أم أن آلية اتخاذه القرار تتجاوز قدرات اللغة البشرية ومنطقها؟ ابتكرت الحضارات سبلاً لتفسير عالمها- في العصور الوسطى، استندت إلى الدين؛ في عصر التنوير إلى العقل؛ وفي القرن التاسع عشر، إلى التاريخ، وفي العشرين إلى الأيديولوجيا. وأبرز سؤال في العالم الذي نتجه إليه هو : ما مآل الوعي الإنساني إذا فاقت قدرات الذكاء الاصطناعي قدرات البشر التعليلية أو التسويغية، وإذا لم يعد في وسع المجتمعات تفسير عالمها بواسطة التعابير التي يرون فيها المعنى؟ وعلى أي وجه يُعرّف الوعي في عالم تختزل فيه الآلات التجربة الإنسانية إلى داتا حسابية تخزنها في ذاكرتها وتؤديها؟ ومن يتحمل تبعات أعمال الذكاء الاصطناعي والمسؤولية عنها؟ وكيف تحدد المسؤولية جزاء أخطاء يرتكبها الذكاء هذا؟ وهل في وسع نظام قانوني صاغه البشر أن يلحق بركاب أنشطة «يلدها» (ينتجها) الذكاء هذا، وهو القادر على التفوق عليهم في التفكير والمناورة؟ * مستشار الأمن القومي الأميركي، وزير خارجية أميركا بين 1973-1977، عن «ذي أتلانتيك» الأميركية، 15/6/2018، إعداد منال نحاس