مع التطور السريع، أصبحت تطبيقات الذكاء الاصطناعي التوليدي مثل ChatGPT منتشرة بشكل واسع، وتعد نموذجا مبنيا على الذكاء الاصطناعي يعتمد على تعلم الآلة وتوليد النصوص، ويمكنها التفاعل مع المستخدمين والإجابة عن الأسئلة وتقديم المعلومات، ومع ذلك، فإن استخدام هذه التطبيقات ينطوي على بعض المخاطر المحتملة فيما يتعلق بالخصوصية. من أهم المخاطر المحتملة لتطبيقات ChatGPT هي حفظ وتخزين المحادثات الشخصية، وقد يتطلب النموذج تخزين المحادثات السابقة لتحسين أدائه وفهمه، وقد يتضمن ذلك الاحتفاظ بالمعلومات الشخصية مثل الأسماء والعناوين والمواعيد والمزيد، وإذا لم يتم التعامل مع هذه البيانات بطريقة آمنة ومحمية، فإنها قد تتعرض للوصول غير المصرح به أو الاستخدام السيئ. ويمكن لهذه الأنواع من التطبيقات أن تتعرض للهجمات السيبرانية والقرصنة الإلكترونية، وقد يتم اختراق النظام والحصول على بيانات المستخدمين أو استغلال الثغرات الأمنية في النموذج نفسه، ما يعرض خصوصية المستخدمين للخطر، من الضروري أن يتم توفير إجراءات أمان قوية ومعايير حماية البيانات للحد من هذه المخاطر. وحدد تقرير حديث اعتمد على تحليل لروبوتات المحادثة الشائعة بما في ذلك ChatGPT، وChatGPT API، وAnthropic Claude، وBing Chat، وBing Chat Enterprise، وYou.com، وGoogle Bard، وتطبيق Genius، أربعة مخاطر لاستخدام روبوتات المحادثة على خصوصية بشكل عام وخصوصية قطاع الأعمال بشكل خاص، وهي تسرب البيانات أو الاختراق من جهة المزود، فعلى الرغم من أن مشغلي روبوتات المحادثة القائمة على النماذج اللغوية الكبيرة هم اللاعبون الأكبر في المجال التقني، فهي غير منيعة ضد الاختراق أو تسرب البيانات، تسريب البيانات عبر روبوتات المحادثة، حيث يمكن استخدام الرسائل التي يتم تبادلها مع روبوتات المحادثة لتدريب النماذج اللغوية المستقبلية، إذ تميل النماذج اللغوية الكبيرة أحيانا إلى التذكر غير المقصود، حيث تستحضر سلاسل فريدة من البيانات مثل أرقام الهواتف التي لا تعمل على تحسين جودة النموذج، ولكنها تشكل مخاطر على الخصوصية، فأي بيانات في مجموعة البيانات المستخدمة لتدريب هذه النماذج قد يصل إليها مستخدمون آخرون سواء عن قصد أو عن غير قصد. وتسهم أدوات الذكاء الاصطناعي الصاعدة في تبسيط صياغة رسائل التصيد الاحتيالي الموجه، بل إنها تتيح كذلك انتحال هوية أفراد محددين، فقد يبتكر المهاجمون أساليب أتمتة مبتكرة عبر جمع البيانات من شبكة الإنترنت، ثم تقديمها إلى نماذج لغوية كبيرة لصياغة رسائل مشابهة كثيرا لأسلوب الشخص المرتبط بالضحية. إضافة إلى ذلك قد يلجأ الأشخاص في الأماكن التي تحظر فيها روبوتات الدردشة إلى بدائل غير رسمية من برامج أو مواقع إلكترونية أو روبوتات محادثة أخرى، ويقومون بتحميل برمجيات خبيثة تتظاهر بأنها عميل أو تطبيق لا وجود له في الحقيقة. كما يمكن للمهاجمين الدخول إلى حسابات الموظفين، والوصول إلى بياناتهم، عبر هجمات التصيد الاحتيالي أو بيانات تسجيل الدخول، وبيع إمكانية الوصول إلى حسابات مختلفة على منصات روبوتات المحادثة. ووجد التقرير أن معايير الأمن والخصوصية أعلى في روبوتات المحادثة الموجهة للعملاء من الشركات نظرا إلى المخاطر الأكبر التي تتعرض إليها معلومات الشركات، وبالتالي، تركز الشروط والأحكام الخاصة باستخدام البيانات، وجمعها، وتخزينها، ومعالجتها بشكل أكبر على الحماية في ذلك المجال مقارنة بالخدمات الموجهة للمستهلكين الأفراد. وللحفاظ على الأمان مع الاستفادة من استخدام روبوتات المحادثة، يوصي الخبراء باستخدام كلمات مرور قوية وفريدة ومعقدة لكل حساب، وتجنب استخدام معلومات يمكن تخمينها بسهولة مثل أعياد الميلاد أو أسماء الأشخاص، وتوخى الحذر من التصيد الاحتيالي عبر الرسائل الإلكترونية، أو الرسائل النصية، أو المكالمات المفاجئة التي تطلب معلومات شخصية، وتحقق من هوية المرسل قبل مشاركة أي بيانات حساسة، ويجب أن يكون الموظفون على معرفة مستمرة بأحدث التهديدات السيبرانية وأفضل الممارسات للحفاظ على أمن الشركة السيبراني، والتقليل من مشاركة المعلومات الشخصية على شبكات التواصل الاجتماعي والتأكد من مشاركتها عند الضرورة القصوى فقط، والتأكد من سلامة الروابط الخاصة بمواقع الويب قبل زيارتها، خاصة قبل إدخال بيانات تسجيل الدخول أو إجراء عمليات شراء. ويتعين على المستخدمين توخى الحذر من عمليات استغلال الثغرات الأمنية في البرامج والأجهزة شائعة الاستخدام، ففي بعض الأحيان، لا يحظى اكتشاف الثغرات الأمنية شديدة الخطورة والحساسة إلا بأبحاث محدودة وإصلاحات أمنية متأخرة، ما يفسح المجال لشبكات الروبوتات الجديدة الخفية وواسعة النطاق، التي تستطيع شن هجمات إلكترونية موجهة. ومن المتوقع أن تعتمد مصادر التهديدات المتقدمة المستمرة على طرق جديدة لاستغلال ثغرات الأجهزة المحمولة، والقابلة للارتداء والذكية، ومن ثم استخدامها لتشكيل شبكات روبوتات، وزيادة كفاءة هجمات سلسلة التوريد، وتوظيف الذكاء الاصطناعي لتعزيز فاعلية عمليات التصيد الاحتيالي الموجه، ومن المتوقع أن تسهم هذه التطورات في تكثيف الهجمات والجرائم السيبرانية ذات الدوافع السياسية.