أسقطت شركة "أوكتو إم إل" منصة "كيفيتاي" للصور المصممة عبر الذكاء الاصطناعي، بعد اتهامات لها مرتبطة بترويجها للمحتوى الإباحي. ويُظهر تحقيق أن هذه المنصة التي تعمل على تحويل النصوص إلى صور، متورطة في عمليات الترويج لمحتوى إباحي خاص بالأطفال. واعتمدت شركة Civitai سابقًا على تقنية "أوكتو إيه آي" من OctoML لتوليد الصور، ولكن بإيقافها هذه الخدمات السحابية أثيرت شكوك عديدة حول التعاون بينهما، ولكن الشركة حسمتها بقطع التعاون بصورة كاملة فيما بينهما. وأظهرت التحقيقات أن الاتصالات الداخلية لـOctoML كانت على علم بأن بعض مستخدمي Civitai كانوا ينشؤون مواد جنسية صريحة تتضمن صورًا غير موافقة لأشخاص حقيقيين وصورًا إباحية للأطفال. وسَبَق أن خضعت شركة Civitai المدعومة من Andreessen Horowitz، للتدقيق؛ بسبب ميزة "المكافآت" التي تتحدى المستخدمين لإنشاء صور واقعية لأشخاص حقيقيين للحصول على مكافآت. ووجدت التحقيقات أنه تم استخدام هذه التزييفات العميقة غير الرضائية للمشاهير وأصحاب النفوذ وحتى المواطنين العاديين، والتي كانت في كثير من الحالات، ذات طبيعة جنسية. وقالت OctoML: "لقد قررنا إنهاء علاقتنا التجارية مع Civitai. ويتماشى هذا القرار مع التزامنا بضمان الاستخدام الآمن والمسؤول للذكاء الاصطناعي".