مع ازدياد تعقيد أدوات الذكاء الاصطناعي وسهولة الوصول إليها، كذلك أصبح أحد أسوأ تطبيقاتها: المواد الإباحية العميقة غير التوافقية. وفي حين تتم استضافة الكثير من هذا المحتوى على مواقع مخصصة، فإنه يجد طريقه أكثر فأكثر إلى منصات التواصل الاجتماعي. اليوم، أعلن مجلس مراقبة Meta أنه يتعامل مع الحالات التي قد تجبر الشركة على النظر في كيفية تعاملها مع المواد الإباحية العميقة.
سيركز المجلس، وهو هيئة مستقلة يمكنها إصدار قرارات وتوصيات ملزمة لشركة Meta، على قضيتين إباحيتين مزيفتين، تتعلق كلتاهما بالمشاهير الذين تم تغيير صورهم لإنشاء محتوى فاضح. في إحدى الحالات المتعلقة بشخصية مشهورة أمريكية لم يذكر اسمها، تمت إزالة المواد الإباحية العميقة التي تصور الشخصية الشهيرة من فيسبوك بعد أن تم الإبلاغ عنها بالفعل في مكان آخر على المنصة. تمت إضافة المنشور أيضًا إلى Meta's Media Matching Service Bank، وهو نظام آلي يبحث عن الصور التي تم وضع علامة عليها بالفعل على أنها تنتهك سياسات Meta ويزيلها، لإبقائها خارج النظام الأساسي.
وفي الحالة الأخرى، ظلت صورة مزيفة لشخصية هندية مشهورة لم يذكر اسمها موجودة على إنستغرام، حتى بعد أن أبلغ المستخدمون عنها لانتهاكها سياسات ميتا بشأن المواد الإباحية. تمت إزالة التزييف العميق للمشاهير الهندي بمجرد أن تولى مجلس الإدارة القضية، وفقًا للإعلان.
وفي كلتا الحالتين، تمت إزالة الصور لمخالفتها سياسات ميتا بشأن التنمر والتحرش، ولم تندرج تحت سياسات ميتا بشأن الإباحية. ومع ذلك، تحظر Meta “المحتوى الذي يصور أو يهدد أو يروج للعنف الجنسي أو الاعتداء الجنسي أو الاستغلال الجنسي” ولا يسمح بالإعلانات الإباحية أو الجنسية الصريحة على منصاته. في منشور مدونة صدر بالتزامن مع الإعلان عن الحالات، قالت ميتا إنها أزالت المنشورات لانتهاكها جزء “الفوتوشوب أو الرسومات الجنسية المهينة” من سياسة التنمر والتحرش، وأنها أيضًا “قررت أنها انتهكت (ميتا)” سياسة العري والنشاط الجنسي للبالغين.
ويأمل مجلس الإدارة في استخدام هذه الحالات لفحص سياسات وأنظمة Meta لكشف وإزالة المواد الإباحية غير التوافقية، وفقًا لجولي أوونو، عضو مجلس الرقابة. وتقول: “أستطيع أن أقول مبدئيًا إن المشكلة الرئيسية ربما تكمن في الكشف”. “إن الكشف ليس مثاليًا أو على الأقل ليس بالفعالية التي نرغب فيها.”
واجهت ميتا أيضًا انتقادات منذ فترة طويلة بسبب نهجها في الإشراف على المحتوى خارج الولايات المتحدة وأوروبا الغربية. في هذه الحالة، أعرب مجلس الإدارة بالفعل عن مخاوفه من أن المشاهير الأمريكيين والمشاهير الهنود تلقوا معاملة مختلفة ردًا على ظهور التزييف العميق على المنصة.
“نحن نعلم أن Meta أسرع وأكثر فعالية في الإشراف على المحتوى في بعض الأسواق واللغات أكثر من غيرها. وتقول هيلي ثورنينج شميدت، الرئيسة المشاركة لمجلس الرقابة: “من خلال أخذ حالة واحدة من الولايات المتحدة وواحدة من الهند، نريد أن نرى ما إذا كانت ميتا تحمي جميع النساء على مستوى العالم بطريقة عادلة”. “من المهم معالجة هذه المسألة، ويتطلع مجلس الإدارة إلى استكشاف ما إذا كانت سياسات Meta وممارسات التنفيذ فعالة في معالجة هذه المشكلة.”
