فشلت شركة Meta في إزالة صورة صريحة تم إنشاؤها بواسطة الذكاء الاصطناعي لشخصية عامة هندية حتى تم استجوابها من قبل مجلس الرقابة التابع لها، وفقًا لما ذكرته الهيئة يوم الخميس في تقرير يدعو عملاق التكنولوجيا إلى بذل المزيد من الجهود لمعالجة مقاطع الفيديو المزيفة العارية غير التوافقية على منصاتها.
ويأتي التقرير نتيجة تحقيق أعلنته هيئة الرقابة على ميتا في أبريل/نيسان الماضي بشأن تعامل ميتا مع المواد الإباحية المزيفة، بما في ذلك حالتان محددتان تم فيهما نشر صور صريحة لشخصية عامة أمريكية وشخصية عامة هندية.
لقد اكتسب تهديد المواد الإباحية التي يتم إنشاؤها بواسطة الذكاء الاصطناعي اهتمامًا في الأشهر الأخيرة، حيث وقعت مشاهير مثل تايلور سويفت، فضلاً عن طلاب المدارس الثانوية في الولايات المتحدة وغيرهن من النساء في جميع أنحاء العالم، ضحية لهذا النوع من الإساءة عبر الإنترنت. لقد جعلت أدوات الذكاء الاصطناعي المتاحة على نطاق واسع إنشاء مثل هذه الصور أسرع وأسهل وأرخص. واجهت منصات التواصل الاجتماعي بما في ذلك Meta – حيث يمكن أن تنتشر مثل هذه الصور بسرعة – ضغوطًا متزايدة لمكافحة هذه القضية.
وفي حالة صورة الشخصية العامة الأمريكية المنشورة على فيسبوك ــ والتي تم إنشاؤها بواسطة الذكاء الاصطناعي وتصورها عارية وتتعرض للتحرش ــ أزالت الشركة الصورة على الفور، والتي كانت قد أضيفت في السابق إلى بنك مطابق يكتشف تلقائيا الصور المخالفة للقواعد. ولكن في حالة الشخصية العامة الهندية، ورغم الإبلاغ عن الصورة مرتين إلى ميتا، لم تحذف الشركة الصورة من إنستغرام حتى تناول مجلس الرقابة القضية.
وقالت هيئة الرقابة في تقريرها: “قررت شركة ميتا أن قرارها الأصلي بترك المحتوى على إنستغرام كان خاطئًا، وقامت الشركة بحذف المنشور لانتهاكه معيار مجتمع التنمر والتحرش”. “لاحقًا، بعد أن بدأت الهيئة مداولاتها، قامت ميتا بتعطيل الحساب الذي نشر المحتوى”.
ويشير التقرير إلى أن شركة Meta لا تطبق قواعدها بشكل ثابت ضد الصور الجنسية غير المقبولة، حتى مع التقدم في مجال الذكاء الاصطناعي الذي جعل هذا الشكل من التحرش شائعًا بشكل متزايد. ويشير التقرير أيضًا إلى استمرار المشكلات في Meta فيما يتعلق بتعديل المحتوى في البلدان غير الغربية أو غير الناطقة باللغة الإنجليزية، والتي واجهت الشركة انتقادات بشأنها من قبل.
وقالت شركة ميتا في بيان إنها ترحب بقرار المجلس. وأضافت أنه في حين تم بالفعل إزالة المنشورات المحددة في التقرير، فإن الشركة “ستتخذ إجراءات” بشأن صور الشخصية العامة الهندية “المتطابقة وفي نفس السياق” مثل تلك التي سلطت عليها هيئة الرقابة الضوء “حيثما كان ذلك ممكنًا من الناحية الفنية والعملية”.
في تقريرها، قدمت هيئة الرقابة – وهي كيان شبه مستقل يتألف من خبراء في مجالات مثل حرية التعبير وحقوق الإنسان – توصيات إضافية حول كيفية تمكن Meta من تحسين جهودها لمكافحة التزييف العميق الجنسي. وحثت الشركة على توضيح قواعدها من خلال تحديث حظرها ضد “فوتوشوب الجنسي المهين” لتشمل على وجه التحديد كلمة “غير توافقي” وتغطية تقنيات التلاعب بالصور الأخرى مثل الذكاء الاصطناعي بشكل واضح.
وبحسب التقرير، أبلغت شركة ميتا المجلس أنها لم تضف في الأصل صورة الشخصية العامة الهندية إلى بنك الصور المطابق الذي ينتهك القواعد لأنه لم تكن هناك تقارير إخبارية عنها، في حين غطت وسائل الإعلام صور الشخصية العامة الأمريكية. وقالت اللجنة: “هذا أمر مقلق لأن العديد من ضحايا الصور الحميمة المزيفة ليسوا في نظر الجمهور ويضطرون إما إلى قبول انتشار تصويرهم غير الموافق عليه أو البحث عن كل حالة والإبلاغ عنها”، مضيفة أن ميتا يمكنها النظر في عوامل أخرى، بما في ذلك ما إذا كانت الصورة تم إنشاؤها بواسطة الذكاء الاصطناعي عند تحديد ما إذا كانت ستضيفها إلى البنك.
وبعد أن بدأت اللجنة تحقيقاتها في أبريل/نيسان، أضافت ميتا الصورة إلى بنك الصور المطابقة الخاص بها.
إن الجهود المبذولة لمكافحة مقاطع الفيديو المزيفة غير المقبولة ليست سوى جزء من جهود أكبر تبذلها شركة Meta لمنع الاستغلال الجنسي لمستخدميها. قالت الشركة يوم الأربعاء إنها أزالت حوالي 63000 حساب في نيجيريا كانت متورطة في عمليات احتيال جنسية مالية، حيث يتم خداع الأشخاص (غالبًا المراهقين) لإرسال صور عارية ثم ابتزازهم.
