من المقرر أن يقوم مجلس الرقابة التابع لشركة Meta بتقييم طريقة تعامل الشركة مع المواد الإباحية المزيفة وسط مخاوف متزايدة من أن الذكاء الاصطناعي يغذي زيادة في إنشاء صور مزيفة وصريحة كشكل من أشكال المضايقة.
قال مجلس الرقابة يوم الثلاثاء إنه سيراجع كيفية معالجة شركة ميتا لصورتين واضحتين تم إنشاؤها بواسطة الذكاء الاصطناعي لشخصيات عامة، واحدة من الولايات المتحدة والأخرى من الهند، لتقييم ما إذا كانت الشركة لديها سياسات وممارسات مناسبة لمعالجة هذا المحتوى. – وما إذا كانت تطبق هذه السياسات باستمرار في جميع أنحاء العالم.
لقد اكتسب تهديد المواد الإباحية التي ينتجها الذكاء الاصطناعي الاهتمام في الأشهر الأخيرة، حيث وقع المشاهير بما في ذلك تايلور سويفت، فضلا عن طلاب المدارس الثانوية الأمريكية وغيرهم من النساء في جميع أنحاء العالم، ضحية لأشكال الإساءة عبر الإنترنت. أدوات الذكاء الاصطناعي التوليدية التي يمكن الوصول إليها على نطاق واسع جعلت إنشاء مثل هذه الصور أسرع وأسهل وأرخص. وفي الوقت نفسه، تتيح منصات التواصل الاجتماعي الانتشار هذه الصور بسرعة.
وقالت هيلي ثورنينج شميدت، الرئيسة المشاركة لمجلس مراقبة Meta، في بيان: “إن المواد الإباحية المزيفة هي سبب متزايد للتحرش القائم على النوع الاجتماعي عبر الإنترنت، وتستخدم بشكل متزايد لاستهداف النساء وإسكاتهن وترهيبهن – سواء على الإنترنت أو خارجها”.
وقالت ثورنينج شميدت، وهي أيضًا رئيسة وزراء الدنمارك السابقة: “نحن نعلم أن ميتا أسرع وأكثر فعالية في الإشراف على المحتوى في بعض الأسواق واللغات أكثر من غيرها”. “من خلال أخذ حالة واحدة من الولايات المتحدة وواحدة من الهند، نريد أن ننظر في ما إذا كانت شركة ميتا تحمي جميع النساء على مستوى العالم بطريقة عادلة.”
مجلس مراقبة ميتا هو كيان يتكون من خبراء في مجالات مثل حرية التعبير وحقوق الإنسان. غالبًا ما يتم وصفها بأنها نوع من المحكمة العليا لـ Meta، لأنها تسمح للمستخدمين باستئناف قرارات المحتوى على منصات الشركة. يقدم مجلس الإدارة توصيات إلى الشركة حول كيفية التعامل مع بعض قرارات الإشراف على المحتوى، بالإضافة إلى اقتراحات السياسة الأوسع.
كجزء من مراجعته، سيقوم المجلس بتقييم حالة واحدة لصورة عارية تم إنشاؤها بواسطة الذكاء الاصطناعي تشبه شخصية عامة من الهند تمت مشاركتها على إنستغرام من خلال حساب “يشارك فقط الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي للنساء الهنديات”.
أبلغ أحد المستخدمين عن الصورة باعتبارها إباحية، لكن تم إغلاق البلاغ تلقائيًا بعد عدم حصوله على مراجعة من قبل Instagram خلال 48 ساعة. استأنف المستخدم نفسه قرار Instagram بترك الصورة، لكن لم تتم مراجعة البلاغ مرة أخرى وإغلاقه تلقائيًا. وبعد أن أبلغ مجلس الرقابة شركة ميتا بنيتها متابعة القضية، قررت الشركة أنها سمحت للصورة بالبقاء مخطئة وأزالتها لانتهاكها قواعد التنمر والتحرش، وفقًا لمجلس الإدارة.
أما الحالة الثانية فتتضمن صورة تم إنشاؤها بواسطة الذكاء الاصطناعي لامرأة عارية يتم لمسها، وتم نشرها على مجموعة فيسبوك لإبداعات الذكاء الاصطناعي. كان من المفترض أن تشبه الصورة شخصية عامة أمريكية، والتي تم ذكرها أيضًا في التعليق التوضيحي للصورة.
تم نشر الصورة نفسها سابقًا بواسطة مستخدم مختلف، وبعد ذلك تم تصعيدها إلى خبراء السياسة الذين قرروا إزالتها لانتهاكها قواعد التنمر والتحرش، “على وجه التحديد بسبب” الفوتوشوب أو الرسومات ذات الطابع الجنسي المهين “. ثم تمت إضافة الصورة. إلى بنك مطابقة الصور الذي يكتشف تلقائيًا متى يتم إعادة نشر الصور المخالفة للقواعد، لذلك تتم إزالة مشاركة المستخدم الثاني تلقائيًا.
كجزء من هذه المراجعة الأخيرة، يسعى مجلس الرقابة للحصول على تعليقات عامة – والتي يمكن تقديمها بشكل مجهول – حول المواد الإباحية المزيفة، بما في ذلك كيف يمكن أن يضر هذا المحتوى بالنساء وكيف استجابت ميتا للمشاركات التي تحتوي على صور صريحة تم إنشاؤها بواسطة الذكاء الاصطناعي. تنتهي فترة التعليق العام في 30 أبريل.
