قام Elon Musk’s X بحظر عمليات البحث عن تايلور سويفت بعد انتشار الصور الجنسية الصريحة لنجمة البوب التي تم إنشاؤها باستخدام الذكاء الاصطناعي على نطاق واسع على المنصة.
هذه الحادثة هي أحدث مثال على كيفية تدافع مجموعات وسائل التواصل الاجتماعي لمعالجة ما يسمى التزييف العميق: الصور والتسجيلات الصوتية الواقعية، التي يتم إنشاؤها باستخدام الذكاء الاصطناعي، والتي يمكن إساءة استخدامها لتصوير أفراد بارزين في مواقف مساومة أو مضللة دون موافقتهم.
أدت أي عمليات بحث عن مصطلحات مثل “Taylor Swift” أو “Taylor AI” على X إلى ظهور رسالة خطأ لعدة ساعات خلال عطلة نهاية الأسبوع، بعد انتشار الصور الإباحية للمغنية التي أنشأها الذكاء الاصطناعي على الإنترنت في الأيام القليلة الماضية. ويعني هذا التغيير أنه حتى المحتوى المشروع حول أحد أشهر النجوم في العالم يصعب عرضه على الموقع.
وقال جو بيناروش، رئيس العمليات التجارية في X: “هذا إجراء مؤقت وتم تنفيذه بقدر كبير من الحذر لأننا نعطي الأولوية للسلامة في هذه المشكلة”.
ولم يعلق سويفت علنا على هذه المسألة.
تم شراء X مقابل 44 مليار دولار في أكتوبر 2022 من قبل رجل الأعمال الملياردير ماسك، الذي قام بتقليص الموارد المخصصة لمراقبة المحتوى وخفف من سياسات الاعتدال الخاصة به، مشيرًا إلى مبادئه المتعلقة بحرية التعبير.
ويأتي استخدامها لآلية الإشراف الصريحة في نهاية هذا الأسبوع في الوقت الذي تواجه فيه X ومنافسوها Meta وTikTok وYouTube التابع لشركة Google ضغوطًا متزايدة لمعالجة إساءة استخدام تقنية التزييف العميق الواقعية بشكل متزايد والتي يسهل الوصول إليها. لقد ظهر سوق نشط من الأدوات التي تسمح لأي شخص باستخدام الذكاء الاصطناعي التوليدي لإنشاء مقطع فيديو أو صورة تشبه أحد المشاهير أو السياسيين بعدة نقرات.
على الرغم من توفر تقنية التزييف العميق منذ عدة سنوات، إلا أن التطورات الحديثة في الذكاء الاصطناعي التوليدي جعلت إنشاء الصور أسهل وأكثر واقعية. ويحذر الخبراء من أن الصور الإباحية المزيفة هي واحدة من أكثر الانتهاكات الناشئة شيوعًا لتقنية التزييف العميق، ويشيرون أيضًا إلى استخدامها المتزايد في حملات التضليل السياسي خلال عام من الانتخابات حول العالم.
وردًا على سؤال حول صور سويفت يوم الجمعة، قالت السكرتيرة الصحفية للبيت الأبيض، كارين جان بيير، إن تداول الصور الكاذبة “مثير للقلق”، مضيفة: “بينما تتخذ شركات وسائل التواصل الاجتماعي قراراتها المستقلة بشأن إدارة المحتوى، فإننا نعتقد لديهم دور مهم يلعبونه في تطبيق قواعدهم الخاصة. وحثت الكونجرس على إصدار تشريع في هذا الشأن.
وفي يوم الأربعاء، سيواجه المديرون التنفيذيون لوسائل التواصل الاجتماعي، بما في ذلك ليندا ياكارينو من X، ومارك زوكربيرج من Meta، وShou Zi Chew من TikTok، استجوابًا في جلسة استماع للجنة القضائية بمجلس الشيوخ الأمريكي حول الاستغلال الجنسي للأطفال عبر الإنترنت، بعد المخاوف المتزايدة من أن منصاتهم لا تفعل ما يكفي لحماية الأطفال.
وقال حساب السلامة الرسمي لـ X يوم الجمعة في أ إفادة أن نشر “صور العري غير التوافقي (NCN)” كان “محظورًا تمامًا” على المنصة، التي لديها “سياسة عدم التسامح مطلقًا تجاه مثل هذا المحتوى”.
وأضافت: “تقوم فرقنا بإزالة جميع الصور التي تم تحديدها بشكل فعال واتخاذ الإجراءات المناسبة ضد الحسابات المسؤولة عن نشرها. نحن نراقب الوضع عن كثب للتأكد من معالجة أي انتهاكات أخرى على الفور وإزالة المحتوى.
ومع ذلك، لم تتمكن موارد الإشراف على المحتوى المستنفدة لـ X من منع مشاهدة صور Swift المزيفة ملايين المرات قبل إزالتها، مما أجبر الشركة على اللجوء إلى حظر عمليات البحث عن أحد أكبر النجوم في العالم.
ووجد تقرير صادر عن موقع أخبار التكنولوجيا 404 Media أن الصور ظهرت على ما يبدو على لوحة إعلانات مجهولة المصدر 4chan ومجموعة على تطبيق المراسلة Telegram، مخصصة لمشاركة الصور المسيئة التي تم إنشاؤها بواسطة الذكاء الاصطناعي للنساء، والتي غالبًا ما يتم إنشاؤها باستخدام أداة Microsoft. ولم تستجب Telegram وMicrosoft على الفور لطلبات التعليق.
