تم تداول الصور الإباحية التي أنشأها الذكاء الاصطناعي لطالبات في مدرسة ثانوية في نيوجيرسي من قبل زملاء الدراسة الذكور، مما أثار ضجة أولياء الأمور وفتح تحقيق للشرطة، وفقًا لتقرير.
أخبر الطلاب في مدرسة ويستفيلد الثانوية – الواقعة في ويستفيلد، وهي بلدة تبعد حوالي 25 ميلاً غرب مانهاتن حيث يبلغ متوسط دخل الأسرة 259.377 دولارًا، وفقًا لفوربس – صحيفة وول ستريت جورنال أن واحدًا أو أكثر من زملاء الفصل استخدموا أداة مدعومة بالذكاء الاصطناعي عبر الإنترنت لإنشاء الصور المفعمة بالحيوية ومن ثم مشاركتها مع أقرانهم.
قالت أم ابنتها طالبة في مدرسة ويستفيلد الثانوية، وهي تروي ما قاله لها طفلها لصحيفة The Journal، إن طلاب السنة الثانية في المدرسة كانوا يتصرفون “بغرابة” يوم الاثنين 16 أكتوبر.
بدأت العديد من الفتيات في طرح الأسئلة، وأخيراً في 20 أكتوبر، كشف أحد الصبية عن سبب كل هذه الهمسات: استخدم طالب واحد على الأقل صور الفتيات الموجودة على الإنترنت لإنشاء صور عارية مزيفة ثم شاركها مع الأولاد الآخرين في محادثات جماعية، وفقًا لـ The مجلة.
وقال أولياء الأمور إن العديد من الطالبات أبلغن أيضًا من قبل مديري المدرسة أن الأولاد تعرفوا عليهن في الصور الإباحية المزيفة، على الرغم من أن المتحدث باسم المدرسة الثانوية رفض إخبار الصحيفة عما إذا كان الموظفون قد شاهدوا الصور أم لا.
وقالت والدة أخرى، دوروتا ماني، إن المدرسة أخبرت ابنتها فرانشيسكا البالغة من العمر 14 عامًا أن صورتها استخدمت لإنشاء صورة عارية مزيفة، تُعرف باسم “التزييف العميق”.
“أنا مرعوب من الكيفية التي سيظهر بها هذا الأمر ومتى. ابنتي لديها مستقبل مشرق ولا يمكن لأحد أن يضمن أن هذا لن يؤثر عليها مهنيا أو أكاديميا أو اجتماعيا.
وقالت الأم المعنية إنها لا تريد أن تكون والدتها في المدرسة مع أي شخص قام بالتقاط الصور، وأكدت أنها تقدمت ببلاغ للشرطة.
وفقًا لشركة Sensity لاستخبارات التهديدات البصرية، فإن أكثر من 90% من الصور المزيفة هي مواد إباحية.
ويستخدم الكثيرون أيضًا صور المشاهير، مثل مقطع الفيديو الأخير الذي انتشر على نطاق واسع حيث أظهر التزييف العميق الذي تم إنشاؤه بواسطة الذكاء الاصطناعي أن عارضة الأزياء الشهيرة بيلا حديد، والدها فلسطيني، تعبر عن دعمها لإسرائيل. في وقت سابق من هذا العام، انتشرت على الإنترنت أيضًا صور مزيفة للبابا فرانسيس وهو يرتدي سترة منتفخة من ماركة بالنسياغا ودونالد ترامب وهو يقاوم الاعتقال.
اتخذت شركة Snap، خلف Snapchat، خطوات لحظر مثل هذه الصور للقاصرين والإبلاغ عنها إلى المركز الوطني للأطفال المفقودين والمستغلين، وفقًا لصحيفة The Journal، على الرغم من عدم وجود أي ضمانات لمنع حدوث ذلك في أي مكان آخر على الإنترنت.
لم يكن من الواضح على الفور موقع الويب الذي تم استخدامه للذكاء الاصطناعي لإنشاء الصور الإباحية، على الرغم من وجود العديد من مولدات الصور المجانية المدعومة بالذكاء الاصطناعي على الإنترنت، بما في ذلك Dall-E من OpenAI، وAdobe’s Firefly، وCanva، بالإضافة إلى عدد كبير من المواقع الأقل شهرة. أدوات معروفة مثل Freepik، Wepik، Craiyon و Fotor، على سبيل المثال لا الحصر.
قال آباء الفتيات الأخريات الذين تحدثوا إلى The Journal – بما في ذلك اثنتين من الأربع التي قدمت بلاغات إلى الشرطة المحلية – إنهم وبناتهم لم يروا الصور المعنية.
وذكرت الصحيفة أن أحد الأشخاص المطلعين على تحقيقات الشرطة قال إن الشرطة لم تر الصور أيضًا.
وفي 20 أكتوبر أيضًا، أكدت ماري أسفينديس، مديرة مدرسة ويستفيلد الثانوية، الحادثة لأولياء أمور كل طالب من طلاب المدرسة البالغ عددهم حوالي 1900 طالب بعد أن أبلغت الفتيات مديري المدرسة بالصور.
وقالت أسفينديس أيضًا في رسالة البريد الإلكتروني التي حصلت عليها الصحيفة إنها تعتقد أن الصور قد تم حذفها ولم يعد يتم تداولها.
وكتب أسفنديس: “هذا حادث خطير للغاية”. “لقد أتاحت التقنيات الجديدة تزوير الصور ويحتاج الطلاب إلى معرفة التأثير والضرر الذي يمكن أن تسببه هذه الإجراءات للآخرين.”
كما تعهدت بمواصلة تعليم الأطفال كيفية الاستخدام المسؤول للتكنولوجيا.
ولم يتضح على الفور عدد الطلاب المتورطين في إنشاء الصور العارية المزيفة، أو ما إذا كان قد تم اتخاذ أي إجراء تأديبي.
وقالت عمدة ويستفيلد، شيلي بريندل، لصحيفة The Journal عن الحادث: “من الصعب أن تشهد فتيات صغيرات يتعرضن لصدمات نفسية في مرحلة ضعيفة من حياتهن”، مضيفة أنها باعتبارها أول عمدة للمدينة، تعتبر نفسها مدافعة عن هذا الوضع. للنساء والفتيات.
طلبت صحيفة The Post تعليقًا من مدرسة ويستفيلد الثانوية وإدارة شرطة مدينة ويستفيلد.
في هذا الأسبوع فقط، أصدر الرئيس جو بايدن أمرا تنفيذيا شاملا ينظم تطوير الذكاء الاصطناعي، وينفذ “ضمانات ضد… إنتاج مواد الاعتداء الجنسي على الأطفال وضد إنتاج صور حميمة دون موافقة أفراد حقيقيين”.
وقد حظر مسؤولو الولاية توزيع المواد الإباحية التي ينتجها الذكاء الاصطناعي أو منحوا الضحايا الحق في رفع دعوى أمام محكمة مدنية في فرجينيا وكاليفورنيا ومينيسوتا ونيويورك.
