افتح ملخص المحرر مجانًا
رولا خلف، محررة الفايننشال تايمز، تختار قصصها المفضلة في هذه النشرة الأسبوعية.
كتب الساخر الأيرلندي جوناثان سويفت في عام 1710: “الباطل يطير، والحقيقة تأتي بعده متعرجة”. إن ظهور “التزييف العميق” الناتج عن الذكاء الاصطناعي – التلاعب بالفيديو أو الصوت أو الصورة الواقعي للغاية – يعني أن الخيال يطير الآن بشكل أسرع من أي وقت مضى. قبل. هذا الأسبوع، حظر X عمليات البحث عن تايلور سويفت بعد انتشار صور جنسية مزيفة لنجمة البوب على منصة التواصل الاجتماعي. وقبل أن تكتشف الحقيقة، كانت صورة واحدة للنجم قد شوهدت 47 مليون مرة.
نظرًا لأن برامج التزييف العميق أصبحت أكثر سهولة وأكثر واقعية ويمكن الوصول إليها على نطاق واسع، فقد زاد استخدامها لأغراض شائنة. ولم تستمر الضمانات المقدمة للأفراد والمجتمع. غالبًا ما تكون الحماية القانونية غير كافية لمنع انتشار المحتوى الضار، ولدى وسائل التواصل الاجتماعي قواعد وقدرات مختلفة للمحتوى لإزالة المنشورات الضارة. ومع ذلك، فإن تقنية التزييف العميق تطمس الحدود بين ما هو حقيقي وما هو غير حقيقي، وتخاطر بزرع بذور عدم الثقة في كل شيء على الإنترنت. ويجب على المشرعين ومنصات التواصل الاجتماعي وشركات التكنولوجيا التي تنشئ هذه الأدوات تكثيف جهودها لمنع التزييف العميق الضار واكتشافه والاستجابة له.
قد تكون سويفت الضحية الأبرز بين النساء، لكنها ليست الضحية الوحيدة. تشير الأبحاث إلى أن معظم الصور المزيفة عبر الإنترنت ذات طبيعة إباحية، ومعظمها لنساء. تم استخدام البرنامج للاحتيال والابتزاز وتدمير السمعة. كما أنه يشكل خطراً هائلاً على الديمقراطية في جميع أنحاء العالم. وقد تم استخدامه لنشر معلومات كاذبة والتلاعب بالرأي العام وانتحال صفة السياسيين. في الشهر الماضي، حثت مكالمة آلية – باستخدام صوت مزيف للرئيس الأمريكي جو بايدن – الديمقراطيين على البقاء في منازلهم قبل الانتخابات التمهيدية في نيو هامبشاير.
اقترحت لجنة الاتصالات الفيدرالية الأمريكية هذا الأسبوع اعتبار استخدام تقنية استنساخ الصوت في المكالمات الآلية غير قانوني بشكل أساسي. ومع ذلك، فإن تنظيم المحتوى الضار الناتج عن الذكاء الاصطناعي ليس بالأمر السهل على الإطلاق؛ قد يكون تحديد النية الخبيثة أمرًا صعبًا. إن محاولة منع إنشائه تواجه مشاكل في تحديد ما هو مسموح به وما هو غير مسموح به، ويمكن أن يؤدي ذلك إلى خنق حرية التعبير والاستخدامات المبتكرة للبرنامج. على الرغم من جميع عيوبها، فقد تم استخدام هذه التكنولوجيا من أجل الخير – على سبيل المثال لدعم المعلمين، ومبدعي الأفلام، وحتى المرضى الذين فقدوا أصواتهم. إن نطاق البرامج والطبيعة التي لا حدود لها لوسائل التواصل الاجتماعي تجعل من مراقبة المبدعين المجهولين في كثير من الأحيان تحديًا لوجستيًا أيضًا. يتطلب قانون الذكاء الاصطناعي التابع للاتحاد الأوروبي من المبدعين الكشف عن استخدام تقنية التزييف العميق، لكن هذا لا يمنع انتشار المحتوى الضار.
يجب أن يقع العبء على استهداف توزيع التزييف العميق الخبيث. قانون السلامة على الإنترنت في المملكة المتحدة يجعل من غير القانوني نشر المواد الإباحية العميقة غير التوافقية. وينبغي للدول الأخرى أن تحذو حذوها. يحتاج الإطار القانوني لنشر التزييف العميق الضار دون موافقة – بما في ذلك حقوق الطبع والنشر والتشهير وقواعد التدخل في الانتخابات – إلى التشديد. ويجب أن تكون الحدود واضحة، حتى لا تخنق حرية التعبير المشروعة. من شأن حملات التوعية العامة وتحسين الثقافة الإعلامية أن تساعد المستخدمين على اكتشاف التزييف العميق الخبيث والإبلاغ عنه أيضًا.
سيظل المحتوى الضار يتسرب من خلاله. وهذا يعني أنه ينبغي جعل شركات وسائل التواصل الاجتماعي أكثر عرضة للمساءلة، مع فرض عقوبات إذا فشلت في اتخاذ الإجراءات المناسبة مثل اكتشاف المحتوى الضار وإزالته بشكل أسرع، وحظر الحسابات المزيفة. من شأن الاستثمار لتحسين برامج الكشف عن الذكاء الاصطناعي أن يساعد، إلى جانب “العلامة المائية” في التمييز بين المنشورات الحقيقية والمنشورات التي يتم إنشاؤها بواسطة الآلة. يعد التعاون في مجال الضمانات عبر المنصات والبرامج أمرًا حيويًا.
ومع تقدم جهود الحماية، تتقدم أيضًا التقنيات الخبيثة القادرة على التهرب منها. ويتعين على صناع السياسات والشركات أن يتحركوا بسرعة، مع تجنب العواقب غير المقصودة. ولكن مع تعرض حقوق الأفراد، وخاصة النساء، والخطاب الديمقراطي للخطر، فإنهم لا يستطيعون تحمل المزيد من التخلف عن الركب.
