ملاحظة المحرر: ظهرت نسخة من هذه المقالة لأول مرة في نشرة “مصادر موثوقة”. قم بالتسجيل للحصول على الملخص اليومي الذي يؤرخ المشهد الإعلامي المتطور هنا.
تتسابق شركات التكنولوجيا الكبرى لمعالجة تدفق الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي والتي تغمر منصات الوسائط الاجتماعية قبل أن تؤدي العروض المصممة آليًا إلى تلويث مساحة المعلومات بشكل أكبر.
أعلنت TikTok يوم الخميس أنها ستبدأ في تصنيف المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي. قالت Meta (الشركة الأم لـ Instagram وThreads وFacebook) الشهر الماضي إنها ستبدأ في تصنيف هذا المحتوى. وقدم موقع YouTube قواعد تلزم منشئي المحتوى بالكشف عن وقت إنشاء مقاطع الفيديو بواسطة الذكاء الاصطناعي بحيث يمكن تطبيق التصنيف. (من الجدير بالذكر أن Elon Musk's X لم يعلن عن أي خطط لتصنيف المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي.)
مع أقل من 200 يوم حتى انتخابات تشرين الثاني (نوفمبر) عالية المخاطر، ومع تقدم التكنولوجيا بسرعة مذهلة، حددت أكبر ثلاث شركات لوسائل التواصل الاجتماعي خططًا لضمان قدرة مليارات المستخدمين على التمييز بين المحتوى الناتج عن الآلات والبشر.
وفي الوقت نفسه، قالت OpenAI، منشئ ChatGPT الذي يسمح للمستخدمين أيضًا بإنشاء صور تم إنشاؤها بواسطة الذكاء الاصطناعي من خلال نموذج DALL-E، هذا الأسبوع إنها ستطلق أداة تسمح للمستخدمين باكتشاف متى يتم إنشاء الصورة بواسطة الروبوت. بالإضافة إلى ذلك، قالت الشركة إنها ستطلق صندوقًا متعلقًا بالانتخابات بقيمة 2 مليون دولار مع مايكروسوفت لمكافحة التزييف العميق الذي يمكن أن “يخدع الناخبين وتقويض الديمقراطية”.
الجهود من ويمثل وادي السليكون اعترافا بأن الأدوات التي يبنيها عمالقة التكنولوجيا تنطوي على إمكانات خطيرة لإحداث الفوضى في مجال المعلومات وإلحاق ضرر جسيم بالعملية الديمقراطية.
لقد أثبتت الصور المولدة بواسطة الذكاء الاصطناعي أنها خادعة بشكل خاص. في هذا الأسبوع فقط، خدعت صورة تم إنشاؤها بواسطة الذكاء الاصطناعي لنجمة البوب كاتي بيري، والتي من المفترض أنها ظهرت على السجادة الحمراء في حفل Met Gala بفساتين معدنية وزهرية، الناس إلى الاعتقاد بأن المغنية حضرت الحدث السنوي، في حين أنها لم تفعل ذلك في الواقع. كانت الصورة واقعية جدًا لدرجة أن والدة بيري اعتقدت أنها أصلية.
“لم أكن أعلم أنك ذهبت إلى Met” ، أرسلت والدة بيري رسالة نصية للمغنية ، وفقًا للقطة شاشة نشرها بيري.
“يا أمي، لقد تمكن الذكاء الاصطناعي منك أيضًا، احذري!” أجاب بيري.
على الرغم من أن الصورة واسعة الانتشار لم تسبب ضررًا جسيمًا، إلا أنه ليس من الصعب تخيل السيناريو. خاصة قبل الانتخابات الكبرى – حيث يمكن للصورة المزيفة أن تضلل الناخبين وتثير الارتباك، وربما ترجيح كفة الميزان لصالح مرشح أو آخر.
ولكن على الرغم من التحذيرات المتكررة والمثيرة للقلق من جانب خبراء وشخصيات الصناعة، فقد فشلت الحكومة الفيدرالية حتى الآن في اتخاذ أي إجراء لوضع ضمانات حول الصناعة. وهكذا، تُركت شركات التكنولوجيا الكبرى لأجهزتها الخاصة لكبح جماح التكنولوجيا قبل أن تتمكن الجهات الفاعلة السيئة من استغلالها لمصلحتها الخاصة. (ما الخطأ الذي يمكن أن يحدث؟)
ويبقى أن نرى ما إذا كانت الجهود التي تقودها الصناعة قادرة على الحد من انتشار التزييف العميق الضار بنجاح. لدى عمالقة وسائل التواصل الاجتماعي مجموعة كبيرة من القواعد التي تحظر محتوى معينًا على منصاتهم، لكن التاريخ أظهر مرارًا وتكرارًا أنهم فشلوا في كثير من الأحيان في تطبيق هذه القواعد بشكل مناسب وسمحوا للمحتوى الضار بالانتشار إلى الجماهير قبل اتخاذ أي إجراء.
ولا يوحي هذا السجل السيئ بقدر كبير من الثقة، حيث تقصف الصور التي أنشأها الذكاء الاصطناعي بيئة المعلومات بشكل متزايد – خاصة وأن الولايات المتحدة تندفع نحو انتخابات غير مسبوقة حيث تكون الديمقراطية نفسها على المحك.
