في أوقات فراغه، يحب توني إيستن أن يشتغل في سوق الأوراق المالية. في أحد أيام العام الماضي، بحث عبر جوجل عن شركة أدوية بدت كاستثمار واعد. تم إدراج إحدى نتائج البحث الأولى التي عرضتها Google في علامة تبويب الأخبار الخاصة بها على أنها قادمة من سجل مقاطعة كلايتون، صحيفة في شمال شرق ولاية ايوا. نقر، وقرأ. كانت القصة مشوهة وخالية من المعلومات المفيدة، وكذلك كانت جميع المنشورات الأخرى ذات الطابع المالي التي تملأ الموقع، والتي لا علاقة لها على الإطلاق بشمال شرق ولاية أيوا. يقول: “أدركت على الفور أن هناك شيئًا ما غير صحيح”. هناك الكثير من المقالات غير المرغوب فيها على الإنترنت، لكن هذا الأمر صدم إيستن باعتباره غريبًا: لماذا تنشر صحيفة صغيرة في الغرب الأوسط منشورات مدونات رديئة حول الاستثمار في التجزئة؟
كان إيستن مستعدًا للعثور على ألغاز عبر الإنترنت لا تقاوم. وبعد سنوات من العمل في القوات الجوية الأمريكية في حملات الحرب النفسية، انضم إلى منظمة ميتا حيث حقق في أعمال سيئة تتراوح بين إساءة معاملة الأطفال وعمليات التأثير السياسي. الآن كان بين الوظائف، ورحب بمهمة جديدة. لذا، تواصل إيستن مع سانديب أبراهام، وهو صديق وزميل سابق في ميتا كان يعمل سابقًا في استخبارات الجيش ووكالة الأمن القومي، واقترح عليهم البدء في الحفر.
ما اكتشفه هذا الثنائي يقدم لمحة سريعة عن كيفية قيام الذكاء الاصطناعي التوليدي بتمكين نماذج الأعمال الجديدة الخادعة عبر الإنترنت. يتم إنشاء شبكات من مواقع الويب المليئة بالنقرات المزعجة الناتجة عن الذكاء الاصطناعي من خلال استغلال سمعة وسائل الإعلام والعلامات التجارية القائمة. وتزدهر هذه المنافذ من خلال إرباك وتضليل الجماهير والمعلنين على حد سواء، عن طريق “الاستيلاء على النطاق” على عناوين URL التي كانت تنتمي ذات يوم إلى مؤسسات أكثر شهرة. لم يعد الموقع المشبوه الذي أُشير إليه إيستن تابعًا للصحيفة التي لا يزال يُتداول اسمها باسمها.
على الرغم من أن إيستن وأبراهام يشتبهان في أن الشبكة يسجلتم إنشاء موقع الويب القديم الآن بأهداف واضحة لكسب المال، فهم يخشون من أن المزيد من الجهات الفاعلة الخبيثة يمكن أن تستخدم نفس النوع من التكتيكات لدفع المعلومات المضللة والدعاية إلى نتائج البحث. يقول أبراهام: “هذا تهديد كبير”. “نريد أن ندق بعض أجراس الإنذار.” ولتحقيق هذه الغاية، أصدر الثنائي تقريرًا عن النتائج التي توصلا إليها ويخططان لإصدار المزيد بينما يتعمقان في عالم Clickbait بالذكاء الاصطناعي، على أمل أن تساعد جهودهما في وقت الفراغ في جذب الوعي بهذه القضية من الجمهور أو المشرعين.
أخبار كاذبة
ال سجل مقاطعة كلايتون تأسست عام 1926 وغطت بلدة إكادير الصغيرة بولاية آيوا ومقاطعة كلايتون الأوسع، والتي تقع قبالة نهر المسيسيبي في الركن الشمالي الشرقي للولاية. يقول المحرر المشارك السابق برايس دوربين، الذي يصف نفسه بأنه “مشمئز” مما يُنشر الآن على عنوانها السابق على الويب، Claytoncountyregister.com: “لقد كانت صحيفة شعبية”. (الحقيقي سجل مقاطعة كلايتون اندمجت في عام 2020 مع شمال ايوا تايمز لتصبح تسجيل الأوقات الذي ينشر على موقع مختلف. ليس من الواضح كيف فقدت الصحيفة السيطرة على نطاقها على شبكة الإنترنت؛ ال تسجيل الأوقات لم يرد طلبات للتعليق.)
وكما اكتشف إيستن أثناء محاولته البحث عن أسهمه في مجال الأدوية، لا يزال الموقع يطلق على نفسه اسم “سجل مقاطعة كلايتون” ولكنه لم يعد يقدم أخبارًا محلية، بل أصبح بدلاً من ذلك مطحنة محتوى للأخبار المالية. فهو ينشر ما يبدو أنه مقالات تم إنشاؤها بواسطة الذكاء الاصطناعي حول أسعار أسهم شركات المرافق العامة وشركات Web3 الناشئة، موضحة بالصور التي يبدو أنها أيضًا تم إنشاؤها بواسطة الذكاء الاصطناعي.
يقول بن كولمان، الرئيس التنفيذي لشركة Reality Defender الناشئة للكشف عن التزييف العميق، والتي أجرت تحليلاً لعدة مقالات بناءً على طلب WIRED: “لم يتم إنشاء المقالات التي نظرنا إليها بواسطة الذكاء الاصطناعي فحسب، بل تم إنشاء جميع الصور المضمنة في كل مقالة باستخدام نماذج الانتشار”. . بالإضافة إلى هذا التأكيد، لاحظ أبراهام وإيستن أن بعض المقالات تضمنت نصًا يعترف بأصولها الاصطناعية. “من المهم أن نلاحظ أن هذه المعلومات تم إنشاؤها تلقائيًا بواسطة Automated Insights”، كما جاء في بعض المقالات، مما أدى إلى إسقاط اسم شركة تقدم تكنولوجيا توليد اللغة.
