يشعر صناع السياسات في جميع أنحاء العالم بالقلق بشأن كيفية تسخير المعلومات المضللة الناتجة عن الذكاء الاصطناعي لمحاولة تضليل الناخبين وتأجيج الانقسامات قبل العديد من الانتخابات الكبرى العام المقبل.
وهذا ما يحدث بالفعل في بلد واحد: بنغلاديش.
وتتجه الدولة الواقعة في جنوب آسيا والتي يبلغ عدد سكانها 170 مليون نسمة إلى صناديق الاقتراع في أوائل يناير/كانون الثاني، وهي منافسة اتسمت بصراع مرير واستقطابي على السلطة بين رئيسة الوزراء الحالية الشيخة حسينة ومنافسيها، حزب بنغلادش الوطني المعارض.
قامت وسائل الإعلام المؤيدة للحكومة وأصحاب النفوذ في بنجلاديش في الأشهر الأخيرة بالترويج لمعلومات مضللة ناتجة عن الذكاء الاصطناعي والتي تم إنشاؤها باستخدام أدوات رخيصة تقدمها شركات الذكاء الاصطناعي الناشئة.
وفي أحد المقاطع الإخبارية المزعومة، انتقدت مذيعة من إنتاج الذكاء الاصطناعي الولايات المتحدة، الدولة التي انتقدتها حكومة الشيخة حسينة قبل الانتخابات. وأظهر مقطع فيديو منفصل، تمت إزالته منذ ذلك الحين، زعيمًا للمعارضة وهو يراوغ بشأن دعم سكان غزة، وهو موقف قد يكون مدمرًا في الدولة ذات الأغلبية المسلمة مع تعاطف عام قوي مع الفلسطينيين.
يتزايد الضغط العام على منصات التكنولوجيا لاتخاذ إجراءات صارمة ضد محتوى الذكاء الاصطناعي المضلل قبل العديد من الانتخابات الكبيرة المتوقعة في عام 2024، بما في ذلك في الولايات المتحدة والمملكة المتحدة والهند وإندونيسيا. ردًا على ذلك، أعلنت شركتا Google وMeta مؤخرًا عن سياسات للبدء في مطالبة الحملات بالكشف عما إذا كانت الإعلانات السياسية قد تم تعديلها رقميًا.
لكن الأمثلة من بنجلاديش لا تظهر فقط كيف يمكن استغلال أدوات الذكاء الاصطناعي هذه في الانتخابات، بل تظهر أيضًا صعوبة التحكم في استخدامها في الأسواق الصغيرة التي تخاطر بتجاهلها من قبل شركات التكنولوجيا الأمريكية.
قال ميراج أحمد شودري، المدير الإداري لشركة الأبحاث الإعلامية Digitally Right ومقرها بنجلاديش، إنه على الرغم من أن المعلومات المضللة التي يولدها الذكاء الاصطناعي “لا تزال في مستوى تجريبي” – حيث تم إنشاء معظمها باستخدام منصات تحرير الصور أو الفيديو التقليدية – إلا أنها أظهرت كيف يمكن أن يستغرق الأمر وقتًا طويلاً. عن.
وقال: “عندما يكون لديهم تقنيات وأدوات مثل الذكاء الاصطناعي، والتي تسمح لهم بإنتاج معلومات مضللة ومضللة على نطاق واسع، يمكنك أن تتخيل مدى حجم هذا التهديد”، مضيفًا أن “اهتمام المنصة بولاية قضائية معينة يعتمد على مدى حجم هذا التهديد”. المهم هو بمثابة السوق “.
لقد ارتفع التركيز العالمي على القدرة على استخدام الذكاء الاصطناعي لإنشاء محتوى سياسي مضلل أو كاذب خلال العام الماضي مع انتشار الأدوات القوية مثل ChatGPT ومولدات الفيديو التي تعمل بالذكاء الاصطناعي من OpenAI.
في وقت سابق من هذا العام، أصدرت اللجنة الوطنية للحزب الجمهوري الأمريكي إعلانًا هجوميًا باستخدام صور تم إنشاؤها بواسطة الذكاء الاصطناعي لتصوير المستقبل البائس في عهد الرئيس جو بايدن. وعلق موقع يوتيوب العديد من الحسابات في فنزويلا باستخدام مذيعي الأخبار الذين أنشأهم الذكاء الاصطناعي للترويج لمعلومات مضللة لصالح نظام الرئيس نيكولاس مادورو.
وفي بنجلاديش، تغذي المعلومات المضللة مناخًا سياسيًا متوترًا قبل الانتخابات المقررة في أوائل يناير. قامت الشيخة حسينة بقمع المعارضة. وتم اعتقال الآلاف من القادة والناشطين فيما حذر منتقدوه من أنه يرقى إلى محاولة تزوير استطلاعات الرأي لصالحها، مما دفع الولايات المتحدة إلى الضغط علناً على حكومتها لضمان إجراء انتخابات حرة ونزيهة.
في أحد مقاطع الفيديو التي تم نشرها على X في سبتمبر من قبل BD Politico، وهو منفذ إخباري عبر الإنترنت، قدم مذيع أخبار في “World News” مقطعًا في الاستوديو – تتخلله صور لأعمال شغب – اتهم فيه الدبلوماسيين الأمريكيين بالتدخل في الانتخابات البنغلاديشية وألقى باللوم عليهم. للعنف السياسي.
تم إنتاج الفيديو باستخدام HeyGen، وهو منشئ فيديو يعمل بالذكاء الاصطناعي ومقره لوس أنجلوس، والذي يسمح للعملاء بإنشاء مقاطع أمام الصور الرمزية للذكاء الاصطناعي مقابل مبلغ زهيد يصل إلى 24 دولارًا شهريًا. يمكن رؤية نفس المذيع، المسمى “Edward”، في المحتوى الترويجي لـ HeyGen كواحد من عدة صور رمزية – والتي تم إنشاؤها من ممثلين حقيقيين – متاحة لمستخدمي المنصة. ولم تستجب X وBD Politico وHeyGen لطلبات التعليق.
وتشمل الأمثلة الأخرى مقاطع الفيديو المزيفة المناهضة للمعارضة المنشورة على موقع ميتا على فيسبوك، بما في ذلك مقطع يُزعم كذباً أنه لزعيم حزب بنغلادش الوطني المنفي طارق الرحمن، وهو يقترح على الحزب “التزام الصمت” بشأن غزة حتى لا يثير استياء الولايات المتحدة. وخلص كل من معهد التكنولوجيا العالمي، وهو مؤسسة فكرية، ومنظمة ويتنس الإعلامية غير الربحية، إلى أن الفيديو المزيف من المحتمل أن يكون تم إنشاؤه بواسطة الذكاء الاصطناعي.
وقال أ.ك.م. وحيد الزمان، وهو مسؤول في الحزب الوطني البنغلاديشي، إن حزبه طلب من ميتا إزالة مثل هذا المحتوى ولكن “في معظم الأحيان لا يكلفون أنفسهم عناء الرد”. قام Meta بإزالة الفيديو بعد أن اتصلت به صحيفة Financial Times للتعليق.
في مقطع فيديو آخر مزيف عميق، تم إنشاؤه باستخدام منصة فيديو الذكاء الاصطناعي D-ID ومقرها تل أبيب، يظهر زعيم جناح الشباب في حزب بنغلادش الوطني راشد إقبال خان وهو يكذب بشأن عمره فيما قال معهد التكنولوجيا العالمي إنها محاولة لتشويه سمعته. لم يستجب D-ID لطلب التعليق.
قالت سابهاناز رشيد ضياء، مؤسسة معهد التكنولوجيا العالمي والمديرة التنفيذية السابقة لشركة ميتا، إن التحدي الرئيسي في تحديد مثل هذه المعلومات المضللة هو الافتقار إلى أدوات موثوقة للكشف عن الذكاء الاصطناعي، حيث أن المنتجات الجاهزة غير فعالة بشكل خاص في تحديد المحتوى غير الإنجليزي.
وأضافت أن الحلول التي تقترحها منصات التكنولوجيا الكبيرة، والتي ركزت على تنظيم الذكاء الاصطناعي في الإعلانات السياسية، سيكون لها تأثير محدود في دول مثل بنغلاديش حيث تشكل الإعلانات جزءًا أصغر من التواصل السياسي.
“إن الحلول التي يتم طرحها للتصدي لهذه الهجمة من المعلومات المضللة التي يعتمدها الذكاء الاصطناعي تتمحور حول الغرب للغاية.” منصات التكنولوجيا “لا تأخذ الأمر على محمل الجد في أجزاء أخرى من العالم”.
وتتفاقم المشكلة بسبب الافتقار إلى التنظيم أو تطبيقه بشكل انتقائي من قبل السلطات. على سبيل المثال، تعرض قانون الأمن السيبراني في بنجلاديش لانتقادات لأنه يمنح الحكومة صلاحيات صارمة لقمع المعارضة عبر الإنترنت.
ولم تستجب هيئة تنظيم الإنترنت في بنجلاديش لطلب التعليق حول ما تفعله للسيطرة على المعلومات الخاطئة عبر الإنترنت.
وقال ضياء إن التهديد الأكبر من المحتوى الذي ينتجه الذكاء الاصطناعي نفسه هو احتمال أن يتمكن السياسيون وغيرهم من استخدام مجرد إمكانية التزييف العميق لتشويه سمعة المعلومات غير المريحة.
وفي الهند المجاورة، على سبيل المثال، استجاب أحد السياسيين لتسجيل صوتي مسرب زعم أنه يناقش فيه الفساد في حزبه بالادعاء بأنه مزيف ــ وهو الادعاء الذي رفضه مدققو الحقائق في وقت لاحق.
وقالت: “من السهل على السياسي أن يقول: “هذا مزيف عميق”، أو “هذا ناتج عن الذكاء الاصطناعي”، ويثير شعوراً بالارتباك”. “التحدي الذي يواجه الجنوب العالمي. . . ستكون كيفية استخدام فكرة المحتوى الناتج عن الذكاء الاصطناعي كسلاح لتقويض ما يعتقده الناس أنه صحيح مقابل خطأ.
شارك في التغطية جيوتسنا سينغ في نيودلهي
