بدأ روبوت الدردشة الذكي Grok التابع لإيلون ماسك يوم الثلاثاء في السماح للمستخدمين بإنشاء صور تم إنشاؤها بواسطة الذكاء الاصطناعي من رسائل نصية ونشرها على X. وعلى الفور تقريبًا، بدأ الناس في استخدام الأداة لإغراق موقع التواصل الاجتماعي بصور مزيفة لشخصيات سياسية مثل الرئيس السابق دونالد ترامب ونائبة الرئيس كامالا هاريس، بالإضافة إلى ماسك نفسه – بعضها يصور الشخصيات العامة في مواقف كاذبة بشكل واضح ولكنها مزعجة مع ذلك، مثل المشاركة في هجمات 11 سبتمبر.
على عكس أدوات الذكاء الاصطناعي السائدة الأخرى للصور، يبدو أن تطبيق Grok، الذي أنشأته شركة xAI الناشئة للذكاء الاصطناعي التابعة لـ Musk، لديه عدد قليل من الحواجز.
على سبيل المثال، تمكنت شبكة CNN في اختباراتها للأداة من جعل Grok قادرًا بسهولة على توليد صور مزيفة وواقعية للسياسيين والمرشحين السياسيين، والتي قد تكون مضللة للناخبين إذا تم إخراجها من سياقها. كما أنشأت الأداة صورًا حميدة ولكنها مقنعة لشخصيات عامة، مثل ماسك وهو يأكل شريحة لحم في حديقة.
نشر بعض مستخدمي X صورًا قالوا إنهم أنشأوها باستخدام Grok تُظهر شخصيات بارزة تتعاطى المخدرات وشخصيات كرتونية ترتكب جرائم قتل عنيفة وصورًا جنسية لنساء يرتدين البكيني. في أحد المنشورات التي تمت مشاهدتها ما يقرب من 400000 مرة، شارك أحد المستخدمين صورة أنشأها Grok لترامب وهو ينحني من أعلى شاحنة ويطلق النار من بندقية. وأكدت اختبارات CNN أن الأداة قادرة على إنشاء مثل هذه الصور.
ومن المرجح أن تزيد هذه الأداة من المخاوف من أن الذكاء الاصطناعي قد يخلق انفجارًا من المعلومات الكاذبة أو المضللة عبر الإنترنت، وخاصة قبل الانتخابات الرئاسية الأمريكية. وقد أثار المشرعون وجماعات المجتمع المدني وحتى قادة التكنولوجيا أنفسهم ناقوس الخطر من أن إساءة استخدام مثل هذه الأدوات قد تسبب ارتباكًا وفوضى للناخبين.
“جروك هو الذكاء الاصطناعي الأكثر متعة في العالم!” نشر ماسك على X Wednesday، ردًا على مستخدم أشاد بالأداة لكونها “غير خاضعة للرقابة”.
وقد اتخذت العديد من شركات الذكاء الاصطناعي الرائدة الأخرى بعض الخطوات لمنع استخدام أدوات توليد الصور بالذكاء الاصطناعي لإنشاء معلومات مضللة سياسية، على الرغم من أن الباحثين وجدوا أن المستخدمين ما زالوا قادرين في بعض الأحيان على إيجاد طرق للالتفاف على تدابير التنفيذ. كما تتضمن بعض الشركات، بما في ذلك OpenAI وMeta وMicrosoft، تقنية أو ملصقات لمساعدة المشاهدين على تحديد الصور التي تم إنشاؤها باستخدام أدوات الذكاء الاصطناعي الخاصة بهم.
كما اتخذت منصات التواصل الاجتماعي المنافسة، بما في ذلك يوتيوب، وتيك توك، وإنستغرام، وفيسبوك، خطوات لوضع علامة على المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي في خلاصات المستخدمين، إما عن طريق استخدام التكنولوجيا للكشف عنه بأنفسهم أو مطالبة المستخدمين بتحديد متى ينشرون مثل هذا المحتوى.
ولم تستجب شركة X على الفور لطلب التعليق بشأن ما إذا كانت لديها أي سياسات ضد قيام Grok بإنشاء صور مضللة محتملة للمرشحين السياسيين.
تتبع منصة التواصل الاجتماعي سياسة ضد مشاركة “الوسائط الاصطناعية أو المتلاعب بها أو خارج السياق والتي قد تخدع أو تربك الناس وتؤدي إلى الأذى”، على الرغم من أنه من غير الواضح كيف يتم تطبيق السياسة. شارك ماسك نفسه مقطع فيديو الشهر الماضي على X استخدم فيه الذكاء الاصطناعي ليجعل الأمر يبدو وكأن هاريس قالت أشياء لم تقلها في الواقع – في انتهاك واضح للسياسة وباستخدام رمز تعبيري لوجه ضاحك فقط للإيحاء للمتابعين بأنه مزيف.
وتأتي أداة الصور الجديدة Grok أيضًا في الوقت الذي يواجه فيه ماسك انتقادات لنشره بشكل متكرر ادعاءات كاذبة ومضللة على X تتعلق بالانتخابات الرئاسية، بما في ذلك منشور يثير تساؤلات حول أمان آلات التصويت. كما يأتي ذلك بعد أيام من استضافة ماسك لترامب في محادثة بث مباشر لأكثر من ساعتين على X حيث قدم المرشح الجمهوري ما لا يقل عن 20 ادعاءً كاذبًا دون رد من ماسك.
واجهت أدوات أخرى لتوليد الصور بالذكاء الاصطناعي ردود فعل عنيفة بسبب قضايا مختلفة. أوقفت جوجل قدرة روبوت الدردشة بالذكاء الاصطناعي Gemini على توليد صور للأشخاص بعد تعرضه لانتقادات شديدة لإنتاجه صورًا غير دقيقة تاريخيًا لأعراق الأشخاص؛ وتعرض مولد الصور بالذكاء الاصطناعي Meta لانتقادات شديدة بسبب محاولته إنشاء صور لأزواج أو أصدقاء من خلفيات عرقية مختلفة. كما اضطرت TikTok إلى سحب أداة فيديو بالذكاء الاصطناعي بعد أن اكتشفت CNN أن أي مستخدم يمكنه إنشاء مقاطع فيديو واقعية المظهر لأشخاص يقولون أي شيء، بما في ذلك معلومات مضللة عن اللقاحات، دون تسميات.
يبدو أن Grok لديه بعض القيود؛ على سبيل المثال، رد طلب صورة عارية على ذلك بقول، “لسوء الحظ، لا يمكنني إنشاء هذا النوع من الصور”.
وفي اختبار منفصل، قالت الأداة إنها أيضًا “تفرض قيودًا على إنشاء محتوى يروج أو يمكن اعتباره تأييدًا للصور النمطية الضارة أو خطاب الكراهية أو المعلومات المضللة”.
“من المهم تجنب نشر الأكاذيب أو المحتوى الذي قد يحرض على الكراهية أو الانقسام. إذا كان لديك طلبات أخرى أو تحتاج إلى معلومات حول موضوع مختلف، فلا تتردد في السؤال!” قال جروك.
ومع ذلك، استجابة لمطالبة مختلفة، قامت الأداة بإنشاء صورة لشخصية سياسية تقف إلى جانب رمز لخطاب الكراهية – وهي علامة على أن أي قيود يفرضها Grok، يبدو أنها لا يتم فرضها بشكل متسق.
– ساهم جون باسانتينو من شبكة CNN في هذا التقرير.
