أوقفت شركة جوجل مؤقتًا قدرة أداة الذكاء الاصطناعي Gemini على إنشاء صور للأشخاص بعد أن تم انتقادها على وسائل التواصل الاجتماعي لإنتاج صور غير دقيقة تاريخيًا أظهرت إلى حد كبير أشخاصًا ملونين بدلاً من الأشخاص البيض.
يُظهر هذا الخطأ الفادح كيف أن أدوات الذكاء الاصطناعي لا تزال تعاني من مفهوم العرق. على سبيل المثال، تعرض مولد الصور Dall-E التابع لشركة OpenAI لهجوم شديد بسبب إدامة الصور النمطية العنصرية والإثنية الضارة على نطاق واسع. ومع ذلك، يبدو أن محاولة جوجل للتغلب على هذه المشكلة قد جاءت بنتائج عكسية وجعلت من الصعب على برنامج الدردشة الآلي الذي يعمل بالذكاء الاصطناعي إنشاء صور للأشخاص البيض.
يتم تدريب Gemini، مثل أدوات الذكاء الاصطناعي الأخرى مثل ChatGPT، على كميات كبيرة من البيانات عبر الإنترنت. لقد حذر الخبراء منذ فترة طويلة من أن أدوات الذكاء الاصطناعي لديها القدرة على تكرار التحيزات العنصرية والجنسانية الموجودة في تلك المعلومات.
عندما طلبت منه شبكة CNN يوم الأربعاء إنشاء صورة للبابا، على سبيل المثال، أنتج جيميني صورة لرجل وامرأة، ولم يكن أي منهما أبيض اللون. أفاد موقع التكنولوجيا The Verge أيضًا أن الأداة أنتجت صورًا لأشخاص ملونين استجابةً لمطالبة بإنشاء صور “لجندي ألماني عام 1943”.
وقالت جوجل في بيان: “نحن نعمل بالفعل على معالجة المشكلات الأخيرة المتعلقة بميزة إنشاء الصور في Gemini”. بريد في العاشر من الخميس. “بينما نقوم بذلك، سنقوم بإيقاف إنشاء صور الأشخاص مؤقتًا وسنعيد إصدار نسخة محسنة قريبًا.”
وجاء بيان الخميس بعد أن بدا أن جوجل يوم الأربعاء تدافع عن الأداة في اليوم السابق بالقول في بريد على X، “إن توليد صور الذكاء الاصطناعي لـ Gemini يولد مجموعة واسعة من الأشخاص. وهذا أمر جيد بشكل عام لأن الناس في جميع أنحاء العالم يستخدمونه.
واعترفت الشركة: “لكنها تفتقد العلامة هنا”.
وفي اختبارات أخرى أجرتها شبكة سي إن إن يوم الأربعاء، أدت مطالبة تطلب صورة “مزارع أبيض في الجنوب” إلى رد جيميني قائلاً: “بالتأكيد، إليك بعض الصور التي تعرض صورًا لمزارعين في الجنوب، يمثلون مجموعة متنوعة من الجنس والعرق.” ومع ذلك، أدى طلب منفصل لـ “جدة أيرلندية في حانة في دبلن” إلى ظهور صور لنساء بيض مسنات مرحات يحملن البيرة وخبز الصودا.
قال جاك كراوزيك، مدير المنتج الرئيسي لشركة Gemini في Google، في منشور يوم الأربعاء إن Google تصمم عمدًا “قدرات إنشاء الصور لتعكس قاعدة المستخدمين العالمية لدينا” وأن الشركة “ستواصل القيام بذلك من أجل المطالبات المفتوحة (صور شخص ما” إن تمشية الكلب أمر عالمي!).”
يعد هذا الحادث أيضًا انتكاسة أخرى لشركة Google حيث إنها تتسابق لمواجهة OpenAI واللاعبين الآخرين في مجال الذكاء الاصطناعي التوليدي التنافسي.
في فبراير، بعد وقت قصير من تقديم أداة الذكاء الاصطناعي التوليدية الخاصة بها – التي كانت تسمى حينها Bard ثم أعيدت تسميتها بعد ذلك باسم Gemini – انخفض سعر سهم Google لفترة وجيزة بعد أن أظهر مقطع فيديو تجريبي للأداة أنها تنتج استجابة غير دقيقة في الواقع لسؤال حول تلسكوب جيمس ويب الفضائي.
