تعمل Google على إصلاح أداة Gemini للذكاء الاصطناعي (AI)، حسبما صرح الرئيس التنفيذي ساندر بيتشاي للموظفين يوم الثلاثاء، واصفًا الصور التي تم إنشاؤها بواسطة النموذج بأنها “متحيزة” و”غير مقبولة على الإطلاق”.
ال شركة مملوكة لشركة الأبجدية تم إيقاف ميزة إنشاء صور Gemini مؤقتًا الأسبوع الماضي بعد أن أبلغ المستخدمون على وسائل التواصل الاجتماعي أن Gemini كان ينشئ صورًا تاريخية غير دقيقة استبدلت أحيانًا الأشخاص البيض بصور لأشخاص من السود والأمريكيين الأصليين والآسيويين.
وفي مذكرة للموظفين، قال بيتشاي إن ردود الأداة كانت مسيئة للمستخدمين وأظهرت تحيزًا.
| شريط | حماية | آخر | يتغير | يتغير ٪ |
|---|---|---|---|---|
| جوجل | شركة الأبجدية | 140.10 | +1.35 | +0.97% |
وقال: “تعمل فرقنا على مدار الساعة لمعالجة هذه المشكلات. ونحن نشهد بالفعل تحسنًا كبيرًا في مجموعة واسعة من المطالبات… وسنراجع ما حدث ونتأكد من إصلاحه على نطاق واسع”. بحسب رويترز.
تعترف GOOGLE بأن ذكاءها الاصطناعي الخاص بالجوزاء “أخطأ” في أعقاب مولد الصور المنتشر على نطاق واسع: ليس “ما قصدناه”
وتخطط الشركة الآن لإعادة إطلاق Gemini AI في الأسابيع القليلة المقبلة. وكان موقع Semafor الإخباري قد نشر الخبر لأول مرة، وهو ما أكده لاحقًا متحدث باسم Google.
أصدرت Google عدة اعتذارات لشركة Gemini بعد أن انتقد النقاد الذكاء الاصطناعي لإنشاء محتوى “مستيقظ”.
وقال برابهاكار راغافان، نائب الرئيس الأول للمعرفة والمعلومات في جوجل، يوم الجمعة، إن أداة الذكاء الاصطناعي “أخطأت الهدف” في تدوينة تشرح الخطأ الذي حدث.
أثناء شرح “ما حدث”، قال راغافان إن الجوزاء تم تصميمه لتجنب “إنشاء صور عنيفة أو جنسية صريحة، أو تصوير لأشخاص حقيقيين” وأن المطالبات المختلفة يجب أن توفر “مجموعة من الأشخاص” مقابل صور “نوع واحد من العرق”.
جوجل تعتذر بعد رفض الذكاء الاصطناعي الجديد الخاص بالجوزاء عرض صور وإنجازات الأشخاص البيض
“ومع ذلك، إذا طلبت من برج الجوزاء صورًا لنوع معين من الأشخاص – مثل “معلم أسود في الفصل الدراسي” أو “طبيب بيطري أبيض مع كلب” – أو أشخاص في سياقات ثقافية أو تاريخية معينة، فيجب عليك بالتأكيد الحصول على كتب راغافان: “رد يعكس بدقة ما تطلبه”. “إذن ما الخطأ الذي حدث؟ باختصار، هناك شيئان. أولاً، ضبطنا للتأكد من أن جيميني أظهر أن مجموعة من الأشخاص فشلوا في تفسير الحالات التي ينبغي بوضوح لا إظهار نطاق. وثانيًا، مع مرور الوقت، أصبح النموذج أكثر حذرًا مما كنا ننوي، ورفض الإجابة على بعض المطالبات بشكل كامل، مما أدى إلى تفسير خاطئ لبعض المحفزات المهدئة على أنها حساسة.
وتابع: “هذان الأمران قادا النموذج إلى الإفراط في التعويض في بعض الحالات، والإفراط في المحافظة في حالات أخرى، مما أدى إلى صور محرجة وخاطئة”. “لم يكن هذا ما أردناه. لم نرغب في أن يرفض برنامج Gemini إنشاء صور لأي مجموعة معينة. ولم نرغب في إنشاء صور تاريخية غير دقيقة – أو أي صور أخرى”.
تقوم Google بإيقاف مؤقتًا لمولد صور الجوزاء بعد رفض الذكاء الاصطناعي عرض صور للأشخاص البيض
وقال راغافان إن ميزة توليد الصور في جيميني ستخضع “لاختبارات واسعة النطاق” قبل إعادتها إلى الإنترنت مرة أخرى.
منذ إطلاق OpenAI’s ChatGPT في نوفمبر 2022، كانت جوجل تتسابق لإنتاج برامج الذكاء الاصطناعي التي تنافس ما قدمته الشركة المدعومة من مايكروسوفت.
عندما أطلقت شركة جوجل برنامج الدردشة الآلي Bard الذي يعمل بالذكاء الاصطناعي قبل عام، شاركت الشركة معلومات غير دقيقة حول صور كوكب خارج النظام الشمسي للأرض في مقطع فيديو ترويجي، مما تسبب في انخفاض الأسهم بنسبة تصل إلى 9٪.
تمت إعادة تسمية Bard باسم Gemini في وقت سابق من هذا الشهر، وقدمت Google ثلاثة إصدارات من المنتج بمستويات اشتراك مختلفة: Gemini Ultra، الأكبر والأكثر قدرة على المهام المعقدة للغاية؛ Gemini Pro، الأفضل لتوسيع نطاق مجموعة واسعة من المهام؛ وGemini Nano، الأكثر كفاءة للمهام التي تتم على الجهاز.
ساهم في هذا التقرير جوزيف وولفسون من فوكس بيزنس ونيكولاس لانوم ورويترز.
