أثار رد الفعل العنيف تجاه الذكاء الاصطناعي Google Gemini (AI) ردود فعل من قادة التكنولوجيا، بما في ذلك مهندس برمجيات سابق في Google ورائد أعمال في مجال التكنولوجيا يعمل بشكل وثيق مع أحد برامج بدء التشغيل في Google.
أسس بريت فارميلو موقعFeatured.com، وهي شركة ناشئة تعمل بالذكاء الاصطناعي ضمن برنامج Google for Startups Cloud وشريك من المستوى الرابع مع OpenAI من خلال برنامج Microsoft Startup.
خلال الأشهر الثلاثة التي عملت فيها شركته مع Google، تم تعريفهم بالعديد من نماذج الذكاء الاصطناعي، مثل Bison وUnicorn وGemini وGemini Pro وGemini Ultra. وقال إن كل نموذج كان له نفس “التشجيع الداخلي والضجيج”، ولكن لم يثبت أي منهم أنه يطابق ما كان عليه OpenAI قبل تسعة أشهر.
ونتيجة لذلك، لم يتمكن فارميلو وزملاؤه من اعتماد نماذج الذكاء الاصطناعي من جوجل في سير عملهم. على الرغم من أنه يتوقع أن يتغير هذا في غضون ستة أشهر، إلا أن GPT 3.5 وGPT 4 لا يزالان يخدمان سير العمل بشكل أفضل.
عضو مجلس الشيوخ عن ولاية أوهايو يطالب جوجل “بالانفصال” وسط كارثة الجوزاء: “واحدة من أخطر الشركات في العالم”
وقال فارميلو لـ Fox News Digital: “ما يحدث في Google داخليًا هو أنهم يحاولون ببساطة اللحاق بـ Microsoft وOpenAI في سباق الذكاء الاصطناعي. ولأول مرة منذ عقود، احتلوا المركز الثاني في أفضل الأحوال”.
وأشار إلى أن جوجل “تحاول سد الفجوة” من خلال الإصدارات والعلاقات العامة والضجيج ومشاركة المطورين، لكنها لم تتمكن من سد الفجوة التقنية على الرغم من وضع كل تركيزها الهندسي على الذكاء الاصطناعي.
وأشار إلى أن الشركة تتعامل مع الذكاء الاصطناعي من خلال ثلاث “مجموعات” نصية ومرئية وصوتية. في حين أن جوجل تشعر على الأرجح أن نصها في مكان جيد، وفقًا لفارميلو، فإن الفئة المرئية هي أول جولة.
“باعتبارنا شركة ناشئة تعمل بالذكاء الاصطناعي في برنامجهم السحابي، لم يكن لدينا حتى إمكانية الوصول إلى أدواتهم المرئية. هذا هو مدى تقدمهم في السن…حتى المطورين الذين لديهم إمكانية الوصول لا يمكنهم الوصول. أعتقد أن إصدار Sora قد وضع المزيد من الضغط على وأضاف: “على جوجل أن تحرز تقدمًا في الفئة المرئية، ومن المحتمل أن التكنولوجيا لم تكن جاهزة للاستخدام العام”.
أوقفت Google ميزة إنشاء الصور في Gemini الأسبوع الماضي بعد أن أبلغ المستخدمون على وسائل التواصل الاجتماعي أنها كانت تنشئ صورًا تاريخية غير دقيقة تستبدل أحيانًا الأشخاص البيض بصور لأشخاص من السود والأمريكيين الأصليين والآسيويين.
صرح الرئيس التنفيذي لشركة Google، ساندر بيتشاي، للموظفين يوم الثلاثاء الماضي أن الشركة تعمل “على مدار الساعة” لإصلاح تحيز جيميني، واصفًا بعض الصور التي تم إنشاؤها بواسطة النموذج بأنها “غير مقبولة على الإطلاق”.
مكان عمل “غرفة الصدى” في Google يحجب حيادها: موظف سابق
يعتقد فارميلو أنه نظرًا للضغط الهائل الذي تمارسه Google لمطابقة Open AI، فمن المحتمل أنها عجلت في إصدار توليد الصور الخاص بها، مما أدى إلى حلقة ردود فعل “صعبة وسريعة”.
“ما سأقوله هو أنه عندما تطلق Google نماذج وأدوات جديدة ليستخدمها المطورون، فقد كانوا رائعين في القول بأن النموذج قد لا يكون جاهزًا للاستخدام في الإنتاج. ويبدو أنه تم تخطي هذه الخطوة في هذه الحالة، قال للأسف.
صرح مدير تسويق منتجات Google السابق، غاريت ياماساكي، لشبكة Fox News Digital أنه على الرغم من أن مبادرة Gemini لتعزيز التنوع ربما كانت “حسنة النية”، إلا أنه من الواضح أن الشركة واجهت “أخطاء خطيرة في التنفيذ”.
قال ياماساكي، الذي أمضى سنوات عديدة في العمل كمهندس برمجيات في Google قبل تأسيس WeLoveDoodles، إنه قد يكون من الصعب تحقيق التوازن بين تمثيل الذكاء الاصطناعي دون الميل إلى التحيز إما عن طريق الإغفال أو الإفراط في التعويض. في حين أن “الذكاء الاصطناعي الصديق للتنوع” كان من الممكن أن يكون خطوة نحو معالجة النقص التاريخي في التمثيل في وسائل الإعلام الرقمية، إلا أن ياماساكي قال إن رد الفعل العنيف يكشف “الخط الدقيق” بين تعزيز التنوع وخلق “شكل جديد” من التحيز عن غير قصد.
وأضاف: “إن آثار الذكاء الاصطناعي المتحيز على المجتمع عميقة، ولا تؤثر فقط على توليد الصور ولكن على عمليات صنع القرار في الرعاية الصحية وإنفاذ القانون والتوظيف”. “إن رد فعل الجوزاء العنيف هو بمثابة قصة تحذيرية حول التأثير المجتمعي للذكاء الاصطناعي وأهمية تصميم هذه التقنيات مع فهم دقيق للتنوع البشري.”
وأشار ياماساكي إلى أنه من المحتمل أن تقوم جوجل على المستوى الداخلي بإعادة تقييم خوارزمياتها والأطر الأخلاقية التي توجه تطوير الذكاء الاصطناعي. وقال إن جوجل ربما تكون منخرطة في “مناقشات مكثفة” حول تحسين الذكاء الاصطناعي في جيميني لتصوير التنوع البشري “بطريقة أكثر توازناً ودقة”.
حصريًا: تدعي شركة Montana AG أن GOOGLE GEMINI لديها “تحيز سياسي”، وربما انتهكت القانون في رسالة إلى الرئيس التنفيذي
وتوقع ياماساكي أيضًا أن الوضع قد يدفع جوجل وصناعة التكنولوجيا نحو “تعاون أعمق” مع “مجتمعات متنوعة”، بما في ذلك خبراء في الأخلاق وعلم الاجتماع والدراسات الثقافية لإرشاد عمليات تطوير الذكاء الاصطناعي.
وقال: “ما حدث من خطأ في هذا الطرح يشير إلى قضية أوسع في تطوير الذكاء الاصطناعي: الحاجة إلى مجموعات بيانات أكثر شمولاً ومبادئ توجيهية أخلاقية تعطي الأولوية للعدالة والتمثيل”. “للمضي قدمًا، يجب على شركات التكنولوجيا الانخراط في حوارات مفتوحة مع مختلف المجتمعات وأصحاب المصلحة لضمان أن تقنيات الذكاء الاصطناعي تخدم وتعكس ثراء التنوع البشري، وتجنب التحيزات التي يمكن أن تؤدي إلى إدامة عدم المساواة.”
أثار الجدل الدائر حول Google Gemini أيضًا المخاوف بشأن التحيز في الذكاء الاصطناعي في عالم التكنولوجيا الأكبر.
قال فلافيو فيلانوستر، الرئيس العالمي لأمن المعلومات في شركة LexisNexis Risk Solutions، إن النماذج اللغوية الكبيرة (LLMs)، التي تعتمد عليها منتجات الذكاء الاصطناعي التوليدية، يمكن أن تزيد من التحيز الضمني أو الصريح الموجود في مجموعة المواد التي يتم تدريبهم عليها.
“نظرًا لأن هذه النماذج ليست حتمية ولكنها احتمالية، فمن الصعب جدًا القضاء على التحيز من خلال الوسائل الخوارزمية أو عن طريق تقييد أو تصفية المواد التدريبية. لا يمكن عرض التحيز إلا في ظل ظروف تعتمد على المحفزات والسياق، لذلك ليس من السهل تحديد كل احتمال ممكن وقال لشبكة فوكس نيوز ديجيتال: “السيناريو الذي يمكن أن يؤدي إلى تحيز استجابة معينة”.
وقال فيلانوستر إن الآثار المحتملة على المجتمع كبيرة ويمكن أن تتراوح من “استجابة غير مناسبة إلى حد ما” إلى نتيجة يمكن أن تنتهك قوانين مكافحة التمييز الحالية.
رد فعل عنيف من GOOGLE GEMINI يكشف تعليقات الموظفين حول ترامب و”مكافحة العنصرية” و”الامتياز الأبيض”
على سبيل المثال، قال إن استخدام هذه النماذج لاتخاذ قرارات التوظيف يزيد من إمكانية التمييز ضد مجموعات أو أفراد معينين على أساس العرق والجنس والعرق والعمر وعوامل أخرى. يمكن لهذه النماذج أيضًا اتخاذ قرارات غير صحيحة فيما يتعلق بأهلية الحصول على مزايا الدولة، ومعدلات القروض، والقبول في الجامعات.
“إذا لم تكن هذه القضايا مثيرة للقلق بدرجة كافية، فقد بدأنا نشهد استخدامًا أكثر انتشارًا لهذه النماذج في التطبيقات الطبية للأغراض التشخيصية والعلاجية. وإذا قام النموذج، بسبب التحيز، بتقييم حالة المريض أو العلاج المناسب بشكل غير صحيح، وقال: “قد يؤدي ذلك إلى عواقب تغير الحياة”.
لكن عدنان مسعود، كبير مهندسي الذكاء الاصطناعي في CUST، قال إن نماذج الذكاء الاصطناعي مفتوحة المصدر مثل Gemini هي “محورية” للنهوض بالمجال لأنها تتيح اتباع نهج ديمقراطي للابتكار. وهذا بدوره يمكن أن يؤدي إلى تسريع وتيرة الاكتشاف والتطبيق في العديد من مجالات الدراسة.
وقال مسعود إنه يعتقد أن النماذج مفتوحة المصدر يمكنها أيضًا تعزيز الشفافية وتطوير الذكاء الاصطناعي الأخلاقي من خلال السماح بالتدقيق على نطاق واسع وفهم عمل النماذج وتحيزاتها، وهو المصير الذي حل بجيمني.
وقال مسعود، الذي يعمل أيضًا كمدير إقليمي لشركة مايكروسوفت، إنه يعتقد أن مشروع جيميني سيمكن المطورين والباحثين من ابتكار وبناء تطبيقات باستخدام نماذج ذكاء اصطناعي قوية وفعالة وقابلة للتطوير.
وقال: “من خلال توفير نماذج مفتوحة مثل Gemma، تهدف Google إلى تعزيز نظام بيئي تعاوني حيث يمكن للمجتمع الأوسع المساهمة في تطوير الذكاء الاصطناعي، وضمان التطوير والنشر المسؤول”. “تعكس هذه المبادرة التزام Google بالعلم والتكنولوجيا المفتوحة، وتشجيع الاستخدام الواسع النطاق واستكشاف قدرات الذكاء الاصطناعي مع تلبية الحاجة إلى النماذج التي يمكن الوصول إليها من خلال مجموعة متنوعة من تكوينات الأجهزة، بدءًا من وحدات معالجة الرسومات المتطورة إلى وحدات المعالجة المركزية الأكثر تواضعًا.”
ولم ترد Google على طلب Fox News Digital للتعليق.
