تخلت شركة جوجل عن “العدالة” واتخذت “اختصارات” رئيسية لإطلاق برنامج الدردشة الآلي “جيميني” للذكاء الاصطناعي (AI) على الرغم من المخاوف الداخلية، وفقًا لموظف سابق رفيع المستوى.
قبل الإصدار، خضعت لعبة Gemini، المعروفة سابقًا باسم Bard، لمراجعة مبادئ الذكاء الاصطناعي. وقال الخبراء المسؤولون عن مراجعة النموذج إنه غير آمن، ولا ينبغي لشركة جوجل تشغيل الذكاء الاصطناعي.
وفقًا للمصدر، يُزعم أن جين جيناي، مديرة الابتكار المسؤول (RESIN) آنذاك، قامت بتحرير الردود ودفعت المنتج إلى مستوى القيادة على الرغم من هذه التحذيرات.
قامت RESIN سابقًا بمراجعة المشاريع الداخلية لضمان الامتثال لمبادئ Google للذكاء الاصطناعي قبل حلها.
يقول مستشار سابق في GOOGLE إن الجوزاء هو ما يحدث عندما تصبح شركات الذكاء الاصطناعي “كبيرة جدًا في وقت مبكر جدًا”
قالت Gennai إن قرارها كان سليمًا لأنه كان عبارة عن منتج معاينة ولم تكن خطوات المراجعة الخاصة بالعروض التوضيحية نموذجية. ومع ذلك، قال مصدر جوجل، الذي تحدث مع Fox News Digital بشرط عدم الكشف عن هويته، إن ادعاءها “هراء بنسبة 100٪ —“.
أراد بعض الموظفين فحص مجموعات بيانات بارد وتضمينها لأن بعض النتائج الأولية كانت “مثيرة للقلق”. واقترح أحد الموظفين إنشاء أداة لتحديد ما تعلمته البيانات الموجودة داخل النموذج، كما يدعي المصدر.
وزعم المصدر: “لقد قالوا لا، و— لقد وصلنا إلى السوق لأننا نخسر أمام ChatGPT”.
حتى نوفمبر 2022، كانت جوجل الشركة الرائدة المهيمنة في مجال الذكاء الاصطناعي. في الواقع، حققت جوجل نجاحًا كبيرًا لدرجة أنها تمكنت من التخلي عن أدواتها لأشخاص آخرين لبناء شركات بأكملها عليها. تم تطوير جزء كبير من نموذج أعمال Open AI، بما في ذلك العناصر التكنولوجية الأساسية لـ ChatGPT، باستخدام الأبحاث التي نشرتها Google.
كان يُنظر إلى إصدار ChatGPT على أنه تهديد كبير لنموذج أعمال Google. تتقلص إيرادات الإعلانات على YouTube عامًا بعد عام. كان TikTok يقتطع ببطء من أرباح منصة مشاركة الفيديو الرائدة من Google، مما أثر سلبًا على بحث Google أيضًا. كانت منتجات إيراداتها الأساسية ولا تزال تتعرض للضرر من قبل المنافسين في السوق.
فجأة، ظهر ChatGPT على الساحة بذكاء اصطناعي أفضل. والأمر الأكثر إثارة للقلق هو أن جوجل لم يكن لديها منتج منافس.
أرسلت الأخبار الشركة إلى حالة من الفوضى، حيث أعلنت جوجل عن “الرمز الأحمر”، وفقًا لصحيفة نيويورك تايمز.
وقال المصدر: “الشيء الذي دعمهم وجعلهم على ما هم عليه الآن هو أنهم لم يعودوا رائدين في السوق. (ChatGPT) يمثل تهديدًا حقيقيًا لأعمالهم بأكملها”.
هل Google معطلة جدًا بحيث لا يمكن إصلاحها؟ المستثمرون “محبطون للغاية وغاضبون”، يحذر من الداخل السابق
شارك الرئيس التنفيذي لشركة Google ساندر بيتشاي في العديد من الاجتماعات مع المديرين التنفيذيين لتحديد استجابة Google لـ ChatGPT، مما أدى إلى قلب مجموعات مختلفة داخل الشركة وإعادة توجيه الاستراتيجيات الداخلية.
تمت إعادة تعيين الفرق داخل أبحاث Google والأقسام الحيوية الأخرى. أصبحت إعلانات YouTube والبحث والذكاء الاصطناعي التوليدي هي الأولوية الأولى. يقول الموظف السابق إنهم كانوا بحاجة إلى اللحاق بالركب، واتخذوا “طرقًا مختصرة” للوصول إلى هناك.
“لقد اتخذوا أساسًا قرارًا استراتيجيًا ليقولوا، الذكاء الاصطناعي التوليدي؛ علينا أن نتعامل معه. لم نعد نهتم بالعدالة. لا نهتم بالتحيز أو الأخلاق. طالما أنه لا ينتج مواد اعتداء جنسي على الأطفال أو وقال الموظف السابق في جوجل: “إذا قمنا بشيء ضار لسياسي يمكن أن يؤثر على صورتنا، فسوف نلقي باللوم على هذا الأمر”.
بعد أن تم استيعاب فريق Gennai’s RESIN في مكتب الامتثال والنزاهة وفرق الثقة والسلامة التي كانت تحت قيادة رئيس الشؤون العالمية كينت ووكر، بدأت الأمور تتغير بسرعة.
“حتى مراجعة مبادئ الذكاء الاصطناعي تغيرت. وحتى تقييم المخاطر الذي كنا نستخدمه تحول من النظر في كيفية تأثير هذه النماذج على مستخدمينا إلى ما هي المخاطر التجارية علينا بالنسبة لهذه النماذج؟” وقال المصدر لفوكس نيوز ديجيتال.
GOOGLE GEMINI تستخدم الأوامر “غير المرئية” لتعريف “السمية” وتشكيل عالم الإنترنت: خبير رقمي
وقال المصدر إن التغييرات التي نتجت عن استراتيجية جوجل الجديدة للذكاء الاصطناعي نشأت من ثقافة الشركة التي تروج لهدف واحد قبل كل شيء: إطلاق منتجات جديدة وطرحها.
يتضمن إطلاق المنتج عادةً تحسين التكنولوجيا والتسويق والعروض الترويجية والمعارض والأمن والمزيد. يتحقق إطلاق المنتج من أن التكنولوجيا قد تم اختبارها بشكل صحيح وشامل، ويتم وضع المستخدمين الأوائل أو مختبري النسخة التجريبية في هذا المزيج.
ومن المتوقع أيضًا أن يتم “هبوط” المنتجات، مما يضمن أن يتم طرحها للجمهور بسلاسة، وأن يكون لدى الشركة خطة للتعامل مع المشكلات المحتملة.
كلما ارتقى الموظف في سلم Google، كلما زاد توقع إظهار القيادة. ويعني هذا في كثير من الأحيان أن “تأثير” الموظف، وهو في الأساس عبارة عن مراجعة توثق مساهماتهم في Google، يتم قياسها من خلال إنشاء أشياء جديدة بدلاً من تحفيز ما هو موجود بالفعل أو بناء أداء أعمق وأفضل للمنتجات القائمة.
وقال الموظف السابق في جوجل: “أنت تريد أن تحصل على ترقية، وعليك أن تنطلق، وعليك أن تهبط”.
وفقًا للمصدر، كانت هذه العقلية في الشركة، جنبًا إلى جنب مع التغييرات السريعة في الأقسام والافتقار إلى التنسيق المناسب، عاملاً محتملاً في الفوضى التي تلت ذلك بمجرد إطلاق جيميني للجمهور.
علاوة على ذلك، لم تكن هناك “وظيفة إجبارية” لجعل فريق الذكاء الاصطناعي التوليدي أو فريق البحث عن الصور، على سبيل المثال، يعملون مع فريق العدالة أو أولئك الذين يعملون على البيانات المسؤولة، حيث جلسوا تحت قيادة مختلفة. وقال الموظف السابق في جوجل إن المسؤولين عن المراجعة يمكن أن يطلبوا منهم اختبار المنتجات قيد التطوير، ويمكن للفرق أن تقول لا.
تُصدر Google تحديثًا جديدًا لـ Gemini لمنح المستخدمين “مزيدًا من التحكم” في استجابات AI Chatbot
ويدعي المصدر أنه حتى الطريقة التي تم بها تعيين المراجعات يبدو أنها تفتقر إلى أي منهجية ثابتة.
كان لدى جوجل نظام يسمى تقييم الحالة وعملية المزامنة، ومن المفارقات أنه يُطلق عليه اسم “CHAOS”، حيث ينظر الأشخاص إلى الطلبات المتعلقة بالمشكلات التي تظهر عبر الفرق ويخصصونها لموظفين مختلفين.
لم يكن هناك موعد نهائي للأشخاص لتقديم مراجعة ما لم يحدد شخص ما أن المنتج كان يحاول إطلاقه. يمكن للموظف تقديم مراجعة رئيسية للذكاء الاصطناعي إلى شخص آخر، ويمكن أن يظل هذا الشخص خارج المكتب لفترة طويلة. ولم يكن هناك أيضًا نظام إنذار. وذلك لأن CHAOS لم يكن نظامًا للتذاكر بل كان نموذجًا من Google.
وقال الموظف السابق إن هذا أدى إلى مواقف افتقر فيها العديد من الموظفين الذين أكملوا المراجعات في الشركة إلى الذكاء الاصطناعي أو الخلفية التقنية.
وقال المصدر: “لديك أشخاص يراجعون هذه الأشياء ولا يفهمون كيف تعمل بشكل أساسي”.
وأضافوا أن هذه القضية كانت مفيدة للأشخاص الذين يريدون تسلق سلم الشركة. يمكن لأولئك الذين قادوا الأقسام تغيير نطاق من يقوم بإكمال المراجعات والتقييمات الفنية. تم نقل الأشخاص وطلب منهم إكمال المراجعات للأشياء التي لم يفهموها.
إذا لم يتم إكمال المراجعات بشكل كامل من قبل أولئك الذين يفهمون التكنولوجيا بعمق، فقد يتركهم ذلك غير قادرين على استكشاف المشكلات وإصلاحها وإيقاف إطلاق المنتج مع وجود مشكلات جوهرية.
مايكروسوفت تخبر المنظمين الأوروبيين أن جوجل لديها ميزة في مجال الذكاء الاصطناعي
لكن أولئك الذين حصلوا على الفضل في قيادة الفرق التي ساعدت في إطلاق منتجات جديدة سيعملون على تسريع الجداول الزمنية الخاصة بهم والتأكد من حصولهم على “تأثير” كبير.
بعد رد الفعل العنيف على جيميني، قال برابهاكار راغافان، نائب الرئيس الأول في جوجل، إن هناك خطأين رئيسيين حدثا في الذكاء الاصطناعي.
“أولاً، فشل ضبطنا للتأكد من أن جيميني أظهر مجموعة من الأشخاص في حساب الحالات التي يجب ألا تظهر نطاقًا بوضوح. وثانيًا، مع مرور الوقت، أصبح النموذج أكثر حذرًا مما كنا ننوي ورفض الإجابة على بعض المطالبات بالكامل – وكتب في تدوينة بتاريخ 23 فبراير: “التفسير الخاطئ لبعض المطالبات المهدئة للغاية على أنها حساسة”.
وقال راجافان إن ميزة توليد الذكاء الاصطناعي في جيميني ستخضع “لاختبارات واسعة النطاق” قبل إعادة تشغيلها مرة أخرى.
ومع ذلك، بدون تنظيم خارجي وإصلاحات كبيرة للهياكل الحالية التي كان ينبغي أن تتطلب اختبارات مكثفة في المقام الأول، قال الموظف السابق إنه من المرجح أن تستمر المشكلات في منتجات Google.
ولم ترد Google على طلب Fox News Digital للتعليق.
