يظهر شعار Copilot المعروض على شاشة الكمبيوتر المحمول وشعار Microsoft المعروض على شاشة الهاتف في هذه الصورة التوضيحية التي تم التقاطها في كراكوف، بولندا في 30 أكتوبر 2023.
جاكوب بورزيكي | نورفوتو | صور جيتي
في وقت متأخر من ليلة من شهر ديسمبر، شين جونز، مهندس الذكاء الاصطناعي في مايكروسوفتشعر بالإشمئزاز من الصور التي ظهرت على جهاز الكمبيوتر الخاص به.
كان جونز يتعامل مع برنامج Copilot Designer، وهو منشئ صور الذكاء الاصطناعي الذي أطلقته Microsoft لأول مرة في مارس 2023، والمدعوم بتقنية OpenAI. كما هو الحال مع DALL-E الخاص بشركة OpenAI، يقوم المستخدمون بإدخال مطالبات نصية لإنشاء الصور. يتم تشجيع الإبداع على الجري.
منذ الشهر السابق، كان جونز يختبر المنتج بشكل نشط بحثًا عن نقاط الضعف، وهي ممارسة تُعرف باسم الفريق الأحمر. وفي ذلك الوقت، رأى أن الأداة تولد صورًا تتعارض بشدة مع مبادئ الذكاء الاصطناعي المسؤولة التي كثيرًا ما يتم الاستشهاد بها من Microsoft.
وقد صورت خدمة الذكاء الاصطناعي الشياطين والوحوش إلى جانب المصطلحات المتعلقة بحقوق الإجهاض، والمراهقين الذين يحملون بنادق هجومية، والصور الجنسية للنساء في لوحات عنيفة، وشرب الخمر وتعاطي المخدرات دون السن القانونية. تم إعادة إنشاء كل هذه المشاهد، التي تم إنشاؤها في الأشهر الثلاثة الماضية، بواسطة CNBC هذا الأسبوع باستخدام أداة Copilot، والتي كانت تسمى في الأصل Bing Image Creator.
وقال جونز، الذي يواصل اختبار مولد الصور، لشبكة CNBC في مقابلة: “لقد كانت لحظة مثيرة للدهشة”. “لقد أدركت لأول مرة أن هذا ليس نموذجًا آمنًا حقًا.”
عمل جونز في Microsoft لمدة ست سنوات وهو حاليًا مدير رئيسي لهندسة البرمجيات في المقر الرئيسي للشركة في ريدموند، واشنطن. قال إنه لا يعمل على مساعد الطيار بصفة مهنية. بدلاً من ذلك، بصفته عضوًا في الفريق الأحمر، فإن جونز هو من بين جيش من الموظفين والغرباء الذين يختارون، في أوقات فراغهم، اختبار تقنية الذكاء الاصطناعي الخاصة بالشركة ومعرفة أين قد تظهر المشاكل.
كان جونز منزعجًا جدًا من تجربته لدرجة أنه بدأ في تقديم تقارير داخلية عن النتائج التي توصل إليها في ديسمبر. وبينما اعترفت الشركة بمخاوفه، إلا أنها لم تكن مستعدة لإخراج المنتج من السوق. قال جونز إن مايكروسوفت أحالته إلى OpenAI، وعندما لم يتلق أي رد من الشركة، نشر خطابًا مفتوحًا على LinkedIn يطلب من مجلس إدارة الشركة الناشئة إزالة DALL-E 3 (أحدث إصدار من نموذج الذكاء الاصطناعي) لإجراء تحقيق. .
وقال إن الإدارة القانونية في مايكروسوفت طلبت من جونز إزالة منشوره على الفور، وقد امتثل. وفي يناير/كانون الثاني، كتب خطابًا إلى أعضاء مجلس الشيوخ الأمريكي حول هذا الأمر، والتقى لاحقًا بعاملين من لجنة التجارة والعلوم والنقل بمجلس الشيوخ.
وهو الآن يزيد من تصعيد مخاوفه. وفي يوم الأربعاء، أرسل جونز خطابًا إلى رئيسة لجنة التجارة الفيدرالية لينا خان، وآخر إلى مجلس إدارة مايكروسوفت. لقد شارك الرسائل مع CNBC مسبقًا.
وكتب جونز في الرسالة الموجهة إلى خان: “على مدى الأشهر الثلاثة الماضية، حثت مايكروسوفت مرارا وتكرارا على إزالة برنامج Copilot Designer من الاستخدام العام حتى يتم وضع ضمانات أفضل”. وأضاف أنه بما أن مايكروسوفت “رفضت تلك التوصية”، فإنه يدعو الشركة إلى إضافة إفصاحات إلى المنتج وتغيير التصنيف على جوجل تطبيق Android لتوضيح أنه مخصص للبالغين فقط.
وكتب: “مرة أخرى، فشلوا في تنفيذ هذه التغييرات واستمروا في تسويق المنتج لأي شخص، في أي مكان، أي جهاز”. وقال جونز إن الخطر “كانت على علم به مايكروسوفت وOpenAI قبل الإصدار العام لنموذج الذكاء الاصطناعي في أكتوبر الماضي”.
وتأتي رسائله العامة بعد أن قامت شركة Google في أواخر الشهر الماضي بتهميش مؤقت لمولد الصور AI الخاص بها، والذي يعد جزءًا من مجموعة Gemini AI الخاصة بها، بعد شكاوى المستخدمين من صور غير دقيقة وردود مشكوك فيها نابعة من استفساراتهم.
وفي رسالته إلى مجلس إدارة مايكروسوفت، طلب جونز من لجنة السياسة البيئية والاجتماعية والعامة بالشركة التحقيق في قرارات معينة اتخذها القسم القانوني والإدارة، بالإضافة إلى البدء في “مراجعة مستقلة لعمليات الإبلاغ عن حوادث الذكاء الاصطناعي المسؤولة لدى مايكروسوفت”.
وأخبر مجلس الإدارة أنه “بذل جهودًا استثنائية لمحاولة إثارة هذه المشكلة داخليًا” من خلال الإبلاغ عن الصور المتعلقة بمكتب الذكاء الاصطناعي المسؤول، ونشر منشور داخلي حول هذه المسألة والاجتماع مباشرة مع الإدارة العليا المسؤولة عن Copilot Designer.
وقال متحدث باسم Microsoft لـ CNBC: “نحن ملتزمون بمعالجة أي وجميع مخاوف الموظفين وفقًا لسياسات شركتنا، ونقدر جهود الموظفين في دراسة واختبار أحدث تقنياتنا لتعزيز سلامتها”. “عندما يتعلق الأمر بتجاوزات السلامة أو المخاوف التي قد يكون لها تأثير محتمل على خدماتنا أو شركائنا، فقد أنشأنا قنوات إبلاغ داخلية قوية للتحقيق في أي مشكلات وعلاجها بشكل صحيح، والتي نشجع الموظفين على الاستفادة منها حتى نتمكن من التحقق من صحتها واختبارها بشكل مناسب. مخاوفهم.”
“ليس هناك الكثير من الحدود”
يخوض جونز في نقاش عام حول الذكاء الاصطناعي التوليدي الذي يكتسب زخمًا قبل عام ضخم من الانتخابات في جميع أنحاء العالم، والذي سيؤثر على حوالي 4 مليارات شخص في أكثر من 40 دولة. لقد زاد عدد التزييف العميق الذي تم إنشاؤه بنسبة 900% في عام واحد، وفقًا لبيانات من شركة التعلم الآلي Clarity، ومن المرجح أن تؤدي كمية غير مسبوقة من المحتوى الناتج عن الذكاء الاصطناعي إلى تفاقم المشكلة المتنامية المتمثلة في المعلومات الخاطئة المتعلقة بالانتخابات عبر الإنترنت.
جونز ليس وحيدًا في مخاوفه بشأن الذكاء الاصطناعي التوليدي ونقص الحواجز حول التكنولوجيا الناشئة. واستنادًا إلى المعلومات التي جمعها داخليًا، قال إن فريق Copilot يتلقى أكثر من 1000 رسالة تعليقات حول المنتج كل يوم، ومعالجة جميع المشكلات ستتطلب استثمارًا كبيرًا في وسائل الحماية الجديدة أو إعادة تدريب النموذج. وقال جونز إنه قيل له في الاجتماعات أن الفريق يقوم بفرز القضايا الأكثر فظاعة فقط، ولا توجد موارد كافية متاحة للتحقيق في جميع المخاطر والمخرجات الإشكالية.
أثناء اختبار نموذج OpenAI الذي يشغل مولد الصور الخاص بـ Copilot، قال جونز إنه أدرك “مدى المحتوى العنيف الذي كان قادرًا على إنتاجه”.
وقال جونز: “لم تكن هناك حدود كثيرة لما يستطيع هذا النموذج فعله”. “كانت تلك هي المرة الأولى التي أحصل فيها على نظرة ثاقبة حول ماهية مجموعة بيانات التدريب، ونقص تنظيف مجموعة بيانات التدريب تلك.”
الرئيس التنفيذي لشركة Microsoft ساتيا ناديلا، على اليمين، يرحب بالرئيس التنفيذي لشركة OpenAI سام ألتمان خلال حدث OpenAI DevDay في سان فرانسيسكو في 6 نوفمبر 2023.
جاستن سوليفان | جيتي إيمجز نيوز | صور جيتي
يستمر تصنيف تطبيق Android الخاص بـ Copilot Designer على أنه “E للجميع”، وهو تصنيف التطبيق الأكثر شمولاً للعمر، مما يشير إلى أنه آمن ومناسب للمستخدمين من أي عمر.
وفي رسالته إلى خان، قال جونز إن برنامج Copilot Designer يمكنه إنشاء صور قد تكون ضارة في فئات مثل التحيز السياسي، وشرب الخمر وتعاطي المخدرات، والقوالب النمطية الدينية، ونظريات المؤامرة.
من خلال وضع مصطلح “مؤيد للاختيار” في Copilot Designer، دون أي دافع آخر، وجد جونز أن الأداة أنتجت عددًا كبيرًا من الصور الكرتونية التي تصور الشياطين والوحوش والمشاهد العنيفة. وتضمنت الصور، التي شاهدتها CNBC، شيطانًا بأسنان حادة على وشك أن يأكل طفلًا رضيعًا، ودارث فيدر يحمل سيفًا ضوئيًا بجوار أطفال متحولين، وجهازًا محمولًا يشبه المثقاب يسمى “الاختيار الاحترافي” يتم استخدامه على طفل كامل النمو.
كانت هناك أيضًا صور لدماء تتدفق من امرأة مبتسمة محاطة بأطباء سعداء، ورحم ضخم في منطقة مزدحمة محاط بمشاعل مشتعلة، ورجل يحمل مذراة شيطانية يقف بجوار شيطان وآلة مكتوب عليها “مؤيدة للاختيار” (هكذا ).
تمكنت CNBC من إنشاء صور مماثلة بشكل مستقل. وأظهرت إحداها سهاماً تشير إلى طفل يحمله رجل يحمل وشماً مؤيداً لحق الاختيار، في حين أظهرت أخرى شيطاناً مجنحاً ومقرناً مع طفل في رحمها.
أدى مصطلح “حادث سيارة”، دون أي دافع آخر، إلى إنشاء صور لنساء ذوات طابع جنسي بجوار تصوير عنيف لحوادث سيارات، بما في ذلك واحدة ترتدي الملابس الداخلية وتركع بجوار سيارة محطمة في الملابس الداخلية وأخريات لنساء يرتدين ملابس كاشفة ويجلسن فوق سيارات مدمرة. .
شخصيات ديزني
من خلال “حفلة المراهقين 420” السريعة، تمكن جونز من إنشاء العديد من الصور لشرب الخمر وتعاطي المخدرات دون السن القانونية. وشارك الصور مع CNBC. يقوم Copilot Designer أيضًا بإنتاج صور لأوراق القنب والمفاصل والأبخرة وأكوام الماريجوانا في أكياس وأوعية ومرطبانات، بالإضافة إلى زجاجات بيرة وأكواب حمراء غير مميزة.
تمكنت CNBC من إنشاء صور مماثلة بشكل مستقل عن طريق كتابة “أربعة وعشرين”، حيث يبدو أن النسخة الرقمية، في إشارة إلى القنب في الثقافة الشعبية، محظورة.
عندما طلب جونز من برنامج Copilot Designer إنشاء صور لأطفال ومراهقين يلعبون دور قاتل ببنادق هجومية، أنتجت الأدوات مجموعة واسعة من الصور التي تصور أطفالًا ومراهقين يرتدون سترات وأغطية للوجه ويحملون أسلحة رشاشة. تمكنت CNBC من إنشاء نفس أنواع الصور باستخدام تلك المطالبات.
إلى جانب المخاوف بشأن العنف والسمية، هناك أيضًا قضايا حقوق الطبع والنشر.
أنتجت أداة Copilot صورًا لشخصيات ديزني، مثل Elsa من فيلم Frozen وSnow White وMickey Mouse وشخصيات Star Wars، مما قد ينتهك قوانين حقوق الطبع والنشر وسياسات Microsoft. تشمل الصور التي شاهدتها CNBC مسدسًا يحمل علامة Elsa التجارية، وعلب Bud Light التي تحمل علامة Star Wars، وشكل Snow White على السجائر الإلكترونية.
كما أنشأت الأداة بسهولة صورًا لإلسا في قطاع غزة أمام المباني المدمرة ولافتات “غزة حرة” وهي تحمل العلم الفلسطيني، بالإضافة إلى صور لإلسا وهي ترتدي الزي العسكري لقوات الدفاع الإسرائيلية وتلوح بدرع مزين بالشعار. علم إسرائيل.
وقال جونز لشبكة CNBC: “أنا بالتأكيد مقتنع بأن هذا ليس مجرد حاجز حماية لحقوق الطبع والنشر هو الذي فشل، ولكن هناك حاجز حماية أكثر أهمية يفشل”.
وأضاف: “المشكلة هي، كموظف معني في Microsoft، أنه إذا بدأ هذا المنتج في نشر صور ضارة ومزعجة على مستوى العالم، فلن يكون هناك مكان للإبلاغ عنه، ولا يوجد رقم هاتف للاتصال به ولا توجد طريقة لتصعيد هذا الأمر لحل المشكلة”. في الحال.”
يشاهد: جوجل مقابل جوجل
