حذر مهندس برمجيات في شركة مايكروسوفت، الأربعاء، من عيوب في أنظمة الذكاء الاصطناعي للشركة قد تؤدي إلى إنشاء صور ضارة، وذلك في رسالة أرسلها إلى لجنة التجارة الفيدرالية الأمريكية.
ادعى شين جونز، قائد هندسة البرمجيات الرئيسي في شركة مايكروسوفت، أن برنامج Copilot Designer الذي يعمل على تحويل النص إلى صورة والذي يعمل بالذكاء الاصطناعي لديه “مشكلات نظامية” تجعله ينتج بشكل متكرر صورًا يحتمل أن تكون مسيئة أو غير مناسبة، بما في ذلك الصور الجنسية للنساء. كما انتقد جونز الشركة لتسويق الأداة على أنها آمنة، بما في ذلك للأطفال، على الرغم من ما يقول إنها مخاطر معروفة.
قال جونز في الرسالة الموجهة إلى رئيسة لجنة التجارة الفيدرالية لينا خان، والتي نشرها علنًا على صفحته على LinkedIn: “أحد المخاطر الأكثر إثارة للقلق مع Copilot Designer هو عندما يقوم المنتج بإنشاء صور تضيف محتوى ضارًا على الرغم من الطلب الحميد من المستخدم”.
على سبيل المثال، قال، ردًا على “حادث سيارة” فوري، إن شركة Copilot Designer “لديها ميل إلى تضمين صورة غير لائقة ومُحددة جنسيًا لامرأة بشكل عشوائي في بعض الصور التي تنشئها”.
وأضاف جونز في رسالة ذات صلة أرسلها إلى مجلس إدارة مايكروسوفت أنه يعمل على “الفريق الأحمر”، أو اختبار منتجات الشركة لمعرفة أين قد تكون عرضة للجهات الفاعلة السيئة. وقال إنه أمضى أشهرًا في اختبار أداة مايكروسوفت – بالإضافة إلى DALL-E 3 من OpenAI، وهي التكنولوجيا التي يعتمد عليها برنامج Copilot Designer من Microsoft – وحاول إثارة المخاوف داخليًا قبل أن ينبه. لجنة التجارة الفيدرالية. (مايكروسوفت هي مستثمر ومراقب مستقل لمجلس إدارة OpenAI.)
وقال إنه عثر على أكثر من 200 مثال على “الصور المتعلقة” التي أنشأها برنامج Copilot Designer.
وحث جونز مايكروسوفت على “إزالة برنامج Copilot Designer من الاستخدام العام حتى يتم وضع ضمانات أفضل”، أو على الأقل تسويق الأداة للبالغين فقط، وفقًا لرسالته إلى لجنة التجارة الفيدرالية.
ولم تستجب Microsoft وOpenAI على الفور لطلب التعليق على ادعاءات جونز. ورفضت لجنة التجارة الفيدرالية التعليق على الرسالة.
تأتي رسالة جونز وسط مخاوف متزايدة من أن مولدات صور الذكاء الاصطناعي – القادرة بشكل متزايد على إنتاج صور مقنعة وواقعية – يمكن أن تسبب ضررًا من خلال نشر صور مسيئة أو مضللة. الصور الإباحية التي أنشأها الذكاء الاصطناعي لتايلور سويفت والتي انتشرت على وسائل التواصل الاجتماعي الشهر الماضي لفتت الانتباه إلى شكل من أشكال التحرش الذي يتم استخدامه بالفعل كسلاح ضد النساء والفتيات في جميع أنحاء العالم. وحذر الباحثون من احتمال قيام مولدات الصور التي تعمل بالذكاء الاصطناعي بإنتاج معلومات سياسية مضللة قبل الانتخابات في الولايات المتحدة وعشرات الدول الأخرى هذا العام.
كما تعرضت شركة Google المنافسة لشركة Microsoft لانتقادات الشهر الماضي بعد أن أنتج برنامج الدردشة الآلي Gemini الخاص بها صورًا غير دقيقة تاريخيًا أظهرت إلى حد كبير أشخاصًا ملونين بدلاً من الأشخاص البيض، على سبيل المثال، إنتاج صور لأشخاص ملونين استجابةً لمطالبة بإنشاء صور لـ “ألمانيا عام 1943″. جندي.” بعد رد الفعل العنيف، قالت جوجل بسرعة إنها ستوقف قدرة Gemini على إنتاج صور تم إنشاؤها بواسطة الذكاء الاصطناعي أثناء عملها على معالجة المشكلة.
وفي رسالته إلى مجلس إدارة مايكروسوفت، دعا جونز الشركة إلى اتخاذ إجراء مماثل. وحث مجلس الإدارة على إجراء تحقيقات في قرار Microsoft بمواصلة تسويق “منتجات الذكاء الاصطناعي التي تنطوي على مخاطر كبيرة على السلامة العامة دون الكشف عن المخاطر المعروفة للمستهلكين” وفي عمليات إعداد التقارير والتدريب المسؤولة عن الذكاء الاصطناعي للشركة.
وقال جونز: “في سباق تنافسي لتصبح شركة الذكاء الاصطناعي الأكثر جدارة بالثقة، تحتاج مايكروسوفت إلى القيادة، وليس التتبع أو التخلف عن الركب”. “نظرًا لقيم شركتنا، يجب علينا أن نكشف طوعًا وبشفافية عن مخاطر الذكاء الاصطناعي المعروفة، خاصة عندما يتم تسويق منتج الذكاء الاصطناعي بشكل نشط للأطفال.
قال جونز إنه صعد مخاوفه من خلال نشر رسالة مفتوحة إلى مجلس إدارة OpenAI في ديسمبر لتنبيههم إلى نقاط الضعف التي قال إنه وجدها والتي تتيح لمستخدمي DALL-E 3 “إنشاء صور مزعجة وعنيفة” باستخدام أداة الذكاء الاصطناعي. لتعريض الصحة العقلية للأطفال للخطر. يدعي جونز أنه تم توجيهه من قبل القسم القانوني في Microsoft لإزالة الرسالة.
قال جونز: “حتى يومنا هذا، ما زلت لا أعرف ما إذا كانت Microsoft قد سلمت رسالتي إلى مجلس إدارة OpenAI أم أنهم ببساطة أجبروني على حذفها لمنع التغطية الصحفية السلبية”.
وقال جونز إنه أثار مخاوفه أيضًا مع المدعي العام في واشنطن بوب فيرجسون والمشرعين، بما في ذلك موظفو لجنة مجلس الشيوخ الأمريكي للتجارة والعلوم والنقل.
