قراصنة يعملون مع البيت الأبيض لإيجاد قوانين في أنظمة الذكاء الاصطناعي.
تسمح شركة OpenAI ، الشركة المصنعة لـ chatbot ChatGPT ، وموفري خدمات آخرين مثل Google و Microsoft للآلاف باختبار التكنولوجيا ، بما في ذلك كيفية التلاعب بها لإحداث ضرر أو ما إذا كانت ستشارك معلومات خاصة.
قال رومان تشودري ، المنسق الرئيسي لحدث القرصنة الشامل المخطط له في مؤتمر القراصنة DEF CON 31 هذا الصيف في لاس فيغاس ، لوكالة أسوشيتد برس: “هذا هو السبب في أننا نحتاج إلى آلاف الأشخاص”. “نحن بحاجة إلى الكثير من الأشخاص الذين لديهم مجموعة واسعة من الخبرات الحية وخبرة في الموضوع وخلفيات القرصنة في هذه النماذج ومحاولة العثور على المشكلات التي يمكن إصلاحها بعد ذلك.”
لاحظ المسؤولون لأول مرة فكرة الاختراق الجماعي في مارس في مهرجان South by Southwest ، حيث عقد قادة الذكاء الاصطناعي ورشة عمل دعت طلاب الجامعات المجتمعية لاختراق نموذج ذكاء اصطناعي.
تطلق خدمة توصيل الزهور الروبوت الآلي “مومفرسي” الذي يمكنه كتابة قصائد ليوم الأم
ساعد أوستن كارسون ، رئيس منظمة SeedAI المسؤولة عن الذكاء الاصطناعي غير الربحية ، في ورشة العمل تلك ، حيث أخبر الوكالة أن المحادثات تطورت إلى اقتراح لاختبار نماذج لغة الذكاء الاصطناعي بعد مخطط البيت الأبيض لميثاق حقوق الذكاء الاصطناعي. تم إصدار هذا المخطط في أواخر العام الماضي.
وصفت إدارة بايدن هذا الشهر الجهود الجديدة “لزيادة تعزيز الابتكار الأمريكي المسؤول في الذكاء الاصطناعي وحماية حقوق الناس وسلامتهم” ، بما في ذلك تمويل بقيمة 140 مليون دولار لإطلاق سبعة معاهد بحثية وطنية جديدة للذكاء الاصطناعي وإصدار مسودة توجيهية للسياسة من مكتب الإدارة والميزانية بشأن استخدام حكومة الولايات المتحدة لأنظمة الذكاء الاصطناعي للتعليق العام.
أشارت الإعلانات أيضًا إلى أن مطوري الذكاء الاصطناعي البارزين قد التزموا بالمشاركة في تقييم عام لأنظمة الذكاء الاصطناعي – على منصة طورتها Scale AI – في قرية الذكاء الاصطناعي في DEF CON 31.
وقال البيت الأبيض أيضًا إن التقييم الذي أجراه خبراء الذكاء الاصطناعي وآلاف الشركاء المجتمعيين سوف يستكشف كيفية توافق النماذج مع إطار عمل إدارة مخاطر الذكاء الاصطناعي للمعهد الوطني للمعايير والتكنولوجيا.
“سيوفر هذا التمرين المستقل معلومات مهمة للباحثين والجمهور حول تأثيرات هذه النماذج ، وسيمكن شركات الذكاء الاصطناعي والمطورين من اتخاذ خطوات لإصلاح المشكلات الموجودة في تلك النماذج. اختبار نماذج الذكاء الاصطناعي المستقلة عن الحكومة أو الشركات التي لديها تطويرها عنصر مهم في تقييمها الفعال “.
في حين أن بعض “الفرق الحمراء” الرسمية مصرح لها بالفعل من قبل الشركات بمهاجمة العارضات ، فإن البعض الآخر من الهواة.
حدث هذا العام هو الأول من نوعه الذي يتناول نماذج اللغة الكبيرة التي لفتت انتباه الجمهور في الأشهر الأخيرة.
قال شودري ، الذي كان سابقًا رئيس فريق أخلاقيات الذكاء الاصطناعي في تويتر ، “هذا خط أنابيب مباشر لتقديم ملاحظات للشركات”. “ليس الأمر كما لو أننا نقوم فقط بهذا الهاكاثون وأن الجميع في طريقهم إلى منازلهم. سنقضي شهورًا بعد التمرين في تجميع تقرير ، وشرح نقاط الضعف الشائعة ، والأشياء التي ظهرت ، والأنماط التي رأيناها.”
ساهمت وكالة أسوشيتد برس في هذا التقرير.
