احصل على تحديثات مجانية للذكاء الاصطناعي
سنرسل لك ملف myFT ديلي دايجست التقريب البريد الإلكتروني لأحدث الذكاء الاصطناعي أخبار كل صباح.
يتم التحقيق رسميًا في المخاطر التي تشكلها روبوتات الدردشة الذكية المصطنعة من قبل المنظمين الأمريكيين لأول مرة بعد أن أطلقت لجنة التجارة الفيدرالية تحقيقًا واسع النطاق في شركة OpenAI لصناعة ChatGPT.
في رسالة أُرسلت إلى الشركة المدعومة من Microsoft ، قالت FTC إنها ستنظر فيما إذا كان الأشخاص قد تضرروا من إنشاء روبوت الدردشة AI لمعلومات خاطئة عنهم ، وكذلك ما إذا كان OpenAI قد انخرط في خصوصية وبيانات “غير عادلة أو خادعة” الممارسات الأمنية.
منتجات الذكاء الاصطناعي التوليدية هي في مرمى المنظمين في جميع أنحاء العالم ، حيث يدق خبراء الذكاء الاصطناعي وعلماء الأخلاق ناقوس الخطر بشأن الكم الهائل من البيانات الشخصية التي تستهلكها التكنولوجيا ، فضلاً عن مخرجاتها التي قد تكون ضارة ، والتي تتراوح من المعلومات المضللة إلى التعليقات الجنسية والعنصرية.
في مايو ، أطلقت FTC طلقة تحذيرية للصناعة ، قائلة إنها “تركز بشكل مكثف على كيفية اختيار الشركات لاستخدام تكنولوجيا الذكاء الاصطناعي ، بما في ذلك أدوات الذكاء الاصطناعي التوليدية الجديدة ، بطرق يمكن أن يكون لها تأثير فعلي وكبير على المستهلكين”.
في رسالتها ، طلبت الجهة المنظمة في الولايات المتحدة من شركة OpenAI مشاركة المواد الداخلية التي تتراوح من كيفية احتفاظ المجموعة بمعلومات المستخدم إلى الخطوات التي اتخذتها الشركة لمعالجة مخاطر نموذجها الذي ينتج عنه بيانات “خاطئة أو مضللة أو مهينة”.
رفضت لجنة التجارة الفيدرالية التعليق على الرسالة ، التي أوردتها صحيفة واشنطن بوست لأول مرة. رفضت شركة أوبن إيه آي التعليق.
أدلت لينا خان ، رئيسة لجنة التجارة الفيدرالية ، بشهادتها صباح يوم الخميس أمام اللجنة القضائية في مجلس النواب وواجهت انتقادات شديدة من المشرعين الجمهوريين بسبب موقفها الصارم في تطبيق القانون.
عندما سُئل خان عن التحقيق أثناء جلسة الاستماع ، رفض التعليق على التحقيق ، لكنه قال إن المخاوف الأوسع للجهة التنظيمية تشمل ChatGPT وخدمات الذكاء الاصطناعي الأخرى “التي يتم تغذيتها بمجموعة ضخمة من البيانات” بينما “لم تكن هناك فحوصات على نوع البيانات التي يتم إجراؤها المدرجة في هذه الشركات “.
وأضافت: “لقد سمعنا عن تقارير تظهر فيها معلومات حساسة للأشخاص ردًا على استفسار من شخص آخر. لقد سمعنا عن القذف والتصريحات التشهيرية والأشياء غير الصحيحة التي تظهر. هذا هو نوع الاحتيال والخداع الذي نشعر بالقلق حياله “.
كما أنها كانت مليئة بأسئلة من المشرعين حول سجلها المختلط في المحكمة ، بعد أن تعرضت لجنة التجارة الفيدرالية لهزيمة كبيرة هذا الأسبوع في محاولتها منع استحواذ مايكروسوفت على أكتيفيجن بليزارد بقيمة 75 مليار دولار. استأنفت لجنة التجارة الفيدرالية يوم الخميس ضد القرار.
في غضون ذلك ، اتهم الجمهوري جيم جوردان ، رئيس اللجنة ، خان بـ “مضايقة” تويتر بعد أن زعمت الشركة في دعوى قضائية أن لجنة التجارة الفيدرالية تورطت في سلوك “غير منتظم وغير لائق” في تنفيذ أمر الموافقة الذي فرضته العام الماضي.
لم يعلق خان على ملف تويتر لكنه قال إن كل ما تهتم به لجنة التجارة الفيدرالية “هو أن الشركة تتبع القانون”.
كان الخبراء قلقين من الحجم الهائل للبيانات التي يتم جمعها بواسطة نماذج اللغة وراء ChatGPT. كان لدى OpenAI أكثر من 100 مليون مستخدم نشط شهريًا بعد شهرين من إطلاقها. تم استخدام محرك بحث Bing الجديد من Microsoft ، والمدعوم أيضًا بتقنية OpenAI ، من قبل أكثر من مليون شخص في 169 دولة في غضون أسبوعين من إطلاقه في يناير.
أبلغ المستخدمون أن ChatGPT لديه أسماء وتواريخ وحقائق ملفقة ، بالإضافة إلى روابط وهمية لمواقع إخبارية وإشارات إلى أوراق أكاديمية ، وهي قضية معروفة في الصناعة باسم “الهلوسة”.
يبحث تحقيق FTC في التفاصيل الفنية لكيفية تصميم ChatGPT ، بما في ذلك عمل الشركة على إصلاح الهلوسة ، والإشراف على المراجعين البشريين ، مما يؤثر على المستهلكين بشكل مباشر. كما طلبت معلومات عن شكاوى المستهلكين والجهود التي تبذلها الشركة لتقييم فهم المستهلكين لدقة برنامج الدردشة الآلي وموثوقيته.
في مارس / آذار ، حظرت هيئة مراقبة الخصوصية الإيطالية مؤقتًا ChatGPT أثناء فحصها مجموعة المعلومات الشخصية للشركة الأمريكية بعد خرق للأمن السيبراني ، من بين أمور أخرى. تمت إعادته بعد بضعة أسابيع ، بعد أن جعلت OpenAI سياسة الخصوصية الخاصة بها أكثر سهولة وقدمت أداة للتحقق من أعمار المستخدمين.
اعترف سام ألتمان ، الرئيس التنفيذي لشركة OpenAI ، في وقت سابق أن ChatGPT بها نقاط ضعف. “إن ChatGPT محدود بشكل لا يصدق ولكنه جيد بما يكفي في بعض الأشياء لخلق انطباع مضلل بالعظمة ،” كتب على تويتر في ديسمبر. “من الخطأ الاعتماد عليها في أي شيء مهم في الوقت الحالي. إنها معاينة للتقدم. لدينا الكثير من العمل الذي يتعين القيام به بشأن المتانة والمصداقية “.
