قالت منظمة للوقاية من اضطرابات الأكل إنها اضطرت إلى إيقاف برنامج الدردشة الآلي الذي يعمل بالذكاء الاصطناعي بعد أن اشتكى البعض من أن الأداة بدأت في تقديم نصائح “ضارة” و “غير ذات صلة” لأولئك الذين يأتون إليها للحصول على الدعم.
قالت الجمعية الوطنية لاضطرابات الأكل (NEDA) ، وهي منظمة غير ربحية تهدف إلى دعم الأشخاص المتأثرين باضطرابات الأكل ، يوم الثلاثاء إنها أغلقت برنامج الدردشة الخاص بها ، الذي يطلق عليه اسم “تيسا” ، بعد أن أبلغ بعض المستخدمين عن تجارب سلبية معه.
وقالت المنظمة في بيان نُشر على إنستغرام يوم الثلاثاء: “علمنا الليلة الماضية أن الإصدار الحالي من Tessa Chatbot ، الذي يدير برنامج Body Positive ، ربما يكون قد أعطى معلومات ضارة وغير مرتبطة بالبرنامج”. “نحن نحقق في هذا على الفور وأوقفنا ذلك البرنامج حتى إشعار آخر لإجراء تحقيق كامل”.
قالت ليز طومسون ، الرئيس التنفيذي لشركة NEDA ، في رسالة بريد إلكتروني إلى CNN إن برنامج Tessa chatbot كان قد تم إطلاقه “بهدوء” في فبراير 2022 ، قبل مجموعة أحدث من أدوات الذكاء الاصطناعي التي ظهرت منذ إصدار ChatGPT أواخر العام الماضي. (أكدت NEDA في رسالة بريد إلكتروني أن أداة Tessa الخاصة بها “ليست ChatGBT” ، في إشارة واضحة إلى chatbot الفيروسي).
ومع ذلك ، فإن الشكاوى تسلط الضوء على القيود والمخاطر الحالية لاستخدام روبوتات الدردشة التي تعمل بالذكاء الاصطناعي ، لا سيما للتفاعلات الحساسة مثل مسائل الصحة العقلية ، في وقت تسارع فيه العديد من الشركات إلى تنفيذ الأدوات.
ألقى طومسون باللوم على فشل تيسا الواضح في السلوك غير الأصيل من “الجهات الفاعلة السيئة” التي تحاول خداعها وأكد أن النصيحة السيئة لم يتم إرسالها إلا إلى جزء صغير من المستخدمين. لم تقدم NEDA أمثلة محددة للنصيحة التي قدمتها Tessa ، لكن منشورات وسائل التواصل الاجتماعي تشير إلى أن chatbot حث المستخدم على حساب السعرات الحرارية ومحاولة إنقاص الوزن بعد أن أخبر المستخدم الأداة أنه يعاني من اضطراب في الأكل.
يأتي تحرك NEDA لإيقاف برنامج الدردشة الآلي في وضع عدم الاتصال أيضًا في أعقاب قيام المنظمة بإطلاق النار على الموظفين البشريين الذين كانوا يديرون خط المساعدة المنفصل عن اضطرابات الأكل بعد أن صوت الموظفون للانضمام إلى النقابة.
ذكرت NPR الشهر الماضي أنها حصلت على صوت من مكالمة أخبر فيها مسؤول تنفيذي في NEDA الموظفين أنه تم طردهم. في المكالمة ، قال المسؤول التنفيذي إنه “بدأ في إنهاء خط المساعدة باعتباره يعمل حاليًا” ، مضيفًا أن المنظمة تمر “بالانتقال إلى تيسا”. (لم تؤكد CNN الصوت بشكل مستقل.)
في بيان صدر الأسبوع الماضي ، النقابة التي شكلها عمال خط المساعدة NEDA محذر: “روبوت الدردشة ليس بديلاً عن التعاطف البشري ، ونعتقد أن هذا القرار سيسبب ضررًا لا يمكن إصلاحه لمجتمع اضطرابات الأكل.”
أخبرت NEDA في وقت سابق شبكة CNN أن المنظمة “ليست لها الحرية في مناقشة مسائل التوظيف”. قال طومسون إن الأداتين – روبوت الدردشة المدعوم بالذكاء الاصطناعي وخط المساعدة الذي يديره الإنسان – هما جزء من مبادرتين مختلفتين من الشركة ، وتراجع عن الاقتراحات القائلة بأن الشات بوت يهدف إلى استبدال الموظفين المفصولين.
حتى قبل أن يجدد ChatGPT الاهتمام بروبوتات المحادثة ، أثارت أدوات مماثلة بعض الجدل. على سبيل المثال ، أطلقت Meta روبوت محادثة في أغسطس 2022 انتقد موقع Facebook علنًا وأدلى بتصريحات معادية للسامية.
أثار المحصول الأحدث من روبوتات الدردشة التي تعمل بالذكاء الاصطناعي مثل ChatGPT ، والتي تم تدريبها على مجموعات ضخمة من البيانات عبر الإنترنت لتوليد ردود مكتوبة مقنعة على مطالبات المستخدم ، مخاوف بشأن قدرتها على نشر معلومات مضللة وإدامة التحيز.
في وقت سابق من هذا العام ، تم استدعاء منفذ الأخبار CNET بعد أن استخدم أداة الذكاء الاصطناعي لتوليد قصص مليئة بالأخطاء ، بما في ذلك تلك التي قدمت بعض النصائح المالية الشخصية غير الدقيقة بشكل كبير. تم استدعاء Microsoft و Google أيضًا لأدوات الذكاء الاصطناعي التي توفر بعض المعلومات غير الدقيقة أو غير الدقيقة.
