يدافع عمدة مدينة نيويورك، إريك آدامز، عن برنامج الدردشة الآلي الجديد للذكاء الاصطناعي في المدينة والذي تم اكتشافه في الأيام الأخيرة وهو يقدم لأصحاب الأعمال إجابات أو نصائح خاطئة، والتي إذا تم اتباعها، ستؤدي إلى خرق القانون.
عندما تم إطلاقه كتجربة تجريبية في أكتوبر، تم وصف برنامج MyCity chatbot على أنه أول استخدام على مستوى المدينة لتقنية الذكاء الاصطناعي هذه، وهو أمر من شأنه أن يمنح أصحاب الأعمال “معلومات موثوقة وقابلة للتنفيذ” ردًا على الاستفسارات المكتوبة في بوابة عبر الإنترنت، ويفتح علامة تبويب جديدة .
لم يكن هذا هو الحال دائمًا: أفاد الصحفيون في المنفذ الاستقصائي The Markup لأول مرة الأسبوع الماضي أن برنامج الدردشة الآلي كان يخطئ في الأمور، ويفتح علامة تبويب جديدة.
لقد نصحت بشكل خاطئ بأن أصحاب العمل يمكنهم الحصول على جزء من الإكراميات التي يحصل عليها عمالهم، وأنه لم تكن هناك لوائح تلزم الرؤساء بإبلاغ التغييرات في جدول مواعيد الموظفين.
وقال آدامز، وهو ديمقراطي، للصحفيين يوم الثلاثاء: “إنه خطأ في بعض المناطق، وعلينا إصلاحه”، مؤكدا على أنه برنامج تجريبي. “في أي وقت تستخدم فيه التكنولوجيا، تحتاج إلى وضعها في بيئة حقيقية لتسوية مكامن الخلل.”
لقد كان آدامز من أشد المدافعين عن نشر التكنولوجيا غير المختبرة في المدينة بتفاؤل لا يمكن تبريره دائمًا.
لقد وضع روبوتًا بيضاوي الشكل يبلغ وزنه 400 رطل في محطة مترو أنفاق تايمز سكوير العام الماضي، وكان يأمل أن يساعد الشرطة في ردع الجريمة. تم تقاعدها بعد حوالي خمسة أشهر، حيث لاحظ الركاب أنها لم تكن تفعل أي شيء على الإطلاق، وأنها لا تستطيع استخدام السلالم.
ظل برنامج الدردشة الآلي متصلاً بالإنترنت يوم الخميس وكان لا يزال يقدم إجابات خاطئة في بعض الأحيان.
وقالت إن أصحاب المتاجر لديهم الحرية في عدم استخدام النقود النقدية، غافلين على ما يبدو عن قانون مجلس المدينة لعام 2020 الذي يحظر على المتاجر رفض قبول النقد.
ولا تزال تعتقد أن الحد الأدنى للأجور في المدينة هو 15 دولارًا في الساعة، على الرغم من رفعه إلى 16 دولارًا اعتبارًا من عام 2024.
يبدو أن برنامج الدردشة الآلي، الذي يعتمد على خدمة Azure AI من Microsoft، قد ضل طريقه بسبب المشكلات الشائعة فيما يسمى بمنصات تكنولوجيا الذكاء الاصطناعي التوليدية مثل ChatGPT، والتي يُعرف عنها في بعض الأحيان أنها تختلق الأشياء أو تؤكد الأكاذيب بثقة تشبه HAL.
ورفضت مايكروسوفت الكشف عن سبب المشاكل، لكنها قالت في بيان إنها تعمل مع المدينة لإصلاحها.
وقال مكتب التكنولوجيا والابتكار بالمدينة في بيان: “في أقرب وقت من الأسبوع المقبل، نتوقع التخفيف بشكل كبير من الإجابات غير الدقيقة”.
لم ترد Microsoft ولا City Hall على الأسئلة حول سبب الأخطاء وكيفية إصلاحها.
قامت المدينة بتحديث إخلاء المسؤولية على موقع MyCity chatbot الإلكتروني، مشيرة إلى أن “ردودها قد تكون في بعض الأحيان غير دقيقة أو غير كاملة” وتطلب من الشركات “عدم استخدام ردودها كنصيحة قانونية أو مهنية”.
قال أندرو ريجي، الذي يدافع عن الآلاف من أصحاب المطاعم بصفته مديرًا لتحالف الضيافة في مدينة نيويورك، إنه سمع من أصحاب الأعمال الذين شعروا بالحيرة من ردود برنامج الدردشة الآلية.
وقال: “أشيد بالمدينة لمحاولتها استخدام الذكاء الاصطناعي لمساعدة الشركات، لكنها بحاجة إلى العمل”، محذرًا من أن اتباع بعض إرشادات برنامج الدردشة الآلي قد يؤدي إلى عواقب قانونية خطيرة. “إذا قمت بطرح سؤال ثم اضطررت إلى العودة إلى المحامين لمعرفة ما إذا كانت الإجابة صحيحة أم لا، فهذا يتعارض مع الغرض”.
