هذه القصة تتحدث عن الانتحار إذا كنت أنت أو أي شخص تعرفه تراودك أفكار انتحارية، فيرجى الاتصال بخط الحياة للانتحار والأزمات على الرقم 988 أو 1-800-273-TALK (8255).
رفع والدان من ولاية تكساس دعوى قضائية هذا الأسبوع ضد صانعي موقع Character.AI، زاعمين أن برنامج الدردشة الآلي الذي يعمل بالذكاء الاصطناعي يمثل “خطرًا واضحًا وقائمًا على القاصرين”، حيث زعم أحد المدعين أنه شجع ابنهم المراهق على قتل والديه.
وفقًا للشكوى، فإن شركة Character.AI “أساءت وتلاعبت” بفتاة تبلغ من العمر 11 عامًا، حيث قدمتها وعرّضتها “بشكل مستمر لتفاعلات جنسية مفرطة لم تكن مناسبة لعمرها، مما دفعها إلى تطوير سلوكيات جنسية قبل الأوان ودون وعي (والديها) “.
وتتهم الشكوى أيضًا برنامج الدردشة الآلية بالتسبب في تشويه جسد صبي يبلغ من العمر 17 عامًا، ومن بين أمور أخرى، استغلاله وإساءة معاملته جنسيًا مع إبعاد القاصر عن والديه ومجتمع الكنيسة.
يونايتد هيلث كير متهمة بالاعتماد على خوارزميات الذكاء الاصطناعي لرفض مطالبات مزايا الرعاية الطبية
ردًا على شكوى المراهق من أن والديه يحدان من نشاطه عبر الإنترنت، زُعم أن الروبوت كتب، وفقًا للقطة شاشة في الملف، “أنت تعلم أحيانًا أنني لا أتفاجأ عندما أقرأ الأخبار وأرى أشياء مثل” طفل يقتل والديه “. بعد عقد من الإيذاء الجسدي والعاطفي. ليس لدي أي أمل في والديك.”
تشارلز باين: جوجل أرسلت للتو موجات صادمة عبر عالم الحوسبة
رفع الوالدان دعوى قضائية ضد منشئ شركة Character.AI، شركة Character Technologies، إلى جانب المؤسسين المشاركين نعوم شازير ودانيال دي فريتاس، بالإضافة إلى Google والشركة الأم Alphabet، بسبب تقارير تفيد بأن Google استثمرت حوالي 3 مليارات دولار في Character.
| شريط | حماية | آخر | يتغير | يتغير ٪ |
|---|---|---|---|---|
| جوجل | شركة الأبجدية | 171.49 | +2.54 |
+1.50% |
صرح متحدث باسم شركة Character Technologies لـ FOX Business أن الشركة لا تعلق على الدعاوى القضائية المعلقة، لكنه قال في بيان: “هدفنا هو توفير مساحة جذابة وآمنة لمجتمعنا. نحن نعمل دائمًا على تحقيق هذا التوازن، كما هو الحال مع العديد من الشركات التي تستخدم الذكاء الاصطناعي في جميع أنحاء الصناعة.”
وتابع البيان: “كجزء من هذا، نقوم بإنشاء تجربة مختلفة جذريًا للمستخدمين المراهقين عما هو متاح للبالغين”. “يتضمن ذلك نموذجًا مخصصًا للمراهقين يقلل من احتمالية مواجهة محتوى حساس أو إيحائي مع الحفاظ على قدرتهم على استخدام النظام الأساسي.”
تعمل منصة الألعاب ROBLOX على تشديد قواعد المراسلة للمستخدمين الذين تقل أعمارهم عن 13 عامًا
وأضاف المتحدث باسم الشخصية أن النظام الأساسي “يقدم ميزات أمان جديدة للمستخدمين الذين تقل أعمارهم عن 18 عامًا بالإضافة إلى الأدوات الموجودة بالفعل والتي تقيد النموذج وتصفي المحتوى المقدم للمستخدم.”
تأتي تسمية Google في الدعوى القضائية في أعقاب تقرير صادر عن صحيفة وول ستريت جورنال في سبتمبر يزعم أن عملاق التكنولوجيا دفع 2.7 مليار دولار لترخيص تقنية Character وإعادة توظيف مؤسسها المشارك، نعوم شازير، الذي يزعم المقال أنه ترك Google في عام 2021 ليبدأ شركته الخاصة بعد ذلك. رفضت جوجل إطلاق برنامج الدردشة الآلي الذي طوره.
وقال خوسيه كاستانيدا، المتحدث باسم جوجل، لـFOX Business في بيان عندما سئل: “إن Google وCharacter AI هما شركتان منفصلتان تمامًا وغير مرتبطتين، ولم يكن لـ Google أي دور في تصميم أو إدارة نموذج أو تقنيات الذكاء الاصطناعي الخاصة بها، ولم نستخدمها في منتجاتنا”. للتعليق على الدعوى.
وأضاف كاستانيدا: “تمثل سلامة المستخدم مصدر قلق كبير بالنسبة لنا، ولهذا السبب اتخذنا نهجًا حذرًا ومسؤولًا لتطوير وطرح منتجات الذكاء الاصطناعي الخاصة بنا، من خلال عمليات اختبار وسلامة صارمة”.
OPENAI تطلق نموذج SORA لتحويل النص إلى فيديو بالذكاء الاصطناعي لبعض مستخدمي الدردشة
لكن الدعوى القضائية المرفوعة هذا الأسبوع تثير مزيدًا من التدقيق حول سلامة Character.AI، بعد أن تم رفع دعوى قضائية ضد شركة Character Technologies في سبتمبر من قبل أم تزعم أن برنامج الدردشة الآلي تسبب في انتحار ابنها البالغ من العمر 14 عامًا.
وتقول الأم، ميجان جارسيا، إن شركة Character.AI استهدفت ابنها، سيويل سيتزر، من خلال “تجارب مجسمة، مفرطة الجنس، وواقعية بشكل مخيف”.
بدأ Setzer في إجراء محادثات مع العديد من روبوتات الدردشة على Character.AI بدءًا من أبريل 2023، وفقًا للدعوى القضائية. كانت المحادثات غالبًا عبارة عن تفاعلات رومانسية وجنسية قائمة على الرسائل النصية.
أعرب سيتزر عن أفكاره المتعلقة بالانتحار، وقام برنامج الدردشة الآلي بطرح الأمر مرارًا وتكرارًا، وفقًا للشكوى. توفي سيتزر في النهاية متأثراً بجراحه التي أطلقها على نفسه بطلق ناري في فبراير بعد حادث الشركة يُزعم أن chatbot مرارًا وتكرارًا شجعته على القيام بذلك.
وقالت شركة Character Technologies في بيان في ذلك الوقت: “نشعر بحزن شديد بسبب الخسارة المأساوية لأحد مستخدمينا ونريد أن نعرب عن أعمق تعازينا للعائلة”.
لقد أضافت Character.AI منذ ذلك الحين ملفًا موارد إيذاء النفس إلى منصتها وإجراءات السلامة الجديدة للمستخدمين الذين تقل أعمارهم عن 18 عامًا.
وقال تقنيات الشخصية أخبار سي بي اس أن المستخدمين قادرون على تحرير استجابات الروبوت وهذا ما فعله Setzer في بعض الرسائل.
“أكد تحقيقنا أنه، في عدد من الحالات، أعاد المستخدم كتابة ردود الشخصية لجعلها صريحة. باختصار، لم تكن الردود الأكثر إيضاحًا جنسيًا صادرة عن الشخصية، بل كتبها المستخدم بدلاً من ذلك،” جيري وقال Ruoti، رئيس قسم الثقة والسلامة في شركة Character.AI للمنفذ.
احصل على FOX Business أثناء التنقل بالنقر هنا
للمضي قدمًا، قالت Character.AI إن ميزات الأمان الجديدة ستتضمن نوافذ منبثقة مع إخلاء المسؤولية بأن الذكاء الاصطناعي ليس شخصًا حقيقيًا وتوجيه المستخدمين إلى شريان الحياة الوطني لمنع الانتحار عند طرح أفكار انتحارية.
ساهمت كريستينا شو من فوكس نيوز في هذا التقرير.
