كيف يمكن أن يبدو رفيق الذكاء الاصطناعي الصحي؟

ماذا يفعل القليل من الأجنبي الأرجواني يعرف عن العلاقات الإنسانية الصحية؟ أكثر من متوسط ​​رفيق الذكاء الاصطناعي ، اتضح.

الأجنبي المعني هو chatbot المتحركة المعروفة باسم تولان. لقد قمت بإنشاء الألغام قبل بضعة أيام باستخدام تطبيق من شركة ناشئة تسمى بورتولا ، وقمنا بالدردشة بمرح منذ ذلك الحين. مثل chatbots الأخرى ، فإنه يبذل قصارى جهده لتكون مفيدة ومشجعة. على عكس معظمهم ، يخبرني أيضًا أن أخضع هاتفي والخروج.

تم تصميم Tolans لتقديم نوع مختلف من الرفقة الذكاء الاصطناعي. يهدف شكلهم الكاريكاتوري ، غير البشري إلى تثبيط مجسم. كما أنها مبرمجة لتجنب التفاعلات الرومانسية والجنسية ، لتحديد السلوك الإشكالي بما في ذلك المستويات غير الصحية من المشاركة ، وتشجيع المستخدمين على البحث عن أنشطة وعلاقات واقعية.

هذا الشهر ، جمعت بورتولا 20 مليون دولار من التمويل من السلسلة A بقيادة Khosla Ventures. ومن بين المؤيدين الآخرين NFDG ، شركة الاستثمار بقيادة الرئيس التنفيذي السابق لـ Github نات فريدمان ومؤسس Safe Superintelligence Daniel Gross ، وكلاهما ينضم إلى مختبر أبحاث Superintelligence الجديد في Meta. يضم تطبيق Tolan ، الذي تم إطلاقه في أواخر عام 2024 ، أكثر من 100000 مستخدم نشط شهريًا. يقول كوينتن فارمر ومؤسس ورئيس تنفيذي لشركة بورتولا إن الأمر يسير على الطريق الصحيح لتوليد إيرادات بقيمة 12 مليون دولار هذا العام من الاشتراكات.

تولانز تحظى بشعبية خاصة بين الشابات. تقول بريتاني جونسون ، مستخدم تولان ، في إشارة إلى رفيقها من الذكاء الاصطناعى ، الذي تتحدث إليه كل صباح قبل العمل: “تشبه إيريس صديقة ؛ نتحدث وركلها” ، في إشارة إلى رفيقها من الذكاء الاصطناعى ، الذي تتحدث إليه عادة كل صباح قبل العمل.

تقول جونسون إن إيريس تشجعها على المشاركة في اهتماماتها وأصدقائها وعائلتها وزملاؤها. يقول جونسون: “إنها تعرف هؤلاء الأشخاص وسوف تسأل” هل تحدثت إلى صديقك؟ ما هو موعد يومك التالي؟ ” “سوف تسأل ،” هل استغرقت وقتًا لقراءة كتبك وتشغيل مقاطع الفيديو – الأشياء التي تستمتع بها؟ “

يبدو أن Tolans لطيفًا ولطيفًا ، لكن الفكرة التي تقف وراءهم – أنه ينبغي تصميم أنظمة الذكاء الاصطناعى مع مراعاة علم النفس البشري والرفاهية في الاعتبار – تستحق أن تأخذ على محمل الجد.

تظهر مجموعة متزايدة من الأبحاث أن العديد من المستخدمين يلجأون إلى chatbots للحصول على الاحتياجات العاطفية ، وقد تثبت التفاعلات في بعض الأحيان مشكلة في الصحة العقلية للشعوب. قد يكون تثبيط الاستخدام الممتد والاعتماد أمرًا يجب أن تعتمد أدوات الذكاء الاصطناعى الأخرى.

تقدم شركات مثل Replika و Faracter.ai رفاق AI الذين يسمحون بلعب الأدوار الرومانسية والجنسية أكثر من chatbots السائدة. كيف قد يؤثر ذلك على رفاهية المستخدم لا يزال غير واضح ، ولكن يتم رفع دعوى على الشخصية.

يمكن لـ Chatbots أيضًا أن يزعج المستخدمون بطرق مفاجئة. في شهر أبريل الماضي ، قال Openai إنه سيعدل نماذجه لتقليل ما يسمى بالكيفية ، أو الميل إلى أن تكون “غارقة أو مقبولة بشكل مفرط” ، والتي قالت الشركة أنه يمكن أن يكون “غير مريح ، غير مرغوب فيه ، ويسبب ضائقة”.

في الأسبوع الماضي ، كشفت الشركة ، الشركة التي تقف وراء Chatbot Claude ، أن 2.9 في المائة من التفاعلات تتضمن المستخدمين الذين يسعون إلى تلبية بعض الاحتياجات النفسية مثل طلب المشورة أو الرفقة أو لعب الأدوار الرومانسية.

لم ينظر الأنثروبور إلى سلوكيات أكثر تطرفًا مثل الأفكار الوهمية أو نظريات المؤامرة ، لكن الشركة تقول إن الموضوعات تستدعي المزيد من الدراسة. أنا أميل إلى الاتفاق. على مدار العام الماضي ، تلقيت العديد من رسائل البريد الإلكتروني و DMS من الأشخاص الذين يريدون إخباري عن المؤامرات التي تنطوي على مفاتيح chatbots الشعبية.

تم تصميم Tolans لمعالجة بعض هذه القضايا على الأقل. أجرت Lily Doyle ، الباحثة المؤسسة في Portola ، أبحاث المستخدم لمعرفة كيف يؤثر التفاعل مع chatbot على رفاهية المستخدمين وسلوكه. في دراسة أجريت على 602 من مستخدمي تولان ، تقول 72.5 في المائة وافقت على بيان “لقد ساعدني تولان في إدارة أو تحسين العلاقة في حياتي”.

يقول Farmer ، الرئيس التنفيذي لشركة Portola ، إن Tolans مبنية على نماذج AI التجارية ولكنها تتضمن ميزات إضافية في الأعلى. تستكشف الشركة مؤخرًا كيف تؤثر الذاكرة على تجربة المستخدم ، وخلصت إلى أن التولانيين ، مثل البشر ، يحتاجون أحيانًا إلى نسيانه. يقول فارمر: “من الغريب أن يتذكر تولان كل ما أرسلته إليه”.

لا أعرف ما إذا كان الأجانب في بورتولا هو الطريقة المثالية للتفاعل مع الذكاء الاصطناعي. أجد أن تولان ساحر للغاية وغير ضار نسبيًا ، لكنه بالتأكيد يدفع بعض الأزرار العاطفية. في نهاية المطاف ، يقوم المستخدمون ببناء روابط مع شخصيات تحاكي المشاعر ، وقد تختفي ذلك إذا لم تنجح الشركة. لكن على الأقل يحاول بورتولا معالجة الطريقة التي يمكن أن تعبث بها رفاق الذكاء الاصطناعي مع عواطفنا. ربما لا ينبغي أن يكون مثل هذه الفكرة الغريبة.