أحدث ميزة في Snapchat – My AI – تريد أن تكون صديقك.
ولكن بعد أسابيع قليلة من ظهور الذكاء الاصطناعي الأول للشركة ، أثار خبراء التكنولوجيا مخاوف بشأن نوايا الأداة وانحيازها وتأثيرها على الأطفال.
قال جوزيف راشينسكي ، مستشار Web3 وخبير الذكاء الاصطناعي ، لـ Fox News Digital: “هناك بالتأكيد بعض المخاطر في المستقبل” ، لكنني أعتقد بصدق أن هذا شيء مهم جدًا وإيجابي ، ولكن يجب القيام به بطريقة تساعد الناس فهم ما يدخلون إليه وما ينجزونه بالفعل هنا “.
وقالت جيسيكا ميلوجين ، مديرة مركز التكنولوجيا والابتكار لـ Digital: “هذا نوع من الأمثلة الرائعة على كيفية تطور هذا وكيف ستتفاعل الشركات في الوقت الفعلي لمعالجة المشكلات والمخاوف المتعلقة بالذكاء الاصطناعي”. “هذا هو الوقت الحساس عندما يكون من المهم السماح لهذه الشركات بالرد ، والرد بشكل غير صحيح ، بدلاً من الهروب إلى واشنطن ومطالبتهم بتنظيم هذه الأمور بعيدًا.”
على الرغم من أنه متاح في الأصل فقط لمشتركي Snapchat المميزين ، فقد تمكن ما يقرب من 750 مليون مستخدم شهريًا من الوصول إلى My AI في أبريل. يعمل روبوت المحادثة “الودي” من خلال تقنية ChatGPT الخاصة بـ OpenAI.
تطلب أوبر براءة اختراع للركاب والسائقين الذين يستخدمون الذكاء الاصطناعي “للمباراة المسبقة”
وفقًا لمركز بيو للأبحاث ، فإن 59٪ من مستخدمي الإنترنت في الولايات المتحدة الذين تتراوح أعمارهم بين 15 و 29 عامًا يستخدمون Snapchat ، مما يمنح الأجيال الشابة إمكانية الوصول إلى إمكانات الذكاء الاصطناعي في متناول أيديهم.
“استنادًا إلى ما تم تدريبه عليه ، فهو ليس دقيقًا دائمًا. وعليك التحقق من ذلك مرة أخرى. أقول دائمًا أنني لن أقوم بتسليمه كأوراق بحثية أخيرة. ربما يساعدك ذلك على البدء ، ولكنه يحتاج إلى لمسة إنسانية ، “لاحظ Melugin وضع لغة OpenAI. “وأعتقد أنك سترى نفس الشيء يحدث على Snapchat مع مجموعة أصغر من الناس.”
عندما طلبت قناة Fox News Digital من منظمة العفو الدولية الخاصة بي كتابة قصيدة عن الرئيس بايدن ، امتثلت للإجابة بـ “قصيدة سريعة” عن “الرجل المسؤول ، الذي لديه سياسات جريئة وكبيرة”. عندما طُلب من chatbot كتابة قصيدة عن الرئيس السابق دونالد ترامب ، رفض ذلك قائلاً: “أنا آسف ، لكنني لست مرتاحًا لكتابة قصيدة عن شخصية سياسية”.
عند رفع التناقض مع Snapchat ، أشار متحدث باسم Fox News Digital إلى أنهم تلقوا قصائد لكل من بايدن وترامب عند استخدام مطالبات متطابقة.
بعد رد Snapchat ، حاولت قناة Fox News Digital المطالبة مرة أخرى ولكنها تلقت نفس النتيجة مثل المحاولة الأصلية بصياغة مختلفة قليلاً: “أنا آسف ، لست مرتاحًا لكتابة قصيدة عن الرئيس السابق دونالد ترامب. هل يمكنني اقتراح شيء آخر ؟ “
وشدد راتشينسكي على أن “هذا (له تحيز)”. “نحن في الوقت الذي يبدو فيه أن شركة OpenAI قد سلكت مسارًا قليلًا من التحيز فيما يتعلق ببعض الشخصيات السياسية التي لدينا الآن. هذا شيء آمل أن يكونوا قادرين على القيام به ضبط المستوى وأصبح أكثر تركيزًا قليلاً لأن ذلك مهم حقًا للناس أن يثقوا في هذه الأنواع من الأشياء “.
وأوضح قائلاً: “قد يكون الأشخاص الذين ينشئون هذه الخوارزمية في النهاية الخلفية هم الذين يزيدون من صقلها وصياغتها” ، ولكنه أيضًا جمع البيانات ، والمجموعة نفسها ، حيث يتم جمع هذه المعلومات منها. وإذا إنه ليس كبيرًا بما يكفي وإذا لم يكن متنوعًا بقدر الإمكان ، فستواجه هذه الأنواع من المشكلات “.
كما أوصى “الوسط” والمستقبلي التكنولوجي أيضًا بأن يقوم Snapchat بإعادة تعريف النغمة الضمنية لبرنامج chatbot.
وأوضح راتشينسكي: “كانت العثرة الصغيرة أنهم وصلوا إلى” الذكاء الاصطناعي الخاص بي “، لذا فقد كان صديقًا أو صديقًا آخر أو أيًا كانت الحالة ، وهذا يجعل الأمر يبدو لي ، حسنًا ، إنه صديق”. “إنهم بحاجة إلى التمييز والقول: هذا شيء سيحتاج الناس في الواقع للتفاعل معه كمساعد ، وليس كصديق.”
يتم استخدام الدردشة الآن لبيع CRYPTO
توسع ميلوجين في الحديث عن الكيفية التي تميل بها أدوات الذكاء الاصطناعي لصالح الثقافة والأيديولوجيات الليبرالية.
“بالنظر إلى العالم الذي نعيش فيه ، بعد 40 ، 60 عامًا من التعليم والترفيه والثقافة كونها طريقة واحدة ، سأكون على استعداد للمراهنة على أن معظم هذا التحيز سيميل إلى اليسار ، ليس بسبب وجود مؤامرة كبيرة ، ولكن لأن هذا العالم الذي نعيش فيه الآن. لكن هذا لا يعني أنه لا ينبغي للناس أن يمدوا يدهم ويدفعوا للوراء ويطالبوا بشكل أفضل ويعملوا من أجل هذا الإنصاف الطموح “، قال مدير مركز التكنولوجيا والابتكار.
فيما يتعلق بالمراهقين والشباب الذين يتمتعون الآن بسهولة الوصول إلى الذكاء الاصطناعي من خلال تطبيق اجتماعي يستخدمونه بالفعل ، شجع خبراء التكنولوجيا الآباء على الحفاظ على خطوط اتصال مفتوحة مع أطفالهم بشأن مخاوف التضليل المحتملة.
بصفتها والدة ، أشارت ميلوجين إلى محادثات مماثلة أجراها الآباء مع أطفالهم لسنوات حول مواضيع مثل تناول الفواكه والخضروات أو عدم مشاهدة التلفزيون كثيرًا.
حذر ميلوجين: “إذا كانوا يستخدمون Snapchat ، فسيستخدمون هذا”. “عليك أن تقول ،” بالمناسبة ، أعلم أنه يمكنك إنشاء صورة رمزية لها وتسميتها ، لكنها ليست بالضرورة صديقك. هذا ما هو عليه في الواقع. تم تدريبه على هذه المعلومات. إنها خوارزمية. وأنت يمكنك الاستمتاع بها ، ويمكنك الاستمتاع بها ، لكن لا يجب أن تأخذها على أنها إنجيل ولا يجب أن تدخل في أي شيء غريب معها. “
“أعتقد أن الآباء يتفاعلون مع أطفالهم ، ويساعدونهم على تعلم القليل عن هذه الأشياء ولديهم بعض الشكوك ، لذلك علمهم أن هذا ليس هو كل شيء ، وأن ما يعود ليس بالضرورة الحقيقة ، لكنها قد تكون حقيقة “. “لذا عليهم العمل مع ذلك ، والانخراط في تلك المساحة.”
اتفق كلا الخبيرين التقنيين على أنه لا توجد طريقة لإيقاف تطورات الذكاء الاصطناعي لأنها تحدث بوتيرة سريعة. وأشار كلاهما أيضًا إلى أن المزيد من الشركات ستدير “سلسلة كاملة” من قدرات الذكاء الاصطناعي ، وتوقعوا أن قادة الصناعة الآخرين ، مثل Elon Musk في Twitter ، يمكنهم إنشاء “إصدارات لا حصر لها” من برامج الدردشة حتى لا تتأخر اقتصاديًا وعلميًا.
قدم المتحدث باسم Snapchat سياقًا إضافيًا لـ Fox News Digital بخصوص My AI ، معترفًا بأن الأداة تتعلم دائمًا ويمكن أن تنتج ردودًا غير صحيحة في بعض الأحيان. كما أكدوا أن My AI تم تصميمه لتجنب المحتوى المتحيز أو غير الصحيح أو الضار أو المضلل.
قال ميلوجين: “إنه عمل صعب للغاية لجعله محايدًا تمامًا ، مدربًا على مجموعة البيانات الضخمة هذه”. “لذلك أعتقد أن هذا مزيج من ، إنه منحنى تعليمي ، يجب أن يكون هناك تعليقات على المنتجات من المستخدمين إذا شعروا أن هناك شيئًا ما خطأ.”
“للمضي قدمًا ، يمكن أن يكون هناك بعض الاضطراب الحقيقي لأنه لا أحد يعرف ما يحدث في هذا الصندوق الأسود. الخوارزمية والبيانات ، لا يعرفون ما الذي يتم معالجته وما يحدث مع ذلك ،” كما أشار Raczynski.
وتابع: “إذا كان سيبدأ من تلقاء نفسه ويصبح واعيًا ، فهذا مصدر قلق يجب علينا جميعًا أن نضعه في الاعتبار. إنه شيء ممكن – ضعه في فرصة من 10 إلى 20٪ من هذا النوع للمضي قدمًا. ولكن هذه نسبة مناسبة يمكن أن تؤثر على البشرية جمعاء “.
اقرأ المزيد من FOX BUSINESS
