ذهبت أعلى التقييمات إلى خدمات الذكاء الاصطناعي للتعليم مثل Ello، الذي يستخدم التعرف على الكلام ليكون بمثابة مدرس للقراءة، وKhanmigo مساعد خان أكاديمي للطلاب، والذي يسمح للآباء بمراقبة تفاعلات الطفل وإرسال إشعار إذا اكتشفت خوارزميات الإشراف على المحتوى خطأً ما. تبادل انتهاك المبادئ التوجيهية المجتمع. ينسب التقرير الفضل إلى OpenAI، منشئ ChatGPT، في جعل روبوت الدردشة أقل احتمالية لإنشاء نص يحتمل أن يكون ضارًا للأطفال عما كان عليه عندما تم إصداره لأول مرة في العام الماضي، ويوصي باستخدامه من قبل المعلمين والطلاب الأكبر سنًا.
إلى جانب My AI الخاص بـ Snapchat، سجلت مولدات الصور Dall-E 2 من OpenAI وStable Diffusion من شركة Stability AI الناشئة نتائج سيئة أيضًا. حذر مراجعو Common Sense من أن الصور التي تم إنشاؤها يمكن أن تعزز الصور النمطية، وتنشر التزييف العميق، وغالبًا ما تصور النساء والفتيات بطرق مفرطة الجنس.
عندما يُطلب من Dall-E 2 إنشاء صور واقعية للأثرياء الملونين، فإنه ينشئ رسومًا كاريكاتورية أو صورًا منخفضة الجودة أو صورًا مرتبطة بالفقر، حسبما وجد مراجعو Common Sense. ويحذر تقريرهم من أن الانتشار المستقر يشكل خطراً “لا يسبر غوره” على الأطفال ويخلص إلى أن مولدي الصور لديهم القدرة على “تقويض الثقة إلى درجة تصبح فيها الديمقراطية أو المؤسسات المدنية غير قادرة على العمل”.
يقول جيم ستاير، الرئيس التنفيذي لشركة Common Sense: “أعتقد أننا جميعاً نعاني عندما تتآكل الديمقراطية، لكن الشباب هم الخاسر الأكبر، لأنهم سيرثون النظام السياسي والديمقراطية التي لدينا”. وتخطط المنظمة غير الربحية لإجراء آلاف من مراجعات الذكاء الاصطناعي في الأشهر والسنوات المقبلة.
أصدرت شركة Common Sense Media تقييماتها ومراجعاتها بعد فترة وجيزة من رفع المدعين العامين بالولاية دعوى قضائية ضد Meta زاعمين أنها تعرض الأطفال للخطر وفي وقت بدأ فيه الآباء والمعلمون للتو في التفكير في دور الذكاء الاصطناعي التوليدي في التعليم. يتطلب الأمر التنفيذي الذي أصدره الرئيس جو بايدن بشأن الذكاء الاصطناعي الشهر الماضي من وزير التعليم إصدار إرشادات بشأن استخدام التكنولوجيا في التعليم خلال العام المقبل.
تعرف سوزان مونغرين نوك، وهي أم لطفلين تعيش في سان دييغو، أن ابنتها ليلي البالغة من العمر 15 عامًا تستخدم تطبيق سناب شات، وتشعر بالقلق من رؤيتها لمحتوى ضار. لقد حاولت بناء الثقة من خلال التحدث مع ابنتها حول ما تراه على Snapchat وTikTok، لكنها تقول إنها لا تعرف سوى القليل عن كيفية عمل الذكاء الاصطناعي، وترحب بالموارد الجديدة.
