تظهر الأبحاث السابقة أن النماذج اللغوية الكبيرة قادرة على إنتاج نصوص ضارة لبعض مجموعات الأشخاص، بما في ذلك أولئك الذين يُعرفون بأنهم سود، والنساء، والأشخاص ذوي الإعاقة، والمسلمين. نظرًا لأن 90 بالمائة من الطلاب الذين يلتحقون بالمدارس التي تعمل مع صندوق تشارتر سكول جروث فاند يعتبرون أشخاصًا ملونين، يقول كونيل: “إن وجود إنسان في الحلقة يعد أكثر أهمية، لأنه يمكن أن ينتج بسرعة محتوى غير مقبول لوضعه في مكانه”. أمام الأطفال.”
تقول أبريل جوبل، المديرة التنفيذية لمجموعة المدارس المستقلة KIPP Chicago، التي تضم العديد من الطلاب من ذوي البشرة الملونة، إن فهم المخاطر المرتبطة بدمج الذكاء الاصطناعي في المدارس والفصول الدراسية يعد مسألة مهمة لأولئك الذين يحاولون التأكد من أن الذكاء الاصطناعي يساعد الطلاب بدلاً من إيذائهم. وتقول إن الذكاء الاصطناعي لديه “تاريخ من التحيز ضد المجتمعات التي نخدمها”.
في الأسبوع الماضي، أنشأ الاتحاد الأمريكي للمعلمين، وهو اتحاد عمالي للمعلمين، لجنة لتطوير أفضل الممارسات للمعلمين الذين يستخدمون الذكاء الاصطناعي، ومن المقرر صدور المبادئ التوجيهية في ديسمبر. يقول رئيسها، راندي وينجارتن، إنه على الرغم من أن المعلمين يمكنهم تعلم كيفية تسخير قوة الذكاء الاصطناعي وتعليم الأطفال كيفية الاستفادة منه أيضًا، إلا أنه لا ينبغي للتكنولوجيا أن تحل محل المعلمين ويجب أن تخضع للتنظيم لضمان الدقة والإنصاف وإمكانية الوصول. “الذكاء الاصطناعي التوليدي هو “الشيء الكبير التالي” في فصولنا الدراسية، ولكن يحتاج المطورون إلى مجموعة من الضوابط والتوازنات حتى لا يصبح مشكلتنا الكبيرة التالية.”
من السابق لأوانه معرفة الكثير عن كيفية تأثير استخدام المعلمين للنص التوليدي على الطلاب وما يمكنهم تحقيقه. يشعر فنسنت ألفين، المحرر المشارك لمجلة أبحاث الذكاء الاصطناعي في التعليم والأستاذ في جامعة كارنيجي ميلون، بالقلق بشأن قيام المعلمين بتعيين مهام دقيقة لنماذج اللغة مثل وضع الدرجات أو كيفية معالجة مشكلات سلوك الطلاب حيث يمكن أن تكون المعرفة حول طالب معين مهمة. “المعلمون يعرفون طلابهم. يقول: “إن نموذج اللغة لا يفعل ذلك”. كما أنه يشعر بالقلق من تزايد اعتماد المعلمين بشكل مفرط على نماذج اللغة ونقل المعلومات إلى الطلاب دون التشكيك في المخرجات.
تقول شانا وايت، وهي معلمة سابقة تقود مشروع العدالة والأخلاق التقنية في مركز كابور، وهي منظمة غير ربحية تركز على سد فجوات العدالة في التكنولوجيا، إن المعلمين يجب أن يتعلموا عدم أخذ ما يقدمه لهم الذكاء الاصطناعي على محمل الجد. خلال جلسة تدريبية مع معلمي Oakland Unified School District هذا الصيف، اكتشف المعلمون الذين يستخدمون ChatGPT لوضع خطط الدروس أخطاء في مخرجاته، بما في ذلك النص غير المناسب للفصل الدراسي للصف السادس والترجمات غير الدقيقة للمواد التعليمية من الإنجليزية إلى الإسبانية أو الفيتنامية.
نظرًا لنقص الموارد والمواد التعليمية ذات الصلة، قد يفضل بعض المعلمين السود واللاتينيين استخدام الذكاء الاصطناعي التوليدي في الفصل الدراسي، كما يقول أنتافيس سبيلز، مدير مقيم في مدرسة KIPP في شيكاغو والذي بدأ استخدام MagicSchool AI منذ ستة أسابيع. إنه ليس قلقًا بشأن تزايد اعتماد المعلمين بشكل مفرط على نماذج اللغة. إنه سعيد بكيفية توفير الأداة له للوقت وجعله يشعر بحضور أكبر وأقل انشغالًا بالأحداث الرياضية التي تنظمها ابنته، ولكنه سعيد أيضًا بالطريقة التي يمكنه بها إنشاء محتوى سريعًا يمنح الطلاب شعورًا بالانتماء.
في إحدى الحالات، قبل ثلاثة أسابيع، تلقت سبيلز رسالة نصية من إحدى الوالدين التي تقوم بعمل مجموعة من الصور المجمعة لعيد ميلاد ابنها والتي طلبت منه مشاركة بضع كلمات. وباستخدام مجموعة من الصفات لوصفه، رد سبيلز على الرسالة بنسخة مخصصة من الأغنية المفضلة للطالب، “Put On”، من تأليف يونج جيزي وكاني ويست.
يقول سبيلز: “لقد أرسلت ذلك إلى أحد الوالدين وأعادتني إلى البكاء من خلال الرموز التعبيرية”. “فقط لأرى الفرحة التي جلبتها للعائلة… وربما استغرق الأمر مني أقل من 60 ثانية للقيام بذلك.” تخطط KIPP Chicago للبدء في الحصول على تعليقات من أولياء الأمور وتعميم استخدام MagicSchool على المزيد من المعلمين في أكتوبر.
