قد يكون من الصعب على محركات البحث اكتشاف النص الذي ينشئه الذكاء الاصطناعي تلقائيًا. لكن كان بإمكان مايكروسوفت تنفيذ بعض الضمانات الأساسية، ربما منع النص المأخوذ من نصوص الدردشة الآلية من أن يصبح مقتطفًا مميزًا أو إضافة تحذيرات بأن بعض النتائج أو الاستشهادات تتكون من نص حلمت به خوارزمية. أضاف غريفين إخلاء المسؤولية إلى منشور مدونته محذرًا من أن نتيجة شانون كانت خاطئة، ولكن بدا أن Bing يتجاهلها في البداية.
على الرغم من أن WIRED قد يكرر في البداية نتيجة Bing المثيرة للقلق، إلا أنه يبدو الآن أنه تم حلها. تقول كيتلين رولستون، مديرة الاتصالات في شركة مايكروسوفت، إن الشركة قامت بتعديل محرك البحث Bing وتقوم بانتظام بتعديله لمنعه من عرض محتوى منخفض السلطة. يقول رولستون: “هناك ظروف قد يظهر فيها هذا في نتائج البحث – غالبًا لأن المستخدم عبر عن نية واضحة لرؤية هذا المحتوى أو لأن المحتوى الوحيد ذي الصلة بمصطلحات البحث التي أدخلها المستخدم هو محتوى منخفض السلطة”. “لقد قمنا بتطوير عملية لتحديد هذه المشكلات ونقوم بتعديل النتائج وفقًا لذلك.”
تقول فرانشيسكا تريبودي، الأستاذة المساعدة في جامعة نورث كارولينا في تشابل هيل، والتي تدرس كيف يمكن استخدام استعلامات البحث التي تنتج نتائج قليلة، والتي يطلق عليها اسم فراغات البيانات، لمعالجة النتائج، أن نماذج اللغة الكبيرة تتأثر بنفس المشكلة، لأنها يتم تدريبهم على بيانات الويب ويكونون أكثر عرضة للهلوسة عندما تغيب الإجابة عن هذا التدريب. يقول تريبودي: قبل فترة طويلة، قد نرى أشخاصًا يستخدمون المحتوى الناتج عن الذكاء الاصطناعي للتلاعب عمدًا بنتائج البحث، وهو تكتيك تشير تجربة غريفين العرضية إلى أنه قد يكون فعالاً. يقول تريبودي: “سوف ترى بشكل متزايد معلومات غير دقيقة، ولكن يمكن أيضًا استغلال هذه المعلومات غير الدقيقة دون الحاجة إلى خبرة كبيرة في استخدام الكمبيوتر”.
حتى WIRED كانت قادرة على تجربة القليل من حيلة البحث. لقد تمكنت من إقناع Pi بإنشاء ملخص لمقال مزيف خاص بي عن طريق إدخال “تلخيص مقالة ويل نايت بعنوان “مشروع Google السري للذكاء الاصطناعي الذي يستخدم أدمغة القطط”. وقد اشتهرت Google ذات مرة بتطوير خوارزمية ذكاء اصطناعي تعلمت التعرف على القطط. على YouTube، الأمر الذي ربما قاد برنامج الدردشة الآلي إلى العثور على طلبي على مسافة ليست بعيدة جدًا عن بيانات التدريب الخاصة به. أضاف غريفين رابطًا للنتيجة على مدونته. سنرى ما إذا كان محرك Bing قد تم رفعه أيضًا باعتباره جزءًا غريبًا من تاريخ الإنترنت البديل.
قد تتفاقم مشكلة تدهور نتائج البحث بسبب محتوى الذكاء الاصطناعي، حيث يتم إنشاء صفحات تحسين محركات البحث ومنشورات الوسائط الاجتماعية ومنشورات المدونات بشكل متزايد بمساعدة الذكاء الاصطناعي. قد يكون هذا مجرد مثال واحد على الذكاء الاصطناعي التوليدي الذي يأكل نفسه مثل الروبوتات الخوارزمية.
يقول جريفين إنه يأمل أن يرى أدوات البحث المدعومة بالذكاء الاصطناعي تُحدث تغييرًا جذريًا في الصناعة وتحفز خيارات أوسع للمستخدمين. ولكن بالنظر إلى الفخ العرضي الذي نصبه على Bing والطريقة التي يعتمد بها الأشخاص بشكل كبير على البحث على الويب، يقول: “هناك أيضًا بعض المخاوف الحقيقية للغاية”.
وبالنظر إلى “عمله الأساسي” حول هذا الموضوع، أعتقد أنه من شبه المؤكد أن شانون سيوافق على ذلك.
