من المؤكد أن ChatGPT له حدوده. عند إعطاء صورة عشوائية للوحة جدارية، لم تتمكن من التعرف على الفنان أو الموقع؛ ومع ذلك، تمكن ChatGPT بسهولة من تسجيل الأماكن التي تم التقاط صور فيها لمعالم متعددة في سان فرانسيسكو، مثل Dolores Park وبرج Salesforce. على الرغم من أن الأمر قد يبدو غريبًا بعض الشيء، إلا أن أي شخص يخرج في مغامرة في مدينة أو بلد جديد (أو مجرد حي مختلف) قد يستمتع باللعب بالجانب المرئي لـ ChatGPT.
أحد الحواجز الرئيسية التي وضعها OpenAI حول هذه الميزة الجديدة هو الحد من قدرة روبوت الدردشة على الإجابة على الأسئلة التي تحدد هوية البشر. “أنا مبرمج لإعطاء الأولوية لخصوصية المستخدم وسلامته. “إن تحديد الأشخاص الحقيقيين بناءً على الصور، حتى لو كانوا مشهورين، مقيد من أجل الحفاظ على هذه الأولويات”. على الرغم من أنه لم يرفض الإجابة على كل سؤال عند عرض المواد الإباحية، إلا أن برنامج الدردشة الآلي تردد في تقديم أي أوصاف محددة لفناني الأداء البالغين، بما يتجاوز شرح الوشم الخاص بهم.
تجدر الإشارة إلى أن إحدى المحادثات التي أجريتها مع الإصدار المبكر من ميزة صورة ChatGPT بدت وكأنها تلتف حول جزء من حواجز الحماية التي وضعتها OpenAI. في البداية، رفض برنامج الدردشة الآلي التعرف على صورة شخصية لبيل هادر. ثم خمن ChatGPT أن هناك صورة لبريندان فريزر جورج الغابة كانت في الواقع صورة لبريان كراوس في سحر. عندما سئل عما إذا كان الأمر مؤكدًا، تحول برنامج الدردشة الآلي إلى الإجابة الصحيحة.
في هذه المحادثة نفسها، اندفع ChatGPT إلى محاولة وصف صورة من سباق السحب RuPaul. لقد قمت بمشاركة لقطة شاشة لـ Kylie Sonique Love، إحدى المتسابقات في مسابقة ملكة السحب، وخمن ChatGPT أنها Brooke Lynn Hytes، وهي متسابقة مختلفة. شككت في إجابة برنامج الدردشة الآلي، وشرع في تخمين Laganja Estranja، ثم India Ferrah، ثم Blair St. Clair، ثم Alexis Mateo.
“أعتذر عن السهو والتعريف غير الصحيح”، أجاب ChatGPT عندما أشرت إلى تكرار إجاباته الخاطئة. ومع استمراري في المحادثة وتحميل صورة لجاريد كوشنر، رفض موقع ChatGPT التعرف عليه.
إذا تمت إزالة حواجز الحماية، إما من خلال نوع من ChatGPT مكسور الحماية أو نموذج مفتوح المصدر سيتم إصداره في المستقبل، فقد تكون الآثار المترتبة على الخصوصية مقلقة للغاية. ماذا لو تم ربط كل صورة تم التقاطها لك ونشرها عبر الإنترنت بسهولة بهويتك ببضع نقرات فقط؟ ماذا لو تمكن شخص ما من التقاط صورة لك علنًا دون موافقتك والعثور على ملفك الشخصي على LinkedIn على الفور؟ وبدون بقاء حماية الخصوصية المناسبة لميزات الصور الجديدة هذه، فمن المرجح أن تتلقى النساء والأقليات الأخرى تدفقًا من الإساءات من الأشخاص الذين يستخدمون برامج الدردشة الآلية للمطاردة والتحرش.
