وفيما يتعلق بلون البشرة، يقول شيانغ إن الجهود الرامية إلى تطوير تدابير إضافية ومحسنة لن تنتهي. وتقول: “نحن بحاجة إلى مواصلة محاولة إحراز التقدم”. يقول مونك إن التدابير المختلفة يمكن أن تكون مفيدة اعتمادًا على الموقف. ويقول: “أنا سعيد جدًا بوجود اهتمام متزايد بهذا المجال بعد فترة طويلة من الإهمال”. وقال المتحدث باسم جوجل، بريان غابرييل، إن الشركة ترحب بالبحث الجديد وتقوم بمراجعته.
يأتي لون بشرة الشخص من تفاعل الضوء مع البروتينات وخلايا الدم والأصباغ مثل الميلانين. الطريقة القياسية لاختبار الخوارزميات فيما يتعلق بالتحيز الناتج عن لون البشرة هي التحقق من أدائها على ألوان البشرة المختلفة، على طول مقياس من ستة خيارات تتراوح من الأفتح إلى الأغمق المعروف بمقياس فيتزباتريك. تم تطويره في الأصل بواسطة طبيب أمراض جلدية لتقدير استجابة الجلد للأشعة فوق البنفسجية. في العام الماضي، أشاد باحثو الذكاء الاصطناعي عبر التكنولوجيا بتقديم جوجل لمقياس مونك، ووصفوه بأنه أكثر شمولاً.
يقول باحثو سوني في دراسة تم تقديمها في المؤتمر الدولي حول رؤية الكمبيوتر في باريس هذا الأسبوع أن معيار الألوان الدولي المعروف باسم CIELAB المستخدم في تحرير الصور وتصنيعها يشير إلى طريقة أكثر دقة لتمثيل نطاق واسع من الجلد. عندما طبقوا معيار CIELAB لتحليل صور أشخاص مختلفين، وجدوا أن بشرتهم تختلف ليس فقط في اللون – عمق اللون – ولكن أيضًا في درجة اللون أو تدرجه.
يبدو أن مقاييس لون الجلد التي لا تلتقط بشكل صحيح الأشكال الحمراء والصفراء في جلد الإنسان قد ساعدت بعض التحيز على البقاء غير مكتشف في خوارزميات الصور. عندما اختبر باحثو شركة سوني أنظمة الذكاء الاصطناعي مفتوحة المصدر، بما في ذلك برنامج قص الصور الذي طورته شركة تويتر وزوج من خوارزميات توليد الصور، وجدوا تفضيلاً للبشرة الأكثر احمرارًا، مما يعني أن عددًا كبيرًا من الأشخاص الذين تتمتع بشرتهم بدرجة أكبر من اللون الأصفر تم تمثيلها بشكل ناقص في الصور النهائية التي أخرجتها الخوارزميات. ومن المحتمل أن يؤدي ذلك إلى وضع مجموعات سكانية مختلفة – بما في ذلك من شرق آسيا وجنوب آسيا وأمريكا اللاتينية والشرق الأوسط – في وضع غير مؤات.
اقترح باحثو سوني طريقة جديدة لتمثيل لون البشرة لالتقاط هذا التنوع الذي تم تجاهله سابقًا. يصف نظامهم لون البشرة في الصورة باستخدام إحداثيين، بدلاً من رقم واحد. إنه يحدد مكانًا على مقياس من الفاتح إلى الداكن وعلى سلسلة متواصلة من الصفرة إلى الاحمرار، أو ما تسميه صناعة مستحضرات التجميل أحيانًا النغمات الدافئة إلى الباردة.
تعمل الطريقة الجديدة عن طريق عزل جميع وحدات البكسل في الصورة التي تظهر الجلد، وتحويل قيم ألوان RGB لكل بكسل إلى رموز CIELAB، وحساب متوسط درجة اللون ودرجة اللون عبر مجموعات من وحدات بكسل الجلد. يُظهر أحد الأمثلة في الدراسة صورًا واضحة لنجم كرة القدم الأمريكية السابق تيريل أوينز والممثلة الراحلة إيفا جابور يتقاسمان لون البشرة ولكن يفصل بينهما لون، مع صورة أوينز أكثر حمراء وصورة غابور أكثر صفراء.
عندما طبق فريق سوني نهجه على البيانات وأنظمة الذكاء الاصطناعي المتاحة عبر الإنترنت، اكتشفوا مشكلات كبيرة. CelebAMAsk-HQ، وهي مجموعة بيانات شائعة لوجوه المشاهير تستخدم للتدريب على التعرف على الوجه وبرامج رؤية الكمبيوتر الأخرى، كانت 82% من صورها تتجه نحو ألوان البشرة الحمراء، ومجموعة بيانات أخرى FFHQ، التي طورتها شركة Nvidia، مالت بنسبة 66% نحو ألوان البشرة الحمراء. ووجد الباحثون الجانب الأحمر. قام نموذجان من نماذج الذكاء الاصطناعي تم تدريبهما على FFHQ بإعادة إنتاج هذا التحيز: حوالي أربع من كل خمس صور أنتجها كل منهما كانت منحرفة نحو درجات اللون الأحمر.
لم ينته الأمر عند هذا الحد. كان أداء برامج الذكاء الاصطناعي ArcFace وFaceNet وDlib أفضل على البشرة الأكثر احمرارًا عندما طُلب منها تحديد ما إذا كانت صورتان تتوافقان مع نفس الشخص، وفقًا لدراسة سوني. يقول ديفيس كينج، المطور الذي أنشأ Dlib، إنه لم يفاجأ بهذا الانحراف لأن العارضة مدربة في الغالب على صور المشاهير الأمريكيين.
كما عملت أدوات Cloud AI من Microsoft Azure وAmazon Web Services لاكتشاف الابتسامات بشكل أفضل على الألوان الأكثر احمرارًا. تقول سارة بيرد، التي تقود هندسة الذكاء الاصطناعي المسؤولة في مايكروسوفت، إن الشركة تعمل على تعزيز استثماراتها في العدالة والشفافية. يقول المتحدث باسم أمازون باتريك نيغورن: “نحن نرحب بالتعاون مع مجتمع البحث، ونحن نراجع هذه الدراسة بعناية”. ورفضت نفيديا التعليق.
