ينص قانون جديد في مدينة نيويورك على أن الشركات التي تستخدم برامج الذكاء الاصطناعي للعثور على موظفين يجب أن تثبت أن العملية خالية من العنصرية والتمييز على أساس الجنس.
بموجب التشريع الذي دخل حيز التنفيذ يوم الأربعاء ، يتعين على طرف ثالث إجراء “تدقيق التحيز” على أي أداة قرار توظيف تلقائية (AEDT) ، والتي تستخدمها أعداد متزايدة من الشركات للبحث عن موظفين محتملين واستبعاد المرشحين.
يتطلب مشروع القانون أيضًا إخطار المرشحين أو الموظفين الذين يعيشون في مدينة نيويورك بشأن استخدام AEDT للتوظيف أو الترقيات وإخطارهم بالمؤهلات والخصائص الوظيفية التي تستخدمها الأداة.
يتعين على الشركات أيضًا نشر نتائج تدقيق التحيز إذا كانت تستخدم برامج الذكاء الاصطناعي لهذه الأغراض.
مجموعات الأقليات إنذار صوتي بشأن الذكاء الاصطناعي ، يحثون الاتحادات على حماية “المساواة والحقوق المدنية”
أشادت جوليا ستويانوفيتش ، أستاذة علوم الكمبيوتر في جامعة نيويورك والتي تعمل في فرقة عمل أنظمة القرارات التلقائية بالمدينة ، بالقواعد الجديدة لكنها أعربت عن قلقها من أنه يجب القيام بالمزيد ، وفقًا لـ NBC News.
وقالت “إنها بداية مهمة لكنها ما زالت محدودة للغاية”. “بادئ ذي بدء ، أنا سعيد حقًا بأن القانون موجود في الكتب ، وأن هناك قواعد الآن وسنبدأ في تطبيقها.
“ولكن هناك أيضًا الكثير من الثغرات. لذلك ، على سبيل المثال ، تدقيق التحيز محدود للغاية من حيث الفئات. نحن لا ننظر إلى التمييز على أساس العمر ، على سبيل المثال ، الذي يعتبر في التوظيف صفقة ضخمة ، أو الإعاقات. “
تثير صناعة التعرف على الوجه باستخدام الذكاء الاصطناعي منطاد القلق بشأن التحيز ، والخصوصية: “ يتم التعرف عليك ”
كانت قدرة الذكاء الاصطناعي على التمييز مصدر قلق متزايد بين بعض مجموعات المراقبة.
عقدت اللجنة الاستشارية الوطنية للذكاء الاصطناعي ، وهي مجموعة مشتركة بين الوكالات بقيادة وزارة التجارة ، جلسة استماع عامة عبر الإنترنت الشهر الماضي بهدف إعلام المشرعين حول أفضل السبل التي يمكن للحكومة أن تدير بها استخدام الذكاء الاصطناعي.
أخبر الشهود أعضاء اللجنة أن التحيز والتمييز هما أكبر مخاوف أولئك الذين يمثلونهم.
عقدت اللجنة الاستشارية جلسات استماع متعددة في الأسابيع الأخيرة في محاولة للحصول على مدخلات لهدف إدارة بايدن المتمثل في تحديد أفضل السبل لتنظيم الذكاء الاصطناعي.
وعد البيت الأبيض الشهر الماضي بأن القواعد الفيدرالية للذكاء الاصطناعي ستصدر قريبًا ، كما نظر الكونجرس في التنظيم المحتمل للتكنولوجيا الناشئة.
ساهم بيتر كاسبروفيتش من Fox News Digital في هذا التقرير.
