افتح ملخص المحرر مجانًا
رولا خلف، محررة الفايننشال تايمز، تختار قصصها المفضلة في هذه النشرة الأسبوعية.
يحذر المحذرون من الذكاء الاصطناعي من أن التعلم الآلي سيؤدي في نهاية المطاف إلى تدمير البشرية – أو على الأقل جعل البشر زائدين عن الحاجة. ولكن ماذا لو كان القلق الحقيقي أكثر اعتيادية، وهو أن أدوات الذكاء الاصطناعي تؤدي عملاً سيئًا؟
هذا ما شعر به هيلك شيلمان، المراسل والأستاذ بجامعة نيويورك، بعد أن أمضى خمس سنوات في التحقيق في الأدوات التي يستخدمها أصحاب العمل الآن على نطاق واسع في التوظيف والفصل والإدارة. تحدد الروبوتات بشكل متزايد إعلانات الوظائف التي نراها عبر الإنترنت، والسير الذاتية التي يقرأها مسؤولو التوظيف، والمتقدمون الذين يصلون إلى المقابلة النهائية، وأي الموظفين يحصلون على ترقية أو مكافأة – أو إشعار بالتسريح من العمل. ولكن في هذا العالم حيث “تحدد الخوارزميات من نحن، وأين نتفوق، وأين نكافح…”. . . ماذا لو أخطأت الخوارزميات؟ يسأل شيلمان الخوارزمية، حسابًا للنتائج التي توصلت إليها.
لدى القائمين على التوظيف والمديرين أسباب عديدة للجوء إلى الذكاء الاصطناعي: لغربلة أكوام كبيرة من السير الذاتية وملء الوظائف بشكل أسرع؛ لمساعدتهم على اكتشاف الموهوبين، حتى عندما يأتون من خلفية غير نمطية؛ واتخاذ قرارات أكثر عدالة، والتخلص من التحيز البشري؛ أو لتتبع الأداء وتحديد الموظفين الذين يعانون من المشاكل.
لكن تجربة شيلمان تشير إلى أن العديد من الأنظمة الموجودة في السوق قد تضر أكثر مما تنفع. على سبيل المثال، تختبر برنامجًا لإجراء المقابلات عبر الفيديو، والذي يجدها متطابقة تمامًا مع أحد الأدوار، حتى عندما تستبدل إجاباتها الأصلية المعقولة بالعبارة الببغائية “أنا أحب العمل الجماعي” أو تتحدث باللغة الألمانية بالكامل.
وهي تتحدث إلى الخبراء الذين قاموا بمراجعة أدوات فحص السيرة الذاتية بحثًا عن أي تحيز محتمل – ووجدتهم عرضة لتصفية المرشحين من رموز بريدية معينة، وهي وصفة للتمييز العنصري؛ لصالح جنسيات معينة؛ أو النظر إلى الإعجاب بالممارسات التي يهيمن عليها الذكور مثل لعبة البيسبول كعلامة على النجاح. ثم هناك حالات أصحاب الأداء العالي الذين تم اختيارهم للاستغناء عنهم أو استبعادهم تلقائياً من الترشح للوظائف التي كانوا مؤهلين لها، لمجرد أنهم أدوا أداءً سيئاً في ألعاب على الإنترنت لا صلة لها بالموضوع على ما يبدو، تُستخدم لتسجيل المرشحين.
وبعد ممارسة بعض هذه الأدوار، يشكك شيلمان في أن ألعاب السرعة العالية أو ألعاب مطابقة الأنماط أو اختبارات الشخصية ستساعد القائمين على التوظيف على تحديد الأشخاص الأكثر عرضة للفشل أو التفوق في أحد الأدوار. وستكون الألعاب أيضًا أكثر صعوبة بالنسبة لأي شخص يشتت انتباهه الأطفال، أو لديه إعاقة لم يتعرف عليها البرنامج.
لكن العديد من المشكلات التي وجدها شيلمان لا تتعلق في جوهرها باستخدام الذكاء الاصطناعي. لا يستطيع المطورون تصميم اختبارات توظيف جيدة إذا لم يفهم القائمون على التوظيف سبب نجاح بعض الموظفين بشكل أفضل من غيرهم. إذا تم تصميم النظام في المقام الأول لملء الوظيفة الشاغرة بسرعة، فلن يختار أفضل المرشحين.
ويرى شيلمان أنه ما لم يتدخل المطورون، فإن منصات العمل تخدم المزيد من الإعلانات للمرشحين (غالبًا من الرجال) الذين هم الأكثر عدوانية في الرد على القائمين على التوظيف والتقدم لشغل مناصب عليا بغض النظر عن الخبرة. وتنشأ المشاكل أيضاً لأن المديرين يعتمدون بشكل أعمى على الأدوات التي كان المقصود منها فقط توجيه الحكم البشري – في بعض الأحيان في ظل اعتقاد خاطئ بأنها ستحميهم من التحديات القانونية.
يمكن أن يؤدي التعلم الآلي إلى تضخيم التحيز الحالي بطرق يصعب اكتشافها، حتى عندما يكون المطورون في حالة تأهب. تحدد الخوارزميات الأنماط بين الأشخاص الذين كان أداؤهم جيدًا أو سيئًا في الماضي، دون أي قدرة على فهم ما إذا كانت الخصائص التي يلتقطونها مهمة أم لا. وعندما تخطئ الخوارزميات – أحيانًا على نطاق واسع – فقد يكون من الصعب للغاية على الأفراد معرفة السبب، أو طلب التعويض، أو حتى العثور على إنسان للتحدث إليه على الإطلاق.
من المحتمل أن يكون القسم الأكثر فائدة في كتاب شيلمان هو الملحق الذي يقدم نصائح للباحثين عن عمل (استخدم النقاط النقطية وتجنب علامات العطف في سيرتك الذاتية لجعلها قابلة للقراءة آليًا) والأشخاص الذين يراقبهم صاحب العمل (اجعل رسائل البريد الإلكتروني متفائلة). لكن لديها أيضًا اقتراحات للمنظمين، حول كيفية التأكد من اختبار أدوات الذكاء الاصطناعي قبل طرحها في السوق.
وترى أنه على الأقل، يمكن للمشرعين فرض الشفافية على البيانات المستخدمة لتدريب نماذج الذكاء الاصطناعي، والتقارير الفنية حول فعاليتها. من الناحية المثالية، تقوم الوكالات الحكومية بنفسها بفحص الأدوات المستخدمة في المجالات الحساسة مثل السياسة أو التصنيف الائتماني أو مراقبة مكان العمل.
في غياب مثل هذا الإصلاح، يعد كتاب شيلمان بمثابة قصة تحذيرية لأي شخص يعتقد أن الذكاء الاصطناعي سيزيل التحيز البشري من التوظيف – ودليل أساسي للباحثين عن عمل.
الخوارزمية: كيف يمكن للذكاء الاصطناعي أن يختطف حياتك المهنية ويسرق مستقبلك بواسطة هيلك شيلمان هيرست 22 جنيهًا إسترلينيًا/ كتب هاشيت 30 دولارًا، 336 صفحة
انضم إلى مجموعة الكتب الإلكترونية الخاصة بنا على الفيسبوك على: مقهى FT Books والاشتراك في البودكاست لدينا الحياة والفن أينما تستمع
