افتح ملخص المحرر مجانًا
رولا خلف، محررة الفايننشال تايمز، تختار قصصها المفضلة في هذه النشرة الأسبوعية.
ليس من غير المعتاد أن يتم سحب منتج تقني جديد. لا تعمل الأدوات الجديدة الواعدة دائمًا بشكل مثالي منذ البداية. ولكن هذا لا يحدث عادة بعد أن تصطدم التكنولوجيا المعنية بأحد المشاة ثم تجرهم مسافة 20 قدمًا عبر الشارع.
إن الحادث الكارثي الذي أدى إلى توقف العمليات في شركة كروز، قسم السيارات ذاتية القيادة التابع لشركة جنرال موتورز، هو نوع من النكسة التي طالما خشيها أبطال السيارات ذاتية القيادة. لديها القدرة على إضعاف الثقة في التكنولوجيا وإثارة تدخل تنظيمي صارم، لكنها لا تحتاج إلى إعادة سبب سيارات الأجرة الآلية إلى الوراء – طالما أن شركة كروز ومنافسيها يتصرفون بسرعة ويظهرون أنهم قد أخذوا الدروس على محمل الجد.
وفي أوائل أكتوبر/تشرين الأول، دهست إحدى سيارات الشركة أحد المشاة الذي ألقي في طريقها بعد أن صدمته سيارة أخرى. توقفت سيارة كروز، لكنها تحركت بعد ذلك مسافة 20 قدمًا أخرى فيما وصفته الشركة بمناورة السلامة للتأكد من أنها لا تسبب خطرًا – طوال الوقت مع وجود المشاة المصاب بجروح خطيرة محاصرًا تحتها. كما زعمت سلطات كاليفورنيا، التي علقت تراخيص الشركة للعمل قبل أسبوعين، أن المديرين التنفيذيين لشركة Cruise لم يكشفوا في البداية عن المناورة الثانية للسيارة للمنظمين، على الرغم من نفي الشركة ذلك.
وقد سلطت هذه الفوضى الضوء على عدد من الحقائق غير المريحة بشأن المركبات ذاتية القيادة، وبالتالي الكثير من صناعة الذكاء الاصطناعي. الأول هو أن هذا النوع من السباقات التي تندلع حول التكنولوجيات الجديدة التي من المحتمل أن تغير العالم تخلق توتراً لا مفر منه. فمن ناحية، هناك ثقافة وادي السيليكون المتمثلة في النشر السريع للتكنولوجيات الجديدة، ومن ناحية أخرى، هناك نوع من ثقافات وعمليات السلامة التي تستغرق سنوات لتتطور في الأسواق الأكثر نضجاً.
في الولايات المتحدة، كانت شركة كروز تتنافس مع شركتي تيسلا ووايمو، وهي جزء من شركة ألفابيت، لتطوير خدمات سيارات الأجرة الآلية، وحددت جنرال موتورز الأم هدفا طموحا للإيرادات يصل إلى مليار دولار بحلول عام 2025. وقد علقت الآن طوعا جميع عملياتها ووعدت بإجراء إصلاح شامل. لعمليات السلامة وترتيبات الإدارة. قد يكون هذا موضع ترحيب، لكنه جاء بعد أن منعت الجهات التنظيمية في كاليفورنيا الشركة من العمل. ويتعين على كروز ومنافسيها أن يظهروا أنهم قادرون على تجاوز التوقعات العامة بشأن السلامة، بدلاً من مجرد رد الفعل.
والحقيقة الثانية غير المريحة هي أن التعلم العميق، التكنولوجيا التي تقف وراء أنظمة الذكاء الاصطناعي الأكثر تقدما اليوم، ليست متقدمة بعد بما يكفي لتوقع وقوع حوادث مثل تلك التي وقعت في كروز. قد لا يكون كذلك أبداً. يعد هذا الحادث بمثابة تذكير بأن أنظمة التعلم الخاضعة للإشراف لا تقل جودة عن البيانات التي تم إدخالها إليها. وبغض النظر عن كمية البيانات الموجودة، فمن المستحيل تدريبهم على كل ما قد يلقيه العالم عليهم.
كروز قادرة على الأقل على استخدام هذا الحادث في التدريب المستقبلي: جميع مركباتها من الآن فصاعدا ستتعلم من هذه التجربة. وتقدر أيضًا أن هذا الحادث بالذات من المحتمل أن يحدث فقط كل 10 إلى 100 مليون ميل من القيادة. ومع ذلك، ستكون هناك دائمًا مواقف جديدة لم نواجهها من قبل.
ولاستعادة ثقة الجمهور، يتعين على كروز ومنافسيها أن يثبتوا ليس فقط أن سياراتهم تتعرض لحوادث أقل من تلك التي يتعرض لها البشر، بل وأيضاً أنهم لا يرتكبون في بعض الأحيان ذلك النوع من الأخطاء الجسيمة التي كان من الممكن أن يتجنبها الإنسان بسهولة. ولا يزال هذا يمثل عائقًا كبيرًا للغاية بالنسبة لتكنولوجيا اليوم.
المسألة الثالثة التي أثارها الحادث تتعلق بالتنظيم. في حين كان هناك الكثير من النقاش حول كيفية تنظيم الذكاء الاصطناعي، لم يكن هناك سوى القليل حول من يجب أن يقوم فعليًا بالتنظيم – وما الذي يجب أن يقوله المواطنون العاديون وممثلوهم المنتخبون على مختلف مستويات الحكومة حول التكنولوجيا التي قد تؤثر بعمق على حياتهم .
في حالة كروز، كانت موافقة الهيئات التنظيمية على مستوى ولاية كاليفورنيا كافية لمنح سيارات الأجرة الروبوتية حرية الوصول إلى شوارع سان فرانسيسكو، على الرغم من احتجاجات سلطات النقل في المدينة، ومكتب عمدة المدينة والمجموعات التي تمثل المواطنين بأن المركبات لم يتم اختبارها بالكامل.
إن السماح بإشراف أكبر على مستوى المدينة من شأنه أن يخلق مجموعة كبيرة من اللوائح التنظيمية التي من شأنها أن تجعل من الصعب على شركات السيارات ذاتية القيادة التوسع. ومع ذلك، فإن التداعيات الناجمة عن حادث كروز تشير إلى أن التوازن الذي تحقق في كاليفورنيا غير كاف.
الوضع لا يضيع. لقد جاءت استجابة كروز مباشرة من كتاب إدارة الأزمات، بدءاً من التحقيقات الخارجية التي أطلقتها في تقنيتها وتعاملها مع الحادث، وحتى الاستدعاء الطوعي لسياراتها. وبدلاً من مجرد ممارسة الحد من الضرر، يتعين عليها إقناع العالم بأن هذه نقطة تحول حقيقية.
