وتقول الوثائق إن الموظفين في هيئة النقل أجروا “عمليات محاكاة واسعة النطاق” في محطة ويليسدن جرين أثناء التجربة لجمع المزيد من بيانات التدريب. وشملت هذه الاختبارات سقوط أعضاء من طاقم العمل على الأرض، وبعض هذه الاختبارات حدثت عندما كانت المحطة مغلقة. “سترى ضابط شرطة النقل البريطانية (BTP) يحمل منجلًا ومسدسًا في مواقع مختلفة داخل المحطة”، كما جاء في تعليق في الوثائق، على الرغم من أن الصور منقحة. وتقول الملفات إنه خلال المحاكمة، لم تكن هناك تنبيهات بشأن حوادث الأسلحة في المحطة.
تم إصدار معظم التنبيهات للأشخاص الذين يحتمل أن يتجنبوا دفع ثمن رحلاتهم عن طريق القفز أو الزحف تحت بوابات الأجرة المغلقة، أو دفع البوابات لفتحها، أو المشي عبر البوابات المفتوحة، أو تتبع شخص دفع. تقول TfL إن التهرب من دفع الأجرة يكلف ما يصل إلى 130 مليون جنيه إسترليني سنويًا، وكان هناك 26000 تنبيه للتهرب من دفع الأجرة أثناء التجربة.
خلال جميع الاختبارات، كانت صور وجوه الأشخاص غير واضحة وتم الاحتفاظ بالبيانات لمدة أقصاها 14 يومًا. ومع ذلك، بعد ستة أشهر من المحاكمة، قررت هيئة النقل في لندن إزالة صور الوجوه عندما يشتبه في عدم قيام الأشخاص بالدفع، واحتفظت بهذه البيانات لفترة أطول. وتقول الوثائق إنه كان من المخطط في الأصل أن يستجيب الموظفون لإنذارات التهرب من الأجرة. تقول الوثائق: “ومع ذلك، نظرًا للعدد الكبير من التنبيهات اليومية (أكثر من 300 في بعض الأيام) والدقة العالية في الاكتشافات، قمنا بتكوين النظام للاعتراف التلقائي بالتنبيهات”.
يقول بيرتويستل، من معهد أدا لوفليس، إن الناس يتوقعون “رقابة وحوكمة قوية” عندما يتم تطبيق مثل هذه التقنيات. يقول بيرتويستل: “إذا كان سيتم استخدام هذه التقنيات، فيجب استخدامها فقط بثقة الجمهور وموافقته ودعمه”.
كان جزء كبير من التجربة يهدف إلى مساعدة الموظفين على فهم ما كان يحدث في المحطة والاستجابة للحوادث. تقول الملفات إن التنبيهات الـ 59 الخاصة بالكراسي المتحركة سمحت للموظفين في محطة ويليسدن جرين، التي لا تحتوي على مرافق وصول للكراسي المتحركة، “بتقديم الرعاية والمساعدة اللازمتين”. وفي الوقت نفسه، كان هناك ما يقرب من 2200 تنبيه للأشخاص الذين يتجاوزون خطوط الأمان الصفراء، و39 تنبيهًا للأشخاص الذين يميلون على حافة المسار، وحوالي 2000 تنبيه للأشخاص الذين يجلسون على مقاعد لفترات طويلة.
تقول الوثائق: “في جميع أنحاء موقع إثبات المفهوم، شهدنا زيادة كبيرة في عدد الإعلانات العامة التي أصدرها الموظفون، لتذكير العملاء بالابتعاد عن الخط الأصفر”. ويقولون أيضًا إن النظام أنشأ تنبيهات لـ “النائمين والمتسولين” عند مداخل المحطة ويزعمون أن هذا يسمح للموظفين “بمراقبة الوضع عن بعد وتقديم الرعاية والمساعدة اللازمة”. تذكر TfL أنه تمت تجربة النظام لمحاولة مساعدتها على تحسين جودة التوظيف في محطاتها وجعلها أكثر أمانًا للركاب.
لا تحتوي الملفات على أي تحليل لمدى دقة نظام الكشف بالذكاء الاصطناعي؛ ومع ذلك، في نقاط مختلفة، كان لا بد من تعديل الكشف. يقول لوفر، من Access Nows: “إن اكتشاف الأشياء والكشف عن السلوك هشان للغاية بشكل عام وليسا مضمونين”. في إحدى الحالات، أنشأ النظام تنبيهات تفيد بوجود أشخاص في منطقة غير مصرح بها بينما كان سائقو القطارات يغادرون القطار في الواقع. وتقول الوثائق إن ضوء الشمس الساطع على الكاميرا جعلها أقل فعالية.
