كان ديفيد دافي، رئيس شركة Virgin Money، على بعد آلاف الأميال من المقر الرئيسي لبنكه في نيوكاسل عندما أدرك الحاجة الملحة لتعزيز استراتيجية منع الاحتيال.
فعندما قام بجولة في المقر الرئيسي لشركة مايكروسوفت في سياتل مع رؤساء بنوك آخرين في شهر مايو/أيار، تعلم كيف ستتمكن الأصوات والفيديوهات “المزيفة العميقة” قريباً من خداع عملائه ودفعهم إلى إرسال الأموال إلى المحتالين.
“لقد رأيت مستوى تطور تكنولوجيا (الذكاء الاصطناعي التوليدي) وقوتها. . . وقال دافي إن القدرة على استنساخ الأصوات أمر مثير للقلق للغاية. “الذكاء الاصطناعي، المدعوم بالحوسبة الكمومية، سوف يحفز الجرائم المالية على الأرجح.”
لقد اضطرت البنوك منذ فترة طويلة إلى التعامل مع الاحتيال بانتحال الشخصية. ولكن مع سهولة إنشاء التزييف العميق واستنساخ الصوت، فإن المخططات التي يتظاهر فيها المحتالون بأنهم أي شيء بدءًا من شريك رومانسي محتمل إلى أحد أفراد الأسرة في أزمة، لديها القدرة على استهداف عدد أكبر بكثير من الأشخاص وبمعدل نجاح أعلى.
وتتعرض البنوك البريطانية بالفعل لعمليات احتيال باستخدام التزييف العميق، وفقًا لساندرا بيستون، مديرة الأبحاث في هيئة منع الاحتيال Cifas.
وأضافت أن عمليات انتحال الشخصية كانت حتى الآن لمشاهير إلى حد كبير بسبب توفر اللقطات المطلوبة لتدريب خوارزميات التزييف العميق، حيث يستخدم المجرمون عادةً مقاطع فيديو مركبة لتمرير فحوصات “اعرف عميلك” عبر الإنترنت في شكل مقاطع فيديو عبر الإنترنت في محاولة لفتح الحسابات المصرفية أو التقدم بطلب للحصول على بطاقات الائتمان.
تُستخدم مقاطع الفيديو Deepfake أيضًا كطعم نقر لجذب حركة المرور إلى مواقع الويب الضارة للحصول على تفاصيل الدفع بالبطاقة، حسبما توصل إليه البحث الذي أجرته Stop Scams UK وشركة PwC الاستشارية.
ومع تحسن التكنولوجيا، كما قال بيستون، “ستتطلب مواد أقل وأقل للتدريب ويمكن استخدامها على نطاق صناعي أكثر”، مما يعني “أنك لن تحتاج إلى وجود شخص ما في وسائل الإعلام بشكل متكرر” لتقليدها. وتزيد تكنولوجيا استنساخ الصوت من احتمال خداع الضحايا عبر الهاتف لإرسال أموال إلى شخص يعتقدون أنه قريب لهم.
أصبحت المملكة المتحدة نقطة ساخنة رئيسية للاحتيال والاحتيال، ويرجع ذلك جزئيًا إلى شيوع التحدث باللغة الإنجليزية كلغة ثانية، مما يجعل من السهل على المحتالين في جميع أنحاء العالم التواصل مع الضحايا المحتملين. ويقول الخبراء إن نظام الدفع شبه الفوري في البلاد والاعتماد الكبير على الخدمات المصرفية الرقمية من العوامل أيضًا.
وفي النصف الأول من عام 2023 وحده، خسرت بريطانيا 580 مليون جنيه إسترليني بسبب الاحتيال، وفقًا لـ UK Finance. وأضافت الهيئة التجارية أنه من بين هذا المبلغ، تمت سرقة 43.5 مليون جنيه إسترليني من خلال انتحال صفة الشرطة أو موظفي البنك، وخسر 6.9 مليون جنيه إسترليني أخرى بسبب انتحال صفة الرؤساء التنفيذيين.
ومع طرح أدوات الترجمة المدعومة بالذكاء الاصطناعي، سيتمكن المحتالون من استخدام التزييف العميق لتقليد أصوات الناس ولهجاتهم بمزيد من اللغات، مما قد يسمح لهم باستهداف المزيد من الضحايا عبر الحدود.
وقال كريس لويس، رئيس قسم الأبحاث في شركة بيانات مكافحة الاحتيال Synectics، إن الدول الأوروبية الأخرى، التي تعاملت حتى الآن مع عمليات احتيال أقل من المملكة المتحدة، يمكن أن تتعرض لموجة مفاجئة من عمليات الاحتيال نتيجة لذلك.
نظرًا لأن التكنولوجيا التي يستخدمها المحتالون أصبحت أكثر تعقيدًا، كذلك أصبحت أدوات منع عمليات الاحتيال واكتشافها.
وقال أجاي بهالا، رئيس قسم الإنترنت والاستخبارات في شركة ماستركارد، إن الشركة طورت أداة فحص مدعومة بالذكاء الاصطناعي تقدمها لتسعة مقرضين في المملكة المتحدة لمساعدتهم على اكتشاف الاحتيال قبل أن تترك الأموال حسابات العملاء.
وقالت مجموعة لويدز المصرفية، أكبر بنك رئيسي في المملكة المتحدة، إن قدرات الذكاء الاصطناعي في التعرف على الأنماط يمكن أن تعزز أيضًا نظامها الحالي لمنع الاحتيال. ويستخدم البنك التحليل السلوكي لبناء “ملف تفصيلي لكيفية تصرف العميل عادة” بما في ذلك المدة التي يستغرقها في الكتابة وكيفية التنقل على شاشاته حتى يتمكن من تجميد المدفوعات عندما يكتشف نشاطًا غير عادي، وفقًا لمديرة منع الاحتيال ليز زيجلر. .
يتسابق خبراء الصناعة في مجال الذكاء الاصطناعي التوليدي أيضًا لتطوير ما يسمى بتكنولوجيا العلامات المائية التي من خلالها يمكن للشركات التي تدعم إنشاء التزييف العميق تضمين “علامة مائية” على المحتوى الناتج عن الذكاء الاصطناعي، مما يسمح بفحص البرامج لاكتشاف المحتوى الاصطناعي.
لكن أنطوان مويرود، الشريك في شركة Lightspeed Venture Partners، الداعمة لشركة الذكاء الاصطناعي الفرنسية ميسترال، حذر من أن التكنولوجيا لا تزال في المراحل الأولى من البحث والتطوير وكانت عرضة للاختراق.
“هناك الكثير من المبادرات التي يتم تنفيذها ولكنك تسمع عن أشخاص “يكسرون” هذه المبادرات ويضربونها – وفي بعض الأحيان . . ” . . قال مويرود: “بعض الناس قادرون على إعادة إنشاء علامات مائية وهمية، لذا فإن الأمر أسوأ”.
حث رئيس لجنة بازل للرقابة المصرفية، بابلو هيرنانديز دي كوس، يوم الاثنين، زعماء العالم قبل انعقاد المنتدى الاقتصادي العالمي هذا الأسبوع في دافوس على تنسيق الاستجابة للتحديات التي تفرضها التكنولوجيا سريعة النمو، والتي قال إنها “يمكن أن تغيير مسار التاريخ، ليس بالضرورة للأفضل».
في المملكة المتحدة، لدى البنوك حافز لمحاربة ومنع أنواع الاحتيال المتطورة باستمرار. القواعد الجديدة الصادرة عن هيئة تنظيم أنظمة الدفع والتي ستدخل حيز التنفيذ في أكتوبر ستجعل المؤسسات المالية على جانبي المدفوعات الاحتيالية مسؤولة عن تعويض ضحايا الاحتيال في المدفوعات المصرح بها، حيث يتم خداع الضحايا لإجراء تحويل مصرفي إلى شخص غير شرعي.
قالت شركة Virgin Money في تشرين الثاني (نوفمبر) إنها ستستثمر 130 مليون جنيه إسترليني في منع الجرائم المالية على مدى السنوات الثلاث المقبلة، في إطار محاولتها تعزيز دفاعها السيبراني و”قدراتها على القياسات الحيوية” من أجل “الصمود في المستقبل” ضد تهديدات الجرائم المالية الجديدة التي تعتمد على التكنولوجيا.
حث ستيف كورنويل، رئيس قسم مخاطر الاحتيال في TSB، الشركات التي تقدم برامج الذكاء الاصطناعي على أن تكون “على دراية باستخدامها الإجرامي المحتمل ووضع ضمانات حولها” وحذر الجمهور من الحذر من الاتصالات الرقمية غير المتوقعة والإعلانات على وسائل التواصل الاجتماعي التي يمكن أن تكون ذكاءً اصطناعيًا. -ولدت.
من المرجح أيضًا أن يؤدي ارتفاع معدلات الاحتيال المعتمد على التزييف العميق إلى زيادة الضغط على شركات التكنولوجيا لتعويض الضحايا في الحالات التي تم فيها استخدام منصاتهم لارتكاب عملية الاحتيال. يبدأ أكثر من ثلاثة أرباع عمليات الاحتيال عبر الإنترنت في بريطانيا، ومعظمها على وسائل التواصل الاجتماعي، وفقًا للبيانات التي جمعتها UK Finance.
على الرغم من أن قانون السلامة على الإنترنت، الذي يجري التشاور بشأنه حاليًا، ليس من المتوقع أن يجعل شركات التكنولوجيا مسؤولة ماليًا عن تعويضات الاحتيال، إلا أنه يتضمن متطلبات لشركات التكنولوجيا لاكتشاف وإزالة المحتوى الموجود على منصاتها والذي يتيح الاحتيال.
وقال بن دونالدسون، مدير مكافحة الجريمة الاقتصادية في المملكة المتحدة المالية، إن “صناعة الخدمات المصرفية والمالية هي القطاع الوحيد الذي يعوض ضحايا الاحتيال”.
“نحن بحاجة إلى أن تتقدم جميع القطاعات ذات الصلة وتساعدنا على دعم الضحايا من خلال التعويض وحمايتهم من خلال منع الجريمة في المقام الأول.”
