يتجه المحتالون بشكل متزايد إلى الذكاء الاصطناعي (AI) أدوات لاستنساخ أصوات الأفراد الذين يستهدفونهم على وسائل التواصل الاجتماعي لإجراء مكالمات مذعورة مع عائلاتهم أو أصدقائهم على أمل إقناع متلقي المكالمة غير المقصود بمنحهم المال أو الوصول إلى معلومات حساسة.
وقال مايك شوماك، كبير مسؤولي الابتكار في شركة IdentityIQ للحماية من سرقة الهوية ومراقبة درجات الائتمان، لـ FOX Business إن “الذكاء الاصطناعي موجود منذ فترة طويلة وتستخدمه شركات البرمجيات لتطوير التكنولوجيا منذ فترة. لقد رأينا لقد بدأ الدخول إلى هذا النوع من مجال الجرائم الإلكترونية ببطء، ثم فجأة تزايد بسرعة كبيرة خلال العام الماضي أو نحو ذلك.”
وأضاف: “لقد رأينا الكثير فيما يتعلق بعمليات التصيد الاحتيالي المتقدمة، وعمليات التصيد الاحتيالي المستهدفة، ورأينا أين يتم استخدام الذكاء الاصطناعي لإنشاء رسائل بريد إلكتروني محددة للغاية واللغة محددة للغاية فيما يتعلق بالهدف”. “لقد شهدنا زيادة في عمليات استنساخ الصوت باستخدام الذكاء الاصطناعي خلال العام الماضي أيضًا، وهو موضوع مخيف للغاية.”
سيقوم المحتالون الذين ينفذون عمليات احتيال لاستنساخ الصوت بتسجيل صوت الشخص أو العثور على مقطع صوتي على وسائل التواصل الاجتماعي أو في أي مكان آخر على الإنترنت. وأوضح شوماك: “كل ما يحتاجون إليه هو 3 ثوانٍ فقط، و10 ثوانٍ أفضل للحصول على نسخة واقعية جدًا من صوتك”. يتم بعد ذلك تشغيل العينة الصوتية من خلال برنامج الذكاء الاصطناعي الذي يكرر الصوت، مما يسمح للمحتال بجعله يقول ما يكتبه بالإضافة إلى إضافة الضحك والخوف والمشاعر الأخرى إلى الصوت المستنسخ اعتمادًا على كيفية كتابة عملية الاحتيال.
أدوات الذكاء الاصطناعي التوليدية تؤدي إلى زيادة الاحتيال العميق
لتوضيح مدى تطور برامج استنساخ الصوت بالذكاء الاصطناعي، أخذت IdentityIQ عينة صوتية من مقابلة أجراها مؤلف هذه المقالة على “ملخص فوكس نيوز” بودكاست هذا الربيع. لقد استخدموا تلك العينة الصوتية لإنشاء نسخة صوتية مدعومة بالذكاء الاصطناعي لمكالمة هاتفية مذعورة لأحد أفراد العائلة يطلب تحويلاً نقديًا عبر التطبيق بعد حادث سيارة وهمي:
“أمي، أحتاج إلى التحدث معك. كنت سأجري مقابلة مع شخص ما اليوم من أجل قصة أعمل عليها وقد تعرضت لحادث سيارة. أنا بخير، لكنني بحاجة لمساعدتك الآن. ، لقد اصطدمت بمصد السيارة الأخرى. إنهم يريدون 1000 دولار لتغطية تكلفة إصلاح الضرر أو سيتصلون بالشرطة ويبلغون التأمين. إنهم بحاجة إلى المال الآن، وأحتاج إلى مساعدتك. هل يمكنك من فضلك إرسال 1000 دولار لي قال المستنسخ الصوتي: “على Zelle؟ يمكنني أن أخبرك بكيفية القيام بذلك”.
أشار شوماك إلى أن مكالمات استنساخ الصوت من المحتالين عادة ما تكون أقصر من هذا المثال وقد يحاولون قطع المحادثة المحتملة بقول شيء مثل، “لا أستطيع التحدث الآن”، أثناء قيامهم بإرسال طلب للحصول على المال، أو الوصول إلى الحساب، أو معلومات حساسة أخرى.
“هدف المحتال هو جعلك في حالة قتال أو هروب وإثارة شعور بالإلحاح في ذهنك بأن من تحبه يواجه نوعًا ما من المشاكل. لذا فإن أفضل طريقة للتعامل مع هذه المواقف هي إنهاء المكالمة والاتصال بأحبائك على الفور وأوضح: “واحد للتحقق مما إذا كانوا هم أم لا”.
ما هو الذكاء الاصطناعي (AI)؟
واستشهدت شوماك بمثال حديث لمقابلة أجرتها IdentityIQ مع شخص تلقى ما اعتقدت أنه مكالمة مذعورة من ابنتها التي كانت في أحد المعسكرات، لكنها كانت في الواقع نسخة صوتية لابنتها تم إنشاؤها بواسطة الذكاء الاصطناعي. عثر المحتالون على منشور نشرته الابنة حول الذهاب إلى المخيم على وسائل التواصل الاجتماعي واستخدموه لجعل المكالمة أكثر واقعية.
وأشار شوماك إلى أن المحتالين الذين ينفذون عمليات الاحتيال الصوتي باستخدام الذكاء الاصطناعي يستخدمون أيضًا برامج الذكاء الاصطناعي للبحث في الإنترنت عن معلومات حول الأفراد والشركات، بما في ذلك منشورات الصوت أو الفيديو على وسائل التواصل الاجتماعي أو في أي مكان آخر، للحصول على تفاصيل يمكن استخدامها لإجراء مكالمات أكثر إقناعًا للضحايا غير المتعمدين. .
“الشيء المخيف هو أن هذا ليس جارك الذي يفعل ذلك… هذه منظمة متطورة، ولا يوجد شخص واحد يفعل ذلك. لديك أشخاص يبحثون على وسائل التواصل الاجتماعي ويجمعون بيانات عن الناس. هؤلاء ليسوا كذلك نفس الأشخاص الذين سيقومون بتوصيل صوتك. لديك شخص آخر سيقوم باستنساخ الصوت. لديك شخص آخر سيقوم بالفعل بعملية الاتصال. ولديك شخص ما يأتي إلى منزل الضحية ويلتقط المال إذا كانت عملية الاحتيال تعمل.”
UPS تستخدم الذكاء الاصطناعي لمنع “قراصنة الشرفة” من سرقة الطرود
وفيما يتعلق بالخطوات التي يمكن للأفراد اتخاذها لضمان عدم وقوعهم ضحية لعملية احتيال لاستنساخ الصوت باستخدام الذكاء الاصطناعي، قال شوماك إنهم يجب أن يكونوا على دراية بما ينشرونه عبر الإنترنت والمتاح للجمهور والتفكير مرتين قبل الرد على مكالمة عاجلة من شخص مجهول. الرقم الذي يبدو أنه من شخص تعرفه.
وقال شوماك: “كن حذراً بشأن ما تنشره عبر الإنترنت، فهذه خطوة أولى”. “الخطوة الثانية هي إذا تلقيت مكالمة هاتفية من رقم غير معروف وكان شخصًا تحبه، فكن حذرًا بشكل عام بشأن ذلك – يجب أن يكون ذلك علامة حمراء لك إذا كنت تتلقى مكالمة من رقم غير معروف وهي علامة حمراء قريب أو أحد أفراد أسرتك وهناك موقف عاجل. يجب عليك بالتأكيد أن تأخذ ثانية للتفكير في ذلك “.
أوصى شوماك بأن تفكر العائلات في تنفيذ نوع ما من كلمات المرور التي يتم المطالبة بها من خلال استخدام عبارة أخرى يمكن استخدامها للتحقق من أن المتصل الذي يشير إلى نوع ما من حالات الطوارئ هو بالفعل أحد أفراد الأسرة الذي يقولون إنه كذلك.
