عانت عائلة من كاليفورنيا من محنة مرعبة عندما خدعها محتالون يستخدمون الذكاء الاصطناعي للاعتقاد بأن ابنهم تعرض لحادث خطير.
كانت إيمي تراب تعمل يومًا عاديًا في مدرسة ميل فالي بالقرب من سان فرانسيسكو عندما تلقت مكالمة من رقم مجهول ورفعت الهاتف على صوت صوت اعتقدت أنه ابنها، وفقًا لتقرير من سان فرانسيسكو. تسجيل الأحداث.
وقال تراب للمنفذ: “لقد كان صوت ابني على الهاتف وهو يبكي ويقول لي: أمي، أمي، لقد تعرضت لحادث سيارة”.
وقالت الأم إنها شعرت على الفور بالذعر ورأيت ابنها، الذي كان في الكلية بالقرب من الساحل الأوسط لولاية كاليفورنيا، ملقى تحت سيارة أو على جانب الطريق غارقًا في بركة من دمائه. وبدلاً من ذلك، جاء صوت آخر عبر الهاتف وأخبر تراب أنه ضابط شرطة وأن ابنها، ويل، أصاب امرأة حامل في الحادث وتم نقله إلى السجن.
أم أريزونا مرعوبة من عملية اختطاف بالذكاء الاصطناعي حاولت استدراجها للاختطاف لأنها كانت تخشى على ابنتها
قالت تراب إنها اشترت القصة لأن الصوت على السطر الآخر كان صوت ابنها بشكل لا لبس فيه. كما أنها وضعت ثقتها في رجل آخر ادعى أنه مدافع عام عن ويل، والذي طلب منها سحب أكثر من 15500 دولار لتغطية تكلفة كفالة ويل.
وبعد ساعات، اتصل زوج تراب بالشرطة مباشرة، واكتشف الزوجان أن المحنة كانت في الواقع عملية احتيال. لقد خدع الرجال الأم القلقة باستخدام تقنية الذكاء الاصطناعي المتطورة لتقليد صوت ويل. كان ويل يدرس في غرفة معيشته طوال الوقت، غير مدرك للدراما التي تتكشف مع والديه.
وقال كريستوفر ألكساندر، كبير مسؤولي التحليلات في Pioneer Development Group، لـ Fox News Digital: “تتزايد عمليات الاحتيال مثل هذه كل يوم مع تحسن تكنولوجيا التزييف العميق ويصبح الوصول إليها أسهل”. “تنجح مثل هذه الحيل بسبب الضغط الهائل الذي يقع على الضحايا على أمل عدم اكتشاف العيوب الموجودة في التزييف العميق.”
على الرغم من أن عمليات الاحتيال عبر الهاتف موجودة منذ سنوات، إلا أن عمليات الاحتيال باستخدام الذكاء الاصطناعي تهدد بأن تصبح مشكلة متنامية من شأنها أن تجعل الضحايا أقل عرضة لاكتشاف تعرضهم للخداع.
ما هو الذكاء الاصطناعي (AI)؟
وقال إيدن بوزيتي، رئيس مشروع Bull Moose، لشبكة Fox News Digital: “كانت مكالمات الاحتيال شوكة ثابتة في خاصرة الأمريكيين لسنوات، ولا يتوقع أحد أن يكون الشخص الذي سيقع ضحية لها”. “إن انتشار النسخ الصوتي للذكاء الاصطناعي سيجعل حتى أكثر المستخدمين ذكاءً في مجال التكنولوجيا عرضة للخداع، خاصة عندما تلعب الغريزة البشرية دورًا.
“يقوم المجرمون الذين يقفون وراء هذه المكالمات الآلية باختلاق مواقف عالية المخاطر لإبقاء الآباء والأجداد قصيري النظر ومتوترين عاطفيًا ومنعهم من التفكير بوضوح. نحن بحاجة إلى الاستمرار في تشجيع الحكومة الفيدرالية ووكالات الولاية على اتخاذ إجراءات صارمة ضد المكالمات الآلية من خلال مقاضاة الخدمات التي تسمح بذلك للمتصلين الأجانب غير المرغوب فيهم.”
من المتوقع أن “ينفجر” تطوير الذكاء الاصطناعي في عام 2024، كما يقول الخبراء
“إننا نشهد انفجارًا مثيرًا للقلق في عمليات الاحتيال الصوتي المدعومة بـ Al، والتي تشكل الآن تهديدًا متزايدًا للعائلات. ويستفيد المجرمون والمحتالون من التطورات في Al المولدة لانتحال شخصية الأفراد بدقة مخيفة،” جيك دينتون، باحث مشارك في التراث. وقال مركز سياسات التكنولوجيا التابع للمؤسسة، لفوكس نيوز ديجيتال.
“تميل عمليات الاحتيال هذه إلى استغلال مشاعر الأشخاص المطمئنين، وغالبًا ما تحاكي صوت أحد أفراد الأسرة الذي يطلب المساعدة بشكل عاجل. وللبقاء في مأمن من عمليات الاحتيال هذه، يجب على العائلات اتخاذ تدابير استباقية الآن لحماية نفسها.”
وفي حالة تراب، تذكرت الأم القلقة أنه لم يكن لديها أي شك في أنها كانت تتحدث إلى ابنها، مما أدى إلى اندفاع الأدرينالين الذي خيم على حكمها عندما جاء ضابط الشرطة المفترض على الخط.
وبعد دقائق، عندما اتصل رجل عرف عن نفسه بأنه محامٍ عام يُدعى ديفيد بيل، أخبر الأم القلقة أنه قادر على التفاوض بشأن كفالة ابنها من 50 ألف دولار إلى 15 ألف دولار وسألها عما إذا كان بإمكانها الحصول على المال بسرعة. وافق تراب.
وقالت تراب: “قال: لا تخبر (البنك) عن سبب حصولك على المال لأنك لا تريد تشويه سمعة ابنك”، مشيرة إلى أنها في حالتها العقلية “كانت ستفعل أي شيء”. هو قال.”
ثم ركبت تراب سيارتها لاصطحاب زوجها، الذي يتذكر أنه كان مقتنعًا بأن زوجته تحدثت إلى ابنهما. ذهب الزوجان إلى البنك وسحبا 15500 دولار.
وقال الأب آندي تراب: “يعود الأمر كله إلى هذا الصوت الذي تعرفت عليه والدته، التي يتحدث إليها عدة مرات في الأسبوع”. “لم أعتقد أبدًا أنني سأقع في أي شيء كهذا”
OPENAI تطلق متجر GPT لروبوتات الدردشة المخصصة
بمجرد العودة إلى المنزل، أخبر المحامي العام المفترض الزوجين أنه سيتم إرسال ساعي لاستلام الأموال من منزلهما، الأمر الذي أطلق أخيرًا أجراس الإنذار في رؤوس الزوجين.
قال آندي تراب: “لقد بدا ذلك خاطئًا تمامًا”.
وكانت تلك هي اللحظة التي أصبح فيها الوضع أكثر من اللازم بالنسبة لإيمي تراب، التي قالت إنها غرقت على ركبتيها أمام منزل العائلة.
“أين ابني؟ أين ابني؟” صرخت.
ثم اتصل آندي تراب بمركز الشرطة المحلي حيث من المفترض أن الحادث وقع. قيل للأب القلق أنه لا يوجد سجل للحادث. ثم اتصل الزوجان أخيرًا بابنهما في الكلية، ولم يكن على علم بالوضع على الإطلاق.
“يو، ما الأمر؟” سوف يجيب بهدوء، بحسب تراب.
وفقًا للتقرير، فإن محاولات الاتصال الاحتيالية مثل تلك المستخدمة ضد عائلة Trapps تعتبر غير قانونية ولكن غالبًا ما يكون من الصعب التحقيق فيها أو مقاضاتها، في كثير من الأحيان لأن عمليات الاحتيال تنشأ من الخارج.
ويعتقد صامويل مانجولد لينيت، محرر في صحيفة The Federalist، أنه يمكن فعل المزيد لحماية الضحايا المحتملين.
وقال مانجولد لينيت لقناة فوكس نيوز ديجيتال: “لا تزال عمليات التصيد الاحتيالي تمثل مشكلة خطيرة. ولكن الآن بعد أن تمكن الذكاء الاصطناعي الجهات الفاعلة السيئة من استخدام تكنولوجيا استنساخ الصوت المتطورة، أصبح كل شخص لديه هاتف محمول هدفًا محتملاً”. “يلزم بذل المزيد من الجهود لمحاسبة الأشخاص الذين يديرون عمليات الاحتيال هذه. من المحتمل أن يتم تطبيق القوانين الموجودة بالفعل على مثل هذه المواقف، ولكن ربما يتعين تنفيذ لوائح أكثر تحديدًا.”
المحتالون يستخدمون الذكاء الاصطناعي لاستنساخ صوت امرأة، وترويع العائلة بمكالمة فدية مزيفة: “أسوأ يوم في حياتي”
وقال فيل سيجل، مؤسس مركز التأهب المتقدم ومحاكاة الاستجابة للتهديدات (CAPTRS)، لقناة Fox News Digital إنه من غير المعروف عدد المرات التي يتم فيها استخدام الذكاء الاصطناعي في مثل هذه الجرائم، على الرغم من تحذيره من أنه من المرجح أن تزداد مثل هذه الحوادث في السنوات المقبلة.
وقال سيجل: “إن العديد من كبار السن وكبار السن لن يأخذوا الوقت الكافي لفهم الذكاء الاصطناعي لأنهم لن يستخدموه، مما سيجعلهم أهدافًا جاهزة لعمليات احتيال مثل هذه”. “سواء كان الأمر في السجن، أو في حادث سيارة، أو في حاجة إلى أموال لإصلاح المنزل أو العديد من عمليات الاحتيال الأخرى، فإن هذا سيحدث في كثير من الأحيان في السنوات القليلة المقبلة.”
وقال سيجل إن الناس يمكنهم الدفاع عن أنفسهم من خلال توخي الحذر، خاصة عندما يتعلق الأمر بالمعاملات المالية.
وقال سيجل: “الدرس المستفاد هو إعادة الاتصال بالشخص دائمًا قبل القيام بأي شيء”. “لا تمنح أبدًا أي شخص لا تعرفه أو لم تقم بتعيين أي أموال نقدية أو أموال سلكية أو أموال Venmo أو عملات مشفرة. وبالطبع، إذا كان الأمر يتعلق بإنفاذ القانون، فتحقق منه أولاً.”
وقال ويل تراب لصحيفة سان فرانسيسكو كرونيكل إنه ليس لديه أي فكرة عن كيفية تمكن المحتالين من نسخ صوته، مشيرًا إلى أن حساباته على وسائل التواصل الاجتماعي خاصة، على الرغم من أنه يغني أحيانًا ويصنع الموسيقى التي يتم نشرها عبر الإنترنت.
وقال: “من الصعب أن نتخيل كيف يمكن استخدام ذلك لأنه ليس مثل صوتي المتحدث”. “إنه أمر مخيف حقًا.”
