أم أريزونا أصيبت بصدمة من قبل المحتالين المرضى الذين استخدموا الذكاء الاصطناعي لاستنساخ صوت ابنتها المراهقة في مؤامرة اختطاف وهمية وصفت في شهادة مؤثرة أمام الكونجرس كيف هدد المحتالون بلا قلب بضخ معدة طفلها “مليئة بالمخدرات” إذا لم تدفع فدية.
جلست جينيفر ديستيفانو ، وهي أم لطفلين من سكوتسديل ، أمام اللجنة القضائية في مجلس الشيوخ يوم الثلاثاء ووصفت المكالمة المروعة التي اعتقدت أنها وجهتها ابنتها بريانا البالغة من العمر 15 عامًا في 20 يناير.
تدعو الأم المشرعين إلى اتخاذ إجراءات عاجلة لمواجهة تهديدات الذكاء الاصطناعي بعد أن قالت إن السلطات رفضت شكواها.
أخبرت ديستيفانو أعضاء اللجنة الفرعية لحقوق الإنسان والقانون أنها كانت تلتقط ابنتها الصغرى أوبري من بروفة الرقص عندما تلقت مكالمة من رقم غير معروف.
تتذكر قائلة: “في الحلقة الأخيرة ، اخترت الرد عليه ، حيث إن المكالمات غير المعروفة غالبًا ما تكون مستشفى أو طبيبًا”.
“كانت بريانا تبكي وتبكي قائلة ،” أمي “. في البداية لم أفكر في ذلك وسألتها عرضًا ، “ماذا حدث؟” قالت للجنة: “كان الهاتف على مكبر الصوت يسير إلى ساحة انتظار السيارات لمقابلة أختها.
كان من المفترض أن تكون بريانا مع والدها يتدربان على سباق تزلج.
قالت الأم المصابة بصدمة: “أمي ، لقد أخطأت!” “أمي ، هؤلاء الرجال السيئون معي. ساعدني! ساعدني!'”
ووصفت مدى واقعية الاستنساخ لأنه “لم يكن صوتها فحسب ، بل صرخاتها ، بل كانت تنهداتها”.
فجأة ، جاء صوت ذكر تقشعر له الأبدان على المحك وطالب بفدية قدرها مليون دولار.
“تلقى رجل مهدد ومبتذل المكالمة. ‘استمع هنا. لدي ابنتك. اتصل بأي شخص ، اتصل بالشرطة ، سأضخ معدتها مليئة بالمخدرات. سأذهب معها. سوف أسقطها في المكسيك. يتذكر ديستيفانو عاطفيًا ، وهو يقاوم الدموع ، لن ترى ابنتك مرة أخرى أبدًا.
“لقد بدأ بمليون دولار. انخفض إلى 50000 دولار لأن ذلك لم يكن ممكنًا. طلبت منه تعليمات الأسلاك “، مضيفة أنه رفض وطالبها بركوب سيارة صغيرة عليها حقيبة فوق رأسها وفي يدها النقود.
سرعان ما أخبرتها أم أخرى أنها وصلت إلى زوجها ، الذي وجد بريانا “تستريح بأمان في السرير”.
قالت: “جاءت إلي وأخبرتني أن بريانا بخير لكنني لم أصدقها لأنني تحدثت للتو مع ابنتي وكنت متأكدة جدًا من صوتها وكنت متأكدة جدًا من صرخاتها”.
وأضافت: “لن أتمكن أبدًا من هز هذا الصوت والصرخات اليائسة من عقلي طلباً للمساعدة”.
“إنه أسوأ كابوس بالنسبة لكل والد أن تسمع طفلهما يتوسل خوفًا وألمًا ، وهو يعلم أنه يتعرض للأذى وأنهم لا حول لهم ولا قوة.”
قالت ديستيفانو إنها اكتشفت في وقت لاحق أن عمليات الاحتيال بالذكاء الاصطناعي شائعة.
“لا يمكنهم فقط استخدام الصوت ، ولكن الانعكاس والعاطفة. ما زلت لا أصدق ذلك ، لأنني سمعت – تحدثت مع ابنتي. قالت.
عندما أبلغت الأم المنكوبة عن عملية احتيال التزييف القاسي للشرطة ، قالت إنهم وصفوها بأنها “مكالمة مزحة” وأخبرتها أنه لا يمكن فعل أي شيء لأنه لم يحدث أي اختطاف ولم يتم إرسال أي أموال.
وقال السناتور الديمقراطي عن جورجيا جون أوسوف إنه عقد الاجتماع حتى يتمكن مجلس الشيوخ من “التحقيق وفهم طبيعة التهديدات من إساءة استخدام الذكاء الاصطناعي.”
وقال إن المشرعين “حددوا بعض المجالات المهمة حيث قد تكون هناك حاجة لتشريع جديد ، أو للضغط على وكالات إنفاذ القانون الفيدرالية لحماية العائلات في جورجيا وعبر البلاد من هذه التهديدات بشكل أفضل.”
كما تحدث العديد من الخبراء أمام لجنة مجلس الشيوخ يوم الثلاثاء ، بما في ذلك ألكسندر مادري ، أستاذ علوم الكمبيوتر في معهد ماساتشوستس للتكنولوجيا ومدير مركز MIT للتعلم الآلي القابل للنشر.
قال مادري ، وفقًا لـ Courthouse News: “تستعد أحدث موجة من الذكاء الاصطناعي التوليدي لتغيير جذري في تكوين المعنى الجماعي لدينا”.
“أعتقد أنه بغض النظر عما يحدث ، يحتاج الجمهور إلى فهم كيفية التفاعل مع أنظمة الذكاء الاصطناعي ، وأن يكونوا على اطلاع عندما يتفاعلون فعليًا مع الذكاء الاصطناعي في المقام الأول. لا نريد أن نتعلم هذا بالطريقة الصعبة.
قالت ألكسندرا ريف جيفنز ، الرئيس التنفيذي لمركز الديمقراطية والتكنولوجيا ومقره العاصمة ، إن نماذج الذكاء الاصطناعي التوليدية يمكن أيضًا استخدامها لنشر معلومات مضللة أثناء الانتخابات.
قال جيفنز: “في الانتخابات السابقة ، استخدم العملاء المكالمات الآلية والنصوص لنشر معلومات مضللة”. “ولكن الآن ، يمكن للممثلين السيئين استخدام الذكاء الاصطناعي بسهولة للنمو بشكل كبير وإضفاء الطابع الشخصي على قمع الناخبين أو أي استهداف آخر.”
دعا DeStefano إلى اتخاذ إجراءات فورية قبل أن يصبح إساءة استخدام الذكاء الاصطناعي أكبر.
وقال “مخاوفي الأكبر هو كيف سيظهر ذلك في مجالات أخرى مثل الاتجار بالبشر واختطاف الأطفال”. “لأنه لحسن الحظ ، كنت شخصًا بالغًا وكان حولي أشخاص بالغون آخرون. لكن ماذا لو كان ذلك طفلاً؟ “مرحبًا ، إنها أمي. تعال وقابلني هنا. هذا هو خوفي الأكبر “.
حذرت الأم من أنه إذا ترك هذا التهديد من منظمة العفو الدولية “بلا رقابة ، وغير منظم وغير محمي” فإنه “سيعيد كتابة فهمنا وإدراكنا لما هو – وما هو ليس – الحقيقة”.
