اقترحت لجنة التجارة الفيدرالية الأمريكية (FTC) إجراء تحديثات جديدة على قاعدة التزييف العميق للذكاء الاصطناعي (AI) في 16 فبراير. وقالت الوكالة الحكومية إن التغييرات المقترحة في القاعدة ستحمي المستخدمين من انتحال هوية الذكاء الاصطناعي.
وفقًا لوثيقة “قاعدة انتحال هوية الحكومة والشركات”، فإن التزييف العميق للذكاء الاصطناعي الذي ينتحل هوية الشركات والحكومات قد يواجه إجراءات قانونية.
لا يُسمح باستخدام تقنية Deepfakes التي تعتمد على الذكاء الاصطناعي للشركات والوكالات الحكومية
وقالت لجنة التجارة الفيدرالية إن التغييرات ضرورية بسبب انتشار انتحال شخصيات الشركات والمسؤولين الحكوميين والمؤسسات شبه الحكومية.
بالنظر إلى هذا، فإن الهدف النهائي هو حماية العملاء من الضرر المحتمل الذي قد يحدث نتيجة لمنصات الذكاء الاصطناعي المنتجة.
ستدخل القاعدة المحدثة حيز التنفيذ بعد 30 يومًا من نشرها في السجل الفيدرالي.
في الوقت الحالي، نرحب بالتعليقات العامة لمدة 60 يومًا القادمة. بمجرد سن القاعدة، سيتم تمكين لجنة التجارة الفيدرالية (FTC) من ملاحقة المحتالين الذين يحتالون على المستخدمين من خلال انتحال صفة الشركات المشروعة أو الوكالات الحكومية.
لقد قطعت صناعة الذكاء الاصطناعي شوطًا طويلاً منذ الإطلاق الشهير لـ ChatGPT في نوفمبر 2022 من قبل فريق OpenAI. أطلقت الشركة، بقيادة سام ألتمان، مؤخرًا منتجًا جديدًا يسمى Sora.
يستخدم Sora مطالبات الذكاء الاصطناعي لإنشاء مقاطع فيديو واقعية تحتوي على مشاهد مفصلة للغاية وحركات كاميرا معقدة ومشاعر نابضة بالحياة.
نقدم لكم Sora، نموذجنا لتحويل النص إلى فيديو.
يمكن لـ Sora إنشاء مقاطع فيديو تصل مدتها إلى 60 ثانية تتميز بمشاهد مفصلة للغاية وحركة الكاميرا المعقدة وشخصيات متعددة ذات مشاعر نابضة بالحياة. https://t.co/7j2JN27M3W
مستعجل: “جميل، ثلجي… pic.twitter.com/ruTEWn87vf
– أوبن إيه آي (@OpenAI) 15 فبراير 2024
أدت أدوات الذكاء الاصطناعي القوية مثل تلك التي تقدمها OpenAI وGoogle إلى زيادة الإنتاجية للعديد من الأفراد والشركات.
لقد أصبحت أيضًا أداة فعالة في أيدي مجرمي الإنترنت. باستخدام هذه الأداة، يمكن للمجرمين بسهولة تغيير مظهر أو صوت شخص ما لخداع الجمهور المستهدف.
سيكون تغيير قاعدة لجنة التجارة الفيدرالية (FTC) قاسيًا على هؤلاء المجرمين لضمان مواجهتهم لثقل القانون الكامل.
على الرغم من عدم وجود قاعدة محددة تجعل الأنشطة الترفيهية التي ينتجها الذكاء الاصطناعي غير قانونية، فقد اتخذ أعضاء مجلس الشيوخ الأمريكي كريس كونز، ومارشا بلاكبيرن، وتوم تيليس خطوات لمعالجة هذه القضية.
سرقت عمليات الاحتيال المنتحلة 2.7 مليار دولار في عام 2023
تشكل عمليات الاحتيال التي تنتحل الشخصية، على الرغم من عدم ظهورها غالبًا في الصحف الشعبية، تهديدًا كبيرًا للولايات المتحدة.
وفي معرض حديثها عن هذه القضية، أشارت لينا خان، رئيسة لجنة التجارة الفيدرالية، إلى أن استنساخ الصوت وعمليات الاحتيال التي تعتمد على الذكاء الاصطناعي آخذة في الارتفاع.
واقترح خان أن تحديث القواعد من شأنه أن يعزز قدرة الوكالة على معالجة عمليات الاحتيال التي تدعم الذكاء الاصطناعي والتي تنتحل هوية الأفراد.
وفي معرض تحديد رقم للمخاطر المحتملة التي تنطوي عليها عمليات الاحتيال التي تنتحل الشخصية، أشار خان إلى أن المواطنين الأمريكيين خسروا ما يزيد عن 2.7 مليار دولار في عام 2023.
2. عمليات الاحتيال التي يتظاهر فيها المحتالون بأنهم الحكومة شائعة جدًا. في العام الماضي، خسر الأمريكيون 2.7 مليار دولار بسبب عمليات احتيال منتحل الشخصية.
القاعدة @FTC تم الانتهاء للتو من السماح لنا بفرض عقوبات على هؤلاء المحتالين واستعادة الأموال لأولئك الذين تم الاحتيال عليهم.https://t.co/8ON0G63ZjL
– لينا خان (@linakhanFTC) 15 فبراير 2024
وستمكن القواعد الجديدة أيضًا الوكالة من إعادة الأموال المسروقة إلى الضحايا المتضررين.
وفي الوقت نفسه، اقترحت رئيسة لجنة الاتصالات الفيدرالية (FCC)، جيسيكا روزنورسيل، تصنيف جميع المكالمات ذات الأصوات الناتجة عن الذكاء الاصطناعي على أنها غير قانونية.
لقد أعلنا اليوم عن اقتراح لجعل المكالمات الآلية المولدة بالذكاء الاصطناعي غير قانونية – مما يمنح الحكومة أدوات جديدة للقضاء على عمليات احتيال استنساخ الصوت وحماية المستهلكين. https://t.co/OfJUZR0HrG
— لجنة الاتصالات الفيدرالية (@FCC) 31 يناير 2024
جاء هذا الإعلان بعد ظهور تقارير تفيد بأن المواطنين الأمريكيين يتلقون مكالمات آلية تقلد الرئيس جو بايدن.
يتلقى ناخبو نيو هامبشاير مكالمات آلية من بايدن تخبرهم بعدم التصويت غدًا.
إلا أنه ليس بايدن. إنه تزييف عميق لصوته.
هذا ما يحدث عندما تذهب قوة الذكاء الاصطناعي دون رادع.
إذا لم ننظمها، فإن ديمقراطيتنا محكوم عليها بالفشل.pic.twitter.com/8wlrT63Mfr
– المواطن العام (@Public_Citizen) 22 يناير 2024
ونصحت المكالمة الناخبين الأمريكيين بعدم التصويت في الانتخابات الرئاسية الأمريكية.
في صناعة العملات المشفرة، تشكل تقنية التزييف العميق للذكاء الاصطناعي تهديدًا.
وفقًا لمايكل سايلور، تتم إزالة حوالي 80 مقطع فيديو مزيفًا لنفسه يوميًا. تظهره معظم مقاطع الفيديو وهو يطلب من المستخدمين إرسال عملة البيتكوين الخاصة بهم إلى عنوان المحفظة المنشور.
أصدر مايكل سايلور، رئيس مجلس إدارة MicroStrategy وأحد أكبر حاملي Bitcoin، تحذيرًا لمجتمع Bitcoin حول مخاطر عمليات الاحتيال باستخدام مقاطع الفيديو المزيفة العميقة التي تم إنشاؤها بواسطة الذكاء الاصطناعي (AI). وكشف أن فريقه الأمني اضطر إلى إزالة نحو 80…
— مانوري إيزيكويل (@manauryezequiel) 15 يناير 2024
ومع ذلك، تظهر حالات جديدة يوميًا. وقد حذر سايلور، الذي يشغل منصب رئيس شركة Microstrategy، مستثمري العملات المشفرة من هذا الاتجاه.
