باستخدام هذا الموقع ، فإنك توافق على سياسة الخصوصية و شروط الاستخدام .
القبول

انضم الى قائمة المتابعين لتصلك جميع الاخبار مباشرة. اشترك الآن

الخليج ترند
  • الرئيسية
  • اخر الاخبار
  • دوليات
    • الولايات المتحدة
    • اوروبا
    • اسيا
    • كندا
    • افريقيا
  • اقتصاد
    • اسواق
    • شركات
    • الاستثمار
    • العملات المشفرة
  • سياسة

    سياسة

    سياسة

    الرجل المتهم بمحاولة اغتيال ترامب يطلب من القاضية إيلين كانون التنحي عن قضيته

    يطلب الرجل المتهم بالجلوس خلف سياج متصل بسلسلة على حدود ملعب الغولف التابع لدونالد ترامب في فلوريدا ومعه بندقية، بزعم…

    سياسة

    هابرمان: أصبحت لغة ترامب أكثر قتامة

    هابرمان: أصبحت لغة ترامب أكثر قتامة تقول المحللة السياسية لشبكة CNN، ماجي هابرمان، إن لغة الرئيس السابق دونالد ترامب خلال…

    سياسة

    بالنسبة لبايدن، فإن وفاة السنوار تضخ حالة من عدم اليقين – ولكنها أيضًا تفتح بابًا – لحل الصراع في غزة

    على مدار أشهر، ظل المسؤولون الأمريكيون المحبطون الذين يتطلعون إلى إنهاء الحرب في غزة يفكرون بهدوء في السيناريو الوحيد الذي…

    سياسة

    سيتم منح المواطنين اللبنانيين الذين يعيشون في الولايات المتحدة إغاثة إنسانية مع استمرار الصراع بين إسرائيل وحزب الله

    أعلنت وزارة الأمن الداخلي اليوم الخميس، أن المواطنين اللبنانيين المقيمين في الولايات المتحدة سيحصلون على شكل من أشكال الإغاثة الإنسانية،…

  • تقنية
  • رياضة
  • صحة
  • منوعات

    منوعات

    منوعات

    متى ينزل ايفون 15 برو max في الكويت 2023

    متى ينزل ايفون 15 برو max في الكويت في الأسواق بحيث يمكن لعشاق الهواتف المحمولة شراءه والتمتع بميزاته الفريدة، فمع…

    مشاهدة مسلسل هذا العالم لا يسعني 35 مترجمة كاملة HD ايجي بست وماي سيما

    شاهد سلسلة This World I Can’t help 35 مع ترجمة بدقة HD و EgyBest و My Simaحيث أن جميع متابعي…

    منوعات

    خلال أيام.. “الاتحاد” يعلن عن صفقة جديدة مع نجم أبها.

    قامت إدارتي الاتحاد وأبها، بالتوصل إلى اتفاق شفهي بشأن انتقال اللاعب صالح العمري إلى نادي الاتحاد. وقد أفادت مصادر إعلامية…

    منوعات

    محرز يبتعد عن الأهلي!! رياض يُجري الكشف الطبي في فرنسا.. هل ينضم إلى باريس؟

    محرز يبتعد عن الأهلي!! رياض يُجري الكشف الطبي في فرنسا.. هل ينضم إلى باريس؟

  • المزيد
    • ثقافة وفنون
    • سياحة وسفر
اشترك معنا
Aa
الخليج ترند
  • اخر الاخبار
  • دوليات
  • سياسة
  • اقتصاد
  • صحة
  • تقنية
  • ثقافة وفنون
  • رياضة
  • سياحة وسفر
  • منوعات
البحث
  • الرئيسية
  • اخر الاخبار
  • دوليات
    • الولايات المتحدة
    • اوروبا
    • اسيا
    • كندا
    • افريقيا
  • اقتصاد
    • اسواق
    • شركات
    • الاستثمار
    • العملات المشفرة
  • سياسة
  • تقنية
  • رياضة
  • صحة
  • منوعات
  • المزيد
    • ثقافة وفنون
    • سياحة وسفر
banner
ابق على إطلاع دائم
اخر مستجدات العالم لحظة بلحظة من جميع المصادر الموثوقة، انضم الينا الآن ليصلك كل جديد الى بريدك الإلكتروني مباشرة.
اشترك الآن

اكتشف المزيد

  • صورة اليوم
  • مقالات رأي
  • اخر الاخبار
  • رائج اليوم
  • ألنشرة البريدية
2023 © المراقب. جميع الحقوق محفوظة.
الخليج ترند > تقنية > تزيد الهلوسة رمز الذكاء الاصطناعى من خطر هجمات “حزمة الارتباك”

تزيد الهلوسة رمز الذكاء الاصطناعى من خطر هجمات “حزمة الارتباك”

فريق التحرير كتب فريق التحرير منذ 4 أسابيع 4 دقيقة للقراءة
شارك

رمز الكمبيوتر الذي أنشأه الذكاء الاصطناعى إن الإشارات إلى الإشارات إلى مكتبات الطرف الثالث غير الموجود ، مما يخلق فرصة ذهبية لهجمات سلسلة التوريد التي تسمم البرامج المشروعة مع حزم خبيثة يمكنها سرقة البيانات ، والخلفية النباتية ، وتنفيذ إجراءات أخرى شائنة ، وبين الأبحاث المنشورة حديثًا.

وجدت الدراسة ، التي استخدمت 16 من النماذج اللغوية الكبيرة المستخدمة على نطاق واسع لإنشاء 576000 عينة رمز ، أن 440،000 من تبعيات الحزمة التي احتوت عليها كانت “هلوسة” ، مما يعني أنها غير موجودة. نماذج مفتوحة المصدر هلوس أكثر ، مع 21 في المائة من التبعيات التي تربط بالمكتبات غير الموجودة. الاعتماد هو مكون رمز أساسي يتطلب جزء منفصل من التعليمات البرمجية العمل بشكل صحيح. تبعيات تنقذ المطورين متاعب إعادة كتابة رمز وهي جزء أساسي من سلسلة توريد البرمجيات الحديثة.

حزمة الهلوسة ذكريات الماضي

تمثل هذه التبعيات غير الموجودة تهديدًا لسلسلة إمداد البرمجيات عن طريق تفاقم ما يسمى هجمات ارتباك التبعية. تعمل هذه الهجمات عن طريق التسبب في حزمة برامج للوصول إلى التبعية الخاطئة للمكون ، على سبيل المثال من خلال نشر حزمة ضارة وإعطائها نفس الاسم مثل الشرعي ولكن مع ختم الإصدار اللاحق. سوف يختار البرامج التي تعتمد على الحزمة ، في بعض الحالات ، النسخة الضارة بدلاً من الإصدار الشرعي لأن الأول يبدو أنه أكثر حداثة.

المعروف أيضًا باسم حزمة الارتباك ، تم عرض هذا الشكل من الهجوم لأول مرة في عام 2021 في استغلال إثبات المفهوم الذي نفذ رمزًا مزيفًا على الشبكات التي تنتمي إلى بعض أكبر الشركات على هذا الكوكب و Microsoft و Tesla. إنه نوع واحد من التقنيات المستخدمة في هجمات سلسلة توريد البرامج ، والتي تهدف إلى تسمم البرامج في مصدرها في محاولة لإصابة جميع المستخدمين في اتجاه مجرى النهر.

“بمجرد نشر المهاجم حزمة تحت الاسم الملموس ، التي تحتوي على بعض الكود الضار ، فإنهم يعتمدون على النموذج الذي يشير إلى هذا الاسم للمستخدمين المطمئنين” ، جوزيف Spracklen ، جامعة تكساس في سان أنطونيو دكتوراه. الطالب والباحث الرئيسي ، أخبر ARS عبر البريد الإلكتروني. “إذا كان المستخدم يثق في إخراج LLM وقم بتثبيت الحزمة دون التحقق من ذلك بعناية ، فسيتم تنفيذ حمولة المهاجم ، المخفية في الحزمة الضارة ، على نظام المستخدم.”

في الذكاء الاصطناعي ، تحدث الهلوسة عندما تنتج LLM مخرجات غير صحيحة في الواقع أو غير منطقية أو غير مرتبطة بالمهمة التي تم تعيينها. لقد تعرضت الهلوسة منذ فترة طويلة إلى تدهور فائدتها وجدارة بالثقة وأثبتت صعوبة في التنبؤ بها والعلاج. في ورقة من المقرر تقديمها في ندوة أمن Usenix لعام 2025 ، أطلقوا على ظاهرة “هلوسة الحزمة”.

بالنسبة للدراسة ، أجرى الباحثون 30 اختبارًا ، و 16 في لغة برمجة Python و 14 في JavaScript ، والتي أنتجت 19200 عينة رمز لكل اختبار ، ليصبح المجموع 576000 عينة رمز. من بين 2.23 مليون مراجع حزمة واردة في تلك العينات ، أشار 440،445 ، أو 19.7 في المائة ، إلى الحزم التي لم تكن موجودة. من بين هذه الهلوسة الحزمة البالغ عددها 440،445 ، كان لدى 205،474 أسماء حزم فريدة.

أحد الأشياء التي تجعل الهلوسة الحزمة قد تكون مفيدة في هجمات سلسلة التوريد هو أن 43 في المائة من الهلوسة تم تكرارها على 10 استعلامات. “بالإضافة إلى ذلك ،” كتب الباحثون ، “58 في المائة من الوقت ، يتم تكرار الحزمة المصنوعة من الهلوس أكثر من مرة واحدة في 10 تكرار ، مما يدل على أن غالبية الهلوسة ليست مجرد أخطاء عشوائية قابلة للتكرار والتي تستمر في التكرار المتعدد.

فريق التحرير أبريل 30, 2025 أبريل 30, 2025
شارك المقال
فيسبوك تويتر واتساب واتساب نسخ الرابط طباعة
شارك
المقال السابق مستشفى رأس البر المركزي جاهز للافتتاح والتشغيل
المقال التالي مجموعة سيئة السمعة Mommas FB Group مغلقة بشكل غامض لمدة ستة أيام: “خرجت عن السيطرة” حقًا “
اترك تعليقك اترك تعليقك

اترك تعليقاً إلغاء الرد

لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *

تابع معنا اخر الاخبار لحظة بلحظة واطلع على ما يحدث في العالم من حولك

ابق على إطلاع

اخر مستجدات العالم لحظة بلحظة من جميع المصادر الموثوقة، انضم الينا الآن ليصلك كل جديد.

اشترك الآن

رائج اليوم

اكتشف المزيد

  • صورة اليوم
  • مقالات رأي
  • اخر الاخبار
  • رائج اليوم
  • النشرة البريدية

مقالات ذات صلة

تعطي وكالة حماية البيئة بعض المواد الكيميائية إلى الأبد تمريرة

تقنية

لا يمكن لـ Elon Musk's Grok Ai التوقف عن الحديث عن “الإبادة الجماعية البيضاء”

تقنية

السبب الذي يجعل نغمة Murderbot تشعر

تقنية

تقوم Microsoft بقطع الوصول إلى بيانات بحث Bing أثناء تحويل التركيز إلى chatbots

تقنية

تهديدات عنيفة ضد الولايات المتحدة تتجاوز عبر الإنترنت

تقنية

يحلم وكيل منظمة العفو الدولية من Google DeepMind خوارزميات بما يتجاوز الخبرة البشرية

تقنية

مراجعة: Jackrabbit OG2 Pro و XG Pro Ebikes

تقنية

مراجعة: eargo 8 أجهزة السمع

تقنية
مصدرك الأول لآخر الاخبار العالمية
Facebook Twitter Youtube Instagram Linkedin

2023 © المراقب. جميع الحقوق محفوظة.

روابط هامة

  • الرئيسية
  • من نحن
  • سياسة الخصوصية
  • اعلن معنا
  • اتصل بنا

أهم الأقسام

  • ثقافة وفنون
  • سياحة وسفر
  • سياسة
  • صحة
  • اقتصاد

نرشح لك

اخبار الوادي الجديد: خطة عاجلة لتعزيز خدمات الكهرباء بالفرافرة.. وإجراءات واشتراطات التغذية
صبي يبلغ من العمر 14 عامًا تم إلقاء القبض عليه بإطلاق النار المميت برونكس للمراهقين المراهقين
401 (ك) العملاق التمكين لإضافة استثمارات في السوق الخاصة إلى محافظ التقاعد

صحيفة المراقب هي صحيفة يومية عربية تهتم بآخر اخبار المملكة العربية السعودية والخليج العربي والشرق الأوسط والعالم. تابع معنا اخر اخبار الاقتصاد والرياضة والسياسة واهم القضايا التي تهم المواطن العربي.

Welcome Back!

Sign in to your account

نسيت كلمة المرور؟