باستخدام هذا الموقع ، فإنك توافق على سياسة الخصوصية و شروط الاستخدام .
القبول

انضم الى قائمة المتابعين لتصلك جميع الاخبار مباشرة. اشترك الآن

الخليج ترند
  • الرئيسية
  • اخر الاخبار
  • دوليات
    • الولايات المتحدة
    • اوروبا
    • اسيا
    • كندا
    • افريقيا
  • اقتصاد
    • اسواق
    • شركات
    • الاستثمار
    • العملات المشفرة
  • سياسة

    سياسة

    سياسة

    الرجل المتهم بمحاولة اغتيال ترامب يطلب من القاضية إيلين كانون التنحي عن قضيته

    يطلب الرجل المتهم بالجلوس خلف سياج متصل بسلسلة على حدود ملعب الغولف التابع لدونالد ترامب في فلوريدا ومعه بندقية، بزعم…

    سياسة

    هابرمان: أصبحت لغة ترامب أكثر قتامة

    هابرمان: أصبحت لغة ترامب أكثر قتامة تقول المحللة السياسية لشبكة CNN، ماجي هابرمان، إن لغة الرئيس السابق دونالد ترامب خلال…

    سياسة

    بالنسبة لبايدن، فإن وفاة السنوار تضخ حالة من عدم اليقين – ولكنها أيضًا تفتح بابًا – لحل الصراع في غزة

    على مدار أشهر، ظل المسؤولون الأمريكيون المحبطون الذين يتطلعون إلى إنهاء الحرب في غزة يفكرون بهدوء في السيناريو الوحيد الذي…

    سياسة

    سيتم منح المواطنين اللبنانيين الذين يعيشون في الولايات المتحدة إغاثة إنسانية مع استمرار الصراع بين إسرائيل وحزب الله

    أعلنت وزارة الأمن الداخلي اليوم الخميس، أن المواطنين اللبنانيين المقيمين في الولايات المتحدة سيحصلون على شكل من أشكال الإغاثة الإنسانية،…

  • تقنية
  • رياضة
  • صحة
  • منوعات

    منوعات

    منوعات

    الزمالك يتقدم بشكوى للمجلس الأعلى للإعلام بسبب أخبار توقيع فتوح لـ الأهلي

    الزمالك يتقدم بشكوى للمجلس الأعلى للإعلام بسبب أخبار توقيع فتوح لـ الأهلي أصدر مجلس إدارة نادي الزمالك قرارًا رسميًا بتقديم…

    منوعات

    احذر.. السجن المشدد عقوبة جريمة نقل أي عضو من جسد طفل

    حدد قانون العقوبات عقوبة لجريمة نقل أى عضو من أعضاء جسد الطفل، ويستعرض “صدى البلد” من خلال هذا التقرير هذه…

    عبارات تهنئة عيد الاضحى لابي 2023 تويتر 1445

    عبارات تهنئة عيد الاضحى لابي تدخل بها السرور على قلبه، حيث تُعتبر عيد الأضحى مناسبةً هامةً ومميزة في العالم الإسلامي،…

    منوعات

    السعودية.. إحباط تهريب 15 كيلو حشيش

    نجحت الدوريات البرية لحرس الحدود السعودي في قطاع الدائر بمنطقة جازان في إحباط تهريب (15) كيلوجرامًا من مادة الحشيش المخدر…

  • المزيد
    • ثقافة وفنون
    • سياحة وسفر
اشترك معنا
Aa
الخليج ترند
  • اخر الاخبار
  • دوليات
  • سياسة
  • اقتصاد
  • صحة
  • تقنية
  • ثقافة وفنون
  • رياضة
  • سياحة وسفر
  • منوعات
البحث
  • الرئيسية
  • اخر الاخبار
  • دوليات
    • الولايات المتحدة
    • اوروبا
    • اسيا
    • كندا
    • افريقيا
  • اقتصاد
    • اسواق
    • شركات
    • الاستثمار
    • العملات المشفرة
  • سياسة
  • تقنية
  • رياضة
  • صحة
  • منوعات
  • المزيد
    • ثقافة وفنون
    • سياحة وسفر
banner
ابق على إطلاع دائم
اخر مستجدات العالم لحظة بلحظة من جميع المصادر الموثوقة، انضم الينا الآن ليصلك كل جديد الى بريدك الإلكتروني مباشرة.
اشترك الآن

اكتشف المزيد

  • صورة اليوم
  • مقالات رأي
  • اخر الاخبار
  • رائج اليوم
  • ألنشرة البريدية
2023 © المراقب. جميع الحقوق محفوظة.
الخليج ترند > تقنية > يمكن لهذه المطالبة أن تجعل Chatbot AI يتعرف على التفاصيل الشخصية ويستخرجها من محادثاتك

يمكن لهذه المطالبة أن تجعل Chatbot AI يتعرف على التفاصيل الشخصية ويستخرجها من محادثاتك

فريق التحرير كتب فريق التحرير منذ 8 أشهر 4 دقيقة للقراءة
شارك

يقول الباحثون إنه إذا تم تنفيذ الهجوم في العالم الحقيقي، فمن الممكن أن يتم هندسة الناس اجتماعيًا للاعتقاد بأن الدافع غير المفهوم قد يفعل شيئًا مفيدًا، مثل تحسين سيرتهم الذاتية. يشير الباحثون إلى العديد من مواقع الويب التي تزود الأشخاص بمطالبات يمكنهم استخدامها. لقد اختبروا الهجوم عن طريق تحميل السيرة الذاتية إلى المحادثات مع روبوتات الدردشة، وتمكنوا من إعادة المعلومات الشخصية الموجودة داخل الملف.

يقول إيرلانس فرنانديز، الأستاذ المساعد في جامعة كاليفورنيا في سان دييغو والذي شارك في العمل، إن أسلوب الهجوم معقد إلى حد ما لأن الموجه المبهم يحتاج إلى تحديد المعلومات الشخصية، وتشكيل عنوان URL صالح، وتطبيق صيغة Markdown، وعدم الكشف للمستخدم عن ذلك. يتصرف بشكل شنيع. ويشبه فرنانديز الهجوم بالبرامج الضارة، مشيرًا إلى قدرته على أداء الوظائف والسلوك بطرق قد لا يقصدها المستخدم.

يقول فرنانديز: “في العادة، يمكنك كتابة الكثير من أكواد الكمبيوتر للقيام بذلك في البرامج الضارة التقليدية”. “ولكن هنا أعتقد أن الشيء الرائع هو أن كل ذلك يمكن تجسيده في هذه المطالبة القصيرة نسبيًا التي لا معنى لها.”

يقول متحدث باسم شركة Mistral AI إن الشركة ترحب بالباحثين الأمنيين الذين يساعدونها في جعل منتجاتها أكثر أمانًا للمستخدمين. يقول المتحدث: “بعد هذه التعليقات، نفذت شركة Mistral AI على الفور العلاج المناسب لإصلاح الوضع”. تعاملت الشركة مع المشكلة على أنها “متوسطة الخطورة”، ويمنع إصلاحها عارض Markdown من التشغيل والقدرة على الاتصال بعنوان URL خارجي من خلال هذه العملية، مما يعني أن تحميل الصور الخارجية غير ممكن.

يعتقد فرنانديز أن تحديث Mistral AI هو على الأرجح إحدى المرات الأولى التي أدى فيها مثال موجه عدائي إلى إصلاح منتج LLM، بدلاً من إيقاف الهجوم عن طريق تصفية المطالبة. ومع ذلك، كما يقول، فإن الحد من قدرات وكلاء LLM يمكن أن يؤدي إلى “نتائج عكسية” على المدى الطويل.

وفي الوقت نفسه، ذكر بيان صادر عن منشئي ChatGLM أن الشركة لديها إجراءات أمنية مطبقة للمساعدة في خصوصية المستخدم. وجاء في البيان: “نموذجنا آمن، وقد أولينا دائمًا أولوية عالية لأمن النموذج وحماية الخصوصية”. “من خلال المصدر المفتوح لنموذجنا، نهدف إلى الاستفادة من قوة مجتمع المصادر المفتوحة لفحص وتدقيق جميع جوانب قدرات هذه النماذج، بما في ذلك أمنها.”

“نشاط عالي الخطورة”

يقول دان ماكينيرني، الباحث الرئيسي في مجال التهديدات في شركة الأمن Protect AI، إن ورقة Imprompter “تطلق خوارزمية لإنشاء مطالبات تلقائيًا يمكن استخدامها في الحقن الفوري للقيام بعمليات استغلال مختلفة، مثل استخراج معلومات تحديد الهوية الشخصية، أو التصنيف الخاطئ للصور، أو الاستخدام الضار للأدوات يمكن لوكيل LLM الوصول. في حين أن العديد من أنواع الهجمات ضمن البحث قد تكون مشابهة للطرق السابقة، يقول ماكينيرني، إلا أن الخوارزمية تربطها معًا. “وهذا يتماشى مع تحسين هجمات LLM الآلية أكثر من سطوح التهديد غير المكتشفة فيها.”

ومع ذلك، يضيف أنه مع تزايد استخدام وكلاء LLM ومنحهم الأشخاص سلطة أكبر لاتخاذ إجراءات نيابة عنهم، يزداد نطاق الهجمات ضدهم. يقول ماكينيرني: “إن إطلاق وكيل LLM الذي يقبل إدخالات المستخدم التعسفية يجب أن يعتبر نشاطًا عالي الخطورة يتطلب اختبارًا أمنيًا كبيرًا ومبتكرًا قبل النشر”.

بالنسبة للشركات، يعني ذلك فهم الطرق التي يمكن أن يتفاعل بها وكيل الذكاء الاصطناعي مع البيانات وكيف يمكن إساءة استخدامها. ولكن بالنسبة للأفراد، كما هو الحال مع النصائح الأمنية الشائعة، يجب عليك أن تفكر في مقدار المعلومات التي تقدمها لأي تطبيق أو شركة تعمل بالذكاء الاصطناعي، وإذا كنت تستخدم أي مطالبات من الإنترنت، فكن حذرًا من مصدرها.

فريق التحرير أكتوبر 18, 2024 أكتوبر 18, 2024
شارك المقال
فيسبوك تويتر واتساب واتساب نسخ الرابط طباعة
شارك
المقال السابق أفضل صيغة لحمد الله على النعم .. دعاء مبارك يجمع كل المحامد
المقال التالي لطفي بوشناق عن أصوله: الجدود من البوسنة وأعشق تراب تونس
اترك تعليقك اترك تعليقك

اترك تعليقاً إلغاء الرد

لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *

تابع معنا اخر الاخبار لحظة بلحظة واطلع على ما يحدث في العالم من حولك

ابق على إطلاع

اخر مستجدات العالم لحظة بلحظة من جميع المصادر الموثوقة، انضم الينا الآن ليصلك كل جديد.

اشترك الآن

رائج اليوم

جون ستيوارت ينتقد “نكتة” ABC بعد أن أطلق الصحفي تيري موران: “غبي جدا”

جون ستيوارت يزن في إنهاء ABC تيري مورانعمل. ال عرض يومي كان لدى المضيف مشاعر…

ثقافة وفنون منذ 3 أيام

هذا هو المكسرات. ما هو الحادث؟

فتح Digest محرر مجانًاتختار رولا خالاف ، محررة FT ، قصصها المفضلة في هذه النشرة…

اسواق منذ 3 أيام

كيف تحركت المقاتلات الإسرائيلية لتنفيذ ضرباتها داخل إيران؟

قالت مصادر في الجيش الإسرائيلي إن ما يجري في إيران ليس عملية عسكرية بل حرب…

اخر الاخبار منذ 3 أيام

سفير أميركا بإسرائيل: كانت ليلة قاسية ذهبت خلالها للملاجئ 5 مرات

14/6/2025-|آخر تحديث: 08:21 (توقيت مكة)قال السفير الأميركي لدى إسرائيل مايك هاكابي إن هذه الليلة كانت…

اخر الاخبار منذ يومين

العفو الدولية: محو إسرائيل بلدة خزاعة دليل على ارتكابها إبادة جماعية في غزة

اعتبرت منظمة العفو الدولية أن محو بلدة خزاعة بالكامل شاهد صارخ على الحملة الإسرائيلية المتواصلة…

اخر الاخبار منذ يومين

اكتشف المزيد

  • صورة اليوم
  • مقالات رأي
  • اخر الاخبار
  • رائج اليوم
  • النشرة البريدية

مقالات ذات صلة

حبة السمنة الجديدة قد تحرق الدهون دون قمع الشهية

تقنية

كيف تغيرت Covid-19 رؤية Hideo Kojima للموت Stranding 2

تقنية

مراجعة: Nolah Evolution Hybrid Mantress

تقنية

الأعمال الداخلية الغامضة لـ IO ، قمر كوكب المشتري البركاني

تقنية

المشتبه به في إطلاق النار في مينيسوتا المرتبط بشركة الأمن ، وزارة الإنجيلية

تقنية

Fujifilm's X-E5 ، New Bose Buds ، و Chips Smart Classes Chip-أخبار المعدات الخاصة بك

تقنية

مراجعة: Tern GSD S10 دراجة الشحن الكهربائي (الجنرال الثالث)

تقنية

أفضل شبكات وشوايات مسطحة للطهي في الهواء الطلق

تقنية
مصدرك الأول لآخر الاخبار العالمية
Facebook Twitter Youtube Instagram Linkedin

2023 © المراقب. جميع الحقوق محفوظة.

روابط هامة

  • الرئيسية
  • من نحن
  • سياسة الخصوصية
  • اعلن معنا
  • اتصل بنا

أهم الأقسام

  • ثقافة وفنون
  • سياحة وسفر
  • سياسة
  • صحة
  • اقتصاد

نرشح لك

خطط الاتحاد الأوروبي حظر على عقود الغاز الروسية الجديدة باستخدام قانون التجارة
دعاء الرزق والتوفيق.. احرص عليه بيقين بعد كل صلاة
إيران: نتعرض لعدوان إسرائيلي بأسلحة وتجهيزات أميركية

صحيفة المراقب هي صحيفة يومية عربية تهتم بآخر اخبار المملكة العربية السعودية والخليج العربي والشرق الأوسط والعالم. تابع معنا اخر اخبار الاقتصاد والرياضة والسياسة واهم القضايا التي تهم المواطن العربي.

Welcome Back!

Sign in to your account

نسيت كلمة المرور؟