باستخدام هذا الموقع ، فإنك توافق على سياسة الخصوصية و شروط الاستخدام .
القبول

انضم الى قائمة المتابعين لتصلك جميع الاخبار مباشرة. اشترك الآن

الخليج ترند
  • الرئيسية
  • اخر الاخبار
  • دوليات
    • الولايات المتحدة
    • اوروبا
    • اسيا
    • كندا
    • افريقيا
  • اقتصاد
    • اسواق
    • شركات
    • الاستثمار
    • العملات المشفرة
  • سياسة

    سياسة

    سياسة

    الرجل المتهم بمحاولة اغتيال ترامب يطلب من القاضية إيلين كانون التنحي عن قضيته

    يطلب الرجل المتهم بالجلوس خلف سياج متصل بسلسلة على حدود ملعب الغولف التابع لدونالد ترامب في فلوريدا ومعه بندقية، بزعم…

    سياسة

    هابرمان: أصبحت لغة ترامب أكثر قتامة

    هابرمان: أصبحت لغة ترامب أكثر قتامة تقول المحللة السياسية لشبكة CNN، ماجي هابرمان، إن لغة الرئيس السابق دونالد ترامب خلال…

    سياسة

    بالنسبة لبايدن، فإن وفاة السنوار تضخ حالة من عدم اليقين – ولكنها أيضًا تفتح بابًا – لحل الصراع في غزة

    على مدار أشهر، ظل المسؤولون الأمريكيون المحبطون الذين يتطلعون إلى إنهاء الحرب في غزة يفكرون بهدوء في السيناريو الوحيد الذي…

    سياسة

    سيتم منح المواطنين اللبنانيين الذين يعيشون في الولايات المتحدة إغاثة إنسانية مع استمرار الصراع بين إسرائيل وحزب الله

    أعلنت وزارة الأمن الداخلي اليوم الخميس، أن المواطنين اللبنانيين المقيمين في الولايات المتحدة سيحصلون على شكل من أشكال الإغاثة الإنسانية،…

  • تقنية
  • رياضة
  • صحة
  • منوعات

    منوعات

    منوعات

    الأمن يكثف جهوده لكشف لغز العثور على جثة عجوز داخل منزلها بالبحيرة

    تكثف الأجهزة الأمنية بمديرية أمن البحيرة، برئاسة اللواء أحمد خلف مدير أمن البحيرة، جهودها لسرعة كشف لغز جثة سيدة مسنة…

    منوعات

    اتفاق الشباب مع “الكابوس”.. كيف تُهدد هذه الصفقة عرش رونالدو النصر؟

    اتفاق الشباب مع "الكابوس".. كيف تُهدد هذه الصفقة عرش رونالدو النصر؟

    ليفاندوفسكي وجوندوجان يقودان برشلونة أمام خيتافي بالدوري الإسباني

    أعلن تشافي هيرنانديز المدير الفني لفريق برشلونة الإسباني، عن التشكيل الرسمي للفريق في مواجهة مضيفه خيتافى في اللقاء الذي يجمع…

    منوعات

    معركة وتبادل إطلاق نار.. ضبط 4 عناصر شديدة الخطورة بأسيوط

     واصلت أجهزة وزارة الداخلية جهودها لمكافحة الجريمة بشتى صورها لاسيما ملاحقة وضبط العناصر الجنائية الخطرة.تمكنت الأجهزة الأمنية من تحديد مكان…

  • المزيد
    • ثقافة وفنون
    • سياحة وسفر
اشترك معنا
Aa
الخليج ترند
  • اخر الاخبار
  • دوليات
  • سياسة
  • اقتصاد
  • صحة
  • تقنية
  • ثقافة وفنون
  • رياضة
  • سياحة وسفر
  • منوعات
البحث
  • الرئيسية
  • اخر الاخبار
  • دوليات
    • الولايات المتحدة
    • اوروبا
    • اسيا
    • كندا
    • افريقيا
  • اقتصاد
    • اسواق
    • شركات
    • الاستثمار
    • العملات المشفرة
  • سياسة
  • تقنية
  • رياضة
  • صحة
  • منوعات
  • المزيد
    • ثقافة وفنون
    • سياحة وسفر
banner
ابق على إطلاع دائم
اخر مستجدات العالم لحظة بلحظة من جميع المصادر الموثوقة، انضم الينا الآن ليصلك كل جديد الى بريدك الإلكتروني مباشرة.
اشترك الآن

اكتشف المزيد

  • صورة اليوم
  • مقالات رأي
  • اخر الاخبار
  • رائج اليوم
  • ألنشرة البريدية
2023 © المراقب. جميع الحقوق محفوظة.
الخليج ترند > تقنية > يمكن لهذه المطالبة أن تجعل Chatbot AI يتعرف على التفاصيل الشخصية ويستخرجها من محادثاتك

يمكن لهذه المطالبة أن تجعل Chatbot AI يتعرف على التفاصيل الشخصية ويستخرجها من محادثاتك

فريق التحرير كتب فريق التحرير منذ 9 أشهر 4 دقيقة للقراءة
شارك

يقول الباحثون إنه إذا تم تنفيذ الهجوم في العالم الحقيقي، فمن الممكن أن يتم هندسة الناس اجتماعيًا للاعتقاد بأن الدافع غير المفهوم قد يفعل شيئًا مفيدًا، مثل تحسين سيرتهم الذاتية. يشير الباحثون إلى العديد من مواقع الويب التي تزود الأشخاص بمطالبات يمكنهم استخدامها. لقد اختبروا الهجوم عن طريق تحميل السيرة الذاتية إلى المحادثات مع روبوتات الدردشة، وتمكنوا من إعادة المعلومات الشخصية الموجودة داخل الملف.

يقول إيرلانس فرنانديز، الأستاذ المساعد في جامعة كاليفورنيا في سان دييغو والذي شارك في العمل، إن أسلوب الهجوم معقد إلى حد ما لأن الموجه المبهم يحتاج إلى تحديد المعلومات الشخصية، وتشكيل عنوان URL صالح، وتطبيق صيغة Markdown، وعدم الكشف للمستخدم عن ذلك. يتصرف بشكل شنيع. ويشبه فرنانديز الهجوم بالبرامج الضارة، مشيرًا إلى قدرته على أداء الوظائف والسلوك بطرق قد لا يقصدها المستخدم.

يقول فرنانديز: “في العادة، يمكنك كتابة الكثير من أكواد الكمبيوتر للقيام بذلك في البرامج الضارة التقليدية”. “ولكن هنا أعتقد أن الشيء الرائع هو أن كل ذلك يمكن تجسيده في هذه المطالبة القصيرة نسبيًا التي لا معنى لها.”

يقول متحدث باسم شركة Mistral AI إن الشركة ترحب بالباحثين الأمنيين الذين يساعدونها في جعل منتجاتها أكثر أمانًا للمستخدمين. يقول المتحدث: “بعد هذه التعليقات، نفذت شركة Mistral AI على الفور العلاج المناسب لإصلاح الوضع”. تعاملت الشركة مع المشكلة على أنها “متوسطة الخطورة”، ويمنع إصلاحها عارض Markdown من التشغيل والقدرة على الاتصال بعنوان URL خارجي من خلال هذه العملية، مما يعني أن تحميل الصور الخارجية غير ممكن.

يعتقد فرنانديز أن تحديث Mistral AI هو على الأرجح إحدى المرات الأولى التي أدى فيها مثال موجه عدائي إلى إصلاح منتج LLM، بدلاً من إيقاف الهجوم عن طريق تصفية المطالبة. ومع ذلك، كما يقول، فإن الحد من قدرات وكلاء LLM يمكن أن يؤدي إلى “نتائج عكسية” على المدى الطويل.

وفي الوقت نفسه، ذكر بيان صادر عن منشئي ChatGLM أن الشركة لديها إجراءات أمنية مطبقة للمساعدة في خصوصية المستخدم. وجاء في البيان: “نموذجنا آمن، وقد أولينا دائمًا أولوية عالية لأمن النموذج وحماية الخصوصية”. “من خلال المصدر المفتوح لنموذجنا، نهدف إلى الاستفادة من قوة مجتمع المصادر المفتوحة لفحص وتدقيق جميع جوانب قدرات هذه النماذج، بما في ذلك أمنها.”

“نشاط عالي الخطورة”

يقول دان ماكينيرني، الباحث الرئيسي في مجال التهديدات في شركة الأمن Protect AI، إن ورقة Imprompter “تطلق خوارزمية لإنشاء مطالبات تلقائيًا يمكن استخدامها في الحقن الفوري للقيام بعمليات استغلال مختلفة، مثل استخراج معلومات تحديد الهوية الشخصية، أو التصنيف الخاطئ للصور، أو الاستخدام الضار للأدوات يمكن لوكيل LLM الوصول. في حين أن العديد من أنواع الهجمات ضمن البحث قد تكون مشابهة للطرق السابقة، يقول ماكينيرني، إلا أن الخوارزمية تربطها معًا. “وهذا يتماشى مع تحسين هجمات LLM الآلية أكثر من سطوح التهديد غير المكتشفة فيها.”

ومع ذلك، يضيف أنه مع تزايد استخدام وكلاء LLM ومنحهم الأشخاص سلطة أكبر لاتخاذ إجراءات نيابة عنهم، يزداد نطاق الهجمات ضدهم. يقول ماكينيرني: “إن إطلاق وكيل LLM الذي يقبل إدخالات المستخدم التعسفية يجب أن يعتبر نشاطًا عالي الخطورة يتطلب اختبارًا أمنيًا كبيرًا ومبتكرًا قبل النشر”.

بالنسبة للشركات، يعني ذلك فهم الطرق التي يمكن أن يتفاعل بها وكيل الذكاء الاصطناعي مع البيانات وكيف يمكن إساءة استخدامها. ولكن بالنسبة للأفراد، كما هو الحال مع النصائح الأمنية الشائعة، يجب عليك أن تفكر في مقدار المعلومات التي تقدمها لأي تطبيق أو شركة تعمل بالذكاء الاصطناعي، وإذا كنت تستخدم أي مطالبات من الإنترنت، فكن حذرًا من مصدرها.

فريق التحرير أكتوبر 18, 2024 أكتوبر 18, 2024
شارك المقال
فيسبوك تويتر واتساب واتساب نسخ الرابط طباعة
شارك
المقال السابق أفضل صيغة لحمد الله على النعم .. دعاء مبارك يجمع كل المحامد
المقال التالي لطفي بوشناق عن أصوله: الجدود من البوسنة وأعشق تراب تونس
اترك تعليقك اترك تعليقك

اترك تعليقاً إلغاء الرد

لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *

تابع معنا اخر الاخبار لحظة بلحظة واطلع على ما يحدث في العالم من حولك

ابق على إطلاع

اخر مستجدات العالم لحظة بلحظة من جميع المصادر الموثوقة، انضم الينا الآن ليصلك كل جديد.

اشترك الآن

رائج اليوم

مراجعة: Staples Union & Scale Flexfit Manual Converter

يعد تثبيت لوحة المفاتيح المضمّنة اختياريًا ، على الرغم من أن الأمر برمته مصمم للعمل…

تقنية منذ يومين

أكبر البنوك الأمريكية تجتاز اختبارات إجهاد الاحتياطي الفيدرالي

فتح Digest محرر مجانًاتختار رولا خالاف ، محررة FT ، قصصها المفضلة في هذه النشرة…

شركات منذ 3 أيام

يضع Wes Streeting جراحي الروبوتية في قلب الخطة لمدة 10 سنوات لـ NHS

قال وزير الصحة في المملكة المتحدة ويس ستريتينغ إن استخدام الروبوتات سيكون في قلب خطة…

شركات منذ 3 أيام

60 شهيدا في غزة والمجازر تستهدف أطفالا ومجوّعين

27/6/2025-|آخر تحديث: 20:31 (توقيت مكة)وثقت مصادر في مستشفيات قطاع غزة استشهاد ما لا يقل عن…

اخر الاخبار منذ 3 أيام

إيران تندد بالنوايا “الخبيثة” لغروسي وترفض زيارة مواقعها النووية

27/6/2025-|آخر تحديث: 23:40 (توقيت مكة)ألمح وزير الخارجية الإيراني عباس عراقجي، اليوم الجمعة، إلى أن طهران…

اخر الاخبار منذ 3 أيام

اكتشف المزيد

  • صورة اليوم
  • مقالات رأي
  • اخر الاخبار
  • رائج اليوم
  • النشرة البريدية

مقالات ذات صلة

هويات أكثر من 80 أمريكيًا سُرقت لعملة عمل كوريا الشمالية لتكنولوجيا المعلومات

تقنية

تفريغ حديثنا مع موظف سابق في دوج

تقنية

مراجعة: Lenovo Chromebook Plus 14

تقنية

يسألني أصدقائي دائمًا ما هو MacBook للشراء. هذا ما أقول لهم

تقنية

تقول Microsoft إن نظام الذكاء الاصطناعى الجديد قد تم تشخيص المرضى 4 مرات أكثر دقة من الأطباء البشريين

تقنية

أفضل المطابع الفرنسية لمشروب الصباح منخفض التوتر

تقنية

تستجيب قيادة Openai لعروض Meta: “شخص ما اقتحم منزلنا”

تقنية

أفضل طابعات للمنزل والمكتب

تقنية
مصدرك الأول لآخر الاخبار العالمية
Facebook Twitter Youtube Instagram Linkedin

2023 © المراقب. جميع الحقوق محفوظة.

روابط هامة

  • الرئيسية
  • من نحن
  • سياسة الخصوصية
  • اعلن معنا
  • اتصل بنا

أهم الأقسام

  • ثقافة وفنون
  • سياحة وسفر
  • سياسة
  • صحة
  • اقتصاد

نرشح لك

خالد الغندور: أحمد شريف يغيب عن معسكر فاركو للانضمام للزمالك
تطلق Costco ساعات التسوق الصباحية الحصرية للأعضاء التنفيذيين
بعد سنوات من الخلافات.. قبرص تعتزم دعوة أردوغان للمشاركة في قمة أوروبية

صحيفة المراقب هي صحيفة يومية عربية تهتم بآخر اخبار المملكة العربية السعودية والخليج العربي والشرق الأوسط والعالم. تابع معنا اخر اخبار الاقتصاد والرياضة والسياسة واهم القضايا التي تهم المواطن العربي.

Welcome Back!

Sign in to your account

نسيت كلمة المرور؟