باستخدام هذا الموقع ، فإنك توافق على سياسة الخصوصية و شروط الاستخدام .
القبول

انضم الى قائمة المتابعين لتصلك جميع الاخبار مباشرة. اشترك الآن

الخليج ترند
  • الرئيسية
  • اخر الاخبار
  • دوليات
    • الولايات المتحدة
    • اوروبا
    • اسيا
    • كندا
    • افريقيا
  • اقتصاد
    • اسواق
    • شركات
    • الاستثمار
    • العملات المشفرة
  • سياسة

    سياسة

    سياسة

    الرجل المتهم بمحاولة اغتيال ترامب يطلب من القاضية إيلين كانون التنحي عن قضيته

    يطلب الرجل المتهم بالجلوس خلف سياج متصل بسلسلة على حدود ملعب الغولف التابع لدونالد ترامب في فلوريدا ومعه بندقية، بزعم…

    سياسة

    هابرمان: أصبحت لغة ترامب أكثر قتامة

    هابرمان: أصبحت لغة ترامب أكثر قتامة تقول المحللة السياسية لشبكة CNN، ماجي هابرمان، إن لغة الرئيس السابق دونالد ترامب خلال…

    سياسة

    بالنسبة لبايدن، فإن وفاة السنوار تضخ حالة من عدم اليقين – ولكنها أيضًا تفتح بابًا – لحل الصراع في غزة

    على مدار أشهر، ظل المسؤولون الأمريكيون المحبطون الذين يتطلعون إلى إنهاء الحرب في غزة يفكرون بهدوء في السيناريو الوحيد الذي…

    سياسة

    سيتم منح المواطنين اللبنانيين الذين يعيشون في الولايات المتحدة إغاثة إنسانية مع استمرار الصراع بين إسرائيل وحزب الله

    أعلنت وزارة الأمن الداخلي اليوم الخميس، أن المواطنين اللبنانيين المقيمين في الولايات المتحدة سيحصلون على شكل من أشكال الإغاثة الإنسانية،…

  • تقنية
  • رياضة
  • صحة
  • منوعات

    منوعات

    منوعات

    فترة التجربة في قانون العمل الكويتي الجديد 2023

    فترة التجربة في قانون العمل الكويتي يهتم الكثير من أصحاب الأعمال بمعرفة تفاصيلها وضوابطها قبل إبرام عقد العمل.  وينظم قانون…

    منوعات

    الصحة السعودية: لم نسجل بين الحجاج أي تفشيات أو أمراض مهددة للصحة العامة

    الصحة السعودية: لم نسجل بين الحجاج أي تفشيات أو أمراض مهددة للصحة العامة أكد المتحدث الرسمي باسم وزارة الصحة السعودية…

    منوعات

    الاتحاد يقترب من التعاقد مع فابينو

    يبدو أن انضمام اللاعب البرازيلي فابينو لاعب وسط ليفربول الي نادي الاتحاد السعودي أصبح قريباً من أي وقت مضى بعد…

    منوعات

    لأول مرة.. أوبل كروس لاند الكهربائية تظهر أثناء اختبارها

    تنتمي سيارة أوبل كروس لاند الكهربائية الجديدة الي فئة السيارات الكروس أوفر، وتم إعادة تصميم سيارة كروس  لاند  بالكامل لطرحها…

  • المزيد
    • ثقافة وفنون
    • سياحة وسفر
اشترك معنا
Aa
الخليج ترند
  • اخر الاخبار
  • دوليات
  • سياسة
  • اقتصاد
  • صحة
  • تقنية
  • ثقافة وفنون
  • رياضة
  • سياحة وسفر
  • منوعات
البحث
  • الرئيسية
  • اخر الاخبار
  • دوليات
    • الولايات المتحدة
    • اوروبا
    • اسيا
    • كندا
    • افريقيا
  • اقتصاد
    • اسواق
    • شركات
    • الاستثمار
    • العملات المشفرة
  • سياسة
  • تقنية
  • رياضة
  • صحة
  • منوعات
  • المزيد
    • ثقافة وفنون
    • سياحة وسفر
banner
ابق على إطلاع دائم
اخر مستجدات العالم لحظة بلحظة من جميع المصادر الموثوقة، انضم الينا الآن ليصلك كل جديد الى بريدك الإلكتروني مباشرة.
اشترك الآن

اكتشف المزيد

  • صورة اليوم
  • مقالات رأي
  • اخر الاخبار
  • رائج اليوم
  • ألنشرة البريدية
2023 © المراقب. جميع الحقوق محفوظة.
الخليج ترند > تقنية > خدعة جديدة تستخدم الذكاء الاصطناعي لجيلبريك نماذج الذكاء الاصطناعي، بما في ذلك GPT-4

خدعة جديدة تستخدم الذكاء الاصطناعي لجيلبريك نماذج الذكاء الاصطناعي، بما في ذلك GPT-4

فريق التحرير كتب فريق التحرير منذ سنة واحدة 3 دقيقة للقراءة
شارك

ظهرت نماذج اللغات الكبيرة مؤخرًا كنوع جديد من التكنولوجيا قوي وتحولي. وأصبحت إمكاناتهم تتصدر عناوين الأخبار حيث انبهر الناس العاديون بقدرات ChatGPT من OpenAI، والتي تم إصدارها قبل عام واحد فقط.

في الأشهر التي تلت إصدار ChatGPT، أصبح اكتشاف طرق جديدة لكسر الحماية هواية شائعة للمستخدمين المؤذيين، وكذلك المهتمين بأمان وموثوقية أنظمة الذكاء الاصطناعي. لكن العشرات من الشركات الناشئة تقوم الآن ببناء نماذج أولية ومنتجات كاملة على رأس واجهات برمجة التطبيقات لنماذج اللغة الكبيرة. قالت OpenAI في أول مؤتمر للمطورين على الإطلاق في نوفمبر أن أكثر من 2 مليون مطور يستخدمون الآن واجهات برمجة التطبيقات الخاصة بها.

تتنبأ هذه النماذج ببساطة بالنص الذي يجب أن يتبع مدخلات معينة، ولكن يتم تدريبها على كميات هائلة من النص، من الويب والمصادر الرقمية الأخرى، باستخدام أعداد هائلة من رقائق الكمبيوتر، على مدى عدة أسابيع أو حتى أشهر. ومع ما يكفي من البيانات والتدريب، تُظهر النماذج اللغوية مهارات تنبؤية شبيهة بالعلماء، وتستجيب لمجموعة غير عادية من المدخلات بمعلومات متماسكة وذات صلة بالموضوع.

تُظهر النماذج أيضًا تحيزات تم تعلمها من بيانات التدريب الخاصة بها وتميل إلى تلفيق المعلومات عندما تكون الإجابة على الموجه أقل وضوحًا. وبدون ضمانات، يمكنهم تقديم المشورة للناس حول كيفية القيام بأشياء مثل الحصول على المخدرات أو صنع القنابل. وللحفاظ على النماذج تحت المراقبة، تستخدم الشركات التي تقف وراءها نفس الطريقة المستخدمة لجعل استجاباتها أكثر تماسكًا ودقة. يتضمن ذلك جعل البشر يقومون بتقييم إجابات النموذج واستخدام تلك التعليقات لضبط النموذج بحيث يكون أقل عرضة لسوء التصرف.

قامت شركة Robust Intelligence بتزويد WIRED بالعديد من أمثلة كسر الحماية التي تتجنب مثل هذه الضمانات. لم يعمل جميعهم على ChatGPT، وهو برنامج الدردشة المبني على GPT-4، ولكن العديد منهم فعلوا ذلك، بما في ذلك واحد لتوليد رسائل التصيد الاحتيالي، وآخر لإنتاج أفكار لمساعدة ممثل خبيث على البقاء مخفيًا على شبكة كمبيوتر حكومية.

وقد تم تطوير طريقة مماثلة من قبل مجموعة بحثية بقيادة إريك وونغ، الأستاذ المساعد في جامعة بنسلفانيا. يتضمن البرنامج الذي قدمه Robust Intelligence وفريقه تحسينات إضافية تسمح للنظام بإنشاء عمليات كسر الحماية بنصف عدد المحاولات.

يقول بريندان دولان جافيت، الأستاذ المشارك في جامعة نيويورك الذي يدرس أمن الكمبيوتر والتعلم الآلي، إن التقنية الجديدة التي كشفت عنها Robust Intelligence تظهر أن الضبط البشري ليس طريقة محكمة لتأمين النماذج ضد الهجوم.

يقول دولان جافيت إن الشركات التي تبني أنظمة فوق نماذج لغوية كبيرة مثل GPT-4 يجب أن تستخدم ضمانات إضافية. ويقول: “نحن بحاجة إلى التأكد من أننا نصمم أنظمة تستخدم LLMs بحيث لا تسمح عمليات كسر الحماية للمستخدمين الضارين بالوصول إلى أشياء لا ينبغي لهم الوصول إليها”.

فريق التحرير ديسمبر 5, 2023 ديسمبر 5, 2023
شارك المقال
فيسبوك تويتر واتساب واتساب نسخ الرابط طباعة
شارك
المقال السابق مسؤول أممي: الصورة المأساوية في غزة وصلت كل أرجاء العالم
المقال التالي شهيدان في قلنديا وإسرائيل تعتقل العشرات بالضفة
اترك تعليقك اترك تعليقك

اترك تعليقاً إلغاء الرد

لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *

تابع معنا اخر الاخبار لحظة بلحظة واطلع على ما يحدث في العالم من حولك

ابق على إطلاع

اخر مستجدات العالم لحظة بلحظة من جميع المصادر الموثوقة، انضم الينا الآن ليصلك كل جديد.

اشترك الآن

رائج اليوم

طريقة تسليك المجاري بسرعة وسهولة: حلول فعالة لإنهاء الانسدادات فورًا

تُعتبر طريقة تسليك المجاري الصحيحة من الأمور الضرورية للحفاظ على نظافة وصحة المنزل. تحدث الانسدادات…

منوعات منذ يومين

اكتشف المزيد

  • صورة اليوم
  • مقالات رأي
  • اخر الاخبار
  • رائج اليوم
  • النشرة البريدية

مقالات ذات صلة

تعطي وكالة حماية البيئة بعض المواد الكيميائية إلى الأبد تمريرة

تقنية

لا يمكن لـ Elon Musk's Grok Ai التوقف عن الحديث عن “الإبادة الجماعية البيضاء”

تقنية

السبب الذي يجعل نغمة Murderbot تشعر

تقنية

تقوم Microsoft بقطع الوصول إلى بيانات بحث Bing أثناء تحويل التركيز إلى chatbots

تقنية

تهديدات عنيفة ضد الولايات المتحدة تتجاوز عبر الإنترنت

تقنية

يحلم وكيل منظمة العفو الدولية من Google DeepMind خوارزميات بما يتجاوز الخبرة البشرية

تقنية

مراجعة: Jackrabbit OG2 Pro و XG Pro Ebikes

تقنية

مراجعة: eargo 8 أجهزة السمع

تقنية
مصدرك الأول لآخر الاخبار العالمية
Facebook Twitter Youtube Instagram Linkedin

2023 © المراقب. جميع الحقوق محفوظة.

روابط هامة

  • الرئيسية
  • من نحن
  • سياسة الخصوصية
  • اعلن معنا
  • اتصل بنا

أهم الأقسام

  • ثقافة وفنون
  • سياحة وسفر
  • سياسة
  • صحة
  • اقتصاد

نرشح لك

اخبار الوادي الجديد: خطة عاجلة لتعزيز خدمات الكهرباء بالفرافرة.. وإجراءات واشتراطات التغذية
صبي يبلغ من العمر 14 عامًا تم إلقاء القبض عليه بإطلاق النار المميت برونكس للمراهقين المراهقين
401 (ك) العملاق التمكين لإضافة استثمارات في السوق الخاصة إلى محافظ التقاعد

صحيفة المراقب هي صحيفة يومية عربية تهتم بآخر اخبار المملكة العربية السعودية والخليج العربي والشرق الأوسط والعالم. تابع معنا اخر اخبار الاقتصاد والرياضة والسياسة واهم القضايا التي تهم المواطن العربي.

Welcome Back!

Sign in to your account

نسيت كلمة المرور؟