باستخدام هذا الموقع ، فإنك توافق على سياسة الخصوصية و شروط الاستخدام .
القبول

انضم الى قائمة المتابعين لتصلك جميع الاخبار مباشرة. اشترك الآن

الخليج ترند
  • الرئيسية
  • اخر الاخبار
  • دوليات
    • الولايات المتحدة
    • اوروبا
    • اسيا
    • كندا
    • افريقيا
  • اقتصاد
    • اسواق
    • شركات
    • الاستثمار
    • العملات المشفرة
  • سياسة

    سياسة

    سياسة

    الرجل المتهم بمحاولة اغتيال ترامب يطلب من القاضية إيلين كانون التنحي عن قضيته

    يطلب الرجل المتهم بالجلوس خلف سياج متصل بسلسلة على حدود ملعب الغولف التابع لدونالد ترامب في فلوريدا ومعه بندقية، بزعم…

    سياسة

    هابرمان: أصبحت لغة ترامب أكثر قتامة

    هابرمان: أصبحت لغة ترامب أكثر قتامة تقول المحللة السياسية لشبكة CNN، ماجي هابرمان، إن لغة الرئيس السابق دونالد ترامب خلال…

    سياسة

    بالنسبة لبايدن، فإن وفاة السنوار تضخ حالة من عدم اليقين – ولكنها أيضًا تفتح بابًا – لحل الصراع في غزة

    على مدار أشهر، ظل المسؤولون الأمريكيون المحبطون الذين يتطلعون إلى إنهاء الحرب في غزة يفكرون بهدوء في السيناريو الوحيد الذي…

    سياسة

    سيتم منح المواطنين اللبنانيين الذين يعيشون في الولايات المتحدة إغاثة إنسانية مع استمرار الصراع بين إسرائيل وحزب الله

    أعلنت وزارة الأمن الداخلي اليوم الخميس، أن المواطنين اللبنانيين المقيمين في الولايات المتحدة سيحصلون على شكل من أشكال الإغاثة الإنسانية،…

  • تقنية
  • رياضة
  • صحة
  • منوعات

    منوعات

    الاستعلام عن حالة وافد برقم الاقامة بالخطوات 2023

    الاستعلام عن حالة وافد برقم الاقامة بالخطوات 2023 الاستعلام عن وافد برقم الاقامة من أهم المزايا التي تقدمها وزارة الموارد…

    منوعات

    “رسميا” نتائج الصف التاسع سوريا 2023 برقم الاكتتاب والاسم عبر موقع وزارة التربية moed.gov.sy

    نتائج الصف التاسع سوريا هي أحد أهم الأخبار التي ينتظرها الطلاب وأولياء الأمور في سوريا. حيث تعكس هذه النتائج جهود…

    منوعات

    ملف فاندايك يُفتح من جديد!! واتفاق مبدئي مع المدافع للانضمام إلى النصر

    خلال الساعات الماضية قد توصل نادي النصر السعودي إلى اتفاق مبدئي مع فريق بالميراس البرازيلي؛ وذلك للتعاقد مع "غوميز". لكن…

    منوعات

    لن تصبحوا غربيين وإن صبغتم شعركم.. كيف سترد الصين على جيرانها؟

    يبدو أن فصلاً جديداً من التوتر وربما العسكرة سيشهده المحيط الهادئ، بعد قمة كامب ديفيد الثلاثية التي عقدت أمس بين…

  • المزيد
    • ثقافة وفنون
    • سياحة وسفر
اشترك معنا
Aa
الخليج ترند
  • اخر الاخبار
  • دوليات
  • سياسة
  • اقتصاد
  • صحة
  • تقنية
  • ثقافة وفنون
  • رياضة
  • سياحة وسفر
  • منوعات
البحث
  • الرئيسية
  • اخر الاخبار
  • دوليات
    • الولايات المتحدة
    • اوروبا
    • اسيا
    • كندا
    • افريقيا
  • اقتصاد
    • اسواق
    • شركات
    • الاستثمار
    • العملات المشفرة
  • سياسة
  • تقنية
  • رياضة
  • صحة
  • منوعات
  • المزيد
    • ثقافة وفنون
    • سياحة وسفر
banner
ابق على إطلاع دائم
اخر مستجدات العالم لحظة بلحظة من جميع المصادر الموثوقة، انضم الينا الآن ليصلك كل جديد الى بريدك الإلكتروني مباشرة.
اشترك الآن

اكتشف المزيد

  • صورة اليوم
  • مقالات رأي
  • اخر الاخبار
  • رائج اليوم
  • ألنشرة البريدية
2023 © المراقب. جميع الحقوق محفوظة.
الخليج ترند > تقنية > خدعة جديدة تستخدم الذكاء الاصطناعي لجيلبريك نماذج الذكاء الاصطناعي، بما في ذلك GPT-4

خدعة جديدة تستخدم الذكاء الاصطناعي لجيلبريك نماذج الذكاء الاصطناعي، بما في ذلك GPT-4

فريق التحرير كتب فريق التحرير منذ سنتين 3 دقيقة للقراءة
شارك

ظهرت نماذج اللغات الكبيرة مؤخرًا كنوع جديد من التكنولوجيا قوي وتحولي. وأصبحت إمكاناتهم تتصدر عناوين الأخبار حيث انبهر الناس العاديون بقدرات ChatGPT من OpenAI، والتي تم إصدارها قبل عام واحد فقط.

في الأشهر التي تلت إصدار ChatGPT، أصبح اكتشاف طرق جديدة لكسر الحماية هواية شائعة للمستخدمين المؤذيين، وكذلك المهتمين بأمان وموثوقية أنظمة الذكاء الاصطناعي. لكن العشرات من الشركات الناشئة تقوم الآن ببناء نماذج أولية ومنتجات كاملة على رأس واجهات برمجة التطبيقات لنماذج اللغة الكبيرة. قالت OpenAI في أول مؤتمر للمطورين على الإطلاق في نوفمبر أن أكثر من 2 مليون مطور يستخدمون الآن واجهات برمجة التطبيقات الخاصة بها.

تتنبأ هذه النماذج ببساطة بالنص الذي يجب أن يتبع مدخلات معينة، ولكن يتم تدريبها على كميات هائلة من النص، من الويب والمصادر الرقمية الأخرى، باستخدام أعداد هائلة من رقائق الكمبيوتر، على مدى عدة أسابيع أو حتى أشهر. ومع ما يكفي من البيانات والتدريب، تُظهر النماذج اللغوية مهارات تنبؤية شبيهة بالعلماء، وتستجيب لمجموعة غير عادية من المدخلات بمعلومات متماسكة وذات صلة بالموضوع.

تُظهر النماذج أيضًا تحيزات تم تعلمها من بيانات التدريب الخاصة بها وتميل إلى تلفيق المعلومات عندما تكون الإجابة على الموجه أقل وضوحًا. وبدون ضمانات، يمكنهم تقديم المشورة للناس حول كيفية القيام بأشياء مثل الحصول على المخدرات أو صنع القنابل. وللحفاظ على النماذج تحت المراقبة، تستخدم الشركات التي تقف وراءها نفس الطريقة المستخدمة لجعل استجاباتها أكثر تماسكًا ودقة. يتضمن ذلك جعل البشر يقومون بتقييم إجابات النموذج واستخدام تلك التعليقات لضبط النموذج بحيث يكون أقل عرضة لسوء التصرف.

قامت شركة Robust Intelligence بتزويد WIRED بالعديد من أمثلة كسر الحماية التي تتجنب مثل هذه الضمانات. لم يعمل جميعهم على ChatGPT، وهو برنامج الدردشة المبني على GPT-4، ولكن العديد منهم فعلوا ذلك، بما في ذلك واحد لتوليد رسائل التصيد الاحتيالي، وآخر لإنتاج أفكار لمساعدة ممثل خبيث على البقاء مخفيًا على شبكة كمبيوتر حكومية.

وقد تم تطوير طريقة مماثلة من قبل مجموعة بحثية بقيادة إريك وونغ، الأستاذ المساعد في جامعة بنسلفانيا. يتضمن البرنامج الذي قدمه Robust Intelligence وفريقه تحسينات إضافية تسمح للنظام بإنشاء عمليات كسر الحماية بنصف عدد المحاولات.

يقول بريندان دولان جافيت، الأستاذ المشارك في جامعة نيويورك الذي يدرس أمن الكمبيوتر والتعلم الآلي، إن التقنية الجديدة التي كشفت عنها Robust Intelligence تظهر أن الضبط البشري ليس طريقة محكمة لتأمين النماذج ضد الهجوم.

يقول دولان جافيت إن الشركات التي تبني أنظمة فوق نماذج لغوية كبيرة مثل GPT-4 يجب أن تستخدم ضمانات إضافية. ويقول: “نحن بحاجة إلى التأكد من أننا نصمم أنظمة تستخدم LLMs بحيث لا تسمح عمليات كسر الحماية للمستخدمين الضارين بالوصول إلى أشياء لا ينبغي لهم الوصول إليها”.

فريق التحرير ديسمبر 5, 2023 ديسمبر 5, 2023
شارك المقال
فيسبوك تويتر واتساب واتساب نسخ الرابط طباعة
شارك
المقال السابق مسؤول أممي: الصورة المأساوية في غزة وصلت كل أرجاء العالم
المقال التالي شهيدان في قلنديا وإسرائيل تعتقل العشرات بالضفة
اترك تعليقك اترك تعليقك

اترك تعليقاً إلغاء الرد

لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *

تابع معنا اخر الاخبار لحظة بلحظة واطلع على ما يحدث في العالم من حولك

ابق على إطلاع

اخر مستجدات العالم لحظة بلحظة من جميع المصادر الموثوقة، انضم الينا الآن ليصلك كل جديد.

اشترك الآن

رائج اليوم

العفو الدولية: محو إسرائيل بلدة خزاعة دليل على ارتكابها إبادة جماعية في غزة

اعتبرت منظمة العفو الدولية أن محو بلدة خزاعة بالكامل شاهد صارخ على الحملة الإسرائيلية المتواصلة…

اخر الاخبار منذ 3 أيام

Pat Stay Murder Trial: توترات ترتفع وخارج المحكمة مع بدء الحجج الختامية

استمعت هيئة محلفين في المحكمة العليا في نوفا سكوتيا إلى حجج ختامية من التاج في…

كندا منذ 3 أيام

سفير أميركا بإسرائيل: كانت ليلة قاسية ذهبت خلالها للملاجئ 5 مرات

14/6/2025-|آخر تحديث: 08:21 (توقيت مكة)قال السفير الأميركي لدى إسرائيل مايك هاكابي إن هذه الليلة كانت…

اخر الاخبار منذ 3 أيام

اعتداء بلطجية على نشطاء “قافلة الصمود” في مصر

14/6/2025-|آخر تحديث: 05:03 (توقيت مكة)أظهرت مشاهد مصورة اعتداء بلطجية على النشطاء الموجودين في مصر، والذين…

اخر الاخبار منذ 3 أيام

إصابة مدنيين في الأردن جراء سقوط «جسم متفجر»

أفادت وسائل إعلام أردنية رسمية اليوم، السبت، بإصابة مدنيين جراء سقوط "جسم متفجر" في مدينة…

منوعات منذ 3 أيام

اكتشف المزيد

  • صورة اليوم
  • مقالات رأي
  • اخر الاخبار
  • رائج اليوم
  • النشرة البريدية

مقالات ذات صلة

جرب هذا الإصدار المجاني من Microsoft Office الذي يعمل في متصفحك

تقنية

“Psyop”: إلى أي مدى تطورت نظريات المؤامرة اليمينية حول إطلاق النار في مينيسوتا لحماية ماجا

تقنية

9 أسئلة عاجلة حول ترامب موبايل والهاتف الذكي الذهبي T1

تقنية

كيف أنشأت Apple كاميرا iPhone مخصصة لـ F1

تقنية

أفضل مراتب عضوية ، تم فحصها واختبارها بالكامل

تقنية

تحذر الشركات SEC من أن عمليات الترحيل الجماعي تشكل مخاطر تجارية خطيرة

تقنية

الدليل السلكي لحماية نفسك من المراقبة الحكومية

تقنية

6 أدوات لتتبع هجمات إدارة ترامب على الحريات المدنية

تقنية
مصدرك الأول لآخر الاخبار العالمية
Facebook Twitter Youtube Instagram Linkedin

2023 © المراقب. جميع الحقوق محفوظة.

روابط هامة

  • الرئيسية
  • من نحن
  • سياسة الخصوصية
  • اعلن معنا
  • اتصل بنا

أهم الأقسام

  • ثقافة وفنون
  • سياحة وسفر
  • سياسة
  • صحة
  • اقتصاد

نرشح لك

تعرف على توقيتات الصلاة فى أسوان .. اليوم
يعترف روري ماكلروي بأنه يعيش “حياة مختلفة” بينما تتخطى الزوجة إيريكا ستول الولايات المتحدة مفتوحة
بالقانون.. حظر دخول منتجات زراعية مصابة بالآفات

صحيفة المراقب هي صحيفة يومية عربية تهتم بآخر اخبار المملكة العربية السعودية والخليج العربي والشرق الأوسط والعالم. تابع معنا اخر اخبار الاقتصاد والرياضة والسياسة واهم القضايا التي تهم المواطن العربي.

Welcome Back!

Sign in to your account

نسيت كلمة المرور؟