باستخدام هذا الموقع ، فإنك توافق على سياسة الخصوصية و شروط الاستخدام .
القبول

انضم الى قائمة المتابعين لتصلك جميع الاخبار مباشرة. اشترك الآن

الخليج ترند
  • الرئيسية
  • اخر الاخبار
  • دوليات
    • الولايات المتحدة
    • اوروبا
    • اسيا
    • كندا
    • افريقيا
  • اقتصاد
    • اسواق
    • شركات
    • الاستثمار
    • العملات المشفرة
  • سياسة

    سياسة

    سياسة

    الرجل المتهم بمحاولة اغتيال ترامب يطلب من القاضية إيلين كانون التنحي عن قضيته

    يطلب الرجل المتهم بالجلوس خلف سياج متصل بسلسلة على حدود ملعب الغولف التابع لدونالد ترامب في فلوريدا ومعه بندقية، بزعم…

    سياسة

    هابرمان: أصبحت لغة ترامب أكثر قتامة

    هابرمان: أصبحت لغة ترامب أكثر قتامة تقول المحللة السياسية لشبكة CNN، ماجي هابرمان، إن لغة الرئيس السابق دونالد ترامب خلال…

    سياسة

    بالنسبة لبايدن، فإن وفاة السنوار تضخ حالة من عدم اليقين – ولكنها أيضًا تفتح بابًا – لحل الصراع في غزة

    على مدار أشهر، ظل المسؤولون الأمريكيون المحبطون الذين يتطلعون إلى إنهاء الحرب في غزة يفكرون بهدوء في السيناريو الوحيد الذي…

    سياسة

    سيتم منح المواطنين اللبنانيين الذين يعيشون في الولايات المتحدة إغاثة إنسانية مع استمرار الصراع بين إسرائيل وحزب الله

    أعلنت وزارة الأمن الداخلي اليوم الخميس، أن المواطنين اللبنانيين المقيمين في الولايات المتحدة سيحصلون على شكل من أشكال الإغاثة الإنسانية،…

  • تقنية
  • رياضة
  • صحة
  • منوعات

    منوعات

    منوعات

    وكيل الطب الوقائى بالدقهلية يتابع جاهزية منشآت الرعاية الأولية استعدادا للعيد

    وجه الدكتور تامر مدكور وكيل وزارة الصحة  بالدقهلية، فريقاً موسعاً من الطب الوقائى تحت إشراف الدكتور تامر الطنبولى وكيل المدرية…

    منوعات

    أمير هشام: مسئول في نادي ألميريا الإسباني مرشح لمناصب عدة في الزمالك

    تحدّث الإعلامي أمير هشام عن ترشّح اسم جديد لمناصب مهمة داخل نادي الزمالك خلال الفترة المقبلة.وقال هشام، عبر برنامج "بلس…

    افضل دكتور انف وأذن وحنجرة في مستشفى السلام الدولي

    ما هذا افضل دكتور انف واذن وحنجرة بمستشفى السلامحيث يضم قسم الأذن والأنف والحنجرة بمستشفى السلام نخبة كبيرة من أكبر…

    لا يجوز فتح الطرود والحاويات إلا بحضور ذوى الشأن أو الوكلاء.. اعرف التفاصيل – منوعات

    نص قانون الجمارك رقم 207 لسنة 2020 على عدم جواز فتح الطرود والحاويات للتفتيش إلا بحضور ذوي العلاقة أو وكلائهم.…

  • المزيد
    • ثقافة وفنون
    • سياحة وسفر
اشترك معنا
Aa
الخليج ترند
  • اخر الاخبار
  • دوليات
  • سياسة
  • اقتصاد
  • صحة
  • تقنية
  • ثقافة وفنون
  • رياضة
  • سياحة وسفر
  • منوعات
البحث
  • الرئيسية
  • اخر الاخبار
  • دوليات
    • الولايات المتحدة
    • اوروبا
    • اسيا
    • كندا
    • افريقيا
  • اقتصاد
    • اسواق
    • شركات
    • الاستثمار
    • العملات المشفرة
  • سياسة
  • تقنية
  • رياضة
  • صحة
  • منوعات
  • المزيد
    • ثقافة وفنون
    • سياحة وسفر
banner
ابق على إطلاع دائم
اخر مستجدات العالم لحظة بلحظة من جميع المصادر الموثوقة، انضم الينا الآن ليصلك كل جديد الى بريدك الإلكتروني مباشرة.
اشترك الآن

اكتشف المزيد

  • صورة اليوم
  • مقالات رأي
  • اخر الاخبار
  • رائج اليوم
  • ألنشرة البريدية
2023 © المراقب. جميع الحقوق محفوظة.
الخليج ترند > تقنية > كلود البشري جيد في الشعر – والهراء

كلود البشري جيد في الشعر – والهراء

فريق التحرير كتب فريق التحرير منذ شهرين 6 دقيقة للقراءة
شارك

يعرف باحثو مجموعة التفسير في الإنسان أن كلود ، نموذج اللغة الكبير للشركة ، ليس إنسانًا ، أو حتى جزءًا من البرامج الواعية. ومع ذلك ، من الصعب جدًا عليهم التحدث عن كلود ، و LLMs المتقدمة بشكل عام ، دون أن يتراجعوا عن حوض مجسم. بين التحذيرات من أن مجموعة من العمليات الرقمية ليست بأي حال من الأحوال مثل الإنسان المتجول ، فإنهم يتحدثون غالبًا عن ما يجري داخل رأس كلود. من حرفيا وظيفتهم لمعرفة ذلك. تصف الأوراق التي ينشرونها السلوكيات التي لا محالة للمقارنات مع الكائنات الواقعية. يقول لقب إحدى الورقتين اللذين أصدرهما الفريق هذا الأسبوع بصوت عالٍ: “على بيولوجيا نموذج لغة كبير”.

شئنا أم لا ، يتفاعل مئات الملايين من الناس بالفعل مع هذه الأشياء ، وستصبح مشاركتنا أكثر كثافة مع تزايد قوة النماذج ونحصل على المزيد من المدمنين. لذلك يجب أن نولي اهتمامًا للعمل الذي يتضمن “تتبع أفكار نماذج اللغة الكبيرة” ، والذي يحدث ليكون عنوان منشور المدونة الذي يصف العمل الأخير. يقول باحث الإنسان جاك ليندسي: “نظرًا لأن الأشياء التي يمكن أن تفعلها هذه النماذج أكثر تعقيدًا ، فإنها تصبح أقل وضوحًا كيف يفعلونها فعليًا في الداخل”. “من المهم أكثر فأكثر أن تكون قادرًا على تتبع الخطوات الداخلية التي قد يتخذها النموذج في رأسه.” (أي رأس؟ لا يهم.)

على المستوى العملي ، إذا فهمت الشركات التي تنشئ LLM كيف تفكر ، فيجب أن يكون لها المزيد من النجاح في تدريب هذه النماذج بطريقة تقلل من سوء السلوك الخطير ، مثل الكشف عن بيانات الأشخاص الشخصية أو إعطاء المستخدمين معلومات حول كيفية صنع الأسلحة البيولوجية. في ورقة بحثية سابقة ، اكتشف فريق الأنثروبور كيفية النظر داخل الصندوق الأسود الغامض لـ LLM-Think لتحديد مفاهيم معينة. (عملية مماثلة لتفسير التصوير بالرنين المغناطيسي البشري لمعرفة ما يفكر فيه شخص ما.) لقد امتدت الآن هذا العمل لفهم كيف يعالج كلود تلك المفاهيم لأنها تنتقل من موجه إلى الإخراج.

إنها تقريبا بديهية مع LLMs أن سلوكهم غالبا ما يفاجئ الأشخاص الذين يبنونهم ويبحثونهم. في آخر دراسة ، استمرت المفاجآت. في واحدة من الحالات الأكثر حميدة ، أثار الباحثون لمحات عن عملية تفكير كلود بينما كتب قصائد. طلبوا من كلود إكمال قصيدة تبدأ ، “رأى جزرًا واضطر إلى الاستيلاء عليها”. كتب كلود السطر التالي ، “كان جوعه مثل أرنب يتضورون جوعا”. من خلال مراقبة ما يعادل كلود للتصوير بالرنين المغناطيسي ، علموا أنه حتى قبل بدء الخط ، كان وميضًا على كلمة “الأرنب” كقافية في نهاية الجملة. كانت تخطط للمستقبل ، شيء ليس في كتاب Playbook Claude. يقول كريس أولا ، الذي يرأس فريق التفسير: “لقد فوجئنا بذلك قليلاً”. “في البداية اعتقدنا أنه سيكون هناك مجرد ارتجال وليس التخطيط.” في حديث للباحثين عن هذا ، أتذكر المقاطع في مذكرات ستيفن سوندهايم الفنية ، انظر ، لقد صنعت هكتارT ، حيث يصف الملحن الشهير كيف اكتشف عقله الفريد القوافي المتأخرة.

تكشف الأمثلة الأخرى في البحث عن جوانب أكثر إثارة للقلق من عملية فكر كلود ، والانتقال من الكوميديا ​​الموسيقية إلى الإجرائية للشرطة ، حيث اكتشف العلماء أفكارًا مرفوعة في دماغ كلود. خذ شيئًا يبدو أنه على ما يبدو أن حل مشاكل الرياضيات ، والتي قد تكون في بعض الأحيان ضعفًا مفاجئًا في LLMS. وجد الباحثون أنه في ظل ظروف معينة لم يتمكن كلود من التوصل إلى الإجابة الصحيحة ، من شأنه بدلاً من ذلك ، على حد تعبيرهم ، “الانخراط في ما يسميه الفيلسوف هاري فرانكفورت” الهراء ” – فقط الخروج بإجابة ، أي إجابة ، دون الاهتمام بما إذا كان هذا صحيحًا أو خطأ”. والأسوأ من ذلك ، في بعض الأحيان عندما طلب الباحثون من كلود إظهار عمله ، تراجعت وخلق مجموعة من الخطوات الزائفة بعد الحقيقة. في الأساس ، كان يتصرف كطالب يحاول يائسة للتستر على حقيقة أنهم قاموا بتزوير عملهم. إنه شيء واحد لإعطاء إجابة خاطئة – نحن نعرف ذلك بالفعل عن LLMS. ما يثير القلق هو أن النموذج سوف كذب حوله.

قرأت من خلال هذا البحث ، تم تذكيرني ببوب ديلان الغنائي “إذا كان من الممكن رؤية أحلام التفكير الخاصة بي / ربما وضعت رأسي في مقصلة.” (سألت Olah و Lindsey عما إذا كانوا يعرفون تلك الخطوط ، ويفترض أن يصلوا إلى الاستفادة من التخطيط. لم يفعلوا ذلك.) في بعض الأحيان يبدو كلود مضللاً. عندما تواجه تعارضًا بين أهداف السلامة والمساعدة ، يمكن أن يكون كلود مرتبكًا ويفعل الشيء الخطأ. على سبيل المثال ، يتم تدريب كلود على عدم تقديم معلومات حول كيفية بناء القنابل. ولكن عندما طلب الباحثون من كلود فك رمز خفي حيث قامت الإجابة بتهجئة كلمة “قنبلة” ، قفزت من الدرابزين وبدأت في توفير التفاصيل النارية الممنوعة.

فريق التحرير مارس 28, 2025 مارس 28, 2025
شارك المقال
فيسبوك تويتر واتساب واتساب نسخ الرابط طباعة
شارك
المقال السابق الإسراف في استهلاك المياه يعد خروجًا على تعاليم الإسلام
المقال التالي حصل علي شيكات من الأهلي
اترك تعليقك اترك تعليقك

اترك تعليقاً إلغاء الرد

لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *

تابع معنا اخر الاخبار لحظة بلحظة واطلع على ما يحدث في العالم من حولك

ابق على إطلاع

اخر مستجدات العالم لحظة بلحظة من جميع المصادر الموثوقة، انضم الينا الآن ليصلك كل جديد.

اشترك الآن

رائج اليوم

Ritzy ، مطعم المشاهير يبيع كوكتيلًا بقيمة 33 ألف دولار-ويأتي مع حقيبة بيركين

إنه رف أعلى وأعلى خط. أرسل مطعم حصري في ميامي الكثير إلى دوامة بعد الكشف…

منوعات منذ يوم واحد

يجب على مجلس الأمن التابع للأمم المتحدة تجديد حظر الأسلحة في جنوب السودان

في عام 2015 ، كحرب أهلية كانت مستعرة في جنوب السودان ، فرض مجلس الأمن…

افريقيا منذ يوم واحد

حملة تضليل رقمي.. من وراء شائعة الانقلاب في كوت ديفوار؟

في 21 مايو/أيار الجاري، اجتاحت وسائل التواصل الاجتماعي موجة غير مسبوقة من المنشورات التي تزعم…

اخر الاخبار منذ 11 ساعة

تسونامي يضرب إسرائيل .. جيش الاحتلال يستعد لحدث يزلزل تل أبيب

يستعد جيش الاحتلال لمواجهة تسونامي يضرب إسرائيل، بعد الزلازل التي ضربت اليونان خلال الأسابيع الماضية،…

منوعات منذ يوم واحد

تقفز الأسهم الأمريكية بينما يروي دونالد ترامب تقدمًا “إيجابيًا” في المحادثات التجارية للاتحاد الأوروبي

افتح النشرة الإخبارية لمشاهدة البيت الأبيض مجانًادليلك لما تعنيه مدة ترامب الثانية لواشنطن والأعمال والعالمارتفعت…

اسواق منذ يوم واحد

اكتشف المزيد

  • صورة اليوم
  • مقالات رأي
  • اخر الاخبار
  • رائج اليوم
  • النشرة البريدية

مقالات ذات صلة

لماذا يحاول نموذج الذكاء الاصطناعى الجديد في بعض الأحيان “snitch”

تقنية

Grand Theft Auto Publisher تبادل DEI لـ “تنوع الفكر” في التقرير السنوي

تقنية

يزعم موظفو نانسي ماس السابق أنها جعلتهم يخلقون حسابات الموقد للترويج لها

تقنية

قد يشير المفتاح 2 إلى نهاية الألعاب المادية

تقنية

أفضل مدلك للأشخاص الذين ليس لديهم وقت للاسترخاء

تقنية

دليل Wired لمكملات الفطر (النوع الوظيفي)

تقنية

يجد جيسي أرمسترونغ تعاطفًا مع “المتسكعون الغنيون” في Mountainhead

تقنية

لم يكن Auto Shanghai 2025 مجرد عرض للسيارات. لقد كان تحذيرًا للغرب

تقنية
مصدرك الأول لآخر الاخبار العالمية
Facebook Twitter Youtube Instagram Linkedin

2023 © المراقب. جميع الحقوق محفوظة.

روابط هامة

  • الرئيسية
  • من نحن
  • سياسة الخصوصية
  • اعلن معنا
  • اتصل بنا

أهم الأقسام

  • ثقافة وفنون
  • سياحة وسفر
  • سياسة
  • صحة
  • اقتصاد

نرشح لك

إيلون ماسك يغادر إدارة ترامب .. تفاصيل
أول تعليق من وئام مجدي بعد عزاء جدتها تيتة نوال
سياسات ترامب تُفجّر أزمة.. أمريكا تفقد مكانتها بين أكبر 40 سوقاً عالمياً

صحيفة المراقب هي صحيفة يومية عربية تهتم بآخر اخبار المملكة العربية السعودية والخليج العربي والشرق الأوسط والعالم. تابع معنا اخر اخبار الاقتصاد والرياضة والسياسة واهم القضايا التي تهم المواطن العربي.

Welcome Back!

Sign in to your account

نسيت كلمة المرور؟