احصل على تحديثات مجانية للذكاء الاصطناعي
سنرسل لك ملف myFT ديلي دايجست التقريب البريد الإلكتروني لأحدث الذكاء الاصطناعي أخبار كل صباح.
الكاتب رئيس الشؤون العالمية في Meta
يكمن وراء الكثير من الإثارة – والخوف – بشأن التقدم في الذكاء الاصطناعي التوليدي سؤالًا أساسيًا: من سيتحكم في هذه التقنيات؟ شركات التكنولوجيا الكبيرة التي تمتلك قوة حاسوبية هائلة وبيانات لبناء نماذج ذكاء اصطناعي جديدة أو مجتمع ككل؟
يذهب هذا إلى قلب الجدل السياسي حول ما إذا كان يجب على الشركات الاحتفاظ بنماذج الذكاء الاصطناعي الخاصة بها داخل الشركة أو إتاحتها بشكل أكثر انفتاحًا. مع استمرار الجدل ، نمت قضية الانفتاح. هذا جزئيًا بسبب التطبيق العملي – ليس من المستدام إبقاء التكنولوجيا التأسيسية في أيدي عدد قليل من الشركات الكبيرة – وجزئيًا بسبب سجل المصادر المفتوحة.
من المهم التمييز بين نماذج الذكاء الاصطناعي الحالية والنماذج المستقبلية المحتملة. إن أكثر التحذيرات بائسة بشأن الذكاء الاصطناعي هي في الحقيقة قفزة تكنولوجية – أو قفزات عديدة. هناك عالم من الاختلاف بين تطبيقات أسلوب روبوت المحادثة لنماذج اللغات الكبيرة اليوم والنماذج الحدودية الضخمة القادرة نظريًا على الذكاء الفائق بأسلوب الخيال العلمي. لكننا ما زلنا في سفوح التلال نتناقش حول المخاطر التي قد نجدها على قمة الجبل. إذا ومتى أصبحت هذه التطورات معقولة أكثر ، فقد تتطلب استجابة مختلفة. ولكن هناك وقت لتطوير كل من التكنولوجيا والحواجز الواقية.
مثل جميع التقنيات الأساسية – من أجهزة الإرسال اللاسلكية إلى أنظمة تشغيل الإنترنت – سيكون هناك العديد من الاستخدامات لنماذج الذكاء الاصطناعي ، بعضها يمكن التنبؤ به والبعض الآخر لا. ومثل كل تقنية ، سيتم استخدام الذكاء الاصطناعي لتحقيق غايات جيدة وسيئة على حد سواء من قبل الأشخاص الجيدين والأشرار. لا يمكن للرد على عدم اليقين هذا أن يعتمد ببساطة على الأمل في أن تظل نماذج الذكاء الاصطناعي طي الكتمان. لقد انطلق هذا الحصان بالفعل. تم بالفعل فتح العديد من نماذج اللغات الكبيرة ، مثل Falcon-40B و MPT-30B والعشرات قبلها. والابتكار المفتوح ليس شيئًا يجب الخوف منه. تعمل البنية التحتية للإنترنت على كود مفتوح المصدر ، كما تفعل متصفحات الويب والعديد من التطبيقات التي نستخدمها كل يوم.
بينما لا يمكننا القضاء على المخاطر المتعلقة بالذكاء الاصطناعي ، يمكننا التخفيف منها. فيما يلي أربع خطوات أعتقد أنه يجب على شركات التكنولوجيا اتخاذها.
أولاً ، يجب أن يكونوا شفافين بشأن كيفية عمل أنظمتهم. في Meta ، أصدرنا مؤخرًا 22 “بطاقة نظام” لـ Facebook و Instagram ، والتي تمنح الأشخاص نظرة ثاقبة حول الذكاء الاصطناعي وراء كيفية تصنيف المحتوى والتوصية به بطريقة لا تتطلب معرفة تقنية عميقة.
ثانيًا ، يجب أن يكون هذا الانفتاح مصحوبًا بالتعاون عبر الصناعة والحكومة والأوساط الأكاديمية والمجتمع المدني. Meta هو عضو مؤسس في Partnership on AI ، إلى جانب Amazon و Google و DeepMind و Microsoft و IBM. نحن نشارك في إطار العمل الجماعي على الوسائط الاصطناعية ، وهي خطوة مهمة في ضمان إنشاء حواجز حماية حول المحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي.
ثالثًا ، يجب اختبار الضغط على أنظمة الذكاء الاصطناعي. قبل إطلاق الجيل القادم من Llama ، نموذجنا اللغوي الكبير ، تقوم Meta بإجراء “فريق أحمر”. تتضمن هذه العملية ، الشائعة في الأمن السيبراني ، فرقًا تأخذ دور الخصوم للبحث عن العيوب والعواقب غير المقصودة. ستقدم Meta أحدث طرازات Llama الخاصة بنا إلى مؤتمر DEFCON في لاس فيجاس الشهر المقبل ، حيث يمكن للخبراء إجراء مزيد من التحليل واختبار إجهاد قدراتهم.
الافتراض الخاطئ هو أن تحرير التعليمات البرمجية المصدر أو أوزان النموذج يجعل الأنظمة أكثر عرضة للخطر. على العكس من ذلك ، يمكن للمطورين والباحثين الخارجيين تحديد المشكلات التي قد تستغرق وقتًا أطول بكثير في بقاء الفرق المختبئة داخل صوامع الشركة. وجد الباحثون الذين اختبروا نموذج لغة Meta الكبير ، BlenderBot 2 ، أنه يمكن خداعهم لتذكر المعلومات الخاطئة. نتيجة لذلك ، كان BlenderBot 3 أكثر مقاومة له.
أخيرًا ، يجب على الشركات مشاركة تفاصيل عملها أثناء تطوره ، سواء كان ذلك من خلال الأوراق الأكاديمية والإعلانات العامة ، أو المناقشة المفتوحة للفوائد والمخاطر ، أو ، إذا كان ذلك مناسبًا ، إتاحة التكنولوجيا نفسها للبحث وتطوير المنتجات.
الانفتاح ليس إيثارًا – تعتقد ميتا أنه في مصلحتها. إنه يؤدي إلى منتجات أفضل وابتكار أسرع وسوق مزدهر ، وهو ما يفيدنا كما يفعل العديد من الآخرين. وهذا لا يعني أن كل نموذج يمكن أو يجب أن يكون مفتوح المصدر. هناك دور لكل من نماذج الذكاء الاصطناعي الخاصة والمفتوحة.
لكن في النهاية ، الانفتاح هو أفضل علاج للمخاوف المحيطة بالذكاء الاصطناعي. يسمح بالتعاون والتدقيق والتكرار. ويمنح الشركات والشركات الناشئة والباحثين إمكانية الوصول إلى الأدوات التي لا يمكنهم أبدًا بناء أنفسهم بها ، مدعومة بقوة الحوسبة التي لا يمكنهم الوصول إليها بخلاف ذلك ، مما يفتح عالمًا من الفرص الاجتماعية والاقتصادية.
