يحذر خبير الأخلاقيات في شركة بلانتير من أن الذكاء الاصطناعي هو “قنبلة نووية وقد حصل عليها العالم بأسره بالفعل”

شبّه خبير في أخلاقيات الذكاء الاصطناعي لشركة تصنع البرمجيات المستخدمة في مناطق الحروب ظهور الذكاء الاصطناعي المتقدم والمتوفر على نطاق واسع بالقنبلة الذرية هذا الأسبوع ، معربًا عن مخاوفه بشأن كيفية استخدام التكنولوجيا القوية.

قال جون جرانت ، مهندس الحريات المدنية في شركة برمجيات الذكاء الاصطناعي Palantir ، خلال حلقة نقاشية لقمة معهد ريغان حول التعليم (RISE) التي نظمها رونالد ريغان الرئاسي: “إن الذكاء الاصطناعي قنبلة نووية وقد حصل عليها العالم بأسره بالفعل”. التأسيس والمعهد يوم الخميس.

وأوضح: “لست متأكدًا كمجتمع من استعدادنا للتعامل مع ذلك بشكل جيد للغاية”. “نحن بحاجة إلى أن يتحمل الناس مسؤوليتهم الخاصة عن كيفية استخدامها – وهذا تحدٍ.”

وقال جرانت إن الموقف يذكره بمهندس تويتر الذي اخترع زر إعادة التغريد الشهير بقوله: “ربما سلمنا للتو سلاحًا محشوًا لطفل يبلغ من العمر 4 سنوات”.

يهدد صانع الدردشة بترك لائحة الاتحاد الأوروبي على الرغم من مطالبة الكونغرس بتنظيم الذكاء الاصطناعي

مهندس الحريات المدنية مسؤول عن تثقيف موظفي شركة بلانتير بشأن أخلاقيات الذكاء الاصطناعي ، ويقول إنه يعلم زملائه تحديد القضايا الأخلاقية مع التكنولوجيا وكيفية رسم الحدود لتحمل المسؤولية عن التأثير الذي يمكن أن تحدثه على المجتمع. قال جرانت إنه يجب تعليم نفس الأشياء للأطفال في المدرسة ، حتى يفهم أولئك الذين يطورون تقنيات جديدة أن لديهم القدرة على التحكم في كيفية استخدامها.

“عليك أن تحمل هؤلاء الطلاب مسؤولية ما يبنونه والتأثير على العالم ، وهناك رؤية نفق خطيرة أحيانًا مع المهندسين وعلماء الكمبيوتر حيث يقولون ،” مرحبًا ، سأقوم ببناء هذا الشيء و سوف ينجح ، سيكون رائعًا “.

أخبر جرانت جمهور RISE أن أحد الدوافع الدافعة لبدء البرنامج التعليمي في Palantir كان اقتباسًا قرأه من فرانك أوبنهايمر ، شقيق روبرت أوبنهايمر ، الذي يُنسب إليه الفضل في كونه والد القنبلة الذرية. عمل كلا الرجلين في مشروع مانهاتن.

يقارن العملاق التكنولوجي سام ألتمان بين أبحاث الذكاء الاصطناعي القوية وفجر الحرب النووية: تقرير

قال جرانت إن فرانك أوبنهايمر سُئل لاحقًا في حياته عن شعوره حيال العمل على سلاح إبادة جماعية ، وأجاب شيئًا عن تأثيره ، “بطريقة ما لم نعتقد أبدًا أنه سيتم استخدامه على الناس.”

وقال غرانت: “لقد شعرت بصدمة في رده” ، مشيراً إلى أن القنبلة تم تطويرها “في خضم أعنف حرب دموية في التاريخ”.

أوضح جرانت: “أنا لا أستخف بأوبنهايمر” ، قائلاً إن الفيزيائي “كان يحل مشكلة ميكانيكية ، وكان يحل مشكلة هندسية” ، ولم يتم النظر في الآثار الأوسع نطاقًا.

وكرر: “علينا أن نظهر لكل هؤلاء المهندسين ، كل هؤلاء الطلاب ، أن الأمر لا يتعلق بالمشروع الذي أمامك فقط”. “يجب عليك معرفة كيف سيؤثر ذلك على العالم؟ وعليك أن تقول ،” هل أنا سعيد بذلك أم أنني لست سعيدًا بذلك ، وكيف سنخفف من هذه الآثار السلبية؟ “