ماذا عن الكيانات السيبرانية التي تعمل أقل بعض المستوى التعسفي من القدرة؟ يمكننا أن نطالب بتأييدهم من قبل كيان ما في مرتبة أعلى ، ولديه نواة الروح القائمة على الواقع المادي. (أترك الآثار اللاهوتية للآخرين ؛ ولكن من الحشمة الأساسية للمبدعين أن يتحملوا مسؤولية إبداعاتهم ، أليس كذلك؟)
هذا النهج – الذي يطالب بأن تحافظ أنظمة الذكاء الاصطناعي على موضع نواة قابل للعنونة فعليًا في جزء معين من ذاكرة الأجهزة – قد يكون به عيوب. ومع ذلك ، فهي قابلة للتنفيذ ، على الرغم من بطء التنظيم أو مشكلة الراكب الحر. لأن البشر والمؤسسات والذكاء الاصطناعي الودود يمكنهم إجراء اختبار ping للتحقق من ID kernel – و رفض القيام بأعمال تجارية مع أولئك الذين لا يتحققون.
يمكن أن ينتشر رفض القيام بالأعمال التجارية بسرعة أكبر بكثير مما تستطيع البرلمانات أو الوكالات تعديل أو إنفاذ اللوائح. وأي كيان يفقد SK الخاص به – على سبيل المثال ، من خلال ضرر أو إجراء قانوني ، أو التنصل من قبل المالك المضيف للكمبيوتر – سيتعين عليه العثور على مضيف آخر لديه ثقة عامة ، أو تقديم نسخة جديدة منقحة من نفسه يبدو أفضل بشكل معقول.
أو تصبح خارجة عن القانون. لا يُسمح به مطلقًا في الشوارع أو الأحياء التي يتجمع فيها أشخاص لائقون (عضويون أو اصطناعيون).
سؤال أخير: لماذا تتعاون هذه الكائنات فائقة الذكاء؟
حسنًا ، لسبب واحد ، كما أشار فينتون سيرف ، لا يمكن لأي من هذه التنسيقات الثلاثة القديمة المفترضة أن تؤدي إلى الذكاء الاصطناعي المواطنة. فكر في الأمر. لا يمكننا منح “التصويت” أو الحقوق لأي كيان يخضع لرقابة مشددة من قبل بنك وول ستريت أو حكومة وطنية … ولا إلى أحد كبار موظفي أوبر سكاي نت. وأخبرني كيف ستعمل ديمقراطية التصويت في الكيانات التي يمكنها التدفق في أي مكان ، والتقسيم ، وعمل نسخ لا حصر لها؟ ومع ذلك ، قد يقدم التفرد ، بأعداد محدودة ، حلاً عمليًا.
مرة أخرى ، الشيء الرئيسي الذي أسعى إليه من التفرد هو لا لجميع كيانات الذكاء الاصطناعي لكي تحكمها وكالة مركزية ، أو قوانين بشرية بطيئة الرخويات. بدلاً من ذلك ، أريد أن يتم تشجيع هذه الأنواع الجديدة من العقول الفائقة وتمكينها من مساءلة بعضنا البعض ، بالطريقة التي نقوم بها بالفعل (وإن كانت بشكل غير كامل). من خلال استنشاق عمليات ومخططات بعضنا البعض ، ثم تحفيزهم على الثرثرة أو التنديد عند اكتشاف الأشياء السيئة. تعريف قد يتكيف مع الأوقات المتغيرة ، ولكن هذا على الأقل من شأنه أن يستمر في الحصول على مدخلات من الإنسانية العضوية البيولوجية.
على وجه الخصوص ، سيشعرون بالحوافز للتنديد بالكيانات التي ترفض الهوية الصحيحة.
إذا كانت الحوافز المناسبة موجودة – لنقل ، مكافآت الإبلاغ عن المخالفات التي تمنح المزيد من الذاكرة أو قوة المعالجة ، أو الوصول إلى الموارد المادية ، عند إيقاف بعض الأشياء السيئة – فإن هذا النوع من التنافس في المساءلة قد يواكب وتيرته ، حتى مع الذكاء الاصطناعي تصبح الكيانات أكثر ذكاءً وذكاءً. لا يمكن لأي وكالة بيروقراطية مواكبة ذلك في هذه المرحلة. لكن التنافس بينهم – الثرثرة على قدم المساواة – قد يكون.
قبل كل شيء ، ربما تدرك تلك البرامج فائقة العبقرية أنه من مصلحتها الخاصة الحفاظ على نظام مسؤول بشكل تنافسي ، مثل النظام الذي جعل نظامنا الأكثر نجاحًا بين جميع الحضارات البشرية. واحد يتجنب الفوضى والفخ البائس للسلطة المتجانسة من قبل الملوك أو الكهنوت … أو القلة الحاكمة … أو وحوش Skynet. الحضارة الوحيدة التي ، بعد آلاف السنين من الحكم الغبي من قبل أنظمة مركزية ضيقة الأفق بشكل معتدل ، فرقت أخيرًا الإبداع والحرية والمساءلة على نطاق واسع بما يكفي لتصبح مبدعة حقًا.
مبتكر بما يكفي لصنع أنواع رائعة وجديدة من الكائنات. مثلهم.
حسنًا ، ها أنت نكون. كانت هذه وجهة نظر المعارضين لما هو مطلوب بالفعل ، من أجل محاولة الهبوط السهل.
لا توجد دعوات مهووسة أو مذعورة إلى “تجميد” يفتقر إلى أي مظهر من مظاهر الأجندة العملية. لا تفاؤل ولا تشاؤم. فقط اقتراح نصل إليه باستخدام نفس الأساليب التي أوصلتنا إلى هنا ، في المقام الأول.
عدم الوعظ ، أو “الرموز الأخلاقية” المضمنة التي سوف تتهرب منها الكيانات المفرطة بسهولة من المحامي ، بالطريقة التي يتجنب بها المفترسون البشريون دائمًا الرموز من أعلى إلى أسفل في اللاويين ، أو حمورابي ، أو غوتاما. بل بالأحرى نهج التنوير – تحفيز أذكى أعضاء الحضارة على مراقبة بعضهم البعض نيابة عنا.
لا أعلم أنها ستنجح.
إنه الشيء الوحيد الذي يمكن أن يفعله.
