في طريفة في مكتب من عصر الوصاية يطل على ميدان راسل في لندن، قمت بتأسيس شركة تدعى ديب مايند مع صديقين، ديميس هاسابيس وشين ليج، في صيف عام 2010. هدفنا، وهو هدف لا يزال يبدو طموحًا ومجنونًا ومفعمًا بالأمل كما كان في ذلك الوقت، كان الهدف هو تكرار الشيء نفسه الذي يجعلنا فريدين كنوع: ذكائنا.
ولتحقيق هذه الغاية، سنحتاج إلى إنشاء نظام قادر على تقليد جميع القدرات المعرفية البشرية ثم التفوق عليها في نهاية المطاف، من الرؤية والكلام إلى التخطيط والخيال، وفي نهاية المطاف التعاطف والإبداع. وبما أن مثل هذا النظام سيستفيد من المعالجة المتوازية على نطاق واسع لأجهزة الكمبيوتر العملاقة وانفجار مصادر جديدة هائلة للبيانات عبر شبكة الإنترنت المفتوحة، فقد كنا نعلم أنه حتى التقدم المتواضع نحو هذا الهدف سيكون له آثار مجتمعية عميقة.
لقد شعرت بالتأكيد بأنها بعيدة جدًا في ذلك الوقت.
لكن الذكاء الاصطناعي ظل يتسلق سلم القدرات المعرفية لعقود من الزمن، ويبدو الآن أنه سيصل إلى مستوى الأداء البشري عبر مجموعة واسعة جدًا من المهام في غضون السنوات الثلاث المقبلة. وهذا ادعاء كبير، ولكن إذا كنت قريبًا من الصواب، فإن الآثار المترتبة عليه عميقة حقًا.
إن المزيد من التقدم في أحد المجالات يؤدي إلى تسريع المجالات الأخرى في عملية فوضوية ومحفزة خارجة عن السيطرة المباشرة لأي شخص. وكان من الواضح أنه إذا نجحنا نحن أو غيرنا في محاكاة الذكاء البشري، فلن يكون هذا مجرد عمل مربح كالمعتاد، بل سيكون تحولًا زلزاليًا للبشرية، ويفتتح عصرًا حيث الفرص غير المسبوقة ستقابلها مخاطر غير مسبوقة. الآن، إلى جانب مجموعة من التقنيات بما في ذلك البيولوجيا التركيبية، والروبوتات، والحوسبة الكمومية، بدأت موجة من الذكاء الاصطناعي سريع التطور والقادر للغاية في الظهور. ما كان يبدو خياليًا، عندما أسسنا شركة ديب مايند، لم يعد معقولًا فحسب، بل يبدو أنه لا مفر منه.
وباعتباري منشئًا لهذه التقنيات، أعتقد أنها قادرة على تقديم قدر غير عادي من الخير. ولكن من دون ما أسميه الاحتواء، فإن كل جانب آخر من جوانب التكنولوجيا، وكل مناقشة حول عيوبها الأخلاقية، أو الفوائد التي يمكن أن تجلبها، تصبح غير ذات أهمية. أرى أن الاحتواء عبارة عن مجموعة متشابكة من الآليات التقنية والاجتماعية والقانونية التي تقيد التكنولوجيا وتسيطر عليها، وتعمل على كل مستوى ممكن: وسيلة، من الناحية النظرية، للتهرب من معضلة كيفية الحفاظ على السيطرة على أقوى التقنيات في التاريخ. ونحن في حاجة ماسة إلى إجابات واضحة حول كيفية السيطرة على الموجة القادمة واحتوائها، وكيف يمكن الحفاظ على الضمانات والإمكانات التي توفرها الدولة القومية الديمقراطية، والتي تعتبر بالغة الأهمية لإدارة هذه التكنولوجيات ولكنها مهددة بها. في الوقت الحالي لا أحد لديه مثل هذه الخطة. يشير هذا إلى مستقبل لا يريده أحد منا، لكنه مستقبل أخشى أن يصبح محتملًا بشكل متزايد.
وفي مواجهة الحوافز المتأصلة الهائلة التي تدفع التكنولوجيا إلى الأمام، فإن الاحتواء ليس ممكنا في ظاهر الأمر. ومع ذلك، ومن أجلنا جميعًا، الاحتواء يجب يكون ممكنا.
يبدو أن مفتاح الاحتواء هو التنظيم الماهر على المستويين الوطني وفوق الوطني، وتحقيق التوازن بين الحاجة إلى إحراز تقدم إلى جانب قيود السلامة المعقولة، التي تشمل كل شيء من عمالقة التكنولوجيا والجيوش إلى مجموعات البحث الجامعية الصغيرة والشركات الناشئة، المقيدة في نظام شامل وقابل للتنفيذ. نطاق. لقد فعلنا ذلك من قبل، هكذا تقول الحجة؛ انظر إلى السيارات والطائرات والأدوية. أليس بهذه الطريقة ندير ونحتوي الموجة القادمة؟
لو كان الأمر بهذه البساطة. التنظيم ضروري. لكن التنظيم وحده لا يكفي. وفي ظاهر الأمر، ينبغي للحكومات أن تكون أفضل استعداداً لإدارة المخاطر والتكنولوجيات الجديدة من أي وقت مضى. إن الميزانيات الوطنية المخصصة لمثل هذه الأشياء تبلغ عمومًا مستويات قياسية. لكن الحقيقة هي أن التهديدات الجديدة يصعب على أي حكومة التعامل معها بشكل استثنائي. وهذا ليس عيبًا في فكرة الحكومة؛ إنه تقييم لحجم التحدي الذي يواجهنا. الحكومات تخوض الحرب الأخيرة، والوباء الأخير، وتنظم الموجة الأخيرة. ينظم المنظمون الأشياء التي يمكنهم توقعها.
