تصور جورج أورويل مخاطر الحكومة المتجانسة المسلحة بالذكاء الاصطناعي في روايته الشهيرة عن ديستوبيا المستقبل ، “1984” ، التي نُشرت في عام 1949.
يستخدم الحزب ، بقيادة الأخ الأكبر ، التكنولوجيا الموجودة في كل مكان للمراقبة المستمرة والدعاية للمواطنين المطيعين في أوقيانوسيا.
يتم استخدام الترادف المرعب للتكنولوجيا والمسكرات البشرية للسلطة في أوقيانوسيا لإعادة كتابة التاريخ ، والسيطرة على المجتمع ، وسحق الروح الإنسانية ، وإبقاء الحزب راسخًا إلى الأبد.
قد يؤدي استخدام الشرطة للذكاء الاصطناعي إلى منع الجريمة “التنبؤي” “منحدر زلق” ، حسب رأي الخبراء
يعمل بطل الرواية وينستون سميث في وزارة الحقيقة التي تحمل اسمًا مثيرًا للسخرية ، وهي وظيفة يكرهها. يحلم بحرية التفكير والعمل والكتابة والحب.
بدت السيناريوهات الشمولية الموصوفة في “1984” والتقنيات لفرضها مثل الخيال العلمي قبل 75 عامًا.
ومع ذلك ، فإنها تبدو أكثر احتمالًا اليوم مع ظهور الذكاء الاصطناعي والتحذيرات الصارخة بشأن أخطاره من Elon Musk وآخرين من بين ألمع الأشخاص في مجال التكنولوجيا.
تتعقب الأجهزة الرقمية بالفعل باستمرار تحركاتنا وسلوكياتنا.
يقول الخبراء إن الذكاء الاصطناعي على وشك التنبؤ بأفكارنا وأفعالنا.
“الاخ الاكبر يراقبك.” – جورج أورويل ، “1984”
كما أن تحذيرات “1984” أكثر تنذرًا بالسوء بعد أن أثبتت التكنولوجيا الكبيرة حرصها على الشراكة مع حكومة كبيرة في السنوات الأخيرة للتأثير على الانتخابات وخنق المعارضة.
قد يكون الكتاب الذي أصدر تحذيرات بشأن هذه السيناريوهات بالذات هدفًا لحكومات مسلحة بالتكنولوجيا لتتبع المعارضة.
أُضيف أورويل مؤخرًا إلى قائمة جمعها المسؤولون الحكوميون في المملكة المتحدة للمؤلفين الذين يُزعم أن أشخاصًا متعاطفين مع “اليمين المتطرف وخروج بريطانيا من الاتحاد الأوروبي” يشاركون أعمالهم ، وفقًا لموقع The Spectator.
فيما يلي 10 تحذيرات من “1984” تبدو أكثر بصيرة – وأكثر إلحاحًا – من أي وقت مضى.
1. تعرف الشاشة الموجودة على الحائط ما تفعله
كتب أورويل عن الجهاز الإلكتروني المنزلي في أوقيانوسيا الذي نعرفه الآن باسم التلفزيون: “يمكن أن تكون الآلة (شاشة التلسكرين ، التي كانت تسمى) باهتة ، ولكن لا توجد طريقة لإغلاقها تمامًا”.
كان عدد قليل من المنازل في الولايات المتحدة أو المملكة المتحدة يمتلك أجهزة تلفزيون في أواخر الأربعينيات من القرن الماضي – لكن أورويل رأى بالفعل إمكاناتها للمراقبة.
أطلقت شركة فلوريدا للتكنولوجيا الطبية اختبار الذكاء الاصطناعي الجديد لعلاج سرطان البروستاتا
أشارت تقارير المستهلك في عام 2021: “قد لا تكون على علم بذلك ، لكن تلفزيونك يعرف – ويشارك – الكثير من المعلومات عنك”.
2. يتم إلغاء التاريخ وإعادة كتابته لصالح الدولة
كتب أورويل: “من يتحكم بالماضي يتحكم في المستقبل”. “من يسيطر على الحاضر يسيطر على الماضي.”
توماس جيفرسون ، وكلماته من إعلان الاستقلال ، مثل “كل الناس خلقوا متساوين” ، أعيد صياغتها أو ألغيت في “1984”.
كتب أورويل: “ستتغير كلمات جيفرسون إلى مدح للحكومة المطلقة” ، بينما توجد أجزاء فقط من إعلان الاستقلال حيث يتم محوه ببطء.
3. تحل التكنولوجيا محل سيادة القانون بهدف سياسي
النظام القانوني عفا عليه الزمن في أوقيانوسيا ، حيث المجتمع موجود فقط لدعم الحكومة.
ناقش أورويل الظاهرة عندما افتتح سميث مذكراته ليشرح أفكاره ، ثم أخذ في الاعتبار العواقب الوخيمة لفعلته.
“لم يكن هناك شيء غير قانوني ، حيث لم تعد هناك أية قوانين”. – أورويل
كتب أورويل: “لم يكن هذا غير قانوني (لم يكن هناك شيء غير قانوني ، حيث لم تعد هناك أية قوانين)”.
“ولكن إذا تم اكتشافه ، فمن المؤكد بشكل معقول أنه سيعاقب بالإعدام ، أو على الأقل 25 عامًا في معسكر للعمل القسري”.
4. يتم الاستفادة من التكنولوجيا لمهاجمة الرجل الذي تحدى النظام
يتغذى سكان أوقيانوسيا على تيار مستمر من الكراهية الرقمية ضد شخصية تجرأت على التحدث ضد الحزب.
كتب أورويل عن اجتماع في المكتب: “كالعادة ، ظهر وجه إيمانويل غولدشتاين ، عدو الشعب ، على الشاشة”.
“كل الجرائم اللاحقة ضد الحزب ، كل الخيانات ، أعمال التخريب ، البدع ، الانحرافات ، انبثقت مباشرة من تعاليمه. في مكان أو آخر كان لا يزال على قيد الحياة ويفقس مؤامراته”.
بعد أن يفتح “المزيف DRAKE” أسئلة حقوق الطبع والنشر ، يجيب المحامي إذا كان بإمكان الفنانين حماية أسلوبهم من الذكاء الاصطناعي
كتب أورويل أن جرائم غولدشتاين كانت تدعو إلى حرية التعبير والصحافة والتجمع والفكر.
5. تمحى الفضائل ، واستُبدلت بلغة فارغة جديدة
كتب أورويل أن كلمات مثل الشرف والعدالة والأخلاق والديمقراطية والعلم والدين “لم تعد موجودة” في أوقيانوسيا.
“غطتهم بضع كلمات شاملة ، وفي تغطيتهم ، ألغوها.”
قد يبدو الأمر مألوفًا بالفعل اليوم: يتم التقليل من شأن مفاهيم مثل الأخلاق والدين على وسائل التواصل الاجتماعي ، بينما تكتسب العبارات الجديدة بسرعة القوة السياسية من خلال وجودها المفاجئ والمستمر على نفس المنصات.
كلمات مثل الشرف والعدالة والأخلاق والديمقراطية والعلوم والدين “لم تعد موجودة”. – أورويل
يصبح التحدث بعبارات جديدة فضيلة في حد ذاته حتى لو كانت الكلمات غير محددة.
6. استبدلت عبادة الله بعبادة الدولة
أي إيمان موجود بالله في أوقيانوسيا تم استبداله بعبادة الموت التي لا تعبد إلا الحزب وخاصة الأخ الأكبر.
يمكن بسهولة تتبع التجمعات أو حتى كلمات الإيمان بواسطة التكنولوجيا.
كتب أورويل: “في كل مكان يوجد نفس الهيكل الهرمي ، نفس عبادة الزعيم شبه الإلهي”.
وأضاف لاحقًا أن الفلسفة السائدة “يُطلق عليها اسم صيني يُترجم عادةً إلى عبادة الموت ، ولكن ربما يكون من الأفضل ترجمتها على أنها طمس الذات”.
7. حكم النخبة وسط العظمة بينما تنهار المدن
كتب أورويل عن أروع صرح في لندن في عام 1984 ، بعد أن وصف القذارة التي يسكنها الناس العاديون: “كانت وزارة الحقيقة … مختلفة بشكل مذهل عن أي شيء آخر في الأفق”.
“لقد كان هيكلًا هرميًا ضخمًا من الخرسانة البيضاء المتلألئة ، مرتفعًا ، شرفة تلو شرفة … متناثرة حول لندن لم يكن هناك سوى ثلاثة مبانٍ أخرى متشابهة في الشكل والحجم.”
وأشار إلى أنهم كانوا ، وزارة السلام ، وزارة الحب ووزارة الوفرة – كل تسمية تحريف لمهمتهم الفعلية.
8. تعاد كتابة الحقائق الأساسية كأداة للقمع
من مبادئ الحزب في “1984” أن 2 + 2 = 5.
يبدو الخطأ الواضح في الرياضيات أقل إثارة للصدمة اليوم ، في عالم لم يعد فيه الأشخاص الذين هم في موقع قوة يستطيعون تعريف كلمة “امرأة” أو الاستهزاء بالواقع العلمي المعروف منذ زمن طويل بين الجنسين.
9. تحل الدولة محل الأسرة
يتعلم الأطفال إعلان الولاء للحزب على والديهم في “1984” مسلحين بالتكنولوجيا ليخوضوا حياتهم.
كتب أورويل: “كان من الطبيعي تقريبًا أن يخاف الأشخاص فوق الثلاثين من أطفالهم”.
“ولسبب وجيه ، لم يمر أسبوع تقريبًا لم تحمل فيه” التايمز “فقرة تصف كيف أن بعض التسلل الصغير للتنصت – كانت عبارة” طفل البطل “هي العبارة المستخدمة عمومًا – قد سمعت بعض الملاحظات المساومة وأدان أهلها إلى شرطة الفكر “.
10- الأخ الأكبر يراقبك
دخلت العبارة الأكثر شهرة من “1984” ثقافة البوب قبل وقت طويل من أن تصبح حقيقة واقعة.
يمكن لأجهزة التلفزيون وأجهزة الكمبيوتر والهواتف الذكية وحتى السيارات اليوم تتبع تحركاتنا بالفعل وحتى سماع أصواتنا.
يعرف عمالقة وسائل التواصل الاجتماعي كل شيء عن حياتنا وسلوكياتنا – المعلومات التي قدمها الجمهور عن طيب خاطر.
يتفق معظم الخبراء على أن المراقبة المستمرة ستزداد قوة وانتشارًا مع تطورات الذكاء الاصطناعي.
كتب أورويل: “أي صوت يصدره ونستون ، فوق مستوى الهمس المنخفض للغاية ، سوف تلتقطه شاشة الرصد”.
“لم تكن هناك ، بالطبع ، طريقة لمعرفة ما إذا كنت مراقباً في أي لحظة. كم مرة ، أو على أي نظام ، كانت شرطة الفكر الموصولة بأي سلك فردي بمثابة تخمين.”
