قبل أن تكون الجزء الثاني من مقال من سلسلة "انتظر ، كيف يمكن أن يكون كل هذا حقيقيًا ، ولماذا لم يتم الحديث عنه في كل زاوية." في السلسلة السابقة ، أصبح معروفًا أن انفجارًا للذكاء يزحف تدريجياً إلى الناس على كوكب الأرض ، فهو يحاول التطور من الذكاء المركّز الضيق إلى الذكاء العالمي ، وأخيراً الذكاء الاصطناعي الخارق.
"ربما نواجه مشكلة بالغة الصعوبة ، ولا يُعرف مقدار الوقت المخصص لحلها ، لكن مستقبل البشرية قد يعتمد على حلها". - نيك بوستروم.
بدأ الجزء الأول من المقال ببراءة كافية. لقد ناقشنا الذكاء الاصطناعي شديد التركيز (AI ، والذي يتخصص في حل مشكلة واحدة محددة مثل تحديد الطرق أو لعب الشطرنج) ، هناك الكثير منه في عالمنا. ثم قاموا بتحليل سبب صعوبة تنمية الذكاء الاصطناعي الاتجاهي العام (AGI ، أو AI ، والذي يمكن مقارنته من حيث القدرات الفكرية مع الإنسان في حل أي مشكلة) ، وهو أمر صعب للغاية. خلصنا إلى أن المعدل الأسي للتقدم التكنولوجي يلمح إلى أن الذكاء الاصطناعي العام قد يكون قاب قوسين أو أدنى قريبًا. في النهاية ، قررنا أنه بمجرد وصول الآلات إلى الذكاء البشري ، يمكن أن يحدث ما يلي على الفور:
كالعادة ، ننظر إلى الشاشة ، لا نعتقد أن الذكاء الاصطناعي الخارق (ISI ، وهو أذكى بكثير من أي شخص) يمكن أن يظهر خلال حياتنا ، ونختار المشاعر التي من شأنها أن تعكس رأينا حول هذه المسألة على أفضل وجه.
قبل أن نتعمق في تفاصيل ISI ، دعونا نذكر أنفسنا بما يعنيه أن تكون الآلة فائقة الذكاء.
يكمن الاختلاف الرئيسي بين الذكاء الخارق السريع والذكاء الفائق الجودة. في كثير من الأحيان ، أول ما يتبادر إلى الذهن عند التفكير في جهاز كمبيوتر فائق الذكاء هو أنه يمكنه التفكير بشكل أسرع بكثير من أي شخص - أسرع بملايين المرات ، وفي غضون خمس دقائق سوف يفهم ما قد يستغرقه الشخص عشر سنوات. ("أنا أعرف الكونغ فو!")
يبدو الأمر مثيرًا للإعجاب ، ويجب أن تفكر وكالة الاستخبارات الباكستانية بشكل أسرع من أي شخص آخر - لكن الميزة الفاصلة الرئيسية ستكون جودة ذكائها ، والتي تختلف تمامًا. البشر أذكى بكثير من القرود ، ليس لأنهم يفكرون بشكل أسرع ، ولكن لأن أدمغتهم تحتوي على عدد من الوحدات المعرفية البارعة التي تنفذ تمثيلات لغوية معقدة ، وتخطيط طويل الأمد ، وتفكير مجرد ، وهو ما لا تستطيع القرود القيام به. إذا قمت بتسريع دماغ القرد ألف مرة ، فلن يصبح أذكى منا - حتى بعد عشر سنوات لن يكون قادرًا على تجميع مُنشئ وفقًا للتعليمات ، الأمر الذي قد يستغرق ساعتين على الأكثر. هناك أشياء لن يتعلمها القرد أبدًا ، بغض النظر عن عدد الساعات التي يقضيها أو مدى سرعة عمل دماغه.
بالإضافة إلى ذلك ، فإن القرد لا يعرف كيف يكون بشريًا ، لأن دماغه ببساطة غير قادر على إدراك وجود عوالم أخرى - قد يعرف القرد ماهية الشخص وما هي ناطحة سحاب ، لكنه لن يفهم أبدًا أن ناطحة سحاب قد تم بناؤها بواسطة اشخاص. في عالمها ، كل شيء ينتمي إلى الطبيعة ، وقرود المكاك لا تستطيع بناء ناطحة سحاب فحسب ، بل تفهم أيضًا أن أي شخص يمكنه بناؤها على الإطلاق. وهذا نتيجة اختلاف بسيط في جودة الذكاء.
في المخطط العام للذكاء الذي نتحدث عنه ، أو ببساطة وفقًا لمعايير الكائنات البيولوجية ، فإن الاختلاف في جودة الذكاء بين البشر والقرود ضئيل.في المقالة السابقة ، وضعنا القدرات المعرفية البيولوجية على سلم:
لفهم مدى جدية آلة فائقة الذكاء ، ضعها بمقدار درجتين أعلى من الشخص الموجود على هذا السلم. قد تكون هذه الآلة فائقة الذكاء قليلاً ، لكن تفوقها على قدراتنا المعرفية سيكون مثلنا - على القرود. ومثلما لن يدرك الشمبانزي أبدًا أنه يمكن بناء ناطحة سحاب ، فقد لا نفهم أبدًا ما ستفهمه آلة أعلى بخطوتين ، حتى لو حاولت الآلة شرح ذلك لنا. لكن هذه مجرد خطوتين. سوف ترى الآلة الأكثر ذكاءً النمل في داخلنا - ستعلمنا أبسط الأشياء من موقعها لسنوات ، وستكون هذه المحاولات ميئوساً منها تمامًا.
نوع الذكاء الخارق الذي سنتحدث عنه اليوم يقع أبعد من هذا السلم. هذا انفجار للذكاء - عندما تصبح السيارة أكثر ذكاءً ، تزداد سرعة ذكاءها ، ويزيد الزخم تدريجياً. قد تستغرق آلة مثل هذه سنوات لتتفوق على الشمبانزي في الذكاء ، ولكن ربما بضع ساعات لتتفوق علينا ببضع شقوق. من تلك اللحظة فصاعدًا ، يمكن للسيارة أن تقفز بالفعل أكثر من أربع خطوات كل ثانية. لهذا السبب يجب أن نفهم أنه بعد وقت قصير جدًا من ظهور الأخبار الأولى عن وصول الآلة إلى مستوى الذكاء البشري ، قد نواجه حقيقة التعايش على الأرض بشيء سيكون أعلى بكثير منا على هذا السلم (أو ربما ، وملايين المرات أعلى):
ونظرًا لأننا أثبتنا أنه من غير المجدي تمامًا محاولة فهم قوة الآلة التي لا تتعدى خطوتين فقط فوقنا ، فلنعرّف مرة واحدة وإلى الأبد أنه لا توجد طريقة لفهم ما ستفعله ISI وما هي عواقب هذا سيكون لنا. أي شخص يدعي عكس ذلك ببساطة لا يفهم معنى الذكاء الخارق.
لقد طور التطور ببطء وتدريجي الدماغ البيولوجي على مدى مئات الملايين من السنين ، وإذا ابتكر البشر آلة فائقة الذكاء ، فسوف نتجاوز التطور بمعنى ما. أو سيكون جزءًا من التطور - ربما يعمل التطور بطريقة يتطور فيها الذكاء تدريجيًا حتى يصل إلى نقطة تحول تنبئ بمستقبل جديد لجميع الكائنات الحية:
لأسباب سنناقشها لاحقًا ، يعتقد قسم كبير من المجتمع العلمي أن السؤال ليس ما إذا كنا سنصل إلى نقطة التحول هذه ، ولكن متى.
أين ننتهي بعد هذا؟
أعتقد أنه لا أحد في هذا العالم ، لا أنا ولا أنت ، سيكون قادرًا على قول ما سيحدث عندما نصل إلى نقطة التحول. يعتقد الفيلسوف في أكسفورد والمنظر الرائد في مجال الذكاء الاصطناعي ، نيك بوستروم ، أنه يمكننا تجميع جميع النتائج الممكنة في فئتين عريضتين.
أولاً ، بالنظر إلى التاريخ ، نعرف ما يلي عن الحياة: تظهر الأنواع ، وتوجد لفترة زمنية معينة ، ثم تسقط حتماً عن عارضة التوازن وتموت.
كانت "جميع الأنواع تموت" قاعدة موثوقة في التاريخ مثل "يموت كل الناس يومًا ما". لقد سقط 99.9٪ من الأنواع من سجل الحياة ، ومن الواضح تمامًا أنه إذا ظل أحد الأنواع معلقًا على هذا السجل لفترة طويلة جدًا ، فإن عاصفة من الرياح الطبيعية أو كويكب مفاجئ سيؤدي إلى قلب السجل. يسمي بوستروم الانقراض حالة الجاذب - مكان تتوازن فيه جميع الأنواع حتى لا تسقط حيث لم يعد أي نوع بعد.
وعلى الرغم من اعتراف معظم العلماء بأن ISI سيكون لديها القدرة على القضاء على الناس بالانقراض ، يعتقد الكثيرون أيضًا أن استخدام قدرات ISI سيسمح للأفراد (والأنواع ككل) بتحقيق الحالة الثانية للجاذب - خلود الأنواع. يعتقد بوستروم أن خلود نوع ما هو عامل جذب مثله مثل انقراض الأنواع ، أي إذا وصلنا إلى هذا ، فسنحكم علينا بالوجود الأبدي. وهكذا ، حتى لو سقطت جميع الأنواع حتى الآن من هذه العصا في دوامة الانقراض ، يعتقد بوستروم أن السجل له جانبان ، وببساطة لم يظهر على الأرض مثل هذا الذكاء الذي من شأنه أن يفهم كيف يسقط على الجانب الآخر.
إذا كان بوستروم والآخرون على حق ، وإذا حكمنا من خلال جميع المعلومات المتاحة لنا ، فقد يكونون كذلك ، فنحن بحاجة إلى قبول حقيقتين صادمتين للغاية:
إن ظهور ISI لأول مرة في التاريخ سيفتح الطريق أمام الأنواع لتحقيق الخلود والخروج من دورة الانقراض المميتة.
سيكون لظهور ISI تأثير هائل لا يمكن تصوره ، على الأرجح ، سيدفع البشرية بعيدًا عن هذا السجل في اتجاه واحد أو آخر.
من الممكن أنه عندما يصل التطور إلى نقطة التحول هذه ، فإنه دائمًا ما يضع حداً لعلاقة الناس بتيار الحياة ويخلق عالماً جديداً ، مع الناس أو بدونهم.
هذا يقودنا إلى سؤال مثير للاهتمام لن يطرحه إلا المشكل: متى سنصل إلى نقطة التحول هذه وأين سنضعنا؟ لا أحد في العالم يعرف الإجابة على هذا السؤال المزدوج ، لكن العديد من الأشخاص الأذكياء حاولوا اكتشافه على مدى عقود. بالنسبة لبقية المقال ، سنكتشف من أين أتوا.
* * *
لنبدأ بالجزء الأول من هذا السؤال: متى يجب أن نصل إلى نقطة التحول؟ بمعنى آخر: كم من الوقت تبقى حتى تصل الآلة الأولى إلى الذكاء الخارق؟
الآراء تختلف من حالة إلى أخرى. اتفق الكثيرون ، بمن فيهم البروفيسور فيرنور فينج ، والعالم بن هرتزل ، والمؤسس المشارك لشركة صن مايكروسيستمز بيل جوي ، وعالم المستقبل راي كورزويل ، مع خبير التعلم الآلي جيريمي هوارد عندما قدم الرسم البياني التالي في TED Talk:
يشارك هؤلاء الأشخاص وجهة النظر القائلة بأن ISI ستأتي قريبًا - هذا النمو الهائل ، الذي يبدو بطيئًا بالنسبة لنا اليوم ، سوف ينفجر حرفياً في العقود القليلة القادمة.
يعتقد آخرون ، مثل بول ألين المؤسس المشارك لشركة Microsoft ، وعالم النفس البحثي غاري ماركوس ، وخبير الكمبيوتر إرنست ديفيس ، ورائد الأعمال التكنولوجي ميتش كابور ، أن المفكرين مثل كورزويل يقللون بشكل خطير من حجم المشكلة ويعتقدون أننا لسنا قريبين من نقطة تحول.
يجادل معسكر كورزويل بأن الاستخفاف الوحيد الذي يحدث هو تجاهل النمو المتسارع ، ويمكن مقارنة المشككين بمن نظروا إلى الإنترنت المزدهر ببطء في عام 1985 وجادلوا بأنه لن يكون له أي تأثير على العالم في المستقبل القريب.
قد يتجنب المتشككون أنه من الأصعب على التقدم أن يتخذ كل خطوة لاحقة عندما يتعلق الأمر بالتطور الأسي للذكاء ، والذي يحيد الطبيعة الأسية النموذجية للتقدم التكنولوجي. إلخ.
المعسكر الثالث ، الذي يتواجد فيه نيك بوستروم ، يختلف مع الأول أو الثاني ، بحجة أن أ) كل هذا يمكن أن يحدث بالتأكيد في المستقبل القريب ؛ ب) ليس هناك ما يضمن أن هذا سيحدث على الإطلاق أو أنه سيستغرق وقتًا أطول.
يعتقد آخرون ، مثل الفيلسوف هوبير دريفوس ، أن المجموعات الثلاث تؤمن بسذاجة أنه ستكون هناك نقطة تحول على الإطلاق ، وأننا على الأرجح لن نصل إلى المخابرات الباكستانية أبدًا.
ماذا يحدث عندما نجمع كل هذه الآراء معًا؟
في عام 2013 ، أجرى بوستروم دراسة استقصائية أجرى خلالها مقابلات مع مئات من خبراء الذكاء الاصطناعي في سلسلة من المؤتمرات حول الموضوع التالي: "ما هي توقعاتك لتحقيق الذكاء الاصطناعي العام على المستوى البشري؟" وطلب منا تسمية عام متفائل (حيث سيكون لدينا الذكاء الاصطناعي العام مع فرصة بنسبة 10 في المائة) ، وافتراضًا واقعيًا (عام سيكون لدينا فيه الذكاء الاصطناعي العام مع احتمال بنسبة 50 في المائة) وافتراضًا واثقًا (أول عام يكون فيه سيظهر AGI منذ احتمال 90٪). ها هي النتائج:
* متوسط العام المتفائل (10٪): 2022
* متوسط العام الواقعي (50٪): 2040
* متوسط السنة التشاؤمية (90٪): 2075
يعتقد متوسط المستجيبين أنه في غضون 25 عامًا سيكون لدينا الذكاء الاصطناعي العام بدلاً من عدمه. إن فرصة 90٪ لحدوث الذكاء الاصطناعي العام بحلول عام 2075 تعني أنك إذا كنت لا تزال صغير السن الآن ، فمن المرجح أن يحدث ذلك في حياتك.
دراسة منفصلة أجراها مؤخرًا جيمس بارات (مؤلف الكتاب المشهود والجيد جدًا أحدث اختراعاتنا ، مقتطفات من عرضت على انتباه القراء Hi-News.ru) و Ben Hertzel في مؤتمر AGI ، المؤتمر السنوي AGI ، أظهروا ببساطة آراء الناس في العام الذي نصل فيه إلى AGI: 2030 ، 2050 ، 2100 ، لاحقًا أو أبدًا. ها هي النتائج:
* 2030: 42٪ من المستجيبين
* 2050: 25%
* 2100: 20%
بعد 2100: 10٪
أبدًا: 2٪
على غرار نتائج بوستروم. في استطلاع بارات ، يعتقد أكثر من ثلثي المستطلعين أن الذكاء الاصطناعي العام سيكون هنا بحلول عام 2050 ، ويعتقد أقل من النصف أن الذكاء الاصطناعي العام سيظهر في السنوات الـ 15 المقبلة. ومن اللافت للنظر أيضًا أن 2٪ فقط من المستجيبين ، من حيث المبدأ ، لا يرون الذكاء الاصطناعي العام في مستقبلنا.
لكن الذكاء الاصطناعي العام ليس نقطة تحول مثل ISI. متى ، وفقًا للخبراء ، سيكون لدينا ISI؟
سأل بوستروم الخبراء متى سنصل إلى ASI: أ) بعد عامين من الوصول إلى الذكاء الاصطناعي العام (أي على الفور تقريبًا بسبب انفجار الذكاء) ؛ ب) بعد 30 سنة. نتائج؟
الرأي المتوسط هو أن الانتقال السريع من الذكاء الاصطناعي العام إلى الذكاء الاصطناعي سيحدث باحتمال 10٪ ، ولكن في غضون 30 عامًا أو أقل سيحدث مع احتمال 75٪.
من هذه البيانات ، لا نعرف التاريخ الذي سيطلق عليه المستجيبون فرصة بنسبة 50 في المائة لـ ASI ، ولكن بناءً على الإجابتين المذكورتين أعلاه ، دعنا نفترض أنها 20 عامًا. وهذا يعني أن خبراء الذكاء الاصطناعي الرائدين في العالم يعتقدون أن نقطة التحول ستأتي في عام 2060 (سيظهر الذكاء الاصطناعي العام في عام 2040 + وسيستغرق الانتقال من الذكاء الاصطناعي العام إلى الذكاء الاصطناعي العام 20 عامًا).
بالطبع ، جميع الإحصاءات المذكورة أعلاه تخمينية وتمثل ببساطة رأي الخبراء في مجال الذكاء الاصطناعي ، لكنها تشير أيضًا إلى أن معظم الأشخاص المهتمين يتفقون على أنه بحلول عام 2060 ، من المحتمل أن يصل الذكاء الاصطناعي. في 45 سنة فقط.
دعنا ننتقل إلى السؤال الثاني. عندما نصل إلى نقطة التحول ، أي جانب من الخيار القاتل سيحددنا؟
سيكون للذكاء الخارق أقوى قوة ، وسيكون السؤال الحاسم بالنسبة لنا ما يلي:
من أو ما الذي سيسيطر على هذه القوة وماذا سيكون دافعهم؟
ستعتمد الإجابة على هذا السؤال على ما إذا كانت وكالة الاستخبارات الباكستانية ستحصل على تطور قوي بشكل لا يصدق ، أو تطور مرعب لا يقاس ، أو شيء بينهما.
بالطبع ، يحاول مجتمع الخبراء الإجابة على هذه الأسئلة أيضًا. حلل استطلاع بوستروم احتمالية العواقب المحتملة لتأثير الذكاء الاصطناعي العام على البشرية ، واتضح أنه مع وجود فرصة بنسبة 52 في المائة ، فإن كل شيء يسير على ما يرام وباحتمال 31 في المائة أن يسير كل شيء إما بشكل سيء أو سيء للغاية. وأظهر الاستطلاع المرفق في نهاية الجزء السابق من هذا الموضوع ، والذي أجري بينكم أيها القراء الأعزاء ، عن نفس النتائج. للحصول على نتيجة محايدة نسبيًا ، كان الاحتمال 17٪ فقط. بعبارة أخرى ، نعتقد جميعًا أن الذكاء الاصطناعي العام سيكون صفقة كبيرة. تجدر الإشارة أيضًا إلى أن هذا المسح يتعلق بظهور الذكاء الاصطناعي العام - في حالة ISI ، ستكون نسبة الحياد أقل.
قبل أن نتعمق في التفكير في الجوانب الجيدة والسيئة من السؤال ، دعونا نجمع بين جانبي السؤال - "متى سيحدث هذا؟" و "هل هذا جيد أم سيء؟" في جدول يغطي آراء معظم الخبراء.
سنتحدث عن المعسكر الرئيسي في غضون دقيقة ، لكن عليك أولاً تحديد موقفك. هناك احتمالات ، أنت في نفس المكان الذي كنت فيه قبل أن أبدأ العمل في هذا الموضوع. هناك عدة أسباب لعدم تفكير الناس بهذا الموضوع على الإطلاق:
* كما ذكرنا في الجزء الأول ، فقد خلطت الأفلام بشكل خطير بين الناس والحقائق ، وقدمت سيناريوهات غير واقعية مع الذكاء الاصطناعي ، مما أدى إلى حقيقة أنه لا ينبغي لنا أن نأخذ الذكاء الاصطناعي على محمل الجد على الإطلاق. شبّه جيمس بارات هذا الموقف بصدوره من قبل مراكز السيطرة على الأمراض (CDC) بتحذير جاد بشأن مصاصي الدماء في مستقبلنا.
* بسبب ما يسمى بالتحيزات المعرفية ، من الصعب جدًا علينا تصديق أن شيئًا ما حقيقي حتى يكون لدينا دليل. يمكن للمرء أن يتخيل بثقة أن علماء الكمبيوتر في عام 1988 كانوا يناقشون بانتظام العواقب بعيدة المدى للإنترنت وما يمكن أن تصبح عليه ، لكن الناس بالكاد اعتقدوا أنها ستغير حياتهم حتى يحدث ذلك بالفعل. كل ما في الأمر أن أجهزة الكمبيوتر لم تكن تعرف كيفية القيام بذلك في عام 1988 ، وقد نظر الناس إلى أجهزة الكمبيوتر الخاصة بهم وفكروا ، "حقًا؟ هل هذا ما سيغير العالم؟ " كانت مخيلاتهم محدودة بما تعلموه من التجربة الشخصية ، وكانوا يعرفون ما هو الكمبيوتر ، وكان من الصعب تخيل ما سيكون الكمبيوتر قادرًا عليه في المستقبل.يحدث الشيء نفسه الآن مع الذكاء الاصطناعي. لقد سمعنا أنه سيصبح شيئًا خطيرًا ، ولكن نظرًا لأننا لم نواجهه بعد وجهاً لوجه ، وبشكل عام ، نلاحظ مظاهر ضعيفة إلى حد ما للذكاء الاصطناعي في عالمنا الحديث ، فمن الصعب علينا أن نصدق أنه سيكون جذريًا. نغير حياتنا. إنه ضد هذه التحيزات ، يعارض العديد من الخبراء من جميع المعسكرات ، وكذلك الأشخاص المهتمين ، محاولة جذب انتباهنا من خلال ضجيج التمركز اليومي الجماعي للأنانية.
* حتى لو كنا نؤمن بكل هذا - فكم مرة فكرت اليوم في حقيقة أنك ستقضي بقية الأبدية في العدم؟ قليلا توافق. حتى لو كانت هذه الحقيقة أكثر أهمية من أي شيء تفعله يومًا بعد يوم. هذا لأن أدمغتنا تركز عادة على الأشياء الصغيرة اليومية ، بغض النظر عن مدى توهم الوضع طويل الأمد الذي نجد أنفسنا فيه. كل ما في الأمر أننا صنعنا.
أحد أهداف هذا المقال هو إخراجك من المعسكر المسمى "أحب التفكير في أشياء أخرى" ووضعك في معسكر الخبراء ، حتى لو كنت تقف عند مفترق طرق بين الخطين المنقّطين في المربع أعلاه ، متردد تماما.
في سياق البحث ، يتضح أن آراء معظم الناس تنجرف بسرعة نحو "المعسكر الرئيسي" ، وثلاثة أرباع الخبراء يقعون في مخيمين فرعيين في المعسكر الرئيسي.
سنزور كلا المخيمين بالكامل. لنبدأ بالمرح.
لماذا يمكن أن يكون المستقبل حلمنا الأكبر؟
بينما نستكشف عالم الذكاء الاصطناعي ، نجد بشكل مفاجئ العديد من الأشخاص في منطقة الراحة الخاصة بنا. الناس في المربع العلوي الأيمن مليئة بالإثارة. إنهم يعتقدون أننا سنقع في الجانب الجيد من السجل ، ويعتقدون أيضًا أننا سنصل إلى هذا حتمًا. بالنسبة لهم ، المستقبل هو أفضل ما لا يمكن إلا أن يحلموا به.
النقطة التي تميز هؤلاء الأشخاص عن غيرهم من المفكرين ليست أنهم يريدون أن يكونوا في الجانب السعيد - ولكنهم على يقين من أنها هي التي تنتظرنا.
هذه الثقة تأتي من الجدل. يعتقد النقاد أنه يأتي من الإثارة المبهرة التي تلقي بظلالها على الجوانب السلبية المحتملة. لكن المؤيدين يقولون إن التوقعات القاتمة هي دائما ساذجة. تستمر التكنولوجيا وستساعدنا دائمًا أكثر من إلحاق الضرر بنا.
لك الحرية في اختيار أي من هذه الآراء ، ولكن ضع الشكوك جانبًا وألق نظرة جيدة على الجانب السعيد من حزمة التوازن ، محاولًا قبول حقيقة أن كل ما تقرأ عنه قد يكون قد حدث بالفعل. إذا عرضت على الصيادين والقطافين عالمنا المليء بالراحة والتكنولوجيا والوفرة اللامتناهية ، فسيبدو بالنسبة لهم خيالًا سحريًا - ونتصرف بشكل متواضع للغاية ، غير قادرين على الاعتراف بأن نفس التحول غير المفهوم ينتظرنا في المستقبل.
يصف نيك بوستروم ثلاثة مسارات يمكن أن يسلكها نظام ذكاء اصطناعي فائق الذكاء:
* وحي يمكنه الإجابة على أي سؤال محدد ، بما في ذلك الأسئلة الصعبة التي لا يستطيع البشر الإجابة عليها - على سبيل المثال ، "كيف تجعل محرك السيارة أكثر كفاءة؟" جوجل هو نوع بدائي من "أوراكل".
* الجني الذي سينفذ أي أمر عالي المستوى - باستخدام المُجمِّع الجزيئي لإنشاء نسخة جديدة أكثر كفاءة من محرك السيارة - وينتظر الأمر التالي.
* صاحب سيادة يتمتع بإمكانية وصول واسعة والقدرة على العمل بحرية في العالم ، واتخاذ قراراته الخاصة وتحسين العملية. سيبتكر وسيلة نقل خاصة أرخص وأسرع وأكثر أمانًا من السيارة.
هذه الأسئلة والمهام ، التي تبدو صعبة بالنسبة لنا ، ستبدو للنظام الفائق الذكاء كما لو أن شخصًا ما طلب تحسين الوضع "سقط قلمي من على الطاولة" ، حيث يمكنك ببساطة التقاطه وإعادته مرة أخرى.
عبر إليعازر يودكوفسكي ، المتخصص الأمريكي في الذكاء الاصطناعي ، عن ذلك بشكل جيد:
لا توجد مشاكل صعبة ، فقط مشاكل صعبة على مستوى معين من الذكاء.اذهب خطوة أعلى (من حيث الذكاء) ، وستنتقل بعض المشاكل فجأة من فئة "مستحيل" إلى معسكر "واضح". خطوة واحدة أعلى - وستصبح جميعها واضحة ".
هناك العديد من العلماء والمخترعين ورجال الأعمال الذين نفد صبرهم الذين اختاروا منطقة راحة واثقة من طاولتنا ، لكننا نحتاج فقط إلى دليل واحد للمشي نحو الأفضل في أفضل العوالم.
راي كورزويل غامض. البعض يعبد أفكاره والبعض يحتقره. بقي البعض في الوسط - دوغلاس هوفستاتر ، ناقش أفكار كتب كورزويل ، وأشار ببلاغة إلى أنه "كما لو أنك تناولت الكثير من الطعام الجيد وقليلًا من أنبوب الكلب ، ثم خلطت كل شيء بطريقة تجعل من المستحيل فهمها ما هو الخير وما هو الشر ".
سواء أكنت تحب أفكاره أم لا ، فمن المستحيل أن تمر عليها بدون ظل اهتمام. بدأ في اختراع الأشياء عندما كان مراهقًا ، وفي السنوات التالية اخترع العديد من الأشياء المهمة ، بما في ذلك أول ماسح ضوئي مسطح ، وأول ماسح ضوئي لتحويل النص إلى كلام ، ومزج موسيقى كورزويل المعروف (أول بيانو كهربائي حقيقي) ، و أول أداة تعرف على الكلام ناجحة تجاريًا. وهو أيضًا مؤلف لخمسة كتب مثيرة. يحظى كورزويل بالتقدير لتوقعاته الجريئة ، وسجله الحافل جيد جدًا - في أواخر الثمانينيات ، عندما كانت الإنترنت لا تزال في مهدها ، توقع أنه بحلول العقد الأول من القرن الحادي والعشرين ، ستصبح شبكة الويب ظاهرة عالمية. وصفت صحيفة وول ستريت جورنال كورزويل بأنه "عبقري لا يهدأ" فوربس "آلة تفكير عالمية" إنك. مجلة - "الوريث الشرعي لإديسون" بيل جيتس - "أفضل من يتنبأ بمستقبل الذكاء الاصطناعي". في عام 2012 ، دعا لاري بيدج ، الشريك المؤسس لشركة Google ، كورزويل إلى منصب كبير التكنولوجيا. في عام 2011 ، شارك في تأسيس جامعة Singularity ، التي تستضيفها وكالة ناسا وترعاها Google جزئيًا.
سيرته الذاتية مهمة. عندما يتحدث كورزويل عن رؤيته للمستقبل ، يبدو الأمر وكأنه مجنون ، لكن الشيء المجنون حقًا فيه هو أنه بعيد عن الجنون - فهو شخص ذكي ومتعلم وعقلاني بشكل لا يصدق. قد تعتقد أنه مخطئ في تنبؤاته ، لكنه ليس أحمق. يشارك العديد من خبراء منطقة الراحة ، بيتر ديمانديس وبن هرتزل ، تنبؤات كورزويل. هذا ما يعتقد أنه سيحدث.
التسلسل الزمني
يعتقد كورزويل أن أجهزة الكمبيوتر ستصل إلى مستوى الذكاء الاصطناعي العام (AGI) بحلول عام 2029 ، وبحلول عام 2045 لن يكون لدينا ذكاء اصطناعي خارق فحسب ، بل سيكون لدينا أيضًا عالمًا جديدًا تمامًا - زمن ما يسمى بالتفرد. لا يزال يعتبر التسلسل الزمني للذكاء الاصطناعي مبالغًا فيه بشكل شنيع ، ولكن على مدار الخمسة عشر عامًا الماضية ، أجبر التطور السريع لأنظمة الذكاء الاصطناعي شديدة التركيز (AI) العديد من الخبراء على الوقوف إلى جانب كورزويل. لا تزال تنبؤاته أكثر طموحًا من تلك الواردة في استطلاع بوستروم (AGI بحلول عام 2040 ، و ISI بحلول عام 2060) ، ولكن ليس كثيرًا.
وفقًا لكورزويل ، فإن تفرد عام 2045 مدفوع بثلاث ثورات متزامنة في التكنولوجيا الحيوية ، وتكنولوجيا النانو ، والأهم من ذلك ، الذكاء الاصطناعي. ولكن قبل أن نواصل - وتكنولوجيا النانو تتابع عن كثب الذكاء الاصطناعي - دعنا نتوقف لحظة عن تكنولوجيا النانو.
بضع كلمات عن تكنولوجيا النانو
عادة ما نسمي تقنيات النانو التي تتعامل مع معالجة المادة في نطاق من 1-100 نانومتر. النانومتر هو واحد من المليار من المتر ، أو جزء من المليون من المليمتر. يمكن استيعاب الفيروسات (قطرها 100 نانومتر) ، والحمض النووي (بعرض 10 نانومتر) ، وجزيئات الهيموجلوبين (5 نانومتر) ، والجلوكوز (1 نانومتر) وغيرها في نطاق يتراوح بين 1-100 نانومتر. إذا أصبحت تقنية النانو خاضعة لنا ، فستكون الخطوة التالية هي معالجة الذرات الفردية التي يقل حجمها عن ترتيب واحد من حيث الحجم (~ ، 1 نانومتر).
لفهم أين يواجه البشر مشاكل في محاولة التلاعب بالمادة على هذا النطاق ، دعنا نقفز إلى نطاق أوسع. تقع محطة الفضاء الدولية على ارتفاع 481 كيلومترًا فوق الأرض.إذا كان البشر عمالقة وضربوا محطة الفضاء الدولية برؤوسهم ، فإنهم سيكونون أكبر بمقدار 250000 مرة مما هم عليه الآن. إذا قمت بتكبير أي شيء من 1 إلى 100 نانومتر 250000 مرة ، تحصل على 2.5 سم. تقنية النانو هي ما يعادل الإنسان ، الذي يدور حول محطة الفضاء الدولية ، ويحاول التلاعب بأشياء بحجم حبة الرمل أو مقلة العين. للوصول إلى المستوى التالي - التحكم في الذرات الفردية - سيضطر العملاق إلى وضع الأشياء بعناية بقطر 1/40 مليمتر. سيحتاج الناس العاديون إلى مجهر لرؤيتهم.
لأول مرة ، تحدث ريتشارد فاينمان عن تكنولوجيا النانو في عام 1959. ثم قال: "إن مبادئ الفيزياء ، على حد علمي ، لا تتكلم ضد إمكانية التحكم في الأشياء ذرة بذرة. من حيث المبدأ ، يمكن للفيزيائي أن يصنع أي مادة كيميائية قام الكيميائي بتدوينها. كيف؟ عن طريق وضع الذرات حيث يقول الكيميائي للحصول على المادة ". هذه هي البساطة الكاملة. إذا كنت تعرف كيفية تحريك الجزيئات أو الذرات الفردية ، فيمكنك فعل أي شيء تقريبًا.
أصبحت تقنية النانو مجالًا علميًا جادًا في عام 1986 عندما قدم المهندس إريك دريكسلر أسسها في كتابه الأساسي "آلات الخلق" ، لكن دريكسلر نفسه يعتقد أن أولئك الذين يرغبون في معرفة المزيد عن الأفكار الحديثة في تكنولوجيا النانو يجب أن يقرؤوا كتابه لعام 2013. وفرة كاملة "(راديكال) وفرة).
بضع كلمات عن "غراي جوو"
نتعمق أكثر في تكنولوجيا النانو. على وجه الخصوص ، يعد موضوع "Gray goo" أحد الموضوعات غير السارة جدًا في مجال تقنية النانو ، والتي لا يمكن تجاهلها. اقترحت الإصدارات القديمة من نظرية النانوتكنولوجي طريقة التجميع النانوية التي تتضمن إنشاء تريليونات من الروبوتات النانوية الصغيرة التي تعمل معًا لإنشاء شيء ما. تتمثل إحدى طرق إنشاء تريليونات من الروبوتات النانوية في إنشاء واحد يمكنه التكرار الذاتي ، أي من واحد إلى اثنين ، ومن اثنين إلى أربعة ، وهكذا. ستظهر عدة تريليونات من الروبوتات النانوية في يوم واحد. هذه هي قوة النمو الأسي. مضحك ، أليس كذلك؟
إنه مضحك ، لكن بالضبط حتى يؤدي إلى نهاية العالم. تكمن المشكلة في أن قوة النمو المتسارع ، والتي تجعلها طريقة مناسبة جدًا لإنشاء تريليون روبوت نانوي بسرعة ، تجعل التكرار الذاتي أمرًا مخيفًا على المدى الطويل. ماذا لو تعطل النظام ، وبدلاً من إيقاف التكرار لبضعة تريليونات ، تواصل الروبوتات النانوية التكاثر؟ ماذا لو كانت هذه العملية برمتها تعتمد على الكربون؟ تحتوي الكتلة الحيوية للأرض على 10 ^ 45 ذرة كربون. يجب أن يكون النانوبوت بترتيب 10 ^ 6 ذرات كربون ، لذا فإن 10 ^ 39 نانوبوت سوف تلتهم كل أشكال الحياة على الأرض في 130 مكررة فقط. محيط من الروبوتات النانوية ("غراي غو") سوف تغمر الكوكب. يعتقد العلماء أن الروبوتات النانوية يمكنها التكاثر في 100 ثانية ، مما يعني أن خطأً بسيطًا يمكن أن يقتل كل أشكال الحياة على الأرض في 3.5 ساعة فقط.
يمكن أن يكون الأمر أسوأ - إذا وصل الإرهابيون والمتخصصون غير المرغوب فيهم إلى أيدي تكنولوجيا النانو. يمكنهم إنشاء عدة تريليونات من الروبوتات النانوية وبرمجتها للانتشار بهدوء حول العالم في غضون أسبوعين. ثم ، بلمسة زر واحدة ، في غضون 90 دقيقة فقط ، سوف يأكلون كل شيء على الإطلاق ، دون أي فرصة.
بينما نوقشت قصة الرعب هذه على نطاق واسع لسنوات ، فإن الخبر السار هو أنها مجرد قصة رعب. قال إريك دريكسلر ، الذي ابتكر مصطلح "غراي غو" ، مؤخرًا ما يلي: "يحب الناس قصص الرعب ، وهذه إحدى قصص الرعب الزومبي. هذه الفكرة في حد ذاتها تأكل العقول بالفعل ".
بمجرد أن نصل إلى الجزء السفلي من تكنولوجيا النانو ، يمكننا استخدامها لإنشاء الأجهزة التقنية ، والملابس ، والمواد الغذائية ، والمنتجات الحيوية - خلايا الدم ، ومقاتلي الفيروسات والسرطان ، والأنسجة العضلية ، وما إلى ذلك - أيًا كان. وفي عالم يستخدم تقنية النانو ، لن تعود تكلفة مادة ما مرتبطة بندرتها أو تعقيد عملية تصنيعها ، بل بتعقيد بنيتها الذرية. في عالم تكنولوجيا النانو ، يمكن أن يكون الماس أرخص من الممحاة.
نحن لم نقترب من هناك حتى الآن.وليس من الواضح تمامًا ما إذا كنا نقلل أو نبالغ في تعقيد هذا المسار. ومع ذلك ، فإن كل شيء يذهب إلى درجة أن تقنية النانو ليست بعيدة. يفترض كورزويل أنه بحلول عام 2020 سنحصل عليها. تعرف دول العالم أن تكنولوجيا النانو يمكن أن تعد بمستقبل عظيم ، وبالتالي فهي تستثمر العديد من المليارات فيها.
فقط تخيل ما هي الاحتمالات التي سيحصل عليها الكمبيوتر فائق الذكاء إذا وصل إلى مجمّع نانوي موثوق. لكن تقنية النانو هي فكرتنا ، ونحن نحاول أن نركبها ، فهي صعبة علينا. ماذا لو كانت مجرد مزحة لنظام ISI ، و ISI نفسها تأتي بتقنيات ستكون أقوى بعدة مرات من أي شيء يمكننا ، من حيث المبدأ ، افتراضه؟ اتفقنا: لا أحد يستطيع أن يتخيل ما هو الذكاء الاصطناعي الخارق الذي سيكون قادرًا عليه؟ من المعتقد أن أدمغتنا غير قادرة على التنبؤ حتى بالحد الأدنى مما سيحدث.
ما الذي يمكن أن يفعله الذكاء الاصطناعي لنا؟
مسلحًا بالذكاء الخارق وجميع التقنيات التي يمكن أن يخلقها الذكاء الخارق ، من المحتمل أن تكون ISI قادرة على حل جميع مشاكل البشرية. الاحتباس الحرارى؟ ستوقف ISI أولاً انبعاثات الكربون من خلال اختراع مجموعة من الطرق الفعالة لتوليد الطاقة غير المرتبطة بالوقود الأحفوري. سيأتي بعد ذلك بطريقة فعالة ومبتكرة لإزالة فائض ثاني أكسيد الكربون من الغلاف الجوي. السرطان وأمراض أخرى؟ ليست مشكلة - الرعاية الصحية والطب سيتغيران بطرق لا يمكن تصورها. الجوع في العالم؟ ستستخدم ISI تقنية النانو لإنتاج لحوم مطابقة للحوم الطبيعية من الصفر.
ستكون تقنية النانو قادرة على تحويل كومة من القمامة إلى وعاء من اللحوم الطازجة أو غيرها من المواد الغذائية (ليس بالضرورة حتى في شكلها المعتاد - تخيل مكعب تفاح عملاق) وتوزيع كل هذا الطعام في جميع أنحاء العالم باستخدام أنظمة النقل المتقدمة. بالطبع ، سيكون هذا رائعًا للحيوانات التي لم تعد مضطرة للموت من أجل الطعام. يمكن لـ ISI أيضًا القيام بالعديد من الأشياء الأخرى ، مثل الحفاظ على الأنواع المهددة بالانقراض ، أو حتى إعادة الأنواع المنقرضة من الحمض النووي المخزن. يمكن لـ ISI أن تحل مشاكل الاقتصاد الكلي الأكثر صعوبة لدينا - مناقشاتنا الاقتصادية الأكثر صعوبة ، والقضايا الأخلاقية والفلسفية ، والتجارة العالمية - وكلها ستكون واضحة بشكل مؤلم لـ ISI.
لكن هناك شيئًا مميزًا للغاية يمكن أن تقدمه لنا وكالة الاستخبارات الباكستانية. مغرية ومثيرة من شأنها أن تغير كل شيء: يمكن أن تساعدنا ISI في التعامل مع الوفيات … بفهم قدرات الذكاء الاصطناعي تدريجيًا ، ربما ستعيد النظر في كل أفكارك حول الموت.
لم يكن هناك سبب للتطور لإطالة عمرنا أطول مما هو عليه الآن. إذا كنا نعيش طويلاً بما يكفي للولادة وتربية الأطفال إلى الحد الذي يمكنهم فيه إعالة أنفسهم ، فإن التطور كافٍ. من وجهة نظر تطورية ، 30+ سنة كافية للتطور ، ولا يوجد سبب للطفرات لإطالة العمر وتقليل قيمة الانتقاء الطبيعي. دعا ويليام بتلر ياتيس جنسنا البشري "روح مرتبطة بحيوان يحتضر". ليس الكثير من المرح.
وبما أننا جميعًا نموت يومًا ما ، فإننا نعيش مع فكرة أن الموت أمر لا مفر منه. نفكر في الشيخوخة بمرور الوقت - الاستمرار في المضي قدمًا وعدم القدرة على إيقاف هذه العملية. لكن فكرة الموت غادرة: فأسرناها وننسى أن نعيشها. كتب ريتشارد فاينمان:
"هناك شيء رائع في علم الأحياء: لا يوجد شيء في هذا العلم يمكن أن يتحدث عن ضرورة الموت. إذا أردنا إنشاء آلة حركة دائمة ، فإننا ندرك أننا وجدنا قوانين كافية في الفيزياء تشير إما إلى استحالة ذلك ، أو أن القوانين خاطئة. لكن لا يوجد شيء في علم الأحياء يشير إلى حتمية الموت. هذا يقودني إلى الاعتقاد بأنه ليس أمرًا حتميًا ، إنها مسألة وقت فقط قبل أن يكتشف علماء الأحياء سبب هذه المشكلة ، هذا المرض الشامل الرهيب ، سيتم علاجه ".
الحقيقة هي أن الشيخوخة لا علاقة لها بالوقت.الشيخوخة هي عندما تبلى المواد الفيزيائية للجسم. تتحلل أيضًا أجزاء السيارات - ولكن هل الشيخوخة أمر لا مفر منه؟ إذا قمت بإصلاح سيارتك مع تلف الأجزاء ، فستستمر إلى الأبد. لا يختلف جسم الإنسان - فقط أكثر تعقيدًا.
يتحدث كورزويل عن الروبوتات النانوية الذكية المتصلة بشبكة Wi-Fi في مجرى الدم والتي يمكن أن تؤدي مهامًا لا حصر لها لصحة الإنسان ، بما في ذلك إصلاح أو استبدال الخلايا البالية بانتظام في أي مكان في الجسم. إن تحسين هذه العملية (أو إيجاد بديل مقترح من قبل ASI أكثر ذكاءً) لن يحافظ على صحة الجسم فحسب ، بل يمكنه أيضًا عكس الشيخوخة. الفرق بين جسد شخص يبلغ من العمر 60 عامًا ويبلغ من العمر 30 عامًا هو عدد قليل من المشكلات الجسدية التي يمكن تصحيحها باستخدام التكنولوجيا المناسبة. يمكن لـ ISI بناء سيارة يدخلها الشخص عندما يبلغ من العمر 60 عامًا ويغادرها عندما يبلغ من العمر 30 عامًا.
حتى الدماغ المتدهور يمكن تجديده. ستعرف ISI بالتأكيد كيفية القيام بذلك دون التأثير على بيانات الدماغ (الشخصية والذكريات وما إلى ذلك). يمكن لرجل يبلغ من العمر 90 عامًا يعاني من تدهور كامل في الدماغ أن يخضع لإعادة التدريب والتجديد والعودة إلى بداية حياته. قد يبدو الأمر سخيفًا ، لكن الجسم عبارة عن حفنة من الذرات ، وبالتأكيد يمكن لـ ISI التلاعب بها بسهولة ، أي هياكل ذرية. هذا ليس سخيفًا.
يعتقد كورزويل أيضًا أن المواد الاصطناعية ستندمج أكثر فأكثر في الجسم مع مرور الوقت. كبداية ، يمكن استبدال الأعضاء بإصدارات آلة فائقة التطور تستمر إلى الأبد ولن تفشل أبدًا. ثم يمكننا إعادة تصميم الجسم بالكامل ، واستبدال خلايا الدم الحمراء بالروبوتات النانوية المثالية التي تتحرك من تلقاء نفسها ، مما يلغي الحاجة إلى القلب تمامًا. يمكننا أيضًا تحسين قدراتنا المعرفية ، والبدء في التفكير أسرع بمليارات المرات ، والوصول إلى جميع المعلومات المتاحة للبشرية من خلال السحابة.
ستكون احتمالات فهم الآفاق الجديدة بلا حدود حقًا. لقد نجح الناس في إضفاء غرض جديد على الجنس ، فهم يفعلونه من أجل المتعة ، وليس فقط للتكاثر. يعتقد كورزويل أنه يمكننا فعل الشيء نفسه مع الطعام. يمكن للروبوتات النانوية أن تقدم تغذية مثالية مباشرة إلى خلايا الجسم ، مما يسمح للمواد غير الصحية بالمرور عبر الجسم. طور روبرت فريتاس ، المُنظِّر في تقنية النانو ، بالفعل بديلاً لخلايا الدم ، والذي ، عند تطبيقه في جسم الإنسان ، يمكن أن يسمح له بعدم التنفس لمدة 15 دقيقة - وقد اخترع هذا الشخص. تخيل متى ستكتسب المخابرات الباكستانية القوة.
بعد كل شيء ، يعتقد كورزويل أن البشر سيصلون إلى النقطة التي يصبحون فيها مصطنعين تمامًا ؛ الوقت الذي ننظر فيه إلى المواد البيولوجية ونفكر في مدى بدائيتها ؛ الوقت الذي سنقرأ فيه عن المراحل المبكرة من تاريخ البشرية ، مندهشًا من كيف يمكن للجراثيم أو الحوادث أو الأمراض أو ببساطة الشيخوخة أن تقتل شخصًا ضد إرادته. في النهاية ، سوف يهزم البشر بيولوجيتهم الخاصة ويصبحون أبديين - هذا هو الطريق إلى الجانب السعيد من حزمة التوازن التي كنا نتحدث عنها منذ البداية. والأشخاص الذين يؤمنون بهذا متأكدون أيضًا من أن مثل هذا المستقبل ينتظرنا قريبًا جدًا.
ربما لن تتفاجأ من أن أفكار كورزويل قد أثارت انتقادات شديدة. سميت تفردها في عام 2045 والحياة الأبدية اللاحقة للناس "صعود المهووسين" أو "الخلق الذكي لأشخاص بمعدل ذكاء 140". تساءل آخرون عن الإطار الزمني المتفائل ، فهم الجسم البشري والدماغ ، مذكرين بقانون مور ، الذي لم يختف بعد. مقابل كل خبير يؤمن بأفكار كورزويل ، هناك ثلاثة يعتقدون أنه مخطئ.
لكن الشيء الأكثر إثارة للاهتمام في هذا هو أن معظم الخبراء الذين يختلفون معه ، بشكل عام ، لا يقولون إن هذا مستحيل.بدلاً من قول "هراء ، لن يحدث هذا أبدًا" ، يقولون شيئًا مثل "كل هذا سيحدث إذا وصلنا إلى ISI ، لكن هذه هي المشكلة". بوستروم ، أحد خبراء الذكاء الاصطناعي المعروفين الذين حذروا من مخاطر الذكاء الاصطناعي ، يعترف أيضًا:
"يكاد لا يوجد أي مشكلة لا يمكن للذكاء الخارق أن يحلها ، أو حتى يساعدنا في حلها. المرض والفقر والدمار البيئي والمعاناة من جميع الأنواع - كل هذا الذكاء الخارق بمساعدة تقنية النانو يمكن أن يحل في لحظة. يمكن أن يمنحنا الذكاء الخارق أيضًا عمرًا غير محدود من خلال إيقاف عملية الشيخوخة وعكسها باستخدام الطب النانوي أو القدرة على تحميلنا إلى السحابة. يمكن للذكاء الخارق أيضًا أن يخلق فرصًا لزيادة لا نهاية لها في القدرات الفكرية والعاطفية ؛ يمكنه مساعدتنا في خلق عالم نعيش فيه بفرح وتفهم ، ونقترب من مُثُلنا ونحقق أحلامنا بانتظام ".
هذا اقتباس من أحد منتقدي كورزويل ، الذي يعترف بأن كل هذا ممكن إذا تمكنا من إنشاء ASI آمن. حدد كورزويل ببساطة ما يجب أن يصبح عليه الذكاء الاصطناعي الخارق ، إذا كان ذلك ممكنًا. وإن كان إلهًا صالحًا.
يتمثل النقد الأكثر وضوحًا لمناصري منطقة الراحة في أنهم قد يكونون مخطئين عند تقييمهم لمستقبل المخابرات الباكستانية. في كتابه التفرد ، خصص كورزويل 20 صفحة من 700 تهديد محتمل لـ ISI. السؤال ليس عندما نصل إلى ISI ، السؤال هو ماذا سيكون دافعها. يجيب كورزويل على هذا السؤال بحذر: "تنبع ISI من العديد من الجهود المتباينة وسيتم دمجها بعمق في البنية التحتية لحضارتنا. في الواقع ، سيكون جزءًا لا يتجزأ من أجسامنا ودماغنا. سيعكس قيمنا لأنه سيكون واحدًا معنا ".
ولكن إذا كان الجواب هو ، فلماذا يشعر الكثير من الأذكياء في هذا العالم بالقلق بشأن مستقبل الذكاء الاصطناعي؟ لماذا يقول ستيفن هوكينج إن تطوير المخابرات الباكستانية "قد يعني نهاية الجنس البشري"؟ يقول بيل جيتس إنه "لا يفهم الأشخاص الذين لا يتضايقون" حيال ذلك. يخشى إيلون ماسك من أننا "نستدعي شيطانًا". لماذا يعتبر العديد من الخبراء أن المخابرات الباكستانية هي أكبر تهديد للبشرية؟
سنتحدث عن هذا في المرة القادمة.
