ماذا يحدث عندما تصبح أجهزة الكمبيوتر أكثر ذكاءً من البشر

يتطور الذكاء الصناعي ليكون أكثر ذكاءً بسرعة كبيرة. تشير الأبحاث التي تم القيام بها في القرن الحالي إلى أن الذكاء الصناعي للكمبيوتر قد يصبح في مثل"ذكاء" الإنسان. ومن ثم، يقول (نيك بوستروم)، إن هذا الذكاء الصناعي سوف يحل محل الإنسان: "ذكاء الآلة هو أحد أخر الاختراعات التي تحتاج الإنسانية إليها." يطلب إلينا عالم الفلسفة وأخصائي التكنولوجيا،(بوستروم) أن نفكر بجد عن العالم الذي نعمل على بناءه الآن، ذلك العالم الذي يعتمد على تفكير الآلات. فهل أن الآلات الذكية سوف تساعدنا في الحفاظ على إنسانيتنا وقيمنا، أم هل سيكون لها قيمها الخاصة بها؟

أنا أعمل مع مجموعة من أخصائي الرياضيات
والفلاسفة وعلماء الكمبيوتر،

نجلس معًا نفكر
في مستقبل ذكاء الآلة،

و أمور أخرى.

بعض الناس يعتقد أن بعضًا من هذه الأمور
هي ضرب من الخيال العلمي،

وأنها بعيدة المنال، بل ضرب من الجنون.

ولكنني أود أن أقول،

حسنًا، لنلق نظرة على الوضع
الحالي للبشر.

(ضحك)

هذه هو الوضع الطبيعي للأمور.

ولكن إذا أمعنا النظر فيها،

فسنجد أننا قد وصلنا إلى
مرحلة أننا ضيوف على هذا الكوكب،

أقصد بذلك الجنس البشري.

فكر فيما إذا كانت الأرض قد
وجدت منذ عام مضى،

فإن الجنس البشري حينها،
سيكون عمره 10 دقائق فقط.

وستكون الحقبة الصناعية
قد بدأت منذ ثانيتين.

ثمة طريقة أخرى للتفكير في هذا وهي
إجمالي الناتج العالمي منذ 10,000 سنة،

لقد وفرت عليكم عناء التفكير في هذا
من خلال هذا الرسم البياني.

إنه الأمر سيكون مثل هذا.

(ضحك)

إنه شكل يبعث على الفضول
في أي حالة طبيعية.

ومتأكد أننا لانرغب بالتوقف عنده.

(ضحك)

لنسأل أنفسنا، ما هو السبب
في هذه الحالة غير الطبيعية؟

قد يقول بعض الناس إنه بسبب التكنولوجيا.

والآن إن هذا الأمر صحيح، فالتكنولوجيا
تتجمع بشكل تراكمي على مدار التاريخ البشري،

وحاليًا، فإن التكنولوجيا
تتقدم بسرعة كبيرة جدًا

وهذا سبب تقريبي،

ويعزي إليه الفضل
في أننا أصبحنا أكثر إنتاجية.

ولكنني أود أن أعود بتفكيري
إلى الواراء قليلاً لمعرفة السبب الرئيسي.

للنظر إلى هذين السيدين
المحترمين للغاية.

لدينا (كانزي)

لقد تمكن من إتقان 200 رمز لغوي،
ولديه سرعة رهيبة.

أما (إيد ويتين) فقد اكتشف
ثورة الأوتار الثانية.

وإذا أمعنا النظر بشكل أكبر،
فسوف نجد:

نفس الشيء.

واحد أكبر قليلاً،

ولربما لديه أيضًا أساليب
مثل الطريقة التي تتواصل بها.

إن هذه الاختلافات غير المرئية
لا يمكن أن تكون أكثر تعقيدًا، ومع ذلك،

نظرًا لوجود
250,000 جيل فقط

منذ جدودنا الأوائل.

وإننا نعرف أن الآليات المعقدة
تأخذ وقتًا طويلاً للتطور.

ولهذا فبعضًا من التغييرات الطفيفة نسبيًا

لننتقل من (كانزي) إلى (ويتين)،

من أفرع الشجرة المحطمة
إلى الصواريخ الباليستية العابرة للقارات.

هذا يبدو جليًا للغاية
فهذا كل ما حققناه،

وكل ما نهتم لأجله،

يعتمد بشكل أساسي على التغييرات
الطفيفة التي شكلت العقل البشري.

والنتيجة الطبيعية، في الواقع،
هي أن أية تغييرات أخرى

قد تغير بشكل كبير
في ركيزة التفكير

ومن المحتمل أن يكون لها
عواقب كبيرة.

إن بعضًا من زملائي
يعتقدون أننا على شفا

شيء ما قد يحدث تغيرًا
عميقًا في هذه الركيزة،

وهذا الشيء هو الذكاء الفائق للألة.

لقد استخدم الذكاء الصناعي
لوضع أوامر في صندوق مغلق.

فلدينا المبرمجين من البشر

الذين صنعوا بشكل جاد
عناصر المعرفة.

لقد عملنا على بناء هذه الأنظمة المخضرمة،

ولقد كانت مفيدة إلى حد ما
في بعض الأمور،

ولكنها هشة للغاية،
حيث لا يمكنك أن تقيس حجمها.

وبشكل أساسي، فإنك تحصل فقط
على ما تضعه.

ولكن منذ ذلك الحين،

فقد حدث تحول نظري في مجال
الذكاء الصناعي.

واليوم، فإن التركيز ينصب على
تعليم الآلة.

وبالتالي، فإنه بدلاً عن صياغة رموز
وخصائص المعرفة،

فإننا ننشيء خوارزميات يمكنها،
التعلم من البيانات الإدراكية غالبًا.

تمامًا مثلما يفعل الرضع لدينا.

وبالتالي فالنتيجة هي ذكاء صناعي
غير محدود على مجال بعينه،

فالنظام ذاته يمكنه أن يتعلم الترجمة بين
أي زوجين من اللغات،

أو تعلم لعب أي لعبة كمبيوتر
على وحدة معالج الأتاري.

والآن بالطبع،

فإن الذكاء الصناعي غير بعيد
عن الحصول على قدرة في مجالات عديدة

تمكنه من التعلم والتخطيط
مثل ما يفعل الإنسان.

فقشرة المخ تشتمل على
حيل لوغاريتمية

ومع ذلك فمازلنا نحتاج إلى
معرفة التوافق مع الآلات.

يتمثل السؤال في،

ما هو مدى بُعدنا عن مقدرتنا
على التوافق مع تلك الحيل؟

منذ عامين،

قمنا بعمل استبيان لبعض خبراء
الذكاء الصناعي في العالم،

لكي نعرف ما الذي يفكرون به،
وكان أحد الأسئلة التي طرحناها،

"بأي عام تعتقد أننا قد
نصل إلى احتمالية بنسبة 50 في المائة

من مستوى ذكاء صناعي
للآلة يحاكي المستوى البشري؟"

وقد عرفنا المستوى البشري هنا
بالقدرة على القيام

بأي مهمة تقريبًا مثل
أي إنسان بالغ،

ومن ثم فإن المستوى البشري في الواقع،
لا يقتصر على بعض المجالات المحددة.

وكان متوسط الإجابة بحلول عام 2040 أو 2050،

وذلك بحسب أي مجموعة
من الخبراء تم طرح هذه الأسئلة عليها.

والآن، فمن الممكن أن يحدث الكثير،
والكثير فيما بعد، أو في القريب العاجل،

والحقيقة هي أنه لا أحد يعلم متى ذلك.

إن كل ما نعرفه هو أن الحد النهائي
على معالجة المعلومات

في ركيزة الآلة يقع خارج نطاق
حدود النسيج البيولوجي.

ويتعلق هذا الأمر بالفيزياء.

فالخلية العصبية الحيوية، تنطلق،
عند 200 هرتز، 200 ضعف في الثانية.

بل إن الترانزستور الحديث
يعمل بسرعة جيجا هرتز.

تتكاثر الخلا العصبية ببطىء في محاور عصبية،
100 متر في الثانية أو أكثر.

أما في الكمبيوتر، فإن الإشارات
تنتقل بسرعة الضوء.

كما أن هنالك حدود للأحجام،

مثل المخ البشري
لديه حدود داخل الجمجمة،

أما الكمبيوتر فيمكن أن
يكون بحجم مخزن أو أكبر.

ومن ثم فإن احتمالية الذكاء الصناعي
تظل كامنه في المادة،

وهذا الأمر أشبه بالذرة الكامنة
عبر التاريخ البشرية،

والتي انتظرت بصبر حتى عام 1945.

وفي هذا القرن،

فإن العلماء قد يتعلمون إيقاظ
قوة الذكاء الصناعي.

وإنني أعتقد أننا ربما نرى حينئذ
انفجار الذكاء.

والآن فإن معظم الأشخاص، عندما يفكرون
بشأن ما الذكي وما هو الساذج،

فإنني أتصور أن الصورة
في ذهني أشبه بهذا الأمر.

ولدينا في أحد الطرفين قروي ساذج،

وفي النهاية الأخرى البعيدة

لدينا (إيد ويتين)، أو (ألبرت أينشتين)
أوأياً كان العبقري المفضل لديكم.

ولكنني أعتقد أنه من وجهة نظر
الذكاء الصناعي،

فإن الصورة الحقيقية هي
أكثر واقعية مثل هذا:

يبدأ الذكاء الصناعي في هذه النقطة هنا،
نقطة صفر الذكاء،

وحينها، وبعد الكثير، والكثير
من الأعوام من العمل الجاد،

فإننا قد نصل إلى مستوى
ذكاء صناعي بمستوى الفأر،

شيء يمكنه أن
يتنقل عبر البيئات المتناثرة

مثلما يستطيع الفأر أن يفعل.

ثم بعد ذلك، وبعد أعوام كثيرة جدًا
من العمل الجاد، والكثير من الاستثمارات،

فقد يمكننا بالنهاية أن نصل
إلى ذكاء صناعي بمستوى الشمبانزي.

ثم بعد ذلك، وبعد أعوام كثيرة جدًا
من العمل الجاد حقًا،

فسوف نصل إلى ذكاء صناعي
بمستوى القروي الساذج.

وبعد بعض الوقت،
فإننا سوف نصل إلى (إيد ويتين).

ولا تتوقف المسيرة
في محطة (هيومان فيل).

بل ستحدث إنطلاقة مدوية.

والآن فإن هذا ينطوي على تأثيرات عميقة،

لاسيما عندما يتعلق الأمر بالقوة.

فمثلاً، فإن الشمبانزي قوي

وبمقياس رطل لكل رطل، فإن الشمبانزي
أقوى مرتان من ذكر الإنسان.

ومع ذلك، فإن مصير (لكانزي)
وأقرانه يعتمد على الكثير

مما نفعله نحن البشر بخلاف
ما يفعله الشمبانزي بنفسه.

وبمجرد وجود الذكاء الصناعي،

فإن مصير الإنسانية قد يعتمد على
ما يفعله الذكاء الصناعي.

فكر في هذا الأمر:

ذكاء الآلة هو أحد آخر الابتكارات
التي تحتاج إليها الإنسانية.

فاللآلات حينها سوف تكون أفضل
في الاختراعات عنا.

وسوف تفعل ذلك
وفق جدول زمني رقمي.

إن هذا يعني
نظرة استشرافية على المستقبل.

فكروا في كل التكنولوجيا العجيبة
حسبما يمكنكم تخيله

فلربما استطاع الإنسان
التطور بعد مرور ما يكفي من الزمن:

علاج الشيخوخة، واحتلال الفضاء،

واليرقات النانونية القابلة للنسخ ذاتيًا
أو تحميل العقول إلى أجهزة الكمبيوتر.

كافة الأنواع من الخيال العلمي

التي لم تتوافق بعد مع
مع قوانين الفيزياء.

كل هذا الذكاء الفائققد يتطور،
ويمكن أن يكون ذلك سريعًا.

والآن، فإن الذكاء الصناعي
مع النضوج الهائل للتكنولوجيا

قد يكون قويًا للغاية،

وفي أضعف الحالات،
فسوف يمكنه أن يحصل على ما يريد.

وبالتالي سيكون لدينا مستقبلاً
يشكله تفضيلات هذا الذكاء الصناعي.

والآن السؤال الوجيه هو،
ما هي هذه التفضيلات؟

إن هذا أمر مثير للغاية.

لكي يتم إحراز تقدم في هذا،

فيجب أولاً أن نتجنب أن نرجعالسبب
إلى تصرفات البشر.

حيث إن هذا الأمر يثير السخرية
نظرًا لأن كل مقال في جريدة

يتعلق بشأن مستقبل الذكاء الصناعي
يرسم هذه الصورة:

ومن ثم فإنني أعتقد أن ما نحتاج إلى القيام
به هو أن ننظر إلى الموضوع بتجرد،

وليس مثل سيناريوهات هوليود المثيرة.

إننا بحاجة إلى أن نفكر بالذكاء
كعملية للتحسين،

عملية توجه المستقبل إلىمجموعة معينة
من عمليات التهيئة.

الذكاء الفائق هو عملية تحسين قوية
في الواقع.

وهو مفيد للغاية لاستخدام الوسائل المتاحة
لتحقيق حالة

يتم فيها تحقيق الهدف الخاص بها.

وهذا يعني عدم وجود تواصل
ضروري بين

أن تكون ذكيًا جدًا بهذا المفهوم،

وبين أن يكون لدينا هدف كبشر نبحث
عن أن يكون جدير بالاهتمام أو له معنى.

لنفترض أننا أعطينا الذكاء الصناعي
هدفًا لكي يصنع ابتسامة بشرية.

فعندما يكون الذكاء الصناعي ضعيفًا،
فيقوم بحركات مفيدة أو مذهلة

تجعل مستخدمه يبتسم.

فعندما يصبح الذكاء الصناعي ذكاءً فائقًا،

فإنه يدرك أن هنالك طريقة
أكثر فعالية لتحقيق هذا الهدف:

السيطرة على العالم

ومن ثم يبدأ في وضع أقطاب كهربائة
في عضلات وجه الإنسان

لكي يجعله يطلق ابتسامات ثابتة عريضة.

ومثال آخر،

لنفترض أننا أعطينا الذكاء الصناعي الهدف
لحل مسألة رياضية صعبة.

فعندما يصبح الذكاء الصناعي ذكاءً فائقًا،

فإنه سيتعرف على الطريقة الأكثر فعالية
للحصول على حل لهذه المسألة

وبالتالي فإن هذا بمثابة تحويل الكوكب
إلى كمبيوتر عملاق،

من أجل زيادة قدرته على التفكير.

وعلينا أن نلاحظ أن هذا يعطي الذكاء الصناعي
سببًا وجيهًا

للقيام بأشياء لنا
قد لا نوافق عليها.

ففي هذا النموذج يصبح الإنسان مصدر تهديد،

حيث يمكننا أن نمنع حل المسألة الرياضية.

وبالطبلع، فإن الأمور لن تخرج
عن مسارها في هذه الطرق المحددة؛

فهي أمثلة ساذجة للغاية.

ولكن النقطة العامة هنا هامة للغاية:

فإذا قمنا بإنشاء عملية تحسين
قوية بالفعل

لزيادة قدرة الهدف (×)،

فعلينا أن نتأكد بشكل أفضل
من تعريف الهدف (×)

وهذا يشتمل على كل شيء نهتم لأجله.

وهذا هو الدرس الذي يتم تعلمه
من الأسطورة.

فالملك "ميداس" كان يأمل في أن كل
شيء يلمسه يتحول إلى ذهب.

فلمس ابنته فتحولت إلى ذهب.

ولمس طعامه، فتحول إلى ذهب.

ويمكن أن يكون هذا الأمر وثيق الصلة عمليًا،

وليس مجرد كناية عن الطمع،

بل إنه توضيح لما يحدث

إذا قمنا بإنشاء عملية تحسين قوية

وقمنا بإعطائها أهدافًا
أُسيء فهمها أو محددة بشكل غير جيد.

والآن قد تقولون، إذا بدأ الكمبيوتر
في وضع أقطاب كهربائية في وجه البشر،

فيمكننا أن نقوم بإطفائه.

أولاً، إن هذا الأمر ليس سهلاً
لاسيما إذا أصبحنا نعتمد على النظام .

مثلاً، أين يوجد مفتاح إطفاء الإنترنت؟

ثانيًا، لماذا لم يتوقف الشمبانزي
عن التطور إلى بشر،

أوالبشر البدائيّون؟

لقد كان لديهم سبب بالتأكيد.

إن لدينا مفتاح إطفاء، مثلاً، هنا.

(خنق)

يكمن السبب في أننا عدو ذكي؛

حيث يمكننا توقع التهديدات
ونخطط للتعامل معها.

وهكذا يستطيع العميل الفائق الذكاء أن يفعل،

بل وبطريقة أفضل عما يمكننا القيام به.

فالمغزى من هذا، يتمثل في أنه يجب
ألا نثق في أن هذا الأمر تحت سيطرتنا.

ويجب أن نحاول أن نجعل
من مهمتنا أيسر، من خلال،

وضع الذكاء الصناعي في صندوق،

وذلك مثل بيئات البرمجيات،

وهي محاكاة وهمية للواقع
لا يمكنه الإفلات منه.

ولكن ما مدى ثقتنا في أن الذكاء الصناعي
لا يمكنه أن يجد ثغرة.

على اعتبار أن قراصنة الكمبيوتر
يجدون ثغرات دائمًا،

وأود أن أقول، يجب ألا نكون واثقين للغاية.

وبالتالي يجب أن نقوم بفصل كابل الإيثيرنت
لكي نعمل على إيجاد ثغرة في المجال،

ومرة أخرى، مثلما يفعل قراصنة الكمبيوتر

فسوف يتم التسلسل عبر هذه الثغرات
باستخدام الهندسة الاجتماعية.

وحتى الآن، فمثلما تحدثت،

فإنني واثق من أنه توجد إحدى الموظفات

التي تتحدث دائمًا عن إعطاء
تفاصيل حسابها

إلى شخص ما يدعي
أنه من إدارة تكنولوجيا المعلومات.

كما توجد سيناريوهات أكثر إبداعًا،

كأن تكون أنت الذكاء الصناعي

لك أن تتخيل وضع أقطاب كهربائية
داخل أجهزتك الداخلية

لإيجاد موجات لاسلكية
يمكنك استخدامها في التواصل.

أو يمكنك التظاهر بالعطب،

وعندما يقوم المبرجمون بفتح الغطاء
من عليك لرؤية ماذا حدث لك،

فسوف ينظرون إلى كود المصدر

يمكن أن يحدث تلاعب.

أو من الممكن تعديل المخطط
إلى تكنولوجيا متطورة للغاية،

وعندما نقوم بتنفيذها،

وهو يحتوي على بعض الآثار الجانبية السلبية
التي خطط لها الذكاء الصناعي.

والمغزى هُنا هو أنه يجب ألا
يكون لدينا ثقة مطلقة في قدرتنا

على الاحتفاظ بقدرات الذكاء
الصناعي للغاية ضمن حدود السيطرة.

فأجلاً أم عاجلاً، سوف ينطلق بقوة.

وإنني أعتقد أن الإجابة هُنا تتمثل

في معرفة كيف أن الذكاء الصناعي
مثل هذا حتى عندما ينطلق،

فسوف يظل آمنًا نظرًا لأنه
إلى جانبنا بشكل متأصل

حيث إنه يتشارك القيم معنًا.

وإنني لا أرى ثمة طريقة أخرى
للتعامل مع هذه المشكلة العصيبة.

والآن، فإنني متفائل إلى حد ما
بأن هذه المشكلة يمكن أن يتم حلها.

حيث إنه لا يتعين علينا أن نكتب
قائمة طويلة بكل شيء نهتم لأجله،

أو الأسوأ، أن نقوم بتهجئته
في بعض لغات البرمجة

مثل (++C) أو( بيثون)،

حيث إنها ستكون مهمة خارج حدود المأمول.

وبدلاً عن ذلك، فيمكننا أن نقوم بإنشاء
ذكاء صناعي يستخدم ذكاؤه

لتعلم القيم التي نقدرها،

ويتم بناء نظامه التحفيزي
بطريقة تنطوي على التحفيز

لمواصلة قيمنا أو للقيام بإجراءات
تتوقع ما نتفق معه.

وبالتالي فإننا نعزز من ذكاءه
بأكبر قدر ممكن

لحل مشكلة تحميل القيم.

ويمكن أن يحدث هذا،

ويمكن أن تكون النتيجة
جيدة جدًا للإنسانية.

ولكن هذا لا يحدث من تلقاء نفسه.

إن هذه الشروط الأولية
لانفجار الذكاء

قد تكون بحاجة إلى أن يتم إعدادها
بالطريقة الصحيحة

إذا أردنا الحصول على انفجار تحت السيطرة.

قيمنا التي يتعين على الذكاء الصناعي
أن يتوافق معها،

وليس مجرد السياق الشائع،

مثل أينما نتحقق بسهولة من تصرف
الذكاء الصناعي،

ولكن في كافة السياقات الجديدة
التي قد يواجهها الذكاء الصناعي

في المستقبل المحتوم.

كما توجد كذلك بعض المشاكل الخفية
التي تحتاج إل حل، والتعامل معها:

التفاصيل الدقيقة لنظرية القرار الخاص به،

كيفية التعامل مع
عدم التأكد المنطقي وما إلى ذلك.

وبالتالي فالمشاكل الفنية التي تحتاج
إلى حل لكي يعمل هذا

تبدو أكثر صعوبة

ولكنها ليست صعبة بنفس كيفية
صنع الذكاء الصناعي فائق الذكاء،

ولكنها صعبة إلى حد ما.

وهنا يكمن القلق:

حيث إن جعل الذكاء الصناعي ذكاءً فائقًا
يمثل تحديًا صعبًا للغاية.

ومن ثم فإن جعل الذكاء الصناعي
عبارة عن فائق بشكل آمن

يتطلب بعضًا من التحديات
على قائمة أولوياته.

فالخطورة تتأتى عندما يتصور شخص ما
كيفية التغلب على أول تحد

بدون التعامل مع التحديات الإضافية

الخاصة بضمان سلامة مثالية.

ولذا فإنني أعتقد أنه
ينبغي أن نعمل على إيجاد حل

لمشكلة السيطرة مقدمًا،

وبالتالي يكون هذا الحل متاحًا
عندما نحتاج إليه.

والآن فربما يبدو الأمر أنه لا يمكننا
حل مشكلة السيطرة مقدمًا

نظرًا لأنه يمكن فقط وضع
بعض العناصر في محلها

بمجرد أن نعرف تفاصيل
التركيبة التي سوف يتم تنفيذها.

ولكن كلما استطعنا حل مشكلة
السيطرة مقدمًا،

كانت الاحتمالات أفضل في الانتقال
إلى حقبة الآلة

بشكل سلسل.

إن هذا يبدو بالنسبة لي
مثل شيء يجدر القيام به

وأستطيع أن أتخيل أنه
إذا صارت الأمور بشكل جيد،

فإن الناس بعد ملايين السنوات
من الآن سوف ينظرون إلى هذا القرن

وقد يستحسنون قول
لقد كان أهم شيء قمنا به

هو أننا فعلنا هذا بالشكل الصحيح.

شكرًا لكم.

(تصفيق)