Return to Video

از ابرهوش مصنوعی نترسید

  • 0:01 - 0:05
    وقتی بچه بودم،
    اصل درسخوان بودم.
  • 0:05 - 0:07
    فکر کنم بعضی از شما همینطوری بودید.
  • 0:08 - 0:09
    (خنده)
  • 0:09 - 0:12
    و شما آقا که از همه بلندتر خندیدی،
    احتمالا هنوز هم هستی.
  • 0:12 - 0:14
    (خنده)
  • 0:14 - 0:18
    در شهری کوچک در دشتهای غبارآلود
    شما تگزاس بزرگ شدم،
  • 0:18 - 0:21
    پسر یک کلانتر که خودش
    پسر یک کشیش بود.
  • 0:21 - 0:23
    پس جایی برای خرابکاری نمیماند.
  • 0:24 - 0:27
    و من محض تفریح کتابهای حساب
    میخواندم.
  • 0:27 - 0:29
    (خنده)
  • 0:29 - 0:31
    شما هم اینطور بودید.
  • 0:31 - 0:34
    که باعث شد یک لیزر و کامپیوتر
    و مدل موشکی بسازم،
  • 0:34 - 0:37
    و این که باعث شد در اتاق خوابم
    سوخت موشک بسازم.
  • 0:38 - 0:42
    الان در عبارات علمی
  • 0:42 - 0:45
    این را یک ایده بد میخوانیم.
  • 0:45 - 0:46
    (خنده)
  • 0:46 - 0:48
    و هم زمان
  • 0:48 - 0:52
    فیلم « ۲۰۰۱: یک ادیسه فضایی»
    استنلی کوبریک به روی پرده آمد،
  • 0:52 - 0:54
    و زندگی من برای همیشه تغییر کرد.
  • 0:54 - 0:56
    از همه چیز فیلم خوشم میامد
  • 0:56 - 0:59
    بخصوص اچایال ۹۰۰۰.
  • 0:59 - 1:01
    این اچایال یک کامپیوتر احساسی بود
  • 1:01 - 1:03
    که جهت راهنمایی سفینه فضایی
    دیسکاوری در رفتن از زمین
  • 1:03 - 1:06
    به مشتری طراحی شده بود.
  • 1:06 - 1:08
    ایاچال همینطور یک شخصیت معیوب بود.
  • 1:08 - 1:12
    چون در آخر ماموریت را بجای جان بشر
    انتخاب کرد.
  • 1:13 - 1:15
    ایاچ ال یک شخصیت تخیلی بود
  • 1:15 - 1:18
    اما با این وجود
    درباره ترسهای ما حرف میزد،
  • 1:18 - 1:20
    ترسمان از مقهور شدن از سوی یک
  • 1:20 - 1:23
    هوش مصنوعی بیاحساس
  • 1:23 - 1:25
    که به بشریت بیاعتناست.
  • 1:26 - 1:28
    به باور من این ترسها بیاساس است.
  • 1:28 - 1:31
    ما در واقع در برهه قابل توجهی
    از تاریخ بشر
  • 1:31 - 1:33
    بسر میبریم،
  • 1:33 - 1:38
    جاییکه با نگیزش انکار در پذیرش
    محدودیتهای ذهنی و جسمی خود
  • 1:38 - 1:39
    ماشینهایی را می سزیم
  • 1:39 - 1:43
    که با پیچیدگی زیبا، منحصربفرد و
    زیبندگی
  • 1:43 - 1:45
    تجربه بشری را تا ورای تصورات ما
  • 1:45 - 1:47
    گسترش خواهند داد.
  • 1:48 - 1:50
    بعد از مسیر حرفهای که من
    را از آکادمی نیروی هوایی
  • 1:50 - 1:52
    به فرماندهی فضایی و الان
  • 1:52 - 1:54
    به این مهندس سیستمی که شدم کشاند،
  • 1:54 - 1:57
    و تازگی درگیر مشکل مهندسی شدهام
  • 1:57 - 1:59
    که مرتبط با ماموریت ناسا به مریخ است.
  • 1:59 - 2:02
    الان در سفرهای فضایی به ماه
  • 2:02 - 2:05
    میتوانیم به کنترل ماموریت
    در هوستون تکیه کنیم
  • 2:05 - 2:07
    تا کلیه جوانب یک پرواز را نظارت کند.
  • 2:07 - 2:11
    هرچند، مریخ ۲۰۰ بار دورتر است،
  • 2:11 - 2:14
    و در نتیجه بطور متوسط ۱۳ دقیقه
    طول میکشد
  • 2:14 - 2:17
    تا یک سیگنال از زمین به ماه برسد.
  • 2:17 - 2:20
    اگر مشکلی باشد
    زمان کافی نداریم.
  • 2:21 - 2:23
    و برای یک راهحل مهندسی منطقی
  • 2:23 - 2:26
    از ما این را طلب میکند
    که کنترل گر ماموریت
  • 2:26 - 2:29
    داخل دیوارهای فضای پیمای اوریون باشد.
  • 2:29 - 2:32
    یک ایده جذاب دیگر در روند ماموریت
  • 2:32 - 2:35
    استفاده از روباتهای انسانی در سطح مریخ است
  • 2:35 - 2:37
    پیش از رسیدن انسانه،
  • 2:37 - 2:38
    اول این که امکاناتی را برپا کنند
  • 2:38 - 2:42
    و بعد بعنوان اعضای همکار
    تیم علمی خدمت کنند.
  • 2:43 - 2:46
    الان که از دید مهندسی به این نگاه میکنم
  • 2:46 - 2:49
    برایم کاملا روش میشود
    که آنچه بعنوان معمار لازم داشتم
  • 2:49 - 2:52
    یک هوش مصنوعی زیرک،
  • 2:52 - 2:54
    همکاری کننده و دارای هوش اجتماعی بود.
  • 2:54 - 2:58
    بعبارتی چیزی به اچایال بسازم
  • 2:58 - 3:01
    اما بدون گرایشات انتحاری.
  • 3:01 - 3:02
    (خنده)
  • 3:03 - 3:05
    برای لحظهای بیایید مکث کنیم.
  • 3:05 - 3:09
    آیا امکان سک هوش مصنوعی مثل آن وجود دارد؟
  • 3:09 - 3:10
    راستش هست.
  • 3:10 - 3:11
    از بسیاری جهات
  • 3:11 - 3:13
    این یک مشکل سخت مهندسی با اجزای
  • 3:13 - 3:15
    ماشین ابر هوشمند است،
  • 3:15 - 3:20
    نه یک جور گوی مودار خیس از
    یک مساله ابرهوشمند که نیاز به مهندسی دارد.
  • 3:20 - 3:22
    بگذارید از آلن تورینگ جور دیگر
    نقل قول کنم،
  • 3:22 - 3:25
    من علاقهای به ساخت یک
    ماشین احساسی ندارم.
  • 3:25 - 3:26
    من اچایال نمیسازم.
  • 3:26 - 3:29
    تمام انچه دنبالشم یک مغز ساده است،
  • 3:29 - 3:32
    چیزی که شبحی از هوش را ارائه کند.
  • 3:33 - 3:36
    هنر و علم محاسبات کامپیوتری
    از زمان ای اچال بر روی پرده
  • 3:36 - 3:38
    روزهای زیادی را پشت سر گذاشته
  • 3:38 - 3:41
    ومن تصور می کنم اگر مخترع آن
    دکتر چاندرا امروز اینجا بود،
  • 3:41 - 3:43
    کلی پرسش برای ما داشت.
  • 3:43 - 3:45
    آیا واقعا برای ما امکان دارد
  • 3:45 - 3:49
    یک سیستم چند میلیونی را بنابر
    میلیونها دستگاه در اختیار بگیریم
  • 3:49 - 3:51
    تا جریان دادههای آنها را بخواند،
  • 3:51 - 3:53
    تا ایراداتشان را پیشبینی کند
    و پیشاپیش عمل کند.
  • 3:53 - 3:54
    بله.
  • 3:54 - 3:58
    آیا میتوان سیستمهایی ساخت که
    با انسانها به زبان عادی صحبت کنند؟
  • 3:58 - 3:59
    بله.
  • 3:59 - 4:02
    آیا میتوان سیستمهایی ساخت که
    اشیا و احساست را بشناسند،
  • 4:02 - 4:05
    در احساسات خود اغراق کنند،
    بازی کنند و حتی لب خوانی انجام دهند؟
  • 4:05 - 4:06
    بله.
  • 4:07 - 4:09
    آیا میتوان سیستمهای ساخت که هدف
    تعیین کنند،
  • 4:09 - 4:12
    که طرحهایی را علیه آن اهداف انجام دهند
    و در طول مسیر به یاد گرفتن بپردازند؟
  • 4:12 - 4:14
    بله.
  • 4:14 - 4:17
    آیا میتوان سیستمهای ساخت
    که دارای نظریه ذهنی باشند؟
  • 4:17 - 4:18
    کاری که الان داریم
    میاموزیم.
  • 4:18 - 4:22
    آیا میتوان سیستمهای ساخت
    که پایه اخلاقی و وجدانی دارند؟
  • 4:22 - 4:25
    چیزی که باید انجامش را بیاموزیم.
  • 4:25 - 4:27
    خب بگذارید برای
    لحظهای بپذیریم
  • 4:27 - 4:30
    که امکان ساخت چنین هوش مصنوعی
  • 4:30 - 4:32
    برای چنین ماموریتهایی وجود دارد.
  • 4:32 - 4:34
    این سوال بعدی که باید از خودتان بپرسید،
  • 4:34 - 4:36
    آیا باید از آن ترسید؟
  • 4:36 - 4:38
    خب با آمدن هر فناوری جدیدی
  • 4:38 - 4:41
    دلهره و واهمهای هم همراهش میاید.
  • 4:41 - 4:42
    وقتی برای بار اول ماشینها را دیدیم،
  • 4:43 - 4:47
    مردم تاسف میخورند که ما شاهد
    از دست رفتن خانواده خواهیم بود.
  • 4:47 - 4:49
    وقتی برای اول تلفن آمد،
  • 4:49 - 4:52
    مردم نگران بودند که نکند اثری از
    مکالمه مدنی نماند.
  • 4:52 - 4:56
    در مرحلهای از زمان که ما شاهد بودیم
    کلام نوشتاری فراگیر شد،
  • 4:56 - 4:59
    مردم فکر می کردند توانایی خود
    برای بخاطر سپردن را از دست می دهیم.
  • 4:59 - 5:01
    این چیزها تا حدی درست هستند،
  • 5:01 - 5:03
    اما همچنین این مورد هم هست
    که این فناوریها
  • 5:03 - 5:07
    برای چیزهایی را آوردهاند که
    که تجربیات بشری را عمیقا
  • 5:07 - 5:08
    گسترش داده است.
  • 5:10 - 5:12
    پس بیاید کمی این را جلوتر ببریم.
  • 5:13 - 5:18
    من از آفرینش یک ابرهوش مصنوعی
    مثل این واهمه ندارم،
  • 5:18 - 5:22
    چون سرانجام برخی از
    ارزشهای ما را دربر خواهد گرفت.
  • 5:22 - 5:25
    این را تصور کنید: ساخت یک سیستم ادراکی
    که اساسا متفاوت است
  • 5:25 - 5:29
    از ساخت یک نظام فشرده- نرمافزاری
    سنتی از گذشته.
  • 5:29 - 5:31
    آنها را برنامه ریزی نمیکنیم.
    به آنه موزش می دهیم.
  • 5:31 - 5:34
    برای آموزش به یک سیستم
    که چطور گلها را تشخیص دهد،
  • 5:34 - 5:37
    هزارن گل از انواعی که دوست دارم
    را نشان می دهم.
  • 5:37 - 5:39
    برای این که سیستم نحوه
    انجام بازیی را بیاموزد.
  • 5:39 - 5:41
    خب این را می کنم. شما هم همینطور.
  • 5:43 - 5:45
    گلها را دوست دارم. یالا.
  • 5:45 - 5:48
    برای آموزش به سیستمی که بتواند
    بازی مثل Go را انجام دهد،
  • 5:48 - 5:50
    هزاران بار گذاشتم که
    بازیهای Go را انجام دهد
  • 5:50 - 5:52
    اما در این روند
    آن را آموزش هم میدهم.
  • 5:52 - 5:54
    چطور یک بازی خوب را از بد
    تشخیص دهد.
  • 5:55 - 5:58
    اکر بخواهم یک دستیار حقوقی
    باهوش مصنوعی خلق کنم،
  • 5:58 - 6:00
    کمی از مجموعه قانون را خواهم آموخت
  • 6:00 - 6:03
    البته هم زمان با آن مفاهیم
  • 6:03 - 6:06
    عدالت و بخشش را که بخشی از قانون
    هستند را خواهم آموخت.
  • 6:07 - 6:10
    در عبارات علمی،
    این را حقیقت مبنا مینامیم
  • 6:10 - 6:12
    و نکته مهم این است:
  • 6:12 - 6:13
    در تولید چنین ماشینهایی
  • 6:13 - 6:16
    درواقع به آنها مفهوم
    ارزشهایمان را میاموزیم.
  • 6:17 - 6:20
    به همین ترتیب، به هوش مصنوعی
    همان اندازهای باور دارم
  • 6:20 - 6:23
    که به یک انسانی که بخوبی
    آموزش دیده.
  • 6:24 - 6:25
    اما ممکن است سوال کنید،
  • 6:25 - 6:28
    ماموران زیرک چطور،
  • 6:28 - 6:31
    یک سازمانه غیردولتی پولدار؟
  • 6:31 - 6:35
    من ازاین که هوش مصنوعی در اختیار
    یک گرگ تنها باشد نمیترسم.
  • 6:35 - 6:40
    معلوم است که ما نمیتوانیم از خودمان
    در مقابل تمامی اعمال خشونتامیز تصادفی حمایت کنیم
  • 6:40 - 6:42
    اما حقیقت این است که چنین سیستمی
  • 6:42 - 6:45
    نیازمند آموزش مفصل و موشکفانهای دارد
  • 6:45 - 6:47
    که فرای منابع فردی است.
  • 6:47 - 6:49
    و علاوه براین
  • 6:49 - 6:52
    بسیار فراتر از ویروس اینترنتی
    وارد کردن به جهان است
  • 6:52 - 6:55
    جاییکه با یک کلیک، به یکباره ویروس
    در میلیونها جا پراکنده شده
  • 6:55 - 6:57
    و لپ تاپ ها در همه جا شروع
    به ترکیدن می کنند.
  • 6:57 - 7:00
    خب مفاهیمی این چنینی بسیار بزرگترند
  • 7:00 - 7:02
    و ما بی شک شاهد این اتفاقات
    خواهیم بود.
  • 7:03 - 7:06
    آیا از یک چنین هوش مصنوعی میترسم
  • 7:06 - 7:08
    که ممکن است تهدیدی برای بشریت باشد؟
  • 7:08 - 7:13
    اگر به فیلمهایی مثل ماتریکس، متروپلیس،
    ترمیناتور یا
  • 7:13 - 7:16
    سریالی مثل وست ورلد نگاه کنید،
  • 7:16 - 7:18
    تمامی از از چنین ترسی حرف میزنند.
  • 7:18 - 7:22
    درواقع، در کتاب «ابرهوش صنوعی»
    نوشته نیکو بوستروم فیلسوف،
  • 7:22 - 7:24
    او با این موضوع پیش میرود
  • 7:24 - 7:28
    و مشاهدهاش این است که یک ابرهوش مصنوعی
    نه تنها شاید خطرناک بشد
  • 7:28 - 7:32
    بلکه نماینده تهدیدی نابودگر
    برای کل بشریت باشد.
  • 7:32 - 7:34
    استدلال اولیه دکتر بوستروم
  • 7:34 - 7:37
    این است که چنین سیستمهایی عاقبت
  • 7:37 - 7:40
    چنان عطش سیریناپذیری
    برای اطلاعات خواهند داشت
  • 7:40 - 7:43
    که شاید نحوه یادگرفتن را یاد بگشیرند
  • 7:43 - 7:46
    و سرانجام کشف کنند که اهدافی دارند
  • 7:46 - 7:48
    که مغایر با نیازهای بشر است.
  • 7:48 - 7:50
    دکتر بوستروم کلی دنبال کننده دارد.
  • 7:50 - 7:54
    او از سوی کسانی مثل الون موسک
    و استفن هاوکینگ حمایت میشود.
  • 7:55 - 7:57
    با تمامی احترامی که برای این
  • 7:58 - 8:00
    ذهنهای بینظیر قائل هستم،
  • 8:00 - 8:02
    اعتقاد دارم که آنها
    از پایه اشتباه می کنند.
  • 8:02 - 8:06
    اکنون قسمتهای زیادیاز استدلال دکتر بوستروم است
    که باید از چمدان خارج شود
  • 8:06 - 8:08
    و من زمان کافی را برای همه آنها ندارم،
  • 8:08 - 8:11
    فقط خلاصه این را بگویم:
  • 8:11 - 8:14
    مدعی العلوم با همه کاره بودن
    خیلی فرق دارد.
  • 8:14 - 8:16
    ایاچ ال تهدیدی برای خدمه دیسکاوری بود
  • 8:16 - 8:21
    تنها جاییکه ایاچ ال همه جوانب
    را در دیسکاوری فرماندهی میکرد.
  • 8:21 - 8:23
    بریا این کار باید ابرهوشمند بود.
  • 8:23 - 8:26
    باید بر همه دنیای ما سلطه داشته باشد.
  • 8:26 - 8:29
    اینها از ویژگیهای اسکاینت در فیلم
    ترمیناتور(نابودگر) است
  • 8:29 - 8:30
    که درآن یک ابرهوش مصنوعی داشتیم
  • 8:30 - 8:32
    که بر اراده بشر حک میراند،
  • 8:32 - 8:36
    همه چیز و همه جا را در زمین هدایت میکرد.
  • 8:36 - 8:37
    اما در عالم واقعیت
  • 8:37 - 8:39
    این اتفاق نخواهد افتاد.
  • 8:39 - 8:42
    ما ماشینهای ابرهوشمندی را نمیسازیم
    که هوا را کنترل کنند،
  • 8:42 - 8:44
    که جزر و مد را جهت دهند،
  • 8:44 - 8:47
    که به ما انسانهای دمدمیمزاج
    و بینظم فرمان دهند.
  • 8:47 - 8:51
    و علاوه بر آن، اگر چنین هوش مصنوعی
    وجود داشته باشد،
  • 8:51 - 8:54
    باید با اقتصادهای بشری رقابت کند،
  • 8:54 - 8:57
    و به این وسیله برای منابع با ما رقابت کند.
  • 8:57 - 8:58
    و در آخر--
  • 8:58 - 9:00
    به «سیری» این را نگویید--
  • 9:00 - 9:02
    همیشه می توانیم از
    برق آنها را بکشیم.
  • 9:02 - 9:04
    (خنده)
  • 9:05 - 9:08
    ما در یک سفر باورنکردنی از
  • 9:08 - 9:10
    همفرگشتی با ماشینهای خود
    بسر میبریم.
  • 9:10 - 9:13
    این آدمهایی که امروز هستیم
  • 9:13 - 9:15
    آن آدمهایی که بعدا خواهیم شد نیستم.
  • 9:15 - 9:19
    الان نگران بودن درباره خیزش یک ابرهوشمند
  • 9:19 - 9:22
    از بسیاری جهات انحرافی خطرناک است
  • 9:22 - 9:24
    چون خیزش محاسبات کامپیوتری خودش
  • 9:24 - 9:27
    کلی مسائل اجتماعی و انسانی را برایمان
    به ارمغان میاورد
  • 9:27 - 9:29
    که باید به آنها رسیدگی کنیم.
  • 9:29 - 9:32
    چطور به بهترین نحو جامعهای
    را برنامه ریزی کنم
  • 9:32 - 9:35
    وقتی نیاز به نیروی کار بشری نمیماند؟
  • 9:35 - 9:38
    چطور میتوانم تفاهم و تعلیم
    را به جهان بیاورم
  • 9:38 - 9:40
    و هنوز احترام به تفاوتها
    هم باشد.
  • 9:40 - 9:44
    چطور
  • 9:44 - 9:47
    چطور شاید از محاسبات کامپیوتری
    در کمک به
  • 9:47 - 9:49
    رسیدن به
    ستارهها استفاده کنم؟
  • 9:50 - 9:52
    و همین هیجانانگیزه است.
  • 9:52 - 9:55
    فرصتهایی برای استقاده از
    محاسبات کامپیوتری
  • 9:55 - 9:56
    برای پیشرفت تجربه بشر
  • 9:56 - 9:58
    اینجا و الان
  • 9:58 - 10:00
    در دسترس ما است.
  • 10:00 - 10:01
    و تازه اول راه هستیم.
  • 10:02 - 10:03
    خیلی متشکرم.
  • 10:04 - 10:08
    (تشویق)
Title:
از ابرهوش مصنوعی نترسید
Speaker:
گردی بوچ
Description:

گردی بوچ، دانشمند و فیلسوف می گوید: فناوری جدید، اضطرابهای جدید بهمراه دارد، اما لازم نیست از ابرهوش مصنوعی بی‌احساس و قدرتمند واهمه داشته باشیم. بوچ بدترین به نگرانیهای ما (از جمله موارد علمی تخیلی) درباره کامپیوترهای ابرهوشمند تسلی می‌دهد. با این توضیح که چطور با آموزش و نه برنامه‌ریزی‌ کردن‌شان، ارزشهای خود را با آنها برنامه‌ریزی خواهیم کرد. بجای نگرانی درباره یک تهدید غیرمحتمل مخرب، وی تاکید دارد این را در نظر بگیریم که چطور هوش مصنوعی زندگی بشر را بهبود خواهد بخشید.
more » « less
Video Language:
English
Team:
closed TED
Project:
TEDTalks
Duration:
10:20

Persian subtitles

Revisions

Our website uses cookies for analysis purposes.