[Script Info]
Title: 
[Events]
Format: Layer, Start, End, Style, Name, MarginL, MarginR, MarginV, Effect, Text
Dialogue: 0,0:00:00.57,0:00:04.78,Default,,0000,0000,0000,,אני עובד עם חבורה\Nשל מתמטיקאים, פילוסופים ומדעני מחשב.
Dialogue: 0,0:00:04.78,0:00:09.99,Default,,0000,0000,0000,,ואנחנו יושבים וחושבים\Nעל העתיד של אינטיליגנצית מכונות,
Dialogue: 0,0:00:09.99,0:00:12.03,Default,,0000,0000,0000,,בין דברים אחרים.
Dialogue: 0,0:00:12.03,0:00:16.76,Default,,0000,0000,0000,,כמה אנשים חושבים שכמה מהדברים האלה\Nהם סוג של מדע בדיוני,
Dialogue: 0,0:00:16.76,0:00:19.86,Default,,0000,0000,0000,,רחוקים מאוד, משוגעים.
Dialogue: 0,0:00:19.86,0:00:21.33,Default,,0000,0000,0000,,אבל אני אוהב לומר,
Dialogue: 0,0:00:21.33,0:00:24.93,Default,,0000,0000,0000,,אוקיי, בואו נביט במצב האנושי המודרני.
Dialogue: 0,0:00:24.93,0:00:26.62,Default,,0000,0000,0000,,(צחוק)
Dialogue: 0,0:00:26.62,0:00:29.02,Default,,0000,0000,0000,,זאת הדרך הנורמלית של הדברים.
Dialogue: 0,0:00:29.02,0:00:31.31,Default,,0000,0000,0000,,אבל אם נחשוב על זה,
Dialogue: 0,0:00:31.31,0:00:34.60,Default,,0000,0000,0000,,אנחנו למעשה אורחים\Nשהגיעו לאחרונה לפלנטה הזו,
Dialogue: 0,0:00:34.60,0:00:36.68,Default,,0000,0000,0000,,המין האנושי.
Dialogue: 0,0:00:36.68,0:00:41.43,Default,,0000,0000,0000,,חשבו על אם כדור הארץ היה נוצר לפני שנה,
Dialogue: 0,0:00:41.43,0:00:44.98,Default,,0000,0000,0000,,המין האנושי, אז, היה בן 10 דקות.
Dialogue: 0,0:00:44.98,0:00:48.15,Default,,0000,0000,0000,,המהפכה התעשייתית התחילה לפני שתי שניות.
Dialogue: 0,0:00:49.28,0:00:54.50,Default,,0000,0000,0000,,דרך נוספת להביט בזה היא לחשוב על התוצר\Nהלאומי הגולמי ב 10,000 השנים האחרונות,
Dialogue: 0,0:00:54.50,0:00:57.53,Default,,0000,0000,0000,,אני למעשה טרחתי לצייר את זה\Nעל גרף בשבילכם.
Dialogue: 0,0:00:57.53,0:00:59.30,Default,,0000,0000,0000,,זה נראה כך.
Dialogue: 0,0:00:59.30,0:01:00.67,Default,,0000,0000,0000,,(צחוק)
Dialogue: 0,0:01:00.67,0:01:02.82,Default,,0000,0000,0000,,זו צורה מוזרה למצב נורמלי.
Dialogue: 0,0:01:02.82,0:01:04.52,Default,,0000,0000,0000,,אני מאוד לא הייתי רוצה לשבת על זה.
Dialogue: 0,0:01:04.52,0:01:07.07,Default,,0000,0000,0000,,(צחוק)
Dialogue: 0,0:01:07.07,0:01:11.84,Default,,0000,0000,0000,,בואו נשאל את עצמנו,\Nמהי הסיבה לאנומליה הנוכחית?
Dialogue: 0,0:01:11.84,0:01:14.39,Default,,0000,0000,0000,,כמה אנשים היו אומרים שזו טכנולוגיה.
Dialogue: 0,0:01:14.39,0:01:19.06,Default,,0000,0000,0000,,עכשיו זה נכון, הטכנולוגיה הצטברה\Nבמהלך ההסטוריה האנושית,
Dialogue: 0,0:01:19.06,0:01:23.71,Default,,0000,0000,0000,,וממש עכשיו, ההתקדמות הטכנולוגית\Nהיא ממש מהירה --
Dialogue: 0,0:01:23.71,0:01:25.28,Default,,0000,0000,0000,,זו הסיבה המשוערת,
Dialogue: 0,0:01:25.28,0:01:27.84,Default,,0000,0000,0000,,לכן אנחנו כל כך פרודוקטיביים עכשיו.
Dialogue: 0,0:01:28.47,0:01:32.13,Default,,0000,0000,0000,,אבל אני רוצה לחשוב אחורה יותר\Nלסיבה האולטימטיבית.
Dialogue: 0,0:01:33.11,0:01:36.88,Default,,0000,0000,0000,,הביטו בשני האדונים המאוד נבדלים האלה:
Dialogue: 0,0:01:36.88,0:01:38.48,Default,,0000,0000,0000,,יש לנו את קנזי --
Dialogue: 0,0:01:38.48,0:01:43.12,Default,,0000,0000,0000,,הוא שולט ב 200 מונחים לשוניים,\Nמטלה מדהימה.
Dialogue: 0,0:01:43.12,0:01:46.82,Default,,0000,0000,0000,,ואד וויטן שיחרר את מהפכת מיתרי העל השניה.
Dialogue: 0,0:01:46.82,0:01:49.14,Default,,0000,0000,0000,,אם נביט מתחת למכסה המנוע, זה מה שנמצא:
Dialogue: 0,0:01:49.14,0:01:50.71,Default,,0000,0000,0000,,בעיקרון אותו הדבר.
Dialogue: 0,0:01:50.71,0:01:52.52,Default,,0000,0000,0000,,אחד גדול מעט יותר,
Dialogue: 0,0:01:52.52,0:01:55.28,Default,,0000,0000,0000,,אולי יש לו גם כמה טריקים\Nבצורה בה הוא מחווט.
Dialogue: 0,0:01:55.28,0:01:59.09,Default,,0000,0000,0000,,ההבדלים הבלתי נראים לא יכולים\Nלהיות כל כך מסובכים, עם זאת,
Dialogue: 0,0:01:59.09,0:02:03.38,Default,,0000,0000,0000,,מפני שיש הבדל של 250,000 דורות בלבד
Dialogue: 0,0:02:03.38,0:02:05.11,Default,,0000,0000,0000,,מאז האב המשותף שלנו.
Dialogue: 0,0:02:05.11,0:02:08.96,Default,,0000,0000,0000,,אנחנו יודעים שלמנגנונים מורכבים\Nלוקח זמן רב להתפתח.
Dialogue: 0,0:02:10.00,0:02:12.50,Default,,0000,0000,0000,,אז כמה שינויים יחסית קטנים
Dialogue: 0,0:02:12.50,0:02:15.57,Default,,0000,0000,0000,,לוקחים אותנו מקנזי לוויטן,
Dialogue: 0,0:02:15.57,0:02:20.11,Default,,0000,0000,0000,,מענפים שבורים לטילים בין יבשתיים.
Dialogue: 0,0:02:20.84,0:02:24.77,Default,,0000,0000,0000,,אז זה נראה די ברור שכל מה שהשגנו,
Dialogue: 0,0:02:24.77,0:02:26.15,Default,,0000,0000,0000,,וכל מה שחשוב לנו,
Dialogue: 0,0:02:26.15,0:02:31.38,Default,,0000,0000,0000,,תלוי קריטית בשינויים יחסית מינוריים\Nשיצרו את המוח האנושי.
Dialogue: 0,0:02:32.65,0:02:36.31,Default,,0000,0000,0000,,והמקביל לזה, כמובן, זה שכל שינוים עתידיים
Dialogue: 0,0:02:36.31,0:02:39.79,Default,,0000,0000,0000,,שיכולים להשפיע משמעותית\Nעל התשתית של החשיבה
Dialogue: 0,0:02:39.79,0:02:42.99,Default,,0000,0000,0000,,יכולים פוטנציאלית להיות\Nבעלי תוצאות עצומות.
Dialogue: 0,0:02:44.32,0:02:47.23,Default,,0000,0000,0000,,כמה מעמיתי חושבים שאנחנו על סף
Dialogue: 0,0:02:47.23,0:02:51.13,Default,,0000,0000,0000,,משהו שיוכל לגרום לשינוי משמעותי בתשתית,
Dialogue: 0,0:02:51.13,0:02:54.35,Default,,0000,0000,0000,,ושהדבר זה הוא בינת על של מכונות.
Dialogue: 0,0:02:54.35,0:02:59.09,Default,,0000,0000,0000,,בינה מלאכותית היתה לשים פקודות במכונה.
Dialogue: 0,0:02:59.09,0:03:00.75,Default,,0000,0000,0000,,הייתם צריכים מתכנתים אנושיים
Dialogue: 0,0:03:00.75,0:03:03.89,Default,,0000,0000,0000,,שיבנו בעבודה קשה את פריטי הידע.
Dialogue: 0,0:03:03.89,0:03:05.97,Default,,0000,0000,0000,,אתם בונים את המערכות המתמחות האלו,
Dialogue: 0,0:03:05.97,0:03:08.30,Default,,0000,0000,0000,,והן סוג של יעילות למטרות מסויימות,
Dialogue: 0,0:03:08.30,0:03:10.98,Default,,0000,0000,0000,,אבל הן היו מאוד שבירות,\Nלא יכולתם להגדיל אותן.
Dialogue: 0,0:03:10.98,0:03:14.41,Default,,0000,0000,0000,,בעיקרון, קיבלתם רק מה שהכנסתם.
Dialogue: 0,0:03:14.41,0:03:15.41,Default,,0000,0000,0000,,אבל מאז,
Dialogue: 0,0:03:15.41,0:03:18.87,Default,,0000,0000,0000,,היה שינוי פרדיגמה שהתרחש\Nבשדה של בינה מלאכותית.
Dialogue: 0,0:03:18.87,0:03:21.64,Default,,0000,0000,0000,,היום, הפעילות סובבת סביב לימוד מכונה.
Dialogue: 0,0:03:22.39,0:03:27.78,Default,,0000,0000,0000,,אז במקום לייצר יצוג ותכונות של ידע,
Dialogue: 0,0:03:28.51,0:03:34.06,Default,,0000,0000,0000,,יצרנו אלגוריתמים שלומדים,\Nהרבה פעמים ממידע תפישתי גולמי.
Dialogue: 0,0:03:34.06,0:03:39.06,Default,,0000,0000,0000,,בעיקרון אותו הדבר שתינוקות אנושיים עושים.
Dialogue: 0,0:03:39.06,0:03:43.27,Default,,0000,0000,0000,,התוצאה היא ב"מ שלא מוגבלת לתחום אחד --
Dialogue: 0,0:03:43.27,0:03:47.90,Default,,0000,0000,0000,,אותה מערכת יכולה ללמוד\Nלתרגם בין כל זוג שפות,
Dialogue: 0,0:03:47.90,0:03:53.34,Default,,0000,0000,0000,,או ללמוד לשחק כל משחק מחשב\Nעל קונסולת האטארי.
Dialogue: 0,0:03:53.34,0:03:55.12,Default,,0000,0000,0000,,עכשיו כמובן,
Dialogue: 0,0:03:55.12,0:03:59.12,Default,,0000,0000,0000,,ב"מ עדיין לא קרובה ליכולות\Nחוצות התחומים והעוצמה
Dialogue: 0,0:03:59.12,0:04:02.34,Default,,0000,0000,0000,,והיכולת ללמוד ולתכנן כמו בני אדם.
Dialogue: 0,0:04:02.34,0:04:04.46,Default,,0000,0000,0000,,לקורטקס עדיין יש כמה טריקים אלגוריתמיים
Dialogue: 0,0:04:04.46,0:04:06.82,Default,,0000,0000,0000,,שאנחנו עדיין לא יודעים איך לדמות במכונות.
Dialogue: 0,0:04:07.89,0:04:09.78,Default,,0000,0000,0000,,אז השאלה היא,
Dialogue: 0,0:04:09.78,0:04:13.28,Default,,0000,0000,0000,,כמה רחקו אנחנו מלהיות מסוגלים\Nלהשתוות לטריקים האלה?
Dialogue: 0,0:04:14.24,0:04:15.33,Default,,0000,0000,0000,,לפני כמה שנים,
Dialogue: 0,0:04:15.33,0:04:18.22,Default,,0000,0000,0000,,עשינו סקר של כמה ממומחי\Nהב"מ המובילים בעולם,
Dialogue: 0,0:04:18.22,0:04:21.44,Default,,0000,0000,0000,,כדי לראות מה הם חושבים,\Nואחת השאלות ששאלנו היתה,
Dialogue: 0,0:04:21.44,0:04:24.79,Default,,0000,0000,0000,,"באיזו שנה אתם חושבים\Nשיש הסתברות של 50 אחוז
Dialogue: 0,0:04:24.79,0:04:28.28,Default,,0000,0000,0000,,שנגיע לרמת בינה אנושית במכונות?"
Dialogue: 0,0:04:28.78,0:04:32.97,Default,,0000,0000,0000,,הגדרנו רמת בינה אנושית פה כיכולת לבצע
Dialogue: 0,0:04:32.97,0:04:35.84,Default,,0000,0000,0000,,כמעט כל עבודה בצורה טובה \Nלפחות כמו אדם בוגר,
Dialogue: 0,0:04:35.84,0:04:39.84,Default,,0000,0000,0000,,אז רמה אנושית אמיתית,\Nלא רק בתוך תחום מסויים.
Dialogue: 0,0:04:39.84,0:04:43.49,Default,,0000,0000,0000,,והתוצאה החציונית היתה בין 2040 ל 2050,
Dialogue: 0,0:04:43.49,0:04:46.30,Default,,0000,0000,0000,,תלוי בדיוק באיזו קבוצת מומחים שאלנו.
Dialogue: 0,0:04:46.30,0:04:50.34,Default,,0000,0000,0000,,עכשיו, זה יכול לקרות\Nהרבה הרבה יותר מאוחר, או מוקדם,
Dialogue: 0,0:04:50.34,0:04:52.28,Default,,0000,0000,0000,,האמת היא שאף אחד לא באמת יודע.
Dialogue: 0,0:04:53.26,0:04:57.67,Default,,0000,0000,0000,,מה שאנחנו כן יודעים זה\Nשהסף האולטימטיבי לעיבוד מידע
Dialogue: 0,0:04:57.67,0:05:02.54,Default,,0000,0000,0000,,בתשתית המכונה נמצא\Nמחוץ למגבלות ברקמה ביולוגית.
Dialogue: 0,0:05:03.24,0:05:05.62,Default,,0000,0000,0000,,זה בסופו של דבר עניין של פיזיקה.
Dialogue: 0,0:05:05.62,0:05:10.34,Default,,0000,0000,0000,,ניורון ביולוגי יורה, אולי,\Nב 200 הרץ, 200 פעמים בשניה.
Dialogue: 0,0:05:10.34,0:05:13.93,Default,,0000,0000,0000,,אבל אפילו טרנזיסטור היום פועל בגיגה הרצים.
Dialogue: 0,0:05:13.93,0:05:19.23,Default,,0000,0000,0000,,הניורונים מתפשטים לאט באקסונים\N100 מטר בשניה מקסימום.
Dialogue: 0,0:05:19.23,0:05:22.34,Default,,0000,0000,0000,,אבל במחשבים, האות יכול לנוע במהירות האור.
Dialogue: 0,0:05:23.08,0:05:24.95,Default,,0000,0000,0000,,יש גם מגבלות גודל,
Dialogue: 0,0:05:24.95,0:05:27.98,Default,,0000,0000,0000,,כמו שמוח אנושי חייב להתאים לתוך הגולגולת,
Dialogue: 0,0:05:27.98,0:05:32.74,Default,,0000,0000,0000,,אבל מחשב יכול להיות\Nבגודל של מחסן או גדול יותר.
Dialogue: 0,0:05:32.74,0:05:38.34,Default,,0000,0000,0000,,אז הפוטנציאל לבינת על\Nנמצא רדום בתוך החומר,
Dialogue: 0,0:05:38.34,0:05:44.05,Default,,0000,0000,0000,,בדומה לכוח האטום שנמצא\Nרדום במהלך ההסטוריה האנושית,
Dialogue: 0,0:05:44.05,0:05:48.45,Default,,0000,0000,0000,,בסבלנות עד 1945,
Dialogue: 0,0:05:48.45,0:05:49.70,Default,,0000,0000,0000,,במאה הזו,
Dialogue: 0,0:05:49.70,0:05:53.82,Default,,0000,0000,0000,,מדענים אולי ילמדו להעיר\Nאת הכוח של בינה מלאכותית.
Dialogue: 0,0:05:53.82,0:05:57.83,Default,,0000,0000,0000,,ואני חושב שאולי נראה התפוצצות בינה.
Dialogue: 0,0:05:58.41,0:06:02.36,Default,,0000,0000,0000,,עכשיו רוב האנשים,\Nכשהם חושבים על מה זה חכם ומה טיפש,
Dialogue: 0,0:06:02.36,0:06:05.39,Default,,0000,0000,0000,,אני חושב שיש בראשם תמונה בערך כזו.
Dialogue: 0,0:06:05.39,0:06:07.98,Default,,0000,0000,0000,,אז בצד אחד יש לנו את טיפש הכפר,
Dialogue: 0,0:06:07.98,0:06:10.47,Default,,0000,0000,0000,,ואז הרחק בצד השני
Dialogue: 0,0:06:10.47,0:06:15.22,Default,,0000,0000,0000,,יש לנו את אד וויטן, או אלברט איינשטיין,\Nאו מי שהגורו החביב עליכם.
Dialogue: 0,0:06:15.22,0:06:19.06,Default,,0000,0000,0000,,אבל אני חושב שמנקודת המבט\Nשל בינה מלאכותית,
Dialogue: 0,0:06:19.06,0:06:22.74,Default,,0000,0000,0000,,התמונה האמיתית היא למעשה יותר דומה לזה:
Dialogue: 0,0:06:23.26,0:06:26.64,Default,,0000,0000,0000,,ב"מ מתחילה בנקודה הזו פה, באפס בינה,
Dialogue: 0,0:06:26.64,0:06:29.65,Default,,0000,0000,0000,,ואז, אחרי הרבה, הרבה, שנים של עבודה קשה,
Dialogue: 0,0:06:29.65,0:06:33.49,Default,,0000,0000,0000,,אולי לבסוף נגיע לרמת בינה של עכבר,
Dialogue: 0,0:06:33.49,0:06:35.92,Default,,0000,0000,0000,,משהו שיכול לנווט בסביבות מורכבות
Dialogue: 0,0:06:35.92,0:06:37.91,Default,,0000,0000,0000,,כמו שעכבר יכול.
Dialogue: 0,0:06:37.91,0:06:42.22,Default,,0000,0000,0000,,ואז, אחרי עוד הרבה הרבה שנים\Nשל עבודה ממש קשה, הרבה השקעות,
Dialogue: 0,0:06:42.22,0:06:46.86,Default,,0000,0000,0000,,אולי לבסוף נגיע לרמת בינה של שימפנזה.
Dialogue: 0,0:06:46.86,0:06:50.07,Default,,0000,0000,0000,,ואז, אחרי אפילו יותר שנים\Nשל עבודה ממש ממש קשה,
Dialogue: 0,0:06:50.07,0:06:52.98,Default,,0000,0000,0000,,נגיע לרמה של אידיוט הכפר.
Dialogue: 0,0:06:52.98,0:06:56.26,Default,,0000,0000,0000,,וכמה רגעים אחר כך, אנחנו מעבר לאד וויטן.
Dialogue: 0,0:06:56.26,0:06:59.22,Default,,0000,0000,0000,,הרכבת לא עוצרת בעיר בני האדם,
Dialogue: 0,0:06:59.22,0:07:02.25,Default,,0000,0000,0000,,רוב הסיכוים שהיא תחלוף ביעף.
Dialogue: 0,0:07:02.25,0:07:04.23,Default,,0000,0000,0000,,עכשיו יש לזה השלכות עמוקות,
Dialogue: 0,0:07:04.23,0:07:08.09,Default,,0000,0000,0000,,בעיקר כשזה מגיע לשאלות של כוח.
Dialogue: 0,0:07:08.09,0:07:09.99,Default,,0000,0000,0000,,לדוגמה, שימפנזים חזקים --
Dialogue: 0,0:07:09.99,0:07:15.21,Default,,0000,0000,0000,,קילו לקילו, שימפנזה חזקה\Nבערך פי שתיים מגבר אנושי.
Dialogue: 0,0:07:15.21,0:07:19.83,Default,,0000,0000,0000,,ועדיין, הגורל של קנזי וחבריו\Nתלוי הרבה יותר
Dialogue: 0,0:07:19.83,0:07:23.97,Default,,0000,0000,0000,,במה שאנשים יעשו מאשר במה\Nשהשימפנזות יעשו בעצמן.
Dialogue: 0,0:07:25.23,0:07:27.54,Default,,0000,0000,0000,,ברגע שתהייה בינת על,
Dialogue: 0,0:07:27.54,0:07:31.38,Default,,0000,0000,0000,,גורל האנושות אולי יהיה תלוי\Nבמה שבינת העל תעשה.
Dialogue: 0,0:07:32.45,0:07:33.51,Default,,0000,0000,0000,,חשבו על זה:
Dialogue: 0,0:07:33.51,0:07:38.55,Default,,0000,0000,0000,,בינת מכונות היא ההמצאה האחרונה\Nשהמין האנושי יצטרך אי פעם לעשות.
Dialogue: 0,0:07:38.55,0:07:41.52,Default,,0000,0000,0000,,מכונות יהיו אז טובות יותר בהמצאה מאיתנו,
Dialogue: 0,0:07:41.52,0:07:44.06,Default,,0000,0000,0000,,והן יעשו את זה בטווחי זמן דיגיטליים.
Dialogue: 0,0:07:44.06,0:07:48.97,Default,,0000,0000,0000,,מה שזה אומר זה בעיקרון טלסקופ של העתיד.
Dialogue: 0,0:07:48.97,0:07:52.52,Default,,0000,0000,0000,,חשבו על כל הטכנולוגיות\Nהמשוגעות שתוכלו לדמיין
Dialogue: 0,0:07:52.52,0:07:55.32,Default,,0000,0000,0000,,שאולי אנשים היו יכולים לפתח במשך הזמן:
Dialogue: 0,0:07:55.32,0:07:58.58,Default,,0000,0000,0000,,תרופות להזדקנות, ישוב החלל,
Dialogue: 0,0:07:58.58,0:08:02.31,Default,,0000,0000,0000,,ננו רובוטים שמשכפלים את עצמם\Nאו העלאת התודעה שלנו למחשבים,
Dialogue: 0,0:08:02.31,0:08:04.47,Default,,0000,0000,0000,,כל מיני סוגים של מדע בדיוני
Dialogue: 0,0:08:04.47,0:08:07.21,Default,,0000,0000,0000,,שעדיין מתאים לחוקי הפיזיקה.
Dialogue: 0,0:08:07.21,0:08:11.42,Default,,0000,0000,0000,,את כל זה בינת העל הזו\Nיכולה לפתח, ויכול להיות שדי מהר.
Dialogue: 0,0:08:12.45,0:08:16.01,Default,,0000,0000,0000,,עכשיו בינת על עם כזו בגרות טכנולוגית
Dialogue: 0,0:08:16.01,0:08:18.19,Default,,0000,0000,0000,,תהיה חזקה מאוד,
Dialogue: 0,0:08:18.19,0:08:22.73,Default,,0000,0000,0000,,ולפחות בכמה מקרים,\Nהיא תהיה מסוגלת להשיג מה שהיא רוצה.
Dialogue: 0,0:08:22.73,0:08:28.39,Default,,0000,0000,0000,,אז יהיו לנו עתיד שיהיה מעוצב\Nעל ידי ההעדפות של ב"מ זו.
Dialogue: 0,0:08:29.86,0:08:33.60,Default,,0000,0000,0000,,עכשיו שאלה טובה היא, מהן ההעדפות האלו?
Dialogue: 0,0:08:34.24,0:08:36.01,Default,,0000,0000,0000,,פה זה נעשה מסובך.
Dialogue: 0,0:08:36.01,0:08:37.45,Default,,0000,0000,0000,,כדי להתקדם בכלל עם זה,
Dialogue: 0,0:08:37.45,0:08:40.72,Default,,0000,0000,0000,,אנחנו חייבים ראשית להמנע מאנתרופומורפזינג.
Dialogue: 0,0:08:41.93,0:08:45.24,Default,,0000,0000,0000,,וזה אירוני מפני שבכל מאמר בעיתון
Dialogue: 0,0:08:45.24,0:08:49.09,Default,,0000,0000,0000,,על העתיד של ב"מ\Nיש את התמונה הזו:
Dialogue: 0,0:08:50.28,0:08:54.41,Default,,0000,0000,0000,,אז אני חושב שמה שאנחנו צריכים לעשות זה\Nלחשוב על הבעיה הזו בצורה יותר מופשטת,
Dialogue: 0,0:08:54.41,0:08:57.20,Default,,0000,0000,0000,,לא במונחים של תסריטים הוליוודיים.
Dialogue: 0,0:08:57.20,0:09:00.82,Default,,0000,0000,0000,,אנחנו צריכים לחשוב על בינה כתהליך מיטוב,
Dialogue: 0,0:09:00.82,0:09:06.47,Default,,0000,0000,0000,,תהליך שמנתב את העתיד\Nלסט מסויים של קונפיגורציות.
Dialogue: 0,0:09:06.47,0:09:09.98,Default,,0000,0000,0000,,בינת על היא באמת תהליך מיטוב מאוד חזק.
Dialogue: 0,0:09:09.98,0:09:14.10,Default,,0000,0000,0000,,היא ממש טובה בשימוש\Nבאמצעים זמינים כדי להשיג מצב
Dialogue: 0,0:09:14.10,0:09:16.01,Default,,0000,0000,0000,,בו המטרה שלה מושגת.
Dialogue: 0,0:09:16.45,0:09:19.12,Default,,0000,0000,0000,,זה אומר שאין חיבור הכרחי בין
Dialogue: 0,0:09:19.12,0:09:21.85,Default,,0000,0000,0000,,להיות מאוד נבון במובן הזה,
Dialogue: 0,0:09:21.85,0:09:26.52,Default,,0000,0000,0000,,ושתהיה לה מטרה שאנחנו האנשים\Nנמצא כדאית או משמעותית.
Dialogue: 0,0:09:27.32,0:09:31.12,Default,,0000,0000,0000,,נניח שניתן לב"מ את המטרה\Nלגרום לאנשים לחייך.
Dialogue: 0,0:09:31.12,0:09:34.10,Default,,0000,0000,0000,,כשהב"מ חלשה,\Nהיא מבצעת פעולות מועילות או משעשעות
Dialogue: 0,0:09:34.10,0:09:36.61,Default,,0000,0000,0000,,שגורמות למשתמשים שלה לחייך.
Dialogue: 0,0:09:36.61,0:09:39.03,Default,,0000,0000,0000,,כשהב"מ הופכת לבינת על,
Dialogue: 0,0:09:39.03,0:09:42.55,Default,,0000,0000,0000,,היא מבינה שיש דרך יותר יעילה\Nכדי להשיג את המטרה:
Dialogue: 0,0:09:42.55,0:09:44.48,Default,,0000,0000,0000,,להשתלט על העולם
Dialogue: 0,0:09:44.48,0:09:47.64,Default,,0000,0000,0000,,ולתקוע אלקטרודות בשרירי הפנים של אנשים
Dialogue: 0,0:09:47.64,0:09:50.58,Default,,0000,0000,0000,,כדי לגרום לפרצופים מחייכים בקביעות.
Dialogue: 0,0:09:50.58,0:09:51.61,Default,,0000,0000,0000,,דוגמה נוספת,
Dialogue: 0,0:09:51.61,0:09:54.100,Default,,0000,0000,0000,,נניח שניתן לב"מ את המטרה\Nלפתור בעיה מתמטית מסובכת.
Dialogue: 0,0:09:54.100,0:09:56.93,Default,,0000,0000,0000,,כשהב"מ הופכת לבינת על,
Dialogue: 0,0:09:56.93,0:10:01.10,Default,,0000,0000,0000,,היא מבינה שהדרך הכי אפקטיבית\Nלפתור את הבעיה הזו
Dialogue: 0,0:10:01.10,0:10:04.04,Default,,0000,0000,0000,,היא להפוך את הפלנטה למחשב עצום,
Dialogue: 0,0:10:04.04,0:10:06.28,Default,,0000,0000,0000,,כדי להגביר את יכולת החשיבה.
Dialogue: 0,0:10:06.28,0:10:09.04,Default,,0000,0000,0000,,ושימו לב שזה נותן לב"מ סיבה משמעותית
Dialogue: 0,0:10:09.04,0:10:11.56,Default,,0000,0000,0000,,לעשות דברים לנו שאולי לא נסכים להם.
Dialogue: 0,0:10:11.56,0:10:13.50,Default,,0000,0000,0000,,אנשים במודל הזה הם איומים,
Dialogue: 0,0:10:13.50,0:10:16.42,Default,,0000,0000,0000,,נוכל למנוע מהבעיה המתמטית מלהפתר.
Dialogue: 0,0:10:17.21,0:10:20.70,Default,,0000,0000,0000,,כמובן, יכול להיות שהדברים לא ילכו\Nלכיוונים לא טובים בדרכים האלה;
Dialogue: 0,0:10:20.70,0:10:22.45,Default,,0000,0000,0000,,אלה דוגמאות הנפשה.
Dialogue: 0,0:10:22.45,0:10:24.39,Default,,0000,0000,0000,,אבל הנקודה העיקרית פה היא חשובה:
Dialogue: 0,0:10:24.39,0:10:27.27,Default,,0000,0000,0000,,אם אתם יוצרים תהליך מיטוב ממש חזק
Dialogue: 0,0:10:27.27,0:10:29.50,Default,,0000,0000,0000,,כדי למקסם את מטרה X,
Dialogue: 0,0:10:29.50,0:10:31.78,Default,,0000,0000,0000,,כדאי שתדאגו שההגדרה שלכם ל X
Dialogue: 0,0:10:31.78,0:10:34.24,Default,,0000,0000,0000,,כוללת כל מה שחשוב לכם.
Dialogue: 0,0:10:34.84,0:10:39.22,Default,,0000,0000,0000,,זה שיעור שגם מסופר בהרבה מיתוסים.
Dialogue: 0,0:10:39.22,0:10:44.52,Default,,0000,0000,0000,,המלך מידאס רצה שכל מה שיגע בו יהפוך לזהב.
Dialogue: 0,0:10:44.52,0:10:47.38,Default,,0000,0000,0000,,הוא נוגע בביתו, והיא הופכת לזהב.
Dialogue: 0,0:10:47.38,0:10:49.93,Default,,0000,0000,0000,,הוא נוגע באוכל, והוא הופך לזהב.
Dialogue: 0,0:10:49.93,0:10:52.52,Default,,0000,0000,0000,,זה יכול להפוך לרלוונטי במיוחד,
Dialogue: 0,0:10:52.52,0:10:54.59,Default,,0000,0000,0000,,לא רק כמטאפורה לתאוות בצע,
Dialogue: 0,0:10:54.59,0:10:56.48,Default,,0000,0000,0000,,אלא כהדגמה למה שקורה
Dialogue: 0,0:10:56.48,0:10:59.32,Default,,0000,0000,0000,,אם אתם יוצרים תהליך מיטוב חזק
Dialogue: 0,0:10:59.32,0:11:04.11,Default,,0000,0000,0000,,ונותנים לו מטרות לא מובנות\Nאו לא מוגדרות היטב.
Dialogue: 0,0:11:04.11,0:11:09.30,Default,,0000,0000,0000,,עכשיו אתם אולי תגידו, אם מחשב יתחיל לתקוע\Nאלקטרודות לתוך פנים של אנשים,
Dialogue: 0,0:11:09.30,0:11:11.56,Default,,0000,0000,0000,,פשוט נכבה אותו.
Dialogue: 0,0:11:12.56,0:11:17.90,Default,,0000,0000,0000,,ראשית, זה לא בהכרח יהיה פשוט\Nלעשות אם הפכנו לתלויים במערכת --
Dialogue: 0,0:11:17.90,0:11:20.63,Default,,0000,0000,0000,,כמו, איפה מתג הכיבוי לאינטרנט?
Dialogue: 0,0:11:20.63,0:11:25.75,Default,,0000,0000,0000,,שנית, למה השימפנזים\Nלא כיבו את המתג של האנושות,
Dialogue: 0,0:11:25.75,0:11:27.30,Default,,0000,0000,0000,,או הנאנדרטלים?
Dialogue: 0,0:11:27.30,0:11:29.96,Default,,0000,0000,0000,,בהחלט היו להם סיבות.
Dialogue: 0,0:11:29.96,0:11:32.76,Default,,0000,0000,0000,,יש לנו מתג כיבוי, לדוגמה, ממש פה.
Dialogue: 0,0:11:32.76,0:11:34.31,Default,,0000,0000,0000,,(חנק)
Dialogue: 0,0:11:34.31,0:11:37.24,Default,,0000,0000,0000,,הסיבה היא שאנחנו יריב נבון;
Dialogue: 0,0:11:37.24,0:11:39.97,Default,,0000,0000,0000,,אנחנו יכולים לצפות איומים ולתכנן סביבם.
Dialogue: 0,0:11:39.97,0:11:42.47,Default,,0000,0000,0000,,אבל כך גם תוכל בינת העל,
Dialogue: 0,0:11:42.47,0:11:45.72,Default,,0000,0000,0000,,והיא תהיה טובה בזה מאיתנו.
Dialogue: 0,0:11:45.72,0:11:52.91,Default,,0000,0000,0000,,הנקודה היא, אנחנו לא צריכים להיות בטוחים\Nשנוכל לשלוט במצב הזה.
Dialogue: 0,0:11:52.91,0:11:56.36,Default,,0000,0000,0000,,ונוכל לנסות לעשות את העבודה שלנו\Nמעט קלה יותר על ידי, נגיד,
Dialogue: 0,0:11:56.36,0:11:57.95,Default,,0000,0000,0000,,לשים את הב"מ בקופסה,
Dialogue: 0,0:11:57.95,0:11:59.74,Default,,0000,0000,0000,,כמו סביבת תוכנה מאובטחת,
Dialogue: 0,0:11:59.74,0:12:02.77,Default,,0000,0000,0000,,הדמיית מציאות מדומה\Nממנה היא לא יכולה לברוח.
Dialogue: 0,0:12:02.77,0:12:06.91,Default,,0000,0000,0000,,אבל כמה בטוחים אנחנו יכולים להיות\Nשהב"מ לא תוכל למצוא באג.
Dialogue: 0,0:12:06.91,0:12:10.08,Default,,0000,0000,0000,,בהתחשב בזה שהאקרים אנושיים\Nמוצאים באגים כל הזמן,
Dialogue: 0,0:12:10.08,0:12:13.12,Default,,0000,0000,0000,,היתי אומר, שכנראה לא כל כך בטוחים.
Dialogue: 0,0:12:14.24,0:12:18.78,Default,,0000,0000,0000,,אז ננתק את כבל הרשת כדי ליצור מרווח אויר,
Dialogue: 0,0:12:18.78,0:12:21.45,Default,,0000,0000,0000,,אבל שוב, כמו האקרים אנושיים רגילים
Dialogue: 0,0:12:21.45,0:12:24.83,Default,,0000,0000,0000,,שעוברים פערי אויר באופן\Nשוטף בעזרת הנדסה חברתית.
Dialogue: 0,0:12:24.83,0:12:26.09,Default,,0000,0000,0000,,ממש עכשיו, כשאני מדבר,
Dialogue: 0,0:12:26.09,0:12:28.48,Default,,0000,0000,0000,,אני בטוח שיש איזשהו עובדת אי שם
Dialogue: 0,0:12:28.48,0:12:31.83,Default,,0000,0000,0000,,ששכנעו אותה לתת את פרטי החשבון שלה
Dialogue: 0,0:12:31.83,0:12:34.57,Default,,0000,0000,0000,,על ידי מישהו שטוען\Nשהוא ממחלקת מערכות המידע.
Dialogue: 0,0:12:34.57,0:12:36.70,Default,,0000,0000,0000,,תרחישים יותר יצירתיים הם גם אפשריים,
Dialogue: 0,0:12:36.70,0:12:38.02,Default,,0000,0000,0000,,כמו אם אתם הב"מ,
Dialogue: 0,0:12:38.02,0:12:41.55,Default,,0000,0000,0000,,אתם יכולים לדמיין שינוי\Nאלקטרודות בחיווט הפנימי שלכם
Dialogue: 0,0:12:41.55,0:12:45.01,Default,,0000,0000,0000,,כדי ליצור גלי רדיו בהם אתם יכולים\Nלהשתמש כדי לתקשר.
Dialogue: 0,0:12:45.01,0:12:47.43,Default,,0000,0000,0000,,או אולי תוכלו להעמיד פנים שאתם מקולקלים,
Dialogue: 0,0:12:47.43,0:12:50.93,Default,,0000,0000,0000,,ואז כשהמתכנת יפתח אתכם\Nלראות מה לא תקין איתכם,
Dialogue: 0,0:12:50.93,0:12:52.87,Default,,0000,0000,0000,,הם יביטי בקוד המקור -- באם! --
Dialogue: 0,0:12:52.87,0:12:55.31,Default,,0000,0000,0000,,המניפולציה יכולה להתרחש.
Dialogue: 0,0:12:55.31,0:12:58.74,Default,,0000,0000,0000,,או אולי היא תוכל להוציא את התוכנית שלה\Nלטכנולוגיה ממש מגניבה,
Dialogue: 0,0:12:58.74,0:13:00.14,Default,,0000,0000,0000,,וכשתיישמו אותה,
Dialogue: 0,0:13:00.14,0:13:04.54,Default,,0000,0000,0000,,יהיה לה אפקט משנה חשאי שהב"מ תכננה.
Dialogue: 0,0:13:04.54,0:13:08.00,Default,,0000,0000,0000,,הנקודה פה היא שאנחנו לא צריכים\Nלהיות בטוחים ביכולת שלנו
Dialogue: 0,0:13:08.00,0:13:11.81,Default,,0000,0000,0000,,לשמור על שד בינת העל\Nנעול בבקבוק שלו לעד.
Dialogue: 0,0:13:11.81,0:13:14.06,Default,,0000,0000,0000,,במוקדם או במאוחר, הוא יצא.
Dialogue: 0,0:13:15.03,0:13:18.14,Default,,0000,0000,0000,,אני מאמין שהתשובה פה היא להבין
Dialogue: 0,0:13:18.14,0:13:23.16,Default,,0000,0000,0000,,איך ליצור בינת על כך\Nשאפילו אם -- מתי - שהיא תברח,
Dialogue: 0,0:13:23.16,0:13:26.44,Default,,0000,0000,0000,,זה עדיין בטוח מפני שהיא באופן בסיסי לצידנו
Dialogue: 0,0:13:26.44,0:13:28.34,Default,,0000,0000,0000,,מפני שהיא חולקת את הערכים שלנו.
Dialogue: 0,0:13:28.34,0:13:31.55,Default,,0000,0000,0000,,אני לא רואה דרך לעקוף\Nאת הבעיה המסובכת הזו.
Dialogue: 0,0:13:32.56,0:13:36.39,Default,,0000,0000,0000,,עכשיו, אני למעשה די אופטימי\Nשהבעיה הזו יכולה להפתר.
Dialogue: 0,0:13:36.39,0:13:40.29,Default,,0000,0000,0000,,לא נהיה צריכים לכתוב רשימה ארוכה\Nשל כל מה שאכפת לנו ממנו,
Dialogue: 0,0:13:40.29,0:13:43.94,Default,,0000,0000,0000,,או גרוע יותר, לאיית את זה בשפת מחשב כלשהיא
Dialogue: 0,0:13:43.94,0:13:45.39,Default,,0000,0000,0000,,כמו C++ או פייתון,
Dialogue: 0,0:13:45.39,0:13:48.16,Default,,0000,0000,0000,,זו תהיה משימה מעבר לחסרת תקווה.
Dialogue: 0,0:13:48.16,0:13:52.46,Default,,0000,0000,0000,,במקום, אנחנו צריכים ליצור ב"מ\Nשמשמשת בבינה שלה
Dialogue: 0,0:13:52.46,0:13:55.23,Default,,0000,0000,0000,,כדי ללמוד מה אנחנו מעריכים,
Dialogue: 0,0:13:55.23,0:14:00.51,Default,,0000,0000,0000,,ומערכת המוטיבציה שלה מורכבת\Nבדרך כזו שיש לה מוטיבציה
Dialogue: 0,0:14:00.51,0:14:05.74,Default,,0000,0000,0000,,לרדוף אחרי הערכים שלנו כדי לבצע\Nפעולות שהיא צופה שנסכים להן.
Dialogue: 0,0:14:05.74,0:14:09.15,Default,,0000,0000,0000,,לכן ננצל את הבינה שלה ככל האפשר
Dialogue: 0,0:14:09.15,0:14:11.90,Default,,0000,0000,0000,,כדי לפתור בעיות של הטענת ערכים.
Dialogue: 0,0:14:12.73,0:14:14.24,Default,,0000,0000,0000,,זה יכול לקרות,
Dialogue: 0,0:14:14.24,0:14:17.84,Default,,0000,0000,0000,,והתוצאה תוכל להיות מאוד טובה לאנושות.
Dialogue: 0,0:14:17.84,0:14:21.79,Default,,0000,0000,0000,,אבל זה לא קורה אוטומטית.
Dialogue: 0,0:14:21.79,0:14:24.79,Default,,0000,0000,0000,,התנאים ההתחלתיים להתפוצצות הבינה
Dialogue: 0,0:14:24.79,0:14:27.65,Default,,0000,0000,0000,,אולי צריכים להבנות בדיוק בדרך הנכונה
Dialogue: 0,0:14:27.65,0:14:31.18,Default,,0000,0000,0000,,אם אנחנו רוצים שיהיה לנו פיצוץ מבוקר.
Dialogue: 0,0:14:31.18,0:14:33.80,Default,,0000,0000,0000,,הערכים שיש לב"מ צריכים להתאים לשלנו,
Dialogue: 0,0:14:33.80,0:14:35.56,Default,,0000,0000,0000,,לא רק בהקשר המוכר,
Dialogue: 0,0:14:35.56,0:14:37.100,Default,,0000,0000,0000,,כמו איפה אנחנו יכולים לבדוק בקלות\Nאיך הב"מ מתנהגת,
Dialogue: 0,0:14:37.100,0:14:41.23,Default,,0000,0000,0000,,אלא גם בהקשרים הכי חדשים\Nשהב"מ אולי תיתקל בהם
Dialogue: 0,0:14:41.23,0:14:42.79,Default,,0000,0000,0000,,בעתיד הלא בטוח.
Dialogue: 0,0:14:42.79,0:14:47.53,Default,,0000,0000,0000,,ויש גם כמה נושאים איזוטריים\Nשנצטרך לפתור, לארגן:
Dialogue: 0,0:14:47.53,0:14:49.62,Default,,0000,0000,0000,,הפרטים המדוייקים של תאוריית ההחלטות שלה,
Dialogue: 0,0:14:49.62,0:14:52.48,Default,,0000,0000,0000,,איך היא מתמודדת עם\Nחוסר ודאות לוגי וכך האלה.
Dialogue: 0,0:14:53.33,0:14:56.43,Default,,0000,0000,0000,,אז הבעיות הטכניות שצריכות להפתר\Nכדי לגרום לזה לעבוד
Dialogue: 0,0:14:56.43,0:14:57.54,Default,,0000,0000,0000,,נראים די קשים --
Dialogue: 0,0:14:57.54,0:15:00.92,Default,,0000,0000,0000,,לא קשים כמו לעשות ב"מ סופר אינטיליגנטית,
Dialogue: 0,0:15:00.92,0:15:03.79,Default,,0000,0000,0000,,אבל די קשים.
Dialogue: 0,0:15:03.79,0:15:05.49,Default,,0000,0000,0000,,הנה הדאגה:
Dialogue: 0,0:15:05.49,0:15:10.17,Default,,0000,0000,0000,,ליצור ב"מ סופר אינטיליגנטית\Nזה אתגר מאוד קשה.
Dialogue: 0,0:15:10.17,0:15:12.72,Default,,0000,0000,0000,,ליצור ב"מ סופר אינטיליגנטית שהיא בטוחה
Dialogue: 0,0:15:12.72,0:15:15.14,Default,,0000,0000,0000,,כולל כמה אתגרים נוספים מעבר לזה.
Dialogue: 0,0:15:16.22,0:15:19.70,Default,,0000,0000,0000,,הסיכון הוא שמישהו יבין\Nאיך לפצח את האתגר הראשון
Dialogue: 0,0:15:19.70,0:15:22.70,Default,,0000,0000,0000,,בלי לפתור את האתגר הנוסף
Dialogue: 0,0:15:22.70,0:15:24.60,Default,,0000,0000,0000,,של להבטיח בטיחות מושלמת.
Dialogue: 0,0:15:25.38,0:15:28.71,Default,,0000,0000,0000,,אז אני חושב שאנחנו צריכים למצוא פיתרון
Dialogue: 0,0:15:28.71,0:15:31.53,Default,,0000,0000,0000,,לבעית השליטה מראש,
Dialogue: 0,0:15:31.53,0:15:34.19,Default,,0000,0000,0000,,כך שהיא תהיה זמינה בזמן שמצטרך אותה.
Dialogue: 0,0:15:34.77,0:15:38.28,Default,,0000,0000,0000,,עכשיו אולי לא נוכל לפתור\Nאת כל בעיית השליטה מראש
Dialogue: 0,0:15:38.28,0:15:41.30,Default,,0000,0000,0000,,מפני שאולי כמה אלמנטים יכולים להיות במקום
Dialogue: 0,0:15:41.30,0:15:45.30,Default,,0000,0000,0000,,רק ברגע שאנחנו יודעים את הפרטים\Nשל הארכיטקטורה בה היא תיושם.
Dialogue: 0,0:15:45.30,0:15:48.68,Default,,0000,0000,0000,,אבל ככל שנפתור יותר מבעית השליטה מראש,
Dialogue: 0,0:15:48.68,0:15:52.77,Default,,0000,0000,0000,,הסיכויים יהיו טובים יותר\Nשהמעבר לעידן בינת המכונה
Dialogue: 0,0:15:52.77,0:15:54.31,Default,,0000,0000,0000,,יעבור טוב.
Dialogue: 0,0:15:54.31,0:15:58.95,Default,,0000,0000,0000,,זה בשבילי נראה כמו משהו ששווה לעשות
Dialogue: 0,0:15:58.95,0:16:02.28,Default,,0000,0000,0000,,ואני יכול לדמיין שאם דברים ילכו טוב,
Dialogue: 0,0:16:02.28,0:16:06.94,Default,,0000,0000,0000,,שאנשים בעוד מליון שנה יביטו אחורה במאה הזו
Dialogue: 0,0:16:06.94,0:16:10.94,Default,,0000,0000,0000,,ואולי יסתבר שהדבר היחידי שעשינו ובאמת שינה
Dialogue: 0,0:16:10.94,0:16:12.51,Default,,0000,0000,0000,,היה לעשות את זה נכון.
Dialogue: 0,0:16:12.51,0:16:14.20,Default,,0000,0000,0000,,תודה לכם.
Dialogue: 0,0:16:14.20,0:16:17.01,Default,,0000,0000,0000,,(מחיאות כפיים)