Return to Video

אל תפחדו מבינה מלאכותית סופר אינטלגנטית

  • 0:01 - 0:05
    בילדותי הייתי החנון המוחלט.
  • 0:05 - 0:07
    אני חושב שכמה מכם היו גם.
  • 0:08 - 0:09
    (צחוק)
  • 0:09 - 0:12
    ואתה אדוני, שצחקת הכי חזק,
    כנראה עדיין גם היום.
  • 0:12 - 0:14
    (צחוק)
  • 0:14 - 0:18
    גדלתי בעיר קטנה במרחבים המאובקים
    של צפון טקסס,
  • 0:18 - 0:21
    בנו של השריף שהיה בן של כומר.
  • 0:21 - 0:23
    להיקלע לצרות לא היתה אופציה.
  • 0:24 - 0:27
    אז התחלתי לקרוא ספרי חשבון בשביל הכיף.
  • 0:27 - 0:29
    (צחוק)
  • 0:29 - 0:31
    אתם גם.
  • 0:31 - 0:34
    זה הוביל אותי לבניית לייזר ומחשב
    ומודלים של טילים,
  • 0:34 - 0:37
    מה שהוביל אותי לייצר דלק טילים
    בחדר השינה שלי.
  • 0:38 - 0:42
    ובכן, במונחים מדעיים,
  • 0:42 - 0:45
    אנחנו קוראים לזה רעיון רע מאוד.
  • 0:45 - 0:46
    (צחוק)
  • 0:46 - 0:48
    בערך באותו זמן,
  • 0:48 - 0:52
    הסרט ״2001 אודיסאה בחלל״ של
    סטנלי קובריק הגיע למסכים,
  • 0:52 - 0:54
    וחיי השתנו לנצח.
  • 0:54 - 0:56
    אהבתי כל מה שהיה קשור לסרט,
  • 0:56 - 0:59
    בייחוד את האל 9000 (HAL).
  • 0:59 - 1:01
    ובכן, האל היה מחשב בעל מודעות
  • 1:01 - 1:03
    שתוכנן להדריך את ספינת החלל דיסקברי
  • 1:03 - 1:06
    בדרך מכדור הארץ לצדק.
  • 1:06 - 1:08
    האל היה גם טיפוס פגום,
  • 1:08 - 1:12
    כי בסופו של דבר הוא בחר להעדיף את המשימה
    על פני חיי אדם.
  • 1:13 - 1:15
    למרות שהאל היה דמות בדיונית,
  • 1:15 - 1:18
    הוא דיבר אל הפחדים שלנו,
  • 1:18 - 1:20
    הפחדים שלנו להיות משועבדים
  • 1:20 - 1:23
    על ידי בינה מלאכותית, ללא רגשות
  • 1:23 - 1:25
    שאדישה לאנושיות שלנו.
  • 1:26 - 1:28
    אני מאמין שפחדים כאלו הם חסרי ביסוס.
  • 1:28 - 1:31
    אכן, אנו נמצאים בזמן יוצא דופן
  • 1:31 - 1:33
    בהסטוריה האנושית,
  • 1:33 - 1:38
    שבו, מונעים על ידי סרובינו לקבל את המגבלות
    של גופינו ומחשבותינו,
  • 1:38 - 1:39
    אנו בונים מכונות
  • 1:39 - 1:43
    בעלות עדינות, סיבוכיות יפיפיה וחינניות
  • 1:43 - 1:45
    שיאריכו את טווח החוויה האנושית
  • 1:45 - 1:47
    בדרכים מעבר לדמיונינו.
  • 1:48 - 1:50
    אחרי קריירה שהובילה אותי מהאקדמיה לטיס
    בחיל האויר
  • 1:50 - 1:52
    לפיקוד על משימות חלל לעכשיו,
  • 1:52 - 1:54
    נהייתי מהנדס מערכות,
  • 1:54 - 1:57
    ולאחרונה נשאבתי לבעייה הנדסית
  • 1:57 - 1:59
    הקשורה למשימה של נאס״א למאדים.
  • 1:59 - 2:02
    ובכן, במשימות חלל לירח,
  • 2:02 - 2:05
    אנו יכולים לסמוך על פיקוד המשימה ביוסטון
  • 2:05 - 2:07
    שיפקח על כל ההיבטים של הטיסה.
  • 2:07 - 2:11
    אבל, מאדים רחוק פי 200 יותר,
  • 2:11 - 2:14
    ולכן לוקח בממוצע 13 דקות
  • 2:14 - 2:17
    לשדר לנוע מכדור הארץ למאדים.
  • 2:17 - 2:20
    אם קורות בעיות, אין מספיק זמן.
  • 2:21 - 2:23
    ולכן פתרון הנדסי סביר
  • 2:23 - 2:26
    יהיה לשים את פיקוד המשימה
  • 2:26 - 2:29
    בתוך רכב החלל אוריון.
  • 2:29 - 2:32
    רעיון מרתק נוסף בפרופיל המשימה
  • 2:32 - 2:35
    הוא לשים רובוטים דמויי אדם על פני מאדים
  • 2:35 - 2:37
    לפני שבני האדם מגיעים,
  • 2:37 - 2:38
    בתחילה לשם בניית תשתיות
  • 2:38 - 2:42
    ולאחר מכן לשרת כחלק שיתופי
    מהצוות המדעי.
  • 2:43 - 2:46
    כשהתבוננתי בזה מנקודת מבט הנדסית,
  • 2:46 - 2:49
    התבהרה לי ההבנה שמה שעלי לתכנן
  • 2:49 - 2:52
    היא בינה מלאכותית חכמה, שיתופית
  • 2:52 - 2:54
    ובעלת בינה חברתית.
  • 2:54 - 2:58
    במילים אחרות, הייתי צריך לבנות
    משהו מאוד דומה להאל
  • 2:58 - 3:01
    אבל ללא הנטיות האובדניות.
  • 3:01 - 3:02
    (צחוק)
  • 3:03 - 3:05
    בואו נעצור לרגע.
  • 3:05 - 3:09
    האם זה אפשרי באמת לבנות בינה מלאכותית כזו?
  • 3:09 - 3:10
    למעשה, כן.
  • 3:10 - 3:11
    במובנים רבים,
  • 3:11 - 3:13
    זו בעייה הנדסית קשה
  • 3:13 - 3:15
    עם אלמנטים של בינה מלאכותית,
  • 3:15 - 3:20
    ולא כדור שיער רטוב של בינה מלאכותית
    שצריך להיות מהונדס.
  • 3:20 - 3:22
    בפרפרזה על דבריו של אלן טיורינג,
  • 3:22 - 3:25
    אני לא מעוניין לבנות מכונה מודעת.
  • 3:25 - 3:26
    אני לא בונה את האל.
  • 3:26 - 3:29
    כל מה שאני רוצה הוא מוח פשוט,
  • 3:29 - 3:32
    משהו שמציע את האשליה של בינה.
  • 3:33 - 3:36
    המדע והאומנות של המחשוב התקדמו רבות
  • 3:36 - 3:38
    מאז שהאל הופיע על המסך,
  • 3:38 - 3:41
    ואני מדמיין שאם הממציא שלו
    ד״ר צ׳נדרה היה פה היום
  • 3:41 - 3:43
    היו לו הרבה שאלות אלינו.
  • 3:43 - 3:45
    האם באמת אנחנו יכולים
  • 3:45 - 3:49
    לקחת מערכת של מליונים על מליונים
    של מכשירים,
  • 3:49 - 3:51
    לקרוא את כל הנתונים מהם,
  • 3:51 - 3:53
    לנחש את הכשלים ולהגיב מראש?
  • 3:53 - 3:54
    כן.
  • 3:54 - 3:58
    האם אנו יכולים לבנות מערכות המשוחחות
    עם בני אדם בשפה טבעית?
  • 3:58 - 3:59
    כן.
  • 3:59 - 4:02
    האם אנו יכולים לבנות מערכות
    שיכירו אובייקטים, יזהו רגשות,
  • 4:02 - 4:05
    שיהו רגשניות, ישחקו משחקים
    ואפילו יקראו שפתיים?
  • 4:05 - 4:06
    כן.
  • 4:07 - 4:09
    האם ביכולתינו לבנות מערכות המציבות יעדים,
  • 4:09 - 4:12
    ומוציאות לפועל תוכניות לפי יעדים אלו
    ולומדות בדרך?
  • 4:12 - 4:14
    כן.
  • 4:14 - 4:17
    האם ביכולתינו לבנות מערכות בעלות מודעות?
  • 4:17 - 4:18
    את זה אנו לומדים לעשות.
  • 4:18 - 4:22
    האם ביכולתינו לבנות מערכות בעלות בסיס
    מורלי ואתי?
  • 4:22 - 4:25
    את זה אנו חייבים ללמוד לעשות.
  • 4:25 - 4:27
    אז בואו נקבל לרגע
  • 4:27 - 4:30
    שזה אפשרי לבנות כזו בינה מלאכותית
  • 4:30 - 4:32
    עבור משימה זו ואחרות.
  • 4:32 - 4:34
    השאלה הבאה שאתם חייבים לשאול את עצמכם היא,
  • 4:34 - 4:36
    האם עלינו לפחד ממנה?
  • 4:36 - 4:38
    כל טכנולוגיה חדשה
  • 4:38 - 4:41
    מביאה איתה רמה מסויימת של חשש מהלא נודע.
  • 4:41 - 4:42
    כשראינו לראשונה מכוניות,
  • 4:43 - 4:47
    אנשים חזו שנראה את הרס המשפחה.
  • 4:47 - 4:49
    כשראינו לראשונה טלפונים,
  • 4:49 - 4:52
    אנשים חששו שזה יביא
    לסופו של הדיון התרבותי.
  • 4:52 - 4:56
    כשראינו בשלב מסויים את התפשטות המילה הכתובה,
  • 4:56 - 4:59
    אנשים חשבו שנאבד את היכולת לזכור.
  • 4:59 - 5:01
    כל אלו נכונים במידה מסויימת,
  • 5:01 - 5:03
    אבל טכנולוגיות אלו
  • 5:03 - 5:07
    הביאו דברים שהרחיבו את הנסיון האנושי
  • 5:07 - 5:08
    בדרכים עמוקות.
  • 5:10 - 5:12
    אז בואו ניקח את זה מעט רחוק יותר.
  • 5:13 - 5:18
    אני לא מפחד מיצירת בינה מלאכותית כזו,
  • 5:18 - 5:22
    כיוון שבסופו של דבר היא תכיל גם
    כמה מהערכים שלנו.
  • 5:22 - 5:25
    חישבו על כך: בניית מערכת קוגניטיבית
    היא שונה מהותית
  • 5:25 - 5:29
    מבניית מערכת מסורתית מרובת תוכנה של העבר.
  • 5:29 - 5:31
    אנו לא מתכנתים אותן, אנו מלמדים אותן.
  • 5:31 - 5:34
    כדי ללמד מערכת לזהות פרחים,
  • 5:34 - 5:37
    אני מראה לה אלפי פרחים מהסוג שאני אוהב.
  • 5:37 - 5:39
    כדי ללמד מערכת לשחק משחק --
  • 5:39 - 5:41
    ובכן, הייתי עושה את זה. אתם גם.
  • 5:43 - 5:45
    אני אוהב פרחים. בחייכם.
  • 5:45 - 5:48
    כדי ללמד מערכת לשחק משחק כמו גו,
  • 5:48 - 5:50
    אגרום לה לשחק אלפי משחקי גו.
  • 5:50 - 5:52
    אבל בתהליך אלמד אותה
  • 5:52 - 5:54
    איך להבדיל בין משחק טוב למשחק רע.
  • 5:55 - 5:58
    אם אני רוצה ליצור בינה מלאכותית
    עבור עזרה משפטית,
  • 5:58 - 6:00
    אלמד אותה כמה ספרי משפטים
  • 6:00 - 6:03
    אך באותו זמן אשלב זאת עם
  • 6:03 - 6:06
    חוש הצדק והרחמים שהם חלק מאותם חוקים.
  • 6:07 - 6:10
    במונחים מדעיים,
    זה מה שאנו קוראים לו אמת בסיסית,
  • 6:10 - 6:12
    והנה הנקודה החשובה:
  • 6:12 - 6:13
    כחלק מיצירת מכונות אלו,
  • 6:13 - 6:16
    אנו מלמדים אותן חלק מערכינו.
  • 6:17 - 6:20
    בהקשר זה, אני סומך על בינה מלאכותית
  • 6:20 - 6:23
    באותה מידה, אם לא יותר,
    מאשר על אדם שאומן היטב.
  • 6:24 - 6:25
    אבל, אתם עלולים לשאול,
  • 6:25 - 6:28
    מה לגבי סוכנים פורעי חוק,
  • 6:28 - 6:31
    כמו ארגון לא ממשלתי ממומן היטב?
  • 6:31 - 6:35
    אני לא חושש מבינה מלאכותית בידיים
    של זאב בודד.
  • 6:35 - 6:40
    ברור שאיננו יכולים להגן על עצמינו
    מכל מעשה אלימות אקראי,
  • 6:40 - 6:42
    אבל המציאות לגבי מערכות אלו היא
  • 6:42 - 6:45
    שהן צריכות הרבה אימון, ואימון עדין
  • 6:45 - 6:47
    הרבה מעבר למשאבים של אדם בודד.
  • 6:47 - 6:49
    ובנוסף,
  • 6:49 - 6:52
    זה הרבה יותר מלהזריק וירוס אינטרנט לעולם,
  • 6:52 - 6:55
    כשאתה לוחץ על כפתור,
    ופתאום זה במליון מקומות
  • 6:55 - 6:57
    ומחשבים מתחילים להתפוצץ בכל מקום.
  • 6:57 - 7:00
    ובכן, מדובר פה במשהו הרבה יותר גדול,
  • 7:00 - 7:02
    ובוודאות נראה את זה מגיע.
  • 7:03 - 7:06
    האם אני חושש שבינה מלאכותית כזו
  • 7:06 - 7:08
    עלולה לאיים על האנושות כולה?
  • 7:08 - 7:13
    אם תתבוננו בסרטים כמו ״המטריקס״,
    ״מטרופוליס״ ,
  • 7:13 - 7:16
    ״שליחות קטלית״, תוכניות כמו ״ווסטוורלד״,
  • 7:16 - 7:18
    כולן מדברות על חשש שכזה.
  • 7:18 - 7:22
    ואכן, בספר ״סופר אינטליגנציה״
    של הפילוסוף ניק בוסטרום,
  • 7:22 - 7:24
    הוא בוחן נושא זה
  • 7:24 - 7:28
    ושם לב שסופר אינטליגנציה עלולה להיות
    לא רק מסוכנת,
  • 7:28 - 7:32
    אלא גם יכולה להוות איום קיומי
    על האנושות כולה.
  • 7:32 - 7:34
    הטיעון הבסיסי של דוקטור בוסטרום
  • 7:34 - 7:37
    הוא שלמערכות כאלו יהיה בסופו של דבר
  • 7:37 - 7:40
    צמאון בלתי ניתן לרוויה למידע
  • 7:40 - 7:43
    עד שהן אולי ילמדו ללמוד
  • 7:43 - 7:46
    ולבסוף יגלו שאולי יש להן יעדים
  • 7:46 - 7:48
    מנוגדים לצרכי בני האדם.
  • 7:48 - 7:50
    לדוקטור בוסטרום יש מספר עוקבים.
  • 7:50 - 7:54
    הוא נתמך ע״י אנשים
    כמו אלון מאסק וסטפן הוקינג.
  • 7:55 - 7:57
    עם כל הכבוד
  • 7:58 - 8:00
    למוחות מבריקים אלו,
  • 8:00 - 8:02
    אני מאמין שהם שוגים באופן בסיסי.
  • 8:02 - 8:06
    ובכן, יש הרבה חלקים לפרק בטיעון
    של דוקטור בוסטרום,
  • 8:06 - 8:08
    ואין לי זמן לפרק את כולם,
  • 8:08 - 8:11
    אבל בקיצור רב, חישבו על כך:
  • 8:11 - 8:14
    ידיעת-על היא מאוד שונה מעשיית-על.
  • 8:14 - 8:16
    האל היה איום לצוות הדיסקברי
  • 8:16 - 8:21
    רק כיוון שהאל פיקד על כל הצדדים
    של הדיסקברי.
  • 8:21 - 8:23
    אז כך גם יצטרך להיות עם סופר אינטליגנציה.
  • 8:23 - 8:26
    היא תצטרך להיות בשליטה על כל עולמינו.
  • 8:26 - 8:29
    זה מזכיר את סקיינט מהסרט ״שליחות קטלנית״
  • 8:29 - 8:30
    שבו יש סופר אינטליגנציה
  • 8:30 - 8:32
    ששלטה על רצון בני האדם,
  • 8:32 - 8:36
    שכיוונה כל מכשיר בכל פינה של העולם.
  • 8:36 - 8:37
    אם להיות מעשיים,
  • 8:37 - 8:39
    זה לא הולך לקרות.
  • 8:39 - 8:42
    אנחנו לא בונים בינה מלאכותית
    ששולטת במזג האוויר,
  • 8:42 - 8:44
    שמכוונת את הגאות,
  • 8:44 - 8:47
    שמפקדת עלינו, האנשים הגחמניים והכאוטים.
  • 8:47 - 8:51
    ובנוסף, אם בינה מלאכותית כזו הייתה קיימת,
  • 8:51 - 8:54
    היה עליה להתחרות בכלכלה האנושית,
  • 8:54 - 8:57
    ולכן להתחרות נגדינו על משאבים.
  • 8:57 - 8:58
    ולבסוף --
  • 8:58 - 9:00
    אל תגלו לסירי --
  • 9:00 - 9:02
    אנחנו תמיד יכולים לנתק אותם.
  • 9:02 - 9:04
    (צחוק)
  • 9:05 - 9:08
    אנחנו נמצאים במסע מופלא
  • 9:08 - 9:10
    של אבולוציה משותפת עם המכונות שלנו.
  • 9:10 - 9:13
    האנשים שאנו היום
  • 9:13 - 9:15
    הם לא אותם האנשים שנהיה אז.
  • 9:15 - 9:19
    לדאוג היום מהעלייה של סופר אינטליגנציה
  • 9:19 - 9:22
    זה במובנים רבים הסחת דעת מסוכנת
  • 9:22 - 9:24
    כיוון שהעלייה במיחשוב עצמו
  • 9:24 - 9:27
    מביא אלינו מספר בעיות אנושיות וחברתיות
  • 9:27 - 9:29
    שאנו חייבים לטפל בהן עכשיו.
  • 9:29 - 9:32
    איך עלי לארגן את החברה האנושית
  • 9:32 - 9:35
    כשהביקוש לעבודה אנושית הצטמצם?
  • 9:35 - 9:38
    כיצד אני יכול להביא הבנה וחינוך
    לכל האנושות
  • 9:38 - 9:40
    ועדיין לכבד את השונה ביננו?
  • 9:40 - 9:44
    איך אאריך ואשפר את חיינו
    תוך שימוש במערכת בריאות קוגניטיבית?
  • 9:44 - 9:47
    כיצד אוכל להשתמש במחשוב
  • 9:47 - 9:49
    כדי לעזור לקחת אותנו לכוככבים?
  • 9:50 - 9:52
    וזה הדבר המרתק.
  • 9:52 - 9:55
    ההזדמנויות להשתמש במיחשוב
  • 9:55 - 9:56
    לקידום ההתנסות האנושית
  • 9:56 - 9:58
    הן בטווח ההשגה שלנו,
  • 9:58 - 10:00
    כאן ועכשיו,
  • 10:00 - 10:01
    ואנו רק מתחילים.
  • 10:02 - 10:03
    תודה רבה לכם.
  • 10:04 - 10:08
    (מחיאות כפיים)
Title:
אל תפחדו מבינה מלאכותית סופר אינטלגנטית
Speaker:
גריידי בוץ׳
Description:

טכנולוגיות חדשות מציתה דאגות חדשות, אומר המדען והפילוסוף גריידי בוץ׳, אבל אנחנו לא צריכים לחשוש מהכוח וחוסר הרגש של הבינה המלאכותית. בוץ׳ מרגיע את הפחדים הגדולים ביותר שלנו (כולל ממדע בדיוני) לגבי מחשבים סופר אינטליגנטים ע״י כך שהוא מסביר כיצד נלמד אותם , ולא נתכנת, לחלוק את הערכים שלנו. במקום לדאוג מהחשש הלא סביר לקיומינו, הוא דוחף אותנו לראות כיצד בינה מלאכותית תשפר את חיינו.
more » « less
Video Language:
English
Team:
closed TED
Project:
TEDTalks
Duration:
10:20

Hebrew subtitles

Revisions

Our website uses cookies for analysis purposes.