WEBVTT

00:00:00.000 --> 00:00:02.571
האלגוריתמים נמצאים בכל מקום.

00:00:04.111 --> 00:00:07.236
הם ממיינים אנשים
ומפרידים בין מנצחים למפסידים.

00:00:08.019 --> 00:00:10.187
המנצחים זוכים במשרה הנחשקת

00:00:10.187 --> 00:00:11.954
או בהצעה לכרטיס אשראי טוב.

00:00:11.954 --> 00:00:14.725
המפסידים לא זוכים אפילו בראיון

00:00:15.590 --> 00:00:17.367
או משלמים יותר על הביטוח.

00:00:18.197 --> 00:00:21.746
נוסחאות סודיות שאיננו מבינים
מדרגות אותנו,

00:00:22.675 --> 00:00:25.892
ובדרך כלל אין אפשרות
לערער על החלטותיהן.

00:00:27.240 --> 00:00:28.536
מתבקשת השאלה:

00:00:28.560 --> 00:00:31.473
מה אם האלגוריתמים טועים?

NOTE Paragraph

00:00:32.830 --> 00:00:34.584
כדי לבנות אלגוריתם נחוצים שני דברים:

00:00:34.584 --> 00:00:36.585
נתונים:
מה קרה בעבר,

00:00:36.849 --> 00:00:38.454
והגדרה של הצלחה,

00:00:38.454 --> 00:00:40.661
מה שאתם רוצים או מקווים לו.

00:00:41.123 --> 00:00:46.320
האלגוריתם לומד ע"י...

00:00:46.320 --> 00:00:49.739
האלגוריתם מזהה מה מתקשר להצלחה.

00:00:49.739 --> 00:00:52.202
אילו מצבים מובילים להצלחה?

NOTE Paragraph

00:00:52.881 --> 00:00:54.517
בעצם, כולנו משתמשים באלגוריתמים,

00:00:54.517 --> 00:00:57.139
אבל לא מנסחים אותם
בצורת קוד כתוב.

00:00:57.139 --> 00:00:58.181
אתן לכם דוגמה.

00:00:58.181 --> 00:01:01.517
אני משתמשת בכל יום באלגוריתם
כדי להכין למשפחתי ארוחה.

00:01:02.121 --> 00:01:03.597
הנתונים בהם אני משתמשת

00:01:04.394 --> 00:01:05.907
הם המוצרים במטבח שלי,

00:01:05.907 --> 00:01:07.528
הזמן שעומד לרשותי,

00:01:07.528 --> 00:01:08.765
השאיפות שלי,

00:01:08.765 --> 00:01:10.478
ואני מארגנת את הנתונים.

00:01:10.478 --> 00:01:14.869
אני לא מחשיבה "מנה חמה" כמזון.

NOTE Paragraph

00:01:14.893 --> 00:01:16.762
(צחוק)

NOTE Paragraph

00:01:16.786 --> 00:01:18.631
ההגדרה שלי להצלחה:

00:01:18.655 --> 00:01:21.314
ארוחה נחשבת למוצלחת
אם הילדים שלי אוכלים ירקות.

00:01:22.181 --> 00:01:24.919
אם בני הצעיר יהיה אחראי לכך
זה יהיה אחרת לגמרי.

00:01:24.919 --> 00:01:27.847
הוא יגיד שהצלחה פירושה
שהוא אכל הרבה חמאת-בוטנים.

00:01:29.179 --> 00:01:31.405
אבל אני היא זו שבוחרת
מהי הצלחה.

00:01:31.429 --> 00:01:34.020
אני האחראית. הדעה שלי קובעת.

00:01:34.020 --> 00:01:36.739
זהו החוק הראשון של האלגוריתמים.

NOTE Paragraph

00:01:36.739 --> 00:01:40.039
אלגוריתמים הם דעות שמוטמעות בקוד.

00:01:41.562 --> 00:01:45.039
זה שונה מאד ממה שרוב האנשים
חושבים על אלגוריתמים.

00:01:45.039 --> 00:01:49.753
הם חושבים שהאלגוריתמים
הם אובייקטיביים, נכונים ומדעיים.

00:01:50.387 --> 00:01:52.086
זו תחבולה שיווקית.

00:01:53.269 --> 00:01:55.394
תחבולה שיווקית נוספת

00:01:55.418 --> 00:01:58.572
היא להפחיד אתכם באלגוריתמים,

00:01:58.596 --> 00:02:02.101
כדי שתבטחו בהם ותחששו מהם

00:02:02.101 --> 00:02:04.299
כי אתם בוטחים במתמטיקה
וחוששים ממנה.

00:02:05.567 --> 00:02:10.397
הרבה יכול להשתבש כשאנחנו
נותנים אמון עיוור בנתוני-עתק.

NOTE Paragraph

00:02:11.684 --> 00:02:14.851
זו קירי סוארז,
מנהלת בי"ס תיכון בברוקלין.

00:02:14.851 --> 00:02:17.667
ב-2011 היא אמרה לי
שהמורים שלה מדורגים

00:02:17.691 --> 00:02:20.418
בעזרת אלגוריתם סודי ומורכב,

00:02:20.442 --> 00:02:21.931
שנקרא "מודל הערך המוסף".

00:02:22.405 --> 00:02:24.681
אמרתי לה, "תבררי מהי הנוסחה
ותראי לי אותה.

00:02:24.681 --> 00:02:26.742
"אני אסביר לך אותה"

00:02:26.946 --> 00:02:28.801
היא אמרה,
"ניסיתי לקבל את הנוסחה.

00:02:28.801 --> 00:02:31.737
"אך במשרד החינוך אמרו לי
שזאת מתמטיקה,

00:02:31.737 --> 00:02:33.693
"ושאני לא אבין אותה."

NOTE Paragraph

00:02:35.266 --> 00:02:36.604
זה נהיה יותר גרוע.

00:02:36.628 --> 00:02:40.158
ה"ניו-יורק פוסט" הגיש בקשה
לפי חוק חופש המידע.

00:02:40.182 --> 00:02:42.725
קיבל את כל שמות המורים
והדירוג שלהם,

00:02:42.725 --> 00:02:45.947
ופירסם אותן כצעד
של ביוש מורים.

00:02:46.664 --> 00:02:50.698
כשניסיתי להשיג את הנוסחאות,
את הקוד המקורי, באותם האמצעים,

00:02:50.698 --> 00:02:52.941
אמרו לי, "אי-אפשר".

00:02:52.941 --> 00:02:54.141
דחו אותי.

00:02:54.141 --> 00:02:55.339
מאוחר יותר גיליתי

00:02:55.339 --> 00:02:58.249
שלאף אחד בעיר ניו-יורק
אין גישה לנוסחה ההיא.

00:02:58.249 --> 00:02:59.984
שאיש לא מבין אותה.

00:03:01.929 --> 00:03:05.153
ואז נכנס לתמונה מישהו ממש חכם.
גרי רובינשטיין.

00:03:05.177 --> 00:03:10.482
הוא זיהה בנתוני ה"ניו-יורק פוסט"
665 מורים עם שני דירוגים.

00:03:10.482 --> 00:03:14.633
זה יכול היה לקרות אם הם לימדו
מתמטיקה בכיתות ז' וגם בכיתות ח'.

00:03:15.080 --> 00:03:16.618
הוא החליט להציג זאת בגרף.

00:03:16.642 --> 00:03:18.635
כל נקודה מסמלת מורה.

NOTE Paragraph

00:03:19.104 --> 00:03:21.483
(צחוק)

NOTE Paragraph

00:03:21.507 --> 00:03:23.028
מה זה?

NOTE Paragraph

00:03:23.052 --> 00:03:24.329
(צחוק)

NOTE Paragraph

00:03:24.353 --> 00:03:27.603
זה לא משהו שאמור לשמש
לצורך הערכות אישיות.

00:03:27.603 --> 00:03:29.463
זהו כמעט מחולל מספרים אקראי.

NOTE Paragraph

00:03:29.463 --> 00:03:32.509
(מחיאות כפיים)

NOTE Paragraph

00:03:32.509 --> 00:03:33.549
אך זה שימש לכך.

00:03:33.549 --> 00:03:37.019
זוהי שרה וויסוקי. היא פוטרה
יחד עם עוד 205 מורים

00:03:37.019 --> 00:03:39.990
מהמחוז הבית-סיפרי של וושינגטון הבירה,

00:03:40.014 --> 00:03:42.757
למרות שהיו לה המלצות מעולות
מהנהלת ביה"ס

00:03:42.757 --> 00:03:45.160
וגם מההורים של הילדים שלימדה.

NOTE Paragraph

00:03:45.160 --> 00:03:46.816
אני יודעת שרבים מכם חושבים,

00:03:46.816 --> 00:03:49.933
במיוחד חוקרי הנתונים
ומומחי הבינה המלאכותית שכאן,

00:03:49.957 --> 00:03:54.183
"אני אף פעם לא אכתוב אלגוריתם
כל-כך לא עיקבי."

00:03:54.853 --> 00:03:56.420
אבל אלגוריתמים יכולים לטעות,

00:03:56.420 --> 00:04:01.158
ואפילו לגרום לתוצאות הרסניות ביותר
מתוך כוונות טובות.

00:04:02.271 --> 00:04:06.479
ובעוד שמטוס שתוכנן גרוע מתרסק
וכולם רואים זאת,

00:04:06.479 --> 00:04:08.809
הרי כשאלגוריתם מעוצב גרוע,

00:04:10.245 --> 00:04:14.110
הוא יכול לעבוד הרבה זמן
ולזרוע בשקט תוהו.

NOTE Paragraph

00:04:15.748 --> 00:04:17.318
זהו רוג'ר איילס.

NOTE Paragraph

00:04:17.342 --> 00:04:19.342
(צחוק)

NOTE Paragraph

00:04:20.524 --> 00:04:22.912
הוא ייסד את "חדשות פוקס" ב-1996.

00:04:23.436 --> 00:04:25.921
יותר מ-20 נשים התלוננו
על הטרדה מינית

00:04:25.921 --> 00:04:29.050
ואמרו שהן לא הירשו להן
להצליח ב"חדשות פוקס".

00:04:29.050 --> 00:04:31.820
הוא הודח בשנה שעברה, 
אך לאחרונה נודע לנו

00:04:32.204 --> 00:04:34.514
שהבעיה נמשכת.

00:04:35.654 --> 00:04:36.938
נשאלת השאלה:

00:04:36.938 --> 00:04:39.962
מה צריכה רשת "חדשות פוקס"
לעשות כדי לפתוח דף חדש?

NOTE Paragraph

00:04:41.245 --> 00:04:43.980
מה אם הם יחליפו את תהליך
ההעסקה שלהם

00:04:43.980 --> 00:04:45.678
באלגוריתם של למידת-מכונה?

00:04:45.678 --> 00:04:47.467
נשמע טוב, נכון?

00:04:47.467 --> 00:04:48.721
חישבו על זה.

00:04:48.721 --> 00:04:50.840
הנתונים, מה הם יהיו?

00:04:50.840 --> 00:04:55.911
הגיוני שאלה יהיו נתוני 21 השנים האחרונות
של בקשות עבודה ב"חדשות פוקס".

00:04:55.911 --> 00:04:57.283
הגיוני.

00:04:57.557 --> 00:04:59.495
מה לגבי ההגדרה להצלחה?

00:04:59.921 --> 00:05:01.305
בחירה הגיונית תהיה,

00:05:01.305 --> 00:05:03.077
מי מצליח ב"חדשות פוקס"?

00:05:03.077 --> 00:05:06.135
אולי מישהו שעובד שם
כבר 4 שנים,

00:05:06.135 --> 00:05:08.329
וקיבל קידום לפחות פעם אחת.

00:05:08.816 --> 00:05:10.271
נשמע הגיוני.

00:05:10.271 --> 00:05:12.579
ואז האלגוריתם יעבור לימוד.

00:05:12.579 --> 00:05:16.656
הוא ילמד לחפש אנשים
כדי ללמוד מה הוביל להצלחה,

00:05:17.219 --> 00:05:21.431
אילו מועמדים הפכו לעובדים מוצלחים,

00:05:21.431 --> 00:05:23.065
לפי ההגדרה הזו.

00:05:23.999 --> 00:05:28.554
עכשיו חישבו מה יקרה
אם ניישם זאת למאגר מועמדים בהווה:

00:05:29.119 --> 00:05:30.748
האלגוריתם יסנן החוצה נשים,

00:05:31.663 --> 00:05:35.593
כי הן אינן דומות לאנשים שהצליחו בעבר.

NOTE Paragraph

00:05:39.752 --> 00:05:42.183
האלגוריתמים אינם מתקנים את העולם

00:05:42.183 --> 00:05:44.791
אם מיישמים אותם בשמחה ובעיוורון

00:05:44.791 --> 00:05:46.377
הם לא מתקנים את העולם

00:05:46.377 --> 00:05:48.509
אלא רק חוזרים על מה שעשינו בעבר,

00:05:48.509 --> 00:05:49.726
על הדפוסים שלנו.

00:05:49.726 --> 00:05:51.835
הם הופכים את המצב הקיים לאוטומטי.

00:05:52.718 --> 00:05:55.107
היה נהדר אם היה לנו עולם מושלם,

00:05:55.905 --> 00:05:57.171
אבל אין לנו.

00:05:57.171 --> 00:06:01.343
ואני אוסיף שרוב החברות
לא מתמודדות עם תביעות מביכות,

00:06:02.446 --> 00:06:06.604
אבל מומחי הנתונים בחברות אלה
מחוייבים לציית לנתונים,

00:06:07.091 --> 00:06:09.414
להתמקד בדיוק.

00:06:10.093 --> 00:06:11.418
חישבו מה זה אומר,

00:06:11.418 --> 00:06:12.961
הרי לכולנו יש הטיות.

00:06:12.961 --> 00:06:15.705
אולי הם מתכנתים לאפליה על רקע מין,

00:06:15.729 --> 00:06:17.565
או כל סוג אחר של גזענות.

NOTE Paragraph

00:06:19.488 --> 00:06:20.873
ניסוי מחשבתי,

00:06:20.873 --> 00:06:22.442
כי אני אוהבת כאלה:

00:06:23.574 --> 00:06:26.549
דמיינו חברה שלמה
שמופרדת לפי גזעים:

00:06:28.247 --> 00:06:31.575
כל העיירות, כל השכונות,

00:06:31.599 --> 00:06:35.876
ואת המשטרה שולחים לחפש פשיעה
רק בשכונות של מיעוטים.

00:06:36.451 --> 00:06:38.670
נתוני המעצרים יהיו
מוטים בצורה מובהקת.

00:06:39.851 --> 00:06:42.310
מה אם בנוסף,
מצאנו מומחה לנתונים

00:06:42.310 --> 00:06:46.611
ושילמנו לו כדי שינבא
איפה יקרה הפשע הבא?

00:06:47.275 --> 00:06:48.762
שכונת מיעוטים.

00:06:49.285 --> 00:06:52.410
או כדי שינבא
מי יהיה הפושע הבא?

00:06:52.888 --> 00:06:54.283
בן מיעוטים.

00:06:55.949 --> 00:07:00.410
מומחי הנתונים יתפארו
כמה נהדר ומדוייק המודל שלהם.

00:07:00.685 --> 00:07:01.984
והם יצדקו.

NOTE Paragraph

00:07:03.951 --> 00:07:08.450
המציאות לא כל כך דרסטית,
אבל יש לנו באמת הפרדה חמורה

00:07:08.450 --> 00:07:09.791
בערים ועיירות רבות,

00:07:09.791 --> 00:07:11.794
ויש לנו שפע ראיות

00:07:11.818 --> 00:07:14.506
להטיות בנתונים המשטרתיים מוטים
ובמערכת המשפט.

00:07:15.632 --> 00:07:18.447
ואנחנו אכן חוזים נקודות סיכון,

00:07:18.471 --> 00:07:20.001
מקומות בהם יקרו פשעים.

00:07:20.401 --> 00:07:24.267
ואנחנו גם מנבאים את מידת
הנטיה האישית לפשוע.

00:07:24.291 --> 00:07:26.061
את נטייתם של אנשים מסויימים לפשוע.

00:07:26.972 --> 00:07:30.649
סוכנות החדשות "פרופבליקה" בחנה לאחרונה

00:07:30.649 --> 00:07:32.617
אחד אותם אלגוריתמים
ל"ניבוי הישנות פשיעה"

00:07:32.617 --> 00:07:34.054
כמו שקוראים להם.

00:07:34.054 --> 00:07:37.388
בפלורידה משתמשים בהם
שופטים בזמן חריצת גזר הדין.

00:07:38.411 --> 00:07:41.996
ברנרד, משמאל, הגבר השחור
קיבל 10 נקודות מתך 10.

00:07:43.179 --> 00:07:45.186
דילן, מימין - 3 מתוך 10.

00:07:45.210 --> 00:07:47.711
10 מתוך 10 - סיכון גבוה.
3 מתוך 10 - סיכון נמוך.

00:07:48.598 --> 00:07:50.983
שניהם נעצרו על החזקת סמים.

00:07:51.007 --> 00:07:52.161
לשניהם היה כבר תיק.

00:07:52.185 --> 00:07:54.991
אבל דילן עבר עבירה

00:07:55.015 --> 00:07:56.191
וברנרד - לא.

00:07:57.818 --> 00:08:00.884
זה משנה, כי ככל שתקבל
ניקוד יותר גבוה,

00:08:00.908 --> 00:08:04.381
גובר הסיכוי שתקבל 
עונש מאסר ארוך יותר.

NOTE Paragraph

00:08:06.294 --> 00:08:07.588
מה קורה פה?

00:08:08.526 --> 00:08:09.858
הלבנת נתונים.

00:08:10.930 --> 00:08:15.191
זהו תהליך שבו אנשי הטכנולוגיה 
מסתירים אמיתות מכוערות

00:08:15.191 --> 00:08:16.986
בתוך אלגוריתמים חתומים

00:08:16.986 --> 00:08:18.516
ואומרים שהם "אובייקטיביים",

00:08:19.320 --> 00:08:20.888
שזאת מריטוקרטיה.

00:08:22.907 --> 00:08:28.014
טבעתי כינוי לאלגוריתמים
סודיים, חשובים והרסניים אלו:

00:08:28.038 --> 00:08:29.951
"נשק להשמדה מתמטית".

NOTE Paragraph

00:08:29.951 --> 00:08:31.539
(צחוק)

NOTE Paragraph

00:08:31.539 --> 00:08:34.587
(מחיאות כפיים)

NOTE Paragraph

00:08:34.587 --> 00:08:37.081
הם בכל מקום
וזו לא טעות:

00:08:37.695 --> 00:08:41.062
מדובר בחברות פרטיות
שכותבות אלגוריתמים פרטיים

00:08:41.062 --> 00:08:42.834
לצרכיהן הפרטיים.

00:08:43.214 --> 00:08:46.428
אפילו אלו שהזכרתי,
שמשמשים להערכה של מורים ולשיטור

00:08:46.452 --> 00:08:49.951
נכתבו בידי חברות פרטיות
ונמכרו למוסדות ממשלתיים.

00:08:50.430 --> 00:08:52.397
הם אומרים שזה "הרוטב הסודי" שלהם

00:08:52.397 --> 00:08:54.549
ולכן אינם יכולים לחשוף אותו.

00:08:54.549 --> 00:08:56.869
זהו גם כוח פרטי.

00:08:57.924 --> 00:09:02.619
הם מרוויחים מהפעלת כוח העמימות.

00:09:05.114 --> 00:09:07.702
אתם יכולים לחשוב,
"בגלל שכל זה פרטי

00:09:07.702 --> 00:09:08.954
"וישנה תחרות,

00:09:08.954 --> 00:09:11.414
"השוק החופשי
אולי יפתור את הבעיה."

00:09:11.414 --> 00:09:12.617
לא נכון.

00:09:12.617 --> 00:09:15.977
אפשר להרוויח הרבה כסף
מחוסר הוגנות.

NOTE Paragraph

00:09:17.127 --> 00:09:20.496
אנחנו גם לא יצורים רציונליים מבחינה כלכלית

00:09:20.871 --> 00:09:22.323
לכולנו דעות קדומות.

00:09:22.960 --> 00:09:26.337
כולנו גזענים ומוטים
למרות שהיינו מעדיפים לא להיות כאלה,

00:09:26.361 --> 00:09:28.380
ובדרכים שאיננו אפילו יודעים.

00:09:29.352 --> 00:09:32.433
אבל אנחנו יודעים שבמצטבר,

00:09:32.457 --> 00:09:35.491
בגלל שסוציולוגים מראים באופן עקבי

00:09:35.491 --> 00:09:37.230
בניסויים שהם עורכים,

00:09:37.230 --> 00:09:39.692
שבהם הם שולחים למעסיקים
הרבה קורות חיים

00:09:39.692 --> 00:09:41.967
עם כישורים זהים, כשחלק
מהשמות נשמעים "לבנים",

00:09:41.967 --> 00:09:44.213
ושמות אחרים נשמעים "שחורים",

00:09:44.237 --> 00:09:46.931
והתוצאות של הניסויים תמיד מאכזבות,
תמיד.

NOTE Paragraph

00:09:47.510 --> 00:09:49.185
אז אנחנו בעלי הדעות הקדומות,

00:09:49.185 --> 00:09:52.734
ואנחנו מחדירים את ההטיות האלו
לתוך האלגוריתמים

00:09:52.758 --> 00:09:54.570
בכך שאנו בוחרים
אילו נתונים יש לאסוף,

00:09:54.594 --> 00:09:57.337
כמו שאני החלטתי
לא להתייחס ל"מנה חמה"-

00:09:57.361 --> 00:09:58.986
החלטתי שהיא איננה רלוונטית.

00:09:59.010 --> 00:10:06.546
אבל אם אנחנו בוטחים בנתונים
ובהגדרת ההצלחה על יסוד גישות קודמות,

00:10:06.546 --> 00:10:10.739
איך אנחנו יכולים לצפות 
שהאלגוריתמים ייצאו ללא פגע?

00:10:10.763 --> 00:10:13.119
ממש לא.
אנחנו מוכרחים לבדוק אותם.

00:10:14.165 --> 00:10:15.788
אנחנו מוכרחים לוודא שהם הוגנים.

NOTE Paragraph

00:10:15.788 --> 00:10:18.609
החדשות הטובות הן: זה אפשרי.

00:10:18.633 --> 00:10:21.985
אפשר לחקור אלגוריתמים

00:10:22.009 --> 00:10:24.043
והם יגידו לנו תמיד את האמת.

00:10:24.067 --> 00:10:26.560
ואנחנו יכולים לתקן ולשפר אותם.

00:10:26.584 --> 00:10:28.959
אני קוראת לזה "בדיקת אלגוריתם"

00:10:28.983 --> 00:10:30.662
אסביר לכם איך זה נעשה.

NOTE Paragraph

00:10:30.686 --> 00:10:32.882
ראשית מוודאים את שלמות הנתונים.

00:10:34.132 --> 00:10:36.789
באלגוריתם "הישנות הפשיעה" שהזכרתי,

00:10:37.582 --> 00:10:41.155
בדיקת שלמות הנתונים פירושה
שמוכרחים להשלים עם העובדה

00:10:41.179 --> 00:10:44.705
שבארה"ב, הלבנים והשחורים
מעשנים מריחואנה באותה מידה

00:10:44.729 --> 00:10:47.088
אבל לשחורים יש סיכוי גבוה יותר להיעצר -

00:10:47.088 --> 00:10:50.422
סיכוי גבוה פי ארבעה או חמישה, 
תלוי באיזור.

00:10:51.317 --> 00:10:54.143
איך נראית ההטיה 
בתחומי פשע אחרים,

00:10:54.167 --> 00:10:55.618
ואיך אנחנו מסבירים אותה?

NOTE Paragraph

00:10:56.162 --> 00:10:59.201
שנית, אנחנו צריכים
להגדיר מחדש מהי הצלחה.

00:10:59.225 --> 00:11:00.606
לבדוק את הנושא.

00:11:00.630 --> 00:11:03.176
זוכרים את האלגוריתם לשכירת עובדים?
דיברנו על זה.

00:11:03.176 --> 00:11:06.571
עובד המועסק כבר ארבע שנים
וקודם פעם אחת?

00:11:06.595 --> 00:11:08.108
זה באמת עובד מצליח,

00:11:08.108 --> 00:11:11.467
אבל זה גם עובד
שהסביבה התרבותית תומכת בו.

00:11:12.089 --> 00:11:14.015
אבל גם כאן יכולות להיות
דעות קדומות.

00:11:14.039 --> 00:11:16.104
צריך להפריד בין שני הדברים.

00:11:16.128 --> 00:11:19.434
למשל בבחינות קבלה עיוורות,

00:11:19.468 --> 00:11:22.554
כשהבוחנים נמצאים מאחורי מסך.

00:11:22.946 --> 00:11:24.877
אני רוצה לחשוב שכאן,

00:11:24.901 --> 00:11:29.915
האנשים המקשיבים הם שהחליטו
מה חשוב ומה לא,

00:11:29.915 --> 00:11:32.454
ודעתם לא מוסחת ע"י זה.

00:11:32.961 --> 00:11:35.710
כשהתחילו המבחנים העיוורים,

00:11:35.734 --> 00:11:39.178
מספר הנשים המנגנות בתזמורת
גדל פי חמש.

NOTE Paragraph

00:11:40.253 --> 00:11:42.268
הבא בתור הוא הדיוק.

00:11:43.233 --> 00:11:46.967
כאן אלגוריתם הערך המוסף
לדירוג מורים ייכשל מיד.

00:11:47.578 --> 00:11:49.740
אין אלגוריתם מושלם, כמובן,

00:11:50.620 --> 00:11:54.225
אז צריך לקחת בחשבון את
השגיאות של כל אלגוריתם:

00:11:54.836 --> 00:11:59.195
כמה ומתי הן קורות
ועם מי המודל הזה נכשל?

00:11:59.620 --> 00:12:01.568
מהו המחיר של הכשלון הזה?

NOTE Paragraph

00:12:02.434 --> 00:12:04.641
ולסיום, אנחנו מוכרחים 
לקחת בחשבון

00:12:05.973 --> 00:12:08.159
את ההשפעות ארוכות הטווח
של האלגוריתמים,

00:12:08.866 --> 00:12:11.073
של לולאות המשוב שנוצרות.

00:12:11.426 --> 00:12:12.706
זה נשמע מופשט,

00:12:12.706 --> 00:12:15.510
אבל מה אם מהנדסי "פייסבוק"
היו לוקחים זאת בחשבון

00:12:16.270 --> 00:12:21.125
בטרם החליטו להראות לנו
רק מה ששיתפו החברים שלנו.

NOTE Paragraph

00:12:21.761 --> 00:12:24.995
יש לי עוד שני מסרים,
אחד למתכנתים באשר הם:

00:12:25.450 --> 00:12:28.859
מתכנתים:
אסור לנו לתווך את האמת.

00:12:29.520 --> 00:12:33.303
אנחנו צריכים לתת ביטוי
לדיוני מוסר שמתקיימים

00:12:33.327 --> 00:12:34.621
בחברה כולה.

NOTE Paragraph

00:12:35.579 --> 00:12:37.712
(מחיאות כפיים)

NOTE Paragraph

00:12:37.736 --> 00:12:39.292
ולשאר האנשים,

00:12:39.861 --> 00:12:41.211
אלו שאינם עוסקים במידע:

00:12:41.211 --> 00:12:42.929
לא מדובר במבחן במתמטיקה,

00:12:43.632 --> 00:12:44.980
אלא במאבק פוליטי.

00:12:46.587 --> 00:12:50.924
אנחנו צריכים לדרוש משליטי
האלגוריתמים לקחת אחריות.

NOTE Paragraph

00:12:52.118 --> 00:12:53.617
(מחיאות כפיים)

NOTE Paragraph

00:12:53.641 --> 00:12:57.720
עידן האמון העיוור בנתונים
חייב להסתיים.

NOTE Paragraph

00:12:57.720 --> 00:12:59.001
תודה רבה.

NOTE Paragraph

00:12:59.001 --> 00:13:04.384
(מחיאות כפיים)