0:00:00.975,0:00:02.571
نجدُ الخوارزميات في كل مكان.

0:00:04.111,0:00:07.236
إنها تُصنّفُ وتفصل الفائزين عن الخاسرين.

0:00:08.019,0:00:10.147
يحصل الفائزون على الوظيفة

0:00:10.147,0:00:12.050
أو على أحد عروض بطاقات الائتمان الجيّدة.

0:00:12.074,0:00:14.725
بينما لا يحصل الخاسرون حتى على مقابلة عمل

0:00:15.590,0:00:17.367
أو يدفعون أكثر مقابل التأمين.

0:00:18.197,0:00:21.746
يتمّ تقييمنا بصيغ سرّية لا نفهمها

0:00:22.675,0:00:25.892
والتي لا يمكننا استئناف أحكامها[br]في معظم الأحيان.

0:00:27.240,0:00:28.536
مما يطرح السؤال:

0:00:28.560,0:00:31.473
ماذا لو كانت الخوارزميات خاطئة؟

0:00:33.060,0:00:34.800
لبناء خوارزمية فأنتم تحتاجون لشيئين:

0:00:34.804,0:00:37.145
تحتاجون لبيانات، أي ما حدث في الماضي،

0:00:37.169,0:00:38.644
وتحتاجون تعريفًا للنجاح،

0:00:38.644,0:00:41.211
أي الأمر الذي تبحثون عنه[br]وتأملون غالبًا إيجاده.[br]

0:00:41.235,0:00:46.272
تدرّبون الخوارزمية بالبحث أو التحديد.

0:00:46.296,0:00:49.715
أي تحدّد الخوارزمية ما هو متعلق بالنجاح.

0:00:49.739,0:00:52.202
أي حالة تقود إلى النجاح؟

0:00:52.751,0:00:54.643
في الواقع، يستخدمُ كلُ شخص الخوارزميات.

0:00:54.667,0:00:57.175
لكن فقط هم لا يستطيعون صياغتها[br]على هيئة شفرات مكتوبة.

0:00:57.175,0:00:58.441
دعوني أعطيكم مثالاً.

0:00:58.441,0:01:01.077
أستخدمُ الخوارزميات كل يوم [br]لأصنع وجبة غذائية لأسرتي.

0:01:02.101,0:01:03.577
فالبيانات التي أستخدمها

0:01:04.394,0:01:06.037
هي محتويات مطبخي،

0:01:06.037,0:01:07.598
ووقتي،

0:01:07.598,0:01:08.861
وطموحي،

0:01:08.865,0:01:10.588
وأقوم بتنظيم هذه البيانات.

0:01:10.588,0:01:14.869
لا أعتبر هذه العبوّات الصغيرة من[br]الرامن (حساء المعكرونة) طعامًا.

0:01:14.883,0:01:16.736
(ضحك)

0:01:16.736,0:01:18.615
تعريفي للنجاح هو:

0:01:18.615,0:01:21.314
تعتبرُ الوجبة الغذائية ناجحة [br]إذا تناول أطفالي الخضروات.

0:01:22.181,0:01:25.035
سيختلف هذا إن كان ابني الصغير هو المسؤول.

0:01:25.059,0:01:27.847
سيقول أن النجاح هو إذا تناول[br]الكثير من شوكولاتة "نوتيلا".

0:01:29.179,0:01:31.405
لكن يتوجب عليّ اختيار النجاح.

0:01:31.429,0:01:34.136
أنا المسؤولة. لذا فرأيي مهمّ.

0:01:34.160,0:01:36.835
هذه هي أول قاعدة للخوارزميات.

0:01:36.859,0:01:40.039
الخوارزميات هي آراء موضوعة في شفرات.

0:01:41.562,0:01:45.209
إنها مختلفة حقًا عما يعتقده معظم الناس.

0:01:45.209,0:01:49.753
إنهم يعتقدون أن الخوارزميات[br]موضوعية وصحيحة وعلمية.

0:01:50.387,0:01:52.086
إنها خدعة تسويقية.

0:01:53.269,0:01:55.394
وإنها أيضًا خدعة تسويقية

0:01:55.418,0:01:58.572
لتخويفكم بهذه الخوارزميات،

0:01:58.596,0:02:02.257
لجعلكم تثقون في الخوارزميات وتخافونها

0:02:02.281,0:02:04.299
لأنكم تثقون في الرياضيات وتخافونها.

0:02:05.567,0:02:10.397
الكثير من الأمور قد تسوء عندما[br]نضع ثقة عمياء في البيانات الضخمة.

0:02:11.684,0:02:15.057
هذه هي (كيري سوريس)، [br]إنها مديرة مدرسة ثانوية في (بروكلين).

0:02:15.081,0:02:17.667
في عام 2011، أخبرتني[br]بأنه كان يتمّ تصنيف معلميها

0:02:17.691,0:02:20.392
بناءً على خوارزمية سرية معقدة

0:02:20.392,0:02:21.931
سمّيت "نموذج القيمة المضافة".

0:02:22.505,0:02:25.597
قلت لها: "حسنًا، اكتشفي ما هي الصيغة،[br]وأريني إياها.

0:02:25.621,0:02:27.162
وسأشرحها لكِ."

0:02:27.186,0:02:29.327
قالت، "حسنًا، حاولتُ الحصول على الصيغة،

0:02:29.351,0:02:32.363
ولكن أخبرني شخص في وزارة التربية والتعليم[br]أنها عبارة عن رياضيات

0:02:32.363,0:02:33.693
وأنني لن أفهمها."

0:02:35.266,0:02:36.604
يزدادُ الأمرُ سوءًا.

0:02:36.628,0:02:40.158
قدّمت صحيفة (نيويورك بوست)[br]"طلب قانون حماية المعلومات"

0:02:40.182,0:02:43.141
وحصلت على أسماء كل المعلمين وتقييماتهم

0:02:43.165,0:02:45.947
وتم نشرها على سبيل الخزي للمعلمين.

0:02:47.084,0:02:50.944
عندما حاولتُ الحصول على الصيَغ[br]والشيفرة المصدرية عبر الوسائل نفسها،

0:02:50.968,0:02:53.117
قيل لي أنني لا أستطيع.

0:02:53.141,0:02:54.377
تمّ رفضي.

0:02:54.401,0:02:55.575
واكتشفتُ لاحقًا

0:02:55.599,0:02:58.465
بأنه لم يستطع أحد في مدينة (نيويورك)[br]الوصول إلى تلك الصيغة.

0:02:58.489,0:02:59.794
لم يفهمها أحد.

0:03:01.929,0:03:05.153
ثُم اهتم بالموضوع شخص ذكي حقًا،[br]يدعى (غاري روبنشتاين).

0:03:05.177,0:03:08.798
وجد أن 665 معلمًا من بيانات[br]صحفية (نيويورك بوست) تلك

0:03:08.822,0:03:10.688
لديهم في الحقيقة تقييمان.

0:03:10.712,0:03:12.593
ويمكن حدوث ذلك إن كانوا يدرّسون

0:03:12.617,0:03:15.056
مادة الرياضيات للصفين السابع والثامن.

0:03:15.080,0:03:16.618
قرّر تمثيلهم برسم بياني.

0:03:16.642,0:03:18.635
تمثلُ كل نقطة معلمًا.

0:03:19.104,0:03:21.483
(ضحك)

0:03:21.507,0:03:23.028
ما هذا؟

0:03:23.052,0:03:24.329
(ضحك)

0:03:24.353,0:03:27.799
لم يكن ينبغي استخدام ذلك[br]على الإطلاق للتقييم الفردي.

0:03:27.823,0:03:29.749
إنه تقريبًا مُولّد أرقام عشوائية.

0:03:29.773,0:03:32.719
(تصفيق)

0:03:32.743,0:03:33.905
ولكنه ما حدث.

0:03:33.929,0:03:35.105
هذه هي (سارة ويسوكي).

0:03:35.129,0:03:37.324
تمّ طردها من العمل [br]-بالإضافة إلى 205 معلم آخر-

0:03:37.328,0:03:39.990
من قطاع مدارس العاصمة (واشنطن)،

0:03:40.014,0:03:42.923
مع أن لديها توصيات عظيمة من مديرتها

0:03:42.947,0:03:44.375
وأولياء أمور طلابها.

0:03:45.390,0:03:47.266
أعرفُ ما يفكرُ فيه الكثير منكم يا رفاق،

0:03:47.266,0:03:49.807
خاصةً علماء البيانات وخبراء[br]الذكاء الاصطناعي هنا.

0:03:49.807,0:03:54.183
تفكّرون: "حسنًا، لم أكن لأنشئ[br]خوارزمية غير متجانسة كهذه".

0:03:54.853,0:03:56.536
ولكن يمكنُ للخوارزميات أن تفشل

0:03:56.560,0:04:01.158
وتسبّبَ آثارًا مدمّرة بشدّة [br]حتى رغم النوايا حسنة.

0:04:02.531,0:04:04.910
وبينما الطائرة التي صُممت بطريقة سيئة

0:04:04.934,0:04:06.935
تتحطم على الأرض ويراها الجميع،

0:04:06.959,0:04:08.809
إلا أن الخوارزمية المصمّمة بطريقة سيئة

0:04:10.245,0:04:14.110
يمكنُ أن تبقى لوقت طويل [br]تعيث فسادًا في صمت.

0:04:15.748,0:04:17.318
هذا هو (روجير إيلس).

0:04:17.342,0:04:19.342
(ضحك)

0:04:20.524,0:04:22.912
قام بتأسيس قناة (فوكس) الإخبارية عام 1996.

0:04:23.436,0:04:26.017
اشتكت أكثر من 20 امرأة من التحرش الجنسي.

0:04:26.041,0:04:29.276
قلن أن ذلك أثّر عليهن فلم يستطعن[br]النجاح في قناة (فوكس) الإخبارية.

0:04:29.300,0:04:31.820
تم طرده العام الماضي، لكن رأينا مؤخرًا

0:04:31.844,0:04:34.514
بأن المشاكل ما زالت مستمرة.

0:04:35.654,0:04:37.054
مما يطرحُ السؤال:

0:04:37.078,0:04:40.232
ما الذي ينبغي على قناة (فوكس) الإخبارية[br]عمله لتبدأ صفحة جديدة؟

0:04:41.245,0:04:44.286
ماذا لو استبدلوا عملية التوظيف لديهم

0:04:44.310,0:04:45.964
بخوارزمية "التعلّم الآلي"؟

0:04:45.988,0:04:47.583
يبدو هذا جيدًا، أليس كذلك؟

0:04:47.607,0:04:48.907
فكّروا في الأمر.

0:04:48.931,0:04:51.036
بالنسبة للبيانات، ماذا ستكون البيانات؟

0:04:51.060,0:04:56.007
ربما طلبات التوظيف في (فوكس) الإخبارية[br]خلال 21 سنة الأخيرة.

0:04:56.031,0:04:57.533
منطقي.

0:04:57.557,0:04:59.495
ماذا عن تعريف النجاح؟

0:04:59.921,0:05:01.245
سيكون الاختيار المعقول هو،

0:05:01.269,0:05:03.047
من هو الناجح[br]في قناة (فوكس) الإخبارية؟

0:05:03.071,0:05:06.651
لنقل أنه شخص بقي هناك لمدة أربع سنوات

0:05:06.675,0:05:08.329
وتم ترقيته مرة واحدة على الأقل.

0:05:08.816,0:05:10.377
يبدو الأمر معقولًا.

0:05:10.401,0:05:12.755
وبعد ذلك سيتم تدريب الخوارزمية.

0:05:12.779,0:05:16.656
سيتم تدريبها للبحث عن الأشخاص[br]لمعرفة ما الذي أدّى إلى النجاح،

0:05:17.219,0:05:21.537
ما نوع طلبات التوظيف[br]التي أدت تاريخيًا إلى النجاح

0:05:21.561,0:05:22.855
بناءً على التعريف السابق.

0:05:24.200,0:05:25.975
فكّروا الآن فيما سيحدث

0:05:25.999,0:05:28.554
لو طبّقنا ذلك على المجموعة الحالية[br]من طالبي التوظيف.

0:05:29.119,0:05:30.748
ستَستبعِد الخوارزمية النساء

0:05:31.663,0:05:35.593
لأنهن لا يشبهن الأشخاص[br]الذين نجحوا في الماضي.

0:05:39.752,0:05:42.289
لا تحقق الخوارزميات العدالة

0:05:42.313,0:05:45.007
إن طبّقتموها على نحو أعمى وبدون تفكير.

0:05:45.031,0:05:46.513
لا تجعل الأمور عادلة.

0:05:46.537,0:05:48.665
تعيدُ ممارساتنا الماضية،

0:05:48.689,0:05:49.872
وأنماط تصرّفاتنا.

0:05:49.896,0:05:51.835
وتدير الوضع الراهن آليًّا.

0:05:52.718,0:05:55.107
سيكون ذلك عظيمًا لو كان لدينا عالم مثالي،

0:05:55.905,0:05:57.217
ولكن ليس لدينا.

0:05:57.241,0:06:01.343
وسأضيفُ أن معظم الشركات ليس لديها[br]شكاوي قضائية محرجة،

0:06:02.446,0:06:05.034
ولكن علماء البيانات في هذه الشركات

0:06:05.058,0:06:07.247
يُطلب منهم تتبّع البيانات

0:06:07.271,0:06:09.414
للتركيز على الدقة.

0:06:10.273,0:06:11.654
فكّروا فيما يعنيه ذلك.

0:06:11.678,0:06:15.705
لأنه لدى جميعنا نزعة تحيّز،[br]فيمكن أن يقوموا بتقنين التمييز الجنسي

0:06:15.729,0:06:17.565
أو أي نوع آخر من التعصب الأعمى.

0:06:19.488,0:06:20.909
إليكم تجربة فكرية،

0:06:20.933,0:06:22.442
لأني أحبهم:

0:06:23.574,0:06:26.549
إن افترضنا وجود مجتمع[br]مفصول عنصريًا بالكامل،

0:06:28.247,0:06:31.575
كل بلداته وأحياؤه مفصولة على أساس عنصري

0:06:31.599,0:06:34.636
وحيث أننا نرسلُ الشرطة[br]لأحياء الأقليّات فقط

0:06:34.660,0:06:35.853
للبحث عن الجريمة،

0:06:36.451,0:06:38.670
فإن بيانات الاعتقال ستكون منحازة جدًا.

0:06:39.851,0:06:42.426
وعلاوة على ذلك، ماذا لو[br]وجدنا علماء البيانات

0:06:42.450,0:06:46.611
ودفعنا لهم للتنبؤ بمكان الجريمة التالية؟

0:06:47.275,0:06:48.762
سيقولون أحد أحياء الأقليات.

0:06:49.285,0:06:52.410
أو للتنبؤ بالمجرم التالي؟

0:06:52.888,0:06:54.283
أيضًا من الأقليات.

0:06:55.949,0:06:59.490
سيتباهى علماء البيانات كم أن نموذجهم[br]

0:06:59.494,0:07:00.795
سيكون رائعًا ودقيقًا،

0:07:00.795,0:07:02.134
وسيكونون محقّين بالفعل.

0:07:03.951,0:07:08.560
الآن، ليست الحقيقة بذلك التطرف،[br]ولكن لدينا تمييز وفصل شديد

0:07:08.560,0:07:09.851
في عدة مدن وبلدات

0:07:09.851,0:07:11.768
ولدينا الكثير من البراهين

0:07:11.768,0:07:14.506
من بيانات رجال الشرطة المتحيزة،[br]وبيانات نظام العدالة.

0:07:15.632,0:07:18.447
ونستطيع في الواقع التنبؤ بمواقع ساخنة،

0:07:18.471,0:07:20.001
وأماكن حيث ستحدث الجرائم.

0:07:20.401,0:07:24.267
ونستطيع التنبؤ، في الواقع،[br]بالجريمة الفردية،

0:07:24.291,0:07:26.061
جرائم الأفراد.

0:07:26.972,0:07:30.839
بحثت المنظمة الإخبارية (بروبليكا) مؤخرًا

0:07:30.839,0:07:32.983
أحد تلك الخوارزميات،[br]"خطر التعرض للانتكاس"

0:07:32.997,0:07:34.154
كما يطلق عليهم،

0:07:34.154,0:07:37.388
تم استخدامها في ولاية (فلوريدا)[br]أثناء إعلان الحُكم من قبل القضاة.

0:07:38.411,0:07:41.996
تم تصنيف (بيرنارد)، على اليسار،[br]الرجل الأسود، 10/10.

0:07:43.179,0:07:45.180
و(ديلان)، على اليمين، 3/10.

0:07:45.180,0:07:47.711
10 من 10، الخطر الأكبر،[br]و3 من 10، الخطر المنخفض.

0:07:48.598,0:07:50.977
تم القبض على كليهما لحيازتهما المخدرات.

0:07:50.977,0:07:52.155
ولدى كلاهما سجلات،

0:07:52.155,0:07:54.975
ولكن لدى (ديلان) جناية

0:07:54.975,0:07:56.191
بعكس (بيرنارد).

0:07:57.818,0:08:00.848
هذا يهم، لأنه إذا كانت درجتكم أعلى،

0:08:00.848,0:08:04.381
فستمنحون على الأرجح أحكامًا قضائية أطول.

0:08:06.294,0:08:07.588
ما الذي يجري هنا؟

0:08:08.526,0:08:09.858
غسل البيانات.

0:08:10.930,0:08:15.341
إنها عملية حيث يخفي التقنيون حقائق بشعة

0:08:15.341,0:08:17.186
داخل خوارزميات الصندوق الأسود

0:08:17.186,0:08:18.516
ويطلقون عليها موضوعية،

0:08:19.320,0:08:20.888
أطلقوا عليها "الإستحقاقراطية".

0:08:23.118,0:08:25.503
عندما تكون سرية، ومهمة، ومدمرة،

0:08:25.507,0:08:27.998
قمتُ بصياغة مصطلح لهذه الخوارزميات:

0:08:27.998,0:08:30.021
"أسلحة دمار العمليات الحسابية".

0:08:30.021,0:08:31.599
(ضحك)

0:08:31.599,0:08:34.697
(تصفيق)

0:08:34.697,0:08:37.081
إنها في كل مكان، وليست خطأ.

0:08:37.695,0:08:41.412
هذه هي شركات خاصة[br]تبني خوارزميات خاصة

0:08:41.412,0:08:42.834
لأغراض خاصة.

0:08:43.214,0:08:46.412
حتى تلك التي تحدثتُ حولها[br]بشأن المعلمين ورجال الشرطة،

0:08:46.412,0:08:48.315
تم بناء الخوارزميات من قبل شركات خاصة

0:08:48.315,0:08:50.570
وتم بيعها إلى مؤســسات حكومية.

0:08:50.570,0:08:52.473
يسمونها "التركيبة السرية الخاصة" --

0:08:52.477,0:08:54.619
ولهذا السبب لا يمكنهم الإفصاح عنها.

0:08:54.619,0:08:56.869
إنها أيضًا سلطة خاصة.

0:08:57.924,0:09:02.619
إنهم يستفيدون من الممارسة البارعة[br]للسلطة الغامضة.

0:09:05.114,0:09:08.032
قد تعتقدون الآن، [br]ولأنّ كل هذه الامور خاصة

0:09:08.032,0:09:09.224
وهناك منافسة،

0:09:09.224,0:09:11.544
ربما سيعالجُ السوق الحر هذه المشكلة.

0:09:11.544,0:09:12.807
لن يقوم بذلك.

0:09:12.807,0:09:15.977
تُجبى كمية ضخمة من الأموال[br]نتيجة عدم الإنصاف.

0:09:17.127,0:09:20.496
كذلك، لسنا عملاء اقتصاديون منطقيون.

0:09:21.031,0:09:22.323
جميعنا منحازون.

0:09:22.960,0:09:26.331
جميعنا عنصريون ومتعصبون [br]بطرق نرغبُ بأننا لم نسلكها،

0:09:26.331,0:09:28.380
بطرق حتى لا نعرفها.

0:09:29.352,0:09:32.427
ورغم ذلك نعلمُ هذا، في كل الأحوال،

0:09:32.427,0:09:35.671
لأن علماء الاجتماع قدّموا لنا ذلك باستمرار

0:09:35.671,0:09:37.366
بهذه التجارب التي بنوها،

0:09:37.370,0:09:39.942
حيثُ يرسلوا حزمة من طلبات الوظائف المطلوبة

0:09:39.942,0:09:42.483
مؤهلين بالتساوي [br]لكن لدى بعضهم أسماء تبدو لأشخاص بيض

0:09:42.507,0:09:44.207
ولدى البعض أسماء تبدو لأشخاص سود

0:09:44.207,0:09:46.931
ودائمًا النتائج مخيبة للآمال، دائمًا.

0:09:47.510,0:09:49.281
لذلك فنحن المتحيزون،

0:09:49.285,0:09:52.728
ونحنُ من يضع تلك التحيزات داخل الخوارزميات

0:09:52.728,0:09:54.640
باختيار ما هي البينات التي علينا جمعها،

0:09:54.640,0:09:57.337
مثل ما اخترته[br]لعدم التفكير بالشعيرية المجففة --

0:09:57.361,0:09:58.986
قررتُ بأنه ليس لها صلة بالموضوع.

0:09:59.010,0:10:04.694
لكن وبالثقة بالبيانات التي هي في الواقع[br]اختيار الممارسات الماضية

0:10:04.698,0:10:06.716
واختيار تعريف النجاح،

0:10:06.716,0:10:10.739
كيف يمكننا توقع[br]ظهور الخوارزميات متكاملة؟

0:10:10.743,0:10:13.119
لا نستطيع. علينا التحقق منهم.

0:10:14.165,0:10:15.868
علينا التحقق منهم من أجل الإنصاف.

0:10:15.868,0:10:18.609
الخبر السار هو،[br]نستطيعُ التحقق منهم من أجل الإنصاف.

0:10:18.623,0:10:21.969
يمكنُ فحص واستنطاق الخوارزميات،

0:10:21.969,0:10:24.043
ويمكنهم قول الحقيقة كل الوقت.

0:10:24.067,0:10:26.560
ويمكننا اصلاحهم. ويمكننا جعلهم أفضل.

0:10:26.584,0:10:28.959
أطلقُ على هذه تدقيق الخوارزمية،

0:10:28.983,0:10:30.656
وسأخبركم عنها.

0:10:30.656,0:10:32.882
أولاً، التحقق من نزاهة وتكامل البيانات.

0:10:34.132,0:10:36.789
بالنسبة إلى خوارزمية[br]خطر الانتكاس التي تحدثتُ عنها،

0:10:37.582,0:10:41.149
ستعني التحقق من نزاهة البيانات [br]بأنه علينا التوصل إلى تفاهم مع الواقع

0:10:41.149,0:10:44.699
بأنه في أمريكا، يدخنُ الحشيشَ البيض والسود[br]بنفس المعدل

0:10:44.699,0:10:47.214
لكن يتمُ اعتقال السود[br]على الأرجح أكثر بكثير --

0:10:47.228,0:10:50.422
أربع أو خمس مرات أكثر من البيض،[br]اعتمادًا على المنطقة.

0:10:51.317,0:10:54.143
كيف يبدو هذا التحيز [br]في فئات الجرائم الأخرى،

0:10:54.147,0:10:55.618
وكيف يمكننا حساب ذلك؟

0:10:56.162,0:10:59.201
ثانيًا، ينبغي علينا التفكير بتعريف النجاح،

0:10:59.225,0:11:00.606
تدقيق ذلك.

0:11:00.630,0:11:03.366
تذكروا، خوارزمية التوظيف، [br]التي تحدثنا عنها.

0:11:03.366,0:11:06.565
يبقى شخص ما في الوظيفة لمدة أربع سنوات[br]ويتمُ ترقيته لمرة واحدة.

0:11:06.565,0:11:08.358
حسنًا، هذا موظفُ ناجح،

0:11:08.358,0:11:11.467
وإنه أيضًا موظف مدعوم [br]من قبل التقاليد الموروثة.

0:11:12.089,0:11:14.015
وذلك، يمكن أن يكون ذلك تحيزًا

0:11:14.039,0:11:16.104
نحتاجُ لفصل هذين الأمرين.

0:11:16.128,0:11:18.554
علينا النظر[br]في تجربة أداء الأوركسترا العمياء

0:11:18.578,0:11:19.774
كمثال.

0:11:19.798,0:11:22.554
حيث يجري الأشخاص أداءهم من وراء جدار.

0:11:22.946,0:11:24.877
ما أرغبُ أن أفكر فيه هنا

0:11:24.901,0:11:28.318
أن من يستمع إلى هؤلاء قد قرروا ما هو المهم

0:11:28.342,0:11:30.371
وما ليس مهمًا،

0:11:30.395,0:11:32.454
ولم يتم ازعاجهم بأي شيء بهذا القرار.

0:11:32.961,0:11:35.710
عندما بدأت تجربة أداء الأوكسترا العمياء،

0:11:35.734,0:11:39.178
ارتفع عدد النساء في الأوكسترا بمقدار خمسة.

0:11:40.253,0:11:42.268
وبعد ذلك، علينا النظر في الدقة.

0:11:43.233,0:11:46.967
وهذا هو حيث سيفشل نموذج القيمة المضافة[br]بشأن المعلمين على الفور.

0:11:47.578,0:11:49.740
لا يوجد خوارزمية مثالية، بطبيعة الحال،

0:11:50.620,0:11:54.225
لذلك ينبغي علينا حساب الأخطاء[br]في كل خوارزمية.

0:11:54.836,0:11:59.195
كم مرة تتكرر هذه الأخطاء،[br]ولمن يفشل هذا النموذج؟

0:11:59.850,0:12:01.568
وما هي تكلفة هذا الفشل؟

0:12:02.434,0:12:04.641
وأخيرًا، علينا اعتبار

0:12:05.973,0:12:08.159
الآثار طويلة الأجل للخوارزمية،

0:12:08.866,0:12:11.073
ومجموعات التقييم التي تم إحداثها.

0:12:11.586,0:12:12.822
يبدو ذلك نظرية مجردة،

0:12:12.846,0:12:15.510
لكن تخيلوا لو أن مهندسو الفيسبوك[br]أخذوا بعين الاعتبار ذلك

0:12:16.270,0:12:21.125
قبل أن يقرروا أن يُظهروا لنا[br]الأشياء التي ينشرها أصدقاؤنا فقط.

0:12:21.761,0:12:24.995
عندي رسالتان أخريان، [br]الأولى لعلماء البيانات الموجودن من حولنا.

0:12:25.450,0:12:28.859
يا علماء البيانات:[br]لا ينبغي علينا أن نقرر ما هي الحقيقة.

0:12:29.520,0:12:34.553
علينا أن نترجم النقاشات الأخلاقية [br]التي تحدثُ في المجتمع الأكبر.

0:12:34.995,0:12:37.029
(تصفيق)

0:12:38.089,0:12:39.182
والبقية منكم،

0:12:40.102,0:12:41.368
من غير علماء البيانات:

0:12:41.368,0:12:43.054
هذا ليس اختبار رياضيات.

0:12:43.054,0:12:45.132
إنها معركة سياسية.

0:12:46.553,0:12:50.281
نحتاجُ أن نطالبَ بالمساءلة[br]لمن يضع الخوارزميات من الأسياد.

0:12:51.749,0:12:53.586
(تصفيق)

0:12:53.586,0:12:58.005
يجب أن ينتهي عصر الثقة العمياء[br]في البيانات الضخمة.

0:12:58.005,0:12:58.980
شكرًا جزيلًا لكم.

0:12:58.980,0:13:04.787
(تصفيق)