WEBVTT

00:00:00.975 --> 00:00:02.571
نجدُ الخوارزميات في كل مكان.

00:00:04.111 --> 00:00:07.236
إنها تُصنّفُ وتفصل الفائزين عن الخاسرين.

00:00:08.019 --> 00:00:10.147
يحصل الفائزون على الوظيفة

00:00:10.147 --> 00:00:12.050
أو على أحد عروض بطاقات الائتمان الجيّدة.

00:00:12.074 --> 00:00:14.725
بينما لا يحصل الخاسرون حتى على مقابلة عمل

00:00:15.590 --> 00:00:17.367
أو يدفعون أكثر مقابل التأمين.

00:00:18.197 --> 00:00:21.746
يتمّ تقييمنا بصيغ سرّية لا نفهمها

00:00:22.675 --> 00:00:25.892
والتي لا يمكننا استئناف أحكامها
في معظم الأحيان.

00:00:27.240 --> 00:00:28.536
مما يطرح السؤال:

00:00:28.560 --> 00:00:31.473
ماذا لو كانت الخوارزميات خاطئة؟

NOTE Paragraph

00:00:33.060 --> 00:00:34.800
لبناء خوارزمية فأنتم تحتاجون لشيئين:

00:00:34.804 --> 00:00:37.145
تحتاجون لبيانات، أي ما حدث في الماضي،

00:00:37.169 --> 00:00:38.644
وتحتاجون تعريفًا للنجاح،

00:00:38.644 --> 00:00:41.211
أي الأمر الذي تبحثون عنه
وتأملون غالبًا إيجاده.


00:00:41.235 --> 00:00:46.272
تدرّبون الخوارزمية بالبحث أو التحديد.

00:00:46.296 --> 00:00:49.715
أي تحدّد الخوارزمية ما هو متعلق بالنجاح.

00:00:49.739 --> 00:00:52.202
أي حالة تقود إلى النجاح؟

NOTE Paragraph

00:00:52.751 --> 00:00:54.643
في الواقع، يستخدمُ كلُ شخص الخوارزميات.

00:00:54.667 --> 00:00:57.175
لكن فقط هم لا يستطيعون صياغتها
على هيئة شفرات مكتوبة.

00:00:57.175 --> 00:00:58.441
دعوني أعطيكم مثالاً.

00:00:58.441 --> 00:01:01.077
أستخدمُ الخوارزميات كل يوم 
لأصنع وجبة غذائية لأسرتي.

00:01:02.101 --> 00:01:03.577
فالبيانات التي أستخدمها

00:01:04.394 --> 00:01:06.037
هي محتويات مطبخي،

00:01:06.037 --> 00:01:07.598
ووقتي،

00:01:07.598 --> 00:01:08.861
وطموحي،

00:01:08.865 --> 00:01:10.588
وأقوم بتنظيم هذه البيانات.

00:01:10.588 --> 00:01:14.869
لا أعتبر هذه العبوّات الصغيرة من
الرامن (حساء المعكرونة) طعامًا.

NOTE Paragraph

00:01:14.883 --> 00:01:16.736
(ضحك)

NOTE Paragraph

00:01:16.736 --> 00:01:18.615
تعريفي للنجاح هو:

00:01:18.615 --> 00:01:21.314
تعتبرُ الوجبة الغذائية ناجحة 
إذا تناول أطفالي الخضروات.

00:01:22.181 --> 00:01:25.035
سيختلف هذا إن كان ابني الصغير هو المسؤول.

00:01:25.059 --> 00:01:27.847
سيقول أن النجاح هو إذا تناول
الكثير من شوكولاتة "نوتيلا".

00:01:29.179 --> 00:01:31.405
لكن يتوجب عليّ اختيار النجاح.

00:01:31.429 --> 00:01:34.136
أنا المسؤولة. لذا فرأيي مهمّ.

00:01:34.160 --> 00:01:36.835
هذه هي أول قاعدة للخوارزميات.

NOTE Paragraph

00:01:36.859 --> 00:01:40.039
الخوارزميات هي آراء موضوعة في شفرات.

00:01:41.562 --> 00:01:45.209
إنها مختلفة حقًا عما يعتقده معظم الناس.

00:01:45.209 --> 00:01:49.753
إنهم يعتقدون أن الخوارزميات
موضوعية وصحيحة وعلمية.

00:01:50.387 --> 00:01:52.086
إنها خدعة تسويقية.

00:01:53.269 --> 00:01:55.394
وإنها أيضًا خدعة تسويقية

00:01:55.418 --> 00:01:58.572
لتخويفكم بهذه الخوارزميات،

00:01:58.596 --> 00:02:02.257
لجعلكم تثقون في الخوارزميات وتخافونها

00:02:02.281 --> 00:02:04.299
لأنكم تثقون في الرياضيات وتخافونها.

00:02:05.567 --> 00:02:10.397
الكثير من الأمور قد تسوء عندما
نضع ثقة عمياء في البيانات الضخمة.

NOTE Paragraph

00:02:11.684 --> 00:02:15.057
هذه هي (كيري سوريس)، 
إنها مديرة مدرسة ثانوية في (بروكلين).

00:02:15.081 --> 00:02:17.667
في عام 2011، أخبرتني
بأنه كان يتمّ تصنيف معلميها

00:02:17.691 --> 00:02:20.392
بناءً على خوارزمية سرية معقدة

00:02:20.392 --> 00:02:21.931
سمّيت "نموذج القيمة المضافة".

00:02:22.505 --> 00:02:25.597
قلت لها: "حسنًا، اكتشفي ما هي الصيغة،
وأريني إياها.

00:02:25.621 --> 00:02:27.162
وسأشرحها لكِ."

00:02:27.186 --> 00:02:29.327
قالت، "حسنًا، حاولتُ الحصول على الصيغة،

00:02:29.351 --> 00:02:32.363
ولكن أخبرني شخص في وزارة التربية والتعليم
أنها عبارة عن رياضيات

00:02:32.363 --> 00:02:33.693
وأنني لن أفهمها."

NOTE Paragraph

00:02:35.266 --> 00:02:36.604
يزدادُ الأمرُ سوءًا.

00:02:36.628 --> 00:02:40.158
قدّمت صحيفة (نيويورك بوست)
"طلب قانون حماية المعلومات"

00:02:40.182 --> 00:02:43.141
وحصلت على أسماء كل المعلمين وتقييماتهم

00:02:43.165 --> 00:02:45.947
وتم نشرها على سبيل الخزي للمعلمين.

00:02:47.084 --> 00:02:50.944
عندما حاولتُ الحصول على الصيَغ
والشيفرة المصدرية عبر الوسائل نفسها،

00:02:50.968 --> 00:02:53.117
قيل لي أنني لا أستطيع.

00:02:53.141 --> 00:02:54.377
تمّ رفضي.

00:02:54.401 --> 00:02:55.575
واكتشفتُ لاحقًا

00:02:55.599 --> 00:02:58.465
بأنه لم يستطع أحد في مدينة (نيويورك)
الوصول إلى تلك الصيغة.

00:02:58.489 --> 00:02:59.794
لم يفهمها أحد.

00:03:01.929 --> 00:03:05.153
ثُم اهتم بالموضوع شخص ذكي حقًا،
يدعى (غاري روبنشتاين).

00:03:05.177 --> 00:03:08.798
وجد أن 665 معلمًا من بيانات
صحفية (نيويورك بوست) تلك

00:03:08.822 --> 00:03:10.688
لديهم في الحقيقة تقييمان.

00:03:10.712 --> 00:03:12.593
ويمكن حدوث ذلك إن كانوا يدرّسون

00:03:12.617 --> 00:03:15.056
مادة الرياضيات للصفين السابع والثامن.

00:03:15.080 --> 00:03:16.618
قرّر تمثيلهم برسم بياني.

00:03:16.642 --> 00:03:18.635
تمثلُ كل نقطة معلمًا.

NOTE Paragraph

00:03:19.104 --> 00:03:21.483
(ضحك)

NOTE Paragraph

00:03:21.507 --> 00:03:23.028
ما هذا؟

NOTE Paragraph

00:03:23.052 --> 00:03:24.329
(ضحك)

NOTE Paragraph

00:03:24.353 --> 00:03:27.799
لم يكن ينبغي استخدام ذلك
على الإطلاق للتقييم الفردي.

00:03:27.823 --> 00:03:29.749
إنه تقريبًا مُولّد أرقام عشوائية.

NOTE Paragraph

00:03:29.773 --> 00:03:32.719
(تصفيق)

NOTE Paragraph

00:03:32.743 --> 00:03:33.905
ولكنه ما حدث.

00:03:33.929 --> 00:03:35.105
هذه هي (سارة ويسوكي).

00:03:35.129 --> 00:03:37.324
تمّ طردها من العمل 
-بالإضافة إلى 205 معلم آخر-

00:03:37.328 --> 00:03:39.990
من قطاع مدارس العاصمة (واشنطن)،

00:03:40.014 --> 00:03:42.923
مع أن لديها توصيات عظيمة من مديرتها

00:03:42.947 --> 00:03:44.375
وأولياء أمور طلابها.

NOTE Paragraph

00:03:45.390 --> 00:03:47.266
أعرفُ ما يفكرُ فيه الكثير منكم يا رفاق،

00:03:47.266 --> 00:03:49.807
خاصةً علماء البيانات وخبراء
الذكاء الاصطناعي هنا.

00:03:49.807 --> 00:03:54.183
تفكّرون: "حسنًا، لم أكن لأنشئ
خوارزمية غير متجانسة كهذه".

00:03:54.853 --> 00:03:56.536
ولكن يمكنُ للخوارزميات أن تفشل

00:03:56.560 --> 00:04:01.158
وتسبّبَ آثارًا مدمّرة بشدّة 
حتى رغم النوايا حسنة.

00:04:02.531 --> 00:04:04.910
وبينما الطائرة التي صُممت بطريقة سيئة

00:04:04.934 --> 00:04:06.935
تتحطم على الأرض ويراها الجميع،

00:04:06.959 --> 00:04:08.809
إلا أن الخوارزمية المصمّمة بطريقة سيئة

00:04:10.245 --> 00:04:14.110
يمكنُ أن تبقى لوقت طويل 
تعيث فسادًا في صمت.

NOTE Paragraph

00:04:15.748 --> 00:04:17.318
هذا هو (روجير إيلس).

NOTE Paragraph

00:04:17.342 --> 00:04:19.342
(ضحك)

NOTE Paragraph

00:04:20.524 --> 00:04:22.912
قام بتأسيس قناة (فوكس) الإخبارية عام 1996.

00:04:23.436 --> 00:04:26.017
اشتكت أكثر من 20 امرأة من التحرش الجنسي.

00:04:26.041 --> 00:04:29.276
قلن أن ذلك أثّر عليهن فلم يستطعن
النجاح في قناة (فوكس) الإخبارية.

00:04:29.300 --> 00:04:31.820
تم طرده العام الماضي، لكن رأينا مؤخرًا

00:04:31.844 --> 00:04:34.514
بأن المشاكل ما زالت مستمرة.

00:04:35.654 --> 00:04:37.054
مما يطرحُ السؤال:

00:04:37.078 --> 00:04:40.232
ما الذي ينبغي على قناة (فوكس) الإخبارية
عمله لتبدأ صفحة جديدة؟

NOTE Paragraph

00:04:41.245 --> 00:04:44.286
ماذا لو استبدلوا عملية التوظيف لديهم

00:04:44.310 --> 00:04:45.964
بخوارزمية "التعلّم الآلي"؟

00:04:45.988 --> 00:04:47.583
يبدو هذا جيدًا، أليس كذلك؟

00:04:47.607 --> 00:04:48.907
فكّروا في الأمر.

00:04:48.931 --> 00:04:51.036
بالنسبة للبيانات، ماذا ستكون البيانات؟

00:04:51.060 --> 00:04:56.007
ربما طلبات التوظيف في (فوكس) الإخبارية
خلال 21 سنة الأخيرة.

00:04:56.031 --> 00:04:57.533
منطقي.

00:04:57.557 --> 00:04:59.495
ماذا عن تعريف النجاح؟

00:04:59.921 --> 00:05:01.245
سيكون الاختيار المعقول هو،

00:05:01.269 --> 00:05:03.047
من هو الناجح
في قناة (فوكس) الإخبارية؟

00:05:03.071 --> 00:05:06.651
لنقل أنه شخص بقي هناك لمدة أربع سنوات

00:05:06.675 --> 00:05:08.329
وتم ترقيته مرة واحدة على الأقل.

00:05:08.816 --> 00:05:10.377
يبدو الأمر معقولًا.

00:05:10.401 --> 00:05:12.755
وبعد ذلك سيتم تدريب الخوارزمية.

00:05:12.779 --> 00:05:16.656
سيتم تدريبها للبحث عن الأشخاص
لمعرفة ما الذي أدّى إلى النجاح،

00:05:17.219 --> 00:05:21.537
ما نوع طلبات التوظيف
التي أدت تاريخيًا إلى النجاح

00:05:21.561 --> 00:05:22.855
بناءً على التعريف السابق.

00:05:24.200 --> 00:05:25.975
فكّروا الآن فيما سيحدث

00:05:25.999 --> 00:05:28.554
لو طبّقنا ذلك على المجموعة الحالية
من طالبي التوظيف.

00:05:29.119 --> 00:05:30.748
ستَستبعِد الخوارزمية النساء

00:05:31.663 --> 00:05:35.593
لأنهن لا يشبهن الأشخاص
الذين نجحوا في الماضي.

NOTE Paragraph

00:05:39.752 --> 00:05:42.289
لا تحقق الخوارزميات العدالة

00:05:42.313 --> 00:05:45.007
إن طبّقتموها على نحو أعمى وبدون تفكير.

00:05:45.031 --> 00:05:46.513
لا تجعل الأمور عادلة.

00:05:46.537 --> 00:05:48.665
تعيدُ ممارساتنا الماضية،

00:05:48.689 --> 00:05:49.872
وأنماط تصرّفاتنا.

00:05:49.896 --> 00:05:51.835
وتدير الوضع الراهن آليًّا.

00:05:52.718 --> 00:05:55.107
سيكون ذلك عظيمًا لو كان لدينا عالم مثالي،

00:05:55.905 --> 00:05:57.217
ولكن ليس لدينا.

00:05:57.241 --> 00:06:01.343
وسأضيفُ أن معظم الشركات ليس لديها
شكاوي قضائية محرجة،

00:06:02.446 --> 00:06:05.034
ولكن علماء البيانات في هذه الشركات

00:06:05.058 --> 00:06:07.247
يُطلب منهم تتبّع البيانات

00:06:07.271 --> 00:06:09.414
للتركيز على الدقة.

00:06:10.273 --> 00:06:11.654
فكّروا فيما يعنيه ذلك.

00:06:11.678 --> 00:06:15.705
لأنه لدى جميعنا نزعة تحيّز،
فيمكن أن يقوموا بتقنين التمييز الجنسي

00:06:15.729 --> 00:06:17.565
أو أي نوع آخر من التعصب الأعمى.

NOTE Paragraph

00:06:19.488 --> 00:06:20.909
إليكم تجربة فكرية،

00:06:20.933 --> 00:06:22.442
لأني أحبهم:

00:06:23.574 --> 00:06:26.549
إن افترضنا وجود مجتمع
مفصول عنصريًا بالكامل،

00:06:28.247 --> 00:06:31.575
كل بلداته وأحياؤه مفصولة على أساس عنصري

00:06:31.599 --> 00:06:34.636
وحيث أننا نرسلُ الشرطة
لأحياء الأقليّات فقط

00:06:34.660 --> 00:06:35.853
للبحث عن الجريمة،

00:06:36.451 --> 00:06:38.670
فإن بيانات الاعتقال ستكون منحازة جدًا.

00:06:39.851 --> 00:06:42.426
وعلاوة على ذلك، ماذا لو
وجدنا علماء البيانات

00:06:42.450 --> 00:06:46.611
ودفعنا لهم للتنبؤ بمكان الجريمة التالية؟

00:06:47.275 --> 00:06:48.762
سيقولون أحد أحياء الأقليات.

00:06:49.285 --> 00:06:52.410
أو للتنبؤ بالمجرم التالي؟

00:06:52.888 --> 00:06:54.283
أيضًا من الأقليات.

00:06:55.949 --> 00:06:59.490
سيتباهى علماء البيانات كم أن نموذجهم


00:06:59.494 --> 00:07:00.795
سيكون رائعًا ودقيقًا،

00:07:00.795 --> 00:07:02.134
وسيكونون محقّين بالفعل.

NOTE Paragraph

00:07:03.951 --> 00:07:08.560
الآن، ليست الحقيقة بذلك التطرف،
ولكن لدينا تمييز وفصل شديد

00:07:08.560 --> 00:07:09.851
في عدة مدن وبلدات

00:07:09.851 --> 00:07:11.768
ولدينا الكثير من البراهين

00:07:11.768 --> 00:07:14.506
من بيانات رجال الشرطة المتحيزة،
وبيانات نظام العدالة.

00:07:15.632 --> 00:07:18.447
ونستطيع في الواقع التنبؤ بمواقع ساخنة،

00:07:18.471 --> 00:07:20.001
وأماكن حيث ستحدث الجرائم.

00:07:20.401 --> 00:07:24.267
ونستطيع التنبؤ، في الواقع،
بالجريمة الفردية،

00:07:24.291 --> 00:07:26.061
جرائم الأفراد.

00:07:26.972 --> 00:07:30.839
بحثت المنظمة الإخبارية (بروبليكا) مؤخرًا

00:07:30.839 --> 00:07:32.983
أحد تلك الخوارزميات،
"خطر التعرض للانتكاس"

00:07:32.997 --> 00:07:34.154
كما يطلق عليهم،

00:07:34.154 --> 00:07:37.388
تم استخدامها في ولاية (فلوريدا)
أثناء إعلان الحُكم من قبل القضاة.

00:07:38.411 --> 00:07:41.996
تم تصنيف (بيرنارد)، على اليسار،
الرجل الأسود، 10/10.

00:07:43.179 --> 00:07:45.180
و(ديلان)، على اليمين، 3/10.

00:07:45.180 --> 00:07:47.711
10 من 10، الخطر الأكبر،
و3 من 10، الخطر المنخفض.

00:07:48.598 --> 00:07:50.977
تم القبض على كليهما لحيازتهما المخدرات.

00:07:50.977 --> 00:07:52.155
ولدى كلاهما سجلات،

00:07:52.155 --> 00:07:54.975
ولكن لدى (ديلان) جناية

00:07:54.975 --> 00:07:56.191
بعكس (بيرنارد).

00:07:57.818 --> 00:08:00.848
هذا يهم، لأنه إذا كانت درجتكم أعلى،

00:08:00.848 --> 00:08:04.381
فستمنحون على الأرجح أحكامًا قضائية أطول.

NOTE Paragraph

00:08:06.294 --> 00:08:07.588
ما الذي يجري هنا؟

00:08:08.526 --> 00:08:09.858
غسل البيانات.

00:08:10.930 --> 00:08:15.341
إنها عملية حيث يخفي التقنيون حقائق بشعة

00:08:15.341 --> 00:08:17.186
داخل خوارزميات الصندوق الأسود

00:08:17.186 --> 00:08:18.516
ويطلقون عليها موضوعية،

00:08:19.320 --> 00:08:20.888
أطلقوا عليها "الإستحقاقراطية".

00:08:23.118 --> 00:08:25.503
عندما تكون سرية، ومهمة، ومدمرة،

00:08:25.507 --> 00:08:27.998
قمتُ بصياغة مصطلح لهذه الخوارزميات:

00:08:27.998 --> 00:08:30.021
"أسلحة دمار العمليات الحسابية".

NOTE Paragraph

00:08:30.021 --> 00:08:31.599
(ضحك)

NOTE Paragraph

00:08:31.599 --> 00:08:34.697
(تصفيق)

NOTE Paragraph

00:08:34.697 --> 00:08:37.081
إنها في كل مكان، وليست خطأ.

00:08:37.695 --> 00:08:41.412
هذه هي شركات خاصة
تبني خوارزميات خاصة

00:08:41.412 --> 00:08:42.834
لأغراض خاصة.

00:08:43.214 --> 00:08:46.412
حتى تلك التي تحدثتُ حولها
بشأن المعلمين ورجال الشرطة،

00:08:46.412 --> 00:08:48.315
تم بناء الخوارزميات من قبل شركات خاصة

00:08:48.315 --> 00:08:50.570
وتم بيعها إلى مؤســسات حكومية.

00:08:50.570 --> 00:08:52.473
يسمونها "التركيبة السرية الخاصة" --

00:08:52.477 --> 00:08:54.619
ولهذا السبب لا يمكنهم الإفصاح عنها.

00:08:54.619 --> 00:08:56.869
إنها أيضًا سلطة خاصة.

00:08:57.924 --> 00:09:02.619
إنهم يستفيدون من الممارسة البارعة
للسلطة الغامضة.

00:09:05.114 --> 00:09:08.032
قد تعتقدون الآن، 
ولأنّ كل هذه الامور خاصة

00:09:08.032 --> 00:09:09.224
وهناك منافسة،

00:09:09.224 --> 00:09:11.544
ربما سيعالجُ السوق الحر هذه المشكلة.

00:09:11.544 --> 00:09:12.807
لن يقوم بذلك.

00:09:12.807 --> 00:09:15.977
تُجبى كمية ضخمة من الأموال
نتيجة عدم الإنصاف.

NOTE Paragraph

00:09:17.127 --> 00:09:20.496
كذلك، لسنا عملاء اقتصاديون منطقيون.

00:09:21.031 --> 00:09:22.323
جميعنا منحازون.

00:09:22.960 --> 00:09:26.331
جميعنا عنصريون ومتعصبون 
بطرق نرغبُ بأننا لم نسلكها،

00:09:26.331 --> 00:09:28.380
بطرق حتى لا نعرفها.

00:09:29.352 --> 00:09:32.427
ورغم ذلك نعلمُ هذا، في كل الأحوال،

00:09:32.427 --> 00:09:35.671
لأن علماء الاجتماع قدّموا لنا ذلك باستمرار

00:09:35.671 --> 00:09:37.366
بهذه التجارب التي بنوها،

00:09:37.370 --> 00:09:39.942
حيثُ يرسلوا حزمة من طلبات الوظائف المطلوبة

00:09:39.942 --> 00:09:42.483
مؤهلين بالتساوي 
لكن لدى بعضهم أسماء تبدو لأشخاص بيض

00:09:42.507 --> 00:09:44.207
ولدى البعض أسماء تبدو لأشخاص سود

00:09:44.207 --> 00:09:46.931
ودائمًا النتائج مخيبة للآمال، دائمًا.

NOTE Paragraph

00:09:47.510 --> 00:09:49.281
لذلك فنحن المتحيزون،

00:09:49.285 --> 00:09:52.728
ونحنُ من يضع تلك التحيزات داخل الخوارزميات

00:09:52.728 --> 00:09:54.640
باختيار ما هي البينات التي علينا جمعها،

00:09:54.640 --> 00:09:57.337
مثل ما اخترته
لعدم التفكير بالشعيرية المجففة --

00:09:57.361 --> 00:09:58.986
قررتُ بأنه ليس لها صلة بالموضوع.

00:09:59.010 --> 00:10:04.694
لكن وبالثقة بالبيانات التي هي في الواقع
اختيار الممارسات الماضية

00:10:04.698 --> 00:10:06.716
واختيار تعريف النجاح،

00:10:06.716 --> 00:10:10.739
كيف يمكننا توقع
ظهور الخوارزميات متكاملة؟

00:10:10.743 --> 00:10:13.119
لا نستطيع. علينا التحقق منهم.

00:10:14.165 --> 00:10:15.868
علينا التحقق منهم من أجل الإنصاف.

NOTE Paragraph

00:10:15.868 --> 00:10:18.609
الخبر السار هو،
نستطيعُ التحقق منهم من أجل الإنصاف.

00:10:18.623 --> 00:10:21.969
يمكنُ فحص واستنطاق الخوارزميات،

00:10:21.969 --> 00:10:24.043
ويمكنهم قول الحقيقة كل الوقت.

00:10:24.067 --> 00:10:26.560
ويمكننا اصلاحهم. ويمكننا جعلهم أفضل.

00:10:26.584 --> 00:10:28.959
أطلقُ على هذه تدقيق الخوارزمية،

00:10:28.983 --> 00:10:30.656
وسأخبركم عنها.

NOTE Paragraph

00:10:30.656 --> 00:10:32.882
أولاً، التحقق من نزاهة وتكامل البيانات.

00:10:34.132 --> 00:10:36.789
بالنسبة إلى خوارزمية
خطر الانتكاس التي تحدثتُ عنها،

00:10:37.582 --> 00:10:41.149
ستعني التحقق من نزاهة البيانات 
بأنه علينا التوصل إلى تفاهم مع الواقع

00:10:41.149 --> 00:10:44.699
بأنه في أمريكا، يدخنُ الحشيشَ البيض والسود
بنفس المعدل

00:10:44.699 --> 00:10:47.214
لكن يتمُ اعتقال السود
على الأرجح أكثر بكثير --

00:10:47.228 --> 00:10:50.422
أربع أو خمس مرات أكثر من البيض،
اعتمادًا على المنطقة.

00:10:51.317 --> 00:10:54.143
كيف يبدو هذا التحيز 
في فئات الجرائم الأخرى،

00:10:54.147 --> 00:10:55.618
وكيف يمكننا حساب ذلك؟

NOTE Paragraph

00:10:56.162 --> 00:10:59.201
ثانيًا، ينبغي علينا التفكير بتعريف النجاح،

00:10:59.225 --> 00:11:00.606
تدقيق ذلك.

00:11:00.630 --> 00:11:03.366
تذكروا، خوارزمية التوظيف، 
التي تحدثنا عنها.

00:11:03.366 --> 00:11:06.565
يبقى شخص ما في الوظيفة لمدة أربع سنوات
ويتمُ ترقيته لمرة واحدة.

00:11:06.565 --> 00:11:08.358
حسنًا، هذا موظفُ ناجح،

00:11:08.358 --> 00:11:11.467
وإنه أيضًا موظف مدعوم 
من قبل التقاليد الموروثة.

00:11:12.089 --> 00:11:14.015
وذلك، يمكن أن يكون ذلك تحيزًا

00:11:14.039 --> 00:11:16.104
نحتاجُ لفصل هذين الأمرين.

00:11:16.128 --> 00:11:18.554
علينا النظر
في تجربة أداء الأوركسترا العمياء

00:11:18.578 --> 00:11:19.774
كمثال.

00:11:19.798 --> 00:11:22.554
حيث يجري الأشخاص أداءهم من وراء جدار.

00:11:22.946 --> 00:11:24.877
ما أرغبُ أن أفكر فيه هنا

00:11:24.901 --> 00:11:28.318
أن من يستمع إلى هؤلاء قد قرروا ما هو المهم

00:11:28.342 --> 00:11:30.371
وما ليس مهمًا،

00:11:30.395 --> 00:11:32.454
ولم يتم ازعاجهم بأي شيء بهذا القرار.

00:11:32.961 --> 00:11:35.710
عندما بدأت تجربة أداء الأوكسترا العمياء،

00:11:35.734 --> 00:11:39.178
ارتفع عدد النساء في الأوكسترا بمقدار خمسة.

NOTE Paragraph

00:11:40.253 --> 00:11:42.268
وبعد ذلك، علينا النظر في الدقة.

00:11:43.233 --> 00:11:46.967
وهذا هو حيث سيفشل نموذج القيمة المضافة
بشأن المعلمين على الفور.

00:11:47.578 --> 00:11:49.740
لا يوجد خوارزمية مثالية، بطبيعة الحال،

00:11:50.620 --> 00:11:54.225
لذلك ينبغي علينا حساب الأخطاء
في كل خوارزمية.

00:11:54.836 --> 00:11:59.195
كم مرة تتكرر هذه الأخطاء،
ولمن يفشل هذا النموذج؟

00:11:59.850 --> 00:12:01.568
وما هي تكلفة هذا الفشل؟

NOTE Paragraph

00:12:02.434 --> 00:12:04.641
وأخيرًا، علينا اعتبار

00:12:05.973 --> 00:12:08.159
الآثار طويلة الأجل للخوارزمية،

00:12:08.866 --> 00:12:11.073
ومجموعات التقييم التي تم إحداثها.

00:12:11.586 --> 00:12:12.822
يبدو ذلك نظرية مجردة،

00:12:12.846 --> 00:12:15.510
لكن تخيلوا لو أن مهندسو الفيسبوك
أخذوا بعين الاعتبار ذلك

00:12:16.270 --> 00:12:21.125
قبل أن يقرروا أن يُظهروا لنا
الأشياء التي ينشرها أصدقاؤنا فقط.

NOTE Paragraph

00:12:21.761 --> 00:12:24.995
عندي رسالتان أخريان، 
الأولى لعلماء البيانات الموجودن من حولنا.

00:12:25.450 --> 00:12:28.859
يا علماء البيانات:
لا ينبغي علينا أن نقرر ما هي الحقيقة.

00:12:29.520 --> 00:12:34.553
علينا أن نترجم النقاشات الأخلاقية 
التي تحدثُ في المجتمع الأكبر.

00:12:34.995 --> 00:12:37.029
(تصفيق)

NOTE Paragraph

00:12:38.089 --> 00:12:39.182
والبقية منكم،

NOTE Paragraph

00:12:40.102 --> 00:12:41.368
من غير علماء البيانات:

00:12:41.368 --> 00:12:43.054
هذا ليس اختبار رياضيات.

00:12:43.054 --> 00:12:45.132
إنها معركة سياسية.

00:12:46.553 --> 00:12:50.281
نحتاجُ أن نطالبَ بالمساءلة
لمن يضع الخوارزميات من الأسياد.

00:12:51.749 --> 00:12:53.586
(تصفيق)

NOTE Paragraph

00:12:53.586 --> 00:12:58.005
يجب أن ينتهي عصر الثقة العمياء
في البيانات الضخمة.

NOTE Paragraph

00:12:58.005 --> 00:12:58.980
شكرًا جزيلًا لكم.

NOTE Paragraph

00:12:58.980 --> 00:13:04.787
(تصفيق)