1
00:00:00,975 --> 00:00:02,571
نجدُ الخوارزميات في كل مكان.

2
00:00:04,111 --> 00:00:07,236
إنها تُصنّفُ وتفصل الفائزين عن الخاسرين.

3
00:00:08,019 --> 00:00:10,147
يحصل الفائزون على الوظيفة

4
00:00:10,147 --> 00:00:12,050
أو على أحد عروض بطاقات الائتمان الجيّدة.

5
00:00:12,074 --> 00:00:14,725
بينما لا يحصل الخاسرون حتى على مقابلة عمل

6
00:00:15,590 --> 00:00:17,367
أو يدفعون أكثر مقابل التأمين.

7
00:00:18,197 --> 00:00:21,746
يتمّ تقييمنا بصيغ سرّية لا نفهمها

8
00:00:22,675 --> 00:00:25,892
والتي لا يمكننا استئناف أحكامها
في معظم الأحيان.

9
00:00:27,240 --> 00:00:28,536
مما يطرح السؤال:

10
00:00:28,560 --> 00:00:31,473
ماذا لو كانت الخوارزميات خاطئة؟

11
00:00:33,060 --> 00:00:34,800
لبناء خوارزمية فأنتم تحتاجون لشيئين:

12
00:00:34,804 --> 00:00:37,145
تحتاجون لبيانات، أي ما حدث في الماضي،

13
00:00:37,169 --> 00:00:38,644
وتحتاجون تعريفًا للنجاح،

14
00:00:38,644 --> 00:00:41,211
أي الأمر الذي تبحثون عنه
وتأملون غالبًا إيجاده.


15
00:00:41,235 --> 00:00:46,272
تدرّبون الخوارزمية بالبحث أو التحديد.

16
00:00:46,296 --> 00:00:49,715
أي تحدّد الخوارزمية ما هو متعلق بالنجاح.

17
00:00:49,739 --> 00:00:52,202
أي حالة تقود إلى النجاح؟

18
00:00:52,751 --> 00:00:54,643
في الواقع، يستخدمُ كلُ شخص الخوارزميات.

19
00:00:54,667 --> 00:00:57,175
لكن فقط هم لا يستطيعون صياغتها
على هيئة شفرات مكتوبة.

20
00:00:57,175 --> 00:00:58,441
دعوني أعطيكم مثالاً.

21
00:00:58,441 --> 00:01:01,077
أستخدمُ الخوارزميات كل يوم 
لأصنع وجبة غذائية لأسرتي.

22
00:01:02,101 --> 00:01:03,577
فالبيانات التي أستخدمها

23
00:01:04,394 --> 00:01:06,037
هي محتويات مطبخي،

24
00:01:06,037 --> 00:01:07,598
ووقتي،

25
00:01:07,598 --> 00:01:08,861
وطموحي،

26
00:01:08,865 --> 00:01:10,588
وأقوم بتنظيم هذه البيانات.

27
00:01:10,588 --> 00:01:14,869
لا أعتبر هذه العبوّات الصغيرة من
الرامن (حساء المعكرونة) طعامًا.

28
00:01:14,883 --> 00:01:16,736
(ضحك)

29
00:01:16,736 --> 00:01:18,615
تعريفي للنجاح هو:

30
00:01:18,615 --> 00:01:21,314
تعتبرُ الوجبة الغذائية ناجحة 
إذا تناول أطفالي الخضروات.

31
00:01:22,181 --> 00:01:25,035
سيختلف هذا إن كان ابني الصغير هو المسؤول.

32
00:01:25,059 --> 00:01:27,847
سيقول أن النجاح هو إذا تناول
الكثير من شوكولاتة "نوتيلا".

33
00:01:29,179 --> 00:01:31,405
لكن يتوجب عليّ اختيار النجاح.

34
00:01:31,429 --> 00:01:34,136
أنا المسؤولة. لذا فرأيي مهمّ.

35
00:01:34,160 --> 00:01:36,835
هذه هي أول قاعدة للخوارزميات.

36
00:01:36,859 --> 00:01:40,039
الخوارزميات هي آراء موضوعة في شفرات.

37
00:01:41,562 --> 00:01:45,209
إنها مختلفة حقًا عما يعتقده معظم الناس.

38
00:01:45,209 --> 00:01:49,753
إنهم يعتقدون أن الخوارزميات
موضوعية وصحيحة وعلمية.

39
00:01:50,387 --> 00:01:52,086
إنها خدعة تسويقية.

40
00:01:53,269 --> 00:01:55,394
وإنها أيضًا خدعة تسويقية

41
00:01:55,418 --> 00:01:58,572
لتخويفكم بهذه الخوارزميات،

42
00:01:58,596 --> 00:02:02,257
لجعلكم تثقون في الخوارزميات وتخافونها

43
00:02:02,281 --> 00:02:04,299
لأنكم تثقون في الرياضيات وتخافونها.

44
00:02:05,567 --> 00:02:10,397
الكثير من الأمور قد تسوء عندما
نضع ثقة عمياء في البيانات الضخمة.

45
00:02:11,684 --> 00:02:15,057
هذه هي (كيري سوريس)، 
إنها مديرة مدرسة ثانوية في (بروكلين).

46
00:02:15,081 --> 00:02:17,667
في عام 2011، أخبرتني
بأنه كان يتمّ تصنيف معلميها

47
00:02:17,691 --> 00:02:20,392
بناءً على خوارزمية سرية معقدة

48
00:02:20,392 --> 00:02:21,931
سمّيت "نموذج القيمة المضافة".

49
00:02:22,505 --> 00:02:25,597
قلت لها: "حسنًا، اكتشفي ما هي الصيغة،
وأريني إياها.

50
00:02:25,621 --> 00:02:27,162
وسأشرحها لكِ."

51
00:02:27,186 --> 00:02:29,327
قالت، "حسنًا، حاولتُ الحصول على الصيغة،

52
00:02:29,351 --> 00:02:32,363
ولكن أخبرني شخص في وزارة التربية والتعليم
أنها عبارة عن رياضيات

53
00:02:32,363 --> 00:02:33,693
وأنني لن أفهمها."

54
00:02:35,266 --> 00:02:36,604
يزدادُ الأمرُ سوءًا.

55
00:02:36,628 --> 00:02:40,158
قدّمت صحيفة (نيويورك بوست)
"طلب قانون حماية المعلومات"

56
00:02:40,182 --> 00:02:43,141
وحصلت على أسماء كل المعلمين وتقييماتهم

57
00:02:43,165 --> 00:02:45,947
وتم نشرها على سبيل الخزي للمعلمين.

58
00:02:47,084 --> 00:02:50,944
عندما حاولتُ الحصول على الصيَغ
والشيفرة المصدرية عبر الوسائل نفسها،

59
00:02:50,968 --> 00:02:53,117
قيل لي أنني لا أستطيع.

60
00:02:53,141 --> 00:02:54,377
تمّ رفضي.

61
00:02:54,401 --> 00:02:55,575
واكتشفتُ لاحقًا

62
00:02:55,599 --> 00:02:58,465
بأنه لم يستطع أحد في مدينة (نيويورك)
الوصول إلى تلك الصيغة.

63
00:02:58,489 --> 00:02:59,794
لم يفهمها أحد.

64
00:03:01,929 --> 00:03:05,153
ثُم اهتم بالموضوع شخص ذكي حقًا،
يدعى (غاري روبنشتاين).

65
00:03:05,177 --> 00:03:08,798
وجد أن 665 معلمًا من بيانات
صحفية (نيويورك بوست) تلك

66
00:03:08,822 --> 00:03:10,688
لديهم في الحقيقة تقييمان.

67
00:03:10,712 --> 00:03:12,593
ويمكن حدوث ذلك إن كانوا يدرّسون

68
00:03:12,617 --> 00:03:15,056
مادة الرياضيات للصفين السابع والثامن.

69
00:03:15,080 --> 00:03:16,618
قرّر تمثيلهم برسم بياني.

70
00:03:16,642 --> 00:03:18,635
تمثلُ كل نقطة معلمًا.

71
00:03:19,104 --> 00:03:21,483
(ضحك)

72
00:03:21,507 --> 00:03:23,028
ما هذا؟

73
00:03:23,052 --> 00:03:24,329
(ضحك)

74
00:03:24,353 --> 00:03:27,799
لم يكن ينبغي استخدام ذلك
على الإطلاق للتقييم الفردي.

75
00:03:27,823 --> 00:03:29,749
إنه تقريبًا مُولّد أرقام عشوائية.

76
00:03:29,773 --> 00:03:32,719
(تصفيق)

77
00:03:32,743 --> 00:03:33,905
ولكنه ما حدث.

78
00:03:33,929 --> 00:03:35,105
هذه هي (سارة ويسوكي).

79
00:03:35,129 --> 00:03:37,324
تمّ طردها من العمل 
-بالإضافة إلى 205 معلم آخر-

80
00:03:37,328 --> 00:03:39,990
من قطاع مدارس العاصمة (واشنطن)،

81
00:03:40,014 --> 00:03:42,923
مع أن لديها توصيات عظيمة من مديرتها

82
00:03:42,947 --> 00:03:44,375
وأولياء أمور طلابها.

83
00:03:45,390 --> 00:03:47,266
أعرفُ ما يفكرُ فيه الكثير منكم يا رفاق،

84
00:03:47,266 --> 00:03:49,807
خاصةً علماء البيانات وخبراء
الذكاء الاصطناعي هنا.

85
00:03:49,807 --> 00:03:54,183
تفكّرون: "حسنًا، لم أكن لأنشئ
خوارزمية غير متجانسة كهذه".

86
00:03:54,853 --> 00:03:56,536
ولكن يمكنُ للخوارزميات أن تفشل

87
00:03:56,560 --> 00:04:01,158
وتسبّبَ آثارًا مدمّرة بشدّة 
حتى رغم النوايا حسنة.

88
00:04:02,531 --> 00:04:04,910
وبينما الطائرة التي صُممت بطريقة سيئة

89
00:04:04,934 --> 00:04:06,935
تتحطم على الأرض ويراها الجميع،

90
00:04:06,959 --> 00:04:08,809
إلا أن الخوارزمية المصمّمة بطريقة سيئة

91
00:04:10,245 --> 00:04:14,110
يمكنُ أن تبقى لوقت طويل 
تعيث فسادًا في صمت.

92
00:04:15,748 --> 00:04:17,318
هذا هو (روجير إيلس).

93
00:04:17,342 --> 00:04:19,342
(ضحك)

94
00:04:20,524 --> 00:04:22,912
قام بتأسيس قناة (فوكس) الإخبارية عام 1996.

95
00:04:23,436 --> 00:04:26,017
اشتكت أكثر من 20 امرأة من التحرش الجنسي.

96
00:04:26,041 --> 00:04:29,276
قلن أن ذلك أثّر عليهن فلم يستطعن
النجاح في قناة (فوكس) الإخبارية.

97
00:04:29,300 --> 00:04:31,820
تم طرده العام الماضي، لكن رأينا مؤخرًا

98
00:04:31,844 --> 00:04:34,514
بأن المشاكل ما زالت مستمرة.

99
00:04:35,654 --> 00:04:37,054
مما يطرحُ السؤال:

100
00:04:37,078 --> 00:04:40,232
ما الذي ينبغي على قناة (فوكس) الإخبارية
عمله لتبدأ صفحة جديدة؟

101
00:04:41,245 --> 00:04:44,286
ماذا لو استبدلوا عملية التوظيف لديهم

102
00:04:44,310 --> 00:04:45,964
بخوارزمية "التعلّم الآلي"؟

103
00:04:45,988 --> 00:04:47,583
يبدو هذا جيدًا، أليس كذلك؟

104
00:04:47,607 --> 00:04:48,907
فكّروا في الأمر.

105
00:04:48,931 --> 00:04:51,036
بالنسبة للبيانات، ماذا ستكون البيانات؟

106
00:04:51,060 --> 00:04:56,007
ربما طلبات التوظيف في (فوكس) الإخبارية
خلال 21 سنة الأخيرة.

107
00:04:56,031 --> 00:04:57,533
منطقي.

108
00:04:57,557 --> 00:04:59,495
ماذا عن تعريف النجاح؟

109
00:04:59,921 --> 00:05:01,245
سيكون الاختيار المعقول هو،

110
00:05:01,269 --> 00:05:03,047
من هو الناجح
في قناة (فوكس) الإخبارية؟

111
00:05:03,071 --> 00:05:06,651
لنقل أنه شخص بقي هناك لمدة أربع سنوات

112
00:05:06,675 --> 00:05:08,329
وتم ترقيته مرة واحدة على الأقل.

113
00:05:08,816 --> 00:05:10,377
يبدو الأمر معقولًا.

114
00:05:10,401 --> 00:05:12,755
وبعد ذلك سيتم تدريب الخوارزمية.

115
00:05:12,779 --> 00:05:16,656
سيتم تدريبها للبحث عن الأشخاص
لمعرفة ما الذي أدّى إلى النجاح،

116
00:05:17,219 --> 00:05:21,537
ما نوع طلبات التوظيف
التي أدت تاريخيًا إلى النجاح

117
00:05:21,561 --> 00:05:22,855
بناءً على التعريف السابق.

118
00:05:24,200 --> 00:05:25,975
فكّروا الآن فيما سيحدث

119
00:05:25,999 --> 00:05:28,554
لو طبّقنا ذلك على المجموعة الحالية
من طالبي التوظيف.

120
00:05:29,119 --> 00:05:30,748
ستَستبعِد الخوارزمية النساء

121
00:05:31,663 --> 00:05:35,593
لأنهن لا يشبهن الأشخاص
الذين نجحوا في الماضي.

122
00:05:39,752 --> 00:05:42,289
لا تحقق الخوارزميات العدالة

123
00:05:42,313 --> 00:05:45,007
إن طبّقتموها على نحو أعمى وبدون تفكير.

124
00:05:45,031 --> 00:05:46,513
لا تجعل الأمور عادلة.

125
00:05:46,537 --> 00:05:48,665
تعيدُ ممارساتنا الماضية،

126
00:05:48,689 --> 00:05:49,872
وأنماط تصرّفاتنا.

127
00:05:49,896 --> 00:05:51,835
وتدير الوضع الراهن آليًّا.

128
00:05:52,718 --> 00:05:55,107
سيكون ذلك عظيمًا لو كان لدينا عالم مثالي،

129
00:05:55,905 --> 00:05:57,217
ولكن ليس لدينا.

130
00:05:57,241 --> 00:06:01,343
وسأضيفُ أن معظم الشركات ليس لديها
شكاوي قضائية محرجة،

131
00:06:02,446 --> 00:06:05,034
ولكن علماء البيانات في هذه الشركات

132
00:06:05,058 --> 00:06:07,247
يُطلب منهم تتبّع البيانات

133
00:06:07,271 --> 00:06:09,414
للتركيز على الدقة.

134
00:06:10,273 --> 00:06:11,654
فكّروا فيما يعنيه ذلك.

135
00:06:11,678 --> 00:06:15,705
لأنه لدى جميعنا نزعة تحيّز،
فيمكن أن يقوموا بتقنين التمييز الجنسي

136
00:06:15,729 --> 00:06:17,565
أو أي نوع آخر من التعصب الأعمى.

137
00:06:19,488 --> 00:06:20,909
إليكم تجربة فكرية،

138
00:06:20,933 --> 00:06:22,442
لأني أحبهم:

139
00:06:23,574 --> 00:06:26,549
إن افترضنا وجود مجتمع
مفصول عنصريًا بالكامل،

140
00:06:28,247 --> 00:06:31,575
كل بلداته وأحياؤه مفصولة على أساس عنصري

141
00:06:31,599 --> 00:06:34,636
وحيث أننا نرسلُ الشرطة
لأحياء الأقليّات فقط

142
00:06:34,660 --> 00:06:35,853
للبحث عن الجريمة،

143
00:06:36,451 --> 00:06:38,670
فإن بيانات الاعتقال ستكون منحازة جدًا.

144
00:06:39,851 --> 00:06:42,426
وعلاوة على ذلك، ماذا لو
وجدنا علماء البيانات

145
00:06:42,450 --> 00:06:46,611
ودفعنا لهم للتنبؤ بمكان الجريمة التالية؟

146
00:06:47,275 --> 00:06:48,762
سيقولون أحد أحياء الأقليات.

147
00:06:49,285 --> 00:06:52,410
أو للتنبؤ بالمجرم التالي؟

148
00:06:52,888 --> 00:06:54,283
أيضًا من الأقليات.

149
00:06:55,949 --> 00:06:59,490
سيتباهى علماء البيانات كم أن نموذجهم


150
00:06:59,494 --> 00:07:00,795
سيكون رائعًا ودقيقًا،

151
00:07:00,795 --> 00:07:02,134
وسيكونون محقّين بالفعل.

152
00:07:03,951 --> 00:07:08,560
الآن، ليست الحقيقة بذلك التطرف،
ولكن لدينا تمييز وفصل شديد

153
00:07:08,560 --> 00:07:09,851
في عدة مدن وبلدات

154
00:07:09,851 --> 00:07:11,768
ولدينا الكثير من البراهين

155
00:07:11,768 --> 00:07:14,506
من بيانات رجال الشرطة المتحيزة،
وبيانات نظام العدالة.

156
00:07:15,632 --> 00:07:18,447
ونستطيع في الواقع التنبؤ بمواقع ساخنة،

157
00:07:18,471 --> 00:07:20,001
وأماكن حيث ستحدث الجرائم.

158
00:07:20,401 --> 00:07:24,267
ونستطيع التنبؤ، في الواقع،
بالجريمة الفردية،

159
00:07:24,291 --> 00:07:26,061
جرائم الأفراد.

160
00:07:26,972 --> 00:07:30,839
بحثت المنظمة الإخبارية (بروبليكا) مؤخرًا

161
00:07:30,839 --> 00:07:32,983
أحد تلك الخوارزميات،
"خطر التعرض للانتكاس"

162
00:07:32,997 --> 00:07:34,154
كما يطلق عليهم،

163
00:07:34,154 --> 00:07:37,388
تم استخدامها في ولاية (فلوريدا)
أثناء إعلان الحُكم من قبل القضاة.

164
00:07:38,411 --> 00:07:41,996
تم تصنيف (بيرنارد)، على اليسار،
الرجل الأسود، 10/10.

165
00:07:43,179 --> 00:07:45,180
و(ديلان)، على اليمين، 3/10.

166
00:07:45,180 --> 00:07:47,711
10 من 10، الخطر الأكبر،
و3 من 10، الخطر المنخفض.

167
00:07:48,598 --> 00:07:50,977
تم القبض على كليهما لحيازتهما المخدرات.

168
00:07:50,977 --> 00:07:52,155
ولدى كلاهما سجلات،

169
00:07:52,155 --> 00:07:54,975
ولكن لدى (ديلان) جناية

170
00:07:54,975 --> 00:07:56,191
بعكس (بيرنارد).

171
00:07:57,818 --> 00:08:00,848
هذا يهم، لأنه إذا كانت درجتكم أعلى،

172
00:08:00,848 --> 00:08:04,381
فستمنحون على الأرجح أحكامًا قضائية أطول.

173
00:08:06,294 --> 00:08:07,588
ما الذي يجري هنا؟

174
00:08:08,526 --> 00:08:09,858
غسل البيانات.

175
00:08:10,930 --> 00:08:15,341
إنها عملية حيث يخفي التقنيون حقائق بشعة

176
00:08:15,341 --> 00:08:17,186
داخل خوارزميات الصندوق الأسود

177
00:08:17,186 --> 00:08:18,516
ويطلقون عليها موضوعية،

178
00:08:19,320 --> 00:08:20,888
أطلقوا عليها "الإستحقاقراطية".

179
00:08:23,118 --> 00:08:25,503
عندما تكون سرية، ومهمة، ومدمرة،

180
00:08:25,507 --> 00:08:27,998
قمتُ بصياغة مصطلح لهذه الخوارزميات:

181
00:08:27,998 --> 00:08:30,021
"أسلحة دمار العمليات الحسابية".

182
00:08:30,021 --> 00:08:31,599
(ضحك)

183
00:08:31,599 --> 00:08:34,697
(تصفيق)

184
00:08:34,697 --> 00:08:37,081
إنها في كل مكان، وليست خطأ.

185
00:08:37,695 --> 00:08:41,412
هذه هي شركات خاصة
تبني خوارزميات خاصة

186
00:08:41,412 --> 00:08:42,834
لأغراض خاصة.

187
00:08:43,214 --> 00:08:46,412
حتى تلك التي تحدثتُ حولها
بشأن المعلمين ورجال الشرطة،

188
00:08:46,412 --> 00:08:48,315
تم بناء الخوارزميات من قبل شركات خاصة

189
00:08:48,315 --> 00:08:50,570
وتم بيعها إلى مؤســسات حكومية.

190
00:08:50,570 --> 00:08:52,473
يسمونها "التركيبة السرية الخاصة" --

191
00:08:52,477 --> 00:08:54,619
ولهذا السبب لا يمكنهم الإفصاح عنها.

192
00:08:54,619 --> 00:08:56,869
إنها أيضًا سلطة خاصة.

193
00:08:57,924 --> 00:09:02,619
إنهم يستفيدون من الممارسة البارعة
للسلطة الغامضة.

194
00:09:05,114 --> 00:09:08,032
قد تعتقدون الآن، 
ولأنّ كل هذه الامور خاصة

195
00:09:08,032 --> 00:09:09,224
وهناك منافسة،

196
00:09:09,224 --> 00:09:11,544
ربما سيعالجُ السوق الحر هذه المشكلة.

197
00:09:11,544 --> 00:09:12,807
لن يقوم بذلك.

198
00:09:12,807 --> 00:09:15,977
تُجبى كمية ضخمة من الأموال
نتيجة عدم الإنصاف.

199
00:09:17,127 --> 00:09:20,496
كذلك، لسنا عملاء اقتصاديون منطقيون.

200
00:09:21,031 --> 00:09:22,323
جميعنا منحازون.

201
00:09:22,960 --> 00:09:26,331
جميعنا عنصريون ومتعصبون 
بطرق نرغبُ بأننا لم نسلكها،

202
00:09:26,331 --> 00:09:28,380
بطرق حتى لا نعرفها.

203
00:09:29,352 --> 00:09:32,427
ورغم ذلك نعلمُ هذا، في كل الأحوال،

204
00:09:32,427 --> 00:09:35,671
لأن علماء الاجتماع قدّموا لنا ذلك باستمرار

205
00:09:35,671 --> 00:09:37,366
بهذه التجارب التي بنوها،

206
00:09:37,370 --> 00:09:39,942
حيثُ يرسلوا حزمة من طلبات الوظائف المطلوبة

207
00:09:39,942 --> 00:09:42,483
مؤهلين بالتساوي 
لكن لدى بعضهم أسماء تبدو لأشخاص بيض

208
00:09:42,507 --> 00:09:44,207
ولدى البعض أسماء تبدو لأشخاص سود

209
00:09:44,207 --> 00:09:46,931
ودائمًا النتائج مخيبة للآمال، دائمًا.

210
00:09:47,510 --> 00:09:49,281
لذلك فنحن المتحيزون،

211
00:09:49,285 --> 00:09:52,728
ونحنُ من يضع تلك التحيزات داخل الخوارزميات

212
00:09:52,728 --> 00:09:54,640
باختيار ما هي البينات التي علينا جمعها،

213
00:09:54,640 --> 00:09:57,337
مثل ما اخترته
لعدم التفكير بالشعيرية المجففة --

214
00:09:57,361 --> 00:09:58,986
قررتُ بأنه ليس لها صلة بالموضوع.

215
00:09:59,010 --> 00:10:04,694
لكن وبالثقة بالبيانات التي هي في الواقع
اختيار الممارسات الماضية

216
00:10:04,698 --> 00:10:06,716
واختيار تعريف النجاح،

217
00:10:06,716 --> 00:10:10,739
كيف يمكننا توقع
ظهور الخوارزميات متكاملة؟

218
00:10:10,743 --> 00:10:13,119
لا نستطيع. علينا التحقق منهم.

219
00:10:14,165 --> 00:10:15,868
علينا التحقق منهم من أجل الإنصاف.

220
00:10:15,868 --> 00:10:18,609
الخبر السار هو،
نستطيعُ التحقق منهم من أجل الإنصاف.

221
00:10:18,623 --> 00:10:21,969
يمكنُ فحص واستنطاق الخوارزميات،

222
00:10:21,969 --> 00:10:24,043
ويمكنهم قول الحقيقة كل الوقت.

223
00:10:24,067 --> 00:10:26,560
ويمكننا اصلاحهم. ويمكننا جعلهم أفضل.

224
00:10:26,584 --> 00:10:28,959
أطلقُ على هذه تدقيق الخوارزمية،

225
00:10:28,983 --> 00:10:30,656
وسأخبركم عنها.

226
00:10:30,656 --> 00:10:32,882
أولاً، التحقق من نزاهة وتكامل البيانات.

227
00:10:34,132 --> 00:10:36,789
بالنسبة إلى خوارزمية
خطر الانتكاس التي تحدثتُ عنها،

228
00:10:37,582 --> 00:10:41,149
ستعني التحقق من نزاهة البيانات 
بأنه علينا التوصل إلى تفاهم مع الواقع

229
00:10:41,149 --> 00:10:44,699
بأنه في أمريكا، يدخنُ الحشيشَ البيض والسود
بنفس المعدل

230
00:10:44,699 --> 00:10:47,214
لكن يتمُ اعتقال السود
على الأرجح أكثر بكثير --

231
00:10:47,228 --> 00:10:50,422
أربع أو خمس مرات أكثر من البيض،
اعتمادًا على المنطقة.

232
00:10:51,317 --> 00:10:54,143
كيف يبدو هذا التحيز 
في فئات الجرائم الأخرى،

233
00:10:54,147 --> 00:10:55,618
وكيف يمكننا حساب ذلك؟

234
00:10:56,162 --> 00:10:59,201
ثانيًا، ينبغي علينا التفكير بتعريف النجاح،

235
00:10:59,225 --> 00:11:00,606
تدقيق ذلك.

236
00:11:00,630 --> 00:11:03,366
تذكروا، خوارزمية التوظيف، 
التي تحدثنا عنها.

237
00:11:03,366 --> 00:11:06,565
يبقى شخص ما في الوظيفة لمدة أربع سنوات
ويتمُ ترقيته لمرة واحدة.

238
00:11:06,565 --> 00:11:08,358
حسنًا، هذا موظفُ ناجح،

239
00:11:08,358 --> 00:11:11,467
وإنه أيضًا موظف مدعوم 
من قبل التقاليد الموروثة.

240
00:11:12,089 --> 00:11:14,015
وذلك، يمكن أن يكون ذلك تحيزًا

241
00:11:14,039 --> 00:11:16,104
نحتاجُ لفصل هذين الأمرين.

242
00:11:16,128 --> 00:11:18,554
علينا النظر
في تجربة أداء الأوركسترا العمياء

243
00:11:18,578 --> 00:11:19,774
كمثال.

244
00:11:19,798 --> 00:11:22,554
حيث يجري الأشخاص أداءهم من وراء جدار.

245
00:11:22,946 --> 00:11:24,877
ما أرغبُ أن أفكر فيه هنا

246
00:11:24,901 --> 00:11:28,318
أن من يستمع إلى هؤلاء قد قرروا ما هو المهم

247
00:11:28,342 --> 00:11:30,371
وما ليس مهمًا،

248
00:11:30,395 --> 00:11:32,454
ولم يتم ازعاجهم بأي شيء بهذا القرار.

249
00:11:32,961 --> 00:11:35,710
عندما بدأت تجربة أداء الأوكسترا العمياء،

250
00:11:35,734 --> 00:11:39,178
ارتفع عدد النساء في الأوكسترا بمقدار خمسة.

251
00:11:40,253 --> 00:11:42,268
وبعد ذلك، علينا النظر في الدقة.

252
00:11:43,233 --> 00:11:46,967
وهذا هو حيث سيفشل نموذج القيمة المضافة
بشأن المعلمين على الفور.

253
00:11:47,578 --> 00:11:49,740
لا يوجد خوارزمية مثالية، بطبيعة الحال،

254
00:11:50,620 --> 00:11:54,225
لذلك ينبغي علينا حساب الأخطاء
في كل خوارزمية.

255
00:11:54,836 --> 00:11:59,195
كم مرة تتكرر هذه الأخطاء،
ولمن يفشل هذا النموذج؟

256
00:11:59,850 --> 00:12:01,568
وما هي تكلفة هذا الفشل؟

257
00:12:02,434 --> 00:12:04,641
وأخيرًا، علينا اعتبار

258
00:12:05,973 --> 00:12:08,159
الآثار طويلة الأجل للخوارزمية،

259
00:12:08,866 --> 00:12:11,073
ومجموعات التقييم التي تم إحداثها.

260
00:12:11,586 --> 00:12:12,822
يبدو ذلك نظرية مجردة،

261
00:12:12,846 --> 00:12:15,510
لكن تخيلوا لو أن مهندسو الفيسبوك
أخذوا بعين الاعتبار ذلك

262
00:12:16,270 --> 00:12:21,125
قبل أن يقرروا أن يُظهروا لنا
الأشياء التي ينشرها أصدقاؤنا فقط.

263
00:12:21,761 --> 00:12:24,995
عندي رسالتان أخريان، 
الأولى لعلماء البيانات الموجودن من حولنا.

264
00:12:25,450 --> 00:12:28,859
يا علماء البيانات:
لا ينبغي علينا أن نقرر ما هي الحقيقة.

265
00:12:29,520 --> 00:12:34,553
علينا أن نترجم النقاشات الأخلاقية 
التي تحدثُ في المجتمع الأكبر.

266
00:12:34,995 --> 00:12:37,029
(تصفيق)

267
00:12:38,089 --> 00:12:39,182
والبقية منكم،

268
00:12:40,102 --> 00:12:41,368
من غير علماء البيانات:

269
00:12:41,368 --> 00:12:43,054
هذا ليس اختبار رياضيات.

270
00:12:43,054 --> 00:12:45,132
إنها معركة سياسية.

271
00:12:46,553 --> 00:12:50,281
نحتاجُ أن نطالبَ بالمساءلة
لمن يضع الخوارزميات من الأسياد.

272
00:12:51,749 --> 00:12:53,586
(تصفيق)

273
00:12:53,586 --> 00:12:58,005
يجب أن ينتهي عصر الثقة العمياء
في البيانات الضخمة.

274
00:12:58,005 --> 00:12:58,980
شكرًا جزيلًا لكم.

275
00:12:58,980 --> 00:13:04,787
(تصفيق)