1
00:00:01,041 --> 00:00:04,175
Xin chào, Tôi là Joy, một nhà thơ viết mã,

2
00:00:04,199 --> 00:00:09,192
đang thực hiện nhiệm vụ ngăn chặn một
một lực lượng vô hình đang gia tăng,

3
00:00:09,216 --> 00:00:12,072
một lực lượng mà tôi gọi là
"the coded gaze,"

4
00:00:12,096 --> 00:00:15,405
là từ tôi nói về
sự thiên vị thuật toán.

5
00:00:15,429 --> 00:00:19,729
Thiên vị thuật toán, giống như thiên vị
con người, sẽ đưa đến sự bất công.

6
00:00:19,753 --> 00:00:25,775
Tuy nhiên, thuật toán, giống như virút, có
thể phát tán sự thiên vị trên quy mô lớn

7
00:00:25,799 --> 00:00:27,381
với tốc độ nhanh chóng.

8
00:00:27,943 --> 00:00:32,330
Thiên vị thuật toán có thể dẫn đến
nhiều trải nghiệm bị loại trừ ra

9
00:00:32,354 --> 00:00:34,482
và các hành vi phân biệt đối xử.

10
00:00:34,506 --> 00:00:36,567
Tôi sẽ cho các bạn thấy điều tôi muốn nói.

11
00:00:36,980 --> 00:00:39,416
(Video) Joy: Chào camera.
Tôi có một khuôn mặt.

12
00:00:40,162 --> 00:00:42,026
Bạn có thấy mặt tôi không?

13
00:00:42,051 --> 00:00:43,676
Khuôn mặt không đeo kính ấy?

14
00:00:43,701 --> 00:00:45,915
Bạn có thể thấy mặt cô ấy.

15
00:00:46,237 --> 00:00:48,482
Thế còn mặt của tôi?

16
00:00:51,890 --> 00:00:55,640
Tôi có một mặt nạ. Bạn có thấy mặt nạ
của tôi không?

17
00:00:56,474 --> 00:00:58,839
Joy Buolamwini: Việc này là thế nào?

18
00:00:58,863 --> 00:01:02,004
Tại sao tôi đang ngồi trước máy tính

19
00:01:02,028 --> 00:01:03,452
đeo mặt nạ trắng,

20
00:01:03,476 --> 00:01:07,126
cố dò khuôn mặt mình bằng một
webcam rẽ tiền?

21
00:01:07,150 --> 00:01:09,441
Vâng, tôi không chống lại
the coded gaze

22
00:01:09,465 --> 00:01:10,985
với vai trò một nhà thơ viết mã

23
00:01:11,009 --> 00:01:14,281
Tôi là sinh viên tốt nghiệp
tại MIT Media Lab,

24
00:01:14,305 --> 00:01:19,222
và ở đó, tôi có cơ hội làm việc với mọi
loại dự án kỳ quặc,

25
00:01:19,246 --> 00:01:21,273
bao gồm dự án Aspire Mirror,

26
00:01:21,297 --> 00:01:26,431
dự án này tôi đã thực hiện nên tôi có thể
chiếu các mặt nạ số phản ánh tâm trạng tôi

27
00:01:26,455 --> 00:01:28,805
vào buổi sáng, nếu tôi muốn
cảm thấy mạnh mẽ

28
00:01:28,829 --> 00:01:30,263
Tôi có thể đeo mặt nạ sư tử.

29
00:01:30,287 --> 00:01:33,783
Nếu tôi muốn được lên tinh thần,
tôi có thể có một viện dẫn.

30
00:01:33,807 --> 00:01:36,796
Và tôi đã sử dụng một phần mềm
nhận diện khuôn mặt thông dụng

31
00:01:36,820 --> 00:01:38,171
để xây dựng hệ thống,

32
00:01:38,195 --> 00:01:43,298
nhưng tôi nhận ra rằng rất khó để
chạy thử nó trừ khi tôi đeo mặt nạ trắng

33
00:01:44,282 --> 00:01:48,628
Thật không may, trước đây tôi cũng đã
gặp sự cố này.

34
00:01:48,652 --> 00:01:52,955
Khi tôi còn là sinh viên nghiên cứu khoa
học máy tính ở Georgia Tech,

35
00:01:52,979 --> 00:01:55,034
tôi đã từng làm các robot xã hội,

36
00:01:55,058 --> 00:01:58,835
và một trong những công việc của tôi là
cài đặt robot chơi trò "Ú òa",

37
00:01:58,859 --> 00:02:00,542
một trò chơi luân phiên đơn giản

38
00:02:00,566 --> 00:02:04,887
trong đó các người chơi che mặt lại
và tháo mặt ra và nói "Ú òa!"

39
00:02:04,911 --> 00:02:09,340
Vấn đề là, tôi sẽ không Ú Òa nếu 
không nhìn thấy bạn,

40
00:02:09,364 --> 00:02:11,863
và robot của tôi đã không thấy tôi.

41
00:02:11,887 --> 00:02:15,837
Nhưng khi tôi mượn khuôn mặt của bạn
cùng phòng để thực hiện dự án,

42
00:02:15,861 --> 00:02:17,241
nộp bài tập,

43
00:02:17,265 --> 00:02:21,018
và tham gia, bạn biết không, ai sẽ giải
quyết vấn đề này.

44
00:02:21,669 --> 00:02:23,672
Không lâu sau đó,

45
00:02:23,696 --> 00:02:27,855
Tôi đã đến Hong Kong để tham gia một
cuộc thi làm doanh nhân.

46
00:02:28,339 --> 00:02:31,033
Các nhà tổ chức đã quyết định đưa những
người tham gia

47
00:02:31,057 --> 00:02:33,429
đi tham quan các startup địa phương.

48
00:02:33,453 --> 00:02:36,168
Một trong các startup đó có một
robot xã hội,

49
00:02:36,192 --> 00:02:38,104
và họ đã quyết định demo.

50
00:02:38,128 --> 00:02:41,108
Việc demo thực hiện với mọi người
và khi đến lược tôi

51
00:02:41,132 --> 00:02:43,055
và bạn có lẽ cùng đoán được.

52
00:02:43,079 --> 00:02:46,044
Nó không nhận diện được khuôn mặt tôi.

53
00:02:46,068 --> 00:02:48,579
Tôi đã hỏi người phát triển nó
chuyện gì xãy ra vậy,

54
00:02:48,603 --> 00:02:54,136
và hóa ra chúng tôi đã sử dụng cùng một
phần mềm nhận diện khuôn mặt đó.

55
00:02:54,160 --> 00:02:55,810
Nữa vòng trái đất,

56
00:02:55,834 --> 00:02:59,686
Tôi đã học được rằng sự thiên vị
thuật toán có thể di chuyển nhanh như

57
00:02:59,710 --> 00:03:02,880
việc tải một số file từ internet.

58
00:03:03,745 --> 00:03:06,821
Vậy điều gì đang xãy ra?
Tại sao khuôn mặt tôi không nhận ra được

59
00:03:06,845 --> 00:03:10,201
Vâng, chúng ta phải xem lại cách chúng ta
cho máy tính nhìn.

60
00:03:10,225 --> 00:03:13,634
Thi giác máy tính sử dụng các công nghệ
học máy để nhìn

61
00:03:13,658 --> 00:03:15,538
để nhận diện khuôn mặt.

62
00:03:15,562 --> 00:03:19,459
Và cách làm là, ta tạo ra một một tập huấn
luyện với các ví dụ về khuôn mặt.

63
00:03:19,483 --> 00:03:22,301
Đây là khuôn mặt. Đây là khuôn mặt.
Còn đây thì không.

64
00:03:22,325 --> 00:03:26,844
và qua thời gian, ta có thể dạy máy tính
cách nhận ra các khuôn mặt khác.

65
00:03:26,868 --> 00:03:30,857
Tuy nhiên, nếu tập huấn luyện
không đa dạng,

66
00:03:30,881 --> 00:03:34,230
bất kỳ khuôn mặt nào mà khác quá nhiều
so với chuẩn đã thiết lập

67
00:03:34,254 --> 00:03:35,903
sẽ khó dò tìm hơn,

68
00:03:35,927 --> 00:03:37,890
đó chính là trường hợp xãy ra với tôi.

69
00:03:37,914 --> 00:03:40,296
Nhưng đừng lo - có một vài tin tốt.

70
00:03:40,320 --> 00:03:43,091
Các tập huấn luyện không tồn tại ở
cõi hư vô.

71
00:03:43,115 --> 00:03:44,903
Mà do chính chúng ta tạo ra.

72
00:03:44,927 --> 00:03:49,103
Do vậy chúng ta có cơ hội tạo ra các tập
huấn luyện phủ kín các trường hợp

73
00:03:49,127 --> 00:03:52,951
và phản ánh một bức tranh đầy đủ hơn
về con người.

74
00:03:52,975 --> 00:03:55,196
Bây giờ bạn đã thấy trong các ví dụ
của tôi

75
00:03:55,220 --> 00:03:56,988
các robot xã hội nó ra sao

76
00:03:57,012 --> 00:04:01,623
cách tôi đã tìm ra sự sai sót về
thiên vị thuật toán.

77
00:04:01,647 --> 00:04:06,462
Nhưng sự thiên vị thuật toán có thể dẫn
đến các hành vi phân biệt đối xử.

78
00:04:07,437 --> 00:04:08,890
Khắp nước Mỹ,

79
00:04:08,914 --> 00:04:13,112
các sở cảnh sát đang bắt đầu đưa
phần mềm nhận dạng khuôn mặt

80
00:04:13,136 --> 00:04:15,595
vào kho vũ khí chống tội phạm của họ.

81
00:04:15,619 --> 00:04:17,632
Trường luật Georgetown công bố một
báo cáo

82
00:04:17,656 --> 00:04:24,419
cho thấy 1/2 người lớn ở Mỹ
-- có đến 117 triệu người --

83
00:04:24,443 --> 00:04:27,977
có khuôn mặt trong các mạng lưới
nhận dạng khuôn mặt.

84
00:04:28,001 --> 00:04:32,553
Hiện tại các sở cảnh sát có thể nhìn
vào các mạng lưới không được kiểm soát này

85
00:04:32,577 --> 00:04:36,863
sử dụng các thuật toán không được kiểm tra
để bảo đảm sự chính xác.

86
00:04:36,887 --> 00:04:40,751
Nhưng chúng ta biết nhận dạng khuôn mặt
không phải là không có sai sót

87
00:04:40,775 --> 00:04:44,954
và đánh nhãn khuôn mặt một cách chắc chắn
vẫn còn là một thách thức.

88
00:04:44,978 --> 00:04:46,740
Bạn có thể thấy điều này
trên Facebook

89
00:04:46,764 --> 00:04:49,752
Tôi và các bạn tôi luôn cười khi thấy
những người khác

90
00:04:49,776 --> 00:04:52,234
bị đánh nhãn sai trong các bức hình
của chúng tôi.

91
00:04:52,258 --> 00:04:57,849
Nhưng nhận diện sai một nghi phạm
không phải là một chuyện để cười,

92
00:04:57,873 --> 00:05:00,700
cũng không phải là vi phạm
quyền tự do dân sự.

93
00:05:00,724 --> 00:05:03,929
Công nghệ học máy đang được sử dụng
để nhận diện khuôn mặt,

94
00:05:03,953 --> 00:05:08,458
nhưng nó cũng đang mở rộng vượt quá lĩnh
vực thị giác máy tính.

95
00:05:09,266 --> 00:05:13,282
Trong cuốn sách "Vũ khí hủy diệt toán học"

96
00:05:13,306 --> 00:05:19,987
của cô Cathy O'Neil, một nhà khoa học
dữ liệu, nói các loại WMD đang gia tăng --

97
00:05:20,011 --> 00:05:24,364
các giải thuật hủy diệt, thần bí và
phổ biến rộng rãi

98
00:05:24,388 --> 00:05:27,352
đang ngày càng được sử dụng để đưa
ra quyết định

99
00:05:27,376 --> 00:05:30,553
mà ảnh hưởng đến nhiều lĩnh vực của
cuộc sống.

100
00:05:30,577 --> 00:05:32,447
Vậy ai được tuyển dụng hoặc sa thải?

101
00:05:32,471 --> 00:05:34,583
Bạn có khoản vay đó?
Bạn có bảo hiểm không?

102
00:05:34,607 --> 00:05:38,110
Bạn có được tiếp nhận vào trường đại học
mà bạn muốn?

103
00:05:38,134 --> 00:05:41,643
Bạn và tôi có trả cùng giá
cho cùng sản phẩm

104
00:05:41,667 --> 00:05:44,109
được mua trên cùng một nền tảng?

105
00:05:44,133 --> 00:05:47,892
Việc thực thi luật pháp cũng đang bắt đầu
sử dụng công nghệ học máy

106
00:05:47,916 --> 00:05:50,205
để dự báo tình hình phạm pháp

107
00:05:50,229 --> 00:05:53,723
Một số thẩm phán sử dụng điểm số rủi ro
do máy tạo ra để xác định

108
00:05:53,747 --> 00:05:58,149
một cá nhân sẽ đi tù trong bao lâu.

109
00:05:58,173 --> 00:06:00,627
Do vậy chúng ta phải nghĩ về những
quyết định này.

110
00:06:00,651 --> 00:06:01,833
Chúng có công bằng?

111
00:06:01,857 --> 00:06:04,747
Và chúng ta đã thấy rằng
sự thiên vị thuật toán

112
00:06:04,771 --> 00:06:08,145
không nhất thiết luôn cho ra kết quả
công bằng

113
00:06:08,169 --> 00:06:10,133
Vậy ta có thể làm gì với chúng?

114
00:06:10,157 --> 00:06:13,837
Vâng, ta có thể bắt đầu nghĩ về cách
tạo ra mã lệnh bao hàm nhiều hơn

115
00:06:13,861 --> 00:06:16,851
và sử dụng các hoạt động viết mã có
tính bao hàm.

116
00:06:16,875 --> 00:06:19,184
Nó thực sự bắt đầu với con người.

117
00:06:19,708 --> 00:06:21,669
Vậy ai viết các mã lệnh đó.

118
00:06:21,693 --> 00:06:25,812
Có phải chúng ta đang tạo ra các nhóm
đầy đủ với các cá nhân đa dạng

119
00:06:25,836 --> 00:06:28,247
những người có thể kiểm tra các điểm mù
lẫn nhau?

120
00:06:28,271 --> 00:06:31,816
Về mặt kỹ thuật,
chúng ta viết các mã lệnh đó như thế nào

121
00:06:31,840 --> 00:06:35,491
Chúng ta có đang tính đến yếu tố công bằng
khi xây dựng hệ thống/

122
00:06:35,515 --> 00:06:38,428
Và cuối cùng, tại sao chúng ta viết những
mã lệnh đó.

123
00:06:38,785 --> 00:06:43,868
Chúng ta đã sử dụng các công cụ sáng tạo
tính toán để mở khóa sự giàu có to lớn.

124
00:06:43,892 --> 00:06:48,339
Giờ đây chúng ta có cơ hội mở khóa
sự bình đẳng to lớn hơn

125
00:06:48,363 --> 00:06:51,293
nếu chúng ta tạo ra sự thay đổi xã hội
một sự ưu tiên

126
00:06:51,317 --> 00:06:53,487
và không suy nghĩ lại

127
00:06:54,008 --> 00:06:58,530
Và đây là 3 nguyên lý mà sẽ tạo nên
phong trào "incoding".

128
00:06:58,554 --> 00:07:00,206
Ai viết mã lệnh đó,

129
00:07:00,230 --> 00:07:01,773
chúng ta viết mã lệnh đó ra sao

130
00:07:01,797 --> 00:07:03,820
và tại sao ta viết mã lệnh đó.

131
00:07:03,844 --> 00:07:06,943
Do đó để hướng đến sự viết mã tận tâm,
ta có thể bắt đầu nghĩ về

132
00:07:06,967 --> 00:07:10,131
xây dựng các nền tảng mà có thể
nhận diện sự thiên vị

133
00:07:10,155 --> 00:07:13,233
bằng cách tập hợp trải nghiệm của
mọi người như tôi đã chia sẽ

134
00:07:13,257 --> 00:07:16,327
nhưng cũng kiểm tra các phần mềm hiện tại.

135
00:07:16,351 --> 00:07:20,116
Chúng ta cũng có thể bắt đầu tạo ra
những tập huấn luyện bao hàm hơn

136
00:07:20,140 --> 00:07:22,943
Hãy tưởng tượng một chiến dịch
"Tự sướng để hòa nhập"

137
00:07:22,967 --> 00:07:26,622
ở đó bạn và tôi có thể giúp các
nhà phát triển kiểm thử và tạo ra

138
00:07:26,646 --> 00:07:28,739
các tập huấn luyện bao hàm hơn.

139
00:07:29,302 --> 00:07:32,130
Và chúng ta cũng bắt đầu suy nghĩ
một cách tận tâm hơn

140
00:07:32,154 --> 00:07:37,545
về sự ảnh hưởng xã hội của công nghệ
mà ta đang phát triển.

141
00:07:37,569 --> 00:07:39,962
Để bắt đầu phong trào viết mã tận tâm

142
00:07:39,986 --> 00:07:42,833
Tôi đã khởi xướng Liên minh công lý
thuật toán,

143
00:07:42,857 --> 00:07:48,729
ở đó bất cứ ai quan tâm đến sự công bằng
đều có thể giúp chống lại the coded gaze.

144
00:07:48,753 --> 00:07:52,049
trên codedgaze.com, nơi bạn có thể
báo cáo lại các thiên vị,

145
00:07:52,073 --> 00:07:54,518
đề nghị sự kiểm tra, trở thành
người kiểm thử

146
00:07:54,542 --> 00:07:57,313
và tham gia vào các cuộc nói chuyện

147
00:07:57,337 --> 00:07:59,624
#codedgaze.


148
00:08:00,742 --> 00:08:03,229
Tôi mời bạn tham gia với tôi

149
00:08:03,253 --> 00:08:06,972
để tạo ra một thế giới ở đó công nghệ
phục vụ cho tất cả chúng ta,

150
00:08:06,996 --> 00:08:08,893
không phải chỉ với một số người,

151
00:08:08,917 --> 00:08:13,505
một thế giới ở đó chúng ta đề cao sự hòa
nhập và thay đổi xã hội làm trung tâm

152
00:08:13,529 --> 00:08:14,704
Xin cảm ơn.

153
00:08:14,728 --> 00:08:18,999
(Vỗ tay)

154
00:08:20,873 --> 00:08:23,727
Nhưng tôi còn một câu hỏi:

155
00:08:23,751 --> 00:08:25,810
Bạn có cùng tôi vào
cuộc chiến này không?

156
00:08:25,834 --> 00:08:27,119
(Cười)

157
00:08:27,143 --> 00:08:30,830
(Vỗ tay)