WEBVTT

00:00:00.000 --> 00:00:04.482
Vì thế, tôi đã có công việc đầu tiên của mình 
là một lập trình viên máy tính

00:00:04.482 --> 00:00:06.595
ngay trong những năm học đại học đầu tiên

00:00:06.595 --> 00:00:08.449
về cơ bản, khi vẫn là một thiếu niên

NOTE Paragraph

00:00:08.449 --> 00:00:10.621
Không lâu sau khi tôi bắt đầu công việc,

00:00:10.645 --> 00:00:12.655
trong lúc đang viết phần mềm cho công ty,

00:00:12.799 --> 00:00:16.434
thì người quản lý ở đó tiến đến chỗ tôi

00:00:16.458 --> 00:00:17.726
và thì thầm vào tai tôi

00:00:18.229 --> 00:00:21.090
"Hắn có phát hiện nếu tôi nói dối không?"

00:00:21.806 --> 00:00:23.882
Không có một ai khác trong phòng cả.

NOTE Paragraph

00:00:24.781 --> 00:00:29.501
"Ai có thể nhận ra anh đang nói dối?"
"Và tại sao ta phải nói thầm?"

NOTE Paragraph

00:00:29.501 --> 00:00:33.596
Ông quản lý chỉ tay vào chiếc máy tính 
trong phòng.

00:00:33.596 --> 00:00:36.493
"Hắn có phát hiện nếu tôi nói dối không?"

00:00:37.613 --> 00:00:41.975
Vâng, ông quản lý này đang ngoại tình
với cô tiếp tân.

NOTE Paragraph

00:00:41.999 --> 00:00:43.111
( Cười)

NOTE Paragraph

00:00:43.135 --> 00:00:44.901
Và tôi vẫn chỉ là một đứa oắt con.

00:00:45.447 --> 00:00:47.466
nên tôi nói thầm lại với anh ta,

00:00:47.490 --> 00:00:51.114
" Có chứ, nó biết khi nào 
ông nói dối đấy."

NOTE Paragraph

00:00:51.138 --> 00:00:52.944
(Cười)

NOTE Paragraph

00:00:52.968 --> 00:00:55.891
Vâng, tôi cười nhưng thực ra
là cười bản thân.

00:00:55.915 --> 00:00:59.183
Ngày nay, có những hệ thống máy tính

00:00:59.207 --> 00:01:02.755
có thể nhận diện trạng thái cảm xúc, 
ngay cả việc nói dối

00:01:02.779 --> 00:01:04.823
thông qua phân tích nhân diện.

00:01:05.248 --> 00:01:09.401
Các nhà quảng cáo và thậm chí cả 
chính quyền rất hứng thú với điều này.

NOTE Paragraph

00:01:10.319 --> 00:01:12.181
Tôi đã trở thành 1 lập trình viên

00:01:12.205 --> 00:01:15.318
vì tôi từng là đứa trẻ say mê Toán và 
Khoa học.

00:01:15.942 --> 00:01:19.050
Nhưng khoảng thời gian đó, tôi cũng học 
về vũ khí hạt nhân.

00:01:19.074 --> 00:01:22.026
và tôi trở nên rất quan ngại về vấn đề 
đạo đức của khoa học.

00:01:22.050 --> 00:01:23.254
Tôi đã rất bối rối.

00:01:23.278 --> 00:01:25.919
Tuy nhiên, do hoàn cảnh gia đình,

00:01:25.943 --> 00:01:29.241
tôi cần phải bắt đầu làm việc 
càng sớm càng tốt.

00:01:29.265 --> 00:01:32.564
Vì vậy nên tôi nói với bản thân,
này, hãy chọn một ngành kỹ thuật

00:01:32.588 --> 00:01:34.384
giúp tôi có thể dễ dàng kiếm việc

00:01:34.408 --> 00:01:38.426
mà lại không phải quan tâm đến những 
câu hỏi đạo đức phiền phức.

00:01:39.022 --> 00:01:40.551
Vì vậy nên tôi chọn máy tính.

NOTE Paragraph

00:01:40.575 --> 00:01:41.679
(Cười lớn)

NOTE Paragraph

00:01:41.703 --> 00:01:45.113
Vậy đấy! haha
Tôi cười vì chính mình!

00:01:45.137 --> 00:01:47.891
Ngày nay, các nhà khoa học máy tính
xây dựng hệ điều hành

00:01:47.915 --> 00:01:52.124
có thể điều khiển thứ mà một tỉ người 
xem hằng ngày.

00:01:53.052 --> 00:01:56.874
Họ đang phát triển những chiếc xe có thể 
tự quyết định nó sẽ cán qua ai.

00:01:57.707 --> 00:02:00.920
Họ thậm chí còn đang tạo ra nhiều 
máy móc, vũ khí,

00:02:00.944 --> 00:02:03.229
có thể tiêu diệt loài người 
trong chiến tranh.

00:02:03.253 --> 00:02:06.024
Chung quy lại đều liên quan tới đạo đức

NOTE Paragraph

00:02:07.183 --> 00:02:09.241
Trí tuệ nhân tạo là đây.

00:02:09.823 --> 00:02:13.297
Ta không chỉ sử dụng những thuật toán để 
đưa ra mọi quyết định

00:02:13.321 --> 00:02:15.207
mà còn cả những chuyện chưa từng xảy ra

00:02:15.231 --> 00:02:20.403
Ta đưa cho máy móc những câu hỏi không có
một đáp án đúng nào cả,

00:02:20.427 --> 00:02:21.629
những câu hỏi chủ quan

00:02:21.653 --> 00:02:23.978
những câu hỏi mở và mang tính giả định.

NOTE Paragraph

00:02:24.002 --> 00:02:25.760
Chúng ta hỏi những câu hỏi như,

00:02:25.784 --> 00:02:27.434
"Công ty nên thuê ai?"

00:02:28.096 --> 00:02:30.855
"Những gì bạn nên được biết từ bạn bè?"

00:02:30.879 --> 00:02:33.145
"Phạm nhân nào có khả năng tái phạm cao?"

00:02:33.514 --> 00:02:36.568
"Dòng tin hay bộ phim nào nên được 
đề xuất cho mọi người?"

NOTE Paragraph

00:02:36.592 --> 00:02:39.964
Nhìn xem, đúng, chúng ta đã sử dụng 
máy tính một thời gian dài,

00:02:39.988 --> 00:02:41.505
nhưng lần này thì khác.

00:02:41.529 --> 00:02:43.596
Đây là một bước ngoặt lịch sử,

00:02:43.620 --> 00:02:48.957
vì ta không thể trông cậy vào sự tính 
toán cho các quyết định chủ quan thế này

00:02:48.981 --> 00:02:54.401
như cái cách chúng ta dựa vào nó 
để lái máy bay, xây cầu,

00:02:54.425 --> 00:02:55.684
để đi lên mặt trăng.

00:02:56.449 --> 00:02:59.708
Máy bay liệu có an toàn hơn? 
Cây cầu có lắc lư và sập không?

00:02:59.732 --> 00:03:04.230
Thế đấy, chúng ta đều có một chuẩn mực 
thống nhất và khá rõ ràng,

00:03:04.254 --> 00:03:06.493
và ta có những quy luật của tự nhiên 
hướng dẫn.

00:03:06.517 --> 00:03:09.911
Chúng ta không hề có những điểm tựa hay 
tiêu chuẩn như vậy

00:03:09.935 --> 00:03:13.898
cho các quyết định về những vấn đề 
phức tạp của con người.

NOTE Paragraph

00:03:13.922 --> 00:03:18.159
Để làm vấn đề phức tạp hơn, phần mềm 
của ta ngày càng trở nên hùng mạnh,

00:03:18.183 --> 00:03:21.956
nhưng nó đồng thời trở nên khó hiểu
và phức tạp hơn.

00:03:22.542 --> 00:03:24.582
Gần đây, trong thập kỷ gần đây,

00:03:24.606 --> 00:03:27.335
các thuật toán phức tạp đã đạt được 
những bước tiến lớn.

00:03:27.359 --> 00:03:29.349
Chúng có thể nhận diện khuôn mặt người.

00:03:29.985 --> 00:03:32.040
Chúng có thể giải mã được chữ viết tay.

00:03:32.436 --> 00:03:34.502
Chúng có thể nhận biết thẻ tín dụng giả

00:03:34.526 --> 00:03:35.715
và chặn tin rác

00:03:35.739 --> 00:03:37.776
và chúng có thể phiên dịch ngôn ngữ.

00:03:37.800 --> 00:03:40.374
Chúng có thể phát hiện khối u trong 
phim chụp y khoa.

00:03:40.398 --> 00:03:42.603
Chúng đánh bại con người 
trong cờ vua và Go.

NOTE Paragraph

00:03:43.264 --> 00:03:47.768
Đa phần những tiến bộ này đến từ 
phương pháp "máy tính tự học"

00:03:48.175 --> 00:03:51.362
Máy tính tự học khác với lập trình 
truyền thống,

00:03:51.386 --> 00:03:54.971
ở chỗ bạn đưa ra những hướng dẫn 
cụ thể, chính xác, kỹ lưỡng cho máy tính.

00:03:55.378 --> 00:03:59.560
Đúng hơn là bạn cho một đống dữ liệu 
vào hệ thống,

00:03:59.584 --> 00:04:01.240
bao gồm dữ liệu chưa được 
sắp xếp,

00:04:01.264 --> 00:04:03.542
như loại chúng ta tạo ra trong thế giới số

00:04:03.566 --> 00:04:06.296
Và hệ thống học bằng cách lướt qua 
các dữ liệu này.

00:04:06.669 --> 00:04:08.195
Và quan trọng hơn,

00:04:08.219 --> 00:04:12.599
những hệ thống này không hoạt động dựa 
trên logic một-câu-trả-lời-duy-nhất.

00:04:12.623 --> 00:04:15.582
Chúng không cho ra câu trả lời đơn giản mà
có tính xác suất hơn

00:04:15.606 --> 00:04:19.089
"Cái này có nhiều khả năng là cái bạn 
đang muốn tìm."

NOTE Paragraph

00:04:20.023 --> 00:04:23.093
Lợi thế ở đây là: biện pháp này 
rất hiệu quả.

00:04:23.117 --> 00:04:25.193
Trưởng hệ thống Al của Google gọi nó là,

00:04:25.217 --> 00:04:27.414
"sự hiệu quả bất hợp lý của dữ liệu."

00:04:27.791 --> 00:04:29.144
Bất lợi ở đây là,

00:04:29.738 --> 00:04:32.809
ta không thật sự hiểu cái mà hệ thống 
học được.

00:04:32.833 --> 00:04:34.420
Thực tế, đó là sức mạnh của nó.

00:04:34.946 --> 00:04:38.744
Cái này khác với việc đưa ra hướng dẫn 
cho máy tính;

00:04:39.200 --> 00:04:43.264
Nó giống hơn với việc huấn luyện một loại 
chó cưng bằng máy

00:04:43.288 --> 00:04:45.659
mà chúng ta không thật sự hiểu 
hay kiểm soát.

00:04:46.362 --> 00:04:47.913
Vậy nên đó là vấn đề của ta.

00:04:48.427 --> 00:04:52.689
Nó là vấn đề khi mà hệ thống 
trí tuệ nhân tạo hiểu sai sự việc.

00:04:52.713 --> 00:04:56.253
Nó cũng là vấn đề khi nó hiểu đúng 
sự việc,

00:04:56.277 --> 00:04:59.905
bởi vì chúng ta không thể phân biệt được 
khi nó là một vấn đề chủ quan.

00:04:59.929 --> 00:05:02.268
Chúng ta không biết được vật này 
đang nghĩ gì.

NOTE Paragraph

00:05:03.493 --> 00:05:07.176
Thử xem xét một thuật toán thuê --

00:05:08.123 --> 00:05:12.434
một hệ thống dùng để thuê nhân viên, 
dựa vào hệ thống máy móc tự học.

00:05:13.052 --> 00:05:16.631
Một hệ thống như vậy sẽ được đào tạo 
dựa trên dự liệu của nhân viên cũ

00:05:16.655 --> 00:05:19.246
và được hướng dẫn để tìm và thuê

00:05:19.270 --> 00:05:22.308
những người tương tự với nhân viên 
xuất sắc hiện có ở công ty.

00:05:22.814 --> 00:05:23.967
Nghe có vẻ tốt đấy.

00:05:23.991 --> 00:05:25.990
Tôi từng tham dự một hội nghị

00:05:26.014 --> 00:05:29.139
bao gồm quản lý nhân sự và các lãnh đạo,

00:05:29.163 --> 00:05:30.369
những nhân vật cấp cao,

00:05:30.393 --> 00:05:31.952
dùng hệ thống như vậy khi thuê

00:05:31.976 --> 00:05:33.622
Họ cực kỳ phấn khích về việc đó.

00:05:33.646 --> 00:05:38.299
Họ nghĩ rằng hệ thống này sẽ giúp việc 
thuê người khách quan và ít thiên vị hơn,

00:05:38.323 --> 00:05:41.323
và cho phụ nữ và người thiểu số 
một cơ hội tốt hơn

00:05:41.347 --> 00:05:43.535
chống lại những người quản lý thiên vị.

NOTE Paragraph

00:05:43.559 --> 00:05:46.402
Đúng là người thuê người thường 
có sự thiên vị.

00:05:47.099 --> 00:05:48.284
Tôi biết vậy.

00:05:48.308 --> 00:05:51.313
Trong những việc đầu tiên của tôi với 
vai trò lập trình viên,

00:05:51.337 --> 00:05:55.205
quản lý trực tiếp của tôi thỉnh thoảng 
sẽ đến chỗ tôi

00:05:55.229 --> 00:05:58.982
rất sớm vào buổi sáng hoặc rất muộn 
vào buổi chiều,

00:05:59.006 --> 00:06:02.068
để nói, "Zeynep, cùng đi ăn trưa nào!"

00:06:02.724 --> 00:06:04.891
Tôi bị bối rối bởi giờ giấc 
thất thường.

00:06:04.915 --> 00:06:07.044
Bây giờ là 4g chiều mà ăn trưa ư?

00:06:07.068 --> 00:06:10.162
Tôi thì thiếu tiền, mà bữa trưa miễn phí. 
Cho nên tôi luôn đi

00:06:10.618 --> 00:06:12.685
Sau đó tôi nhận ra chuyện gì 
đang diễn ra.

00:06:12.709 --> 00:06:17.255
Những quản lý trực tiếp của tôi chưa hề 
thông báo với cấp trên

00:06:17.279 --> 00:06:20.392
rằng lập trình viên họ thuê cho việc 
quan trọng là một thiếu nữ

00:06:20.416 --> 00:06:24.346
mặc quần jeans và đi giày thể thao đi làm.

00:06:25.174 --> 00:06:27.376
Tôi làm tốt việc, chỉ ăn mặc không đúng

00:06:27.400 --> 00:06:29.099
và sai độ tuổi và giới tính.

NOTE Paragraph

00:06:29.123 --> 00:06:32.469
Cho nên việc tuyển chọn không dựa theo 
giới tính và sắc tộc

00:06:32.493 --> 00:06:34.358
rõ ràng tốt cho tôi.

00:06:35.031 --> 00:06:38.372
Nhưng với những hệ thống này, nó 
phức tạp hơn, và đây là lý do:

00:06:38.968 --> 00:06:44.759
Bây giờ, hệ thống tính toán có thể đưa ra 
đủ mọi loại kết luận vể bạn

00:06:44.783 --> 00:06:46.655
dựa trên những vết tích số của bạn,

00:06:46.679 --> 00:06:49.012
ngay cả khi bạn không hề tiết lộ 
những việc đó.

00:06:49.506 --> 00:06:52.433
Chúng có thể đưa ra kết luận về xu hướng 
tình dục của bạn,

00:06:52.994 --> 00:06:54.300
tính cách bạn,

00:06:54.859 --> 00:06:56.232
quan điểm chính trị của bạn.

00:06:56.830 --> 00:07:00.515
Chúng có sức mạnh dự đoán với 
sự chuẩn xác cao.

00:07:01.362 --> 00:07:03.940
Nhớ rằng - ngay cả những việc bạn 
không hề tiết lộ.

00:07:03.964 --> 00:07:05.555
Đây chỉ mới là việc suy luận

NOTE Paragraph

00:07:05.579 --> 00:07:08.840
Tôi có một người bạn thiết kế những 
hệ thống tính toán như vậy

00:07:08.864 --> 00:07:12.505
để dự đoán khả năng mắc bệnh trầm cảm 
lâm sàng hoặc hậu thai sản

00:07:12.529 --> 00:07:13.945
từ những dự liệu truyền thông xã hội.

00:07:14.676 --> 00:07:16.103
Kết quả thật đáng ấn tượng.

00:07:16.492 --> 00:07:19.849
Hệ thống của cô ấy có thể dự đoán được 
khả năng mắc trầm cảm

00:07:19.873 --> 00:07:23.776
hàng tháng trước khi các triệu chứng 
xuất hiện --

00:07:23.800 --> 00:07:25.173
hàng tháng trước.

00:07:25.197 --> 00:07:27.443
Không hề có triệu chứng, nhưng 
lại có dự đoán.

00:07:27.467 --> 00:07:32.279
Cô mong rằng nó được sử dụng cho việc 
can thiệp sớm. Tuyệt vời!

00:07:32.911 --> 00:07:34.951
Nhưng giờ đặt nó vào viễn cảnh 
tuyển chọn.

NOTE Paragraph

00:07:36.027 --> 00:07:39.073
Ở buổi họp quản lý nhân sự này,

00:07:39.097 --> 00:07:43.806
tôi tiếp cận một quản lý cấp cao của 
một công ty lớn,

00:07:43.830 --> 00:07:48.408
và nói rằng, "Này, nếu như, ngoài sự 
hiểu biết của bạn,

00:07:48.432 --> 00:07:54.981
hệ thống của bạn đang gạt bỏ người có thể 
bị trầm cảm cao trong tương lai?

00:07:55.761 --> 00:07:59.137
Hiện tại họ không hề bị trầm cảm, chỉ là 
trong tương lai có khả năng.

00:07:59.923 --> 00:08:03.329
Nếu như hệ thống loại bỏ những phụ nữ 
có khả năng mang thai

00:08:03.353 --> 00:08:05.939
trong một vài năm tới nhưng hiện 
không mang thai?

00:08:06.844 --> 00:08:12.480
Nếu nó chọn những người có tính hung hăng 
vì đó là bản chất làm việc ở đây?"

00:08:13.173 --> 00:08:15.864
Bạn không thể thấy điều này qua việc 
xem tỉ lệ giới tính

00:08:15.888 --> 00:08:17.390
Điều đó có thể được 
cân bằng.

00:08:17.414 --> 00:08:20.971
Và vì đây là máy móc tự học, chứ 
không phải mã hóa truyền thống,

00:08:20.995 --> 00:08:25.902
không hề có một biến số nào có tên 
"có khả năng trầm cảm cao",

00:08:25.926 --> 00:08:27.759
"có khả năng mang thai cao",

00:08:27.783 --> 00:08:29.517
"tính cách hung hăng".

00:08:29.995 --> 00:08:33.674
Bạn không chỉ không biết hệ thống của bạn 
lựa chọn dựa trên tiêu chí gì,

00:08:33.698 --> 00:08:36.021
bạn còn không biết phải bắt đầu 
tìm từ đâu.

00:08:36.045 --> 00:08:37.291
Nó là một hộp đen.

00:08:37.315 --> 00:08:40.122
Nó có khả năng tiên đoán, nhưng bạn 
không hiểu nó.

NOTE Paragraph

00:08:40.486 --> 00:08:42.855
Tôi hỏi cô, "Bạn có chốt an toàn nào

00:08:42.879 --> 00:08:46.552
để đảm bảo rằng hộp đen của bạn 
không làm gì mờ ám?"

00:08:48.863 --> 00:08:52.741
Cô ấy nhìn tôi như thể tôi vừa đạp lên 
10 cái đuôi chó.

NOTE Paragraph

00:08:52.765 --> 00:08:54.013
(Cười lớn)

NOTE Paragraph

00:08:54.037 --> 00:08:56.078
Cô nhìn tôi chằm chằm và nói,

00:08:56.556 --> 00:09:00.889
"Tôi không muốn nghe thêm một từ nào 
về vấn đề này nữa."

00:09:01.458 --> 00:09:03.492
Và cô ấy bỏ đi.

00:09:04.064 --> 00:09:05.550
Cho bạn biết- cô ấy không thô lỗ

00:09:05.574 --> 00:09:11.882
Rõ ràng rằng: điều tôi không biết không phải 
là vấn đề của tôi, đi đi, ánh nhìn chết người.

NOTE Paragraph

00:09:11.906 --> 00:09:13.152
(Cười lớn)

NOTE Paragraph

00:09:13.862 --> 00:09:17.701
Một hệ thống như vậy có thể ít thiên vị hơn

00:09:17.725 --> 00:09:19.828
những người quản lý theo cách nào đó.

00:09:19.852 --> 00:09:21.998
Và nó có khả năng ra quyết định tài chính.

00:09:22.573 --> 00:09:24.223
Nhưng nó cũng có thể dẫn đến

00:09:24.247 --> 00:09:28.995
một thị trường việc làm ổn định nhưng lén lút cô lập

00:09:29.019 --> 00:09:31.312
những người có khả năng trầm cảm cao.

00:09:31.753 --> 00:09:34.349
Liệu đây có phải là xã hội mà chúng ta muốn gầy dựng,

00:09:34.373 --> 00:09:36.658
khi mà chúng ta còn thậm chí không biết chúng ta làm vậy,

00:09:36.682 --> 00:09:40.646
bởi vì chúng ta phó thác việc ra quyết định cho những cỗ máy mà chính chúng ta cũng không hiểu rõ?

NOTE Paragraph

00:09:41.265 --> 00:09:42.723
Một vấn đề khác là:

00:09:43.314 --> 00:09:47.766
những hệ thống này được huấn luyện dựa trên những dữ liệu lấy từ các hành động của chúng ta,

00:09:47.790 --> 00:09:49.606
dấu ấn của con người.

00:09:50.188 --> 00:09:53.996
Chúng có thể phản ánh những thiên vị của chúng ta,

00:09:54.020 --> 00:09:57.613
và những hệ thống này có thể bắt nhịp những thiên vị của chúng ta

00:09:57.637 --> 00:09:58.950
và phóng đại chúng

00:09:58.974 --> 00:10:00.392
và thể hiện chúng lại cho chúng ta,

00:10:00.416 --> 00:10:01.878
trong khi chúng ta lại tự bảo bản thân,

00:10:01.902 --> 00:10:05.019
"Chúng ta đang tính toán một cách trung lập, khách quan."

NOTE Paragraph

00:10:06.314 --> 00:10:08.991
Các nhà nghiên cứu tìm ra rằng trên Google,

00:10:10.134 --> 00:10:15.447
phụ nữ ít được cho thấy những thông cáo việc làm lương cao hơn đàn ông.

00:10:16.463 --> 00:10:18.993
Và các tìm kiếm tên của người Mỹ gốc Phi

00:10:19.017 --> 00:10:23.723
sẽ dễ dẫn đến những cảnh báo tiền án tội phạm hơn,

00:10:23.747 --> 00:10:25.314
ngay cả khi người đó không hề phạm tội.

00:10:26.693 --> 00:10:30.242
Những thiên vị tiềm ẩn và những thuật toán hộp-đen như vậy

00:10:30.266 --> 00:10:34.239
được các nhà nghiên cứu thỉnh thoảng tìm ra nhưng thỉnh thoảng chúng ta không hề biết,

00:10:34.263 --> 00:10:36.924
có thể có các hậu quả nặng nề.

NOTE Paragraph

00:10:37.958 --> 00:10:42.117
Ở Wisconsin, một bị cáo bị kết án sáu năm tù

00:10:42.141 --> 00:10:43.496
vì trốn tránh cảnh sát.

00:10:44.824 --> 00:10:46.010
Bạn có thể không biết rằng,

00:10:46.034 --> 00:10:50.032
các thuật toán ngày càng được sử dụng trong việc ân xá và kết án nhiều hơn.

00:10:50.056 --> 00:10:53.011
Ông ta muốn biết: Kết quả này được tính toán như thế nào?

00:10:53.795 --> 00:10:55.460
Nó là một hộp đen thương hiệu.

00:10:55.484 --> 00:10:59.689
Công ty từ chối để cho thuật toán của mình bị chất vấn ở các phiên tòa mở.

00:11:00.396 --> 00:11:05.928
Nhưng ProPublica, một tổ chức điều tra phi lợi nhuận, đã kiểm tra chính thuật toán

00:11:05.952 --> 00:11:07.968
họ dùng để tra cứu các dữ liệu công cộng,

00:11:07.992 --> 00:11:10.308
và nhận ra rằng các kết quả của chúng rất thiên vị

00:11:10.332 --> 00:11:13.961
và khả năng dự đoán của nó rất ảm đạm, chẳng hơn đoán mò bao nhiêu,

00:11:13.985 --> 00:11:18.401
và nó kết luận sai các bị cáo da đen có thể thành phạm nhân tương lai

00:11:18.425 --> 00:11:22.320
nhiều gấp đôi bị cáo da trắng.

NOTE Paragraph

00:11:23.891 --> 00:11:25.455
Thử nhìn vào vụ án này:

00:11:26.103 --> 00:11:29.955
Người phụ nữ này đón chị đỡ đầu của bà trễ

00:11:29.979 --> 00:11:32.054
từ một trường ở quận Broward, Florida,

00:11:32.757 --> 00:11:35.113
chạy xuống phố với một người bạn của bà.

00:11:35.137 --> 00:11:39.236
Họ nhìn thấy một chiếc xe đạp trẻ em không khóa và một chiếc xe máy trên hiên nhà

00:11:39.260 --> 00:11:40.892
và họ nghịch ngợm nhảy lên nó.

00:11:40.916 --> 00:11:43.515
Trong khi họ đang tăng tốc, một người phụ nữ chạy ra và la lên rằng,

00:11:43.539 --> 00:11:45.744
"Hey, đó là xe đạp của con tôi!"

00:11:45.768 --> 00:11:49.062
Họ quăng chiếc xe lại, chạy đi, nhưng họ bị bắt.

NOTE Paragraph

00:11:49.086 --> 00:11:52.723
Cô sai, cô ngu ngốc, nhưng cô vẫn chỉ mới 18 tuổi.

00:11:52.747 --> 00:11:55.291
Cô đã phạm một vài tội vị thành niên.

00:11:55.808 --> 00:12:00.993
Trong khi đó, một người đàn ông bị bắt vì trộm đồ ở Home Depot --

00:12:01.017 --> 00:12:03.941
một mớ đồ trị giá $85, một tội ăn cắp vặt.

00:12:04.766 --> 00:12:09.325
Nhưng ông có hai tiền án cướp có vũ khí.

00:12:09.955 --> 00:12:13.437
Nhưng thuật toán lại chấm điểm cô ấy có khả năng phạm tội cao hơn ông ta.

00:12:14.746 --> 00:12:18.620
Hai năm sau, ProPublica nhận thấy rằng cô ấy không hề tái phạm.

00:12:18.644 --> 00:12:21.194
Nhưng cô ấy chỉ khó kiếm được việc làm với tiền án như v6a5y.

00:12:21.218 --> 00:12:23.294
Ngược lại, ông ta tái phậm

00:12:23.318 --> 00:12:27.154
và hiện đang bị ở tù tám năm cho tội ác sau này.

00:12:28.088 --> 00:12:31.457
Rõ ràng, chúng ta cần kiểm tra các hộp đen của chúng ta

00:12:31.481 --> 00:12:34.096
và không để chúng có những sức mạnh không kiểm soát này.

NOTE Paragraph

00:12:34.120 --> 00:12:36.999
(Vỗ tay)

NOTE Paragraph

00:12:38.087 --> 00:12:42.329
Kiểm tra rất tuyệt vời và quan trọng, nhưng chúng không giải quyết hết các vấn đề của chúng ta.

00:12:42.353 --> 00:12:45.101
Ví dụ như thuật toán trang chủ hùng mạnh của Facebook --

00:12:45.125 --> 00:12:49.968
bạn biết đấy, cái đánh giá mọi thứ và quyết định sẽ cho bạn xem cái gì

00:12:49.992 --> 00:12:52.276
từ bạn bè và những trang bạn theo dõi.

00:12:52.898 --> 00:12:55.173
Liệu bạn có nên được cho xem thêm một bức ảnh trẻ con nữa?

NOTE Paragraph

00:12:55.197 --> 00:12:56.393
(Cười lớn)

NOTE Paragraph

00:12:56.417 --> 00:12:59.013
Một thông điệp u tối từ một người quen?

00:12:59.449 --> 00:13:01.305
Một mẩu tin quan trọng nhưng phức tạp?

00:13:01.329 --> 00:13:02.811
Không hề có câu trả lời đúng nào.

00:13:02.835 --> 00:13:05.494
Facebook tối đa hóa các tương tác trên trang chủ:

00:13:05.518 --> 00:13:06.933
thích, chia sẻ, bình luận.

NOTE Paragraph

00:13:08.168 --> 00:13:10.864
Vào tháng 8/2014,

00:13:10.888 --> 00:13:13.550
biểu tình diễn ra ở Ferguson, Missouri,

00:13:13.574 --> 00:13:17.991
sau vụ thảm sát một thiếu niên Mỹ Phi bởi một cảnh sát da trắng,

00:13:18.015 --> 00:13:19.585
dưới điều kiện mờ ám.

00:13:19.974 --> 00:13:21.981
Tin tức về các buổi biểu tình tràn ngập

00:13:22.005 --> 00:13:24.690
trên trang chủ Twitter không được thanh lọc bởi thuật toán,

00:13:24.714 --> 00:13:26.664
nhưng không hề hiện ra trên Facebook của tôi.

00:13:27.182 --> 00:13:28.916
Liệu đó có phải do các bạn trên Facebook của tôi?

00:13:28.940 --> 00:13:30.972
Tôi tắt thuật toán của Facebook,

00:13:31.472 --> 00:13:34.320
và rất khó để làm vậy vì Facebook luôn muốn bạn

00:13:34.344 --> 00:13:36.380
ở dưới sự kiểm soát của thuật toán,

00:13:36.404 --> 00:13:38.642
và thấy rằng bạn bè tôi đang nói về vấn đề đó.

00:13:38.666 --> 00:13:41.175
Chỉ là do thuật toán không cho tôi thấy điều đó.

00:13:41.199 --> 00:13:44.241
Tôi đi tìm hiểu và phát hiện ra rằng đây là một vấn đề phổ biến.

NOTE Paragraph

00:13:44.265 --> 00:13:48.078
Câu chuyện ở Ferguson không hề thân thiện với thuật toán.

00:13:48.102 --> 00:13:49.273
Nó không được "yêu thích".

00:13:49.297 --> 00:13:50.849
Ai sẽ bấm "thích"?

00:13:51.500 --> 00:13:53.706
Nó không hề đơn giản để bình luận.

00:13:53.730 --> 00:13:55.101
Thiếu các lượt yêu thích và bình luận,

00:13:55.125 --> 00:13:58.417
thuật toán lại hiển thị nó cho càng ít người,

00:13:58.441 --> 00:13:59.983
cho nên chúng ta không hề thấy nó.

00:14:00.946 --> 00:14:02.174
Thay vào đó, trong tuần đó,

00:14:02.198 --> 00:14:04.496
Thuật toán của Facebook lại làm nổi bật mẩu tin

00:14:04.520 --> 00:14:06.746
về ALS Thử Thách Chậu Đá.

00:14:06.770 --> 00:14:10.512
Một động cơ cao cả; đổ chậu nước đá, quyên góp từ thiện, tốt thôi.

00:14:10.536 --> 00:14:12.440
Nhưng nó rất được thuật toán yêu thích.

00:14:13.219 --> 00:14:15.832
Cỗ máy đưa ra quyết định này cho chúng ta.

00:14:15.856 --> 00:14:19.353
Một cuộc hội thoại quan trọng nhưng khó khăn

00:14:19.377 --> 00:14:20.932
có thể vừa bị giết chết,

00:14:20.956 --> 00:14:23.652
nếu như Facebook là cổng thông tin duy nhất.

NOTE Paragraph

00:14:24.117 --> 00:14:27.914
Cuối cùng, các hệ thống này có thể phạm lỗi

00:14:27.938 --> 00:14:30.674
theo nhiều cách không giống gì hệ thống con người.

00:14:30.698 --> 00:14:33.620
Quý vị còn nhớ Watson, hệ thống máy móc thông minh của IBM

00:14:33.644 --> 00:14:36.772
quét sạch các người thi con người trong trò Jeopardy?

00:14:37.131 --> 00:14:38.559
Nó là một người chơi tuyệt vời.

00:14:38.583 --> 00:14:42.152
Nhưng ở màn cuối của Jeopardy, khi được hỏi:

00:14:42.659 --> 00:14:45.591
"Sân bay lớn nhất của thành phố này được đặt tên theo một anh hùng Thế Chiến II,

00:14:45.615 --> 00:14:47.867
sân bay lớn nhì được đặt tên theo một trận đánh trong Thế Chiến II."

NOTE Paragraph

00:14:47.891 --> 00:14:49.269
(Nhạc nền Jeopardy)

NOTE Paragraph

00:14:49.582 --> 00:14:50.764
Chicago.

00:14:50.788 --> 00:14:52.158
Hai người chơi con người đoán đúng.

00:14:52.697 --> 00:14:57.045
Ngược lại, Watson lại trả lời "Toronto" --

00:14:57.069 --> 00:14:58.887
cho một phân mục thành phố Mỹ!

00:14:59.596 --> 00:15:02.497
Một hệ thống ấn tượng phạm một lỗi

00:15:02.521 --> 00:15:06.172
mà không một con người nào sẽ mắc phải, ngay cả một học sinh cấp 2.

NOTE Paragraph

00:15:06.823 --> 00:15:09.932
Cỗ máy thông minh của chúng ta đã thất bại

00:15:09.956 --> 00:15:13.056
theo nhiều cách không hề giống con người,

00:15:13.080 --> 00:15:16.030
theo những cách chúng ta không ngờ tới và không chuẩn bị cho.

00:15:16.054 --> 00:15:19.692
Sẽ thật tệ nếu như một người không được nhận vào một công việc mà họ đủ tiêu chuẩn,

00:15:19.716 --> 00:15:23.443
nhưng nó sẽ còn tệ gấp ba lần nếu như lý do là vì sự tắc nghẽn thông tin

00:15:23.467 --> 00:15:24.899
trong một thủ tục phụ nào đó.

NOTE Paragraph

00:15:24.923 --> 00:15:26.502
(Cười lớn)

NOTE Paragraph

00:15:26.526 --> 00:15:29.312
Vào tháng 5/2010,

00:15:29.336 --> 00:15:33.380
một khủng hoảng nhỏ ở Wall Street xảy ra do hệ thống phản hồi

00:15:33.404 --> 00:15:36.432
trong thuật toán "bán" của Wall Street

00:15:36.456 --> 00:15:40.640
làm bốc hơi một trị giá 1000 tỉ đô trong 36 phút.

00:15:41.722 --> 00:15:43.909
Tôi không hề muốn nghĩ đến "lỗi" đó là gì

00:15:43.933 --> 00:15:47.522
khi nói đến các vũ khí tự phát nguy hiểm.

NOTE Paragraph

00:15:49.894 --> 00:15:53.684
Cho nên vâng, con người luôn thiên vị.

00:15:53.708 --> 00:15:55.884
Các người đưa ra quyết định và những người gác cổng,

00:15:55.908 --> 00:15:59.401
trong tòa án, trên báo chí, trong chiến tranh,...

00:15:59.425 --> 00:16:02.463
họ phạm sai lầm; nhưng đó chính xác là điều tôi muốn nói.

00:16:02.487 --> 00:16:06.008
Chúng ta không thể trốn tránh những câu hỏi khó.

00:16:06.596 --> 00:16:10.112
Chúng ta không thể phó thác trách nhiệm của chúng ta cho máy móc.

NOTE Paragraph

00:16:10.676 --> 00:16:14.884
(Vỗ tay)

NOTE Paragraph

00:16:17.089 --> 00:16:21.536
Trí tuệ nhân tạo không cho chúng ta một thẻ "Trốn tránh đạo đức miễn phí"

NOTE Paragraph

00:16:22.742 --> 00:16:26.123
Nhà khoa học dữ liệu Fred Benenson gọi đây là tẩy rửa toán học.

00:16:26.147 --> 00:16:27.536
Chúng ta cần điều ngược lại.

00:16:27.560 --> 00:16:32.948
Chúng ta cần nuôi dưỡng các hoài nghi về các thuật toán, các khó khăn và điều tra.

00:16:33.380 --> 00:16:36.578
Chúng ta cần đảm bảo tính trung thực của các thuật toán,

00:16:36.602 --> 00:16:39.047
sự rõ ràng ý nghĩa và qua kiểm tra.

00:16:39.380 --> 00:16:42.614
Chúng ta cần chấp nhận rằng khi đem toán học và tính toán

00:16:42.638 --> 00:16:45.608
vào các vấn đề phức tạp, nhiều tầng giá trị của con người

00:16:45.632 --> 00:16:48.016
không hề đem đến tính khách quan;

00:16:48.040 --> 00:16:51.673
mà ngược lại, sự phức tạp của các vấn đề của con người xâm lấn các thuật toán.

00:16:52.148 --> 00:16:55.635
Vâng, chúng ta có thể và nên sử dụng tính toán

00:16:55.659 --> 00:16:57.673
để giúp chúng ta đưa ra các quyết định đúng đắn hơn.

00:16:57.697 --> 00:17:03.029
Nhưng chúng ta cần chịu trách nhiệm cho các quyết định mang tính đạo đức của chúng ta,

00:17:03.053 --> 00:17:05.871
và sử dụng thuật toán nội trong khuôn khổ đó,

00:17:05.895 --> 00:17:10.830
chứ không phải như một phương tiện để từ bỏ và phó thác trách nhiệm của chúng ta

00:17:10.854 --> 00:17:13.308
cho người khác giữa người với người.

NOTE Paragraph

00:17:13.807 --> 00:17:16.416
Máy móc thông minh tồn tại ở đây.

00:17:16.440 --> 00:17:19.861
Điều đó có nghĩa là chúng ta cần .... hơn

00:17:19.885 --> 00:17:22.032
các giá trị nhân bản và đạo đức nhân văn.

NOTE Paragraph

00:17:22.056 --> 00:17:23.210
Xin cám ơn.

NOTE Paragraph

00:17:23.234 --> 00:17:28.254
(Vỗ tay)