Sự kì quặc của hệ thống Twitter

Trong hàng trăm ngàn Tweets được bắn ra mỗi giây, một phần một triệu có thể gây hại cho người dùng -- xảy ra khoảng 500 lần/ ngày. Theo Del Harvey, người đứng đầu nhóm Bảo mật và An toàn của Twitter, những con số này vẫn là chưa ổn. Cô dành cả ngày để suy nghĩ về các công cụ bảo mật, cách ngăn chặn kịch bản xấu đồng thời mang đến tiếng nói cho người dùng toàn thế giới. Với sự hóm hỉnh, cô hé lộ cách thức mà cô dùng để giữ an toàn cho 240 triệu người.

Công việc của tôi tại Twitter

là đảm bảo sự bảo mật
người dùng,

bảo vệ các quyền lợi
và giữ an toàn cho họ,

khỏi những người dùng khác

và, đôi khi,
là từ chính bản thân họ.

Nói đến hệ thống Twitter.

Vào tháng 1 năm 2009,

chúng tôi thống kê được
hơn 2 triệu tweets mới mỗi ngày

Tháng 1 năm 2014,
có hơn 500 triệu.

2 triệu tweets
trong vòng chưa đầy 6 phút.

Tăng những 24,900%.

Ngày nay, hầu hết các
hoạt động trên Twitter

không gây tổn hại cho ai.

Không có những rủi ro liên quan.

Công việc của tôi là loại trừ
và ngăn chặn nguy cơ.

Nghe chừng rất đơn giản,
phải không?

Thậm chí cho là dễ,

rằng tôi chỉ nói đến phần lớn
các hoạt động vô hại trên Twitter.

Vậy tại sao lại dành
nhiều thời gian

tìm kiếm nguy cơ tiềm tàng

trong hoạt động vô hại này?

Với quy mô của Twitter,

xác suất chỉ là
một phần 1 triệu

tức 500 lần 1 ngày.

Con số này tương tự các công ty khác
cùng quy mô.

Với chúng tôi, các trường hợp,

các tình huống hiếm hoi
hầu như không diễn ra này

giống như những định mức.

Cứ cho là 99.999% tweets

không gây rủi ro

hay đe dọa nào.

Mọi người có thể đánh dấu
những điểm du lịch

như Rạn san hô trái tim ở Úc,

hay tweet về buổi hòa nhạc
mà họ tham dự,

hay chia sẻ những bức ảnh
về vật nuôi.

Ngoài 99.999%,

một phần trăm rất nhỏ
các tweets còn lại

vào khoảng 150,000 mỗi tháng.

Tỷ lệ tuyệt đối này trở thành
một thách thức.

Điều gì khác làm cho
vai trò của tôi trở nên khó khăn?

Con người ta hay làm
những điều kì quặc.

(Cười)

Còn tôi thì phải thống kê
điều họ làm,

nguyên nhân, và liệu rằng
nó có gây rủi ro,

vốn thường không chứa
trong hoàn cảnh

hay bối cảnh xung quanh.

Tôi sẽ đưa ra
vài ví dụ mà tôi từng gặp

trong thời gian
làm việc tại Twitter --

tất cả đều là
ví dụ thực tiễn --

về những tình huống
tưởng chừng không có gì ,

nhưng sự thực
lại hoàn toàn khác hẳn.

Chi tiết đã được thay đổi

để bảo vệ người vô tội

và đôi khi cả tội phạm.

Chúng ta bắt đầu
với những thứ đơn giản.

["Yo bitch"]

Khi thấy
1 tweet như trên,

bạn có thể nghĩ rằng,

"Nghe như lăng mạ vậy."

Sao bạn lại muốn
nhận tin nhắn này:

"Yo, bitch."

Khi cố gắng tiếp cận xu hướng
và cập nhật văn hóa,

tôi biết rằng "yo, bitch"

cũng là lời chào hỏi
giữa bạn bè với nhau,

cũng giống như trong
"Breaking Bad".

Thừa nhận rằng
tôi không trông mong

sẽ bắt gặp
trường hợp sử dụng thứ 4.

Thì ram nó cũng được
sử dụng trên Twitter

khi mà người ta
trong vai những con chó.

(Cười)

Trên thực tế,
trường hợp đó,

không những
không phải lăng mạ,

mà còn là
một lời chào hỏi kỹ cách.

(cười)

Do vậy, thật sự rất khó
để khẳng định

có hay không sự lăng mạ

ẩn giấu
trong nội dung.

Hãy nhìn vào các thư rác.

Dưới đây là ví dụ
của một tài khoản

gửi thư rác điển hình,

gửi cùng một tin nhắn
đến hàng nghìn người.

Cái này được giả lập bằng
tài khoản của tôi,

ta thấy các tài khoản
lúc nào cũng gửi đi tin nhắn.

Không rắc rối lắm.

Chúng ta tự động
đình chỉ tài khoản

thực hiện các hành vi
kiểu này.

Vẫn tồn tại
một vài ngoại lệ.

Các tin nhắn có thể là
một thông báo

đăng ký tham gia
Trạm vũ trụ quốc tế

bởi bạn muốn ra ngoài

và quan sát không gian.

Bạn sẽ không có cơ hội

nếu chúng tôi đình chỉ
nhầm tài khoản

vì nghĩ đó là thư rác.

Ổn thôi.
Liều hơn nữa nhé.

Trở lại với tài khoản của tôi,

và các hành vi điển hình này.

Bây giờ là gửi tin nhắn
và liên kết.

Đây thường là
dấu hiệu của lừa đảo,

ai đó cố ăn cắp thông tin
tài khoản của người khác

bằng cách hướng dẫn họ
vào một trang web.

Rõ ràng không phải là
điều tốt đẹp.

Chúng tôi muốn
đình chỉ tài khoản

thực hiện
các hành vi kiểu này.

Vậy tại sao lại liều hơn
cho khoản này?

Vâng, một người
đứng ngoài cuộc biểu tình

ghi lại cảnh

một cảnh sát đánh đập
một người biểu tình không bạo lực

cố gắng cho thế giới biết
điều đang xảy ra.

Chúng tôi không muốn mạo hiểm

giữ im lặng cho
bài phát biểu quan trọng này

bằng cách phân vào nhóm thư rác
và đình chỉ nó.

Chúng tôi phải
đánh giá hàng trăm thông số

về hành vi của tài khoản,

sau đó, thậm chí,
chúng tôi có thể sai

và phải đánh giá lại.

Bây giờ, những thách thức
mà tôi phải vượt qua

không hẳn là dự đoán
mà còn là bảo vệ thiết kế

trước những điều không ngờ.

Đây không chỉ là
vấn đề của riêng tôi,

của twitter;
mà là vấn đề cho bạn

cho bất kì ai tạo ra

thứ mà bạn nghĩ
sẽ bất ngờ

và khiến người khác làm
những điều bất ngờ.

Vậy, tôi sẽ làm gì?

Tôi dừng lại và suy nghĩ,

liệu những điều này
có thể trở thành sai lầm khủng khiếp?

Tôi hình dung ra bi kịch.

Thật là khó.

Hàng chuỗi mâu thuẫn
trong nhận thức vốn có

giống như khi
đọc lời thề đám cưới

hay thỏa thuận tiền hôn nhân.

(Cười)

Nhưng bạn sẽ vẫn phải làm
điều đó,

đặc biệt là khi bạn có
500 triệu tweets mỗi ngày.

Ý tôi là gì khi nói
"vẽ ra bi kịch"

Tôi cố gắng nghĩ
bằng mọi cách

một bức hình con mèo
hiền lành vô hại có thể

dẫn đến cái chết,

và cần làm gì để
ngăn cản điều này.

Trong ví dụ tiếp theo,
điều gì xảy ra đây.

Chú mèo của tôi, Eli

Chúng tôi muốn cho
người dùng khả năng

thêm hình ảnh
vào tweet của mình.

Trăm nghe không bằng mắt thấy.

Mà bạn chỉ có thể viết 140 kí tự.

Thêm 1 bức hình vào tweet,
nhìn xem có bao nhiêu là nội dung.

Nhiều điều tuyệt vời
có thể làm

bằng cách thêm hình vào tweet.

Công việc của tôi
không phải là nghĩ đến chúng

mà là nghĩ đến
những mối nguy.

Bằng cách nào bức hình này
có thể dẫn tới cái chết?

Đây là một khả năng.

Có nhiều thứ hơn
là bức hình con mèo.

Các dữ kiện địa lý.

Khi chụp hình bằng
điện thoại thông minh

hay camera kỹ thuật số,

có rất nhiều thông tin đi kèm

được lưu giữ cùng bức ảnh.

Những bức ảnh này
cũng hàm chứa

điều tương đương,

rất đặc trưng.

Gần như chắc chắn rằng,
không ai có thể

theo dõi
và làm hại tôi

chỉ dựa vào thông số
đi kèm

với bức hình con mèo
mà tôi tải lên,

nhưng tôi bắt đầu giả định
điều tồi tệ nhất.

Đó là lí do,
khi đưa ảnh lên Twitter,

chúng tôi quyết định
tách dữ liệu địa lý ra.

(Vỗ tay)

Nếu bắt đầu bằng
các giả định xấu nhất

và truy ngược lại,

tôi có thể chắc chắn rằng
sự bảo vệ là dành cho

tất cả các trường hợp.

Cho rằng tôi dành
ngày đêm

tưởng tượng ra
điều tệ nhất có thế xảy đến

Không ngạc nhiên nếu
thế giới quan của tôi ảm đạm.

(Cười)

Không.

Phần lớn các phản ứng
mà tôi thấy

và thấy rất nhiều,
tin tôi đi rất tích cực

mọi người cần sự giúp đỡ

hay liên kết hoặc
chia sẻ thông tin.

Chỉ một số trong chúng ta
làm việc với hệ thống,

bảo đảm sự an toàn
cho người dùng,

chúng ta phải giả định
những điều tệ nhất

bởi vì xác suất
một trong 1 triệu

thì không phải là nhỏ.

Xin cảm ơn.

(Vổ tay)