推特對特殊訊息的衡量

在推持，每秒有成千上萬則訊息被傳送，百萬分一的機會看似微小無害，但對使用者造成傷害的訊息，算下來每天大約會發生 500 萬次。在推特的信任及安全團隊擔任主管的戴爾．哈維認為這樣的機率不容忽視。這位安全專家花大量的時間思考，在給人們發言機會的同時，也說明如何避免最壞的情況發生，以不動聲色的幽默，讓大家了解她是如何保護 2.4 億推特用戶的安全。

我在推特的工作

就是確保使用者對推特的信任，

以及保護使用者的權益及安全，

不只是使用者之間

有時是有關使用者本身的權益及安全。

讓我們談談推特訊息的規模。

2009 年 1 月，

每一天，我們在推特平台上

看到超過 200 萬條新訊息。

2014 年 1 月，則有超過 5 億條訊息。

六分鐘內，

就有 200 萬條推文。

那是 24,900% 的成長。

今天，絶大部分在推特上的活動

不會傷害任何人。

沒有任何風險。

我的工作則是根除
任何可能傷害他人權益的活動。

聽起來很簡單，對吧？

你或許會認為這個工作很簡單，

尤其當我說，推特上絕大部分的動作

並不會對任何人造成傷害。

那為什麼要花費這麼多時間

在無害的網路活動中，

尋找可能的危機？

以推特的規模來看，

百萬分之一的機率，

相當於一天會有 500 條
可能造成危害的訊息。

這個訊息量，是其他公司

所要處理的訊息量相同

對我們而言，那些稀少罕見，

不太可能發生的極端事件，

有如家常便飯。

假設百分之 99.999% 的推文

都不會傷害任何人，

不涉及任何風險。

也許大家只是在記錄旅遊景點，

像是澳洲的心形礁，

或是傳些關於他們正在參加的演唱會，

或者是分享一些可愛小動物的照片。

當你除去那 99.999% 的機率，

剩下極微小的百分比

粗估下來

每月大約有十五萬條訊息。

管理這麼龐大的規模，

是個挑戰。

你知道還有什麼

讓我的工作更具挑戰性的嗎？

人會做些奇怪的事。

(笑聲)

而我則必須搞清楚他們在做什麼，

動機是什麼，還有是否有危險性，

且通常是在沒有資料

或背景的情況下就要去搞清楚。

讓我舉幾個我在推特工作時

遇到的例子，

這些全都是真實的案例，

一些原先看來簡單明瞭的情況，

但事情的真相

又是截然不同。

有些細節已被更改，

是為了保護無辜的人，

有時也包括罪犯。

我們從簡單的開始。

[嘿 賤女人]

當你在推特上看到這句話，

你可能會認為：

「那是一種辱罵」。

畢竟，誰會希望收到這樣的訊息：

「嘿，賤女人。」

現在，我試著跟上趨勢

及最新流行用語，

所以我知道「嘿，賤女人」

也常被用作朋友間的招呼用語

是來自於《絕命毒師》的說法。

我得承認我沒有想到

這句話會有第四種用法。

原來在推特上，扮成狗的人

也會用這個詞。

（笑聲）

事實上，在這個情況下，

不止沒有辱罵的意味，

嚴格說來，這是一個準確的問候用語。

（笑聲）

所以，一條沒有來龍去脈的訊息

要去判定這個訊息是否有辱罵的意味，

絕對是很困難的。

我們來看看垃圾訊息。

這是使用者傳送垃圾訊息

的典型例子，

一直不斷地傳送相同的訊息

給上千個人。

這是我用自己帳號作出的模擬範例，

我們總可以看到使用者傳送這樣的訊息。

看起來相當簡單明瞭。

我們應該自動封鎖

涉及這種行為的帳號。

結果總有些例外。

這些訊息，也有可能是通知

你登記參加國際太空站經過你上空的活動，

你希望收到通知，即時走到戶外

可以親自目睹。

你絶不會因為

誤認為這是垃圾訊息

而停用這個帳號的情況發生。

好。讓我們再把風險的層級提高。

再來看我的帳號，

在推特上展示特定的行為。

這次是在持特上傳送相同的訊息和連結

這通常是一種網路釣魚，

有人試著去引導他人到另一個網站

然後盜用他的帳號

很明顯這不是一件好事。

我們要，而且必須去阻止

可疑的帳號去做這樣的行為。

但是，為何這麼做風險更高？

這像是遊行人潮當中的旁觀者

拿著攝影機，對著

警察動手打一個
無暴力行為的抗議者攝影，

好讓全世界的人知道此事。

我們不想冒這個險

把有可能很重要的訊息

歸類為垃圾訊息，然後停用帳號。

那意味著，當我們在觀察使用者行為時

我們憑估成千上百個因素，

即使是這麼做了，百密仍有一疏，

必須再重新評估這些訊息。

現在，面臨各式各樣的挑戰，

重要的是，不但要去預測可能發生的事，

而且要對可能發生的事，
設計一套因應的保護措施。

這不僅事關我和推特，

這也關係到你。

關係到任何想創造美好事物，

以及想要讓他人也一起
做美好事物的推特使用者。

所以我要怎麼做呢？

我一再思考這問題

這些事情

到底怎麼會出錯？

我想像發生災難的情形。

這很困難，

因為這麼做，
有點像是內在認知不協調，

就像是寫結婚誓言時，

同時也寫婚前協議書。

（笑聲）

但還是必須要去做，

特別是每天要處理 5 億條推文。

我所說的「想像災難」是什麼意思呢？

我試著去想像，

像是一張無害的貓咪照片

為何可能導致死亡，

以及如何避免這種事情發生。

正是接下來我要說的例子。

這隻是我的貓，叫伊萊。

我們盡可能讓推特的使用者

在推特上傳送圖片，

一張圖勝過千言萬語，

而一次推文只能傳送 140 個字。

你在推文加入圖片，

你會發現推文的內容更加豐富。

藉由推特加入圖片的功能，

你可以做各種麼美妙的事。

我的工作不是去想這些事情。

而是去想事情可能會出什麼差錯。

這張圖片

如何導致我死亡？

有一個可能性。

這張圖的資訊不只是一隻貓。

還有地理資訊在裡頭。

當你以智慧型手機

或數位相機拍照，

會有許多額外的資訊

儲存在照片裡。

事實上，這張照片還包含

相當於這個的資訊，

更具體地說是這個。

當然，不太可能有人嘗試

根據這張貓照片的相關資訊

追蹤我以及傷害我。

但我一開始就要假設
最壞的情況一定會發生，

這就是為什麼我們
在開放上傳照片到推特時，

就決定把照片裡的地理資訊全刪掉。

（掌聲）

如果一開始，我就假設
可能發生最壞的情況，

然後再往前倒推，

我可以確定我們建立的保護制度，

可以應付意料中

以及意料外的事件。

我日夜地

想像發生最壞情況的情形，

如果因此造成我憂鬱的世界觀，
也不會令人感到意外。

（笶聲）

其實並非如此。

我看到的絶大部份互動，

我看了很多，相信我，
它們都是正面的。

人們伸出援手互相幫忙，

彼此互相連絡或分享資訊。

只是我們要處理龐大的資訊量，

承擔保護使用者安全的責任，

所以必須假設將發生最壞的情況，

對我們來說，百萬分之一的可能性

是相當高的機率。

謝謝。

（掌聲）