Twitterでの
私の仕事は
ユーザーの信頼を確保し
ユーザーの権利を守り
安全を保つということです
他のユーザーから
そして 時には
彼ら自身から
Twitterの規模が どのようなものか
見てみましょう
2009年1月には
1日に200万以上の
ツイートがありました
1日に200万以上の
ツイートがありました
2014年1月には1日のツイート数は
5億以上になりました
200万のツイートが
6分足らずの間に行われます
24,900%増加したわけです
Twitter上の活動の大多数は
誰かを危険にさらすことはありません
Twitter上の活動の大多数は
誰かを危険にさらすことはありません
何のリスクもありません
私の仕事は 危険な可能性のある
活動をなくし 予防することです
単純な話に聞こえるでしょう?
簡単そうだと
なにしろTwitter上の
活動の大多数は
無害なものなのですから
ではなぜ そのような
害のない活動の中から
潜在的な危険を探すために
多くの時間を
費やしているのでしょう?
Twitterの規模を考えたなら
百万に1つの可能性は
1日に500回起きるのです
これは こんな規模を扱う
他の企業でも同様です
これは こんな規模を扱う
他の企業でも同様です
私たちにとって
起きそうにない
まれなケースというのが
日常的に起きるのです
99.999%のツイートに
何ら危険が
なかったとしましょう
オーストラリアの
ハートリーフのような場所で
旅の記録を
取っているのか
参加しているコンサートのことを
つぶやいているのか
あるいは かわいい動物の赤ちゃんの
写真を見せているのかもしれません
そのような99.999%を
取り除いた後に残る
ごくわずかの
ツイートの数は
おおよそ
月に15万になります
私たちの扱っている
規模の大きさが
難題を生み出しているのです
私の仕事を
難しくする
もう1つのものが
何かわかりますか?
人間って変なことをする
ということです
(笑)
彼らが何を
なぜやっているのか
そこに危険がないか
見極めなければなりません
あまり文脈や背景の
情報なしにです
私がTwitterで
仕事する中で出会った
例をいくつか
お目にかけましょう
いずれも実際の事例です
一見ありきたりの
状況に見えながら
真実はまったく異なる—
という例です
細部は 罪のない人の
あるいは
罪ある人かもしれませんが
プライバシーを守るため
変えてあります
簡単なのから いきましょう
[“Yo bitch” (おう メス犬)]
このツイートだけ見たら
罵り言葉だと
思うことでしょう
誰が「おう メス犬」
なんてメッセージを
受け取りたいと
思うでしょう
私は最近のトレンドや
ミームには
敏感であろうと
努めていますので
“Yo bitch”が
友達同士の挨拶に
使われることや
人気ドラマ『ブレーキング・バッド』の台詞の
引用でありうることは承知しています
しかしこの第4の用法は
正直予期していませんでした
これはTwitterで
犬のフリをして話す時に
使われるということです
[“Yo bitch” (おう メス犬)] (笑)
この場合には
罵り言葉でないだけでなく
むしろ状況に即した
正しい挨拶と言えるでしょう
(笑)
何かの言葉が
口汚いかどうかを
文脈抜きに判断するのは
困難なのです
スパムを考えてみましょう
これは典型的な
スパマーの行動です
これは典型的な
スパマーの行動です
まったく同一のメッセージを
何千という人に送りつけます
まったく同一のメッセージを
何千という人に送りつけます
これは私自身のアカウントで
真似て見せたものですが
このようなものは
しょっちゅう目にしています
すごく分かりやすいですよね
このようなことを
しているアカウントは
自動的に閉鎖して
しまうべきでしょう
しかし例外があることが
分かりました
あのようなメッセージが
頭上を通過する
国際宇宙ステーションを
外に出て見られるよう
通知してくれる
サービスかもしれないのです
これをスパムとみなして
アカウントを閉鎖してしまったら
みんな宇宙ステーションを
見逃してしまうでしょう
より重大なケースを
考えてみましょう
再び私のアカウントで
典型的な問題行動を
模倣してみました
多数の同一メッセージを
リンク付きで送るというものです
これはフィッシングと呼ばれるものに
よく見受けられます
他のサイトに
誘導することで
アカウント情報を
盗もうとするのです
明らかに良くないことです
このような活動を
しているアカウントは
停止したいし
実際停止していますが
ではなぜこれが
重大だというのでしょう?
これは もしかしたら
無抵抗の抗議者に
暴力を振るう警官を
目撃者が録画し
世界に伝えようと
しているのかもしれないのです
それをスパムに分類して
重要な言論を封じて
しまうような危険を
冒したくはありません
だからアカウントの
活動を見る時には
何百という尺度を
使っていますが
それでも時には間違い
再確認を要することが
あり得ます
私が直面している難題の
種類を考えるなら
惨事を予想するだけでなく
予想外のことから守る仕組みを
設けることも重要です
これは私やTwitterにとって
だけの問題ではなく
皆さんの問題でもあるのです
みんなが素晴らしいことを
できるようにする
何かすごいものを
作ろうとしている
すべての人にとっての
問題です
ではどうするのか?
立ち止まって
こう考えるんです
「まったく酷いことが
これから起きるとしたら
どのようにしてか?」
惨事を思い描くのです
これは難しいことです
一種の認知的不協和があります
結婚の誓いの言葉と同時に
婚前同意書を作ろうとする
ようなものです
(笑)
でもやらなければ
ならないんです
1日5億のツイートと
結婚すると決めたなら
惨事を思い描くというのは
猫の写真のような
害のないものが
いかに人の死に
つながりうるか
それを いかに防げるか
考えるということです
それを いかに防げるか
考えるということです
次のケースが
まさにその例です
これは私の猫のイーライです
私たちはツイートに写真を
付けられるように
したいと思いました
百聞は一見にしかずです
たった140文字のツイートに
写真を付けたなら
どれほど内容が
豊かになるでしょう
ツイートに写真を付けることで
可能になる素晴らしいことが
たくさんあります
でもそれを考えるのは
私の仕事ではありません
それがどうマズくなりうるか
考えるのが私の仕事です
この写真がどうしたら
私の死につながりうるのか?
たとえば こんな可能性があります
この写真に写っていのは
猫だけではありません
GPS情報があります
携帯やデジカメで
写真を撮る時
画像とともに保存される
写真を撮る時
画像とともに保存される
様々な情報があります
この画像には
これと同等の情報
より具体的には
この位置情報が含まれています
私が撮った猫の写真の
付随情報から
私の居所を突き止め
悪さをしようという人が
いるとも思えませんが
しかし私は最悪のことは起こると
仮定するところから始めます
私たちがツイートに写真を
付けられるようにした時
GPS情報が取り除かれる
ようにしたのは そのためです
(拍手)
常に最悪のことを仮定し
保守的に構えることで
私たちの作る守りが
間違いなく
予期されることにも
予期せざることにも
働くようにできます
起こりうる最悪のことを
いつも想像して
過ごしていたら
私の世界観が暗いものになったとしても
不思議はないでしょう
(笑)
でもそうではありません
私が目にする
やりとりの大多数は
本当にたくさん見ていますが
ポジティブなのです
人々が助けの手を伸ばし
互いに繋がり合い
情報を共有し合っています
ただ私たちのような
大規模のものを扱い
人々の安全を保つことを
仕事とする者は
最悪のことは起こると
仮定せざるを得ないのです
私たちにとって
百万に1つという可能性というのは
至極起きがちなことだからです
ありがとうございました
(拍手)