0:00:00.984,0:00:02.275
Моя задача в Твиттере —

0:00:02.275,0:00:04.253
обеспечивать доверие пользователей,

0:00:04.253,0:00:07.090
защищать их права и оберегать их

0:00:07.090,0:00:08.350
как друг от друга,

0:00:08.350,0:00:12.249
так и иногда от самих себя.

0:00:12.249,0:00:16.524
Давайте обсудим масштаб Твиттера.

0:00:16.524,0:00:19.394
В январе 2009 года

0:00:19.394,0:00:22.725
в день появлялось

0:00:22.725,0:00:24.489
более 2 миллионов твитов.

0:00:24.489,0:00:30.397
В январе 2014 года —[br]более 500 миллионов.

0:00:30.397,0:00:32.889
То есть 2 миллиона твитов

0:00:32.889,0:00:35.065
меньше, чем за 6 минут.

0:00:35.065,0:00:42.049
Это увеличение на 24900%.

0:00:42.049,0:00:45.302
Большая часть активности в Твиттере

0:00:45.302,0:00:46.805
никому не угрожает.

0:00:46.805,0:00:48.740
Нет никакого риска.

0:00:48.740,0:00:54.493
Моя задача — предотвратить и искоренить[br]то, что может представлять угрозу.

0:00:54.493,0:00:56.466
Звучит довольно конкретно, так ведь?

0:00:56.466,0:00:57.618
Может, вы даже думаете,[br]что это просто,

0:00:57.618,0:00:59.788
поскольку я только что сказала,[br]что, по большей части,

0:00:59.788,0:01:03.598
активность в Твиттере безопасна.

0:01:03.598,0:01:05.767
Зачем тратить время

0:01:05.767,0:01:08.510
в поисках потенциальной катастрофы

0:01:08.510,0:01:11.410
среди безобидных твитов?

0:01:11.410,0:01:14.350
Учитывая масштаб Твиттера,

0:01:14.350,0:01:16.707
один шанс на миллион

0:01:16.707,0:01:21.583
случается 500 раз в день.

0:01:21.583,0:01:23.028
То же относится и к другим компаниям,

0:01:23.028,0:01:24.499
работающим с таким масштабом.

0:01:24.499,0:01:26.207
Для нас, особенные случаи,

0:01:26.207,0:01:29.832
подобные редкие,[br]маловероятные ситуации —

0:01:29.832,0:01:32.454
скорее, норма.

0:01:32.454,0:01:36.396
Допустим, 99,999% твитов

0:01:36.396,0:01:38.284
безобидны для всех.

0:01:38.284,0:01:39.350
Нет никакой опасности.

0:01:39.350,0:01:42.304
Может быть, пользователи пишут[br]о своих путешествиях,

0:01:42.304,0:01:44.267
например, на риф[br]в форме сердца в Австралии

0:01:44.267,0:01:47.188
или твитят о концерте,[br]на который они сходили,

0:01:47.188,0:01:51.935
или постят картинки[br]милых детёнышей животных.

0:01:51.935,0:01:56.444
Если вычесть эти 99,999%,

0:01:56.444,0:01:59.973
то оставшаяся доля процента[br]эквивалентна,

0:01:59.973,0:02:02.362
грубо говоря,

0:02:02.362,0:02:05.837
150 000 твитов в месяц.

0:02:05.837,0:02:08.293
Сам масштаб нашей работы

0:02:08.293,0:02:10.605
является испытанием.

0:02:10.605,0:02:11.783
Знаете, почему ещё моя работа

0:02:11.783,0:02:14.890
особенно сложная?

0:02:14.890,0:02:20.013
Люди ведут себя странно.

0:02:20.013,0:02:21.842
(Смех)

0:02:21.842,0:02:24.233
И мне приходится[br]разбираться в том, что они делают,

0:02:24.233,0:02:26.482
зачем, и несёт ли это риск,

0:02:26.482,0:02:28.650
при этом часто вне контекста

0:02:28.650,0:02:30.497
либо без дополнительных сведений.

0:02:30.497,0:02:32.574
Я покажу вам[br]несколько примеров того,

0:02:32.574,0:02:34.579
с чем мне пришлось столкнуться[br]за время работы в Твиттере.

0:02:34.579,0:02:36.199
Это взятые из реальной жизни

0:02:36.199,0:02:38.852
ситуации, которые поначалу[br]казались стандартными,

0:02:38.852,0:02:40.495
однако, на самом деле,

0:02:40.495,0:02:42.045
имели совсем другую подоплёку.

0:02:42.045,0:02:44.022
Детали изменены,

0:02:44.022,0:02:45.279
чтобы защитить невиновных

0:02:45.279,0:02:48.512
а в некоторых случаях тех,[br]кто виноват.

0:02:48.512,0:02:51.517
Начнём с простого.

0:02:51.517,0:02:53.310
[«Эй, сучка»]

0:02:53.310,0:02:56.538
Если увидеть такой твит,

0:02:56.538,0:02:58.232
то можно подумать:

0:02:58.232,0:02:59.885
«Похоже на оскорбление».

0:02:59.885,0:03:02.992
С какой стати вам захочется[br]получать сообщение

0:03:02.992,0:03:05.210
«Эй, сучка»?

0:03:05.210,0:03:09.873
Я, конечно, пытаюсь быть в курсе

0:03:09.873,0:03:12.385
последних тенденций и мемов,

0:03:12.385,0:03:15.089
поэтому знаю, что «Эй, сучка» —

0:03:15.089,0:03:18.243
это часто используемое[br]приветствие между друзьями,

0:03:18.243,0:03:22.505
а также известная фраза[br]из сериала «Во все тяжкие».

0:03:22.505,0:03:24.992
Признаюсь, я не ожидала

0:03:24.992,0:03:27.833
найти ещё одно значение.

0:03:27.833,0:03:30.937
Оказывается, эту фразу[br]также используют в Твиттере

0:03:30.937,0:03:33.999
люди, изображающие собак[br]в ролевых играх.

0:03:33.999,0:03:39.278
(Смех)

0:03:39.278,0:03:40.944
В этом случае

0:03:40.944,0:03:42.553
это не только не оскорбление,

0:03:42.553,0:03:45.692
но и, фактически,[br]предельно чёткое приветствие.

0:03:45.692,0:03:48.581
(Смех)

0:03:48.581,0:03:50.652
Из этого примера понятно,[br]что определить

0:03:50.652,0:03:52.500
наличие в твите[br]оскорбления вне контекста

0:03:52.500,0:03:54.092
действительно сложно.

0:03:54.092,0:03:56.809
Давайте рассмотрим пример спама.

0:03:56.809,0:03:58.769
Вот образец аккаунта,

0:03:58.769,0:04:00.437
представляющего классическое[br]поведение спамера:

0:04:00.437,0:04:01.996
он рассылает[br]одно и то же сообщение

0:04:01.996,0:04:03.800
тысячам людей.

0:04:03.800,0:04:06.593
Это модель, которую[br]я создала в своём аккаунте,

0:04:06.593,0:04:09.594
но на деле мы видим[br]такие примеры регулярно.

0:04:09.594,0:04:11.573
Казалось бы, понятно,[br]что с этим делать:

0:04:11.573,0:04:13.626
нужно просто автоматически[br]приостанавливать действие аккаунтов,

0:04:13.626,0:04:16.933
демонстрирующих такое поведение.

0:04:16.933,0:04:20.143
Однако из этого правила[br]есть исключения.

0:04:20.143,0:04:23.026
Оказывается, это сообщение[br]может также быть уведомлением

0:04:23.026,0:04:26.915
о пролетающей над вами[br]Международной космической станции,

0:04:26.915,0:04:28.761
на которое вы подписались,[br]потому что хотели

0:04:28.761,0:04:30.709
выйти из дома[br]и попробовать её разглядеть.

0:04:30.709,0:04:31.934
Если мы по ошибке

0:04:31.934,0:04:33.781
приостановим данный аккаунт,[br]приняв его за спам,

0:04:33.781,0:04:36.047
у вас не будет такой возможности.

0:04:36.047,0:04:39.573
Давайте рассмотрим[br]ещё более показательные примеры.

0:04:39.573,0:04:41.489
Снова посмотрим через мой аккаунт

0:04:41.489,0:04:44.994
на образец типичного поведения.

0:04:44.994,0:04:47.637
Теперь он рассылает[br]одно и то же сообщение и ссылку.

0:04:47.637,0:04:50.411
Часто это показатель[br]так называемого «фишинга»,

0:04:50.411,0:04:53.589
когда пытаются завладеть[br]информацией с аккаунта другого человека,

0:04:53.589,0:04:55.792
направив его на другой вебсайт.

0:04:55.792,0:04:59.986
Разумеется,[br]в этом нет ничего хорошего.

0:04:59.986,0:05:01.916
Мы стремимся[br]приостанавливать аккаунты,

0:05:01.916,0:05:04.540
показывающие такое поведение,[br]и делаем это.

0:05:04.540,0:05:07.787
Так почему же в этом примере[br]высока вероятность ошибки?

0:05:07.787,0:05:10.786
Например, это может быть[br]очевидец на митинге,

0:05:10.786,0:05:12.696
который записал на видео,

0:05:12.696,0:05:15.966
как офицер полиции применяет силу[br]к мирно протестующему гражданину,

0:05:15.966,0:05:18.941
и пытается сообщить миру[br]о происходящем.

0:05:18.941,0:05:20.584
Мы бы не хотели рисковать

0:05:20.584,0:05:23.101
и заглушать такие важные сообщения,

0:05:23.101,0:05:26.030
приняв их за спам[br]и приостановив действие аккаунта.

0:05:26.030,0:05:28.909
Поэтому мы анализируем[br]сотни разных параметров,

0:05:28.909,0:05:30.597
изучая поведение аккаунтов,

0:05:30.597,0:05:32.613
и всё равно можем ошибиться,

0:05:32.613,0:05:34.849
и придётся проводить оценку заново.

0:05:34.849,0:05:38.557
Учитывая все трудности,[br]с какими мне приходится сталкиваться,

0:05:38.557,0:05:41.253
мне важно не только[br]предупредить опасность,

0:05:41.253,0:05:45.037
но и разработать защиту[br]от неожиданностей.

0:05:45.037,0:05:47.379
Это важно не только для меня

0:05:47.379,0:05:49.466
или для Твиттера —[br]это важно для вас.

0:05:49.466,0:05:51.872
Это важно для любого,[br]кто создаёт нечто,

0:05:51.872,0:05:53.797
как вам кажется, невероятное

0:05:53.797,0:05:56.586
и позволяющее людям[br]делать замечательные вещи.

0:05:56.586,0:05:59.452
Что же мне делать?

0:05:59.452,0:06:02.770
Я задумываюсь:

0:06:02.770,0:06:04.865
как же может произойти

0:06:04.865,0:06:08.658
ужасная ошибка?

0:06:08.658,0:06:13.111
Я представляю себе катастрофу.

0:06:13.111,0:06:15.574
Это сложно.

0:06:15.574,0:06:18.422
Возникает неотъемлемый[br]когнитивный диссонанс,

0:06:18.422,0:06:20.234
как когда приходится

0:06:20.234,0:06:22.880
одновременно сочинять[br]свадебные клятвы и брачный договор.

0:06:22.880,0:06:24.576
(Смех)

0:06:24.576,0:06:26.949
Но всё равно приходится это делать,

0:06:26.949,0:06:31.395
особенно если связываешь себя[br]с 500 миллионами твитов в день.

0:06:31.395,0:06:34.492
Что я имею в виду под[br]«представляю себе катастрофу»?

0:06:34.492,0:06:37.254
Я пытаюсь представить, как что-то

0:06:37.254,0:06:40.482
милое и безвредное,[br]например, изображение кошки,

0:06:40.482,0:06:41.586
может привести[br]к смертельному случаю,

0:06:41.586,0:06:43.912
и думаю, как это предотвратить.

0:06:43.912,0:06:46.295
Покажу это на следующем примере.

0:06:46.295,0:06:49.405
Это моя кошка Эли.

0:06:49.405,0:06:51.386
Мы хотели дать[br]пользователям возможность

0:06:51.386,0:06:53.459
добавлять картинки к твитам.

0:06:53.459,0:06:55.056
Картинка может выразить тысячу слов,

0:06:55.056,0:06:57.065
а у вас в распоряжении[br]всего лишь 140 знаков.

0:06:57.065,0:06:58.265
Стоит добавить фото к твиту —

0:06:58.265,0:07:01.303
и он становится значительно[br]богаче по содержанию.

0:07:01.303,0:07:02.980
Добавление фото к твиту

0:07:02.980,0:07:04.987
даёт много возможностей.

0:07:04.987,0:07:07.267
Однако моя задача —[br]думать не об этом,

0:07:07.267,0:07:10.014
а о том, что может пойти не так.

0:07:10.014,0:07:11.906
Как эта картинка может

0:07:11.906,0:07:15.445
стать причиной моей смерти?

0:07:15.445,0:07:18.605
Вот, например, один способ.

0:07:18.605,0:07:21.691
Это не просто изображение кошки.

0:07:21.691,0:07:23.783
Это ещё и данные о местоположении.

0:07:23.783,0:07:25.995
Когда вы снимаете что-то на смартфон

0:07:25.995,0:07:27.294
или на цифровую камеру,

0:07:27.294,0:07:28.948
в полученном изображении сохраняется

0:07:28.948,0:07:30.564
много дополнительной информации.

0:07:30.564,0:07:32.496
В действительности,[br]эта картинка также содержит

0:07:32.496,0:07:34.301
эквивалент вот этого,

0:07:34.301,0:07:37.380
а, если быть точнее, вот этого.

0:07:37.380,0:07:39.336
Конечно, маловероятно,[br]что кто-то попытается

0:07:39.336,0:07:41.621
отследить меня[br]и сделать что-то со мной,

0:07:41.621,0:07:43.405
основываясь на данных,

0:07:43.405,0:07:45.353
связанных с фотографией моей кошки,

0:07:45.353,0:07:49.004
но я начинаю думать[br]о худшем варианте развития событий.

0:07:49.004,0:07:51.342
Поэтому, когда мы запустили[br]фотосервис в Твиттере,

0:07:51.342,0:07:55.163
мы решили отказаться[br]от отображения данных о местоположении.

0:07:55.163,0:08:01.010
(Аплодисменты)

0:08:01.010,0:08:03.623
Если я буду думать о худшем варианте

0:08:03.623,0:08:04.570
и отталкиваться от него,

0:08:04.570,0:08:07.123
я могу быть уверенной,[br]что защита, которую мы разрабатываем,

0:08:07.123,0:08:08.891
подойдёт как для типичных,

0:08:08.891,0:08:10.969
так и для нетипичных случаев.

0:08:10.969,0:08:13.914
Учитывая, что я день и ночь[br]только и делаю,

0:08:13.914,0:08:16.455
что воображаю себе[br]худший из возможных исходов,

0:08:16.455,0:08:20.712
никого бы не удивило, если бы у меня[br]был мрачный взгляд на мир.

0:08:20.712,0:08:22.495
(Смех)

0:08:22.495,0:08:23.912
Это не так.

0:08:23.912,0:08:27.788
Большая часть того, что я вижу, —

0:08:27.788,0:08:31.689
а я вижу много, уж поверьте, —[br]это позитивное общение,

0:08:31.689,0:08:33.613
когда люди помогают друг другу,

0:08:33.613,0:08:37.061
или хотят стать ближе друг другу,[br]или поделиться информацией.

0:08:37.061,0:08:40.384
Дело в том, что работая с масштабом,

0:08:40.384,0:08:44.184
когда необходимо заботиться[br]о безопасности пользователей,

0:08:44.184,0:08:46.730
нам приходится думать[br]о худшем варианте,

0:08:46.730,0:08:50.957
потому что в нашем случае[br]шанс один на миллион —

0:08:50.957,0:08:53.706
это довольно высокий шанс.

0:08:53.706,0:08:55.570
Спасибо.

0:08:55.570,0:08:59.570
(Аплодисменты)