Моя задача в Твиттере — обеспечивать доверие пользователей, защищать их права и оберегать их как друг от друга, так и иногда от самих себя. Давайте обсудим масштаб Твиттера. В январе 2009 года в день появлялось более 2 миллионов твитов. В январе 2014 года — более 500 миллионов. То есть 2 миллиона твитов меньше, чем за 6 минут. Это увеличение на 24900%. Большая часть активности в Твиттере никому не угрожает. Нет никакого риска. Моя задача — предотвратить и искоренить то, что может представлять угрозу. Звучит довольно конкретно, так ведь? Может, вы даже думаете, что это просто, поскольку я только что сказала, что, по большей части, активность в Твиттере безопасна. Зачем тратить время в поисках потенциальной катастрофы среди безобидных твитов? Учитывая масштаб Твиттера, один шанс на миллион случается 500 раз в день. То же относится и к другим компаниям, работающим с таким масштабом. Для нас, особенные случаи, подобные редкие, маловероятные ситуации — скорее, норма. Допустим, 99,999% твитов безобидны для всех. Нет никакой опасности. Может быть, пользователи пишут о своих путешествиях, например, на риф в форме сердца в Австралии или твитят о концерте, на который они сходили, или постят картинки милых детёнышей животных. Если вычесть эти 99,999%, то оставшаяся доля процента эквивалентна, грубо говоря, 150 000 твитов в месяц. Сам масштаб нашей работы является испытанием. Знаете, почему ещё моя работа особенно сложная? Люди ведут себя странно. (Смех) И мне приходится разбираться в том, что они делают, зачем, и несёт ли это риск, при этом часто вне контекста либо без дополнительных сведений. Я покажу вам несколько примеров того, с чем мне пришлось столкнуться за время работы в Твиттере. Это взятые из реальной жизни ситуации, которые поначалу казались стандартными, однако, на самом деле, имели совсем другую подоплёку. Детали изменены, чтобы защитить невиновных а в некоторых случаях тех, кто виноват. Начнём с простого. [«Эй, сучка»] Если увидеть такой твит, то можно подумать: «Похоже на оскорбление». С какой стати вам захочется получать сообщение «Эй, сучка»? Я, конечно, пытаюсь быть в курсе последних тенденций и мемов, поэтому знаю, что «Эй, сучка» — это часто используемое приветствие между друзьями, а также известная фраза из сериала «Во все тяжкие». Признаюсь, я не ожидала найти ещё одно значение. Оказывается, эту фразу также используют в Твиттере люди, изображающие собак в ролевых играх. (Смех) В этом случае это не только не оскорбление, но и, фактически, предельно чёткое приветствие. (Смех) Из этого примера понятно, что определить наличие в твите оскорбления вне контекста действительно сложно. Давайте рассмотрим пример спама. Вот образец аккаунта, представляющего классическое поведение спамера: он рассылает одно и то же сообщение тысячам людей. Это модель, которую я создала в своём аккаунте, но на деле мы видим такие примеры регулярно. Казалось бы, понятно, что с этим делать: нужно просто автоматически приостанавливать действие аккаунтов, демонстрирующих такое поведение. Однако из этого правила есть исключения. Оказывается, это сообщение может также быть уведомлением о пролетающей над вами Международной космической станции, на которое вы подписались, потому что хотели выйти из дома и попробовать её разглядеть. Если мы по ошибке приостановим данный аккаунт, приняв его за спам, у вас не будет такой возможности. Давайте рассмотрим ещё более показательные примеры. Снова посмотрим через мой аккаунт на образец типичного поведения. Теперь он рассылает одно и то же сообщение и ссылку. Часто это показатель так называемого «фишинга», когда пытаются завладеть информацией с аккаунта другого человека, направив его на другой вебсайт. Разумеется, в этом нет ничего хорошего. Мы стремимся приостанавливать аккаунты, показывающие такое поведение, и делаем это. Так почему же в этом примере высока вероятность ошибки? Например, это может быть очевидец на митинге, который записал на видео, как офицер полиции применяет силу к мирно протестующему гражданину, и пытается сообщить миру о происходящем. Мы бы не хотели рисковать и заглушать такие важные сообщения, приняв их за спам и приостановив действие аккаунта. Поэтому мы анализируем сотни разных параметров, изучая поведение аккаунтов, и всё равно можем ошибиться, и придётся проводить оценку заново. Учитывая все трудности, с какими мне приходится сталкиваться, мне важно не только предупредить опасность, но и разработать защиту от неожиданностей. Это важно не только для меня или для Твиттера — это важно для вас. Это важно для любого, кто создаёт нечто, как вам кажется, невероятное и позволяющее людям делать замечательные вещи. Что же мне делать? Я задумываюсь: как же может произойти ужасная ошибка? Я представляю себе катастрофу. Это сложно. Возникает неотъемлемый когнитивный диссонанс, как когда приходится одновременно сочинять свадебные клятвы и брачный договор. (Смех) Но всё равно приходится это делать, особенно если связываешь себя с 500 миллионами твитов в день. Что я имею в виду под «представляю себе катастрофу»? Я пытаюсь представить, как что-то милое и безвредное, например, изображение кошки, может привести к смертельному случаю, и думаю, как это предотвратить. Покажу это на следующем примере. Это моя кошка Эли. Мы хотели дать пользователям возможность добавлять картинки к твитам. Картинка может выразить тысячу слов, а у вас в распоряжении всего лишь 140 знаков. Стоит добавить фото к твиту — и он становится значительно богаче по содержанию. Добавление фото к твиту даёт много возможностей. Однако моя задача — думать не об этом, а о том, что может пойти не так. Как эта картинка может стать причиной моей смерти? Вот, например, один способ. Это не просто изображение кошки. Это ещё и данные о местоположении. Когда вы снимаете что-то на смартфон или на цифровую камеру, в полученном изображении сохраняется много дополнительной информации. В действительности, эта картинка также содержит эквивалент вот этого, а, если быть точнее, вот этого. Конечно, маловероятно, что кто-то попытается отследить меня и сделать что-то со мной, основываясь на данных, связанных с фотографией моей кошки, но я начинаю думать о худшем варианте развития событий. Поэтому, когда мы запустили фотосервис в Твиттере, мы решили отказаться от отображения данных о местоположении. (Аплодисменты) Если я буду думать о худшем варианте и отталкиваться от него, я могу быть уверенной, что защита, которую мы разрабатываем, подойдёт как для типичных, так и для нетипичных случаев. Учитывая, что я день и ночь только и делаю, что воображаю себе худший из возможных исходов, никого бы не удивило, если бы у меня был мрачный взгляд на мир. (Смех) Это не так. Большая часть того, что я вижу, — а я вижу много, уж поверьте, — это позитивное общение, когда люди помогают друг другу, или хотят стать ближе друг другу, или поделиться информацией. Дело в том, что работая с масштабом, когда необходимо заботиться о безопасности пользователей, нам приходится думать о худшем варианте, потому что в нашем случае шанс один на миллион — это довольно высокий шанс. Спасибо. (Аплодисменты)