Моя задача в Твиттере —
обеспечивать доверие пользователей,
защищать их права и оберегать их
как друг от друга,
так и иногда от самих себя.
Давайте обсудим масштаб Твиттера.
В январе 2009 года
в день появлялось
более 2 миллионов твитов.
В январе 2014 года — более 500 миллионов.
То есть 2 миллиона твитов
меньше, чем за 6 минут.
Это увеличение на 24900%.
Большая часть активности в Твиттере
никому не угрожает.
Нет никакого риска.
Моя задача — предотвратить и искоренить то, что может представлять угрозу.
Звучит довольно конкретно, так ведь?
Может, вы даже думаете, что это просто,
поскольку я только что сказала, что, по большей части,
активность в Твиттере безопасна.
Зачем тратить время
в поисках потенциальной катастрофы
среди безобидных твитов?
Учитывая масштаб Твиттера,
один шанс на миллион
случается 500 раз в день.
То же относится и к другим компаниям,
работающим с таким масштабом.
Для нас, особенные случаи,
подобные редкие, маловероятные ситуации —
скорее, норма.
Допустим, 99,999% твитов
безобидны для всех.
Нет никакой опасности.
Может быть, пользователи пишут о своих путешествиях,
например, на риф в форме сердца в Австралии
или твитят о концерте, на который они сходили,
или постят картинки милых детёнышей животных.
Если вычесть эти 99,999%,
то оставшаяся доля процента эквивалентна,
грубо говоря,
150 000 твитов в месяц.
Сам масштаб нашей работы
является испытанием.
Знаете, почему ещё моя работа
особенно сложная?
Люди ведут себя странно.
(Смех)
И мне приходится разбираться в том, что они делают,
зачем, и несёт ли это риск,
при этом часто вне контекста
либо без дополнительных сведений.
Я покажу вам несколько примеров того,
с чем мне пришлось столкнуться за время работы в Твиттере.
Это взятые из реальной жизни
ситуации, которые поначалу казались стандартными,
однако, на самом деле,
имели совсем другую подоплёку.
Детали изменены,
чтобы защитить невиновных
а в некоторых случаях тех, кто виноват.
Начнём с простого.
[«Эй, сучка»]
Если увидеть такой твит,
то можно подумать:
«Похоже на оскорбление».
С какой стати вам захочется получать сообщение
«Эй, сучка»?
Я, конечно, пытаюсь быть в курсе
последних тенденций и мемов,
поэтому знаю, что «Эй, сучка» —
это часто используемое приветствие между друзьями,
а также известная фраза из сериала «Во все тяжкие».
Признаюсь, я не ожидала
найти ещё одно значение.
Оказывается, эту фразу также используют в Твиттере
люди, изображающие собак в ролевых играх.
(Смех)
В этом случае
это не только не оскорбление,
но и, фактически, предельно чёткое приветствие.
(Смех)
Из этого примера понятно, что определить
наличие в твите оскорбления вне контекста
действительно сложно.
Давайте рассмотрим пример спама.
Вот образец аккаунта,
представляющего классическое поведение спамера:
он рассылает одно и то же сообщение
тысячам людей.
Это модель, которую я создала в своём аккаунте,
но на деле мы видим такие примеры регулярно.
Казалось бы, понятно, что с этим делать:
нужно просто автоматически приостанавливать действие аккаунтов,
демонстрирующих такое поведение.
Однако из этого правила есть исключения.
Оказывается, это сообщение может также быть уведомлением
о пролетающей над вами Международной космической станции,
на которое вы подписались, потому что хотели
выйти из дома и попробовать её разглядеть.
Если мы по ошибке
приостановим данный аккаунт, приняв его за спам,
у вас не будет такой возможности.
Давайте рассмотрим ещё более показательные примеры.
Снова посмотрим через мой аккаунт
на образец типичного поведения.
Теперь он рассылает одно и то же сообщение и ссылку.
Часто это показатель так называемого «фишинга»,
когда пытаются завладеть информацией с аккаунта другого человека,
направив его на другой вебсайт.
Разумеется, в этом нет ничего хорошего.
Мы стремимся приостанавливать аккаунты,
показывающие такое поведение, и делаем это.
Так почему же в этом примере высока вероятность ошибки?
Например, это может быть очевидец на митинге,
который записал на видео,
как офицер полиции применяет силу к мирно протестующему гражданину,
и пытается сообщить миру о происходящем.
Мы бы не хотели рисковать
и заглушать такие важные сообщения,
приняв их за спам и приостановив действие аккаунта.
Поэтому мы анализируем сотни разных параметров,
изучая поведение аккаунтов,
и всё равно можем ошибиться,
и придётся проводить оценку заново.
Учитывая все трудности, с какими мне приходится сталкиваться,
мне важно не только предупредить опасность,
но и разработать защиту от неожиданностей.
Это важно не только для меня
или для Твиттера — это важно для вас.
Это важно для любого, кто создаёт нечто,
как вам кажется, невероятное
и позволяющее людям делать замечательные вещи.
Что же мне делать?
Я задумываюсь:
как же может произойти
ужасная ошибка?
Я представляю себе катастрофу.
Это сложно.
Возникает неотъемлемый когнитивный диссонанс,
как когда приходится
одновременно сочинять свадебные клятвы и брачный договор.
(Смех)
Но всё равно приходится это делать,
особенно если связываешь себя с 500 миллионами твитов в день.
Что я имею в виду под «представляю себе катастрофу»?
Я пытаюсь представить, как что-то
милое и безвредное, например, изображение кошки,
может привести к смертельному случаю,
и думаю, как это предотвратить.
Покажу это на следующем примере.
Это моя кошка Эли.
Мы хотели дать пользователям возможность
добавлять картинки к твитам.
Картинка может выразить тысячу слов,
а у вас в распоряжении всего лишь 140 знаков.
Стоит добавить фото к твиту —
и он становится значительно богаче по содержанию.
Добавление фото к твиту
даёт много возможностей.
Однако моя задача — думать не об этом,
а о том, что может пойти не так.
Как эта картинка может
стать причиной моей смерти?
Вот, например, один способ.
Это не просто изображение кошки.
Это ещё и данные о местоположении.
Когда вы снимаете что-то на смартфон
или на цифровую камеру,
в полученном изображении сохраняется
много дополнительной информации.
В действительности, эта картинка также содержит
эквивалент вот этого,
а, если быть точнее, вот этого.
Конечно, маловероятно, что кто-то попытается
отследить меня и сделать что-то со мной,
основываясь на данных,
связанных с фотографией моей кошки,
но я начинаю думать о худшем варианте развития событий.
Поэтому, когда мы запустили фотосервис в Твиттере,
мы решили отказаться от отображения данных о местоположении.
(Аплодисменты)
Если я буду думать о худшем варианте
и отталкиваться от него,
я могу быть уверенной, что защита, которую мы разрабатываем,
подойдёт как для типичных,
так и для нетипичных случаев.
Учитывая, что я день и ночь только и делаю,
что воображаю себе худший из возможных исходов,
никого бы не удивило, если бы у меня был мрачный взгляд на мир.
(Смех)
Это не так.
Большая часть того, что я вижу, —
а я вижу много, уж поверьте, — это позитивное общение,
когда люди помогают друг другу,
или хотят стать ближе друг другу, или поделиться информацией.
Дело в том, что работая с масштабом,
когда необходимо заботиться о безопасности пользователей,
нам приходится думать о худшем варианте,
потому что в нашем случае шанс один на миллион —
это довольно высокий шанс.
Спасибо.
(Аплодисменты)