Моя задача в Твиттере —
обеспечивать доверие пользователей,
защищать их права и оберегать их
как друг от друга,
так и иногда от самих себя.
Давайте обсудим масштаб Твиттера.
В январе 2009 года
в день появлялось
более 2 миллионов твитов.
В январе 2014 года —
более 500 миллионов.
То есть 2 миллиона твитов
меньше, чем за 6 минут.
Это увеличение на 24900%.
Большая часть активности в Твиттере
никому не угрожает.
Нет никакого риска.
Моя задача — предотвратить и искоренить
то, что может представлять угрозу.
Звучит довольно конкретно, так ведь?
Может, вы даже думаете,
что это просто,
поскольку я только что сказала,
что, по большей части,
активность в Твиттере безопасна.
Зачем тратить время
в поисках потенциальной катастрофы
среди безобидных твитов?
Учитывая масштаб Твиттера,
один шанс на миллион
случается 500 раз в день.
То же относится и к другим компаниям,
работающим с таким масштабом.
Для нас, особенные случаи,
подобные редкие,
маловероятные ситуации —
скорее, норма.
Допустим, 99,999% твитов
безобидны для всех.
Нет никакой опасности.
Может быть, пользователи пишут
о своих путешествиях,
например, на риф
в форме сердца в Австралии
или твитят о концерте,
на который они сходили,
или постят картинки
милых детёнышей животных.
Если вычесть эти 99,999%,
то оставшаяся доля процента
эквивалентна,
грубо говоря,
150 000 твитов в месяц.
Сам масштаб нашей работы
является испытанием.
Знаете, почему ещё моя работа
особенно сложная?
Люди ведут себя странно.
(Смех)
И мне приходится
разбираться в том, что они делают,
зачем, и несёт ли это риск,
при этом часто вне контекста
либо без дополнительных сведений.
Я покажу вам
несколько примеров того,
с чем мне пришлось столкнуться
за время работы в Твиттере.
Это взятые из реальной жизни
ситуации, которые поначалу
казались стандартными,
однако, на самом деле,
имели совсем другую подоплёку.
Детали изменены,
чтобы защитить невиновных
а в некоторых случаях тех,
кто виноват.
Начнём с простого.
[«Эй, сучка»]
Если увидеть такой твит,
то можно подумать:
«Похоже на оскорбление».
С какой стати вам захочется
получать сообщение
«Эй, сучка»?
Я, конечно, пытаюсь быть в курсе
последних тенденций и мемов,
поэтому знаю, что «Эй, сучка» —
это часто используемое
приветствие между друзьями,
а также известная фраза
из сериала «Во все тяжкие».
Признаюсь, я не ожидала
найти ещё одно значение.
Оказывается, эту фразу
также используют в Твиттере
люди, изображающие собак
в ролевых играх.
(Смех)
В этом случае
это не только не оскорбление,
но и, фактически,
предельно чёткое приветствие.
(Смех)
Из этого примера понятно,
что определить
наличие в твите
оскорбления вне контекста
действительно сложно.
Давайте рассмотрим пример спама.
Вот образец аккаунта,
представляющего классическое
поведение спамера:
он рассылает
одно и то же сообщение
тысячам людей.
Это модель, которую
я создала в своём аккаунте,
но на деле мы видим
такие примеры регулярно.
Казалось бы, понятно,
что с этим делать:
нужно просто автоматически
приостанавливать действие аккаунтов,
демонстрирующих такое поведение.
Однако из этого правила
есть исключения.
Оказывается, это сообщение
может также быть уведомлением
о пролетающей над вами
Международной космической станции,
на которое вы подписались,
потому что хотели
выйти из дома
и попробовать её разглядеть.
Если мы по ошибке
приостановим данный аккаунт,
приняв его за спам,
у вас не будет такой возможности.
Давайте рассмотрим
ещё более показательные примеры.
Снова посмотрим через мой аккаунт
на образец типичного поведения.
Теперь он рассылает
одно и то же сообщение и ссылку.
Часто это показатель
так называемого «фишинга»,
когда пытаются завладеть
информацией с аккаунта другого человека,
направив его на другой вебсайт.
Разумеется,
в этом нет ничего хорошего.
Мы стремимся
приостанавливать аккаунты,
показывающие такое поведение,
и делаем это.
Так почему же в этом примере
высока вероятность ошибки?
Например, это может быть
очевидец на митинге,
который записал на видео,
как офицер полиции применяет силу
к мирно протестующему гражданину,
и пытается сообщить миру
о происходящем.
Мы бы не хотели рисковать
и заглушать такие важные сообщения,
приняв их за спам
и приостановив действие аккаунта.
Поэтому мы анализируем
сотни разных параметров,
изучая поведение аккаунтов,
и всё равно можем ошибиться,
и придётся проводить оценку заново.
Учитывая все трудности,
с какими мне приходится сталкиваться,
мне важно не только
предупредить опасность,
но и разработать защиту
от неожиданностей.
Это важно не только для меня
или для Твиттера —
это важно для вас.
Это важно для любого,
кто создаёт нечто,
как вам кажется, невероятное
и позволяющее людям
делать замечательные вещи.
Что же мне делать?
Я задумываюсь:
как же может произойти
ужасная ошибка?
Я представляю себе катастрофу.
Это сложно.
Возникает неотъемлемый
когнитивный диссонанс,
как когда приходится
одновременно сочинять
свадебные клятвы и брачный договор.
(Смех)
Но всё равно приходится это делать,
особенно если связываешь себя
с 500 миллионами твитов в день.
Что я имею в виду под
«представляю себе катастрофу»?
Я пытаюсь представить, как что-то
милое и безвредное,
например, изображение кошки,
может привести
к смертельному случаю,
и думаю, как это предотвратить.
Покажу это на следующем примере.
Это моя кошка Эли.
Мы хотели дать
пользователям возможность
добавлять картинки к твитам.
Картинка может выразить тысячу слов,
а у вас в распоряжении
всего лишь 140 знаков.
Стоит добавить фото к твиту —
и он становится значительно
богаче по содержанию.
Добавление фото к твиту
даёт много возможностей.
Однако моя задача —
думать не об этом,
а о том, что может пойти не так.
Как эта картинка может
стать причиной моей смерти?
Вот, например, один способ.
Это не просто изображение кошки.
Это ещё и данные о местоположении.
Когда вы снимаете что-то на смартфон
или на цифровую камеру,
в полученном изображении сохраняется
много дополнительной информации.
В действительности,
эта картинка также содержит
эквивалент вот этого,
а, если быть точнее, вот этого.
Конечно, маловероятно,
что кто-то попытается
отследить меня
и сделать что-то со мной,
основываясь на данных,
связанных с фотографией моей кошки,
но я начинаю думать
о худшем варианте развития событий.
Поэтому, когда мы запустили
фотосервис в Твиттере,
мы решили отказаться
от отображения данных о местоположении.
(Аплодисменты)
Если я буду думать о худшем варианте
и отталкиваться от него,
я могу быть уверенной,
что защита, которую мы разрабатываем,
подойдёт как для типичных,
так и для нетипичных случаев.
Учитывая, что я день и ночь
только и делаю,
что воображаю себе
худший из возможных исходов,
никого бы не удивило, если бы у меня
был мрачный взгляд на мир.
(Смех)
Это не так.
Большая часть того, что я вижу, —
а я вижу много, уж поверьте, —
это позитивное общение,
когда люди помогают друг другу,
или хотят стать ближе друг другу,
или поделиться информацией.
Дело в том, что работая с масштабом,
когда необходимо заботиться
о безопасности пользователей,
нам приходится думать
о худшем варианте,
потому что в нашем случае
шанс один на миллион —
это довольно высокий шанс.
Спасибо.
(Аплодисменты)