Особенности масштаба в Твиттере

Когда каждую секунду появляются сотни тысяч новых твитов, те редчайшие вредоносные твиты, кажущиеся такими маловероятными, появляются по 500 раз в день. Для Дель Харви, возглавляющей отдел безопасности в Твиттер, это высокий процент. Будучи специалистом по безопасности, она думает над тем, как предотвратить наихудшее развитие событий и при этом дать возможность людям со всего мира выразить себя. С юмором и невозмутимостью она делится тем, как ей удаётся сохранять спокойствие 240 миллионов пользователей.

Моя задача в Твиттере —

обеспечивать доверие пользователей,

защищать их права и оберегать их

как друг от друга,

так и иногда от самих себя.

Давайте обсудим масштаб Твиттера.

В январе 2009 года

в день появлялось

более 2 миллионов твитов.

В январе 2014 года —
более 500 миллионов.

То есть 2 миллиона твитов

меньше, чем за 6 минут.

Это увеличение на 24900%.

Большая часть активности в Твиттере

никому не угрожает.

Нет никакого риска.

Моя задача — предотвратить и искоренить
то, что может представлять угрозу.

Звучит довольно конкретно, так ведь?

Может, вы даже думаете,
что это просто,

поскольку я только что сказала,
что, по большей части,

активность в Твиттере безопасна.

Зачем тратить время

в поисках потенциальной катастрофы

среди безобидных твитов?

Учитывая масштаб Твиттера,

один шанс на миллион

случается 500 раз в день.

То же относится и к другим компаниям,

работающим с таким масштабом.

Для нас, особенные случаи,

подобные редкие,
маловероятные ситуации —

скорее, норма.

Допустим, 99,999% твитов

безобидны для всех.

Нет никакой опасности.

Может быть, пользователи пишут
о своих путешествиях,

например, на риф
в форме сердца в Австралии

или твитят о концерте,
на который они сходили,

или постят картинки
милых детёнышей животных.

Если вычесть эти 99,999%,

то оставшаяся доля процента
эквивалентна,

грубо говоря,

150 000 твитов в месяц.

Сам масштаб нашей работы

является испытанием.

Знаете, почему ещё моя работа

особенно сложная?

Люди ведут себя странно.

(Смех)

И мне приходится
разбираться в том, что они делают,

зачем, и несёт ли это риск,

при этом часто вне контекста

либо без дополнительных сведений.

Я покажу вам
несколько примеров того,

с чем мне пришлось столкнуться
за время работы в Твиттере.

Это взятые из реальной жизни

ситуации, которые поначалу
казались стандартными,

однако, на самом деле,

имели совсем другую подоплёку.

Детали изменены,

чтобы защитить невиновных

а в некоторых случаях тех,
кто виноват.

Начнём с простого.

[«Эй, сучка»]

Если увидеть такой твит,

то можно подумать:

«Похоже на оскорбление».

С какой стати вам захочется
получать сообщение

«Эй, сучка»?

Я, конечно, пытаюсь быть в курсе

последних тенденций и мемов,

поэтому знаю, что «Эй, сучка» —

это часто используемое
приветствие между друзьями,

а также известная фраза
из сериала «Во все тяжкие».

Признаюсь, я не ожидала

найти ещё одно значение.

Оказывается, эту фразу
также используют в Твиттере

люди, изображающие собак
в ролевых играх.

(Смех)

В этом случае

это не только не оскорбление,

но и, фактически,
предельно чёткое приветствие.

(Смех)

Из этого примера понятно,
что определить

наличие в твите
оскорбления вне контекста

действительно сложно.

Давайте рассмотрим пример спама.

Вот образец аккаунта,

представляющего классическое
поведение спамера:

он рассылает
одно и то же сообщение

тысячам людей.

Это модель, которую
я создала в своём аккаунте,

но на деле мы видим
такие примеры регулярно.

Казалось бы, понятно,
что с этим делать:

нужно просто автоматически
приостанавливать действие аккаунтов,

демонстрирующих такое поведение.

Однако из этого правила
есть исключения.

Оказывается, это сообщение
может также быть уведомлением

о пролетающей над вами
Международной космической станции,

на которое вы подписались,
потому что хотели

выйти из дома
и попробовать её разглядеть.

Если мы по ошибке

приостановим данный аккаунт,
приняв его за спам,

у вас не будет такой возможности.

Давайте рассмотрим
ещё более показательные примеры.

Снова посмотрим через мой аккаунт

на образец типичного поведения.

Теперь он рассылает
одно и то же сообщение и ссылку.

Часто это показатель
так называемого «фишинга»,

когда пытаются завладеть
информацией с аккаунта другого человека,

направив его на другой вебсайт.

Разумеется,
в этом нет ничего хорошего.

Мы стремимся
приостанавливать аккаунты,

показывающие такое поведение,
и делаем это.

Так почему же в этом примере
высока вероятность ошибки?

Например, это может быть
очевидец на митинге,

который записал на видео,

как офицер полиции применяет силу
к мирно протестующему гражданину,

и пытается сообщить миру
о происходящем.

Мы бы не хотели рисковать

и заглушать такие важные сообщения,

приняв их за спам
и приостановив действие аккаунта.

Поэтому мы анализируем
сотни разных параметров,

изучая поведение аккаунтов,

и всё равно можем ошибиться,

и придётся проводить оценку заново.

Учитывая все трудности,
с какими мне приходится сталкиваться,

мне важно не только
предупредить опасность,

но и разработать защиту
от неожиданностей.

Это важно не только для меня

или для Твиттера —
это важно для вас.

Это важно для любого,
кто создаёт нечто,

как вам кажется, невероятное

и позволяющее людям
делать замечательные вещи.

Что же мне делать?

Я задумываюсь:

как же может произойти

ужасная ошибка?

Я представляю себе катастрофу.

Это сложно.

Возникает неотъемлемый
когнитивный диссонанс,

как когда приходится

одновременно сочинять
свадебные клятвы и брачный договор.

(Смех)

Но всё равно приходится это делать,

особенно если связываешь себя
с 500 миллионами твитов в день.

Что я имею в виду под
«представляю себе катастрофу»?

Я пытаюсь представить, как что-то

милое и безвредное,
например, изображение кошки,

может привести
к смертельному случаю,

и думаю, как это предотвратить.

Покажу это на следующем примере.

Это моя кошка Эли.

Мы хотели дать
пользователям возможность

добавлять картинки к твитам.

Картинка может выразить тысячу слов,

а у вас в распоряжении
всего лишь 140 знаков.

Стоит добавить фото к твиту —

и он становится значительно
богаче по содержанию.

Добавление фото к твиту

даёт много возможностей.

Однако моя задача —
думать не об этом,

а о том, что может пойти не так.

Как эта картинка может

стать причиной моей смерти?

Вот, например, один способ.

Это не просто изображение кошки.

Это ещё и данные о местоположении.

Когда вы снимаете что-то на смартфон

или на цифровую камеру,

в полученном изображении сохраняется

много дополнительной информации.

В действительности,
эта картинка также содержит

эквивалент вот этого,

а, если быть точнее, вот этого.

Конечно, маловероятно,
что кто-то попытается

отследить меня
и сделать что-то со мной,

основываясь на данных,

связанных с фотографией моей кошки,

но я начинаю думать
о худшем варианте развития событий.

Поэтому, когда мы запустили
фотосервис в Твиттере,

мы решили отказаться
от отображения данных о местоположении.

(Аплодисменты)

Если я буду думать о худшем варианте

и отталкиваться от него,

я могу быть уверенной,
что защита, которую мы разрабатываем,

подойдёт как для типичных,

так и для нетипичных случаев.

Учитывая, что я день и ночь
только и делаю,

что воображаю себе
худший из возможных исходов,

никого бы не удивило, если бы у меня
был мрачный взгляд на мир.

(Смех)

Это не так.

Большая часть того, что я вижу, —

а я вижу много, уж поверьте, —
это позитивное общение,

когда люди помогают друг другу,

или хотят стать ближе друг другу,
или поделиться информацией.

Дело в том, что работая с масштабом,

когда необходимо заботиться
о безопасности пользователей,

нам приходится думать
о худшем варианте,

потому что в нашем случае
шанс один на миллион —

это довольно высокий шанс.

Спасибо.

(Аплодисменты)