Моя робота в компанії "Твіттер" полягає в тому,
щоб забезпечувати довіру користувачів,
захищати їхні права і охороняти їх,
як одне від одного,
так і, деколи, від самих себе.
Пропоную обговорити, як виглядає масштаб у Твіттері.
Ще у січні 2009 року
на платформі можна було побачити понад два мільйони
твітів щодня.
У січні 2014 року - понад 500 мільйонів.
Ми спостерігали два мільйони твітів
менш, ніж за шість хвилин.
Це збільшення на 24 900 відсотків.
Наразі переважна більшість активності на Твіттері
не чинить ніякої шкоди.
Немає жодного ризику.
Моє завдання полягає у викоріненні та недопусканні активності, яка може його спричинити.
Звучить доволі просто, чи не так?
Вам навіть може здатись, що це легко,
оскільки, як я щойно сказала, переважна більшість
активності на Твіттері нікому не шкодить.
Навіщо ж тоді витрачати стільки часу
на пошуки потенційних небезпек
у безневинних діях?
Беручи до уваги масштаб Твіттера,
шанс "один на мільйон" стається
500 разів на день.
Така ж ситуація з іншими компаніями,
які працюють з такими масштабами.
Для нас крайні випадки,
тобто ті рідкісні ситуації, які навряд чи стануться,
це норма.
Скажімо, 99,999 відсотків твітів
не загрожують нікому.
Немає ніякої загрози.
Можливо, люди фільмують визначні місця подорожі,
як от австралійський Харт Риф,
чи пишуть твіти про концерт, який вони відвідують,
чи розміщують фото милих маленьких звіряток.
Після того, як ви заберете ті 99.999 відсотків,
залишиться крихітна частина твітів,
яка становить близько
150 тис. на місяць.
Справжній масштаб того, з чим ми працюємо,
потребує прикладення зусиль.
Знаєте, що ще потребує від мене
особливих зусиль?
Люди роблять дивні речі.
(Сміх)
І мені потрібно з'ясувати, що вони роблять,
чому, і чи не становить це загрози.
Часто я не знаю контексту
чи ситуації.
Я покажу вам кілька прикладів,
які трапились мені протягом моєї роботи у Твіттері --
це реальні випадки ситуацій,
які спочатку здавалися зрозумілими,
але насправді все виявлялось
зовсім іншим.
Ми змінили деталі для
захисту невинних,
а деколи і винних користувачів.
Почнемо з простого.
["Гей, сучка"]
Якщо ви побачите твіт лише з цією інформацією,
ви подумаєте:
"Виглядає як образа."
Зрештою, вам навряд чи хотілось би отримати повідомлення
"Гей, сучка."
Отож, я намагаюсь слідкувати
за останніми трендами та мемами,
тому я знаю, що "гей, сучка" --
це типове привітання між друзями,
а також згадка про популярний серіал "Пуститися берега".
Зізнаюсь, що я не очікувала
зіткнутися з таким випадком.
Виявляється, що такий вираз використовують у Твіттері,
коли люди пишуть від імені собак.
(Сміх)
І насправді, в такому випадку,
це не лише не образа,
а просто нормальне привітання.
(Сміх)
Гаразд, отож, визначити чи можна щось
вважати образливим чи ні без додаткової інформації
насправді важко.
Погляньмо на спам.
Ось приклад облікового запису із класичними
ознаками спамера:
надсилання однакового повідомлення
тисячам людей.
Оскільки це макет, я використала свій обліковий запис,
однак ми бачимо таку ситуацію постійно.
Здається, ніби все зрозуміло.
Нам слід просто автоматично призупинити
облікові записи, від яких спостерігається така активність.
Виявляється, що існують винятки з такого правила.
Виявляється, що таке повідомлення може сповіщати про те,
що ви підписались на сповіщення від Міжнародної космічної станції,
бо ви хочете вийти надвір і побачити,
коли вона пролітатиме над вами.
Ви втратите такий шанс,
якщо ми випадково видалимо профіль,
вважаючи його спамом.
Гаразд. Піднімемо ставки.
Повернемось до мого профілю,
який демонструє класичну поведінку.
Цього разу він надсилає однакове повідомлення і посилання.
Це сигналізує про так званий "фішинг",
ситуацію, коли хтось намагається викрасти інформацію профілю іншого користувача,
направляючи його на інший веб-сайт.
Це явно не дуже добре.
Ми хочемо і намагаємось видаляти профілі,
які займаються такою діяльністю.
Отож, чому ставки тут вищі?
Це може бути спостерігач на мітингу,
якому вдалося записати відео,
як полісмен б'є мирного протестувальника,
і який намагається розповісти про це світу.
Ми не хочемо замовчувати
таке важливе повідомлення,
визначаючи це як спам, і видаляти його.
Це означає, що ми оцінюємо сотні параметрів,
спостерігаючи за поведінкою профілів,
і навіть тоді ми все ж можемо помилитись,
і нам потрібно оцінити ситуацію по-новому.
Отож, беручи до уваги всі проблеми, з якими я стикаюсь,
мені важливо не лише передбачити,
але й розробити захист від непередбачуваного.
І це проблема не тільки для мене
чи для Твіттера, це проблема і для вас.
Це проблема для всіх, хто будує чи створює
щось таке, що, на його думку, буде чудовим
і дозволить людям творити чудові речі.
Отож, що я роблю?
Я зупиняюсь і думаю,
як це все може
вийти з-під контролю?
Я уявляю катастрофу.
А це складно. В цьому існує певний
вроджений когнітивний дисонанс,
щось схоже, коли ви одночасно пишете
свої весільні клятви і передшлюбний контракт.
(Сміх)
Проте вам все ж потрібно це зробити,
особливо, якщо ви "одружуєтесь" з 500 мільйонами твітів щодня.
Що я маю на увазі під "уявлянням катастрофи"?
Я намагаюсь уявити, як щось
таке нешкідливе як фото кота,
може призвести до смерті,
і що потрібно зробити, щоб запобігти цьому.
Про це буде мій наступний приклад.
Це моя кішка, Елі.
Ми хотіли надати користувачам можливість
додавати фото до твітів.
Фото може замінити тисячі слів.
У вас лише 140 символів.
Ви додаєте фото до твіта
і погляньте, наскільки більше інформації маєте.
Додаючи фото до твіта,
ви можете робити багато чудових речей.
Моя робота полягає не в тому, щоб думати про це.
Вона полягає в тому, щоб думати, що може піти не так.
Як це фото може
спричинити мою смерть?
Ось одна можливість.
На цьому фото не лише кішка.
В ньому міститься геоінформація.
Коли ви робите знімок своїм смартфоном
або цифровим фотоапаратом,
у зображенні зберігається
багато додаткової інформації.
Насправді, це фото також містить
відповідник цього,
а точніше - цього.
Звісно, навряд чи хтось буде намагатись
прослідкувати за мною і нанести мені шкоду
на основі інформації про фото
моєї кішки.
Проте спершу я припускаю найгірше.
Саме тому, коли ми запустили фото на Твіттері,
ми вирішили видалити геоінформацію.
(Оплески)
Якщо я припускаю найгірше
і рухаюсь у зворотньому напрямку,
я переконуюсь, що захист, який ми створюємо,
працюватиме і в передбачуваних,
і в непередбачуваних ситуаціях.
Беручи до уваги те, що днями і ночами
я уявляю найгірше, що може трапитись,
буде не дивно, якщо мій світогляд виявиться досить похмурим.
(Сміх)
Це не так.
Переважна більшість ситуацій, які я спостерігаю,
а я бачу їх багато, повірте, -- позитивні,
люди намагаються допомогти
поширити інформацію між собою.
Це тільки через те, що ми маємо справу з таким масштабом,
і відповідаємо за безпеку людей,
нам потрібно припускати найгірший розвиток подій,
тому що для нас навіть один випадок на мільйон
значить багато.
Дякую.
(Оплески)