0:00:00.984,0:00:02.275
Моя робота в компанії "Твіттер" полягає в тому,

0:00:02.275,0:00:04.253
щоб забезпечувати довіру користувачів,

0:00:04.253,0:00:07.090
захищати їхні права і охороняти їх,

0:00:07.090,0:00:08.350
як одне від одного,

0:00:08.350,0:00:12.249
так і, деколи, від самих себе.

0:00:12.249,0:00:16.524
Пропоную обговорити, як виглядає масштаб у Твіттері.

0:00:16.524,0:00:19.394
Ще у січні 2009 року

0:00:19.394,0:00:22.725
на платформі можна було побачити понад два мільйони

0:00:22.725,0:00:24.489
твітів щодня.

0:00:24.489,0:00:30.397
У січні 2014 року - понад 500 мільйонів.

0:00:30.397,0:00:32.889
Ми спостерігали два мільйони твітів

0:00:32.889,0:00:35.065
менш, ніж за шість хвилин.

0:00:35.065,0:00:42.049
Це збільшення на 24 900 відсотків.

0:00:42.049,0:00:45.302
Наразі переважна більшість активності на Твіттері

0:00:45.302,0:00:46.805
не чинить ніякої шкоди.

0:00:46.805,0:00:48.740
Немає жодного ризику.

0:00:48.740,0:00:54.493
Моє завдання полягає у викоріненні та недопусканні активності, яка може його спричинити.

0:00:54.493,0:00:56.466
Звучить доволі просто, чи не так?

0:00:56.466,0:00:57.618
Вам навіть може здатись, що це легко,

0:00:57.618,0:00:59.788
оскільки, як я щойно сказала, переважна більшість

0:00:59.788,0:01:03.598
активності на Твіттері нікому не шкодить.

0:01:03.598,0:01:05.767
Навіщо ж тоді витрачати стільки часу

0:01:05.767,0:01:08.510
на пошуки потенційних небезпек

0:01:08.510,0:01:11.410
у безневинних діях?

0:01:11.410,0:01:14.350
Беручи до уваги масштаб Твіттера,

0:01:14.350,0:01:16.707
шанс "один на мільйон" стається

0:01:16.707,0:01:21.583
500 разів на день.

0:01:21.583,0:01:23.028
Така ж ситуація з іншими компаніями,

0:01:23.028,0:01:24.499
які працюють з такими масштабами.

0:01:24.499,0:01:26.207
Для нас крайні випадки,

0:01:26.207,0:01:29.832
тобто ті рідкісні ситуації, які навряд чи стануться,

0:01:29.832,0:01:32.454
це норма.

0:01:32.454,0:01:36.396
Скажімо, 99,999 відсотків твітів

0:01:36.396,0:01:38.284
не загрожують нікому.

0:01:38.284,0:01:39.350
Немає ніякої загрози.

0:01:39.350,0:01:42.304
Можливо, люди фільмують визначні місця подорожі,

0:01:42.304,0:01:44.267
як от австралійський Харт Риф,

0:01:44.267,0:01:47.188
чи пишуть твіти про концерт, який вони відвідують,

0:01:47.188,0:01:51.935
чи розміщують фото милих маленьких звіряток.

0:01:51.935,0:01:56.444
Після того, як ви заберете ті 99.999 відсотків,

0:01:56.444,0:01:59.973
залишиться крихітна частина твітів,

0:01:59.973,0:02:02.362
яка становить близько

0:02:02.362,0:02:05.837
150 тис. на місяць.

0:02:05.837,0:02:08.293
Справжній масштаб того, з чим ми працюємо,

0:02:08.293,0:02:10.605
потребує прикладення зусиль.

0:02:10.605,0:02:11.783
Знаєте, що ще потребує від мене

0:02:11.783,0:02:14.890
особливих зусиль?

0:02:14.890,0:02:20.013
Люди роблять дивні речі.

0:02:20.013,0:02:21.842
(Сміх)

0:02:21.842,0:02:24.233
І мені потрібно з'ясувати, що вони роблять,

0:02:24.233,0:02:26.482
чому, і чи не становить це загрози.

0:02:26.482,0:02:28.650
Часто я не знаю контексту

0:02:28.650,0:02:30.497
чи ситуації.

0:02:30.497,0:02:32.574
Я покажу вам кілька прикладів,

0:02:32.574,0:02:34.579
які трапились мені протягом моєї роботи у Твіттері --

0:02:34.579,0:02:36.199
це реальні випадки ситуацій,

0:02:36.199,0:02:38.852
які спочатку здавалися зрозумілими,

0:02:38.852,0:02:40.495
але насправді все виявлялось

0:02:40.495,0:02:42.045
зовсім іншим.

0:02:42.045,0:02:44.022
Ми змінили деталі для

0:02:44.022,0:02:45.279
захисту невинних,

0:02:45.279,0:02:48.512
а деколи і винних користувачів.

0:02:48.512,0:02:51.517
Почнемо з простого.

0:02:51.517,0:02:53.310
["Гей, сучка"]

0:02:53.310,0:02:56.538
Якщо ви побачите твіт лише з цією інформацією,

0:02:56.538,0:02:58.232
ви подумаєте:

0:02:58.232,0:02:59.885
"Виглядає як образа."

0:02:59.885,0:03:02.992
Зрештою, вам навряд чи хотілось би отримати повідомлення

0:03:02.992,0:03:05.210
"Гей, сучка."

0:03:05.210,0:03:09.873
Отож, я намагаюсь слідкувати

0:03:09.873,0:03:12.385
за останніми трендами та мемами,

0:03:12.385,0:03:15.089
тому я знаю, що "гей, сучка" --

0:03:15.089,0:03:18.243
це типове привітання між друзями,

0:03:18.243,0:03:22.505
а також згадка про популярний серіал "Пуститися берега".

0:03:22.505,0:03:24.992
Зізнаюсь, що я не очікувала

0:03:24.992,0:03:27.833
зіткнутися з таким випадком.

0:03:27.833,0:03:30.937
Виявляється, що такий вираз використовують у Твіттері,

0:03:30.937,0:03:33.999
коли люди пишуть від імені собак.

0:03:33.999,0:03:39.278
(Сміх)

0:03:39.278,0:03:40.944
І насправді, в такому випадку,

0:03:40.944,0:03:42.553
це не лише не образа,

0:03:42.553,0:03:45.692
а просто нормальне привітання.

0:03:45.692,0:03:48.581
(Сміх)

0:03:48.581,0:03:50.652
Гаразд, отож, визначити чи можна щось

0:03:50.652,0:03:52.500
вважати образливим чи ні без додаткової інформації

0:03:52.500,0:03:54.092
насправді важко.

0:03:54.092,0:03:56.809
Погляньмо на спам.

0:03:56.809,0:03:58.769
Ось приклад облікового запису із класичними

0:03:58.769,0:04:00.437
ознаками спамера:

0:04:00.437,0:04:01.996
надсилання однакового повідомлення

0:04:01.996,0:04:03.800
тисячам людей.

0:04:03.800,0:04:06.593
Оскільки це макет, я використала свій обліковий запис,

0:04:06.593,0:04:09.594
однак ми бачимо таку ситуацію постійно.

0:04:09.594,0:04:11.573
Здається, ніби все зрозуміло.

0:04:11.573,0:04:13.626
Нам слід просто автоматично призупинити

0:04:13.626,0:04:16.933
облікові записи, від яких спостерігається така активність.

0:04:16.933,0:04:20.143
Виявляється, що існують винятки з такого правила.

0:04:20.143,0:04:23.026
Виявляється, що таке повідомлення може сповіщати про те,

0:04:23.026,0:04:26.915
що ви підписались на сповіщення від Міжнародної космічної станції,

0:04:26.915,0:04:28.761
бо ви хочете вийти надвір і побачити,

0:04:28.761,0:04:30.709
коли вона пролітатиме над вами.

0:04:30.709,0:04:31.934
Ви втратите такий шанс,

0:04:31.934,0:04:33.781
якщо ми випадково видалимо профіль,

0:04:33.781,0:04:36.047
вважаючи його спамом.

0:04:36.047,0:04:39.573
Гаразд. Піднімемо ставки.

0:04:39.573,0:04:41.489
Повернемось до мого профілю,

0:04:41.489,0:04:44.994
який демонструє класичну поведінку.

0:04:44.994,0:04:47.637
Цього разу він надсилає однакове повідомлення і посилання.

0:04:47.637,0:04:50.411
Це сигналізує про так званий "фішинг",

0:04:50.411,0:04:53.589
ситуацію, коли хтось намагається викрасти інформацію профілю іншого користувача,

0:04:53.589,0:04:55.792
направляючи його на інший веб-сайт.

0:04:55.792,0:04:59.986
Це явно не дуже добре.

0:04:59.986,0:05:01.916
Ми хочемо і намагаємось видаляти профілі,

0:05:01.916,0:05:04.540
які займаються такою діяльністю.

0:05:04.540,0:05:07.787
Отож, чому ставки тут вищі?

0:05:07.787,0:05:10.786
Це може бути спостерігач на мітингу,

0:05:10.786,0:05:12.696
якому вдалося записати відео,

0:05:12.696,0:05:15.966
як полісмен б'є мирного протестувальника,

0:05:15.966,0:05:18.941
і який намагається розповісти про це світу.

0:05:18.941,0:05:20.584
Ми не хочемо замовчувати

0:05:20.584,0:05:23.101
таке важливе повідомлення,

0:05:23.101,0:05:26.030
визначаючи це як спам, і видаляти його.

0:05:26.030,0:05:28.909
Це означає, що ми оцінюємо сотні параметрів,

0:05:28.909,0:05:30.597
спостерігаючи за поведінкою профілів,

0:05:30.597,0:05:32.613
і навіть тоді ми все ж можемо помилитись,

0:05:32.613,0:05:34.849
і нам потрібно оцінити ситуацію по-новому.

0:05:34.849,0:05:38.557
Отож, беручи до уваги всі проблеми, з якими я стикаюсь,

0:05:38.557,0:05:41.253
мені важливо не лише передбачити,

0:05:41.253,0:05:45.037
але й розробити захист від непередбачуваного.

0:05:45.037,0:05:47.379
І це проблема не тільки для мене

0:05:47.379,0:05:49.466
чи для Твіттера, це проблема і для вас.

0:05:49.466,0:05:51.872
Це проблема для всіх, хто будує чи створює

0:05:51.872,0:05:53.797
щось таке, що, на його думку, буде чудовим

0:05:53.797,0:05:56.586
і дозволить людям творити чудові речі.

0:05:56.586,0:05:59.452
Отож, що я роблю?

0:05:59.452,0:06:02.770
Я зупиняюсь і думаю,

0:06:02.770,0:06:04.865
як це все може

0:06:04.865,0:06:08.658
вийти з-під контролю?

0:06:08.658,0:06:13.111
Я уявляю катастрофу.

0:06:13.111,0:06:15.574
А це складно. В цьому існує певний

0:06:15.574,0:06:18.422
вроджений когнітивний дисонанс,

0:06:18.422,0:06:20.234
щось схоже, коли ви одночасно пишете

0:06:20.234,0:06:22.880
свої весільні клятви і передшлюбний контракт.

0:06:22.880,0:06:24.576
(Сміх)

0:06:24.576,0:06:26.949
Проте вам все ж потрібно це зробити,

0:06:26.949,0:06:31.395
особливо, якщо ви "одружуєтесь" з 500 мільйонами твітів щодня.

0:06:31.395,0:06:34.492
Що я маю на увазі під "уявлянням катастрофи"?

0:06:34.492,0:06:37.254
Я намагаюсь уявити, як щось

0:06:37.254,0:06:40.482
таке нешкідливе як фото кота,

0:06:40.482,0:06:41.586
може призвести до смерті,

0:06:41.586,0:06:43.912
і що потрібно зробити, щоб запобігти цьому.

0:06:43.912,0:06:46.295
Про це буде мій наступний приклад.

0:06:46.295,0:06:49.405
Це моя кішка, Елі.

0:06:49.405,0:06:51.386
Ми хотіли надати користувачам можливість

0:06:51.386,0:06:53.459
додавати фото до твітів.

0:06:53.459,0:06:55.056
Фото може замінити тисячі слів.

0:06:55.056,0:06:57.065
У вас лише 140 символів.

0:06:57.065,0:06:58.265
Ви додаєте фото до твіта

0:06:58.265,0:07:01.303
і погляньте, наскільки більше інформації маєте.

0:07:01.303,0:07:02.980
Додаючи фото до твіта,

0:07:02.980,0:07:04.987
ви можете робити багато чудових речей.

0:07:04.987,0:07:07.267
Моя робота полягає не в тому, щоб думати про це.

0:07:07.267,0:07:10.014
Вона полягає в тому, щоб думати, що може піти не так.

0:07:10.014,0:07:11.906
Як це фото може

0:07:11.906,0:07:15.445
спричинити мою смерть?

0:07:15.445,0:07:18.605
Ось одна можливість.

0:07:18.605,0:07:21.691
На цьому фото не лише кішка.

0:07:21.691,0:07:23.783
В ньому міститься геоінформація.

0:07:23.783,0:07:25.995
Коли ви робите знімок своїм смартфоном

0:07:25.995,0:07:27.294
або цифровим фотоапаратом,

0:07:27.294,0:07:28.948
у зображенні зберігається

0:07:28.948,0:07:30.564
багато додаткової інформації.

0:07:30.564,0:07:32.496
Насправді, це фото також містить

0:07:32.496,0:07:34.301
відповідник цього,

0:07:34.301,0:07:37.380
а точніше - цього.

0:07:37.380,0:07:39.336
Звісно, навряд чи хтось буде намагатись

0:07:39.336,0:07:41.621
прослідкувати за мною і нанести мені шкоду

0:07:41.621,0:07:43.405
на основі інформації про фото

0:07:43.405,0:07:45.353
моєї кішки.

0:07:45.353,0:07:49.004
Проте спершу я припускаю найгірше.

0:07:49.004,0:07:51.342
Саме тому, коли ми запустили фото на Твіттері,

0:07:51.342,0:07:55.163
ми вирішили видалити геоінформацію.

0:07:55.163,0:08:01.010
(Оплески)

0:08:01.010,0:08:03.623
Якщо я припускаю найгірше

0:08:03.623,0:08:04.570
і рухаюсь у зворотньому напрямку,

0:08:04.570,0:08:07.123
я переконуюсь, що захист, який ми створюємо,

0:08:07.123,0:08:08.891
працюватиме і в передбачуваних,

0:08:08.891,0:08:10.969
і в непередбачуваних ситуаціях.

0:08:10.969,0:08:13.914
Беручи до уваги те, що днями і ночами

0:08:13.914,0:08:16.455
я уявляю найгірше, що може трапитись,

0:08:16.455,0:08:20.712
буде не дивно, якщо мій світогляд виявиться досить похмурим.

0:08:20.712,0:08:22.495
(Сміх)

0:08:22.495,0:08:23.912
Це не так.

0:08:23.912,0:08:27.788
Переважна більшість ситуацій, які я спостерігаю,

0:08:27.788,0:08:31.689
а я бачу їх багато, повірте, -- позитивні,

0:08:31.689,0:08:33.613
люди намагаються допомогти

0:08:33.613,0:08:37.061
поширити інформацію між собою.

0:08:37.061,0:08:40.384
Це тільки через те, що ми маємо справу з таким масштабом,

0:08:40.384,0:08:44.184
і відповідаємо за безпеку людей,

0:08:44.184,0:08:46.730
нам потрібно припускати найгірший розвиток подій,

0:08:46.730,0:08:50.957
тому що для нас навіть один випадок на мільйон

0:08:50.957,0:08:53.706
значить багато.

0:08:53.706,0:08:55.570
Дякую.

0:08:55.570,0:08:59.570
(Оплески)