WEBVTT

00:00:00.984 --> 00:00:02.275
Моя робота в компанії "Твіттер" полягає в тому,

00:00:02.275 --> 00:00:04.253
щоб забезпечувати довіру користувачів,

00:00:04.253 --> 00:00:07.090
захищати їхні права і охороняти їх,

00:00:07.090 --> 00:00:08.350
як одне від одного,

00:00:08.350 --> 00:00:12.249
так і, деколи, від самих себе.

00:00:12.249 --> 00:00:16.524
Пропоную обговорити, як виглядає масштаб у Твіттері.

00:00:16.524 --> 00:00:19.394
Ще у січні 2009 року

00:00:19.394 --> 00:00:22.725
на платформі можна було побачити понад два мільйони

00:00:22.725 --> 00:00:24.489
твітів щодня.

00:00:24.489 --> 00:00:30.397
У січні 2014 року - понад 500 мільйонів.

00:00:30.397 --> 00:00:32.889
Ми спостерігали два мільйони твітів

00:00:32.889 --> 00:00:35.065
менш, ніж за шість хвилин.

00:00:35.065 --> 00:00:42.049
Це збільшення на 24 900 відсотків.

NOTE Paragraph

00:00:42.049 --> 00:00:45.302
Наразі переважна більшість активності на Твіттері

00:00:45.302 --> 00:00:46.805
не чинить ніякої шкоди.

00:00:46.805 --> 00:00:48.740
Немає жодного ризику.

00:00:48.740 --> 00:00:54.493
Моє завдання полягає у викоріненні та недопусканні активності, яка може його спричинити.

00:00:54.493 --> 00:00:56.466
Звучить доволі просто, чи не так?

00:00:56.466 --> 00:00:57.618
Вам навіть може здатись, що це легко,

00:00:57.618 --> 00:00:59.788
оскільки, як я щойно сказала, переважна більшість

00:00:59.788 --> 00:01:03.598
активності на Твіттері нікому не шкодить.

00:01:03.598 --> 00:01:05.767
Навіщо ж тоді витрачати стільки часу

00:01:05.767 --> 00:01:08.510
на пошуки потенційних небезпек

00:01:08.510 --> 00:01:11.410
у безневинних діях?

00:01:11.410 --> 00:01:14.350
Беручи до уваги масштаб Твіттера,

00:01:14.350 --> 00:01:16.707
шанс "один на мільйон" стається

00:01:16.707 --> 00:01:21.583
500 разів на день.

00:01:21.583 --> 00:01:23.028
Така ж ситуація з іншими компаніями,

00:01:23.028 --> 00:01:24.499
які працюють з такими масштабами.

00:01:24.499 --> 00:01:26.207
Для нас крайні випадки,

00:01:26.207 --> 00:01:29.832
тобто ті рідкісні ситуації, які навряд чи стануться,

00:01:29.832 --> 00:01:32.454
це норма.

00:01:32.454 --> 00:01:36.396
Скажімо, 99,999 відсотків твітів

00:01:36.396 --> 00:01:38.284
не загрожують нікому.

00:01:38.284 --> 00:01:39.350
Немає ніякої загрози.

00:01:39.350 --> 00:01:42.304
Можливо, люди фільмують визначні місця подорожі,

00:01:42.304 --> 00:01:44.267
як от австралійський Харт Риф,

00:01:44.267 --> 00:01:47.188
чи пишуть твіти про концерт, який вони відвідують,

00:01:47.188 --> 00:01:51.935
чи розміщують фото милих маленьких звіряток.

00:01:51.935 --> 00:01:56.444
Після того, як ви заберете ті 99.999 відсотків,

00:01:56.444 --> 00:01:59.973
залишиться крихітна частина твітів,

00:01:59.973 --> 00:02:02.362
яка становить близько

00:02:02.362 --> 00:02:05.837
150 тис. на місяць.

00:02:05.837 --> 00:02:08.293
Справжній масштаб того, з чим ми працюємо,

00:02:08.293 --> 00:02:10.605
потребує прикладення зусиль.

NOTE Paragraph

00:02:10.605 --> 00:02:11.783
Знаєте, що ще потребує від мене

00:02:11.783 --> 00:02:14.890
особливих зусиль?

00:02:14.890 --> 00:02:20.013
Люди роблять дивні речі.

00:02:20.013 --> 00:02:21.842
(Сміх)

00:02:21.842 --> 00:02:24.233
І мені потрібно з'ясувати, що вони роблять,

00:02:24.233 --> 00:02:26.482
чому, і чи не становить це загрози.

00:02:26.482 --> 00:02:28.650
Часто я не знаю контексту

00:02:28.650 --> 00:02:30.497
чи ситуації.

00:02:30.497 --> 00:02:32.574
Я покажу вам кілька прикладів,

00:02:32.574 --> 00:02:34.579
які трапились мені протягом моєї роботи у Твіттері --

00:02:34.579 --> 00:02:36.199
це реальні випадки ситуацій,

00:02:36.199 --> 00:02:38.852
які спочатку здавалися зрозумілими,

00:02:38.852 --> 00:02:40.495
але насправді все виявлялось

00:02:40.495 --> 00:02:42.045
зовсім іншим.

00:02:42.045 --> 00:02:44.022
Ми змінили деталі для

00:02:44.022 --> 00:02:45.279
захисту невинних,

00:02:45.279 --> 00:02:48.512
а деколи і винних користувачів.

00:02:48.512 --> 00:02:51.517
Почнемо з простого.

NOTE Paragraph

00:02:51.517 --> 00:02:53.310
["Гей, сучка"]

NOTE Paragraph

00:02:53.310 --> 00:02:56.538
Якщо ви побачите твіт лише з цією інформацією,

00:02:56.538 --> 00:02:58.232
ви подумаєте:

00:02:58.232 --> 00:02:59.885
"Виглядає як образа."

00:02:59.885 --> 00:03:02.992
Зрештою, вам навряд чи хотілось би отримати повідомлення

00:03:02.992 --> 00:03:05.210
"Гей, сучка."

00:03:05.210 --> 00:03:09.873
Отож, я намагаюсь слідкувати

00:03:09.873 --> 00:03:12.385
за останніми трендами та мемами,

00:03:12.385 --> 00:03:15.089
тому я знаю, що "гей, сучка" --

00:03:15.089 --> 00:03:18.243
це типове привітання між друзями,

00:03:18.243 --> 00:03:22.505
а також згадка про популярний серіал "Пуститися берега".

00:03:22.505 --> 00:03:24.992
Зізнаюсь, що я не очікувала

00:03:24.992 --> 00:03:27.833
зіткнутися з таким випадком.

00:03:27.833 --> 00:03:30.937
Виявляється, що такий вираз використовують у Твіттері,

00:03:30.937 --> 00:03:33.999
коли люди пишуть від імені собак.

00:03:33.999 --> 00:03:39.278
(Сміх)

00:03:39.278 --> 00:03:40.944
І насправді, в такому випадку,

00:03:40.944 --> 00:03:42.553
це не лише не образа,

00:03:42.553 --> 00:03:45.692
а просто нормальне привітання.

00:03:45.692 --> 00:03:48.581
(Сміх)

NOTE Paragraph

00:03:48.581 --> 00:03:50.652
Гаразд, отож, визначити чи можна щось

00:03:50.652 --> 00:03:52.500
вважати образливим чи ні без додаткової інформації

00:03:52.500 --> 00:03:54.092
насправді важко.

NOTE Paragraph

00:03:54.092 --> 00:03:56.809
Погляньмо на спам.

00:03:56.809 --> 00:03:58.769
Ось приклад облікового запису із класичними

00:03:58.769 --> 00:04:00.437
ознаками спамера:

00:04:00.437 --> 00:04:01.996
надсилання однакового повідомлення

00:04:01.996 --> 00:04:03.800
тисячам людей.

00:04:03.800 --> 00:04:06.593
Оскільки це макет, я використала свій обліковий запис,

00:04:06.593 --> 00:04:09.594
однак ми бачимо таку ситуацію постійно.

00:04:09.594 --> 00:04:11.573
Здається, ніби все зрозуміло.

00:04:11.573 --> 00:04:13.626
Нам слід просто автоматично призупинити

00:04:13.626 --> 00:04:16.933
облікові записи, від яких спостерігається така активність.

00:04:16.933 --> 00:04:20.143
Виявляється, що існують винятки з такого правила.

00:04:20.143 --> 00:04:23.026
Виявляється, що таке повідомлення може сповіщати про те,

00:04:23.026 --> 00:04:26.915
що ви підписались на сповіщення від Міжнародної космічної станції,

00:04:26.915 --> 00:04:28.761
бо ви хочете вийти надвір і побачити,

00:04:28.761 --> 00:04:30.709
коли вона пролітатиме над вами.

00:04:30.709 --> 00:04:31.934
Ви втратите такий шанс,

00:04:31.934 --> 00:04:33.781
якщо ми випадково видалимо профіль,

00:04:33.781 --> 00:04:36.047
вважаючи його спамом.

NOTE Paragraph

00:04:36.047 --> 00:04:39.573
Гаразд. Піднімемо ставки.

00:04:39.573 --> 00:04:41.489
Повернемось до мого профілю,

00:04:41.489 --> 00:04:44.994
який демонструє класичну поведінку.

00:04:44.994 --> 00:04:47.637
Цього разу він надсилає однакове повідомлення і посилання.

00:04:47.637 --> 00:04:50.411
Це сигналізує про так званий "фішинг",

00:04:50.411 --> 00:04:53.589
ситуацію, коли хтось намагається викрасти інформацію профілю іншого користувача,

00:04:53.589 --> 00:04:55.792
направляючи його на інший веб-сайт.

00:04:55.792 --> 00:04:59.986
Це явно не дуже добре.

00:04:59.986 --> 00:05:01.916
Ми хочемо і намагаємось видаляти профілі,

00:05:01.916 --> 00:05:04.540
які займаються такою діяльністю.

00:05:04.540 --> 00:05:07.787
Отож, чому ставки тут вищі?

00:05:07.787 --> 00:05:10.786
Це може бути спостерігач на мітингу,

00:05:10.786 --> 00:05:12.696
якому вдалося записати відео,

00:05:12.696 --> 00:05:15.966
як полісмен б'є мирного протестувальника,

00:05:15.966 --> 00:05:18.941
і який намагається розповісти про це світу.

00:05:18.941 --> 00:05:20.584
Ми не хочемо замовчувати

00:05:20.584 --> 00:05:23.101
таке важливе повідомлення,

00:05:23.101 --> 00:05:26.030
визначаючи це як спам, і видаляти його.

00:05:26.030 --> 00:05:28.909
Це означає, що ми оцінюємо сотні параметрів,

00:05:28.909 --> 00:05:30.597
спостерігаючи за поведінкою профілів,

00:05:30.597 --> 00:05:32.613
і навіть тоді ми все ж можемо помилитись,

00:05:32.613 --> 00:05:34.849
і нам потрібно оцінити ситуацію по-новому.

NOTE Paragraph

00:05:34.849 --> 00:05:38.557
Отож, беручи до уваги всі проблеми, з якими я стикаюсь,

00:05:38.557 --> 00:05:41.253
мені важливо не лише передбачити,

00:05:41.253 --> 00:05:45.037
але й розробити захист від непередбачуваного.

00:05:45.037 --> 00:05:47.379
І це проблема не тільки для мене

00:05:47.379 --> 00:05:49.466
чи для Твіттера, це проблема і для вас.

00:05:49.466 --> 00:05:51.872
Це проблема для всіх, хто будує чи створює

00:05:51.872 --> 00:05:53.797
щось таке, що, на його думку, буде чудовим

00:05:53.797 --> 00:05:56.586
і дозволить людям творити чудові речі.

00:05:56.586 --> 00:05:59.452
Отож, що я роблю?

00:05:59.452 --> 00:06:02.770
Я зупиняюсь і думаю,

00:06:02.770 --> 00:06:04.865
як це все може

00:06:04.865 --> 00:06:08.658
вийти з-під контролю?

00:06:08.658 --> 00:06:13.111
Я уявляю катастрофу.

00:06:13.111 --> 00:06:15.574
А це складно. В цьому існує певний

00:06:15.574 --> 00:06:18.422
вроджений когнітивний дисонанс,

00:06:18.422 --> 00:06:20.234
щось схоже, коли ви одночасно пишете

00:06:20.234 --> 00:06:22.880
свої весільні клятви і передшлюбний контракт.

00:06:22.880 --> 00:06:24.576
(Сміх)

00:06:24.576 --> 00:06:26.949
Проте вам все ж потрібно це зробити,

00:06:26.949 --> 00:06:31.395
особливо, якщо ви "одружуєтесь" з 500 мільйонами твітів щодня.

00:06:31.395 --> 00:06:34.492
Що я маю на увазі під "уявлянням катастрофи"?

00:06:34.492 --> 00:06:37.254
Я намагаюсь уявити, як щось

00:06:37.254 --> 00:06:40.482
таке нешкідливе як фото кота,

00:06:40.482 --> 00:06:41.586
може призвести до смерті,

00:06:41.586 --> 00:06:43.912
і що потрібно зробити, щоб запобігти цьому.

00:06:43.912 --> 00:06:46.295
Про це буде мій наступний приклад.

00:06:46.295 --> 00:06:49.405
Це моя кішка, Елі.

00:06:49.405 --> 00:06:51.386
Ми хотіли надати користувачам можливість

00:06:51.386 --> 00:06:53.459
додавати фото до твітів.

00:06:53.459 --> 00:06:55.056
Фото може замінити тисячі слів.

00:06:55.056 --> 00:06:57.065
У вас лише 140 символів.

00:06:57.065 --> 00:06:58.265
Ви додаєте фото до твіта

00:06:58.265 --> 00:07:01.303
і погляньте, наскільки більше інформації маєте.

00:07:01.303 --> 00:07:02.980
Додаючи фото до твіта,

00:07:02.980 --> 00:07:04.987
ви можете робити багато чудових речей.

00:07:04.987 --> 00:07:07.267
Моя робота полягає не в тому, щоб думати про це.

00:07:07.267 --> 00:07:10.014
Вона полягає в тому, щоб думати, що може піти не так.

NOTE Paragraph

00:07:10.014 --> 00:07:11.906
Як це фото може

00:07:11.906 --> 00:07:15.445
спричинити мою смерть?

00:07:15.445 --> 00:07:18.605
Ось одна можливість.

00:07:18.605 --> 00:07:21.691
На цьому фото не лише кішка.

00:07:21.691 --> 00:07:23.783
В ньому міститься геоінформація.

00:07:23.783 --> 00:07:25.995
Коли ви робите знімок своїм смартфоном

00:07:25.995 --> 00:07:27.294
або цифровим фотоапаратом,

00:07:27.294 --> 00:07:28.948
у зображенні зберігається

00:07:28.948 --> 00:07:30.564
багато додаткової інформації.

00:07:30.564 --> 00:07:32.496
Насправді, це фото також містить

00:07:32.496 --> 00:07:34.301
відповідник цього,

00:07:34.301 --> 00:07:37.380
а точніше - цього.

00:07:37.380 --> 00:07:39.336
Звісно, навряд чи хтось буде намагатись

00:07:39.336 --> 00:07:41.621
прослідкувати за мною і нанести мені шкоду

00:07:41.621 --> 00:07:43.405
на основі інформації про фото

00:07:43.405 --> 00:07:45.353
моєї кішки.

00:07:45.353 --> 00:07:49.004
Проте спершу я припускаю найгірше.

00:07:49.004 --> 00:07:51.342
Саме тому, коли ми запустили фото на Твіттері,

00:07:51.342 --> 00:07:55.163
ми вирішили видалити геоінформацію.

00:07:55.163 --> 00:08:01.010
(Оплески)

00:08:01.010 --> 00:08:03.623
Якщо я припускаю найгірше

00:08:03.623 --> 00:08:04.570
і рухаюсь у зворотньому напрямку,

00:08:04.570 --> 00:08:07.123
я переконуюсь, що захист, який ми створюємо,

00:08:07.123 --> 00:08:08.891
працюватиме і в передбачуваних,

00:08:08.891 --> 00:08:10.969
і в непередбачуваних ситуаціях.

NOTE Paragraph

00:08:10.969 --> 00:08:13.914
Беручи до уваги те, що днями і ночами

00:08:13.914 --> 00:08:16.455
я уявляю найгірше, що може трапитись,

00:08:16.455 --> 00:08:20.712
буде не дивно, якщо мій світогляд виявиться досить похмурим.

00:08:20.712 --> 00:08:22.495
(Сміх)

00:08:22.495 --> 00:08:23.912
Це не так.

00:08:23.912 --> 00:08:27.788
Переважна більшість ситуацій, які я спостерігаю,

00:08:27.788 --> 00:08:31.689
а я бачу їх багато, повірте, -- позитивні,

00:08:31.689 --> 00:08:33.613
люди намагаються допомогти

00:08:33.613 --> 00:08:37.061
поширити інформацію між собою.

00:08:37.061 --> 00:08:40.384
Це тільки через те, що ми маємо справу з таким масштабом,

00:08:40.384 --> 00:08:44.184
і відповідаємо за безпеку людей,

00:08:44.184 --> 00:08:46.730
нам потрібно припускати найгірший розвиток подій,

00:08:46.730 --> 00:08:50.957
тому що для нас навіть один випадок на мільйон

00:08:50.957 --> 00:08:53.706
значить багато.

NOTE Paragraph

00:08:53.706 --> 00:08:55.570
Дякую.

NOTE Paragraph

00:08:55.570 --> 00:08:59.570
(Оплески)