Osobliwość skali na Twitterze

Kiedy w ciągu sekundy wysyłane są setki tysięcy tweetów, szansa jeden do miliona, w tym nieprawdopodobne przypadki, które mogą skrzywdzić użytkowników, może się zdarzyć 500 razy dziennie. Dla Del Harvey, która zajmuje się zapewnianiem bezpieczeństwa na Twitterze to nie są dobre statystyki. Ekspertka ds. bezpieczeństwa spędza swój czas, myśląc, jak zapobiec najgorszemu, dając jednocześnie możliwość wypowiedzi ludziom na całym świecie. Z kamienną twarzą żartuje i zdradza sekrety swojej pracy, w której zapewnia bezpieczeństwo 240 milionom użytkowników.

Moja praca dla Twittera

polega na zapewnieniu
zaufania użytkowników,

ochronie ich praw
i dbaniu o ich bezpieczeństwo,

o ochronę przed innymi,
a czasem przed nimi samymi.

Jak wygląda skala
działalności na Twitterze?

W styczniu 2009

mieliśmy ponad
2 miliony wpisów dziennie na portalu.

W styczniu 2014 - ponad 500 milionów.

Dwa miliony tweetów w niespełna 6 minut.

To przyrost o 24 900 %.

Większość aktywności na Twitterze

nie wyrządza nikomu krzywdy.

Żadnego ryzyka.

Moim zadaniem jest zapobieganie
szkodliwym działaniom.

Brzmi prosto.

Wydaje się łatwe.

Zwłaszcza, że powiedziałam,

że większość działań jest nieszkodliwa.

Po co więc spędzać tyle czasu,

szukając potencjalnych problemów

w nieszkodliwych działaniach?

Biorąc pod uwagę popularność Twittera,

szansa jeden do miliona
zdarza się 500 razy dziennie.

Podobnie jest z innymi firmami,

które działają na taką skalę.

Dla nas takie rzadkie przypadki,
nieprawdopodobne sytuacje, są normą.

Powiedzmy, że 99.999 % tweetów

nie zagraża nikomu.

Nie ma zagrożenia.

Ludzie uwieczniają
znane obiekty podróży,

jak australijska wyspa koralowa
w kształcie serca,

tweetują na temat koncertu,

czy zamieszczają zdjęcia
uroczych zwierzątek.

Po usunięciu tych 99.999 %,

ta drobna ilość tweetów, która pozostaje,

to w przybliżeniu około

150 000 tweetów miesięcznie.

Skala tego wydarzenia

stanowi wyzwanie.

Co jeszcze sprawia,
że moja praca jest tak wymagająca?

Ludzie robią dziwne rzeczy.

(Śmiech)

A ja muszę zrozumieć, co oni robią,

czemu i czy nie powoduje to
jakiegoś ryzyka,

często nie mając żadnego kontekstu

ani dodatkowych informacji.

Oto kilka przykładów,

na które natknęłam się
podczas mojej pracy,

są z życia wzięte,

sytuacje te wydają się szablonowe,

ale prawda okazuje się być całkiem inna.

Szczegóły zostały zmienione,

żeby chronić niewinnych,

a czasem i winnych.

Na początek coś prostego.

[Co słychać suko]

Widząc tylko ten fragment,

można by pomyśleć,

że to nadużycie.

Dlaczego ktoś chciałby
otrzymać wiadomość

"Co słychać suko".

Staram się być na czasie

z trendami i memami,

wiedziałam więc, że "co słychać suko",

to częste powitanie wśród znajomych

i nawiązanie do serialu "Breaking Bad".

Nie spodziewałam się,

że istnieje czwarte znaczenie.

Okazuje się, że na Twitterze

jest ono używane, gdy ludzie udają psy.

(Śmiech)

W tym przypadku

nie tylko nie jest ono obraźliwe,

ale, formalnie rzecz ujmując,
jest to poprawne powitanie.

(Śmiech)

Określenie, czy coś ma
charakter znieważający

jest trudne bez kontekstu.

Spójrzmy na spam.

To klasyczny przykład spamującego konta

wysyłającego tę samą wiadomość
tysiącom osób.

To jest atrapa,
którą stworzyłam na moim koncie,

ale jest masa kont,
które robią tak cały czas.

Przykład wydaje się oczywisty,

powinniśmy od razu zawieszać konta

robiące takie rzeczy.

Są pewne wyjątki.

To mogą być powiadomienia,
na które się zapisaliście,

o tym, że nad wami przelatuje
Międzynarodowa Stacja Kosmiczna,

bo chcieliście wychodzić na zewnątrz

i sprawdzać, czy ją widać.

Nie będzie takiej okazji,

jeśli omyłkowo zawiesimy konto,

myśląc, że to spam.

Podnieśmy poprzeczkę.

Powróćmy do mojego konta.

Ponownie klasyczny przykład.

Wysyłanie tej samej wiadomości z linkiem.

To częsty przykład "phishingu",

czyli próby wyłudzenia
poufnych informacji z czyjegoś konta

poprzez przekierowanie na inną stronę.

To złe zjawisko.

Zawieszamy konta,

które tak robią.

Dlaczego więc wyższa poprzeczka?

To może być też świadek
jakiegoś zdarzenia,

któremu udało się nagrać,

jak policjant bije niewinnego
uczestnika wiecu,

który stara się
przekazać światu, co się dzieje.

Nie chcemy przypadkowo

uciszyć tego wymownego przekazu,

oznaczając go jako spam.

Monitorując konta, musimy więc
brać pod uwagę setki kryteriów,

a mimo to i tak może zdarzyć się błąd

i trzeba coś ponownie sprawdzić.

Patrząc na wyzwania, przed którymi staję,

trzeba nie tylko przewidywać,

ale też tworzyć rozwiązania
dla nieoczekiwanych sytuacji.

Jest to ważne nie tylko dla mnie
czy Twittera, ale i dla was.

Ważne dla każdego, kto buduje lub tworzy coś,

co wydaje się być wspaniałe

i umożliwi innym robienie
wspaniałych rzeczy.

Co ja robię?

Zastanawiam się,

jak to wszystko

może pójść źle.

Wyobrażam sobie katastrofy.

To trudne.

Występuje wtedy pewien dysonans poznawczy,

podobny do zawierania małżeństwa

i jednoczesnego ustanawiania intercyzy.

(Śmiech)

Ale i tak musisz to zrobić,

zwłaszcza gdy bierze się ślub
z 500 milionami tweetów dziennie.

Co mam na myśli, mówiąc
"wyobrażanie katastrof"?

Zastanawiam się,

jak coś tak łagodnego
i niewinnego jak zdjęcie kota

może doprowadzić do śmierci

i jak temu zapobiec.

To stanowi mój następny przykład.

Oto mój kot, Eli.

Chcieliśmy dać użytkownikom

możliwość dodawania zdjęć do tweetów.

Obraz mówi więcej niż 1000 słów.

Ma się tylko 140 znaków.

Dodanie zdjęcia do tweeta,

to od razu więcej treści.

Jest wiele wspaniałych rzeczy,

które można zrobić, dodając zdjęcie.

Nie o nich mam myśleć.

Tylko o tym, co może pójść nie tak.

Jak takie zdjęcie

może spowodować moją śmierć?

Oto jedna z możliwości.

Na tym zdjęciu jest nie tylko kot.

Są tam też geodane.

Kiedy robi się zdjęcie
smartfonem lub aparatem cyfrowym,

jest wiele dodatkowych informacji

utrwalonych w tym zdjęciu.

To zdjęcie zawiera także odpowiednik tego,

a dokładniej tego.

[szerokość/długość geograficzna]

Mało prawdopodobne,

że ktoś wykorzysta zdjęcie mojego kota,

żeby mnie znaleźć i zrobić mi krzywdę,

ale zakładam, że stanie się najgorsze.

Dlatego, wprowadzając zdjęcia na Twitterze,

postanowiliśmy pozbawić je geodanych.

(Brawa)

Zaczynam od myślenia o najgorszym i idę głębiej.

Dzięki temu rozwiązania, które tworzymy

działają w przewidywalnych
i nieprzewidywalnych przypadkach.

Biorąc pod uwagę, że spędzam dnie i noce,

wyobrażając sobie najgorsze,

moje wyobrażenie o świecie,
mogłoby być ponure.

(Śmiech)

Nie jest.

Większość komunikacji, którą widzę,

a widzę jej sporo, jest pozytywna.

Ludzie proszą o pomoc,

nawiązują znajomości
albo dzielą się informacjami.

Ci, którzy mają do czynienia ze skalą działań,

z zapewnieniem innym bezpieczeństwa,

muszą zakładać najgorsze,

bo dla nas szansa jeden do miliona,

to duża szansa.

Dziękuję.

(Brawa)