A particularidade da escala no Twitter

Quando centenas de milhares de tuítes aparecem a cada segundo, a chance de um em um milhão -- incluindo cenários muito improváveis que poderiam prejudicar usuários -- ocorre cerca de 500 vezes por dia. Para Del Harvey, que comanda a Equipe de Confiança e Segurança do Twitter, essas chances não são nada boas. A especialista em segurança passa seus dias pensando em como prevenir os piores cenários possíveis, enquanto dá voz às pessoas no planeta. Com um humor cara-de-pau, ela nos mostra como mantém 240 milhões de usuários a salvo.

O que eu faço no Twitter

é garantir a confiança dos usuários,

proteger seus direitos
e mantê-los a salvo,

tanto uns dos outros

quanto, às vezes, deles mesmos.

Vamos falar sobre como é
a escala no Twitter.

Em Janeiro de 2009,

vimos mais de dois milhões
de novos tuítes a cada dia

nessa plataforma.

Em Janeiro de 2014,
tivemos mais de 500 milhões.

Vimos dois milhões de tuítes

em menos de seis minutos.

É um aumento de 24.900%.

Agora, a grande maioria
da atividade no Twitter

não causa problemas a ninguém.

Não envolve risco.

Meu trabalho é perceber e evitar
atividades que possam causar problemas.

Parece bastante simples, certo?

Vocês talvez achem que é fácil,

porque agora mesmo eu disse que a atividade

mais intensa no Twitter não causa problemas.

Para que gastar tanto tempo

procurando calamidades em potencial

em meio a atividades inofensivas?

Pela escala do Twitter,

uma chance em um milhão

ocorre 500 vezes por dia.

É a mesma de outras companhias

que lidam com este tipo de escala.

Para nós, os casos extremos,

como essas situações raras, que nunca vão ocorrer,

estão mais para uma rotina.

Digamos que 99,999% dos tuítes

não sejam um risco para ninguém.

Não representam uma ameaça.

Talvez as pessoas estejam
documentando suas viagens

como o coração
da Barreira de Corais da Austrália,

ou tuitando sobre o show em que estão,

ou estejam compartilhando
fotos de bichinhos fofinhos.

Excluindo esses 99,999%,

aquela porcentagem mínima
de tuítes restantes

chega a, aproximadamente,

150.000 por mês.

A enorme escala com que estamos lidando

é um desafio.

Sabem o que faz o meu trabalho

ser particularmente desafiador?

As pessoas fazem coisas esquisitas.

(Risos)

E eu tenho de entender
o que elas estão fazendo,

se há ou não
um risco envolvido e por quê,

geralmente sem ter muita noção
em termos de contexto

ou de situação.

Vou mostrar alguns exemplos

do que eu já encontrei
durante meu tempo no Twitter --

estes são exemplos reais —

de situações que,
a princípio, pareciam moleza,

mas, na verdade, a questão era uma coisa

completamente diferente.

Os detalhes foram mudados

para proteger os inocentes

e, em alguns casos, os culpados

Vamos pegar leve para começar.

["E aí, vadia"]

Se você visse um tuíte
que só dissesse isso,

você poderia pensar:

"Parece ser um abuso."

Afinal, por que você iria querer
receber uma mensagem assim,

"E aí, vadia"?

Agora, eu tento estar relativamente ligada

nas últimas modas e memes,

então eu sabia que o "e aí, vadia"

também era um cumprimento
comum entre amigos,

além de ser uma referência
popular ao "Breaking Bad".

Tenho de admitir
que eu não estava esperando

encontrar um quarto caso.

Acabou que também é usado no Twitter

quando as pessoas
estão brincando de cachorrinho.

(Risos)

E, na verdade, nesse caso,

não só não era abuso,

como, tecnicamente, é também
um cumprimento muito adequado.

(Risos)

Então, certo, determinar se algo é

ou não é abusivo, sem ter um contexto,

é definitivamente difícil.

Consideremos os "spams".

Este é um exemplo de uma conta

com um comportamento
de "spammer" clássico,

mandando exatamente a mesma mensagem

a milhares de pessoas.

Apesar de ser um exemplo
que eu fiz usando a minha conta,

vemos contas fazendo isso o tempo todo.

Parece fácil de resolver.

Deveríamos apenas suspender
automaticamente as contas

que apresentam este comportamento.

Acontece que há algumas
exceções à essa regra.

Pois pode ser que a mensagem
seja uma notificação

de que você assinou para saber

quando a Estação Espacial Internacional
estiver passando,

porque você pretende sair

e ver se a enxerga.

Você não vai ter essa chance

se, por um erro, suspendermos a conta

pensando que se trata de "spam".

Certo. Vamos parar de brincar.

De volta à minha conta,

de novo exibindo comportamente clássico.

Desta vez, mandando a mesma
mensagem com "link".

Costuma ser uma sinal
de uma coisa chamada "phishing",

alguém que tenta roubar as informações
da conta de outra pessoas,

levando-as a outro "site".

Bem óbvio que não é coisa boa.

Queremos e nos esforçamos
para supender contas

que se envolvem nessa atividade.

Por que, então, isto complica as coisas?

Bom, pode ser um simples passante

que conseguiu gravar um vídeo

de um policial agredindo
um protestante pacífico

e está tentando deixar o mundo
saber o que está acontecendo.

Nós não queremos apostar

na chance potencial de silenciar
aquela mensagem crucial

por classificá-la como "spam"
e suspender a conta.

Significa que avaliamos
centenas de parâmetros,

quando observamos
o comportamento das contas,

e, mesmo assim,
ainda podemos entender errado

e ter de reconsiderar.

Agora, com os tipos
de desafios que enfrento,

é essencial que eu não só antecipe,

mas também desenvolva
proteções contra o inesperado.

E este não é um trabalho só para mim,

ou para o Twitter, mas para vocês.

É um trabaho para todos
que estão construindo ou criando

algo que acham que será incrível

e que permitirá que as pessoas
façam coisas incríveis.

Então, que fazer?

Eu paro e penso:

"Como tudo isto

poderia dar terrivelmente errado?"

Eu visualizo a catástofre.

E é duro. Há meio
que uma dissonância cognitiva

inerente a fazer isso,

como quando você escreve
seus votos de casamento

ao mesmo tempo
em que o acordo pré-nupcial.

(Risos)

Mas ainda assim você tem de fazer,

principalmente se você se casa
com 500 milhões de tuítes por dia.

O que eu quero dizer
com "visualizar catástrofre"?

Eu tento pensar em como algo, digamos,

benigno e inocente como a foto de um gato

pode causar a morte de alguém,

e em o que fazer para evitar que aconteça.

Aliás, esse é meu próximo exemplo.

Este é meu gato, Eli.

Queríamos dar aos usuários a capacidade

de adicionar fotos aos tuítes.

Um imagem vale mais que mil palavras.

Você só tem 140 caracteres.

Com uma foto no seu tuíte,

olha quanto conteúdo você tem.

Há montes de coisas ótimas
que você pode fazer

adicionando uma foto a um tuíte.

Meu trabalho é pensar nelas.

É pensar o que poderia dar errado.

Como esta imagem

poderia me matar?

Bom, temos aqui uma possibilidade.

Há mais coisa na foto do que só um gato.

Há dados geográficos.

Quando você tira uma foto no "smartphone"

ou numa câmera digital,

há várias informações adicionais

salvas com a imagem.

Na verdade, esta imagem contém

o equivalente a isto,

mais especificamente, a isto.

Claro, é improvável que alguém vá tentar

me localizar e me fazer mal,

apenas pelos dados associados à imagem,

com a foto que tirei do meu gato,

mas parto do princípio
de que o pior vai acontecer.

É por isso que, quando lançamos
as fotos no Twitter,

decidimos remover
os dados geográficos delas.

(Aplausos)

Se começo imaginando o pior

e trabalho retroativamente,

posso assegurar
que as proteções que construímos

funcionem nos casos esperados

e também nos inesperados.

Levando em conta que passo dia e noite

imaginando o pior que pode acontecer,

não seria de surpreender se minha visão
de mundo fosse meio macabra.

(Risos)

Não é.

A maioria esmagadora
das interações que eu observo --

e eu vejo um monte,
acreditem -- são positivas:

pessoas oferecendo ajuda

ou se conectando, ou compartilhando
informações umas com as outras.

Só que, para aqueles
que lidam com a escala,

para nós que temos a tarefa
de manter as pessoas seguras,

precisamos imaginar
que o pior vai acontecer,

porque, para nós, uma chance em um milhão

é uma chance bem grande.

Obrigada.

(Aplausos)