El sesgo moral detrás de los resultados de búsqueda | Andreas Ekstrøm | TEDxOslo

Esta charla es de un evento TEDx, organizado de manera independiente a las conferencias TED.

Los motores de búsqueda se han convertido en nuestras fuentes más confiables de información y árbitros de la verdad. Pero ¿se puede obtener un resultado de búsqueda imparcial? El autor y periodista sueco Andreas Ekström sostiene que tal cosa es una imposibilidad filosófica. En esta reflexiva charla, nos llama a fortalecer los vínculos entre la tecnología y las humanidades y nos recuerda que detrás de cada algoritmo hay un conjunto de creencias personales que ningún código puede jamás erradicar por completo.

Cada vez que visito una escuela
y hablo con los estudiantes,

siempre les pregunto lo mismo:

¿Por qué Google?

¿Por qué tienen a Google como
el buscador de su preferencia?

Por extraño que parezca, siempre
obtengo las mismas 3 respuestas.

Uno, "porque funciona",

que es una gran respuesta;
por eso uso Google también.

Dos, alguien dirá:

"Realmente no sé de ninguna alternativa".

No es tan buena respuesta
y por lo general les digo,

"Busca en Google 'buscador'

puedes encontrar un par
de alternativas interesantes".

Y por último, pero no menos
importante, en tercer lugar,

inevitablemente, un estudiante
levantará su mano y dirá:

"Porque estoy seguro de obtener
siempre el mejor resultado imparcial".

Seguro de obtener siempre
el mejor resultado imparcial.

Ahora, como una persona de humanidades,

aunque una persona de
humanidades digitales,

eso hace que se me enchine la piel,

aun cuando sepa que esa confianza,
esa idea del resultado imparcial

es una piedra angular en nuestra
valoración y amor colectivo por Google.

Les mostraré por qué,
filosóficamente, es casi imposible.

Pero primero elaboraré, solo
un poco, un principio básico

detrás de cada consulta de la que
a veces parece que nos olvidamos.

Cada vez que vayan a googlear algo,

empiecen por preguntarse:
"¿Estoy en busca de un hecho aislado?".

¿Cuál es la capital de Francia?

¿Cuáles son los componentes
básicos de una molécula de agua?

Bien, googleénlo.

No hay ningún grupo de científicos
que estén cerca de probar

que en realidad sea Londres y H30.

No se ve una gran conspiración
detrás de esas cosas.

Estamos de acuerdo,
en una escala global,

cuáles son las respuestas
a estos hechos aislados.

Pero si complican la pregunta
un poco y preguntan algo así como:

"¿Por qué hay un conflicto
entre Israel y Palestina?".

No están exactamente en busca
de un hecho singular más,

están buscando conocimiento,

que es algo mucho más
complicado y delicado.

Y para llegar al conocimiento,

se tienen que tener 10 o 20
o 100 hechos a la mesa

y reconocerlos y decir:
"Sí, estos son ciertos".

Pero debido a quién soy,

joven o viejo, negro o blanco,
gay o heterosexual,

los voy a valorar de manera diferente.

Y diré: "Sí, esto es cierto,

pero esto es más
importante para mí que eso".

Y aquí es donde se pone interesante,

porque aquí es donde
nos hacemos humanos.

Aquí es cuando empezamos
a discutir, a formar la sociedad.

Y para llegar a algún lugar,
necesitamos filtrar todos nuestros hechos,

a través de amigos y vecinos
y padres de familia y los niños

y compañeros de trabajo
y los periódicos y revistas,

para finalmente basarnos
en un conocimiento real,

que es algo que un motor
de búsqueda difícilmente logra.

Prometí un ejemplo solo para
mostrar por qué es tan difícil

llegar al verdadero
conocimiento, limpio, objetivo

como alimento para el pensamiento.

Voy a llevar a cabo un
par de consultas simples.

Vamos a empezar con "Michelle Obama"

la primera dama de los EE. UU.

Y vamos a buscar fotografías.

Funciona muy bien, como se puede ver.

Es un resultado de búsqueda
perfecto, más o menos.

Es solo ella en la foto,
ni siquiera el presidente.

¿Cómo funciona esto?

Bastante sencillo.

Google utiliza mucha astucia
para lograr esto, pero simplemente,

ve dos cosas más que cualquiera otras.

Primero, ¿qué dice la leyenda
debajo de la foto en cada sitio web?

¿Dice "Michelle Obama"
debajo de la foto?

Bastante buena indicación de
que en realidad sea ella allí.

En segundo lugar, Google ve
en el archivo de imagen,

el nombre del archivo
como tal subido a la página web.

Una vez más, ¿se llama
"MichelleObama.jpeg"?

Bastante buena indicación de que
no es Clint Eastwood en la imagen.

Por lo tanto, con estos dos se
obtiene un resultado como este, casi.

Ahora, en 2009, Michelle Obama
fue víctima de una campaña racista,

la gente se puso a insultarla a
través de sus resultados de búsqueda.

Había una imagen distribuida
ampliamente a través de Internet

donde su cara fue distorsionada
para que pareciera un mono.

Y la foto se publicó por todas partes.

Y la gente la publicó
muy, muy a propósito,

para que apareciera en
los resultados de búsqueda.

Se aseguraron de escribir
"Michelle Obama" en el pie

y se aseguraron de cargar la imagen
como "MichelleObama.jpeg" o similares.

¿Saben para qué?, para
manipular el resultado de búsqueda.

Y funcionó.

Así que cuando buscaban imágenes en
Google de "Michelle Obama" en 2009,

la imagen distorsionada del mono
aparecía entre los primeros resultados.

Ahora, los resultados se auto-limpian,

y hay algo de belleza en eso,

porque Google mide
la relevancia cada hora, cada día.

Sin embargo, Google no se
conformó con eso esta vez,

pensaron: "Eso es racista y
es un mal resultado de la búsqueda,

vamos a restaurar y limpiar
eso manualmente.

Vamos a escribir algo de
código y lo arreglamos",

que es lo que hicieron.

Y yo no creo que nadie en esta
sala crea que era una mala idea.

Yo tampoco.

Pero entonces, un par de años pasaron,

y el Anders más
googleado del mundo,

Anders Behring Breivik,

hizo lo que hizo.

22 de julio del 2011,

un terrible día en
la historia de Noruega.

Este hombre, un terrorista,
voló un par de edificios del gobierno

a poca distancia de donde estamos
en este momento en Oslo, Noruega,

y luego viajó a la isla de Utoya

y disparó y mató a un grupo de niños.

Casi 80 personas murieron ese día.

Y mucha gente describiría
este acto de terror como dos pasos,

que hizo dos cosas: que explotó
los edificios y les disparó a esos niños.

No es verdad.

Fueron tres pasos.

Explotó esos edificios,
les disparó a esos niños,

y se sentó y esperó a
que el mundo lo googleara.

Y preparó los tres pasos igual de bien.

Y si había alguien que
inmediatamente entendió esto,

fue un desarrollador web sueco,

un experto en optimización de motores
de búsqueda en Estocolmo, Nikke Lindqvist.

También es un hombre muy político

y estaba ahí en las redes sociales,
en su blog y en facebook.

Y le dijo a todo el mundo,

"Si hay algo que este tipo
quiere en este momento,

es controlar la imagen de sí mismo.

Vamos a ver si somos
capaces de distorsionar eso.

Vamos a ver si en el mundo civilizado
podemos protestar contra lo que hizo

a través de insultarlo en
sus resultados de búsqueda".

¿Y cómo?

Le dijo a todos sus
lectores lo siguiente,

"Vayan al internet,

busquen fotos de perros
cagando en las aceras,

busquen fotos de caca
de perro en las aceras,

publíquenlas en sus feeds,
en sus sitios web, en sus blogs.

Asegúrese de escribir
el nombre del terrorista en el rubro,

asegúrese de nombrar el
archivo de imagen "Breivik.jpg".

Enseñemos a Google que
ese es el rostro del terrorista".

Y funcionó.

Dos años después de
la campaña contra Michelle Obama,

esta campaña de manipulación
contra Anders Behring Breivik funcionó.

Si lo buscaban en Google las semanas
después del 22 de julio de Suecia,

verían la imagen de la caca de perro
en lo alto de los resultados de búsqueda,

como una pequeña protesta.

Por extraño que parezca,
Google no intervino en esta ocasión.

No intervinieron ni limpiaron manualmente
los resultados de búsqueda.

Así que la pregunta del millón,

¿hay algo diferente entre estos
dos acontecimientos aquí?

¿Hay algo diferente entre
lo que pasó con Michelle Obama

y lo que le pasó con
Anders Behring Breivik?

Por supuesto que no.

Es exactamente lo mismo,

sin embargo, Google intervino
en un caso y no en el otro.

¿Por qué?

Porque Michelle Obama podría
ser una persona honorable, por eso,

y Anders Behring Breivik
es una persona despreciable.

¿Ven lo que sucede allí?

Tiene lugar una evaluación de una persona

y solo hay un jugador
de poder en el mundo

con la autoridad para
decir quién es quién.

"Tú nos gustas, tú nos disgustas.

Creemos en ti, no creemos en ti.

Tienes razón, te equivocas.
Tú mientes, tú dices la verdad.

tú eres es Obama y tú eres Breivik".

Eso es poder, si me preguntan.

Así que les pido que recuerden
que detrás de cada algoritmo

siempre hay una persona,

una persona con un conjunto
de creencias personales

que ningún código puede
erradicar completamente.

Y mi mensaje no es solo para Google,

sino a todos los creyentes en
la fe de código de todo el mundo.

Es necesario identificar
su propio sesgo personal.

Es necesario comprender
que son humanos

y asumir la responsabilidad
en consecuencia.

Y digo esto porque creo que
hemos llegado a un punto en el tiempo

en que es absolutamente imperativo

que atemos estos lazos de nuevo,
más ajustados:

las humanidades y la tecnología.

Más apretados que nunca.

Y, si no pasa otra cosa, recordemos
que esa idea maravillosamente seductora

del resultado de búsqueda
limpio e imparcial

es, y es probable que
siga siendo, un mito.

Gracias por su tiempo.

(Aplausos)