A chaque fois que j'interviens dans une école,
je pose toujours la même question aux élèves :
Pourquoi allez-vous sur Google ?
Pourquoi ce moteur de recherche plutôt qu'un autre ?
Et bizarrement, j'obtiens toujours trois mêmes réponses.
Premièrement, « Parce que ça marche » ;
c'est une bonne raison, c'est pour ça que j'y vais aussi.
Deuxièmement, on me dit,
« Je ne saurais vraiment pas quoi utiliser d'autre. »
C'est un peu moins convaincant, et j'ai tendance à répondre
« Tapez 'moteur de recherche' sur Google,
cela vous donnera quelques idées. »
Et troisièmement, inévitablement,
un ou une élève lève la main et dit :
« Sur Google, j'ai la certitude d'obtenir des informations impartiales. »
La certitude d'obtenir des informations impartiales.
Je suis passionné d'humanités numériques,
et entendre cette phrase
me donne la chair de poule,
même si je vois bien que cette confiance en l'impartialité des résultats
est au fondement du crédit que l'on donne à Google.
Je vais vous montrer en quoi c'est pratiquement impossible.
Mais tout d'abord, rappelons une règle de base
qui vaut pour toutes les requêtes, et qu'il nous arrive d'oublier.
Quand vous vous apprêtez à faire une recherche
demandez-vous d'abord : « La réponse est-elle une information élémentaire ? »
Quelle est la capitale de la France ?
Quelles atomes constituent une molécule d'eau ?
Si c'est le cas, allez-y.
Aucun chercheur n'essaie de prouver qu'il s'agit de Londres
et de 30 atomes d'hydrogène.
Pas de mystère derrière ces simples questions.
Leurs réponses font l'objet
d'un consensus général.
Mais si on ajoute un degré de complexité, en demandant par exemple
« A quoi est dû le conflit israélo-palestinien ? »
on n'est plus à la recherche d'une simple information,
mais d'une connaissance,
ce qui est bien plus compliqué et délicat à obtenir.
Pour construire une connaissance,
il faut rassembler 10, 20 ou 100 informations factuelles,
les étudier et se dire « D'accord, tout cela est vrai. »
Mais en fonction de qui je suis,
jeune ou vieux, Noir ou Blanc, gay ou hétéro,
je les envisagerai différemment.
Je me dirai « Oui, tout est vrai,
mais cet aspect me parle plus que celui-là. »
Et c'est là que ça devient intéressant,
car c'est ce qui fait de nous des humains
capables de débattre et de prendre part à la société.
Et pour digérer tous ces faits, il faut les confronter
à nos amis, voisins, famille, enfants,
collègues, journaux, magazines,
et alors seulement, on parvient à une vraie connaissance,
chose qu'un moteur de recherche est incapable de faire.
Comme promis, voici un exemple qui montre comme il est difficile de parvenir
à une connaissance pure, impartiale et parfaite.
Pour nourrir notre réflexion,
je vais effectuer deux requêtes très simples.
Pour commencer, « Michelle Obama »,
la Première Dame des Etats-Unis.
Cliquons sur l'onglet « Images ».
Comme vous le voyez, ça fonctionne très bien.
Somme toute, de parfaits résultats de recherche.
Elle est seule sur les photos, sans même le Président.
Comment ça marche ?
C'est très simple.
Google procède de manière astucieuse et très simple à la fois :
il se base essentiellement sur deux éléments.
Primo, qu'est-il écrit dans la légende de l'image ?
A-t-on marqué « Michelle Obama » sous la photo ?
Si oui, on peut déduire que c'est bien elle.
Secondo, Google examine le nom du fichier image
que l'on a téléchargé sur le site.
Le fichier s'appelle « MichelleObama.jpeg » ?
Si oui, ce n'est sans doute pas une photo de Clint Eastwood.
Les deux éléments renseignés, on obtient (presque toujours) de bons résultats.
Mais en 2009, Michelle Obama a été victime d'une campagne raciste,
où des personnes ont commencé à l'insulter via ses résultats de recherche.
On a diffusé sur toute la toile une photo d'elle retouchée
où son visage ressemblait à celui d'un singe.
Cette photo a fait le buzz.
Les gens la publiaient expressément
pour entacher ses résultats de recherche.
Ils s'assuraient d'indiquer « Michelle Obama » dans la légende
et de nommer leur fichier image « MichelleObama.jpeg »,
avec pour but de manipuler les résultats.
Et ça a marché.
Quand vous cherchiez sur Google une photo d'elle en 2009,
c'était un visage déformé de singe qui apparaissait.
Les résultats de recherche s'auto-régulent donc,
en somme, c'est leur grande force,
parce que Google réévalue sans arrêt leur pertinence.
Mais cette fois, cela n'a pas suffi
Google s'est dit : « Ce résultat est raciste et non pertinent,
faisons marche arrière et supprimons-le manuellement.
Ecrivons un bout de code pour régler le problème. »
Et c'est ce qui s'est passé.
Je pense qu'aucun d'entre vous ne désapprouve cette décision.
Et moi non plus.
Mais plusieurs années après, un homme nommé Anders
(sans doute le Anders le plus recherché sur Google),
Anders Behring Breivik,
a fait ce qu'il a fait.
C'était le 22 juillet 2011,
une terrible journée dans l'histoire de la Norvège.
Ce terroriste a fait sauter des immeubles gouvernementaux
tout près de là où nous sommes, à Oslo,
puis s'est rendu sur l'île d'Utøya
où il a massacré des adolescents.
Il y a eu près de 80 morts ce jour-là.
Et on dit souvent que cet acte terroriste s'est déroulé en deux temps :
d'abord l'explosion, puis la fusillade,
mais c'est faux.
Il y a trois temps.
Il a fait sauter les immeubles, tué les adolescents,
puis il a attendu que le monde le recherche sur Google.
Chacun de ces trois temps a été minutieusement préparé.
Et il y a une personne qui s'en est aperçu tout de suite :
Nikke Lindqvist, un développeur web
expert en référencement vivant à Stockholm, en Suède.
Très engagé politiquement,
il a tout de suite réagi sur les réseaux, son blog et Facebook,
en disant à tout le monde :
« En ce moment, ce mec n'a qu'une idée en tête,
c'est contrôler son image.
Voyons comment on peut la ternir.
Voyons si nous, personnes civilisées, pouvons protester contre son acte
en l'injuriant via ses résultats de recherche. »
Et de quelle façon ?
Il demanda ceci à tous ses lecteurs :
« Allez sur Internet,
trouvez des photos de crottes de chien sur des trottoirs --
publiez-les sur vos comptes, vos sites web et vos blogs,
mettez bien le nom du terroriste dans la légende,
et nommez bien le fichier image 'Breivik.jpeg'.
Faisons croire à Google que c'est le visage de ce terroriste. »
Et ça a marché.
Deux ans après la campagne raciste contre Michelle Obama,
une même campagne contre Anders Behring Breivik a eu lieu.
En Suède, quelques semaines après les événements du 22 juillet,
ses résultats de recherche affichaient une photo de crotte de chien
en signe de protestation.
Il est à noter que cette fois, Google n'est pas intervenu.
Il ne s'est pas donné la peine de nettoyer ces résultats manuellement.
Et maintenant, la question à mille euros :
quelle est la différence entre ces deux anecdotes ?
Michelle Obama a-t-elle subi une attaque de nature différente
de celle subie par Anders Behring Breivik ?
Bien sûr que non.
C'est exactement la même chose,
mais Google intervient dans un cas mais pas dans l'autre.
Pourquoi ?
Parce que Michelle Obama est une personne respectable,
et que Anders Behring Breivik est une personne méprisable.
Vous voyez jusqu'où ça va ?
Quand on se met à juger une personne
il existe une instance unique et toute puissante
capable d'avoir le dernier mot.
« Toi on t'aime, toi on ne t'aime pas.
On croit en toi, mais pas en toi.
Tu as tort, tu as raison. Tu es vrai, tu es faux.
Tu es Obama, et toi tu es Breivik. »
Et c'est, je pense, l'essence même du pouvoir.
Souvenez-vous donc que derrière tout algorithme
se cache toujours une personne
dont la trame de convictions personnelles
transparaîtra quel que soit le code du programme.
Et l'objet de mon propos va bien au-delà de Google,
et concerne tous ceux qui font confiance au code.
Il faut identifier ses propres préjugés moraux.
Il faut reconnaître qu'en tant qu'humains
nous devons prendre nos responsabilités.
D'autant plus que que je pense que nous avons atteint un point
où il est absolument nécessaire
de renforcer les liens qui unissent
les sciences humaines et la technologie.
Plus que jamais.
Ou du moins de se souvenir que la séduisante hypothèse
de résultats de recherche parfaitement impartiaux
est et restera sans doute un mythe.
Merci pour votre attention.
(Applaudissements)