Моральные принципы за результатами поиска | Андреас Экстрём | TEDxOslo

Поисковики стали источником информации, которому доверяют больше всего — эдакими арбитрами истины. Но можно ли в действительности получить непредвзятый результат поиска? Шведский писатель и журналист Андреас Экстрём утверждает, что это — невозможно теоретически. В своём выступлении он призывает нас укреплять связь между технологией и гуманитарными науками и напоминает нам, что за каждым алгоритмом стоят чьи-то личные убеждения, искоренить которые не под силу никаким кодам.

Это выступление записано на мероприятии TEDx, независимо организованном местным сообществом с использованием формата конференций TED. Узнайте больше на http://ted.com/tedx

Каждый раз, приходя в школу
и общаясь с учениками,

я задаю им один и тот же вопрос:

«Почему вы гуглите?

Почему предпочитаете Гугл
другим поисковым системам?»

Как ни странно, у них всегда
одни и те же три ответа.

Первый: «Потому что он работает».

Это прекрасный ответ,
я и сам гуглю по той же причине.

Второй, который кто-нибудь да выдаст:

«А я не знаю других поисковиков».

Это не такой прекрасный ответ,
на который я обычно отвечаю:

«Попробуй погуглить слово "поисковик",

может, найдёшь парочку
любопытных альтернатив».

И последний, но не маловажный,

который непременно последует
за одной из поднятых рук:

«С Гуглом я уверен, что всегда
получу лучший непредвзятый результат».

Уверен в получении лучшего
непредвзятого результата поиска.

Мне как гуманитарию,

пусть и в области
цифровых гуманитарных наук,

от этого делается не по себе,

хотя я понимаю, что именно эта вера
в непредвзятость результатов поиска

лежит в основе нашей общей
любви и признательности к Гуглу.

Я же покажу вам, почему, с философской
точки зрения, такое невозможно.

Но сначала позвольте коротко
остановиться на основном принципе

за каждым поисковым запросом,
о чём мы частенько забываем.

Прежде чем обратиться
к Гуглу с вопросом,

спросите себя: «Интересуюсь
ли я единичным фактом?»

Как называется столица Франции?

Из чего состоит молекула воды?

Прекрасно, гуглите на здоровье.

Нет такой группы учёных,
которые вот-вот докажут,

что это, на самом деле, Лондон или H3O.

Заговоров по таким вопросам
обычно не возникает.

По большому счёту, мы все согласны

с ответами на запросы
об этих единичных фактах.

Но вопрос может быть посложнее,
если вы набираете что-то вроде:

«Каковы причины израильско-
палестинского конфликта?»

Тут вы уже спрашиваете
не об отдельно взятом факте,

вы пытаетесь разобраться в вопросе,

что намного более
неоднозначно и деликатно.

И для того, чтобы разобраться,

вам нужно собрать 10, 20
или даже 100 фактов вместе,

признать их и сказать себе:
«Все они верны».

Но в зависимости от того, кто я:

молодой или старый,
белый или цветной, гей или нет,

я оценю их по-разному.

И подумаю: «Да, всё это так,

но вот это для меня
важнее, чем вот это».

Вот где становится интересно,

потому что именно это
и отличает нас, людей.

Именно тогда мы начинаем
спорить, формировать общество.

И чтобы к чему-то прийти,
нам нужно профильтровать факты

через друзей и соседей,
через родителей и детей,

через коллег, газеты и журналы,

чтобы в результате докопаться
до настоящего знания,

которое зачастую поисковики
нам дать не в состоянии.

Итак, я обещал вам пример,
чтобы показать, почему так сложно

добиться верного, чистого,
объективного знания,

в качестве пищи для ума.

Я сделаю пару простых
поисковых запросов.

Начнём с «Мишель Обама» —

первой леди США.

И выберем картинки.

Как видите, работает отлично.

Это почти идеальный результат.

Здесь только её фотографии,
даже президент не попадается.

Как это работает?

Довольно просто.

Гугл использует заумные
алгоритмы, но по-простому,

они смотрят главным образом
на две вещи.

Первая: что сказано на подписи
под изображением на вебсайте?

Если под фотографией
значится «Мишель Обама»,

то можно считать,
что это на самом деле она.

Вторая: Гугл смотрит на имя файла,

файла с фотографией,
загруженного на вебсайт.

Опять же, если это «МишельОбама.jpeg»,

то вряд ли на картинке
окажется Клинт Иствуд.

Итак, если оба индикатора совпали,
результат поиска получен... почти.

В 2009 году Мишель Обама
стала жертвой расисткой агитации,

когда её пытались оскорбить
посредством поисковых результатов.

Интернет заполонили изображения,

где её изобразили похожей на обезьяну.

Эти фотографии распространились повсюду.

Их публиковали повсюду специально,

чтобы повысить их рейтинг в поисковиках.

На подписях намеренно
значилось «Мишель Обама»,

и народ позаботился о файлах
с именами типа «МишельОбама.jpeg».

Понятное дело, для манипуляции
результатов поиска.

И это сработало.

Если в 2009 в картинках Гугла
искали «Мишель Обама»,

это обезьянье изображение
появлялось среди первых результатов.

Так вот, результаты эти самоочищаются,

и в этом вся прелесть,

потому что Гугл переоценивает
их соответствие каждый час и день.

Однако на этот раз Гугл
решил вмешаться,

они подумали: «Эти результаты
расистские и неправильные,

так что мы вернёмся назад
и почистим их вручную.

Мы напишем программы,
выявим и удалим эти картинки».

Так они и сделали.

Не думаю, что кто-либо из здесь
присутствующих с ними не согласен.

Я тоже согласен.

Однако несколькими годами позже

самый популярный в Гугле Андерс,

Андерс Беринг Брейвик,

сделал то, что он сделал.

Это случилось 22 июля 2011 года

и стало жутким днём
в норвежской истории.

Этот человек, террорист, взорвал
пару правительственных зданий

неподалёку отсюда, в Осло, Норвегии,

а потом перебрался на остров Утойя

и перестрелял группу подростков.

Около 80 человек погибли в тот день.

Для многих этот террористический акт
состоял из двух этапов,

двух его преступлений: подрыва
зданий и убийства подростков.

Но это не так.

Он состоял из трёх этапов:

он взорвал здания,
он перестрелял подростков,

а потом он сел и стал ждать,
пока его начнут искать в Гугле.

Он подготовил все три этапа
одинаково тщательно.

И если кто-то моментально
это сообразил,

то это был шведский веб-программист

и эксперт в поисковой оптимизации
из Стокгольма по имени Никке Линдквист.

Будучи также увлечённым политикой,

от тут же вышел на социальные сайты:
свой блог и страницу в Фейсбуке.

И он всем сообщил:

«Всё, что нужно сейчас этому парню, —

это контроль над собственным имиджем.

Давайте попробуем его исказить.

Сможем ли мы, цивилизованный мир,
выступить против его поступков

через результаты поиска?»

И как же?

Он сказал всем своим читателям:

«Выходите в интернет,

ищите картинки с собачьими
экскрементами на улице —

с собачьими «минами» на тротуаре —

и вывешивайте их в своих постах,
на своих вебсайтах и в блогах.

Главное, ставьте
под ними имя террориста

и называйте файлы «Брейвик.jpeg».

Научим Гугл, как выглядит
лицо этого террориста».

И это сработало.

Спустя два года после
кампании против Мишель Обамы

манипуляция против Андерса
Беринга Брейвика сработала.

Если бы вы его погуглили из Швеции
спустя недели после событий 22 июля,

то первыми в результатах появились бы
фотографии собачьих «мин»,

как мини-акция протеста.

Как ни странно, на этот раз
Гугл вмешиваться не стал.

Они не пришли и не почистили
результаты поиска вручную.

Вопрос на миллион:

есть ли в этих двух событиях
какая-нибудь разница?

Есть ли разница между тем,
что произошло с Мишель Обамой,

и тем, что произошло
с Андерсом Брейвиком?

Разумеется, нет.

Это совершенно одно и то же,

однако в одном случае Гугл
вмешался, а в другом — нет.

Почему?

Потому что Мишель Обама —
достойный человек, вот почему,

а Андерс Беринг Брейвик —
ничтожный человек.

Понимаете, в чём тут дело?

Происходит оценка человека,

и при этом только один
игрок во всём мире

обладает правом выдавать вердикт.

«Ты нам нравишься, а ты — нет.

В тебя мы верим, а в тебя — нет.

Ты прав, ты не прав.
Тебе мы верим, а тебе — нет.

Ты — Обама, а ты — Брейвик».

Это — власть, если вы меня спросите.

Поэтому прошу вас помнить,
что за каждым алгоритмом

всегда есть человек,

человек с личными установками,

и ни одной программе
их полностью не удалить.

И мой призыв относится
не только к Гуглу,

а ко всему миру,
верящему в святость кода.

Вы должны уметь определять
свои личные убеждения.

Вы должны понять, что вы — человек,

и взять на себя за это ответственность.

И я говорю это потому,
что верю, что настал момент

крайней необходимости

в более крепкой и прочной связи

между гуманитарными
науками и технологиями.

Более прочной, чем когда-либо.

И уж по крайней мере, надо помнить,
что очень соблазнительная идея

о непредвзятых, чистых
результатах поиска —

это лишь миф, который таковым,
скорее всего, и останется.

Спасибо за ваше время.

(Аплодисменты)