검색 결과에 숨은 도덕적 편향성 | 안드레스 엑스트롬(Andreas Ekstrøm) | TEDxOslo

검색엔진은 가장 신뢰할 수 있는 정보의 원천이 되었습니다. 그러나 우린 편향되지 않은 결과를 얻을 수 있을까요? 스웨덴 작가이자 저널리스트인 안드레스는 그것이 철학적으로 불가능한 것이라고 주장합니다. 그는 수준있는 이 강연을 통해 기술과 인간성을 부합시키라 이야기합니다. 그리고 모든 알고리즘 뒤에는 어떤 코드로도 근절할 수 없는 사람의 생각이 담겨있다는 것을 일깨워 줍니다.

이 강연은 TED 컨퍼런스와 별도로 개최된 지역 TEDx 행사에서 발표되었습니다.
더 많은 정보 http://ted.com/tedx

학교에서 학생들과 대화 할 때마다

같은 질문을 합니다.

"왜 구글을 사용 하니?"

" 왜 검색엔진으로 선택했니?"

이상하게도 항상 세가지의
같은 답변을 받죠.

첫 번째, "잘 되거든요."

좋은 답변이죠.
저도 그래서 구글을 쓰니까요.

두 번째, 누군가는
이렇게 말할 겁니다,

"다른 선택이 별로 없어요."

썩 좋은 답변은 아니지만 저는 말하죠.

"구글에 '검색 엔진'을 검색해보렴.

두 개의 흥미로운
선택 사항들을 보게 될 거야."

마지막으로 세 번째,

예상대로 한 학생이 손을 들며 말해요,

"구글을 사용하면 언제나 최선이자
편향되지 않은 결과를 얻어요."

최선의 비편향적인 결과를
얻는다고 확신한다네요.

인류의 한 사람,

디지털 시대의 인류이긴 하지만,

소름돋게 만드는 말이죠.

편향적이지 않다는
검색 결과에 대한 신뢰가

구글에대한 사랑과 감사의
이유임을 알긴 하지만

그것이 왜 철학적으로 불가능한지
알려드리겠습니다.

일단 먼저 종종 잊어버리는
검색 쿼리 기본 원칙에 대해

정리해 드리겠습니다.

구글에서 무언가를 시작할 때,

스스로에게 먼저 질문하세요:
"나는 객관적 사실을 찾는가?"

프랑스의 수도는 어디지?

물분자의 구성요소는?

좋습니다. 마음껏 구글하세요.

그 어떤 과학자들도

런던이고 H3O라고
증명하지는 않을테니까요.

이런 것엔 큰 음모가 없습니다.

전 세계가 동의하는

객관적인 사실이기 때문이에요.

그렇지만 질문을 조금 복잡하게

"이스라엘과 팔레스타인이
대립하는 까닭은"? 으로 하면

당신은 더이상 하나의 사실을
보게되지 않습니다.

당신은 조금 더 복잡하고 세련된

지식을 찾으려고 하죠.

지식을 얻기 위해선,

10개, 20개, 100개의 사실을
수집한 후에

그것이 모두 사실이라고
인정해야 합니다.

그러나 자신이 누구인지에 따라

젊거나 늙었거나, 백인이거나
흑인이거나, 게이거나 아니거나

각자 그것의 가치를 다르게 메겨요.

그리고 말하겠죠,
"그래 이건 사실이만,

이것보단 저게 나한텐 더 중요해."

여기서부터 재밌어집니다.

모두가 인간적인 면을 보이기 때문이죠.

따라서 논쟁을 시작하고
집단을 형성합니다.

무언가에 도달하려면
모든 사실들을 걸러내야해요.

친구, 이웃, 부모님, 아이를 통해,

동료, 뉴스, 잡지를 통해,

진짜 지식임을 입증하기 위해서요.

검색엔진은 잘 할 수 없는 일이죠.

지식에 도달하는게 어려운
이유를 보여드리기 위해서

한 가지 예를 드리기로 했었죠.

깊은 생각거리처럼 어려운 이유를요.

두 개의 단순한 검색어를 쳐 보죠.

미국의 영부인인

미쉘 오바마부터 해보죠.

사진을 눌러보겠습니다.

보시다시피 훌륭하네요.

완벽한 결과 그 자체입니다.

사진은 영부인만을
담고있고 대통령은 없죠.

무슨 원리일까요?

간단해요.

구글은 여러 세련된 기술들을
동원시키기도 하지만, 사실은

단순히 단 두 가지에 중점을 둡니다.

첫째, 사진 아래 설명란에
적힌 내용은 무엇인가?

"미쉘 오바마"인가?

그럼 영부인 사진일 확률이 높겠죠.

두 번째, 구글은 사진 파일이
어떤 이름으로

올라와 있는 지를 봅니다.

파일 이름이
"미쉘 오바마.jpeg"인가?

당연히 그 사진은
클린트 이스트우드가 아니겠죠.

이 두 가지로는
이런 검색 결과가 나옵니다.

2009년 미쉘 오바마는
인종차별 캠페인의 피해자였으며,

사람들은 검색 결과를 통해
영부인을 모욕하려 했다.

인터넷에 널리 퍼진 사진 중

그녀의 얼굴이 원숭이처럼
뒤틀린 사진이 있었습니다.

사진은 곳곳에 퍼져나갔죠.

의도적으로 사람들은

상위 검색 결과에 올라오도록 했어요.

사진 설명란에 반드시
"미쉘 오바마" 적어 놓고

파일명은 반드시
"미쉘 오바마.jpeg" 라고했죠.

이 방법으로 검색 결과를 조작했어요.

그리고 정말 그렇게 되었죠.

그래서 2009년에
"미쉘 오바마"를 구글에 검색하면

조작된 원숭이 사진이
첫 번째로 뜨곤 했죠.

지금, 결과들은 저절로 걸러집니다.

좋은 장점이죠.

구글이 매일 매 시간
연관성을 확인하기 때문이죠.

그런데 구글은 거기서 멈추지 않았죠.

구글은 생각했어요.
"인종차별적이고 부적합한 결과를

보이지 않게 수동으로 작업하자.

그리고 코드를 사용해 고쳐보자."

정말 그렇게 했습니다.

여기 계신 그 누구도 이것이
나쁜 생각이라고 믿지 않으시겠죠.

저도 마찬가지입니다.

그런제 이 년 후에

세상에서 가장 많이 검색된

안드레스 베링 브레이비크가

무언가를 터뜨렸습니다.

2011년 7월 22일은

노르웨이 역사상 최악의 날이었습니다.

테러리스트가 두 정부 청사
건물을 폭파시키고

우퇴이아 섬으로 가서, 지금 오슬로의
우리만큼 가까운 거리에서

아이들을 총으로 사살시켰습니다.

80여명의 사람들이 희생되었습니다.

사람들은 이 테러를

두 가지로 행위로 묘사합니다.

테러리스트가 건물을 폭파시키고
사람들을 사살했다.

그건 사실이 아니예요.

세 가지가 있었어요.

건물을 폭파시켰고,
아이들을 사살했고,

앉아서 세계가 자신을
구글에 검색하기를 기다렸습니다.

그는 이 세 가지 모두를
철저히 준비했었습니다.

그걸 바로 알아차린 사람이 있었으니,

바로 스웨덴 웹 개발자이자
검색엔진 최적화 전문가인

스톡홀롬의 니키 린드크비스트였습니다.

니키는 매우 정치적인 사람이고

자신의 소셜미디어인 블로그와
페이스북을 하고 있었죠.

그가 사람들에게 말했습니다.

"이 남자가 지금 무언가를 원한다면,

그건 자신의 이미지를 조정하는 것이다.

우리가 그걸 어떻게
뒤틀어버리는지 보여줍시다.

문명화된 이 세상에서 우리가 그의
극악한 행위에 시위할 수 있다는 것을

모욕적인 검색결과를 통해 보여줍시다."

어떻게요?

니키는 팔로워 구독자에게 말했어요,

"인터넷에서

길거리의 개똥 사진을 찾아

길거리의 개똥 사진을 찾아

당신의 피드, 웹사이트,
블로그에 올리세요.

제목은 반드시
테러리스트 이름으로 하시고,

파일명은 반드시
"브레이비크.jpeg"로 하세요.

구글에게 개똥이 테러리스트의
얼굴이라고 가르쳐줍시다."

정말 그렇게 됐습니다.

미쉘 오바마 반대
운동으로부터 이 년 후,

안드레스 베링 브레이비크에 반하는
캠페인의 조작이 통했습니다.

7월 22일의 사건 몇 주 뒤에도

상위 구글 사진 결과는 개똥이었습니다.

작은 시위였죠.

이상하게 이번엔
구글이 개입하지 않았어요.

이번엔 수동적으로
검색 결과를 정화시키지 않았죠.

중요한 질문을 해보죠,

두 사건 사이에 차이가 있나요?

미쉘 오바마에게 일어난 일과
안드레스 베링 브레이비크에게

일어난 일엔 어떤 차이가 있나요?

없습니다.

아주 같은 일입니다.

한 사건엔 구글이 개입하였고,
다른 하나는 그렇지 않았죠.

왜요?

미쉘 오바마는 명예로운 인물이고

안데르스 베링 브레이비크는
비열한 인간이니까요.

무슨 일이 벌어지는지 아시겠죠?

사람에 대한 평가가 이루어지고,

누가 어떤 사람인지
말할 수 있는 권력자는

세상에 단 하나 뿐입니다.

"우린 네가 좋아, 우린 네가 싫어.

우린 널 믿어, 우린 널 믿지 않아.

네가 옳아, 네가 틀렸어.
네가 사실이야, 네가 거짓이야.

넌 오바마고, 넌 브레이비크야."

이것이 권력입니다.

제가 말씀드리고 싶은 것은
모든 알고리즘 뒤에는

어떤 코드로도 완벽하게 근절하지 못하는

사람의 생각이 들어 있다는 것을

기억해 달라는 것입니다.

구글 뿐만 아니라,

전세계의 코드를 믿는
모든 사람들도 말입니다.

자기 자신이 가진 편견을 찾아내세요.

본인이 인간임을 인정하고

그에 맞는 책임감을 지니세요.

제가 이렇게 주장하는 이유는

우리 모두가 기술과
인간성을 접목시켜야 하는 시점에

도달하였다고 믿기 때문입니다.

인간과 기술이
어느 때보다 더 끈끈하게요.

편향되지 않고 깨끗한
그러한 매혹적인 검색 결과는

언제나 상상속에서만
존재할 것이라는 것을

일깨워드리고 싶었습니다.

시간내주셔서 감사합니다.

(박수)