Kan een computer gedichten schrijven?

Als je een gedicht leest en erdoor ontroerd bent, maar vervolgens ontdekt dat het geschreven is door een computer, heeft dat dan invloed op die ontroering? Zou je vinden dat de computer zich creatief had uitgedrukt, of zou je vinden dat je beetgenomen was? Schrijver Oscar Schwartz onderzoekt in deze talk waarom we zo sterk reageren op het idee van een computer die poëzie schrijft -- en hoe deze reactie ons helpt begrijpen wat het betekent mens te zijn.

Ik heb een vraag.

Kan een computer gedichten schrijven?

Dit is een provocerende vraag.

Je denkt er even over na

en plots heb je een hoop
andere vragen, zoals:

wat is een computer?

Wat is een gedicht?

Wat is creativiteit?

Maar dit zijn vragen

die mensen hun leven lang
proberen te beantwoorden,

niet in één TED Talk.

We moeten dus iets anders proberen.

Hier staan twee gedichten.

Het ene is geschreven door een mens

en het andere door een computer.

Ik vraag jullie wie welk gedicht
geschreven heeft.

Probeer maar:

Gedicht 1: Kleine vlieg / Ik heb verruwd /
Uw zomerspel / Ver weggeduwd.

Ben niet ik / Een vlieg als gij? /
Of bent niet gij / Een man als ik?

Gedicht 2: We kunnen voelen /
Activist door je van leven / ochtend /

Stopt om te zien, paus ik haat de / Niet
al de nacht een begin / Goed anders (...)

Oké, jullie tijd is om.

Hand omhoog als je denkt dat een mens
het eerste heeft geschreven.

Oké, de meesten.

Hand omhoog als je denkt dat een mens
het tweede heeft geschreven.

Erg moedig van jullie,

want het eerste gedicht werd geschreven

door de menselijke dichter William Blake.

Het tweede werd geschreven
door een algoritme

dat alle taal van één dag
op mijn Facebookfeed nam

en die dan algoritmisch regenereerde

volgens methodes die ik later
zal beschrijven.

Laten we er nog een proberen.

Je hebt weer niet veel tijd
om dit te lezen,

dus volg je instinct.

#1: Een leeuw brult en een hond blaft.
Het is interessant / en fascinerend

dat een vogel vliegt en niet / brult
of blaft. Lieflijke verhalen over dieren

zijn in mijn dromen en ik zing ze allemaal
als ik / niet uitgeput en vermoeid ben.

#2: Oh! Kangoeroes, lovertjes,
chocoladedrank! / Zo bevallig!

Parels, / harmonica's, bonbons, aspirines!
Al / de dingen waar ze over praatten (...)

Oké, jullie tijd is om.

Als je denkt dat het eerste gedicht
van een mens is:

hand omhoog.

Oké.

Als je denkt dat het tweede gedicht
van een mens is:

hand omhoog.

Hier zijn we dus duidelijk verdeeld over.

Dit was veel moeilijker.

Het antwoord is:

het eerste gedicht werd gegenereerd
door een algoritme dat Racter heet

en in de jaren 70 werd ontwikkeld.

Het tweede gedicht is van Frank O'Hara,

toevallig een van mijn
favoriete menselijke dichters.

(Gelach)

Wat we nu net gedaan hebben,
is een Turingtest voor poëzie.

Alan Turing stelde de Turingtest
als eerste voor in 1950

om deze vraag te beantwoorden:

kunnen computers nadenken?

Alan Turing vond dat als een computer
een tekstgesprek kon voeren met een mens

zonder dat die mens
met zekerheid kon zeggen

of hij met een computer
of een mens praatte,

dat die computer dan
als intelligent beschouwd kon worden.

In 2013 hebben mijn vriend
Benjamin Laird en ik

een Turingtest voor poëzie online gezet.

Die heet 'bot or not'

en je kunt het zelf uitproberen.

Het is eigenlijk hetzelfde spelletje.

Je krijgt een gedicht te lezen,

je weet niet of het van een mens is
of van een computer,

en je moet het raden.

Duizenden mensen
hebben deze test online gedaan

en dus hebben we resultaten.

Wat zijn de resultaten?

Turing zei dat als een computer

30% van de tijd een mens kon misleiden,

dat hij daarmee geslaagd was
voor de Turingtest.

We hebben computergedichten
in onze database

waarvan 65% van de menselijke lezers
dachten dat ze van een mens waren.

Ik denk dus dat we
een antwoord hebben op onze vraag.

Kan een computer gedichten schrijven

volgens de logica van de Turingtest?

Ja, absoluut.

Maar als je je ongemakkelijk voelt
bij dit antwoord, geen probleem.

Als je onwillekeurige reacties vertoont

is dat ook geen probleem
want we zijn nog niet klaar.

Laten we onze derde
en laatste test spelen.

Je gaat weer moeten lezen

en me zeggen welk gedicht van een mens is.

#1: Rode vlaggen de reden
voor mooie vlaggen. / En lintjes.

Lintjes van vlaggen / En materiaal dragen/
Reden voor materiaal dragen. (...)

#2: ‘t Gewond hert springt het
hoogst, / Ik hoor de woudnarcis

Ik hoor de vlag vandaag /
Ik hoor des jagers preek; /

’t Is slechts d’extase van de dood, /
En dan is de rem bijna weg (...)

Oké, jullie tijd is om.

Wie denkt dat een mens
het eerste heeft geschreven?

Wie denkt dat een mens
het tweede heeft geschreven?

Wauw, dat zijn veel meer mensen.

Dan zal het jullie verrassen
dat het eerste gedicht

geschreven is door de erg menselijke
dichteres Gertrude Stein.

Het tweede werd gegenereerd
door een algoritme dat RKCP heet.

Voordat we verdergaan,
zal ik heel kort beschrijven

hoe RKCP werkt.

RKCP is een algoritme
ontworpen door Ray Kurzweil,

technisch directeur bij Google,

en voorvechter van
artificiële intelligentie.

Je geeft RKCP een brontekst,

het analyseert die tekst om te begrijpen
hoe taal erin gebruikt wordt,

en dan regenereert het algoritme

taal die de eerste tekst imiteert.

Voor het gedicht dat we net zagen,

het tweede, dat jullie menselijk vonden,

verwerkte het een hoop gedichten

van de dichteres Emily Dickinson.

Het keek naar hoe ze taal gebruikte,

leerde het model,

en regenereerde dan een model
volgens dezelfde structuur.

Maar het is belangrijk dat je weet

dat RKCP de betekenis niet kent
van de woorden die het gebruikt.

De taal is maar een grondstof,

het kan Chinees zijn,
het kan Zweeds zijn,

het kan alle taal van één dag
op je Facebookfeed zijn.

Het is maar een grondstof.

Toch kan het een gedicht schrijven

dat menselijker lijkt
dan dat van Gertrude Stein

en Gertrude Stein is een mens.

Wat we hier gedaan hebben,

is dus min of meer
een omgekeerde Turingtest.

Gertrude Stein, een mens,
kon een gedicht schrijven

waarvan de meeste mensen
onterecht denken

dat een computer het geschreven had.

Dat betekent, volgens de logica
van de omgekeerde Turingtest,

dat Gertrude Stein een computer is.

(Gelach)

Zijn jullie in de war?

Dat begrijp ik best.

Tot nu toe hadden we mensen
die zoals mensen schreven,

we hadden computers
die zoals computers schreven,

we hadden computers
die zoals mensen schreven,

maar we hadden ook,
het vreemdst van al,

mensen die zoals computers schreven.

Maar wat is onze conclusie dan?

Is William Blake opeens menselijker

dan Gertrude Stein?

Of is Gertrude Stein
meer een computer dan William Blake?

(Gelach)

Dit soort vragen stel ik mezelf

al ongeveer twee jaar

en ik heb er geen antwoord op.

Ik heb echter wel inzichten opgedaan

over onze verhouding met technologie.

Mijn eerste inzicht is dat we,
om welke reden dan ook,

poëzie associëren met menselijkheid.

Wanneer we vragen:
"Kan een computer gedichten schrijven?",

vragen we ook:

"Wat betekent het om een mens te zijn

en hoe bepalen we
de grenzen van deze categorie?

Hoe bepalen we wie of wat
deel kan uitmaken van deze categorie?"

Volgens mij is dit
een fundamenteel filosofische vraag,

waarop geen eenvoudig
ja/nee-antwoord

als de Turingtest bestaat.

Volgens mij begreep Alan Turing dit ook

en ontwierp hij zijn test in 1950

als een filosofische provocatie.

Mijn tweede inzicht is dat we,
wanneer we de Turingtest voor poëzie doen,

we niet echt de capaciteit
van de computers testen,

want poëzie-algoritmes

zijn vrij eenvoudig en bestaan al
min of meer sinds de jaren 50.

Wat we wel doen
met de Turingtest voor poëzie

is meningen verzamelen
over wat menselijkheid is.

Wat ik ontdekt heb,

is wat we eerder gezien hebben.

We zagen dat William Blake menselijker is

dan Gertrude Stein.

Dit betekent natuurlijk niet
dat William Blake

ook echt menselijker was,

of dat Gertrude Stein
meer een computer was.

Het betekent gewoon
dat de categorie 'mens' onstabiel is.

Hierdoor ben ik gaan begrijpen

dat de mens geen koud en hard feit is.

Het is wel iets dat we opbouwen
met onze meningen

en iets dat doorheen de tijd verandert.

Mijn laatste inzicht is

dat de computer min of meer
als een spiegel werkt

die elk idee over een mens
dat we eraan tonen, weerspiegelt.

We tonen hem Emily Dickinson,

hij geeft ons Emily Dickinson terug.

We tonen hem William Blake

en dat is wat hij ons weerspiegelt.

We tonen hem Gertrude Stein

en wat we terugkrijgen is Gertrude Stein.

Meer dan eender welke andere technologie

is de computer een spiegel die alles
reflecteert wat we hem leren over mensen.

Ik weet zeker dat veel van jullie

de laatste tijd veel
over kunstmatige intelligentie horen.

De vraag is dan vaak:

kunnen we het?

Kunnen we een intelligente computer maken?

Kunnen we een creatieve computer maken?

Wat we steeds opnieuw vragen is

of we een mensachtige computer
kunnen maken.

Maar we hebben net gezien

dat de mens geen wetenschappelijk feit is,

dat het een veranderend,
aaneengekoppeld idee is

dat door de tijd heen verandert.

Wanneer we in de toekomst
beginnen te worstelen

met ideeën rond
kunstmatige intelligentie,

moeten we ons niet alleen afvragen

of we het kunnen maken.

We moeten ons ook afvragen

welk idee van de mens
we weerspiegeld willen terugkrijgen.

Dit is een fundamenteel filosofisch idee,

één dat niet enkel met software
beantwoord kan worden,

maar waarover we volgens mij
als mensheid existentieel moeten nadenken.

Dankjewel.

(Applaus)