Zamislite da posmatrate voz koji nekontrolisano juri niz šine pravo prema petorici radnika koji ne mogu da pobegnu. Slučajno se nalazite pored poluge koja će preusmeriti voz na drugu prugu. Evo u čemu je problem. Na toj pruzi je takođe radnik, ali samo jedan. Šta ćete uraditi? Da li ćete žrtvovati jednu osobu da biste spasili pet? To je problem voza, verzija etičke dileme koju je osmislio filozof Filipa Fut 1967. godine. Popularan je jer nas primorava da razmišljamo kako odabrati kada nema dobrih izbora. Da li da odaberemo akciju da najboljim ishodom ili da se pridržavamo moralnog kodeksa koji zabranjuje da uzrokujemo nečiju smrt? U jednoj anketi, oko 90% ispitanika reklo je da je u redu povući polugu, dopuštajući da jedan radnik umre da bi se spasilo njih pet, a i druga istraživanja, uključujući simulaciju dileme u virtuelnoj stvarnosti, došla su do sličnih rezultata. Ovakva rasuđivanja su u skladu sa filozofskim principom utilitarizma koji tvrdi da je moralno ispravna odluka ona koja maksimalno uvećava dobrobit najvećeg broja ljudi. Pet života nosi prevagu nad jednim, čak i ako postizanje tog ishoda iziskuje osuditi nekoga na smrt. Ipak, ljudi ne zauzimaju uvek utilitarističko gledište, što možemo videti ako malo izmenimo problem voza. Ovoga puta stojite na mostu iznad šina dok se pomahnitali voz približava. Sada nema druge pruge, ali se na mostu pored vas nalazi veoma krupan čovek. Ako ga gurnete preko mosta, njegovo telo će zaustaviti voz, što će spasiti petoricu radnika, ali će on umreti. Za utilitariste, odluka je sasvim ista, lišiti se jednog života da bi se spasilo pet. Međutim, u ovom slučaju, samo oko 10% ljudi kaže da je u redu baciti čoveka na prugu. Naši instinkti nam govore da je namerno izazvati nečiju smrt drugačije nego dopustiti da umre kao kolateralna šteta. To jednostavno deluje pogrešno iz razloga koje je teško objasniti. Ovo ukrštanje etike i psihologije predstavlja ono što je zanimljivo u vezi sa problemom voza. Ova dilema u mnogim svojim varijacijama otkriva da šta smatramo ispravnim ili pogrešnim zavisi od više faktora, pored logičnog vaganja prednosti i mana. Na primer, veća je verovatnoća kod muškaraca nego kod žena da će reći da je u redu gurnuti čoveka preko mosta. Isto važi za ljude koji pogledaju komični snimak pre misaonog eksperimenta. U jednoj studiji virtuelne stvarnosti, ljudi su bili spremniji da žrtvuju muškarce nego žene. Istraživači su proučavali aktivnost mozga ljudi koji promišljaju klasičnu verziju i onu sa mostom. Oba scenarija aktiviraju oblasti mozga uključene u svesno donošenje odluka i emocionalne odgovore. Međutim, u verziji sa mostom, emocionalna reakcija je mnogo snažnija. Isto se dešava sa aktivnošću u oblasti mozga koja je povezana sa obradom unutrašnjeg konflikta. Otkud ta razlika? Jedno objašnjenje je da pogurati nekog u smrt deluje u većoj meri lično, što aktivira emocionalnu averziju prema ubijanju druge osobe, ali osećamo konflikt jer znamo da je to ipak logični izbor. Neki filozofi i psiholozi su kritikovali ideju sa vozom. Oni tvrde da ne razotkriva ništa jer je pretpostavka toliko nerealna da je učesnici istraživanja ne uzimaju za ozbiljno. Ipak, usled nove tehnologije, vršenje ovakvih etičkih analiza postaje važnije nego ikada. Na primer, automobili bez vozača će možda morati da se bave odlukama kao što je uzrokovanje manje nesreće da bi se sprečila veća. U međuvremenu, vlasti ispituju autonomne vojne bespilotne letilice koje bi na kraju mogle donositi odluke da li će rizikovati civilne žrtve da bi napale metu od visokog značaja. Ako želimo da te akcije budu etički ispravne, moramo unapred da odlučimo kako vrednovati ljudski život i rasuđivati o opštem dobru. Stoga istraživači koji izučavaju autonomne sisteme sarađuju sa filozofima da bi se bavili složenim problemom programiranja etike u mašine, što ukazuje da se čak i hipotetičke dileme mogu na kraju naći u sukobu sa stvarnim svetom.