Представьте, что вы видите,
как тяжёлая неуправляемая вагонетка
несётся прямо на пятерых рабочих,
которые не могут от неё увернуться.
Вы можете переключить стрелку
и пустить вагонетку по другому пути.
Но вот ведь незадача:
на втором пути также
находится рабочий, но только один.
Как бы вы поступили?
Пожертвовали бы одним человеком,
чтобы спасти пятерых?
Это так называемая «Проблема вагонетки» —
одна из мыслительных задач на этику,
сформулированная Филиппой Фут в 1967 году
и ставшая популярной, поскольку заставляет
задуматься над выбором,
где нет этически правильного ответа.
Поступим ли мы наиболее целесообразно
или будем придерживаться моральных норм,
которые запрещают убивать?
Согласно одному исследованию,
около 90% респондентов посчитали возможным
переключить стрелку,
чтобы погиб один человек, а не пятеро.
Все последующие исследования
данной дилеммы,
включая моделирование
виртуальной реальности,
пришли к аналогичным выводам.
Данные суждения полностью укладываются
в философскую логику утилитаризма,
согласно которому более верным решением
с точки зрения морали
признаётся то, что принесёт пользу
большему числу людей.
Пять жизней важнее, чем одна,
даже если ради них
кто-то неминуемо погибнет.
Однако люди не всегда
придерживаются утилитаризма.
В этом можно убедиться,
если слегка изменить нашу задачу.
Теперь представьте: вы стои́те на мосту
над железнодорожными путями,
по которым несётся отцепившаяся вагонетка.
Её нельзя повернуть на другой путь,
но рядом на мосту стои́т
очень толстый человек.
Если столкнуть его с моста,
то своим телом он остановит вагонетку,
жизни пятерых рабочих будут спасены,
но он погибнет.
Для утилитаристов ответ прежний:
пожертвовать одной жизнью, но спасти пять.
Однако в данном случае
только 10% опрошенных
посчитали приемлемым
бросить человека под колёса поезда.
Инстинктивно мы понимаем,
что намеренное лишение кого-то жизни
неравнозначно смерти в результате
«побочного эффекта».
Этот поступок кажется аморальным,
но трудно объяснить, почему.
«Проблема вагонетки» находится
на стыке этики и психологии,
и этим она особенно интересна.
Дилемма и её разные версии демонстрируют,
что наши представления о добре и зле
зависят от различных факторов,
а не логического анализа всех за и против.
Например, мужчины скорее, чем женщины,
согласятся столкнуть толстяка с моста.
Согласятся и те,
кто до ответа на вопрос исследования
посмотрел какой-нибудь смешной ролик.
В результате моделирования
виртуальной реальности выяснилось,
что испытуемые легче соглашались
пожертвовать мужчинами, чем женщинами.
Учёные также проследили
за деятельностью мозга испытуемых,
отвечавших на вопросы
классической версии и версии с мостом.
В результате обоих сценариев
активизируются зоны мозга,
отвечающие за осознанное принятие решений
и эмоциональные реакции.
Но в версии с мостом
эмоциональная реакция была намного ярче.
Также активнее вела себя зона мозга,
отвечающая за решение
внутренних конфликтов.
Так в чём же разница?
Согласно одному объяснению,
толкая кого-то на смерть,
человек более лично
воспринимает этот поступок,
активируя эмоциональное отвращение
к совершению убийства.
Однако возникает внутренний конфликт,
поскольку логика — на стороне убийства.
Философы и психологи не раз критиковали
исследования «проблемы вагонетки».
Они утверждают,
что эксперимент ничего не доказывает,
поскольку он далёк от реальности
и испытуемые не воспринимают его всерьёз.
Но в результате научного прогресса
подобного рода этические дилеммы
становятся всё более насущными.
Например, возможно, скоро выбор
будут делать беспилотные автомобили,
запрограммированные
на совершение небольшой аварии,
чтобы не попасть в крупное ДТП.
А военные всерьёз подумывают
над разработкой автономных боевых дронов,
которым предстоит решать,
рисковать ли жизнью гражданского населения
ради поражения важной стратегической цели.
Если мы хотим оправдать их действия
с точки зрения этики,
нам придётся решить заранее,
как оценивать жизнь человека
и как судить о том, что более ценно.
Поэтому исследователи автономных систем
тесно сотрудничают с философами
в решении сложных проблем
программирования этики машин.
Это лишний раз доказывает,
что даже умозрительные дилеммы
могут входить в коллизии
с реальной жизнью.