Представьте, что вы видите, как тяжёлая неуправляемая вагонетка
несётся прямо на пятерых рабочих, которые не могут от неё увернуться.
Вы можете переключить стрелку
и пустить вагонетку по другому пути.
Но вот ведь незадача:
на втором пути также находится рабочий, но только один.
Как бы вы поступили?
Пожертвовали бы одним человеком, чтобы спасти пятерых?
Это так называемая «Проблема вагонетки» —
одна из мыслительных задач на этику, сформулированная Филиппой Фут в 1967 году
и ставшая популярной, поскольку заставляет задуматься над выбором,
где нет этически правильного ответа.
Поступим ли мы наиболее целесообразно
или будем придерживаться моральных норм, которые запрещают убивать?
Согласно одному исследованию, около 90% респондентов посчитали возможным
переключить стрелку, чтобы погиб один человек, а не пятеро.
Все последующие исследования данной дилеммы,
включая моделирование виртуальной реальности,
пришли к аналогичным выводам.
Данные суждения полностью укладываются в философскую логику утилитаризма,
согласно которому более верным решением с точки зрения морали
признаётся то, что принесёт пользу большему числу людей.
Пять жизней важнее, чем одна,
даже если ради них кто-то неминуемо погибнет.
Однако люди не всегда придерживаются утилитаризма.
В этом можно убедиться, если слегка изменить нашу задачу.
Теперь представьте: вы стои́те на мосту над железнодорожными путями,
по которым несётся отцепившаяся вагонетка.
Её нельзя повернуть на другой путь,
но рядом на мосту стои́т очень толстый человек.
Если столкнуть его с моста, то своим телом он остановит вагонетку,
жизни пятерых рабочих будут спасены,
но он погибнет.
Для утилитаристов ответ прежний:
пожертвовать одной жизнью, но спасти пять.
Однако в данном случае только 10% опрошенных
посчитали приемлемым бросить человека под колёса поезда.
Инстинктивно мы понимаем, что намеренное лишение кого-то жизни
неравнозначно смерти в результате «побочного эффекта».
Этот поступок кажется аморальным, но трудно объяснить, почему.
«Проблема вагонетки» находится на стыке этики и психологии,
и этим она особенно интересна.
Дилемма и её разные версии демонстрируют, что наши представления о добре и зле
зависят от различных факторов, а не логического анализа всех за и против.
Например, мужчины скорее, чем женщины,
согласятся столкнуть толстяка с моста.
Согласятся и те, кто до ответа на вопрос исследования
посмотрел какой-нибудь смешной ролик.
В результате моделирования виртуальной реальности выяснилось,
что испытуемые легче соглашались пожертвовать мужчинами, чем женщинами.
Учёные также проследили за деятельностью мозга испытуемых,
отвечавших на вопросы классической версии и версии с мостом.
В результате обоих сценариев активизируются зоны мозга,
отвечающие за осознанное принятие решений
и эмоциональные реакции.
Но в версии с мостом эмоциональная реакция была намного ярче.
Также активнее вела себя зона мозга,
отвечающая за решение внутренних конфликтов.
Так в чём же разница?
Согласно одному объяснению, толкая кого-то на смерть,
человек более лично воспринимает этот поступок,
активируя эмоциональное отвращение к совершению убийства.
Однако возникает внутренний конфликт, поскольку логика — на стороне убийства.
Философы и психологи не раз критиковали исследования «проблемы вагонетки».
Они утверждают,
что эксперимент ничего не доказывает, поскольку он далёк от реальности
и испытуемые не воспринимают его всерьёз.
Но в результате научного прогресса подобного рода этические дилеммы
становятся всё более насущными.
Например, возможно, скоро выбор будут делать беспилотные автомобили,
запрограммированные на совершение небольшой аварии,
чтобы не попасть в крупное ДТП.
А военные всерьёз подумывают над разработкой автономных боевых дронов,
которым предстоит решать, рисковать ли жизнью гражданского населения
ради поражения важной стратегической цели.
Если мы хотим оправдать их действия с точки зрения этики,
нам придётся решить заранее, как оценивать жизнь человека
и как судить о том, что более ценно.
Поэтому исследователи автономных систем тесно сотрудничают с философами
в решении сложных проблем программирования этики машин.
Это лишний раз доказывает, что даже умозрительные дилеммы
могут входить в коллизии с реальной жизнью.