Imaginez que vous regardiez un tramway fou filant à toute allure sur les rails tout droit vers 5 travailleurs qui ne peuvent pas s'échapper. Vous êtes juste à côté d'un aiguillage qui détournerait le tramway vers une deuxième voie. Voici le problème. Il y a aussi un travailleur sur la voie, seulement un. Que faire ? Sacrifiez-vous une personne pour en sauver cinq ? C'est le problème du tramway, une version d'un dilemme éthique élaboré par le philosophe Philippa Foot en 1967. Il est populaire car il nous force à réfléchir à comment choisir quand il n'y a pas de bons choix. Choisissons-nous l'action menant au meilleur résultat ou nous en tenons-nous au code moral interdisant de causer la mort ? Dans une étude, environ 90% des participants ont dit que l'on pouvait actionner l'aiguillage et de laisser un travailleur mourir pour en sauver cinq. D'autres études, dont une simulation en réalité virtuelle du dilemme, ont trouvé des résultats similaires. Ces jugements sont cohérents avec le principe philosophique d'utilitarisme selon lequel la décision moralement correcte est celle qui maximise le bien-être pour le plus grand nombre de personnes. Cinq vies prennent le pas sur une, même si atteindre ce résultat nécessite de condamner quelqu'un à mort. Mais les gens n'ont pas toujours le point de vue utilitariste, ce que l'on voit en changeant un peu le problème du tramway. Cette fois-ci, vous êtes sur un pont au-dessus de la voie lorsque le tram approche. Il n'y a pas de seconde voie mais il y a un homme très gros sur le pont à côté de vous. Si vous le poussez, son corps arrêtera le tramway, sauvant les cinq travailleurs, mais il mourra. Pour les utilitaristes, la décision sera la même : perdre une vie pour en sauver cinq. Mais dans ce cas, seuls 10% des gens disent que l'on peut jeter l'homme sur les rails. Nos instincts nous disent que causer la mort de quelqu'un délibérément est différent que de les laisser mourir en tant que dommages collatéraux. Cela ne nous semble pas correct pour des raisons difficiles à expliquer. Cette intersection entre l'éthique et la psychologie est ce qui est si intéressant dans le problème du tramway. Les variations du problème révèlent que ce que nous croyons juste ou non dépend de facteurs autres que de considérer les pour et contre logiques. Par exemple, les hommes plus que les femmes diront que l'on peut pousser l'homme du pont. Ainsi que les gens regardant une comédie avant de faire l'expérience. Dans une étude en réalité virtuelle, les gens acceptaient plus de sacrifier des hommes que des femmes. Les chercheurs ont étudié l'activité cérébrale des gens confrontés aux deux versions. Les deux scénarios activent des zones du cerveau impliquées dans la prise de décision consciente et les réponses émotionnelles. Mais pour la version du pont, la réponse émotionnelle est plus forte et l'activité dans la zone du cerveau associée au traitement des conflits internes était plus forte. Pourquoi cette différence ? Une explication serait que pousser quelqu'un vers sa mort semble plus personnel, cela active une aversion émotionnelle au fait de tuer quelqu'un mais nous sommes confus car nous savons que c'est le choix logique. Cette étude a été critiquée par certains philosophes et psychologues. Ils soutiennent que cela ne révèle rien car le postulat est si irréaliste que les participants ne le prennent pas au sérieux. Mais de nouvelles technologies rendent ce genre d'analyse éthique plus importante que jamais. Par exemple, les voitures sans conducteur devront gérer des choix comme causer un petit accident pour en éviter un plus important. Les gouvernements font de la recherche sur des drones militaires autonomes qui pourraient prendre la décision de risquer des pertes civiles pour attaquer des cibles importantes. Pour que ces actions soient éthiques, nous devons décider d'avance comment estimer la vie humaine et juger le bien commun. Les chercheurs étudiant les systèmes autonomes collaborent avec des philosophes pour gérer le problème complexe de la programmation de l'éthique au sein des machines, ce qui montre que même les dilemmes hypothétiques peuvent entrer en collision avec le monde réel.