דמיינו שאתם צופים בקרונית שדוהרת ללא שליטה במורד המסילה,
הישר לעבר חמישה עובדים שלא יכולים לברוח.
אתם במקרה עומדים ליד מסוט
שיכול להסיט את הקרונית למסילה שניה.
הנה הבעיה.
על המסילה הזו גם כן יש עובד, אבל רק אחד.
מה אתם עושים?
האם אתם מקריבים אדם אחד כדי להציל חמישה?
זוהי בעיית הקרונית,
גרסה של דילמה אתית שהפילוסופית פיליפה פוט העלתה ב 1967.
היא פופולרית בגלל שהיא מכריחה אותנו לחשוב איך לבחור
בהיעדר אופציות טובות.
האם אנחנו בוחרים בפעולה עם התוצאה הטובה ביותר
או דובקים בקוד המורלי שאוסר גרימת מוות של אדם?
בסקר אחד, כ-90% מהמשיבים אמרו שזה בסדר להסיט את המסוט,
לתת לעובד אחד למות כדי להציל חמישה,
ומחקרים אחרים, כולל סימולציה של מציאות מדומה של הדילמה,
הראו תוצאות דומות.
שיקולי דעת אלו הם עקביים עם העקרון הפילוסופי, תועלתנות.
שטוען שההחלטה הנכונה מבחינה מורלית
היא זו שמביאה את הטוב הרב ביותר למספר הגדול ביותר של אנשים.
חייהם של חמישה שווים יותר מאלו של אדם אחד,
אפילו אם משיגים זאת ע״י הריגת אדם אחר.
אבל אנשים לא תמיד לוקחים את נקודת המבט התועלתנית,
כפי שניתן לראות ע״י שינוי קל של בעיית הקרונית.
הפעם, אתם עומדים על גשר מעל המסילה
כשאותה קרונית מתקרבת.
עכשיו אין מסילה שניה,
אבל יש איש רחב מימדים על הגשר לידכם.
אם תדחפו אותו, הגוף שלו יעצור את הקרונית,
ויציל את חמשת העובדים,
אבל הוא עצמו ימות.
עבור התועלתנים, ההחלטה היא זהה,
הקרבת חיי אדם אחד כדי להציל חמישה.
אבל במקרה הזה, רק כ-10% מהאנשים
אומרים שזה בסדר לזרוק את האדם על המסילה.
האינסטינקטים שלנו אומרים לנו שגרימת מוות בכוונה תחילה
זה לא אותו דבר כמו לתת למישהו למות כנזק משני.
זה פשוט מרגיש לא נכון מסיבות שקשה להסביר.
החיתוך בין אתיקה ופסיכולוגיה
הוא הדבר הכ״כ מעניין בבעיית הקרונית.
הדילמה בוריאציות הרבות שלה חושפת שמה שאנחנו חושבים כנכון או לא נכון
תלוי גם בגורמים שהם מעבר לשיקולים לוגיים של בעד ונגד.
לדוגמה, גברים נוטים יותר מנשים
להגיד שזה בסדר לדחוף את האדם מהגשר.
כך גם אנשים שצופים בקליפ קומי לפני הניסוי המחשבתי.
ובמחקר מציאות מדומה אחד,
אנשים היו יותר מוכנים להקריב גברים מלהקריב נשים.
חוקרים ערכו מחקר על פעילות המוח
של אנשים ששוקלים את שתי הגרסאות, הגרסה הקלאסית וגרסת הגשר.
שני המקרים מפעילים אזורים במוח שמעורבים בקבלת החלטות מודעת
ובתגובות רגשיות.
אבל במקרה הגשר, התגובה הרגשית חזקה בהרבה.
כך גם הפעילות באזור במוח
המעורב עיבוד קונפליקט פנימי.
למה קיים הבדל?
הסבר אחד הוא שמעשה דחיפת אדם למותו מרגיש יותר אישי,
ומפעיל סלידה נפשית מהריגת אדם,
אבל הסיבה שאנחנו חצויים היא משום שאנחנו יודעים שזו עדיין הבחירה ההגיונית.
דילמת הקרונית ספגה ביקורת על ידי מספר פילוסופים ופסיכולוגים.
הם טוענים שהיא אינה חושפת דבר בגלל שהנחת היסוד שלה היא כ״כ לא ריאלית
שמשתתפים במחקר לא לוקחים אותה ברצינות.
אבל טכנולוגיה חדשה גורמת לסוג ניתוח אתי שכזה
להיות חשוב יותר מאי פעם.
לדוגמה, מכוניות ללא נהג אולי יצרכו לבצע בחירות
כמו גרימת תאונה קטנה לשם מניעת תאונה גדולה יותר.
בינתיים, ממשלות עובדות על פיתוח של רחפנים צבאיים אוטונומיים
העלולים להיות מסוגלים להחליט האם להסתכן בפגיעה באזרחים
לשם תקיפת מטרה בעלת חשיבות.
אם אנחנו רוצים שההחלטות האלו יהיו אתיות,
אנחנו חייבים להחליט מראש איך להעריך חיי אדם
ואיך לשפוט את טובת הכלל.
אז חוקרים שעורכים מחקר על מערכות אוטונומיות,
משתפים פעולה עם פילוסופים
כדי לדון בבעיה המורכבת של תיכנות אתיקה לתוך מכונות,
דבר המראה שאפילו דילמות היפוטטיות
עלולות למצוא את עצמן במסלול התנגשות עם העולם האמיתי.