האם מכוניות אוטונומיות יהרגו יותר רוכבי אופניים?

דילמת הקרונית הועלתה לראשונה כבר ב-1967 על ידי הפילוסופית הבריטית פיליפה פוט, שתיארה מצב שבו שתי קבוצות עובדים נמצאות על מסילת רכבת. באחת נכללים חמישה עובדים ובשנייה – עובד בודד. קרונית שועטת במהירות לעבר חמשת העובדים ולא ניתן לעצור אותה, אך כן אפשרי להסיטה ממסלולה זה אל עבר המסלול שעליו רק בן אדם אחד. מה יש לעשות – להטות את הקרונית בכדי למנוע אירוע רב נפגעים, ולבחור במותו של האדם הבודד? לפי הגישה התועלתנית התשובה היא "כן". עכשיו דמו את המצב לכזה שבו תאונה עתידית מתגעשת על מכונית ללא נהג, שצריכה להחליט אם לפגוע בכלי רכב, שבהם יכולים להיות מספר נוסעים, לבין הסטת המכונית לשולי הכביש ובחירה בפגיעה פוטנציאלית ברוכב אופניים או הולך רגל. האם סביר להניח כי המכונית האוטונומית תבחר בפגיעה באדם הבודד?

נסו לענות ביניכם לבין עצמכם – אם מכוניתכם הייתה מעורבת חלילה בתאונה קטלנית, האם הייתם מעדיפים שתהרוג עובר אורח תמים אחד או חמישה בני אדם?

מחקר של חוקרי MIT, שתוצאותיו התפרסמו ב-Nature Magazine, הציב וריאציות שונות של הדילמה הזו בסקר אינטרנטי שמכונה Moral Machine ושהפך לוויראלי, ולכן השיג כמעט 40 מיליון מתנדבים שהגיבו על תסריטים שונים שהוצגו בו. התוצאות הביאו לכך שהמדענים קיבלו תובנות על ההעדפות המוסריות לגבי דילמות שכאלו, וכיצד הן משתנות בכל מקום על פני הגלובוס. הממצאים החדשים אמורים לסייע בהנחייתן של מכוניות ללא נהג בשיקוליהן על הכבישים בעתיד.

גוגל, אובר, טסלה וחברות גדולות אחרות שואפות להפוך את טכנולוגיית הנהיגה האוטונומית למציאותית, ובקרוב. לטענתן, החדשנות תאפשר לצמצם את תאונות הדרכים שנגרמות בגלל טעויות אנוש. עם זאת, תאונות קטלניות שכלי רכב אוטונומיים כאלה כבר חוו – כגון ההתנגשות הקטלנית שהתרחשה במרץ האחרון בטמפה שבאריזונה, ארצות הברית, בין מכונית אוטונומית של אובר שנמצאה בפיילוט לבין רוכבת אופניים, שאותה הרגה – מעידות על כך שכלי הרכב המתוחכמים לא יצרכו רק לנווט בכבישים, אלא גם להתמודד עם דילמות רבות שתאונות הדרכים כרוכות בהן, שנייה לפני התרחשותן, ושקשורות לניסיון למנוע או להפחית את קטלניותן. לדוגמה, האם מכונית ללא נהג שנמצאת בסיטואציה דמוית דילמת הקרונית צריכה לבחור לפגוע באשה הרה או לסטות לתוך קיר, וכנראה להרוג את כל הנוסעים שנמצאים בה? ומה אם במכונית נוסע אב המשפחה עם ילדו? במי תבחר המכונית לפגוע אז?

בני האדם – מענה מוסרי שונה תלוי-תרבויות

עזים שריף, מומחה לפסיכולוגיה ומוסר, סבור שמכוניות אוטונומיות יתוכננו כך שיבחרו תמיד להפחית את הסיכון בעת תאונה ולכן יסטו תמיד לכיוון הנפגע הבודד ולא קבוצת נפגעים. "חשבו על מכונית אוטונומית שתחליט היכן למקם את עצמה בנתיב – קרוב יותר למשאית שמימינה, או לנתיב אופניים משמאל (הדוגמה מתבססת על מכוניות שנהגיהן יושבים בצד ימין – ג"פ)", אמר שריף, מרצה באוניברסיטת בריטיש קולומביה בוונקובר, שהיה שותף במחקר החדש והחשוב על שיקולי הדעת האתיים שעשויים להיות מתוכנתים לכלי הרכב האוטונומיים. בשיחה עם המגזין פורבס הרחיב שריף כי "אם המכוניות יתוכנתו להימצא תמיד קצת יותר קרוב לנתיב האופניים משום שהדבר יפחית את הסיכוי שהן יפגעו במכוניות אחרות, תוך הגדלת הסיכון לפגיעה ברוכבי אופניים".

במחקרם ניתחו אנשי האקדמיה את תוצאות משחק Moral Machine הוויראלי, שנאספו כבר משנת 2016, וחשפו, כאמור, שלל ממצאים שהעידו כי לבני האדם שיקולים שונים, ולעיתים אף משונים, בעת ההתלבטות בדילמת הקרונית, ובנוסף, שהתשובות תלויות מאוד בנורמות מקומיות – כך למשל, בהתלבטות האם להעדיף שמירת שלומו של ספורטאי על פני אדם שמן או של ילד על פני מנהל בכיר, התוצאות הוכחו כשונות לגמרי בין מקום למקום. לכן למשל, התשובות לדילמות המגוונות היו אחרות בתרביות אשר מעדיפות להגן על זקנים ולא על צעירים, או על נשים יותר מאשר על גברים. ועם זאת, באופן סטטיסטי, נמצאו עקרונות גורפים שקבעו למשל כי אנשים הסובלים מעודף משקל נמצאים בסיכון גבוה ב-20% למות מאשר ספורטאים, והומלסים בסיכון גבוה ב-40% להיבחר למות מאשר אנשים עסקים בכירים.

המדענים מקווים שהממצאים שלהם יעזרו לממשלות לשקול תקנות שיחולו על כלי רכב אוטונומיים ושיחייבו את החברות המפתחות ומתכנתות את המכוניות הללו. "המומחים לא צריכים לספק את האינטרס של הציבור, במיוחד כאשר הם מוצאים את ההעדפות האלה בעייתיות", אמר המחבר הראשי של המחקר אדמונד עוואד, מדען מחשבים בכיר ב-MIT.

מדענית המוח יאנה שייח בורג מאוניברסיטת דיוק, אשר לא נטלה חלק במחקר זה, ציינה כי מהנדסי מכוניות ללא נהג עלולים להרגיש מתוסכלים כי ייתכן שיהיה עליהם לעצב את התנהלות כלי הרכב האוטונומיים כך שידעו מה להחליט במקרים הנדירים שבהם הם נתקלים בדילמה המוסרית. עם זאת, לדבריה, "אני חושבת שזה חשוב לעבוד על מקרי-קיצון אלה במקביל לעבודה על הבעיות השגרתיות יותר", היא אמרה. "החברה צריכה לסמוך על מכוניות המסיעות את עצמן, בכדי שיכירו בסופו של דבר בפוטנציאל שלהן להצלת חיים, והם לא יעשו זאת אם המכוניות יפעלו בדרכים המנוגדות לערכי המוסר שלהם".

יצוין כי אל הדברים הלא פשוטים הללו מתלוות תוצאות של מחקר חדש של Booth School, הפועל באוניברסיטת שיקגו בשיתוף אוניברסיטת רייס מטקסס, שחשפו כי מאז כניסת שירותי שיתופי הנסיעה – יותר תאונות קטלניות.