רוצים להשתמש בבינה מלאכותית? תכתבו קוד – אבל הפעם קוד אתי
הבינה המלאכותית יכולה להיטיב אתנו מאוד, אבל יש בה גם סיכונים אתיים וסכנות כגון הגברת האי שוויון ● ד"ר יהודית אפרשטיין מזהירה מכך ומציעה לנסח כללים שימנעו זאת
באחרונה עוררו פיטוריה מגוגל של חוקרת הבינה המלאכותית ד"ר טינניט גברו סערה בעולם הטכנולוגיה. לצד הפיטורים, החברה חסמה את המחקר שהיא עשתה עם כמה עמיתים שלה. המחקר הביע ביקורת על אחד המודלים של הבינה המלאכותית, שנעשה בו שימוש במנועי תרגום אוטומטי, תמלול אוטומטי ועוד. כותביו העלו כמה נקודות, בהן הטעיות בנתונים שעל בסיסם נבנה המודל, שעלולות להביא לאפליה או פגיעה באוכלוסייה מסוימת; פגיעה אפשרית באיכות הסביבה כתוצאה מצורך מוגבר בחשמל להרצת המודל ועיבוד נתוני עתק; ואפשרות ליצור על בסיס המודל טקסטים בצורה מלאכותית, על מנת לבצע מניפולציות בדעת ציבור מסוים דרך תקשורת ורשתות חברתיות.
מקרה זה יצר הד תקשורתי והציף שאלות שקשורות לאתיקה של בינה מלאכותית. יתרה מכך, מקרה זה המחיש כיצד השאלות האתיות אודות השימוש של בינה מלאכותית הפכו מנושא שמעסיק את המהנדסים לנושא שנמצא בליבו של הדיון הציבורי.
אם עד כה החלטות שנוגעות לאתיקה של בינה מלאכותית התקבלו על ידי אנשים או גופים בהתאם להשקפת עולמם, הרי שכעת ברור מאליו שנדרשת לכך התייחסות חברתית מקיפה הרבה יותר, בדמותן של הנחיות או רגולציה. המקרה הקלאסי, שבו רכב אוטונומי נקלע לסיטואציה שבה עליו להחליט האם לפגוע בילד או במבוגר, כבר לא יכול להישאר בהתאם לשיקול מוסרי פרסונלי כזה או אחר. מפתחי ה-AI נדרשים להתייחס גם לסוגיות שכאלה, תוך הפעלת שיקולים חברתיים, ולגבש קוד אתי, לצד הקוד הקלאסי להפעלת המערכות.
חוקרת ה-AI שפוטרה, ד"ר טינניט גברו. צילום: ויקיפדיה
הבינה המלאכותית כפוטנציאל להגברת חוסר השוויון
מערכות בינה מלאכותית עלולות להקצין פערים בחברה. כיוון שמערכות תבוניות תלויות במידה רבה במידע שמוזן לתוכן, הן עלולות ללמוד את אי השוויון שקיים בחברה, וזה יבוא לידי ביטוי בתפקוד המערכות. אם, לדוגמה, מנתונים סטטיסטיים עולה שבעלי שיער ג'ינג'י הם טבחים טובים מכל השאר, המערכת התבונית תלמד לזהות את המאפיין ותעשה סינון ראשוני של מועמדים לטבחות. או, למשל, אם אנשים גבוהים נחשבים ללקוחות בטוחים יותר בבנק ועומדים בתשלומי הלוואות ללא פיגורים, בניגוד לשאר האוכלוסייה, מערכת לדירוג אשראי תלמד זאת ותציע להם הלוואות בתנאים מיטביים.
אלא שכאן נשאלת שאלה אתית לא פשוטה: האם על המסעדה והבנק לפעול בהתאם למקסום רווחיהם או לתת הזדמנות שווה לכולם? לדעתי, אם אנחנו, כחברה, דואגים לשוויון, עלינו להיות מודעים לעלויות הכרוכות בכך, להסכים להן ולנסח רגולציות בעניין.
זהירות: הגברת אי השוויון עלולה להיות תוצר שלילי של הבינה המלאכותית. מקור: BigStock
קיימות יוזמות בעולם לניסוח עקרונות של מערכות תבוניות. הצהרת מונטריאול, שנוסחה ב-2017-2018, נבנתה בהנחה שמאחר שהבינה המלאכותית תשפיע בסופו של דבר על כל מגזרי החברה, היא דורשת עקרונות שינחו את התפתחותה, כדי להבטיח את עמידתה בערכים אנושיים ובהתקדמות חברתית. ההצהרה כוללת 10 עקרונות – החל מהגנה על פרטיות ועד לייצוג שווה, כאשר כמה מהם נוגעים ישירות באחריות ובאתיקה. למשל, עקרון הזהירות קובע כי "כל אדם המעורב בפיתוח AI חייב לנקוט צעדי זהירות על ידי צפייה, ככל האפשר, בתוצאות השליליות של השימוש במערכות תבוניות ונקיטת הצעדים המתאימים כדי להימנע מהן". ההצהרה מרחיקה לכת מעקרונות אתיים תיאורטיים ומציעה המלצות לביצוע מעבר דיגיטלי אתי, שכולל את כל הרמות השונות של החברה.
בארצות הברית, האיגוד למכונות מחשוב (ACM – Association for Computing Machinery) הציע ב-2018 קוד אתי והנחיות לשימוש במערכות מבוססות בינה מלאכותית. יוזמה דומה נערכה לפני כשנתיים על ידי החברה הסטטיסטית המלכותית הבריטית (RSS – Royal Statistical Society), שיצרה מדריך מעשי לשימוש אתי במערכות AI.
אין מחלוקת שהבינה המלאכותית עשויה לשפר מאוד את איכות חיינו ולהוביל לשינויים והתפתחויות חסרי תקדים. אלא שאנחנו, כחברה, אחראים לניסוח עקרונות אתיים שיאפשרו בניית מערכות תבוניות "עם ערכים", ולכן, לצד ההתפתחות האדירה שלה, יש ליזום כתיבה של קוד אתי, שתבטיח שהיא לא תהיה כחרב פיפיות. דווקא עכשיו יש לנו, כאנושות, הזדמנות לעשות תיקון, לצמצם פערים חברתיים, הטיות מלאכותיות ולהוקיע סטיגמות, אפליות ופגיעה ארוכת שנים, שכבר אין לה מקום בחיינו.
הכותבת היא ראשת התוכנית לתואר שני בהנדסת מערכות תבוניות באפקה – המכללה האקדמית להנדסה בתל אביב.
מרתק. אולי באמת אנשי האקדמיה ישימו דגש על הנושא בעת הלימוד של הדור הבא!