האם הבינה המלאכותית אחראית לחוסר שוויון ולפערים חברתיים?

האם הבינה המלאכותית שפרצה לחיינו בינואר 2022 מעצימה את אי-השוויון כתוצאה מהשימוש בה? האם היא מהווה באמת סכנה לשורה של מקצועות, שעל פי תחזיות אפוקליפטיות עלולים להיעלם, או מעצימה את הפערים המגדריים, אלימות נגד נשים ומיעוטים? או שאותם אלגוריתמים שאנו רואים בהם אחראים לתופעות אלו הם גם אלו שיכולים לצמצם את התופעות האלו, שרובן קיימות מאז בריאת העולם?

בשאלות אלו ואחרות עוסק בין היתר הספר "מכונת השוויון", מאת פרופ' אורלי ליבל, ישראלית, חוקרת בינלאומית, בעלת שם בתחום המדיניות הטכנולוגית.

הספר הנוכחי יצא ב-2022 בארה"ב, זכה בפרסים והוכתר כרב מכר, ותורגם לעברית באחרונה בהוצאת ידיעות אחרונות.

הספר מציג בהרחבה את כל אותם איומים שאנו מייחסים לבינה המלאכותית, ופרופ' ליבל ומצרפת לכך תובנות פרובוקטיביות בכל פרק, שמראות, כי תופעות של חוסר שוויון בשורה של תחומים היו קיימות עוד הרבה לפני עידן האינטרנט.

בראיון לאנשים ומחשבים ממקום מגוריה בקליפורניה, מסבירה פרופ' ליבל כיצד אותם אלגוריתמים שמעוררים אצלנו חששות, דווקא הם יכולים לתקן חלק מהתופעות. "הרכבת יצאה כבר מהתחנה, והיא לא תיעלם בקרוב", אומרת פרופ' ליבל.

ליבל, ילידת ישראל ושירתה כקצינת מודיעין בצה"ל, היא פרופסור למשפטים, בוגרת הראוורד, מנהלת ומייסדת את המרכז למדיניות תעסוקה ועבודה (CELP) באוניברסיטת סן דייגו. במקביל, לקריירה הענפה שלה בארצות הברית היא מקפידה לשמור על קשר עם ישראל, יש לה משרד בתל אביב, והיא מוזמנת להרצאות וייעוץ לחברות היי-טק, ארגונים וגופי ממשלה.

פרופ' ליבל, מה הביא אותך לכתוב את הספר הזה ומה מטרתו?

"מטרת הספר היא בסופו של דבר לעודד שיח ולדון באפשרות כיצד אפשר וצריך לתעל את הבינה המלאכותית לדברים חיוביים, למרות כל הסיכונים והאתגרים שקיימים כיום".

בפרק על שוק העבודה את מצטטת מחקר, שבו נשלחו קורות חיים עם שמות של מועמדים לבנים ושמות של שחורים, והתוצאה המובהקת היא אפליה. אז אולי המסקנה היא בכל זאת, שהטכנולוגיה הזאת מעמיקה את חוסר השוויון?

"אתה צודק לגבי מסקנות המחקר. אבל צריך להסכים על נקודה אחת – אי אפשר לעצור את הקדמה ואת הטכנולוגיה, ולכן השאלה שאנחנו צריכים לעשות היא שאלה השוואתית, שמסתכלת על כלל התופעה ולא רק דרך הפריזמה של הטכנולוגיה".

תסבירי, בבקשה.

"כאשר מדברים על אפליה, מדברים בעצם על תוצאה של מצב מסוים, וצריך להבין מה המקור שלה. אני טוענת, שלפעמים הטכנולוגיה פשוט משקפת לנו כמו מראה תופעות שהיו קיימות לפני הטכנולוגיה, כמו אפליה בשוק העבודה, א ניצול נשים בתעשיית הזנות. אלא שהיום יש כבר לא מעט פיתוחים שמראים, כי בעזרת אותה טכנולוגיה ניתן להבין טוב יותר את התופעות ואולי לצמצם אותן.

"לצערי, השיח, הדיווחים התקשורתיים נתפסים לטכנולוגיה ומטילים עליה את כל האחריות ולא מאירים את הזווית של התיקון בעזרת טכנולוגיה".

כלומר הטענה היא, שהכשל אינו רק בטכנולוגיה?

"הכשל הוא לא רק בטכנולוגיה. אלא במוח שלנו, ולא פעם אנחנו מחליטים החלטות מוטות לא בגלל הטכנולוגיה, ודווקא הבינה המלאכותית המבוססת אלגוריתמים יכולה לסייע להתגבר על תופעה זו, וכבר יש פתרונות".

אנשים רבים חוששים שהבינה תחליף אותם והם מודאגים. הם מגזימים?

"שוב, אנשים מושפעים מדיווחים ומאמרים שמתפרסמים בתקשורת ובמדיות החברתיות, המציגים תמונה לא שלמה לגבי אותן סכנות, ולא מדגישים את השינויים והשיפורים שישנם. תמיד הייתה לנו האמביוולנטיות הזאת, שהגולם יעלה ויהרוג אותנו. המון דברים, שבאמת לא קשורים למציאות של מה באמת הטכנולוגיה ומה היא עושה.

"OpenAI הוציאה את הפוביה של הבינה המלאכותית שקיימת פה כבר שנים. שוב, אני לא אומרת שזה לא נכון ואין מקום לפוביה. אחד המסרים של הספר הוא להיות יותר מחוברים למידע, להבין ולא להיסחף למסרים מפחידים".

השאלה היא איך משכנעים אותם אנשים מבוהלים, שהמציאות היא לא כל כך נוראית?

"המציאות משתנה ואנחנו נשאבים לכל נושא הטכנולוגיה והמחשוב, ופה יש את המשפט הידוע 'אין ארוחות חינם'. העולם משתנה, אנחנו משתמשים בטכנולוגיה כמו GPS ויודעים היטב שהיא חשופה, אבל מבינים שזה חלק ממאפיינים של מדינה דמוקרטית. נכון, יש הרבה אתגרים, כמו נושא הפרטיות, אבל הם ניתנים לפתרון. חשוב לי להדגיש, שכל מה שאני מנסה לומר הוא, שאנחנו צריכים חשיבה קצת יותר מאוזנת".

האם בינה מלאכותית יכולה להחליף למשל רופא?

"דוגמה מצוינת. הספר שלי הוא ספר קריאה חובה בבית הספר לרפואה בסטנפורד. השאלה הנפוצה של הסטודנטים היא בדיוק זו. אני משיבה שאלו הן שאלות חשובות, אבל התשובה מורכבת צעצה תת שאלות נפרדות, שנכונות לכל מגזר.

"ראשית, צריך לראות עד כמה הטכנולוגיה בכלל בשלה להגיע למצב של להחליף מקצועות בבריאות או כל מקצוע אחר. שאלה אחרת היא מה האימפקט האמיתי שלה, השפעתה על החברה, על שווקים, על צדק חברתי ועל הדמוקרטיה בכלל".

בספר את מדברת על הרשתות החברתיות, שהן אלו שכותבים את האלגוריתמים. אפשר בכלל לעצור אותן?

"הן לא אחראיות ישירות לאי השוויון. מה שמשפיע זה הוויראליות של אותם דברים שעולים ברשת. ללא קשר, יש ניסיונות של ממשלות לכוון אותן. אני חייבת לציין, שאני אני מזהה אצל הענקיות האלו, שאמנם הן מכוונות רווח, אבל הן רוצות מאוד לעשות את הדברים הנכונים, ודווקא בגלל שהן ענקיות יש להן אמצעים ויש גם רגולציה שהולכת ומתרחבת, וזה תופעה חיובית".

לסיום, עד כמה אנחנו קרובים למכונת השוויון האידיאלי?

"יש פתגם ידוע שאומר, שאלוהים מצוי בפרטים הקטנים. הספר שלי בנוי בצורה כז,ו שבשום דרך אני לא מנסה לקבוע אם זה טוב או רע, אלא רוצה לעורר דיון וחשיבה קצת אחרת. זה מקיף שורה של תחומים בחיים שלא קשורים ישירות לטכנולוגיה, אבל אם נעשה את הדברים הנכונים, עם חשיבה נכונה נוכל לפתור חלק מאותן בעיות".