המנהל הטכנולוגי שרוצה ליצור את שבועת היפוקרטס של עולם התוכנה

תחום התוכנה משגשג ופורח כבר כמה עשורים. בימינו, הכל, או לפחות כמעט הכל, מבוסס על תוכנה – ממערכות ארגוניות ועד לכלים שאנחנו משתמשים בהם ביום יום. עד כדי כך שמה היינו עושים בלעדיה. אלא שנדמה שכמו יותר מדי תחומים בחיים שלנו, גם תחום התוכנה – משלב הפיתוח ועד לשלב היישום – פרוץ.

האם מאומת החדשנות תצא "תורה" גם בתחום זה? אם זה תלוי בהישאם עבד אלחלים, ב-"יום" מנהל מוצר טכנולוגי בכיר ב-PayPal (שהוא מבקש להדגיש שאין לה קשר לכך) וב-"לילה" חוקר באקדמיה, התשובה חיובית. עבד אלחלים, תושב נווה שלום, מעוניין לנסח כללי אתיקה בתחום, מעין "שבועת היפוקרטס" של מהנדסי התוכנה, והוא מתחיל בימים אלה לצורך כך מחקר, שבו הוא משלב אלמנטים משני תחומים: הנדסת תוכנה, שבו הוא בדרך לדוקטורט באוניברסיטת בן גוריון (הפקולטה לניהול), ופילוסופיית המדע ותרבות דיגיטלית, שבו יש לו תואר שני מאוניברסיטת תל אביב.

התחום הזה עדיין די בתולי – אבל לא לגמרי. עוד לפני שעבד אלחלים יפרוס כאן בקצרה את משנתו, מן הראוי להזכיר שיש כמה שכבר עוסקים בנושא. כך, ארגון חברת המחשוב של מהנדסי האלקטרוניקה (IEEE) הקים קבוצת עבודה שניסחה קוד אתי בן שבעה סעיפים, שמחייבים את מהנדסי המחשוב, בין היתר, לפעול לטובת האינטרסים של המעסיק, הלקוח והציבור; לוודא שהמוצר שהם מפתחים עונה לסטנדרטים הגבוהים ביותר; ולשפוט עצמאית, על פי העקרונות והאינטגריטי שלהם.

המחקר של עבד אלחלים וצוותו, שצפוי להימשך כשנתיים, יעסוק בניסוח וביישום של כללים בתחום, והאם הם משפיעים על איכות התוכנה.

מהי בדיוק "איכות תוכנה" בעיניך?
"אני מחלק את זה לשלושה חלקים: איכות פונקציונאלית; עד כמה אתיקה יכולה להגביל חדשנות, או אולי לעזור לה; והצד הפיננסי – כמה כסף או משאבים אחרים ירוויח הלקוח בשימוש בכלים אתיים, אם בכלל".

לדבריו, המצב בתחום חמור: "לא חלה כיום על מהנדס תוכנה רגולציה שמפקחת על התהליכים שהוא מבצע בזמן הפיתוח, אין חוק או כללים שאומרים שהוא צריך לעבוד בצורה כזו או אחרת. לרופאים, רואי חשבון, עורכי דין ואחרים יש כללי אתיקה, ונדרש שיהיו כאלה גם למהנדסי תוכנה. לא כל מפתח תכונה, אם לומר בזהירות, לוקח בחשבון את האתיקה כשהוא מפתח שורות קוד, ויש כאלה שכלל לא מודעים להיבטים האתיים שיכולים להיות לכך".

"הנחת היסוד היא שכללי אתיקה מגבילים את אלה שאמורים להשתמש בהם. מה גם שבתחומים שונים, ובפרט בעולם הטכנולוגי, יש קורלציה בין חופשיות לחדשנות ויצירתיות, ואם מוסיפים שכבה ניהולית או רגולטיבית – ייתכן שזה יכול להגביל. זה אחד מהדברים שאנחנו רוצים לבדוק", ציין עבד אלחלים.

"בנוסף", ציין, "הציפייה היא שברגע שחברה משחררת מוצר, היא לוקחת על עצמה אחריות שנלקחו בחשבון בפיתוחו כל ההיבטים האתיים. אלא שבתקופה האחרונה 'זכינו' לכמה דוגמאות לכך שיש מקרים שבהם זה בדיוק ההיפך: למשל, הפרשה שגרמה לריקול המכוניות בטויוטה, או פרשת פייסבוק וקיימברידג' אנליטיקה, שם היה חוסר פיקוח רגולטיבי על תהליך פיתוח תוכנה ושחרור המוצר, לצד חוסר הפיקוח למי מוכרים אותו".

תוכנות פורצות דרך זה אחלה. תוכנות פורצות דרך ואתיות זה כבר מצוין. צילום אילוסטרציה: BigStock

איך אתם הולכים לבצע את המחקר הלכה למעשה?
"נעבוד עם חברות מתעשיות שונות ונעשה בהן ניסויים. כבר יש דיבור על שיתוף פעולה בצרפת. מה שאנחנו מתכוונים הוא לקחת שני צוותי תוכנה – באחד מהם להטמיע כלי אתי אחד מתוך שלושה שנשתמש בהם, שישמש אותם בעבודתם, ובשני לא. לשניהם ניתן את אותן הגדרות, ונראה האם הכללים והכלים האתיים משפיעים על פיתוח התוכנה. נבדוק האם ועד כמה הם יכולים למדוד את הבעיות הפונקציונאליות של המוצר, כיצד האתיקה תורמת לתהליך הפיתוח ולמוצר. ניקח כמה ארגונים".

מה יקרה אם לא תהיה אתיקה בתחום?
"אם לא תהיה אתיקה, המצב יהיה נורא ואיום. הציביליזציה המודרנית מאמצת מוצרים חדשים בכל יום, וככל שלא יהיה פיקוח על צורת ייצור הטכנולוגיה ואימוצה, תהיינה יותר בעיות. אנחנו כבר רואים את זה קורה, כאמור – למשל בפרשות של טויוטה וקיימברידג' אנליטיקה".

האם זה יכול להביא גם לדברים קיצוניים, הרי אסון?
"בהחלט. דוגמה טובה לכך היא הרכבים האוטונומיים. הם עתידים להביא למהפכה בכבישים. אם האתיקה המקצועית לא תילקח בחשבון – נראה הרבה בעיות, עד כדי תאונות דרכים והרג של אנשים".