האם נפגוש בקרוב תביעה מסוג חדש – אדם נגד מחשב?

מכל הכותרות שעלו סביב סיפור השרה גילה גמליאל ודרך התנהלותה ביום הכיפורים האחרון, עת היינו כולנו בסגר, בלטה הטענה, כי שיקרה בחקירה האפידמיולוגית של משרד הבריאות. טענה חמורה ללא ספק.

אלא שמבחינת השרה גמליאל היה לסיפור הזה סוף טוב. היועץ המשפטי לממשלה, אביחי מנדלבליט, הודיע, כי החליט שלא לפתוח בחקירה נגדה. באג בתוכנה של משרד הבריאות, הסביר, תיקן אוטומטית את "מקום ההדבקה" שדיווחה עליו מטבריה לתל אביב, עיר מגוריה של גמליאל.  טעות מחשב ותו לא.

עכשיו נניח, שגילה גמליאל רוצה לתבוע בגין הוצאת לשון הרע על הפרסום הכוזב. את מי תתבע? את משרד הבריאות? את מי שכתב את התוכנה? מי שאמור היה לבדוק אותה? או שאולי את המחשב, רחמנא ליצלן?

בסיפור של גילה גמליאל לא היה מדובר בתוכנה מתוחכמת מדי, והתקלה, אם הייתה, לא הייתה יותר מבאג במחשב. אבל מה יקרה כאשר יהיה מדובר בתוכנות מתקדמות יותר? ההשתלטות, ניתן לומר, של המחשבים על חיינו ובמיוחד של תוכנות מתקדמות, בינה מלאכותית ועוד, מאתגרות ללא ספק את עולם המשפט. דיבורים על המכונית האוטונומית, זו שתסתובב ללא נהג, מעלים גם את הסוגייה המאתגרת: אם המכונית תהרוג חלילה מישהו, מי יהיה אשם?

מצד אחד ניתן לטעון, כי קיים קשר סיבתי בין מי שעומד מאחורי התוכנה עצמה, גם אם לא כמו בסיפור של גמליאל, כזו המבוססת על למידת מכונה, הלומדת והמשפרת את ביצועיה. הרי גם תוכנה כזו התחילה במוחם של מתכנתי מחשב. מצד שני, קשה לצפות כל מה שיכול להגיע ממחשב, כשילמד מעצמו. גם לאותו תוכניתן שיצר אותו. הרי הדמיון כאן פרוע.

שימוש בבינה מלאכותית הולך ונהיה נפוץ יותר ויותר. בנקים, למשל, יחליטו אם לתת הלוואה על סמך תשובה שיקבלו מהמחשב, אחרי שיזינו לו את פרטי המבקש. בארצות הברית ממליץ המחשב לשופטים איזה עונש לתת לפושעים בתיק שלפניהם. ויש הרבה דוגמאות נוספות.

בתקנות הגנת המידע האירופיות (GDPR) אפילו הלכו עם הנושא צעד קדימה וקבעו, שאי אפשר לקבל החלטה ביחס לאדם שהיא תוצאה של בינה מלאכותית, בלי שיהיה הסבר לדרך שבה המחשב הגיע לתוצאה. כך, לצד תוכנות מתקדמות כאלה התחילו פיתוחים מגבילים, שיוכלו לפענח את הדרך שבה אותה בינה מלאכותית הגיעה לאותה "מסקנה" שאליה הובילה.

האתגרים שההתקדמות הטכנולוגית מציבה לנו לא נפסקים. אבל אם נחזור ל"עולם" הקטן שלנו, הם מטרידים אותנו גם כאשר לא מדובר בתוכנות מתקדמות. קחו כדוגמה את המציאות של חיינו בהווה. השב"כ מפעיל מעקב אחרי חולי קורונה, וכל מי ששהה לצידם בפרק הזמן שהיו מדבקים שולח הודעות לאנשים שצריכים להיכנס לבידוד, ללכת להיבדק, חולים ומה לא? בכל ההודעות האלו התגלו טעויות רבות. לא מעט אנשים נתקעו שבועיים בבית בשל טעות של השב"כ. לאלה, להבדיל מגילה גמליאל, לא היה כל-כך עם מי לדבר. האם לא הלכנו רחוק מדי, כשאנחנו סומכים כל-כך על המחשב?

הכותב עומד בראש משרד  המתמחה בדיני טכנולוגיה, סייבר ופרטיות.