פודקאסט: על בינה מלאכותית, רגולציה ומשפט

פרק שלישי בסדרת ההסכתים על דיני אינטרנט, בהובלת עו"ד אביב אילון ● והפעם: מה שצריך לדעת בקשר להיבטים החוקיים והרגולטורים של שימוש בבינה מלאכותית

עו"ד אביב אילון.

בפרק השלישי בסדרת ההסכתים בפודקאסט אנשים ומחשבים על דיני אינטרנט ומחשבים מדבר עו"ד אביב אילון, מומחה למשפט וטכנולוגיה, על ההיבטים הרגולטוריים של השימוש בבינה המלאכותית, שכבשה את חיינו בסערה.

הבינה המלאכותית היא נושא מאוד חם. מה ההיבטים המשפטיים שלו, שהמשתמש צריך להיות מודע אליהם?
עו"ד אילון: "אכן, זה מדהים, אבל בוא נדבר קודם כל על מה זה עושה. אני רואה בשימוש בבינה המלאכותית סיוע רב לעבודה שלי. אין לי ספק שהיא הולכת לשנות לנו את החיים בצורה קיצונית מכל זווית אפשרית, ולכן עניין הרגולציה והחקיקה הוא קריטי".

אולי עוד לפני זה – יש בעיה של רמת האמון במכונה, שהיא פועל יוצא של מה שאנחנו מקבלים ממנה.
"רמת האמון במערכות האלה גדולה כבר כיום, ובתוך חמש שנים היא תהיה הרבה יותר גדולה. בארצות הברית יש מערכות שכבר כיום יודעות לכבד הסכמים ולתת פידבק, או אפילו לכתוב הסכמים. בפרקים הקודמים דיברנו על התקשרויות והסכמים, וציינו שיש בהסכמים הרבה פרמטרים ועד כמה זה מורכב. חלקם חוזרים על עצמם בכל הסכם וחלקם ייעודיים לנושא המסוים שבו ההסכם עוסק. אני יכול לומר לך שהמערכות האלה יודעות לעשות כבר כיום דברים מדהימים, וזה ילך ויתרחב".

מה אתה יכול לומר על הרגולציה של הבינה המלאכותית?
"חייבים שתהיה אסדרה על הבינה המלאכותית, כי אם לא תהיה אסדרה טובה – כולנו ניפגע. החדשות הטובות הן שבשנה שעברה, נעשתה הרבה מאוד פעילות רגולטורית בנושא, בין היתר בגופים כמו האיחוד האירופי. בספטמבר האחרון, מדינת ישראל הצטרפה לאמנה של האיחוד האירופי, על אף שישראל לא חברה בו. האמנה שאנחנו מאמצים מגדירה את כללי הבקרה והביקורת על הבינה המלאכותית, במיוחד כאשר מדובר מערכות בסיכון גבוה. למשל, היא אוסרת על מערכות מסוימות לפעול באופן מניפולטיבי, ויש לכך חשיבות עצומה לגבי כל מדינות אירופה. האמנה שאנחנו מאמצים מתייחסת לנורמות אתיות שנוגעות לדיפ פייק – נושא שמטריד יותר ויותר את העולם. מדינות כמו בריטניה מגבשות חוקים או מוסיפות את זה לחוקים קיימים".

איפה אנחנו, בישראל, עומדים בנושא?
"יש פעילות ענפה, כי מדינת ישראל זיהתה את החשיבות של התחום הזה, ולא בכדי הצטרפה לאמנה הבינלאומית. אני יודע שיש דיונים ברמה של הממשלה, הכנסת והרגולטורים השונים על בנייה של מסגרת רגולציה מתאימה. כולם מסתכלים על החברות הגדולות, שמייצרות את כלי הבינה המלאכותית.

זאת לא הטכנולוגיה הראשונה שמשנה את כללי המשחק ושמייצרים סביבה רגולציה. אלא שכאן האתגר קצת יותר מורכב, כי מדובר באוטומציה שיכולה לבצע דברים ברמה הכי גבוהה, כמו מה שבני אדם עושים – וזה כל הסיפור סביב הבינה המלאכותית היוצרת".

בינה משפטית.

בינה משפטית. צילום: ShutterStock

יש בישראל חקיקה שעוסקת בזה?
"קיימים בארץ חוקים שיכולים להשתמש בהם, כי ניתן להחיל את הסוגייה למשל על היבטים שקשורים בפקודת הנזיקין. מקרה שכזה יכול להיות כשמערכת בינה מלאכותית יצרה סיטואציה שבה נפגעת, כי היא בדקה אותך ופסלה אותך, למשל על רקע פיננסי – שזה יכול להיות קריטי לגביך. במקרה שכזה, אתה יכול להשתמש בפקודת הנזיקין על רשלנות, וכבר יש דוגמאות כאלה ממדינות שונות".

מה לגבי אבטחה ומניעת מתקפות סייבר, שיכולות לשבש מערכות AI?
"האבטחה היא הדבר הבסיסי ביותר בבינה מלאכותית – הכוונה היא לאבטחת המידע שממנו המערכות שואבות את כל הנתונים. אם אין אבטחה, התוצאה עלולה להיות לפעמים בלתי הפיכה, והכי חמור הוא שאתה לא תמיד תוכל לדעת.

האקר פוגע במידע באלגוריתמיקה, ובאותו הרגע הוא משבש את כל התוצרים שאנחנו מצפים ממנה. אבל לפני כן אתה צריך לוודא שהמערכות תהיינה יציבות, עמידות בפני כל מיני נזקים, למשל טילים – ויש לכך פתרונות אבטחה. למשל, שימוש במערכי נתונים מגוונים, שימזערו אפשרויות להטיה מצד המערכות, במישור של האלגוריתמים. זה דבר מאוד מורכב. המערכת חייבת להיות מוסרית, אין דרך אחרת להבין את מה שנקבל. התוצאה של זה עלולה לחשוף את מי שמחזיק בכלי לתביעות לא פשוטות בכלל".

את האלגוריתמים קובעים בני אדם. זה קצת בעייתי כשזה נוגע למוסר.
"נכון, וכללי הכתיבה של המערכות הללו חייבים להיות ברורים, עם כמה שיותר מערכות בקרה. זה קשור לבעיה אחרת: איכות הנתונים. רבים עדיין לא מבינים שאם איכות הנתונים שלנו תהיה ירודה ולא מדויקת – זה מה שנקבל ב-AI, ויש סבירות גבוהה שנקבל תוצאות שגויות. לארגונים יש עניין לעמוד בסטנדרטים אלה, כי שוב, הם עלולים להיחשף לתביעות מצד אלה שייפגעו ממסקנות של אלגוריתמים".

יש כבר תביעות שקשורות לתוצאות של פעילות של AI?
"בארגונים רבים, היישום של הבינה המלאכותית הוא עדיין בגדר פיילוט, ומעט מאוד בפרודקשן. אבל אני מעריך שעוד נגיע לזה".

תודה. נגענו בנושא ממעוף הציפור. זה נושא רחב, ובטוח שניגע בו גם בפרקים הבאים.

תגובות

(0)

כתיבת תגובה

האימייל לא יוצג באתר. שדות החובה מסומנים *

אין לשלוח תגובות הכוללות דברי הסתה, דיבה, וסגנון החורג מהטעם הטוב

אירועים קרובים