אירופה עשתה צעד קדימה לעבר רגולציה על ה-AI

הפרלמנט האירופי אימץ אתמול (ד') לראשונה עמדה לגבי רגולציה על AI, ועשה זאת ברוב מוחץ – 499 מההצבעות היו בעד החוק המתגבש, 28 נגדו ו-93 מהמחוקקים ביבשת נמנעו בהצבעה. השלבים הבאים בתהליך להוצאת החקיקה לפועל כוללים משא ומתן בין-מוסדי עם מועצת השרים של האיחוד האירופי, המייצגת ממשלות באירופה, אולם העברת התקנה בשלב זה בהחלט מסמנת התקדמות ניכרת לקראת פיקוח על תחום ה-AI באירופה.

חוק ה-AI של האיחוד האירופי יסמן יישומי בינה מלאכותית המבוססים על סיכון, ויאסור שימושים מסוימים, כדי להביא "עידן חדש של בדיקה" למגזר. בין ההחלטות שהחקיקה עתידה להפעיל נכלל סעיף המתייחס לאיסור על פעילותן של מערכות בינה מלאכותית שמופעות על מנת להשפיע על בוחרים בבחירות, שהוגדרו ככלי AI  בסיכון גבוה.

ה-AI Act הוא תקנה לרגולציה על תחום הבינה המלאכותית המוצעת באיחוד האירופי. מטרת החוק, שהחל את דרכו כשהוצע על ידי הנציבות האירופית כבר ב-21 באפריל 2021, היא להציג מסגרת רגולטורית וחוקית משותפת לבינה מלאכותית בכל המגזרים בהם היא עשויה לשמש, פרט לצבא, ומתייחס לכל סוגי הבינה המלאכותית, שכידוע התפתחה באופן דרמטי ונסקה לגבהים חדשים מאז ש-OpenAI שחררה לשימוש את ChatGPT שלה, כלי AI ג'נרטיבית שמחולל את ראשיתו של שיבוש עצום באינספור תחומים כיום.

יפוקח כי יש בו סכנות, אבל גם יתרונות רבים. ChatGPT. צילום: אילוסטרציה. מקור: SutterStock

אירופה עוקפת את ארה"ב בנחרצות לאסדרת התחום

ההתקדמות הזו בהחלת פיקוח על התחום ה"חם" שביצע האיחוד האירופי עומדת בניגוד מוחלט למה שמתרחש בקרב מחוקקי ארה"ב, המתלבטים באחרונה בקונגרס האמריקני כיצד לפעול למול הסיכונים הפוטנציאליים של הטכנולוגיה. מנהיג הרוב בסנאט, צ'ארלס א. שומר, שמוביל את המאמצים הדו-מפלגיים ליצירת מסגרת בינה מלאכותית, אמר כי המחוקקים כנראה נמצאים עדיין במרחק של חודשים מלשקול כל חקיקה. הוא הוסיף ואמר לוושינגטון פוסט שהמחוקקים "יתחילו לבחון דברים ספציפיים בסתיו".

מנגד באירופה, כאמור, הלך הרוח הכללי מבטא דחיפות רבה יותר. "האם זה הזמן הנכון להסדיר AI? התשובה שלי היא בהחלט כן. זה הזמן המתאים בגלל ההשפעה העמוקה שיש לבינה המלאכותית", אמר דרגוש טודוראצ'ה, חבר הפרלמנט האירופי המייצג את רומניה, לעמיתיו לפני ההצבעה.

לאחר ההצבעה אמר נציג איטליה בפרלמנט האירופי, ברנדו בניפיי, כי "כל העיניים נשואות אלינו היום. בעוד שחברות ביג טק משמיעות זעקה על ה'יצירות' שלהן, אירופה הלכה קדימה והציעה בתגובה קונקרטית לסיכונים שבינה מלאכותית מתחילה להוות. אנחנו רוצים שהפוטנציאל החיובי של הבינה המלאכותית ליצירתיות ותפוקה יינצל, אבל אנחנו גם נילחם כדי להגן על עמדתנו ולהתמודד עם הסכנות לדמוקרטיות ולחירויות שלנו במהלך המשא ומתן עם המועצה".

טודוראצ'ה הוסיף ואמר אחרי ההצבעה כי: "חוק הבינה המלאכותית ייתן את הטון ברחבי העולם בפיתוח ובממשל על בינה מלאכותית, ויבטיח שהטכנולוגיה הזו, שנועדה לשנות באופן קיצוני את החברות שלנו באמצעות היתרונות האדירים שהיא יכולה להציע, תתפתח. והוא משמש בהתאם לערכים האירופיים של דמוקרטיה, זכויות יסוד ושלטון החוק".

תרוסן. טכנולוגיית מעקב ביומטרי מבוססת AI. צילום: ShutterStock

ממה חוששים המחוקקים ולמה אינם מסכימים?

ישנם מספר חששות גדולות הקשורות לחדירת הבינה המלאכותית לחיינו שבהן עוסק השיח הציבורי והפוליטי כיום. כמה מהסיכונים הגדולים ביותר המוזכרים בנוגע לכך כוללים למשל את תחום פרטיות הצרכנים שהדאטה אודותיהם ישמש את ה-AI; הטיות, אפליה ועיוותים באפיון וקיטלוג (Profiling) של בני אדם; סכנה לאנושות בגין כלי נשק מבוססי AI; וכן, גם רגולציה משפטית לא ברורה ומסודרת. סיכונים אחרים כוללים חוסר שקיפות והסבר כמו גם הסתמכות יתר על AI.

החוק החדש שעבר את השלבים המוקדמים באירופה, מסווג מערכות AI לקטגוריות סיכון נמוך, מוגבל, גבוה או בלתי מקובל, ומערכות הנחשבות בעלות סיכון גבוה חייבות לעמוד בדרישות המוצגות בפרק 2 בחוק, בו מופיעות דרישות משפטיות מוגדרות למערכות בינה מלאכותית בסיכון גבוה בתחומים כמו ניהול נתונים, תיעוד, שקיפות, פיקוח אנושי, חוסן, דיוק ואבטחה.

חברי הפרלמנט האירופי הרחיבו את הסיווג של מערכות בסיכון גבוה אלו, כך שיכלול פגיעה בבריאות האנשים, בבטיחותם, בזכויות היסוד שלהם או בסביבה. הם גם הוסיפו לתחום זה, כאמור, מערכות AI הפועלות על מנת להשפיע על בוחרים בקמפיינים פוליטיים ומערכות ממליצים המשמשות פלטפורמות מדיה חברתית (עם יותר מ-45 מיליון משתמשים, במסגרת חוק השירותים הדיגיטליים) לרשימת המערכות בסיכון גבוה.

בפרלמנט האירופי לא הסכימו על כל היבטי החקיקה המתגבשת. נקודת המחלוקת העיקרית בין נציגי הצדדים הפוליטיים השונים הייתה סביב תחום הזיהוי הביומטרי מרחוק. מחוקקים ליברליים ומתקדמים ביקשו לאסור את השימוש בזמן אמת בטכנולוגיה זו, אך לאפשר את השימוש בה לחקירות לאחר ביצוע פשעים חמורים. לעומת זאת, מפלגת העם האירופית המרכז-ימינית ניסתה להכניס חריגות לאיסור בזמן אמת, בנסיבות חריגות כמו פיגועים או חיפוש אחרי נעדרים. ניסיון זה של הרגע האחרון עורר זעם בנציגים בעלי הגישות הפוליטיות המתנגדות, אך בסופו של דבר לא צלח.

לפיכך הוחלט בנציבות שהחקיקה תכלול איסור מלא על שימוש ביכולות AI למעקב ביומטרי, לזיהוי רגשות ולשיטור חזוי. עוד נקבע כי יעוגן בחוק שמערכות בינה מלאכותית כמו ChatGPT חייבות לחשוף שהתוכן נוצר הוא כזה שמאחוריו עומדת בינה מלאכותית, אך בינתיים לא ברור כיצד.