חוק בטיחות ה-AI של קליפורניה אושר – ממתין לחתימת המושל

חוק בטיחות ה-AI המדובר של קליפורניה אושר אמש (ד') על ידי הסנאט המקומי כמעט פי אחד – ברוב של 32 תומכים אל מול מתנגד אחד בלבד. החוק ממתין כעת לחתימתו של המושל, גווין ניוסום, שצריך להחליט עד סוף ספטמבר האם הוא עושה זאת או מטיל עליו וטו.

החוק, שסווג כ-SB 1047, מחייב יצרניות מודלי AI שפועלות בקליפורניה לבצע כמה צעדים לפני שהן מתחילות לאמן אותם: בדיקות בטיחות למודלים שעלות פיתוחם עומדת על יותר מ-100 מיליון דולר, או לכאלה שמצריכים כוח מחשוב מסוים ומעלה; אפשור השבתה מהירה ומלאה של מודלים, למקרה שיהיה צורך לעשות את זה; הבטחה שהמודלים מוגנים מפני "שינויים לא בטוחים שעלולים להתבצע בהם לאחר האימון"; וקיום נוהל בדיקות, כדי שניתן יהיה להעריך האם הם עלולים לגרום "נזק קריטי".

בנוסף, החוק מאפשר לתובע הכללי של קליפורניה להגיש תביעות נגד חברות שלא יעמדו בו, במיוחד במקרים של איום מתמשך ושל השתלטות של ה-AI על מערכות מחשוב ממשלתיות, כגון זו של רשת החשמל.

לדברי הסנאטור סקוט וויינר, יוזם החוק, הוא נצרך, לפני שיפותחו מודלים שיצאו משליטה. הוא ציין כי החוק דורש מחברות ה-AI הגדולות לעשות את מה שהן התחייבו שיעשו: לערוך בדיקות למודלי הבינה המלאכותית הגדולים שלהן, כדי למנוע תוצאות קטסטרופליות.

מי תומכים בחוק – ומי מתנגדים?

הדעות לגבי החוק שנויות במחלוקת – הן בעמק הסיליקון והן בקרב פוליטיקאים. בצד של המתנגדים נמצאות חברות AI בולטות כגון OpenAI, וכן ננסי פלוסי, לשעבר יו"רית בית הנבחרים של ארצות הברית. טענת המתנגדים היא שהחוק מתמקד יותר מדי בתרחישים של נזק קטסטרופלי ולא נותן מענה מספק למקרים שבהם יש נזק פחות נרחב, כגון פיתוח מודלי AI בקוד פתוח. ביקורת נוספת על החוק היא שהוא "חונק" חדשנות. כמו כן, חלק מהחברות המתנגדות שנמצאות בעמק הסיליקון איימו כי יעזבו אותו אם החוק יעבור. יש לציין שהחוק רוכך לאור הערות שהתקבלו מהתעשייה: הוא הועבר מהמישור הפלילי לזה האזרחי וסמכויות האכיפה שניתנות במסגרתו לתובע הכללי של קליפורניה – מותנו.

מתנגדת לחוק בטיחות ה-AI של קליפורניה. ננסי פלוסי, לשעבר יו"רית בית הנבחרים של ארצות הברית. צילום: BigStock (ארכיון)

בצד של התומכים נמצאים, למשל, אנתרופיק, שבהתחלה התנגדה לחוק אולם החלה לתמוך בו לאחר הכנסת התיקונים, ואילון מאסק, שקרא ביום ב' למחוקקים להעביר את החוק ואמר שעולם הבינה המלאכותית מצריך רגולציה. עם זאת, הוא כתב כי "זאת דרישה קשה, והיא תעצבן כמה אנשים". מאסק ציין כי "אני קורא לרגולציה על תחום ה-AI כבר מעל 20 שנה, כפי שצריך לבצע אסדרה לכל מוצר וטכנולוגיה שיש להם פוטנציאל של סיכון לציבור". תגובתו של מאסק מעניינת, מאחר שבשוק מציינים שגרוק – הכלי של xAI, חברת הבינה המלאכותית שלו – כולל פחות מסנני בטיחות מרוב הכלים המתחרים.

"חוק בטיחות ה-AI" הוא לא החוק היחיד שקשור לבינה מלאכותית ושנמצא על הפרק בקליפורניה. המחוקקים במדינה יצטרכו להחליט האם הם מעבירים הצעת חוק אחרת, שמציעה לסמן תוכן שנוצר על ידי ה-AI ב-"סימן מים", כמו הסימנים שמוטבעים על שטרות כסף. הצעת החוק הזו זוכה לתמיכה מצד חברות ענק כגון OpenAI, אדובי ומיקרוסופט.