נדרשות שקיפות ורגולציה על הבינה המלאכותית

המילים "בינה מלאכותית" הולכות ונשמעות יותר ויותר, ועל פי כל הסימנים זה יוסיף ויגדל בחדות בתקופה הקרובה, שלא לומר בשנים הבאות. לצד הביג דטה, ה-BI ועוד, ה-AI מאפשר לגורמים חיצוניים לנתח מידע טוב יותר ולדעת עלינו הרבה יותר. אין ספק שלא מדובר בטרנד בר חלוף.

מחקר שנערך על ידי מרכז המחקר של הכנסת בסוף השנה שעברה עמד על ההיבטים השונים של הבינה המלאכותית, לרבות הסכנות שהיא מביאה אתה. המסמך נכתב לבקשת יו"ר ועדת המדע והטכנולוגיה, ח"כ אורי מקלב, והוועדה אף ערכה דיון בנושא. בימים אלה, דרך אגב, הוא אקטואלי מתמיד, בעיקר על רקע מערכת הבחירות הסוערת, שבה משתמשים מפלגות ומועמדים שונים בבינה המלאכותית כדי לפענח ולזהות קהלי יעד שונים.

המחקר מתייחס לפוטנציאל ההשפעה של הבינה המלאכותית במגוון רחב של תחומים ועל מגוון רחב של אנשים, שלאו דווקא מודעים לכך ולאו דווקא חשופים למה שעומד מאחורי הטכנולוגיה. אחד הסעיפים עוסק באפליה, הוגנות ושקיפות במערכות מידע. הבעיה מתחילה בכך שמערכות בינה מלאכותית עושות שימוש רב בבסיסי נתונים קיימים ובמידע המוזן אליהם. עוד דבר מעורר דאגה הוא שהם נוצרו על ידי מתכנתים, שיוצרים גם את הכלים שמאפשרים את הטיית בסיסי הנתונים, על ידי הגדרתם למערכות של כללי הפעלה שונים ממה שמקובל. הנקודה הזו היא הכי רלוונטית לחששות שמועלים מזה מספר שנים, ובארץ ביתר שאת לקראת הבחירות, בכל מה שקשור לפייק ניוז ולהטיית מציאות.

עורכי המחקר מציינים שחברות וגופים ציבוריים עושים פרופיילינג של מועמדים שונים למשרות ציבוריות. אלא שהבינה המלאכותית מאפשרת גם למתמודדים לכנסת לעשות פרופיילינג ולהתאים לנו את הקמפיינים הרלוונטיים, בהתבסס על המידע שנאסף עלינו.

הפתרון – בשקיפות

אי אפשר למנוע לחלוטין ניסיונות הטיה, הטעיה ופייק ניוז, שהם תוצאה בין היתר של הבינה המלאכותית, אבל אפשר לצמצם זאת על ידי אימוץ הפתרון שהמחקר של הכנסת מציע לממשלה ולגופים ציבוריים: שקיפות ברמה המקסימלית.

זו הסיבה שוועדת הבחירות המרכזית פרסמה באחרונה מספר הנחיות והבהירה שתקפיד על כך שהפעילות של המפלגות המתמודדות לכנסת תהיה בשקיפות גבוהה. למרבה הצער, לא ניתן לחוקק כרגע את ההמלצות הללו לחוקים, וזה דבר שמתבקש שהכנסת הבאה תעשה, לעשות לקראת הבחירות הבאות.

בעקבות כך, החברה האזרחית, ציבור המצביעים וכל המבינים ובעלי הנגיעה לתחומים אלה חייבים להגביר את הערנות ולדרוש מהמפלגות שקיפות מלאה – הן מאיפה הם לוקחים את המידע והן באילו כלים הם עושים זאת. זו משימה לא קלה והמועמדים לא ישושו לתת את המידע הזה, משום שכך הם יחשפו סודות אסטרטגיים שלהם.

אלא שהסכנה בחוסר שקיפות היא גדולה יותר, והיא סכנה לציבור. ההסתה והמידע הרב שזורם ברשת ללא סינון ובקרה עלולים להביא לאסון. יש לקוות שהכנסת והממשלה יישמו את המלצות המחקר, שקורא לגופי השלטון לבחון לעומק את הכלים הרגולטורים הקיימים והרלוונטיות שלהם לעידן הדיגיטלי. או, במילים אחרות, לגבש אסטרטגיה לאומית בנושא הבינה המלאכותית.

ב-26 במרץ ייערך כנס של אנשים ומחשבים שיעסוק בתחום הבינה המלאכותית, ובו יידונו נושאים אלה, לצד מגמות חדשות בתחום, בשיתוף מרצים מהארץ ומחו"ל. כמו כן, ניתן יהיה לפגוש שם סטארט-אפים רבים שפועלים בתחום. להרשמה לכנס לחצו כאן.