"השנה, ה-GenAI תתחיל להשיא ערך לארגונים הפיננסיים"
"הבינה המלאכותית היוצרת תהפוך ב-2024 מטכנולוגיה שהארגונים הפיננסיים בודקים לכזאת שתורמת להם", כך אמר טל שחר, המוביל העולמי של תחומי הדאטה וה-AI במעבדת המומחים של יבמ, והסביר כיצד
"הבינה המלאכותית היוצרת מהווה הזדמנות עבור המגזר הפיננסי. נשאלת השאלה: איך הארגונים הפיננסיים יכולים להפוך אותה לטכנולוגיה שמשיאה ערך עבורם? ארגונים, במגזר הפיננסי ובכלל, ישאלו את עצמם את השאלה הזאת השנה – וינועו לשם", כך אמר טל שחר, המוביל העולמי של תחומי הדאטה וה-AI במעבדת המומחים של יבמ.
שחר דיבר היום (ד') בכנס Fintech Kickoff 2024 של Lynx מבית אנשים ומחשבים, שנערך בפני אולם גדוש בבורסה בתל אביב. מנחי האירוע היו בן פלד, מנכ"ל הכנס, ואמיר קרלין.
לדברי שחר, "AI לעסקים זה לא ChatGPT, אלא כלי שצריך להיות אמין, בטוח ומביא ערך ארגוני. הוא יכול להשיא ערך רב לארגונים. כך, למשל, בכל בנק ומוסד פיננסי יש עשרות אלפי מסמכים ומאות עובדים שמטפלים בהם – ובכל פעם הם צריכים לכתוב את הכול מחדש. ה-AI יכולה לעשות חלק מהעבודה, באמצעות מודלים גדולים של שפה (LLMs), שמאפשרים לבדוק מסמכים ולתקן אותם, וכן להכניס אליהם מילים ומשפטים – כל זה במידת הצורך".
"בעולם ה-GenAI", ציין, "הבאזזז של השנה שעברה הוא המציאות של השנה. זהו תחום שמשנה כמעט כל עבודה, מגזר ותעשייה. כדי להפיק ממנו ערך, חשוב לשמור על האמינות שלו". שחר אמר את המשפט הזה על רקע השם הבעייתי שיצא לכלי הבינה המלאכותית היוצרת, ככאלה שנותנים תשובות שאינן אמינות תמיד – "דבר שלא יכול להתקיים במוסד פיננסי".
סוגיות רגולציה
שחר ציין את העובדה שכלי ה-AI וה-GenAI מעלים סוגיות של רגולציה ומשפטים. "כבר יש תביעות משפטיות נגד חברות GenAI וארגונים שהשתמשו בתוצרים שלהן בטענה לגניבת זכויות יוצרים. גם שימוש לא נכון בכלים האלה עלול ליצור לארגונים בעיות בעולמות הרגולציה", הוסיף. לדבריו, אחרי כמה שנים שבהן לא הייתה אסדרה בתחום, באו רגולציות כמו הצו שהוציא נשיא ארצות הברית, ג'ו ביידן, והכללים של האיחוד האירופי בתחום ה-AI – שעל פי ההערכות גם ישראל תאמץ אותם – ועשו סדר מסוים בתחום.
"ארגון שלא יעמוד בכללי הרגולציה על תחום הבינה המלאכותית – אף אחד לא ירכוש את המוצרים והשירותים שלו, בפרט אם מדובר בארגון פיננסי", ציין שחר. "בנוסף, הסיכון באי עמידה ברגולציה הוא אדיר. כך, למשל, הפרה אחת של הכללים של האיחוד האירופי תעלה לארגון המפר 35 מיליון יורו או 7% מהמחזור – הגבוה מביניהם".
"זאת ועוד", אמר, "הרגולציה מטרידה את הלקוחות הקיימים והפוטנציאליים של המוסד הפיננסי, ומביאה אותם לשאול את אנשיו שאלות, כגון: איך אימנתם את המודל? כיצד אתם דואגים שהוא לא יפלה? לא ימציא דברים? האם הוא שקוף? מה רץ בתוך המודל? האם אתם תומכים ברגולציות המדינתיות השונות? והאם זה בטוח?".
פלטפורמת WatsonX נחלצת לעזרה
כדי לעמוד ברגולציות ולענות על השאלות של הלקוחות על הצד הטוב ביותר, שחר הציג את הכלים שפלטפורמת WatsonX של יבמ מציעה, בהם WatsonX.Data, שם ניתן לשמור את הדאטה, ו-WatsonX.AI, שהוא הסטודיו, שמאפשר לנסות את המודלים ולאמן אותם. "ניתן להשתמש בפלטפורמה הזאת על גבי כל ענן וגם און-פרמיס – שזה דבר ייחודי ליבמ", ציין.
לדבריו, "בנינו את המודלים על ידי כך שאספנו דאטה ובדקנו מה המקורות שלה; קטלגנו אותה לפי שפות תכנות ועוד; התחלנו לנקות אותה – הוצאנו משפטי שנאה, שימוש לרעה, קללות וכדומה, שהרי אם תהיינה קללות בדאטה שנאגרת בתוך המודל, תהיינה קללות גם בתשובות שהוא ייתן למשתמשים; הוצאנו תכנים שיש עליהם זכויות יוצרים ותכנים באיכות נמוכה; והדבקנו על כל אוסף של נתונים 'מדבקה', כמו המדבקות שיש על מוצרי מזון – שמפרטת מה הוא כולל".
הוא אמר כי הפלטפורמה מבוססת על מודל גרניט של יבמ, ש-"אחרי שזיקקנו 70% מהדאטה, מכיל 2 טרה-בייט של נתונים". שחר ציין לסיום כי "המודלים שלנו מתאימים למגזר הפיננסי".
ייחודי לibm??להריץ מודלים on premise, כל אחד יכול לעשות...ולפעמים גם בלי gpu