מהם השלבים החשובים בהטמעת AI בארגון?

הבינה המלאכותית בכלל, וזו היוצרת בפרט, נמצאות כבר מזמן על סדר היום הטכנולוגי של חלק ניכר מאוד מהארגונים במשק – ובמונחים טכנולוגיים, שנתיים (מאז שה-GPT וה-ChatGPT נכנסו לחיינו) זה בהחלט מזמן. אלא שארגונים רבים נתקלים בקשיים בהטמעת הטכנולוגיה הזאת. אביחי חג'ג', מייסד שותף וסמנכ"ל הטכנולוגיות של קלאודאדג', שהינה חברה בת של בזק בינלאומי, ומתן שחר, אסטרטג טכנולוגי במיקרוסופט – שמושקעת מאוד ב-OpenAI, ממציאת ה-GPT, דיברו על כך בכנס Lynx Devcon של Lynx מבית אנשים ומחשבים.

הכנס התקיים היום (א') באקספו תל אביב, בנוכחות יותר מ-1,000 מפתחים, בכירים ובכלל מקצוענים בעולמות הטכנולוגיה וההיי-טק.

צילום ועריכת וידיאו: ליטל רובינשטיין

חג'ג' פתח ואמר כי "ה-GenAI כאן, ויש יותר ויותר פתרונות בינה מלאכותית יוצרת הן לעולם העסקי והן לזה הפרטי, כולל משתמשי הקצה. לפי התחזיות, עד 2032 זה יהיה שוק של 1.3 טריליון דולר. הרבה מאוד ארגונים מתעניינים בפתרונות AI ו-GenAI, ביישומם או בשילובם בפתרונות שלהם. זה מייצר אתגרים איך לבצע את הטמעתם בצורה הנכונה והטובה ביותר".

מייסד שותף וסמנכ"ל הטכנולוגיות של קלאודאדג'. צילום: ניב קנטור

שחר מנה את האתגרים הבולטים בתהליך הזה: "אחד האתגרים המרכזיים הוא איך להכין את התשתית העננית של הארגון לקליטת עומסי עבודה ב-AI. לעומת זאת, אתגרי הסייבר והפרטיות ב-AI הולכים ופוחתים. קושי נוסף, ויותר עדכני, הוא היכולת להבין מה רוצים לממש באמצעות הבינה המלאכותית, איזה Use case. יש כיום מגוון רחב של כלים, והיכולת להבין איזה כלי נכון יותר לשימוש עבור הארגון הופכת להיות הרבה יותר מורכבת".

"השאלה היא מה הארגון רוצה להשיג באמצעות ה-GenAI ואיזה מוצר מבוסס בינה מלאכותית, יוצרת או לא, מנהליו רוצים לייצר. כאן נשאלת השאלה האם רוצים מוצר שמתבסס על תוכנה כשירות (SaaS), או רוצים אוטומציה עבור הפיתוח והייצור שלו", אמר חג'ג'.

"עוד אתגר", ציין שחר, "הוא שצריך כיום לבצע יותר שינויים מבעבר בתשתיות הענן, ולהתאים את אזורי הנחיתה לעידן הבינה המלאכותית".

שינויים – גם בעולמות הדאטה והנטוורקינג

"גם עולם הדאטה עובר שינוי", הוסיף חג'ג'. "הרבה פתרונות AI מתבססים על דאטה. צריך להבין איפה היא נמצאת ובאיזה סוג נתונים מדובר. פלטפורמת Fabric של מיקרוסופט, שמשמשת לניתוח נתונים, מאפשרת לחבר מקורות מידע שונים ולחבר את המודל עצמו למסד הנתונים האחוד הזה".

"עולם נוסף שעובר התאמות הוא זה של הנטוורקינג", הוסיף. "ניתן לחבר את ה-Azure OpenAI, שמציע מודלי שפה מתקדמים, בצורה מאובטחת, לחבר את התקשורת ולאפשר שהיא תהיה בתוך הרשת. כך, הארגון קובע מאיפה המידע שלו נכנס ואיך הוא יוצא".

"איך מאמצים מודלי AI בצורה מאובטחת?", שאל שחר והשיב: "צריכים לחשוב כאן על שני היבטים – התקיפות וסוגיהן, והאבטחה של עומסי העבודה".

הוא אמר כי "יש כיום פתרונות סייבר, שמונעים תקיפות על פתרונות מבוססי בינה מלאכותית, וחשוב לשלב אותם כחלק ממימוש ה-AI בארגון. יש מגוון רחב של מתקפות, לדוגמה כאלה שההאקרים מנסים לייצר בהן דליפת מידע. סוג אחר הוא מתקפת פישינג, שנעשית באמצעות החדרת URL. הבינה המלאכותית מביאה איתה סיכונים חדשים, וחשוב לתת להם את המענה באמצעות פתרונות הגנה".

מתן שחר, אסטרטג טכנולוגי במיקרוסופט. צילום: ניב קנטור

נושא חשוב נוסף שעלה בהרצאה הוא העלות. "באופן טבעי, הארגונים מתעניינים בזה, ורוצים לדעת איך לחשב את העלות ואיך לחזות את הצריכה שלהם את פתרונות ה-AI", אמר חג'ג'. "קנייה מראש של טוקנים לפי מודל מהמודלים של OpenAI שבוחרים מוזילה עלויות בצורה משמעותית. אופציה נוספת היא שימוש לפי צריכה בפועל".

מה באשר לזמינות? "בפלטפורמת Azure AI, ניתן לקחת שני אזורים שונים. אפשר להשתמש בפרונדו – שירות ענני שבו אפשר לחבר סביבת עבודה אחת או יותר באזורים שונים, ולהשתמש במודל הרלוונטי ביותר או במודל שהכי מתאים לארגון", ציין חג'ג'.