"לא חייבים להיות מדעני נתונים כדי להטמיע AI"

מאת הילל יוסף

"עם תחילת העידן החדש, של הבינה המלאכותית היוצרת ( GenAI), אחד האתגרים הניצבים בפני ארגונים הוא בניית ארכיטקטורת IT, שתאפשר להם להפיק ערך ותועלת מהטכנולוגיה החדשה. כיוון שישנן כמה חלופות למודלים שבהם ניתן להשתמש, העיסוק בתחום הופך להיות מורכב, ומצריך תשתית חישובית מתאימה כבר משלב הבחינה הראשונית של המודל. מדובר בטכנולוגיה חדשה, ולכן ארגונים נדרשים לעזרת מומחים: זו הסיבה שדל (Dell Technologies) ואנבידיה (NVIDIA) מציעות ייעוץ טכנולוגי בתחום. כדי לפשט את התהליך ולהקל על מנהלי ה-IT לפעול בצורה יעילה וחכמה, הקמנו שירות, הפתוח לכולם, שמהווה 'מגרש משחקים' לבחינת מודלים – ai.nvidia.com. עם השירות הזה, כבר לא חייבים להיות מדעני נתונים כדי להטמיע AI", כך אמר אופיר זמיר, דירקטור בכיר וראש קבוצת ארכיטקטורת בינה מלאכותית באנבידיה ישראל.

זמיר התראיין לקראת כנס הלקוחות והשותפים השנתי של דל ישראל. הכנס, בהפקת אנשים ומחשבים, ייערך ביום ג' 17 בספטמבר, במתחם אקספו בגני התערוכה תל אביב, תחת הנושא "Accelerating AI-powered innovation".

לדברי זמיר, "באתר ai.nvidia.com אפשר למצוא מודלים מוכנים ולבדוק אותם באמצעות ממשק ווב, או API. אחד היתרונות של השירות הוא שאין צורך להקים תשתית מחשוב בשביל לבחון מודלים שונים. בנוסף, הוא מסייע לארגונים לקצר את זמן ההגעה לשוק של השירות, או המוצר שהם מפתחים".

זמיר הסביר כי "אחרי הבחירה במודל הבינה המלאכותית היוצרת המתאים, ניתן להוריד אותו כקונטיינר, ישירות מהקטלוג NVIDIA AI Enterprise. המודל הארוז, NVIDIA NIM, כבר מוכן לפריסה בארגון לאחר שעבר מיטוב, וכך הוא יכול לרוץ בכל מקום. בקטלוג ניתן למצוא מודלי שפה גדולים, LLMs, מוכנים לפריסה, כמו Llama 3.1 של מטא, למשל. ניתן להשתמש במודל כדי לבנות אפליקציות שונות, כגון צ'אטבוט, בלא צורך באימון מחדש. למודלים ניתן לעשות הכוונה ולהגדיר את תפקידם. בנוסף, אפשר לספק למודל כלים, שישפרו את היכולות שלו לטובת עבודה בארגון ממגזר ספציפי בתעשייה. באמצעות כלי בשם NeMo, למשל, ניתן לעשות למודל כוונון (Fine Tuning), כדי שיפעל באופן מדויק יותר, כצ'אטבוט מבוסס LLM".

לפי זמיר, "כדי לבנות יישום על בסיס מודל שפה גדול (LLM), צריך לחבר אותו למיקרו-שירותים, למשל כאלה שיסייעו לו להתחבר לדאטה הארגונית ולמערכות נוספות.

"אנבידיה הכריזה באחרונה על NIM Agent Blueprints – קטלוג של תבניות בינה מלאכותית מאומנות מראש, שארגונים יכולים להטמיע בקלות ובמהירות. אחת התבניות הראשונות שהשקנו מאפשרת לחברות לבנות Digital Humans – אווטארים אינטראקטיביים שיכולים לשמש כנציגי שירות לקוחות. בנוסף השקנו תבנית לסינון חומרים ומולקולות לגילוי תרופות ולחילוף נתונים ממאגרי מידע ארגוניים.  היתרון המשמעותי בכל השירותים הללו הוא שאין צורך לאמן את המודל מחדש – אלא רק לחבר אותו, ואז – להעשיר את התוכן שלו בנתונים פרטניים".

"כהמשך לשיתוף הפעולה העולמי בין אנבידיה ודל", סיכם זמיר, "גם הסניפים המקומיים של שתי החברות פועלים יחד מול הלקוחות, על מנת להטמיע יכולות בינה מלאכותית יוצרת בארגונים בישראל. ההתעניינות בתחום אינה נישתית והיא קיימת בכל המגזרים. השנה התחלנו את המסע בשוק הישראלי – ולהערכתי 2025 תהיה שנה של פריצת דרך בתחום חדש זה, עם עשרות פרויקטים בתחום".