"AI דורש משאבי מחשוב ניכרים בשלב 'אימון' המודלים"

"טכנולוגיות AI הפכו בשנים האחרונות בסיס למגוון יישומים בכל תחומי התעשייה. הן עשויות לצרוך משאבי מחשוב ניכרים בשלב 'אימון' המודלים. בתהליך האימון מבצעים, שוב ושוב, כוונון עדין של המודל – על בסיס כמויות גדולות של נתונים, הכוללים את 'התשובה הנכונה' – כך שהמודל יספק פלט מקורב עבור קלט נתון. עבור אימון תכוף עם כמות מידע גדולה נדרשים משאבים ניכרים", כך אמר יואל יעקבסן, מנהל הטכנולוגיות ב-הייפר גלובל.

יעקבסן דיבר בכנס הלקוחות השנתי Dell Technologies Forum TLV 2023. הכנס, בהפקת אנשים ומחשבים, נערך שלשום (ג') בגני התערוכה בתל אביב, בהשתתפות אלפי לקוחות החברה ושותפיה העסקיים.

יעקבסן הציג דרך להקמת תשתית מקומית לאימון ושימוש ב-AI – בלא להסתבך עם המורכבות – על ארכיטקטורות של דל, עם מוצרי קוד פתוח נפוצים. לדבריו, "עבור שימוש אפקטיבי ב-AI, יש לטפל בכמה אתגרים: המידע צריך להיות כזה שיתאים לאימון, כשיש כבר מודל מאומן. כלומר צריך ליצור שירות שיענה את הפלט החזוי – עבור קלט שמספקים לו. במקביל, נדרש מעקב רציף אחר ביצועי המודל. זאת, כדי לעקוב אחר איכות התשובות ולהתאים את אופי הנתונים המוזנים לאלו שהשתמשנו בהם בעת האימון".

"צריך לתת למפתחים לייצר, ובקלות – סביבות פיתוח. הניהול האוטומטי של הכנת המידע, אימון המודל, הכנסתו לייצור ובקרה עליו – מכונה MLOps", אמר יעקבסן. "כיום מקובל להשתמש בקוברנטיס כתשתית ל-MLOps. קוברנטיס היא התשתית הנפוצה ביותר היום להטמעת רכיבי תוכנה מודרניים טבעיים-לענן ומבוססי קונטיינרים. כל פעילות סביב AI מפותחת בסגנון זה. קוברנטיס פותר רבות מבעיות התשתית, מקצר מאוד את זמני הפיתוח וההטמעה ומאפשר לבנות מערכות גדולות ואמינות". מצד שני, ציין, "זהו פרויקט הקוד-הפתוח הגדול ביותר שפותח אי פעם. ככזה, הוא גורר מורכבות ניכרת. ביצוע MLOps באופן עצמאי גורר עוד מורכבות. אחת החבילות הנפוצות לאוטומציה של הליכי הפיתוח, אימון והטמעה של מודלי AI היא Kubeflow. מדובר בחבילה נפוצה מאוד, ו-דל בנתה עבורה פתרון שלם, כולל חומרה, תוכנה והטמעה".

"כדי לפשט את התהליך", הסביר, "מהנדסי דל בחרו כמה כלים מהאקו-סיסטם של Ubuntu Linux. שני הכלים המרכזיים הם MaaS (ר"ת של Metal As a Service), המאפשר בניית ענן פרטי באופן פשוט, ו-Juju – מוצר אוטומציה בתפיסת Operator – והוא מטפל בכל מחזור חיי המערכת המוטמעת. שני המוצרים תומכים בכל טכנולוגיות העננים, פרטיים וציבוריים".

יעקבסן סיכם באומרו כי "על בסיס הטכנולוגיות האלו בנו אנשי דל פתרון שלם: מתקינים את MaaS ו-Juju על שכבת הניהול, מתקינים שרתים ומתגים של דל ומדליקים אותם – והם הופכים לענן פרטי. מתקינים את פלטפורמת ה-Edge, על גביה מתקינים Ubuntu Linux ומעליו – Juju. כיוון שהטכנולוגיות האלו מורכבות, ההמלצה הברורה היא לא להמציא את הגלגל מחדש – אלא להשתמש בכלים ושיטות פשוטים, אוטומטיים ומוכחים".