"ארגונים עוברים למחשוב מואץ ולבינה מלאכותית יוצרת"
"כך ארגונים יכולים לטפל טוב יותר בביג דאטה, לפשט את הקמת וניהול תשתיות ה-AI ולחברן ל-IT - עם יותר כוח מחשוב ופחות שרתים", אמר אופיר זמיר, דירקטור הנדסת מערכות ו-AI באנבידיה ישראל
"אנחנו מצויים בפתח תקופה חדשה בעולם המחשוב. ארגונים עוברים ממחשוב כללי למחשוב מואץ ול-GenAI – בינה מלאכותית יוצרת. כך הם יכולים לטפל טוב יותר ובצורה יעילה יותר בביג דאטה, לפשט את ההקמה והניהול השוטף של תשתיות הבינה המלאכותית שלהם ולחברן למערכות ה-IT הארגוניות – ולעשות זאת עם יותר כוח מחשוב ופחות שרתים", כך אמר אופיר זמיר, דירקטור הנדסת מערכות ו-AI באנבידיה ישראל.
זמיר דיבר בכנס הלקוחות השנתי Dell Technologies Forum TLV 2023. הכנס נערך אתמול (ג') בגני התערוכה בתל אביב, בהפקת אנשים ומחשבים, ובהשתתפות אלפי נציגים מלקוחות החברה ושותפיה העסקיים.
לדבריו, "המעבדים הגרפיים של אנבידיה, המחוברים באמצעות טכנולוגיית התקשורת והמתגים של מלאנוקס ומריצים את פלטפורמת ה-AI מבוססת CUDA שלנו, מהווים את תשתית המחשוב של טכנולוגיות ה-GenAI". "באחרונה", ציין, "ספקיות הענן הגדולות הכריזו על תשתיות נרחבות מבוססות Nvidia H100. ארגוני מחשוב וספקיות תוכנה הכריזו על שיתופי פעולה עם Nvidia AI בכל התעשיות. המרוץ לאימוץ הבינה המלאכותית היוצרת החל".
זמיר אמר כי "באחרונה הכרזנו על Nvidia AI Enterprise 4.0 – דור רביעי לפלטפורמת התוכנה המיועדת לפיתוח והטמעה של בינה מלאכותית בארגונים. הגרסה החדשה מיועדת להאיץ את אימוץ טכנולוגיות ה-GenAI, וכוללת גם את Nvidia NeMo, לבנייה והתאמה אישית של מודלי שפה גדולים".
עוד הוא ציין את ה-GPU, "החזק יותר, עם יכולות ביצועים משופרות בסביבה מרובת עומסי עבודה. Nvidia L40S GPU משלב מחשוב AI רב עוצמה עם גרפיקה, ומביא להאצת עבודה מהירה יותר. הוא בנוי להפעלת הדור הבא של עומסי עבודה בדטה סנטר, ומספק יכולת להפעלת מודלים שונים של AI ומודלי שפה גדולים (LLM), וכן יכולות גרפיקה תלת-ממדית ו-וידיאו. הוא משתלב בצורה אינטגרטיבית עם המערכות והשרתים של דל ו-VMware".
"ארגונים רוצים להכניס את ה-AI לליבה העסקית – בגלל ההייפ סביב ה-ChatGPT"
לדברי זמיר, "יש כיום הייפ גדול סביב הבינה המלאכותית היוצרת, דוגמת ה-ChatGPT. בעקבות זאת, ארגונים רוצים להכניס את הבינה המלאכותית לליבת העסקים שלהם, תוך התאמות למידע הייחודי שיש ברשותם. מדובר בתהליך מורכב, שדורש משאבי מחשוב, הבאה וטיוב של נתונים, לצד מומחיות טכנולוגית. אנחנו מסייעים לארגונים לעשות זאת, כי הנושא מצוי בראש סדר העדיפויות של לקוחות מכל המגזרים".
"לחלק מהחידושים שאנחנו מציגים לשוק אחראי באופן ישיר מרכז הפיתוח, המשמעותי מאוד, של אנבידיה בישראל, שהוקם על בסיס רכישת הענק של מלאנוקס ומעסיק יותר מ-3,000 עובדים", הוסיף. "כך, אנחנו מעניקים יכולת עבור תשתיות בינה מלאכותית, כדי להתמודד עם הדרישות ההולכות וגדלות לעוצמה ומהירות בחישובים. אנחנו הופכים את האימון של ה-AI לשירות אונליין לפי שימוש. שירות זה פועל בסביבה מרובת עננים, שמנוהלת על ידי אנבידיה, בשילוב ספקיות ענן. כך אנחנו מעניקים יכולת פיתוח בינה מלאכותית לכל חברה בעולם, עם יכולות מחשוב עוצמתיות, שלא כל אחת מהן יכולה להקים ולתפעל בעצמה. אנחנו נותנים לארגונים גישה ישירה למחשוב על דרך הענן, ובקנה מידה רחב וגלובלי".
"באחרונה הכרזנו על Nvidia AI Foundation", ציין זמיר. "זהו אוסף של כלי בינה מלאכותית יוצרת, המבוססים על מודלי שפה גדולים. מדובר בשלושה שירותי ענן בתחומי שפה, תמונות ופיתוח תרופות, שכוללים מודלים גדולים מאומנים מראש, שמספקים את הבסיס לחברות לבנות יישומי בינה מלאכותית משלהם". לדבריו, "בתוך אוסף זה, השקנו את פלטפורמת NeMo Guardrails. זו מאפשרת להגביר את האמינות של האיסוף והטיפול בנתונים, בכך שהיא מאפשרת לחברות ולארגונים לפתח, לאמן, לכוון ולהשיק צ'טבוטים שמבוססים על המידע הקנייני שלהם עצמם, ולהשיב בנושאים מוגדרים, בתוך גבולות המוצבים היטב".
זמיר סיכם באומרו כי "שיתוף הפעולה שלנו עם דל ו-VMware מאפשר לצוותי ה-IT לספק תשתיות AI מתקדמות, על בסיס כלים סטנדרטיים ומוכרים. לבינה המלאכותית היוצרת פוטנציאל שימוש רב בקרב ארגוני אנטרפרייז, ואנחנו מעניקים לחברות פלטפורמה שמאפשרת להן לשלב אותה באפליקציות שלהם. אנחנו מספקים שכבות עיבוד ותקשורת מהירות, שמשודכות לשכבת תוכנה. כך מתקבלת תשתית AI מלאה, בצורה אינטגרטיבית – משלב הכנת המידע, עבור באימון המודל ועד לפריסה בייצור".
מה יוצרת בדיוק???…תכנים לבלוגים?!?! נו באמת!….מה בדיוק הערך העסקי של מוצר, שאין לך שליטה מלאה על הפלטים שלו וכל מה שאתה יכול לעשות הוא לנסות לצמצם את ההזיות והטעויות שהוא עושה, אבל אין לך שום דרך לדייק אותו או לדבג מה גרם למה, כדי למנוע מהבאג לחזור. אז די כבר עם החירטוטים!!!