אריסטה תספק פתרונות AI מוכללים בשיתוף Nvidia

מאת הילל יוסף

אריסטה (Arista Networks) הכריזה על הדגמה טכנולוגית, בשיתוף אנבידיה (Nvidia), של מרכזי נתונים לבינה מלאכותית, במטרה לייצב את תחומי המחשוב והרשת כישות AI מנוהלת אחת.

כדי לבנות רשתות אופטימליות של בינה מלאכותית יוצרת (GenAI) עם זמני סיום עבודה נמוכים יותר, לקוחות יכולים להגדיר, לנהל ולנטר אשכולות בינה מלאכותית בצורה אחידה על פני אבני בניין מרכזיות – כולל רשתות תקשורת, NICs ושרתים. זהו הצעד הראשון בהשגת אקוסיסטם הדדי מרובה ספקים, המאפשר שליטה ותיאום בין רשתות בינה מלאכותית ותשתיות מחשוב – לבינה מלאכותית.

צורך בבקרה אחידה

ככל שגודלם של אשכולות בינה מלאכותית ומודלים של שפה גדולה (LLMs) גדל, המורכבות והנפח העצום של החלקים שונים בפאזל גדלים במהירות. GPUs, NICs, מתגים, אופטיקה וכבלים – חייבים לעבוד יחד, כדי ליצור רשת מוכללת. לקוחות זקוקים לבקרה אחידה בין שרתי ה-AI שלהם, המאחסנים NICs ו-GPUs, לבין מתגי רשת AI בשכבות השונות. כל אלה תלויים זה בזה לצורך השלמת עבודת AI נכונה – אך פועלים עצמאית. זה עלול להוביל לתצורה שגויה, או לחוסר התאמה בין ההיבטים השונים של האקוסיסטם הכולל. זה עלול להשפיע דרמטית על זמן השלמת העבודה, שכן בעיות רשת עלולות להיות קשות מאוד לאבחון. אשכולות AI גדולים דורשים גם ניהול גודש מתואם, כדי למנוע נפילות של חבילות נתונים ותת-ניצול של GPUs, כמו גם ניהול וניטור מתואמים, לייעול משאבי המחשוב והרשת במקביל.

היכרות עם סוכן ה-AI של אריסטה

בלב הפתרון עומד סוכן מבוסס Arista EOS, המאפשר לרשת ולשרת האחסון לתקשר ביניהם ולתאם תצורות כדי לייעל את אשכולות הבינה המלאכותית. באמצעות סוכן בינה מלאכותית מרוחק, ניתן להרחיב את EOS – הפועל על מתגי Arista ל-NICs ולשרתים המחוברים ישירות, כדי לאפשר נקודת שליטה ונראות אחת ב-AI Data Center – כפתרון הוליסטי. סוכן AI מרוחק זה, המאוחסן ישירות ב- NVIDIA BlueField-3 SuperNIC, או פועל על השרת ואוסף טלמטריה מה-SuperNIC, מאפשר ל-EOS במתג הרשת, להגדיר, לנטר ולנפות שגיאות (באגים) של בעיות רשת בשרת, תוך הבטחת תצורת רשת מקצה לקצה, ועם עקביות באיכות השירות (QoS). כעת ניתן לנהל ולייעל אשכולות בינה מלאכותית כפתרון הומוגני יחיד.

"אריסטה שואפת לשפר את יעילות התקשורת בין הרשת שהתגלתה לטופולוגיית ה-GPU, כדי לשפר את זמני השלמת העבודה – באמצעות תזמור מתואם, תצורה, אימות וניטור של מחשוב מואץ של אנבידיה,  SuperNICsותשתית רשת אריסטה", אמר ג'ון מק'קול, מנהל פלטפורמות בכיר באריסטה.

תקשורת ואופטימיזציה של AI מקצה לקצה

"הדגמת טכנולוגיה חדשה זו מדגישה כיצד סוכן בינה מלאכותית מרוחק, מבוסס Arista EOS – מאפשר ניהול של אשכול AI משולב והדדי, כפתרון יחיד. כעת ניתן להרחיב את EOS הפועל ברשת, לשרתים או ל-SuperNIC באמצעות סוכני AI מרוחקים, כדי לאפשר מעקב ודיווח מיידיים על ירידה בביצועים, או כשלים בין שרתי אחסון ורשתות. כך, ניתן יהיה לבודד אותם במהירות ולמזער את השפעתם. מאחר שמתגי רשת מבוססי EOS מודעים כל הזמן לטופולוגיית הרשת המדויקת, הרחבת ה-EOS עד ל-SuperNICs ולשרתים באמצעות סוכן הבינה המלאכותית המרוחק, מאפשרת אופטימיזציה מתואמת עוד יותר של איכות שירות מקצה לקצה, בין כל האלמנטים במרכז הנתונים של AI. זאת, כדי להפחית את זמן השלמת העבודה".

"פלטפורמות רשת Arista שהן הטובות ביותר מסוגן, יחד עם פלטפורמות המחשוב של Nvidia ו-SuperNICs – מאפשרות מרכזי נתונים מתואמים לבינה מלאכותית. היכולת החדשה המאפשרת להרחיב את מערכת ההפעלה EOS של אריסטה עם סוכני בינה מלאכותית מרוחקים ומאוחסנים, מבטיחה לפתור בעיה קריטית של הלקוחות – הנוגעת לאשכולות בינה מלאכותית הנמצאים בצמיחה", סיכם זאוס קרוואלה, אנליסט ראשי ב-ZK Research.