רד האט רוכשת את Neural Magic, שמתמחה במודלי GenAI בקוד פתוח

רד האט, הספקית המובילה בעולם של פתרונות קוד פתוח, הודיעה על רכישת Neural Magic – חלוצה בתחום התוכנה והאלגוריתמים המאיצים עומסי עבודה באמצעות GenAI. מומחיותה של Neural Magic בהנדסת ביצועים ומחויבותה לקוד פתוח עולות בקנה אחד עם החזון של רד האט בדבר עומסי עבודה מבוססי AI עתירי ביצועים, בכל מקום ברחבי הענן ההיברידי.

ההבטחה של הבינה המלאכותית היוצרת שולטת בחלק גדול מהנוף הטכנולוגי של ימינו, ומודלי השפה הגדולים (ה-LLMs), שעומדים בבסיס מערכות אלה, ממשיכים לגדול. כתוצאה מכך, בניית שירותי LLM חסכוניים, מאובטחים ואמינים דורשת כוח מחשוב משמעותי, משאבי אנרגיה ומיומנויות תפעוליות מיוחדות. אתגרים אלה מרחיקים מארגונים את היתרונות של ה-AI הפרטי, שמותאמת אישית, מוכנה לפריסה ומודעת יותר לאבטחה.

רד האט מתכוונת להתמודד עם אתגרים אלה על ידי הנגשת עולם ה-GenAI לארגונים רבים באמצעות החדשנות הפתוחה של vLLM – פרויקט קוד פתוח מונחה קהילה להנגשת מודלים כשירות. פרויקט vLLM מאפשר הנגשת שירותים מולטי-מודאליים (טקסט, עיבוד תמונה וכו׳) עם תמיכה בכל משפחות המודלים המרכזיים. ההובלה של Neural Magic בפרויקט vLLM, בשילוב פורטפוליו טכנולוגיות ה-AI בענן ההיברידי של רד האט, יספקו לארגונים בסיס מהימן לבניית אסטרטגיות AI שעונות על הצרכים הייחודיים שלהם, בכל מקום שבו הנתונים שלהם נמצאים – בעלות אופטימלית ובאופן מאובטח.

העתיד: GenAI שמוכן לענן ההיברידי

Neural Magic נוסדה ב-2018 במטרה לבצע אופטימיזציה למודלי למידה עמוקה. עם המומחיות של הנרכשת בהנדסת ביצועים, רד האט שואפת להאיץ את חזונה לעתיד ה-AI, שמופעל על ידי פורטפוליו טכנולוגיות הבינה המלאכותית שלה. במטרה לפרוץ את אתגרי ה-AI של הארגונים בקנה מידה רחב, רד האט משתמשת בחדשנות בקוד פתוח לקידום הדמוקרטיזציה של הגישה לכוח הטרנספורמטיבי של הבינה המלאכותית באמצעות מודלים בעלי רישיון קוד פתוח, שיכולים לרוץ בכל מקום שנדרש ברחבי הענן ההיברידי – במרכזי נתונים ארגוניים, על עננים מרובים ובקצה.

היכולת הזאת מגיעה בנוסף ליכולות כוונון (Fine Tuning), שמאפשרות לארגונים להתאים אישית ובקלות רבה יותר LLMs לנתונים פרטיים ומקרי השימוש שלהם, עם טביעת רגל אבטחתית חזקה יותר; מומחיות באופטימיזציה והנדסת ביצועים וכתוצאה מכך, יעילות תפעולית ותשתיתית גבוהות יותר; ואקו-סיסטם של שותפים מבוסס קוד פתוח ומבני תמיכה, שמאפשרים ללקוחות סט אפשרויות גדול יותר – החל מפלטפורמות וכלים, עבור ב-LLMs ועד לחומרת שרתים מאושרת מול ספקי החומרה.

המובילות של vLLM לשיפור Red Hat AI

Neural Magic משתמשת במומחיות ובידע שלה ב-vLLM כדי לאפשר ללקוחות לייעל, לפרוס ולהרחיב עומסי עבודה של מודלי שפה גדולים בסביבות ענן היברידי, עם שליטה מלאה על בחירת התשתית, מדיניות האבטחה ומחזור החיים של המודל. בנוסף, החברה מפתחת מחקר אופטימיזציה של מודלים, בונה מדחס LLM ומתחזקת מאגר של מודלים ממוטבים מראש, שמוכנים לפריסה עם vLLM.

Red Hat AI תסייע ללקוחות להפחית את עלויות הבינה המלאכותית שלהם ואת מחסומי המיומנות באמצעות טכנולוגיות עוצמתיות, כולל:

Red Hat Enterprise Linux AI (RHEL AI) – פלטפורמת כוונון ל-LLMs, שמאפשרת בדיקה והרצה בצורה חלקה של משפחת מודלי השפה הגדולים IBM Granite ומנגישה את עולם ה-GenAI בצורה פשוטה לכל משתמש קצה.

Red Hat OpenShift AI – פלטפורמת AI שמספקת כלים לפיתוח, אימון, שירות וניטור מהירים של מודלים של למידת מכונה בסביבות קוברנטיס מבוזרות באתרים מקומיים, בענן הציבורי או בקצה.

ההובלה הטכנולוגית של Neural Magic בתחום ה-vLLM תשפר את יכולתה של Red Hat AI לתמוך בפריסות LLM בכל מקום ברחבי הענן ההיברידי עם יכולות אופטימיזציה, חיסכון בעלויות ואבטחה.

מאט היקס, נשיא ומנכ"ל רד האט, אמר כי "עומסי העבודה של הבינה המלאכותית צריכים לרוץ בכל מקום שבו נתוני הלקוחות נמצאים ברחבי הענן ההיברידי. זה הופך פלטפורמות וכלים גמישים, מתוקננים ופתוחים להכרח, מאחר שהם מאפשרים לארגונים לבחור את הסביבות, המשאבים והארכיטקטורות המתאימים ביותר לצרכי התפעול והנתונים הייחודיים שלהם. אנחנו נרגשים להשלים את פורטפוליו ה-AI ממוקד הענן ההיברידי שלנו עם החדשנות פורצת הדרך של Neural Magic בעולם הבינה המלאכותית, ולקדם את היוזמה שלנו להיות לא רק רד האט של הקוד הפתוח, אלא גם רד האט של ה-AI".

בריאן סטיבנס, מנכ"ל Neural Magic, ציין כי "הקוד הפתוח הוכיח שוב ושוב שהוא מניע חדשנות באמצעות הכוח של שיתוף פעולה קהילתי. ב-Neural Magic קיבצנו כמה מהכישרונות המובילים בתעשייה בהנדסת ביצועי AI עם משימה ייחודית של בניית יכולות שירות LLM פתוחות, חוצות פלטפורמות ויעילות במיוחד. ההצטרפות לרד האט היא לא רק התאמה תרבותית, אלא גם תועיל לחברות גדולות וקטנות במסעות טרנספורמציית ה-AI שלהן".

לדברי דריו גיל, סגן נשיא בכיר ומנהל המחקר ביבמ, "הלקוחות שלנו מחפשים להרחיב את הבינה המלאכותית בסביבות ההיברידיות שלהם, ו-LLMs וירטואליים ומוטי ענן, הבנויים על יסודות פתוחים, יהפכו לסטנדרט בתעשייה. ההובלה של רד האט בקוד פתוח, בשילוב הבחירה במודלים יעילים בקוד פתוח כמו IBM Granite וההיצע של Neural Magic להרחבת ה-AI, על פני פלטפורמות, מעצימים עסקים עם השליטה והגמישות שהם צריכים כדי לפרוס בינה מלאכותית ברחבי הארגון".