רד האט מספקת חדשנות GenAI נגישה בקוד פתוח

רד האט, הספקית המובילה בעולם של פתרונות קוד פתוח, השיקה את Red Hat Enterprise Linux AI (ר"ת RHEL AI) – פלטפורמת מודל בסיס המאפשרת למשתמשים לפתח, לבדוק ולפרוס מודלים של GenAI בצורה חלקה יותר.

RHEL AI מאחדת בין משפחת מודלי השפה הגדולים (LLM) בעלת רישיון הקוד הפתוח Granite מבית IBM Research, כלי יישור מודל המבוססים על מתודולוגיית LAB (יישור בקנה מידה גדול עבור צ'אטבוטים) וגישה מונחית–קהילה לפיתוח מודלים באמצעות פרויקט InstructLab. הפתרון כולו ארוז כתמונת RHEL ממוטבת וניתנת לאתחול עבור פריסות שרתים בודדים ברחבי הענן ההיברידי, ונכלל גם כחלק מ-OpenShift AI, פלטפורמת ה-MLOps ההיברידית של רד האט להפעלת מודלים בקנה מידה גדול בסביבות של אשכולות מבוזרים.

השקת ChatGPT עוררה עניין רב ב-GenAI וקצב החדשנות רק הואץ מאז. ארגונים החלו לעבור מהיערכות מוקדמות של שירותי GenAI לבניית יישומים מבוססי AI. אקו-סיסטם צומח במהירות עם שלל אפשרויות דירבן חדשנות נוספת בתחום ה-AI והמחיש כי לא יהיה "מודל אחד שישלוט בכולם". הלקוחות ייהנו ממגוון אפשרויות כדי להתמודד עם דרישות ספציפיות, אשר כולן עומדות להיות מואצות עוד יותר על ידי גישה פתוחה לחדשנות.

הטמעת אסטרטגיית AI דורשת יותר מאשר רק בחירת מודל; ארגוני טכנולוגיה זקוקים למומחיות כדי לכוון מודל נתון למקרה השימוש הספציפי שלהם, כמו גם להתמודד עם העלויות המשמעותיות של הטמעת AI. המחסור במיומנויות בתחום מדע הנתונים מתווסף לדרישות פיננסיות משמעותיות הכוללות רכישת תשתית AI או צריכת שירותי AI; התהליך המורכב של כוונון מודלים של AI לצרכים עסקיים ספציפיים; שילוב AI ביישומים ארגוניים; וניהול מחזור החיים של היישום והמודל.

כדי להנמיך את חסמי הכניסה לחדשנות AI, ארגונים צריכים להיות מסוגלים להרחיב את רשימת העובדים שיכולים לעבוד על יוזמות AI, ובו-זמנית, לשלוט בעלויות הכרוכות בכך. עם כלי היישור של InstructLab, מודלי Granite ו-RHEL AI, רד האט שואפת ליישם את היתרונות של פרויקטי קוד פתוח אמיתיים – הנגישים חינם, ניתנים לשימוש חוזר, שקופים ופתוחים לשיתופי פעולה – ל-GenAI מתוך מאמץ להסיר מכשולים אלה.

בניית AI בצורה פתוחה עם InstructLab

IBM Research יצרה את טכניקת Large-scale Alignment for chatBots (ר"ת LAB), גישה ליישור מודלים המשתמשת ביצירת נתונים סינתטיים מונחי טקסונומיה ובמסגרת כוונון רב-שלבית חדשנית. גישה זו הופכת את פיתוח מודל ה-AI לפתוח ונגיש יותר לכל המשתמשים, על ידי הפחתת ההסתמכות על הסברים אנושיים יקרים ומודלים קנייניים. באמצעות שיטת LAB, ניתן לשפר מודלים על ידי ציון מיומנויות וידע הקשורים לטקסונומיה, הפקת נתונים סינתטיים ממידע זה בקנה מידה גדול כדי להשפיע על המודל, ושימוש בנתונים שנוצרו לאימון מודלים.

לאחר שראו כי שיטת LAB יכולה לסייע לשפר משמעותית את ביצועי המודל, יבמ ורד האט החליטו להשיק את InstructLab – קהילת קוד פתוח הבנויה סביב שיטת LAB ומודלי Granite בקוד פתוח של יבמ. פרויקט InstructLab נועד לשים את פיתוח ה-LLM בידי המפתחים באמצעות ביצוע, בנייה ותרומה ל-LLM, בדומה לתרומה לכל פרויקט קוד פתוח אחר.

כחלק מהשקת InstructLab, יבמ שחררה גם משפחה של מודלי קוד ושפה נבחרים באנגלית של Granite באופן פתוח. המודלים משוחררים תחת רישיון אפאצ'י, עם שקיפות לגבי מערכי הנתונים המשמשים לאימון מודלים אלה. מודל השפה Granite 7B באנגלית שולב בקהילת InstructLab, שבה משתמשי קצה יכולים לתרום את הכישורים והידע כדי לשפר את המודל באופן קולקטיבי, בדיוק כפי שהיו עושים כתרומה לכל פרויקט קוד פתוח אחר. תמיכה דומה במודלי הקוד של Granite בתוך InstructLab תהיה זמינה בקרוב.

AI מבוסס קוד פתוח על גבי יסודות מהימנים של Linux

RHEL AI מתבססת על גישה פתוחה לחדשנות AI ומשלבת גרסה מוכנה לארגונים של פרויקט InstructLab ומודלי השפה והקוד של Granite, יחד עם פלטפורמת ה-Linux הארגונית המובילה בעולם, כדי לפשט את הפריסה בסביבת תשתית היברידית, דבר המאפשר לייבא מודלים של GenAI ברישיון קוד פתוח לארגון.

RHEL AI כוללת מודלי שפה וקוד של Granite ברישיון קוד פתוח, הנתמכים ומופצים על ידי רד האט; הפצה נתמכת בעלת מחזור חיים של InstructLab, המספקת פתרון חסכוני, בעלת יכולת גדילה לשיפור יכולות LLM והנגשת תרומות ידע ומיומנויות למגוון רחב יותר של משתמשים; ועוד.

כאשר ארגונים מתנסים ומכווננים מודלים חדשים של AI על RHEL AI, יש להם נתיב מהיר להרחבת היכולות הללו עם Red Hat OpenShift AI, שתכלול את RHEL AI – שם יוכלו למנף את מנוע הקוברנטיס של OpenShift כדי לאמן ולשרת מודלי AI בקנה מידה גדול ואת יכולות ה-MLOps המשולבות של OpenShift AI לניהול מחזור החיים של המודל.

אשאש בדאני, סגן נשיא בכיר ומנהל מוצר ראשי ברד האט, אמר כי, "ה-GenAI מהווה קפיצת מדרגה מהפכנית עבור ארגונים, אך רק אם הארגונים הטכנולוגיים יוכלו לפרוס בפועל מודלים של AI ולהשתמש בהם באופן שתואם את הצרכים העסקיים הספציפיים שלהם. RHEL AI ופרויקט InstructLab, יחד עם Red Hat OpenShift AI בקנה מידה גדול, תוכננו כדי להסיר רבים מהחסמים העומדים בפני GenAI ברחבי הענן ההיברידי, החל ממיומנויות מוגבלות במדע הנתונים ועד למשאבים העצומים הנדרשים, תוך הנעת חדשנות הן בפריסות ארגוניות והן בקהילות הקוד הפתוח".

זמינות

Red Hat Enterprise Linux AI זמינה כעת כתצוגה מקדימה למפתחים. בהתבסס על תשתית ה-GPU הזמינה ב-IBM Cloud, המשמשת לאימון מודלי ה-Granite ולתמיכה ב-InstructLab, IBM Cloud תוסיף כעת תמיכה ב-RHEL AI וב-OpenShift AI. שילוב זה יאפשר לארגונים לפרוס GenAI בקלות רבה יותר אל היישומים העסקיים הקריטיים שלהם.