OpenAI השיקה את GPT-4o Mini: מודל שפה גדולה חדש וזול יותר

OpenAI – שהביאה לעולם את בוט ה-GenAI המפורסם והחלוצי בתחום, ChatGPT – חשפה רשמית ביום ה' האחרון את ה-GPT-4o Mini. מדובר על דגם חדש של ה-LLM שלה, אשר, לטענתה, מייצג קפיצת מדרגה משמעותית בטכנולוגיית עיבוד השפה הטבעית. הדגם החדש מבטיח ביצועים ויעילות משופרים בהשוואה לקודמיו, ומציע למשתמשים חוויה יעילה ועוצמתית יותר, במחיר מוזל.

לפי OpenAI וחלק מהדיווחים במדיה העולמית, המודל שחשפה החברה הוא "משנה משחק" של ממש בתחום ה-LLMs, ולא סתם עוד עדכון; החברה הסבירה כי מדובר במהפכה בתחום, גם בגלל המחיר הנוח יותר, והנגישות המוגברת שהמודל מספק לפיכך ל-AI יוצרת מהדור המתקדם ביותר. ובנוסף, שמדובר בגרסה מצומצמת של ה"אח הגדול", מודל השפה הגדול האחרון של החברה GPT-4o, אשר מספקת ביצועים מעולים בשבריר מהעלות של אחיו הבוגר.

We’re continuing to make advanced AI accessible to all with the launch of GPT-4o mini, now available in the API and rolling out in ChatGPT today. https://t.co/sTxtOfUapJ

— OpenAI (@OpenAI) July 18, 2024

אז מה עושה את GPT-4o mini ל"משנה משחק"?

בהודעה הרשמית על המודל החדש שהיא משחררת, ש-OpenAI פרסמה באתרה ביום ה', נכתב בין השאר כי: "GPT-4o mini מאפשר מגוון רחב של משימות בעלוּת ובהשהיה נמוכות, כגון יישומים המשרשרים או מקבילים שיחות מודל מרובות (למשל, מתקשרים לממשקי API מרובים), מעבירים כמות גדולה של הקשר למודל (למשל, בסיס קוד מלא או היסטוריית שיחות), או מתקשרים עם לקוחות באמצעות תגובות טקסט מהירות בזמן אמת (למשל, צ'אטבוטים לתמיכה בלקוחות). 

"כיום, GPT-4o mini תומך בטקסט ובוויז'ואל ב-API, ותמיכה בווידיאו ואודיו תגיעו בעתיד", המשיכה והסבירה החברה, שגם טענה כי "הודות לטוקנייזר המשופר המשותף עם GPT-4o, הטיפול (של הדגם החדש – ג"פ) בטקסט שאינו אנגלי יעיל כעת אפילו יותר".

השוואת מדדי הביצוע של GPT-4o-mini לשאר המודלים הקיימים. צילום: OpenAI

GPT-4o mini, כך לפי ההסברים, עוקף בביצועיו את קודמו של -GPT-4o, המודל שכונה GPT-3.5 Turbo, ועשה זאת במספר מדדים. לא משנה אם הלקוחות מעוניינים במודל להתמודדות עם משימות חשיבה מורכבות, לפתרון בעיות קידוד, או לשם פענוח תגרים מתמטיים, בחברה טוענים ש-GPT-4o mini מספק תוצאות יוצאות דופן, בזכות אינטליגנציה משופרת. בנוסף נכתב כי המודל החדש GPT-4o Mini עבר אופטימיזציה להתמודדות עם משימות לשוניות מורכבות בדיוק גבוה הרבה יותר. עם זאת, מבחינת התמחור, עלותו זולה ב-60% מדמי השימוש ב-GPT-3.5 Turbo, והמחיר המופחת משמעותית הזה יכול להביא יותר מפתחים להשתמש בבינה המלאכותית המתקדמת ביותר, כך מקווים ב-OpenAI.

העלות הספציפית לא צוינה, משום שהיא בעצם תלויה בהיקפי השימוש, אבל מודל השפה המיני החדש יעלה, כאמור, למפתחים הרבה פחות מעלותו של GPT-3.5 Turbo – כ-60 סנט למיליון אסימוני פלט ו-15 סנט למיליון אסימוני קלט. GPT-4o mini גם זול בסדר גודל מ-GPT-4o, שתמחורו מתחיל ב-5 דולר למיליון אסימונים. כל 'אסימון' הוא בערך מילה אנגלית אחת – אבל המונח המסוים מתייחס ליחידת הנתונים הקטנה ביותר המובנת על ידי מודלים של שפות, ויכול להשתנות בהתאם לשפה.

נוסף לשדרוגים ביכולותיו והמחיר המוזל, במודל החדש יש הקפדה רבה על נושא הבטיחות. OpenAI הסבירה כי היא נותנת עדיפות לבטיחות תמיד, ושב-GPT-4o mini לא שינתה זאת. לדבריה, אמצעי הגנה המובנים במודל מונעים שימוש לרעה בו ומבטיחים שהדגם יצור תגובות אמינות, נושא חיוני במיוחד עבור מפתחים שרוצים לשלב AI באפליקציות שלהם בלי חשש.

יצוין כי למרות שזה אולי נשמע כך, GPT-4o mini לא מכוון רק למפתחים, ואמור לפתות גם משתמשים "פשוטים" לשקול לעבור אליו מהמודל החינמי של ChatGPT, ולהשתגרד בהתאם, ולכן המחיר המוזל אמור לקרוץ גם להם.