אנבידיה הכריזה על ערכת כלי GenAI למחשבים אישיים

אנבידיה הכריזה על ערכת כלים חדשה שמיועדת לתמוך בבינה מלאכותית יוצרת תוכן ברמת המחשב האישי. החברה שחררה את הערכה, TensorRT-LLM, עבור Windows באמצעות החשבון שלה בגיטהאב.

ערכת הכלים החדשה מאפשרת ליותר מ-100 מיליון מחשבי Windows שבהם מותקנים כרטיסים גרפיים של החברה, עם מעבדי Nvidia RTX ו-GeForce RTX, להאיץ את הביצועים – בעיקר בתרחישים של הסקה על ידי שימוש במודלים של שפה גדולה, כמו Llama 2 ו-Code Llama. לפי אנבידיה, ערכת הכלים החדשה אמורה להאיץ עד פי ארבעה את החישובים הללו.

כדי לסייע עוד יותר מציעה החברה מודלים תרחישיים שממטבים מודלים מותאמים עם TensorRT-LLM, מודלים של TensorRT עם מיטוב של קוד פתוח ופרויקט התייחסות למפתחים, שמציג את המהירות ואת האיכות של תגובות המערכת, המבוססת על מודל שפה גדול.

במקביל הודיעה אנבידיה שהאצה המבוססת על כלי TensorRT כבר זמינה לשימוש עם המודל הפופולרי להפקת תמונות מטקסטים Stable Diffusion. מודל הדיפוזיה פועל כעת עד פי שניים יותר מהר בהשוואה לדור הקודם.

כן היא הודיעה על השחרור של גרסה 1.5 של RTX VSR – תהליך עיבוד פיקסלים, שמאפשר לשפר במידה רבה את האיכות של תכני וידיאו מוזרמים. הגרסה החדשה משפרת את איכות התצוגה ומוסיפה תמיכה בארכיטקטורת ה-Turin הוותיקה של החברה – מכרטיסי RTX מקצועיים ועד לכרטיסי GeForce RTX צרכניים מהדור השני.