מיקרוסופט רוצה לתקן טעויות עובדתיות שעושים צ'טבוטים

מיקרוסופט חשפה כלי חדש בשם Correction, כחלק מ-Azure AI Content Safety API, שנמצא כיום בבדיקות. המטרה שלו היא לתקן באופן אוטומטי טעויות עובדתיות שמשתלבות בתשובות טקסטואליות שמקבלים משתמשי צ'טבוטים.

בלשון אחרת, כלי תיקון התשובות הזה יפעל כדי לתקן את מה שמכונה "הזיות" – תשובות שלא קשורות למציאות, שמקבלים לעתים בעת שימוש בכלי בינה מלאכותית כמו Llama של מטא או GPT-4o של OpenAI.

"Correction מופעל על ידי תהליך חדש של שימוש במודלים שפה קטנות וגדולים, במטרה 'ליישר' את התוצאות של השאילתות עם מסמכים בדוקים. אנחנו מקווים שתכונה חדשה זו תספק תמיכה ליוצרים ומשתמשים בבינה מלאכותית יוצרת בתחומים כמו רפואה, שבהם מפתחי אפליקציות קובעים שהדיוק של התגובות הוא בעל חשיבות משמעותית", נמסר ממיקרוסופט.

אנליסט: "גם ספריית זיהוי ה-'הזיות' של Correction מסוגלת להזות"

יש לציין שהכלי החדש, גם אם הוא יצליח לזהות כל הזמן טעויות בתשובות שמקבלים בשאילתות, וכאמור, כנראה רק בהיבטים שנחשבים קריטיים, לא מתקן את המהות ואת שורשי הבעיה של השימוש בכלי בינה מלאכותית כדי לקבל תשובות. מהסיבה הזו, אנליסטים כבר טוענים שהשימוש בכלי תיקון הוא לא פחות הזוי מה-"הזיות".

"לנסות לחסל 'הזיות' מבינה מלאכותית יוצרת זה כמו לנסות להוציא את כל המימן מהמים. זה מרכיב חיוני של איך הטכנולוגיה עובדת", אמר אחד מהם. הוא הזכיר שמודלי AI לא באמת יודעים לתת תשובות, אלא מדובר בכלים סטטיסטיים, שמזהים תבניות בסדרה של מילים וחוזים מה יהיו המילים הבאות – בהתאם למיליוני, אם לא יותר, דוגמאות שעל פיהן הם אומנו.

כלי התיקונים של מיקרוסופט משתמש במודלים מצליבים, ובודק במהירות את התשובות מול מסמכים ואמצעים אחרים הידועים כתקינים, במטרה לזהות ולסמן את הטעויות, ולהציג את התיקון שלהן. המטרה היא לשפר באופן משמעותי את האמינות של התכנים המופקים בידי הבינה המלאכותית.

"זה עשוי להפחית כמה בעיות", אמר אנליסט אחר, "אבל זה גם יצור בעיות חדשות. אחרי הכול, יש להניח שגם ספריית זיהוי ה-'הזיות' של Correction מסוגלת להזות".