האם סין משתמשת בבינה מלאכותית של מטא למטרות צבאיות?

פרסום בלעדי של סוכנות הידיעות רויטרס מסוף השבוע חשף כי חוקרים סינים השתמשו במודל השפה הגדול Llama של מטא (Meta Platforms) לשם פיתוח צ'טבוט משלהם, המותאם לשימוש צבאי. הפרסום מתבסס על ניתוח של מאמרים אקדמיים מסין וראיונות עם אנליסטים.

על פי הדיווח, שישה חוקרים סינים משלושה מוסדות שונים, שניים מהם קשורים לאקדמיה למדעי הצבא של צבא השחרור העממי, פרסמו בחודש יוני מאמר העוסק ב-GenAI. במאמרם זה מתואר צ'טבוט בשם ChatBIT, שלי החוקרים "מותאם למשימות דיאלוג ותשובות לשאלות בתחום הצבאי".

Top Chinese research institutions, including those linked to the People’s Liberation Army (PLA), have reportedly adapted Meta's open-source Llama model to develop an AI tool with possible military applications.

The chatbot, called ChatBIT, is designed to gather and process… pic.twitter.com/AptIAFjIYY

— AIM (@Analyticsindiam) November 2, 2024

מודל שפה ישן בקוד פתוח שמגבה צ'טבוט לשימושים בסיסיים

מטא השיקה את משפחת מודלי השפה LLAMA שלה כבר בפברואר 2022. המודל בו השתמשו לכאורה החוקרים הסינים, Llama 13B, היה חלק מההשקה הראשונית הזו. מאז הוציאה מטא מספר גרסאות חדשות, ביניהן Llama 2 ביולי 2022, שהיה מודל בעל יכולות משופרות לעיבוד מידע. הגרסה החזקה ביותר עד כה, Llama 3.1 405B, שוחררה ביולי 2024, וכיום הענקית ממנלו פארק כבר עובדת על Llama 4, שצפויה לצאת בתחילת 2025.

הצ'טבוט ChatBIT, שעליו דווח כעת, פותח באמצעות מודל Llama 13B המוקדם של מטא, אשר אומן על נתונים צבאיים. מטרתו של הסייע החכם היא איסוף ועיבוד מודיעין וסיוע בקבלת החלטות מבצעיות צבאיות. לטענת החוקרים, ChatBIT הציג ביצועים טובים יותר מ-90% מדגמי בינה מלאכותית אחרים, המקבילים בעוצמתם ל-ChatGPT-4 של OpenAI.

Exclusive: Meta just released Llama 3.1 405B — the first-ever open-sourced frontier AI model, beating top closed models like GPT-4o across several benchmarks.

I sat down with Mark Zuckerberg, diving into why this marks a major moment in AI history.

Timestamps:

00:00 Intro… pic.twitter.com/wI0X86P0dM

— Rowan Cheung (@rowancheung) July 23, 2024

יצוין כי מטא מצידה אוסרת על שימוש בדגמי הבינה המלאכותית שלה עבור "פעילויות צבאיות, לוחמה, תעשייה גרעינית או יישומי ריגול" וכן לצורך פעילויות אחרות הכפופות לפיקוח על יצוא אמריקני, כמו גם לפיתוח נשק ותוכן שנועד "להסית ולקדם אלימות".

בתגובה לטענות רויטרס, מסרה מטא לסוכנות כי "כל שימוש בדגמים (LLMs) שלנו על ידי צבא השחרור העממי אינו מורשה, וסותר את מדיניות השימוש המקובלת עלינו. בתחרות העולמית על הבינה המלאכותית, התפקיד לכאורה של גרסה יחידה ומיושנת של מודל קוד פתוח אמריקני אינו רלוונטי כשאנו יודעים שסין כבר משקיעה יותר מטריליון דולר כדי לעקוף את ארה"ב בתחום הבינה המלאכותית".

קייל מילר, אנליסט מחקר במרכז ג'ורג'טאון לביטחון וטכנולוגיה מתפתחת (CSET), ציין כי אין אינדיקציה לכך "שהמודל יהיה שימושי במיוחד עבור צבא, במיוחד בהשוואה לדגמים סיניים חדשים יותר שטובים מ-Llama-13B". הוא הוסיף: "החוקרים הסינים יצרו בוט שאלות ותשובות פשוט, שיכול לענות על שאלות בסיסיות בנושאי צבא. שום דבר במאמר אינו מרמז שהמודל יהיה שימושי במיוחד ליישומים צבאיים".

מעניין לציין שמנכ"ל מטא, מארק צוקרברג – כפי שניתן לראות בציוץ למעלה – הוא בעקרון תומך נלהב של קוד פתוח בתחום הבינה המלאכותית, אך 'צוק' לא הגיב בינתיים על הטענות של רויטרס, או הפך את עמדתו זו לעת עתה.