להרעיב את רשת הנוירונים

כמו בכל משימה מחשובית, גם למידה עמוקה באמצעות רשתות נוירונים צורכות משאבים. הפתרון יהיה ככל הנראה לבנות תחנות קצה בעלות יכולת מוגבלת לניתוח הנתונים שאספו החיישנים ולהחליט האם מדובר במידע שצריך להעביר לתוכנית ה-Big Data בענן.

מדענים קנדים טוענים שפיתחו שיטה לגמילת מערכות הבינה המלאכותית מהקשר לאינטרנט ולענן, ולהטמיע את תוכנת הבינה מלאכותית שכינו Aly-Learning AI, במערכות בעלות יכולת עיבוד מוגבל כגון טלפונים חכמים או רובוטים תעשייתיים.

היום לדוגמה, הכוח של תוכנות המשתמשות בבינה מלאכותית, כגון Siri ודומיה, נמצא מחוץ למכשיר הטלפון – חכם ככל שיהיה. השיטה תאפשר להתקנים לפעול עצמאית תוך שימוש במערכת תבונה מלאכותית בעלת ביצועים קרובים לאלו של רשתות נוירונים הנמצאות במחשיבים גדולים.

בסופו של דבר הסוס מת

ואיך כל זה קשור להרשלה שאמר שהצליח להוזיל את עלויות הטיפול בסוס על ידי כך שהוא כל פעם נותן לו פחות אוכל עד שהפסיק לתת, רק שהבעיה היא שבסופו של דבר הסוס מת. אבל כאן מצאו שיטה להשאיר אותו בחיים ואפילו במצב לא רע.

בראיון לאנשים ומחשבים מסביר אלכסנדר וונג, פרופ' להנדסת מערכות ועיצוב באוניברסיטת ווטרלו (University of Waterloo) בקנדה, כי "למידה עמוקה, אשר מחקה את המוח האנושי על ידי עיבוד נתונים באמצעות שכבות על גבי שכבות של נוירונים מלאכותיים, דורשת בדרך כלל כוח חישובי משמעותי, זיכרון ואנרגיה לתפקד"

וונג שותף לפיתוח הטכנולוגיה ביחד עם עמיתו מוחמד ג'וואד שאפי, פרופ' למחקר בהנדסת מערכות בווטרלו, שגם היה זה שהגה את הרעיון. השניים, ביחד עם האוניברסיטה שבה הם עובדים, מיסחרו את מערכת ה-AI באמצעות חברה בשם DarwinAI.

"אנחנו החלטנו לקחת דוגמה מהאבולוציה שהצליחה לדחוס רשתות נוירונים לתוך קופסת המוח בצורה יעילה. אנחנו מכניסים את התוכנה לסביבה וירטואלית, מאפשרים לה ללמוד ולהסתגל לשינויים ובהדרגה שוללים ממנה כוח חישובי וזיכרון".

במחקר שהוצג לאחרונה בכנס הבינלאומי לראיית מחשב בוונציה, איטליה. החוקרים השיגו הפחתה של פי 200 בגודלה של תוכנת AI-Learning מעמיקה המשמשת למשימת זיהוי עצמים. באופן כזה אם השבב מומטע בטלפון חכם, אפשר להפעיל את צריכת הנתונים עבור זיהוי הדיבור על ידי העוזר הווירטואלי ולפעול היטב גם כאשר אין חיבור לאינטנרט".

באיזה קנה מידה של מזעור מדובר?
לדברי פרופ' וונג, "פריצת הדרך הטכנולוגית שפיתחנו – שניתן להגדירה כמערכת לבניית למידה עמוקה עבור מערכות AI – מסוגלת להפחית את גודל רשת הנוירונים בשני סדרי גודל. הדבר מאפשר יצירה אוטומטית של רשתות נוירונים עמוקות כל כך קומפקטיות ויעילות שניתן כבר עכשיו ליישם בלי צורך בגישה לענן, על מערכות אינטרנט של הדברים, מכשירים ניידים ויישומים אחרים בשבבים משובצים וניידים".

כיצד אתם מבטיחים שלא יאבדו חלקים של רשת הנוירונים בתהליך המיזעור?
"בנינו בתוך הטכנולוגיה איזונים ובלמים בהתאם לדרישות המשימה כדי להבטיח שיצירת רשתות הנוירונים תגיע לרמה הנדרשת של דיוק, תוך הפחתה משמעותית בגודל. כך המפתח של המערכת המתבססת על טכנולוגיה זו, יוכל למנוע אובדן מידע תוך דחיסה משמעותית, או לאפשר אובדן סביר של מידע -אך לגרום שהמערכת תהיה עוד יותר קומפקטית ויעילה".

ניקח לדוגמה את המכוניות החכמות והאוטונומיות, האם הטכנולוגיה שלכם תאפשר לה להיות עצמאית גם אם ניתק הקשר שלה לעולם החיצון?
"יש אינסוף יישומים ותסריטים שבהם יש לך משימות קריטיות המשפיעות על חיי אדם, ואשר חייבות להגיב בזמן אמת בלי להסתמך על קישור קבוע לענן ולאינטנרט. הדבר חשוב הן מהיבט של פרטיות (אינך רוצה להמשיך לשלוח כל הזן מידע פרטי לענן למטרות AI) או בגלל שהמכונית נמצאת באיזור ללא קליטה או שהקליטה בו ממוסכת".

"יישומים פוטנציאליים אחרים נעים בין שימוש במזל"טים זולים ורשתות חכמות, ועד מצלמות מעקב ומפעלי ייצור (האינטרנט התעשייתי של הדברים) שבהם יש רגישות בכל הקשור להזרמת נתונים רגישים או קנייניים לענן".

כיצד יוכלו יצרני שבבים להטמיע את האלגוריתם בתוך שבב?
"יצרני השבבים יכולים כעת לבצע אופטימיזציה לרשתות נוירונים הנוצרות באמצעות הטכנולוגיה שלנו ישירות לתוך שבבים המיועדים למערכות אינטרנט של הדברים זולות שיתפקדו בזמן אמת  ובצריכת אנרגיה נמוכה".

"הרשתות הללו מתפתחות מעצמן במשך דורות, והן הופכות את עצמן לקטנות יותר כדי שיוכלו לשרוד בסביבות אלו", אמר לסיכום ג'וואד שאפי.