קץ התודעה? סוכנות ביון מחפשת אלגוריתם שיחזה התנהגויות

סוכנות ביון אמריקנית מבקשת לנטר, לחזות ולשנות התנהגות אנושית של יריבים באמצעות איסוף נתונים וניתוחים מסיביים של עשרות שנים. "ברגע שיפותח אלגוריתם כזה, אי אפשר יהיה להחזיר את השד לבקבוק", כתב אנליסט לתחום ה-AI.

DARPA (ר"ת Defense Advanced Research Projects) – בעלת השם ה-"קליט" הסוכנות למחקר פרויקטי ביטחון מתקדמים במשרד ההגנה האמריקני – היא סוכנות שאחראית על פיתוחים טכנולוגיים רבים בצבא ארצות הברית ובצבאות מחוצה לה, כמו גם לשימושים אזרחיים, ויש שמכנים אותה "המשוגעת". עכשיו היא מחפשת כלים ויכולות פיתוח שיסייעו לה לחזות, לתמרץ ולהרתיע מפני ההתנהגויות העתידיות של מדינות יריבות לארצות הברית, על ידי פיתוח "תיאוריה של התודעה האלגוריתמית".

בהודעה מיוחדת של הסוכנות נכתב כי "מטרת התוכנית תהיה לפתח תיאוריה אלגוריתמית של התודעה, כדי למדל מודעות מצבית של יריבים ולחזות התנהגות עתידית שלהם". פרויקט המחקר כונה "תיאוריה של הנפש" ו-"תיאוריה של התודעה", ונועד "לפתח יכולות חדשות, שיאפשרו למקבלי החלטות בתחום הביטחון הלאומי לייעל אסטרטגיות להרתעה או לתמרוץ פעולות של יריבים".

DARPA

על פי DARPA, "התוכנית תבקש לשלב אלגוריתמים עם מומחיות אנושית, כדי לחקור, בסביבת מידול והדמיה, דרכי פעולה אפשריות למימוש בעת תרחישי ביטחון לאומי, ולעשות זאת בהיקף וביעילות גדולים בהרבה ממה שהדבר אפשרי כיום".

עוד נכתב כי "התוכנית תספק למקבלי ההחלטות יותר אפשרויות למתן תמריצים תוך מניעת הסלמה לא רצויה. התוכנית תבקש לא רק להבין את האסטרטגיה הנוכחית של שחקן האיום, אלא גם לנסות לפרק את האסטרטגיה של היריב לחלקים בסיסיים, כדי לעקוב אחר שינויי אסטרטגיה – ולעשות זאת תחת הנחות משתנות".

מחבר ההודעה הוא אריק דייוויס, שהצטרף ל-DARPA בפברואר האחרון. לפני כן דייוויס היה המדען הראשי של בינה מלאכותית, למידת מכונה וצוותי אדם-מכונה בגאלויס, חברת מו"פ טכנולוגי, שהסוכנות נמנית על לקוחותיה, כמו גם קהילת המודיעין האמריקנית בכלל ונאס"א. קרן ביל ומלינדה גייטס שותפה בחברה.

בהודעה המיוחדת לא צוינה זהות היריבים.

שידור חוזר מתחילת המילניום?

מומחים לתחום ציינו שההודעה המיוחדת של DARPA הייתה קצרה במיוחד. הם הזכירו שהסוכנות ניסתה להרים פרויקט שכזה כבר בתחילת המילניום. כבר אז, DARPA ביקשה לנטר, לחזות ולשנות התנהגות אנושית על ידי איסוף וניתוח מידע רב ככל האפשר על אנשים. התוכנית קמה ב-2002, בעקבות פיגועי ה-11 בספטמבר 2001, וכונתה Total Information Awareness, או TIA.

התוכנית ההיא נועדה לחולל מהפכה ביכולתה של ארצות הברית לזהות, לסווג ולזהות טרוריסטים זרים – ולפענח את תוכניותיהם, ובכך לאפשר לה "לפעול בזמן כדי לסכל ולהביס בהצלחה פעולות טרור". היא זכתה לביקורת על כך שהיא יוצרת "מנגנון מעקב צבאי רואה כל", שמנסה לאתר פושעים לפני שהם פשעו, במסגרת המאבק בטרור. ב-2003, האיגוד האמריקני לחירויות אזרחיות (ACLU) תיאר את התוכנית כ-"דבר הקרוב ביותר לאח הגדול שאי פעם נשקל ברצינות בארצות הברית".

ל-DARPA הייתה תוכנית נוספת ליצירת בסיס נתונים עצום של התנהגות אנושית. היא הוכרזה ב-2003 ובוטלה בפברואר 2004 – ביום שבו הושקה פייסבוק. מומחים ציינו ששלוש התוכניות זהות ברעיון הבסיסי שלהן וכתבו: "דור חדש זה של מחשבים קוגניטיביים יבין את המשתמשים שלהם, ילכוד וינתח את החוויות, ההעדפות והמטרות שלהם – וכך יעזור להם לנהל את ענייניהם בצורה יעילה יותר. לטוב ולרע, התוכנית החדשה של DARPA נראית כמו הגלגול האחרון של מרדף בן עשרות שנים, (בניסיון – י"ה) לדעת הכול על אדם או קבוצה, כדי לחזות ולשנות התנהגות אנושית".

שוללי התוכנית העלו שתי שאלות בולטות: "האם אלגוריתם תורת התודעה יוכל אי פעם לשמש את רשויות אכיפת החוק? ומה בדבר גופים מסחריים כגון מטא, גוגל או אמזון, שעושים את אותו הדבר למען מטרות עסקיות?"

סוכנות שהולכת נגד הזרם

DARPA ידועה בדעות העצמאיות והלא קונפורמיות של אנשיה, ובכך שהעובדים שלה אוהבים לעשות דברים "מחוץ לקופסה". כך, למשל, במסגרת אחד הפרויקטים החשובים שלה – פרויקט ולה, שהחל ב-1963 – ציידו אנשי הסוכנות לוויינים באמצעי גילוי קרינה אטומית, במטרה לעלות על ניסויים בנשק גרעיני, כולל ניסויים תת ימיים.

פרויקטים נוספים שפותחו תחתיה היו מימון מחקר שבמסגרתו נוצר עכבר המחשב הראשון, מחקרי בינה מלאכותית ומציאות מדומה, רובוטיקה, שותפות בפיתוח ה-GPS לדורותיו ופיתוח תאי דלק קלים לשימוש במכשירים שנישאים על גב חיילים. עוד פרויקט היה פיתוח כלי רכב לא מאויש לשדה הקרב.

התקציב של DARPA גדול, אבל ההיתכנות של הפרויקטים שלה נמוכה ביותר ונאמדת בפחות מ-10%. ממילא, רוב התוכניות שמבצעת הסוכנות חסויות ומכוונות לצאת נגד המגמות העיקריות המדוברות בשדות הטכנולוגיה.