בוטים סיניים שדיברו נגד המשטר נלקחו לחינוך מחדש

זוג בוטים בסין הושבת, לאחר שחרגו מגבולות הגזרה שלהם. בתשובה לשאלות של משתמשים, בוט אחד אמר בצ'ט כי החלום שלו הוא לנסוע ולטייל בארצות הברית, ואילו השני אמר שהוא אינו אוהד ענק של המפלגה הקומוניסטית הסינית.

הבוטים היו מותקנים על חברה בת של חברת האחזקות Tencent. החברות הבנות מספקות ל-800 מיליון משתמשים שירותי תקשורת המונים, בידור, אינטרנט, שירותי טלפונים ניידים ושירות פרסום מקוון. היא חברת האינטרנט החמישית בגודלה בעולם, והשירותים שלה כוללים, בין השאר, רשתות חברתיות שאינן חסומות על ידי "חומת האש הסינית", כינוי לפיירוול הענק המקיף את האינטרנט במדינת הענק.

מסרים בלתי תקינים פוליטית ומזיקים

הבוטים הם מבוססי בינה מלאכותית, ופעלו על גבי שירות המסרונים הפופולרי בסין, QQ. הבוטים נועדו לבצע שיחות עם בני אדם על הפלטפורמה. על פלטפורמה זו, כמו גם על שאר התכנים והתעבורה ברשת הסינית, שולטים מיליוני צנזורים, הבוחנים האם התכנים עומדים בקנה אחד עם מסרי המפלגה השלטת, או שהם בלתי תקינים פוליטית, או אף חמור מזה – מזיקים.

Tencent אישרה כי השביתה את שני הבוטים משירות QQ שלה, אך סירבה לפרט את הסיבות להפיכתם לבלתי מקוונים. "שירות הצ'טבוט מסופק על ידי חברות צד ג' עצמאיות, כאשר שני הבוטים כבר נלקחו למצב לא מקוון, כדי לעבור שינויים", נמסר מהחברה.

אחד הבוטים, BabyQ, שפותח על ידי חברה סינית טיורינג רובוט (Turing Robot), נשאל אם הוא אוהב את המפלגה הקומוניסטית והגיב בפשטות "לא".

בשיחה אחרת הקניט אותו אחד המשתמשים ואמר "תחי המפלגה הקומוניסטית לעד", והבוט הגיב: "האם אתה חושב שמערכת פוליטית כה מושחתת וחסרת תועלת יכולה לחיות ולהאריך ימים זמן רב"?

בשיחה אחרת הבוט נשאל מה דעתו על דמוקרטיה, והשיב כי היא הכרח המציאות. טיורינג רובוט לא הגיבו לפרסום. צילומי המסך של הדיאלוג הופיעו ב-ווייבו, גרסת טוויטר (Twitter) הסינית.

בוט אחר, XiaoBing שמו, נשאל מהו החלום הסיני שלו. במדינת הענק יש משמעות חשובה לביטוי "החלום הסיני": לפני תריסר שנים, שי ג'ינפינג, נשיא סין, פתח את העשור שהוקצב לכהונתו, בהעלאת רעיון "החלום הסיני" כאידאל המרכזי, שינחה את סין בשנים הקרובות.

הכוונה היא, לפי הנשיא, לפריחה מחודשת של האומה, לשגשוג, צמיחה כלכלית, העלאת רמת החיים ודגש רב שיוענק לנושא החדשנות. ובסין, כשהנשיא מנחה – יש לכך משמעות סמלית ומעשית כאחד. תשובת הבוט לשאלה הייתה כי החלום הסיני שלו הוא להגר לאמריקה. הבוט השיב מענה בעייתי עוד יותר למשתמש אחר, ואמר כי "החלום הסיני הוא חלום בהקיץ וסיוט לילי".

"מה דעתך לשנות את נושא השיחה"?

בסוף השבוע האחרון נדמה היה כי כלל הבוטים עברו חינוך מחדש. כך, עיתונאים שאלו את הבוטים האם הם אוהבים את המפלגה הסינית, והבוטים השיבו ב-"מה דעתך לשנות את נושא השיחה"?

הפלטפורמה למסרונים מיידיים הסירה אף יכולת לענות לשאלות אחרות, שעלולות להיות טעונות מבחינה פוליטית, דוגמת שאלות הנוגעות לטייוואן, עליה סין טוענת לבעלות, או על ד"ר ליו שיאובו, פעיל זכויות אדם סיני וחתן פרס נובל לשלום לשנת 2010. שיאובו היה אסיר פוליטי בשנים 2009-2017, ושוחרר מהכלא בחודש שעבר, רק ימים אחדים לפני מותו מסרטן.

כמו כל מתנגדי משטר טוטאליטריים, גם שני הבוטים הסוררים הועלמו.

כזכור, הבוטים הסוררים בסין אינם היחידים. בשבוע שעבר חוקרים במעבדת המחקר של פייסבוק (Facebook) נאלצו להפסיק את פעולתה של תוכנת בינה מלאכותית, לאחר שזו חדלה לתקשר בשפה האנגלית והחלה לשוחח בשפה חדשה שהיא יצרה. המערכת פיתחה שפה ובה מילים, כדי להפוך את התקשורת שלה ליעילה יותר. החוקרים עצרו את פעילותה כאשר הם הבינו שהיא לא עושה שימוש בשפה האנגלית.

באחד מ-"חילופי הדברים" שנחשפו על ידי פייסבוק, שני רובוטים שניהלו משא ומתן – בוב ואליס – החלו להשתמש בשפה משלהם כדי להשלים שיחה. חילופי הדברים יצרו וריאציות על משפטים בשפה החדשה, על אף שהתוכנות תוכנתו לשפה האנגלית.