"בינה מלאכותית עלולה לסייע לבניית נשק כימי וביולוגי"

"בינה מלאכותית עלולה לסייע וגם להקל על בניית נשק כימי וביולוגי", כך הזהיר רישי סונאק, ראש הממשלה הבריטי. בתרחיש הגרוע ביותר, החברה עלולה לאבד כל שליטה על AI ולמנוע את היכולת להשבית אותה. ואולם בעוד שפוטנציאל הנזק נתון לוויכוח ושנוי במחלוקת, אסור לנו לטמון את הראש בחול ויש לדון בסיכוני בינה מלאכותית".

סונאק אמר את הדברים במטרה למצב את בריטניה כמובילה עולמית בתחום הבינה המלאכותית. זאת, בעקבות דו"ח שקיבל בנושא. הדו"ח בחן את התועלות והסיכונים הפוטנציאליים הנשקפים מ-AI – לרבות מתקפות סייבר, הונאות והתעללות מינית מקוונת (או משולבת בעולם הפיזי) בילדים.

ראש הממשלה אמר, כי "הטכנולוגיה כבר יוצרת מקומות עבודה. פיתוח הטכנולוגיה יזרז צמיחה כלכלית ופריון".

"בינה מלאכותית עלולה לשמש קבוצות טרור כדי להפיץ פחד ולהביא לשיבושים בקנה מידה גדול עוד יותר", ציין. לדבריו, "צמצום הסיכון של הכחדת האנושות על ידי בינה מלאכותית צריך להיות ברמה של עדיפות עולמית", אך סייג את דבריו והוסיף, כי "זה לא סיכון שאנשים צריכים ששנתם תנדוד בלילות בגללו עכשיו, ואני לא רוצה להיות מבהיל". לכן, ציין סונאק, "בריטניה לא תמהר לאסדר את תחום ה-AI, כיוון שקשה לאסדר משהו שאתה לא לגמרי מבין. הגישה של בריטניה צריכה להיות מידתית – תוך עידוד חדשנות".

הדו"ח שקיבל לידיו ראש הממשלה הבריטי כולל חומר שהובא מקהילת המודיעין בבריטניה, והוא מציג שורה של אזהרות לגבי האיומים ש-AI עשויה להוות במהלך השנתיים הקרובות.

על פי הדו"ח, "גורמי איום שונים עלולים לעשות שימוש מרובה ב-AI: לשפר את יכולות הטרור בתעמולה, רדיקליזציה, גיוס, זרמי מימון, פיתוח נשק ותכנון תקיפות; להגדיל את היקף ההונאות – הגדלת הכספים הנגבים במרמה, התחזות, כופרות, גניבת מטבעות, איסוף נתונים, שיבוט קולי ועוד; הגדלת היקף ההפצה של תמונות פורנו, פדופיליה והתעללות מינית בילדים; תכנון ומימוש מתקפות סייבר; שחיקת האמון במידע ושימוש בדיפ פייק כדי להשפיע על השיח החברתי; איסוף מידע על התקפות פיזיות על ידי שחקנים אלימים שאינם ממלכתיים, כולל נשק כימי, ביולוגי ורדיולוגי".

מומחים היו חלוקים בדעתם לגבי ממצאי הדו"ח ומידת האיום הנשקפת מ-AI. הם ציינו כי היו חששות קודמים לגבי טכנולוגיות מתפתחות אחרות, ואלה לא התממשו במלואם.