האם ניתן יהיה לפתח נשק ביולוגי מחלבונים מהונדסים בעזרת AI?

"קול קורא" שחתמו עליו כבר מאות מדענים מעשרות אוניברסיטאות ברחבי העולם קורא לשימוש אחראי וזהיר בבינה מלאכותית בעת שימוש לצורך פיתוח ביולוגי של מולקולות, ובמיוחד של חלבונים. בעוד שלשימוש בבינה מלאכותית יש פוטנציאל עצום בתחום הזה, בעיקר בהיבט של צורך בתגובה מהירה במיוחד למגיפות דוגמת הקורונה, המדענים חוששים מאוד מהאפשרות להשתמש בבינה מלאכותית כדי ליצור נשק ביולוגי המבוסס על חלבונים מהונדסים.

היוזמה הזאת מגיעה אחרי מספר דיווחים שלפיהם מספר רב של גופים, כולל ועדה של הקונגרס האמריקני וארגונים אחרים, בוחנים את האפשרות שכלי בינה מלאכותית יכולים להקל על פיתוח נשק ביולוגי, כולל רעלנים חדשים או וירוסים בעלי יכולת העברה גבוהה – והכלים שהוזכרו כוללים, בין השאר, רשת לחיזוי מבנה החלבון AlphaFold וגם מודלים של שפות גדולות שמניעים את ChatGPT, את Gemini ועוד.

"כמדענים שעוסקים בעבודה זו, אנו מאמינים שהיתרונות של טכנולוגיות הבינה המלאכותית הנוכחיות לעיצוב חלבונים עולים בהרבה על פוטנציאל הנזק, ואנו רוצים להבטיח שהמחקר שלנו יישאר מועיל לכולם בעתיד. לכן יש לנו מוטיבציה כקהילה לבטא מערך של ערכים ועקרונות, שינחו את הפיתוח האחראי של טכנולוגיות בינה מלאכותית בתחום עיצוב החלבון", נכתב בנייר העמדה שעליו חתמו המדענים.

המסמך מכיל גם רשימה בת עשר התחייבויות לשימוש אחראי בפיתוח באמצעות בינה מלאכותית, ובין השאר הן מתייחסות לגילוי מלא – אם באמצעות דיווח על נוהלי מחקר שמעוררים דאגה אם מתגלים כאלה, ובין עם חשיפה מלאה של התועלות והסכנות של כל מחקר בנושא.