מדוע צריך מסגרת ליישום אתיקה בשימוש בנתונים בארגון?

חדירת כלי הבינה המלאכותית והעסקית לכמעט כל תחום בחיינו מייצרת שאלות הקשורות לאתיקה בשימוש בנתונים: היכן הגבולות? מה אפשר לעשות? ומה אסור? האתגר הוא קודם כל בתוך הארגונים, אצל העובדים שיש להם גישה למאגרי מידע שכוללים פרטים רגישים. ככל שכלי ה-AI משתכללים צפה הדילמה כיצד מאזנים בין שימוש נאות במידע לצורכי הפעילות השוטפת של הארגון לבין ההבטחה שהנתונים ישמשו רק למטרות המיועדות והרצויות. האיזון הזה – וההשלכות הרחבות שלו על הצרכנים, הרגולטורים והארגונים – הם הדאגה העיקרית בכל הנוגע לאתיקה בתחום הנתונים.

מתודולוגיה שמסדירה את האתיקה בשימוש בנתונים

במאמר שפרסמה חברת הייעוץ מק'ינזי מוצעת מתודולוגיה שתסדיר את הנושא ותשלב את האתיקה בשימוש בנתונים בתוך הארגון כחלק מתהליכי קבלת ההחלטות, הבקרות והטמעת הכלים בהתאם.

על אף שהבאזזז סביב הבינה המלאכותית זינק רק בשנתיים-שלוש האחרונות, המודעות לצורך באתיקה בעולם זה קיימת כבר מספר שנים. זה התגבר בעיקר כאשר החלו ליישם את ה-GDPR – תקנות הפרטיות של האיחוד האירופי. תקנות אלה כוללות תנאים מאוד קשוחים לשימוש בנתונים, בכל מה שקשור לפרטיות, וסנקציות חמורות על מי שלא שומר עליהן כהלכה. תקנות ה-GDPR אמנם לא חלות על ישראל כמדינה, מאחר שאנחנו לא חברים באיחוד האירופי, אבל כן חלות על כל חברה בכל אחת ממדינות העולם, כולל ישראל, שיש לה עסקים באירופה ו/או שמחזיקה במידע על תושבים באיחוד. אלא שלמרות התקנות הללו ותקנות מחמירות במדינות אחרות, רבות הן החברות, כולל רב לאומיות, שטרם יישמו באופן מלא את האתיקה של הנתונים במודל הפעולה ובתרבות הארגונית שלהן.

המאמר של מק'ינזי מפרט שיטות עבודה מומלצות, שיכולות לעזור לארגונים לתרגם אתיקה של נתונים מתיאוריה לפעולה. מדובר במסגרת שמייצרת ישות חדשה בארגון, שתפקידה לפקח וליישם שימוש אתי בנתונים. מסגרת זו חייבת להיות משולבת בתהליכי משילות, כדי להפוך באמת לחלק מה-DNA של הארגון. כמו כל תהליך, היא מתחילה בקביעת מדיניות ואסטרטגיה, ויורדת לרמת הנהלים וכללי היישום.

ההמלצה היא להתחיל מהעלאת המודעות בקרב מקבלי ההחלטות, שיקבעו מדיניות, יכללו בתוך זה את כל הרגישויות שקשורות בשימוש במידע, לרבות תקנות וחוקים במדינות שבהן הארגון פועל

מומחי מק'ינזי מכניסים את תחום האתיקה כחלק מניהול סיכונים שכל מנהל צריך לקחת בחשבון. לצורך כך, הם ממליצים להקים ועדת אתיקה ארגונית, שבה יהיה ייצוג לכל מחלקות הארגון. אותה ועדה תשולב במערך הציות בחברה, שאחראי על יישום נהלים ומשמעת טכנולוגית. במערך הזה יש לשלב מומחי אתיקה, שיציפו בפני הוועדה את היבטי האתיקה ואת הכללים של עשה ואל תעשה.

עוד מוצע שהנהלת הארגון, החל מהמנכ"ל, תקבל סמכות להחליט על מקרים רלוונטיים רגישים, שבהם מותר או אסור לעשות שימוש כלשהו במידע. לצורך כך, ההמלצה היא לבצע הדרכות לעובדים, כדי שיהיו מודעים מתי עליהם לקבל אישור לביצוע הפעולה, מתי צריך להתבלט בביצוע שינוי כלשהו בנתונים, ועוד סוגיות של שימוש בנתונים חיצוניים ומונטיזציה של מאגרי נתונים קיימים.

הדוגמה של הבנקים

אחד המגזרים שבהם שאלת האתיקה של הנתונים רלוונטית במיוחד הוא המגזר הפיננסי. כאן נדרשת שורה של תהליכים שמחייבים קבלת אישור מדרג בכיר בטרם משתמשים בנתונים של לקוחות, לכל סוג של פעילות. המסגרת של האתיקה החדשה כוללת בקרות וכלים שיוודאו שהמדיניות הזו אכן מיושמת. זה כולל הכשרה באמצעות לימודים אונליין, בקרה מרכזית על הסדרת נתונים ומודלים מתקדמים של ניתוח.

נדבך נוסף שכלול במאמר הוא השקיפות. קשר טוב מול בעל המידע ושקיפות הפעולות מולו הם חלק מתרבות נתונים בריאה. עובדים צריכים להבין מדוע וכיצד להשתמש בנתונים בצורה אחראית ואתית, לרבות יישום ידע זה בפעולות היומיומיות שלהם. בעוד שתוכניות הדרכה וירטואליות ומיילים מהווים לעתים קרובות את הבסיס למאמצים כאלה, ערוצי תקשורת דו כיוונים, כגון מפגשי שאלות ותשובות, הם אמצעים חשובים, שבהם העובדים יכולים לשאול שאלות ולהעלות חששות פוטנציאליים.

מחברי המסמך מודעים לכך שיישום מסגרת אתית לנתונים הוא לא דבר פשוט בארגונים, משום שהוא עוסק גם בתרבות ארגונית, ביישום של כללי התנהגות חדשים, וכן בבקרה ובמעקב. לכן, הם ממליצים להתחיל מהעלאת המודעות בקרב מקבלי ההחלטות, שיקבעו מדיניות, יכללו בתוך זה את כל הרגישויות שקשורות בשימוש במידע, לרבות תקנות וחוקים במדינות שבהן הארגון פועל. בסופו של תהליך, המטרה היא לא לייצר רק מערכת חוקים, שיש לצידה עונשים, אלא ככלל, תרבות ארגונית ואנושית, שמודעת היטב לכוח שיש בידי מי שמחזיק בידו גישה למידע, ושמאפשרת לו לנצל את היכולת להבין את הנתונים כדי לקדם את מטרות הארגון, אבל גם לשמור היטב על שימוש אתי במידע, לדעת מתי, איך ולמי להעביר אותו, ולשים את הפרטיות בראש סדר העדיפויות שלו.

מדובר בבעיה כלל עולמית, שכמובן לא פוסחת על ישראל. אצלנו, היא עולה לדיון במסגרות שונות, כולל בכנסת ובקרב גורמי ממשל, אבל עדיין לא מחלחלת מספיק לשדרות הניהול של הארגונים במגזרים השונים. בגלל זה, מטבע הדברים, הנושא לא מגיע לדרגים הנמוכים יותר, שם יש לרבים מאוד גישה לסוגים שונים של מידע רגיש. זאת, כאשר לא דיברתי בכלל על סוגיית אבטחת המידע והשמירה הנאותה על אותם נתונים, בעידן של זינוק במתקפות הסייבר ואפשרות לפריצה לכל מאגר נתונים קיים.