סלאק השתמשה בנתוני משתמשים לאימון מודלי AI מבלי ליידע

פלטפורמת שיתוף הפעולה וההודעות סלאק (Slack) מעוררת כעס בקרב משתמשים לאחר שנחשף כי היא משתמשת בנתוני לקוחות, כולל הודעות וקבצים, כדי לפתח מודלים חדשים של AI ו-ML. החברה גם מתעקשת להגן על המדיניות שלה, וציינה כי יש לה בקרות טכניות כדי לחסום את הגישה של הפלטפורמה לתכנים  ומבטיחה שהנתונים לא ייחשפו בין מקומות עבודה, אך למרות ההבטחות הללו, מנהלי סלאק ארגוניים פועלים כדי לבטל את הסכמתם לגירוד הנתונים.

בשבוע שעבר נחשף כי סלאק, כברירת מחדל ומבלי ליידע משתמשים או לקבל את הסכמתם, עשתה שימוש בנתוני לקוחות ובמידע על השימוש שלהם (כולל הודעות, תוכן וקבצים) כדי לאמן את מודלי ה-AI/ML לשיפור התוכנה שלה. במיוחד הם מתלוננים על כך, שכדי לבטל את ההצטרפות שלהם הם צריכים לשלוח בקשה לחברה, שאומרת: "אם אתה רוצה להוציא את נתוני הלקוחות שלך ממודלים גלובליים של Slack, אתה יכול לבטל את הסכמתך. כדי לבטל את הסכמתך בקש מהארגון שלך, מבעלי סביבת העבודה או הבעלים הראשי שלך ליצור קשר עם צוות חוויית הלקוחות שלנו בכתובת [email protected] עם כתובת האתר של סביבת העבודה/הארגון שלך ושורת הנושא 'בקשת ביטול הסכמה למודל גלובלי של Slack'. אנו נעבד את בקשתך ונשיב לאחר השלמת ביטול ההסכמה".

מנהלי אבטחה אמרו שהם לא מופתעים לשמוע שסלאק – כמו ספקי טכנולוגיה גדולים רבים – מפתחת מודלים של AI/ML על נתונים הזורמים בפלטפורמה שלה, אך טענו כי הלקוחות לא צריכים לשאת בנטל של ביטול ההסכמה לגזירה של הנתונים.

בתגובה למבקרים, הגיבה סלאק בפוסט במדיה החברתית וציינה, כי יש לה מודלים של למידת מכונה ברמת הפלטפורמה לדברים כמו המלצות על ערוצים ואימוג'ים ועל תוצאות חיפוש, ומתעקשת שלקוחות יוכלו להחריג את הנתונים שלהם מסיוע בהכשרת מודלים (לא-גנרטיביים) של ML. החברה אמרה כי Slack AI – שהיא חוויית Gen-AI שנבנתה באופן מקורי בסלאק – היא תוסף שנרכש בנפרד, שמשתמש במודלים של שפה גדולה (LLMs), אך אינו מאמת את המודלים הללו על נתוני לקוחות. "מכיוון ש-Slack AI מארחת את המודלים בתשתית משלה, הנתונים שלך נשארים בשליטתך ולשימוש בלעדי של הארגון שלך. זה לעולם לא עוזב את גבול האמון של סלאק, ולשום צד שלישי לא תהיה גישה אליהם", אמרה החברה.

בתיעוד שלה, סלאק ציינה, כי נתונים לא ידלפו למשטחי עבודה. "עבור כל מודל שישמש באופן נרחב את כל הלקוחות שלנו, אנחנו לא בונים או מאמנים את המודלים האלה בצורה כזו שהם יוכלו ללמוד, לשנן או להיות מסוגלים לשחזר חלק כלשהו מנתוני הלקוחות".