אירוע אבטחה אצל ספק ה-AI Fireworks: ייתכן שחלק משיחות Notion AI נחשפו
Notion מדווחת שאירוע אבטחה אצל Fireworks AI, ספק תשתיות AI שעבד איתה, ייתכן שפגע בפחות מ-1% מסביבות העבודה שלה. ייתכן שנחשפו תמלולי שיחות עם Notion AI שלא הוצמד אליהם שם של משתמש או של סביבת עבודה. החברה ניתקה את הקשר עם Fireworks, השביתה את פיצ'ר Insights וממליצה ללקוחות שנפגעו להחליף סיסמאות ומפתחות שהודבקו בשיחות.
חברת Notion פרסמה הודעה על אירוע אבטחה אצל אחד מספקי ה-AI שלה, Fireworks AI. לפי ההודעה, ייתכן שהאירוע פגע בפחות מ-1% מסביבות העבודה (workspaces) ב-Notion. מה שנחשף הם תמלולים של שיחות עם Notion AI, עוזר הבינה המלאכותית המובנה במוצר. לפי החברה, שום מידע אחר מתוך סביבות העבודה לא נפגע.
מה בדיוק נחשף
Notion מדגישה שמדובר בשיחות שהיא מגדירה "לא-משויכות" (unattributable). כלומר, לא צוין בהן מי כתב אותן או מאיזו סביבת עבודה הגיעו. התמלולים גם לא כללו תוצאות של tool calls, כלומר הפעולות שהעוזר מבצע בתוך המסמכים והמאגרים של המשתמש. לדברי החברה, מלבד הטקסט שבשיחה עצמה, אין בנתונים שום פרט שמקשר אותם למשתמש, לסביבת עבודה או לחברה מסוימת.
ההסתייגות הזאת חשובה, אבל יש לה גבול. אם משתמש כתב בשיחה עצמה שם, פרטי לקוח או סיסמה, הם נמצאים בתוך הטקסט שדלף. ככל הנראה בגלל זה Notion עצמה ממליצה להתייחס למידע כאל מידע שנחשף.
איך Notion השתמשה ב-Fireworks
Fireworks היא פלטפורמה לתשתיות AI. לפי Notion, היא משרתת עשרות אלפי לקוחות ומאות אלפי מפתחים. Notion השתמשה בה לשני דברים: למשימות סיווג (classification) בפיצ'ר בשם Insights, שעוזר ללקוחות להבין איך הארגון שלהם משתמש ב-AI, וכספקית inference כללית. inference הוא שלב הרצת המודל כדי לקבל ממנו תשובה, ודרך Fireworks הריצה Notion בתוך המוצר מודלים עם משקלים פתוחים (open-weight). התמלולים שדלפו הם אלה ששימשו את Insights.
לוח הזמנים
לפי ההודעה, Fireworks עדכנה את Notion בתחילת נובמבר על אירועים אפשריים, ו-Notion ניתקה מתוך זהירות את כל החיבורים למערכות של Fireworks. החברה מציינת שנכון ל-3 בנובמבר המערכות שלה נותקו מ-Fireworks, כל המידע שלה במערכת של Fireworks נמחק, והיא הפסיקה לשלוח לשם מידע ותעבורה. עוד נכתב שהיא עצרה את כל ריצות האימון.
ב-6 בנובמבר הודיעה Fireworks ל-Notion שגורמים זדוניים אולי ניגשו למידע של לקוחות, ו-Notion פתחה בחקירה פנימית נוספת. ב-8 בנובמבר Fireworks אישרה את מאגר המידע החדש, ובניתוח שלו התגלו תמלולי השיחות. בינתיים פיצ'ר Insights מושבת, ו-Notion כבר לא מריצה מודלים פתוחים דרך Fireworks.
מה צריך לעשות
לפי Notion, אם לא אתם ולא מנהלי סביבת העבודה שלכם קיבלתם ממנה הודעה, סביבת העבודה לא נפגעה ואין צורך לעשות דבר. החברה פנתה לבעלי סביבות העבודה שנפגעו. הם יכולים לראות את המידע דרך סרגל הצד, תחת "?" ואז Security incident review. הגישה אפשרית רק מדפדפן במחשב, בגרסה העדכנית של Notion, ולא מהנייד.
בתוכנית Enterprise, בעלי סביבת העבודה יכולים להוריד קובץ CSV עם המידע שנפגע. בנוסף יש גרסה מוערת של הקובץ עם מטא-דאטה, למשל איזה משתמש קשור לכל שיחה. Notion מבהירה שהמטא-דאטה הזה לא נחשף באירוע. בתוכניות האחרות, בעלי סביבת העבודה מקבלים קישור שאפשר לשלוח לחברי הצוות, וכל אחד מהם רואה רק את המידע שלו.
ההמלצה המעשית העיקרית של Notion: מי שהדביק ל-Notion AI בתקופה הרלוונטית סיסמאות, מפתחות API או פרטי גישה אחרים צריך להחליף אותם מיד.
למה זה חשוב
האירוע ממחיש סיכון שמשתמשים רבים כנראה לא מודעים לו. כשמקלידים לעוזר AI בתוך כלי עבודה, הטקסט לא בהכרח נשאר אצל החברה שמפעילה את הכלי. הוא עשוי לעבור לספקי תשתית חיצוניים שמריצים את המודלים או מעבדים את הנתונים. במקרה הזה פריצה אצל ספק צד שלישי הגיעה עד ללקוחות של Notion, שככל הנראה לא ידעו בכלל ש-Fireworks מעורבת. המשמעות לארגונים היא שכדאי לבדוק לא רק את מדיניות האבטחה של כלי ה-AI שהם משתמשים בו, אלא גם לאן הנתונים זורמים ממנו. ובאופן כללי, עדיף לא להדביק פרטי גישה לשיחות עם צ'טבוטים.
כל בוקר במייל?סיכום חדשות ה-AI של אתמול, בעברית, בדקות קריאה ספורות. חינם, בלי ספאם.
מעדיפים טלגרם?להצטרפות לערוץ ←
ביטול בקליק אחד, בכל מייל · מדיניות פרטיות