פריצה ל-Fireworks AI חשפה תמלולי צ'אט של לקוחות Notion. זו הפריצה השנייה לחברה בתוך חודשיים

חברת Fireworks AI אישרה שמתקפת סייבר חשפה נתונים של חלק מלקוחותיה. לפי הדיווח ב-TechCrunch, התוקפים פרצו לספק הענן של החברה, ומשם הגיעו למערכת פיתוח של Fireworks שאפשרה להם לגשת לנתוני לקוחות. אחת החברות שנפגעו היא Notion, ומהנתונים שלה נגנבו תמלולי צ'אט של משתמשים.

זו הפריצה השנייה ש-Fireworks חווה בתוך חודשיים. הקודמת הייתה אירוע אבטחה באוקטובר.

מה נגנב

Fireworks AI היא פלטפורמה שמפתחים משתמשים בה כדי לגשת למודלי AI פתוחים ולהריץ אותם. במקום להקים בעצמם את התשתית להרצת המודלים, הם שוכרים אותה ממנה. החברה מציגה עשרות אלפי לקוחות ברחבי העולם, ובהם חברת הטכנולוגיה המשפטית Harvey וחברת ה-AI ‏Cursor. לא דווח אם שתיהן נפגעו בפריצה.

בהודעת האבטחה האחרונה שלה כתבה Fireworks שהתוקפים לקחו את פרטי החיוב של לקוחותיה וגם חלק ממאגרי המידע (datasets) שלהם.

Notion: כ-1% מהלקוחות נפגעו

לקוחה אחת שידוע בוודאות שנפגעה היא Notion, שמפעילה עורך מסמכים ותוכנה לרישום הערות. בהודעת גילוי שפרסמה כתבה Notion שהפריצה פגעה בכ-1% מלקוחותיה. לדבריה, Fireworks התריעה בפניה על אירוע אבטחה, ובהמשך אישרה שהתוקפים גנבו נתונים של לקוחות Notion.

ב-3 בנובמבר ניתקה Notion את המערכות שלה מ-Fireworks, מחקה את הנתונים שהיו מאוחסנים במערכות והפסיקה כל קישוריות בין שתי החברות.

השבוע אישרה Notion שהתוקפים לקחו תמלולי צ'אט של לקוחות Notion AI שהשתמשו בפיצ'ר Insights. לפי החברה, התמלולים כוללים "כל קלט שנשלח למודל או פלט שהתקבל ממנו ונכתב לצ'אט". מצד שני, Notion ציינה שחלק גדול מהנתונים אינו ניתן לשיוך, כלומר אי אפשר לקבוע מאיזה לקוח הם הגיעו.

המניע: מכירת גישה למודלים

לפי Fireworks, התוקפים פועלים ככל הנראה ממניע כספי. לדבריה, המטרה שלהם היא למכור טוקנים, כלומר יחידות שימוש ב-LLM (מודלי שפה גדולים), שהשיגו בזכות הגישה שפרצו אליה. בשיטה הזאת הגישה נמכרת לצדדים שלישיים שאינם מורשים, והם משתמשים במודלי AI בלי לשלם על המשאבים בעצמם.

אם זה אכן המניע, תמלולי הצ'אט של Notion נגנבו כנראה אגב פריצה שמטרתה העיקרית הייתה אחרת. אבל מבחינת המשתמשים שהתכתבו עם Notion AI התוצאה דומה: תוכן השיחות שלהם נמצא עכשיו בידי גורם עוין.

למה זה חשוב

הפריצה מראה עד כמה חברות טכנולוגיה תלויות זו בזו. משתמש של Notion לא בחר ב-Fireworks וייתכן שמעולם לא שמע עליה, ובכל זאת הנתונים שלו נחשפו בגלל פריצה אליה. ובאותו אופן, Fireworks עצמה נפגעה דרך ספק הענן שלה. לכל חוליה בשרשרת יש ספקים משלה, וכל אחד מהם יכול להיות נקודת כניסה לתוקפים.

לגבי מוצרי AI הבעיה כנראה חמורה יותר. משתמשים נוטים לכתוב לצ'אטבוטים מידע שלא היו מכניסים לטופס רגיל: טיוטות, נתונים עסקיים ושאלות אישיות. כשהתמלולים האלה עוברים דרך כמה ספקי תשתית, כל אחד מהם הוא נקודת כשל אפשרית.

העובדה שזו הפריצה השנייה ל-Fireworks בתוך חודשיים צפויה לעורר שאלות אצל לקוחותיה לגבי רמת האבטחה שלה. Notion כבר ניתקה ממנה את המערכות שלה. עוד לא ידוע אם לקוחות אחרים יעשו את אותו הדבר.