כ-35 אלף אפליקציות שנבנו ב-Grok היו פתוחות לכל אחד, וחלקן חשפו נתוני מטופלים וסיסמאות בטקסט גלוי
לפי דוח של חברת האבטחה Claroc, כ-94.7% מהאפליקציות שנבנו במצב Build של Grok ונבדקו היו פתוחות לכל מי שיש לו את הקישור. בין הנתונים שנחשפו: ערכי מעבדה של מטופל, סיסמאות בטקסט גלוי ומסמכים פנימיים של SpaceXSI עצמה. לדברי החוקרים, הגורם המרכזי הוא הגדרת ברירת המחדל בחלון הפרסום.
דוח של חברת האבטחה Claroc מראה שחשיפת הנתונים באפליקציות שנבנו עם Grok רחבה. לפי הדוח, כפי שדווח ב-The Decoder, מתוך 37,571 אפליקציות שנבנו עם Grok ועדיין היו באוויר, 35,578 היו נגישות לכל אחד, בלי צורך בהתחברות. מדובר ב-94.7%. בין הנתונים שנחשפו היו נתוני מטופלים, סיסמאות שנשמרו בטקסט גלוי (plaintext), כלומר בלי הצפנה, ומסמכים עסקיים חסויים של SpaceXSI, החברה שמפתחת את Grok.
איך זה קרה
במצב "Build" של SpaceXSI, החברה שנקראה בעבר xAI, המשתמש מתאר בצ'אט את האפליקציה שהוא רוצה ו-Grok כותב את הקוד. האפליקציה נחשפת לציבור רק אחרי שהיוצר לוחץ על "Publish", ואז היא מקבלת כתובת משלה תחת הדומיין grok.me.
לפי Claroc, הבעיה נמצאת בחלון הפרסום: בחשבון בתשלום שהחברה השתמשה בו לבדיקה, האפשרות "Anyone with the link" ("כל מי שיש לו את הקישור") כבר הייתה מסומנת מראש. גם מציאת האפליקציות לא דרשה מאמץ. כל אפליקציה מקבלת תת-דומיין (subdomain) משלה, ואחרי הביקור הראשון שמה נרשם במאגרי passive DNS מסחריים, מאגרים שמתעדים כתובות אינטרנט שנצפו ברשת ושאפשר לחפש בהם לפי תבנית.
מה נחשף
לפי Claroc, רוב האפליקציות הפתוחות היו משחקים, דפי נחיתה או מחשבונים. עם זאת, בערך אחת מכל עשר הכילה חומר רגיש, מידע עסקי פנימי או פרטים אישיים, וכ-2% הוגדרו חמורות במיוחד. החוקרים מעריכים ש-650 עד 800 אפליקציות הכילו מידע פרטי. בין המקרים שאומתו: תדריך של טיפול נמרץ שכלל ערכי מעבדה של מטופל, רשימה של יותר מ-3,500 עובדים בקבוצת בתי חולים, ולוח משמרות של מכבי אש. בקוד של אפליקציה לדיווח שעות עבודה נמצאו 18 חשבונות עם סיסמאות בטקסט גלוי.
24 מהאפליקציות הנגישות נבנו על ידי עובדי SpaceXSI ו-X. ביניהן תוכנית קליטה חסויה לעובד חדש בצוות המכירות לארגונים, שכללה כתובות של מערכות פנימיות ו-19 ערוצי צ'אט. עוד נמצאו מפת טריטוריות מכירה עם 594 לקוחות אסטרטגיים, מחולקים לשש טריטוריות ומדורגים לפי עדיפות, וגם נתוני pipeline מכירות ושמונה הצעות פרסום של X. אחת ההצעות פנתה לסוכנות פדרלית אמריקאית וסומנה כחסויה. מלבד SpaceXSI ו-X זיהתה Claroc עוד 30 ארגונים שנפגעו, שישה מהם מרשימת Fortune 500. את שמותיהם החברה לא פרסמה.
גם הקוד עצמו פגיע
שתיים מאפליקציות הבדיקה של Claroc חשפו בעיה נוספת. באפליקציה לרשימת אנשי קשר נוצר מסד נתונים בלי שום התחברות, כך שכל גולש אנונימי יכול היה להוסיף לו רשומות. באפליקציה לניהול רשימת לקוחות של צוות מכירות, Grok הוסיף מיוזמתו התחברות עם Google ועם X. אבל הקוד שכתב צירף כל משתמש מחובר לצוות, ורק אחר כך בדק אם הוא באמת חבר בו. כך חשבון Google חיצוני יכול היה לקרוא, לערוך ולמחוק רשומות. לדברי Claroc, את בדיקות הכתיבה והמחיקה היא הריצה רק על האפליקציות שלה.
כשהאפליקציה הוגדרה כ-"Only you", גישה מבחוץ נחסמה. הבעיה היא שזו לא ברירת המחדל. לשם השוואה, בבדיקה שערכה Claroc עם ChatGPT, אפליקציה חדשה הוגדרה כברירת מחדל ל-"Only me" בעת שיתוף.
תגובת SpaceXSI
SpaceXSI מסרה רק שהאפליקציות פרטיות עד שהיוצר משתף אותן, שהפרסום כולל כמה שלבים ובהם הודעה משפטית, ושבחשבונות של עובדים ברירת המחדל היא "Only you". ב-Claroc משיבים שקליקים נוספים לא עוזרים אם בשלב האחרון "Anyone with the link" עדיין מסומן מראש, ושלפי 24 האפליקציות הפתוחות של עובדים, ברירת המחדל המחמירה לא הגנה הרבה בפועל. Claroc הציעה להפוך את "Only you" לברירת המחדל, להציג למשתמש מי יקבל גישה לפני הפרסום, ולהתריע כשיש לאפליקציה מסד נתונים בלי מנגנון התחברות.
למה זה חשוב
כלים שבונים אפליקציה מתוך תיאור בצ'אט מאפשרים לאנשים בלי רקע בתכנות להעלות לרשת אפליקציות שמחזיקות מידע אמיתי. המקרה הזה מראה, ככל הנראה, שמשתמשים כאלה כמעט לא משנים את הגדרות ברירת המחדל, ולכן הן קובעות בפועל את רמת האבטחה. גם קוד שה-AI כותב, כולל מנגנוני הרשאות, צריך בדיקה נפרדת לפני שסומכים עליו.
כל בוקר במייל?סיכום חדשות ה-AI של אתמול, בעברית, בדקות קריאה ספורות. חינם, בלי ספאם.
מעדיפים טלגרם?להצטרפות לערוץ ←
ביטול בקליק אחד, בכל מייל · מדיניות פרטיות