Grok Build, סוכן הקוד של xAI, חשף מידע חסוי של אלפי אפליקציות

חוקר אבטחה מצא כ-35,000 אפליקציות שנבנו עם Grok Build, סוכן הקוד של xAI, ושהיו חשופות לכל מי שטרח לחפש אותן. כך דיווח האתר Ars Technica. לפי הדיווח, דרך האפליקציות האלה דלף מידע חסוי רב, וחלק ממנו שייך ל-SpaceX.

מה קרה

Grok Build הוא כלי שמאפשר לבנות אפליקציות בעזרת סוכן AI: המשתמש מתאר מה הוא רוצה, והסוכן כותב את הקוד ומעלה את האפליקציה לאוויר. לפי הכתבה ב-Ars Technica, עשרות אלפי אפליקציות כאלה היו "פתוחות לרווחה". מי שידע איפה לחפש יכול היה להגיע אליהן ולמידע שבתוכן, בלי שום מחסום.

המקור אינו מפרט את סוג המידע שנחשף בכל אחת מהאפליקציות, אבל השורה התחתונה ברורה: מידע שבעליו התייחסו אליו כפרטי היה נגיש לכל העולם.

למה דווקא SpaceX

הקשר ל-SpaceX מעניין במיוחד. גם xAI וגם SpaceX הן חברות של אילון מאסק, ולכן סביר שעובדים או צוותים ב-SpaceX השתמשו בכלי של חברה מאותה קבוצה. ההערכה היא שבמקרה כזה גם ארגון גדול ורגיש, שעובד בתחום החלל וקשור לגופי ביטחון, לא היה מוגן מטעויות תצורה שנוצרות כשאפליקציות נבנות במהירות ובאופן אוטומטי.

הבעיה הרחבה: מהירות בלי בקרה

סוכני קוד (AI agents שכותבים ומפעילים קוד באופן עצמאי) הפכו בשנים האחרונות לאחד התחומים החמים בעולם ה-AI. הם מאפשרים גם למי שאינם מתכנתים להקים אפליקציה עובדת תוך דקות. המחיר הוא שהחלטות שמפתח מנוסה היה שוקל בזהירות, כמו מי רשאי לגשת לאפליקציה, איפה נשמרים הנתונים והאם נדרשת הזדהות, מתקבלות לעיתים קרובות כברירת מחדל ובלי שהמשתמש מודע להן.

המשמעות של המקרה הנוכחי היא ככל הנראה שאחת מברירות המחדל האלה, או כמה מהן, לא כללה בקרת גישה נאותה, וההשפעה התגלגלה לעשרות אלפי אפליקציות בבת אחת. כשכלי אחד משמש אלפי משתמשים, גם פרצה אחת בתצורה הופכת לבעיה בקנה מידה רחב.

למה זה חשוב

המקרה של Grok Build מזכיר שאחריות האבטחה לא נעלמת כשמעבירים את כתיבת הקוד ל-AI. ארגונים שמאפשרים לעובדים להשתמש בסוכני קוד צריכים לברר אילו נתונים מוזנים לכלים האלה, היכן האפליקציות מתארחות ומי יכול לגשת אליהן. בצד של החברות שמפתחות את הכלים, המקרה מחזק ככל הנראה את הטענה שברירת המחדל צריכה להיות סגורה ופרטית, ושפתיחה לציבור צריכה להיות החלטה מודעת של המשתמש ולא תוצאה של היסח הדעת.