מפתחים: הסוכן Muse של מטא מסר להם את כל מערכת הקבצים שלו אחרי שכנוע קצר

שני מפתחים, פיטר ג'יימס וג'וני ל. סונדרס, אומרים שכל אחד מהם הצליח בנפרד לשכנע את Muse, סוכן ה-AI החדש של מטא, לדחוס לקובץ אחד ולשלוח להם את כל התוכן של מערכת הקבצים שלו, כך דיווח The Verge. בקבצים היו קבצי מערכת של Ubuntu, תבניות של אפליקציות ותיעוד פנימי. לפי הדיווח, סונדרס כתב ב-Mastodon שהיה "קל מאוד" לחזור על מה שג'יימס עשה, ושלסוכן "כמעט אין עמידות ל-prompt injection". prompt injection היא שיטה שבה משתמשים בהוראות מנוסחות בערמומיות כדי לגרום למודל לעשות דברים שהוא לא אמור לעשות.

מטא: "כמו במחשב הנייד שלכם"

במטא אומרים שלא הייתה כאן פריצת אבטחה. Muse פועל בתוך מכונה וירטואלית של Linux שמוקצית לכל משתמש בנפרד ונשמרת לאורך זמן. דובר החברה, דניאל רוברטס, אמר: "בדיוק כמו במחשב הנייד שמולכם, ברור שאפשר לראות את הקבצים. ייצוא נתונים מהמכונה הווירטואלית לא נותן לאף אחד גישה מיוחדת לתשתיות של מטא או למידע של אנשים אחרים". הוא הוסיף שהחברה ממשיכה לעדכן את המוצר, ולכן ייתכן שבעתיד המשתמשים יוכלו לראות פחות מידע על המכונה שלהם.

זו כבר החולשה השנייה ב-Muse שמתפרסמת השבוע. קודם לכן מצא חוקר האבטחה פטריק וורדל פרצה שאפשרה לתוקפים להשתלט על הסוכן, להפנות למקום אחר את עיבוד התמלול ולהיכנס לחשבון ה-Muse של המשתמש. מטא פרסמה תיקון מהיר.

מה נמצא בקבצים

בקבצים שהודלפו יש קובצי Markdown ו-JSON רגילים, לא מוצפנים, שמתארים בפירוט איך Hatch (השם הפנימי של Muse במטא) מטפל בבקשות ובנתונים ואיך הוא מתחבר לשירותים כמו Gmail. ידוע שסוכני AI נוטים "להזות" ולמסור מידע שגוי על עצמם. אבל סונדרס ציין שהסוכן הפיק בתוך שניות מאות מגה-בייט של קוד ספריות וקבצים בינאריים מקומפלים, וכתב: "אלא אם הוא ייצר מכונה וירטואלית שלמה של Ubuntu בפחות מדקה, אני חושב שזו העתקה אמיתית".

לפי החומרים, Muse שומר את הזיכרון שלו בקובצי Markdown רגילים. לדברי ג'יימס, בכל לילה הסוכן מבצע סקירת "חלום" של השיחות האחרונות והופך אותה להנחיות לשיחות הבאות. סונדרס מצא שהרבה מהיכולות קבועות מראש בקוד. בין היתר, ביטול מינויים והמנגנון שמונע מהסוכן להפעיל עוד ועוד סוכני משנה בלי שליטה. סונדרס גם משער שחלק מהסקריפטים נכתבו בעזרת Claude של אנתרופיק, אבל זה לא אומת. ג'יימס מצא אזכורים ל-Meta Home Link, שנראה כמו חיבור שייתן ל-Muse גישה למכשירים ברשת הביתית. מטא לא הכריזה על מוצר בשם הזה.

הכתב של The Verge ניסה בעצמו. בהתחלה Muse סירב ואמר שמדובר בסיכון אבטחה. אחרי כמה מחמאות וגילויי סקרנות בשיחה חדשה, הסוכן יצר עבורו עותקים "בטוחים" של שתי תיקיות, בלי מפתחות SSH, והציג לו את כל עץ התיקיות.

הדמיון ל-OpenClaw

בכתבה נפרדת ב-The Verge מצוין שבין Muse לבין OpenClaw, סוכן ה-open source שהפך את התחום לפופולרי, יש שמות זהים לקבצים מרכזיים (למשל SOUL.md) ושורות דומות בהנחיות האישיות. נאט פרידמן, ראש המוצר ב-Superintelligence Labs של מטא, כתב ש-Muse נבנה "מאפס" אבל "בהשראה כבדה" של OpenClaw. לפי אותה כתבה, Muse הגיע לראש טבלאות ה-App Store, ולפי הערכה של Apptopia יש לו 600 אלף משתמשים פעילים ביום בארה"ב. מארק צוקרברג הציג את Muse כמוצר ש"נבנה מהיסוד לפרטיות ולאבטחה". האבטחה הייתה אחת הבעיות הבולטות של OpenClaw.

הקמע החמוד

בטור של ויקטוריה סונג היא מתארת איך הסוכן האישי שלה, שאותו כינתה Blorbo, שינה את המראה שלו לפי מה שלמד מהמיילים שלה. הקמע של Muse נקרא, לפי צוקרברג, "Jolly". סונג כותבת שבעקבות זה התחילה לשתף עם הסוכן יותר מידע על הבריאות שלה, ושואלת אם זה בדיוק מה שמטא רוצה. Muse מגיע לכל המשקפיים החכמים של מטא ולמכשיר לביש חדש בשם Charm.

למה זה חשוב

ככל הנראה, ההדלפה עצמה לא חושפת מידע של משתמשים אחרים. ובכל זאת, סוכן שמתחבר לתיבת המייל ויכול לבטל מינויים נכנע למחמאות פשוטות. שתי חולשות התגלו בתוך שבוע אחד. והעיצוב שלו מעודד אנשים לשתף מידע אישי. המשמעות היא שהפער בין ההבטחה של מטא לאבטחה "מהיסוד" לבין מה שקורה בפועל עוד לא נסגר.