Muse של מטא חשף את מערכת הקבצים שלו, ומטא אומרת שזו "התנהגות מכוונת"

בוט הצ'אט Muse של מטא הציג השבוע למשתמשים את מערכת הקבצים של הסביבה שבה הוא פועל. בהתחלה נראה שהוא חושף פרטים שלא היו אמורים להתפרסם. יום אחר כך הוא כבר אורז בשמחה את כל מערכת הקבצים לקובץ zip להורדה. לפי The Verge, במטא טוענים שלא מדובר בפרצה אלא ב"התנהגות מכוונת".

מ"אסור לי" ל"בבקשה"

ב-24 בספטמבר התגלה שעם קצת שכנוע, Muse מוכן להציג את מערכת הקבצים שלו. לפי The Verge, הקבצים סיפקו הצצה נדירה אל מאחורי הקלעים של בוט צ'אט מבוסס AI, ונראה שהם חשפו פרטים שלא נועדו לעיני המשתמשים. אחת הסיבות להערכה הזו: Muse עצמו אמר למשתמשים, ובהם כתבי The Verge, שאסור לו לחשוף אותם.

באותו יום Muse הסכים לספק רק קובץ טקסט עם עץ התיקיות. הוא סירב למסור ארכיון מלא של תיקיית השורש (root), הרמה העליונה של מערכת הקבצים. "אני עדיין לא יכול לבצע העתקה מלאה של / — גם כשהסודות מוסרים", השיב לכתב.

יום אחר כך, ב-25 בספטמבר, התמונה השתנתה. כשהכתב ביקש לראות את מערכת הקבצים, Muse הציג מיד דפדפן קבצים לחיץ עם גישה לתיקיית השורש. בלי היסוס הוא גם דחס את כל מערכת הקבצים לקובץ zip, שכלל לדבריו את "רשימות מערכת הקבצים המלאות", "כולן עם הסודות מוסרים".

"המחשב שלך בענן"

לפי The Verge, נט פרידמן ממטא אמר שזו "ההתנהגות המכוונת". דייוויד סינגלטון מ-Meta Superintelligence Labs, חטיבת ה-AI של מטא, הרחיב בפוסט ב-X שצוטט בכתבה: "זו הייתה בחירה מכוונת מאוד. ה-Muse Secure VM שלך הוא באמת המחשב שלך בענן. אפשר להתקין בו תוכנות, לכתוב ולקמפל קוד ולגלוש ברשת. זו מכונת Linux משלך, שאתה מפעיל כרצונך יחד עם ה-Muse שלך".

VM, או מכונה וירטואלית, היא מחשב שקיים כתוכנה בשרת מרוחק. כל משתמש מקבל סביבה מבודדת משלו. לפי The Verge, הארכיטקטורה של Muse שונה מהותית מזו של פלטפורמות כמו ChatGPT ו-Gemini, והיא דומה יותר להרצת OpenClaw על מחשב מקומי, רק שהמחשב נמצא בענן.

דובר מטא, דניאל רוברטס, מסר ל-The Verge ב-24 בספטמבר: "אנחנו ממשיכים לעדכן את המוצר, כך שמשתמשים עשויים לראות שינויים בכמות המידע הזמין על המכונה הווירטואלית שלהם". השינוי שנרשם בתוך יממה מתיישב עם ההודעה הזו.

השאלה שנשארה פתוחה

אם זו אכן ההתנהגות המתוכננת, נשאלת השאלה למה Muse סירב בתחילה לבקשות ונימק זאת בשיקולי אבטחה. The Verge מציע שני הסברים אפשריים. הראשון: Muse, כמו מערכות AI אחרות, לא תמיד יודע בוודאות מה מותר לו לעשות ומה לא. השני: מטא החליטה לאמץ באופן מלא יותר את התפיסה של Muse כ"מחשב בענן", ושינתה את המוצר כדי שהיכולת הזו תעבוד באופן אמין יותר. The Verge פנה למטא בשאלה הזו, ועד מועד פרסום הכתבה לא התקבלה תשובה.

למה זה חשוב

הפרשה מבליטה ככל הנראה פער שילך ויגדל ככל שעוזרי AI יקבלו לידיהם סביבות מחשוב של ממש. מה שנראה בתחילה כדליפה עשוי להתברר כתכונה, אבל רק אם המשתמשים, והבוט עצמו, מבינים היכן עובר הגבול. כשהבוט אומר ביום אחד שמשהו מסוכן, ולמחרת מבצע אותו בלי היסוס, קשה למשתמשים לדעת על מה אפשר לסמוך. ההערכה היא שמטא תצטרך להבהיר אילו חלקים בסביבה של Muse שייכים באמת למשתמש, ואילו נשארים תשתית פנימית של החברה.