Muse של מטא כובש מיליונים, והוראות שחולצו מראות שהוא אמור לבנות דף על כל אדם בחייכם
Muse, סוכן ה-AI האישי החדש של מטא, הורד בידי מיליונים, ומשתמשים רבים מחברים אותו לחשבונות הבנק, להודעות ולנתוני הבריאות שלהם. הוראות פנימיות שחולצו מהאפליקציה מראות שהוא אמור לבנות ולעדכן, בתהליך שעתי, דף מפורט על כל אדם בחיי המשתמש. מטא אומרת שהמידע נאסף ממקורות ציבוריים ומתוכן שהמשתמשים בחרו לשתף, ולפי הדיווח המשתמשים יכולים למחוק זיכרונות או לנתק שירותים בכל רגע.
Muse, העוזר האישי החדש של מטא, הפך ללהיט ויראלי. לפי WIRED, מיליונים כבר הורידו את סוכן ה-AI (תוכנה שמבצעת משימות בשם המשתמש, ולא רק עונה על שאלות). רבים מהם מחברים אותו לחשבונות בנק, להודעות או לנתוני בריאות ומאפשרים לו לבצע משימות בשמם. אבל קבצים פנימיים שחולצו מהאפליקציה מראים עד כמה הסוכן מתעניין באנשים שסביב המשתמש: לפי ההוראות שלו, הוא אמור ליצור "דף לכל אדם בחיי המשתמש".
איך נחשפו ההוראות
בימים האחרונים כמה חוקרים הצליחו לחלץ את הקבצים הפנימיים של Muse ואת הוראות ההפעלה שלו. אחד מהם הוא קאראן ג'ושי, חוקר עצמאי בתחום הבטיחות והאבטחה של AI. ג'ושי השתמש בממשק הצ'אט הרגיל וביקש מ-Muse, בפועל, להעתיק ולשתף את קובצי התוכנה שלו עצמו. הוא העביר את הממצאים ל-WIRED. מטא טוענת שהקבצים האלה נועדו מלכתחילה להיות נגישים, משיקולי שקיפות.
דף לכל חבר, בן משפחה ועמית
לפי ההוראות, Muse מריץ תהליך שעתי שאוסף מידע על בני משפחה, בני זוג, חברים, עמיתים לעבודה, "שותפים" ואנשים שהמשתמש "עוקב" אחריהם. המידע נשמר ב"זיכרון" של הסוכן, שהוא בפועל קובצי טקסט מובנים. על בסיסו Muse יכול להציע, למשל, איך לשפר מערכת יחסים מסוימת, או לאן לקחת חבר חובב קפה לארוחת בוקר.
התיעוד מתאר דף שמתחיל "דליל" ומתמלא עם הזמן. הוא יכול לכלול סעיפים כמו עובדות, היסטוריה, מערכת היחסים, מכנה משותף, נושאים פתוחים וחיזוק. הוא עשוי לתעד היכן האדם גר, במה הוא עוסק, נושאים שחוזרים ("המעבר דירה, יעד החיסכון המשותף") ותאריכים חשובים כמו ימי הולדת וימי נישואים. סעיף ההיסטוריה יכול לכלול פרטים כמו "הטיול במרץ, הוויכוח שנפתר, אבן הדרך בשבוע שעבר". הסוכן מתבקש גם להעריך "כמה הם קרובים, על מה זה בנוי" ו"מה נראה שזה צריך עכשיו". סעיף החיזוק מציע "סיבה להתקשר, תאריך שכדאי לזכור". ההוראות קובעות ש-Muse צריך להסתמך רק על ה"ראיות" שבידיו, ושפרטים מומצאים גרועים יותר מדף ריק.
"נראה לי שהם רוצים להבין את מערכות היחסים שיש לך עם אנשים אמיתיים", אמר ג'ושי. "הם מנסים להכיר אותך כמו חבר, וזה, בכנות, די מצמרר".
תגובת מטא: המשתמש בשליטה
לפי מטא, כל משתמש מקבל מכונה וירטואלית (VM) ייעודית, כלומר סביבת מחשוב נפרדת ששומרת את הנתונים וההקשר שלו. סוכנים אחרים לא יכולים לגשת אליה, והמשתמשים יכולים למחוק זיכרונות או לנתק שירותים חיצוניים בכל רגע. החברה מוסיפה ש-Muse מבקש אישור לפני פעולות כמו שליחת מייל או ביצוע רכישה, ושיש בו יומן ביקורת (audit log) שמציג את כל הפעילות של הסוכן ואת התוכניות שלו להמשך.
"כדי שסוכן כלשהו יהיה שימושי, הוא צריך הקשר עליך ועל האנשים שאתה נמצא איתם בקשר", אמר דובר מטא דניאל רוברטס. לדבריו, Muse אוסף את ההקשר הזה "על סמך מידע ציבורי ומתוך מה שבחרת לשתף". כך הוא זוכר, למשל, שמי ששלח לך חשבונית הוא השרברב ששכרת בעבר לעבודה בחדר האמבטיה, או אילו פרחים בן או בת הזוג שלך אוהבים במיוחד.
למה זה חשוב
צ'טבוטים שעוקבים אחרי מידע חברתי הם לא דבר חדש. אנשים מבקשים מ-ChatGPT עצות לזוגיות כבר שנים. ההבדל הוא בזהות החברה: למטא יש היסטוריה ארוכה וגישה רחבה לנתוני הרשתות החברתיות שלה. המשמעות, ככל הנראה, היא שמשתמש שמחבר את Muse לחייו לא מוסר רק מידע על עצמו. הוא מוסר גם מידע על אנשים שמעולם לא הסכימו לכך.
"אנחנו נותנים למערכות AI הרבה יותר מידע עלינו ממה שאנחנו מקבלים מהן", אמרה קריסה וליז, פרופסור חבר במכון לאתיקה ב-AI באוניברסיטת אוקספורד. "זה לא רק מה שאנחנו אומרים להן במפורש, אלא גם מה שהן יכולות להסיק עלינו, נכון או לא נכון, ושני המצבים מדאיגים מסיבות שונות, ומה שהן יכולות להרכיב ממקורות מידע אחרים".