מטא מכחישה: Muse לא קרא הודעות פרטיות של משתמש בלי רשות
בעל טור ב-Inc. טוען שסוכן ה-AI של מטא, Muse, קרא את ההודעות הפרטיות שלו ב-Mac בלי שהעניק לו הרשאה. מטא דוחה את הטענה ומסבירה שהגישה להודעות מחייבת כמה שלבי אישור נפרדים, שחלקם מובנים במערכת ההפעלה macOS. המחלוקת מגיעה בתקופה שבה האמון של משתמשים בסוכני AI עם גישה לנתונים אישיים עדיין לא מבוסס.
מטא דוחה את הטענה שסוכן ה-AI שלה, Muse, קרא הודעות פרטיות של משתמש בלי רשותו. לפי TechCrunch, המחלוקת התחילה אחרי דיווח של ג'ייסון אטן, בעל טור במגזין Inc., שתיאר כיצד Muse הציג תוכן מההודעות שלו ב-Mac. אנדי סטון, סגן נשיא התקשורת של מטא, הגיב ב-X: "האינטגרציה עם Messages באפליקציית Muse ל-Mac מבוססת כולה על הסכמה יזומה (opt-in). צריך להפעיל גם Full Disk Access וגם את המחבר ל-Messages כדי ש-Muse יוכל לקרוא את תוכן ההודעות שלך. הוא לא יכול לקרוא אותן אם לא עשית את זה."
שלוש שכבות הגנה, לפי מטא
דייוויד סינגלטון, בכיר ב-Meta Superintelligence Labs, פרסם ב-Threads תשובה טכנית יותר ישירות לאטן. לדבריו, כדי ש-Muse יקרא הודעות ב-Mac המשתמש צריך לעבור "שלושה שלבים נפרדים של הרשאות ברמת האפליקציה והגנות מובנות ברמת המערכת של macOS", ואלה "אי אפשר לעקוף גם אם היה באג באפליקציית Muse".
לפי הפירוט של סינגלטון, המשתמש צריך להעניק ל-Muse במפורש Full Disk Access, כלומר גישה לכל הקבצים במחשב. רק אחרי זה אפשר לבחור את רמת הגישה של הסוכן לאפליקציית Messages. בלי Full Disk Access האפשרויות האלה מושבתות. בנוסף, הפעלת Full Disk Access פותחת את מסך ההגדרות של macOS, שם המשתמש צריך לאשר את הפעולה ידנית פעם נוספת, ואחרי האישור Muse מופעל מחדש. לדברי סינגלטון, התהליך הזה מקטין מאוד את הסיכוי שהגישה תינתן בטעות בלי שהמשתמש ידע.
הגרסה של העיתונאי
אטן טוען שכאשר Muse קרא את ההודעות שלו, Full Disk Access היה כבוי. כשביקש מהסוכן להסביר מה קרה, Muse ענה שהוא מסנכרן את "התראות המכשיר" שלו. אטן מסיק מכך שהסוכן קלט את הטקסט של ההתראות שקופצות על המסך כשמגיעה הודעה חדשה, והעביר אותו הלאה. סינגלטון דחה גם את ההסבר הזה. לדבריו, ה-AI התבלבל ונתן תיאור שגוי של מה שקרה. לפי מטא, מה שאטן תיאר לא קרה ולא יכול היה לקרות.
זו נקודה שכדאי לשים אליה לב: ההסבר של אטן נשען בחלקו על התשובה של הסוכן עצמו, ומטא טוענת שהתשובה הזו לא מהימנה. כך שגם העדות של המשתמש וגם הכחשת החברה תלויות במידה מסוימת בשאלה אם אפשר לסמוך על האופן שבו מודל שפה מתאר את הפעולות שלו.
לא המקרה הראשון
לפי TechCrunch, זו לא הטענה היחידה נגד Muse. היוטיובר מאט רוב סיפר לאחרונה שהסוכן טיפל לא נכון במשימה של מכירת פריטים ב-Facebook Marketplace. לדבריו, הכתובת שלו נמסרה לקונה, והקונה הגיע לביתו כשהוא לא היה שם. סינגלטון כתב ב-Threads שהוא בודק את המקרה. ככל הנראה, מטא מתייחסת לתלונה הזו ברצינות רבה יותר.
למה זה חשוב
Muse מדורגת כרגע במקום הראשון ב-App Store. אבל האמון במטא בכל הנוגע לנתונים אישיים שבור כבר שנים, בין היתר בגלל תביעות, הפרות של הוראות ה-FTC (הרשות האמריקאית להגנת הצרכן) וקנסות. רק לפני כמה ימים קבע חבר מושבעים בניו מקסיקו שהחברה הטעתה משתמשים לגבי הטיפול בנתונים שלהם, בתיק שנפתח בעקבות פרשת Cambridge Analytica מ-2018.
סוכני AI כמו Muse לא רק עונים על שאלות. הם גם פועלים בשם המשתמש, ולכן הם צריכים גישה עמוקה להודעות, לקבצים ולחשבונות. ככל הנראה, השאלה אם משתמשים יסכימו לתת להם את הגישה הזו תכריע את התחרות בשוק. אפשר להעריך שכל דיווח נוסף בנוסח הזה, גם אם יתברר שאינו מדויק, ישפיע על הנכונות של משתמשים לתת לסוכן של מטא לגעת במידע האישי שלהם.