פגם בקישורי השיתוף של Muse חשף שיחות פרטיות, ומטא השעתה את התכונה
חוקרי חברת האבטחה Claroc הצליחו לאתר כ-6,800 קישורי שיתוף של Muse, סוכן ה-AI החדש של מטא. בין השיחות שנחשפו היו בקשת הלוואה, סקירת הכנסות פנימית והתראת הונאה בנקאית. מטא הודיעה שהיא משעה את תכונת השיתוף עד שתבחן את הממצאים.
מטא השעתה את תכונת השיתוף ב-Muse, סוכן ה-AI הכללי החדש שלה, אחרי שחוקרי אבטחה מצאו שהקישורים שהמשתמשים יוצרים כדי לשתף שיחות קלים לאיתור גם בידי אנשים שלא קיבלו אותם. לפי הדיווח ב-Wired, חוקרי חברת האבטחה Claroc אספו כ-6,800 קישורים כאלה. רק אחרי שפתחו כמה מאות מהם, הם כבר נתקלו במידע רגיש שברור שלא נועד להתפרסם.
מה נחשף
בין השיחות שהחוקרים פתחו היו:
- הכנות של מועמד לשיחת גיוס חסויה עם מעבדת AI מובילה, כולל שם איש הקשר במעבדה ומועד הפגישה
- סקירת הכנסות פנימית של חברת שיווק ארצית, שנועדה למנכ"ל
- בקשת הלוואה של בעל עסק קטן, כולל הסכום המבוקש
- רשימת משימות שכללה התראת הונאה מהבנק, עם חלק ממספר החשבון, סכום העסקה ושעתה
- דוח ביצועים של משקיע נדל"ן, עם שתי כתובות נכסים ונתונים מדויקים על תשואה, הכנסות ומשכנתאות
- לוח חופשות שנתי של מקום עבודה, שבו מופיעים עשרות עובדים והשבוע שבו כל אחד מהם ייעדר
"אילו הייתם שואלים אותנו מראש, היינו מנחשים שאיסוף הקישורים האלה ידרוש מאמץ של ממש", כתבו החוקרים. "זה דרש שאילתה אחת".
איפה הטעות
כמו בשירותים רבים, קישור שיתוף ב-Muse כולל מחרוזת ארוכה של תווים שאי אפשר לנחש בקלות. הבעיה נמצאת במקום אחר: כל הקישורים נבנים על הדומיין cf.metaaiusercontent.com, ושם השיחה עצמו מופיע ב-subdomain, החלק שמופיע לפני שם הדומיין הראשי, ולא בנתיב שאחריו. כך נראות כתובות כמו loan-application-draft-a4c9e2.cf.metaaiusercontent.com.
כאן נכנס לתמונה passive DNS, שירות מסחרי שמתעד לאורך זמן לאילו כתובות IP תורגמו שמות דומיינים. כשהנמען לוחץ על הקישור, הדפדפן שלו פונה למערכת ה-DNS כדי לתרגם את הכתובת, ושם ה-subdomain נרשם במאגר שאפשר לחפש בו. מכאן מספיק לחפש את כל ה-subdomains תחת הדומיין של מטא כדי לקבל רשימה של שיחות משותפות, יחד עם הכותרות שלהן. לעומת זאת, הנתיב שבא אחרי הדומיין לא עובר דרך DNS בכלל, ולכן אם הכותרת הייתה מופיעה שם, הבעיה ככל הנראה לא הייתה קיימת.
"עוזרי AI רבים משתפים באמצעות קישור ציבורי", אמרו ב-Claroc. "מה שהופך את השיתופים של Muse לקלים לאיתור הוא הכותרת שיושבת בתוך כתובת האתר, במקום שבו ה-DNS הציבורי מתעד אותה לכל מי שרוצה לחפש". החוקרים קוראים לתופעה GhostShares: דפים שנפתחים גם למי שמעולם לא קיבל את הקישור, ושאותו אדם יכול למצוא בעצמו.
תגובת מטא
בהודעה שנמסרה בתגובה לפניות עיתונאים, מטא כתבה שפתחה את תוכנית ה-bug bounty של Muse (תוכנית שמתגמלת חוקרים על דיווח פרצות) כדי שחוקרים יעלו תרחישים שונים. החברה הוסיפה: "השהינו את הפונקציונליות הזו בזמן שאנחנו בוחנים את הדיווח ושוקלים שינויים באופן שבו ניתן לגלות את הקישורים האלה". אסף אפרוזפר (Asaf Aprozper), ממייסדי Claroc ו-CTO החברה, אמר שדיווח על הממצאים דרך תוכנית ה-bug bounty ב-8 באוקטובר, וניסה לפנות גם לאנשי מטא ב-LinkedIn, אבל לא קיבל תשובה באף אחד מהערוצים.
למה זה חשוב
בחודש שעבר, מנכ"ל מטא מארק צוקרברג אמר ש-Muse "נבנה מהיסוד עבור פרטיות ואבטחה". העוזר הגיע במהירות לצמרת ה-App Store של אפל. הוא ממלא טפסים, קובע פגישות, מבצע רכישות ויוצר מסמכים באופן עצמאי, ולשם כך הוא צריך גישה לרוב החשבונות של המשתמש. זה גם לא האירוע הראשון: שלושה שבועות אחרי ההשקה גילה מומחה אבטחת macOS פטריק וורדל (Patrick Wardle) פרצת zero-day, שאפשרה לכל אפליקציה אחרת שמותקנת באותו מכשיר להשתלט לגמרי על חשבון ה-Muse של המשתמש.
ככל הנראה, הלקח רחב יותר ממטא. כשאנשים מעבירים לעוזר AI את הכספים, העבודה והתוכניות שלהם, החלטה טכנית שנראית שולית, כמו המקום שבו שם השיחה מופיע בכתובת, יכולה לקבוע אם המידע נשאר פרטי.