Meta Muse חושפת שיחות ששותפו: שאילתה אחת מספיקה

משתמשים שמשתפים שיחות ב-Meta Muse של מטא חושפים, ככל הנראה בלי לדעת, מידע אישי ועסקי רגיש. כך עולה מדיווח באתר Ars Technica. לפי הדיווח, כדי לאתר אלפי שיחות כאלה, שמופיעות ברשימה לפי הכותרת שלהן, צריך להריץ שאילתה אחת בלבד.

מה קרה

כותרת הדיווח ב-Ars Technica מסכמת את הבעיה: Meta Muse חושפת סודות אישיים ועסקיים של משתמשים כשהם משתפים שיחות. לפי הכתבה, שאילתה אחת מחזירה אלפי שיחות, וכל אחת מהן מזוהה לפי הכותרת שלה.

חומרי המקור שעמדו לרשותנו לא מפרטים איך בדיוק מתבצעת השאילתה, אילו סוגי מידע נחשפו ומה הייתה תגובת מטא. לכן לא נכתוב על הפרטים האלה.

למה כותרת היא כבר דליפה

בשירותי צ'אט מבוססי AI, כותרת השיחה נוצרת בדרך כלל אוטומטית ומסכמת במשפט קצר את מה שהמשתמש ביקש. גם אם אף אחד לא פותח את השיחה עצמה, הכותרת יכולה לגלות לא מעט: שם של לקוח, פרויקט פנימי של חברה, בעיה רפואית או משפטית. כשאלפי כותרות כאלה מרוכזות ברשימה אחת שקל לשלוף, מי שמחפש מקבל מאגר שלם שאפשר לסרוק, ולא רק דליפה בודדת.

הפער בין "לשתף" ל"לפרסם"

כפתור שיתוף בצ'טבוט נועד בדרך כלל לשלוח שיחה לחבר או לעמית. סביר להניח שמשתמשים רבים מבינים את הפעולה כשליחה של קישור פרטי, ולא כפרסום פומבי שכל אחד יכול למצוא. כשהממשק לא מבהיר את ההבדל, אחריות על פרטיות עוברת בפועל מהחברה למשתמש. מבחינת המשתמש, זו הסיבה שהפגם הזה ככל הנראה חמור יותר מבאג טכני רגיל.

זו לא הפעם הראשונה שתכונות שיתוף בכלי AI מעוררות חששות פרטיות. הבעיה החוזרת היא שאנשים מדברים עם צ'טבוטים בכנות שהם לא היו מרשים לעצמם בפורום ציבורי. הם מעלים טיוטות של חוזים, מתייעצים על עניינים אישיים ומדביקים קוד או נתונים של החברה.

המשמעות

לחברות הדיווח הזה הוא תזכורת: עובדים שמשתמשים בכלי AI צרכניים לצורכי עבודה עלולים להוציא החוצה מידע עסקי בלי שאיש בארגון ידע על כך. למשתמשים פרטיים ההמלצה המעשית פשוטה: להניח שכל שיחה ששותפה עשויה להיות גלויה לכולם, לבדוק אילו שיחות שותפו בעבר ולמחוק את הקישורים שכבר לא נחוצים.

השאלה שעדיין פתוחה היא אם מטא תשנה את ברירות המחדל של תכונת השיתוף ואת האופן שבו היא מסבירה אותה למשתמשים. ברגע שאפשר לאתר אלפי שיחות בשאילתה אחת, כבר קשה לטעון שמדובר בבעיה שולית.