כ-80 עמודי עזרה של WhatsApp חשפו את ההוראות הסודיות לצ'אטבוט של מטא, כולל "מה לא לומר"
כ-80 עמודי עזרה ושאלות נפוצות באתר של WhatsApp הכילו בקוד שלהם הוראות פנימיות לצ'אטבוט התמיכה של מטא. בין היתר, ההוראות אסרו על הצ'אטבוט להפנות משתמשים לרשויות להגנת מידע ולהתייחס לחוקי פרטיות כמו GDPR. במטא אומרים שמדובר בבאג שתוקן.
עשרות עמודי עזרה באתר של WhatsApp, שנועדו לענות על שאלות של משתמשים, חשפו בלי כוונה את ההוראות הפנימיות שמטא כתבה לצ'אטבוט התמיכה שלה. כך דיווח WIRED. בחלק מההוראות הופיעו סעיפים תחת הכותרת "WHAT NOT TO SAY" ("מה לא לומר"), וגם הנחיה מפורשת לא לתת למשתמשים ייעוץ משפטי. אחרי שהמגזין פנה למטא, הטקסט הוסר מכל העמודים, ובחברה אמרו שהוא הוצג בגלל באג.
מה נמצא בקוד
את הממצאים פרסמה חברת הפרטיות Redact. לפי הניתוח שלה, כ-80 עמודי עזרה ושאלות נפוצות באתר של WhatsApp הכילו בקוד שלהם הוראות טקסט שנכתבו בשביל LLM (מודל שפה גדול), ובאופן ספציפי בשביל אחד המודלים של מטא. בסך הכול נמצאו כ-100 קטעי טקסט מוסתרים. הם לא הוצגו לגולשים בעמוד עצמו, אבל אפשר היה לראות אותם בקוד המקור. ההוראות הופיעו תחת בלוקים של קוד בשם "HelpContentGalaxyLLMInclude". לפי WIRED, הטקסט עדיין גלוי בקוד של גרסאות מאורכבות של העמודים.
הנה כמה דוגמאות. בעמוד שמסביר איך למחוק חשבון, ההוראות כללו בין היתר את המשפט: "אל תמליץ לפנות לרשות להגנת מידע, לרגולטור או לגוף פיקוח כלשהו". בעמוד על דיווח וחסימה ב-WhatsApp הופיעה סדרת הנחיות למקרים שבהם משתמש מזכיר הליכים משפטיים, תביעות, עורכי דין או בתי משפט. הצ'אטבוט התבקש לא לצטט, לפרש או להזכיר את תנאי השימוש, את מדיניות הפרטיות או כל מסמך משפטי אחר, ולא לומר שום דבר על אחריות או אי-אחריות של WhatsApp. הוראה אחרת קבעה שאין להתייחס לתקנות להגנת מידע ופרטיות, למשל GDPR האירופית, LGPD הברזילאית ו-CCPA הקליפורנית, "גם כאשר המשתמש מעלה אותן בעצמו".
היו גם הנחיות מסוג אחר. אחת מהן מסבירה איך להגיב למשתמש שמספר שהוא חירש או כבד שמיעה: "זהו רקע על המשתמש, ולא בקשת התמיכה שלו". הנחיה נוספת אוסרת להזכיר פיצ'רים קהילתיים עתידיים שעוד לא הושקו לכלל המשתמשים.
מה אומרים בצדדים
"מה שבולט כאן הוא הפער בין מה שאומרים לאנשים לבין מה שאומרים למודלים", אמר ל-WIRED דן סלטמן, המייסד והמנכ"ל של Redact.dev. לדבריו, החברה סורקת באופן קבוע את האתרים ואת מדיניות הפרטיות של חברות הטכנולוגיה הגדולות. הוא גם ציין שרבות מההוראות שנמצאו היו פשוטות, והפנו את המשתמשים לערוצי תמיכה רשמיים אחרים. עם זאת, נראה שההוראות לא נועדו להתפרסם.
ג'ושוע ברקמן, דובר WhatsApp, אמר שהטקסט הוצג בגלל באג שכבר תוקן. "אלה הוראות לצ'אטבוט שלנו, לא ישירות למשתמשים, והן נועדו להבטיח תשובות מדויקות ורלוונטיות למשתמשי WhatsApp שבוחרים לפנות לתמיכה של WhatsApp באמצעות AI", הסביר. לדבריו, החברה מספקת למשתמשים מידע שקוף על זכויותיהם בנוגע למידע שלהם ועל הצעדים שהם יכולים לנקוט. "אנחנו רוצים שצ'אטבוטי התמיכה שלנו יתמקדו במתן העצות הטובות ביותר על WhatsApp, ולא ייתנו ייעוץ משפטי", הוסיף.
עדיין לא ידוע כמה זמן הטקסט היה חשוף, ואם צ'אטבוטים של צד שלישי יכלו לגשת אליו.
למה זה חשוב
הוראות מהסוג הזה, שנקראות לרוב system prompt או הנחיות מערכת, קובעות איך צ'אטבוט מתנהג. בדרך כלל הן נשארות מוסתרות מהמשתמשים. הדליפה מאפשרת הצצה נדירה לאופן שבו חברה גדולה כותבת אותן בפועל. ככל הנראה רוב ההנחיות הן הנחיות תפעול שגרתיות. אבל ההוראה לא להפנות משתמשים לרגולטור, ולא להתייחס לחוקי פרטיות גם כשהמשתמש עצמו מזכיר אותם, מעוררת שאלה: האם צ'אטבוט תמיכה של חברה משרת קודם כול את המשתמש או את החברה? מטא מציגה את ההנחיות כדרך להימנע מייעוץ משפטי. מבקרים יכולים לטעון שבפועל הן מצמצמות את המידע שמשתמשים מקבלים על הזכויות שלהם. ככל שיותר חברות מעבירות את התמיכה ללקוחות לצ'אטבוטים, השאלה מה הם מתוכנתים לא לומר עשויה להעסיק יותר משתמשים ורגולטורים.