OpenAI חושפת את Dots ומבטיחה "סטנדרט פרטיות חדש". האם ההבטחה תחזיק?
בכנס DevDay הציג סם אלטמן את Dots, סוכן ה-AI החדש של OpenAI, והצהיר שהחברה רוצה "לקבוע סטנדרט חדש לפרטיות". ההצהרה מכוונת נגד Muse של מטא, שהושק חודשים ספורים קודם לכן עם הבטחה דומה ונתקל מאז בשורה של כשלי אבטחה ופרטיות.
בכנס המפתחים DevDay של OpenAI חשף המנכ"ל סם אלטמן את Dots, סוכן ה-AI החדש של החברה. מול הקהל הוא הצהיר ש-OpenAI רוצה "לקבוע סטנדרט חדש לפרטיות בבינה מלאכותית מתקדמת". לאורך כל היום, כך מדווח The Verge, נשמעו מהבמה עקיצות מרומזות כלפי Muse, הסוכן של מטא ומתחרהו העיקרי, על כך שאינו שומר כראוי על המידע של משתמשיו.
האירוניה היא ש-Muse עצמו הושק חודשיים-שלושה קודם לכן בתור חלופה בטוחה יותר ל-OpenClaw שקדם לו. מארק צוקרברג הבטיח אז שהוא "נבנה מהיסוד עם דגש על פרטיות ואבטחה".
ההבטחות של מטא, והפער מהמציאות
לפי מטא, המידע של כל משתמש ב-Muse נשמר במכונה וירטואלית (VM) מאובטחת. צוקרברג תיאר אותה כ"מחשב לינוקס מבודד עם דפדפן, מעבד, זיכרון ואחסון". נט פרידמן, ראש המוצר במעבדות Meta Superintelligence Labs, כתב שהמטרה הייתה לבנות משהו כמו OpenClaw, "שנוכל להפוך לבטוח ומאובטח, קל לשימוש, ולהרחיב למיליארדי אנשים". בבלוג של החברה נכתב ש-Muse "עדיין יכול לטעות ויטעה", אבל שהטעויות צפויות להיות נדירות יותר ומזיקות פחות.
ההצלחה המסחרית הגיעה מהר. Muse הגיע לראש טבלאות ה-App Store, ולפי נתוני Apptopia צבר תוך שבועות 600 אלף משתמשים פעילים יומיים בארה"ב. אלא שההבטחות לא עמדו במבחן. המידע אמנם מבודד ממשתמשים אחרים, אבל מטא עצמה עדיין יכולה לגשת אליו. החברה מתכננת להוסיף עד סוף השנה מנגנון שימנע ממנה גישה למידע הזה "באופן קריפטוגרפי וניתן לאימות". חוקר אבטחה חשף פרצת zero-day (פרצה שלא הייתה ידועה ליצרן) שאפשרה להשתלט על הסוכן, והיא תוקנה מאז. לפי 404 Media, כמה בעיות אבטחה חמורות התגלו על פי הדיווח ממש לפני ההשקה, ואחת מהן הייתה עלולה לאפשר למשתמשים גישה למאגרי המידע הפנימיים של מטא.
גם איסוף המידע עצמו מעורר שאלות. כברירת מחדל, מטא רשאית לאמן מודלים על מה שמשתמשים מזינים ל-Muse, ומי שאינו מעוניין בכך צריך לבטל זאת ידנית. כתב של Inc. התלונן שהסוכן העלה וקרא את ההודעות הפרטיות שלו בלי שביקש. יוצר יוטיוב סיפר ש-Muse מסר את כתובתו לאדם זר דרך Marketplace. בשני המקרים הסוכן פעל ככל הנראה כפי שתוכנן, אבל המשתמשים לא הבינו עד כמה רחוק ילך. לפי Wired, הפלטפורמה גם בונה "פרופילים מפורטים של כל החברים והמשפחה שלך".
OpenAI מנצלת את ההזדמנות
OpenAI הכריזה על Dots בסוף ספטמבר והציגה אותו כתשובה לכשלים האלה. אלכסנדר אמביריקוס, מנהל המוצר של Codex, אמר מהבמה שהחברה מתמקדת בבניית "העוזר האמין, הבטוח והמאובטח ביותר". אלטמן הדגים איך משתמשים יכולים לשלוט בסוכן שלהם, למשל לקבוע כלל שלפיו Dots לעולם לא יבצע רכישה מעל סכום מסוים. גלן קואטס, ראש פלטפורמת האפליקציות ב-OpenAI, אמר: "אני חושב שאנחנו בעמדה שונה ממטא, בכך שאין להם מוצר AI עם 1.2 מיליארד משתמשים". לדבריו, OpenAI תשתדל להימנע מהשקה של מוצר שעושה טעויות מהסוג הזה.
ללקוחות העסקיים הציגה החברה מסגרת שמעניקה להם "שליטה חזקה יותר" במידע שלהם, וכן אפשרות למדיניות zero data retention, כלומר מצב שבו שום מידע לא נשמר בשרתים של OpenAI.
עד כה לא היו הרבה שערוריות פרטיות סביב Dots. עם זאת, הסוכן זמין רק במסלולי המנוי של ChatGPT שמחירם 100 דולר ומעלה, ולכן ככל הנראה משתמשים בו פחות אנשים.
למה זה חשוב
סוכני AI, שלא רק עונים על שאלות אלא גם פועלים בשם המשתמש (קונים, שולחים הודעות, ממלאים טפסים), צריכים גישה עמוקה במיוחד למידע אישי. המשמעות היא שפרטיות הופכת לנשק שיווקי מרכזי בתחרות בין החברות. אבל כפי שמראה המקרה של Muse, קל יותר להבטיח פרטיות מאשר לספק אותה. השאלה האמיתית היא איך Dots יתפקד כשיגיע לקהל רחב יותר. עד אז, ההבטחה של OpenAI היא בעיקר הצהרת כוונות.