מאסק ביקש מגרוק להזמין לו לגו, וחשף בטעות כתובות וספרות מכרטיס האשראי שלו
אילון מאסק פרסם צילום מסך של הזמנת לגו שגרוק ביצע עבורו, וחשף בו שתי כתובות בטקסס, כתובת דוא"ל, מספר הזמנה וספרות מכרטיס האשראי שלו. כל זה קרה בזמן שהוא ממליץ למשתמשים לצלם את כרטיסי האשראי שלהם ולהעלות אותם לצ'אט עם גרוק.
אילון מאסק ניסה להראות כמה קל לקנות באמצעות בינה מלאכותית, ובדרך חשף מידע אישי. הוא ביקש מגרוק, הצ'אטבוט של חברת xAI שבבעלותו, למצוא ולהזמין ערכות לגו של מלחמת הכוכבים, ושיתף את התוצאה ביותר מ-240 מיליון העוקבים שלו ב-X. לפי ynet, צילום המסך שפרסם כלל כתובת למשלוח באוסטין שבטקסס, כתובת נוספת לחיוב, כתובת דוא"ל, מספר הזמנה וארבע הספרות האחרונות של כרטיס אמריקן אקספרס.
"ביקשתי מגרוק למצוא את ערכות הלגו של מלחמת הכוכבים שהכי כיף לילדים קטנים לשחק בהן ולהזמין אותן. זה פשוט עד כדי כך", כתב מאסק. לפי צילום המסך מאתר לגו, ההזמנה הושלמה: חמישה פריטים בסכום כולל של 241.34 דולר.
"רמת אבטחת מידע"
גולשים הבחינו בפרטים מהר. International Cyber Digest, חשבון X שעוסק באבטחת מידע, שיתף את התמונה והוסיף בציניות: "רמת אבטחת מידע: לשדר את כתובת הבית שלי ואת פרטי ההזמנה ל-242 מיליון עוקבים". מאסק הגיב וטען שזו לא כתובת המגורים שלו: "זו הכתובת שמקבלת את הדואר שלי, דרך אגב, לא המקום שבו אני גר".
גם אם זה נכון, פרסום כתובת פיזית שמזוהה עם אחד האנשים המוכרים והשנויים במחלוקת בעולם הוא ככל הנראה סיכון מיותר. מעבר להצפה אפשרית בדואר ובחבילות, הכתובת חשופה עכשיו גם למשלוחים חשודים, וזה מסכן את מי שמטפל בדואר במקום. כפי שמציינים ב-ynet, בשלב זה אין אינדיקציה לאיום קונקרטי.
"פשוט תצלמו את כרטיס האשראי"
התקלה מגיעה בזמן שמאסק מקדם את יכולות הקנייה של גרוק. בפוסט נוסף מסוף השבוע הוא כתב: "כדי לקנות דברים, אתם יכולים פשוט לצלם את כרטיס האשראי שלכם, להעלות את התמונה לצ'אט, וגרוק יחפש באינטרנט את העסקה הטובה ביותר עבור המוצר שאתם רוצים ויזמין אותו".
ההמלצה הזו מתנגשת במדיניות של החברה עצמה. xAI מזהירה משתמשים לא למסור לגרוק מידע אישי ורגיש. לפי מדיניות הפרטיות שלה, החברה עשויה לשמור תוכן שמשתמשים מעלים, כולל תמונות, ולהשתמש בו לשיפור השירות ולאימון מודלים. שיחות שנמחקו אמורות לרדת מהמערכות בתוך 30 יום, בכפוף לחריגים מסוימים. המשמעות היא שתמונה של כרטיס אשראי, כולל המספר המלא ותאריך התוקף, עלולה להישאר זמן מה בשרתים של xAI.
הסוכן שבאמצעותו בוצעה ההזמנה, Grok Bot, נועד לבצע משימות בכלים דיגיטליים, למשל גלישה באינטרנט ושימוש באתרים. מצילום המסך אי אפשר לדעת אם ההזמנה בוצעה באופן אוטונומי לגמרי או שמאסק נדרש לאשר את התשלום בעצמו.
למה זה חשוב
גרוק הוא חלק ממגמה רחבה. OpenAI, גוגל ואנתרופיק מפתחות סוכני AI, כלומר מערכות שלא רק עונות על שאלות אלא מבצעות פעולות בשם המשתמש: גולשות, משתמשות בשירותים מקוונים ומזמינות מוצרים. ככל שהסוכנים האלה מקבלים יותר הרשאות וגישה לחשבונות ולמידע פיננסי, כך גדלים הסיכונים במקרה של טעות, פריצה או שימוש לרעה.
הפרשה הזו ממחישה את הבעיה בקטן. מאסק לא נפגע מכשל של הבינה המלאכותית אלא מהרגע שבו שיתף את התוצאה בלי לבדוק מה רואים בה. כנראה זה מה שיעסיק את התחום בשלב הבא: לא רק אם סוכן AI מסוגל לקנות בשבילנו, אלא מה קורה למידע הפיננסי שנמסר לו, כמה זמן הוא נשמר, ומי אחראי כשמשהו משתבש.