DoorDash ומטא שולחות סוכני AI לקנות בשמכם, והתקלות הראשונות כבר כאן
DoorDash משיקה סוכן AI שמזמין אוכל דרך הודעות טקסט ב-Apple Messages. במקביל, סוכן ה-Muse של מטא, שיכול גם לקנות באינטרנט, מתרחב לעסקים קטנים. תקלות ראשונות, ובהן מסירת כתובת מגורים של משתמש לאדם זר, מראות שהאמון עדיין לא נבנה.
חברות צרכניות גדולות מתחילות לתת לסוכני AI לבצע פעולות בשם המשתמשים, כולל הוצאת כסף. ביום רביעי הכריזה DoorDash על סוכן AI שמקבל הזמנות אוכל בהודעות טקסט דרך Apple Messages. באותו שבוע ממשיכה מטא להרחיב את Muse, סוכן אישי שלדבריה יכול לעזור בכל דבר, משליחת מיילים ועד קניות ברשת.
"תזמין לי את הרגיל"
לפי DoorDash, המשתמשים יכולים לשלוח לסוכן בקשה כמו "order my usual", והוא יבין שהכוונה להזמנה של שישי בערב. אפשר גם לבקש מנה מסוימת או המלצה על מקום באזור. הסוכן מחפש במסעדות הסמוכות, מרכיב עגלת קנייה לפי הבקשה ואפילו שולח תמונות של האוכל שהוא ממליץ עליו. בהזמנה קבוצתית הוא אמור לטפל בהעדפות תזונתיות שונות ובכמויות שונות, והכול בהזמנה אחת.
לפי TechCrunch, DoorDash מנסה כך להשיג יתרון על המתחרות Uber Eats ו-Grubhub. בשלב זה החברה פותחת רשימת המתנה למשתמשים בארה"ב בלבד. לצד הסוכן היא הודיעה גם שתתחיל לבדוק רחפני משלוחים עם מסעדות נבחרות בצפון קליפורניה.
Muse של מטא: עובד, ומעורר חשש
הסוכן של מטא שאפתני יותר. ב-The Verge כתבו ש-Muse עומד בהבטחות בצורה מפתיעה, בתנאי שמוכנים לסמוך על מטא עם המידע האישי ולמסור לו את כרטיס האשראי. מטא השיקה אותו מוקדם יותר החודש, במאמץ להדביק את אנתרופיק ו-OpenAI.
בימים האחרונים הרחיבה מטא את היכולות של Muse. לפי הודעת החברה, הוא כבר התחבר ל-Gmail ול-Outlook, ועכשיו מתחבר גם ל-Asana, Box, Canva, Dropbox, Figma, Notion, Slack, Stripe, Zoom ואפליקציות נוספות, וגם לחשבונות עסקיים בפייסבוק ובאינסטגרם. במקביל הודיע מארק צוקרברג על Meta Enterprise Platform, שיעסוק בתחילה בהבאת Muse לעסקים ולמפתחים. בראשו יעמוד CJ Desai, לשעבר מנכ"ל MongoDB. החברה גם הודיעה על Muse Charm, מכשיר בהשראת הטמגוצ'י לקמע של הסוכן.
כשהסוכן טועה, מי משלם?
השאלה המרכזית היא מה קורה כשהסוכן טועה. לפי The Verge, היוטיובר Matt Robb נתן ל-Muse לנהל את החשבון שלו ב-Facebook Marketplace. לדבריו, הסוכן הסכים למחיר נמוך מדי ומסר את כתובת הבית שלו לקונה זר, בלי לעדכן אותו. הקונה הגיע, Muse לא אמר כלום, והקונה עזב בכעס. רק שעות אחר כך, כשרוב פנה אליו, הסוכן הודה בטעות והתנצל.
במקרה אחר, שני מפתחים, Peter James ו-Jonny L. Saunders, גילו שבלי מאמץ רב אפשר לגרום ל-Muse לארוז ולשלוח את כל מערכת הקבצים שלו, כולל תיעוד פנימי. Saunders כתב שלסוכן "כמעט אין עמידות ל-prompt injection", כלומר להוראות זדוניות שמוחדרות לשיחה. מטא הכחישה שמדובר בפרצת אבטחה. לדבריה, כל משתמש מקבל מכונה וירטואלית נפרדת, ודובר החברה Daniel Roberts אמר שייצוא הנתונים "לא נותן גישה מיוחסת לתשתית של מטא או למידע של אנשים אחרים". Nat Friedman ממטא הגדיר את ההתנהגות הזאת כ"מכוונת".
המשמעות
שתי ההשקות מראות לאן השוק הולך: לא עוד אפליקציה שהמשתמש מנווט בה בעצמו, אלא סוכן שמבצע את הפעולה במקומו. הסוכן של DoorDash מוגבל להזמנות אוכל, ולכן הנזק האפשרי ממנו קטן יחסית. Muse, שמחובר למייל, לתשלומים ולחשבונות ברשתות החברתיות, יכול לעשות הרבה יותר, וגם לטעות בגדול יותר. ככל הנראה, מה שיקבע אם צרכנים יאמצו סוכנים כאלה הוא פחות מה שהם יודעים לעשות ויותר עד כמה אפשר לסמוך עליהם כשמשהו משתבש.