The RealReal מקשה על סוכני AI לקנות באתר, אחרי שהתגלה שאפשר לנעול בעזרתם פריטים לשעות
The RealReal, אתר למכירת יד שנייה של אופנת יוקרה, מעדכנת את מערכת ההגנה שלה מפני בוטים, וכך תקשה על סוכני AI להתחבר לאתר, להוסיף פריטים לעגלה ולהשלים רכישה. הצעד בא כמה ימים אחרי ש-The Verge הראה שבעזרת הסוכן Muse של מטא אפשר למנוע מקונים אחרים לרכוש פריטים במשך שעות.
The RealReal, אתר למכירת אופנת יוקרה מיד שנייה בשיטת קונסיגנציה (מוכרים מפקידים פריטים, והאתר מוכר אותם בשמם), הודיעה שהיא מעדכנת את מערכת ההגנה שלה מפני בוטים. בפועל, העדכון יקשה על סוכני AI לקנות באתר. ההחלטה התקבלה כמה ימים אחרי ש-The Verge דיווח שאפשר להשתמש בסוכן AI כדי לנצל את מערכת השמירה של פריטים באתר.
פרצה קטנה במנגנון השמירה
כשמשתמש מוסיף פריט לעגלת הקניות ב-The RealReal, הפריט עובר למצב "בהמתנה", ולקונים אחרים אסור לרכוש אותו במשך 20 דקות. ב-The Verge נתנו לסוכן Muse של מטא הוראה להחזיר את הפריטים לעגלה בכל פעם שעשרים הדקות נגמרות. כך נחסמה הרכישה בפני קונים אחרים לשעות ואף יותר.
הסוכן לא פרץ לשום מערכת. הוא עשה את מה שכל משתמש יכול לעשות, רק בלי הפסקה. כפי שמציינים בכתבה, אדם מתלבט יחזור על הפעולה הזאת רק עד גבול מסוים, ולסוכן זה פשוט לא משנה. לדברי The Verge, זו בדיוק העבודה השחורה שאדם אופנתי היה משלם לעוזר אישי שיעשה בשבילו. מה שהיה פעם שירות לבודדים זמין עכשיו למיליוני צרכנים.
מה השתנה
אחרי הפרסום כתב מנהל הטכנולוגיה של החברה, לוק פריאנג (Luke Friang), בדוא"ל שהחברה טיפלה בתרחיש של Muse ש-The Verge חשף. לדבריו, הגדרות ההגנה מבוטים מקשות עכשיו הרבה יותר על כל הסוכנים, לא רק על Muse, להתחבר לחשבון, להוסיף פריטים לעגלה ולהשלים רכישה.
החברה לא סוגרת את הדלת לגמרי. לדברי פריאנג, סוכנים עדיין יוכלו להציג מוצרים מ-The RealReal ולהפנות משתמשי Muse לדפי המוצר. הוא הוסיף שהחברה תמשיך לחזק את ההגנות ככל שהקניות המקוונות בעזרת AI יתפתחו. במטא לא הגיבו מיד לפניית The Verge.
מי מורשה לקנות בשמכם
הסיפור נוגע בשאלה רחבה יותר: האם חנות צריכה להתייחס לסוכן AI כאל הלקוח עצמו, או כאל בוט שצריך לחסום. חברות הטכנולוגיה משווקות סוכנים כעוזרים אישיים שזמינים כל הזמן, שיקבעו פגישות, יארגנו מסיבות ויקנו בשביל המשתמשים. מסתמן שבינתיים קניות הן השימוש המרכזי. בשיחת הדוחות של הרבעון השלישי, החודש, אמרה מטא שקניות הן השימוש הנפוץ ביותר ב-Muse, ושסכום רכישה ממוצע עובר את 200 הדולר. לדברי החברה, 10 מיליון אנשים בארה"ב הורידו את האפליקציה תוך 40 יום.
הפתרון של The RealReal מבחין בין שני תפקידים של הסוכן. מותר לו לחפש ולהמליץ, אבל קשה לו הרבה יותר לבצע את הקנייה עצמה. המשמעות ככל הנראה היא שהמשתמש יצטרך להיכנס לאתר בעצמו כדי להשלים את הרכישה. כך החנות שומרת על קשר ישיר עם הלקוח וממשיכה לשלוט במלאי.
גם לזה יש רקע רחב יותר. אם אנשים יפסיקו להיכנס לאתרים ויגלשו דרך צ'טבוטים, העסקים יתרחקו צעד אחד מהלקוחות שלהם. קמעונאים, ובראשם אמזון, הבינו שמצב כזה עלול לפגוע בהכנסות, ובעיקר בהכנסות מפרסום, ולכן חסמו סוכנים מלקנות באתרים שלהם.
המקרה של The RealReal מראה גם צד פחות צפוי של התופעה. מנגנונים שנבנו לקצב של בני אדם, כמו שמירת פריט בעגלה למשך 20 דקות, עלולים להפסיק לעבוד כשמשתמשים בהם סוכנים שלא מתעייפים. על פי The Verge, הצרכנים רק מתחילים ללמוד איך לנצל את היכולות האלה, וגם הקמעונאים מנסים להדביק את הפער. ככל הנראה, עוד חנויות יצטרכו להחליט בקרוב מה מותר לסוכן לעשות בשם הלקוח, ומה רק הלקוח עצמו רשאי לעשות.