אתרים חוסמים סוכני AI, ותקן חדש מנסה להבדיל בין בוט טוב לבוט מזיק

דור חדש של סוכני AI אישיים, ובהם Muse של מטא ו-Dots של ChatGPT, אמור לעשות יותר מלענות על שאלות: להזמין טיסה, לשריין שולחן במסעדה או להזמין מצרכים בשם המשתמש. אבל לפי דיווח ב-TechCrunch, המשתמשים הראשונים נתקלים שוב ושוב באותו מכשול: האתר שבצד השני פשוט לא נותן לסוכן להיכנס.

חסימה מכוונת וחסימה בטעות

הדוגמה הבולטת האחרונה היא אמזון, שהחלה לחסום את Muse באתר הקמעונאות שלה. המשמעות היא שהסוכן של מטא כבר לא יכול לדפדף בקטלוג המוצרים של אמזון או לבצע בו רכישות.

לא כל חסימה היא החלטה עסקית. חלק מהמקרים נובעים מאמצעי הגנה ותיקים נגד בוטים, שנועדו לעצור ספאם ופעילות זדונית. וולמארט היא דוגמה לכך: ברשתות החברתיות הופיעו תלונות שלפיהן Muse לא הצליח להשלים רכישה באתר שלה, ו-NBC דיווחה שהבעיה עלתה גם בבדיקות שהחברה עצמה ערכה לסוכן. ואולם דובר וולמארט מסר ל-TechCrunch שהחסימות אינן מכוונות. למעשה, וולמארט היא שותפה של Muse, כפי שהוכרז בכנס המפתחים Connect של מטא בספטמבר.

לפי TechCrunch, נראה שמקור הבעיה בוולמארט הוא כפתור שהאתר מציג כדי לוודא שהגולש הוא אדם. אם התהליך נקטע, הבדיקה עלולה להיכשל והסוכן נזרק החוצה. המשתמש לא יודע אם החסימה מכוונת או מקרית, ולכן התסכול מופנה גם אל החנות וגם אל הסוכן.

חברות התעופה מהססות

הזמנת טיסות היא אחד השימושים העיקריים שהחברות מקדמות עבור הסוכנים, אבל דווקא כאן ההתנגדות ברורה יותר. דלתא מסרה שהיא נוקטת צעדים כדי להגן על לקוחותיה מפעילות אוטומטית לא מורשית. "אף שלדלתא אין כיום שותפות או אינטגרציה שמאפשרת לסוכן AI חיצוני לחפש או להזמין טיסות של דלתא בשם לקוח בפלטפורמות הדיגיטליות שלנו, אנחנו ממשיכים לבחון כיצד טכנולוגיות חדשות, כולל סוכני AI חיצוניים, יכולות לשפר את האופן שבו לקוחות מתקשרים עם דלתא", אמרה היינה צ'אבדה, המנהלת הכללית של התקשורת הגלובלית בחברה.

יונייטד הסתפקה בהפניה לתנאי השימוש שלה, האוסרים שימוש ב"רובוט, ספיידר או כל מכשיר אוטומטי אחר" ללא אישור מראש ובכתב. החברה לא השיבה לשאלת המשך, האם היא חוסמת סוכנים ספציפיים כמו Muse.

ברשתות החברתיות משתמשים מדווחים, בלי שהדבר אומת, על חסימות גם ב-Yelp, eBay, Zillow, פיצה האט, אדידס ובחברות תעופה נוספות. חלק מהם אף טוענים ש-eBay השעתה את החשבונות שלהם בגלל שימוש בסוכנים.

הניסיון לייצר שפה משותפת

כדי להתמודד עם הבעיה, קבוצת חברות שכוללת את מטא, וולמארט, Stripe, Sierra, Genesys, Rocket, NiCE ו-Decagon החלה לעבוד על תקן פתוח שיגדיר כיצד סוכני AI מתקשרים עם עסקים. לפי מטא, הפרוטוקול יתמקד בתקשורת בין סוכנים (agent-to-agent) לצורכי מסחר מקוון, ומטרתו לעזור להבחין בין "בוטים טובים" שפועלים בשם משתמש לבין בוטים מזיקים.

למה זה חשוב

המקרה של וולמארט ממחיש, ככל הנראה, שכלי האימות שהרשת נשענת עליהם כבר שנים, כמו כפתורי "אני לא רובוט", לא תוכננו לעולם שבו חלק מהגולשים הם סוכנים לגיטימיים. ההבחנה הישנה בין אדם לבוט כבר לא מספיקה.

ייתכן שהשאלה המרכזית תעבור משאלה טכנית לשאלה עסקית: מי מחליט אילו סוכנים מורשים להיכנס, ובאילו תנאים. חסימת Muse על ידי אמזון, מול השותפות של וולמארט עם מטא, מרמזת שגם התקן החדש לא יכריע לבדו. בסופו של דבר כל חברה תצטרך להחליט אם הסוכנים האלה הם ערוץ מכירה חדש, או מתווך שעומד בינה לבין הלקוחות שלה.