אמריקן אקספרס מציגה מסגרת שנועדה למנוע מסוכני AI לבצע רכישות שהמשתמש לא אישר

סוכני AI אישיים כבר מבצעים רכישות בשם המשתמשים שלהם, ומכאן עולה שאלה שחברות האשראי צריכות לענות עליה: מה קורה כשהסוכן קונה משהו שהלקוח לא ביקש? אמריקן אקספרס מציגה תשובה משלה. היא השיקה מסגרת בשם Intent Intelligence Framework, שתפקידה לתעד ולאמת את כוונת הרכישה של הלקוח לפני שהסוכן משלים את העסקה. החברה מקווה שהמסגרת תאומץ כתקן בתעשייה לעסקאות שמבצעת AI.

הבעיה: מודלים שלא תמיד עושים מה שביקשו

מודלי שפה גדולים (LLM) פועלים באופן שאינו דטרמיניסטי. כלומר, אותה בקשה לא תמיד תוביל לאותה תוצאה, ולכן סוכנים שמבוססים עליהם עלולים לעשות דברים שלא התבקשו. בעולם הקניות, טעות כזאת יכולה להסתיים בחיוב שהלקוח מעולם לא אישר.

"בעסקאות החדשות האלה יהיו צרכן, בית עסק וסוכן", אמרה האנה בוזיאן, סגנית נשיא לשותפויות ואסטרטגיה בתחום הסוכנים באמריקן אקספרס, בראיון ל-TechCrunch. לדבריה, החברה רוצה שעסקאות כאלה יישארו "חלקות, אמינות ומאובטחות, כפי שבעלי הכרטיס מצפים".

לפי החברה, עדיין לא נרשמה עלייה במחלוקות על חיובים (disputes) בגלל קניות של סוכנים. היא מציגה את המהלך כצעד מקדים, לקראת התרחבות התחום. לפי סקר Trendex של החברה, 66% מהצרכנים שנסקרו בארה"ב אמרו שסביר שישתמשו בסוכני AI כדי לחפש את המחיר הטוב ביותר למוצר או לשירות ב-12 החודשים הקרובים. 61% אמרו שסביר שישתמשו בהם כדי לקבל המלצה על מוצר או שירות.

איך זה עובד

התהליך מתחיל ב-Create Intent API, ממשק שקולט את הוראות הרכישה של הלקוח יחד עם המגבלות שהגדיר: שם בית העסק, תקציב מקסימלי והעדפות לגבי המוצר. הלקוח מאמת את זהותו ומאשר את הכוונה כפי שהסוכן ניסח אותה. אחר כך נוצרים שני רכיבים: Intent ID, מזהה ייחודי של הכוונה, ו-Proof of Intent Token, אסימון שמכיל את המגבלות העיקריות שהלקוח קבע.

באמצעות האסימון הסוכן מקבל אמצעי תשלום דיגיטלי מאובטח, ובו הוא משתמש בקופה במקום במספר כרטיס האשראי האמיתי של הלקוח. לפי החברה, אפשר להשתמש במזהה ובאסימון גם בשלבים מאוחרים יותר של העסקה, למשל במניעת הונאות ובבירור מחלוקות.

בוזיאן נתנה דוגמה: לקוח מבקש מהסוכן לקנות נעלי Nike לבנות במידה 9, והסוכן מגיש בקשה לרכוש נעליים של Adidas. במקרה כזה אמריקן אקספרס תוכל לעצור את העסקה. "הגישה שלנו שונה ממימושים של אחרים בכך שהיא מכניסה את הכוונה מוקדם יותר לתהליך העסקה", אמרה, "וזה חשוב כי זה עוזר לצמצם סיכון לפני שהוא מתממש".

מסוכן ששואל לסוכן שפועל לבד

לדברי בוזיאן, סוכנים רבים כיום מבקשים את אישור הלקוח לפני רכישה. ואולם החברה צופה עתיד שבו סוכנים יפעלו במקרים מסוימים באופן עצמאי הרבה יותר. למשל, סוכן שמזמין מחדש מוצרי צריכה בסיסיים כמו מגבות נייר או נייר טואלט, תחום שבו המגבלות היחידות הן מחיר וגודל ולא מותג או חנות. בתרחישים כאלה, לדבריה, הגיוני שתהיה טכנולוגיה שבודקת שהעסקה תואמת את כוונת הלקוח. תיעוד של מה אושר, לאיזה סוכן ומתי, יכול גם לעזור בהתמודדות עם הונאות שמבוצעות באמצעות הסוכן.

המסגרת היא חלק מ-ACE Developer Toolkit (קיצור של Agentic Commerce Experiences), ערכת הכלים למפתחים שאמריקן אקספרס השיקה באפריל. החברה מסרה שהיא כבר מנהלת שיחות עם שותפים בתחום התשלומים על הטמעת ACE, ושהיא מתכוונת להמשיך לפתח את הערכה.

למה זה חשוב

המשמעות העיקרית נוגעת לשאלת האחריות. כשקנייה עוברת דרך סוכן, קשה יותר לקבוע אם הלקוח באמת התכוון לבצע אותה. רשומה מאומתת של מה שהלקוח אישר, שנוצרת עוד לפני התשלום, יכולה ככל הנראה לשמש בסיס להכרעה במחלוקות. עם זאת, השאלה אם המסגרת תהפוך לתקן תלויה בעיקר בגורמים אחרים בתחום התשלומים, כלומר אם יאמצו אותה.