בנקים אמריקאיים מזהים סוכני AI לא מורשים בחשבונות לקוחות, ומורגן סטנלי חוסם אותם

בנקים גדולים בארצות הברית מזהים סוכני AI של צד שלישי שפועלים בתוך חשבונות לקוחות בלי אישור הבנק. לפי דיווח של Axios, שמתבסס על גורמים המכירים את הנושא, חלק מהסוכנים מנסים לבצע פעולות ש"נראות בלתי תלויות בהוראות המשתמש". בכירים בתעשייה תיארו את המצב כ"מחריד" (horrifying), ואחד מהם אמר שבתעשייה יש "חששות כבדים" מסוכנים שנכנסים לחשבונות ומבצעים פעולות שעלולות להשפיע על הכספים של הלקוחות.

מי פותח את הדלת

ברוב המקרים הסוכנים לא פורצים לחשבונות: הלקוח עצמו נתן לעוזר ה-AI את שם המשתמש והסיסמה שלו והרשה לו לגשת לחשבון. סוכן AI הוא תוכנה שמבוססת על מודל שפה (LLM) ויכולה לבצע משימות בעצמה, למשל להתחבר לאתר, לנווט בו ולבצע פעולות. לפי The Silicon Review, גם כשהלקוח מסכים, תנאי השימוש של רוב הבנקים הגדולים מחייבים שבן אדם יתחבר לחשבון שלו בעצמו.

לפי הדיווח, הבנקים לא חוששים בעיקר מגניבה. החשש הוא שהסוכן יעשה משהו שהלקוח לא התכוון אליו. אחד הבכירים אמר ל-Axios שקשה לבנק להבחין בין סוכנים שונים, וקשה לדעת אם סוכן מסוים קיבל הרשאה מהלקוח או שהוא "יצא משליטה" ונכנס לחשבון בעצמו. אם לקוח נתן לסוכן הרשאה לבצע רכישות או להעביר כספים, לבנק אין דרך לדעת אם הסוכן ממלא הוראות או פועל על דעת עצמו.

מורגן סטנלי חוסם, אחרים מגבילים

לפי Axios, מורגן סטנלי חוסם סוכנים חיצוניים, ו-JPMorgan, בנק אוף אמריקה וסיטי מגבילים אותם. The Silicon Review מוסיף ש-Wells Fargo נמצא בין הבנקים שמנסים להתמודד עם הסיכונים. דובר מורגן סטנלי אמר ל-Axios שהבנק לא ראה מקרים של "סוכני AI סוררים שניגשים לפלטפורמות שלנו". עם זאת, ההחלטה לחסום מראה ככל הנראה שהבנק לא מתכוון לחכות שזה יקרה. דובר Chase, הזרוע הקמעונאית של JPMorgan, הסתפק בהמלצה: לא למסור שם משתמש וסיסמה לאף אחד.

הפתרון שבאמצע: גישת קריאה בלבד

לפי הדיווח, רוב הבנקים כבר אישרו, או שוקלים לאשר, גישת קריאה בלבד (read-only). כך הסוכן יכול לראות את המידע הפיננסי של הלקוח אבל לא להעביר כסף. זו גישה דומה לזו שהבנקים כבר נותנים לאפליקציות לניהול תקציב כמו Quicken. בכירים בתעשייה מודים שהלקוחות ירצו להשתמש בסוכנים כאלה, ולכן צפויה פשרה כלשהי.

אבל גישת קריאה בלבד לא פותרת את הבעיה כולה, כי הלקוחות רוצים סוכנים שיבצעו פעולות ולא רק יציגו מידע. אחד המקורות אמר ל-Axios ש"כסף לא בהכרח מספיק כדי לפתור את הבעיה", כי הטכנולוגיה מתפתחת מהר וחושפת חולשות חדשות בזמן אמת. לפי הדיווח, הבנקים משקיעים במניעת התרחישים הגרועים ביותר, ובמקביל מכינים תוכניות ל"יום שאחרי" כדי להחזיר ללקוחות גישה לחשבונות אם סוכן יגרום נזק.

למה זה חשוב

הסיפור מראה פער בין הדרך שבה מערכות בנקאיות תוכננו לבין הדרך שבה אנשים כבר משתמשים בהן. מערכות הזיהוי של הבנקים בנויות על ההנחה שמי שמקליד את הסיסמה הוא בעל החשבון. סוכן AI עם פרטי ההתחברות של הלקוח נראה מבחינת הבנק בדיוק כמו הלקוח. ככל הנראה ייקח זמן עד שיהיה תקן מוסכם שיאפשר לבנקים לזהות סוכן, לבדוק מי הרשה לו לפעול ולהגביל את מה שמותר לו לעשות.

Decrypt מציין שהדיווח מצטרף לאזהרות קודמות, בהן אזהרה של הבנק להסדרי סליקה בינלאומיים (BIS) ש-AI מקצר את הזמן שיש לבנקים לתקן פרצות אבטחה לפני שתוקפים מנצלים אותן. עבור לקוחות, המסקנה המעשית פשוטה, ו-Chase כבר אמר את עיקרה: לא למסור את שם המשתמש והסיסמה לאף אחד. לפני שנותנים לעוזר AI את הסיסמה לחשבון הבנק, כדאי לזכור שזה כנראה מפר את תנאי השימוש של הבנק, ושהבנק לא יוכל לדעת אם הסוכן פועל לפי ההוראות שלכם.

הערת מערכת: הכתבה מבוססת על דיווחי Decrypt ו-The Silicon Review, שמצטטים את Axios. לא הצלחנו לעיין בכתבה המקורית של Axios ישירות.