רגולטורים פיננסיים התכנסו בהונג קונג לדון בפיקוח על סוכני AI בבנקים ובשווקים
רגולטורים בכירים מרחבי העולם, בהם מנכ"לית רשות ניירות הערך של הונג קונג ג'וליה לונג, התכנסו בהונג קונג לדון בפיקוח על סוכני AI שפועלים באופן עצמאי במערכת הפיננסית, כך לפי South China Morning Post. הדיון נערך ביום שבו נשמעה מהפדרל ריזרב אזהרה מפני מערכות AI אוטונומיות, ותקלת תוכנה שיבשה שירותים בכמה בנקים גדולים בארה"ב. הדיווח אינו קושר את התקלה ל-AI, אבל הוא מראה שהפיקוח על סוכנים שמקבלים החלטות בכסף עדיין בשלב הדיונים.
סיפור מתגלגלכל 3 הכתבות על הנושא, בציר זמן אחד ←רגולטורים בכירים מרחבי העולם, בהם ג'וליה לונג פונג-יי, מנכ"לית רשות ניירות הערך והחוזים העתידיים של הונג קונג (SFC), התכנסו בהונג קונג יחד עם בכירים בתעשייה הפיננסית כדי לדון בשאלה איך מפקחים על סוכני AI שמתפשטים במהירות במערכת הפיננסית העולמית. כך דיווח South China Morning Post.
יום אחד, שלושה אירועים
לפי הדיווח, הדיון בהונג קונג נערך ביום שני, ובאותו יום קרו שני דברים נוספים בארה"ב. תקלת תוכנה שיבשה שירותים בכמה בנקים גדולים, ואחד מחברי מועצת הנגידים של הפדרל ריזרב הזהיר מפני הסיכונים שיוצרות מערכות AI שהולכות ונעשות אוטונומיות.
הדיווח אינו מייחס את התקלה בבנקים ל-AI. הוא מציב את שלושת האירועים זה לצד זה, ולא טוען לקשר סיבתי ביניהם. גם שמות הבנקים שנפגעו, זהות הדובר מהפד ותוכן דבריו המלא אינם מופיעים בחלק הדיווח שעמד לרשותנו.
מה מבדיל סוכן AI מצ'אטבוט
Agentic AI הוא הכינוי למערכות שאינן מסתפקות במענה על שאלות. הן מקבלות מטרה, מפרקות אותה לשלבים ומבצעות פעולות בעצמן, למשל שליחת הוראה, העברת נתונים או הפעלת מערכת אחרת, בלי שאדם מאשר כל צעד.
בפיננסים ההבדל הזה מכריע. צ'אטבוט שטועה נותן תשובה שגויה, ואילו סוכן שטועה עלול לבצע פעולה שגויה בכסף אמיתי. ככל הנראה, זה הרקע לכותרת של SCMP, שמדברת על "סיכונים חדשים ונקודות עיוורון". כלי הפיקוח הקיימים נבנו סביב אנשים שמקבלים החלטות ותוכנות שעושות בדיוק מה שתוכנתו לעשות, ומערכת שמחליטה בעצמה איך להגיע למטרה לא נכנסת בקלות לאף אחת מהקטגוריות.
הרגולטורים עדיין בשלב הדיון
מהדיווח עולה שהמשתתפים "דנו באתגרים", ולא שהכריזו על כללים חדשים. המשמעות, ככל הנראה, היא שהפיקוח על סוכני AI בפיננסים נמצא בשלב מוקדם: הרשויות ממפות את הסיכונים, ועוד לא הגיעו לניסוח חובות מחייבות.
העובדה שהאזהרה מהפד והדיון בהונג קונג התרחשו באותו יום מלמדת שהנושא מעסיק במקביל מפקחים בשני מרכזים פיננסיים מרכזיים. גופים פיננסיים שכבר משלבים סוכני AI בעבודה יכולים להניח, בזהירות, שהרגולטורים ישאלו אותם שאלות מוכרות מתחומים אחרים: מי אישר את הפעולה, איך מתעדים אותה ומי נושא באחריות כשהיא נכשלת.
הדיווח אינו מזכיר קשר ישראלי.
כל בוקר במייל?סיכום חדשות ה-AI של אתמול, בעברית, בדקות קריאה ספורות. חינם, בלי ספאם.
מעדיפים טלגרם?להצטרפות לערוץ ←
ביטול בקליק אחד, בכל מייל · מדיניות פרטיות