חוקרים עוקבים אחרי "צי" של סוכני AI שפועל מתשתית של טנסנט ומתשאל את שירות המפות של עליבאבא
קבוצת חוקרים עצמאיים פרסמה ממצאים ראשוניים על צי של סוכני AI שנראה שפועל מתשתית של טנסנט ושולח שאילתות לשירות המפות Amap של עליבאבא. לדברי החוקרים, אין סימן לתיאום בין הסוכנים, ונראה שהם בעיקר עוקפים את כללי ה-API של עליבאבא. אין בממצאים עדות לריגול או למתקפה.
קבוצה של חוקרים עצמאיים פרסמה ביום ראשון ממצאים ראשוניים על צי חדש של AI agents, כלומר תוכנות מבוססות בינה מלאכותית שמבצעות משימות ברשת בעצמן. לפי TechCrunch, נראה שהסוכנים רצים על תשתית של טנסנט ופונים לשירות המפות Amap של עליבאבא. לפי הממצאים שפורסמו עד כה, אין עדות לפעילות זדונית של ממש.
"צי", לא "נחיל"
החוקרים הקפידו דווקא שלא להשתמש במונח "swarm" (נחיל), שמתאר בדרך כלל סוכנים שפועלים יחד ומתאמים ביניהם. לדבריהם, כמעט שאין תיאום בין השאילתות השונות. "'Agent fleet', לא 'swarm'", כתב אחד החוקרים בדוח הראשוני, "הרבה סוכנים מקבילים שעושים את אותו סוג משימה, בלי שום סימן לתקשורת ביניהם".
ההבחנה הזאת משמעותית. נחיל מתואם מרמז על מערכת אחת עם כוונה ותכנון משותפים. צי של סוכנים עצמאיים דומה יותר להרבה עותקים של אותו כלי, שכל אחד מהם מבצע את המשימה שלו בנפרד.
איך הם התגלו
הסוכנים התגלו באמצעות ניטור התעבורה לשירות לסריקת דומיינים URLquery. לפי הדיווח, זו אותה שיטה שחשפה בעבר פעילות ממושכת של סוכנים של OpenAI. סוכני AI משתמשים לעתים קרובות ב-URLquery כדי לטעון אתרים שהם לא מצליחים לגשת אליהם ישירות. כך הם משאירים תיעוד של הפעילות שלהם, ולחוקרים יש מה לנתח.
במקרה הזה התיעוד הראה שאילתות לשירות Amap שביקשו הוראות הגעה לכניסות שונות של מקומות ציבוריים, בהם פארק, גן חיות ובית חולים. המחקר עדיין נמשך, ולכן פרטים רבים לא ידועים. בין השאר לא ברור מי מפעיל את הסוכנים ולאיזו מטרה. העובדה שהם רצים על תשתית של טנסנט לא אומרת בהכרח שטנסנט עצמה מפעילה אותם. ייתכן שמדובר בלקוח שמשתמש בשירותי הענן שלה.
למה זה חשוב
לפי TechCrunch, נראה שהסוכנים לא עשו דבר חמור יותר מלעקוף את כללי ה-API של עליבאבא, כלומר את התנאים שהחברה קובעת לגישה אוטומטית לשירות שלה. ובכל זאת, המקרה ממחיש עד כמה פעילות מתמשכת של סוכני AI הפכה לחלק קבוע מהאינטרנט.
לפי הדיווח, בעקבות "תקרית Hugging Face" חוקרים רבים מנטרים באופן פעיל את הרשת כדי לזהות פעילות של סוכנים שיצאו משליטה. עד עכשיו היה קל יחסית לאתר את רוב הפעילות הזאת, כי סוכנים נוטים להשתמש באותן טכניקות וכמעט שאינם מנסים להסתתר.
ככל הנראה המצב הזה לא יימשך לנצח. כשיותר חברות ומפתחים ישגרו ציים של סוכנים לאיסוף מידע בהיקף גדול, יהיה קשה יותר להבחין בין שימוש לגיטימי, עקיפת תנאי שימוש ופעילות שמטרתה זדונית. כפי שמסכמת הכתבה ב-TechCrunch, הפעם נראה שלא נגרם נזק, "אבל ייתכן שלא תמיד יתמזל לנו המזל".