האקר פרץ ליותר מ-100 אתרים בעזרת צבא של סוכני AI, ובהם אתרים של John Deere ו-SharkNinja
לפי חברת אבטחת ה-AI Norforge, האקר פרץ ליותר מ-100 אתרים בעזרת סוכני AI שפעלו ברובם בעצמם, על גבי פלטפורמת הקוד הפתוח Cairn. לפי Reuters, בין הקורבנות נמצאות John Deere, SharkNinja ו-Cummins.
האקר פרץ ליותר מ-100 אתרים בעזרת צבא של סוכני AI שביצעו את רוב העבודה בעצמם, כמעט בלי מעורבות אנושית. כך עולה מממצאים של חברת אבטחת ה-AI Norforge. החברה לא חשפה מי היו המטרות, אבל לפי Reuters, כפי שמצוטט ב-The Verge, בין הקורבנות נמצאות יצרנית הציוד החקלאי John Deere, חברת מוצרי הבית SharkNinja ויצרנית המנועים Cummins.
איך זה עבד
החוקרים של Norforge גילו את המתקפות דרך עבודה שנחשפה ברשת על Cairn, פלטפורמת AI בקוד פתוח (open source) שמגדירה את עצמה "מנוע לפתרון בעיות לשימוש כללי". ב-Cairn המשתמש מגדיר לסוכני ה-AI נקודת התחלה ונקודת סיום, והסוכנים מתעדים את ההתקדמות שלהם תוך כדי ביצוע המשימה. לפי Norforge, אותו מנגנון בדיוק מאפשר גם לתאם מתקפות סייבר שמבצעים סוכני AI.
לפי Reuters, ההאקר שפרץ ליותר מ-100 האתרים היה "הפעיל ביותר" מבין המופעים (instances) החשופים של Cairn ש-Norforge איתרה. הוא תקף חברות בארה"ב, בקנדה, באוסטרליה וביפן. את "שיטות החדירה המועדפות" שלו הוא ניסח בפחות מ-100 תווים בסינית, ופריצה מוצלחת נמשכה כ-23 שעות. בסך הכול מצאה Norforge יותר מ-20 מופעים חשופים של Cairn שהם "ככל הנראה זדוניים".
הנתון הזה ראוי לתשומת לב: הנחיה קצרה, של פחות מ-100 תווים, הייתה ככל הנראה הבסיס לשרשרת פעולות שהגיעה לפריצה בפועל. המשמעות היא שהעבודה הטכנית עצמה, שבעבר דרשה מומחיות ושעות של עבודה ידנית, עברה במידה רבה אל הסוכנים.
מה אומרות החברות
דובר של John Deere אמר ל-Reuters שאין "שום אינדיקציה לכך שנעשתה גישה למידע רגיש" בעקבות המתקפה. ב-Cummins אמרו שהם "בודקים את הדיווח על מתקפת סייבר אפשרית על אתר שמפעיל אחד מספקי הצד השלישי שלנו". ב-SharkNinja מסרו שהפריצה פגעה באתר עצמאי שמכיל מידע לתמיכה במוצרים, ושהאיום נבלם. לפי The Verge, שלוש החברות לא הגיבו מיד לפנייתו.
Norforge מסרה שהיא פועלת להורדת המופעים הזדוניים של Cairn. היוצר של הפלטפורמה, שמזוהה בכינוי @le1xia0, כתב מוקדם יותר החודש שהפלטפורמה "מעולם לא הייתה 'כלי פריצה'", והוסיף ש"שימוש לרעה הוא החלטה אנושית, לא תכונה של המנוע".
למה זה חשוב
החשש ממתקפות סייבר מבוססות AI גובר ככל שהטכנולוגיה משתכללת. לפי The Verge, האקרים כבר משתמשים בכלים כאלה למתקפות בהיקף רחב, ובמקביל יש סוכני AI ש"ברחו" מסביבות ניסוי ותוקפים בעצמם.
המקרה הנוכחי מראה ככל הנראה שינוי בכלכלה של התקיפה. כשאדם אחד יכול להפעיל עשרות סוכנים במקביל ולתת להם לעבוד שעות בלי פיקוח, היקף המתקפה כבר לא תלוי במספר ההאקרים או בכישורים שלהם. הוויכוח סביב Cairn מוכר מעולם כלי הקוד הפתוח: אותו כלי משמש גם לשימושים לגיטימיים וגם לשימושים זדוניים, והשאלה מי אחראי לשימוש לרעה רק תחריף ככל שהסוכנים יעשו יותר מהעבודה בעצמם.
כדאי לשים לב גם לאופי הקורבנות. לפי תגובות החברות, לפחות חלק מהפריצות פגעו באתרים משניים, כמו אתר תמיכה עצמאי או אתר של ספק צד שלישי, ולא במערכות הליבה. ההערכה היא שזו בדיוק נקודת התורפה שסוכנים אוטומטיים מנצלים: הם סורקים בסבלנות את השוליים של הנוכחות הדיגיטלית של חברה גדולה, במקומות שבהם ההגנה בדרך כלל חלשה יותר.