אלכס סטמוס: הבינה המלאכותית ערערה את עולם הסייבר, ואנחנו נכנסים ל"עידן אפל"

אלכס סטמוס, מנהל האבטחה הראשי (CSO) של חברת Cognition ומרצה במרכז למדיניות סייבר של אוניברסיטת סטנפורד, סבור שהבינה המלאכותית שינתה את כללי המשחק באבטחת מידע. בראיון לפודקאסט Decoder של The Verge הוא אמר לעורך הראשי נילאי פאטל שהתעשייה נמצאת בתחילתו של "עידן אפל": גורמים פרטיים לצד גורמים מדינתיים, כמו רוסיה וצפון קוריאה, משתמשים ב-AI כדי לאתר חולשות ולנצל אותן במקביל. הפרק הוא הראשון בסדרה מיוחדת של The Verge על AI בחיים האמיתיים.

חודש של פריצות ברצף

אוקטובר הוא באופן מסורתי "חודש המודעות לאבטחת מידע", ובחברות רבות זו התקופה שבה מזכירים לעובדים להחליף סיסמאות ולהשתמש במנהל סיסמאות. לדברי סטמוס, אוקטובר האחרון נראה אחרת. מלבד כמה באגים גדולים שזכו לתשומת לב, למשל ב-PHP וב-Node, הוא מציין שמספר גדול של חברות נפרץ, וזה דווקא דובר פחות.

ברשימה שלו מופיעות חברות "ניאו-קלאוד" (ספקיות ענן ממוקדות AI) שנפרצו בזו אחר זו, ופריצת Binance, שהוא מכנה "השוד הגדול ביותר של משהו בהיסטוריה האנושית". הדוגמה המפורטת ביותר שהביא היא אירוע Cursor, ולדבריו היא ממחישה איך מתקפות שונות מתחברות לשרשרת אחת. לפי מה שידוע כרגע, כך אמר, תחילה נפרצה Fireworks, ספקית שירותי AI לחברות רבות. ממנה נגנבו מפתחות API, ובעזרתם התוקפים חדרו ל-Cursor. משם הם הפיצו plugin (תוסף) זדוני שהגיע ל-5,000 חברות נוספות, כלומר 5,000 פריצות פוטנציאליות. סטמוס מתאר את המצב כ"פריצה קבועה ומתמשכת" בכל תעשיית הטכנולוגיה.

את מצב הרוח בקרב אנשי האבטחה הוא מסכם בסיפור על חבר שמכהן כ-CISO (מנהל אבטחת מידע), ששאל את עמיתיו: "מישהו עוד עייף?" כולם ענו בחיוב. לדברי סטמוס, הם נמצאים בכוננות DEFCON 2 לאורך כל אוקטובר ועכשיו גם בנובמבר.

שרשרת ההרג נעשית אוטומטית

כשנשאל מי עומד מאחורי המתקפות, סטמוס השיב שמדובר בקבוצות שונות. לדעתו, הסיבה העיקרית אינה החלטה של יריב מסוים להסלים, אלא קפיצה ביכולות התוקפים בזכות AI. לדבריו, מודלי open-weight, כלומר מודלים שהמשקלות שלהם פתוחים לכל מי שרוצה להוריד ולהריץ אותם, הגיעו לרמה שמאפשרת לבצע אוטומטית את רוב "שרשרת ההרג" (kill chain).

את המונח הזה, הסביר, עולם הסייבר שאל מהצבא. בסייבר הוא מתאר את כל השלבים שנדרשים כדי להשיג השפעה על מטרה: לגנוב מידע, להשבית מערכת, לגנוב כסף או ביטקוין. בעבר עבודת ההכנה נעשתה מראש: חוקרים תוכנה, מוצאים חולשה, כותבים exploit (קוד שמנצל אותה), ורק אז אדם מפעיל את מה שנבנה. המשמעות של אוטומציה לכל אורך השרשרת היא ככל הנראה שהתהליך מתקצר ומתרחב לאין שיעור, והיתרון של המגינים, שנשען על הזמן שלקח לתוקפים להתכונן, נשחק.

אווירה של שנות ה-90

סטמוס משווה את התקופה לשנות ה-90, כשהרעיון של עולם שמחובר לרשת כל הזמן היה חדש לגמרי. גם עכשיו, כך לדבריו, יש תחושה של "ספר פרוע", ושיבוש בהיקף כזה פותח פרצות רבות לתוקפים בזמן שכל השאר מתקשים להדביק את הקצב. לדברי פאטל, סטמוס טוען שתעשיית אבטחת הסייבר, ששווה מיליארדי דולרים, אינה עומדת בקצב גלי הפריצות שה-AI מאיץ, ושזו רק ההתחלה.

למה זה חשוב

החשיבות של הדברים נובעת ממי שאומר אותם. לסטמוס ניסיון ארוך בתחום, והוא מדבר מתוך חברה שפועלת בלב שוק כלי הפיתוח מבוססי AI. סיפור Cursor ממחיש שבמערכת שבה כל חברה תלויה בשרשרת ספקי AI, פריצה לחוליה אחת יכולה להתגלגל לאלפי ארגונים. לגבי הטווח הארוך סטמוס אינו פסימי, אבל ההערכה שלו היא שהשלב הקרוב יהיה קשה ושההסתגלות תיקח זמן. בהמשך הראיון השניים דנו גם בשאלה איך רשתות חברתיות יוכלו להתמודד עם דיסאינפורמציה ותוכן זבל (slop) שמיוצרים בעזרת AI.