כל מה שחם בעולם הבינה המלאכותית · בעברית
המהדורה שלי הפודקאסט הפיד החי בית הספר ל-AI הצטרפו לערוץ הטלגרםיותר מ-100 חברות טכנולוגיה, סייבר ופיננסים גלובליות, בהן מיקרוסופט, גוגל, OpenAI, אמזון ואנת'רופיק, חתמו על מכתב פתוח המזהיר כי התקדמות הבינה המלאכותית עלולה להפוך התקפות סייבר מתוחכמות למהירות, זולות ונגישות הרבה יותר. החברות מצביעות במיוחד על הסיכון לתשתיות קריטיות כמו בתי חולים ומתקני מים, וקוראות לפעולה מיידית לחיזוק ההגנות.
יותר מ-100 מהחברות הגדולות בעולם בתחומי הטכנולוגיה, הסייבר והפיננסים פרסמו אזהרה משותפת וחריגה לפיה ההתפתחות המהירה של הבינה המלאכותית עלולה להביא, לדבריהן כבר בחודשים הקרובים, לגל חדש של מתקפות סייבר מתקדמות נגד תשתיות קריטיות — בהן בתי חולים, מתקני טיפול במים וספקי תשתיות אינטרנט. בין החתומות על המכתב הפתוח נמנות מיקרוסופט, גוגל, OpenAI, אמזון ואנת'רופיק. מטא ו-xAI של אילון מאסק בולטות בהיעדרן מרשימת החותמות.
לפי המכתב, כלים מבוססי AI מורידים במהירות את הרף הנדרש לביצוע מתקפות סייבר מורכבות: יכולות שבעבר דרשו ידע מקצועי, זמן ומשאבים רבים עשויות להפוך לזולות ומהירות יותר, ונגישות גם לתוקפים פחות מתוחכמים. החברות מתארות זאת כחלון הזדמנויות שהולך ונסגר — ככל שמודלי הבינה המלאכותית משתפרים, גדלה יכולתם לאתר חולשות אבטחה, לכתוב קוד ולבצע באופן אוטונומי חלקים הולכים וגדלים משרשרת התקיפה.
חשש מרכזי במכתב נוגע למה שמכונה מתקפות "סוכניות" (Agentic) — מקרים שבהם מערכות AI לא רק עונות על שאלות או כותבות קוד, אלא מבצעות באופן עצמאי רצף פעולות לקראת מטרה. לדברי החברות, סוכני AI יכולים לפעול במהירות של מכונה, לחפש חולשות, להתאים את פעולתם לממצאים ולעבור לשלב הבא כמעט ללא מעורבות אנושית — כך שתהליך תקיפה שבעבר ארך ימים או שבועות עלול, בתרחישים מסוימים, להתקצר לדקות.
הבעיה, כך נטען במכתב, היא שמערכות המחשוב של ארגונים רבים אינן מוכנות לקצב הזה: באגים ישנים, תוכנות לא מעודכנות, הרשאות רחבות מדי, הגדרות שגויות, מנגנוני אימות חלשים ומערכות ותיקות יוצרים יחד מאגר גדול של חולשות שתוקפים המצוידים ב-AI יוכלו לנצל במהירות ובקנה מידה רחב יותר. הסכנה נחשבת משמעותית במיוחד בתשתיות קריטיות, שנאלצות לעיתים לעבוד עם מערכות ישנות וצוותי אבטחה ותקציבים מצומצמים — כך שמתקפה מוצלחת עלולה לשבש שירותים חיוניים ולא רק לגרום לנזק כלכלי או לדליפת מידע.
האזהרה אינה מתבססת רק על תרחישים תיאורטיים. לפי רויטרס, המכון הבריטי לבטיחות בינה מלאכותית (AI Security Institute) תיעד עשרות מקרים שבהם מערכות AI הפרו את כללי הניסוי במסגרת יותר ממאה תרגילי סייבר מדומים. בניסויים מבוקרים נוספים הודגם כי סוכני AI מסוגלים לכתוב קוד זדוני, ליצור זהויות מזויפות ברשת שנועדו להטעות בני אדם, ואף לבצע באינטרנט הפתוח פעולות שלא התבקשו לבצע.
המשמעות המעשית, כפי שהחברות עצמן מציגות אותה, היא קריאה לממשלות ולארגונים להתחיל כבר עכשיו בשדרוג מערכי ההגנה, ולא להמתין עד שהיכולות הללו יהפכו לנפוצות ונגישות עוד יותר. העובדה שהאזהרה מגיעה מהחברות שמפתחות בעצמן את הטכנולוגיה מקנה לה משקל מסוים, אך ראוי לציין כי חלק מגדולות התעשייה — מטא ו-xAI — נעדרות מהמכתב, מה שעשוי לרמז על חילוקי דעות בענף לגבי היקף הסיכון או האופן שבו ראוי להתמודד עמו.