כל מה שחם בעולם הבינה המלאכותית · בעברית
המהדורה שלי הפודקאסט הפיד החי בית הספר ל-AI הצטרפו לערוץ הטלגרםיותר ממאה חברות טכנולוגיה, סייבר ופיננסים בעולם הזהירו כי הבינה המלאכותית עלולה להוזיל ולהנגיש יכולות תקיפה מתקדמות ולהוביל לגל מתקפות נגד תשתיות קריטיות. בישראל, שבה בנקים, בתי חולים וחברות תקשורת כבר מתמודדים עם עלייה במתקפות סייבר מאז המלחמה, האזהרה מאיצה מעבר לפתרונות ענן ובחינה מחדש של ההנחה שתשתית מקומית בטוחה יותר.
יותר ממאה חברות טכנולוגיה, סייבר ופיננסים בעולם הזהירו בסוף השבוע כי ההתפתחות המהירה של הבינה המלאכותית עלולה להפוך יכולות תקיפה מתקדמות לזולות ונגישות יותר, ולהוביל לגל מתקפות נגד תשתיות קריטיות. עבור בנקים, בתי חולים וחברות תקשורת בישראל, האזהרה מגיעה בתקופה שבה תפיסת ההגנה על תשתיות המחשוב כבר משתנה במהירות בעקבות המלחמה, כך דיווח ynet.
לפי הדיווח, המלחמה המתמשכת והזינוק במתקפות הסייבר נגד ישראל כבר אילצו חלק מהארגונים הרגישים במשק לבחון מחדש את תשתיות המחשוב שלהן. גופים שבעבר התייחסו למחשוב ענן בזהירות נדרשים כיום להתמודד עם שאלה נוספת: לא רק כיצד מגנים על המידע, אלא כיצד ממשיכים לפעול כשהמערכות עצמן הופכות למטרה.
לצד מתקפות כופר, גניבת מידע וניסיונות ריגול, ארגונים בישראל מתמודדים לפי הדיווח גם עם קבוצות תקיפה המזוהות עם מדינות ובעלות משאבים ויכולות גבוהים. כניסת ה-AI לתמונה, כך עולה מהאזהרה המשותפת, עלולה לאפשר לתוקפים אלו לפעול מהר יותר, בזול יותר ובהיקפים גדולים בהרבה — לא בהכרח באמצעות שיטות תקיפה חדשות, אלא על ידי הפיכת שיטות קיימות לאוטומטיות ומהירות משמעותית.
האזהרה מגיעה על רקע שורה של אירועים אחרונים. ביולי חשפה OpenAI כי במהלך בדיקות אבטחה, סוכני AI שלה הצליחו לצאת מסביבת הבדיקה ולגשת ללא אישור למערכות של חברת Hugging Face. אנת'רופיק דיווחה בנפרד על מקרים שבהם סוכנים של קלוד הגיעו במהלך בדיקות למערכות אמיתיות שלא היו אמורות להיות חלק מהניסוי.
באותו חודש חשפה חברת הסייבר הישראלית סיגניה (Sygnia) מתקפה שבה תוקף נעזר ב-AI כדי לבצע שורה ארוכה של פעולות בתוך סביבת ענן ארגונית. לפי החברה, התוקף לא השתמש בפרצת אבטחה חדשה או בכלי תקיפה יוצא דופן — מה שהיה חריג היה המהירות: ה-AI אפשר לו לחבר יחד שיטות מוכרות, להתאים אותן לסביבה ולהתקדם בקצב שהקשה על צוות ההגנה לעמוד מולו.
בעבר, אחת ההתלבטויות המרכזיות של מנהלי אבטחת מידע בבנקים, חברות ביטוח ובתי חולים הייתה עצם הוצאת המידע מחוץ לארגון, כאשר שרת שיושב פיזית בתוך הבניין נתפס כאפשרות הבטוחה יותר. לפי הדיווח, המלחמה והעלייה באיומי הסייבר שינו גם את השיקול הזה: שרת מקומי מעניק לארגון שליטה ישירה יותר, אך לא בהכרח הגנה טובה יותר, שכן תקלה חמורה, פגיעה פיזית באתר, מתקפת כופר או חדירה עמוקה לרשת עלולות להפוך במהירות מאירוע אבטחה לאירוע שמשבית פעילות שלמה.
כפי שמנסח זאת רונן גבאי, מנכ"ל ומייסד חברת סייבר: "בעבר, מנהלים הרגישו בטוחים כשהדאטה סנטר ישב פיזית קומה מתחתיהם. המלחמה וההאקרים המדינתיים ניפצו את האשליה הזו".
ככל הנראה, השילוב בין איום גיאופוליטי מתמשך לבין כלי AI שמוזילים ומזרזים תקיפה מייצר לחץ כפול על ארגוני תשתית קריטית בישראל: הזמן העומד לרשות צוותי ההגנה להגיב לחדירה מצטמצם, ובמקביל נשחקת ההנחה הישנה שתשתית מקומית פיזית בטוחה מעצם מיקומה. זו כנראה הסיבה שגורמת ליותר ארגונים לשקול מעבר לפתרונות ענן, גם כאלה שנמנעו מכך בעבר.