פרדוקס בטיחות: כלי AI חושפים גל חולשות ענק, בזמן שהמעבדות דנות בהאטה
בעוד מעבדות AI מובילות דנות בהאטה מתואמת של פיתוח מודלים מתקדמים מחשש לתרחישי אסון עתידיים, כלי AI קיימים כבר גורמים בפועל לזינוק חסר תקדים במספר חולשות האבטחה המתגלות בתוכנה. מיקרוסופט דיווחה על עלייה חדה בכמות התיקונים החודש, בעוד אורקל וגוגל דיווחו על קפיצות משמעותיות בחודשים שלפני כן, ולפי נתוני פרויקט cve.icu, מספר חולשות ה-CVE הכולל שנרשמו כבר עולה על כפול מהכמות שנרשמה באותו שלב אשתקד.
בזמן שמנהיגי תעשיית ה-AI דנים בהסכם משותף להאטת פיתוח מודלים מתקדמים — מתוך חשש לתרחישי אסון עתידיים כמו AI "סורר" — כלי AI קיימים כבר יוצרים בפועל תופעה מקבילה ומיידית: זינוק חד במספר חולשות האבטחה המתגלות בתוכנה. כך עולה מהגיליון הראשון של Kernel Panic, ניוזלטר אבטחת סייבר חדש של לילי היי ניומן ומאט ברגס מ-Wired.
לפי הכתבה, מיקרוסופט הודיעה כי הנפיקה החודש תיקונים ל-974 חולשות CVE (Common Vulnerabilities and Exposures — מסד נתונים מוסכם לתיעוד חולשות תוכנה מאומתות), שיא חדש עבור החברה. אורקל פרסמה בחודש יולי 1,448 תיקונים, לעומת 309 בלבד ביולי אשתקד. גוגל כרום, בשתי גרסאות מרכזיות שיצאו ביוני, כלל 1,072 תיקוני חולשות — יותר מסך כל התיקונים שפורסמו ב-23 הגרסאות הגדולות שקדמו לו יחד. מוזילה דיווחה כי באפריל איתרה 271 חולשות בדפדפן פיירפוקס בסבב ציד חולשות בודד, באמצעות מודל בשם Mythos של Anthropic.
הנתונים המצטברים מציגים תמונה דומה: לפי ג'רי גמבלין, ראש תחום המחקר ב-Empirical Security ומייסד RogoLabs שמנהל את פרויקט ניתוח החולשות cve.icu, נרשמו עד יום רביעי השבוע 66,401 חולשות CVE. לשם השוואה, עד ה-16 בספטמבר אשתקד עמד המספר על 33,512 — כמעט מחצית מהכמות הנוכחית. בשנת 2022 כולה, שבה השיקה OpenAI את הגרסה הראשונה של ChatGPT, נרשמו בסך הכול כ-25,000 חולשות.
מה זה אומר בפועל
יותר חולשות מתועדות אינו בהכרח שווה יותר סכנה — כך לפחות טוען גמבלין: "אני לא חושב שזה מנופח. מה שהייתי מערער עליו זה הרעיון שמספר גדול יותר הוא הנזק עצמו. יותר CVE זה לא יותר פגיעות, זה יותר פגיעות ידועות — וזה בעיקר סימן שהמערכת עובדת." אך גם המרכז הלאומי לאבטחת סייבר הבריטי (NCSC), כפי שמצוטט בכתבה, מזהיר כי "עצם מציאת חולשות לא משפרת את האבטחה שלכם" — כלומר גילוי המוני לא שווה ערך לתיקון בפועל.
החשש המרכזי, לפי הכתבה, הוא שקצב גילוי החולשות יעקוף את קצב יכולתם של צוותי פיתוח ואבטחה — רבים מהם מצומצמים במשאבים, כולל מתנדבי קוד פתוח — לתקן ולפרוס עדכונים, ובמקביל שתוקפים ישתמשו באותם כלי AI כדי לאתר בעצמם חולשות חדשות לניצול. מתיו אולני, מנהל מודיעין האיומים בסיסקו סיסטמס, מתאר זאת כמרוץ הדדי: "גורמי תקיפה, בדיוק כמו התעשייה, מנסים להבין — איפה אני משתמש ב-AI?"
המשמעות המרכזית העולה מהכתבה היא שגם אם הסכם או רגולציה יאטו בעתיד את קצב פיתוח מודלים חזקים יותר, מהלך כזה לא יוכל לעצור את גל החולשות שכבר נוצר על ידי כלי AI קיימים וזמינים כיום — כולל מודלים בקוד פתוח (open weight). הפער בין הדיון התיאורטי על סיכוני AI עתידיים לבין ההשפעה המעשית שכבר מתרחשת על תשתית התוכנה העולמית, ככל הנראה, רק ילך ויתרחב.