סם אלטמן: "נדהם מכמות פרצות האבטחה" שמערכות AI מוצאות
בפאנל בכנס השנתי של אורקל בלאס וגאס אמר מנכ"ל OpenAI, סם אלטמן, שהיכולות שהתפתחו בחצי השנה האחרונה הפתיעו גם אותו, ובהן היכולת של מערכות AI לאתר פרצות אבטחה. הדברים נאמרו על הבמה, ולפי הדיווח לא לוו בנתונים. באותו כנס הציגה אורקל מערכת אבטחה חדשה שמבוססת על המודלים של OpenAI.
מנכ"ל OpenAI, סם אלטמן, אמר שהקצב שבו מערכות בינה מלאכותית חושפות פרצות אבטחה הפתיע גם אותו. לדבריו, תיקון הפרצות יחייב "מאמץ עצום, כמעט הרקולאי". אלטמן דיבר בפאנל בכנס השנתי של אורקל בלאס וגאס, כפי שדיווחה ynet. חשוב לומר כבר בהתחלה: מדובר בדברים שנאמרו על במה. לפי הדיווח, אלטמן לא הציג נתונים, דוגמאות או ממצאים שאפשר לבדוק באופן עצמאי.
מה אמר אלטמן
אלטמן שוחח על הבמה עם קליי מגוירק, המנכ"ל המשותף של אורקל. הוא אמר שגם הוא הופתע מהיכולות שהתפתחו בחצי השנה האחרונה, ואחת מהן היא איתור פרצות אבטחה. "אני נדהם מכמות פרצות האבטחה שהמערכות האלה מוצאות ומהמאמץ שיידרש כדי להדביק את הפער", אמר, לפי הדיווח.
לדברי אלטמן, ה-AI לא יצר את הפרצות. הוא חושף חולשות שהצטברו במערכות מחשוב במשך עשרות שנים. הוא העריך שלא יספיק לתקן כל פרצה בנפרד, ושיידרשו פתרונות חדשים שינטרו את התעבורה ברציפות וימנעו ניצול של חולשות.
המשמעות המעשית של הטענה ברורה: אם מודלים מוצאים חולשות מהר יותר משצוותי פיתוח מספיקים לתקן אותן, הפער הזה מסוכן בפני עצמו. כלים שמשמשים מגינים יכולים לשמש גם תוקפים. עם זאת, בדיווח לא צוין כמה פרצות נמצאו, באילו מערכות ובאיזו חומרה. לכן אי אפשר לבדוק כרגע את גודל התופעה שהוא תיאר.
ההקשר: מוצר אבטחה באותו כנס
כדאי לקרוא את הדברים לצד מה שקרה באותו כנס. אורקל הציגה שם את Oracle AI Security Mesh, מערכת אבטחה חדשה שמבוססת על מודלי הבינה המלאכותית של OpenAI. המערכת אמורה לזהות חולשות ביישומים ובתשתיות של ארגונים, לנתח את הסיכונים ולהציע דרכים לתקן אותם, גם בענן וגם בשרתים מקומיים. לפי החברה, כל שינוי יחייב אישור אנושי.
באותה שיחה הודיעו שתי החברות שהן מרחיבות את שיתוף הפעולה ביניהן. במסגרת ההרחבה ישולבו ChatGPT וכלי התכנות Codex ביישומים העסקיים ובתשתיות הענן של אורקל. במילים אחרות, האזהרה מפני היקף הבעיה נאמרה ליד מוצר שמציע לה פתרון, ומאחורי שתיהן עומדות שתי החברות. אין בזה כדי להפריך את הדברים, אבל זה הקשר שכדאי לזכור.
שאר הכנס: סוכנים שמבצעים משימות
את הכנס, שמשך כ-20 אלף משתתפים, פתח מנכ"ל אורקל, מייק סיציליה. הוא הציג את Agentic Applications של Oracle Fusion, יישומים שמבוססים על Fusion Claw. אלה מערכות שלא רק מציגות מידע אלא גם מבצעות משימות: העובדים מגדירים יעדים וגבולות סמכות, והמערכת מתאמת את התהליכים. לפי החברה, כבר זמינים 25 יישומים כאלה בתחומי ERP (ניהול משאבי הארגון), HCM (ניהול ההון האנושי), SCM (שרשרת אספקה) ו-CX (חוויית לקוח). כולם כפופים לבקרה ולאישור של אדם.
למה זה חשוב
הדברים של אלטמן נוגעים במתח שמלווה את תחום ה-AI: אותם מודלים שעוזרים לכתוב קוד ולמצוא בו באגים יכולים גם לחשוף בקנה מידה גדול חולשות שהיו מוסתרות במשך שנים. אם ההערכה שלו נכונה, ארגונים יצטרכו ככל הנראה לעבור מתיקון נקודתי של פרצות להגנה רציפה. אבל כל עוד אין נתונים מאומתים, זו הערכה של מנכ"ל שהחברה שלו מוכרת כלים בדיוק לתחום הזה, ולא ממצא.