Cogent ו-OpenAI בונות "מפעלי הגנת סייבר" לארגונים: סוכני AI שעוזרים לתקן פגיעויות

OpenAI פרסמה הודעה על חברת האבטחה Cogent, שמשתמשת במודלים שלה לתיקון אוטומטי של פגיעויות בארגונים. לפי ההודעה באתר OpenAI, השיטה של Cogent מחברת את המודלים של OpenAI עם "הקשר ארגוני", כלומר מידע על הסביבה שבה הארגון עובד. על הבסיס הזה פועלים סוכני AI שעוזרים לתקן פגיעויות. OpenAI קוראת לזה "מפעלי הגנת סייבר" לארגונים.

מה הבעיה שמנסים לפתור

מי שאחראי על אבטחת המידע בארגון גדול מכיר את המצב: כלי הסריקה מוצאים מספר עצום של פגיעויות, כלומר חולשות בתוכנה, בהגדרות או בתשתית. הקושי הוא לא רק למצוא אותן. צריך להחליט מה דחוף, להבין מה כל חולשה משפיעה בסביבה הספציפית של הארגון, ואז לתקן בפועל. ברוב הארגונים זו עבודה ידנית ואיטית, ובינתיים החולשות נשארות פתוחות.

כאן נכנס ה"הקשר הארגוני" שההודעה מדגישה. פגיעות שקריטית בשרת חשוף לאינטרנט יכולה להיות חסרת חשיבות במערכת פנימית ומבודדת. מודל שפה כללי (LLM) לא יודע את ההבדל הזה בעצמו. ככל הנראה, הרעיון של Cogent הוא לתת למודל את המידע הזה כדי שההחלטות וההמלצות שלו יתאימו לארגון הספציפי.

סוכנים, לא רק המלצות

הנקודה המרכזית בהודעה היא השימוש בסוכנים (agents), כלומר מערכות AI שלא רק עונות על שאלות אלא מבצעות פעולות. בהקשר הזה, הכוונה היא כנראה לסוכנים שלוקחים חלק פעיל בתהליך התיקון עצמו, ולא רק מפיקים דוח שמישהו צריך לטפל בו אחר כך.

גם המונח "מפעל" אומר משהו. אפשר לקרוא אותו כמעבר מטיפול אחד-אחד בפגיעויות לתהליך רציף ואוטומטי, שמסוגל לטפל בכמויות גדולות. ההודעה לא מפרטת אילו מודלים של OpenAI בשימוש, מי הלקוחות של Cogent או מה התוצאות בפועל, ולכן קשה להעריך כרגע עד כמה השיטה עובדת.

למה זה חשוב

עולם הסייבר הוא אחד התחומים שבהם השימוש בסוכני AI מתקדם הכי מהר, ומשני הצדדים: גם התוקפים וגם המגינים משתמשים בכלים כאלה. אם הגנה אוטומטית יכולה לקצר את הזמן מגילוי חולשה ועד לתיקונה, היא יכולה לצמצם את חלון ההזדמנויות של תוקפים.

מצד שני, לתת לסוכן AI לשנות מערכות ייצור בארגון זה צעד שמחייב זהירות. תיקון שגוי עלול לשבש שירותים קריטיים. בהודעה מופיע הניסוח "לעזור לתקן", ולא "לתקן", וייתכן שזה מרמז שאדם עדיין מעורב בתהליך. מנגד, ההודעה לא אומרת במפורש איזה פיקוח אנושי קיים.

מבחינת OpenAI, הפרסום הזה מתאים לאסטרטגיה רחבה יותר: להציג את המודלים שלה כתשתית שחברות אחרות בונות עליה מוצרים ארגוניים בתחומים ספציפיים. סייבר הוא תחום שבו ארגונים כבר מוציאים הרבה כסף, ולכן הוא יעד טבעי לגישה הזו.