OpenAI משתפת פעולה עם Hacktron לאיתור פגיעויות במערכותיה

OpenAI הודיעה על שיתוף פעולה עם חברת האבטחה Hacktron, שנועד לאתר פגיעויות במערכות שלה. לפי ההודעה של OpenAI, השותפות מתמקדת בשלושה תחומים: איתור פגיעויות, בדיקת החיבורים לשירותי צד שלישי וחיזוק ההגנות באמצעות frontier AI, הכינוי המקובל בתעשייה למודלי ה-AI המתקדמים ביותר.

התיאור הקצר של ההכרזה שעמד לרשותנו אינו כולל פרטים כספיים או טכניים נוספים, ולכן על בסיסו לא ידוע מה היקף ההתקשרות, כמה זמן היא תימשך, אילו מערכות ייבדקו או באילו מודלים ייעשה שימוש.

למה החיבורים לצד שלישי חשובים

פגיעות היא חולשה במערכת תוכנה שתוקף עלול לנצל כדי לחדור אליה, לגנוב מידע או לשבש את פעולתה. חברות טכנולוגיה נוהגות להיעזר בגורמי אבטחה חיצוניים כדי לאתר חולשות כאלה לפני שתוקפים עושים זאת, בין השאר משום שעיניים מבחוץ עשויות לזהות דברים שהצוות הפנימי כבר לא רואה.

הבחירה לציין במפורש את החיבורים לשירותי צד שלישי ראויה לתשומת לב. שירותים דיגיטליים מודרניים נשענים על רשת של ספקים, כלים וממשקים חיצוניים, וכל חיבור כזה הוא נקודת מגע שצריך לאבטח. גם מערכת שמוגנת היטב עלולה להיפגע דרך חוליה חלשה אצל גורם שמחובר אליה. ככל הנראה, ככל שמוצרי AI מתחברים ליותר שירותים חיצוניים, כך גדל גם שטח התקיפה האפשרי, כלומר מספר הנקודות שדרכן אפשר לנסות לחדור.

AI בצד של המגינים

הרכיב השלישי בהודעה, חיזוק ההגנות באמצעות AI מתקדם, משתלב בדיון רחב יותר בענף הסייבר: האם מודלי שפה יכולים לסייע לאנשי אבטחה לנתח קוד ומערכות בקנה מידה גדול יותר. התיאור הקצר של ההודעה אינו מפרט כיצד ישולב ה-AI בעבודה, ולכן על בסיסו אי אפשר לדעת מה חלקו בפועל לעומת חלקם של בודקים אנושיים.

המשמעות

המשמעות היא, ככל הנראה, ש-OpenAI מבקשת לשלב גורם אבטחה חיצוני בבדיקת המערכות שלה, ולא להסתמך רק על בדיקות פנימיות. בפועל, ערכה של השותפות ייבחן בתוצאות: אילו ממצאים יעלו, ואם יפורסם עליהם מידע כלשהו. בשלב זה, על פי המידע הזמין, מדובר בהצהרת כוונות כללית, ופרטים נוספים יידרשו כדי להעריך את היקפה ואת השפעתה.