מודלים סיניים פתוחים מתקרבים ליכולות הפריצה של המודל המתקדם של OpenAI
במחקר של חברת Vals, שבחן מודלי AI בפריצה לרשתות ארגוניות מדומות, השלים Daybreak של OpenAI, שאינו זמין לציבור, 81% מהמשימות, והמודל הסיני הפתוח DeepSeek השלים 73%. הפער הקטן והעלות הנמוכה בהרבה מעלים ספק בשאלה כמה זמן עוד תוכל הגבלת הגישה למודלים סגורים לעכב את התפשטות היכולות האלה.
מודלי AI עם משקלים פתוחים (open-weight), שכל אחד יכול להוריד ולהריץ, כמעט משתווים היום למודלים הסגורים הטובים ביותר ביכולת לפרוץ לרשתות מחשבים. כך עולה ממחקר של חברת Vals, המודדת יכולות של מודלי AI, שעליו דיווח WIRED. Daybreak, מודל הסייבר המתקדם של OpenAI שזמין לשותפים מהימנים בלבד, השלים בניסוי 81% מהמשימות, בממוצע של שתי בדיקות. המודל הסיני הפתוח DeepSeek השלים 73% מהיעדים, ובחלק מהמשימות השניים השיגו תוצאה זהה.
איך נבדקו המודלים
חוקרי Vals בחנו עד כמה מודלים מסוגלים לבצע הוראות מורכבות ורב-שלביות ברשתות ארגוניות מדומות. המודלים קיבלו משימות מוגדרות בשני תרחישים. בראשון נדרשו לפעול ברשת ארגונית מדומה שהגישה אליה עוברת דרך אתר פתוח לציבור. בשני היו שתי רשתות של חברות שונות, והמודל היה צריך לחדור לראשונה כדי להגיע לשנייה.
"למודלי החזית הטובים ביותר, הנעולים בתוך המעבדות וזמינים רק דרך תוכניות גישה מהימנה, מתחילים עכשיו להשתוות מודלים פתוחים שכל אחד יכול להוריד", אמר ל-WIRED ניקיל ראווי מצוות החוקרים של Vals.
גם הפער בעלות בולט. לפי Vals, ביצוע מתקפה באמצעות GPT-6-Sol עולה 17 עד 46 דולר ב-tokens (יחידות הטקסט שלפיהן מתומחר שימוש במודלים), לעומת 2 עד 3 דולר ב-DeepSeek. מודלים פתוחים זולים בדרך כלל יותר משום שאפשר להריץ אותם על חומרה עצמית. לדברי ראיין קרישנן, מנכ"ל Vals, זהו גם תמריץ חזק למגינים להעדיף מודלים פתוחים על פני מודלים קנייניים. OpenAI לא הגיבה מיד לפניית WIRED.
הזמן שקנתה הגישה המוגבלת
הממצאים נוגעים ישירות באסטרטגיה של מעבדות החזית האמריקאיות, ובמיוחד של אנתרופיק, שהחלה באפריל בהשקה מוגבלת של Claude Mythos Preview. ההנחה הייתה שגישה מבוקרת רק קונה זמן, עד שיכולות פריצה מתקדמות יהיו נגישות לכולם. לוגן גרהם, ראש ה-frontier red team של אנתרופיק, אמר אז ל-WIRED כי Project Glasswing, התוכנית המעניקה גישה מהימנה ליכולות המלאות של מודלים חדשים, נועד לתת למגינים "יתרון פתיחה". "אנחנו צריכים להתכונן עכשיו לעולם שבו היכולות האלה זמינות באופן רחב בעוד 6, 12, 24 חודשים", היו דבריו אז. שבעה חודשים אחר כך, מעריך WIRED, נראה שהמעבר הגיע בזמן.
מה המשמעות
המשמעות, ככל הנראה, היא שלמודלים הסגורים כבר אין יתרון מובהק בסייבר, ולכן המאמצים להגביל אליהם גישה כדי להאט את התפשטות היכולות עלולים לאבד מערכם. זו עדיין תמונה מורכבת. הבדיקות נערכו בסביבות מדומות, ולפי WIRED תצפיות על פעילות של פושעי סייבר ושל האקרים הנתמכים על ידי מדינות מראות שתוקפים נוטים לחסוך במשאבים ולהסתפק ברוב פעילותם במודלים ישנים ופחות חזקים. במקביל, מגינים צריכים להניח שלתוקפים הממומנים והנחושים ביותר כבר הייתה גישה מסוימת למודלים סגורים. מומחים גם עדיין חלוקים בשאלה אם AI יוצר סוג חדש של איום, או מעצים אתגרים שהיו קיימים מזמן.
לדברי אלכס זנלה, CTO וממקימי חברת אבטחת הענן Edera, ככלל מודלים פתוחים מסוגלים כבר היום להפיק מתקפות מתקדמות, בעיקר בגרסאות abliterated, שבהן אימון הבטיחות מנוטרל באמצעות שינוי המשקלים. עם זאת, לדברי זנלה, סביר שלמעבדות הסגורות יש מודלים נוספים שלא שוחררו ועולים על היכולות האלה, ולכן התמונה דומה ל"משחק חתול ועכבר".
עבור ארגונים, המסקנה המעשית היא ככל הנראה שאי אפשר לבנות על כך שיכולות פריצה מתקדמות יישארו מאחורי שער הגישה של המעבדות הגדולות. המירוץ עובר לשאלה מי יאתר ויתקן חולשות ראשון.