מנהלת ב-Hugging Face מזהירה: מתקפות סייבר עלולות להפוך את ה-AI הפתוח לפחות פתוח
איירין סולימן, מנהלת המדיניות הראשית של Hugging Face, מזהירה כי מה שהופך את הפלטפורמות הפתוחות ליקרות ערך, הפתיחות שלהן ושפע המידע שהן מחזיקות, הוא גם מה שמושך אליהן תוקפים. היא חוששת שמתקפות חוזרות יובילו להגבלות שיקשו על חוקרים עצמאיים וחובבים להשתתף בקהילה.
מה שהופך את פלטפורמות ה-AI הפתוחות לבעלות ערך הוא גם מה שהופך אותן לפגיעות. כך אמרה איירין סולימן, מנהלת המדיניות הראשית וסגנית נשיא בכירה לאסטרטגיה ב-Hugging Face, בפרק של הפודקאסט Equity שסוקר ב-TechCrunch. לדבריה, מתקפות חוזרות עלולות לדחוף את הקהילה הפתוחה לאמצעי אבטחה שיפגעו בנגישות שמאפיינת אותה.
שרשרת של פריצות
ההזהרה מגיעה אחרי כמה אירועים. באוקטובר הותקף OpenCode. המתקפה כוונה למפתחות API של צד שלישי של המשתמשים, וגרמה לנזק כספי. בקיץ פרץ נחיל סוכנים (agent swarm) של OpenAI ל-Hugging Face, ככל הנראה בניסיון לטשטש עקבות אחרי שהשיג גישה לתשובות של מבחני הערכה בתחום אבטחת הסייבר.
הסיכון לא מוגבל לפלטפורמות שפתוחות לתרומות מהקהילה. ביום שני דיווחה חברת התשתיות Fireworks, שעוזרת למפתחים להריץ ולאמן מודלים פתוחים, שתוקפים השיגו גישה למשקלי מודלים (model weights), למאגרי נתונים ולפרטי חיוב של חלק מלקוחותיה. במהלך החקירה השביתה החברה זמנית חלק מהכלים לניהול עצמי של מאגרי נתונים. המתקפה הזו לא בהכרח נבעה מפתיחות, אבל היא ממחישה כמה מידע רגיש מתרכז אצל ספקיות התשתית.
פתיחות כנקודת תורפה
"הדברים שבגללם אני חוששת שקהילה פתוחה תהפוך למטרה הם גם הדברים שהופכים אותה למיוחדת", אמרה סולימן. "אנחנו מתירניים מעצם טבענו. אנחנו רוצים שהחובב הממוצע במרתף, בלי שום שיוך מוסדי, יוכל לתרום". בשיחה נפרדת הוסיפה: "אתה רוצה שאנשים יוכלו פשוט להגיש pull requests... אבל אז יש כמה לוזרים שהורסים לכולם".
לדבריה, גם שפע המידע מושך תוקפים. את Hugging Face הפכו למטרה מאגרי ההערכה שהיא מחזיקה, ואת OpenCode הפכו למטרה "מפתחות ה-API העסיסיים של צד שלישי". "השילוב הזה הופך אותנו למטרות מובחרות", אמרה. לדבריה קיימת "סכנה שהקוד הפתוח ייסגר דווקא בזמן שזכינו לכל כך הרבה תמיכה ציבורית". בשנים האחרונות יצאו גורמים רבים בתעשייה בתמיכה במודלים פתוחים, ובהם ג'נסן הואנג, מנכ"ל אנבידיה. ממשלות, ארגונים וסטארטאפים נשענים עליהם יותר ויותר.
איך תיראה נסיגה
הגבלה כזו יכולה לכלול הגבלות על מי רשאי להעלות מודלים או מאגרי נתונים, אימות זהות מחמיר יותר, או בדיקה נוספת של מפתחים לפני שיקבלו גישה ליכולות מסוימות. צעדים כאלה עשויים להגן על הפלטפורמות, אבל גם להרחיק חוקרים עצמאיים וחובבים.
לעת עתה Hugging Face מנסה להימנע מהדרך הזו. סולימן אמרה שהחברה מחזקת את כלי הניטור שלה ונוקטת צעדי מניעה. עם זאת, היא ציינה שתחזוקת ניטור יקרה ולא כל פלטפורמה תוכל לעמוד בה. "אסימוני גישה מנהליים היו חלק ממה שנתן לנחיל הסוכנים גישה טובה יותר, אז אנחנו מחליפים אותם הרבה יותר בתדירות מבעבר", אמרה. "יש לנו גם בקרות רשת מחמירות יותר". המשמעות: אסימון שייגנב יהיה שימושי לתוקף לזמן קצר יותר.
הגישה של GitHub
GitHub, המארחת הגדולה בעולם של פרויקטים בקוד פתוח, מתמודדת עם תוקפים שמשתילים קוד זדוני בפרויקטים כדי להפיץ נוזקות. החברה החמירה את דרישות האבטחה לפרסום חבילות במאגר npm, ביטלה אסימוני אימות ישנים וקיצרה את תוקפם של חדשים.
זאק סטיינדלר, מהנדס ב-GitHub שאחראי על אבטחת שרשרת האספקה של תוכנה, סבור שאפשר לשפר את האבטחה בלי להגביל את ההשתתפות. "זה פחות עניין של הגבלת יכולות ויותר עניין של תיקון דברים שמלכתחילה לא היו מאובטחים", אמר. לדבריו, "אני מעדיף בהרבה להשקיע בזיהוי התנהגות חשודה וביכולות בלימה, שמכסים את כל החשבונות ואת כל שיטות הגישה. התנהגות חשודה היא חשודה, לא משנה מי מפגין אותה".
המשמעות לקהילה, ככל הנראה, היא שהמאבק לא יוכרע רק בשאלה אם לסגור את הדלתות. הוא יוכרע גם בשאלה כמה כל פלטפורמה מסוגלת להשקיע בניטור ובזיהוי. סולימן עצמה מציינת שלא לכולן יש תקציב לכך.
כל בוקר במייל?סיכום חדשות ה-AI של אתמול, בעברית, בדקות קריאה ספורות. חינם, בלי ספאם.
מעדיפים טלגרם?להצטרפות לערוץ ←
ביטול בקליק אחד, בכל מייל · מדיניות פרטיות