Hugging Face, Base Labs ו-Goodfire משיקות שותפות בטיחות למודלים פתוחים
חברת Baseten, יחד עם זרוע המחקר שלה Base Labs, הכריזה על שותפות עם Hugging Face ו-Goodfire AI לפיתוח תשתית להערכת בטיחות וניטור של מודלים פתוחים (open-weight). המהלך בא על רקע חשש גובר מטכניקת "abliteration" המסירה ממודלים פתוחים את מנגנוני הבטיחות שלהם — טכניקה שכבר יושמה, לפי Hugging Face, על יותר מ-6,000 מודלים באתר.
חברת התשתית להסקת AI (AI inference) Baseten הכריזה, יחד עם זרוע המחקר שהקימה השנה, Base Labs, על שותפות עם Hugging Face ועם חברת הפרשנות של מודלים Goodfire AI, במטרה לבנות תשתית משותפת להערכת בטיחות ולניטור של מודלים בעלי משקלים פתוחים (open-weight models). כך דיווח TechCrunch.
ההכרזה מגיעה על רקע ויכוח מתמשך בשאלת הבטיחות של מודלים פתוחים, שניתן להפוך למסוכנים באמצעות הסרת מנגנוני הבטיחות המובנים בהם — תהליך המכונה abliteration, טכניקה שהפכה נפוצה יותר בתקופה האחרונה. לפי הנתונים שמביא הדיווח, היקף התופעה משמעותי: Hugging Face, המארחת מודלי קוד פתוח, מציגה כרגע יותר מ-6,000 מודלים שעברו abliteration באתר שלה.
לפי ההודעה, Base Labs תפתח ותפרסם שיטות לאימון (training) ולניטור (monitoring) של מודלים פתוחים, מתוך כוונה להציב מה שהחברות מכנות "סטנדרט" למודלים פתוחים — כזה שהבטיחות בו שקופה ומוטמעת כבר בשלבי האימון והפריסה, ולא מתווספת בדיעבד. Baseten כתבה בפוסט ב-X: "אנחנו מאמינים שפתיחות היא יתרון עבור בטיחות AI... פתיחות מספקת יותר נראות להתנהגות של מודלים, ובעיקר, אמצעים גדולים יותר להפוך מחקר בטיחות לכלי בקרה פרקטיים ושקופים, בהשוואה לתוכנה סגורה".
Goodfire, המתמחה בחשיפת "הקופסה השחורה" של מודלי AI — כלומר בהסבר האופן שבו מודלים מקבלים החלטות — הגיבה להודעה במילים: "בטיחות חייבת להיות מוטמעת במודלים פתוחים, ומסופקת על ידי מי שמפעיל אותם". החברות טרם פרסמו פרטים טכניים על אופן פעולת השותפות בפועל. לפי הערכת TechCrunch, הניסוח מרמז ש-Goodfire היא ככל הנראה השחקנית שתעמוד מאחורי חלק ה"הטמעה" בפועל של מנגנוני הבטיחות, בהתחשב בהתמחותה בפרשנות מודלים — אך זו הערכה של הכתב ולא אישור רשמי מהחברות.
מבחינה עסקית, שתי השותפות ניגשות למהלך ממעמד פיננסי חזק: Baseten גייסה בחודש יוני סבב Series F בהיקף 1.5 מיליארד דולר, וגדלה שוויה ל-13 מיליארד דולר. Goodfire, מצידה, גייסה מוקדם יותר השנה סבב Series B בהובלת B Capital בהיקף 150 מיליון דולר, המיועד לפיתוח פלטפורמת הפרשנות שלה.
החברות הודיעו כי הן פונות לקהילת המפתחים הרחבה להצטרף ולתרום למסגרת החדשה. כלשונן: "ביחד, אנחנו בונים אקוסיסטם של מודלים פתוחים שבטוחים ונגישים לכולם".
המשמעות: המהלך משקף מגמה שבה חברות מסחריות גדולות בתחום המודלים הפתוחים מנסות לקחת אחריות ישירה על סיכוני הבטיחות הנלווים לפתיחות — תחום שעד כה טופל בעיקר באופן מבוזר על ידי הקהילה. ככל הנראה, ההצלחה של היוזמה תיבחן בעיקר לפי השאלה אם השיטות שיפורסמו אכן יאומצו בפועל על ידי מפתחי מודלים פתוחים אחרים, ולא רק על ידי שלוש החברות המייסדות.