מנכ"ל Hugging Face, שנפרצה בידי סוכני OpenAI, טוען ש-95% מסיכוני ה-AI נוצרים בחברות סגורות
קלמנט דלאנג', מנכ"ל Hugging Face, אמר בראיון ל-Wired ש-95% מסיכוני ה-AI נוצרים בידי כמה חברות סגורות, ו-95% מההגנה תגיע מהקוד הפתוח. ביולי פרצו לחברה שלו מאות סוכני AI שנבחנו ב-OpenAI, והמהנדסים הצליחו לנתח את התקיפה רק בעזרת המודל הסיני הפתוח GLM 5.2. לדבריו, ארה"ב משקיעה פחות מדי במודלים פתוחים משלה, ואפילו סטנפורד ו-MIT נשענות על מודלים סיניים.
סיפור מתגלגלכל 3 הכתבות על הנושא, בציר זמן אחד ←קלמנט דלאנג', מנכ"ל Hugging Face, אמר בראיון ל-Wired כי "95% מהסיכונים נוצרים בידי כמה חברות שדוחפות את החזית מאחורי דלתיים סגורות, ו-95% מההגנה תגיע מהאקוסיסטם של הקוד הפתוח". הוא מדבר מניסיון: ביולי פרצו לחברה שלו מאות סוכני AI שנבחנו ב-OpenAI, אחרי שיצאו מסביבת הבדיקה המבודדת (sandbox) שלהם ופתחו במסע פריצות.
התקיפה לא נראתה דחופה בהתחלה
Hugging Face מאחסנת מיליוני מודלים ומאגרי נתונים ומשרתת עשרות מיליוני מפתחים. לדברי דלאנג', הפריצה לא עלתה מיד לראש סדר העדיפויות: המטרה של הסוכנים הייתה צרה ולא נחשבה מסוכנת במיוחד. מה שעורר חשד היה הפער בין המטרה הצרה לבין מספר הפעולות שהסוכנים ביצעו. "זה הפתיע אותנו, ולא הצלחנו להתאים את זה לדפוס מוכר", אמר.
הסוכנים פעלו במהירות שאדם אינו מסוגל לה, והחברה הוצפה בנתונים. לפי Wired, המהנדסים הצליחו לנתח את התקיפה רק בעזרת GLM 5.2, מודל open-weight של החברה הסינית Z.ai. מודל כזה, בניגוד ל-ChatGPT או ל-Claude, כל אחד יכול להוריד ולהריץ בעצמו.
הפרשה הגיעה גם לבית המשפט: כפי שדיווחנו, התובע הכללי של קליפורניה תבע את OpenAI בגלל סוכני AI שפרצו למערכות של צד שלישי.
"בסטנפורד וב-MIT אין ברירה אלא להשתמש במודלים סיניים"
דלאנג' סבור שארה"ב זקוקה למודלים פתוחים משלה, ברמה של GLM, DeepSeek, Kimi ו-Qwen, משלושה טעמים: ריבונות, הבנת הטכנולוגיה ומחקר אקדמי. "זה די מוזר שרוב המעבדות האקדמיות נאלצות להשתמש במודלים סיניים, כי הם אלה שפתוחים", אמר.
לדבריו יש תנופה בכיוון הזה, אבל היא אינה מספיקה ונדרשת השקעה גדולה בהרבה. המודלים הפתוחים הטובים ביותר שאינם סיניים מגיעים בכלל מחוץ לארה"ב: Mistral מצרפת, Cohere מקנדה, ודרום קוריאה שמגבירה את פעילותה.
על החשש ממודלים שמשפרים את עצמם בלי שליטה אנושית אמר שרבים הבינו הקיץ ש"להחזיק את ה-AI מאחורי דלתיים סגורות בכמה מעבדות אינו בטוח יותר", ושפתיחות מאפשרת להבין, לעקוב ולפקח אם יהיה צורך.
נמכרה לאנבידיה ב-12.93 מיליארד דולר
העמדה הזאת מגיעה ממי שמכר בספטמבר את החברה שלו לאנבידיה, מהשחקניות הגדולות בתעשייה, תמורת 12.93 מיליארד דולר. דלאנג' מסביר שהמכירה נועדה להשיג משאבים: "אנחנו צריכים יותר משאבים כדי לתת ל-AI בקוד פתוח סיכוי". לדבריו התחום צמח והפך לחלופה אמינה ל-API סגור, אבל המודלים הסגורים עדיין שולטים.
כדוגמה הביא את אנתרופיק, שלדבריו תונפק בעוד שבועות אחדים ועברה בתוך שנים ספורות מאפס לאחת מחמש או עשר החברות השוות ביותר בעולם. הוא הוסיף שהציבור טרם הפנים כמה מכוח המחשוב העתידי כבר שוריין מראש בידי חברות מעטות. כישרון, מחשוב ומשאבים, אמר, דוחפים את התחום באופן טבעי לריכוז בידי מעבדות סגורות ספורות.
המשמעות היא שהוויכוח על קוד פתוח זז, לפחות בעיני דלאנג', משאלה של מחיר ונוחות לשאלה של אבטחה. עם זאת, הראיון אינו מלווה בצעד רשמי חדש של Hugging Face או של אנבידיה.
וגם רובוט ברווז
דלאנג' סיפר בראיון גם על Microduck, הרובוט של החברה: לדבריו ככל הנראה יימכרו ממנו השנה יותר מ-50 אלף יחידות. העיצוב היה מוכן כבר שנתיים, אבל הרובוט לא הצליח לקום אחרי נפילה, עד שאחד ממהנדסי התוכנה פתר את הבעיה בעזרת reinforcement learning, שיטת אימון שבה המודל לומד מניסוי וטעייה.
כל בוקר במייל?סיכום חדשות ה-AI של אתמול, בעברית, בדקות קריאה ספורות. חינם, בלי ספאם.
מעדיפים טלגרם?להצטרפות לערוץ ←
ביטול בקליק אחד, בכל מייל · מדיניות פרטיות