MBZUAI משיקה את PAN 2: מודל עולם פתוח בגודל 29 מיליארד פרמטרים שמדמה את תוצאות הפעולות כוידאו
המכון למודלי יסוד (IFM) של MBZUAI שחרר את PAN 2, מודל עולם פתוח ברישיון Apache 2.0. המודל מחבר מתכנן מבוסס LLM לטרנספורמר דיפוזיה בן 29 מיליארד פרמטרים, ומדמה כוידאו עד 20 שניות של תוצאות פעולה. המטרה היא לקדם בינה פיזית, כלומר מערכות AI שפועלות בעולם האמיתי.
המכון למודלי יסוד (Institute of Foundation Models, ובקיצור IFM) של MBZUAI שחרר את PAN 2, "מודל עולם" (world model) פתוח שנועד לשמש בתחום הבינה הפיזית (Physical AI). לפי הדיווח ב-MarkTechPost, המודל משלב מתכנן מבוסס LLM עם טרנספורמר דיפוזיה (diffusion transformer) בן 29 מיליארד פרמטרים. הוא מדמה עד 20 שניות של תוצאות פעולה ומציג אותן כוידאו. המודל מופץ ברישיון Apache 2.0.
מה זה בעצם מודל עולם
מודל שפה רגיל חוזה את המילה הבאה בטקסט. מודל עולם מנסה לחזות משהו אחר: מה יקרה בסביבה מסוימת אחרי שמתבצעת בה פעולה. נניח שזרוע רובוטית דוחפת חפץ, או שרכב פונה בצומת. מודל עולם אמור "לדמיין" את ההמשך לפני שהפעולה מתבצעת במציאות.
היכולת הזאת חשובה במיוחד לרובוטיקה, לכלי רכב אוטונומיים ולסוכני AI שפועלים בסביבה פיזית. מערכת שיכולה להריץ סימולציה של תוצאות מעשיה יכולה ככל הנראה לבחון כמה חלופות ולבחור את הטובה ביותר, בלי לשלם את המחיר של ניסוי וטעייה בעולם האמיתי.
הארכיטקטורה: מתכנן ומדמה
לפי התיאור שפורסם, PAN 2 בנוי משני רכיבים. הראשון הוא מתכנן מבוסס LLM, שתפקידו ככל הנראה לפרש את הפעולה המבוקשת ולפרק אותה לשלבים. השני הוא טרנספורמר דיפוזיה בן 29 מיליארד פרמטרים שמייצר את התוצאה החזותית. דיפוזיה היא אותה משפחת טכניקות שעומדת מאחורי רבים ממחוללי התמונות והווידאו המוכרים.
לחלוקת העבודה הזאת יש היגיון. מודלי שפה טובים בהסקה ובתכנון ברמה מופשטת, ומודלי דיפוזיה טובים ביצירת פיקסלים מציאותיים. השילוב אמור לאפשר סימולציה שהיא גם עקבית מבחינה לוגית וגם משכנעת מבחינה חזותית. אורך של עד 20 שניות מאפשר לדמות רצף פעולות ולא רק רגע בודד.
למה הרישיון חשוב
Apache 2.0 הוא רישיון קוד פתוח מתירני. הוא מאפשר להשתמש בקוד, לשנות אותו ולשלב אותו גם במוצרים מסחריים. בתחום שבו חלק ניכר מהמודלים המתקדמים נשארים סגורים מאחורי ממשקי API, שחרור פתוח של מודל עולם בהיקף כזה עשוי לתת לחוקרים ולחברות קטנות נקודת פתיחה משמעותית.
המשמעות
MBZUAI, אוניברסיטת המחקר לבינה מלאכותית באבו דאבי, מבססת בשנים האחרונות נוכחות בזירת מודלי היסוד. השקת PAN 2 משתלבת במגמה רחבה יותר בתעשייה: המעבר ממודלים שמבינים טקסט ותמונות למודלים שמנסים להבין איך העולם הפיזי מתנהג. לפי הערכות רבות בתחום, זה תנאי מקדים לרובוטים ולסוכנים אוטונומיים שיוכלו לפעול באופן אמין מחוץ למעבדה.
החומרים שפורסמו לא כוללים פרטים על ביצועי המודל במדדים מקובלים, על דרישות החומרה להרצתו או על נתוני האימון. לכן עדיין מוקדם לקבוע איך הוא עומד מול מודלי עולם אחרים בשוק.
כל בוקר במייל?סיכום חדשות ה-AI של אתמול, בעברית, בדקות קריאה ספורות. חינם, בלי ספאם.
מעדיפים טלגרם?להצטרפות לערוץ ←
ביטול בקליק אחד, בכל מייל · מדיניות פרטיות