doubleAI של אמנון שעשוע מציגה את Maxwell: מודל שמאיץ תוכנה בזמן הריצה, עם הבטחה גדולה ומעט נתונים

הסטארטאפ הישראלי doubleAI, שהקים פרופ' אמנון שעשוע, חשף את Maxwell, המודל הראשון שלו. לדברי החברה, זהו מודל מסוג חדש. הוא לא עוזר למפתחים לכתוב קוד, אלא נכנס לפעולה אחרי שהקוד כבר רץ בשרתים. החברה קוראת לקטגוריה הזאת CEMs, ראשי תיבות של "מודלים להרצת קוד", ומתארת אותם כשכבה שיושבת בין הקוד לבין רכיבי הסיליקון של השרתים ופועלת באופן עצמאי לחלוטין.

כדאי לדייק בנקודה אחת: לא מדובר בכלי לפיתוח תוכנה במובן המקובל. כלים כמו Copilot או Claude עובדים לצד המפתח בזמן הכתיבה. Maxwell, לפי התיאור, עושה אופטימיזציה לתוכנה בזמן שהיא כבר רצה בפרודקשן, כלומר בסביבת העבודה האמיתית.

מה החברה אומרת שהמודל עושה

לפי doubleAI, המודל מנתח בזמן אמת את זרימת הנתונים ואת החומרה שעליה התוכנה רצה, מזהה צווארי בקבוק ומייצר גרסה מהירה יותר של הקוד. בתוכנה שנכתבה ב-Python, למשל, הוא יכול להחליף את הקוד המקורי בקוד ברמה נמוכה יותר, קרוב יותר לשפת המכונה, שמותאם ישירות למעבד. פקודות של PyTorch יוחלפו בקרנלים, כלומר בשגרות חישוב שהותאמו לכרטיס הגרפי הספציפי שמותקן בשרת. החברה מדגישה שקוד המקור שכתבו המפתחים לא משתנה. ההחלפה מתבצעת ברמת הקבצים הבינאריים, "מתחת לפני השטח".

שכתוב קוד בזמן ריצה מעלה כמובן חשש מקריסות ומתקלות. התשובה של doubleAI היא אימות פורמלי (formal verification), תחום מתמטי שמטרתו להוכיח שתוכנה מתנהגת בדיוק כפי שהיא אמורה להתנהג. לטענת החברה, המערכת מחשבת הוכחה מתמטית לכך שהקוד החדש זהה סמנטית לקוד הישן: עבור אותו קלט הוא יפיק בדיוק את אותה תוצאה ואת אותן פעולות לוואי. כל גרסה שאומתה משמשת אחר כך נקודת מוצא לסבב האופטימיזציה הבא. מכאן הכינוי "תוכנה שמשפרת את עצמה".

לדברי החברה, החידוש המרכזי הוא היכולת להפעיל אימות פורמלי על שפות דינמיות. ב-Python משתנה יכול להחליף את הסוג שלו באמצע הריצה, ולכן קשה במיוחד להוכיח עליה טענות מתמטיות. לפי doubleAI, הצוות מיפה את ההתנהגות המלאה של השפה, כולל פעולות חיצוניות כמו תקשורת רשת וקריאת קבצים.

מה עדיין לא הוכח

הטענות כאן משמעותיות, אבל בשלב הזה הן מגיעות מהחברה בלבד. בהודעה לא פורסמו נתוני ביצועים מפורטים: לא בנצ'מרקים (מבחני ביצועים השוואתיים), לא שיעורי האצה לפי סוג עומס עבודה ולא פירוט של מגבלות. גם לא צוין אם ההוכחות המתמטיות או השיטה עצמה נבדקו על ידי גורם חיצוני. הנתון המספרי היחיד הוא שלפי הסטארטאפ, אחד מלקוחותיו הראשונים קיצץ יותר מ-60% מעלויות המחשוב שלו אחרי שהתקין את המערכת. שם הלקוח, היקף העומס ותנאי המדידה לא פורסמו.

אימות פורמלי מלא של שפה דינמית בהיקף של Python נחשב לבעיה קשה בתחום. לכן הטענה הזאת היא ככל הנראה זו שתמשוך את מירב הבדיקה מצד מומחים כשיתפרסמו פרטים נוספים.

מודל עסקי: תשלום לפי חיסכון

doubleAI מתכוונת לגבות תשלום רק מלקוחות שחסכו בעלויות המחשוב. לקוח שיקצץ את חשבון המחשוב שלו ב-5 מיליון דולר בשנה, למשל, ישלם עמלה מתוך החיסכון. המשמעות היא שהחברה לוקחת על עצמה חלק מהסיכון. מנקודת המבט של הלקוח זה גם מבחן מעשי: אם המערכת לא חוסכת, הוא לא משלם.

החברה גייסה מאז הקמתה 220 מיליון דולר. בין המשקיעים קרנות Lightspeed Venture Partners ו-Bessemer Venture Partners, וגם אנבידיה ו-Dell. מעורבות של יצרנית השבבים המובילה בעולם ה-AI, ושל שעשוע עצמו (מייסד Mobileye), מעניקה למיזם אמינות בעיני השוק. היא לא מחליפה נתונים שפורסמו. אם הטענות יתאמתו, הקטגוריה שמגדירה doubleAI עשויה להשפיע על אחד מסעיפי ההוצאה הגדולים של חברות טכנולוגיה, עלויות המחשוב בענן. עד אז זו הבטחה מעניינת שעדיין צריכה הוכחה.