&Truth גייסה 70 מיליון דולר כדי להשתמש ב-AI להוכחה מתמטית שקוד עובד

סטארטאפ חדש בשם &Truth יצא השבוע מהחשאיות, לאחר שגייס 70 מיליון דולר ממשקיעים. המטרה שלו: להשתמש בבינה מלאכותית כדי להפוך אימות פורמלי (formal verification), כלומר הוכחה מתמטית שתוכנה מתנהגת בדיוק כפי שתוכננה, לתהליך מהיר וזול. לפי דיווח ב-WIRED, החברה שואפת לאמת בסופו של דבר קוד בכל שפת תכנות.

מחקר שקיצר חודשים לשעות

אחת המצטרפות לחברה היא Chuyue Sun, חוקרת מסטנפורד שהגיעה ל-&Truth באוגוסט. Sun ועמיתיה פיתחו כלי AI שהשלים פרויקט הנדסי בפחות מחצי יום ובעלות של פחות מ-500 דולר. שלושה מומחים מיומנים במיוחד השלימו את אותה עבודה ידנית בחמישה חודשים. במחקר שלה היא השתמשה ב-AI כדי לאמת חלק מהקוד שמצפין את השיחות באפליקציית המסרים Signal.

"גשרים ובניינים לא קורסים כי אנשים עשו מתמטיקה לפני שבנו אותם", אומר Ilya Sergey, המדען הראשי (chief science officer) של &Truth. "למה שלא נעשה אותו דבר בקוד? הטכנולוגיה לחשיבה מתמטית הייתה קיימת כל הזמן, רק היה קשה להרחיב אותה".

למה זה עולה עכשיו

רעיון האימות הפורמלי ותיק בעשרות שנים, אבל הוא מסורבל. מהנדסים צריכים לנסח הגדרות מדויקות של מה שהתוכנה אמורה לעשות, ואז לתרגם את הקוד לנוסחאות שאפשר להוכיח. בגלל זה חברות מסתפקות בדרך כלל בבדיקות (testing) מתוחכמות ולא משקיעות באימות מלא. רוב השימוש בשיטה שמור לרכיבים קריטיים: לפי גילויים של החברות עצמן, מטוסי בואינג, שרתי אמזון ויותר מ-2.5 מיליארד מכשירי אפל פעילים מכילים לפחות חלק מקוד שעבר אימות פורמלי. בדרך כלל מדובר בקוד אבטחה.

ההקשר הרחב הוא ככל הנראה עליית ה-vibe coding, כלומר כתיבת תוכנה בעזרת הנחיות בשפה טבעית למודלי AI. ככל שיותר קוד נכתב בידי מכונות, גוברת גם השאלה איך אפשר לסמוך עליו. המשמעות היא שכלי AI שמוכיחים נכונות של קוד יכולים להפוך למשקל נגד לכלי AI שכותבים אותו.

מרוץ צפוף

&Truth לא לבד. המתחרה Harmonic, שאחד ממייסדיה הוא Vlad Tenev, מנכ"ל Robinhood, גייסה 295 מיליון דולר. השבוע היא הודיעה שהסוכן שלה, Aristotle, תומך באימות תוכנה שנכתבה ב-C ובתכנוני חומרה ב-Verilog. החברה בוחנת את הטכנולוגיה עם לקוחות פוטנציאליים, ביניהם יצרניות השבבים Tensordyne ואנבידיה. זרוע ההון סיכון של אנבידיה היא גם ממשקיעות הסטארטאפ.

בשבוע שעבר הודיעו אנתרופיק וסטארטאפ האימות Theorem שהשתמשו ב-AI כדי לסייע במציאת באגים בתוכנת קוד פתוח, באגים שטריליוני בדיקות לא הצליחו לזהות. השתיים השיקו גם תוסף ל-Claude שנועד לעזור למפתחים אחרים באימות.

הספקנים

הטכנולוגיה עדיין בשלב אב-טיפוס. הביקוש גבוה, אבל עדיין לא ברור כמה לקוחות יהיו מוכנים לשלם ובאיזו דרך יעדיפו לאמץ אותה. אימות פורמלי נשען גם על הנחות לגבי האופן שבו מחשבים ובני אדם משתמשים בתוכנה. חלק מהמומחים מפקפקים ביכולת שלו לתפוס באגים שנובעים מטעויות משתמשים או מתקלות חומרה.

Will Wilson, שעומד בראש Antithesis, סטארטאפ AI לאיתור באגים, מכנה את השיטה "מלכודת". Antithesis הוציאה מיליוני דולרים על אימות פורמלי של חלק ממנגנוני ההגנה שלה, תהליך שהוא מתאר כמייגע במיוחד. ובכל זאת, הכלי של החברה עצמה מצא בהם שגיאות נוספות. Antithesis מצאה באגים גם בתוכנות שכמה מלקוחותיה כבר אימתו באופן פורמלי. "זה יכול לתת לך ביטחון מסוים, אבל רק בדיקות מקיפות וממצות יכולות להוכיח שהביטחון הזה מוצדק", אומר Wilson.

גם Vitalik Buterin, יוצר Ethereum, כתב השנה שאימות פורמלי "אינו תרופת פלא". עם זאת, הוא ותומכים אחרים בשיטה עדיין מעריכים שהיא תהיה קו הגנה חשוב מפני מתקפות סייבר של מערכות AI.

השאלה הפתוחה היא אם ה-AI יצליח להוציא את האימות הפורמלי מהנישה של מערכות קריטיות אל השימוש הרחב. חברות בינוניות אמרו ל-WIRED שבדרך כלל אימתו לכל היותר רכיב מרכזי אחד במוצר. הן מנו כמה סיבות: מחסור במהנדסי אימות, עלויות שגבוהות מהסיכון, ובעיקר החשש שהמתנה של שבועות לאימות תאט את החדשנות. אם החברות החדשות יצליחו לקצר את התהליך לשעות, ייתכן שהחסם המרכזי הזה ייעלם.