אנתרופיק מציגה את FlashProve: הוכחה קריפטוגרפית לכך שתשובה הגיעה ממודל מסוים
אנתרופיק פרסמה את FlashProve, מערכת open source שמפיקה הוכחה מתמטית לכך שתשובה מסוימת נוצרה ממודל AI מסוים, בלי לחשוף את המשקולות שלו. לפי MarkTechPost, אב הטיפוס מוכיח הרצה של Llama 4 Maverick בקצב של 110 טוקנים לשנייה על H100 אחד. TechCrunch מדגיש שמדובר במחקר שעדיין נמשך, ושאין תוכנית להטמיע אותו.
אנתרופיק פרסמה ביום שלישי את FlashProve, מערכת שנועדה לאפשר לכל משתמש לוודא שהתשובה שקיבל אכן הגיעה ממודל ה-AI שהוא חושב שהוא משתמש בו. לפי TechCrunch, מדובר במערכת open source שמספקת את מה שהחוקרים מכנים "provable inference" (הסקה הניתנת להוכחה). במילים אחרות: הוכחה קריפטוגרפית, מעין ערובה מתמטית, לכך שפלט מסוים נוצר על ידי מודל מסוים.
חתימה דיגיטלית למודלים
TechCrunch משווה את הרעיון לחתימה קריפטוגרפית על דואר אלקטרוני, שמאפשרת לנמען לוודא שההודעה באמת נשלחה מהשולח המוצהר. לפי החוקרים, FlashProve אמורה לעמוד בפני ניסיונות להציג מודל אחד כאילו הוא מודל אחר, גם כשמי שמנסה להונות הוא המעבדה שפיתחה את המודל ומפעילה אותו.
החוקרים מביאים דוגמה מפורשת: המערכת יכולה למנוע מחברת AI להחליף בחשאי את המודל במודל זול יותר כדי לחסוך בעלויות, או במודל יקר יותר כדי לנפח תוצאות של מבחני ביצועים. שימוש נוסף הוא אימות טענות של צד שלישי. "מפתח עשוי לטעון שספריית התוכנה שלו נסרקה לאיתור חולשות על ידי מודל סייבר מתקדם, או שחברה עשויה לטעון שהתוכנית העסקית שלה אושרה על ידי מודל מתאים", כתבו החוקרים. "איך משתמש יכול לאמת טענות כאלה?"
כדי שהמערכת תעבוד, המעבדות צריכות לפרסם "טביעת אצבע" לכל מודל שהן משחררות. בעזרתה אפשר יהיה להתאים פלטים למודל ולאמת אותם קריפטוגרפית. לפי TechCrunch, טביעת האצבע לא חושפת את המשקולות של המודל, כלומר את המספרים הפנימיים שקובעים איך הוא מתנהג. חברות שמפתחות מודלים סגורים, כמו אנתרופיק ו-OpenAI, שומרות את המשקולות בסוד. המשמעות היא שהמערכת יכולה לעבוד גם עם מודלים מסחריים. היא גם תוכננה להיות קלה מספיק כדי שהאימות יתבצע על מכשיר מקומי.
פרויקט מחקר או אב טיפוס מוכן?
שני הדיווחים מציגים את מצב הפרויקט בדגש שונה. MarkTechPost מתאר את FlashProve כאב טיפוס מסוג zkSNARK שפורסם ברישיון Apache 2.0. zkSNARK היא שיטה קריפטוגרפית שמאפשרת להוכיח שחישוב בוצע כראוי בלי לחשוף את הנתונים שעליהם הוא בוצע. לפי האתר, המערכת מוכיחה הרצה של Llama 4 Maverick, מודל של מטא, בקצב של 110 טוקנים לשנייה על כרטיס H100 אחד של אנבידיה, וגודל כל הוכחה הוא 19 MB. נתוני הביצועים האלה מופיעים רק בדיווח של MarkTechPost.
TechCrunch מדגיש דווקא את הצד הזהיר. אנתרופיק אמנם פרסמה מפרט טכני מפורט וקוד עובד לחלק מרכיבי המערכת ב-GitHub ברישיון open source, אבל המחקר עדיין נמשך, ואין תוכנית להטמיע את המערכת באנתרופיק או בכל מעבדה אחרת. "פוסט המחקר הזה נועד לשתף התקדמות ביניים, ולא תוכנית מחקר שהושלמה", כתבו החוקרים. "אנחנו משתפים את זה במפורש מתוך מטרה שאחרים יבחנו את מה שעשינו, ייקחו את זה וישפרו."
נראה ששתי התמונות לא באמת סותרות זו את זו. הקוד זמין ופועל, אבל הוא מוצג כנקודת ביניים במחקר ולא כמוצר.
למה זה חשוב
כיום משתמשים ב-API של מודלי שפה צריכים לסמוך על הספק שהוא אכן מריץ את המודל שהבטיח. אין להם דרך עצמאית לבדוק זאת. אם הגישה של FlashProve תתבסס, ככל הנראה תיווצר שכבת אמון חדשה: אפשר יהיה לבדוק טענות כמו "נבדק על ידי מודל מתקדם" במקום לקבל אותן כמובנות מאליהן. עם זאת, כל זה מותנה בכך שהמעבדות יסכימו לפרסם טביעות אצבע למודלים שלהן. וכרגע, לפי TechCrunch, אין תוכנית להטמיע את המערכת באנתרופיק או בכל מעבדה אחרת.