אנתרופיק: הפחתה של עד 99% בחילוץ תהליכי החשיבה של Claude
אנתרופיק מדווחת שההגנות החדשות שלה צמצמו ב-90 עד 99 אחוז את כמות תהליכי החשיבה של Claude שחולצו במסגרת ניסיונות זיקוק בהיקף תעשייתי. לדברי החברה, בין המעורבות נמצאות החברות הסיניות Zhipu ו-Moonshot, ועשרות אלפי חשבונות כבר נחסמו.
אנתרופיק מדווחת שהיא מצליחה לבלום מתקפות זיקוק (distillation) בהיקף תעשייתי על מודלי Claude. לדברי החברה, ההגנות החדשות שהפעילה צמצמו ב-90 עד 99 אחוז את כמות ה-reasoning tokens שהתוקפים מצליחים לחלץ. מדובר בשלבי החשיבה הפנימיים שהמודל עובר לפני שהוא עונה. את הדיווח פרסם האתר The Decoder, על בסיס מסמך של אנתרופיק בנושא הגנות מפני זיקוק.
מה זה זיקוק, ולמה תהליכי החשיבה כל כך מבוקשים
בזיקוק, חברה שולחת למודל AI מתקדם כמות עצומה של שאלות ומשתמשת בתשובות שלו כדי לאמן מודל משלה, בדרך כלל קטן וזול יותר. כך אפשר להעתיק בשיטתיות חלק מהיכולות של המודל המקורי בלי לשלם את מלוא העלות של פיתוחו. כשמודל חושף גם את שרשרת החשיבה שלו (chain-of-thought), חומר האימון שמתקבל ממנו שווה ככל הנראה הרבה יותר: הוא מלמד את המודל המעתיק לא רק מה התשובה, אלא גם איך מגיעים אליה.
לפי אנתרופיק, התוקפים פועלים דרך רשתות של מאות אלפי חשבונות מזויפים. החברה מציגה נתונים שלפיהם מספר ניסיונות הזיקוק המוצלחים ירד בחדות מאז שההגנות הופעלו.
האצבע מופנית לסין
אנתרופיק מציינת בשמן שתי חברות סיניות שלדבריה השתתפו בניסיונות. על Zhipu היא טוענת שחילצה יכולות סייבר ממודלים אמריקאיים מובילים לטובת המודל שלה, GLM-5.3. על Moonshot היא טוענת שהעבירה שאילתות דרך Claude באופן סמוי.
אנתרופיק גם מזהירה שהיכולות שנגנבו עלולות להגיע למערכות צבאיות ולמערכות מעקב של מדינות זרות. בזכות הטענה הזו הסוגיה חורגת מסכסוך מסחרי על קניין רוחני ונכנסת לוויכוח הרחב יותר על התחרות הטכנולוגית בין ארצות הברית לסין.
איך ההגנה עובדת
אנתרופיק מתארת שלושה צעדים עיקריים:
- הגבלת הגישה לשלבי החשיבה הפנימיים של Claude.
- מסווג (classifier) אוטומטי שמזהה ניסיונות חילוץ.
- חסימה אוטומטית של חשבונות שהמסווג מסמן.
לדברי החברה, עשרות אלפי חשבונות כבר נחסמו. היא גם מודה שבדרך נפגעים משתמשים לגיטימיים, כלומר שהמסווג טועה לפעמים ומסמן שימוש תמים כניסיון חילוץ.
למה זה חשוב
אנתרופיק קוראת למפתחות AI אחרות לאמץ הגנות דומות. הקריאה הזו מרמזת שהבעיה, לפחות בעיניה, משותפת לכל התעשייה ולא נוגעת רק ל-Claude. המשמעות לחברות שמפתחות מודלים מתקדמים היא ככל הנראה הגבלה גוברת על המידע שהמודלים חושפים, ובראשו תהליכי החשיבה.
אבל יש לזה מחיר. מפתחים וחוקרים נעזרים לא פעם בשרשרת החשיבה של המודל כדי להבין למה הגיע לתשובה מסוימת. ההודאה של אנתרופיק שגם משתמשים תמימים נחסמים מראה שקשה לסמן קו ברור בין שימוש אינטנסיבי ולגיטימי לבין ניסיון העתקה, ושכנראה צפויות טעויות בשני הכיוונים.
חשוב לזכור שהנתונים, כולל שיעור ההפחתה והאשמות נגד החברות הסיניות, מגיעים מאנתרופיק עצמה, שהיא צד מעוניין בסכסוך הזה.