אנתרופיק מוסיפה סימן מים טקסטואלי למודלים הישנים של Claude, אבל בחלקם אפשר לעקוף אותו בשינוי פרמטר אחד

אנתרופיק מרחיבה את סימן המים הטקסטואלי שלה לעוד דגמים של Claude, אבל בחלק מהדגמים הישנים מפתחים יכולים לעקוף אותו בקלות. בדגמים האלה הסימון פועל רק כשפרמטרי הדגימה נשארים בערכי ברירת המחדל. שינוי קל באחד מהם מספיק כדי שהטקסט ייצא בלי הסימון. כך דיווח האתר The Decoder, על סמך שני מיילים שהחברה שלחה ללקוחות ה-API שלה.

שני גלים, ומגבלה שחוזרת

במייל הראשון, שנשלח בסוף אוקטובר, הודיעה אנתרופיק שסימן המים יתווסף לדגמים Claude Mythos 5, Claude Opus 4.7, Claude Opus 4.6 ו-Claude Sonnet 4.6. דגמים חדשים יותר, כמו Claude Opus 5.5, כבר מסומנים. ב-Opus 4.6 וב-Sonnet 4.6 הסימון פועל רק כששלושת פרמטרי הדגימה, temperature,‏ top_p ו-top_k, נשארים בברירת המחדל. הפרמטרים האלה קובעים כמה אקראיות המודל מפעיל כשהוא בוחר את המילה הבאה.

אנתרופיק לא סגרה את הפרצה. במקום זה הוסיפה למייל אזהרה: "אם אתם מסתמכים על סימן המים לצורכי הציות שלכם, השאירו את ההגדרות האלה בברירת המחדל". המייל לא מזכיר את המגבלה הזאת לגבי Mythos 5 ו-Opus 4.7, ולכן נראה שבהם הסימון פועל בכל הגדרה.

ב-4 בנובמבר שלחה החברה מייל נוסף. לפיו, החל מ-16 בנובמבר יקבלו סימן מים הדגמים Claude Opus 4.6,‏ Claude Opus 4.5,‏ Claude Sonnet 4.5 ו-Claude Haiku 4.5. ‏Opus 4.6 היה אמור להיות מסומן כבר ב-3 בנובמבר, בגל הראשון. אנתרופיק אישרה את הדחייה ולא הסבירה אותה. אותה מגבלת דגימה חלה על כל ארבעת הדגמים בגל השני. בסך הכול מדובר בחמישה דגמים שבהם אפשר לבטל את הסימון בשינוי פרמטר אחד. ב-Amazon Bedrock ההטמעה עשויה להתעכב בכמה ימים.

לפי The Decoder, הפרצה משמעותית במיוחד כי Opus 4.6 הוא עדיין דגם הכתיבה הטוב ביותר של אנתרופיק, ולהערכת האתר הוא עדיף בזה אפילו על Opus 5.5.

איך הסימון עובד

אנתרופיק מתארת את סימן המים כ"דפוס בלתי מורגש בבחירת המילים" שלא משנה את המשמעות, את האיכות או את הקריאוּת. לדברי החברה, הוא לא מוסיף תווים או טוקנים, לא משפיע על המחיר או על מבנה הבקשות והתשובות, ומאט את קצב הפלט רק מעט. היא מוסיפה שהסימון "אינו מכיל מידע על המשתמש, על הארגון שלו או על השיחות שלו עם Claude".

השיטה היא גרסה של SynthID לטקסט, שפותחה ב-Google DeepMind. היא משנה מעט את האקראיות בבחירת המילים, וכך נוצר דפוס סטטיסטי שאפשר לזהות. מכאן גם ההסבר לפרצה: הסימון יושב בדיוק על מנגנון הדגימה שהמפתחים יכולים לשנות. הסימון מוטמע ברמת המודל ולכן פועל בכל פלטפורמה שמארחת אותו, כולל Amazon Web Services,‏ Google Cloud ו-Microsoft Foundry. לקוחות לא יכולים לכבות אותו. לאימות הסימון יש לאנתרופיק API לזיהוי שנמצא בשלב private preview, כלומר פתוח רק לקבוצה מצומצמת של לקוחות.

הרקע: ה-AI Act

אנתרופיק מנמקת את הסימון של הדגמים הישנים במועד היעד של ה-AI Act האירופי בדצמבר. כל דגם שהחברה השיקה אחרי 2 באוגוסט 2026 יצא עם סימן מים כבר מהיום הראשון, והדגמים הישנים מקבלים אותו בשלבים.

לחברות האחרות יש גישות שונות. ‏OpenAI השיקה באוקטובר מערכת משלה בשם textGrain, אבל היא פועלת כברירת מחדל רק אצל משתמשי ChatGPT ו-Codex באיחוד האירופי. לקוחות API בכל העולם יכולים להפעיל או לכבות אותה, והיא מגיעה כבויה. גוגל פתחה את SynthID לטקסט כ-open source ושילבה אותו בדגמי Gemini.

יש גם ויכוח על עצם הרעיון. הבלוגר ג'ון גרובר טוען שאין שתי מילים נרדפות שמשמעותן זהה לגמרי, ולכן בחירת מילים לפי מפתח של סימן מים ולא לפי ההתאמה הסמנטית פוגעת בהכרח בדיוק. האתר המשפטי Artificial Lawyer מעלה חשש אחר: במשרדי עורכי דין, לקוחות שאסרו שימוש ב-AI עלולים לגלות את הסימון במסמכים, וכמה סימני מים באותו מסמך עלולים לסבך את העניין.

למה זה חשוב

המשמעות היא שבחלק מהדגמים, הסימון שנועד לעמוד בדרישות האיחוד האירופי תלוי בכך שהמפתחים לא ישנו הגדרות שהם יכולים לשנות. האזהרה של אנתרופיק מגינה בעיקר על לקוחות שרוצים לציית לרגולציה. היא לא עוזרת לזהות טקסט שמישהו ניסה במכוון להוציא בלי סימון. לקראת דצמבר, ככל הנראה יעלו שאלות על מידת האמינות של סימן מים שאפשר לבטל בשינוי פרמטר אחד, ועל השאלה אם הרגולטורים באירופה יסתפקו בו.