אנתרופיק הודיעה כי מודלי Claude יטביעו סימני מים בלתי נראים בטקסט שנוצר על ידם, כדי לעמוד בדרישות חוק ה-AI האירופי. תוך ארבע שעות בלבד פרסם מפתח כלי קוד פתוח לעקיפת המנגנון, שכבר צבר יותר מ-20 אלף שיתופים ומעל 100 תורמים.
חברת הבינה המלאכותית אנתרופיק הודיעה בשבוע שעבר כי מודלי Claude שלה יטביעו סימני מים סמויים ובלתי נראים לעין בכל טקסט שהם מייצרים, כדי לעמוד בדרישות חוק ה-AI של האיחוד האירופי. לפי הרגולציה, שנכנסה לתוקף החודש, על ספקי מודלים כמו אנתרופיק ו-OpenAI לסמן תוכן סינתטי — אודיו, תמונה, וידאו או טקסט — כך שניתן יהיה לזהות אותו באמצעות מכונה, אחרת הם צפויים לקנסות של עד 3% מהמחזור השנתי.
התגובה הגיעה מהר מהצפוי. תוך ארבע שעות מרגע ההודעה הרשמית, המפתח גיום מאייר פרסם קוד המסיר את סימני המים מטקסט שנוצר על ידי Claude. הכלי, שהועלה ל-GitHub, נשמר יותר מ-20 אלף פעמים ברשת X ומשך למעלה מ-100 תורמים, שחלקם כבר שילבו אותו במוצרים משלהם. מפתחים נוספים, ביניהם אריק יוז וליאון קלון מאוקספורד, פיתחו באופן עצמאי שיטות דומות — בהן החלפת מילים בנרדפות, שינוי סדר משפטים, ואף תרגום הטקסט לשפה אחרת וחזרה, מה שמפריך את חתימת המים.
הטכנולוגיה שבה משתמשת אנתרופיק, המכונה SynthID, פותחה במקור על ידי גוגל ומוטבעת בתוכן שלה כבר משנת 2023. היא פועלת על ידי הטיה עדינה בבחירת המילים והביטויים של המודל — דפוס בלתי מורגש לקורא אנושי, אך ניתן לזיהוי במכונה שיודעת לחפש אותו. מדען המחשב סקוט אהרונסון, שהציע שיטה דומה כשעבד ב-OpenAI, ציין כי החברה נמנעה מיישומה מחשש שסימני מים ירתיעו לקוחות.
מאייר עצמו הבהיר כי אינו מתנגד לשקיפות או לייחוס תוכן, אלא לשיטת סימני המים עצמה. לדבריו, הסיכון המרכזי הוא בזיהויים כוזבים — מצב שבו הכלי אינו מבחין בין שימוש קל בעריכה לבין תוכן שנוצר כולו על ידי בינה מלאכותית. כדובר צרפתית שמשתמש ב-Claude ובכלים כמו Grammarly לעריכת כתיבתו, הוא חושש שמעסיקים או חוקרים עלולים להאשים אנשים בשימוש בבינה מלאכותית רק בגלל שהזיהוי סימן אדום, גם כאשר אנתרופיק עצמה מודה שהמערכת מייצרת הסתברות בלבד, לא ודאות.
בתגובה לוויירד מסרה אנתרופיק כי היא מוסיפה את הסימון כדי לעמוד בדרישות החוק האירופי, וכי מעבדות נוספות נוקטות בצעדים דומים. החברה ציינה כי הסימן אינו משנה את המשמעות, האיכות או הקריאות של תגובות Claude, וכי בכוונתה לשחרר בקרוב API לזיהוי טקסטים מסומנים, שיאפשר למשתמשים לבדוק זאת בעצמם — ואז יתברר גם אם שיטות העקיפה אכן עומדות במבחן המציאות.
הסיפור חושף פער בין כוונת המחוקק האירופי, שביקש להבטיח שקיפות בתוכן שנוצר בבינה מלאכותית, לבין היכולת הטכנית לאכוף זאת בפועל. כפי שמנסח זאת וויין פאן, שותף בסטארטאפ Haimaker ששילב את כלי העקיפה במוצרו: "אני לא חושב שאפשר אי פעם להגיע לסימן מים שיעמוד בפני הכול". יתרה מזאת, החוק אוסר על שיווק כלי עקיפה מסחריים, אך אינו מגביל כלים עצמאיים בקוד פתוח — פרצה שהמפתחים כבר מיהרו לנצל.