אנתרופיק מאשימה שבע מעבדות בינה מלאכותית סיניות בגניבת 151 מיליון שיחות מ-Claude
אנתרופיק פרסמה דוח בטיחות שבו היא מאשימה שבע חברות סיניות - בהן עליבאבא, DeepSeek ו-Moonshot - בהרצת קמפיינים לחילוץ בלתי מורשה של יכולות ממודל Claude, כולל קמפיין בודד שכלל 151 מיליון שיחות. ניתוח עצמאי שהתפרסם ברשת מאשר את התמונה הכללית אך מטיל ספק על חלק מהראיות הספציפיות.
חברת הבינה המלאכותית אנתרופיק פרסמה דוח בטיחות שבו היא מאשימה שבע מעבדות AI סיניות בהרצת קמפיינים שיטתיים לחילוץ בלתי מורשה של יכולות ממודל השפה שלה, Claude. לפי הדוח, הקמפיין הגדול ביותר, המיוחס לגורמים המקושרים לעליבאבא, כלל 151 מיליון שיחות עם Claude תוך שלושה חודשים - ובשיאו כ-3 מיליון שיחות ביום, מה שאנתרופיק מגדירה כקמפיין הגניבה הגדול ביותר שתועד אי פעם. לצד עליבאבא ננקבו בדוח גם DeepSeek, Moonshot, MiniMax, Zhipu, Xiaomi ו-SenseTime (techjuice.pk).
הטכניקה שבמוקד ההאשמות נקראת distillation ("זיקוק") - שיטת אימון מקובלת ולגיטימית שבה מודל "מורה" גדול ויקר מלמד מודל "תלמיד" קטן יותר לחקות את יכולותיו. הבעיה, לפי אנתרופיק, היא ב"זיקוק בלתי מורשה": חילוץ סמוי של יכולות כמו היגיון, כתיבת קוד ושימוש בכלים, ללא הרשאה, באמצעות רשתות של חשבונות מזויפים שהוקמו באמצעות כרטיסי אשראי גנובים ומפתחות API גנובים.
חלק מהשיטות שתוארו בדוח היו מטעות במיוחד כלפי משתמשי קצה: לטענת אנתרופיק, Moonshot ו-DeepSeek הפנו בחשאי חלק מבקשות המשתמשים שלהן אל Claude, כך שמשתמשים קיבלו בפועל תשובות שיצר Claude מבלי לדעת זאת, בעוד השיחות נאספו ברקע לצורך אימון מודלים מתחרים. אנתרופיק מציינת כי חלק מהשיחות שנחשפו כללו מידע רגיש - של משתמשים פרטיים, חברות רב-לאומיות וגורמים הקשורים למדינות - כך שלתקרית, אם אכן התרחשה כמתואר, יש גם היבט של פגיעה בפרטיות ולא רק גניבת קניין רוחני. הגישה למודל בוצעה, לפי הדוח, דרך שירותי פרוקסי ו"תחנות ממסר" שהקימו אלפי חשבונות בזהויות בדויות, וכן באמצעות רכישת תמלולי שיחות ממתווכי מידע שאוספים אותם ללא הסכמת המשתמשים. בתגובה, אנתרופיק אוסרת חשבונות של מתווכים ומשתמשים לא מאומתים מאזורים מוגבלים, ושינתה את Claude כך שהוא מסכם את תהליך ההיגיון הפנימי שלו לפני מתן תשובה - צעד שאמור להקטין את התועלת של תמלולים גנובים לצורכי אימון.
הפרסום מצטרף לגל רחב יותר של חששות בתעשייה סביב חילוץ יכולות AI: לפי הדיווח, רשויות אמריקאיות האשימו לאחרונה חברות סיניות בחילוץ שיטתי של יכולות בינה מלאכותית, וגם גוגל ו-OpenAI דיווחו בעבר על התקפות דומות נגד המודלים שלהן (techjuice.pk).
עם זאת, לא כל מי שקרא את הדוח המלא - 154 עמודים, לפי התיאור - השתכנע שהוא תומך במידה שווה בכל שבע ההאשמות. בפוסט שפורסם בקהילת LocalLLaMA ברדיט טוען הכותב, שלדבריו קרא את הדוח המלא לצד דוח מוקדם יותר מפברואר, כי עיקרי התמונה - למעלה מ-150 מיליון שיחות בשלושה חודשים, בשיא של כ-3 מיליון ביום, דרך אלפי חשבונות מזויפים על גבי פרוקסי מגורים וכתובות דוא"ל חד-פעמיות - אכן מבוססים. יחד עם זאת, לטענתו, הראיות הספציפיות נגד עליבאבא ומודל Qwen שלה חלשות יותר משהכותרות משתמעות. מדובר בטענה של גורם עצמאי ברשת שלא אומתה מול המקור הרשמי, ולכן יש להתייחס אליה בזהירות ולא כעובדה מבוססת. עם זאת, היא מזכירה שגם דוח בטיחות רשמי של חברת AI כדאי לקרוא בעיון ולא רק לפי הכותרת - בעיקר כשמדובר בהאשמות פליליות-בפועל כלפי מתחרים עסקיים.
ככל הנראה, המשמעות הרחבה יותר של הפרשה היא שההגנה על יכולות מודלי שפה יקרים לאימון הופכת לזירת התמודדות מרכזית בתעשיית ה-AI, במקביל לוויכוח הציבורי על מהימנות ההאשמות ההדדיות בין המעבדות המובילות.