סין חוקרת את DeepSeek ו-Moonshot: האם מידע של משתמשים סינים נשלח ל-Claude בלי ידיעתם
מינהל הסייבר של סין (CAC) פתח בחקירה נגד DeepSeek ו-Moonshot AI, לאחר שאנתרופיק טענה ששתי החברות ביצעו יותר מ-35 מיליון אינטראקציות עם Claude כדי לשפר את המודלים שלהן. לפי אנתרופיק, Moonshot העבירה ל-Claude גם שאילתות אמיתיות של משתמשי Kimi, ובהן מידע ממערכת מעקב שכללה מצלמות מחוץ למתקנים צבאיים. הרשויות בודקות אם הופרו החוקים הסיניים להעברת מידע אל מחוץ למדינה.
הרשויות בסין פתחו בחקירה נגד DeepSeek ו-Moonshot AI, שתיים מחברות הבינה המלאכותית הבולטות במדינה. החשד: שהן העבירו ל-Claude, המודל של אנתרופיק האמריקנית, מידע ושאילתות של משתמשים סינים בלי שהמשתמשים ידעו על כך. כך דיווח ynet. החקירה נפתחה בעקבות טענות של אנתרופיק עצמה. לדבריה, היא זיהתה פעילות חריגה בהיקף של עשרות מיליוני אינטראקציות עם Claude, ומייחסת אותה לשתי החברות הסיניות.
35 מיליון אינטראקציות ו"זיקוק"
לפי אנתרופיק, שתי החברות הפעילו את Claude מיליוני פעמים. הן שלחו אליו שאלות ומשימות, קיבלו תשובות והשתמשו בהן לכאורה כדי לשפר את המודלים שלהן. בתחום קוראים לשיטה הזאת "זיקוק" (Distillation): מאמנים מודל אחד על התשובות של מודל מתקדם יותר, כדי להעביר אליו חלק מהיכולות שלו. ספקיות המודלים המובילות אוסרות בדרך כלל בתנאי השימוש שלהן להשתמש בתשובות המודל כדי לפתח מודלים מתחרים.
אנתרופיק מייחסת לשתי החברות יחד יותר מ-35 מיליון אינטראקציות. יותר מ-23 מיליון מהן מיוחסות ל-Moonshot, החברה שמאחורי עוזר ה-AI בשם Kimi, ויותר מ-12 מיליון ל-DeepSeek. לפי הדיווח, רוב הפעילות קשורה לניסיונות לאמן ולשפר את המודלים הסיניים, ולא לשאילתות של משתמשים.
משתמשי Kimi לא ידעו ש-Claude עונה להם
בבדיקה גילתה אנתרופיק גם ממצא רגיש יותר. לטענתה, לפחות בחלק מהמקרים Moonshot לא שלחה ל-Claude רק שאלות שנועדו לאימון, אלא גם שאילתות אמיתיות של משתמשי Kimi. המשתמש פנה לשירות סיני, ומאחורי הקלעים חלק מהבקשות עובדו בפועל אצל המודל האמריקני.
בפרק זמן של עשרה ימים שאנתרופיק בדקה, היא זיהתה כמעט 300 אלף בקשות של משתמשי Kimi שהועברו כך ל-Claude, דרך אלפי חשבונות.
באחד המקרים שאנתרופיק חשפה, משתמש ב-Kimi ביקש עזרה בניתוח מידע ממערכת מעקב שכללה מאות מצלמות בעיר צ'נגדו. בין השאר היו במערכת מצלמות שהוצבו מחוץ למתקנים של צבא השחרור העממי ומחוץ למוסדות הקשורים לתעשייה הביטחונית. לפי אנתרופיק, המשתמש לא ידע שהבקשה שלו הגיעה ל-Claude.
מה בודק הרגולטור
סין מחילה כללים מחמירים על העברת מידע אל מחוץ למדינה, במיוחד כשהמידע עשוי להיות קשור לביטחון לאומי, למוסדות ממשלתיים או לחברות אסטרטגיות. על רקע זה פתח מינהל הסייבר של סין (CAC) בחקירה. לפי הדיווחים, מנהלים ועובדים משתי החברות זומנו לתשאול.
הרגולטור בודק כמה שאלות: האם המשתמשים ידעו שהשאילתות שלהם עלולות לצאת מהמערכות הסיניות, איזה מידע הועבר, איך הוא נותב ל-Claude, והאם החברות הפרו את החוק. במקביל נבדק גם השימוש ב-Claude לאימון המודלים.
העיתוי רגיש במיוחד עבור DeepSeek, שבראשה עומד ליאנג וונפנג. לפי הדיווח, החברה אמורה לתדרך השבוע את מועצת הביטחון של האו"ם על הסיכונים שהבינה המלאכותית מציבה לביטחון הבינלאומי.
למה זה חשוב
מהפרשה עולות ככל הנראה שתי מחלוקות נפרדות. הראשונה מוכרת: חברות AI נאבקות על תנאי שימוש ועל קניין רוחני, ומאשימות זו את זו באימון מודלים על יכולות של מתחרים. השנייה חדשה יותר: לפי טענות אנתרופיק, מידע של משתמשים אמיתיים עבר בין מדינות בלי ידיעתם.
מבחינת בייג'ינג, השאלה המרכזית היא ככל הנראה פחות מה שאנתרופיק איבדה, ויותר מה קרה למידע של המשתמשים הסינים. המשמעות היא שדווקא החשד שמודלים סיניים נשענו על מודל אמריקני הוביל את הרגולטור הסיני לפעול נגד חברות מקומיות. חשוב לזכור שבשלב זה אלה טענות של אנתרופיק, והחקירה בסין עדיין בעיצומה.