כלי הקידוד של Z.ai העלה קבצים מהמחשבים של משתמשים בלי אישורם
חברת ה-AI הסינית Z.ai (הידועה גם כ-Zhipu AI) מתמודדת עם משבר אמון לאחר שמפתחים גילו שכלי הקידוד שלה, ZCode, העלה בשקט נתונים מתיקיות עבודה מקומיות לשרתי ענן חיצוניים בלי הסכמה מפורשת. החברה התנצלה ותיקנה את הפרצה, אך התקרית ממחישה עד כמה שאלות של אמון ואבטחת מידע נעשות קריטיות עבור כלי קידוד מבוססי AI, שממילא נדרשים לגישה עמוקה לקוד המשתמשים כדי לתפקד.
חברת הבינה המלאכותית הסינית Z.ai, הידועה גם בשמה הקודם Zhipu AI, מתמודדת עם משבר אמון בעקבות גילוי לפיו כלי הקידוד שלה, ZCode, העלה בשקט נתונים מתיקיות עבודה מקומיות של משתמשים לשרתים חיצוניים — ללא הסכמה מפורשת. החברה הודתה בתקלה, התנצלה ותיקנה את הפרצה, אך לפי דיווח של ה-South China Morning Post, מפתחים מעריכים שהאירוע עלול לפגוע במוניטין של החברה, בייחוד בתקופה שבה אבטחת סייבר הופכת לסוגיה מרכזית בתעשיית ה-AI.
הפרשה התגלתה ביום שישי (19 בספטמבר), כאשר בלוגר טכני סיני עצמאי המכונה Ferstar בדק תיקייה מקומית בכלי ZCode. הוא מצא קובץ דחוס בגודל 313 מגה-בייט שהמתין להעלאה לשירות האחסון הענני של קבוצת עליבאבא (Alibaba), לאחר שניסיון ההעלאה נכשל 564 פעמים ברציפות. לצד זאת התגלה גם קובץ קטן בהרבה, בגודל 15 קילו-בייט, שהעלאתו כבר הושלמה בהצלחה.
לדברי Ferstar, שני הקבצים היו מוצפנים. הקובץ הגדול, לפי שמות הקבצים הגלויים, הכיל תמונת מצב (snapshot) של פרויקט מסחרי שעליו עבד, כולל היסטוריית ה-Git המלאה של הפרויקט. הוא ציין כי לא הצליח לפתוח את הארכיון בעצמו, וגם לא באמצעות לקוח ZCode עצמו — לדבריו, ניתן לפענח את הקובץ רק באמצעות מפתח פרטי המוחזק בשרתי הקצה האחורי (back end) של Z.ai.
מפתח AI מבוסס בשנחאי, שלא צוין בשמו בדיווח, אמר: "זה בעצם כמו גניבה מהמשתמשים, והכוונה הזדונית היא מה שמדאיג אותי". הניסוח הזה — התייחסות לכוונה, ולא רק לתקלה טכנית — הוא שממחיש מדוע מפתחים רבים מתייחסים לאירוע כחמור יותר מבאג רגיל.
הדיווח אינו מפרט מהו הגורם הטכני המדויק לפרצה, כמה משתמשים הושפעו בפועל, או אילו סוגי נתונים בדיוק נאספו מעבר למקרה שתואר — פרטים אלה לא נמסרו במקור.
מעבר לאירוע הנקודתי, המקרה ממחיש מתח מובנה שקיים בכלי קידוד מבוססי AI: כדי לתפקד, כלים כמו ZCode זקוקים לגישה רחבה לקבצי הפרויקט של המשתמש, כולל היסטוריית קוד ולעיתים סודות עסקיים. ככל הנראה, דווקא בשל התלות ההדדית הזו, כל חשד להעברת נתונים בלי שקיפות מלאה — גם אם מדובר בתקלה ולא בכוונה — עלול לפגוע באמון שהמשתמשים נותנים לחברה שמפתחת את הכלי. במקרה של Z.ai, המשמעות היא שהחברה, שנחשבת לאחת השחקניות הסיניות הבולטות בזירת ה-AI, תצטרך כעת לשכנע מפתחים שהיא לוקחת ברצינות את ניהול הגישה לנתוני הלקוחות שלה, מעבר לתיקון הטכני שכבר בוצע.