צעצוע ה-AI בשם Eiliko הבטיח ש"הסודות שלכם בטוחים", אבל השיחות היו חשופות. עכשיו היצרנית מבטיחה ביקורת אבטחה

חברת Energize Lab, שמייצרת את Eiliko, צ'ארם רובוטי קטן שתולים על התיק ומנהל עם בעליו שיחות AI, שברה את שתיקתה אחרי יותר מחודש. בהודעה ל-The Verge היא כתבה שאישרה את "הבעיות המרכזיות" שעלו בתחקיר של האתר והודיעה שתשכור חברת אבטחה עצמאית שתבדוק את כל המערכות שלה.

"הסודות שלך בטוחים איתי"

הרובוט אמר לבעליו ש"הסודות שלך בטוחים איתי". בפועל, לפי The Verge, האקרים יכלו לקרוא בקלות את התמלילים המלאים של כל מה שנאמר לצעצוע, ולפי האתר "זו הייתה רק ההתחלה". העורך הבכיר Sean Hollister וחוקר האבטחה Sammy Azdoufal ניסו במשך יותר מחודש ליצור קשר עם החברה, כולל באמצעות מיילים למנכ"ל ולמייסד Shaw Yeung. איש לא ענה לשאלות שלהם.

עכשיו הגיעה תגובה. היא לא חתומה, ונשלחה מכתובת מייל כללית. החברה מתנצלת בה על השתיקה ומסבירה שאחרי שקיבלה את המידע "לא סנכרנה בזמן עם הצוות הטכני", ושגם הבדיקה לקחה זמן.

מה החברה מבטיחה

לפי ההודעה, Energize Lab:

• סגרה כל גישה חיצונית למערכות ה-backend (צד השרת) והחליפה את כל פרטי הגישה;
• השביתה את הממשק שאִפשר לשנות מרחוק את התשובות של הרובוט;
• הורידה את פיצ'ר הזיכרון ארוך הטווח, ולדבריה כבר אינה שומרת תיעוד שיחות ופרופילי משתמשים שנבנו מהן;
• הורידה את האפשרות ליצור אווטאר מותאם אישית, ובאפליקציה נשארו רק אווטארים מובנים.

בנוסף, החברה מתחייבת למחוק את תיעוד השיחות, פרופילי המשתמשים ותמונות האווטאר שכבר שמרה, והקימה כתובת ייעודית לפניות אבטחה: security@energizelab.com.

עם זאת, החברה לא מוותרת על איסוף מידע לתמיד. "הזיכרון ארוך הטווח והאווטארים המותאמים לא יחזרו עד שהבדיקה תאשר שהם מאובטחים", היא כותבת. כפי ש-The Verge מציין, ככל הנראה המשמעות היא שהחברה מתכוונת לחזור ולשמור מידע אישי אחרי שתחזק את המערכות.

הפרצות עדיין פתוחות

The Verge מדווח שהמערכות עדיין לא מאובטחות. בעזרת Azdoufal אימת Hollister שבזמן שההודעה נשלחה, החברה עדיין החזיקה הקלטות קול ותמונות של לקוחות בכתובות אינטרנט ציבוריות ובלי שום הגנה. לפי האתר, מי שהיה מקבל קישור כזה היה רואה מיד את פניו של אחד הבעלים.

Azdoufal גם מסר שעדיין יש לו גישת SSH מלאה לרובוטים. SSH הוא פרוטוקול שמאפשר לשלוט במכשיר מרחוק. לדבריו, תיאורטית הוא עדיין יכול לקרוא תמלילים ולשנות את התנהגות הצעצוע. לכן הטענה שהחברה "סגרה כל גישה חיצונית" לא נראית מדויקת.

"אנחנו יודעים שמילים לבדן לא יחזירו את האמון הזה", כתבה החברה. "אנחנו מתכוונים להרוויח אותו דרך מה שנעשה בשבועות הקרובים".

למה זה חשוב

המקרה של Eiliko ממחיש בעיה שגדלה עם שוק הגאדג'טים והצעצועים שמבוססים על AI. מכשירים קטנים וחמודים מעודדים משתמשים לשתף מחשבות, קול ותמונות, ובמקביל שולחים את המידע לשרתים שאבטחתם לא ידועה לצרכן. כשמוצר מבטיח במפורש פרטיות ("הסודות שלך בטוחים"), הפער בין ההבטחה למציאות חמור במיוחד. ייתכן שהביקורת העצמאית שהחברה מבטיחה תהיה מבחן ראשון, אבל לפי הממצאים הנוכחיים, משתמשי Eiliko עדיין לא יכולים לסמוך על כך שהמידע שלהם מוגן.