דיווח ב-Science: יצרני מכשירים לבישים מאמנים AI על נתוני מוח של משתמשים, בלי לספר להם

חברות שמייצרות מכשירים לבישים משתמשות בנתוני מוח שנאספים מהלקוחות שלהן כדי לאמן מודלים של בינה מלאכותית, ולעיתים אינן מיידעות את המשתמשים על כך. כך עולה מכתבה שפורסמה בכתב העת Science. הדיווח מצטרף לוויכוח שכבר מתנהל על השאלה מה מותר לחברות טכנולוגיה לעשות עם מידע אישי. הפעם המידע הוא לא היסטוריית גלישה או מיקום, אלא אותות שמגיעים ישירות מהמוח.

על איזה מידע מדובר

בשנים האחרונות נמכרים לצרכנים יותר ויותר מכשירים שמודדים פעילות מוחית: סרטי ראש למדיטציה ולשיפור ריכוז, מכשירים לניטור שינה, ואוזניות עם חיישנים. רובם מבוססים על EEG, שיטה שמודדת את הפעילות החשמלית של המוח דרך הקרקפת. בניגוד למכשירים רפואיים, המכשירים האלה נמכרים בדרך כלל כמוצרי צריכה רגילים. המשמעות היא שהשימוש במידע שהם אוספים כפוף בעיקר לתנאי השימוש של החברה ולמדיניות הפרטיות שלה, ולא לכללים המחמירים שחלים על מידע רפואי.

הכתבה ב-Science נוגעת ככל הנראה בפער הזה. לפי הדיווח, נתוני המוח משמשים לא רק להפעלת המוצר עצמו, למשל כדי להציג למשתמש ציון שינה או משוב על מדיטציה. הם משמשים גם כחומר גלם לאימון מודלי AI, ולפעמים בלי גילוי ברור למשתמשים.

למה זה רגיש במיוחד

נתוני מוח שונים ממרבית סוגי המידע שאנחנו משאירים אחרינו ברשת. מומחי אתיקה ופרטיות טוענים כבר כמה שנים שאותות עצביים עשויים לחשוף, לפחות בחלקם, מידע על מצב רגשי, רמת קשב, עייפות ואולי גם על מצבים רפואיים. סביר להניח שהיכולת להפיק מסקנות כאלה תשתפר ככל שיהיו מודלים חזקים יותר ומאגרי נתונים גדולים יותר. לכן גם לנתונים שנראים היום "גולמיים" ולא מזיקים עלולה להיות משמעות אחרת בעתיד.

לאימון מודלים יש גם בעיה נוספת: קשה מאוד להחזיר את המצב לקדמותו. גם אם משתמש יבקש בעתיד למחוק את המידע שלו, ייתכן שהוא כבר שימש לאימון מודל, ולא ברור אם ובאיזו מידה אפשר "להוציא" אותו משם.

המשמעות

הדיווח מצביע ככל הנראה על בעיה שחורגת מחברה אחת או ממוצר אחד. תעשיית ה-AI זקוקה לכמויות עצומות של נתונים, ומידע ביולוגי ייחודי כמו אותות מוחיים הוא משאב יקר ונדיר יחסית. כשהמידע הזה מגיע ממוצרי צריכה שהרגולציה עליהם מוגבלת, נוצר תמריץ ברור להשתמש בו, גם אם המשתמשים לא באמת מבינים למה הסכימו.

כמה גופי חקיקה ורגולציה בעולם כבר החלו לדון בנתונים עצביים כקטגוריה שמצריכה הגנה מיוחדת. הדיווח ב-Science עשוי להגביר את הלחץ להסדרה כזו. בינתיים, מי שמשתמשים במכשיר שמודד פעילות מוחית יכולים לבדוק במדיניות הפרטיות של היצרן אם הנתונים שלהם משמשים לפיתוח מוצרים או לאימון מודלים, והאם אפשר לבטל את ההסכמה לכך.