מטא תשיק בדצמבר את Muse Charm: מחזיק מפתחות עם AI שנראה כמו צעצוע – וארגוני הגנת הילד מודאגים

מטא תשיק בדצמבר את Muse Charm, מכשיר AI קטן שנתלה כמו מחזיק מפתחות. בחזית שלו יש מצלמה ומיקרופונים, והוא נותן גישה ישירה לסוכן הבינה המלאכותית של החברה, Muse, בלי צורך לפתוח סמארטפון או אפליקציה. מארק צוקרברג חשף את המכשיר בוועידת המפתחים השנתית של מטא. לפי ynet הוא מסר עליו מעט פרטים והבטיח שפרטים נוספים יפורסמו בהמשך.

מטא מדגישה שהמוצר מיועד למבוגרים בלבד, כי סוכן ה-Muse שעליו הוא מבוסס מוגבל לגילאי 18 ומעלה. הבעיה היא העיצוב. הקמע של המכשיר מזכיר בובת טלטאביז, והמכשיר עצמו נראה כמו גרסה חדשה של הטמגוצ'י משנות ה-90. חוקרי אבטחה, פסיכולוגים וארגוני הגנת הילד כבר יצאו נגדו. "זה נראה כמו ניסיון לא הולם של מטא לגרום לילדים קטנים להתמכר ל'מיוז'", אמרו.

מחיית מחמד לעוזר אישי

הטמגוצ'י המקורי הטיל על בעליו לגדל יצור וירטואלי שחי על מסך LCD זעיר. ב-Muse Charm התפקידים מתהפכים: היצור הדיגיטלי משמש עוזר אישי. אפשר לבקש ממנו בשיחה טבעית לבצע משימות כמו חיפוש באינטרנט, מילוי טפסים, רכישות והזמנת נסיעות. מדובר בסוכן AI, כלומר מערכת שלא רק עונה על שאלות אלא גם מבצעת פעולות בשם המשתמש. מטא השיקה את Muse לפני פחות מחודש.

"אמפתיה מזויפת"

ארגון הבטיחות ברשת The White Hatter, שחברים בו מומחי טכנולוגיה ופעילי בריאות הנפש, פרסם מאמר מפורט על המכשיר. לפי הארגון, הטמגוצ'י הקלאסי הגיב ללחיצות כפתור פשוטות, ואילו Muse Charm אמור לנהל שיחות קוליות, לזכור את ההיסטוריה האישית של בעליו ולהפגין כלפיו אמפתיה מזויפת. עוד טוען הארגון שילדים ובני נוער נוטים במיוחד לייחס תכונות אנושיות ל-AI, ועלולים להיקשר רגשית למכשיר שמבטיח "להיות שם בשבילם תמיד", אף שאין מאחוריו שום ישות.

מומחי שיווק מעריכים שמטא בחרה במכוון בעיצוב חביב ולא מאיים, כדי להתמודד עם הביקורת נגדה בעקבות הפרסומים ופסקי הדין על התמכרות לרשתות חברתיות. במגזין Inc. נכתב שהחלטה לשווק טכנולוגיה עם סיכונים כה רבים באריזה שנראית ומרגישה כמו צעצוע מעוררת דאגה עמוקה.

מצלמה שתמיד פועלת

גם פעילי פרטיות מתנגדים למכשיר. המצלמה והמיקרופון יזינו את מודל ה-AI בזמן אמת. פרופ' ג'ייתן סדובסקי מאוניברסיטת מונאש באוסטרליה מתאר את המכשיר כמערכת איסוף נתונים אדירה. לדבריו, ככל שהמכשיר נראה תמים יותר, כך משתמשים ייטו יותר לשתף אותו בסודות ובתמונות אישיות, כי ירגישו שהם מדברים עם חבר ולא עם פלטפורמת פרסום ומעקב. בנוסף, המצלמה מצלמת גם אנשים אחרים בסביבה, כמו בני משפחה, חברים לכיתה ומורים, בלי שהסכימו לכך ובלי שהם יודעים שהמידע מגיע למטא.

תגובת מטא

דובר מטא, דניאל רוברטס, דחה את הטענה שהעיצוב נועד למשוך ילדים. "אנשים רוצים ליצור אווטאר משלהם עם אישיות וסגנון ייחודי, כי זה כיף ומביא להם שמחה", אמר. לדבריו, "אנחנו דורשים מכל מי שמשתמש באפליקציית 'מיוז' לספק את תאריך הלידה שלו ואנחנו מבצעים בדיקות נוספות וחוסמים אנשים שאנו מזהים שהם מתחת לגיל 18". בנושא הפרטיות אמר שמשתמשים יכולים לבחור שהמידע שלהם לא ישמש לאימון מודלי AI, ושהנתונים מוגנים בסטנדרטי האבטחה הגבוהים ביותר של החברה.

למה זה חשוב

המחלוקת נוגעת בשאלה רחבה יותר: מי אחראי כשמוצר מוגבל לגיל 18 ומעלה על הנייר, אבל העיצוב שלו פונה לכל הגילאים? בדיקת גיל שמבוססת על תאריך לידה שהמשתמש מזין בעצמו קלה לעקוף, ולכן ככל הנראה היא לא תרגיע את המבקרים. מטא הבטיחה לפרסם פרטים נוספים בהמשך, וייתכן שעד ההשקה בדצמבר יתברר אם ההגבלות האלה יחזיקו מעמד.