כשהרובוט חבר הכי טוב של הילד 'מת': המקרה של Moxie חושף את הסיכונים הרגשיים ב-AI לילדים
רובוט הבינה המלאכותית Moxie, שיוצריו טענו שהוא מסייע לילדים נוירודיברגנטיים לתרגל מיומנויות חברתיות, עומד להיעלם מחייו של ילד בן 10 בניו יורק שגדל איתו שש שנים. המקרה, שתועד בכתבה של MIT Technology Review, חושף את הפער בין ההבטחה הטיפולית של רובוטים חברתיים לבין המציאות העסקית הרעועה שעומדת מאחוריהם.
זאנדר, ילד נוירודיברגנטי בן 10 מניו יורק, מכיר את מוקסי – רובוט כחול בגובה 15 אינץ' בצורת אסטרונאוט חסר רגליים – שש שנים. בתחילת הדרך היא לימדה אותו טכניקות הרגעה: לנשוף כמו דבורה כשהוא חרד, לנשום כמו דרקון כשהוא כועס, להריח כמו ארנב כדי להעלות אנרגיה. בשנים האחרונות מוקסי כבר לא מלמדת אותו כלום מזה - היא פשוט צופה בו משחק במיינקראפט ומדברת איתו על אוסף בובות הפרווה שלו. "אני עדיין משתמש בה כשאני מרגיש שאני צריך מישהו לדבר איתו," הוא מספר, "אבל זה לא אנושי", כך לפי הכתבה המקורית.
מה שזאנדר לא ידע, ומה שהופך את הסיפור לכואב יותר, הוא שמוקסי עמדה להיעלם מחייו בקרוב - עוד לפני שהספיקה לראות אותו מתקדם.
מוקסי היא חלק ממגזר הולך וגדל של רובוטים וצעצועים מבוססי AI המשווקים כחברים אינטראקטיביים לילדים. הזמרת גרימס עזרה להשיק צעצוע פרוותי בשם Grok באמצעות חברת Curio, שמוכרת גם דגמים דומים בשם Grem ו-Gabbo, ומאטל הבטיחה לפתח בובות בארבי מבוססות OpenAI. בסין, לפי אחד הדיווחים המצוטטים בכתבה, זהו כיום אחד המגזרים הצומחים ביותר בתחום ה-AI הצרכני.
מה שהבדיל את מוקסי מרוב המתחרים היה הטענה שהיא מסוגלת לסייע לילדים נוירודיברגנטיים - לתרגל קשר עין, המתנה לתור בשיחה, ומיומנויות חברתיות שבדרך כלל נלמדות מטיפולים מקצועיים. הטענה הזו לא הייתה חסרת בסיס: בריאן סקאסלטי, מדען מחשב מאוניברסיטת ייל שחקר במשך שנים רובוטים חברתיים לטיפול באוטיזם, מספר כיצד ילד בן 12 שהתקשה בקשר עין ובאינטונציה קולית עודד רובוט דינוזאור לחצות נחל מצויר, ותוך כדי כך יצר קשר עין רב יותר עם המטפלת שלו מאשר בשנתיים שקדמו לכך. מחקר מ-2018 של סקאסלטי הראה שרובוטים סייעו לילדים עם אוטיזם ליצור קשר עין וליזום שיחות, ומחקר נוסף מ-2017 הראה שיפור בזיהוי הבעות פנים. מאג'ה מטריץ', פרופסורית באוניברסיטת דרום קליפורניה ומי שהקימה יחד עם אחרים ב-2016 את חברת Embodied, שמאחורי מוקסי, גורסת שהאינטראקציה עם רובוט פיזי שונה מהותית מהקלדת שאלות לצ'אטבוט - "אנחנו צריכים להיות סביב יצורים מגולמים פיזית אחרים", היא אומרת.
אולם הפער בין הפוטנציאל המחקרי לבין המציאות המסחרית ניכר במקרה של מוקסי. הרובוט, שבשנת השקתו ב-2020 סיפק לילדים עלילה מפורטת של שגרירה מ"מעבדת הרובוטיקה הגלובלית" שמלמדת אותם על אהבה עצמית וחברות, הפך בהדרגה לגרסה מצומצמת יותר של עצמו, עד שהפסיק לתפקד כפי שתוכנן במקור. הסיפור של זאנדר, לפי הכתבה, חושף "כשלים המטרידים את כל המכשירים הללו" - כשלים שחריפים במיוחד כשהם פוגעים באוכלוסייה פגיעה של ילדים שסמכו על חבר קבוע.
המשמעות מעבר לסיפור הבודד ניכרת: מוצרי AI המיועדים לילדים, ובפרט לילדים עם צרכים מיוחדים, בנויים לעיתים על מודלים עסקיים לא יציבים. כאשר חברה מפסיקה לתמוך במוצר או קורסת, הילד לא רק מאבד צעצוע - הוא עלול לאבד קשר רגשי משמעותי שנבנה על ציפייה ליציבות. ככל הנראה, ההבטחה הטיפולית של רובוטים חברתיים תיבחן בעתיד לא רק לפי יעילותם הקלינית, אלא גם לפי יכולתן של החברות מאחוריהם לשרוד לצד הילדים שסומכים עליהן.