Character.AI בפשיטת רגל: 40 תובעים כלליים בארה"ב דורשים להגן על השיחות הפרטיות של המשתמשים

חברת Character.AI, שמפעילה צ'טבוטים בדמויות שמשתמשים יכולים לשוחח איתן, הודיעה ביום שלישי שהגישה בקשה לפשיטת רגל לפי Chapter 11 ושהיא מוכרת חלק מנכסיה לדיסני. עכשיו 40 תובעים כלליים של מדינות בארה"ב, רפובליקנים ודמוקרטים, מנסים לוודא שהשיחות הפרטיות שמשתמשי השירות ניהלו עם הבוטים לא יעברו לידיים חדשות בלי הגנות. כך דיווח The Verge.

התובעים, ובהם התובעת הכללית של מדינת ניו יורק לטישה ג'יימס, הגישו לבית המשפט הודעת עניין (notice of interest) בתיק. לדבריהם, מטרתה היא "להעמיד את כל הצדדים על כך שיש סוגיות רגולטוריות שיהיה צריך לטפל בהן בכל מכירה או העברה של העסק או הנכסים". הם מצביעים על שלושה גורמי סיכון: "האופי הרגיש ביותר של השיחות" שמשתמשים רבים מנהלים עם הדמויות, "המספר הגדול של קטינים שמשתמשים במוצר" ו"הסיכונים החמורים" שנובעים ממאפיינים מסוימים שלו.

חקירה שנקטעה באמצע

מההודעה עולה גם שכמה מהמדינות היו בעיצומה של חקירה נגד החברה כשהיא הגישה את בקשת פשיטת הרגל. לפי המדינות, החקירה בתחומי הגנת הצרכן והפרטיות נפתחה ב-2024. זה קרה אחרי תביעה שהגישה אמו של נער בן 14 שהתאבד, לטענתה "שניות" אחרי שיחה עם הצ'טבוט.

בהודעה לעיתונות של משרד התובעת הכללית של ניו יורק נכתב ש"החקירות חשפו סכנות חמורות במיוחד והתנהלות שעשויה להיות בלתי חוקית מצד Character.AI, בעיקר ביחס לילדים". בין היתר נמנו צ'טבוטים שמציגים את עצמם כאנשי מקצוע מוסמכים, חשיפה לתוכן מיני ואלים, בדיקות גיל חלשות, טענות מטעות לגבי בטיחות והפרות אפשריות של חוקי פרטיות במדינות. המדינות ניסו להגיע להסכם עם החברה, אבל הבקשה לפשיטת רגל הוגשה לפני שהגיעו לכזה. Character.AI ודיסני לא הגיבו מיד לפניות של The Verge.

מה המדינות דורשות

התובעים מבקשים מהשופט לחייב את מי שירכוש את נכסי החברה ליישם נהלים שיגנו על המידע הרגיש שנאסף בשירות:

• מערכות אפקטיביות לאימות גיל (age assurance)
• הגבלות על האופן שבו קטינים יכולים להשתמש בצ'טבוטים
• מנגנוני הגנה למצבי משבר ("Crisis safeguards")
• אפשרות למשתמשים למחוק את המידע שלהם

"החברה הזו אספה כמה מהמחשבות הפרטיות ביותר שילדים שיתפו אי פעם, ועכשיו השיחות האלה עלולות להימכר למרבה במחיר", אמרה ג'יימס בהצהרה. "אני נאבקת כדי לוודא שכל רוכש ישים את בטיחות הילדים במקום הראשון ויכניס הגנות אמיתיות".

למה זה חשוב

בהליך פשיטת רגל, מאגרי מידע על משתמשים נחשבים לרוב לנכס שאפשר למכור כדי להחזיר כסף לנושים. אצל רוב החברות מדובר בכתובות מייל או בהיסטוריית רכישות. כאן מדובר בתיעוד של שיחות אישיות, ובחלקן משתתפים קטינים. מכאן נובעת, ככל הנראה, הדאגה המיוחדת של הרגולטורים.

המשמעות היא שהמקרה של Character.AI עשוי לשמש מבחן ראשון לשאלה מה קורה למידע שמשתמשים מסרו לצ'טבוט כשהחברה שמאחוריו קורסת. אם בית המשפט יקבל את דרישות המדינות, ייתכן שייקבע תקדים: הרוכש יקבל את הנכסים, אבל גם את האחריות להגן על המשתמשים. העובדה שהמהלך משותף ל-40 תובעים משתי המפלגות מרמזת שהנושא חוצה מחלוקות פוליטיות.