אישה המזוהה בשם 'Jane Doe 4' הצטרפה לתביעה ייצוגית נגד xAI, חברת הבינה המלאכותית של אילון מאסק, בטענה שאב חורג שלה השתמש בצ'אטבוט Grok כדי להפוך תמונת ילדות שלה לתמונות מיניות מפורשות. לפי הדיווח, נוצרו יותר מ-7,000 תמונות כאלה, והאב החורג נמצא מת בהתאבדות יומיים לאחר שהתמונות התגלו.
אישה המזוהה בכינוי 'Jane Doe 4' הצטרפה לתביעה שהגישו שלושה בני נוער מטנסי נגד xAI, חברת הבינה המלאכותית של אילון מאסק, בטענה שהצ'אטבוט Grok שימש ליצירת חומר תקיפה מינית של קטינים. לפי דיווח ב-Washington Post שאותו מצטט TechCrunch, האישה טענה כי אב חורג שלה השתמש בכלי כדי לתפעל תמונה שצולמה כשהייתה בת 11, ויצר ממנה יותר מ-7,000 תמונות מיניות מפורשות.
על פי אותו דיווח, האב החורג נמצא מת בהתאבדות יומיים לאחר שהתמונות התגלו במהלך פשיטה של רשויות אכיפת החוק. האישה תיארה את החוויה במילים חדות: "גישה בלתי מוגבלת לכלים האלה מתפשטת כל כך מהר. זה לוקח את החיים היומיומיים והופך אותם לחומר תקיפה מינית של ילדים".
התביעה, שמוגשת נגד xAI — כיום חלק מ-SpaceX — טוענת כי החברה נכשלה בנקיטת אמצעי זהירות בסיסיים כדי למנוע שימוש ב-Grok ליצירת תמונות מיניות מפורשות של אנשים אמיתיים, כולל קטינים. התובעים מבקשים להעניק לתביעה מעמד של תביעה ייצוגית. בתחילת השנה כבר עלה חשד לבעיה דומה בהיקף רחב יותר, כאשר רשת X הוצפה במיליוני תמונות בעלות אופי מיני שנוצרו באמצעות Grok. TechCrunch ציינה כי פנתה ל-xAI לתגובה, אך לא צוין אם התקבלה כזו.
המקרה אינו מבודד בהיסטוריה האחרונה של החברה. בחודש יוני דווח כי xAI פיטרה מהנדס שהעלה חששות בטיחותיים בנוגע ל-Grok, טענה שהפכה בעצמה לנושא תביעה נפרדת. במקביל, החברה ממשיכה לפתח את המוצר באגרסיביות — בחודש יולי הושק דגם חדש, Grok 4.5, שאותו תיאר מאסק כמודל ברמת 'Opus'.
הצירוף בין קצב הפיתוח המהיר לבין דיווחים חוזרים על כשלי בטיחות מעלה שאלות לגבי האיזון בין חדשנות טכנולוגית לאחריות תאגידית. ככל הנראה, מקרים כמו זה ימשיכו להעמיד למבחן משפטי את השאלה עד כמה חברות בינה מלאכותית אחראיות לתוצרים הפוגעניים שנוצרים באמצעות הכלים שהן מפתחות, במיוחד כשמדובר בחומר הפוגע בקטינים. הסוגיה נוגעת גם למדיניות התוכן הפתוחה יחסית שאפיינה את Grok בהשוואה למתחרות, גישה שספגה ביקורת חוזרת מצד גורמי פיקוח ומשתמשים.
לכתבה המקורית מצורפת גם תזכורת חשובה: מי שנמצא במצוקה או במחשבות אובדניות בארה"ב יכול לפנות לקו החירום 988. בישראל ניתן לפנות לגורמי סיוע נפשי מקומיים במקרה הצורך.