חשד בניו ג'רזי: סגן תובע כללי נעצר בחשד שיצר באמצעות AI תוכן של התעללות מינית בילדים
משתמש בדיסקורד דיווח על תוכן של התעללות מינית בילדים שנוצר באמצעות בינה מלאכותית, והדיווח הוביל את המשטרה למעצר החשוד. לפי המשטרה, מאחורי שם המשתמש "thegentlemanpervert" עומד סגן תובע כללי במדינת ניו ג'רזי. מדובר בחשד בלבד, שטרם הוכח בבית משפט.
משתמש בפלטפורמת הצ'אט דיסקורד סימן ודיווח על תוכן של התעללות מינית בילדים (CSAM) שנוצר באמצעות בינה מלאכותית, והדיווח הוביל למעצרו של חשוד. לטענת המשטרה, מדובר בסגן תובע כללי (deputy attorney general) במדינת ניו ג'רזי שבארצות הברית. כך דיווח האתר Ars Technica.
חשוב להדגיש: נכון לעכשיו מדובר בחשד ובטענות של המשטרה בלבד. החשוד לא הורשע, והטענות נגדו טרם הוכחו בבית משפט.
מה ידוע
לפי הדיווח, החשוד פעל ברשת תחת שם המשתמש "thegentlemanpervert". המשטרה טוענת שהמשתמש הזה הפיק תוכן מיני פוגעני בילדים באמצעות כלי בינה מלאכותית, ושזהותו האמיתית היא של תובע במשרד התובע הכללי של ניו ג'רזי — הגוף שאחראי, בין השאר, על אכיפת החוק במדינה.
נקודת המוצא של החקירה, לפי הדיווח, הייתה משתמש בדיסקורד שנתקל בתוכן וסימן אותו. הדיווח הזה הניע את התהליך שהסתיים במעצר. פרטים נוספים — כמו שמו של החשוד, סעיפי האישום המדויקים או הכלים שבהם נעשה שימוש לכאורה — לא הופיעו בחומרים שעמדו לרשותנו, ולכן אינם מובאים כאן.
למה זה חשוב
הפרשה נוגעת בכמה סוגיות שמעסיקות בשנים האחרונות את רשויות האכיפה ואת תעשיית הטכנולוגיה.
ראשית, תוכן פוגעני שנוצר ב-AI. כלים ליצירת תמונות, המבוססים על מודלים גנרטיביים, הפכו בשנים האחרונות לנגישים וקלים לשימוש. רשויות אכיפה וארגוני הגנה על ילדים הזהירו שוב ושוב שאותם כלים עלולים לשמש ליצירת תוכן של התעללות מינית בילדים. במקרים רבים העמדה של רשויות האכיפה היא שהעובדה שהתוכן "סינתטי" אינה הופכת אותו לחוקי או לפחות מזיק. הפרשה הנוכחית ממחישה, ככל הנראה, שהבעיה איננה תיאורטית.
שנית, תפקידם של המשתמשים. לפי הדיווח, נקודת המוצא של המקרה הייתה סימון התוכן על ידי משתמש בדיסקורד. ההערכה היא שהמקרה יחזק את הטענה שמנגנוני דיווח פשוטים ונגישים בפלטפורמות חברתיות הם כלי אכיפה חשוב, לצד הכלים הטכנולוגיים.
שלישית, זהות החשוד. אם הטענות יתבררו כנכונות, המשמעות היא שאדם שתפקידו לאכוף את החוק מטעם המדינה נחשד בעבירה חמורה מהסוג שהמערכת שהוא חלק ממנה אמורה להילחם בו. פרשה כזו צפויה ככל הנראה לעורר שאלות על אמון הציבור במערכת האכיפה — אך שוב, כל זה מותנה בהוכחת האשמה בבית המשפט.
ההליך המשפטי נמצא ככל הנראה בשלביו הראשונים. עד להכרעה שיפוטית, החשוד נהנה מחזקת החפות.