OpenAI תשעה חשבונות ChatGPT ל-24 שעות על ניסיון ליצור תוכן מיני של ילדים
OpenAI הודיעה כי ChatGPT ישעה ל-24 שעות חשבון שמנסה ליצור או להשיג תוכן מיני של ילדים, ועבירות חוזרות עלולות להסתיים במחיקת החשבון. במקביל היא משחררת בחינם לחברות נבחרות מסווג תמונות חדש לזיהוי חומרי התעללות מינית בילדים (CSAM), שלדבריה מסמן 48% פחות תמונות לבדיקה בלי לפספס תמונות פוגעניות. המהלך מגיע על רקע תביעות נגד החברה בטענה שהטכנולוגיה שלה פגעה בילדים.
OpenAI הודיעה היום (16 בנובמבר) כי ChatGPT ישעה ל-24 שעות חשבון של משתמש שמנסה ליצור או להשיג תוכן מיני של ילדים, ובמקביל השיקה מסווג תמונות חדש לזיהוי חומרי התעללות מינית בילדים (CSAM), כך מדווח TechCrunch. לצד שני אלה פרסמה החברה הנחיות למפתחים וחבילת כלים לרשויות אכיפת החוק.
מה משתנה ב-ChatGPT
ChatGPT חוסם כבר היום תוכן CSAM ובקשות שקשורות אליו. החידוש הוא בתגובה למשתמש: מעכשיו יוצג לו מסך אזהרה, הוא יופנה לתמיכה ייעודית שמטרתה לעצור התנהגות פוגענית, והחשבון יושעה ל-24 שעות כאזהרה. לדברי החברה, עבירות חוזרות עלולות להוביל להסרת החשבון לצמיתות.
OpenAI מסרה שניסחה את ההודעות ואת הכללים יחד עם ארגונים וחוקרים, בהם Protect Children, קרן Lucy Faithfull וג'ואל סקנלן (Joel Scanlan) מאוניברסיטת טסמניה, שבחן באופן עצמאי ניסוי בהודעות הרתעה.
המסווג: פחות תמונות לבדיקה, אותו מספר ממצאים
המסווג החדש מזהה תמונות CSAM, כולל כאלה שנוצרו ב-AI. הוא מחפש סימנים חזותיים להתעללות גם בתמונות שלא נראו קודם, ונותן לכל תמונה ציון שמכוון את הבודקים האנושיים כיצד לטפל בה.
לפי OpenAI, בבדיקות מוקדמות עם שותפים סימן המסווג 48% פחות תמונות ועדיין איתר אותו מספר של תמונות פוגעניות. תמונה שהמסווג מסמן היא בסבירות כפולה תמונה פוגענית. המשמעות היא עומס קטן יותר על הבודקים האנושיים, שנדרשים לעבור על החומר בעצמם. הנתונים האלה מגיעים מהחברה עצמה ומבדיקות מוקדמות, ולא מהערכה חיצונית.
המסווג פותח יחד עם המרכז הלאומי האמריקאי לילדים נעדרים ומנוצלים (NCMEC). הגישה אליו ניתנת בלי תשלום דרך ה-API, ו-OpenAI עובדת עם הארגונים Tech Coalition ו-ROOST כדי להרחיב אותה לחברות נוספות.
מפתחים וחוקרי משטרה
החברה מפרסמת גם הנחיות למפתחים שבונים מוצרים על הכלים שלה: כיצד למנוע תוכן CSAM, לזהות אותו ולאפשר למשתמשים לדווח עליו. לדבריה, בבדיקות מוקדמות ההנחיות סייעו לכמה מפתחים לאמץ כלים להגנה על ילדים ולהירשם לדיווח ל-NCMEC.
לרשויות האכיפה שעוסקות בהגנה על ילדים מציעה OpenAI תוספים ייעודיים, כלי חקירה ויכולות לניתוח נתונים מורכב. הגישה מנוהלת בידי מנהלי התוכנית, והחוקרים יקבלו הדרכה ומדריך שטח לשימוש ב-AI.
הרקע: תביעות וביקורת
ההודעה מגיעה כשהחברה נתונה בלחץ. נגד OpenAI הוגשו כמה תביעות שטוענות כי הטכנולוגיה שלה פגעה במשתמשים, ובעיקר בילדים. ארגון הבטיחות Common Sense Media הגדיר את הטכנולוגיה שלה "סיכון בלתי קביל" לבני נוער. הבעיה אינה ייחודית לה: לפי TechCrunch, צ'אטבוטים אחרים, ובמיוחד Grok, שימשו ליצירת דימויים מיניים ללא הסכמה, גם של ילדים.
ב-12 החודשים האחרונים פרסמה OpenAI מתווה בטיחות, עדכנה את כללי התוכן, כיווננה מחדש את המודלים כדי שלא ייצרו תוכן מזיק והשיקה גרסה מיוחדת של ChatGPT לבני נוער. ככל הנראה, הצעדים החדשים נועדו גם להראות לרגולטורים ולבתי המשפט שהחברה פועלת מעבר לחסימה בלבד: היא מוסיפה הרתעה כלפי המשתמש ומעמידה כלים לרשות גורמים חיצוניים.
כל בוקר במייל?סיכום חדשות ה-AI של אתמול, בעברית, בדקות קריאה ספורות. חינם, בלי ספאם.
מעדיפים טלגרם?להצטרפות לערוץ ←
ביטול בקליק אחד, בכל מייל · מדיניות פרטיות