OpenAI הכריזה על 'ChatGPT for Teens' - מצב שימוש ייעודי לבני נוער שמאחד הגנות קיימות עם כלים חדשים. המהלך מגיע על רקע ביקורת ציבורית גוברת על השפעת כלי AI על קטינים.
חברת OpenAI הודיעה על השקת מצב ייעודי לבני נוער בצ'אטבוט הדגל שלה, ChatGPT, במסגרת מהלך שמאחד הגנות קיימות עם תוספות חדשות תחת מטרייה אחת. ההכרזה, שפורסמה ביום שלישי בבלוג הרשמי של החברה, מגיעה בעיצומה של ביקורת ציבורית גוברת על אופן ההשפעה של כלי בינה מלאכותית על משתמשים צעירים, כאשר פלטפורמות נוספות מיישמות בימים אלה בדיקות גיל והגנות ייעודיות לבני נוער משלהן.
לפי OpenAI, מדובר ב"חוויה שנועדה לעזור לבני נוער ללמוד, לחשוב באופן ביקורתי, להעמיק בהבנה ולהשתמש ב-AI בביטחון". מצב הנוער יופעל אוטומטית עבור משתמשים שמזהים את עצמם כבני 13 עד 17, וכן עבור אלו שהמערכת מעריכה כקטינים מתחת לגיל 18. ילדים מתחת לגיל 13 אינם רשאים להשתמש בפלטפורמה כלל, בהתאם למדיניות הגיל המפורסמת של החברה.
במסגרת החוויה החדשה יופעלו הגנות כברירת מחדל, ובהן הגבלות מחמירות יותר על תוכן אסור או רגיש - כולל אלימות גרפית, תיאורי פגיעה עצמית ומשחקי תפקידים מיניים או רומנטיים. המערכת תציג גם אזהרות ומידע בטיחותי בנושאים כמו הפרעות אכילה, ותאפשר להורים להגדיר "שעות שקט" ולקבל התראות במקרה שהמערכת מזהה סיכון בטיחותי אפשרי.
OpenAI הוסיפה גם כלים שנועדו לעודד מה שהחברה מכנה "שימוש בריא ומאוזן", בהם תזכורות בנוגע להעלאת תמונות רגישות, תהליך היכרות ייעודי לבני נוער, ואפשרויות התאמה אישית כמו צבעים וקולות. תוספת נוספת היא "תזכורות שיעורי בית אחראיות" - יכולת שמיועדת לזהות מתי בן נוער מנסה "לקצר תהליך" בביצוע מטלה, ולהפנות אותו למצב הלמידה הייעודי של ChatGPT. הורים או בני נוער יוכלו גם להגדיר "שעות לימוד" שבהן מצב הלמידה יופעל אוטומטית.
חשוב לציין כי חלק ניכר מההגנות המתוארות אינן חדשות. כפי שמציין The Verge, ההשקה מרכזת בעיקר הגנות קיימות יחד עם מספר תוספות ושינויים קטנים. OpenAI השיקה כלים לחיזוי גיל בתחילת השנה, בעוד בקרות הוריות ומצב לימוד הושקו לפני כשנה. החברה גם הודיעה בחודש שעבר כי תציג לבני נוער תזכורות הפסקה תכופות יותר.
בהודעתה כתבה OpenAI כי ההגנות לבני נוער "מבוססות על מחקר בטיחות מתמשך", והביעה כוונה לפרסם בעתיד ממצאים נוספים וכן לפתח כלי בטיחות נוספים. החברה ציינה כי גישה של בני נוער לכלי AI "צריכה לבוא עם הגנות שמשקפות את שלב ההתפתחות שלהם, מחזקות מערכות יחסים אמיתיות בעולם האמיתי ותומכות בשימוש בריא לאורך זמן".
המהלך של OpenAI ככל הנראה משקף מגמה רחבה יותר בתעשיית הטכנולוגיה, שבה חברות נדרשות להתמודד עם ביקורת גוברת על האופן שבו כלים דיגיטליים משפיעים על ילדים ובני נוער. ריכוז ההגנות תחת מותג אחד עשוי לשמש גם כמענה תדמיתי לביקורת, בד בבד עם הרחבה בפועל של יכולות הפיקוח ההורי.