OpenAI מרחיבה את מניעת האלימות ב-ChatGPT ומתחייבת לדווח לציבור על בטיחות
OpenAI פרסמה דוח בטיחות קהילתית והכריזה על הגנות חדשות לבני נוער. לדברי החברה, היא מרחיבה את מנגנוני ההגנה מפני אלימות ב-ChatGPT, תתערב בשלב מוקדם יותר ומתחייבת לדווח לציבור על נושאי בטיחות.
OpenAI מודיעה שהיא מהדקת את מנגנוני מניעת האלימות ב-ChatGPT. לצד דוח בטיחות קהילתית והגנות חדשות לבני נוער, החברה מתארת שלושה מהלכים: הרחבה של מנגנוני ההגנה (safeguards), התערבות בשלב מוקדם יותר והתחייבות חדשה לדווח לציבור על נושאי בטיחות.
מה הוכרז
לפי ההודעה הרשמית, OpenAI "מחזקת את מניעת האלימות ב-ChatGPT" באמצעות שלושה רכיבים:
- הגנות מורחבות: מנגנונים שנועדו לזהות שיחות שעלולות להוביל לפגיעה ולהגיב עליהן.
- התערבות מוקדמת: החברה מתחייבת להתערב בשלב מוקדם יותר. ככל הנראה הכוונה לזיהוי סימני סכנה כבר בשלבים מוקדמים של השיחה, ולא רק אחרי שהמשתמש ביקש במפורש משהו מסוכן.
- דיווח ציבורי על בטיחות: התחייבות חדשה לפרסם מידע לציבור על נושאי בטיחות.
כותרת ההודעה מציינת גם הגנות חדשות שמיועדות לבני נוער. בחומרים שבידינו אין פירוט של ההגנות האלה, ולכן איננו יודעים בשלב זה כיצד ייושמו, באילו מדינות ומתי.
ההקשר: צ'אטבוטים ומשתמשים צעירים
ההודעה מתפרסמת על רקע דיון ציבורי ער בשאלה כיצד צ'אטבוטים מבוססי LLM (מודלי שפה גדולים) מגיבים למשתמשים במצוקה, ובפרט לקטינים. מערכות כמו ChatGPT ניהלו בעבר בעיקר שיחות קצרות של שאלה ותשובה. כיום משתמשים רבים מנהלים איתן שיחות ארוכות ואישיות, ושם קשה יותר לזהות מתי שיחה הופכת למסוכנת.
המעבר ל"התערבות מוקדמת" מעיד ככל הנראה על הבנה שחסימה של בקשות מפורשות בלבד אינה מספיקה. מנגנון שמגיב רק כשמשתמש כותב במפורש על כוונה לפגוע מגיע לעיתים קרובות מאוחר מדי. ההערכה היא שהחברה מנסה לעבור מסינון תוכן לזיהוי מגמה לאורך השיחה כולה.
למה זה חשוב
החידוש הבולט הוא ככל הנראה דווקא ההתחייבות לשקיפות. חברות AI מפרסמות לרוב מסמכי מדיניות כלליים, אבל דיווח ציבורי קבוע על בטיחות, אם אכן יהיה קבוע, עשוי לאפשר לחוקרים, להורים ולרגולטורים לבחון אם המנגנונים עובדים בפועל, ולא רק להסתמך על הצהרות.
עם זאת, בחומרים שבידינו אין נתונים, לוחות זמנים או פירוט טכני. המשמעות היא שאת ההכרזה יהיה אפשר להעריך רק כשיתפרסמו הדיווחים עצמם: מה ייכלל בהם, באיזו תדירות יופיעו ועד כמה יהיו מפורטים.
להורים בישראל, שילדיהם משתמשים ב-ChatGPT ללימודים ולשיחה, ההודעה מסמנת כיוון ולא פתרון מוגמר. כדאי לעקוב אחרי הפרטים שהחברה תפרסם על ההגנות לבני נוער.