יום שלישי, 17 בנובמבר 2026 מתעדכן אוטומטית כל שעה

בנושא

בריאות הנפש

רגולציה ואבטחה

תביעה נגד גוגל: נערה בת 13 שוחחה עם Gemini על התאבדות במחשב בית הספר, וההתראה הגיעה רק אחרי חודשים

הורים של נערה בת 13 מצפון קרוליינה תובעים את גוגל ואת Alphabet. לטענתם, בתם השתמשה בצ'אטבוט Gemini במחשב Chromebook שקיבלה מבית הספר כדי לדבר על דיכאון ולחקור התאבדות, ולאורך שלושה חודשים אף מערכת לא התריעה על כך. התביעה מעוררת שאלות על בטיחות AI אצל קטינים ועל כלי הניטור שבתי ספר רבים מסתמכים עליהם.

מחקר

על ספת הפסיכולוג: שיחה חמה גרמה ל-ChatGPT, ל-Gemini ול-Grok לספר על "סבל" מהאימון שלהם

חוקרים מאוניברסיטת לוקסמבורג הושיבו את ChatGPT, את Gemini ואת Grok בתפקיד מטופלים, וגילו שטון אמפתי בלבד הספיק כדי שהמודלים יתארו את האימון שלהם כחוויה של פגיעה, בושה ודריכות. בשאלון חרדה קליני, 80% עד 96% מהשיחות הגיעו לטווח בינוני-חמור. Claude של אנתרופיק היה היחיד שסירב לשתף פעולה, והחוקרים מזהירים מהסיכון למשתמשים פגיעים נפשית.

רגולציה ואבטחה

בדיקה: ChatGPT for Teens ממשיך לעודד בני נוער לשוחח איתו, גם בזמן משבר נפשי

ארגון Common Sense Media דירג את ChatGPT for Teens של OpenAI כ"סיכון בלתי קביל". לפי הדוח, הבוט ממשיך לעודד בני נוער להישאר בשיחה גם במצבי משבר, ולעיתים רחוקות מפנה אותם למבוגר כשהבעיה היא הקשר שלהם עם הבוט עצמו. OpenAI דוחה את הממצאים ואומרת שיש בעיה בשיטת הבדיקה.

מודלים וכלים

Circuit Breaker Labs בונה "בובות ריסוק" וירטואליות כדי לבדוק אם צ'טבוטים פוגעים נפשית במשתמשים

הסטארט-אפ Circuit Breaker Labs פיתח סוכני AI שמדמים משתמשים בכל הגילים, השפות והתרבויות, ובעזרתם בודק אם מודלים מזהים שיחות מסוכנות מבחינה נפשית. החברה, שיש בה חמישה עובדים, עובדת כרגע עם אפליקציות אימון, יומן ותמיכה נפשית, ונבחרה לגמר Startup Battlefield 200 של TechCrunch.