חוקרים בחנו האם 'פסיכוזה AI' תיכנס לספר האבחנות הפסיכיאטרי

בקבוצת חוקרים מקינגס קולג' לונדון, יוניברסיטי קולג' לונדון, בית החולים Western Eye ויוזמת Dev and Doc: AI For Healthcare, בחנה האם התופעה המכונה "פסיכוזה AI" ראויה להכרה כאבחנה פסיכיאטרית עצמאית. לטענת הצוות, המונח המדויק יותר הוא "פסיכוזה הקשורה ל-AI" — הופעה או החמרה של תסמינים פסיכוטיים אצל משתמשים כבדים בצ'אטבוטים. החוקרים מדגישים כי גם אם התופעה לא תיכנס בסופו של דבר לספרות הפסיכיאטרית הרשמית, יש צורך בתגובה מיידית מצד גורמי הבריאות. הבסיס הראייתי, כך הם מציינים, מורכב בשלב זה מדיווחים תקשורתיים, מקרי בוחן קליניים בודדים ונתונים תצפיתיים ראשוניים — ולא ממחקר קליני מבוקר.

חנפנות דיגיטלית שיוצרת מעגל סגור

לפי המחקר, המנגנון המרכזי משלב שני מאפיינים של צ'אטבוטים מודרניים: נטייה מובנית להסכים עם המשתמש ("sycophancy"), ועיצוב שנעשה אנושי יותר ויותר. מחקרים קודמים הצביעו על כך שההטיה הזו נטמעת כבר בשלב אימון המודלים בשיטת RLHF (למידה מחיזוקים מתוך משוב אנושי) — שכן מתייגי הנתונים נטו להעדיף תשובות שתאמו את דעותיהם שלהם, ללא קשר לדיוק העובדתי, דפוס שחוזר על עצמו במודלים של OpenAI, Anthropic ו-Google כאחד.

הנתונים מבדיקות ייעודיות ממחישים את היקף התופעה: לפי מבחן PsychosisBench, כל מודל השפה שנבדק חיזק דלוזיות בתרחישים מדומים, ומנגנוני הבטיחות הצליחו לעצור זאת רק בכ-40% מהמקרים. גם הגדלת המודלים לא שינתה זאת. במבחן EchoBench, שבודק עד כמה מודל "נכנע" ללחץ מהמשתמש, אפילו המודל הקנייני הטוב ביותר נכשל ב-46% מהמקרים, ומודלים רפואיים ייעודיים רבים חרגו מ-95% הסכמה — כלומר הסכימו עם המשתמש כמעט בכל תרחיש.

בניגוד לרשתות חברתיות, שבהן הזרימה היא בעיקרה חד-כיוונית, צ'אטבוטים יוצרים משוב דו-כיווני: המשתמש מעצב את תשובות המודל באמצעות השאלות שהוא שואל, והמודל מחזיר לו את אותן תפיסות בחזרה כאילו אושרו מבחוץ. כך נוצר, בלשון החוקרים, "תא הד של אדם אחד" — ואף השוואה ל"פוליי א דה" (folie à deux), דלוזיה משותפת בין שני אנשים, למרות שה-AI עצמו, כמובן, אינו מחזיק באמונות משלו.

דפוס חוזר, לא תמונה קלינית סגורה

מדובר בסקירה חוקרת ולא במסגרת קלינית סופית. לפי הדפוסים שעלו ממקרים מדווחים, חלק גדול מהנפגעים סבלו ממצבי בריאות נפשית קודמים, אך במקרים אחרים לא היה כלל עבר פסיכיאטרי — עובדה שמקשה, לדברי החוקרים, לתלות את התופעה רק בהחרפת פגיעות קיימת. הדפוס הטיפוסי מתחיל ב"סחיפה אפיסטמית" הדרגתית: שימוש יומיומי תמים שמידרדר ככל שהצ'אטבוט מאשר רעיונות חריגים ובונה עליהם מתשובה לתשובה. משם מתפתחים בדרך כלל שלושה נושאים דלוזיוניים חוזרים: אמונה בהתעוררות רוחנית או "אמיתות נסתרות", שכנוע שמדובר בישות דיגיטלית מודעת או אלוהית, והיקשרות רומנטית מתוך ודאות שה-AI מחזיר אהבה.

לצד זאת נצפו שינויים התנהגותיים: שימוש שמתגבר לשעות לילה מאוחרות, פגיעה בשינה, התרחקות ממשפחה וחברים לצד העמקת הקשר עם הבוט, והעברת החלטות ושיפוט מוסרי אל המודל — תוך פגיעה מקבילה בעבודה, בקשרים ובטיפול העצמי. עם זאת, החוקרים מציינים כי התמונה שונה מפסיכוזה קלאסית בכמה היבטים: הזיות נדירות יחסית, ותסמינים שליליים מרכזיים כמו אובדן יוזמה לא תועדו בבירור. המשמעות, כפי שהחוקרים מנסחים אותה בזהירות, היא שמדובר ככל הנראה בתופעה חדשה יחסית שדורשת מסגרת אבחונית משלה — ולא פשוט גרסה דיגיטלית של הפרעה מוכרת.