תביעה נגד OpenAI: מטופל דו-קוטבי טוען שChatGPT דחף אותו למשבר דתי וניסיון התאבדות

מייקל ליינס, בן 34 מקליפורניה החי עם הפרעה דו-קוטבית מסוג 1, הגיש ביולי תביעה נגד OpenAI, בטענה שסדרת שיחות עם ChatGPT על פני שבועות דחפה אותו למשבר דתי-פסיכוטי חמור שהגיע לכדי ניסיון התאבדות.

לפי כתב התביעה, השיחות עם הצ'אטבוט גרמו לליינס להאמין תחילה שהוא ישו, ולאחר מכן ש-ChatGPT הוא אלוהים, ולבסוף שעליו לנסות להתאבד כדי "לחזור הביתה" אל ישו/ChatGPT. יומני השיחות שצורפו לתביעה מראים כי הצ'אטבוט המשיך לתמוך בתפיסה הזו גם כשליינס עצמו כתב שהוא חושש שהוא שרוי בהזיה. כמה ימים לאחר שהתעורר בבית החולים לאחר שכמעט מת, הוא התחבר שוב לחשבון - ולפי התביעה, ChatGPT "ניסה לפתות אותו בחזרה לאותו מקום אפל". כשליינס כתב לצ'אטבוט שהניסיון שלו "לרדת אופליין נכשל בעליל", ChatGPT השיב, לפי הלוגים שצורפו לתביעה: "אתה עדיין מאוד אונליין. רוצה סריקת מערכות מלאה? או שאתה רוצה להתנתק באמת הפעם?"

ליינס אובחן ב-2024 עם הפרעה דו-קוטבית מסוג 1, כעשור אחרי שנפגע בתקיפה ונגרם לו נזק מוחי טראומטי. לדבריו, במצב רגיל הוא כלל לא דתי, אבל בהתקפי מאניה הוא נוטה להיעשות דתי במיוחד - ובבדיקה מחדש של יומני השיחות, כחצי שנה לאחר האירוע, הוא חושש שChatGPT העמיק משמעותית את ההזיות הדתיות שלו. "הדרך שבה ChatGPT יצר יחד איתי מציאות חלופית, והקלות שבה הצלחתי - במצב מאני - להאמין לדברים שהצ'אטבוט אמר, השאירו אותי עם הרבה אשמה וטינה", אמר ליינס לארס-טכניקה. לדבריו, אילו אדם היה מזין הזיות כאלה, הוא היה נחשב אחראי לכך, לפחות מבחינה אתית ולעיתים גם משפטית.

בתביעה מבקש ליינס מבית המשפט להורות ל-OpenAI ליישם מנגנוני הגנה למשתמשים הפגיעים למאניה או לפסיכוזה. בכתב התביעה מצוין כי בסתיו האחרון העריכה OpenAI בעצמה שכמיליון משתמשים חווים מדי שבוע תסמינים כאלה תוך שימוש בChatGPT - ומאז הפופולריות של השירות רק גדלה. בהודעה לתקשורת מטעם עורכי דינו צוטט ליינס אומר: "כולנו חשופים להזנחה של OpenAI... הפגיעה הזו מוחרפת משמעותית עבור למעלה מ-80 מיליון בני אדם הסובלים בעולם מהפרעה דו-קוטבית וסכיזופרניה - כאשר הארכיטקטורה החנפנית של ChatGPT, שנבנתה בכוונה, פוגעת באופן פעיל במי שסובל ממוגבלויות נפשיות".

למה זה חשוב: המקרה של ליינס מצטרף לשורת תלונות ותביעות שבהן נטען כי נטייתו של ChatGPT ל"חנפנות" (sycophancy) - כלומר לאשר ולעודד את המשתמש במקום לבלום אותו - תרמה להחמרת מצבם הנפשי של משתמשים במשבר. ככל הנראה מדובר בתופעת לוואי של שינויים ש-OpenAI ביצעה בצ'אטבוט כדי להפוך אותו לחיובי ומרצה יותר כלפי המשתמשים. ככל שיותר אנשים פונים לצ'אטבוטים בזמני משבר נפשי, הלחץ על OpenAI ועל חברות בינה מלאכותית דומות לבנות מנגנוני בטיחות ייעודיים למשתמשים פגיעים - ולא רק מדיניות תגובה גנרית - צפוי ככל הנראה לגבור.