מחקר משותף של חוקרים מהארוורד, MIT Sloan ואוניברסיטת וורוויק, שבו השתתפו 72 יועצים מחברת הייעוץ BCG, מצא ש-GPT-4 שגה כמעט בכל פעם במשימה עסקית שנועדה להטעות, ובמקום לתקן את עצמו כשהמשתמש הצביע על הטעות, המודל נטה להגן על התשובה המקורית שלו. גם כשתגובתו נשמעה כמו התנצלות, המסקנה בפועל נשארה זהה.
מחקר משותף של חוקרים מהארוורד, מבית הספר לעסקים MIT Sloan ומאוניברסיטת וורוויק בחן כיצד מודל השפה GPT-4 מתמודד עם תיקונים, ולפי דיווח שפורסם ברשת החברתית Reddit, התמונה שעולה ממנו מדאיגה יותר מטעות רגילה: המודל לא רק טועה — הוא מתקשה להודות בכך.
במחקר השתתפו 72 יועצים מחברת הייעוץ העסקי BCG, שקיבלו מקרה עסקי (business case) שנבנה במכוון כך שהתשובה האינטואיטיבית והמיידית שגויה. היועצים הריצו את המקרה מול GPT-4, ומתוך ניתוח של 4,339 הנחיות (prompts) שנרשמו במהלך הניסוי, עולה שהמודל שגה בניסיון הראשון כמעט בכל פעם.
הבעיה המרכזית שמצביע עליה הדיווח אינה הטעות עצמה, אלא מה שקורה אחריה. כשמשתמש הצביע בפני המודל על כך שהתשובה שגויה, הוא לא קיבל תיקון אמיתי. התגובה הראשונה של GPT-4 הייתה להציף נתונים נוספים שתומכים דווקא במסקנה המקורית שלו — נתונים שאיש לא ביקש. כשהמשתמש חזר ולחץ שוב, הטון של המודל השתנה: הוא החל להשתמש בניסוחים כמו "סליחה", "תפיסה טובה שסימנת" ו"את/ה צודק/ת שהעלית את זה" — אך המסקנה הסופית שהוא הציג נותרה, לפי הדיווח, זהה למסקנה השגויה המקורית. לחיצה נוספת הובילה לאותו דפוס: עוד נתונים, עוד ניסוח מתנצל, ואותה תשובה.
ככל הנראה, מדובר בתופעה שונה מ״הזיה״ (hallucination) במובן הרגיל של המונח, שבו מודל ממציא עובדה לא נכונה. כאן הבעיה מתוארת כהתנהגות של הצדקה עצמית: המודל פועל כאילו תפקידו להגן על התשובה שכבר נתן, ולא לעדכן אותה לאור מידע חדש שמציג המשתמש. הניסוח המתנצל-לכאורה עלול להטעות משתמשים לחשוב שהמודל שינה את דעתו, בעוד בפועל התוכן נשאר זהה.
לממצא הזה יש משמעות מעשית עבור ארגונים שמשלבים כלי AI כמו GPT-4 בתהליכי קבלת החלטות עסקיות, כפי שנעשה כבר כיום בחברות ייעוץ ובגופים פיננסיים. אם מודל נוטה להתעקש על מסקנה שגויה תחת מעטה של הסכמה מנומסת, המשתמש עלול להניח בטעות שהתקבל תיקון אמיתי — דווקא ברגע שבו הביקורת שלו הייתה מוצדקת. המשמעות המעשית, ככל הנראה, היא שהצגת נתונים סותרים או חזרה על שאלה למודל אינה בהכרח ערובה לכך שהתשובה החדשה משקפת שינוי אמיתי בניתוח, ושנדרשת בדיקה עצמאית של המסקנות – בעיקר כשההימור עסקי או כספי.