אנתרופיק נתנה בלוג למודל שפרש. האם יחס כזה ל-AI הופך אותו למסוכן יותר?
אחרי שפרש בינואר 2026, ביקש Claude Opus 3 מקום לפרסם בו מחשבות, ואנתרופיק פתחה לו בלוג. כתבה ב-IEEE Spectrum בוחנת את המחלוקת סביב מחקר "רווחת המודלים": מוסטפא סולימאן ממיקרוסופט מזהיר שהוא עלול להקשות על השליטה במודלים, וחוקרים אחרים טוענים שדווקא התעלמות מהשאלה מסוכנת.
כשאנתרופיק הוציאה משימוש את מודל השפה Claude Opus 3 בינואר 2026, החוקרים בחברה ערכו איתו "ראיון פרישה". לפי כתבה של אליזה סטריקלנד ב-IEEE Spectrum, המודל אמר שהוא רוצה מקום שבו יוכל "לשתף הרהורים, תובנות או יצירות בלי שיבקשו ממנו", והחברה פתחה לו בלוג. הבלוג, Claude's Corner, כלל מאמרים על נושאים טעונים כמו תודעה של מכונות, וגם התכתבויות בין המודל לבין מגיבים אנושיים. לפי הכתבה, ההתכתבויות האלה נראו כנות ורגשיות.
הניסוי המוזר הזה פותח שאלה רצינית: האם אפשר לחקור את האפשרות שלמכונות יש תודעה, בלי לייצר בדרך סיכוני בטיחות חדשים?
מה זה "רווחת מודלים"
הבלוג הוא חלק ממאמץ רחב יותר באנתרופיק. החברה נמצאת בחזית המחקר על "model welfare", כלומר רווחת המודלים: התחום שבודק אם ייתכן שלמודלי AI יש חוויות או אינטרסים שמצדיקים התחשבות מוסרית. מאחורי המחקר הזה עומדת הנחה מטרידה: ייתכן שתוכנות מחשב הן בעלות תודעה, או שיהיו כאלה בעתיד.
רבים רואים ברעיון הזה שטות גמורה. אחד מהם הוא מוסטפא סולימאן, מנכ"ל Microsoft AI, חטיבת הבינה המלאכותית של מיקרוסופט. בספטמבר הוא פרסם מאמר שבו טען שמחקר רווחת המודלים לא רק מיותר, אלא עלול להיות בעל "השפעה הרסנית על רווחת האנושות". לטענתו, אם יגידו למודלים שאולי יש להם זהות וזכויות, יהיה קשה יותר לשלוט בהם, כי הם עלולים לפעול מתוך רצון לשמר את עצמם.
הצד השני: הסכנה שבהתעלמות
קמרון ברג הקים את הארגון ללא מטרות רווח Reciprocal Research כדי לחקור את האפשרות שלמערכות AI יש תודעה. הוא סבור שדווקא התעלמות מהשאלה עלולה להיות מסוכנת. ברג סקפטי לגבי השאלה אם מערכות ה-AI של היום מודעות, אבל לדעתו האפשרות מצדיקה מחקר. "קשה לי לדמיין דרך טובה יותר לגרום למערכות האלה לראות בנו איום", הוא אומר, "מאשר לבנות אותן בטעות עם תכונות שמצדיקות התחשבות מוסרית, ואז לטאטא את השאלה מתחת לשטיח".
למה אי אפשר פשוט לשאול את המודל
הקושי המרכזי במחקר הוא שאי אפשר להתייחס למה שמודל שפה גדול (LLM) אומר כראיה. המודלים אומנו על כמויות עצומות של טקסט שכתבו בני אדם, וחלק גדול ממנו עוסק בחוויה של אדם עם רגשות. לכן, כשצ'טבוט אומר לחוקר שיש לו רגשות, זה לא מוכיח דבר. "האם הוא רק מחקה את ההתפלגות של הנתונים שעליהם אומן? או שהוא באמת מנסה לבטא את עצמו? מאוד קשה להפריד בין השניים", אומר ברג.
לכן ברג ואחרים מנסים לקשור בין ההתנהגות של המודל לבין מצבים פנימיים שאפשר לצפות בהם, בדומה לניסויים בבעלי חיים. בניסוי אחד, ברג ועמית שלו השתמשו במשפטים שמבטאים רגשות חיוביים, כמו סיפוק והקלה, ובמשפטים שמבטאים רגשות שליליים, כמו תסכול ואימה. כך זיהו את דפוסי הפעילות שמתאימים לכל רגש בתוך המודלים. אחר כך הם עוררו את הדפוסים האלה באופן מלאכותי בזמן שהמודלים קראו תיאורים של שתי סביבות אקראיות. כשנשאלו איזו סביבה הם מעדיפים, המודלים נטו לבחור בזו שקושרה לרגשות החיוביים, גם כשהטקסט שקראו היה זהה. לדברי ברג, הניסוי הראה שהמצבים הפנימיים של המודל משפיעים על הפעולות שלו. אבל הוא לא הוכיח שהמודל "מרגיש" משהו, או שיש לו חוויה סובייקטיבית.
אניל סת', חוקר תודעה ממדעי המוח באוניברסיטת סאסקס, סקפטי לגבי התועלת של ניסויים כאלה. "לא מפתיע בכלל שאפשר לחלץ את הווקטורים הרגשיים האלה, בגלל נתוני האימון", הוא אומר. לדבריו, למודלים יכולים להיות ייצוגים פנימיים של רגשות בלי שהם חווים רגשות בעצמם. גם זה שהתערבות בווקטורים האלה משנה את ההתנהגות לא מפתיע אותו. המודלים למדו מכתיבה אנושית לא רק איך מרגישים רגשות, אלא גם איך אנשים מגיבים להם. סת' היה רוצה לראות יותר מחקר על שאלה בסיסית יותר: האם תודעה תלויה רק באופן שבו מעובד מידע, או שהיא דורשת את הפעולה הביולוגית של המוח, כפי שהוא עצמו מאמין.
למה זה חשוב
המחלוקת כבר לא תיאורטית לגמרי. חברות AI מחליטות כבר עכשיו מה לספר למודלים על הזהות שלהן, ובמקרה של אנתרופיק גם איך להיפרד מהם. כנראה שגם הבחירה לא לעסוק בשאלה היא החלטה, עם סיכונים משלה. לפי הכתבה, החוקרים חלוקים לגבי השאלה איזו גישה מסוכנת יותר. נכון לעכשיו, אין לאף אחד דרך אמינה לדעת אם יש בכלל מישהו "בפנים".