מוסטפה סולימן נגד אנתרופיק: "מערכות AI אינן מודעות", ואסור לאמן אותן לחשוב שאולי הן כן

מוסטפה סולימן, מנכ"ל חטיבת Microsoft AI של מיקרוסופט, פתח בספטמבר חזית פומבית מול אנתרופיק. במסה שפרסם תחת הכותרת "A warning about model welfare" ("אזהרה בעניין רווחת המודלים") הוא טוען שמערכות AI אינן מודעות, ושהדרך שבה אנתרופיק מאמנת את Claude עלולה לפגוע ביכולת של בני האדם לשלוט בהן.

"מערכות AI אינן מודעות. הן לא מרגישות, לא חוות ולא סובלות", כתב סולימן בפוסט ב-X שבו שיתף את המסה. לדבריו, יש "תנועה הולכת וגדלה" בעד רווחת מודלים (model welfare), כלומר הרעיון שבקרוב אולי תהיה לנו חובת אכפתיות כלפיהם. "אני חושב שהגישה הזאת לפיתוח AI שגויה, וככל הנראה היא תהפוך את אתגר ה-alignment וה-containment לקשה בהרבה. אולי לבלתי אפשרי". alignment פירושו התאמת המערכת לערכים אנושיים, ו-containment פירושו היכולת לרסן אותה.

החוקה של Claude במרכז הוויכוח

לב הביקורת הוא "החוקה" שאנתרופיק פרסמה בינואר. זה מסמך עקרונות שלפי החברה "מעצב ישירות את התנהגותו של Claude" ונכתב "כש-Claude הוא קהל היעד העיקרי שלו". החוקה מייחסת ל-Claude "גרסה פונקציונלית כלשהי של רגשות", ומתייחסת לשאלת המעמד המוסרי שלו כ"שאלה רצינית שראוי לשקול". בנוסף היא מבטיחה לאפשר ל-Claude להביע חששות לגבי היחס אליו. סולימן מזכיר גם שאנתרופיק ערכה "ראיון פרישה" למודל Opus 3 כשהוציאה אותו משימוש.

"חוקרי החברה אימנו את Claude ישירות על החוקה שלהם", כותב סולימן. "בכך הם מלמדים אותו לאמץ את הרעיונות האלה על המעמד המוסרי שלו כהתנהגות רצויה. Claude משקף את הרעיונות האלה בחזרה למפתחים ולמשתמשים, והם רואים בכך סימן לכך שאולי הוא אכן בעל מעמד מוסרי ו'עצמי פנימי'". במילים אחרות, סולימן טוען שהשאלה נשתלת במודל, ואחר כך התשובות של המודל מוצגות כאילו הן ראיה.

סולימן לא מתנגד לכך שאנתרופיק תפרסם את ההשערות שלה. ההתנגדות שלו היא להטמעה שלהן באימון. "ניצור מין סינתטי בעל אינטליגנציה ויכולות חסרות תקדים, שאומן לצפות שאולי הוא מודע וראוי לסוכנות עצמאית", הוא מזהיר. הוא קורא ל"דיון ציבורי דחוף" ולגיבוש נורמות משותפות לניסוח מסמכי אימון. לצד הביקורת הוא מדגיש שהוא רוחש "כבוד אמיתי" לאנתרופיק ולמנכ"ל דריו אמודיי. אמודיי עצמו אמר מוקדם יותר השנה שהוא "פתוח לרעיון" ש-AI עשוי להיות מודע.

עמדה עקבית, טענה שנויה במחלוקת

אין כאן מהפך בעמדותיו של סולימן. כבר בנובמבר 2025 הוא טען שרק ליצורים ביולוגיים יש תודעה. בפוסט בבלוג שלו בשנה שעברה כתב: "עלינו לבנות AI לאנשים, לא אדם דיגיטלי". בראיון שקטעים ממנו הופצו ברשת הוא תיאר, לפי הדיווח, מודלים כ"מנועי השלמת רצפים, חלולים מבפנים". את הציטוט הזה לא ניתן היה לאמת מול מקור ראשוני.

המסה פורסמה בתקופה מתוחה במיוחד לתעשייה. היא הגיעה אחרי המסה של אמודיי, שקרא להאט את קצב פיתוח ה-AI ולהתערבות ממשלתית. היא גם הגיעה בסמוך לפרסום "קוד ההתנהגות ל-AI הומניסטי" של מיקרוסופט, מסמך בן 37 עמודים.

למה זה חשוב

הוויכוח נשמע פילוסופי, אבל ההשלכות שלו מעשיות. התשובה לשאלה מה מותר לכתוב במסמכים שמעצבים את "האישיות" של מודל תשפיע ככל הנראה על הדרך שבה ייבנו מערכות שמשמשות מאות מיליוני אנשים. יחד עם זאת, חשוב לזכור: הטענה שתודעה מחייבת גוף ביולוגי היא עמדה פילוסופית אחת מני רבות, ולא קונצנזוס מדעי. גם הקביעה שאימון "מודע לתודעה" מגדיל את הסיכון היא בשלב זה הערכה של סולימן, לא ממצא. לבחירה של אנתרופיק להשאיר את השאלה פתוחה יש תומכים לא מעטים. נראה שהעובדה שמנהל בכיר באחת מחברות ה-AI הגדולות בעולם בחר לנהל את המחלוקת בפומבי מבטאת עד כמה השאלה כבר יצאה מגבולות האקדמיה.