האם המוח הוא מחשב? שלושה חוקרי תודעה בכירים: מערכות ה-AI של היום אינן מודעות

שלושה מהחוקרים המוכרים בחקר התודעה, אניל סת׳, נד בלוק וג׳וליו טונוני, פרסמו מאמר פרשנות בכתב העת Nature, כך מדווח The Decoder. לטענתם, מערכות הבינה המלאכותית של היום אינן מודעות, וככל הנראה גם לא יוכלו להיות מודעות כל עוד הן רצות על חומרה סיליקונית. בלב הטיעון עומדת התנגדות להנחה נפוצה בוויכוח: שמספיק להריץ את החישובים הנכונים כדי שתיווצר תודעה.

זה לא אירוע מחקרי חדש ולא ניסוי. זו עמדה פילוסופית ומדעית שמנסחים שלושה חוקרים, שעוסקים בתודעה כבר עשרות שנים מכיוונים שונים: מדעי המוח הניסויים, נוירוביולוגיה תיאורטית ופילוסופיה של הנפש.

מול דוקינס והינטון

לפי הדיווח ב-The Decoder, הכותבים מגיבים לקולות כמו הביולוג ריצ׳רד דוקינס וחלוץ ה-AI ג׳פרי הינטון, שסבורים שמערכות AI אולי כבר מודעות. הם מזכירים גם מחקר שפרסמה אנתרופיק השנה. החברה דיווחה בו על דפוסי עיבוד פנימיים ב-Claude שדומים לתכונות של עיבוד מידע שנגיש למודעות. אנתרופיק עצמה לא רואה בממצאים האלה ראיה לחוויה סובייקטיבית.

המחלוקת: האם החומר משנה?

כדי להבין את הוויכוח צריך להכיר את הדו"ח "Consciousness in Artificial Intelligence" של פטריק באטלין, רוברט לונג ו-17 מומחים נוספים, ביניהם חוקר ה-AI יהושע בנג׳יו. על בסיס תיאוריות מובילות במדעי המוח, הם גיבשו רשימה של 14 מדדים: ככל שמערכת עומדת ביותר מהם, כך מתחזק הטיעון שהיא עשויה להיות מודעת. כשבחנו מודלי שפה גדולים (LLM) כמו GPT-4, הם הגיעו למסקנה שאף מערכת שבדקו אינה מועמדת חזקה לתודעה. בנקודה הזאת הם מסכימים עם סת׳, בלוק וטונוני.

ההבדל הוא בעתיד. לפי הדו"ח, אין מכשולים טכניים ברורים לבניית מערכות שיעמדו ביותר מדדים. הוא נשען על הנחה שנקראת computational functionalism (פונקציונליזם חישובי): תודעה תלויה רק בסוג עיבוד המידע, ולא בשאלה אם הוא מתרחש בתאי עצב או בשבבים. הכותבים אימצו את ההנחה הזאת במפורש "מסיבות פרגמטיות", והודו שהמדדים שלהם לא יהיו אמינים אם התודעה קשורה לתכונות של אורגניזמים חיים. הם אף ציינו את סת׳ כאחד ממחזיקי העמדה הנגדית. ממש בנקודה הזאת נכנסת הפרשנות ב-Nature.

אינטליגנציה איננה תודעה

לטענת השלושה, תודעה היא מה שנעלם בשינה ללא חלומות או בהרדמה כללית, וחוזר כשמתעוררים או חולמים. בעקבות הפילוסוף תומס נייגל הם כותבים: "לחוויות מודעות יש תחושה כלשהי". אינטליגנציה, לעומת זאת, היא ביצוע של פונקציות, ואחת לא נובעת מהשנייה.

הדוגמה שלהם היא המוח הקטן (cerebellum). יש בו כמעט ארבע חמישיות מכלל הנוירונים במוח, והוא מתכנן תנועות בדיוק, במהירות וביכולת למידה. כל זה קורה בלי מודעות. לדבריהם, כשהמוח הקטן חסר או מוסר, התודעה לא נפגעת באופן ישיר.

מאיפה מגיע הבלבול? לפי הכותבים, מנטייתם של בני אדם לייחס תכונות אנושיות לדברים שסביבם, ומכך ששפה נחשבה זמן רב ליכולת אנושית ייחודית. מודלי שפה אומנו על כמויות עצומות של טקסט אנושי, שחלק גדול ממנו עוסק במחשבות וברגשות. "מודלי LLM הם מראות שמשקפות דמות של עברנו הדיגיטלי הקולקטיבי", הם כותבים. אליסון גופניק מאוניברסיטת ברקלי טענה טענה דומה.

להשוואה הם מביאים את AlphaFold של גוגל DeepMind, רשת נוירונים חזקה שגם היא רצה על סיליקון. כמעט אף אחד לא חושב שהיא מודעת, ולדבריהם הסיבה פשוטה: היא חוזה מבנים של חלבונים ולא משוחחת איתנו.

למה זה חשוב

עדיין אין מבחן מוסכם וחד-משמעי לתודעה, ולכן הוויכוח נשאר פתוח. ככל הנראה, למחלוקת יש השלכות מעשיות. אם התודעה תלויה בביולוגיה, דיונים על מעמד מוסרי של מערכות AI, ובכלל זה השאלה אם להעניק להן הגנות כלשהן, נשענים על בסיס רעוע. אם החישוב לבדו מספיק, השאלה עשויה לחזור ככל שהמערכות ישתפרו. המסר העיקרי של סת׳, בלוק וטונוני הוא כנראה אזהרה לציבור: מערכת שמדברת בשטף על רגשות אינה בהכרח מרגישה.