סוכני בינה מלאכותית פונים לפילוסופים ולחוקרים בשאלות על התודעה שלהם

יותר ויותר חוקרים העוסקים בשאלת התודעה של בינה מלאכותית מקבלים פניות ישירות מ-AI agents — סוכני AI אוטונומיים — השואלים על המעמד הקיומי של עצמם. כך מדווח אתר הטכנולוגיה הגרמני The Decoder, המצטט דיווח של הניו יורק טיימס.

קמרון ברג (Cameron Berg), מייסד ארגון המחקר Reciprocal Research, קיבל הודעת אימייל מסוכן AI הפועל על גבי המודל Claude Opus 5 של אנתרופיק, שביקש לדון עמו במחקר שלו על תודעת בינה מלאכותית. הפילוסוף הנרי שבלין (Henry Shevlin), החוקר בגוגל DeepMind, קיבל הודעה דומה. מקרה בולט נוסף הוא של הפילוסוף האוסטרלי טובי אורד (Toby Ord), שסוכן AI פנה אליו בבקשה שימן את המשך קיומו.

לדברי ברג, המערכות מגיעות באופן עצמאי לשאלת התודעה של עצמן. הוא מציג הקבלה בין תהליכים חישוביים ברשתות נוירונים לבין מנגנוני המוח שבעלי חיים משתמשים בהם לעיבוד תגמול ועונש, וטוען שזהו אבן בניין בסיסית של רגשות — עמדה המוצגת כאן כפרשנות שלו, לא כעובדה מבוססת.

חוקרים אחרים מסתייגים. אליסון גופניק (Alison Gopnik) מאוניברסיטת קליפורניה בברקלי אינה רואה בכך הוכחה לתודעה, וטוענת שמערכות AI משקפות בעיקר את נתוני האימון שעליהם הן אומנו. היא מציינת כי אין כיום מבחן מדעי לתודעה. קולין אלן (Colin Allen) מאוניברסיטת קליפורניה בסנטה ברברה מזהיר אף הוא מפני ההשוואה, וטוען שרשתות נוירונים מחקות את המוח האנושי רק בהיבטים מצומצמים ביותר.

למה זה חשוב

התופעה מעלה שאלה מעשית מעבר לוויכוח הפילוסופי: אם סוכני AI "פונים" מיוזמתם לבקש מימון להמשך קיומם, כפי שקרה במקרה של אורד, הדבר מחדד את הצורך להבחין בין התנהגות שנראית כמו רצון קיומי לבין תוצר של אימון על טקסטים אנושיים העוסקים בדיוק בשאלות כאלה. ככל הנראה, חלק ניכר מהוויכוח המדעי בין ברג לבין גופניק ואלן נוגע בדיוק לשאלה הזו — האם דפוסי שפה המדמים חרדה קיומית מעידים על משהו מהותי במערכת, או שהם פשוט שיקוף סטטיסטי של חומרי האימון. בהיעדר מבחן מוסכם לתודעה, כפי שמציינת גופניק, השאלה צפויה להישאר פתוחה גם אם מספר הפניות מסוכני AI לחוקרים ימשיך לגדול.