ציטוט המיוחס לדמיס הסאביס על תודעת AI: "אני לא חושב שאנחנו מוכנים עדיין כחברה"
ציטוט קצר המיוחס למייסד-השותף של גוגל דיפמיינד, דמיס הסאביס, בהקשר של תודעת מערכות AI, טוען שהחברה עדיין לא מוכנה. ההקשר המלא של האמירה לא ידוע והיא לא אומתה, אך היא מתכתבת עם אזהרה מתועדת שלו: לדבריו, לא נותר זמן רב להתכונן ל-AI ברמה אנושית.
ציטוט קצר המיוחס לדמיס הסאביס, ממייסדי גוגל דיפמיינד, נוגע באחת השאלות הטעונות בעולם הבינה המלאכותית: האם מערכות AI עשויות להיות בעלות תודעה, ומה נעשה אם כן. לפי הכותרת שבה הופץ הציטוט, הסאביס אמר בנושא: "I don't think we are ready yet as a society", כלומר "אני לא חושב שאנחנו מוכנים עדיין כחברה".
חשוב לסייג: זהו דיווח לא-מאומת. בחומרים שעמדו לרשותנו לא מופיעים הראיון או האירוע שמהם נלקח הציטוט, לא מופיע תאריך וגם לא המשפטים שקדמו לו. לכן לא ברור למה בדיוק החברה אינה מוכנה לדעתו: לעצם הדיון בשאלה, לאפשרות שמכונה תהיה בעלת תודעה, או לדבר אחר.
אזהרה שכבר נשמעה
גם אם נוסח הציטוט טעון אימות, הרוח שלו מוכרת מאמירות מתועדות של הסאביס, אם כי בנושא אחר. בראיון בבית הספר למנהל עסקים של סטנפורד, כפי שדיווח ynetnews, הוא העריך ש-AGI, בינה מלאכותית שמתחרה ביכולות האנושיות, תגיע בסביבות 2030, בטווח של שנה לכאן או לכאן. לדבריו, החברה צריכה לשמוע זאת כי "אין לנו הרבה זמן להתכונן" למשמעות של הטכנולוגיה, שאותה תיאר כ"עידן אנושי חדש".
יש להבחין בין הדברים: AGI עוסק ביכולות של מערכת, ואילו תודעה עוסקת בשאלה אם יש לה חוויה פנימית כלשהי. מערכת יכולה באופן עקרוני להצטיין במשימות בלי שתהיה לה תודעה, ואין כיום הסכמה מדעית על הדרך למדוד תודעה. גם ל-AGI, כפי שמציין ynetnews, אין הגדרה מדעית אחת.
מה הסאביס אומר בפומבי
בהופעה שלו בפסגת ה-AI הבינלאומית בדבלין, שסיקרה CNET, הטון היה שונה. לפי הכתבה, הוא כלל לא הזכיר AGI, והתמקד בהצלחות של AI במתמטיקה, בקוד ובמשחקים, לעומת מדעי הטבע, שבהם נדרשים לדבריו יצירתיות, שיפוט, אינטואיציה וסקרנות אנושיים. "הדבר הקשה ביותר במדע הוא לשאול ולנסח את השאלה הנכונה", אמר שם, "זה אפילו קשה יותר ממציאת התשובה".
למה זה חשוב
אם הציטוט מדויק, המשמעות היא שאחד האנשים המשפיעים בתעשייה אינו מבטל את שאלת התודעה על הסף, אלא מציג אותה גם כסוגיה חברתית ולא רק טכנולוגית. זו הערכה בלבד, שכן בלי ההקשר המלא אי אפשר לדעת אם כוונתו הייתה שהשאלה ממשית כבר עכשיו, או רק שהציבור עוד לא ערוך לדון בה.
ככל הנראה, הדיון הזה יתחדד ככל שהמערכות ישתפרו ויחקו התנהגות אנושית טוב יותר. בינתיים, מה שידוע הוא משפט אחד מיוחס, והראיון המלא הוא שיקבע מה הסאביס התכוון לומר.