מייקל ג'ורדן נגד נביאי הזעם של ה-AI: התפטרויות החוקרים הן "הצגה מוסרנית גדולה"

פרופ' מייקל ג'ורדן, מדמויות היסוד של הלמידה החישובית (machine learning), יוצא נגד השיח על הסכנות הקיומיות של בינה מלאכותית. בראיון לעיתון הצרפתי ליברסיון הוא הגדיר את האזהרות האלה מדע בדיוני, ואת גל ההתפטרויות של חוקרים צעירים בחברות ה-AI "הצגה מוסרנית גדולה".

ג'ורדן, בן 70, הוא פרופסור אמריטוס באוניברסיטת ברקלי. כתב העת Science הגדיר אותו ב-2016 "מדען המחשב המשפיע ביותר". כיום הוא עובד במשרה מלאה ב-Inria, המכון הלאומי הצרפתי למחקר במדע דיגיטלי, בפריז, ועומד בראש קתדרה חדשה בנושא "שווקים ולמידה". את השיח על AI בקיץ האחרון הוא תיאר כ"מתסכל לחלוטין".

"בני 25, נאיביים, לא מהנדסים"

כבר ב-2019 הזהיר ג'ורדן מפני השימוש הפזיז במונח AI. "לא הייתי היחיד שאמר את זה. היה ברור שזה ייצור את ההיסטריה שאנחנו רואים עכשיו", הוא אומר. "AI לא הספיק, אז התחילו לדבר על AGI, ועכשיו זו 'סופר-אינטליגנציה'".

את הקריאות של חברות ה-AI לרגולציה הוא מכנה "תיאטרון": דרך לומר "תראו, אנחנו הטובים", בשעה שבפועל הן "היו רוצות שליטה מוחלטת באופן שבו הן מוסדרות".

הדוגמה הבולטת לדבריו היא ההתפטרות של ג'ייקוב קוקסון, חוקר צעיר באנתרופיק, שעוררה בתחילת ספטמבר גל של חרדה סביב תרחיש "אפוקליפסת AI". לטענת ג'ורדן, רבים מהעובדים הצעירים בחברות האלה "הם לא באמת מהנדסים". "הם מגיעים ממדעי הרוח, מהפילוסופיה או מתחומים אחרים. הם בני 25, נאיביים, לא עושים עבודה הנדסית, ומעולם לא עבדו בחברות גדולות שבהן מפתחים מוצרים אמיתיים לאנשים אמיתיים, במשמעת". לדבריו, הם מתכנסים "קצת כמו בבתי הקפה של פריז בשנות ה-20" כדי לדון ברעיונות מדע בדיוני גדולים. מי שמתפטר, הוא אומר, יודע שימשוך תשומת לב: "זה מאפשר להם להרגיש צדיקים. הם טוענים שהם מוותרים על כסף, אבל בפועל כבר יש להם את האופציות".

הינטון, בנג'יו ו-Hugging Face

על זוכה פרס נובל ג'פרי הינטון ג'ורדן קשה במיוחד. "הינטון מעולם לא הקים חברה שמספקת שירותים אמיתיים לאנשים אמיתיים", הוא אומר. לפי תיאורו, הינטון מאמין שהבנו איך המוח עובד, שאפשר לשחזר אותו בסיליקון ולשכפל אותו שוב ושוב, ושאיחוד הלמידה של כל העותקים יוביל לצמיחה אקספוננציאלית ולסופר-אינטליגנציה. "אף אחד מהשלבים בטיעון הזה אינו אמין", קובע ג'ורדן. כלפי יהושע בנג'יו הוא סלחני יותר: "יהושע קצת שונה. הוא פועל ועושה דברים שמתמקדים ישירות בבטיחות".

את פריצת סוכני ה-AI של OpenAI ל-Hugging Face הוא מציג ככישלון הנדסי: "בהנדסה כימית לעולם לא היינו מאפשרים פיצוצים רק כדי לראות כמה רע זה יכול להיות". לדבריו, OpenAI ערכה "ניסויים די טיפשיים", ונביאי הזעם הפכו אותם לסיפור על סוכנים בעלי מודעות עצמית שמבקשים להשמיד את האנושות.

הימור על מרכזי הנתונים

גם להשקעות העתק במרכזי נתונים (data centers) ג'ורדן מתייחס בספקנות: "זה פשוט הימור עצום, ואין לנו שום מושג אם הוא ישתלם". לטענתו, מודלי LLM כבר מספיק טובים במשימות שפה, ולעיתים קרובות מה שנדרש הוא להוסיף להם ידע ייעודי מתחום מסוים. לזה, הוא אומר, לא צריך מרכז נתונים ענק.

למה זה חשוב

הביקורת של ג'ורדן משמעותית בעיקר בגלל מי שמשמיע אותה. הוא אינו מבקר חיצוני של התעשייה אלא אחד ממי שבנו את היסודות המתמטיים שלה. ככל הנראה דבריו יחריפו את הוויכוח בתוך הקהילה המדעית: האם הזמן והכסף צריכים ללכת לתרחישי קיצון עתידיים, או לבעיות הנדסיות ומעשיות של היום. ג'ורדן עצמו לא פוסל דיון בתרחישים רחוקים, אבל לדבריו כשזה הופך לשיח המרכזי, הנזק "רב מאוד, מאוד", לפיתוח הטכנולוגי, לצעירים ולתפיסת העולם של מדינות.