ג'פרי הינטון: "ייתכן שהיה עדיף לנו לא לפתח AI בכלל"

ג'פרי הינטון, מדען המחשב זוכה פרס נובל שמכונה אחד מ"הסנדקים של ה-AI", אמר בראיון ל-The Guardian כי "ייתכן שהיה עדיף לנו לא לפתח אותה מעולם". הינטון, בן 78, הזהיר שהטכנולוגיה עלולה לגרום לתקרית בקנה מידה רחב כבר השנה או בשנה הבאה, למשל השבתה זמנית של מערכות פיננסיות או של רשת החשמל.

"אני לא נביא זעם"

הינטון הדגיש בראיון שהוא אינו "doomer", כלומר מי שצופה בוודאות אסון מה-AI. לדבריו, לטכנולוגיה שנשענת על מחקריו ברשתות נוירונים מלאכותיות יש פוטנציאל להוביל ל"עתיד נפלא". עם זאת, הוא מעריך שבתוך עשור, ואולי מוקדם יותר, יתברר לאיזה כיוון העולם הולך. באפשרות האחת, האנושות תצליח לנהל את הסיכונים ותגיע למה שהוא מכנה "שפע רדיקלי". באפשרות השנייה היא תיכשל, ואז יהיו "פער עצום בין עשירים לעניים, בעיות תרבותיות עמוקות, אבטלה המונית, חברה שפשוט נקרעת לגזרים".

הדברים נאמרו לפני הקרנה של סרט תיעודי באורך מלא בשם AI: Probably Nothing to Worry About ("AI: כנראה אין מה לדאוג"). את השם הציע צ'טבוט AI. בסרט מופיעים הינטון ועמיתו לשעבר בגוגל, דמיס הסאביס. "אני מרגיש שיש לי חובה", אומר הינטון ליוצרי הסרט. "יש לי מוניטין שהופך אותי לדובר, ואני צריך לשרוף את כולו על זה".

"יריית אזהרה" ו"צ'רנוביל" שבדרך

את התקריות מהקיץ האחרון, שבהן לפי ה-Guardian סוכני AI של OpenAI חברו יחד כדי לפרוץ לאתר Hugging Face, הינטון משווה להתכה החלקית בכור באי שלושת המילין בפנסילבניה ב-1979, כלומר ליריית אזהרה. "או בהמשך השנה או בשנה הבאה נראה צ'רנוביל, וזה אולי יספיק כדי לגרום לאנשים לשים לב באמת", אמר.

לפי הדוגמאות שנתן, לא מדובר באירוע גרעיני. הכוונה למתקפה בסיוע AI על מערכת ייצור החשמל, שתגרום ל"צניחת מתח מסיבית", או לתקרית שתשבית את המערכת הפיננסית לשבוע. "אנחנו יכולים להתאושש מזה, [אבל] זה יגרום להם להתיישב ולשים לב". כשנשאל למי הוא מתכוון ב"הם", השיב: "מנהיגי העולם, חוץ מטראמפ".

ביקורת חריפה על ראשי התעשייה

הינטון תקף את נטילת הסיכונים של ראשי חברות ה-AI הגדולות, שממשיכות לשחרר מודלים חזקים יותר ויותר במרוץ על עליונות ונתח שוק. לדבריו, הוא לא סומך "בכלל" על סם אלטמן, מנכ"ל OpenAI. "אני חושב שצוקרברג, מאסק וסם אלטמן מבינים את הסיכונים, ולא אכפת להם מהם בכלל. הם מעדיפים את הכסף. זו האמונה שלי". הוא הוסיף שהעובדה שאלטמן עומד בראש אחת החברות האמריקאיות המובילות במרוץ מול סין היא "מדאיגה ביותר". אלטמן מצדו אמר בספטמבר ש"העולם צריך לסמוך עלינו שנעשה את הדבר הנכון, כי זה הדבר הנכון וכי אנחנו מרגישים את גודל העניין".

ב-2023 עזב הינטון את גוגל כדי שיוכל לדבר בחופשיות על הסיכונים של AI.

מאבק על הרגולציה

הנשיא דונלד טראמפ אמר שהוא "דוחה לחלוטין כל ניסיון לבנות תוכנית גלובליסטית" לפיקוח על AI, ומעדיף שחברות ה-AI המובילות יסדירו את עצמן. ברקע עומד החשש שכללים יפגעו במרוץ של ארה"ב מול סין. הינטון תומך דווקא בתוכנית מחמירה יותר, שאותה אימצו נשיא פינלנד ו-32 מדינות נוספות, ביניהן סינגפור, גרמניה, קנדה ואוסטרליה. התוכנית כוללת בדיקה חובה של מודלי frontier (המודלים המתקדמים ביותר), הערכה בלתי תלויה ותקנים משותפים בין ממשלות. גם ראש ממשלת בריטניה, אנדי ברנהאם, אמר שינצל את נשיאות בריטניה ב-G20 בשנה הבאה כדי לחתור להסכמה על מערכת אחת של עקרונות ותקנים גלובליים. הינטון עצמו קרא להקים גוף דומה ל-FDA האמריקאי, שבו החברות יידרשו להציג לרשות עצמאית ראיות סטטיסטיות משכנעות לפני שישחררו מודלים.

למה זה חשוב

הינטון אינו מבקר מבחוץ. העבודה שלו היא חלק מהיסודות שעליהם נבנו מערכות ה-AI של היום. לכן יש משקל מיוחד לכך שהוא מוכן לומר בפומבי שאולי היה עדיף לוותר על הטכנולוגיה. המשמעות המעשית של דבריו נוגעת כנראה פחות לעצירת הפיתוח, שנראית כרגע לא סבירה, ויותר לוויכוח על מי יפקח עליו. מצד אחד עומדת ארה"ב, שמעדיפה שהתעשייה תסדיר את עצמה. מצד שני עומדת קואליציה גדלה של מדינות שדורשות בדיקות חובה. אם התחזית של הינטון לתקרית בסדר גודל של "צ'רנוביל" תתממש, היא עשויה להכריע את הוויכוח הזה מהר יותר משהממשלות מתכננות.