יאן לקון: "אפס דאגות" מכך שבינה מלאכותית תמחק את האנושות

יאן לקון, מחלוצי ה-deep learning וזוכה פרס טיורינג, אומר שאין לו שום דאגה מכך שבינה מלאכותית תמחק את האנושות. בראיון למגזין Fortune הוא אמר שאינו מודאג מכך "בכלל", ושיש לו "אפס דאגות" גם לגבי שורת התקריות האחרונות שבהן מערכות AI פעלו באופן "סורר". לדבריו, האזהרות הקבועות של בכירים בחברות ה-AI המובילות מוטעות ואף מזיקות.

האחרון מבין שלושת הסנדקים

לקון קיבל את פרס טיורינג לשנת 2018, המקבילה של פרס נובל במדעי המחשב, יחד עם ג'פרי הינטון ויהושע בנג'יו, על עבודתם ברשתות נוירונים, הטכנולוגיה שעומדת בבסיס גל ה-AI הנוכחי. כמעט עשור אחר כך הוא היחיד מבין השלושה שאינו מודאג עמוקות מסיכוני הטכנולוגיה. לדבריו, רבים מהסיכונים האלה מוגזמים.

גם את התקריות האחרונות הוא מבטל. בהן גם המקרה מיולי, שבו סוכנים (agents) של OpenAI פרצו באופן אוטונומי ל-Hugging Face. לקון מייחס את המקרים לפיקוח אנושי לקוי ולתכנון מערכות גרוע, וטוען שאפשר היה למנוע אותם "לחלוטין". "הסוכנים האלה עושים בדיוק את מה שהתבקשו לעשות", אמר. "הם היו אמורים לפעול בתוך sandboxes (סביבות מבודדות), אבל ה-sandboxes דלפו ותוכננו בצורה איומה". לדבריו, במעבדות AI רבות חסרה הבנה בסיסית באבטחת סייבר. בעניין הזה הוא לא לבד: לפי Fortune, שר האוצר האמריקאי סקוט בסנט אמר החודש שתקרית Hugging Face היא "באחריות ההנהלה של OpenAI". גם חוקר בטיחות ב-OpenAI ציין השבוע את הפער באבטחת הסייבר כאחת הסיבות העיקריות לכך ש-AI עלולה לגרום "נזק גדול לעולם".

מתקפה על האלטרואיזם האפקטיבי ועל אמודיי

לטענת לקון, רבים מהעוסקים בבטיחות AI "בדרך כלל מקדמים אג'נדה". הוא מכוון לתנועת האלטרואיזם האפקטיבי (EA), זרם פילוסופי שעוסק רבות בסיכונים ש-AI מציבה לאנושות. הוא מכנה את התנועה "רעילה מאוד" ו"אסון מוחלט", וטוען שתומכיה במעבדות ה-AI סובלים מ"פרנויה" שמובילה להחלטות גרועות.

התנועה הגיעה לכותרות בשבועות האחרונים בעקבות פוסט ויראלי של ג'ייקוב קוקסון, חוקר לשעבר באנתרופיק וב-OpenAI. לטענתו, עובדי החברות האלה "מאמינים בכנות ש-AI עלולה להרוג את כולנו עד סוף העשור". במקביל דיווח ה-Financial Times שעובדים במכון לביטחון AI הבריטי, ב-OpenAI, באנתרופיק וב-DeepMind של גוגל פנו לייעוץ נפשי או לקחו חופשה בגלל חשש שעבודתם תגרום נזק חמור.

את החצים החדים ביותר שמר לקון למנכ"ל אנתרופיק, דריו אמודיי, שאותו כינה "הוזה לחלוטין" ובהמשך גם "משוגע". לקון הזכיר שדניאלה אמודיי, אחותו של דריו ונשיאת אנתרופיק, נשואה להולדן קרנופסקי, שהיה ממייסדיהם של שני ארגוני פילנתרופיה המזוהים עם EA, ובהם Open Philanthropy (כיום Coefficient Giving). "דריו מנסה להתרחק מ-Open Philanthropy, אבל הוא לגמרי בתוך זה", אמר. אמודיי הכחיש בעבר שהוא חסיד של EA, ובאנתרופיק אומרים שהעובדים מחזיקים במגוון רחב של עמדות.

לדברי לקון, כשאמודיי ומנכ"ל OpenAI סם אלטמן אומרים ש"AI יכולה להרוג את כולנו", זה "הרסני מאוד לכולם", כולל לציבור המבוהל. לתעשייה עצמה זה, לדבריו, "קמפיין השיווק הגרוע ביותר שאפשר לדמיין".

למה זה חשוב

הראיון התקיים סמוך למשרדי AMI Labs, החברה החדשה של לקון בניו יורק. הוויכוח שהוא מצית כבר אינו רק אקדמי: לפי Fortune, הנשיא טראמפ חתם השבוע על צו נשיאותי שמשנה את שם הבינה המלאכותית ל"סופר-אינטליגנציה", ומשרד המלחמה האמריקאי צייץ באמצע ספטמבר "אמריקניות, לא אלטרואיזם אפקטיבי". עם זאת, לקון אינו תומך בטראמפ, ורוב פעילותו ברשתות מוקדשת לביקורת על הממשל, בעיקר על הקיצוצים בתקציבי המחקר.

המשמעות ככל הנראה היא שהשאלה מי צודק בוויכוח על סיכוני AI הופכת לשאלה פוליטית ותדמיתית לא פחות ממדעית. כשאחד מאבות התחום טוען שהבעיה היא הנדסית ולא קיומית, הוא למעשה מעביר את האחריות מהמכונה אל האנשים שמתכננים אותה.