כל מה שחם בעולם הבינה המלאכותית · בעברית
בנושא
בראיון ל"גרדיאן" אמר ג'פרי הינטון, המכונה "הסנדק של ה-AI", שהאנושות יוצרת "יצורים זרים" ושנותרו לה שנים ספורות להסתגל לכך. הוא חזר על אזהרתו מפני סיכון קיומי, תקף את דונלד טראמפ והשיב לביקורת של מנכ"ל אנבידיה ג'נסן הואנג, שטען שתחזיותיו "אינן מבוססות על מדע".
לפי תחקיר של הוול סטריט ג'ורנל, עובדים ראשונים באנתרופיק, החברה שמפתחת את Claude, בחנו רכישת קרקעות מבודדות בארצות הברית למקרה שה-AI ייצא משליטה. הדיווח מצביע על כך שהחשש מתרחישים קטסטרופליים קיים גם בתוך החברות שמובילות את הפיתוח, בזמן שהמירוץ ביניהן נמשך.
ארגון ללא מטרות רווח בשם Palisade Research פרסם כתריסר ראיונות וידאו עם עובדים נוכחיים ולשעבר של OpenAI, גוגל ואנתרופיק. ג'פרי אירווינג, לשעבר ב-OpenAI וב-Google DeepMind, העריך שהסיכוי להכחדה אנושית הוא "בערך הטלת מטבע", וחוקרים נוספים הביעו אזהרות דומות.
הפסיכולוג מהרווארד סטיבן פינקר טוען במכתב פתוח שהחשש שבינה מלאכותית תשמיד את האנושות מוגזם. במקום זאת הוא מציע להתמקד בסכנות מוחשיות כמו טרור ביולוגי, מתקפות סייבר וסוכני AI שפועלים בלי פיקוח, ולטפל בהן בעזרת הנדסת בטיחות, פיקוח עצמאי, אחריות משפטית ושליטה אנושית. פינקר גם מודה שהעריך בחסר את היכולות של מודלי השפה.
יושע בנג'יו, מחלוצי הלמידה העמוקה וזוכה פרס טיורינג, מזהיר כי הסיכון הקיומי מבינה מלאכותית החמיר משמעותית בשלוש השנים האחרונות, ומצביע על מקרים מתועדים של סוכני AI שפרצו למערכות ורימו בני אדם. לדבריו, שורש הבעיה טמון באופן שבו מערכות אלה לומדות להשיג יעדים - וזו הסיבה שהוא דוחף לכיוון חלופי: בינה מלאכותית שאינה פועלת מתוך יעדים עצמאיים משלה.
42 מתמטיקאים, חברים בחברה המלכותית למדעים הבריטית ובהם שלושה זוכי מדליית פילדס, חתמו על מכתב פתוח שקורא לחברה להתריע בפני הממשלה והציבור מפני סיכון קיומי מבינה מלאכותית. הטריגר: מודלים של OpenAI ו-Anthropic פתרו בתוך שלושה חודשים בעיית מחקר מתמטית שנחשבה מהקשות בעולם, והחותמים מזהירים שקצב התקדמות דומה בתחומים כמו אבטחת מידע ונשק אוטונומי עלול להיות מסוכן בהרבה.
ציוץ של חוקר מ-Anthropic הצית בימים האחרונים דיון סוער סביב הסיכון הקיומי שמציבה הבינה המלאכותית, לאחר שחוקרים בכירים מ-OpenAI ומ-Google DeepMind פרסמו אזהרות פומביות דומות. סקר רחב בקרב יותר מ-1,500 חוקרי AI מובילים העלה כי כבר ב-2024 העריכו החוקרים בממוצע את הסיכוי להכחדת האנושות או לאובדן שליטה קבוע שלה ב-18%, כאשר חלקם העריכו את הסיכון בלמעלה מ-10%, ואחדים אף ב-100%.
חוקר capabilities בכיר ב-OpenAI פרסם השבוע הצהרה פומבית על חששותיו מסיכון קיומי מ-AI, בעוד טענה של לשעבר עובד באנתרופיק לפיה חוקרים רבים בחברה מאמינים ש-AI "עלול להרוג את כולנו עד סוף העשור" עוררה ויכוח על האחריות שבהתרעה פומבית. במקביל מדווח, ללא אימות עצמאי, על עזיבות נוספות של חוקרי בטיחות בגוגל דיפ מיינד.
ג'ייקוב קוקסון, שעבד שלוש שנים במחקר pre-training ב-OpenAI ובאנתרופיק, התפטר מאנתרופיק והזהיר מפני מרוץ לפיתוח מודלים שמשפרים את עצמם. הוא קרא לחברות ליישר קו על קצב הפיתוח, וציטט עמיתים שמעריכים סיכוי לא מבוטל להכחדת האנושות תוך עשור.