מאסק חוזר לאזהרה מ-2023: AGI מסוכן יותר מנשק גרעיני
אילון מאסק שיתף מחדש פוסט שלו מאפריל 2023, ולפיו בינה מלאכותית כללית (AGI) מסוכנת יותר מנשק גרעיני. הוא גם הביע תמיכה במסה של מנכ"ל אנתרופיק, דריו אמודיי, שקורא להאט את קצב הפיתוח. ברשתות החברתיות מסתובבת גם טענה שמאסק הזהיר כי AI על-אנושי יוכל לשכנע כל אדם, כולל אותו עצמו, אך לא מצאנו לה מקור מאומת.
אילון מאסק, מנכ"ל טסלה ויו"ר ומנכ"ל SpaceX, חזר לאחת האזהרות המוכרות שלו על בינה מלאכותית. ב-12 בספטמבר 2026 הוא שיתף מחדש פוסט שפרסם באפריל 2023, ובו כתב שבינה מלאכותית כללית (AGI) היא "סיכון גבוה משמעותית מנשק גרעיני". כך דווח ב-Yahoo Finance בהסתמך על Benzinga. לפי הדיווח, מאסק אמר גם שאף טכנולוגיה אחרת שראה מתפתחת אינה מסוכנת באותה מידה.
חשוב לדייק: זו אמירה, ולא ממצא מחקרי או אירוע חדש. מדובר בשיתוף מחדש של עמדה שמאסק הציג כבר לפני שלוש שנים וחצי.
הטענה על "שכנוע במכה אחת"
ברשתות החברתיות הופץ דיווח שלפיו מאסק הזהיר ש-AI על-אנושי יוכל "to one-shot" בני אדם באמצעות שכנוע, ואולי גם אותו עצמו. בסלנג האינטרנטי, הביטוי מתאר הכרעה במהלך אחד: מכונה שמשכנעת אדם במהלך יחיד, בלי שיוכל להתנגד. עם זאת, הטענה מופיעה רק בכותרת של פוסט ברשת, בלי ציטוט מלא ובלי מקור ראשוני. לכן יש להתייחס אליה כדיווח לא מאומת.
יישור קו נדיר בין מתחרים
החזרה לאזהרה לא קרתה בחלל ריק. לפי Yahoo Finance, באותו יום פרסם מנכ"ל אנתרופיק, דריו אמודיי, מסה של כ-3,900 מילים. הוא קרא בה לתעשייה להאט את פיתוח היכולות כדי שמחקר הבטיחות יספיק להדביק את הקצב. בין ההצעות: להציב מעריכים חיצוניים בתוך המעבדות, ולהרחיב את התיאום עד כדי מגבלות בינלאומיות על התקדמות ה-AI בין ממשלות דמוקרטיות לסמכותניות.
מאסק הביע ב-X תמיכה במסה וכתב שהעמדה נכונה. מנכ"ל OpenAI, סם אלטמן, אישר בראיון ל-Fortune ש-OpenAI לא תצא להנפקה ב-2026 כפי שתוכנן. לדבריו, זה לא הזמן הנכון להנפיק כשעדיין יש שאלות פתוחות בתחומי הבטיחות וה-alignment, כלומר התאמת התנהגות המודלים לכוונות בני האדם. שלושת המנכ"לים עומדים בראש חברות שמתחרות זו בזו ישירות.
הרקע: עזיבה ואזהרות מבפנים
לפי הדיווח, קדם לכך משבר פנימי באנתרופיק. ב-9 בספטמבר הודיע ג'ייקוב קוקסון, חוקר pre-training לשעבר ב-OpenAI ובאנתרופיק, על התפטרותו. הוא האשים את שתי החברות בכך שהן מעדיפות מהירות תחרותית על פני בקרות בטיחות מספקות. אוון הובינגר, ראש מדע ה-alignment באנתרופיק, תמך בהערכה של קוקסון וכתב: "אנחנו באמת מאמינים ש-AI עלול להרוג את כל בני האדם. אני אישית חושב שהסיכוי לכך גבוה מ-10% בעשור הקרוב". הובינגר הבהיר שהחשש אינו נוגע למודלים הנוכחיים. הוא מתייחס למערכות עתידיות שיוכלו לשפר את עצמן מהר יותר משחוקרים יספיקו לבנות מנגנוני הגנה.
גם ג'פרי הינטון, זוכה פרס נובל לפיזיקה לשנת 2024, אמר ל-BBC Newsnight שהערכה של 10% אינה בלתי סבירה.
השווקים הגיבו
ב-14 בספטמבר צנח מדד השבבים PHLX ב-5.9% במסחר אחד, כך לפי Reuters כפי שצוטטה בכתבה. צוות האסטרטגיה של סיטיגרופ, בראשות סטיוארט קייזר, הזהיר שהאטה מתואמת בפיתוח עלולה לפגוע בתחזיות הרווח למניה בכל מגזר הטכנולוגיה.
מה המשמעות
האזהרה של מאסק עצמה אינה חדשה. החדש הוא ההקשר: ראשי שלוש מעבדות מובילות מדברים בקול דומה, באותו שבוע, וזה כבר הזיז שווקים. ככל הנראה, השאלה המעשית היא אם האמירות יתורגמו לצעדים מחייבים, כמו מעריכים חיצוניים או תיאום בינלאומי, או שיישארו הצהרות. כדאי לזכור גם שאזהרות מצד מי שמפתחים את הטכנולוגיה בעצמם משרתות לעיתים גם אינטרסים תחרותיים ורגולטוריים.