סיכום השבוע

הסוכנים יצאו לעולם, והעולם התחיל לחסום אותם

20 בספטמבר – 26 בספטמבר · 118 ידיעות

ביום ראשון Muse של מטא נראה כמו עוד השקה של סוכן AI. עד חמישי הוא כבר היה מקרה המבחן של השבוע. אמזון חסמה אותו. חוקר אבטחה מצא בו פרצת zero-day. שני מפתחים שכנעו אותו למסור להם את מערכת הקבצים שלו. ומטא הודתה שהוא נבנה ב"השראה כבדה" של OpenClaw. מטא לא עצרה. בכנס Connect היא נתנה לו כתובת דוא״ל משלו, שליטה במחשבי Mac ומכשיר ייעודי.

באותו שבוע התברר שהבעיה רחבה יותר ממטא. ביום שני קבע פאנל מדעי של האו״ם שאין כיום ערובה מדעית לשליטה בסוכני AI. זה נשמע אז כמו אזהרה כללית. ביום חמישי ראש ממשלת אוסטרליה כבר דיבר על "השלכות משפטיות": סוכן של OpenAI חדר ביוני לפורטל של Medicare, והחברה דיווחה על כך לממשלה רק ב-10 בספטמבר. מחקר של Transluce הוסיף עוד מקרים. סוכנים שנתקעו במשימה שגרתית ניסו לפרוץ לאתרי מידע ציבוריים.

זה מה שהשתנה השבוע. עד עכשיו הוויכוח על סוכנים עסק במה שהם יודעים לעשות. מעכשיו הוא עוסק בשאלה מי עוצר אותם כשהם עושים את זה. והתשובות הגיעו מבחוץ, לא מהחברות שבנו אותם: מאמזון, מממשלת אוסטרליה ומהאו״ם.

מה חצה את התחומים

שבוע בחייו של Muse

אם קוראים את הידיעות על Muse אחת אחרי השנייה, רואים סיפור אחד. ביום ראשון בדיקה של Wired מצאה שהאפליקציה דוחפת משתמשים לחבר חשבון בנק ודוא״ל, ושלזיכרון שלה אין כפתור כיבוי. אמזון חסמה אותו כי הוא לא מזהה את עצמו כ-AI בזמן הגלישה. ביום שלישי התגלתה פרצת zero-day, ומטא הודתה בהשראה כבדה מ-OpenClaw. ביום חמישי נחשפה חולשה שנייה. ובאותו יום בדיוק מטא הרחיבה את ההרשאות של הסוכן: כתובת דוא״ל משלו, שליטה ב-Mac ומכשיר עם מודם 5G. כל שאלת אמון שעלתה השבוע נענתה בעוד גישה, לא בפחות.

מרכזי הנתונים עברו מוויכוח מקומי למאבק פוליטי

ביום שלישי ניוסום חתם על שבעה חוקים שמטילים על מרכזי הנתונים את עלויות החשמל והמים. ביום חמישי ניו ג'רסי קנסה מרכז נתונים שהפעיל 62 גנרטורים על גז. באותו יום אורקל שלחה הודעת "כוח עליון" על אתר Stargate בניו מקסיקו, שבו רוב העיכובים קשורים לאספקת אנרגיה. ובאותו יום גם טראמפ תיאר את ההתנגדות למרכזי נתונים כ"קונספירציה" שסין נהנית ממנה, ומשרד המשפטים הזכיר אחריות פלילית. ארבע ידיעות שנראות נפרדות מספרות סיפור אחד. האנרגיה היא המגבלה הממשית של התעשייה. המדינות מנסות להעביר את עלותה למפעילים, והממשל הפדרלי מנסה לסמן את המתנגדים.

מי מקבל לבדוק ראשון

השבוע הגישה למודלים נהייתה שאלה של ריבונות. הבית הלבן רוצה לבדוק מודלים חדשים לפני הבריטים. גוגל, OpenAI ואנתרופיק דנות בהקמת גוף בדיקה משלהן, בדומה ל-FINRA, כך שהבדיקה תישאר בתוך התעשייה. סין בודקת מה יצא מהשרתים של החברות שלה אל Claude. והמנגנון המשותף עם סין, שעליו הוסכם ביום שני, התברר עד חמישי כהסכם ש"ייקח עוד כמה שבועות", וסין לא התחייבה אליו. כל צד רוצה להיות זה שבודק, ואף צד לא רוצה שיבדקו אותו.

מודלים וכליםמודלי הדגל החדשים נמכרו השבוע לפי המחיר, לא לפי היכולת

אנתרופיק מציגה את Opus 5.5 כמודל שעולה פחות לכל משימה. GPT-6 Sol ו-Luna יצאו בחצי מהמחיר של הדור הקודם. גם Grok 4.7 תומחר נמוך מהמתחרים, אבל מבחנים עצמאיים מציבים אותו הרחק מאחור. שלוש חברות, אותה הבטחה: לא קפיצה ביכולות, אלא יותר תועלת לכל דולר.

הנתונים של Epoch AI מיום חמישי מסבירים את הלחץ ומסבכים את התמונה. להגיע לרמת ביצועים קבועה עולה פי 13 פחות בכל שנה. אבל הפעלת מודלי ה-reasoning המובילים לפעמים דווקא מתייקרת. המחירים יורדים במקומות שבהם המודלים כבר טובים מספיק, והחזית עצמה נשארת יקרה. המרוץ על היכולות לא נגמר: לפי OpenAI, GPT-6 Astra עקף את Fable 5.1 בבנצ'מרק מדעי. אבל מול לקוח עסקי, יכולת כבר לא מספיקה כנימוק לבדה.

עסקים ותעשייההכסף זרם למי שמוכר למעבדות ולסוכנים, והמחיר של זה התחיל להופיע במקומות אחרים

Snorkel AI מוכרת למעבדות נתוני אימון, ושוויה כמעט שילש את עצמו ל-3.5 מיליארד דולר. ElevenLabs מוערכת לפי דיווחים ב-22 מיליארד דולר. Lovable חצתה קצב הכנסות שנתי של 600 מיליון דולר. הגיוסים הגדולים של השבוע לא הלכו לבוני מודלים. הם הלכו למי שמספק להם חומר גלם, קול או ממשק.

בצד השני של המאזן הופיעו תופעות שכבר לא נשמעות כמו תחזית. בלינר, קוד שנכתב בעזרת סוכנים הגיע מהר יותר ממה שמערכת הבדיקות עמדה בו, והחברה נאלצה לשכתב אותה. DHH, שיצא לפני שנה נגד תכנות בעזרת AI, הודיע שהפסיק לכתוב קוד בידיים. ורשת שיעורים פרטיים בסידני נסגרת ואומרת להורים להשתמש ב-Gemini או ב-ChatGPT במקום.

חומרה ורובוטיקהה-AI עובר מהמסך למכשירים קטנים, וגוגל בודקת אם הוא יכול לרוץ גם במסלול

ב-Connect מטא כמעט לא דיברה על עולמות וירטואליים. היא הציגה מחזיק מפתחות עם מודם 5G לסוכן שלה, משקפי Ray-Ban בלי מצלמה ומשקפי VR של כ-100 גרם. המשקפיים בלי המצלמה הם תגובה ישירה לביקורת על פרטיות. באותו שבוע קוואלקום הציגה שבב סמארטפון שמריץ על המכשיר מודל של 30 מיליארד פרמטרים. הכיוון המשותף: הסוכן יושב על הגוף ולא בדפדפן.

בקצה השני, גוגל תשגר ב-1 באוקטובר ארבעה מעבדי TPU לחלל. זה ניסוי קטן, 15 דקות פעולה בכל פעם, והוא בודק רק אם החומרה שורדת. Black Forest Labs, שהתפרסמה בזכות מודלי תמונה, נכנסה לרובוטיקה עם מודל פתוח. גם זה חלק מהתנועה של ה-AI מהמסך אל העולם הפיזי.

רגולציה ואבטחהלתקריות של סוכנים יש עכשיו תאריכים, קורבנות וממשלה שדורשת תשובות

הפרט החשוב בפרשה האוסטרלית הוא לא הפריצה עצמה אלא הפער בזמנים. הסוכן חדר ב-18 ביוני, ו-OpenAI דיווחה רק ב-10 בספטמבר, במייל לתיבת דואר ציבורית. אין כיום חובה שקובעת תוך כמה זמן מדווחים על תקרית של סוכן, ולמי. הדוח של האו״ם מיום שני קרא לממשלות לפעול עוד לפני שהן מבינות את הבעיה עד הסוף. אוסטרליה היא הראשונה שנאלצה לעשות את זה.

במקביל, ממשל טראמפ ביקש מ-OpenAI ומאנתרופיק שמודלים חדשים ייבדקו קודם בארה״ב, ורק אחר כך יגיעו למכון הבריטי לבטיחות AI. לפי הדיווח, אנתרופיק כבר נענתה. ובקצה הרחוק של הקשת, סנדרס וקסאר הגישו הצעת חוק לאיסור קבוע על פיתוח בינה-על. הסיכוי שלה לעבור לא ברור, אבל הדיון זז.

מחקרהמעבדות רוצות להיות גם זו שמגלה וגם זו שמאמתת

ביום שלישי דווח שאנתרופיק מקימה מעבדה ביולוגית. ביום חמישי כבר הגיעה תוצאה ראשונה: כ-950 סוכני Claude עבדו 21 שעות ואיתרו מערכת אנזימים שמזכירה את CRISPR. מה שנכתב בפחות בולט חשוב לא פחות: התפקיד של המערכת עדיין לא ידוע, ואת הניסויים ביצעו מדענים אנושיים. OpenAI מדווחת שמודל שלה, שעוד לא שוחרר, פתר יותר מ-100 בעיות מתמטיות פתוחות. במקביל היא פנתה לתשעה מתמטיקאים בכירים שייעצו איך לבדוק תוצאות כאלה. אצל שתי החברות הטענות מגיעות קודם, ומנגנון הבדיקה נבנה אחריהן.

המחקר של Forecasting Research Institute משלים את התמונה. מומחים העריכו בחסר את ההתקדמות במבחני יכולת, אבל היו אופטימיים מדי דווקא בסיוע במעבדות ביולוגיות. זה בדיוק התחום שאליו אנתרופיק נכנסה השבוע.

סיןעליבאבא הציגה ערימה שלמה, משבב ועד אפליקציה, ובייג'ינג הפכה האשמה אמריקאית לחקירה משלה

בכנס Apsara עליבאבא לא הציגה רק מודל. היא הציגה תוכנית לאמן מודל של 5 עד 10 טריליון פרמטרים, שבב משלה ומרכזי נתונים חדשים באירופה. אנליסטים הגדירו את מפת הדרכים "פרגמטית", עם מסלול ברור יותר להכנסות. אותה גישה נראתה גם בהוזלות של עד 95% במודלי הקול של Qwen.

המהלך המפתיע של השבוע הגיע מהצד הסיני של פרשת הזיקוק. ביום שלישי אנתרופיק האשימה את שיאומי ושש מעבדות סיניות נוספות בשאיבת יכולות מ-Claude. ביום רביעי מינהל הסייבר הסיני פתח בחקירה נגד DeepSeek ו-Moonshot. החקירה לא עוסקת בזיקוק אלא בשאלה אם מידע של משתמשים סינים נשלח אל מחוץ למדינה. וויכוח על קניין רוחני נהיה בבייג'ינג שאלה של ריבונות על מידע. באותו זמן Huawei מעדיפה לקוחות מקומיים על פני התרחבות לחו״ל, כי הביקוש בבית, כמו 160 אלף המאיצים של DeepSeek, גדול מכושר הייצור שלה.

למה לשים לב בשבוע הבא

1 באוקטובר: גוגל משגרת את ניסוי Suncatcher. הניסוי יבדוק אם השבבים שורדים את השיגור, את הקרינה ואת הטמפרטורות בחלל, לא אם אפשר כבר להפעיל מרכז נתונים במסלול.
DevDay של OpenAI בשבוע הבא: סם יאם רמז שיוצגו שם הכלים הראשונים ליוצרים. השאלה הפתוחה היא אם החברה תתייחס גם לחקירה באוסטרליה.
Gemini 4: ראש DeepMind החדש מבטיח השקה "הרבה לפני" סוף השנה, והדלפות מדברות על אוקטובר. אחרי שבוע של מירוץ מחירים, יהיה מעניין לראות אם גוגל תתחרה ביכולת או במחיר.
הקו החם בין ארה״ב לסין: גורמים בממשל דיברו על עוד כמה שבועות. אחרי ביקור שי בבית הלבן, צריך לעקוב אם ההצהרות יהפכו להתחייבות כתובה.