כל מה שחם בעולם הבינה המלאכותית · בעברית
המהדורה שלי הפודקאסט הפיד החי בית הספר ל-AI הצטרפו לערוץ הטלגרםדיווח של The Information חושף כי OpenAI ומעבדות AI מתחרות רכשו עשרות אלפי יחידות Mac mini ו-Mac Studio לאימון סוכני AI שמבצעים משימות מחשב עצמאיות, כאשר Anthropic שוכרת מחשבים דומים דרך AWS. המחסור בשבבי זיכרון מגביל את ההיצע, ובד בבד תורם לזינוק של כ-29% בהכנסות ה-Mac של אפל ברבעון האחרון.
חברות ה-AI המובילות פונות לחומרה של אפל כדי לאמן את הדור הבא של סוכני AI. לפי דיווח של The Information, כפי שמסכם אתר The Decoder, OpenAI וחברות AI מתחרות רכשו עשרות אלפי יחידות של Mac mini ו-Mac Studio. המחשבים משמשים את OpenAI לאימון "computer-use agents" — סוכני AI שאמורים לבצע באופן עצמאי משימות מרובות שלבים על מחשב, ללא התערבות אדם בכל צעד.
לפי הדיווח, OpenAI מעוניינת לרכוש כמויות נוספות, אך הדגמים החזקים ביותר אזלו מהמלאי כבר חודשים ארוכים בשל מחסור בשבבי זיכרון. גם Anthropic נמצאת בתמונה: החברה שוכרת יחידות Mac mini דרך תשתית ה-AWS של אמזון, במקום לרכוש אותן ישירות.
התופעה לא מוגבלת למעבדות ה-AI הגדולות. Mac mini הופך פופולרי גם כמחשב מקומי להרצת מודלים, ותנופה זו מוזנת בין היתר מהעניין הגובר סביב הכלי OpenClaw. הסיבה הטכנית, כפי שמתואר במקור: השילוב של שבבים חזקים, זיכרון משותף (unified memory) וקירור יעיל הופך את מחשבי אפל למתאימים למשימות AI שרצות לאורך זמן.
Nvidia מציעה חלופה קומפקטית משלה, ה-DGX Spark, אך בגישה שונה — היא מבוססת על כוח GPU ייעודי עם ליבות CUDA ו-Tensor, בניגוד לארכיטקטורת הזיכרון המשותף של אפל. בנוסף, תוכנת הקוד הפתוח Exo מאפשרת לחבר כמה מחשבי Mac יחד לכדי אשכול (cluster) שמריץ מודלים גדולים באופן מקומי. פיטר וול (Peter Voell), לשעבר בצוות תשתיות המחשוב של OpenAI, מקים כעת שירות ענן מבוסס-אפל בשם Mount Thor.
מבחינה עסקית, המגמה כבר מורגשת במאזני אפל: הכנסות ה-Mac של החברה זינקו בכ-29% ל-10.4 מיליארד דולר ברבעון שהסתיים ביוני. ככל הנראה, מדובר בסימן לכך שביקוש ארגוני לחומרת AI — תחום שנשלט באופן מסורתי כמעט לחלוטין על ידי מעבדי GPU של Nvidia — מתחיל לזלוג גם לעבר פתרונות מבוססי-Apple Silicon, בזכות יתרון הזיכרון המשותף שמאפשר להחזיק הקשר (context) גדול לאורך משימות ארוכות של סוכן AI.
המחסור בשבבי זיכרון, שכבר משפיע על תעשיית ה-GPU, מתגלה אפוא כגורם מגביל גם עבור חומרת אפל — מה שמרמז שבעיית ההיצע בשוק הזיכרון עשויה להיות רחבה יותר ממה שנחשב עד כה, ולא מוגבלת לספק אחד או לסוג חומרה אחד.